JP5170429B2 - Image display device for analyzer and surface analyzer using the device - Google Patents

Image display device for analyzer and surface analyzer using the device Download PDF

Info

Publication number
JP5170429B2
JP5170429B2 JP2008221182A JP2008221182A JP5170429B2 JP 5170429 B2 JP5170429 B2 JP 5170429B2 JP 2008221182 A JP2008221182 A JP 2008221182A JP 2008221182 A JP2008221182 A JP 2008221182A JP 5170429 B2 JP5170429 B2 JP 5170429B2
Authority
JP
Japan
Prior art keywords
region
image
interest
physical quantity
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008221182A
Other languages
Japanese (ja)
Other versions
JP2010054420A (en
Inventor
賢治 山崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shimadzu Corp
Original Assignee
Shimadzu Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shimadzu Corp filed Critical Shimadzu Corp
Priority to JP2008221182A priority Critical patent/JP5170429B2/en
Publication of JP2010054420A publication Critical patent/JP2010054420A/en
Application granted granted Critical
Publication of JP5170429B2 publication Critical patent/JP5170429B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Analysing Materials By The Use Of Radiation (AREA)

Description

本発明は、走査型プローブ顕微鏡(以下SPMと略す)などの分析装置により取得される、試料の同一領域についての複数の異なる物理量の2次元分布データを処理して画像表示する分析装置用画像表示装置、及び該装置を用いた表面分析装置に関する。   The present invention is an image display for an analyzer that processes and displays an image by processing two-dimensional distribution data of a plurality of different physical quantities for the same region of a sample obtained by an analyzer such as a scanning probe microscope (hereinafter abbreviated as SPM). The present invention relates to an apparatus and a surface analysis apparatus using the apparatus.

典型的な表面分析装置の1つであるSPMでは、試料上の同一領域について、例えば、高さ(凹凸)、電流、粘弾性、磁気力、表面電位などの複数の異なる物理量の2次元分布データを取得することができる(非特許文献1参照)。こうした物理量の2次元分布データは例えば色情報などを加えた2次元画像や3次元画像として表示画面上に表示されるが、或る1種の物理量の分布画像からは得られない情報が他の種類の物理量の分布画像から得られることがあるため、ユーザとしては複数の分布画像を互いに参照したいような場合がよくある。   In SPM, which is one of typical surface analysis apparatuses, two-dimensional distribution data of a plurality of different physical quantities such as height (unevenness), current, viscoelasticity, magnetic force, surface potential, etc., for the same region on a sample. Can be acquired (see Non-Patent Document 1). Such physical quantity two-dimensional distribution data is displayed on the display screen as a two-dimensional image or a three-dimensional image to which color information or the like is added, for example. Since it may be obtained from distribution images of different types of physical quantities, users often want to refer to a plurality of distribution images.

具体的には、SPMでは一般に、試料表面の高さの2次元分布を表す3次元画像(図5(a)参照)が表示画面上に表示され、これにより試料の表面形状を高倍率で観察できるようになっているが、DFM測定モードでは、同時に試料の表面物性を反映した位相の2次元分布も得られ、図5(b)に示すような位相の3次元画像が作成される。高さの3次元画像では凹凸が明瞭になるように画像に色付けがなされ、位相の3次元画像では位相の値に応じて異なる色付けがなされている。   Specifically, in SPM, generally, a three-dimensional image (see FIG. 5A) representing a two-dimensional distribution of the height of the sample surface is displayed on the display screen, thereby observing the surface shape of the sample at a high magnification. However, in the DFM measurement mode, a two-dimensional distribution of the phase reflecting the surface physical properties of the sample is also obtained, and a three-dimensional image of the phase as shown in FIG. 5B is created. In the three-dimensional image of the height, the image is colored so that the unevenness is clear, and in the three-dimensional image of the phase, different coloring is performed according to the value of the phase.

従来のSPMにおいて、例えば、観察者(ユーザ)が特定の位相範囲の表面形状を観察したいような場合に、位相の3次元画像上で特定の位相範囲の領域を確認し、その領域を高さの3次元観察画像上で確認するような作業を行う必要がある。即ち、位相の3次元画像における特定の位相範囲の領域を観察者が着目する関心領域(ROI=Region Of Interest)とすれば、観察画像である高さの3次元画像上で関心領域に相当する範囲を観察者自身が把握する必要があった。しかしながら、2つの画像を見比べながら観察画像上で関心領域を特定するという従来の手法は、観察者の負担が大きく、試料についての誤った理解を引き起こすおそれもあった。   In the conventional SPM, for example, when an observer (user) wants to observe the surface shape of a specific phase range, the specific phase range is confirmed on the three-dimensional image of the phase, and the height of the region is confirmed. It is necessary to perform an operation to confirm on the three-dimensional observation image. That is, if a region of a specific phase range in a three-dimensional image of a phase is a region of interest (ROI = Region Of Interest) to which an observer pays attention, it corresponds to a region of interest on a three-dimensional image having a height as an observation image. It was necessary for the observer to grasp the range. However, the conventional method of specifying a region of interest on an observation image while comparing two images has a heavy burden on the observer and may cause an erroneous understanding of the sample.

この解決策として、特許文献1には、或る2次元分布データの3次元画像上にもう一方の2次元分布のカラー情報をマッピングして重ね合わせることで、2つの画像の対応を分かりやすくする方法が開示されている。しかしながら、作成される画像は元の画像上の情報が反映される合成画像であり、その合成を行う際の物理量の対応付け(例えば、高さと関心領域の色情報の対応付け)は、観察者が行う必要があり操作が面倒であった。また、元の画像の色情報が失われるため、凹凸形状の変化が小さい部分や、3次元表示において視点方向の裏側にあるため影になっている部分など色を視認しにくい部分では対応が分かりにくくなるという問題があった。   As a solution to this problem, Patent Document 1 makes it easy to understand the correspondence between two images by mapping and superimposing color information of the other two-dimensional distribution on a three-dimensional image of certain two-dimensional distribution data. A method is disclosed. However, the created image is a composite image in which information on the original image is reflected, and the physical quantity association (for example, the association between the height and the color information of the region of interest) at the time of the composition is an observer. The operation was troublesome. In addition, since the color information of the original image is lost, it is possible to understand the correspondence in parts where it is difficult to see the color, such as a part where the uneven shape change is small or a part that is shadowed because it is behind the viewpoint in 3D display. There was a problem of becoming difficult.

また、特許文献2には、試料表面の高さの2次元分布を示す3次元画像と、温度、圧力などの物理量の2次元分布(色分布)とを重ね合わせて表示できるようにし、且つ、後者の色分布の透過度を任意に指定できるようにしたものが開示されている。しかしながら、一般的に、3次元形状は凹凸等を分かり易く示すために最適に色付けされているが、他の物理量の画像が重ね合わせられることで、元の画像の色が失われてしまい、凹凸などが把握しにくくなるという問題があった。   Patent Document 2 allows a three-dimensional image showing a two-dimensional distribution of the height of the sample surface to be displayed in a superimposed manner with a two-dimensional distribution (color distribution) of physical quantities such as temperature and pressure, and The latter is disclosed in which the transparency of the color distribution can be arbitrarily designated. However, in general, the three-dimensional shape is optimally colored in order to show the unevenness etc. in an easy-to-understand manner, but when the images of other physical quantities are superimposed, the color of the original image is lost. There was a problem that it became difficult to grasp.

また、上記従来の技術はいずれも、2つの元の画像上に現れている情報(物理量)をできるだけ保存した状態で重ね合わせて1つの画像上に表示することを意図しているため、例えば高さの3次元画像上で他の物理量に基づく関心領域がどこであるのかを一目で判断するのは困難であるという問題があった。   In addition, each of the above conventional techniques intends to display information (physical quantity) appearing on two original images in a state where they are stored as much as possible, and display them on one image. There is a problem that it is difficult to determine at a glance where the region of interest is based on another physical quantity on the three-dimensional image.

特開平11−110532号公報JP-A-11-110532 特開2006−105684号公報JP 2006-105684 A 「走査型プローブ顕微鏡 SPM-9600」、[online]、株式会社島津製作所、[平成20年8月22日検索]、インターネット<URL: http://www.shimadzu.co.jp/surface/products/spm/index.html>"Scanning probe microscope SPM-9600", [online], Shimadzu Corporation, [searched on August 22, 2008], Internet <URL: http://www.shimadzu.co.jp/surface/products/ spm / index.html>

本発明は上記課題を解決するために成されたものであり、その目的とするところは、或る物理量の2次元分布データに基づく2次元画像又は3次元画像上で、他の物理量の2次元分布データに基づくユーザの関心領域に対応した部位を面倒な操作なしに且つ視認し易く表示することができる分析装置用画像表示装置、及び該装置を用いた表面分析装置を提供することにある。   The present invention has been made to solve the above-mentioned problems, and the object of the present invention is to perform a two-dimensional image of another physical quantity on a two-dimensional image or a three-dimensional image based on the two-dimensional distribution data of a certain physical quantity. An object of the present invention is to provide an image display device for an analyzer that can display a portion corresponding to a region of interest of a user based on distribution data without troublesome operations and easily visible, and a surface analyzer using the device.

上記課題を解決するためになされた本発明は、試料の同一領域から収集された複数種の物理量の2次元分布データに基づいて、前記領域についての2次元画像又は3次元画像を表示する分析装置用画像表示装置において、
a)前記複数種の物理量の2次元分布データのうち第1の物理量の2次元分布データを除く1種以上の物理量の2次元分布データを用い、所定の条件に適合する又は外部より指示された領域を関心領域として抽出する関心領域抽出手段と、
b)前記第1の物理量の2次元分布データを2次元画像又は3次元画像として表示する画像上で、前記抽出された関心領域に相当する範囲内の表示色の色相は変えずに、前記抽出された関心領域に相当する範囲をそれ以外の範囲と識別可能であるように強調表示する表示制御手段と、
とを備えることを特徴としている。
The present invention made in order to solve the above problems is an analyzer that displays a two-dimensional image or a three-dimensional image of a region based on two-dimensional distribution data of a plurality of types of physical quantities collected from the same region of a sample. Image display device
a) Using two-dimensional distribution data of one or more physical quantities excluding the two-dimensional distribution data of the first physical quantity among the two-dimensional distribution data of the plurality of kinds of physical quantities, satisfying a predetermined condition or designated from the outside A region of interest extraction means for extracting a region as a region of interest;
b) On the image displaying the two-dimensional distribution data of the first physical quantity as a two-dimensional image or a three-dimensional image, the extraction of the display color within the range corresponding to the extracted region of interest is not changed. Display control means for highlighting a range corresponding to the selected region of interest so as to be distinguishable from other ranges;
It is characterized by comprising.

本発明に係る分析装置用画像表示装置では、互いに異なる物理量の2次元分布データを用いて作成した比較対象の2枚の画像同士を重ね合わせるのではなく、第1の物理量の2次元分布データを用いて作成された観察対象の画像と、その他の物理量の2次元分布データを用いて作成された関心領域の抽出を行う画像とを区別する。関心領域抽出手段は、関心領域の抽出対象画像から、所定の条件に適合する又は外部より指示された領域を関心領域として抽出する。関心領域の抽出のために、表示した画像上でユーザの判断により関心領域の範囲を指示できるようにしてもよいが、或る物理量の大小にユーザの関心がある場合にはその大小が自動的に判定されるほうが便利である。   In the image display device for an analyzer according to the present invention, the two physical images of the comparison target created by using the two-dimensional distribution data of different physical quantities are not superimposed, but the two-dimensional distribution data of the first physical quantity is used. The image of the observation object created using the image is distinguished from the image of extracting the region of interest created using the two-dimensional distribution data of other physical quantities. The region-of-interest extracting means extracts, as a region of interest, a region that satisfies a predetermined condition or designated from the outside from the target region extraction target image. In order to extract the region of interest, the range of the region of interest can be indicated by the user's judgment on the displayed image, but if the user is interested in a certain physical quantity, the size is automatically It is more convenient to be judged.

そこで、本発明に係る分析装置用画像表示装置の一態様として、前記関心領域の抽出に用いられる物理量の閾値をユーザが設定する閾値設定手段をさらに備え、前記関心領域抽出手段は該物理量が前記閾値以上又は以下である領域を関心領域として抽出する構成とするとよい。例えば、閾値設定手段がマウスなどのポインティングデバイスやカーソルキーなどを用いて閾値を自在に変更可能なものであれば、ユーザによる閾値の変更操作に追従して関心領域の範囲が変更されるようにすることができる。   Therefore, as one aspect of the image display apparatus for an analysis apparatus according to the present invention, the apparatus further includes threshold setting means for a user to set a threshold of a physical quantity used for extracting the region of interest, and the region of interest extracting means includes A region that is greater than or less than a threshold value may be extracted as a region of interest. For example, if the threshold setting means can change the threshold freely using a pointing device such as a mouse or a cursor key, the range of the region of interest is changed following the threshold changing operation by the user. can do.

上記のように関心領域の抽出対象画像に基づいて関心領域が抽出されると、表示制御手段は、観察対象の画像上で関心領域に対応した範囲を強調表示する。強調表示としては、例えば、強調表示する範囲の明度や輝度、彩度等を上げる、逆に強調表示しない範囲の明度や輝度、彩度を下げる、或いは、強調表示しない範囲を半透明化する、といった処理が考えられるが、いずれにしても、強調表示する範囲については元の画像の色相を残し、強調表示しない範囲についても元の情報が識別できるようにしておく。画像の重ね合わせではないため、関心領域の抽出対象画像に現れていた色情報や濃淡などの情報は観察対象画像上には直接反映されないが、その代わりに観察画像の元の情報は失われないので、観察画像上での関心領域とそれ以外の領域との対応も容易に分かる。   When the region of interest is extracted based on the region-of-interest extraction target image as described above, the display control unit highlights the range corresponding to the region of interest on the observation target image. As the highlighting, for example, the brightness, brightness, saturation, etc. of the highlighted range are increased, conversely, the brightness, brightness, saturation, etc. of the non-highlighted range are lowered, or the non-highlighted range is made translucent. In any case, the hue of the original image remains in the highlighted area, and the original information can be identified for the area that is not highlighted. Since it is not an image superposition, information such as color information and shading that appeared in the extraction target image of the region of interest is not directly reflected on the observation target image, but the original information of the observation image is not lost instead. Therefore, the correspondence between the region of interest on the observation image and other regions can be easily understood.

本発明に係る分析装置用画像表示装置において、試料の所定領域から収集される物理量とは様々なものが考えられる。本発明に係る画像表示装置の典型的な一態様として、前記第1の物理量は試料の所定領域内の高さに関する情報であり、前記表示制御手段は、前記第1の物理量に関する2次元分布データを3次元画像として表示する構成とすることができる。   In the image display apparatus for an analyzer according to the present invention, various physical quantities collected from a predetermined region of the sample can be considered. As a typical aspect of the image display device according to the present invention, the first physical quantity is information relating to a height within a predetermined region of the sample, and the display control means is two-dimensional distribution data relating to the first physical quantity. Can be displayed as a three-dimensional image.

また上記発明に係る分析装置用画像表示装置を用いた表面分析装置は、
試料の所定領域に対し第1の物理量として高さに関する2次元分布データを取得する第1物理量取得手段と、
試料の前記所定領域に対し第1の物理量とは異なる種類の1以上の物理量の2次元分布データを取得する第2物理量取得手段と、
を備えることを特徴としている。
Further, a surface analyzer using the image display device for an analyzer according to the above invention is
First physical quantity acquisition means for acquiring two-dimensional distribution data relating to height as a first physical quantity for a predetermined region of the sample;
Second physical quantity acquisition means for acquiring one or more types of physical quantity two-dimensional distribution data different from the first physical quantity for the predetermined region of the sample;
It is characterized by having.

ここで表面分析装置とは、SPMのほか、電子線マイクロアナライザ(EPMA)、走査電子顕微鏡、微小部蛍光X線分析装置などを挙げることができる。SPMにおいて、第2物理量取得手段により取得される物理量とは、電流、粘弾性、磁気力、表面電位、静電気力、圧電特性、非線形誘電率、複素透過率などである。   Examples of the surface analyzer include an SPM, an electron microanalyzer (EPMA), a scanning electron microscope, and a micro fluorescent X-ray analyzer. In SPM, the physical quantity acquired by the second physical quantity acquisition means is current, viscoelasticity, magnetic force, surface potential, electrostatic force, piezoelectric characteristics, nonlinear dielectric constant, complex transmittance, and the like.

本発明に係る分析装置用画像表示装置によれば、複数の画像間における関心領域の対応付けが自動的に行われ、これを観察者自身が行う必要がないので、画像分析や解析時における観察者の負担を軽減することができる。また、操作の経験が乏しい者でも適切な解析が可能となる。また観察画像上で関心領域が強調表示されるので、観察者は注目している関心領域の範囲内における第1の物理量の分布を容易に把握することができる。この際、観察画像上で関心領域の範囲の色相等は変化しないため、最適に色付けされた状態で第1の物理量、例えば高さ情報の2次元分布を的確に把握することができる。また、観察画像上で関心領域以外の部分の情報も残されているため、観察画像全体中の関心領域の位置付けや関心領域内外の関係などが容易に認識できる。   According to the image display device for an analysis apparatus according to the present invention, the region of interest is automatically associated between a plurality of images, and it is not necessary for the observer himself to perform this. The burden on the user can be reduced. Moreover, even those who have little experience in operation can perform appropriate analysis. Further, since the region of interest is highlighted on the observation image, the observer can easily grasp the distribution of the first physical quantity within the range of the region of interest in which attention is paid. At this time, since the hue or the like of the region of interest does not change on the observation image, it is possible to accurately grasp the first physical quantity, for example, the two-dimensional distribution of height information, in an optimally colored state. In addition, since information on portions other than the region of interest on the observation image is also left, the position of the region of interest in the entire observation image and the relationship between the inside and outside of the region of interest can be easily recognized.

また本発明に係る分析装置用画像表示装置を用いた表面分析装置によれば、関心領域が強調された表面形状画像を用いて試料表面粗さなどの解析を行う際に、高さ以外の物理量に基づいた関心領域を識別して解析ができるため、効率のよい且つ正確な解析が可能となる。   Further, according to the surface analysis apparatus using the image display device for an analysis apparatus according to the present invention, a physical quantity other than the height is used when analyzing the sample surface roughness using the surface shape image in which the region of interest is emphasized. Therefore, it is possible to identify and analyze a region of interest based on the above, so that efficient and accurate analysis is possible.

まず、本発明に係る分析装置用画像表示装置における画像表示方法の概念を、図3に示した模式図により説明する。   First, the concept of the image display method in the image display apparatus for analyzers according to the present invention will be described with reference to the schematic diagram shown in FIG.

いま、試料上の所定領域に対し第1の物理量の2次元分布を測定して得られたデータに基づいて作成された画像が図3(a)、試料上の同一領域に対し第2の物理量の2次元分布を測定して得られたデータに基づいて作成された画像が図3(b)であるとする。図3(a)が観察対象の画像、図3(b)が関心領域の抽出対象画像である。図3(b)の画像に対し、第2の物理量が所定の閾値以上であることを条件として関心領域を抽出した結果、図3(c)に示すように関心領域が抽出されたものとする。   Now, an image created based on the data obtained by measuring the two-dimensional distribution of the first physical quantity for a predetermined area on the sample is shown in FIG. 3A, and the second physical quantity for the same area on the sample. Assume that the image created based on the data obtained by measuring the two-dimensional distribution is as shown in FIG. FIG. 3A shows an image to be observed, and FIG. 3B shows an extraction target image of the region of interest. As a result of extracting the region of interest from the image of FIG. 3B on the condition that the second physical quantity is equal to or greater than a predetermined threshold, the region of interest is extracted as shown in FIG. .

観察画像と関心領域抽出対象画像とは同一領域に対するものであり、関心領域に対応する観察画像中での範囲(位置)は分かっている。そこで、図3(d)に示すように、観察画像上で、図3(c)に示した関心領域に対応する範囲を強調表示する。この例では、関心領域に対応する範囲のみ元の観察画像をそのまま維持し、それ以外の範囲で元の観察画像から輝度を落とすものとする。この方法では、関心領域抽出対象画像からは関心領域の範囲のみが抽出され、関心領域抽出対象画像上の情報(つまり第2物理量の値)は観察画像上には反映されない。その代わり、もともと観察画像が有してた情報(第1物理量の大小)は失われず、観察画像全体の中の関心領域の範囲の位置付けなどを容易に理解することができる。   The observation image and the region of interest extraction target image are for the same region, and the range (position) in the observation image corresponding to the region of interest is known. Therefore, as shown in FIG. 3D, the range corresponding to the region of interest shown in FIG. 3C is highlighted on the observation image. In this example, it is assumed that the original observation image is maintained as it is only in the range corresponding to the region of interest, and the luminance is reduced from the original observation image in the other range. In this method, only the range of the region of interest is extracted from the region of interest extraction target image, and the information on the region of interest extraction target image (that is, the value of the second physical quantity) is not reflected on the observation image. Instead, the information (the magnitude of the first physical quantity) originally possessed by the observation image is not lost, and the positioning of the region of interest in the entire observation image can be easily understood.

次に、本発明に係る画像表示装置を用いた表面分析装置の一例としてSPMを挙げ、このSPMにより収集されるデータに基づく画像表示動作について説明する。   Next, an SPM is given as an example of a surface analysis apparatus using the image display apparatus according to the present invention, and an image display operation based on data collected by the SPM will be described.

図1は本実施例のSPMの概略構成図である。観察対象である試料1は略円筒形状であるスキャナ3の上に設けられた試料台2の上に保持される。スキャナ3は圧電素子を備え、外部から印加される電圧によって試料1をX、Yの2軸方向に走査し且つZ軸方向に微動させる。試料1の上方には先端に探針5を有するカンチレバー4が配置され、カンチレバー4は図示しない圧電素子を含む励振部により振動される。カンチレバー4の上方には、カンチレバー4の変位を検出するために、レーザ光源11、レンズ12、ビームスプリッタ13、ミラー14、光検出器15などを含む変位検出部が設けられている。レーザ光源11から出射しレンズ12で集光したレーザ光をビームスプリッタ13で反射させ、カンチレバー4の先端付近に照射する。その反射光をミラー14を介して光検出器15で検出する。光検出器15はカンチレバー4の変位方向(Z軸方向)に複数に分割された受光面を有する。   FIG. 1 is a schematic configuration diagram of the SPM of this embodiment. A sample 1 to be observed is held on a sample table 2 provided on a scanner 3 having a substantially cylindrical shape. The scanner 3 includes a piezoelectric element, and scans the sample 1 in two X and Y axes by a voltage applied from the outside and finely moves the sample 1 in the Z axis. A cantilever 4 having a probe 5 at the tip is disposed above the sample 1, and the cantilever 4 is vibrated by an excitation unit including a piezoelectric element (not shown). Above the cantilever 4, a displacement detection unit including a laser light source 11, a lens 12, a beam splitter 13, a mirror 14, a photodetector 15, and the like is provided in order to detect the displacement of the cantilever 4. The laser light emitted from the laser light source 11 and condensed by the lens 12 is reflected by the beam splitter 13 and irradiated near the tip of the cantilever 4. The reflected light is detected by the photodetector 15 via the mirror 14. The photodetector 15 has a light receiving surface divided into a plurality of parts in the displacement direction (Z-axis direction) of the cantilever 4.

DFMモードによる観察を行う際には、カンチレバー4はその共振点付近の周波数fでZ軸方向に振動される。このとき探針5と試料1の表面との間に原子間力などによる引力(又は斥力)が作用すると、カンチレバー4の振動振幅が変化する。カンチレバー4が上下に変位すると、光検出器15の複数の受光面に入射する光量の割合が変化する。変位量算出部16は、その複数の受光光量に応じた検出信号を演算処理することにより、カンチレバー4の変位量を算出し制御部21に入力する。   When performing observation in the DFM mode, the cantilever 4 is vibrated in the Z-axis direction at a frequency f near the resonance point. At this time, when an attractive force (or repulsive force) such as an atomic force acts between the probe 5 and the surface of the sample 1, the vibration amplitude of the cantilever 4 changes. When the cantilever 4 is displaced up and down, the ratio of the amount of light incident on the plurality of light receiving surfaces of the photodetector 15 changes. The displacement amount calculation unit 16 calculates a displacement amount of the cantilever 4 by performing calculation processing on the detection signals corresponding to the plurality of received light amounts, and inputs the displacement amount to the control unit 21.

制御部21は、カンチレバー4の変位量をゼロにするように、つまり探針5と試料1表面との間の距離が常に一定になるように、スキャナ3をZ軸方向に変位させる電圧値を算出し、スキャナ駆動部22を介してスキャナ3をZ軸方向に微動させる。また、制御部21は予め決められた走査パターンに従って、試料1がX−Y平面内で探針5に対して相対移動するようにX軸、Y軸方向の電圧値を算出し、スキャナ駆動部22を介してスキャナ3をX軸及びY軸方向に微動させる。Z軸方向のフィードバック量(スキャナ電圧)を反映した信号は制御部21からデータ処理部23にも送られ、データ処理部23はX軸、Y軸方向の各位置においてその信号を処理することによって試料表面の凹凸等に対応するデータを計算し、表示処理部24これにより3次元画像を形成して表示部27の画面上に描出する。また、取得されたデータはデータ記憶部25に格納される。   The control unit 21 sets a voltage value for displacing the scanner 3 in the Z-axis direction so that the displacement amount of the cantilever 4 is zero, that is, the distance between the probe 5 and the surface of the sample 1 is always constant. Then, the scanner 3 is finely moved in the Z-axis direction via the scanner driving unit 22. Further, the control unit 21 calculates the voltage values in the X-axis and Y-axis directions so that the sample 1 moves relative to the probe 5 in the XY plane according to a predetermined scanning pattern, and the scanner driving unit The scanner 3 is finely moved in the X-axis and Y-axis directions via 22. A signal reflecting the feedback amount (scanner voltage) in the Z-axis direction is also sent from the control unit 21 to the data processing unit 23, and the data processing unit 23 processes the signal at each position in the X-axis and Y-axis directions. Data corresponding to the unevenness of the sample surface is calculated, and the display processing unit 24 forms a three-dimensional image and renders it on the screen of the display unit 27. The acquired data is stored in the data storage unit 25.

上記のような試料1表面の凹凸形状のほか、測定モードに応じて、電流、磁気力、表面電位、位相などの測定も同時に行え、こうして得られたデータも全てデータ記憶部25に格納される。なお、制御部21、データ処理部23、表示処理部24などはパーソナルコンピュータにより具現化され、このコンピュータに予めインストールされた専用の制御・処理ソフトウエアを実行することにより、上述したようなデータ収集のための動作や後述する画像表示処理などを行うようにすることができる。   In addition to the uneven shape on the surface of the sample 1 as described above, current, magnetic force, surface potential, phase, etc. can be measured simultaneously according to the measurement mode, and all the data thus obtained is stored in the data storage unit 25. . The control unit 21, the data processing unit 23, the display processing unit 24, and the like are embodied by a personal computer, and data collection as described above is performed by executing dedicated control / processing software installed in advance on the computer. For this purpose, an image display process described later can be performed.

次に、本実施例のSPMにおいて表示処理部24で実行される特徴的な画像表示処理について、図2のフローチャートを参照して説明する。   Next, characteristic image display processing executed by the display processing unit 24 in the SPM of this embodiment will be described with reference to the flowchart of FIG.

まず、観察者は入力部26により観察画像の2次元分布データを選択する(ステップS1)。典型的には、試料1表面の凹凸(高さ)の2次元分布データを選択するが、これに限るものではない。表示処理部24は上記選択を受けて、対応するデータをデータ記憶部25から読み出して2次元画像又は3次元画像を作成し、表示部27の画面上に表示する(ステップS2)。   First, the observer selects two-dimensional distribution data of an observation image by using the input unit 26 (step S1). Typically, two-dimensional distribution data of the unevenness (height) on the surface of the sample 1 is selected, but the present invention is not limited to this. Upon receiving the selection, the display processing unit 24 reads the corresponding data from the data storage unit 25, creates a two-dimensional image or a three-dimensional image, and displays it on the screen of the display unit 27 (step S2).

次に、観察者は入力部26により関心領域を抽出する対象画像の2次元分布データを選択する(ステップS3)。表示処理部24は上記選択を受けて、対応するデータをデータ記憶部25から読み出して2次元画像又は3次元画像を作成し、表示部27の画面上に表示する(ステップS4)。ここで表示する画像は上記の観察画像と同じウインドウ内に表示するようにしてもよいし、或いはタブ切替え等により表示画像の選択ができるようにしてもよい。   Next, the observer selects the two-dimensional distribution data of the target image from which the region of interest is extracted by the input unit 26 (step S3). In response to the selection, the display processing unit 24 reads the corresponding data from the data storage unit 25, creates a two-dimensional image or a three-dimensional image, and displays it on the screen of the display unit 27 (step S4). The image to be displayed here may be displayed in the same window as the observation image, or the display image may be selected by tab switching or the like.

次いで、表示処理部24は関心領域抽出対象画像に対し、各(X、Y)位置毎にデータ値を閾値と比較し、データ値が閾値以上である位置を関心領域として抽出する(ステップS5)。ここで、閾値は予め観察者が設定するようにしてもよいし、或いは、関心領域抽出対象画像を表示部27の画面上に描出した状態で観察者が入力部26より閾値を設定できるようにしてもよい。また、関心領域の抽出方法はこれに限るものでなく、関心領域抽出対象画像を表示部27の画面上に描出した状態で、観察者が任意の範囲を例えばマウスによるドラッグ操作等で指示して関心領域とするようにしてもよい。   Next, the display processing unit 24 compares the data value for each (X, Y) position with respect to the region-of-interest extraction target image, and extracts a position where the data value is equal to or greater than the threshold as the region of interest (step S5). . Here, the threshold may be set in advance by the observer, or the observer can set the threshold from the input unit 26 in a state where the region of interest extraction target image is drawn on the screen of the display unit 27. May be. The method of extracting the region of interest is not limited to this, and the observer designates an arbitrary range by, for example, a drag operation with a mouse or the like in a state where the region of interest extraction target image is drawn on the screen of the display unit 27. The region of interest may be used.

上記のように関心領域が決まると、表示処理部24は関心領域抽出対象画像内での関心領域に対応した位置情報(座標などの数値情報)を取得する(ステップS6)。観察画像と関心領域抽出対象画像とは試料1上の同一領域に対応した画像であるから、両画像の位置情報は完全に対応しており、観察画像上での関心領域の位置も明らかになる。そこで、表示処理部24は観察画像の中で関心領域に対応した範囲のみを強調表示する(ステップS7)。強調表示の例としては、観察画像上の関心領域外の表示を全く変えることなく、関心領域内の表示の輝度、明度、などを上げることで、その関心領域内の表示色の色相は変えずに関心領域外と明確に区別できるようにする。また、逆に関心領域内の表示を全く変えずに、観察画像上の関心領域内の表示の輝度、明度、などを下げたり半透明化したりするようにしてもよい。いずれにしても、重要なことは、ステップS2で表示された観察画像において、特に関心領域内の色情報(カラーパレット)を変えないことである。   When the region of interest is determined as described above, the display processing unit 24 acquires position information (numerical information such as coordinates) corresponding to the region of interest in the region of interest extraction target image (step S6). Since the observation image and the region-of-interest extraction target image are images corresponding to the same region on the sample 1, the position information of both images completely corresponds, and the position of the region of interest on the observation image is also clarified. . Therefore, the display processing unit 24 highlights only the range corresponding to the region of interest in the observation image (step S7). As an example of emphasis display, without changing the display outside the region of interest on the observation image at all, by increasing the brightness, brightness, etc. of the display within the region of interest, the hue of the display color within the region of interest is not changed. To be clearly distinguishable from outside the region of interest. Conversely, the brightness, brightness, etc. of the display in the region of interest on the observation image may be lowered or made translucent without changing the display in the region of interest at all. In any case, what is important is that the color information (color palette) in the region of interest is not changed in the observation image displayed in step S2.

その後、観察者の入力部26の操作による関心領域の変更指示があれば、ステップS8からS5へと戻り、観察者の入力部26の操作による関心領域抽出対象画像の変更指示があれば、ステップS9からS3へと戻り、観察者の入力部26の操作による観察画像の変更指示があれば、ステップS10からS1へと戻る。   Thereafter, if there is an instruction to change the region of interest by the operation of the input unit 26 of the observer, the process returns from step S8 to S5, and if there is an instruction to change the region of interest extraction target image by the operation of the input unit 26 of the observer. Returning from S9 to S3, if there is an instruction to change the observation image by operating the input unit 26 of the observer, the process returns from step S10 to S1.

実際にSMPで得られた画像を参照して、表示部26の画面上に表示される画像の事例を説明する。ここでは、関心領域抽出対象画像を形成する第2の物理量は位相である。   An example of an image displayed on the screen of the display unit 26 will be described with reference to an image actually obtained by SMP. Here, the second physical quantity forming the region-of-interest extraction target image is a phase.

図4は2D(2次元)画像表示の例である。図4(a)は試料上の所定領域に対する観察画像(高さ像)であり、図4(b)はこれと同時に測定された関心領域を抽出するための画像(位相像)である。図4(b)の画像から図4(c)に示すような関心領域(図4(c)の画像で色が薄い領域を関心領域とする)を求め、図4(a)に示した観察画像上で図4(c)で示された関心領域を強調表示することで図4(d)に示すような画像が表示される。この例では、関心領域に対応する範囲では元の(図4(a)の)情報がそのまま維持され、関心領域に対応する範囲外では元の情報の輝度を落としている。   FIG. 4 shows an example of 2D (two-dimensional) image display. 4A is an observation image (height image) for a predetermined region on the sample, and FIG. 4B is an image (phase image) for extracting a region of interest measured at the same time. The region of interest as shown in FIG. 4C is obtained from the image of FIG. 4B (the region of light color in the image of FIG. 4C is the region of interest), and the observation shown in FIG. By highlighting the region of interest shown in FIG. 4C on the image, an image as shown in FIG. 4D is displayed. In this example, the original information (FIG. 4A) is maintained as it is in the range corresponding to the region of interest, and the luminance of the original information is reduced outside the range corresponding to the region of interest.

図5は3D(3次元)画像表示の例であり、図4に示した2次元画像の例を3次元画像に拡張したものである。特に3次元画像表示の場合、元の観察画像上で色が変わると凹凸状況を観察者が把握しにくくなるが、本発明に係る方法では図5(d)に示すように関心領域に対応する範囲で元の観察画像(図5(a)参照)がそのまま維持されているため、関心領域内の試料表面形状を的確に把握することができる。   FIG. 5 shows an example of 3D (three-dimensional) image display, in which the example of the two-dimensional image shown in FIG. 4 is expanded to a three-dimensional image. In particular, in the case of three-dimensional image display, if the color changes on the original observation image, it becomes difficult for the observer to grasp the uneven state. However, in the method according to the present invention, it corresponds to the region of interest as shown in FIG. Since the original observation image (see FIG. 5A) is maintained as it is in the range, the sample surface shape in the region of interest can be accurately grasped.

図6は関心領域を抽出するための閾値を変更した場合の観察画像の変化を示す一例である。各図の左上部に閾値設定を示す画像が表示されている。閾値を変化させると関心領域の範囲(大きさ及び位置)が変化するため、それに追従して観察画像上で強調表示される範囲も変わる様子がよく分かる。   FIG. 6 is an example showing changes in the observed image when the threshold value for extracting the region of interest is changed. An image showing threshold setting is displayed at the upper left of each figure. Since the range (size and position) of the region of interest changes when the threshold value is changed, it can be clearly seen that the range highlighted on the observation image changes accordingly.

図7は関心領域抽出対象画像上でユーザ操作により関心領域を抽出するための領域が指定された状態を示す図である。ユーザ操作は、例えば画像上に重畳表示したマーカをマウス等によりドラッグ操作するものとすることができる。ユーザが画像を参照しながら経験や対象試料の知見に基づいて関心領域を簡便に設定することができる。   FIG. 7 is a diagram illustrating a state in which a region for extracting a region of interest is designated by a user operation on the region of interest extraction target image. As the user operation, for example, a marker superimposed on an image can be dragged with a mouse or the like. The user can easily set the region of interest based on experience and knowledge of the target sample while referring to the image.

なお、上記実施例では観察画像及び関心領域対象画像が静止画であることを前提としていたが、本発明は観察画像及び関心領域対象画像が動画である場合にも対応可能である。特許文献1のような画像マッピングにより関心領域の強調表示を行う場合、画像の全領域に対して重ね合わせの演算が必要になるが、本発明では関心領域で演算対象を制御するため、重ね合わせの処理が不要になり、観察画像のみを動画とすることができる。よって、動画のフレーム毎の演算量が抑えられ、処理速度の面での優位性が期待できる。   In the above embodiment, it is assumed that the observation image and the region-of-interest target image are still images, but the present invention can also be applied to the case where the observation image and the region-of-interest target image are moving images. When the region of interest is highlighted by image mapping as in Patent Document 1, it is necessary to perform an overlay calculation on the entire region of the image. In the present invention, the calculation target is controlled in the region of interest. Therefore, only the observation image can be converted into a moving image. Therefore, the calculation amount for each frame of the moving image is suppressed, and an advantage in terms of processing speed can be expected.

また、上記実施例は本発明の一例であり、本発明の趣旨の範囲で適宜変形、修正、追加を行っても本願特許請求の範囲に包含されることは明らかである。例えば上記実施例は本発明を表面分析装置の1つであるSPMに適用した場合の例であるが、上で挙げたようなそのほかの各種の表面分析装置に本発明を適用して同様の効果を得られることは明白である。   Moreover, the said Example is an example of this invention, and even if it changes suitably in the range of the meaning of this invention, correction, and addition, it is clear that it is included by the claim of this application. For example, the above embodiment is an example in which the present invention is applied to an SPM which is one of surface analysis apparatuses, but the same effect can be obtained by applying the present invention to other various surface analysis apparatuses as mentioned above. It is obvious that

本発明の一実施例であるSPMの概略構成図。The schematic block diagram of SPM which is one Example of this invention. 本実施例のSPMにおける画像表示処理を示すフローチャート。The flowchart which shows the image display process in SPM of a present Example. 画像表示装置における画像表示方法の概念説明図。The conceptual explanatory view of the image display method in an image display device. 本実施例のSPMによる2次元画像表示例を示す図。The figure which shows the example of a two-dimensional image display by SPM of a present Example. 本実施例のSPMによる3次元画像表示例を示す図。The figure which shows the example of a three-dimensional image display by SPM of a present Example. 関心領域を抽出するための閾値を変更した場合の観察画像の変化例を示す図。The figure which shows the example of a change of the observation image at the time of changing the threshold value for extracting a region of interest. ユーザが関心領域を直接指定する場合の例を示す図。The figure which shows the example in case a user designates a region of interest directly.

符号の説明Explanation of symbols

1…試料
2…試料台
3…スキャナ
4…カンチレバー
5…探針
11…レーザ光源
12…レンズ
13…ビームスプリッタ
14…ミラー
15…光検出器
16…変位量算出部
21…制御部
22…スキャナ駆動部
23…データ処理部
24…表示処理部
25…データ記憶部
26…入力部
27…表示部
DESCRIPTION OF SYMBOLS 1 ... Sample 2 ... Sample stand 3 ... Scanner 4 ... Cantilever 5 ... Probe 11 ... Laser light source 12 ... Lens 13 ... Beam splitter 14 ... Mirror 15 ... Photo detector 16 ... Displacement amount calculation part 21 ... Control part 22 ... Scanner drive Unit 23 ... Data processing unit 24 ... Display processing unit 25 ... Data storage unit 26 ... Input unit 27 ... Display unit

Claims (4)

試料の同一領域から収集された複数種の物理量の2次元分布データに基づいて、前記領域についての2次元画像又は3次元画像を表示する分析装置用画像表示装置において、
a)前記複数種の物理量の2次元分布データのうち第1の物理量の2次元分布データを除く1種以上の物理量の2次元分布データを用い、所定の条件に適合する又は外部より指示された領域を関心領域として抽出する関心領域抽出手段と、
b)前記第1の物理量の2次元分布データを2次元画像又は3次元画像として表示する画像上で、前記抽出された関心領域に相当する範囲内の表示色の色相は変えずに、前記抽出された関心領域に相当する範囲をそれ以外の範囲と識別可能であるように強調表示する表示制御手段と、
とを備えることを特徴とする分析装置用画像表示装置。
In an image display device for an analyzer that displays a two-dimensional image or a three-dimensional image of the region based on two-dimensional distribution data of a plurality of types of physical quantities collected from the same region of the sample,
a) Using two-dimensional distribution data of one or more physical quantities excluding the two-dimensional distribution data of the first physical quantity among the two-dimensional distribution data of the plurality of kinds of physical quantities, satisfying a predetermined condition or designated from the outside A region of interest extraction means for extracting a region as a region of interest;
b) On the image displaying the two-dimensional distribution data of the first physical quantity as a two-dimensional image or a three-dimensional image, the extraction of the display color within the range corresponding to the extracted region of interest is not changed. Display control means for highlighting a range corresponding to the selected region of interest so as to be distinguishable from other ranges;
An image display device for an analyzer, comprising:
請求項1に記載の分析装置用画像表示装置であって、
前記第1の物理量は試料の所定領域内の高さに関する情報であり、前記表示制御手段は、前記第1の物理量に関する2次元分布データを3次元画像として表示することを特徴とする分析装置用画像表示装置。
The image display device for an analyzer according to claim 1,
The first physical quantity is information relating to a height of a sample in a predetermined region, and the display control means displays two-dimensional distribution data relating to the first physical quantity as a three-dimensional image. Image display device.
請求項1又は2に記載の分析装置用画像表示装置であって、
前記関心領域の抽出に用いられる物理量の閾値をユーザが設定する閾値設定手段をさらに備え、前記関心領域抽出手段は該物理量が前記閾値以上又は以下である領域を関心領域として抽出することを特徴とする分析装置用画像表示装置。
The image display device for an analyzer according to claim 1 or 2,
The apparatus further comprises threshold setting means for a user to set a threshold of a physical quantity used for extracting the region of interest, and the region of interest extracting means extracts an area having the physical quantity greater than or less than the threshold as a region of interest. An image display device for an analyzer.
請求項1〜3のいずれかに記載の分析装置画像表示装置を用いた表面分析装置であって、
試料の所定領域に対し第1の物理量として高さに関する2次元分布データを取得する第1物理量取得手段と、
試料の前記所定領域に対し第1の物理量とは異なる種類の1以上の物理量の2次元分布データを取得する第2物理量取得手段と、
を備えることを特徴とする表面分析装置。
A surface analyzer using the analyzer image display device according to claim 1,
First physical quantity acquisition means for acquiring two-dimensional distribution data relating to height as a first physical quantity for a predetermined region of the sample;
Second physical quantity acquisition means for acquiring one or more types of physical quantity two-dimensional distribution data different from the first physical quantity for the predetermined region of the sample;
A surface analysis apparatus comprising:
JP2008221182A 2008-08-29 2008-08-29 Image display device for analyzer and surface analyzer using the device Active JP5170429B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008221182A JP5170429B2 (en) 2008-08-29 2008-08-29 Image display device for analyzer and surface analyzer using the device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008221182A JP5170429B2 (en) 2008-08-29 2008-08-29 Image display device for analyzer and surface analyzer using the device

Publications (2)

Publication Number Publication Date
JP2010054420A JP2010054420A (en) 2010-03-11
JP5170429B2 true JP5170429B2 (en) 2013-03-27

Family

ID=42070499

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008221182A Active JP5170429B2 (en) 2008-08-29 2008-08-29 Image display device for analyzer and surface analyzer using the device

Country Status (1)

Country Link
JP (1) JP5170429B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018190129A1 (en) * 2017-04-10 2018-10-18 ニッタ株式会社 Determination system and determination program

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5806457B2 (en) * 2010-09-15 2015-11-10 株式会社島津製作所 Surface analyzer
JP5577977B2 (en) * 2010-09-16 2014-08-27 株式会社島津製作所 Surface analyzer

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3439508B2 (en) * 1992-11-26 2003-08-25 株式会社トプコン Sample image display
WO1996003641A1 (en) * 1994-07-28 1996-02-08 Kley Victor B Scanning probe microscope assembly
JPH0862229A (en) * 1994-08-22 1996-03-08 Ryoden Semiconductor Syst Eng Kk Thin-film quality measuring instrument and method, and manufacture of semiconductor device
JPH11110532A (en) * 1997-09-29 1999-04-23 Nikon Corp Image display method/device and scanning-type probe microscope using the same
JP2002183713A (en) * 2000-12-14 2002-06-28 Matsushita Electric Works Ltd Method and device for processing image
JP2005164544A (en) * 2003-12-05 2005-06-23 Nec Corp Probe apparatus, scanning probe microscope, and sample display method
JP4424065B2 (en) * 2004-05-19 2010-03-03 株式会社日立製作所 Measuring method using scanning probe microscope
JP2006038541A (en) * 2004-07-26 2006-02-09 Tdk Corp Evaluation data forming method and evaluation method
JP2006073604A (en) * 2004-08-31 2006-03-16 Fujitsu Ltd Semiconductor evaluation method and semiconductor evaluation device
JP2006105684A (en) * 2004-10-01 2006-04-20 Canon Inc Measuring apparatus and method
JP2007147365A (en) * 2005-11-25 2007-06-14 Sumitomo Bakelite Co Ltd Analysis method of functional group on surface of molded product
US7941286B2 (en) * 2006-01-31 2011-05-10 Asylum Research Corporation Variable density scanning

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018190129A1 (en) * 2017-04-10 2018-10-18 ニッタ株式会社 Determination system and determination program
CN110546473A (en) * 2017-04-10 2019-12-06 霓达株式会社 Judgment system and judgment program

Also Published As

Publication number Publication date
JP2010054420A (en) 2010-03-11

Similar Documents

Publication Publication Date Title
JP5577977B2 (en) Surface analyzer
JP4688739B2 (en) Information display device
JP5170429B2 (en) Image display device for analyzer and surface analyzer using the device
JP2019164090A (en) Data correction method, program for making computer execute data correction method, image processing device, and scanning type probe microscope
US7954069B2 (en) Microscopic-measurement apparatus
JP6330917B2 (en) Data display processing device for scanning probe microscope, data display processing method for scanning probe microscope, and control program
JP6760477B2 (en) Cell observation device
JP5806457B2 (en) Surface analyzer
JP6624287B2 (en) Data processing system for scanning probe microscope
JP5319184B2 (en) Microscope system and microscope control program
EP3460754B1 (en) Image measurement method, image measurement program, image measurement device, and object manufacture method
JP5742699B2 (en) Data processing device for scanning probe microscope
JP5742698B2 (en) Data processing device for scanning probe microscope
JP2011145238A (en) Display processor for x-ray analysis
JP2010085463A (en) Microscope apparatus
US20210132359A1 (en) Information processing device, information processing method, information processing program, and microscope
JP5305838B2 (en) Confocal microscope system
US20020035433A1 (en) Method for the analysis and evaluation of at least three-dimensional specimen data

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101215

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20101215

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120508

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120807

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121107

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20121114

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121218

R151 Written notification of patent or utility model registration

Ref document number: 5170429

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160111

Year of fee payment: 3