JP2008090071A - Magnifying observation apparatus, method and program for operating magnifying observation apparatus, computer-readable recording medium, and recorded apparatus - Google Patents

Magnifying observation apparatus, method and program for operating magnifying observation apparatus, computer-readable recording medium, and recorded apparatus Download PDF

Info

Publication number
JP2008090071A
JP2008090071A JP2006272058A JP2006272058A JP2008090071A JP 2008090071 A JP2008090071 A JP 2008090071A JP 2006272058 A JP2006272058 A JP 2006272058A JP 2006272058 A JP2006272058 A JP 2006272058A JP 2008090071 A JP2008090071 A JP 2008090071A
Authority
JP
Japan
Prior art keywords
image
fourier transform
frequency filter
setting
filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006272058A
Other languages
Japanese (ja)
Other versions
JP4928894B2 (en
JP2008090071A5 (en
Inventor
Takashi Nakamu
貴司 中務
Yasunobu Umehara
康暢 梅原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Keyence Corp
Original Assignee
Keyence Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Keyence Corp filed Critical Keyence Corp
Priority to JP2006272058A priority Critical patent/JP4928894B2/en
Publication of JP2008090071A publication Critical patent/JP2008090071A/en
Publication of JP2008090071A5 publication Critical patent/JP2008090071A5/ja
Application granted granted Critical
Publication of JP4928894B2 publication Critical patent/JP4928894B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

<P>PROBLEM TO BE SOLVED: To provide a Fourier transformation interface which makes the relation between a Fourier-transformed image and a frequency filter easy to understand. <P>SOLUTION: A magnifying observation device comprises: a Fourier transforming means for generating the Fourier-transformed image of an input image acquired by an image acquiring means; a display means 4 for displaying the Fourier-transformed image; a filter setting means for setting a range wherein frequency filter processing is applied and the kind of the frequency filter as settings for frequency filter processing associated with the Fourier-transformed image displayed on the display means 4; a highlighting means for highlighting and displaying the application range of a frequency filter set by the filter setting means in the Fourier-transformed image displayed on the display means 4; a filter arithmetic means for performing the frequency filter processing associated with the Fourier-transformed image according to the settings of the frequency filter; and an inverse Fourier-transforming means for inversely Fourier-transforming the Fourier-transformed image after the frequency filter processing by the filter arithmetic means. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、フーリエ変換を行う拡大観察装置、拡大観察装置の操作方法、拡大観察装置操作プログラムおよびコンピュータで読み取り可能な記録媒体並びに記録した機器に関する。   The present invention relates to a magnification observation apparatus that performs Fourier transform, a method for operating a magnification observation apparatus, a magnification observation apparatus operation program, a computer-readable recording medium, and a recorded device.

観察用顕微鏡、測定用顕微鏡、マイクロスコープ等、各種顕微鏡や観察装置において、測定対象物(ワーク)の画像を撮影し、その後様々な画像処理を施して目的の観察、解析、測定を行うことは一般的に広く知られるやり方である。画像処理の目的は、対象画像から不要なノイズを除いたり、着目したい箇所だけを抽出したり、コントラストを上げたり、見易くするために色を変えたり等、その後の解析や作成するレポートの品質を向上させるための前準備を行うことにある。このような画像処理には、例えば平滑化、エッジ強調、ノイズ除去、輪郭抽出、周波数フィルタ、明るさ調整、コントラスト調整等がある。中でも、周波数フィルタはよく利用される主要技術の一である。   In various microscopes and observation devices such as observation microscopes, measurement microscopes, microscopes, etc., taking images of the measurement object (work), and then performing various image processing to perform the desired observation, analysis, and measurement This is a generally well-known method. The purpose of image processing is to remove unnecessary noise from the target image, extract only the part you want to focus on, raise the contrast, change the color for easy viewing, etc. It is to prepare for improvement. Examples of such image processing include smoothing, edge enhancement, noise removal, contour extraction, frequency filter, brightness adjustment, contrast adjustment, and the like. Among them, the frequency filter is one of the main technologies often used.

周波数フィルタはその名の通り、対象画像をX軸、Y軸方向にそれぞれ周波数成分に分解し、特定の周波数成分のみを強調したり、マスクして除いたりして再度画像に戻すフィルタである。例えば周期的な振動によって画像に周期的な縞が載ってしまった場合、前述の周波数フィルタにてこの縞に相当する周波数部分をマスクしてしまうことで、元画像から縞だけを選択的に除去することができる。このような例は周波数フィルタが顕著に効果を発揮する一例である。その他、ノイズ成分を除去するために高周波部分をカットする、いわゆるローパスフィルタや、輪郭情報のみ抽出するために低周波部分をカットする、いわゆるハイパスフィルタ等もフィルタとしてよく用いられている。
特開2004−157410号公報
As the name suggests, the frequency filter is a filter that decomposes the target image into frequency components in the X-axis and Y-axis directions, emphasizes only specific frequency components, removes them by masking, and returns them to the image again. For example, if periodic fringes appear on the image due to periodic vibrations, only the fringes are selectively removed from the original image by masking the frequency portion corresponding to the fringes with the frequency filter described above. can do. Such an example is an example in which the frequency filter is remarkably effective. In addition, a so-called low-pass filter that cuts a high-frequency part to remove noise components, a so-called high-pass filter that cuts a low-frequency part to extract only contour information, and the like are often used as filters.
JP 2004-157410 A

周波数フィルタは通常、特定の周波数成分をどうするのか、ユーザにその設定を委ねるためにフーリエ変換画像(パワースペクトル画像)を表示させる。このフーリエ変換画像を見ながら、ユーザは必要な箇所をマスクする等して、所望の画像処理結果を得ていた。しかしながら、周波数フィルタとして良く使用されるローパスフィルタ、ハイパスフィルタについて、それを使いたいユーザにとっては前述のフーリエ変換画像が一つの障壁になってしまう。フーリエ変換画像を見たことのないユーザにとっては一体何の画像なのか、理解するのが難しいためである。ただ単にローパスフィルタを使いたい、ハイパスフィルタを試したいだけなのに、そのためにフーリエ変換画像の意味や扱いを理解しなければならないという問題があった。これを解決する案として、フーリエ変換画像とローパス/ハイパスフィルタをインターフェイス上で完全に切り離し、別の画像処理として扱う方法も画像処理ソフト等では行われている。この方法であれば、確かにローパス/ハイパスフィルタを簡単に使用することができるようになる。しかしながら一方、周波数フィルタ及びフーリエ変換画像の有効な使い方を知る機会を逸することにもなり、せっかくのソフトの機能を有効に使い切ることができない。このような理由から、フーリエ変換画像を使ったフィルタ(周波数フィルタ)は、従来は特定の熟練したユーザだけが使用するか、もしくはフーリエ変換画像を見せず特定用途向けフィルタとしてしか使用できないという問題があった。   The frequency filter normally displays a Fourier transform image (power spectrum image) in order to leave the user with the setting of what to do with a specific frequency component. While viewing the Fourier transform image, the user obtains a desired image processing result by masking a necessary portion. However, the low-pass filter and the high-pass filter that are often used as frequency filters, the above-described Fourier transform image becomes a barrier for users who want to use them. This is because it is difficult for a user who has never seen a Fourier transform image to understand what the image is. I just wanted to use a low-pass filter or just want to try a high-pass filter, but I had to understand the meaning and handling of Fourier transform images. As a proposal for solving this problem, a method of completely separating the Fourier transform image and the low-pass / high-pass filter on the interface and handling them as separate image processing is also performed in image processing software or the like. This method certainly makes it easy to use a low-pass / high-pass filter. However, on the other hand, the opportunity to know effective usage of the frequency filter and the Fourier transform image is lost, and the functions of the software cannot be used up effectively. For this reason, a filter using a Fourier transform image (frequency filter) is conventionally used only by a specific skilled user, or can only be used as a filter for a specific application without showing a Fourier transform image. there were.

本発明は、従来のこのような問題点を解決するためになされたものである。本発明の主な目的は、フーリエ変換画像と周波数フィルタの関係を判り易くしたインターフェイスを提供して、周波数フィルタ処理の使用を容易にした拡大観察装置、拡大観察装置の操作方法、拡大観察装置操作プログラムおよびコンピュータで読み取り可能な記録媒体並びに記録した機器を提供することにある。   The present invention has been made to solve such conventional problems. A main object of the present invention is to provide an interface that makes it easy to understand the relationship between a Fourier transform image and a frequency filter, and facilitates the use of frequency filter processing. Operation method of the magnification observation device, operation of the magnification observation device It is an object to provide a program, a computer-readable recording medium, and a recorded device.

課題を解決するための手段及び発明の効果Means for Solving the Problems and Effects of the Invention

以上の目的を達成するために本発明の第1の拡大観察装置は、測定対象物を撮像した入力画像を取得するための画像取得手段と、画像取得手段で取得した入力画像に対してフーリエ変換を行い、フーリエ変換画像を生成するためのフーリエ変換手段と、フーリエ変換画像を表示するための表示手段と、表示手段上で表示されたフーリエ変換画像に対して、周波数フィルタ処理を行うための設定として、周波数フィルタ処理を適用する範囲及び周波数フィルタの種別を設定するためのフィルタ設定手段と、フィルタ設定手段で設定される周波数フィルタの適用範囲を、表示手段上で表示されるフーリエ変換画像に対してハイライト表示するためのハイライト手段と、周波数フィルタの設定に従い、フーリエ変換画像に周波数フィルタ処理を行うためのフィルタ演算手段と、フィルタ演算手段による周波数フィルタ処理後のフーリエ変換画像を逆フーリエ変換するための逆フーリエ変換手段とを備えることができる。これにより、周波数フィルタが適用される範囲を、フーリエ変換画像上でハイライト表示できるため、周波数フィルタ処理が視覚的に把握し易くなり、特に周波数フィルタ処理やフーリエ変換に詳しくないユーザでもイメージ的に把握し易くし、周波数フィルタの使用が可能となる。   To achieve the above object, a first magnification observation apparatus of the present invention includes an image acquisition unit for acquiring an input image obtained by imaging a measurement object, and a Fourier transform for the input image acquired by the image acquisition unit. And a Fourier transform means for generating a Fourier transform image, a display means for displaying the Fourier transform image, and a setting for performing frequency filter processing on the Fourier transform image displayed on the display means Filter setting means for setting the frequency filter processing range and frequency filter type, and the frequency filter application range set by the filter setting means for the Fourier transform image displayed on the display means The frequency transform processing is performed on the Fourier transform image in accordance with the highlight means for highlighting and the frequency filter setting. It may comprise a fit of filter operation unit, and an inverse Fourier transform means for inverse Fourier transform of the Fourier transform image after frequency filtering by the filtering unit. As a result, the range to which the frequency filter is applied can be highlighted on the Fourier transform image, making it easier to visually understand the frequency filter processing, especially for users who are not familiar with frequency filter processing and Fourier transform. This makes it easy to grasp and allows the use of a frequency filter.

第2の拡大観察装置は、ハイライト手段が、表示手段上で表示されるフーリエ変換画像に対して、マスクされる領域を網掛け表示することができる。これにより、マスク領域を網掛け表示して、残る領域とカットされる領域とをイメージ的に容易に区別できる。   In the second magnifying observation device, the highlight unit can display the masked area in a shaded manner on the Fourier transform image displayed on the display unit. Thereby, the mask area is shaded and displayed, and the remaining area and the area to be cut can be easily distinguished imagewise.

第3の拡大観察装置は、フィルタ設定手段により設定する周波数フィルタの種別が、ハイパスフィルタ、ローパスフィルタを含み、周波数フィルタ処理を適用する範囲が、2次元フーリエ変換画像のX方向、Y方向、XY方向のいずれかを含むことができる。   In the third magnification observation apparatus, the type of the frequency filter set by the filter setting unit includes a high-pass filter and a low-pass filter, and the range to which the frequency filter processing is applied is the X direction, the Y direction, and the XY of the two-dimensional Fourier transform image. Any of the directions can be included.

第4の拡大観察装置は、フィルタ設定手段により周波数フィルタ処理を適用する範囲としてXY方向が選択される際、ハイライト手段がマスク領域を、2次元フーリエ変換画像のXY座標の原点を中心とする同心円状に表示し、フィルタ設定手段によりX方向が選択される際、ハイライト手段がマスク領域をY座標軸に対して対称かつ平行な直線で区画される矩形状に表示し、フィルタ設定手段によりY方向が選択される際、ハイライト手段がマスク領域をX座標軸に対して対称かつ平行な直線で区画される矩形状に表示できる。   In the fourth magnifying observation apparatus, when the XY direction is selected as the range to which the frequency filter processing is applied by the filter setting unit, the highlight unit sets the mask region as the center and the origin of the XY coordinates of the two-dimensional Fourier transform image. When the X direction is selected by the filter setting unit, the highlight unit displays the mask area in a rectangular shape defined by straight lines symmetrical and parallel to the Y coordinate axis, and the filter setting unit displays Y. When the direction is selected, the highlight means can display the mask area in a rectangular shape defined by straight lines symmetrical and parallel to the X coordinate axis.

第5の拡大観察装置は、フィルタ設定手段による周波数フィルタ処理の設定項目を順次提示し、対話形式でユーザに設定項目の入力を促すよう構成できる。これにより、周波数フィルタ処理の設定に詳しくないユーザでも、設定すべき項目を順次提示して入力を促すことでガイダンスが与えられ、これに従って設定することで、容易に設定を行うことができる。   The fifth magnifying observation apparatus can be configured to sequentially present setting items for frequency filter processing by the filter setting means and prompt the user to input setting items in an interactive manner. As a result, even a user who is not familiar with the setting of the frequency filter processing is given guidance by prompting the user to input items to be set and prompting input, and setting can be easily performed by setting according to this.

第6の拡大観察装置は、画像取得手段を共焦点顕微鏡とできる。これにより、共焦点画像に対する周波数フィルタの適用範囲が視覚的に表示されるので、適用されるフィルタの意味が判らなくとも、ユーザにイメージ的に把握させることができる。   In the sixth magnifying observation device, the image acquisition means can be a confocal microscope. Thereby, since the application range of the frequency filter with respect to a confocal image is displayed visually, even if the meaning of the applied filter is not understood, it can be made to grasp | ascertain a user imagely.

第7の拡大観察装置は、共焦点光学系を介して測定対象物からの光を受光素子で受光し、その受光情報に基づいて測定対象物の表面の高さ情報及び光量情報を取得し、測定対象物の表面の画像を共焦点画像として表示可能な拡大観察装置であって、各測定点において、光学系もしくは測定対象物を高さ方向に変化させながら合焦点位置を明るさに基づいて取得し、測定点を走査して共焦点画像を合成する共焦点光学系と、共焦点光学系で撮像された共焦点画像を表示するための表示手段と、共焦点画像に対してフーリエ変換を行い、フーリエ変換画像を生成するためのフーリエ変換手段と、表示手段上で表示されたフーリエ変換画像に対して、周波数フィルタ処理を行うための設定として、周波数フィルタ処理を適用する範囲及び周波数フィルタの種別を設定するためのフィルタ設定手段と、フィルタ設定手段で設定される周波数フィルタの適用範囲を、表示手段上で表示されるフーリエ変換画像に対してハイライト表示するためのハイライト手段と、周波数フィルタの設定に従い、フーリエ変換画像に周波数フィルタ処理を行うためのフィルタ演算手段と、フィルタ演算手段による周波数フィルタ処理後のフーリエ変換画像を逆フーリエ変換するための逆フーリエ変換手段とを備えることができる。これにより、周波数フィルタが適用される範囲を、フーリエ変換画像上でハイライト表示できるため、周波数フィルタ処理を視覚的に把握し易くでき、特に周波数フィルタ処理やフーリエ変換に詳しくないユーザでも周波数フィルタを使用し易くできる。   The seventh magnifying observation device receives light from the measurement object via the confocal optical system by the light receiving element, acquires height information and light amount information of the surface of the measurement object based on the light reception information, A magnifying observation apparatus capable of displaying an image of the surface of a measurement object as a confocal image, and at each measurement point, the focal point position is changed based on the brightness while changing the optical system or the measurement object in the height direction. A confocal optical system that acquires and synthesizes a confocal image by scanning measurement points, a display means for displaying the confocal image captured by the confocal optical system, and a Fourier transform for the confocal image And a Fourier transform means for generating a Fourier transform image, and a range and frequency filter to which the frequency filter process is applied as a setting for performing the frequency filter process on the Fourier transform image displayed on the display means. Filter setting means for setting the type of data, highlight means for highlighting the application range of the frequency filter set by the filter setting means with respect to the Fourier transform image displayed on the display means, And a filter operation means for performing frequency filter processing on the Fourier transform image according to the setting of the frequency filter, and an inverse Fourier transform means for performing inverse Fourier transform on the Fourier transform image after the frequency filter processing by the filter operation means. Can do. As a result, since the range to which the frequency filter is applied can be highlighted on the Fourier transform image, the frequency filter processing can be easily grasped visually, and even users who are not familiar with frequency filter processing and Fourier transform can use the frequency filter. Easy to use.

第8の拡大観察装置の操作方法は、測定対象物からの光を受光素子で受光し、その受光情報に基づいて測定対象物の光量情報を取得し、測定対象物の拡大画像を表示して観察可能な拡大観察装置の操作方法であって、測定対象物を撮像した入力画像を取得する工程と、撮像部で取得した入力画像に対してフーリエ変換を行い、生成されたフーリエ変換画像を表示手段に表示する工程と、フーリエ変換画像に対して、周波数フィルタ処理を行うための設定として、周波数フィルタ処理を適用する範囲及び周波数フィルタの種別を設定し、設定された周波数フィルタの適用範囲を、表示手段上で表示されるフーリエ変換画像に対してハイライト表示する工程と、周波数フィルタの設定に従い、フーリエ変換画像に周波数フィルタ処理を行う工程と、周波数フィルタ処理後のフーリエ変換画像を逆フーリエ変換して出力する工程とを含むことができる。これにより、周波数フィルタが適用される範囲を、フーリエ変換画像上でハイライト表示できるため、周波数フィルタ処理を視覚的に把握し易くでき、特に周波数フィルタ処理やフーリエ変換に詳しくないユーザでも周波数フィルタを使用し易くできる。   In the eighth operation method of the magnification observation apparatus, light from a measurement object is received by a light receiving element, light amount information of the measurement object is acquired based on the received light information, and an enlarged image of the measurement object is displayed. A method of operating a magnifying observation apparatus that can be observed, the step of acquiring an input image obtained by imaging a measurement object, and performing a Fourier transform on the input image obtained by the imaging unit, and displaying the generated Fourier transform image As a setting for performing the frequency filter processing on the step of displaying on the means and the Fourier transform image, the range to which the frequency filter processing is applied and the type of the frequency filter are set, and the set frequency filter application range is A step of highlighting the Fourier transform image displayed on the display means, and a step of performing frequency filter processing on the Fourier transform image according to the setting of the frequency filter. It may include a step of outputting the inverse Fourier transform of the Fourier transform image after frequency filtering. As a result, since the range to which the frequency filter is applied can be highlighted on the Fourier transform image, the frequency filter processing can be easily grasped visually, and even users who are not familiar with frequency filter processing and Fourier transform can use the frequency filter. Easy to use.

第9の拡大観察装置操作プログラムは、測定対象物からの光を受光素子で受光し、その受光情報に基づいて測定対象物の光量情報を取得し、測定対象物の拡大画像を表示して観察可能な拡大観察装置操作プログラムであって、測定対象物を撮像した入力画像を取得する機能と、撮像部で取得した入力画像に対してフーリエ変換を行い、生成されたフーリエ変換画像を表示手段に表示する機能と、フーリエ変換画像に対して、周波数フィルタ処理を行うための設定として、周波数フィルタ処理を適用する範囲及び周波数フィルタの種別を設定し、設定された周波数フィルタの適用範囲を、表示手段上で表示されるフーリエ変換画像に対してハイライト表示する機能と、周波数フィルタの設定に従い、フーリエ変換画像に周波数フィルタ処理を行う機能と、周波数フィルタ処理後のフーリエ変換画像を逆フーリエ変換して出力する機能とをコンピュータに実現させることができる。これにより、周波数フィルタが適用される範囲を、フーリエ変換画像上でハイライト表示できるため、周波数フィルタ処理を視覚的に把握し易くでき、特に周波数フィルタ処理やフーリエ変換に詳しくないユーザでも周波数フィルタを使用し易くできる。   The ninth magnification observation apparatus operation program receives light from the measurement object by the light receiving element, acquires light amount information of the measurement object based on the received light information, displays an enlarged image of the measurement object, and observes it A magnifying observation apparatus operation program capable of acquiring an input image obtained by imaging a measurement object, and performing Fourier transform on the input image obtained by the imaging unit, and using the generated Fourier transform image as a display means As a setting for performing the frequency filter processing on the Fourier transform image and the function to display, the range to which the frequency filter processing is applied and the type of the frequency filter are set, and the set frequency filter application range is displayed. Performs frequency filter processing on the Fourier transform image according to the function to highlight the Fourier transform image displayed above and the frequency filter settings. Function and, thereby realizing the function of outputting to the inverse Fourier transform of the Fourier transformed image after the frequency filtering to the computer. As a result, since the range to which the frequency filter is applied can be highlighted on the Fourier transform image, the frequency filter processing can be easily grasped visually, and even users who are not familiar with frequency filter processing and Fourier transform can use the frequency filter. Easy to use.

第10のプログラムを格納したコンピュータで読み取り可能な記録媒体又は記録した機器は、上記プログラムを格納するものである。記録媒体には、CD−ROM、CD−R、CD−RWやフレキシブルディスク、磁気テープ、MO、DVD−ROM、DVD−RAM、DVD−R、DVD+R、DVD−RW、DVD+RW、Blu−ray(登録商標)、HD DVD等の磁気ディスク、光ディスク、光磁気ディスク、半導体メモリその他のプログラムを格納可能な媒体が含まれる。またプログラムには、上記記録媒体に格納されて配布されるものの他、インターネット等のネットワーク回線を通じてダウンロードによって配布される形態のものも含まれる。さらに記録した機器には、上記プログラムがソフトウェアやファームウェア等の形態で実行可能な状態に実装された汎用もしくは専用機器を含む。さらにまたプログラムに含まれる各処理や機能は、コンピュータで実行可能なプログラムソフトウエアにより実行してもよいし、各部の処理を所定のゲートアレイ(FPGA、ASIC)等のハードウエア、又はプログラムソフトウエアとハードウェアの一部の要素を実現する部分的ハードウエアモジュールとが混在する形式で実現してもよい。   The computer-readable recording medium or the recorded device that stores the tenth program stores the program. CD-ROM, CD-R, CD-RW, flexible disk, magnetic tape, MO, DVD-ROM, DVD-RAM, DVD-R, DVD + R, DVD-RW, DVD + RW, Blu-ray (registered) Trademarks), HD DVD and other magnetic disks, optical disks, magneto-optical disks, semiconductor memories and other media that can store programs. The program includes a program distributed in a download manner through a network line such as the Internet, in addition to a program stored and distributed in the recording medium. Further, the recorded devices include general-purpose or dedicated devices in which the program is implemented in a state where it can be executed in the form of software, firmware, or the like. Furthermore, each process and function included in the program may be executed by computer-executable program software, or each part of the process or hardware may be executed by hardware such as a predetermined gate array (FPGA, ASIC), or program software. And a partial hardware module that realizes a part of hardware elements may be mixed.

以下、本発明の実施の形態を図面に基づいて説明する。ただし、以下に示す実施の形態は、本発明の技術思想を具体化するための拡大観察装置、拡大観察装置の操作方法、拡大観察装置操作プログラムおよびコンピュータで読み取り可能な記録媒体並びに記録した機器を例示するものであって、本発明は拡大観察装置、拡大観察装置の操作方法、拡大観察装置操作プログラムおよびコンピュータで読み取り可能な記録媒体並びに記録した機器を以下のものに特定しない。また、本明細書は特許請求の範囲に示される部材を、実施の形態の部材に特定するものでは決してない。特に実施の形態に記載されている構成部品の寸法、材質、形状、その相対的配置等は特に特定的な記載がない限りは、本発明の範囲をそれのみに限定する趣旨ではなく、単なる説明例にすぎない。なお、各図面が示す部材の大きさや位置関係等は、説明を明確にするため誇張していることがある。さらに以下の説明において、同一の名称、符号については同一もしくは同質の部材を示しており、詳細説明を適宜省略する。さらに、本発明を構成する各要素は、複数の要素を同一の部材で構成して一の部材で複数の要素を兼用する態様としてもよいし、逆に一の部材の機能を複数の部材で分担して実現することもできる。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. However, the embodiment described below includes a magnifying observation apparatus, a magnifying observation apparatus operation method, a magnifying observation apparatus operation program, a computer-readable recording medium, and a recorded apparatus for embodying the technical idea of the present invention. The present invention does not specify the magnification observation apparatus, the operation method of the magnification observation apparatus, the magnification observation apparatus operation program, the computer-readable recording medium, and the recorded device as follows. Further, the present specification by no means specifies the members shown in the claims to the members of the embodiments. In particular, the dimensions, materials, shapes, relative arrangements, and the like of the component parts described in the embodiments are not intended to limit the scope of the present invention unless otherwise specified, and are merely explanations. It is just an example. Note that the size, positional relationship, and the like of the members shown in each drawing may be exaggerated for clarity of explanation. Furthermore, in the following description, the same name and symbol indicate the same or the same members, and detailed description thereof will be omitted as appropriate. Furthermore, each element constituting the present invention may be configured such that a plurality of elements are constituted by the same member and the plurality of elements are shared by one member, and conversely, the function of one member is constituted by a plurality of members. It can also be realized by sharing.

以下、画像処理装置の一例として、共焦点顕微鏡で得られた共焦点画像に対してフーリエ変換し、周波数フィルタを適用する例を説明する。なお、入力画像を取得する画像取得手段は共焦点顕微鏡あるいはその共焦点光学系に限られず、他の顕微鏡あるいは拡大観察装置も利用できる。例えばSEM、TEMその他の荷電粒子線装置等の電子顕微鏡や光学顕微鏡、原子間力顕微鏡、静電気力顕微鏡、近視野顕微鏡、デジタルマイクロスコープ等に適用することもできる。
(実施の形態1)
Hereinafter, as an example of an image processing apparatus, an example in which a Fourier filter is applied to a confocal image obtained with a confocal microscope and a frequency filter is applied will be described. Note that the image acquisition means for acquiring the input image is not limited to the confocal microscope or the confocal optical system, and other microscopes or magnification observation apparatuses can also be used. For example, the present invention can be applied to electron microscopes such as SEM, TEM, and other charged particle beam devices, optical microscopes, atomic force microscopes, electrostatic force microscopes, near-field microscopes, digital microscopes, and the like.
(Embodiment 1)

共焦点顕微鏡はレーザ光を使用して測定対象物の表面を走査することから、共焦点レーザ顕微鏡、共焦点走査型顕微鏡等とも呼ばれる。また共焦点顕微鏡で得られる共焦点画像はレーザ画像とも呼ばれる。共焦点顕微鏡では、試料やワーク等の測定対象物からの光が共焦点光学系を介して受光素子で受光され、その受光量に基づいて、試料の超深度画像(焦点深度が非常に深い画像)や高さ分布等の情報が取得される。ステージに載置された試料と対物レンズとの相対距離を光軸方向に変化させると、共焦点光学系を介して受光素子に入射する光の量、すなわち受光量が変化し、試料の表面にピントが合ったときに受光量が最大となる。したがって、最大受光量が得られるときの試料と対物レンズとの相対距離から試料の表面の高さ情報を算出し、試料の表面を光で走査することによって試料の表面の高さ分布を取得することができる。   Since the confocal microscope scans the surface of the measurement object using laser light, it is also called a confocal laser microscope, a confocal scanning microscope, or the like. A confocal image obtained with a confocal microscope is also called a laser image. In a confocal microscope, light from a measurement object such as a sample or workpiece is received by a light receiving element via a confocal optical system, and an ultra-deep image of a sample (an image with a very deep depth of focus) based on the amount of received light. ) And height distribution. When the relative distance between the sample placed on the stage and the objective lens is changed in the direction of the optical axis, the amount of light incident on the light receiving element via the confocal optical system, that is, the amount of received light changes, and the surface of the sample is changed. The amount of light received is maximized when the subject is in focus. Therefore, the height information of the surface of the sample is calculated from the relative distance between the sample and the objective lens when the maximum amount of received light is obtained, and the height distribution of the surface of the sample is acquired by scanning the surface of the sample with light. be able to.

取得された高さ分布は、例えば三次元表示によって表示装置の画面上に表示される。あるいは、高さ分布を輝度分布や色分布に置き換えたものが画面上に表示される。表示装置としてCRT(陰極線管)やLCD(液晶表示装置)が使用され、共焦点顕微鏡に制御用のコントローラ、表示装置、コンソール等が接続されて共焦点顕微鏡が構成される。   The acquired height distribution is displayed on the screen of the display device by, for example, three-dimensional display. Alternatively, the height distribution replaced with a luminance distribution or a color distribution is displayed on the screen. A CRT (Cathode Ray Tube) or LCD (Liquid Crystal Display) is used as a display device, and a confocal microscope is configured by connecting a control controller, a display device, a console, and the like to the confocal microscope.

また、試料表面の各点(画素)でピントが合ったときの受光量の情報(すなわち各画素の最大輝度情報)をつなぎ合わせることにより、焦点深度の非常に深い試料表面の白黒画像を得ることができる。この画像がいわゆる超深度画像である。   Also, by combining the information on the amount of light received when each point (pixel) on the sample surface is in focus (that is, the maximum luminance information of each pixel), a black and white image of the sample surface with a very deep focal depth can be obtained. Can do. This image is a so-called ultra-deep image.

更に、白色光で照射された試料からの光を共焦点光学系から分離してカラー撮像素子で受光することにより、超深度画像と同じ範囲の試料表面のカラー画像を得ることができる。このカラー画像は超深度画像と異なり焦点深度の浅いものであるが、高さ分布情報に基づいてカラー画像の合焦位置の画素データをつなぎ合わせることにより、非常に焦点深度の深いカラー画像(カラーピーク画像ということもある)、及びカラーピーク画像の輝度信号を超深度画像の輝度信号で置き換えるような合成処理を行うことにより、焦点深度の深いカラー画像を得ることも可能である。   Furthermore, by separating the light from the sample irradiated with white light from the confocal optical system and receiving it with a color imaging device, a color image of the sample surface in the same range as the ultra-deep image can be obtained. Unlike the ultra-deep image, this color image has a shallow depth of focus, but by connecting pixel data at the in-focus position of the color image based on the height distribution information, a color image (color It is also possible to obtain a color image with a deep focal depth by performing a synthesis process that replaces the luminance signal of the color peak image with the luminance signal of the ultra-deep image.

このような本発明の実施の形態1に係る共焦点顕微鏡システムの概略構成を、図1に示す。また図2に、このシステム構成の外観斜視図、図3に共焦点顕微鏡本体の斜視図を、それぞれ示す。共焦点顕微鏡システム100は、共焦点光学系10及び非共焦点光学系50を有する共焦点顕微鏡本体1と、共焦点光学系10及び非共焦点光学系50で得られたアナログ信号を各々デジタル信号に変換する第1AD変換器41、第2AD変換器42、及びデジタル信号の信号処理等を行う制御部43等を含むコントローラ2と、コントローラ2に接続された操作手段3及び表示手段4とを備えている。また操作手段3には入力手段3Aが接続されている。   FIG. 1 shows a schematic configuration of the confocal microscope system according to the first embodiment of the present invention. 2 is an external perspective view of this system configuration, and FIG. 3 is a perspective view of the confocal microscope main body. The confocal microscope system 100 includes a confocal microscope main body 1 having a confocal optical system 10 and a non-confocal optical system 50, and analog signals obtained by the confocal optical system 10 and the non-confocal optical system 50, respectively, as digital signals. A controller 2 including a first AD converter 41, a second AD converter 42, a control unit 43 that performs digital signal processing, and the like, and an operation unit 3 and a display unit 4 connected to the controller 2. ing. The operation means 3 is connected to an input means 3A.

まず、共焦点顕微鏡の共焦点光学系10とその信号処理について説明する。共焦点光学系10は、試料WKに単色光(例えばレーザ光)を照射するための光源11、第1コリメートレンズ12、偏光ビームスプリッタ13、1/4波長板14、水平・垂直偏向装置15、第1リレーレンズ(fθレンズ)16、第2リレーレンズ(チューブレンズ)17、対物レンズ18、結像レンズ(ピンホールレンズ)19、ピンホール板20、受光素子21等を含んでいる。   First, the confocal optical system 10 of the confocal microscope and its signal processing will be described. The confocal optical system 10 includes a light source 11 for irradiating a sample WK with monochromatic light (for example, laser light), a first collimating lens 12, a polarizing beam splitter 13, a quarter wavelength plate 14, a horizontal / vertical deflecting device 15, A first relay lens (fθ lens) 16, a second relay lens (tube lens) 17, an objective lens 18, an imaging lens (pinhole lens) 19, a pinhole plate 20, a light receiving element 21 and the like are included.

光源11には、例えば紫色レーザ光や赤色レーザ光を発する半導体レーザが用いられる。光源11はレーザ駆動回路によって駆動される。レーザ駆動回路は、コントローラ2の制御部43によって制御される。光源11から出たレーザ光は、第1コリメートレンズ12を通り、偏光ビームスプリッタ13で光路を曲げられ、1/4波長板14を通過する。この後、水平・垂直偏向装置15によって水平(横)方向及び垂直(縦)方向に偏向された後、第1リレーレンズ16及び第2リレーレンズ17を通過し、対物レンズ18によってステージ30上に置かれた試料WKの表面に集光される。   As the light source 11, for example, a semiconductor laser that emits violet laser light or red laser light is used. The light source 11 is driven by a laser driving circuit. The laser driving circuit is controlled by the control unit 43 of the controller 2. The laser light emitted from the light source 11 passes through the first collimating lens 12, the optical path is bent by the polarization beam splitter 13, and passes through the quarter wavelength plate 14. Thereafter, the light is deflected in the horizontal (lateral) direction and the vertical (longitudinal) direction by the horizontal / vertical deflecting device 15, passes through the first relay lens 16 and the second relay lens 17, and is placed on the stage 30 by the objective lens 18. It is condensed on the surface of the placed sample WK.

水平・垂直偏向装置15は、それぞれガルバノミラーで構成され、レーザ光を水平及び垂直方向に偏向させることにより、試料WKの表面をレーザ光で走査する。説明の便宜上、水平方向をX方向、垂直方向をY方向ということにする。対物レンズ18は、対物レンズ移動機構によりZ方向(光軸方向)に駆動される。対物レンズ移動機構も、制御部43によって制御される。これにより、対物レンズ18の焦点と試料WKとの光軸方向での相対位置を変化させることができる。   The horizontal / vertical deflecting device 15 is composed of a galvanometer mirror, and scans the surface of the sample WK with the laser light by deflecting the laser light in the horizontal and vertical directions. For convenience of explanation, the horizontal direction is referred to as the X direction, and the vertical direction is referred to as the Y direction. The objective lens 18 is driven in the Z direction (optical axis direction) by the objective lens moving mechanism. The objective lens moving mechanism is also controlled by the control unit 43. Thereby, the relative position in the optical axis direction of the focus of the objective lens 18 and the sample WK can be changed.

なお、光による試料の走査は、水平偏向及び垂直偏向による二次元走査に限らず、種々の走査方法が考えられる。例えば、シリンドリカルレンズを用いてX方向に細長い光(スリット光)を生成し、これをY方向に偏向すれば、二次元走査が可能である。   Note that scanning of a sample by light is not limited to two-dimensional scanning by horizontal deflection and vertical deflection, and various scanning methods can be considered. For example, if a cylindrical lens is used to generate light that is elongated in the X direction (slit light) and is deflected in the Y direction, two-dimensional scanning is possible.

また、対物レンズ18の焦点と試料WKとの光軸方向での相対位置は、他の方法で変化させることもできる。例えば、対物レンズ18をZ軸方向に駆動する代わりに、或いはこれに加えてステージ30をZ軸方向に駆動してもよい。または、対物レンズ18と試料WKとの間に屈折率が変化するレンズを挿入することにより、対物レンズ18の焦点をZ軸方向に移動させる構成も可能である。   Further, the relative position of the focal point of the objective lens 18 and the sample WK in the optical axis direction can be changed by other methods. For example, instead of or in addition to driving the objective lens 18 in the Z-axis direction, the stage 30 may be driven in the Z-axis direction. Alternatively, a configuration in which the focal point of the objective lens 18 is moved in the Z-axis direction by inserting a lens whose refractive index changes between the objective lens 18 and the sample WK is also possible.

なお、ステージ30は、手動操作によってもX、Y方向及びZ方向に変位可能である。本実施の形態では、ステージを手動で移動させるためのステージ手動操作機構31を備えている。具体的には、図3に示すようにステージをX−Y方向に移動させるX方向移動摘み32及びY方向移動摘み33、ステージをZ方向に移動させるZ方向移動摘み34を設けている。X方向移動摘み32及びY方向移動摘み33は、摘みの回転を同軸として直径の異なるダイヤル状に構成しており、X−Y方向の調整を纏めて行い易くしている。一方、Z方向移動摘み34は、移動量の大きいダイヤルと移動量の小さいダイヤルを同軸に並べており、これにより大まかなピント調整と、ピントの微調整を容易に行える。   The stage 30 can be displaced in the X, Y, and Z directions by manual operation. In the present embodiment, a stage manual operation mechanism 31 for manually moving the stage is provided. Specifically, as shown in FIG. 3, an X direction moving knob 32 and a Y direction moving knob 33 for moving the stage in the XY direction, and a Z direction moving knob 34 for moving the stage in the Z direction are provided. The X-direction moving knob 32 and the Y-direction moving knob 33 are configured in dial shapes having different diameters with the knob rotating as the same axis, making it easy to adjust the X-Y directions together. On the other hand, the Z-direction moving knob 34 has a dial with a large amount of movement and a dial with a small amount of movement arranged on the same axis so that rough focus adjustment and fine focus adjustment can be easily performed.

試料WKで反射されたレーザ光は、上記の光路を逆に辿る。すなわち、対物レンズ18、第2リレーレンズ17及び第1リレーレンズ16を通り、水平・垂直偏向装置15を介して1/4波長板14を再び通る。この結果、レーザ光は偏光ビームスプリッタ13を透過し、結像レンズ19によって集光される。集光されたレーザ光は、結像レンズ19の焦点位置に配置されたピンホール板20のピンホールを通過して受光素子21に入射する。受光素子21は、例えばフォトマルチプライヤチューブ(PMT:光電子増倍管)やフォトダイオード(PD)で構成され、受光量を電気信号に変換する。受光量に相当する電気信号は、出力アンプ及びPMTの受光感度(PMTゲイン)の制御回路を構成する第1受光信号処理回路22を介して第1AD変換器41に与えられ、デジタル値に変換される。またピンホール板20はピンホールに代わってスリットを設けることもできる。スリットとCCD等の受光素子の組み合わせでも疑似的に共焦点画像を得ることができる。   The laser beam reflected by the sample WK follows the above optical path in reverse. That is, it passes through the objective lens 18, the second relay lens 17, and the first relay lens 16, and again passes through the quarter wavelength plate 14 via the horizontal / vertical deflection device 15. As a result, the laser beam passes through the polarization beam splitter 13 and is collected by the imaging lens 19. The condensed laser light passes through the pinhole of the pinhole plate 20 disposed at the focal position of the imaging lens 19 and enters the light receiving element 21. The light receiving element 21 is composed of, for example, a photomultiplier tube (PMT: photomultiplier tube) or a photodiode (PD), and converts the amount of received light into an electrical signal. An electric signal corresponding to the amount of received light is given to the first AD converter 41 via the first received light signal processing circuit 22 that constitutes an output amplifier and a control circuit for the received light sensitivity (PMT gain) of the PMT, and is converted into a digital value. The Further, the pinhole plate 20 can be provided with a slit instead of the pinhole. A pseudo confocal image can also be obtained by combining a slit and a light receiving element such as a CCD.

上記のような構成の共焦点光学系10により、試料WKの高さ(深さ)情報を取得することができる。以下に、その原理を簡単に説明する。上述のように、対物レンズ18が対物レンズ移動機構40によってZ方向(光軸方向)に駆動されると、対物レンズ18の焦点と試料WKとの光軸方向での相対距離が変化する。そして、対物レンズ18の焦点が試料WKの表面に結ばれたときに、試料WKの表面で反射されたレーザ光は上記の光路を経て結像レンズ19で集光され、殆どのレーザ光がピンホール板20のピンホールを通過する。したがって、このときに受光素子21の受光量が最大になる。逆に、対物レンズ18の焦点が試料WKの表面からずれている状態では、結像レンズ19によって集光されたレーザ光はピンホール板20からずれた位置に焦点を結ぶので、一部のレーザ光しかピンホールを通過することができない。その結果、受光素子21の受光量は著しく低下する。   With the confocal optical system 10 configured as described above, the height (depth) information of the sample WK can be acquired. The principle will be briefly described below. As described above, when the objective lens 18 is driven in the Z direction (optical axis direction) by the objective lens moving mechanism 40, the relative distance between the focal point of the objective lens 18 and the sample WK in the optical axis direction changes. Then, when the focal point of the objective lens 18 is focused on the surface of the sample WK, the laser light reflected by the surface of the sample WK is condensed by the imaging lens 19 through the optical path described above, and most of the laser light is pinned. Passes through the pinhole of the hall plate 20. Accordingly, at this time, the amount of light received by the light receiving element 21 is maximized. On the contrary, in a state where the focus of the objective lens 18 is deviated from the surface of the sample WK, the laser light condensed by the imaging lens 19 is focused at a position deviated from the pinhole plate 20, and therefore, some lasers. Only light can pass through the pinhole. As a result, the amount of light received by the light receiving element 21 is significantly reduced.

したがって、試料WKの表面の任意の点について、対物レンズ18をZ方向(光軸方向)に駆動しながら受光素子21の受光量を検出すれば、その受光量が最大になるときの対物レンズ18のZ方向位置(対物レンズ18の焦点と試料WKとの光軸方向での相対位置)を高さ情報として一義的に求めることができる。   Therefore, if the received light amount of the light receiving element 21 is detected while driving the objective lens 18 in the Z direction (optical axis direction) at any point on the surface of the sample WK, the objective lens 18 when the received light amount becomes maximum. The position in the Z direction (the relative position of the focal point of the objective lens 18 and the sample WK in the optical axis direction) can be uniquely determined as height information.

実際には、対物レンズ18を1ステップ(1ピッチ)移動するたびに水平・垂直偏向装置15によって試料WKの表面を走査して受光素子21の受光量を得る。対物レンズ18を高さ方向の移動範囲の下端から上端までZ方向に移動させたとき、走査範囲内の各点(画素)について、Z方向位置に応じて変化する受光量データが得られる。   Actually, every time the objective lens 18 is moved by one step (one pitch), the horizontal / vertical deflection device 15 scans the surface of the sample WK to obtain the amount of light received by the light receiving element 21. When the objective lens 18 is moved in the Z direction from the lower end to the upper end of the moving range in the height direction, received light amount data that changes in accordance with the position in the Z direction is obtained for each point (pixel) in the scanning range.

図4は、対物レンズ18のZ方向位置に応じて変化する受光量データの例を示すグラフである。このような受光量データに基づいて、最大受光量とそのときのZ方向位置が各点(画素)ごとに得られる。したがって、試料WKの表面高さのXY平面での分布が得られる。この処理は、操作手段3の外部コンピュータで実行される。   FIG. 4 is a graph showing an example of received light amount data that changes according to the position of the objective lens 18 in the Z direction. Based on such received light amount data, the maximum received light amount and the position in the Z direction at that time are obtained for each point (pixel). Therefore, the distribution of the surface height of the sample WK on the XY plane can be obtained. This process is executed by an external computer of the operation means 3.

得られた表面高さの分布情報は、いくつかの方法で操作手段3の表示手段4に表示することができる。例えば3次元表示によって試料の高さ分布(表面形状)を立体的に表示することができる。あるいは、高さデータを輝度データに変換することにより、明るさの二次元分布として表示できる。高さデータを色差データに変換することにより、高さの分布を色の分布として表示することもできる。   The obtained surface height distribution information can be displayed on the display means 4 of the operation means 3 by several methods. For example, the height distribution (surface shape) of the sample can be displayed three-dimensionally by three-dimensional display. Alternatively, it can be displayed as a two-dimensional distribution of brightness by converting the height data into luminance data. By converting the height data into color difference data, the height distribution can also be displayed as a color distribution.

また、XY走査範囲内の各点(画素)について得られた受光量を輝度データとする輝度信号から、試料WKの表面画像(白黒画像)が得られる。各画素における最大受光量を輝度データとして輝度信号を生成すれば、表面高さの異なる各点でピントの合った焦点深度の非常に深い超深度画像が得られる。また、任意の注目画素で最大受光量が得られた高さ(Z方向位置)に固定した場合は、注目画素の部分と高低差が大きい部分の画素の受光量は著しく小さくなるので、注目画素と同じ高さの部分のみが明るい画像が得られる。
(非共焦点光学系50)
Further, a surface image (black and white image) of the sample WK is obtained from a luminance signal that uses the received light amount obtained for each point (pixel) in the XY scanning range as luminance data. If a luminance signal is generated by using the maximum amount of received light in each pixel as luminance data, an ultra-deep image having a very deep focal depth in focus at each point having a different surface height can be obtained. In addition, when the height (Z-direction position) at which the maximum light reception amount is obtained at any target pixel is fixed, the light reception amount of the pixel of the target pixel portion and the portion having a large difference in height is significantly reduced. A bright image is obtained only at the same height.
(Non-confocal optical system 50)

次に、共焦点顕微鏡に備えられた非共焦点光学系50とその信号処理について説明する。非共焦点光学系50は、試料WKに白色光(カラー画像撮影用の照明光)を照射するための白色光源51、第2コリメートレンズ(コンデンサレンズ)52、第1ハーフミラー53、第2ハーフミラー54、第2受光素子55等を含んでいる。また、非共焦点光学系50は共焦点光学系10の対物レンズ18を共用しており、2つの光学系10、50の光軸は部分的に一致している。   Next, the non-confocal optical system 50 provided in the confocal microscope and its signal processing will be described. The non-confocal optical system 50 includes a white light source 51, a second collimating lens (condenser lens) 52, a first half mirror 53, and a second half for irradiating the sample WK with white light (illumination light for photographing a color image). A mirror 54, a second light receiving element 55, and the like are included. Further, the non-confocal optical system 50 shares the objective lens 18 of the confocal optical system 10, and the optical axes of the two optical systems 10 and 50 are partially coincident.

白色光源51には例えば白色ランプが用いられるが、特に専用の光源を設けず、自然光又は室内光を利用してもよい。白色光源51から出た白色光は、第2コリメートレンズ52を通り、第1ハーフミラー53で光路を曲げられ、対物レンズ18によってステージ30上に置かれた試料WKの表面に集光される。   For example, a white lamp is used as the white light source 51, but natural light or room light may be used without providing a special light source. The white light emitted from the white light source 51 passes through the second collimating lens 52, the optical path is bent by the first half mirror 53, and is condensed on the surface of the sample WK placed on the stage 30 by the objective lens 18.

試料WKで反射された白色光は、対物レンズ18、第1ハーフミラー53、第2リレーレンズ17を通過し、第2ハーフミラー54で反射されて第2受光素子55に入射して結像する。第2受光素子55は、共焦点光学系10のピンホール板20のピンホールと共役又は共役に近い位置に設けられている。第2受光素子55は、カラーCCDやCMOS等のイメージセンサ、エリアセンサが利用できる。第2受光素子55で撮像されたカラーの光学画像(以下、「カメラ画像」という。)は、第2受光信号処理回路56によって読み出され、そのアナログ出力信号は第2AD変換器42に与えられ、デジタル値に変換される。このようにして得られたカメラ画像は、試料WKの観察用の拡大カラー画像として操作手段3の表示手段4に表示される。   The white light reflected by the sample WK passes through the objective lens 18, the first half mirror 53, and the second relay lens 17, is reflected by the second half mirror 54, and enters the second light receiving element 55 to form an image. . The second light receiving element 55 is provided at a position conjugate to or close to the conjugate with the pinhole of the pinhole plate 20 of the confocal optical system 10. As the second light receiving element 55, an image sensor such as a color CCD or CMOS or an area sensor can be used. A color optical image (hereinafter referred to as “camera image”) picked up by the second light receiving element 55 is read by the second light receiving signal processing circuit 56, and its analog output signal is given to the second AD converter 42. , Converted to a digital value. The camera image obtained in this way is displayed on the display means 4 of the operation means 3 as an enlarged color image for observation of the sample WK.

また、共焦点光学系10で得られた超深度画像と非共焦点光学系50で得られた通常のカメラ画像とを組み合わせて、すべての画素で略ピントの合った焦点深度の深いカラー超深度画像を生成し、表示することもできる。例えば、非共焦点光学系50で得られたカメラ画像を構成する輝度信号を共焦点光学系10で得られた超深度画像の輝度信号で置き換えることにより、簡単にカラー超深度画像を生成することができる。   Further, by combining the ultra-deep image obtained by the confocal optical system 10 and the normal camera image obtained by the non-confocal optical system 50, a color super-depth with a deep focus depth that is in focus at all pixels. Images can also be generated and displayed. For example, a color ultra-deep image can be easily generated by replacing the luminance signal constituting the camera image obtained by the non-confocal optical system 50 with the luminance signal of the ultra-deep image obtained by the confocal optical system 10. Can do.

上記のようなカメラ画像に関する処理についても、操作手段3が司る。操作手段3にはコンソール(操作卓)のような入力手段やCRT(陰極線管)、LCD(液晶表示装置)のような表示手段4が接続されている。また、マウスのようなポインティングデバイスも入力手段として接続される。   The operation means 3 also controls processing related to the camera image as described above. The operation means 3 is connected to an input means such as a console (display console) and a display means 4 such as a CRT (cathode ray tube) and an LCD (liquid crystal display device). A pointing device such as a mouse is also connected as input means.

また、共焦点顕微鏡システム100のコントローラ2には、パーソナルコンピュータのような外部コンピュータシステムを接続するインターフェイスが備えられている。顕微鏡システム100の制御を行なうための専用ソフトウェアをインストールした外部コンピュータシステムを操作手段3としてコントローラ2に接続することにより、取得された試料WKの画像データから超深度画像やカラー超深度画像、高さ分布情報等を求めることができる。
(実施の形態2)
The controller 2 of the confocal microscope system 100 is provided with an interface for connecting an external computer system such as a personal computer. By connecting an external computer system in which dedicated software for controlling the microscope system 100 is installed to the controller 2 as the operation means 3, an ultra-depth image, a color ultra-depth image, and a height are obtained from the acquired image data of the sample WK. Distribution information and the like can be obtained.
(Embodiment 2)

上記の実施の形態1では、白色光源51と第2コリメートレンズ52を使用して非共焦点画像を取得している。一方、この例に限られず、非共焦点光学系に白色光源等を使用せず、モノクロの非共焦点画像を得ることもできる。このような構成を採用した実施の形態2に係る共焦点顕微鏡システム200のブロック図を図5に示す。この図において、図1と同じ部材については同じ番号を付して詳細説明を省略する。   In the first embodiment, the non-confocal image is acquired using the white light source 51 and the second collimating lens 52. On the other hand, the present invention is not limited to this example, and a monochrome non-confocal image can be obtained without using a white light source or the like in the non-confocal optical system. FIG. 5 shows a block diagram of a confocal microscope system 200 according to the second embodiment that employs such a configuration. In this figure, the same members as those in FIG.

図5の例では、非共焦点画像を取得するのに白色光源を使用せず、共焦点画像を取得するために使用するレーザ光源を、非共焦点画像を取得するためにも共用している。これにより、白色光源とコンデンサレンズを省略でき、光学系をコンパクトに設計することが可能となる。   In the example of FIG. 5, a white light source is not used to acquire a non-confocal image, and a laser light source used to acquire a confocal image is also shared to acquire a non-confocal image. . Thereby, the white light source and the condenser lens can be omitted, and the optical system can be designed compactly.

また図1の例では、非共焦点光学系50は第2リレーレンズ17と対物レンズ18との間に配置されているが、図5の例では非共焦点光学系50を偏光ビームスプリッタ13と結像レンズ19の間に第2ハーフミラー54を配置している。このように、非共焦点光学系50を共焦点光学系10、具体的には第2受光素子55を受光素子21に近付けて両者が利用する光学系を共用することで、二つの光学系の光軸合わせ、画像の位置合わせが不要となり、また、収差等の特性も一致するため両画像の不整合も実質起こらない。   In the example of FIG. 1, the non-confocal optical system 50 is disposed between the second relay lens 17 and the objective lens 18, but in the example of FIG. 5, the non-confocal optical system 50 is replaced with the polarization beam splitter 13. A second half mirror 54 is disposed between the imaging lenses 19. In this way, the non-confocal optical system 50 is brought close to the confocal optical system 10, more specifically, the second light receiving element 55 is brought close to the light receiving element 21, and the optical system used by both is shared. Optical axis alignment and image alignment are not required, and characteristics such as aberration coincide with each other, so that there is substantially no mismatch between the two images.

これら実施の形態1、2の共焦点顕微鏡システム100、200では、共焦点顕微鏡本体1にコントローラ2に接続し、さらにコントローラ2に操作手段3として外部コンピュータを接続してデータ通信を行い、共焦点顕微鏡本体1で測定された共焦点画像やカメラ画像を外部コンピュータで取り込み、加工や処理を行うと共に、共焦点顕微鏡の設定や操作を外部コンピュータから行う。また外部コンピュータのモニタを、表示手段4として利用できる。外部コンピュータには、汎用のコンピュータを使用し、共焦点顕微鏡操作プログラムをインストールすることで、共焦点顕微鏡の操作装置として機能させることができる。なお、上記の例では共焦点顕微鏡本体とコントローラとを別部材としているが、これらを統合することもできる。あるいは、コントローラを操作手段と一体に構成してもよい。   In the confocal microscope systems 100 and 200 according to the first and second embodiments, the confocal microscope main body 1 is connected to the controller 2, and an external computer is connected to the controller 2 as the operation means 3 to perform data communication. A confocal image and a camera image measured by the microscope main body 1 are captured by an external computer, processed and processed, and a confocal microscope is set and operated from the external computer. An external computer monitor can be used as the display means 4. A general-purpose computer can be used as the external computer, and a confocal microscope operating program can be installed to function as a confocal microscope operating device. In the above example, the confocal microscope main body and the controller are separate members, but they can also be integrated. Or you may comprise a controller integrally with an operation means.

操作手段3は、画像処理装置として機能する。ここでは、操作手段3は外部から共焦点画像などの画像データを入力するための画像データ入力部44と、各種の画像処理を行うための画像処理演算部45と、画像データを表示手段4に表示させるための表示用画像生成部46を備える。操作手段3として、共焦点顕微鏡操作プログラムをインストールしたコンピュータを使用することで、これら画像データ入力部44、画像処理演算部45、表示用画像生成部46の機能をコンピュータに実現させることができる。
(共焦点顕微鏡操作プログラム)
The operation means 3 functions as an image processing device. Here, the operation unit 3 includes an image data input unit 44 for inputting image data such as a confocal image from the outside, an image processing calculation unit 45 for performing various image processes, and image data to the display unit 4. A display image generation unit 46 for display is provided. By using a computer in which the confocal microscope operation program is installed as the operation means 3, the functions of the image data input unit 44, the image processing calculation unit 45, and the display image generation unit 46 can be realized by the computer.
(Confocal microscope operation program)

本明細書において共焦点顕微鏡は、共焦点画像の測定や表示を行うシステムそのもの、ならびに共焦点画像測定や表示に関連する入出力、表示、演算、通信その他の処理をハードウェア的に行う装置や方法に限定するものではない。ソフトウェア的に処理を実現する装置や方法も本発明の範囲内に包含する。例えば汎用の回路やコンピュータにソフトウェアやプログラム、プラグイン、オブジェクト、ライブラリ、アプレット、スクリプレット、コンパイラ、モジュール、特定のプログラム上で動作するマクロ等を組み込んで文章表示や文章表示形式付与設定そのものあるいはこれに関連する処理を可能とした汎用あるいは専用のコンピュータ、ワークステーション、携帯型電子機器その他の電子デバイスも、本発明の共焦点顕微鏡、共焦点顕微鏡操作プログラムの少なくともいずれかに含まれる。また本明細書においては、プログラム自体も共焦点顕微鏡に含むものとする。また本プログラムは単体で使用するものに限られず、特定のコンピュータプログラムやソフトウェア、サービス等の一部として機能する態様や、必要時に呼び出されて機能する態様、OS等の環境においてサービスとして提供される態様、環境に常駐して動作する態様、バックグラウンドで動作する態様やその他の支援プログラムという位置付けで使用することもできる。
(接続、通信形態)
In this specification, a confocal microscope is a system that performs measurement and display of confocal images, as well as an apparatus that performs input / output, display, calculation, communication, and other processing related to confocal image measurement and display in hardware. It is not limited to the method. An apparatus and method for realizing processing by software are also included in the scope of the present invention. For example, software or programs, plug-ins, objects, libraries, applets, scriptlets, compilers, modules, macros that run on specific programs, etc. are incorporated into general-purpose circuits or computers, or text display and text display format assignment settings themselves or this A general-purpose or dedicated computer, workstation, portable electronic device, or other electronic device that can perform the processing related to the above is also included in at least one of the confocal microscope and the confocal microscope operation program of the present invention. In this specification, the program itself is also included in the confocal microscope. In addition, this program is not limited to the one used alone, but is provided as a service in an environment that functions as a part of a specific computer program, software, service, etc., an aspect that is called and functions when necessary, and an environment such as an OS. It can also be used as a mode, a mode that operates resident in the environment, a mode that operates in the background, and other support programs.
(Connection, communication form)

本発明の実施の形態において使用されるコンピュータやコントローラ、顕微鏡その他これらに接続される操作、制御、入出力、表示、各種処理その他のためのコンピュータ、あるいはプリンタ等その他の周辺機器との接続は、例えばIEEE1394、RS−232xやRS−422、RS−485、RS−232x、RS−422、RS−423、RS−485、USB等のシリアル接続、パラレル接続、あるいは10BASE−T、100BASE−TX、1000BASE−T等のネットワークを介して電気的に接続して通信を行うことができる。接続は有線を使った物理的な接続に限られず、IEEE802.1x、OFDM方式等の無線LANやBluetooth等の電波、赤外線、光通信等を利用した無線接続等でもよい。さらにデータの交換や設定の保存等を行うための記録媒体には、メモリカードや磁気ディスク、光ディスク、光磁気ディスク、半導体メモリ等が利用できる。
(画像処理プログラム)
Computers and controllers used in the embodiments of the present invention, microscopes and other computers connected for operation, control, input / output, display, various processing, etc., or connection with other peripheral devices such as printers, For example, IEEE1394, RS-232x, RS-422, RS-485, RS-232x, RS-422, RS-423, RS-485, serial connection such as USB, parallel connection, or 10BASE-T, 100BASE-TX, 1000BASE It is possible to communicate by electrically connecting via a network such as -T. The connection is not limited to a physical connection using a wire, but may be a wireless connection using a wireless LAN such as IEEE 802.1x or OFDM, radio waves such as Bluetooth, infrared rays, optical communication, or the like. Furthermore, a memory card, a magnetic disk, an optical disk, a magneto-optical disk, a semiconductor memory, or the like can be used as a recording medium for exchanging data or storing settings.
(Image processing program)

図6〜図22は、拡大観察装置操作プログラムの一例として、フーリエ変換画像に対して周波数フィルタを適用する画像処理プログラムのユーザインターフェース画面の一例を示す。この画像処理プログラムは、予め共焦点画像等の入力画像に対してフーリエ変換を行ったフーリエ変換画像に対して、ハイパスフィルタ、ローパスフィルタ等の周波数フィルタを適用し、さらに逆フーリエ変換を行って入力画像に変換する。これにより、ノイズ除去や平滑化などの画像処理を共焦点画像等の入力画像に対して行うことができる。
(画像表示領域61)
6 to 22 show an example of a user interface screen of an image processing program that applies a frequency filter to a Fourier transform image as an example of the magnification observation apparatus operation program. This image processing program applies a frequency filter such as a high-pass filter and a low-pass filter to a Fourier transform image obtained by performing a Fourier transform on an input image such as a confocal image in advance, and further performs an inverse Fourier transform to input the image. Convert to image. As a result, image processing such as noise removal and smoothing can be performed on an input image such as a confocal image.
(Image display area 61)

図6の例では、画像処理プログラムのユーザインターフェース画面は、画面左側に配置した画像表示領域61と、その右側に配置した操作領域62とを備える。画像表示領域61にはフーリエ変換画像FGが表示されている。ここでは、周波数をXY座標で示すと共に、該周波数におけるパワースペクトルが高いほど赤く、低いほど青くなるように、画素毎に色分けして表示される。図6の例では、座標軸の中心近傍で赤い点が多く、周波数分布が低い帯域に集中していることが判る。
(操作領域62)
In the example of FIG. 6, the user interface screen of the image processing program includes an image display area 61 arranged on the left side of the screen and an operation area 62 arranged on the right side thereof. In the image display area 61, a Fourier transform image FG is displayed. Here, the frequency is indicated by XY coordinates, and the color is displayed for each pixel so that the higher the power spectrum at the frequency, the higher the red, and the lower the power spectrum. In the example of FIG. 6, it can be seen that there are many red dots near the center of the coordinate axis, and the frequency distribution is concentrated in a low band.
(Operation area 62)

操作領域62には、マスクの種類を選択するマスク欄110と、選択されたマスクの種類に応じて設定項目を表示する詳細設定欄111と、画像表示領域61上でマウスカーソルで指示した部分を拡大表示する拡大表示欄112と、演算実行のための演算実行欄113とを備える。マスク欄110では、マスク領域を指定するためのマスク手段として、周波数フィルタとマスク形状指定のいずれかをラジオボタンで選択可能としている。
(マスク領域指定手段)
The operation area 62 includes a mask field 110 for selecting a mask type, a detailed setting field 111 for displaying setting items in accordance with the selected mask type, and a portion designated by the mouse cursor on the image display area 61. An enlarged display column 112 for enlarged display and a calculation execution column 113 for calculation execution are provided. In the mask column 110, either a frequency filter or a mask shape designation can be selected with a radio button as a mask means for designating a mask region.
(Mask area designation means)

ここでマスク形状指定を選択すると、図7に示すように、マスク形状指定欄114が表示され、マスク領域指定手段でフーリエ変換画像FGの特定の場所をマスクする。ここでは、マスク領域の形状として同心円、矩形、ブラシが選択でき、マスク形状指定欄114に設けられたマスク領域指定手段として、「同心円」ボタン114a、「矩形」ボタン114b、「ブラシ」ボタン114cのいずれかを押下することで、画像表示領域61に該当するマスク形状が表示される。例えば「矩形」ボタン114bを押下すると、矩形状のマスク領域MRが、図8のように座標軸の原点に対して対称に現れる。マスク領域MRのサイズは、マウス操作により任意に調整できる。例えば矩形状のマスク領域の四隅に現れるハンドルを操作したり、あるいはマスク領域をドラッグして移動させる等の方法が適宜利用できる。また「同心円」ボタン114aでは、原点を中心軸とする同心円状のマスク領域を適用できる。また「ブラシ」ボタン114cでは、マウスカーソルでなぞった軌跡をマスク領域として設定できる。このように、ポインティングデバイスによりマスク領域を設定することができるので、難解な数式を設定したりパラメータを多数設定することなく、ユーザが所望する領域をマスク領域として平易に設定することができる。このマスク領域を適応させた逆フーリエ変換画像、つまりフィルタが適用された画像を同時に表示させる機能については後述する。なおローパスフィルタ等の設定にも適用できることは言うまでも無い。   When the mask shape designation is selected here, as shown in FIG. 7, a mask shape designation field 114 is displayed, and a specific area of the Fourier transform image FG is masked by the mask area designation means. Here, concentric circles, rectangles, and brushes can be selected as the shape of the mask region. As mask region designation means provided in the mask shape designation column 114, a “concentric circle” button 114a, a “rectangular” button 114b, and a “brush” button 114c are used. By pressing one of them, the mask shape corresponding to the image display area 61 is displayed. For example, when the “rectangular” button 114b is pressed, a rectangular mask region MR appears symmetrically with respect to the origin of the coordinate axes as shown in FIG. The size of the mask region MR can be arbitrarily adjusted by operating the mouse. For example, methods such as operating handles appearing at the four corners of a rectangular mask region or dragging and moving the mask region can be used as appropriate. The “concentric circle” button 114a can apply a concentric mask region having the origin as the central axis. Further, with the “brush” button 114c, a locus traced with the mouse cursor can be set as a mask area. As described above, since the mask area can be set by the pointing device, the area desired by the user can be easily set as the mask area without setting a difficult mathematical formula or setting a large number of parameters. The function of simultaneously displaying the inverse Fourier transform image to which the mask region is adapted, that is, the image to which the filter is applied will be described later. Needless to say, the present invention can also be applied to the setting of a low-pass filter or the like.

またマスク領域指定手段の下段には、設定されたマスク領域を反転選択する、すなわちマスク領域の枠内から、枠外の指定に切り替えるための「反転」ボタン114d、設定されたマスク領域を解除するための「クリア」ボタン114e、マスク領域をさらに追加するための「追加」ボタン114fが設けられる。これらを利用することで、マスク領域の設定作業を容易にできる。   Further, in the lower part of the mask area designating means, the set mask area is selected in reverse, that is, an “invert” button 114d for switching from the inside of the mask area to the designation outside the frame, in order to release the set mask area "Clear" button 114e and "Add" button 114f for further adding a mask area are provided. By using these, the mask region setting operation can be facilitated.

加えて、これらの下段には、設定されたマスク領域のデータ(サイズ及び位置)をファイルとして名前を付けて保存するための「ファイル保存」ボタン114g、及び保存されたマスク領域のデータを呼び出すための「ファイル読込」ボタン114hも設けられる。これにより、一旦設定したマスク領域を再利用することができ、予め登録されたマスク領域を選択して利用するなど、利便性を向上できる。   In addition, in the lower part of these, a “file save” button 114g for saving the data (size and position) of the set mask area as a file and saving it, and for calling up the data of the saved mask area A “file read” button 114h is also provided. Thereby, the mask area once set can be reused, and convenience such as selecting and using a mask area registered in advance can be improved.

マスク領域が指定されると、演算実行欄113の「演算実行」ボタン113aを押下することで周波数フィルタ処理が実行され、処理後のフーリエ変換画像FGが画像表示領域61に表示される。また、「演算実行」ボタン113aの押下前でも「プレビュー」ボタン113bを押下すれば、元の画像に周波数フィルタ処理したイメージ画像がプレビュー表示される。プレビュー表示は、画像表示欄の他、別ウィンドウなどでプレビュー欄を設けて表示させることもできる。また「リセット」ボタン113cを押下すれば、マスク領域の設定や周波数フィルタ処理後であっても、元のフーリエ変換画像FGに戻すことができる。
(パワースペクトル調整手段)
When the mask area is designated, the “filtering” button 113a in the calculation execution column 113 is pressed to execute the frequency filter process, and the processed Fourier transform image FG is displayed in the image display area 61. If the “Preview” button 113b is pressed even before the “Calculation execution” button 113a is pressed, an image image subjected to frequency filter processing is previewed on the original image. The preview display can be displayed by providing a preview field in another window or the like in addition to the image display field. If the “reset” button 113c is pressed, the original Fourier transform image FG can be restored even after the mask region setting and frequency filter processing.
(Power spectrum adjustment means)

一方、画像表示領域61の下段には、フーリエ変換画像FGのパワースペクトルのカラー表示を調整するパワースペクトル調整手段として、パワースペクトル欄115にパワースペクトル調整スライダ115aが設けられる。パワースペクトルは、フーリエ変換画像FG中の各周波数毎の強度を表すものであり、例えばモノクロで表示すれば明るいほど強度が高く、暗いほど強度が低いように表示できる。この様子をさらに判り易くするために、図8等の例では強度が高い部分を赤く、低い部分を青く表現するように着色表示している。パワースペクトル調整スライダ115aを調整することで、青〜赤のグラデーションを、パワースペクトル強度のどの範囲に割り当てるかを調整できる。例えば右にスライドすると全体的に赤く、左にスライドすると全体的に青くなるように調整される。これによりパワースペクトルの見易さをユーザが自由に調整できる。
(スケール切替手段)
On the other hand, in the lower part of the image display area 61, a power spectrum adjustment slider 115a is provided in the power spectrum column 115 as power spectrum adjustment means for adjusting the color display of the power spectrum of the Fourier transform image FG. The power spectrum represents the intensity for each frequency in the Fourier transform image FG. For example, when displayed in monochrome, the intensity is higher as it is brighter and the intensity is lower as it is darker. In order to make this state easier to understand, in the example of FIG. 8 and the like, the high intensity portion is colored and displayed so that the low portion is blue. By adjusting the power spectrum adjustment slider 115a, it is possible to adjust to which range of the power spectrum intensity the blue to red gradation is assigned. For example, it is adjusted so that it slides to the right and turns red overall, and slides to the left to turn blue. Thereby, the user can freely adjust the visibility of the power spectrum.
(Scale switching means)

またパワースペクトル調整スライダ115aの右には、フーリエ変換画像FGを表示するXY軸のスケールを切り替えるスケール切替手段として、プルダウンメニュー115bを設けており、「リニアスケール」又は「Logスケール」を選択できる。画像表示領域61に表示されるフーリエ変換画像FGは、横軸及び縦軸が周波数で表示されており、この周波数の軸をリニアスケールで表示するか、Log(対数)スケールで表示するかを切り換えることができる。   Further, on the right side of the power spectrum adjustment slider 115a, a pull-down menu 115b is provided as scale switching means for switching the scale of the XY axes for displaying the Fourier transform image FG, and “linear scale” or “Log scale” can be selected. In the Fourier transform image FG displayed in the image display area 61, the horizontal axis and the vertical axis are displayed as frequencies, and the frequency axis is switched between linear scale display and log (logarithmic) scale display. be able to.

このようにして周波数フィルタ処理した後、逆フーリエ変換を行って元の入力画像(ここでは共焦点画像)に再変換することで、特定の処理を行った共焦点画像が得られる。例えば、図9の共焦点画像の元画像CI1に対して、ローパスフィルタを適用すると図10の画像CI2が、ハイパスフィルタを適用すると図11の画像CI3が、それぞれ得られる。   After performing frequency filter processing in this way, inverse Fourier transform is performed to reconvert to the original input image (here, a confocal image), thereby obtaining a confocal image subjected to specific processing. For example, when the low pass filter is applied to the original image CI1 of the confocal image of FIG. 9, the image CI2 of FIG. 10 is obtained, and when the high pass filter is applied, the image CI3 of FIG. 11 is obtained.

共焦点顕微鏡画像に代表される顕微鏡画像は、取得後多くの場合ノイズ除去のため、画像処理が行われる。その手法の一つとして、周波数フィルタが存在するが、どの周波数を除去すればよいかが判り難いため、従来よりフーリエ変換画像を表示させていた。   Microscope images represented by confocal microscope images are often subjected to image processing for noise removal after acquisition. As one of the methods, there is a frequency filter, but since it is difficult to determine which frequency should be removed, a Fourier transform image has been displayed conventionally.

しかしながら、初心者にとってはフーリエ変換画像でさえも、判り難いものであり、どの周波数をカットすればよいのかが把握できなかった。そこで本実施の形態では、フーリエ変化画像に、ローパス・ハイパス等の設定に対してどの部分についてフィルタがかかるのか視覚的に判り易くしている。
(周波数フィルタ)
However, even a Fourier transform image is difficult to understand for beginners, and it was impossible to grasp which frequency should be cut. Therefore, in this embodiment, it is easy to visually understand which part of the Fourier change image is subjected to the filter with respect to the setting such as low pass and high pass.
(Frequency filter)

マスク欄110で周波数フィルタを選択すると、図6に示すような画面に切り替えられる。操作領域62の詳細設定欄111が変化し、マスク領域指定手段として周波数フィルタ欄116が設けられる。周波数フィルタ欄116では、周波数フィルタ選択部116a、フィルタ方向選択部116b、フィルタ強弱調整部116cが設けられる。周波数フィルタ選択部116aでは、ハイパスフィルタ、ローパスフィルタなど、周波数フィルタの種別がプルダウンメニューから選択できる。またフィルタ方向選択部116bでは、X方向、Y方向、全方向など、周波数フィルタを適用する方向をプルダウンメニューから選択できる。さらにフィルタ強弱調整部116cでは、周波数フィルタの強弱をスライダで連続的に調整できる。
(ハイパスフィルタ)
When a frequency filter is selected in the mask column 110, a screen as shown in FIG. 6 is switched. The detailed setting field 111 of the operation area 62 changes, and a frequency filter field 116 is provided as a mask area designating means. In the frequency filter column 116, a frequency filter selection unit 116a, a filter direction selection unit 116b, and a filter strength adjustment unit 116c are provided. In the frequency filter selection unit 116a, the type of frequency filter such as a high-pass filter and a low-pass filter can be selected from a pull-down menu. Further, the filter direction selection unit 116b can select a direction to apply the frequency filter from the pull-down menu, such as the X direction, the Y direction, and all directions. Further, the filter strength adjustment unit 116c can continuously adjust the strength of the frequency filter with a slider.
(High pass filter)

図6の例では、周波数フィルタ欄116でハイパスフィルタの全方向を選択しており、この設定に応じて画像表示領域61では、周波数フィルタの適用範囲、すなわちマスクしてカットされる領域が網掛け表示される。ここではハイパスフィルタであるため、低周波領域、すなわち座標軸原点近傍の領域がマスクされることになる。図6では、フィルタ強弱調整部116cのスライダを弱付近に設定しているため、座標軸原点を中心とする小さな円状にフィルタ適用範囲(マスク領域MR)が表示されているが、図12〜図14に示すように、スライダを操作して強の方向に強めていく程、フィルタ適用範囲を示す同心円の半径が大きくなり、フィルタの適用範囲が広くなることが確認できる。これにより、ユーザは周波数フィルタの適用範囲を視覚的に確認できるので、フィルタの意味を知らなくともフィルタを利用することができる。ハイパスフィルタを適用すると、共焦点画像は図9に示す画像CI1から図11に示す画像CI3に変化し、エッジ部分が強調されてそれ以外の部分はカットされた画像となる。なおスライダの移動に合わせて、設定されるハイパスフィルタを適用し、その設定と同期して逆フーリエ変換後の画像を同時に表示しても良い。このことにより、より最適なフィルタをユーザが的確に設定することが容易となる。   In the example of FIG. 6, all directions of the high-pass filter are selected in the frequency filter column 116, and in the image display area 61 according to this setting, the application range of the frequency filter, that is, the area to be cut by masking is shaded. Is displayed. Here, since it is a high-pass filter, the low-frequency region, that is, the region near the origin of the coordinate axis is masked. In FIG. 6, since the slider of the filter strength adjustment unit 116c is set near weak, the filter application range (mask region MR) is displayed in a small circle centered on the origin of the coordinate axis. As shown in FIG. 14, it can be confirmed that the concentric radius indicating the filter application range increases as the slider is operated in a stronger direction, and the filter application range becomes wider. Thereby, since the user can visually confirm the application range of the frequency filter, the user can use the filter without knowing the meaning of the filter. When the high-pass filter is applied, the confocal image changes from the image CI1 shown in FIG. 9 to the image CI3 shown in FIG. 11, and the edge portion is emphasized and the other portions are cut. Note that a high-pass filter that is set may be applied in accordance with the movement of the slider, and the image after inverse Fourier transform may be displayed simultaneously in synchronization with the setting. This makes it easier for the user to set a more optimal filter accurately.

なお、ここでは同心円状のマスク領域MRを指定する例を説明したが、X方向、Y方向に等価なマスク形状であればこれに限られず、例えばX軸、Y軸上に頂点が位置する菱形形状等も使用できる。
(ローパスフィルタ)
Here, an example in which the concentric mask region MR is designated has been described. However, the mask shape is not limited to this as long as it is an equivalent mask shape in the X direction and the Y direction. For example, a rhombus whose apex is located on the X axis and the Y axis Shapes can also be used.
(Low-pass filter)

一方、図15〜図18は、ローパスフィルタを全方向に適用した例を示している。ローパスフィルタでは、ハイパスフィルタと逆に高周波成分を除去するフィルタであり、図15の例では座標軸から遠い位置、すなわち原点を中心とする同心円の外側の領域がカットされる。このことが図15の画像表示領域61中で網掛け表示によって示される。また、この例においても、フィルタ強弱調整部116cのスライダを弱から強に近付けるほど、カットされる範囲が広くなる、すなわち同心円が小さくなり、円の外側のフィルタ範囲が広くなる様子が視覚的に確認できる。ローパスフィルタを適用すると、共焦点画像は図9に示す画像CI1から図10に示す画像CI2に変化し、ノイズ部分が除去されて平滑化された画像となる。   On the other hand, FIGS. 15 to 18 show examples in which the low-pass filter is applied in all directions. In contrast to the high-pass filter, the low-pass filter is a filter that removes high-frequency components. In the example of FIG. 15, a position far from the coordinate axis, that is, a region outside the concentric circle centered on the origin is cut. This is indicated by a shaded display in the image display area 61 of FIG. Also in this example, the closer the slider of the filter strength adjustment unit 116c is from weak to strong, the wider the cut range, that is, the smaller the concentric circle and the wider the filter range outside the circle visually. I can confirm. When the low-pass filter is applied, the confocal image changes from the image CI1 shown in FIG. 9 to the image CI2 shown in FIG. 10, and becomes a smoothed image with the noise portion removed.

このように、ユーザに各フィルタの適用される範囲を視覚的に示すことができ、ユーザはフィルタの意味が判らなくともイメージ的にフィルタの効果を把握できる利点が得られる。
(X軸、Y軸方向へのフィルタ)
In this way, the range in which each filter is applied can be visually shown to the user, and the user can obtain an advantage of grasping the effect of the filter in an image without knowing the meaning of the filter.
(Filters in the X-axis and Y-axis directions)

上記では、2次元画像に対してX軸、Y軸に対称に、すなわち全方向にフィルタを適用する例を説明した。これに限らず、周波数フィルタはX軸、Y軸いずれかの方向にのみ適用することもできる。図19は、X方向にのみローパスフィルタを適用する例を示している。このように、低周波成分のみを通過させ高周波成分をカットするローパスフィルタをX方向にのみ適用すれば、X軸方向の周波数の高い成分をカットするように、すなわち座標軸のY軸に関して対称に、Y軸に平行な直線で区画された領域を残して、外側をカットする様子が画像表示領域61における網掛けで確認できる。同様に、図20に示すようにY軸方向にのみローパスフィルタを適用する例では、Y軸方向の周波数の高い成分をカットするように、すなわちX軸に関して対称に、X軸に平行な直線で区画された領域を残して、外側をカットする様子が画像表示領域61における網掛けで確認できる。   In the above description, the example in which the filter is applied to the two-dimensional image symmetrically with respect to the X axis and the Y axis, that is, in all directions has been described. However, the present invention is not limited to this, and the frequency filter can be applied only in either the X-axis or Y-axis direction. FIG. 19 shows an example in which the low-pass filter is applied only in the X direction. Thus, if a low-pass filter that passes only a low frequency component and cuts a high frequency component is applied only in the X direction, a component having a high frequency in the X axis direction is cut, that is, symmetrical with respect to the Y axis of the coordinate axis. It can be confirmed by shading in the image display area 61 that the outer side is cut while leaving the area partitioned by straight lines parallel to the Y axis. Similarly, in the example in which the low-pass filter is applied only in the Y-axis direction as shown in FIG. 20, a high frequency component in the Y-axis direction is cut, that is, symmetrical with respect to the X-axis, with a straight line parallel to the X-axis. It can be confirmed by shading in the image display area 61 that the outside area is cut while leaving the partitioned area.

一方、図21の例では、高周波成分のみを通過させ低周波成分をカットするハイパスフィルタをX方向に適用する例を示している。これにより、X軸方向に低周波成分をカットするように、すなわちY軸に対称に、Y軸に平行な直線で区画された領域の内側をカットし、外側を残すように、画像表示領域61に網掛けが表示される。また図22の例では、ハイパスフィルタをY方向に適用する例を示しており、ここではX軸に対称に、X軸に平行な直線で区画された内側、すなわちY軸方向の低周波成分をカットする様子が、画像表示領域61上で視覚的に確認できる。このように、X軸、Y軸のいずれかの方向にのみ独立してローパスフィルタ、ハイパスフィルタを適用することができる。   On the other hand, the example of FIG. 21 shows an example in which a high-pass filter that passes only high-frequency components and cuts low-frequency components is applied in the X direction. Thereby, the image display area 61 is cut so that the low frequency component is cut in the X-axis direction, that is, the inside of the area partitioned by the straight line parallel to the Y-axis is cut symmetrically with respect to the Y-axis and the outside is left. Is shaded. The example of FIG. 22 shows an example in which a high-pass filter is applied in the Y direction. Here, the low frequency component in the Y axis direction, that is, the inner side divided by straight lines parallel to the X axis and symmetrical to the X axis is shown. The state of cutting can be visually confirmed on the image display area 61. In this way, the low-pass filter and the high-pass filter can be applied independently only in either the X-axis or Y-axis direction.

以上のように、画像表示領域61でフーリエ変換画像FGに重ねてマスク領域MRを表示することで、周波数フィルタの強弱と、フーリエ変換画像FG上でのマスク領域MRのサイズの相関関係を直感的に理解し易くでき、周波数フィルタの意味が判らないユーザでもこれらのフィルタを利用し易くなる。さらにフーリエ変換画像の扱いも自然と身に着けることができるので、将来的にはより高度なマスク領域MRの指定も可能になる可能性もある。
(周波数フィルタ処理の手順)
As described above, the mask region MR is displayed so as to overlap the Fourier transform image FG in the image display region 61, so that the correlation between the strength of the frequency filter and the size of the mask region MR on the Fourier transform image FG is intuitive. It is easy to understand, and even a user who does not understand the meaning of the frequency filter can easily use these filters. Furthermore, since the Fourier transform image can be handled naturally, there is a possibility that a more advanced mask region MR can be specified in the future.
(Frequency filter processing procedure)

以下、図23のフローチャートに基づいて、フーリエ変換画像FGに周波数フィルタを適用する手順を説明する。ここでは、図9に示す共焦点画像CI1に対して、ローバスフィルタを適用して図10に示す画像、あるいはハイパスフィルタを適用して図11に示す画像を得るまでの手順を考える。まずステップS1で、処理対象となる入力画像を読み込む。ここでは、共焦点顕微鏡で観測した共焦点画像を画像処理部の画像データ入力部44で読み込み、画像処理演算部45のメモリにロードする。次にステップS2で、読み込んだ画像データをフーリエ変換し、フーリエ変換画像(パワースペクトル画像)FGを作成する。さらにステップS3で、フーリエ変換画像FG上にマスク領域MRを指定する。マスク領域MRの指定は、上述したマスク領域指定手段で行われる。そしてステップS4で、指定されたマスク領域MRのデータを除去する処理を行う。図6等の例では、画像処理演算部45が周波数フィルタ処理を行う。さらにステップS5で、画像処理演算部45が処理済のフーリエ変換画像FGを逆フーリエ変換し、元の共焦点画像に戻し、ステップS6で処理後の画像データを表示手段4に表示する。このようにして、共焦点画像である図9の入力画像CI1に対して周波数解析を行い、画像データの周波数成分を検出後に、周波数フィルタをかけたフーリエ変換画像FGとして、さらに逆フーリエ変換を行い、画像処理を行う。   The procedure for applying a frequency filter to the Fourier transform image FG will be described below based on the flowchart of FIG. Here, a procedure from applying the low-pass filter to the confocal image CI1 shown in FIG. 9 and applying the low-pass filter to the image shown in FIG. 10 or applying the high-pass filter to the image shown in FIG. First, in step S1, an input image to be processed is read. Here, the confocal image observed with the confocal microscope is read by the image data input unit 44 of the image processing unit and loaded into the memory of the image processing calculation unit 45. Next, in step S2, the read image data is Fourier transformed to create a Fourier transform image (power spectrum image) FG. In step S3, a mask region MR is designated on the Fourier transform image FG. The mask area MR is designated by the mask area designation means described above. In step S4, a process for removing data in the designated mask region MR is performed. In the example of FIG. 6 etc., the image processing calculation part 45 performs a frequency filter process. Further, in step S5, the image processing calculation unit 45 performs inverse Fourier transform on the processed Fourier transform image FG to return to the original confocal image, and displays the processed image data on the display unit 4 in step S6. In this way, the frequency analysis is performed on the input image CI1 of FIG. 9 which is a confocal image, and after the frequency component of the image data is detected, the inverse Fourier transform is further performed as the Fourier transform image FG to which the frequency filter is applied. Perform image processing.

以上反射型の共焦点顕微鏡を説明したが、本発明は透過型の共焦点顕微鏡にも適用できる。透過型の顕微鏡の場合は、試料の裏面から共焦点光学系10のレーザ光及び非共焦点光学系50の白色光が照射される。共焦点光学系10の光源はレーザ光源を含む単色光源はもちろんのこと、複数波長を含むものであってもよい。非共焦点光学系50の光源は自然光又は室内光で代用することもできる。   Although the reflection type confocal microscope has been described above, the present invention can also be applied to a transmission type confocal microscope. In the case of a transmission type microscope, laser light from the confocal optical system 10 and white light from the non-confocal optical system 50 are irradiated from the back surface of the sample. The light source of the confocal optical system 10 may include not only a monochromatic light source including a laser light source but also a plurality of wavelengths. The light source of the non-confocal optical system 50 can be replaced with natural light or room light.

さらに、本発明は共焦点顕微鏡画像に限られず、通常の光学顕微鏡やデジタルマイクロスコープ、あるいはレーザ走査顕微鏡や測長SEM等の荷電粒子線装置等、さらには走査型トンネル顕微鏡(STM)や原子間力顕微鏡(AFM)などで得られた電子顕微鏡画像に対しても利用できる。   Furthermore, the present invention is not limited to confocal microscope images, and is a normal optical microscope, a digital microscope, a charged particle beam device such as a laser scanning microscope or a length measuring SEM, a scanning tunneling microscope (STM) or an interatomic device. It can also be used for electron microscope images obtained with a force microscope (AFM).

電子線を用いた透過電子顕微鏡や走査電子顕微鏡は、荷電粒子線で観察対象の試料を照射して得られる信号を検出して観察像を得る荷電粒子線装置である。例えば電子顕微鏡は、電子の進行方向を自由に屈折させ、光学顕微鏡のような結像システムを電子光学的に設計したものである。電子顕微鏡には、試料や標本を透過した電子を電子レンズを用いて結像する透過型の他、試料表面で反射した電子を結像する反射型、収束電子線を試料表面上に走査して各走査点からの二次電子を用いて結像する走査型電子顕微鏡、加熱あるいはイオン照射によって試料から放出される電子を結像する表面放出型(電界イオン顕微鏡)等がある。   A transmission electron microscope or a scanning electron microscope using an electron beam is a charged particle beam apparatus that obtains an observation image by detecting a signal obtained by irradiating a sample to be observed with a charged particle beam. For example, an electron microscope freely refracts the traveling direction of electrons, and an imaging system such as an optical microscope is designed electro-optically. Electron microscopes include a transmission type that forms an image of electrons that have passed through a sample or specimen using an electron lens, a reflection type that forms an image of electrons reflected on the sample surface, and scans the sample surface with a focused electron beam. There are a scanning electron microscope that forms an image using secondary electrons from each scanning point, and a surface emission type (field ion microscope) that forms an image of electrons emitted from a sample by heating or ion irradiation.

電子顕微鏡(EM)の例として、走査型電子顕微鏡(Scanning Electron Microscope:SEM)は、観察対象となる試料に細い電子線(電子プローブ)を照射した際に発生する二次電子や反射電子を、二次電子検出器、反射電子検出器等それぞれの検出器を用いて取り出し、ブラウン管やLCD等の表示画面上に表示して、主として試料の表面形態を観察する装置である。一方、透過型電子顕微鏡(Transmission Electron Microscope:TEM)は、薄膜試料に電子線を透過させ、その際に試料中で原子により散乱、回折された電子を電子回折パターンまたは透過電顕像として得ることによって主に物質の内部構造を観察できる。   As an example of an electron microscope (EM), a scanning electron microscope (SEM) scans secondary electrons and reflected electrons generated when a sample to be observed is irradiated with a thin electron beam (electron probe). This is an apparatus for taking out mainly using a detector such as a secondary electron detector or a backscattered electron detector and displaying it on a display screen such as a cathode ray tube or an LCD to mainly observe the surface form of the sample. On the other hand, a transmission electron microscope (TEM) transmits an electron beam through a thin film sample, and at that time, electrons scattered and diffracted by atoms in the sample are obtained as an electron diffraction pattern or a transmission electron microscope image. Can mainly observe the internal structure of the substance.

電子線が固体試料に照射されたとき、電子のエネルギーによって固体中を透過するが、その際に試料を構成する原子核や電子との相互作用によって弾性的な衝突、弾性散乱やエネルギー損失を伴う非弾性散乱を生じる。非弾性散乱によって試料元素の殻内電子を励起したり、X線等を励起したり、また二次電子を放出し、それに相当するエネルギーを損失する。二次電子は衝突する角度によって放出される量が異なる。一方、弾性散乱によって後方に散乱し、試料から再び放出される反射電子は、原子番号に固有の量が放出される。SEMはこの二次電子や反射電子を利用する。SEMは電子を試料に照射し、放出される二次電子や反射電子を検出して観察像を結像している。   When an electron beam is irradiated onto a solid sample, it is transmitted through the solid by the energy of the electrons. At that time, due to the interaction with the nuclei and electrons that make up the sample, elastic collision, elastic scattering, and energy loss occur. Causes elastic scattering. By inelastic scattering, electrons in the shell of the sample element are excited, X-rays are excited, secondary electrons are emitted, and the corresponding energy is lost. The amount of secondary electrons emitted varies depending on the angle of collision. On the other hand, the reflected electrons scattered back by elastic scattering and emitted again from the sample are emitted in an amount specific to the atomic number. The SEM uses these secondary electrons and reflected electrons. The SEM irradiates a sample with electrons and detects emitted secondary electrons and reflected electrons to form an observation image.

また、走査型トンネル顕微鏡(STM)や原子間力顕微鏡(AFM)といった走査型プローブ顕微鏡(SPM)等の微細表面形状計測装置は、探触針が試料表面に接近または接触して支持され、トンネル電流、原子間力等が一定に保たれて走査される探触針または試料の検査すべき表面に垂直な変位量から、試料表面の微細形状を観察する。このとき、試料に対する探触針の位置を知るための観察光学系を備えるものがあり、一例として探触針と観察光学系の対物レンズを切り換えて使用するタイプがある。この装置では、探触針の位置を示す指標(レクチル)を観察光学系の視野内に設けることにより、探触針の観察位置の光学的な観察を可能にしている。   In addition, a fine surface shape measuring device such as a scanning probe microscope (SPM) such as a scanning tunnel microscope (STM) or an atomic force microscope (AFM) is supported by a probe approaching or contacting a sample surface. The fine shape of the sample surface is observed from the displacement of the probe to be scanned while keeping the current, atomic force, etc. constant or the surface of the sample to be inspected. At this time, some have an observation optical system for knowing the position of the probe with respect to the sample. As an example, there is a type in which the probe and the objective lens of the observation optical system are switched and used. In this apparatus, an index (reticle) indicating the position of the probe is provided in the field of view of the observation optical system, thereby enabling optical observation of the observation position of the probe.

このような電子顕微鏡や原子間力顕微鏡等の試料表示装置で得られる電子顕微鏡画像や原子間力顕微鏡画像等の画像データに対しても、本発明の画像処理を適用できる。   The image processing of the present invention can also be applied to image data such as an electron microscope image and an atomic force microscope image obtained by a sample display device such as an electron microscope or an atomic force microscope.

本発明の拡大観察装置、拡大観察装置の操作方法、拡大観察装置操作プログラムおよびコンピュータで読み取り可能な記録媒体並びに記録した機器は、生物細胞の部分的な検査またはイメージング等に好適に利用できる。   The magnifying observation apparatus, the magnifying observation apparatus operating method, the magnifying observation apparatus operating program, the computer-readable recording medium, and the recorded apparatus of the present invention can be suitably used for partial inspection or imaging of biological cells.

本発明の実施の形態1に係る共焦点顕微鏡システムの概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the confocal microscope system which concerns on Embodiment 1 of this invention. 図1の共焦点顕微鏡システムを示す外観斜視図である。It is an external appearance perspective view which shows the confocal microscope system of FIG. 共焦点顕微鏡本体を示す斜視図である。It is a perspective view which shows a confocal microscope main body. 対物レンズのZ方向位置に応じて変化する受光量データを示すグラフである。It is a graph which shows the light reception amount data which change according to the Z direction position of an objective lens. 本発明の実施の形態2に係る共焦点顕微鏡システムを示すブロック図である。It is a block diagram which shows the confocal microscope system which concerns on Embodiment 2 of this invention. 画像処理プログラムでハイパスフィルタを全方向に設定したユーザインターフェース画面を示すイメージ図である。It is an image figure which shows the user interface screen which set the high-pass filter to all directions by the image processing program. 画像処理プログラムでマスク領域指定手段を設定するユーザインターフェース画面を示すイメージ図である。It is an image figure which shows the user interface screen which sets a mask area | region designation | designated means with an image processing program. 図7で矩形状のマスク領域を選択したユーザインターフェース画面を示すイメージ図である。FIG. 8 is an image diagram showing a user interface screen in which a rectangular mask region is selected in FIG. 7. 入力画像である共焦点画像を示すイメージ図である。It is an image figure which shows the confocal image which is an input image. 図9の共焦点画像に対してローパスフィルタを適用した結果を示すイメージ図である。It is an image figure which shows the result of having applied the low-pass filter with respect to the confocal image of FIG. 図9の共焦点画像に対してハイパスフィルタを適用した結果を示すイメージ図である。It is an image figure which shows the result of having applied the high pass filter with respect to the confocal image of FIG. 図6でフィルタ強弱調整部を強方向に調整した結果を示すイメージ図である。It is an image figure which shows the result of having adjusted the filter strength adjustment part in the strong direction in FIG. 図12でフィルタ強弱調整部をさらに強方向に調整した結果を示すイメージ図である。It is an image figure which shows the result of having further adjusted the filter strength adjustment part in the stronger direction in FIG. 図13でフィルタ強弱調整部をより強方向に調整した結果を示すイメージ図である。It is an image figure which shows the result of having adjusted the filter strength adjustment part in the stronger direction in FIG. 画像処理プログラムでローパスフィルタを全方向に設定したユーザインターフェース画面を示すイメージ図である。It is an image figure which shows the user interface screen which set the low-pass filter to all directions by the image processing program. 図15でフィルタ強弱調整部を強方向に調整した結果を示すイメージ図である。It is an image figure which shows the result of having adjusted the filter strength adjustment part to the strong direction in FIG. 図16でフィルタ強弱調整部をさらに強方向に調整した結果を示すイメージ図である。It is an image figure which shows the result of having further adjusted the filter strength adjustment part in the stronger direction in FIG. 図15でフィルタ強弱調整部をより強方向に調整した結果を示すイメージ図である。It is an image figure which shows the result of having adjusted the filter strength adjustment part in the stronger direction in FIG. 画像処理プログラムでローパスフィルタをX方向に設定したユーザインターフェース画面を示すイメージ図である。It is an image figure which shows the user interface screen which set the low pass filter to the X direction with the image processing program. 画像処理プログラムでローパスフィルタをY方向に設定したユーザインターフェース画面を示すイメージ図である。It is an image figure which shows the user interface screen which set the low-pass filter to the Y direction with the image processing program. 画像処理プログラムでハイパスフィルタをX方向に設定したユーザインターフェース画面を示すイメージ図である。It is an image figure which shows the user interface screen which set the high pass filter to the X direction with the image processing program. 画像処理プログラムでハイパスフィルタをY方向に設定したユーザインターフェース画面を示すイメージ図である。It is an image figure which shows the user interface screen which set the high pass filter to the Y direction with the image processing program. フーリエ変換画像に周波数フィルタを適用する手順を示すフローチャートである。It is a flowchart which shows the procedure which applies a frequency filter to a Fourier-transform image.

符号の説明Explanation of symbols

100、200…共焦点顕微鏡システム
1…共焦点顕微鏡本体
2…コントローラ
3…操作手段
3A…入力手段
4…表示手段
10、10B…共焦点光学系
11…光源
12…第1コリメートレンズ
13…偏光ビームスプリッタ
14…1/4波長板
15…水平・垂直偏向装置
16…第1リレーレンズ
17…第2リレーレンズ
18…対物レンズ
19…結像レンズ
20…ピンホール板 非共焦点光学系
21…受光素子
22…第1受光信号処理回路
30…ステージ
31…ステージ手動操作機構
32…X方向移動摘み
33…Y方向移動摘み
34…Z方向移動摘み
41…第1AD変換器
42…第2AD変換器
43…制御部
44…画像データ入力部
45…画像処理演算部
46…表示用画像生成部
50、50B…非共焦点光学系
51…白色光源
52…第2コリメートレンズ
53…第1ハーフミラー
54、54B…第2ハーフミラー
55…第2受光素子
56…第2受光信号処理回路
61…画像表示領域
62…操作領域
110…マスク欄
111…詳細設定欄
112…拡大表示欄
113…演算実行欄
113a…「演算実行」ボタン
113b…「プレビュー」ボタン
113c…「リセット」ボタン
114…マスク形状指定欄
114a…「同心円」ボタン
114b…「矩形」ボタン
114c…「ブラシ」ボタン
114d…「反転」ボタン
114e…「クリア」ボタン
114f…「追加」ボタン
114g…「ファイル保存」ボタン
114h…「ファイル読込」ボタン
115…パワースペクトル欄
115a…パワースペクトル調整スライダ
115b…プルダウンメニュー
116…周波数フィルタ欄
116a…周波数フィルタ選択部
116b…フィルタ方向選択部
116c…フィルタ強弱調整部
WK…試料
FG…フーリエ変換画像
MR…マスク領域
CI1…共焦点画像の元画像
CI2…ローパスフィルタ適用後の共焦点画像
CI3…ハイパスフィルタ適用後の共焦点画像
DESCRIPTION OF SYMBOLS 100, 200 ... Confocal microscope system 1 ... Confocal microscope main body 2 ... Controller 3 ... Operation means 3A ... Input means 4 ... Display means 10, 10B ... Confocal optical system 11 ... Light source 12 ... 1st collimating lens 13 ... Polarized beam Splitter 14 ... 1/4 wavelength plate 15 ... Horizontal / vertical deflection device 16 ... First relay lens 17 ... Second relay lens 18 ... Objective lens 19 ... Imaging lens 20 ... Pinhole plate Non-confocal optical system 21 ... Light receiving element DESCRIPTION OF SYMBOLS 22 ... 1st received light signal processing circuit 30 ... Stage 31 ... Stage manual operation mechanism 32 ... X direction moving knob 33 ... Y direction moving knob 34 ... Z direction moving knob 41 ... 1st AD converter 42 ... 2nd AD converter 43 ... Control Unit 44 ... Image data input unit 45 ... Image processing calculation unit 46 ... Display image generation unit 50, 50B ... Non-confocal optical system 51 ... White light 52 ... 2nd collimating lens 53 ... 1st half mirror 54, 54B ... 2nd half mirror 55 ... 2nd light receiving element 56 ... 2nd received light signal processing circuit 61 ... Image display area 62 ... Operation area 110 ... Mask column 111 ... Details Setting column 112 ... Enlarged display column 113 ... Calculation execution column 113a ... "Calculation execution" button 113b ... "Preview" button 113c ... "Reset" button 114 ... Mask shape designation column 114a ... "Concentric circle" button 114b ... "Rectangle" button 114c ... "Brush" button 114d ... "Invert" button 114e ... "Clear" button 114f ... "Add" button 114g ... "Save file" button 114h ... "Read file" button 115 ... Power spectrum column 115a ... Power spectrum adjustment slider 115b ... Pull-down menu 116 ... Frequency fill Column 116a ... Frequency filter selection unit 116b ... Filter direction selection unit 116c ... Filter strength adjustment unit WK ... Sample FG ... Fourier transform image MR ... Mask region CI1 ... Original image CI2 of confocal image ... Confocal image CI3 after applying low-pass filter ... Confocal image after applying high-pass filter

Claims (10)

測定対象物を撮像した入力画像を取得するための画像取得手段と、
前記画像取得手段で取得した入力画像に対してフーリエ変換を行い、フーリエ変換画像を生成するためのフーリエ変換手段と、
前記フーリエ変換画像を表示するための表示手段と、
前記表示手段上で表示されたフーリエ変換画像に対して、周波数フィルタ処理を行うための設定として、周波数フィルタ処理を適用する範囲及び周波数フィルタの種別を設定するためのフィルタ設定手段と、
前記フィルタ設定手段で設定される周波数フィルタの適用範囲を、前記表示手段上で表示されるフーリエ変換画像に対してハイライト表示するためのハイライト手段と、
周波数フィルタの設定に従い、フーリエ変換画像に周波数フィルタ処理を行うためのフィルタ演算手段と、
前記フィルタ演算手段による周波数フィルタ処理後のフーリエ変換画像を逆フーリエ変換するための逆フーリエ変換手段と、
を備えることを特徴とする拡大観察装置。
Image acquisition means for acquiring an input image obtained by imaging the measurement object;
Fourier transform for performing Fourier transform on the input image acquired by the image acquisition means, and generating a Fourier transform image;
Display means for displaying the Fourier transform image;
Filter setting means for setting a frequency filter processing range and frequency filter type as settings for performing frequency filter processing on the Fourier transform image displayed on the display means;
Highlighting means for highlighting the application range of the frequency filter set by the filter setting means with respect to a Fourier transform image displayed on the display means;
Filter operation means for performing frequency filter processing on the Fourier transform image according to the setting of the frequency filter;
Inverse Fourier transform means for performing inverse Fourier transform on the Fourier transform image after the frequency filter processing by the filter operation means;
A magnifying observation apparatus comprising:
請求項1に記載の拡大観察装置であって、
前記ハイライト手段が、前記表示手段上で表示されるフーリエ変換画像に対して、マスクされる領域を網掛け表示することを特徴とする拡大観察装置。
The magnification observation device according to claim 1,
An enlargement observation apparatus, wherein the highlighting means displays a masked area in a shaded manner on a Fourier transform image displayed on the display means.
請求項1又は2に記載の拡大観察装置であって、
前記フィルタ設定手段により設定する周波数フィルタの種別が、ハイパスフィルタ、ローパスフィルタを含み、周波数フィルタ処理を適用する範囲が、2次元フーリエ変換画像のX方向、Y方向、XY方向のいずれかを含むことを特徴とする拡大観察装置。
The magnification observation apparatus according to claim 1 or 2,
The type of the frequency filter set by the filter setting means includes a high-pass filter and a low-pass filter, and the range to which the frequency filter processing is applied includes any of the X direction, Y direction, and XY direction of the two-dimensional Fourier transform image. Magnifying observation device characterized by
請求項3に記載の拡大観察装置であって、
前記フィルタ設定手段により周波数フィルタ処理を適用する範囲としてXY方向が選択される際、前記ハイライト手段がマスク領域を、2次元フーリエ変換画像のXY座標の原点を中心とする同心円状に表示し、
前記フィルタ設定手段によりX方向が選択される際、前記ハイライト手段がマスク領域をY座標軸に対して対称かつ平行な直線で区画される矩形状に表示し、
前記フィルタ設定手段によりY方向が選択される際、前記ハイライト手段がマスク領域をX座標軸に対して対称かつ平行な直線で区画される矩形状に表示してなることを特徴とする拡大観察装置。
The magnification observation apparatus according to claim 3,
When the XY direction is selected as a range to which the frequency filter processing is applied by the filter setting unit, the highlight unit displays the mask region in a concentric circle centered on the origin of the XY coordinates of the two-dimensional Fourier transform image,
When the X direction is selected by the filter setting means, the highlight means displays the mask area in a rectangular shape defined by straight lines symmetrical and parallel to the Y coordinate axis,
When the Y direction is selected by the filter setting means, the highlight means displays the mask area in a rectangular shape defined by straight lines symmetrical and parallel to the X coordinate axis. .
請求項1から4のいずれか一に記載の拡大観察装置であって、
前記フィルタ設定手段による周波数フィルタ処理の設定項目を順次提示し、対話形式でユーザに設定項目の入力を促すよう構成してなることを特徴とする拡大観察装置。
The magnification observation apparatus according to any one of claims 1 to 4,
A magnification observation apparatus configured to sequentially present setting items for frequency filter processing by the filter setting means and prompt the user to input setting items in an interactive manner.
請求項1から5のいずれか一に記載の拡大観察装置であって、
前記画像取得手段が共焦点顕微鏡であることを特徴とする拡大観察装置。
A magnification observation device according to any one of claims 1 to 5,
A magnification observation apparatus, wherein the image acquisition means is a confocal microscope.
共焦点光学系を介して測定対象物からの光を受光素子で受光し、その受光情報に基づいて前記測定対象物の表面の高さ情報及び光量情報を取得し、前記測定対象物の表面の画像を共焦点画像として表示可能な拡大観察装置であって、
各測定点において、光学系もしくは測定対象物を高さ方向に変化させながら合焦点位置を明るさに基づいて取得し、測定点を走査して共焦点画像を合成する共焦点光学系と、
前記共焦点光学系で撮像された共焦点画像を表示するための表示手段と、
前記共焦点画像に対してフーリエ変換を行い、フーリエ変換画像を生成するためのフーリエ変換手段と、
前記表示手段上で表示されたフーリエ変換画像に対して、周波数フィルタ処理を行うための設定として、周波数フィルタ処理を適用する範囲及び周波数フィルタの種別を設定するためのフィルタ設定手段と、
前記フィルタ設定手段で設定される周波数フィルタの適用範囲を、前記表示手段上で表示されるフーリエ変換画像に対してハイライト表示するためのハイライト手段と、
周波数フィルタの設定に従い、フーリエ変換画像に周波数フィルタ処理を行うためのフィルタ演算手段と、
前記フィルタ演算手段による周波数フィルタ処理後のフーリエ変換画像を逆フーリエ変換するための逆フーリエ変換手段と、
を備えることを特徴とする拡大観察装置。
Light from the measurement object is received by the light receiving element via the confocal optical system, and height information and light amount information of the surface of the measurement object are acquired based on the light reception information, and the surface of the measurement object is measured. A magnification observation apparatus capable of displaying an image as a confocal image,
At each measurement point, a confocal optical system that acquires an in-focus position based on brightness while changing the optical system or a measurement object in the height direction, scans the measurement point, and synthesizes a confocal image;
Display means for displaying a confocal image captured by the confocal optical system;
Fourier transform means for performing a Fourier transform on the confocal image and generating a Fourier transform image;
Filter setting means for setting a range for applying frequency filter processing and a type of frequency filter as a setting for performing frequency filter processing on the Fourier transform image displayed on the display means;
Highlighting means for highlighting the application range of the frequency filter set by the filter setting means with respect to the Fourier transform image displayed on the display means;
Filter operation means for performing frequency filter processing on the Fourier transform image according to the setting of the frequency filter;
Inverse Fourier transform means for performing inverse Fourier transform on the Fourier transform image after the frequency filter processing by the filter operation means;
A magnifying observation apparatus comprising:
測定対象物からの光を受光素子で受光し、その受光情報に基づいて前記測定対象物の光量情報を取得し、前記測定対象物の拡大画像を表示して観察可能な拡大観察装置の操作方法であって、
測定対象物を撮像した入力画像を取得する工程と、
前記撮像部で取得した入力画像に対してフーリエ変換を行い、生成されたフーリエ変換画像を表示手段に表示する工程と、
フーリエ変換画像に対して、周波数フィルタ処理を行うための設定として、周波数フィルタ処理を適用する範囲及び周波数フィルタの種別を設定し、設定された周波数フィルタの適用範囲を、前記表示手段上で表示されるフーリエ変換画像に対してハイライト表示する工程と、
周波数フィルタの設定に従い、フーリエ変換画像に周波数フィルタ処理を行う工程と、
周波数フィルタ処理後のフーリエ変換画像を逆フーリエ変換して出力する工程と、
を含むことを特徴とする拡大観察装置の操作方法。
A method of operating a magnification observation apparatus capable of receiving light from a measurement object by a light receiving element, obtaining light amount information of the measurement object based on the light reception information, and displaying an enlarged image of the measurement object for observation Because
Obtaining an input image obtained by imaging the measurement object;
Performing a Fourier transform on the input image acquired by the imaging unit, and displaying the generated Fourier transform image on a display means;
As a setting for performing the frequency filter processing on the Fourier transform image, a range to which the frequency filter processing is applied and a type of the frequency filter are set, and the set frequency filter application range is displayed on the display means. A step of highlighting the Fourier transform image,
Performing a frequency filter process on the Fourier transform image according to the setting of the frequency filter;
A process of inverse Fourier transforming and outputting the Fourier transform image after the frequency filter processing;
The operation method of the magnification observation apparatus characterized by including.
測定対象物からの光を受光素子で受光し、その受光情報に基づいて前記測定対象物の光量情報を取得し、前記測定対象物の拡大画像を表示して観察可能な拡大観察装置操作プログラムであって、
測定対象物を撮像した入力画像を取得する機能と、
前記撮像部で取得した入力画像に対してフーリエ変換を行い、生成されたフーリエ変換画像を表示手段に表示する機能と、
フーリエ変換画像に対して、周波数フィルタ処理を行うための設定として、周波数フィルタ処理を適用する範囲及び周波数フィルタの種別を設定し、設定された周波数フィルタの適用範囲を、前記表示手段上で表示されるフーリエ変換画像に対してハイライト表示する機能と、
周波数フィルタの設定に従い、フーリエ変換画像に周波数フィルタ処理を行う機能と、
周波数フィルタ処理後のフーリエ変換画像を逆フーリエ変換して出力する機能と、
をコンピュータに実現させることを特徴とする拡大観察装置操作プログラム。
A magnification observation device operation program that receives light from a measurement object by a light receiving element, acquires light amount information of the measurement object based on the received light information, and displays an enlarged image of the measurement object to allow observation There,
A function for acquiring an input image obtained by imaging a measurement object;
A function of performing Fourier transform on the input image acquired by the imaging unit and displaying the generated Fourier transform image on a display means;
As a setting for performing the frequency filter processing on the Fourier transform image, a range to which the frequency filter processing is applied and a type of the frequency filter are set, and the set frequency filter application range is displayed on the display means. A function for highlighting the Fourier transform image,
A function for performing frequency filter processing on the Fourier transform image according to the setting of the frequency filter,
A function to output the Fourier transform image after the frequency filter processing by performing an inverse Fourier transform;
Magnifying observation apparatus operating program, characterized in that a computer is realized.
請求項9に記載されるプログラムを格納したコンピュータで読み取り可能な記録媒体又は記録した機器。   A computer-readable recording medium or a recorded device storing the program according to claim 9.
JP2006272058A 2006-10-03 2006-10-03 Magnification observation apparatus, operation method of magnification observation apparatus, magnification observation apparatus operation program, computer-readable recording medium, and recorded apparatus Expired - Fee Related JP4928894B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006272058A JP4928894B2 (en) 2006-10-03 2006-10-03 Magnification observation apparatus, operation method of magnification observation apparatus, magnification observation apparatus operation program, computer-readable recording medium, and recorded apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006272058A JP4928894B2 (en) 2006-10-03 2006-10-03 Magnification observation apparatus, operation method of magnification observation apparatus, magnification observation apparatus operation program, computer-readable recording medium, and recorded apparatus

Publications (3)

Publication Number Publication Date
JP2008090071A true JP2008090071A (en) 2008-04-17
JP2008090071A5 JP2008090071A5 (en) 2009-11-12
JP4928894B2 JP4928894B2 (en) 2012-05-09

Family

ID=39374265

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006272058A Expired - Fee Related JP4928894B2 (en) 2006-10-03 2006-10-03 Magnification observation apparatus, operation method of magnification observation apparatus, magnification observation apparatus operation program, computer-readable recording medium, and recorded apparatus

Country Status (1)

Country Link
JP (1) JP4928894B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013076867A (en) * 2011-09-30 2013-04-25 Olympus Corp Super-resolution observation apparatus
JP2015039059A (en) * 2010-08-27 2015-02-26 株式会社東芝 Stereoscopic vision image processor, stereoscopic vision image processing method and stereoscopic vision image processing program
CN106371201A (en) * 2016-11-03 2017-02-01 清华大学 Fourier overlapping correlation imaging system and method based on computational ghost imaging
CN106791355A (en) * 2016-11-09 2017-05-31 清华大学 Single pixel imaging method and system based on image frequency domain splicing
KR101767564B1 (en) 2015-11-12 2017-08-11 성균관대학교산학협력단 A method of analysing images of rod-like particles
KR101931967B1 (en) 2011-09-19 2018-12-27 삼성전자 주식회사 Auto focusing apparatus for optical microscope

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08287255A (en) * 1995-04-12 1996-11-01 Nec Corp Image feature extraction device and image processor for skin pattern image
JP2004157410A (en) * 2002-11-07 2004-06-03 Keyence Corp Confocal microscopic system
JP2007107999A (en) * 2005-10-13 2007-04-26 Fujitsu Ltd Microscope image processing method and apparatus therefor

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08287255A (en) * 1995-04-12 1996-11-01 Nec Corp Image feature extraction device and image processor for skin pattern image
JP2004157410A (en) * 2002-11-07 2004-06-03 Keyence Corp Confocal microscopic system
JP2007107999A (en) * 2005-10-13 2007-04-26 Fujitsu Ltd Microscope image processing method and apparatus therefor

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015039059A (en) * 2010-08-27 2015-02-26 株式会社東芝 Stereoscopic vision image processor, stereoscopic vision image processing method and stereoscopic vision image processing program
KR101931967B1 (en) 2011-09-19 2018-12-27 삼성전자 주식회사 Auto focusing apparatus for optical microscope
JP2013076867A (en) * 2011-09-30 2013-04-25 Olympus Corp Super-resolution observation apparatus
US9110283B2 (en) 2011-09-30 2015-08-18 Olympus Corporation Super-resolution observation apparatus that changes process contents according to intensity level of noise in digital image data
KR101767564B1 (en) 2015-11-12 2017-08-11 성균관대학교산학협력단 A method of analysing images of rod-like particles
CN106371201A (en) * 2016-11-03 2017-02-01 清华大学 Fourier overlapping correlation imaging system and method based on computational ghost imaging
CN106791355A (en) * 2016-11-09 2017-05-31 清华大学 Single pixel imaging method and system based on image frequency domain splicing

Also Published As

Publication number Publication date
JP4928894B2 (en) 2012-05-09

Similar Documents

Publication Publication Date Title
JP4753711B2 (en) 3D image display device, 3D image display device operation method, 3D image display program, computer-readable recording medium, and recorded device
JP3867524B2 (en) Observation apparatus and observation method using electron beam
JP4936867B2 (en) Enlarged image observation apparatus and enlarged image observation method
JP4928894B2 (en) Magnification observation apparatus, operation method of magnification observation apparatus, magnification observation apparatus operation program, computer-readable recording medium, and recorded apparatus
JP5042788B2 (en) Optical three-dimensional measuring device
JP2020505633A (en) Method and system for microspectrophotometry
JP2006164861A (en) Scanning interference electron microscope
JP4337832B2 (en) Observation apparatus and observation method using electron beam
JP2008090072A (en) Magnified image observation system, confocal microscope, image data transfer method, three-dimensional focused image forming method, data transfer program, three-dimensional focused image forming program, computer recordable recording medium, and apparatus with program recorded
JP2007026885A (en) Magnification observation device, operation method of magnification observation device, magnification observation device operation program, recording medium readable by computer, and recorded equipment
JP4700299B2 (en) Confocal scanning microscope
JP4936841B2 (en) Confocal microscope, confocal microscope operation method, confocal microscope operation program, computer-readable recording medium, and recorded apparatus
JP2006275964A (en) Shading correction method for scanning fluorescence microscope
JP5380366B2 (en) Transmission interference microscope
JP6901460B2 (en) Scanning electron microscope and image processing method
JP6363477B2 (en) 3D shape measuring device
JP2005331488A (en) Magnified observation device, magnified image observation method, magnified observation operation program, and computer-readable storage medium or storage device
JP4536421B2 (en) Magnification observation apparatus, magnification image observation method, magnification observation operation program, and computer-readable recording medium or recorded apparatus
JP2005235665A (en) Dark field scanning transmission electron microscope and observation method
JP2004069795A (en) Confocal microscopic system and computer program for setting parameter
JP4197898B2 (en) Microscope, three-dimensional image generation method, program for causing computer to control generation of three-dimensional image, and recording medium recording the program
JP5094519B2 (en) Scanning laser microscope
CN111146062B (en) Electron microscope and image processing method
JP4456962B2 (en) SAMPLE DISPLAY DEVICE, SAMPLE DISPLAY DEVICE OPERATION METHOD, SAMPLE DISPLAY DEVICE OPERATION PROGRAM, AND COMPUTER-READABLE RECORDING MEDIUM OR RECORDED DEVICE
JP2005114713A (en) Magnification observation device, method of observing magnified image, operation program for magnification observation, and computer-readable recording medium

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090924

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090924

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120207

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120213

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150217

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees