(1)顕微鏡撮像装置の構成
図1は、本発明の一実施の形態に係る顕微鏡撮像装置の構成を示すブロック図である。図2は、図1の顕微鏡撮像装置500の測定部および測定光供給部300の構成を示す模式図である。図3は、図1の顕微鏡撮像装置500の測定部における光路を示す模式図である。
以下、本実施の形態に係る顕微鏡撮像装置500について、図1〜図3を参照しながら説明する。図1に示すように、顕微鏡撮像装置500は、測定部100、PC(パーソナルコンピュータ)200、測定光供給部300および表示部400を備える。
図2に示すように、測定光供給部300は、電源装置310、投光部320および導光部材330を含む。本例においては、導光部材330は液体ライトガイドである。導光部材330は、例えばガラスファイバまたは石英ファイバであってもよい。電源装置310は、投光部320に電力を供給するとともに、図示しない電源ケーブルを介して測定部100に電力を供給する。
投光部320は、測定光源321、減光機構322および遮光機構323を含む。測定光源321は、例えばメタルハライドランプである。測定光源321は、水銀ランプまたは白色LED(発光ダイオード)等の他の光源であってもよい。以下、測定光源321により出射される光を測定光と呼ぶ。
減光機構322は、互いに透過率が異なる複数のND(Neutral Density)フィルタを含む。減光機構322は、複数のNDフィルタのいずれかが測定光源321から出射された測定光の光路上に位置するように配置される。測定光の光路上に位置するNDフィルタを選択的に切り替えることにより、減光機構322を通過する測定光の強度を調整することができる。減光機構322は、複数のNDフィルタに代えて、光の強度を調整可能な光変調器等の光学素子を含んでもよい。
遮光機構323は、例えばメカニカルシャッタである。遮光機構323は、減光機構322を通過した測定光の光路上に配置される。遮光機構323が開状態である場合には、測定光は遮光機構323を通過し、導光部材330に入力される。一方、遮光機構323が閉状態である場合には、測定光は遮断され、導光部材330に入力されない。遮光機構323は、光の通過および遮断を切り替え可能な光変調器等の光学素子を含んでもよい。
測定部100は、例えば蛍光顕微鏡であり、パターン付与部110、受光部120、透過光供給部130、ステージ140、フィルタユニット150、レンズユニット160および制御基板170を含む。受光部120、フィルタユニット150、レンズユニット160、ステージ140および透過光供給部130は、下方から上方に向かってこの順で配置される。
ステージ140上には、測定対象物Sが載置される。本例においては、測定対象物Sは種々のタンパク質を含む生物標本である。測定対象物Sには、特定のタンパク質に融合する蛍光試薬が塗布されている。蛍光試薬は、例えばGFP(緑色蛍光タンパク質)、Texas Red(テキサスレッド)およびDAPI(ジアミジノフェニルインドール)を含む。
GFPは、490nm付近の光を吸収して510nm付近の波長の光を放出する。Texas Redは、波長596nm付近の光を吸収して波長620nm付近の光を放出する。DAPIは、波長345nm付近の光を吸収して波長455nm付近の光を放出する。
測定対象物Sが載置されるステージ140上の平面(以下、載置面と呼ぶ)内で互いに直交する2方向をX方向およびY方向と定義し、載置面に対して直交する方向をZ方向と定義する。本実施の形態においては、X方向およびY方向は水平方向であり、Z方向は上下方向である。また、本実施の形態においては、ステージ140はX−Yステージであり、図示しないステージ駆動部によりX方向およびY方向に移動可能に配置される。
測定部100には、測定光供給部300から出射される測定光を測定対象物Sに導く光学系、透過光供給部130から出射される光を測定対象物Sに導く光学系および測定対象物Sからの光を受光部120に導く光学系が構成される。
パターン付与部110は、光出力部111、光変調素子112および複数(本例では2個)のミラー113を含む。光出力部111は、導光部材330に入力された測定光を出力する。光出力部111から出力された光は、複数のミラー113により反射され、光変調素子112に入射する。
光変調素子112は、例えばDMD(デジタルマイクロミラーデバイス)である。DMDは2次元状に配列された複数のマイクロミラーにより構成される。光変調素子112は、LCOS(Liquid Crystal on Silicon:反射型液晶素子)またはLCD(液晶ディスプレイ)であってもよい。光変調素子112に入射した光は、後述するパターン生成部212により予め設定されたパターンおよび予め設定された強度(明るさ)に変換されてフィルタユニット150に出射される。
フィルタユニット150は、複数(本例では3個)のフィルタキューブ151およびフィルタターレット152を含む。複数のフィルタキューブ151は、測定対象物Sに塗布される複数種類の蛍光試薬に対応する。図3に示すように、各フィルタキューブ151は、フレーム151a、励起フィルタ151b、ダイクロイックミラー151cおよび吸収フィルタ151dを含む。フレーム151aは、励起フィルタ151b、ダイクロイックミラー151cおよび吸収フィルタ151dを支持する立方体状の部材である。
図2の励起フィルタ151bは、第1の波長帯域の光を通過させる帯域通過フィルタである。吸収フィルタ151dは、第1の波長帯域と異なる第2の波長帯域の光を通過させる帯域通過フィルタである。ダイクロイックミラー151cは、第1の波長帯域を含む波長帯域の光を反射し、第2の波長帯域を含む波長帯域の光を通過させるミラーである。第1および第2の波長帯域は、蛍光試薬の吸収波長および放出波長に応じてフィルタキューブ151ごとに互いに異なる。
フィルタターレット152は、円板状を有する。本実施の形態においては、フィルタターレット152に略90°間隔で4個のフィルタキューブ取付部152aが設けられている。各フィルタキューブ取付部152aは、フィルタキューブ151を取り付け可能に形成された開口である。
本実施の形態においては、3個のフィルタキューブ取付部152aにそれぞれ3個のフィルタキューブ151が取り付けられ、残り1個のフィルタキューブ取付部152aにはフィルタキューブ151が取り付けられない。そのため、フィルタキューブ151が取り付けられないフィルタキューブ取付部152aを測定光の光路上に配置させることにより、フィルタキューブ151を用いない明視野観察を行うことが可能である。なお、図2の例においては、フィルタターレット152に2個のフィルタキューブ151が取り付けられている。
フィルタターレット152は、図示しないフィルタターレット駆動部によりZ方向に平行な軸を中心に所定の角度間隔(本例では90°間隔)で回転可能に配置される。使用者は、後述するPC200の操作部250を操作してフィルタターレット152を回転させることにより、測定対象物Sの測定に用いるフィルタキューブ151を選択する。
選択されたフィルタキューブ151は、測定光が励起フィルタ151bに入射するようにフィルタユニット150に取り付けられている。図3に示すように、励起フィルタ151bに測定光が入射すると、測定光のうち第1の波長帯域を有する成分のみが励起フィルタ151bを通過する。励起フィルタ151bを通過した測定光は、ダイクロイックミラー151cにより上方のレンズユニット160(図2)に向けて反射される。
レンズユニット160は、複数(本例では6個)の対物レンズ161、レンズターレット162および焦点位置調整機構163を含む。複数の対物レンズ161は、互いに異なる倍率を有する。レンズターレット162は、円板状を有する。本実施の形態においては、レンズターレット162上に略60°間隔で6個の対物レンズ取付部162aが設けられている。各対物レンズ取付部162aは、対物レンズ161を取付可能に形成された開口である。
本実施の形態においては、6個の対物レンズ取付部162aにそれぞれ6個の対物レンズ161が取り付けられる。なお、図2の例においては、レンズユニット160に3個の対物レンズ161が取り付けられている。
レンズターレット162は、図示しないレンズターレット駆動部によりZ方向に平行な軸を中心に所定の角度間隔(本例では60°間隔)で回転可能に配置される。使用者は、後述するPC200の操作部250を操作してレンズターレット162を回転させることにより、測定対象物Sの測定に用いる対物レンズ161を選択する。選択された対物レンズ161は、選択されたフィルタキューブ151と重なる。これにより、図3に示すように、フィルタキューブ151のダイクロイックミラー151cにより反射された測定光は、選択された対物レンズ161を通過する。
図2の焦点位置調整機構163は、図示しない焦点位置調整機構駆動部によりレンズターレット162をZ方向に移動可能に配置される。これにより、ステージ140上の測定対象物Sと選択された対物レンズ161との相対的な距離が調整される。ステージ140は、略中央部に開口を有する。対物レンズ161を通過した測定光は、集光されつつステージ140の開口を通過して測定対象物Sに照射される。
測定光が照射された測定対象物Sは、測定光を吸収して、第2の波長帯域を含む波長帯域の蛍光を放出する。測定対象物Sの下方に放出された蛍光は、選択された対物レンズ161ならびに選択されたフィルタキューブ151のダイクロイックミラー151cおよび吸収フィルタ151dを通過する。これにより、蛍光のうち第2の波長帯域を有する成分が受光部120に入射する。
本実施の形態において、測定部100は測定対象物Sからの蛍光を観察可能な蛍光顕微鏡であるが、これに限定されない。測定部100は、例えば反射型顕微鏡であってもよい。この場合、フィルタターレット152のフィルタキューブ取付部152aには、フィルタキューブ151に代えてハーフミラーが取り付けられる。
透過光供給部130は、測定対象物Sの明視野観察、位相差観察、微分干渉観察、暗視野観察、偏斜観察または偏光観察に用いられる。透過光供給部130は、透過光源131および透過光学系132を含む。透過光源131は、例えば白色LEDである。透過光源131は、ハロゲンランプ等の他の光源であってもよい。以下、透過光源131により出射される光を透過光と呼ぶ。
透過光学系132は、開口絞り、位相差スリット、リレーレンズ、コンデンサレンズおよびシャッタ等の光学素子を含む。透過光源131により出射された透過光は、透過光学系132を通過してステージ140上の測定対象物Sに照射される。
透過光は、測定対象物Sを透過して、対物レンズ161を通過する。その後、透過光は、フィルタキューブ151が取り付けられていないフィルタターレット152のフィルタキューブ取付部152a(以下、フィルタターレット152の開口部と呼ぶ)を通過して受光部120に入射する。
受光部120は、カメラ121、カラーフィルタ122および結像レンズ123を含む。カメラ121は、例えば撮像素子を含むCCD(電荷結合素子)カメラである。撮像素子は、例えばモノクロCCDである。撮像素子は、CMOS(相補性金属酸化膜半導体)イメージセンサ等の他の撮像素子であってもよい。
カラーフィルタ122は、赤色波長の光を通過させるR(赤色)フィルタ、緑色波長の光を通過させるG(緑色)フィルタおよび青色波長の光を通過させるB(青色)フィルタを含む。受光部120に入射した蛍光または透過光は、結像レンズ123により集光および結像された後、カラーフィルタ122を通ってカメラ121により受光される。これにより、測定対象物Sの画像が得られる。カメラ121の撮像素子の各画素からは、受光量に対応するアナログの電気信号(以下、受光信号と呼ぶ)が制御基板170に出力される。
モノクロCCDには、カラーCCDとは異なり、赤色波長の光を受光する画素、緑色波長の光を受光する画素および青色波長の光を受光する画素を設ける必要がない。そのため、モノクロCCDの計測の分解能はカラーCCDの分解能よりも高くなる。また、モノクロCCDには、カラーCCDとは異なり、各画素にカラーフィルタを設ける必要がない。そのため、モノクロCCDの感度はカラーCCDの感度よりも高くなる。これらの理由により、本例におけるカメラ121にはモノクロCCDが設けられる。
本例においては、カラーフィルタ122のRフィルタ、GフィルタおよびBフィルタを通過した光が時分割でカメラ121により受光される。この構成によれば、モノクロCCDを用いた受光部120により測定対象物Sのカラー画像を得ることができる。
一方、カラーCCDが十分な分解能および感度を有する場合には、撮像素子は、カラーCCDであってもよい。この場合、カメラ121は、Rフィルタ、GフィルタおよびBフィルタを通過した光を時分割で受光する必要がないので、受光部120にカラーフィルタ122が設けられない。それにより、受光部120の構成を単純にすることができる。
制御基板170には、図示しないA/D変換器(アナログ/デジタル変換器)およびFIFO(First In First Out)メモリが実装される。カメラ121から出力される受光信号は、PC200による制御に基づいて、A/D変換器により一定のサンプリング周期でサンプリングされるとともにデジタル信号に変換される。A/D変換器から出力されるデジタル信号は、FIFOメモリに順次蓄積される。FIFOメモリに蓄積されたデジタル信号は画素データとして順次PC200に転送される。
また、制御基板170は、PC200による制御に基づいて、パターン付与部110、受光部120、透過光供給部130、ステージ140、フィルタユニット150およびレンズユニット160の動作を制御する。さらに、制御基板170は、PC200による制御に基づいて、測定光供給部300の投光部320の動作を制御する。
図1に示すように、PC200は、CPU(中央演算処理装置)210、ROM(リードオンリメモリ)220、RAM(ランダムアクセスメモリ)230、記憶装置240および操作部250を含む。操作部250は、キーボードおよびポインティングデバイスを含む。ポインティングデバイスとしては、マウスまたはジョイスティック等が用いられる。
表示部400は、例えばLCDパネルまたは有機EL(エレクトロルミネッセンス)パネルにより構成される。図2の例においては、PC200および表示部400は、1台のノート型パーソナルコンピュータにより実現される。
ROM220には、システムプログラムが記憶される。RAM230は、種々のデータの処理のために用いられる。記憶装置240は、ハードディスク等からなる。記憶装置240には、画像処理プログラムおよび顕微鏡撮像プログラムが記憶される。また、記憶装置240は、測定部100から与えられる画素データ等の種々のデータを保存するために用いられる。
図4は、CPU210の構成を示すブロック図である。図4に示すように、CPU210は、画像データ生成部211、パターン生成部212、制御部213および合焦検出部214を含む。画像データ生成部211は、測定部100から与えられる画素データに基づいて画像データを生成する。画像データは複数の画素データの集合である。
パターン生成部212は、図2の光変調素子112により出射される測定光のパターンとして、空間的な位相を所定量ずつ順次移動させつつ前記測定対象物に照射すべきパターンを生成する。制御部213は、パターン生成部212により生成されたパターンに基づいて図2の制御基板170を介して光変調素子112を制御することにより、所定のパターンを有する測定光を測定対象物Sに照射しつつパターンの位相を移動させる。
また、制御部213は、制御基板170を介して受光部120、透過光供給部130、ステージ140、フィルタユニット150、レンズユニット160および投光部320の動作を制御する。さらに、制御部213は、生成した画像データにRAM230を用いて各種処理を行うとともに、画像データに基づく画像を表示部400に表示させる。
測定部100においては、測定対象物Sと図3の対物レンズ161との相対的な距離を変化させることにより、測定対象物Sに対する対物レンズ161の焦点の位置(以下、対物レンズ161の焦点位置と呼ぶ)が変化する。対物レンズ161の焦点位置が変化されつつ測定光が測定対象物Sに照射される。これにより、各焦点位置における測定対象物Sの画像データが生成される。合焦検出部214は、焦点位置調整機構163により対物レンズ161の焦点位置が複数変化されたときに画像データ生成部211によりそれぞれ生成された複数の画像データに基づいて合焦位置を検出する。
本実施の形態に係る顕微鏡撮像装置500では、図2の投光部320を用いて測定対象物Sの落射観察を行うことができ、透過光供給部130を用いて測定対象物Sの透過通常観察(透過観察)を行うことができる。
落射観察としては、以下に説明するパターン化された測定光を用いるセクショニング観察および均一な測定光を用いる落射通常観察を行うことができる。以下の説明においては、透過通常観察および落射通常観察を総称して通常観察と呼ぶ。
(2)セクショニング観察および落射通常観察
セクショニング観察では、1次元状または2次元状のパターンを有する測定光を測定対象物Sに照射しつつそのパターンの位相を一定量ずつ移動させる。1次元状のパターンを有する測定光は、XY平面上の一方向(例えばY方向)において周期的に変化する強度を有する。2次元状のパターンを有する測定光は、XY平面上の互いに交差する二方向(例えばX方向およびY方向)において周期的に変化する強度を有する。
以下、パターンを有する測定光をパターン測定光と呼ぶ。特に、1次元状のパターンを有する測定光を1次元状パターン測定光と呼び、2次元状のパターンを有する測定光を2次元状パターン測定光と呼ぶ。また、均一な強度を有する測定光を均一測定光と呼ぶ。
パターン測定光のパターンは、光変調素子112により制御される。以下、パターン測定光のパターンについて説明する。ここで、強度が所定の値以上のパターン測定光の部分を明部分と呼び、強度が所定の値より小さいパターン測定光の部分を暗部分と呼ぶ。図5は、パターン付与部110により出射される測定光の例を示す図である。
図5(a)は、1次元状パターン測定光の一例を示す。図5(a)の1次元状パターン測定光を矩形波状測定光と呼ぶ。矩形波状測定光の断面は、一方向(例えばX方向)に平行でかつ一方向に直交する他の方向(例えばY方向)に略等間隔で並ぶ複数の直線状の明部分を含み、複数の明部分の間に複数の直線状の暗部分を含む。
図5(b)は、1次元状パターン測定光の他の例を示す。図5(b)の1次元状パターン測定光を1次元正弦波状測定光と呼ぶ。1次元正弦波状測定光の断面は、例えばX方向に平行でかつY方向に強度が正弦波状に変化するパターンを含む。
図5(c)は、2次元状パターン測定光の一例を示す。図5(c)の2次元状パターン測定光をドット状測定光と呼ぶ。ドット状測定光の断面は、X方向およびY方向に略等間隔で並ぶ複数のドット状の明部分を含む。
2次元状パターン測定光の他の例として、パターン測定光は2次元正弦波状測定光であってもよい。2次元正弦波状測定光の断面は、X方向およびY方向に強度が正弦波状に変化するパターンを含む。2次元状パターン測定光のさらに他の例として、パターン測定光は格子状のパターンまたはチェッカーパターン(市松模様)を有してもよい。
セクショニング観察では、パターン測定光の明部分が測定光の照射範囲の全体に少なくとも1回照射されるようにパターン測定光のパターンの位相を一定量ずつ移動させつつ、測定対象物Sにより放出される蛍光を検出する。これにより、測定対象物Sの複数の画像データが生成される。
以下、測定対象物Sにパターン測定光が照射された場合に得られる画像データをパターン画像データと呼ぶ。パターン画像データに基づく画像をパターン画像と呼ぶ。
各パターン画像データにおいて、パターン測定光の明部分に対応する画素データは高い値(輝度値)を有し、パターン測定光の暗部分に対応する画素データは低い値(輝度値)を有する。そのため、各パターン画像において、パターン測定光の明部分に対応する画素は明るく、パターン測定光の暗部分に対応する画素は暗い。
複数のパターン画像データから画素ごとに複数の画素データの値を用いて明暗差の度合いを表わす成分(以下、合焦成分と呼ぶ)が算出される。合焦成分を有する画素をつなぎ合わせることにより生成される画像データをセクショニング画像データと呼ぶ。セクショニング画像データに基づく画像をセクショニング画像と呼ぶ。
矩形波状測定光またはドット状測定光を用いて生成されたパターン画像データにおいては、合焦成分は、例えば画素データの最大値(最大輝度値)と最小値(最小輝度値)との差、または画素データの値の標準偏差である。1次元正弦波状測定光または2次元正弦波状測定光を用いて生成されたパターン画像データにおいては、合焦成分は、例えば画素データの振幅(ピークトゥピーク)である。
最も簡単な方法では、各画素について、複数のパターン画像データから最大値を有する画素データを選択し、全画素について、選択された画素データをつなぎ合せることにより、セクショニング画像データを生成することが可能である。
ここで、各パターン画像は、迷光の影響を受ける。それにより、パターン画像のパターンにはボケが生じる。各パターン画像データにおいて迷光による成分をボケ成分と呼ぶ。ボケ成分は、パターン測定光の各明部分自体において発生する迷光によるボケ成分と、パターン測定光の各明部分に隣り合う他の明部分からの迷光によるボケ成分とを含む。
そこで、迷光の影響を除去するために、各画素について、パターン測定光の明部分および暗部分が照射されたときのパターン画像データの画素データの差を算出する。算出された全画素についての差をつなぎ合せることにより、セクショニング画像データを生成する。各画素について、パターン測定光の暗部分が照射されたときのパターン画像データの画素データの値は、ボケ成分に相当する。したがって、迷光の影響が除去されたセクショニング画像データを得ることができる。
セクショニング画像データの生成方法の一例として、本実施の形態では、各画素について、複数のパターン画像データの複数の画素データの最大値(最大輝度値)と最小値(最小輝度値)との差を算出する。算出された全画素についての差をつなぎ合せることにより、セクショニング画像データを生成する。他の方法により、複数のパターン画像データの複数の画素データに基づいてセクショニング画像が生成されてもよい。
例えば、各画素について、複数のパターン画像データの複数の画素データの値の標準偏差を算出する。算出された全画素についての標準偏差をつなぎ合せることにより、セクショニング画像データを生成してもよい。
セクショニング観察において、1次元状パターン測定光を用いる場合には、パターン測定光の位相が例えばY方向に移動されるので、Y方向におけるボケ成分が除去されたセクショニング画像データが生成される。また、パターン測定光の位相は例えばX方向に移動される必要がないので、撮像回数が低減される。そのため、比較的高い画質を有するセクショニング画像を高速に得ることができる。
一方、セクショニング観察において、2次元状パターン測定光を用いる場合には、パターン測定光の位相がX方向およびY方向に移動されるので、X方向Y方向におけるボケ成分が除去されたセクショニング画像データが生成される。そのため、1次元状パターン測定光を用いる場合よりも撮像回数が増加するが、非常に高い画質を有するセクショニング画像を得ることができる。
特に測定部100が蛍光顕微鏡である場合には、多数回のパターン測定光を測定対象物Sに照射することにより測定対象物Sの蛍光試薬が褪色することがある。そのため、測定対象物Sによっては、撮像回数を低減させることが重視されることがある。
本実施の形態においては、光変調素子112を制御することにより、1次元状パターン測定光と2次元状パターン測定光とを容易かつ高速に切り替えることができる。したがって、使用者は、セクショニング画像データの生成に要する時間(撮像回数)と、得られるセクショニング画像の画質とを考慮して、セクショニング観察に用いるパターン測定光を選択することができる。
図5(d)は、均一測定光の一例を示す。均一測定光は、均一な強度分布を有する。すなわち、均一測定光は明部分のみからなる測定光である。落射通常観察では、図5(d)の均一測定光が測定対象物Sの全ての部分に照射され、測定対象物Sにより放出される蛍光が検出される。これにより、測定対象物Sの画像データが生成される。落射通常観察において得られる画像データを落射通常画像データと呼び、落射通常画像データに基づく画像を落射通常画像と呼ぶ。
測定対象物Sが立体的な構造を有する場合、測定対象物Sの一部に対物レンズ161の焦点が合っていても、測定対象物Sの他の部分に対物レンズ161の焦点が合っていない。したがって、ある焦点位置におけるセクショニング画像データまた落射通常画像データのうち一部の画素データは測定対象物Sの部分に焦点が合った状態で得られ、他の部分の画素データは測定対象物Sの部分に焦点が合っていない状態で得られる。以下、測定対象物Sの一部に焦点が合った状態で得られる画素データを合焦点画素データと呼ぶ。
複数の焦点位置で得られた複数のセクショニング画像データまたは落射通常画像データのうち、合焦点画素データが合成されることにより、測定対象物Sの全体に焦点が合った状態で得られる画像データが生成される。以下、測定対象物Sの全体に焦点が合った状態で得られる画像データを全焦点画像データと呼ぶ。全焦点画像データに基づく画像を全焦点画像と呼ぶ。
(3)測定条件の設定
(a)測定条件および明度パラメータ
セクショニング観察における測定条件ならびにセクショニング観察および落射通常観察における明度パラメータについて説明する。図6は、測定条件および明度パラメータの種類を示す図である。
図6に示すように、セクショニング観察における測定条件は、パターン種別および測定パラメータを含む。パターン種別は、パターン測定光および均一測定光を含む。パターン測定光は、1次元状パターン測定光および2次元状パターン測定光を含む。1次元状パターン測定光は、矩形波状測定光および1次元正弦波状測定光を含む。2次元状パターン測定光は、ドット状測定光および2次元正弦波状測定光を含む。
セクショニング観察における測定パラメータは、撮像回数、パターン測定光の位相の移動量、パターン測定光の明部分および暗部分の幅、ならびにパターン測定光の位相の空間周期を含む。撮像回数は、パターン画像データの生成回数である。
明度パラメータは、受光部120の露光時間、受光部120のゲイン、パターン画像データまたは落射通常画像データにおけるビニング数および蛍光(測定光)の強度を含む。ここで、ビニング数とは、複数の画素データを擬似的に結合させて1つの画素データとして扱うビニング処理において結合される画素データの数を意味する。
セクショニング観察において適切な測定パラメータは、パターン種別に応じて異なる。明度パラメータは、測定条件に連動して自動的に適切に設定される。以下、パターン種別に応じた測定パラメータの設定について説明する。
(b)矩形波状測定光
図7は、矩形波状測定光の強度分布を示す図である。図7(a),(b)の横軸は矩形波状測定光の位置(例えばY方向における位置)を示し、縦軸は矩形波状測定光の強度を示す。図7(a)は、理想的な矩形波状測定光の強度分布を示す。理想的な矩形波状測定光においては、各明部分は略矩形状の強度分布を有する。
矩形波状測定光の最大強度(各明部分の強度)はImaxである。矩形波状測定光の最小強度(各暗部分の強度)はIminである。矩形波状測定光の最大強度Imaxと最小強度Iminとの差が大きいほど、パターン画像の画質を向上させることができる。
矩形波状測定光の平均強度はIaveである。矩形波状測定光の平均強度Iaveが大きいほど、パターン画像が明るくなる。矩形波状測定光の平均強度Iaveは比較的小さいので、パターン画像は比較的暗い。したがって、矩形状測定光が選択された場合には、自動的に明度パラメータが比較的大きく設定される。これにより、パターン画像を明るくすることができる。
矩形波状測定光の各明部分の幅はW1であり、矩形波状測定光の各暗部分の幅はW2である。パターンは一定の空間周期Tsで繰り返される。空間周期Tsは、明部分の幅W1と暗部分の幅W2との和である。
光変調素子112がDMDである場合には、各マイクロミラーの寸法を1単位とする。矩形波状測定光の各明部分の幅W1は例えば4単位であり、矩形波状測定光の各暗部分の幅W2は例えば12単位である。この場合、空間周期Tsは16単位である。なお、明部分および暗部分の単位は、光変調素子112の構成により異なる。例えば、光変調素子112がLCDである場合には、1単位は1画素の寸法である。
空間周期Tsが小さい場合、矩形波状測定光の一の明部分が照射されるべき測定対象物Sの部分に他の明部分から迷光が照射されることがある。この場合、パターン画像に発生するボケが増加する。そのため、空間周期Tsを大きく設定することにより、パターン画像に発生するボケを低減することができる。
また、矩形波状測定光の各明部分の幅W1が大きい場合、各明部分における迷光が測定対象物Sに照射されることにより、測定対象物Sの細部におけるパターン画像の画質が低下する。そのため、矩形波状明部分の幅W1を小さく設定することにより、測定対象物Sの細部におけるパターン画像の画質を向上させることができる。
図7(b)は、現実的な矩形波状測定光の強度分布を示す。現実的な矩形波状測定光においては、各明部分の強度分布は略台形状となる。また、現実的な矩形波状測定光の最大強度Imaxは、図7(a)の理想的な矩形波状測定光の最大強度Imaxよりも小さくなる。現実的な矩形波状測定光の最小強度Iminは、図7(a)の理想的な矩形波状測定光の最小強度Iminよりも大きくなる。
図7(b)の矩形波状測定光の明部分が測定光の照射範囲の全体に少なくとも1回照射されるように矩形波状測定光のパターンの位相の移動量を設定する。図8は、図7(b)の矩形波状測定光のパターンの位相の移動量を説明するための図である。図8(a),(b)の横軸は矩形波状測定光の位置(例えばY方向における位置)を示し、縦軸は矩形波状測定光の強度を示す。
図8(a)の例においては、第1の時点において、測定対象物Sの部分Aに明部分が位置するように、矩形波状測定光が測定対象物Sに照射される。これにより、測定対象物Sの部分Aから放出される蛍光が受光部120により受光される。蛍光の受光量に基づいて、測定対象物Sの1番目のパターン画像データが生成される。
その後、矩形波状測定光のパターンの位相を空間周期Tsの略1/3だけY方向に移動させる。次に、第1の時点後の第2の時点において、測定対象物Sの部分Bに明部分が位置するように、矩形波状測定光が測定対象物Sに照射される。これにより、測定対象物Sの部分Bから放出される蛍光が受光部120により受光される。蛍光の受光量に基づいて、測定対象物Sの2番目のパターン画像データが生成される。
その後、矩形波状測定光のパターンの位相を空間周期Tsの略1/3だけY方向にさらに移動させる。次に、第2の時点後の第3の時点において、測定対象物Sの部分Cに明部分が位置するように、矩形波状測定光が測定対象物Sに照射される。これにより、測定対象物Sの部分Cから放出される蛍光が受光部120により受光される。蛍光の受光量に基づいて、測定対象物Sの3番目のパターン画像データが生成される。
このように、パターンの位相を移動させつつ矩形波状測定光を測定対象物Sに3回照射することにより、測定対象物Sの全ての部分に明部分が照射される。生成された1番目〜3番目のパターン画像データに基づいて、セクショニング画像データが生成される。このセクショニング画像データは、測定対象物Sの全ての部分に図8(a)の太い曲線で示される強度分布の測定光が照射された場合に生成されるパターン画像データと等価である。
しかしながら、図8(a)の例においては、部分A,Bの境界付近、部分B,Cの境界付近、および部分C,Aの境界付近に照射される明部分の強度は、部分A〜Cの中央付近に照射される明部分の強度よりも小さい。この場合、部分A,Bの境界付近、部分B,Cの境界付近、および部分C,Aの境界付近に対応するセクショニング画像データの画素は暗くなるか、または欠落する。そのため、正確なセクショニング画像データを生成することができない。
図8(b)の例においては、第1の時点において、測定対象物Sの部分Aに明部分が位置するように、矩形波状測定光が測定対象物Sに照射されることにより、測定対象物Sの1番目のパターン画像データが生成される。その後、矩形波状測定光のパターンの位相を空間周期Tsの略1/5だけY方向に移動させる。
この状態で、同様の矩形波状測定光の出射およびパターンの位相の移動が繰り返される。これにより、第2〜第5の時点において、それぞれ測定対象物Sの部分B〜Eに明部分が位置するように、矩形波状測定光が測定対象物Sに照射され、2番目〜5番目のパターン画像データが生成される。
このように、パターンの位相を移動させつつ矩形波状測定光を測定対象物Sに5回照射することにより、測定対象物Sの全ての部分に明部分が照射される。生成された1番目〜5番目のパターン画像データに基づいて、セクショニング画像データが生成される。このセクショニング画像データは、測定対象物Sの全ての部分に図8(b)の太い曲線で示される強度分布の測定光が照射された場合に生成されるパターン画像データと等価である。
図8(b)の例においては、測定対象物Sの全ての部分に照射される明部分の強度は略均一である。これにより、測定対象物Sの正確なセクショニング画像データを生成することができる。
(c)1次元正弦波状測定光
図9は、1次元正弦波状測定光の強度分布を示す図である。図9(a),(b)の横軸は1次元正弦波状測定光の位置(例えばY方向における位置)を示し、縦軸は1次元正弦波状測定光の強度を示す。
図9(a)は、理想的な1次元正弦波状測定光の強度分布を示す。1次元正弦波状測定光の最大強度はImaxである。1次元正弦波状測定光の最小強度はIminである。1次元正弦波状測定光の平均強度はIaveである。1次元正弦波状測定光の平均強度Iaveは、矩形波状測定光の平均強度Iaveよりも大きい。そのため、1次元正弦波状測定光を用いたパターン画像は、矩形波状測定光を用いたパターン画像よりも明るくなる。したがって、1次元正弦波状測定光が選択された場合には、自動的に明度パラメータが比較的小さく設定される。
パターンは一定の空間周期Tsで繰り返される。空間周期Tsが大きい場合、セクショニング画像に発生する広域的なボケ成分を低減することができる反面、測定対象物Sの細部におけるセクショニング画像の画質が低下する。そのため、空間周期Tsは、セクショニング画像に発生する広域的なボケと測定対象物Sの細部におけるセクショニング画像の画質とのトレードオフにより適切に設定される。
図9(b)は、現実的な1次元正弦波状測定光の強度分布を示す。現実的な正弦波状測定光の最大強度Imaxは、図9(a)の理想的な1次元正弦波状測定光の最大強度Imaxよりも小さくなる。現実的な1次元正弦波状測定光の最小強度Iminは、図9(a)の理想的な1次元正弦波状測定光の最小強度Iminよりも大きくなる。
図9(b)の1次元正弦波状測定光の明部分が測定光の照射範囲の全体に少なくとも1回照射されるように1次元正弦波状測定光のパターンの位相の移動量を設定する。図10は、図9(b)の1次元正弦波状測定光のパターンの位相の移動量を説明するための図である。図10の横軸は1次元正弦波状測定光の位置(例えばY方向における位置)を示し、縦軸は1次元正弦波状測定光の強度を示す。
図10の例においては、第1の時点において、測定対象物Sの部分Aに明部分が位置するように、1次元正弦波状測定光が測定対象物Sに照射されることにより、測定対象物Sの1番目のパターン画像データが生成される。その後、1次元正弦波状測定光のパターンの位相を空間周期Tsの略1/3だけY方向に移動させる。
この状態で、同様の1次元正弦波状測定光の出射およびパターンの位相の移動が繰り返される。これにより、第2および第3の時点において、それぞれ測定対象物Sの部分B,Cに明部分が位置するように、1次元正弦波状測定光が測定対象物Sに照射され、2番目および3番目のパターン画像データが生成される。
このように、パターンの位相を移動させつつ1次元正弦波状測定光を測定対象物Sに3回照射することにより、測定対象物Sの全ての部分に明部分が照射される。生成された1番目〜3番目のパターン画像データに基づいて、セクショニング画像データが生成される。
具体的には、1番目〜3番目のパターン画像データにおける任意の画素データの値をそれぞれL
A,L
B,L
Cとすると、下記式(1)により当該画素データの値Lが算出される。全画素について、算出された画素データをつなぎ合せることにより、1次元正弦波状測定光を用いたセクショニング画像データを生成することができる。
(d)ドット状測定光
ドット状測定光を用いた測定パラメータの設定は、以下の点を除いて、矩形波状測定光を用いた測定パラメータの設定と同様である。
ドット状測定光のパターンは、例えばY方向だけでなくX方向にも一定の空間周期Tsで繰り返される。そのため、ドット状測定光を用いる場合には、設定された回数(本例においては5回)だけY方向へパターンの位相を移動させた後に、設定された回数(本例においては5回)だけX方向へパターンの位相を移動させる。
パターンの位相を移動させた状態において、測定対象物Sから放出される蛍光が受光部120により受光される。これにより、蛍光の受光量に基づいて、測定対象物Sの1番目〜25番目のパターン画像データが生成される。
このように、パターンの位相を移動させつつドット状測定光を測定対象物Sに25回照射することにより、測定対象物Sの全ての部分に明部分が照射される。生成された1番目〜25番目のパターン画像データに基づいて、セクショニング画像データが生成される。
(e)2次元正弦波状測定光
2次元正弦状測定光を用いた測定パラメータの設定は、以下の点を除いて、1次元正弦波状測定光を用いた測定パラメータの設定と同様である。
2次元正弦状測定光のパターンは、例えばY方向だけでなくX方向にも一定の空間周期Tsで繰り返される。そのため、2次元正弦状測定光を用いる場合には、設定された回数(本例においては3回)だけY方向へパターンの位相を移動させる。このY方向へのパターンの位相の移動を、設定された回数(本例においては3回)だけX方向へパターンの位相を移動させつつ繰り返す。
パターンの位相を移動させた状態において、測定対象物Sから放出される蛍光が受光部120により受光される。これにより、蛍光の受光量に基づいて、測定対象物Sの1番目〜9番目のパターン画像データが生成される。
このように、パターンの位相を移動させつつ2次元正弦状測定光を測定対象物Sに9回照射することにより、測定対象物Sの全ての部分に明部分が照射される。生成された1番目〜9番目のパターン画像データに基づいて、セクショニング画像データが生成される。具体的には、全画素について式(1)と同様の画素データの値Lを算出し、算出された画素データをつなぎ合せることにより2次元正弦波状測定光を用いたセクショニング画像データを生成することができる。
(f)均一測定光
セクショニング観察を行わない場合には、落射通常観察により均一測定光を用いて落射通常画像データを生成することができる。均一測定光を用いる場合には、明部分が測定対象物Sの全ての部分に照射されるので、均一測定光の位相を移動させる必要がない。そのため、空間周期Tsの設定は行われない。均一測定光の強度は十分に大きいので、均一測定光を用いた測定対象物Sの画像は十分に明るい。したがって、均一測定光が選択された場合には、自動的に明度パラメータが十分に小さく設定される。均一測定光を測定対象物Sに1回照射することにより、1つの落射通常画像データが生成される。
このように、セクショニング観察と落射通常観察とを使い分けることができる。セクショニング観察においては、パターン種別が設定される。これにより、パターン種別に応じた特性を有するセクショニング画像データを生成することができる。設定されたパターン種別に応じて、測定パラメータが設定される。
測定パラメータの一例として、撮像回数は、矩形波状測定光においては5〜10回に設定され、1次元正弦波状測定光においては3〜4回に設定される。また、撮像回数は、ドット状測定光においては25〜100回に設定され、2次元正弦波状測定光においては9〜16回に設定される。なお、撮像回数は、均一測定光においては1回である。
本例においては、パターン種別、パターンの位相の移動量および空間周期Tsが設定されることにより撮像回数が自動的に設定される。例えば、撮像回数は、1次元状測定光を用いる場合にはパターンの位相の移動量に対する空間周期Tsの比により与えられ、2次元状測定光を用いる場合にはパターンの位相の移動量に対する空間周期Tsの比の二乗により与えられる。
明度パラメータは、測定条件により変化するパターン測定光の暗部分に対する明部分の比率に連動して自動的に適切に設定される。明度パラメータの第1の例として、受光部120の露光時間は、矩形波状測定光およびドット状測定光においては比較的長く設定される。受光部120の露光時間は、1次元正弦波状測定光および2次元正弦波状測定光においては比較的短く設定される。受光部120の露光時間は、均一測定光においては十分に短く設定される。
明度パラメータの第2の例として、蛍光の強度すなわち測定光の強度が、矩形波状測定光およびドット状測定光においては比較的大きく設定されてもよい。測定光の強度が、1次元正弦波状測定光および2次元正弦波状測定光においては比較的小さく設定されてもよい。測定光の強度が、均一測定光においては十分に小さく設定されてもよい。
明度パラメータの第3の例として、パターン画像データにおけるビニング数が、矩形波状測定光およびドット状測定光においては比較的大きく設定されてもよい。パターン画像データにおけるビニング数が、1次元正弦波状測定光および2次元正弦波状測定光においては比較的小さく設定されてもよい。落射通常画像データにおけるビニング数が、均一測定光においては十分に小さく設定されてもよい。
明度パラメータの第4の例として、受光部120のゲインが、矩形波状測定光およびドット状測定光においては比較的大きく設定されてもよい。受光部120のゲインが、1次元正弦波状測定光および2次元正弦波状測定光においては比較的小さく設定されてもよい。受光部120のゲインが、均一測定光においては十分に小さく設定されてもよい。
パターン測定光においては、パターン画像に発生するボケの許容度合に応じて空間周期Tsが設定される。また、矩形波状測定光およびドット状測定光においては、明部分の幅W1が設定される。
図11は、空間周期Tsを図7の空間周期Tsよりも小さくした場合における矩形波状測定光の強度分布を示す図である。図11(a)は理想的な矩形波状測定光の強度分布を示し、図11(b)は現実的な矩形波状測定光の強度分布を示す。
空間周期Tsが小さい場合、矩形波状測定光の一の明部分が照射されるべき測定対象物Sの部分に他の明部分からの迷光が照射されることがある。図11(b)の例においては、例えば明部分bが照射されるべき測定対象物Sの部分に明部分aまたは明部分cからの迷光が照射されることがある。この場合、セクショニング画像に発生する広域的なボケ成分が増加する。
一方、空間周期Tsが小さい場合、明部分a〜e間の間隔が小さいので、測定光の照射範囲の全体への明部分a〜eの照射が短時間で行われる。これにより、撮像回数を低減させるとともに、セクショニング画像データを短時間で生成することができる。
図12は、空間周期Tsを図7の空間周期Tsよりも大きくした場合における矩形波状測定光の強度分布を示す図である。図12(a)は理想的な矩形波状測定光の強度分布を示し、図12(b)は現実的な矩形波状測定光の強度分布を示す。
空間周期Tsが大きい場合、明部分a〜e間の間隔が大きいので、測定光の照射範囲の全体への明部分a〜eの照射を終了するまでに長時間を要する。この場合、撮像回数が増加するとともに、セクショニング画像データが生成されるまでに長時間を要する。
一方、空間周期Tsが大きい場合、矩形波状測定光の一の明部分が照射されるべき測定対象物Sの部分には他の明部分からの迷光が照射されることがほとんどない。これにより、セクショニング画像の広域的なボケ成分を低減することができる。
図13は、明部分の幅W1を図7の明部分の幅W1よりも大きくした場合における矩形波状測定光の強度分布を示す図である。図13(a)は理想的な矩形波状測定光の強度分布を示し、図13(b)は現実的な矩形波状測定光の強度分布を示す。
明部分の幅W1が大きい場合、矩形波状測定光の各明部分自体において発生する迷光が測定対象物Sの対応する部分に照射されることがある。図13(b)の例においては、明部分a〜eにおいてそれぞれ発生する迷光が測定対象物Sの対応する部分に照射されることがある。この場合、測定対象物Sの細部におけるセクショニング画像の画質が低下する。
一方、明部分の幅W1が大きい場合、暗部分の幅W2が小さいので、測定光の照射範囲の全体への明部分a〜dの照射が短時間で行われる。これにより、撮像回数を低減させるとともに、セクショニング画像データを短時間で生成することができる。
図14は、明部分の幅W1を図7の明部分の幅W1よりも小さくした場合における矩形波状測定光の強度分布を示す図である。図14(a)は理想的な矩形波状測定光の強度分布を示し、図14(b)は現実的な矩形波状測定光の強度分布を示す。
明部分の幅W1が小さい場合、暗部分の幅W2が大きいので、測定光の照射範囲の全体への明部分a〜dの照射を終了するまでに長時間を要する。この場合、撮像回数が増加するとともに、セクショニング画像データが生成されるまでに長時間を要する。
一方、明部分の幅W1が小さい場合、矩形波状測定光の各明部分自体において発生する迷光が測定対象物Sの対応する部分に照射されることがほとんどない。これにより、測定対象物Sの細部におけるセクショニング画像の画質を向上させることができる。
使用者は、パターンの位相の移動量を任意に設定することができる。ここで、矩形波状測定光の明部分を測定光の照射範囲の全体に少なくとも1回照射するため、パターンの位相の移動量を、明部分の幅W1よりも僅かに小さく設定されることが好ましい。設定されたパターンの位相の移動量に対する空間周期Tsの比が撮像回数となる。
本実施の形態においては、パターン種別を切り替えることにより、パターン種別に対応して設定された測定パラメータが自動的に切り替わる。測定パラメータは、パターン種別に対応して固定値であってもよいし、予め定められた複数の値から選択されてもよい。また、複数の測定パラメータの一部が使用者により選択された場合、測定パラメータの他の一部が自動的に決定されてもよい。
上記の測定条件および明度パラメータ以外に他の設定項目が追加されてもよい。例えば、本実施の形態においては、使用者は、図1の操作部250を用いてROI(関心領域)を設定することができる。この場合、ROIに対応する測定対象物Sの部分にのみ測定光が照射され、他の部分に測定光が照射されないように光変調素子112が制御されてもよい。これにより、複数のパターン画像データまたは落射通常画像データを高速に生成することができる。
また、受光部120が均一な強度を有する光を受光した場合でも、受光部120から出力される各画素における受光信号のレベルは均一にならないことがある。これは、光の強度が本来的に一様でないこと、ミラーの反射率が反射面の全体において一様でないこと、またはレンズの透過率がレンズ全体において一様でないこと等が原因である。これにより、画像の中心部が明るくなり、画像の周縁部が暗くなるシェーディング現象が発生する。
そのため、不均一な受光信号のレベルを均一に補正(以下、シェーディング補正と呼ぶ)するために、シェーディング補正係数が乗じられた強度の測定光を出射するように光変調素子112が制御されてもよい。これにより、複数のパターン画像データまたは落射通常画像データを正確に生成することができる。
図15は、CPU210による光変調素子112の制御処理を示すフローチャートである。CPU210は、使用者により測定条件が指示されるまで待機する(ステップS1)。ステップS1において、使用者により測定条件が指示された場合、CPU210は、指示された測定条件のパターン種別に基づいてパターン種別を設定する(ステップS2)。
また、CPU210は、指示された測定条件の測定パラメータの空間周期Tsおよびパターンの位相の移動量に基づいて撮像回数を算出する(ステップS3)。ステップS2,S3の処理はいずれが先に実行されてもよい。続いて、CPU210は、設定されたパターン種別の測定光を出射するように光変調素子112を制御する(ステップS4)。その後、CPU210は、光変調素子112が算出された撮像回数だけ測定光を出射したか否かを判定する(ステップS5)。
ステップS5において、光変調素子112が算出された撮像回数だけ測定光を出射していない場合、CPU210は、設定された移動量だけパターンの位相を移動させるように光変調素子112を制御する(ステップS6)。その後、CPU210は、ステップS4の処理に戻る。これにより、光変調素子112が算出された撮像回数だけ測定光を出射するまでステップS4〜S6の処理が繰り返される。ステップS5において、光変調素子112が算出された撮像回数だけ測定光を出射した場合、CPU210は、光変調素子112の制御処理を終了する。
(4)受光量レベル調整
測定光が測定対象物Sに照射されることにより、測定対象物Sから蛍光が放出される。測定対象物Sから放出される蛍光の強度は、測定対象物Sに照射される測定光の強度に比例する。したがって、測定対象物Sにパターン測定光が照射された場合には、測定対象物Sはパターン測定光のパターンと略同一のパターンを有する蛍光を放出する。なお、蛍光の強度は測定光の強度の10−6倍程度である。
測定対象物Sから放出された蛍光は、受光部120により受光される。それにより、受光部120から受光量を示す受光信号が出力される。受光部120から出力される受光信号に基づいて、測定対象物Sのパターン画像データが生成される。受光信号のレベルは、測定対象物Sから放出される蛍光の強度、受光部120の露光時間および受光部120のゲインに比例する。測定対象物Sから放出される蛍光の強度は測定光の強度に比例する。
したがって、測定光の強度、受光部120の露光時間および受光部120のゲインの少なくとも1つを調整することにより、受光信号のレベルを調整することができる。以下、測定光の強度、受光部120の露光時間および受光部120のゲインの少なくとも1つを調整することにより受光信号のレベルを調整することを受光レベル調整と呼ぶ。測定光の強度、受光部120の露光時間または受光部120のゲインを高くしすぎると、受光部120から出力される受光信号が飽和する。
セクショニング観察では、上記のように、パターンの位相を移動させつつパターン測定光が測定対象物Sに複数回照射される。そのため、測定対象物Sから放出された蛍光は、受光部120により複数回受光される。
これにより、複数回の照射時の各画素についての受光信号のレベルに基づいて、複数のパターン画像データがそれぞれ生成される。本実施の形態では、生成された複数のパターン画像データに基づいて、各画素について、最大受光レベルに相当する画素データの最大値と最小受光レベルに相当する画素データの最小値との差が算出される。全画素について算出された差をつなぎ合せることによりセクショニング画像データが生成される。これにより、生成されるセクショニング画像データから迷光の影響が除去される。
このように、セクショニング画像データから迷光の影響を除去するために、各画素について画素データの最大値と画素データの最小値との差が算出される。そのため、迷光の影響を除去したセクショニング画像は、迷光の影響を除去しないセクショニング画像よりも暗くなる。
本実施の形態においては、セクショニング画像データの各画素データの値に1よりも大きい一定のコントラスト補正量が乗算されることにより、セクショニング画像データのコントラストが補正される。コントラスト補正量は、例えばセクショニング画像データの複数の値のうち最大値に対する受光部120の出力レンジの上限値の比である。
コントラスト補正量は、セクショニング画像データの最大値に対する受光部120の出力レンジの上限値の比ではなく、例えば最大値から上位数%までの値を有するセクショニング画像データの複数の値の平均値に対する受光部120の出力レンジの上限値の比であってもよい。
上記のコントラストの補正により、セクショニング画像を明るくすることができる。一方、コントラストが補正された場合、複数のセクショニング画像の明るさを定量的に比較することができない。そこで、本実施の形態においては、生成されたセクショニング画像データが図1の記憶装置240に保存される際には、コントラストが補正される前のセクショニング画像データとコントラスト補正量を示すメタデータとが独立して保存される。
この場合、コントラストが補正される前のセクショニング画像データに基づいて、複数のセクショニング画像の明るさを定量的に比較することができる。また、コントラストが補正される前のセクショニング画像データとメタデータとに基づいてコントラストが補正された後のセクショニング画像を表示することができる。なお、セクショニング画像データの保存形式は、一般的な保存形式であってもよいし、他の独自の保存形式であってもよい。
一般的な保存形式は、TIFF(Tagged Image File)形式、JPEG(Joint Photographic Experts Group)形式、BMP(Windows(登録商標)bitmap)形式またはPNG(Portable Network Graphics)形式を含む。一般的な保存形式でセクショニング画像データを保存する場合において、画像を表示するソフトウェアがメタデータの読み込みに対応している場合には、コントラストが補正された後のセクショニング画像を表示することができる。
一方、画像を表示するソフトウェアがメタデータの読み込みに対応していない場合には、コントラストが補正された後のセクショニング画像を表示することができない。この場合には、コントラストが補正される前のセクショニング画像データおよびメタデータに加えて、コントラストが補正された後のセクショニング画像データがサムネイルデータとして別個に保存されてもよい。
サムネイルデータに基づいてブラウザ上にセクショニング画像のサムネイルが表示されることにより、ブラウザ上でのセクショニング画像の視認性を向上させることができる。その結果、セクショニング画像データの探索性を向上させることができる。
補正前のセクショニング画像データのコントラストが大きいほど、セクショニング画像の画質を向上させることができる。そのため、受光部120から出力される受光信号のレベルを適切に設定することが好ましい。図16は、受光部120から出力される受光信号を示す図である。図16(a)〜(c)の横軸は測定対象物Sの水平方向の位置(例えばY方向における位置)を示し、縦軸はを示す。最大受光レベルはLmaxであり、最小受光レベルはLminであり、受光部120の出力レンジの上限値はLsatである。
図16(a)は、受光信号のレベルが適正である場合の例を示す。図16(a)の例においては、最大受光レベルLmaxが出力レンジの上限値Lsatよりも僅かに低くなり、かつ最小受光レベルLminが出力レンジの下限値よりも僅かに高くなる。これにより、コントラストCtが大きくなる。
図16(b)は、受光信号のレベルが低すぎる場合の例を示す。受光信号のレベルを図16(a)の状態から低下させていく場合、最小受光レベルLminは、受光部120の出力レンジの下限値まで低下した後は一定になる。これに対し、受光信号のレベルを図16(a)の状態から低下させていく場合、最大受光レベルLmaxは、最小受光レベルLminが受光部120の出力レンジの下限値で一定になった後も低下し得る。そのため、図16(b)に示すように、受光信号のレベルが低すぎるとコントラストCtが低下する。この場合、セクショニング画像が暗くなる。
また、測定光の明部分に対応する測定対象物Sの部分と測定光の暗部分に対応する測定対象物Sの部分とを区別することができないので、セクショニング画像を正確に生成することができない。さらに、セクショニング画像が暗いので、コントラストの補正が行われる場合には、コントラスト補正量が大きくなる。そのため、セクショニング画像のノイズ成分も大きくなる。
図16(c)は、受光信号のレベルが高すぎる場合の例を示す。受光信号のレベルを図16(a)の状態から上昇させていく場合、最大受光レベルLmaxは、受光部120の出力レンジの上限値Lsatまで上昇した後は一定になる。これに対し、受光信号のレベルを図16(a)の状態から上昇させていく場合、最小受光レベルLminは、最大受光レベルLmaxが受光部120の出力レンジの上限値Lsatで一定になった後も上昇し得る。そのため、図16(c)に示すように、受光信号のレベルが高すぎるとコントラストCtが低下する。この場合、受光信号のレベルを高くしたにもかかわらず、セクショニング画像が暗くなる。
受光信号のレベルを図16(c)の状態からさらに上昇させることにより、最小受光レベルLminも受光部120の出力レンジの上限値Lsatまで上昇した場合は、コントラストCtが0になる。また、最大受光レベルLmax付近における蛍光のパターンが変形するため、セクショニング画像を正確に生成することができない。
(5)表示部
(a)画像表示領域
図17および図18は、表示部400の表示例を示す図である。図17および図18に示すように、表示部400には画像表示領域410および設定表示領域420が並ぶように設けられる。設定表示領域420については後述する。画像表示領域410には、メインウインドウ411およびサブウインドウ412が表示される。サブウインドウ412の表示および非表示は切り替え可能である。
図2の透過光供給部130から出射された透過光が測定対象物Sを透過して受光部120により受光されることにより、測定対象物Sの画像データが生成される。以下、透過光を用いて生成される測定対象物Sの画像データを透過通常画像データと呼び、透過通常画像データに基づく画像を透過通常画像と呼ぶ。また、透過通常画像データおよび落射通常画像データを総称して通常画像データと呼び、透過通常画像および落射通常画像を総称して通常画像と呼ぶ。メインウインドウ411には、パターン画像、セクショニング画像、通常画像または全焦点画像等の種々の画像が表示される。
具体的には、メインウインドウ411は、通常表示とプレビュー表示とを選択的にまたは同時に実行可能に構成される。通常表示は、既に生成された画像データに基づいてパターン画像、セクショニング画像、通常画像または全焦点画像等を表示する方式である。プレビュー表示は、測定条件が変更された際に生成される画像データに基づくパターン画像またはセクショニング画像を表示する方式である。通常表示においては、既に生成された画像データに基づいて、メインウインドウ411に複数の画像を重畳表示することができる。
プレビュー表示においては、測定条件、明度パラメータまたは視野が変更された場合のみ、測定対象物Sに再度測定光が照射される。例えば、パターン種別、パターン測定光の位相の移動量、明部分の幅W1もしくは位相の空間周期Ts、受光部120の露光時間またはビニング数等が変更された場合、測定対象物Sに再度測定光が照射される。あるいは、ステージ140がX方向またはY方向に移動された場合、または焦点位置調整機構163が制御された場合、測定対象物Sに再度測定光が照射される。
これにより、受光される蛍光に基づいてパターン画像またはセクショニング画像データが生成されるとともに、明度画像データが生成される。その結果、メインウインドウ411に表示されるパターン画像またはセクショニング画像が更新される。
一方、測定条件が変更されない場合には、測定対象物Sに再度測定光を照射する必要がないので、CPU210は、光変調素子112を制御することにより、測定対象物Sへの測定光の照射を遮断する。これにより、測定対象物Sに測定光が照射され続けることによる蛍光試薬の不必要な褪色を低減することができる。
本実施の形態においては、測定対象物Sへの測定光の照射と照射の遮断とを光変調素子112により高速に切り替えることができる。したがって、複数のパターン画像データを高速で生成することができる。これにより、複数のパターン画像データにより生成されるセクショニング画像データを高速で生成することができる。その結果、測定条件が変更された際のセクショニング画像を高い応答性でプレビュー表示することができる。
プレビュー表示においては、例えばビニング数を大きくしてパターン画像データを生成するように設定されていてもよい。この場合、パターン画像データおよびセクショニング画像データをより高速に生成することができる。これにより、プレビュー表示において、パターン画像またはセクショニング画像をより高速に表示することができる。使用者は、プレビュー表示されたパターン画像またはセクショニング画像を見ながら、適切な測定条件を容易にかつ短時間で選択することができる。
図19は、通常表示においてメインウインドウ411に表示された画像の一例を示す図である。図19(a)は、GFPの吸収波長を有する測定光を測定対象物Sに照射した場合のセクショニング画像を示す。図19(b)は、Texas Redの吸収波長を有する測定光を測定対象物Sに照射した場合のセクショニング画像を示す。
図20は、通常表示においてメインウインドウ411に表示された画像の他の例を示す図である。図20(a)は、DAPIの吸収波長を有する測定光を測定対象物Sに照射した場合のセクショニング画像を示す。図20(b)は、位相差観察用の透過光を測定対象物Sに照射した場合の透過通常画像を示す。
図21は、通常表示においてメインウインドウ411に重畳表示された画像の一例を示す図である。図21(a)は、2つの画像が重畳表示された画像を示す。図21(a)の画像には、図19(a)のセクショニング画像および図19(b)のセクショニング画像が含まれる。図21(b)は、3つの画像が重畳表示された画像を示す。図21(b)の画像には、図19(a)のセクショニング画像、図19(b)のセクショニング画像および図20(b)の透過通常画像が含まれる。
図22は、通常表示においてメインウインドウ411に重畳表示された画像の他の例を示す図である。図22は、4つの画像が重畳表示された画像を示す。図22の画像には、図19(a)のセクショニング画像、図19(b)のセクショニング画像、図20(a)のセクショニング画像および図20(b)の透過通常画像が含まれる。
特に、測定対象物Sが生物標本である場合には、測定対象物Sの細胞の形状を観察する際に、セクショニング画像と透過通常画像(例えば位相差観察された画像)とを重畳表示することが有効である。これにより、使用者は、タンパク質の組成により特定の波長を有する光を照射した場合のみ蛍光が発生する測定対象物Sの部分を容易に認識することができる。その結果、細胞中の核、細胞膜またはDNA(デオキシリボ核酸)等を容易に識別することができる。
セクショニング画像データまたは通常画像データを生成する際にビニング処理が行われた場合、当該セクショニング画像データに基づくセクショニング画像または当該通常画像データに基づく通常画像のサイズは変更される。したがって、当該セクショニング画像または当該通常画像のサイズは、ビニング処理が行われない他の画像データに基づくセクショニング画像または通常画像のサイズと異なる。
そのため、画像の重畳表示が行われる場合には、表示される全ての画像が同一のサイズになるように画像の拡大または縮小が行われる。あるいは、ビニング処理等の画像のサイズに関連する明度パラメータは、全ての画像データを生成する際に共通に設定されてもよい。この場合、生成される画像データに基づく画像のサイズは統一されるので、画像の重畳表示を容易に行うことができる。
使用者は、図1のPC200の操作部250を用いて図18の設定表示領域420のサブウインドウ表示チェックボックス450を指定することにより、画像表示領域410にサブウインドウ412を表示させることができる。サブウインドウ412には、コントラストが補正される前の画像が表示される。以下、コントラストが補正される前の画像を明度画像と呼び、明度画像を表示するための画像データを明度画像データと呼ぶ。
図23および図24は、プレビュー表示においてメインウインドウ411に表示された測定対象物Sのセクショニング画像を示す図である。メインウインドウ411には、測定対象物Sのパターン画像が表示されてもよい。
図23のセクショニング画像の取得時の受光部120の露光時間は、図24のセクショニング画像の取得時の受光部120の露光時間よりも長い。すなわち、図23の例における受光部120の受光信号のレベルは、図24の例における受光部120の受光信号のレベルよりも高い。したがって、図23の例における受光部120の受光信号は、図24の例における受光部120の受光信号よりも飽和しやすい。
図23の例においては、セクショニング画像の例えば白い円で囲まれた領域R内の画素に対応する受光信号は飽和している。一方、図24の例においては、セクショニング画像の当該領域R内の画素に対応する受光信号は飽和していない。しかしながら、コントラストの補正が行われているため、図23の例における領域R内の画素は、図24の例における領域R内の画素よりも暗く表示される。
使用者の直感によれば、受光信号のレベルが高いほど、セクショニング画像は明るくなる。受光信号のレベルを低い状態から上昇させる場合、受光信号のレベルが一定値に達するまでは、セクショニング画像は明るくなる。しかしながら、受光信号のレベルが一定値を超えると、パターンの明部分が照射された測定対象物Sの部分に対応する画素における受光信号は飽和する。これに対し、パターンの暗部分が照射された測定対象物Sの部分に対応する画素における受光信号のレベルが上昇する。そのため、これらの画素データの値の差により生成されるセクショニング画像データに基づくセクショニング画像は徐々に暗くなる。
そのため、使用者は、図23のセクショニング画像を得る際の受光部120の受光信号のレベルが図24のセクショニング画像を得る際の受光部120の受光信号のレベルよりも高いことを認識することができない。また、使用者は、図23のメインウインドウ411のセクショニング画像を見ても、受光信号が飽和していることを認識することができない。
そこで、図23および図24の例においては、メインウインドウ411に表示されるセクショニング画像を構成する複数のパターン画像データに基づいて、各画素における最大受光レベルが抽出される。抽出された各画素についての最大受光レベルに基づいて、明度画像データが生成される。生成された明度画像データに基づいて、サブウインドウ412に明度画像が表示される。また、明度画像データに基づいて受光部120により出力される受光信号が飽和しているか否か判定される。
明度画像は、メインウインドウ411に表示されるセクショニング画像を構成する複数のパターン画像の明るさの分布状態を示す。そのため、図23のサブウインドウ412の明度画像は、図24のサブウインドウ412の明度画像よりも明るく表示される。受光信号が飽和した画素が存在する場合には、明度画像における当該画素が識別可能に(本例においては異なる色で)サブウインドウ412に表示されることにより、受光信号が飽和した画素が使用者に通知される。
使用者は、明度画像を見ることにより、図23のセクショニング画像を得る際の受光部120の受光信号のレベルが図24のセクショニング画像を得る際の受光部120の受光信号のレベルよりも大きいことを認識することができる。また、使用者は、明度画像を見ることにより、受光信号が飽和していることを認識することができる。
使用者は、受光信号が飽和していることを認識することにより、測定光の強度等の明度パラメータを変更することができる。ここで、上記のように、プレビュー表示においては、測定条件が変更された場合のみ、測定対象物Sに再度測定光が照射される。これにより、受光される蛍光に基づいてパターン画像またはセクショニング画像データが生成されるとともに、明度画像データが生成される。その結果、メインウインドウ411に表示されるパターン画像またはセクショニング画像が更新され、サブウインドウ412に表示される明度画像が更新される。
なお、測定対象物Sへの測定光の遮断は、光変調素子112が制御されることにより高速で行われるが、これに限定されない。測定対象物Sへの測定光の遮断は、図2の投光部320の遮光機構323が制御されることにより行われてもよい。
また、メインウインドウ411にパターン画像を表示させる場合には、CPU210は、測定条件が変更されるたびに、パターンの位相が一定量だけ移動された測定光が測定対象物Sに照射されるように光変調素子112を制御する。この場合、測定対象物Sの特定の部分にのみ測定光が照射されることが防止される。これにより、測定対象物Sの特定の部分における蛍光試薬のみが褪色することが防止される。
本実施の形態においては、明度画像データは、複数のパターン画像データの各画素における最大受光レベルに基づいて生成されるが、これに限定されない。明度画像データは、複数のパターン画像データの各画素における受光信号の平均値に基づいて生成されてもよい。
あるいは、明度画像データは、複数のパターン画像データのうちのいずれか1つまたは2つ以上の画像データであってもよい。明度画像データが複数のパターン画像データのうちのいずれか2つ以上である場合には、2以上のパターン画像が明度画像として交互にサブウインドウ412に表示されてもよい。
本実施の形態においては、コントラスト補正量はセクショニング画像の全ての画素について一律に決定されるが、これに限定されない。コントラスト補正量は、受光信号が飽和した画素が存在する場合には、セクショニング画像における当該画素が明るく表示されるように決定されてもよい。
この場合、セクショニング画像において、受光信号の飽和している部分に対応する画素が受光信号の飽和していない部分に対応する画素よりも明るく表示される。それにより、使用者は、セクショニング画像を見ることにより受光信号が飽和していることを容易に認識することができる。
本実施の形態においては、受光信号が飽和した画素が存在する場合には、明度画像における当該画素が識別可能に表示されることにより、受光信号が飽和した画素が使用者に通知されるが、これに限定されない。明度画像ではなくセクショニング画像またはパターン画像における当該画素が識別可能に表示されることにより、受光信号が飽和した画素が使用者に通知されてもよい。
例えば、セクショニング画像の飽和した画素を識別可能に塗りつぶす塗りつぶし処理が行われてもよい。塗りつぶし処理は、通常表示されたセクショニング画像およびプレビュー表示されたセクショニング画像のいずれにも適用可能である。塗りつぶされる画素データの値は、例えば画素データの最大値である。なお、本例では、画素データは8ビットを有するので、画素データの最大値は255である。
塗りつぶされる画素データの値は、飽和した画素の周囲の画素群の画素データの最大値、平均値、最小値、中央値および最頻値のいずれかであってもよい。この場合、塗りつぶされた画素(飽和した画素)の明るさと当該画素の周囲の画素群の明るさとが大きく異なることがない。これにより、使用者に違和感のない塗りつぶし処理を飽和した画素に行うことができる。
あるいは、受光信号が飽和した画素が存在する場合には、受光信号が飽和したことを示す通知画面が表示部400に表示されてもよい。あるいは、受光信号が飽和した画素が存在する場合には、受光信号が飽和したことを示す通知音声が図示しないスピーカから出力されてもよい。
あるいは、受光信号が飽和した画素が存在する場合には、以下のHDR(ハイダイナミックレンジ)処理がCPU210により自動的に行われてもよい。あるいは、受光信号が飽和した画素が存在する場合には、HDR処理を行うことを推奨する画面が表示部400に表示されてもよい。あるいは、受光信号が飽和した画素が存在する場合には、HDR処理を行うことを推奨する音声が図示しないスピーカから出力されてもよい。
HDR処理においては、測定対象物Sの複数パターン画像に白とびした部分が含まれないように受光レベル調整が行われた状態で、複数の第1のパターン画像データが生成される。また、測定対象物Sの複数パターン画像に黒つぶれした部分が含まれないように受光レベル調整が行われた状態で、複数の第2のパターン画像データが生成される。
生成された複数の第1のパターン画像データと複数の第2のパターン画像データが合成される。これにより、ダイナミックレンジが拡大された複数の第3のパターン画像データが生成される。複数の第3のパターン画像データを合成することにより、ダイナミックレンジが拡大されたセクショニング画像データを生成することができる。
なお、本実施の形態におけるHDR処理においては、第1の受光レベル調整が行われた状態で測定光が測定対象物Sに順次照射され、その後、第2の受光レベル調整が行われた状態で測定光が測定対象物Sに順次される。この手順によれば、受光レベル調整と測定対象物Sへの測定光の照射とを交互に行う手順と異なり、測定対象物Sの特定の部分に連続的に測定光が照射されることがない。これにより、測定対象物Sの特定の部分における蛍光試薬のみが褪色することが防止される。
(b)設定表示領域
図17および図18に示すように、設定表示領域420には、フィルタ選択欄430、測定条件設定欄440、サブウインドウ表示チェックボックス450および付随機能設定欄460が表示される。また、設定表示領域420には、複数のタブが表示される。複数のタブは、焦点位置調整タブ470およびコントラスト補正設定タブ480を含む。使用者は、図1のPC200の操作部250を用いて表示部400に表示されたGUI(Graphical User Interface)を操作することにより、CPU210に各種の指示を与えることができる。
フィルタ選択欄430には、複数(本例では3個)のフィルタ選択ボタン431,432,433,434が表示される。3個のフィルタ選択ボタン431〜433は、3個のフィルタキューブ151にそれぞれ対応し、フィルタ選択ボタン434はフィルタターレット152の開口部に対応する。
フィルタ選択ボタン431〜434のいずれかが使用者により選択される。CPU210は、選択されたフィルタ選択ボタンに対応するフィルタキューブ151または開口部が受光部120の光軸上に位置するようにフィルタターレット駆動部を駆動する。
測定条件設定欄440には、パターン選択欄441、パターン設定バー442、露光時間設定バー443、露光時間設定ボタン444、オートボタン445および詳細設定ボタン446が表示される。パターン選択欄441から矩形波状測定光、1次元正弦波状測定光、ドット状測定光、2次元正弦波状測定光および均一測定光のいずれかが使用者により選択される。CPU210は、選択された測定光がパターン付与部110から出射されるように光変調素子112を制御する。
パターン設定バー442は、水平方向に移動可能なスライダを有する。矩形波状測定光またはドット状測定光が選択されている場合、パターン設定バー442のスライダが移動されることにより、パターンの空間周期Ts、明部分の幅W1およびパターンの位相の移動量が設定される。
また、1次元正弦波状測定光または2次元正弦波状測定光が選択されている場合、パターン設定バー442のスライダが移動されることにより、パターンの空間周期Tsおよび位相の移動量が設定される。CPU210は、測定光が設定されたパターンの空間周期Ts、明部分の幅W1を有するように光変調素子112を制御する。また、CPU210は、設定された移動量でパターンの位相が移動するように光変調素子112を制御する。
露光時間設定バー443は、水平方向に移動可能なスライダを有する。露光時間設定バー443のスライダが移動されるか、または露光時間設定ボタン444が操作されることにより、受光部120の露光時間が設定される。また、オートボタン445が操作されることにより、受光部120の露光時間が自動的に適切に設定される。CPU210は、受光部120の露光時間が設定された露光時間になるように受光部120を制御する。
使用者は、詳細設定ボタン446を操作することにより、測定条件をより詳細に設定することができる。詳細は後述する。
付随機能設定欄460には、自動コントラスト補正チェックボックス461、コントラスト補正量表示欄462および全焦点ボタン463が表示される。自動コントラスト補正チェックボックス461が指定された場合、CPU210は、全てのセクショニング画像データまたは落射通常画像データの各画素データの値に一定のコントラスト補正量を乗算する。これにより、セクショニング画像または落射通常画像のコントラストが補正される。
また、CPU210は、コントラスト補正量表示欄462にコントラスト補正量を表示する。使用者は、コントラスト補正量表示欄462に表示されたコントラスト補正量を見ることにより、コントラスト補正前のセクショニング画像の明るさを認識することができる。これにより、受光信号が飽和していることおよび飽和の程度を認識することができる。全焦点ボタン463は、全焦点画像データを生成する場合等に操作される。詳細は後述する。
複数のタブからいずれかのタブが選択される。図17に示すように、焦点位置調整タブ470が選択されている場合には、設定表示領域420に対物レンズ選択欄471、焦点位置調整欄472およびステージ位置調整欄473が表示される。
対物レンズ選択欄471には、複数(本例では6個)の対物レンズ選択ボタン471a,471b,471c,471d,471e,471fが表示される。6個の対物レンズ選択ボタン471a〜471fは、6個の対物レンズ161にそれぞれ対応する。
対物レンズ選択ボタン471a〜471fのいずれかが選択される。CPU210は、選択された対物レンズ選択ボタン471a〜471fに対応する対物レンズ161が受光部120の光軸上に位置するようにレンズターレット駆動部を駆動する。
焦点位置調整欄472には、焦点位置調整バー472a、初期距離ボタン472bおよびオートフォーカスボタン472cが表示される。焦点位置調整バー472aは、垂直方向に移動可能なスライダを有する。焦点位置調整バー472aのスライダの位置は、測定対象物Sと対物レンズ161との間の距離に相当する。
焦点位置調整バー472aのスライダが移動されることにより、測定対象物Sと対物レンズ161との間の距離が調整される。CPU210は、測定対象物Sと対物レンズ161との間の距離がスライダにより調整された距離になるように焦点位置調整機構163を制御する。
初期距離ボタン472bが操作された場合、CPU210は、測定対象物Sと対物レンズ161との間の距離が初期条件として予め設定された距離になるように焦点位置調整機構163を制御する。オートフォーカスボタン472cが操作された場合、CPU210は、測定対象物Sに対物レンズ161の焦点が合うように焦点位置調整機構163を制御する。
ステージ位置調整欄473には、ステージ移動ボタン473a,473b,473c,473dおよび初期位置ボタン473eが表示される。ステージ移動ボタン473a,473bが操作された場合、CPU210は、ステージ140がX方向上の一方向および反対方向にそれぞれ移動するようにステージ駆動部を制御する。
ステージ移動ボタン473c,473dが操作された場合、CPU210は、ステージ140がY方向上の一方向および反対方向にそれぞれ移動するようにステージ駆動部を制御する。初期位置ボタン473eが操作された場合、CPU210は、測定対象物Sの位置が初期条件として予め設定された位置に移動するようにステージ駆動部を制御する。
図18に示すように、コントラスト補正設定タブ480が選択されている場合には、設定表示領域420にヒストグラム表示欄481が表示される。CPU210は、コントラストの補正が行われる前のセクショニング画像データの複数の画素データの値と各値を有する画素数との関係を示すヒストグラム画像をヒストグラム表示欄481に表示させる。すなわち、ヒストグラム表示欄481に表示されるヒストグラム画像は、明度画像における画素データの値(輝度値)と画素数との関係を示す。
使用者は、ヒストグラム表示欄481に表示されたヒストグラムを見ることにより、セクショニング画像データの複数の画素データの値と各値を有する画素の数との関係を認識することができる。これにより、使用者は受光信号が飽和していることおよび飽和の程度を認識することができる。
また、コントラスト補正設定タブ480が選択されている場合には、設定表示領域420に図示しない複数のコントラスト補正量設定バー、コントラスト補正量入力欄およびガンマ補正値入力欄が表示される。各コントラスト補正量設定バーは水平方向に移動可能なスライダを有する。
自動コントラスト補正チェックボックス461が指定されない場合、各コントラスト補正量設定バーのスライダが移動されるか、またはコントラスト補正量入力欄に数値が入力されることにより、コントラスト補正量が任意に設定される。また、ガンマ補正値入力欄に数値が入力されている場合には、CPU210は、入力された数値に基づいてコントラスト補正量にガンマ補正を行う。CPU210は、全ての画素のコントラストに設定またはガンマ補正されたコントラスト補正量を乗算することによりセクショニング画像のコントラストを補正する。
詳細設定ボタン446が操作された場合、設定表示領域420に測定条件詳細設定ウインドウが表示される。図25は、測定条件詳細設定ウインドウの一例を示す図である。図25に示すように、測定条件詳細設定ウインドウ4460には、矩形波状測定光チェックボックス4461、ドット状測定光チェックボックス4462および空間周期設定欄4463が表示される。また、測定条件詳細設定ウインドウ4460には、明部分幅設定欄4464、位相移動量設定欄4465、ビニング数選択欄4466およびゲイン選択欄4467が表示される。
なお、図25の例においては、測定条件詳細設定ウインドウ4460には、図17の例と同様の露光時間設定バー443、露光時間設定ボタン444およびオートボタン445も表示される。図25の露光時間設定バー443、露光時間設定ボタン444およびオートボタン445の機能は、それぞれ図17の露光時間設定バー443、露光時間設定ボタン444およびオートボタン445の機能と同様である。
矩形波状測定光チェックボックス4461およびドット状測定光チェックボックス4462のいずれか一方が指定される。矩形波状測定光チェックボックス4461が指定された場合にはパターン付与部110から矩形波状測定光が出射される。一方、ドット状測定光チェックボックス4462が指定された場合にはパターン付与部110からドット状測定光が出射される。空間周期設定欄4463に数値が入力されることにより空間周期Tsが設定される。
明部分幅設定欄4464が操作されることにより、パターンの明部分の幅W1が設定される。ここで、パターンの明部分の幅W1が自動的に適切に設定されるオートモードおよびパターンの明部分の幅W1が任意に設定されるマニュアルモードのいずれか一方が使用者により選択される。マニュアルモードが選択される場合、パターンの明部分の幅W1に相当する数値が明部分幅設定欄4464に入力される。
位相移動量設定欄4465が操作されることにより、パターンの位相の移動量が設定される。ここで、パターンの位相の移動量が自動的に適切に設定されるオートモードおよびパターンの位相の移動量が任意に設定されるマニュアルモードのいずれか一方が使用者により選択される。マニュアルモードが選択される場合、パターンの位相の移動量に相当する数値が位相移動量設定欄4465に入力される。
ビニング数選択欄4466からパターン画像データまたは落射通常画像データにおけるビニング数が使用者により選択される。CPU210は、選択されたビニング数でパターン画像データまたは落射通常画像データを生成する。また、ゲイン選択欄4467から受光部120のゲインの値が使用者により選択される。CPU210は、受光部120のゲインが選択されたゲインの値になるように受光部120を制御する。
測定条件詳細設定ウインドウ4460には、測定光の最大強度Imaxおよび最小強度Iminを設定するための強度設定欄が設けられてもよい。この場合、使用者は、測定光の最大強度Imaxおよび最小強度Iminを設定することができる。
また、測定条件詳細設定ウインドウ4460には、ROIを設定するためのROI設定欄が設けられてもよい。この場合、使用者は、例えばROI設定欄を操作した状態で、メインウインドウ411上で操作部250を操作してROIを指定することにより、ROIを設定することができる。
(6)合焦点画素データの判定
(a)判定方式
測定対象物Sと対物レンズ161との相対的な距離を変化させつつ測定対象物Sに測定光を照射することにより、複数の焦点位置における複数のセクショニング画像データまたは通常画像データがそれぞれ生成される。生成された複数のセクショニング画像データまたは通常画像データの画素データのうち合焦点画素データがCPU210の合焦検出部214により画素ごとに判定される。
合焦点画素データの判定結果に基づいて、全焦点画像データまたは測定対象物Sの立体的な形状を示すデータ(以下、立体形状データと呼ぶ)を生成することができる。また、合焦点画素データの判定結果に基づいて、オートフォーカスを実行することができる。本実施の形態においては、セクショニング観察と通常観察とで異なる合焦点画素データの判定方式が採用される。
図26は、セクショニング観察における合焦点画素データの判定方式を説明するための図である。図26の横軸はパターン測定光の焦点位置(Z方向における位置)を示し、縦軸は画素データを示す。
セクショニング観察では、複数のセクショニング画像データにおける同一の画素についての複数の画素データのうち、最大値を有する画素データが合焦点画素データであると判定される。図26の画素の例においては、位置Paにおいて生成された画素データが最大値Dmaxを有する。したがって、位置Paにおいて生成された画素データが合焦点画素データであると判定される。
特に、矩形波状測定光またはドット状測定光を用いる場合には、1次元正弦波状測定光または2次元正弦波状測定光を用いる場合に比べて、最大値を有する画素データを容易に判定することができる。そのため、透明でかつ模様を有さないガラス基板等の測定対象物Sの画素データに対しても合焦点画素データの判定を容易に行うことができる。
図27は、通常観察における合焦点画素データの判定方式を説明するための図である。図26の横軸はパターン測定光の焦点位置(Z方向における位置)を示し、縦軸は局所的コントラストを示す。ここで、局所的コントラストは、例えば任意の画素データの値と当該画素データに隣接する他の画素データの値との差である。局所的コントラストは、任意の画素データの値と当該画素データに隣接する他の画素データの値との分散であってもよい。
通常観察では、複数の通常画像データにおける同一の画素データについての複数の画素データのうち、最大の局所的コントラストを有する画素データが合焦点画素データであると判定される。図27の画素の例においては、位置Pbにおいて生成された画素データが最大の局所的コントラストCmaxを有する。したがって、位置Paにおいて生成された画素データが合焦点画素データであると判定される。通常観察では、エッジ部分での局所的コントラストの変化に基づいて合焦点画素データが判定されてもよい。
本実施の形態において、CPU210は観察方式に応じて適切な合焦点画素データの判定方式を自動的に設定するが、これに限定されない。CPU210は、表示部400に合焦点画素データの判定方式を設定するための設定画面を表示してもよい。
(b)画像データの合成
全焦点画像データを生成する場合、使用者は、図1の操作部250を用いて図17および図18の全焦点ボタン463を操作する。これにより、設定表示領域420に全焦点画像作成ウインドウが表示される。図28は、全焦点画像作成ウインドウの一例を示す図である。図28に示すように、全焦点画像作成ウインドウ4630には、開始ボタン4631および画像保存ボタン4632が表示される。
使用者は、開始ボタン4631を操作することにより、全焦点画像データを生成するための全焦点画像データ生成処理をCPU210に指示することができる。図29および図30は、全焦点画像データ生成処理を示すフローチャートである。以下、図2および図28〜図30を参照しながら全焦点画像データ生成処理を説明する。
CPU210は、開始ボタン4631が操作されたか否かを判定する(ステップS11)。ステップS1において開始ボタン4631が操作されていない場合、CPU210は開始ボタン4631が操作されるまで待機する。
ステップS1において開始ボタン4631が操作された場合、CPU210は、測定対象物Sに測定光が照射されるように図1の投光部320およびパターン付与部110を制御する(ステップS12)。また、CPU210は、図1の制御基板170から与えられる画素データに基づいて、セクショニング画像データまたは通常画像データを生成する(ステップS13)。生成されたセクショニング画像データまたは通常画像データは図1のRAM230に記憶される。
ここで、CPU210は、現時点までに生成された一または複数のセクショニング画像データまたは通常画像データの画素データのうち、測定対象物Sの一部に焦点がより近い状態で得られる画素データを抽出する(ステップS14)。
セクショニング観察では、抽出される画素データは、現時点までに生成された一または複数のセクショニング画像データにおける同一の画素についての複数の画素データのうち、最大値を有する画素データである。通常観察では、抽出される画素データは、現時点までに生成された一または複数の通常画像データにおける同一の画素についての複数の画素データのうち、最大の局所的コントラストを有する画素データである。
CPU210は、抽出した複数の画素データを合成することにより画像データを生成する(ステップS15)。生成された画像データはRAM230に記憶される。なお、最初にセクショニング画像データまたは通常画像データが生成された時点では、当該セクショニング画像データまたは通常画像データの全ての画素データが、測定対象物Sの一部に焦点がより近い状態で得られる画素データであると判定され、抽出される。そのため、複数の画素データを合成することにより生成される画像データは当該セクショニング画像データまたは通常画像データと同一である。
次に、CPU210は、全焦点画像データが生成されたか否かを判定する(ステップS16)。CPU210は、予め定められた範囲内で焦点位置の移動を終了した場合、全焦点画像データが生成されたと判定する。
CPU210は、セクショニング観察においては、予め定められた範囲内で焦点位置の移動を終了する前に最大値を有する全ての画素データを抽出したと判定した場合には、全焦点画像データが生成されたと判定してもよい。CPU210は、通常観察においては、予め定められた範囲内で焦点位置の移動を終了する前に最大の局所的コントラストを有する全ての画素データを抽出したと判定した場合には、全焦点画像データが生成されたと判定してもよい。
ステップS16において、全焦点画像データが生成されていない場合、CPU210は、対物レンズ161の焦点位置が一定の距離だけ移動するように焦点位置調整機構163を制御する(ステップS17)。その後、CPU210は、ステップS12の処理に戻る。その後、CPU210は、ステップS12〜S17の手順までを繰り返す。これにより、対物レンズ161の焦点位置が移動し、新たな焦点位置におけるセクショニング画像データまたは通常画像データが生成されるごとに、RAM230に記憶された画像データが更新される。
上記の手順が繰り返されることにより、測定対象物Sの一部に焦点が合った状態で得られる画素データ、すなわち合焦点画素データが抽出される。全ての合焦点画素データが抽出された場合、RAM230に記憶された画像データは、測定対象物Sの全体に焦点が合った状態で得られる画像データ、すなわち全焦点画像データとなる。
ステップS16において、全焦点画像データが生成された場合、CPU210は、RAM230に記憶された全焦点画像データを図1の記憶装置240に保存する(ステップS18)。これにより、CPU210は、全焦点画像データ生成処理を終了する。画像保存ボタン4632が操作された場合にも、CPU210は、RAM230に記憶された画像データを記憶装置240に保存して全焦点画像データ生成処理を終了する。
また、CPU210は、図2のステージ140をX方向またはY方向に移動させながら複数のセクショニング画像データまたは通常画像データを生成することができる。このようにして生成された複数のセクショニング画像データまたは通常画像データを合成することにより、使用者は、より大きい寸法を有する測定対象物Sの全体のセクショニング画像または通常画像を観察することができる。
さらに、CPU210は、一定時間ごとに測定対象物Sのセクショニング画像データまたは通常画像データを生成することができる(タイムラプス撮影)。異なる時点において生成された複数のセクショニング画像データまたは通常画像データを合成することにより、使用者は、測定対象物Sの時間変化するセクショニング画像または通常画像を動画として観察することができる。
これらのように、後で合成されるべき複数のセクショニング画像データまたは通常画像データの生成過程において、測定条件が変更されると、合成されたセクショニング画像または通常画像の一部の明るさが不自然に変化するか、または明るさの統一性が低下する。また、測定対象物Sの動画の明るさにちらつきが生じる。そのため、後で合成されるべき複数のセクショニング画像データまたは通常画像データを生成する場合には、測定条件が変更されないことが好ましい。
同様に、後で合成されるべき複数のセクショニング画像データ間でコントラスト補正量が異なる場合でも、合成されたセクショニング画像の一部の明るさが不自然に変化するか、または明るさの統一性が低下する。また、測定対象物Sの動画の明るさにちらつきが生じる。
一方、本実施の形態においては、上記のようにコントラストが補正される前のセクショニング画像データとコントラスト補正量を示すメタデータとが独立して保存される。そのため、複数のセクショニング画像データ間でコントラスト補正量を統一することができる。これにより、合成されたセクショニング画像の明るさの不自然な変化、明るさの不統一、または明るさのちらつきを防止することができる。
ここで、コントラスト補正量は、セクショニング画像の白とびした部分および黒つぶれした部分が最も少なくなる値に設定されてもよい。この場合、セクショニング画像のダイナミックレンジが拡大される。あるいは、コントラスト補正量は、複数のセクショニング画像データのコントラスト補正量の平均値であってもよい。この場合、セクショニング画像の全体的な明るさが最適化される。これらのコントラスト補正量は、セクショニング画像データの特性に応じて切り替え可能であってもよい。
(c)立体形状データおよびオートフォーカス
全焦点画像データの生成手順において、焦点位置が移動した際には、測定対象物Sと対物レンズ161との相対的な距離がRAM230に記憶される。CPU210は、抽出した画素データに対応する測定対象物Sの部分とRAM230に記憶された対物レンズ161との相対的な距離に基づいて、測定対象物Sの当該部分の高さを算出する。
CPU210は、測定対象物Sの全ての部分について算出された高さを合成することにより、立体形状データを生成する。立体形状データはRAM230に記憶される。画像保存ボタン4632が操作された場合、CPU210は、RAM230に記憶された画像データとともに立体形状データを記憶装置240に保存する。
図17および図18のオートフォーカスボタン472cが操作された場合、オートフォーカスが行われる。具体的には、CPU210は、複数の異なる焦点位置における複数のパターン画像の中央部分の画素データを算出する。または複数の異なる焦点位置における複数の通常画像の中央部分の画素の局所的コントラストを算出する。
これにより、パターン画像または通常画像の中央部分の合焦点画素データが判定される。また、パターン画像または通常画像の中央部分に対応する測定対象物Sの部分に焦点が合ったときの測定対象物Sと対物レンズ161との相対的な距離が算出される。CPU210は、測定対象物Sと対物レンズ161との相対的な距離が算出された距離になるように焦点位置調整機構163を制御する。
なお、ROIが設定されている場合には、CPU210は、パターン画像または通常画像の中央部分ではなく、ROI内の合焦点画素データを判定してもよい。この場合、ROIに対応する測定対象物Sの部分にオートフォーカスを行うことができる。
セクショニング観察と通常観察とでは、合焦点画素データの判定方式が異なる。そのため、セクショニング観察と通常観察とでは、オートフォーカスが行われたときの焦点位置が異なる。使用者は、セクショニング観察時のオートフォーカスと通常観察時のオートフォーカスとを切り替えることにより、最適な焦点位置を判断することができる。
また、矩形波状測定光またはドット状測定光の空間周期Tsが長い場合、合焦点画素データの判定が短時間で終了する。そのため、空間周期Tsを長く設定することにより、オートフォーカスを高速で行うことができる。一方、矩形波状測定光またはドット状測定光の空間周期Tsが短い場合、最大値を有する画素データが高い精度で判定される。そのため、空間周期Tsを短く設定することにより、オートフォーカスの精度を向上させることができる。
オートフォーカスを行う場合には、測定光が出射されるごとに測定対象物Sへの測定光の照射位置が切り替えられる。これにより、測定対象物Sの特定の部分における蛍光試薬のみが褪色することが防止される。ここで、受光部120の露光時間内に測定対象物Sへの測定光の照射位置が切り替えられると、受光部120から出力される受光信号のレベルが不正確になり、オートフォーカスの精度が低下する。そのため、測定対象物Sへの測定光の照射位置の切り替えは、受光部120の露光時間の経過後に行われることが好ましい。
(7)効果
本実施の形態に係る撮像装置500においては、使用者は、操作部250を用いてセクショニング観察または通常観察を指示することができる。セクショニング観察においては、投光部320により出射された光からパターン付与部110によりパターン測定光が生成される。通常観察においては、投光部320により出射された光からパターン付与部110により均一測定光が生成される。パターン付与部110により生成された測定光が対物レンズ161により集光され、測定対象物Sに照射される。
セクショニング観察においては、パターン測定光のパターンの空間的な位相がパターン付与部110により所定量ずつ測定対象物S上で順次移動される。受光部120により測定対象物Sからの蛍光が受光され、受光信号が出力される。受光部120から出力される受光信号に基づいてパターンの複数の位相で生成される複数のパターン画像データに基づいてセクショニング画像データが生成される。通常観察においては、受光部120から出力される受光信号に基づいて通常画像データが生成される。また、測定対象物Sと対物レンズ161との相対的な距離が複数変化される。
本実施の形態においては、セクショニング観察が指示されたときには、セクショニング画像データの画素データの値を用いて測定対象物Sの各部分の合焦位置を検出する方式が自動的に選択される。セクショニング画像データの各画素データの値は、測定対象物Sに対物レンズ161の焦点が合っているときに最大となる。そのため、セクショニング画像データの各画素データの値に基づいて、高い精度で測定対象物Sの各部分の合焦位置を検出することができる。
一方、通常観察が指示されたときには、通常画像データの局所的なコントラストに基づいて測定対象物Sの各部分の合焦位置を検出する方式が自動的に選択される。通常画像データの局所的コントラストは測定対象物Sに対物レンズ161の焦点に合っているときに最大となる。そのため、通常画像データの局所的コントラストに基づいて、高い精度で測定対象物Sの各部分の合焦位置を検出することができる。
なお、本実施の形態においては、共通の測定光源321により出射された測定光からパターンを有する測定光およびパターンを有しない測定光がパターン付与部110により生成されるが、これに限定されない。均一測定光を生成するための他の光源が測定部100に設けられてもよい。この場合、測定光源321により出射された測定光からパターンを有する測定光がパターン付与部110により生成され、他の光源によりパターンを有しない測定光が生成される。
あるいは、測定光源321が均一な強度を有する測定光を出射するように構成され、パターン付与部110が測定光の光路上から抜き差しされてもよい。この構成によれば、パターン付与部110が測定光の光路上に配置された場合には、測定光源321により出射された均一な強度を有する測定光からパターンを有する測定光が生成される。一方、パターン付与部110が測定光の光路上から除外された場合には、測定光源321により均一測定光が生成される。
(8)請求項の各構成要素と実施の形態の各部との対応関係
以下、請求項の各構成要素と実施の形態の各部との対応の例について説明するが、本発明は下記の例に限定されない。
上記実施の形態においては、測定光源321が光源の例であり、パターン付与部110がパターン付与部の例であり、パターン付与部110、透過光源131および測定光源321が投光部の例である。ステージ140がステージの例であり、測定対象物Sが測定対象物の例であり、透過光学系132、フィルタユニット150およびレンズユニット160が光学系の例であり、受光部120が受光部の例である。
画像データ生成部211が画像データ生成部の例であり、操作部250が指示部の例であり、制御部213が投光制御部および処理装置の例であり、焦点位置調整機構163が焦点制御部の例である。合焦検出部214が合焦検出部の例であり、顕微鏡撮像装置500が顕微鏡撮像装置の例である。
請求項の各構成要素として、請求項に記載されている構成または機能を有する他の種々の要素を用いることもできる。