以下、本発明の実施の形態を図面に基づいて説明する。ただし、以下に示す実施の形態は、本発明の技術思想を具体化するための拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体を例示するものであって、本発明は拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体を以下のものに特定しない。また、本明細書は特許請求の範囲に示される部材を、実施の形態の部材に特定するものでは決してない。特に実施の形態に記載されている構成部品の寸法、材質、形状、その相対的配置等は特に特定的な記載がない限りは、本発明の範囲をそれのみに限定する趣旨ではなく、単なる説明例にすぎない。なお、各図面が示す部材の大きさや位置関係等は、説明を明確にするため誇張していることがある。さらに以下の説明において、同一の名称、符号については同一もしくは同質の部材を示しており、詳細説明を適宜省略する。さらに、本発明を構成する各要素は、複数の要素を同一の部材で構成して一の部材で複数の要素を兼用する態様としてもよいし、逆に一の部材の機能を複数の部材で分担して実現することもできる。
本発明の実施例において使用される拡大観察装置とこれに接続される操作、制御、表示、その他の処理等のためのコンピュータ、プリンタ、外部記憶装置その他の周辺機器との接続は、例えばIEEE1394、RS−232xやRS−422、USB等のシリアル接続、パラレル接続、あるいは10BASE−T、100BASE−TX、1000BASE−T等のネットワークを介して電気的、あるいは磁気的、光学的に接続して通信を行う。接続は有線を使った物理的な接続に限られず、IEEE802.x等の無線LANやBluetooth(登録商標)等の電波、赤外線、光通信等を利用した無線接続等でもよい。さらにデータの交換や設定の保存等を行うための記録媒体には、メモリカードや磁気ディスク、光ディスク、光磁気ディスク、半導体メモリ等が利用できる。なお本明細書において拡大観察装置及び拡大画像観察方法とは、拡大観察装置本体のみならず、これにコンピュータ、外部記憶装置等の周辺機器を組み合わせた拡大観察システムも含む意味で使用する。
また、本明細書において拡大観察装置は、拡大観察を行うシステムそのもの、ならびに撮像に関連する入出力、表示、演算、通信その他の処理をハードウェア的に行う装置や方法に限定するものではない。ソフトウェア的に処理を実現する装置や方法も本発明の範囲内に包含する。例えば汎用の回路やコンピュータにソフトウェアやプログラム、プラグイン、オブジェクト、ライブラリ、アプレット、コンパイラ、モジュール、特定のプログラム上で動作するマクロ等を組み込んで撮像そのものあるいはこれに関連する処理を可能とした装置やシステムも、本発明の拡大観察装置に該当する。また本明細書においてコンピュータには、汎用あるいは専用の電子計算機の他、ワークステーション、端末その他の電子デバイスも包含する。さらに本明細書においてプログラムとは、単体で使用されるものに限られず、特定のコンピュータプログラムやソフトウェア、サービス等の一部として機能する態様や、必要時に呼び出されて機能する態様、OS等の環境においてサービスとして提供される態様、環境に常駐して動作する態様、バックグラウンドで動作する態様やその他の支援プログラムという位置付けで使用することもできる。
以下、図1〜図2を用いて、本発明の一実施の形態に係る拡大観察装置100を説明する。拡大観察装置100は、図1に示すように撮像系1と制御系2に大別される。撮像系1は、観察対象物Sである試料又はワークその他の被写体を照明するための照明部60と、照明部60により照明された観察対象物Sを撮像するヘッド部4を備える。ヘッド部4は、撮像素子12を含むカメラ部10と、カメラ部10の先端に着脱自在に装着される顕微鏡レンズ部20とを備える。顕微鏡レンズ部20は複数枚の光学レンズで構成された撮像光学系(レンズ光学系)を構成する。ここでは、顕微鏡レンズ部20は対物レンズ部25を含んでいる。またヘッド部4は、照明光の反射光又は透過光を受光する撮像手段として機能する。
また撮像系1は、観察対象物Sを載置する載置部30と、この載置部30とヘッド部4との光軸方向における相対距離を変化させ焦点を調整する第一焦点調整部としてZ上ステージ及びこのZ上ステージを駆動するための上ステージ昇降器16とを備える。一方ヘッド部4も、光軸方向における載置部30との相対距離を変化させ焦点を調整する第二焦点調整部としてZ上ステージを備える。この載置部30上に載置された観察対象物Sに対して、撮像光学系11を介して入射され、観察対象物Sで反射された反射光又は観察対象物Sの底面側から照射された透過光を、カメラ部10の撮像素子12で電気的に読み取る。
さらに制御系2は、カメラ部10で撮像された拡大画像を表示する表示部52を有する本体部50を備える。カメラ部10は、ケーブル部3を介して本体部50と接続される。なお図1の例では、表示部52を本体部50と一体に設けているが、表示手段を本体部と別部材とすることもできる。またケーブル部3は、カメラ部10の撮像素子で得られた画像情報を保体部50側に伝達するための電気的ケーブルに加えて、照明光を本体部50からヘッド部4側に伝達するための光学的ケーブル3bを備えている。ケーブル部3は、電気的ケーブルと光学的ケーブル3bと統合することもできるし、これらを個別に設けることもできる。
さらにまた載置部30は、下ステージ昇降器35による高さ方向、すなわちZ方向への移動に加えて、平面内での移動も可能としている。具体的には、X軸方向およびY軸方向に移動可能なX−Yステージを備える。また、載置部30を回転させる回転可能なステージ(θステージ)を備えることもできる。
この本体部50のブロック図を図2に示す。この図に示すように本体部50は、下ステージ昇降器35によって焦点を調整したときのステージ30と撮像光学系11の光軸方向における相対距離に関する焦点距離情報を、光軸方向とほぼ垂直な面内における観察対象物Sの2次元位置情報と共に記憶する焦点距離情報記憶部として記憶部53と、撮像素子12によって読み取られた画像を表示する表示部52と、ヘッド部4および下ステージ昇降器35とデータを通信するためのインターフェイス54とを備える。この拡大観察装置100は、撮像光学系11を介して入射する載置部30に固定された観察対象物Sからの反射光又は透過光を電気的に読み取る撮像素子12を用いて観察像を撮像し、表示部52に表示させる。
また記憶部53は、レンズ識別情報やレンズ収差情報を記憶するレンズ識別情報記憶部、あるいは各レンズ部の、収差の少ない波長成分を、レンズ部の収差情報と対応させて記憶した波長成分記憶手段としても機能する。なお記憶部53は、ハードディスクや半導体メモリ等で構成される。また各データベース毎に個別の記憶部を設けてもよい。
(レンズ識別情報)
レンズ識別情報には、レンズの型式、焦点距離の位置、レンズの筒体の長さ等の情報が含まれる。上述の通り、撮像系1と制御系2とはケーブル部3を介して接続されているので、制御系2で現在装着されているレンズの種別を判別することで、適切な制御を行える。例えば、顕微鏡レンズ部20の物理的な長さを把握することで、顕微鏡レンズ部20をZ上ステージで降下させる際に、観察対象物Sや載置部30に接触しないように降下できる下限移動距離を把握して、これよりも降下しないように制限をかけることができる。
またレンズ種別情報として、顕微鏡レンズ部の情報を直接記録する他、顕微鏡レンズ部の識別情報、例えば型式のみを記録させ、一方型式と対応する顕微鏡レンズ部の詳細情報は、予め本体部50の記憶部53等に、型式と関連付けられたルックアップテーブルとして記憶しておくこともできる。これにより、本体部50はカメラ部を通じてレンズ識別情報である型式を取得すると、この型式と対応する詳細情報を、記憶部53を参照して取得し、取得された情報に基づいて顕微鏡レンズ部に合致した制御を行うことが可能となる。この方法であれば、顕微鏡レンズ部側に保持すべき情報量を少なくしつつ、必要な情報を本体部50側で把握することが可能となる。
さらに拡大観察装置100は、カメラ部10で画像を撮像する際の条件を設定するための撮像条件や、その他の必要な各種の設定や操作を行うための操作部55と、設定された領域に対応する観察対象物Sの一部又は全部に関する記憶部53に記憶された焦点距離情報に基づいて、設定された領域に対応する観察対象物Sの光軸方向における高さを演算する制御部51を備える。この拡大観察装置100は、撮像素子12を用いて指定された領域に対応する観察対象物Sの光軸方向における平均高さ(深さ)を演算できる。
この制御部51は、光路シフト手段14を作動させる光路シフト制御手段81、複数の照明フィルタを用いて観察対象物Sの同一の視野について撮像した複数の観察像を表示部52に同時に表示した状態から、一を選択可能な画像選択手段82、画像選択手段82で選択された観察像の撮像に使用された照明フィルタの種別を含む像観察条件を、撮像条件として設定する撮像条件設定部83、所定の画像処理を行う画像処理手段、画像合成手段85で観察像を合成してカラーの高解像画像観察像を取得する動作を自動で行う自動合成手段84、交換可能な複数の異なる仕様の顕微鏡レンズ部の内、現在カメラ部に装着されている顕微鏡レンズ部の収差情報に基づいて、複数の波長成分の内でこの顕微鏡レンズ部の収差の影響が相対的に少ない波長成分を選択可能な波長選択手段86、照明光源65が発する光の波長帯域に含まれる複数の異なる波長域について、いずれかの波長域に選択的に切り替え可能な照明光選択手段87、表示部52に表示される画像の表示倍率を拡大又は縮小するための倍率調整手段89a、表示部52に表示される画像の表示位置を移動させるための表示位置変更手段89b、複数の異なる仮の撮像条件を生成するための簡易撮像条件生成部89c、一覧表示領域に複数の簡易画像を一覧表示させた状態で、倍率調整手段89aで一の簡易画像の倍率を調整すると、他の簡易画像の倍率もこれに連動して調整されてなると共に、表示位置変更手段89bで一の簡易画像の表示位置を変更すると、他の簡易画像の表示位置もこれに連動して変更されるように、各簡易画像の表示倍率及び表示位置を調整する連動調整手段89d、表示部52における表示を、第二表示モードから、第一表示モードに自動的に切り替える表示モード切替手段89e、画像合成手段85で第一照明画像と第二照明画像を合成した照明合成画像を生成する際の採否基準を設定するための採否調整手段89f等の機能を実現する。また画像処理手段は、例えば同一の観察対象物Sを異なる照明フィルタを用いて撮像した少なくとも2つの観察像を合成する画像合成手段85として機能する。この制御部51はASICやFPGA等のゲートアレイ等で構成できる。
操作部55は本体部50又はコンピュータと有線もしくは無線で接続され、あるいはコンピュータに固定されている。一般的な操作部55としては、例えばマウスやキーボード、スライドパッド、トラックポイント、タブレット、ジョイスティック、コンソール、ジョグダイヤル、デジタイザ、ライトペン、テンキー、タッチパッド、アキュポイント等の各種ポインティングデバイスが挙げられる。またこれらの操作部55は、拡大観察用操作プログラムの操作の他、拡大観察装置100自体やその周辺機器の操作にも利用できる。さらに、インターフェース画面を表示するディスプレイ自体にタッチスクリーンやタッチパネルを利用して、画面上をユーザが手で直接触れることにより入力や操作を可能としたり、又は音声入力その他の既存の入力手段を利用、あるいはこれらを併用することもできる。図1の例では、操作部55はマウス等のポインティングデバイスで構成される。
(照明部60)
照明部60は、撮像素子12に結像される観察対象物Sを照明する照明光を生成する。照明部60の照明光源は、本体部50に内蔵され、光学的ケーブル3bを介して照明光がヘッド部4の照明部60に伝達される。なお照明部60は、ヘッド部4に組み込み式としたり、ヘッド部4と脱着可能な別体とする構成のいずれも採用できる。また照明光の照明方式としては、落射照明や透過照明等が適宜利用できる。落射照明とは、観察対象物の上方から照明光を落とす照明方法であり、リング照明や同軸落射照明等が含まれる。図1に示す照明部60は、観察対象物Sに同軸落射光を照射するための同軸落射照明部62(図3参照)と、リング状の光源からリング状照明光を照射するためのリング照明部63と、透過光を照射するための透過照明部64を備えている。これらの照明は、光学的ケーブル3bを介して本体部50と接続される。本体部50は光学的ケーブル3bを接続するコネクタを備えると共に、コネクタを介して光学的ケーブル3bに光を送出するための照明光源65を内蔵する(図3参照)。またリング照明部63は、全周照明と側射照明を切り替えることができる。これを実現するため、リング照明部63として複数のLEDを環状に配置し、一部のLEDをON/OFFする構成や、照明光の一部をカットするターレット式のマスクを配置する構成等が利用できる。これら照明光の点灯制御や切り替えは、照明制御部66で行われる。また照明制御部66は、照明光を切り替えるための照明切替部61を備えている。
照明部60の詳細を、図3の模式断面図に示す。図3は、制御系2(例えば本体部50)側に光源を内蔵し、撮像系1側のヘッド部4に照明光を光ファイバ等で送出する構成を示している。この照明部60は、同軸落射照明部62とリング照明部63を含む。同軸落射照明は、例えばシリコンウェハやLCDパネル等特に鏡面ワークの凸凹を見る場合に効果的となる。照明部60の点灯制御は、照明制御部66で行われる。また照明制御部66は照明切替部61を備えており、照明切替部61は、同軸落射照明部62とリング照明部63とを切り替え可能としている。また図1に示すように照明手段として透過照明部64も備える場合は、照明切替部61でもって切り替え可能としている。このように、照明切替部61は、照明経路の異なる複数の照明手段を切り替える照明切替手段として機能する。
(照明切替部61)
以上の拡大観察装置を用いて、複数の異なる照明光を切り替えて、異なるタイミングで観察、撮像した複数の照明観察画像を、表示部52上で切り替えて、あるいは並べて表示させることができる。一方でこのような観察方法とは別に、観察対象物Sに対して複数の照明手段から、入射経路の異なる照明光を同時に照射して観察したい場合がある。例えば、図35、図37、図39に示すように、同軸落射照明部62の同軸落射照明光と、リング照明部63のリング照明光とを同時に照射する場合を考える。これらの図において、図35は同軸落射照明部62のみを点灯させて、同軸落射照明光で観察した落射光照明画像を、図37は、環状に配置されたリング照明部63の内、側面(図35において左右)のみを点灯させた側射光で照明した側射光照明画像を、それぞれ示している。これらの各照明画像では、観察し難い箇所がそれぞれ存在する。そこで、これら入射経路の異なる照明光を同時に照射させることができれば、図39のような照明画像を得ることができる。さらに、異なる経路から観察対象物Sに入射される照明光の光量を調整し、各照明光の比率を変化させることによって照明画像を変化させることができる。
しかしながら、同軸落射照明部とリング照明部とを同時に点灯させた観察を実現するには、このような同時点灯に対応させた光学設計が必要であった。具体的には、照明光を通過させるスリットを調整して、各照明光の比率を調整する光学機構を用意する必要がある。また、このような同時点灯に対応させた光学レンズを設計する必要もある。このように、異なる照明光の同時点灯に対応させるには、専用のハードウェアを用意する必要があり、コストがかかる上構成が複雑化するという問題があった。さらにすべての光学レンズでこのような同時照明に対応させた仕様を採用することが困難なこともあり、現状では通常のレンズで複数の異なる照明光を同時に点灯させた画像を得ることは困難であった。
そこで本実施の形態においては、照明切替部61でもって第一照明手段と第二照明手段を、それぞれ異なるタイミングで動作させるように切り替え、個別に第一照明手段を用いた撮像した第一照明画像と、第二照明手段を用いて撮像した第二照明画像とを取得すると共に、得られた第一照明画像と第二照明画像とを、画像合成手段85で合成して照明合成画像を得ることで、このような複数照明光の同時点灯による観察を実現している。これにより、第一照明光と第二照明光とを物理的に同時に照射させずとも、第一照明光と第二照明光を同時に照射したのと同様の照明画像をソフトウェア的に得ることが可能となる。この結果、同時照明に対応した専用のハードウェア構成を用意することなく、既存の部材を用いて安価に複数照明光の同時点灯が実現される。
(採否調整手段89f)
また画像合成手段85で第一照明画像と第二照明画像を合成した照明合成画像を生成する際の採否基準は、あらかじめ規定しておく他、ユーザが任意に設定するための採否調整手段89fを備えることもできる。採否調整手段89fは、例えばユーザが操作部55から制御部51に対して指定する。具体的には、画像合成手段85で照明合成画像を生成する際に、第一照明画像と第二照明画像の透過率を採否調整手段89fで調整可能とする。このように、第一照明画像と第二照明画像の透過率を可変とすることで、実質的に第一照明光と第二照明光の光量の比率を変えて同時に照射して撮像した画像と同様の画像を、専用のハードウェアを用意することなく、ソフトフェア的に取得できる。また画像合成に際して、第一照明画像と第二照明画像とを重ねて表示部52に表示させた状態で、各画像の透過率を調整した模様をリアルタイムで確認できるようにすることで、ユーザは所望の画像を得るための条件を視覚的に調整できる。
さらに採否調整手段89fは、このような透過率に限らず、照明合成画像の生成に際して第一照明画像及び第二照明画像の採否基準として、他の条件を設定することもできる。例えば、画像合成手段85で照明合成画像を生成する際に、第一照明画像と第二照明画像の対応する各画素について、輝度の高い方又は低い方を選択するよう採否調整手段89fで設定することができる。これにより、輝度の高い明るい画像を得たり、逆に暗い画像を得ることが可能となり、単に第一照明光と第二照明光を同時に照射して観察する以上の、高度な画像処理が可能となる。あるいは、画像合成手段85で照明合成画像を生成する際に、第一照明画像と第二照明画像の対応する各画素について、彩度の強い方を選択するよう採否調整手段89fで設定してもよい。これにより、彩度の強い画像を得ることが可能となる。あるいはまた、画像合成手段85で照明合成画像を生成する際に、第一照明画像と第二照明画像の対応する各画素の差分を表示するように採否調整手段89fで設定することもできる。これによって画素毎の差分を確認することが可能となる。このように、第一照明画像と第二照明画像の対応する各画素について、加算、減算、平均、明るい方又は暗い方を取るといった、様々な画像処理を行うことができる。また、二枚の照明画像に対する処理に限らず、三枚以上の照明画像に対して画像処理を行うこともできる。例えば、画素毎に平均値や中央値、あるいは明るい画素、暗い画素等を適宜作用できる。このように、採否調整手段89fを設けたことで高度な画像処理が可能となり、単に第一照明手段と第二照明手段の照明光の比率を単にスリット等で調整するだけでは得られない、すなわち従来の拡大画像装置で利用してきたハードウェアでは得られない画像の効果が、採否調整手段89fでもって実現される。
なお、画像合成等、何らかの処理のための各画像を撮像している間の、表示手段における表示内容は、表示内容を更新させずに合成画像の完成後に、該合成画像の表示に切り替える態様の他、各撮像条件で撮像した静止画を順次表示させて切り替えるようにしてもよい。
(拡大画像観察プログラム)
照明光切替手段の一態様を構成するユーザインターフェース画面の一例を図4に示す。図4は拡大観察装置100を操作するための拡大画像観察プログラムのユーザインターフェース画面である。このような操作画面は、拡大観察装置100の表示部52や外部接続されたコンピュータのモニタ上に表示できる。ユーザは表示された画面上から、拡大観察装置100の各種設定や操作を行う。拡大画像観察プログラムは、本体部50に組み込まれている。
なおこれらのプログラムのユーザインターフェース画面の例において、各入力欄や各ボタン等の配置、形状、表示の仕方、サイズ、配色、模様等は適宜変更できることはいうまでもない。デザインの変更によってより見やすく、評価や判断が容易な表示としたり操作しやすいレイアウトとすることもできる。例えば詳細設定画面を別ウィンドウで表示させる、複数画面を同一表示画面内で表示する等、適宜変更できる。またこれらのプログラムのユーザインターフェース画面において、仮想的に設けられたボタン類や入力欄に対するON/OFF操作、数値や命令入力等の指定は、操作部55で行う。ここでは、プログラムを組み込んだコンピュータに接続された入力デバイスでもって、撮像条件等の設定を行う。本明細書において「押下する」とは、ボタン類に物理的に触れて操作する他、入力部によりクリックあるいは選択して擬似的に押下することを含む。操作部等を構成する入出力デバイスはコンピュータと有線もしくは無線で接続され、あるいはコンピュータ等に固定されている。一般的な入力部としては、例えばマウスやキーボード、スライドパッド、トラックポイント、タブレット、ジョイスティック、コンソール、ジョグダイヤル、デジタイザ、ライトペン、テンキー、タッチパッド、アキュポイント等の各種ポインティングデバイスが挙げられる。またこれらの入出力デバイスは、プログラムの操作のみに限られず、拡大観察装置100等のハードウェアの操作にも利用できる。さらに、インターフェース画面を表示する表示部52のディスプレイ自体にタッチスクリーンやタッチパネルを利用して、画面上をユーザが手で直接触れることにより入力や操作を可能としたり、又は音声入力その他の既存の入力手段を利用、あるいはこれらを併用することもできる。
(照明切替画面110)
図4に示す拡大画像観察プログラムのユーザインターフェース画面は、照明部の照明条件を設定する照明条件設定手段の一形態として、照明切替画面110を示している。照明切替画面110では、左側に表示領域111を設け、右側に操作領域112を設けている。操作領域112は、その左側にメニューをリボン状に表示し、選択されたリボンに応じて、右側の操作可能な内容が切り替わる。ここでは、複数のタブを切り替えることで、さらに設定内容を切り替えることができる。図4の例では、操作領域112の「明るさ・照明」リボン113を選択して、さらに「照明」タブ114を選択する。そして「照明」タブ114の上段に設けられた「落射照明」設定欄115、及び下段に設けられた「透過照明」設定欄116で、各照明光の方向や明るさを設定する。例えば「落射照明」設定欄115の「ON」ボタン117を押下するとリング照明が点灯され、その明るさを0〜255で指定する。明るさの指定は、数値又はスライダで行う。光量値が大きければ画像が明るく、小さければ暗くなる。また「リング照明」ボタン118を押下すると円環状のリング照明の全周が点灯され、「リング片射」ボタン119を押下すると円環状の一部のみが点灯される。斜めから照明光を照射することで、例えば観察対象物表面の傷や凹凸を強調して観察できる。一方「透過照明」設定欄116でも同様に「ON」ボタン120を押下すると透過照明が点灯され、その明るさを数値又はスライダ121で指定する。この例ではリング照明をONさせて透過照明をOFFさせている。ただ、観察目的に応じて両方の照明をONさせてそのバランスを調整することもできる。
(明るさ設定画面122)
また図4の照明切替画面110から操作領域112において「照明」タブ114を選択すると、図5の明るさ設定画面122に切り替わる。この画面では画像の明るさとして、カメラ部の撮像時のシャッタースピード(露光時間)とゲインを調整できる。シャッタースピードを遅く(露光時間を長く)すると画像が明るく、速く(露光時間を短く)すると暗くなる。ここでは、シャッタースピードとしてオート、マニュアル、スーパーチャージ、プリセットのいずれかをラジオボタンで選択できる。またシャッターゲイン値を大きくすると画像が明るく、小さくすると暗くなる。ここではゲインとしてオート、マニュアル、プリセットのいずれかを選択できる。
(照明光源65)
照明光源65としては、発光ダイオード(Light Emitting Diode:LED)や半導体レーザ(Laser Diode:LD)といった半導体発光素子が利用できる。例えば、図3に示すようにR、G、Bの波長域を有するLED65r、65g、65bを用意し、各LEDの点灯により照明光を赤色、緑色、青色にそれぞれ切り替えたり、これらの混色によって白色光を得ることができる。また、白色LEDを別途用意することもできる。特にLEDはON/OFF応答性に優れるため、測定のスループットを向上できる利点も得られる。また長寿命で低消費電力であり、発熱量も少なく、機械的衝撃に強いといった特長も備える。あるいは、光源光の紫外線や可視光線で励起される蛍光体等の波長変換部材を利用した光源とすることもできる。これにより、1個のLEDでも白色光を発光できる。さらに、可視光以外に紫外光や赤外光を照射可能なLEDを光源として用いることもできる。例えば赤外光による観察は、不良品の解析や生体組織の組織分布等において有用である。なお照明光源には半導体発光素子に限らず、幅広い波長域の白色光を発する白色光源として、ハロゲンランプ、キセノンランプ、HIDランプ等を利用してもよい。また可視光のみならず赤外光を照射可能な光源としてもよい。特にハロゲンランプは、発光波長の波長域が広いため好ましい。また、単一の光源を利用するのみならず、複数の光源を備え、これらを同時に点灯して混色光を照明光としたり、あるいは切り替えて照明することもできる。
なお、照明光源は本体部に内蔵する構成に限られない。例えば、載置部や顕微鏡レンズ部に設けることもできる。変形例として図6に示す拡大観察装置400は、載置部30側に照明光源として、透過照明光源65Bを設けている。また図7に示す拡大観察装置500は、顕微鏡レンズ部20側に同軸落射照明やリング照明用の照明光源65Cを備えている。このような構成により、光ファイバ等で照明光を本体部側からヘッド部側に伝達する必要をなくし、外部に引き出すケーブルを少なくして構成を簡素化できる利点が得られる。また、ヘッド部側の内部においても、照明光源からの光を光ファイバで分岐する他、直接照明に高輝度のLED等の半導体発光素子を設けてもよい。特にLEDは、従来のハロゲンランプ等と比べて小型で発熱量も少なく、長寿命でメンテナンスフリー化も図ることができる。
このように、赤色、緑色、青色に発光可能な照明光源を用意することで、従来の白色光源のようなフィルタを不要にでき、またフィルタの切り替えといった機械的な動作を不要となり、電気信号のみでの安定した高速な照明光切り替えが実現される。またLEDは長寿命であるため、電球の交換等のメンテナンス作業も省力化できる。さらに、半導体発光素子はバルブに比べ小型であるため、複数種類の発光素子を省スペースで配置できる利点もある。さらにまた、例えば赤外光発光素子や紫外光発光素子も備えることで、照明光を可視光のみならず赤外光、紫外光等に切り替えることが容易に行える。さらに、低消費電力で冷却ファンも小型化或いは省略でき、静音性にも優れる。このようにして、異なる波長域の発光素子を複数備える照明光源を照明光選択手段87で制御し、所望の波長域の発光素子を選択して点灯し照明光を照射することができる。
また照明光源や照明フィルタ手段には、RGB3原色の他、これらの補色(例えばシアン・マゼンダ・イエロー)を適宜利用することもできる。その他、フィルタとして紫外光や赤外光を透過させるフィルタを利用することもできる。
(同軸落射照明観察)
ヘッド部4の断面図を図8に示す。このヘッド部4は、観察対象に同軸落射照明光を照射するための同軸落射照明部62と、同軸落射照明部62で照射された照明光の反射光を受光する撮像素子を有するカメラ部10と、カメラ部10と光軸を一致させて光学的に結合された対物レンズ部25と、対物レンズ部25と光軸を一致させて配置された位相遅延素子90を備えている。照明部60は、同軸落射照明部62とリング照明部63を含む。ヘッド部4はカメラ部10と、偏光ビームスプリッタ28と、対物レンズ部25とを備えている。これらは、光軸AXを一致させた状態で光学的に結合されており、撮像光学系を構成する。また対物レンズ部25には、位相遅延素子90が光軸AX上に配置されている。一方リング照明光は撮像光学系に導入されることなく、観察対象物Sに対して直接照射される。なお位相遅延素子90には、λ/4板、λ板、(1/2)λ板、(3/4)λ板、(5/8)λ板等が利用でき、典型的にはλ/4板が利用される。なおλ/4板は、この境界面で反射が生じないように、光軸AXに対して傾斜させて配置することが好ましい。(支持台40)
拡大観察装置100の撮像系1の外観構成の一例を図9に示す。この図に示す撮像系1は、観察対象物Sを載置する載置部30とヘッド部4を支持する支持台40を備えている。支持台40は、載置部30を水平面内あるいは上下移動可能な状態に保持するステージ固定機構42と、載置部30を保持した状態でヘッド部4を傾斜させるヘッド傾斜機構44を備えている。これらステージ固定機構42及びヘッド傾斜機構44は、ベース部41に固定されている。ベース部41は平板状として、安定的に支持台40を自立させる。
(ステージ固定機構42)
ステージ固定機構42は、載置部30を水平面内(XY軸方向)及び垂直方向(Z軸方向)に移動可能な一以上の移動機構を介して、載置部30を支持台40に固定している。具体的には、ここでは移動機構として、載置部30をZ軸方向に移動させるためのZ軸方向移動機構(第一焦点調整部)、載置部30をXY軸方向に移動させるためのXY軸移動機構、載置部30をθ方向に回転させるための回転移動機構が利用できる。図9に示す例では、Z軸移動機構としてベース部41上に昇降可能に固定されたスライダ32でもって下ステージ昇降器35を実現し、さらに回転移動機構として、スライダ32上に固定された中間連結部34でもって載置部30を回転可能とし、加えてXY軸移動機構として、中間連結部34上に固定されたXYステージでもって、載置部30をXY軸方向に移動可能としている。これらのXY軸移動機構やZ軸移動機構、回転移動機構は、表示部52に表示されている画像の視野を変更するための視野変更手段として機能する。
(ヘッド傾斜機構44)
一方ヘッド傾斜機構44は、ヘッド部4を載置部30に対して傾斜させるため、図10の斜視図に示すようにベース部41に揺動軸45を介して揺動自在に連結された揺動部46と、揺動部46にヘッド部4を固定するためのヘッド固定部48とを備える。揺動部46は、ベース部41から上方に突出する姿勢に設けられた揺動支柱47と、揺動軸45とを備える。またヘッド固定部48は、揺動支柱47にヘッド部4を、ほぼ平行な姿勢で固定するヘッド用アーム49を備える。揺動支柱47は、下端に揺動軸45を設けており、揺動軸45を中心として旋回するようにベース部41に支持される。またヘッド用アーム49は、ヘッド部4を載置部30の上方に保持するよう、揺動支柱47の上部から中間部の位置で、揺動支柱47をクランプする等して固定される。またヘッド用アーム49の先端には、ヘッド部4を固定する固定機構が設けられる。ここでは、固定機構はヘッド部4の外周を囲むリング状に形成されて、リング状の中心にヘッド部4を挿入して、周囲の複数の位置から止めねじで螺合されて固定される。
ベース部41の上面には、下方に向かって末広がりとしたブロック41aが固定され、このブロック41aの上部に軸受部41bを形成している。軸受部41bは、離間して固定された一対のガイド部41cを備えており、一対のガイド部41cは側面視において凹形状に形成されている。各ガイド部41cは、Y軸方向に平行な軸を中心軸として形成された円形の孔部を開口している。これらの孔部には揺動軸45がY軸方向に沿って嵌合されている。この例では、揺動軸45に目盛を設けており、ヘッド部4を揺動させる角度を目盛でもって目視できるように構成している。
(傾斜観察)
このヘッド傾斜機構44によってヘッド部4を載置部30に対して傾斜させることで、観察対象物Sを斜め方向から観察した傾斜観察が可能となる。特にヘッド部4を垂直姿勢から、揺動軸45を回転軸として左右に揺動させることで、左右いずれの方向からも観察することが可能となり、異なる視点からの観察により観察の自由度を高めることが可能となる。またこのような傾斜観察においては、ヘッド部4を傾斜させても視野が変化しないユーセントリック観察が求められる。このため傾斜観察に際しては、予め観察対象物Sの観察面が、揺動軸45の中心と合致するように載置部30の高さを調整することが望ましい。
また拡大観察装置200は、図11の斜視図に示すように、ヘッド部4の先端に設けられた第一対物レンズ部25A、第二対物レンズ部25Bを、ヘッド部4を揺動させる面に対して垂直な面内で揺動させて切り替える対物レンズ切替手段26を備えている。このように、ヘッド部4の揺動面と、対物レンズ部25を切り替えるための揺動面とを直交させることで、ヘッド部4を傾斜させた状態で対物レンズ部25を切り替える際に、対物レンズの先端が観察対象物に接触する事態を回避できる。この際、各対物レンズ部の長さが等しくなるように予め設計しておく。
(カメラ部10)
ヘッド部4は、撮像素子を有するカメラ部10と、カメラ部10の先端に着脱自在に装着される顕微鏡レンズ部20とを備える。カメラ部10は、照明部60により照明された観察対象物Sから、撮像光学系11を介して入射する反射光を電気的に読み取る撮像素子12を備える。撮像素子12は、この例ではCMOSを利用しているが、CCD等、他の受光素子も利用できる。また顕微鏡レンズ部20は、対物レンズ部25に加え、レンズ本体21と、このレンズ本体21の端面に装着されてレンズ接続面を構成するマウント部22とを備えている。またマウント部22は、可撓性を有するレンズ側ケーブル24を介して顕微鏡レンズ部20と電気的に接続されている。これにより、顕微鏡レンズ部20のレンズ識別情報は、レンズ側ケーブル24を介してマウント部20のレンズ側接続端子に送出される。
(光路シフト手段14)
さらに拡大観察装置100は、撮像素子12の検出位置を相対的にシフトさせるための光路シフト手段14と、光路シフト手段14を作動させる光路シフト制御手段81とを備えることもできる。具体的には、3以上の注目画素群について、注目画素群を構成する各撮像素子の画素の位置で受光信号が一巡して受光量が各々の位置で検出されるよう、撮像素子の画素間隔に相当する変位量分、注目画素群を構成するいずれかの撮像素子の検出位置を光路シフト手段14で相対的にシフトさせる。
(光路シフト制御手段81)
一方光路シフト制御手段81は、フィルタ選択手段88で選択された照明フィルタを介して所定波長の照明光が試料Sに照射される際、複数の撮像素子の内、該波長域に対応する撮像素子で受光量を検出するように、光路シフト手段14を作動させる。これにより、照明フィルタと撮像素子の選択及び画素ずらしを連動させることが可能となり、ユーザは面倒な切り替えや照明光とこれに応じた照明フィルタ、撮像素子の選択の組み合わせを意識することなく、高解像度の観察像を簡単に取得できる。
図2の例では、カメラ部10に光路シフト手段14が備えられており、画素ずらしによってCMOSの持つ解像度以上の高解像度を得ることができる。画素ずらし(ピクセルシフト)とは、例えば単板タイプについて特許文献2や、3板タイプについて特許文献3に記載されるように、圧電素子等を用いることにより、隣接する素子と素子(画素)との間の空間に、素子を物理的にシフトさせるピクセルシフトにより、例えば画素ピッチの半分だけ試料Sをずらして撮影した画像と、ずらす前の画像とを合成することにより高解像度化を図るものである。また1画素ピッチ分ずらして各画素でRGBのデータを取得することにより、色再現性も向上される。代表的な画像ずらしの機構としては、撮像素子12をアクチュエータAC等により移動させる撮像素子駆動方式、LPFを傾斜させるLPF傾斜方式、レンズを移動させるレンズ移動方式等がある。
画素ずらし機能を実行すると、図12に示すように、撮像素子がベイヤー配列でマトリクス状に画素毎に配置された状態において、光路シフト手段14は図13に示すように、隣接する2×2の画素位置にシフトさせるよう切り替えることができる。これにより、ベイヤー配列された異なる受光特性の撮像素子を、隣接する2×2の注目画素につき、一巡するように光路シフト手段14でシフトさせて、2×2のすべての画素位置で受光信号を取得することができ、高解像度の観察像を得ることができる。なお、光路シフト手段14で撮像素子を相対的にシフトさせるシフト量は、図13の例では撮像素子の画素間隔に相当する変位量分として、反時計回りに4回、計4画素分移動させているが、上下、左右等隣接する2画素のみ、あるいは3画素分だけ移動させることもできる。また、移動量は撮像素子の1画素分に限られず、図14に示すように1/2画素分や1/3画素分等とすることもできる。撮像素子を構成する各画素の受光感度のピーク位置やレンジに応じて移動量を調整することで、1画素分以下の移動量でも受光量を向上できるので、高解像度化を図ることができる。このように、撮像素子の画素間隔に相当する変位量分とは、画素ピッチと同等もしくはその整数倍に限られず、1/2画素分や1/3画素分といった分数倍も含まれる。
(表示部52)
またこのような画像データや記憶部53に保持された設定内容は、表示部52にて表示させることができる。表示部52はCRTや液晶ディスプレイ、有機EL等のモニタが利用できる。また、制御部51に対して、ユーザが各種操作を行うための操作部55を接続している。操作部55はコンソールやマウス等の入力デバイスである。なおこの例においても表示部や操作部は、本体部50と一体的に組み込むことも、外付けの部材とすることもできる。さらに表示部をタッチパネルで構成すれば、表示部と操作部を一体に構成することもできる。
ここで下ステージ昇降器35の動作について説明する。本体部50は、モータ制御回路36に対してステッピングモータ37の制御に関する制御データを入力することによって、載置部30と、撮像光学系11および撮像素子12を有するヘッド部4との光軸方向における相対距離、ここではz方向における高さを変化させる。具体的には、本体部50は、下ステージ昇降器35の制御に必要な制御データをモータ制御回路36に入力することによってステッピングモータ37の回転を制御し、載置部30の高さz(z方向の位置)を昇降させる。ステッピングモータ37は、回転に応じた回転信号を生成する。本体部50は、モータ制御回路36を介して入力される回転信号に基づいて、載置部30と撮像光学系11の光軸方向における相対距離に関する情報としての載置部30の高さzを記憶する。この載置部30は、観察対象物Sに対して観察位置の位置決めを行う観察位置決め手段として機能する。
なお、下ステージ昇降器35はこのような電動式に限られず、手動式で昇降させる構成としてもよいことはいうまでもない。
さらに本実施の形態においては、載置部30の高さを変化させることによって載置部30と撮像光学系11の光軸方向における相対距離を変化させるのみならず、撮像光学系の高さ、すなわちヘッド部4の高さも変化可能としている。ヘッド部4は本体部50とケーブル部3により接続される。これにより、ヘッド部4で取得したデータはケーブル部3を介して本体部50に送出され、本体部50側で必要な処理を行うことができる。なお載置部は顕微鏡本体に設ける他、本体と別部材としたヘッド部に設けたり、あるいはステージを省略した撮像部をヘッド部に設けることもできる。ステージを省略した撮像部は、取り付けスタンドに装着したり、ユーザが手持ち可能とすることもできる。
撮像素子12は、x方向およびy方向に2次元状に配置された画素毎に受光量を電気的に読み取ることができる。撮像素子12上に結像された観察対象物Sの像は、撮像素子12の各画素において受光量に応じて電気信号に変換され、撮像素子制御回路13においてさらにデジタルデータに変換される。本体部50は、撮像素子制御回路13において変換されたデジタルデータを受光データDとして、光軸方向(図2中のz方向)とほぼ垂直な面内(図2中のx、y方向)における観察対象物Sの2次元位置情報としての画素の配置情報(x、y)と共に記憶部53に記憶する。ここで、光軸方向とほぼ垂直な面内とは、厳密に光軸に対して90°をなす面である必要はなく、その撮像光学系および撮像素子における解像度において観察対象物Sの形状を認識できる程度の傾きの範囲内にある観察面であればよい。
また、以上の説明では載置部30の一例として、観察対象物Sが載置部30に載置される例を示したが、例えば載置部の代わりにアームを取り付け、その先端に観察対象物Sを固定する構成とすることもできる。さらにヘッド部4は、カメラ取り付け部43に装着して使用する他、脱着可能として手持ち等の方法により所望の位置、角度に配置することもできる。
(制御部51)
制御部51は、撮像した観察画像を、表示部52で表示可能な解像度に変換して表示するよう制御する。図1の拡大観察装置100においては、カメラ部10が撮像素子12によって観察対象物Sを撮像した観察画像を表示部52に表示する。一般にCMOSやCCD等の撮像素子の性能は、表示部での表示能力を上回ることが多いので、撮像した観察画像を一画面に表示するためには画像を間引く等して解像度を一画面で表示可能なサイズまで落とし、縮小表示している。カメラ部10で読み取ったときの読取解像度を第一の解像度とすると、表示部52においては第一の解像度よりも低い第二の解像度で表示されることとなる。
(簡易撮像条件生成機能)
拡大観察装置100を用いて観察対象物を観察する際には、画像を取得するための撮像条件を設定する必要がある。撮像条件には例えば、複数の照明部40を備えている場合は照明光の選択、照明光の種類や方向、カメラ部のシャッタースピード(露光時間)、画面の明るさやコントラスト、ホワイトバランス、あるいは撮像後の後処理として各種のフィルタといった画像処理の種別等、各種の撮像パラメータが挙げられる(なお、ここでは撮像後の後処理のパラメータも含めて「撮像パラメータ」と呼ぶ。)。また撮像条件には、照明光の設定を行う照明条件も含む。一例として、図4、図15〜図17に、このような撮像条件を設定するための撮像条件設定部83の一形態として、拡大画像観察プログラムのユーザインターフェース画面を示す。これらの図において、図4は上述の通り、照明部40の照明条件を設定する照明条件設定手段の一形態として、照明切替画面110を示している。また図15はホワイトバランスを設定するホワイトバランス設定画面124、図16は一覧表示領域、図17は画像設定画面の例を、それぞれ示している。図15のホワイトバランス設定画面124では、ホワイトバランス、すなわち画像の色合いを調整することができる。図16の一覧表示領域では、簡易的に設定された簡易撮像条件で各々撮像された簡易画像中から、所望の簡易画像を選択することで、この簡易画像に設定された簡易撮像条件を、撮像条件として設定することができる。図17の画像設定画面では、各種の撮像条件を設定する。このように、撮像条件設定部83でもって撮像条件を設定、変更すると、後述する表示モード切替手段89eが画像変更操作が行われたと判断して、表示モードの切り替えを行う。
(簡易撮像条件設定機能)
このような撮像条件を個別に設定することは手間がかかる。また撮像パラメータ同士が相関しているものもあるため、特に初心者のユーザには、所望の画像を得るために、どの撮像パラメータを調整しなければならないかが判り辛いことがある。そこで、本実施の形態に係る拡大観察装置は、予め様々な撮像パラメータを組み合わせた仮の撮像条件を簡易的に複数生成し、さらに各簡易撮像条件で取得した簡易画像を表示部52に一覧表示させる簡易撮像条件設定機能を備えている。これによれば、ユーザに、一覧表示された簡易画像の中から、所望の簡易画像を選択させることで、この簡易画像を取得した簡易撮像条件を、正規の撮像条件として設定することができ、操作に詳しくないユーザでも視覚的に所望のイメージに近い画像を容易に得ることが可能となる。また、選択された簡易撮像条件に対して、各撮像パラメータを微調整することもでき、これによって撮像条件の設定作業を容易に行える利点も得られる。このような簡易撮像条件生成機能は、制御部51の簡易撮像条件生成部89cによって実現される。
簡易撮像条件生成部89cで生成された複数の異なる簡易撮像条件は、それぞれ制御部から照明部40及びカメラ部10に設定されて、各簡易画像が簡易的に撮像される。ここで撮像される簡易画像は、あくまでもユーザに一覧表示して比較するためのものであるため、精細な画像を取得する必要はなく、簡易的な撮像で足りる。具体的には、解像度やフレームレートを落としたり画像生成のための演算処理を簡略化する等して、通常の撮像よりも短時間で得られるようにしている。これにより、簡易撮像条件の異なる複数枚の簡易画像を、短時間で取得できる(予備的な撮像という意味で、プレビューと呼ぶことがある。)。簡易撮像条件生成部89cは、見た目の効果が変わりやすい撮像パラメータに設定することで、得られる簡易画像の印象を際立たせることができる。
(一覧表示機能)
また拡大観察装置100は、簡易撮像条件生成部89cで生成された複数の異なる簡易撮像条件でそれぞれ簡易的に取得された簡易画像を、表示部52の一覧表示領域に一覧表示させる一覧表示機能を備えている。一覧表示させた例を図16の一覧表示画面130に示す。図16の例では、一覧表示機能を実行するには、操作領域112の「画質改善」リボン131を選択して、さらに「最適画像選択」タブ132を選択する。そして「最適画像選択」タブ132の上段に設けられた「最適画像を実行」ボタン133を押下することで、表示領域111は一覧表示領域134に切り替えられる。一覧表示領域134では、各簡易撮像条件で撮像された簡易画像が並べて表示される。この例では、簡易撮像条件生成部89cによって9つの簡易撮像条件が生成され、各簡易撮像条件で簡易的に撮像された9枚の簡易画像が表示されている。各簡易画像は異なる画像処理や照明効果が施されており、ユーザはこの中から観察目的に応じた所望の簡易画像を選択する。図16の例では、操作領域112にも一覧表示領域134と同様の9つの一覧表示画像136が表示されている。一覧表示画像136の並びは、一覧表示領域134の並びと一致しているので、ユーザはより大きな一覧表示領域134で各簡易画像を対比しながら所望の簡易画像を決定し、対応する位置にある画像を操作領域112の一覧表示画像136中からマウスクリック等により選択する。これにより、選択された簡易画像と対応する簡易撮像条件が呼び出されて、この簡易撮像条件が、通常の撮像条件として入力される。また必要に応じてユーザは更に撮像条件の微調整を行うことができる。
図16の例では、「画像設定」タブ138を選択すると、一覧表示画面130から図17の画像設定画面140に切り替わる。ここでは、撮像パラメータとしてエッジ強調、ガンマ補正、オフセット、モノクロ設定の微調整を行うことができる。この例では、エッジ強調、ガンマ補正、オフセットはスライダで調整し、モノクロ設定はラジオボタンで陰影の強調度合いを選択する。ここでエッジ強調は、画像の輪郭部分を強調して傷や微細なものを観察し易くするための撮像パラメータであり、値が大きいほどエッジ強調が強く適用される。またガンマ補正は、画像に含まれる画素毎の輝度のヒストグラムに対する調整であり、コントラストやグラデーションの強調に利用される。さらにオフセット調整も輝度のヒストグラムの調整であり、画像全体を明るく、又は暗くする際に利用される。また、ここでの設定条件に従って、新たな簡易撮像条件を生成して一覧表示機能を再度実行させることもできる。また図16の画面から、一覧表示画像136の下部に設けられた「HDRのパラメータ調整を行う」ボタンを押下することで、HDR画像を生成するための詳細な合成パラメータの設定画面に移行する。
(画像合成手段85)
またこの拡大観察装置は、合成画像生成手段85で合成画像を取得する合成画像撮影モードとして、ダイナミックレンジ拡大用途に適したダイナミックレンジ拡大撮影モードと、輝度分解能を向上し、コントラストを強調した分解能向上撮影モードを備える。ダイナミックレンジ拡大撮影モードでは、原画像よりも広いダイナミックレンジを持つ合成画像を生成する。一方、分解能向上撮影モードでは、撮像素子のダイナミックレンジよりも狭いダイナミックレンジで、輝度分解能を原画像よりも向上させた合成画像を生成する。
(HDR画像)
ダイナミックレンジ拡大撮影モードではいわゆるHDRIを撮像する。HDRI(High Dynamic Range Image:以下「HDR画像」という。)は、従来の画像よりダイナミックレンジ、すなわち最小光量と最大光量の比が格段に高い画像である。例えば標準的なコンピュータのモニタでは、標準色表現として8ビット〜24ビットのカラーが採用されており、256〜1677万階調で表現できるが、現実にはより多くの色が存在しており、人の目は瞳孔の大きさを変えることで適正と思われる基準の明るさに調整して見ている。そこで、モニタの表現能力等を超えた、より多くの色情報を持たせたHDR画像が利用される。このようなHDR画像の取得には、同一の観察対象を同一位置で、異なる撮像条件(典型的には、撮像素子の露光時間)で撮像した複数の画像を合成する等、既知の手法が利用できる。例えば輝度領域のダイナミックレンジを変更して撮像した複数枚の低階調の画像を合成することで高階調のHDR画像とできる。一例として図18A、図18Bに示すような露光時間の異なる低階調画像を合成して、図18Cに示すような高階調のHDR画像を生成する。
また、上記のダイナミックレンジ拡大用撮影とは逆に、狭いダイナミックレンジで細かな模様が表示できるように分解能を向上させた撮影も可能となる。分解能向上撮影モードでは、元の画像よりも狭いダイナミックレンジにおいて、より細かく撮像条件を変化させた画像を合成して、輝度分解能を原画像よりも向上させた合成画像を得ることができる。なお、ここで得られる合成画像はダイナミックレンジを拡大していないので字義上HDR画像でないが、HDR画像と同様の高階調画像であり、本明細書では便宜上HDR画像に含めて扱うこととする。また本明細書においてHDR画像とは、ダイナミックレンジが表示部で表示可能なダイナミックレンジよりも広い意味で使用しているが、それに限られず、撮像部の撮像素子で撮像可能なダイナミックレンジよりも広い画像、あるいは24ビット以上、32ビット以上といった特定のビット数を備える画像を意味するものとして取り扱うこともできる。
(深度合成画像)
さらにこの拡大観察装置は、合成画像生成手段85で合成画像として、HDR画像の他、深度合成画像も撮像できる。深度合成画像は、対象物Sの測定対象部分の高低差が被写界深度を超える場合、図19A〜図19Dに示すように高さ方向を異ならせて個々に撮像した観察画像中から、ピントが合った部分だけを抜き出して合成した画像である。
深度合成画像を生成する深度合成処理は、Z位置を移動させながら複数枚の静止画を撮影して、ピントが合っている領域を合成することで、画面全域にピントが合っている画像を合成する。この場合は、撮影するZ方向の範囲や他の画像合成処理(ハイダイナミックレンジ処理や後述する超解像処理)との組み合わせよって、数枚から数百枚の撮影が必要となる。
また、合成画像生成手段85で合成する他の合成画像として、三次元画像や画素ずらし機能による高解像度画像、超解像画像、自動計測処理も利用できる。三次元画像は、深度合成処理とZステージの位置情報を組み合わせることで、ピントが合っている高さを推定した画像である(図20)。具体的には、深度合成画像を作成する際に、Z軸移動機構(Zステージ)の座標情報と記憶しておき、画素毎の高さ情報を用いて立体的な画像を生成する。さらに画素ずらし機能による高解像度画像は、図12に示すようなベイヤー配列となる撮像素子において、1画素ずつずらして2行×2列の4つの位置を移動させて各位置で撮像した画像を組み合わせる。これにより、各画素においてRGBのデータを取得することができ、ベイヤー補間をすることなく解像度の高い画像(図13)が得られる。さらにサブピクセルの画素ずらしを併用することにより、画素間のデータを取得しつつRGB各データを取得して、さらに高解像の画像を得ることができる(図14)。さらに超解像画像とは、画素ずらし撮影によって特定の波長成分だけを用いて輝度情報を得ることで、レンズ収差の影響や長波長成分の影響を無くした高解像度の画像を生成するものである。この超解像画像は、画素ずらし撮影等により複数枚の撮影を行い、確率分布モデルと点拡がり関数に基づき、レンズによるボケが発生する前の画像を推定する。さらに自動計測処理は、パターンマッチング等により画像の計測を自動で行い、寸法等の計測結果を画像上に合成して表示する処理である。
(ワンクリック計測機能)
ここで計測処理について説明する。計測処理は、計測処理の対象となる画像を表示させた状態で、指定した部位の計測を行う処理である。計測処理にはユーザが手動で行う手動計測処理と、予め設定された手動計測処理条件に従って自動的に行う自動計測処理がある。自動計測処理はさらに、ユーザが指定したタイミングで行うワンクリック計測と、画像が入力されたタイミングで自動的に実行する全自動計測処理がある。ここではまずワンクリック計測機能について、図21の拡大画像観察プログラムのユーザインターフェース画面に基づいて説明する。この図は計測処理の設定を行うための、計測処理設定画面160のユーザインターフェース画面を示している。ワンクリック計測機能は、左側の表示領域111に表示された計測処理対象画像MI上で、計測したい部位をユーザがマウス等で指定(クリック)すると、計測処理が行われる機能である。図21の画面では、まず計測処理に際して入力画像に対して実行されるパターンマッチングに用いる画像と、計測すべき項目を指定する。ここでは、パターンマッチングに用いる画像を計測テンプレート画像TIとして指定する。図21の例では、操作領域112において、計測テンプレート画像TIを設定する。設定された計測テンプレート画像TIは、操作領域112の計測テンプレート設定欄162に表示される。またこの計測テンプレート画像TIに対して、計測したい部位や計測の種別を指定する。
さらに表示領域111に、計測処理を行う対象となる入力画像、すなわち計測処理対象画像MIを表示させる。この状態で、操作領域112の中段に設けられたワンクリック自動計測設定欄164の「自動計測」ボタン165を押下して、計測処理対象画像MI上で計測したい部位の周辺でクリックすると、登録された計測テンプレート画像TIとパターンマッチングが実行され、さらにこの計測テンプレート画像TIに設定された計測項目と同じ計測が実行されて、その結果が計測結果表示166として表示領域111上に重ねて表示される。図21の例では、入力画像に含まれるチップ抵抗の長さを計測項目として指定しており、表示領域111に表示されたチップ抵抗の2つに対して、計測処理が実行された様子が2つの計測結果表示166として示されている。
以上のワンクリック計測機能では、ユーザが計測処理対象画像上の領域を指定する必要があるが、入力された画像に対して自動的に所定の領域に対してパターンマッチングを行い、計測処理を実行した結果を表示部に表示させてもよい。このような全自動計測処理も、画像処理の一として含まれる。全自動計測処理においては、視野の移動が停止した段階で計測処理対象画像内をパターンマッチングして、マッチング度の高い領域を抽出し、自動で計測を行った結果を表示部に表示させる(詳細は後述)。
さらに画像合成手段85を用いて、高分解能のカラー画像を取得することもできる。短波長の照明光で観察を行えば、分解能の高い画像が得られる。この性質を利用して、青色の照明光を用い、かつ画素ずらしを行うことによって、高分解能の単色画像を得ることができる。ただしこの画像には青色の情報しかなく、フルカラー画像ではない。そこで、別途白色の照明光を用いたフルカラー画像を取得し、画像合成手段85で単色画像の輝度情報にフルカラー画像の色情報(色度、彩度)を重ね合わせることにより、分解能の高い合成カラー画像を得ることができる。すなわち、単板の撮像素子の内、波長の短い照明光を撮像可能な撮像素子、具体的には青色用の撮像素子を用いてモノクロの高解像度画像を撮像し、別途撮影したカラーの観察像と合成することで、高解像度のモノクロ観察像に色情報を加えて、カラーの高解像度観察像(輝度合成画像)を得ることができる。
(表示モード自動切替機能)
拡大観察装置において、このような合成画像を表示した後、さらに別の合成画像を撮像するために視野の移動や撮影条件の変更を行うことがある。このような場合、従来であれば一旦合成画像の静止画を表示する第一表示モードを中止して、表示部52の表示を動画像(スルー画像又はライブ映像)を表示する第二表示モードに切り替えた上で、上述した視野探しや撮像条件の調整作業を行う必要がある。これは、第一表示モードのままでは、一枚の画像の生成に要する時間が長いため、表示部52の表示内容が更新されるまでに時間がかかり、視野探しに不適なため、より短時間で描画の可能な、フレームレートの高い動画像に切り替える必要があるためである。そして、高フレームレートの第二表示モードで視野や撮像条件を調整して、撮像できる状態が整うと、今度は第一表示モードに切り替えて、再度合成画像の生成及び得られた合成画像の表示といった作業を行うこととなる。このように、従来は表示部における表示モードを静止画表示から動画表示に手動で切り替える作業が一々必要であり、作業が煩雑という問題があった。
そこで本実施の形態では、静止画像を表示させた状態で、視野の移動や撮影条件の変更といった、画像を変更するための何らかの操作(画像変更操作)を検出すると、これを契機として自動的に表示部52に表示される画面を、ライブ映像に切り替えて表示する表示モード自動切替機能を備えている。これにより、視野が移動している間や、撮影条件が安定するまでの間は、ライブ映像を表示部52で表示させ続けることができる。そして視野の静止や撮影条件の安定を契機として、再度自動的に合成処理を実行し、合成画像を表示する。すなわち、視野の静止や撮影条件の決定を検出すると、表示モードを第一表示モードに自動的に切り替える。このような構成によって、ユーザは一々表示部の表示モードを静止画から動画に切り替える手間を省くことができ、使い勝手のよい操作環境が実現される。
例えば図22Aのような観察画像に対して、深度合成を実行した図22Bのような深度合成画像が得られている状態を考える。このとき、表示部52には第一表示モードの静止画が表示されている。この状態から、次の視野で深度合成画像を得るために、ユーザが視野変更手段(例えばXY軸移動機構やZ軸移動機構等)を操作して視野を移動させると、図22Cに示すように表示部52の表示は自動的に第二表示モードのライブ映像に切り替わる。そしてユーザが所望の視野を決定すると、自動的に第一表示モードに切り替わり、深度合成処理が実行されて図22Dに示すような新たな深度合成画像が得られる。
(表示モード切替手段89e)
ここで、表示部52における第二表示モードと第一表示モードとの自動切り替えは、表示モード切替手段89eが行う。例えば第一表示モードから第二表示モードへの切り替えは、画像変更手段で画像変更操作が行われたことを契機として行われる。ここで画像変更手段は、表示部52において第一表示モードで画像処理された第一表示モード画像を表示させた状態で、撮像手段で取得される画像に変更が加えられる画像変更操作を受け付けるための手段である。例えば、視野や表示倍率、ワーキングディスタンス等を移動させる視野変更手段の操作を検出した段階で、あるいは画像の明るさやシャッタースピード等、画像調整手段の操作を検出した段階で、表示モード切替手段89eが第一表示モードから第二表示モードへの切り替えを行う。
逆に、第二表示モードから第一表示モードへの切り替えは、画像変更手段による画像変更操作が終了した時点で行う。終了の判定は、例えば、視野変更手段による視野の移動が終了した後、直ちに、又は所定の時間経過後(例えば数秒程度)に行うことができる。
このように、撮像手段で取得される画像に対し、これら視野変更手段や画像調整手段を含めた画像変更手段で何らかの変更が加えられる画像変更操作を検出することで、表示モード切替手段89eが第一表示モードから第二表示モードへの切り替えを自動的に実行する。
さらに、第二表示モードへの切り替えを、視野を移動させる間のみならず、撮影条件を変化させている間にも、第二表示モード画像を表示させてもよい。例えば、表示部52に表示される画像の明るさを、ユーザが手動で適切な明るさに調整している間は、第二表示モード、すなわちライブ映像として、フレームレートを上げて画像を更新することにより、リアルタイムで調整された値に応じた画像に切り替わるため、調整が行い易くなる。そして調整作業の終了後には合成処理等の画像処理が自動的に実行されることによって、ストレスなく使用できる。
ここで撮影条件には、例えば露光時間(明るさ)、ゲイン(明るさ)、照明(光量と光の当て方)等の調整、あるいはエッジ強調やガンマ補正、画像フィルタ処理の適用といった各種画像処理が挙げられる。これらの設定項目の調整作業中や画像処理の実行中は、第二表示モードとしておき、ユーザの調整が終了した段階、すなわち入力が停止したとき、あるいは画像処理コマンドの実行が完了した段階で、これらの設定や画像処理を適用させた合成処理を画像処理部で実行する。
(表示モード切り替え動作)
表示モード切替手段89eによる表示モードの切り替え動作の手順を、図23のフローチャートに基づいて説明する。まずステップS2301において、カメラ部に装着されている顕微鏡レンズ部の情報を取得する。レンズの情報は、レンズ種類、倍率等が挙げられる。この情報の取得は、自動認識又はユーザからの入力のいずれかで行える。自動認識の場合は、顕微鏡レンズ部側で保持しているレンズ識別情報を、本体部がカメラ部を通じて読み取ることで取得できる。ユーザ入力の場合は、ユーザが装着しているカメラ部の種別、あるいは属性等をコンソールあるいは拡大画像観察プログラム等から入力する。
次にステップS2302において、合成処理を実行すると共に、表示部52の表示モードを第一表示モードとする。ここでは、合成処理として合成画像の生成と表示を実行している。具体的には、ステップS2301で得た顕微鏡レンズ部の情報に基づいて、制御手段がレンズの移動量や移動速度を決定し、レンズを動作させてピント位置を変更しながら画像を複数枚取得して、画像合成手段85が合成処理を実行する。また表示部52の表示モードは表示モード切替手段89eによって自動的に第一表示モードとなり、静止画である合成画像を第一表示モード画像として表示させる。
さらにステップS2303に進み、画像を変更させる何らかの画像変更操作があったかどうかを判定する。ここでは、画像変更手段、例えば、XY軸移動機構やZ軸移動機構等の視野変更手段による視野の移動操作があるか否かを判定する。画像変更操作が無い場合は、ステップS2303に戻って処理を繰り返す。一方、画像変更操作があった場合は、ステップS2304に進み、入力された画像変更操作を実行すると共に、表示モード切替手段89eが表示モードを第一表示モードから第二表示モードに切り替える。例えば、載置部30の移動である場合は、静止画表示からライブ映像に切り替えられ、移動する視野をユーザは動画像で確認でき、画像の変化をリアルタイムで追うことができる。さらにステップS2305において、画像変更操作の実行が完了したか否かを判定する。ここでは、載置部30の移動が完了したかどうかを判定し、未だの場合はステップS2305に戻って完了待ち状態となる。そして画像変更操作の実行が完了すると、ステップS2301に戻って上記のループを繰り返す。なお、顕微鏡レンズ部の変更が無い場合は、ステップS2301を飛ばしてステップS2302に進んでもよい。このようにして、表示モードは画像変更操作を検出すると第二表示モードに、画像変更操作が終了すると第一表示モードに、自動的に切り替わることで、ユーザは表示部52の表示内容を切り替えることなく、適切な表示内容にて操作や観察を行うことが可能となり、使い勝手が向上する。
なお、ステップS2302の合成処理に際しては、Z方向への移動は上ステージ昇降器で顕微鏡レンズ部を移動させることに限られず、下ステージ昇降器でもって載置部を移動させてもよい。また、顕微鏡レンズ部が備えるピント調整用のピントリングを変化させて焦点位置を変更することで、複数枚の画像を取得してもよい。また顕微鏡レンズ部の移動量や移動速度に関しては、例えばレンズの倍率が低い場合は移動量を大きく(合成範囲を広く)とり、移動速度を速くすることが行われる。また被写界深度が浅い場合は、移動量を小さくし、移動速度を遅くすることで、各画像において焦点の合う部位がZ方向にうまく連なるよう、載置部を移動させることが可能となる。
(画像変更操作の検出)
第一表示モードから、ライブ映像等の第二表示モードに切り替えるための画像変更操作の検出には、例えばZ軸移動機構やXY軸移動機構等の視野変更手段が電動式の場合は、これらの移動命令を制御部が発行するタイミングで、表示部52の表示モードを切り替える。また、第二表示モードから第一表示モードへの切り替えは、例えば上述した視野変更手段の停止命令の発行や、移動完了通知を表示モード切替手段89eで検出することで、自動的に深度合成等の画像処理を実行すると共に、表示モードの切り替えを行う。あるいは、載置部30の移動を検出するセンサを載置部30に設け、センサが移動を検知している間のみ、第二表示モードとすることもできる。センサは、XYZ方向やθ方向の移動を検出することで、載置部30がどの方向に移動しても表示モードの切り替えを実行できる。
さらに、このような画像変更操作の開始、終了の判定に、画像の変化を用いることもできる。例えば、画像処理部が画像処理でもって画像の変化度合いを調べ、画像の変化度合いが一定値を超えた場合には移動されたとみなす。逆に、変化度合いが一定値より小さくなったら停止と判定する。画像の変化度合いを判定するパラメータとしては、例えばフレーム間での輝度変化量や特徴点の移動量を用いる。この方法であれば、画像変更手段に関する部材が電動である必要は無く、手動でも対応できる。例えばXY軸移動機構であるXYステージにモータやセンサを組み込む必要がないため、製造コストを削減して構成を簡素化できる利点が得られる。
また視野変更操作も、上述したXY軸移動機構によるXY方向への視野の移動のみならず、回転移動機構によるθ方向への回転移動、Z軸移動機構によるZ方向への移動やフォーカス位置の調整、視野の拡大縮小や倍率の調整、例えば対物レンズの切り替え等も含む。また、ヘッド傾斜機構44によるヘッド部4の傾斜も、このような視野変更操作に含まれる。例えば図10に示す拡大観察装置において、角度センサを設けてヘッド傾斜機構44による傾斜操作を検出すると、傾斜動作中は第二表示モード(ライブ画像)、傾斜完了後は第一表示モード(静止画)の表示に切り替えると共に、合成画像の生成処理を実行できる。
(オートフォーカス処理)
画像のオートフォーカス処理では、Z位置を移動しながら焦点のあった位置の静止画を撮影する。この場合は、高さ方向に探索する範囲分の撮影処理が必要となる。通常は均等なピッチで数十枚の画像を撮影して合成する。オートフォーカス処理は、専用の実行ボタンを設けてユーザが手動で実行させる構成の他、自動で実行させてもよい。例えば、視野の移動が停止した状態で自動的にオートフォーカスを実行させる。視野の移動が停止したかどうかは、視野変更手段からの操作信号の入力がなくなったとき、あるいは画像の変化を検出して、変化量が所定値以下となったとき等とできる。例えばライブ映像で画像が一定時間(例えば数秒)変化しない場合に、視野の移動が停止したと判定して、オートフォーカスを実行し、表示モード切替手段が表示モードを第二表示モードから第一表示モードに切り替えて、ピントの合った静止画(オートフォーカス画像)を表示できる。さらにこの状態で視野変更手段が操作されると、第一表示モードから第二表示モードに切り替えられて、表示部の表示がライブ映像となり、視野探しが容易なように画像がほぼリアルタイムで更新される。そして再度停止されると、自動でオートフォーカスを実行してオートフォーカス画像が表示される。これにより、ユーザが視野移動を停止させた状態では常にピントの合った静止画が表示されるので、詳細を確認し易くなり、また視野の移動時にはユーザが視野変更操作を実行するのみで、自動的に表示部の表示モードが静止画から動画に切り替えられ、視野の変化する様子を確認でき、極めて使い勝手のよい観察環境が実現される。
また、合成画像生成手段85で合成する合成画像は、上述の通り深度合成画像の他、HDR画像や高さ情報を有する三次元画像、画素ずらし機能による高解像度画像、超解像画像等とできる。このような合成画像を生成する画像合成処理に際しては、複数枚の画像を撮像して、これらを処理する必要がある。このため合成画像の生成には一定時間を要するため、リアルタイムでの表示が困難となり、一般的には合成画像は静止画で表示するか、あるいはフレームレートを極端に遅くして表示することとなる。しかしながら、このようなフレームレートの遅い第一表示モードで、観察の目的となる部位を探すのは効率が悪い。そこで、視野探し時には、すなわち画像変更操作が行われている際には、軽負荷で表示が可能であり、よってフレームレートも向上できる第二表示モードでもって表示させ、視野の決定後に上述の通り第一表示モードに切り替えるよう構成する。
ただ、本発明は第二表示モードを必ずしもライブ映像に限定するものでなく、例えば合成処理を簡素化して、通常の合成処理よりも短時間で生成可能な簡易合成画像を作成し、ある程度のフレームレートでもって更新可能とした簡易合成画像の更新表示としてもよい。例えば視野の移動中、又は撮影条件変更中に、第二表示モードに切り替えるものの、ここではライブ映像とせずに、第二表示モードで画像合成処理を行いつつ、ただしこの合成処理自体を簡易化して簡易合成画像を合成することでフレームレートを通常の合成画像よりも高速化でき、目的部位への移動を容易にすることができる。このような簡易合成画像を表示させる第一表示モードで実行される簡易画像処理としては、撮影枚数を減らした画像処理が利用できる。例えば簡易深度合成画像の場合は、元となる各画像間の撮影ピッチを広く設定して、一枚の簡易深度合成画像の合成に必要な撮影枚数を低減する。またHDR画像の場合は、元画像間の露光時間の差を大きくとることで、同じく撮影枚数を減らすことができる。このように画像合成に必要な画像の撮影枚数を減らすことにより、フレームレートの低下を抑制して、目的部位を探し易くすることができる。この方法によって撮影枚数を減らすことで、簡易合成画像の品質は若干劣化するものの、目的部位を探す用途には十分利用でき、寧ろ簡易合成画像の画質よりも、フレームレートの向上を優先した方が効率的な作業が行える。
同様に、第一表示モードは必ずしも静止画に限定するものでなく、遅いフレームレートとした合成画像とすることも可能である。特に、頻繁に視野を変更しないような観察用途や残像の影響が大きくとも問題にならないような用途においては、このような観察も利用できる。このように、本発明は第一表示モードを画像処理した静止画に、第二表示モードをライブ映像に限定するものでなく、第二表示モードのフレームレートを第一表示モードのフレームレートよりも速くすれば足り、画像の変更操作と画像処理とのバランスに応じて各表示モードにおけるフレームレートや処理の内容を、観察用途等に応じて適宜調整することができる。
また以上の例では、画像合成手段85で合成画像を生成する画像処理を第一表示モードとして説明したが、第一表示モードは合成画像の生成に限らず、他の画像処理としてもよい。例えばオートフォーカスやエッジ強調、得られた画像データの保存処理や画像に対する全自動計測処理等が挙げられる。
(全自動計測処理)
全自動計測処理は、例えば予め撮影画像に対して計測位置を指定し、計測位置を含む部分画像と、計測位置の部分画像に対する相対位置を保存したティーチングデータを作成し、新規撮像画像からティーチングデータと一致する部位の姿勢/位置を特定し、ティーチングデータに記録されている計測を実施する。例えば図24Aに示すような計測位置を含む部分画像をティーチングデータで予め取得する際は、第一表示モードとする。そして視野移動中は第二表示モード(図24Bのライブ映像)に切り替え、移動後にパターンマッチングを行い、計測処理を自動的に行う際は図24Cに示すように第二表示モードに切り替える。このように、視野の移動中は自動計測処理を止め、視野の決定後に自動計測を行うことで、ユーザは毎回自動計測のON/OFF操作をすることなく、視野移動の操作のみで計測が行えるため、操作性に優れた環境が実現される。なおこのような計測処理は、入力された画像に対して自動で行う他、ユーザが指定した位置やタイミングで実行させることもできることは、上述した通りである。
このように本実施の形態に係る拡大観察装置によれば、一度焦点深度の深い合成画像を生成して表示した後、視野の移動が検出されたことを契機として、表示部52の表示内容を自動的にライブ映像に切り替えて表示する。これにより、ライブ映像を見ながらユーザは目的の部位を探し、視野を確定する。その後、視野の移動完了を検知したことを契機に自動的に深度合成処理を実行し、深度合成画像を表示する。これにより、ユーザはフレームレートの速いライブ映像を見て目的の部位を探すことができ、目的の部位を確定した後は、自動的に深度の深い画像を観察することができるため、合成モードをON/OFFしたりする手間が省け効率的に観察できる。
(画像変更操作検出機能)
また、視野変更操作等の画像変更操作の検出は、表示モード切替手段で行っているが、他の部材で行わせることも可能である。例えば専用の画像変更操作検出手段を設けてもよい。あるいは汎用のIC等で構成された制御手段に画像変更操作の検出を行わせることもできる。また、画像変更操作の検出機能をON/OFFさせる構成としてもよい。例えば画像変更操作検出機能をONさせている間は、表示モード切替手段による表示モードの自動切り替えが有効となり、画像変更操作検出機能をOFFさせると、従来のようにユーザが手動で表示部の表示内容を切り替える手動切替モードとなる。
なお、表示モード切替手段89eは上述の通り自動で表示部52の表示内容を第一表示モード画像と第二表示モード画像とで切り替える手段であるが、これとは別に、ユーザが手動で表示部の表示内容を切り替える手段を設けることも可能であることは、いうまでもない。
ここで、第二表示モードから第一表示モードへの切り替えと、第一表示モード画像を得るための画像処理は、必ずしも同時に行う必要はない。特に、視野変更操作等の画像変更操作が行われたことを検出して、第一表示モード画像を生成するための画像処理が開始されてから、実際に第一表示モード画像を実際に生成して、表示部の表示内容をこの画像に置き換えるまでには、一定の時間がかかることがある。例えば、合成画像を得るには元となる画像を複数枚を撮像した上で画像を合成する処理が必要となるため、数秒〜数十秒の時間を要する。よって、実際に表示部の表示内容を更新するのは、第二表示モード画像が生成されたタイミングとなる。いいかえると、視野変更操作等の画像変更操作が検出されたタイミングではなく、これよりも遅いタイミングとなる。
なお、本明細書において表示モードの切り替えとは、基本的には表示部の表示内容が第一表示モード画像、第二表示モード画像に切り替わるタイミングを指しているが、上述の通り、実際には表示部の表示内容は未だ切り替わっていなくとも、拡大観察装置の内部においては必要な画像処理が行われている。よって、画像処理部の処理が第一表示モード画像の生成を開始した時点で、表示モードが切り替わっていると捉えることもできる。例えば、画像処理の内容によっては、画像処理の開始とほぼ同時に第二表示モード画像を生成できるものもあるので、この場合は画像処理部の画像処理開始と表示部の表示内容の切り替えとを事実上同視しても差し支えない。
(処理の中断)
一方で、ユーザが視野変更操作等の画像変更操作を行ってから、第一表示モード画像が表示されるまでの待ち時間が発生することから、この待ち時間の間に、ユーザが再度視野の移動や、倍率の変更、傾斜観察への切り替えといった操作を行うことが考えられる。しかしながらこの場合に、一旦指定された画像処理が終了するまでは表示部の表示が第二表示モードに切り替わらないとすると、その間は表示の更新が行われないため、ユーザは観察画像を確認することができず、不便を強いられる。
一方、視野を移動させる毎に合成画像を連続的に撮影して、合成画像のままで表示させながら視野探しを行うことも考えられる。しかしながら合成画像の生成には、一般的には複数枚の静止画像の撮影が必要であるため、合成に時間がかかり、表示に遅延が生じる。また撮影中の画像が静止していない状態で強引に合成画像を生成すると、得られる画像が破綻した表示になることがある。例えば、10枚以上の画像から合成画像を作成する、画素ずらしによる3CCD撮像とハイダイナミックレンジ処理を組み合わせた合成画像の撮影を、連続的に行うライブ映像を表示させた例において、観察対象物を静止させて撮像した合成画像CI1を図25に、XYステージを移動させながら撮像した合成画像CI2を図26に、それぞれ示す。このように、移動させながらの合成画像表示では、正確な画像の構築が困難である。また、上述の通り表示の遅延も無視できず、位置決め作業を行うには著しく不便である。
そこで本実施の形態においては、第一表示モードで画像処理が行われている最中であっても、新たに視野変更操作等の画像変更操作が入力されると、表示モード切替手段89eは、画像処理を中断して、第二表示モード画像の表示を行うこともできる。これにより、ユーザは余計な待ち時間を生じること無く、速やかに所望の画像を確認することが可能となって、使い勝手のよい観察環境が実現される。
(中断の処理の手順)
このような中断の処理を含めた表示モードの切り替え手順を、図27のフローチャートに基づいて説明する。まず観察を開始した状態において、ステップS2701において、第二表示モード画像を表示させているものとする。この状態でステップS2702において、視野変更操作等の画像変更操作が検出されたかどうかを判定する。検出されない場合はステップS2702に戻って処理を繰り返す。一方、視野の移動等の画像変更操作が検出されると、ステップS2703に進み、画像処理手段で画像処理を開始する。例えば画像処理が画像合成処理の場合は、合成画像の生成に必要な画像の撮像を行う。その一方でステップS2704において、新たな画像変更操作が検出されたかどうかを判定する。
画像変更操作が検出されると、ステップS2704−1にジャンプして現在の画像処理を中止すると共に、ステップS2709に進み、第二表示モード画像を表示させる。例えば、合成画像の生成中にユーザがXYステージを動かすと、直ちに表示部がライブ映像に切り替わり、移動中の画像を確認することが可能となる。
一方で画像変更操作が検出されない場合は、ステップS2705に進み、画像処理を継続する。例えば画像合成の場合は、元となる画像の撮影を継続する。そしてステップS2706において、所期の画像処理が終了したか否かを判定する。画像合成の場合は、画像合成に必要なすべての画像の撮影が終了したか否かを判定し、未だの場合はステップS2704に戻って上述の処理を繰り返す。すなわち、新たな画像変更操作が検出されるかどうかを確認しつつ、画像の撮像を継続する。このようにして必要な画像がすべて取得され、さらに合成画像の生成も終了する等、所期の画像処理が終了すると、ステップS2707に進み、表示モードを第一表示モードに切り替えて、第一表示モード画像を表示させる。次にステップS2708において、新たな画像変更操作が検出されたかどうかを判定し、検出されない場合はステップS2708に戻って第一表示モード画像の表示を継続する。検出された場合は、ステップS2709に進み、第二表示モードに切り替えて、第二表示モード画像を表示させる。さらにステップS2710において、画像変更操作が終了したか否かを検出し、終了していない場合はステップS2709に戻って処理を繰り返し、一方終了が検出された場合は、ステップS2703に戻って画像処理を開始する。このようにして同様の操作を繰り返し、表示モードを適宜切り替えつつ、画像処理の途中で新たな画像変更操作があった場合は画像処理を中断して、第二表示モード画像に切り替えることができるので、ユーザに画像が切り替わるまでの待ち時間を強いること無く応答性が高められる。
これにより、例えば載置部30を静止しているときは合成画像を表示させ、載置部30の動きを検知すると、この動きに適したライブ映像表示に切り替え、再度静止したら再び合成画像の生成を開始し、必要な画像を撮影して合成画像の表示に切り替えることができる。このように表示部の表示方法がユーザの操作に応じて適宜切り替わることで、ユーザは載置部30を動かせる際には動きを把握し易くなり、観察したい合成画像を撮影する位置決め作業を容易に行える。上述の通り、合成画像を撮影して静止画を表示させたり、あるいは視野や位置決めのため動画像を表示させるには、従来はユーザが入力手段等で表示部の表示を切り替える操作を手動で行う必要があった。例えば高倍率での観察では視野の狭い状態となるため、位置決めを行うためには載置部30を移動させては画像合成を実行するという操作を繰り返すこととなる。例えば第二表示モードにおけるライブ映像LIを図28に、第一表示モードにおける合成画像CIを図29に、それぞれ示す。図28に示すように、ライブ映像LIにおいては、画面全体にピントを合わせることが困難で、詳細を確認することができず、広い範囲でピントの合った画像を確認するには、図29に示すような合成画像CIに頼ることとなる。しかしながら合成画像は静止画像であるため、このような位置決めや視野探しにおいては、視野を移動させる度に表示部の表示を動画像(図28)と静止画像(図29)との間で切り替える操作を繰り返すことが必要となり、多大な手間が掛かっていた。これに対して本実施の形態では、画像を変更させる動作をトリガとして、表示部の表示モードを静止画像から動画像に変更し、さらに画像変更操作の終了を認識することをトリガとして静止画に戻すことで、このような切り替えの手間を省力化してシームレスな表示モードの切り替えが実現される。この結果、表示モードが適切に切り替わることでユーザは観察対象物が動いている時には動きを把握しやすくなり、観察方法として用いたい合成画像を撮影する位置決めが容易になり、極めて使い勝手のよい観察環境が実現される。
図28及び図29は、合成画像を生成するための画像を撮像する高さ範囲を設定する高さ範囲設定画面170である。これらの図に示す高さ範囲設定画面170は、左側の画像表示領域111に深度合成画像MIを表示し、右側の操作領域112に、高さ範囲設定欄を設けている。高さ範囲設定欄においては、上段に高さ範囲を手動で指定する高さ範囲手動指定欄172、中段に高さグラフ表示欄173を、それぞれ設けている。高さ範囲手動指定欄172では、高さ範囲の上限と下限を数値で入力できる。一方高さグラフ表示欄173では、右側に高さグラフ(ここでは投影図PI)が表示されると共に、その左側にZ軸方向における高さの移動を示すスライダが表示される。スライダは、高さ範囲の全域を示す全体スライダ174と、全体スライダ174の一部を拡大した拡大スライダ175で構成される。拡大スライダ175には、高さ範囲の上限を示す上限操作ツマミ176と、下限を示す下限操作ツマミ177が設けられる。これらの上限操作ツマミ176、下限操作ツマミ177をユーザがマウスドラッグ等で操作すると、高さ範囲が連続的に変化し、これに応じて高さグラフに表示されている上限バー178や下限バー179も連動して移動する。さらに高さ範囲手動指定欄172における高さ範囲の上限、下限の数値も変化する。これらは、いずれかの高さ範囲設定手段を操作すると、他の高さ範囲設定手段も連動して変化するように設定されている。これによりユーザは、所望の方法で高さ範囲を設定できる。またこの図において、「自動合成モード」ボタン192を押下すると、高さ範囲を拡大観察装置側で自動的に設定した上で画像合成処理が実行される。
(照明部60の自動切り替え)
さらに照明部60を、視野変更操作等の画像変更操作に連動させて、自動的に切り替えることもできる。すなわち、撮像時における照明光は、目的とする画像を観察するためには好適であるとしても、視野探し等の移動時の照明光として必ずしも最適でないことがある。このような場合は、ユーザが手動で、視野探し等の移動時に適切な別の照明手段に一旦切り替えた上で、必要な視野探しや撮像条件の設定といった作業を行った後に、合成画像等の撮像時には、この撮像に適した元の照明手段に手動で再度切り替える必要があった。この場合に、一々ユーザが手動で照明手段の切り替え操作を行うことは作業が繁雑となる。特に、試行錯誤で様々な撮像条件や視野に変更しながら所望の画像を得ようとする際には、このような照明手段の切り替え操作を幾度も繰り返す必要があり、極めて煩雑となる。そこで、このような視野変更操作等の画像変更操作を検出すると、各作業に適した照明手段に自動的に切り替えることで、作業を簡略化してユーザの操作環境の改善が図られる。
このような照明手段の自動切り替えは、照明切替部61で行う。すなわち照明切替部61は、表示部52において画像を表示させた状態で、視野変更手段により視野変更操作がなされたことを契機として、視野変更時の照明として予め設定された照明部60に自動的に切り替える。また、視野変更手段による視野変更操作が終了したことを契機として、元の照明部60に戻すよう、照明部を自動的に切り替える。これにより、視野探し等の目的で視野が変更される間は、表示部52上で移動する観察対象物を表示させるのに適した照明に自動的に切り替えることができる。また移動が終了すると、元の照明手段に自動で復帰するので、ユーザは複数の照明手段の切り替えを意識することなく、視野探しや静止画観察等の作業をスムーズに切り替えて行うことができる。
照明切替手段は、視野変更手段により視野変更操作がなされたことを検出すると、これをトリガとして照明手段を切り替える。このため視野変更手段による視野変更操作を所定間隔で監視するモニタ回路を備えている。またこのような照明手段の切り替えは、表示部52の表示を、上述した視野変更手段による視野変更操作を契機として静止画像から動画像に切り替える表示モードの切り替え操作と連動して行うことが好ましい。すなわち、図30に示すように、表示部52で表示される画像が静止している状態において、いずれかの照明手段で照明され、第一フレームレートで取得された静止画像が表示部52に表示されている場合を考える。図30の例では、同軸落射照明画像と側射照明画像を画像合成部で合成した照明合成画像LCを、表示部52に表示させている。この状態で、視野変更手段により視野変更操作がなされると、これを検出して、表示モード切替手段89eが第一フレームレートよりも高い第二フレームレートで表示内容を更新される動画像(ライブ画像)を表示手段に表示させると共に、照明切替手段は、動画像の観察に適した照明手段に自動的に切り替える。図31に、視野移動中の移動照明画像MLが表示部52に表示される例を示す。ここでは、同軸落射照明に切り替えており、図30とは照明光の状態が異なることが確認できる。そして視野変更手段による視野変更操作が終了すると、これを検出して表示モード切替手段89eが第一フレームレートに戻して静止画像を表示手段に表示させると共に、照明切替手段が元の照明手段に戻すよう、自動的に照明手段を切り替える。これにより、静止画での表示と動画像での表示にそれぞれ適した照明手段に自動的に切り替えることができ、ユーザの観察時の操作性を向上できる。また必要に応じて、視野変更操作の静止を検出すると、画像合成処理を自動的に実行させてもよい。図32に、このような画像の例を示す。ここでは、表示部52における画像の変化が所定時間(例えば2秒)以上検出されなかった場合、視野変更操作が終了したものと判断して、画像合成部が照明合成画像の合成処理を自動的に実行し、得られた照明合成画像の静止画を表示部52に表示させる。
また、静止画の表示に限らず、低いフレームレートで画像を更新する動画像の表示に対しても、照明手段の切り替えを適用することもできる。すなわち、より高いフレームレートでの表示部の画像更新に適した照明手段に切り替えることで、上記と同様の効果が得られる。
また視野変更手段による視野変更操作には、載置部30の移動、すなわち視野変更手段でもって、撮像手段の光軸と、載置部30とが平面視において重なる相対的な位置を移動させることで、表示部52に表示される視野を変更させ、載置部30と撮像手段とのXY平面における相対的な位置を変化させる他、Z方向への変化や、その他表示部52の表示内容を変化させる操作を含めることができる。例えば、載置部30と撮像手段との相対的な移動又は回転、撮像手段の傾斜、表示手段に表示される画像の表示倍率の拡大又は縮小、照明光の明るさの変化、撮像条件設定部による撮像条件の変更、又は画像処理手段で行う画像処理条件の変更等が含まれる。これにより、視野の移動や回転、倍率変更といった表示部52で表示される画像の視野に何からの変化を生じさせる操作があると、自動的に照明を、視野探しに適した照明等、移動に適した照明に切り替えることで、ユーザに見易い画像を表示部52に表示させることができる。
照明切替手段が、自動的に切り替える照明手段としては、動画像の観察に適した照明手段、例えば同軸落射照明部62のような暗視野照明が挙げられる。また、用途に応じてリング照明部63とすることもできる。リング照明部63は、すべての照明を点灯させたリング照明とする他、一部の照明のみを点灯させた側射照明とすることもできる。このような照明切替手段が自動的に切り替える照明手段は、予め拡大観察装置側で設定しておく。またユーザが切り替え先の照明手段として任意の照明手段を指定するよう構成してもよい。
さらに上述した方法では、視野変更操作を検出すると、予め設定された照明手段に自動的に切り替え、視野変更操作が終了すると元の照明手段に戻す構成を説明した。ただ本発明はこのように視野変更操作に限られず、設定された撮像条件や装着されているレンズ等の情報に応じて、照明切替手段が適切な照明手段を自動で選択するように構成することもできる。
(自動照明切替の手順)
次に、照明手段の自動切り替えの手順を、図33のフローチャートに基づいて説明する。まずステップS3301において、ヘッド部に装着されているレンズの種類、倍率等の情報を拡大観察装置が取得する。これらの情報は、装着されているレンズに記録されたレンズ識別情報を自動的に読み取って取得する方法や、ユーザが手作業で入力する方法が利用できる。
次にステップS3302において、照明画像を撮像して表示部52に表示させる。この例では、複数の照明画像を合成した照明合成画像を取得する。すなわち、ステップS3301で取得された情報に基づいて、照明切替部61で照明手段を切り替えて各照明画像をそれぞれ撮像し、得られた複数枚の照明画像を合成し、照明合成画像を静止画として表示する。
次にステップS3303において、視野変更操作があったかどうかを判定する。ここでは、載置台の移動等、視野を変更させる入力操作が入力されたか否かを確認する。入力がない場合は、ステップS3303の処理を繰り返す入力待ち状態となる。そして視野変更操作の入力が検出されると、ステップS3304に進み、視野変更操作に従って視野変更のための動作を行うと共に、表示部52を動画像の表示モードに切り替える。さらに、動画像の表示に適した照明手段として予め設定された設定照明手段に切り替えるよう、照明切替手段が照明手段の切り替えを行う。
そしてステップS3305に進み、入力された視野変更操作が終了したかどうかの判定を行い、未だの場合はステップS3305を繰り返し、終了と判定された場合は、ステップS3301に戻って上記処理を繰り返す。
なお、上記のステップS3302において、照明合成画像の合成処理の際、照明手段の切り替えは、撮像手段による画像の撮像に同期して実行することにより処理時間を短縮することができる。また、照明合成画像の表示設定は、照明画像の取得後でも調整することが可能である。
さらに照明合成画像の合成に際して、深度合成処理を同時に実行する場合には、Z軸方向に撮像手段又は載置部30を相対移動させる移動速度よりも、照明手段の切り替えの方が早い場合は、照明手段を切り替えながらZ軸方向に移動させる。逆に、Z軸方向への移動速度の方が速い場合は、先に一の照明手段で深度合成を行った後、照明手段を切り替えて再度深度合成画像を取得して照明合成画像の合成処理を行う。あるいは、Z軸方向に移動させながら照明手段の切り替えを交互に実行し、深度合成処理と照明合成処理とを同時に実行することも可能である。
または、静止画像から動画像に切り替えるための視野の変化の検出、および合成処理を実行する契機となる視野の移動完了の検出には、例えば載置部30である電動XYステージ、Zステージへの移動命令の発行と共にライブ映像表示に切り替え、停止命令発行又は移動完了通知を得て自動的に合成処理を実行する。
あるいは、載置部30に移動を検出する移動検知センサを設けて、この移動検知センサが移動を検知している間のみ移動していると判定する。移動検知センサは、移動方向としてXYZθ方向を検出可能なものを採用する。
あるいはまた、表示部に表示される画像の変化度合いが一定値を超えた場合に、移動があったと判定し、逆に変化度合いが一定値より小さくなった場合に、停止と判定することもできる。例えば、フレーム間での輝度変化量や特徴点の移動量を注目パラメータとする。この場合は、載置部30やレンズ駆動部は電動である必要はなく、手動による操作部であればよい。さらにこの場合は、原価を低減しながらも所望の効果を得ることができる。