JP2018101091A - 顕微鏡装置、プログラム、観察方法 - Google Patents

顕微鏡装置、プログラム、観察方法 Download PDF

Info

Publication number
JP2018101091A
JP2018101091A JP2016247805A JP2016247805A JP2018101091A JP 2018101091 A JP2018101091 A JP 2018101091A JP 2016247805 A JP2016247805 A JP 2016247805A JP 2016247805 A JP2016247805 A JP 2016247805A JP 2018101091 A JP2018101091 A JP 2018101091A
Authority
JP
Japan
Prior art keywords
image
observation
map image
determination
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016247805A
Other languages
English (en)
Inventor
洋輔 谷
Yosuke Tani
洋輔 谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2016247805A priority Critical patent/JP2018101091A/ja
Priority to US15/822,959 priority patent/US20180172975A1/en
Publication of JP2018101091A publication Critical patent/JP2018101091A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/32Indexing scheme for image data processing or generation, in general involving image mosaicing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Optics & Photonics (AREA)
  • Quality & Reliability (AREA)
  • Microscoopes, Condenser (AREA)
  • Studio Devices (AREA)

Abstract

【課題】マップ画像の作成中において画質に問題のないマップ画像を自動的に作成する技術を提供する。
【解決手段】顕微鏡装置10は、標本Sの観察画像を取得するカラーカメラ3と、カラーカメラ3が取得した複数の観察画像を組み合わせてマップ画像を作成するマップ画像作成処理を実行する画像処理装置と、観察画像をマップ画像作成処理に使用するかどうかを判定する第1の判定処理を実行する判定装置と、を備え、画像処理装置は、第1の判定処理でマップ画像作成処理に使用すると判定された観察画像を含む、観察画像を組み合わせてマップ画像を作成し、第1の判定処理でマップ画像作成処理に使用しないと判定された観察画像をマップ画像作成処理に使用しないことを特徴とする。
【選択図】図1

Description

本発明は、マップ画像を作成する顕微鏡装置及びプログラム及び観察方法に関する。
従来、顕微鏡の観察技術として、取得した複数の画像を組み合わせることで大きなマップ画像を作成する技術が知られている(特許文献1、特許文献2)。このような技術によって、顕微鏡に備わる対物レンズの視野よりも広い領域における画像を生成することができ、広範囲で標本の特徴を観察することができる。
また、マップ画像の一部領域が、フォーカスずれが原因で画質等に問題がある場合、その問題のある領域を再度取得した画像で置き換えることで適切なマップ画像とすることが望まれる。特許文献2では、複数の画像が連結されることで構成される連結画像データのうち、連結画像データを構成する一部の画像を他の画像によって置換する技術が開示されている。
特開2011-186305号公報 特開2013-050594号公報
一方で、特許文献2の方法では、使用者からの選択指示により画像の置き換えが行われる。即ち、使用者が連結画像データの中から問題のある画像を探し出し、画像の置き換えの判断と指示を行わなければならないため、画像連結中(即ちマップ画像の作成中)における使用者の負担が大きなものとなる。
以上の実情を考慮し、本発明では、マップ画像の作成に際して、適切なマップ画像を自動的に作成する技術を提供することを目的とする。
本発明の一態様の顕微鏡装置は、標本の観察画像を取得する撮像装置と、前記撮像装置が取得した複数の前記観察画像を組み合わせてマップ画像を作成するマップ画像作成処理を実行する画像処理装置と、前記観察画像を前記マップ画像作成処理に使用するかどうかを判定する第1の判定処理を実行する判定装置と、を備え、前記画像処理装置は、前記第1の判定処理で前記マップ画像作成処理に使用すると判定された観察画像を含む、前記観察画像を組み合わせて前記マップ画像を作成し、前記第1の判定処理で前記マップ画像作成処理に使用しないと判定された観察画像を前記マップ画像作成処理に使用しないことを特徴とする。
本発明の一態様のプログラムは、撮像装置が標本の観察画像を取得し、画像処理装置が、前記撮像装置が取得した複数の前記観察画像を組み合わせてマップ画像を作成するマップ画像作成処理を実行し、判定装置が前記観察画像を前記マップ画像作成処理に使用するかどうかを判定する第1の判定処理を実行し、前記画像処理装置は、前記第1の判定処理で前記マップ画像作成処理に使用すると判定された観察画像を含む、前記観察画像を組み合わせて前記マップ画像を作成し、前記第1の判定処理で前記マップ画像作成処理に使用しないと判定された観察画像を前記マップ画像作成処理に使用しないように前記撮像素子と前記画像処理装置と前記判定装置とを動作させる処理をコンピュータに実行させることを特徴とする。
本発明の一態様の観察方法は、標本の観察画像を取得し、取得した複数の前記観察画像を組み合わせてマップ画像を作成するマップ画像作成処理に、前記観察画像を使用するかどうかを判定する第1の判定処理を実行し、前記第1の判定処理で前記マップ画像作成処理に使用すると判定された観察画像を含む、前記観察画像を組み合わせて前記マップ画像を作成し、前記第1の判定処理で前記マップ画像作成処理に使用しないと判定された観察画像を前記マップ画像作成処理に使用しないことを特徴とする。
本発明によれば、マップ画像の作成に際して、適切なマップ画像を自動的に作成することができる。
第1の実施形態における顕微鏡装置の構成を示す図。 制御装置の構成例を示す図。 制御装置の機能構成を示す図。 画像処理装置(画像処理部)の処理により作成されるマップ画像を示す図。 マップ画像が作成される処理手順を示すフローチャート。 変形例におけるマップ画像作成処理の処理手順を示すフローチャート。 さらに別の変形例におけるマップ画像作成処理の処理手順を示すフローチャート。
以下、本発明の第1の実施形態における顕微鏡装置10について図面を参照しつつ説明する。図1は、顕微鏡装置10の構成を示す図である。
顕微鏡装置10は、カラー観察光学系1と、対物レンズ5と、標本Sを積載して固定するステージ6と、駆動モータ7、8と、ステージ位置検知機構9と、制御装置20とを備える。
カラー観察光学系1は、白色光源2と、カラーカメラ3と、ハーフミラー4とを備える。カラー観察光学系1を用いて観察を行う場合、白色光源2から射出される照明光を、ハーフミラー4で反射させ、対物レンズ5を介して標本Sに照射する。標本Sでの反射光が照明光と同じ光路を辿りカラーカメラ3で検出されることで、カラーの明視野観察画像が取得される。
カラーカメラ3は、標本Sからの反射光を検出し、標本Sの観察画像を取得する撮像装置である。カラーカメラ3としては、CCDカメラやCMOSイメージセンサ等が用いられる。
対物レンズ5は、駆動モータ7と接続されている。駆動モータ7は、制御装置20の制御によって作動し、対物レンズ5をその光軸方向に移動させることで照明光の合焦位置をZ軸方向に変更する。
また、顕微鏡装置10は、複数の対物レンズを備え、複数の対物レンズの中から光路上に配置して使用する対物レンズ5を切り替えることができるようなリボルバを備えていても良い。
ステージ6は、標本Sを積載して固定すると共に、駆動モータ8とステージ位置検知機構9と接続されている。
駆動モータ8は、ステージ6をX、Y、Z方向に移動させることで、照明光の照射位置をX、Y、Z方向に変更する。カラー観察光学系1を用いて観察を行うときに、駆動モータ8によるステージ6の移動により照明光の照射位置を変更することができる。
ステージ位置検知機構9は、標本Sの位置情報を検知する。ステージ位置検知機構9は例えば標本Sが設置されたステージ6に付属するスケールの値を読み取り、制御装置20へその値を位置情報として出力する。
制御装置20は、顕微鏡装置10の各構成を制御するコンピュータである。図2は、制御装置20の構成例を示している。
制御装置20は、例えば、入力インタフェース(入力IF)21、出力インタフェース(出力IF)22、記憶装置23、メモリ24、CPU25、可搬媒体駆動装置26、を備えていて、それらはバス28により互いに接続されている。
CPU25は、メモリ24を利用してプログラムを実行する。CPU25がプログラムを実行することにより、制御装置20は、顕微鏡装置10の各構成を制御する制御装置として機能する。メモリ24は、例えば、Read Only Memory(ROM)、Random Access Memory(RAM)などの半導体メモリである。記憶装置23は、例えば磁気ディスク装置であり、ハードディスクドライブであってもよい。なお、記憶装置23は、テープ装置であってもよく、フラッシュメモリなどの半導体メモリであってもよい。記憶装置23は、プログラム、観察画像データ、マップ画像データ、などを格納する。記憶装置23に格納されたプログラム、観察画像データ、及びマップ画像データは、メモリ24にロードして使用される。
可搬媒体駆動装置26は、可搬記録媒体27を駆動する装置であり、可搬記録媒体27の記録内容にアクセスする。可搬記録媒体27は、例えば、半導体デバイス(USBメモリ等)、磁気的作用により情報が入出力される媒体(磁気ディスク等)、光学的作用により情報が入出力される媒体(CD−ROM、DVD等)などである。可搬記録媒体27は、プログラム、観察画像データ、及び、マップ画像データなどを格納してもよい。可搬記録媒体27に格納されたプログラム、観察画像データ、及び、マップ画像データが、メモリ24にロードされ、使用されてもよい。
出力IF22は、観察画像データ、マップ画像データを不図示のモニタ等の表示媒体へ画像信号として出力するインタフェースである。入力IF21は、例えば、不図示の入力装置(キーボードやマウスなど)からデータを受信するインタフェースであり、観察者からの入力を受け付ける。
図3は、制御装置20の機能構成図である。制御装置20は、顕微鏡装置10の各構成を制御する制御装置であり、光源制御部31、露光制御部32、画像入出力部33、相対位置関係検出部34、画像処理部35、画質評価部36、ステージ制御部37を備えている。
光源制御部31は、白色光源2のON、OFFを制御する。また、白色光源2に使用する光源の波長の切り替え等を制御してもよい。
露光制御部32は、カラーカメラ3の露光を制御する。即ち、光源制御部31と露光制御部32の制御により、カラー観察光学系1を用いて標本Sの撮像を行う。
画像入出力部33は、カラーカメラ3からの画像信号(標本Sの観察画像データである)を受信し、不図示の表示媒体に画像データを出力する。画像入出力部33が出力する画像データは、後述する画像処理部35で作成されたマップ画像等である。
相対位置関係検出部34は、標本Sと対物レンズ5との相対位置関係を検出する。相対位置関係は、対物レンズ5に対する標本Sの相対的な位置であり、規定の座標(以下、観察座標と記す)上の位置として記録される。尚、観察座標は、X、Y、Z方向それぞれの座標情報を有していてもよいが、ここではX、Y方向の座標情報を有していればよい。相対位置関係は、ステージ位置検知機構9から位置情報を取得することで、決定される。また、相対位置関係検出部34として機能する制御装置20を相対位置関係検出装置とも表記する。
尚、相対位置関係は、取得された2枚以上の観察画像の重複領域において共通する特徴をテンプレートとして、その2枚以上の観察画像を重ねて配置するようなパターンマッチング処理を実行することで検出されてもよい。具体的には、重複部分を有する観察画像を、テンプレートを一致させるように制御装置20内の仮想的な座標上で配置することで、二つの観察画像のそれぞれの相対的位置関係が把握される。
画像処理部35は、カラーカメラ3が取得した複数の観察画像を、相対位置関係に基づいて組み合わせてマップ画像を作成するマップ画像作成処理を行う。また、画像処理部35として機能する制御装置20を画像処理装置とも表記する。図4は、画像処理部35の処理により作成されるマップ画像を示す図である。マップ画像Aは、対物レンズ5の視野範囲内で取得される観察画像である観察画像Bを複数組み合わせて作成される画像である。このようなマップ画像Aを作成することで、一枚の観察画像Bよりもはるかに広い範囲の標本Sの情報を含む画像を観察者に提供することができる。
上記のようなマップ画像は、例えば、観察画像と、相対位置関係と、相対位置関係を規定する座標系である観察座標系とマップ画像座標系との相対関係と、に基づいて作成される。このようにしてマップ画像を作成することをマップ画像作成処理、または、マップ画像の作成処理と記載する。マップ画像座標とは、観察画像を組み合わせる際に、観察画像を配置する座標系のことである。制御装置20には、予めこのマップ画像座標と観察座標とを対応させる相対関係が記憶されている。即ち、各相対位置関係で取得した観察画像をマップ画像座標と観察座標との相対関係に基づいてマップ画像座標上に配置していくことで、一つのマップ画像を作成する。
また、相対位置関係をステージ8の位置情報ではなく、パターンマッチング処理を用いて検出する場合には、例えば画像処理部36において以下のようにマップ画像の作成処理が行われる。マップ画像の作成にあたり、最初に取得した観察画像をマップ画像の座標系に配置する。その後、共通する特徴となるテンプレートが得られるような重複領域を有するように複数の観察画像を取得していき、パターンマッチング処理によりマップ画像座標上で観察画像を配置していくことで、一つのマップ画像を作成する。このようなマップ画像の作成処理では、パターンマッチング処理により観察画像を配置していく過程で、各観察画像の位置を決定する相対位置関係が検出される。
また、相対位置関係は、ステージ8の位置情報と、パターンマッチング処理を組み合わせて検出されるものとしてもよい。その場合、例えば、画像処理部36は、ステージ位置検知機構16が検知したステージ8の位置情報に基づいて相対位置関係を検出し、各相対位置関係で取得した観察画像をマップ画像座標と観察座標との相対関係に基づいてマップ画像座標上に配置していく。その後、マップ画像座標上に配置された複数の観察画像(即ちマップ画像を構成する観察画像)に対し、さらにパターンマッチング処理を実行し、複数の観察画像の相対位置関係を補正する。このようにステージ8の位置情報をもとにマップ画像座標上に観察画像を配置し、その後パターンマッチング処理を実行することで、観察画像間の位置ズレ等が補正された、より信頼性の高いマップ画像を作成することが可能となる。
また、本実施形態において行われるマップ画像作成処理では、マップ画像座標上に既に配置された観察画像(第2の観察画像とも表記する)に対応する相対位置関係において、新たに観察画像を取得した後にその観察画像を用いて、マップ画像作成処理を実行することを特徴としている。言い換えるならば、画像処理部35は、一度観察画像を配置済みのマップ画像座標上において、配置済みの観察画像(第2の観察画像)と同じ相対位置関係で取得される新たな観察画像を、配置済みの観察画像(第2の観察画像)と置き換えて配置する処理を実行する。以下では、新たに取得した観察画像を第2の観察画像と置き換えて配置することを、第2の観察画像を新たに取得した観察画像で更新する、とも記載する。即ち、画像処理部35によって行われるマップ画像作成処理では、カラーカメラ3が取得した観察画像の相対位置関係に対応するマップ画像座標系の位置に第2の観察画像が配置されていない状態で、取得した観察画像をマップ画像座標上に配置する場合(第1のマップ画像作成パターン)と、カラーカメラ3が取得した観察画像の相対位置関係に対応するマップ画像座標系の位置に第2の観察画像が配置されている状態で、取得した観察画像で第2の観察画像を更新する場合(第2のマップ画像作成パターン)、の2パターンが想定される。
画質評価部36は、カラーカメラ3が取得した観察画像を、上記の画像処理部35によるマップ画像作成処理に使用するかどうかを判定する第1の判定処理を実行する。ここでは、第1の判定処理は、対物レンズ5の視野範囲で取得された観察画像毎に行われる。また、画質評価部36として機能する制御装置20のことを判定装置とも表記する。
画質評価部36による第1の判定処理で、マップ画像作成処理に使用すると判定された観察画像を含む、カラーカメラ3で取得された観察画像については、画像処理部35によってマップ画像作成処理に使用される。つまり、画像処理部35は、それらの観察画像を組み合わされてマップ画像を作成する。一方、第1の判定処理でマップ画像作成処理に使用しないと判定された観察画像については、画像処理部35によるマップ画像作成処理に使用されない。
上記の第2のマップ画像作成パターンでは、第1の判定処理の結果、観察画像がマップ画像作成処理に使用されると判定されたとき、画像処理部35は観察画像の相対位置関係に対応するマップ画像座標系の位置に配置された第2の観察画像を新たに取得した観察画像によって更新するものとする。
また、第1の判定処理は、画質評価部36で実行される第2の判定処理、若しくは、第3の判定処理の判定結果に基づいて行われる。以下では、第2の判定処理及び第3の判定処理について説明する。
第2の判定処理は、観察画像の画質を評価する判定処理である。ここでいう画質の評価は、観察画像のコントラスト値を用いて行われる。コントラスト値は、観察画像中の各画素について、隣接画素との輝度値の差を計算し、合計した値である。隣接画素は、特定の画素に対しての縦、横方向に存在する画素であってもよく、斜め方向に存在する画素であってもよい。または、縦、横及び斜めの方向に存在する画素であってもよい。また、輝度値は、画像中の特定の色成分(例えば、RGBのうちRの成分)の輝度値を使用してもよく、グレースケールに変換した画像における輝度値を用いても構わない。第2の判定処理では、まず観察画像のコントラスト値が算出される。
そして、第2の判定処理では、観察画像のコントラスト値が特定の設定値以上であるか否かを判定することで画質を評価する。一般に、フォーカスが合っている画像のコントラスト値は、フォーカスの合っていない画像のコントラスト値に比べて高くなる。従って、特定の設定値を、フォーカスが合っており画質が良好とされるコントラスト値範囲とフォーカスが合っておらず画質に問題があるとされるコントラスト値範囲との間の閾値として設けることで、コントラスト値による画質評価を行うことができる。設定値として、使用者によってまたは予め決められた任意に設定された値が制御装置20内に記憶されている。
第2の判定処理によってコントラスト値が設定値以上であると判定された場合には、観察画像の画質が良好であるため、第1の判定処理でマップ画像作成処理に使用する画像と判定される。逆に、第2の判定処理によってコントラスト値が設定値以下であると判定された場合には、観察画像の画質に問題があるため、第1の判定処理でマップ画像作成処理に使用しない画像と判定される。
また、本実施形態では、第2の判定処理は、取得した観察画像の相対位置関係に対応するマップ画像座標系の位置に第2の観察画像が配置されていない状態で、取得した観察画像をマップ画像座標上に配置する場合(第1のマップ画像作成パターン)において、取得した観察画像に対して行われるものとする。尚、第2の判定処理は、取得した観察画像で更新する場合(第2のマップ画像作成パターン)において実行してもよいが、詳しくは後述する本実施形態の変形例で説明する。
第3の判定処理は、カラーカメラ3が取得した観察画像の相対位置関係に対応するマップ画像座標系の位置に第2の観察画像が配置されている状態で、第2の観察画像を取得した観察画像で更新する場合(第2のマップ画像作成パターン)において、行われる処理である。第3の判定処理では、カラーカメラ3が取得した観察画像と、マップ画像座標上に配置済みの第2の観察画像と、をそれぞれ画質評価し、比較するものである。
第3の判定処理における画質評価は、観察画像のコントラスト値を用いて行われる。第3の判定処理で行われる画質評価では、観察画像のコントラスト値と、既にマップ画像座標上に配置済みの第2の観察画像のコントラスト値とが算出される。コントラスト値の算出は、第2の判定処理で説明した方法と同様に実行される。
そして、第3の判定処理では、観察画像と第2の観察画像とについて、比較を行う。より詳しくは、第3の判定処理では、観察画像と第2の観察画像とでそれぞれ算出されたコントラスト値の比較を行い、どちらの画像が、一方に比べて大きいコントラスト値を有するかを判定する。
第3の判定処理によって、新たに取得した観察画像のコントラスト値が第2の観察画像のコントラスト値と比べて大きいと判定された場合には、新たに取得した観察画像の画質が既に配置済みの第2の観察画像よりも良好な画質を有する画像であるため、第1の判定処理でマップ画像作成処理に使用する画像と判定される。即ち、その場合、画像処理部35は新たに取得した観察画像の相対位置関係に対応するマップ画像座標系の位置に配置された第2の観察画像を、新たに取得した観察画像によって更新する。逆に、第3の判定処理によって新たに取得した観察画像のコントラスト値が第2の観察画像のコントラスト値と比べて小さいと判定された場合には、既に配置済みの第2の観察画像の画質の方が新たに取得した観察画像よりも良好な画質を有する画像であるため、第1の判定処理でマップ画像作成処理に使用しない画像と判定される。即ち、既に配置済みの第2の観察画像は、新たに取得された観察画像によって更新されず、配置されたままの状態となる。
以上のように、画質評価部36は、カラーカメラ3が取得した観察画像の相対位置関係に対応するマップ画像座標系の位置に第2の観察画像が配置されていない場合、第2の判定処理を実行し、カラーカメラ3が取得した観察画像の相対位置関係に対応するマップ画像座標系の位置に第2の観察画像が配置されている場合、第3の判定処理を実行するように機能する。
第2の判定処理を行うことで、設定値未満のコントラスト値の画像がマップ画像作成処理に用いられることがなくなり、コントラスト値によってマップ画像作成に用いられる観察画像の画質が保証される。
第3の判定処理を行うことで、既にマップ画像座標上に配置済みの観察画像と比較してより画質のよい観察画像が取得された場合、その観察画像によって配置済みの観察画像を置き換えるため、マップ画像における画質をより向上させることができる。
特に、新たに取得された観察画像によってマップ画像を更新する場合、新たに取得された観察画像が、既に配置済みの観察画像と比較して画質が悪い(フォーカスがずれている等)場合であっても、第3の判定処理を行うことで、画質の悪い観察画像でマップ画像が更新されてしまうことを防ぐことができる。
ステージ制御部37は、カラー観察光学系1を用いて観察画像を取得している状態で、照明光の走査を行う手段である。ステージ制御部37は、駆動モータ9を制御する。
以上の構成を有する顕微鏡装置10によって、マップ画像を作成する処理手順についてフローチャートを用いて説明する。図5は、顕微鏡装置10における制御装置20によって、マップ画像が作成される処理手順を示すフローチャートである。図5の処理は、制御装置20が、観察者からのマップ画像の作成を開始する指示を受信した後に開始される。
ステップS1では、露光制御部32によってカラーカメラ3の露光が開始され、観察画像の取得を行う。
ステップS2では、ステップS1で取得した観察画像に対応する位置情報(ステージ位置検知機構9から取得した位置情報)を用いて相対位置関係検出部34は、相対位置関係を検出する。
ステップS3では、画質評価部36は、観察座標系とマップ画像座標系との相対関係をもとに、ステップS2で取得した相対位置関係に対応するマップ画像座標系の位置に観察画像(第2の観察画像)が配置済みであるかどうかを判定する。ステップS3における判定がNo、即ち第2の観察画像が配置されていない場合、ステップS4の処理へ移行する。また、ステップS3における判定がYes、即ち第2の観察画像が配置されている場合、ステップS5の処理へ移行する。
ステップS4では、画質評価部36は、第2の判定処理を実行する。即ち、画質評価部36は、観察画像のコントラスト値を算出し、観察画像のコントラスト値が特定の設定値以上であるか否かを判定することで画質を評価する。ステップS6において、ステップS4の判定の結果、観察画像のコントラスト値が特定の設定値以上である場合、規定条件を満たすとされ、ステップS8へ移行し、観察画像のコントラスト値が特定の設定値未満である場合、規定条件を見たさないとされ、ステップS1で取得された観察画像がマップ画像作成に用いられることなく本フローチャートの処理を終了する。
ステップS8では、画像処理部35は、ステップS1で取得された観察画像をステップS2で取得された相対位置関係に基づいて、マップ画像座標上に配置する。
少し戻り、ステップS3において判定がYesとされ、ステップS5へ移行した状態を説明する。ステップS5では、画質評価部36は、第3の判定処理を実行する。即ち、画質評価部36は、ステップS1で取得された観察画像と、第2の観察画像とのコントラスト値をそれぞれ算出し、各コントラスト値の大小を比較する。ステップS7において、ステップS5の判定の結果、観察画像のコントラスト値が第2の観察画像のコントラスト値よりも大きい場合、規定条件を満たすとされ、ステップS8へ移行し、観察画像のコントラスト値が第2の観察画像のコントラスト値よりも小さい場合、規定条件を見たさないとされ、ステップS1で取得された観察画像がマップ画像作成に用いられることなく本フローチャートの処理を終了する。
以上の顕微鏡装置10によれば、マップ画像の作成に際して、適切なマップ画像を自動的に作成することができる。特に本構成では、使用者は、マップ画像を取得したい観察座標上でマップ画像作成処理を実行するように制御装置20へ入力指示するだけで自動的に画質に問題のない適切なマップ画像が作成されるため、マップ画像作成に伴う使用者の操作負担を大きく軽減することができる。
また、マップ画像作成時に使用する対物レンズ5をリボルバ等により変更する際、特に高倍率の対物レンズに変更することで対物レンズの変更前と比較してコントラスト値が低下した画質に問題のある観察画像が取得されやすい。本発明によれば、マップ画像作成時に対物レンズを変更するような場合であっても、対物レンズの変更に伴って取得され得る画質に問題のある観察画像によってマップ画像が作成、更新されてしまうことを、第2及び第3の判定処理の判定結果に基づく第1の判定処理を行うことで防ぐことができる。
以下、第1の実施形態の判定装置(画質評価部36として機能する制御装置20)において実行される処理の変形例について説明する。第1の実施形態では、画質評価部36は、カラーカメラ3が取得した観察画像の相対位置関係に対応するマップ画像座標系の位置に第2の観察画像が配置されていない場合、第2の判定処理を実行し、カラーカメラ3が取得した観察画像の相対位置関係に対応するマップ画像座標系の位置に第2の観察画像が配置されている場合、第3の判定処理を実行するものとしたが、画質評価部36の処理はこれに限られない。
本変形例では、画質評価部36は、第3の判定処理を行わず、第2の観察画像が配置済みであるかいないかに関わらず、第2の判定処理を実行するものとする。
この場合、カラーカメラ3が取得した観察画像の相対位置関係に対応するマップ画像座標系の位置に第2の観察画像が配置されている状態では、画質評価部36により、取得された観察画像について画質評価が行われる。そして、取得された観察画像が、設定値以上のコントラスト値を有していた場合、第2の観察画像を取得された観察画像で更新する。尚、カラーカメラ3が取得した観察画像の相対位置関係に対応するマップ画像座標系の位置に第2の観察画像が配置されていない状態における処理については、第1の実施形態と同様に、第2の判定処理が実行される。
以上のように、画質評価部36が第2の判定処理の判定結果のみに基づいて第1の判定処理を行うように機能する場合であっても、マップ画像の作成に際して、適切なマップ画像を自動的に作成することができる。
また、第2の判定処理に使用される設定値は、第2の観察画像が配置されている状態と第2の観察画像が配置されていない状態とで、異なる設定値を使用しても構わない。例えば、第2の観察画像が配置されている状態に使用する設定値を、第2の観察画像が配置されていない状態で使用する設定値よりも高いコントラスト値に相当するように設定してもよい。即ち、第2の観察画像が配置済みの領域については、より高い画質を有する観察画像によって更新されることとなり、既に配置済みの第2の観察画像とそこまで画質が変わらない観察画像による不要な更新を回避することができる。
また、第1の実施形態では、第1の判定処理は対物レンズ5の視野範囲で取得された観察画像毎に行われるものとしたが、これに限られない。例えば本変形例では、第1の判定処理は、対物レンズ5の視野範囲で取得された観察画像をさらに複数の領域に分割した観察画像毎に行うものとしてもよい。分割する領域の大きさは、ピクセル単位であってもよく、1ピクセル毎にコントラスト値を判定し(第2の判定処理)、1ピクセル毎にマップ画像座標系上に配置された第2の観察画像との置き換えや、配置を実行しても構わない。このようにすれば、マップ画像中のより小さな単位で、第2の判定処理が実行されるため、更なる画質の向上を図ることができる。
以上の変形例における、マップ画像を作成する処理手順についてフローチャートを用いて説明する。図6は、変形例におけるマップ画像作成処理の処理手順を示すフローチャートである。図6の処理は、制御装置20が、観察者からのマップ画像の作成を開始する指示を受信した後に開始される。
ステップS11、S12は、図5のフローチャートのステップS1、S2と同様である。ステップS11、S12によって観察画像と、その観察画像に対応する相対位置関係が取得されると、ステップS13へ移行する。
ステップS13では、画質評価部36は、第2の判定処理を実行する。即ち、画質評価部36は、観察画像のコントラスト値を算出し、観察画像のコントラスト値が特定の設定値以上であるか否かを判定することで画質を評価する。
ステップS14において、ステップS13の判定の結果、観察画像のコントラスト値が特定の設定値以上である場合、規定条件を満たすとされ、ステップS15へ移行し、観察画像のコントラスト値が特定の設定値未満である場合、規定条件を見たさないとされ、ステップS11で取得された観察画像がマップ画像作成に用いられることなく本フローチャートの処理を終了する。
ステップS15では、画像処理部35は、ステップS1で取得された観察画像をステップS2で取得された相対位置関係に基づいて、マップ画像座標上に配置する。
以下、第1の実施形態の判定装置(画質評価部36として機能する制御装置20)において実行される処理の、さらに他の変形例について説明する。本変形例では、画質評価部36は、第2の判定処理を行わない。より詳しくは、カラーカメラ3が取得した観察画像の相対位置関係に対応するマップ画像座標系の位置に第2の観察画像が配置されていない状態で、取得した観察画像をマップ画像座標上に配置する場合(第1のマップ画像作成パターン)では、画質評価部36による判定処理を実行せず、画像処理部35は、カラーカメラ3が取得した観察画像を無条件でマップ画像座標系に配置する点が、第1の実施形態での処理と異なる。尚、カラーカメラ3が取得した観察画像の相対位置関係に対応するマップ画像座標系の位置に第2の観察画像が配置されている状態で、取得した観察画像をマップ画像座標上に配置する場合(第2のマップ画像作成パターン)については、第1の実施形態と同様に第3の判定処理が実行される。
以上のように、画質評価部36が第3の判定処理の判定結果のみに基づいて第1の判定処理を行うように機能する場合であっても、マップ画像の作成に際して、適切なマップ画像を自動的に作成することができる。
以上の変形例における、マップ画像を作成する処理手順についてフローチャートを用いて説明する。図7は、本変形例におけるマップ画像作成処理の処理手順を示すフローチャートである。図7の処理は、制御装置20が、観察者からのマップ画像の作成を開始する指示を受信した後に開始される。
ステップS21、S22は、図5のフローチャートのステップS1、S2と同様である。ステップS21、S22によって観察画像と、その観察画像に対応する相対位置関係が取得されると、ステップS23へ移行する。
ステップS23では、画質評価部36は、観察座標系とマップ画像座標系との相対関係をもとに、ステップS22で取得した相対位置関係に対応するマップ画像座標系の位置に観察画像(第2の観察画像)が配置済みであるかどうかを判定する。ステップS23における判定がNo、即ち第2の観察画像が配置されていない場合、ステップS26へ移行し、ステップS21で取得した観察画像を、ステップS22で取得した相対位置関係に基づき、マップ画像座標系に配置する。また、ステップS23における判定がYes、即ち第2の観察画像が配置されている場合、ステップS24の処理へ移行する。
ステップS24の処理及びステップS25の処理は、ステップS5、7の処理と同様である。
上述した実施形態は、発明の理解を容易にするために具体例を示したものであり、本発明はこれらの実施形態に限定されるものではない。上述した顕微鏡装置、及び、プログラム、及び、観察方法は、特許請求の範囲に記載した本発明を逸脱しない範囲において、さまざまな変形、変更が可能である。
10 顕微鏡装置
1 カラー光学系
2 白色光源
3 カラーカメラ
4 ハーフミラー
5 対物レンズ
6 ステージ
7 駆動モータ
8 駆動モータ
9 ステージ位置検知機構
20 制御装置
21 入力IF
22 出力IF
23 記憶装置
24 メモリ
25 CPU
26 可搬記憶媒体駆動装置
27 可搬記憶媒体
28 バス
31 光源制御部
32 露光制御部
33 画像入出力部
34 相対位置関係検出部
35 画像処理部
36 画質評価部
37 ステージ制御部
A マップ画像
B 観察画像
S 標本S

Claims (12)

  1. 標本の観察画像を取得する撮像装置と、
    前記撮像装置が取得した複数の前記観察画像を組み合わせてマップ画像を作成するマップ画像作成処理を実行する画像処理装置と、
    前記観察画像を前記マップ画像作成処理に使用するかどうかを判定する第1の判定処理を実行する判定装置と、を備え、
    前記画像処理装置は、前記第1の判定処理で前記マップ画像作成処理に使用すると判定された観察画像を含む、前記観察画像を組み合わせて前記マップ画像を作成し、前記第1の判定処理で前記マップ画像作成処理に使用しないと判定された観察画像を前記マップ画像作成処理に使用しない
    ことを特徴とする顕微鏡装置。
  2. 請求項1に記載の顕微鏡装置であって、
    前記判定装置は、前記観察画像の画質を評価する第2の判定処理の結果に基づき前記第1の判定処理を行なう
    ことを特徴とする顕微鏡装置。
  3. 請求項2に記載の顕微鏡装置であって、さらに、
    対物レンズと、
    前記標本と前記対物レンズとの相対位置関係を検出する相対位置関係検出装置と、を備え、
    前記画像処理装置は、前記相対位置関係と、前記相対位置関係を規定する座標系である観察座標系とマップ画像座標系との相対関係と、に基づいて前記観察画像を前記マップ画像座標系上に配置していくことで前記マップ画像作成処理を実行する
    ことを特徴とする顕微鏡装置。
  4. 請求項3に記載の顕微鏡装置であって、
    前記画像処理装置は、前記撮像装置が取得した前記観察画像の相対位置関係に対応する前記マップ画像座標系の位置に第2の観察画像が配置されている場合に、前記判定装置によって前記第1の判定処理の結果、前記観察画像を前記マップ画像作成処理に使用すると判定されたとき、前記観察画像の相対位置関係に対応する前記マップ画像座標系の位置に配置された前記第2の観察画像を前記観察画像で更新する
    ことを特徴とする顕微鏡装置。
  5. 請求項4に記載の顕微鏡装置であって、
    前記判定装置は、前記撮像装置が取得した前記観察画像と、前記第2の観察画像と、をそれぞれ画質評価し、比較する第3の判定処理の結果に基づき前記第1の判定処理を行なう
    ことを特徴とする顕微鏡装置。
  6. 請求項5に記載の顕微鏡装置であって、
    前記判定装置は、
    前記撮像装置が取得した前記観察画像の相対位置関係に対応する前記マップ画像座標系の位置に前記第2の観察画像が配置されていない場合、前記第2の判定処理を実行し、
    前記撮像装置が取得した前記観察画像の相対位置関係に対応する前記マップ画像座標系の位置に前記第2の観察画像が配置されている場合、前記第3の判定処理を実行する
    ことを特徴とする顕微鏡装置。
  7. 請求項3乃至請求項6のいずれか1項に記載の顕微鏡装置であって、
    前記第1の判定処理は、前記対物レンズの視野範囲で取得された前記観察画像毎に実行される
    ことを特徴とする顕微鏡装置。
  8. 請求項3乃至請求項6のいずれか1項に記載の顕微鏡装置であって、
    前記第1の判定処理は、前記対物レンズの視野範囲で取得された前記観察画像をさらに複数の領域に分割した観察画像毎に実行される
    ことを特徴とする顕微鏡装置。
  9. 請求項2乃至請求項8のいずれか1項に記載の顕微鏡装置であって、
    前記判定装置は、前記第2の判定処理における前記観察画像の画質の評価を、コントラスト値を用いて行う
    ことを特徴とする顕微鏡装置。
  10. 請求項5乃至請求項8のいずれか1項に記載の顕微鏡装置であって、
    前記判定装置は、前記第3の判定処理における前記観察画像の画質の評価を、コントラスト値を用いて行う
    ことを特徴とする顕微鏡装置。
  11. 撮像装置が標本の観察画像を取得し、
    画像処理装置が、前記撮像装置が取得した複数の前記観察画像を組み合わせてマップ画像を作成するマップ画像作成処理を実行し、
    判定装置が前記観察画像を前記マップ画像作成処理に使用するかどうかを判定する第1の判定処理を実行し、
    前記画像処理装置は、前記第1の判定処理で前記マップ画像作成処理に使用すると判定された観察画像を含む、前記観察画像を組み合わせて前記マップ画像を作成し、前記第1の判定処理で前記マップ画像作成処理に使用しないと判定された観察画像を前記マップ画像作成処理に使用しない
    ように前記撮像素子と前記画像処理装置と前記判定装置とを動作させる処理をコンピュータに実行させることを特徴とするプログラム。
  12. 標本の観察画像を取得し、
    取得した複数の前記観察画像を組み合わせてマップ画像を作成するマップ画像作成処理に、前記観察画像を使用するかどうかを判定する第1の判定処理を実行し、
    前記第1の判定処理で前記マップ画像作成処理に使用すると判定された観察画像を含む、前記観察画像を組み合わせて前記マップ画像を作成し、前記第1の判定処理で前記マップ画像作成処理に使用しないと判定された観察画像を前記マップ画像作成処理に使用しない
    ことを特徴とする観察方法。

JP2016247805A 2016-12-21 2016-12-21 顕微鏡装置、プログラム、観察方法 Pending JP2018101091A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016247805A JP2018101091A (ja) 2016-12-21 2016-12-21 顕微鏡装置、プログラム、観察方法
US15/822,959 US20180172975A1 (en) 2016-12-21 2017-11-27 Microscope device, storage medium and observation method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016247805A JP2018101091A (ja) 2016-12-21 2016-12-21 顕微鏡装置、プログラム、観察方法

Publications (1)

Publication Number Publication Date
JP2018101091A true JP2018101091A (ja) 2018-06-28

Family

ID=62562415

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016247805A Pending JP2018101091A (ja) 2016-12-21 2016-12-21 顕微鏡装置、プログラム、観察方法

Country Status (2)

Country Link
US (1) US20180172975A1 (ja)
JP (1) JP2018101091A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023012844A (ja) * 2021-07-14 2023-01-26 株式会社日立ハイテク 試料観察装置、試料観察方法、およびコンピュータシステム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007058222A (ja) * 2004-08-31 2007-03-08 Trestle Acquisition Corp 顕微鏡スライドの拡大イメージを作成するシステム及び方法
JP2011186305A (ja) * 2010-03-10 2011-09-22 Olympus Corp バーチャルスライド作成装置
JP2012013996A (ja) * 2010-07-01 2012-01-19 Sony Corp 情報処理装置、ステージうねり補正方法、プログラム
JP2016125913A (ja) * 2015-01-05 2016-07-11 キヤノン株式会社 画像取得装置及び画像取得装置の制御方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5732353B2 (ja) * 2011-08-31 2015-06-10 株式会社キーエンス 拡大観察装置、拡大観察方法および拡大観察プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007058222A (ja) * 2004-08-31 2007-03-08 Trestle Acquisition Corp 顕微鏡スライドの拡大イメージを作成するシステム及び方法
JP2011186305A (ja) * 2010-03-10 2011-09-22 Olympus Corp バーチャルスライド作成装置
JP2012013996A (ja) * 2010-07-01 2012-01-19 Sony Corp 情報処理装置、ステージうねり補正方法、プログラム
JP2016125913A (ja) * 2015-01-05 2016-07-11 キヤノン株式会社 画像取得装置及び画像取得装置の制御方法

Also Published As

Publication number Publication date
US20180172975A1 (en) 2018-06-21

Similar Documents

Publication Publication Date Title
JP6825625B2 (ja) 画像処理装置および画像処理装置の作動方法、並びに医療用撮像システム
JP5311143B2 (ja) 測定装置および方法、並びに、プログラム
CN107690595A (zh) 用于借助以不同的照明角度进行照明来图像记录的设备和方法
US7869706B2 (en) Shooting apparatus for a microscope
WO2020066042A1 (ja) 顕微鏡システム、投影ユニット、及び、画像投影方法
US8368764B2 (en) Digital photographing apparatus and method for controlling the same
JP2009111716A (ja) 撮像装置、プログラムおよびテンプレート生成方法
JP4709762B2 (ja) 画像処理装置及び方法
JP4477863B2 (ja) 細胞計測支援システムおよび細胞観察装置
US9979858B2 (en) Image processing apparatus, image processing method and program
JP2018101091A (ja) 顕微鏡装置、プログラム、観察方法
JP6563517B2 (ja) 顕微鏡観察システム、顕微鏡観察方法、及び顕微鏡観察プログラム
JP2012042525A (ja) 3次元形状測定装置およびプログラム
KR102157450B1 (ko) 관찰 장치 및 방법과, 관찰 장치 제어 프로그램
JP5019279B2 (ja) 共焦点顕微鏡及び合焦カラー画像の生成方法
JP5718012B2 (ja) 走査型レーザ顕微鏡
US20180164570A1 (en) Microscope device, storage medium and observation method
WO2017072860A1 (ja) 撮像装置、内視鏡装置及び撮像装置の作動方法
WO2019044416A1 (ja) 撮影処理装置、撮影処理装置の制御方法および撮影処理プログラム
JP5593913B2 (ja) 画像生成装置、画像生成プログラム、及び画像生成方法
JP7087984B2 (ja) 撮像システムおよび設定装置
JP2019045938A (ja) 画像処理装置、設定支援方法、および設定支援プログラム
JP4792208B2 (ja) 顕微鏡装置、画像表示方法および画像表示プログラム
JP6284428B2 (ja) 顕微鏡システム
JP2018116197A (ja) 顕微鏡システム、貼り合わせ画像生成プログラム、及び貼り合わせ画像生成方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190917

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190917

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200804

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201005

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201225

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210224