JP5006062B2 - バーチャルスライド作成装置、バーチャルスライド作成方法およびバーチャルスライド作成プログラム - Google Patents

バーチャルスライド作成装置、バーチャルスライド作成方法およびバーチャルスライド作成プログラム Download PDF

Info

Publication number
JP5006062B2
JP5006062B2 JP2007026088A JP2007026088A JP5006062B2 JP 5006062 B2 JP5006062 B2 JP 5006062B2 JP 2007026088 A JP2007026088 A JP 2007026088A JP 2007026088 A JP2007026088 A JP 2007026088A JP 5006062 B2 JP5006062 B2 JP 5006062B2
Authority
JP
Japan
Prior art keywords
image
observation
mesh
microscope
dic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007026088A
Other languages
English (en)
Other versions
JP2008191427A (ja
Inventor
哲也 城田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2007026088A priority Critical patent/JP5006062B2/ja
Priority to US12/011,355 priority patent/US8000560B2/en
Publication of JP2008191427A publication Critical patent/JP2008191427A/ja
Application granted granted Critical
Publication of JP5006062B2 publication Critical patent/JP5006062B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/693Acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/16Image acquisition using multiple overlapping images; Image stitching

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Microscoopes, Condenser (AREA)
  • Image Processing (AREA)

Description

本発明は、高倍率で撮像した顕微鏡画像を貼り合わせた、いわゆるバーチャルスライドを作成するためのバーチャルスライド作成装置、バーチャルスライド作成方法およびバーチャルスライド作成プログラムに関し、特に、高品質なバーチャルスライドを迅速に作成することが可能なバーチャルスライド作成装置、バーチャルスライド作成方法およびバーチャルスライド作成プログラムに関する。
従来、顕微鏡を用いて観察体を観察する場合、一度に観察できる範囲(観察範囲)は主に対物レンズの倍率によって決定される。ここで、高倍率の対物レンズを使用するとその観察範囲は観察体のごく一部分に限られてくる。ところが、例えば細胞や組織診といった病理診断においては、診断箇所の見落としを防止するために観察体の全体像を把握したいという要請がある。
また、情報処理技術の発達により、このような病理診断においても画像の電子情報化が促進されており、ビデオカメラ等を介して取り込む顕微鏡観察像についても旧来の銀塩フィルム並の高い解像度を得たいという要請がある。
これらの要望を実現するために、従来技術においては、予め観察体の画像を小区画に分割し、当該小区画に対応する観察体の部分を高解像度の対物レンズで撮像し、得られた小区画毎の顕微鏡画像を貼り合わせることにより、観察体の画像を再構築するシステムが開示されている(例えば、特許文献1、特許文献2参照。)。このような、いわゆるバーチャル顕微鏡システムを用いれば、実際に観察体が存在しない環境でも観察体の顕微鏡観察を行なうことができ、また、画像処理技術の利用により、観察体を実体観察する行為と同様の、以下のような観察を行なうことができる。
すなわち、まず、低倍観察時には、例えば貼り合わせた顕徴鏡画像を縮小表示することで広画角の画像を提供する一方で、高倍観察時には、小区画毎に撮像された部分画像を表示することで高い解像度を提供する。また、観察者によるX−Y方向操作(光軸に対して垂直な面上での水平方向の移動操作)に対応させて表示中の顕微鏡画像の表示範囲を移動させる。
このようなシステムでは、時間の制約にとらわれることなく観察体の診断が可能であり、また、顕微鏡画像を表している画像データを複数の診断者で共有しておくことにより、同時に複数の診断者が例え異なる場所に在っても同一観察体の別々の場所を観察することができる。
また、観察体の実体を使用してX−Y方向操作をしながら観察を行なう際には、観察体の傾きなどにより生じるピントずれを補正しなければならないが、上述したようなシステムでは、常にピントがあった状態で観察を続けることができるため、観察効率が高まり、ピントずれによる観察漏れも減り、それだけ診断の信頼性も高くなる。
また、例えば病理診断者への教育の際において、従来では同一の観察体を複数作成して観察実習等の教育を行なう必要があったのに対し、上述したようなシステムによれば、画像データを共有化できる利点を活かし、同一の観察体画像を用いた教育が可能となる。
更に、スライドガラスに封入した実体の観察体は、色褪せを生じさせてしまったり破損させてしまったりした場合には同じ状態のものを復元することは極めて困難であるが、画像データはバックアップが可能であるので、上述したようなシステムでは、同じ状態の観察体をいつでもどこででも観察することができる。
以上のように、バーチャル顕微鏡システムは、観察体の実体を用いる顕微鏡観察に対して、効率的であって高精度であり、高い信頼性を有している。
特開平9−281405号公報 特表2002−514319号公報
上述のような技術では、小区画毎の顕微鏡画像を貼り合わせる(繋ぎ合わせ)場合において、従来技術のようにあらかじめ重複領域(オーバーラップ領域)を設けて撮像し、お互いに貼り合わせる画像間のオーバーラップ領域から、画像マッチング等の演算で画像の貼り合わせを行なうための座標を算出し、貼り合わせを行なっていた。
しかしながら、従来のバーチャル顕微鏡システムにおいては、同一標本(観察体)であっても複数の検鏡方法の画像を撮像する場合、検鏡方法毎にそれぞれの画像においてオーバーラップ領域から画像貼り合わせ情報の演算を行なっていたために、非常に時間がかかってしまうという問題点があった。
また、特に蛍光画像における観察体の撮像を行なう場合、画像貼り合わせ情報を算出するためのオーバーラップ領域の画像が非常に暗いために画像情報ノイズ成分が多く含まれてしまい、画像貼り合わせ情報の算出の精度が低くなってしまうという問題があった。
さらに、蛍光画像においては、貼り合わせ時に画像貼り合わせ情報を算出するためのオーバーラップ領域に余計に照明光をあてることのために、観察体の退色をまねいてしまうという問題も生じていた。
本発明は、上記問題点に鑑みてなされたものであり、予め観察体を撮像し、画像をつなぎ合わせることによって観察体の画像を再構築するシステム、いわゆるバーチャル顕微鏡システムにおいて、複数の検鏡方法における画像貼り合わせ演算の短縮をはかり、特に蛍光観察画像の撮像においても退色の防止と高品質な画像の取得が可能な顕微鏡システムを提供することを目的とする。
本発明は、上記課題を解決するため、下記のような構成を採用した。
すなわち、本発明の一態様によれば、本発明のバーチャルスライド作成装置は、顕微鏡で観察する同一観察体を複数の検鏡方法で、各検鏡方法毎に撮像した複数の観察画像を重複領域を設けて貼り合せることにより各検鏡方法毎のバーチャルスライドを作成するバーチャルスライド作成装置であって、第1の観察方法により撮像した複数の観察画像から前記重複領域に関する画像貼り合わせ情報を算出する画像貼り合わせ情報算出手段と、前記画像貼り合わせ情報算出手段によって算出された画像貼り合わせ情報に基づいて、蛍光観察方法により撮像した複数の画像領域を貼り合わせる画像貼り合わせ手段と、前記蛍光観察方法の場合、前記重複する領域を前記照明範囲から外すように照明光を制御するための照明光制御手段とを備えることを特徴とする。
本発明によれば、予め観察体を高解像レンズで撮像し、画像をつなぎ合わせることにより、観察体の画像を再構築するシステム、いわゆるバーチャル顕微鏡システムにおいて、処理速度の向上と特に蛍光画像取得において、貼り合わせ精度の向上と退色の防止をはかることが可能となり、高品質な、高解像度の蛍光観察画像取得が可能な顕微鏡システムを提供することができる。
以下、本発明を適用した実施の形態について図面を参照しながら説明する。
(第1の実施の形態)
図1は、本発明を適用した第1の実施の形態に係る顕微鏡システムの構成例を示す図である。
図1において、顕微鏡装置1は、透過観察用光学系として、透過照明用光源6と、透過照明用光源6の照明光を集光するコレクタレンズ7と、透過用フィルタユニット8と、透過視野絞り9と、透過開口絞り10と、コンデンサ光学素子ユニット11と、トップレンズユニット12とを備えている。また、落射観察光学系として、落射照明用光源13と、コレクタレンズ14と、落射用フィルタユニット15と、落射シャッタ16と、落射視野絞り17と、落射開口絞り18とを備えている。
また、これらの透過観察用光学系の光路と落射観察用光学系の光路とが重なる観察光路上には、上下左右各方向に移動可能な電動ステージ20が備えられ、その電動ステージ20上には観察体19が載置されている。この電動ステージ20の移動の制御は、ステージX−Y駆動制御部21とステージZ駆動制御部22とによって行われる。なお、電動ステージ20は原点センサによる原点検出機能(不図示)を有しており、電動ステージ20に載置した観察体19の各部に対して座標を設定することができる。
また、観察光路上には、複数装着された対物レンズ23a、23b、・・・(以下、必要に応じて「対物レンズ23」と総称する)から観察に使用するものを回転動作により選択するレボルバ24と、検鏡法を切り替えるためのキューブユニット25と、観察光路を接眼レンズ26側とビデオカメラ3側とに分岐するビームスプリッタ27とが備えられている。
更に、微分干渉観察用のポラライザー28、DIC(Differential Interference Contrast)プリズム29、及びアナライザー30は観察光路に挿入可能となっている。
なお、これらの各ユニットは電動化されており、その動作は後述する顕微鏡コントローラ31によって制御される。
ホストシステム2に接続された顕微鏡コントローラ31は、顕微鏡装置1全体の動作を制御する機能を有するものであり、ホストシステム2からの制御信号に応じ、検鏡法の変更、透過照明用光源6及び落射照明用光源13の調光を行なうと共に、現在の顕微鏡装置1による現在の検鏡状態をホストシステム2へ送出する機能を有している。
また、顕微鏡コントローラ31は、ステージX−Y駆動制御部21及びステージZ駆動制御部22にも接続されており、電動ステージ20の制御もホストシステム2で行なうことができる。
ビデオカメラ3内の撮像素子であるCCDによって撮像された観察体19の顕微鏡画像は、ビデオボード32を介してホストシステム2に取り込まれる。
ホストシステム2は、ビデオカメラ3に対して、自動ゲイン制御のON/OFF、ゲイン設定、自動露出制御のON/OFF、及び露光時間の設定を、カメラコントローラ33を介して行なうことができる。また、ホストシステム2は、ビデオカメラ3から送られてきた顕微鏡画像を、画像データファイルとして画像データ記録部4に保存することができる。画像データ記録部4に記録された画像データはホストシステム2によって読み出され、当該画像データで表わされている顕微鏡画像を、モニター5で表示させることができる。更に、ホストシステム2は、ビデオカメラ3によって撮像された画像のコントラストに基づいて合焦動作を行なう、いわゆるビデオAF機能も提供し、ビデオAF機能によって得られた合焦位置の座標を画像貼り合わせ情報記録部35に記録を行なう機能も有している。
重複領域設定部34は、複数の区分における撮像の重なり領域を設定し、顕微鏡装置1に接続されたホストシステム2が、観察体19を複数の区画に分割し、小区画の重複領域から画像を単一画像に貼り合わせを行なう。
なお、ホストシステム2は、制御プログラムの実行によって顕微鏡システム全体の動作制御を司るCPU(中央演算装置)、このCPUが必要に応じてワークメモリとして使用するメインメモリ、マウスやキーボードなどといったユーザからの各種の指示を取得するための入力部、この顕微鏡システムの各構成要素との間で各種データの授受を管理するインタフェースユニット、及び各種のプログラムやデータを記憶しておく、例えばハードディスク装置などの補助記憶装置を有している、ごく標準的な構成のコンピュータである。
次に、上述のように構成された第1の実施の形態における顕微鏡システムの動作について説明する。
本第1の実施の形態では、第一の検鏡方法として微分干渉観察(DIC)を、第二の検鏡方法として蛍光観察(FL)を選択し、この2つの検鏡方法における観察画像の貼り合わせを行なう場合について説明する。
図2は、第1の実施の形態のホストシステム2によって実行される顕微鏡画像データ取得処理の流れを示すフローチャートである。
この顕微鏡画像データ取得処理は、図1に示した顕微鏡システムで観察体19についての顕微鏡画像データの取得を行なうための処理であり、ホストシステム2のCPUが所定の制御プログラムを実行することによって実現され、開始される。
まず、ステップS101において、全体画像の撮像を行なう際の対物レンズ23の倍率の設定と、貼り合わせを行なう画像の撮像を行なう際の対物レンズ23の倍率の設定を行なう。ここではそれぞれ5倍の対物レンズ23aと20倍の対物レンズ23bを選択したものとし、すなわち、20倍の対物レンズ23bで撮像された顕微鏡画像の貼り合わせを行なうものとする。
続いてステップS102において、20倍の対物レンズ23bの画像の貼り合わせにおいて、あらかじめ重複領域(オーバーラップ領域)を設けて撮像し、お互いに貼り合わせる画像間のオーバーラップ領域から、画像マッチング等の演算で画像の貼り合わせを行なうための座標の演算を行なうための領域である重複領域設定の設定を行なう。
図3は、撮像領域と重複領域との関係を示す図である。
図3において、S_Aの範囲が重複領域を含んだ形の20倍の対物レンズ23bにおけるビデオカメラ3内の撮像素子(CCD)による撮像範囲を示したものであり、斜線で示した領域が画像貼り合わせにおけるオーバーラップ領域である重複領域となる。すなわち、重複領域を除いたS_Bの大きさが、貼り合わせ画像における分割エリアの最少単位である小区画(メッシュ)の大きさとなり、図2のステップS103において、このメッシュサイズが設定される。なお、本第1の実施の形態では貼り合わせにおける重複領域はそれぞれs_x、s_yの長さで規定されているものとする。
図2の説明に戻る。
続いてステップS104において、観察体19の観察における検鏡法の指示をユーザから取得する処理が行われる。ここでは検鏡方法は第一の検鏡方法として微分干渉観察(DIC)方法、第二の検鏡方法は蛍光観察(FL)方法が指示されたものとする。
そして、ステップS105において、顕微鏡コントローラ31に対して、顕微鏡装置1の設定をステップS104の処理で設定した第一の検鏡方法へと変更させる処理が行われる。顕微鏡コントローラ31は、この指示に応じ、顕微鏡装置1の各構成要素の動作制御を行って当該検鏡法での撮像を行なうための状態とする。ここでは微分干渉観察用のポラライザー28、DICプリズム29、アナライザー30の観察光路への挿入等、各構成要素の動作制御を行なう事によって顕微鏡装置1を微分干渉観察(DIC)での撮像を行なうための状態とする。
次に、ステップS106において、顕微鏡コントローラ31へ指示を与え、レボルバ24を回転させて5倍の対物レンズ23aを選択させる処理が行われる。
続いて、ステップS107において、カメラコントローラ33へ指示を与えることにより、観察体19の全体像をビデオカメラ3で撮像させる処理が行われ、ステップS108において、当該撮像によって得られた低解像度の顕微鏡画像をビデオカメラ3からホストシステム2へビデオボード32を介して取り込む処理が行われる。
そして、ステップS109において、この顕微鏡画像データ取得処理が開始された後に、5倍の対物レンズ23aを用いて撮像された低解像度の顕微鏡画像に対し、ステップS103で定義された20倍の対物レンズ23bを用いた観察体19の撮像時における小区画(メッシュ)を定義する処理が行われる。
図4は、メッシュの定義を説明するための図である。
図2のステップS109でのメッシュ定義は、例えば、図4に示すように、3×4(3行4列)の矩形のメッシュを定義するものとする。さらに、微分干渉観察(DIC)画像と後記する蛍光観察(FL)画像とを区別するために、図4中の左上のものをメッシュ111、右下のものをメッシュ431とする。
図2の説明に戻る。
続くステップS110において、定義されたメッシュによって分割された低解像度の顕微鏡画像の各部分領域に観察体19の部分の画像が含まれているかを判別して、20倍の対物レンズ23bを用いた撮像を行なう対象のメッシュと撮像経路を決定する処理が行われる。なお、この判別は、例えば、隣接画素の差分を算出することによって得られる観察体19の輪郭像(コントラスト像)の有無や、各メッシュの画像の色彩などに基づいて行なうことができ、本第1の実施の形態では、すべてのメッシュが選択させたものとする。
図5は、撮像を行なう対象のメッシュと撮像経路を決定する処理を説明するための図である。
図5に示すように、図2のステップS111では、20倍の対物レンズ23bを用いた撮像を行なう対象のメッシュと撮像経路(左上のメッシュから右方向へ、そして、次の行の左から右へ、最後の行の左から右へ)とが決定される。
図2の説明に戻る。
ステップSlllにおいて、顕微鏡コントローラ31へ指示を与えることにより、レボルバ24を回転させて20倍の対物レンズ23bを選択させる処理が行われる。
そして、ステップS112において、顕微鏡コントローラ31へ指示を与えることにより、ステップS110の処理によって決定された高解像度撮像対象のメッシュのうち、未撮像であるメッシュの領域に20倍の対物レンズ23bの直下に位置するように電動ステージ20を移動させる処理が行われる。ここでは図5におけるメッシュ111(DIC)への移動が行なわれる事となる。
次に、ステップSl13において、後述するステップS119の処理で蛍光観察(FL)に変更されている場合は、顕微鏡コントローラ31へ指示を与えることにより、顕微鏡装置1の設定を微分干渉観察(DIC)状態へと変更を行なう。
次に、Sl14において、ビデオカメラ3を用いて、ステップSl12で移動したメッシュ位置であるメッシュ111(DIC)における観察体19の撮像が行なわれる。
図6は、観察体19における微分干渉観察(DIC)画像におけるメッシュ位置の関係を示す図であり、図7は、観察体19の蛍光観察(FL)画像におけるメッシュ位置の関係を示す図である。
図6及び図7において、メッシュ111(DIC)とメッシュ112(FL)とが、メッシュ211(DIC)とメッシュ212(FL)とが、それぞれ検鏡方法のみ異なる同一座標の関係となっている。
図2の説明に戻る。
次のステップSl15からSl18までは貼り合わせ処理であるため、撮像された画像がまだ1つの場合はスキップする。この貼り合わせ処理については後述する。
統いてステップSl19において、顕微鏡コントローラ31へ指示を与えることにより、顕微鏡装置1の各構成要素の動作制御を行って顕微鏡装置1を蛍光観察(FL)にての撮像を行なうための状態とする。
そして、ステップS120において、図7のメッシュ112(FL)位置における観察体19の顕微鏡画像の撮像が行なわれる。
次のステップSl21からSl23までは貼り合わせ処理であるため、撮像された画像がまだ1つの場合はスキップする。この貼り合わせ処理については後述する。
そして、ステップS124において、未撮像のメッシュが残っているかの判定を行ない、残っている場合(ステップS124:Yes)は、次のメッシュに対してステップ112以降のメッシュの撮像及び貼り合わせ処理を、設定された全てのメッシュの撮像及び貼り合わせ処理が終了するまで繰り返す。すなわち、メッシュ111(DIC)、メッシュ112(FL)、メッシュ211(DIC)、メッシュ212(FL)、メッシュ311(DIC)、メッシュ312(FL)・・・と撮像が進められていくことになる。
続いて、上述でスキップした貼り合わせ処理について、図6のメッシュ111(DIC)とメッシュ211(DIC)、図7のメッシュ112(FL)とメッシュ212(FL)を用いて説明する。
図8は、図6におけるメッシュ111(DIC)を撮像した画像を示す図であり、図9は、図6におけるメッシュ211(DIC)を撮像した画像を示す図であり、図10は、画像マッチングしたメッシュ111(DIC)を撮像した画像とメッシュ211(DIC)を撮像した画像を示す図であり、図11は、貼り合わせ処理後のメッシュ111(DIC)を撮像した画像とメッシュ211(DIC)を撮像した画像を示す図である。また、図12は、図7におけるメッシュ112(FL)を撮像した画像を示す図であり、図13は、図7におけるメッシュ212(FL)を撮像した画像を示す図であり、図14は、画像マッチングしたメッシュ112(FL)を撮像した画像とメッシュ212(FL)を撮像した画像を示す図であり、図15は、貼り合わせ処理後のメッシュ112(FL)を撮像した画像とメッシュ212(FL)を撮像した画像を示す図である。
図2のステップSl14でメッシュ211(DIC)を撮像後、既に撮像されたメッシュ111(DIC)にそのまま貼り合わせを行なっても、電動ステージ20のガタ等により、貼り合わせ画像にずれが生じてしまう。そこで、ステップSl15において、メッシュ111(DIC)に、メッシュ211(DIC)を貼り合わせるため画像貼り合わせ情報である、画像貼り合わせ情報の演算が実行される。すなわち、メッシュ211(DIC)のPの位置の座標の演算が行なわれることとなる。この座標演算はホストシステム2によって、図8および図9に斜線で示した重複領域において、いわゆる画像マッチング法により行なわれるものである。この座標演算により、図10に示すように、メッシュ211のPにおける画像貼り合わせ座標(x_p、y_p)が算出される。
次に、ステップSl16において、ステップS115で算出された画像貼り合わせ座標(x_p、y_p)をもとに、同じくホストシステム2によって、図11に示すようにメッシュ111(DIC)に対するメッシュ211(DIC)貼り合わせ処理を行ない、さらにステップSl17において、画像データ記録部4に微分干渉観察の貼り合わせ画像の記録を行なう。そして、ステップSl18において、画像貼り合わせ座標(x_p、y_p)を画像貼り合わせ情報記録部35に記録する。
次に、蛍光画像のメッシュ112(FL)とメッシュ212(FL)の貼り合わせ処理について説明を行なう。
ステップS118で画像貼り合わせ座標x_p、y_pを画像貼り合わせ情報記録部35に記録した後、ステップSl19で蛍光観察に切り替えを行ない、ステップS120でメッシュ212(FL)の撮像を行なう。そして、メッシュ212(FL)の撮像終了後、メッシュ112(FL)に対する貼り合わせ処理が行なわれる。すなわち、メッシュ112(FL)に対するメッシュ212(FL)のP’座標は、図12に示したようなメッシュ112(FL)を撮像した画像と図13に示したようなメッシュ212(FL)を撮像した画像に対して、図14に示すように、ステップS115で算出されたメッシュ111(DIC)とメッシュ211(DIC)画像貼り合わせ座標(x_p、y_p)を用いる。
具体的には、ステップS121において、ステップSl15で算出された画像貼り合わせ座標(x_p、y_p)を画像貼り合わせ情報記録部35から読み出し、ステップS122において、ホストシステム2によって図15に示すようにメッシュ112(FL)との貼り合わせ処理を行なう。そして、ステップS122の貼り合わせ処理終了後、ステップS123において、画像データ記録部4に蛍光観察(FL)の貼り合わせ画像の記録を行なう。
その後、ステップS124において、未撮像のメッシュが残っているか否かの判定を行ない、残っている場合(ステップS124:Yes)は、ステップS112以降の未撮像メッシュの撮像及び貼り合わせ処理を繰り返し、設定された全てのメッシュの撮像、貼り合わせが終了させるまで行なう。すなわち、ステップSl19からステップS123のフローでステップSl15によって得られた微分干渉観察(DIC)による画像貼り合わせ情報によって、蛍光観察画像(FL)の貼り合わせ処理(ステップS121)が繰り返し行なわれることとなる。
以上のように、本第1の実施の形態に係る顕微鏡システムでは、観察体19を撮像して得られた顕微鏡画像を貼り合わせることで観察体19の画像を再構築する、いわゆるバーチャル顕微鏡システムにおいて、微分干渉観察(DIC)、蛍光観察(FL)の検鏡方法における貼り合わせ画像作成に際して、画像貼り合わせ情報記録部35を設けることで貼り合わせ演算処理が共通化され、処理スピードの向上をはかる事が可能となる。
さらに、蛍光観察画像の貼り合わせ処理において、貼り合わせ部分の画像にノイズ成分が多くなり画像貼り合わせの制度が悪くなってしまう場合においても、他の微分干渉観察(DIC)の検鏡方法における演算結果を用いる事で、蛍光画像の貼り合わせ精度を向上させる事が可能となり、高品質の蛍光貼り合わせ画像の提供が可能となる。
なお、本第1の実施の形態においては、微分干渉観察(DIC)において取得した画像貼り合わせ情報をもとに、蛍光観察(FL)画像の貼り合わせについて説明したが、ある検鏡方法下の撮像情報をもとに、異なる検鏡方法下の撮像を行なうという観点ではもちろん例示した検鏡方法に限定されるものでなく、その他の検鏡法に置き換えてもよい。
また、検鏡方法を2つの場合について説明したが、さらに複数の検鏡方法であってもよい。
さらに、微分干渉観察(DIC)画像は貼り合わせ画像の作成は行なわず、蛍光観察(FL)画像の貼り合わせ演算のためにだけに用いてもよい。
また、第一の観察方法である微分干渉観察(DIC)において、画像情報の欠落等により画像貼り合わせ情報の渉算が行なえなかった場合は、規定(デフォルト)座標による貼り合わせを行なうようにしてもよい。
(第2の実施の形態)
続いて、本発明を適用した第2の実施の形態について説明する。
図16は、本発明を適用した第2の実施の形態に係る顕微鏡システムの構成例を示す図である。
本第2の実施の形態は、上述の第1の実施の形態における落射視野絞り17に代わり電動落射視野絞り17bを備え、さらに、FS駆動制御部36を備える構成となっている。その他の構成は、第1の実施の形態と同一であるので同一の符号を付してその説明を省略する。
電動落射視野絞り17bは、矩形開口の電動視野絞りであり、その開口の縦横の大きさが可変である。例えば、2つの絞り(後述する図19および図20に示すH_AとH_B)から構成され、それぞれがX−Y方向に駆動可能な構成となることにより開口の縦横の大きさが可変となる。
そして、FS駆動制御部34は、その電動落射視野絞り17bの開口の縦横の大きさの制御を行なう。具体的には、ホストシステム2よりの指令を受け、顕領鏡コントローラ31に接続されたFS駆動制御部34によって、2つの絞り(後述する図19および図20に示すH_AとH_B)をそれぞれX−Y方向に駆動を行なうことで開口の大きさが可変制御され、観察体19の撮像時の照明範囲を可変できるものとなっている。
次に、上述のように構成された第2の実施の形態における顕微鏡システムの動作について説明する。
本第2の実施の形態では、第1の実施の形態と同様、第一の検鏡方法として微分干渉観察(DIC)を、第二の検鏡方法として蛍光観察(FL)を選択し、この2つの検鏡方法における観察画像の貼り合わせを行なう場合について説明する。
図17は、第2の実施の形態のホストシステム2によって実行される顕微鏡画像データ取得処理の流れを示すフローチャートである。
図17において、ステップS101の「撮像倍率の設定」乃至ステップS111の「高解像度対物レンズに切り替え」まで、およびステップS112、S113、S114乃至S119、S120乃至S124のループは、上述した第1の実施の形態と同様である。本第2の実施の形態は、さらに、ステップS113の後にステップS201で微分干渉観察(DIC)における「開口サイズ(照明範囲)変更」の処理、ステップS119の後にステップS202で蛍光観察(FL)における「開口サイズ(照明範囲)変更」の処理が加わっている。
図18は、メッシュ画像撮像時の照明範囲を説明するための図であり、図19は、微分干渉観察(DIC)時の照明範囲を説明するための図であり、図20は、蛍光観察(FL)時の照明範囲を説明するための図である。
図18に示したように、図17のステップS114またはステップS120のメッシュ画像撮像時の照明範囲は、図18中に示したメッシュで規定されたS_Aの範囲でよい。しかしながら、図18中の斜線で示している画像貼り合わせのための重複(オーバーラップ)領域をもうけているため、図17のステップS120の蛍光観察画像の取り込みにおいては、この斜線部で示した重複(オーバーラップ)領域に2重に照明が行なわれることとなり、観察体19の退色を招いてしまうこととなる。
そこで、FS駆動制御部36は、図17のステップS201において、微分干渉観察(DIC)におけるメッシュ画像取り込みの際、図19に示す取り込み範囲S_AをカバーしたFS_Aの照明範囲となるように電動落射視野絞り17bの開口の大きさの制御を行なう。
そして、FS駆動制御部36は、図17のステップS202において、蛍光観察(FL)におけるメッシュ画像取り込みの際、図20に示すように、重複(オーバーラップ)領域を除いたS_Bの範囲をカバーするFS_Bの照明範囲となるように電動落射視野絞り17bの開口の大きさの制御を行なう。
図21は、メッシュ111(DIC)撮像時におけるメッシュと照明範囲の関係を示す図であり、図22は、メッシュ112(FL)の撮像時におけるメッシュと照明範囲の関係を示す図である。
上述のようにして電動落射視野絞り17bの開口の大きさを制御することにより、図21に示したようなメッシュ111(DIC)撮像時におけるメッシュと照明範囲の関係は、図22に示すようなメッシュ112(FL)の撮像時におけるメッシュと照明範囲の関係となり、重複(オーバーラップ)領域に照明光を必要以上にあてることを防ぐこととなる。
なお、画像の貼り合わせ処理は第1の実施の形態と同様に、微分干渉観察(DIC)における画像貼り合わせ情報を、画像貼り合わせ情報記録部35から読み出し、このデータをもとに蛍光(FL)画像における貼り合わせ処理の実施を行なう。
以上のように、本第2の実施の形態に係る顕微鏡システムでは、観察体19を撮像して得られた顕微鏡画像を貼り合わせることで観察体19の画像を再構築する、いわゆるバーチャル顕微鏡システムにおいて、複数の検鏡方法における貼りあわせ画像作成において、縦横の大きさが可変である矩形開口の電動落射視野絞り17bと、視野絞りの開口の縦横の大きさの制御を行なうFS駆動制御手段36を有し、蛍光観察(FL)画像の貼り合わせ処理において、開口の大きさを可変させることで、重複(オーバーラップ)領域に対して重複して照明が行なわれないように観察体19に対する照明範囲を可変させることが可能となり、観察体(標本)19の退色の防止をはかることが可能となる。
なお、本第2の実施の形態では、照明範囲の可変手段を矩形開口の電動FSとしたが、観察体19の対する重複(オーバーラップ)領域に余計な照明光を当てないという観点では、これに限定されるものではなく、たとえばDMD等、その他の照明範囲可変手段であってもよい。
以上、本発明を適用した第1及び第2の実施の形態を説明してきたが、図2または図17のフローチャートで示した処理を、前述したような標準的な構成のコンピュータのCPUに行なわせるための制御プログラムを作成してコンピュータ読み取り可能な記録媒体に記録させておき、そのプログラムを記録媒体からコンピュータに読み込ませてCPUで実行させるようにしても、本発明の実施は可能である。
記録させた制御プログラムをコンピュータで読み取ることの可能な記録媒体としては、例えば、コンピュータに内蔵若しくは外付けの付属装置として備えられるROMやハードディスク装置などの記憶装置、コンピュータに備えられる媒体駆動装置へ挿入することによって記録された制御プログラムを読み出すことのできるフレキシブルディスク、MO(光磁気ディスク)、CD−ROM、DVD−ROMなどといった携帯可能記録媒体等が利用できる。
また、記録媒体は通信回線を介してコンピュータと接続される、プログラムサーバとして機能するコンピュータシステムが備えている記憶装置であってもよい。この場合には、制御プログラムを表現するデータ信号で搬送波を変調して得られる伝送信号を、プログラムサーバから伝送媒体である通信回線を通じてコンピュータへ伝送するようにし、コンピュータでは受信した伝送信号を復調して制御プログラムを再生することでこの制御プログラムをコンピュータのCPUで実行できるようになる。
以上、本発明を適用した実施の形態を説明したが、本発明は、上述した各実施の形態に限定されることなく、本発明の要旨を逸脱しない範囲内で種々の改良、変更が可能である。例えば、上述した各実施の形態に係る顕微鏡システムにおいては、顕微鏡装置1として正立顕微鏡装置を採用していたが、その代わりに、倒立顕微鏡装置を採用することももちろん可能であり、また、顕微鏡装置を組み込んだライン装置といった各種システムに本実施の形態を適応することも可能である。
本発明を適用した第1の実施の形態に係る顕微鏡システムの構成例を示す図である。 第1の実施の形態のホストシステム2によって実行される顕微鏡画像データ取得処理の流れを示すフローチャートである。 撮像領域と重複領域との関係を示す図である。 メッシュの定義を説明するための図である。 撮像を行なう対象のメッシュと撮像経路を決定する処理を説明するための図である。 観察体19における微分干渉観察(DIC)画像におけるメッシュ位置の関係を示す図である。 観察体19の蛍光観察(FL)画像におけるメッシュ位置の関係を示す図である。 図6におけるメッシュ111(DIC)を撮像した画像を示す図である。 図6におけるメッシュ211(DIC)を撮像した画像を示す図である。 画像マッチングしたメッシュ111(DIC)を撮像した画像とメッシュ211(DIC)を撮像した画像を示す図である。 貼り合わせ処理後のメッシュ111(DIC)を撮像した画像とメッシュ211(DIC)を撮像した画像を示す図である。 図7におけるメッシュ112(FL)を撮像した画像を示す図である。 図7におけるメッシュ212(FL)を撮像した画像を示す図である。 画像マッチングしたメッシュ112(FL)を撮像した画像とメッシュ212(FL)を撮像した画像を示す図である。 貼り合わせ処理後のメッシュ112(FL)を撮像した画像とメッシュ212(FL)を撮像した画像を示す図である。 本発明を適用した第2の実施の形態に係る顕微鏡システムの構成例を示す図である。 第2の実施の形態のホストシステム2によって実行される顕微鏡画像データ取得処理の流れを示すフローチャートである。 メッシュ画像撮像時の照明範囲を説明するための図である。 微分干渉観察(DIC)時の照明範囲を説明するための図である。 蛍光観察(FL)時の照明範囲を説明するための図である。 メッシュ111(DIC)撮像時におけるメッシュと照明範囲の関係を示す図である。 メッシュ112(FL)の撮像時におけるメッシュと照明範囲の関係を示す図である。
符号の説明
1 顕微鏡装置
2 ホストシステム
3 ビデオカメラ
6 透過照明用光源
7 コレクタレンズ
8 透過用フィルタユニット
9 透過視野絞り
10 透過開口絞り
11 コンデンサ光学素子ユニット
12 トップレンズユニット
13 落射照明用光源
14 コレクタレンズ
15 落射用フィルタユニット
16 落射シャッタ
17 落射視野絞り
18 落射開口絞り
19 観察体
20 電動ステージ
21 ステージX−Y駆動制御部
22 ステージZ駆動制御部
23、23a、23b 対物レンズ
24 レボルバ
25 キューブユニット
26 接眼レンズ
27 ビームスプリッタ
28 ポラライザー
29 DIC(Differential Interference Contrast)プリズム
30 アナライザー
31 顕微鏡コントローラ
32 ビデオボード
33 カメラコントローラ
34 重複領域設定部
35 撮像貼り合わせ情報記録部
36 FS駆動制御部

Claims (1)

  1. 顕微鏡で観察する同一観察体を複数の検鏡方法で、各検鏡方法毎に撮像した複数の観察画像を重複領域を設けて貼り合せることにより各検鏡方法毎のバーチャルスライドを作成するバーチャルスライド作成装置において、
    第1の観察方法により撮像した複数の観察画像から前記重複領域に関する画像貼り合わせ情報を算出する画像貼り合わせ情報算出手段と、
    前記画像貼り合わせ情報算出手段によって算出された画像貼り合わせ情報に基づいて、蛍光観察方法により撮像した複数の画像領域を貼り合わせる画像貼り合わせ手段と、
    前記蛍光観察方法の場合、前記重複する領域を前記照明範囲から外すように照明光を制御するための照明光制御手段と、
    を備えることを特徴とするバーチャルスライド作成装置。
JP2007026088A 2007-02-05 2007-02-05 バーチャルスライド作成装置、バーチャルスライド作成方法およびバーチャルスライド作成プログラム Expired - Fee Related JP5006062B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007026088A JP5006062B2 (ja) 2007-02-05 2007-02-05 バーチャルスライド作成装置、バーチャルスライド作成方法およびバーチャルスライド作成プログラム
US12/011,355 US8000560B2 (en) 2007-02-05 2008-01-25 Virtual slide generation device, virtual slide generation method, virtual slide generation program product and virtual slide generation program transmission medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007026088A JP5006062B2 (ja) 2007-02-05 2007-02-05 バーチャルスライド作成装置、バーチャルスライド作成方法およびバーチャルスライド作成プログラム

Publications (2)

Publication Number Publication Date
JP2008191427A JP2008191427A (ja) 2008-08-21
JP5006062B2 true JP5006062B2 (ja) 2012-08-22

Family

ID=39676218

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007026088A Expired - Fee Related JP5006062B2 (ja) 2007-02-05 2007-02-05 バーチャルスライド作成装置、バーチャルスライド作成方法およびバーチャルスライド作成プログラム

Country Status (2)

Country Link
US (1) US8000560B2 (ja)
JP (1) JP5006062B2 (ja)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
BRPI1011689B1 (pt) 2009-03-11 2019-12-17 Sakura Finetek Usa Inc método de autofocalização e dispositivo de autofocalização
JP5394887B2 (ja) 2009-10-29 2014-01-22 オリンパス株式会社 顕微鏡装置および顕微鏡観察方法
JP5555014B2 (ja) 2010-03-10 2014-07-23 オリンパス株式会社 バーチャルスライド作成装置
US10139613B2 (en) 2010-08-20 2018-11-27 Sakura Finetek U.S.A., Inc. Digital microscope and method of sensing an image of a tissue sample
DE102010039652A1 (de) 2010-08-23 2012-02-23 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Mosaikaufnahmeerzeugung
JP5718012B2 (ja) * 2010-10-13 2015-05-13 オリンパス株式会社 走査型レーザ顕微鏡
JP2012118448A (ja) * 2010-12-03 2012-06-21 Sony Corp 画像処理方法、画像処理装置及び画像処理プログラム
JP5700797B2 (ja) * 2011-01-24 2015-04-15 株式会社キーエンス 共焦点顕微鏡システム、画像処理方法および画像処理プログラム
JP5747690B2 (ja) * 2011-07-04 2015-07-15 株式会社ニコン 顕微鏡装置及び画像形成方法
DE102012019121A1 (de) 2011-09-29 2013-04-04 Carl Zeiss Microscopy Gmbh Verfahren zur Variation des Scanfeldes eines Laser-Scanning-Mikroskops
GB2542911B (en) * 2011-10-14 2017-07-26 Solentim Ltd Method of and apparatus for analysis of a sample of biological tissue cells
JP5911296B2 (ja) 2011-12-22 2016-04-27 オリンパス株式会社 画像処理装置、撮像装置、顕微鏡システム、画像処理方法、及び画像処理プログラム
JP2013153429A (ja) * 2011-12-27 2013-08-08 Canon Inc 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム
JP6099477B2 (ja) * 2012-11-16 2017-03-22 オリンパス株式会社 撮像装置、顕微鏡システム及び撮像方法
JP6027875B2 (ja) 2012-12-07 2016-11-16 オリンパス株式会社 撮像装置及び顕微鏡システム
AU2012268846A1 (en) * 2012-12-21 2014-07-10 Canon Kabushiki Kaisha Optimal patch ranking for coordinate transform estimation of microscope images from sparse patch shift estimates
JP6147006B2 (ja) 2013-01-09 2017-06-14 オリンパス株式会社 撮像装置、顕微鏡システム及び撮像方法
DE102013103971A1 (de) 2013-04-19 2014-11-06 Sensovation Ag Verfahren zum Erzeugen eines aus mehreren Teilbildern zusammengesetzten Gesamtbilds eines Objekts
JP6124718B2 (ja) * 2013-07-19 2017-05-10 キヤノン株式会社 撮像装置及びその制御方法
JP6270388B2 (ja) * 2013-09-13 2018-01-31 オリンパス株式会社 撮像装置、顕微鏡システム、撮像方法及び撮像プログラム
US10007102B2 (en) 2013-12-23 2018-06-26 Sakura Finetek U.S.A., Inc. Microscope with slide clamping assembly
JP6253509B2 (ja) * 2014-05-21 2017-12-27 オリンパス株式会社 画像表示方法、制御装置、顕微鏡システム
CN109416465B (zh) * 2016-05-12 2022-09-09 生命技术公司 用于图像捕获和显示的系统、方法和设备
US11280803B2 (en) 2016-11-22 2022-03-22 Sakura Finetek U.S.A., Inc. Slide management system
CN106919941B (zh) * 2017-04-26 2018-10-09 华南理工大学 一种三维手指静脉识别方法及系统

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09281405A (ja) 1996-04-17 1997-10-31 Olympus Optical Co Ltd 顕微鏡システム
US6272235B1 (en) 1997-03-03 2001-08-07 Bacus Research Laboratories, Inc. Method and apparatus for creating a virtual microscope slide
US6031930A (en) 1996-08-23 2000-02-29 Bacus Research Laboratories, Inc. Method and apparatus for testing a progression of neoplasia including cancer chemoprevention testing
US6313452B1 (en) * 1998-06-10 2001-11-06 Sarnoff Corporation Microscopy system utilizing a plurality of images for enhanced image processing capabilities
US6711283B1 (en) * 2000-05-03 2004-03-23 Aperio Technologies, Inc. Fully automatic rapid microscope slide scanner
JP2005164815A (ja) * 2003-12-01 2005-06-23 Olympus Corp 光学装置
US20050163390A1 (en) * 2004-01-23 2005-07-28 Ann-Shyn Chiang Method for improving the depth of field and resolution of microscopy
US8271251B2 (en) * 2004-02-09 2012-09-18 Wisconsin Alumni Research Foundation Automated imaging system for single molecules
US7456377B2 (en) * 2004-08-31 2008-11-25 Carl Zeiss Microimaging Ais, Inc. System and method for creating magnified images of a microscope slide

Also Published As

Publication number Publication date
US20080187208A1 (en) 2008-08-07
JP2008191427A (ja) 2008-08-21
US8000560B2 (en) 2011-08-16

Similar Documents

Publication Publication Date Title
JP5006062B2 (ja) バーチャルスライド作成装置、バーチャルスライド作成方法およびバーチャルスライド作成プログラム
US7929738B2 (en) Microscope apparatus and microscope system
US7756357B2 (en) Microscope system for obtaining high and low magnification images
JP4917331B2 (ja) 画像取得装置、画像取得方法、及び画像取得プログラム
JP4937850B2 (ja) 顕微鏡システム、そのvs画像生成方法、プログラム
JP4917329B2 (ja) 画像取得装置、画像取得方法、及び画像取得プログラム
JPH09281405A (ja) 顕微鏡システム
JP2005037902A (ja) 顕微鏡システム、顕微鏡画像表示システム、観察体画像表示方法、及びプログラム
JP4878815B2 (ja) 顕微鏡装置
JP4544850B2 (ja) 顕微鏡画像撮影装置
JP2004101871A (ja) 顕微鏡画像撮影装置
US20160147058A1 (en) Microscope system
US9798129B2 (en) Microscope system and method for deciding stitched area
JP2007316258A (ja) 顕微鏡システム、顕微鏡画像の合成方法、及びプログラム
JP5532459B2 (ja) 顕微鏡システム
JP4847101B2 (ja) 顕微鏡システム
US9386233B2 (en) Image acquisition apparatus, image acquisition method, and computer program
KR20120099011A (ko) 포커싱 장치, 포커싱 방법, 포커싱 프로그램 및 현미경
JP2012003214A (ja) 情報処理装置、情報処理方法、プログラム、撮像装置、及び光学顕微鏡を搭載した撮像装置
JP2007024927A (ja) 顕微鏡画像撮影装置
JP6624939B2 (ja) 画像処理装置、撮像装置および画像処理プログラム
US20040105000A1 (en) Microscopic image capture apparatus
JP5091099B2 (ja) 撮像装置
JP2007108223A (ja) 顕微鏡システム
US10721413B2 (en) Microscopy system, microscopy method, and computer readable recording medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110830

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120306

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120405

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120515

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120524

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150601

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5006062

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150601

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

LAPS Cancellation because of no payment of annual fees