JP4937850B2 - 顕微鏡システム、そのvs画像生成方法、プログラム - Google Patents

顕微鏡システム、そのvs画像生成方法、プログラム Download PDF

Info

Publication number
JP4937850B2
JP4937850B2 JP2007175646A JP2007175646A JP4937850B2 JP 4937850 B2 JP4937850 B2 JP 4937850B2 JP 2007175646 A JP2007175646 A JP 2007175646A JP 2007175646 A JP2007175646 A JP 2007175646A JP 4937850 B2 JP4937850 B2 JP 4937850B2
Authority
JP
Japan
Prior art keywords
image
specimen
observation
fluorescence
bright field
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007175646A
Other languages
English (en)
Other versions
JP2009014939A (ja
Inventor
達喜 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2007175646A priority Critical patent/JP4937850B2/ja
Priority to US12/343,748 priority patent/US7932504B2/en
Publication of JP2009014939A publication Critical patent/JP2009014939A/ja
Application granted granted Critical
Publication of JP4937850B2 publication Critical patent/JP4937850B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/16Microscopes adapted for ultraviolet illumination ; Fluorescence microscopes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • G01N21/6458Fluorescence microscopy
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/18Arrangements with more than one light path, e.g. for comparing two specimens

Landscapes

  • Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Microscoopes, Condenser (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)

Description

本発明は、複数枚の顕微鏡画像を繋ぎ合わせて広視野且つ高精細な画像を生成する顕微鏡システムに関する。
従来、顕微鏡を用いて標本を観察する場合、一度に観察できる範囲は、主に対物レンズの倍率によって決まる。高倍率になるほど、高精細な画像が得られる反面、観察範囲が狭くなってしまう。そこで、電動ステージ等を利用して視野を移動しながら、複数枚の画像を撮影し、それらを貼合わせる(又は結合する)ことで、広視野かつ高解像な顕微鏡画像を作成し、病理診断等に活用するシステム(以下、バーチャル顕微鏡システムと言う)が知られている。
例えば、特許文献1や特許文献2には、予め観察体の画像を小区画に分割し、当該小区画に対応する観察体の各部分を高解像度の対物レンズで撮影し、得られた小区画毎の顕微鏡画像を繋ぎ合わせることにより、観察体の全体画像(広視野かつ高解像な顕微鏡画像;以下、VS(Virtual Slide;バーチャルスライド)画像というものとする)を再構築する上記バーチャル顕微鏡システムが開示されている。また、特許文献3,4にも同様に、広視野かつ高解像な顕微鏡画像を作成するシステムが開示されている。
標本全体を高精細に画像化するVS(Virtual Slide;バーチャルスライド)画像は、パソコンとネットワーク環境があれば、場所、時間を問わずに何時でも何処でも誰でも閲覧可能であり、医学生の病理学実習に加え、病理医間の遠隔コンサルテーションにも活用され始めている。尚、VS画像は、Whole Slide Imagingとも呼ばれる。
また、従来から行われているHE(ヘマトキシリン・エオジン)染色やパパニコロウ染色といった通常染色による組織又は細胞の形態情報に基づく形態診断を補間する目的で、遺伝子やタンパクの発現異常を調べるための分子学的病理検査が行われている。すなわち、形態異常の診断は、従来の通常染色による明視野観察で行い、遺伝子/タンパク発現異常といった機能異常の診断を、蛍光観察で行うといったことが実施されている。
蛍光標本は、長期保存ができないので、バーチャル顕微鏡システムでVS画像化することは、診断の根拠の記録・保持にもつながり、非常に有用である。
特開平9−281405号公報 特開平10−333056号公報 特開2006−343573号公報 特表2002−514319号公報
しかしながら、蛍光標本は明視野標本に比べて暗く撮影時間が長くなり、標本全体をVS画像化する為には、一般的には数時間以上は掛かってしまう。また、分子病理診断で必要な検査領域は、腫瘍部であり、正常部位は検査対象外であることが多い。従って、腫瘍部がごく僅かな標本の場合は、画像取得に際して無駄な時間を費やすだけでなく、不必要な画像容量の増大を招くことにもなる。また、蛍光標本は、未励起状態では無色透明であり、明視野観察で特定した腫瘍部位を未励起状態で確認することは非常に困難である。また、励起状態でも、標本の褐色といった問題が存在する他に、形態情報が乏しいために、腫瘍部位を特定することは困難である。また、蛍光シグナルをカウントするといった場合においても、形態情報が乏しいが故に同一シグナルを重複してカウントしたり、その逆にカウント漏れが生じる場合がある。
本発明の課題は、明視野観察法のもとで作成された標本全体画像上で標本の一部の領域を指定させ、この一部の領域に対して蛍光観察法のもとでVS画像を作成することで、蛍光観察法のもとで作成するVS画像である蛍光VS画像の作成処理時間を大幅に短縮し且つ当該蛍光VS画像のデータサイズを削減することができる顕微鏡システム、そのVS画像生成方法、プログラム等を提供することである。
本発明の顕微鏡システムは、顕微鏡の対物レンズと標本を光軸に対して直交方向に相対的に移動させて取得した複数枚の顕微鏡画像群を相互に結合して成るVS画像を生成するVS画像生成手段を有する顕微鏡システムにおいて、第1の観察法のもとで前記VS画像生成手段により前記標本全体の前記VS画像を生成させて、該生成した第1観察法VS画像を記憶する第1観察法VS画像生成・記憶手段と、前記第1観察法VS画像を表示して、該表示画像上で任意の1以上の注目領域を指定させて該注目領域の座標情報を記憶する注目領域指定手段と、第2の観察法のもとで前記VS画像生成手段により前記注目領域の前記VS画像を生成させて、該生成した第2観察法VS画像を記憶する第2観察法VS画像生成・記憶手段とを有する。
上記顕微鏡システムは、例えば更に、任意の前記注目領域に係る前記第2観察法VS画像と、前記第1観察法VS画像における該任意の注目領域の画像とを、並列又は合成表示する注目領域画像表示手段を有する。
上記顕微鏡システムは、例えば更に、前記第2観察法への切り替えの際に前記標本が脱着される場合、該標本脱着前に生成された該標本の画像と標本脱着後に生成された該標本の画像とを比較することにより該標本の平行位置ズレ量を求めて、該位置ズレ量を用いて前記記憶してある注目領域の座標を補正する第1の注目領域座標補正手段を備え、前記第2観察法VS画像生成・記憶手段は、該補正後の注目領域座標を用いて前記第2観察法VS画像の生成を行う。
上記顕微鏡システムは、例えば更に、前記第2観察法で用いる標本が前記第1観察法で用いる標本の近傍切片である場合、前記第1観察法で用いる標本の画像と前記第2観察法で用いる標本の画像とを比較することにより、該2つの標本間の平行位置ズレ量及び回転ズレ量を求めて、該平行位置ズレ量及び回転ズレ量を用いて前記注目領域の座標を補正する第2の注目領域座標補正手段を備え、前記第2観察法VS画像生成・記憶手段は、該補正後の注目領域座標を用いて前記第2観察法VS画像の生成を行う。
例えば、前記第1観察法は明視野観察法であり、前記第2観察法は蛍光観察法である。
本発明の顕微鏡システム、そのVS画像生成方法、プログラム等によれば、明視野観察法のもとで作成された標本全体画像上で標本の一部の領域を指定させ、この一部の領域(腫瘍部位等)に対して蛍光観察法のもとでVS画像を作成することで、蛍光観察法のもとで作成するVS画像である蛍光VS画像の作成処理時間を大幅に短縮し且つ当該蛍光VS画像のデータサイズを削減することができる。
以下、図面を参照して、本発明の実施の形態について説明する。
図1は、本例の顕微鏡システム全体の構成例を示す図である。
図1に示す顕微鏡装置1には、透過観察用光学系として、透過照明用光源6と、透過照明用光源6の照明光を集光するコレクタレンズ7と、透過用フィルタユニット8と、透過視野絞り9と、透過開口絞り10と、コンデンサ光学素子ユニット11と、トップレンズユニット12とが備えられている。また、落射観察光学系として、落射照明用光源13と、コレクタレンズ14と、落射用フィルタユニット15と、落射シャッタ16と、落射視野絞り17と、落射開口絞り18とが備えられている。
また、これらの透過観察用光学系の光路と落射観察用光学系の光路とが重なる観察光路上には、標本19が載置される、光軸と平行/垂直の各方向に移動可能な電動ステージ20を備えている。この電動ステージ20の移動の制御は、ステージX−Y駆動制御部21とステージZ駆動制御部22とによって行われる。尚、電動ステージ20は、原点センサによる原点位置検出機能(不図示)を有しており、電動ステージ20に載置した標本19の各部に対して座標を設定することができる。
また、観察光路上には、複数装着された対物レンズ23a、23b、・・・(以下、必要に応じて「対物レンズ23」と総称する)のなかから、そのとき観察に使用する対物レンズ23を回転動作により選択するレボルバ24と、検鏡法に応じて選択的に光路に挿入される光学キューブ25a,25b,・・・(以下、必要に応じて「光学キューブ25」と総称する)と、観察光路を接眼レンズ26側とTVカメラ3側とに分岐するビームスプリッタ27とが備えられている。更に、微分干渉観察用のポラライザー28、DIC (Differential Interference Contrast)プリズム29、及びアナライザー30は、観察光路に挿入可能となっている。尚、これらの各ユニットは、電動化されており、その動作は後述する顕微鏡コントローラ31によって制御される。
ホストシステム2に接続された顕微鏡コントローラ31は、顕微鏡装置1全体の動作を制御する機能を有するものであり、ホストシステム2からの制御信号に応じて、検鏡法の変更、透過照明用光源6及び落射照明用光源13の調光等といった各ユニットの制御を行うと共に、現在の顕微鏡装置1による現在の各ユニットの状態を検出して、これをホストシステム2へ送出する機能を有している。また、顕微鏡コントローラ31は、ステージX−Y駆動制御部21及びステージZ駆動制御部22にも接続されており、電動ステージ20の制御も顕微鏡コントローラ31を介してホストシステム2が行うことができる。
TVカメラ3内の撮像素子であるCCDによって撮像された標本19(観察体)の顕微鏡画像は、ビデオボード32を介してホストシステム2に取り込まれる。ホストシステム2は、TVカメラ3に対して、自動ゲイン制御のON/OFF、ゲイン設定、自動露出制御のON/OFF、及び露光時間の設定を、カメラコントローラ33を介して行うことができる。また、ホストシステム2は、TVカメラ3から送られてきた上記顕微鏡画像を、画像データファイルとしてデータ記録部4に保存することができる。データ記録部4は、例えばハードディスクや大容量メモリ等である。データ記録部4に記録された画像データは、任意のときに例えばユーザ操作等に応じて、ホストシステム2によって読み出されて、当該画像データで表わされている顕微鏡画像を、表示部であるモニター5に表示させることができる。
更に、ホストシステム2は、TVカメラ3によって撮像された画像のコントラストに基づいて合焦動作を行う、いわゆるビデオAF機能も有しており、このビデオAF機能によって得られた合焦位置の座標を、撮影座標記録部34に記録する機能も有している。
尚、ホストシステム2は、特に図示しないが、制御プログラムの実行によって顕微鏡システム全体の動作制御を司るCPU(中央演算装置)、このCPUが必要に応じてワークメモリとして使用するメインメモリ、マウスやキーボード等といったユーザからの各種の指示を取得する為の入力部、この顕微鏡システムの上記各構成要素との間で各種データの授受を管理するインタフェースユニット、及び各種のプログラムやデータを記憶しておく例えばハードディスク装置等の補助記憶装置、及びディスプレイ等の表示装置を有している、ごく標準的な構成のコンピュータである。
そして、上記CPUが、上記補助記憶装置に記憶されている所定のアプリケーションプログラムをメインメモリ上に読み出して実行することにより、後述する各種処理(特に、図2、図8、図10に示すフローチャートの処理や、図7、図9等で説明する処理)を実現する。これら処理の際、ホストシステム2は、上記顕微鏡コントローラ31に対して制御信号を送り、顕微鏡コントローラ31によって上述した例えば電動ステージ20の移動制御や、検鏡法の変更等の顕微鏡装置1の各ユニットの制御や、各ユニットの状態検出等を行わせる場合があり、以下の説明ではこの様なことは逐一説明しないものとする。
以下、上記図1に示す顕微鏡システムの動作について説明する。
本例では、第一の観察法として明視野観察を、第二の観察法として蛍光を選択した場合について説明する。
図2は、第一の観察法(明視野観察)によるVS画像形成処理を示すフローチャート図である。
尚、VS画像とは、広義には複数枚の顕微鏡画像を貼合わせて生成する画像のことであり、狭義には特に上述したように上記複数枚の顕微鏡画像を貼合わせて生成する広視野かつ高解像な顕微鏡画像のことである。
また、図3は、スライドガラス標本(スライドガラス上に標本19が載せられたもの)の一例を示す図である。図1では標本19のみ示しているが、実際には当該スライドガラス標本が電動ステージ20上にセットされることになる。これより、以下、スライドガラス標本19と記す場合もある。
図4は、フォーカスマップ作成の為、標本領域全体の画像を多数の小区画に分割した状態を示す図である。図5は、フォーカスマップのデータ構成例である。
以下、図3〜図5も参照して、図2に示す第一の観察法(明視野観察)によるVS画像形成処理について説明する。但し、この処理については本出願人が出願した上記特許文献3に記述されており、更に本出願人が出願した上記特許文献1に詳細が記述されているので、詳細説明は割愛し、ここでは簡単に説明する。尚、既に述べてある通り、図2に示す処理は、ホストシステム2が実行する。
まず、図2のステップS100において、透過明視野観察法を実現すべく各種光学部材の光路への装脱制御を行う。すなわち、透過明視野観察状態を構築すべく、顕微鏡コントローラ31を介して、落射シャッタ16を光路に挿入し、明視野観察用の光学キューブ25を光路に挿入し、透過照明用光源6を点灯するといった制御が行われる。つまり、観察法を明視野観察法に切り替える制御が行われる。そして、明視野観察法のもとで以下のステップS101〜S106の処理を実行する。
まず、ステップS101において、例えば4倍といった低倍の対物レンズ23を光路に挿入する。次に、ステップS102において、図3に示すスライドガラス40上の所定の標本サーチ範囲41(例;縦:25mm×横:50mm)を、TVカメラ3に投影される撮影領域幅に応じて分割する(換言すれば、ステップS101で光路に挿入した対物レンズ23の倍率に応じて分割する)。そして、当該標本サーチ範囲41を分割して成る複数の各区画に対して、電動ステージ20をXY方向移動して、移動先の区画でTVカメラ3を介して顕微鏡画像を取得することを繰り返し行う。これによって得られた複数の顕微鏡画像(低倍率による各区画の画像)を相互に結合することで、スライド全体像画像(図3に示す標本サーチ範囲41全体の画像)を生成し、データ記録部4にスライド全体像画像ファイルとして記憶する。
尚、上記XY方向移動とは、光軸に対して直交方向の平面上での移動を意味し、上記ステージX−Y駆動制御部21によって電動ステージ20の移動制御が行われるものである。
尚、標本サーチ範囲41は、予め設定されている、スライドガラス40上の任意の領域であり、標本19は必ず標本サーチ範囲41内に載置される。尚、図3に示すようにスライドガラス40上には、ラベル43を貼る領域等も予め決められている。
次に、ステップS103において、予め決められている(又はオペレータ等が操作して指示する)例えば40倍等の高倍の対物レンズ23を光路に挿入する。これは、第一の観察法(明視野観察法)のもとで高精細画像を取得する為に対物レンズ23を切り替えるものである。
そして、ステップS104において、上記ステップS102で取得した標本サーチ範囲41の全体画像を基に、スライドガラス40上に実際に標本19が載っている領域を自動抽出する(図3に示す標本領域42を決定する)。
この標本領域42の決定処理は、既存の方法で行えるので、特に詳細には説明しないが、例えば、予め標本領域42は矩形にするものと決められており、上記全体画像を標本の有無により2値化して、X方向、Y方向それぞれに標本の有る部分をサーチすることで、標本領域42を決定できる。尚、標本領域42は、オペレータ等がマウス等を操作して任意に指定してもよい。
そして、この標本領域42内を例えば図4に示すように千鳥格子状に分割する。尚、この千鳥格子の1区画(小区画)の領域サイズは、上記ステップS103で選択された高倍の対物レンズ23を用いた場合のTVカメラ3に投影される撮影領域を表している。また、各小区画の図4の画面上でのXY座標(ここでは各小区画は矩形であり、例えば矩形の中心座標)を求め、更にこの画面上での座標を電動ステージ20上でのXY座標に変換する。
尚、画像上のXY座標を実際の電動ステージ20上の物理的なXY座標に変換する計算方法は、撮影倍率、撮影素子情報(画素数、画素サイズ)から算出するものであり、特許文献1に詳細が記述されているので、ここでの説明は省略する。
そして、この千鳥格子の各小区画毎に合焦位置(Z座標)を求めるのであるが、例えば図4に示すように区画数が多数である場合には、全ての小区画について実測により合焦位置を求めようとすると非常に時間が掛かることになる。そこで、本例では、全ての小区画の中からサンプリング(実測)する小区画(例えば図4に示すフォーカス位置抽出ポイント)を自動抽出する。この自動抽出は、例えばランダムに抽出してもよいし、規則的に(例えば3区画置きに)抽出するものであってもよい。つまり、自動抽出処理内容は任意に決めてよい。
次に、ステップS105において、電動ステージ20をXY方向移動制御して、ステップS104で抽出した各フォーカス位置抽出ポイントに光軸位置を移動させて、各抽出ポイント毎に、Z軸移動制御を行いながらTVカメラ3を介して標本像を入力してコントラスト評価することで、実測による合焦位置(Z座標)を求める。更に、上記ステップS104でフォーカス位置抽出ポイントとして抽出されなかった領域(小区画)については、その近傍のフォーカス位置抽出ポイントの実測合焦位置(Z座標)に基づき補間演算により合焦位置(Z座標)を求める。
以上の処理を行うことで、例えば図5に一例を示すフォーカスマップ50が作成され、これを撮影座標記録部34に格納する。
図示のフォーカスマップ50には、上記合焦位置(Z座標)を求めた各小区画毎に、その配列番号51とステージ座標52とが格納される。配列番号51は、例えば図4に示したように、各小区画に対してX方向、Y方向それぞれに例えば1,2,3、・・・というように規則的に割り当てた番号であり、例えば図示の標本領域42の左上端の小区画の配列番号51は、(X軸,Y軸)=(1,1)である。
尚、図5に示す例では、配列番号51にZ軸があるが、これは後述する“異なる焦点位置を有する3次元のVS蛍光画像”を作成する場合に必要となるものであり、ここでは特に必要ないものとして説明する。ステージ座標52は、その小区画の中心座標である。尚、このステージ座標52におけるX軸−Y軸座標は、図4に示す画像上の座標ではなく、電動ステージ20上の物理的なXY座標である。
そして、ステップS106において、上記作成したフォーカスマップ50の情報を基に電動ステージ20を制御して、各小区画毎の画像を取得する。すなわち、光軸位置及び合焦位置を、フォーカスマップ50に登録されている各ステージ座標52が示すXYZ座標へ移動させ、TVカメラ3を介して画像を入力する。そして、入力した各小区画の画像をこれと隣接する小区画の画像と結合する。この画像入力・結合処理を、フォーカスマップ50に登録された全小区画に対して完了するまで繰返すことで、高倍の対物レンズ23を用いた高精細な顕微鏡画像を相互に結合して成る標本領域42全体画像、すなわち広視野で且つ高精細な顕微鏡画像(VS画像)の作成が完了し、これがデータ記録部4に画像ファイルとして格納される。
尚、ステップS101からS106までの処理は自動化されており、オペレータはスライドガラス標本19を電動ステージ20に載せて、不図示の操作画面で走査開始操作を行うだけで、広視野で且つ高精細な顕微鏡画像が自動的に作成できる。また、データ記録部4に格納される画像ファイルは、公知のJPEG、JPEG2000といった圧縮アルゴリズムで圧縮保存可能なことは当然のこととする。
また、尚、上記対物レンズ23に係る“低倍”/“高倍”の区別は、明確な線引きがあるものではない。上記の例では、2倍、4倍等は低倍、40倍、60倍等は高倍としているが、この例に限るものではない。但し、当然、“高倍”の対物レンズ23は、“低倍”の対物レンズ23よりも倍率が高いものであり、上記“低倍”/“高倍”は、少なくともこの様な相対的な意味での“低倍”/“高倍”の条件は満たす必要がある。
また、スライドガラス標本19のラベル43等にバーコード印刷されているスライド標本番号を、ホストシステム2に接続されている不図示のバーコードリーダで読み出し、データ記録部4に格納される画像ファイルの付帯情報として同時に記録することが可能といったことも当然のこととする。
ステップS101からS106のうちの任意のステップで一時停止し、オペレータの操作介在を可能とし、標本領域の変更、サンプリングするフォーカス位置抽出ポイントの変更/追加/削除、使用する高倍対物レンズ23の倍率変更といった、各ステップでの調整作業も可能なことは当然のこととする。さらに、対物レンズ23の変換に伴う顕微鏡の照明系の最適化は、当然のこととする。
また、特許文献1に記載の通り、電動ステージ20のXY方向移動(水平方向移動;光軸に直交する平面上での移動)の際に、各小区画毎に、それに隣接する小区画の画像とのオーバラップ領域を設けて移動を行い、オーバラップ領域を含む各画像を取得し、これら各画像の貼り合わせ処理を行うことで、ステージ精度に伴う画像の不連続を解消するといったことも可能である。その場合は、上記ステップS105にて作成するフォーカスマップの1区画の領域サイズは、高倍の対物レンズ23を用いた場合のTVカメラ3に投影される撮影領域から貼合せ処理用のオーバラップ領域を除いたサイズとなる。
図6に、データ記録部4に画像ファイルとして格納されるVS画像データの書式例(データ構成例)を示す。尚、図6に示すデータ構成例は、上述した処理によって得られる明視野観察法によるVS画像(以下、明視野VS画像という)に限らず、後述する蛍光観察法によるVS画像(以下、蛍光VS画像という)のデータ構成例でもある。
まず、図6(a)には、VS画像ファイル全体のデータ構成図を示す。図示のVS画像ファイル60は、付帯情報61、標本サーチ範囲画像データ62、広視野・高精細画像データ63、及び注目領域指定情報64より成る。
付帯情報61は、図6(b)に示すように、観察法71、スライド番号72、標本サーチ範囲画像データ62の撮影倍率73等の情報より成る。観察法71は、広視野・高精細画像データ63作成の際に適用された観察法であり、上記明視野観察法、蛍光観察法等である。スライド番号72は、各スライドガラス標本19に任意に割り当てられる識別番号であり、例えば上記の通りラベル43にバーコード印刷等されており、これが入力される。
標本サーチ範囲画像データ62は、上記ステップS102の処理によって得られる(低倍の対物レンズ23による画像を結合して得られる)、標本サーチ範囲41全体の低解像画像である。“標本サーチ範囲画像データ62の撮影倍率”73は、この標本サーチ範囲画像データ62の生成時の対物レンズ23(低倍)の倍率である。
広視野・高精細画像データ63は、上記ステップS106や、後述するステップS155、S207の処理により作成されるVS画像(広視野且つ高精細な顕微鏡画像)とこのVS画像に係る各種情報であり、そのデータ構成を図6(c)に示す。尚、このVS画像は、ステップS106では明視野VS画像、後述するステップS155、S207では蛍光VS画像である。
図6(c)に示す例では、1つのVS画像ファイル60中に複数のVS画像が格納される場合も想定して、各VS画像毎の情報として各VS画像領域情報82(VS画像領域#1情報、VS画像領域#2情報、・・・VS画像領域#n情報)が格納される。そして、このVS画像領域情報82の数(図示の例では#1〜#nまでのn個)が、VS画像領域指定数81に格納される。但し、当該VS画像が上記ステップS106で生成した明視野VS画像である場合には、上記の通り1つのみ生成されるので、VS画像領域情報82は常に‘1’となる(つまり、VS画像領域#1情報のみが格納される)。
そして、図6(c)に示すように、各VS画像領域情報82は、それぞれ、撮影情報83、フォーカスマップデータ84、及び画像データ85から成る。
撮影情報82は、例えば図示の撮影倍率91、Scan開始(左上区画)ステージX座標92、Scan開始(左上区画)ステージY座標93、X方向のピクセル数94、Y方向のピクセル数95の各データより成る。撮影倍率91は、画像データ85の撮影時の対物レンズ23の倍率である。他のデータ(92〜95)は、画像データ85の位置座標(電動ステージ上の座標)、大きさを示すデータである。
フォーカスマップデータ84は、上記ステップS105、あるいは後述するステップS153やS205の処理により作成されたフォーカスマップ50(一例を図5に示す)である。
画像データ85は、上記ステップS106や、後述するステップS155、S207の処理により作成されるVS画像(明視野VS画像又は蛍光VS画像)データである。
注目領域指定情報64は、上記図2の処理では未だ作成されないので、後に説明するものとする。尚、注目領域指定情報64は、基本的には、当該VS画像ファイル60の明視野VS画像ファイルである場合に格納される。但し、この例に限らない。例えば、任意の蛍光VS画像を表示して、この画像上で任意の注目領域を指定させて、この注目領域に関する蛍光VS画像を更に生成するようにしてもよく、この場合には当該VS画像ファイル60の蛍光VS画像ファイルである場合にも、注目領域指定情報64は格納される。
次に、上述した図2の処理により作成された明視野VS画像を用いて腫瘍部等の蛍光撮影領域を設定するための動作例を、図7を用いて説明する。
図7は、上記明視野VS画像を縮小表示して全体像をモニター5に写した状態を示している。
そして、この画面上で、例えば医師等の専門家が、一般的な矩形領域の指定方法と同様にして不図示のマウス操作で(例えば左上コーナ→右下コーナの指定により)蛍光VS画像を取得する領域(図示の注目領域#1、#2等)を設定する。そして、不図示の保存操作により、この設定内容が上記図7の表示に用いた明視野VS画像ファイルの注目領域指定情報64に格納される。
すなわち、図6(d)に示すように、注目領域指定情報64は、注目領域の個数101、各注目領域情報102となら成る。図7に示す例では注目領域の個数101=‘2’となり、上記指定された各注目領域#1、#2毎に、注目領域#1情報、注目領域#2情報が格納される。
各注目領域情報102は、それぞれ、VS画像領域NO.111、左上コーナーX座標(ピクセル単位)112、左上コーナーY座標(ピクセル単位)113、幅(ピクセル数)114、高さ(ピクセル単位)115、及び関連ファイル情報116より成る。
VS画像領域NO.111は、上記各注目領域に任意に割り当てられる識別番号である。
左上コーナーX座標(ピクセル単位)112〜高さ(ピクセル単位)115は、図7に示す画像上における注目領域の位置、大きさを示す情報である。尚、この例に限らず、例えば右下コーナーのXY座標を更に格納するようにしてもよい。つまり、注目領域(矩形)の4つの頂点のうち、任意の対向する2つの頂点のXY座標を格納するようにしてもよい。
尚、注目領域指定情報64の1項目である関連ファイル情報116には、後述する第二の観察法(蛍光)で作成した蛍光VS画像ファイル名が格納される(よって、現段階では未だ情報は格納されない)。
次に、上記注目領域指定によって設定された各注目領域に関して、第二の観察法(蛍光)によって広視野で高精細な顕微鏡画像(VS画像)を形成する処理の流れについて図8を参照して説明する。
図8は、上記指定された各注目領域の蛍光VS画像の生成処理を示すフローチャート図である。
尚、図2等で説明した明視野VS画像形成処理と同一の処理内容は説明を簡略化する。また、尚、図8の処理は、図2の処理で用いた標本が形態観察用の染色と分子情報検出用の蛍光標識が同時に行われた標本を用いることを前提とする。従って、標本の着脱が無く、ステージ位置のズレはないものとする。また、図8の処理は、上記1以上の注目領域が指定されている任意の明視野VS画像ファイルが指定されて不図示の“蛍光VS画像作成”の指示が行われると開始される。
まず、図8に示すステップS150の処理において、透過明視野観察法を実現すべく各種光学部材の光路への装脱制御を行う。次に、ステップS151の処理において、予め決められている(あるいはオペレータ等が任意に指示する)例えば60倍等の高倍の対物レンズ23を光路に挿入する。つまり、第二の観察法における高精細画像取得の為の対物レンズ23へ切り替える。この様に、図2の処理の際に用いた高倍の対物レンズ(上記例では40倍)とは異なる倍率の対物レンズ23を用いて蛍光VS画像を作成する場合もあるので、以下のように、再度、フォーカスマップを作成する必要がある。
そして、上記ステップS104の処理と同様にフォーカス位置の算出を行い(ステップS152)、上記ステップS105の処理と同様にフォーカスマップの作成を行う(ステップS153)。これらの処理は、上記注目領域指定によって設定された各注目領域毎にそれぞれ行う。尚、上記の通り、各注目領域の情報は、上記処理開始の際に指定された明視野VS画像ファイルの注目領域指定情報64に格納されている。勿論、作成されるフォーカスマップは、60倍の対物レンズ23に対応したものとなる。
そして、ステップS154において、落射蛍光観察法を実現すべく各種光学部材の光路への装脱制御を行う。すなわち、顕微鏡コントローラ31を介して、透過照明用光源6を消灯し、蛍光観察用の光学キューブ26を光路に挿入し、落射シャッタ16を開放する、といった制御が行われる。
そして、上記ステップS106と同様の処理を、上記各注目領域毎にそれぞれ行う(ステップS155)。すなわち、各注目領域毎に、上記ステップS153で作成したフォーカスマップ50の情報をもとに、各小区画の画像を撮影する。すなわち、電動ステージ20をフォーカスマップ50に登録されている各指定XYZ座標(ステージ座標52)に移動させる制御を行って、各移動先でTVカメラ3を介してその小区画の画像を入力する。そして、この入力画像を、それ以前に入力した画像のなかで現在位置の小区画と隣接する小区画の画像がある場合には、この隣接画像と結合する処理を行う。
この様な処理を繰り返し行うことで、最終的には、注目領域のVS画像、すなわち注目領域全体の広視野で且つ高精細な画像(但し、第二の観察法による画像;蛍光VS画像)が作成される。作成した蛍光VS画像は、データ記録部4に画像ファイルとして格納する。更に、この蛍光VS画像ファイル名が、対応する(上記図8の処理開始の際に指定される)明視野VS画像ファイルにおける関連ファイル情報116に記録される。
他の注目領域がある場合には、同様にして、その注目領域の蛍光VS画像を作成して、これをデータ記録部4に画像ファイルとして格納すると共にこのファイル名を関連ファイル情報116に記録する。上記設定された全ての注目領域の蛍光VS画像を作成したら、本処理は終了する。
尚、本処理では、上記の通り最初から蛍光標識標本を用いたうえで、標本の褪色防止及び処理速度向上の為に、フォーカス位置等を明視野観察下で求めているが、この例に限らず、蛍光観察下でフォーカス位置等を求めるようにしてもよい。
また、異なる焦点位置を有する3次元のVS蛍光画像を作成するために、光路中に挿入されている対物レンズの焦点深度で決定される所定距離を基本単位として、フォーカスマップに登録されたZ座標(焦点位置)を中心に、電動ステージ20を上下に(Z軸方向に)複数回移動させる制御を行い、同一XY座標において異なるZ座標で複数の蛍光画像を撮影してもよい。詳しくは特許文献1等に記載されているので、ここではこれ以上は説明しないものとする。
また、尚、電動ステージ20のXY方向移動時に、不必要な標本の励起を防ぐといった意味で、落射シャッタ16を開閉制御を行うといったことも可能である。更には、対物レンズ23を介してTVカメラ3の撮像素子に投影される領域のみを励起するために、落射視野絞り17を必要最小限な範囲に絞り込むといったことは当然のこととする。また、明視野VS画像上で標本が存在しない背景区画については、実際に蛍光画像を撮影せずに無データで代用するといったことも当然のこととする。
また、上記腫瘍部等の領域設定を、矩形ではなく、多点指定やフリーライン指定で行えるようにして、不必要な領域を含まないように出来るといったことも当然のこととする。
以上説明した実施形態(第1の実施形態とする)によれば、明視野VS画像上で容易に腫瘍部位の領域を指定して(複数指定可)、この各注目領域毎の蛍光VS画像を自動作成できるので、非腫瘍部や背景部等を除いた必要最小限の領域に対する蛍光VS画像作成が可能であり、VS画像作成時間の短縮及びVS画像容量の削減を実現できる。
次に、以下、図7、図9を参照して、上述したように作成した2種類のVS画像ファイル(明視野、蛍光)を並列表示又はオーバーラップ表示させて、必要に応じて蛍光VS画像を補正する処理について説明する。すなわち、ここでは、上述した各種処理によって、明視野VS画像ファイル、蛍光VS画像ファイルが、データ記録部4に格納されている状態を前提とする。この場合、上記の通り、明視野VS画像ファイルにおける注目領域指定情報64によって、明視野VS画像に、各注目領域及びその蛍光VS画像ファイルの情報が関連付けられている状態となっている。
尚、以下に説明する処理も、既に述べた通り、ホストシステム2が実行する。つまり、上記の通り、この処理は、ホストシステム2内の不図示のCPU等が、不図示の記憶装置(ハードディスク等)に格納されている所定のアプリケーションプログラムを読み出し・実行することにより実現される。
尚、ここでは、図7と図9の画面は一緒にモニター5に表示されるものとする。そして、初期状態では、図7の画面内には何も表示されておらず、同様に、図9の図上左下に示す左側ウィンドウ120、及び図上右下に示す右側ウィンドウ121内には何も表示されていないものとする。一方、図9の図上上側に示す表示倍率指定ボタン122、上下左右スクロールボタン123、及び“並列/オーバーラップ”ボタン124は、初期状態から表示されているものとする。
まず、ユーザ等がキーボード、マウス等を操作して所望の明視野VS画像ファイルをオープンすると、図7に示す画面がモニター5に表示される。図7に示す画面は、既に説明した通り、上記明視野VS画像を縮小表示して全体像を表示したものであるが、ここでは既に注目領域が設定済みであるので、注目領域指定情報64を読み出すことで、図示の注目領域#1、#2も表示される。その際、分かり易くする為に、注目領域#1、#2を特定色で表示するようにしてもよい。
そして、ユーザが、マウス等を操作してカーソルを所望の注目領域(この例では注目領域#1、#2の何れか一方)に合わせて、不図示の蛍光VS画像同期表示の開始操作を行うと、上記表示されている明視野VS画像から上記指定された注目領域の部分を切り出して、これ(明視野VS画像の一部)が左側ウィンドウ120に表示すると共に、上記オープンした明視野VS画像ファイル内の注目領域指定情報64における関連ファイル情報116を参照することで、当該指定された注目領域の蛍光VS画像ファイルをオープンして、右側ウィンドウ121に表示する。
この状態でユーザ(オペレータ等)がマウス操作等により表示倍率指定ボタン122上の任意の倍率を選択・操作することにより、この選択された倍率に相当するように、左側ウィンドウ120及び右側ウィンドウ121に表示される明視野VS画像及び蛍光VS画像が、同時に拡大/縮小表示される。また、ユーザ等がマウス等により上下左右スクロールボタン123を操作することにより、明視野VS画像及び蛍光VS画像が同時にスクロール表示され、標本の同一箇所を同一表示倍率で観察できることになる。
上述した処理では、スライドガラス40の着脱に伴う標本19の位置ズレは考慮していないが、それでも、メカ精度等の影響に伴い、例えば明視野VS画像と蛍光VS画像とで多少のXY座標ズレや回転ズレが生じている場合がある。その補正方法を以下に示す。
蛍光標識標本を作製する場合は、検出試薬の他に、検出シグナルの細胞における局在情報が分かるようにカウンターステイン(DAPI等の核染色)が同時に行われる。従って、明視野VS画像上での細胞核の位置と蛍光VS画像上での細胞核の位置とがズレることによって、オペレータが両画像間での位置ズレを認識できる。
そこで、図9の左側ウィンドウ120内に示すように、オペレータ等が明視野VS画像上で複数の細胞核をそれぞれ矩形125(点線)で囲むように指定すると(例えば対向する頂点2点を指定する)、図示の通り右側ウィンドウ121内にも同一サイズ・同一座標の矩形(点線)で表示される。もし、明視野VS画像と蛍光VS画像とで位置/回転ズレが無いならば、右側ウィンドウ121内に表示される各細胞核は、各々対応する矩形内に収まるはずである。一方、図示の例では、見ての通り、各細胞核と矩形とにはズレが生じている。
本例では、オペレータは、右側ウィンドウ121上でこのズレを手動で修正できる。すなわち、例えば、オペレータ等が不図示のマウス操作等を行うことで、右側ウィンドウ121内に表示されている各矩形を、同時にXY方向移動(平行移動)又は回転移動することができるようになっている。これより、オペレータ等は手動で右側ウィンドウ121内の全矩形を一緒に平行移動又は回転移動させて、右側ウィンドウ121内に表示されている各細胞核が各々対応する矩形内に収まる(囲まれる)ように調整する。
これにより、右側ウィンドウ121内の表示は、図9の図上右下に示す右側ウィンドウ121’の状態となる。そして、このときの平行移動量と回転移動量を検出することで、明視野VS画像と蛍光VS画像との平行位置ズレ量と回転ズレ量が分かるので、右側ウィンドウ121内に表示されている蛍光VS画像に対して、平行位置ズレ量に基づきトリミング(平行移動補正)を行い、回転ズレ量に応じて回転補正を行うことで、その補正画像を作成する。この様に作成した補正後の蛍光VS画像ファイルを右側ウィンドウ121内に表示する(不図示)。オペレータはこの表示を見て、処理結果が適切であるか否かを確認する。もし適切であれば、オペレータが確認OK等の何らかの操作を行うと、既存の蛍光VS画像に補正後の蛍光VS画像を上書きすることで、次回以降の同期表示では上述した手動の補正処理は不要となる。
尚、図9に示す表示例は、オペレータ等が図示の“並列/オーバラップ”ボタン124を操作して“並列”表示を指定した場合を例におり、図示の通り明視野VS画像と蛍光VS画像とがサイドバイサイド(並列)表示されているが、“オーバラップ”表示が指定された場合には、ウィンドウは上記のように左右2つとはならずに1つのみとなり、このウィンドウ内に明視野VS画像と蛍光VS画像とが重ね合わせて表示(合成表示)されることになる。尚、その際、蛍光VS画像における蛍光シグナル部(規定の輝度値以上の部分)のみを、明視野VS画像上に重ねて表示する等といったことは、当然のこととする。
また、上記オーバラップ表示の際に、カウンターステイン部を、背景部と同様に非シグナル部として扱うことが可能といったことも当然のこととする。更に、オーバラップ表示を点滅させることができるといったことも当然可能とする。また、サイドバイサイドの表示状態で、マウスカーソルを例えば左側ウィンドウ120内に置くと、右側ウィンドウ121内の同一ウィンドウ座標にもカーソルが表示されるようにすることで、非オーバラップ状態でも明視野VS画像上と蛍光VS画像上の位置関係が容易に把握できるようにするといったことも当然のこととする。
以上説明したように、任意の注目領域に関して2種類の画像(明視野VS画像、蛍光VS画像)をサイドバイサイド(並列)表示又はオーバラップ表示させることができ、形態情報と相関のとれた蛍光VS画像の表示が行える。これを観察できるので、形態診断と分子診断を突き合わせることが可能となり、より精度の高い病理診断につなげることができる。更に、上記任意の注目領域に関する2種類の画像(明視野VS画像と蛍光VS画像)が完全に同じ部位の画像とはなっていない場合(多少の位置ズレが生じている場合)でも、手動により容易に位置ズレを補正することができる。
以下、他の実施形態について説明する。
上述した実施例では、スライドガラス標本の脱着に伴って生じ得る、標本19の位置ズレは、考慮しないか、もしくはズレ量はわずかであるので上述した手動による微調整で対応可能であることを前提とした処理を示している。
一方、以下に説明する他の実施形態では、スライドガラス標本の脱着に伴って標本19の位置ズレが生じる場合に対応する処理例を示す。
すなわち、図2の処理の際に標本19に対して行った、形態観察用のHE染色やパパニコロウ染色は、自家蛍光を発生するので、遺伝子/タンパクのシグナル検出を阻害する。そこで、電動ステージ20上に載置されている、HE染色等されたスライドガラス標本を、一旦取り出して、脱染色した後に蛍光標識を行い、再度、電動ステージ20上に載置するといったことが行われている。この様にスライドガラス標本を手作業で脱着すると、標本を完全に元の位置に戻せるとは限らず、XY座標の位置ズレ(平行位置ズレ)が生じる可能性がある。つまり、脱着作業前に求めた任意の箇所のXY座標を用いても同一箇所を見られるとは限らない。尚、通常、電動ステージ20上にはスライドガラスのガイドがある為、回転ズレは生じないと考えてよい。
当該他の実施の形態は、この様なスライドガラス標本の脱着に伴って生じるXY座標の位置ズレ(上記の通り回転ズレはないものと見做し、平行位置ズレのみとする)に対応するものである。
図10は、当該他の実施の形態による蛍光VS画像生成処理のフローチャート図である。
尚、図10に示す処理も、既に述べた通り、ホストシステム2が実行する。すなわち、図10の処理は、ホストシステム2内の不図示のCPU等が、不図示の記憶装置(ハードディスク等)に格納されている所定のアプリケーションプログラムを読み出し・実行することにより実現される。また、図10の処理は、図2の処理の際に用いた標本19を用いる(但し、上記の通り、図10の処理の前に、標本19に対して、脱染色→蛍光標識を行っている)。
図10において、まず、脱染色前の標本、すなわちHE染色等されたスライドガラス標本に対して上記図2等の処理によって作成されて格納されていた明視野VS画像ファイルをオープンする(ステップS190)。この処理に関しては、例えば、スライドガラス40上のラベル43等にバーコード印刷されているスライド標本番号を、ホストシステム2に接続されている不図示のバーコードリーダで読み出し、データ記録部4に格納されている画像ファイルを検索して、該当する明視野VS画像ファイルを自動選択するといったことも可能である(当然、この場合には、画像ファイル名にはスライド標本番号が含まれるようにしている)。
次に、ステップS200において、透過明視野観察法で偏射照明を実現すべく各種光学部材の光路への装脱制御を行う。すなわち、ホストシステム2は、顕微鏡コントローラ31を介して、透過明視野観察状態を構築すべく、落射シャッタ16を光路に挿入し、明視野観察用の光学キューブ25を光路に挿入し、透過照明用光源6を点灯するといった制御を行い、加えて、偏射照明を実現すべく透過開口絞り10を光軸から所定距離分ズラす。尚、偏射照明を行う理由は、脱染色・蛍光標識した標本は未励起状態では透明であり、通常の明視野観察では標本の位置を確認できない為である。尚、その意味で、偏射照明に限るものではなく、位相差観察法や微分干渉法を用いても良い。
次に、ステップS201において例えば4倍といった低倍の対物レンズ23を光路に挿入する。そして、ステップS202において、上記ステップS102と略同様の処理を行う。すなわち、図3に示すスライドガラス40上の所定の標本サーチ範囲41(例;縦25mm×横50mm)を、TVカメラ3に投影される撮影領域幅に応じて分割して成る上記各区画毎に、その画像を取得する処理を行う。つまり、電動ステージ20をXY方向移動して、各移動先での区画の顕微鏡像をTVカメラ3を介して取得することを繰り返し行う。これによって得られた複数の顕微鏡画像(低倍率による画像)間の結合を行うことで、標本サーチ範囲41全体の画像(低倍率による全体画像)を生成し、これをデータ記録部4にスライド全体像画像ファイルとして記憶する。
そして、ステップS203において、標本脱着に伴う標本の位置ズレ量を算出し、これに基づいて蛍光VS画像化を行うべき注目領域(例えば上記注目領域#1、#2等)の座標を補正する。すなわち、ステップS190でオープンした明視野VS画像ファイル中の標本サーチ範囲画像データ62と、ステップS202で生成した標本サーチ範囲41全体の画像との比較により、ズレ量(平行移動量)を算出する。具体的には例えば、既知の画像処理アルゴリズムを用いて、上記2つの標本サーチ範囲画像を標本部位と非標本部位とに2値化し、標本の輪郭抽出を行い、標本内部(輪郭内)を標本部(データ有り)として全て塗りつぶす。そして、各標本部の重心を求め、これら2つの重心座標の差を求め、これを用いて注目領域の座標を補正する。すなわち、図6の注目領域指定情報64内の左上コーナーX座標112、左上コーナーY座標113を補正する。尚、図7のように標本が複数ある場合には、任意の1つの標本に関して上記重心を求めても良い。
その後のステップS204〜S207の処理は、上述したステップS151、S153〜S155の処理と略同様であるので、その説明は省略する。これら処理によって蛍光VS画像が作成される。
尚、ステップS190〜S207までの蛍光VS画像作成処理は、自動化されており、オペレータは標本19(スライドガラス標本)を電動ステージ20に載せて、不図示の操作画面上で走査開始操作を行うだけで、腫瘍部位等の注目領域の蛍光VS画像が自動的に作成される。従って、本システムにスライドガラス標本搬送装置を追加すれば、夜間等に自動で複数の標本19の各注目領域の蛍光VS画像が作成されるシステムが実現できる。
また、ステップS190〜S207の各ステップで一時停止し、オペレータの操作介在を可能とすることで、例えば標本の位置ズレ量が予め任意に決められている規定値より大きい場合には、手動で修正が可能といったことは当然のこととする。
また、スライドガラス40上の非標本載置エリアに所定のマーキングが施されており、このマーキングを基に標本の位置ズレ量を求めることで、上記注目領域の座標の補正を行うようにしてもよい。
以上説明したように、本実施の形態によれば、スライドガラス標本の脱着に伴って標本19の位置がズレる場合でも、自動的に注目領域座標の補正が行われるので、問題なく、指定された注目領域(腫瘍部等)の蛍光VS画像が作成される。また、スライドガラス標本搬送装置等と組み合わせることで、複数の標本19の明視野又は蛍光のVS画像を自動作成できるので、省力化にもつながる。
以下、更に別の実施形態について説明する。
明視野VS画像生成の為に標本19に対してHE染色やパパニコロウ染色を行い、その後、蛍光VS画像生成の為にこの標本19に対して脱染色、抗原賦活化処理を行うといった方法は、手間が掛かるうえに、シグナル検出感度に悪影響を与える場合がある。そのため、組織標本の場合は、パラフィン包埋ブロックから新たな標本を薄切して、これに対して蛍光標識を行うといったことが行われる場合がある。その場合、HE染色標本と蛍光標識標本が別々のスライドガラス40上に作成されることになるので、上記平行位置ズレだけでなく、回転ズレも生じる可能性がある。
本実施の形態では、この様な場合にも対応して蛍光VS画像を生成できる手法を提案するものである。尚、本実施の形態の処理と上記図10の処理との違いは、ステップS203とS207のみであり、他の処理は略同様であるので、本処理のフローチャート図は特に示さずに説明するものとする。
まず、本実施の形態におけるステップS203の注目領域の座標の補正処理について、以下に説明する。
この処理では、ステップS190でオープンした明視野VS画像ファイル中の標本サーチ範囲画像データ62(以下、標本全体データAという)と、ステップS202で生成した標本サーチ範囲41の全体画像(以下、標本全体データBという)との比較により、ズレ量(平行移動量と回転量)を算出する。
具体的には例えば、既知の画像処理アルゴリズム(相関演算等)を用いて、上記2つの標本全体データA,Bを、それぞれ、標本部位と非標本部位とに2値化して標本の輪郭抽出を行い、標本内部(輪郭内)を標本部(データ有り)として全て塗りつぶす(標本部の領域を標本領域と呼ぶ)。そして、各標本領域の重心を求め、これら2つの重心座標の差を求める。次に、標本全体データBの標本領域の重心と標本全体データAの標本領域の重心とを一致させた状態で、例えば標本全体データBの標本領域を、その重心を中心にして所定角度(例;0.1度)単位で時計廻り又は反時計廻りに回転させ、標本全体データAの標本領域との差分の絶対値が最小になる角度(回転量)を求める。
この様にして求めた重心座標の差と回転量(回転方向も含まれる)が、両標本の電動ステージ20上での位置ズレ関係を表しており、当該求めた重心座標の差と回転量を用いて、明視野VS画像ファイル中に記録されている注目領域の座標をアフィン変換(平行移動、回転移動)することで、注目領域の座標値を補正し、補正後の座標値を上書き記録する。
次に、本実施形態のステップS207の処理では、上述した蛍光VS画像を生成する処理後に、更に、以下の処理が追加される。
すなわち、生成した蛍光VS画像は、同じ注目領域の明視野VS画像と比較すると、上記ステップS203で求めた回転量分だけ標本が回転された画像となっている。従って、生成した蛍光VS画像を、ステップS203で求めた回転方向と反対方向へ、求めた回転量に応じて回転させることで、蛍光VS画像を完成させて、これを蛍光VS画像ファイルとして記録する。
尚、ステップS203で求めたズレ量が予め決められている規定値より大きい場合は、手動で修正が可能といったことは当然のこととする。
以上説明した本実施形態によれば、スライドガラスへの標本の載せ方の差異に起因する、回転を含むXYθの座標のズレが生じても、所望する腫瘍部の蛍光VS画像を生成することができる。
上述したように、明視野観察法のもとで標本画像を生成後、蛍光観察法のもとでVS画像を作成する為に、明視野観察法の際に使用した通常染色標本を脱染色、蛍光標識する方法、もしくは連続切片の近傍切片を蛍光標識する方法を用いる為に生じる標本の位置ズレを検出して注目領域座標を補正することで、正しく、上記注目領域の蛍光VS画像を作成することができる。
本例の顕微鏡システム全体の構成例を示す図である。 第一の観察法(明視野観察)によるVS画像形成処理を示すフローチャート図である。 スライドガラス標本の一例を示す図である。 フォーカスマップ作成の為、標本領域全体の画像を多数の小区画に分割した状態を示す図である。 フォーカスマップのデータ構成例である。 VS画像ファイルのデータ構成例であり、(a)は全体構成、(b)〜(d)は各部の構成例である。 明視野VS画像を表示して任意の注目領域を指定させる例である。 各注目領域の蛍光VS画像の生成処理フローチャート図である。 注目領域のVS画像(2種類)の並列/オーバーラップ表示画面例である。 他の実施の形態による蛍光VS画像生成処理のフローチャート図である。
符号の説明
1 顕微鏡装置
2 ホストシステム
3 TVカメラ
4 データ記録部
5 モニター
6 透過照明用光源
7 コレクタレンズ
8 透過用フィルタユニット
9 透過視野絞り
10 透過開口絞り
11 コンデンサ光学素子ユニット
12 トップレンズユニット
13 落射照明用光源
14 コレクタレンズ
15 落射用フィルタユニット
16 落射シャッタ
17 落射視野絞り
18 落射開口絞り
19 標本
20 電動ステージ
21 ステージX−Y駆動制御部
22 ステージZ駆動制御部
23 対物レンズ
24 レボルバ
25 光学キューブ
26 接眼レンズ
27 ビームスプリッタ
28 微分干渉観察用のポラライザー
29 DIC (Differential Interference Contrast)プリズム
30 アナライザー
31 顕微鏡コントローラ
32 ビデオボード
33 カメラコントローラ
34 撮影座標記録部
40 スライドガラス
41 標本サーチ範囲
42 標本領域
43 ラベル
50 フォーカスマップ
51 配列番号
52 ステージ座標
60 VS画像ファイル
61 付帯情報
62 標本サーチ範囲画像データ
63 広視野・高精細画像データ
64 注目領域指定情報
71 観察法
72 スライド番号
73 標本サーチ範囲画像データの撮影倍率
81 VS画像領域指定数
82 各VS画像領域情報
83 撮影情報
84 フォーカスマップデータ
85 画像データ
91 撮影倍率
92 Scan開始(左上区画)ステージX座標
93 Scan開始(左上区画)ステージY座標
94 X方向のピクセル数
95 X方向のピクセル数
101 注目領域の個数
102 注目領域情報
111 VS画像領域NO.
112 左上コーナーX座標(ピクセル単位)
113 左上コーナーY座標(ピクセル単位)
114 幅(ピクセル数)
115 高さ(ピクセル単位)
116 関連ファイル情報
120 左側ウィンドウ
121 右側ウィンドウ
122 表示倍率指定ボタン
123 上下左右スクロールボタン
124 “並列/オーバーラップ”ボタン
125 矩形

Claims (4)

  1. 顕微鏡の対物レンズとスライドガラス標本を光軸に対して直交方向に相対的に移動させて取得した複数枚の顕微鏡画像群を相互に結合して成るVS画像を生成するVS画像生成手段を有する顕微鏡システムにおけるVS画像生成方法であって、
    形態観察用に染色されたスライドガラス上の標本に対して、明視野観察法のもとで前記VS画像生成手段により、該標本全体の明視野VS画像を生成させて、該生成した明視野VS画像を記憶し、
    前記明視野VS画像上で、蛍光画像取得領域である任意の1以上の注目領域を指定させて該注目領域の座標情報を記憶し、
    前記形態観察用に染色された標本を脱染色して蛍光観察用に蛍光標識する為に前記スライドガラス標本を前記顕微鏡システムに対して脱着した後、該蛍光標識されたスライドガラス上の標本に対して、偏射照明による明視野観察法のもとで、前記VS画像生成手段により、該標本全体の明視野VS画像を生成させて、該生成した明視野VS画像を記憶し、
    前記形態観察用に染色された標本及び前記蛍光標識された標本それぞれの前記明視野VS画像に基づいて、それぞれ標本の輪郭抽出を行って該輪郭内を標本部とし、該2つの標本部の重心座標の差を求め、該重心座標の差に基づいて前記注目領域の座標を補正し、
    次いで、前記補正された前記注目領域の座標情報に基づいて、蛍光観察法のもとで前記VS画像生成手段により、前記蛍光標識されたスライドガラス標本に対する前記注目領域の前記VS画像を生成させて、該生成された蛍光VS画像を記憶することを特徴とするVS画像生成方法。
  2. 前記偏射照明による明視野観察法に代えて、位相差観察法により蛍光観察用に蛍光標識されたスライドガラス標本のVS画像を生成させることを特徴とする請求項1記載のVS画像生成方法。
  3. 前記偏射照明による明視野観察法に代えて、微分干渉法により蛍光観察用に蛍光標識されたスライドガラス標本のVS画像を生成させることを特徴とする請求項1記載のVS画像生成方法。
  4. 前記蛍光標識された標本が、前記形態観察用に染色された標本の近傍切片である場合、
    前記形態観察用に染色された標本を脱染色して蛍光観察用に蛍光標識する為に前記スライドガラス標本を前記顕微鏡システムに対して脱着することに代えて、前記形態観察用に染色された標本を、該標本の近傍切片を蛍光観察用に蛍光標識した標本に交換する為に前記スライドガラス標本を前記顕微鏡システムに対して脱着するものあって、
    前記各標本部の重心座標の差に加えて該各標本部の回転ズレ量を求めて、前記注目領域の座標の補正は、該重心座標の差と回転ズレ量とを用いて行うことを特徴とする請求項1〜3の何れかに記載のVS画像生成方法。

JP2007175646A 2007-07-03 2007-07-03 顕微鏡システム、そのvs画像生成方法、プログラム Active JP4937850B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007175646A JP4937850B2 (ja) 2007-07-03 2007-07-03 顕微鏡システム、そのvs画像生成方法、プログラム
US12/343,748 US7932504B2 (en) 2007-07-03 2008-12-24 Microscope system and VS image production and program thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007175646A JP4937850B2 (ja) 2007-07-03 2007-07-03 顕微鏡システム、そのvs画像生成方法、プログラム

Publications (2)

Publication Number Publication Date
JP2009014939A JP2009014939A (ja) 2009-01-22
JP4937850B2 true JP4937850B2 (ja) 2012-05-23

Family

ID=40355914

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007175646A Active JP4937850B2 (ja) 2007-07-03 2007-07-03 顕微鏡システム、そのvs画像生成方法、プログラム

Country Status (2)

Country Link
US (1) US7932504B2 (ja)
JP (1) JP4937850B2 (ja)

Families Citing this family (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080145040A1 (en) * 2006-12-19 2008-06-19 Cytyc Corporation Simultaneous imaging of multiple specimen slides on a single slide stage
JP4558047B2 (ja) * 2008-01-23 2010-10-06 オリンパス株式会社 顕微鏡システム、画像生成方法、及びプログラム
JP5412149B2 (ja) * 2009-03-16 2014-02-12 オリンパス株式会社 画像撮像装置及びそれを備えた細胞画像解析システム
JP5278252B2 (ja) * 2009-08-31 2013-09-04 ソニー株式会社 組織切片像取得表示装置、組織切片像取得表示方法及び組織切片像取得表示プログラム
JP5338573B2 (ja) * 2009-08-31 2013-11-13 ソニー株式会社 蛍光像取得方法、蛍光像取得装置及び蛍光像取得プログラム
WO2011038402A2 (en) * 2009-09-28 2011-03-31 Bryan Dangott Apparatus, system, and method for simulating physical movement of a digital image
JP2011145645A (ja) * 2009-12-18 2011-07-28 Ihi Corp 顕微鏡装置及び標本撮影方法
EP2524221B1 (en) * 2010-01-12 2022-03-30 Nexcelom Bioscience LLC Systems for counting cells and biomolecules
CN202281746U (zh) * 2010-03-06 2012-06-20 伊鲁米那股份有限公司 检测来自样品光信号的测定设备及其光学组件和光学系统
ES2877098T3 (es) * 2010-05-03 2021-11-16 Ultra Electronics Forensic Tech Inc Vinculación de microscopios para el análisis de objetos que comprenden marcas de herramientas
JP5540896B2 (ja) * 2010-05-31 2014-07-02 株式会社ニコン 顕微鏡制御装置、撮像システムおよびプログラム
JP5585215B2 (ja) * 2010-05-31 2014-09-10 株式会社ニコン 顕微鏡制御装置、撮像システムおよびプログラム
JP5197712B2 (ja) * 2010-10-27 2013-05-15 キヤノン株式会社 撮像装置
JP2012118448A (ja) * 2010-12-03 2012-06-21 Sony Corp 画像処理方法、画像処理装置及び画像処理プログラム
US8970618B2 (en) * 2011-06-16 2015-03-03 University Of Leeds Virtual microscopy
DE102011079941A1 (de) * 2011-07-27 2013-01-31 Leica Microsystems Cms Gmbh Mikroskopbeleuchtungsverfahren und Mikroskop
DE102011079942B4 (de) * 2011-07-27 2016-12-15 Leica Microsystems Cms Gmbh Mikroskopbeleuchtungsverfahren und Mikroskop
JP5826561B2 (ja) * 2011-08-24 2015-12-02 オリンパス株式会社 顕微鏡システム、標本画像生成方法及びプログラム
JP5803442B2 (ja) * 2011-08-31 2015-11-04 株式会社ニコン 顕微鏡制御装置、顕微鏡装置、画像処理装置およびプログラム
JP5812095B2 (ja) * 2011-09-09 2015-11-11 コニカミノルタ株式会社 生体物質検出方法
JP5784435B2 (ja) * 2011-09-20 2015-09-24 オリンパス株式会社 画像処理装置、蛍光顕微鏡装置および画像処理プログラム
JP2013109119A (ja) * 2011-11-21 2013-06-06 Nikon Corp 顕微鏡制御装置およびプログラム
JP5940288B2 (ja) * 2011-11-30 2016-06-29 オリンパス株式会社 画像処理装置、顕微鏡システム、画像処理方法、及び画像処理プログラム
JP6218352B2 (ja) * 2011-12-15 2017-10-25 株式会社島津製作所 測定システムに用いられる表示装置、表示方法並びに表示プログラム
JP6053327B2 (ja) * 2012-05-23 2016-12-27 オリンパス株式会社 顕微鏡システム、標本画像生成方法及びプログラム
JP6019798B2 (ja) * 2012-06-22 2016-11-02 ソニー株式会社 情報処理装置、情報処理システム及び情報処理方法
JP5996334B2 (ja) * 2012-08-28 2016-09-21 オリンパス株式会社 顕微鏡システム、標本画像生成方法及びプログラム
JP6455829B2 (ja) * 2013-04-01 2019-01-23 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP6146265B2 (ja) * 2013-11-07 2017-06-14 ソニー株式会社 顕微鏡システムおよびオートフォーカス方法
JP6253400B2 (ja) * 2013-12-26 2017-12-27 オリンパス株式会社 画像形成方法、及び、画像形成装置
US10036880B2 (en) * 2014-11-07 2018-07-31 Olympus Corporation Microscope apparatus
JP6448996B2 (ja) 2014-11-25 2019-01-09 オリンパス株式会社 顕微鏡システム
JP6562626B2 (ja) * 2014-12-10 2019-08-21 キヤノン株式会社 顕微鏡システム
JP2017045124A (ja) * 2015-08-24 2017-03-02 株式会社日本自動車部品総合研究所 視差検出装置
US10823950B2 (en) * 2016-01-07 2020-11-03 Digital Surigcals PTE. LTD. Camera system with balanced monocular cues for use in digital stereo microscopes
CN109416465B (zh) * 2016-05-12 2022-09-09 生命技术公司 用于图像捕获和显示的系统、方法和设备
JP2018054690A (ja) 2016-09-26 2018-04-05 オリンパス株式会社 顕微鏡撮像システム
DE102017107348B4 (de) * 2017-04-05 2019-03-14 Olympus Soft Imaging Solutions Gmbh Verfahren zur zytometrischen Analyse von Zellproben
JP7135303B2 (ja) * 2017-11-15 2022-09-13 大日本印刷株式会社 コンピュータプログラム、検出装置、撮像装置、サーバ、検出器、検出方法及び提供方法
US11321881B2 (en) * 2017-12-01 2022-05-03 Sony Corporation Image coloring apparatus, image coloring method, image learning apparatus, image learning method, computer program, and image coloring system
CN115933154A (zh) * 2018-11-02 2023-04-07 豪洛捷公司 用于检视整个样本图像的系统
KR102302333B1 (ko) 2019-11-05 2021-09-16 주식회사 토모큐브 3차원 굴절률 영상과 딥러닝을 활용한 비표지 방식의 3차원 분자 영상 생성 방법 및 장치
US20210149170A1 (en) * 2019-11-15 2021-05-20 Scopio Labs Ltd. Method and apparatus for z-stack acquisition for microscopic slide scanner
CN113395595B (zh) * 2020-03-12 2023-03-24 平湖莱顿光学仪器制造有限公司 一种密度相关的智能二维视频播放方法及其视频装置
US11782254B2 (en) * 2020-07-24 2023-10-10 United Scope LLC Digital microscopy system and graphical user interface

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09281405A (ja) 1996-04-17 1997-10-31 Olympus Optical Co Ltd 顕微鏡システム
US6031930A (en) 1996-08-23 2000-02-29 Bacus Research Laboratories, Inc. Method and apparatus for testing a progression of neoplasia including cancer chemoprevention testing
US6272235B1 (en) 1997-03-03 2001-08-07 Bacus Research Laboratories, Inc. Method and apparatus for creating a virtual microscope slide
JPH10333056A (ja) 1997-05-28 1998-12-18 Nikon Corp 顕微鏡装置及び画像作成方法
JPH11271645A (ja) * 1998-03-25 1999-10-08 Nikon Corp 顕微鏡画像表示装置
US20030210262A1 (en) * 2002-05-10 2003-11-13 Tripath Imaging, Inc. Video microscopy system and multi-view virtual slide viewer capable of simultaneously acquiring and displaying various digital views of an area of interest located on a microscopic slide
JP2004101871A (ja) * 2002-09-10 2004-04-02 Olympus Corp 顕微鏡画像撮影装置
DE102004034963A1 (de) * 2004-07-16 2006-02-16 Carl Zeiss Jena Gmbh Verfahren zur bildlichen Erfassung von Objekten mittels eines Lichtrastermikroskopes
WO2006033273A1 (ja) * 2004-09-22 2006-03-30 Nikon Corporation 顕微鏡システムおよび画像処理方法
JP2006343573A (ja) * 2005-06-09 2006-12-21 Olympus Corp 顕微鏡システム、観察方法および観察プログラム
JP4878815B2 (ja) * 2005-06-10 2012-02-15 オリンパス株式会社 顕微鏡装置
US7417213B2 (en) * 2005-06-22 2008-08-26 Tripath Imaging, Inc. Apparatus and method for rapid microscopic image focusing having a movable objective
JP2007108223A (ja) * 2005-10-11 2007-04-26 Olympus Corp 顕微鏡システム

Also Published As

Publication number Publication date
US7932504B2 (en) 2011-04-26
US20090212242A1 (en) 2009-08-27
JP2009014939A (ja) 2009-01-22

Similar Documents

Publication Publication Date Title
JP4937850B2 (ja) 顕微鏡システム、そのvs画像生成方法、プログラム
US7929738B2 (en) Microscope apparatus and microscope system
JP6437947B2 (ja) 全自動迅速顕微鏡用スライドスキャナ
JP4970869B2 (ja) 観察装置および観察方法
US20100141752A1 (en) Microscope System, Specimen Observing Method, and Computer Program Product
JP6186634B2 (ja) デジタル顕微鏡を備えたシステム及びこれを用いた試料の検査方法
JP5782243B2 (ja) 被写界深度が向上した撮像システム及び撮像方法
JP5996334B2 (ja) 顕微鏡システム、標本画像生成方法及びプログラム
US20110090327A1 (en) System and method for imaging with enhanced depth of field
JP6053327B2 (ja) 顕微鏡システム、標本画像生成方法及びプログラム
JP5651423B2 (ja) 被写界深度が向上した撮像システム及び撮像方法
JP6120675B2 (ja) 顕微鏡システム、画像生成方法及びプログラム
JP2006343573A (ja) 顕微鏡システム、観察方法および観察プログラム
JP6448996B2 (ja) 顕微鏡システム
JP4878815B2 (ja) 顕微鏡装置
JP5826561B2 (ja) 顕微鏡システム、標本画像生成方法及びプログラム
JP6447675B2 (ja) 情報処理装置、情報処理方法、プログラム及び顕微鏡システム
US20160062101A1 (en) Method and apparatus for small and large format histology sample examination
JP4847101B2 (ja) 顕微鏡システム
US7865007B2 (en) Microscope system, observation method and observation program
JP5677770B2 (ja) 医療診断支援装置、バーチャル顕微鏡システムおよび標本支持部材
JP2005266718A (ja) 顕微鏡画像撮影システム
JP4046161B2 (ja) 標本画像データ処理方法及び標本検査システム
JP5197246B2 (ja) 顕微鏡システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090703

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111031

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120113

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120207

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120222

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150302

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4937850

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150302

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250