JP2015125326A - 画像形成方法、及び、画像形成装置 - Google Patents

画像形成方法、及び、画像形成装置 Download PDF

Info

Publication number
JP2015125326A
JP2015125326A JP2013270349A JP2013270349A JP2015125326A JP 2015125326 A JP2015125326 A JP 2015125326A JP 2013270349 A JP2013270349 A JP 2013270349A JP 2013270349 A JP2013270349 A JP 2013270349A JP 2015125326 A JP2015125326 A JP 2015125326A
Authority
JP
Japan
Prior art keywords
image
phase distribution
biological sample
phase
microscope
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013270349A
Other languages
English (en)
Other versions
JP6253400B2 (ja
Inventor
中正 英二
Eiji Nakamasa
英二 中正
石渡 裕
Yutaka Ishiwatari
裕 石渡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2013270349A priority Critical patent/JP6253400B2/ja
Priority to US14/571,244 priority patent/US20150185460A1/en
Publication of JP2015125326A publication Critical patent/JP2015125326A/ja
Application granted granted Critical
Publication of JP6253400B2 publication Critical patent/JP6253400B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/16Microscopes adapted for ultraviolet illumination ; Fluorescence microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0056Optical details of the image generation based on optical coherence, e.g. phase-contrast arrangements, interference arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/008Details of detection or image processing, including general computer control

Abstract

【課題】生化学的な現象及び/又は物理学的な現象が生じている生体試料中の部位の位置や生化学的な現象及び/又は物理学的な現象が生体試料の形状や構造に及ぼす影響を正確に把握することができる画像を形成する。【解決手段】位相分布を像強度分布に変換する顕微鏡で形成される生体試料の光学像を像コントラストを変化させながら取り込んで複数の画像を形成する(S1)。複数の画像に基づいて算出した生体試料の位相分布に対応する成分をそれ以外の成分で割って位相成分画像を形成する(S3)。位相成分画像を複数の周波数成分に分解する(S5)。屈折成分と構造成分に対して対応する光学的応答特性を用いてデコンボリューション処理を行い屈折成分と構造成分の位相分布を算出する(S7)。屈折成分と構造成分の位相分布を合成して生体試料の位相分布を算出し位相分布画像を形成する(S9)。位相分布画像と生体試料の生化学的な現象及び/又は物理学的な現象を可視化した画像を合成する。【選択図】図1

Description

本発明は、生体試料の画像を形成する方法及び装置に関し、特に、生体試料の位相分布に基づく画像と生体試料が発光した光に基づく画像とを合成して生体試料の画像を形成する方法及び装置に関する。
生体細胞または生体組織(これらをまとめて、以降、生体試料と記す)の観察法としては、様々な観察法が知られているが、現時点において、生体試料を3次元的に観察する場合に用いられる観察法としては、蛍光共焦点顕微鏡を用いた蛍光観察法が最も一般的である。
しかしながら、蛍光観察法では、蛍光を発する物質(蛍光物質)を特定のたんぱく質や酵素と結びつけることで生体試料の生化学的な現象及び物理学的な現象を可視化することができる一方で、生体試料全体の形状や生体細胞の形状を把握することが難しい。これは、蛍光観察法では、蛍光物質と結びついているたんぱく質や酵素のみが発光するからである。例えば、蛍光物質を細胞膜や細胞質と結び付けることで細胞の形状を把握することは可能であるが、このような追加の作業が行われた場合であっても、蛍光物質と結びついていない細胞の形状は把握できず、生体試料全体の形状を把握することはできない。
このため、近年では、蛍光観察法のような生体試料の生化学的な現象及び物理学的な現象を可視化するのに適した観察法で取得した生体試料の画像を、生体試料の形状や構造を把握するのに適した他の観察法で取得した生体試料の画像と合成して、その合成画像(以降、このような異なる観察法で取得された画像を合成して形成された画像を、異種合成画像と記す)によって生体試料を観察する技術が提案されている。これに関連する技術は、例えば、特許文献1に開示されている。
なお、上述の技術において、生体試料の形状や構造を把握するのに適した観察法としては、特許文献1に開示される微分干渉(DIC)観察法や、位相差観察法など、位相物体である生体試料の位相分布を像強度分布に変換して可視化する観察法が一般的である。また、生体試料の生化学的な現象及び物理学的な現象を可視化するのに適した観察法としては、特許文献1に開示される蛍光観察法の他に、生体試料が発光した光を検出する任意の方法が採用され得る。
特開平09−179034号公報
ところで、DIC観察法は、厳密には、生体試料の位相分布の微分値を可視化するものであり、位相分布自体を可視化するものではない。また、位相差観察法も、位相分布自体を可視化するものではないという点において、DIC観察法と同様である。さらに、DIC観察法と位相差観察法では、セクショニング効果が生じないため、焦点面からずれた面のボケ像の影響を強く受けた画像が生成されてしまうといった課題もある。
これらの理由から、DIC観察法や位相差観察法では、生体試料の正確な形状や構造を把握することが難しい。従って、これらの観察法で取得された画像を用いて形成された異種合成画像から、生化学的な現象及び/又は物理学的な現象が生じている生体試料中の部位の位置や生化学的な現象及び/又は物理学的な現象が生体試料の形状や構造に及ぼす影響を正確に把握することは難しい。
以上のような実情を踏まえ、本発明は、生化学的な現象及び/又は物理学的な現象が生じている生体試料中の部位の位置や生化学的な現象及び/又は物理学的な現象が生体試料の形状や構造に及ぼす影響を正確に把握することができる画像を形成する技術を提供することを目的とする。
本発明の第1の態様は、位相分布を像強度分布に変換する顕微鏡によって形成される生体試料の光学像を、像コントラストを変化させながら取り込み、像コントラストの異なる複数枚の画像を形成する像コントラスト画像形成工程と、前記複数枚の画像に基づいて前記生体試料の位相分布に対応する成分と前記生体試料の位相分布以外に対応する成分とを算出して、前記位相分布に対応する成分を前記生体試料の位相分布以外に対応する成分で割り算することで規格化された位相成分画像を形成する位相成分画像形成工程と、前記位相成分画像を、画像の空間周波数により複数の周波数成分に分解する空間周波数分解工程と、前記周波数成分の各々に対して各々に対応する光学的応答特性を用いてデコンボリューション処理を行い、前記生体試料の内部で屈折した光によって形成された屈折成分の位相分布と前記生体試料の内部の構造で回折した光によって形成された構造成分の位相分布を算出する位相分布算出工程と、前記屈折成分の位相分布と前記構造成分の位相分布を合成して前記生体試料の位相分布を算出し、算出した前記生体試料の位相分布から位相分布画像を形成する生体試料の位相分布合成工程と、前記位相分布合成工程で形成された前記生体試料の位相分布画像と、前記位相分布画像とは異なる方法で取得された前記生体試料の生化学的な現象及び/又は物理学的な現象を可視化した前記生体試料の画像とを合成する異種画像合成工程と、を有する生体試料の画像形成方法を提供する。
本発明の第2の態様は、第1の態様に記載の画像形成方法において、前記顕微鏡は、観察物体の位相分布を像強度分布として撮像する微分干渉顕微鏡であり、さらに、前記顕微鏡のシァー方向を切り替える工程と、切り替え前後の2方向のシァー方向で算出された前記生体試料の2つの位相分布を合成する工程と、を有する画像形成方法を提供する。
本発明の第3の態様は、第1の態様または第2の態様に記載の画像形成方法において、さらに、観察面に対するデフォーカス状態での光学的応答特性を用いて前記構造成分にデコンボリューション処理を行って前記構造成分の第2の位相分布を算出する第2位相分布算出工程と、前記構造成分の第2の位相分布と前記観察面に対する合焦状態での光学的応答特性を用いて算出された前記構造成分の位相分布とを比較する位相分布比較工程と、位相分布の比較結果に基づいて、前記構造成分の位相分布から前記デフォーカスによるボケが生じた位相分布を取り除くボケ位相分布除去工程と、を有し、前記生体試料の位相分布合成工程は、前記構造成分の位相分布から前記デフォーカスによるボケが生じた位相分布が取り除かれた位相分布と、前記屈折成分の位相分布とを合成する画像形成方法を提供する。
本発明の第4の態様は、第1の態様乃至第3の態様のいずれか1つに記載の画像形成方法において、さらに、観察面に対して焦点面を光軸方向に変化させる焦点面変更工程と、各焦点面で算出された前記構造成分の位相分布を比較して、前記観察面の上下に存在する前記生体試料の構造から前記観察面に漏れこむ位相分布を識別する漏れ位相分布識別工程と、識別された位相分布を前記構造成分の位相分布から取り除く漏れ位相分布除去工程と、を有する画像形成方法を提供する。
本発明の第5の態様は、第1の態様乃至第4の態様のいずれか1つに記載の画像形成方法において、異種画像合成工程は、前記位相分布画像の座標情報と前記位相分布画像とは異なる方法で取得された前記画像の座標情報とに基づいて画像間の位置合わせを行う工程と、位置合わせが行われた前記位相分布画像と前記位相分布画像とは異なる方法で取得された前記画像とを合成する工程と、を有する画像形成方法を提供する。
本発明の第6の態様は、第1の態様乃至第4の態様のいずれか1つに記載の画像形成方法において、異種画像合成工程は、前記位相分布画像の座標情報及び角度情報と前記位相分布画像とは異なる方法で取得された前記画像の座標情報及び角度情報とに基づいて画像間の位置合わせを行う工程と、位置合わせが行われた前記位相分布画像と前記位相分布画像とは異なる方法で取得された前記画像とを合成する工程と、を有する画像形成方法を提供する。
本発明の第7の態様は、第5の態様または第6の態様に記載の画像形成方法において、異種画像合成工程は、さらに、前記位相分布画像の倍率情報と前記位相分布画像とは異なる方法で取得された前記画像の倍率情報とに基づいて画像間の倍率合わせを行う工程を有する画像形成方法を提供する。
本発明の第8の態様は、第1の態様乃至第7の態様のいずれか1つに記載の画像形成方法において、前記位相分布画像とは異なる方法で取得された前記画像は、前記生体標本が発光した光に基づいて形成される画像である画像形成方法を提供する。
本発明の第9の態様は、第8の態様に記載の画像形成方法において、前記位相分布画像とは異なる方法で取得された前記画像は、前記生体標本の蛍光画像である画像形成方法を提供する。
本発明の第10の態様は、生体試料の位相分布を像強度分布に変換する顕微鏡であって、前記像強度分布の像コントラストを変化させる像コントラスト変化ユニットを有する顕微鏡と、像コントラストの異なる複数枚の画像を取得するように、前記像コントラスト変化ユニットを制御する制御ユニットと、第1の態様に記載の位相分布計測方法により、前記制御ユニットによる制御により取得された前記複数枚の画像から前記生体試料の位相分布を算出し、算出した前記生体試料の位相分布から位相分布画像を形成する演算ユニットと、前記位相分布画像とは異なる方法で取得された前記生体試料の生化学的な現象及び/又は物理学的な現象を可視化した前記生体試料の画像と、前記演算ユニットで形成された前記生体試料の位相分布画像と、を合成する合成ユニットと、を有する画像形成装置を提供する。
本発明の第11の態様は、生体試料の位相分布を像強度分布に変換する顕微鏡であって、前記像強度分布の像コントラストを変化させる像コントラスト変化ユニットを有する顕微鏡と、像コントラストの異なる複数枚の画像を取得するように、前記像コントラスト変化ユニットを制御する制御ユニットと、第5の態様に記載の位相分布計測方法により、前記制御ユニットによる制御により取得された前記複数枚の画像から前記生体試料の位相分布を算出し、算出した前記生体試料の位相分布から位相分布画像を形成する演算ユニットと、前記位相分布画像とは異なる方法で取得された前記生体試料の生化学的な現象及び/又は物理学的な現象を可視化した前記生体試料の画像と、前記演算ユニットで形成された前記生体試料の位相分布画像と、を合成する合成ユニットと、を有する画像形成装置を提供する。
本発明の第12の態様は、生体試料の位相分布を像強度分布に変換する顕微鏡であって、前記像強度分布の像コントラストを変化させる像コントラスト変化ユニットを有する顕微鏡と、像コントラストの異なる複数枚の画像を取得するように、前記像コントラスト変化ユニットを制御する制御ユニットと、第9の態様に記載の位相分布計測方法により、前記制御ユニットによる制御により取得された前記複数枚の画像から、前記観察面の上下に存在する前記生体試料の構造から漏れこむ位相分布を取り除いた前記生体試料の位相分布を算出し、算出した前記生体試料の位相分布から位相分布画像を形成する演算ユニットと、前記位相分布画像とは異なる方法で取得された前記生体試料の生化学的な現象及び/又は物理学的な現象を可視化した前記生体試料の画像と、前記演算ユニットで形成された前記生体試料の位相分布画像と、を合成する合成ユニットと、を有する画像形成装置を提供する。
本発明の第13の態様は、第10の態様乃至第12の態様のいずれか1つに記載の画像形成装置において、前記位相分布画像とは異なる方法で取得された前記画像は、前記顕微鏡で取得される画像形成装置を提供する。
本発明の第14の態様は、第13の態様に記載の画像形成装置において、前記位相分布画像とは異なる方法で取得された前記画像は、前記生体標本が発光した光に基づいて形成される画像である画像形成装置を提供する。
本発明の第15の態様は、第14の態様に記載の画像形成装置において、前記位相分布画像とは異なる方法で取得された前記画像は、前記生体標本の蛍光画像である画像形成装置を提供する。
本発明によれば、生化学的な現象及び/又は物理学的な現象が生じている生体試料中の部位の位置や生化学的な現象及び/又は物理学的な現象が生体試料の形状や構造に及ぼす影響を正確に把握することができる画像を形成する技術を提供することができる。
本発明の一実施形態に係る位相分布計測方法のフローチャートである。 本発明の一実施形態に係る位相分布計測方法の別のフローチャートである。 観察面に対する合焦状態での構造成分に対応する光学的応答特性を示す図である。 生体試料の3次元的な構造を説明するための図である。 合焦状態での光学的応答特性により得られる位相分布を模式的に示した図である。 デフォーカスによるボケが生じた位相分布を再生する方法の一例を説明するための図である。 観察面に対するデフォーカス状態での構造成分に対応する光学的応答特性を示した図である。 本発明の一実施形態に係る位相分布計測方法のさらに別のフローチャートである。 デフォーカスによるボケが生じた位相分布を再生する方法の別の例を説明するための図である。 本発明の一実施形態に係る異種合成画像形成方法のフローチャートである。 本発明の実施例1に係る顕微鏡システムの構成を例示した図である。 観察面に対する合焦状態での屈折成分に対応する光学的応答特性を示す図である。 図11に示す顕微鏡システムによって得られるiPS細胞の位相分布を示す図である。 図13Aから観察位置を光軸方向に3μm上方に変化させたときに、図11に示す顕微鏡システムによって得られるiPS細胞の位相分布を示す図である。 図13Bから観察位置を光軸方向に3μm上方に変化させたときに、図11に示す顕微鏡システムによって得られるiPS細胞の位相分布を示す図である。 本発明の実施例1に係る異種合成画像形成方法のフローチャートである。 本発明の実施例2に係る顕微鏡システムの構成を例示した図である。 図15に示す顕微鏡システムに含まれる偏光板の回転について説明するための図である。 本発明の実施例3に係る顕微鏡システムの構成を例示した図である。 図17に示す顕微鏡システムによって得られる小腸のクリプト組織の細胞の位相分布画像を示す図である。 図18Aに示す小腸のクリプト組織の細胞の蛍光画像を示す図である。 図18Aと図18Bに示す画像を合成した画像を示す図である。 本発明の実施例4に係る顕微鏡システムの構成を例示した図である。 本発明の実施例4に係る異種合成画像形成方法のフローチャートである。 本発明の実施例5に係る顕微鏡システムの構成を例示した図である。 本発明の実施例6に係る顕微鏡システムの構成を例示した図である。 本発明の実施例7に係る顕微鏡システムの構成を例示した図である。 本発明の実施例8に係る顕微鏡システムの構成を例示した図である。 本発明の実施例9に係る顕微鏡システムの構成を例示した図である。
まず、本願発明が対象とする試料である生体試料について説明する。
3次元的な構造を有する生体試料は、無色透明ではあるが、その内部組成の違いなどにより透過する光の位相を変化させるという性質を有している。このことから、生体試料は3次元に連続的に変化する位相分布を有する位相物体であると看做すことができる。このため、生体試料の3次元的な位相分布を得ることができれば、その3次元構造を知ることができる。
本願発明では、生体試料(位相物体)のうちの光軸方向に特定の厚みのある観察領域の位相分布を検出する。生体試料の3次元的な位相分布は、光軸方向の位置が異なる複数の観察領域の位相分布を接続することにより得られる。これは、観察物体内の蛍光色素の3次元位置座標を検出して、検出した位置座標から3次元像を形成する蛍光共焦点顕微鏡とは全く異なる技術である。
次に、生体試料に限らない位相物体全般の位相分布の計測に関する本願発明者によるこれまでの研究成果と、本願発明者が新たに見出した生体試料の位相分布の計測に関する課題について概説する。
特開2008−102294号公報には、位相物体は、明視野観察が行われると合焦位置では像は発生しないが焦点から外れた位置で像コントラストが発生するという特性を有することが開示されている。また、特開平9−15504号公報には、微分干渉顕微鏡で位相物体を観察したときの像強度分布には位相分布の微分を表す像強度分布以外に複数の像成分が含まれることが開示されている。
本願発明者は、特開平9−15504号公報で示した複数の像成分には、特開2008−102294号公報で示したデフォーカスによって発生した像成分が含まれること、及び、位相物体が3次元的に構造を有する場合にはデフォーカスによって発生した像成分(観察領域外の位相分布による像成分)が観察に与える影響も無視できないこと、を新たに見出した。
また、特開平9−15504号公報には、微分干渉顕微鏡で生じる2つの偏光のリターデーション量を変化させることにより像コントラストを変化させた画像を複数枚取り込み、それらに対して差演算と和演算を行い、それによって得られた差演算画像を和演算画像で規格化することで、位相物体の位相分布に微分干渉顕微鏡の光学的応答特性(OTF:Optical Transfer Function光学的伝達関数ともいう)をコンボリューションした像成分のみを抽出できることが開示されている。この技術は、観察位置を移動させることなく偏光のリターデーション量を変化させても特開2008−102294号公報で示すデフォーカス量に対応した像成分が変化しないことを利用するものである。より詳細には、偏光のリターデーション量を対称(±θ)に変化させて取得した画像を差演算することでデフォーカス量に対応した像成分を取り除き、観察物体の位相分布と微分干渉顕微鏡の光学的応答特性とがコンボリューションされた像強度分布のみを求めるというものである。なお、特開平9−15504号公報には、このようにして算出した像強度分布を微分干渉顕微鏡の光学的応答特性を用いてデコンボリューションすることで観察物体の位相分布が得られることについても、開示されている。
微分干渉顕微鏡の光学的応答特性の値は、空間周波数が0に近い低周波帯域とカットオフ周波数近傍の周波数帯域とで0に近づく。このため、デコンボリューション処理の際に0割が発生し得るが、この問題はウィナーフィルターを工夫することで改善できる。特開2006−300714号公報は、このような対応では緩やかな勾配を持つ物体の位相分布を求めるときには精度が低下するという課題を示し、部分的に積分処理することでこの課題を改善できることを開示している。
本願発明者は、特に生体試料の観察では、核などに位相分布が緩やかな勾配を持つ部分が多いためデコンボリューション処理を行う際に偽像が発生することがあること、顆粒状の組織などが多いため積分処理を行う際にノイズが連鎖することがあること、を新たに見出した。また、生体試料(生体組織や細胞コロニー)は光軸方向に構造が広がっているため、ノマルスキープリズムのローカライズ位置の微小なずれで視野ムラが発生し、観察領域内にうねりが発生することについても、新たに見出した。
以下では、このような新たな課題を改善して、生体試料の観察領域内の位相分布を精度良く求める方法について、図1を参照しながら説明する。
まず、微分干渉顕微鏡など位相分布を像強度分布に変換する顕微鏡によって形成される生体試料の光学像を撮像素子における像コントラストを変化させながら取り込み、像コントラストの異なる複数枚の画像を形成する(図1のステップS1(像コントラスト画像形成工程))。
そして、形成した複数枚の画像に基づいて生体試料の位相分布に対応する成分と生体試料の位相分布以外に対応する成分とを算出する。この位相分布以外に対応する成分には、例えば、生体試料の吸収による成分や照明分布による成分などが含まれる。その後、算出した位相分布に対応する成分を位相分布以外に対応する成分で割り算することで、規格化された位相分布に対応する成分の画像(以下、規格化された位相成分画像)を形成する(図1のステップS3(位相成分画像形成工程))。なお、この手順は、例えば、特開平09−015504号公報に開示されている。
次に、得られた規格化された位相成分画像を、空間周波数が最も低い背景成分と、生体試料の内部で屈折した光によって形成された屈折成分と、生体試料の内部の構造で回折した光によって形成された空間周波数が最も高い構造成分と、に分解する。つまり規格化された位相成分画像を、画像の空間周波数により複数の周波数成分に分解する(図1のステップS5(空間周波数分解工程))。
なお、上述した視野ムラは、空間周波数で考えると観察範囲内で高々4周期程度の周波数成分からなるため、その影響は背景成分に表れると考えられる。また、例えば核など、位相分布が緩やかな勾配を持つ生体試料の部分は、顕微鏡のカットオフ周波数の高々10分の1程度の周波数帯域を有するため、屈折成分として検出される。また、例えば顆粒状の組織などの生体試料の微細構造は、これらよりも高い周波数帯域を有するため、構造成分として検出される。
さらに、像強度分布である屈折成分及び構造成分の各々と各々に対応する光学的応答特性とをデコンボリューション処理し、屈折成分の位相分布と構造成分の位相分布とを別々に算出する(図1のステップS7(位相分布算出工程))。そして、それらを合成することによって、生体試料の位相分布を算出し、算出した位相分布から位相分布画像を形成する(図1のステップS9(生体試料の位相分布合成工程))。
以上のように、規格化された位相成分画像を3つの成分に分解し、さらに、デコンボリューション処理には、背景成分を除く屈折成分と構造成分の2つの成分を用いる。このため、背景成分に表れる視野ムラの影響を抑えることができる。また、屈折成分と構造成分は、それぞれに応じた別々の光学的応答特性でデコンボリューション処理される。このため、偽像の発生やノイズの連鎖を抑制することができる。従って、この方法によれば、より正確な生体試料の位相分布を取得することができる。また、正確な生体試料の位相分布から生体試料の形状や構造を正確に把握することができる位相分布画像を形成することができる。
なお、規格化された位相成分画像をフーリエ変換して周波数だけに注目して3つの周波数成分に分解すると、分解することによってノイズが発生することがある。このため、上記の方法では、規格化された位相成分画像を3成分に分解する際に、画像を平均化処理するローパスフィルタリングを用いることが望ましい。例えば、規格化された位相成分画像に、比較的大きな平均化領域を持つ平均化フィルターでコンボリューション処理を複数回行うことにより、背景成分の画像を形成する。さらに、規格化された位相成分画像から背景成分の画像を引き算して得られる画像に、平均化領域を背景成分より小さくした平均化フィルターでコンボリューション処理を複数回行うことにより、屈折成分の画像を形成する。最後に、規格化された位相成分画像から背景成分の画像と屈折成分の画像を引き算して、構造成分の画像を形成する。このように、規格化された位相成分画像にカーネルサイズが異なるフィルターで画像の平均化処理を行って、規格化された位相成分画像を背景成分、屈折成分、構造成分に分解することが望ましい。
また、微分干渉顕微鏡を用いる場合であれば、シァー(shear)方向に対して垂直な方向の位相分布に対応する像コントラストは得られないため、画像の像強度分布からシァー方向の位相分布を算出することは困難である。このため、シァー方向を切り替えることで、図1に示す方法により直交する2つのシァー方向で位相分布を算出し、得られた位相分布を合成することが望ましい。なお、シァー方向を切り替えて得られた2つの位相分布を合成する技術は、特開平9−15504号公報にも開示されている。
図1に示す方法により例えば、ステップS1で2つのシァー方向の微分干渉画像を得るためには、ノマルスキープリズムを切り替えることにより、または、単一のノマルスキープリズムを回転させることにより、シァー方向を切り替える必要がある。ノマルスキープリズムの平行度や取り付け角度などを調整した場合であっても、切り替え前後では数ピクセル程度の画像の移動が発生してしまうため、算出される位相分布に位置ずれが生じることを避けることは困難である。そして、この位置ずれを補正することなくこれらの位相分布を合成すると、合成した位相分布にブレが生じてしまう。このため、直交する2つのシァー方向で算出された位相分布を合成する場合には、シァー方向の切り替え時に発生する画像移動を検出して、これらの画像の合成前に、位置を補正することが望ましい。
なお、構造成分をデコンボリューション処理して算出した位相分布は、シァー方向にほぼ垂直な方向に広がっている構造以外の分布は物体構造に対応した分布となる。このため、シァー方向を切り替えて算出した構造成分の2つの位相分布の類似性は、他の成分(背景成分、屈折成分)の場合と比較して非常に高くなる。この特性を利用して、例えば、2方向のシァー方向で算出された構造成分の2つの位相分布の相関からシァー方向を切り替える際に発生する画像の位置ずれ量を算出し、算出された位置ずれ量を用いて切り替え前後の2方向のシァー方向で算出した生体試料の2つの位相分布の位置ずれを補正することが望ましい。これにより、合成後の位相分布のブレを抑制することができる。なお、相関は、例えば位相限定相関法によって得ることができる。また、このシァー方向の違いにより発生する位置ずれを補正し、合成することは図1では、ステップS7とステップS9の間に行なわれることが望ましい。
位相差顕微鏡や微分干渉顕微鏡は無染色で生体細胞や組織を観察することが可能な顕微鏡であるが、観察物体が3次元的に複雑な構造を持つと、観察位置の上下にある生体細胞や組織のボケ像が観察像に混入する。これにより、実際の観察位置の構造とは異なる像強度分布が発生するため、生体細胞や組織の構造の確認が難しくなり、変異や変質の確認が困難となる場合がある。以下では、このような課題を改善して、生体試料の観察領域内の位相分布をさらに精度良く求める方法について、図2から図7を参照しながら説明する。
一般に光学的応答特性OTFは、MTF・exp(2πi・PTF)で表される。ここで、MTFは変調伝達関数(MTF:Modulation Transfer Function)であり、PTFは位相伝達関数(PTF:Phase Transfer Function)である。観察物体が光学系の合焦位置にあり、且つ、光学系が無収差であるときには、PTF=0となるため、OTFは、MTFとなり、MTFのみに依存する。ただし、観察物体が光学系の合焦位置から外れるときや収差が発生したときにはPTF≠0となるため、OTFとして、MTF・exp(2πi・PTF)を用いる必要がある。上述した特開平9−15504号公報では、説明を簡略化するために、観察物体が合焦位置にあり且つ光学系が無収差であると仮定して、デコンボリューション処理を行うときにMTFのみに依存するOTFを用いている。
なお、図3は、観察物体が光学系の合焦位置にあり、且つ、光学系が無収差であるときの顕微鏡のOTFを示した図である。図3に示すL1とL2は、それぞれ、同じ対物レンズとコンデンサレンズを備えた明視野顕微鏡と微分干渉顕微鏡のOTFを示している。なお、明視野顕微鏡のMTFは、対物レンズの開口数(以降、NAと記す)とコンデンサレンズのNAにより定まるのに対して、微分干渉顕微鏡のMTFは、明視野顕微鏡のMTFとsin(πΔf)の積で定まる。なお、ここで、Δはシァー量であり、fは空間周波数である。このような明視野顕微鏡のMTFと微分干渉顕微鏡のMTFとの関係は、例えば、特開2008−102294に記載されている。
3次元的な構造を有する生体試料には、観察光学系の合焦位置(図4のZ)に位置する部分(構造C2)と合焦位置から外れた位置(図4の+ΔZ、−ΔZ)に位置する部分(構造C1、C3)が存在する。なお、図4は、紙面左右方向がある光軸方向の位置での光軸に垂直な面内の観察物体の位置を、上下方向の楕円の厚みが位相量を、示すよう模式化した図である。特開平9−15504号公報のように、MTFのみに依存するOTFを用いてデコンボリューション処理を行うと、図5に示すように、合焦位置に位置する部分(構造C2)に対応した位相分布が再生されるとともに、合焦位置から外れた位置にある部分(構造C1、C3)の位相分布がPTFの影響を受けてその位相分布より小さい位相量で再生される。これは、合焦位置から外れた位置にある部分はその位相分布とMTF・exp(2πi・PTF)のコンボリューションにより得られる像強度分布であり、本来はMTF・exp(2πi・PTF)を用いてデコンボリューション処理を行うべきところを、MTFを用いてデコンボリューション処理が行われたためである。
一方で、合焦位置から外れた位置に対応したPTFを計算により算出してMTF・exp(2πi・PTF)を用いてデコンボリューション処理を行うと、この合焦位置から外れた部分に対応した位相分布が再生されるとともに、合焦位置に位置する部分の位相分布はPTFの影響を受けてその位相分布より小さい位相量で再生される。これは、合焦位置に位置する部分はその位相分布とMTFのコンボリューションにより得られる像強度分布であり、本来はMTFを用いてデコンボリューション処理を行うべきところを、MTF・exp(2πi・PTF)を用いてデコンボリューション処理が行われたためである。つまり、合焦位置に位置する部分の位相分布は、実際の位相分布をexp(−2πi・PTF)でコンボリューションしたものと等価となるので、小さい位相量で再生される。
この特徴を利用することで、観察物体の中で合焦位置にある部分(構造C2)の位相分布と合焦位置から外れた位置にある部分(構造C1、C3)の位相分布とを分離する。
具体的には、まず、図2のステップS11からステップS17の手順により、図3に示す観察面に対する合焦状態(観察面に光学系の焦点面が位置する状態)でのOTFを用いて屈折成分の位相分布及び構造成分の位相分布を算出する。なお、ステップS11からステップS17は、図1のステップS1からステップS7に対応する処理である。ステップS17では、観察面に対する合焦状態でのOTF(つまり、MTF)を用いて位相分布(図6の位相分布B1)を算出する。
次に、観察面に対するデフォーカス状態(光学系の焦点面が観察面からずれた位置にある状態)でのOTFを用いて、ステップS15で得られた構造成分にデコンボリューション処理を行って構造成分の第2の位相分布(図6の位相分布B2、B3)を算出する(図2のステップS19(第2位相分布算出工程))。
ここで、デフォーカス状態でのOTFとは、合焦位置でのOTF(つまり、MTF)と、合焦位置から外れた位置でのPTF(つまり、デフォーカスにより発生するPTF)とから算出されるOTFであり、MTF・exp(2πi・PTF)である。図6の位相分布B2は合焦位置Zから+ΔZ外れた位置でのOTFを用いて算出された構造成分の位相分布であり、図6の位相分布B3は合焦位置Zから−ΔZ外れた位置でのOTFを用いて算出された構造成分の位相分布である。また、図6の位相分布B1は、合焦位置ZでのOTFを用いてステップS17で算出された構造成分の位相分布である。
さらに、ステップS19で算出した第2の位相分布と、ステップS17で既に算出されている観察面に対する合焦状態での位相分布である構造成分の位相分布と、を比較する(図2のステップS21(位相分布比較工程))。
上述したように合焦状態でのOTFでデコンボリューションして得られた位相分布では、生体試料の合焦位置にある部分の位相量が大きく算出され、デフォーカス状態でのOTFでデコンボリューションして得られた位相分布では、生体試料の合焦位置からずれたその特定の位置にある部分の位相量が大きく算出される。この特徴を利用して、比較工程では、位相分布画像上で、合焦位置にある部分を1とし合焦位置からずれた位置にある部分を0とした2値画像を形成して、それによって、合焦位置から外れた領域(例えば、顕微鏡の焦点深度外の領域)を識別する。図6の例では、構造C2がある部分を1とし、構造C1、C3がある部分を0とした2値画像を形成する。
なお、PTFは合焦位置から外れる(デフォーカス)量に対応して変化するが、同じデフォーカス量であっても物体の空間周波数によってPTFがOTFに与える影響は異なる。図7は、合焦状態でのOTFを実線で、デフォーカス状態でのOTFを破線で示している。より詳細には、図7に示すL1dは、デフォーカス状態での明視野顕微鏡のOTFを示している。また、図7に示すL2dr、L2diは、それぞれデフォーカス状態での微分干渉顕微鏡のOTFの実部、虚部を示している。図7に示すL1とL2は、図3と同様に、合焦状態における明視野顕微鏡と微分干渉顕微鏡のOTFである。
図7に示すように、物体の空間周波数が比較的高い領域でPTFのOTFへの影響(つまり、合焦状態のOTFとデフォーカス状態のOTFの差異)は大きくなることから、合焦位置にある部分と合焦位置から外れた位置にある部分とを分離して2値画像を形成する際には、上述したように、空間周波数の高い構造成分を用いることが望ましい。これにより、デフォーカス量に対する位相量の変化を他の成分を用いる場合に比べて大きくすることが可能となり、分離の感度を高くすることができる。
ステップS21の比較工程が完了すると、その比較結果に基づいて、ステップS17で算出された構造成分の位相分布からデフォーカスによるボケが生じた位相分布を取り除く(図2のステップS23(ボケ位相分布除去工程))。
ここでは、まず、ステップS19で算出された構造成分の第2の位相分布とステップS21で形成された2値画像との積を取ることで、合焦位置から外れた位置にある構造成分の位相分布を抽出する。その後、抽出された位相分布をデフォーカス状態でのOTFでコンボリューション処理を行うことで、合焦位置でデフォーカスによるボケが生じた構造成分の位相分布を算出する。さらに、ステップS17で算出された構造成分の位相分布から、算出されたボケが生じた構造成分の位相分布を引き算する。これにより、合焦位置に位置する物体の構造成分の位相分布が分離されて抽出される。
最後に、ステップS23で抽出された構造成分の位相分布とステップS17で算出された屈折成分の位相分布を合成して、生体試料の位相分布を算出する(図2のステップS25(生体試料の位相分布合成工程))。さらに、算出した位相分布から生体試料の位相分布画像を形成してもよい。
以上のようにして、観察位置の上下に位置する構造のボケ像の混入を取り除くことで、観察位置の構造をより正確に認識することが可能となる。従って、図2に示す方法によれば、生体試料の観察領域内の位相分布をさらに精度良く求めることができるため、無染色で細胞や組織の3次元的な構造をさらに精度良く検査することができる。また、生体試料が3次元的に入り組んだ構造を有する場合であっても位相分布を精度良く再生することができる。さらに、正確な生体試料の位相分布から生体試料の形状や構造を正確に把握することができる位相分布画像を形成することができる。
なお、図2では、説明の都合上、合焦位置と合焦位置から外れた位置という表現を用いている。PTFの変化に対して再生される位相分布の変化が小さいすぎるため合焦位置(観察面)から焦点深度内の位置の位相分布については分離することができない。このため、より厳密には、図2に示す方法によれば、焦点深度を越えるデフォーカス量に対応する位置のボケた位相分布を分離することが可能である。
図1及び図2に示す方法は、光軸方向の特定のZ位置で生体試料の画像を複数取り込み、それらの画像から形成された規格化された位相成分画像を背景成分、屈折成分、構造成分に分解し、屈折成分と構造成分から生体試料の位相再生を行う方法である。特に図2に示す方法は、Z位置を変化させることなくOTFを変化させてデコンボリューション処理を行うことで、Z位置から外れた位置にある物体部分からの影響を取り除いた位相分布を再生するものである。即ち、上述した図2に示す方法は、特定のZ位置で取得した画像のみから特定のZ位置を合焦位置とする生体試料の位相分布を再生する方法である。
一方、特開2008−111726号には、各Z位置での規格化された位相成分画像または位相成分画像から再生された位相分布を比較し、位相成分画像のコントラストが最大になるZ位置または再生された位相分布の位相量の値が最大になるZ位置をその物体に対する合焦位置とする技術が開示されている。特開2008−111726号で示す手法は、金属やシリコンウェハー表面の構造を検出する方法として優れている。しかしながら、この手法では画素毎に一つのZ位置の位相分布しか取得することができないため、この手法を生体細胞や組織のように3次元的に重なりを持つ物体に対してそのまま適用すると、3次元的な構造を有する生体試料の位相分布を取得することができない。
そこで、以下では、3次元的な構造を有する生体試料の位相分布を取得するために、複数のZ位置で取得した画像から特定のZ位置を合焦位置とする生体試料の位相分布を再生する方法について、図8を参照しながら説明する。
まず、Z位置(つまり、焦点面)を注目するZ位置(つまり、観察面)に設定して、図8のステップS31からステップ37の手順により屈折成分の位相分布と構造成分の位相分布を算出する。なお、ステップS31からステップS37は、図1のステップS1からステップS7に対応する処理である。なお、ステップS37では、図3に示す観察面に対する合焦状態でのOTF(つまり、MTF)を用いて位相分布を算出する。
次に、Z位置を移動させる(図8のステップS39(焦点面変更工程))。つまり、観察面に対して対物レンズの焦点面を光軸方向に移動させる。その後、再び、ステップS31からステップS37の処理を実行する。なお、ステップS31からステップS39までの処理は、少なくとも、注目しているZ位置である位置Z1、その位置Z1からプラス方向に移動した位置Z2、位置Z1からマイナス方向に移動した位置Z3に対して繰り返し行われる。即ち、少なくとも注目しているZ位置とその上下に隣接するZ位置で行われる。
その後、各Z位置(焦点面)で算出された構造成分の位相分布を比較して、そのZ位置の上下に存在する生体試料の構造からそのZ位置に漏れこむ位相分布を識別する(図8のステップS41(漏れ位相分布識別工程))。
ステップS41では、まず、Z位置毎に、そのZ位置での構造成分の位相量が上下に隣接するZ位置での構造成分の位相量よりも大きくなる光軸と直交するXY平面内の領域を、そのZ位置を合焦位置とする部分として抽出する。ここで構造成分の位相分布を用いる理由は、構造成分の位相分布が屈折成分の位相分布と比較してデフォーカス量に対して大きく変化する性質を有しているため、屈折成分の位相分布を含む合成後の位相分布や屈折成分の位相分布を用いた場合に比べて合焦位置となる部分をより正確に検出できるからである。なお、図9の位相分布B11、B12、B13は、それぞれ位置Z1、位置Z2、位置Z3でMTFのみに依存するOTF(つまり、MTF)を用いて算出された構造成分の位相分布である。
ステップS41では、その後、Z位置毎に、そのZ位置の上下に隣接するZ位置と間のデフォーカスにより発生するPTFを考慮してOTFを算出する。そして、Z位置毎に、構造成分の位相成分から抽出された領域の位相分布に、PTFを考慮して算出したOTFを用いてコンボリューション処理を行う。これにより、上下に隣接するZ位置でボケ像として検出される位相成分、換言すると、各Z位置の上下に存在する生体試料の構造から各Z位置に漏れこむ位相分布、が識別される。
その後、ステップS41で識別された各Z位置に漏れこむ位相分布を各Z位置の構造成分の位相分布から取り除く(図8のステップS43(漏れ位相分布除去工程))。これは、各Z位置の構造成分の位相分布から各Z位置に漏れこむ位相分布を引き算することで実現される。
最後に、ステップS43で算出されたZ位置に漏れこむ位相分布が取り除かれた構造成分の位相分布と屈折成分の位相分布とを合成して、生体試料の位相分布を算出する(図8のステップS45(生体試料の位相分布合成工程))。さらに、算出した位相分布から生体試料の位相分布画像を形成してもよい。
以上のように、図8に示す方法では、特開2008−111726に示す手法とは異なり、観察位置の上下に位置する構造のボケ像の混入を取り除くことができる。このため、観察位置の構造をより正確に認識することが可能となる。従って、図8に示す方法によれば、生体試料の観察領域内の位相分布を精度良く求めることができるため、無染色で細胞や組織の3次元的な構造をさらに精度良く検査することができる。また、生体試料が3次元的に入り組んだ構造を有する場合であっても位相分布を精度良く再生することができる。さらに、正確な生体試料の位相分布から生体試料の形状や構造を正確に把握することができる位相分布画像を形成することができる。
図8に示す方法は図2に示す方法と併用されてもよく、これらの方法を併用することで、ボケ像の影響を更に小さくすることが可能である。また、上述したように、図2に示す方法と図8に示す方法によれば、いずれも注目するZ位置以外から注目するZ位置にボケ像として重畳される位相分布を除去して、焦点深度内の位相分布のみを抽出することができる。このため、焦点深度を計算または比較計測することで求めて、焦点深度内の位相分布を焦点深度で割り算することで、生体試料の各Z位置での屈折率分布を求めることができる。更に、Z位置毎に算出した屈折率分布を組み合わせて、生体試料の3次元的な屈折率分布を求めることも可能である。
なお、異なるZ位置で合焦した部分のボケ像をZ位置の画像から除去する方法としては、非特許文献1(David A. Argard,Y. Hiraoka,Peter Shaw, John W.Sedat“Methods in Cell biology”, Vol 30(1989))に開示される方法がある。この方法は、蛍光顕微鏡を用いた場合に、注目する焦点位置以外のZ位置から漏れこむ蛍光を除去する方法として知られている。また、この方法は蛍光顕微鏡以外の観察法とは親和性が良くないことも知られている。その理由は、蛍光像は焦点移動が発生すると焦点移動に対応して像にボケが発生するが、蛍光顕微鏡以外の観察法では、形成される像が複数の成分を持ち、各成分の焦点移動に伴う像強度の変化が異なるからである。このため、非特許文献1を微分干渉顕微鏡や位相差顕微鏡のような像強度分布を位相分布に変換する顕微鏡にそのまま適用することは困難である。
以下、図8に示す方法と非特許文献1の技術を比較し、それらの類似点と差異点について説明する。まず、図8に示す方法では、規格化された位相成分画像が形成される。規格化された位相成分画像は観察物体の位相分布に光学的応答特性がコンボリューションされた画像信号からなる画像であり、蛍光顕微鏡の像特性と同じ特性を有している。このため、図8に示す方法と非特許文献1の技術では像特性について類似している。一方、図8に示す方法では、規格化された位相成分画像を背景、屈折、構造の各成分に分解する。これは、図8に示す方法では、背景成分は焦点移動には関与しないこと、屈折成分は緩やかに変化する位相分布であり複数のZ位置で共有され、焦点移動の影響を受け難いこと、構造成分は焦点移動の影響を受けて異なるZ位置にボケ像が重畳されやすいこと、が考慮されているからである。この点については、図8に示す方法と非特許文献1は大きく異なっている。
次に、上述した位相計測方法によって算出された生体試料の位相分布から形成された生体試料の位相分布画像を用いて異種合成画像を形成する方法について、図10を参照しながら説明する。なお、図10では、位相分布画像と合成する他の観察法により取得した画像として蛍光画像を例示しているが、生体試料の生化学的な現象及び/又は物理学的な現象を可視化した画像であれば任意の画像を位相分布画像と合成しても良い。
まず、上述した位相計測方法(図1、図2、図8など)を用いて生体試料の位相分布を算出して、算出した位相分布から生体試料の位相分布画像を形成する(図10のステップS51(位相分布画像形成工程))。
続いて、生体試料の蛍光画像を取得し(図10のステップS53(蛍光画像取得工程))、最後に、位相分布画像と蛍光画像を合成して異種合成画像を形成する(図10のステップS55(異種合成画像形成工程))。なお、蛍光画像は、位相分布画像と同じ装置で取得されてもよく、また、異なる装置で取得されても良い。
図10に示す方法によれば、生体試料の形状や構造を正確に把握することができる位相分布画像が合成に用いられるため、生化学的な現象及び/又は物理学的な現象が生じている生体試料中の部位の位置や生化学的な現象及び/又は物理学的な現象が生体試料の形状や構造に及ぼす影響を正確に把握することができる異種合成画像を形成することができる。例えば、蛍光物質と結びついたタンパク質などの活性の様子は、異種合成画像を構成する蛍光画像が示す蛍光の輝度やFRET(蛍光共鳴エネルギー移動)のRatioの変化などによって知ることが可能であり、生体試料全体の形状は異種合成画像を構成する位相分布画像によって知ることが可能である。
以下、上述した位相計測方法及び異種合成画像形成方法の実施例について具体的に説明する。なお、実施例1から実施例3までは、位相分布画像を形成した装置とは別の装置によって生体試料の生化学的な現象を可視化した画像を取得した例であり、実施例4から実施例9は、これらの画像を同一の装置で取得した例である。
図11を参照しながら、上述した位相計測方法を実施する位相計測装置の構成について説明する。
図11に示される顕微鏡システム100は、上述した位相計測方法を実施する位相計測装置であり、位相分布画像と蛍光画像を合成して異種合成画像を形成する画像形成装置である。顕微鏡システム100は、顕微鏡1と、顕微鏡1を制御するコンピュータ20と、コンピュータ20の指示に従って顕微鏡1を駆動する複数の駆動機構(駆動機構21、駆動機構22、駆動機構23、駆動機構24)と、生体試料Sの画像を表示するモニタ25を含んでいる。
顕微鏡1は、培養細胞などの生体試料Sの構造を像強度分布として撮像素子の受光面に投影する微分干渉顕微鏡であり、倒立顕微鏡として構成されている。より詳細には、顕微鏡1は、照明系、ステージ8、結像系、及び、撮像素子を備えたCCDカメラ13を備えている。なお、CCDカメラ13は、受光素子が2次元に配列された2次元光検出器である。
ステージ8は、生体試料Sを配置する電動ステージであり、コンピュータ20の指示に従って駆動機構22によって光軸方向に移動するように構成されている。照明系には、光源2、レンズ3、視野絞り4、像コントラスト変化ユニット5、ノマルスキープリズム6、及びコンデンサレンズ7が含まれ、結像系には、対物レンズ9、ノマルスキープリズム10、検光子11、及び結像レンズ12が含まれている。ここで、コンデンサレンズ7の開口数(NA)は、例えば0.55である。対物レンズ9は水浸対物レンズであり、対物レンズ9の倍率は、例えば60倍であり、開口数(NA)は1.2である。
光源2からの出射した光は、レンズ3及び視野絞り4を介して入射する像コントラスト変化ユニット5で直線偏光に変換され、ノマルスキープリズム6で常光と異常光とに分離されて、コンデンサレンズ7によりステージ8上に配置された生体試料Sに照射される。生体試料Sを透過した常光と異常光は、対物レンズ9を介して入射するノマルスキープリズム10で合成され、検光子11及び結像レンズ12によってCCDカメラ13の受光面に結像する。このようにして微分干渉像が得られる。
ここで、像コントラスト変化ユニット5は、偏光板5aとλ/4板5bを有し、コンピュータ20の指示に従って駆動機構24により偏光板5aが回転制御されることで直線偏光の位相を変化させて楕円偏光に変換する、セナルモン法を採用した位相変調器である。顕微鏡システム100では、コンピュータ20が、駆動機構24を通じて像コントラスト変化ユニット5を制御することで、顕微鏡1によってCCDカメラ13に投影される像強度分布の像コントラストを連続的に変化させることができる。また、ステッピングモータ等を用いて像コントラストを離散的に変化させてもよい。
また、ノマルスキープリズム6、ノマルスキープリズム10は、それぞれ、コンデンサレンズ7、対物レンズ9の瞳位置またはその共役位置近傍に配置されている。顕微鏡システム100では、ノマルスキープリズム6及びノマルスキープリズム10は、シァー方向を切り替えるために、コンピュータ20の指示に従って駆動機構21、駆動機構23により回転制御される。
即ち、コンピュータ20は、像コントラストの異なる複数枚の画像を取得するように、CCDカメラ13及び像コントラスト変化ユニット5を制御するとともに、シァー方向を切り替えるように、ノマルスキープリズム6及びノマルスキープリズム10を制御する制御ユニットとして機能する。また、コンピュータ20は、駆動機構23を通じてステージ8を光軸方向に移動させることができるため、焦点面を光軸方向に変化させる焦点位置制御ユニットとしても機能する。さらに、後述するように、コンピュータ20は、コンピュータ20による制御により取得された像コントラストの異なる複数枚の画像から生体試料の位相分布を算出し、位相分布画像を形成する演算ユニットとしても機能する。
次に、以上のように構成された顕微鏡システム100による位相計測方法について具体的に説明する。
まず、コンピュータ20は、駆動機構21、駆動機構23にノマルスキープリズム6、ノマルスキープリズム10を回転させて、シァー方向がCCDカメラ13の受光面上で基準方向に対して45°方向になるように設定する。その後、コンピュータ20は、駆動機構23に偏光板5aを回転させることによりリターデーションを±θ、0に順番に変化させて、CCDカメラ13から像コントラストの異なる3枚の微分干渉画像I1(−θ)、I1(0)、I1(θ)を取り込む。
次に、コンピュータ20は、駆動機構21、駆動機構23にノマルスキープリズム6、ノマルスキープリズム10を90°回転させて、シァー方向がCCDカメラ13の受光面上で基準方向に対して−45°方向になるように設定する。その後、コンピュータ20は、駆動機構24に偏光板5aを回転させることでリターデーションを±θ、0に順番に変化させて、CCDカメラ13から像コントラストの異なる3枚の微分干渉画像I2(−θ)、I2(0)、I2(θ)を取り込む。
なお、ノマルスキープリズムの方向によらず位相変調器(像コントラスト変化ユニット5)で発生するリターデーションが±θ、0になるように、駆動機構24による偏光板5aの回転は、ノマルスキープリズムの回転に伴って発生するリターデーション量のずれを予め計測した値を用いてオフセット補正するように制御される。
次に、コンピュータ20は、取得した微分干渉画像を用いて以下の演算を行うことで、規格化された位相成分画像をシァー方向毎に形成する。ここで、Def1、Def2は、規格化された位相成分画像である。
Def1={I1(θ)−I1(−θ)}/{I1(θ)+I1(−θ)−I1(0)}
Def2={I2(θ)−I2(−θ)}/{I2(θ)+I2(−θ)−I2(0)}
その後、コンピュータ20は、規格化された位相成分画像Def1、Def2のそれぞれに対して、平均化領域(カーネルサイズ)が100x100の平均化フィルターで平均化処理を数回行い、背景成分の画像BG1、BG2を形成する。さらに、規格化された位相成分画像Def1、Def2のそれぞれから背景成分の画像BG1、BG2を引き算する。それによって得られる視野ムラなどの外乱が除去された画像(Def1−BG1)、(Def2−BG2)のそれぞれに対して、平均化領域(カーネルサイズ)が20x20の平均化フィルターで平均化処理を数回行い、屈折成分の画像GR1、GR2を形成する。さらに、規格化された位相成分画像Def1、Def2から背景成分の画像BG1、BG2と屈折成分の画像GR1、GR2を引き算して構造成分の画像ST1(=Def1−BG1−GR1)、ST2(=Def2−BG2−GR2)を形成する。
次に、コンピュータ20は、構造成分の画像ST1、ST2に図3で示した微分干渉顕微鏡の合焦状態でのOTF(図3のL2)を用いてデコンボリューション処理を行い、物体の微細構造を表す、構造成分の位相分布PhS1、PhS2を算出する。
なお、図3に示す光学的応答特性は、周波数が0である帯域とカットオフ周波数である帯域の2つの帯域でその値が0に近づく。このため、デコンボリューション処理のときに0割りが生じてしまうため、ウィナー手法を採用して0割りを防止する。構造成分の画像ST1、ST2では、周波数が0に近い帯域の画像成分が小さいため、ウィナー手法を採用して計算誤差を小さくすることができる。
コンピュータ20は、構造成分の位相分布PhS1、PhS2からノマルスキープリズムのシァー方向を切り替えることによって生じる画像間の相対的な位置ずれ量を算出する。構造成分の位相分布PhS1、PhS2は同じ物体(生体試料S)をノマルスキープリズムのシァー方向を変えて求めた構造成分の位相分布である。このため、それぞれのシァー方向に対して略垂直な構造に関する位相分布以外は類似した位相分布となる。従って、構造成分の位相分布PhS1、PhS2に位相限定相関法を適応することで2つの画像間の相対的な位置ずれ量(δx、δy)を算出することができる。
さらに、コンピュータ20は、屈折成分の画像GR1、GR2が生体試料の緩やかな位相の変化を有していることを考慮して、屈折成分の画像GR1、GR2に図3に示すOTFの代わりに図12で示すOTFを用いてデコンボリューション処理を行う。これにより、緩やかな位相変化を表す、屈折成分の位相分布PhG1、PhG2を算出する。
なお、合焦状態での屈折成分に対応するOTF(図12のL3)は、微分干渉顕微鏡のMTFが明視野顕微鏡のMTFとsin(πΔf)の積であること、及び、屈折成分が構造成分に比べて低い周波数成分でありその条件下では図3のL1で示すように明視野顕微鏡のMTFは1とみなすことができること、からsin(πΔf)として算出される。
構造成分の位相分布PhS1、PhS2と屈折成分の位相分布PhG1、PhG2を算出すると、コンピュータ20は、これらを合成して観察物体(生体試料S)の位相分布Ph1、Ph2を算出する。なお、観察物体の位相分布Ph1、Ph2は、視野ムラなどの外乱を取り除いた像強度分布の画像(Def1−BG1)、(Def2−BG2)に対応する位相分布であるので、以下の式により算出される。
Ph1=PhS1+PhG1
Ph2=PhS2+PhG2
最後に、シァー方向の影響を排除するために、直交するシァー方向で得られた観察物体の位相分布Ph1、Ph2を合成する。この際、画像間の相対的な位置ずれ量(δx、δy)を用いて位相分布Ph1、Ph2を補正してから合成する。これにより、シァー方向の影響が排除された生体試料の位相分布Phを得ることができる。
上記の方法により得られた生体試料の位相分布Phには、対物レンズ9の合焦位置近傍(焦点深度内)に存在する部分の位相分布に、合焦位置から若干外れた位置(例えば±2μm程度外れた位置)に存在する部分のボケた位相分布が混入していると想定される。このようなボケた位相分布を取り除くためには、コンピュータ20は、さらに、以下のような演算を行う。
まず、コンピュータ20は、構造成分の画像ST1、ST2に、図7で示すような、焦点面から2μm程度デフォーカスした状態でのOTFを用いてデコンボリューション処理を行い、構造成分の位相分布PhSd1、PhSd2を算出する。
次に、コンピュータ20は、デフォーカス状態でのOTFを用いて算出した構造成分の位相分布PhSd1、PhSd2と合焦状態でのOTFを用いて算出した構造成分の位相分布PhS1、PhS2とを比較する。2μm程度のデフォーカス状態でのOTFを用いて算出した構造成分の位相分布PhSd1、PhSd2では、デフォーカスした位置に存在する物体の位相分布のボケが低減されていて、デフォーカスした位置に存在する物体の位相分布が構造成分の位相分布PhS1、PhS2内よりも、大きな値で算出される。これを考慮して、合焦位置近傍にある部分と2μm程度合焦位置から外れた位置にある部分とを識別して、構造成分の位相分布PhSd1、PhSd2から2μm程度合焦位置から外れた位置にある部分の位相分布PhSP1、PhSP2を抽出する。
さらに、コンピュータ20は、抽出された位相分布PhSP1、PhSP2に、デフォーカス状態でのOTFを用いてコンボリューション処理を行って、合焦位置におけるボケが再生された位相分布PhSR1、PhSR2を算出する。
最後に、コンピュータ20は、ボケが再生された位相分布PhSR1、PhSR2を構造成分の位相分布PhS1、PhS2から引き算する。これにより、合焦位置近傍に存在する構造成分の位相分布がより正確に算出される。
図13A、図13B、及び図13Cは、顕微鏡システム100により観察位置を光軸方向に0.5μmステップで変化させ、培養液中のマウスのiPS細胞の位相分布を計測することで得られた複数の位相分布画像の一部である。より詳細には、NA=0.55のコンデンサレンズで照明した培養液中のマウスのiPS細胞の位相分布を、60x、NA=1.2の水浸対物レンズを用いて計測したものである。なお、図13Aは最も深い観察位置で計測した位相分布画像、図13Bは図13Aの観察位置から3μm上方に位置する観察位置で計測した位相分布画像、図13Cは図13Bの観察位置から3μmさらに上方に位置する観察位置で計測した位相分布画像である。また、図13Cには、光軸方向から見た画像M1に加えて、画像M1に示すA−A’断面及びB−B’断面における断面図の画像M2及び画像M3が示されている。画像M2及び画像M3は、図13Aから図13Cに示す画像を含む光軸方向に0.5μmステップで変化させて取得された複数の位相分布画像から生成された画像である。
図13Aでは、画像の中央部分にiPS細胞のコロニーを、周辺部に分化した別の細胞を観察することができる。さらに、iPS細胞のコロニーには、コロニーを構成する細胞の間隔が密になっている部分と細胞の間隔が比較的広がっている部分とが存在することも観察することができる。
さらに、図13Aと比較して観察位置が3μm上方にある図13Bでは、中央に位置するiPS細胞のコロニーの存在を確認することはできるが、図13Aでは周辺部に位置していた分化した細胞の存在は確認できない。この違いにより細胞の厚みの違いを認識することができる。また、図13Bでは、中央部分に位置するiPS細胞のコロニーに分化した細胞が重なっている様子が見て取れるため、iPS細胞の一部が分化してコロニー上部に横たわっていることを認識することができる。さらに、図13Aと図13Bを比較するとiPS細胞のコロニーを形成する細胞の形状が異なっている。このことから、図13Aと図13Bでは、コロニーを形成している細胞群のうちの光軸方向の異なる位置にある細胞が観察されていると認識することができる。
図13Bと比較して観察位置が3μm上方にある(つまり、図13Aと比較すると観察位置が6m上方にある)図13Cでも、iPS細胞のコロニーとコロニー上部に横たわる分化した細胞を観察することができる。図13Cには、iPS細胞のコロニーを形成する、図13Aや図13Bで観察された細胞とは別の細胞の存在を確認することができる。
このように顕微鏡システム100により得られる位相分布画像からは、コロニーの高さやコロニーを形成する各細胞の厚みに関する情報を得ることが可能であり、光軸方向それぞれの位置にある細胞の状態も確認することができる。具体的には、図13Aから図13Cを参照すると、iPS細胞だけではなく分化した細胞についても、細胞1個当たりの高さ(厚み)は、数μm以上になることがわかる。
また、細胞内の小器官についてもμmオーダの大きさを有していることが想定され、且つ、細胞や細胞小器官は連続的に変化していることから、観察位置を変化させて位相分布を計測すると、複数の観察位置に連続的に重複して検出されることになる。特定の観察位置で計測された位相分布と前後の観察位置で計測された位相分布との相関(類似性)を求めることにより、各観察位置で計測された位相分布の連続性を判断することができる。この連続性を利用して、複数の観察位置で計測された位相分布を連続的につなぎ合わせることで、細胞や細胞小器官の位相分布を正確に求めることができる。また、位相分布を観察位置の間隔で割り算することで各観察位置での細胞や細胞小器官の相対的な屈折率分布を求めることもできる。
以上のように、本実施例に係る顕微鏡システム100によれば、iPS細胞の正確な位相分布を取得することができるため、iPS細胞の位相再生結果から、培養されているiPS細胞の内部構造を位相分布として計測することができる。即ち、生体試料の形状や構造を正確に把握することができる位相分布画像を形成することができる。また、コロニー内部で正常な細胞と変異している細胞を判別することもできる。さらに、iPS細胞の未分化状態を識別することもできる。つまり、コロニー内の細胞状態(細胞の形態変化、コロニーの変化、死細胞の分布、細胞間の接着性)、分化による細胞の変性を評価することが可能である。なお、iPS細胞に限られずES細胞であっても同様である。
図14は、本実施例に係る異種合成画像形成方法のフローチャートである。図14を参照しながら、上述した顕微鏡システム100で形成された位相分布画像と他の顕微鏡システムで取得された蛍光画像とを合成して異種合成画像を形成する方法について具体的に説明する。
まず、利用者は、顕微鏡システム100に生体試料Sを設置し(図14のステップS61)、その後、観察条件を設定する(図14のステップS63)。ここでは、例えば、任意の観察法(明視野観察やDIC観察)で生体試料Sを観察しながらZ位置を調整して生体試料Sへのピント合せが行われる。また、ゲイン、ビニング、画像取得時間、照明強度などのCCDカメラ13のパラメータの設定、Zスタックのパラメータの設定、タイムラプスのパラメータの設定などが行われる。
観察条件の設定が完了すると、コンピュータ20が駆動機構を通じて像コントラスト変化ユニット5やノマルスキープリズム(ノマルスキープリズム6、ノマルスキープリズム10)を制御しながら生体試料Sを複数回撮像して、像コントラストの異なる複数枚の画像を取得する(図14のステップS65)。さらに、コンピュータ20が取得したそれらの画像から生体試料Sの位相分布画像を形成する(図14のステップS67)。なお、ステップS65とステップS67は、図10のステップS51に相当する。
位相分布画像が形成されると、コンピュータ20が位相分布画像を調整する(図14のステップS69)。ここでは、例えば、輝度の調整などの画像処理を行って生体試料Sの形状や構造が良好に観察できるように位相分布画像を調整する。なお、ボケ像が十分に除去できていない場合やセクショニング効果が十分に得られていない場合には、必要に応じて観察条件を再設定して画像を取り直し、位相分布画像を改めて形成してもよい。
位相分布画像の調整が完了すると、Z位置を次の位置に変更し、ステップS65からステップS69の処理を繰り返す。この繰り返しは、ステップS63で設定したZスタックのパラメータ及びタイムラプスのパラメータによって決定される回数だけ実行される。
その後、利用者は、蛍光画像を取得するために顕微鏡システム100とは別の顕微鏡システム(例えば、共焦点蛍光顕微鏡システム)に生体試料Sを設置し(図14のステップS71)、その後、観察条件を設定する(図14のステップS73)。なお、ステップS73での作業の詳細は、ステップS63と同様である。
観察条件の設定が完了すると、その別の顕微鏡システムが生体試料Sの蛍光画像を取得し(図14のステップS75)、さらに、蛍光画像を調整する(図14のステップS77)。なお、ステップS77での作業の詳細は、ステップS69と同様である。
蛍光画像の調整が完了すると、ステップS73で設定したパラメータによって決定される回数だけステップS75及びステップS77の処理を繰り返す。
その後、顕微鏡システム100で形成した位相分布画像と別の顕微鏡システムで取得した蛍光画像を合成して異種合成画像を形成する(図14のステップS79)。ここでは、例えば、別の顕微鏡システムで取得した蛍光画像を顕微鏡システム100のコンピュータ20にコピーして、コンピュータ20がこれらの画像を合成する。
合成に当たっては、予め取得した、位相分布画像と蛍光画像の各々のXYZ情報(座標情報)とθ情報(角度情報)に基づいて画像間の位置合わせが行われる。さらに、観察倍率が異なる場合に位相分布画像と蛍光画像の各々の倍率情報に基づいて画像間の倍率合わせが行われてもよい。位相分布画像のXYZ情報や倍率情報は、例えば、ステップS65で取得され、蛍光画像のXYZ情報や倍率情報は、例えば、ステップS75で取得される。
最後に、異種合成画像を構成する位相分布画像と蛍光画像の位置ずれを調整する(図14のステップS81)。ここでは、利用者がモニタ25に表示されている異種合成画像を見ながら調整してもよく、また、コンピュータ20が位置ずれを自動的に調整してもよい。位置ずれの調整は、例えば、位置合わせのために予め生体試料中に設けられたマーカを用いて行ってもよい。マーカは、例えば、位相分布画像においてコントラストが生じ、且つ、蛍光を発する、ビーズのようなものである。また、金属粒子のように位相分布も蛍光も生じないような暗点のようなものであってもよい。また、マーカの形状は、点形状に限られず任意の形状であってもよい。
以上のように、本実施例に係る異種合成画像形成方法では、まず、生体試料Sの形状や構造を正確に把握することができる位相分布画像を形成して、さらに、形成された位相分布画像と蛍光画像を合成する。これにより、生化学的な現象及び/又は物理学的な現象が生じている生体試料中の部位の位置や生化学的な現象及び/又は物理学的な現象が生体試料の形状や構造に及ぼす影響を正確に把握することができる異種合成画像を形成することができる。
なお、図14では、位相分布画像と合成する画像として蛍光画像を例示したが、位相分布画像と合成する画像は蛍光画像に限られない。生体試料Sが発光した光に基づく生体試料Sの生化学的な現象及び/又は物理学的な現象を可視化した画像であればよく、例えば、生体試料Sが自発的に周期的に発光する光(例えば、サーカディアンリズムに関連して発光する光)に基づく画像や、生体試料Sに投入した薬物によって誘発された生体試料Sからの発光に基づく画像であってもよい。また、SHG顕微鏡により取得された画像であってもよい。さらに、生化学的な発光に基づく画像に限らず、生体試料で反射した音波、生体試料から発せられる磁場や熱分布、放射線などに基づく画像であってもよい。
また、図14では、位相分布画像を先に形成し、その後、蛍光画像を取得する例を示したが、蛍光画像を先に取得して、その後、位相分布画像を先に形成してもよい。また、像コントラストの異なる複数枚の画像と蛍光画像を取得後に、位相分布画像を形成しても良い。図14に示す方法は、必要に応じて順番を変更して実行されても良い。
本実施例に係る異種合成画像形成方法は、位相分布画像が顕微鏡システム100の代わりに顕微鏡システム101で形成される点を除き、実施例1に係る方法と同様である。従って、以下では、顕微鏡システム101について説明し、その他の説明を省略する。
図15に示される顕微鏡システム101は、顕微鏡1aを備える顕微鏡システムである。顕微鏡システム101は、実施例1に係る顕微鏡システム100と同様に、上述した位相計測方法を実施する位相計測装置であり、位相分布画像と蛍光画像を合成して異種合成画像を形成する画像形成装置である。顕微鏡システム101は、光源2の代わりにLED光源31及びLED光源32を備える点、像コントラスト変化ユニット5の代わりに位相変調手段30を備える点、及び、駆動機構24の代わりに駆動機構26を備える点が、実施例1に係る顕微鏡システム100と異なっている。その他の構成は、顕微鏡システム100と同様である。
LED光源31及びLED光源32は、例えば、単色LED光源である。顕微鏡システム101では、コンピュータ20が、駆動機構26を通じてLED光源31及びLED光源32の発光を制御する。
位相変調手段30は、光軸に対して回転可能な2つの偏光板(偏光板33、偏光板34)と、LED光源31からの光とLED光源32からの光を合成してレンズ3の光軸の方向に出射する光合成手段であるビームスプリッタ35と、光学軸を所定の方向に向けて配置されたλ/4板36とを備えている。ビームスプリッタ35は、例えば、ハーフミラーを備えている。
偏光板33、偏光板34は、それぞれLED光源31とビームスプリッタ35の間、LED光源32とビームスプリッタ35の間に配置されている。偏光板33及び偏光板34は、駆動機構(ここでは駆動機構26)を通じてコンピュータ20によって回転制御され、λ/4板(ここでは、λ/4板36)とともにそれぞれセナルモン法を採用した位相変調器として機能する点は、図11の偏光板5aと同様である。
偏光板33と偏光板34には、偏光板33と偏光板34を連動して回転させる図示しない構造が設けられていて、その構造により、図16に示すように、偏光板33の振動方向33aと偏光板34の振動方向34aがλ/4板36の光学軸(S軸、F軸)に対して同じ角度で逆方向に回転するように構成されている点が、図11の偏光板5aとは異なっている。
さらに、偏光板33と偏光板34には、偏光板33と偏光板34の一方の回転角をオフセットする機構が設けられている。この機構により、ビームスプリッタ35のハーフミラーなどで生じるリターデーション量を補償するように、偏光板33と偏光板34の一方の回転角をオフセットする。
以上のように構成された顕微鏡システム101によっても、実施例1に係る顕微鏡システム100と同様に生体試料の形状や構造を正確に把握することができる位相分布画像を形成することができる。さらに、顕微鏡システム101では、偏光板33及び偏光板34が任意の対称な回転角に設定された状態で、コンピュータ20がLED光源31及びLED光源32を順番に発光させることで、リターデーション量の異なる設定で標本Sが撮像された像コントラストの異なる2枚の微分干渉画像(I1(−θ)、I1(θ))を取得することができる。なお、LED光源の発光制御は、実施例1に係る顕微鏡システム100における偏光板5aの回転制御に比べて高速な切替えが可能であるため、本実施例に係る顕微鏡システム101によれば、2枚の微分干渉画像(I1(−θ)、I1(θ))を素早く取得することができる。従って、実施例1に係る顕微鏡システム100よりも高速な位相分布の計測が可能となる。
なお、本実施例に係る顕微鏡システム101では、実施例1に係る顕微鏡システム100と異なり、微分干渉画像I1(0)を取得することなく、2枚の微分干渉画像(I1(−θ)、I1(θ))のみを取得している。上述した位相計測方法では、微分干渉画像I1(0)も使用されているが、微分干渉画像I1(0)は位相量の大きな物質で生じる誤差を補償するために用いられるものであるので、2枚の微分干渉画像(I1(−θ)、I1(θ))のみからでも位相分布を計測することができる。
本実施例に係る異種合成画像形成方法は、位相分布画像が顕微鏡システム100の代わりに顕微鏡システム102で形成される点を除き、実施例1に係る方法と同様である。従って、以下では、顕微鏡システム102について説明し、その他の説明を省略する。
図17に示される顕微鏡システム102は、レーザ走査型の微分干渉顕微鏡である顕微鏡1bを備えている顕微鏡システムである。顕微鏡システム102は、実施例1及び実施例2に係る顕微鏡システムと同様に、上述した位相計測方法を実施する位相計測装置であり、位相分布画像と蛍光画像を合成して異種合成画像を形成する画像形成装置である。
顕微鏡システム102は、顕微鏡1の代わりに顕微鏡1bを備える点、駆動機構24の代わりに駆動機構27を備える点が、実施例1に係る顕微鏡システム100とは異なっている。さらに、顕微鏡1bは、光源2、視野絞り4及び像コントラスト変化ユニット5の代わりに検出手段40を備える点、検光子11、結像レンズ12及びCCDカメラ13の代わりに照明手段50を備える点が、実施例1に係る顕微鏡1とは異なっている。即ち、顕微鏡1bは、ステージ8の下方から生体試料Sにレーザ光を照射して生体試料Sを透過したレーザ光を検出するように構成されている。
照明手段50は、レーザ光源51と、ビーム走査装置52と、リレーレンズ53と、ミラー54と、を備えている。レーザ光源51は、可視域のレーザ光を出射するレーザであってもよく、また、可視光に比べて波長が長く散乱が生じにくい近赤外域のレーザ光を出射するレーザであってもよい。標本Sが厚い場合には、近赤外域のレーザ光を出射するレーザが望ましい。ビーム走査装置52は、レーザ光源51から出射したレーザ光で標本Sを走査するための装置であり、例えば、対物レンズ9の瞳共役位置でレーザ光を偏向させるガルバノミラーなどを備えている。
検出手段40は、2つの光検出器である光電子増倍管(PMT41、PMT42)と、位相変調手段30と、を備える差動検出手段である。位相変調手段30は、実施例2に係る顕微鏡1aの位相変調手段30と同様の構成を有していて、具体的には、光軸に対して回転可能な2つの偏光板(偏光板33、偏光板34)と、ハーフミラーを備えるビームスプリッタ35と、光学軸を所定の方向に向けて配置されたλ/4板36とを備えている。なお、ここでは、ビームスプリッタ35は、標本Sからのレーザ光を2つに分けてPMT41とPMT42に導く光分離手段として機能する。
通常の差動検出手段では、偏光ビームスプリッタ(PBS)によって光が分離されるためリターデーションの設定に制約がある。これに対して、顕微鏡システム102の差動検出手段(検出手段40)は、標本に応じたリターデーションの設定を可能とするために、振動方向(振動方向33a、振動方向34a)がλ/4板36の光学軸(S軸、F軸)に対して同じ角度で逆方向に回転するように構成された偏光板33と偏光板34を備えている点が、通常の差動検出手段とは異なっている。
以上のように構成された顕微鏡システム102によっても、実施例1に係る顕微鏡システム100と同様に生体試料の形状や構造を正確に把握することができる位相分布画像を形成することができる。さらに、顕微鏡システム102では、光源として、バンド幅が狭く高い単色性を有するレーザ光を出射するレーザ光源51が用いられることから、S/Nが大きくコントラストが高い微分干渉画像を取得することができる。また、レーザ光の狭いバンド幅はデコンボリューション処理の高精度化にも寄与する。このため、微分干渉画像からより正確な位相分布を算出することができる。従って、顕微鏡システム102によれば、実施例1に係る顕微鏡システム100よりも正確な位相分布を算出することができる。
なお、通常の顕微鏡(ワイドフィールド型の顕微鏡)で光源としてレーザ光源を採用した場合、コヒーレント照明に起因して解像力の低下やスペックルの発生といった望ましくない現象が生じるが、顕微鏡システム102のような走査型の顕微鏡では、このような現象は生じない。このため、走査型の顕微鏡はレーザ光の使用に好適である。
その一方で、走査型の顕微鏡はワイドフィールド型の顕微鏡に比べて画像の取得に時間がかかるため、位相分布の算出に要する時間も長くなりやすい。この点について、顕微鏡システム102では、作動検出手段(検出手段40)を用いて像コントラストの異なる複数の画像を同時に取得することで、位相分布の算出の高速化を図っている。具体的には、レーザ光源51から出射して差動検出手段(検出手段40)に入射したレーザ光は、ビームスプリッタ35でPMT41へ向かうレーザ光とPMT42へ向かうレーザ光とに分離され、その後、それぞれ、対称な回転角度に設定された偏光板33、偏光板34を介してPMT41、PMT42に入射する。これにより、顕微鏡システム102では、ビーム走査装置52による1回の標本走査で、リターデーション量の異なる設定で標本Sが撮像された像コントラストの異なる2枚の微分干渉画像(I1(−θ)、I1(θ))を同時に取得することができる。
図18Aは、顕微鏡システム102によって得られた小腸のクリプト組織の細胞の位相分布画像を示す図である。図18Aに示す小腸のクリプトの画像には、クリプトの3次元構造が良好に表わされている。従って、図18Aから、顕微鏡システム102を用いることで生体組織の3次元構造を観察することが可能であり、例えば、組織内に変位細胞が存在する場合であれば、この変位細胞を標識化することなく識別して観察し得る、ことが確認できる。図18Bは、図18Aに示す小腸のクリプト組織の細胞の蛍光画像を示す図であり、この画像では、細胞質内のたんぱく質に発現しているGFPの量が蛍光強度として表示されている。さらに、図18Cは、図18Aと図18Bに示す画像を合成した画像を示す図である。
図19に示される顕微鏡システム103は、位相分布画像と蛍光画像を合成した異種合成画像を形成する画像形成装置であり、顕微鏡1の代わりに顕微鏡1cを含む点、後述する蛍光キューブ61を光路に対して挿脱する駆動機構28を含む点が、実施例1に係る顕微鏡システム100と異なっている。また、顕微鏡システム103は、蛍光画像と位相分布画像の両方を取得することができる点も、顕微鏡システム100とは異なっている。
顕微鏡1cは、蛍光画像を取得するための照明手段60として、ノマルスキープリズム10と検光子11の間に挿脱自在に配置された蛍光キューブ61と、レンズ62と、蛍光画像を取得するための光源63を含む点が、実施例1に係る顕微鏡1と異なっている。その他の構成は顕微鏡1と同様である。なお、顕微鏡1cは、微分干渉顕微鏡であり、且つ、蛍光顕微鏡である。また、蛍光キューブ61は、ダイクロイックミラー、励起フィルター、及び吸収フィルターで構成されている。
顕微鏡システム103で蛍光画像を取得する場合には、コンピュータ20は、駆動機構28を通じて蛍光キューブ61を光路中に挿入して、光源63を発光させる。その結果、光源63から出射された励起光が生体試料Sに照射されて、生体試料Sから生じた蛍光がCCDカメラ13に入射する。これにより、顕微鏡システム103は蛍光画像を取得することができる。
なお、検光子11が蛍光を吸収するとCCDカメラ13に入射する蛍光の光量が少なくなってしまうため、検光子11は蛍光キューブ61の挿入と同時に光路外に取り除かれることが望ましい。
顕微鏡システム103で位相分布画像を取得する場合には、コンピュータ20は、駆動機構28を通じて蛍光キューブ61を光路から取り除いて、光源2を発光させる。その後は、実施例1で上述した方法によって、像コントラストの異なる複数枚の画像を取得し、位相分布画像を形成する。
以上のように構成された顕微鏡システム103によっても、実施例1に係る顕微鏡システム100と同様に生体試料の形状や構造を正確に把握することができる位相分布画像を形成することができる。さらに、顕微鏡システム103では、生体試料の生化学的な現象及び/又は物理学的な現象を可視化した蛍光画像も取得することができる。従って、顕微鏡システム103によれば、他の顕微鏡システムと画像のやり取りする必要がないため、実施例1に係る顕微鏡システム100に比べて、位相分布画像と蛍光画像を合成した異種合成画像を容易に形成することができる。また、位相分布画像と蛍光画像を同じ顕微鏡で取得するため、画像間の位置ずれが生じにくい。
図20は、本実施例に係る異種合成画像形成方法のフローチャートである。図20を参照しながら、顕微鏡システム103で行われる異種合成画像を形成する方法について具体的に説明する。
まず、利用者は、顕微鏡システム103に生体試料Sを設置し(図20のステップS91)、その後、観察条件を設定する(図20のステップS93)。ここでは、例えば、任意の観察法(明視野観察、DIC観察、蛍光観察)で生体試料Sを観察しながらZ位置を調整して生体試料Sへのピント合せが行われる。また、ゲイン、ビニング、画像取得時間、照明強度などのCCDカメラ13のパラメータの設定、Zスタックのパラメータの設定、タイムラプスのパラメータの設定などが行われる。なお、これらの設定は、位相分布画像を取得する場合と蛍光画像を取得する場合で異なる設定であってもよい。
観察条件の設定が完了すると、コンピュータ20は、駆動機構を通じて蛍光キューブ61を光路から取り除いて、光源2を発光させる。さらに、像コントラスト変化ユニット5やノマルスキープリズム(ノマルスキープリズム6、ノマルスキープリズム10)を制御しながら生体試料Sを複数回撮像して、像コントラストの異なる複数枚の画像を取得する(図20のステップS95)。
次に、コンピュータ20は、駆動機構を通じて蛍光キューブ61を光路中に挿入して、光源63を発光させて蛍光画像を取得する(図20のステップS97)。その後、コンピュータ20は、ステップS95で取得した画像から生体試料Sの位相分布画像を形成する(図20のステップS99)。
位相分布画像が形成されると、コンピュータ20が位相分布画像と蛍光画像を調整する(図20のステップS101)。ここでは、例えば、輝度の調整などの画像処理を行って生体試料Sが良好に観察できるように位相分布画像と蛍光画像を調整する。なお、位相分布画像においてボケ像が十分に除去できていない場合やセクショニング効果が十分に得られていない場合には、必要に応じて観察条件を再設定して画像を取り直し、位相分布画像を改めて形成してもよい。
画像の調整が完了すると、位相分布画像と蛍光画像を合成して異種合成画像を形成し(図20のステップS103)、さらに、異種合成画像を構成する位相分布画像と蛍光画像の位置ずれを調整する(図20のステップS105)。ここでは、利用者がモニタ25に表示されている異種合成画像を見ながら調整してもよく、また、コンピュータ20が位置ずれを自動的に調整してもよい。位置ずれの調整は、例えば、位置合わせのために予め生体試料中に設けられたマーカを用いて行ってもよい。
その後、Z位置を次の位置に変更し、ステップS95からステップS105までの処理を繰り返す。この繰り返しは、ステップS93で設定したZスタックのパラメータ及びタイムラプスのパラメータによって決定される回数だけ実行される。なお、2回目以降のステップS101及びステップS105では、初回と同じ調整量で調整が行われればよい。
以上により、生化学的な現象及び/又は物理学的な現象が生じている生体試料中の部位の位置や生化学的な現象及び/又は物理学的な現象が生体試料の形状や構造に及ぼす影響を正確に把握することができる異種合成画像を形成することができる。
なお、顕微鏡システム103は、蛍光キューブ61を交換して蛍光波長の異なる複数の蛍光画像を取得しても良く、複数の蛍光画像と位相分布画像を合成して異種合成画像を形成しても良い。また、顕微鏡システム103は、熱に起因するステージ8のドリフトや振動の影響を低減するために、タイムラプス撮影毎にオートフォーカスを自動的に行ってもよい。また、十分な明るさが得られる場合であれば、蛍光キューブ61を光路中に挿入した状態で像コントラストの異なる複数枚の画像を取得して位相分布画像を形成しても良い。この場合、蛍光キューブ61によって光源2から出射した光のうち所定の波長帯域の光が生体試料Sに照射されることで色収差の影響が軽減されるため、試料によっては位相分布画像の可視性が改善される。また、結像レンズ12とCCDカメラ13の間にダイクロイックミラーを設けてダイクロイックミラーの反射光路上に蛍光検出用により高い感度を有するCCDカメラを設けても良い。
本実施例に係る異種合成画像形成方法は、顕微鏡システム103の代わりに顕微鏡システム105で行われる点を除き、実施例4と同様である。従って、以下では、顕微鏡システム105について説明し、その他の説明を省略する。
図21に示される顕微鏡システム105は、位相分布画像と蛍光画像を合成した異種合成画像を形成する画像形成装置であり、顕微鏡1cの代わりに顕微鏡1eを含む点、駆動機構28を含まない点が、実施例4に係る顕微鏡システム103と異なっている。なお、顕微鏡システム105は、蛍光画像と位相分布画像の両方を取得することができる点は、顕微鏡システム103と同様である。
顕微鏡1eは、レーザ走査型の顕微鏡であり、位相分布画像と蛍光画像は、それぞれレーザ光で生体試料Sを走査することによって取得される。顕微鏡1eは、視野絞り4を含まない点、光源2の代わりにPMT75を含む点が、顕微鏡1cと異なっている。また、検光子11、結像レンズ12、CCDカメラ13、及び、蛍光画像取得用の照明手段60の代わりに、照明兼検出手段70及びミラー54を備える点も、顕微鏡1cと異なっている。顕微鏡1eは、微分干渉顕微鏡であり、蛍光顕微鏡である。
照明兼検出手段70は、レーザ光源51と、ビーム走査装置52と、リレーレンズ53と、ダイクロイックミラー71と、共焦点レンズ72、共焦点絞り73、PMT74を備えている。レーザ光源51は、例えば、可視光に比べて波長が長く散乱が生じにくい近赤外域のレーザ光を出射するレーザである。ビーム走査装置52は、レーザ光源51から出射したレーザ光で標本Sを走査するための2次元走査装置であり、例えば、対物レンズ9の瞳共役位置でレーザ光を偏向させるガルバノミラーなどを備えている。ダイクロイックミラー71は、レーザ光を透過し蛍光を反射する光学特性を有している。
顕微鏡システム105では、レーザ光源51から発せられたレーザ光をPMT75で検出することにより、上述した位相計測方法を用いて像コントラストの異なる複数枚の画像を取得して位相分布画像を形成する。また、レーザ光源51から発せられたレーザ光の照射により生体試料Sから発生した蛍光をPMT74で検出することにより、蛍光画像を取得する。なお、照明兼検出手段70は、焦点面以外から発生した蛍光が共焦点絞り73により遮断され焦点面から発生した蛍光のみがPMT74で検出される、共焦点光学系を有する共焦点検出手段である。
以上のように構成された顕微鏡システム105によっても、実施例4に係る顕微鏡システム103と同様に、生化学的な現象及び/又は物理学的な現象が生じている生体試料中の部位の位置や生化学的な現象及び/又は物理学的な現象が生体試料の形状や構造に及ぼす影響を正確に把握することができる異種合成画像を容易に形成することができる。
さらに、顕微鏡システム105では、光源としてレーザ光源51が用いられることから、実施例3で上述した理由により、生体試料Sの位相分布をより正確に表わした位相分布画像を形成することができる。また、セクショニング効果を発揮する共焦点検出手段を用いて蛍光画像が取得されるため、蛍光物質と結びついた物質の三次元座標も把握することができる。従って、顕微鏡システム105によれば、実施例4に係る顕微鏡システム103よりも正確に生体試料Sを観察可能な異種合成画像を形成することができる。なお、顕微鏡システム105は、例えば、図17に示す差動検出手段40を備えても良く、その場合、像コントラストの異なる複数枚の画像を差動検出手段40を介して取得しても良い。また、顕微鏡システム105は、さらに、共焦点絞り73とPMT74の間にダイクロイックミラーや分光グレーティングなどを設けて、波長毎に蛍光画像を取得しても良い。
本実施例に係る異種合成画像形成方法は、顕微鏡システム103の代わりに顕微鏡システム108で行われる点を除き、実施例4と同様である。従って、以下では、顕微鏡システム108について説明し、その他の説明を省略する。
図22に示される顕微鏡システム108は、位相分布画像と蛍光画像を合成した異種合成画像を形成する画像形成装置であり、顕微鏡1cの代わりに顕微鏡1hを含む点が、実施例4に係る顕微鏡システム103と異なっている。なお、顕微鏡システム108は、蛍光画像と位相分布画像の両方を取得することができる点は、顕微鏡システム103と同様である。
顕微鏡1hの蛍光画像を取得する構成は、スピニングディスク型の蛍光共焦点顕微鏡であり、一方、位相分布画像を取得する構成は、ワイドフィールド型の微分干渉顕微鏡である。顕微鏡1hは、照明手段60の代わりに照明兼検出手段80及びミラー54を含む点が、顕微鏡1cと異なっている。
照明兼検出手段80は、レーザ光源51と、ダイクロイックミラーを含むミラーユニットである蛍光キューブ85と、集光レンズ81と、共焦点ディスク82と、集光レンズ83と、CCDカメラ84とを備えた共焦点光学系を有する共焦点検出手段である。共焦点ディスク82は、例えば、ニポウディスクやスリットディスクなどの回転ディスクである。
顕微鏡システム108でも、駆動機構28を通じてミラー54を光路中に挿入して蛍光画像を取得し、駆動機構28を通じてミラー54を光路から取り除いて位相分布画像を取得する。
以上のように構成された顕微鏡システム108によっても、実施例4に係る顕微鏡システム103と同様に、生化学的な現象及び/又は物理学的な現象が生じている生体試料中の部位の位置や生化学的な現象及び/又は物理学的な現象が生体試料の形状や構造に及ぼす影響を正確に把握することができる異種合成画像を容易に形成することができる。また、スピニングディスク(共焦点ディスク82)によってセクショニング効果を発揮する手段を用いて蛍光画像を取得することができるため、蛍光物質と結びついた物質の三次元座標も把握することができる。さらに、顕微鏡システム108では、蛍光画像が二次元光検出器であるCCDカメラ84で取得されるため、高速に走査画像である蛍光画像を取得することができる。
本実施例に係る異種合成画像形成方法は、顕微鏡システム103の代わりに顕微鏡システム110で行われる点を除き、実施例4と同様である。従って、以下では、顕微鏡システム110について説明し、その他の説明を省略する。
図23に示される顕微鏡システム110は、位相分布画像と蛍光画像を合成した異種合成画像を形成する画像形成装置であり、顕微鏡1cの代わりに顕微鏡1jを含む点が、実施例4に係る顕微鏡システム103と異なっている。なお、顕微鏡システム110は、蛍光画像と位相分布画像の両方を取得することができる点は、顕微鏡システム103と同様である。
顕微鏡1jは、シート照明手段90を含む点、照明手段60の代わりに、ノマルスキープリズム10と検光子11の間に交換自在に配置された波長選択フィルター93を含む点が、顕微鏡1cと異なっている。顕微鏡1jは、微分干渉顕微鏡であり、蛍光顕微鏡である。
シート照明手段90は、レーザ光源91と、レンズ92とを含んでいる。レンズ92は、例えば、シリンドリカルレンズである。シート照明手段90は、レーザ光源91から出射されたレーザ光をレンズ92によってシート状のレーザ光に変換し、側面から生体試料Sをシート状に照射するように構成されている。
顕微鏡システム110で蛍光画像を取得する場合には、コンピュータ20は、駆動機構28を通じて波長選択フィルター93を蛍光が透過するフィルターに変更して、レーザ光源91を発光させる。そして、シート照明手段90からのシート状のレーザ光の照射により生体試料Sから発生した蛍光をCCDカメラ13で検出することにより、蛍光画像を取得する。
顕微鏡システム110で位相分布画像を取得する場合には、コンピュータ20は、駆動機構28を通じて波長選択フィルター93を光源2の光源波長の光を透過するフィルターに変更して、光源2を発光させる。その後は、実施例1で上述した方法によって、像コントラストの異なる複数枚の画像を取得し、位相分布画像を形成する。
以上のように構成された顕微鏡システム110によっても、実施例4に係る顕微鏡システム103と同様の効果を得ることができる。また、セクショニング効果を発揮するシート照明手段を用いて蛍光画像が取得されるため、蛍光物質と結びついた物質の三次元座標も把握することができる。従って、顕微鏡システム110によれば、実施例4に係る顕微鏡システム103よりも正確に生体試料Sを観察可能な異種合成画像を形成することができる。
なお、顕微鏡システム110は、複数のCCDカメラを設けて、位相分布画像と蛍光画像を異なるCCDカメラで取得するように構成されてもよい。また、本実施例に係る顕微鏡システム110は、蛍光画像の代わりに暗視野画像を、位相分布画像と合成してもよい。暗視野画像は、金属コロイド粒子を注入してラベリングされた生体試料Sをシート照明手段90で照明し、生体試料Sからの散乱光をCCDカメラ13で検出することによって取得することができる。
本実施例に係る異種合成画像形成方法は、顕微鏡システム103の代わりに顕微鏡システム111で行われる点を除き、実施例4と同様である。従って、以下では、顕微鏡システム111について説明し、その他の説明を省略する。
図24に示される顕微鏡システム111は、位相分布画像と蛍光画像を合成した異種合成画像を形成する画像形成装置であり、顕微鏡1cの代わりに顕微鏡1kを含む点が、実施例4に係る顕微鏡システム103と異なっている。なお、顕微鏡システム111は、蛍光画像と位相分布画像の両方を取得することができる点は、顕微鏡システム103と同様である。
顕微鏡1kは、照明手段60の代わりに、全反射照明手段である照明手段94を含む点が、顕微鏡1cと異なっている。照明手段94は、光源63の代わりにレーザ光源95と光ファイバー96からなるファイバー光源を含む点が、照明手段60と異なっている。光ファイバー96の出射端は、レンズ62の光軸からずれた位置に配置されている。このため、ファイバー光源から出射されたレーザ光は、レンズ62の光軸からずれた位置に光軸と平行に入射し、対物レンズ9から大きな角度で出射される。これにより、レーザ光が生体試料Sで全反射し、生体試料Sがエバネッセント光によって励起される。顕微鏡1kは、微分干渉顕微鏡であり、全反射蛍光顕微鏡(TIRFM:Total Internal Reflection Fluorescence microscope)である。
以上のように構成された顕微鏡システム111によっても、実施例4に係る顕微鏡システム103と同様の効果を得ることができる。従来の全反射蛍光顕微鏡では、カバーガラス近傍の試料の画像しか取得できず試料全体の形状を把握することが難しいのに対して、顕微鏡システム110では、位相分布画像と蛍光画像が合成されているため、試料全体の形状も把握することができる。なお、顕微鏡システム111は、複数のCCDカメラを設けて、位相分布画像と蛍光画像を異なるCCDカメラで取得するように構成されてもよい。また、十分な明るさが得られる場合であれば、蛍光キューブ61を光路中に挿入した状態で像コントラストの異なる複数枚の画像を取得して位相分布画像を形成しても良い。この場合、蛍光キューブ61によって光源2から出射した光のうち所定の波長帯域の光が生体試料Sに照射されることで色収差の影響が軽減されるため、試料によっては位相分布画像の可視性が改善される。
図25に示される顕微鏡システム112は、位相分布画像と生体試料Sが発光した光に基づく発光画像とを合成した異種合成画像を形成する画像形成装置であり、顕微鏡1の代わりに顕微鏡1lを含む点が、実施例1に係る顕微鏡システム100と異なっている。また、顕微鏡システム112は、発光画像と位相分布画像の両方を取得することができる点も、顕微鏡システム100とは異なっている。
なお、発光画像とは、例えば、生体試料Sが自発的に周期的に発光する光(例えば、サーカディアンリズムに関連して発光する光)に基づく画像や、生体試料Sに投入した薬物によって誘発された生体試料Sからの発光に基づく画像である。
顕微鏡1lは、生体試料Sが発光する波長の光を選択的に透過させる波長選択フィルター93を含む点が顕微鏡1と異なっている。
顕微鏡システム112では、光源2から発せられた光をCCDカメラ13で検出し、上述した位相計測方法を用いて像コントラストの異なる複数枚の画像を取得して位相分布画像を形成する。また、生体試料Sが発光した光をCCDカメラ13で検出することにより、発光画像を取得する。
なお、像コントラストの異なる複数枚の画像を、波長選択フィルター93を介して取得することで、CCDカメラ13で検出される波長が制限される。このため、色収差の影響が抑えた位相分布画像を形成することができる。また、像コントラストの異なる複数枚の画像を取得する際に、生体試料Sから発せられた光も同時に検出される可能性があるが、生体試料Sから発せられた光は微弱であるので、位相分布画像に及ぼす影響は限定的である。
以上のように構成された顕微鏡システム112によっても、実施例1に係る顕微鏡システム100と同様に生体試料の形状や構造を正確に把握することができる位相分布画像を形成することができる。さらに、顕微鏡システム112では、生体試料の生化学的な現象及び/又は物理学的な現象を可視化した発光画像も取得することができる。従って、顕微鏡システム112によれば、位相分布画像と発光画像を合成した異種合成画像を容易に形成することができる。
上述した実施例は、発明の理解を容易にするために本発明の具体例を示したものであり、本発明はこれらの実施例に限定されるものではない。例えば、上述した実施例では、微分干渉顕微鏡の構成を備えた顕微鏡システムを用いているが、必ずしも顕微鏡システムに含まれる顕微鏡は微分干渉顕微鏡の構成を有するものに限定されるものではなく、像強度分布を位相分布に変換する顕微鏡の構成を有するものであればよい。特開平7−225341号公報には、位相差顕微鏡の位相膜の位相量を変化せることで像コントラストを変化させ規格化された位相成分画像を形成する技術が開示されている。この技術を採用した位相差顕微鏡を備えた顕微鏡システムであってもよい。
また、上述した実施例に示すように、顕微鏡システムは、ワイドフィールド型の顕微鏡システムであっても、走査型の顕微鏡システムであってもよい。また、光源も任意の光源を使用する可能であり、顕微鏡システムには、コヒーレント照明とインコヒーレント照明のいずれが採用されても良い。
また、上述した実施例では、顕微鏡システムは、図1及び図2に示す方法を実行する例を示したが、図8に示す方法を実行してもよい。また、特開2012−73591号公報には、偏斜照明を使った顕微鏡が開示されており、照明の方向を変化せることで像コントラストを変化させることができる。これを使っても同様の効果を得ることができる。
また、顕微鏡システムは、算出された生体試料の位相分布を用いて正常な細胞と変異している細胞(変位細胞)との判別を画像処理により行なう判別処理部を備えた観察装置として構成されてもよい。この場合、観察装置は、部位ごとの屈折率分布や生体試料の位相分布画像をモニタ25等に表示する際に、変位細胞を他の細胞と識別して表示してもよい。また、判別処理部では、例えば、細胞の形状(他の細胞とは形状が異なるなど)、大きさ(細胞の外形に突起部が存在するなど)、明るさ(他の細胞よりも明るいまたは暗いなど)等に基づいて、変位細胞を判別してもよい。
本発明の画像形成方法及び画像形成装置は、特許請求の範囲に規定された本発明の思想を逸脱しない範囲において、さまざまな変形、変更が可能である。図13Aから図13C及び図18Aから図18Cに示す画像から明らかなように、本願発明によれば、細胞レベルから組織レベル(iPS細胞、ES細胞または幹細胞が分化することによって形成された組織も含む)までの任意の生体試料を観察して、生化学的な現象及び/又は物理学的な現象が生じている生体試料中の部位の位置や生化学的な現象及び/又は物理学的な現象が生体試料の形状や構造に及ぼす影響を正確に把握することができる。
1、1a、1b、1c、1e、1h、1j、1k、1l顕微鏡
2、63 光源
3、62、92 レンズ
4 視野絞り
5 像コントラスト変化ユニット
5a、33、34 偏光板
5b、36 λ/4板
6、10 ノマルスキープリズム
7 コンデンサレンズ
8 ステージ
9 対物レンズ
11 検光子
12 結像レンズ
13、84 CCDカメラ
20 コンピュータ
21、22、23、24、26、27、28 駆動機構
25 モニタ
30 位相変調手段
31、32 LED光源
33a、34a 振動方向
35 ビームスプリッタ
40 検出手段
41、42、74、75 PMT
50、60、94 照明手段
51、91、95 レーザ光源
52 ビーム走査装置
53 リレーレンズ
54 ミラー
61、85 蛍光キューブ
70、80 照明兼検出手段
71 ダイクロイックミラー
72 共焦点レンズ
73 共焦点絞り
81、83 集光レンズ
82 共焦点ディスク
90 シート照明手段
93 波長選択フィルター
96 光ファイバー
100、101、102、103、105、108、110、111、112 顕微鏡システム
S 生体試料
本発明の第10の態様は、生体試料の位相分布を像強度分布に変換する顕微鏡であって、前記像強度分布の像コントラストを変化させる像コントラスト変化ユニットを有する顕微鏡と、像コントラストの異なる複数枚の画像を取得するように、前記像コントラスト変化ユニットを制御する制御ユニットと、前記制御ユニットによる制御により取得された前記複数枚の画像に基づいて、前記生体試料の位相分布に対応する成分と前記生体試料の位相分布以外に対応する成分とを算出し、前記位相分布に対応する成分を前記生体試料の位相分布以外に対応する成分で割り算することで規格化された位相成分画像を形成し、前記位相成分画像を画像の空間周波数により複数の周波数成分に分解し、前記周波数成分の各々に対して各々に対応する光学的応答特性を用いてデコンボリューション処理を行い、前記生体試料の内部で屈折した光によって形成された屈折成分の位相分布と前記生体試料の内部の構造で回折した光によって形成された構造成分の位相分布を算出し、前記屈折成分の位相分布と前記構造成分の位相分布を合成して前記生体試料の位相分布を算出し、算出した前記生体試料の位相分布から位相分布画像を形成する演算ユニットと、前記位相分布画像とは異なる方法で取得された前記生体試料の生化学的な現象及び/又は物理学的な現象を可視化した前記生体試料の画像と、前記演算ユニットで形成された前記生体試料の位相分布画像と、を合成する合成ユニットと、を有する画像形成装置を提供する。
本発明の第11の態様は、第10の態様に記載の画像形成装置において、前記合成ユニットは、前記位相分布画像の座標情報と前記位相分布画像とは異なる方法で取得された前記画像の座標情報とに基づいて画像間の位置合わせを行い、位置合わせが行われた前記位相分布画像と前記位相分布画像とは異なる方法で取得された前記画像とを合成する、ように構成される画像形成装置を提供する。
本発明の第12の態様は、第10の態様に記載の画像形成装置において、前記位相分布画像とは異なる方法で取得された前記画像は、前記生体標本の蛍光画像である画像形成装置を提供する。

Claims (15)

  1. 位相分布を像強度分布に変換する顕微鏡によって形成される生体試料の光学像を像コントラストを変化させながら取り込み、像コントラストの異なる複数枚の画像を形成する像コントラスト画像形成工程と、
    前記複数枚の画像に基づいて前記生体試料の位相分布に対応する成分と前記生体試料の位相分布以外に対応する成分とを算出して、前記位相分布に対応する成分を前記生体試料の位相分布以外に対応する成分で割り算することで規格化された位相成分画像を形成する位相成分画像形成工程と、
    前記位相成分画像を、画像の空間周波数により複数の周波数成分に分解する空間周波数分解工程と、
    前記周波数成分の各々に対して各々に対応する光学的応答特性を用いてデコンボリューション処理を行い、前記生体試料の内部で屈折した光によって形成された屈折成分の位相分布と前記生体試料の内部の構造で回折した光によって形成された構造成分の位相分布を算出する位相分布算出工程と、
    前記屈折成分の位相分布と前記構造成分の位相分布を合成して前記生体試料の位相分布を算出し、算出した前記生体試料の位相分布から位相分布画像を形成する生体試料の位相分布合成工程と、
    前記位相分布合成工程で形成された前記生体試料の位相分布画像と、前記位相分布画像とは異なる方法で取得された前記生体試料の生化学的な現象及び/又は物理学的な現象を可視化した前記生体試料の画像とを合成する異種画像合成工程と、を有する
    ことを特徴とする生体試料の画像形成方法。
  2. 請求項1に記載の画像形成方法において、
    前記顕微鏡は、観察物体の位相分布を像強度分布として撮像する微分干渉顕微鏡であり、さらに、
    前記顕微鏡のシァー方向を切り替える工程と、
    切り替え前後の2方向のシァー方向で算出された前記生体試料の2つの位相分布を合成する工程と、を有する
    ことを特徴とする画像形成方法。
  3. 請求項1または請求項2に記載の画像形成方法において、さらに、
    観察面に対するデフォーカス状態での光学的応答特性を用いて前記構造成分にデコンボリューション処理を行って前記構造成分の第2の位相分布を算出する第2位相分布算出工程と、
    前記構造成分の第2の位相分布と前記観察面に対する合焦状態での光学的応答特性を用いて算出された前記構造成分の位相分布とを比較する位相分布比較工程と、
    位相分布の比較結果に基づいて、前記構造成分の位相分布から前記デフォーカスによるボケが生じた位相分布を取り除くボケ位相分布除去工程と、を有し、
    前記生体試料の位相分布合成工程は、前記構造成分の位相分布から前記デフォーカスによるボケが生じた位相分布が取り除かれた位相分布と、前記屈折成分の位相分布とを合成する
    ことを特徴とする画像形成方法。
  4. 請求項1乃至請求項3のいずれか1項に記載の画像形成方法において、さらに、
    観察面に対して焦点面を光軸方向に変化させる焦点面変更工程と、
    各焦点面で算出された前記構造成分の位相分布を比較して、前記観察面の上下に存在する前記生体試料の構造から前記観察面に漏れこむ位相分布を識別する漏れ位相分布識別工程と、
    識別された位相分布を前記構造成分の位相分布から取り除く漏れ位相分布除去工程と、を有する
    ことを特徴とする画像形成方法。
  5. 請求項1乃至請求項4のいずれか1項に記載の画像形成方法において、
    異種画像合成工程は、
    前記位相分布画像の座標情報と前記位相分布画像とは異なる方法で取得された前記画像の座標情報とに基づいて画像間の位置合わせを行う工程と、
    位置合わせが行われた前記位相分布画像と前記位相分布画像とは異なる方法で取得された前記画像とを合成する工程と、を有する
    ことを特徴とする画像形成方法。
  6. 請求項1乃至請求項4のいずれか1項に記載の画像形成方法において、
    異種画像合成工程は、
    前記位相分布画像の座標情報及び角度情報と前記位相分布画像とは異なる方法で取得された前記画像の座標情報及び角度情報とに基づいて画像間の位置合わせを行う工程と、
    位置合わせが行われた前記位相分布画像と前記位相分布画像とは異なる方法で取得された前記画像とを合成する工程と、を有する
    ことを特徴とする画像形成方法。
  7. 請求項5または請求項6に記載の画像形成方法において、
    異種画像合成工程は、さらに、前記位相分布画像の倍率情報と前記位相分布画像とは異なる方法で取得された前記画像の倍率情報とに基づいて画像間の倍率合わせを行う工程を有する
    ことを特徴とする画像形成方法。
  8. 請求項1乃至請求項7のいずれか1項に記載の画像形成方法において、
    前記位相分布画像とは異なる方法で取得された前記画像は、前記生体標本が発光した光に基づいて形成される画像である
    ことを特徴とする画像形成方法。
  9. 請求項8に記載の画像形成方法において、
    前記位相分布画像とは異なる方法で取得された前記画像は、前記生体標本の蛍光画像である
    ことを特徴とする画像形成方法。
  10. 生体試料の位相分布を像強度分布に変換する顕微鏡であって、前記像強度分布の像コントラストを変化させる像コントラスト変化ユニットを有する顕微鏡と、
    像コントラストの異なる複数枚の画像を取得するように、前記像コントラスト変化ユニットを制御する制御ユニットと、
    請求項1に記載の位相分布計測方法により、前記制御ユニットによる制御により取得された前記複数枚の画像から前記生体試料の位相分布を算出し、算出した前記生体試料の位相分布から位相分布画像を形成する演算ユニットと、
    前記位相分布画像とは異なる方法で取得された前記生体試料の生化学的な現象及び/又は物理学的な現象を可視化した前記生体試料の画像と、前記演算ユニットで形成された前記生体試料の位相分布画像と、を合成する合成ユニットと、を有する
    ことを特徴とする画像形成装置。
  11. 生体試料の位相分布を像強度分布に変換する顕微鏡であって、前記像強度分布の像コントラストを変化させる像コントラスト変化ユニットを有する顕微鏡と、
    像コントラストの異なる複数枚の画像を取得するように、前記像コントラスト変化ユニットを制御する制御ユニットと、
    請求項5に記載の位相分布計測方法により、前記制御ユニットによる制御により取得された前記複数枚の画像から前記生体試料の位相分布を算出し、算出した前記生体試料の位相分布から位相分布画像を形成する演算ユニットと、
    前記位相分布画像とは異なる方法で取得された前記生体試料の生化学的な現象及び/又は物理学的な現象を可視化した前記生体試料の画像と、前記演算ユニットで形成された前記生体試料の位相分布画像と、を合成する合成ユニットと、を有する
    ことを特徴とする画像形成装置。
  12. 生体試料の位相分布を像強度分布に変換する顕微鏡であって、前記像強度分布の像コントラストを変化させる像コントラスト変化ユニットを有する顕微鏡と、
    像コントラストの異なる複数枚の画像を取得するように、前記像コントラスト変化ユニットを制御する制御ユニットと、
    請求項9に記載の位相分布計測方法により、前記制御ユニットによる制御により取得された前記複数枚の画像から、前記観察面の上下に存在する前記生体試料の構造から漏れこむ位相分布を取り除いた前記生体試料の位相分布を算出し、算出した前記生体試料の位相分布から位相分布画像を形成する演算ユニットと、
    前記位相分布画像とは異なる方法で取得された前記生体試料の生化学的な現象及び/又は物理学的な現象を可視化した前記生体試料の画像と、前記演算ユニットで形成された前記生体試料の位相分布画像と、を合成する合成ユニットと、を有する
    ことを特徴とする画像形成装置。
  13. 請求項10乃至請求項12のいずれか1項に記載の画像形成装置において、
    前記位相分布画像とは異なる方法で取得された前記画像は、前記顕微鏡で取得される
    ことを特徴とする画像形成装置。
  14. 請求項13に記載の画像形成装置において、
    前記位相分布画像とは異なる方法で取得された前記画像は、前記生体標本が発光した光に基づいて形成される画像である
    ことを特徴とする画像形成装置。
  15. 請求項14に記載の画像形成装置において、
    前記位相分布画像とは異なる方法で取得された前記画像は、前記生体標本の蛍光画像である
    ことを特徴とする画像形成装置。
JP2013270349A 2013-12-26 2013-12-26 画像形成方法、及び、画像形成装置 Active JP6253400B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013270349A JP6253400B2 (ja) 2013-12-26 2013-12-26 画像形成方法、及び、画像形成装置
US14/571,244 US20150185460A1 (en) 2013-12-26 2014-12-15 Image forming method and image forming apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013270349A JP6253400B2 (ja) 2013-12-26 2013-12-26 画像形成方法、及び、画像形成装置

Publications (2)

Publication Number Publication Date
JP2015125326A true JP2015125326A (ja) 2015-07-06
JP6253400B2 JP6253400B2 (ja) 2017-12-27

Family

ID=53481476

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013270349A Active JP6253400B2 (ja) 2013-12-26 2013-12-26 画像形成方法、及び、画像形成装置

Country Status (2)

Country Link
US (1) US20150185460A1 (ja)
JP (1) JP6253400B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017053918A (ja) * 2015-09-07 2017-03-16 オリンパス株式会社 シート照明顕微鏡システム、画像処理装置、シート照明顕微鏡法、及び、プログラム
JP2019523456A (ja) * 2016-08-02 2019-08-22 ライカ マイクロシステムズ シーエムエス ゲゼルシャフト ミット ベシュレンクテル ハフツングLeica Microsystems CMS GmbH 顕微鏡特に光シート顕微鏡または共焦点顕微鏡および顕微鏡用レトロフィットキット
JP2020190459A (ja) * 2019-05-21 2020-11-26 株式会社ニコン 細胞毒性を評価する方法及び装置

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6124774B2 (ja) 2013-03-22 2017-05-10 オリンパス株式会社 位相分布計測方法、及び、位相分布計測装置
US20160041099A1 (en) * 2014-08-06 2016-02-11 University Of Oregon Light sheet fluorescence and differential interference contrast microscope
WO2016176088A1 (en) * 2015-04-28 2016-11-03 University Of Florida Research Foundation, Inc. Integrated miniature polarimeter and spectograph using static optics
US9939623B2 (en) * 2015-10-19 2018-04-10 Molecular Devices, Llc Microscope system with transillumination-based autofocusing for photoluminescence imaging
JP6784514B2 (ja) * 2016-06-06 2020-11-11 オリンパス株式会社 レーザ走査型顕微鏡
JPWO2018008136A1 (ja) * 2016-07-07 2019-04-18 オリンパス株式会社 画像処理装置および画像処理装置の作動方法
US10690898B2 (en) * 2016-09-15 2020-06-23 Molecular Devices (Austria) GmbH Light-field microscope with selective-plane illumination
US10908072B2 (en) 2016-12-15 2021-02-02 The Board Of Regents Of The University Of Texas System Total internal reflection and transmission illumination fluorescence microscopy imaging system with improved background suppression
EP3712596A4 (en) * 2017-11-14 2021-11-24 Nikon Corporation QUANTITATIVE PHASE IMAGE GENERATION PROCESS, QUANTITATIVE PHASE IMAGE GENERATION DEVICE AND PROGRAM
WO2019191061A1 (en) * 2018-03-26 2019-10-03 Georgia Tech Research Corporation Cell imaging systems and methods
CN208969331U (zh) * 2018-11-22 2019-06-11 卡尔蔡司显微镜有限责任公司 智能照相显微镜系统
CN115965703B (zh) * 2022-12-27 2023-07-25 中国科学院西安光学精密机械研究所 一种高保真结构光照明光切片三维显微图像的重构方法

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0915504A (ja) * 1995-04-24 1997-01-17 Olympus Optical Co Ltd 微分干渉顕微鏡
JPH09179034A (ja) * 1995-12-26 1997-07-11 Olympus Optical Co Ltd 落射蛍光顕微鏡
JPH11231223A (ja) * 1998-02-16 1999-08-27 Olympus Optical Co Ltd 走査型光学顕微鏡
US20050168808A1 (en) * 2003-12-12 2005-08-04 Hiroshi Ishiwata Methods for implement microscopy and microscopic measurement as well as microscope and apparatus for implementing them
JP2005218379A (ja) * 2004-02-06 2005-08-18 Olympus Corp 培養細胞の状態計測方法及び計測装置
JP2006300714A (ja) * 2005-04-20 2006-11-02 Olympus Corp 形状計測装置、及びプログラム
JP2008102294A (ja) * 2006-10-18 2008-05-01 Olympus Corp 位相物体の可視化方法とその顕微鏡システム
JP2009014939A (ja) * 2007-07-03 2009-01-22 Olympus Corp 顕微鏡システム、そのvs画像生成方法、プログラム
JP2010078983A (ja) * 2008-09-26 2010-04-08 Olympus Corp 顕微鏡システム、該プログラム、及び該方法
US20110164314A1 (en) * 2008-09-26 2011-07-07 Olympus Corporation Microscope system, storage medium storing control program, and control method
US20140285650A1 (en) * 2013-03-22 2014-09-25 Olympus Corporation Phase distribution measurement method and phase distribution measurement apparatus
US20150181131A1 (en) * 2012-07-20 2015-06-25 Carl Zeiss Ag Method and apparatus for image reconstruction

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0915504A (ja) * 1995-04-24 1997-01-17 Olympus Optical Co Ltd 微分干渉顕微鏡
JPH09179034A (ja) * 1995-12-26 1997-07-11 Olympus Optical Co Ltd 落射蛍光顕微鏡
US6025956A (en) * 1995-12-26 2000-02-15 Olympus Optical Co., Ltd. Incident-light fluorescence microscope
JPH11231223A (ja) * 1998-02-16 1999-08-27 Olympus Optical Co Ltd 走査型光学顕微鏡
US20050168808A1 (en) * 2003-12-12 2005-08-04 Hiroshi Ishiwata Methods for implement microscopy and microscopic measurement as well as microscope and apparatus for implementing them
JP2005218379A (ja) * 2004-02-06 2005-08-18 Olympus Corp 培養細胞の状態計測方法及び計測装置
JP2006300714A (ja) * 2005-04-20 2006-11-02 Olympus Corp 形状計測装置、及びプログラム
JP2008102294A (ja) * 2006-10-18 2008-05-01 Olympus Corp 位相物体の可視化方法とその顕微鏡システム
JP2009014939A (ja) * 2007-07-03 2009-01-22 Olympus Corp 顕微鏡システム、そのvs画像生成方法、プログラム
US20090212242A1 (en) * 2007-07-03 2009-08-27 Tatsuki Yamada Microscope System and VS Image Production and Program Thereof
JP2010078983A (ja) * 2008-09-26 2010-04-08 Olympus Corp 顕微鏡システム、該プログラム、及び該方法
US20110164314A1 (en) * 2008-09-26 2011-07-07 Olympus Corporation Microscope system, storage medium storing control program, and control method
US20150181131A1 (en) * 2012-07-20 2015-06-25 Carl Zeiss Ag Method and apparatus for image reconstruction
US20140285650A1 (en) * 2013-03-22 2014-09-25 Olympus Corporation Phase distribution measurement method and phase distribution measurement apparatus
JP2014209085A (ja) * 2013-03-22 2014-11-06 オリンパス株式会社 位相分布計測方法、及び、位相分布計測装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
M.SHRIBAK: "Quantitative orientation-independent DIC microscope with fast switching shear direction and bias mod", JOURNAL OF THE OPTICAL SOCIETY OF AMERICA A, vol. 30, no. 4, JPN7017003622, 1 April 2013 (2013-04-01), US, pages 769 - 782, ISSN: 0003678389 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017053918A (ja) * 2015-09-07 2017-03-16 オリンパス株式会社 シート照明顕微鏡システム、画像処理装置、シート照明顕微鏡法、及び、プログラム
JP2019523456A (ja) * 2016-08-02 2019-08-22 ライカ マイクロシステムズ シーエムエス ゲゼルシャフト ミット ベシュレンクテル ハフツングLeica Microsystems CMS GmbH 顕微鏡特に光シート顕微鏡または共焦点顕微鏡および顕微鏡用レトロフィットキット
JP7184752B2 (ja) 2016-08-02 2022-12-06 ライカ マイクロシステムズ シーエムエス ゲゼルシャフト ミット ベシュレンクテル ハフツング 顕微鏡特に光シート顕微鏡または共焦点顕微鏡および顕微鏡用レトロフィットキット
JP2020190459A (ja) * 2019-05-21 2020-11-26 株式会社ニコン 細胞毒性を評価する方法及び装置
JP7228189B2 (ja) 2019-05-21 2023-02-24 株式会社ニコン 細胞毒性を評価する方法及び装置

Also Published As

Publication number Publication date
JP6253400B2 (ja) 2017-12-27
US20150185460A1 (en) 2015-07-02

Similar Documents

Publication Publication Date Title
JP6253400B2 (ja) 画像形成方法、及び、画像形成装置
JP6124774B2 (ja) 位相分布計測方法、及び、位相分布計測装置
JP5485156B2 (ja) 顕微鏡により試料を3次元結像するための方法
US9829691B2 (en) Microscope with at least one illuminating beam in the form of a light sheet
JP4670031B2 (ja) 試料内で励起および/または後方散乱を経た光ビームの光学的検出のための装置
US8089691B2 (en) Projection device for patterned illumination and microscopy
JP6594294B2 (ja) 顕微鏡画像の画像品質評価
WO2007037439A1 (ja) 焦点位置決定方法、焦点位置決定装置、微弱光検出装置及び微弱光検出方法
KR101260051B1 (ko) 살아있는 세포에 대한 명시야 이미징 및 형광 이미징의 동시 수행이 가능한 세포 이미징 장치 및 방법
JP7150867B2 (ja) 顕微鏡システム
CN103025888B (zh) 用于检测生物颗粒群的方法
JP2012008450A (ja) 顕微鏡及び合焦点方法
WO2011132584A1 (ja) 膜電位変化検出装置および膜電位変化検出方法
JP2012237647A (ja) 多焦点共焦点ラマン分光顕微鏡
JP2023060003A (ja) コントラストを増進し、かつ焦点を見出すための干渉縞の使用を伴う透過照明撮像
CA2614254C (en) Three dimensional position observation method and apparatus
CN109407297B (zh) 一种基于可编程led阵列照明的多模式光场显微成像方法
CN112041660A (zh) 用于移动粒子三维成像的系统、装置与方法
CN110161671B (zh) 暗场、明场、相衬、荧光多模式同步成像显微成像装置
US10866398B2 (en) Method for observing a sample in two spectral bands, and at two magnifications
CN108474930A (zh) 确定对比图像的显微术方法和显微镜
JPWO2018081037A5 (ja)
US20230085045A1 (en) Microscope for high-resolution and specific analysis of biological substances, and method of analysis
Pushpa et al. Advances in Microscopy and Its Applications with Special Reference to Fluorescence Microscope: An Overview
Wheeler Confocal Microscopy

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160713

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170704

RD12 Notification of acceptance of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7432

Effective date: 20170818

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170824

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20170818

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171128

R151 Written notification of patent or utility model registration

Ref document number: 6253400

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250