JP6704530B2 - 撮影制御装置、方法およびプログラム - Google Patents

撮影制御装置、方法およびプログラム Download PDF

Info

Publication number
JP6704530B2
JP6704530B2 JP2019539136A JP2019539136A JP6704530B2 JP 6704530 B2 JP6704530 B2 JP 6704530B2 JP 2019539136 A JP2019539136 A JP 2019539136A JP 2019539136 A JP2019539136 A JP 2019539136A JP 6704530 B2 JP6704530 B2 JP 6704530B2
Authority
JP
Japan
Prior art keywords
target
image
optical system
observation
observation position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019539136A
Other languages
English (en)
Other versions
JPWO2019044424A1 (ja
Inventor
隆史 涌井
隆史 涌井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2019044424A1 publication Critical patent/JPWO2019044424A1/ja
Application granted granted Critical
Publication of JP6704530B2 publication Critical patent/JP6704530B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G01N21/27Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands using photo-electric detection ; circuits for computing concentration
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/41Refractivity; Phase-affecting properties, e.g. optical path length
    • G01N21/45Refractivity; Phase-affecting properties, e.g. optical path length using interferometric methods; using Schlieren methods
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0036Scanning details, e.g. scanning stages
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/006Optical details of the image generation focusing arrangements; selection of the plane to be imaged
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/24Base structure
    • G02B21/241Devices for focusing
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/24Base structure
    • G02B21/26Stages; Adjusting means therefor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Theoretical Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Microscoopes, Condenser (AREA)
  • Automatic Focus Adjustment (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Studio Devices (AREA)

Description

本発明は、観察対象が収容された容器が設置されたステージと観察対象の像を結像させる結像光学系とを相対的に移動させることによって、観察対象全体の像を観察する撮影装置を制御するための撮影制御装置、方法およびプログラムに関するものである。
ES(Embryonic Stem)細胞およびiPS(Induced Pluripotent Stem)細胞等の多能性幹細胞は、種々の組織の細胞に分化する能力を備えたものであり、再生医療、薬の開発、および病気の解明等において応用が可能なものとして注目されている。
そして、ES細胞およびiPS細胞等の多能性幹細胞および分化誘導された細胞等を顕微鏡等で撮像し、その画像の特徴を捉えることで細胞の分化状態等を評価する方法が提案されている。
一方、上述したように細胞を顕微鏡で撮像する際、高倍率な広視野画像を取得するため、いわゆるタイリング撮影を行うことが提案されている。具体的には、例えばウェルプレート等が設置されたステージを、結像光学系に対して移動させることによってウェル内の各観察位置を走査し、観察位置毎の画像を撮像した後、観察位置毎の画像を繋ぎ合わせて合成画像を生成する方法が提案されている。
このようなタイリング撮影を行う場合には、培養容器内の各観察位置においてオートフォーカス制御を行うことによって、ボケの少ない高画質な画像を取得することが提案されている。ここで、オートフォーカス制御を行う場合、撮影時間の短縮の観点から、オートフォーカス制御を高速かつ高精度に行うことが重要である。
しかしながら、例えば培養容器として複数のウェルを有するウェルプレートを使用し、そのウェルプレート全体を結像光学系によって走査し、各観察位置についてオートフォーカス制御を行いながらタイリング撮影をする場合、各ウェルの底部の厚さは、製造上の誤差等によりウェル毎に異なる。また、培養容器のステージ上への設置の仕方によっては、ステージに対して培養容器の底面が傾いた状態で設置されて設置誤差が生じ、これにより各ウェルの底面の高さが大きく異なる場合がある。このように、各ウェルの底面の高さが大きく異なると、オートフォーカス制御のためにウェル底面の高さを測定する位置と撮影を行う位置とが異なる場合、精度よくオートフォーカス制御を行うことができない。
このようにオートフォーカス制御を精度よく行うことができないと、一部の観察領域の画像がボケた画像となる場合がある。このようにボケた画像のように劣化した画像については、個々の細胞の画像を高精度に抽出することができない。このため、例えば個々の細胞の状態を示す特徴量を用いて評価を行うようにしたのでは、評価結果の精度が低くなり、信頼性も低い評価結果となる場合がある。すなわち、劣化した画像と劣化していない画像とを同じように評価したのでは正確な評価結果を得ることができない場合がある。
このため、複数のフォーカス検知ビームにより試料表面の傾きを検出し、ステージの動きによりフォーカスを補正する手法が提案されている(特許文献1参照)。また、結像光学系の周囲に複数の距離センサを配置し、各距離センサにより計測したステージまでの距離に基づいてステージの傾きを算出し、ステージの傾きを制御する手法も提案されている(特許文献2参照)。特許文献1,2に記載の手法により、ボケのない画像を取得することができる。
国際公開第2015/133176号 特開2015−230393号公報
しかしながら、特許文献1,2に記載された手法は、複数のフォーカス検知ビームまたは複数の距離センサにより複数位置に合焦された画像を取得し、これら複数の画像に基づいてステージの傾きを検出している。このため、容器またはステージの傾きを検出するための演算に時間を要することから、オートフォーカス制御のために時間を要するものとなってしまう。
また、ステージは移動中に振動したり、移動機構の精度等に起因して移動中に傾いてきたりする。このような場合、特許文献1,2に記載された手法を用いてステージの傾きを補正したとしても、対象とする観察位置において取得される画像はボケたものとなってしまう。したがって、特許文献1,2に記載された手法では、信頼性の高い評価を行うことができない。
本発明は上記事情に鑑みなされたものであり、オートフォーカス制御を高速化することができ、より正確かつ、信頼性の高い評価を行うことができるようにすることを目的とする。
本発明の撮影制御装置は、観察対象が収容された容器が設置されるステージと、
観察対象の画像を撮像する撮像素子を有する撮像系と、
容器内の観察対象の像を撮像素子に結像させる結像光学系と、
ステージおよび結像光学系の少なくとも一方を、水平面内の主走査方向および主走査方向に交差する副走査方向に移動させ、かつ少なくとも一方を主走査方向について往復移動させる水平方向駆動部と、
水平方向駆動部を制御する走査制御部と、
結像光学系を挟んで主走査方向に並べて設けられ、ステージに設置された容器の鉛直方向の位置を検出する少なくとも2つの変位センサを有し、主走査方向の変更に応じて使用する変位センサを切り替える検出部と、
結像光学系が容器における対象観察位置に到達する前に、主走査方向において結像光学系に先行する変位センサによって検出された、対象観察位置における容器の鉛直方向の第1の位置に基づいて、オートフォーカス制御を行うオートフォーカス制御部と、
第1の位置、および結像光学系が容器における対象観察位置に到達した後に、主走査方向において結像光学系に後続する変位センサによって検出された、対象観察位置における容器の鉛直方向の第2の位置に基づいて、対象観察位置に対する観察のための処理を制御する処理制御部とを備える。
「主走査方向において結像光学系に先行する変位センサ」とは、結像光学系が対象観察位置に到達する前に対象観察位置に到達する変位センサを意味する。また、「主走査方向において結像光学系に後続する変位センサ」とは、結像光学系が対象観察位置に到達した後に対象観察位置に到達する変位センサを意味する。
なお、本発明による撮影制御装置においては、処理制御部は、対象観察位置において第1の位置と第2の位置との差が予め定められたしきい値より大きい場合に、対象観察位置の撮影および対象観察位置の画像に対する画像処理の少なくとも一方を制御するものであってもよい。
また、本発明による撮影制御装置においては、処理制御部は、対象観察位置において第1の位置と第2の位置との差がしきい値より大きい場合に、対象観察位置を再撮影するものであってもよい。
また、本発明による撮影制御装置においては、処理制御部は、対象観察位置において第1の位置と第2の位置との差がしきい値より大きい場合に、対象観察位置において第1の位置と第2の位置との差がしきい値より大きいことを通知するものであってもよい。
なお、通知がなされた場合、操作者は対象撮影画像を再度撮影する処理を行うこととなる。このため、本発明において「通知」は、撮影の制御に含まれるものとする。
また、本発明による撮影制御装置においては、処理制御部は、対象観察位置において第1の位置と第2の位置との差がしきい値より大きい場合に、対象観察位置の画像に対してシャープネス強調処理を行うものであってもよい。
また、本発明による撮影制御装置においては、処理制御部は、対象観察位置において第1の位置と第2の位置との差が予め定められたしきい値より大きいか否かに応じて、対象観察位置の画像に含まれる観察対象の状態を評価するための評価方法を変更するものであってもよい。
また、本発明による撮影制御装置においては、処理制御部は、対象観察位置において第1の位置と第2の位置との差がしきい値より大きい場合には、相対的に劣化に強い評価方法によって対象観察位置の画像を評価し、対象観察位置において第1の位置と第2の位置との差がしきい値以下の場合には、相対的に劣化に弱い評価方法によって対象観察位置の画像を評価するものであってもよい。
また、本発明による撮影制御装置においては、処理制御部は、対象観察位置において第1の位置と第2の位置との差がしきい値より大きい場合には、対象観察位置の画像に含まれる観察対象の状態を示す特徴量を用いて評価し、対象観察位置において第1の位置と第2の位置との差がしきい値以下の場合には、画像特徴量を用いて評価するものであってもよい。
また、本発明による撮影制御装置においては、観察対象の状態を示す特徴量が、個々の細胞の状態の特徴量、細胞内に含まれる核小体の特徴量、白すじの特徴量、細胞内に含まれる核の特徴量および細胞のNC比(Nucleocytoplasmic ratio)の少なくとも1つを含むものであってもよい。
また、本発明による撮影制御装置においては、処理制御部は、対象観察位置において第1の位置と第2の位置との差がしきい値より大きい場合には、対象観察位置を評価対象から除外するものであってもよい。
本発明による撮影制御方法は、観察対象が収容された容器が設置されるステージと、
観察対象の画像を撮像する撮像素子を有する撮像系と、
容器内の観察対象の像を撮像素子に結像させる結像光学系と、
ステージおよび結像光学系の少なくとも一方を、水平面内の主走査方向および主走査方向に交差する副走査方向に移動させ、かつ少なくとも一方を主走査方向について往復移動させる水平方向駆動部と、
水平方向駆動部を制御する走査制御部と、
結像光学系を挟んで主走査方向に並べて設けられ、ステージに設置された容器の鉛直方向の位置を検出する少なくとも2つの変位センサを有し、主走査方向の変更に応じて使用する変位センサを切り替える検出部とを備えた撮影制御装置における撮影制御方法であって、
結像光学系が容器における対象観察位置に到達する前に、主走査方向において結像光学系に先行する変位センサによって検出された、対象観察位置における容器の鉛直方向の第1の位置に基づいて、オートフォーカス制御を行うステップと、
第1の位置、および結像光学系が容器における対象観察位置に到達した後に、主走査方向において結像光学系に後続する変位センサによって検出された、対象観察位置における容器の鉛直方向の第2の位置に基づいて、対象観察位置に対する観察のための処理を制御するステップとを有する。
本発明による撮影制御プログラムは、観察対象が収容された容器が設置されるステージと、
観察対象の画像を撮像する撮像素子を有する撮像系と、
容器内の観察対象の像を撮像素子に結像させる結像光学系と、
ステージおよび結像光学系の少なくとも一方を、水平面内の主走査方向および主走査方向に交差する副走査方向に移動させ、かつ少なくとも一方を主走査方向について往復移動させる水平方向駆動部と、
水平方向駆動部を制御する走査制御部と、
結像光学系を挟んで主走査方向に並べて設けられ、ステージに設置された容器の鉛直方向の位置を検出する少なくとも2つの変位センサを有し、主走査方向の変更に応じて使用する変位センサを切り替える検出部とを備えた撮影制御装置における撮影制御方法をコンピュータに実行させる撮影制御プログラムであって、
結像光学系が容器における対象観察位置に到達する前に、主走査方向において結像光学系に先行する変位センサによって検出された、対象観察位置における容器の鉛直方向の第1の位置に基づいて、オートフォーカス制御を行う手順と、
第1の位置、および結像光学系が容器における対象観察位置に到達した後に、主走査方向において結像光学系に後続する変位センサによって検出された、対象観察位置における容器の鉛直方向の第2の位置に基づいて、対象観察位置に対する観察のための処理を制御する手順とをコンピュータに実行させる。
本発明によれば、結像光学系が容器における対象観察位置に到達する前に、主走査方向において結像光学系に先行する変位センサによって検出された、対象観察位置における容器の鉛直方向の第1の位置に基づいて、オートフォーカス制御が行われる。このため、高速にオートフォーカス制御を行うことができる。
また、第1の位置、および主走査方向において結像光学系に後続する変位センサによって検出された対象観察位置における容器の鉛直方向の第2の位置に基づいて、対象観察位置に対する観察のための処理が制御される。このため、主走査方向に先行する変位センサによる検出後に、振動等により容器の鉛直方向の位置が変化しても、主走査方向に後続する変位センサにより、その変化を検出することができる。したがって、第1の位置および第2の位置に基づいて観察のための制御がなされた、対象観察位置における画像を用いることができ、これにより、観察対象に対して正確かつ信頼性の高い評価を行うことができる。
第1の実施形態の顕微鏡観察システムにおける顕微鏡装置の概略構成を示す図 結像光学系の構成を示す模式図 ステージの構成を示す斜視図 第1の実施形態の撮影制御装置の構成を示すブロック図 培養容器内における観察位置の走査位置を示す図 培養容器内の任意の位置に観察位置がある場合における結像光学系、第1の変位センサおよび第2の変位センサと、培養容器との位置関係を示す図 第1の変位センサと第2の変位センサとの切り替えを説明するための図 オートフォーカス制御のタイミングの一例を説明するための図 培養容器と第1および第2の変位センサとのZ方向の位置関係を説明するための図 ウェル内の各観察位置の位相差画像の一例を示す図 第1の実施形態において行われる処理を示すフローチャート 第1の実施形態において行われる処理を示すフローチャート ウェル単位で統合された評価結果の表示例を示す図 第2の実施形態において行われる処理を示すフローチャート
以下、本発明の撮影制御装置、方法およびプログラムの第1の実施形態を用いた顕微鏡観察システムについて、図面を参照しながら詳細に説明する。図1は、第1の実施形態の顕微鏡観察システムにおける顕微鏡装置10の概略構成を示す図である。
顕微鏡装置10は、観察対象である培養された細胞の位相差画像を撮像するものである。具体的には、顕微鏡装置10は、図1に示すように、白色光を出射する白色光源11、コンデンサレンズ12、スリット板13、結像光学系14、結像光学系駆動部15、撮像素子16および検出部18を備える。
スリット板13は、白色光源11から出射された白色光を遮光する遮光板に対して白色光を透過するリング形状のスリットが設けられたものであり、白色光がスリットを通過することによってリング状の照明光Lが形成される。
図2は、結像光学系14の詳細な構成を示す図である。結像光学系14は、図2に示すように、位相差レンズ14aおよび結像レンズ14dを備える。位相差レンズ14aは、対物レンズ14bおよび位相板14cを備える。位相板14cは、照明光Lの波長に対して透明な透明板に対して位相リングを形成したものである。なお、上述したスリット板13のスリットの大きさは、位相板14cの位相リングと共役な関係にある。
位相リングは、入射された光の位相を1/4波長ずらす位相膜と、入射された光を減光する減光フィルタとがリング状に形成されたものである。位相リングに入射された直接光は、位相リングを通過することによって位相が1/4波長ずれ、かつ明るさが弱められる。一方、観察対象によって回折された回折光は大部分が位相板14cの透明板を通過し、その位相および明るさは変化しない。
対物レンズ14bを有する位相差レンズ14aは、図1に示す結像光学系駆動部15によって対物レンズ14bの光軸方向に移動する。なお、本実施形態においては、対物レンズ14bの光軸方向とZ方向(鉛直方向)とは同じ方向である。位相差レンズ14aのZ方向への移動によってオートフォーカス制御が行われ、撮像素子16によって撮像される位相差画像のコントラストが調整される。
また、位相差レンズ14aの倍率を変更可能な構成としてもよい。具体的には、異なる倍率を有する位相差レンズ14aまたは結像光学系14を交換可能に構成するようにしてもよい。位相差レンズ14aまたは結像光学系14の交換は、自動的に行うようにしてもよいし、ユーザが手動で行うようにしてもよい。
結像光学系駆動部15は、例えば圧電素子のようなアクチュエータを備え、後述するオートフォーカス制御部21から出力された制御信号に基づいて駆動する。なお、結像光学系駆動部15は、位相差レンズ14aを通過した位相差画像をそのまま通過させる構成となっている。また、結像光学系駆動部15の構成は圧電素子に限らず、位相差レンズ14aをZ方向に移動可能なものであればよく、その他の公知な構成を用いることができる。
結像レンズ14dは、位相差レンズ14aおよび結像光学系駆動部15を通過した位相差画像が入射され、これを撮像素子16に結像する。
撮像素子16は、結像レンズ14dによって結像された位相差画像を撮像する。撮像素子16としては、CCD(Charge-Coupled Device)イメージセンサまたはCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサ等が用いられる。撮像素子としては、RGB(Red Green Blue)のカラーフィルタが設けられた撮像素子を用いてもよいし、モノクロの撮像素子を用いてもよい。
検出部18は、ステージ51に設置された培養容器50のZ方向(鉛直方向)の位置を検出する。検出部18は、具体的には、第1の変位センサ18aおよび第2の変位センサ18bを備える。第1の変位センサ18aおよび第2の変位センサ18bは、位相差レンズ14aを挟んで、図1に示すX方向に並べて設けられている。本実施形態における第1の変位センサ18aおよび第2の変位センサ18bはレーザ変位計であり、培養容器50にレーザ光を照射し、その反射光を検出することによって、培養容器50の底面のZ方向の位置を検出する。なお、培養容器50の底面とは、培養容器50の底部と観察対象である細胞との境界面、すなわち観察対象設置面である。
検出部18によって検出された培養容器50のZ方向の位置を表す位置情報は、オートフォーカス制御部21に出力され、オートフォーカス制御部21は、入力された位置情報に基づいて、結像光学系駆動部15を制御し、オートフォーカス制御を行う。なお、第1の変位センサ18aおよび第2の変位センサ18bによる培養容器50の位置の検出およびオートフォーカス制御部21によるオートフォーカス制御については、後で詳述する。
スリット板13と位相差レンズ14aおよび検出部18との間には、ステージ51が設けられている。ステージ51上には、観察対象である細胞が収容された培養容器50が設置される。
培養容器50としては、シャーレ、ディッシュまたはウェルプレート等を用いることができる。また、培養容器50に収容される細胞としては、iPS細胞およびES細胞といった多能性幹細胞、幹細胞から分化誘導された神経、皮膚、心筋および肝臓の細胞、並びに人体から取り出された皮膚、網膜、心筋、血球、神経および臓器の細胞等がある。
ステージ51は、後述する水平方向駆動部17(図4参照)によって互いに直交するX方向およびY方向に移動する。X方向およびY方向は、Z方向に直交する方向であり、水平面内において互いに直交する方向である。本実施形態においては、X方向を主走査方向とし、Y方向を副走査方向とする。
図3は、ステージ51の一例を示す図である。ステージ51の中央には、矩形の開口51aが形成されている。開口51aを形成する部材の上に培養容器50が設置され、培養容器50内の細胞の位相差画像が開口51aを通過するように構成されている。
次に、顕微鏡装置10を制御する撮影制御装置20の構成について説明する。図4は、第1の実施形態の撮影制御装置の構成を示すブロック図である。なお、顕微鏡装置10については、撮影制御装置20の各部により制御される一部の構成のブロック図を示している。
撮影制御装置20は、顕微鏡装置10全体を制御するものであり、オートフォーカス制御部21、走査制御部22、処理制御部23および表示制御部24を備える。
撮影制御装置20は、中央処理装置、半導体メモリおよびハードディスク等を備えたコンピュータから構成され、ハードディスクに本発明の観察装置制御プログラムの一実施形態がインストールされている。そして、この観察装置制御プログラムが中央処理装置によって実行されることによって、図4に示すオートフォーカス制御部21、走査制御部22、処理制御部23および表示制御部24が機能する。
オートフォーカス制御部21は、上述したように検出部18によって検出された培養容器50のZ方向の位置情報に基づいて、結像光学系駆動部15を制御する。そして、結像光学系駆動部15の駆動によって結像光学系14の対物レンズ14bが光軸方向に移動し、オートフォーカス制御が行われる。
走査制御部22は、水平方向駆動部17を駆動制御し、これによりステージ51をX方向およびY方向に移動させる。水平方向駆動部17は、圧電素子等を有するアクチュエータから構成される。
以下、走査制御部22によるステージ51の移動制御およびオートフォーカス制御部21によるオートフォーカス制御について、詳細に説明する。
本実施形態においては、走査制御部22による制御によってステージ51をX方向およびY方向に移動させ、結像光学系14を培養容器50内において2次元状に走査し、結像光学系14による各観察位置の位相差画像を撮像する。図5は、培養容器50内における観察位置の走査位置を実線Mで示した図である。なお、本実施形態においては、培養容器50として6つのウェルWを有するウェルプレートを用いる。
図5に示すように、結像光学系14は、走査開始点Sから走査終了点Eまで実線Mに沿って移動する。すなわち、結像光学系14による培養容器50上の観察位置は、X方向の正方向(図5の右方向)に走査された後、Y方向(図5の下方向)に移動し、逆の負方向(図5の左方向)に走査される。次いで、観察位置は、再びY方向に移動し、再び正方向に走査される。このように、結像光学系14は、X方向についての往復移動とY方向への移動を繰り返し行うことによって、培養容器50内を2次元状に走査する。
図6および図7は、培養容器50内の任意の位置に観察位置Rがある場合における結像光学系14、第1の変位センサ18aおよび第2の変位センサ18bと、培養容器50との位置関係を示した図である。
本実施形態においては、図6および図7に示すように、第1の変位センサ18aおよび第2の変位センサ18bが結像光学系14を挟んでX方向に並べて設けられている。そして、培養容器50は上述したように2次元状に走査されるが、この際、培養容器50におけるある観察位置Rが結像光学系14に到達する前に、移動方向(すなわち主走査方向)において結像光学系14に先行して、培養容器50の観察位置RにおけるZ方向の位置が検出される。具体的には、観察位置Rが図6に示す矢印方向(図6の左方向)に移動している場合には、第1の変位センサ18aおよび第2の変位センサ18bのうち、主走査方向において結像光学系14に先行する第1の変位センサ18aによって、培養容器50の観察位置RにおけるZ方向の位置が検出される。なお、図6においては、第1の変位センサ18aに斜線を付与している。そして、観察位置Rが、結像光学系14の位置まで移動した場合に、前もって検出された培養容器50のZ方向の位置情報が用いられてオートフォーカス制御が行われ、位相差画像の撮像が行われる。また、本実施形態においては、位相差画像の撮像後、主走査方向において結像光学系14に後続する第2の変位センサ18bによっても、培養容器50の観察位置RにおけるZ方向の位置が検出される。この場合、第1の変位センサ18aによる検出位置が第1の位置に、第2の変位センサ18bによる検出位置が第2の位置に対応する。
一方、観察位置Rが、図7の矢印方向(図7の右方向)に移動している場合には、第1の変位センサ18aおよび第2の変位センサ18bのうち、主走査方向において結像光学系14に先行する第2の変位センサ18bによって、培養容器50の観察位置RにおけるZ方向の位置が検出される。なお、図7においては、第2の変位センサ18bに斜線を付与している。そして、観察位置Rが図7に示す位置から結像光学系14の位置まで移動した場合に、前もって検出された培養容器50のZ方向の位置情報が用いられてオートフォーカス制御が行われ、位相差画像の撮像が行われる。また、本実施形態においては、位相差画像の撮像後、主走査方向において結像光学系14に後続する第1の変位センサ18aによっても培養容器50の観察位置RにおけるZ方向の位置が検出される。この場合、第2の変位センサ18bによる検出位置が第1の位置に、第1の変位センサ18aによる検出位置が第2の位置に対応する。
なお、第1および第2の変位センサ18a,18bにより検出された培養容器50の方向の位置を表す位置情報は、各観察位置RのX−Y座標と対応づけられて、撮影制御装置20における不図示の半導体メモリまたはハードディスクに記憶される。
このように第1の変位センサ18aを用いた培養容器50のZ方向の位置の検出と第2の変位センサ18bを用いた培養容器50のZ方向の位置の検出とを、主走査方向の変更に応じて切り替えることによって、常に、観察位置Rの位相差画像の撮像に先行して、その観察位置Rの位置における培養容器50のZ方向の位置情報を取得することができる。
そして、オートフォーカス制御部21は、上述したように結像光学系14に先行して検出された培養容器50のZ方向の位置情報に基づいて、結像光学系駆動部15を駆動制御することによって、オートフォーカス制御を行う。具体的には、オートフォーカス制御部21には、培養容器50のZ方向の位置情報と結像光学系14の光軸方向の移動量との関係が予め設定されている。オートフォーカス制御部21は、入力された培養容器50のZ方向の位置情報に基づいて、結像光学系14の光軸方向の移動量を求め、その移動量に応じた制御信号を結像光学系駆動部15に出力する。結像光学系駆動部15は、入力された制御信号に基づいて駆動し、これにより結像光学系14(対物レンズ14b)が光軸方向に移動し、培養容器50のZ方向の位置に応じたフォーカス調整が行われる。
本実施形態においては、上述したように各観察位置Rについてそれぞれ前もって培養容器50のZ方向の位置が検出されるため、各観察位置Rの培養容器50の位置の検出タイミングと、位相差画像の撮像タイミングが時間的にずれる。したがって、結像光学系14(対物レンズ14b)のZ方向の移動、すなわちオートフォーカス制御は、第1の変位センサ18aまたは第2の変位センサ18bによって培養容器50の位置の検出が行われた後、その検出位置に観察位置Rが到達するまでの間に行われる。
ここで、オートフォーカス制御のタイミングが早すぎる場合には、オートフォーカス制御の後、観察位置Rが検出位置に到達するまでの間に、何らかの要因によって、培養容器50のZ方向の位置がずれる可能性があり、フォーカス位置がずれる可能性がある。
したがって、オートフォーカス制御のタイミングは、観察位置Rが検出位置に到達する直前であって、かつその検出位置における位相差画像の撮像が間に合うタイミングであることが望ましい。なお、観察位置Rが検出位置に到達する直前とは、例えば図8に示すように、観察位置RがX方向に順次移動し、検出部18による検出位置が、斜線で示すPdの位置である場合には、観察位置Rが、検出位置Pdに隣接する観察位置Rの位置Prを通過した時点から検出位置Pdに到達するまでの間であることが望ましい。なお、観察位置Rが検出位置Pdに到達した時点でオートフォーカス制御を行うようにしてもよい。
本実施形態においては、オートフォーカス制御のタイミングが、上述したような望ましいタイミングとなるように、第1または第2の変位センサ18a,18bによる検出タイミングからその検出位置の位置情報を用いたオートフォーカス制御のタイミングまでの時間が予め設定されている。
なお、例えば位相差レンズ14aの倍率の変更等によってステージ51の移動速度が変更された場合には、そのステージ51の移動速度の変更に応じて上記の予め設定された時間を変更してもよい。または、上記時間を変更する代わりに、ステージ51の移動速度が変更された場合に、第1の変位センサ18aまたは第2の変位センサ18bをX方向に移動させることによって、第1の変位センサ18aまたは第2の変位センサ18bと結像光学系14との距離を変更してもよい。
また、本実施形態のように、結像光学系14を挟んで第1の変位センサ18aおよび第2の変位センサ18bをX方向に並べて設け、位相差画像の撮像に先行して培養容器50の位置を検出する場合、培養容器50の範囲の全域において培養容器50の位置検出および位相差画像の撮像を行うには、図5に示すように、培養容器50の範囲よりもX方向について外側の範囲R1,R2まで結像光学系14、第1の変位センサ18aおよび第2の変位センサ18bを相対的に移動させる必要がある。そして、範囲R1のX方向の幅として、少なくとも第1の変位センサ18aと結像光学系14とのX方向の間隔を確保する必要があり、範囲R2のX方向の幅として、少なくとも第2の変位センサ18bと結像光学系14とのX方向の間隔を確保する必要がある。そして、観察位置Rの走査時間をできるだけ短縮するには、観察位置Rの走査範囲をできるだけ狭くすることが望ましい。したがって、範囲R1のX方向の幅は、第1の変位センサ18aと結像光学系14とのX方向の間隔とすることが望ましく、範囲R2のX方向の幅は、第2の変位センサ18bと結像光学系14とのX方向の間隔とすることが望ましい。
一方、ステージ51をX方向に移動させることによって観察位置Rを培養容器50の範囲内において走査する場合、培養容器50の範囲における観察位置Rの移動速度は一定であることが望ましい。したがって、ステージ51のX方向への移動開始時にはステージ51が一定の速度になるまで加速する必要があり、ステージ51のX方向への移動終了時には、ステージ51を一定の速度から減速して停止させる必要がある。
また、ステージ51のX方向への移動速度を一定の速度にする場合、加速域をほとんどもたせることなく急速に一定の速度に制御することは可能であるが、このような制御を行った場合、培養容器50に細胞と一緒に収容された培養液等の液面が揺れてしまい、位相差画像の画質の低下を招く可能性がある。また、ステージ51を停止する際にも同様の問題が発生する可能性がある。
そこで、本実施形態においては、図5に示す範囲R1および範囲R2をステージ51のX方向への移動の加減速域に設定する。このように培養容器50の範囲のX方向の両側に加減速域を設定することによって、走査範囲を無駄に広げることなく、かつ培養容器50の範囲において観察位置Rを一定の速度で走査することができる。さらに、上述したような培養液の液面の揺れも抑制することができる。
図4に戻り、処理制御部23は、処理対象となる対象観察位置R0について、第1の変位センサ18aが検出した培養容器50のZ方向の位置と、第2の変位センサ18bが検出した培養容器50のZ方向の位置との差分値の絶対値を算出する。そして、算出した差分値の絶対値が予め定められたしきい値Th1よりも大きいか否かを判定する。図9は培養容器50と第1および第2の変位センサ18a,18bとのZ方向の位置関係を示す図である。なお、図9においては、培養容器50は右方向に移動しているものとする。この場合、ある観察位置Rに関して、まずオートフォーカス制御のために第2の変位センサ18bにより培養容器50のZ方向の位置が検出され、その後、第1の変位センサ18aにより培養容器50のZ方向の位置が検出される。
ここで、第2の変位センサ18bによる検出時には図9に実線で示すように培養容器50が傾いていないが、振動が生じたり、水平方向駆動部17の精度等の影響により、第2の変位センサ18bによる検出後に、図9に破線で示すように、培養容器50が傾いてしまう場合がある。このような場合、第2の変位センサ18bが検出した培養容器50のZ方向の位置と、第1の変位センサ18aが検出した培養容器50のZ方向の位置とが異なるものとなる。このような状態においては、第1の変位センサ18aが検出した培養容器50のZ方向の位置と、第2の変位センサ18bが検出した培養容器50のZ方向の位置との差分値の絶対値は大きくなる。
このように、算出した差分値の絶対値が大きい状態においては、走査時に結像光学系14に先行する変位センサにより検出された培養容器50のZ方向の位置に基づいて、観察位置Rのオートフォーカス制御を行っても、フォーカスが合っておらず、観察位置Rの画像はボケたものとなってしまう可能性がある。
処理制御部23は、算出した差分値の絶対値がしきい値Th1よりも大きいと判定された場合、対象観察位置R0に対する観察のための処理を制御する。具体的には、対象観察位置の撮影および対象観察位置の画像に対する画像処理の少なくとも一方を制御する。以下、撮影および画像処理の制御について説明する。
まず、撮影の制御について説明する。処理制御部23は、差分値の絶対値がしきい値Th1よりも大きいと判定された対象観察位置R0を再撮影する。ここで、差分値の絶対値がしきい値Th1よりも大きいということは、対象観察位置R0にフォーカスが合わせられていない可能性が高く、対象観察位置R0の位相差画像がボケている可能性が高いこと意味する。このため、処理制御部23は、顕微鏡装置10に対して、対象観察位置R0に対してフォーカスが適切に合わせられるように指示を行って、対象観察位置R0の再撮影を行う。ここで、培養容器50のZ方向の位置情報は、上述したように観察位置RのX−Y座標と対応づけられて記憶されている。このため、対象観察位置R0の位置は容易に特定することができる。
なお、処理制御部23は、算出した差分値の絶対値がしきい値Th1よりも大きいと判定された場合、対象観察位置R0がボケている可能性が高いことを通知するようにしてもよい。具体的には、本実施形態においては、後述するように表示制御部24が、複数の位相差画像を繋げて合成した合成画像を表示装置30に表示するが、表示装置30に表示された合成画像において、算出した差分値の絶対値がしきい値Th1よりも大きくなった観察領域の位相差画像を強調して表示することにより通知を行えばよい。例えば、図10に示す合成画像において、点線で囲まれた観察領域Rについて、算出した差分値の絶対値がしきい値Th1よりも大きくなったとする。この場合、点線で囲まれた領域に赤色等の枠を付与したり、枠を点滅させたり、領域を点滅させる等により、その領域の位相差画像を強調して表示すればよい。また、テキストまたは音声により通知をしてもよい。
次に画像処理の制御について説明する。処理制御部23は、算出した差分値の絶対値がしきい値Th1よりも大きいと判定された場合、対象観察位置R0の位相差画像に対して、シャープネス強調処理を行う。具体的には、算出した差分値の絶対値の大きさに応じてシャープネスの強調度を変更してシャープネス強調処理を行う。なお、本実施形態においては、各種差分値の値とシャープネスの強調度とを対応づけたテーブルが撮影制御装置20のハードディスクに記憶されている。処理制御部23は、このテーブルを参照して差分値の値に応じたシャープネスの強調度を取得して、対象観察位置R0の位相差画像に対してシャープネス強調処理を行う。
次に、図4に戻り、表示制御部24は、顕微鏡装置10によって撮像された各観察位置Rの位相差画像を結合することによって、1枚の合成位相差画像を生成し、その合成位相差画像を表示装置30に表示させる。なお、観察位置が再撮影された場合は、再撮影により取得された位相差画像を用いて合成位相差画像を生成する。また、観察位置の位相差画像に対してシャープネス強調処理が行われた場合は処理済みの位相差画像を用いて合成位相差画像を生成する。
表示装置30は、上述したように表示制御部24によって生成された合成位相差画像を表示するものであり、例えば液晶ディスプレイ等を備える。また、表示装置30をタッチパネルによって構成し、入力装置40と兼用してもよい。
入力装置40は、マウスおよびキーボード等を備えたものであり、ユーザによる種々の設定入力を受け付ける。本実施形態の入力装置40は、例えば位相差レンズ14aの倍率の変更指示およびステージの移動速度の変更指示等の設定入力を受け付ける。
次に、本実施形態の顕微鏡観察システムが行う処理について説明する。図11および図12は第1の実施形態において行われる処理を示すフローチャートである。まず、観察対象である細胞が収容された培養容器50が、ステージ51上に設置される(ステップST10)。次に、ステージ51が移動して結像光学系14が、図5に示す走査開始点Sの位置に設定され、培養容器50の走査が開始される(ステップST12)。
ここで、本実施形態においては、上述したように各観察位置Rについて、撮像に先行して培養容器50のZ方向の位置検出が行われ、その検出位置まで観察位置Rが到達した時点において、位相差画像の撮像が行われる。そして、この培養容器50の位置検出と位相差画像の撮像は、培養容器50を走査しながら行われ、ある観察位置Rの位相差画像の撮像と、観察位置Rの撮像前における観察位置Rに対応する培養容器50のZ方向の位置検出とが並行して行われる。
具体的には、図6の矢印方向に培養容器50が移動している場合には、第1の変位センサ18aによって培養容器50のZ方向の位置が検出され(ステップST14)、その検出された位置情報が、オートフォーカス制御部21によって取得される。オートフォーカス制御部21は、取得した培養容器50のZ方向の位置情報に基づいて、対物レンズ14bの移動量を算出し(ステップST16)、対物レンズ14bの移動量を培養容器50の検出位置のX−Y座標上の位置と対応づけて記憶する(ステップST18)。なお、この際、第1の変位センサ18aおよび第2の変位センサ18bによって検出された、培養容器50のZ方向の位置も、培養容器50の検出位置のX−Y座標上の位置と対応づけて記憶される。
次いで、ステップST14において第1の変位センサ18aによって培養容器50の位置検出が行われた位置に向かって観察位置Rが移動する(ステップST20)。そして、オートフォーカス制御部21は、培養容器50の位置検出が行われた位置に観察位置Rが到達する直前において記憶された対物レンズ14bの移動量を取得し、取得した移動量に基づいてオートフォーカス制御を行う(ステップST22,ST24)。すなわち、オートフォーカス制御部21は、予め記憶された移動量に基づいて結像光学系駆動部15を駆動制御し、対物レンズ14bをZ方向に移動させる。そして、オートフォーカス制御後、培養容器50の位置検出が行われた位置に観察位置Rが到達した時点において、位相差画像の撮像を行う(ステップST26)。観察位置Rの位相差画像は、撮像素子16から表示制御部24に出力されて記憶される。なお、上述したように、ステップST26における観察位置Rの位相差画像の撮像が行われている間、各観察位置Rよりも走査方向において先行する変位センサによる培養容器50の位置検出が並行して行われる。
次いで、ステップST28において、第2の変位センサ18bの位置に対象観察位置R0が移動し、第2の変位センサ18bによって対象観察位置R0における培養容器50のZ方向の位置が検出され、培養容器50の検出位置のX−Y座標上の位置と対応づけて記憶される。
そして、結像光学系14による観察位置Rが、図5に示す加減速域の範囲R2まで移動し、Y方向に移動した後、X方向について逆方向に走査される場合には(ステップST30,YES)、すなわち、主走査方向が、図6の矢印方向から図7の矢印方向に変更された場合には、オートフォーカス制御に使用する変位センサを第1の変位センサ18aから第2の変位センサ18bに切り替える(ステップST32)。ステップST30が否定された場合には、上述した培養容器50の位置検出と位相差画像の撮像が順次行われる(ステップST14〜ステップST28)。
そして、全ての走査が終了していない場合には(ステップST34,NO)、再び、観察位置RがX方向に移動し、上述した培養容器50の位置検出と位相差画像の撮像が順次行われる(ステップST14〜ステップST28)。
観察位置Rが、加減速域の範囲R1,R2まで移動する度に使用する変位センサが切り替えられ、全ての走査が終了するまでステップST14〜ステップST28までの処理が繰り返して行われる。そして、観察位置Rが、図5に示す走査終了点Eの位置に到達した時点において全ての走査が終了する(ステップST34,YES)。
全ての走査が終了した後、処理制御部23は、複数の観察位置のうちの対象観察位置R0について、第1の変位センサ18aが検出した培養容器50のZ方向の位置と、第2の変位センサ18bが検出した培養容器50のZ方向の位置との差分値の絶対値を算出する。(ステップST36)。そして、算出した差分値の絶対値がしきい値Th1よりも大きいか否かを判定する(ステップST38)。
ステップST38が肯定されると、処理制御部23は、対象観察位置R0に対する観察のための処理を制御する(ステップST40)。具体的には、対象観察位置R0の再撮影、対象観察位置R0の位相差画像がボケている可能性が高いことの通知、または対象観察位置R0の位相差画像に対するシャープネス強調処理を行う。なお、ステップST38が否定された場合、ステップST42の処理に進む。
そして、全ての観察位置Rの判定が終了するまでステップST36〜ST40の処理が繰り返される(ST42,NO)。全ての観察位置Rの判定が終了した場合には(ST42,YES)、表示制御部24は全ての位相差画像を繋ぎ合わせて合成して合成位相差画像を生成し、生成した合成位相差画像を表示装置30に表示し(ステップST44)、処理を終了する。
このように、本実施形態においては、結像光学系14が培養容器50内の対象観察位置に到達する前に、主走査方向において対象観察位置R0に先行する変位センサによって検出された、対象観察位置R0における培養容器50の鉛直方向の第1の位置に基づいて、オートフォーカス制御を行うようにした。このため、高速にオートフォーカス制御を行うことができる。
また、第1および第2の変位センサ18a,18bによって検出された対象観察位置R0における培養容器50の鉛直方向の位置に基づいて、対象観察位置R0に対する観察のための処理を制御するようにした。このため、主走査方向に先行する変位センサによる検出後に、振動等により培養容器50の鉛直方向の位置が変化しても、主走査方向に後続する変位センサにより、その変化を検出することができる。したがって、観察のための制御がなされた、対象観察位置R0における位相差画像を用いることができ、これにより、観察対象に対して正確かつ信頼性の高い評価を行うことができる。
次いで、本発明の第2の実施形態について説明する。なお、本発明の撮影制御装置、方法およびプログラムの第2の実施形態を用いた顕微鏡観察システムの構成は、図1に示す第1の実施形態を用いた顕微鏡観察システムの構成と同一であり、処理制御部23が行う処理のみが異なる。このため、構成についての説明は省略する。
上記第1の実施形態においては、算出した差分値の絶対値がしきい値Th1よりも大きいと判定された場合、対象観察位置R0に対する観察のための処理を制御している。具体的には、対象観察位置の撮影および対象観察位置の画像に対する画像処理の少なくとも一方を制御している。第2の実施形態においては、処理制御部23は、さらに対象観察位置R0の位相差画像に含まれる細胞の状態を評価するようにし、算出した差分値の絶対値がしきい値Th1よりも大きいか否かに応じて、位相差画像の評価方法を変更するようにした点が第1の実施形態と異なる。以下、画像の評価について説明する。
第2の実施形態においては、処理制御部23は、観察位置R毎の位相差画像に含まれる細胞の状態を評価することにより、対象観察位置R0に対する観察のための処理を制御する。細胞の状態を評価するとは、例えば位相差画像に含まれる細胞が未分化細胞であるのか分化細胞であるのかを評価したり、共培養の際の細胞の種類ごとの細胞数をカウントしたり、位相差画像に含まれる未分化細胞と分化細胞の割合を評価したり、細胞または細胞コロニーの成長度を評価したり、または抗がん剤によるがん細胞の縮小率を評価したりすることをいう。ただし、細胞の状態の評価としては、これらに限らず、その他の評価でもよい。
ここで、算出した差分値がしきい値Th1より大きい場合、位相差画像はボケているか、またはボケている可能性が高く、差分値がしきい値以下の場合は位相差画像はボケていないか、またはボケていない可能性が高い。第2の実施形態における処理制御部23は、ボケている位相差画像(差分値の絶対値>Th1、以下ボケている可能性が高い位相差画像を含む)と、ボケていない位相差画像(差分値の絶対値≦Th1。以下ボケていない可能性が高い位相差画像を含む)とで異なる評価方法で細胞の状態を評価する。具体的には、処理制御部23は、ボケていない位相差画像については、その位相差画像に含まれる細胞の状態を示す特徴量を用いて評価し、ボケている位相差画像については、画像特徴量を用いて評価する。
ボケていない位相差画像については、位相差画像に含まれる細胞の画像または核もしくは核小体等の細胞の微細構造の画像を高精度に認識することができる。このため、上述したように細胞の状態を示す特徴量を用いて評価することによって、生物学的な説明力に優れる評価結果を得ることができる。逆に言えば、細胞の状態を示す特徴量を用いた評価方法は、相対的にボケ(劣化)に弱い評価方法といえる。
細胞の状態を示す特徴量としては、個々の細胞の状態の特徴量、細胞内に含まれる核小体の特徴量、白すじの特徴量、細胞内に含まれる核の特徴量および細胞のNC比の少なくとも1つを用いることができる。
個々の細胞の状態の特徴量としては、例えば細胞の数、細胞の密度、細胞の増加率および細胞の円形度等があるが、位相差画像に含まれる個々の細胞を認識し、その認識した細胞に基づいて算出される特徴量であればその他の特徴量でもよい。位相差画像に含まれる細胞の認識方法としては、例えば細胞の画像のエッジを検出したり、パターンマッチング処理を用いて検出したり、機械学習によって生成された判別器を用いて検出したりする方法があるが、その他の公知な手法を用いることができる。なお、細胞の円形度については、未分化細胞は円形度が相対的に高くなるが、分化細胞は、例えば細長い形状となり、円形度が相対的に低くなる。したがって、個々の細胞の円形度を算出することによって分化細胞であるか、または未分化細胞であるかを評価することができる。また、多能性幹細胞において、細胞が分化すると核内のクロマチン構造が変化し黒っぽくなるため、核を検出した後に核の輝度を評価することによって分化または未分化を評価することができる。但し、分化細胞か未分化細胞かを評価する方法としては、これに限らず、その他の公知な手法を用いることができる。または、神経細胞を評価する場合には、個々の細胞の状態を示す特徴量として、樹状突起の長さを用いることができる。樹状突起の長さを用いることによって、神経細胞の成長度を評価することができる。
また、細胞内に含まれる核または核小体の特徴量としては、例えば核または核小体の数、核または核小体の密度および核または核小体の増加率等があるが、位相差画像に含まれる核または核小体を認識し、その認識した核または核小体に基づいて算出される特徴量であればその他の特徴量でもよい。位相差画像に含まれる核または核小体の認識方法としては、細胞の認識方法と同様に、エッジ検出、パターンマッチングによる検出および判別器を用いた検出等を用いることができる。
また、白すじとは、細胞と背景間に発生する回折光による光のにじみ(ハロ)のことである。そして、白すじの特徴量としては、例えば白すじの総面積、白すじの密度および白すじの分布状態等があるが、位相差画像に含まれる白すじを認識し、その認識した白すじに基づいて算出される特徴量であればその他の特徴量でもよい。白すじの認識方法としては、例えば位相差画像を2値化し、しきい値処理によって白すじを抽出するようにしてもよいし、パターンマッチング処理を用いて検出したり、機械学習によって生成された判別器を用いて検出したりする方法があるが、その他の公知な手法を用いることができる。なお、白すじの特徴量については、例えば細胞コロニー内に未分化細胞が多い状態では白すじは少ないが、分化が進み分化細胞が多くなると白すじの量が多くなる。したがって、白すじの特徴量に基づいて、細胞コロニーの分化度または未分化度、もしくは細胞コロニーの成長度等を評価することができる。
また、細胞のNC比とは、核/細胞質面積比である。NC比については、細胞質と核のそれぞれの検出器を使用することで求めることができる。細胞質は、一般的にグレーかつフラットな見た目を有し、これに対し、核は比較的丸くかつ内部に核小体等の構造を含む。したがって、それぞれの検出器を機械学習により作成し、位相差画像に適用することによって細胞質領域と核領域とが得られる。このようにして得られた細胞質領域と核領域との面積の比を算出することによって、NC比を算出することができる。NC比は、細胞コロニー単位で算出してもよいし、予め指定された領域内でのNC比を算出するようにしてもよい。
一方、ボケた位相差画像については、個々の細胞の画像または核小体の画像等の検出精度が低くなる。したがって、ボケていない位相差画像のように個々の細胞の状態を示す特徴量を用いて評価するよりも、位相差画像自体の画像特徴量を用いて評価した方が、評価精度が向上する。画像特徴量を用いた評価方法は、上述した細胞の状態を示す特徴量を用いた評価方法よりも、相対的にボケ(劣化)に強い評価方法といえる。
ボケた位相差画像を評価する際に用いられる画像特徴量とは、撮像画像自体の特徴量であって、具体的には、位相差画像の平均輝度、位相差画像の輝度の分散、位相差画像の輝度の最大値と最小値との差、位相差画像のコントラスト、位相差画像のエントロピー、位相差画像の空間周波数分布、位相差画像の方向性および位相差画像のゼルニケ特徴等を用いることができる。
このような画像特徴量を用いて位相差画像に含まれる細胞の状態を評価する方法としては、例えば画像特徴量とその画像特徴量に対応する評価結果との関係を予め実験等によって求めておき、位相差画像の画像特徴量と上記関係とに基づいて、評価結果を得るようにすればよい。また、画像特徴量とその画像特徴量に対応する評価結果との関係を、例えば機械学習を用いて学習させて評価器を生成し、位相差画像の画像特徴量をその評価器に入力することによって評価結果を得るようにしてもよい。
また、第2の実施形態の処理制御部23は、ウェル内の各観察領域の位相差画像の評価結果を統合して、そのウェルに対する評価結果を算出する。すなわちウェル単位での評価結果を算出する。このようにウェル単位(容器単位)での評価結果を算出することによって、継代または細胞の出荷の際等においてウェル単位で管理することができる。
第2の実施形態においては、上述したようにボケている位相差画像とボケていない位相差画像とで異なる評価方法で細胞の状態を評価するようにしたため、各観察領域の位相差画像を適切な評価方法で評価することができ、ウェル単位での評価結果としてもより正確で、かつ信頼性のある評価結果を得ることができる。
具体的には、例えばウェル内の各観察領域の位相差画像に含まれる分化細胞の割合と未分化細胞の割合の平均値をそれぞれ算出することによって、ウェル単位での分化細胞の割合と未分化細胞の割合を求めるようにしてもよい。
または、ウェル内の各観察領域の位相差画像について細胞または細胞コロニーの成長度を評価する場合には、その各観察領域の成長度の平均値をウェル単位の成長度として求めるようにしてもよい。また、ウェル内の全観察領域のうち、成長度がしきい値以上である観察領域の数の割合を算出し、その割合をウェル単位の成長度として求めるようにしてもよい。もしくは、上記割合がしきい値以上である場合には、ウェル単位での評価結果を「良い」とし、しきい値未満である場合には、ウェル単位での評価結果を「悪い」としてもよい。または、成長度がしきい値以上である観察領域の評価結果を「良い」とし、しきい値未満である観察領域の評価結果を「悪い」とし、ウェル内に含まれる評価結果が「良い」の観察領域の数が、しきい値以上である場合にウェル単位での評価結果を「良い」とし、しきい値未満である場合にウェル単位での評価結果を「悪い」としてもよい。
第2の実施形態においては、表示制御部24は、処理制御部23による評価結果を表示装置30に表示させる。具体的には、第2の実施形態においては、上述したように処理制御部23においてウェル単位での評価結果が算出されるため、表示制御部24は、そのウェル単位での評価結果を表示装置30に表示させる。図13は、6ウェルのウェルプレートを用いた場合に、ウェル単位での分化細胞の割合と未分化細胞の割合とを算出し、統合された評価結果として表示した例である。
次いで、第2の実施形態において行われる処理について説明する。図14は第2の実施形態において行われる処理を示すフローチャートである。なお、第2の実施形態においては、第1の実施形態におけるステップST34までは、第1の実施形態と同一の処理が行われる。このため、図14には第1の実施形態におけるステップST34以降の処理のみを示している。第1の実施形態におけるステップST34に引き続き、処理制御部23は、複数の観察位置のうちの対象観察位置R0について、第1の変位センサ18aが検出した培養容器50のZ方向の位置と、第2の変位センサ18bが検出した培養容器50のZ方向の位置との差分値の絶対値を算出する(ステップST50)。そして、算出した差分値の絶対値がしきい値Th1よりも大きいか否かを判定する(ステップST52)。
ステップST52が肯定されると、処理制御部23は、対象観察位置R0の位相差画像について、ボケた位相差画像の評価方法を用いて評価を行う(ステップST54)。具体的には、その位相差画像について画像特徴量を算出し、その画像特徴量を用いて位相差画像に含まれる細胞の状態を評価する。
一方、ステップST52が否定されると、処理制御部23は、対象観察位置R0の位相差画像について、ボケていない位相差画像の評価方法を用いて評価を行う(ステップST56)。具体的には、その位相差画像について、細胞の状態を示す特徴量を算出し、その特徴量を用いて位相差画像に含まれる細胞の状態を評価する。
そして、全ての観察位置の位相差画像の評価が終了するまでST50〜ST56までの処理が繰り返される(ステップST58,NO)。全ての観察位置の評価が終了した場合には(ステップST58,YES)、処理制御部23は、各観察位置の位相差画像の評価結果をウェル単位で統合し、ウェル単位の評価結果を取得する(ステップST60)。さらに、表示制御部24は、各観察位置の位相差画像を用いて合成位相差画像を生成し、合成位相差画像を表示装置30に表示させ、かつウェル単位での統合評価結果を表示装置30に表示させ(ステップST62)、処理を終了する。
第2の実施形態においては、算出した差分値の絶対値がしきい値Th1よりも大きいか否かに応じて、位相差画像の評価方法を変更するようにした。具体的には、位相差画像に含まれる細胞の状態を評価する際、ボケた位相差画像とボケていない位相差画像とで異なる評価方法で評価するようにした。このため、位相差画像に適した評価方法で位相差画像を評価することができ、より正確かつ、信頼性の高い評価を行うことができる。
なお、上記第2の実施形態においては、処理制御部23において、ウェル内の各観察位置の位相差画像を統合して、ウェル単位での評価結果を算出するようにした。しかしながら、このように統合された評価結果を算出する際、ボケた位相差画像の評価結果とボケていない位相差画像の評価結果とに重み付けを付加するようにしてもよい。重み付けとしては、ボケていない位相差画像の評価結果に付加される重み付けが、ボケている位相差画像の評価結果に付加される重み付けよりも大きくなるように設定することが好ましい。これは、ボケていない位相差画像の方が評価結果の精度が高いと考えられるからである。
具体的には、例えばウェル内の各観察領域の成長度の平均値をウェル単位の成長度として求める場合、ボケた位相差画像の観察領域の成長度に対して0.5よりも小さい重み付けを付加し、ボケていない位相差画像の観察領域の成長度に対して0.5以上の重み付けを付加するようにすればよい。
または、成長度が予め定められたしきい値以上である観察領域の評価結果を「良い」とし、しきい未満である観察領域の評価結果を「悪い」とする場合、ボケた位相差画像の観察位置の成長度に対して0.5よりも小さい重み付けを付加して「良い」または「悪い」を評価し、ボケていない位相差画像の観察位置の成長度に対して0.5以上の重み付けを付加して「良い」または「悪い」を評価するようにしてもよい。そして、上述したようにウェル内に含まれる評価結果が「良い」の観察位置の数が、一定値以上である場合にウェル単位での評価結果を「良い」とし、一定値未満である場合にウェル単位での評価結果を「悪い」としてもよい。
また、上記第2の実施形態においては、算出した差分値の絶対値がしきい値Th1より大きい場合には、観察位置Rの位相差画像を評価対象から除外することにより、評価方法を変更してもよい。この場合、評価結果を算出する際に、その観察位置Rの位相差画像が評価対象から除外される。
なお、上記実施形態においては、ステージ51を移動させているが、これに限らず、ステージ51を固定とし、結像光学系14およびその他の位相差画像の撮像に係る構成を移動させてもよいし、ステージ51と結像光学系14およびその他の位相差画像の撮像に係る構成との双方を移動させてもよい。
また、上記実施形態は、本発明を位相差顕微鏡に適用したものであるが、本発明は、位相差顕微鏡に限らず、微分干渉顕微鏡および明視野顕微鏡等のその他の顕微鏡に適用するようにしてもよい。
また、上記実施形態においては、全ての観察領域の位相差画像を取得した後に、対象観察位置R0についての差分値の絶対値がしきい値Th1よりも大きいか否かを判定しているが、各観察領域の位相差画像を取得しつつ、上記判定を行うようにしてもよい。
10 顕微鏡装置
11 白色光源
12 コンデンサレンズ
13 スリット板
14 結像光学系
14a 位相差レンズ
14b 対物レンズ
14c 位相板
14d 結像レンズ
15 結像光学系駆動部
16 撮像素子
17 水平方向駆動部
18 検出部
18a 第1の変位センサ
18b 第2の変位センサ
20 撮影制御装置
21 オートフォーカス制御部
22 走査制御部
23 処理制御部
24 表示制御部
30 表示装置
40 入力装置
50 培養容器
51 ステージ
51a 開口
S 走査開始点
E 走査終了点
L 照明光
M 観察位置の走査位置
Pd 検出位置
Pr 検出位置Pdに隣接する観察位置Rの位置
R 観察位置
R1,R2 加減速域の範囲
W ウェル

Claims (12)

  1. 観察対象が収容された容器が設置されるステージと、
    前記観察対象の画像を撮像する撮像素子を有する撮像系と、
    前記容器内の前記観察対象の像を前記撮像素子に結像させる結像光学系と、
    前記ステージおよび前記結像光学系の少なくとも一方を、水平面内の主走査方向および該主走査方向に交差する副走査方向に移動させ、かつ前記少なくとも一方を前記主走査方向について往復移動させる水平方向駆動部と、
    該水平方向駆動部を制御する走査制御部と、
    前記結像光学系を挟んで前記主走査方向に並べて設けられ、前記ステージに設置された前記容器の鉛直方向の位置を検出する少なくとも2つの変位センサを有し、前記主走査方向の変更に応じて使用する前記変位センサを切り替える検出部と、
    前記結像光学系が前記容器における対象観察位置に到達する前に、前記主走査方向において前記結像光学系に先行する前記変位センサによって検出された、前記対象観察位置における前記容器の鉛直方向の第1の位置に基づいて、オートフォーカス制御を行うオートフォーカス制御部と、
    前記第1の位置、および前記結像光学系が前記容器における対象観察位置に到達した後に、前記主走査方向において前記結像光学系に後続する前記変位センサによって検出された、前記対象観察位置における前記容器の鉛直方向の第2の位置に基づいて、前記対象観察位置に対する観察のための処理を制御する処理制御部とを備えた撮影制御装置。
  2. 前記処理制御部は、前記対象観察位置において前記第1の位置と前記第2の位置との差が予め定められたしきい値より大きい場合に、前記対象観察位置の撮影および前記対象観察位置の画像に対する画像処理の少なくとも一方を制御する請求項1に記載の撮影制御装置。
  3. 前記処理制御部は、前記対象観察位置において前記第1の位置と前記第2の位置との差が前記しきい値より大きい場合に、前記対象観察位置を再撮影する請求項2に記載の撮影制御装置。
  4. 前記処理制御部は、前記対象観察位置において前記第1の位置と前記第2の位置との差が前記しきい値より大きい場合に、前記対象観察位置において前記第1の位置と前記第2の位置との差が前記しきい値より大きいことを通知する請求項2に記載の撮影制御装置。
  5. 前記処理制御部は、前記対象観察位置において前記第1の位置と前記第2の位置との差が前記しきい値より大きい場合に、前記対象観察位置の画像に対してシャープネス強調処理を行う請求項2に記載の撮影制御装置。
  6. 前記処理制御部は、前記対象観察位置において前記第1の位置と前記第2の位置との差が予め定められたしきい値より大きいか否かに応じて、前記対象観察位置の画像に含まれる前記観察対象の状態を評価するための評価方法を変更する請求項1に記載の撮影制御装置。
  7. 前記処理制御部は、前記対象観察位置において前記第1の位置と前記第2の位置との差が前記しきい値より大きい場合には、相対的に劣化に強い評価方法によって前記対象観察位置の画像を評価し、前記対象観察位置において前記第1の位置と前記第2の位置との差が前記しきい値以下の場合には、相対的に劣化に弱い評価方法によって前記対象観察位置の画像を評価する請求項6に記載の撮影制御装置。
  8. 前記処理制御部は、前記対象観察位置において前記第1の位置と前記第2の位置との差が前記しきい値より大きい場合には、前記対象観察位置の画像に含まれる観察対象の状態を示す特徴量を用いて評価し、前記対象観察位置において前記第1の位置と前記第2の位置との差が前記しきい値以下の場合には、画像特徴量を用いて評価する請求項7記載の撮影制御装置。
  9. 前記観察対象の状態を示す特徴量が、個々の細胞の状態の特徴量、細胞内に含まれる核小体の特徴量、白すじの特徴量、細胞内に含まれる核の特徴量および細胞のNC比(Nucleocytoplasmic ratio)の少なくとも1つを含む請求項8記載の撮影制御装置。
  10. 前記処理制御部は、前記対象観察位置において前記第1の位置と前記第2の位置との差が前記しきい値より大きい場合には、前記対象観察位置を評価対象から除外する請求項6に記載の撮影制御装置。
  11. 観察対象が収容された容器が設置されるステージと、
    前記観察対象の画像を撮像する撮像素子を有する撮像系と、
    前記容器内の前記観察対象の像を前記撮像素子に結像させる結像光学系と、
    前記ステージおよび前記結像光学系の少なくとも一方を、水平面内の主走査方向および該主走査方向に交差する副走査方向に移動させ、かつ前記少なくとも一方を前記主走査方向について往復移動させる水平方向駆動部と、
    該水平方向駆動部を制御する走査制御部と、
    前記結像光学系を挟んで前記主走査方向に並べて設けられ、前記ステージに設置された前記容器の鉛直方向の位置を検出する少なくとも2つの変位センサを有し、前記主走査方向の変更に応じて使用する前記変位センサを切り替える検出部とを備えた撮影制御装置における撮影制御方法であって、
    前記結像光学系が前記容器における対象観察位置に到達する前に、前記主走査方向において前記結像光学系に先行する前記変位センサによって検出された、前記対象観察位置における前記容器の鉛直方向の第1の位置に基づいて、オートフォーカス制御を行うステップと、
    前記第1の位置、および前記結像光学系が前記容器における対象観察位置に到達した後に、前記主走査方向において前記結像光学系に後続する前記変位センサによって検出された、前記対象観察位置における前記容器の鉛直方向の第2の位置に基づいて、前記対象観察位置に対する観察のための処理を制御するステップとを有する撮影制御方法。
  12. 観察対象が収容された容器が設置されるステージと、
    前記観察対象の画像を撮像する撮像素子を有する撮像系と、
    前記容器内の前記観察対象の像を前記撮像素子に結像させる結像光学系と、
    前記ステージおよび前記結像光学系の少なくとも一方を、水平面内の主走査方向および該主走査方向に交差する副走査方向に移動させ、かつ前記少なくとも一方を前記主走査方向について往復移動させる水平方向駆動部と、
    該水平方向駆動部を制御する走査制御部と、
    前記結像光学系を挟んで前記主走査方向に並べて設けられ、前記ステージに設置された前記容器の鉛直方向の位置を検出する少なくとも2つの変位センサを有し、前記主走査方向の変更に応じて使用する前記変位センサを切り替える検出部とを備えた撮影制御装置における撮影制御方法をコンピュータに実行させる撮影制御プログラムであって、
    前記結像光学系が前記容器における対象観察位置に到達する前に、前記主走査方向において前記結像光学系に先行する前記変位センサによって検出された、前記対象観察位置における前記容器の鉛直方向の第1の位置に基づいて、オートフォーカス制御を行う手順と、
    前記第1の位置、および前記結像光学系が前記容器における対象観察位置に到達した後に、前記主走査方向において前記結像光学系に後続する前記変位センサによって検出された、前記対象観察位置における前記容器の鉛直方向の第2の位置に基づいて、前記対象観察位置に対する観察のための処理を制御する手順とをコンピュータに実行させる撮影制御プログラム。
JP2019539136A 2017-08-29 2018-08-07 撮影制御装置、方法およびプログラム Active JP6704530B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017163961 2017-08-29
JP2017163961 2017-08-29
PCT/JP2018/029607 WO2019044424A1 (ja) 2017-08-29 2018-08-07 撮影制御装置、方法およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2019044424A1 JPWO2019044424A1 (ja) 2020-02-27
JP6704530B2 true JP6704530B2 (ja) 2020-06-03

Family

ID=65526320

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019539136A Active JP6704530B2 (ja) 2017-08-29 2018-08-07 撮影制御装置、方法およびプログラム

Country Status (4)

Country Link
US (1) US20200192059A1 (ja)
EP (1) EP3677943A4 (ja)
JP (1) JP6704530B2 (ja)
WO (1) WO2019044424A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7342950B2 (ja) * 2019-07-18 2023-09-12 株式会社島津製作所 細胞画像解析方法および細胞画像解析装置
JPWO2021177004A1 (ja) * 2020-03-05 2021-09-10

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3290606B2 (ja) * 1997-02-19 2002-06-10 株式会社三協精機製作所 顕微鏡用オートフォーカス装置
JP2003294419A (ja) * 2002-03-29 2003-10-15 Hitachi Kokusai Electric Inc 微小寸法測定装置
JP3990177B2 (ja) * 2002-03-29 2007-10-10 独立行政法人放射線医学総合研究所 顕微鏡装置
JP2007218846A (ja) * 2006-02-20 2007-08-30 Omron Corp 寸法計測方法、撮像装置、制御装置および寸法計測装置
JP5207213B2 (ja) * 2008-09-16 2013-06-12 横河電機株式会社 オートフォーカス装置
JP5589619B2 (ja) * 2010-07-01 2014-09-17 ソニー株式会社 情報処理装置、ステージうねり補正方法、プログラム
WO2013165576A1 (en) * 2012-05-02 2013-11-07 Aperio Technologies, Inc. Real-time focusing in line scan imaging
WO2015133176A1 (ja) 2014-03-05 2015-09-11 株式会社 日立ハイテクノロジーズ 顕微分光装置
JP2015230393A (ja) 2014-06-05 2015-12-21 キヤノン株式会社 撮像装置の制御方法および撮像システム
JP6619315B2 (ja) * 2016-09-28 2019-12-11 富士フイルム株式会社 観察装置および方法並びに観察装置制御プログラム
WO2019098150A1 (ja) * 2017-11-17 2019-05-23 富士フイルム株式会社 観察装置および方法並びに観察装置制御プログラム

Also Published As

Publication number Publication date
EP3677943A1 (en) 2020-07-08
JPWO2019044424A1 (ja) 2020-02-27
US20200192059A1 (en) 2020-06-18
EP3677943A4 (en) 2020-09-16
WO2019044424A1 (ja) 2019-03-07

Similar Documents

Publication Publication Date Title
JP6675279B2 (ja) 撮影装置および方法並びに撮影制御プログラム
JPWO2019181053A1 (ja) デフォーカス量測定装置、方法およびプログラム、並びに判別器
JP2014178357A (ja) デジタル顕微鏡装置、その撮像方法およびプログラム
JP6704530B2 (ja) 撮影制御装置、方法およびプログラム
US11209637B2 (en) Observation device, observation control method, and observation control program that control acceleration of a moveable stage having an installed subject vessel
JP6619315B2 (ja) 観察装置および方法並びに観察装置制御プログラム
JP7030986B2 (ja) 画像生成装置、画像生成方法および画像生成プログラム
JP6861842B2 (ja) 観察装置および方法並びに観察装置制御プログラム
JP6698421B2 (ja) 観察装置および方法並びに観察装置制御プログラム
WO2019202979A1 (ja) 観察装置、観察装置の作動方法、及び観察制御プログラム
WO2018061635A1 (ja) 観察装置および方法並びに観察装置制御プログラム
JP6848086B2 (ja) 観察装置および方法並びに観察装置制御プログラム
JP7133636B2 (ja) フォーカス位置評価装置、方法、及びプログラム
JP6812562B2 (ja) 観察装置および方法並びに観察装置制御プログラム
JPWO2019102723A1 (ja) 観察装置、観察装置の作動方法、及び観察制御プログラム
JP2022001889A (ja) フォーカス位置評価装置、方法及びプログラム、並びに判別器

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191016

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200421

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200512

R150 Certificate of patent or registration of utility model

Ref document number: 6704530

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250