JP6219214B2 - 細胞撮像制御装置および方法並びにプログラム - Google Patents

細胞撮像制御装置および方法並びにプログラム Download PDF

Info

Publication number
JP6219214B2
JP6219214B2 JP2014071378A JP2014071378A JP6219214B2 JP 6219214 B2 JP6219214 B2 JP 6219214B2 JP 2014071378 A JP2014071378 A JP 2014071378A JP 2014071378 A JP2014071378 A JP 2014071378A JP 6219214 B2 JP6219214 B2 JP 6219214B2
Authority
JP
Japan
Prior art keywords
cell
autofocus
image
evaluation value
focus position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014071378A
Other languages
English (en)
Other versions
JP2015194544A (ja
Inventor
尭之 辻本
尭之 辻本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2014071378A priority Critical patent/JP6219214B2/ja
Priority to PCT/JP2015/054412 priority patent/WO2015151616A1/ja
Publication of JP2015194544A publication Critical patent/JP2015194544A/ja
Priority to US15/271,634 priority patent/US10330907B2/en
Application granted granted Critical
Publication of JP6219214B2 publication Critical patent/JP6219214B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/24Base structure
    • G02B21/241Devices for focusing
    • G02B21/244Devices for focusing using image analysis techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers
    • G01N33/483Physical analysis of biological material
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Description

本発明は、非染色の細胞を撮像する撮像装置であってオートフォーカス機能を有する撮像装置におけるオートフォーカス制御を行う細胞撮像制御装置および方法並びにプログラムに関するものである。
従来、ES細胞、iPS細胞、STAP細胞などの多能性幹細胞や、分化誘導された細胞などを経時的に撮像し、その画像の経時的な変化を捉えることで細胞の培養状態の良否判定を行う方法が提案されている。
そして、上述したように細胞を撮像する装置として顕微鏡が用いられるが、顕微鏡で細胞の画像を撮像する際には、いわゆるオートフォーカス制御が行われ、これによりフォーカス位置が最適な状態で細胞の画像が撮像される。
一般的なオートフォーカスの方法として、特許文献1から特許文献4においては、取得した画像全体のコントラストよりAF評価値を算出し、そのAF評価値が最大となるフォーカス位置を選択することで、ボケのない画像を取得する方法が提案されている。
また、特許文献5においては、細胞を撮影した細胞画像を領域分割し、各領域についてコントラストによりAF評価値を算出し、そのAF評価値が最大となるフォーカス位置を選択し、その選択されたフォーカス位置の各領域の画像を合成することによって、ボケのない細胞画像を取得する方法が提案されている。
また、特許文献6には、より明確に個々の細胞を観察するため、細胞の輪郭部分が強調されるようなフォーカス位置に合わせることが提案されている。
特許第4797522号公報 特開2008−116526号公報 特開平6−138119号公報 特開2008−5768号公報 特開2013−20212号公報 特開2010−216920号公報 特開2008−46305号公報
しかしながら、特許文献1から特許文献5に記載の方法のように、コントラストが最大となるフォーカス位置に制御して細胞の顕微鏡画像を取得した場合、たとえば培地(培養液)に死細胞やゴミなどの浮遊物が浮遊している場合には、これらの浮遊物の影響を受けて意図しないフォーカス位置に制御される場合がある。また、細胞自身の高さによってフォーカス位置の探索範囲が適切でない場合があり、このような場合にも意図しないフォーカス位置に制御される場合がある。
また、特許文献6に記載の方法のように、細胞の輪郭を強調した撮像を行ったとしても、細胞内の核や核小体などの構造体を明確に観察できるようなフォーカス位置に制御できるとは限らない。
また、特許文献7においては、上述したように死細胞やゴミにフォーカス位置が制御されることを防止するために、細胞画像の濃度ヒストグラムに基づいて、死細胞やゴミを表す高輝度な画素の範囲をフォーカス探索範囲から除外し、生細胞の画像の輝度範囲に限定してフォーカス位置を探索することが提案されている。
しかしながら、特許文献7に記載の方法は、蛍光物質によって染色した細胞の蛍光画像を撮像する際におけるフォーカス制御方法であり、基本的に、特許文献1から特許文献5
と同様に、細胞画像全体のコントラストに基づくオートフォーカス制御である。
したがって、蛍光画像のようなコントラストが高い画像を撮像する際には適用可能な方法であるが、たとえば撮像対象が蛍光画像ではなく、たとえば位相差顕微鏡によって撮像される位相画像である場合、蛍光画像ほどコントラストが高くないので、特許文献7に記載のような細胞画像全体のコントラストに基づくオートフォーカス制御方法では、適切なオートフォーカス制御ができない可能性がある。
そして、意図しないフォーカス位置に制御されて細胞画像が撮像された場合、細胞の良否判定に不適切な細胞画像が撮像されてしまう。
本発明は、上記の問題に鑑み、死細胞やゴミなどの浮遊物や細胞自身の高さなどの影響を受けることなく、観察対象の細胞にフォーカス位置が合った細胞画像を撮像することができる細胞撮像制御装置および方法並びにプログラムを提供することを目的とする。
本発明の細胞撮像制御装置は、非染色の細胞への光の照射による細胞の透過光または反射光を撮影した細胞画像を取得してその細胞画像内における細胞または細胞内の構造体を検出する細胞検出部と、細胞検出部によって検出された細胞または構造体の画像情報に基づいてオートフォーカス評価値を算出し、細胞画像を撮像する撮像装置に対して上記オートフォーカス評価値に基づくオートフォーカス制御信号を出力するオートフォーカス制御部とを備えたことを特徴とする。
また、上記本発明の細胞撮像制御装置において、細胞画像のコントラスト情報を取得するコントラスト情報取得部をさらに設け、オートフォーカス制御部は、オートフォーカス制御信号によるオートフォーカス制御によって撮像装置により撮像された細胞画像について、細胞または構造体の画像情報に基づくオートフォーカス評価値およびコントラスト情報に基づくオートフォーカス評価値をそれぞれ算出し、この際、コントラスト情報に基づくオートフォーカス評価値が最大となり、かつ細胞または構造体の画像情報に基づくオートフォーカス評価値が最大でないフォーカス位置が存在する場合には、フォーカス位置をオートフォーカス制御開始時の原点位置に戻す制御信号を撮像装置に出力することができる。
また、オートフォーカス制御部は、フォーカス位置を原点位置に戻した後、コントラスト情報に基づくオートフォーカス評価値が最大となるフォーカス位置よりも原点位置側の範囲内においてオートフォーカス制御を行うことができる。
また、原点位置は、細胞が培養される容器の底面の位置または細胞が設置された設置面の位置に設定することができる。
また、オートフォーカス制御部は、細胞または構造体の画像情報に基づいて、細胞または構造体の個数または面積を取得し、その個数または面積に基づいてオートフォーカス評価値を算出することができる。
また、オートフォーカス制御部は、フォーカス位置の移動可能範囲を変更することができる。
また、オートフォーカス制御部は、細胞または構造体の大きさに関する情報に基づいて、フォーカス位置の移動可能範囲を変更することができる。
また、構造体として、細胞の核小体または核を用いることができる。
また、細胞として、幹細胞、薬効検査の際に採取された細胞または生検の際に採取された細胞を用いることができる。
本発明の細胞撮像制御方法は、非染色の細胞への光の照射による細胞の透過光または反射光を撮影した細胞画像を取得してその細胞画像内における細胞または細胞内の構造体を検出し、その検出した細胞または構造体の画像情報に基づいてオートフォーカス評価値を算出し、細胞画像を撮像する撮像装置に対して上記オートフォーカス評価値に基づくオートフォーカス制御信号を出力することを特徴とする。
本発明の細胞撮像制御プログラムは、コンピュータを、非染色の細胞への光の照射による細胞の透過光または反射光を撮影した細胞画像を取得してその細胞画像内における細胞または細胞内の構造体を検出する細胞検出部と、細胞検出部によって検出された細胞または構造体の画像情報に基づいてオートフォーカス評価値を算出し、細胞画像を撮像する撮像装置に対して上記オートフォーカス評価値に基づくオートフォーカス制御信号を出力するオートフォーカス制御部として機能させることを特徴とする。
本発明の細胞撮像制御装置および方法並びにプログラムによれば、非染色の細胞の透過光または反射光を撮影した細胞画像を取得してその細胞画像内における細胞または細胞内の構造体を検出し、その検出した細胞または構造体の画像情報に基づいてオートフォーカス評価値を算出し、そのオートフォーカス評価値に基づくオートフォーカス制御信号を撮像装置に出力するようにしたので、細胞または細胞内の構造体を中心としたフォーカス制御を行うことができるので、死細胞やゴミなどの浮遊物や細胞自身の高さなどの影響を受けることなく、観察対象の細胞にフォーカス位置が合った細胞画像を撮像することができる。
そして、これにより細胞内のミクロな構造体をより明瞭に観察することができるので、細胞の良否判定の精度を向上させることができる。
本発明の細胞撮像制御装置の一実施形態を用いた細胞培養観察システムの概略構成を示す図 オートフォーカス機能を有する位相差顕微鏡の概略構成を示す図 オートフォーカス制御のアルゴリズムを説明するための図 オートフォーカス制御によるフォーカス位置の移動を示すイメージ図 本発明の細胞撮像制御装置の一実施形態を用いた細胞培養観察システムの作用を説明するためのフローチャート 培地における浮遊物を説明するための図 図1に示す細胞培養観察システムの変形例を示す図 図7に示す細胞培養観察システムの作用を説明するためのフローチャート
以下、本発明の細胞撮像制御装置および方法並びにプログラムの一実施形態を用いた細胞培養観察システムについて、図面を参照しながら詳細に説明する。図1は、細胞培養観察システムの概略構成を示すブロック図である。
細胞培養観察システムは、図1に示すように、細胞培養装置1と、細胞撮像制御装置2と、位相差顕微鏡3と、ディスプレイ4と、入力装置5とを備えている。
細胞培養装置1は、細胞の培養を行うための装置である。培養対象の細胞としては、たとえばiPS細胞、ES細胞、STAP細胞といった幹細胞や、幹細胞から分化誘導された神経や皮膚や肝臓などの細胞や、がん細胞などがある。また、薬効検査の際に採取された細胞でもよいし、生検の際に採取された細胞でもよい。細胞培養装置1内には、培養対象の細胞を培地に播種した培養容器が複数収容されている。そして、細胞培養装置1は、ステージ10と搬送部11と制御部12とを備えている。
ステージ10は、細胞撮像制御装置2の撮像対象である培養容器が設置されるものである。培養容器としては、ディッシュ、プレート、フラスコなどがある。搬送部11は、細胞培養装置1内の所定位置に収容されている複数の培養容器の中から撮像対象の培養容器を選択し、その選択した培養容器をステージ10まで搬送するものでる。
制御部12は、細胞培養装置1全体を制御するものであり、上述したステージ10や搬送部11の動作以外に、細胞培養装置1内の温度、湿度およびCO濃度などの環境条件を制御するものである。なお、温度、湿度およびCO濃度を調整するための構成については、公知な構成を用いることができる。
位相差顕微鏡3は、撮像装置に相当するものであり、ステージ10上に設置された培養容器内の細胞の位相画像を撮影するものである。特に、本実施形態の位相差顕微鏡3は、非染色の細胞の位相画像を撮影するものである。また、本実施形態の位相差顕微鏡3は、フォーカス位置を自動的に変更するオートフォーカス機能を備えたものであり、後述するオートフォーカス制御部24から出力されたオートフォーカス制御信号に基づいてフォーカス位置を変更するものである。
図2は、位相差顕微鏡3の概略構成を示す図である。位相差顕微鏡3は、図2に示すように、白色光を出射する白色光源31と、リング形状のスリットを有し、白色光源31から出射された白色光が入射されてリング状照明光を出射するスリット板32と、スリット板32から射出されたリング状照明光が入射され、その入射されたリング状照明光をステージ10上に設置された培養容器15内の細胞に対して照射する対物レンズ33とを備えている。
そして、ステージ10に対して白色光源31とは反対側に、位相差レンズ34と、結像レンズ37と、撮像素子38とが設けられている。
位相差レンズ34は、対物レンズ35と、位相板36とを備えたものである。位相板36は、リング状照明光の波長に対して透明な透明板に対して位相リングを形成したものである。なお、上述したスリット板32のスリットの大きさは、この位相リングと共役な関係にある
位相リングは、入射された光の位相を1/4波長ずらす位相膜と、入射された光を減光する減光フィルタとがリング状に形成されたものである。位相差レンズ34に入射された直接光は対物レンズ35によって集光され、位相リングを通過することによって位相が1/4波長ずれるとともに、その明るさが弱められる。一方、培養容器15内の細胞によって回折された回折光は大部分が位相板の透明板を通過し、その位相および明るさは変化しない。
そして、位相差レンズ34は、図示省略した駆動機構によって図2に示す矢印A方向に移動するものであり、このように位相差レンズ34が移動することによってフォーカス位置が変更される。駆動機構は、オートフォーカス制御部24から出力されたオートフォーカス制御信号に基づいて位相差レンズ34を移動させるものである。
結像レンズ37は、位相差レンズ34を通過した直接光および回折光が入射され、これらの光を撮像素子38に結像するものである。撮像素子38は、結像レンズ37によって結像された像を光電変換することによって細胞の位相画像を撮像するものである。撮像素子38としては、CCD(charge-coupled device)イメージセンサやCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサなどが用いられる。
なお、本実施形態においては、撮像装置として位相差顕微鏡3を用いるようにしたが、これに限らず、細胞の透過光または反射光を撮影するオートフォーカス機能を備えたその他の顕微鏡を用いるようにしてもよい。たとえば微分干渉顕微鏡、明視野顕微鏡、暗視野顕微鏡などを用いるようにしてもよい。
図1に戻り、細胞撮像制御装置2は、細胞画像取得部21と、細胞検出部22と、制御部23とを備えている。そして、制御部23は、オートフォーカス制御部24と表示制御部25とを備えている。
細胞撮像制御装置2は、コンピュータに対して本発明の細胞撮像制御プログラムの一実施形態がインストールされたものである。細胞撮像制御装置2は、中央処理装置、半導体メモリおよびハードディスクなどを備えており、ハードディスクに細胞撮像制御プログラムの一実施形態がインストールされている。そして、このプログラムが制御部23における中央処理装置によって実行されることによって、図1に示すような細胞画像取得部21、細胞検出部22、オートフォーカス制御部24および表示制御部25が動作する。
細胞撮像制御プログラムは、DVD,CD−ROM等の記録媒体や、ネットワークに接続された外部からアクセス可能なサーバコンピュータなどに記憶されるものであり、ユーザの要求に応じて、上記記録媒体やサーバコンピュータから読み出されてコンピュータにダウンロードされてインストールされる。
細胞画像取得部21は、位相差顕微鏡3におけるオートフォーカス制御の際に撮像された細胞画像を取得するとともに、フォーカス位置が調整された細胞画像を取得するものである。
細胞検出部22は、オートフォーカス制御の際に細胞画像取得部21によって取得された細胞画像が入力され、その入力された細胞画像内における細胞または細胞内の構造体を検出するものである。
細胞の検出方法としては、たとえば細胞画像を2値化画像に変換した後、フィルタ処理を行って個々の細胞のエッジを検出し、そのエッジに対してパターンマッチングを行って検出するようにすればよい。また、パターンマッチングの際には、機械学習を用いたパターン認識を行うことが望ましい。ただし、このような方法に限らず、種々の公知な方法を用いることができる。
細胞内の構造体とは、個々の細胞内に含まれるものであり、たとえば核や核小体などがある。核や核小体の検出方法も、細胞の場合と同様に、エッジ検出とパターンマッチングによって検出するようにすればよい。また、核小体については、周囲よりも黒い画像となるので輝度や明度などから検出するようにしてもよい。また、核や核小体についても、このような方法に限らず、種々の公知な方法を用いることができる。
制御部23は、細胞撮像制御装置2全体の制御を行うものである。制御部23におけるオートフォーカス制御部24は、位相顕差顕微鏡3のオートフォーカス制御を行うものであり、表示制御部25は、位相差顕微鏡3によって撮像された細胞画像をディスプレイ4に表示させるものである。
オートフォーカス制御部24は、細胞検出部22によって検出された細胞画像内における細胞または構造体の画像情報に基づいて、オートフォーカス制御を行うものである。具体的には、本実施形態のオートフォーカス制御部24は、細胞画像内における核小体の個数をカウントし、その個数をオートフォーカス評価値として算出し、このオートフォーカス評価値に基づいてオートフォーカス制御を行うものである。
図3は、本実施形態のオートフォーカス制御部24のオートフォーカス制御のアルゴリズムを説明するための図である。また、図4は、オートフォーカス制御によるフォーカス位置の移動を示すイメージ図である。以下、図3および図4を参照しながら説明する。
オートフォーカス制御部24は、まず、最初に培養容器15の底面の位置をフォーカス位置の原点位置に設定し、この原点位置からオートフォーカス制御を開始する。培養容器15の底面に原点位置を設定する方法としては、位相差顕微鏡3によって撮像された画像を用いて培養容器15の底面を自動的に検出するようにしてもよいし、手動で設定するようにしてもよいし、予めオートフォーカス制御部24に設定するようにしてもよい。
培養容器15の底面の検出方法としては、たとえば底面にマークなどを設けておき、そのマークを検出することによって底面を検出するようにしてもよいし、光源を別途設け、その光源から出射された光を培養容器15の底面に照射し、その反射光の強度に基づいて底面の位置を検出するようにしてもよい。また、その他の公知な方法を用いるようにしてもよい。
なお、本実施形態においては、培養容器15の底面の位置を原点位置に設定するようにしたが、これに限らず、細胞が設置された足場などの設置面の位置を原点位置に設定するようにしてもよい。
次に、オートフォーカス制御部24は、フォーカス位置を培養容器15の底面の位置から離れる方向に所定の移動量だけ移動させる。なお、以下、培養容器15の底面から離れる方向を上方、逆に底面に向かう方向を下方という。
そして、フォーカス位置を所定の移動量だけ移動させた際に撮像された細胞画像内の核小体の個数をカウントし、その個数に応じた移動量だけ上方に向かってフォーカス位置を移動させ、そのフォーカス位置で撮像された細胞画像内の核小体の個数をカウントする。そして、再び、そのカウントされた個数に応じた移動量だけ下方に向かってフォーカス位置を移動させ、そのフォーカス位置で撮像された細胞内の核小体の個数をカウントする。
図4に示すように、フォーカス位置が、核小体が存在している位置に設定された場合には、細胞画像内に核小体が最も明確に現れてその個数も多くなり、一方、フォーカス位置が、核小体が存在している位置から離れた場合には、細胞画像内に核小体が現れずにその個数も少なくなることになる。
したがって、上述したように、細胞画像内の核小体の個数のカウントと、そのカウントされた個数に応じた移動量のフォーカス位置の移動を繰り返して行うことによって、細胞画像内の核小体の個数が最も多くなるフォーカス位置を最適なフォーカス位置として見つけ出す。
核小体の個数に応じたフォーカス位置の移動量および移動方向については予め設定されているものとする。具体的には、図3に示すように、たとえば核小体の個数が少ないほどフォーカス位置の移動量を大きくし、核小体の個数が多いほどフォーカス位置の移動量を小さくし、上方への移動と下方への移動とを予め設定された回数だけ交互に繰り返すようにすればよい。また、フォーカス位置を原点位置から移動可能な移動可能範囲も予め設定されており、オートフォーカス制御部24は、その移動可能範囲内でフォーカス位置を移動させるものである。
なお、本実施形態においては、細胞画像内の核小体の個数に基づいてオートフォーカス制御を行うようにしたが、核小体の個数ではなく、各核小体の面積の総和に基づいてオートフォーカス制御するようにしてもよい。この場合、各核小体の面積の総和が小さいほどフォーカス位置の移動量を大きくし、面積の総和が大きいほど移動量を小さくするようにすればよい。また、核小体ではなく、核の個数や面積の総和または細胞の個数や面積の総和に基づいてオートフォーカス制御を行うようにしてもよい。また、核小体や核や細胞の画像のコントラストを算出し、そのコントラストに基づいてオートフォーカス制御を行うようにしてもよい。この場合、コントラストが小さいほどフォーカス位置の移動量を大きくし、コントラストが大きいほど移動量を小さくするようにすればよい。
また、フォーカス位置の移動量および移動可能範囲については、細胞の大きさや細胞内の構造体の大きさに関する情報に応じて変更するようにしてもよい。細胞や構造体の大きさに関する情報は、ユーザが入力装置5を用いて設定入力するようにすればよい。細胞や構造体の大きさに関する情報としては、大きさ自体を設定入力するようにしてもよいし、細胞の種類を設定入力するようにしてもよい。そして、オートフォーカス制御部24に対して、細胞や構造体の大きさに関する情報と移動量および移動可能範囲とを対応づけたテーブルを予め設定しておき、このテーブル参照することによって移動量および移動可能範囲を変更するようにすればよい。たとえば、細胞や構造体が大きいほど移動量および移動可能範囲が大きくなるように設定するようにすればよい。
また、さらにフォーカス位置の移動量や移動可能範囲を、培地、足場または播種方法などの培養条件や、播種時点からの培養期間に応じて変更するようにしてもよい。
培養条件は、細胞の成長速度に関連するものであるので、細胞の成長速度が大きくなる培養条件ほど移動量または移動可能範囲を大きくするようにすればよい。また、培養期間は、細胞の成長度に関連するものであるので、培養期間が長いほど移動量または移動可能範囲を大きくするようにすればよい。
培養条件については、ユーザが入力装置5を用いて設定入力するようにすればよく、培養期間については、ユーザが設定入力してもよいし、タイマなどを設けて計測するようにしてもよい。
入力装置5は、マウスやキーボードなどを備えたものであり、ユーザによる設定入力を受け付けるものである。具体的には、入力装置5は、上述したような細胞や細胞内の構造体の大きさに関する情報、培養条件、培養期間の設定入力を受け付けるものである。
次に、上述した細胞培養観察システムの作用について、図5に示すフローチャートを参照しながら説明する。
まず、細胞培養装置1において、搬送部11によって、収容されている複数の培養容器の中から撮影対象の培養が選択され、その選択された培養容器15がステージ10に設置される(S10)。
そして、細胞撮像制御装置2のオートフォーカス制御部24から位相差顕微鏡3に対してオートフォーカス制御信号が出力され(S12)、位相差顕微鏡3は、入力されたオートフォーカス制御信号に応じて位相差レンズ34を移動させることによって、フォーカス位置を原点である培養容器15の底面に設定する(S14)。
そして、位相差顕微鏡3は、オートフォーカス制御部24からのオートフォーカス制御信号に応じてフォーカス位置を変更しながらオートフォーカス制御用の細胞画像を順次撮像し、その細胞画像を細胞撮像制御装置2に出力する。
位相差顕微鏡3から出力されたオートフォーカス制御用の細胞画像は、細胞撮像制御装置2の細胞画像取得部21によって取得され(S16)、細胞検出部22に出力される。細胞検出部22は、入力された細胞画像から細胞または細胞内の構造体を検出し、その情報をオートフォーカス制御部24に出力する(S18)。
オートフォーカス制御部24は、上述したように、たとえば核小体の個数をカウントし、その個数をオートフォーカス評価値として取得し、そのオートフォーカス評価値に基づくオートフォーカス制御信号を位相差顕微鏡3に出力してフォーカス位置を移動させることによってオートフォーカス制御を行い(S20)、最適なフォーカス位置を見つけ出して設定する(S22)。
そして、位相差顕微鏡3は、最適なフォーカス位置に設定された状態で観察用の細胞画像を撮像し、その観察用の細胞画像を細胞撮像制御装置2に出力する。位相差顕微鏡3から出力された観察用の細胞画像は、細胞画像取得部21によって取得され(S24)、表示制御部25に出力される。表示制御部25は、入力された観察用の細胞画像をディスプレイ4に表示させる(S26)。
上記実施形態の細胞培養観察システムによれば、非染色の細胞の透過光または反射光を撮影した細胞画像を取得してその細胞画像内における細胞または細胞内の構造体を検出し、その検出した細胞または構造体の画像情報に基づいてオートフォーカス評価値を算出し、そのオートフォーカス評価値に基づくオートフォーカス制御信号を撮像装置に出力するようにしたので、細胞または細胞内の構造体を中心としたフォーカス制御を行うことができるので、死細胞やゴミなどの浮遊物や細胞自身の高さなどの影響を受けることなく、観察対象の細胞にフォーカス位置が合った細胞画像を撮像することができる。
また、上記実施形態の細胞培養観察システムにおいては、細胞検出部22において検出された細胞または構造体の画像情報に基づいてオートフォーカス制御を行うようにしたが、たとえばフォーカス位置を移動させた結果、図6に示すように培地(培養液)の表面よりも上方にフォーカス位置が設定される場合がある。
このような場合、そのまま上述したオートフォーカス制御を継続するよりも、培地の表面の位置を外して再度、オートフォーカス制御をする方がより最適なフォーカス位置に設定することができる場合がある。
そこで、上記実施形態の細胞培養観察システムにおいて、上述したような浮遊物が存在するフォーカス位置があると判定された場合には、再び、フォーカス位置を原点位置に戻し、上記フォーカス位置を外してオートフォーカス制御を行うようにしてもよい。以下、このようなオートフォーカス制御を行う細胞培養観察システムについて説明する。
具体的には、図7に示すように、上記実施形態の細胞培養観察システムに対してコントラスト情報取得部26をさらに設ける。コントラスト情報取得部26は、細胞画像取得部21によって取得された細胞画像の全体のコントラスト情報を取得するものである。コントラスト情報としては、たとえば細胞画像における最大画素値と最小画素値との差や、微分値の総和などその他の公知な計算によって取得するようにすればよい。
そして、図7に示す細胞培養観察システムにおけるオートフォーカス制御部24は、上述したように死細胞やゴミなどの浮遊物が存在する場合には、その浮遊物が存在する培地の表面の位置を外して再度、オートフォーカス制御をするものである。
具体的には、オートフォーカス制御部24が、各フォーカス位置で撮像された細胞画像について、細胞または構造体の画像情報に基づくオートフォーカス評価値とともに、コントラスト情報取得部26によって取得されたコントラスト情報に基づくオートフォーカス評価値を算出する。
そして、コントラスト情報に基づくオートフォーカス評価値が最大である場合に、細胞または構造体の画像情報に基づくオートフォーカス評価値が最大でないフォーカス位置が存在する場合に、ゴミや死細胞などの浮遊物が存在するフォーカス位置があると判定し、フォーカス位置を原点位置に戻す制御信号を位相差顕微鏡3に出力する。
そして、オートフォーカス制御部24は、再度、オートフォーカス制御をやり直すが、この際、コントラスト情報に基づくオートフォーカス評価値が最大となるフォーカス位置よりも下方の範囲に限定してフォーカス制御を行う。これにより生細胞に対するフォーカス位置を最適化することができる。
次に、図7に示す細胞培養観察システムの作用について、図8に示すフローチャートを参照しながら説明する。
図8に示すS30〜S38の細胞または細胞内の構造体の検出までの作用については、上記実施形態の細胞培養観察システムと同様である。そして、細胞検出部22によって検出された細胞または細胞内の構造体の情報はオートフォーカス制御部24に出力される。
一方、細胞画像取得部21によって取得された細胞画像は、コントラスト情報取得部26にも出力され、コントラスト情報取得部26は、入力された細胞画像全体のコントラスト情報を取得する(S40)。
そして、オートフォーカス制御部24は、上述したように、たとえば核小体の個数をオートフォーカス評価値として取得し、そのオートフォーカス評価値に基づくオートフォーカス制御信号を位相差顕微鏡3に出力してフォーカス位置を移動させるとともに(S42)、その各フォーカス位置で撮像された細胞画像のコントラスト情報を取得する。
オートフォーカス制御部24は、核小体の個数に基づくオートフォーカス評価値が最大となるフォーカス位置を探索するとともに、コントラスト情報に基づくオートフォーカス評価値も算出し、このコントラスト情報に基づくオートフォーカス評価値、各書体の個数に基づくオートフォーカス評価値との比較を順次行う。
そして、オートフォーカス制御部24は、コントラスト情報に基づくオートフォーカス評価値が最大であり、かつ核小体の個数に基づくオートフォーカス評価値が最大でないフォーカス位置が存在するか否かを判定し、このようなフォーカス位置が存在する場合には、
死細胞やゴミなどの浮遊物にフォーカスが合っているフォーカス位置が存在すると判定する(S44,NO)。
オートフォーカス制御部24は、上述したように死細胞やゴミなどの浮遊物にフォーカスが合っているフォーカス位置が存在すると判定された場合には、フォーカス位置を原点位置に戻すように位相差顕微鏡3に対して制御信号を出力する(S46)。
次いで、オートフォーカス制御部24は、死細胞やゴミなどの浮遊物にフォーカスが合っているフォーカス位置をフォーカス探索範囲から除外し、上記フォーカス位置よりも原点位置側の範囲内において再びオートフォーカス制御を行うことによって(S48)、細胞に対して最適化されたフォーカス位置を見つけ出して設定する(S50)。
そして、位相差顕微鏡3は、最適なフォーカス位置に設定された状態で観察用の細胞画像を撮像し、その観察用の細胞画像を細胞撮像制御装置2に出力する。位相差顕微鏡3から出力された観察用の細胞画像は、細胞画像取得部21によって取得され(S52)、表示制御部25に出力される。表示制御部25は、入力された観察用の細胞画像をディスプレイ4に表示させる(S54)。
なお、S24において、コントラスト情報に基づくオートフォーカス評価値が最大であり、かつ核小体の個数に基づくオートフォーカス評価値が最大でないフォーカス位置が存在しないと判定された場合には(YES)、そのまま核小体の個数に基づくオートフォーカス評価値によるオートフォーカス制御が継続され、細胞に対して最適化されたフォーカス位置が見つけ出される(S50)。
図7に示す細胞培養観察システムによれば、細胞または構造体の画像情報に基づくオートフォーカス評価値およびコントラスト情報に基づくオートフォーカス評価値をそれぞれ算出し、コントラスト情報に基づくオートフォーカス評価値が最大となり、かつ細胞または構造体の画像情報に基づくオートフォーカス評価値が最大とならないフォーカス位置が存在する場合には、フォーカス位置をオートフォーカス制御開始時の原点位置に戻す制御信号を撮像装置に出力するようにしたので、死細胞やゴミによってコントラストが高くなっているフォーカス位置を判定することができ、このようなフォーカス位置が存在する場合には、フォーカス位置の探索位置に原点位置に戻すことによって、フォーカス制御を再度やり直すことができる。
そして、この際、上述したコントラスト情報に基づくオートフォーカス評価値が最大となるフォーカス位置よりも原点位置側の範囲内においてオートフォーカス制御を再度やり直すことによって、死細胞やゴミなどの浮遊物の影響を受けることなく、観察対象の細胞にフォーカス位置が合った細胞画像を撮像することができる。
なお、上記実施形態においては、フォーカス位置が原点に戻った際、自動的にオートフォーカス探索範囲を変更するようにしたが、これに限らず、たとえば死細胞やゴミなどの浮遊物が存在する旨を示す警告メッセージなどを表示制御部25がディスプレイ4に表示させ、このメッセージを確認することによってユーザが入力装置5を用いてオートフォーカス探索範囲を変更するようにしてもよい。
1 細胞培養装置
2 細胞撮像制御装置
3 位相差顕微鏡
4 ディスプレイ
5 入力装置
10 ステージ
11 搬送部
12 制御部
15 培養容器
21 細胞画像取得部
22 細胞検出部
23 制御部
24 オートフォーカス制御部
25 表示制御部
26 コントラスト情報取得部
33 対物レンズ
34 位相差レンズ
35 対物レンズ
36 位相板
37 結像レンズ
38 撮像素子

Claims (10)

  1. 非染色の細胞への光の照射による前記細胞の透過光または反射光を撮影した細胞画像を取得して該細胞画像内における前記細胞または該細胞内の構造体を検出する細胞検出部と、
    該細胞検出部によって検出された細胞または構造体の画像に基づいて、前記細胞または前記構造体の個数または面積を取得し、該取得した個数または面積に基づいてオートフォーカス評価値を算出し、前記細胞画像を撮像する撮像装置に対して前記オートフォーカス評価値に基づくオートフォーカス制御信号を出力するオートフォーカス制御部とを備えたことを特徴とする細胞撮像制御装置。
  2. 前記細胞画像のコントラスト情報を取得するコントラスト情報取得部を備え、
    前記オートフォーカス制御部が、前記オートフォーカス制御信号によるオートフォーカス制御によって前記撮像装置により撮像された細胞画像について、前記細胞または構造体の画像に基づくオートフォーカス評価値および前記コントラスト情報に基づくオートフォーカス評価値をそれぞれ算出し、前記コントラスト情報に基づくオートフォーカス評価値が最大となり、かつ前記細胞または構造体の画像に基づくオートフォーカス評価値が最大でないフォーカス位置が存在する場合には、フォーカス位置をオートフォーカス制御開始時の原点位置に戻す制御信号を前記撮像装置に出力するものである請求項1記載の細胞撮像制御装置。
  3. 前記オートフォーカス制御部が、前記フォーカス位置を前記原点位置に戻した後、前記コントラスト情報に基づくオートフォーカス評価値が最大となるフォーカス位置よりも前記原点位置側の範囲内において前記オートフォーカス制御を行うものである請求項2記載の細胞撮像制御装置。
  4. 前記原点位置が、前記細胞が培養される容器の底面の位置または前記細胞が設置された設置面の位置である請求項2または3記載の細胞撮像制御装置。
  5. 前記オートフォーカス制御部が、フォーカス位置の移動可能範囲を変更するものである請求項1から4いずれか1項記載の細胞撮像制御装置。
  6. 前記オートフォーカス制御部が、前記細胞または前記構造体の大きさに関する情報に基づいて、前記フォーカス位置の移動可能範囲を変更するものである請求項5記載の細胞撮像制御装置。
  7. 前記構造体が、前記細胞の核小体または核である請求項1から6いずれか1項記載の細胞撮像制御装置。
  8. 前記細胞が、幹細胞、薬効検査の際に採取された細胞または生検の際に採取された細胞である請求項1から7いずれか1項記載の細胞観察装置。
  9. 非染色の細胞への光の照射による前記細胞の透過光または反射光を撮影した細胞画像を取得して該細胞画像内における前記細胞または該細胞内の構造体を検出し、
    該検出した細胞または構造体の画像に基づいて、前記細胞または前記構造体の個数または面積を取得し、該取得した個数または面積に基づいてオートフォーカス評価値を算出し、
    前記細胞画像を撮像する撮像装置に対して前記オートフォーカス評価値に基づくオートフォーカス制御信号を出力することを特徴とする細胞撮像制御方法。
  10. コンピュータを、非染色の細胞への光の照射による前記細胞の透過光または反射光を撮影した細胞画像を取得して該細胞画像内における前記細胞または該細胞内の構造体を検出する細胞検出部と、
    該細胞検出部によって検出された細胞または構造体の画像に基づいて、前記細胞または前記構造体の個数または面積を取得し、該取得した個数または面積に基づいてオートフォーカス評価値を算出し、前記細胞画像を撮像する撮像装置に対して前記オートフォーカス評価値に基づくオートフォーカス制御信号を出力するオートフォーカス制御部として機能させることを特徴とする細胞撮像制御プログラム。
JP2014071378A 2014-03-31 2014-03-31 細胞撮像制御装置および方法並びにプログラム Expired - Fee Related JP6219214B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014071378A JP6219214B2 (ja) 2014-03-31 2014-03-31 細胞撮像制御装置および方法並びにプログラム
PCT/JP2015/054412 WO2015151616A1 (ja) 2014-03-31 2015-02-18 細胞撮像制御装置および方法並びにプログラム
US15/271,634 US10330907B2 (en) 2014-03-31 2016-09-21 Cell imaging control device, method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014071378A JP6219214B2 (ja) 2014-03-31 2014-03-31 細胞撮像制御装置および方法並びにプログラム

Publications (2)

Publication Number Publication Date
JP2015194544A JP2015194544A (ja) 2015-11-05
JP6219214B2 true JP6219214B2 (ja) 2017-10-25

Family

ID=54239954

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014071378A Expired - Fee Related JP6219214B2 (ja) 2014-03-31 2014-03-31 細胞撮像制御装置および方法並びにプログラム

Country Status (3)

Country Link
US (1) US10330907B2 (ja)
JP (1) JP6219214B2 (ja)
WO (1) WO2015151616A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6889723B2 (ja) * 2015-12-23 2021-06-18 上海吉倍生物技術有限公司Shanghai GenBase Biotechnology Co., Ltd. 細胞培養装置
CN107205113B (zh) * 2016-03-18 2020-10-16 松下知识产权经营株式会社 图像生成装置、图像生成方法及计算机可读存储介质
JP2017225354A (ja) * 2016-06-20 2017-12-28 東洋製罐グループホールディングス株式会社 培養細胞の撮像方法及び装置
JPWO2018003340A1 (ja) * 2016-07-01 2019-04-25 ソニー株式会社 画像取得方法、画像取得装置、プログラム及び培養容器
JP6704049B2 (ja) 2016-07-11 2020-06-03 オリンパス株式会社 観察装置および標本観察方法
JP6667419B2 (ja) * 2016-11-09 2020-03-18 富士フイルム株式会社 撮像装置および方法並びに撮像制御プログラム
DE102017111718A1 (de) * 2017-05-30 2018-12-06 Carl Zeiss Microscopy Gmbh Verfahren zur Erzeugung und Analyse eines Übersichtskontrastbildes
JP2019070751A (ja) 2017-10-10 2019-05-09 オリンパス株式会社 観察装置および焦点調節方法
US20210200986A1 (en) * 2018-05-25 2021-07-01 Sony Corporation Control device, control method, and program

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06138119A (ja) 1992-04-08 1994-05-20 Kagaku Gijutsucho Hoshasen Igaku Sogo Kenkyusho 細胞自動分類・分析装置
JPH10502466A (ja) 1994-07-01 1998-03-03 ジェフレイ エイチ. プライス, スキャニングマイクロスコピー用オートフォーカスシステム
JPH09189850A (ja) * 1996-01-09 1997-07-22 Olympus Optical Co Ltd オートフォーカス顕微鏡
JP4797522B2 (ja) 2005-09-08 2011-10-19 カシオ計算機株式会社 撮像装置及びそのプログラム
JP5040191B2 (ja) 2006-06-29 2012-10-03 富士通株式会社 マイクロインジェクション装置及び自動焦点調整方法
JP4664871B2 (ja) * 2006-07-10 2011-04-06 オリンパス株式会社 自動焦点検出装置
JP4663602B2 (ja) 2006-08-14 2011-04-06 オリンパス株式会社 自動合焦装置、顕微鏡および自動合焦方法
JP2008116526A (ja) 2006-11-01 2008-05-22 Matsushita Electric Ind Co Ltd 顕微鏡画像の処理装置及び処理方法
US8016090B2 (en) * 2008-07-25 2011-09-13 Target Brands, Inc. Collapsible container
JP5430188B2 (ja) 2009-03-16 2014-02-26 オリンパス株式会社 細胞画像解析装置及び細胞の画像を撮像する方法
US8385624B2 (en) * 2009-05-13 2013-02-26 David J. Charlot Automated transient image cytometry
EP2562245B1 (en) * 2010-04-23 2016-09-28 Hamamatsu Photonics K.K. Cell observation device and cell observation method
JP5648366B2 (ja) * 2010-08-18 2015-01-07 ソニー株式会社 顕微鏡制御装置及び領域判定方法
JP5780865B2 (ja) 2011-07-14 2015-09-16 キヤノン株式会社 画像処理装置、撮像システム、画像処理システム
US9025881B2 (en) * 2012-02-06 2015-05-05 Nanyang Technological University Methods and apparatus for recovering phase and amplitude from intensity images
KR20140010553A (ko) * 2012-07-13 2014-01-27 삼성전자주식회사 픽셀 어레이, 이를 포함하는 이미지 센서, 및 상기 이미지 센서의 로컬 다크 전류 보상 방법
TW201514599A (zh) * 2013-10-07 2015-04-16 Novatek Microelectronics Corp 影像感測器及影像擷取系統

Also Published As

Publication number Publication date
US10330907B2 (en) 2019-06-25
JP2015194544A (ja) 2015-11-05
US20170010455A1 (en) 2017-01-12
WO2015151616A1 (ja) 2015-10-08

Similar Documents

Publication Publication Date Title
JP6219214B2 (ja) 細胞撮像制御装置および方法並びにプログラム
JP6595156B2 (ja) 細胞画像取得装置および方法並びにプログラム
JP6461128B2 (ja) 細胞評価装置および方法並びにプログラム
JP6301199B2 (ja) 細胞評価装置および方法並びにプログラム
JP6173950B2 (ja) 細胞撮像制御装置および方法並びにプログラム
JP4663602B2 (ja) 自動合焦装置、顕微鏡および自動合焦方法
JP6143365B2 (ja) 細胞画像評価装置および方法並びにプログラム
JP2018000102A (ja) 撮影装置および方法並びに撮影制御プログラム
JP2017151368A (ja) 顕微鏡および観察方法
KR102149625B1 (ko) 촬영 화상 평가 장치 및 방법과, 프로그램
JP6667419B2 (ja) 撮像装置および方法並びに撮像制御プログラム
JP6619315B2 (ja) 観察装置および方法並びに観察装置制御プログラム
JP6499506B2 (ja) 撮像装置および方法並びに撮像制御プログラム
JP6704530B2 (ja) 撮影制御装置、方法およびプログラム
JP6785947B2 (ja) 細胞画像評価装置および方法並びにプログラム
WO2018061635A1 (ja) 観察装置および方法並びに観察装置制御プログラム
WO2019225325A1 (ja) 観察装置、観察装置の作動方法、及び観察制御プログラム
KR20180104041A (ko) 세포 관찰 장치 및 방법
JP6534294B2 (ja) 撮像装置および方法並びに撮像制御プログラム
JP2018157830A (ja) 細胞画像取得装置および方法並びにプログラム
JP2016208856A (ja) 撮像装置および方法並びに撮像制御プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160309

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170404

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20170523

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170605

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170905

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170927

R150 Certificate of patent or registration of utility model

Ref document number: 6219214

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees