JP2015031831A - 細胞追跡装置及び方法、細胞追跡プログラム - Google Patents
細胞追跡装置及び方法、細胞追跡プログラム Download PDFInfo
- Publication number
- JP2015031831A JP2015031831A JP2013161531A JP2013161531A JP2015031831A JP 2015031831 A JP2015031831 A JP 2015031831A JP 2013161531 A JP2013161531 A JP 2013161531A JP 2013161531 A JP2013161531 A JP 2013161531A JP 2015031831 A JP2015031831 A JP 2015031831A
- Authority
- JP
- Japan
- Prior art keywords
- tracking
- cell
- image
- imaging
- time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 130
- 238000003384 imaging method Methods 0.000 claims abstract description 171
- 230000015572 biosynthetic process Effects 0.000 claims description 6
- 238000003786 synthesis reaction Methods 0.000 claims description 6
- 230000002194 synthesizing effect Effects 0.000 claims description 3
- 238000006073 displacement reaction Methods 0.000 abstract description 17
- 230000008569 process Effects 0.000 description 30
- 239000012472 biological sample Substances 0.000 description 22
- 238000004020 luminiscence type Methods 0.000 description 17
- 239000000523 sample Substances 0.000 description 17
- 230000003287 optical effect Effects 0.000 description 16
- 238000012545 processing Methods 0.000 description 9
- 108060001084 Luciferase Proteins 0.000 description 7
- 108090000623 proteins and genes Proteins 0.000 description 7
- 238000001514 detection method Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 230000005284 excitation Effects 0.000 description 5
- 238000005259 measurement Methods 0.000 description 5
- 239000000126 substance Substances 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 238000011158 quantitative evaluation Methods 0.000 description 4
- 230000004071 biological effect Effects 0.000 description 3
- 239000000470 constituent Substances 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 238000003556 assay Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 239000003814 drug Substances 0.000 description 2
- 238000002073 fluorescence micrograph Methods 0.000 description 2
- 238000000799 fluorescence microscopy Methods 0.000 description 2
- 239000005090 green fluorescent protein Substances 0.000 description 2
- 125000001475 halogen functional group Chemical group 0.000 description 2
- 244000005700 microbiome Species 0.000 description 2
- 102000004169 proteins and genes Human genes 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 108010043121 Green Fluorescent Proteins Proteins 0.000 description 1
- 102000004144 Green Fluorescent Proteins Human genes 0.000 description 1
- 239000005089 Luciferase Substances 0.000 description 1
- 108010047357 Luminescent Proteins Proteins 0.000 description 1
- 102000006830 Luminescent Proteins Human genes 0.000 description 1
- 108700008625 Reporter Genes Proteins 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000004520 electroporation Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000005562 fading Methods 0.000 description 1
- 229910052736 halogen Inorganic materials 0.000 description 1
- 150000002367 halogens Chemical class 0.000 description 1
- QSHDDOUJBYECFT-UHFFFAOYSA-N mercury Chemical compound [Hg] QSHDDOUJBYECFT-UHFFFAOYSA-N 0.000 description 1
- 229910052753 mercury Inorganic materials 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G01N15/1433—
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
- G01N33/48—Biological material, e.g. blood, urine; Haemocytometers
- G01N33/483—Physical analysis of biological material
- G01N33/4833—Physical analysis of biological material of solid biological material, e.g. tissue samples, cell cultures
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/002—Scanning microscopes
- G02B21/0024—Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
- G02B21/0052—Optical details of the image generation
- G02B21/0056—Optical details of the image generation based on optical coherence, e.g. phase-contrast arrangements, interference arrangements
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
- G06T7/248—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/71—Circuitry for evaluating the brightness variation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/16—Microscopes adapted for ultraviolet illumination ; Fluorescence microscopes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10064—Fluorescence image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20016—Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20092—Interactive image processing based on input by user
- G06T2207/20101—Interactive definition of point of interest, landmark or seed
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20152—Watershed segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20161—Level set
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
Abstract
【課題】短時間露光撮像と長時間露光撮像とにより取得された細胞画像群に基づいて細胞等の生体試料の位置変位を高精度に計測し、生体試料を正確に追跡することができる細胞追跡装置を提供する。【解決手段】複数の時点でそれぞれ短時間露光条件に従って細胞を撮像して複数の短時間露光画像を取得する第1の撮像手段401と、複数の時点間の各期間内で、それぞれ細胞を長時間露光条件に従って撮像して長時間露光画像を取得する第2の撮像手段402と、短時間露光画像に基づいて細胞の追跡を行う第1の追跡手段403と、長時間露光画像に基づいて細胞の追跡を行う第2の追跡手段404と、第2の追跡手段による追跡結果に対して第1の追跡手段による追跡結果を補間する補間手段405とを具備する。【選択図】図1
Description
本発明は、顕微鏡を用いて収集された細胞画像群に基づいて細胞等の生体試料を追跡し、当該生体試料の位置変位を計測する為の細胞追跡装置及び方法、細胞追跡プログラムに関する。
生物学分野や医学分野の研究では、例えば、生きた細胞等の生体試料の生物学的活性を表す蛍光、発光強度を観測し、生体試料と調べたい生体関連物質とを画像化して、生体試料内外における発現量や形状特徴の変化を経時的に観察することが行われている。また、この観察では、時間経過に沿って発光遺伝子の発現量を捉えるために、個々の生きた細胞からの発光量を経時的に測定している。この発光量の経時的な測定では、細胞等の生体試料内のタンパク質分子の動的な機能発現を捉えるためにタイムラプス(微速度)撮像が行われている。このタイムラプス撮像により時系列の複数のタイムラプス画像列が得られる。
この発光量の経時的な測定の際には、タイムラプス画像列の一枚一枚から細胞等の生体試料の位置を目視で確認し、これら位置上の輝度値、またはこれら位置を中心とした所定領域内の平均輝度等を細胞の発光量としてプロットすることが一般的に行われている。ところが、目視を用いた測定は、非常に煩雑な作業であるので、画像認識技術を応用した細胞位置を正確に追い続けることのできる細胞追跡処理による作業の自動化が望まれている。
このようなことから細胞等の生体試料の変位計測を行う技術として例えば特許文献1がある。この特許文献1は、検出用の撮像と観察用の撮像とを一つの撮像装置で行うことが可能な生体観察装置に関し、試料に近接配置される対物レンズと、この対物レンズを介して試料を撮像する撮像装置と、試料の変位を補正する方向に対物レンズを駆動する対物レンズ駆動装置と、試料の観察用画像と試料の変位とを検出するための検出用画像を取得するように撮像装置の制御を行う制御装置とを備え、観察用画像を長時間露光撮像により取得し、検出用画像を短時間露光撮像により取得することについて開示する。ここで試料の変位検出のために短時間露光撮像による被写体ぶれの少ない画像を用いている。
上記特許文献1は、観察用画像を取得するための長時間露光撮像と、変位検出用画像を取得するための短時間露光撮像とを分け、被写体ぶれの少ない短時間露光撮像により取得される変位検出用画像だけを用いて試料の変位を計測できることが前提として考えられる。
しかしながら、短時間露光撮像は、ぶれの抑制とS/N低下との間でトレードオフの関係があり、ぶれが抑制されるもののノイズ量が増大するという課題が存在する。ノイズの多い画像からは、必ずしも安定して試料の変位を計測できるとは限らない。
一方、細胞等の生体試料の追跡では、空間分解能が低いが定量的な評価に利用できる安定した画像を経時的に撮ることができる発光画像に基づいて追跡を行う要求があり、この発光画像に基づく追跡は、長時間露光条件に設定して行われる。
一方、細胞等の生体試料の追跡では、空間分解能が低いが定量的な評価に利用できる安定した画像を経時的に撮ることができる発光画像に基づいて追跡を行う要求があり、この発光画像に基づく追跡は、長時間露光条件に設定して行われる。
従って、細胞等の生体試料の変位計測を出来るだけ高精度に行うためには、被写体ぶれの少ない短時間露光撮像により取得した画像と、ぶれを含むもののノイズが抑制された長時間露光撮像により取得した画像との両方を用いて試料の変位を求めることが効率的であると考えられる。
本発明の目的は、前記事情に鑑みて為されたもので、短時間露光撮像と長時間露光撮像とにより取得された細胞画像群に基づいて細胞等の生体試料の位置変位を高精度に計測し、当該生体試料を正確に追跡できる細胞追跡装置及び方法、細胞追跡プログラムを提供することにある。
本発明の目的は、前記事情に鑑みて為されたもので、短時間露光撮像と長時間露光撮像とにより取得された細胞画像群に基づいて細胞等の生体試料の位置変位を高精度に計測し、当該生体試料を正確に追跡できる細胞追跡装置及び方法、細胞追跡プログラムを提供することにある。
本発明の主要な局面に係る細胞追跡装置は、複数の時点でそれぞれ短時間露光条件に従って細胞を撮像して複数の短時間露光画像を取得する第1の撮像手段と、前記複数の時点間の各期間内で、それぞれ前記細胞を長時間露光条件に従って撮像して長時間露光画像を取得する第2の撮像手段と、前記短時間露光画像に基づいて前記細胞の追跡を行う第1の追跡手段と、前記長時間露光画像に基づいて前記細胞の追跡を行う第2の追跡手段と、前記第2の追跡手段による追跡結果に対して前記第1の追跡手段による追跡結果を補間する補間手段とを具備する。
本発明の主要な局面に係る細胞追跡方法は、複数の時点でそれぞれ短時間露光条件に従って細胞を撮像して複数の短時間露光画像を取得し、前記複数の時点間の各期間内で、それぞれ前記細胞を長時間露光条件に従って撮像して長時間露光画像を取得し、前記短時間露光画像に基づいて前記細胞の追跡を行い、前記長時間露光画像に基づいて前記細胞の追跡を行い、前記長時間露光画像に基づく追跡の結果に対して前記短時間露光画像に基づく追跡の結果を補間する。
本発明の主要な局面に係る細胞追跡プログラムは、コンピュータに、複数の時点でそれぞれ短時間露光条件に従って細胞を撮像して複数の短時間露光画像を取得させ第1の撮像機能と、前記複数の時点間の各期間内で、それぞれ前記細胞を長時間露光条件に従って撮像して長時間露光画像を取得させ第2の撮像機能と、前記短時間露光画像に基づいて前記細胞の追跡を行わさせる第1の追跡機能と、前記長時間露光画像に基づいて前記細胞の追跡を行わさせる第2の追跡機能と、前記第2の追跡手段による追跡結果に対して前記第1の追跡手段による追跡結果を補間させる補間機能とを実現させる。
本発明によれば、短時間露光撮像と長時間露光撮像とにより取得された細胞画像群に基づいて細胞等の生体試料の位置変位を高精度に計測し、当該生体試料を正確に追跡できる細胞追跡装置及び方法、細胞追跡プログラムを提供できる。
[第1の実施の形態]
以下、第1の実施の形態に係る細胞追跡装置について図面を参照して説明する。図1は細胞追跡装置(以下、本装置400と称する)のブロック構成図を示す。本装置400は、複数の時点でそれぞれ短時間露光条件に従って細胞を撮像して複数の短時間露光画像を取得する第1の撮像手段401と、複数の時点間の各期間内で、それぞれ細胞を長時間露光条件に従って撮像して長時間露光画像を取得する第2の撮像手段402と、第1の撮像手段401により取得された短時間露光画像に基づいて細胞の追跡を行う第1の追跡手段403と、第2の撮像手段402により取得された長時間露光画像に基づいて細胞の追跡を行う第2の追跡手段404と、第2の追跡手段404による追跡結果に対して第1の追跡手段403による追跡結果を補間する補間手段405とから成る。なお、短時間露光条件は、細胞の変位を検出するための画像を取得する条件であり、長時間露光条件は、細胞の観察用画像を取得するための条件である。
以下、第1の実施の形態に係る細胞追跡装置について図面を参照して説明する。図1は細胞追跡装置(以下、本装置400と称する)のブロック構成図を示す。本装置400は、複数の時点でそれぞれ短時間露光条件に従って細胞を撮像して複数の短時間露光画像を取得する第1の撮像手段401と、複数の時点間の各期間内で、それぞれ細胞を長時間露光条件に従って撮像して長時間露光画像を取得する第2の撮像手段402と、第1の撮像手段401により取得された短時間露光画像に基づいて細胞の追跡を行う第1の追跡手段403と、第2の撮像手段402により取得された長時間露光画像に基づいて細胞の追跡を行う第2の追跡手段404と、第2の追跡手段404による追跡結果に対して第1の追跡手段403による追跡結果を補間する補間手段405とから成る。なお、短時間露光条件は、細胞の変位を検出するための画像を取得する条件であり、長時間露光条件は、細胞の観察用画像を取得するための条件である。
本装置400は、第1の撮像手段401により複数の時点でそれぞれ短時間露光条件に従って細胞を撮像して複数の短時間露光画像を取得し、第2の撮像手段402により複数の時点間の各期間内で、それぞれ細胞を長時間露光条件に従って撮像して長時間露光画像を取得し、第1の追跡手段403により短時間露光画像に基づいて細胞の追跡を行い、第2の追跡手段404により長時間露光画像に基づいて細胞の追跡を行い、第2の追跡手段404による追跡結果に対して第1の追跡手段403による追跡結果を補間する。
第1の撮像手段401と第2の撮像手段402とは、互いに異なる顕微法、例えば発光顕微鏡又は位相差顕微鏡による観察手法によって細胞を撮像する。この第1の撮像手段401は、例えば位相差顕微鏡又は微分干渉顕微鏡を含む。これにより、第1の撮像手段401は、例えば位相差顕微鏡によって短時間露光画像として位相差画像を取得する。第2の撮像手段402は、例えば発光顕微鏡又は蛍光顕微鏡を含む。これにより、第2の撮像手段402は、例えば発光顕微鏡によって長時間露光画像として発光画像を取得する。
補間手段405は、第2の撮像手段402により取得した長時間露光画像中の追跡対象の輝度値が所定の閾値以上であれば、第2の追跡手段404による細胞の追跡を行い、追跡対象の輝度値が所定の閾値以下であれば、第1の追跡手段403による細胞の追跡に切り替える。
具体的に補間手段405は、長時間露光画像中の追跡対象周辺の輝度の平均値と所定の閾値とを比較し、輝度の平均値が所定の閾値以上であれば、第2の追跡手段404による細胞の追跡を行い、輝度値の平均値が所定の閾値以下であれば、第1の追跡手段403による細胞の追跡に切り替える。
具体的に補間手段405は、長時間露光画像中の追跡対象周辺の輝度の平均値と所定の閾値とを比較し、輝度の平均値が所定の閾値以上であれば、第2の追跡手段404による細胞の追跡を行い、輝度値の平均値が所定の閾値以下であれば、第1の追跡手段403による細胞の追跡に切り替える。
図2は本装置400の具体的な構成の一例を示す。本装置400は、撮像部10と、露光時間切替部20と、観察手法切替部30と、第1テンプレート設定部200と、第2テンプレート設定部210と、第1の追跡部220と、第2の追跡部230と、初期位置設定部240と、細胞位置記録部250と、輝度値算出部260と、補間部270と、記録部280と、制御部80との各部を備える。
撮像部10は、ステージ130上に載置されている細胞を複数の時点においてタイムラプス(微速度撮像)によって撮像する。この撮像部10は、上記図1に示す第1の撮像手段401と、第2の撮像手段402とを含む。この撮像部10は、例えば、複数の顕微方式を任意のタイミングで切り替えてそれぞれの顕微方式による画像を得る。例えば、この撮像部10は、短時間露光画像としての位相差画像を取得するための位相差顕微鏡方式、又は長時間露光画像としての発光画像を取得するための発光顕微鏡方式に切り替えられる。これにより、撮像部10は、細胞を撮像し、位相差顕微鏡方式に切り替えられることにより当該細胞の位相差画像を取得し、発光顕微鏡方式に切り替えられることにより当該細胞の発光画像を取得する。
この撮像部10は、光軸180上に、光源装置100と、コンデンサレンズ120と、ステージ130と、対物レンズ140と、結像用レンズ160と、撮像素子170とを順に配置して成る。
リング絞り110及び位相板リング150は、位相差顕微鏡方式に切り替えられたときの撮像によって位相差画像を取得する場合に必要な器材である。これらリング絞り110及び位相板リング150は、後述する観察手法切替部30に接続され、当該観察手法切替部30によって位相差顕微鏡方式のときに光軸180上に配置される。なお、これらリング絞り110及び位相板リング150は、短時間露光画像としての位相差画像を取得しない場合、光軸180上に配置されるものでないので、必ずしも必須の構成要件でない。
リング絞り110及び位相板リング150は、位相差顕微鏡方式に切り替えられたときの撮像によって位相差画像を取得する場合に必要な器材である。これらリング絞り110及び位相板リング150は、後述する観察手法切替部30に接続され、当該観察手法切替部30によって位相差顕微鏡方式のときに光軸180上に配置される。なお、これらリング絞り110及び位相板リング150は、短時間露光画像としての位相差画像を取得しない場合、光軸180上に配置されるものでないので、必ずしも必須の構成要件でない。
撮像素子170は、撮像面上に結像したステージ130上の細胞の拡大像を電気的信号に変換する。この場合、撮像素子170は、撮像部10が位相差顕微鏡方式であれば、短時間露光画像として、又、撮像部10が発光顕微鏡方式であれば、長時間露光画像として撮像される。この撮像素子170は、A/Dコンバータを内蔵し、細胞の拡大像の電気的信号をデジタルに変換し、そのデジタル画像信号を出力する。
撮像部10には、当該撮像部10を位相差顕微鏡方式又は発光顕微鏡方式のいずれかに切り替える切替手段としての露光時間切替部20と観察手法切替部30とが設けられている。なお、撮像部10は、微分干渉顕微鏡方式又は蛍光顕微鏡方式のいずれかに切り替えるようにしてもよい。
観察手法切替部30は、撮像部10を、短時間露光画像としての位相差画像を取得するための位相差顕微鏡方式、又は長時間露光画像としての発光画像を取得するための発光顕微鏡方式に切り替える。この観察手法切替部30は、リング絞り110及び位相板リング150に対して光軸180上に挿脱する指令を発するもので、位相差顕微鏡方式による撮像により細胞の位相差画像を取得するときのみに、リング絞り110及び位相板リング150を同時に光軸180上に挿入する指令を発する。
又、観察手法切替部30は、発光顕微鏡方式による撮像によって細胞の発光画像を取得する際に、リング絞り110及び位相板リング150に対して光軸180上から取り外す指令を発する。
又、観察手法切替部30は、発光顕微鏡方式による撮像によって細胞の発光画像を取得する際に、リング絞り110及び位相板リング150に対して光軸180上から取り外す指令を発する。
露光時間切替部20は、短時間露光顕微鏡方式による撮像のときに、撮像素子170に対して露光時間を短時間露光条件に設定する指示を発する。短時間露光条件は、例えば数秒以内の露光時間Pt、例えば露光時間Pt=1.0secである。
又、露光時間切替部20は、長時間露光顕微鏡方式による撮像のときに、撮像素子170に対して露光時間を長時間露光条件に設定する指示を発する。長時間露光条件は、例えば数十分の露光時間Lt、例えば露光時間Lt=3600secである。
又、露光時間切替部20は、長時間露光顕微鏡方式による撮像のときに、撮像素子170に対して露光時間を長時間露光条件に設定する指示を発する。長時間露光条件は、例えば数十分の露光時間Lt、例えば露光時間Lt=3600secである。
撮像素子170は、第1の追跡手段403を構成する第1の追跡部220と、第2の追跡手段404を構成する第2の追跡部230とに接続されている。なお、第1の追跡手段403は、第1の追跡部220と第1テンプレート設定部200とを含む。第2の追跡手段404は、第2の追跡部230と第2テンプレート設定部210とを含む。
第1テンプレート設定部200には、第1の追跡部220により短時間露光画像としての位相差画像を用いて細胞の追跡を行うための第1テンプレート画像が予め記録されている。
第2テンプレート設定部210には、第2の追跡部230により長時間露光画像としての発光画像を用いて細胞の追跡を行うための第2テンプレート画像が予め記録されている。
第1テンプレート設定部200には、第1の追跡部220により短時間露光画像としての位相差画像を用いて細胞の追跡を行うための第1テンプレート画像が予め記録されている。
第2テンプレート設定部210には、第2の追跡部230により長時間露光画像としての発光画像を用いて細胞の追跡を行うための第2テンプレート画像が予め記録されている。
第1の追跡部220は、第1テンプレート設定部200との間で相互にデータ通信可能に接続されている。この第1の追跡部220は、第1テンプレート設定部200に記録されている第1テンプレート画像を用いたテンプレートマッチング手法により短時間露光画像としての位相差画像上での細胞の追跡を行う。
第2の追跡部230は、第2テンプレート設定部210との間で相互にデータ通信可能に接続されている。この第2の追跡部230は、第2テンプレート設定部210に記録されている第2テンプレート画像を用いたテンプレートマッチング手法により長時間露光画像としての発光画像上での細胞の追跡を行う。
なお、第1の追跡部220と第2の追跡部230とは、それぞれテンプレートマッチングを用いた場合について説明したが、細胞の追跡は、テンプレートマッチングに限らず、例えば、パーティクルフィルタを用いた追跡手法や、ミーンシフト法を用いた追跡手法を用いても良い。
なお、第1の追跡部220と第2の追跡部230とは、それぞれテンプレートマッチングを用いた場合について説明したが、細胞の追跡は、テンプレートマッチングに限らず、例えば、パーティクルフィルタを用いた追跡手法や、ミーンシフト法を用いた追跡手法を用いても良い。
これら第1の追跡部220と第2の追跡部230とは、それぞれ上記補間手段405としての補間部270と接続されている。又、第2テンプレート設定部210は、輝度値算出部260を介して補間部270に接続されている。この補間部270は、細胞位置記録部250に接続されている。又、補間部270と初期位置設定部240とは、それぞれ細胞位置記録部250に接続されている。この細胞位置記録部250は、第1テンプレート設定部200と、第2テンプレート設定部210と、記録部280とにそれぞれ接続されている。
輝度値算出部260は、第2テンプレート設定部210の記録されている第2テンプレート画像を取得し、この第2テンプレート画像内に含まれる全画素について輝度の平均値を算出する。なお、ここでは、輝度値算出部260によって算出した輝度の平均値Lum(n-1)を用いているが、これに代わって、輝度値の変動量や、輝度値の標準偏差や輝度勾配、エッジ量を用いても良い。
初期位置設定部240は、ユーザによって撮像画像中における追跡対象となる細胞の初期位置座標が指定されると、この初期位置座標を細胞位置記録部250に転送する。
初期位置設定部240は、ユーザによって撮像画像中における追跡対象となる細胞の初期位置座標が指定されると、この初期位置座標を細胞位置記録部250に転送する。
この細胞位置記録部250は、初期位置設定部240から転送された初期位置座標を受け、この初期位置座標を例えば1フレーム目における細胞位置として記録部280に記録し、この細胞位置を第1テンプレート設定部200と第2テンプレート設定部210とにそれぞれ転送する。
補間部270は、第2の追跡部230による追跡結果に対して第1の追跡部220による追跡結果を補間するもので、例えば上記細胞位置記録部250と共に補間手段405を構成する。すなわち、補間部270は、撮像部10により取得した長時間露光画像中の輝度値が所定の閾値以上であれば、細胞位置記録部250の細胞位置を第2の追跡部230に転送することによって細胞を追跡させ、一方、輝度値が所定の閾値以下であれば、細胞位置記録部250の細胞位置を第1の追跡部220に転送することによって当該第1の追跡部220による細胞の追跡に切り替えさせる。
制御部80は、本装置400の上記各部に接続され、それら各部を統括的に制御するシステムコントローラである。この制御部80は、後述する図2に示す細胞追跡処理フローチャートのプログラムを実行する。
次に、本装置400における追跡処理を行うための詳細な構成について説明する。
ステージ130上には、観察対象の細胞が所定の容器に入れて載せられている。この細胞は、例えば発光試料であり、ここでは具体的にルシフェラーゼ遺伝子を導入した発光細胞を用いている。
撮像部10には、光源装置100が設けられている。この光源装置100は、位相差顕微鏡方式による位相差画像を取得する際に、細胞に照明光を照射する。なお、この光源装置100は、撮像部10によって位相差画像、微分干渉画像、発光画像又は蛍光画像を取得する検鏡法に適用するものが用いられる。この光源装置100は、例えば、水銀ランプ、ハロゲンランプ、又はキセノンランプ等が用いられる。
ステージ130上には、観察対象の細胞が所定の容器に入れて載せられている。この細胞は、例えば発光試料であり、ここでは具体的にルシフェラーゼ遺伝子を導入した発光細胞を用いている。
撮像部10には、光源装置100が設けられている。この光源装置100は、位相差顕微鏡方式による位相差画像を取得する際に、細胞に照明光を照射する。なお、この光源装置100は、撮像部10によって位相差画像、微分干渉画像、発光画像又は蛍光画像を取得する検鏡法に適用するものが用いられる。この光源装置100は、例えば、水銀ランプ、ハロゲンランプ、又はキセノンランプ等が用いられる。
コンデンサレンズ120は、光源装置100から出力された照明光を集光・調整する。
対物レンズ140及び結像用レンズ160は、細胞の像を拡大し、この拡大像を撮像素子170の撮像面上に結像する。
リング絞り110及び位相板リング150は、位相差顕微鏡方式による位相差画像の取得時に、撮像部10の光軸180上に配置され、光源装置100から出力された照明光の位相をずらし、位相差を作り出す。
撮像素子170は、撮像面上に結像した細胞の拡大像を電気的信号に変換する。この撮像素子170は、A/Dコンバータを内蔵し、細胞の拡大像の電気的信号をデジタルに変換し、そのデジタル画像信号を出力する。
対物レンズ140及び結像用レンズ160は、細胞の像を拡大し、この拡大像を撮像素子170の撮像面上に結像する。
リング絞り110及び位相板リング150は、位相差顕微鏡方式による位相差画像の取得時に、撮像部10の光軸180上に配置され、光源装置100から出力された照明光の位相をずらし、位相差を作り出す。
撮像素子170は、撮像面上に結像した細胞の拡大像を電気的信号に変換する。この撮像素子170は、A/Dコンバータを内蔵し、細胞の拡大像の電気的信号をデジタルに変換し、そのデジタル画像信号を出力する。
露光時間切替部20は、短時間露光顕微鏡方式による撮像のときに、撮像素子170に対して露光時間を短時間露光条件(数秒以内の露光時間Pt、例えば露光時間Pt=1.0sec)に設定する指示を発する。
又、露光時間切替部20は、長時間露光顕微鏡方式による撮像のときに、撮像素子170に対して露光時間を長時間露光条件(数十分の露光時間Lt、例えば露光時間Lt=3600sec)に設定する指示を発する。
又、露光時間切替部20は、長時間露光顕微鏡方式による撮像のときに、撮像素子170に対して露光時間を長時間露光条件(数十分の露光時間Lt、例えば露光時間Lt=3600sec)に設定する指示を発する。
観察手法切替部30は、リング絞り110及び位相板リング150に対して光軸180上に挿脱する指令を発するもので、位相差顕微鏡方式による撮像により細胞の位相差画像を取得するときのみに、リング絞り110及び位相板リング150を同時に光軸180上に挿入する指令を発する。
又、観察手法切替部30は、発光顕微鏡方式による撮像によって細胞の発光画像を取得する際に、リング絞り110及び位相板リング150に対して光軸180上から取り外す指令を発する。
又、観察手法切替部30は、発光顕微鏡方式による撮像によって細胞の発光画像を取得する際に、リング絞り110及び位相板リング150に対して光軸180上から取り外す指令を発する。
本装置400は、撮像部10の撮像により時系列で複数の細胞画像を取得して収集することにより、複数の細胞画像から成る細胞画像群を得る。この細胞画像群は、所定の撮像周期毎に複数の時点においてそれぞれ観察対象の細胞を撮像し、これら撮像により取得して収集した複数の細胞画像から成る。
この撮像部10の撮像は、観察手法切替部30と露光時間切替部20とからの各指示により、1回の撮像毎にそれぞれ露光条件(短時間露光・長時間露光)と顕微鏡方式(例えば、位相差顕微鏡方式・発光顕微鏡方式)とに切り替えられて行われる。すなわち、撮像部10は、上記の通り、観察手法切替部30と露光時間切替部20とからの各指示により、複数の時点でそれぞれ短時間露光条件に従って細胞を撮像して複数の短時間露光画像を取得する第1の撮像手段401と、複数の時点間の各期間内で、それぞれ細胞を長時間露光条件に従って撮像して長時間露光画像を取得する第2の撮像手段402とを含む。
この撮像部10の撮像は、観察手法切替部30と露光時間切替部20とからの各指示により、1回の撮像毎にそれぞれ露光条件(短時間露光・長時間露光)と顕微鏡方式(例えば、位相差顕微鏡方式・発光顕微鏡方式)とに切り替えられて行われる。すなわち、撮像部10は、上記の通り、観察手法切替部30と露光時間切替部20とからの各指示により、複数の時点でそれぞれ短時間露光条件に従って細胞を撮像して複数の短時間露光画像を取得する第1の撮像手段401と、複数の時点間の各期間内で、それぞれ細胞を長時間露光条件に従って撮像して長時間露光画像を取得する第2の撮像手段402とを含む。
なお、Tを所定時点、Iを時間間隔、Nを0以上の整数とすると、第1の撮像手段401は、複数の時点T+N×Iにおいて、細胞を短時間露光条件により撮像して短時間露光画像を取得する。
第2の撮像手段402は、期間T+N×I〜 T+(N+1)×I内において、細胞を長時間露光条件により撮像して長時間露光画像を取得する。
第2の撮像手段402は、期間T+N×I〜 T+(N+1)×I内において、細胞を長時間露光条件により撮像して長時間露光画像を取得する。
これら第1の撮像手段401と第2の撮像手段402とは、互いに異なる顕微法による観察手法によって細胞を撮像する。例えば、露光条件が短時間露光である場合、顕微鏡方式は、位相差顕微鏡方式に切り替えられる。又、露光条件が長時間露光である場合、顕微鏡方式は、発光顕微鏡方式に切り替えられる。
以降、短時間露光顕微鏡方式でn回目に撮像した短時間露光細胞画像をPi(n)とし、長時間露光顕微鏡方式でn回目に撮像した長時間露光細胞画像をLi(n)として説明する。なお、nは自然数で、1,2,3,…、である。
これら位相差画像Pi(n)と発光画像Li(n)とは、撮像部10により交互に、Pi(1)、Li(1)、Pi(2)、Li(2)、・・・、Pi(n)、Li(n)、Pi(n+1)、Li(n+1)、・・・の順に撮像されて取得されるものとする。
図3は位相差画像Pi(n)と発光画像Li(n)との取得タイミングの一例を示す。同図は例えば発光画像Li(n-1)を取得し、次に位相差画像Pi(n)を取得し、次に発光画像Li(n)を取得し、次に位相差画像Pi(n+1)の取得を示す。
これら位相差画像Pi(n)と発光画像Li(n)とは、撮像部10により交互に、Pi(1)、Li(1)、Pi(2)、Li(2)、・・・、Pi(n)、Li(n)、Pi(n+1)、Li(n+1)、・・・の順に撮像されて取得されるものとする。
図3は位相差画像Pi(n)と発光画像Li(n)との取得タイミングの一例を示す。同図は例えば発光画像Li(n-1)を取得し、次に位相差画像Pi(n)を取得し、次に発光画像Li(n)を取得し、次に位相差画像Pi(n+1)の取得を示す。
又、位相差顕微鏡方式での1回目の撮像開始時点をTS、長時間露光時間をTL、短時間露光時間をTPとした場合、位相差画像Pi(n)の撮像開始時点は、
TS+(n−1)(TP+TL) …(1)
とし、発光画像Li(n)の撮像開始時点は、
TS+(n−1)(TP+TL)+TP …(2)
とする。
さらに、短時間露光時間TPは、長時間露光時間TLと比較して十分に小さい場合、位相差画像Pi(n)と発光画像Li(n)との撮像時点は、近似的にほぼ同時点TS+TL(n−1)と考えても良い。
TS+(n−1)(TP+TL) …(1)
とし、発光画像Li(n)の撮像開始時点は、
TS+(n−1)(TP+TL)+TP …(2)
とする。
さらに、短時間露光時間TPは、長時間露光時間TLと比較して十分に小さい場合、位相差画像Pi(n)と発光画像Li(n)との撮像時点は、近似的にほぼ同時点TS+TL(n−1)と考えても良い。
位相差顕微鏡方式による撮像は、観察手法切替部30からの指示によりリング絞り110及び位相板リング150を撮像部10の光軸180上に挿入し、かつ露光時間切替部20からの指示により露光時間を短時間露光条件(露光時間Pt=1.0sec)に設定して行われる。
この位相差顕微鏡方式は、光の回折現象を利用した顕微方式であり、異なる屈折率を持つ物質間を透過する光の位相差(光路差)をコントラストとして得ることができるので、透明な細胞や微生物等の対象物を観察するのに適している。
また、位相差顕微鏡方式は、背景領域と細胞との境界線上においてハロ(アーティファクト)と呼ばれる強いコントラストが発生するという特徴を有する。このハロは、細胞画像において、主に背景領域と個々の細胞領域との境界部分にオーラ状の光として出現する。これら特徴を持つ位相差顕微鏡方式は、短時間露光撮像条件によりブレの無い鮮明な画像を得ることができる。
なお、位相差顕微鏡方式の代わりに、画質的特徴の類似した微分干渉顕微鏡(DifferentiaLinterference Contrast Microscope;DIC)方式等、他の明視野顕微鏡を利用しても勿論よい。
この位相差顕微鏡方式に切り替えられている状態に、撮像部10の撮像により取得された位相差短時間露光画像Pi(n)は、第1の追跡部220に転送される。
この位相差顕微鏡方式は、光の回折現象を利用した顕微方式であり、異なる屈折率を持つ物質間を透過する光の位相差(光路差)をコントラストとして得ることができるので、透明な細胞や微生物等の対象物を観察するのに適している。
また、位相差顕微鏡方式は、背景領域と細胞との境界線上においてハロ(アーティファクト)と呼ばれる強いコントラストが発生するという特徴を有する。このハロは、細胞画像において、主に背景領域と個々の細胞領域との境界部分にオーラ状の光として出現する。これら特徴を持つ位相差顕微鏡方式は、短時間露光撮像条件によりブレの無い鮮明な画像を得ることができる。
なお、位相差顕微鏡方式の代わりに、画質的特徴の類似した微分干渉顕微鏡(DifferentiaLinterference Contrast Microscope;DIC)方式等、他の明視野顕微鏡を利用しても勿論よい。
この位相差顕微鏡方式に切り替えられている状態に、撮像部10の撮像により取得された位相差短時間露光画像Pi(n)は、第1の追跡部220に転送される。
一方、発光顕微鏡方式による撮像は、観察手法切替部30からの指示によりリング絞り110及び位相板リング150を撮像部10の光軸180上から取り外され、かつ露光時間切替部20の指示により撮像素子170での露光時間を長時間露光条件(数十分の露光時間Lt、例えば露光時間Lt=3600sec)に設定して行われる。
発光顕微鏡方式によるイメージングは、ルシフェラーゼ遺伝子を導入した発光細胞から発現する発光タンパク質による微弱な光を高感度で捉えるため、長時間露光条件による撮像や、冷却CCD、明るい光学系用いる必要がある。又、この発光顕微鏡方式は、蛍光顕微鏡とは異なり検出に励起光を必要としないので、細胞にダメージを与えること無く発光画像を取得することができる。
発光顕微鏡方式によるイメージングは、ルシフェラーゼ遺伝子を導入した発光細胞から発現する発光タンパク質による微弱な光を高感度で捉えるため、長時間露光条件による撮像や、冷却CCD、明るい光学系用いる必要がある。又、この発光顕微鏡方式は、蛍光顕微鏡とは異なり検出に励起光を必要としないので、細胞にダメージを与えること無く発光画像を取得することができる。
なお、発光顕微鏡方式の代わりに、蛍光顕微鏡方式を利用しても良い。蛍光イメージングにおいても細胞へのダメージや蛍光試料の退色を避けるために、弱いレーザ強度による弱励起及び長時間露光撮像を行うことがある。この場合、発光顕微鏡と類似した画質特性を持つ画像が得られる。
この発光顕微鏡方式に切り替えられている状態に、撮像部10の撮像により取得された発光長時間露光画像Li(n)は、第2の追跡部230に転送される。
この発光顕微鏡方式に切り替えられている状態に、撮像部10の撮像により取得された発光長時間露光画像Li(n)は、第2の追跡部230に転送される。
次に、撮像開始直後の1フレーム目(n=1)の処理について説明する。
1フレーム目の処理では、過去のフレーム画像が存在しないため細胞の追跡処理を行わず、追跡対象となる細胞の初期位置の設定のみ行う。
この細胞の初期位置の設定では、先ず、撮像部10の撮像により取得した1フレーム目の位相差画像Pi(1)は、第1の追跡部220を介して第1テンプレート設定部200に転送されると共に、1フレーム目の発光画像Li(1)は、第2の追跡部230を介して第2テンプレート設定部210に転送される。このとき第1の追跡部220及び第2の追跡部230は、それぞれ細胞の追跡処理を行わない。
1フレーム目の処理では、過去のフレーム画像が存在しないため細胞の追跡処理を行わず、追跡対象となる細胞の初期位置の設定のみ行う。
この細胞の初期位置の設定では、先ず、撮像部10の撮像により取得した1フレーム目の位相差画像Pi(1)は、第1の追跡部220を介して第1テンプレート設定部200に転送されると共に、1フレーム目の発光画像Li(1)は、第2の追跡部230を介して第2テンプレート設定部210に転送される。このとき第1の追跡部220及び第2の追跡部230は、それぞれ細胞の追跡処理を行わない。
次に、初期位置設定部240は、ユーザによって撮像画像中における追跡対象となる細胞の初期位置座標x(n)=x(1)が指定されると、この初期位置座標x(1)を細胞位置記録部250に転送する。この初期位置座標x(1)におけるxは位置ベクトルx(x1,x2)であり、x1,x2はそれぞれ細胞画像中におけるX(横)座標、Y(縦)座標を表す。なお、細胞の位置座標は、公知の領域分割処理(例えばウォータシェッド法や、レベルセット法、グラフカット法等)を用いることで自動的に検出し、この位置座標を初期位置座標x(1)として自動的に指定するようにしても良い。
細胞位置記録部250は、初期位置設定部240から転送された初期位置座標x(1)を受け、この初期位置座標x(1)を1フレーム目における細胞位置として記録し、この細胞位置を第1テンプレート設定部200と第2テンプレート設定部210とにそれぞれ転送する。
第1テンプレート設定部200は、細胞位置記録部250から転送された初期位置座標x(1)を受け、この初期位置座標x(1)を中心とした所定サイズの矩形領域(テンプレート領域)内の画像を第1テンプレート画像SP(1)として位相差画像Pi(1)から後述するテンプレートマッチング処理により抽出し、この第1テンプレート画像SP(1)を記録手段、例えば予め内蔵する画像バッファや、RAM、外部メモリ等に一時的に記録する。
第2テンプレート設定部210は、細胞位置記録部250から転送された初期位置座標x(1)を受け、この初期位置座標x(1)を中心とした所定サイズの矩形領域(テンプレート領域)内の画像を第2テンプレート画像SL(1)として発光画像Li(1)から後述するテンプレートマッチング処理により抽出し、この第2テンプレート画像SL(1)を上記第1テンプレート画像SP(1)と同様に、記録手段、例えば予め内蔵する画像バッファや、RAM、外部メモリ等に一時的に記録する。
第1テンプレート設定部200は、細胞位置記録部250から転送された初期位置座標x(1)を受け、この初期位置座標x(1)を中心とした所定サイズの矩形領域(テンプレート領域)内の画像を第1テンプレート画像SP(1)として位相差画像Pi(1)から後述するテンプレートマッチング処理により抽出し、この第1テンプレート画像SP(1)を記録手段、例えば予め内蔵する画像バッファや、RAM、外部メモリ等に一時的に記録する。
第2テンプレート設定部210は、細胞位置記録部250から転送された初期位置座標x(1)を受け、この初期位置座標x(1)を中心とした所定サイズの矩形領域(テンプレート領域)内の画像を第2テンプレート画像SL(1)として発光画像Li(1)から後述するテンプレートマッチング処理により抽出し、この第2テンプレート画像SL(1)を上記第1テンプレート画像SP(1)と同様に、記録手段、例えば予め内蔵する画像バッファや、RAM、外部メモリ等に一時的に記録する。
次に、上記第1の追跡部220及び第2の追跡部230における追跡手法として適用するテンプレートマッチング処理による追跡処理の概略について説明する。
例えば、前フレーム画像I(n-1)中の細胞が現フレーム画像I(n)中のどの位置に移動したかを追跡する場合、テンプレートマッチング手法では、先ず、前フレーム画像I(n-1)において追跡対象となる細胞を中心とした所定サイズの矩形領域をテンプレート領域A(n-1)として設定する。
例えば、前フレーム画像I(n-1)中の細胞が現フレーム画像I(n)中のどの位置に移動したかを追跡する場合、テンプレートマッチング手法では、先ず、前フレーム画像I(n-1)において追跡対象となる細胞を中心とした所定サイズの矩形領域をテンプレート領域A(n-1)として設定する。
次に、現フレーム画像I(n)内の全画素位置のそれぞれに対して画素を中心としたテンプレート領域A(n-1)のサイズと同サイズの矩形領域B(n,p)(pは現フレーム画像I(n)に含まれる画素を表す)を設定し、テンプレート領域A(n-1)と矩形領域B(n,p)との間の類似度を求める。この類似度としては、例えばSSD(Sum of Squared Difference)を用いる。
テンプレート領域A(n-1)と矩形領域B(n,p)との間の類似度の計測の結果、テンプレート領域A(n-1)と最も類似度の高い(誤差の小さい)矩形領域B(n,p)の画素pの位置座標を現フレーム画像I(n)上における細胞の移動後の位置と推定する。
テンプレート領域A(n-1)と矩形領域B(n,p)との間の類似度の計測の結果、テンプレート領域A(n-1)と最も類似度の高い(誤差の小さい)矩形領域B(n,p)の画素pの位置座標を現フレーム画像I(n)上における細胞の移動後の位置と推定する。
次に、nフレーム目(n>1)の処理について説明する。
撮像部10により撮像したnフレーム目の位相差画像Pi(n)は、第1の追跡部220に転送され、発光画像Li(n)は、第2の追跡部230に転送される。
この時点で、第1テンプレート設定部200には、予め前フレーム処理時に設定した第1テンプレート画像SP(n-1)が記録され、この第1テンプレート画像SP(n-1)が第1の追跡部220に転送される。
又、第2テンプレート設定部210には、予め前フレーム処理時に設定した第2テンプレート画像SL(n-1)が記録され、この第2テンプレート画像SL(n-1)が第2の追跡部230に転送される。
撮像部10により撮像したnフレーム目の位相差画像Pi(n)は、第1の追跡部220に転送され、発光画像Li(n)は、第2の追跡部230に転送される。
この時点で、第1テンプレート設定部200には、予め前フレーム処理時に設定した第1テンプレート画像SP(n-1)が記録され、この第1テンプレート画像SP(n-1)が第1の追跡部220に転送される。
又、第2テンプレート設定部210には、予め前フレーム処理時に設定した第2テンプレート画像SL(n-1)が記録され、この第2テンプレート画像SL(n-1)が第2の追跡部230に転送される。
第1の追跡部220は、前述したテンプレートマッチング手法により位相差画像Pi(n)と第1テンプレート画像SP(n-1)とから現フレームにおける細胞の位置座標xP(n)を推定する。この細胞の位置座標xP(n)は、補間部270に転送される。
第2の追跡部230は、前述したテンプレートマッチング手法により発光画像Li(n)と第2テンプレート画像SL(n-1)とから現フレームにおける細胞の位置座標xL(n)を推定する。この細胞の位置座標xL(n)も、補間部270に転送される。
第2の追跡部230は、前述したテンプレートマッチング手法により発光画像Li(n)と第2テンプレート画像SL(n-1)とから現フレームにおける細胞の位置座標xL(n)を推定する。この細胞の位置座標xL(n)も、補間部270に転送される。
次に、輝度値算出部260は、第2テンプレート設定部210から第2テンプレート画像SL(n-1)を取得し、この第2テンプレート画像SL(n-1)内に含まれる全画素について輝度の平均値Lum(n-1)を算出し、この輝度の平均値Lum(n-1)を補間部270に転送する。
補間部270は、第2の追跡部230による追跡結果に対して第1の追跡部220による追跡結果を補間する。この補間部270は、第2の撮像手段402により取得した長時間露光画像中の輝度値が所定の閾値以上であれば、第2の追跡部230による細胞の追跡を行い、一方、輝度値が所定の閾値以下であれば、第1の追跡部220による細胞の追跡に切り替える。
補間部270は、第2の追跡部230による追跡結果に対して第1の追跡部220による追跡結果を補間する。この補間部270は、第2の撮像手段402により取得した長時間露光画像中の輝度値が所定の閾値以上であれば、第2の追跡部230による細胞の追跡を行い、一方、輝度値が所定の閾値以下であれば、第1の追跡部220による細胞の追跡に切り替える。
この補間部270は、第1の追跡部220から細胞の位置座標xP(n)を受けると共に、第2の追跡部230から細胞の位置座標xL(n)を受け、かつ輝度値算出部260から輝度の平均値Lum(n-1)を受け、予め設定された閾値と輝度の平均値Lum(n-1)とを比較し、輝度の平均値Lum(n-1)が閾値以上の値を示す場合、細胞が発光画像Li(n)上で所定の発光強度を持つものとして発光画像i(n)に基づく追跡結果(位置座標)である細胞の位置座標xL(n)をnフレーム目画像における細胞位置x(n)として特定する。この細胞位置x(n)は、細胞位置記録部250へ転送される。
一方、輝度の平均値Lum(n-1)が閾値より小さい場合、補間部270は、発光画像Li(n)上において細胞の発光強度が小さく、追跡処理の信頼度が低下するとし、位相差画像Pi(n)に基づいて細胞の追跡を行うものとし、位相差画像Pi(n)に基づく追跡結果(位置座標)である細胞の位置座標xP(n)を、上記発光画像Li(n)から求められた位置座標xL(n)の代わりにnフレーム目画像における細胞位置x(n)として特定する。この細胞位置x(n)は、細胞位置記録部250へ転送される。
この細胞位置記録部250は、nフレーム目における発光画像i(n)に基づく追跡結果の細胞位置x(n)、又は位相差画像Pi(n)に基づく追跡結果の細胞位置x(n)を記録し、この細胞位置x(n)を第1テンプレート設定部200と第2テンプレート設定部210とに転送する。
第1テンプレート設定部200は、細胞位置記録部250からの細胞位置x(n)を受け、位相差画像Pi(n)から細胞位置x(n)を中心とした所定サイズの矩形領域をテンプレートマッチング処理における第1テンプレート画像SP(n)として抽出し、予め内蔵する画像バッファに一時的に記録する。
又、第2テンプレート設定部210は、細胞位置記録部250からの細胞位置x(n)を受け、発光画像Li(n)から細胞位置x(n)を中心とした所定サイズの矩形領域をテンプレートマッチング処理における第2テンプレート画像SL(n)として抽出し、予め内蔵する画像バッファへ一時的に記録する。
第1テンプレート設定部200は、細胞位置記録部250からの細胞位置x(n)を受け、位相差画像Pi(n)から細胞位置x(n)を中心とした所定サイズの矩形領域をテンプレートマッチング処理における第1テンプレート画像SP(n)として抽出し、予め内蔵する画像バッファに一時的に記録する。
又、第2テンプレート設定部210は、細胞位置記録部250からの細胞位置x(n)を受け、発光画像Li(n)から細胞位置x(n)を中心とした所定サイズの矩形領域をテンプレートマッチング処理における第2テンプレート画像SL(n)として抽出し、予め内蔵する画像バッファへ一時的に記録する。
撮像部10による撮像が終了した場合、細胞位置記録部250に記録された全フレーム画像中の各細胞位置x(n)(n=1〜全フレーム数)は、記録部280に転送され、所定のメディアへ記録される。
次に、本装置による細胞追跡処理の一例について図4に示す細胞追跡処理のフローチャートに従って説明する。
制御部80は、ステップS10において、1フレーム目の画像であるか否かを判定し、1フレーム目の画像であれば、ステップS20へ移行する。上記判定の結果、1フレーム目の画像でなく2フレーム目以降であれば、制御部80は、ステップS70に移行する。
次に、本装置による細胞追跡処理の一例について図4に示す細胞追跡処理のフローチャートに従って説明する。
制御部80は、ステップS10において、1フレーム目の画像であるか否かを判定し、1フレーム目の画像であれば、ステップS20へ移行する。上記判定の結果、1フレーム目の画像でなく2フレーム目以降であれば、制御部80は、ステップS70に移行する。
第1の追跡部220は、ステップS20において、短時間露光条件により撮像された1フレーム目の位相差画像Pi(1)を入力する。
第2の追跡部230は、ステップS30において、長時間露光条件により撮像された1フレーム目の発光画像Li(1)を入力する。
初期位置設定部240は、ステップS40において、ユーザによって撮像画像中における追跡対象となる細胞の初期位置座標x(1)が指定されると、当該初期位置座標x(1)を設定・記録する。
第1テンプレート設定部200は、ステップS50において、上記ステップS40で設定された初期位置座標x(1)に基づき、位相差画像Pi(1)から細胞位置を中心とした第1テンプレート画像SP(1)を抽出し、予め内蔵する画像バッファへ一時的に記録する。
第2テンプレート設定部210は、ステップS60において、上記ステップS40で設定された初期位置座標x(1)に基づき、発光画像Li(1)から細胞位置を中心とした第2テンプレート画像SL(1)を抽出し、予め内蔵する画像バッファへ一時的に記録する。
第2の追跡部230は、ステップS30において、長時間露光条件により撮像された1フレーム目の発光画像Li(1)を入力する。
初期位置設定部240は、ステップS40において、ユーザによって撮像画像中における追跡対象となる細胞の初期位置座標x(1)が指定されると、当該初期位置座標x(1)を設定・記録する。
第1テンプレート設定部200は、ステップS50において、上記ステップS40で設定された初期位置座標x(1)に基づき、位相差画像Pi(1)から細胞位置を中心とした第1テンプレート画像SP(1)を抽出し、予め内蔵する画像バッファへ一時的に記録する。
第2テンプレート設定部210は、ステップS60において、上記ステップS40で設定された初期位置座標x(1)に基づき、発光画像Li(1)から細胞位置を中心とした第2テンプレート画像SL(1)を抽出し、予め内蔵する画像バッファへ一時的に記録する。
第1の追跡部220は、ステップS70において、n(n>1)フレーム目の位相差画像Pi(n)を入力する。
第2の追跡部230は、ステップS80において、n(n>1)フレーム目の発光画像Li(n)を入力する。
第1の追跡部220は、ステップS90において、n−1フレーム処理時に、第1テンプレート設定部200に記録されている第1テンプレート画像SP(n-1)に基づきnフレーム目の位相差画像Pi(n)上における細胞位置xp(n)をテンプレートマッチング手法により推定する。
第2の追跡部230は、ステップS100において、n−1フレーム処理時に、第2テンプレート設定部210に記録されている第2テンプレート画像SL(n-1)に基づきnフレーム目の発光画像Li(n)上における細胞位置xL(n)をテンプレートマッチング手法により推定する。
第2の追跡部230は、ステップS80において、n(n>1)フレーム目の発光画像Li(n)を入力する。
第1の追跡部220は、ステップS90において、n−1フレーム処理時に、第1テンプレート設定部200に記録されている第1テンプレート画像SP(n-1)に基づきnフレーム目の位相差画像Pi(n)上における細胞位置xp(n)をテンプレートマッチング手法により推定する。
第2の追跡部230は、ステップS100において、n−1フレーム処理時に、第2テンプレート設定部210に記録されている第2テンプレート画像SL(n-1)に基づきnフレーム目の発光画像Li(n)上における細胞位置xL(n)をテンプレートマッチング手法により推定する。
輝度値算出部260は、ステップS110において、n−1フレーム目の発光画像Li(n-1)に対応する第2テンプレート画像SL(n-1)の全画素に対して発光輝度の平均値Lum(n-1)を算出する。
補間部270は、ステップS120において、第1の追跡部220から細胞の位置座標xP(n)を受けると共に、第2の追跡部230から細胞の位置座標xL(n)を受け、かつ輝度値算出部260から輝度の平均値Lum(n-1)を受け、予め設定された閾値と輝度の平均値Lum(n-1)とを比較し、輝度の平均値Lum(n-1)が閾値以上の値を示す場合、細胞が発光画像Li(n)上で所定の発光強度を持つものとして発光画像i(n)に基づく追跡結果(位置座標)である細胞の位置座標xL(n)をnフレーム目画像における細胞位置x(n)として特定する。
補間部270は、ステップS120において、第1の追跡部220から細胞の位置座標xP(n)を受けると共に、第2の追跡部230から細胞の位置座標xL(n)を受け、かつ輝度値算出部260から輝度の平均値Lum(n-1)を受け、予め設定された閾値と輝度の平均値Lum(n-1)とを比較し、輝度の平均値Lum(n-1)が閾値以上の値を示す場合、細胞が発光画像Li(n)上で所定の発光強度を持つものとして発光画像i(n)に基づく追跡結果(位置座標)である細胞の位置座標xL(n)をnフレーム目画像における細胞位置x(n)として特定する。
一方、輝度の平均値Lum(n-1)が閾値より小さい場合、補間部270は、同ステップS120において、発光画像Li(n)上において細胞の発光強度が小さく、追跡処理の信頼度が低下するとし、位相差画像Pi(n)に基づいて細胞の追跡を行うものとし、位相差画像Pi(n)に基づく追跡結果(位置座標)である細胞の位置座標xP(n)を、上記発光画像Li(n)から求められた位置座標xL(n)の代わりにnフレーム目の画像における細胞位置x(n)として特定する。
細胞位置記録部250は、ステップS130において、nフレーム目における発光画像i(n)に基づく追跡結果の細胞位置x(n)、又は位相差画像Pi(n)に基づく追跡結果の細胞位置x(n)を記録する。
第1テンプレート設定部200は、ステップS140において、上記ステップS130で記録された細胞位置x(n)に基づき、位相差画像Pi(n)から細胞位置を中心とした第1テンプレート画像SP(n)を抽出し、予め内蔵する画像バッファへ一時的に記録する。
第1テンプレート設定部200は、ステップS140において、上記ステップS130で記録された細胞位置x(n)に基づき、位相差画像Pi(n)から細胞位置を中心とした第1テンプレート画像SP(n)を抽出し、予め内蔵する画像バッファへ一時的に記録する。
第2テンプレート設定部210は、ステップS150において、上記ステップS130で設定された細胞位置x(n)に基づき、上記ステップS130で記録された細胞位置x(n)に基づき、発光画像Li(n)から細胞位置を中心とした第2テンプレート画像SL(n)を抽出し、予め内蔵する画像バッファへ一時的に記録する。
制御部80は、ステップS160において、次のフレーム画像がある場合、上記ステップS70へ移行し、次のフレーム画像が無い場合、ステップS170へ移行する。
制御部80は、ステップS170において、全フレーム画像中の細胞位置x(n)を所定のメディアに記録し、処理を終了する。
制御部80は、ステップS170において、全フレーム画像中の細胞位置x(n)を所定のメディアに記録し、処理を終了する。
このように上記第1の実施の形態によれば、発光画像Li(n)の輝度の平均値Lum(n-1)と予め設定された閾値とを比較し、発光画像Li(n)の輝度の平均値Lum(n-1)が閾値以上の値を示す場合、細胞が発光画像Li(n)上で所定の発光強度を持つものとして発光画像i(n)に基づく追跡結果の細胞位置x(n)を特定して細胞等の生体試料の追跡を行い、一方、発光画像Li(n)の輝度の平均値Lum(n-1)が閾値より小さい場合、発光画像Li(n)上において細胞の発光強度が小さく、追跡処理の信頼度が落ちるため、位相差画像Pi(n)に基づく追跡結果の細胞位置x(n)を特定して細胞等の生体試料の追跡を行う。
このように発光画像Li(n)に基づく長時間露光撮像と、位相差画像Pi(n)に基づく短時間露光撮像とにより取得された細胞画像群に基づいて細胞等の生体試料の位置変位を高精度に計測でき、当該生体試料を正確に追跡することができる。
すなわち、発光画像i(n)に基づく追跡であれば、励起光を照射する必要がなく、空間分解能が低いが定量的な評価に利用できる安定した画像を経時的に撮ることができ、かつ位相差画像Pi(n)に基づく追跡であれば、異なる屈折率を持つ物質間を透過する光の位相差(光路差)をコントラストとして得ることにより透明な細胞や微生物等の対象物を観察するのに好適である。
すなわち、発光画像i(n)に基づく追跡であれば、励起光を照射する必要がなく、空間分解能が低いが定量的な評価に利用できる安定した画像を経時的に撮ることができ、かつ位相差画像Pi(n)に基づく追跡であれば、異なる屈折率を持つ物質間を透過する光の位相差(光路差)をコントラストとして得ることにより透明な細胞や微生物等の対象物を観察するのに好適である。
しかるに、生物学分野や医学分野の研究の背景を説明すれば、当該分野では、細胞等の生体試料の生物学的活性をレポータアッセイにより検出する技術が広く利用されている。このレポータアッセイは、活性を調べたい細胞の遺伝子を、蛍光発現・発光を伴うレポーター遺伝子(緑色蛍光タンパク質GFPやルシフェラーゼ遺伝子等)に置き換え、その生物学的活性を表す蛍光、発光強度を観測することにより可視化、例えば生体試料と調べたい生体関連物質とを画像化して生体試料内外における発現量や形状特徴の変化を経時的に観察できる。具体的にレポーター物質としての蛍光や発光を用いる観察を利用する研究分野では、試料内のタンパク質分子の動的な機能発現を捉えるためにタイムラプス(微速度)撮像が行われる。
蛍光試料のタイムラプス撮像では、励起光を照射し続けることで蛍光試料から発せられる光量が時間の経過と共に減少するという性質がある。このため、当該タイムラプス撮像では、空間分解能の高い鮮明な画像を短い露出時間で撮ることができるが、定量的な評価に利用できる安定した画像を経時的に撮ることが困難である。
一方、発光試料を対象としたタイムラプスによる動的変化の経時的観察は、蛍光を用いた撮像と異なり励起光を照射する必要がなく、空間分解能が低いが定量的評価に利用可能な安定した画像を経時的に撮ることができるので、これまで発光試料からの発光量の測定やその形状観察が行われている。但し、各細胞の発光が微弱であるため、当該動的変化の経時的観察では、CCDカメラや明るい光学系、長時間露光等を用いて撮像される。
発光試料は、細胞内に発光遺伝子(ルシフェラーゼ遺伝子)を導入することにより生成される。この発光遺伝子の導入の方法としては、例えば、細胞に電気パルスをかける電気穿孔法などが用いられる。このルシフェラーゼ遺伝子が導入された細胞の観察では、ルシフェラーゼ遺伝子の発現の強さ(具体的には発現量)や発現の分布から細胞形状を調べる。このために、ルシフェラーゼ活性に因る細胞からの発光量の測定が行われる。
又、時間経過に沿って発光遺伝子の発現量を捉えるために、個々の生きた細胞からの発光量を経時的に測定している。この測定の際、細胞のタイムラプス画像列の一枚一枚から細胞位置を目視で確認し、その位置を中心とした所定領域内の平均輝度等を細胞の発光量としてプロットすることが一般的に行われている。ところが、目視を用いた測定は非常に煩雑な作業であるため、細胞位置を正確に追い続けることのできる細胞追跡処理による作業の自動化が望まれている。
前述の通り、発光試料を撮像する場合、発光量が極めて微弱なため、長時間露光による撮像が必須である。この長時間露光による撮像では、蛍光による撮像等と比較して鮮明な画像を得ることが難しく、また長時間露光撮像を行うことで被写体となる細胞の動きを反映した一般にモーションブラーと呼ばれる動きぶれが発生し、安定して鮮明な発光画像を撮像することが難しい。このため、これら発光画像に対する高精度な細胞追跡処理の実現は、一般的な蛍光画像に基づく処理構築よりも困難になっている。
これに対して本実施の形態によれば、上記のように発光画像Li(n)に基づく長時間露光撮像と、位相差画像Pi(n)に基づく短時間露光撮像とにより取得された細胞画像群に基づいて細胞等の生体試料の位置変位を高精度に計測でき、当該生体試料を正確に追跡することができる。
[第2の実施の形態]
次に、第2の実施の形態について図面を参照して説明する。なお、上記第1の実施の形態と同一部分には、同一符号を付してその詳しい説明は省略する。
図5は画像処理装置の構成図を示す。本装置400は、上記第1の実施の形態における露光時間切替部20と、観察手法切替部30とを省き、露光時間切替部300と、観察手法切替部310と、擬似長時間露光画像合成部320とを新たに追加している。このうち露光時間切替部300と観察手法切替部310とは、それぞれ上記第1の実施の形態における露光時間切替部20と観察手法切替部30とを代えている。
これに対して本実施の形態によれば、上記のように発光画像Li(n)に基づく長時間露光撮像と、位相差画像Pi(n)に基づく短時間露光撮像とにより取得された細胞画像群に基づいて細胞等の生体試料の位置変位を高精度に計測でき、当該生体試料を正確に追跡することができる。
[第2の実施の形態]
次に、第2の実施の形態について図面を参照して説明する。なお、上記第1の実施の形態と同一部分には、同一符号を付してその詳しい説明は省略する。
図5は画像処理装置の構成図を示す。本装置400は、上記第1の実施の形態における露光時間切替部20と、観察手法切替部30とを省き、露光時間切替部300と、観察手法切替部310と、擬似長時間露光画像合成部320とを新たに追加している。このうち露光時間切替部300と観察手法切替部310とは、それぞれ上記第1の実施の形態における露光時間切替部20と観察手法切替部30とを代えている。
又、撮像素子170は、擬似長時間露光画像合成部320に接続されている。この擬似長時間露光画像合成部320は、第2の追跡部230に接続されている。この擬似長時間露光画像合成部320は、複数の短時間露光画像を合成することにより、前後を含む期間内において、細胞を長時間露光条件に従って撮像した長時間露光画像に相当する画像を擬似的に作成する。
撮像部10の撮像は、上記第1の実施の形態と同様に、観察手法切替部30と露光時間切替部20とからの各指示により、1回の撮像毎にそれぞれ露光条件(短時間露光又は長時間露光)と顕微鏡方式(位相差顕微鏡方式又は発光顕微鏡方式)とに切り替えられて行われる。
上記第1の実施の形態では、位相差画像Pi(n)と発光画像Li(n)との撮像時点がほぼ同一であり、追跡対象の細胞位置に大きなずれが無いことを前提として、発光画像Li(n)の輝度の平均値Lum(n-1)が閾値より大きいか又は小さいかを比較し、この比較結果に応じて発光画像Li(n)又は位相差画像Pi(n)に基づいて細胞等の生体試料の追跡を行っているが、位相差画像Pi(n)の露光時間は1sec未満、発光画像Li(n)の露光時間は60min弱と非常に大きな差がある。このため、撮像時点を露光時間の開始から終了までの中間時点と考えると、位相差画像Pi(n)と発光画像Li(n)との撮像時点には、非常に大きな差が発生すると共に、細胞の位置に変化が生じてしまう。
上記第1の実施の形態では、位相差画像Pi(n)と発光画像Li(n)との撮像時点がほぼ同一であり、追跡対象の細胞位置に大きなずれが無いことを前提として、発光画像Li(n)の輝度の平均値Lum(n-1)が閾値より大きいか又は小さいかを比較し、この比較結果に応じて発光画像Li(n)又は位相差画像Pi(n)に基づいて細胞等の生体試料の追跡を行っているが、位相差画像Pi(n)の露光時間は1sec未満、発光画像Li(n)の露光時間は60min弱と非常に大きな差がある。このため、撮像時点を露光時間の開始から終了までの中間時点と考えると、位相差画像Pi(n)と発光画像Li(n)との撮像時点には、非常に大きな差が発生すると共に、細胞の位置に変化が生じてしまう。
本第2の実施の形態は、複数の時点の前後を含む期間において、細胞を短時間露光条件に従って撮像した複数の短時間露光画像を取得する。すなわち、本第2の実施の形態では、発光画像Li(n)の取得に際し、位相差画像Pi(n)の撮像時点を基準にその前後で短露光による複数枚の発光画像Li(n)を撮像し、これらの複数枚の発光画像Li(n)を合成することで、擬似的に位相差画像Pi(n)と撮像時点の一致した発光画像Li(n)を作成し、追跡処理に用いる。
本実施の形態において、撮像部10は、露光時間切替部300と、観察手法切替部310との制御に基づき、位相差画像Pi(n)の撮像時の“前”及び“後”の各時点でそれぞれM枚の発光画像Li1(n,m)、Li2(n,m)を撮像する。なお、m=1〜Mである。
すなわち、各発光画像Li1(n,m)は、図6に示すように、
Li2(n-1,1)、・・・、Li1(n-1,M)、Li1(n,1)、・・・、Li1(n,M)、位相差画像Pi(n)、Li2(n,1)、・・・、Li2(n,M)、Li1(n+1,1)、・・・、Li1(n+1,M)、・・・、位相差画像Pi(n+1)の順に取得される。
又、発光画像Li1(n,m)は、Li1(1,1)、Li1(1,2)、・・・、Li1(1,M)、Pi(1)、Li2(1,1)、Li2(1,2)、・・・、Li2(n,M)の順に取得される。
又、発光画像Li1(n,m)は、Li1(n,1)、Li1(n,2) 、・・・、Li1(n,M)、Pi(n)、Li2(n,1)、Li2(n,2)、・・・、Li2(n,M)の順に取得される。
すなわち、各発光画像Li1(n,m)は、図6に示すように、
Li2(n-1,1)、・・・、Li1(n-1,M)、Li1(n,1)、・・・、Li1(n,M)、位相差画像Pi(n)、Li2(n,1)、・・・、Li2(n,M)、Li1(n+1,1)、・・・、Li1(n+1,M)、・・・、位相差画像Pi(n+1)の順に取得される。
又、発光画像Li1(n,m)は、Li1(1,1)、Li1(1,2)、・・・、Li1(1,M)、Pi(1)、Li2(1,1)、Li2(1,2)、・・・、Li2(n,M)の順に取得される。
又、発光画像Li1(n,m)は、Li1(n,1)、Li1(n,2) 、・・・、Li1(n,M)、Pi(n)、Li2(n,1)、Li2(n,2)、・・・、Li2(n,M)の順に取得される。
発光画像Li1(n,m)、Li2(n,m)の各画像の露光時間は、TL/(2×M)であることが望ましい。これら発光画像Li1(n,m)、Li2(n,m)は、擬似長時間露光画像合成部320に転送される。
この擬似長時間露光画像合成部320は、上記の通り、複数の短時間露光画像を合成することにより、前後を含む期間内において、細胞を長時間露光条件に従って撮像した長時間露光画像に相当する画像を擬似的に作成する。すなわち、擬似長時間露光画像合成部320は、発光画像Li1(n,m)、Li2(n,m) (m=1〜M)の各画像を累積することで、擬似的に位相差画像Pi(n)と撮像時点を一致させた発光画像Pi(n)とを作成し、以降の追跡処理に用いる。この位相差画像Pi(n)は、第2の追跡部230に転送される。
第2の追跡部230は、擬似長時間露光画像合成部320により擬似的に作成された長時間露光画像に基づいて細胞の追跡を行う。
この擬似長時間露光画像合成部320は、上記の通り、複数の短時間露光画像を合成することにより、前後を含む期間内において、細胞を長時間露光条件に従って撮像した長時間露光画像に相当する画像を擬似的に作成する。すなわち、擬似長時間露光画像合成部320は、発光画像Li1(n,m)、Li2(n,m) (m=1〜M)の各画像を累積することで、擬似的に位相差画像Pi(n)と撮像時点を一致させた発光画像Pi(n)とを作成し、以降の追跡処理に用いる。この位相差画像Pi(n)は、第2の追跡部230に転送される。
第2の追跡部230は、擬似長時間露光画像合成部320により擬似的に作成された長時間露光画像に基づいて細胞の追跡を行う。
次に、本装置による細胞追跡処理の一例について図7に示す細胞追跡処理のフローチャートに従って上記第1の実施の形態と相違する処理について説明する。
上記ステップS10、S20の後、擬似長時間露光画像合成部320は、ステップS180において、発光画像Li1(1,m)、Li2(1,m)を入力する。
この擬似長時間露光画像合成部320は、ステップS190において、発光画像Li1(1,m)、Li2(1,m)を合成し、擬似的に位相差短時間露光細胞画像Pi(n)と撮像時点を一致させた位相差画像Pi(1)とを作成する。
上記ステップS10、S20の後、擬似長時間露光画像合成部320は、ステップS180において、発光画像Li1(1,m)、Li2(1,m)を入力する。
この擬似長時間露光画像合成部320は、ステップS190において、発光画像Li1(1,m)、Li2(1,m)を合成し、擬似的に位相差短時間露光細胞画像Pi(n)と撮像時点を一致させた位相差画像Pi(1)とを作成する。
次に、ステップS40〜S70の後、擬似長時間露光画像合成部320は、ステップS200において、発光画像Li1(n,m)、Li2(n,m)を入力する。
擬似長時間露光画像合成部320は、ステップS210において、各発光画像Li1(n,m)、Li2(n,m)を合成し、上記ステップS190において作成された擬似的に位相差画像Pi(n)と撮像時点を一致させた発光画像Li(n)を作成する。
以降、上記ステップS190において作成した擬似的に位相差画像Pi(n)と、上記ステップS210において作成された発光画像Li(n)とを用いてステップS90〜S170での処理が行われる。
擬似長時間露光画像合成部320は、ステップS210において、各発光画像Li1(n,m)、Li2(n,m)を合成し、上記ステップS190において作成された擬似的に位相差画像Pi(n)と撮像時点を一致させた発光画像Li(n)を作成する。
以降、上記ステップS190において作成した擬似的に位相差画像Pi(n)と、上記ステップS210において作成された発光画像Li(n)とを用いてステップS90〜S170での処理が行われる。
このように上記第2の実施の形態によれば、発光画像Li(n)の取得に際し、位相差画像Pi(n)の撮像時点を基準にその前後で短露光による複数枚の発光画像Li(n)を撮像し、これらの複数枚の発光画像Li(n)を合成するので、上記第1の実施の形態と同様の効果を奏することができるのは言うまでもなく、さらに擬似的に位相差画像Pi(n)と撮像時点の一致した発光画像Li(n)を作成し、追跡処理に用いることで、擬似的に位相差画像Pi(n)と撮像時点の一致した発光画像Li(n)を作成でき、細胞の位置に変化が生じるようなことがなく、追跡処理を行うことができる。
以上、上記第1及び第2の実施形態に基づいて本発明を説明したが、本発明は上述した各実施形態に限定されるものではなく、本発明の要旨の範囲内で、種々の変形及び応用が可能なことは勿論である。
さらに、上述した実施形態には種々の段階の発明が含まれており、開示した複数の構成要件の適当な組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示す全構成要件からいくつかの構成要件が削除されても、発明が解決しようとする課題の欄で述べた課題が解決でき、発明の効果の欄で述べられている効果が得られる場合には、この構成要件が削除された構成も発明として抽出され得る。
さらに、上述した実施形態には種々の段階の発明が含まれており、開示した複数の構成要件の適当な組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示す全構成要件からいくつかの構成要件が削除されても、発明が解決しようとする課題の欄で述べた課題が解決でき、発明の効果の欄で述べられている効果が得られる場合には、この構成要件が削除された構成も発明として抽出され得る。
400:細胞追跡装置(本装置)、401:第1の撮像手段、402:第2の撮像手段、403:第1の追跡手段、404:第2の追跡手段、405:補間手段、10:撮像部、20:露光時間切替部、30:観察手法切替部、80:制御部、200:第1テンプレート設定部、210:第2テンプレート設定部、220:第1追跡部、230:第2追跡部、240:初期位置設定部、250:細胞位置記録部、260:輝度値算出部、270:補間部、280:記録部、300:露光時間切替部、310:観察手法切替部、320:擬似長時間露光画像合成部。
Claims (12)
- 複数の時点でそれぞれ短時間露光条件に従って細胞を撮像して複数の短時間露光画像を取得する第1の撮像手段と、
前記複数の時点間の各期間内で、それぞれ前記細胞を長時間露光条件に従って撮像して長時間露光画像を取得する第2の撮像手段と、
前記短時間露光画像に基づいて前記細胞の追跡を行う第1の追跡手段と、
前記長時間露光画像に基づいて前記細胞の追跡を行う第2の追跡手段と、
前記第2の追跡手段による追跡結果に対して前記第1の追跡手段による追跡結果を補間する補間手段と、
を具備することを特徴とする細胞追跡装置。 - 前記第1の撮像手段と前記第2の撮像手段とは、互いに異なる顕微法による観察手法によって前記細胞を撮像することを特徴とする請求項1に記載の細胞追跡装置。
- 前記第2の撮像手段は、前記複数の時点の前後を含む期間において、前記細胞を前記短時間露光条件に従って撮像した複数の前記短時間露光画像を取得する第1の手段と、
前記複数の短時間露光画像を合成することにより、前記前後を含む期間内において、前記細胞を前記長時間露光条件に従って撮像した前記長時間露光画像に相当する画像を擬似的に作成する第2の手段と、
を有し、
前記第2の追跡手段は、前記合成手段により前記擬似的に作成された前記長時間露光画像に基づいて前記細胞の追跡を行う、
ことを特徴とする請求項1又は2に記載の細胞追跡装置。 - 前記補間手段は、前記第2の撮像手段により取得した前記長時間露光画像中の輝度値が所定の閾値以上であれば、前記第2の追跡手段による前記細胞の追跡を行い、前記輝度値が前記所定の閾値以下であれば、前記第1の追跡手段による前記細胞の追跡に切り替えることを特徴とする請求項1乃至3のうちいずれか1項に記載の細胞追跡装置。
- 前記補間手段は、前記長時間露光画像中の前記輝度の平均値と前記所定の閾値とを比較し、前記輝度の平均値が前記所定の閾値以上であれば、前記第2の追跡手段による前記細胞の追跡を行い、前記輝度値の平均値が前記所定の閾値以下であれば、前記第1の追跡手段による前記細胞の追跡に切り替えることを特徴とする請求項4に記載の細胞追跡装置。
- 前記第1の撮像手段は、位相差顕微鏡又は微分干渉顕微鏡を有することを特徴とする請求項1乃至5のうちいずれか1項に記載の細胞追跡装置。
- 前記第2の撮像手段は、発光顕微鏡又は蛍光顕微鏡を有することを特徴とする請求項1乃至5のうちいずれか1項に記載の細胞追跡装置。
- 前記第1の撮像手段と前記第2の撮像手段とは、1回の撮像毎に、前記短時間露光条件で位相差顕微鏡を含む前記顕微法と、前記長時間露光条件で発光顕微鏡を含む前記顕微法とを切り替える切替手段を有することを特徴とする請求項1乃至5のうちいずれか1項に記載の細胞追跡装置。
- Tを所定時点、Iを時間間隔、Nを0以上の整数とすると、
前記第1の撮像手段は、前記複数の時点T+N×Iにおいて、前記細胞を前記短時間露光条件により撮像して前記短時間露光画像を取得し、
前記第2の撮像手段は、期間T+N×I 〜 T+(N+1)×I内において、前記細胞を前記長時間露光条件により撮像して前記長時間露光画像を取得する、
ことを特徴とする請求項1に記載の細胞追跡装置。 - Tを所定時点、Iを時間間隔、Nを0以上の整数とすると、
前記第2の撮像手段は、前記複数の時点の前後を含む期間としてT+N×I−(I/2) 〜 T+N×I+(I/2)期間内の複数の時点において、前記細胞を前記短時間露光条件に従って撮像した複数の前記短時間露光画像を取得し、
前記合成手段は、T+N×I−(I/2) 〜 T+N×I+(I/2)期間内において、前記細胞を前記長時間露光条件に従って撮像した前記長時間露光画像に相当する画像を擬似的に作成する、
ことを特徴とする請求項3に記載の細胞追跡装置。 - 複数の時点でそれぞれ短時間露光条件に従って細胞を撮像して複数の短時間露光画像を取得し、
前記複数の時点間の各期間内で、それぞれ前記細胞を長時間露光条件に従って撮像して長時間露光画像を取得し、
前記短時間露光画像に基づいて前記細胞の追跡を行い、
前記長時間露光画像に基づいて前記細胞の追跡を行い、
前記長時間露光画像に基づく追跡の結果に対して前記短時間露光画像に基づく追跡の結果を補間する、
ことを特徴とする細胞追跡方法。 - コンピュータに、
複数の時点でそれぞれ短時間露光条件に従って細胞を撮像して複数の短時間露光画像を取得させ第1の撮像機能と、
前記複数の時点間の各期間内で、それぞれ前記細胞を長時間露光条件に従って撮像して長時間露光画像を取得させ第2の撮像機能と、
前記短時間露光画像に基づいて前記細胞の追跡を行わさせる第1の追跡機能と、
前記長時間露光画像に基づいて前記細胞の追跡を行わさせる第2の追跡機能と、
前記第2の追跡手段による追跡結果に対して前記第1の追跡手段による追跡結果を補間させる補間機能と、
を実現させる細胞追跡プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013161531A JP2015031831A (ja) | 2013-08-02 | 2013-08-02 | 細胞追跡装置及び方法、細胞追跡プログラム |
PCT/JP2014/069558 WO2015016129A1 (ja) | 2013-08-02 | 2014-07-24 | 細胞追跡装置及び方法、コンピュータにより読み取り可能な細胞追跡プログラムを記憶する記憶媒体 |
US15/013,033 US9916665B2 (en) | 2013-08-02 | 2016-02-02 | Cell tracking device and method, and storage medium non-transitory storing computer-readable cell tracking programs |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013161531A JP2015031831A (ja) | 2013-08-02 | 2013-08-02 | 細胞追跡装置及び方法、細胞追跡プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015031831A true JP2015031831A (ja) | 2015-02-16 |
Family
ID=52431665
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013161531A Pending JP2015031831A (ja) | 2013-08-02 | 2013-08-02 | 細胞追跡装置及び方法、細胞追跡プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US9916665B2 (ja) |
JP (1) | JP2015031831A (ja) |
WO (1) | WO2015016129A1 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016189583A1 (ja) * | 2015-05-22 | 2016-12-01 | オリンパス株式会社 | 生体試料の解析方法 |
WO2019098005A1 (ja) * | 2017-11-16 | 2019-05-23 | 日本電気株式会社 | 光測定装置及び光測定方法 |
JP2020056832A (ja) * | 2018-09-28 | 2020-04-09 | シスメックス株式会社 | 顕微鏡システムの制御方法、顕微鏡システム、プログラム、記録媒体 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014235494A (ja) * | 2013-05-31 | 2014-12-15 | 富士ゼロックス株式会社 | 画像処理装置及びプログラム |
US10481379B1 (en) | 2018-10-19 | 2019-11-19 | Nanotronics Imaging, Inc. | Method and system for automatically mapping fluid objects on a substrate |
CN110866906B (zh) * | 2019-11-12 | 2022-07-08 | 安徽师范大学 | 基于图像边缘提取的三维培养人体心肌细胞搏动检测方法 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060018013A1 (en) * | 2004-07-07 | 2006-01-26 | Yoshimasa Suzuki | Microscope imaging apparatus and biological-specimen examination system |
JP2006209698A (ja) * | 2005-01-31 | 2006-08-10 | Olympus Corp | 対象追跡装置、顕微鏡システムおよび対象追跡プログラム |
JP5307539B2 (ja) * | 2006-05-31 | 2013-10-02 | オリンパス株式会社 | 生体試料撮像方法および生体試料撮像装置 |
JP4474655B2 (ja) * | 2007-05-09 | 2010-06-09 | 独立行政法人科学技術振興機構 | 顕微鏡装置 |
JP5106966B2 (ja) * | 2007-09-28 | 2012-12-26 | パナソニックヘルスケア株式会社 | 培養物観察システム |
JP5083046B2 (ja) * | 2008-06-03 | 2012-11-28 | ソニー株式会社 | 撮像装置及び撮像方法 |
JP2010014964A (ja) | 2008-07-03 | 2010-01-21 | Olympus Corp | 生体観察装置 |
JP4614149B2 (ja) * | 2009-06-26 | 2011-01-19 | 独立行政法人科学技術振興機構 | 顕微鏡装置及び輪郭識別プログラム |
JP5887766B2 (ja) * | 2011-08-31 | 2016-03-16 | 株式会社ニコン | 顕微鏡制御装置、画像処理装置、顕微鏡装置およびプログラム |
-
2013
- 2013-08-02 JP JP2013161531A patent/JP2015031831A/ja active Pending
-
2014
- 2014-07-24 WO PCT/JP2014/069558 patent/WO2015016129A1/ja active Application Filing
-
2016
- 2016-02-02 US US15/013,033 patent/US9916665B2/en active Active
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016189583A1 (ja) * | 2015-05-22 | 2016-12-01 | オリンパス株式会社 | 生体試料の解析方法 |
JPWO2016189583A1 (ja) * | 2015-05-22 | 2018-03-15 | オリンパス株式会社 | 生体試料の解析方法 |
WO2019098005A1 (ja) * | 2017-11-16 | 2019-05-23 | 日本電気株式会社 | 光測定装置及び光測定方法 |
JPWO2019098005A1 (ja) * | 2017-11-16 | 2020-11-19 | 日本電気株式会社 | 光測定装置及び光測定方法 |
US11231272B2 (en) | 2017-11-16 | 2022-01-25 | Nec Corporation | Optical measuring apparatus and optical measuring method |
JP2020056832A (ja) * | 2018-09-28 | 2020-04-09 | シスメックス株式会社 | 顕微鏡システムの制御方法、顕微鏡システム、プログラム、記録媒体 |
JP7306810B2 (ja) | 2018-09-28 | 2023-07-11 | シスメックス株式会社 | 顕微鏡システムの制御方法、顕微鏡システム、プログラム、記録媒体 |
Also Published As
Publication number | Publication date |
---|---|
US20160155239A1 (en) | 2016-06-02 |
WO2015016129A1 (ja) | 2015-02-05 |
US9916665B2 (en) | 2018-03-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2015016129A1 (ja) | 細胞追跡装置及び方法、コンピュータにより読み取り可能な細胞追跡プログラムを記憶する記憶媒体 | |
JP5780865B2 (ja) | 画像処理装置、撮像システム、画像処理システム | |
CN109124615B (zh) | 一种可选区高动态激光散斑血流成像装置及方法 | |
EP3066513B1 (en) | Microscope system and autofocusing method | |
JP5996334B2 (ja) | 顕微鏡システム、標本画像生成方法及びプログラム | |
JP5075648B2 (ja) | 画像処理装置、画像処理プログラムおよび画像処理方法 | |
JP6053327B2 (ja) | 顕微鏡システム、標本画像生成方法及びプログラム | |
JP2013120239A (ja) | 撮影画像のリニアリティ評価方法、画像取得方法及び画像取得装置 | |
US20170010455A1 (en) | Cell imaging control device, method, and program | |
JP2014016666A (ja) | 細胞分裂過程追跡装置、及び細胞分裂過程追跡プログラム | |
JP2008046305A (ja) | 自動合焦装置、顕微鏡および自動合焦方法 | |
JP6045292B2 (ja) | 細胞計数装置及び細胞計数プログラム | |
US11169079B2 (en) | Captured image evaluation apparatus, captured image evaluation method, and captured image evaluation program | |
US20180338079A1 (en) | Microscope system, control method, and computer readable medium | |
Chessel et al. | A maximum likelihood method for lifetime estimation in photon counting-based fluorescence lifetime imaging microscopy | |
JP2010156612A (ja) | 画像処理装置、画像処理プログラム、画像処理方法およびバーチャル顕微鏡システム | |
JP2015210212A (ja) | 細胞生死判定システム、細胞生死判定方法 | |
JP6461204B2 (ja) | 3次元発光画像の生成方法及び撮像システム | |
US20200074628A1 (en) | Image processing apparatus, imaging system, image processing method and computer readable recoding medium | |
JP2005031664A (ja) | レーザ走査型顕微鏡の操作方法 | |
US11050931B2 (en) | Control device and control method | |
WO2022050109A1 (ja) | 画像処理装置、画像処理方法及び画像処理システム | |
JP2021512346A (ja) | 衝撃再走査システム | |
JP2009041953A (ja) | 定量分析装置、定量分析方法および定量分析プログラム | |
US20180025211A1 (en) | Cell tracking correction method, cell tracking correction device, and storage medium which stores non-transitory computer-readable cell tracking correction program |