JP2018117557A - 画像生成装置及び画像生成方法 - Google Patents

画像生成装置及び画像生成方法 Download PDF

Info

Publication number
JP2018117557A
JP2018117557A JP2017010655A JP2017010655A JP2018117557A JP 2018117557 A JP2018117557 A JP 2018117557A JP 2017010655 A JP2017010655 A JP 2017010655A JP 2017010655 A JP2017010655 A JP 2017010655A JP 2018117557 A JP2018117557 A JP 2018117557A
Authority
JP
Japan
Prior art keywords
image
light source
light
cell
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017010655A
Other languages
English (en)
Other versions
JP6739060B2 (ja
Inventor
加藤 弓子
Yumiko Kato
弓子 加藤
好秀 澤田
Yoshihide Sawada
好秀 澤田
康博 向川
Yasuhiro Mukogawa
康博 向川
卓哉 舩冨
Takuya Funatomi
卓哉 舩冨
尋之 久保
Hiroyuki Kubo
尋之 久保
房貴 國吉
Fusaki Kuniyoshi
房貴 國吉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2017010655A priority Critical patent/JP6739060B2/ja
Priority to US15/868,580 priority patent/US10379336B2/en
Publication of JP2018117557A publication Critical patent/JP2018117557A/ja
Application granted granted Critical
Publication of JP6739060B2 publication Critical patent/JP6739060B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/693Acquisition
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/0008Microscopes having a simple construction, e.g. portable microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/698Matching; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • G06F18/232Non-hierarchical techniques
    • G06F18/2321Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
    • G06F18/23213Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30044Fetus; Embryo
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30242Counting objects in image

Abstract

【課題】大型化を抑えて物質の状態が分かりやすい画像を生成することが可能な画像生成装置を提供する。【解決手段】画像生成装置10は、第1の光源141Aおよび第2の光源141Bと、イメージセンサ150と、透光部分および遮光部分を有するマスク142と、暗画像処理部120とを備え、イメージセンサ150は、第1の光源141Aが照明されたときに、物質の第1の画像を取得し、第2の光源141Bが照明されたときに、物質の第2の画像を取得し、イメージセンサ150は、第1の画素領域及び第2の画素領域を含み、第1の画素領域と第1の光源141Aとの間に、遮光部分が位置し、第2の画素領域と第2の光源141Bとの間に、遮光部分が位置し、暗画像処理部120は、第1の画像における第1の画素領域に対応する第1の画素情報と、第2の画像における第2の画素領域に対応する第2の画素情報とを用いて、第3の画像を生成する。【選択図】図2

Description

本開示は、例えば、レンズレス顕微鏡などの画像を生成する画像生成装置および画像生成方法に関する。
培養細胞を染色することなく連続的に観察したいという要求は、治療用の細胞の産生または薬効の試験等、もしくは培養細胞を医療または産業に用いる多くの分野にある。しかしながら、細胞の多くは、ほとんど無色透明であるため、透過光による光学顕微鏡での撮影ではコントラストが小さいため観察は困難である。コントラストの小ささの一要因として、被写体周辺の媒質および被写体自身による光の散乱または屈折が上げられる。
特許文献1では、光ビームの照射および照射停止の明暗二つの状態の輝度から、反射光のノイズ成分を除去する方法を示している。
また、特許文献2では、透明な対象物を観察するために、明暗パタンのある照明による撮影により、広視野の暗視野鏡を実現する方法を示している。特許文献3では、暗視野照明によって得られた画像より細胞の生死を識別する方法が示されている。
ところで、培養細胞の連続的観察は、細胞を培養するための多湿な環境を維持するためのインキュベータという限られた空間内で行われる。このような限られた空間内での観察のために、特許文献2および3は、レンズを用いずに微小な細胞を観察することのできるレンズレス顕微鏡を開示している。これらの文献では、複数の異なる位置から照射する照明によって撮影された複数の画像を用いて解像度の高い画像が生成される。
特許第5403458号公報 特許第5789766号公報 米国特許出願公開第2014/0133702号明細書
しかしながら、特許文献1の方法では、装置が大型化するという問題がある。つまり、この方法では、照明の反射光の輝度を記録して、対象物表面の凹凸を計測する装置において、平行光とデジタルマイクロミラーデバイスを用いる。そして、第1の明暗パタンを照射して記録した輝度と、第2の明暗パタンを照射して記録した輝度との差分により、相対輝度を求めることで、対物レンズの位置ごとの輝度を比較しやすくしている。しかし、明暗のパタンをイメージセンサ全体に広げようとすると、レンズが必要となり、装置が大型化する。一方、特許文献2および3のように多光源で撮影を行う場合には、照明の位置を変更する必要がある。光源およびデジタルマイクロミラーデバイスの位置を変更しながら撮影を行うには、装置が大型化するため、レンズレス顕微鏡にデジタルマイクロミラーデバイスによる明暗の反転を組み合わせるのは困難である。
そこで、本開示は、大型化を抑えて物質の状態が分かりやすい画像を生成することが可能な画像生成装置および画像生成方法を提供する。
本開示の一態様に係る画像生成装置は、透光性を有する物質の画像を生成する画像生成装置であって、第1の光源と、前記第1の光源と所定の距離離れて位置する第2の光源と、前記物質が配置されるイメージセンサと、前記第1の光源および前記第2の光源からの光が透過する透光部分と、前記光を遮蔽する遮光部分とを有し、かつ、前記イメージセンサと前記第1の光源および前記第2の光源との間に位置するマスクと、処理回路とを備え、前記イメージセンサは、前記第1の光源が照明されたときに、前記物質の第1の画像を取得し、前記第2の光源が照明されたときに、前記物質の第2の画像を取得し、ここで、前記イメージセンサは、第1の画素領域及び第2の画素領域を含み、前記第1の画素領域と前記第1の光源との間に、前記遮光部分が位置し、前記第2の画素領域と前記第2の光源との間に、前記遮光部分が位置し、前記処理回路は、前記第1の画像における前記第1の画素領域に対応する第1の画素情報と、前記第2の画像における前記第2の画素領域に対応する第2の画素情報とを用いて、第3の画像を生成する。
なお、これらの包括的又は具体的な態様は、装置、方法、集積回路、コンピュータプログラム又はコンピュータ読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、装置、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
本開示によれば、大型化を抑えて物質の状態が分かりやすい画像を生成することができる。
実施の形態1に係る細胞培養容器の斜視図である。 実施の形態1に係る細胞培養容器の断面図である。 実施の形態1に係る画像生成装置の機能的な構成の一例を示すブロック図である。 実施の形態1に係る照明器の構造の一例を模式的に示す図である。 実施の形態1に係る複数の点光源の配置の一例を模式的に示す図である。 実施の形態1に係るマスクの構造の一例を模式的に示す図である。 実施の形態1に係るイメージセンサと対象物との位置関係を説明する模式図である。 実施の形態1に係る、点光源の位置と、イメージセンサ150が受ける光との関係の一例を示す図である。 実施の形態1に係る記憶部が記憶する内容の一例を示す図である。 実施の形態1に係る暗画像処理部の機能的な構成の一例を示すブロック図である。 実施の形態1に係る点光源と、マスク142の遮光部分の中心と、画素との位置関係を示す模式図である。 画素ごとに予め定められた照明位置が記録されたテーブルを示す。 実施の形態1に係る画像生成装置の動作の一例を示すフローチャートである。 実施の形態1に係る撮影部の動作の一例を示すフローチャートである。 実施の形態1に係る明区間と暗区間による周期の具体例を説明する模式図である。 実施の形態1に係るイメージセンサ上の各位置における光の強度を示す図である。 実施の形態1に係る暗画像処理部の動作の一例を示すフローチャートである。 実施の形態1における暗画像と、従来の画像とを比較して示す図である。 実施の形態2に係る画像生成装置の機能ブロック図である。 実施の形態2に係る細胞位置特定部の詳細な構成を示す機能ブロック図である。 実施の形態2に係る画像生成装置の動作の一例を示すフローチャートである。 実施の形態2に係る細胞位置特定部の動作の一例を示すフローチャートである。 実施の形態2に係る閾値決定部の動作の一例を示すフローチャートである。 実施の形態2に係る暗画像の輝度分布の中央値を示す。 実施の形態2に係る重心計算部および輪郭線推定部の動作の一例を示すフローチャートである。 実施の形態2に係る暗画像から輪郭線が推定されるまでの処理を模式的に示す。 実施の形態2に係る画像合成部によって生成される合成画像の例を示す。 実施の形態3に係る画像生成装置の機能ブロック図である。 実施の形態3に係る異常細胞検出部の詳細な構成を示す機能ブロック図である。 実施の形態3に係る画像生成装置の動作の一例を示すフローチャートである。 実施の形態3に係る異常細胞検出部の動作の一例を示すフローチャートである。 実施の形態3に係る画像合成部によって生成される合成画像の一例を示す。 実施の形態3の変形例に係る異常細胞検出部の詳細な構成を示す機能ブロック図である。 実施の形態3の変形例に係る異常細胞検出部の動作の一例を示すフローチャートである。 実施の形態3の変形例に係る暗画像の輝度分布を示す。 実施の形態3の変形例に係る判定基準保持部の動作の一例を示すフローチャートである。 実施の形態4に係る画像生成装置の機能ブロック図である。 実施の形態4に係る細胞密度特定部の詳細な構成を示す機能ブロック図である。 実施の形態4に係る関数記憶部に記憶されている関数の一例を示す。 実施の形態4に係る出力部によって表示される合成画像の一例を示す。 実施の形態4に係る出力部によって表示される合成画像の一例を示す。
本開示の一態様に係る画像生成装置は、透光性を有する物質の画像を生成する画像生成装置であって、第1の光源と、前記第1の光源と所定の距離離れて位置する第2の光源と、前記物質が配置されるイメージセンサと、前記第1の光源および前記第2の光源からの光が透過する透光部分と、前記光を遮蔽する遮光部分とを有し、かつ、前記イメージセンサと前記第1の光源および前記第2の光源との間に位置するマスクと、処理回路とを備え、前記イメージセンサは、前記第1の光源が照明されたときに、前記物質の第1の画像を取得し、前記第2の光源が照明されたときに、前記物質の第2の画像を取得し、ここで、前記イメージセンサは、第1の画素領域及び第2の画素領域を含み、前記第1の画素領域と前記第1の光源との間に、前記遮光部分が位置し、前記第2の画素領域と前記第2の光源との間に、前記遮光部分が位置し、前記処理回路は、前記第1の画像における前記第1の画素領域に対応する第1の画素情報と、前記第2の画像における前記第2の画素領域に対応する第2の画素情報とを用いて、第3の画像を生成する。
これにより、第1の画像および第2の画像が取得され、第1の画像における第1の画素領域に対応する第1の画素情報と、第2の画像における第2の画素領域に対応する第2の画素情報とによって、第3の画像が生成される。ここで、イメージセンサの第1の画素領域に対応する第1の画素情報は、第1の光源からの直接光が遮られた状態にある第1の画素領域によって得られる輝度であって、物質による散乱光または屈折光のみによる輝度を示す。同様に、イメージセンサの第2の画素領域に対応する第2の画素情報は、第2の光源からの直接光が遮られた状態にある第2の画素領域によって得られる輝度であって、物質による散乱光または屈折光のみによる輝度を示す。したがって、上述のように生成される第3の画像は、物質による散乱光または屈折光のみによる輝度によって表現される。その結果、直接光を除外し、散乱光あるいは屈折光による中間の輝度の情報が多い、見やすい画像を暗画像として生成することができる。
つまり、イメージセンサ上に物質を設置して、透過光によって撮影するレンズレスの撮影システムにおいて、明暗二つの状態のうち暗の状態で撮影した画像を用いて、散乱光により、例えば物質に含まれる細胞の位置がわかりやすい画像を生成することができる。
また、明暗パタンの異なる第1の画像および第2の画像を取得するために、物質を照明する光源を切り替えるだけでよいため、例えば光源またはデジタルマイクロミラーデバイスなどの構造物の位置を変更する必要がなく、装置全体を小型化することができる。
したがって、大型化を抑えて細胞などの物質の状態が分かりやすい画像を生成することができる。
また、前記物質は、細胞を含む胚であり、前記処理回路は、前記第3の画像における第1の閾値以上の輝度を有する領域を、前記細胞の位置する領域と特定してもよい。例えば、前記処理回路は、前記第3の画像と、前記細胞が位置する領域とを用いて、前記細胞が位置する領域が強調された第4の画像を生成してもよい。
これにより、物質である胚に含まれる細胞の位置をより分かりやすく表示することができる。
また、前記物質は、複数の細胞を含む胚であり、前記処理回路は、(a1)前記第3の画像における第1の閾値以上の輝度を有する複数の細胞領域を抽出し、(a2)前記複数の細胞領域のそれぞれの輝度が第2の範囲内にあるか否かを判定し、(a3)前記判定結果を出力してもよい。例えば、前記処理回路は、前記(a3)において、前記複数の細胞領域のそれぞれの輝度が前記第2の範囲内にある場合には、前記複数の細胞は正常であることを示す判定結果を出力し、前記複数の細胞領域のそれぞれの輝度が前記第2の範囲外である場合には、前記複数の細胞は異常であることを示す判定結果を出力してもよい。
これにより、細胞に含まれる微細構造物の量によって、第3の画像においてその細胞に対応する細胞領域の輝度が異なるため、その輝度が第2の範囲内にあるか否かに応じて、細胞が異常であるか否かを適切に判定することができる。
また、前記物質は、細胞を含む胚であり、前記処理回路は、(b1)前記第3の画像における第1の閾値以上の輝度を有する細胞領域を抽出し、(b2)前記細胞領域の輝度に基づいて、前記細胞の密度を算出してもよい。
これにより、細胞に含まれる微細構造物の量、すなわち細胞の密度によって、第3の画像においてその細胞に対応する細胞領域の輝度が異なるため、その輝度に基づいて、細胞の密度を適切に算出することができる。
なお、これらの全般的又は具体的な態様は、装置、方法、集積回路、コンピュータプログラム又はコンピュータ読取可能なCD−ROMなどの記録媒体で実現されてもよく、装置、方法、集積回路、コンピュータプログラム又は記録媒体の任意な組み合わせで実現されてもよい。
以下、本開示の一態様に係る画像生成装置および画像生成方法について、図面を参照しながら具体的に説明する。
なお、以下で説明する実施の形態は、いずれも包括的又は具体的な例を示すものである。以下の実施の形態で示される数値、形状、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、請求の範囲を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
(実施の形態1)
実施の形態1に係る画像生成装置は、複数の点光源と、スリットまたはチェッカーパタンのように、光を透過する透光部分と光を遮断する遮光部分とが作られたマスクとからなる照明器と、イメージセンサと、処理回路とを備える。その照明器における互いに位置の異なる複数の点光源は、イメージセンサ上に位置する対象物(すなわち物質)を順次照明する。このとき、イメージセンサは、そのイメージセンサおよび対象物に到達する光の明暗のパタンが切り替えられながら対象物の撮影を行う。これにより、明暗パタンの異なる複数の画像が取得される。処理回路は、イメージセンサの画素ごとに、複数の画像中で最も輝度が低い画素(明暗パタンの暗)を抽出し、画像を生成する。
ここで、実施の形態1に係る画像生成装置は、例えば、細胞培養容器に収容された混合液中の細胞を対象物として撮影する。まず、この細胞培養容器などについて詳細に説明する。なお、本実施の形態における撮影の対象物は、例えば、細胞である。対象物は、透光性を有する物質であればよく、細胞以外の物質であってもよい。
[1.細胞培養容器の構造]
図1Aは、実施の形態1に係るディッシュ型の細胞培養容器1000の斜視図である。図1Bは、実施の形態1に係るディッシュ型の細胞培養容器1000の断面図である。図1Aおよび図1Bに示すように、細胞培養容器1000は、容器部1010と、照明器140と、イメージセンサ150とを備える。なお、図1A及び図1Bに示す細胞培養容器1000は、シャーレあるいはペトリ皿と呼ばれるディッシュ型の容器であるが、横置きのフラスコ型の容器であってもよい。
容器部1010は、細胞及び培養液を含む混合液を収容する容器である。つまり、容器部1010は、混合液を内部に位置させる容器である。容器部1010は、例えばガラス製又は樹脂製の透明な容器であり、蓋部1011と本体部1012とを備える。
本体部1012は、容器部1010の底部及び側部を規定する筒体。本体部1012は、底面と側面とで構成され、上部に開口を有する。
蓋部1011は、本体部1012と嵌め合わされることにより本体部1012の開口を塞ぐ有底筒状の部材である。蓋部1011は、容器部1010の上部を形成する。
照明器140は、蓋部1011の内面に設けられており、光を容器部1010内の混合液に照射する。その結果、照射された光は、混合液中を透過して、透過光として出力する。つまり、透過光とは、照明器140から混合液を透過した光であり、半透明物質である混合液で屈折及び減衰した光である。具体的には、照明器140は、蓋部1011の内面に固定されており、容器部1010内の混合液に上方から光を照射する。なお、照明器140は、蓋部1011の外面に固定されてもよい。
また、本実施の形態では、照明器140は、容器部1010の上部から容器部1010の内方に突出しており、照明器140における光の出射面140sは、容器部1010内の細胞C1及び培養液L1を含む混合液中に位置する。つまり、照明器140における光の出射面140sは、混合液の液面L2よりも下方、かつ、容器部1010の底部よりも上方に位置する。
イメージセンサ150は、容器部1010の底部に設けられており、混合液から出力された透過光を受け取る。イメージセンサ150は、例えば、CCDイメージセンサ(Charge Coupled Device Image Sensor)あるいはCMOSイメージセンサ(Complementary Metal Oxide Semiconductor Image Sensor)等の固体撮像素子である。イメージセンサ150には複数の画素がマトリックス状に配置されている。イメージセンサ150の各画素には、照明器140から照射された光が入射する。イメージセンサ150は、光が照射されることでイメージセンサ150の受光面に形成される細胞の光学像を撮影する。
具体的には、図1Bに示すように、イメージセンサ150は、容器部1010の底部に形成された開口に嵌め込まれている。透明保護膜150aに覆われたイメージセンサ150の受光面は、容器部1010内の空間に露出している。細胞C1は、容器部1010内に満たされた培養液L1の中に沈んでおり、透明保護膜150aの上に直接接触した状態で培養されている。図1Bに示すように、細胞C1とイメージセンサ150との間に集光レンズは存在しない。
このように、撮影の対象物である細胞C1は、透明保護膜150aを介して、イメージセンサ150の受光面上に載置された状態で培養される。
[2.画像生成装置の構成]
図2は、実施の形態1に係る画像生成装置10の機能ブロック図である。図1に示される画像生成装置10は、細胞などの透光性を有する物質の画像を生成する装置であって、撮影部100と、記憶部110と、暗画像処理部120と、出力部130とを備える。
[2−1.撮影部]
まず、撮影部100の構成について説明する。撮影部100は、照明器140と、イメージセンサ150と、制御部160とを備える。撮影部100は、対象物である物質の撮影画像(photographic image)を取得する。ここでは、撮影部100は、フォーカスレンズを有さない。なお、実施の形態1に係る画像生成装置10は、制御部160、記憶部110および出力部130を備えているが、これらの構成要素は必須ではなく、画像生成装置10はこれらの構成要素を備えていなくてもよい。
実施の形態1における照明器140は、第1の光源141Aと、第2の光源141Bと、マスク142とを備える。第1の光源141Aは、物質を照明する点光源である。第2の光源141Bは、第1の光源141Aから所定の距離だけ離れた位置からその物質を照明する点光源である。マスク142は、第1の光源141Aおよび第2の光源141Bからの光が透過する透光部分、ならびにその光を遮蔽する遮光部分を有し、イメージセンサ150と第1の光源141Aおよび第2の光源141Bとの間に位置する。なお、上述の所定の距離の例は、後述の周期の1/3または2/3に相当する距離である。
以下、この照明器140の詳細について説明する。
図3は、実施の形態1における照明器140の構造の一例を模式的に示す図である。具体的には、照明器140は、上述の第1の光源141Aおよび第2の光源141Bを含む複数の点光源141と、マスク142とを備える。マスク142は、スリットまたはチェッカーパタンを有する。つまり、マスク142は、光を透過する透光部分と光を遮断する遮光部分とを有する。
図4は、複数の点光源141の配置の一例を示す模式図である。図4の例では、複数の点光源141は、等間隔に配列されている。複数の点光源141のそれぞれは、例えば、発光する発光面を有し、マスク142に対応する遮光板に取り付けられる。遮光板は、マスク142の透光部分に対応する複数のピンホールを有する。複数の点光源141は、複数のピンホールを介して、点光源141の発光面が露出するように、位置している。発光面から出力される光は、点光源141を中心に全方向へ均等に広がる。発光面の大きさの一例は、直径10μmであり、ピンホールの大きさの一例も、直径10μmである。
図5は、マスク142の例を示す。具体的には、図5の(a)は、スリットを有するマスク142の一例を示し、図5の(b)は、チェッカーパタンを有するマスク142の一例を示す。なお、図5中の黒色の部分は、上述の遮光部分であり、白色の部分は、上述の透光部分である。図5の例では、(a)のスリットにおいて、黒色ラインの遮光部分と白色ラインの透光部分との幅は同一である。また、(b)のチェッカーパタンにおいて、黒色正方形の遮光部分と、白色正方形の透光部分との大きさは同一である。また、複数の透光部分と複数の遮光部分はマスク142上では等間隔に設定されている。つまり、マスク142の複数の透光部分および複数の遮光部分は、周期的に規則正しく配置されている。また、スリットにおけるラインの幅あるいはチェッカーパタンにおける正方形の一辺の長さは、何れかの点光源141からマスク142を通った光束によって対象物の一部が明るく、残りの部分が暗くなるように設定されている。つまり、その光束による対象物およびイメージセンサ150上での光の明暗パタンが対象物を少なくとも2つの領域(明るい領域と暗い領域)に分割するように、上述の幅あるいは正方形の一辺の長さが設定されている。例えば、対象物が100μmを有する場合、スリットにおけるラインの幅あるいはチェッカーパタンの正方形の一辺の長さは、例えば30μmである。マスク142は、例えばガラス上に金属を蒸着することで実現される。
図6は、イメージセンサ150の上に設置した対象物の一例である。なお、図6では、透明保護膜150aなどを省略している。イメージセンサ150の上に直接、撮影の対象物が設置されている。対象物は、例えば複数の半透明の物質である。複数の物質は3次元的に重なって位置する。物質の具体例は、細胞または培養細胞である。図6の例では、対象物は初期胚である。
イメージセンサ150は、複数の画素を有し、上述の物質が配置される。イメージセンサ150の各画素は、受光面に配置され、複数の点光源141から照射された光の強度(すなわち輝度値)を取得する。イメージセンサ150は、各画素により取得された光の強度に基づいて、撮影画像を取得する。つまり、イメージセンサ150は、複数の点光源141のうちの第1の光源141Aにより照明されたときに、物質の第1の画像を取得し、複数の点光源141のうちの第2の光源141Bにより照明されたときに、物質の第2の画像を取得する。
イメージセンサ150の例は、CMOS(Complementary Metal−Oxide Semiconductor)イメージセンサ又はCCD(Complementary Metal−Oxide Semiconductor)イメージセンサである。
照明器140の複数の点光源141は、順に光を照射する。複数の点光源141は互いに異なる位置に配置され、互いに異なる方向からマスク142を通して対象物に光を照射する。
制御部160は、複数の点光源141による光の照射、及びイメージセンサ150による撮影を制御する。具体的には、制御部160は、複数の点光源141が光を照射する順番、複数の点光源141が光を照射する時間間隔を制御する。制御部160は、CPU(Complementary Metal−Oxide Semiconductor)、RAM(Random Access Memory)、ROM(Read−Only Memory)などからなるコンピュータシステム(図示せず)により構成される。制御部160の構成要素の一部又は全部の機能は、CPUがRAMを作業用のメモリとして用いてROMに記録されたプログラムを実行することによって達成されてもよい。また、制御部160の構成要素の一部又は全部の機能は、専用のハードウェア回路によって達成されてもよい。
図7は、点光源141の位置と、イメージセンサ150が受ける光との関係の一例を示す。図7の例において、物質は培養液中に位置する。例えば、図7の(a)に示すように、点光源141からマスク142の透光部分を透過した光は、物質の一部と、イメージセンサ150の受光面の一部の領域bとを照らすこのとき、物質の一部と、イメージセンサ150の領域bとを照らす光は、点光源141からの直接光だけでなく、屈折光も含む。屈折光は、点光源141からマスク142の透光部分を透過し、培養液または透過性を有する物質によって屈折、反射または散乱した光である。一方、点光源141からの一部の直接光は、マスク142の遮光部分によって遮られ、イメージセンサ150の受光面の領域aには到達しない。しかし、屈折光はその領域aに到達する。したがって、イメージセンサ150の受光面の領域aは、屈折光のみを受光するため暗く、領域bは、直接光と屈折光とを受光するため明るい。
しかし、図7の(a)に示す点光源141が消灯し、図7の(b)に示す他の点光源141が点灯すると、イメージセンサ150の受光面のうち領域aと異なる領域eが、屈折光のみを受光するため暗くなる。また、イメージセンサ150の受光面のうち領域bと異なる領域fが、屈折光と直接光とを受光するため明るくなる。
つまり、物質を照明する点光源141の位置が異なると、イメージセンサ150の受光面の一部の領域は、屈折光と直接光とを受光するために明るくなったり、屈折光のみを受光するために暗くなったりする。実施の形態1では、図4に示すように配置された複数の点光源141、具体的には、マスク142の透光部分および遮光部分が交互に規則的に配列されている方向に沿う複数の点光源141が、順に照明する。したがって、イメージセンサ150の受光面の一部の領域(具体的には画素)は、周期的に、明るくなったり、暗くなったりする。以下、明るくなる期間を、明区間といい、暗くなる期間を、暗区間という。実施の形態1では、このイメージセンサ150の受光面の領域(例えば画素)ごとに、その暗い輝度を利用することによって、物質の鮮明な画像を生成する。
[2−2.記憶部]
記憶部110は、イメージセンサ150で取得された画像を、制御部160で設定された撮影時に照明または点灯していた点光源141の位置(以下、照明位置ともいう)と対応させて記憶する。
図8は、記憶部110が記憶する情報の例である。記憶部110は、イメージセンサ150で取得した画像を識別するIDと、撮影時に点灯していた点光源141の照明位置とを対応させて、記憶する。照明位置は、例えば、イメージセンサ150の複数の有効画素を含む平面の左上角を原点とし、イメージセンサ150の横方向をx軸、縦方向をy軸とする座標上の点として示される。実施の形態1の照明器140の例では、複数の点光源141は、イメージセンサ150の表面(すなわち受光面)と平行な平面上に、イメージセンサ150の表面に対向するように配置されている。つまり、イメージセンサ150の表面から、すべての点光源141のそれぞれまでの距離は同一である。そのため、照明位置は2次元で表現されている。照明位置は、3次元で表現されてもよい。また、全ての点光源141が直線状に配置されている場合には、照明位置は1次元で表現されてもよい。
[2−3.暗画像処理部]
暗画像処理部120は、少なくとも1つの制御回路または処理回路によって実現される。実施の形態1では、暗画像処理部120は、上述の第1の画像における第1の画素領域に対応する第1の画素情報と、第2の画像における第2の画素領域に対応する第2の画素情報とを用いて、第3の画像を生成する。ここで、イメージセンサ150は、第1の画素領域および第2の画素領域を含み、第1の画素領域と第1の光源との間に、マスク142の遮光部分が位置し、第2の画素領域と第2の光源との間に、マスク142の遮光部分が位置する。なお、画素領域は、画素であってもよく、複数の画素からなるブロックであってもよい。また、画素情報は、本実施の形態では輝度または輝度値であるが、画素に関する他の値であってもよい。
図9は、暗画像処理部120の詳細な構成を示す機能ブロック図である。図9に示すように、暗画像処理部120は、データ取得部121と、最小値決定部123と、画像生成部125と、画素選択部126と、記憶部127とからなる。
データ取得部121は、画像処理に使用する画像、すなわちその画像に含まれる画素ごとの輝度値と、その画像に対応する照明位置とを、記憶部110から取得する。
画素選択部126は、イメージセンサ150の複数の画素、すなわち生成しようとする画像中の複数の画素より、輝度計算を行う画素を選択する。なお、この画素選択部126によって選択される画素を、以下、選択画素ともいう。
最小値決定部123は、記憶部110に記憶された複数の画像のそれぞれの、画素選択部126が選択した画素と同一位置にある画素の輝度値を比較し、最小の輝度値を有する画素を含む画像を、その複数の画像から特定する。最小値決定部123は、その最小の輝度値を、選択画素の輝度の最小値として決定する。
なお、最小値決定部123は、上述のように、複数の画像のそれぞれの輝度値を比較することによって、選択画素の輝度の最小値を決定するが、他の方法によって選択画素の輝度の最小値を決定してもよい。つまり、最小値決定部123は、その選択画素に対して予め定められた照明位置の点光源141が照明されたときの撮影によって取得された画像を特定し、その画像において、選択画素と同一位置にある画素の輝度値を最小値として決定する。予め定められた照明位置は、例えば事前に対象物の無い状態での撮影によって取得された画像より決定される。また、予め定められた照明位置は、点光源とマスク142とイメージセンサ150との幾何学的な関係によって決定されてもよい。
図10は、点光源と、マスク142の遮光部分の中心と、画素との位置関係を示す。
図10に示すように、点光源141aまたは141bと、マスク142の遮光部分の中心と、イメージセンサ150の画素とは、幾何的な位置関係を有する。このような位置関係から、各画素に対して、遮光部分の中心に位置する照明位置、あるいは画素と遮光部分の中心とを結ぶ直線上に位置する照明位置が決定される。
図11は、画素ごとに予め定められた照明位置が記録されたテーブルを示す。このテーブルには、例えばイメージセンサ150上のxy座標によって示される全ての画素位置のそれぞれに対して、当該の画素位置と遮光部分の中心とを結ぶ直線上に位置する点光源141の照明位置が記録されている。照明位置は、イメージセンサ上のxy座標で示されている。つまり、最小値決定部123は、何れかの照明位置の点光源141が点灯するときに撮像によって得られた画像のうち、そのテーブルにおいてその照明位置に関連付けられている画素位置の画素の輝度値を、選択画素の輝度の最小値として決定する。
記憶部127は、データ取得部121が記憶部110より取得した画像および照明位置と、最小値決定部123が決定した最小値とを記憶する。
画像生成部125は、画像を生成する。生成される画像に含まれる画素は、最小値決定部123によって決定された最小値の輝度を有する。つまり、画像生成部125によって生成される画像は、上述の第3の画像であって、暗画像ともいう。
なお、暗画像処理部120に含まれるデータ取得部121、最小値決定部123、計算部124、および画像生成部125は、CPU(Complementary Metal−Oxide Semiconductor)、RAM(Random Access Memory)、ROM(Read−Only Memory)などからなるコンピュータシステム(図示せず)により構成される。暗画像処理部120の構成要素の一部又は全部の機能は、CPUがRAMを作業用のメモリとして用いてROMに記録されたプログラムを実行することによって達成されてもよい。また、暗画像処理部120の構成要素の一部又は全部の機能は、専用のハードウェア回路によって達成されてもよい。
[2−4.出力部]
出力部130は、暗画像処理部120によって生成された画像を提示する出力装置、またはその画像を電子データとして出力する手段である。画像を提示する出力装置は、例えばディスプレイである。電子データとして出力する手段は、例えばUSBコネクタである。
[3.画像生成装置の動作]
次に、以上のように構成された画像生成装置10の動作について説明する。
図12は、実施の形態1に係る画像生成装置10の動作の一例を示すフローチャートである。
画像生成装置10は、図示しない動作開始命令の入力により動作を開始する。
(ステップS1200)
撮影部100は、照明器140の複数の点光源141を用いて、複数の対象物の画像を撮影する。この撮影は多光源撮影とも表記される。マスク142を通過した光により対象物が照明されたとき、複数の対象物の画像を撮影する。具体的には、撮影部100は、照明器140の複数の点光源141のそれぞれが対象物を照明するたびに、イメージセンサ150の受光面に到達した光の強度を記録することにより、複数の対象物の画像を取得する。取得された画像は、撮影時に対象物を照明していた点光源141の位置情報(すなわち照明位置)とともに記憶部110で記憶される。ここでは、複数の点光源141の位置は、イメージセンサ150に対して固定されており、複数の点光源141の各々の位置情報は予め定められている。多光源撮影の詳細は後述する。
(ステップS1300)
暗画像処理部120は、照明器140のマスク142によってステップS1200で撮影された画像上の暗部に対して、暗画像処理を行う。ステップS1200において、互いに異なる複数の位置の点光源141のそれぞれにより照明して撮影を行うことで、画像ごとに暗部の位置が異なる。暗画像処理部120は、ステップS1200で撮影された複数の画像に対して、同一の画素位置の輝度について、画像間で比較する。暗画像処理部120は、画素位置(または選択画素)ごとに、輝度の最小値を決定する。暗画像処理の詳細は後述する。
(ステップS1400)
暗画像処理部120の画像生成部125は、ステップS1300で画素位置ごとに決定された輝度の最小値に基づき画像を生成し、出力する。その後、画像生成装置10は動作を終了する。
このように、実施の形態1に係る画像生成方法は、透光性を有する物質の画像を生成する画像生成方法であって、第1の光源141Aと、第2の光源141Bと、イメージセンサ150と、マスク142とを用いる。そして、この画像生成方法では、ステップS1200において、(a)第1の光源141Aが照明されたときに、イメージセンサ150が物質の第1の画像を取得し、(b)第2の光源141Bが照明されたときに、イメージセンサ150が物質の第2の画像を取得する。ここで、イメージセンサ150は、第1の画素領域及び第2の画素領域を含み、第1の画素領域と第1の光源141Aとの間に、遮光部分が位置し、第2の画素領域と第2の光源141Bとの間に、遮光部分が位置する。このような場合に、さらに、この画像生成方法では、ステップS1300およびステップS1400において、第1の画像における第1の画素領域に対応する第1の画素情報と、第2の画像における第2の画素領域に対応する第2の画素情報とを用いて、第3の画像を生成する。
[3−1.多光源撮影]
ここで、図12に示すステップS1200の撮影部100の動作の詳細を説明する。
図13は、撮影部100の動作の一例を示すフローチャートである。
(ステップS1210)
制御部160は、予め定められた複数の照明位置を示すリスト、すなわち照明器140の複数の点光源141の位置を示すリスト(以下、照明位置リストという)を参照して、各照明位置から照明された対象物の撮影が終了したか否かを判定する。
ここで、照明位置リストに含まれるすべての照明位置からの照明による撮影が終了している場合(ステップS1210においてyes)、ステップS1300へ進む。一方、照明位置リスト内のいずれかの照明位置からの照明による撮影が終了していない場合(ステップS1210においてno)、ステップS1120へ進む。なお、照明位置リストに含まれるすべての照明位置からの照明による撮影が終了している場合とは、2周期分の複数の照明位置からの照明による撮影が終了していることを意味する。その2周期分の周期の詳細については、図14を用いて後述する。
(ステップS1220)
制御部160は、照明位置リストに含まれる複数の照明位置の中から、まだ照明が行われていない照明位置を選択し、照明器140へ制御信号を出力する。この制御信号には、選択された照明位置が含まれている。照明位置リストにおける各照明位置、すなわち各点光源141の位置は、例えば、点光源141ごとに割り当てられた番号によって示される。あるいは、各照明位置は、例えば、イメージセンサ150表面をxy平面とするxyz空間における座標値、または、イメージセンサ150表面に平行な面上に設定されたxy平面における座標値によって示される。照明位置の選択は、例えば、照明位置リストの昇順に行われる。
(ステップS1230)
照明器140は、ステップS1220で制御部160より出力された制御信号に従って、対象物への照明を開始する。つまり、照明器140に含まれる複数の点光源141のうち、ステップS1220で選択された照明位置にある点光源141が光の照射を開始する。
(ステップS1240)
点光源141によって対象物が照明されている間に、イメージセンサ150は、当該点光源141からマスク142を通し、さらに対象物を透過した光によって形成される画像を取得する。
(ステップS1250)
制御部160は、ステップS1240で取得した画像と、当該画像の取得時に照明していた点光源141の照明位置とを対応付けて記憶部110に出力する。記憶部110は画像と照明位置とを対応付けて記憶する。
(ステップS1260)
その後、制御部160は、照明器140へ制御信号を出力して、対象物への照明を停止させる。なお、照明の停止は、制御部160からの制御信号に従って行われなくてもよい。例えば、照明器140は、点光源141のうちの1つの点光源による照明を開始してからの時間長を計時して、計時した時間長が予め定められた時間長を超えたら照明を能動的に停止してもよい。あるいはステップS1240でイメージセンサ150が画像の取得を終了した後に、イメージセンサ150は、照明を停止するための制御信号を照明器140に出力してもよい。ステップS1260の後、ステップS1210へ戻る。
ステップS1210からステップS1260までの処理が繰り返されることで、照明位置リストに含まれるすべての照明位置の点光源141から順次対象物に光が照射される。そして、対象物にマスク142を通して光が照射されるたびに、イメージセンサ150が画像を取得する。
[3−2.点光源配置]
ここで、照明位置すなわち複数の点光源141の位置について詳細に説明する。
図14は、イメージセンサ150上の任意の1画素における、点光源141の位置とマスク142の位置とによる明暗のパタンを説明する模式図である。マスク142の黒く塗りつぶした長方形は遮光部分を示し、白抜きの長方形は光を透過する透光部分を示している。なお、図14中、点光源141a、点光源141bおよび点光源141cのそれぞれは、照明器140に含まれる複数の点光源141のうちの何れかである。
点光源141aからイメージセンサ150上の任意の画素Aへ届く光は、光線1であり、マスク142の遮光部分142bと透光部分142aとの境界線上を通る。点光源141bから画素Aへ届く光は、光線2であり、マスク142の遮光部分142bと透光部分142cとの境界線上を通る。図14中の点光源141aより左側で、点光源141bより右側に点光源141が位置する場合、当該点光源141から画素Aへ照射する光線は、マスク142の遮光部分142bにさえぎられる。すなわち、画素Aに対して、点光源141aの位置から点光源141bの位置までの区間は、光源からの直接光がマスク142の遮光部分142bによってさえぎられて光線が到達せず暗い区間(以降では暗区間と表示する)となる。なお、暗区間は、点光源141a〜点光源141bまでの各点光源が順に照明する期間とも言える。
一方、点光源141cから画素Aへ届く光線は、光線3であり、マスク142の透光部分142cと遮光部分142dとの境界線上を通る。図14中の点光源141bより左側で、点光源141cより右側に点光源141が位置する場合、当該点光源141から画素Aへ照射する光線は、マスク142の透光部分142cを透過して、イメージセンサ150表面の画素Aに到達する。すなわち、画素Aに対して、点光源141bの位置から点光源141cの位置までの区間は、光源からの直接光が到達する明るい区間(以降では明区間と表示する)となる。なお、明区間は、点光源141b〜点光源141cまでの各点光源が順に照明する期間とも言える。上述の周期は、明区間および暗区間からなる。すなわち、1つの明区間と1つの暗区間とをあわせて照明の1周期とする。言い換えれば、照明器140における複数の点光源141のそれぞれが、等間隔離れて配置され、予め定められた時間ごとに順に照明する場合、1つの明区間と1つの暗区間とに配置された複数の点光源141のそれぞれが順に照明する期間が、1周期となる。
画素Aとは位置の異なる画素Bにおいては、明区間と暗区間の境界位置が画素Aに対する境界位置とは異なる。しかしながら、画素Aに対する明区間と暗区間の大きさと、画素Bに対する明区間と暗区間の大きさとは、同一である。これは、画素Aと画素Bとに対して、マスク142の遮光部分と透光部分の大きさ、マスク142とイメージセンサ150表面との距離、および、点光源141とイメージセンサ150表面との距離が同じであるからである。すなわち、イメージセンサ150上の任意の画素において、明暗の周期は同じであるが、画素の位置によって明暗パタンの位相が異なることになる。
図12に示すステップS1300において、暗画像処理部120は、イメージセンサ150の各画素について、撮影によって取得された複数画像のそれぞれの同一位置の画素での輝度の最小値を決定する。この輝度の最小値は、イメージセンサ150上の各画素の暗区間に対応している。
すなわち、実施の形態1では、イメージセンサ150の受光面の一部の領域は、物質を照明する第1の光源とその領域との間にマスク142の遮光部分が配置されている状態で第1の画像を取得する。これにより、暗区間にある第1の画像が取得される。また、イメージセンサ150の受光面の一部の他の領域は、物質を照明する第2の光源とその領域との間にマスク142の遮光部分が配置されている状態で第2の画像を取得する。これにより、暗区間にある第2の画像が取得される。
ここで、撮影された画像の全画素で、輝度の最小値を特定するために必要な撮影の条件は、イメージセンサ150上の全画素で、暗区間の照明状態で撮影が行われていることである。イメージセンサ150上の全画素のそれぞれでは、位相は異なるが、周期は同一である。したがって、少なくとも、図14に示す暗区間に配置された1つの点光源141から照明が行われたときの撮影が必要である。すなわち、照明する点光源141の位置が少なくとも半周期分に相当する距離だけ移動する必要がある。実際には、複数の点光源141からの光を順にマスク142に通過させると、明区間と暗区間との境界は、はっきりとはしない。
図15は、イメージセンサ150上の各位置における光の強度を示す。例えば、図15のように、境界部分の輝度はなだらかに変化する。そのため、照明する点光源141が、半周期分に相当する距離だけ移動しても、イメージセンサ150上の全画素で明区間と暗区間での撮影結果を得ることができない場合がある。発明者らは経験的に、2周期分に対応する移動の範囲において、1/3周期に対応する間隔で点光源141を配置し、逐次点光源141を点灯して撮影を行うと、イメージセンサ150上の全画素で明区間と暗区間での撮影結果が得られることを確認している。つまり、照明器140における複数の点光源141の間隔は、1/2周期に対応する距離以下であり、好ましくは、1/3周期に対応する距離以下である。そして、上述の第1の光源141Aと第2の光源141Bとの間の所定の距離は、イメージセンサ150上の任意の画素に対する明区間の照明位置と、その画素に対する暗区間の照明位置との間の距離である。具体的には、複数の点光源141の間隔が1/3周期に対応する距離である場合、上述の第1の光源141Aと第2の光源141Bとの間の所定の距離は、その周期の1/3または2/3に相当する距離である。
ステップS1210で参照される照明位置リストは、例えば2周期の範囲を1/3周期に対応する間隔で、スリットを横切る方向に点光源141を配置した際の7点の照明位置を示したリストである。なお、スリットを横切る方向とは、マスク142の遮光部分と透光部分とが交互に配列される方向である。
[3−3.暗画像処理]
図12に示すステップS1300の暗画像処理部120の動作の詳細を説明する。
図16は、実施の形態1に係る暗画像処理部120の動作の一例を示すフローチャートである。
(ステップS1310)
暗画像処理部120のデータ取得部121は、ステップS1200で取得された画像およびその画像に対応する照明位置を、記憶部110より取得する。
(ステップS1320)
画素選択部126は、生成される画像に含まれる全画素について暗画像処理が終了したか否かを判定する。暗画像処理とは、ステップS1320からステップS1360までの処理を意味する。
生成される画像に含まれる全画素について暗画像処理が終了している場合(ステップS1320においてyes)、暗画像処理部120は、暗画像処理を終了する(ステップS1400へ進む)。
生成される画像に含まれるいずれかの画素について暗画像処理が終了していない場合(ステップS1320においてno)、暗画像処理部120は、暗画像処理を続行する(ステップS1330へ進む)。なお、生成される画像は、ステップS1200で取得された複数の画像のうちの最も画素の少ない画像より、少ない画素を含む。
(ステップS1330)
画素選択部126は、生成される画像に含まれる複数の画素の中から1つの画素を選択する。ここで選択される1つの画素は、生成される画像に含まれる複数の画素のうち、暗画像処理がまだ実行されていない画素である。なお、生成される画像の画素値の初期値は0である。
(ステップS1340)
最小値決定部123は、ステップS1330で選択された画素の画素位置について、ステップS1200で撮影された複数の画像のそれぞれにおける当該画素位置の画素の輝度値を比較し、最小の輝度値を決定する。
(ステップS1360)
画像生成部125は、ステップS1340で決定した最小の輝度値を、ステップS1330で選択された画素の輝度値として記憶する。
ステップS1320からステップS1360までの各処理を繰り返すことで、生成される画像の全画素の輝度値を生成することができる。これにより、第3の画像である暗画像が生成される。
[4.効果]
以上のように実施の形態1に係る画像生成装置10によれば、位置の異なる複数の点光源141からの光を、マスク142に通して対象物およびイメージセンサ150に投射して、透過光による撮影を行う。マスク142は、スリットあるいはチェッカーパタンなどの、遮光部分と透光部分との繰り返しパタンを持つ。取得された複数の画像から、画素位置ごとに、マスク142の遮光部分により点光源141からの直接光がさえぎられた状態で撮影されたときの、最小輝度値を決定する。最小輝度値は、直接光がなく、対象物による散乱光あるいは屈折光のみを含む輝度を示す。最小輝度値により画像を生成することで、直接光を除外し、散乱光あるいは屈折光による中間の輝度の情報が多い、見やすい画像を暗画像として生成することができる。
図17は、本実施の形態における暗画像と、従来の画像とを比較して示す。
図17の(a)に示す画像は、1つの点光源による透過光でイメージセンサ上に設置した胚を撮影した撮影画像である。図17の(b)に示すグラフは、(a)の撮影画像に含まれる画素の、輝度(画素値)に対するヒストグラムである。図17の(c)に示す画像は、本実施の形態によって得られた胚の画像(すなわち暗画像)である。図17の(d)に示すグラフは、(c)の暗画像に含まれる画素の、輝度(画素値)に対するヒストグラムである。点光源による透過光で撮影された(a)に示す撮影画像のヒストグラムでは、(b)に示すように、極端に明るい画素と極端に暗い画素とが多く、コントラストは強いがちらつきあるいはぎらつきが多い。したがって、このヒストグラムは、(a)の撮影画像が対象物の形を判別しにくい画像であることを示している。これに対して、本実施の形態により生成された(c)に示す暗画像では、(d)のヒストグラムに示すように、極端に暗い画素、および極端に明るい画素は多くなく、中間の輝度に画素が多く分布し、濃淡の情報が多い。したがって、(c)に示す暗画像は、線や面による形の判別がしやすい画像である。このように、本実施の形態では、濃淡の情報が多く見やすい画像を得ることができる。
なお、本実施の形態1では、暗画像処理部120は、複数の異なる照明位置の点光源141のそれぞれが順に照明したときに撮影された複数の画像から、処理対象の画素位置にある画素の輝度の最小値を選択した。そして、暗画像処理部120は、その選択された最小値を、暗画像におけるその画素位置にある画素の輝度として決定した。しかし、図11に示すように、予め定められた画素が、最小の輝度値を有する画素(暗画素)となる照明位置を示す情報にしたがって、処理対象の画素位置にある画素の輝度を選択してもよい。つまり、その情報にしたがって、撮影された画像から、その撮影時に照明していた点光源141の照明位置に対して予め定められた画素位置の画素を選択する。そして、その選択された画素位置の画素の輝度値を、暗画像におけるその画素位置の画素の輝度値として決定する。また、図10に示すような幾何的関係を記憶しておき、都度、処理対象の画素位置にある画素に対応する照明位置を計算で求めてもよい。この場合、求められた照明位置での照明時に撮影された画像から、その処理対象の画素位置にある画素の輝度値を選択し、その選択された輝度値を、暗画像におけるその画素位置の画素の輝度値として決定する。
(実施の形態2)
実施の形態1では、各画素が明区間及び暗区間の1周期以上を含むの期間において撮影され、画素位置ごとに、複数の画像から最小輝度値を決定して、暗画像におけるその画素位置の画素の輝度値を決定した。実施の形態2では、実施の形態1の暗画像処理によって生成された暗画像の輝度分布を解析することにより、対象物(例えば、胚に含まれる細胞)の配置を特定する。以下、実施の形態2について詳細に説明する。
図18は、実施の形態2に係る画像生成装置10の機能ブロック図である。
実施の形態2に係る画像生成装置10は、実施の形態1の画像生成装置10の全ての構成要素を備えるとともに、細胞位置特定部210を備える。なお、この細胞位置特定部210は、暗画像処理部120と同様に、処理回路によって実現される。
[細胞位置特定部]
細胞位置特定部210は、例えばユーザによる操作に応じて細胞数を取得し、暗画像からその細胞数だけの細胞の位置を特定する。つまり、本実施の形態では、対象物である物質は、細胞を含む胚である。そして、細胞位置特定部210は、暗画像である第3の画像における第1の閾値以上の輝度を有する領域を、細胞の位置する領域と特定する。なお、この細胞の位置する領域を、細胞領域ともいう。
図19は、細胞位置特定部210の詳細な構成を示す機能ブロック図である。図19に示すように、細胞位置特定部210は、暗画像取得部211、閾値決定部212、細胞数取得部213、クラスタリング部214、重心計算部215、輪郭線推定部216、および画像合成部217を備える。
暗画像取得部211は、暗画像処理部120によって生成された暗画像を取得する。
閾値決定部212は、暗画像取得部211によって取得された暗画像の、輝度の範囲に基づいて、クラスタリングの対象となる画素を選択するための、輝度の閾値を決定する。この閾値は、例えば、暗画像における全画素の輝度分布において、その閾値以下の輝度を有する画素の数が全画素数のうちの50%になるという条件を満たす輝度である。つまり、この閾値は、暗画像における全画素の輝度分布の中央値である。
細胞数取得部213は、指定された細胞数を取得する。例えば、細胞数取得部213は、図示しない入力手段によってユーザによる細胞数の入力を受付ける。あるいは、細胞数取得部213は、例えば、図示しない記憶部にテーブルとして記憶された、培養時間と細胞数との対応情報を参照し、図示しない計時手段によって計測された培養時間に基づいて、そのテーブルから細胞数を取得する。
クラスタリング部214は、暗画像取得部211によって取得された暗画像中の複数の画素であって、閾値決定部212によって決定された閾値以上の輝度を持つ複数の画素からなる集合を、細胞数取得部213によって取得された細胞数のクラスタに分割する。クラスタリング部214は、クラスタリングに、画素の輝度と座標とを用いる。クラスタリングの方法は例えばk−means法である。
重心計算部215は、クラスタリング部214による分割によって得られた細胞数のクラスタのそれぞれについて、そのクラスタに含まれる複数の画素の重心位置を求める。
輪郭線推定部216は、重心計算部215によってクラスタごとに計算された重心位置を中心とする円の円周を、細胞の輪郭線として推定する。円は例えば、クラスタの重心位置を中心とし、クラスタの全ての要素(全ての画素)のうちの80%以上の要素を含む円であって、半径が最小の円である。
画像合成部217は、暗画像に対して、重心計算部215によって算出された重心位置を示すマーク(例えば、×)と、輪郭線推定部216によって推定された輪郭線とを合成することによって、合成画像を生成する。つまり、画像合成部217は、暗画像である第3の画像と、細胞が位置する領域とを用いて、細胞が位置する領域が強調された第4の画像を合成画像として生成する。
図20は、実施の形態2に係る画像生成装置10の動作の一例を示すフローチャートである。
(S1500)
画像生成装置10は、実施の形態1と同様、ステップS1200〜S1400の処理を行うが、さらに、細胞の位置を判定する。
ここで、図20に示すステップS1500の細胞位置特定部210の動作の詳細を説明する。
図21は、細胞位置特定部210の動作の一例を示すフローチャートである。
(S1510)
まず、閾値決定部212は、クラスタリングの対象となる画素を選択するための輝度の閾値を決定する。
(S1520)
次に、クラスタリング部214は、その閾値を用いて、暗画像からクラスタリングの対象となる複数の画素を選択し、その選択された複数の画素からなる集合を細胞数のクラスタに分割する。
(S1530)
次に、細胞位置特定部210は、細胞数のクラスタのそれぞれに対して、細胞の輪郭線を推定する。つまり、重心計算部215が、クラスタの重心位置を算出する。そして、輪郭線推定部216が、その重心位置を中心とする円であって、クラスタの全画素のうちの80%の画素を含む円の円周を、細胞の輪郭線として導出する。
図22は、閾値決定部212の動作の一例を示すフローチャートである。つまり、この図22は、図21のフローチャートにおけるステップS1510の処理の詳細を示す。
(S1511)
まず、閾値決定部212は、暗画像処理部120によって生成された暗画像を、暗画像取得部211を介して取得する。
(S1512)
次に、閾値決定部212は、暗画像における全画素の輝度分布の中央値を算出する。
(S1513)
そして、閾値決定部212は、その算出された中央値を閾値として決定する。
図23は、暗画像の輝度分布の中央値を示す。
閾値決定部212は、図23に示すように、暗画像における全画素の輝度分布において、閾値以下の輝度を有する画素の数が、暗画像の全画素数の50%になる条件を満たすその閾値を、クラスタリングの対象となる画素を選択するための閾値として決定する。
図24は、重心計算部215および輪郭線推定部216の動作の一例を示すフローチャートである。つまり、この図24は、図21のフローチャートにおけるステップS1530の処理の詳細を示す。
(S1531)
重心計算部215は、全てのクラスタに対して細胞の輪郭線が推定されたか否かを判定する。ここで、推定された場合(ステップS1531のyes)、細胞位置特定部210は、ステップS1400の処理に進む。
(S1532)
ステップS1531において、全てのクラスタに対して輪郭線が推定されていないと判定すると(ステップS1531のno)、重心計算部215は、細胞数のクラスタのうち、輪郭線が推定されていない細胞に対応する1つのクラスタを選択する。
(S1533)
重心計算部215は、選択されたクラスタの重心位置、つまり、クラスタに含まれる複数の画素の重心位置を算出する。
(S1534)
次に、輪郭線推定部216は、円の初期半径を設定する。
(S1535)
次に、輪郭線推定部216は、重心計算部215によって算出された重心位置を中心とする円に、クラスタの全画素のうちの80%の画素が含まれているか否かを判定する。この円の半径は、ステップS1537の処理が行われていない場合には、ステップS1534によって設定された初期半径であり、ステップS1537の処理が行われている場合には、直近のステップS1537の処理によって設定された半径である。
(S1536)
輪郭線推定部216は、80%の画素が含まれていると判定すると(ステップS1535のyes)、ステップS1535の判定に用いられた円の半径を、細胞の輪郭線の半径として決定する。つまり、円の中心と半径が決定されることによって、細胞の輪郭線が決定または推定される。このように細胞の輪郭線が推定されると、重心計算部215は、ステップS1531からの処理を繰り返し実行する。
(S1537)
一方、輪郭線推定部216は、80%の画素が含まれていないと判定すると(ステップS1535のno)、ステップS1535の判定に用いられた円の半径を伸長することによって、その半径を設定し直す。そして、輪郭線推定部216は、ステップS1535からの処理を繰り返し実行する。
図25は、暗画像から輪郭線が推定されるまでの処理を模式的に示す。
例えば、細胞位置特定部210は、図25の(a)に示す暗画像を取得し、その暗画像に含まれる全ての画素から、閾値を用いて、図25の(b)に示すように、クラスタリングの対象とされる画素の集合を選択する。
次に、細胞位置特定部210は、図25の(c)に示すように、その画素の集合を細胞数のクラスタに分割し、図25の(d)に示すように、各クラスタの重心位置を算出する。そして、細胞位置特定部210は、図25の(e)に示すように、その重心位置を中心とする円の円周を、細胞の輪郭線として推定する。
図26は、画像合成部217によって生成される合成画像の例を示す。
画像合成部217は、細胞数が2の場合、例えば図26の(a)に示す合成画像を生成する。また、画像合成部217は、細胞数が4の場合、例えば図26の(b)に示す合成画像を生成する。この図26に示す例において、×は、細胞の重心位置を示すマークであり、破線の円周は、細胞の輪郭線を示す。
[効果]
暗画像では細胞が、散乱光によって一様に高い輝度で撮影される。細胞内部の散乱物質は、細胞内にある微細構造物である。胚の中でも、細胞外には微細構造物が非常に少なく光は散乱されない。すなわち、胚の中でも細胞のみが高い輝度で撮影されることとなる。そこで、暗画像から閾値以上の輝度を持つ画素を抽出し、さらに抽出された画素をクラスタリングすることで、複数の細胞の位置を精度良く特定することができる。
(実施の形態3)
実施の形態1では、各画素が明区間と暗区間の1周期以上の期間において撮影され、画素位置ごとに、複数の画像から最小輝度を抽出して、その画素位置における画素の輝度を求めた。また、実施の形態2では、取得された暗画像の輝度分布より対象物の配置を特定した。実施の形態3では、実施の形態1の暗画像処理によって生成された暗画像の輝度により、対象物の内部の微細構造物の量から細胞の異常を判定する。以下、実施の形態3について詳細に説明する。
図27は、実施の形態3に係る画像生成装置10の機能ブロック図である。
実施の形態3に係る画像生成装置10は、実施の形態2の画像生成装置10の全ての構成要素を備えるとともに、異常細胞検出部220を備える。なお、この異常細胞検出部220は、暗画像処理部120と同様に、処理回路によって実現される。
[異常細胞検出部]
異常細胞検出部220は、暗画像処理部120から暗画像を取得し、さらに、細胞位置特定部210によって推定された細胞の輪郭線を取得する。そして、異常細胞検出部220は、その輪郭線によって囲まれた細胞領域を暗画像から特定し、その細胞領域に対応する細胞の異常を検出する。つまり、本実施の形態では、対象物である物質は、複数の細胞を含む胚である。そして、異常細胞検出部220は、(a1)暗画像である第3の画像における第1の閾値以上の輝度を有する複数の細胞領域を抽出し、(a2)その複数の細胞領域のそれぞれの輝度が第2の範囲内にあるか否かを判定し、(a3)その判定結果を出力する。
図28は、異常細胞検出部220の詳細な構成を示す機能ブロック図である。図28に示すように、異常細胞検出部220は、暗画像取得部221、領域取得部222、領域平均輝度計算部223、および異常判定部224を備える。
暗画像取得部221は、暗画像処理部120によって生成された暗画像を取得する。
領域取得部222は、細胞位置特定部210の輪郭線推定部216から、推定された全ての輪郭線を取得する。輪郭線は、円周の中心および半径によって定義される。
領域平均輝度計算部223は、領域取得部222によって取得された全ての輪郭線のそれぞれによって囲まれた細胞領域を暗画像から特定する。そして、領域平均輝度計算部223は、特定された全ての細胞領域のそれぞれの平均輝度値を算出する。
異常判定部224は、領域平均輝度計算部223によって算出された平均輝度値を用いて、全ての細胞領域のそれぞれに対応する細胞が異常か否かを判定する。具体的には、異常判定部224は、全ての細胞領域のそれぞれの輝度平均値の平均を全平均値として算出し、さらに標準偏差を求める。そして、異常判定部224は、「全平均値−SD(標準偏差)」より小さい輝度平均値を有する細胞領域に対応する細胞は、異常であると判定する。
また、細胞領域が3つ以下の場合、異常判定部224は、全ての細胞領域のそれぞれの輝度平均値のうちの最大の値を選択し、その最大の値から一定の値を下回る輝度平均値を有する細胞領域に対応する細胞は、異常であると判定する。例えば、異常判定部224は、その最大の値の60%以下の輝度平均値を有する細胞領域に対応する細部は、異常であると判定する。
このように、異常判定部224は、複数の細胞領域のそれぞれの輝度が第2の範囲内にある場合には、その複数の細胞は正常であることを示す判定結果を出力し、その複数の細胞領域のそれぞれの輝度が第2の範囲外である場合には、その複数の細胞は異常であることを示す判定結果を出力する。
なお、上述の例では、異常であるか否かを判定するために、細胞領域の輝度平均値を比較したが、全ての細胞領域のそれぞれの輝度の分散を比較してもよい。輝度の分散あるいは標準偏差を比較する場合は、異常判定部224は、細胞領域の分散あるいは標準偏差が、他の細胞領域の分散あるいは標準偏差より一定以上大きい場合、その細胞領域に対応する細胞は異常であると判定する。
図29は、実施の形態3に係る画像生成装置10の動作の一例を示すフローチャートである。
(S1600)
画像生成装置10は、実施の形態2と同様、ステップS1200〜S1500の処理を行うが、さらに、暗画像における細胞領域に対応する細胞が異常であるか否かを判定する。
ここで、図29に示すステップS1600の異常細胞検出部220の動作の詳細を説明する。
図30は、異常細胞検出部220の動作の一例を示すフローチャートである。
(S1601)
まず、暗画像取得部221は、暗画像処理部120から暗画像を取得し、領域取得部222は、細胞位置特定部210の輪郭線推定部216によって推定された全ての輪郭線を取得する。そして、領域平均輝度計算部223は、その全ての輪郭線のそれぞれによって囲まれた細胞領域を暗画像から取得する。
(S1602)
次に、領域平均輝度計算部223は、全ての細胞領域に対して平均輝度値を算出する処理が終了したか否かを判定する。
(S1603)
領域平均輝度計算部223は、全ての細胞領域に対して処理が終了していないと判定すると(ステップS1602のno)、全ての細胞領域のうち、平均輝度値が算出されていない1つの細胞領域を決定する。
(S1604)
そして、領域平均輝度計算部223は、その決定された細胞領域の平均輝度値を算出し、ステップS1602からの処理を繰り返し実行する。
(S1605)
一方、ステップS1602において、全ての細胞領域に対して平均輝度値を算出する処理が終了したと判定されると(ステップS1602のyes)、異常判定部224は、全ての細胞領域のそれぞれの平均輝度値を判定値と比較する。この判定値は、例えば「全平均値−SD(標準偏差)」である。
(S1606)
異常判定部224は、ステップS1605の比較によって、全ての細胞領域のそれぞれの平均輝度値が判定値よりも小さいか否かを判定する(ステップS1606)。
(S1607)
何れかの細胞領域の平均輝度値が判定値よりも小さいと判定すると(ステップS1606のyes)、異常判定部224は、その細胞領域に対応する細胞が異常であると判定する。
(S1608)
そして、異常判定部224は、その細胞が異常であることを細胞位置特定部210の画像合成部217に通知する。つまり、異常判定部224は、異常と判定された細胞領域を異常領域として画像合成部217に出力する。
(S1609)
一方、ステップS1606において、何れの細胞領域の平均輝度値も判定値以上であると判定すると(ステップS1606のno)、異常判定部224は、何れの細胞領域にも異常がないことを細胞位置特定部210の画像合成部217に通知する。つまり、異常判定部224は、異常なしを画像合成部217に出力する。
図31は、画像合成部217によって生成される合成画像の一例を示す。
画像合成部217は、異常細胞検出部220の異常判定部224から異常領域を取得すると、図31に示すように、その異常領域の輪郭線が強調された合成画像を生成する。また、画像合成部217は、異常領域の重心位置を示すマークが強調された合成画像を生成してもよい。画像合成部217は、輪郭線または重心位置を示すマーク(例えば×)を太くすることによって、それらを強調してもよい。また、画像合成部217は、その異常領域が他の細胞領域の色と異なる色によって表された合成画像を生成してもよい。また、画像合成部217は、その異常領域が点滅によって表された合成画像を生成してもよい。
[効果]
細胞の膜の形状を示す輪郭線では細胞内部の状態はわからない。細胞内部の微細構造物の量は蛍光染色によって確認する必要があった。実施の形態3では、細胞内部の微細構造物を直接観察することは出来ないが、細胞内の微細構造物の量を暗画像の輝度として観察することが出来る。これにより、染色等の細胞に対する処理なしに、細胞内部の微細構造物の量から、細胞の良否の状態を推定することが出来る。
(実施の形態3の変形例)
本変形例では、異常細胞検出部220は、あらかじめ定められた判定値を輝度判定基準として保持している。
図32は、実施の形態3の変形例に係る異常細胞検出部220の詳細な構成を示す機能ブロック図である。図32に示すように、本変形例に係る異常細胞検出部220は、上記実施の形態3の異常細胞検出部220の全ての構成要素を備えるとともに、さらに、判定基準保持部225を備える。
この判定基準保持部225は、予め定められた輝度の判定値(例えば1300)を保持している。
異常判定部224は、例えば、細胞領域の平均輝度値がその判定値を下回る場合に、その細胞領域に対応する細胞は異常であると判断する。
図33は、本変形例に係る異常細胞検出部220の動作の一例を示すフローチャートである。
(S1611)
まず、暗画像取得部221は、暗画像処理部120から暗画像を取得し、領域取得部222は、細胞位置特定部210の輪郭線推定部216によって推定された全ての輪郭線を取得する。そして、領域平均輝度計算部223は、その全ての輪郭線のそれぞれによって囲まれた細胞領域を暗画像から取得する。
(S1612)
次に、領域平均輝度計算部223は、全ての細胞領域に対して異常の有無の判定処理が終了したか否かを判定する。
(S1613)
領域平均輝度計算部223は、全ての細胞領域に対して処理が終了していないと判定すると(ステップS1612のno)、全ての細胞領域のうち、判定処理が行われていない1つの細胞領域を決定する。
(S1614)
そして、領域平均輝度計算部223は、その決定された細胞領域の平均輝度値を算出する。
(S1615)
次に、異常判定部224は、判定基準保持部225から判定値を取得し、算出された細胞領域の平均輝度値がその判定値以上か否かを判定する。
(S1616)
細胞領域の平均輝度値が判定値未満であると判定すると(ステップS1615のno)、異常判定部224は、その細胞領域に対応する細胞が異常であると判定する。そして、異常細胞検出部220は、ステップS1612からの処理を繰り返し実行する。
(S1617)
一方、細胞領域の平均輝度値が判定値以上であると判定すると(ステップS1615のyes)、異常判定部224は、その細胞領域に対応する細胞は異常ではないと判定する。そして、異常細胞検出部220は、ステップS1612からの処理を繰り返し実行する。
(S1618)
ステップS1612において、全ての細胞領域に対して異常の有無の判定処理が終了したと判定されると(ステップS1612のyes)、異常判定部224は、ステップS1616およびS1617によって判定された結果を、細胞位置特定部210の画像合成部217に出力する。つまり、ステップS1616で何れかの細胞が異常であると判定された場合には、異常判定部224は、その異常である細胞の細胞領域を異常領域として画像合成部217に出力する。
ここで、判定基準保持部225は、予め定められた判定値の代わりに、暗画像から判定値を導出してもよい。
図34は、暗画像の輝度分布を示す。
判定基準保持部225は、図34に示すように、暗画像における全画素の輝度分布において、判定値以下の輝度値を有する画素の数が、暗画像の全画素の70%になる条件を満たすその判定値を、細胞の異常の有無を判定するための判定値として算出する。
図35は、判定基準保持部225の動作の一例を示すフローチャートである。
(S1901)
判定基準保持部225は、暗画像処理部120から暗画像取得部221を介して暗画像を取得する。
(S1902)
次に、判定基準保持部225は、その暗画像における輝度分布に基づいて、設定輝度値以下の輝度値を有する画素の数が、暗画像の全画素の70%になる条件を満たすその設定輝度値を算出する。
(S1903)
判定基準保持部225は、その算出された設定輝度値を、細胞の異常の有無を判定するための判定値として決定する。 (実施の形態4)
実施の形態4では、少なくとも1つの細胞領域のそれぞれについて、その細胞領域の密度を特定して表示する。
図36は、実施の形態4に係る画像生成装置10の機能ブロック図である。
実施の形態4に係る画像生成装置10は、実施の形態2の画像生成装置10の全ての構成要素を備えるとともに、細胞密度特定部230を備える。なお、この細胞密度特定部230は、暗画像処理部120と同様に、処理回路によって実現される。
[細胞密度特定部]
細胞密度特定部230は、暗画像処理部120から暗画像を取得し、さらに、細胞位置特定部210によって推定された細胞の輪郭線を取得する。そして、細胞密度特定部230は、その輪郭線によって囲まれた細胞領域の輝度に基づいて、その細胞領域に対応する細胞の密度を特定し、その密度を表示する。つまり、本実施の形態では、対象物である物質は、細胞を含む胚である。そして、細胞密度特定部230は、(b1)暗画像である第3の画像における第1の閾値以上の輝度を有する細胞領域を抽出し、(b2)その細胞領域の輝度に基づいて、細胞の密度を算出する。
図37は、細胞密度特定部230の詳細な構成を示す機能ブロック図である。図37に示すように、細胞密度特定部230は、暗画像取得部231、領域取得部232、領域平均輝度計算部233、密度特定部234、および関数記憶部235を備える。
暗画像取得部231は、暗画像処理部120によって生成された暗画像を取得する。
領域取得部232は、細胞位置特定部210の輪郭線推定部216から、推定された全ての輪郭線を取得する。輪郭線は、円周の中心および半径によって定義される。
領域平均輝度計算部233は、領域取得部222によって取得された全ての輪郭線のそれぞれによって囲まれた細胞領域を暗画像から特定する。そして、領域平均輝度計算部233は、特定された全ての細胞領域のそれぞれの平均輝度値を算出する。
関数記憶部235は、あらかじめ測定によって定められた平均輝度値と細胞の密度との関係を示す関数を記憶している。なお、関数記憶部235は、関数の代わりに、その関係を示す対応表を記憶していてもよい。
密度特定部234は、関数記憶部235から関数を読み出す。そして、密度特定部234は、その関数を参照して、領域平均輝度計算部233によって算出された全ての細胞領域のそれぞれの平均輝度値に対応する密度を特定する。密度特定部234は、全ての細胞領域のそれぞれに対して特定された密度を、出力部130に出力する。
図38は、関数記憶部235に記憶されている関数の一例を示す。
この関数記憶部235に記憶されている関数は、正常細胞の平均輝度値に対応する密度として100%を示す。また、その関数は、正常でない細胞の平均輝度値に対応する密度として、100%未満の割合を示す。ここで、正常でない細胞は、実験的に正常細胞に含まれる複数の微細構造物のうち特定の物質(ミトコンドリアまたは微小管等)の量を薬物によって減少させた細胞である。つまり、関数は、このような細胞に対して実験的に測定された平均輝度値と、その細胞において減少された物質の量の割合とを対応付けて示す。また、関数記憶部235は、細胞種類(例えば初期胚、軟骨細胞、心筋細胞、または神経細胞等)ごとに、その細胞種類に応じた関数を記憶していてもよい。
図39Aおよび図39Bは、実施の形態4に係る出力部130によって表示される合成画像の一例を示す。
出力部130は、例えば、図39Aに示すように、細胞領域の重心位置を示すマークおよび輪郭線と、カーソルとが重畳された暗画像を表示する。出力部130は、ユーザによる操作に応じてカーソルを移動させ、そのカーソルが当てられている細胞領域に対して特定された密度(例えば40%)を細胞密度として表示する。また、その細胞密度が異常値に該当する場合には、出力部130は、その細胞密度に対応する細胞領域を強調して表示する。異常値は、例えば60%以下の密度である。また、出力部130は、細胞領域を強調するときには、細胞領域の輪郭線の色の変更、反転表示、または点滅によって、その細胞領域を強調する。
また、出力部130は、例えば、図39Bに示すように、細胞領域の重心位置を示すマークおよび輪郭線と、カーソルとが重畳された暗画像を表示するとともに、全ての細胞領域に対して特定された密度を細胞密度として表示してもよい。この場合、出力部130は、ユーザによる操作に応じてカーソルを移動させ、そのカーソルが当てられている細胞領域に対して表示されている細胞密度を強調する。例えば、出力部130は、その細胞密度を反転表示する。また、出力部130は、カーソルが当てられている細胞領域を強調して表示してもよい。
[効果]
細胞内部の微細構造物の量は蛍光染色によって確認する必要があった。実施の形態4では、暗画像の輝度と、細胞内の微細構造物の量との関係を実験的に測定した関数をあらかじめ用意し、参照することで、染色等の処理なく、可視光による観察のみで、細胞内部の微細構造物の密度を推定することが出来る。これにより、細胞の良否の状態を推定することが出来る。
(その他の実施の形態)
以上、一つまたは複数の態様に係る画像生成装置について、各実施の形態およびその変形例に基づいて説明したが、本開示は、これらの各実施の形態およびその変形例に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を上記各実施の形態またはその変形例に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、本開示の範囲内に含まれてもよい。
なお、上記各実施の形態および各変形例において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記各実施の形態または各変形例の画像生成装置などを実現するソフトウェアプログラムは、図12、図13、図16、図20〜図22、図24、図29、図30、図33、および図25に示すフローチャートに含まれる各ステップをコンピュータに実行させるプログラムである。
また、本開示において、ユニット、デバイスの全部又は一部、又は図2、図9、図18、図19、図27、図28、図32、図36および図37に示されるブロック図の機能ブロックの全部又は一部は、半導体装置、半導体集積回路(IC)、又はLSI(large scale integration)を含む一つ又は一つ以上の電子回路によって実行されてもよい。LSI又はICは、一つのチップに集積されてもよいし、複数のチップを組み合わせて構成されてもよい。例えば、記憶素子以外の機能ブロックは、一つのチップに集積されてもよい。ここでは、LSIやICと呼んでいるが、集積の度合いによって呼び方が変わり、システムLSI、VLSI(very large scale integration)、若しくはULSI(ultra large scale integration) と呼ばれるかもしれない。LSIの製造後にプログラムされる、Field Programmable Gate Array (FPGA)、又はLSI内部の接合関係の再構成又はLSI内部の回路区画のセットアップができるreconfigurable logic deviceも同じ目的で使うことができる。
さらに、ユニット、装置、又は装置の一部の、全部又は一部の機能又は操作は、ソフトウエア処理によって実行することが可能である。この場合、ソフトウエアは一つ又は一つ以上のROM、光学ディスク、ハードディスクドライブ、などの非一時的記録媒体に記録され、ソフトウエアが、処理装置(processor)によって実行された場合に、ソフトウエ
アは、ソフトウエア内の特定の機能を、処理装置(processor)と周辺のデバイスに実行
させる。システム又は装置は、ソフトウエアが記録されている一つ又は一つ以上の非一時的記録媒体、処理装置(processor)、及び必要とされるハードウエアデバイス、例えば
インターフェース、を備えていても良い。
本開示は、例えば培養中の細胞あるいは胚等の細胞塊の画像を生成する装置などに広く利用可能であり、インキュベータ内で対象物を撮影する際に有用である。
10 画像生成装置
100 撮影部
110、127 記憶部
120 暗画像処理部
121 データ取得部
123 最小値決定部
125 画像生成部
126 画素選択部
130 出力部
140 照明器
141 点光源
142 マスク
160 制御部
150 イメージセンサ
210 細胞位置特定部
211、221、231 暗画像取得部
212 閾値決定部
213 細胞数取得部
214 クラスタリング部
215 重心計算部
216 輪郭線推定部
217 画像合成部
220 異常細胞検出部
222、232 領域取得部
223、233 領域平均輝度計算部
224 異常判定部
225 判定基準保持部
230 細胞密度特定部
234 密度特定部
235 関数記憶部

Claims (7)

  1. 透光性を有する物質の画像を生成する画像生成装置であって、
    第1の光源と、
    前記第1の光源と所定の距離離れて位置する第2の光源と、
    前記物質が配置されるイメージセンサと、
    前記第1の光源および前記第2の光源からの光が透過する透光部分と、前記光を遮蔽する遮光部分とを有し、かつ、前記イメージセンサと前記第1の光源および前記第2の光源との間に位置するマスクと、
    処理回路とを備え、
    前記イメージセンサは、
    前記第1の光源が照明されたときに、前記物質の第1の画像を取得し、
    前記第2の光源が照明されたときに、前記物質の第2の画像を取得し、
    ここで、前記イメージセンサは、第1の画素領域及び第2の画素領域を含み、
    前記第1の画素領域と前記第1の光源との間に、前記遮光部分が位置し、
    前記第2の画素領域と前記第2の光源との間に、前記遮光部分が位置し、
    前記処理回路は、
    前記第1の画像における前記第1の画素領域に対応する第1の画素情報と、前記第2の画像における前記第2の画素領域に対応する第2の画素情報とを用いて、第3の画像を生成する、
    画像生成装置。
  2. 前記物質は、細胞を含む胚であり、
    前記処理回路は、
    前記第3の画像における第1の閾値以上の輝度を有する領域を、前記細胞の位置する領域と特定する、
    請求項1に記載の画像生成装置。
  3. 前記処理回路は、
    前記第3の画像と、前記細胞が位置する領域とを用いて、前記細胞が位置する領域が強調された第4の画像を生成する、
    請求項2に記載の画像生成装置。
  4. 前記物質は、複数の細胞を含む胚であり、
    前記処理回路は、
    (a1)前記第3の画像における第1の閾値以上の輝度を有する複数の細胞領域を抽出し、
    (a2)前記複数の細胞領域のそれぞれの輝度が第2の範囲内にあるか否かを判定し、
    (a3)前記判定結果を出力する、
    請求項1に記載の画像生成装置。
  5. 前記処理回路は、
    前記(a3)において、
    前記複数の細胞領域のそれぞれの輝度が前記第2の範囲内にある場合には、前記複数の細胞は正常であることを示す判定結果を出力し、
    前記複数の細胞領域のそれぞれの輝度が前記第2の範囲外である場合には、前記複数の細胞は異常であることを示す判定結果を出力する、
    請求項4に記載の画像生成装置。
  6. 前記物質は、細胞を含む胚であり、
    前記処理回路は、
    (b1)前記第3の画像における第1の閾値以上の輝度を有する細胞領域を抽出し、
    (b2)前記細胞領域の輝度に基づいて、前記細胞の密度を算出する、
    請求項1に記載の画像生成装置。
  7. 透光性を有する物質の画像を生成する画像生成方法であって、
    第1の光源と、
    前記第1の光源と所定の距離離れて位置する第2の光源と、
    前記物質が配置されるイメージセンサと、
    前記第1の光源および前記第2の光源からの光が透過する透光部分と、前記光を遮蔽する遮光部分とを有し、かつ、前記イメージセンサと前記第1の光源および前記第2の光源との間に位置するマスクとを用い、
    ここで、前記イメージセンサは、第1の画素領域及び第2の画素領域を含み、
    前記第1の画素領域と前記第1の光源との間に、前記遮光部分が位置し、
    前記第2の画素領域と前記第2の光源との間に、前記遮光部分が位置し、
    (a)前記第1の光源が照明されたときに、前記イメージセンサが、前記物質の第1の画像を取得し、
    (b)前記第2の光源が照明されたときに、前記イメージセンサが、前記物質の第2の画像を取得し、
    (c)前記第1の画像における前記第1の画素領域に対応する第1の画素情報と、前記第2の画像における前記第2の画素領域に対応する第2の画素情報とを用いて、第3の画像を生成する、
    画像生成方法。
JP2017010655A 2017-01-24 2017-01-24 画像生成装置及び画像生成方法 Active JP6739060B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017010655A JP6739060B2 (ja) 2017-01-24 2017-01-24 画像生成装置及び画像生成方法
US15/868,580 US10379336B2 (en) 2017-01-24 2018-01-11 Image generating apparatus and image generating method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017010655A JP6739060B2 (ja) 2017-01-24 2017-01-24 画像生成装置及び画像生成方法

Publications (2)

Publication Number Publication Date
JP2018117557A true JP2018117557A (ja) 2018-08-02
JP6739060B2 JP6739060B2 (ja) 2020-08-12

Family

ID=62905988

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017010655A Active JP6739060B2 (ja) 2017-01-24 2017-01-24 画像生成装置及び画像生成方法

Country Status (2)

Country Link
US (1) US10379336B2 (ja)
JP (1) JP6739060B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018146959A (ja) * 2017-03-01 2018-09-20 パナソニックIpマネジメント株式会社 画像生成装置及び画像生成方法
WO2021059869A1 (ja) * 2019-09-26 2021-04-01 京セラ株式会社 細胞検出装置および細胞検出方法
KR20220013409A (ko) * 2019-07-19 2022-02-04 주식회사 히타치하이테크 입자 정량 장치

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018200685A2 (en) 2017-04-27 2018-11-01 Ecosense Lighting Inc. Methods and systems for an automated design, fulfillment, deployment and operation platform for lighting installations
JP6739060B2 (ja) * 2017-01-24 2020-08-12 パナソニックIpマネジメント株式会社 画像生成装置及び画像生成方法
KR102261700B1 (ko) * 2017-03-30 2021-06-04 후지필름 가부시키가이샤 세포 화상 평가 장치 및 방법과, 프로그램
US10957025B2 (en) * 2018-12-03 2021-03-23 International Business Machines Corporation Photograph with variable light source distribution
CN112526534B (zh) * 2020-11-03 2024-03-08 上海炬佑智能科技有限公司 ToF传感装置及其距离检测方法
CN113176230B (zh) * 2021-03-30 2022-12-13 西安理工大学 一种基于微流控无透镜成像的红细胞识别与姿态估计方法

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09236512A (ja) * 1995-12-28 1997-09-09 Sumitomo Chem Co Ltd 物体の欠陥の検査方法および検査装置
JP2011248123A (ja) * 2010-05-27 2011-12-08 Canon Inc 撮像装置
JP2012150619A (ja) * 2011-01-18 2012-08-09 Mitsumi Electric Co Ltd 指紋検出装置及び指紋検出装置の製造方法
WO2014196203A1 (ja) * 2013-06-06 2014-12-11 パナソニックIpマネジメント株式会社 画像取得装置、画像取得方法、およびプログラム
JP2014533509A (ja) * 2011-11-17 2014-12-15 セルスケープ・コーポレーション 細胞を取得し、解析するための方法、装置及びキット
JP2015130806A (ja) * 2014-01-09 2015-07-23 大日本印刷株式会社 成育情報管理システム及び成育情報管理プログラム
WO2016080187A1 (ja) * 2014-11-18 2016-05-26 コニカミノルタ株式会社 画像処理方法、画像処理装置及びプログラム
WO2016087242A1 (en) * 2014-12-03 2016-06-09 Koninklijke Philips N.V. Device and method for signal compensation in medical x-ray images
JP2016119890A (ja) * 2014-12-25 2016-07-07 パナソニックIpマネジメント株式会社 画像出力装置、画像出力方法、及びプログラム
JP2017012580A (ja) * 2015-07-03 2017-01-19 株式会社ニデック 眼底撮影装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3063580B2 (ja) * 1995-08-24 2000-07-12 松下電器産業株式会社 イメージセンサー内蔵携帯端末装置
KR970072024A (ko) * 1996-04-09 1997-11-07 오노 시게오 투영노광장치
US6155491A (en) * 1998-05-29 2000-12-05 Welch Allyn Data Collection, Inc. Lottery game ticket processing apparatus
US6967752B1 (en) * 1999-09-22 2005-11-22 Fuji Photo Film Co., Ltd. Image reading apparatus and method
US6975410B1 (en) * 2002-04-15 2005-12-13 Sturgill Dennis T Measuring device
JP5403458B2 (ja) 2008-07-14 2014-01-29 株式会社ブイ・テクノロジー 表面形状測定方法及び表面形状測定装置
TW201129854A (en) * 2009-08-07 2011-09-01 Toshiba Kk Polarization evaluation mask, exposure device, and polarization evaluation method
US9569664B2 (en) 2010-10-26 2017-02-14 California Institute Of Technology Methods for rapid distinction between debris and growing cells
US8836672B2 (en) * 2011-02-09 2014-09-16 Dornerworks, Ltd. System and method for improving machine vision in the presence of ambient light
TWI646401B (zh) * 2013-12-19 2019-01-01 美商應用材料股份有限公司 帶有簡化光學元件的極紫外線(euv)基板檢查系統及其製造方法
US10607316B2 (en) * 2016-07-22 2020-03-31 Panasonic Intellectual Property Management Co., Ltd. Image generating apparatus and image generating method
JP6739060B2 (ja) * 2017-01-24 2020-08-12 パナソニックIpマネジメント株式会社 画像生成装置及び画像生成方法
JP7026333B2 (ja) * 2017-03-01 2022-02-28 パナソニックIpマネジメント株式会社 画像生成装置及び画像生成方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09236512A (ja) * 1995-12-28 1997-09-09 Sumitomo Chem Co Ltd 物体の欠陥の検査方法および検査装置
JP2011248123A (ja) * 2010-05-27 2011-12-08 Canon Inc 撮像装置
JP2012150619A (ja) * 2011-01-18 2012-08-09 Mitsumi Electric Co Ltd 指紋検出装置及び指紋検出装置の製造方法
JP2014533509A (ja) * 2011-11-17 2014-12-15 セルスケープ・コーポレーション 細胞を取得し、解析するための方法、装置及びキット
WO2014196203A1 (ja) * 2013-06-06 2014-12-11 パナソニックIpマネジメント株式会社 画像取得装置、画像取得方法、およびプログラム
JP2015130806A (ja) * 2014-01-09 2015-07-23 大日本印刷株式会社 成育情報管理システム及び成育情報管理プログラム
WO2016080187A1 (ja) * 2014-11-18 2016-05-26 コニカミノルタ株式会社 画像処理方法、画像処理装置及びプログラム
WO2016087242A1 (en) * 2014-12-03 2016-06-09 Koninklijke Philips N.V. Device and method for signal compensation in medical x-ray images
JP2016119890A (ja) * 2014-12-25 2016-07-07 パナソニックIpマネジメント株式会社 画像出力装置、画像出力方法、及びプログラム
JP2017012580A (ja) * 2015-07-03 2017-01-19 株式会社ニデック 眼底撮影装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
加藤弓子 他: "リフォーカシングによる初期胚の自由焦点画像生成", 電子情報通信学会技術研究報告, vol. 115(401), JPN6020021774, 2016, pages 135 - 139, ISSN: 0004291063 *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018146959A (ja) * 2017-03-01 2018-09-20 パナソニックIpマネジメント株式会社 画像生成装置及び画像生成方法
JP7026333B2 (ja) 2017-03-01 2022-02-28 パナソニックIpマネジメント株式会社 画像生成装置及び画像生成方法
KR20220013409A (ko) * 2019-07-19 2022-02-04 주식회사 히타치하이테크 입자 정량 장치
KR102659471B1 (ko) * 2019-07-19 2024-04-23 주식회사 히타치하이테크 입자 정량 장치
WO2021059869A1 (ja) * 2019-09-26 2021-04-01 京セラ株式会社 細胞検出装置および細胞検出方法
JPWO2021059869A1 (ja) * 2019-09-26 2021-04-01
CN114514309A (zh) * 2019-09-26 2022-05-17 京瓷株式会社 细胞检测装置和细胞检测方法
JP7403549B2 (ja) 2019-09-26 2023-12-22 京セラ株式会社 細胞検出装置および細胞検出方法

Also Published As

Publication number Publication date
JP6739060B2 (ja) 2020-08-12
US10379336B2 (en) 2019-08-13
US20180210185A1 (en) 2018-07-26

Similar Documents

Publication Publication Date Title
JP6739060B2 (ja) 画像生成装置及び画像生成方法
US10191356B2 (en) Methods and apparatus relating to detection and/or indicating a dirty lens condition
CN107645625B (zh) 图像生成装置以及图像生成方法
JP2015143691A (ja) カット石を撮像する方法およびシステム
CN105991996B (zh) 一种摄像模组检测系统及检测方法
JP6739061B2 (ja) 画像生成装置、画像生成方法及びプログラム
JP2012123039A (ja) 顕微鏡、領域判定方法、及びプログラム
CN109120819B (zh) 对微型板的井进行成像
JP2019042156A (ja) 医療画像処理装置、内視鏡装置、診断支援装置、及び、医療業務支援装置
US11169079B2 (en) Captured image evaluation apparatus, captured image evaluation method, and captured image evaluation program
JP7026333B2 (ja) 画像生成装置及び画像生成方法
US20210026121A1 (en) Sample observation device and sample observation method
JP2018163248A (ja) 画像取得方法および画像取得装置
US20190199893A1 (en) Ocular imaging with illumination in image path
JP2013167491A (ja) 検体から検出対象物を見つけ出す検出装置、検出方法、検出プログラム及び記憶媒体
TWI641824B (zh) 攝像裝置及攝像方法
US10983039B2 (en) Observation device
JP2019045737A (ja) 観察装置
US11698342B2 (en) Method and system for analysing fluorospot assays
JP2018120363A (ja) 画像生成装置及び画像生成方法
KR20190051866A (ko) 플렌옵틱 기술에 기반한 객체 인식 시스템 및 그 동작방법
US20230058111A1 (en) Systems and methods for providing live sample monitoring information with parallel imaging systems
JP2021044694A (ja) 蛍光撮影装置
JP6975418B2 (ja) 領域判定方法
TW202314642A (zh) 塵埃測量裝置、塵埃測量方法及程式

Legal Events

Date Code Title Description
A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20170223

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190731

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200608

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200623

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200703

R151 Written notification of patent or utility model registration

Ref document number: 6739060

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151