JP7064720B2 - 算出装置、算出プログラム及び算出方法 - Google Patents

算出装置、算出プログラム及び算出方法 Download PDF

Info

Publication number
JP7064720B2
JP7064720B2 JP2019571915A JP2019571915A JP7064720B2 JP 7064720 B2 JP7064720 B2 JP 7064720B2 JP 2019571915 A JP2019571915 A JP 2019571915A JP 2019571915 A JP2019571915 A JP 2019571915A JP 7064720 B2 JP7064720 B2 JP 7064720B2
Authority
JP
Japan
Prior art keywords
image
calculation unit
feature amount
comparative
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019571915A
Other languages
English (en)
Other versions
JPWO2019159326A1 (ja
Inventor
磨生 八藤
伸一 古田
真美子 舛谷
世莉 林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Publication of JPWO2019159326A1 publication Critical patent/JPWO2019159326A1/ja
Application granted granted Critical
Publication of JP7064720B2 publication Critical patent/JP7064720B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12MAPPARATUS FOR ENZYMOLOGY OR MICROBIOLOGY; APPARATUS FOR CULTURING MICROORGANISMS FOR PRODUCING BIOMASS, FOR GROWING CELLS OR FOR OBTAINING FERMENTATION OR METABOLIC PRODUCTS, i.e. BIOREACTORS OR FERMENTERS
    • C12M1/00Apparatus for enzymology or microbiology
    • C12M1/34Measuring or testing with condition measuring or sensing means, e.g. colony counters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30072Microarray; Biochip, DNA array; Well plate

Description

本発明は、算出装置、算出プログラム及び算出方法に関するものである。
生物科学や医学等において、生物の健康や疾患等の状態は、例えば、細胞や細胞内の小器官等の状態と関連性があることが知られている。そのため、これら関連性を解析することは、生物科学や医学等の諸処の課題を解決する一つの手段になる。細胞や細胞内の小器官等の状態を知るために、細胞や細胞の小器官等の状態を観察することが行われる。しかし、観察者の目視による細胞の観察は観察者の主観によるところが大きく、客観的な解析結果を得ることが困難である。細胞や組織片等を客観的に解析する技術として、例えば、画像処理を用いた技術が知られている(例えば、特許文献1参照)。従来から、細胞や組織片等を客観的に解析するための方法として、細胞や組織片等の画像の違いを定量化することが望まれていた。
米国特許第9280698号明細書
第1の細胞が撮像された基準画像を取得する基準画像取得部と、前記第1の細胞に対する条件とは異なる条件下の第2の細胞が撮像された比較画像を取得する比較画像取得部と、前記基準画像を複数枚用いて算出される第1の特徴量と、前記比較画像を用いて算出される第2の特徴量との違いを算出する算出部とを備え、前記複数の基準画像のそれぞれは、前記第1の細胞が培養される培養容器の複数の位置にそれぞれ対応する、算出装置である。
本発明の第2の態様によると、コンピュータに、第1の細胞が撮像された基準画像を取得する基準画像取得ステップと、前記第1の細胞に対する条件とは異なる条件下の第2の細胞が撮像された比較画像を取得する比較画像取得ステップと、前記基準画像を複数枚用いて算出される第1の特徴量と、前記比較画像を用いて算出される第2の特徴量との違いを算出する算出ステップとを実行させるための、算出プログラムであって、前記複数の基準画像のそれぞれは、前記第1の細胞が培養される培養容器の複数の位置にそれぞれ対応する、算出プログラムである。
本発明の第3の態様によると、第1の細胞が撮像された基準画像を取得するステップと、前記第1の細胞に対する条件とは異なる条件下の第2の細胞が撮像された比較画像を取得するステップと、前記基準画像を複数枚用いて算出される第1の特徴量と、前記比較画像を用いて算出される第2の特徴量との違いを算出するステップとを有し、前記複数の基準画像のそれぞれは、前記第1の細胞が培養される培養容器の複数の位置にそれぞれ対応する、算出方法である。
本発明の第1実施形態による顕微鏡観察システムの構成の一例を示す図である。 本実施形態の算出装置が備える各部の機能構成の一例を示すブロック図である。 本実施形態の演算部の基準特徴量の算出の演算手順の一例を示す図である。 本実施形態のニューラルネットワークを用いた特徴量の算出方法の一例を示す図である。 本実施形態の演算部の複数の基準画像と1枚の比較画像との違いを定量化する演算手順の一例を示す流れ図である。 本実施形態の複数の基準画像と1枚の比較画像との違いを定量化する処理の一例を示す図である。 本実施形態の複数の比較画像に対する演算部の演算手順の一例を示す流れ図である。 本実施形態の複数の基準画像と複数の比較画像との違いを定量化する処理の一例を示す図である。 本発明の第2実施形態による算出装置が備える各部の機能構成の一例を示すブロック図である。 本実施形態の複数の比較画像に対する演算部の演算手順の一例を示す流れ図である。 本実施形態の複数の比較画像の反応割合の算出の一例を示す図である。 本実施形態の比較画像を選択する処理の一例を示す図である。 本実施形態のウェル内の位置を判定する処理の一例を示す図である。 本発明の第3実施形態による算出装置が備える各部の機能構成の一例を示すブロック図である。 本実施形態の演算部の演算手順の一例を示す流れ図である。 本実施形態の時系列毎の複数の基準画像と複数の比較画像との違いの一例を示す図である。 本実施形態の化合物の濃度毎の複数の基準画像と複数の比較画像との違いの一例を示す図である。 本実施形態の化合物の種類毎の複数の基準画像と複数の比較画像との違いの一例を示す図である。 本発明の第4実施形態による算出装置が備える各部の機能構成の一例を示すブロック図である。 本実施形態の算出部による基準特徴量の算出手順の一例を示す流れ図である。 本実施形態の演算部による対象画像をクラスに分類する演算手順の一例を示す流れ図である。 本実施形態の対象画像の分類処理の一例を示す図である。 本発明の第5実施形態による算出装置が備える各部の機能構成の一例を示すブロック図である。 本実施形態の演算部100dの培養状態を判定する演算手順の一例を示す図である。 本実施形態の培養状態判定処理の一例を示す図である。 本実施形態の演算部の演算手順の変形例を示す図である。 本実施形態のスフェロイドの断面画像の一例を示す図である。 本発明の第6実施形態による算出装置が備える各部の機能構成の一例を示すブロック図である。 本実施形態の演算部100eによる画像を選択する演算手順の一例を示す図である。 本実施形態のスフェロイド画像の一例を示す図である。 本実施形態の演算部による基準代表特徴量を算出する演算手順の一例を示す流れ図である。
[第1実施形態]
以下、図面を参照して、本発明の実施の形態について説明する。図1は、本発明の第1実施形態による顕微鏡観察システム1の構成の一例を示す図である。
顕微鏡観察システム1は、細胞等を撮像することにより取得される画像に対して、画像処理を行う。以下の説明において、細胞等を撮像することにより取得される画像を、単に細胞画像とも記載する。
顕微鏡観察システム1は、算出装置10と、顕微鏡装置20と、表示部30とを備える。
顕微鏡装置20は、生物顕微鏡であり、電動ステージ21と、撮像部22(不図示)とを備える。電動ステージ21は、所定の方向(例えば、水平方向の二次元平面内のある方向あるいは、垂直方向、軸回転方向)に、撮像対象物の位置を任意に稼働可能である。
撮像部22は、CCD(Charge-Coupled Device)やCMOS(Complementary MOS)などの撮像素子を備えており、電動ステージ21上の撮像対象物を撮像する。なお、顕微鏡装置20に電動ステージ21を備えていなくてもよく、ステージが所定方向に稼働しないステージ、もしくは、手動にて所定方向に稼働するステージとしても構わない。
より具体的には、顕微鏡装置20は、例えば、微分干渉顕微鏡(Differential Interference Contrast microscope;DIC)や位相差顕微鏡、蛍光顕微鏡、共焦点顕微鏡、超解像顕微鏡、二光子励起蛍光顕微鏡、ライトシート顕微鏡、ライトフィールド顕微鏡、ホログラフィック顕微鏡、光干渉断層撮像法(Optical Coherence Tomography ;OCT)等の機能を有する。
顕微鏡装置20は、電動ステージ21上に載置された培養容器を撮像する。この培養容器とは、例えば、ウェルプレートWPやスライドチャンバ―などがある。顕微鏡装置20は、ウェルプレートWPが有する多数のウェルWの中に培養された細胞に光を照射することで、細胞を透過もしくは反射した光を細胞の画像として撮像する。これによって、顕微鏡装置20は、細胞の透過DIC画像や、位相差画像、暗視野画像、明視野画像等の画像を取得することができる。
さらに、細胞に励起光を照射することで、顕微鏡装置20は、蛍光物質から発せられる蛍光を細胞の画像として撮像する。さらに、顕微鏡装置20は、細胞中の発光物質からの発光あるいは燐光を細胞の画像として撮像する。
本実施形態では、細胞を生きたまま染色し、タイムラプス撮影することで、細胞刺激後の細胞の変化画像を取得する。本実施形態においては、蛍光融合タンパク質を発現させるか、もしくは細胞を生きたままで化学試薬などで染色するなどし、細胞画像を取得する。更に別の本実施形態では、細胞を固定して染色し、細胞画像を取得する。固定された細胞は代謝が止まる。したがって、細胞に刺激を加えた後、細胞内の経時変化を固定細胞で観察する場合には、細胞を播種した複数の細胞培養容器を用意する必要がある。例えば、プレートの中に複数のウェルがある場合には、ウェルを細胞培養容器としても構わない。この場合に、プレートの中のウェル毎に、刺激に対する異なる経過時間の固定細胞を用意しても構わない。もちろん、プレート毎に、刺激に対する異なる経過時間の固定細胞を用意しても構わない。
また、顕微鏡装置20は、生体物質内に取り込まれた発色物質そのものから発光或いは蛍光や、発色団を持つ物質が生体物質に結合することによって生じる発光或いは蛍光を、上述した細胞の画像として撮像してもよい。これにより、顕微鏡観察システム1は、蛍光画像、共焦点画像、超解像画像、二光子励起蛍光顕微鏡画像を取得することができる。
なお、細胞の画像を取得する方法は、光学顕微鏡に限られない。例えば、細胞の画像を取得する方法は、電子顕微鏡でも構わないすなわち、細胞の画像の種類は適宜選択しても構わない。
本実施形態における細胞は、例えば、初代培養細胞や、株化培養細胞、組織切片の細胞等である。細胞を観察するために、観察される試料は、細胞の集合体や組織試料、臓器、個体(動物など)を用い観察し、細胞を含む画像として取得しても構わない。なお、細胞の状態は、特に制限されず、生きている状態であっても、或いは固定されている状態であってもよい。もちろん、生きている状態の情報と、固定されている情報とを組み合わせても構わない。
また、細胞を、化学発光或いは蛍光タンパク質(例えば、導入された遺伝子(緑色蛍光タンパク質(GFP)など)から発現された化学発光或いは蛍光タンパク質)で処理し、観察しても構わない。あるいは、細胞を、免疫染色や化学試薬による染色を用いて観察しても構わない。それらを組み合わせて観察しても構わない。例えば、細胞内の核内構造(例えば、ゴルジ体など)を判別する種類に応じて、用いる発光タンパク質を選択することも可能である。
ウェルプレートWPは、1個ないし複数のウェルWを有する。この一例では、ウェルプレートWPは、図1に示すように8×12の96個のウェルWを有する。ウェルプレートWPが有するウェルWの数はこれに限られず、6×8の48個のウェルW、6×4の24個のウェルW、3×4の12個のウェルW、2×3の6個のウェルW、12×32の384個のウェルW、あるいは32×48の1536個のウェルWを有していても構わない。細胞は、ウェルWの中において、特定の実験条件のもと培養される。特定の実験条件とは、温度、湿度、培養期間、刺激が付与されてからの経過時間、付与される刺激の種類や強さ、濃度、量、刺激の有無、生物学的特徴の誘導等を含む。刺激とは、例えば、電気、音波、磁気、光等の物理的刺激や、物質や薬物の投与による化学的刺激等である。また、生物学的特徴とは、細胞の分化の段階や、形態、細胞数、細胞内の分子の挙動、オルガネラの形態や挙動、核内構造体の挙動、DNA分子の挙動等を示す特徴である。
図2は、本実施形態の算出装置10が備える各部の機能構成の一例を示すブロック図である。算出装置10は、顕微鏡装置20によって取得された画像を解析するコンピュータ装置である。
算出装置10は、演算部100と、記憶部200と、結果出力部300とを備える。
なお、算出装置10によって画像処理される画像は、顕微鏡装置20によって撮像される画像だけに限らず、例えば、算出装置10が備える記憶部200に予め記憶されている画像や、不図示の外部記憶装置に予め記憶されている画像であってもよい。
演算部100は、プロセッサが記憶部200に格納されたプログラムを実行することにより機能する。また、これらの演算部100の各機能部のうちの一部または全部は、LSI(Large Scale Integration)やASIC(Application Specific Integrated Circuit)等のハードウェアによって構成されていてもよい。演算部100は、基準画像取得部101と、比較画像取得部102と、算出部103とを備える。
基準画像取得部101は、記憶部200の基準画像記憶部202に記憶される複数の基準画像を取得し、取得した複数の基準画像を算出部103に供給する。ここで、基準画像とは、細胞が撮像されている画像であり、比較画像との比較に用いられる画像である。複数の基準画像は、同一の実験条件において細胞が培養された複数の画像である。複数の基準画像は、刺激が加えられていない細胞の画像であることが好ましい。
比較画像取得部102は、撮像部22が撮像したひとつ以上の細胞画像をひとつ以上の比較画像として取得し、取得したひとつ以上の比較画像を算出部103に供給する。ここで、比較画像とは、複数の基準画像に撮像されている細胞と比較する対象である比較細胞が撮像されている画像である。比較画像は、例えば、刺激が加えられて所定の時間が経過した後の細胞の画像である。比較画像に撮像された細胞が培養された実験条件(刺激など、比較検討したい対象項目以外の実験条件)と、基準画像に撮像された細胞が培養された実験条件(刺激など、比較検討したい対象項目以外の実験条件)とは同じであることが好ましい。比較画像に撮像された細胞に対する実験条件と、基準画像に撮像された細胞に対する実験条件とは、比較検討したい項目以外は同じであることが好ましい。例えば、基準画像と比較画像とで、刺激を変えた場合には、刺激の条件以外は、基準画像に撮像された細胞に対する培養条件などの実験条件と、比較画像に撮像された細胞に対する培養条件などの実験条件とは同じであることが好ましい。刺激の条件としては、例えば、基準画像は細胞に刺激が加えられない条件の細胞画像で、比較画像は細胞に刺激が加えられた条件の細胞画像である。もちろん、刺激の条件としては、例えば、細胞に加えられる刺激としての薬液の種類が異なることでも構わない。
なお、以下では複数の基準画像を基準画像群と呼ぶことがある。また、ひとつ以上の比較画像を比較画像群と呼ぶことがある。
算出部103は、複数の基準画像に基づいて算出される特徴量と、1枚の比較画像に基づいて算出される特徴量との違いを算出する。算出部103は、比較画像取得部102が算出部103に供給するひとつ以上の比較画像のそれぞれを、順番に1枚ずつ算出処理の対象とする。本実施形態においては、基準画像に基づいて算出される特徴量は、基準画像に含まれている、細胞の画像特徴を反映した値である。細胞の画像特徴とは、例えば、細胞画像の輝度、画像中の細胞面積、画像中の細胞画像の輝度の分散、形などが含まれる。すなわち、特徴量は、撮像される細胞画像から取得される情報から導出される特徴である。このように、特徴量には、細胞に関する画像特徴量が含まれる。
本実施形態においては、基準画像を用いて算出される特徴量には、複数の特徴量を含む。本実施形態においては、基準画像に基づいて算出される特徴量には、複数種類の特徴量を含む。ここで複数種類の特徴量とは、例えば、細胞画像の輝度や、画像中の細胞面積など、細胞画像から抽出される複数の特徴を表す特徴量である。このように、複数の基準画像に基づいて算出される特徴量には、複数の特徴量を含む。
なお、後述する特徴量を算出する方法において、細胞画像から抽出する特徴量をあらかじめ決めても構わない。例えば、少なくとも画像中の細胞面積を抽出することを決めて、算出される特徴量が少なくも画像中の細胞面積を反映する特徴量となるように算出しても構わない。また、細胞画像には、遺伝子、タンパク質、オルガネラなど、大きさが相違する複数の種類の生体組織の画像が含まれている。したがって、細胞画像に含まれる細胞を構成する要素を判定する。細胞を構成する要素の判定結果ごとに、細胞画像から抽出される特徴量を算出する。ここで、細胞の構成要素には、細胞核、リソソーム、ゴルジ体、ミトコンドリアなどの細胞小器官(オルガネラ)やオルガネラを構成するタンパク質などが含まれる。
なお、比較画像を用いて算出される特徴量に関しても、基準画像を用いて算出される特徴量と同様である。したがって、複数の比較画像に基づいて算出される特徴量は、複数の特徴量を含む。
算出部103は、基準特徴量算出部1031と、比較特徴量算出部1032と、代表特徴量算出部1033と、距離算出部1034とを備える。
基準特徴量算出部1031は、基準画像取得部101が供給する基準画像群に含まれる基準画像のそれぞれの特徴量を、複数の基準特徴量として算出する。基準特徴量算出部1031は、算出した複数の基準特徴量を代表特徴量算出部1033に供給する。
比較特徴量算出部1032は、比較画像取得部102が供給するひとつ以上の比較画像に含まれる比較画像の特徴量を、比較特徴量として算出する。比較特徴量算出部1032は、算出した比較特徴量を距離算出部1034に供給する。
基準特徴量算出部1031は、基準画像を次元削減することによって、基準特徴量を算出する。比較特徴量算出部1032は、比較画像を次元削減することによって、比較特徴量を算出する。基準特徴量算出部1031が基準特徴量を算出する次元削減の方法と、比較特徴量算出部1032が比較特徴量を算出する次元削減の方法とは、特徴量を算出する対象となる画像が互いに異なる点を除けば同じである。この次元削減の詳細については後述する。
代表特徴量算出部1033は、基準特徴量算出部1031が供給する複数の基準特徴量に基づいて、基準代表特徴量を算出する。ここで基準代表特徴量とは、複数の基準特徴量の分布の代表値である。代表特徴量算出部1033は、算出した基準代表特徴量を距離算出部1034に供給する。
距離算出部1034は、代表特徴量算出部1033が供給する基準代表特徴量と、比較特徴量算出部1032が供給する比較特徴量とを用いて、基準代表特徴量と比較特徴量との距離を算出する。算出される距離は、複数の基準画像と比較画像との違いを表現している。本実施形態においては、複数の基準画像のそれぞれの基準特徴量から算出される代表値を用いているので、その基準代表特徴量に相当する画像と、比較画像との違いを表現している。ここで、複数の基準画像と比較画像との違いの大きさは、複数の基準画像に撮像された細胞の状態と、比較画像に撮像された細胞の状態との違いの大きさを表している。したがって、複数の基準画像と比較画像との違いの大きさが大きくなると、複数の基準画像に撮像された細胞の状態と、比較画像に撮像された細胞の状態とがより違う状態となる。ここで、細胞の状態の違いとは、例えば、細胞の刺激に対する反応の違いである。距離算出部1034は、算出した距離を結果出力部300に供給する。
ここで距離算出部1034が算出する距離とは、一例として、特徴量を示すひとつ以上の値同士のユークリッド距離である。この場合、算出部103が算出する違いとは、複数の基準画像を用いて算出される特徴量を示すひとつ以上の値と、比較画像を用いて算出される特徴量を示すひとつ以上の値との、対応する値同士の差に基づいて算出される値である。つまり、算出部103が算出する違いとは、複数の基準画像を用いて算出される特徴量を示すひとつ以上の値と、比較画像を用いて算出される特徴量を示すひとつ以上の値との、対応する値同士の関係に基づいて算出される値である。
なお、距離算出部1034が算出する距離は、ユークリッド距離以外であってもよい。距離算出部1034が算出する距離は、例えば、標準ユークリッド距離、マハラノビス距離、マンハッタン距離、チェビシェフ距離、ミンコフスキー距離、コサイン類似度、ピアソンの積率相関であってもよい。
また、距離算出部1034が算出する距離は、外積(ウェッジ積)を応用した距離であってもよい。外積(ウェッジ積)を応用した距離は、以下のように算出される。まず、N次元のベクトルAとN次元のベクトルBとから、2つの次元の値を取り出し、2次元のベクトルaと2次元のベクトルbとを作る。次に、2次元のベクトルaと2次元のベクトルbとを2辺とする三角形もしくは平行四辺形の面積を算出する。上記の操作を、Nつの次元から2つの次元を選ぶ場合の数だけ繰り返し、N次元のベクトルAとN次元のベクトルBとから、通りの次元の組合せについて上記の面積を算出する。ここで、Nつの次元から2つの次元を選ぶ場合の数をと表した。最後に、算出した面積の代表値(合計、平均または中央値など)をN次元のベクトルAとN次元のベクトルBとの距離とする。
記憶部200は、次元削減情報記憶部201と、基準画像記憶部202とを備える。次元削減情報記憶部201には、基準特徴量算出部1031及び比較特徴量算出部1032が細胞画像の特徴量を算出する際に用いる次元削減の手続きを示す情報が記憶される。この次元削減の手続きを示す情報については後述する。基準画像記憶部202には、基準画像群が記憶される。
結果出力部300は、算出部103が供給する距離を表示部30に出力する。なお、結果出力部300は、算出部103が供給する距離を、表示部30以外の出力装置や、記憶装置などに出力してもよい。
表示部30は、結果出力部300が出力する距離を表示する。
図3は、本実施形態の演算部100の基準特徴量の算出の演算手順の一例を示す流れ図である。なお、ここに示す演算手順は、一例であって、演算手順の省略や演算手順の追加が行われてもよい。
基準画像取得部101は、基準画像記憶部202に記憶される基準画像群S1を取得する(ステップS100)。基準画像取得部101は、取得した基準画像群S1を基準特徴量算出部1031に供給する。
基準特徴量算出部1031は、基準画像取得部101が供給する基準画像群S1に含まれる基準画像のそれぞれの基準特徴量を算出する(ステップS101)。ここで基準特徴量算出部1031は、基準画像を次元削減することによって、基準特徴量を算出する。基準特徴量算出部1031は、算出した複数の基準特徴量を代表特徴量算出部1033に供給する。
本実施形態では、基準特徴量算出部1031は、多層ニューラルネットワークを用いて基準特徴量を算出する。多層ニューラルネットワークとは、ひとつ以上の中間層を含むニューラルネットワークである。ここで図4を参照し、基準特徴量算出部1031の基準特徴量の算出方法について説明する。
図4は、本実施形態のニューラルネットワークを用いた特徴量の算出方法の一例を示す図である。
ニューラルネットワークNは、入力層と、ひとつ以上の中間層と、出力層との複数の階層を含む。ニューラルネットワークNは、入力画像が入力層に入力されると、各階層のノードが次階層以降のノードに対してノードごとに所定の重みづけをした情報を伝達する。ここで、入力画像が入力層に入力されるとは、入力画像の画素の輝度値がそれぞれ入力層に入力されることである。したがって、ニューラルネットワークNの入力層を構成するノードの数は、入力画像を構成する画素の数に等しい。ニューラルネットワークNは、出力層まで伝達した情報に基づいて入力画像を所定の数のカテゴリに分類する。出力層のノードの数は、ニューラルネットワークNが分類するカテゴリの数と等しい。本実施形態では、ニューラルネットワークNの出力層のノードの数は、一例として1000である。
また、ニューラルネットワークNは、入力層のノードの数と出力層のノードの数とが等しいオートエンコーダーでもよい。一般的に、オートエンコーダーでは、中間層のノードの数は入力層のノードの数よりも少ないため、中間層において入力画像の特徴を効率的に抽出することができる。さらに、ニューラルネットワークNは、入力層の数と出力層の数とが異なるオートエンコーダーでもよい。
ニューラルネットワークNは、一例として、畳み込みニューラルネットワーク(Convolutional Neural Network:CNN)であり、中間層として、畳み込み層、プーリング層、連結層、及びドロップアウト層などを有する。中間層では、入力画像の特徴が抽出される。中間層において抽出される入力画像の特徴は、中間層が出力層の側に近いほど高次の特徴が抽出される。例えば、入力層に近い中間層では、入力画像の特徴として入力画像のエッジなど単純なパターンの特徴が抽出される。一方、出力層に近い中間層では、入力画像の特徴として複雑なパターンの特徴が抽出される。中間層において抽出される入力画像の特徴は、この中間層を構成するノードから出力される値の組によって表される。
本実施形態では、ニューラルネットワークNの出力層と隣接する中間層L1の各ノードから出力される値の組が、細胞画像C1の特徴量として算出される。
図3に戻って、演算部100の基準特徴量の算出の演算手順の説明を続ける。ここで演算部100の基準特徴量の算出の演算手順を、図6を参照しながら説明する。
図6は、複数の基準画像と1枚の比較画像との違いを定量化する処理の一例を示す図である。図6(A)において、基準特徴量算出部1031は、基準画像群S1に含まれる基準画像をニューラルネットワークNに入力する。ここで、基準特徴量算出部1031は、次元削減情報記憶部201に記憶されたニューラルネットワークNを用いる。次元削減情報記憶部201に記憶されたニューラルネットワークNは、一例として1200万個の学習データを学習させたニューラルネットワークである。学習データに含まれる学習画像は、細胞画像であってもよいし、細胞画像以外の一般の画像であってもよい。このように、基準特徴量算出部1031は、入力層と、ひとつ以上の中間層と、出力層との複数の階層を含み、各階層のノードが次階層以降のノードに対してノードごとに所定の重みづけをした情報を伝達するニューラルネットワークを用いることにより、入力された画像を次元削減することによって算出した特徴量を用いる。
例えば、基準特徴量算出部1031は、ニューラルネットワークNの最終出力層と隣接する中間層L1の各ノードから出力される値の組を、基準画像の基準特徴量として算出する。ここで基準特徴量の次元は、ニューラルネットワークNの中間層L1のノードの数に等しい。本実施形態では、入力層のノードの数は、一例として65536であり、中間層L1のノードの数は、一例として2048である。すなわち、入力画像の65536次元の輝度情報が、基準特徴量の2048次元に次元削減される。基準特徴量の次元は2048に限られない。例えば、基準特徴量の次元は、50以上が望ましい。
代表特徴量算出部1033は、基準特徴量算出部1031が供給する複数の基準特徴量から、基準特徴量の次元ごとに基準代表特徴量FCを算出する(ステップS102)。代表特徴量算出部1033は、基準特徴量の次元ごとに複数の基準特徴量の分布を生成し、生成した分布の代表値をそれぞれ基準代表特徴量FCとして算出する。代表特徴量算出部1033は、複数の基準特徴量の値から基準特徴量に関する分布を生成し、生成した分布の代表値を用い、基準代表特徴量FCを算出する。ここで分布の代表値は、例えば分布の平均値である。なお、分布の代表値として中央値や最頻値が用いられてもよい。代表特徴量算出部1033は、算出した基準代表特徴量FCを距離算出部1034に供給する。
図5は、本実施形態の演算部100の複数の基準画像と1枚の比較画像との違いを定量化する演算手順の一例を示す流れ図である。
比較画像取得部102は、撮像部22が撮像した細胞画像を比較画像として取得する(ステップS200)。比較画像取得部102は、取得した1枚の比較画像を比較特徴量算出部1032に供給する。
比較特徴量算出部1032は、比較画像取得部102が供給するひとつ以上の比較画像群G1のうち1枚の比較画像P1の比較特徴量を算出する(ステップS201)。比較特徴量算出部1032は、次元削減手法としてニューラルネットワークを用いて比較画像P1の比較特徴量FA1を算出する。
図6(B)を参照しながら、複数の基準画像と1枚の比較画像P1との違いを定量化する処理について説明する。比較特徴量算出部1032は、比較画像群G1に含まれる比較画像P1をニューラルネットワークNに入力する。ここで、比較特徴量算出部1032は、次元削減情報記憶部201に記憶されたニューラルネットワークNを用いて特徴量を算出する。
比較特徴量算出部1032が算出する比較特徴量FA1とは、比較画像P1をニューラルネットワークNに入力したときに中間層L1の各ノードから出力される値の組である。比較特徴量FA1の次元は、ニューラルネットワークNの中間層L1のノードの数に等しい。比較特徴量算出部1032は、算出した比較特徴量FA1を距離算出部1034に供給する。
図5に戻って、演算部100の演算手順の説明を続ける。
距離算出部1034は、代表特徴量算出部1033が供給する基準代表特徴量FCと、比較特徴量算出部1032が供給する比較特徴量FA1との距離を算出する(ステップS202)。ここで、基準代表特徴量は、複数の基準画像に基づいて算出される特徴量である。また、比較特徴量は、比較画像に基づいて算出される特徴量である。したがって、算出部103は、基準特徴量算出部1031が算出する基準画像を次元削減することによって得られる特徴量から、代表特徴量算出部1033が算出する基準代表特徴量と、比較特徴量算出部1032が算出する比較画像を次元削減することによって得られる特徴量とを用いて、違いを算出する。つまり、算出部103は、基準画像取得部101が取得する基準画像と、比較画像取得部102が取得する比較画像と、基準画像および比較画像を次元削減することによって得られる特徴量とを用いて、複数の基準画像を用いて算出される特徴量と、比較画像を用いて算出される特徴量との違いを算出する。ここで違いとは、複数の基準画像に基づいて算出される代表特徴量と、比較画像に基づいて算出される特徴量との違いである。距離算出部1034は、算出した距離を結果出力部300に供給する。
結果出力部300は、距離算出部1034が供給する距離を表示部30に表示させることにより結果を出力する(ステップS203)。
なお、本実施形態では、基準特徴量算出部1031及び比較特徴量算出部1032が、ニューラルネットワークNの中間層L1の各ノードから出力される値を、入力された細胞画像の特徴量として算出する場合について説明したが、基準特徴量算出部1031及び比較特徴量算出部1032は、中間層L1以外のニューラルネットワークNの中間層の各ノードから出力される値を、入力された細胞画像の特徴量として算出してもよい。つまり、算出部103は、ニューラルネットワークNを構成する中間層のうちいずれかの中間層の出力を用いてよい。
また、算出部103は、ニューラルネットワークNの出力層から出力される値を特徴量としてもよい。つまり、算出部103は、深層学習の判定結果を特徴量として用いてもよい。
また、ニューラルネットワークNを構成する中間層はなく、入力層と出力層のみで構成されてもよい。
なお、本実施形態では、ニューラルネットワークNの入力として、細胞画像の輝度値を入力する場合について説明したが、ニューラルネットワークNには細胞画像の輝度値以外が入力されてもよい。例えば、画像解析により得られた細胞の平均輝度や面積を特徴量として入力してもよい。また、入力画像のHOG特徴量、フィルタ処理した特徴量、SIFT特徴量、SURF特徴量などをニューラルネットワークNに入力してもよい。
なお、本実施形態では次元削減手法としてニューラルネットワークが用いられる場合について説明したが、ニューラルネットワーク以外の次元削減手法が用いられてもよい。例えば、主成分分析、ランダムプロジェクション、線形判別分析、多次元尺度構成法、ランダムフォレスト、Isometric Mapping、Locally Linear Embededding、Spectral Embededdingなどの手法が用いられてもよい。
以上説明したように、本実施形態の算出装置10は、基準画像取得部101と、比較画像取得部102と、算出部103とを備える。基準画像取得部101は、細胞がそれぞれ撮像されている複数の画像である複数の基準画像を取得する。比較画像取得部102は、複数の基準画像に撮像されている細胞と比較する対象である比較細胞が撮像されている画像である比較画像を取得する。算出部103は、複数の基準画像を用いて算出される特徴量と、比較画像を用いて算出される特徴量との違いを算出する。
この構成により、算出装置10は、複数の基準画像と比較画像との違いを定量化できるため、基準画像が1枚の場合に比較して、安定して定量化することが可能となる。例えば、1枚の基準画像に基づいて特徴量を算出する場合では、基準画像に撮像された細胞に対する実験条件の細胞を表す典型的な細胞を表す画像でない場合ある。例えば、細胞の固有の違いや、細胞に対する実験条件のばらつきにより、基準画像が撮像される培養容器内の複数の細胞が均一ではない可能である。実験条件のばらつきとは、細胞の染色工程でのばらつき、細胞の培養工程でのばらつきである。例えば、細胞により染色度合が異なり、結果としてそれらの細胞を撮像した場合に、撮像される細胞画像のタンパク質の輝度などの細胞を表す特徴量が異なる場合がある。そこで、本実施形態においては、複数の基準画像に基づいて算出される特徴量を用いることから、1枚の基準に基づいて算出される特徴量を用いる場合と比較して、複数の基準画像を用いるので、基準画像が撮像される培養容器内の複数の細胞の平均を表す特徴量を算出することができる。
また、複数の基準画像に基づいて算出される特徴量は、複数の特徴量を含む。この構成により、算出装置10は、例えば、細胞画像の輝度や、画像中の細胞面積などを反映した特徴量を用いて、複数の基準画像と複数の比較画像との違いを定量化できる。
また、算出部103は、基準画像取得部101が取得する基準画像と、比較画像取得部102が取得する比較画像と、前記基準画像および前記比較画像を次元削減することによって得られる特徴量とを用いて、基準画像群と比較画像との違いを算出する。
この構成により、算出装置10は、従来手法では不安定だった細胞等の抽出結果を利用することなく、違いを定量化できるため、一般的な画像特徴量の算出による場合に比べて、安定して定量化することが可能となる。また、算出部103は、基準画像取得部101が取得する基準画像の次元を削減することができる。本実施形態では、細胞が撮像された画像の次元とは、細胞が撮像された画像を構成するピクセルの値である。例えば、細胞が撮像された画像が縦200ピクセル、横200ピクセルである場合には、細胞が撮像された画像40000個のピクセルの値がある。したがって、細胞が撮像された画像の次元は40000個である。ここで、画像の次元とは画像を構成する要素の数である。すなわち、40000個の値を用いることで撮像された細胞の画像を表しているので、40000個の値のそれぞれは、画像を構成する要素である。本実施形態においては、40000次元から、次元を削減した値を算出する。次元を削減した値とは2048次元の値である。細胞が撮像された画像は40000個のピクセルの値を用いて表現されていたが、次元を削減した2048次元の値でも細胞が撮像された画像を表現することが可能となった。なお、本実施形態では、画像を構成するピクセルの値は、256階調で表現されている。もちろん、画像を構成するピクセルの値は256階調に限られない。
また、算出部103は、入力層と、ひとつ以上の中間層と、出力層との複数の階層を含み、各階層のノードが次階層のノードに対してノードごとに所定の重みづけをした情報を伝達するニューラルネットワークNによって次元削減された特徴量を用いて、違いを算出する。
この構成により、算出装置10は、学習により、最適化したニューラルネットワークを利用した次元削減手法を用いて、細胞画像同士の違いを定量化できるため、細胞画像から導出される特徴を反映した定量化をすることが可能となる。さらに、定量化においては、画像に撮像された細胞と類似度とに応じて、算出される距離を変えることが可能となる。本実施形態においては、画像の類似度が高い細胞同士の距離は近く、画像の類似度が低い細胞同士の距離は遠くすることが可能である。また、本実施形態においては、ニューラルネットワークを用いて次元を削減することで、用いる画像から導出される細胞の特徴を損なうことなく、次元を削減した特徴量とすることが可能となる。
また、算出部103は、ニューラルネットワークNを構成する中間層のうちいずれかの中間層の出力を用いる。この構成により、算出装置10は、ニューラルネットワークNの最終出力層から出力される判定結果として集約される前の中間層の特徴量を用いることができるため、細胞画像の特徴量を用いて異なる実験条件の下において培養された細胞画像同士の違いを定量化できる。
また、算出部103が算出する違いとは、複数の基準画像を用いて算出される特徴量を示すひとつ以上の値と、比較画像を用いて算出される特徴量を示すひとつ以上の値との、対応する値同士の関係に基づいて算出される値である。この構成により、算出装置10は、異なる実験条件の下において培養された細胞画像同士の違いを、ユークリッド距離などの距離を用いて定量化できる。
また、本実施形態の特徴量には、細胞に関する画像特徴量が含まれる。この構成により、算出装置10は、撮像される細胞画像から取得される情報から導出される特徴に基づいて、複数の基準画像と比較画像との違いを定量化できる。
[第1実施形態の変形例]
上記の実施形態においては、算出装置10が、複数の基準画像に基づいて算出される特徴量と、1枚の比較画像に基づいて算出される特徴量との違いを算出する場合について説明した。ここでは変形例として、比較画像が複数ある場合、すなわち算出装置10が、複数の基準画像に基づいて算出される特徴量と、複数の比較画像に基づいて算出される特徴量との違いを算出する場合について説明する。以下では上記の実施形態と異なる部分を中心に説明する。
図7は、複数の比較画像に対する演算部の演算手順の一例を示す流れ図である。
比較画像取得部102は、撮像部22が撮像した複数の細胞画像を複数の比較画像として取得する(ステップS300)。比較画像取得部102は、取得した複数の比較画像を比較画像群G1として比較特徴量算出部1032に供給する。
比較特徴量算出部1032は、比較画像取得部102が供給する比較画像群G1に含まれる比較画像P11~P19それぞれの比較特徴量を算出する(ステップS301)。
ここで図8(B)を参照し、複数の基準画像と複数の比較画像との違いを定量化する処理について説明する。
図8は、本実施形態の複数の基準画像と複数の比較画像との違いを定量化する処理の一例を示す図である。比較特徴量算出部1032は、比較画像群G1に含まれる比較画像P11~P19をニューラルネットワークNに入力する。比較特徴量算出部1032は、次元削減手法としてニューラルネットワークを用いて比較画像P11~P19毎に比較特徴量をそれぞれ算出する。
図7に戻って複数の比較画像に対する演算部の演算手順の説明を続ける。
比較特徴量算出部1032は、算出した複数の比較特徴量を代表特徴量算出部1033に供給する。
代表特徴量算出部1033は、比較特徴量算出部1032が供給する複数の比較特徴量から、比較特徴量の次元ごとに比較代表特徴量FAを算出する(ステップS302)。ここで比較代表特徴量FAとは、複数の比較特徴量の代表値である。代表特徴量算出部1033は、算出した比較代表特徴量FAを距離算出部1034に供給する。
距離算出部1034は、代表特徴量算出部1033が供給する基準代表特徴量FCと、代表特徴量算出部1033が供給する比較代表特徴量FAとの距離を、複数の基準画像と複数の比較画像の違いとして算出する(ステップS303)。つまり、算出部103は、複数の基準画像にを用いて算出される特徴量と、複数の比較画像を用いて算出される特徴量との違いを算出する。
結果出力部300は、距離算出部1034が供給する距離を表示部30に表示させることにより結果を出力する(ステップS304)。
以上説明したように、本変形例では、比較特徴量算出部1032は、複数の比較画像を取得する。算出部103は、複数の基準画像に基づいて算出される特徴量と、複数の比較画像に基づいて算出される特徴量との違いを算出する。
この構成により、複数の基準画像から算出される特徴量の代表値と、複数の比較画像から算出される特徴量の代表値とを用いて、複数の基準画像と複数の比較画像との違いを算出することができる。したがって、複数の基準画像と複数の比較画像との違いを、代表値の違いにより表現することができる。複数の基準画像と、複数の基準画像との違いをそれぞれの代表値を用い、違いを定量化させることで、例えば、基準画像のそれぞれの違いによる定量化への影響を抑制することができる。
また、複数の比較画像に基づいて算出される特徴量は、複数の特徴量を含む。この構成により、算出装置10は、例えば、細胞画像の輝度や、画像中の細胞面積などを反映した特徴量を用いて、複数の基準画像と比較画像との違いを定量化できる。
[第2実施形態]
以下、図面を参照しながら本発明の第2の実施形態について説明する。
上記第1の実施形態では、算出装置が、複数の基準画像と比較画像との違いを定量化する場合について説明した。本実施形態では、算出装置が、定量化した基準画像と比較画像との違いが所定の値より大きい比較画像を選択する場合について説明する。
図9は、本実施形態による算出装置10aが備える各部の機能構成の一例を示すブロック図である。本実施形態に係る算出装置10a(図9)と、第1の実施形態に係る算出装置10(図2)とを比較すると、選択部104、割合算出部105、及び位置判定部106の有無が異なる。しかし、他の構成要素が持つ機能は第1の実施形態と同じである。第1の実施形態と同じ機能の説明は省略し、第2の実施形態では、第1の実施形態と異なる部分を中心に説明する。
選択部104は、距離算出部1034が算出した距離が所定の値より大きい比較画像を選択する。選択部104は、選択した結果を割合算出部105、位置判定部106、及び結果出力部300に供給する。
割合算出部105は、選択部104が選択した結果に基づいて、複数の比較画像から、距離算出部1034が算出した距離が所定の値より大きい比較画像の割合を算出する。割合算出部105は、算出した結果を結果出力部300に供給する。
位置判定部106は、選択部104が選択した結果に基づいて、距離算出部1034が算出した距離が所定の値より大きい比較画像に対応するウェルWの位置を判定する。位置判定部106は、判定した結果を結果出力部300に供給する。
図10は、本実施形態の複数の比較画像に対する演算部100aの演算手順の一例を示す流れ図である。なお、ステップS400、ステップS401及びステップS402の各処理は、図7におけるステップS300及びステップS301、及びステップS302の各処理と同様であるため、説明を省略する。
選択部104は、距離算出部1034が算出した距離が所定の値より大きい比較画像を選択する(ステップS403)。つまり、選択部104は、距離算出部1034が算出した違いが所定の値より大きい比較画像を選択する。選択部104は、選択した比較画像を示す情報を割合算出部105に供給する。
割合算出部105は、選択部104が供給する比較画像を示す情報に基づいて、複数の比較画像P21~P29から、距離算出部1034が算出した距離が所定の値より大きい比較画像の割合を、加えられた刺激に対する反応を示す細胞が撮像されている比較画像の割合として算出する(ステップSS404)。つまり、割合算出部105は、選択部104が選択した結果を用いて、複数の比較画像から、算出部103が算出した違いが所定の値より大きい比較画像の割合を算出する。割合算出部105は、算出した割合を示す情報を結果出力部300に供給する。
ここで図11を参照し、複数の比較画像の反応割合の算出の処理について説明する。
図11は、本実施形態の複数の比較画像の反応割合の算出の一例を示す図である。比較特徴量算出部1032は、比較画像P21~P29のそれぞれについて比較特徴量を算出する。距離算出部1034は、比較特徴量算出部1032が算出した比較特徴量それぞれについて、基準画像群S1から算出される基準代表特徴量との距離d1~d9を算出する。選択部104は、距離算出部1034が算出した距離d1~d9のなかから所定の値以上である距離を判定する。ここで所定の値とは例えば3.0である。図11に示す例では、d2、d3、d4、d5、及びd9が所定の値以上である。選択部104は、比較画像P21~P29の中から、d2、d3、d4、d5、及びd9のそれぞれに対応する比較画像P22、比較画像P23、比較画像P24、比較画像P25、及び比較画像P29を選択する。図11に示す例では、割合算出部105は、距離が所定の値より大きい比較画像の割合を、9分の5として算出する。
図10に戻って、複数の比較画像に対する演算部100aの演算手順の説明を続ける。
表示部30は、複数の比較画像が含まれるウェルのうち、所定の閾値以上の距離を持つ比較画像のみを強調して表示する。例えば、図11においては、P21からP29の複数の比較画像のうち、P22、P23、P24、P25及びP29が協調して表示されている。
選択部104は、距離算出部1034が算出した距離が最大である比較画像を選択する(ステップS405)。選択部104は、選択した距離が最大である比較画像を示す情報を、位置判定部106及び結果出力部300に出力する。
位置判定部106は、選択部104が供給する距離が最大である比較画像を示す情報に基づいて、距離算出部1034が算出した距離が最大である比較画像に対応するウェルWの位置を判定する(ステップS406)。つまり、位置判定部106は、選択部104が選択した結果を用いて、算出部103が算出した違いが所定の値より大きい比較画像に対応する位置を判定する。ただし、複数の比較画像の各々は、細胞が培養される培養容器の複数の位置にそれぞれ対応する。位置判定部106は、判定したウェルWの位置を示す情報を結果出力部300に供給する。
結果出力部300は、演算部100aが供給する演算結果を示す情報を表示部30に出力する(ステップS407)。ここで演算部100aが供給する演算結果を示す情報とは、割合算出部105が供給する割合を示す情報、選択部104が供給する選択した比較画像を示す情報、及び位置判定部106が供給するウェルWの位置を示す情報である。
ここで図12、図13を参照し距離が最大である比較画像を選択する処理、及びウェル内の位置を判定する処理について説明する。
図12は、本実施形態の比較画像を選択する処理の一例を示す図である。図12に示す例では、距離算出部1034が算出した距離d1~d9のうちd3が最大である。選択部104は、距離算出部1034が算出した距離が最大である比較画像として、比較画像P23を選択する。表示部30は、比較画像P23を細胞画像C2として表示する。
図13は、本実施形態のウェル内の位置を判定する処理の一例を示す図である。位置判定部106は、基準画像群S1との距離が最大である比較画像である比較画像P23を示す情報に基づいて、基準画像群S1との距離が最大である比較画像に対応するウェル内位置WP23を判定する。表示部30は、ウェル内位置WP23を表示する。
以上説明したように、本実施形態の算出装置10aは、選択部104と、割合算出部105と、位置判定部106とを備える。
選択部104は、算出部103が算出した違いが所定の値より大きい比較画像を選択する。この構成により、複数の基準画像との違いが所定の値より大きい比較画像を選択できるため、細胞画像のなかから、加えられた刺激に対する反応が大きい細胞の細胞画像を選択できる。
割合算出部105は、画像選択部(選択部104)が選択した結果を用いて、複数の比較画像から、算出部103が算出した違いが所定の値より大きい比較画像の割合を算出する。この構成により、複数の基準画像との違いが所定の値より大きい比較画像の割合を算出できるため、細胞画像のなかから、加えられた刺激に対する反応が大きい細胞の細胞画像の割合を算出できる。
複数の比較画像の各々は、細胞が培養される培養容器の複数の位置にそれぞれ対応し、位置判定部106は、画像選択部が選択した結果を用いて、前記算出部が算出した前記違いが所定の値より大きい前記比較画像に対応する前記位置を判定する。この構成により、複数の基準画像との違いが所定の値より大きい比較画像が撮像されたウェルW内の位置を判定できるため、ウェルW内の複数の細胞のうち加えられた刺激に対する反応が大きい細胞が存在する位置を判定できる。
[第3実施形態]
以下、図面を参照しながら本発明の第3の実施形態について説明する。
上記第2の実施形態では、算出装置が、定量化した基準画像と比較画像との違いが所定の値より大きい比較画像を選択する場合について説明した。本実施形態では、算出装置が、基準画像群と比較画像群との違いについて、時系列の変化、細胞に添加される化合物の濃度に対する変化及び種類に対する変化を算出する場合について説明する。
図14は、本発明の第3実施形態による算出装置10bが備える各部の機能構成の一例を示すブロック図である。本実施形態に係る算出装置10b(図14)と、第2の実施形態に係る算出装置10a(図9)とを比較すると、演算部100bにおいて、解析画像取得部107、基準画像取得部101b、比較画像取得部102b、算出部103b、及び解析部108が異なり、また、記憶部200bが基準画像記憶部202を備えていなくてよい点が異なる。しかし、他の構成要素が持つ機能は第2の実施形態と同じである。第2の実施形態と同じ機能の説明は省略し、第3の実施形態では、第2の実施形態と異なる部分を中心に説明する。
演算部100bは、基準画像取得部101bと、比較画像取得部102bと、算出部103bと、選択部104と、割合算出部105と、位置判定部106と、解析画像取得部107と、解析部108とを備える。
解析画像取得部107は、撮像部22が撮像した解析画像群を取得する。この解析画像群は、時系列解析画像群、濃度変化解析画像群、及び種類変化解析画像群を含む。
時系列解析画像群とは、細胞刺激後の細胞がタイムラプス撮影された複数の細胞画像である。時系列解析画像群は、画像群T0、画像群T1、…、画像群Tnからなる。画像群T0、画像群T1、…、画像群Tnは、この順にタイムラプス撮影の時系列に対応している。なお、画像群T0、画像群T1、…、画像群Tnは、同じウェルにおいて培養された細胞の細胞画像でなくてもよい。また、画像群T0、画像群T1、…、画像群Tnは、それぞれ1枚の細胞画像であってもよい。
解析画像取得部107は、画像群T0を時系列基準画像群とし、基準画像取得部101bに供給する。解析画像取得部107は、画像群T1、画像群T2、…、画像群Tnを時系列比較画像群とし、比較画像取得部102bに供給する。つまり、時系列比較画像群に含まれる比較画像とは、時系列に撮像された画像である。
濃度変化解析画像群とは、細胞に添加される化合物の濃度ごとの複数の細胞画像である。濃度変化解析画像群は、画像群X0、画像群X1、…、画像群Xnからなる。画像群X0、画像群X1、…、画像群Xnは、この順に細胞に添加される化合物の濃度が大きくなる順に対応している。なお、画像群X0、画像群X1、…、画像群Xnは、それぞれ1枚の細胞画像であってもよい。
解析画像取得部107は、画像群X0を濃度変化基準画像群とし、基準画像取得部101bに供給する。解析画像取得部107は、画像群X1、画像群X2、…、画像群Xnを濃度変化比較画像群とし、比較画像取得部102bに供給する。つまり濃度変化比較画像群に含まれる比較画像とは、比較細胞に添加された化合物の濃度毎に撮像された比較細胞の画像である。
種類変化解析画像群とは、細胞に添加される化合物の種類ごとの複数の細胞画像である。種類変化解析画像群は、画像群Y0、画像群Y1、…、画像群Ynからなる。画像群Y0、画像群Y1、…、画像群Ynは、細胞に添加される化合物の種類に対応している。画像群Y0、画像群Y1、…、画像群Ynは、それぞれ1枚の細胞画像であってもよい。
解析画像取得部107は、画像群Y0を種類変化基準画像群とし、基準画像取得部101bに供給する。解析画像取得部107は、画像群Y1、画像群Y2、…、画像群Ynを算出部103bに供給する。つまり、種類変化比較画像群に含まれる比較画像とは、比較細胞に添加された化合物の種類毎に撮像された細胞の画像である。
基準画像取得部101bは、解析画像取得部107が供給する時系列変化基準画像群を取得し、算出部103bに供給する。基準画像取得部101bは、解析画像取得部107が供給する濃度変化基準画像群を取得し、算出部103bに供給する。基準画像取得部101bは、解析画像取得部107が供給する種類変化基準画像群を取得し、算出部103bに供給する。
比較画像取得部102bは、解析画像取得部107が供給する時系列変化比較画像群を取得し、算出部103bに供給する。比較画像取得部102bは、解析画像取得部107が供給する濃度変化比較画像群を取得し、算出部103bに供給する。比較画像取得部102bは、解析画像取得部107が供給する種類変化基準画像群を取得し、算出部103bに供給する。
算出部103bは、基準画像取得部101bが供給する時系列基準画像群である画像群T0に基づいて算出される基準代表特徴量と、比較画像取得部102bが供給する時系列解析画像群である画像群T1、画像群T2、…、画像群Tnに基づいて算出される比較代表特徴量それぞれとの距離を、時系列距離として算出する。算出部103bは、算出した時系列距離を解析部108の時系列算出部1081に供給する。
算出部103bは、基準画像取得部101bが供給する濃度変化基準画像群である画像群X0に基づいて算出される基準代表特徴量と、比較画像取得部102bが供給する濃度変化解析画像群である画像群X1、画像群X2、…、画像群Xnに基づいて算出される比較代表特徴量それぞれとの距離を濃度変化距離として算出する。算出部103bは、算出した濃度変化距離を解析部108の濃度変化算出部1082に供給する。
算出部103bは、基準画像取得部101bが供給する種類変化基準画像群である画像群Y0に基づいて算出される基準代表特徴量と、比較画像取得部102bが供給する種類変化解析画像群である画像群Y1、画像群Y2、…、画像群Ynに基づいて算出される比較代表特徴量それぞれとの距離を種類変化距離として算出する。算出部103bは、算出した種類変化距離を解析部108の種類変化算出部1083に供給する。
なお、比較画像群が1枚の比較画像からなる場合、算出部103は、代表特徴量算出部1033を備えていなくてもよい。
解析部108は、基準画像群と比較画像群との違いについて、時系列の変化、細胞に添加される化合物の濃度に対する変化及び種類に対する変化を算出する。解析部108は、算出した時系列の変化、細胞に添加される化合物の濃度に対する変化及び種類に対する変化を、結果出力部300に供給する。解析部108は、時系列算出部1081と、濃度変化算出部1082と、種類変化算出部1083とを備える。
時系列算出部1081は、算出部103bが供給する時系列距離に基づいて、時系列における時刻毎の、画像群T0に基づいて算出される特徴量と、画像群T1、画像群T2、…、画像群Tnに基づいてそれぞれ算出される特徴量との違いを算出する。つまり、時系列算出部1081は、算出部103bが供給する違いを用い、時系列における時刻毎の、複数の基準画像に基づいて算出される特徴量と、複数の比較画像に基づいて算出される特徴量との違いを算出する。
濃度変化算出部1082は、算出部103bが供給する濃度変化距離に基づいて、細胞に添加される化合物の濃度毎の、画像群X0に基づいて算出される特徴量と、画像群X1、画像群X2、…、画像群Xnに基づいてそれぞれ算出される特徴量との違いを算出する。つまり、濃度変化算出部1082は、算出部103bが算出した違いを用い、比較細胞に添加された化合物の濃度毎の、複数の基準画像に基づいて算出される特徴量と、複数の比較画像に基づいて算出される違いを算出する。
種類変化算出部1083は、算出部103bが供給する種類変化距離に基づいて、細胞に添加される化合物の種類毎の、画像群Y0に基づいて算出される特徴量と、画像群Y1、画像群Y2、…、画像群Ynに基づいてそれぞれ算出される特徴量との違いを算出する。つまり、種類変化算出部1083は、算出部103bが算出した違いを用い、比較細胞に添加された化合物の種類毎の、複数の基準画像に基づいて算出される特徴量と、複数の比較画像に基づいて算出される違いを算出する。
なお、割合算出部105は、比較画像群から、算出部103が算出した違いが所定の値より大きい比較画像の割合を算出してもよい。例えば、割合算出部105は、時系列解析画像群から、算出部103が算出した違いが所定の値より大きい比較画像の割合を時系列の時刻毎に算出してもよい。割合算出部105は、算出した時系列の時刻毎の割合を時系列算出部1081に供給する。割合算出部105は、濃度変化解析画像群から、算出部103が算出した違いが所定の値より大きい比較画像の割合を細胞に添加された化合物の濃度毎に算出してもよい。割合算出部105は、算出した濃度毎の割合を濃度変化算出部1082に供給する。割合算出部105は、種類変化解析画像群から、算出部103が算出した違いが所定の値より大きい比較画像の割合を細胞に添加された化合物の種類毎に算出してもよい。割合算出部105は、算出した種類毎の割合を種類変化算出部1083に供給する。
算出装置10bが、基準画像群と比較画像群との違いについて、時系列の変化、細胞に添加される化合物の濃度に対する変化及び種類に対する変化を算出する処理について説明する。
図15は、本実施形態の演算部100bの演算手順の一例を示す流れ図である。なお、ステップS503、ステップS504、ステップS505及びステップS506の各処理は、図7における、ステップS300、ステップS301、ステップS302、及びステップS303の各処理と同様であるため、説明を省略する。
解析画像取得部107は、撮像部22が撮像した変化に応じた種類の解析画像群を取得する(ステップS500)。解析画像取得部107は、算出装置10bが解析する変化に応じて、時系列解析画像群、濃度変化解析画像群、及び種類変化解析画像群の中から1種類の解析画像群を取得する。算出装置10bが時系列変化、化合物の濃度の変化、及び化合物の種類の変化のいずれを解析するかは、算出装置10bの使用者によって指定されてよい。
解析画像取得部107は、時系列解析画像群を取得した場合、画像群T0を時系列基準画像群とし、基準画像取得部101bに供給する。解析画像取得部107は、時系列解析画像群を取得した場合、画像群T1、画像群T2、…、画像群Tnを時系列比較画像群とし、比較画像取得部102bに供給する。
解析画像取得部107は、濃度変化解析画像群を取得した場合、画像群X0を濃度変化基準画像群とし、基準画像取得部101bに供給する。解析画像取得部107は、濃度変化解析画像群を取得した場合、画像群X1、画像群X2、…、画像群Xnを濃度変化比較画像群とし、比較画像取得部102bに供給する。
解析画像取得部107は、種類変化解析画像群を取得した場合、画像群Y0を種類変化基準画像群とし、基準画像取得部101bに供給する。解析画像取得部107は、種類変化解析画像群を取得した場合、画像群Y1、画像群Y2、…、画像群Ynを算出部103bに供給する。
基準画像取得部101b及び算出部103bは、基準画像群に対して処理を行う(ステップS501)。ここで基準画像群に対して行われる処理とは、図3のステップS100からステップS102の各処理と同様である。
算出部103bは、解析する変化に応じて、変化毎の処理を開始する(ステップS502)。算出部103bは、変化毎にステップS503、ステップS504、ステップS505、及びステップS506の処理を繰り返し、変化毎に基準代表特徴量と比較代表特徴量との距離を算出する。
算出部103は、時系列変化を解析する場合、時系列の時刻毎に、画像群T0から算出される基準代表特徴量と、この時刻に対応する時系列比較画像群から算出される比較代表特徴量との距離を算出する。
算出部103は、化合物の濃度の変化を解析する場合、化合物の濃度毎に、画像群X0から算出される基準代表特徴量と、この濃度に対応する濃度変化比較画像群から算出される比較代表特徴量との距離を算出する。
算出部103は、化合物の種類の変化を解析する場合、化合物の種類毎に、画像群Y0から算出される基準代表特徴量と、この種類に対応する種類変化比較画像群から算出される比較代表特徴量との距離を算出する。
算出部103bは、変化毎の処理を終了する(ステップS507)。算出部103bは、算出した変化毎の距離を解析画像取得部107に供給する。
解析部108は、算出装置10bが解析する変化に応じて、基準画像群と比較画像群との違いの変化を算出する(ステップS508)。ここで、基準画像群と比較画像群との違いの変化とは、基準画像群と比較画像群との違いと、変化を示す指標との組である。基準画像群から算出された代表基準特徴量と、比較画像群から算出された比較代表特徴量との距離である。変化を示す指標とは、時系列の時刻、化合物の濃度、及び化合物の種類を示す指標である。
算出装置10bが時系列の変化を解析する場合、時系列算出部1081は算出部103bが供給する時系列の時刻毎の距離を取得する。時系列算出部1081は、取得した距離と、この距離に対応する時系列の時刻とを組にして結果出力部300に供給する。
算出装置10bが化合物の濃度の変化を解析する場合、濃度変化算出部1082は算出部103bが供給する化合物の濃度毎の距離を取得する。濃度変化算出部1082は、取得した距離と、この距離に対応する濃度とを組にして結果出力部300に供給する。
算出装置10bが化合物の種類の変化を解析する場合、種類変化算出部1083は算出部103bが供給する化合物の種類毎の距離を取得する。種類変化算出部1083は、取得した距離と、この距離に対応する種類とを組にして結果出力部300に供給する。
結果出力部300は、解析部108が供給する距離と変化を示す指標との組を表示部30に表示させることにより結果を出力する(ステップS509)。表示部30は、解析部108が供給する距離を、変化を示す指標に対してプロットしたグラフを表示する。
ここで図16~18を参照し、解析部108が算出する基準画像群と比較画像群との違いの変化の例について説明する。
図16は、本実施形態の時系列毎の複数の基準画像と複数の比較画像との違いの一例を示す図である。図16では、基準画像群である画像群T0と、時系列の各時刻に対応する比較画像群である画像群T1、画像群T2…、画像群Tnとの違いを時刻毎にプロットしたグラフが表示されている。画像群T0は、化合物が添加される直前の細胞が撮像された細胞画像である。
図17は、本実施形態の化合物の濃度毎の複数の基準画像と複数の比較画像との違いの一例を示す図である。図17では、基準画像群である画像群X0と、化合物の各濃度に対応する比較画像群である画像群X1、画像群X2…、画像群Xnとの違いが濃度毎にプロットしたグラフが表示されている。画像群X0は、化合物が添加されていない細胞が撮像された細胞画像である。
図18は、本実施形態の化合物の種類毎の複数の基準画像と複数の比較画像との違いの一例を示す図である。図18では、基準画像群である画像群Y0と、化合物の各種類に対応する比較画像群である画像群Y1、画像群Y2…、画像群Ynとの違いが種類毎にプロットしたグラフが表示されている。画像群Y0は、化合物が添加されていない細胞が撮像された細胞画像である。
なお、本実施形態においては、算出装置10bが基準画像群と比較画像群との違いの変化を算出する場合について説明したが、算出装置10bは、反応の割合の変化を算出してもよい。ここで反応の割合とは、比較画像群に含まれる複数の比較画像のうち、基準画像群との距離が所定の値より大きい比較画像の割合である。つまり、算出装置10bは、反応の割合の時系列の変化を算出してもよいし、化合物の濃度について反応の割合の変化を算出してもよいし、化合物の種類について反応の割合の変化を算出してもよい。算出装置10bは、算出した反応の割合の変化を表示部30に表示させてよい。
なお、算出装置10bは、基準画像群との距離が所定の値より大きい比較画像に対応するウェルプレートWPのウェルWの位置を、変化ごとに判定してもよい。算出装置10bは、判定したウェルWの位置を表示部30に表示させてよい。
なお、本実施形態においては、算出装置10bが解析する変化が化合物の種類の変化である場合に、算出装置10bは、種類変化基準画像群である画像群Y0と、種類変化比較画像群である画像群Y1、画像群Y2、…、画像群Ynとの違いをそれぞれ算出する場合について説明したが、算出装置10bは、画像群Y1、画像群Y2、…、画像群Ynそれぞれのスコアを算出してもよい。ここでスコアとは、スコアを算出する対象である画像群と、画像群Y1、画像群Y2、…、画像群Ynのうち、スコアを算出する対象である画像群以外の画像群との距離をそれぞれ求め、求めた距離の平均値を算出した値である。算出装置10bは、算出したスコアを化合物の種類毎に対してプロットしたグラフを表示部30に表示させてよい。
なお、本実施形態においては、図16~18において説明したように、算出装置10bが解析する変化に応じて、基準画像群と比較画像群との距離を、変化を示す指標に対してプロットしたグラフが表示される場合を説明したが、2種類の変化を組み合わせた結果が2次元平面に対してプロットされてもよい。算出装置10bは、例えば、化合物の濃度ごとに基準画像群と比較画像群との距離の時系列の変化を算出し、算出した結果を化合物の濃度と時系列の時刻とに対してプロットした2次元のグラフを表示部30に表示させてもよい。また、算出装置10bは、例えば、化合物の種類ごとに基準画像群と比較画像群との距離の時系列の変化を算出し、算出した結果を化合物の種類と時系列の時刻とに対してプロットした2次元のグラフを表示部30に表示させてもよい。また、算出装置10bは、例えば、化合物の種類ごとに化合物の濃度を変化させた場合の基準画像群と比較画像群との距離を算出し、算出した結果を化合物の種類と化合物の濃度とに対してプロットした2次元のグラフを表示部30に表示させてもよい。
以上説明したように、本実施形態の算出装置10bは、時系列算出部1081と、濃度変化算出部1082と、種類変化算出部1083とを備える。
時系列算出部1081は、算出部103bが算出した違いを用い、時系列における時刻毎の前記違いを算出する。ここで算出部103bが算出した違いとは、複数の基準画像に基づいて算出される特徴量と、時系列に撮像された画像である比較画像に基づいて算出される特徴量との違いである。この構成により、算出装置10bは、刺激が加えられる前の細胞画像と刺激が加えられた後の細胞画像との違いを刺激が加えられてからの時系列において定量化できるため、刺激が加えられてからの細胞の反応の時系列の変化を定量化できる。
また、濃度変化算出部1082は、算出部103bが算出した違いを用い、比較細胞に添加された化合物の濃度毎の違いを算出する。ここで算出部103bが算出した違いとは、複数の基準画像に基づいて算出される特徴量と、比較細胞に添加された化合物の濃度毎に撮像された細胞の画像である比較画像に基づいて算出される特徴量との違いである。この構成により、算出装置10bは、化合物が添加される前の細胞画像と化合物が添加された後の細胞画像との違いを化合物の濃度の変化について定量化できるため、添加される化合物の濃度に対する細胞の反応を定量化できる。
また、種類変化算出部1083は、算出部103bが算出した違いを用い、比較細胞に添加された化合物の種類毎の違いを算出する。ここで算出部103bが算出した違いとは、複数の基準画像に基づいて算出される特徴量と、比較細胞に添加された化合物の種類毎に撮像された細胞の画像である比較画像に基づいて算出される特徴量との違いである。この構成により、算出装置10bは、化合物が添加される前の細胞画像と化合物が添加された後の細胞画像との違いを化合物の種類の変化について定量化できるため、添加される化合物の種類毎に細胞の反応を定量化できる。
[第4実施形態]
以下、図面を参照しながら本発明の第4の実施形態について説明する。
上記第3の実施形態では、算出装置が、基準画像群と比較画像群との違いについて、時系列の変化、細胞に添加される化合物の濃度に対する変化及び種類に対する変化を算出する場合について説明した。本実施形態では、算出装置が、細胞画像を分類する場合について説明する。
図19は、本実施形態による算出装置10cが備える各部の機能構成の一例を示すブロック図である。本実施形態に係る算出装置10c(図19)と、第2の実施形態に係る算出装置10a(図9)とを比較すると、演算部100cにおいて、分類用基準画像取得部101c、対象画像取得部102c、算出部103c及び分類部109が異なり、また、記憶部200cが異なる。しかし、他の構成要素が持つ機能は第2の実施形態と同じである。第2の実施形態と同じ機能の説明は省略し、第3の実施形態では、第2の実施形態と異なる部分を中心に説明する。
分類用基準画像取得部101cは、記憶部200cの分類用基準画像記憶部202cに記憶される分類用基準画像群を取得し、取得した分類用基準画像群を算出部103cに供給する。ここで分類用基準画像取得部101cは、算出装置10cが細胞画像を分類するクラスに対応する分類用基準画像群を取得する。つまり、分類用基準画像取得部101cは、複数の種類の基準画像を取得する。
ここで、分類用基準画像群とは、細胞画像をクラスに分類するための複数の種類の基準画像群である。細胞画像が分類されるクラスとは、例えば、細胞の種類ごとに分類したクラスである。細胞の種類は、例えば、心筋細胞や、脳細胞など、生物の器官ごとの細胞の種類であってよい。細胞の種類は、生物の特定の器官を構成する細胞の種類であってもよい。生物の特定の器官を構成する細胞とは、例えば、神経系を構成するアストロサイト、グリア細胞、オリゴデンドロサイト、及びニューロンである。細胞の種類は、上皮細胞や間葉細胞であってもよい。細胞の種類は、がん細胞及び健常細胞であってもよい。また、細胞画像が分類されるクラスは、分化の段階ごとに細胞を分類したクラスであってもよい。このクラスはiPS(induced pluripotent stem cells)細胞を分化の段階ごとに分類したクラスであってもよい。また、細胞画像が分類されるクラスは、分裂周期ごとに細胞を分類したクラスであってもよい。
したがって、例えば、算出装置10cが細胞画像をがん細胞と健常細胞とに分類する場合、分類用基準画像取得部101cは、がん細胞に対応する分類用基準画像群と、健常細胞に対応する分類用基準画像群とを取得する。
対象画像取得部102cは、撮像部22が撮像したひとつ以上の細胞画像をひとつ以上の対象画像として取得し、取得したひとつ以上の対象画像を算出部103cに供給する。
算出部103cは、分類用基準画像取得部101cが供給する分類用基準画像群と、対象画像取得部102cが供給するひとつ以上の対象画像とのそれぞれの距離を算出する。ここで分類用基準画像群は、複数の種類の基準画像群であり、複数の種類の基準画像群は、算出装置10cが細胞画像を分類するクラスにそれぞれ対応する。算出部103cは、対象画像を比較画像として距離を算出する。つまり、算出部103cは、複数の種類の基準画像と比較画像とのそれぞれの違いを算出する。算出部103cは、算出したクラスに対応するそれぞれの距離を分類部109に供給する。
分類部109は、算出部103cが供給する複数の距離を用い、対象画像を分類する。つまり、分類部109は、算出部が算出した複数の違いを用い、比較画像を分類する。
記憶部200cは、次元削減情報記憶部201と、分類用基準画像記憶部202cとを備える。分類用基準画像記憶部202cには、算出装置10cが細胞画像を分類するクラスにそれぞれ対応する複数の種類の分類用基準画像群が記憶される。
図20、21を参照し演算部100cの演算手順について説明する。
図20は、本実施形態の算出部による基準特徴量の算出手順の一例を示す流れ図である。
演算部100cは、算出装置10cが細胞画像を分類するクラス毎に処理を開始する(ステップS600)。
分類用基準画像取得部101cは、記憶部200cの分類用基準画像記憶部202cに記憶される分類用基準画像群を取得する(ステップS601)。分類用基準画像取得部101cは、取得した分類用基準画像群を算出部103cに供給する。
ステップS602及びステップS603の各処理は、図3におけるステップS101及びステップS102の各処理と同様であるため、説明を省略する。
演算部100cは、クラス毎の処理を終了する(ステップS604)。
図21は、本実施形態の演算部による対象画像をクラスに分類する演算手順の一例を示す流れ図である。
対象画像取得部102cは、撮像部22が撮像したひとつ以上の細胞画像をひとつ以上の対象画像として取得する(ステップS700)。対象画像取得部102cは、取得したひとつ以上の対象画像を算出部103cに供給する。
ステップS701及びステップS702の各処理は、図5におけるステップS201及びステップS202の各処理と同様であるため、説明を省略する。ただし、算出部103cは、対象画像を比較画像として、複数の分類用基準画像群それぞれとの距離を算出する。算出部103cは、算出したクラスに対応するそれぞれの距離を分類部109に供給する。
なお、算出部103cは、分類用基準画像取得部101cが供給する対象画像が複数である場合、それらの複数の対象画像から代表比較特徴量を算出してよい。算出部103cは、算出した代表比較特徴量と、複数の種類の基準画像群それぞれから算出される代表基準特徴量との距離をそれぞれ算出する。
分類部109は、算出部103cが供給する複数の距離に基づいて、対象画像を分類する(ステップS703)。分類部109は、対象画像群を、分類用基準画像群との距離が最少となる分類用基準画像群に対応するクラスに分類する。分類部109は、分類した結果を結果出力部300に供給する。
ここで図22を参照し、分類部109が対象画像を分類する処理について説明する。図22は、本実施形態の対象画像の分類処理の一例を示す図である。図22に示す例では、算出装置10cは、対象画像群G22を、がん細胞と健常細胞との2つのクラスに分類する。分類用基準画像群S221は、がん細胞が撮像された基準画像群である。分類用基準画像群S222は、健常細胞が撮像された基準画像群である。対象画像群G22は、対象画像P221~P229を含む。
対象画像P221と分類用基準画像群S221との距離と、対象画像P221と分類用基準画像群S222との距離とでは、対象画像P221と分類用基準画像群S221との距離の方が小さい。したがって、分類部109は、対象画像P221を分類用基準画像群S221に対応するクラスであるがん細胞のクラスに分類する。
算出装置10cは、対象画像群G22に含まれる対象画像P221~P229のそれぞれを順に分類してよい。図22に示す例では、対象画像P221、対象画像P222、対象画像P226、及び対象画像P227ががん細胞に分類され、残りの対象画像が健常細胞に分類されている。
図21に戻って、演算部の演算手順の説明を続ける。
結果出力部300は、分類部109が供給する分類結果を表示部30に表示させる(ステップS704)。
以上説明したように、本実施形態の算出装置10cは、分類用基準画像取得部101cと、算出部103cと、分類部109とを備える。分類用基準画像取得部101cは、複数の種類の基準画像を取得する。算出部103cは、複数の種類の基準画像と比較画像とのそれぞれの違いを算出する。分類部109は、算出部103cが算出した複数の違いを用い、比較画像を分類する。この構成により、算出装置10cは、複数の種類の基準画像と、細胞画像との違いを算出できるため、細胞画像を細胞の種類毎に分類できる。
[第5実施形態]
以下、図面を参照しながら本発明の第5の実施形態について説明する。
上記実施形態では、算出装置が、基準画像群と比較画像群との違いを算出する場合について説明した。本実施形態では、算出装置が、比較画像群同士の距離を算出することにより、ウェル内において異常画像を選択したり、細胞の培養状態を判定したりする場合について説明する。
図23は、本発明の第5実施形態による算出装置10dが備える各部の機能構成の一例を示すブロック図である。本実施形態に係る算出装置10d(図23)と、第2の実施形態に係る算出装置10a(図9)とを比較すると、演算部100dにおいて、比較画像取得部102dと、比較画像違い算出部103d、異常画像選択部104d、及び培養状態判定部110が異なる。また、第3の実施形態に係る算出装置10b(図14)と同様に、記憶部200bは、基準画像記憶部を備える必要がない点が異なる。しかし、他の構成要素が持つ機能は第2の実施形態と同じである。第2の実施形態と同じ機能の説明は省略し、第5の実施形態では、第2の実施形態と異なる部分を中心に説明する。
比較画像取得部102dは、撮像部22が撮像した複数のウェルプレートについてウェル比較画像群を比較画像群として取得し、取得した比較画像群を比較画像違い算出部103dに供給する。ウェル比較画像群とは、ウェルの所定の位置毎に細胞が撮像された複数の細胞画像である。
比較画像違い算出部103dは、比較画像取得部102dが供給するウェル比較画像群に含まれる比較画像同士の距離を算出する。つまり、比較画像違い算出部103dは、比較画像同士の違いを算出する。比較画像違い算出部103dは、比較特徴量算出部1032と、距離算出部1034dとを備える。
距離算出部1034dは、比較画像取得部102dが供給するウェル比較画像群に含まれる比較画像それぞれについて、この比較画像以外の比較画像からなる画像群との距離である画像群内距離を算出する。距離算出部1034dは、算出した画像群内距離を異常画像選択部104dに供給する。
距離算出部1034dは、ウェル比較画像群に含まれる複数の比較画像を2つの比較画像群に分け、この2つの比較画像群同士の距離であるウェル内距離を算出する。距離算出部1034dは、異なるウェルに対するウェル比較画像群同士の距離であるウェル間距離を算出する。距離算出部1034dは、異なるウェルプレートのウェルに対するウェル比較画像群同士の距離であるプレート間距離を算出する。距離算出部1034は、算出したウェル内距離、ウェル間距離、及びプレート間距離を培養状態判定部110に供給する。
異常画像選択部104dは、比較画像違い算出部103dが供給する画像群内距離が所定の値より大きい比較画像を、異常画像として選択する。つまり、異常画像選択部104dは、比較画像のうち比較画像違い算出部103dが算出した比較画像同士の違いが所定の値より大きい比較画像を、異常画像として選択する。
ここで異常画像とは、例えば、以下のような場合に撮像された細胞画像である。異常画像とは、例えば、分裂中の細胞が撮像された細胞画像である。異常画像とは、例えば、死滅した細胞が撮像された細胞画像である。異常画像とは、例えば、ウェル内において細胞の密度が極端に小さい場合に撮像された細胞画像である。異常画像とは、例えば、細胞以外の物体がウェル内に混在したまま撮像された細胞画像である。
培養状態判定部110は、比較画像違い算出部103dが供給するウェル内距離、ウェル間距離、及びプレート間距離が所定の範囲内であるか否かに基づいて、比較画像に撮像されている細胞の培養状態を判定する。つまり、培養状態判定部110は、比較画像同士の違いが所定の範囲内であるか否かに基づいて、比較画像に撮像されている比較細胞の培養状態を判定する。
ここで図24を参照し、演算部100dが異常画像として選択する処理、及び細胞の培養状態を判定する処理について説明する。
図24は、本実施形態の演算部100dの培養状態を判定する演算手順の一例を示す図である。ステップS801及びステップS802の各処理は、図7におけるステップS301及びステップS302の各処理と同様であるため、説明を省略する。
比較画像取得部102dは、撮像部22が複数のウェルプレートについてウェル比較画像群を取得する(ステップS800)。比較画像取得部102dは、取得したウェル比較画像群を比較画像違い算出部103dに供給する。
距離算出部1034dは、比較画像取得部102dが供給するウェル比較画像群に含まれる比較画像それぞれについて、画像群内距離を算出する(ステップS803)。距離算出部1034dは、算出した画像群内距離を異常画像選択部104dに供給する。
異常画像選択部104dは、比較画像違い算出部103dが供給する画像群内距離が所定の値より大きい比較画像を、異常画像として選択する(ステップS804)。異常画像選択部104dは、選択した異常画像を示す情報を結果出力部300に供給する。なお、位置判定部106は、異常画像選択部104dが選択した異常画像を示す情報に基づいて、この異常画像のウェル内の位置を判定し、結果出力部300に供給してもよい。
距離算出部1034dは、ウェル内距離、ウェル間距離、及びプレート間距離算出を算出する(ステップS805)。ここで距離算出部1034dは、ウェル比較画像群に含まれる複数の比較画像を2つの比較画像群に分け、ウェル内距離を算出する。ここで距離算出部1034dは、ウェル比較画像群に含まれる複数の比較画像を2つの比較画像群に分ける場合に、例えば、2つの比較画像群に含まれる比較画像の数が均等になるように分ける。ここで例えば、距離算出部1034dは、ウェル比較画像群に含まれる複数の比較画像の枚数が奇数である場合、2つの比較画像群に含まれる比較画像の枚数の差が1枚となるように分ける。また、距離算出部1034dは、例えば、ウェル内において隣接する位置に対する画像同士を同じ比較画像群に分ける。距離算出部1034dは、ウェル内においてなるべく隣接しない位置に対する画像同士を同じ比較画像群に分けてもよい。
距離算出部1034dは、全てウェルに対するウェル比較画像群同士のウェル間距離を算出する。距離算出部1034dは、例えば、それぞれのウェルから1つあるいは全ての位置を選択し、選択した位置に対するウェル比較画像群同士のウェル間距離を算出してよい。
距離算出部1034dは、全てウェルプレートに対するウェル比較画像群同士のプレート間距離を算出する。距離算出部1034dは、例えば、それぞれのウェルプレートから1つのウェルを選択し、さらに選択したウェルから1つあるいは全ての位置を選択し、選択した位置に対するウェル比較画像群同士のプレート間距離を算出してよい。距離算出部1034dは、例えば、それぞれのウェルプレートから全てのウェルを選択し、選択したそれぞれのウェルから、1つあるいは全ての位置を選択し、選択したそれぞれの位置に対するウェル比較画像群同士のプレート間距離を算出してよい。
距離算出部1034dは、算出したウェル内距離、ウェル間距離、及びプレート間距離算出を培養状態判定部110に供給する。
培養状態判定部110は、距離算出部1034dが供給するウェル内距離、ウェル間距離、及びプレート間距離が所定の範囲内であるか否かに基づいて、比較画像に撮像されている細胞の培養状態を判定する(ステップS806)。培養状態判定部110は、判定結果を結果出力部300に供給する。
ここで図25を参照し、培養状態判定部110の培養状態の判定処理について説明する。
図25は、本実施形態の培養状態判定処理の一例を示す図である。培養状態判定部110は、例えば、ウェル内距離DW、ウェル間距離DB、及びプレート間距離DPの全てが所定の閾値以下であるか否かを判定する。培養状態判定部110は、ウェル内距離DW、ウェル間距離DB、及びプレート間距離DPの全てが所定の閾値以下であると判定する場合、培養状態は適切であると判定する。
培養状態判定部110は、例えば、ウェル内距離DW、ウェル間距離DB、及びプレート間距離DPの大小を比較し、ウェル内距離DW、ウェル間距離DB、及びプレート間距離DPがこの順において大きくなっているか否かを判定してもよい。培養状態判定部110は、ウェル内距離DW、ウェル間距離DB、及びプレート間距離DPがこの順において大きくなっていると判定する場合、培養状態は適切であると判定する。
培養状態判定部110は、例えば、ウェルプレートWP1の1組のウェルであるウェルW11とウェルW12とについてのウェル間距離DBを基準値として、ウェルプレートWP1内のそれぞれのウェルについてのウェル間距離DBが、この基準値以下であるか否かを判定してもよい。培養状態判定部110は、ウェルプレートWP1内のそれぞれのウェルについてのウェル間距離DBが基準値以下であると判定する場合、培養状態は適切であると判定する。
培養状態判定部110は、例えば、ウェルプレートWP1のあるウェルW11とウェルプレートWP1の他のウェルとのウェル間距離DBの、ウェルプレートWP1の他のウェルについての平均をウェルW11のスコアとして算出し、このスコアに基づいて培養状態を判定してもよい。培養状態判定部110は、ウェルプレートWP1内の全てのウェルについてスコアを算出し、ウェルプレートWP1の全てのウェルについてスコアの平均値を算出する。培養状態判定部110は、ウェルプレートWP1内の全てのウェルのスコアと、スコアの平均値との差が所定の閾値以内であるか否かを判定する。培養状態判定部110は、ウェルプレートWP1内の全てのウェルのスコアと、スコアの平均値との差が所定の閾値以内であると判定する場合、培養状態は適切であると判定する。
図24に戻って演算部100dの処理の説明を続ける。
結果出力部300は、演算部100dが供給する結果を表示部30に表示させる(ステップS807)。結果出力部300は、異常画像選択部104dが供給する異常画像を示す情報に基づき、異常画像を表示部30に表示させる。結果出力部300は、位置判定部106が供給する異常画像のウェル内の位置を表示部30に表示させてもよい。結果出力部300は、培養状態判定部110が供給する培養状態の判定結果を表示部30に表示させる。
なお、本実施形態においては、異常画像選択部104dが、ウェル比較画像群に含まれる比較画像に含まれる比較画像それぞれについて算出された画像群内距離に基づいて異常画像を選択する場合について説明したが、異常画像選択部104dは、ウェル間距離に基づいて異常ウェルを選択してもよい。代表特徴量算出部1033は、ウェルプレート内のあるウェルAWを異常画像として選択するか判定する場合、例えば、ウェルAWを除くウェルプレート内の他の全てのウェルに対するウェル比較画像群の代表比較特徴量をそれぞれ算出する。代表特徴量算出部1033は、算出した複数の代表比較特徴量の分布の代表値をプレート代表特徴量として算出する。距離算出部1034dは、ウェルAWに対するウェル比較画像群の比較代表特徴量と、プレート代表特徴量との距離を算出する。異常画像選択部104dは、ウェルAWに対するウェル比較画像群の比較代表特徴量と、プレート代表特徴量との距離が所定の値以上である場合、ウェルAWを異常ウェルとして判定する。
また、距離算出部1034dは、ウェルAWに対するウェル比較画像群の比較代表特徴量と、ウェルAWを除くウェルプレート内の他の全てのウェルに対するウェル比較画像群の比較代表特徴量との距離との差を、他の全てのウェルについて合計した値を算出してもよい。異常画像選択部104dは、この値が所定の値以上である場合、ウェルAWを異常ウェルとして判定してもよい。
なお、異常画像を選択する場合には、比較画像取得部102は、ウェル比較画像の代わりに、複数の比較画像を取得してもよい。異常画像選択部104dは、比較画像取得部102が取得した複数の比較画像の中から異常画像を選択してもよい。
なお、本実施形態においては、細胞の培養状態の判定にウェル比較画像群が用いられる場合について説明したが、ウェル比較画像群の代わりにウェル内のある位置に対する1枚の細胞画像が比較画像として用いられ、細胞の培養状態の判定が行われてもよい。
また、本実施形態においては、細胞の培養状態の判定にウェル比較画像群の代表特徴量同士の距離が用いられる場合について説明したが、ウェル比較画像群の代表特徴量同士の距離の代わりに、ウェル比較画像群における反応割合が細胞の培養状態の判定に用いられてもよい。ウェル比較画像群における反応割合が細胞の培養状態の判定に用いられる場合、算出装置10dは、割合算出部105を備えてよい。例えば、ウェル比較画像群における反応割合を、ウェル内の複数の位置同士について比較し、ある位置の反応割合がウェル内の他の位置の反応割合の平均値に比べて所定の範囲内であるかを算出してもよい。算出装置10dは、ウェル内のそれぞれの位置について、反応割合がウェル内の他の位置の反応割合の平均値に比べて所定の範囲内である場合、培養状態は適切であると判定してよい。
または、ウェル比較画像群における反応割合を、ウェルプレート内の複数のウェル同士について比較し、あるウェルの反応割合がウェルプレート内の他のウェルの反応割合の平均値に比べて所定の範囲内であるかを算出してもよい。ウェルプレート内のそれぞれのウェルについて、反応割合がウェルプレート内の他のウェルの反応割合の平均値に比べて所定の範囲内である場合、培養状態は適切であると判定されてよい。
あるいは、ウェル比較画像群における反応割合を、ウェルプレート全体内の複数のウェルプレート同士について比較し、あるウェルプレートの反応割合がウェルプレート全体内の他のウェルプレートの反応割合の平均値に比べて所定の範囲内であるかを算出してもよい。あるウェルプレートの反応割合がウェルプレート全体内の他のウェルプレートの反応割合の平均値に比べて所定の範囲内である場合、培養状態は適切であると判定されてよい。
以上説明したように、本実施形態の算出装置10dは、比較画像違い算出部103dと、異常画像選択部104dとを備える。比較画像違い算出部103dは、比較画像同士の違いを算出する。異常画像選択部104dは、比較画像のうち比較画像違い算出部103dが算出した比較画像同士の違いが所定の値より大きい比較画像を、異常画像として選択する。この構成により、算出装置10dは、比較画像同士の違いを定量化した値を所定の値と比較できるため、ウェル内のそれぞれの位置に対応する細胞画像のなかから異常画像を選択することができる。
また、本実施形態の算出装置10dは、培養状態判定部110を備える。培養状態判定部110は、比較画像同士の違いが所定の範囲内であるか否かに基づいて、比較画像に撮像されている比較細胞の培養状態を判定する。この構成により、算出装置10dは、比較画像同士の違いを定量化した値が所定の範囲内であるかを判定できるため、ウェル毎、またはウェルプレート毎、または複数のウェルプレート全体について培養状態が適切か否かを判定できる。
[第5実施形態の変形例]
上記の第5実施形態においては、算出装置10dが、ウェルにおいて培養される細胞の細胞画像同士の違いを算出する場合について説明したが、変形例として、算出装置10dが、3次元に凝集した細胞塊(コロニー)の一例として、スフェロイドの違いを算出する場合について説明する。以下では上記の第5実施形態と異なる部分を中心に説明する。なお、スフェロイド以外の3次元に凝集した細胞塊の例としては、組織を模して培養されたオルガノイドがある。
図26は、本実施形態の演算部100dの演算手順の変形例を示す図である。なお、ステップS901、及びステップS902の各処理は、図24におけるステップS801、及びステップS802の各処理と同様であるため、説明を省略する。
比較画像取得部102dは、スフェロイドの各断面を撮像した断面画像PZ0~PZnを取得する(ステップS900)。
ここで図27を参照し、スフェロイドの断面画像について説明する。
図27は、本実施形態のスフェロイドの断面画像の一例を示す図である。スフェロイドとは、3次元に凝集した細胞塊(コロニー)である。スフェロイドでは、2次元培養と比べより生体内に近い環境を再現できる。図27では、Z軸の方向に均一であることが期待されるスフェロイドが撮像された3次元画像である方向均一スフェロイド画像SFZが示されている。ただし、方向均一スフェロイド画像SFZにおいて領域APは、他の領域と性質が異なっている。断面画像PZ0~PZnは、方向均一スフェロイド画像SFZのZ軸の各位置に対応する断面が取り出された2次元画像である。断面画像PZiと断面画像PZjとは、それぞれ方向均一スフェロイド画像SFZの領域RのZ軸方向の上面と下面に対応する断面が取り出された2次元画像である。断面画像PZ0~PZnの枚数は、例えば1000枚である。
図26に戻って、演算部100dの演算手順の説明を続ける。
比較画像取得部102dは、取得した断面画像PZ0~PZnのそれぞれを所定の領域に分割し、複数の領域からなる比較画像群として比較特徴量算出部1032に供給する。
距離算出部1034dは、代表特徴量算出部1033dが算出した比較代表特徴量同士の距離を算出する(ステップS903)。ここで距離算出部1034dは、断面画像PZ0~PZnからそれぞれ算出された比較代表特徴量の全ての組合せについて比較代表特徴量同士の距離を算出する。距離算出部1034dは、算出した複数の距離を異常画像選択部104dに供給する。
異常画像選択部104dは、距離算出部1034dが供給する複数の距離に基づいて、距離が所定の値以上である断面画像を断面画像PZ0~PZnの中から選択する(ステップS904)。図27に示した例では、異常画像選択部104dは、方向均一スフェロイド画像SFZの他の領域とは異なる断面画像PZi及び断面画像PZjを選択する。異常画像選択部104dは、選択した断面画像を示す情報を位置判定部106に供給する。
位置判定部106は、異常画像選択部104dが供給する断面画像を示す情報に基づいて、この断面画像の3次元のスフェロイドの画像内の位置を判定する(ステップS905)。位置判定部106は、判定した位置を示す情報を結果出力部300に供給する。
結果出力部300は、位置判定部106が供給する位置を示す情報に基づいて、3次元のスフェロイドの画像内の他の領域と異なる領域の位置を表示部30に表示させる(ステップS906)。
[第6実施形態]
以下、図面を参照しながら本発明の第6の実施形態について説明する。
上記実施形態では、算出装置が、ウェル内の位置に対応する細胞画像同士の違いを定量化する場合について説明した。本実施形態では、算出装置が、スフェロイドが撮像された3次元画像同士の違いを定量化する場合について説明する。
図28は、本発明の第6実施形態による10eが備える各部の機能構成の一例を示すブロック図である。本実施形態に係る算出装置10e(図28)と、第1~5の実施形態に係る算出装置とを比較すると、演算部100eが違いを算出する細胞画像が3次元のスフェロイド画像である点が異なる。3次元のスフェロイド画像同士の違いを算出する点を除ければ、本実施形態に係る算出装置10e(図28)の機能は、第5の実施形態と類似する。第5の実施形態と同じ機能の説明は省略し、第6の実施形態では、第5の実施形態と異なる部分を中心に説明する。
解析画像取得部107eは、撮像部22が撮像した解析画像群を取得する。この解析画像群は、複数のスフェロイド画像であるスフェロイド画像群である。スフェロイド画像とは、同様の手法で作製されたスフェロイドが撮像された3次元画像それぞれから、所定のサイズのボクセルを所定の個数だけ取り出してできる複数のボクセルの組である。ここで所定のサイズとは、一例として100×100×100ピクセルであり、所定の個数とは、一例として5×5×5個である。したがって、スフェロイド画像群とは、1つのスフェロイドの3次元画像から取り出された複数のボクセルの組をさらに複数集めた集合である。
解析画像取得部107eは、スフェロイド画像SF0、スフェロイド画像SF1、スフェロイド画像SF2、及びスフェロイド画像SF3からなる。
解析画像取得部107eは、スフェロイド画像SF0を基準画像群とし、基準画像取得部101eに供給する。解析画像取得部107eは、スフェロイド画像SF1、スフェロイド画像SF2、及びスフェロイド画像SF3をそれぞれ比較画像群とし、比較画像取得部102eに供給する。
基準画像取得部101eは、解析画像取得部107eが供給する基準画像群を取得し、比較画像違い算出部103eに供給する。
比較画像取得部102eは、解析画像取得部107eが供給する比較画像群を取得し、比較画像違い算出部103eに供給する。
比較画像違い算出部103eは、複数の3次元画像である基準画像群と、複数の3次元画像である比較画像群との違いを算出する。比較画像違い算出部103eは、基準特徴量算出部1031eと、比較特徴量算出部1032eと、代表特徴量算出部1033eと、距離算出部1034eとを備える。
基準特徴量算出部1031eは、基準画像取得部101eが供給する基準画像群であるスフェロイド画像SF0に含まれるボクセルのそれぞれの特徴量を、複数の基準特徴量として算出する。ここでボクセルの特徴量とは、ボクセルをある軸の所定の間隔毎に2次元画像である断面図に分割し、それぞれの断面図について算出した特徴量を組にしてできるテンソルである。以下では、ボクセルの特徴量を特徴量テンソルと呼ぶ場合がある。基準特徴量算出部1031eは、スフェロイド画像SF0のボクセルそれぞれについて算出した複数の特徴量テンソルを代表特徴量算出部1033eに供給する。
比較特徴量算出部1032eは、基準画像取得部101eが供給する比較画像群であるスフェロイド画像SF1、スフェロイド画像SF2、及びスフェロイド画像SF3に含まれるスフェロイド画像の特徴量テンソルを、複数の比較特徴量として算出する。比較特徴量算出部1032eは、スフェロイド画像SF1、スフェロイド画像SF2、及びスフェロイド画像SF3のボクセルそれぞれについて算出した複数の算出した複数の比較特徴量を代表特徴量算出部1033eに供給する。
代表特徴量算出部1033eは、基準特徴量算出部1031eが供給するスフェロイド画像SF0の複数の特徴量テンソルから代表特徴量テンソルを算出し、基準代表特徴量テンソルとする。ここで代表特徴量テンソルとは、複数の特徴量テンソルの成分ごとの分布の代表値からなるテンソルである。ここで代表値とは、例えば、中央値や平均値である。代表特徴量算出部1033eは、算出した基準代表特徴量テンソルを距離算出部1034eに供給する。
代表特徴量算出部1033eは、比較特徴量算出部1032eが供給するスフェロイド画像SF1、スフェロイド画像SF2、及びスフェロイド画像SF3毎に複数の特徴量テンソルから代表特徴量テンソルをそれぞれ算出し、それぞれ比較代表特徴量テンソルとする。代表特徴量算出部1033eは、算出した比較代表特徴量テンソルを距離算出部1034eに供給する。
距離算出部1034eは、代表特徴量算出部1033eが供給する基準代表特徴量テンソルと、複数の比較代表特徴量テンソルとの距離をそれぞれ算出し、画像選択部104eに供給する。
画像選択部104eは、距離算出部1034eが供給する複数の距離に距離に基づいて、比較画像群の中からスフェロイド画像を選択する。画像選択部104eは、選択したスフェロイド画像を結果出力部300に供給する。
ここで図29を参照し、演算部100eが基準画像群であるスフェロイド画像との違いが最も小さいスフェロイド画像を比較画像群のなかから選択する処理について説明する。
図29は、本実施形態の演算部100eによる画像を選択する演算手順の一例を示す図である。
解析画像取得部107eは、撮像部22が撮像した解析画像群であるスフェロイド画像SF0、スフェロイド画像SF1、スフェロイド画像SF2、及びスフェロイド画像SF3を取得する(ステップS1000)。ここで図30を参照し、スフェロイド画像について説明する。
図30は、本実施形態のスフェロイド画像の一例を示す図である。図30では、スフェロイドがそれぞれ撮像された3次元画像をスフェロイド画像と呼ぶ。スフェロイド画像SF0、スフェロイド画像SF1、スフェロイド画像SF2、及びスフェロイド画像SF3は、同一条件下で培養された複数のスフェロイドがそれぞれ撮像された3次元画像である。スフェロイド画像SF0、スフェロイド画像SF1、スフェロイド画像SF2、及びスフェロイド画像SF3は、X軸、Y軸、Z軸の各方向に不均一であるスフェロイドが撮像された3次元画像である。
図29に戻って、演算部100eの処理の説明を続ける。
解析画像取得部107eは、スフェロイド画像SF0を基準画像群とし、基準画像取得部101eに供給する。撮像部22が撮像した解析画像群であるスフェロイド画像のうち、解析画像取得部107eがいずれのスフェロイド画像を基準画像群とするかは、算出装置10eの使用者によって予め指定されてよい。
解析画像取得部107eは、スフェロイド画像SF1、スフェロイド画像SF2、及びスフェロイド画像SF3をそれぞれ比較画像群とし、比較画像取得部102eに供給する。
基準画像取得部101e及び比較画像違い算出部103eは、基準画像群から基準代表特徴量を算出する処理を実行する(ステップS1001)。ここで図31を参照し、この基準代表特徴量を算出する処理について説明する。
図31は、本実施形態の演算部100eによる基準代表特徴量を算出する演算手順の一例を示す流れ図である。
基準画像取得部101eは、解析画像取得部107eが供給する基準画像群であるスフェロイド画像SF0を取得する(ステップS110)。基準画像取得部101eは、取得したスフェロイド画像SF0を基準特徴量算出部1031eに供給する。
基準特徴量算出部1031eは、基準画像取得部101eが供給するスフェロイド画像SF0から基準特徴量を算出する(ステップS111)。ここで基準特徴量算出部1031eは、スフェロイド画像SF0から取り出されるボクセルのそれぞれについて特徴量テンソルを基準特徴量として算出する。基準特徴量算出部1031eは、算出した複数の特徴量テンソルを代表特徴量算出部1033eに供給する。
代表特徴量算出部1033eは、基準特徴量算出部1031eが供給するスフェロイド画像SF0の複数の特徴量テンソルから基準代表特徴量テンソルを算出する(ステップS112)。代表特徴量算出部1033eは、算出した基準代表特徴量テンソルを距離算出部1034eに供給する。
図29に戻って、演算部100eの処理の説明を続ける。
比較画像取得部102eは、解析画像取得部107eが供給するスフェロイド画像SF1、スフェロイド画像SF2、及びスフェロイド画像SF3を比較画像群として取得する(ステップS1002)。比較画像取得部102eは、取得したスフェロイド画像SF1、スフェロイド画像SF2、及びスフェロイド画像SF3を比較特徴量算出部1032eに供給する。
比較特徴量算出部1032eは、基準画像取得部101eが供給する比較画像群であるスフェロイド画像SF1、スフェロイド画像SF2、及びスフェロイド画像SF3に含まれるスフェロイド画像の特徴量テンソルを、複数の比較特徴量として算出する(ステップS1003)。比較特徴量算出部1032eは、算出した複数の比較特徴量を距離算出部1034eに供給する。
代表特徴量算出部1033eは、比較特徴量算出部1032eが供給するスフェロイド画像SF1、スフェロイド画像SF2、及びスフェロイド画像SF3毎に、複数の特徴量テンソルから比較代表特徴量テンソルをそれぞれ算出する(ステップS1004)。代表特徴量算出部1033eは、算出した複数の比較代表特徴量テンソルを距離算出部1034eに供給する。
距離算出部1034eは、代表特徴量算出部1033eが供給する基準代表特徴量テンソルと、複数の比較代表特徴量テンソルとの距離をそれぞれ算出する(ステップS1005)。ここで特徴量テンソル同士の距離は、例えば、特徴量テンソルそれぞれの成分の値同士の差に基づいて算出されるユークリッド距離である。なお、特徴量テンソル同士の距離は、ユークリッド距離以外であってもよい。距離算出部1034eは、算出した複数の距離を画像選択部104eに供給する。
画像選択部104eは、距離算出部1034eが供給する複数の距離に基づいて、比較画像群の中からスフェロイド画像を選択する(ステップS1006)。ここで画像選択部104eは、距離算出部1034eが供給する複数の距離のなかから最も小さい距離を判定する。画像選択部104eは、判定した最も小さい距離に対応する比較画像群であるスフェロイド画像を選択する。画像選択部104eは、選択したスフェロイド画像を示す情報を結果出力部300に供給する。
なお、画像選択部104eは、距離算出部1034eが供給する複数の距離のなかから最も大きい距離を判定し、比較画像群の中からスフェロイド画像を選択してもよい。
結果出力部300は、画像選択部104eが供給するスフェロイド画像を示す情報に基づいて、この情報が示すスフェロイド画像を表示部30に表示させる(ステップS1007)。
なお、上記の実施形態においては、「複数の基準画像を用いて算出される特徴量」などの記載において、「用いて」の代わりに「基づいて」としてもよい。すなわち、この一例の場合において、「複数の基準画像を用いて算出される特徴量」との記載を「複数の基準画像を基づいて算出される特徴量」としてもよい。つまり、上記の実施形態においては、「用いて」と「基づいて」とを互いに入れ替えた記載についても、実施形態の記載に含まれる。
なお、本発明の実施形態における算出装置10の各処理を実行するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、当該記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、上述した種々の処理を行ってもよい。
なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものであってもよい。また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
以上、本発明の実施形態について図面を参照して詳述したが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
1…顕微鏡観察システム、10、10a、10b、10c、10d、10e…算出装置、20…顕微鏡装置、30…表示部、100、100a、100b、100c、100e…演算部、101、101b、101e…基準画像取得部、101c…分類用基準画像取得部、102、102b、102d、102e…比較画像取得部、102c…対象画像取得部、103、103b、103c、…算出部、103d、103e…比較画像違い算出部、104…選択部、104d…異常画像選択部、104e…画像選択部、105…割合算出部、106、106e…位置判定部、107、107e…解析画像取得部、108…解析部、109…分類部、110…培養状態判定部、1031、1031b、1031e…基準特徴量算出部、1031c…分類用基準特徴量算出部、1032、1032e…比較特徴量算出部、1033、1033e…代表特徴量算出部、1034、1034d、1034e…距離算出部、1081…時系列算出部、1082…濃度変化算出部、1083…種類変化算出部、200、200c…記憶部、201…次元削減情報記憶部、202、202b…基準画像記憶部、202c…分類用基準画像記憶部、300…結果出力部

Claims (16)

  1. 第1の細胞が撮像された基準画像を取得する基準画像取得部と、
    前記第1の細胞に対する条件とは異なる条件下の第2の細胞が撮像された比較画像を取得する比較画像取得部と、
    前記基準画像を複数枚用いて算出される第1の特徴量と、前記比較画像を用いて算出される第2の特徴量との違いを算出する算出部とを備え
    前記複数の基準画像のそれぞれは、前記第1の細胞が培養される培養容器の複数の位置にそれぞれ対応する、
    算出装置。
  2. 前記第1の特徴量及び前記第2の特徴量は、複数種類の特徴量を含み、
    前記違いは、互いに対応する種類間の前記特徴量から算出される、請求項1に記載の算出装置。
  3. 前記算出部は、複数の前記比較画像を用いて、複数の前記違いを算出し、
    複数の違いが所定の値より大きい前記比較画像を選択する画像選択部を備える、請求項1または請求項2に記載の算出装置。
  4. 前記画像選択部が選択した結果を用いて、複数の前記比較画像から、前記算出部が算出した前記違いが所定の値より大きい前記比較画像の割合を算出する割合算出部を備える、請求項に記載の算出装置。
  5. 複数の前記比較画像の各々は、前記第2の細胞が培養される培養容器の複数の位置にそれぞれ対応し、
    前記画像選択部が選択した結果を用いて、前記算出部が算出した前記違いが所定の値より大きい前記比較画像に対応する前記位置を判定する位置判定部を備える、請求項または請求項に記載の算出装置。
  6. 複数の前記比較画像は、時系列に撮像された複数の画像であり、
    前記算出部が算出した前記違いを用いて、前記時系列における時刻毎の前記違いを算出する時系列算出部を備える、請求項1から請求項のいずれか一項に記載の算出装置。
  7. 複数の前記比較画像は、前記第2の細胞に添加された化合物の濃度毎に撮像された複数の画像であり、
    前記算出部が算出した前記違いを用いて、前記濃度毎の前記違いを算出する濃度変化算出部を備える、請求項1から請求項のいずれか一項に記載の算出装置。
  8. 複数の前記比較画像は、前記第2の細胞に添加された化合物の種類毎に撮像された複数の画像であり、
    前記算出部が算出した前記違いを用いて、前記種類毎の前記違いを算出する種類変化算出部を備える、請求項1から請求項のいずれか一項に記載の算出装置。
  9. 前記基準画像取得部は、複数の種類の前記基準画像を取得し、
    前記算出部は、前記複数の種類の基準画像と前記比較画像とのそれぞれの違いを算出し、
    前記算出部が算出した複数の前記違いを用い、前記比較画像を分類する分類部を備える、請求項1から請求項のいずれか一項に記載の算出装置。
  10. 複数の前記比較画像間の違いを算出する比較画像違い算出部と、
    前記比較画像間の前記違いが所定の値より大きい前記比較画像を、異常画像として選択する異常画像選択部とを備える、請求項1から請求項のいずれか一項に記載の算出装置。
  11. 前記比較画像間の前記違いが所定の範囲内であるか否かに基づいて、前記比較画像に撮像されている前記第2の細胞の培養状態を判定する培養状態判定部を備える、請求項1から請求項10のいずれか一項に記載の算出装置。
  12. 前記算出部は、前記基準画像を次元削減することにより前記第1の特徴量を算出し、前記比較画像を次元削減することにより前記第2の特徴量を算出する、請求項1から11のいずれ一項に記載の算出装置。
  13. 前記算出部は、入力層と、ひとつ以上の中間層と、出力層との複数の階層を含み、各階層のノードが次階層以降のノードに対してノードごとに所定の重みづけをした情報を伝達するニューラルネットワークによって、前記第1の特徴量を算出する、請求項12に記載の算出装置。
  14. 前記算出部は、前記ニューラルネットワークを構成する前記中間層のうちいずれかの前記中間層の出力を用いる、請求項13に記載の算出装置。
  15. コンピュータに、
    第1の細胞が撮像された基準画像を取得する基準画像取得ステップと、
    前記第1の細胞に対する条件とは異なる条件下の第2の細胞が撮像された比較画像を取得する比較画像取得ステップと、
    前記基準画像を複数枚用いて算出される第1の特徴量と、前記比較画像を用いて算出される第2の特徴量との違いを算出する算出ステップとを実行させるための、算出プログラムであって、
    前記複数の基準画像のそれぞれは、前記第1の細胞が培養される培養容器の複数の位置にそれぞれ対応する、
    算出プログラム
  16. 第1の細胞が撮像された基準画像を取得するステップと、
    前記第1の細胞に対する条件とは異なる条件下の第2の細胞が撮像された比較画像を取得するステップと、
    前記基準画像を複数枚用いて算出される第1の特徴量と、前記比較画像を用いて算出される第2の特徴量との違いを算出するステップとを有し、
    前記複数の基準画像のそれぞれは、前記第1の細胞が培養される培養容器の複数の位置にそれぞれ対応する、
    算出方法。
JP2019571915A 2018-02-16 2018-02-16 算出装置、算出プログラム及び算出方法 Active JP7064720B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/005511 WO2019159326A1 (ja) 2018-02-16 2018-02-16 算出装置、算出プログラム及び算出方法

Publications (2)

Publication Number Publication Date
JPWO2019159326A1 JPWO2019159326A1 (ja) 2021-01-28
JP7064720B2 true JP7064720B2 (ja) 2022-05-11

Family

ID=67619911

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019571915A Active JP7064720B2 (ja) 2018-02-16 2018-02-16 算出装置、算出プログラム及び算出方法

Country Status (4)

Country Link
US (1) US20200372652A1 (ja)
EP (1) EP3754595A4 (ja)
JP (1) JP7064720B2 (ja)
WO (1) WO2019159326A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114450707A (zh) * 2019-09-27 2022-05-06 株式会社尼康 信息处理装置、信息处理方法、信息处理程序及信息处理系统
TWI761109B (zh) * 2021-03-04 2022-04-11 鴻海精密工業股份有限公司 細胞密度分群方法、裝置、電子設備及電腦存儲介質

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007080136A (ja) 2005-09-16 2007-03-29 Seiko Epson Corp 画像内に表現された被写体の特定
JP2010157073A (ja) 2008-12-26 2010-07-15 Fujitsu Ltd 顔認識装置、顔認識方法及び顔認識プログラム
JP2016523550A (ja) 2013-07-03 2016-08-12 コイン アイピー ホールディングス、 エルエルシー 化学的または生物学的物質に対する応答の予測方法
JP2017519985A (ja) 2014-06-16 2017-07-20 シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレーテッドSiemens Healthcare Diagnostics Inc. 血液学用デジタルホログラフィ顕微鏡検査データ分析

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8885913B2 (en) * 1999-01-25 2014-11-11 Amnis Corporation Detection of circulating tumor cells using imaging flow cytometry
ES2203543T3 (es) * 1999-11-04 2004-04-16 Meltec Multi-Epitope-Ligand-Technologies Gmbh Procedimiento para el analisis automatico de imagenes microscopicas.
US7016787B2 (en) * 2001-02-20 2006-03-21 Cytokinetics, Inc. Characterizing biological stimuli by response curves
US20030229278A1 (en) * 2002-06-06 2003-12-11 Usha Sinha Method and system for knowledge extraction from image data
US7907769B2 (en) * 2004-05-13 2011-03-15 The Charles Stark Draper Laboratory, Inc. Image-based methods for measuring global nuclear patterns as epigenetic markers of cell differentiation
JP4968595B2 (ja) * 2008-07-23 2012-07-04 株式会社ニコン 細胞の状態判別手法及び細胞観察の画像処理装置
WO2012176785A1 (ja) 2011-06-20 2012-12-27 株式会社ニコン 画像処理装置および方法、並びにプログラム
WO2018154924A1 (ja) * 2017-02-27 2018-08-30 富士フイルム株式会社 顕微鏡装置および観察方法並びに顕微鏡装置制御プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007080136A (ja) 2005-09-16 2007-03-29 Seiko Epson Corp 画像内に表現された被写体の特定
JP2010157073A (ja) 2008-12-26 2010-07-15 Fujitsu Ltd 顔認識装置、顔認識方法及び顔認識プログラム
JP2016523550A (ja) 2013-07-03 2016-08-12 コイン アイピー ホールディングス、 エルエルシー 化学的または生物学的物質に対する応答の予測方法
JP2017519985A (ja) 2014-06-16 2017-07-20 シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレーテッドSiemens Healthcare Diagnostics Inc. 血液学用デジタルホログラフィ顕微鏡検査データ分析

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
福井 宏 他,プライバシーに配慮したDeep Convolutional Neural Networkによるクラウド型顔照合システム,第22回 画像センシングシンポジウム SSII2016 [USB],日本,画像センシング技術研究会,2016年12月31日,IS1-24

Also Published As

Publication number Publication date
JPWO2019159326A1 (ja) 2021-01-28
EP3754595A1 (en) 2020-12-23
EP3754595A4 (en) 2021-09-08
WO2019159326A1 (ja) 2019-08-22
US20200372652A1 (en) 2020-11-26

Similar Documents

Publication Publication Date Title
US10733726B2 (en) Pathology case review, analysis and prediction
Jo et al. Quantitative phase imaging and artificial intelligence: a review
Nketia et al. Analysis of live cell images: Methods, tools and opportunities
US20190384047A1 (en) Systems, devices, and methods for image processing to generate an image having predictive tagging
JP2023501126A (ja) 組織画像分類用のマルチインスタンス学習器
JP6967232B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
Melanthota et al. Deep learning-based image processing in optical microscopy
JPWO2008129881A1 (ja) 特徴量選択方法、特徴量選択装置、画像分類方法、画像分類装置、コンピュータプログラム、及び記録媒体
JP6756339B2 (ja) 画像処理装置、及び画像処理方法
Abade et al. NemaNet: A convolutional neural network model for identification of soybean nematodes
Shaw et al. Three-dimensional behavioural phenotyping of freely moving C. elegans using quantitative light field microscopy
JP7064720B2 (ja) 算出装置、算出プログラム及び算出方法
US11379983B2 (en) Analysis device, analysis program, and analysis method
Siu et al. Optofluidic imaging meets deep learning: from merging to emerging
Yadlapalli et al. Intelligent classification of lung malignancies using deep learning techniques
WO2018193612A1 (ja) 相関算出装置、相関算出方法及び相関算出プログラム
Samiei et al. The tcga meta-dataset clinical benchmark
Benisty et al. Review of data processing of functional optical microscopy for neuroscience
JP6999118B2 (ja) 画像処理装置
WO2020090089A1 (ja) 判定装置、判定方法、及び判定プログラム
WO2019159247A1 (ja) 算出装置、解析プログラム及び解析方法
WO2018122908A1 (ja) 解析装置、解析プログラム及び解析方法
Pylvänäinen Bioimage Analysis for Life Scientists: Tools for Live Cell Imaging
Andreassen Melanoma prognosis prediction using image processing and machine learning
Hay Identifying Gut Bacteria and Their Interactions Using Deep Learning Based Image Analysis and Gnotobiotic Experiments

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200812

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211026

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220325

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220407

R150 Certificate of patent or registration of utility model

Ref document number: 7064720

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313114

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350