JP7210355B2 - 細胞観察システム、コロニー生成位置推定方法、推論モデル生成方法、およびプログラム - Google Patents

細胞観察システム、コロニー生成位置推定方法、推論モデル生成方法、およびプログラム Download PDF

Info

Publication number
JP7210355B2
JP7210355B2 JP2019060850A JP2019060850A JP7210355B2 JP 7210355 B2 JP7210355 B2 JP 7210355B2 JP 2019060850 A JP2019060850 A JP 2019060850A JP 2019060850 A JP2019060850 A JP 2019060850A JP 7210355 B2 JP7210355 B2 JP 7210355B2
Authority
JP
Japan
Prior art keywords
cell
image
unit
cells
colony
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019060850A
Other languages
English (en)
Other versions
JP2020156419A5 (ja
JP2020156419A (ja
Inventor
聡司 原
淳 菅原
圭司 岡田
美香子 堀
拓磨 出澤
聖明 山岸
和彦 長
修 野中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Evident Corp
Original Assignee
Evident Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Evident Corp filed Critical Evident Corp
Priority to JP2019060850A priority Critical patent/JP7210355B2/ja
Priority to US16/829,162 priority patent/US20200311922A1/en
Publication of JP2020156419A publication Critical patent/JP2020156419A/ja
Publication of JP2020156419A5 publication Critical patent/JP2020156419A5/ja
Application granted granted Critical
Publication of JP7210355B2 publication Critical patent/JP7210355B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12MAPPARATUS FOR ENZYMOLOGY OR MICROBIOLOGY; APPARATUS FOR CULTURING MICROORGANISMS FOR PRODUCING BIOMASS, FOR GROWING CELLS OR FOR OBTAINING FERMENTATION OR METABOLIC PRODUCTS, i.e. BIOREACTORS OR FERMENTERS
    • C12M41/00Means for regulation, monitoring, measurement or control, e.g. flow regulation
    • C12M41/30Means for regulation, monitoring, measurement or control, e.g. flow regulation of concentration
    • C12M41/36Means for regulation, monitoring, measurement or control, e.g. flow regulation of concentration of biomass, e.g. colony counters or by turbidity measurements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Organic Chemistry (AREA)
  • Zoology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Wood Science & Technology (AREA)
  • Quality & Reliability (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Medical Informatics (AREA)
  • Sustainable Development (AREA)
  • Microbiology (AREA)
  • Biotechnology (AREA)
  • Biomedical Technology (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Engineering & Computer Science (AREA)
  • Genetics & Genomics (AREA)
  • Multimedia (AREA)
  • Apparatus Associated With Microorganisms And Enzymes (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Measuring Or Testing Involving Enzymes Or Micro-Organisms (AREA)

Description

本発明は、インキュベータ内等、安定した環境下に配置された培地で培養される細胞を観察する細胞観察システム、コロニー生成位置推定方法、推論モデル生成方法、およびプログラムに関する。
培地を充填した容器内で細胞を培養し、この細胞を観察する観察装置は種々提案されている。例えば、特許文献1には、観察地点を順番に顕微鏡画像を撮影し、この撮影画像を記録しておき、記録画像の中から所定の条件を満たす画像のみを検索可能とした培養装置が提案されている。また、特許文献2には、観察地点を順番に顕微鏡画像を撮影し、この撮影画像から細胞の培養状態を評価する評価情報を生成する培養状態評価装置が提案されている。特許文献3には、特別な性質を有する細胞や細胞コロニーを選択し、この選択された細胞や細胞コロニーを除去するようにした装置が提案されている。
国際公開2009/031283号公報 国際公開2010/098105号公報 特開2010-504086号公報
培養容器内の細胞を顕微鏡等で撮影する際の視野は、一般に拡大観察の用途ゆえに狭いことから、培養容器内の細胞等を顕微鏡等で撮影するには、時間がかかってしまう。例えば、iPS細胞等の多機能性幹細胞を取得するために、また望ましい性質をもつ単クローン性細胞集団を創り出すために細胞を培養すると、次第にコロニーが形成される。しかし、培養する細胞の全てが特定の想定したコロニーとはならず、そのため培養容器内の全ての地点で撮影すると、効率が悪く、撮影間隔が長くなってしまう。上述の特許文献1~3では、設定されている全ての地点で培養容器内の細胞を撮影しており、効率がよくない。また、特許文献2、3には、細胞を評価することについて記載されているが、細胞の評価結果に基づいて、撮像や観察の位置を選択することについては何ら記載されていない。
本発明は、このような事情を鑑みてなされたものであり、培養器内の細胞等を撮像や観察する際に、細胞の培養状態(コロニーの生成状態)の変化に応じて、撮像や観察地点を変更することが可能な細胞観察システム、コロニー生成位置推定方法、推論モデル生成方法、およびプログラムを提供することを目的とする。
上記目的を達成するため第1の発明に係る細胞観察システムは、像部と、上記撮像部によって取得した複数の細胞の画像に基づいて、上記画像中の複数の細胞の位置情報または形状情報からコロニーが生成又は成長する位置を推論し、推論位置で撮像を行うように上記撮像部の位置を制御する制御部と、を有する。
第2の発明に係る細胞観察システムは、上記第1の発明において、 上記推論位置が、上記コロニーが生成すると予測される位置である
第3の発明に係る細胞観察システムは、上記第1の発明において、上記撮像部を水平方向に移動させる移動部を有し、上記制御部は、上記推論位置に基づいて、上記撮像部が上記コロニーの中心位置で画像を撮像するように上記移動部を制御する。
第4の発明に係る細胞観察システムは、上記第1または第2の発明において、 上記制御部は、上記推論位置上の細胞またはコロニーを所定時間間隔でタイムラプス撮像するように上記撮像部を制御する。
第5の発明に係る細胞観察システムは、上記第の発明において、上記撮像部によって取得された細胞またはコロニーの画像を表示する表示部を有する
第6の発明に係る細胞観察システムは、上記第5の発明において、上記制御部が、上記撮像部が上記推論位置上で取得した複数の画像を解析し、画像中の細胞数を計測し、上記細胞数の経時変化を上記表示部に出力する。
第7の発明に係る細胞観察システムは、上記第1の発明において、細胞画像を教師データとして生成されたコロニー化推論モデルを備えた推論部を更に有し、 上記推論部は、上記撮像部が撮像した画像の入力に基づいて、コロニーが生成する位置を推論し、推論結果を上記推論位置の情報として出力する。
第8の発明に係る細胞観察システムは、上記第7の発明において、上記推論部が、上記画像または上記推論位置の情報に基づき培養の良否の判定結果を出力する。
第9の発明に係る細胞観察システムは、上記第7の発明において、上記コロニー化推論モデルは、細胞培養の様子を時系列で撮像した画像データから得られる情報の履歴を、上記画像データの取得時刻ごとにブロックチェーンのブロック生成処理で管理されることによって生成される。
第10の発明に係る細胞観察システムは、上記第1の発明において、上記推論部が推論した上記推論位置を記録可能である記録部を有する。
第11の発明に係る細胞観察システムは、上記第1の発明において、上記細胞は、多能性幹細胞である。
第12の発明に係る細胞観察システムは、上記第1の発明において、上記コロニーは、複数のiPS細胞が形成したコロニーである。
第13の発明に係る細胞観察システムは、上記第1の発明において、上記撮像部は、水平方向移動可能である。
第14の発明に係る細胞観察システムは、上記第1の発明において、上記コロニーは、上記画像中の複数の細胞の少なくとも一部が凝集して生成又は成長したものである。
第15の発明に係る推論モデル生成方法は、細胞のコロニー形成に至る細胞培養の様子を時系列で撮像した複数の画像データを取得し、取得した上記画像データのうち、コロニー化する画像部分をアノテーションとして指定し、このアノテーションで指定した画像データを教師データとし、上記教師データを用いて、入力をコロニー化前の細胞画像、出力をコロニー化予想位置としたコロニー化推論モデルを生成する。
第16の発明に係るコロニー生成位置推定方法は、上記第15の発明に係る推論モデル生成方法によって作成したコロニー化推論モデルに、コロニー化前の細胞画像を入力し、上記コロニー化推論モデルを用いた演算処理を実行し、上記コロニーが生成又は成長する位置を推定する。
第17の発明に係るプログラムは、細胞観察システム内に設けられたコンピュータに、撮像部によって取得した細胞の画像を用いて、上記画像中の複数の細胞の位置情報または形状情報からコロニーが生成又は成長する位置を推論し、上記推論位置で撮像を行うように上記撮像部の位置を制御することを実現させる。
本発明によれば、培養器内の細胞等を撮像や観察する際に、細胞の培養状態(コロニーの生成状態)の変化に応じて、撮像や観察の地点を変更することが可能な細胞観察システム、コロニー生成位置推定方法、推論モデル生成方法、およびプログラムを提供することができる。
本発明の一実施形態に係る細胞観察装置によって観察される一例であり、細胞からコロニーが発生する様子を示す図である。 本発明の一実施形態に係る細胞観察装置と情報端末装置からなる細胞観察システムの外観図である。 本発明の一実施形態に係る細胞観察装置と推論装置からなる細胞観察システムの主として電気的構成を示すブロック図である。 本発明の一実施形態に係る細胞観察システムで推論モデルを生成する際に使用する教師画像の例である。 本発明の一実施形態に係る細胞観察システムの撮像部の動作を示すフローチャートである。 本発明の一実施形態に係る細胞観察システムの情報端末装置の動作を示すフローチャートである。 本発明の一実施形態に係る細胞観察システムの情報端末装置の動作を示すフローチャートである。 本発明の一実施形態に係る細胞観察システムの情報端末装置において、アイコン表示を示す図である。 本発明の一実施形態に係る細胞観察装置と情報端末装置からなる細胞観察システムにおいて、情報端末装置における表示画像の第1の変形例を示す外観図である。 本発明の一実施形態に係る細胞観察装置と情報端末装置からなる細胞観察システムにおいて、情報端末装置における表示画像の第2の変形例を示す外観図である。 本発明の一実施形態に係る細胞観察システムの情報端末装置おいて、合成画像の表示を示す図である。 本発明の一実施形態に係る細胞観察システムの情報端末装置おいて、コロニーの位置と、撮影画像を示す図である。 本発明の一実施形態に係る細胞観察システムにおいて、コロニー化判定の他の例を示すフローチャートである。
以下、本発明の一実施形態として細胞観察装置と情報端末装置を有する細胞観察システムに適用した例について説明する。
本実施形態に係る細胞観察システムにおいては、細胞画像を取得し、この細胞画像に基づいて、細胞のコロニーが形成されている位置や形成が予測される位置を推論している(図3の推論エンジン111c、図6BのS61、S63参照)。この推論されたコロニーの形成位置や形成予測位置を考慮して、撮像部(図1のカメラ部10、図3の画像入力部23a)によって、細胞を撮像する位置を調整している(図5のS17参照)。なお、細胞のコロニー形成位置や形成予測位置は、推論に限らず、フローチャートを用いたロジックにより求めてもよい(図12)。
前述したように、本実施形態に係る細胞観察システムでは、細胞を培養し、コロニーを作成する際に、コロニーが形成される位置および形成される予想位置を予測し、この予測位置等に基づいて、撮像部による撮影を行うようにしている。そこで、最初に、図1を用いて、細胞の培養時に、コロニーがどのように形成されるかについて説明する。
様々な組織に分化する能力を持つ多能性幹細胞の研究は、再生医療の分野で注目されている。多能性幹細胞としては「胚性幹細胞(ES細胞)」が知られており、最近では、体細胞に遺伝子を導入することにより人工的に作成した「人工多能性幹細胞(iPS細胞)」なども知られている。患者の治療を想定したヒト多能性幹細胞はコロニーとして培養される。コロニーは培地中で細胞が分裂し、また接着することによって、細胞が細胞塊となったものである。細胞複製によって単一の先祖細胞から誘導される複数の培養細胞を単クローン性と呼ぶが、本実施形態においては、このような細胞培養にも適用可能である。培地交換や継代と呼ばれる細胞を植え継ぐプロセス等を行い、コロニーを適度な小さな塊として管理する。この管理を怠ると、特殊化していない細胞が特殊化したタイプの細胞に変化する「分化」が起こってしまう。
したがって、例えば、この未分化細胞のコロニーを適切に培養して管理する技術が必要であるが、培養の細かな条件によっては細胞が死滅し、また想定とは異なるコロニーとなることがあった。培養には日数がかかるので、これが出来てしまってから判断したのでは、効率が悪い。
ヒトの皮膚細胞由来の線維芽細胞に転写因子を入れると、この転写因子によって細胞内において遺伝子発現状態が変化した核が初期化を起こし、因子導入後、数時間から48時間以内にiPS化が始まるとされる。元の線維芽細胞に似た形状で分裂を行いながらiPS細胞コロニーの形に変わる。しかし、分化能を保持したまま半永久的に自己複製を繰り返して失敗してしまうことがある。そこで、この状態を早い段階で検出して処置する。
図1は、培養している細胞の変化を示す模式図である。図1(a)が最初の様子であり、図1(b)(c)・・・(e)と、時間が経過に応じて細胞が変化していく様子を示す。細胞に因子が導入されると、培養後、一週間程度で、図1(e)に示すようにコロニーが形成される。図1(d)に示すように、コロニー形成の一日前までは元の線維芽細胞の形状なので、図1(d)の状態から図1(e)への予測が困難であった。細胞分裂と接着がほぼ同時に、接触(接着)した細胞間の相互作用によって分裂や結合(コロニー化)が促進されるからである。そこで本実施形態では、複数の細胞の接触時の両細胞の態様変化に基づいてコロニー化を予測する。
次に、図2を用いて、本実施形態に係る細胞観察システムの構成について説明する。細胞観察システムは、細胞観察装置1、情報端末100、および推論エンジン200を有する。細胞観察装置1と細胞培養容器80は、インキュベータ内に配置され、情報端末100および推論エンジン200はインキュベータの外に配置される。
細胞観察装置1の透明な天板40の上には細胞培養容器80を載置でき、細胞培養容器80で培養される試料81を透明な天板40を透して撮像し、撮像画像データを取得することができる。このため、細胞をインキュベータ等内で環境を維持したまま培養し、インキュベータ外の情報端末100等において、試料81等の計測や観察を行うことができる。インキュベータ内で培養された細胞の観察や計測を遠隔で行うので、細胞観察装置1は省エネ性であり、製品の信頼性が高い設計を行うことが望ましい。
カメラ部10には、撮影レンズ、撮像素子、撮像制御回路等を有する撮像部(図2の画像入力部23a)を有し、撮像部は試料81を撮像し、画像データを生成する。照明用のLED(Light Emitted Diode)等の光源が配置されている。LED等の照明光は、天板40および細胞培養容器80の方向に照射され、細胞培養容器80の蓋によって反射され、この反射光によって試料81を透過光で照明する。なお、LED等の光源は、細胞培養容器80の上方に配置し、試料81を透過光で照明するようにしてもよい。なお、照明光源は、LED以外の光源を使用しても勿論かまわない。
また、細胞観察装置1内には無線通信装置(図3の通信部24参照)が配置されており、細胞観察装置1の外部に配置される情報端末100内の通信部114と無線通信が可能である。細胞観察装置1内のカメラ部10の詳しい電気的構成については、図3を用いて後述する。
カメラ部10は、X軸方向およびY軸方向に移動可能、すなわち水平方向の平面内で移動することができる。すなわち、カメラ10は、X送りネジ32bに保持され、X送りネジ32bが回転することによって、X軸方向に移動可能である。X送りネジ32bは、Xアクチュエータ31bによって回転駆動される。Xアクチュエータ31bは、Y送りネジ32aに保持され、Y送りネジ32aが回転することによって、Y軸方向に移動可能である。Y送りネジ32aは、Yアクチュエータ31aによって回転駆動される。カメラ部10内の制御部21(図3参照)は、Yアクチュエータ31aおよびXアクチュエータ31bの駆動制御を行い、カメラ部10を、予めプログラムされた手順に従って、X軸およびY軸方向に駆動制御する。また、ユーザがカメラ部10を特定の位置に移動させることも可能であり、この場合には、情報端末100によって手動で指示するので、移動制御部33はユーザの指示に従ってカメラ部10を移動させる(図5のS11、S13、図6BのS47、S49参照)。
なお、細胞観察装置1内には、内蔵の電源電池が備えられ、Yアクチュエータ31a、Xアクチュエータ31b、カメラ部10に電源が供給され、また各部の間で制御信号を双方向で通信するための通信ラインが設けられている。本実施形態では、細胞観察装置1をインキュベータ内に配置し易くするために、電源として電源電池を使用することを想定しているが、これに限らず、AC電源によって電源供給するようにしてもよい。また各部の間の制御信号は有線通信で行うことを想定しているが、無線通信によって行うようにしてもよい。
上述のカメラ部10、Yアクチュエータ31a、Xアクチュエータ31b、Y送りネジ32a、X送りネジ32bは、天板40および外装体42で構成される筐体内に配置されている。天板40および外装体42は、その内部に外部からの湿気が入り込まないような気密構造となっている。このため、インキュベータ内が高湿であっても、天板40および外装体42により構成される筐体の内部は、高湿となることがない。一方、細胞観察装置1の天板40の上に置かれた細胞培養容器80はインキュベータによって調整された温度・湿度が維持される。
透明な天板40の上側には、細胞培養容器80を載置することが可能であり、細胞培養容器80内には培地を充填し、試料81(細胞)を培養することができる。カメラ部10のレンズは、透明な天板40を透して細胞培養容器80内の培地を撮像し、画像を観察することができる。この撮像にあたっては、前述したように、LED等の光源が試料81を照明する。細胞培養容器80内の細胞は、カメラ部10によって撮像されることから、細胞培養容器80の底面(天板40と接する側)は透明であることが望ましい。
情報端末100は、インキュベータの外部にあり、外部から細胞観察装置1の制御を行う。すなわち、情報端末100は、図3に示すように、通信部114を有し、細胞観察装置1内の通信部24と無線通信が可能である。このため、情報端末100は、細胞観察装置1と離れた位置から、通信を行い、カメラ部10を移動させ、またカメラ部10が取得した画像データを受信することができる。なお、情報端末100は、専用機器であってもよく、またスマートフォン等の情報端末機器を操作部として兼用するようにしてもよい。さらに、情報端末100は、パーソナルコンピュータ(PC)、サーバ等のコンピュータの付属の操作部を兼用するようにしてもよい。
また、情報端末100は表示部112を有し、この表示部112に細胞観察装置1が取得した画像を表示することができる。また、表示部112は、カウントモード(予測表示付き)が設定されている場合には、図2に示すように、細胞培養容器80内における位置(場所)1、位置2、位置3、・・・毎に、細胞数のグラフ112aを示す。このグラフ112aは、位置毎に細胞のカウント結果(実線)と、細胞数の予測(破線)を示す。また、細胞培養に関する培養情報112bも示される。図2に示す例では、培養情報112bとして、細胞培養が「良好」であり、「10時間後」に「培地交換」が必要であることを表示している。「戻る」アイコン112cは、表示部112の画面を前の画面に戻らせるためのアイコンである。「コロニー化」アイコン112dは、表示されている場所がコロニー化することを示している。図2に示す例では、場所3のみがコロニー化し、場所1、2はコロニー化しないことを示している。
推論エンジン200は、コロニー化を推論するための推論モデルを生成する。推論エンジン200は、情報端末100内に設けてもよいが、情報端末100とインターネット等を通じて接続可能なサーバ等に設ける。推論エンジン20は、教師データを入力し、コロニー化を予測する推論するための推論モデルを生成する。教師データについては図4を用いて後述する。推論エンジン200が生成した推論モデルは、情報端末100内の推論エンジン111cに格納され、コロニーの発生を予測するのに用いられる。
次に、図3を用いて、本実施形態に係る細胞観察装置1と情報端末100の電気的構成を説明する。細胞観察装置1は、制御部21、移動部22、情報取得部23、通信部24、記録部25を有する。情報取得部23は、画像入力部23aと位置入力部23bを有し、種々の情報を取得する。さらに、装置単体での作動チェックなどのための操作部を具備してもよく、作動チェック結果を表示する表示部等を具備してもよい。
画像入力部23aは、図2に示したカメラ部10内に配置され、撮影レンズ、撮像素子、撮像制御回路等を有する。画像入力部23aは、試料81の画像を画像データに変換し、制御部21に出力する。カメラ部10は前述したように、水平方向に移動可能であり、指定した位置で試料81の画像を取得することができる。カメラ部10は、容器80内の試料81(細胞)の下まで潜り込み、試料81を撮像することができる。画像入力部23aは、水平方向に移動可能であり、容器中で培養される細胞を撮像する撮像部として機能する。位置入力部23bは、カメラ部10の位置情報、すなわち撮影位置を入力する。撮影位置は、カメラ部10の位置を測定するためのX軸方向エンコーダやY軸方向エンコーダ等の位置センサを設け、この位置センサ出力を入力するようにしてもよい。また、カメラ部10を移動部22によって移動させる際の位置制御信号を入力し検出するようにしてもよい。なお、カメラ部10は撮像、観察に必要な補助光源を具備してもよく、別の光源を利用してもよい。
移動部22は、前述のX軸アクチュエータ31b、Y軸アクチュエータ31a等の駆動源と、これらの駆動源の駆動を制御する制御回路を有する。移動部22は、制御部21からの制御信号に基づいて、カメラ部10を移動させる。移動部22は、コロニー位置判定部によって判定されたコロニーの位置に基づいて、コロニーの中心位置で撮像部によって上記撮像部による撮像するように位置を制御する移動部として機能する。
通信部24は、通信回路を有し、情報端末100内の通信部114と通信を行う。細胞観察装置1は画像入力部23aによって取得した細胞の画像と、撮影時の位置情報を、通信部24を通じて、情報端末装置100に送信する。また、情報端末100は、細胞観察装置1から受信した画像を解析し、細胞のコロニーが生成されると予測される位置情報を、通信部24を通じて、細胞観察装置1に送信する。制御部21は受信したコロニーの生成予測位置に基づいて、撮影位置の制御を行う。
記録部25は、電気的に書き換え可能な不揮発性メモリおよび電気的に書き換え可能な揮発性メモリを有し、移動パターン25aと画角情報25bを記録する。移動パターン25aは、移動部22によってカメラ10を移動させるパターンである。この移動パターンは、予め情報端末100から受信し、記憶しておく。制御部21はこの移動パターン21を読み出し、移動部22の制御を行い、画像入力部23aによって画像を取得する。また、細胞培養中に取得した画像に基づいて、情報端末100がコロニーの発生個所を予測し、予測結果に基づいて移動パターンを生成した場合には、細胞観察装置1が、この予測結果に基づく移動パターンを受信し、移動パターン25aとして記憶する。画角情報25bは、画像入力部23aの撮影レンズの焦点距離情報である。コロニー全体を撮像して表示する方法としては、画像入力部23a(撮像ユニット)によって取得した複数の画像を合成し、全体を表示するようにしてもよい。
制御部21は、CPU(Central Processing Unit)、プログラムを記憶したメモリ、および周辺回路をし、プログラムに従って、細胞観察装置1の全体制御を行う。制御部21が行う制御としては、例えば、予め記憶されている移動パターン25a、または情報端末100から指示された移動パターン25aに従って、カメラ10を移動部22によって移動させ、また指定された位置で画像入力部23aによって画像を取得する。取得した画像は、通信部24を通じて、情報端末100に送信する。
制御部21は、情報端末100からタイムラプスの指示を受信すると、撮像部によってコロニーを所定時間間隔で撮像制御を行うタイムラプス制御部として機能する。このタイムラプス制御部は、予測されたコロニー位置でコロニーを所定時間間隔で撮像する。
情報端末100は、制御部111、表示部112、情報取得部113、通信部114を有する。表示部112は、表示用のモニタ画面を有し、細胞観察装置1から受信した細胞の画像を表示する。また、図2に示すように、細胞をカウントした結果をグラフ表示し、その他、細胞培養に関する情報も表示する。なお、表示部112における表示の変形例について、図8および図9を用いて後述する。表示部112は、撮像部によって取得されたコロニーの画像を表示する表示部として機能する。この表示部は、複数のコロニーを比較して表示可能である(図9参照)。また、表示部は、コロニーが複数の細胞の画像に跨る場合に、コロニーの全体が入るように調整する(図10参照)。情報取得部113は、画像入力部113aを有する。画像入力部113aは、撮影レンズ、撮像素子、撮像制御回路等を有し、画像を取得する。
通信部114は、通信回路を有し、細胞観察装置1内の通信部24と通信を行う。この通信部114を通じて、前述したように、細胞観察装置1が取得した画像を受信し、また推論エンジン111cによって推論されたコロニーの生成位置等の情報を細胞観察装置1に送信する。操作部115は、ユーザが細胞観察装置1および情報端末に指示を入力するためのインターフェースである。操作部115としては、操作用のスイッチ等の操作部材、タッチ操作可能なタッチパネルを有する。
制御部111は、CPU(Central Processing Unit)、プログラムを記憶したメモリ、および周辺回路をし、プログラムに従って、情報端末100の全体制御を行う。情報端末100における制御として、例えば、細胞観察装置1から受信した細胞の画像(例えば、図1参照)に基づいて、将来、コロニーが発生する位置を予測し、この予測位置に基づいて、細胞観察装置1において細胞の画像を撮影するように指示する。
制御部111は、コロニー位置判定部111a、コロニー化判定部111b、推論エンジン111cを有する。推論エンジン111cは推論エンジン200から受信した推論モデルを格納し、推論を行う。この推論は、細胞観察装置1から受信した画像を入力層に入力し、推論モデルを用いて、コロニーが発生しているか否かの判定を行い、またコロニーが発生している位置を判定する。これらの判定は、現在に限らず、将来の予測も行う。
制御部111内のコロニー化判定部111bおよびコロニー位置判定部111aは、推論エンジン111cによる推論結果に基づいて、将来、コロニーが発生し、またはコロニーが成長していく位置を予測し、この予測結果に基づいて、細胞観察装置1において画像を取得すべき位置を、細胞観察装置1に送信する。また制御部111は周辺回路として画像解析部(画像解析回路)を有し、細胞観察装置1によって取得された画像に基づいて、細胞を識別し、細胞の数をカウントする。なお、細胞の識別は、推論エンジンによって識別し、数をカウントしてもよい。
推論エンジン111cにおいて使用する推論モデルは、情報端末100または情報端末100の外部に設けられたサーバ内に設けられた推論モデル生成装置において生成する。この推論モデルの生成にあたっては、まず、細胞のコロニー形成に至る細胞培養の様子を時系列で撮像して取得した画像データのうち、コロニー化する画像部分をアノテーションとして指定し、このアノテーションで指定した画像デーを教師データとし、次に、教師データを用いて、入力をコロニー化前の細胞画像、出力をコロニー化予想部位としたコロニー化推論モデルを生成する。
コロニー位置判定部111aは、細胞観察装置1から受信した画像に基づいて、コロニーの発生する位置を判定する。またコロニー化判定部111bはコロニーが発生したか否かを判定する。コロニー化判定部111bは、撮像部を水平方向に移動させることによって位置を変えて、撮像部によって取得した細胞の画像に基づいてコロニーを判定する判定部として機能する。コロニー位置判定部111aは、コロニーを判定した際の撮像部の移動位置と撮像範囲に基づいてコロニーの位置を判定するコロニー位置判定部として機能する。上述の判定部は、複数の細胞の位置と形状情報からコロニーとなることを予測することによって、コロニー位置判定する。また判定部は、複数の細胞の位置と形状情報からコロニーとなることを予測することによって、コロニー位置を判定する。
次に、図4を用いて、推論エンジン200において深層学習を行い、推論モデルを生成するための教師データについて説明する。図4(a)は、細胞画像F1~F3において、コロニーが発生する位置P1~P3にアノテーションを施した例を示す。位置P1~P3は、コロニーが発生した位置にアノテーションを施してもよいが、コロニーが具現化される前の画像に対して、アノテーションを施すようにしてもよい。実際にコロニーが発生した位置において、発生前の画像において対応する位置にアノテーションを施すようにしてもよい。また、熟練した専門家が、コロニーが発生すると予測される位置にアノテーションを施してもよい。
図4(b)は、コロニーが発生した画像と、その位置で撮影した発生前の画像を対にし、この対の画像を用いてアノテーションを施す例である。細胞画像F4aとF4bは対の画像であり、細胞画像F5aとF5bも対の画像である。細胞画像F4b、5bにはコロニーC4、C5が発生していることから、細胞画像F4a,5aの対応する位置に、アノテーションを施してもよい。このように、実際にコロニーが発生する前の画像に、発生が予測される場所をアノテーションすることにより、推論モデル生成のための教師データが作成される。この教師データを用いて深層学習することにより、コロニーが発生する場所を予測することが可能な推論モデルを生成することができる。
なお、コロニーが発生しないと予測される場所を推論するための教師データを生成してもよい。この場合には、細胞画像F1~F3、F4a,F5aにおいて、コロニーが発生しないと予測される位置にアノテーションを施して、ネガティブな教師データを作成する。この教師データを用いて深層学習することにより、コロニーが発生しない場所を推論することが可能となる。
このように、本実施形態においては、細胞培養時の経過を観察した画像や細胞カウントなどで、予め取得していたコロニー化などの実績あるデータを利用して、将来を予測することが出来るような変化の特徴を推論するようにしている。このために、コロニー化に先立つデータに良否判断や位置情報を追記するアノテーションを行っている。具体的には、容器中で培養される細胞を時系列的に順次撮像する撮像部によって取得した細胞の時系列画像に基づいてコロニーが形成されることを推論する。この推論を行う推論モデルの作成時には、複数の細胞の位置と形状情報を利用する。つまり、細胞のコロニー形成に至る細胞培養を時系列で撮像して得た画像データが有効活用される。すなわち、細胞のコロニー形成に至る細胞培養の様子を時系列で撮像して得た画像データのうち、コロニー化する画像部分をアノテーションとして指定して得られた教師データを教師データとし、入力をコロニー化前の細胞画像、出力をコロニー化予想部位としたコロニー化推論モデルを生成する。
本実施形態においては、想定どおりの細胞培養が行われるのをコロニーの形成で判定していたが、もちろんそれ以外の方法で想定通りの細胞培養が行われることを判定してもよい。つまり、想定通りに培養されている培養において得られた、同じ培養位置における時系列の撮像結果や細胞カウントデータがあれば、その変化の特徴から推論モデル作成用の教師データが得られるので、この推論モデルによって想定通りの培養の予測判定を行ってもよい。
また、培養の良否見極めを早めに行う効率化を想定した用途であれば、想定通りにならない場合を判定してもよく、この場合も同様の考え方が適用できる。つまり想定通りに培養されてなかった培養において得られた、同じ培養位置における時系列の撮像結果や細胞カウントデータがあれば、その変化の特徴からうまく行かないことを推論する推論モデル作成用の教師データが得られるので、これによって想定通りにならない培養の予測判定を行ってもよい。細胞培養の成功に至る培養された細胞の様子を時系列で撮像して得た画像データのうち、想定通り、または想定通りにならずに培養される細胞の部分を画像内でアノテーションとして指定して得られた教師データを教師データとし、入力を細胞画像、出力を、想定通り、または想定通りにならずに培養される細胞がある画像部分とした細胞培養成否表示用推論モデルを生成してもよい。
ここで、深層学習について、説明する。「深層学習(ディープ・ラーニング)」は、ニューラル・ネットワークを用いた「機械学習」の過程を多層構造化したものである。情報を前から後ろに送って判定を行う「順伝搬型ニューラル・ネットワーク」が代表的なものである。順伝搬型ニューラル・ネットワークは、最も単純なものでは、N1個のニューロンで構成される入力層、パラメータで与えられるN2個のニューロンで構成される中間層、判別するクラスの数に対応するN3個のニューロンで構成される出力層の3層があればよい。入力層と中間層、中間層と出力層の各ニューロンはそれぞれが結合加重で結ばれ、中間層と出力層はバイアス値が加えられることによって、論理ゲートを容易に形成できる。
ニューラル・ネットワークは、簡単な判別を行うのであれば3層でもよいが、中間層を多数にすることにより、機械学習の過程において複数の特徴量の組み合わせ方を学習することも可能となる。近年では、9層~152層のものが、学習にかかる時間や判定精度、消費エネルギーの観点から実用的になっている。また、画像の特徴量を圧縮する、「畳み込み」と呼ばれる処理を行い、最小限の処理で動作し、パターン認識に強い「畳み込み型ニューラル・ネットワーク」を利用してもよい。また、より複雑な情報を扱え、順番や順序によって意味合いが変わる情報分析に対応して、情報を双方向に流れる「再帰型ニューラル・ネットワーク」(全結合リカレントニューラルネット)を利用してもよい。
これらの技術を実現するために、CPUやFPGA(Field Programmable Gate Array)等の従来からある汎用的な演算処理回路を使用してもよい。しかし、これに限らず、ニューラル・ネットワークの処理の多くが行列の掛け算であることから、行列計算に特化したGPU(Graphic Processing Unit)やTensor Processing Unit(TPU)と呼ばれるプロセッサを利用してもよい。近年ではこのような人工知能(AI)専用ハードの「ニューラル・ネットワーク・プロセッシング・ユニット(NPU)」がCPU等その他の回路とともに集積して組み込み可能に設計され、処理回路の一部になっている場合もある。
その他、機械学習の方法としては、例えば、サポートベクトルマシン、サポートベクトル回帰という手法もある。ここでの学習は、識別器の重み、フィルター係数、オフセットを算出するものあり、これ以外にも、ロジスティック回帰処理を利用する手法もある。機械に何かを判定させる場合、人間が機械に判定の仕方を教える必要がある。本実施形態においては、画像の判定を、機械学習により導出する手法を採用したが、そのほか、人間が経験則・ヒューリスティクスによって獲得したルールを適応するルールベースの手法を用いてもよい。
次に、図5に示すフローチャートを用いて、細胞観察装置の動作を説明する。このフローチャートは、細胞観察装置1内の制御部21に設けられたCPUがメモリに記憶されたプログラムに従って、細胞観察装置1内の各部を制御することにより実現する。
図5に示す細胞観察装置のフローチャートが開始すると、まず通信待ちの状態となる(S1)。ここでは、情報端末100から通信が開始されるのを待つ。すなわち、インキュベータ等、外部から隔離された室内に配置された細胞観察装置1に対して、ユーザが指示を与える場合には、情報端末100を操作する。このステップは、この操作に基づく制御信号が無線通信によって受信するのを待つ状態である。
次に、電源オフ/オフ通信がなされたか否かを判定する(S3)。ここでは、通信部と判定機能を所定時間間隔(例えば、1分間隔)で起動し、情報端末100から通信があるか否かを判定する。前述したように、本実施形態においては、細胞観察装置1の電源は電池によって供給されるので、電源電池の消耗を防止するために、ユーザは情報端末100から電源オンまたは電源オフの指示を行うことができる(図6AのS39参照)。なお、通常の通信ではなく、BLE(Bluetooth Low Energy)などの別の省エネ通信によって通信を行ってもよい。
ステップS3における判定の結果、電源オン/オフ通信があった場合には、撮像オン/オフ処理を行う(S5)。ここでは、電源オンであった場合には、細胞観察装置1の電源をオフとし、一方、電源オフであった場合には、細胞観察装置1の電源をオンとする。但し、情報端末100からの指示を判定するための機能を実行するための最低限の電源は供給されるようにする。この電源制御により、無駄なエネルギー消費が削減可能となる。撮像オン/オフ処理を行うと、ステップS1に戻る。
ステップS3における判定の結果、電源オフ/オフ通信でない場合には、各種無線通信情報を取得したか否かを判定する(S7)。ユーザが情報端末100の操作部115を操作して種々の設定を行うと、この設定情報が、情報端末100の通信部114から無線通信で送信されてくる(図6AのS45参照)。また撮像にあたって必要となる情報も通信部114から無線通信で送信されてくる(図6AのS45参照)。例えば、ここで送信されてくる情報としては、画像データの送信先に関する情報、撮影にあたっての条件、各種パラメータ、試料81を測定するにあたっての測定条件等がある。また、推論エンジン111bによって、推論されたコロニー発生位置に基づいて、細胞観察装置1の画像入力部23aによる細胞画像の取得位置情報も含まれる。このステップでは、これらの情報や設定を、細胞観察装置1内の通信部24で受信したか否かを判定する。
ステップ7における判定の結果、各種無線通信情報を取得した場合には、情報取得、各種設定、通信等を行う(S9)。このステップでは、通信部24で取得した各種情報や設定に基づいて、細胞観察装置1内の各種設定を行う。
ステップS9において、情報取得、各種設定、通信等を行うと、次に、マニュアル位置指定を受信したか否かを判定する(S11)。ユーザは、細胞容器80内の試料81を観察・測定・撮影するに先立って又は観察・測定・撮影中に、位置を指定し、またその位置で画像を観察したい場合がある。この場合には、ユーザは情報端末100を操作して撮像位置を指定することができる(図6BのS49参照)。このステップでは、このマニュアル位置指定を行うための無線通信を受信したか否かを判定する。なお、コロニー化の位置についても受信してもよい(図6BのS63参照)。
ステップS11における判定の結果、マニュアル位置指定を受信した場合には、指定された位置で撮像を行い、撮像結果を送信する(S13)。ここでは、移動部22が無線通信で受信したマニュアル位置に、カメラ部(撮像ユニット)10を移動させるように制御信号を出力する。移動部22は、Yアクチュエータ31aとXアクチュエータ31bの駆動制御を行い、カメラ部10を指定されたマニュアル位置に移動させる。指定された位置としては、初期位置、カメラ部10が障害物等に絶対、衝突しないような場所とする。
ステップS13において撮像結果の画像を送信すると、またはステップS11における判定の結果、マニュアル位置指定信号を受信していない場合には、次に、測定開始信号を受信したか否かを判定する(S15)。ユーザは、細胞容器80内の試料81の細胞の数をカウントし、またコロニーが形成されているか否か等、測定を開始する場合には、その旨を細胞観察装置1に指示する(図6Bの53参照)。ここでは、この測定開始を指示する測定開始信号を受信したか否かを判定する。この判定の結果、測定開始信号を受信していない場合には、ステップS21に進む。
ステップS15における判定の結果、測定開始信号を受信した場合には、スキャンパターンに従った位置において画像を取得し、取得した画像を送信する(S17)。ここでは、細胞観察装置1は、記録部25に記録されている移動パターン25aに従ってカメラ部10を移動させ、個々の撮影位置において、画像入力部23aは細胞画像を取得する。細胞観察装置1は、細胞画像を取得すると、この画像を情報端末100に送信する。
情報端末100は、推論エンジン111cを用いて、コロニーが発生すると予測される位置を推論し、この結果に基づいて、コロニーの発生予測位置を細胞観察装置1に送信する(図6BのS63参照)。細胞観察装置1は、このコロニー発生予測位置を受信すると(S9参照)、この予測位置に従ってスキャンパターンを変更する。例えば、コロニーが発生しないと予測される位置での撮影を取りやめ、コロニーが発生すると予測される位置でのみ撮影を行う。また、コロニーが発生すると予測される位置であっても、撮像画面の中心にない場合には、中心となるように撮像位置の調整を行う。
この撮像位置の調整について、図11を用いて説明する。図11(a)は、撮像部(画像入力部23aの撮影レンズおよび撮像素子)によって観察される細胞画像を示す。撮像部の撮像中心位置の座標は、X=X1、Y=Y1であり、撮像範囲はXa、Yaである。今、推論エンジン111cによって、コロニーCが予測されるとする。コロニーCは楕円形状しており、長円方向の長さが1/2Yaであり、短円方向の長さが1/2Xaとする。このため、コロニーCの中心位置は、撮像中心位置X1、Y1より、ΔX=1/4Xa、ΔY=1/4Yaだけずれている。画像入力部23aによって細胞画像を取得するにあたって、コロニーが発生する位置を撮像することが望ましい。そこで、スキャンパターンに従って、カメラ部10(撮像部)を移動させ、細胞を撮影する際の撮影中心を、ΔX、ΔYだけ位置を調整する。
また、ステップS17において、制御部21は情報端末100からタイムラプスの指示を受信すると、撮像部によってコロニーを所定時間間隔で撮像制御を行う(図6BのS63、図9C参照)。タイムラプス表示するために、予測されたコロニー位置でコロニーを所定時間間隔で撮像する。
次に、撮像および測定が終了か否かを判定する(S19)。ここでは、記録部25に記録されている全ての移動パターン25a(予測位置に従って変更した場合も含む)に従って、撮像及び測定が終了したか否かを判定する。この判定の結果、終了していない場合には、ステップS7に戻り、前述の動作を実行する。測定中に、ユーザが操作部115を操作して、各種設定や、マニュアル位置の指定、画像要求を行った場合には、これらの指示に従った処理が実行される。
ステップS19における判定の結果、終了の場合には、またはステップS15における判定の結果、測定開始信号を受信していない場合には、画像要求がなされているか否かを判定する(S21)。ユーザは、測定終了後に、または測定開始前に、細胞観察装置1において取得した画像を閲覧したい場合がある。この場合には、情報端末100の操作部115を操作して、画像を要求してくる。このステップでは、この画像要求があったか否かを判定する。また、上述のループでは、画像処理や通信のスピードを考慮して、デジタルカメラのライブビュー表示に相当する縮小された画像を送信し、即座に確認することを優先してもよい。一方、このステップでは、デジタルカメラにおける記録画像のような、より高精細の画像を記録しておいて、比較的大きなサイズの画像を送信してもよい。特定の部位で、微小なスキャンを行い、いわゆる超解像処理を行った結果を記録しておき、このタイミングで外部に送信出力しても良い。
ステップS21における判定の結果、画像要求があった場合には、記録画像を無線送信する(S23)。ここでは、ステップS11において取得し、記録部25に記録した細胞画像を情報端末100に送信する。記録画像を送信すると、またはステップS21における判定の結果、画像要求がなかった場合には、ステップS1に戻り、前述の動作を実行する。
このように、細胞観察装置のフローにおいては、細胞観察装置1は撮像した細胞の画像を情報端末100に送信する(S17参照)。情報端末100からコロニーが生成しているまたは生成すると予測される位置を受信すると、この位置に応じて、スキャンパターンを変更するようにしている(S17参照)。
次に、図6Aおよび図6Bに示すフローチャートを用いて、情報端末の動作を説明する。このフローチャートは、情報端末100内の制御部111に設けられたCPUがメモリに記憶されたプログラムに従って、情報端末100内の各部を制御することにより実現する。
情報端末通信のフローに入ると、まず、モード表示を行う(S31)。ここでは、情報端末100で設定可能なおけるモードを、表示部112に表示する。例えば、図7(a)に示すように、情報端末で設定可能な機能Aのアイコン112a、機能Bのアイコン112b、機能Cのアイコン112c、細胞アプリのアイコン112dが表示される。細胞アプリは、本実施形態に係るアプリケーションソフトであり、細胞の数のカウント、細胞撮影の際の条件設定、細胞のコロニーの推論等、細胞培養に適したソフトウエアである。機能A等のモードは、情報端末がスマートフォンならば、電話機能、メール機能等がある。また情報端末が科学者によって使用されるパーソナルコンピュータならば、画像解析機能、科学論文執筆支援機能等がある。
モード表示がなされると、次に、細胞アプリを起動するか否かの判定を行う(S33)。ユーザはモードが表示されると、その中からタッチ操作等によって、いずれかのモードを選択することができる。このステップでは、複数あるモードの中から、細胞アプリが選択され起動するか否かを判定する。この判定の結果、細胞アプリが起動されない場合には、選択されたモード(機能)を実行する。モードが選択されない場合には、モード表示を行った状態で待機状態となる。なお、モードの選択は、タッチ操作に限らず、操作部115の操作部材を操作することによって選択してもよい。
ステップS33における判定の結果、細胞アプリ起動の場合には、選択用GUIを表示する(S35)。ここでは、制御部111は、細胞アプリを利用する場合の選択項目を表示部112に表示する。例えば、図7(b)に示すように、条件設定アイコン112f、マニュアル位置設定アイコン112g、細胞カウントアイコン112h、電源オフアイコン112iが表示部112に表示される。条件設定アイコン112fは、撮影条件等を設定するためのアイコンである。マニュアル位置設定アイコン112gは、ユーザが指定した位置において、細胞を観察・撮影するためのアイコンである。細胞カウントアイコン112hは細胞数を自動的にカウントさせるためのアイコンである。電源オフアイコン112iは細胞観察装置1の電源をオフさせるためのアイコンである。ユーザはこれらのアイコンの中からいずれかをタッチ操作等により選択することができる。
選択用GUIを表示すると、次に、撮像オフか否かを判定する(S37)。ここでは、制御部111は、ユーザがGUI表示(S35、図7(b)参照)の中から電源オフアイコン112iを選択したか否かを判定する。
ステップS37における判定の結果、電源オフが選択されていた場合には、オン/オフ信号を送信する(S39)。ここでは、制御部111は、通信部114を通じて、細胞観察装置1に、電源のオンオフ信号を無線送信する。オン/オフ信号を送信すると、ステップS35に戻る。
ステップS37における判定の結果、撮像オフでない場合には、次に、条件設定か否かを判定する(S41)。ここでは、制御部111は、ユーザがGUI表示(S35、図7(b)参照)の中から条件設定アイコン112fを選択した否かを判定する。
ステップS41における判定の結果、条件設定の場合には、設定条件を判定する(S43)。ユーザがGUI表示の中から条件設定アイコン112fを選択すると、制御部111は、各種設定条件を示す複数のアイコンを表示部112に表示する。各種設定条件としては、例えば、画像の送信先、撮影条件、撮影パラメータ、測定条件がある。ユーザはこれらのアイコンの中から設定したい条件を選択するので、このステップでは制御部111はいずれのアイコンが選択されたか否かを判定する。
ステップS43における判定の結果、設定の場合には、各種設定を行う(S45)。ここでは、制御部111は、選択された設定条件を表示する。例えば、設定条件として画像の送信先が選択された場合には、表示部112に細胞観察装置1で取得した画像の送信先として、情報端末100、または情報端末100以外のPC、サーバ等が表示され、ユーザはこれらの中から選択する。また、設定条件として撮影条件が選択された場合には、露出制御値、焦点調節(自動か手動)等が表示され、ユーザはこれらの中から選択もしくは数値を設定する。
ステップS45において各種設定を行うと、またはステップS43における判定の結果、設定でなかった場合には、またはステップS41における判定の結果、条件設定でなかった場合には、マニュアル操作入力か否かを判定する(S47)。ここでは、制御部111は、ユーザがGUI表示(S35、図7(b)参照)の中からマニュアル位置設定アイコン112gを選択したか否かを判定する。
ステップS47における判定の結果、マニュアル操作入力の場合には、指定位置で撮像を指示に、取得結果を表示する(S49)。制御部111は、ユーザが撮像位置を指定するための入力画面を表示部112に表示する。入力画面としては、撮像位置をx、y座標で指定してもよい。撮像位置が指定されると、制御部111は通信部114を通じて、細胞観察装置1に送信する。細胞観察装置1は撮像位置を受信すると、その位置で撮像を行い、取得した画像を情報端末100に送信する(図5のS13参照)。情報端末100は取得画像を受信すると、取得画像を表示部112に表示する。
ステップS49において取得画像を表示した場合、またはステップS47における判定の結果、マニュアル操作入力でなかった場合には、次に、細胞カウントか否かを判定する(S51)。ここでは、制御部111は、ユーザがGUI表示(S35、図7(b)参照)の中から細胞カウントアイコン112hを選択したか否かを判定する。
ステップS51における判定の結果、細胞カウントであった場合には、開始信号を細胞観察装置1に送信する(S53)。ここでは、制御部111は、細胞の数を測定開始させるための開始信号を、通信物114を通じて細胞観察装置1に送信する。細胞観察装置1は開始信号を受信すると(図5のS15)、画像入力部23aが細胞の画像を取得し、取得した画像を情報端末100に送信する(図5のS17参照)。
ステップS53において開始信号を送信すると、またはステップS51における判定の結果、細胞カウントでなかった場合には、測定結果を受信した否かを判定する(S55)。前述したように、細胞観察装置1は、画像入力部23aによって細胞の画像を取得すると、情報端末100に送信する(図5のS17参照)。このステップでは、情報端末100から画像を受信したか否かを判定する。
ステップS55における判定の結果、測定結果を受信した場合には、細胞の数をカウントし、予測結果を表示する(S59)。ここでは、制御部111が、細胞観察装置1が取得した画像に基づいて、細胞の数をカウントし、また細胞の数の今後の変化を予測する。今後の数の予測は推論エンジン111cによって求めてもよく、また過去の実績から線形予測演算によって求めてもよい。
制御部111は、ステップS59において、カウントされた細胞の数と今後の変化の予測を表示部112に表示する。例えば、図2の例では、表示部112に細胞容器80内の場所ごと(図2に示す例では場所1~3)、細胞の数の経時的変化を示すグラフ112aを示す。グラフ112aにおいて、実線は細胞の数の変化の実績を示し、破線は細胞の数の今後の変化の予想を示す。図2に示す例では、細胞容器80内の位置は3か所のみであるが、4か所以上でもよく、また1、2か所でもよい。表示する場所は、図示しないアイコンをタッチ操作するたびにサイクリックに変更してもよい。
次に、前の画面に戻るか否かを判定する(S59)。ステップS57において、細胞の数のカウント結果と、今後の予測表示をした後、ユーザが前の画面に戻りたい場合がある。この場合には、ユーザは表示部112の戻りアイコン112c(図2参照)をタッチ操作する。このステップにおける判定の結果、戻り操作がなされた場合には、ステップS55に戻り、前の画面が表示される。
一方、ステップS59における判定の結果、戻るでなかった場合には、コロニー推論結果確認か否かを判定する(S61)。図1を用いて説明したように、細胞が集まりコロニーが形成されるが、コロニーが発生する場所を予測することは容易ではない。そこで、本実施形態においては、推論モデルを用いて推論エンジン111cによって、コロニーが発生する場所を推論する。このステップでは、コロニーが発生する場所を推論できたか否かを判定する。この判定の結果、コロニーの発生を推論できない場合には、ステップS67に進む。
ステップS61における判定の結果、コロニーの発生を推論できた場合には、位置情報の送信、モニタに結果を表示し、また複数を比較表示し、また大きさ判定合成の表示を行う(S63)。ここでは、まず制御部111は、コロニーの発生予測位置情報を細胞観察装置1に送信する。細胞観察装置1は、測定中にコロニー発生予測位置情報を取得すると(図5のS11)、予測された位置で撮影を行うように、スキャンパターンを変更する(図5のS17)。これにより、コロニーが発生しない位置での撮像をスキップすることができ、効率のよい測定を行うことができる。但し、予測精度を勘案して、直ちにスキップしなくてもよい。
また、制御部111は、表示部112にコロニーの発生する位置を表示する。例えば、図2に示す例では、コロニーが発生すると予測される場所に「コロニー化」を示すアイコン112dを表示する。図2では、場所3において細胞がコロニーになると予測されることから、場所3に対応する位置にてコロニー化アイコン112dが表示されている。場所1、2はコロニーが発生すると予測されていないことから、この場所に対応する位置には、コロニー化アイコン112dは表示されていない。
また、制御部111は、コロニー化する場所における細胞画像を表示するようにしてもよい。例えば、図8(a)に示すコロニー化アイコン112dをタッチ操作すると、表示部112は、図8(b)に示すように、細胞画像112jを表示する。ユーザは細胞画像112jが表示されることにより、現時点における細胞の状態を観察することができる。また、予測表示アイコン112mをタッチ操作することにより、所定時間後の将来の細胞画像が表示される。この予測画像は、推論エンジン111cによって推論し、この推論結果を表示すればよい。また、細胞のカウント結果がこのあとどうなるか(例えば、コロニーの細胞数の増減の変化等)を表示してもよく、良し悪しの予測表示(例えば、コロニーが今後の良い方向に変化するか悪い方向に変化するか等)を行うようにしてもよい。
また、表示部112には、タイムラプスアイコン112kが表示される。タイムラプスアイコン112kを操作することにより、指定された場所(図8(b)の例では、場所3)において所定時間間隔で細胞画像が記録される。記録された画像を順次表示することにより、タイムラプス画像を観察することができる。また、タイムラプスアイコン112kが操作された際に、細胞観察装置1内の記録部25に記録されている画像を読み出し、現時点までの記録画像に基づいて、タイムラプス表示を行ってもよい。
また、制御部111は、複数比較を行ってもよい。ここでの複数比較は、複数の場所において撮像した細胞画像を比較表示することである。例えば、図9(a)に示す例では、場所2および場所3において、コロニーが発生すると推論されている場合であり、それぞれの場所において、コロニー化アイコン112d2、112d3が表示されている。この場合に、コロニー化アイコン112d2、112d3を操作すると、図9(b)に示すように、それぞれの場所に対応する細胞画像112j2、112j3が表示される。
さらに、図9(b)に示す状態でタイムラプスアイコン112kを操作すると、図9(c)に示すように、間隔表示112nに示すように、6時間間隔のタイムラプス表示がなされる。直近の細胞画像112j2a、112j3aが最前面に表示され、それぞれの画像の後ろに6時間前の細胞画像112j2b、112j3bが表示される。この比較表示がなされた状態で、例えば、再度、タイムラプスアイコン112kを操作することにより、後ろ側の画像を最前面に置き換えるようにしてもよい。タイムラプス画像を撮影するにあたって、変化を比較できるようにするために、同じ条件で撮影することが望ましい。
また、制御部111は、大きさ判定し、この判定結果に基づいて合成表示を行ってもよい。この合成表示は、図10(b)に示す2枚の細胞画像を合成して、図10(c)に示すように1枚の合成画像を表示したものである。画像入力部23aの撮像部(撮影レンズおよび撮像素子)の位置と、細胞のコロニーの位置の関係で、細胞画像を取得すると、1つのコロニーが別々の2枚の画像に写ってしまう場合がある。図10(b)に示す例では、1つのコロニーが、画像F6、F7に跨って写っている。この場合には、コロニーの輪郭線を抽出し、画像F6、F7で輪郭線が接続するように、画像F6、F7を合成し、図10(c)に示すような合成画像F8を生成する。この合成表示は、複数の画像の特徴を用いて自動判定してもよいし、培養で成長する前の状況から予測した適性位置からはみ出す場合に、次回以降の画像取得から複数枚撮像合成を行うようにしてもよい。このような予測が可能なのも、本実施形態の技術的な効果と言える。また、自動ではなく、手動で合成モードを指定可能にしてもよく、この時は、ユーザが撮像位置や合成枚数を指定できるようなスイッチを設けて行ってもよい。
複数枚の画像を合成した合成画像F8は、図10(a)に示すように、表示部112に表示される。合成画像F8の表示にあたって、合成画像に対応する撮像部の座標(モニタ座標)を表示するようにしてもよい。
また、制御部111の推論エンジン111cによって、コロニーが発生する位置が推論されると、この位置は細胞観察装置1に送信される。細胞観察装置1は、前述したように、所定のスキャンパターンに沿って撮像部を移動する際に、このコロニーの予測発生位置に基づいて撮像位置を修正する(図5のS17参照)。
ステップS63における処理を実行すると、次に、前の画面に戻るか否かを判定する(S65)。ステップS63において、コロニー推論に伴ういずれかの処理を実行した後、ユーザが前の画面に戻りたい場合がある。この場合には、ユーザは表示部112の戻りアイコン112cをタッチ操作する。このステップにおける判定の結果、戻り操作がなされた場合には、ステップS61に戻り、前の画面が表示される。
一方、ステップS65における判定の結果、戻り操作がなされなかった場合、またはステップS61における判定の結果、コロニー推論の結果、コロニーを確認できなかった場合、またはステップS55における判定の結果、測定結果を受信しなかった場合には、アプリ終了か否かを判定する(S67)。ここでは、ステップS33において起動された細胞アプリの動作を終了する指示がなされたか否かを判定する。この判定の結果、細胞アプリを終了するのでなければ、ステップS35に戻り、一方、細胞アプリを終了する場合には、ステップS31に戻る。
このように、情報端末通信のフローにおいては、細胞観察装置1から送信されてきた細胞画像に基づいて、コロニーが生成することが予測される位置を推論している(S61参照)。そして、コロニーが生成されると予測される場合には、その位置を細胞観察装置1に送信し(S63)、細胞観察装置1においてスキャンパターンを変更可能としている(S17)。また、表示部112に推論結果を表示するようにしている(S63、図2、8等の場所1-3におけるグラフ参照)。また、複数の場所における画像を比較して表示できるようにしている(図9(b)参照)。また、タイムラプス表示も可能としている(S63、図9(c)参照)。また、コロニーが複数の画像に跨る場合には、コロニーの部分を合成して表示している(S63、図10参照)。
次に、図12に示すフローチャートを用いて、コロニー化判定の変形例について説明する。本発明の一実施形態においては、細胞のコロニーが発生する位置の予測を推論エンジン111cによって行っていた。すなわち、コロニーの発生位置に関する教師データを用いて深層学習を行って、推論モデルを生成し、推論エンジン111cはこの推論モデルを用いて、コロニーの発生位置を予測していた。しかし、推論エンジン111cによる推論以外にも、制御部111内のCPUによって、プログラムに従って、コロニーの発生位置を予測するようにしてもよい。図12に示すフローチャートは、プログラムによってコロニーの発生位置を予測する。
図12に示すコロニー化判定のフローが開始すると、まず、細胞間判定を行う(S71)。ここでは、制御部111は、停止位置と画角情報を取得する。すなわち、制御部111は、細胞観察装置1から、位置入力部23bによって取得された撮像部(カメラ部10)の停止位置と、記録部25の画角情報25bから撮影レンズの画角情報を取得する。次に、制御部111は、細胞観察装置1からの細胞画像を解析し、細胞の輪郭線を抽出し、細胞と細胞の位置関係を判定する。
次に、所定時間の間、細胞の位置関係に変化がないか否かを判定する(S73)。ここでは、制御部111は、細胞観察装置1から細胞画像を入力するたびに、細胞と細胞の間の位置関係を判定する。この位置関係が所定時間の間、変化がないか否かを判定する。この判定の結果、変化がなければ、コロニーが形成されていないことから、ステップS71に戻る。
一方、ステップS73における判定の結果、細胞と細胞の間の位置関係に変化があった場合には、変化が細胞分裂または細胞結合であるか否かを判定する(S75)。図1を用いて説明したように、細胞のコロニーが形成されるときには、細胞が分裂したり、また複数の細胞が結合したりする。ここでは、制御部111が細胞画像を解析して判定する。この判定の結果、細胞分裂や細胞結合がない場合には、コロニー形成されていないことから、ステップS71に戻る。
一方、ステップS75における判定の結果、細胞分裂または細胞結合がある場合には、コロニー化していると判定する(S77)。細胞の位置関係に変化があり、しかも、細胞分裂や細胞結合があることから、コロニーが形成される可能性が高いといえる。そこで、コロニー化していると判定する。このコロニー化判定情報には、コロニーが形成されている位置の情報を関連付けておく。コロニー化判定をすると、このフローを終了する。
このように、コロニー化判定では、推論エンジンを使用しなくても、CPUがプログラムに従って、コロニーが形成されると予測される位置を推論することができる。すなわち、細胞画像の画像解析を行って、細胞画像の時間的変化や、細胞の位置関係を解析することにより、コロニーの形成を予測している。なお、図12に示したフローは、情報端末100内で、コロニー化判定を行っていた。しかし、これに限らず、例えば、細胞観察装置1内の制御部21において、コロニー化判定を行ってもちろん構わない。ここでは、想定どおりの細胞培養が行われるか否かをコロニーの形成に基づいて判定した。しかし、この方法以外の方法で想定通りの細胞培養が行われることを判定してもよい。つまり、想定通りに培養されている培養において得られた、同じ培養位置における時系列の撮像結果や細胞カウントデータがあれば、その変化の特徴から推論モデル作成用の教師データが得られるので、これによって想定通りの培養の予測判定を行ってもよい。
また、培養の良否見極めを早めに行う効率化を想定した用途であれば、想定通りにならない場合を判定してもよく、この場合も同様の考え方が適用できる。つまり想定通りに培養されてなかった培養において得られた、同じ培養位置における時系列の撮像結果や細胞カウントデータがあれば、その変化の特徴からうまく行かないことを推論する推論モデル作成用の教師データが得られるので、これによって想定通りにならない培養の予測判定を行ってもよい。細胞の培養は、温湿度管理の問題や光などの外乱、異物混入などで予期せぬ事が起こる場合が多く、それを事前に早く見極めることは、専門家であっても難しい場合が多かった。
以上説明したように、本発明の一実施形態や変形例においては、細胞観察システムは、水平方向に移動可能であり、容器中で培養される細胞を撮像する撮像部を有している。そして、撮像部を水平方向に移動させることによって位置を変えて(図5のS17参照)、撮像部によって取得した細胞の画像に基づいてコロニーを判定し(図6BのS61参照)、コロニーを判定した際の撮像部の移動位置と撮像範囲に基づいてコロニーの位置を判定している(図6BのS63参照)。このため、培養器内の細胞等を撮像する際に、細胞の培養状態(コロニーの生成状態)の変化に応じて、撮像地点を変更することが可能となる。ここで水平方向を、カメラの撮像用レンズの光軸方向と直交する方向とか、その方向からずらした方向と書き換えて表現してもよい。
なお、本発明の一実施形態や変形例においては、情報端末100において、細胞観察装置1において取得した画像に基づいて、コロニー化を判定していた。しかし、これに限らず、細胞観察装置1内において、コロニー化を判定し、この判定結果に基づいてスキャンパターンを変更するようにしてもよい。情報端末100と細胞観察装置1を一体化してもよい。
また、本発明の一実施形態や変形例においては、撮像ユニット全体が移動するタイプの説明を行った。しかし、これに限らず、観察視野、撮像視野を動かす(撮像や観察の位置を変更する)方法としては撮像素子やレンズのみを可動にして実現する方法もある。もちろん、試料を載置したステージ等を移動するようにしても同様の効果が得られる。また、必ずしも機械的な移動を伴うスキャンである必要はなく、広い撮像を行い、視野内の特定部位のみを超解像処理する方法もある。本発明の一実施形態や変形例においては、そうした方式や方法、あるいはそれを採用した機器、装置に適用することも出来る。したがって、容器中で培養される細胞を撮像する撮像部と、撮像部を構成する撮像用レンズの光軸方向に対する撮像位置を移動させることによって撮像位置を変えて、撮像部によって取得した細胞の画像に基づいてコロニーを判定、または予測判定する判定部を有するようにしてもよい。
また、本発明の一実施形態や変形例においては、細胞観察装置1内の制御部21、移動部22、情報取得部23、通信部24、記録部25を別体の構成としたが、各部の全部または一部をソフトウエアで構成し、1つまたは複数のCPUおよびその周辺回路によって実行するようにしても勿論かまわない。また、情報端末100内の制御部111、表示部112、情報取得部113、通信部114を別体の構成としたが、各部の全部または一部をソフトウエアで構成し、1つまたは複数のCPUおよびその周辺回路によって実行するようにしても勿論かまわない。細胞観察装置1および情報端末100内の各部を、ヴェリログ(Verilog)によって記述されたプログラム言語に基づいて生成されたゲート回路等のハードウエア構成でもよく、またDSP(Digital Signal Processor)等のソフトを利用したハードウエア構成を利用してもよい。これらは適宜組み合わせてもよいことは勿論である。また、CPUに限らず、コントローラとしての機能を果たす素子であればよく、上述した各部の処理は、ハードウエアとして構成された1つ以上のプロセッサが行うようにしてもよい。例えば、各部は、それぞれが電子回路として構成されたプロセッサであっても構わないし、FPGA(Field Programmable Gate Array)等の集積回路で構成されたプロセッサにおける各回路部であってもよい。または、1つ以上のCPUで構成されるプロセッサが、記録媒体に記録されたコンピュータプログラムを読み込んで実行することにより、各部としての機能を実行するようにしても構わない。
また、近年は、様々な判断基準を一括して判定できるような人工知能が用いられる事が多く、ここで示したフローチャートの各分岐などを一括して行うような改良もまた、本発明の範疇に入るものであることは言うまでもない。そうした制御に対して、ユーザが善し悪しを入力可能であれば、ユーザの嗜好を学習して、そのユーザにふさわしい方向に、本願で示した実施形態はカスタマイズすることが可能である。
また、実施形態中で用いられる画像データやアノテーション関係のデータは、端末で管理されているものであってもよく、インターネット上で特定のサーバ内の記録部で管理されていてもよい。ネットワークを介して管理される様々なデータやその一部データは、中央集権型のデータベースで管理しても良く、非中央集権型(分散型)のブロックチェーンのようなデータベースによって相互監視型で管理しても良い。中央集権型は、何かのトラブルが発生した時に、システムの障害修復までの間、このデータ管理が出来なくなるが、分散型であれば、障害を軽微にすることが出来る。
ブロックチェーンでは、管理するデータに変更があると、その処理内容等をブロック単位にして暗号化し、各データベースに分散することで全員がその情報を共有できるようにしている(分散型台帳)。このブロックにはネットワークの識別用の数字や、ブロックサイズ、ヘッダ情報などがまとめられている。ブロックチェーンでは、ブロック(つまりデータベースで管理される情報をまとめたもの)が新しく生成される時に、一つ前に生成されたブロックのデータを一部含むように設計され、すべての処理履歴が一つの鎖となって繋がっていくのでチェーンと名付けられている。
上述したような管理方法であるため、時間軸に沿って状況が変化する細胞培養等の管理と、ブロックチェーンは整合性が良い。例えば、新しく培養過程画像が得られるごとに、その画像の特徴、あるいは細胞のカウント結果をブロックにして、前の結果と関連付けて繋げていく。すなわち、細胞培養の様子を時系列で撮像した画像データを取得し、取得した画像データから得られる情報の履歴を画像データの取得時刻ごとにブロックチェーンのブロック生成処理で管理するようにする。このような推論モデル生成方法を採用することにより、安全性が重要である細胞培養の経過の正しさを管理することができ、形成されたコロニーや細胞シート等の品質を、工程の履歴を保証することが可能となる。何か問題があれば、チェーンでつながったブロックをたどっていくことによって履歴の管理も可能となる。また、こうして得られた画像や、画像からの取得データ(画像特徴量や細胞カウント数)を使用して推論を行う場合、その経過のデータが正しくなければ正しい推論は出来ない。したがって、ブロックチェーンで保証されたデータで推論を行うのは極めて理にかなった高精度な推論技術となる。つまり、細胞培養の様子を時系列で撮像した画像データを取得し、取得した画像データから得られる情報の履歴を画像データの取得時刻ごとにブロックチェーンのブロックを生成する処理によって管理するので、相互監視や履歴照会の点でも結果表示に信憑性が得やすい推論モデルが生成可能となる。
つまり、ブロックとブロックの間の繋がりや関係性を持たせるために、新しいブロックのヘッダに一つ前のブロックのヘッダの一部が暗号化されて組み込まれている。この新しいブロックのヘッダには、一つ前のブロックのヘッダを、ハッシュ関数を用いて暗号化した「ハッシュ値」と「処理記録」、それから、「ナンス」という任意のデータが組み込まれている。ハッシュ値はデータを要約するものであり、かつ、データ変更によって大きく変化するので改竄が困難になっている。また、このハッシュ値に特別なルールによる制約を設ければ、ハッシュ値がそれを満たすようにするための追加データ、「ナンス」(Number used once:一時利用の使い捨て数字の略)を決める必要がある。
ナンスを探す作業をマイニングと呼び、作業者をマイナーと呼ぶが、正しいナンスを求めたマイナーがブロックを繋げられ、かつ、報酬を受け取れるようにすれば仮想通貨のような経済的インセンティブを合わせた運営も可能となる。この「ナンス」とハッシュが一緒に使われることで、より通貨の信頼性を高めることができる。
分散的に取引を記録していくためには、分散されたコンピュータ(ノード)を操作(分散保有しているその他のノードとのデータ同一性が保証)する参加者にインセンティブが必要なため、仮想通貨を利用しているが、他のインセンティブが与えられたり、データ同一性保証の仕組みが簡単化できれば仮想通貨を前提にする必要はない。例えば、複数台のパソコンにブロックチェーン用の相互監視のソフトウエアが存在すればよい。
また、本明細書において説明した技術のうち、主にフローチャートで説明した制御に関しては、プログラムで設定可能であることが多く、記録媒体や記録部に収められる場合もある。この記録媒体、記録部への記録の仕方は、製品出荷時に記録してもよく、配布された記録媒体を利用してもよく、インターネットを介してダウンロードしたものでもよい。
また、本発明の一実施形態においては、フローチャートを用いて、本実施形態における動作を説明したが、処理手順は、順番を変えてもよく、また、いずれかのステップを省略してもよく、ステップを追加してもよく、さらに各ステップ内における具体的な処理内容を変更してもよい。
また、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず」、「次に」等の順番を表現する言葉を用いて説明したとしても、特に説明していない箇所では、この順で実施することが必須であることを意味するものではない。
本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
1・・・細胞観察装置、10・・・カメラ部、21・・・制御部、22・・・移動部、23・・・情報取得部、23a・・・画像入力部、23b・・・位置入力部、24・・・通信部、25・・・記録部、25a・・・移動パターン25a、25b・・・画角情報、31a・・・Yアクチュエータ、31b・・・Xアクチュエータ、32a・・・Y送りネジ、32b・・・X送りネジ、100・・・情報端末、111・・・制御部、111a・・・コロニー位置判定部、111b・・・コロニー判定部、111c・・・推論エンジン、112・・・表示部、113・・・情報取得部、113a・・・画像入力部、114・・・通信部、115・・・操作部

Claims (17)

  1. 像部と、
    上記撮像部によって取得した複数の細胞の画像に基づいて、上記画像中の複数の細胞の位置情報または形状情報からコロニーが生成又は成長する位置を推論し、推論位置で撮像を行うように上記撮像部の位置を制御する制御部と、
    を有することを特徴とする細胞観察システム。
  2. 上記推論位置が、上記コロニーが生成すると予測される位置であることを特徴とする請求項1に記載の細胞観察システム。
  3. 上記撮像部を水平方向に移動させる移動部を有し、
    上記制御部は、上記推論位置に基づいて、上記撮像部が上記コロニーの中心位置で画像を撮像するように上記移動部を制御することを特徴とする請求項1に記載の細胞観察システム。
  4. 上記制御部は、上記推論位置上の細胞またはコロニーを所定時間間隔でタイムラプス撮像するように上記撮像部を制御することを特徴とする請求項1または2に記載の細胞観察システム。
  5. 上記撮像部によって取得された細胞またはコロニーの画像を表示する表示部を有することを特徴とする請求項1に記載の細胞観察システム。
  6. 上記制御部が、上記撮像部が上記推論位置上で取得した複数の画像を解析し、画像中の細胞数を計測し、上記細胞数の経時変化を上記表示部に出力することを特徴とする請求項5に記載の細胞観察システム。
  7. 細胞画像を教師データとして生成されたコロニー化推論モデルを備えた推論部を更に有し、
    上記推論部は、上記撮像部が撮像した画像の入力に基づいて、コロニーが生成する位置を推論し、推論結果を上記推論位置の情報として出力することを特徴とする請求項1に記載の細胞観察システム。
  8. 上記推論部が、上記画像または上記推論位置の情報に基づき培養の良否の判定結果を出力することを特徴とする請求項7に記載の細胞観察システム。
  9. 上記コロニー化推論モデルは、細胞培養の様子を時系列で撮像した画像データから得られる情報の履歴を、上記画像データの取得時刻ごとにブロックチェーンのブロック生成処理で管理されることによって生成されることを特徴とする請求項7に記載の細胞観察システム。
  10. 上記推論部が推論した上記推論位置を記録可能である記録部を有することを特徴とする請求項1に記載の細胞観察システム。
  11. 上記細胞は、多能性幹細胞であることを特徴とする請求項1に記載の細胞観察システム
  12. 上記コロニーは、複数のiPS細胞が形成したコロニーであることを特徴とする請求項1に記載の細胞観察システム。
  13. 上記撮像部は、水平方向に移動可能であることを特徴とする請求項1に記載の細胞観察システム。
  14. 上記コロニーは、上記画像中の複数の細胞の少なくとも一部が凝集して生成又は成長したものであることを特徴とする請求項1に記載の細胞観察システム。
  15. 細胞のコロニー形成に至る細胞培養の様子を時系列で撮像した複数の画像データを取得し、
    取得した上記画像データのうち、コロニー化する画像部分をアノテーションとして指定し、このアノテーションで指定した画像デーを教師データとし、
    上記教師データを用いて、入力をコロニー化前の細胞画像、出力をコロニー化予想位置としたコロニー化推論モデルを生成する、
    ことを特徴とする推論モデル生成方法。
  16. 求項15に記載の推論モデル生成方法によって作成したコロニー化推論モデルに、コロニー化前の細胞画像を入力し、
    上記コロニー化推論モデルを用いた演算処理を実行し、上記コロニーが生成又は成長する位置を推定する、
    ことを特徴とするコロニー生成位置推定方法
  17. 細胞観察システム内に設けられたコンピュータに、
    撮像部によって取得した細胞の画像を用いて、上記画像中の複数の細胞の位置情報または形状情報からコロニーが生成又は成長する位置を推論し、
    上記推論位置で撮像を行うように上記撮像部の位置を制御する、
    ことを実現させるためのプログラム。
JP2019060850A 2019-03-27 2019-03-27 細胞観察システム、コロニー生成位置推定方法、推論モデル生成方法、およびプログラム Active JP7210355B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019060850A JP7210355B2 (ja) 2019-03-27 2019-03-27 細胞観察システム、コロニー生成位置推定方法、推論モデル生成方法、およびプログラム
US16/829,162 US20200311922A1 (en) 2019-03-27 2020-03-25 Cell observation system and inference model generating method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019060850A JP7210355B2 (ja) 2019-03-27 2019-03-27 細胞観察システム、コロニー生成位置推定方法、推論モデル生成方法、およびプログラム

Publications (3)

Publication Number Publication Date
JP2020156419A JP2020156419A (ja) 2020-10-01
JP2020156419A5 JP2020156419A5 (ja) 2021-12-23
JP7210355B2 true JP7210355B2 (ja) 2023-01-23

Family

ID=72606067

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019060850A Active JP7210355B2 (ja) 2019-03-27 2019-03-27 細胞観察システム、コロニー生成位置推定方法、推論モデル生成方法、およびプログラム

Country Status (2)

Country Link
US (1) US20200311922A1 (ja)
JP (1) JP7210355B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11308121B2 (en) 2015-11-04 2022-04-19 Thrive Bioscience, Inc. Method and system for cell operations using a blockchain data network
JP7210355B2 (ja) * 2019-03-27 2023-01-23 株式会社エビデント 細胞観察システム、コロニー生成位置推定方法、推論モデル生成方法、およびプログラム
WO2020261555A1 (ja) * 2019-06-28 2020-12-30 オリンパス株式会社 画像生成システムおよび画像生成方法
WO2021087227A1 (en) * 2019-11-01 2021-05-06 Howard Cannon Method and system for cell operations using a blockchain data network
WO2023153415A1 (ja) * 2022-02-08 2023-08-17 テルモ株式会社 画像の時間差分によるシート状細胞培養物形成状態検出方法、システム及びコンピュータープログラム
WO2023153414A1 (ja) * 2022-02-08 2023-08-17 テルモ株式会社 シート状細胞培養物のシート化状態を評価するためのシステム、プログラム、方法及びシート状細胞培養物の製造方法
JP2024054578A (ja) * 2022-10-05 2024-04-17 株式会社アステック タイムラプス撮影機能付き培養装置および培養方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010022318A (ja) 2008-07-23 2010-02-04 Nikon Corp 細胞の状態判別手法及び細胞観察の画像処理装置
WO2015193951A1 (ja) 2014-06-16 2015-12-23 株式会社ニコン 観察装置、観察方法、観察システム、そのプログラム、および細胞の製造方法
JP2018028593A (ja) 2016-08-17 2018-02-22 オリンパス株式会社 観察装置、観察方法及び観察システム
WO2018179971A1 (ja) 2017-03-31 2018-10-04 ソニー株式会社 情報処理装置、情報処理方法、プログラム及び観察システム
JP2019016305A (ja) 2017-07-10 2019-01-31 ソニー株式会社 情報処理装置、情報処理方法、プログラム及び観察システム

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7907769B2 (en) * 2004-05-13 2011-03-15 The Charles Stark Draper Laboratory, Inc. Image-based methods for measuring global nuclear patterns as epigenetic markers of cell differentiation
EP2053966A4 (en) * 2006-07-25 2011-01-19 Univ Rochester PREDICTION AND TREATMENT OF BRAIN TUMOR EXTENSION AND RADIATION OF AN EXTERNAL BEAM
JP2009229275A (ja) * 2008-03-24 2009-10-08 Nikon Corp 細胞観察画像の画像解析方法、画像処理プログラム及び画像処理装置
EP2270198A4 (en) * 2008-03-24 2013-03-27 Nikon Corp PICTURE ANALYSIS METHOD FOR CELL OBSERVATION, PICTURE PROCESSING PROGRAM AND PICTURE PROCESSING DEVICE
JP5202099B2 (ja) * 2008-05-19 2013-06-05 ラテラルシグナルプロセシング株式会社 線分抽出装置
JP6071007B2 (ja) * 2013-08-22 2017-02-01 富士フイルム株式会社 観察画像撮影評価装置および方法並びにプログラム
EP3262417B1 (en) * 2015-02-23 2021-11-03 Cellanyx Diagnostics, LLC Cell imaging and analysis to differentiate clinically relevant sub-populations of cells
US20180106713A1 (en) * 2015-06-02 2018-04-19 Baxalta Incorporat Method for picking a colony of cells
JP6865507B2 (ja) * 2016-06-29 2021-04-28 オリンパス株式会社 多能性幹細胞の無染色評価支援方法、プログラム、演算装置
JP2018022216A (ja) * 2016-08-01 2018-02-08 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
JP6801000B2 (ja) * 2016-12-01 2020-12-16 富士フイルム株式会社 細胞画像評価装置および細胞画像評価制御プログラム
WO2018115161A1 (en) * 2016-12-21 2018-06-28 F. Hoffmann-La Roche Ag Growth control of eukaryotic cells
JP6977293B2 (ja) * 2017-03-31 2021-12-08 ソニーグループ株式会社 情報処理装置、情報処理方法、プログラム及び観察システム
JP2019016859A (ja) * 2017-07-04 2019-01-31 オリンパス株式会社 観察装置および観察方法
WO2019163304A1 (ja) * 2018-02-22 2019-08-29 株式会社ニコン 培養支援装置、観察装置、及びプログラム
CN111837157A (zh) * 2018-03-08 2020-10-27 株式会社岛津制作所 细胞图像解析方法、细胞图像解析装置、及学习模型创建方法
CN111919117B (zh) * 2018-03-20 2023-01-24 株式会社岛津制作所 细胞图像解析装置、系统、学习数据生成方法及程序、制造方法、学习模型生成方法
US20200058381A1 (en) * 2018-08-14 2020-02-20 Miteshkumar Ishwarbhai Patel System and Method for Auditing, Monitoring, Recording, and Executing Healthcare Transactions, Communications, and Decisions
JP7006832B2 (ja) * 2019-03-20 2022-01-24 株式会社島津製作所 細胞解析装置
JP7210355B2 (ja) * 2019-03-27 2023-01-23 株式会社エビデント 細胞観察システム、コロニー生成位置推定方法、推論モデル生成方法、およびプログラム
WO2020261555A1 (ja) * 2019-06-28 2020-12-30 オリンパス株式会社 画像生成システムおよび画像生成方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010022318A (ja) 2008-07-23 2010-02-04 Nikon Corp 細胞の状態判別手法及び細胞観察の画像処理装置
WO2015193951A1 (ja) 2014-06-16 2015-12-23 株式会社ニコン 観察装置、観察方法、観察システム、そのプログラム、および細胞の製造方法
JP2018028593A (ja) 2016-08-17 2018-02-22 オリンパス株式会社 観察装置、観察方法及び観察システム
WO2018179971A1 (ja) 2017-03-31 2018-10-04 ソニー株式会社 情報処理装置、情報処理方法、プログラム及び観察システム
JP2019016305A (ja) 2017-07-10 2019-01-31 ソニー株式会社 情報処理装置、情報処理方法、プログラム及び観察システム

Also Published As

Publication number Publication date
US20200311922A1 (en) 2020-10-01
JP2020156419A (ja) 2020-10-01

Similar Documents

Publication Publication Date Title
JP7210355B2 (ja) 細胞観察システム、コロニー生成位置推定方法、推論モデル生成方法、およびプログラム
US20200364869A1 (en) Information processing apparatus, information processing method, and program
US20210353153A1 (en) Automatic identification of restorative objects
CN105594194B (zh) 图像显示装置和图像显示方法
CN106060374A (zh) 摄影装置、其控制方法以及非暂时性计算机可读记录介质
JP7501993B2 (ja) 培養支援方法、培養支援装置、観察装置、及びプログラム
JP7375886B2 (ja) 培養支援装置、観察装置、及びプログラム
CN109218605A (zh) 观察装置、观察方法和存储介质
JP2019032593A (ja) 撮影システム、撮影装置、および撮影方法
KR20200087310A (ko) 인공지능 영상판독 딥러닝 학습을 위한 애노테이션 학습데이터 생성과 증강 시스템 및 방법
CN103533216B (zh) 摄影装置以及图像处理方法
US10798293B2 (en) Image pickup apparatus and image pickup method
JP2020091702A (ja) 撮像装置および撮像方法
CN107231507A (zh) 摄像装置和摄像方法
CN109451356A (zh) 一种智能移动机器人、自动点播方法、装置及芯片
CN106856555B (zh) 数字图像处理设备及其控制方法
US20220101568A1 (en) Image generation system, image generation method, and non-transitory computer-readable storage medium
JP5905078B2 (ja) 細胞培養装置、制御装置、及び方法
KR102413695B1 (ko) 병변 검출방법 및 이를 위한 치과영상 처리장치
WO2023046630A1 (en) Surgical microscope system and corresponding system, method and computer program for a surgical microscope system
WO2021177142A1 (ja) 生殖補助医療を支援するための、システム、情報処理装置、サーバ、端末、プログラム、又は方法
US9196038B2 (en) Recipe based method for time-lapse image analysis
JP2016206228A (ja) 合焦位置検出装置、合焦位置検出方法、撮像装置、撮像システム
EP4202523A1 (en) System, method and computer program for a surgical microscope system and corresponding surgical microscope system
JPWO2019225177A1 (ja) 制御装置、制御方法、およびプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211108

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211108

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20220610

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20220610

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20220829

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220831

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20220829

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221025

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20221202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230111

R151 Written notification of patent or utility model registration

Ref document number: 7210355

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151