JPWO2018083984A1 - 情報処理装置、情報処理方法及び情報処理システム - Google Patents
情報処理装置、情報処理方法及び情報処理システム Download PDFInfo
- Publication number
- JPWO2018083984A1 JPWO2018083984A1 JP2018548615A JP2018548615A JPWO2018083984A1 JP WO2018083984 A1 JPWO2018083984 A1 JP WO2018083984A1 JP 2018548615 A JP2018548615 A JP 2018548615A JP 2018548615 A JP2018548615 A JP 2018548615A JP WO2018083984 A1 JPWO2018083984 A1 JP WO2018083984A1
- Authority
- JP
- Japan
- Prior art keywords
- information
- information processing
- image
- feature amount
- processing apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 163
- 238000003672 processing method Methods 0.000 title description 4
- 239000012472 biological sample Substances 0.000 claims abstract description 78
- 230000008859 change Effects 0.000 claims abstract description 55
- 238000003384 imaging method Methods 0.000 claims description 159
- 238000004458 analytical method Methods 0.000 claims description 74
- 238000012545 processing Methods 0.000 claims description 72
- 230000033001 locomotion Effects 0.000 claims description 41
- 238000010191 image analysis Methods 0.000 claims description 16
- 238000005516 engineering process Methods 0.000 abstract description 11
- 239000000523 sample Substances 0.000 abstract description 2
- 210000001161 mammalian embryo Anatomy 0.000 description 146
- 210000004027 cell Anatomy 0.000 description 90
- 238000003776 cleavage reaction Methods 0.000 description 57
- 230000007017 scission Effects 0.000 description 57
- 238000004891 communication Methods 0.000 description 52
- 238000000605 extraction Methods 0.000 description 52
- 238000000034 method Methods 0.000 description 52
- 206010028980 Neoplasm Diseases 0.000 description 50
- 201000011510 cancer Diseases 0.000 description 50
- 230000006870 function Effects 0.000 description 43
- 230000004660 morphological change Effects 0.000 description 36
- 238000003860 storage Methods 0.000 description 30
- 230000008569 process Effects 0.000 description 28
- 230000032823 cell division Effects 0.000 description 25
- 230000030833 cell death Effects 0.000 description 23
- 238000010586 diagram Methods 0.000 description 19
- 239000000284 extract Substances 0.000 description 17
- 230000013020 embryo development Effects 0.000 description 15
- 210000002257 embryonic structure Anatomy 0.000 description 14
- 230000000694 effects Effects 0.000 description 9
- 238000012933 kinetic analysis Methods 0.000 description 9
- 238000001228 spectrum Methods 0.000 description 9
- 210000000805 cytoplasm Anatomy 0.000 description 8
- 239000002609 medium Substances 0.000 description 8
- 230000012010 growth Effects 0.000 description 7
- 239000003814 drug Substances 0.000 description 6
- 229940079593 drug Drugs 0.000 description 6
- 238000013528 artificial neural network Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 230000002123 temporal effect Effects 0.000 description 4
- 241001465754 Metazoa Species 0.000 description 3
- 208000001715 Osteoblastoma Diseases 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 210000002459 blastocyst Anatomy 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 230000018109 developmental process Effects 0.000 description 3
- 238000009826 distribution Methods 0.000 description 3
- 230000004720 fertilization Effects 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 210000001519 tissue Anatomy 0.000 description 3
- 230000007704 transition Effects 0.000 description 3
- 241000124008 Mammalia Species 0.000 description 2
- 206010034972 Photosensitivity reaction Diseases 0.000 description 2
- 230000006907 apoptotic process Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000001086 cytosolic effect Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 239000001963 growth medium Substances 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000001151 other effect Effects 0.000 description 2
- 208000007578 phototoxic dermatitis Diseases 0.000 description 2
- 231100000018 phototoxicity Toxicity 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000001154 acute effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000024245 cell differentiation Effects 0.000 description 1
- 230000010261 cell growth Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 238000010219 correlation analysis Methods 0.000 description 1
- 239000013078 crystal Substances 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000007850 degeneration Effects 0.000 description 1
- 238000004925 denaturation Methods 0.000 description 1
- 230000036425 denaturation Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000003703 image analysis method Methods 0.000 description 1
- 210000002865 immune cell Anatomy 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000012528 membrane Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 210000000472 morula Anatomy 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 108090000623 proteins and genes Proteins 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 210000000130 stem cell Anatomy 0.000 description 1
- 239000010409 thin film Substances 0.000 description 1
- 230000036962 time dependent Effects 0.000 description 1
- 230000025366 tissue development Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 210000004291 uterus Anatomy 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- C—CHEMISTRY; METALLURGY
- C12—BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
- C12M—APPARATUS FOR ENZYMOLOGY OR MICROBIOLOGY; APPARATUS FOR CULTURING MICROORGANISMS FOR PRODUCING BIOMASS, FOR GROWING CELLS OR FOR OBTAINING FERMENTATION OR METABOLIC PRODUCTS, i.e. BIOREACTORS OR FERMENTERS
- C12M1/00—Apparatus for enzymology or microbiology
- C12M1/34—Measuring or testing with condition measuring or sensing means, e.g. colony counters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
- G06T7/0016—Biomedical image inspection using an image reference approach involving temporal comparison
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/698—Matching; Classification
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/00127—Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
- H04N1/00132—Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture in a digital photofinishing system, i.e. a system where digital photographic images undergo typical photofinishing processing, e.g. printing ordering
- H04N1/00167—Processing or editing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/21—Intermediate information storage
- H04N1/2104—Intermediate information storage for one or a few pictures
- H04N1/2112—Intermediate information storage for one or a few pictures using still video cameras
- H04N1/2129—Recording in, or reproducing from, a specific memory area or areas, or recording or reproducing at a specific moment
- H04N1/2133—Recording or reproducing at a specific moment, e.g. time interval or time-lapse
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30044—Fetus; Embryo
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/03—Recognition of patterns in medical or anatomical images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2201/00—Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
- H04N2201/0077—Types of the still picture apparatus
- H04N2201/0084—Digital still camera
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Biomedical Technology (AREA)
- Chemical & Material Sciences (AREA)
- Molecular Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Medical Informatics (AREA)
- General Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Wood Science & Technology (AREA)
- Biotechnology (AREA)
- Organic Chemistry (AREA)
- Zoology (AREA)
- Biophysics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Analytical Chemistry (AREA)
- Medicinal Chemistry (AREA)
- Genetics & Genomics (AREA)
- Microbiology (AREA)
- Biochemistry (AREA)
- Sustainable Development (AREA)
- Apparatus Associated With Microorganisms And Enzymes (AREA)
- Measuring Or Testing Involving Enzymes Or Micro-Organisms (AREA)
- Investigating Or Analysing Biological Materials (AREA)
Abstract
Description
1.情報処理システムの概要
2.第1の実施形態
2.1.構成例
2.2.処理例
3.第2の実施形態
3.1.構成例
3.2.処理例
4.第3の実施形態
4.1.構成例
4.2.処理例
5.第4の実施形態
6.ハードウェア構成例
7.まとめ
図1は、本開示の一実施形態に係る情報処理システム1の構成の概要を示す図である。図1に示すように、情報処理システム1は、撮像装置10、および情報処理装置20を備える。撮像装置10および情報処理装置20は、有線または無線の各種ネットワークにより接続される。
撮像装置10は、撮像により画像(または動画像)を生成する装置である。本実施形態に係る撮像装置10は、例えば、デジタルカメラにより実現される。他にも、撮像装置10は、例えばスマートフォン、タブレット、ゲーム機、またはウェアラブル装置など、撮像機能を有するあらゆる装置により実現されてもよい。
情報処理装置20は、画像解析機能を有する装置である。情報処理装置20は、PC(Personal Computer)、タブレット、スマートフォンなど、画像解析機能を有するあらゆる装置により実現される。情報処理装置20は、CPU(Central Processing Unit)等の処理回路および無線または有線により通信可能なハードウェアからなる通信装置を含む。例えば、本実施形態に係る情報処理装置20では、通信装置が撮像装置10から複数の画像(例えば、タイムラプス画像および動画像等)を取得する。そして、処理回路が取得した静止画像および動画像のそれぞれについての情報を取得し、各情報を用いて胚についての事象について判定する。情報処理装置20の処理回路により行われる各処理については、情報処理装置20の内部または外部に備えられる記憶装置または表示装置等に出力される。なお、情報処理装置20は、ネットワーク上の1または複数の情報処理装置によって実現されてもよい。情報処理装置20の各機能を実現する機能構成については後述する。
以下、図4〜図14を参照して、本開示の第1の実施形態について説明する。
図4は、本開示の第1の実施形態に係る情報処理装置20Aの機能構成例を示す機能ブロック図である。図4に示すように、本実施形態に係る情報処理装置20Aは、制御部200A、通信部210および記憶部220を備える。以下、各機能部について説明する。
制御部200Aは、情報処理装置20の動作全般を制御する。また、制御部200Aは、図4に示すように、画像取得部201、第1推定部202、動態解析部203、特徴量抽出部204、第2推定部205、判定部206および出力制御部207の各機能を含み、本実施形態に係る情報処理装置20Aの動作を主導的に制御する。制御部200Aに含まれる各機能部の有する機能については後述する。制御部200Aは、例えば、CPU等の処理回路により実現される。
通信部210は、情報処理装置20Aが備える通信手段であり、ネットワークを介して(あるいは直接的に)、外部装置と無線または有線により各種通信を行う。例えば、通信部210は、撮像装置10と通信を行う。より具体的には、通信部210は、撮像装置10により生成された画像を取得する。また、通信部210は、撮像装置10以外の他の装置と通信を行ってもよい。例えば、通信部210は、画像取得部201により取得された画像および出力制御部207より制御される提示に関する情報等を、外部の表示装置等に送信してもよい。通信部210は、例えば、通信アンテナおよびRF(Radio Frequency)回路(無線通信)や、IEEE802.15.1ポートおよび送受信回路(無線通信)、IEEE802.11bポートおよび送受信回路(無線通信)、あるいはLAN(Local Area Network)端子および送受信回路(有線通信)等の通信デバイスにより実現される。
記憶部220は、情報処理装置20Aが備える記憶手段であり、通信部210により取得された情報、または制御部200Aの有する各機能部により得られた情報等を記憶する。また、記憶部220は、制御部200Aの有する各機能部、または通信部210からの要求に応じて、記憶されている情報を適宜出力する。記憶部220は、例えば、ハードディスク(Hard Disk)などの磁気記録媒体や、フラッシュメモリ(flash memory)などの不揮発性メモリ(nonvolatile memory)などにより実現される。また、記憶部220は、外部のクラウドサーバまたはストレージ等により実現されてもよい。この場合、情報処理装置20Aには記憶部220が設けられなくてもよい。
画像取得部201は、撮像装置10において時系列に撮像された胚に係る複数の画像を撮像装置10から取得する機能を有する。かかる複数の画像は、通信部210を介して取得される。
第1推定部202は、取得したタイムラプス画像から胚についての第1推定を行う機能を有する。本実施形態に係る第1推定部202は、第1情報取得部の一例である。第1推定部202は、例えば、タイムラプス画像について画像解析を行い、当該タイムラプス画像の画像特徴量を取得する。画像特徴量は、例えば、画像の輝度の定量値もしくは輝度の分布に基づく統計値、または輝度ヒストグラムもしくは周波数スペクトル等の、画素に係る情報の分布に基づく値を含む。画像特徴量は、例えば公知の画像解析技術を用いて取得することが可能である。
動態解析部203は、取得した動画像のフレーム間の変化に基づいて、胚の動態について解析する機能を有する。具体的には、動態解析部203は、動画像の各フレームについて胚に対応する関心領域を設定し、かかる関心領域内の複数の画像上における変化を解析する。ここでいう動態とは、胚の自律的な動きのみならず、胚の細胞質内における形態の変化も意味する。
特徴量抽出部204は、取得した動態特徴量の時系列データから、所定の条件に基づき、後述する第2推定部205において用いられる情報を抽出する機能を有する。具体的には、本実施形態に係る特徴量抽出部204は、取得した動態特徴量の時系列データから、胚の卵割が起こり得るタイミングの候補となる時刻における動態特徴量の波形を抽出する。
第2推定部205は、抽出された動態特徴量の波形に係る情報から胚についての第2推定を行う機能を有する。本実施形態に係る第2推定部205は、第2情報取得部の一例である。第2推定部205は、例えば、抽出した動態特徴量の波形に係る情報から、卵割のタイミングの候補を決定する。すなわち、第2推定とは、動画像の動態解析に基づいて取得された動態特徴量から胚の卵割のタイミングの候補に分類することである。卵割のタイミングの候補とは、例えば、1細胞期から2細胞期への遷移に係る卵割、2細胞期から4細胞期への遷移に係る卵割等がある。
判定部206は、第1情報および第2情報を用いて、胚についての事象を判定する機能を有する。本実施形態において、第1情報は第1推定結果に相当し、第2情報は第2推定結果に相当する。また、本実施形態においては、胚についての事象は、胚の卵割のタイミングに相当する。すなわち、本実施形態に係る判定部206は、第1推定結果および第2推定結果を用いて、胚の卵割のタイミングを判定する。
出力制御部207は、制御部200Aにおける処理による出力を制御する機能を有する。例えば、出力制御部207は、取得した複数の画像の全部または一部を記憶部220に記憶し、または通信部210を介して外部の表示装置等に出力し得る。また、出力制御部207は、判定部206による判定結果を、記憶部220にそのままのデータとして、または外部の表示装置等に可視化されたデータ(例えばグラフ等)として出力し得る。
以上、本実施形態に係る情報処理装置20Aの構成および機能について説明した。次に、本実施形態に係る情報処理装置20Aによる処理の一例について、図11を用いて説明する。
次に、図12〜図14を参照して、本開示の第2の実施形態について説明する。本実施形態に係る情報処理装置20Bは、タイムラプス画像の各々について画像解析を行って画像特徴量を取得し、タイムラプス画像に係る画像特徴量と、当該タイムラプス画像の撮像時刻を基準とする区間に含まれる動画像の動態特徴量の波形とに基づいて、胚の発生段階および卵割のタイミングの判定を行うものである。
図12は、本開示の第2の実施形態に係る情報処理装置20Bの機能構成例を示す機能ブロック図である。図12に示すように、本実施形態に係る情報処理装置20Bは、制御部200B、通信部210および記憶部220を備える。通信部210および記憶部220の機能は第1の実施形態と同様であるので、説明を省略する。なお、本実施形態に係る画像特徴量取得部251は第1情報取得部の一例であり、本実施形態に係る特徴量抽出部204は第2情報取得部の一例である。
画像特徴量取得部251は、取得したタイムラプス画像の各々について画像解析を行い、当該タイムラプス画像の画像特徴量を当該タイムラプス画像ごとに取得する機能を有する。画像特徴量は、例えば、画像の輝度の定量値もしくは輝度に基づく統計値、または輝度ヒストグラムもしくは周波数スペクトル等の、画素に係る情報の分布に基づく値を含む。画像特徴量は、例えば公知の画像解析技術を用いて取得することが可能である。かかる画像特徴量は、第1情報の一例である。
本実施形態に係る特徴量抽出部204は、動態解析部203から取得した動態特徴量の時系列データから、タイムラプス画像の撮像時刻における動態特徴量を抽出する。より具体的には、特徴量抽出部204は、タイムラプス画像の撮像時刻を基準とする時間窓に含まれる動態特徴量の波形を抽出する。かかる動態特徴量(の波形)は、第2情報の一例である。
本実施形態に係る判定部206は、画像特徴量(第1情報)と動態特徴量の波形等(第2情報)とを一つのクラスタとしての組み合わせに基づいて、胚についての事象を判定する。
以上、本実施形態に係る情報処理装置20Bの構成および機能について説明した。次に、本実施形態に係る情報処理装置20Bによる処理の一例について、図14を用いて説明する。
次に、図15〜図17を参照して、本開示の第3の実施形態について説明する。本実施形態に係る情報処理装置20Cは、タイムラプス画像の各々について推定される胚についての事象の第1推定結果とともに、当該タイムラプス画像の撮像時刻を基準とする区間に含まれる動画像の動態特徴量の波形から推定される胚についての事象の第2推定結果とに基づいて、胚の発生段階および卵割のタイミングの判定を行うものである。
図15は、本開示の第3の実施形態に係る情報処理装置20Cの機能構成例を示す機能ブロック図である。図15に示すように、本実施形態に係る情報処理装置20Cは、制御部200C、通信部210および記憶部220を備える。通信部210および記憶部220の機能は第1の実施形態と同様であるので、説明を省略する。
第1推定部202は、第1の実施形態と同様に、タイムラプス画像の各々について胚についての事象(ここでは胚の発生段階)の第1推定を行う。ここで得られた第1推定結果は、判定部206に出力される。なお、詳しくは後述するが、かかる第1推定結果は、特徴量抽出部204に出力されてもよい。
本実施形態に係る特徴量抽出部204は、動態解析部203から取得した動態特徴量の時系列データから、タイムラプス画像の撮像時刻における動態特徴量を抽出する。より具体的には、特徴量抽出部204は、タイムラプス画像の撮像時刻を基準とする時間窓に含まれる動態特徴量の波形を抽出する。かかる動態特徴量(の波形)は、第2情報の一例である。
以上、本実施形態に係る情報処理装置20Cの構成および機能について説明した。次に、本実施形態に係る情報処理装置20Cによる処理の一例について、図17を用いて説明する。
次に、図18〜図29を参照して、本開示の第4の実施形態について説明する。上記の第1〜第3の実施形態では、生物学的試料の一例として胚を用いる場合の一例を主に説明した。しかし、本開示における生物学的試料は、かかる例に限定されない。本開示における生物学試料は、医療または学術の観点において、生命現象の観察に用いられる種々の試料を含む。
(1)細胞死も細胞分裂もしなかったがん細胞(Control)
(2)細胞死したがん細胞(グループ1)
(3)細胞死したがん細胞(グループ2)
(4)細胞分裂したがん細胞
Neural Network)などを含むDeep learning等のニューラルネットワークにより上記の学習を実現することができる。
次に、図30を参照して、本開示の実施形態に係る情報処理装置のハードウェア構成について説明する。図30は、本開示の実施形態に係る情報処理装置のハードウェア構成例を示すブロック図である。図示された情報処理装置900は、例えば、上記の実施形態における情報処理装置20を実現しうる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
(1)
時系列に撮像された生物学的試料に係る複数の画像のうち所定の時刻に対応するフレームの静止画像に基づいて第1情報を取得する第1情報取得部と、
所定期間における前記複数の画像のフレーム間の変化に基づいて第2情報を取得する第2情報取得部と、
前記第1情報および前記第2情報を用いて、前記生物学的試料についての事象を判定する判定部と
を備える情報処理装置。
(2)
前記第1情報は、前記静止画像に対する画像解析処理の結果から推定される前記生物学的試料の状態の第1推定結果を含む、前記(1)に記載の情報処理装置。
(3)
前記第1推定結果は、予め取得された生物学的試料についての前記事象と当該生物学的試料に係る画像との関係について学習されたモデルを用いて推定される、前記(2)に記載の情報処理装置。
(4)
前記第1情報は、前記静止画像に対する画像解析処理により得られる前記静止画像の特徴量を含む、前記(1)〜(3)のいずれかに記載の情報処理装置。
(5)
前記第2情報取得部は、前記生物学的試料に対応して設定される関心領域のフレーム間の変化に基づいて前記第2情報を取得する、前記(1)〜(4)のいずれか1項に記載の情報処理装置。
(6)
前記第2情報は、前記関心領域に係る動態解析の結果に基づいて得られる動態特徴量を含む、前記(5)に記載の情報処理装置。
(7)
前記第2情報は、前記動態特徴量の経時変化に基づいて特定される前記動態特徴量から得られる情報を含む、前記(6)に記載の情報処理装置。
(8)
前記第2情報は、前記所定の時刻を基準とする時間窓に含まれる前記動態特徴量から得られる情報を含む、前記(6)または(7)に記載の情報処理装置。
(9)
前記動態特徴量から得られる情報は前記動態特徴量の波形であり、
前記第2情報は、前記動態特徴量の波形の解析結果を含む、前記(7)または(8)に記載の情報処理装置。
(10)
前記動態特徴量は、前記関心領域の形態の変化に基づく特徴量を含む、前記(6)〜(9)のいずれか1項に記載の情報処理装置。
(11)
前記動態特徴量は、前記関心領域内の動きに基づく特徴量を含む、前記(6)〜(10)のいずれか1項に記載の情報処理装置。
(12)
前記動態特徴量は、画像の画素情報に基づく特徴量を含む、前記(6)〜(11)のいずれか1項に記載の情報処理装置。
(13)
前記第2情報は、前記動態特徴量から推定される前記生物学的試料の状態の第2推定結果を含む、前記(6)〜(12)のいずれか1項に記載の情報処理装置。
(14)
前記第2推定結果は、予め取得された生物学的試料についての前記事象と当該生物学的試料についての前記動態特徴量との関係について学習されたモデルを用いて推定される、前記(13)に記載の情報処理装置。
(15)
前記判定部は、前記静止画像に対する画像解析処理の結果から推定される前記生物学的試料の状態の第1推定結果、および前記動態特徴量から推定される前記生物学的試料の状態の第2推定結果を用いて判定する場合、前記第1推定結果と前記第2推定結果とを照合させて得られる尤度に基づいて前記生物学的試料についての事象を判定する、前記(13)または前記(14)に記載の情報処理装置。
(16)
前記判定部は、前記第1情報と前記第2情報との組み合わせに基づいて前記生物学的試料についての事象を判定する、前記(1)〜(15)のいずれか1項に記載の情報処理装置。
(17)
前記複数の画像は、前記所定の時刻を撮像開始時刻とする前記所定期間内において連続的に撮像された画像を含む、前記(1)〜(16)のいずれか1項に記載の情報処理装置。
(18)
プロセッサが、
時系列に撮像された生物学的試料に係る複数の画像のうち所定の時刻に対応するフレームの静止画像に基づいて第1情報を取得することと、
所定期間における前記複数の画像のフレーム間の変化に基づいて第2情報を取得することと、
前記第1情報および前記第2情報を用いて、前記生物学的試料についての事象を判定することと
を含む情報処理方法。
(19)
撮像により画像を生成する撮像部
を備える撮像装置と、
前記撮像部により時系列に撮像された生物学的試料に係る複数の画像のうち所定の時刻に対応するフレームの静止画像に基づいて第1情報を取得する第1情報取得部と、
所定期間における前記複数の画像のフレーム間の変化に基づいて第2情報を取得する第2情報取得部と、
前記第1情報および前記第2情報を用いて、前記生物学的試料についての事象を判定する判定部と
を備える情報処理装置と、
を有する情報処理システム。
10 撮像装置
20 情報処理装置
101 撮像部
102 撮像制御部
200 制御部
201 画像取得部
202 第1推定部
203 動態解析部
204 特徴量抽出部
205 第2推定部
206 判定部
207 出力制御部
210 通信部
220 記憶部
251 画像特徴量取得部
Claims (19)
- 時系列に撮像された生物学的試料に係る複数の画像のうち所定の時刻に対応するフレームの静止画像に基づいて第1情報を取得する第1情報取得部と、
所定期間における前記複数の画像のフレーム間の変化に基づいて第2情報を取得する第2情報取得部と、
前記第1情報および前記第2情報を用いて、前記生物学的試料についての事象を判定する判定部と
を備える情報処理装置。 - 前記第1情報は、前記静止画像に対する画像解析処理の結果から推定される前記生物学的試料の状態の第1推定結果を含む、請求項1に記載の情報処理装置。
- 前記第1推定結果は、予め取得された生物学的試料についての前記事象と当該生物学的試料に係る画像との関係について学習されたモデルを用いて推定される、請求項2に記載の情報処理装置。
- 前記第1情報は、前記静止画像に対する画像解析処理により得られる前記静止画像の特徴量を含む、請求項1に記載の情報処理装置。
- 前記第2情報取得部は、前記生物学的試料に対応して設定される関心領域のフレーム間の変化に基づいて前記第2情報を取得する、請求項1に記載の情報処理装置。
- 前記第2情報は、前記関心領域に係る動態解析の結果に基づいて得られる動態特徴量を含む、請求項5に記載の情報処理装置。
- 前記第2情報は、前記動態特徴量の経時変化に基づいて特定される前記動態特徴量から得られる情報を含む、請求項6に記載の情報処理装置。
- 前記第2情報は、前記所定の時刻を基準とする時間窓に含まれる前記動態特徴量から得られる情報を含む、請求項6に記載の情報処理装置。
- 前記動態特徴量から得られる情報は前記動態特徴量の波形であり、
前記第2情報は、前記動態特徴量の波形の解析結果を含む、請求項7に記載の情報処理装置。 - 前記動態特徴量は、前記関心領域の形態の変化に基づく特徴量を含む、請求項6に記載の情報処理装置。
- 前記動態特徴量は、前記関心領域内の動きに基づく特徴量を含む、請求項6に記載の情報処理装置。
- 前記動態特徴量は、画像の画素情報に基づく特徴量を含む、請求項6に記載の情報処理装置。
- 前記第2情報は、前記動態特徴量から推定される前記生物学的試料の状態の第2推定結果を含む、請求項6に記載の情報処理装置。
- 前記第2推定結果は、予め取得された生物学的試料についての前記事象と当該生物学的試料についての前記動態特徴量との関係について学習されたモデルを用いて推定される、請求項13に記載の情報処理装置。
- 前記判定部は、前記静止画像に対する画像解析処理の結果から推定される前記生物学的試料の状態の第1推定結果、および前記動態特徴量から推定される前記生物学的試料の状態の第2推定結果を用いて判定する場合、前記第1推定結果と前記第2推定結果とを照合させて得られる尤度に基づいて前記生物学的試料についての事象を判定する、請求項13に記載の情報処理装置。
- 前記判定部は、前記第1情報と前記第2情報との組み合わせに基づいて前記生物学的試料についての事象を判定する、請求項1に記載の情報処理装置。
- 前記複数の画像は、前記所定の時刻を撮像開始時刻とする前記所定期間内において連続的に撮像された画像を含む、請求項1に記載の情報処理装置。
- プロセッサが、
時系列に撮像された生物学的試料に係る複数の画像のうち所定の時刻に対応するフレームの静止画像に基づいて第1情報を取得することと、
所定期間における前記複数の画像のフレーム間の変化に基づいて第2情報を取得することと、
前記第1情報および前記第2情報を用いて、前記生物学的試料についての事象を判定することと
を含む情報処理方法。 - 撮像により画像を生成する撮像部
を備える撮像装置と、
前記撮像部により時系列に撮像された生物学的試料に係る複数の画像のうち所定の時刻に対応するフレームの静止画像に基づいて第1情報を取得する第1情報取得部と、
所定期間における前記複数の画像のフレーム間の変化に基づいて第2情報を取得する第2情報取得部と、
前記第1情報および前記第2情報を用いて、前記生物学的試料についての事象を判定する判定部と
を備える情報処理装置と、
を有する情報処理システム。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016215195 | 2016-11-02 | ||
JP2016215195 | 2016-11-02 | ||
JP2017184807 | 2017-09-26 | ||
JP2017184807 | 2017-09-26 | ||
PCT/JP2017/037683 WO2018083984A1 (ja) | 2016-11-02 | 2017-10-18 | 情報処理装置、情報処理方法及び情報処理システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018083984A1 true JPWO2018083984A1 (ja) | 2019-09-19 |
JP7001060B2 JP7001060B2 (ja) | 2022-01-19 |
Family
ID=62076632
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018548615A Active JP7001060B2 (ja) | 2016-11-02 | 2017-10-18 | 情報処理装置、情報処理方法及び情報処理システム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11282201B2 (ja) |
EP (1) | EP3530725A4 (ja) |
JP (1) | JP7001060B2 (ja) |
WO (1) | WO2018083984A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3786277A4 (en) * | 2018-05-25 | 2021-07-07 | Sony Corporation | CONTROL DEVICE, CONTROL METHOD AND PROGRAM |
EP3834128A1 (en) * | 2018-08-07 | 2021-06-16 | Cornell University | System and method for selecting artificially fertilized embryos |
JP7172302B2 (ja) * | 2018-08-31 | 2022-11-16 | 株式会社明電舎 | 汚水処理運転状況評価装置及び汚水処理運転状況評価方法 |
JP7359163B2 (ja) * | 2019-01-23 | 2023-10-11 | Jsr株式会社 | 判別装置、細胞塊の判別方法、及びコンピュータプログラム |
US20220113260A1 (en) * | 2019-02-01 | 2022-04-14 | Nec Corporation | Image processing apparatus |
JP7243821B2 (ja) * | 2019-05-29 | 2023-03-22 | 日本電気株式会社 | 学習装置、制御方法及びプログラム |
JP2021158982A (ja) * | 2020-03-31 | 2021-10-11 | ソニーグループ株式会社 | データ取得装置、データ取得方法及び生体試料観察システム |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013085546A (ja) * | 2011-10-24 | 2013-05-13 | Nikon Corp | 画像処理装置および方法、並びにプログラム |
WO2014185169A1 (ja) * | 2013-05-16 | 2014-11-20 | ソニー株式会社 | 画像処理装置、画像処理方法およびプログラム |
WO2015182381A1 (ja) * | 2014-05-30 | 2015-12-03 | 富士フイルム株式会社 | 細胞判定装置および方法並びにプログラム |
WO2016162945A1 (ja) * | 2015-04-07 | 2016-10-13 | オリンパス株式会社 | 細胞解析装置および細胞解析方法 |
WO2017169397A1 (ja) * | 2016-03-29 | 2017-10-05 | ソニー株式会社 | 画像処理装置、画像処理方法、及び画像処理システム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101495619B (zh) | 2006-06-16 | 2014-01-08 | 尤尼森斯繁殖技术公司 | 基于卵裂球分裂和运动的胚胎质量评估 |
CN105408746A (zh) | 2013-02-28 | 2016-03-16 | 普罗吉涅股份有限公司 | 基于图像的人胚胎细胞分类的装置、方法和系统 |
US9430829B2 (en) * | 2014-01-30 | 2016-08-30 | Case Western Reserve University | Automatic detection of mitosis using handcrafted and convolutional neural network features |
-
2017
- 2017-10-18 JP JP2018548615A patent/JP7001060B2/ja active Active
- 2017-10-18 WO PCT/JP2017/037683 patent/WO2018083984A1/ja unknown
- 2017-10-18 US US16/332,632 patent/US11282201B2/en active Active
- 2017-10-18 EP EP17867803.3A patent/EP3530725A4/en active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013085546A (ja) * | 2011-10-24 | 2013-05-13 | Nikon Corp | 画像処理装置および方法、並びにプログラム |
WO2014185169A1 (ja) * | 2013-05-16 | 2014-11-20 | ソニー株式会社 | 画像処理装置、画像処理方法およびプログラム |
WO2015182381A1 (ja) * | 2014-05-30 | 2015-12-03 | 富士フイルム株式会社 | 細胞判定装置および方法並びにプログラム |
WO2016162945A1 (ja) * | 2015-04-07 | 2016-10-13 | オリンパス株式会社 | 細胞解析装置および細胞解析方法 |
WO2017169397A1 (ja) * | 2016-03-29 | 2017-10-05 | ソニー株式会社 | 画像処理装置、画像処理方法、及び画像処理システム |
Also Published As
Publication number | Publication date |
---|---|
EP3530725A4 (en) | 2019-10-23 |
US11282201B2 (en) | 2022-03-22 |
JP7001060B2 (ja) | 2022-01-19 |
WO2018083984A1 (ja) | 2018-05-11 |
EP3530725A1 (en) | 2019-08-28 |
US20210287373A1 (en) | 2021-09-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7001060B2 (ja) | 情報処理装置、情報処理方法及び情報処理システム | |
US20180342078A1 (en) | Information processing device, information processing method, and information processing system | |
EP3485458B1 (en) | Information processing device, information processing method, and information processing system | |
US10929985B2 (en) | System and methods for tracking motion of biological cells | |
JP2021507367A (ja) | 胚の生存率を推定するためのシステムおよび方法 | |
US11954926B2 (en) | Image feature detection | |
JP2017092730A (ja) | 情報処理装置、情報処理方法、プログラム及び情報処理システム | |
US11321836B2 (en) | Image-processing device, image-processing method, and image-processing program for setting cell analysis area based on captured image | |
WO2018105298A1 (ja) | 情報処理装置、情報処理方法及び情報処理システム | |
JP2018171039A (ja) | 情報処理装置、情報処理方法、プログラム及び観察システム | |
EP3812448A1 (en) | Information processing device, information processing method, program, and information processing system | |
EP3432269B1 (en) | Information processing device, information processing method, program, and information processing system | |
JPWO2018179971A1 (ja) | 情報処理装置、情報処理方法、プログラム及び観察システム | |
WO2023154851A1 (en) | Integrated framework for human embryo ploidy prediction using artificial intelligence | |
JP7420069B2 (ja) | 制御装置、制御方法、およびプログラム | |
US20220051154A1 (en) | Method and apparatus for measuring plant trichomes | |
WO2018012353A1 (en) | Information processing device, information processing method, and information processing system | |
Ivashchuk et al. | Neural network methods for the detection of farm animals in dense dynamic groups on images | |
WO2017061080A1 (en) | Information processing device, information processing method, and information processing system | |
Sawhney et al. | Motion Enhanced Multi‐Level Tracker (MEMTrack): A Deep Learning‐Based Approach to Microrobot Tracking in Dense and Low‐Contrast Environments | |
Yu et al. | An enhancement algorithm for head characteristics of caged chickens detection based on cyclic consistent migration neural network | |
Moreira | NeuronDyn: live neurotransmitter vesicle movement dynamics in living neurons |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190515 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190522 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200716 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200716 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210817 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211008 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211124 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211207 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7001060 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |