JP7439165B2 - 敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色 - Google Patents
敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色 Download PDFInfo
- Publication number
- JP7439165B2 JP7439165B2 JP2022083740A JP2022083740A JP7439165B2 JP 7439165 B2 JP7439165 B2 JP 7439165B2 JP 2022083740 A JP2022083740 A JP 2022083740A JP 2022083740 A JP2022083740 A JP 2022083740A JP 7439165 B2 JP7439165 B2 JP 7439165B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- dhm
- images
- cells
- stained
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001000 micrograph Methods 0.000 title description 2
- 210000004027 cell Anatomy 0.000 claims description 111
- 238000000034 method Methods 0.000 claims description 64
- 238000012549 training Methods 0.000 claims description 64
- 210000000265 leukocyte Anatomy 0.000 claims description 41
- 230000008569 process Effects 0.000 claims description 35
- 238000012800 visualization Methods 0.000 claims description 35
- 238000004422 calculation algorithm Methods 0.000 claims description 28
- 230000009466 transformation Effects 0.000 claims description 18
- 238000010186 staining Methods 0.000 claims description 15
- 238000012545 processing Methods 0.000 claims description 14
- 238000000386 microscopy Methods 0.000 claims description 9
- 238000004040 coloring Methods 0.000 claims description 7
- 230000001580 bacterial effect Effects 0.000 claims description 6
- 230000003278 mimic effect Effects 0.000 claims description 5
- 241000894006 Bacteria Species 0.000 claims description 3
- 238000006243 chemical reaction Methods 0.000 claims description 3
- 238000009647 digital holographic microscopy Methods 0.000 description 102
- 210000004369 blood Anatomy 0.000 description 17
- 239000008280 blood Substances 0.000 description 17
- 238000013507 mapping Methods 0.000 description 17
- 238000010586 diagram Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 7
- 230000004044 response Effects 0.000 description 6
- 238000003860 storage Methods 0.000 description 6
- 210000003979 eosinophil Anatomy 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 210000004698 lymphocyte Anatomy 0.000 description 5
- 210000000440 neutrophil Anatomy 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 210000003651 basophil Anatomy 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 201000004792 malaria Diseases 0.000 description 3
- 210000001616 monocyte Anatomy 0.000 description 3
- 238000012552 review Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 238000013480 data collection Methods 0.000 description 2
- 210000003743 erythrocyte Anatomy 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 239000013589 supplement Substances 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 208000023275 Autoimmune disease Diseases 0.000 description 1
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000004820 blood count Methods 0.000 description 1
- 210000003850 cellular structure Anatomy 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 238000007635 classification algorithm Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000012528 membrane Substances 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 244000045947 parasite Species 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 210000005259 peripheral blood Anatomy 0.000 description 1
- 239000011886 peripheral blood Substances 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
- 238000011120 smear test Methods 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/001—Texturing; Colouring; Generation of texture or colour
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N15/00—Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
- G01N15/10—Investigating individual particles
- G01N15/14—Optical investigation techniques, e.g. flow cytometry
- G01N15/1429—Signal processing
- G01N15/1433—Signal processing using image recognition
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N15/00—Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
- G01N15/10—Investigating individual particles
- G01N15/14—Optical investigation techniques, e.g. flow cytometry
- G01N15/1434—Optical arrangements
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
- G01N33/48—Biological material, e.g. blood, urine; Haemocytometers
- G01N33/50—Chemical analysis of biological material, e.g. blood, urine; Testing involving biospecific ligand binding methods; Immunological testing
- G01N33/5005—Chemical analysis of biological material, e.g. blood, urine; Testing involving biospecific ligand binding methods; Immunological testing involving human or animal cells
- G01N33/5094—Chemical analysis of biological material, e.g. blood, urine; Testing involving biospecific ligand binding methods; Immunological testing involving human or animal cells for blood cell populations
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/0005—Adaptation of holography to specific applications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/04—Processes or apparatus for producing holograms
- G03H1/0443—Digital holography, i.e. recording holograms with digital recording means
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/04—Processes or apparatus for producing holograms
- G03H1/08—Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
- G03H1/0866—Digital holographic imaging, i.e. synthesizing holobjects from holograms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
- G06F18/24133—Distances to prototypes
- G06F18/24143—Distances to neighbourhood prototypes, e.g. restricted Coulomb energy networks [RCEN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/776—Validation; Performance evaluation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/698—Matching; Classification
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N15/00—Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
- G01N15/10—Investigating individual particles
- G01N2015/1006—Investigating individual particles for cytology
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N15/00—Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
- G01N15/10—Investigating individual particles
- G01N15/14—Optical investigation techniques, e.g. flow cytometry
- G01N15/1434—Optical arrangements
- G01N2015/1454—Optical arrangements using phase shift or interference, e.g. for improving contrast
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
- G01N33/48—Biological material, e.g. blood, urine; Haemocytometers
- G01N33/483—Physical analysis of biological material
- G01N33/487—Physical analysis of biological material of liquid biological material
- G01N33/49—Blood
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/0005—Adaptation of holography to specific applications
- G03H2001/005—Adaptation of holography to specific applications in microscopy, e.g. digital holographic microscope [DHM]
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/04—Processes or apparatus for producing holograms
- G03H1/0443—Digital holography, i.e. recording holograms with digital recording means
- G03H2001/0445—Off-axis recording arrangement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- Chemical & Material Sciences (AREA)
- Molecular Biology (AREA)
- Immunology (AREA)
- Biomedical Technology (AREA)
- Analytical Chemistry (AREA)
- Pathology (AREA)
- Biochemistry (AREA)
- Quality & Reliability (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Data Mining & Analysis (AREA)
- Dispersion Chemistry (AREA)
- Cell Biology (AREA)
- Hematology (AREA)
- Urology & Nephrology (AREA)
- Biotechnology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Medicinal Chemistry (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Microbiology (AREA)
- Evolutionary Biology (AREA)
- Tropical Medicine & Parasitology (AREA)
- Food Science & Technology (AREA)
- Ecology (AREA)
- General Engineering & Computer Science (AREA)
Description
本出願は、2017年9月19日に出願された米国仮出願第62/560,272号に基づく優先権を主張するものであり、上記仮特許出願の開示を参照により本明細書に援用する。
110 DHM(ホログラフィック顕微鏡)装置
120 訓練(トレーニング)装置
130 仮想染色(仮想的に染色する)装置
600 コンピューティング環境(演算システム)
610 コンピュータシステム
620 処理装置(プロセッサ)
630 システムメモリ(記憶装置)
666 ディスプレイ(表示装置)
Claims (20)
- 仮想的に染色されたホログラフィック顕微鏡(DHM)画像を生成するための、コンピュータを用いて行われる方法であって、
DHM装置を用いて取得された、1つ以上の細胞の描出を含むDHM画像を受信するステップと、
前記DHM画像を複数の分割化画像に分割化するステップであって、各前記分割化画像は、個々の細胞を描出するステップと、
画像変換アルゴリズムを用いて各前記分割化画像を処理することによって、前記複数の分割化画像を仮想的に染色するステップであって、この際、前記画像変換アルゴリズムは、対になっていないデータセットを用いて生成されるステップと、
仮想染色後の前記複数の分割化画像を再結合して、仮想的に染色されたDHM画像を生成するステップと、
を含み、
前記仮想的に染色されたDHM画像は、対応する実際に染色された細胞の外観を模倣するように、1つ以上の細胞をデジタル的に着色することを含み、かつ
前記DHM画像は、白血球細胞の核の周囲を含む、
方法。 - 前記画像変換アルゴリズムは、敵対的生成ネットワークを用いて訓練される、請求項1に記載のコンピュータを用いて行われる方法。
- 前記画像変換アルゴリズムは、敵対的損失およびサイクル一貫性損失を用いて訓練される、請求項2に記載のコンピュータを用いて行われる方法。
- 前記DHM画像を仮想的に染色する際、白血球細胞の着色が、各白血球細胞の種類に基づいて行われることを含む、請求項1に記載のコンピュータを用いて行われる方法。
- 前記白血球細胞の着色に基づいて、サンプル内の白血球細胞の種類の比率を定量化することをさらに含む、請求項4に記載のコンピュータを用いて行われる方法。
- 1つ以上の細胞がバクテリア細胞を含み、前記バクテリア細胞の着色が、バクテリアの種類に基づいて行われる、請求項1に記載のコンピュータを用いて行われる方法。
- グラフィカル・ユーザ・インターフェースを介して前記仮想的に染色されたDHM画像を表示することをさらに含む、請求項1に記載のコンピュータを用いて行われる方法。
- 仮想的に染色されたホログラフィック顕微鏡(DHM)画像を生成するための、コンピュータを用いて行われる方法であって、
各白血球細胞のDHM画像を含む第1の訓練データセットと、実際に染色された白血球細胞の画像を含む第2の訓練データセットとを受け取るステップであって、前記第1の訓練データセットの画像は、前記第2の訓練データセットの画像と対になっていないステップと、
敵対的生成ネットワークを用いる学習プロセスを前記第1の訓練データセットと前記第2の訓練データセットに対して適用して、画像変換アルゴリズムを生成するステップと、
DHM画像を複数の分割化画像に分割化するステップであって、各前記分割化画像は、個々の細胞を描出するステップと、
前記画像変換アルゴリズムを前記複数の分割化画像に対して適用して、仮想的に染色された複数の分割化画像を生成するステップと、
仮想染色後の前記複数の分割化画像を再結合して、仮想的に染色されたDHM画像を生成するステップと、
グラフィカル・ユーザ・インターフェースを介して前記仮想的に染色されたDHM画像を表示するステップと、を含み、かつ
前記DHM画像は、白血球細胞の核の周囲を含む、
方法。 - 前記敵対的生成ネットワークは、複数の仮想的に染色されたDHM画像を生成するように構成された第1の生成ネットワークと、前記複数の仮想的に染色されたDHM画像と前記第2の訓練データセット内の画像とを識別するように構成された第1の識別ネットワークとを含む、請求項8に記載のコンピュータを用いて行われる方法。
- 前記敵対的生成ネットワークは、複数の仮想的なDHM画像を生成するように構成された第2の生成ネットワークと、前記複数の仮想的なDHM画像と前記第1の訓練データセット内の画像とを識別するように構成された第2の識別ネットワークとをさらに含む、請求項9に記載のコンピュータを用いて行われる方法。
- 前記学習プロセスは、敵対的損失およびサイクル一貫性損失を用いて、前記画像変換アルゴリズムを生成する、請求項8に記載のコンピュータを用いて行われる方法。
- 前記グラフィカル・ユーザ・インターフェースは、携帯装置で実行される携帯アプリケーションである、請求項8に記載のコンピュータを用いて行われる方法。
- 仮想的に染色されたホログラフィック顕微鏡(DHM)画像を生成するように構成された細胞可視化システムであって、装置を含み、
前記装置は、
1つ以上の白血球細胞のDHM画像を受け取り、
前記DHM画像を複数の分割化画像に分割化し、この際、各前記分割化画像は、個々の細胞を描出し、
前記複数の分割化画像に対して画像変換アルゴリズムを適用して、仮想的に染色された複数の分割化画像を生成し、
仮想染色後の前記複数の分割化画像を再結合して、仮想的に染色されたDHM画像を生成する、ように構成され、
前記画像変換アルゴリズムは、対になっていないデータセットを用いて生成され、かつ
前記DHM画像は、白血球細胞の核の周囲を含む、
細胞可視化システム。 - 前記対になっていないデータセットを用いて前記画像変換アルゴリズムを生成するように構成された訓練装置をさらに含み、
前記対になっていないデータセットは、各細胞のDHM画像を含む第1の訓練データセットと、実際に染色された細胞の画像を含む第2の訓練データセットとを含む、請求項13に記載の細胞可視化システム。 - 前記訓練装置が、敵対的生成ネットワークを用いて前記画像変換アルゴリズムを生成するように構成されている、請求項14に記載の細胞可視化システム。
- 前記敵対的生成ネットワークは、
仮想的に染色されたDHM画像の例を生成するように構成された第1の生成ネットワークと、前記仮想的に染色されたDHM画像の例と前記第2の訓練データセット中の画像とを識別するように構成された第1の識別ネットワークと、
仮想的なDHM画像の例を生成するように構成された第2の生成ネットワークと、前記仮想的なDHM画像の例と前記第1の訓練データセット中の画像とを識別するように構成された第2の識別ネットワークと、
を含む、請求項15に記載の細胞可視化システム。 - 前記訓練装置に対して前記第1の訓練データセットを提供するように構成されたDHM装置をさらに備える、請求項14に記載の細胞可視化システム。
- 前記DHM装置が、1つ以上の細胞のDHM画像を仮想染色装置に対して提供するようにさらに構成されている、請求項17に記載の細胞可視化システム。
- 前記1つ以上の細胞は、バクテリア細胞を含み、前記バクテリア細胞の着色が、バクテリアの種類に基づいて行われる、請求項13に記載の細胞可視化システム。
- 前記仮想的に染色されたDHM画像は、対応する実際に染色された細胞の外観を模倣するように、1つ以上の細胞をデジタル的に着色することを含む、請求項13に記載の細胞可視化システム。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201762560272P | 2017-09-19 | 2017-09-19 | |
US62/560,272 | 2017-09-19 | ||
JP2020537129A JP2020534627A (ja) | 2017-09-19 | 2018-09-06 | 敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色 |
PCT/US2018/049702 WO2019060141A1 (en) | 2017-09-19 | 2018-09-06 | VIRTUAL COLORING OF CELLS IN DIGITAL HOLOGRAPHIC MICROSCOPY IMAGES USING GENERATIVE ANTAGONIST NETWORKS |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020537129A Division JP2020534627A (ja) | 2017-09-19 | 2018-09-06 | 敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022107671A JP2022107671A (ja) | 2022-07-22 |
JP7439165B2 true JP7439165B2 (ja) | 2024-02-27 |
Family
ID=63720759
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020537129A Pending JP2020534627A (ja) | 2017-09-19 | 2018-09-06 | 敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色 |
JP2022083740A Active JP7439165B2 (ja) | 2017-09-19 | 2022-05-23 | 敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020537129A Pending JP2020534627A (ja) | 2017-09-19 | 2018-09-06 | 敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11169484B2 (ja) |
EP (1) | EP3685355A1 (ja) |
JP (2) | JP2020534627A (ja) |
CN (1) | CN111095360B (ja) |
WO (1) | WO2019060141A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3752979A1 (en) * | 2018-02-12 | 2020-12-23 | F. Hoffmann-La Roche AG | Transformation of digital pathology images |
CN110648309B (zh) * | 2019-08-12 | 2024-05-28 | 平安科技(深圳)有限公司 | 基于条件生成对抗网络合成红细胞图像的方法及相关设备 |
WO2021052063A1 (en) * | 2019-09-19 | 2021-03-25 | The Hong Kong University Of Science And Technology | Slide-free histological imaging method and system |
KR102302333B1 (ko) * | 2019-11-05 | 2021-09-16 | 주식회사 토모큐브 | 3차원 굴절률 영상과 딥러닝을 활용한 비표지 방식의 3차원 분자 영상 생성 방법 및 장치 |
EP3839884A1 (en) * | 2019-12-20 | 2021-06-23 | Fundación Tecnalia Research & Innovation | Method, system and computer program product for image transformation |
US20230394716A1 (en) * | 2022-06-06 | 2023-12-07 | Pictor Labs, Inc. | Method of generating inference-based virtually stained image annotations |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014506122A (ja) | 2010-12-07 | 2014-03-13 | ライフ テクノロジーズ コーポレーション | バーチャル細胞染色システム |
JP2017519985A (ja) | 2014-06-16 | 2017-07-20 | シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレーテッドSiemens Healthcare Diagnostics Inc. | 血液学用デジタルホログラフィ顕微鏡検査データ分析 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101197768A (zh) * | 2006-12-04 | 2008-06-11 | 西门子公司 | 提高移动自组网安全性的方法和节点设备 |
WO2012019118A1 (en) * | 2010-08-05 | 2012-02-09 | Abbott Point Of Care, Inc. | Method and apparatus for automated whole blood sample analyses from microscopy images |
US10032064B2 (en) * | 2012-08-21 | 2018-07-24 | Cambridge Research & Instrumentation, Inc. | Visualization and measurement of cell compartments |
US9786050B2 (en) | 2013-03-15 | 2017-10-10 | The Board Of Trustees Of The University Of Illinois | Stain-free histopathology by chemical imaging |
US9135682B2 (en) * | 2013-03-15 | 2015-09-15 | Indian Institute Of Technology Delhi | Image recovery from single shot digital hologram |
JP6437184B2 (ja) * | 2013-06-05 | 2018-12-12 | 学校法人関西医科大学 | 舌上皮幹細胞の単離方法 |
US10614287B2 (en) * | 2014-06-16 | 2020-04-07 | Siemens Healthcare Diagnostics Inc. | Virtual staining of cells in digital holographic microscopy images using general adversarial networks |
AU2015373423A1 (en) * | 2014-12-30 | 2017-05-18 | Ventana Medical Systems, Inc. | Systems and methods for co-expression analysis in immunoscore computation |
-
2018
- 2018-09-06 JP JP2020537129A patent/JP2020534627A/ja active Pending
- 2018-09-06 CN CN201880060868.7A patent/CN111095360B/zh active Active
- 2018-09-06 WO PCT/US2018/049702 patent/WO2019060141A1/en unknown
- 2018-09-06 US US16/617,597 patent/US11169484B2/en active Active
- 2018-09-06 EP EP18780265.7A patent/EP3685355A1/en active Pending
-
2022
- 2022-05-23 JP JP2022083740A patent/JP7439165B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014506122A (ja) | 2010-12-07 | 2014-03-13 | ライフ テクノロジーズ コーポレーション | バーチャル細胞染色システム |
JP2017519985A (ja) | 2014-06-16 | 2017-07-20 | シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレーテッドSiemens Healthcare Diagnostics Inc. | 血液学用デジタルホログラフィ顕微鏡検査データ分析 |
Non-Patent Citations (2)
Title |
---|
Anton Osokin et al.,"GANs forBiological Image Synthesis",Computer Vision and Pattern Recognition,米国,Cornell University,2017年09月12日,pp.1-14,<https://arxiv.org/abs/1708.04692> |
Liang Han et al.,"TransferringMicroscopy Image Modalities with Conditional Generative AdversarialNetworks",2017 IEEEConference on Computer Vision and Pattern Recognition Workshops (CVPRW),米国,IEEE,2017年07月21日,pp.851-859 |
Also Published As
Publication number | Publication date |
---|---|
CN111095360A (zh) | 2020-05-01 |
JP2022107671A (ja) | 2022-07-22 |
US20200183327A1 (en) | 2020-06-11 |
WO2019060141A1 (en) | 2019-03-28 |
CN111095360B (zh) | 2023-09-05 |
EP3685355A1 (en) | 2020-07-29 |
US11169484B2 (en) | 2021-11-09 |
JP2020534627A (ja) | 2020-11-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7439165B2 (ja) | 敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色 | |
US10614287B2 (en) | Virtual staining of cells in digital holographic microscopy images using general adversarial networks | |
Dunn et al. | DeepSynth: Three-dimensional nuclear segmentation of biological images using neural networks trained with synthetic data | |
JP7072049B2 (ja) | コンボリューショナル・ニューラルを用いた、ホログラフィック顕微鏡で取得した細胞画像の品質の識別方法 | |
US10671833B2 (en) | Analyzing digital holographic microscopy data for hematology applications | |
Lipkova et al. | Deep learning-enabled assessment of cardiac allograft rejection from endomyocardial biopsies | |
Cruz-Roa et al. | Automatic detection of invasive ductal carcinoma in whole slide images with convolutional neural networks | |
Ding et al. | Augmentation and evaluation of training data for deep learning | |
WO2020142461A1 (en) | Translation of images of stained biological material | |
JP2022506135A (ja) | ヒトの寄与を組み込む反復的深層学習フローを使用した顕微鏡画像内の3d細胞間構造のセグメント化 | |
JP2021064115A (ja) | 細胞画像解析方法及び細胞解析装置 | |
CN108140239A (zh) | 用于组织辨识的方法和装置 | |
Kromp et al. | Deep Learning architectures for generalized immunofluorescence based nuclear image segmentation | |
RU2732895C1 (ru) | Метод для выделения и классификации типов клеток крови с помощью глубоких сверточных нейронных сетей | |
Holt et al. | Separating morphologically similar pollen types using basic shape features from digital images: A preliminary study1 | |
Wu et al. | A state-of-the-art survey of U-Net in microscopic image analysis: From simple usage to structure mortification | |
McCoy et al. | 3D Reconstruction and Analysis of Thin Subcellular Neuronal Structures using Focused-Ion Beam Scanning Electron Microscopy Data | |
Kim et al. | Analyzing 3D cell data of optical diffraction tomography through volume rendering | |
Hasija | Artificial Intelligence and Digital Pathology Synergy: For detailed, accurate and predictive analysis of WSIs | |
Asaf et al. | Dual contrastive learning based image-to-image translation of unstained skin tissue into virtually stained H&E images | |
Morales et al. | Three-dimensional analysis of spiny dendrites using straightening and unrolling transforms | |
Dmitrieff et al. | ConfocalGN: a minimalistic confocal image simulator | |
Han | Fluorescence Microscopy Images Segmentation and Analysis Using Machine Learning | |
Dey et al. | Digital image analysis and virtual microscopy in pathology | |
Röhrl et al. | Towards Interpretable Classification of Leukocytes based on Deep Learning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220608 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220608 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230808 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231102 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240116 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240214 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7439165 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |