JP7439165B2 - 敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色 - Google Patents

敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色 Download PDF

Info

Publication number
JP7439165B2
JP7439165B2 JP2022083740A JP2022083740A JP7439165B2 JP 7439165 B2 JP7439165 B2 JP 7439165B2 JP 2022083740 A JP2022083740 A JP 2022083740A JP 2022083740 A JP2022083740 A JP 2022083740A JP 7439165 B2 JP7439165 B2 JP 7439165B2
Authority
JP
Japan
Prior art keywords
image
dhm
images
cells
stained
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022083740A
Other languages
English (en)
Other versions
JP2022107671A (ja
Inventor
ヨウズリー エル-ゼイリー,ノア
ラパカ,サイキラン
ケイメン,アリ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Siemens Healthcare Diagnostics Inc
Original Assignee
Siemens Healthcare Diagnostics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens Healthcare Diagnostics Inc filed Critical Siemens Healthcare Diagnostics Inc
Publication of JP2022107671A publication Critical patent/JP2022107671A/ja
Application granted granted Critical
Publication of JP7439165B2 publication Critical patent/JP7439165B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/001Texturing; Colouring; Generation of texture or colour
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N15/14Optical investigation techniques, e.g. flow cytometry
    • G01N15/1429Signal processing
    • G01N15/1433Signal processing using image recognition
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N15/14Optical investigation techniques, e.g. flow cytometry
    • G01N15/1434Optical arrangements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers
    • G01N33/50Chemical analysis of biological material, e.g. blood, urine; Testing involving biospecific ligand binding methods; Immunological testing
    • G01N33/5005Chemical analysis of biological material, e.g. blood, urine; Testing involving biospecific ligand binding methods; Immunological testing involving human or animal cells
    • G01N33/5094Chemical analysis of biological material, e.g. blood, urine; Testing involving biospecific ligand binding methods; Immunological testing involving human or animal cells for blood cell populations
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/0005Adaptation of holography to specific applications
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/0443Digital holography, i.e. recording holograms with digital recording means
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/08Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
    • G03H1/0866Digital holographic imaging, i.e. synthesizing holobjects from holograms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133Distances to prototypes
    • G06F18/24143Distances to neighbourhood prototypes, e.g. restricted Coulomb energy networks [RCEN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/776Validation; Performance evaluation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/698Matching; Classification
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N2015/1006Investigating individual particles for cytology
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N15/14Optical investigation techniques, e.g. flow cytometry
    • G01N15/1434Optical arrangements
    • G01N2015/1454Optical arrangements using phase shift or interference, e.g. for improving contrast
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers
    • G01N33/483Physical analysis of biological material
    • G01N33/487Physical analysis of biological material of liquid biological material
    • G01N33/49Blood
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/0005Adaptation of holography to specific applications
    • G03H2001/005Adaptation of holography to specific applications in microscopy, e.g. digital holographic microscope [DHM]
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/0443Digital holography, i.e. recording holograms with digital recording means
    • G03H2001/0445Off-axis recording arrangement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Chemical & Material Sciences (AREA)
  • Molecular Biology (AREA)
  • Immunology (AREA)
  • Biomedical Technology (AREA)
  • Analytical Chemistry (AREA)
  • Pathology (AREA)
  • Biochemistry (AREA)
  • Quality & Reliability (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Data Mining & Analysis (AREA)
  • Dispersion Chemistry (AREA)
  • Cell Biology (AREA)
  • Hematology (AREA)
  • Urology & Nephrology (AREA)
  • Biotechnology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Medicinal Chemistry (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Microbiology (AREA)
  • Evolutionary Biology (AREA)
  • Tropical Medicine & Parasitology (AREA)
  • Food Science & Technology (AREA)
  • Ecology (AREA)
  • General Engineering & Computer Science (AREA)

Description

[関連出願の相互参照]
本出願は、2017年9月19日に出願された米国仮出願第62/560,272号に基づく優先権を主張するものであり、上記仮特許出願の開示を参照により本明細書に援用する。
本発明は、概して、細胞の仮想(ヴァーチャル)染色に関する。より詳細には、本発明は、サイクル一貫性(cycle consistency)を有する敵対的生成ネットワーク(GAN:general adversarial network)を用いたホログラフィック顕微鏡画像中の細胞の仮想染色に関するものである。
干渉位相顕微鏡としても知られる(デジタル)ホログラフィック顕微鏡(DHM:digital holographic microscopy)は、透明な検体のナノメートル以下の光学的厚さ変化を定量的に追跡する能力を有する画像化(イメージング)技術である。検体に関する強度(振幅)情報のみを取得する従来のデジタル顕微鏡とは異なり、DHMは、位相と強度の両方を取得する。ホログラムとして取得された位相情報は、コンピュータアルゴリズムを用いて検体に関する拡張された形態情報(深さや表面特性など)を再構成するために使用できる。現代のDHM実装は、高速走査/データ収集速度、低ノイズ、高解像度および無標識(ラベル・フリー)サンプル収集などの幾つかの更なる長所を提供できる。
軸外(オフ・アクシス)DHMシステムは、オブジェクト(物体)と基準ビームとの間の小さな角度によって、全視野にわたって変調正弦縞(フリンジ)パターンが存在するホログラムを作成する。換言すると、センサ表面に衝突する平面波は、センサの位置で破壊的かつ建設的に干渉することにより、正弦パターンを形成する。さらに、図1に示すように、光学的フーリエ平面(またはフーリエ平面への共役面)の位置にあるピンホールを用いて、オブジェクト・ビーム10から基準ビーム20を生成し、それによって物体空間シグネチャを消去し、均一な平面波を提供して、干渉またはホログラム画像を作成するが、それらは、保存されたり、ユーザに表示されてもよい。
DHMは、血液サンプル内の複数の細胞を画像化するために、血液学的に用いられる。ビームが撮像される細胞を通過すると、細胞特性に基づいて屈折する。これらの屈折変動は、核内の光学的厚さの変化として、DHMを通して捉えることができる。白血球細胞(WBC:white blood cell)では、即ち、好塩基球、好酸球、リンパ球、単球、好中球では、核と膜が異なった性質を有しており、細胞の種類に基づいて細胞構成成分の構造が異なる。このように、DHM画像(イメージ)の出現は、細胞種類によって変化する。
したがって、DHM画像は、血液サンプル中の異なる種類のWBCを区別するために使用できる。WBCの細胞種類の区別と計数(カウント)は、全血球計算(CBC:Complete Blood Count)の重要な一面である。なぜなら、幾つかの理由の中でもとりわけ、複数の細胞種類の所定の比率における不均衡は、様々な自己免疫疾患を示すことができるので、様々な患者診断が可能になるからである。したがって、臨床医は、患者診断中に血液サンプルの取得されたDHM画像を使用することがある。
従来、自動計数および分析用のレーザー光のフローサイトメーターなどの自動化機械に対して血液サンプルを提供することによって、様々なWBC種類の計数を得ることがある。自動化された結果を確認または補うため、または自動化機械がない場合には、臨床医によって、赤血球についても顕微鏡を用いて手動で検査されて、様々な種類のWBCが計数されて観察(レビュー)されることがある。様々なWBC種類を視覚的に区別するため、検査前に末梢血塗抹などで血液サンプルを色素で染色することがある。血液フィルムは、スライドグラスの一端に血液を滴下し、スプレッダーを用いてスライドグラスの長さにわたって血液サンプルを単層中に分散させることで作られる。例えば図2に示されるように、様々な種類のWBCの核の各々は、異なるように染色を吸収するため、臨床医が血液塗抹サンプル中の様々なWBCを計数して、検査することが可能になる。
手動による血液染色プロセスには、時間と労力がかかる。各サンプルは血液塗抹標本のプロセスを経る必要があり、臨床医は顕微鏡を用いてサンプルを観察して、様々な細胞の種類を探して、計数しなければならない。このプロセスは非効率的である。DHM画像は、従来の顕微鏡検査に代わるものであり、血液サンプルを検査して、サンプル中の様々な種類の白血球を計測するために使用することができる。しかしながら、DHM画像は、図3の例のDHM画像に示されているように、臨床医によって各細胞の種類が容易に識別されて、分類されるためには、十分な詳細または解像度を有していないことがある。
本開示は、DHM画像から仮想的に染色画像を生成する細胞可視化システムを提供することなどによって、手動染色処理を行う必要性をなくすか、補うことによって、従来技術に関する上記問題および他の問題を克服することを目的とする。さらに、本開示は、仮想的に染色された細胞の各々を識別して、提示する仕方を決定する際に、自動化システムを訓練することが困難であったDHM画像化(イメージング)の問題を克服することを目的とする。特に、各プロセスの性質上、同一細胞に対して染色画像と対応するDHM画像を得ることは不可能であるため、仮想染色は単に実際の染色の再現とはならない。本開示は、さらに、細胞可視化システムを訓練することに関するこの問題を克服することを目的とする。
本開示の実施形態の一態様では、仮想的に染色されたホログラフィック顕微鏡(DHM)画像を生成するための、コンピュータを用いて実施される方法に関する。この方法は、敵対的生成ネットワーク(GAN)用いて訓練された画像変換アルゴリズムを取得することと、DHM装置を用いて取得された1つ以上の細胞の描出を含むDHM画像を受け取ることとを含む。この方法はさらに、画像変換アルゴリズムを用いてDHM画像を処理することによって、DHM画像を仮想的に染色することを含む。仮想的に染色されたDHM画像は、対応する実際に染色された細胞の外観を模倣するために、1つ以上の細胞のデジタル(電子)的な着色を含む。
本開示の実施形態の別の態様では、仮想的に染色されたホログラフィック顕微鏡(DHM)画像を生成するための、別のコンピュータを用いて実施される方法に関する。この方法は、個々の白血球細胞のDHM画像を含む第1のトレーニングデータセットと、実際に染色された白血球細胞の画像を含む第2のトレーニングデータセットとを受け取ることを含み、ここで、第1のトレーニングデータセット中の画像は、第2のトレーニングデータセット中の画像とは対(ペア)になっていない。また、この方法は、第1のトレーニングデータセットおよび第2のトレーニングデータセットに対して、敵対的生成ネットワークを使用する学習プロセスを適用して、画像変換アルゴリズムを生成することを含む。この方法はさらに、DHM画像を受信することと、DHM画像に対して画像変換アルゴリズムを適用して仮想的に染色されたDHM画像を生成することと、グラフィカル・ユーザ・インターフェース(GUI:graphical user interface)を介して仮想的に染色されたDHM画像を表示することとを含む。
本開示の実施形態のさらに別の態様では、仮想的に染色されたホログラフィック顕微鏡(DHM)画像を生成するように構成された細胞可視化システムに関する。細胞可視化システムは、1つ以上の細胞のDHM画像を受け取って、DHM画像に対して画像変換アルゴリズムを適用して、仮想的に染色されたDHM画像を生成するように構成された仮想染色装置を含み、ここで、画像変換アルゴリズムは、対になっていないデータセットを用いて生成される。
本発明の更なる特徴及び利点は、添付図面を参照して説明される、以下の好適な実施形態の詳細な説明から明らかになる。
本発明の上記態様及び他の態様は、添付図面を参照して、以下の詳細な説明から最もよく理解される。好適な実施形態は、本発明を例示するために図示されているが、本発明は開示されている特定の装置(デバイス、機器など)に限定されないことを理解されたい。図面には以下の図が含まれている。
図1は、オブジェクト・ビームから作られた基準ビームを用いた、軸外ホログラフィック顕微鏡システムの例示的な模式図である。 図2は、染色された白血球細胞の画像の例を示した図である。 図3は、白血球細胞のDHM画像の例を示した図である。 図4Aは、開示された実施形態に従う、例示的な細胞可視化システムを示した図である。 図4Bは、開示された実施形態に従う、例示的な細胞可視化システムを示した図である。 図5は、5A~5Fに分けて、実際に染色された白血球細胞と、仮想的に染色された白血球細胞との画像の比較を示した図である。 図6は、本発明の実施形態を実装できる例示的なコンピューティング環境を示した図である。
本開示には、DHM画像の仮想的(ヴァーチャル)な染色を用いて、細胞可視化を実行する装置、システム、および関連する方法の実施形態が記載されている。いくつかの実施形態において、細胞可視化システムは、血液サンプルを受け取ることと、白血球細胞を含むサンプル中の細胞のDHM画像を生成することとを含むように構成される。細胞可視化システムは、各白血球細胞の種類を識別して、関連するDHM画像を修正することによって、各白血球細胞を色分けするが、手動の染色および顕微鏡を用いて細胞がどのように見えるのかを模倣するように構成できる。
開示された実施形態では、細胞可視化システムは、対になっていないデータサンプルを用いる深層学習(ディープ・ラーニング)アルゴリズムを用いて、白血球細胞を分類するように訓練できる。例えば、サイクル一貫性を有する敵対的生成ネットワークを用いて、細胞可視化システムを訓練して、DHM画像中の様々な種類の白血球細胞を識別する仕方と、白血球細胞があたかも同等の手動プロセスで染色されたかのように見えるように、画像を色分けする仕方とを学習できる。
図4Aは、開示された実施形態に係る細胞可視化システム100の模式図である。細胞可視化システム100は、DHM装置110、訓練(トレーニング)装置120、および仮想染色(仮想的に染色する)装置130を含む。細胞可視化システム100は、従来の顕微鏡(例えば、図2の画像)を用いて手動で染色されて観察される細胞の外観を模倣するように、仮想的に染色されたDHM画像を生成するように構成されている。図4Bは、仮想的に染色されたDHM画像を生成するために、細胞可視化システム100に渡されるデータの例示的な流れをさらに示している。
DHM装置110、訓練装置120、および仮想染色装置130の各々は、別体であってもよいし、複合装置内に選択的に組み合わされていてもよい。DHM装置110は、受け取った血液サンプルに基づいてDHM画像を生成するように構成されたDHM構成要素を含むが、これは当技術分野で公知である。訓練装置120は、DHM画像および訓練データを受信して、訓練処理を実行して、訓練された画像変換処理を行うように構成されている。仮想染色装置130は、DHM装置110から受信したDHM画像を仮想的に染色された画像に変換するために、訓練された画像変換処理を受け取って、実行するように構成されている。仮想染色装置130は、ユーザ(例えば、臨床医)が観察(レビュー)できるように、仮想的に染色された画像を表示するようにさらに構成することができる。
図4Bは、細胞可視化システム100における例示的なプロセスフローの模式図である。DHM装置110は、図3に示すような細胞のDHM画像を生成するように構成されている。例えば、DHM装置110は、血液サンプルを受け取って、サンプルが流れている間に軸外DHMを用いて周期的データを取得できる。取得されたデータは、赤血球細胞および白血球細胞を含む多くの細胞を包むDHM画像に変換され得る。多くの細胞を含むこれらの取得画像は、一般に生のDHM画像と呼ばれている。いくつかの実施形態では、DHM装置110は、この生データを1つ以上の細胞の別々の画像に分離するために、生のDHM画像を前処理するように構成されている。例えば、DHM装置110は、生のDHM画像内の明るいスポットを探し出して、スポットのどの部分が細胞であるのかを識別するために、明るいスポットのどの部分が、大きさまたは他の分類項目の閾値を超えているかを識別する分析を実行できる。分類された細胞の各々は、別々のDHM画像に変換されてもよく、その結果、図3に示したような別々の細胞画像が得られてもよい。
訓練装置120は、1つ以上のI/O装置(DHM装置に接続されたI/O装置を含む)を介して、画像(イメージ)データを受け取るように構成されている。また、訓練装置120は、I/O装置を介してDHM画像(すなわち、染色されたサンプルの画像)ではない、他の画像の形態で訓練(トレーニング)データを受け取るように構成されている。訓練データは、図2に示したような実際に染色された細胞の画像を取得するように構成された装置などの様々な画像化(イメージング)装置によって提供され得る。訓練データはまた、訓練中に使用される画像に関する識別情報を含むことができる。例えば、各画像は、画像中の細胞または細胞の種類(例えば、好塩基球、好酸球、リンパ球、単球、または好中球)を識別する情報を含み得る。
仮想染色装置130は、訓練(トレーニング)装置120と通信して、訓練装置120から訓練プロセスを受け取るように構成されている。例示的な実施形態では、訓練プロセスは、敵対的生成ネットワークを用いてDHM画像を仮想的に染色されたDHM画像に変換する、訓練装置120によって生成されるアルゴリズムである。この変換について、本明細書では、DHM画像を「仮想的に染色する」と参照しているが、少なくともいくつかの実施形態では、対応する手動で染色された細胞の外観を模倣するように、1つまたは複数の細胞をデジタル(電子)的に着色することを含んでいる。仮想染色装置130は、関連するプロセスを実行するように構成されていて、仮想的に染色されたDHM画像を生成して、臨床医に対して観察可能なように表示する。仮想染色装置130は、仮想的に染色されたDHM画像に関するデータを生成および保存して、画像フィルタリング(フィルタ化)、細胞の計数(カウント)、細胞分析などのさらなるプロセスで分析および/または使用可能なようにさらに構成されていてもよい。
訓練装置120は、敵対的生成ネットワークを用いて、仮想染色装置130を訓練して、DHM画像を、仮想的に染色されたDHM画像に変換するように構成されている。例示的な実施形態では、訓練装置120は、訓練アルゴリズムとして、敵対的生成ネットワークを用いる。一般に、敵対的生成ネットワークは、教師なし学習(unsupervised learning)の範畴に属する、人工知能アルゴリズムの一種である。最も単純な形式では、敵対的生成ネットワークは、2つのニューラルネットワークの組合せである。そのうち1方のネットワークは、訓練データセット(例えば、物理的に染色されたサンプルの画像)から例(例えば、仮想的に染色された画像)を生成する仕方を学習し、もう1方のネットワークは、生成された例と訓練データセットとを区別するように試みる。それら2つについて識別ネットワークが一貫して区別できないように、実際のデータと収束する例が生成ネットワークによって生成されるとき、訓練プロセスは成功する。
敵対的生成ネットワークでは、訓練の例は、2つのデータセットXとYから構成される。データセットは対(ペア)になっていない。つまり、XとYには、訓練画像の1対1の対応がないことを意味する。生成ネットワークは、Xデータセット中の任意の画像xに対して、画像y’を生成する仕方を学習する。より具体的には、生成ネットワークは、画像y’(y’=G(x))を生成する写像(マッピング)G「X→Y」を学習する。yとy’とを識別するように訓練された識別ネットワークによって、yとy’とが識別できないように、生成ネットワークは、写像G「X→Y」を訓練する。換言すれば、識別ネットワークが、生成ネットワーク(y’)によって生成される例と、実際の例(y)として供給される例とを、信頼できるように分類できなくなるまで、生成ネットワークは例を生成し続ける。
写像G「X→Y」の成功には、多くの様々な画像の特徴が関与し得る。そのため、目的に合う画像y’を生成することなく、識別ネットワークを騙すことに写像が成功することが起こり得る。例えば、生成ネットワークは、観察者にとって重要な態様や特性においては類似していなくても、y中の画像に類似した例y’を生成することが起こり得る。
この問題に対処するため、訓練装置120は、訓練プロセス中のサイクルの一貫性を確保するのに役立つように、さらなる制約を用いるように構成できる。サイクルの一貫性とは、写像G「X→Y」によって生成される例y’が、逆写像(インバース・マッピング)F「Y→X」によってxに戻されるように写像できる制約をいう。換言すれば、例xがGを用いてy’に写像される場合、逆写像Fは、y’を元のxと同一の画像x’に変換できる。より具体的には、xとx’とを識別するように構成された識別ネットワークによって、xとは識別することができない画像x’(x’=F(y))を生成するように、訓練装置120は、逆写像F「Y→X」を学習する。
識別ネットワークによって識別不可能な画像を生成するように各写像F、Gを訓練するため、訓練装置120は、以下の数式に従って、各写像に敵対的損失(adversarial loss)を適用する。
これら数式では、Gは、領域Y中の画像に類似した画像G(x)を生成する写像である。Dは、生成された例G(x)と領域Y中の実際の例yとを識別することを目的とした識別装置(ディスクリミネータ)である。Fは、領域X中の画像に類似した画像F(y)を生成する逆写像である。Dは、生成された例F(y)と領域X中の実際の例xとを区別することを目的とした識別装置である。
これら敵対的損失に加えて、訓練装置120は、各写像G、Fに対してサイクル一貫性損失を用いるように構成されている。サイクル一貫性損失は、生成された画像が、元の画像を再現するために逆写像に入力できるという意味で、サイクルが一貫している範囲内で、許容可能に成功する写像を維持することを目的とする。サイクル一貫性損失は、以下の数式を用いて表すことができる。
敵対的損失とサイクル一貫性損失とを1つに統合すると、次の数式で全目的を表すことができる。ここで、λは、サイクル一貫性損失の相対的寄与を制御する。
次の数式を解くために、全損失を用いることができ、その結果、あるデータセットから別のデータセットまで画像を変換するアルゴリズムGおよびFが生じる。
開示された実施形態に合わせて、訓練装置120は、DHM画像を仮想的に染色されたDHM画像に変換するアルゴリズムを生成するために、サイクル一貫性を有する敵対的生成ネットワークを用いるように構成されている。Xデータセットは白血球細胞のDHM画像を含み、Yデータセットは染色された白血球細胞の画像を含む。写像F「X→Y」は、画像をX領域からY領域中の画像へ変換することを表し、写像G「Y→X」は、画像をY領域からX領域中の画像へ変換することを表す。
細胞可視化システム100では、DHM装置110は、DHM画像を生成して、画像を訓練装置120に提供するように構成されている。いくつかの実施形態では、DHM画像は、1つ以上の白血球細胞の取り出された画像を含むことができる。DHM画像は、訓練データのX領域画像を形成する。図3に示す画像は、これらのDHM画像の例である。訓練装置120はまた、染色された白血球細胞を含む画像を受け取る。これらの染色された白血球細胞の画像は、訓練データのY領域画像を形成する。図2に示す画像は、これら染色された細胞画像の例である。好ましくは、これら双方の画像の組は、選択された画像の大きさに合わせて取り出されて、大きさが決定される。
訓練装置120は、これらのXおよびY領域の画像を、本明細書に記載のサイクル一貫性プロセスを有する敵対的生成ネットワークへの入力として使用する。その結果、訓練装置は、アルゴリズムFおよびGを生成し、この際、Fは、DHM画像を仮想的に染色されたDHM画像に変換し、そしてGは、染色された細胞画像を仮想的なDHM画像(DHM画像に現れるように染色されていない細胞の画像)に変換する。Fアルゴリズムは、仮想染色装置130に送信されるか、または提供される。仮想染色装置130は、DHM画像を仮想的に染色されたDHM画像に変換するために、Fアルゴリズムを用いて仮想染色プロセスを実行するように構成されている。
仮想的に染色されたDHM画像は、個々の細胞の画像または複数の細胞の画像(例えば、手動の染色プロセス中に顕微鏡を用いて観察可能なもの)を含むことができる。複数の細胞の仮想的に染色された画像を生成するために、DHM装置110および/または仮想染色装置130は、より大きな細胞のDHM画像を個々の細胞に分割化(セグメント化)して、個々の細胞の仮想染色後に分割化画像を再結合するように構成されていてもよい。
図5A、5B、および5Cは、染色された細胞画像の例を示しており、図5D、5E、および5Fは、それぞれ対応する仮想的に染色されたDHM画像の例を示している。図5Aは、手動で染色されたリンパ球の例を示し、図5Dは、仮想的に染色されたリンパ球の例を示している。図5Bは、手動で染色された好酸球の例を示し、図5Eは、仮想的に染色された好酸球の例を示している。図5Cは、手動で染色された好中球の一例を示し、図5Fは、仮想的に染色された好中球の一例を示している。各染色部分の周囲の境界線が画像に追加され、類似性が強調されている。図5A~5Cの染色細胞は、図5D~5Fの同じ細胞と一致(対応)していないことを理解されたい。図5A~5Fは、仮想的に染色されたDHM画像と手動で染色された細胞との類似性を示すように、視覚的な比較を示している。
使用時には、細胞可視化システム100は、臨床医が観察(レビュー)できるように、血液サンプルを仮想的に染色されたDHM画像に変換するように構成されている。このようにして、DHM画像は、手動で染色した細胞を観察する仕方と同様の仕方で、臨床医によって観察することができる。しかしながら、仮想染色プロセスに要する時間と労力ははるかに少なくて済み、臨床医による観察のために染色細胞を得る方法をより効率的に提供する。
いくつかの実施形態において、細胞可視化システム100(例えば、仮想染色装置130)は、仮想的に染色されたDHM画像を観察して、細胞種類(例えば、好塩基球、好酸球、リンパ球、単球または好中球)を分類するように構成された細胞分類装置を含むことができる。細胞分類装置は、仮想的に染色されたDHM画像中の仮想染色の表示に基づいて細胞種類を決定するように訓練されていてもよい。細胞種類は、仮想的に染色されたDHM画像と共にデータとして保存することができる。細胞可視化システム100は、細胞計数(カウント)及び比率(割合)などの有用な情報を生成するために、識別データを用いることができる。さらに、細胞可視化システム100は、識別データを用いて、優先順位付けされて、臨床医に対して観察用に提示して、異常(なもの)を識別できるようにしてもよい。さらに、細胞可視化システム100は、識別データを用いて、仮想的に染色されたDHM画像をフィルタして、臨床医が所定の画像を選択的に観察できるようにしてもよい。
細胞可視化システム100によって生成された仮想的に染色された画像データは、様々な有利な仕方で使用できる。例えば、仮想染色は、画像を観察または取得するために顕微鏡を必要としないので、仮想的に染色されたDHM画像は、任意のフォーマットおよび任意の場所で、臨床医に対して簡便に提供することができる。例えば、仮想的に染色されたDHM画像は、ある場所で生成されると、世界中の任意の場所で臨床医に対して提供され得る。臨床医は、画像を見るために顕微鏡を使用しなくてもよく、代わりに、パーソナルコンピュータまたはモバイルデバイス(携帯装置)を含む任意の装置(プラットフォーム)で画像を観察することができる。例えば、仮想染色プロセスの出力をクラウドベースのシステムに対してアップロードしてもよく、その画像は、臨床医によって、検査室に拘束されることなく、モバイル(携帯)アプリケーションを用いた任意の場所および任意の時間で、速やかに観察することができる。
仮想染色はまた、他の用途のためにデータを作成することが容易なため、有益である。手動染色と、これらの細胞の画像の取得に要する時間と労力が大きいため、染色された細胞画像の大きなデータセットを得ることは困難である。DHM画像の仮想的な染色の場合、染色された細胞画像をより短時間で、はるかに大きなスケールで生成できるので、この問題に対処することができる。より大きなデータセットが利用可能となることで、他のプロセスでも有益となる。
例えば、仮想的に染色されたDHM画像は、様々な種類の白血球細胞の分類を改善するために使用することができる。染色された白血球細胞の画像を分類するために、深層学習アルゴリズムが使用される。深層学習法は、より多くのデータが用いられる場合、より良い分類結果を提供できることが知られている。仮想染色は、染色された細胞画像を生成するために使用できるが、それは、訓練データセットを増大させて、分類アルゴリズムを訓練するためにより大きなデータセットを提供するために使用できる。
同様に、染色された細胞画像を生成するのに要する速さは、多くの領域で有益である。例えば、仮想染色は、マラリアなどの疾患を検出するためのより効率的なパイプラインを形成できる。この例では、医師がマラリアを疑い、1回の検査で陰性となった場合には、患者は、2日間にわたって8時間毎に、血液塗抹検査(厚層塗抹と薄層塗抹)を繰り返す必要がある。このプロセスは手動染色プロセスの場合には時間と労力を要する。この代わりに、DHM画像の仮想染色が用いられる場合には、マラリア原虫を識別するために、より効率的なパイプラインを活用できる。
さらに、本開示内容は、ここで開示された実施形態に限定されないことを理解されたい。例えば、他の実施形態では、白血球細胞とは異なるものの仮想的に染色されたDHM画像を生成するために実施されてもよい。例えば、視覚化システムは、手動染色に基づいて関連する他の画像データセットに従って訓練できる類似の訓練装置を含むことができる。例えば、データセットは、様々な種類のバクテリアを識別するように染色されたバクテリア細胞を含むことができ、それによって可視化システムが、臨床医に対して観察用に仮想的に染色されたバクテリア画像を生成できるようにしてもよい。
図6は、本発明の実施形態を実装できる例示的なコンピューティング環境(演算システム)600を示している。例えば、このコンピューティング環境600は、DHM装置110による画像取得プロセス、訓練装置120によって実施される訓練プロセス、または仮想染色装置130によって実施される画像変換プロセスを実行するように、1つ以上の構成要素を実行させるように構成できる。コンピューティング環境600は、コンピュータシステム610を含むが、これは本発明の実施形態を実装できるコンピューティングシステムの1例である。コンピュータシステム610及びコンピューティング環境600などのコンピュータ(計算機)及びコンピューティング環境は、当業者には既知であるため、ここでは簡潔に記載する。
図6に示されているように、コンピュータシステム610は、コンピュータシステム610内で情報を通信するために、バス621又は他の通信機構等の通信機構を備えることができる。コンピュータシステム610はさらに、情報を処理するため、バス621と連結された1つ以上の処理装置(プロセッサ)620を含む。プロセッサ620は、1つ以上の中央処理装置(CPU)、画像処理装置(GPU)、又は当該技術分野において既知の任意の他のプロセッサを含むことができる。
コンピュータシステム610は、システムメモリ(記憶装置)630を備えるが、これは、バス621に連結されて、情報及びプロセッサ620によって実行される命令(指示)を記憶できる。システムメモリ630は、リードオンリーメモリ(ROM)631および/またはランダムアクセスメモリ(RAM)632などの、揮発性および/または不揮発性メモリの形態のコンピュータ可読記憶メディア(媒体)を含むことができる。システムメモリのRAM632は、他のダイナミック記憶デバイス(複数の場合もある)(例えば、ダイナミックRAM、スタティックRAM、及びシンクロナスDRAM)を含むことができる。システムメモリROM631は、他のスタティック記憶デバイス(複数の場合もある)(例えば、プログラマブルROM、消去可能PROM、及び電気的消去可能PROM)を含むことができる。加えて、システムメモリ630は、プロセッサ620による命令の実行中の一時変数又は他の中間情報を記憶することができる。基本的な入出力システム(BIOS)633は、コンピュータシステム610内の構成要素間で情報を転送するのに役立つ基本的なルーチンを含むが、例えば、起動中に、ROM631に保存されてもよい。RAM632は、プロセッサ620によって即座にアクセス可能及び/又は現在動作中のデータ、及び/又はプログラムモジュールを含むことができる。システムメモリ630は、例えば、オペレーティングシステム(OS)634、アプリケーションプログラム635、他のプログラムモジュール636、及びプログラムデータ637を更に備えることができる。
コンピュータシステム610は、ハードディスク641及び取り外し可能(リムーバブル)メディアドライブ642(例えば、フロッピーディスクドライブ、コンパクトディスクドライブ、テープドライブ、及び/又はソリッドステートドライブ)等の、情報及び命令を記憶する1つ以上の記憶デバイスを制御するために、バス621に連結されるディスク制御装置640を備える。適切なデバイスインターフェース(例えば、スモール・コンピュータ・システム・インターフェース(SCSI)、集積デバイス・エレクトロニクス(IDE)、ユニバーサル・シリアル・バス(USB)、又はファイヤーワイヤー)を用いて、記憶デバイスをコンピュータシステム610に追加することができる。
コンピュータシステム610はまた、コンピュータのユーザに対して情報を表示するための、陰極線管(CRT)または液晶ディスプレイ(LCD)などのディスプレイ(表示装置)666を制御するために、バス621に接続されたディスプレイ制御装置(コントローラ)665を備えることができる。コンピュータシステムは、入力インターフェース660と、コンピュータのユーザと相互作用して、プロセッサ620に情報を提供するための、キーボード662およびポインティング・デバイス(指示装置)661などの1つまたは複数の入力装置を備える。ポインティング・デバイス661は、例えば、プロセッサ620に対して方向情報及びコマンド(命令)選択を伝達して、ディスプレイ666上のカーソルの移動を制御することを行うマウス、トラックボール、又はポインティング・スティックなどでもよい。ディスプレイ666は、ポインティング・デバイス661による方向情報及びコマンド選択の伝達を補う又はそれに取って代わる入力を与えるための、タッチスクリーン・インターフェースを提供してもよい。
システムメモリ630等のメモリ内に含まれる1つ以上の命令の1つ以上のシーケンスをプロセッサ620が実行するのに応じて、コンピュータシステム610は、本発明の実施形態の処理ステップの一部又は全部を実行することができる。そのような命令は、ハードディスク641又はリムーバブル・メディアドライブ642等の別のコンピュータ読み取り可能な媒体から、システムメモリ630内に読み込むことができる。ハードディスク641は、本発明の実施形態によって用いられる1つ以上のデータストア及びデータファイルを含むことができる。データストアのコンテンツ(内容)及びデータファイルは、安全性向上のために暗号化することができる。プロセッサ620は、システムメモリ630に含まれる命令の1つ以上のシーケンスを実行するために、多重処理(マルチプロセス)構成で使用されてもよい。代替的な実施形態では、ソフトウェア命令の代わりに又はソフトウェア命令と組み合わせて、ハードワイヤード(有線)回路を用いてもよい。したがって、本発明に係る実施形態は、ハードウェア回路及びソフトウェアの任意の特定の組合せに限定されない。
上述のように、コンピュータシステム610は、本発明の実施形態に従ってプログラムされた命令を保持して、データ構造、表(テーブル)、記録(レコード)、または本明細書に記載されている他のデータを含む、少なくとも1つのコンピュータ読み取り可能な媒体またはメモリを含むことができる。本明細書で用いられる「コンピュータ読み取り可能な媒体」という用語は、プロセッサ620に対して命令を与えて、実行させることに関与する任意の媒体(メディア)を指す。コンピュータ読み取り可能な媒体は、不揮発性媒体、揮発性媒体、および伝送媒体を含む多くの形態を有し得るが、これらに限定されない。不揮発性媒体の非限定的な例として、ハードディスク641又はリムーバブル・メディアドライブ642等の、光ディスク、ソリッドステートドライブ、磁気ディスク、及び光磁気ディスクが挙げられる。揮発性媒体の非限定的な例として、システムメモリ630等のダイナミックメモリが挙げられる。伝送媒体の非限定的な例として、バス621を構築する配線(ワイヤ)を含む、同軸ケーブル、銅線、及び光ファイバーが挙げられる。伝送媒体は、電波データ通信中及び赤外線データ通信中に生じるような音波又は光波の形態をとることもできる。
コンピューティング環境600は、さらに、遠隔(リモート)コンピュータ680などの1つ以上の遠隔コンピュータと論理的に接続されたネットワーク環境で動作するコンピュータシステム610を含むことができる。遠隔コンピュータ680は、(ラップトップ型またはデスクトップ型)パーソナルコンピュータ(PC)、モバイルデバイス(携帯装置)、サーバ、ルータ、ネットワークPC、ピアデバイスまたは他の一般的なネットワークノードでもよく、典型的には、コンピュータシステム610に関して上述した構成要素の多くまたは全てを含む。ネットワーク環境内で用いられる場合、コンピュータシステム610は、インターネット等のネットワーク671を介した通信を確立するためのモデム672を備えることができる。モデム672は、ユーザネットワーク・インターフェース670を介して、または別の適切なメカニズムを介して、バス621に接続されてもよい。
ネットワーク671は、当技術分野で一般的に知られている任意のネットワークまたはシステムでもよく、例えば、インターネット、イントラネット、ローカルエリア(機関内)ネットワーク(LAN)、ワイドエリア(広域)ネットワーク(WAN)、大都市圏ネットワーク(MAN)、直接接続または一連の接続、携帯電話ネットワーク、またはコンピュータシステム610と他のコンピュータ(例えば、リモートコンピュータ680)との間の通信を可能にする他のネットワークまたは媒体を含む。ネットワーク671は、有線、無線、又はそれらの組合せとすることができる。有線接続は、イーサネット(登録商標)、USB(Universal Serial Bus)、RJ-11または当技術分野で一般的に公知の他の有線接続を用いて実施することができる。無線接続は、Wi-Fi、WiMAX、およびブルートゥース(登録商標)、赤外線、携帯電話ネットワーク、通信衛星、または当技術分野で一般的に公知の任意の他の無線接続方法を用いて実施することができる。さらに、複数のネットワークが、単独又は互いに通信して、ネットワーク671における通信を可能にしてもよい。
本明細書に記載の技術に対するコンピューティング環境600の1つの適用例として、ネットワーク構成要素、イメージ・プロセッシング(画像処理)プロセッサ、およびGUIを含む、DHMデータの分析用の例示的なシステムを考慮する。ネットワーク構成要素は、ネットワークインターフェース670または同様の機能を提供するハードウエアとソフトウエアの任意の組合せを含むことができる。ネットワーク構成要素は、DHM画像を取得するため、DHMシステムと通信するように構成されている。したがって、いくつかの実施形態では、ネットワーク構成要素は、DHMシステムと通信するための特別なインターフェースを含むことができる。画像処理プロセッサは、コンピューティングシステム(例えば、コンピュータシステム610)に内蔵されており、ネットワーク構成要素を介して受信された単一の物体画像(オブジェクト・イメージ)または画像の時系列のいずれかから参照画像(レファレンス・イメージ)を抽出して、物体画像からフリンジ(縞)パターンが乱れている領域を抽出して、それらの領域を画像の他の部分からの既存のパターンに置き換えることを可能にする命令で構成されている。画像処理プロセッサは、この処理(例えば、分割化、領域の充填化など)を支援するために、本明細書中に記載のように追加の機能を含むことができる。次に、GUIは、ユーザが観察を行えるように、ディスプレイ(例えば、ディスプレイ666)上に表示可能にしてもよい。
本開示の実施形態は、ハードウェア及びソフトウェアの任意の組合せによって実装することができる。さらに、本開示の実施形態は、例えば、コンピュータ可読の非一時的媒体(メディア)を有する製品(例えば、1つ以上のコンピュータプログラム製品)に含めることができる。この媒体は、例えば、本開示の実施形態のメカニズムを提供して、可能にするためのコンピュータ可読プログラムコードを内蔵している。この製品は、コンピュータシステムの一部として含まれてもよく、又は、別体として販売されてもよい。
本明細書には様々な態様および実施形態が開示されているが、当業者には、他の態様および実施形態が明らかになるだろう。本明細書に開示された様々な態様および実施形態は、例示を目的としており、本発明の内容をそれらに限定することを意図したものではない。本発明の真の範囲および技術的思想は、添付された特許請求の範囲に示されている。
本明細書中で使用される実行可能なアプリケーションは、オペレーティングシステム、コンテキストデータ収集システムまたは他の情報処理システムの機能などの、所定の機能を、例えばユーザコマンドまたは入力に応じて実施するように、プロセッサを条件付けるコードまたは機械可読(読み取り可能な)命令又は指示を含む。実行可能手順は、コードまたは機械可読命令、サブルーチン、または1つ以上の特定のプロセスを実行するための実行可能なアプリケーションのコードまたは一部の他の別個のセクションのセグメントである。これらのプロセスは、入力データおよび/またはパラメータを受信すること、受信された入力データについて操作を実行すること、および/または受信された入力パラメータに応じて機能を実行すること、および結果として得られる出力データおよび/またはパラメータを提供することを含み得る。
本明細書中で使用されるグラフィカル・ユーザ・インターフェース(GUI)は、1つまたは複数の表示画像を含むが、これらは、表示処理装置(ディスプレイ・プロセッサ)によって生成されて、処理装置(プロセッサ)または他の装置とのユーザ相互作用および関連するデータ収集および処理機能を可能にする。GUIはまた、携帯装置(モバイルデバイス)上のモバイルアプリケーションなどの、実行可能手順または実行可能アプリケーションを含む。実行可能手順または実行可能アプリケーションは、GUI表示画像を表す信号を生成するために、表示処理装置を条件付ける。これらの信号は、ユーザに対して視認可能にするために画像を表示する表示(ディスプレイ)装置に供給される。このプロセッサは、実行可能手順または実行可能アプリケーションの制御下で、入力装置から受信した信号に応じてGUI表示画像を操作する。このようにして、ユーザは、入力装置を用いて表示画像と相互作用することができるので、ユーザがプロセッサまたは他の装置と相互作用することを可能にする。
本明細書に記載の機能及びプロセスのステップは、自動的に、又はユーザコマンドに応じて全体的若しくは部分的に実施することができる。自動的に実施される行為(ステップを含む)は、ユーザがその行為を直接的に始動させなくても、1つ以上の実行可能命令又はデバイス操作に応じて実施される。
図示したシステム及びプロセスは排他的でない。本発明の原理に従って同一の目的を達成するため、他のシステム、プロセス及びメニューを導出することは可能である。本発明は特定の実施形態を参照して説明されたが、本明細書で記載した実施形態及び変更実施形態は例示を目的にしていることを理解されたい。当業者であれば、現在の構成に対して、本発明の範囲から逸脱することなく、変更を行うことができるだろう。本明細書で記載のように、様々なシステム、サブシステム、エージェント、マネージャー及びプロセスは、ハードウェア構成要素、ソフトウェア構成要素、及び/又はそれらの組合せを使用して実装され得る。特許請求の範囲の請求項の構成要素はいずれも、「means for(ミーンズ・プラス・ファンクション)」を用いて明示的に記載されていない限り、米国特許法第112条(f)の規定に基づいて解釈されるべきではない。
100 細胞可視化システム
110 DHM(ホログラフィック顕微鏡)装置
120 訓練(トレーニング)装置
130 仮想染色(仮想的に染色する)装置
600 コンピューティング環境(演算システム)
610 コンピュータシステム
620 処理装置(プロセッサ)
630 システムメモリ(記憶装置)
666 ディスプレイ(表示装置)

Claims (20)

  1. 仮想的に染色されたホログラフィック顕微鏡(DHM)画像を生成するための、コンピュータを用いて行われる方法であって、
    DHM装置を用いて取得された、1つ以上の細胞の描出を含むDHM画像を受信するステップと、
    前記DHM画像を複数の分割化画像に分割化するステップであって、各前記分割化画像は、個々の細胞を描出するステップと、
    画像変換アルゴリズムを用いて各前記分割化画像を処理することによって、前記複数の分割化画像を仮想的に染色するステップであって、この際、前記画像変換アルゴリズムは、対になっていないデータセットを用いて生成されるステップと、
    仮想染色後の前記複数の分割化画像を再結合して、仮想的に染色されたDHM画像を生成するステップと、
    を含み、
    前記仮想的に染色されたDHM画像は、対応する実際に染色された細胞の外観を模倣するように、1つ以上の細胞をデジタル的に着色することを含み、かつ
    前記DHM画像は、白血球細胞の核の周囲を含む、
    方法。
  2. 前記画像変換アルゴリズムは、敵対的生成ネットワークを用いて訓練される、請求項1に記載のコンピュータを用いて行われる方法。
  3. 前記画像変換アルゴリズムは、敵対的損失およびサイクル一貫性損失を用いて訓練される、請求項2に記載のコンピュータを用いて行われる方法。
  4. 前記DHM画像を仮想的に染色する際、白血球細胞の着色が、各白血球細胞の種類に基づいて行われることを含む、請求項1に記載のコンピュータを用いて行われる方法。
  5. 前記白血球細胞の着色に基づいて、サンプル内の白血球細胞の種類の比率を定量化することをさらに含む、請求項4に記載のコンピュータを用いて行われる方法。
  6. 1つ以上の細胞がバクテリア細胞を含み、前記バクテリア細胞の着色が、バクテリアの種類に基づいて行われる、請求項1に記載のコンピュータを用いて行われる方法。
  7. グラフィカル・ユーザ・インターフェースを介して前記仮想的に染色されたDHM画像を表示することをさらに含む、請求項1に記載のコンピュータを用いて行われる方法。
  8. 仮想的に染色されたホログラフィック顕微鏡(DHM)画像を生成するための、コンピュータを用いて行われる方法であって、
    各白血球細胞のDHM画像を含む第1の訓練データセットと、実際に染色された白血球細胞の画像を含む第2の訓練データセットとを受け取るステップであって、前記第1の訓練データセットの画像は、前記第2の訓練データセットの画像と対になっていないステップと、
    敵対的生成ネットワークを用いる学習プロセスを前記第1の訓練データセットと前記第2の訓練データセットに対して適用して、画像変換アルゴリズムを生成するステップと、
    DHM画像を複数の分割化画像に分割化するステップであって、各前記分割化画像は、個々の細胞を描出するステップと、
    前記画像変換アルゴリズムを前記複数の分割化画像に対して適用して、仮想的に染色された複数の分割化画像を生成するステップと、
    仮想染色後の前記複数の分割化画像を再結合して、仮想的に染色されたDHM画像を生成するステップと、
    グラフィカル・ユーザ・インターフェースを介して前記仮想的に染色されたDHM画像を表示するステップと、を含み、かつ
    前記DHM画像は、白血球細胞の核の周囲を含む、
    方法。
  9. 前記敵対的生成ネットワークは、複数の仮想的に染色されたDHM画像を生成するように構成された第1の生成ネットワークと、前記複数の仮想的に染色されたDHM画像と前記第2の訓練データセット内の画像とを識別するように構成された第1の識別ネットワークとを含む、請求項8に記載のコンピュータを用いて行われる方法。
  10. 前記敵対的生成ネットワークは、複数の仮想的なDHM画像を生成するように構成された第2の生成ネットワークと、前記複数の仮想的なDHM画像と前記第1の訓練データセット内の画像とを識別するように構成された第2の識別ネットワークとをさらに含む、請求項9に記載のコンピュータを用いて行われる方法。
  11. 前記学習プロセスは、敵対的損失およびサイクル一貫性損失を用いて、前記画像変換アルゴリズムを生成する、請求項8に記載のコンピュータを用いて行われる方法。
  12. 前記グラフィカル・ユーザ・インターフェースは、携帯装置で実行される携帯アプリケーションである、請求項8に記載のコンピュータを用いて行われる方法。
  13. 仮想的に染色されたホログラフィック顕微鏡(DHM)画像を生成するように構成された細胞可視化システムであって、装置を含み、
    前記装置は、
    1つ以上の白血球細胞のDHM画像を受け取
    前記DHM画像を複数の分割化画像に分割化し、この際、各前記分割化画像は、個々の細胞を描出し、
    前記複数の分割化画像に対して画像変換アルゴリズムを適用して、仮想的に染色された複数の分割化画像を生成し、
    仮想染色後の前記複数の分割化画像を再結合して、仮想的に染色されたDHM画像を生成する、ように構成され、
    前記画像変換アルゴリズムは、対になっていないデータセットを用いて生成され、かつ
    前記DHM画像は、白血球細胞の核の周囲を含む、
    細胞可視化システム。
  14. 前記対になっていないデータセットを用いて前記画像変換アルゴリズムを生成するように構成された訓練装置をさらに含み、
    前記対になっていないデータセットは、各細胞のDHM画像を含む第1の訓練データセットと、実際に染色された細胞の画像を含む第2の訓練データセットとを含む、請求項13に記載の細胞可視化システム。
  15. 前記訓練装置が、敵対的生成ネットワークを用いて前記画像変換アルゴリズムを生成するように構成されている、請求項14に記載の細胞可視化システム。
  16. 前記敵対的生成ネットワークは、
    仮想的に染色されたDHM画像の例を生成するように構成された第1の生成ネットワークと、前記仮想的に染色されたDHM画像の例と前記第2の訓練データセット中の画像とを識別するように構成された第1の識別ネットワークと、
    仮想的なDHM画像の例を生成するように構成された第2の生成ネットワークと、前記仮想的なDHM画像の例と前記第1の訓練データセット中の画像とを識別するように構成された第2の識別ネットワークと、
    を含む、請求項15に記載の細胞可視化システム。
  17. 前記訓練装置に対して前記第1の訓練データセットを提供するように構成されたDHM装置をさらに備える、請求項14に記載の細胞可視化システム。
  18. 前記DHM装置が、1つ以上の細胞のDHM画像を仮想染色装置に対して提供するようにさらに構成されている、請求項17に記載の細胞可視化システム。
  19. 前記1つ以上の細胞は、バクテリア細胞を含み、前記バクテリア細胞の着色が、バクテリアの種類に基づいて行われる、請求項13に記載の細胞可視化システム。
  20. 前記仮想的に染色されたDHM画像は、対応する実際に染色された細胞の外観を模倣するように、1つ以上の細胞をデジタル的に着色することを含む、請求項13に記載の細胞可視化システム。
JP2022083740A 2017-09-19 2022-05-23 敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色 Active JP7439165B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201762560272P 2017-09-19 2017-09-19
US62/560,272 2017-09-19
JP2020537129A JP2020534627A (ja) 2017-09-19 2018-09-06 敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色
PCT/US2018/049702 WO2019060141A1 (en) 2017-09-19 2018-09-06 VIRTUAL COLORING OF CELLS IN DIGITAL HOLOGRAPHIC MICROSCOPY IMAGES USING GENERATIVE ANTAGONIST NETWORKS

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2020537129A Division JP2020534627A (ja) 2017-09-19 2018-09-06 敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色

Publications (2)

Publication Number Publication Date
JP2022107671A JP2022107671A (ja) 2022-07-22
JP7439165B2 true JP7439165B2 (ja) 2024-02-27

Family

ID=63720759

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020537129A Pending JP2020534627A (ja) 2017-09-19 2018-09-06 敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色
JP2022083740A Active JP7439165B2 (ja) 2017-09-19 2022-05-23 敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2020537129A Pending JP2020534627A (ja) 2017-09-19 2018-09-06 敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色

Country Status (5)

Country Link
US (1) US11169484B2 (ja)
EP (1) EP3685355A1 (ja)
JP (2) JP2020534627A (ja)
CN (1) CN111095360B (ja)
WO (1) WO2019060141A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3752979A1 (en) * 2018-02-12 2020-12-23 F. Hoffmann-La Roche AG Transformation of digital pathology images
CN110648309B (zh) * 2019-08-12 2024-05-28 平安科技(深圳)有限公司 基于条件生成对抗网络合成红细胞图像的方法及相关设备
WO2021052063A1 (en) * 2019-09-19 2021-03-25 The Hong Kong University Of Science And Technology Slide-free histological imaging method and system
KR102302333B1 (ko) * 2019-11-05 2021-09-16 주식회사 토모큐브 3차원 굴절률 영상과 딥러닝을 활용한 비표지 방식의 3차원 분자 영상 생성 방법 및 장치
EP3839884A1 (en) * 2019-12-20 2021-06-23 Fundación Tecnalia Research & Innovation Method, system and computer program product for image transformation
US20230394716A1 (en) * 2022-06-06 2023-12-07 Pictor Labs, Inc. Method of generating inference-based virtually stained image annotations

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014506122A (ja) 2010-12-07 2014-03-13 ライフ テクノロジーズ コーポレーション バーチャル細胞染色システム
JP2017519985A (ja) 2014-06-16 2017-07-20 シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレーテッドSiemens Healthcare Diagnostics Inc. 血液学用デジタルホログラフィ顕微鏡検査データ分析

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101197768A (zh) * 2006-12-04 2008-06-11 西门子公司 提高移动自组网安全性的方法和节点设备
WO2012019118A1 (en) * 2010-08-05 2012-02-09 Abbott Point Of Care, Inc. Method and apparatus for automated whole blood sample analyses from microscopy images
US10032064B2 (en) * 2012-08-21 2018-07-24 Cambridge Research & Instrumentation, Inc. Visualization and measurement of cell compartments
US9786050B2 (en) 2013-03-15 2017-10-10 The Board Of Trustees Of The University Of Illinois Stain-free histopathology by chemical imaging
US9135682B2 (en) * 2013-03-15 2015-09-15 Indian Institute Of Technology Delhi Image recovery from single shot digital hologram
JP6437184B2 (ja) * 2013-06-05 2018-12-12 学校法人関西医科大学 舌上皮幹細胞の単離方法
US10614287B2 (en) * 2014-06-16 2020-04-07 Siemens Healthcare Diagnostics Inc. Virtual staining of cells in digital holographic microscopy images using general adversarial networks
AU2015373423A1 (en) * 2014-12-30 2017-05-18 Ventana Medical Systems, Inc. Systems and methods for co-expression analysis in immunoscore computation

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014506122A (ja) 2010-12-07 2014-03-13 ライフ テクノロジーズ コーポレーション バーチャル細胞染色システム
JP2017519985A (ja) 2014-06-16 2017-07-20 シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレーテッドSiemens Healthcare Diagnostics Inc. 血液学用デジタルホログラフィ顕微鏡検査データ分析

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Anton Osokin et al.,"GANs forBiological Image Synthesis",Computer Vision and Pattern Recognition,米国,Cornell University,2017年09月12日,pp.1-14,<https://arxiv.org/abs/1708.04692>
Liang Han et al.,"TransferringMicroscopy Image Modalities with Conditional Generative AdversarialNetworks",2017 IEEEConference on Computer Vision and Pattern Recognition Workshops (CVPRW),米国,IEEE,2017年07月21日,pp.851-859

Also Published As

Publication number Publication date
CN111095360A (zh) 2020-05-01
JP2022107671A (ja) 2022-07-22
US20200183327A1 (en) 2020-06-11
WO2019060141A1 (en) 2019-03-28
CN111095360B (zh) 2023-09-05
EP3685355A1 (en) 2020-07-29
US11169484B2 (en) 2021-11-09
JP2020534627A (ja) 2020-11-26

Similar Documents

Publication Publication Date Title
JP7439165B2 (ja) 敵対的生成ネットワークを用いたホログラフィック顕微鏡画像中の細胞の仮想染色
US10614287B2 (en) Virtual staining of cells in digital holographic microscopy images using general adversarial networks
Dunn et al. DeepSynth: Three-dimensional nuclear segmentation of biological images using neural networks trained with synthetic data
JP7072049B2 (ja) コンボリューショナル・ニューラルを用いた、ホログラフィック顕微鏡で取得した細胞画像の品質の識別方法
US10671833B2 (en) Analyzing digital holographic microscopy data for hematology applications
Lipkova et al. Deep learning-enabled assessment of cardiac allograft rejection from endomyocardial biopsies
Cruz-Roa et al. Automatic detection of invasive ductal carcinoma in whole slide images with convolutional neural networks
Ding et al. Augmentation and evaluation of training data for deep learning
WO2020142461A1 (en) Translation of images of stained biological material
JP2022506135A (ja) ヒトの寄与を組み込む反復的深層学習フローを使用した顕微鏡画像内の3d細胞間構造のセグメント化
JP2021064115A (ja) 細胞画像解析方法及び細胞解析装置
CN108140239A (zh) 用于组织辨识的方法和装置
Kromp et al. Deep Learning architectures for generalized immunofluorescence based nuclear image segmentation
RU2732895C1 (ru) Метод для выделения и классификации типов клеток крови с помощью глубоких сверточных нейронных сетей
Holt et al. Separating morphologically similar pollen types using basic shape features from digital images: A preliminary study1
Wu et al. A state-of-the-art survey of U-Net in microscopic image analysis: From simple usage to structure mortification
McCoy et al. 3D Reconstruction and Analysis of Thin Subcellular Neuronal Structures using Focused-Ion Beam Scanning Electron Microscopy Data
Kim et al. Analyzing 3D cell data of optical diffraction tomography through volume rendering
Hasija Artificial Intelligence and Digital Pathology Synergy: For detailed, accurate and predictive analysis of WSIs
Asaf et al. Dual contrastive learning based image-to-image translation of unstained skin tissue into virtually stained H&E images
Morales et al. Three-dimensional analysis of spiny dendrites using straightening and unrolling transforms
Dmitrieff et al. ConfocalGN: a minimalistic confocal image simulator
Han Fluorescence Microscopy Images Segmentation and Analysis Using Machine Learning
Dey et al. Digital image analysis and virtual microscopy in pathology
Röhrl et al. Towards Interpretable Classification of Leukocytes based on Deep Learning

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220608

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220608

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240116

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240214

R150 Certificate of patent or registration of utility model

Ref document number: 7439165

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150