JP2021522499A - 粒子分析器画像の画像制御および表示のための方法および装置 - Google Patents

粒子分析器画像の画像制御および表示のための方法および装置 Download PDF

Info

Publication number
JP2021522499A
JP2021522499A JP2020560219A JP2020560219A JP2021522499A JP 2021522499 A JP2021522499 A JP 2021522499A JP 2020560219 A JP2020560219 A JP 2020560219A JP 2020560219 A JP2020560219 A JP 2020560219A JP 2021522499 A JP2021522499 A JP 2021522499A
Authority
JP
Japan
Prior art keywords
image
user
cell
parameters
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020560219A
Other languages
English (en)
Other versions
JP7377215B2 (ja
Inventor
ヴォルフ,クリストファー,ジェイ.
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Becton Dickinson and Co
Original Assignee
Becton Dickinson and Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Becton Dickinson and Co filed Critical Becton Dickinson and Co
Publication of JP2021522499A publication Critical patent/JP2021522499A/ja
Application granted granted Critical
Publication of JP7377215B2 publication Critical patent/JP7377215B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/005General purpose rendering architectures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N15/14Optical investigation techniques, e.g. flow cytometry
    • G01N15/1429Signal processing
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N15/14Optical investigation techniques, e.g. flow cytometry
    • G01N15/1468Optical investigation techniques, e.g. flow cytometry with spatial resolution of the texture or inner structure of the particle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/04Texture mapping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N2015/1006Investigating individual particles for cytology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Dispersion Chemistry (AREA)
  • Computer Graphics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Signal Processing (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Image Processing (AREA)

Abstract

いくつかの実施形態は、単一細胞画像、例えば、高周波多重励起(FIRE)画像などの高周波多重細胞画像を処理するための装置を含む。画像は、フローおよび走査サイトメータ、またはレーザ走査顕微鏡などの粒子分析器からとすることができる。いくつかの実施形態は、FIRE画像などの高周波多重細胞画像を表示するための装置を含む。

Description

本開示は、関連するフローサイトメトリデータとともに画像を表示することに関し、詳細には、画像および対応するフローデータの効率的な閲覧および操作を可能にするユーザインターフェースに関する。
フローおよび走査サイトメータなどの粒子分析器は、光散乱および蛍光などの光学パラメータに基づいて粒子の特徴付けを可能にする分析ツールである。フローサイトメータにおいて、例えば、流体懸濁液中の分子、分析物結合ビーズ、または個々の細胞などの粒子は、典型的には、1つ以上のレーザから励起光に粒子が曝露される検出領域によって通過され、粒子の光散乱および蛍光特性が測定される。
粒子またはその成分は、典型的には、検出を容易にするために蛍光色素で標識される。多数の異なる粒子または成分は、スペクトル的に異なる蛍光染料を使用して、異なる粒子または成分を標識することによって、同時に検出され得る。いくつかの実装形態では、測定される散乱パラメータの各々について1つ、および検出される異なる染料の各々について1つの、多数の光検出器が分析器に含まれる。取得されたデータは、光散乱パラメータおよび蛍光放射の各々について測定された信号を含む。
蛍光撮像のための1つの技術は、高周波多重励起レーザ顕微鏡を使用する。そのような技術は、サンプルの光学的質問を可能にする。画像を生成するための例示的な装置および方法は、米国特許第9,423,353号に記載されており、その全体が参照により本明細書に組み込まれる。
本開示のシステム、方法、およびデバイスは、各々、いくつかの革新的な態様を有し、これらのうちのいずれも、本明細書に開示される望ましい属性に単独で責任を負うものではない。
いくつかの実施形態は、高周波多重細胞画像を処理するための装置を含む。装置は、粒子分析器から入力データストリームを受信するように構成されている入力インターフェースを含み、入力データストリームは、複数の生細胞画像を含み、各生細胞画像は、複数の画素および生細胞画像内の各画素に対応する少なくとも2つ以上のデータチャネルを含む。装置は、ハードウェアパイプライン、フラグメントシェーダ、およびフィルタカーネルを含むプロセッサをさらに含む。フラグメントシェーダは、生細胞画像データの少なくとも2つ以上のデータチャネルを並列処理して、処理された細胞画像を生成するようにハードウェアパイプラインを構成する1つ以上のプログラムを含む。フィルタカーネルは、各生細胞画像内の各画素をフィルタリングするように構成されている。プロセッサは、フィルタリング後に、閾値処理、彩度、またはガンマ補正のうちの少なくとも1つを実行して、画素の処理された画素値を生成するように構成されている。いくつかの実施形態では、粒子分析器は、レーザ走査顕微鏡または他の蛍光撮像装置をさらに含む。いくつかの実施形態では、装置は、粒子分析器および/またはレーザ走査顕微鏡を含む。
いくつかの実施形態の装置では、フィルタカーネルは、各画素の2つ以上のチャネルうちの1つのチャネルに適用するためのテクスチャを含む。いくつかの実施形態の装置では、フラグメントシェーダの1つ以上のプログラムは、入力データストリームの各チャネルを表示バッファに書き込むようにさらに構成されている。いくつかの実施形態の装置では、生成された生細胞画像または処理された細胞画像のうちの1つ以上を修正するために、ユーザが1つ以上のパラメータを変更することを可能にする制御パネルをユーザに提示するように構成されているユーザインターフェースデバイスをさらに含む。いくつかの実施形態の装置では、プロセッサは、ディスプレイデバイス上に表示するために、処理された細胞画像をレンダリングするようにさらに構成されている。いくつかの実施形態では、装置は、処理された細胞画像を表示するように構成されているディスプレイデバイスをさらに含む。いくつかの実施形態の装置において、プロセッサは、複数の生細胞画像または処理された細胞画像を含む画像壁を生成することと、画像壁の生細胞画像または処理された細胞画像のうちの1つ以上を修正するために、ユーザが1つ以上のパラメータを変更することを可能にするための制御パネルを生成することと、ディスプレイデバイス上で同時表示するために画像壁および制御パネルをレンダリングすることと、ユーザが1つ以上のパラメータを変更している間に、制御パネルを介してユーザによって変更された1つ以上のパラメータを識別することと、ユーザが1つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された1つ以上の識別されたパラメータに従って、画像壁の細胞画像の各々を修正することと、ディスプレイデバイス上に表示するために画像壁の修正された細胞画像をレンダリングすることとを行うようにさらに構成されており、ディスプレイデバイスは、ユーザが1つ以上のパラメータに変更を加えているときに、画像壁の修正された細胞画像を表示するようにさらに構成されている。いくつかの実施形態の装置では、プロセッサは、ハードウェアパイプラインを含むグラフィックス処理ユニット(GPU)を含むか、またはそれからなる。いくつかの実施形態の装置では、プロセッサは、中央処理ユニット(CPU)およびグラフィックス処理ユニット(GPU)を含み、GPUは、ハードウェアパイプラインを含む。
いくつかの実施形態は、高周波多重細胞画像を表示するための装置を含む。装置は、粒子分析器から入力データストリームを受信するように構成されている入力インターフェースを含み、入力データストリームは、生細胞画像を含み、各生細胞画像は、複数の画素および生細胞画像内の各画素に対応する少なくとも2つ以上のデータチャネルを含む。装置は、プロセッサをさらに含む。プロセッサは、複数の生細胞画像を含む画像壁を生成することと、画像壁の生細胞画像のうちの1つ以上を修正するために、ユーザが1つ以上のパラメータを変更することを可能にするための制御パネルを生成することとを行うように構成されている。装置は、ディスプレイデバイス上に表示するためにレンダリングされた1つ以上のオブジェクトを表示するように構成されているディスプレイデバイスをさらに含む。プロセッサは、ディスプレイデバイス上で同時表示するために画像壁および制御パネルをレンダリングすることと、ユーザが1つ以上のパラメータを変更している間に、制御パネルを介してユーザによって変更された1つ以上のパラメータを識別することと、ユーザが1つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された1つ以上の識別されたパラメータに従って、画像壁の生細胞画像の各々を修正することと、ディスプレイデバイス上に表示するために画像壁の修正された細胞画像をレンダリングすることとを行うようにさらに構成されている。ディスプレイデバイスは、ユーザが1つ以上のパラメータに変更を加えているときに、画像壁の修正された細胞画像を表示するようにさらに構成されている。
いくつかの実施形態の装置では、ミリ秒単位の間隔は、1ミリ秒、2ミリ秒、3ミリ秒、5ミリ秒、または10ミリ秒以下の間隔を含む。いくつかの実施形態の装置では、プロセッサは、ハードウェアパイプラインを含む。いくつかの実施形態の装置では、プロセッサは、ハードウェアパイプライン上にフラグメントシェーダプログラムを実装するように構成され、フラグメントシェーダプログラムは、処理された画素および/または細胞画像を生成するために、入力データストリームの画素の2つ以上のチャネルの並列処理のためにハードウェアパイプラインを構成する1つ以上のプログラムを含む。いくつかの実施形態の装置では、並列処理は、各画素をフィルタカーネルでフィルタリングすることと、フィルタリング後に、閾値、彩度、またはガンマ補正のうちの少なくとも1つを実行して、画素の処理された画素値を生成することとを含む。いくつかの実施形態の装置では、プロセッサは、ハードウェアパイプラインを含むグラフィックス処理ユニット(GPU)を含み、GPUは、フラグメントシェーダプログラムを実装するように構成されている。いくつかの実施形態の装置では、プロセッサは、ハードウェアパイプラインを含むグラフィックス処理ユニット(GPU)と、フラグメントシェーダプログラムを実装するように構成されている中央処理ユニット(CPU)とを含む。いくつかの実施形態の装置では、入力データストリームは、蛍光撮像、ラマン分光法、またはそれらの組み合わせから取得されるデータを含む。いくつかの実施形態の装置では、細胞画像は、高周波多重励起(FIRE)画像を使用した蛍光撮像を含む。
いくつかの実施形態は、高周波多重細胞画像を表示する方法を含む。方法は、粒子分析器から得られた入力データストリームを受信することを含む。入力データストリームは、複数の生細胞画像を含み、各生細胞画像は、複数の画素および生細胞画像内の各画素に対応する少なくとも2つ以上のデータチャネルを含む。方法は、入力データストリームの画素の2つ以上のチャネルを並列処理するための1つ以上のプログラムを含むフラグメントシェーダを実装することをさらに含み、並列処理は、画素をフィルタカーネルでフィルタリングし、その後、閾値処理、彩度、およびガンマ補正のうちの少なくとも1つを実行して、画素の処理された画素値を生成することを含む。方法は、入力データストリームの画素の2つ以上のチャネルの並列処理に基づいて、処理された細胞画像を生成することも含む。
いくつかの実施形態の方法では、フィルタカーネルは、画素の2つ以上のチャネルのうちの1つ以上のチャネルに適用するためのテクスチャを含む。いくつかの実施形態の方法では、並列処理は、平滑化演算を含む畳み込み演算においてフィルタカーネルを適用することを含む。いくつかの実施形態の方法では、フラグメントシェーダの1つ以上のプログラムを実装することは、入力データストリームの各チャネルを表示バッファに書き込むことを含む。いくつかの実施形態では、方法は、生成された処理された画素および/または細胞画像のうちの1つ以上を修正するために、ユーザが1つ以上のパラメータを変更することを可能にする制御パネルをユーザに提示することをさらに含む。いくつかの実施形態では、方法は、処理された画素および/または細胞画像をディスプレイデバイス上に表示するためにレンダリングすることをさらに含む。いくつかの実施形態では、方法は、複数の生細胞画像を含む画像壁を生成することと、画像壁の生の処理された細胞画像のうちの1つ以上を修正するために、ユーザが1つ以上のパラメータを変更することを可能にするための制御パネルを生成することと、ディスプレイデバイス上で同時表示するために画像壁および制御パネルをレンダリングすることと、ユーザが1つ以上のパラメータを変更している間に、制御パネルを介してユーザによって変更された1つ以上のパラメータを識別することと、ユーザが1つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された1つ以上の識別されたパラメータに従って、画像壁の細胞画像の各々を修正することと、ディスプレイデバイス上に表示するために画像壁の修正された細胞画像をレンダリングすることと、ユーザが1つ以上のパラメータに変更を加えているときに、画像壁の修正された細胞画像を表示することとをさらに含む。いくつかの実施形態では、方法は、修正された細胞画像に加えて、サイトメトリデータ(例えば、フローサイトメトリデータ)を表示することをさらに含み、サイトメトリデータは、修正された細胞画像の細胞に1対1に対応する単一の細胞データを含む。いくつかの実施形態では、方法は、修正された細胞画像に加えて、サイトメトリデータ(例えば、フローサイトメトリデータ)を表示することをさらに含み、サイトメトリデータは、細胞の集団のデータを含む。
いくつかの実施形態は、高周波多重細胞画像を表示する方法を含む。方法は、粒子分析器から得られた入力データストリームを受信することを含み、入力データストリームは、複数の生細胞画像を含む。各生細胞画像は、複数の画素および生細胞画像内の各画素に対応する少なくとも2つ以上のデータチャネルを含む。方法は、複数の生細胞画像を含む画像壁を生成することと、画像壁の生細胞画像のうちの1つ以上を修正するために、ユーザが1つ以上のパラメータを変更することを可能にするための制御パネルを生成することとをさらに含む。方法はまた、ディスプレイデバイス上で同時表示するために画像壁および制御パネルをレンダリングすることと、ユーザが1つ以上のパラメータを変更している間に、制御パネルを介してユーザによって変更された1つ以上のパラメータを識別することとを含む。方法は、加えて、ユーザが1つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された1つ以上の識別されたパラメータに従って、画像壁の生細胞画像の各々を修正することと、ディスプレイデバイス上に表示するために画像壁の修正された細胞画像をレンダリングすることと、ユーザが1つ以上のパラメータに変更を加えているときに、画像壁の修正された細胞画像を表示することとを含む。いくつかの実施形態では、方法は、修正された細胞画像に加えて、サイトメトリデータ(例えば、フローサイトメトリデータ)を表示することをさらに含み、サイトメトリデータは、修正された細胞画像の細胞に1対1に対応する単一の細胞データを含む。いくつかの実施形態では、方法は、修正された細胞画像に加えて、サイトメトリデータ(例えば、フローサイトメトリデータ)を表示することをさらに含み、サイトメトリデータは、細胞の集団のデータを含む。
いくつかの実施形態の方法では、ミリ秒単位の間隔は、1ミリ秒、2ミリ秒、3ミリ秒、5ミリ秒、または10ミリ秒以下の間隔を含む。いくつかの実施形態の方法では、入力データストリームは、蛍光撮像、ラマン分光法、またはそれらの組み合わせから取得されるデータを含む。いくつかの実施形態の方法では、生細胞画像は、高周波多重励起(FIRE)画像またはラマン分光撮像画像を使用した蛍光撮像を含む。
追加の実施形態は、非一時的コンピュータ可読記憶媒体の記憶に関する。
様々な発明的特徴の実施形態は、以下の図面を参照して説明される。図面全体を通して、参照番号は、参照要素間の対応を示すために再使用され得る。図面は、本明細書に記載される例示的な実施形態を例示するために提供され、開示の範囲を限定することを意図しない。
ユーザが対応する粒子分析データとともに細胞画像を捕捉し、閲覧し、操作することを可能にする、本明細書に記載の細胞画像システム(システム)の一実施形態を例示する。 図1のシステムに示されるコンピューティングデバイスのうちの1つの例示的な構成要素を示すブロック図である。 図1の粒子分析器からのデータストリームに基づいて生成された細胞画像とインターフェースするユーザコンピューティングデバイスによって表示される例示的な画像調整ポップアップユーザインターフェース(UI)である。 粒子分析器によって取得され、ユーザコンピューティングデバイス上で閲覧され、様々なレベルの操作が適用される様々な細胞画像の画像壁の例示的な図である。 粒子分析器によって取得され、ユーザコンピューティングデバイス上で閲覧され、様々なレベルの操作が適用される様々な細胞画像の画像壁の例示的な図である。 粒子分析器によって取得され、ユーザコンピューティングデバイス上で閲覧され、様々なレベルの操作が適用される様々な細胞画像の画像壁の例示的な図である。 図1のユーザコンピューティングデバイスによって閲覧される、細胞画像を表示し、操作するための構成要素のシステムのシステム図を示す。 図1のユーザコンピューティングデバイス上に表示するための入力データストリームに基づいて細胞画像の画素を生成するフロー図を示す。
様々な実施形態では、粒子分析器および同様のデバイスは、細胞画像(例えば、高周波多重励起(FIRE)画像を使用した蛍光撮像などの高周波多重細胞画像)を生成する。生成された細胞画像は、分析される細胞の様々な態様を含み、示し得る。細胞画像は、粒子分析データ(例えば、強度測定など)とともに閲覧され得る。細胞画像は、データサイズの観点から非常に大きく、様々な計算、プロセス、および技術に基づいて画像を生成するために合成または組み合わされる複数のチャネルのデータを使用して表され得る。従来、大きなサイズの画像ファイルは、ユーザが粒子分析器上で対応する細胞フロー処理と同時に画像を閲覧することができるように、これらの画像を迅速に処理し、表示し、操作することが困難になる場合がある。
一実施形態では、本明細書に記載される画像処理システムは、画像操作後に画像ファイルを迅速に表示することを提供するユーザインターフェースを提供する。例えば、ユーザは、画像ファイルの1つ以上の態様をリアルタイム、またはほぼリアルタイムで調整し、粒子分析器によって捕捉されるときに、画像上の画像更新を閲覧することができる。いくつかの実施形態によれば、表示するための画像ファイルを生成するために画像処理を実行するシステム、装置、モジュール、またはハードウェアプロセッサは、画像ファイルを扱うユーザが画像ファイルおよび任意の対応する粒子分析データを同時に扱うことを可能にするために、サブミリ秒時間で画像ファイルを処理し得る。いくつかの実施形態では、アルゴリズムを制御するユーザインターフェース(UI)は、画像ファイルの同時閲覧に貢献するフットプリントにおける1つ以上の細胞画像の表示に対する瞬時の調整を実行する制御を提供する。
いくつかの実施形態では、粒子分析器または同様のデバイスによって生成される入力画像データストリームは、複数の画像に関するデータを含む。例として、画像は、レーザ走査顕微鏡または他の蛍光撮像装置によって生成することができる。したがって、対応するフローサイトメトリデータ(簡潔さのために、本明細書では「フローデータ」とも呼ばれ得る)とともに画像をレビューするユーザは、短期間でレビューする多数の画像を有し得る。いくつかの実施形態は、画像および対応するフローデータのレビューを可能にする画像処理システムを含む。システムは、ユーザが制御パネルを介して調整を行うときに、1つ以上の画像に調整を導入し、画像をリアルタイム、またはほぼリアルタイムで更新させることを可能にするために、非常に効率的な処理を含む場合がある。
いくつかの実施形態では、粒子分析器または同様のデバイスから受信される入力画像データストリームは、複数の生細胞画像を含む。生細胞画像(または、例えば、本明細書に記載される生の、処理された、または修正された任意の細胞画像)は、1つ以上の画素を含むことができる。各細胞画像の各画素は、粒子分析器から取得される少なくとも2つのデータチャネルを含んでもよい。したがって、本明細書に記載される調整または修正された画像などの画像(例えば、細胞の画像)は、1つ以上の画素を含む、またはそれからなることができることが理解される。
一実施形態では、画像処理速度における効率および強化のいくつかは、画像および/または画像の画素の並列処理によって達成される。本明細書でさらに詳細に説明されるように、本明細書に記載の方法および装置は、ユーザが、調整を示すこととディスプレイが調整された画像を示すこととの間の最小限の(例えば、ミリ秒単位の時間枠のみの)遅延で画像へのそれらの調整を閲覧しながら、画像への調整を同時に行うことを可能にし得る。したがって、表示される画像に対して変換(例えば、調整および/または修正)を実行することに加えて、本明細書に記載される画像処理システムおよび方法は、効率的な処理能力および機敏なユーザインターフェース経験を提供し得る。
本明細書に記載の方法、システム、および装置は、ユーザ(例えば、本明細書に記載の研究者)に、直感的なUIを使用して1つ以上の画像パラメータを調整し、画像パラメータ調整の結果を迅速に観察させる。そのような方法、システム、および装置は、画像パラメータ調整から生じる処理およびレンダリング時間損失を低減することによって、細胞画像および対応する粒子分析データに関連付けられた研究および他の分析の効率を向上させ得る。例えば、本明細書に記載される方法、システム、および装置は、細胞画像の処理およびレンダリングが、例えば、画像ごとに10、9、8、7、6、5、4、3、2、または1ミリ秒未満内など、画像ごとにミリ秒単位の時間枠で行われることを提供する。したがって、ユーザは、検査中および/または分析中に細胞画像をより迅速かつ効率的に閲覧し、操作することができる。
図1は、ユーザが対応する粒子分析データとともに細胞画像を捕捉し、閲覧し、操作することを可能にする、本明細書に記載の細胞画像処理装置またはシステム100の実施形態を例示する。システム100は、ユーザコンピューティングデバイス(本明細書では「装置」とも呼ばれ得るユーザデバイス)102、粒子分析器104、データストア106、およびネットワーク110を含む。ユーザデバイス102、粒子分析器104、およびデータストア106は、ネットワーク110およびそれらの間に示される通信リンクを介して互いに通信し得る。
ユーザデバイス102は、例えば、とりわけ、サーバ、ラップトップコンピュータ、スマートモバイルデバイス、パーソナルデジタルアシスタント、およびタブレットコンピュータなど、ユーザの任意のモバイルまたは固定コンピューティングデバイスを含んでもよい。いくつかの実施形態では、ユーザデバイス102は、ユーザが(1)粒子分析器104による画像取得、または(2)粒子分析器104によって捕捉された、または粒子分析器104に記憶された、またはデータストア106に記憶された細胞画像および対応する粒子分析データのユーザデバイス102上の画像および/またはデータの閲覧/操作を制御することを可能にするようにシステム100内で動作する。
いくつかの実施形態では、ユーザデバイス102は、アプリケーション、ブラウザ、または他のソフトウェア(簡潔さのために、この用語の集合は、「アプリ」と呼ばれ得る)を含み、ユーザは、それを介して、粒子分析器104および/または記憶されたまたは捕捉された細胞画像と対話する。前記対話は、1つ以上の画像パラメータの調整、粒子分析器104による画像取得および/または共有の制御、および/またはデータストア106内の細胞画像の記憶を含み得る。したがって、アプリは、1つ以上の画像パラメータを調整するためのインターフェース、1つ以上の画像パラメータの前記調整の結果を閲覧するためのビューワ、ならびに調整された1つ以上の画像パラメータ、元の細胞画像、および調整された細胞画像のうちの1つ以上を記憶するための制御、ならびに対応する粒子分析データをユーザに提供し得る。いくつかの実施形態では、1つ以上の画像パラメータ、元の細胞画像、前記調整から生じる細胞画像、および/または対応する粒子分析データに対する調整の履歴は、ユーザデバイス102内にローカルに、ユーザデバイス102上に、もしくはユーザデバイス102と関連付けられて記憶されるか、またはデータストア106内に、または粒子分析器104内に記憶される。本明細書に記載される方法、装置、およびシステムは、ユーザデバイス102によって実行され得るか、または動作可能であり得る。
粒子分析器104は、1つ以上の光学パラメータ(例えば、光散乱および蛍光)に基づいて粒子の特徴付けを可能にする任意のデバイスを含んでもよい。いくつかの実施形態では、粒子分析器104は、モニタまたは他のユーザインターフェースを含み、データストア106などのデータ記憶デバイスに電子的に接続され、粒子分析器104は、1つ以上の分析された細胞に対応する1つ以上のデータストリームを記憶する。本明細書に記載される方法、システム、および装置は、粒子分析器104内の構成要素によって、または粒子分析器104と電気的に通信して実行され得るか、または動作可能であり得る。粒子分析器104は、細胞、粒子、またはその構成要素(例えば、フローおよび走査サイトメータ、またはレーザ走査顕微鏡、または他の蛍光撮像装置など)の分析に応答してデータを生成するように構成されてもよい。フローサイトメトリおよび細胞撮像装置を含む粒子分析の例示的な方法および装置は、米国特許第9,423,353号に記載されており、その全体があらゆる目的のために参照により本明細書に組み込まれる。例えば、米国特許第9,423,353号の図1、図2A、および図2Bに記載される蛍光撮像のための装置は、本明細書のいくつかの実施形態のサイトメータデータおよび生細胞画像を収集するための好適な装置とすることができる。いくつかの実施形態では、粒子分析は、フローサイトメータおよびレーザ走査蛍光顕微鏡を含むシステム上で実行される。いくつかの実施形態では、粒子分析器は、ユーザが1つ以上の画像パラメータを調整することを可能にする画像処理システム、1つ以上の画像パラメータの前記調整の結果を閲覧するためのビューワ、ならびに調整された1つ以上の画像パラメータ、元の細胞画像、および調整された細胞画像のうちの1つ以上を記憶するための制御、ならびに対応する粒子分析データを含んでもよい。いくつかの実施形態では、1つ以上の画像パラメータ、元の細胞画像、前記調整から生じる細胞画像、および/または対応する粒子分析データに対する調整の履歴は、粒子分析器104内にローカルに、粒子分析器104上に、もしくは粒子分析器104と関連付けられて記憶されるか、またはデータストア106内に記憶される。
データストア106は、本明細書に記載されるように、細胞画像、細胞画像調整、対応する粒子分析データなどを記憶する1つ以上のデータベースまたはデータ記憶システムを含んでもよい。例えば、データストア106は、任意の調整の前に粒子分析器104を使用して捕捉された1つ以上の細胞画像を含んでもよい。いくつかの実施形態では、調整前にデータストア106に記憶されたそのような細胞画像は、ユーザデバイス102および/または粒子分析器104によって行われたまたは適用された1つ以上の細胞画像調整、ならびに適用された調整から生じる任意の細胞画像と関連付けられ得る。いくつかの実施形態では、データストア106は、単なる記憶デバイスではなく、インテリジェントサーバデバイスであり、任意の細胞画像キャプチャおよび/または調整についてユーザデバイス102および粒子分析器104を監視することができる。
いくつかの実施形態では、ネットワーク110は、データおよび/または情報が複数の電子デバイスおよび/またはコンピューティングデバイス間で通信され得る任意の有線または無線通信ネットワークを含む。ネットワーク110は、広く使用されるネットワーキングプロトコルを使用して、近傍のデバイスまたはシステムを一緒に接続し得る。本明細書に記載される様々な態様は、無線802.11、Bluetooth(登録商標)、セルラー、または同様のプロトコルなどの任意の通信規格に適用され得る。本明細書におけるその説明に加えて、ユーザデバイス102は、ネットワーク110を介してデータおよび情報を送信および受信するように構成されている任意のコンピューティングデバイスを含んでもよい。粒子分析器104はまた、ネットワーク110を介してデータおよび情報を送信および受信するように構成されている任意のコンピューティングデバイスを含み得る。ユーザデバイス102と同様に、エンティティデバイス104は、サーバ、ラップトップコンピュータ、スマートフォン、パーソナルデジタルアシスタント、タブレットコンピュータ、またはネットワーク110に接続可能な他のコンピューティングデバイスを含んでもよい。ユーザデバイス102または粒子分析器104のいずれかを操作または制御するユーザは、個人であってもよく、または会社、非営利団体、教育機関などの機関であってもよい。
図2は、図1のシステム100に示されるユーザコンピューティングデバイス102の例示的な構成要素を示すブロック図である。ユーザデバイス102は、例えば、IBM、Macintosh、もしくはLinux(登録商標)/Unixに互換性があるパーソナルコンピュータ、またはサーバもしくはワークステーションであり得る。一実施形態では、ユーザデバイス102は、例えば、サーバ、ラップトップコンピュータ、スマートフォン、パーソナルデジタルアシスタント、またはキオスクを含む。一実施形態では、例示的なユーザデバイス102は、1つ以上の中央処理ユニット(「CPU」)205を含み、これは、各々、従来のまたは独自のマイクロプロセッサを含んでもよい。いくつかの実施形態では、CPU205は、粒子分析器104またはデータストア106から受信された1つ以上のデータストリームから細胞画像を生成するように構成されている。いくつかの実施形態では、CPU205は、ユーザインターフェースを介して行われた調整に従って、ユーザデバイス102に記憶された、粒子分析器104から取得された、および/またはデータストア106から取得された細胞画像を処理する。いくつかの実施形態では、CPU205はまた、モニタまたは他の視覚ディスプレイデバイスに表示するための細胞画像を処理し、粒子分析器104またはデータストア106からの粒子分析データを処理する。したがって、CPU205は、ユーザデバイス102が細胞画像を生成および/または操作し、生成および/または操作された細胞画像を粒子分析データとともに表示することを可能にし得る。
ユーザデバイス102は、情報を一時的に記憶するためのランダムアクセスメモリ(「RAM」)、情報を永続的に記憶するための1つ以上の読み取り専用メモリ(「ROM」)、およびハードドライブ、ディスケット、ソリッドステートドライブ、または光学メディア記憶デバイスなどの1つ以上の大容量記憶デバイス222または画像ストア208など、1つ以上のメモリ232をさらに含む。いくつかの実施形態では、細胞画像が生成されるデータストリーム、調整前の元の細胞画像、調整された細胞画像、および/または細胞画像への調整のうちの1つ以上は、大量記憶デバイス222に記憶される。ユーザデバイス102の構成要素は、バスシステム290を使用して互いに接続され得る。異なる実施形態では、バスシステム290は、例えば、周辺構成要素相互接続(「PCI」)、マイクロチャネル、小型コンピュータシステムインターフェース(「SCSI」)、工業標準アーキテクチャ(「ISA」)、および拡張ISA(「EISA」)アーキテクチャにおいて実装することができる。加えて、ユーザデバイス102の構成要素およびモジュールに提供される機能は、より少ない構成要素およびモジュールに組み合わされ得るか、またはさらに追加の構成要素およびモジュールに分離され得る。
ユーザデバイス102は、一般に、Windows XP、Windows Vista、Windows 7、Windows 8、Windows Server、Unix、Linux、SunOS、Solaris、iOS、Blackberry OS、Android OS、または他の互換性があるオペレーティングシステム(OS)などのオペレーティングシステムソフトウェアによって制御および調整される。Macintoshシステムでは、オペレーティングシステムは、MAC OS Xなど、任意の利用可能なオペレーティングシステムであってもよい。他の実施形態では、ユーザデバイス102は、独自のオペレーティングシステムによって制御される。従来のオペレーティングシステムは、実行のためにコンピュータ処理を制御し、スケジュールし、メモリ管理を実行し、ファイルシステム、ネットワーキング、I/Oサービスを提供し、とりわけ、グラフィカルユーザインターフェース(「GUI」)などのユーザインターフェースを提供する。
ユーザデバイス102は、キーボード、マウス、タッチパッド、モニタ、タッチスクリーン、スピーカ、マイク、および/またはプリンタなど、1つ以上の入出力(I/O)デバイスおよびインターフェース212を含んでもよい。一実施形態では、I/Oデバイスおよびインターフェース212は、ユーザへのデータの視覚的提示を可能にするモニタまたはプロジェクタなど、1つ以上のディスプレイデバイスを含む。より具体的には、ディスプレイデバイスは、例えば、GUIのプレゼンテーション、アプリケーションソフトウェアデータ、およびマルチメディアプレゼンテーションを提供する。いくつかの実施形態では、ディスプレイデバイスは、(例えば、CPU205によってレンダリングされる)細胞画像を提示し、図3に関してより詳細に説明されるように、表示された細胞画像に調整を行うためのユーザインターフェースを提供する。ディスプレイデバイスは、表示された細胞画像とともに粒子分析データも提供し得る。いくつかの実施形態では、I/Oデバイスおよびインターフェース212は、例えば粒子分析器から入力画像データ(例えば、データストリームなどを介して)を受信することができる任意のネットワークインターフェース、駆動インターフェース、入力インターフェース、または同様のインターフェースもしくは入力を含む。いくつかの実施形態では、I/Oデバイスおよびインターフェース212(または同様の構成要素)は、複数の細胞画像および/または画素を含む入力データストリームを受信してもよい。いくつかの実施形態では、I/Oデバイスおよびインターフェース212(または同様の構成要素)は、インターフェースをユーザに提示し、ユーザがインターフェースを使用して1つ以上のパラメータをいつ変更するかを検出してもよい。
ユーザデバイス102はまた、例えば、スピーカ、ビデオカード、グラフィックスアクセラレータ、グラフィックス処理ユニット、およびマイクロフォンなど、1つ以上のマルチメディアデバイス242を含んでもよい。示されるように、マルチメディアデバイス242はまた、グラフィックス処理ユニット(GPU)206を含んでもよい。GPU206は、粒子分析器104によって提供されるグラフィックス画像を迅速に処理するために、ユーザコンピューティングデバイス102によって使用され得る。したがって、いくつかの実施形態では、グラフィックスまたは画像処理は、CPU205に対して実行される代わりにGPU206によって引き継がれる。いくつかの実施形態では、GPU206およびCPU205は、いずれかがそれら自体で提供することができるよりも高いスループットを提供するために、画像処理を共有するようにプログラムされている。いくつかの実施形態では、GPU206および/またはCPU205は、本明細書に記載されるように、入力データストリームを処理するために、および/または任意の画素、画像壁、細胞画像などを処理するために、一緒に、または個別に使用されてもよい。例えば、いくつかの実施形態によれば、フラグメントシェーダプログラムは、GPU206によって、またはCPU205によって実装され得る。さらに、GPU206および/またはCPU205は、表示のための細胞画像および画素のレンダリングならびに/または表示およびユーザ対話のための入力構成要素のレンダリングを実行し得る。レンダリングは、生、処理された、および/または修正された細胞画像および/または画素に適用され得る。いくつかの実施形態では、CPU205は、GPU206のハードウェアパイプライン上にフラグメントシェーダプログラムを実装する。
図2の実施形態では、I/Oデバイスおよびインターフェース212は、様々な外部デバイスに、例えば、ネットワーク110を介して、粒子分析器104および/またはデータストア106に、通信インターフェースを提供する。図2の実施形態では、ユーザデバイス102は、例えば、有線、無線、または有線および無線の通信リンクの組み合わせを介して、LAN、WAN、および/またはインターネットのうちの1つ以上を含むネットワーク110に電子的に結合される。ネットワークは、有線または無線の通信リンクを介して様々なコンピューティングデバイスおよび/または他の電子デバイスと通信する。
いくつかの実施形態では、I/Oデバイスおよびインターフェース212は、ユーザにユーザインターフェース(UI)を表示するための命令を含む1つ以上の画像処理モジュール210にデータを生成してもよい。画像処理モジュール201は、スタンドアロンソフトウェア命令、またはウェブブラウザプラグイン構成要素、または細胞画像および関連データをユーザに表示するための他のソフトウェア命令であり得る。UIは、細胞画像、対応する粒子分析データ、および粒子分析器104のうちの1つ以上の制御および監視を提供することに加えて、UIはまた、本明細書に記載されるように、ユーザが細胞画像の1つ以上のパラメータまたは態様を調整することを可能にし得る。いくつかの実施形態では、UIは、ユーザがユーザデバイス102、粒子分析器104、細胞画像、および対応する粒子分析データの様々な態様を制御することができるダッシュボードを提供してもよい。ダッシュボードは、さらに、以前に閲覧された細胞画像のレビュー、以前に行われた調整などを提供し得る。
画像調整ユーザインターフェース
本明細書に記載されるように、UIは、ユーザが細胞画像の1つ以上のパラメータに調整を行い、細胞画像が粒子分析器上またはユーザコンピューティングデバイス内でどのように処理されるかを変更することを可能にし得る。UIは、ユーザが利用可能な画像調整値と同時に細胞画像を表示し、利用可能な画像調整に基づいて異なる調整が行われると、ミリ秒単位の時間枠内で、表示された細胞画像を更新することを可能にし得る。表示された細胞画像の瞬時の更新は、本明細書に記載される1つ以上のアルゴリズムを適用した結果であり得る。本明細書で使用される場合、「ミリ秒単位の時間枠」は、本開示を考慮して理解されるように、その慣習的および一般的な意味を有する。ミリ秒程度の時間枠、例えば、10、9、8、7、6、5、4、3、2、または1ミリ秒未満程度の時間枠を指す。例えば、本明細書に記載されるように、ミリ秒単位の時間枠内で実行される動作は、10、9、8、7、6、5、4、3、2、または1ミリ秒未満で実行され得る。
図3は、図1の粒子分析器104からのデータストリームに基づいて生成された細胞画像とインターフェースするユーザデバイス102によって表示される例示的な画像調整ポップアップユーザインターフェース(UI)300である。いくつかの実施形態では、ポップアップUI300は、制御パネル301を介して以下のユーザインターフェース機能を提供する。制御パネル301は、細胞画像を調整するための制御要素を含んでよく、制御パネルを使用して行われた任意の変更は、図4を参照して示されるように、画像の壁(例えば、75、80、または150の画像)に迅速に反映され得る。
制御パネル301は、ユーザが細胞画像の表示方法に対する修正を指定することを可能にする。そのような修正は、計算的に集中的であり得、一般に、堅牢なワークステーションを使用して実行され得る。しかしながら、そのような高電力コンピューティングデバイス上であっても、各細胞画像に対する修正および/または調整は、各細胞画像が集中的な画像処理を受けるので、画像の壁内の画像ごとに完了するには数分かかり得る。これらの調整は、これらに限定されないが、以下を含む。
・1つ以上のチャネルレイヤの閲覧を有効/無効にする
・1つ以上のチャネルレイヤの色選択−特定のチャネルの色を変更する
・平均フィルタカーネルおよびガウスフィルタカーネルを使用した畳み込みフィルタリング、エッジ検出など新しいカーネルを将来的にサポート
・閾値処理−低い強度でノイズをマスクアウトするために使用される
・彩度−最大輝度の上限終値
・ガンマ調整−より暗いエリアおよび明るいエリアの強度
・ガンマ曲線−強度曲線を示す曲線
・強度ヒストグラムの表示−画像強度サンプルの表示
いくつかの実施形態では、調整は、追加の調整を含んでもよく、または列挙された調整のいずれかのサブセットを含んでもよい。例えば、いくつかの実施形態では、調整は、「閲覧を有効/無効にする」、「色選択」、「畳み込みフィルタリング」、「閾値処理」、「彩度」、「ガンマ調整」、「ガンマ曲線」、または「強度ヒストグラムの表示」のうちの1つ以上を含まない。例えば、いくつかの実施形態では、強度をヒストグラムとして表示するのではなく、強度は、異なるグラフィカルおよび/またはテキスト形式で表示され得る。
ポップアップUI300では、本明細書に列挙される調整のサブセット(前項および/または箇条書きリストなど)が、制御パネル301を介して利用可能になる。示されるように、利用可能な調整は、ブライトフィールドチャネルのチャネル有効/無効化チャネル切り替え305a、ブライトフィールドチャネルフィルタスライダ調整バー306a、ブライトフィールドチャネル色調整セレクタ307a、およびブライトフィールドチャネル調整選択パネル308aを含む。ブライトフィールドチャネルの有効/無効化チャネル切り替え305aは、ブライトフィールドチャネルの表示を有効または無効にし得る。ブライトフィールドチャネルフィルタスライダ調整バー306aは、ブライトフィールドチャネルに適用されるチャネルフィルタの調整を可能にし得、それによって、いくつかの平滑化フィルタをブライトフィールドチャネル画像に選択または適用することを可能にし得る。ブライトフィールドチャネル色調整セレクタ307aは、ブライトフィールドチャネル色調整パネル308aの表示を切り替えてもよく、ブライトフィールドチャネル色調整パネル308aから選択された色を表示してもよい。ブライトフィールドチャネル色調整パネル308aは、ブライトフィールドチャネルに対して選択可能な利用可能な色を示す。同様に、利用可能な調整は、FITCチャネルのチャネル有効/無効化チャネル切り替え305b、FITCチャネルフィルタスライダ調整バー306b、FITCチャネル色調整セレクタ307b、およびFITCチャネルヒストグラム309aを含む。FITCチャネルの有効/無効化チャネル切り替え305bは、FITCチャネルの表示を有効または無効にし得る。FITCチャネルフィルタスライダ調整バー306bは、FITCチャネルに適用されるチャネルフィルタの調整を可能にし得、それによって、FITCチャネル画像へのいくつかの平滑化フィルタの選択または適用を可能にし得る。FITCチャネル色調整セレクタ307bは、FITCチャネル色調整パネル(この図には図示せず)またはFITCチャネルヒストグラム309aの表示を切り替えてもよく、FITCチャネル色調整パネルから選択された色を表示してもよい。FITCチャネルヒストグラム309aは、収集されたFITCチャネル画像サンプルの表現を示し得、ユーザは、例えば、1つ以上の閾値バー310aまたはガンマ選択311aを使用して、FITCチャネル画像サンプルの強度上の分布を確認し、それに応じて画像設定を調整することを可能にし得る。
加えて、利用可能な調整は、PEチャネルのチャネル有効/無効化チャネル切り替え305c、PEチャネルフィルタスライダ調整バー306c、PEチャネル色調整セレクタ307c、およびPEチャネルヒストグラム309bを含んでもよい。PEチャネルの有効/無効化チャネル切り替え305cは、PEチャネルの表示を有効または無効にし得る。PEチャネルフィルタスライダ調整バー306cは、PEチャネルに適用されるチャネルフィルタの調整を可能にし得、それによって、PEチャネル画像へのいくつかの平滑化フィルタの選択または適用を可能にし得る。PEチャネル色調整セレクタ307cは、PEチャネル色調整パネル(この図には図示せず)またはPEチャネルヒストグラム309bの表示を切り替えてもよく、PEチャネル色調整パネルから選択された色を表示してもよい。PEチャネルヒストグラム309bは、収集されたPEチャネル画像サンプルの表現を示し得、ユーザは、例えば、1つ以上の閾値バー310bまたはガンマ選択311bを使用して、PEチャネル画像サンプルの強度上の分布を確認し、それに応じて画像設定を調整することを可能にし得る。いくつかの実施形態では、PEチャネルヒストグラム309bは、PEチャネル画像の強度を調整し、PEチャネル画像内のノイズを低減する閾値310bを示すガンマ311bの調整を提供する。さらに、FITCおよびPEチャネルヒストグラム309は、それぞれのチャネル画像サンプルの彩度を示す。FITCチャネルおよびPEチャネルは、一例として使用されるが、細胞イメージングのための任意の好適なチャネルは、本明細書に記載される方法および装置、例えば、Alexa 405、DAPI、Hoescht 33258、Alexa 488、FITC、緑色蛍光タンパク質(GFP)、黄色蛍光タンパク質(YFP)、シアン蛍光タンパク質(CFP)、Alexa 568、Cy3、PI、Alexa 594、ローダミン、Texas red、Alexa 633、および/またはCy5に従って使用され得ることが理解される。
いくつかの実施形態では、制御パネル301は、ポップアップUI300として提示され得る。いくつかの実施形態では、制御パネル301は小さくてもよく、画像設定を修正するためにユーザが利用可能な調整オプションを効率的に提示する。いくつかの実施形態では、制御パネル301は、対話型であり、利用可能な調整の挙動または効果に関する視覚的な手がかりを提供する。いくつかの実装形態では、制御パネル301は、ネットワークまたはインターネットブラウザ、閲覧のためのカスタムアプリケーション、またはいくつかの他の軽量クライアントアプリケーションでアクセスされ得る。したがって、制御パネル301は、細胞画像の閲覧、分析、および修正のために、本明細書で識別される堅牢なワークステーションを必要とするのではなく、制約されたリソース(例えば、低電力処理システム)を有するものでさえ、広範囲のコンピューティングデバイス上で動作し得る。
画像処理のプロセスおよび性能
ポップアップUI300を使用して調整を制御することは、本明細書のいくつかの実施形態の装置、システム、および方法の一態様にすぎない。いくつかの実施形態では、装置、システム、および/または方法は、リアルタイムで(例えば、ミリ秒単位の時間枠内で)調整を実行することを含む。調整は、ユーザに確認を要求することなく十分な効率で実行することができる。例えば、ユーザがポップアップUI300および制御パネル301を使用して画像壁内の細胞画像に調整を行うとき、細胞画像の着信ストリームに調整を行い、画像壁の一部として表示される前に確認(例えば、ユーザによる「OK」または「キャンセル」ボタンの選択)が必要ない場合がある。
例えば、ユーザが対応する画像パラメータを調整するためにフィルタスライダ調整バー306a〜cのうちの1つと対話するときに、画像の壁は、スライダが移動されるにつれて、対応するフィルタスライダ調整バー306a〜cのスライダの現在の値に基づいて更新される。非固定入力デバイス(マウスまたはタッチスクリーンなど)を使用して、画像パラメータの多くを調整することができるので、調整された画像パラメータの現在の値に基づく画像の壁の即時更新は、毎秒画像の壁の多くの視覚的更新に変換され得る。したがって、画像の壁は、ユーザが制御パネル301を介して変更を行うミリ秒単位の時間枠内でディスプレイ上またはモニタ上で修正および更新され得る。そのような更新は、本明細書に記載される効率的な画像処理アルゴリズムを実装する。
図4A〜図4Cは、粒子分析器104によって取得され、ユーザデバイス102上で閲覧され、様々なレベルの操作および調整が適用される50の細胞画像を示す画像壁400a〜cのセットの例示的な図である。画像壁400a〜cは、複数の細胞画像をユーザに表示し得る。いくつかの実施形態では、画像壁400a〜cは、ポップアップUI300を有するユーザデバイス102または他のモニタまたはディスプレイデバイスに表示される。いくつかの実施形態では、画像壁400a〜cは、ポップアップUI300の上、下、後ろなどと並んでいる。いくつかの実施形態では、画像壁に示される細胞画像の数は、50〜100個の画像であってもよい。
図4A〜図4Cは、調整および/または修正の様々な段階における画像壁400a〜cの例示的な画面画像を示す。例えば、図4Aは、いかなる調整も粒子分析器から収集された細胞画像のいずれかに適用されることがない、「生」形式の画像壁400aを示す。図4Bは、1つ以上の平滑化フィルタおよび1つ以上の閾値処理アルゴリズムを生画像400aに適用した後の画像壁400bを示す。図4Cは、画像壁400bの特定の細胞画像405と、具体的には、画像壁400bの細胞画像のうちの1つへのズームインとのユーザ対話後の画像壁400cを示す。示されるように、画像壁400cは、ユーザによって選択された特定の細胞画像405の拡張および拡大領域を示す。
画像壁400a〜cに示される各画像は、約10,000個の画素を含んでよく、約250キロバイト(kB)のデータ記憶サイズを有し得る。したがって、メモリ232または画像調整を実行する任意のデバイスのメモリ(例えば、粒子分析器104またはユーザデバイス102のメモリなど)は、50〜100個の画像の画像壁に12メガバイト(MB)〜25MBを利用し得る。しかしながら、タスクの特定の細胞撮像情報および解像度要件に応じて、細胞画像は、異なる画素量および/またはデータ記憶サイズ、例えば、少なくとも5,000、10,000、20,000、50,000、または100,000個の画素、および/または少なくとも250kB、500kB、750kB、1メガバイト(MB)、2MB、3MB、4MB、または5MBのデータ記憶サイズを含み得ることが理解される。図3を参照して本明細書に記載されるポップアップUI300を介してユーザによって選択された調整を実行する画像処理アルゴリズムは、画素レベルで画像壁400aの各細胞画像に、選択された調整を適用し得る。そのような適用は、画像パラメータが動的に更新されるにつれて、選択された調整をリアルタイムで500,000〜10,000,000個の画素に効果的に処理および適用する必要があり、時間がかかり得る。
例えば、画像壁400aに関して、約500,000個の画素は調整を必要とし得、各画素は、複数の情報チャネルに基づいてレンダリングされ得る(例として、最大8チャネルが、図3、図4A〜C、および図5に示されるが、特定の撮像タスクに対してより多いまたはより少ない数のチャネルが使用され得ることが理解される)。したがって、画像壁400aの細胞画像の調整およびレンダリングにおいて、細胞画像の処理を実行するデバイス(例えば、ユーザデバイス102または粒子分析器104)は、画像壁400aの500,000個の画素の各々を8回処理し得る。いくつかの実施形態では、調整および/または他の画像処理設定は、複数の(例えば、8)チャネルの各々について異なってもよい。例えば、8つの調整のうちの1つ以上は、画像壁400aの各画素について8つのチャネルの各々に適用され得る。
例えば、図3に示すように、画像壁400の第1の細胞画像の第1の画素のブライトフィールドチャネル(例えば、第1のチャネル)は、「緑色」に設定されたブライトフィールドチャネル色調整セレクタ307aを有し得、一方、画像壁400aの第1の細胞画像の第1の画素のFITCチャネル(例えば、第2のチャネル)は、FITCチャネル色調整セレクタ307bを「黄色」に設定し得る。画素調整のためのそのような多様で大きな範囲の可能性は、ポップアップUI300または同様のインターフェースを介して行われるユーザ調整を考慮するために、画像壁400aの処理に関与する複雑さをさらに増加させ得る。必要とされ得る計算処理の一例として、すべてのチャネルを有効にした画像壁400a上の単一のフィルタリング動作の単一のアルゴリズムステップは、容易に4億5000万倍を超え、命令を追加することができる。本明細書に記載されるように、そのような処理需要があっても、本明細書のシステムおよび方法は、画像壁400aの細胞画像のリアルタイムの調整、処理、レンダリング、および表示を提供する。
いくつかの実施形態では、調整および/または修正に対応する画像処理を実行するデバイス(例えば、ユーザデバイス102または粒子分析器104)は、画像壁400aの細胞画像処理の効率および速度の向上を支援するプラグイン構成要素を利用してもよい。いくつかの実施形態では、プラグイン構成要素は、ポップアップUI300、制御パネル301、デバイスのCPU205、デバイスのマルチメディアデバイス242などのうちの1つ以上に直接統合され得る。例えば、プラグイン構成要素は、細胞画像および画像壁(例えば、ユーザデバイス102)を提示するデバイスのグラフィックス処理ユニット(GPU)内の画像処理アルゴリズムの一部またはすべてを実行するWebGl2プラグイン構成要素または同様のプラグイン構成要素を含んでもよい。したがって、プラグイン構成要素は、ポップアップUI300の制御パネル301上でユーザによって行われる選択に基づいて、画像壁の細胞画像を調整または修正するために必要な処理の一部またはすべてを実行し得る。
いくつかの実施形態では、プラグイン構成要素は、www dot khronos dot org forward slash registry forward slash webgl forward slash specs forward slash latest forward slash 2.0のワールドワイドウェブでアクセス可能なKhronosグループによるWebGL2.0仕様に準拠し得る。KhronosグループによるWebGL2.0仕様は、参照によりその全体が本明細書に組み込まれる。この技術および同様の技術は、細胞画像および画像壁400aを表示するデバイスのCPU205またはGPU206が、画素ごとにそれらの画像分析処理を並列に実行することを可能にし得る。いくつかの実施形態では、本明細書に記載の描画および計算機能は、OpenGLシェーディング言語(GLSL)などのシェーディング言語を使用してCPU205によって実装されてもよい。シェーディング言語は、CPU205またはGPU206が、並列ベクトル動作を使用してすべての描画およびアルゴリズムを実装することを可能にし得る。したがって、制御パネル301を介して受信されたユーザが選択したパラメータに基づいて、画像壁400aの細胞画像を処理するために使用されるアルゴリズムは、1つ以上のシェーディング言語で実装され得る。
本明細書に記載されるように、画像壁400aは、制御パネル301を介して画像パラメータに関してユーザによって行われた任意の変更と同時に、および瞬時に(例えば、ミリ秒単位の時間枠内で)修正された細胞画像を提示し得る。したがって、ユーザが最初に粒子分析器104またはデータストア106から受信された細胞画像を見るとき、デバイス(例えば、ユーザデバイス102)は、いかなる調整または修正も画像壁400aの細胞画像のいずれにも適用されることなく、図4Aに示されるように画像壁400aを生画像として表示し得る。本明細書に記載されるアルゴリズムおよび処理を使用して、ユーザがポップアップUI300の制御パネル301を介して1つ以上の画像チャネルパラメータを調整するとき、ユーザデバイス102は(例えば、CPU205およびマルチメディアデバイス242のうちの1つ以上を介して)、画像壁400aの細胞画像を処理し得る。画像壁400aおよびその中の画素および細胞画像のそのような処理により、ユーザが1つ以上の画像チャネルパラメータを調整している間に、図4Bに示される画像壁400bがユーザに表示され得る。いくつかの実施形態では、ユーザは、画像壁400bから特定の細胞画像を選択し得るか、またはマウスもしくは他の選択デバイスを移動させ得る。カーソル(例えば、マウスもしくはトラックパッドカーソル、またはタッチスクリーンとの接触)が画像壁400bの細胞画像のうちの1つの上にホバリングされるとき、対応する細胞画像は、さらにクリックまたは選択することなく拡大され得る。いくつかの実施形態では、ユーザが画像壁400bの細胞画像のうちの1つを選択すると、対応する細胞画像が拡大され得る。拡大された細胞画像405の一例を図4Cに示す。
いくつかの実施形態では、図4Cに示す細胞画像の拡大図は、細胞画像の非常に詳細な図を提供し得る。いくつかの実施形態では、追加情報は、拡大された細胞画像とともに表示することもできる。例えば、目的の特定の細胞画像が拡大されるとき、その細胞画像の粒子分析情報は、ユーザのために同時に表示され得る。例えば、拡大された細胞画像に関連付けられた粒子分析情報は、拡大された細胞画像のドットプロットなどのフローサイトメトリからのイベントデータを示すプロットで強調表示され得る。例として、粒子分析データは、マーカーまたは染料のレベルなどのフローサイトメトリによって測定された1つ以上の異なるパラメータ、または特定の細胞が、フローサイトメトリ分析に基づいて1つ以上のマーカーについて正または負であると判定されたか否かを定性的に示し得る。例えば、細胞がCD14マクロファージであることを示すフローサイトメトリデータは、病原体の食作用を示す顕微鏡画像データとともに表示され得る。いくつかの実施形態では、粒子分析データは、細胞表現型を含む。細胞表現型は、フローサイトメトリによって測定された1つ以上の異なるパラメータから確認することができる。
画像壁400a〜cの各細胞画像は、粒子分析器104によるどの走査イベントが所与の細胞画像に関連付けられているかを判定するために使用され得る一意の識別子と関連付けられ得る。いくつかの実施形態では、画像壁400a〜cを表示するデバイス(例えば、ユーザデバイス102)はまた、画像壁400a〜cに任意のグループの細胞画像を表示し得る。例えば、画像壁400aは、ユーザが細胞画像を、(1)ファイル内の順番(例えば、本明細書に記載のフローサイトメータおよびレーザ走査顕微鏡を含む装置によって収集されるように)、(2)ゲートを使用して識別される集団などの集団グループ化、または(3)他のメタデータタグ付け、によってグループ化し、閲覧することを可能にし得る。
本明細書に記載のUI(例えば、ポップアップUI300)は、いくつかの実施形態の方法および装置において、本明細書に記載の構成要素500の集合と併せて使用することができることが理解される。
ストリームデータからの画像の作成および処理
本明細書に記載されるように、粒子分析器104は、粒子分析器104によって処理および/または分析された細胞に対応する画像データストリームを生成し、送信し得る。例えば、レーザ走査顕微鏡は、レーザ走査顕微鏡によって捕捉された複数の画像を含む入力画像データストリームを生成し、送信し得る。例えば、粒子分析器は、フローサイトメータを含んでもよい。いくつかの実施形態では、画像データストリームは、各細胞の識別子(例えば、走査イベントに対応する)を含む。次いで、各細胞の識別子は、細胞画像を表示および/または調整するデバイス(例えば、ユーザデバイス102または粒子分析器104)によって使用されてもよく、対応する細胞画像が捕捉されたときに走査イベントで走査された細胞の他の粒子測定データまたは情報と細胞画像とを相関させ得る。
細胞画像画素を参照して本明細書に記載されるように、画像データストリーム内の各画像は、例えば異なる範囲の蛍光発光波長、および/または異なるラマン散乱スペクトルを含み得る2つ以上のチャネルのデータを含んでもよい。例えば、各画像は、各々異なる色および/またはパターンを使用して表され得る、最大2、4、6、8、10、12、14、16、18、または20チャネルのデータを含んでもよい。いくつかの実施形態では、画像は、異なる色を使用して表される8つのチャネルのデータを含む。いくつかの実施形態では、これらのチャネルを合成または組み合わせて、初期処理後に表示および調整するための細胞画像を形成する。画像データストリーム内の任意のチャネルに適用され得る初期処理ステップは、以下を含む。
・フィルタリング
・閾値処理
・彩度
・ガンマ補正
処理は、複数の画素に対して並列に実行され得る。いくつかの実施形態では、フィルタリングが最初に実行される。フィルタリングに続いて、閾値処理、彩度、およびガンマ補正は、任意の順番で実行することができる。例として、フィルタリングは、平滑化などの畳み込み演算を含むことができる。
図5は、図1のユーザデバイス102または他の閲覧デバイスによって閲覧されるように、画像を表示し、操作するための構成要素の集合500の機能ブロック図を示す。集合500に示される構成要素は、特定用途向け集積回路(ASIC)などのハードウェアで実装され得る。いくつかの実施形態では、集合500に示される構成要素は、ソフトウェアで実装されてもよい。例えば、ソフトウェアは、対応するデバイス(例えば、ユーザデバイス102または粒子分析器104、または粒子分析器104によって生成され送信されるデータストリームを処理するように構成されている任意の他のデバイス)に、記載された機能のうちの1つ以上を実行させるために、1つ以上のプロセッサまたはCPU205もしくはGPU206によって実行することができる特定のコンピュータ実行可能命令を含んでもよい。いくつかの実施形態では、構成要素の集合500は、粒子分析器104から画像データストリームで受信された細胞画像の画像を作成し得る、構成要素の例示的な構成を含む。いくつかの実施形態では、画像は、例えばレーザ顕微鏡によって取得することができる高周波多重細胞画像、例えば蛍光および/またはラマン分光細胞画像を含む。いくつかの実施形態では、画像は、FIRE画像を含む。したがって、画像データストリームは、FIRE画像データストリームを含むことができる。本明細書に記載される構成要素500の集合は、いくつかの実施形態の方法および装置において本明細書に記載されるUI(例えば、ポップアップUI300)と併せて使用することができることを理解されたい。
構成要素の集合500は、フラグメントシェーダプログラム502、処理エンジン504、表示出力506、画像作成パラメータまたは画像作成パラメータが受信されるUI508を記憶するためのメモリ、フィルタカーネル510、および入力画像データストリーム512(例えば、本明細書に記載のレーザ走査顕微鏡からのFIRE画像データストリームなどの2つ以上のチャネルを含む高周波多重細胞画像)を含む。いくつかの実施形態では、入力画像データストリーム512は、画像データ(例えば、ラマン分光)を取得するための1つ以上の他の手段または方法からの画像データであってもよい。フラグメントシェーダプログラム502は、本明細書に記載されるように、シェーディング言語を使用して1つ以上の描画および計算機能を実装するように構成され得る。いくつかの実施形態では、フラグメントシェーダプログラム502は、CPU205への適用のためのソフトウェア構成要素、マルチメディアデバイス242の一部であるグラフィックス処理ユニット(GPU)、またはスタンドアロンGPU(本明細書には図示せず)を含んでもよい。例えば、フラグメントシェーダ502(例えば、フラグメントシェーダプログラム、モジュール、または構成要素)は、細胞画像および/または画素を生成するために入力データストリームを処理するために、CPU205またはGPU(例えば、CPU205またはGPUのハードウェアパイプラインを介して)を構成する1つ以上のプログラムを含んでもよい。いくつかの実施形態では、フラグメントシェーダの1つ以上のプログラムは、入力データストリームの並列処理のためにCPU205またはGPUのハードウェアパイプラインを構成してもよい。したがって、いくつかの実装形態では、フラグメントシェーダプログラム502は、他のハードウェアと使用するためのシェーダプログラムとして、またはスタンドアロンシェーダ回路として実装され得る。したがって、フラグメントシェーダプログラム502は、入力画像データストリーム512から処理された情報に関連付けられた画素を生成するように、粒子分析器104またはデータストア106のうちの1つ以上から受信された入力画像データストリーム512を処理し得る。本明細書に記載される実施形態のいずれかにおいて、フラグメントシェーダプログラム502は、入力画像データストリーム512の各画素について複数のアルゴリズムを並列に処理し得る(例えば、複数のチャネルの処理)。本明細書に記載される実施形態のいずれかにおいて、フラグメントシェーダプログラム502は、ディスプレイに直接出力する代わりに、処理されたデータ(例えば、1つ以上のチャネルからのデータ)をデータバッファまたは同様のストレージに記憶し得る。
処理エンジン504は、図2を参照して本明細書に記載されるマルチメディアデバイス242のCPU205またはGPU206のうちの1つ以上を含んでもよい。いくつかの実施形態では、処理エンジン504は、フラグメントシェーダプログラム502によって生成された画素を取り込み、生成された画素を細胞画像にアセンブルして表示出力506によって表示してもよい(例えば、画像壁400の一部として)。したがって、処理された細胞画像を生成することができる。いくつかの実施形態では、表示出力506は、I/Oインターフェースおよびデバイス212を参照して本明細書に記載されるモニタまたはディスプレイを含んでもよい。いくつかの実施形態では、表示出力506は、生成された細胞画像を記憶するためのメモリ(例えば、大容量記憶デバイス222または画像ストア208またはデータストア106)を含んでもよい。いくつかの実施形態では、画像作成パラメータを記憶するためのメモリまたは画像作成パラメータが受信されるUI508は、フラグメントシェーダプログラム502を制御するために使用される変数などのソースを含んでもよい。例えば、メモリまたはUI508は、入力画像データストリーム112を処理し、細胞画像(1つ以上の画素を含むことができる)を生成するとき、彩度、閾値、色などに関してフラグメントシェーダの実行を制御する変数を提供し得る。いくつかの実施形態では、フィルタカーネル510は、プロセッサ(例えば、ユーザデバイス102のGPU206または粒子分析器104)によって実装されてもよい。フィルタカーネル510は、畳み込み演算、例えば平滑化で使用され得る。フィルタカーネル510に使用されるカーネルは、特定のチャネル、例えば、FITCまたはPEチャネルに適用するためにロードされたテクスチャを含んでもよく、またはそれらからなってもよい。いくつかの実施形態では、フィルタカーネル510は、平均フィルタカーネルおよびガウスフィルタカーネルのうちの1つ以上を使用して畳み込みフィルタリングを実行してもよく、一方、エッジ検出など、追加のおよび/または新たに開発されたカーネルをサポートする能力を有してもよい。したがって、いくつかの実施形態では、フィルタカーネル510は、各細胞画像内の各画素(例えば、入力データストリームから受信された生細胞画像)をフィルタリングしてもよい。フィルタカーネル510が各画素をフィルタリングすると、フィルタリングされた画素は、閾値処理、彩度、またはガンマ補正のうちの少なくとも1つなど、CPU205および/またはGPUによってさらに処理されて、処理された細胞画像を生成するために使用され得る画素の処理された画素値を生成し得る。いくつかの実施形態では、フィルタカーネル510は、CPU205および/またはGPUによって適用される。
図6は、図1のユーザデバイス102上に表示するための入力データストリームに基づいて細胞画像の画素を生成するための方法600のフロー図を示す。いくつかの実施形態では、方法600は、本明細書に示されるまたは記載されるデバイス(例えば、ユーザデバイス102または粒子分析器104)のうちの1つ以上によって実装され得る。いくつかの実施形態では、方法600は、図6に示すよりも多いまたは少ないステップを含んでもよい。
方法600は、ブロック602から始まり、ブロック604で、粒子分析器の撮像システムから入力画像データストリーム512を受信することを含む。いくつかの実施形態では、入力画像データストリーム512は、高周波多重細胞画像データ(例えば、FIRE画像データ)を含んでもよく、および/または1つ以上の通信ネットワーク(例えば、ネットワーク110)を介して受信されてもよい。いくつかの実施形態では、入力画像データストリーム512は、ユーザデバイス102のマルチメディアデバイス242のCPU205もしくはGPU206、または粒子分析器104によって受信されてもよい。入力画像データストリーム512が受信されると(例えば、ブラウザまたは同様のアプリケーションまたはソフトウェアモジュールを介して)、方法600は、ブロック606で、入力画像データストリーム112からヘッダ情報を読み取る。
ヘッダ情報を読み取ることは、入力画像データストリーム512に含まれるいくつかの画像を取得または決定すること、他の情報の中でも、入力画像データストリーム512に含まれる画像の1つ以上の寸法(例えば、各画素のx−y座標)、ならびに入力画像データストリーム512内の画像の各々および/または入力画像データストリーム512自体のために含まれるいくつかのチャネルを取得または決定することを含み得る。いくつかの実施形態では、このヘッダ情報は、ユーザデバイス102のCPU205、GPU、またはI/Oインターフェースおよびデバイス212(例えば、通信インターフェース)、または粒子分析器104もしくはデータストア106からの情報に基づいて画像を表示する他のデバイスのうちの1つ以上によって取得または決定され得る。ヘッダ情報は、1つ以上の動作中に使用するためにメモリ232内に記録され得る。
プロセス600がヘッダ情報を読み取ると、方法600は、ブロック608で、入力画像データストリーム512の各画像を反復することと、入力画像データストリーム512の各チャネルを反復することとをさらに含む。いくつかの実施形態では、反復は、ユーザデバイス102のマルチメディアデバイス242のCPU205もしくはGPU206、または粒子分析器104によって実行されてもよい。プロセス600がデータストリームの各画像およびチャネルを反復すると、方法600は、決定ブロック610で、1つ以上の画像またはチャネルのデータおよび画素情報に適用される平滑化があるか否かを決定する。決定が、平滑化が適用されることを識別する場合、プロセス600は、ブロック611に移動し、平滑化が情報および/またはデータに適用される。決定ブロック610で平滑化が適用されると決定されない場合、平滑化は適用されず、プロセス600はブロック612に移動する。いくつかの実施形態では、データの決定および/または平滑化は、ユーザデバイス102のマルチメディアデバイス242のCPU205もしくはGPU、または粒子分析器104によって受信されてもよい。
ブロック612で、方法600は、閾値、彩度、およびガンマ補正の調整を適用することを含み、次いで、プロセス600は、ブロック614で、画素を着色または調整することに移動する。いくつかの実施形態では、閾値、彩度、およびガンマ補正の調整の適用ならびに画素位置の着色は、ユーザデバイス102のマルチメディアデバイス242のCPU205もしくはGPU206、または粒子分析器104によって実行され得る。次いで、方法600は、ブロック616で終了する。
いくつかの実施形態では、入力画像データストリーム512内の画像に関連付けられた各チャネルについて、調整パイプライン(例えば、CPU205またはGPUの一部)は、チャネルの画素データを処理してもよい。調整パイプラインの一例は、以下を含む。
・フィルタ
・閾値
・彩度
・ガンマ補正
いくつかの実施形態では、調整パイプラインは、フィルタ、閾値、彩度、ガンマ補正、または列挙された項目のうちの2つ以上、例えば、フィルタおよび閾値、フィルタおよび彩度、フィルタおよびガンマ補正、閾値および彩度、閾値およびガンマ補正、フィルタおよび閾値および彩度、フィルタおよび閾値およびガンマ補正、フィルタおよび彩度およびガンマ補正、または、閾値および彩度およびガンマ補正を含む。
各チャネルが処理されるにつれて、得られた画素情報をブレンドして(例えば、CPU205またはGPU206によって)、細胞画像の画素マップ内の画素の位置について処理された画素値を生成してもよい。ブレンディングは、チャネル値の平均化を含んでもよい。ブレンディングは、異なる重みを異なるチャネルに関連付ける加重平均を含んでもよい。重みは、制御パネル301を使用して、または別の構成手段を介して構成または選択され得る。いくつかの実施形態では、構成は、ユーザにとって特有であり得、プロセス600の前に、またはプロセス600の一部としてロードされるユーザプロファイルと関連付けられ得る。いくつかの実装形態では、構成は、粒子分析器104の入力画像データストリーム512からの画像を閲覧するすべてのまたは様々なユーザに適用される一般的な設定であってもよい。
入力画像データストリーム512の初期ビューをレンダリングした後、細胞画像への調整の適用を促進するための特徴も含まれ得る。高速(例えば、ミリ秒単位の時間枠)応答時間を取得するために、クライアントアプリケーション(例えば、ブラウザなど)は、GPU内のハードウェアパイプラインを使用して命令を実行し得る。命令は、画素値の並列計算を提供し得る。汎用CPUは、並列画像計算にあまり適していない場合があるが、GPUは、記載されたアルゴリズムに従って画像処理を効率的に実行するために特別に構築された処理要素を含んでもよい。本明細書に記載されるように、対応する命令を提供し、GPUを構成するいくつかの例示的なプログラムは、シェーダと呼ばれる場合がある。いくつかの実装形態では、記載された特徴は、シェーダプログラムとして実装され得る。
いくつかの実施形態では、入力画像データストリーム512から処理されている画像データを、シェーダによってアクセスできるようにデータテクスチャとしてGPUにアップロードしてもよい。各画素がシェーダによって処理されるとき、シェーダはテクスチャにアクセスし得る。いくつかの実施形態では、画素のx/y位置は、その画素のシェーディングに使用されるテクスチャ値内の位置を決定する。次いで、この値は、シェーダ内に実装される様々なアルゴリズムを使用して処理され得る。
いくつかの実装形態では、入力画像データストリーム512に基づいて生成された画素において実行される第1の動作は、フィルタカーネルである。フィルタカーネルは、例えば平滑化など、畳み込み演算で使用され得る。カーネル自体は、特定のチャネルについてロードされたテクスチャであり得る。平滑化が完了した後、閾値処理、彩度、およびガンマ補正の動作が開始され得る。
追加の実施形態
本明細書で使用される場合、「システム」、「器具」、「装置」、および「デバイス」は、一般に、ハードウェア(例えば、機械的および電子的)、ならびにいくつかの実装形態では、関連するソフトウェア(例えば、グラフィックス制御のための専門的なコンピュータプログラム)構成要素の両方を包含する。
本明細書で使用される場合、「イベント」は、一般に、細胞または合成粒子などの単一の粒子から測定されるデータを指す。典型的には、単一の粒子から測定されるデータは、1つ以上の光散乱パラメータおよび少なくとも1つの蛍光強度パラメータを含むいくつかのパラメータを含む。したがって、各イベントは、パラメータ測定のベクトルとして表され、各測定されたパラメータは、データ空間の1つの次元に対応する。いくつかの生物学的用途では、イベントデータは、特定のタンパク質または遺伝子の発現を示す定量的な生物学的データに対応し得る。
本明細書で使用される場合、細胞または他の粒子など、粒子の「集団」、または「亜集団」は、一般に、測定されたパラメータデータがデータ空間内にクラスタを形成するように、1つ以上の測定されたパラメータに関して光学的特性を所有する粒子群を指す。したがって、集団は、データ内のクラスタとして認識される。逆に、各データクラスタは、一般に、典型的にはノイズまたはバックグラウンドに対応するクラスタも観察されるが、特定のタイプの細胞または粒子の集団に対応すると解釈される。クラスタは、例えば、測定されたパラメータのサブセットに関して、測定されたパラメータのサブセットのみで異なる集団に対応する寸法のサブセットで定義され得る。
本明細書で使用される場合、「ゲート」は、一般に、目的のデータのサブセット(例えば、粒子測定値)を識別する境界を指す。サイトメトリでは、ゲートは、特に関心があるイベント群をバインドし得る。イベントのグループは、集団と呼ばれる場合がある。さらに、本明細書で使用される場合、「ゲーティング」は、一般に、例えば、ユーザインターフェースまたはプレートおよびウェル選択を介して、データの所与のセットについてゲートを定義するプロセスを指し得る。
本開示の対話型および動的安全ゾーン生成および制御の様々な実施形態は、有意な研究、開発、改善、反復、および試験の結果である。この非自明な開発は、本明細書に記載される方法およびプロセスをもたらし、これは、以前のシステムに対して有意な効率および利点を提供し得る。対話型および動的ユーザインターフェースは、効率的なヒューマンコンピュータおよびコンピュータ間対話を含み、これは、作業負荷の低減、正確な予測分析などをユーザに提供し得る。例えば、エンティティのためのユーザ情報へのアクセスは、ユーザが安全なゾーンにいるときに認証情報を提供するようにユーザが促されないように自動化され得、それによって、ユーザが、従来のシステムよりもより迅速に、トランザクション(画像処理など)へのアクセス、そのナビゲート、それへの参加、および締結を行うことができるようになる。
さらに、本明細書に記載されるデータ処理ならびに対話型および動的ユーザインターフェースは、効率的なデータ処理の革新およびユーザインターフェースと基盤となるシステムおよび構成要素との間の対話によって可能になる。
必ずしもすべての目的または利点が本明細書に記載される任意の特定の実施形態に従って達成され得るとは限らないことを理解されたい。したがって、例えば、当業者であれば、いくつかの実施形態は、本明細書で教示または示唆され得る他の目的または利点を必ずしも達成することなく、本明細書で教示される1つの利点または利点群を達成または最適化する方法で動作するように構成され得ることが認識される。
前述のセクションに記載されるプロセス、方法、およびアルゴリズムの各々は、コンピュータハードウェアを含む1つ以上のコンピュータシステムまたはコンピュータプロセッサによって実行されるコードモジュールに具体化され得、それによって完全にまたは部分的に自動化され得る。コードモジュールは、ハードディスク、ソリッドステートメモリ、光ディスクなど、任意のタイプの非一時的コンピュータ可読媒体またはコンピュータ記憶デバイスに記憶され得る。システムおよびモジュールはまた、無線ベースおよび有線/ケーブルベースの媒体を含む様々なコンピュータ可読送信媒体上で生成されたデータ信号として(例えば、キャリア波または他のアナログまたはデジタル伝播信号の一部として)送信され得、様々な形態をとり得る(例えば、単一もしくは多重化されたアナログ信号の一部として、または複数の別個のデジタルパケットまたはフレームとして)。プロセスおよびアルゴリズムは、特定用途向け回路において部分的または完全に実装され得る。開示されるプロセスおよびプロセスステップの結果は、永続的に、またはそうでなければ、例えば揮発性または不揮発性ストレージなど、任意のタイプの非一時的コンピュータストレージに記憶され得る。
本明細書に記載されるもの以外の多くの他の変形例は、本開示から明らかである。例えば、実施形態に応じて、本明細書に記載されるアルゴリズムのうちのいずれかのいくつかの動作、イベント、または機能は、異なる順序で実行することができ、追加、マージ、または完全に省略することができる(例えば、アルゴリズムの実践のためにすべての記載された動作またはイベントが必要であるわけではない)。さらに、いくつかの実施形態では、動作またはイベントは、例えば、順次ではなく、マルチスレッド処理、割り込み処理、または複数のプロセッサもしくはプロセッサコアを介して、あるいは他の並列アーキテクチャ上で同時に実行することができる。加えて、異なるタスクまたはプロセスは、一緒に機能することができる異なるマシンおよび/またはコンピューティングシステムによって実行することができる。
本明細書に開示される実施形態に関連して説明される様々な例示的な論理ブロック、モジュール、およびアルゴリズム要素は、電子ハードウェア、コンピュータソフトウェア、または両方の組み合わせとして実装され得る。ハードウェアおよびソフトウェアのこの相互変換性を明確に例示するために、様々な例示的な構成要素、ブロック、モジュール、および要素は、一般にそれらの機能の観点から本明細書に記載されている。そのような機能がハードウェアとして実装されるか、ソフトウェアとして実装されるかは、システム全体に課される特定の用途および設計制約に依存する。記載される機能は、各特定のアプリケーションについて様々な方法で実装することができるが、そのような実装の決定は、本開示の範囲から逸脱を引き起こすと解釈されないものとする。
本明細書に記載される様々な特徴およびプロセスは、互いに独立して使用されてもよく、または様々な方法で組み合わせてもよい。すべての可能な組み合わせおよびサブ組み合わせは、本開示の範囲内であることが意図される。加えて、いくつかの方法またはプロセスブロックは、いくつかの実装形態では省略されてもよい。本明細書に記載される方法およびプロセスはまた、任意の特定の順序に限定されず、それに関連するブロックまたは状態は、適切な他の順序で実行することができる。例えば、記載されたブロックもしくは状態は、具体的に開示されるもの以外の順番で実行されてもよく、または複数のブロックもしくは状態は、単一のブロックもしくは状態で組み合わされてもよい。例示的なブロックまたは状態は、直列、並列、またはいくつかの他の方法で実行されてもよい。ブロックまたは状態は、開示された例示的な実施形態に追加されてもよく、またはそれから削除されてもよい。本明細書に開示される例示的なシステムおよび構成要素は、記載されたものと異なって構成されてもよい。例えば、要素は、開示された例示的な実施形態と比較して、追加、削除、または再配置されてもよい。
本明細書に開示される実施形態に関連して記載された様々な例示的な論理ブロックおよびモジュールは、汎用プロセッサ、デジタル信号プロセッサ(「DSP」)、特定用途向け集積回路(「ASIC」)、フィールドプログラマブルゲートアレイ(「FPGA」)、または他のプログラマブル論理デバイス、離散ゲートもしくはトランジスタ論理、離散ハードウェア構成要素、または本明細書に記載された機能を実行するように設計されたそれらの任意の組み合わせなど、マシンによって実装または実行することができる。汎用プロセッサは、マイクロプロセッサとすることができるが、代替的に、プロセッサは、コントローラ、マイクロコントローラ、または状態機械、それらの組み合わせなどとすることができる。プロセッサは、コンピュータ実行可能命令を処理するように構成されている電気回路を含むことができる。別の実施形態では、プロセッサは、コンピュータ実行可能命令を処理することなく論理演算を実行するFPGAまたは他のプログラマブルデバイスを含む。プロセッサはまた、コンピューティングデバイスの組み合わせ、例えば、DSPとマイクロプロセッサの組み合わせ、複数のマイクロプロセッサ、DSPコアと併せて1つ以上のマイクロプロセッサ、または任意の他のそのような構成として実装することもできる。本明細書では主にデジタル技術に関して記載されているが、プロセッサは、主にアナログ構成要素も含み得る。例えば、本明細書に記載された信号処理アルゴリズムの一部またはすべては、アナログ回路または混合アナログおよびデジタル回路において実装され得る。コンピューティング環境は、これらに限定はされないが、いくつか挙げると、マイクロプロセッサ、メインフレームコンピュータ、デジタル信号プロセッサ、ポータブルコンピューティングデバイス、デバイスコントローラ、またはアプライアンス内の計算エンジンに基づくコンピュータシステムを含む、任意のタイプのコンピュータシステムを含むことができる。
本明細書に開示された実施形態に関連して記載された方法、プロセス、またはアルゴリズムの要素は、ハードウェア、1つ以上のメモリデバイスに記憶され、1つ以上のプロセッサによって実行されるソフトウェアモジュール、または2つの組み合わせにおいて直接具体化され得る。ソフトウェアモジュールは、RAMメモリ、フラッシュメモリ、ROMメモリ、EPROMメモリ、EEPROMメモリ、レジスタ、ハードディスク、リムーバブルディスク、CD−ROM、または当該技術分野で既知の任意の他の形態の非一時的コンピュータ可読記憶媒体、媒体、または物理的コンピュータストレージに常駐し得る。例示的な記憶媒体は、プロセッサが記憶媒体から情報を読み出し、記憶媒体に情報を書き込むことができるように、プロセッサに結合することができる。代替的に、記憶媒体は、プロセッサに一体とすることができる。記憶媒体は、揮発性または不揮発性とすることができる。プロセッサおよび記憶媒体は、ASICに常駐することができる。ASICは、ユーザ端末に常駐することができる。代替的に、プロセッサおよび記憶媒体は、ユーザ端末内の別個の構成要素として常駐することができる。
別段に明記されていない限り、または使用される文脈内で理解されている限り、「できる」、「できる」、「してもよい」、または「してもよい」などの条件付き言語は、一般に、いくつかの実施形態がいくつかの特徴、要素および/またはステップを含む一方、他の実施形態は含まないことを伝えることを意図する。したがって、そのような条件付き言語は、一般に、特徴、要素および/またはステップが1つ以上の実施形態に任意の方法で必要とされること、または1つ以上の実施形態が、ユーザ入力もしくはプロンプトの有無にかかわらず、これらの特徴、要素および/またはステップが任意の特定の実施形態に含まれるか、または実行されるべきであるかを決定するための論理を必然的に含むことを暗示することを意図していない。
本明細書で使用される場合、「データ記憶システム」は、ハードディスクドライブ、ソリッドステートメモリ、および/またはアクセスデバイス、サーバ、または記載される他のコンピューティングデバイスなどのデバイスから、またはデバイスによってアクセス可能な任意の他のタイプの非一時的コンピュータ可読記憶媒体を利用するコンピューティングシステムに具体化され得る。データ記憶システムはまた、または代替的に、本開示の範囲から逸脱することなく、当技術分野で知られているように、複数のローカルおよび/またはリモート記憶デバイスに分散または分割され得る。さらに他の実施形態では、データ記憶システムは、データ記憶ウェブサービスを含むか、またはデータ記憶ウェブサービスに具体化され得る。
本明細書で使用される場合、「決定する」または「決定すること」という用語は、多種多様なアクションを包含する。例えば、「決定すること」は、計算すること、演算すること、処理すること、導出すること、ルックアップすること(例えば、テーブル、データベースまたは別のデータ構造においてルックアップすること)、確認することなどを含み得る。また、「決定すること」は、受信すること(例えば、情報を受信すること)、アクセスすること(例えば、メモリ内のデータにアクセスすること)などを含んでもよい。また、「決定すること」は、解決すること、選択すること、選ぶこと、確立することなどを含み得る。
本明細書で使用される場合、「選択的に」または「選択的」という用語は、多種多様なアクションを包含し得る。例えば、「選択的」プロセスは、複数のオプションから1つのオプションを決定することを含み得る。「選択的」プロセスは、動的に決定された入力、事前構成された入力、または決定を行うためにユーザが開始した入力のうちの1つ以上を含み得る。いくつかの実装形態では、選択的機能を提供するために、n入力スイッチが含まれ得、nは、選択を行うために使用される入力の数である。
本明細書で使用される場合、「提供する」または「提供すること」という用語は、多種多様なアクションを包含する。例えば、「提供すること」は、その後取り出すために、ある場所に値を記憶すること、値を受信側に直接送信すること、値への参照を送信または記憶することなどを含み得る。「提供すること」はまた、符号化、復号、暗号化、解読、妥当性検査、検証などを含み得る。
本明細書で使用される場合、「メッセージ」という用語は、情報を伝える(例えば、送信または受信する)ための多種多様な形式を包含する。メッセージは、XML文書、固定フィールドメッセージ、カンマ区切りメッセージなどの情報のマシン可読集約を含んでもよい。メッセージは、いくつかの実装形態では、情報の1つ以上の表現を送信するために利用される信号を含んでもよい。単数形で列挙されるが、メッセージは、複数の部分で構成され、送信され、記憶され、受信され得ることが理解される。
本明細書で使用される場合、「ユーザインターフェース」(対話型ユーザインターフェース、グラフィカルユーザインターフェースまたはUIとも呼ばれる)は、任意の受信された入力信号に応答して、入力信号を受信する、または電子情報を提供する、および/またはユーザに情報を提供するためのデータフィールドおよび/または他の制御を含むネットワークベースのインターフェースを指し得る。UIは、ハイパーテキストマークアップ言語(HTML)、ADOBE(登録商標)フラッシュ(登録商標)、JAVA(登録商標)、MICROSOFT(登録商標).NET(登録商標)、ウェブサービス、およびリッチサイトサマリー(RSS)などの技術を使用して、全体または部分的に実装され得る。いくつかの実装形態では、UIは、記載された態様のうちの1つ以上に従って通信する(例えば、データを送信または受信する)ように構成されているスタンドアロンクライアント(例えば、シッククライアント、ファットクライアント)に含まれ得る。
「X、Y、またはZのうちの少なくとも1つ」という句のような離接的言語は、別段に明記されていない限り、そうでない場合、一般に、項目、用語などがX、Y、またはZ、あるいはそれらの任意の組み合わせ(例えば、X、Y、および/またはZ)のいずれかであり得ることを提示するために使用される文脈とともに理解される。したがって、そのような離接的言語は、一般に、いくつかの実施形態が、各々存在するためにXのうちの少なくとも1つ、Yのうちの少なくとも1つ、またはZのうちの少なくとも1つを必要とすることを暗示することを意図しておらず、また意図しないものとする。
本明細書に記載され、および/または添付の図に示されるフロー図内の任意のプロセスの記述、要素、またはブロックは、プロセス内の特定の論理関数またはステップを実装するための1つ以上の実行可能命令を含むモジュール、セグメント、またはコードの一部を潜在的に表すものとして理解されるものとする。代替の実装形態は、当業者であれば理解されるように、関与する機能に応じて、実質的に同時にまたは逆の順番を含む、要素または機能が示されるまたは議論されるものから順不同に削除され、実行され得る本明細書に記載される実施形態の範囲内に含まれる。
別段に明記されていない限り、「a」または「an」などの冠詞は、一般に、1つ以上の記載された項目を含むと解釈されるものとする。したがって、「に構成されているデバイス」などの句は、1つ以上の列挙されるデバイスを含むことが意図される。そのような1つ以上の列挙されたデバイスは、記載された列挙を実行するように集合的に構成することもできる。例えば、「列挙A、B、およびCを実行するように構成されているプロセッサ」は、列挙BおよびCを実行するように構成されている第2のプロセッサと併せて動作する列挙Aを実行するように構成されている第1のプロセッサを含むことができる。
本明細書に記載される方法およびプロセスのすべては、1つ以上の汎用コンピュータによって実行されるソフトウェアコードモジュールに具体化されてよく、かつ部分的または完全に自動化されてもよい。例えば、本明細書に記載された方法は、コンピューティングシステムおよび/または任意の他の好適なコンピューティングデバイスによって実行され得る。方法は、ソフトウェア命令または有形コンピュータ可読媒体から読み出された他の実行可能コードの実行に応答して、コンピューティングデバイス上で実行され得る。有形コンピュータ可読媒体は、コンピュータシステムによって可読であるデータを記憶することができるデータ記憶デバイスである。コンピュータ可読媒体の例には、読み取り専用メモリ、ランダムアクセスメモリ、他の揮発性または不揮発性メモリデバイス、CD−ROM、磁気テープ、フラッシュドライブ、および光学データストレージデバイスがある。
本明細書に記載される実施形態に対して多くの変形および修正がなされてもよく、その要素は、他の許容される例の中のものとして理解されることが強調されるべきである。そのようなすべての修正および変形は、本明細書において、本開示の範囲内に含まれることが意図される。前述の説明は、いくつかの実施形態を詳細に説明している。しかしながら、前述がどんなに詳細に記載されても、システムおよび方法は、多くの方法で実践され得ることが理解される。本明細書にも記載されるように、システムおよび方法のあるいくつかの特徴または態様を説明するときの特定の用語の使用は、用語が、その用語が関連付けられるシステムおよび方法の特徴または態様の任意の特定の特徴を含むことに限定されるように、本明細書で再定義されていることを暗示するものとみなされるべきではないことに留意されたい。
当業者は、情報、メッセージ、および信号が、様々な異なる技術および技法のいずれかを使用して表され得ることを理解される。例えば、上述の説明全体を通じて参照され得るデータ、命令、コマンド、情報、信号、ビット、記号、およびチップは、電圧、電流、電磁波、磁場もしくは粒子、光学場もしくは粒子、またはそれらの任意の組み合わせによって表され得る。
関連出願の相互参照
本出願は、「IMAGE CONTROL AND DISPLAY FOR FIRE DATA IMAGES」と題する2018年4月27日に出願された米国仮出願第62/663,758号の利益を主張し、その内容の全体があらゆる目的のために参照により本明細書に組み込まれる。

Claims (32)

  1. 高周波多重細胞画像を処理するための装置であって、
    粒子分析器から入力データストリームを受信するように構成されている入力であって、前記入力データストリームは複数の生細胞画像を含み、各生細胞画像は複数の画素および前記生細胞画像内の各画素に対応する少なくとも2つ以上のデータチャネルを含む、入力と、
    ハードウェアパイプライン、
    生細胞画像データの前記少なくとも2つ以上のデータチャネルを並列処理して処理された細胞画像を生成するように、前記ハードウェアパイプラインを構成する1つ以上のプログラムを含むフラグメントシェーダ、および、
    各生細胞画像内の各画素をフィルタリングするように構成されているフィルタカーネル
    を含むプロセッサと
    を含んでおり、
    前記プロセッサは、フィルタリング後に、閾値処理、彩度、またはガンマ補正のうちの少なくとも1つを実行して、前記画素の処理された画素値を生成するように構成されている、
    装置。
  2. 前記フィルタカーネルは、各画素の前記2つ以上のデータチャネルのチャネルに適用するためのテクスチャを含む、請求項1に記載の装置。
  3. 前記プロセッサは、平滑化演算において前記フィルタカーネルを適用する、請求項1または2に記載の装置。
  4. 前記フラグメントシェーダの前記1つ以上のプログラムは、前記入力データストリームの各チャネルを表示バッファに書き込むようにさらに構成されている、請求項1〜3のいずれか一項に記載の装置。
  5. 生成された生細胞画像または処理された細胞画像のうちの1つ以上を修正するために、ユーザが1つ以上のパラメータを変更することを可能にする制御パネルをユーザに提示するように構成されているユーザインターフェースデバイスをさらに含む、請求項1〜4のいずれか一項に記載の装置。
  6. 前記プロセッサは、ディスプレイデバイス上に表示するために処理された細胞画像をレンダリングするようにさらに構成されている、請求項1〜5のいずれか一項に記載の装置。
  7. 前記ディスプレイデバイスをさらに含み、前記ディスプレイデバイスは、処理された細胞画像を表示するように構成されている、請求項6に記載の装置。
  8. ディスプレイデバイスをさらに含み、
    前記プロセッサは、
    複数の生細胞画像または処理された細胞画像を含む画像壁を生成することと、
    前記画像壁の前記生細胞画像または処理された細胞画像のうちの1つ以上を修正するために、ユーザが1つ以上のパラメータを変更することを可能にするための制御パネルを生成することと、
    前記ディスプレイデバイス上で同時表示するために前記画像壁および前記制御パネルをレンダリングすることと、
    ユーザが前記1つ以上のパラメータを変更している間に、前記制御パネルを介してユーザによって変更された1つ以上のパラメータを識別することと、
    ユーザが前記1つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された前記1つ以上の識別されたパラメータに従って、前記画像壁の前記細胞画像の各々を修正することと、
    前記ディスプレイデバイス上に表示するために前記画像壁の修正された細胞画像をレンダリングすることと
    を行うようにさらに構成されており、
    前記ディスプレイデバイスは、ユーザが前記1つ以上のパラメータに変更を加えているときに、前記画像壁の修正された細胞画像を表示するようにさらに構成されている、
    請求項1〜5のいずれか一項に記載の装置。
  9. 前記プロセッサは、前記ハードウェアパイプラインを含むグラフィックス処理ユニット(GPU)を含むか、またはそれからなる、請求項1〜8のいずれか一項に記載の装置。
  10. 前記プロセッサは、中央処理ユニット(CPU)およびグラフィックス処理ユニット(GPU)を含み、前記GPUは、前記ハードウェアパイプラインを含む、請求項1〜8のいずれか一項に記載の装置。
  11. 高周波多重細胞画像を表示するための装置であって、
    粒子分析器から入力データストリームを受信するように構成されている入力インターフェースであって、前記入力データストリームは生細胞画像を含み、各生細胞画像は複数の画素および前記生細胞画像内の各画素に対応する少なくとも2つ以上のデータチャネルを含む、入力インターフェースと、
    複数の前記生細胞画像を含む画像壁を生成することと、
    前記画像壁の前記生細胞画像のうちの1つ以上を修正するために、ユーザが1つ以上のパラメータを変更することを可能にするための制御パネルを生成することと
    を行うように構成されているプロセッサと、
    表示のためにレンダリングされた1つ以上のオブジェクトを表示するように構成されているディスプレイデバイスと
    を含んでおり、
    前記プロセッサは、
    前記ディスプレイデバイス上で同時表示するために前記画像壁および前記制御パネルをレンダリングすることと、
    ユーザが前記1つ以上のパラメータを変更している間に、前記制御パネルを介してユーザによって変更された1つ以上のパラメータを識別することと、
    ユーザが前記1つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された前記1つ以上の識別されたパラメータに従って、前記画像壁の前記生細胞画像の各々を修正することと、
    前記ディスプレイデバイス上に表示するために前記画像壁の修正された細胞画像をレンダリングすることと
    を行うようにさらに構成されており、
    前記ディスプレイデバイスは、ユーザが前記1つ以上のパラメータに変更を加えているときに、前記画像壁の修正された細胞画像を表示するようにさらに構成されている、
    装置。
  12. 前記ミリ秒単位の間隔は、1ミリ秒、2ミリ秒、3ミリ秒、5ミリ秒、または10ミリ秒以下の間隔を含む、請求項11に記載の装置。
  13. 前記プロセッサは、ハードウェアパイプラインを含む、請求項11または12に記載の装置。
  14. 前記プロセッサは、前記ハードウェアパイプライン上にフラグメントシェーダプログラムを実装するように構成されており、前記フラグメントシェーダプログラムは、処理された画素および/または細胞画像を生成するために、前記入力データストリームの画素の2つ以上のチャネルの並列処理のために前記ハードウェアパイプラインを構成する1つ以上のプログラムを含み、
    前記並列処理は、
    各画素をフィルタカーネルでフィルタリングすることと、
    フィルタリング後に、閾値処理、彩度、またはガンマ補正のうちの少なくとも1つを実行して、前記画素の処理された画素値を生成することと
    を含む、請求項13に記載の装置。
  15. 前記プロセッサは、前記ハードウェアパイプラインを含むグラフィックス処理ユニット(GPU)を含み、前記GPUは、フラグメントシェーダプログラムを実装するように構成されている、請求項13または14に記載の装置。
  16. 前記プロセッサは、
    前記ハードウェアパイプラインを含むグラフィックス処理ユニット(GPU)と、
    フラグメントシェーダプログラムを実装するように構成されている中央処理ユニット(CPU)と
    を含む、請求項13または14に記載の装置。
  17. 前記入力データストリームは、蛍光撮像、ラマン分光、またはそれらの組み合わせから取得されるデータを含む、請求項1〜16のいずれか一項に記載の装置。
  18. 前記細胞画像は、高周波多重励起(FIRE)画像を使用した蛍光撮像を含む、請求項1〜16のいずれか一項に記載の装置。
  19. 高周波多重細胞画像を処理する方法であって、
    粒子分析器から得られた入力データストリームを受信することであって、前記入力データストリームは複数の生細胞画像を含み、各生細胞画像は複数の画素および前記生細胞画像内の各画素に対応する少なくとも2つ以上のデータチャネルを含む、入力データストリームを受信することと、
    前記入力データストリームの画素の2つ以上のチャネルを並列処理するための1つ以上のプログラムを含むフラグメントシェーダを実装することであって、前記並列処理は、画素をフィルタカーネルでフィルタリングし、その後、閾値処理、彩度、およびガンマ補正のうちの少なくとも1つを実行して、前記画素の処理された画素値を生成することを含む、フラグメントシェーダを実装することと、
    前記入力データストリームの前記画素の前記2つ以上のチャネルの前記並列処理に基づいて、処理された細胞画像を生成することと
    を含む、
    方法。
  20. 前記フィルタカーネルは、前記画素の前記2つ以上のチャネルのうちの1つ以上のチャネルに適用するためのテクスチャを含む、請求項19に記載の方法。
  21. 前記並列処理は、平滑化演算を含む畳み込み演算において前記フィルタカーネルを適用することを含む、請求項19または20に記載の方法。
  22. 前記フラグメントシェーダの前記1つ以上のプログラムを実装することは、前記入力データストリームの各チャネルを表示バッファに書き込むことを含む、請求項19〜21のいずれか一項に記載の方法。
  23. 生成されて処理された画素および/または細胞画像のうちの1つ以上を修正するために、ユーザが1つ以上のパラメータを変更することを可能にする制御パネルをユーザに提示することをさらに含む、請求項19〜22のいずれか一項に記載の方法。
  24. ディスプレイデバイス上に表示するために処理された画素および/または細胞画像をレンダリングすることをさらに含む、請求項19〜23のいずれか一項に記載の方法。
  25. 前記複数の生細胞画像を含む画像壁を生成することと、
    前記画像壁の生の処理された細胞画像のうちの1つ以上を修正するために、ユーザが1つ以上のパラメータを変更することを可能にするための制御パネルを生成することと、
    ディスプレイデバイス上で同時表示するために前記画像壁および前記制御パネルをレンダリングすることと、
    ユーザが前記1つ以上のパラメータを変更している間に、前記制御パネルを介してユーザによって変更された1つ以上のパラメータを識別することと、
    ユーザが前記1つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された前記1つ以上の識別されたパラメータに従って、前記画像壁の前記細胞画像の各々を修正することと、
    前記ディスプレイデバイス上に表示するために前記画像壁の修正された細胞画像をレンダリングすることと、
    ユーザが前記1つ以上のパラメータに変更を加えているときに、前記画像壁の修正された細胞画像を表示することと
    をさらに含む、請求項19〜24のいずれか一項に記載の方法。
  26. 高周波多重細胞画像を表示する方法であって、
    粒子分析器から得られた入力データストリームを受信することであって、前記入力データストリームは複数の生細胞画像を含み、各生細胞画像は複数の画素および前記生細胞画像内の各画素に対応する少なくとも2つ以上のデータチャネルを含む、入力データストリームを受信することと、
    前記複数の生細胞画像を含む画像壁を生成することと、
    前記画像壁の前記生細胞画像のうちの1つ以上を修正するために、ユーザが1つ以上のパラメータを変更することを可能にするための制御パネルを生成することと、
    ディスプレイデバイス上で同時表示するために前記画像壁および前記制御パネルをレンダリングすることと、
    ユーザが前記1つ以上のパラメータを変更している間に、前記制御パネルを介してユーザによって変更された1つ以上のパラメータを識別することと、
    ユーザが前記1つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された前記1つ以上の識別されたパラメータに従って、前記画像壁の前記生細胞画像の各々を修正することと、
    前記ディスプレイデバイス上に表示するために前記画像壁の修正された細胞画像をレンダリングすることと、
    ユーザが前記1つ以上のパラメータに変更を加えているときに、前記画像壁の修正された細胞画像を表示することと
    を含む、
    方法。
  27. 前記ミリ秒単位の間隔は、1ミリ秒、2ミリ秒、3ミリ秒、5ミリ秒、または10ミリ秒以下の間隔を含む、請求項26に記載の方法。
  28. 前記入力データストリームは、蛍光撮像、ラマン分光、またはそれらの組み合わせから取得されるデータを含む、請求項19〜27のいずれか一項に記載の方法。
  29. 前記生細胞画像は、高周波多重励起(FIRE)画像を使用した蛍光撮像を含む、請求項19〜28のいずれか一項に記載の方法。
  30. 前記生細胞画像は、ラマン分光撮像画像を含む、請求項19〜28のいずれか一項に記載の方法。
  31. 修正された細胞画像に加えて、サイトメトリデータを表示することをさらに含み、前記サイトメトリデータは、修正された細胞画像の細胞に1対1に対応する単一の細胞データを含む、請求項25〜30のいずれか一項に記載の方法。
  32. 修正された細胞画像に加えて、サイトメトリデータを表示することをさらに含み、前記サイトメトリデータは、細胞の集団のデータを含む、請求項25〜30のいずれか一項に記載の方法。
JP2020560219A 2018-04-27 2019-04-25 粒子分析器画像の画像制御および表示のための方法および装置 Active JP7377215B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201862663758P 2018-04-27 2018-04-27
US62/663,758 2018-04-27
PCT/US2019/029129 WO2019210062A1 (en) 2018-04-27 2019-04-25 Methods and apparatuses for image control and display of particle analyzer images

Publications (2)

Publication Number Publication Date
JP2021522499A true JP2021522499A (ja) 2021-08-30
JP7377215B2 JP7377215B2 (ja) 2023-11-09

Family

ID=66821355

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020560219A Active JP7377215B2 (ja) 2018-04-27 2019-04-25 粒子分析器画像の画像制御および表示のための方法および装置

Country Status (5)

Country Link
US (2) US10733784B2 (ja)
EP (1) EP3785218A1 (ja)
JP (1) JP7377215B2 (ja)
CN (1) CN112119425A (ja)
WO (1) WO2019210062A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI789957B (zh) * 2021-10-21 2023-01-11 炳碩生醫股份有限公司 配合拉曼光譜儀於檢體中尋找取樣點的方法和系統

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160110168A1 (en) * 2014-10-17 2016-04-21 Duelight Llc System, computer program product, and method for generating a lightweight source code for implementing an image processing pipeline
JP2017516073A (ja) * 2014-03-18 2017-06-15 ザ リージェンツ オブ ザ ユニバーシティ オブ カリフォルニアThe Regents Of The University Of California 無線周波数多重化を用いた並行フローサイトメーター
WO2017139649A2 (en) * 2016-02-12 2017-08-17 Massachusetts Institute Of Technology Method and apparatus for imaging unsectioned tissue speciments

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2073801A (en) * 1999-12-09 2001-06-18 Cellomics, Inc. A system for cell-based screening
CA2662688A1 (en) * 2007-03-12 2008-09-18 Futurelogic, Inc. Secured gaming table vouchering system
EP2943778B1 (en) 2013-01-09 2020-10-28 The Regents of The University of California Apparatus and methods for fluorescence imaging using radiofrequency-multiplexed excitation
US10510435B2 (en) * 2013-04-30 2019-12-17 California Institute Of Technology Error correction of multiplex imaging analysis by sequential hybridization
US20160369329A1 (en) * 2013-04-30 2016-12-22 California Institute Of Technology Multiplex labeling of molecules by sequential hybridization barcoding using probes with cleavable linkers
GB2518019B (en) * 2013-12-13 2015-07-22 Aveva Solutions Ltd Image rendering of laser scan data

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017516073A (ja) * 2014-03-18 2017-06-15 ザ リージェンツ オブ ザ ユニバーシティ オブ カリフォルニアThe Regents Of The University Of California 無線周波数多重化を用いた並行フローサイトメーター
US20160110168A1 (en) * 2014-10-17 2016-04-21 Duelight Llc System, computer program product, and method for generating a lightweight source code for implementing an image processing pipeline
WO2017139649A2 (en) * 2016-02-12 2017-08-17 Massachusetts Institute Of Technology Method and apparatus for imaging unsectioned tissue speciments

Also Published As

Publication number Publication date
EP3785218A1 (en) 2021-03-03
WO2019210062A1 (en) 2019-10-31
US11055897B2 (en) 2021-07-06
US20200327714A1 (en) 2020-10-15
US20190333264A1 (en) 2019-10-31
CN112119425A (zh) 2020-12-22
JP7377215B2 (ja) 2023-11-09
US10733784B2 (en) 2020-08-04

Similar Documents

Publication Publication Date Title
Bray et al. Using CellProfiler for automatic identification and measurement of biological objects in images
JP6143376B2 (ja) 病理学における品質保証のためのシステムおよび方法
US10614287B2 (en) Virtual staining of cells in digital holographic microscopy images using general adversarial networks
JP6570014B2 (ja) 多様化と欠陥発見のためのダイナミック・ビニング
Ollion et al. High-throughput detection and tracking of cells and intracellular spots in mother machine experiments
CA3002902C (en) Systems and methods of unmixing images with varying acquisition properties
JP2009063508A (ja) 細胞画像解析装置及び細胞画像解析ソフトウェア
O'Mara et al. ImageSURF: an ImageJ plugin for batch pixel-based image segmentation using random forests
US11055897B2 (en) Methods and apparatuses for image control and display of particle analyzer images
Ferrer‐Font et al. Ensuring full spectrum flow cytometry data quality for high‐dimensional data analysis
Vokes et al. Using CellProfiler for automatic identification and measurement of biological objects in images
JPWO2017195785A1 (ja) 粒子分析装置、及び、粒子分析システム
González-Rodríguez et al. A web-based dashboard for RELION metadata visualization
US20190369001A1 (en) Biexponential transformation for graphics display
JPWO2018003063A1 (ja) 画像選択装置、画像選択方法、画像選択プログラム、表示装置、演算装置
US20230419483A1 (en) Threshold determination method
Sciascia et al. Quantifying root colonization by a symbiotic fungus using automated image segmentation and machine learning approaches
Sage et al. Benchmarking image-processing algorithms for biomicroscopy: reference datasets and perspectives
Bai et al. Automatic finding of optimal image processing for extracting concrete image cracks using features ACTIT
TWI764397B (zh) 人工智慧推論可視化系統及其方法
EP4155944A1 (en) Database troubleshooting with automated functionality
TWI835323B (zh) 用於多工螢光原位雜合影像之獲取及處理的系統及方法
WO2023066842A1 (en) Accurate color reproduction in computer-rendered hair
CN116431674A (zh) 一种数据展示方法、装置、电子设备及存储介质
Opitz et al. Perceptually Guided Automatic Parameter Optimization for Interactive Visualization

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220405

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230613

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230907

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231003

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231027

R150 Certificate of patent or registration of utility model

Ref document number: 7377215

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150