CN115428038A - 用于灵活的基于图像的颗粒分选的分类工作流 - Google Patents

用于灵活的基于图像的颗粒分选的分类工作流 Download PDF

Info

Publication number
CN115428038A
CN115428038A CN202180030063.XA CN202180030063A CN115428038A CN 115428038 A CN115428038 A CN 115428038A CN 202180030063 A CN202180030063 A CN 202180030063A CN 115428038 A CN115428038 A CN 115428038A
Authority
CN
China
Prior art keywords
unsupervised clustering
classifier
image
sorting
cell
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180030063.XA
Other languages
English (en)
Inventor
M·佐尔丹
刘明昌
K-K·A·黄
S-H·蒋
龚礼予
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Group Corp
Sony Optical Archive Inc
Original Assignee
Sony Group Corp
Optical Archive Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Group Corp, Optical Archive Inc filed Critical Sony Group Corp
Publication of CN115428038A publication Critical patent/CN115428038A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/698Matching; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/762Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Image Analysis (AREA)

Abstract

基于图像的分类工作流使用无监督聚类来帮助用户识别感兴趣的亚群以进行分选。标记的细胞图像用于为特定实验微调有监督分类网络。所述工作流允许用户对各种应用以相同方式选择群体进行分选。有监督分类网络非常快,这允许其在细胞行进通过设备时做出实时分选决定。所述工作流更加自动化并且具有更少的用户步骤,从而提高了易用性。所述工作流使用机器学习来避免人为错误和手动门控的偏差。所述工作流不需要用户是图像处理方面的专家,因此增加了易用性。

Description

用于灵活的基于图像的颗粒分选的分类工作流
相关申请的交叉引用
本申请根据35U.S.C.§119(e)要求于2020年11月19日提交的题为“CLASSIFICATION WORKFLOW FOR FLEXIBLE IMAGE BASED PARTICLE SORTING”的美国临时专利申请序列号No.63/116,090的优先权,其全文通过引用并入本文以用于所有目的。
技术领域
本发明涉及细胞分选。更具体地,本申请涉及基于图像的细胞分选。
背景技术
传统的荧光激活细胞分选依赖于用荧光标记物标记细胞并且具有非常有限的细胞形态信息。然而,有些应用需要细胞的形态信息来准确地分选细胞,而有些应用则不适合使用荧光标记物。此外,传统的荧光激活细胞分选使用手动门控来建立基于荧光标记物的分选标准。然而,手动门控耗时并且可能有偏差。
有许多生物应用可以从细胞分选中受益,但在当前基于流式细胞计(flowcytometry)的细胞分选仪上是不可能的,因为它们并不执行成像来识别感兴趣的细胞。
一种现有的方法是使用常规的图像处理和特征提取来从细胞图像中做出分选决定,还有一种方法是使用深度学习网络来进行实时分选分类。常规的图像分析方法的缺点是它需要用户知道如何执行定量图像分析,而这是大多数细胞分选用户不具备的技能。已公布的深度学习方法是受限的,因为它需要离线识别细胞图像以用于训练卷积网络。这是劳动密集型的手动过程,并且为特定应用训练深度学习网络可能需要花费几小时到几天的时间,因此它不能为不同的应用提供灵活的解决方案。
发明内容
基于图像的分类工作流使用无监督聚类来帮助用户识别感兴趣的亚群以进行分选。标记的细胞图像用于为特定实验微调有监督分类网络。所述工作流允许用户对各种应用以相同方式选择群体进行分选。有监督分类网络非常快,这允许其在细胞行进通过设备时做出实时分选决定。所述工作流更加自动化并且具有更少的用户步骤,这提高了易用性。所述工作流使用机器学习来避免人为错误和来自手动门控的偏差。所述工作流不需要用户是图像处理方面的专家,因此增加了易用性。
在一方面,一种方法包括使用细胞图像预训练特征编码器;执行无监督聚类以识别群体,其中无监督聚类接收来自预训练特征编码器的输出;实现分类器以微调有监督分类以及在主动分选期间使用所述分类器执行细胞的实时分类。所述特征编码器从细胞图像中检测和测量特征值。所述特征编码器是使用神经网络实现的。所述特征编码器可扩展以适应1到12个图像通道。执行无监督聚类包括将细胞图像的细胞分类成簇。所述方法还包括基于无监督聚类的结果手动或自动确定要分选的细胞群体。用户在无监督聚类之后基于查看簇和代表性信息来标记簇,其中簇被标记为“分选”或“不分选”。分类器使用来自无监督聚类的分类器结果来微调卷积神经网络。所述分类器被配置为针对每个实验被重新训练。
在另一方面,一种装置包括用于存储应用的非暂态存储器和耦合至所述存储器的处理器,所述应用用于:使用细胞图像预训练特征编码器;执行无监督聚类以识别群体,其中所述无监督聚类接收来自预训练特征编码器的输出;实现分类器以微调有监督分类;以及在主动分选期间使用所述分类器执行细胞的实时分类,所述处理器被配置用于处理所述应用。所述特征编码器从细胞图像中检测和测量特征值。所述特征编码器是使用神经网络实现的。所述特征编码器可扩展以适应1到12个图像通道。执行无监督聚类包括将细胞图像的细胞分类成簇。所述装置还被配置用于基于无监督聚类的结果自动确定要分选的细胞群体。用户在无监督聚类之后基于查看簇和代表性信息来标记簇,其中簇被标记为“分选”或“不分选”。分类器使用来自无监督聚类的分类器结果来微调卷积神经网络。所述分类器被配置为针对每个实验被重新训练。
在另一方面,一种系统包括被配置用于获取细胞图像的第一设备以及第二设备,所述第二设备被配置用于:使用细胞图像预训练特征编码器;执行无监督聚类以识别群体,其中无监督聚类接收来自预训练特征编码器的输出;实现分类器以微调有监督分类以及在主动分选期间使用所述分类器执行细胞的实时分类。所述特征编码器从细胞图像中检测和测量特征值。所述特征编码器是使用神经网络实现的。所述特征编码器可扩展以适应1到12个图像通道。执行无监督聚类包括将细胞图像的细胞分类成簇。所述系统还包括基于无监督聚类的结果手动或自动确定要分选的细胞群体。用户在无监督聚类之后基于查看簇和代表性信息来标记簇,其中簇被标记为“分选”或“不分选”。分类器使用来自无监督聚类的分类器结果来微调卷积神经网络。所述分类器被配置为针对每个实验被重新训练。
附图说明
图1图示了根据一些实施例的图像激活细胞分选仪(IACS)的应用示例。
图2图示了根据一些实施例的分类工作流的流程图。
图3图示了根据一些实施例的特征编码器和无监督聚类的流程图。
图4图示了根据一些实施例使用标记的图像来微调有监督分类的图。
图5图示了根据一些实施例使用有监督分类进行实时图像分类的图。
图6图示了根据一些实施例示意性地示出生物样本分析仪的整体配置的图。
图7示出了根据一些实施例被配置为实现分类工作流的示例性计算设备的框图。
具体实施方式
基于图像的分类工作流识别样本中存在的亚群,允许用户选择要纯化的亚群,然后微调将做出实时分选决定的有监督分类系统。
分类工作流是解决方案,它允许灵活的基于图像的细胞分类系统,所述细胞分类系统适应各种生物应用。使用无监督聚类来标记细胞图像以微调高效的有监督分类网络以做出实时分选决定是一种新颖的想法,它能够提高基于图像的细胞分选仪的易用性。
分类工作流解决了基于流式细胞计的细胞分选客户未满足的需求:它允许需要在传统的荧光激活细胞分选上无法执行的成像的细胞分选应用,并且它允许分选分类针对各种应用进行优化。
优化的有监督分类网络能够执行实时图像分类使得基于图像分选细胞成为可能。这允许通常使用显微镜或高内涵成像(两者都不具有分选能力)执行的应用能够在细胞分选仪上使用。
潜在的基于图像的细胞分选应用有很多种类。工作流使用无监督聚类来识别样本中存在的亚群,然后用户可以选择包含其感兴趣细胞的一个或多个簇。然后微调有监督分类系统以识别用户想要分选的感兴趣的特定细胞。
分类工作流的实现包括利用预训练的特征编码器执行无监督聚类,所述特征编码器将识别细胞图像的共同特征。所得到的簇代表样本中存在的亚群,接着用户选择包含其感兴趣细胞的簇,并标记这些簇中的细胞。接着标记的细胞图像被用于优化的分类器的有监督微调,所述分类器被用于实时细胞分选。
分类工作流能够用于图像激活细胞分选仪(IACS)。
图1图示了根据一些实施例的IACS的应用示例。IACS能够用于荧光定位(如标记物的共表达)、免疫流式FISH(如计数FISH斑点)、细胞外囊泡(如外泌体)和细胞活化反应(如FL纹理(散斑、光滑、圆点))。使用传统细胞计是不可能实现免疫流式FISH应用的,因为独立的斑点可能无法被检测/区分。然而,使用IACS来进行区分和检测独立的斑点的应用是可能的。在另一示例中,对于荧光定位,IACS能够检测不同信号(如红色与绿色)的特定位置,而传统细胞计只能够提供每个信号的强度,但不能提供信号在细胞内出现的位置。
图2图示了根据一些实施例的分类工作流的流程图。基于图像的或IACS分类工作流包括诸如包括独立元素/步骤的预分选设置和主动分选等步骤。预分选设置允许识别要分选的细胞以及随后微调有监督分类网络。主动分选部分使用优化的和微调的有监督分类网络以在细胞流经设备时做出实时分选决定。
在步骤200中,预训练特征编码器。来自实验的特定数量的细胞通过系统。特征编码器能够向用户指示样本中有什么。当细胞穿过特征编码器时,所述特征编码器从图像中检测/测量特征值,并且特征编码器的输出进入到无监督聚类。特征编码器可扩展以适应1-12个图像通道(如,明视场和多个荧光通道)。能够使用任意数量或范围的图像通道。于2021年4月5日提交的题为“A FRAMEWORK FOR IMAGE BASED UNSUPERVISED CELL CLUSTERINGAND SORTING”的美国专利申请序列号No.17/222,131中描述了特征编码器的示例,该专利申请的全部内容通过引用并入本文以用于所有目的。
在步骤202中,无监督聚类用于识别群体(如,将相似的细胞分组在一起)。无监督聚类使用特征编码器的输出来将细胞分组/分类成簇。能够以任何方式(如,基于检测到的特征、大小和/或任何其他特性)执行细胞的分组。用户能够查看无监督聚类的结果以确定要分选的细胞群体。用户能够查看单个事件的代表性图像集和/或所提取的簇的特征值(如,荧光强度或其他特征值)。用户能够基于查看簇和代表性信息来标记簇(如,在无监督聚类之后)。例如,用户能够将簇标记为“分选”或“不分选”。多个“分选”簇是可能的。在一些实施例中,标记过程使用机器学习、神经网络和人工智能实现自动化。
在步骤204中,实现分类器以微调有监督分类。分类器能够使用来自无监督聚类的分类器结果/标记来诸如微调浅层或卷积神经网络。分类器能够针对每个实验被重新训练。
在步骤206中,在主动分选期间执行实时分类。经训练的分类器用于进行基于分选分类的实时分类。与具有一个通道检测器测量信号强度的传统细胞分选仪不同,分类工作流利用整个图像(如,50像素×50像素)进行处理。在一些实施例中,实现了更少或附加的步骤。在一些实施例中,修改了步骤的顺序。
图3图示了根据一些实施例的特征编码器和无监督聚类的流程图。在步骤300中,获取来自分选样本的细胞图像。在IACS上运送要分选的一等分(aliquot)的样本以捕获细胞图像。细胞图像是基于神经网络的特征编码器的输入。在步骤302中,实现特征编码器(如,神经网络)。在一些实施例中,预训练(如,离线)特征编码器以通过大量的细胞图像数据集检测明视场和荧光图像中的一般特征。在步骤304中,执行无监督聚类(如,基于分层密度)。所得到的细胞簇代表样本中存在的不同的细胞亚群。在步骤306中,用户查看所述簇(如,代表性的图像、测量的图像特征)以确定哪些簇包含感兴趣的细胞。这种方法的好处是它允许用户识别和选择要分选(和不分选)的群体,而不管实验中使用的应用类型和特异性荧光染色面板。所述簇类似于能够用于训练有监督分类的真值集。来自聚类的标记的图像用于训练(或重新训练)有监督分类网络。一旦有监督分类网络经训练并优化了准确性和速度,那么该网络就可以用于现场(live)分选(如,通过系统的细胞)。在现场分选中,拍摄细胞的图像,并且有监督分类确定所述细胞是否为要分选为进行实时分类的细胞以对细胞进行物理分选,然后纯化器分离出感兴趣的细胞。
图4图示了根据一些实施例使用标记的图像来微调有监督分类的图。标记的图像400用于为特定实验微调有监督分类神经网络402。在一些实施例中,有监督分类神经网络402与经训练的分类器204相同或为其一部分。为了使分选决定足够快以达到具有期望准确性的实时性,使用了高速分类网络。
图5图示了根据一些实施例使用有监督分类进行实时图像分类的图。经训练的分类器204用于为主动分选206做实时分选决定。剩余的分选样本在仪器上行进(其中细胞一次到达一个)。能够为每个细胞获取多个图像通道。经训练的分类器204基于图像将每个事件分类到分选群体之一或者不分选。分选决定是在细胞从成像区域移动到分选驱动区域所花费的时间内(如,在不到500微秒内)做出的。
实验能够是每个细胞一个图像或每个细胞多个图像(如,一个细胞有四个图像通道一起使用)。系统能够根据实施方案(如,根据使用了多少主动图像通道)进行缩放。不同数量的图像通道可能使用不同的架构,因此对所有可能数量的图像通道训练实例,并基于每个实验的主动图像通道选择相应的优化架构。工作流能够接受任何应用的任何类型的输入,这样用户就不用为不同的实验编写不同的规则。
图6图示了根据一些实施例示意性地示出生物样本分析仪的整体配置的图。
图6示出了本公开的生物样本分析仪的示例配置。图6所示的生物样本分析仪6100包括:用光照射流动通道C中流动的生物样本S的光照射单元6101;检测通过照射生物样本S而产生的光的检测单元6102;以及处理关于由检测单元检测到的光的信息的信息处理单元6103。例如,生物样本分析仪6100是流式细胞仪或成像细胞仪。生物样本分析仪6100可以包括分选出生物样本中的特定生物颗粒P的分选单元6104。例如,包括分选单元的生物样本分析仪6100是细胞分选仪。
(生物样本)
生物样本S可以是含有生物颗粒的液体样本。例如,生物颗粒是细胞或非细胞生物颗粒。细胞可以是活细胞,并且其更具体的例子包括诸如红细胞和白细胞的血细胞以及诸如精子和受精卵的生殖细胞。此外,细胞可以是从诸如全血的样本中直接收集的细胞,或者可以是培养后得到的培养细胞。例如,非细胞生物颗粒是细胞外囊泡,或者特别是外泌体和微囊泡。生物颗粒可以用一种或多种标记物质(诸如染料(特别是荧光染料)和荧光色素标记的抗体)进行标记。注意,可以通过本公开的生物样本分析仪分析生物颗粒以外的颗粒,并且可以分析珠子等以进行校准等。
(流动通道)
流动通道C被设计为形成生物样本S的流动。特别地,流动通道C可以被设计为形成其中包含在生物样本中的生物颗粒基本上排列成一排的流动。包括流动通道C的流动通道结构可以被设计为形成层流。特别地,流动通道结构被设计以便形成其中生物样本的流动(样本流)被鞘液的流动包围的层流。流动通道结构的设计可以由本领域的技术人员适当选择,也可以采用已知的设计。流动通道C可以在诸如微芯片(具有微米级的流动通道的芯片)或流动池的流动通道结构中形成。流动通道C的宽度为1mm或更小,或者特别地,可以不小于10μm并且不大于1mm。流动通道C和包括流动通道C的流动通道结构可以由诸如塑料或玻璃的材料制成。
本公开的生物样本分析仪被设计以便生物样本在流动通道C中流动,或者特别地,以便生物样本中的生物颗粒被来自光照射单元6101的光照射。本公开的生物样本分析仪可以被设计以便生物样本上的光的照射点位于形成流动通道C的流动通道结构中,或者可以被设计以便照射点位于流动通道结构外部。前者情况的示例可以是其中光被发射到微芯片或流动池中的流动通道C上的配置。在后者情况下,可以用光照射离开流动通道结构(特别是其喷嘴部分)后的生物颗粒,例如可以采用空气喷射型的流式细胞仪。
(光照射单元)
光照射单元6101包括发射光的光源单元以及将光引导至照射点的光导光学系统。光源单元包括一个或多个光源。光源的类型例如是激光光源或LED。从每个光源发射的光的波长可以是紫外光、可见光和红外光中的任何波长。光导光学系统例如包括光学部件,诸如光束分离器、反射镜或光纤。光导光学系统还可以包括用于聚光的透镜组,以及例如包括物镜。可能有一个或多个照射点,生物样本和光在所述照射点处相交。光照射单元6101可以被设计为收集来自一个光源或不同光源的发射到一个照射点上的光。
(检测单元)
检测单元6102包括检测通过发射光到生物颗粒上所生成的光的至少一个光电检测器。例如,待检测的光可以是荧光或散射光(诸如以下一种或多种:前向散射光、后向散射光和侧向散射光)。例如,每个光电检测器包括一个或多个光接收元件,并且具有光接收元件阵列。每个光电检测器可以包括作为光接收元件的诸如APD和MPPC的一个或多个光电倍增管(PMT)和/或光电二极管。例如,光电检测器包括PMT阵列,其中多个PMT按一维方向排列。检测单元6102还可以包括诸如CCD或CMOS的图像传感器。利用图像传感器,检测单元6102可以获取生物颗粒的图像(例如,诸如明视场图像、暗视场图像或荧光图像)。
检测单元6102包括使预定检测波长的光到达对应的光电检测器的检测光学系统。检测光学系统包括诸如棱镜或衍射光栅的分光单元,或者诸如二向色镜或光学滤波器的波长分离单元。检测光学系统例如被设计为将通过光照射生成的光色散到生物颗粒上,并用比标记生物颗粒的荧光染料的数量更多的光电检测器来检测色散的光。包括此类检测光学系统的流式细胞仪称为光谱流式细胞仪。此外,检测光学系统例如被设计为将与特定荧光染料的荧光波长带对应的光从通过光照射到生物颗粒所生成的光中分离,并使相应的光电检测器检测分离出的光。
检测单元6102还可以包括将光电检测器获得的电信号转换为数字信号的信号处理单元。信号处理单元可以包括作为执行转换的设备的A/D转换器。通过信号处理单元执行转换而获得的数字信号可以被传输到信息处理单元6103。数字信号可以由信息处理单元6103作为与光有关的数据(在下文,也称为“光数据”)来处理。例如,光数据可以是包括荧光数据的光数据。更具体地,光数据可以是光强度的数据,并且所述光强度可以是包括荧光在内的光的光强度数据(光强度数据可以包括诸如面积、高度和宽度的特征量)。
(信息处理单元)
信息处理单元6103例如包括执行处理各种类型的数据(例如光数据)的处理单元以及存储各种类型的数据的存储单元。在处理单元从检测单元6102获取与荧光染料对应的光数据的情况下,处理单元可以对光强度数据执行荧光泄漏校正(补偿过程)。在光谱流式细胞仪的情况下,处理单元还对光数据执行荧光分离过程,并获取与荧光染料对应的光强度数据。荧光分离过程可以通过例如JP 2011-232259A中公开的解混方法来执行。在检测单元6102包括图像传感器的情况下,处理单元可以基于由图像传感器获取的图像来获取关于生物颗粒的形态信息。存储单元可以被设计为能够存储所获取的光数据。存储单元可以被设计为能够进一步存储要在解混过程中使用的光谱参考数据。
在生物样本分析仪6100包括之后描述的分选单元6104的情况下,信息处理单元6103可以基于光数据和/或形态信息来确定是否分选生物颗粒。信息处理单元6103接着基于确定的结果控制分选单元6104,并且生物颗粒可以由分选单元6104分选。
信息处理单元6103可以被设计为能够输出各种类型的数据(例如,诸如光数据和图像)。例如,信息处理单元6103可以输出基于光数据生成的各种类型的数据(例如,诸如二维图或频谱图)。例如,信息处理单元6103还可以被设计为能够接受各种类型的数据的输入,并且接受用户对图的门控过程。信息处理单元6103可以包括用于执行输出或输入的输出单元(例如,诸如显示器)或输入单元(例如,诸如键盘)。
信息处理单元6103可以被设计为通用计算机,并且可以被设计为包括例如CPU、RAM和ROM的信息处理设备。信息处理单元6103可以包括在其中包括光照射单元6101和检测单元6102的外壳中,或者可以位于外壳的外部。此外,要由信息处理单元6103执行的各种过程或功能可以通过由网络连接的服务器计算机或云来实现。
(分选单元)
分选单元6104根据由信息处理单元6103执行的确定的结果对生物颗粒执行分选。分选方法可以是通过振动产生包含生物颗粒的液滴,对要分选的液滴施加电荷,并且通过电极控制液滴的行进方向的方法。所述分选方法可以是通过控制流动通道结构中生物颗粒的行进方向来分选的方法。流动通道结构例如具有基于压力(注射或抽吸)或电荷的控制机构。流动通道结构的示例可以是具有流动通道结构的芯片(例如,JP 2020-76736A中公开的芯片),其中流动通道C在下游分支为回收流动通道和废液流动通道,并且特定的生物颗粒被收集在回收流动通道中。
图7示出了根据一些实施例被配置为实现分类工作流的示例性计算设备的框图。计算设备700能够用于获取、存储、计算、处理、通信和/或显示诸如图像和视频的信息。计算设备700能够实现分类工作流方面中的任一方面。一般来说,适合实现计算设备700的硬件结构包括网络接口702、存储器704、处理器706、I/O设备708、总线710和存储设备712。处理器的选择并不重要,只要选择了具有足够速度的合适处理器即可。存储器704能够是本领域已知的任何常规计算机存储器。存储设备712能够包括硬盘驱动器、CDROM、CDRW、DVD、DVDRW、高清盘/驱动器、超HD驱动器、闪存卡或任何其他存储设备。计算设备700能够包括一个或多个网络接口702。网络接口的示例包括连接到以太网或其他类型的LAN的网卡。I/O设备708能够包括以下一个或多个:键盘、鼠标、监控器、屏幕、打印机、调制解调器、触摸屏、按钮接口和其他设备。用于实现分类工作流的分类工作流应用730可能存储在存储设备712和存储器704中,并如应用通常被处理那样被处理。图7中所示的更多或更少的部件能够被包括在计算设备700中。在一些实施例中,包括分类工作流硬件720。尽管图7中的计算设备700包括用于分类工作流的应用730和硬件720,分类工作流能够以硬件、固件、软件或其任何组合在计算设备上实现。例如,在一些实施例中,分类工作流应用730被编程在存储器中并且使用处理器执行。在另一示例中,在一些实施例中,分类工作流硬件720是编程的硬件逻辑,包括专门设计用于实现分类工作流的门。
在一些实施例中,分类工作流应用730包括多个应用和/或模块。在一些实施例中,模块也包括一个或多个子模块。在一些实施例中,能够包括更少或附加的模块。
合适的计算设备的示例包括个人计算机、膝上型计算机、计算机工作站、服务器、大型计算机、手持计算机、个人数字助理、蜂窝/移动电话、智能电器、游戏机、数码相机、数码摄像机、摄像手机、智能手机、便携式音乐播放器、平板电脑、移动设备、视频播放器、视频光盘刻录机/播放器(例如,DVD刻录机/播放器、高清光盘刻录机/播放器、超高清光盘刻录机/播放器)、电视、家庭娱乐系统、增强现实设备、虚拟现实设备、智能首饰(例如,智能手表)、车辆(例如,自动驾驶车辆)或任何其他合适的计算设备。
为了利用本文所述的分类工作流,诸如具有照相机的显微镜的设备被用于获取内容,并且设备能够处理所获取的内容。分类工作流能够在用户协助下实现或在没有用户参与的情况下自动实现。
在操作中,分类工作流用于IACS。所述工作流也可以用于光谱细胞分选仪或其他常规细胞分选仪。将无监督聚类和有监督分类结合的分类工作流的优点是,分类工作流减少了使用当前手动顺序门控识别感兴趣的亚群的方法时可能出现的偏差和人为错误。IACS对细胞执行高速成像,这使得能够实现使用传统的流式细胞计无法实现的新应用。IACS将流式细胞计的高吞吐量与显微镜的高内涵信息相结合。IACS分选细胞亚群以隔离/纯化这些群体以用于下游试验。细胞分选发生在不到500微秒内。
灵活的基于图像的颗粒分选的分类工作流的一些实施例
1、一种方法,包括:
使用细胞图像预训练特征编码器;
执行无监督聚类以识别群体,其中所述无监督聚类接收来自预训练特征编码器的输出;
实现分类器以微调有监督分类;以及
在主动分选期间使用所述分类器执行细胞的实时分类。
2、如条款1所述的方法,其中所述特征编码器从细胞图像中检测和测量特征值。
3、如条款1所述的方法,其中所述特征编码器是使用神经网络实现的。
4、如条款1所述的方法,其中所述特征编码器可扩展以适应1到12个图像通道。
5、如条款1所述的方法,其中执行所述无监督聚类包括将所述细胞图像的细胞分类成簇。
6、如条款1所述的方法,还包括基于所述无监督聚类的结果手动或自动确定要分选的细胞群体。
7、如条款5所述的方法,其中用户在所述无监督聚类之后基于查看所述簇和代表性信息来标记所述簇,其中簇被标记为“分选”或“不分选”。
8、如条款1所述的方法,其中所述分类器使用来自所述无监督聚类的分类器结果来微调卷积神经网络。
9、如条款1所述的方法,其中所述分类器被配置为针对每个实验被重新训练。
10、一种装置,包括:
用于存储应用的非暂态存储器,所述应用用于:
使用细胞图像预训练特征编码器;
执行无监督聚类以识别群体,其中所述无监督聚类接收来自预训练特征编码器的输出;
实现分类器以微调有监督分类;以及
在主动分选期间使用所述分类器执行细胞的实时分类;以及
耦合至所述存储器的处理器,所述处理器被配置用于处理所述应用。
11、如条款10所述的装置,其中所述特征编码器从细胞图像中检测和测量特征值。
12、如条款10所述的装置,其中所述特征编码器是使用神经网络实现的。
13、如条款10所述的装置,其中所述特征编码器可扩展以适应1到12个图像通道。
14、如条款10所述的装置,其中执行所述无监督聚类包括将所述细胞图像的细胞分类成簇。
15、如条款10所述的装置,还基于所述无监督聚类的结果自动确定要分选的细胞群体。
16、如条款15所述的装置,其中用户在所述无监督聚类之后基于查看所述簇和代表性信息来标记所述簇,其中簇被标记为“分选”或“不分选”。
17、如条款10所述的装置,其中所述分类器使用来自所述无监督聚类的分类器结果来微调卷积神经网络。
18、如条款10所述的装置,其中所述分类器被配置为针对每个实验被重新训练。
19、一种系统,包括:
第一设备,其被配置用于获取细胞图像;以及
第二设备,其被配置用于:
使用细胞图像预训练特征编码器;
执行无监督聚类以识别群体,其中所述无监督聚类接收来自预训练特征编码器的输出;
实现分类器以微调有监督分类;以及
在主动分选期间使用所述分类器执行细胞的实时分类;
20、如条款19所述的系统,其中所述特征编码器从细胞图像中检测和测量特征值。
21、如条款19所述的系统,其中所述特征编码器是使用神经网络实现的。
22、如条款19所述的系统,其中所述特征编码器可扩展以适应1到12个图像通道。
23、如条款19所述的系统,其中执行所述无监督聚类包括将所述细胞图像的细胞分类成簇。
24、如条款19所述的系统,还包括基于所述无监督聚类的结果手动或自动确定要分选的细胞群体。
25、如条款23所述的系统,其中用户在所述无监督聚类之后基于查看所述簇和代表性信息来标记所述簇,其中簇被标记为“分选”或“不分选”。
26、如条款19所述的系统,其中所述分类器使用来自所述无监督聚类的分类器结果来微调卷积神经网络。
27、如条款19所述的系统,其中所述分类器被配置为针对每个实验被重新训练。
本发明已根据具体实施例进行了描述,具体实施例结合了有助于理解本发明的构造和操作原理的细节。本文对具体实施例及其细节的这种引用并不旨在限制所附权利要求的范围。对于本领域的技术人员来说显而易见的是,在不偏离权利要求书所限定的本发明的精神和范围的情况下,可以对所选择的实施例进行其他各种修改以作说明。

Claims (27)

1.一种方法,包括:
使用细胞图像预训练特征编码器;
执行无监督聚类以识别群体,其中所述无监督聚类接收来自预训练特征编码器的输出;
实现分类器以微调有监督分类;以及
在主动分选期间使用所述分类器执行细胞的实时分类。
2.如权利要求1所述的方法,其中所述特征编码器从细胞图像中检测和测量特征值。
3.如权利要求1所述的方法,其中所述特征编码器是使用神经网络实现的。
4.如权利要求1所述的方法,其中所述特征编码器可扩展以适应1到12个图像通道。
5.如权利要求1所述的方法,其中执行所述无监督聚类包括将所述细胞图像的细胞分类成簇。
6.如权利要求1所述的方法,还包括基于所述无监督聚类的结果手动或自动确定要分选的细胞群体。
7.如权利要求5所述的方法,其中用户在所述无监督聚类之后基于查看所述簇和代表性信息来标记所述簇,其中簇被标记为“分选”或“不分选”。
8.如权利要求1所述的方法,其中所述分类器使用来自所述无监督聚类的分类器结果来微调卷积神经网络。
9.如权利要求1所述的方法,其中所述分类器被配置为针对每个实验被重新训练。
10.一种装置,包括:
用于存储应用的非暂态存储器,所述应用用于:
使用细胞图像预训练特征编码器;
执行无监督聚类以识别群体,其中所述无监督聚类接收来自预训练特征编码器的输出;
实现分类器以微调有监督分类;以及
在主动分选期间使用所述分类器执行细胞的实时分类;以及耦合至所述存储器的处理器,所述处理器被配置用于处理所述应用。
11.如权利要求10所述的装置,其中所述特征编码器从细胞图像中检测和测量特征值。
12.如权利要求10所述的装置,其中所述特征编码器是使用神经网络实现的。
13.如权利要求10所述的装置,其中所述特征编码器可扩展以适应1到12个图像通道。
14.如权利要求10所述的装置,其中执行所述无监督聚类包括将所述细胞图像的细胞分类成簇。
15.如权利要求10所述的装置,还基于所述无监督聚类的结果自动确定要分选的细胞群体。
16.如权利要求15所述的装置,其中用户在所述无监督聚类之后基于查看所述簇和代表性信息来标记所述簇,其中簇被标记为“分选”或“不分选”。
17.如权利要求10所述的装置,其中所述分类器使用来自所述无监督聚类的分类器结果来微调卷积神经网络。
18.如权利要求10所述的装置,其中所述分类器被配置为针对每个实验被重新训练。
19.一种系统,包括:
第一设备,其被配置用于获取细胞图像;以及
第二设备,其被配置用于:
使用细胞图像预训练特征编码器;
执行无监督聚类以识别群体,其中所述无监督聚类接收来自预训练特征编码器的输出;
实现分类器以微调有监督分类;以及
在主动分选期间使用所述分类器执行细胞的实时分类。
20.如权利要求19所述的系统,其中所述特征编码器从细胞图像中检测和测量特征值。
21.如权利要求19所述的系统,其中所述特征编码器是使用神经网络实现的。
22.如权利要求19所述的系统,其中所述特征编码器可扩展以适应1到12个图像通道。
23.如权利要求19所述的系统,其中执行所述无监督聚类包括将所述细胞图像的细胞分类成簇。
24.如权利要求19所述的系统,还包括基于所述无监督聚类的结果手动或自动确定要分选的细胞群体。
25.如权利要求23所述的系统,其中用户在所述无监督聚类之后基于查看所述簇和代表性信息来标记所述簇,其中簇被标记为“分选”或“不分选”。
26.如权利要求19所述的系统,其中所述分类器使用来自所述无监督聚类的分类器结果来微调卷积神经网络。
27.如权利要求19所述的系统,其中所述分类器被配置为针对每个实验被重新训练。
CN202180030063.XA 2020-11-19 2021-11-19 用于灵活的基于图像的颗粒分选的分类工作流 Pending CN115428038A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202063116090P 2020-11-19 2020-11-19
US63/116,090 2020-11-19
PCT/IB2021/060765 WO2022107077A1 (en) 2020-11-19 2021-11-19 Classification workflow for flexible image based particle sorting

Publications (1)

Publication Number Publication Date
CN115428038A true CN115428038A (zh) 2022-12-02

Family

ID=78819581

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180030063.XA Pending CN115428038A (zh) 2020-11-19 2021-11-19 用于灵活的基于图像的颗粒分选的分类工作流

Country Status (5)

Country Link
US (1) US12008825B2 (zh)
EP (1) EP4222719A1 (zh)
JP (1) JP7557067B2 (zh)
CN (1) CN115428038A (zh)
WO (1) WO2022107077A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024137292A1 (en) * 2022-12-24 2024-06-27 Invivoscribe, Inc. Automated gate drawing in flow cytometry data

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5985140B2 (ja) 2010-04-28 2016-09-06 ソニー株式会社 蛍光強度補正方法、蛍光強度算出方法及び蛍光強度算出装置
CN109100288A (zh) 2013-03-15 2018-12-28 艾瑞思国际股份有限公司 用于血液样品中的粒子分析的鞘流体系统和方法
US11403751B2 (en) 2016-08-22 2022-08-02 Iris International, Inc. System and method of classification of biological particles
FR3078777B1 (fr) 2018-03-07 2020-11-13 Alain Rousseau Procede d’analyse d’un echantillon biologique contenant des cellules biologiques, et appareil d’analyse pour la mise en œuvre du procede d’analyse
JP7338336B2 (ja) 2018-09-10 2023-09-05 ソニーグループ株式会社 微小粒子分取装置、細胞治療薬製造装置、微小粒子分取方法、及びプログラム
JP7228031B2 (ja) 2018-10-15 2023-02-22 ベンタナ メディカル システムズ, インコーポレイテッド 細胞の分類のためのシステムおよび方法
CN113316713A (zh) 2018-10-17 2021-08-27 贝克顿·迪金森公司 颗粒分析仪的自适应分选
EP3867768A1 (en) 2018-11-16 2021-08-25 Sony Group Corporation Information processing apparatus, information processing method, and program
US20220064594A1 (en) * 2018-12-21 2022-03-03 Abs Global, Inc. System and methods for sub-population identification
EP3796212B1 (en) * 2019-09-23 2024-06-26 Max-Planck-Gesellschaft zur Förderung der Wissenschaften e.V. Device for image-based cell classification, method therefor and use thereof

Also Published As

Publication number Publication date
EP4222719A1 (en) 2023-08-09
WO2022107077A1 (en) 2022-05-27
US20220156482A1 (en) 2022-05-19
JP7557067B2 (ja) 2024-09-26
JP2023550929A (ja) 2023-12-06
US12008825B2 (en) 2024-06-11

Similar Documents

Publication Publication Date Title
Rees et al. Imaging flow cytometry
US10801944B2 (en) High accuracy 5-part differential with digital holographic microscopy and untouched leukocytes from peripheral blood
EP2602608B1 (en) Analysis and sorting of biological cells in flow
US11391660B2 (en) Batch particle sorting
JP7557067B2 (ja) フレキシブルな画像ベースの粒子ソーティングのための分類ワークフロー
US11486814B2 (en) Particle sorting using microfluidic ejectors
US12078597B2 (en) Framework for image based unsupervised cell clustering and sorting
US20230377139A1 (en) Image-based unsupervised multi-model cell clustering
US12056944B2 (en) Efficient and robust high-speed neural networks for cell image classification
WO2024115999A1 (en) Image-based unsupervised multi-model cell clustering
WO2023171463A1 (ja) 情報処理装置及び情報処理システム
US20240295488A1 (en) Biological sample analysis system, information processor, information processing method, and biological sample analysis method
US20220390349A1 (en) Methods and systems for classifying flow cyometer data
WO2024111263A1 (ja) 生体試料分析装置、生体試料分析システム、及び生体試料分析装置の状態の検証方法
WO2024138139A1 (en) Population based cell classification
Moradi et al. Comprehensive quantitative analysis of erythrocytes and leukocytes using trace volume of human blood using microfluidic-image cytometry and machine learning
Out BI® _PHOTONICS
CN116106206A (zh) 智能事件成像流式细胞仪
Das Cell Sorting in Genomics: Beginners’ Guide
May Welcome Guest United States

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40076939

Country of ref document: HK