CN112881267A - 细胞解析方法、装置、系统及程序、以及训练的人工智能算法的生成方法、装置及程序 - Google Patents

细胞解析方法、装置、系统及程序、以及训练的人工智能算法的生成方法、装置及程序 Download PDF

Info

Publication number
CN112881267A
CN112881267A CN202011333845.4A CN202011333845A CN112881267A CN 112881267 A CN112881267 A CN 112881267A CN 202011333845 A CN202011333845 A CN 202011333845A CN 112881267 A CN112881267 A CN 112881267A
Authority
CN
China
Prior art keywords
cell
analysis
training
image
artificial intelligence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011333845.4A
Other languages
English (en)
Inventor
白井健太郎
胜俣惠理
冈本有司
今久保桃子
陆建银
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sysmex Corp
Original Assignee
Sysmex Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sysmex Corp filed Critical Sysmex Corp
Publication of CN112881267A publication Critical patent/CN112881267A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N15/14Optical investigation techniques, e.g. flow cytometry
    • G01N15/1468Optical investigation techniques, e.g. flow cytometry with spatial resolution of the texture or inner structure of the particle
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/6428Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/24Base structure
    • G02B21/26Stages; Adjusting means therefor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/698Matching; Classification
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/01Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials specially adapted for biological cells, e.g. blood cells
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N2015/1006Investigating individual particles for cytology
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N2015/1022Measurement of deformation of individual particles by non-optical means
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N2015/103Particle shape
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2223/00Investigating materials by wave or particle radiation
    • G01N2223/40Imaging
    • G01N2223/42Imaging image digitised, -enhanced in an image processor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Analytical Chemistry (AREA)
  • Artificial Intelligence (AREA)
  • Immunology (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Pathology (AREA)
  • Biochemistry (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Optics & Photonics (AREA)
  • Dispersion Chemistry (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Chemical Kinetics & Catalysis (AREA)
  • Geometry (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Evolutionary Biology (AREA)
  • Biophysics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Image Analysis (AREA)
  • Apparatus Associated With Microorganisms And Enzymes (AREA)

Abstract

本发明旨在提供使高精度并且高速解析受试体中所含的更多的细胞变得容易的细胞解析方法、细胞解析装置、细胞解析系统、及细胞解析程序、以及训练的人工智能算法的生成方法、生成装置、及生成程序。是由使用人工智能算法而对细胞进行解析的细胞解析方法解决课题,所述细胞解析方法包括:使含细胞的试样流经流路,拍摄通过所述流路内的细胞而生成解析对象图像,从生成的所述解析对象图像生成解析用数据,向所述人工智能算法输入生成的所述解析用数据,由所述人工智能算法生成显示所述解析对象图像中所含的细胞的性状的数据。

Description

细胞解析方法、装置、系统及程序、以及训练的人工智能算法 的生成方法、装置及程序
【技术领域】
本发明涉及对细胞进行解析的细胞解析方法、细胞解析装置、细胞解析系统、及细胞解析程序、以及用于对细胞进行解析的训练的人工智能算法的生成方法、生成装置、及生成程序。
【背景技术】
在专利文献1中公开了将进行过滤处理的显微镜图像适用于训练的机器学习模型,确定特定的类型的细胞的中心及边界,对确定的细胞进行计数的同时,输出该细胞的图像的方法。
【现有技术文献】
【专利文献】
【专利文献1】国际公开第2015/065697号
【发明的概要】
【发明要解决的课题】
在有具有肿瘤的可能性的患者的检查中,为了判断肿瘤的有无、抗癌疗法的效果、再发的有无等,有掌握在含多种细胞的受试体中以什么比例存在具有染色体异常的细胞或末梢循环肿瘤细胞等的异常细胞的必要。
受试体中所含的异常细胞也有与原本应存在于该受试体中的正常细胞的数比非常地少的情况。因此,为了检测受试体中所含的异常细胞,有解析更多的细胞的必要。但是,记载在专利文献1的方法由于使用显微镜图像,增加判断的细胞的数,则显微镜图像的取得所要求的时间增大了。
本发明旨在提供对于受试体中所含的更多的细胞而使高精度并且高速的解析变得容易的细胞解析方法、细胞解析装置、细胞解析系统、及细胞解析程序、以及训练的人工智能算法的生成方法、生成装置、及生成程序。
【用于解决课题的手段】
本发明的一实施方式涉及使用人工智能算法(60、63、97)对细胞进行解析的细胞解析方法。上述细胞解析方法使含细胞的试样(10)流经流路(111),拍摄通过流路(111)内的细胞而生成解析对象图像(80、85、95),从生成的上述解析对象图像(80、85、95)生成解析用数据(82、87、96),向上述人工智能算法(60、63、97)输入生成的上述解析用数据,由上述人工智能算法生成显示上述解析对象图像(80、85、95)中所含的细胞的性状的数据(84、88、98)。
本发明的一实施方式涉及使用人工智能算法(60、63、97)对细胞进行解析的细胞解析装置(400A、200B、200C)。细胞解析装置(400A、200B、200C)具备控制部(40A、20B、20C),所述控制部以如下方式构成:使含细胞的试样(10)流经流路(111),向上述人工智能算法(60、63、97)输入从拍摄通过上述流路(111)内的细胞的解析对象图像(80、85、95)生成的解析用数据(82、87、96),由上述人工智能算法(60、63、97)生成显示上述解析对象图像(80、85、95)中所含的细胞的性状的数据(84、88、98)。
本发明的一实施方式涉及细胞解析系统(1000、2000、3000)。细胞解析系统(1000、2000、3000)具备含细胞的试样(10)流经的流动池(110),用于向流经流动池(110)的试样(10)照射光的光源(120、121、122、123),拍摄照射上述光的试样(10)中的细胞的摄像部(160)和控制部(40A、20B、20C)。控制部(40A、20B、20C)以如下方式构成:以摄像部(160)拍摄的通过流路(111)内的细胞的图像作为解析对象图像(80、85、95)取得,从解析对象图像(80、85、95)生成解析用数据(82、87、96),向人工智能算法(60、63、97)输入解析用数据(82、87、96),由上述人工智能算法(60、63、97)生成显示上述解析对象图像(80、85、95)中所含的细胞的性状的数据(84、88、98)。
本发明的一实施方式涉及对细胞进行解析的细胞解析程序。上述细胞解析程序使计算机执行包括下列步骤的处理:使含细胞的试样(10)流经流路(111),向人工智能算法(60、63、97)输入从拍摄通过上述流路(111)内的细胞的解析对象图像(80、85、95)生成的解析用数据(82、87、96)的步骤(S22)和由人工智能算法(60、63、97)生成显示解析对象图像(80、85、95)中所含的细胞的性状的数据(84、88、98)的步骤(S32)。
细胞解析装置(400A、200B、200C)、细胞解析系统(1000、2000、3000)、及细胞解析程序对于受试体中所含的更多的细胞而使高精度并且高速的解析变得容易。
本发明的一实施方式涉及用于对细胞进行解析的训练的人工智能算法(60、63、97)的生成方法。上述生成方法包括使含细胞的试样(10)流经流路(111),向人工智能算法(50、53、94)输入从拍摄通过上述流路(111)内的细胞的训练图像(70、75、90)生成的训练用数据(73、78、92)和显示训练图像(70、75、90)中所含的细胞的性状的标签(74P、74N、79P、79N、93P、93N),训练人工智能算法(50、53、94)。
本发明的一实施方式涉及用于对细胞进行解析的训练的人工智能算法(60、63、97)的生成装置(200A、200B、200C)。生成装置(200A、200B、200C)具备使含细胞的试样(10)流经流路(111),向人工智能算法(50、53、94)输入从拍摄通过流路(111)内的细胞的训练图像(70、75、90)生成的训练用数据(73、78、92)和显示上述训练图像(70、75、90)中所含的细胞的性状的标签(74P、74N、79P、79N、93P、93N),训练人工智能算法(50、53、94)的,控制部(20A、20B、20C)。
本发明的一实施方式涉及用于对细胞进行解析的训练的人工智能算法(60、63、97)的生成程序。上述生成程序使计算机执行具备下列步骤的处理:使含细胞的试样(10)流经流路(111),向人工智能算法(50、53、94)输入从拍摄通过上述流路(111)内的细胞的训练图像(70、75、90)生成的训练用数据(73、78、92)和显示训练图像(70、75、90)中所含的细胞的性状的标签(74P、74N、79P、79N、93P、93N)的步骤(S12)和训练人工智能算法(50、53、94)的步骤(S12)。
由训练的人工智能算法(60、63、97)的生成方法、生成装置(200A、200B、200C)、及生成程序可生成对于受试体中所含的更多的细胞而使高精度并且高速的解析变得容易的人工智能算法(60、63、97)。
【发明的效果】
对于受试体中所含的更多的细胞而可使高精度并且高速的解析变得容易。
【附图的简单的说明】
【图1】显示训练用于对染色体异常进行解析的第1人工智能算法50的训练数据的生成方法。(A)显示阳性训练数据的生成方法。(B)显示阴性训练数据的生成方法。
【图2】显示训练用于对染色体异常进行解析的第1人工智能算法50的训练数据的生成方法。
【图3】显示为了对染色体异常进行解析而解析数据的生成方法和由训练的第1人工智能算法60的细胞的解析方法。
【图4】显示利用成像流式细胞仪的PML-RARA嵌合体基因阳性细胞的染色图案。(A)之左显示通道2的图像,右显示通道2的图像。(B)是与(A)不同的细胞,左侧显示通道2的图像,右侧显示通道2的图像。
【图5】显示荧光标记的图案例。
【图6】显示荧光标记的图案例。
【图7】显示荧光标记的图案例。
【图8】显示训练用于对末梢循环肿瘤细胞进行解析的第1人工智能算法53的训练数据的生成方法。
【图9】显示训练用于对末梢循环肿瘤细胞进行解析的第1人工智能算法53的训练数据的生成方法。(A)显示阳性训练数据的生成方法。(B)显示阴性训练数据的生成方法。
【图10】显示训练用于对末梢循环肿瘤细胞进行解析的第1人工智能算法53的训练数据的生成方法。
【图11】显示为了对末梢循环肿瘤细胞进行解析而解析数据的生成方法和由训练的第1人工智能算法63的细胞的解析方法。
【图12】(A)显示训练用于对末梢循环肿瘤细胞进行解析的第2人工智能算法94的训练数据的生成方法。(B)显示解析数据的生成方法和由第2人工智能算法97的细胞的解析方法。
【图13】显示用于训练第2人工智能算法94的特征量。
【图14】显示用于训练第2人工智能算法94的特征量的定义。(A)表示高度和宽度。(B)表示长轴和短轴。(C)表示长度、最大厚度、最小厚度。(D)表示长宽比、伸长度、形状比。(E)表示叶对称性图案。
【图15】显示细胞解析系统1000的硬件构成。
【图16】显示训练装置200A、200B、200C的硬件构成。
【图17】显示训练装置200A的功能块。
【图18】(A)显示第1人工智能算法的训练处理的流程图。(B)显示第2人工智能算法的训练处理的流程图。
【图19】显示细胞摄像装置100A和细胞解析装置400A的硬件构成。
【图20】显示细胞解析装置400A的功能块。
【图21】显示细胞解析处理的流程图。
【图22】显示细胞解析系统2000的硬件构成。
【图23】显示训练/解析装置200B的功能块。
【图24】显示细胞解析系统3000的硬件构成。
【图25】显示训练200C的功能块。
【图26】(A)显示用于探讨对末梢循环肿瘤细胞进行解析的人工智能算法(CNN)的数据集。(B)显示训练的人工智能算法的正答率。(C)显示正解图像的例。
【图27】显示用于探讨对末梢循环肿瘤细胞进行解析的人工智能算法(随机森林、梯度提升)的数据集。
【图28】(A)显示对染色体异常进行解析的CNN的损失函数。(B)显示对染色体异常进行解析的CNN的正答率。
【图29】(A)显示受试体编号04-785的推论结果。(B)显示受试体编号03-352的推论结果。(C)显示受试体编号11-563的推论结果。
【具体实施方式】
以下,参照附带的附图而详细地说明本发明的概要及实施方式。再者,在以下的说明及附图中,相同的符号就表示相同的或类似的构成要素,从而,有时省略关于相同的或类似的构成要素的说明。
【I.细胞的解析方法】
【1.细胞解析方法的概要】
本实施方式涉及使用人工智能算法对细胞进行解析的细胞解析方法。在细胞解析方法中,拍摄成为解析对象的细胞的解析对象图像使含细胞的试样流经流路,拍摄通过上述流路内的细胞而取得。用于向人工智能算法输入的解析用数据从取得的上述解析对象图像生成。当向人工智能算法输入解析用数据时,由人工智能算法生成显示解析对象图像中所含的细胞的性状的数据。解析对象图像优选为逐个拍摄通过流路内的细胞。
在本实施方式中,试样可举由从受试者采集的受试体调制的试样。受试体可含例如,末梢血、静脉血、动脉血等的血液受试体、尿受试体、血液及尿以外的体液受试体。作为血液及尿以外的体液,可含骨髓、腹水、胸水、髓液等。有时将血液及尿以外的体液简称为“体液”。血液优选为末梢血。例如,血液可举使用乙二胺四醋酸盐钠盐或钾盐)、肝素钠等的抗凝固剂而采血的末梢血。
自受试体的试样的调制可根据公知的方法而进行。例如,检查者对于从受试者采集的血液受试体使用Ficoll等的细胞分离用介质而进行离心分离等而回收有核细胞。对于有核细胞的回收,也可通过代替由离心分离的有核细胞的回收而使用溶血剂而使红细胞等溶血来留有核细胞。对回收的有核细胞的目标部位,由后述的选自Fluorescence原位杂交(FISH)法、免疫染色法、及细胞器染色法等的至少1个进行标记、优选荧光标记,以被标记的细胞的悬浮液作为试样,供于例如成像流式细胞仪,进行可成为解析对象的细胞的摄像。
在试样中可含多个细胞。试样中所含的细胞数不特别限制,至少102个以上、优选103个以上、更优选为104个以上、再者优选105个以上、比再者优选106个以上。另外,多个细胞可含不同的种类的细胞。
在本实施方式中,也将成为解析对象得的细胞称为解析对象细胞。解析对象细胞可为从受试者采集的受试体中所含的细胞。优选上述细胞可为有核细胞。在细胞中可含正常细胞和异常细胞。
正常细胞是指对应于采集受试体的体的部位而原本应含在上述受试体中的细胞。异常细胞是指正常细胞以外的细胞。在异常细胞中,可含具有染色体异常的细胞、及/或肿瘤细胞。其中,上述肿瘤细胞优选为末梢循环肿瘤细胞。更优选,末梢循环肿瘤细胞不是指在通常的病态中在血液中存在肿瘤细胞的造血系肿瘤细胞,而是指以造血系细胞系统以外的细胞系列作为起源的肿瘤细胞在血液中循环。在本说明书中,也将在末梢循环的肿瘤细胞称为循环肿瘤细胞(circulating tumor cells,CTC)。
检测染色体异常时的目标部位是解析对象细胞的核。作为染色体异常,例如可举染色体的转座、缺失、逆位、重复等。作为具有这样的染色体异常的细胞,可举例如,在罹患选自骨髓发育异常综合征、急性成髓细胞性白血病、急性成髓细胞性白血病、急性前髓细胞性白血病、急性骨髓单核细胞性白血病、急性单核细胞性白血病、赤白血病、急性成巨核细胞性白血病、急性骨髓性白血病、急性淋巴细胞性白血病、成淋巴细胞性白血病、慢性骨髓性白血病、或者慢性淋巴细胞性白血病等的白血病、霍奇金淋巴瘤、非霍奇金淋巴瘤等的恶性淋巴瘤、及多发性骨髓瘤的疾病时出现的细胞。
染色体异常可由FISH法等的公知的方法检测。一般而言,用于检测染色体异常的检查项目对应于要检测的异常细胞的种类设定。对应于对于受试体而进行何种检查项目,成为解析对象的基因、或者基因座作为解析项目设定。在由FISH法的染色体异常的检测中,通过使存在于成为解析对象的细胞的核内的基因、或者对于基因座特异性地结合的探针杂交,可检测染色体的位置的异常或者数的异常。探针被标记物质标记。标记物质优选为荧光染料。标记物质对应于探针而不同,在标记物质是荧光染料时,将具有不同的荧光的波长区域的荧光染料组合,对于1个细胞能检测多个基因、或者基因座。
异常细胞是在罹患指定的疾病时出现的细胞,可含例如,癌细胞、白血病细胞等的肿瘤细胞等。在造血系器官的情况中,指定的疾病是可选自骨髓发育异常综合征、急性成髓细胞性白血病、急性成髓细胞性白血病、急性前髓细胞性白血病、急性骨髓单核细胞性白血病、急性单核细胞性白血病、赤白血病、急性成巨核细胞性白血病、急性骨髓性白血病、急性淋巴细胞性白血病、成淋巴细胞性白血病、慢性骨髓性白血病、或者慢性淋巴细胞性白血病等的白血病、霍奇金淋巴瘤、非霍奇金淋巴瘤等的恶性淋巴瘤、及多发性骨髓瘤的疾病。另外,在造血系器官以外的器官的情况中,指定的疾病可为从上咽头、食道、胃、十二指肠、空肠、回肠、盲肠、阑尾、升结肠、横结肠、下行结肠、S状结肠、直肠或肛门部等发生的消化管系恶性肿瘤;肝脏癌;胆囊癌胆管癌;胰腺癌;胰腺管癌;从膀胱、尿管或肾脏发生的泌尿器系恶性肿瘤;从卵巢、卵管及子宫等发生的女性生殖器系恶性肿瘤;乳腺癌;前列腺癌;皮肤癌;下丘脑、垂体、甲状腺、副甲状腺、肾上腺、胰腺等的内分泌系恶性肿瘤;中枢神经系恶性肿瘤;从骨软部组织发生的恶性肿瘤等的实体瘤。
异常细胞的检测可使用选自明场图像、对于各种抗原的免疫染色图像、及对细胞器特异性地进行染色的细胞器染色图像的至少1个而进行。
明场图像可通过向细胞照射光,拍摄自细胞的透射光或反射光来取得。优选,明场图像优选为使用透射光拍摄细胞的位相差的图像。
免疫染色图像可通过拍摄通过使用能与存在于选自核、细胞质、及细胞表面的至少1个细胞内或细胞上的目标部位的抗原结合的抗体对标记物质进行标记而实施免疫染色的细胞取得。标记物质优选使用与FISH法同样地荧光染料。标记物质对应于抗原而不同,在标记物质是荧光染料时,将具有不同的荧光的波长区域的荧光染料组合,能对于1个细胞检测多个抗原。
细胞器染色图像可通过拍摄使用能与存在于选自核、细胞质、及细胞膜的至少1个细胞内或细胞膜的目标部位的蛋白质、糖链、脂质或核酸等选择性地结合的染料实施染色的细胞来取得。例如,作为对核具有特异性的染色染料,可举Hoechst(商标)33342、Hoechst(商标)33258、4’,6-diamidino-2-phenylindole(DAPI)、Propidium Iodide(PI)、ReadyProbes(商标)核染色试剂等的DNA结合染料、CellLight(商标)试剂等的组蛋白质结合试剂等。作为对核小体、及RNA具有特异性的染色试剂,可举与RNA特异性地结合的SYTO(注册商标)RNASelect(商标)等。作为对细胞骨架具有特异性的染色试剂,可举例如荧光标记鬼笔环肽等。作为对作为此外的细胞器的溶酶体、小泡体、高尔基体、线粒体等进行染色的染料,例如可使用Abcam公司(Abcam plc,Cambridge,UK)的CytoPainter系列。这些染色染料、或者染色试剂是荧光染料,或是含荧光染料的试剂,可对应于在对于细胞器或1个细胞一同实施的别的染色中使用的荧光染料的荧光的波长区域,选择不同的荧光的波长区域。
在检测异常细胞时,对应于检测何种异常细胞而设定检查项目。在检查项目中,可含对于检测异常细胞必要的解析项目。解析项目可与上述的明场图像、各抗原、各细胞器相对应设定。具有各自不同的荧光的波长区域的荧光染料对应于除明场之外的各解析项目,在1个细胞中能检测不同的解析项目。
用于向人工智能算法输入的解析用数据由后述的方法取得。由人工智能算法生成的,显示解析对象图像中所含的细胞的性状的数据是例如,显示解析对象细胞是正常还是异常的数据。更具体而言,显示解析对象图像中所含的细胞的性状的数据是显示解析对象细胞是具有染色体异常的细胞与否,或者是末梢循环肿瘤细胞与否的数据。
在本说明书中,记载的便利上,有时将“解析对象图像”称为“解析图像”,将“解析用数据”称为“解析数据”,将“训练用图像”称为“训练图像”,将“训练用数据”称为“训练数据”。另外,“荧光图像”是指拍摄荧光标记的训练图像或拍摄荧光标记的解析图像。
【2.使用第1人工智能算法的细胞解析方法】
对于第1人工智能算法50、53的训练方法和使用训练的第1人工智能算法60、63的细胞的解析方法而使用图1至图11进行说明。第1人工智能算法60、63可为具有神经网络结构的深层学习算法。上述神经网络结构可从全连接的深度神经网络(FC-DNN)、折叠神经网络(CNN)、自身回归神经网络(RNN)、及这些的组合选择。优选为折叠神经网络。
人工智能算法可使用例如,从Python公司提供的。
【2-1.用于检测染色体异常的人工智能算法】
本实施方式涉及用于检测染色体异常的第1人工智能算法60的训练方法和用于检测染色体异常的使用第1人工智能算法60的细胞的解析方法。其中“训练”或“训练”这样的用语有时置换为“生成”或“生成”这样的用语使用。
【(1)训练数据的生成】
使用图1及图2对于用于检测染色体异常的第1人工智能算法50的训练方法进行说明。在图1显示使用座位于15号染色体长臂(15q24.1)的作为转录控制因子的PML基因和座位于17号染色体长臂(17q21.2)的视黄酸受体α(RARA)基因相互转座而形成的PML-RARA嵌合体基因的FISH染色的图像的例。
如图1所示,从拍摄作为染色体异常是阳性的细胞(以下,称为“第1阳性对照细胞”)的阳性训练图像70P和拍摄染色体异常是阴性的细胞(以下,称为“第1阴性对照细胞”)的阴性训练图像70N各自生成阳性训练数据73P和阴性训练数据73N。有时将阳性训练图像70P和阴性训练图像70N并称为训练图像70。另外,有时将阳性训练数据73P和阴性训练数据73N并称为训练数据73。
其中,在例示检测PML-RARA嵌合体基因的情况中。显示使检测PML基因座的探针结合发绿色的波长区域的荧光的第1荧光染料,使检测RARA基因座的探针结合与第1荧光染料不同的发红色的波长区域的荧光的第2荧光染料的例。可使用结合第1荧光染料的探针和结合第2荧光染料的探针,由FISH法对第1阳性对照细胞和第1阴性对照细胞的各自的核实施第1荧光染料和第2荧光染料的标记。有时将在目标部位的由第1荧光染料的标记称为第1荧光标记,将目标部位的由第2荧光染料的标记称为第2荧光标记。
可将含具有第1荧光标记和第2荧光标记的细胞的试样供于成像流式细胞仪等的细胞摄像装置中的解析,拍摄细胞的图像。细胞的摄像图像可对于相同的细胞的相同的视野而含多个图像。第1荧光标记和第2荧光标记由于各自的荧光染料所具有的荧光的波长区域不同,用于透过从第1荧光染料发出的光的第1滤镜和用于透过从第2荧光染料发出的光的第2滤镜不同。因此,透过第1滤镜的光和透过第2滤镜的光经对应于各自的第1通道及第2通道而被后述的摄像部160收取,作为相同细胞的相同视野的别图像拍摄。即,在摄像部160中,对于相同细胞的相同视野而取得多个对应于标记细胞的标记物质的数的图像。
从而,在图1的例中,如图1(A)所示,在阳性训练图像70P中,可含对于第1阳性对照细胞,经第1通道拍摄绿色的第1荧光标记的第1阳性训练图像70PA和经第2通道拍摄红色的第2荧光标记的第2阳性训练图像70PB。第1阳性训练图像70PA和第2阳性训练图像70PB作为相同细胞的相同视野的图像对应。第1阳性训练图像70PA和第2阳性训练图像70PB,接下来,将图像内的各像素(象素)中的拍摄的光的亮度变换为以数值表示的第1阳性数值训练数据71PA和第2阳性数值训练数据71PB。
使用第1阳性训练图像70PA,对于第1阳性数值训练数据71PA的生成方法进行说明。为了提取细胞区域,例如,将摄像部160中拍摄的各图像修整处理为指定数的像素数、例如纵100象素×横100象素的像素数而生成训练图像70。此时,对于1个细胞而以从各通道取得的图像成为相同的视野的方式修整处理。修整处理可例示确定细胞的重心,以重心作为中心的指定数的像素数的范围内切出细胞区域。拍摄流经流动池的细胞的图像有时图像中的细胞的位置在图像间不同,通过进行修整,更高精度的训练变得可能。第1阳性训练图像70PA作为例如16位的灰度图像表示。从而,在各像素中其像素的亮度可以1~65,536的65,536色阶的亮度的数值表示。如图1(A)所示,显示第1阳性训练图像70PA的各像素中的亮度的色阶的值是第1阳性数值训练数据71PA,以与各像素相对应的数字的行列表示。
与第1阳性数值训练数据71PA同样地,可从第2阳性训练图像70PB生成将图像内的各像素(象素)中的拍摄的光的亮度用数值显示的第2阳性数值训练数据71PB。
接下来,将第1阳性数值训练数据71PA和第2阳性数值训练数据71PB每像素整合,生成阳性整合训练数据72P。如图1(A)所示,阳性整合训练数据72P成为第1阳性数值训练数据71PA的各像素中的数值与第2阳性数值训练数据71PB的对应的各像素中的值并排显示的行列数据。
接下来,向阳性整合训练数据72P附表示此阳性整合训练数据72P来源于第1阳性对照细胞的标签值74P,生成标签附带阳性整合训练数据73P。作为表示是第1阳性对照细胞的标签,在图1(A)中附“2”。
从阴性训练图像70N也与生成标签附带阳性整合训练数据73P时同样地生成标签附带阴性整合训练数据73N。
如图1(B)所示,阴性训练图像70N含对于第1阴性对照细胞经第1通道拍摄绿色的第1荧光标记的第1阴性训练图像70NA和经第2通道拍摄红色的第2荧光标记的第2阴性训练图像70NB。摄像及修整、各像素中的光的亮度的数值化与从第1阳性训练图像70PA取得第1阳性数值训练数据71PA时同样。可由与第1阳性数值训练数据71PA相同的方法从第1阴性训练图像70NA生成将图像内的各像素(象素)中的拍摄的光的亮度用数值显示的第1阴性数值训练数据71NA。
同样地,可从第2阴性训练图像70NB生成将图像内的各像素(象素)中的拍摄的光的亮度用数值显示的第2阴性数值训练数据71NB。
如图1(B)所示,根据生成阳性整合训练数据72P的方法而针对每个像素整合第1阴性数值训练数据71NA和第2阴性数值训练数据71NB,生成阴性整合训练数据72N。如图1(B)所示,阴性整合训练数据72N成为第1阴性数值训练数据71NA的各像素中的数值与第2阴性数值训练数据71NB的对应的各像素中的值并排显示的行列数据。
接下来,向阴性整合训练数据72N附表示此阴性整合训练数据72N来源于第1阴性对照细胞的标签值74N,生成标签附带阴性整合训练数据73N。作为表示是第1阴性对照细胞的标签,在图1(B)中附“1”。
在图2显示输入第1人工智能算法50中生成的标签附带阳性整合训练数据73P和标签附带阴性整合训练数据73N的方法。在具有神经网络结构的第1人工智能算法50中的输入层50a的节点数对应于训练图像70的象素数(在上述例中100×100=10,000)和对于1个细胞的通道数(在上述例中,绿色通道和红色通道的2通道)的积。向神经网络的输入层50a输入相当于标签附带阳性整合训练数据73P的阳性整合训练数据72P的数据。向神经网络的输出层50b输入对应于输入到输入层50a的数据的标签值74P。另外,向神经网络的输入层50a输入对应于标签附带阴性整合训练数据73N的阴性整合训练数据72N的数据。向神经网络的输出层50b输入对应于输入到输入层50a的数据的标签值74N。由这些输入计算神经网络的中间层50c中的各权重,训练第1人工智能算法50,生成训练的第1人工智能算法60。
【(2)解析用数据的生成和细胞解析】
使用图3,对于拍摄流经流动池110的细胞,从生成的解析图像80生成整合解析数据82,使用训练的第1人工智能算法60的细胞解析方法进行说明。解析图像80可与拍摄训练图像70的方法同样地拍摄。
如图3所示,将流经流动池110的细胞用摄像部160拍摄,生成解析图像80。通过拍摄流经流动池110的细胞,可在短时间内生成多数的解析图像80,对于多数的细胞而短时间内的解析变得可能。有受试体中所含的异常细胞与原本应存在于该受试体中的正常细胞的数比非常地少的情况,由能对多数的细胞进行短时间内的解析的本解析方法可抑制异常细胞的忽略。解析图像80含对于解析对象细胞经第1通道拍摄绿色的第1荧光标记的第1解析图像80A和经第2通道拍摄红色的第2荧光标记的第2解析图像80B。摄像及修整、各像素中的光的亮度的数值化与从第1阳性荧光标记图像70PA取得第1阳性数值训练数据71PA时同样。如上所述,拍摄流经流动池的细胞的图像的图像中的细胞的位置有时在图像间不同,通过进行修整,更高精度的解析变得可能。可由与第1阳性数值训练数据71PA相同的方法从第1解析图像80A生成将图像内的各像素(象素)中的拍摄的光的亮度用数值显示的第1数值解析数据81A。
同样地,可从第2解析图像80B生成将图像内的各像素(象素)中的拍摄的光的亮度用数值显示的第2数值解析数据81B。
如图3所示,根据生成阳性整合训练数据72P的方法而针对每个像素整合第1数值解析数据81A和第2数值解析数据81B而生成整合解析数据82。如图3所示,整合解析数据82成为第1数值解析数据81A的各像素中的数值与第2数值解析数据81B的对应的各像素中的值并排显示的行列数据。
如图3所示,向训练的第1人工智能算法60内的神经网络的输入层60a输入生成的整合解析数据82。输入的整合解析数据82中所含的值经神经网络的中间层60c而从神经网络的输出层60b输出显示解析对象细胞是否具有染色体异常的标签值84。在图3中所示的例中,在解析对象细胞被判断为不具有染色体异常时,作为标签值输出“1”,在判断为具有染色体异常时,作为标签值,输出“2”。也可代替标签值而输出“无”、“有”或“正常”、“异常”等的标签。
【(3)其他构成】
i.在本实施方式中,有时在成像流式细胞仪中使用拍摄细胞时用于放大景深的Extended Depth of Field(EDF)滤镜,对摄像后的图像的焦点深度进行复原处理而向检查者提供细胞图像。但是,在本实施方式中使用的训练图像70及解析图像80优选为对于使用EDF滤镜拍摄的图像,未进行复原处理的图像。未进行复原处理的图像的例示于图4。图4显示PML-RARA嵌合体基因是阳性的细胞。(A)和(B)是不同的细胞的图像。图4(A)及图4(B)的左侧的图像显示拍摄第1荧光标记的图像。图4(A)及图4(B)的右侧的图像是显示与左侧的细胞相同细胞,在与左侧的图像相同视野中拍摄第2荧光标记的图像。
ii.从训练图像70及解析图像80在摄像时,可排除焦点不合的图像。图像的焦点相合与否在对于各像素而求出与邻接的像素的亮度的差分之时,在图像整体中不含差分的梯度变极端的部分时,可判断为该图像焦点不合。
iii.在本实施方式中使用的训练图像70及解析图像80以成为纵100象素×横100象素的方式修整例示性地像素数,但图像的大小不限于此。像素数可在纵50~500象素、横50~500象素之间适宜设定。图像的纵方向的像素数和横方向的像素数无必然相同的必要。但是,用于训练第1人工智能算法50的训练图像70和用于生成向使用上述训练图像70训练的第1人工智能算法60输入的整合解析数据82的解析图像80优选为相同的像素数,纵方向和横方向的像素数也相同。
iv.在本实施方式中,训练图像70及解析图像80使用16位的灰度图像。但是,亮度的色阶除了16位之外、也可为8位、32位等。另外,在本实施方式中,对于各数值训练数据71PA、71PB、71NA、71NB而直接使用以16位(65,536色阶)表示的亮度的数值,但也可进行将这些数值以一定幅的色阶综合的低维化处理,以低维化后的数值作为各数值训练数据71PA、71PB、71NA、71NB使用。此时,优选对于训练图像70及解析图像80而进行相同的处理。
v.在本实施方式中可检测的染色体异常不限定于PML-RARA嵌合体基因。例如,可检测BCR/ABL融合基因、AML1/ETO(MTG8)融合基因(t(8;(21))、PML/RARα融合基因(t(15;(17))、AML1(21q22)转座、MLL(11q23)转座、TEL(12p13)转座、TEL/AML1融合基因(t(12;(21))、IgH(14q32)转座、CCND1(BCL1)/IgH融合基因(t(11;(14))、BCL2(18q21)转座、IgH/MAF融合基因(t(14;(16))、IgH/BCL2融合基因(t(14;(18))、c-myc/IgH融合基因(t(8;(14))、FGFR3/IgH融合基因(t(4;(14))、BCL6(3q27)转座、c-myc(8q24)转座、MALT1(18q21)转座、API2/MALT1融合基因(t(11;(18)转座)、TCF3/PB×1融合基因(t(1;(19)转座)、EWSR1(22q12)转座、PDGFRβ(5q32)转座等。
另外,在转座中可含各种各样的变化。在图5及图6显示BCR/ABL融合基因的典型阳性图案(主图案)的荧光标记的例。在重叠第1荧光标记图像及第2荧光标记图像的状态下,在使用ES探针时,阴性例第1荧光标记的数是2个,第2荧光标记的数是2个,融合荧光标记图像的数是0个。使用ES探针的典型阳性图案第1荧光标记的数是1个,第2荧光标记的数是2个,融合荧光标记的数是1个。在使用DF探针时,在重叠第1荧光标记图像及第2荧光标记图像的状态下,阴性图案的第1荧光标记的数是2个,第2荧光标记的数是2个,融合荧光标记的数是0个。使用DF探针的典型阳性图案例的第1荧光标记的数是1个,第2荧光标记的数是1个,融合荧光标记的数是2个。
图6是BCR/ABL融合基因的非典型阳性图案的荧光标记的例。非典型阳性图案的1例是次要BCR/ABL图案,由于BCR基因的切断点处于BCR基因的比较上游,用ES探针也检测到3个第1荧光标记。非典型阳性图案的其他例是以9号染色体的ABL基因作为目标的探针的结合区域的一部分缺失的例,在依赖于其而使用DF探针时原本理应检测到2个融合荧光标记仅检测到1个。另外,非典型阳性图案的其他例是以9号染色体的ABL基因作为目标的探针的结合区域的一部分和以22号染色体的BCR基因作为目标的探针的结合区域的一部分一同缺失的例。在依赖于其而使用DF探针时原本理应检测到2个融合荧光标记仅检测到1个。
在图7显示检测与ALK基因座关联的染色体异常时的阴性图案及阳性图案的参照图案的例。在阴性图案中,由于ALK基因不被切断,存在2个融合荧光标记。一方面,在阳性图案中,由于ALK基因被切断,融合荧光标记成为仅1个(仅等位基因的一方被切断时),或变得确认不到融合荧光标记(等位基因的两方被切断时)。此阴性图案及阳性图案是除了ALK基因之外、ROS1基因、RET基因也相同。
再者,在图7显示缺失第5号染色体长臂(5q)的染色体异常的参照图案的例。例如,以第1荧光标记探针与第5号染色体长臂结合,第2荧光标记探针与第5号染色体的着丝粒结合的方式设计。在阴性图案中,由于第5号染色体的着丝粒的数和第5号染色体长臂的数相同,第1荧光标记和第2荧光标记反映相同染色体的数而存在各2个。在阳性图案中,第5号染色体的一方或两方发生长臂的缺失,第1荧光标记的数成为仅1个或0个。此阴性图案和阳性图案的其他染色体的短臂或长臂的缺失也相同。作为其他染色体的长臂缺失的例,可举第7号染色体、及第20号染色体的长臂缺失。另外,此外、作为显示同样的阳性图案及阴性图案的例,可举7q31(缺失)、p16(9p21缺失解析)、IRF-1(5q31)缺失、D20S108(20q12)缺失、D13S319(13q14)缺失、4q12缺失、ATM(11q22.3)缺失、p53(17p13.1)缺失等。
再者另外,在图7显示第8号染色体三体性的例。第1荧光标记探针例如与第8号染色体的着丝粒结合。阳性图案的第1荧光标记成为3个。阴性图案的第1荧光标记成为2个。这样的荧光标记图案的第12号染色体三体性也同样。再者,在第7号染色体单体性中,使用例如与第7号染色体的着丝粒结合的第1荧光标记探针时,阳性图案的第1荧光标记成为1个。阴性图案的第1荧光标记成为2个。
【2-2.用于检测末梢循环肿瘤细胞的人工智能算法】
本实施方式涉及用于检测末梢循环肿瘤细胞的第1人工智能算法63的训练方法和用于检测末梢循环肿瘤细胞的使用第1人工智能算法63的细胞的解析方法。其中“训练”或“训练”这样的用语有时置换为“生成”或“生成”这样的用语使用。
【(1)训练数据的生成】
使用图8至图10,对于用于检测末梢循环肿瘤细胞的第1人工智能算法53的训练方法进行说明。
图8显示对于由摄像部160拍摄的图像的预处理方法。图8(A)显示预处理前的摄像图像。预处理是用于使训练图像75及解析图像85成为相同的大小的修整处理,可对于作为训练图像75或解析图像85使用的图像全部而进行。在图8(A)中(a)和(b)是相同的细胞的摄像,但拍摄时的通道不同。在图8(A)中,(c)是拍摄与(a)不同的细胞的图像。(c)和(d)是相同的细胞的摄像,但拍摄时的通道不同。如图8(A)的(a)和(c)所示,拍摄细胞时的图像的尺寸有时不同。另外,细胞本身的大小也对应于细胞而不同。从而,优选以反映细胞的大小,并且成为相同的图像尺寸的方式修整取得的图像。在图8中所示的例中,以图像内的细胞的核的重心作为中心,从上述中心在纵方向及横方向作为修整位置设定各16象素离的位置。由修整切出的图像示于图8(B)。图8(B)(a)是从图8(A)(a)切出的图像,图8(B)(b)是从图8(A)(b)切出的图像,图8(B)(c)是从图8(A)(c)切出的图像,图8(B)(d)是从图8(A)(d)切出的图像。图8(B)的各图像成为纵32象素×横32象素。核的重心可使用例如,附属于成像流式细胞仪(ImageStream MarkII,Luminex)的解析软件(IDEAS)确定。
在图9及图10显示第1人工智能算法53的训练方法。
如图9所示,从拍摄末梢循环肿瘤细胞(以下,称为“第2阳性对照细胞”)的阳性训练图像75P和拍摄末梢循环肿瘤以外的细胞(以下,称为“第2阴性对照细胞”)的阴性训练图像75N各自生成阳性整合训练数据78P和阴性整合训练数据78N。有时将阳性训练图像75P和阴性训练图像75N并称为训练图像75。另外,有时将阳性整合训练数据78P和阴性整合训练数据78N并称为训练数据78。
在检测末梢循环肿瘤细胞时,在由摄像部160拍摄的图像中,可含明场图像和荧光图像。明场图像可为拍摄细胞的位相差的图像。此摄像可由例如第1通道拍摄。荧光图像是拍摄由免疫染色、或者细胞器染色标记在细胞内的目标部位的荧光标记的。荧光标记是每种抗原及/或针对每个细胞器由具有不同的荧光的波长区域的荧光染料进行。
例如,在使第1抗原结合发第1绿色的波长区域的荧光的第1荧光染料时,通过使与第1抗原直接或间接结合的抗体结合第1荧光染料,可对第1抗原标记第1荧光染料。
在使与第2抗原结合的抗体结合与第1荧光染料不同的发红色的波长区域的荧光的第2荧光染料时,通过使与第2抗原直接或间接结合的抗体结合第2荧光染料,可对第2抗原标记第2荧光染料。
在使与第3抗原结合的抗体结合与第1荧光染料及第2荧光染料不同的发黄色的波长区域的荧光的第3荧光染料时,通过使与第3抗原直接或间接结合的抗体结合第3荧光染料,可对第3抗原标记第3荧光染料。
这样,通过对每抗原及/或每细胞器标记具有不同的荧光的波长区域的荧光染料,可第1荧光标记至第X番目的至荧光标记,标记具有不同的荧光的波长区域的荧光染料。
可将含具有第1荧光标记至第X的荧光标记的细胞的试样供于成像流式细胞仪等的细胞摄像装置中的摄像,拍摄细胞的图像。细胞的摄像图像可对于相同的细胞的相同的视野而含多个图像。第1荧光标记至第X的荧光标记由于各自的荧光染料所具有的荧光的波长区域不同,用于透过从各荧光染料发出的光的滤镜每荧光染料不同。另外,明场图像有使用与透过来自荧光染料的光的滤镜不同的滤镜的必要。因此,透过各滤镜的光经对应于各自的各通道而被后述的摄像部160收取,作为相同细胞的相同视野的别图像拍摄。即,在摄像部160中,对于相同细胞的相同视野而取得对应于向标记细胞的标记物质的数加明场图像的数的数的多个图像。
在图9中所示的例中,在图9(A)及(B)中,第1通道(Ch1)显示明场摄像图像。在图9(A)及(B)中,第2通道(Ch2)、第3通道(Ch3)、…第X的通道(ChX)是指拍摄不同的多个标记物质的各通道。
在图9的例中,如图9(A)所示,在阳性训练图像75P中,可含对于第2阳性对照细胞,经第1通道拍摄的第1阳性训练图像75P1,经第2通道拍摄第1荧光标记的第2阳性训练图像75P2,经第3通道拍摄第2荧光标记的第3阳性训练图像75P3及至经第X的通道拍摄各荧光标记的第X的阳性训练图像75Px。第1阳性训练图像75P1至第X的至阳性训练图像75Px作为相同细胞的相同视野的图像对应。第1阳性训练图像75P1至第X的阳性训练图像75P,接下来,将图像内的各像素(象素)中的拍摄的光的亮度变换为以数值表示的第1阳性数值训练数据76P1至第X的阳性数值训练数据76Px。
使用第1阳性训练图像75P1,对于第1阳性数值训练数据76P1的生成方法进行说明。在摄像部160中拍摄的各图像由上述的预处理,例如,修整为纵32象素×横32象素的像素数,成为训练图像75。第1阳性训练图像75P1作为例如16位的灰度图像表示。从而,在各像素中其像素的亮度可以1~65,536的65,536色阶的亮度的数值表示。如图9(A)所示,显示第1阳性训练图像75P1的各像素中的亮度的色阶的值是第1阳性数值训练数据76P1,以对应于各像素的数字的行列表表示。
与第1阳性数值训练数据76P1同样地,可从第2阳性训练图像75P2至第X的阳性训练图像75Px生成将图像内的各像素(象素)中的拍摄的光的亮度用数值表示的第2阳性数值训练数据76P2至第X的阳性数值训练数据76Px。
接下来,每像素整合第1阳性数值训练数据76P1至第X的阳性数值训练数据76Px,生成阳性整合训练数据77P。如图9(A)所示,阳性整合训练数据77P成为第1阳性数值训练数据76PA的各像素中的数值与第2阳性数值训练数据76P2至第X的阳性数值训练数据76Px的对应的各像素中的值并排显示的行列数据。
接下来,向阳性整合训练数据77P附表示此阳性整合训练数据77P来源于第2阳性对照细胞的标签值79P,生成标签附带阳性整合训练数据78P。作为表示是第2阳性对照细胞的标签,在图9(A)中附“2”。
从阴性训练图像75N也与生成标签附带阳性整合训练数据78P时同样地生成标签附带阴性整合训练数据78N。
如图9(B)所示,阴性训练图像75N含对于第2阴性对照细胞,与阳性训练图像75P同样地,经第1通道至第X的图像取得的第1阴性训练图像75N1至第X的阴性训练图像75Nx。在各像素中的光的亮度的数值化与从第1阳性训练图像75PA至第X的阳性训练图像75Px取得第1阳性数值训练数据76P1至第X的阳性数值训练数据76Px时同样。可由与第1阳性数值训练数据76P1相同的方法从第1阴性训练图像75N1生成将图像内的各像素(象素)中的拍摄的光的亮度用数值表示的第1阴性数值训练数据76N1。
同样地,可从第2阴性训练图像75N2至第X的第2阴性训练图像75Nx生成将图像内的各像素(象素)中的拍摄的光的亮度用数值表示的第2阴性数值训练数据76N2至第X的阴性数值训练数据76Nx。
如图9(B)所示,根据生成阳性整合训练数据77P的方法而针对每个像素整合第1阴性数值训练数据76N1至第X的阴性数值训练数据76Nx,生成阴性整合训练数据77N。如图9(B)所示,阴性整合训练数据77N成为第1阴性数值训练数据76N1的各像素中的数值与第2阴性数值训练数据76N2至第X的阴性数值训练数据76Nx的对应的各像素中的值并排显示的行列数据。
接下来,向阴性整合训练数据77N附表示此阴性整合训练数据77N来源于第2阴性对照细胞的标签值79N,生成标签附带阴性整合训练数据78N。作为表示是第2阴性对照细胞的标签,在图9(B)中附“1”。
在图10显示输入第1人工智能算法53中生成的标签附带阳性整合训练数据78P和标签附带阴性整合训练数据78N的方法。在具有神经网络结构的第1人工智能算法53中的输入层53a的节点数对应于训练图像75的象素数(在上述例中32×32=1024)和对于1个细胞的通道数(在上述例中,1~X的X通道)的积。向神经网络的输入层53a输入相当于标签附带阳性整合训练数据78P的阳性整合训练数据77P的数据。向神经网络的输出层53b输入对应于输入到输入层53a的数据的标签值79P。另外,向神经网络的输入层53a输入对应于标签附带阴性整合训练数据78N的阴性整合训练数据77N的数据。向神经网络的输出层53b输入对应于输入到输入层53a的数据的标签值79N。由这些输入计算神经网络的中间层53c中的各权重,训练第1人工智能算法53,生成训练的第1人工智能算法63。
【(2)解析用数据的生成】
使用图11,对于在解析图像85之后,整合解析数据72的生成方法和使用训练的第1人工智能算法63的细胞解析方法进行说明。解析图像85可与拍摄训练图像75的方法同样地拍摄而预处理。
如图11所示,解析图像85含对于解析对象细胞,经第1通道拍摄的作为明场图像的第1解析图像85T1和经第2通道至第X的通道拍摄第2至第X的荧光标记的第2解析图像85T2至第X的解析图像85Tx。摄像及预处理、各像素中的光的亮度的数值化与从第1阳性训练图像75P1取得第1阳性数值训练数据76P1时同样。可由与第1阳性数值训练数据76P1相同的方法从第1解析图像85T1生成将图像内的各像素(象素)中的拍摄的光的亮度用数值表示的第1数值解析数据86T1。
同样地,可从第2解析图像85T2至第X的解析图像85Tx生成将图像内的各像素(象素)中的拍摄的光的亮度用数值表示的第2数值解析数据86T2至第X的数值解析数据86Tx。
如图11所示,根据生成阳性整合训练数据77P的方法而拍摄流经流动池110的细胞,每像素整合生成的第1数值解析数据86T1至第X的数值解析数据86Tx,生成整合解析数据87。如图11所示,整合解析数据87成为第1数值解析数据86T1的各像素中的数值与第2数值解析数据86T2至第X的数值解析数据86Tx的对应的各像素中的值并排显示的行列数据。
如图11所示,将流经流动池11的细胞用摄像部160拍摄,生成解析图像85。通过拍摄流经流动池11的细胞,可短时间内生成多数的解析图像85,对于多数的细胞而短时间内进行解析变得可能。受试体中所含的异常细胞有与原本应存在于该受试体中的正常细胞的数比非常地少的情况,由能对多数的细胞进行短时间内的解析的本解析方法可抑制异常细胞的忽略。向训练的第1人工智能算法63内的神经网络的输入层63a输入生成的整合解析数据87。输入的整合解析数据87中所含的值经神经网络的中间层63c而从神经网络的输出层63b输出显示解析对象细胞是末梢循环肿瘤细胞与否的标签值89。在图11中所示的例中,在判断为解析对象细胞不是末梢循环肿瘤细胞时,作为标签值,输出“1”,在判断为是末梢循环肿瘤细胞时,作为标签值,输出“2”。也可代替标签值而输出“无”、“有”或“正常”、“异常”等的标签。
【(3)其他构成】
i.在本实施方式中使用的训练图像75及解析图像85优选为对于使用EDF滤镜拍摄的图像,未进行复原处理的图像。
ii.从训练图像75及解析图像85在摄像时、可排除焦点不合的图像。
iii.在本实施方式中使用的训练图像75及解析图像85例示性地将像素数以成为纵32象素×横32象素的方式修整,但只要是图像的大小以细胞整体收在图像内,就不限定。图像的纵方向的像素数和横方向的像素数无必然相同的必要。但是,用于训练第1人工智能算法53的训练图像75和用于生成向使用上述训练图像75训练的第1人工智能算法63输入的整合解析数据87的解析图像85优选为相同的像素数,纵方向和横方向的像素数也相同。
iv.在本实施方式中,训练图像70及解析图像80使用16位的灰度图像。但是,亮度的色阶除了16位之外、也可为8位、32位等。另外,在本实施方式中,对于各数值训练数据76P1至数值训练数据76Px、数值训练数据76N1至数值训练数据76Nx而直接使用以16位(65,536色阶)表示的亮度的数值,但也可进行将这些数值以一定幅的色阶综合的低维化处理,以低维化后的数值作为各数值训练数据76P1至数值训练数据76Px、数值训练数据76N1至数值训练数据76Nx使用。此时,优选对于训练图像70及解析图像80进行相同的处理。
【3.使用第2人工智能算法的细胞解析方法】
对于第2人工智能算法94的训练方法和使用训练的第2人工智能算法97的细胞的解析方法而使用图12及图13进行说明。第2人工智能算法94、97是可具有神经网络结构的深层学习算法以外的算法。第2人工智能算法94从上述的第2阳性对照细胞或第2阴性对照细胞提取使用者确定的特征量,以提取的特征量和显示对应的第2阳性对照细胞或第2阴性对照细胞的性状的标签作为训练数据使用而进行训练。另外,训练的第2人工智能算法97从解析对象图像提取对应于生成训练数据时提取的特征量的特征量,以其作为解析数据生成显示细胞的性状的数据。
在本实施方式中,可作为第2人工智能算法94、97使用的算法可举随机森林、梯度提升、支持向量机(SVM)、关联向量机(RVM)、Naive Bayes、逻辑回归、加料正向神经网络、深度学习、K最邻近法、AdaBoost、Bagging、C4.5、核近似、概率的梯度降低法(SGD)分类器、Lasso、脊回归、Elastic Net、SGD回归、核回归、Lowess回归、矩阵分解、非阴性矩阵分解、核矩阵分解、内插法、核平滑、协调筛选等。作为第2人工智能算法94、97,优选是随机森林、或者梯度提升。
作为第2人工智能算法94、97,可使用例如,从Python公司提供。
其中“训练”或“训练”这样的用语有时置换为“生成”或“生成”这样的用语使用。
【(1)训练数据的生成】
如图12(A)所示,在本实施方式中,从拍摄上述2-2.中使用的第2阳性对照细胞的阳性训练图像90A和拍摄在上述2-2.中使用的第2阴性对照细胞的阴性训练图像90B各自生成阳性训练数据91A和阴性训练数据91B。有时将阳性训练图像90A和阴性训练图像90B并称为训练图像90。另外,有时将阳性训练数据91A和阴性训练数据91B并称为训练数据91。
在检测末梢循环肿瘤细胞时,作为训练图像90使用的,由后述的摄像部160拍摄的图像可与上述2-2.同样地是明场图像、及/或荧光图像。明场图像可拍摄细胞的位相差。训练图像90可与上述2-2.(1)同样地取得。
作为训练数据91,可例示例如图13中所示的特征量。图13中所示的特征量可分类为5个类别。上述类别是关于细胞的大小(Size)的信息、关于细胞的配置(Location)的信息、关于细胞的形状(Shape)的信息、关于细胞的质地(Texture)的信息、从细胞图像取得的光的强度(Signal strength)。各类别中所含的特征量的详细如图13所示。这些特征量可将1或2个以上组合使用。在特征量中,优选至少含选自关于细胞的大小的信息的至少1个信息。更优选,在特征量中,优选至少含关于细胞的面积的信息。这些特征量可使用例如上述的解析软件(IDEAS)确定。
在图14显示代表性的特征量的说明。图14(A)显示图13中的高度及宽度的说明。高度(高度)例示性地是指在图像上可包围细胞的最小的四角形(优选正长方形、或者正方形)的长边(正方形的情况是一边)的长度。宽度(宽度)例示性地是指上述四角形的短边(正方形的情况是一边)的长度。图14(B)显示图13中的长轴(长轴)及短轴(短轴)的说明。长轴例示性地是指在图像上可包围细胞的椭圆(优选为正椭圆),上述椭圆的重心与细胞的重心重叠,并且可包围细胞的最小的椭圆的长径。短轴是指上述椭圆的短径。短轴例示性地是指上述椭圆的短径。
在图14(C)显示细胞的长度(长度)、最大厚度(最大厚度)、最小厚度(最小厚度)的说明。细胞的长度与图14(A)中所示的高度不同,是指假定在图像上连接细胞的单侧的尖端和另一方的尖端的线段之时最长的线的长度。最大厚度是指表示长度的线段和直行的线段,假定由细胞的轮廓线分区的内侧的线段之时,最长的线段的长度。最小厚度是指表示长度的线段和直行的线段,假定由细胞的轮廓线分区的内侧的线段之时,最短的线段的长度。
在图14(D)显示长宽比(长宽比)、伸长度(延伸)、形状比(形状比)的说明。长宽比是指短轴的长度除以长轴的长度的值。伸长度是指高度的值除以宽度的值的值。形状比是指最小厚度的值除以最大厚度的值的值。
在图14(E)显示叶对称性(分叶)的说明。在图14(E)显示2叶对称性(2分钟叶)、3叶对称性(3分钟叶)、4叶对称性(4分钟叶)的例。分叶是指1个细胞被分为叶。
如图12(A)所示,阳性训练数据91A与作为表示来源于第2阳性对照细胞的标签值93A的例如“2”组合,作为标签附带阳性训练数据92A,向第2人工智能算法94输入。阴性训练数据91B与作为表示来源于第2阴性对照细胞的标签值93B的例如“1”组合,作为标签附带阴性训练数据92B,向第2人工智能算法94输入。由标签附带阳性训练数据92A及标签附带阴性训练数据92B训练第2人工智能算法94。
其中,在图12的例中,仅显示明场图像,在如上述2-2.中所示使用多个通道,在拍摄多个荧光标记时,针对每通道取得阳性训练数据91A及阴性训练数据91B,对于各自而生成标签附带阳性训练数据92A及标签附带阴性训练数据92B,向第2人工智能算法94输入。
其中,也将标签附带阳性训练数据92A及标签附带阴性训练数据92B并称为训练数据92。
由训练数据92训练第2人工智能算法94,生成训练的第2人工智能算法97。
【(2)解析用数据的生成和细胞解析】
在图12(B)显示从拍摄流经流动池110的细胞的第3解析图像95生成解析数据96,使用训练的第2人工智能算法97的细胞解析方法。训练的第2人工智能算法97使用解析数据96而生成显示解析对象细胞的性状的数据98。如图12(B)所示,将流经流动池110的细胞用摄像部160拍摄,生成第3解析图像95。解析数据96可从用与训练图像90同样的方法拍摄的第3解析图像95生成。解析数据96优选为对应于第3训练数据的特征量。
通过向训练的第2人工智能算法97输入解析数据96,作为显示细胞的正常或异常的数据,生成显示解析对象细胞是否是末梢循环肿瘤细胞的数据98。例如,在判断为解析对象细胞不是末梢循环肿瘤细胞时,作为标签值,输出“1”,在判断为是末梢循环肿瘤细胞时,作为标签值,输出“2”。也可代替标签值而输出“无”、“有”或“正常”、“异常”等的标签。
【4.细胞解析系统】
以下,使用图15至图25,对于第1至第3实施方式涉及的细胞解析系统1000、2000、3000进行说明。在以下的说明中,第1人工智能算法50、第1人工智能算法53、及第2人工智能算法94有时不区别地称为“人工智能算法”。
【4-1.细胞解析系统的第1实施方式】
在图15显示第1实施方式涉及的细胞解析系统1000的硬件的构成。细胞解析系统1000可具备用于训练人工智能算法94的训练装置200A,细胞摄像装置100A和细胞解析装置400A。细胞摄像装置100A和细胞解析装置400A能通信地连接。另外,训练装置200A和细胞解析装置400A可用有线或无线的网络连接。
【4-1-1.训练装置】
【(1)硬件的构成】
使用图16,对训练装置200A的硬件的构成进行说明。训练装置200A具备控制部20A,输入部26,输出部27和媒体驱动器D98。另外,训练装置200A是能与网络99连接。
控制部20A具备进行后述的数据处理的CPU(Central Processing Unit)21,在数据处理的作业区域中使用的存储器22,记录后述的程序及处理数据的存储部23,在各部之间传送数据的总线24,进行与外部机器的数据的输入输出的接口(I/F)部25和GPU(Graphics Processing Unit)29。输入部26及输出部27经I/F部25与控制部20A连接。例示性地,输入部26是键盘或鼠标等的输入装置,输出部27是液晶显示等的显示装置。GPU29作为辅助CPU21进行的计算处理(例如,并列计算处理)的加速器发挥功能。在以下的说明中CPU21进行的处理是指还包括CPU21以GPU29作为加速器使用而进行的处理。其中,也可代替GPU29而搭载对于神经网络的计算优选的芯片。作为这样的芯片,可举例如,FPGA(Field-Programmable Gate Array)、ASIC(Application specific integrated circuit)、MyriadX(Intel)等。
另外,控制部20A为了进行在以下的图18中说明的各步骤的处理,将用于训练人工智能算法的训练程序及训练前的人工智能算法例如以执行形式预先记录在存储部23。执行形式是例如从编程语言由编译器变换而生成的形式。控制部20A使操作系统和记录在存储部23的训练程序协动而进行训练前的人工智能算法的训练处理。
在以下的说明中,只要是不特别说明,控制部20A进行的处理就是指基于收纳在存储部23或存储器22的程序及人工智能算法而由CPU21或CPU21及GPU29进行的处理。CPU21以存储器22作为作业区域而暂时存储必要的数据(处理途中的中间数据等),将计算结果等的长期保存的数据适宜记录在存储部23。
【(2)训练装置的功能构成】
在图17显示训练装置200A的功能构成。训练装置200A具备训练数据生成部201,训练数据输入部202,算法更新部203,训练数据数据库(DB)204和算法数据库(DB)205。图18(A)中所示的步骤S11及图18(B)中所示的步骤S111对应于训练数据生成部201。图18(A)中所示的步骤S12及图18(B)中所示的步骤S112对应于训练数据输入部202。图18(A)中所示的步骤S14对应于算法更新部203。
训练图像70PA、70PB、70NA、70NB、75P1~75Px、75N1~75Nx、90A、90B从细胞摄像装置100A由细胞解析装置400A预先取得,预先存储在训练装置200A的控制部20A的存储部23或存储器22。训练装置200A可为从细胞解析装置400A通过网络取得训练图像70PA、70PB、70NA、70NB、75P1~75Px、75N1~75Nx、90A、90B,也可为经媒体驱动器D98取得。训练数据数据库(DB)204收纳生成的训练数据73、78、92。训练前的人工智能算法预先收纳在算法数据库205。训练的第1人工智能算法60可与用于检查染色体异常的检查项目及解析项目相对应而记录在算法数据库205。训练的第1人工智能算法63可与用于检查末梢循环肿瘤细胞的检查项目及解析项目相对应而记录在算法数据库205。训练的第2人工智能算法97可与要输入的特征量的项目相对应而记录在算法数据库205。
【(3)训练处理】
训练装置200A的控制部20A进行图18中所示的训练处理。
首先,根据自使用者的处理开始的要求而控制部20A的CPU21取得存储在存储部23或存储器22的训练图像70PA、70PB、70NA、70NB;训练图像75P1~75Px、75N1~75Nx、或者训练图像90A、90B。训练图像70PA、70PB、70NA、70NB可为了训练第1人工智能算法50,训练图像75P1~75Px、75N1~75Nx为了训练第1人工智能算法53,训练图像90A、90B为了训练第2人工智能算法94而各自使用。
【i.第1人工智能算法50的训练处理】
控制部20A在图18(A)的步骤S11中,从阳性训练图像70PA、70PB生成阳性整合训练数据72P,从阴性训练图像70NA、70NB生成阴性整合训练数据72N。控制部20A附对应于阳性整合训练数据72P和阴性整合训练数据72N的各自的标签值74P或标签值74N,生成标签附带阳性整合训练数据73P或标签附带阴性整合训练数据73N。标签附带阳性整合训练数据73P或标签附带阴性整合训练数据73N作为训练数据73记录在存储部23。标签附带阳性整合训练数据73P及标签附带阴性整合训练数据73N的生成方法如在上述2-1.中说明。
接下来,控制部20A在图18(A)的步骤S12中,向第1人工智能算法50输入生成的标签附带阳性整合训练数据73P及标签附带阴性整合训练数据73N,训练第1人工智能算法50。第1人工智能算法50的训练结果使用多个标签附带阳性整合训练数据73P及标签附带阴性整合训练数据73N而蓄积到训练的度。
接下来,控制部20A在图18(A)的步骤S13中,判断蓄积预先确定的指定的试行次数的训练结果与否。在训练结果被蓄积指定的试行次数时(“YES”的情况)、控制部20A进到步骤S14的处理,在训练结果未被蓄积指定的试行次数时(“NO”的情况)、控制部20A进到步骤S15的处理。
在训练结果被蓄积指定的试行次数时,在步骤S14中,控制部20A使用步骤S12中蓄积的训练结果更新第1人工智能算法50的权重w(结合权重w)。
接下来,控制部20A在步骤S15中,判断将第1人工智能算法50用规定数的标签附带阳性整合训练数据73P及标签附带阴性整合训练数据73N训练与否。在用规定数的标签附带阳性整合训练数据73P及标签附带阴性整合训练数据73N训练时(“YES”的情况),结束训练处理。控制部20A将训练的第1人工智能算法60收纳在存储部23。
在不将第1人工智能算法50用规定数的标签附带阳性整合训练数据73P及标签附带阴性整合训练数据73N训练时(“NO”的情况),控制部20A进到步骤S15至步骤S16,对于以下的阳性训练图像70PA、70PB及阴性训练图像70NA、70NB而进行步骤S11~步骤S15的处理。
【ii.第1人工智能算法53的训练处理】
控制部20A在图18(A)的步骤S11中,从阳性训练图像75P1~75Px生成阳性整合训练数据77P,从阴性训练图像75N1~75Nx生成阴性整合训练数据77N。控制部20A附对应于阳性整合训练数据77P和阴性整合训练数据77N的各自的标签值79P或标签值79N,生成标签附带阳性整合训练数据78P或标签附带阴性整合训练数据78N。标签附带阳性整合训练数据78P或标签附带阴性整合训练数据78N作为训练数据78记录在存储部23。标签附带阳性整合训练数据78P及标签附带阴性整合训练数据78N的生成方法如在上述2-2.中说明。
接下来,控制部20A在图18(A)的步骤S12中,向第1人工智能算法53输入生成的标签附带阳性整合训练数据78P及标签附带阴性整合训练数据78N,训练第1人工智能算法53。第1人工智能算法53的训练结果使用多个标签附带阳性整合训练数据78P及标签附带阴性整合训练数据78N而蓄积到训练的度。
接下来,控制部20A在图18的步骤S13中,判断蓄积预先确定的指定的试行次数的训练结果与否。在训练结果被蓄积指定的试行次数时(“YES”的情况)、控制部20A进到步骤S14的处理,训练结果未被蓄积指定的试行次数时(“NO”的情况)、控制部20A进到步骤S15的处理。
在训练结果被蓄积指定的试行次数时,在步骤S14中,控制部20A使用步骤S12中蓄积的训练结果来更新第1人工智能算法53的权重w(结合权重w)。
接下来,控制部20A在步骤S15中,判断将第1人工智能算法53用规定数的标签附带阳性整合训练数据78P及标签附带阴性整合训练数据78N训练与否。在用规定数的标签附带阳性整合训练数据78P及标签附带阴性整合训练数据78N训练时(“YES”的情况),结束训练处理。控制部20A将训练的第1人工智能算法63收纳在存储部23。
在不将第1人工智能算法53用规定数的标签附带阳性整合训练数据78P及标签附带阴性整合训练数据78N训练时(“NO”的情况),控制部20A进到步骤S15至步骤S16,对于以下的阳性训练图像75P1~75Px及阴性训练图像75N1~75Nx而进行步骤S11~步骤S15的处理。
【iii.第2人工智能算法94的训练处理】
控制部20A在图18(B)的步骤S111中,从阳性训练图像90A生成阳性训练数据91A,从阴性训练图像90B生成阴性训练数据91B。控制部20A附对应于阳性训练数据91A和阴性训练数据91B的各自的标签值93P或标签值93N,生成标签附带阳性训练数据92A或标签附带阴性训练数据92B。标签附带阳性训练数据92A或标签附带阴性训练数据92B作为训练数据92记录在存储部23。标签附带阳性训练数据92A及标签附带阴性训练数据92B的生成方法如在上述3.中说明。
接下来,控制部20A在图18(B)的步骤S112中,向第2人工智能算法94输入生成的标签附带阳性训练数据92A及标签附带阴性训练数据92B,训练第2人工智能算法94。
接下来,控制部20A在步骤S113中,判断将第2人工智能算法94用规定数的标签附带阳性训练数据92A及标签附带阴性训练数据92B训练与否。在用规定数的标签附带阳性训练数据92A及标签附带阴性训练数据92B训练时(“YES”的情况),结束训练处理。控制部20A将训练的第2人工智能算法97收纳在存储部23。
在不将第2人工智能算法94用规定数的标签附带阳性训练数据92A及标签附带阴性训练数据92B训练时(“NO”的情况),控制部20A进到步骤S113至步骤S114,对于以下的阳性训练图像90A及阴性训练图像90B而进行步骤S111~步骤S113的处理。
【(4)训练程序】
本实施方式含使计算机执行步骤S11~S16或S111~S114的处理的,用于训练人工智能算法的计算机程序。
再者,本实施方式的某个实施方式涉及存储上述计算机程序的存储介质等的程序制品。即,上述计算机程序可收纳在硬盘、闪存等的半导体存储器元件、光盘等的存储介质。向存储介质的程序的记录形式只要是训练装置200A能读取程序,就不限制。上述向存储介质的记录优选为不易失性的。
其中,“程序”是指不仅是能由CPU直接执行的程序,还含源形式的程序、进行压缩处理的程序、加密的程序等的概念。
【4-1-2.细胞摄像装置】
拍摄训练图像70、75、90及/或解析图像80、85、95的细胞摄像装置100A的构成示于图19。图19中所示的细胞摄像装置100A例示成像流式细胞仪。作为细胞摄像装置100A的摄像装置的动作由细胞解析装置400A控制。
例如,如上所述,染色体异常或末梢循环肿瘤细胞使用1种以上的荧光染料检测目标部位。优选,FISH法使用2种以上的荧光染料检测第1染色体上的目标部位和第2染色体上的目标部位(“修饰染色体”的“第1”及“第2”不是指染色体编号,是包括性的数的概念)。例如,与PML基因座杂交的探针是具有与PML基因座的碱基序列互补的序列的核酸被通过照射波长λ11的光而发生波长λ21的第1荧光的第1荧光染料标记的。通过使用此探针,PML基因座由第1荧光染料标记。与RARA基因座杂交的探针,具有与RARA基因座的碱基序列互补的序列的核酸是由通过照射波长λ12的光而发生波长λ22的第2荧光的第2荧光染料标记的。通过使用此探针,RARA基因座由第2荧光染料标记。核由通过照射波长λ13的光而发生波长λ23的第3荧光的核染色用染料染色。波长λ11、波长λ12及波长λ13是所谓的激发光。另外,波长λ114是从用于进行明场观察的卤素灯等照射的光。
细胞摄像装置100A具备流动池110,光源120~123,聚光透镜130~133,二向色镜140~141,聚光透镜150,光学单元151,聚光透镜152和摄像部160。使试样10流经流动池110的流路111。
光源120~123向从下至上流经流动池110的试样10照射光。光源120~123由例如半导体激光源构成。从光源120~123各自发射波长λ11~λ14的光。
聚光透镜130~133对从光源120~123发射的波长λ11~λ14的光各自进行聚光。二向色镜140使波长λ11的光透过,使波长λ12的光屈折。二向色镜141使波长λ11及λ12的光透过,使波长λ13的光屈折。由此,向流经流动池110的流路111的试样10照射波长λ11~λ14的光。再者,只要是细胞摄像装置100A具备的半导体激光源的数是1个以上,就不限制。半导体激光源的数可从例如,1、2、3、4、5或6之中选择。
当向流经流动池110的试样10照射波长λ11~λ13的光时,从标记在流经流路111的细胞的荧光染料发生荧光。具体而言,当向标记PML基因座的第1荧光染料照射波长λ11的光时,从第1荧光染料发生波长λ21的第1荧光。当向标记RARA基因座的第2荧光染料照射波长λ12的光时,从第2荧光染料发生波长λ22的第2荧光。当向对核进行染色的核染色用染料照射波长λ13的光时,从核染色用染料发生波长λ23的第3荧光。当向流经流动池110的试样10照射波长λ14的光时,此光透过细胞。透过细胞的波长λ14的透射光在明场图像的生成中使用。例如,在实施方式中,第1荧光是绿色的光的波长区域,第2荧光是红色的光的波长区域,第3荧光是蓝色的光的波长区域。
聚光透镜150对从流经流动池110的流路111的试样10发生的第1荧光~第3荧光和透过流经流动池110的流路111的试样10的透射光进行聚光。光学单元151具有4个二向色镜组合的构成。光学单元151的4个二向色镜将第1荧光至第3荧光和透射光用互相略微不同的角度反射,在摄像部160的光接收面上分离。聚光透镜152对第1荧光~第3荧光和透射光进行聚光。
摄像部160由TDI(Time Delay Integration)摄像机构成。摄像部160拍摄第1荧光~第3荧光和透射光而将各自对应于第1荧光~第3荧光的荧光图像和对应于透射光的明场图像作为摄像信号输出到细胞解析装置400A。拍摄的图像可为彩色图像,也可为灰度图像。
另外,细胞摄像装置100A也可根据需要具备预处理装置300。
预处理装置300采样受试体的一部分,对受试体中所含的细胞实施FISH、免疫染色、或者细胞器染色等,调制试样10。
【4-1-3.细胞解析装置】
【(1)硬件的构成】
使用图19,对细胞解析装置400A的硬件的构成进行说明。细胞解析装置400A能与细胞摄像装置100A通信地连接。细胞解析装置400A具备控制部40A,输入部46和输出部47。另外,细胞解析装置400A能与网络99连接。
控制部40A的构成与训练装置200A的控制部20A的构成同样。其中,将训练装置200A的控制部20A中的CPU21、存储器22、存储部23、总线24、I/F部25、GPU29各自另读作CPU41、存储器42、存储部43、总线44、I/F部45、GPU49。但是,存储部43收纳训练装置200A生成,经网络99或经媒体驱动器D98而CPU41从I/F部45取得的训练的人工智能算法60、63、94。
解析图像80、85、95可由细胞摄像装置100A取得,存储在细胞解析装置400A的控制部40A的存储部43或存储器42。
【(2)细胞解析装置的功能构成】
在图20显示细胞解析装置400A的功能构成。细胞解析装置400A具备解析数据生成部401,解析数据输入部402,解析部403,解析数据数据库(DB)404和算法数据库(DB)405。图21中所示的步骤S21对应于解析数据生成部401。图21中所示的步骤S22对应于解析数据输入部402。图21中所示的步骤S23对应于解析部403。解析数据数据库404收纳解析数据82、88、96。
训练的第1人工智能算法60可与用于检查染色体异常的检查项目及解析项目对应而记录在算法数据库405。训练的第1人工智能算法63可与用于检查末梢循环肿瘤细胞的检查项目及解析项目相对应而记录在算法数据库405。训练的第2人工智能算法97可与要输入的特征量的项目相对应而记录在算法数据库405。
【(3)细胞解析处理】
细胞解析装置400A的控制部40A进行图21中所示的细胞解析处理。由本实施方式变得容易进行高的精度并且高速的解析。
根据自使用者的处理开始的要求,或者以细胞摄像装置100A开始解析作为触发,控制部40A的CPU41开始细胞解析处理。
【i.由第1人工智能算法60的细胞解析处理】
控制部40A在图21中所示的步骤S21中,从解析图像80A、80B生成整合解析数据82。整合解析数据82的生成方法如在上述2-1.中说明。控制部40A将生成的整合解析数据82存储在存储部43或存储器42。
控制部40A在图21中所示的步骤S22中,通过向存储器42邀请收纳在存储部43的训练的第1人工智能算法60来取得,向第1人工智能算法60输入步骤S21中生成的整合解析数据82。
控制部40A在图21中所示的步骤S23中,使用第1人工智能算法60,判断解析图像80A、80B中的解析对象细胞的性状,将判断结果的标签值84存储在存储部43或存储器42。判断方法如在上述2-1.中说明。
控制部40A在图21中所示的步骤S24中,判断是否判断了全部解析图像80A、80B,在判断全部解析图像80A、80B时(“YES”的情况),进到步骤S25,将对应于判断结果的标签值84的判断结果存储在存储部43的同时,向输出部输出判断结果。在步骤S24中,在未判断全部解析图像80A、80B时(“NO”的情况)、控制部40A在步骤S26中更新解析图像80A、80B,重复步骤S21至步骤S24至对于全部解析图像80A、80B而进行判断。判断结果可为标签值本身,也可为对应于各标签值的“有”、“无”或“异常”、“正常”等的标签。
【ii.由第1人工智能算法63的细胞解析处理】
控制部40A在图21中所示的步骤S21中,从解析图像85T1~85Tx生成整合解析数据87。整合解析数据87的生成方法如在上述2-2.中说明。控制部40A将生成的整合解析数据87存储在存储部43或存储器42。
控制部40A在图21中所示的步骤S22中,通过向存储器42邀请收纳在存储部43的训练的第1人工智能算法63来取得,向第1人工智能算法63输入步骤S21中生成的整合解析数据87。
控制部40A在图21中所示的步骤S23中,使用第1人工智能算法63,判断解析图像85T1~85Tx中的解析对象细胞的性状,将判断结果的标签值88存储在存储部43或存储器42。判断方法如在上述2-2.中说明。
控制部40A在图21中所示的步骤S24中,判断是否判断了全部解析图像85T1~85Tx,在判断全部解析图像85T1~85Tx时(“YES”的情况),进到步骤S25,将对应于判断结果的标签值88的判断结果存储在存储部43的同时,向输出部输出判断结果。在步骤S24中,在未判断全部解析图像85T1~85Tx时(“NO”的情况)、控制部40A在步骤S26中更新解析图像85T1~85Tx,重复步骤S21至步骤S24至对于全部解析图像85T1~85Tx进行判断。判断结果可为标签值本身,也可为对应于各标签值的“有”、“无”或“异常”、“正常”等的标签。
【iii.由第2人工智能算法97的细胞解析处理】
控制部40A在图21中所示的步骤S21中,从解析图像95生成解析数据96。解析数据96的生成方法如在上述3.中说明。控制部40A将生成的解析数据96存储在存储部43或存储器42。
控制部40A在图21中所示的步骤S22中,通过向存储器42邀请收纳在存储部43的训练的第2人工智能算法97取得,向第2人工智能算法97输入步骤S21中生成的解析数据96。
控制部40A在图21中所示的步骤S23中,使用第2人工智能算法97,判断解析图像95中的解析对象细胞的性状,将判断结果存储在存储部43或存储器42。判断方法如在上述3.中说明。
控制部40A在图21中所示的步骤S24中,判断是否判断了全部解析图像95,在判断全部解析图像95时(“YES”的情况),进到步骤S25,将判断结果的标签值98存储在存储部43的同时,向输出部输出判断结果。在步骤S24中,在未判断全部解析图像95时(“NO”的情况),控制部40A在步骤S26中更新解析图像95,重复步骤S21至步骤S24至对于全部解析图像95进行判断。判断结果可为标签值本身,也可为对应于各标签值的“有”、“无”或“异常”、“正常”等的标签。
【(4)细胞解析程序】
本实施方式含使计算机执行步骤S21~S26的处理的,用于进行细胞的解析的计算机程序。
再者,本实施方式的某个实施方式涉及存储上述计算机程序的存储介质等的程序制品。即,上述计算机程序可收纳在硬盘、闪存等的半导体存储器元件、光盘等的存储介质。向存储介质的程序的记录形式只要是训练装置200A能读取程序,就不限制。上述向存储介质的记录优选为不易失性的。
其中,“程序”是指不仅是能由CPU直接执行的程序,还含源形式的程序、压缩处理的程序、加密的程序等的概念。
【4-2.细胞解析系统的第2实施方式】
第2实施方式涉及的细胞解析系统2000,如图22所示,具备细胞摄像装置100A和训练人工智能算法并且进行细胞的解析的训练/解析装置200B。第1实施方式涉及的细胞解析系统1000将人工智能算法的训练和细胞的解析由不同的计算机进行。在第2实施方式中,1台计算机是进行人工智能算法的训练和细胞的解析的例。训练/解析装置200B从细胞摄像装置100A取得训练图像70PA、70PB、70NA、70NB、75P1~75Px、75N1~75Nx、90A、90B及解析图像80A、80B、85T1~85Tx、95。
训练/解析装置200B的硬件的构成与图19中所示的细胞解析装置400A同样。使用图23说明训练/解析装置200B的功能。训练/解析装置200B具备训练数据生成部201,训练数据输入部202,算法更新部203,解析数据生成部401,解析数据输入部402,解析部403,训练数据数据库(DB)204和算法数据库(DB)205、。各功能构成与图17及图20中所示的构成基本上同样,在本实施方式中,在训练数据数据库(DB)204收纳训练数据73、78、92及解析数据82、88、96。图18(A)中所示的步骤S11及图18(B)中所示的步骤S111对应于训练数据生成部201。图18(A)中所示的步骤S12及图18(B)中所示的步骤S112对应于训练数据输入部202。图18(A)中所示的步骤S14对应于算法更新部203。图21中所示的步骤S21对应于解析数据生成部401。图21中所示的步骤S22对应于解析数据输入部402。图21中所示的步骤S23对应于解析部403。
训练处理及细胞解析处理在其中援用记载在上述4-1.的说明。但是,在处理的过程中生成的各种数据存储在训练/解析装置200B的存储部23或存储器22。
【4-3.细胞解析系统的第3实施方式】
第3实施方式涉及的细胞解析系统3000,如图24所示,具备细胞摄像装置100B,训练人工智能算法、并且进行细胞的解析的训练装置200C,细胞摄像装置100A和进行从细胞摄像装置100A取得图像的图像取得装置400B。第1实施方式涉及的细胞解析系统1000将人工智能算法的训练和细胞的解析由不同的计算机进行。在第3实施方式中,训练装置200C是进行人工智能算法的训练和细胞的解析的例。训练装置200C从细胞摄像装置100B取得训练图像70PA、70PB、70NA、70NB、75P1~75Px、75N1~75Nx、90A、90B,从图像取得装置400B取得解析图像80A、80B、85T1~85Tx、95。
训练装置200C和图像取得装置400B的硬件的构成与图19中所示的细胞解析装置400A同样。使用图25说明训练装置200C的功能。训练装置200C的功能构成与图23中所示的训练/解析装置200B同样,具备训练数据生成部201,训练数据输入部202,算法更新部203,解析数据生成部401,解析数据输入部402,解析部403,训练数据数据库(DB)204和算法数据库(DB)205、。各功能构成与图17及图20中所示的构成基本上同样,在本实施方式中,在训练数据数据库(DB)204收纳训练数据73、78、92及解析数据82、88、96。图18(A)中所示的步骤S11及图18(B)中所示的步骤S111对应于训练数据生成部201。图18(A)中所示的步骤S12及图18(B)中所示的步骤S112对应于训练数据输入部202。图18(A)中所示的步骤S14对应于算法更新部203。图21中所示的步骤S21对应于解析数据生成部401。图21中所示的步骤S22对应于解析数据输入部402。图21中所示的步骤S23对应于解析部403。
训练处理及细胞解析处理在其中援用记载在上述4-1.的说明。但是,在处理的过程中生成的各种数据存储在训练200C的存储部23或存储器22。
【5.其他】
本发明不以限定于上述的实施方式的方式解释。
例如,在上述的实施方式中,在训练数据及解析用数据的生成中,使用多个相同细胞的相同视野的别图像,但也可从1个细胞图像生成1个训练数据,从1个细胞图像生成1个解析用数据。
另外,在上述的实施方式中,从拍摄1个细胞的相同的视野的不同的光的波长区域的多个图像生成解析用数据,但也可由其他方法多次拍摄1个细胞,取得多个图像。例如,可为从将1个细胞从不同的角度拍摄而取得的多个图像生成解析用数据,也可为从将1个细胞错开时机拍摄而取得的多个图像生成解析用数据。
另外,在上述的实施方式中,判断细胞的正常或异常,但也可判断细胞的种类、细胞的形态。
【实施例】
使用实施例,对于实施方式更详细地进行说明。但是,本发明不以限定于实施例的方式解释。
【I.末梢循环肿瘤细胞的检测】
【1.数据取得方法】
作为CTC和血细胞的模型样品,使用乳腺癌细胞株MCF7和末梢血单核血细胞PBMC(Peripheral Blood Mononuclear Cells)。将细胞用Hoechst试剂染色后,供于成像流式细胞仪(ImageStream MarkII,Luminex),取得明场图像和核染色图像。成像流式细胞仪的条件设为倍率:40倍、流速:Medium、有EDF滤镜。
【2.解析】
【2-1.由深层学习算法的解析例】
【(1)人工智能算法】
语言及库使用Python 3.7.3,TensorFlow 2.0αKeras。作为人工智能算法,使用折叠神经网络(CNN)。
【(2)数据集】
数据集的详细示于图26(A)。再者,为了每1个细胞使用明场图像和核染色像的2个图像,在解析中使用细胞数的2倍的图像数。图像尺寸以成为32×32pixel的方式修整。此时、以细胞核的重心成为图像的中心的方式切出细胞。
根据使用记载在说明书本文的第1人工智能算法63的末梢循环肿瘤细胞的解析方法而生成训练数据和解析数据。
【(3)结果】
实施MCF7和PBMC的2类判别。首先,使用训练用数据集制成判别模型。在图26(B)显示Epoch数(学习次数)和Accuracy(正答率)的关系。Epoch数不足10次而正答率达大致100%。以Epoch数第50次的模型作为判别模型探讨正答率。在使用Epoch数第50次的模型时,训练用数据集的正答率是99.19%,验证用数据集的正答率是99.10%,是非常地良好的成绩。
在图26(C)显示正答的图像的例。Nuc表示核染色,BF表示位相差图像。
【2-2.由深层学习以外的机器学习的解析例】
【(1)人工智能算法】
语言及库使用Python 3.7.3,scikit-learn。作为人工智能算法,使用随机森林及梯度提升。
【(2)数据集】
对于图26(A)中所示的数据集的明场图像和核染色像各自,使用附属于成像流式细胞仪的解析软件(IDEAS)生成定义图13中所示的70种特征量(将明场图像和核染色图像合起来140种特征量)的数据集。
【(3)结果】
实施MCF7和PBMC的2类判别。使用上述的数据集,由随机森林及梯度提升制成判别模型。使用各自的模型时的正答率示于图27。正答率是全部99.9%以上,随机森林、梯度提升也正答率非常地良好。
【II.染色体异常细胞的检测】
【1.探讨1】
【(1).人工智能算法】
语言及库使用Python 3.7.3,TensorFlow 2.0α。作为人工智能算法,使用折叠神经网络(CNN)。训练进行至50次。
【(2).数据取得方法】
将PML-RARA嵌合体基因阳性细胞供于成像流式细胞仪MI-1000而取得通道2(绿色)和通道4(红色)的图像。倍率是60倍、有EDF滤镜地进行拍摄。
从由已知的方法判断为无染色体异常(G2R2F0)的阴性对照细胞的通道2(绿色)及通道4(红色)的图像组根据说明书本文中记载的使用第1人工智能算法60的染色体异常细胞的解析方法生成阴性整合训练数据。在阴性整合训练数据附显示染色体异常是阴性的“nega标签”,生成标签附带阴性整合训练数据。同样地,从由已知的方法判断为有染色体异常(G3R3F2)的阳性对照细胞的通道2及通道4的图像组生成阳性整合训练数据。在阳性整合训练数据附显示染色体异常是阳性的“posi标签”,生成标签附带阳性整合训练数据。其中,例如,G2R2F0的“G”及“R”是指通道编号,“F”表示融合信号。数字表示1个细胞中的信号的数。
准备3741组标签附带阴性整合训练数据、准备2052组标签附带阳性整合训练数据,以相当于这些的6成的3475组作为训练数据使用。另外,以相当于3成的1737组作为测试数据,以相当于1成的581组作为验证数据使用。
【(3)结果】
正答率是100%。另外,在图28(A)显示伴随Epoch数的增加的损失率的变化。伴随Epoch数的增加而确认到损失率的降低。另外,在图28(B)显示伴随Epoch数的增加的正答率的变化。伴随Epoch数的增加,正答率提升。
【2.探讨2】
【(1)人工智能算法】
语言及库使用Python 3.7.3,TensorFlow 2.0α。作为人工智能算法,使用折叠神经网络(CNN)。训练进行至100次。
【(2)数据】
将PML-RARA嵌合体基因阳性受试体3样品(样品ID:03-532、04-785、11-563)供于成像流式细胞仪MI-1000而取得通道2(绿色)和通道4(红色)的图像。倍率是60倍、有EDF滤镜地进行拍摄。从由已知的方法判断为无染色体异常(G2R2F0)的细胞的通道2及通道4的图像组根据说明书本文中记载的方法生成阴性整合训练数据。在阴性整合训练数据附显示染色体异常是阴性的“nega标签”,生成标签附带阴性整合训练数据。同样地,从由已知的方法判断为有染色体异常(G3R3F2)的细胞的通道2及通道4的图像组生成阳性整合训练数据。在阳性整合训练数据附显示染色体异常是阳性的“posi标签”,生成标签附带阳性整合训练数据。其中,例如,G2R2F0的“G”及“R”是指通道编号,“F”表示融合信号。数字表示1个细胞中的信号的数。
使用这些受试体的摄像图像,尝试由深层学习算法的PML-RARA嵌合体基因的检测。以训练数据数作为20537,以解析数据数作为5867而进行探讨。
【(3)结果】
在各受试体中的判断结果示于图29(A)至(C)。(A)显示受试体编号04-785、(B)显示受试体编号03-352、(C)显示受试体编号11-563的推论结果。推论结果是,在全解析数据之中,正确地判断为阳性或阴性的细胞的比例成为92%。另外,各受试体的正答率均为90%左右而未见到偏倚。再者,成为假阳性或假阴性的比例也是3~6%而未见到偏倚。从结果认为,可生成不涉及每受试体的偏倚及阳性或阴性的偏倚的模型。
【符号的说明】
10:试样
20A、20B、20C:控制部
50、53、60、63、94、97:人工智能算法
70、75、90:训练图像
73、78、92:训练用数据
74N、74P:标签
79N、79P:标签
80、85、95:解析对象图像
82、87、96:解析用数据
84:数据
88:数据
93N、93P:标签
98:数据
110:流动池
111:流路
120、121、122、123:光源
160:摄像部
200A:生成装置
200B、200C、400A:细胞解析装置
1000、2000、3000:细胞解析系统

Claims (24)

1.使用人工智能算法对细胞进行解析的细胞解析方法,其包括:
使含细胞的试样流经流路,
拍摄通过所述流路内的细胞而生成解析对象图像,
从生成的所述解析对象图像生成解析用数据,
向所述人工智能算法输入生成的所述解析用数据,及
由所述人工智能算法生成显示所述解析对象图像中所含的细胞的性状的数据。
2.权利要求1所述的细胞解析方法,其中显示所述细胞的性状的数据是:
显示是否是具有染色体异常的细胞的数据、或者
显示是否是末梢循环肿瘤细胞的数据。
3.权利要求1所述的细胞解析方法,其中所述细胞的目标部位被标记。
4.权利要求3所述的细胞解析方法,其中所述目标部位存在于选自核、细胞质、及细胞表面的至少1个。
5.权利要求3所述的细胞解析方法,其中所述目标部位由原位杂交法、免疫染色法或细胞器染色标记。
6.权利要求3所述的细胞解析方法,其中所述标记是由荧光染料的标记。
7.权利要求1所述的细胞解析方法,其中
所述解析对象图像含多次拍摄1个细胞而得到的多个图像,
所述解析用数据从各图像各自生成。
8.权利要求7所述的细胞解析方法,其中所述多个图像是拍摄相同的视野的不同的光的波长区域的图像。
9.权利要求8所述的细胞解析方法,其中所述多个图像含:
拍摄存在于核的第1荧光标记的第1荧光图像、和
拍摄存在于核的第2荧光标记的第2荧光图像。
10.权利要求8所述的细胞解析方法,其中所述多个图像含:
所述细胞的明场图像、和
拍摄所述细胞的荧光标记的荧光图像。
11.权利要求1所述的细胞解析方法,其中生成所述解析对象图像含从拍摄细胞而得到的图像提取细胞区域的修整处理。
12.权利要求1所述的细胞解析方法,其中所述人工智能算法是具有神经网络结构的深层学习算法。
13.权利要求12所述的细胞解析方法,其中所述解析用数据是显示所述解析对象图像的各像素的亮度的数据。
14.权利要求1所述的细胞解析方法,其中所述解析用数据是在显示所述解析对象图像中的特征量的数据。
15.权利要求14所述的细胞解析方法,其中所述特征量含所述解析对象图像中的所述细胞的面积。
16.使用人工智能算法对细胞进行解析的细胞解析装置,其具备控制部,所述控制部以如下方式构成:
使含细胞的试样流经流路,向所述人工智能算法输入从拍摄通过所述流路内的细胞的解析对象图像生成的解析用数据,
由所述人工智能算法生成显示所述解析对象图像中所含的细胞的性状的数据。
17.细胞解析系统,其具备:
含细胞的试样流经的流动池,
用于向流经所述流动池的试样照射光的光源,
拍摄照射所述光的所述试样中的细胞的摄像部,及
控制部,
其中所述控制部以如下方式构成:
以所述摄像部拍摄的通过流路内的细胞的图像作为解析对象图像取得,
从所述解析对象图像生成解析用数据,
向人工智能算法输入所述解析用数据,
由所述人工智能算法生成显示所述解析对象图像中所含的细胞的性状的数据。
18.对细胞进行解析的细胞解析程序,其使计算机执行包括下列步骤的处理:
使含细胞的试样流经流路,向人工智能算法输入从拍摄通过所述流路内的细胞的解析对象图像生成的解析用数据的步骤,及
由所述人工智能算法生成显示所述解析对象图像中所含的细胞的性状的数据的步骤。
19.用于对细胞进行解析的训练的人工智能算法的生成方法,其包括向人工智能算法输入下列信息而训练所述人工智能算法:
使含细胞的试样流经流路,从拍摄通过所述流路内的细胞的训练图像生成的训练用数据,和
显示所述训练图像中所含的细胞的性状的标签。
20.权利要求19所述的生成方法,其中
所述训练图像对于1个细胞而含多个图像,
所述多个摄像图像是拍摄相同的视野的不同的光的波长区域的图像,且
所述训练用数据从各图像各自生成。
21.权利要求20所述的生成方法,其中所述多个图像含:
拍摄存在于核的第1荧光标记的第1荧光图像、和
拍摄存在于核的第2荧光标记的第2荧光图像。
22.权利要求20所述的生成方法,其中所述多个图像含:
所述细胞的明场图像、和
拍摄所述细胞的荧光标记的荧光图像。
23.用于对细胞进行解析的训练的人工智能算法的生成装置,其具备控制部,所述控制部向人工智能算法输入下列信息而训练所述人工智能算法:
使含细胞的试样流经流路,从拍摄通过所述流路内的细胞的训练图像生成的训练用数据,和
显示所述训练图像中所含的细胞的性状的标签。
24.用于对细胞进行解析的训练的人工智能算法的生成程序,其使计算机执行包括下列步骤的处理:
向人工智能算法输入下列信息的步骤:
使含细胞的试样流经流路,从拍摄通过所述流路内的细胞的训练图像生成的训练用数据,和
显示所述训练图像中所含的细胞的性状的标签,训练所述人工智能算法的步骤。
CN202011333845.4A 2019-11-29 2020-11-24 细胞解析方法、装置、系统及程序、以及训练的人工智能算法的生成方法、装置及程序 Pending CN112881267A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019217159A JP7475848B2 (ja) 2019-11-29 2019-11-29 細胞解析方法、細胞解析装置、細胞解析システム、及び細胞解析プログラム、並びに訓練された人工知能アルゴリズムの生成方法、生成装置、及び生成プログラム
JP2019-217159 2019-11-29

Publications (1)

Publication Number Publication Date
CN112881267A true CN112881267A (zh) 2021-06-01

Family

ID=73598740

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011333845.4A Pending CN112881267A (zh) 2019-11-29 2020-11-24 细胞解析方法、装置、系统及程序、以及训练的人工智能算法的生成方法、装置及程序

Country Status (4)

Country Link
US (1) US20210164886A1 (zh)
EP (1) EP3828762A1 (zh)
JP (1) JP7475848B2 (zh)
CN (1) CN112881267A (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IL287060B2 (en) 2019-04-11 2024-08-01 Agilent Technologies Inc Deep learning based training of momentary segmentation through regression layers
EP3767587B1 (de) * 2019-07-19 2024-10-23 Euroimmun Medizinische Labordiagnostika AG Detektion von präsenzen unterschiedlicher antinukleärer antikörper-fluoreszenzmustertypen und vorrichtung hierfür
WO2022183078A1 (en) * 2021-02-25 2022-09-01 California Institute Of Technology Computational refocusing-assisted deep learning
CN114018789A (zh) * 2021-10-08 2022-02-08 武汉大学 基于成像流式细胞检测和机器学习的急性白血病分型方法
TW202407640A (zh) * 2022-07-20 2024-02-16 日商索尼半導體解決方案公司 資訊處理裝置、資訊處理方法、及程式

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1048120A (ja) * 1996-07-31 1998-02-20 Toa Medical Electronics Co Ltd 粒子分析装置
CN108732144A (zh) * 2017-04-14 2018-11-02 希森美康株式会社 荧光图像分析装置、荧光图像的分析方法及计算机程序
CN108805860A (zh) * 2017-04-27 2018-11-13 希森美康株式会社 图像解析方法、装置、程序及深度学习算法的生成方法
CN109871735A (zh) * 2017-11-17 2019-06-11 希森美康株式会社 图像解析方法、装置、程序及学习完了深层学习算法的制造方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102008058655B4 (de) * 2008-11-22 2019-01-10 Saurer Spinning Solutions Gmbh & Co. Kg Klemmvorrichtung
US9309410B2 (en) 2013-08-28 2016-04-12 Xerox Corporation Colorant compounds
AU2015261891A1 (en) * 2014-05-23 2016-10-13 Ventana Medical Systems, Inc. Systems and methods for detection of biological structures and/or patterns in images
WO2016094720A1 (en) * 2014-12-10 2016-06-16 Neogenomics Laboratories, Inc. Automated flow cytometry analysis method and system
EP3252469A4 (en) * 2015-01-29 2017-12-06 Konica Minolta, Inc. Method for simultaneous detection of blood cells having interacting molecules
JP6639906B2 (ja) * 2015-12-25 2020-02-05 東ソー株式会社 生物試料検出方法
CN108698846B (zh) * 2016-03-07 2021-05-04 X-Zell生物科技私人有限公司 用于识别罕见细胞的组合物和方法
JP6948354B2 (ja) * 2017-04-14 2021-10-13 シスメックス株式会社 蛍光画像分析装置及び蛍光画像の分析方法
US10769788B2 (en) * 2017-09-12 2020-09-08 Nantomics, Llc Few-shot learning based image recognition of whole slide image at tissue level
JP7054619B2 (ja) * 2017-11-30 2022-04-14 シスメックス株式会社 画像分析装置および画像分析方法
JP7369385B2 (ja) * 2018-06-13 2023-10-26 シンクサイト株式会社 サイトメトリーのための方法及びシステム
CA3115287A1 (en) * 2018-10-04 2020-04-09 First Light Diagnostics, Inc. Microbial analysis without cell purification
US20200152326A1 (en) * 2018-11-09 2020-05-14 International Business Machines Corporation Blood pathology image analysis and diagnosis using machine learning and data analytics
US11977017B2 (en) * 2019-01-23 2024-05-07 International Business Machines Corporation Automated configuration of flow cytometry machines

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1048120A (ja) * 1996-07-31 1998-02-20 Toa Medical Electronics Co Ltd 粒子分析装置
CN108732144A (zh) * 2017-04-14 2018-11-02 希森美康株式会社 荧光图像分析装置、荧光图像的分析方法及计算机程序
CN108805860A (zh) * 2017-04-27 2018-11-13 希森美康株式会社 图像解析方法、装置、程序及深度学习算法的生成方法
CN109871735A (zh) * 2017-11-17 2019-06-11 希森美康株式会社 图像解析方法、装置、程序及学习完了深层学习算法的制造方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JAKKRICH LAOSAI 等: "Deep-Learning-Based Acute Leukemia Classification Using Imaging Flow Cytometry and Morphology", 2018 INTERNATIONAL SYMPOSIUM ON INTELLIGENT SIGNAL PROCESSING AND COMMUNICATION SYSTEMS (ISPACS), 27 November 2018 (2018-11-27), pages 427 - 430, XP033644453, DOI: 10.1109/ISPACS.2018.8923175 *

Also Published As

Publication number Publication date
EP3828762A1 (en) 2021-06-02
JP2021085849A (ja) 2021-06-03
JP7475848B2 (ja) 2024-04-30
US20210164886A1 (en) 2021-06-03

Similar Documents

Publication Publication Date Title
CN112881267A (zh) 细胞解析方法、装置、系统及程序、以及训练的人工智能算法的生成方法、装置及程序
US12020492B2 (en) Cell analysis method, cell analysis device, and cell analysis system
WO2020198380A1 (en) Determining biomarkers from histopathology slide images
US20120075453A1 (en) Method for Detecting and Quantitating Multiple-Subcellular Components
CN109416730A (zh) 用于检测数字病理图像中的病理异常的方法和系统以及用于注释组织载玻片的方法
CN108350483A (zh) 在用户定义的切片组织区域中同时定量多种蛋白质
US20240029409A1 (en) Tissue staining and sequential imaging of biological samples for deep learning image analysis and virtual staining
US11727674B2 (en) Systems and methods for generating histology image training datasets for machine learning models
EP3861556A1 (en) Methods and systems for predicting response to pd-1 axis directed therapeutics
CA2580961A1 (en) Method for detecting and quantitating multiple subcellular components
Wolf et al. Current approaches to fate mapping and lineage tracing using image data
Yan et al. Advancements in technology for characterizing the tumor immune microenvironment
Borgmann et al. Single molecule fluorescence microscopy and machine learning for rhesus D antigen classification
US20240052404A1 (en) Systems and methods for immunofluorescence quantification
WO2024209965A1 (ja) 陽性判定方法、画像解析システムおよび情報処理装置
KR20230040873A (ko) 조인트 히스토그램 기반 형광 신호 분리 방법 및 장치
Valet et al. Cytomics: From cell States to predictive medicine
Kim et al. Cellular imaging-based biological analysis for cancer diagnostics and drug target development

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination