CN109564617B - 表征和成像微观物体的方法 - Google Patents
表征和成像微观物体的方法 Download PDFInfo
- Publication number
- CN109564617B CN109564617B CN201780036122.8A CN201780036122A CN109564617B CN 109564617 B CN109564617 B CN 109564617B CN 201780036122 A CN201780036122 A CN 201780036122A CN 109564617 B CN109564617 B CN 109564617B
- Authority
- CN
- China
- Prior art keywords
- data
- refractive index
- microscopic
- microscopic object
- stain
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 179
- 238000003384 imaging method Methods 0.000 title claims description 29
- 238000012512 characterization method Methods 0.000 claims abstract description 94
- 238000009826 distribution Methods 0.000 claims abstract description 41
- 230000009466 transformation Effects 0.000 claims abstract description 35
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 18
- 238000000844 transformation Methods 0.000 claims abstract description 18
- 238000012545 processing Methods 0.000 claims abstract description 10
- 238000004891 communication Methods 0.000 claims abstract description 6
- 230000006870 function Effects 0.000 claims description 59
- 230000008569 process Effects 0.000 claims description 55
- 238000012800 visualization Methods 0.000 claims description 48
- 238000010186 staining Methods 0.000 claims description 46
- 210000003463 organelle Anatomy 0.000 claims description 40
- 238000012546 transfer Methods 0.000 claims description 31
- 238000004458 analytical method Methods 0.000 claims description 27
- 239000000126 substance Substances 0.000 claims description 26
- 230000011218 segmentation Effects 0.000 claims description 21
- 230000001413 cellular effect Effects 0.000 claims description 20
- 239000003086 colorant Substances 0.000 claims description 18
- 230000000007 visual effect Effects 0.000 claims description 17
- 238000010801 machine learning Methods 0.000 claims description 13
- 238000002073 fluorescence micrograph Methods 0.000 claims description 11
- 230000006399 behavior Effects 0.000 claims description 10
- 230000010354 integration Effects 0.000 claims description 8
- 230000002123 temporal effect Effects 0.000 claims description 8
- 241000894006 Bacteria Species 0.000 claims description 7
- 230000001419 dependent effect Effects 0.000 claims description 7
- 210000003527 eukaryotic cell Anatomy 0.000 claims description 7
- 239000012528 membrane Substances 0.000 claims description 7
- 238000009825 accumulation Methods 0.000 claims description 4
- 238000005314 correlation function Methods 0.000 claims description 4
- 238000005315 distribution function Methods 0.000 claims description 4
- 238000009877 rendering Methods 0.000 claims description 4
- 241000206602 Eukaryota Species 0.000 claims description 3
- 230000004907 flux Effects 0.000 claims description 2
- 210000004027 cell Anatomy 0.000 description 210
- 238000005259 measurement Methods 0.000 description 37
- 210000004940 nucleus Anatomy 0.000 description 30
- 239000000523 sample Substances 0.000 description 30
- 230000008859 change Effects 0.000 description 20
- 230000000875 corresponding effect Effects 0.000 description 20
- 239000000975 dye Substances 0.000 description 20
- 238000001514 detection method Methods 0.000 description 18
- 230000006907 apoptotic process Effects 0.000 description 15
- 230000003287 optical effect Effects 0.000 description 15
- 229920000089 Cyclic olefin copolymer Polymers 0.000 description 14
- 238000003325 tomography Methods 0.000 description 13
- 230000008901 benefit Effects 0.000 description 12
- 230000000694 effects Effects 0.000 description 12
- 238000000799 fluorescence microscopy Methods 0.000 description 12
- 210000003470 mitochondria Anatomy 0.000 description 12
- 230000003993 interaction Effects 0.000 description 11
- 230000001186 cumulative effect Effects 0.000 description 9
- 206010028980 Neoplasm Diseases 0.000 description 8
- 210000000170 cell membrane Anatomy 0.000 description 8
- 230000007423 decrease Effects 0.000 description 8
- 210000000633 nuclear envelope Anatomy 0.000 description 8
- 150000002632 lipids Chemical class 0.000 description 7
- 238000005457 optimization Methods 0.000 description 7
- 238000000513 principal component analysis Methods 0.000 description 7
- 208000005443 Circulating Neoplastic Cells Diseases 0.000 description 6
- 238000007405 data analysis Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 230000002438 mitochondrial effect Effects 0.000 description 6
- 239000003795 chemical substances by application Substances 0.000 description 5
- 238000013135 deep learning Methods 0.000 description 5
- 230000001965 increasing effect Effects 0.000 description 5
- 230000003834 intracellular effect Effects 0.000 description 5
- 239000003550 marker Substances 0.000 description 5
- 238000000386 microscopy Methods 0.000 description 5
- 238000012544 monitoring process Methods 0.000 description 5
- 108090000623 proteins and genes Proteins 0.000 description 5
- 102000004169 proteins and genes Human genes 0.000 description 5
- 238000001228 spectrum Methods 0.000 description 5
- 238000003860 storage Methods 0.000 description 5
- 238000010521 absorption reaction Methods 0.000 description 4
- 230000001640 apoptogenic effect Effects 0.000 description 4
- 238000004630 atomic force microscopy Methods 0.000 description 4
- 201000011510 cancer Diseases 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 238000005286 illumination Methods 0.000 description 4
- 230000002452 interceptive effect Effects 0.000 description 4
- 230000007774 longterm Effects 0.000 description 4
- 201000004792 malaria Diseases 0.000 description 4
- 238000002360 preparation method Methods 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 239000012472 biological sample Substances 0.000 description 3
- 210000004369 blood Anatomy 0.000 description 3
- 239000008280 blood Substances 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 230000030833 cell death Effects 0.000 description 3
- 230000001427 coherent effect Effects 0.000 description 3
- 210000000805 cytoplasm Anatomy 0.000 description 3
- 238000007418 data mining Methods 0.000 description 3
- 238000009792 diffusion process Methods 0.000 description 3
- 201000010099 disease Diseases 0.000 description 3
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 3
- 238000003708 edge detection Methods 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 238000001506 fluorescence spectroscopy Methods 0.000 description 3
- 108010021843 fluorescent protein 583 Proteins 0.000 description 3
- 238000000338 in vitro Methods 0.000 description 3
- 210000003712 lysosome Anatomy 0.000 description 3
- 230000001868 lysosomic effect Effects 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 230000011278 mitosis Effects 0.000 description 3
- 238000002156 mixing Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000000704 physical effect Effects 0.000 description 3
- 238000011002 quantification Methods 0.000 description 3
- 238000010791 quenching Methods 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 230000004083 survival effect Effects 0.000 description 3
- 210000001519 tissue Anatomy 0.000 description 3
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 3
- FWBHETKCLVMNFS-UHFFFAOYSA-N 4',6-Diamino-2-phenylindol Chemical compound C1=CC(C(=N)N)=CC=C1C1=CC2=CC=C(C(N)=N)C=C2N1 FWBHETKCLVMNFS-UHFFFAOYSA-N 0.000 description 2
- 206010061902 Pancreatic neoplasm Diseases 0.000 description 2
- FAPWRFPIFSIZLT-UHFFFAOYSA-M Sodium chloride Chemical compound [Na+].[Cl-] FAPWRFPIFSIZLT-UHFFFAOYSA-M 0.000 description 2
- 230000004913 activation Effects 0.000 description 2
- 230000001464 adherent effect Effects 0.000 description 2
- 238000003782 apoptosis assay Methods 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 210000000601 blood cell Anatomy 0.000 description 2
- 230000032823 cell division Effects 0.000 description 2
- 230000010261 cell growth Effects 0.000 description 2
- 230000008045 co-localization Effects 0.000 description 2
- 230000002301 combined effect Effects 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 230000006378 damage Effects 0.000 description 2
- 230000034994 death Effects 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 238000002296 dynamic light scattering Methods 0.000 description 2
- 230000008030 elimination Effects 0.000 description 2
- 238000003379 elimination reaction Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000002708 enhancing effect Effects 0.000 description 2
- 230000004720 fertilization Effects 0.000 description 2
- 210000002950 fibroblast Anatomy 0.000 description 2
- 239000007850 fluorescent dye Substances 0.000 description 2
- 230000013632 homeostatic process Effects 0.000 description 2
- 230000000977 initiatory effect Effects 0.000 description 2
- 230000009545 invasion Effects 0.000 description 2
- 238000011835 investigation Methods 0.000 description 2
- 210000003644 lens cell Anatomy 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 208000015486 malignant pancreatic neoplasm Diseases 0.000 description 2
- 230000000394 mitotic effect Effects 0.000 description 2
- 230000000877 morphologic effect Effects 0.000 description 2
- 230000004660 morphological change Effects 0.000 description 2
- 230000035772 mutation Effects 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 201000002528 pancreatic cancer Diseases 0.000 description 2
- 208000008443 pancreatic carcinoma Diseases 0.000 description 2
- 210000003819 peripheral blood mononuclear cell Anatomy 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 230000005522 programmed cell death Effects 0.000 description 2
- 238000004445 quantitative analysis Methods 0.000 description 2
- 230000001105 regulatory effect Effects 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 238000013179 statistical model Methods 0.000 description 2
- 210000004895 subcellular structure Anatomy 0.000 description 2
- 230000008961 swelling Effects 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 241000224489 Amoeba Species 0.000 description 1
- 206010003694 Atrophy Diseases 0.000 description 1
- 206010048962 Brain oedema Diseases 0.000 description 1
- 208000002177 Cataract Diseases 0.000 description 1
- 206010010904 Convulsion Diseases 0.000 description 1
- FBPFZTCFMRRESA-FSIIMWSLSA-N D-Glucitol Natural products OC[C@H](O)[C@H](O)[C@@H](O)[C@H](O)CO FBPFZTCFMRRESA-FSIIMWSLSA-N 0.000 description 1
- 208000036119 Frailty Diseases 0.000 description 1
- 241000186660 Lactobacillus Species 0.000 description 1
- 206010058467 Lung neoplasm malignant Diseases 0.000 description 1
- 108010052285 Membrane Proteins Proteins 0.000 description 1
- 206010027476 Metastases Diseases 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 206010061309 Neoplasm progression Diseases 0.000 description 1
- 206010033645 Pancreatitis Diseases 0.000 description 1
- 206010034972 Photosensitivity reaction Diseases 0.000 description 1
- 208000001647 Renal Insufficiency Diseases 0.000 description 1
- 210000001744 T-lymphocyte Anatomy 0.000 description 1
- 238000003917 TEM image Methods 0.000 description 1
- 206010064390 Tumour invasion Diseases 0.000 description 1
- 208000036142 Viral infection Diseases 0.000 description 1
- 241000700605 Viruses Species 0.000 description 1
- 208000027418 Wounds and injury Diseases 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000001154 acute effect Effects 0.000 description 1
- 210000001789 adipocyte Anatomy 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000001195 anabolic effect Effects 0.000 description 1
- 230000005775 apoptotic pathway Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 206010003549 asthenia Diseases 0.000 description 1
- 230000037444 atrophy Effects 0.000 description 1
- 210000003719 b-lymphocyte Anatomy 0.000 description 1
- 230000031018 biological processes and functions Effects 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 210000002459 blastocyst Anatomy 0.000 description 1
- 238000004061 bleaching Methods 0.000 description 1
- 208000006752 brain edema Diseases 0.000 description 1
- 238000009395 breeding Methods 0.000 description 1
- 230000001488 breeding effect Effects 0.000 description 1
- 210000001593 brown adipocyte Anatomy 0.000 description 1
- 230000005587 bubbling Effects 0.000 description 1
- 230000036952 cancer formation Effects 0.000 description 1
- 230000009400 cancer invasion Effects 0.000 description 1
- 230000001925 catabolic effect Effects 0.000 description 1
- 230000021164 cell adhesion Effects 0.000 description 1
- 238000004113 cell culture Methods 0.000 description 1
- 230000022131 cell cycle Effects 0.000 description 1
- 230000004709 cell invasion Effects 0.000 description 1
- 230000012292 cell migration Effects 0.000 description 1
- 210000003855 cell nucleus Anatomy 0.000 description 1
- 210000003850 cellular structure Anatomy 0.000 description 1
- 238000004040 coloring Methods 0.000 description 1
- 238000010835 comparative analysis Methods 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000005094 computer simulation Methods 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 210000002808 connective tissue Anatomy 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 239000002537 cosmetic Substances 0.000 description 1
- 230000021953 cytokinesis Effects 0.000 description 1
- 238000004163 cytometry Methods 0.000 description 1
- 210000004292 cytoskeleton Anatomy 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013079 data visualisation Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 206010012601 diabetes mellitus Diseases 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 230000005672 electromagnetic field Effects 0.000 description 1
- 238000010894 electron beam technology Methods 0.000 description 1
- 238000001493 electron microscopy Methods 0.000 description 1
- 206010015037 epilepsy Diseases 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000035558 fertility Effects 0.000 description 1
- 230000003176 fibrotic effect Effects 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 238000012632 fluorescent imaging Methods 0.000 description 1
- 239000012634 fragment Substances 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000012010 growth Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000001198 high resolution scanning electron microscopy Methods 0.000 description 1
- 230000002157 hypercatabolic effect Effects 0.000 description 1
- 230000036039 immunity Effects 0.000 description 1
- 208000015181 infectious disease Diseases 0.000 description 1
- 208000014674 injury Diseases 0.000 description 1
- 230000016507 interphase Effects 0.000 description 1
- 230000006662 intracellular pathway Effects 0.000 description 1
- 201000006370 kidney failure Diseases 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 229940039696 lactobacillus Drugs 0.000 description 1
- 238000003475 lamination Methods 0.000 description 1
- 201000007270 liver cancer Diseases 0.000 description 1
- 208000014018 liver neoplasm Diseases 0.000 description 1
- 201000005202 lung cancer Diseases 0.000 description 1
- 208000020816 lung neoplasm Diseases 0.000 description 1
- 210000004324 lymphatic system Anatomy 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 206010027191 meningioma Diseases 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000004899 motility Effects 0.000 description 1
- 210000001087 myotubule Anatomy 0.000 description 1
- 210000000440 neutrophil Anatomy 0.000 description 1
- 102000039446 nucleic acids Human genes 0.000 description 1
- 108020004707 nucleic acids Proteins 0.000 description 1
- 150000007523 nucleic acids Chemical class 0.000 description 1
- 235000015097 nutrients Nutrition 0.000 description 1
- 231100000590 oncogenic Toxicity 0.000 description 1
- 230000002246 oncogenic effect Effects 0.000 description 1
- 238000012634 optical imaging Methods 0.000 description 1
- 238000000399 optical microscopy Methods 0.000 description 1
- 230000008621 organismal health Effects 0.000 description 1
- 230000002018 overexpression Effects 0.000 description 1
- 230000036542 oxidative stress Effects 0.000 description 1
- 230000007170 pathology Effects 0.000 description 1
- 230000035699 permeability Effects 0.000 description 1
- 208000007578 phototoxic dermatitis Diseases 0.000 description 1
- 231100000018 phototoxicity Toxicity 0.000 description 1
- 230000010287 polarization Effects 0.000 description 1
- 239000011148 porous material Substances 0.000 description 1
- 231100000683 possible toxicity Toxicity 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 230000035755 proliferation Effects 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 230000031877 prophase Effects 0.000 description 1
- 238000001243 protein synthesis Methods 0.000 description 1
- 230000017854 proteolysis Effects 0.000 description 1
- 210000001243 pseudopodia Anatomy 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 239000000376 reactant Substances 0.000 description 1
- 238000007670 refining Methods 0.000 description 1
- 230000009933 reproductive health Effects 0.000 description 1
- 210000001995 reticulocyte Anatomy 0.000 description 1
- 210000003705 ribosome Anatomy 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 208000007056 sickle cell anemia Diseases 0.000 description 1
- 239000000600 sorbitol Substances 0.000 description 1
- 238000012732 spatial analysis Methods 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 238000004611 spectroscopical analysis Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 230000000638 stimulation Effects 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 230000003746 surface roughness Effects 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000001225 therapeutic effect Effects 0.000 description 1
- 230000030968 tissue homeostasis Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 230000014616 translation Effects 0.000 description 1
- 238000004627 transmission electron microscopy Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 230000005751 tumor progression Effects 0.000 description 1
- 230000009452 underexpressoin Effects 0.000 description 1
- 230000009385 viral infection Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/698—Matching; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N1/00—Sampling; Preparing specimens for investigation
- G01N1/28—Preparing specimens for investigation including physical details of (bio-)chemical methods covered elsewhere, e.g. G01N33/50, C12Q
- G01N1/30—Staining; Impregnating ; Fixation; Dehydration; Multistep processes for preparing samples of tissue, cell or nucleic acid material and the like for analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/695—Preprocessing, e.g. image segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04847—Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10064—Fluorescence image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
- Microscoopes, Condenser (AREA)
Abstract
一种微观物体表征系统(1),包括计算机系统(2、2a、2b)、具有连接到该计算机系统的计算单元(5)的显微镜(4),以及可在计算机系统中执行的物体表征程序(17),物体表征程序(17)被配置为接收折射率数据,该折射率数据表示至少所述微观物体的折射率(RI)的测得的值或与折射率相关的值的空间分布。物体表征程序可操作,以执行对所述折射率数据应用多个变换的算法。变换生成用于表征微观物体的特征的两个或更多个参数的分布。计算机系统还包括反馈接口,该反馈接口被配置为经由诸如互联网之类的全局通信网络连接到网络计算系统中的一个或多个数据服务器,并且被配置为从数据服务器接收反馈数据以供物体表征程序处理,以校准、精炼或增强所述特征的表征。
Description
技术领域
本发明涉及一种用于表征和成像微观物体,特别是生物标本的方法和系统。特别地,本发明可以用于细胞生物学领域及其基于非侵入性光学成像技术的定量。
背景技术
能够直接与生物标本(诸如活细胞标本)相互作用在医学、药学、化妆品、基础研究和教育领域开辟了广泛的新应用。自从细胞于17世纪被发现以来,工程师们一直在努力提高成像系统的光学分辨率。但是,由于细胞的透明性质,难以在不损坏细胞的情况下对活细胞进行成像。
对增加分辨率的限制通过两个光散射体可以被识别为分开的最小距离表现出来。直到最近,提高分辨率的努力主要涉及由非相干照明仪器获得的基于强度的图像场。与非相干技术相反,相位和其它电磁场特性强烈影响利用相干光技术可实现的分辨率。与基于强度的成像系统相比,一种这样的技术,全息显微镜,具有较差的横向分辨率。
不过,非相干照明和相干层压系统共享图像形成理论的许多基本方面。基于在远场中传播的光的微观物体的高分辨率成像由于其与有限能量相关联的有限光谱而满足分辨率限制。这些频谱限制既适用于时间也适用于空间域。带宽限制自然地在空间频率域(SFD)中引入带止(bandstop)或带阻滤波器。因此,空间频率域的占用限于光学系统带宽的有限区域[Goodman,1968]。进一步的限制是由于仪器的考虑,特别是波场的有效光谱进一步受到收集散射物体波的仪器的配置的限制。光进入锥体内的显微镜物镜(MO),该锥体截取显微镜物镜的瞳孔。在数学上,角度光谱受到显微镜物镜的数值孔径(NA)的限制。光谱表现出乘以称为相干传递函数(CTF)的复函数,它是复值振幅点扩散函数(APSF)的傅立叶变换。APSF的平方是强度点扩散函数(IPSF)或更常见地是点扩散函数(PSF)。PSF通常被认为是对强度图像进行限定。相干传递函数的自相关是点扩散函数的傅立叶变换,并且通常称为光学传递函数(OTF)。它通常被认为是光学仪器的带宽以及因此分辨率的描述符。
在通过空间带宽传送信息方面对成像的理解指示克服其限制的方法,特别是通过去卷积。去卷积方法可以通过去模糊、增强光学切片能力或提高分辨率来改善一般图像质量。这种益处使得去卷积成为生物应用的常见后处理方法,诸如荧光显微图像的去卷积。已经开发了许多用于非相干成像的标准去卷积技术。
基于全息断层摄影术[Cotte等人,Nature Photonics 7(2013)113-17,US 8,937,722,EP2998776],生物样本的三维(3D)折射率(RI)分布可以在没有标记物且不损坏标本的情况下实现。通过全息和旋转扫描的组合,系统检测光在其传播通过细胞时的变化。这种光路形成Mach-Zehnder干涉仪设置(set-up)的一个臂,另一个臂是参考路径。样本束可以以非常陡的角度通过旋转照射臂照射样本。全息图由数码相机记录,该数码相机将通过样本的光束与参考光束组合。然后将样本光束旋转一个小角度并重复该过程,每个光束位置记录一个全息图。使用上面提到的显微镜,与大多数光学显微镜一样,通过全息断层摄影术测得的参数既不是外源分子的吸收也不是荧光强度。相反,样本的物理折射率是以三维(3D)分布获得的,其分辨率优于显微镜物镜给出的衍射限制。输出是生物标本(例如细胞)内的折射率分布。结果是体外定量细胞断层摄影术,没有任何侵入性样本制备,特别是不使用荧光标记物。通过采用合成孔径和多视点全息方法来实现改善的图像分辨率。在捕获全息图之后,可以通过计算机处理生成样本中每个平面的高分辨率图像。
发明内容
本发明的方法和系统寻求使用定量多维数据,特别是三维(3D)、四维(4D)或更高维数据(例如使用上面提到的全息断层摄影技术采集的),提供对微观生物标本的改进的表征和/或成像。
除了全息断层摄影技术之外,本发明的方法可以同样地应用于通过重建微观生物标本的3D、4D或更高维度折射率分布的设备采集的任何其它数据。特别地,折射率(RI)分布也可以通过非全息方法提取,例如通过从空间域中的标本的波场强度访问复杂光谱(例如基于复杂波场的假设)并将传播的强度调整为测得的强度。最小化方案可以用于此目的。特别地,Fienup[1978]提出了用于从强度数据中进行相位检索的迭代算法。Gerchberg-Saxton[Gerchberg,1972]和误差减少算法[Fienup,1978;Yang和Gu,1981]用于解决由复杂波场确定所引起的逆问题。另一种方法基于测量不同轴向距离处的场强[Teague,1985]。Gureyev等[1995]证明定量相位成像可以从强度传递方程(TIE)推导出来,并已成功应用于显微镜中的不同区域[Barone-Nugent等,2002]。
通过提供根据独立权利要求的方法和系统,已经实现了本发明的目的。
从属权利要求描述本发明的各种有利特征。在以下描述和附图中可以找到本发明的其它目的和有利特征。
在本发明中,描述了关于如何提取微观物体,特别是生物标本的有意义的分析和解释的技术方法。表示微观物体(特别是诸如细胞之类的生物标本)的3D、4D或更高维度折射率分布的数据可以通过使用数据的交互式视觉表示(数字染色剂(stain))来处理、可视化和分析,此外还可以执行对测得的折射率分布的定量分析。安装在计算机系统中的物体表征程序可以用于处理数据并生成微观物体的可视表示以在屏幕上显示,并呈现用于微观物体的交互式反馈、分析、重新建模和可视化的工具。
本发明允许基于在基于折射率的值(包括例如折射率值、折射率梯度和折射率值的其它数学变换)的N维空间中定义的特征参数进行定量数字染色(digital staining)。可以通过将传递函数应用于输入到物体表征程序中的数据来执行这些数学变换。
定义基于折射率的多维传递函数产生用于表征和可视化微观物体,特别是如下文所述的生物标本的许多优点。
根据本发明的第一方面,定义了数字染色剂空间及其用于表征和成像微观物体,特别是生物标本的各种传递函数。
根据本发明的第二方面,描述了用于多维(特别是3D或4D)折射率值的数字染色参数和阈值,用于表征通过以下各项当中的任何一个或多个更新后的生物相关内容:
a.交互式专业知识反馈;
b.通过数据库学习的统计比较;
c.来自互补技术的参考数据。
本文公开了一种基于测得的折射率数据对微观物体进行数字表征的方法,该折射率数据表示至少折射率(RI)的测得的值或与所述微观物体的折射率相关的值的空间分布。该方法包括:
-在计算系统中输入所述测得的折射率数据;
-执行对所述折射率数据应用多个变换的算法,以生成多个参数的分布;
-将表征微观物体的特征的标签与所述多个参数的既定值范围相关联,由此微观物体的不同特征由多个参数的不同既定值范围表征并且与不同标签相关联。
标签可以表示特征的任何一个或多个属性,诸如特征的类型、特征与其它特征或物体的关系、特征的状态或条件、特征的几何形状或尺寸,或影响特征的物理属性的任何其它因素。
在实施例中,对所述折射率数据的多个变换生成多个参数的三维空间分布。
在实施例中,多个参数和相关联标签的所述分布定义n维染色剂空间,n大于1。
在实施例中,该方法还包括n维染色剂空间的分段(segment),所述分段包括由计算系统中可执行的程序生成包括表征微观物体的至少一个特征的所述多个参数的值范围和所述相关联标签的至少一个特征数据集。
在实施例中,该方法还可以包括将染色剂颜色与所述至少一个特征数据集相关联,并生成用于在屏幕上显示所述至少一个特征的图像文件,以供用户可视化。
在实施例中,微观物体包括多个不同特征,生成多个特征数据集,每个特征数据集表征所述多个不同特征中的不同特征。
在实施例中,不同的染色剂颜色可以与不同的特征相关联。
在实施例中,该方法可以包括生成用于在屏幕上显示包括多个特征的微观物体的图像文件,以供用户可视化。
在实施例中,微观物体是生物物质,包括任何原核生物或真核生物。
在实施例中,生物物质是真核细胞或真核细胞的一部分。
在实施例中,特征是细胞的细胞器。
在实施例中,特征的表征可以包括特征的体积的测量。
在实施例中,特征的表征可以包括识别细胞器的类型并将细胞器类型与特征数据集相关联。
在实施例中,特征的表征可以包括特征的状态或状况,例如健康或生病、正常或异常、活的或死的、年龄的状态或状况,以及影响特征的物理属性的其它状况。
在实施例中,所述测得的折射率数据是测得的微观物体的、由相位和强度值表示的复折射率分布。
在实施例中,分段包括反馈回路,用于基于外部或基于用户的输入调整所述特征数据集的值。
在实施例中,所述反馈包括可视化在屏幕上显示的所述图像的、来自所述用户的基于用户的输入。
在实施例中,所述反馈包括外部输入,所述外部输入包括先前采集的表征微观物体的数据、关于参考物体的数据、来自机器学习程序的数据、表征通过其测量微观物体的显微镜的数据、形状识别程序或所述外部数据与微观物体的相关函数中的任何一个或多个。
在实施例中,所述反馈包括参考物体输入,例如几何物体(例如,球状体、杆等)、经校准的物体(诸如先前验证的细胞器的断层图像(例如,高分辨率SEM/TEM图像))、物理约束(诸如细胞器的通量连续性或连接的膜(例如,细胞器不能立即消失并重新出现)),或与通过其测量微观物体的显微镜相关的物理约束。一个方面是用更高分辨率的数据(例如向量图形)替换“像素化”数据(例如线粒体)。
在实施例中,所述多个参数包括空间和时间参数,以便表征或可视化微观物体或其一部分随时间的行为。
在实施例中,所述多个变换包括对输入的测得的折射率数据进行操作的传递函数。
在实施例中,所述传递函数包括形式为以下各项的任何一种或多种:积分、累积、频率、导数和更高动量、包括分形(factal)的小波、纹理敏感变换、傅立叶、Gabor、拉普拉斯变换,或通过谐波分析,以及使用离散、离散时间、数据依赖、线性或非线性、度量函数和/或分布函数、逻辑运算符(例如,Min和Max、And、OR、模糊逻辑等)、带通滤波器、颜色函数、硬度、α和伽马传递函数、表面渲染(诸如扩散)、霍夫变换,以及成像处理变换(诸如脊或边缘检测)。
本文还公开了一种微观物体表征系统(1),包括可连接到具有计算单元(5)的显微镜(4)的计算机系统(2、2a、2b),以及可在计算机系统中执行的物体表征程序(17),计算系统被配置为接收折射率数据,该折射率数据表示至少折射率(RI)的测得的值或与所述微观物体的折射率相关的值的空间分布。物体表征程序可操作,以执行对所述折射率数据应用多个变换的算法。变换生成用于表征微观物体的特征的两个或更多个参数的分布。计算机系统还包括反馈接口,该反馈接口被配置为经由诸如互联网之类的全局(global)通信网络连接到网络计算系统中的一个或多个数据服务器,并且被配置为从数据服务器接收反馈数据以供物体表征程序处理,以校准、精炼或增强所述特征的表征。
在实施例中,计算机系统可以由互连到网络计算系统的多个计算机系统形成。
在实施例中,微观物体表征系统可以结合一个或多个显微镜。
在实施例中,系统还可以包括可由系统的授权用户访问的数据库,该数据库填充有描述微观物体的特征的数据集。
在实施例中,数据库可以被配置为接收由系统的授权用户上载的数据,特别是描述微观物体的特征的数据集。
在实施例中,数据库可以安装在数据中心服务器中。
在实施例中,系统还可以包括显示模块,该显示模块被配置为生成命令和物体可视化面板(12),用于在屏幕(GUI)上显示以供用户查看和操作。命令和物体可视化面板可以包括输入面板(13)、数字染色剂面板(14)和可视化面板(15)。输入面板(13)提供折射率输入数据的视觉表示,并且数字染色剂面板(14)提供用于表征微观物体的所述参数中至少两个并且被配置为允许参数范围(18a、18b、18c、18d)由用户交互设置的视图。可视化示出了物体表征程序的输出,即,通过由程序执行的过程表征的微观物体的特征,包括来自用户或外部源的任何反馈。
在实施例中,不同的颜色可以与每个参数范围相关联,使得数字染色剂面板中表示参数范围的所描绘的形状具有不同的颜色,这些颜色被应用在微观物体的每个空间位置处,其中参数落入与用于在可视化面板中可视化的颜色对应的范围内。
在实施例中,每个不同的参数范围与微观物体的对应的不同特征相关联。
根据本发明的独立方面,本文还公开了一种用于微观物体表征系统(1)的显示模块,以及配置和操作显示模块的方法。显示模块被配置为生成命令和物体可视化面板(12),用于在屏幕(GUI)上为用户显示。命令和物体可视化面板包括输入面板(13)、数字染色剂面板(14)和可视化面板(15),输入面板(13)被配置为提供微观物体的折射率输入数据的视觉表示,特别是从显微镜采集的微观物体的测得的折射率输入数据,并且数字染色剂面板(14)被配置为提供用于表征微观物体的至少两个参数的图形表示并允许参数范围(18a、18b、18c、18d)由用户交互设置,例如借助于由用户操作的屏幕光标。可视化面板被配置为提供应用于输入数据的物体表征程序的输出的视觉表示,特别是示出通过执行程序的算法来表征的微观物体的特征,该算法对所述折射率数据应用多个变换。物体表征程序可以执行上述方法的任何一个或多个元素。
根据本发明的有利方面,输入面板(13)可以被配置为以感兴趣区域的选择的形式接收用户输入,例如借助于用户可控制的屏幕光标。感兴趣区域可以覆盖输入面板上显示的微观物体的视觉表示的一个或多个像素。物体表征程序可以有利地被配置为对与所选择的感兴趣区域对应的折射率数据应用多个变换,并且生成表征数字染色剂面板(14)中的感兴趣区域的参数范围。这允许用户通过在输入图像的用户识别特征的类型的不同部分上点击他的屏幕光标来生成微观物体的不同特征的参数范围。例如,如果用户知道所观察的微观物体的类型,例如某种细胞类型,并且可以识别诸如根据输入面板中所示的测得的折射率数据形成的输入图像中细胞的细胞核或其它细胞器之类的某些特征,然后用户可以输入(在物体表征程序中,例如经由命令和可视化面板)关于与生成并在数字染色剂面板中视觉上表示的参数范围相关联的特征的类型以及细胞类型的信息。
不同的颜色和其它视觉表示参数可以由用户选择以用于参数范围,以在可视化面板(15)中生成视觉输出。因此,用户可以与输入面板(13)和数字染色剂面板(14)两者交互,以表征微观物体,并且还在可视化面板(15)中生成微观物体及其不同特征的彩色三维表示。
本发明还涉及一种非瞬态计算机可读介质,其具有有形地存储在其上的指令,当指令由处理器执行时,执行根据上面提到的任何方面和实施例的方法。
本发明还涉及一种计算装置,包括处理器和存其上储有指令的存储器,当指令由处理器执行时,执行根据上面提到的任何方面和实施例的方法。
附图说明
图1图示了根据本发明实施例的、由物体表征程序的图形用户界面可视地表示的典型输入和输出数据的示例,其中数字染色剂面板(中央面板)定义输入数据(左侧面板)与输出数据(右侧面板)之间的传递函数。在这个示例中,输入数据是通过体外定量细胞断层摄影获得的细胞的折射率(RI)分布,没有任何侵入或样本制备,借助于显微镜检测在光传播通过细胞时光的变化,以获得细胞内物理折射率(RI)的三维或四维分布。通过这种手段,人们可以测量细胞的物理特性。
图2图示了实现根据本发明实施例的物体表征程序的图形用户界面(GUI)的示例,其中左上方面板图示了输入数据(在这个示例中,微观物体的RI值的空间(3D)分布),中央顶部面板图示了数字染色剂面板,其定义要应用于输入数据的传递函数的参数的范围以及归属于那些范围的颜色,右上方面板图示了输出数据的可视化(在这个示例中是3维),并且底部面板图示了用于用户输入和控制微观物体的表征和可视化的命令面板;
图3示意性地图示了定义折射率(RI)的空间分布的相邻体素;
图4示意性地图示了根据本发明实施例的、由物体表征程序的图形用户界面可视地表示的典型输入和输出数据的示例,其中数字染色剂面板(中央面板)定义输入数据(左侧面板)与输出数据(右侧面板)之间的传递函数;
图5示意性地图示了传递函数的示例剖面;
图6示意性地图示了实现根据本发明实施例的物体表征处理的计算机系统;
图7示意性地图示了根据本发明实施例的计算机系统体系架构信息流程图;
图8示意性地图示了根据本发明实施例的、由计算机系统中的物体表征程序执行的通用微观物体表征处理;
图9a示意性地图示了根据本发明实施例的物体表征处理的通用反馈图;
图9b示意性地图示了通过外部输入校准的、根据本发明实施例的物体表征处理的反馈图;
图9c示意性地图示了通过参考物体校准的、根据本发明实施例的物体表征处理的反馈图;
图9d示意性地图示了根据本发明实施例的、用于预测细胞行为的物体表征处理的反馈图;
图10图示了由根据本发明实施例的物体表征程序的图形用户界面可视地表示的输入和输出数据的示例,其中左侧面板(输入面板)示出了包括两种不同细胞类型的生物标本的测得的RI数据的视觉表示,中央面板(数字染色剂面板)示出了两种不同细胞类型的参数范围,并且右侧面板(可视化面板)示出了两种细胞类型的视觉表示;
图11图示了根据本发明实施例的物体表征程序的图形用户界面的数字染色剂面板和生物标本可视化。
图12图示了改变数字染色剂面板上关于生物标本的位置参数的影响;
图13图示了改变数字染色剂面板上关于生物标本的形状参数的影响;
图14图示了改变数字染色剂面板上关于生物标本的顶视图的边缘柔和度的影响;
图15图示了改变数字染色剂面板上关于生物标本的侧视图的边缘柔和度的影响;
图16图示了生物标本上的数字染色剂背景定义;
图17图示了生物标本上的数字染色剂背景优化;
图18图示了光学像差对关于生物标本的、在数字染色剂面板中表示的物体表征参数的影响;
图19图示了颜色空间对生物标本上的数字染色剂的影响;
图20图示了关于生物标本的、在数字染色剂面板中表示的无交叉物体表征参数的影响;
图21图示了关于生物标本的、在数字染色剂面板中表示的物体表征参数的交叉的影响;
图22图示了通过生物标本上的数字染色剂参数化的细胞包膜(envelope);
图23图示了如EP2998776中所描述的利用显微镜获得并且用根据本发明实施例的物体表征计算机程序进行数字染色的RI数据采集。用于测量的六个球体是由绿色箭头指示的图像中心的球体。(A)图像折射率的2D图,我们可以在这个视图中的图像的96个堆叠之间滚动。(B)左侧面板上存在的球体的3D表示。在这个视图中,每种颜色与具体的折射率对应。在2D视图中,比例尺为20μm;
图24图示了协议验证图。(A)在8分钟的时段期间球体体积的演变,减小是线性的,并且每个球体具有相同的行为。(B)前一个图的归一化。在时间t0的体积取100%,我们可以看到每个球体在8分钟结束时达到起始体积的大约20%。(C)为每个球体确定在每个时间点完成的误差。对于每个球体,它随着时间的推移保持恒定并且停留在5%左右。(D)用开发的协议提交的误差与细胞部分的总体积之间的关系。当体积变得太小(<500μm3)时,该技术的精度降低。
图25图示了细胞的细胞核体积变化的图。(A)这个图示出了在实验的任何时间点每个细胞的细胞核体积的演变。时间是归一化的,但体积没有归一化,我们看到细胞可以从非常不同的体积值开始,因此如果必须进行比较评估,那么我们需要将日期归一化。(B)这个图示出了随着实验时间的推移细胞核体积的相对减小。通过将时间t0处的第一个值取作100%来归一化体积。
图26图示了根据本发明实施例的、由计算机系统中的物体表征程序生成的细胞凋亡过程的图像。在每个面板上,可以看到细胞的不同折射率的2D图表示。在右侧面板上是数字化染色的细胞的3D全息图。每种颜色表示一个折射率范围。(A)这里首先表示正常细胞的形态方面。(B)发生起泡并且细胞开始失去体积,细胞核仍未相当触及。(C)在这个视图中,可以看到尖峰并且细胞核凝聚并收缩。这恰好是在细胞凋亡的后期阶段之前,其中细胞核脱落(dislocate)成更多的碎片。比例尺图示了(A)对于2D视图是20μm。(B)10μm。(C)10μm;
图27图示了如在EP2998776中描述的用显微镜获得的CTC提取、富集和分析(上部分支),相对于传统荧光显微镜(下部分支);
图28图示了根据本发明实施例的、用于自动癌细胞检测的物体表征处理的示例;
图29在左侧图示了通过相位对比成像的人类精子细胞,在中央图示了RI分布作为输入数据(从显微镜采集的数据),并且在右侧图示了使用输入数据由根据本发明实施例的物体表征程序生成的精子细胞的3D可视化;
图30图示了乳杆菌(细菌)。通过根据本发明实施例的物体表征程序将总细胞体积用红色数字染色。数字染色剂面板在左侧和右侧示出了整个细胞体积的3D重建。数字染色的像素的体积给了我们总细胞体积。由于视野中有四个细胞,因此接下来总体积除以四。
图31图示了细胞厚度和折射率随时间变化的图,用于细胞有丝分裂的早期指示;
图32图示了棕色脂肪细胞(左侧面板A)与用染料(dies)处理的胚胎小鼠成纤维细胞(左侧面板B)之间的比较,两者均使用如EP2998776中所述的显微镜获得。在左侧面板上显示输入的测得的细胞内的折射率分布,而在中央面板上显示由根据本发明实施例的物体表征程序生成的脂肪细胞的3D重建。线粒体用红色数字染色,而细胞核用蓝色数字染色。左侧面板中的箭头指示线粒体。在这两种类型的细胞中,我们都认识到线粒体的特定形状以丝状形状聚集在一起;
图33以图形方式对于三种不同结构(浆膜、细胞核和细胞器)图示了活细胞(n=7)与固定细胞(n=8)之间RI的比较;
图34图示了活的成纤维细胞网状细胞。在左侧面板上,显示细胞内的折射率分布(与输入数据对应),而在右侧面板上,示出了由根据本发明实施例的物体表征程序生成的3D重建。细胞核用蓝色数字染色,细胞器用红色染色,而浆膜是绿色的;
图35图示了细胞群分布的示例;
图36至41图示了使用荧光校准微观物体表征的方法,其中:
-图36图示了步骤和处理的概述。它基本上包括采集2D荧光和3D全息图数据(分别为面板a和b),并且从两种类型数据的覆盖(面板c),用户可以定义D染色剂,以获得3D中的分段数据(面板d),
-图37-41分别图示了校准处理的步骤1-5;
图37是用数字染色剂面板示出的3D全息断层照片的切片;
图38是具有中央细胞的特写视图的3D全息断层图像的相同切片,其中报告了测得的RI的值。在应用中央数字染色剂面板的变换之后,在右侧示出输出数据;
图39是用对细胞膜具有特异性的Fyn-GFP蛋白捕获并与RI全息断层摄影切片合并的荧光图像;
图40根据RI数据和荧光数据的合并,校准数字染色剂;
图41在校准处理之后,数字染色剂特定于与化学染色剂相同的细胞器并且可应用于整个3D和4D数据集;
图42至47示出了由根据本发明实施例的微观物体表征系统处理的图像的各种示例,以突出使用荧光显微镜的数字染色剂校准的某些优点,其中
-图42图示了细胞的折射率测量和经校准并且是各种细胞特征的特性的数字染色剂的集合,因此可以获得多数字染色通道(f.),
-图43图示了样本的2D荧光图像和3D全息断层摄影图像。通过3D全息断层摄影去除2D荧光成像中固有的z轴模糊度。可以将来自2D荧光图像的经校准的数字染色剂应用于3D数据集,以产生三维染色图像,
-图44示出了3D RI体积的图像以及特定于线粒体的3D数字染色剂,其先前用DsRed标记物从2D荧光图像校准,
-图45图示了用对浆膜具有特异性的Fyn-GFP标记物获得的2D荧光图像,其表现出蛋白质表达不足和过表达的典型伪影。使用根据本发明实施例的物体表征处理在浆膜上校准的对应3D数字染色剂被证明去除了那些伪影并递送均匀染色的图像,
-图46图示了具有由于失焦染色物体引起的失焦信号的浆膜的2D荧光染色剂和在实现根据本发明实施例的物体表征处理的浆膜上校准的3D数字染色剂。示出经校准的数字染色剂可以应用于整个数据集,包括尚未转染并且因此没有荧光信号的细胞。在右侧面板中示出了经校准的、特定于浆膜和脂滴并且应用于3D数据集的2个数字染色剂的3D视图,
-图47以图形方式图示了传统荧光成像和根据本发明实施例的数字染色剂校准的侵入性的比较示例,其中数字染色剂校准在单个荧光图像上进行,从而减少了样本的光毒性和光漂白,从而允许细胞在执行3D折射率测量时存活长时间,从而使得能够生成3D数字染色数据的时间流逝,该示例示出了对脂滴的校准;
图48至50图示了用荧光成像校准的、使用根据本发明实施例的物体表征处理数字染色的细胞特征的示例的各种图像,其中
-图48示出了针对具体细胞类型(浆膜、线粒体、细胞核、脂滴、浆膜蛋白和核膜)建立对荧光标记物校准的数字染色剂库的示例,
-图49A-图49B图示了在RI图与对应的荧光信号之间具有清晰折射率签名的细胞器上的共定位处理的第一步的示例:RI全息断层摄影和荧光数据在相同的样本上被捕获并覆盖,用于后续的数字染色剂校准。这里给出了针对线粒体、细胞核和核仁、膜、脂滴、核膜和溶酶体的示例,
-图50图示了根据本发明实施例的图形用户界面的屏幕截图,图示了根据本发明实施例的、如何使用来自落射荧光显微镜的参考数据来校准数字染色剂;
图51图示了根据本发明实施例的、用于单次(single shot)采集的采集和校准的处理的流程图;
图52图示了根据本发明实施例的、用于时间流逝采集的采集和校准的处理的流程图;
图53图示了根据本发明实施例的、用于分析具有由物体表征系统生成的数字染色剂的生物样本的简化全局序列。
具体实施方式
特别参考图2、6和7,微观物体表征系统1包括计算机系统2、2a、2b和显微镜4,显微镜4具有连接到计算机系统的计算单元5,由此微观物体表征系统1可以包括经由全局通信网络(包括例如互联网)连接到用于存储和分析显微镜物体表征数据的一个或多个数据中心的多个计算机系统和多个显微镜。
计算机系统2a可以形成基于全局网络的计算系统2的一部分,计算系统2包括通过诸如互联网3之类的全局通信网络进行通信的一个或多个远程服务器系统2b,计算机系统2a被配置为从包括计算单元5的一个或多个显微镜4、4’接收数据,计算单元5可以直接连接到计算机系统2或者经由全局通信网络3连接到计算机系统2。来自显微镜4的数据6也可以被传送并存储在便携式存储介质(诸如光盘、USB密钥、便携式硬盘和其它便携式存储器设备)上,然后从存储介质传送到计算机系统2a。从显微镜输入计算机系统2a的数据6包括从在显微镜下观察的微观物体测得的折射率值的空间分布,或者允许构建代表显微镜下观察的微观物体的折射率值的空间分布的测量值。
在优选实施例中,显微镜是全息显微镜或其它类型的能够测量在显微镜下观察的微观物体散射的光的复折射率值(相位和强度)的显微镜。优选地,如EP2998776(通过引用并入本文)中所述的显微镜可以有利地连接根据本发明实施例的计算机系统2a,该显微镜允许对生物标本(包括原核生物或真核生物)的非侵入性、无标记物观察。
根据本发明的计算系统2a包括安装在系统中的软件,所述软件包括被配置为从显微镜或从其它源接收折射率数据6并且处理所述输入数据以生成表征微观物体的一个或多个特征的数据的物体表征程序17。在微观物体是生物标本(例如,细胞)的情况下,特征可以包括细胞的细胞器,诸如细胞膜、细胞核、核膜、细胞质、线粒体、溶酶体、核糖体和其它细胞器。特征也可以作为整体由生物标本组成,尤其是对于非常小的生物体,例如原核生物(诸如细菌)。微观物体(例如,真核细胞)的不同特征(例如,不同的细胞器)可以单独表征,或者作为整体的物体或其区段可以通过特征的组合来表征。
物体表征程序17包括执行传递函数的算法,以对所述折射率数据应用多个变换。变换生成两个或更多个参数8的空间分布,例如折射率(第一参数)和折射率的梯度(第二参数)的空间分布。两个或更多个参数的空间分布定义了n维染色剂空间7,其可以用于表征微观物体的特征。物体表征程序还被配置为操作n维染色剂空间的分段,所述分段包括生成至少一个特征数据集,该特征数据集包括表征微观物体的至少一个特征的所述多个参数的值的范围。
描述微观物体的特征的数据集可以本地存储在计算系统2a的存储器9a中和/或传送到网络中的一个或多个计算机系统2b(网络计算系统)中的一个或多个数据中心9b。其它显微镜4’和计算设备5也可以将表征微观物体及其特征的数据传送到数据中心9b。特征数据集13a可以经由网络发送,以填充网络计算系统的数据库,用户可访问该数据库,以便对特征数据执行各种操作,诸如可视化特征、更新特征的表征、比较特征的数据与相同或相似特征的其它数据、构成用于给定特征的参考数据集,以及关于描述微观物体的特征的数据集的使用或交互式修改的任何其它操作。
网络计算系统还可以包括数据分析软件10,用于分析描述微观物体的特征的数据,并用于接收用户输入和应用学习技术以改进微观物体的特征的表征。网络计算系统还可以包括数据挖掘软件,以获得和分析网络中可用的与特征(诸如细胞的细胞器)的表征相关的数据。数据分析软件10可以有利地被配置为生成经由网络3向计算机系统2a描述特征或特征的要素的估计数据,以便提供对特征数据集13b的估计,特别是为了给用户提供可以进一步交互的估计。
特征数据集包含使得能够生成表示特征的图像文件的信息,使得可以通过安装在计算机系统2a中的成像软件生成微观物体及其特征的图像(可以是二维的,但优选地是三维)并显示在屏幕上以供用户可视化。用户可以交互式地改变为一个或多个特征定义染色剂空间7的参数或参数值,以便修改所显示的一个或多个特征的表征。
特别参考图2,物体表征程序包括显示模块,该显示模块被配置为生成命令和物体可视化面板12,用于在屏幕(图形用户界面GUI)上显示以供用户查看和操作。实施例中的命令和物体可视化面板12包括输入面板13、数字染色剂面板14、可视化面板15和命令面板16。输入面板13提供折射率输入数据的视觉表示,例如表示由显微镜4测得的微观物体的折射率分布的Z堆叠(Z-Stack)黑白图像。数字染色剂面板14提供用于定义n维染色剂空间的至少两个参数的视图,例如在所示的示例中,水平轴(x轴)上的折射率和垂直轴(y轴)上的折射率梯度(归一化的)。可以在数字染色剂面板14中设置并查看参数范围18a、18b、18c、18d,这些参数范围定义数字染色剂面板的参数值的范围。例如,范围的矩形形状指示水平轴和垂直轴的两个参数具有最大值和最小值。但是,更复杂的(即,非矩形)形状可以定义参数范围。不同的颜色可以与每个参数范围相关联,使得所描绘的矩形(或者视情况而定的其它形状)具有不同的颜色。然后可以在微观物体的每个空间位置处应用这些颜色,其中参数落入与那个颜色对应的范围内。每个参数范围与微观物体的特征对应,因此对应的颜色使得能够容易地可视化特征。例如,如图11、20和21中所示,每个参数范围可以描述细胞的不同细胞器的特性,并且可以提供有不同的颜色以更好地可视化在可视化面板15中看到的生物标本中的对应特征。在所示实施例中,用户可以从命令面板16的染色剂着色面板17中选择颜色,并选择用于所显示的参数范围18a-18d的其它变量(诸如不透明度和边缘柔和度)。
因此,在实施例中,描述特征的数据集可以包括两个或更多个参数的范围,以及参数的空间分布,以便在三维中表征和可视化特征。但是,也可以在没有空间分布的情况下提供特征数据集,例如仅通过描述特征的所选参数的值的范围来表征特征。其它特性(诸如特征的相对位置和基于上下文的标准)也可以包括在特征数据集中,以表征微观物体的特征。例如,预期在细胞核周围有核膜,因此如果细胞核的特性在某些参数范围内易于识别,那么核膜的存在可以通过其与细胞核的相对位置更好地识别和定义。
在所示实施例中,用户可以通过改变矩形(或定义特征的参数范围的其它形状)的尺寸和/或位置(例如利用屏幕光标)使用数字染色剂面板来交互式地修改特征的参数范围。可以在可视化面板15中看到变化的影响。但是,在本发明的范围内,可以使用用于改变参数范围的其它输入方法。
根据本发明的特别有利的方面,物体表征程序被配置为通过反馈回路12接收反馈数据。反馈数据可以由用户输入,例如记录到计算机系统2a中,或者从存储在计算系统2a中的数据输入或者从网络计算系统2b上的数据中心服务器下载,或者从由显微镜4执行的参考物体的测量获得。存储在计算机系统中或从计算机系统下载的反馈数据可以包括描述特征的参考数据,或描述先前测得并使用机器学习处理或用户体验和知识迭代地改进的特征的数据。
为了进一步提高将表征微观物体的特征的标签与所述多个参数的既定值范围相关联的准确性,还可以使用可视化和分析微观物体的已知方法和系统来关联表征特征的所述标签,诸如:
·使用显微镜的电子显微镜检查,其使用加速电子束作为照明源。因为电子的波长可以比可见光光子的波长短多达100000倍,所以电子显微镜具有比光学显微镜更高的分辨能力,并且可以揭示更小的物体的结构。透射电子显微镜可以实现优于50pm的分辨率和高达大约10000000x的放大倍数,而大多数光学显微镜由于衍射而限制到大约200nm的分辨率和低于2000x的有用放大倍数;
·化学染色剂:染色剂和染料经常用在生物学和医学中,以便常常借助于不同的显微镜突出生物组织中的结构以供观察。染色剂可以用于定义和检查大块组织(突出显示,例如,肌肉纤维或结缔组织)、细胞群(例如,分类不同的血细胞),
或单个细胞内的细胞器;
·或任何其它类似的最先进的成像和/或光谱技术
外部反馈数据可以被认为是参考数据(有时也称为基础事实),其用于定义测得的数据与参考数据之间的相关性。然后,通过调整从测得的数据的变换获得的参数值的范围,可以提高特征的表征的准确度,以便最大化相关性。
这种反馈回路提高了识别和表征微观物体(例如,真核细胞)的特征(例如,细胞器)的准确性。
示例:
在图10中图示了细胞类型1和细胞类型2的微观物体的总体(ensemble)。让我们假设:
·细胞类型是未知的
·基于用户的经验或相关数据集,定义细胞核仁和细胞浆
(plasma)的参数的初始特征范围(例如,RI以及RI的梯度的最大值和最小值)。
在图10中,细胞类型2的特征的参数C2a、C2b、C2c的特征范围与核仁C2c(以红色描绘)、浆C2b(以紫色描绘)和细胞膜C2a(以蓝色描绘)对应,而作为整体涵盖与参数范围C1(以绿色表示)对应的核仁和浆两者的细胞类型1被表示为单个特征。
因此包括微观物体的特征的特征范围的查找表(或机器学习概要)的比较允许识别细胞类型1(在这个示例中为变形虫(Amoeba))和细胞类型2(在这个示例中为胰腺癌细胞),并将这个信息分别添加到与参数C2a、C2b、C2c的范围相关联的标签,而C1表征细胞类型2和细胞类型1。
另一方面,如果
·细胞类型是已知的
·并且针对微观物体的具体特征的参数的特征范围的关联是未知的,
那么细胞类型可以用于从查询表或从机器学习概要中获得针对该细胞类型的特征的对应参数特征范围,然后将这些反馈到计算机系统中,以进行微观物体的表征和可视化。因此,提供“细胞类型2=胰腺癌细胞”的反馈可以是分别与微观特征核仁(红色)、浆(紫色)和膜(蓝色)的对应参数C2a、C2b、C2c的范围的自动关联的形式。
物体表征程序的体系架构
定义
介质的折射率(RI)定义为真空中的光速与那种介质中的光速之比。
公式是:
等式1:RI=c/v
其中光速c=300000km/s,并且v是期望的介质中的光速。
因此,水的折射率是:
等式2:
下面报告使用绿光评估的一些典型RI值。
更一般而言,我们考虑来自显微镜输出(例如,全息图)的复折射率n=n+iκ.,其中n是折射率并且k是吸收。
在第一实施例中并且如图2中所建议的,可以在二维空间(诸如折射率(水平轴)和折射率梯度(垂直轴))中定义物体表征参数。折射率梯度(或RIgradient)描述折射率在像素附近如何变化。
公式为:
等式3:
其中nx,y,z是分辨率,并且RIx±1,y±1,z±1是邻域像素的RI值(参见图3)。
数学基础:
令是RI分布,包含低通滤波折射率(RI)测量的张量(tensor)(3d或4d矩阵)。在更一般的实施例中,M可以被定义为导出的复数RI,并且因此包含替代的物理量分布,如
·k:光学吸收
·p:称为双折射的极化依赖的RI。
通过变换可以冗余地表示为诸如
等式4:
以这种方式,表示N个变换的集合,得到N个等价表示/>的集合,其中n∈[1...N]。
一般而言,任何非奇异变换都允许等效变换,诸如积分、小波、傅立叶、拉普拉斯变换的形式,或通过谐波分析,以及使用离散、离散时间、数据依赖、线性或非线性、度量函数和/或分布函数。
为简单起见,我们在下面给出一维函数的一些示例:
·累积函数
·的任何m阶导数
ο诸如对于m=1,称为梯度
其中
ο诸如对于m=2,称为曲率或拉普拉斯Δ
其中/>
·绝对值
·小波变换:
·傅立叶变换:
·Gabor变换:
这产生例如:
累积RI
累积直方图是计数所有体素中的累积数量的映射,即,测得的微观物体内的RI分布的频率。
即,直方图的累积直方图/>定义为:
等式5:
RI梯度
累积直方图是计数所有体素中的累积数量的映射。即,直方图/>的累积直方图/>定义为:
等式6:
关于可以以以下形式应用初始传递函数/>
等式7:
其中也可以是L个变换的组合
等式8:
它们由fnlk单独确定,其中fnlk是k个参数或阈值的集合,其中
对于L个变换,k∈[1...K]
等式9:
总结如下:
其中F是用于分段变换的滤波器。L个滤波器F的K个参数的示例包括例如:
·Min和max-F的限制
·color_.r、color_.g、color_.b–染色剂颜色;
·hardness-给出矩形内不透明度函数的形状;值介于0到1之间;
·alpha-不透明度最大值;值介于0到1之间;1表示完全不透明;0表示透明;
·visibility-示出或隐藏数字染色剂;
·diffusion-允许控制染色剂到相邻像素的扩散
·ridge detection:常见的是从一阶和二阶的局部导数中检测图像中的脊(ridge)。实际上示出,其中x、y、空间坐标(为简单起见,我们坚持2d)和M仍然是RI的分布,我们使脊上满足以下条件(T代表切向(tangential),N代表正常):
其中,
Lindeberg进一步给出了基于如上所示的一阶和二阶导数的导数提取脊的方法,该方法附加地与尺度(scale)空间分析相结合,以获得更稳健和更有意义的脊提取。
Edge detection and ridge detection with automatic scale selection,Tony Lindeberg,Int.J.of Computer Vision,第30卷,第2期,1998。
在N个经滤波的矩阵的集合之后,可以通过从N维到N=1的组合变换T(逻辑、线性或非线性但具有逆重新组合/>并且后向变换成初始输出C/>
等式10:
其中C是包含由滤波器参数fnlk确定的生物细胞呈现的基于RI内容的分段张量,其中dim(C)=dim(M)。
示例1:组合运算符:输出C
经变换的数据的不同集合的组合可以是简单的线性组合(简单的数据合并):
或者更复杂的非线性组合,包括正则化技术,其中利用数据的保真度与数学模型的保真度之间的折衷从参数调整中简化成本函数。这是由一个数字染色剂对一个分段数据集的定义。一般而言,这个过程可以重复并针对任意数量的染色剂进行组合,例如通过使用不同的滤色器功能。
例2:组合运算符:输出C
可以迭代地更新fnlk(t=0)的初始表示C(t=0),例如等式11:其中
等式12:
在这里,η是学习率,并且c是成本函数或反馈评估。成本函数的选择取决于诸如学习反馈类型(监督、无监督、强化等)和激活函数之类的因素。例如,当对多类分类问题执行监督学习反馈时,用于激活函数和成本函数的共同选择是例如基于交叉熵的函数。
这个处理可以应用于任何选定数量的C的表示,即,适于在计算机系统的GUI上作为数字染色的标本的视觉表示的物体表征,因此导致微观物体的任何选定数量的表征。微观物体的每个表征(在本文中也称为“染色剂”或“数字染色剂”)可以是用于一个特定生物学特征(例如,细胞器)的特点。在这种情况下,以这样一种方式定义成本函数c,即,最小化由滤波器参数f(t)定义的实际实现的输出C(t)与预期输出的差异。这个处理将例如导致C(t)作为估计的特征(例如,细胞器)并且F[f(t)]作为估计的特征数据集(例如,估计的细胞器特点(估计的COC)),这允许由数字染色剂空间Q特征性地定义生物特征。
组合分段的示例
维度1:RI
用于分布Q的数学变换O
/>
分段变换F是对所有体素中的数量进行计数的映射,即,在测得的微观物体内的RI分布的频率。
对于非累积方法,可以将简单的值范围定义为
其中dm是采样深度。
可替代地,用于的离散值的累积直方图/>定义为:
维度2:RI梯度
用于分布Q的数学变换O
分段变换F是对所有体素中的数量进行计数的映射,即,在测得的微观物体内的RI分布的频率。
对于非累积方法,可以将简单的值范围定义为
其中是采样深度。
可替代地,用于的离散值的累积直方图/>定义为:
维度3:积分变换
用于分布Q的数学变换O
分段变换F是对所有体素中的数量进行计数的映射,即,在测得的微观物体内的RI分布的空间频率域(SFD)。
对于非累积方法,可以将简单的值范围定义为
其中dk是采样深度。
可替代地,用于的离散值的累积直方图/>定义为:
多种组合以跨越数字染色剂空间,诸如以下的组合
RI和RI梯度和RI SFD的范围
随着以下这些的相应参数化
indexMin、indexMax、gradNormMin、gradNormMax、SFDMin、SFDMax-表示参数X轴上的折射率(RI)和Y轴上的折射率梯度(RIgradient)和Z轴上的折射率SFD(积分形式)的数字染色剂面板中的矩形的限制;
与另外的分段变换的任意组合
·Q维度的减少和任意组合,例如
ο二元组(duplets):RI&RI梯度或RI&RI SFD或RISFD&RI梯度
·通过替换运算符O和滤波器F来修改Q维度
ο三元组(triplets):RI&RI梯度&RI脊检测
·通过附加运算符O和滤波器F来增加Q维度
ο四元组(quadrupoles):RI&RI梯度&RI SFD&RI脊检测
ο等等。
示例1:二进制逻辑运算符和线性组合运算符T1
其中例如,是某个颜色值并且对于第二维二进制逻辑运算符/>
其中例如,是某个颜色值并且相应地为/>定义。因此,组合运算符T可以为输出矩阵C定义如下
示例2:组合运算符和交集运算符T2
同样适用于第二和第三维度。因此,组合运算符T可以为输出矩阵C如下定义
其中例如,F是某个颜色值。这些操作最终将颜色分配给原始RI体素数据。
传递函数的技术实现的示例
为了在N维中变换数据,需要计算微观物体的表征。因此,对于具有如图4中所示的GUI集成的线性二维染色剂空间,例如,由参数“折射率(RI)”定义的第一维度(中央数字染色剂面板上的X轴)和由参数“RI梯度的范数”定义的第二维度(中央数字染色剂面板上的Y轴),可以将微观物体的表征定义为可以作为物体表征程序的算法实现的传递函数。下面示出了示出从原始数据(折射率测量)+xml染色剂文件到RGBA数据的步骤的示例的伪代码作为实现的示例。RGBA数据是3D可视化显示的输入。
每种染色剂由以下参数来表征:
indexMin、indexMax、gradNormMin、gradNormMax-折射率中矩形的限制-梯度空间;折射率(index)在X轴上;梯度在Y轴上;
color_.r、color_.g、color_.b–染色剂颜色;
hardness-给出矩形内不透明度函数的形状;值介于0到1之间;
alpha-不透明度最大值;值介于0到1之间;1表示完全不透明;0表示透明;
visibility-示出或隐藏染色剂;这个参数未在下面的代码中明确示出;
步骤:
1.对于每个体素(for(int a=0;a<dimX*dimY*dimZ;a++)),根据折射率(灰度图像数据)计算梯度。计算是经由中心差异近似并考虑分辨率来完成的:
gx=(index[a+1]-index[a-1])/(2.f*dx);
gy=(index[a+dimX]-index[a-dimX])/(2.f*dy);
gz=(index[a+dimX*dimY]-index[a–dimX*dimY])/(2.f*dy);
gradNorm[a]=sqrt(gx*gx+gy*gy+gz*gz);
其中dimX、dimY、dimZ是数据块的维度(在我们的情况中是512、512、96),并且dx、dy、dz是x、y、z分辨率。
2.对于每个体素并且对于每个染色剂计算强度
s1=testRange(indexMin,indexMax,index[a]);
s2=testRange(gradNormMin,gradNormMax,gradNorm[a]);
strength[a]=std::min(s1,s2);
其中std::min取s1和s2之间的最小值并且testRange函数是:
/>
3.对于每个体素并且对于每个染色剂计算RGBA四元组,如下所示:
rgba[0]=color_.r;
rgba[1]=color_.g;
rgba[2]=color_.b;
rgba[3]=std::min(255,(int)(strength[a]*alpha_*255.9));
在这个步骤结束时,计算每个染色剂的3D RGBA数据;并且现在我们需要将这些RGBA数据组合成一个独特的数据。
4.对于每个体素进行混合
/>
最后,最终的RGBA数据位于dst数组中。
通过举例从上述代码的步骤2得出的转移剖面(F的1D表示)在图5中示出。
物体表征中的反馈回路的类
在图9a中描绘了更新微观物体的表征的简化反馈。基本上有两种可能形式的反馈:从用户直接反馈,或者可以用于改善等式11的收敛的外部知识源。
监督反馈
通过直接用户反馈的2D传递函数的工作流程的示例:
反馈主要是基于用户的专业知识,并且允许系统地量化并重新应用这些专业知识,以初步表征或改善微观物体的表征,如下所示:
1.用户在计算机系统的GUI上选择颜色,以便对细胞的一部分进行染色(color_.r、color_.g、color_.b参数);
2.用户在计算机系统的GUI上呈现的灰度图像(折射率图像)中挑选一些样本像素;
3.对于挑选出的像素,物体表征程序为折射率以及为梯度范数计算平均值和标准偏差。
4.物体表征程序计算两个输入的最小值(mean-2*stdDev)和最大值(mean+2stdDev)。因此,计算indexMin、indexMax、gradNormMin、gradNormMax参数。
5.物体表征程序计算传递函数并将传递函数应用于灰度图像,以便获得彩色图像。
6.反馈:用户可以改变hardness、alpha、visibility参数的缺省值。用户可以在计算机系统的GUI上显示的数字染色剂面板中移动参数矩形(indexMin、indexMax、gradNormMin、gradNormMax)。新的传递函数由物体表征程序重新应用。
7.用户可以通过重复第1、第2或第6点来添加多于一个物体表征(数字染色剂)。
观察:目前,物体表征程序的主要目的是控制显微镜,以可视化4D(xyzT)数据并为染色处理向用户提供方便的访问。
在实施例中,还可以通过N>2的数字染色剂空间Q来描述用户反馈,诸如:
1.检测共享相同物体表征的所有独立物体(具有阈值设置)。定义:物体表示在给定空间中连接的所有像素。
2.改善用户交互:
1.通过将挑选过程从2D扩展到3D
2.通过增强挑选过程(即:样条曲线)
3.改善染色剂空间(数字染色剂面板视图)
1.通过沿着RI和梯度范数轴添加更多维度,例如统计矩、纹理特点、频率和尺度空间参数
2.通过允许染色剂具有不均匀的形状(不必是矩形),由此用户可以在数字染色剂面板中定义染色剂的形状并且具有存储用户所选形状的过程。
4.添加网络计算系统服务,以节省数据和染色剂空间。
无监督的反馈
使用图9b中所示的反馈系统的工作流程可以包括以下步骤:
1.用显微镜从细胞样本中采集数据(例如,全息图);
2.在使用根据本发明的物体表征程序的计算机系统中,通过复折射率和滤波器从全息图计算染色剂空间;
3.在使用物体表征程序的计算机系统中,混合用户交互(用户反馈)与估计的物体表征(例如,估计的COC),结果形成混合器块的输出;
4.在使用物体表征程序的计算机系统中,使用混合器块输出来精炼染色剂空间,从而生成表征微观物体的一个或多个特征的一个或多个特征数据集(例如,COC数据);
5.在使用物体表征程序的计算机系统中,在本地存储装置和/或网络计算系统的数据中心上保存复折射率数据以及特征数据集,以利用微观物体的特征的表征来填充数据中心;
6.用户:发起并监督网络计算系统的数据分析;
7.网络计算系统:基于来自数据中心的数据计算估计的特征数据集(例如,COC估计数据)。
因此,图9b中所示的与外部反馈ΣX的混合允许用无监督的反馈替代监督反馈,条件是机器学习可以应用于以下的定量数据。
·ΣC分段数据的数据库
·ΣM测量的数据库
·ΣO物体表征及其标准偏差的数据库(ΣO),表示物体表征处理的可靠性程度
表征微观物体的各种特征的特征数据集可以通过生物相关事件(诸如生物过程的结果(例如,细胞存活))或全自动机器学习处理来校准,例如基于深度学习、关键参数分析或非刚性误差分析。
与其它技术的交叉比较(也称为“基础事实”)
·化学分析
·平行/顺序染色
·高成像技术(例如SEM)
是指用于监督学习技术的训练集的分类的准确性。这在统计模型中用于证明或反驳研究假设,并且还可以在本发明中用于改善物体表征。基础事实是指通过上面提到的方法搜集用于这个测试的适当客观(objective)(可证明)数据的处理。
贝叶斯垃圾邮件过滤是监督学习的常见示例。在这个系统中,算法被手动教授垃圾邮件与非垃圾邮件之间的差异。这取决于用于训练算法的消息的基础事实-基础事实的不准确性将与由此产生的垃圾邮件/非垃圾邮件判断的不准确性相关联。
无监督反馈依靠外部(远离用户)数据库的填充,如图7中所示:
1.利用表征微观物体的一个或多个特征(例如,细胞的细胞器特点(COC))的特征数据集来填充网络计算系统的数据中心。用户确定特征数据集并添加有意义的注释。混合器块仅考虑用户交互(在这个时候,估计的特征数据集不可用)
2.当数据中心上有一定数量的数据可用时,网络计算系统分析块开始提供输出,即,估计的特征数据集。在混合器块中,估计的特征数据集(估计的COC)将增强用户交互,因此对微观物体的特征进行更精确的表征。因此,保存在数据中心上的特征数据集变得越来越精确。
3.可以保存来自其它类型的显微镜(STED、共聚焦,......)的数据并将其存储在网络计算系统的数据中心中。目的是增强数据分析的可靠性。
4.随着分析可靠性的增长(由网络计算系统通过估计的COC提供),用户交互将变得越来越不重要。
5.作为最终目标,应当忽略用户交互并且系统应当自动为给定的复折射率分布提供最佳特征数据集。
加强反馈
图9c和图9d中所示的用于数字染色剂的加强反馈的示例试图从折射率的观点来表征微观物体(例如,细胞)。
加强反馈系统的体系架构可以例如包括:
1.反馈回路,以改善用户选择
1.添加自动物体检测:
1.细胞包膜(经由Watershed、Active Meshes算法)
2.点状/球状物体(经由基于小波的方法,......)
3.线状/平面状物体(Hough变换、曲波)
4.复杂形式(可变形算法、Watershed、深度学习,......)
2.长期目标:消除用户选择输入,并且只保留自动化方法;
2.利用机器学习和数据挖掘系统经由网络计算系统服务采集的知识;
3.用于复杂数据可视化和用户交互的软件界面。
技术实现的一般化
实质上,本发明的体系架构可以被总结如图6中所示,如下所述:
1.复折射率
1.从显微镜输出(全息图)计算复折射率(n=n+iκ.)
(其中:n是折射率;k是吸收)
2.滤波器计算
1.操作:计算梯度范数、统计矩、纹理特点、频率、尺度空间参数;
3.染色剂空间
1.可视化操作(如何向用户呈现染色剂空间,参见面板视图)。例如:计算强度、计算RGBA四元组。
2.交互操作(用户如何与这个空间交互)。例如:设置染色剂参数(indexMin、indexMax、gradNormMax、...color、...)
3.自动特征(例如,细胞器)检测。例如:细胞包膜、点状、线状、平面状物体检测,......
4.混合器(用户交互/网络计算系统反馈:估计的特征数据集(估计的COC))
1.操作:在用户交互与网络计算系统反馈之间设置平衡,以生成估计的特征数据集(估计的COC)
5.网络计算系统的数据分析
1.示例:主成分分析、机器学习算法、深度学习、数据挖掘、非刚性学习、关键参数分析
6.本地存储装置和网络计算系统的数据中心
1.用于复折射率和特征数据集(COC)的安全数据存储操作
2.共享操作
用户定义的数字染色剂的示例
参考图6,下面描述根据本发明实施例的处理的示例,该处理从数据的采集开始直到输出数据、共享和学习处理的处理。
输入(从寄存器和由用户输入的信息/数据):借助于数字显微镜采集微观物体的3D物理数据(折射率、梯度)。输入格式在图1中描绘并产生等式1。这是图6中的开始步骤S1并且首先被本地存储(S2)。
输入的处理:产生标本的分段3D图像,以生成特征数据集估计(COC估计),其中在数字染色剂空间Q中定义的不同传递函数及其参数表示3D空间中所采集的折射率和梯度的不同值。
在仅监督反馈的情况下,包括使用图2中所示的GUI的来自用户的交互的反馈回路S3a如下执行:
1.在2D可视化面板(左侧)上选择有意义的切片。在2D可视化面板上从上向下拖动鼠标(左键点击)或通过移动“切片”滑块。
2.在数字染色剂面板中挑选新的参数范围(被看作描绘表征物体的具体特征的参数的彩色矩形),然后转到2D可视化面板并绘制。在期望的感兴趣区域上点击和/或拖动鼠标。光标下的像素用于定义输入参数f。
3.C0由等式2至等式10计算并给出。
4.现在,参数范围(数字染色剂)的初始猜测F0在面板视图(=数字染色剂空间Q)中表示,并且覆盖在2D可视化面板上。
5.参数范围(数字染色剂)可以通过以下操作反馈以改变f(t),随后更新C(t),如由公式11和公式12所给出的:
·通过移动“覆盖”滑块改变2D可视化面板上彩色图像的权重。
·改变不透明度(“不透明度”滑块或者上下拖动同时按下右键)。
·改变边缘柔和度(“边缘柔和度”滑块或者上下拖动同时在染色剂边缘上按下右键)。
·在面板视图中移动染色剂(参数范围)(点击染色剂并将其拖动到折射率–折射率梯度空间中的所需位置)。
·改变染色剂的形状(选择边缘或角落并拖动它)。
可替代地或附加地,在至少部分无监督的反馈的情况下,反馈回路S3b、S4b和S5b可以如下执行:
6.来自先前输入的COC(对于t的C、F、f)的初始指示根据特征数据集(COC)被发送到构成C、F、f的总体的数据库;
7.数据挖掘/机器学习方法,如前一节中所述,用于迭代等式11;
8.新的特征数据集(COC)估计(对于t=t+1的C、F、f)被反馈给本地用户
输出(用于进一步处理的数据;用于可视化/显示的信息):将物体的经渲染的3D图像存储在计算机上,传送数据和图像并与网络中的其它用户共享数据和图像。
物体表征的生物学意义
数字染色剂细胞
图11中的数字染色剂面板示出了由染色剂方块表示的参数范围的典型处置(disposition):
·I象限的特征在于折射率的高变化率和低RI,这个区域对于边缘结构(如膜)是典型的。
·II象限具有高折射率梯度和高RI值,它一般包括纹理区(如囊泡)。
·III象限,具有低梯度指数和低RI,更透明和均匀,并且对于背景是典型的。
·IV象限的特征在于折射率的低变化率和高RI,一般包括高密度均匀结构(像细胞核)。
应用于RI图的数字染色剂在图11中示出。
数字染色剂参数:位置
i.水平移动染色方块,以改变RI范围并对样本的不同部分进行染色。
ii.垂直移动染色方块,以改变RI梯度范围并对样本的不同部分进行染色。
在图12中示出了这些位置操纵的组合效果。
数字染色参数:形状
i.扩大或减小染色方块的宽度,以分别对更多或更少的样本结构进行染色
ii.扩大或减小染色方块的高度,以整合更多或更少的变化在图13中示出了这些形状操纵的组合效果。
数字染色剂参数:不透明度&边缘柔和度
不透明度参数设置染色的像素颜色的最大强度。最低级别为0(透明),最高级别为100(不透明)。边缘柔和度参数设置空间中染色的像素颜色的强度变化有多快。最低级别为0(平滑变化),最高级别为100(快速变化)。两种效果在图14和图15中描绘。
数字染色剂参数:设置背景RI值
1.使用新颜色对RI图的没有细胞样本的区域进行染色
2.定义背景染色剂
3.设置背景的折射率的值(例如,PBS RI值为1.334)
4.按OK来设置背景:现在RI图中的背景颜色消失并且背景染色剂方块变为网格
5.当设置背景RI值时,重新调整所有其它染色剂RI值。
在设置背景过程染色期间(3e.1),避免令没有细胞样本的区域露出(图16)。为了获得最佳背景,操纵背景染色剂方块形状和位置以覆盖所有空的区域(图17)。
数字染色剂参数:成像系统效果
如果在用于物体的特征的参数范围与为背景选择的参数范围之间存在重叠,那么在3D可视化上可以看到一些成像伪影:成像伪影在图18中由箭头指向,其中染色剂也覆盖背景并且它在细胞粘附的平面上下扩散(绿线)。
为了仅对微观物体的物理和有意义的特征进行染色,参数范围(例如,由数字染色面板中的矩形表示的)不应当与图18的背景方块重叠。
数字染色参数:独特的定义和重叠
为了高效地区分不同的物体特征,应当优选地避免对不同参数范围(例如,由数字染色剂面板中的矩形表示的)(图19)使用相似的颜色。一般而言,简单且高效的数字染色包括很少且很好区分的参数范围(不重叠并且对于不同范围使用非常不同的颜色)。
可以使用子分组参数(图20)同时证明由宽RI范围表征的另一个特征内部的特征,例如,整个细胞内的细胞器,其中细胞器(例如,细胞膜、细胞骨架、核膜、核仁)的参数范围在整个细胞的参数范围内。
其它时候,几个重叠的参数范围(图21)允许证明否则将由于几何问题或没有其它新的或者足够不同的颜色可用于特征的可视化而难以表征的特征(例如在这个所示示例中:子膜区域、核膜、界面区域)。
在目标RI值周围创建尽可能窄(最小RI范围)并且与总数字染色剂面板一样高(没有基于指数梯度的区分)的参数范围(图22)。强调所有染色的像素设置(set)最高水平的不透明度和边缘柔和度。
对于生物应用的优势
根据本发明的物体表征对于基于物理内容的(RI)分段是有用的,其可以提供关于生物标本的重要信息内容,例如它可以提供疾病的签名/指纹、指示低于分辨率限制的事件(如病毒感染),以及许多此类事件。从大数据分析的角度来看(例如,深度学习),这给出了决定性的优势,因为
(a)物理数据是指定量数据(在5个维度中:三个空间,两个基于RI),因此本身就很容易进行比较(先前的知识优势不经常给出或极难实现)
(b)可以执行基础事实相关(例如通过参考数据、外部数据或使用其它技术获得的),以增加生成的物体表征结果的可靠性。
示例:自动细胞度量
体积调节在很多现象中起着关键作用。细胞中的体积稳态(homeostasis)是其存活的基础。细胞体积的更改可以改变细胞内部的结构和恒定性。这就是为什么细胞已经开发出多种细胞体积调节机制以通过增加或减少其体积来抵消渗透性变化的原因。在增殖的情况下,总细胞体积的增加刺激该过程,而其减小将抑制它。在蛋白质合成和降解中发生相同类型的相反信号。如果细胞充分水合,从而肿胀,那么它起到合成代谢刺激剂的作用。相反,如果细胞正在收缩,那么它就会起到分解代谢线索的作用。在程序性细胞死亡的情况下,已知体积减小(更准确地说是凋亡(apoptotic)体积减小)触发它。细胞的迁移还需要动态改变总体积。例如,通过这种体积修改很大程度上促进了嗜中性粒细胞(neutrophils)的迁移。所有先前的现象在细胞的生命周期中都是正常的和当前的。但是,在一些情况下,体积调节功能失调并导致疾病。这是肾衰竭的情况,其中最显著的特征之一是细胞体积的增加。同样的现象也发生在急性脑水肿中,但也发生在癫痫中,我们观察到癫痫发作前细胞肿胀。另一个示例是患有糖尿病的人中白内障的形成,晶状体细胞(lens cells)中山梨糖醇的积累导致细胞膨胀。最后,在纤维化疾病中,由于引起水进入的高TGFβ刺激,细胞也在肿胀。相反,体积的减小也会导致严重的后果,一个完美的示例就是镰状细胞性贫血。而且,如前所述,许多可以来自损伤、烧伤、肝癌或胰腺炎的高分解代谢状态与细胞体积减小有关。最后,在肿瘤中,可以观察到细胞核体积的改变。它可以更大,这是癌和膀胱脑膜瘤的情况,或者它可以更小,像肺癌那样。
这就是为什么真正需要一种方法,该方法将非侵入性方法与大时间和物理分辨率相结合,以便确定活细胞和/或其子部分的精确体积。存在现有方法,但是在前面提到的方面存在缺陷。一种方法是确定进入细胞的水的总体积。为此,人们可以利用某些染料的自猝灭特性。然后通过选择细胞内标记物并通过荧光显微镜监视染料的强度,我们可以推断出体积的相对变化。实际上,更多的细胞内体积意味着更高浓度的染料,并且随着其浓度增加,荧光由于它们的自猝灭而降低。这种技术不仅限于自猝灭染料,而且还包括正常染料。只要它针对细胞内体积,就有可能进行监视。这些技术的主要缺点是体积的相对测量和由于高标记物浓度引起的对细胞可能的毒性。coulter计数器也可以是确定总细胞体积的替代方案。这种技术使用悬浮在两个由小孔分开的盐水溶液室中的细胞。当施加直流电流(DC)时,通过孔的任何细胞将取代等体积的盐溶液并改变阻抗。在这种情况下,我们只能测量细胞的总体积而不是细胞的子部分,并且最重要的是细胞不再在它们的环境中。
还开发了基于显微镜的其它方法。其中我们可以找到空间滤波结合光学显微镜、动态光散射系统、扫描激光共聚焦显微镜、电子显微镜、原子力显微镜和全息显微镜。空间滤波依靠以下事实:细胞体积波动正在修改此后可检测的光路长度。虽然这种技术具有良好的灵敏度,但是执行起来相当困难并且不适用于每个系统。动态光散射是基于激光的技术,通常用于测量不同蛋白质的扩散系数。它可以与显微镜结合使用,以获得从它们的光波动衰减率获得的样本中的散射中心的空间图,但是具有差的时间分辨率。扫描激光共聚焦显微镜具有高空间分辨率。图像由样本的几个薄截面(section)组成,并且可以利用图像处理获得采集的3D重建。但是,存在许多缺点,诸如对细胞的光动力损伤、时间分辨率和对基板的特殊要求。也可以使用透射电子显微镜。它的原理与光学显微镜相同,但它不使用光,而是使用能够具有更好分辨率的电子。通过用图像处理工具分析图像,可以得出细胞的体积。但是,这项技术繁琐且昂贵,需要经过漫长而精细的处理来首先准备样本然后分析图像。原子力显微镜(AFM)依靠探针、悬臂、扫描样本的xy平面,并且由于激光击中其后部并进入探测器,我们可以重建样本。高度或力的任何变化都会影响光的方向。即使空间分辨率非常高(30nm),时间分辨率也非常低。由于耗时,每分钟不会有超过一个图像,并且在一次采集中对多于一个细胞进行成像非常困难。最后,探针与细胞直接接触,因此可能改变其真实行为。全息显微镜测量光在通过样本时相位的变化,并且这个信息可以在高度剖面中转换。即使这种技术具有良好的时间分辨率以及很高的空间分辨率,人们也无法看到细胞内部。可观察到的不同峰是细胞的一些部分彼此覆盖的结果,但是没有它们的表示,从而使得难以特异性地测量细胞的子部分的体积。
在本发明中,我们提出了简单可靠的亚细胞体积估计方法。通过使用应用于全息断层摄影的根据本发明实施例的物体表征处理,可以以非侵入方式研究凋亡过程。这种技术允许基于细胞物理特性的测量(即,定义细胞不同部分的、其折射率(RI)分布)来表征和可视化活细胞的3D结构,而无需任何染色剂或样本制备。可以将细胞核识别为细胞的独特特征,并且可以使用图像处理工具来测量和跟踪细胞核体积。因此可以跟踪细胞凋亡期间细胞核体积的波动。在细胞凋亡的早期阶段,发生了固缩。这是细胞及其细胞核的萎缩,这是细胞凋亡过程中发生的典型现象。形态的变化等(细胞的圆形化、伪足的缩回、细胞核碎裂、浆膜的起泡等)在光学显微镜检查之前进行了多次研究。细胞凋亡是当细胞不能适应压力环境时触发的受控和程序性细胞死亡。它可以通过多种方式发起。例如,可以用化学物质、感染、辐射或营养剥夺来诱导。最后一个选项是为所说明的研究选择的选项。最后,细胞凋亡是有机体健康的重要现象。当它出现故障时,会具有可怕的后果。由于细胞凋亡(例如,胚泡的调节),成年期的组织稳态是可能的。但它也在发展阶段起作用,抑制叉指腹板(interdigital web)。于是,如果这种现象没有得到很好的调节,那么就会出现如自动免疫等问题。实际上,通常通过T细胞和B细胞针对其所有者细胞的凋亡来进行消除。如果不是这种情况,那么会发生一些严重的后果。最后,细胞凋亡在癌症形成和肿瘤进展中起主要作用。已经表明,一些致癌突变以导致细胞快速分裂而不是死亡的凋亡途径为目标,从而导致肿瘤起始。
根据本发明实施例的物体表征方法允许生物样本(例如细菌)的直接体积测量,如图30中所示。本发明可以有利地用于以精确和量化的方式实时地监视细胞体积。
基于4D RI采集,物体表征处理可以用于检测具体的细胞部分(诸如细胞的细胞核)。数字染色在采集之后完成,并且允许基于两个或更多个基于RI的值区分细胞的不同组分(即,细胞核),包括例如RI值和变换后的RI值(诸如RI梯度值)。
在GUI上为用户呈现的用于可视化和对其工作的数字染色面板是本发明的重要特征,用于通过对物体的特征进行数字染色来有效表征和可视化关于微观物体采集的数据(参见图2)。例如,它允许定义由诸如x轴上的折射率和在y轴上的表示其空间变化的折射率的梯度范数之类的参数定义的2D空间中的区域。与物体的特征对应的参数范围在数字染色面板中显示为彩色矩形区域,并且可以由用户修改。可以在2D和3D中实时显示对参数范围的改变。
在本发明的实施例中,参数范围定义可以交互地执行,包括数字染色面板中对应参数区域的自动定义。这使得染色剂能够在具有相似结构特点的区域上定义。只有具有那些特定物理特点的体素被自动分段。为了测量体积,对染色体素的体积进行简单积分就足够了。
已经通过使用参考确定了根据本发明实施例的物体表征方法的准确度:对具有已知体积的六个球体进行成像,参见图24。测量球体积8分钟,观察到(预期的)随时间的衰减(图25)。提取每分钟一帧,并在每个时间点使用球体的2D直径进行测量。这允许计算它们的总体积,假设它们是完美的形状。然后,在上面提到的物体表征处理体素积分之后,测量体积。然后将这些数据与理论预测进行比较(图25)。结果表明,我们的方法得到的平均误差值约为±5.76%。而且,该方法保持非常准确,直到如图所示的非常小的体积(>500um2),其中报告了相对误差与计算出的体积之间的相关性。这些结果证明,根据本发明的物体表征处理能够随时间以完全非侵入的方式对亚细胞组分进行精确地体积监视。
细胞的细胞核体积
分析了多个FRC培养皿。因此,为了比较不同的细胞,数据的归一化是需要的。首先,每个细胞的凋亡时间帧细胞不同,细胞体积也不同。因此,通过将最后一个时间点(当细胞已经死亡时)取为100%来归一化时间,而通过将第一个测量值(当细胞存活且健康时)取为100%来归一化体积。这允许提取每次采集的相对体积变化。最后,仅选择特定的时间点进行分析。选择它是为了使每个实验具有相同数量的兴趣点。
在观察的3个细胞上观察到如图25中所示的一般新兴趋势。对于所有细胞,观察到细胞核体积减小50%。而且,可观察到适合(proper of)细胞凋亡的所有特征性形态变化,以确认选择了良好的时间范围。图26示出了与该过程的具体阶段对应的不同形态图像。
如已知的,凋亡细胞核不仅会浓缩(condensing),而且在分裂之前也会收缩。在这个步骤之后,是两个其他步骤:i)细胞核碎裂,ii)细胞分裂成凋亡小体。而且,不同细胞之间的现象动态相似。由于未施加细胞处理以迫使触发细胞凋亡,因此培养条件代表在最佳条件下生长的任何细胞培养物。这证明细胞凋亡是通常在细胞中发生的稳态过程,以维持系统的整体健康。
使用表征和可视化由显微镜测得的复折射率分布而不使用标记物或细胞的操纵(不使用样本制备),本发明提供了随时间跟踪细胞体积的简单高效的方法。这意味着细胞内的通路或结构不会受到干扰。而且,与AFM或SLM等某些技术相反,硬件在测量过程中不会接触细胞,这种接触也可能改变它们的行为。
示例:自动细胞分段
同样,根据本发明实施例的表征微观物体的方法可以用于评估生殖健康,其中评估精子的结构和功能完整性是至关重要的。除了人类医学生育应用,这也适用于育种业。可以为此目的成像不同的动物精子。所获得的基于它们的RI数字染色的3D图像在图29中示出。数字染色面板示出了代表不同的具体细胞特征的不同变换的RI范围。
根据本发明实施例的微观物体的表征方法有利地能够以定量和可靠的方式实时研究精子细胞的组成和形态,而不改变其生理特点(无化学染色),以及自动细胞分段。
示例:癌症标记物
典型的癌性肿瘤包含数百万甚至数十亿的具有基因突变的细胞,这些基因突变促使它们生长、分裂和侵入它们所嵌入的组织。但是,随着细胞的增殖,它们不会全部留在附近。一些细胞从肿瘤边缘逃逸,被血流或淋巴系统冲走。这些细胞以循环肿瘤细胞(CTC)的名称命名,并且可以定居远端部位以形成转移。
对血液中癌细胞的灵敏和可靠的检测和列举可以为早期检测肿瘤侵袭和早期评估治疗效果提供强有力的诊断工具。
但是,CTC是:
1.非常异质:它们在尺寸、形状和免疫表型剖面方面可以彼此显著不同。
2.脆弱:在标准的多步制备过程中,它们可能会被损坏和碎裂,从而导致检测不准确和误解。
某些显微技术要求样本固定和染色,从而导致样本质量降低,并且假结果风险增加(图27,根据EP2998776(上部分支)用显微镜获得的CTC提取富集和分析,相对于荧光显微镜(下部分支)。根据本发明的物体表征处理可以有利地与无标记物显微镜一起用于检测和分析CTC。基于其具体的折射率(RI)对细胞区室进行数字染色使得能够识别和分析CTCA549形态特征,参见图28)。在这个示例中,分析富集后的全血样本,以显示如何基于数字染色剂区分CTC与所有其它正常血细胞。
在图像上可以观察到一些反应物(actor):
A549(红色箭头):特征在于大圆形细胞(直径>20微米),它们一般是多核的(2-3个核)。外周血单核细胞(PBMCs):它们可以是两种不同的类型:圆形和扁平形状,并且附着在培养皿底部(直径约15微米,绿色箭头)或小浮动球形细胞(直径小于10微米),特征在于细胞核区域典型的非常高且均匀的RI(蓝色箭头)。它们只拥有一个明确限定的细胞核。
示例:细胞行为预测
将RI行为表征为时间的函数允许在不同的有丝分裂阶段期间监视细胞厚度。为此,可以识别与细胞膜和核酸对应的具体RI范围,并将它们定义为物体表征方法的参数。
在图31中,来自前期的有丝分裂细胞关于细胞厚度及其相关联的RI来表示。在第一个有丝分裂阶段期间,细胞逐渐变得更圆更厚,在后期和末期之间的过渡期间达到高峰。之后,与遗传物质和最终胞质分裂的分离对应,观察到细胞厚度迅速减少到与新间期(interphase)对应的新的最低水平。
使用根据本发明实施例的物体表征程序,可以表征在中期和后期期间的典型RI增加,并相应地定义与RI相关的阈值TRI,以便预测有丝分裂的发生。
示例:自动细胞细胞器检测
本发明还允许细胞部分(称为细胞器)的单独标记。这个示例证明了线粒体检测的相关特征表征方法。在最近的出版物中,Haseda、Keisuke等人(2015)能够使用延迟调制的微分干涉(interference)对比显微镜确定分离的线粒体的折射率,精度为±0.01。亚细胞组分的折射率测量给出了关于细胞结构和功能的信息。这个值对于检测复杂细胞结构中的线粒体可以是有用的。其它出版物也已经确定了不同亚细胞结构的折射率:R.Barer、S.Joseph(1954)的细胞核(~1.39),F.Lanni等人(1985)和J.Beuthan等人(1996)研究的细胞质(~1.35-1.38)。基于这些结果,通过根据本发明的物体表征处理在绝对意义上(inabsolute terms)有可能对不同的亚细胞结构进行全自动的非侵入性检测和分段。
在图32上示出了具有可区分的线粒体组装的细胞图像。可以为每个结构识别具体的RI范围,其对于两个条件略微不同(<0.001)。可以得出结论,有可能识别适合每个细胞亚结构的RI范围,从而允许定义活细胞和固定细胞共有的特殊染色剂。图33示出了获得的数字染色。在这个研究中获得的结果证实,不同的细胞结构独立于固定与具体RI范围对应。这种生物生理学观察允许量化生物标本的特征并且在数据库中参考表征所述特征的特征数据集。
用于微观物体的全自动特征表征的网络计算系统扩展
根据本发明的方法和系统将使得如EP2998776中描述的显微镜成为网络计算系统显微镜,从而允许用户受益于共享的知识和网络计算系统服务。存储和共享等基本服务应当在用户系统的网络计算系统启动时可用,接下来是数据分析服务。显微镜状态可以共享和已知,以便提出最佳的显微镜校准并具有快速可靠的辅助。可以将经由统计模型进行的定制分析和数据解释添加到网络计算系统。
用于微观物体的特征表征的服务
a.基于用户注释的特征表征的自动提议
b.基于专家对微观物体的特征表征的细胞识别
数据解释服务
a.具有用户反馈的关键参数分析
b.经由神经元网络进行非刚性学习
c.4D形状识别
·细胞事件/发展预测
·自动病理识别
·在完整的折射率库上搜索服务
网络计算系统服务优点的示例
结合网络计算系统服务的本发明可以改善数百万人的生活。让我们考虑体外受精(IVF)的示例。如今,受精依靠医生选择精子细胞。医生在没有任何定量信息的情况下对2D图像进行目视检查,并挑选一个精子(参见图28)。如下所述,可以采用根据本发明的方法和系统来改进这个过程。
如EP2998776中描述的显微镜可以在不损害精子细胞的情况下以3D看到精子细胞(图29),因此,从业医师可以通过从补充维度中获益来做出更可靠的决定。而且,在每个网络计算系统步骤实现之后(参见上面的部分),IVF决策制定过程将得到改进:
在第一步之后:从业医师可以从同行分享的数据中学习,也可以分享他的经验。他可以检查他的同行所做的注释,以及所选精子细胞的IVF过程的成功。
在第二步之后:根据本发明的系统将通过提供所选特征的最佳数字染色剂来增强精子细胞的可视化。此外,它还将计算并向医生提供相关信息,如体积、膜完整性、运动性等。
在第三步之后:基于统计和数据分析,网络计算系统将向医生推荐哪个精子细胞更可能给出期望的结果。为了改进我们的系统,从业医师对过程成功的反馈仍然非常有价值。
在第四步之后:最终目标是创建由医学界验证的自动化系统,用于为IVF过程选择最佳精子细胞。
数字门控
考虑到图35中提供的信息,物体表征中可能的集成方法:
示例:细胞系(CL)1疟疾,CL 2无疟疾
用户场景1(使用根据本发明的程序的分析)
1)1次采集,包括视场中CL 1和CL 2的若干细胞
2)用户以“刷过记忆”模式选择疟疾感染细胞(或部分),即,2D RI/梯度RI直方图集合的集合
3)基于这种选择,选择具体的(例如,多边形数字染色剂)
点网络计算系统
用户场景2(网络计算系统分析)
1)CL 1(仅10x这些细胞)和CL2(仅10x这些细胞)的20次采集
2)可选:用户以“刷过记忆”模式选择疟疾感染细胞(或部分),即2D RI/梯度RI直方图集合的集合
3)2D RI/梯度RI直方图点网络计算系统从根据本发明的程序输出
4)基于这种选择或CL 1&2 2D RI/梯度RI直方图点网络计算系统覆盖,选择具体的(例如,多边形数字染色剂)点网络计算系统(D-门控)
数字染色剂的校准
图9b是外部输入校准的数字染色剂:
外部反馈ΣX
·以下各项的定量数据
ΣC分段数据的数据库
ΣM测量的数据库
ΣO染色剂的数据库
例如,STD(ΣO)对染色剂给予信任
·通过以下各项进行的校准
·过程的结果(例如,细胞存活)
·深度学习、关键参数分析、非刚性误差分析
·与其它技术的比较
·化学分析
·平行/顺序染色
·高成像技术(例如,SEM)
外部输入的类型
·低分辨率(LR):来自用户C的4DRI
·高分辨率(HR):
1.定量细胞库(QCL)数据库
2.高分辨率图像(例如,AFM、STORM)
3.基于模型的细胞(细胞模拟)
·不同图像具有相同的定量数据+不同的噪声(成像条件)
·用于4d定量RI数据(4DRI)的PCA(主成分分析)
1.“Eigencell”模式
2.当可用的观察不充分时,进行附加的规则化
3.先验知识:细胞的物理学、细胞的元数据(例如,细胞类型、阶段......)
模型参数
·监督学习:基于来自用户的元数据的先前知识或PCA
·无监督的学习:基于QCL比较的先前知识或PCA
提高的光学标本分辨率
图9c是通过参考物体改善的数字染色剂:
C:基于体素的结果
V:基于向量的重建(超出C的低通滤波频率的表面)
R:参考物体
-几何物体(球体)
-校准物体(例如,细胞器的扫描电镜射线断层照片(sem tomograms))
-物理约束(连接的膜)
反馈O
包含从f参数学习,例如
迭代趋势、分布
细胞命运预测
图9d是用于预测细胞行为的数字染色剂:
C:分段测量的时间序列
P:预测、识别(例如,子分辨率元素)
R:时间序列的参考
-染色剂的时间移动>细胞死亡
-病毒的外壳>特征RI增加
-细胞的计算机模型(模拟)
反馈
-O的时间依赖性,例如增量(细胞核的染色剂)
-PCA(主成分分析,例如,
表面粗糙度(膜的染色剂)
如上面所提到的,根据本发明的特别有利的方面,物体表征程序被配置为通过反馈回路12接收反馈数据。现在参考图36-52,反馈数据可以有利地包括来自化学染色的生物标本的测量的输入,其中测量是由显微镜4执行的,例如使用荧光显微镜。化学染色反馈数据可以被认为是用于定义测得的数据与参考数据之间的相关性的参考数据。然后,可以通过调整从测得的数据的变换获得的参数值的范围来改进生物标本的特征的表征的准确性,以便最大化相关性。
因此,这个优化问题允许定义需要(通常在可以监督或无监督的迭代方法中)优化的成本函数。同样,从化学染色中获得的参考数据的外部输入也可以用作机器学习方法中的基础事实。
因此,化学染色数据的外部反馈可以被认为是参考数据(有时也称为基础事实),其用于定义测得的数据与参考数据之间的相关性。
相关函数R可以例如被定义为化学染色细胞测量2D/3D/4D(如图9b中定义的外部输入X(cs))与数字染色测量2D/3D/4D(称为C(t))之间的覆盖。在优化方法中,这种相关函数
等式13:R=corr(C(t),X(cs))
可以被最大化,以实现最佳可能的覆盖,因此实现通过化学染色剂作为外部输入的数字染色剂的最佳校准。然后,可以通过调整从测得的数据的变换获得的参数的值范围来改进特征的表征的准确性,以便最大化等式13。
作为这种一般方法的简单示例,我们可以考虑图36,其中由2D化学染色剂测量(DAPI具体地绑定到细胞核的生物学特征)组成的外部输入X(cs)用于校准数字染色剂(由参数集t表征),其允许在3D RI测量M中对细胞核进行分段。在这种情况下,成本函数可以被定义为覆盖表面的最小化问题(即,分段像素的总和),诸如等式14:‖∑C2D(t)-∑X2D(cs)‖≤δ
其中δ是定义的阈值或精度。根据等式11,最佳参数集t可以通过上面提到的优化算法(无监督)或用户反馈(监督)、通过下式的迭代找到
等式15:‖∑C2D(t+1)-∑X2D(cs)‖≤‖∑C2D(t)-∑X2D(cs)‖。
在这种情况下,以这样一种方式定义等式15,即,最小化预期输出X(cs)与由滤波器参数f(t)定义的实际实现输出C(t)的差异。这个处理例如将导致C(t)作为估计的特征(例如,细胞核),其限于给定的N维空间和参数化D染色剂的变换并限于参考数据的N维(例如,2D或3D)。
在优选实施例中,可以执行基础事实相关(例如通过X(cs)获得),以增加所生成的物体表征结果的可靠性。
这种反馈回路提高了识别和表征微观生物标本(例如真核细胞)的特征(例如细胞器)的准确性。
在实施例中,可以通过对感兴趣的生物标本进行化学染色并使用根据本发明的显微镜来获得反馈数据,从而获得二维荧光图像并同时执行折射率测量(RI采集),以便重建生物标本的三维图像。通过对生物标本进行化学染色生成的荧光图像的采集可以与从RI采集构建的图像组合(例如,部分或完全覆盖),以便增强、改善和校准由荧光成像揭示的特征。这改善了最初以折射率测量为特征的生物标本的数字表征。
首先参考图37-41,图示了生物标本的数字染色的示例。
首先,如图37中所示,使用显微镜执行生物标本的折射率的采集,并且选择可能的数字染色剂的初始近似(“盲猜”)(从先前存储的数据,或通过用户的选择),以便执行具有细胞浆膜特异性的数字染色剂的近似。
图38图示了使用这个初始近似的膜的数字染色。这个近似基于定量RI值,其中不同的细胞区室具有不同的折射率签名。使用这些签名来定义t的参数集,可以计算D染色的分段体积(右侧面板“数字染色剂膜”)。
如图39中所示,使用来自化学染色浆膜的荧光图像的数据(在这种情况下使用通过完全相同微观物体的落射荧光(epi-fluorescence)测量获得的FYN-GFP标记物),可以将来自荧光采集的这种参考数据通过覆盖图像数据添加到数字染色剂,以便重新定义数字染色剂并对其进行优化,如图40中所示(右侧面板“重叠Fyn-数字染色剂膜”)。通过D染色剂的实时反馈的监督优化是由用户通过图形用户界面工具进行的,因此用户可以通过收缩或拉伸数字染色剂边缘来调整和精炼分段过程,以实时地从应用于RI数据的分段的观察中包括或排除基于其RI和RI梯度值的体素。在无监督的方法中,这种优化可以通过优化算法自动化,以找到全局最小值,如优选地在等式15的成本函数中定义的。
然后,使用二维中的化学染色来校准的数字染色剂集合t可以在三维中应用于采集的RI数据,以获得在这个示例染色中特定于浆膜的3D分段,如图41中所示。
使用荧光采集数据来校准数字染色剂提供了一些重要的优点,特别是产生特定于细胞特征并且然后可以用作仅使用RI采集来表征生物标本的特征的参考的数字染色剂。而且,该方法还允许使用荧光显微镜图像,以便使用3D细胞全息断层摄影术改善细胞特征的成像。
利用根据本发明的荧光采集对数字染色过程的校准还使得能够减少荧光成像固有的成像伪影。
利用根据本发明的荧光采集的校准的一个重要方面是,它使得能够以非侵入性方式对活体生物特征进行具体的长期成像,同时完全受益于通过荧光成像获得的物体表征(在传统方法中,将导致被成像的细胞死亡,因此仅允许短时间观察活的生物标本)。
参考图42-49A-图49B,图示了上面提到的优点的各种示例。
在图42中,图示了基于通过根据本发明的显微镜采集折射率的图像(a.),并且图示了可以通过用荧光成像校准获得的各种具体特征,例如可以组合以提供如图42所示的概览(f.)的浆膜(b.)、线粒体(c.)、细胞核(d.)、核仁(e.)。
荧光成像与折射率采集相结合的使用可以例如用于通过细胞细胞器和细胞类型的数字染色进行空间分段,或者用于通过活细胞周期和细胞死亡的数字染色进行时间分段,或者在另一个示例中,用于通过数字染色进行细胞核体积测量的定量细胞生物学。
如图43中所示,2D荧光显微镜采集包含细胞特征的轴向定位中的模糊性,并且可以用于校准数字染色剂,这然后允许消除模糊并因此获得三维中特征的精确定位。在所示的示例中,细胞核在荧光采集图像中由DAPI标记,并且可以用3D折射率采集的切片覆盖,以便校准特定于细胞核的数字染色。将校准的数字染色从二维扩展到三维重建允许对数据进行具体分段,其中消除了定位模糊。
图44图示了将2D荧光显微术变换成3D细胞断层摄影的另一个示例,在这种情况下,用于从化学标记物DsRed生成在线粒体上校准的3D数字染色剂。这个示例说明了可以如何通过从z=0mum(贴壁细胞部分)到z=8mum(上部细胞部分)的不同深度的切片来确定细胞内3D线粒体网络的空间构造和形态。此外,折射率测量M与分段(通过对DsRed的校准)特征之间的所示覆盖允许在其细胞实施例中将线粒体网络情境化。
参考图45,通过根据本发明实施例的数字染色处理来执行荧光显微术中针对成像伪影的校正的示例。在图45中,a.图示了2D荧光染色剂,其中某些区域被过表达、表达不足或如预期的那样正确表达,并且使用根据本发明的处理的RI采集用数字染色剂对其进行变换,以使结果均匀化(摆脱化学染色剂表达波动和化学染色差异),以获得特定于浆膜生物学特征的校准3D数字染色剂。
其它成像伪影也可以通过根据本发明实施例的数字染色剂成像处理在2D荧光染色图像上被校正,例如包括浆膜中的失焦信号,如图46中a.所示,其使用在浆膜上校准的3D染色剂来变换,如图46中c.所示。由于图46中b.的这种变换,实际上可以消除贴壁细胞平面(z=0mum)中的失焦噪声并且精确地将其定位在z=5.5mum处的上部细胞位置处。
参考图47,如图所示,用荧光显微镜采集校准数字染色剂允许从荧光显微镜的结果中受益,然后可以将其用于对活细胞的类似的采集而无需化学染色以提供长时间的三维RI测量(例如在数天或数周的数量级),否则传统荧光是不可能的,因为与没有化学染色的正常寿命相比,添加化学标记物会降低细胞的寿命。该示例显示敏感的化学标记物(Bodipy具体地绑定到脂滴)限制了通过漂白效应观察细胞的可能时间,该漂白效应导致信号损失和通过氧化应激导致的细胞死亡。对于bodipy这种化学标记物(因此脂滴)的数字染色剂的单个校准处理(需要时可以重复)允许克服这个限制并且使得能够实现具有高生物特异性和低细胞侵入的长期成像。
图48图示了已经根据本发明的方法数字染色的细胞特征的示例,所示的各种细胞器是浆膜、线粒体、细胞核、脂滴、浆膜蛋白和核膜。在这个示例中,我们为6个细胞器示出了数字染色剂的校准处理。将采集的3D RI数据集的切片与2D落射荧光图像合并。两种类型数据之间的相关性允许定义特定于化学标记的细胞特征的数字染色剂。然后可以将校准的数字染色剂应用于整个3D RI数据集,以进行数据的三维分段。在荧光标记物上校准的数字染色剂和具体的某些细胞特征然后可以被定义并作为参考数据存储在库中。
在图49A-图49B中,各种细胞器的示例由它们的折射率图像采集、荧光信号采集图像和两者的覆盖表示,以便生成表征这些细胞器中的每一个的更清晰的签名。示例是线粒体(a.)、细胞核和核仁(b.)、膜(c.)、液滴(d.)、核膜(e.)和溶酶体(f.)。
参考图50-52,仅作为示例,使用例如以下步骤图示使用来自落射荧光的参考数据来校准数字染色剂的实现:
1)选择感兴趣的荧光通道作为参考
2)将覆盖设置为50%,以获得显示面板中两个数据通道的平衡权重(0%的覆盖将仅在显示面板中留下RI数据集,而100%仅示出落射荧光数据)
3)选择包含感兴趣的细胞器/特征的切片
4)选择数字染色剂(D染色剂)并挑选颜色
5)在需要时使用C染色剂饱和度,以便于C染色剂和D染色剂的视觉共定位
6)在需要时放大
7)在面板中进行调整,以最佳匹配D染色剂和C染色剂通道。为此,通过以图形方式收缩或拉伸其边缘沿着两个轴(RI和RI梯度)调整D染色剂,以便标记粉红色区域内包含的体素,然后将其作为所研究的细胞特征的RI签名的一部分。在需要时使用不透明度和边缘柔和度,以在变换面板中具有更平滑过渡的D染色剂,从而可能改善3D面板(右侧面板)上的这种渲染方式。最重要的是,为了允许D染色剂(例如,红色)和C染色剂通道(例如,黄色)之间的覆盖的视觉反馈,2个通道被颜色混合,这导致例如橙色的覆盖区域(参见左侧面板)。因此,调整参数t以使紫色覆盖区域最大化可以被认为是通过等式13-14中定义的成本函数的监督反馈的示例。
8)在需要时对其它C染色剂类似地进行
9)一旦完成,就保存面板
现在参考图51,图示了用于快照的采集和校准的流程图。对于这种模式,用户需要首先选择测量的通道:用于RI测量的全息断层摄影和用于落射荧光测量的荧光。对于数字染色剂校准,用户将选择具有RI和荧光测量两者的模式。用户将选择样本中的真实细胞,在该细胞上将针对两种成像方法调整显微镜的参数。一旦完成设置,就执行测量并且显微镜递送3D RI图和每个荧光通道一个2D图像。
现在参考图52,图示了用于时间流逝(time-lapse)的采集和校准的流程图。以与图51中描述的方式类似的方式,一旦针对每个通道进行设置并选择了时间流逝参数,就执行测量并且显微镜在规则的独立时刻递送3D RI图和每个荧光通道一个2D图像。
参考图53,图示了简化的流程图,其图示了用于分析物体表征数据的典型流水线的示例。
在与采集折射率数据对应的第一步中,目的是生成并导出细胞群数据,例如2D、3D和4D中的10至100个折射率数据集。在第二阶段,为了检测生物特征,目的是利用预先校准的特定于感兴趣的细胞特征的数字染色剂对原始数据集进行分段。这些D染色剂可以例如得自折射率、折射率梯度、折射率高阶动量形状检测,例如,Hough变换(以这种方式将形状检测算法添加到体素分类)、通过RI纹理进行分段(基于RI分布的空间结构的分析)、复杂结构的机器学习、参考数据等(用机器学习算法精炼特征检测,该算法被馈送来自关于参考和/或类似数据集的先前分段的先前反馈)。
在第三阶段,目的是客观地并重复地量化测量并产生允许定量分析的参数。因此,它意味着从分段的数据中提取定量生物学的有意义度量,然后可以将其用于证明假设的科学验证,例如:
-将输出与参考细胞系进行比较,用于例如细胞生长监视
-证明对大细胞群的科学假设
-产生分布图(如在细胞计数分析的门控中所使用),以在定量和可靠的分析中对研究中的科学问题具有统计学意义
术语/定义的列表
/>
/>
Claims (33)
1.一种基于测得的折射率数据对微观物体进行数字表征的方法,该测得的折射率数据表示所述微观物体的折射率(RI)的测得的值或与折射率相关的值的至少三维空间分布,该方法包括:在计算系统中输入所述测得的折射率数据;执行对所述测得的折射率数据应用多个变换的算法,以生成多个参数的空间分布,所述多个参数包括空间和时间参数,以便表征或可视化微观物体或其一部分随时间的行为;该方法还包括将表征微观物体的特征的标签与所述多个参数的既定值范围相关联,由此微观物体的不同特征由所述多个参数的不同既定值范围表征并且与不同标签相关联,所述多个变换包括对输入的测得的折射率数据进行操作的传递函数,其中所述传递函数包括形式为以下各项的任意一种或多种函数:积分、累积、频率、导数、包括分形的小波、傅里叶、Gabor、拉普拉斯变换,或通过谐波分析,以及使用离散、离散时间、数据依赖、线性或非线性、度量函数或分布函数、逻辑运算符、带通滤波器、颜色函数、硬度、α和伽马传递函数、表面渲染、霍夫变换,以及成像处理变换。
2.如权利要求1所述的方法,其中对所述折射率数据的所述多个变换生成所述多个参数的三维空间分布。
3.如权利要求1-2中任一项所述的方法,其中多个参数的所述分布和相关联标签定义n维染色剂空间,n大于1。
4.如权利要求3所述的方法,还包括n维染色剂空间的分段,所述分段包括由能够在计算系统中执行的程序生成包括表征微观物体的至少一个特征的所述多个参数的值范围和所述相关联标签的至少一个特征数据集。
5.如权利要求4所述的方法,还包括将染色剂颜色与所述至少一个特征数据集相关联,并生成用于在屏幕上显示所述至少一个特征以供用户可视化的图像文件。
6.如权利要求5所述的方法,其中微观物体包括多个不同特征,多个特征数据集被生成,每个特征数据集表征所述多个不同特征中的不同特征。
7.如权利要求6所述的方法,其中不同的染色剂颜色与不同的特征相关联。
8.如权利要求1所述的方法,包括生成用于在屏幕上显示包括多个特征的微观物体以供用户可视化的图像文件。
9.如权利要求1所述的方法,其中微观物体是生物物质,包括任何原核生物或真核生物。
10.如权利要求9所述的方法,其中生物物质是真核细胞或真核细胞的一部分。
11.如权利要求1所述的方法,其中所述特征包括细胞的细胞器或细胞的细胞器的组合。
12.如权利要求1所述的方法,其中所述特征由细胞的细胞器或细胞的细胞器的组合组成。
13.如权利要求1所述的方法,其中所述测得的折射率数据是测得的微观物体的、由相位和强度值表示的复折射率分布。
14.如权利要求4所述的方法,其中分段包括反馈回路,用于基于外部或基于用户的输入调整所述特征数据集的值。
15.如权利要求14所述的方法,其中所述反馈回路中的反馈包括可视化在屏幕上显示的图像的、来自所述用户的、基于用户的输入。
16.如权利要求15所述的方法,其中所述反馈包括外部输入,所述外部输入包括先前采集的表征微观物体的数据、关于参考物体的数据、来自机器学习程序的数据、表征用来测量微观物体的显微镜的数据、形状识别程序或所述外部输入与微观物体的相关函数中的任何一个或多个。
17.如权利要求16所述的方法,其中所述反馈包括参考物体输入、经校准的物体、关于细胞器的通量连续性或连接的膜的物理约束,或与用来测量微观物体的显微镜相关的物理约束中的任意一个或多个。
18.如权利要求17所述的方法,其中所述参考物体输入包括几何物体。
19.如权利要求17所述的方法,其中所述经校准的物体包括先前验证的细胞器的断层图像。
20.如权利要求1所述的方法,包括提供被配置为用于生物标本的三维断层摄影成像的显微镜(4),并且用显微镜采集所述测得的折射率数据,该测得的折射率数据表示所述微观物体的测得的折射率(RI)值或与折射率相关的值的至少空间分布,所述微观物体是生物标本。
21.如权利要求20所述的方法,还包括对生物标本进行化学染色并用显微镜采集来自生物标本的荧光图像数据。
22.如权利要求21所述的方法,还包括在计算系统中输入所述测得的折射率数据和所述荧光图像数据,并计算所述测得的折射率数据与所述荧光图像数据之间的相关性,以生成表征所述生物标本的一个或多个特征的参考数据,参考数据存储在存储器中。
23.一种微观物体表征系统(1),包括计算机系统、具有连接到该计算机系统的计算单元(5)的显微镜(4),以及能够在计算机系统中执行的物体表征程序(17),物体表征程序(17)被配置为接收折射率数据,该折射率数据表示所述微观物体的折射率(RI)的测得的值或与折射率相关的值的至少三维空间分布,所述物体表征程序可操作,以执行对所述折射率数据应用多个变换的算法,所述多个变换包括对输入的测得的折射率数据进行操作的传递函数,所述传递函数包括形式为以下各项的任意一种或多种函数:积分、累积、频率、导数、包括分形的小波、傅里叶、Gabor、拉普拉斯变换,或通过谐波分析,以及使用离散、离散时间、数据依赖、线性或非线性、度量函数和/或分布函数、逻辑运算符、带通滤波器、颜色函数、硬度、α和伽马传递函数、表面渲染、霍夫变换,以及成像处理变换,所述变换生成用于表征微观物体的特征的两个或更多个参数的分布,所述两个或更多个参数包括空间和时间参数,以便表征或可视化微观物体或其一部分随时间的行为,该计算机系统还包括反馈接口,该反馈接口被配置为经由全局通信网络连接到网络计算系统中的数据服务器,并且被配置为从数据中心服务器接收反馈数据以供物体表征程序处理,以精炼或增强所述特征的表征。
24.如权利要求23所述的微观物体表征系统,包括与所述网络计算系统互连的多个所述显微镜和多个所述计算机系统。
25.如权利要求23所述的微观物体表征系统,还包括能够由系统的授权用户访问的数据库,该数据库填充有描述微观物体的特征的数据集。
26.如权利要求25所述的微观物体表征系统,其中数据库被配置为接收由系统的授权用户上传的数据。
27.如权利要求26所述的微观物体表征系统,其中数据库被配置为接收描述微观物体的特征的数据集。
28.如权利要求25所述的微观物体表征系统,其中数据库安装在网络中的数据服务器中。
29.如权利要求23所述的微观物体表征系统,还包括显示模块,该显示模块被配置为生成命令和物体可视化面板(12)以用于在屏幕上显示,命令和物体可视化面板包括输入面板(13)、数字染色剂面板(14)和可视化面板(15),输入面板(13)提供折射率输入数据的视觉表示,数字染色剂面板(14)提供用于表征微观物体的所述参数中至少两个参数的并且被配置为允许参数范围由用户交互设置的视图,并且可视化面板提供所表征的微观物体的视觉表示。
30.如权利要求29所述的微观物体表征系统,其中不同的颜色与每个参数范围相关联,使得数字染色剂面板中表示参数范围的所描绘的形状具有不同的颜色,这些颜色被应用在微观物体的每个空间位置处,其中参数落入与用于在可视化面板中可视化的颜色对应的范围内。
31.如权利要求30所述的微观物体表征系统,其中每个不同的参数范围与微观物体的对应的不同特征相关联。
32.一种非瞬态计算机可读介质,其上有形地存储有指令,当指令由处理器执行时,执行如权利要求1所述的方法。
33.一种计算装置,包括处理器和存储器,存储器上存储有指令,当指令由所述处理器执行时,执行如权利要求1所述的方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP16174106.1 | 2016-06-13 | ||
EP16174106 | 2016-06-13 | ||
PCT/EP2017/064328 WO2017216123A1 (en) | 2016-06-13 | 2017-06-12 | Method of characterizing and imaging microscopic objects |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109564617A CN109564617A (zh) | 2019-04-02 |
CN109564617B true CN109564617B (zh) | 2023-09-26 |
Family
ID=56134168
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201780036122.8A Active CN109564617B (zh) | 2016-06-13 | 2017-06-12 | 表征和成像微观物体的方法 |
Country Status (4)
Country | Link |
---|---|
US (2) | US10990797B2 (zh) |
EP (1) | EP3469515A1 (zh) |
CN (1) | CN109564617B (zh) |
WO (1) | WO2017216123A1 (zh) |
Families Citing this family (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018187548A2 (en) * | 2017-04-05 | 2018-10-11 | Arizona Board Of Regents On Behalf Of Arizona State University | Antimicrobial susceptibility testing with large-volume light scattering imaging and deep learning video microscopy |
JP6979278B2 (ja) * | 2017-04-07 | 2021-12-08 | 株式会社日立ハイテク | 画像診断支援装置及び画像診断支援システム、並びに画像診断支援方法 |
EP3499459A1 (en) * | 2017-12-18 | 2019-06-19 | FEI Company | Method, device and system for remote deep learning for microscopic image reconstruction and segmentation |
US11366303B2 (en) | 2018-01-30 | 2022-06-21 | Rebus Biosystems, Inc. | Method for detecting particles using structured illumination |
CN111902529A (zh) * | 2018-03-29 | 2020-11-06 | 索尼公司 | 信息处理装置、信息处理方法和程序 |
EP3776342A4 (en) | 2018-03-30 | 2021-06-09 | The Regents of the University of California | METHOD AND SYSTEM FOR DIGITAL COLORING OF MARK-FREE FLUORESCENT IMAGES USING DEPTH LEARNING |
WO2020018154A1 (en) * | 2018-07-19 | 2020-01-23 | The Regents Of The University Of California | Method and system for digital staining of label-free phase images using deep learning |
EP3853242B1 (en) | 2018-09-20 | 2024-05-15 | The Trustees Of Princeton University | High throughput method and system for mapping intracellular phase diagrams |
WO2020069121A1 (en) * | 2018-09-26 | 2020-04-02 | Northwestern University | Space-time scattering network for inverse design and tomography |
KR102613720B1 (ko) * | 2018-11-07 | 2023-12-13 | 트러스티즈 오브 터프츠 칼리지 | 표면 식별을 위한 원자힘 현미경 |
US11854281B2 (en) * | 2019-08-16 | 2023-12-26 | The Research Foundation For The State University Of New York | System, method, and computer-accessible medium for processing brain images and extracting neuronal structures |
WO2021067507A1 (en) * | 2019-09-30 | 2021-04-08 | Allen Institute | Building computational transfer functions on 3d light microscopy images using deep learning |
KR102302333B1 (ko) * | 2019-11-05 | 2021-09-16 | 주식회사 토모큐브 | 3차원 굴절률 영상과 딥러닝을 활용한 비표지 방식의 3차원 분자 영상 생성 방법 및 장치 |
WO2021154876A1 (en) * | 2020-01-28 | 2021-08-05 | The Regents Of The University Of California | Systems and methods for the early detection and classification of live microorganisms using time-lapse coherent imaging and deep learning |
CA3184293A1 (en) * | 2020-06-29 | 2022-01-06 | Hadi Shafiee | Adaptive neural networks for analyzing medical images |
CN112033547B (zh) * | 2020-08-21 | 2021-07-09 | 中国人民解放军国防科技大学 | 一维综合孔径微波辐射计海温遥感多频点确定方法 |
IT202100019490A1 (it) * | 2021-07-22 | 2023-01-22 | Consiglio Nazionale Ricerche | Computer-implemented method and corresponding apparatus for identifying subcellular structures in the non-chemical staining mode from phase contrast tomography reconstructions in flow cytometry |
US20240013365A9 (en) * | 2021-10-04 | 2024-01-11 | Kla Corporation | Unsupervised or self-supervised deep learning for semiconductor-based applications |
CN114387442A (zh) * | 2022-01-12 | 2022-04-22 | 南京农业大学 | 一种多维空间中的直线、平面和超平面的快速检测方法 |
WO2023175862A1 (ja) * | 2022-03-17 | 2023-09-21 | 株式会社エビデント | 屈折率分布生成装置、屈折率分布生成方法、屈折率分布生成システム及び記録媒体 |
WO2023175860A1 (ja) * | 2022-03-17 | 2023-09-21 | 株式会社エビデント | 標本画像生成装置、標本画像生成方法、標本画像生成システム及び記録媒体 |
CN114986911A (zh) * | 2022-05-24 | 2022-09-02 | 北京理工大学 | 生物微支架硬度可视化方法、系统、电子设备及存储介质 |
CN114677677B (zh) * | 2022-05-30 | 2022-08-19 | 南京友一智能科技有限公司 | 一种质子交换膜燃料电池气体扩散层材料比例预测方法 |
CN117788472B (zh) * | 2024-02-27 | 2024-05-14 | 南京航空航天大学 | 一种基于dbscan算法的飞机蒙皮表面铆钉腐蚀程度判断的方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1668913A (zh) * | 2002-05-14 | 2005-09-14 | 阿默森生物科学英国有限公司 | 评价生物膜的方法 |
CN101194159A (zh) * | 2005-04-21 | 2008-06-04 | 奥里巴Abx股份有限公司(简单形式) | 微观元素多参数分析设备和方法 |
CN101477630A (zh) * | 2009-02-17 | 2009-07-08 | 吴俊� | 智能化水处理微生物机器视觉辨识系统和方法 |
EP2553513A2 (en) * | 2010-03-28 | 2013-02-06 | Ecole Polytechnique Federale de Lausanne (EPFL) | Complex index refraction tomography with sub 6-resolution |
CN105067528A (zh) * | 2015-07-20 | 2015-11-18 | 中国科学院上海光学精密机械研究所 | 二维共焦显微非线性强度扫描系统和测量方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7697750B2 (en) * | 2004-12-06 | 2010-04-13 | John Castle Simmons | Specially coherent optics |
AU2008275501A1 (en) * | 2007-04-19 | 2009-01-15 | The Regents Of The University Of Michigan | Dendrimer based compositions and methods of using the same |
US9129371B2 (en) * | 2010-06-25 | 2015-09-08 | Cireca Theranostics, Llc | Method for analyzing biological specimens by spectral imaging |
EP2998776A1 (en) | 2014-09-22 | 2016-03-23 | Nanolive SA | Tomographic phase microscope |
CA2969038C (en) * | 2014-12-03 | 2023-07-04 | Ventana Medical Systems, Inc. | Methods, systems, and apparatuses for quantitative analysis of heterogeneous biomarker distribution |
WO2016138452A1 (en) * | 2015-02-27 | 2016-09-01 | University Of Pittsburgh - Of The Commonwealth System Of Higher Education | Depth-resolved spatial-domain low-coherence quantitative phase microscopy for unstained tissue and cells |
WO2016178234A1 (en) * | 2015-05-07 | 2016-11-10 | Technology Innovation Momentum Fund (Israel) Limited Partnership | Interferometric system and method for use with biological cells and organisms including sperm |
-
2017
- 2017-06-12 CN CN201780036122.8A patent/CN109564617B/zh active Active
- 2017-06-12 EP EP17728882.6A patent/EP3469515A1/en not_active Withdrawn
- 2017-06-12 US US16/309,292 patent/US10990797B2/en active Active
- 2017-06-12 WO PCT/EP2017/064328 patent/WO2017216123A1/en unknown
-
2021
- 2021-04-16 US US17/233,046 patent/US11798300B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1668913A (zh) * | 2002-05-14 | 2005-09-14 | 阿默森生物科学英国有限公司 | 评价生物膜的方法 |
CN101194159A (zh) * | 2005-04-21 | 2008-06-04 | 奥里巴Abx股份有限公司(简单形式) | 微观元素多参数分析设备和方法 |
CN101477630A (zh) * | 2009-02-17 | 2009-07-08 | 吴俊� | 智能化水处理微生物机器视觉辨识系统和方法 |
EP2553513A2 (en) * | 2010-03-28 | 2013-02-06 | Ecole Polytechnique Federale de Lausanne (EPFL) | Complex index refraction tomography with sub 6-resolution |
CN105067528A (zh) * | 2015-07-20 | 2015-11-18 | 中国科学院上海光学精密机械研究所 | 二维共焦显微非线性强度扫描系统和测量方法 |
Non-Patent Citations (3)
Title |
---|
Digital Staining: Microscopy of Live Cells Without Invasive Chemicals;Lisa Pollaro 等;《Microscopy Today》;20150731;第23卷(第4期);第12-17页 * |
Protozoon classifications based on size, shape and refractive index using on-chip immersion refractometer;L. K. Chin 等;《2011 16th International Solid-State Sensors, Actuators and Microsystems Conference》;20110801;全文 * |
不同粒径纳米金增强SPR检测大肠杆菌O157:H7的研究;李蓉卓;《中国优秀硕士学位论文全文数据库 (医药卫生科技辑)》;20140731(第7期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN109564617A (zh) | 2019-04-02 |
US20190251330A1 (en) | 2019-08-15 |
EP3469515A1 (en) | 2019-04-17 |
US20210271853A1 (en) | 2021-09-02 |
US11798300B2 (en) | 2023-10-24 |
WO2017216123A1 (en) | 2017-12-21 |
US10990797B2 (en) | 2021-04-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109564617B (zh) | 表征和成像微观物体的方法 | |
Gurcan et al. | Histopathological image analysis: A review | |
TWI496112B (zh) | 細胞影像分割方法以及核質比評估方法 | |
Kervrann et al. | A guided tour of selected image processing and analysis methods for fluorescence and electron microscopy | |
Luck et al. | An image model and segmentation algorithm for reflectance confocal images of in vivo cervical tissue | |
Kolář et al. | Detection of glaucomatous eye via color fundus images using fractal dimensions | |
Wait et al. | Visualization and correction of automated segmentation, tracking and lineaging from 5-D stem cell image sequences | |
Belkacem-Boussaid et al. | Automatic detection of follicular regions in H&E images using iterative shape index | |
Hu et al. | Automated segmentation of geographic atrophy in fundus autofluorescence images using supervised pixel classification | |
Lee et al. | DeepHCS++: Bright-field to fluorescence microscopy image conversion using multi-task learning with adversarial losses for label-free high-content screening | |
Giannantonio et al. | Intra-operative brain tumor detection with deep learning-optimized hyperspectral imaging | |
Morales-Navarrete et al. | Automatic recognition and characterization of different non-parenchymal cells in liver tissue | |
Saxena et al. | Study of Computerized Segmentation & Classification Techniques: An Application to Histopathological Imagery | |
Lin et al. | Morphometric analysis of erythrocytes from patients with thalassemia using tomographic diffractive microscopy | |
Benisty et al. | Review of data processing of functional optical microscopy for neuroscience | |
WO2019175959A1 (ja) | 細胞状態判定方法及び細胞状態判定装置 | |
Hadjidemetriou et al. | Motion tracking of the outer tips of microtubules | |
Thouvenin et al. | Automatic diagnosis and biopsy classification with dynamic full-field OCT and machine learning | |
Joseph | Hyperspectral optical imaging for detection, diagnosis and staging of cancer | |
Dey et al. | Automated detection of early oral cancer trends in habitual smokers | |
Zucchelli et al. | Brain tissue microstructure characterization using dMRI based autoencoder neural-networks | |
Wu et al. | WaveletSEG: Automatic wavelet-based 3D nuclei segmentation and analysis for multicellular embryo quantification | |
Manan et al. | Semantic segmentation of retinal exudates using a residual encoder–decoder architecture in diabetic retinopathy | |
Selinummi | On Algorithms for Two and Three Dimensional High Throughput Light Microscopy | |
Zargani | Automated Quantitative Phase Imaging Pipeline: for Monitoring Bacterial Cell Growth under Chemical Influence |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information |
Address after: Trossner, Switzerland Applicant after: NANOLIVE S.A. Address before: Swiss ECU Brown Applicant before: NANOLIVE S.A. |
|
CB02 | Change of applicant information | ||
GR01 | Patent grant | ||
GR01 | Patent grant |