CN114007484A - 在超光谱、荧光和激光标测成像系统中使用多个发射器的场景的偏移照明 - Google Patents
在超光谱、荧光和激光标测成像系统中使用多个发射器的场景的偏移照明 Download PDFInfo
- Publication number
- CN114007484A CN114007484A CN202080045337.8A CN202080045337A CN114007484A CN 114007484 A CN114007484 A CN 114007484A CN 202080045337 A CN202080045337 A CN 202080045337A CN 114007484 A CN114007484 A CN 114007484A
- Authority
- CN
- China
- Prior art keywords
- electromagnetic radiation
- wavelength
- pulses
- emitter
- light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013507 mapping Methods 0.000 title claims abstract description 106
- 238000005286 illumination Methods 0.000 title claims abstract description 18
- 238000003384 imaging method Methods 0.000 title description 130
- 230000005670 electromagnetic radiation Effects 0.000 claims abstract description 386
- 239000000835 fiber Substances 0.000 claims description 175
- 239000003795 chemical substances by application Substances 0.000 claims description 72
- 230000003287 optical effect Effects 0.000 claims description 54
- 230000005284 excitation Effects 0.000 claims description 53
- 239000013307 optical fiber Substances 0.000 claims description 38
- 239000004033 plastic Substances 0.000 claims description 29
- 206010028980 Neoplasm Diseases 0.000 claims description 25
- 239000003365 glass fiber Substances 0.000 claims description 21
- 238000002156 mixing Methods 0.000 claims description 16
- 238000005259 measurement Methods 0.000 claims description 11
- 238000004891 communication Methods 0.000 claims description 10
- 210000004204 blood vessel Anatomy 0.000 claims description 7
- 210000005036 nerve Anatomy 0.000 claims description 6
- 210000000626 ureter Anatomy 0.000 claims description 5
- 210000001367 artery Anatomy 0.000 claims description 4
- 230000017531 blood circulation Effects 0.000 claims description 4
- 239000013308 plastic optical fiber Substances 0.000 claims description 2
- 238000000799 fluorescence microscopy Methods 0.000 abstract description 37
- 238000000034 method Methods 0.000 description 84
- 210000001519 tissue Anatomy 0.000 description 79
- 238000001228 spectrum Methods 0.000 description 74
- 238000000701 chemical imaging Methods 0.000 description 60
- 239000000975 dye Substances 0.000 description 43
- 238000003491 array Methods 0.000 description 31
- 238000005192 partition Methods 0.000 description 31
- 230000003595 spectral effect Effects 0.000 description 30
- 230000002950 deficient Effects 0.000 description 27
- 230000008569 process Effects 0.000 description 27
- 210000004027 cell Anatomy 0.000 description 25
- 230000004044 response Effects 0.000 description 25
- 239000000758 substrate Substances 0.000 description 22
- 206010021143 Hypoxia Diseases 0.000 description 20
- 230000001146 hypoxic effect Effects 0.000 description 20
- 238000010586 diagram Methods 0.000 description 18
- 238000003860 storage Methods 0.000 description 18
- 201000011510 cancer Diseases 0.000 description 15
- 239000003153 chemical reaction reagent Substances 0.000 description 15
- OOYIOIOOWUGAHD-UHFFFAOYSA-L disodium;2',4',5',7'-tetrabromo-4,5,6,7-tetrachloro-3-oxospiro[2-benzofuran-1,9'-xanthene]-3',6'-diolate Chemical compound [Na+].[Na+].O1C(=O)C(C(=C(Cl)C(Cl)=C2Cl)Cl)=C2C21C1=CC(Br)=C([O-])C(Br)=C1OC1=C(Br)C([O-])=C(Br)C=C21 OOYIOIOOWUGAHD-UHFFFAOYSA-L 0.000 description 15
- 239000000463 material Substances 0.000 description 15
- 230000031018 biological processes and functions Effects 0.000 description 12
- 238000001311 chemical methods and process Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 12
- 239000007850 fluorescent dye Substances 0.000 description 11
- 238000001429 visible spectrum Methods 0.000 description 10
- 230000005540 biological transmission Effects 0.000 description 9
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 9
- 239000003086 colorant Substances 0.000 description 8
- 239000000126 substance Substances 0.000 description 8
- 230000008859 change Effects 0.000 description 7
- 201000010099 disease Diseases 0.000 description 7
- 230000001965 increasing effect Effects 0.000 description 7
- 238000012986 modification Methods 0.000 description 7
- 230000004048 modification Effects 0.000 description 7
- 230000010354 integration Effects 0.000 description 6
- 239000000203 mixture Substances 0.000 description 6
- 230000005855 radiation Effects 0.000 description 6
- 210000003484 anatomy Anatomy 0.000 description 5
- 230000008901 benefit Effects 0.000 description 5
- 238000001914 filtration Methods 0.000 description 5
- 239000011521 glass Substances 0.000 description 5
- 238000001356 surgical procedure Methods 0.000 description 5
- 238000009827 uniform distribution Methods 0.000 description 5
- 230000001976 improved effect Effects 0.000 description 4
- 238000007689 inspection Methods 0.000 description 4
- 239000000155 melt Substances 0.000 description 4
- 230000035945 sensitivity Effects 0.000 description 4
- 238000002211 ultraviolet spectrum Methods 0.000 description 4
- 230000002457 bidirectional effect Effects 0.000 description 3
- 230000001351 cycling effect Effects 0.000 description 3
- 230000001934 delay Effects 0.000 description 3
- 230000001066 destructive effect Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000002073 fluorescence micrograph Methods 0.000 description 3
- 210000000056 organ Anatomy 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 239000002096 quantum dot Substances 0.000 description 3
- 238000002432 robotic surgery Methods 0.000 description 3
- 238000005096 rolling process Methods 0.000 description 3
- 239000007787 solid Substances 0.000 description 3
- 238000000638 solvent extraction Methods 0.000 description 3
- 230000001360 synchronised effect Effects 0.000 description 3
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 2
- 210000000683 abdominal cavity Anatomy 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000001427 coherent effect Effects 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 238000002591 computed tomography Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 238000002059 diagnostic imaging Methods 0.000 description 2
- 208000035475 disorder Diseases 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 239000003814 drug Substances 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000010304 firing Methods 0.000 description 2
- 239000012530 fluid Substances 0.000 description 2
- 238000001506 fluorescence spectroscopy Methods 0.000 description 2
- 238000002675 image-guided surgery Methods 0.000 description 2
- 230000001939 inductive effect Effects 0.000 description 2
- 238000002329 infrared spectrum Methods 0.000 description 2
- 229910052500 inorganic mineral Inorganic materials 0.000 description 2
- 238000002357 laparoscopic surgery Methods 0.000 description 2
- 239000011707 mineral Substances 0.000 description 2
- 210000003205 muscle Anatomy 0.000 description 2
- 239000002086 nanomaterial Substances 0.000 description 2
- 230000007170 pathology Effects 0.000 description 2
- 230000000704 physical effect Effects 0.000 description 2
- 230000035479 physiological effects, processes and functions Effects 0.000 description 2
- 230000001737 promoting effect Effects 0.000 description 2
- 102000004169 proteins and genes Human genes 0.000 description 2
- 108090000623 proteins and genes Proteins 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 229910052710 silicon Inorganic materials 0.000 description 2
- 239000010703 silicon Substances 0.000 description 2
- 238000003530 single readout Methods 0.000 description 2
- 238000004611 spectroscopical analysis Methods 0.000 description 2
- 238000013403 standard screening design Methods 0.000 description 2
- 230000008093 supporting effect Effects 0.000 description 2
- 206010003402 Arthropod sting Diseases 0.000 description 1
- 241001428800 Cell fusing agent virus Species 0.000 description 1
- 206010061218 Inflammation Diseases 0.000 description 1
- OAICVXFJPJFONN-UHFFFAOYSA-N Phosphorus Chemical compound [P] OAICVXFJPJFONN-UHFFFAOYSA-N 0.000 description 1
- 238000010521 absorption reaction Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 239000000090 biomarker Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 239000011248 coating agent Substances 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 150000001875 compounds Chemical class 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 238000009792 diffusion process Methods 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 238000002674 endoscopic surgery Methods 0.000 description 1
- 238000001839 endoscopy Methods 0.000 description 1
- 230000005281 excited state Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 102000034287 fluorescent proteins Human genes 0.000 description 1
- 108091006047 fluorescent proteins Proteins 0.000 description 1
- 210000001035 gastrointestinal tract Anatomy 0.000 description 1
- 230000005283 ground state Effects 0.000 description 1
- 239000012216 imaging agent Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000001727 in vivo Methods 0.000 description 1
- 208000015181 infectious disease Diseases 0.000 description 1
- 230000004054 inflammatory process Effects 0.000 description 1
- 208000036971 interstitial lung disease 2 Diseases 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000002595 magnetic resonance imaging Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 239000002105 nanoparticle Substances 0.000 description 1
- 210000000944 nerve tissue Anatomy 0.000 description 1
- 210000000653 nervous system Anatomy 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000001208 nuclear magnetic resonance pulse sequence Methods 0.000 description 1
- 238000009206 nuclear medicine Methods 0.000 description 1
- 239000003921 oil Substances 0.000 description 1
- 230000000399 orthopedic effect Effects 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 229920001690 polydopamine Polymers 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 230000003362 replicative effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 210000002345 respiratory system Anatomy 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000011012 sanitization Methods 0.000 description 1
- 238000009416 shuttering Methods 0.000 description 1
- 238000010186 staining Methods 0.000 description 1
- 210000000130 stem cell Anatomy 0.000 description 1
- 238000000547 structure data Methods 0.000 description 1
- 208000024891 symptom Diseases 0.000 description 1
- -1 tissues Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 210000003708 urethra Anatomy 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/68—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
- A61B5/6846—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be brought in contact with an internal body part, i.e. invasive
- A61B5/6847—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be brought in contact with an internal body part, i.e. invasive mounted on an invasive device
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000095—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/042—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by a proximal camera, e.g. a CCD camera
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/043—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/05—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
- A61B1/051—Details of CCD assembly
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0605—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for spatially modulated illumination
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0615—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for radial illumination
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/063—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for monochromatic or narrow-band illumination
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0638—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0655—Control therefor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0661—Endoscope light sources
- A61B1/0676—Endoscope light sources at distal tip of an endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/07—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements using light-conductive means, e.g. optical fibres
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0062—Arrangements for scanning
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0071—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by measuring fluorescence emission
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0075—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/02007—Evaluating blood vessel condition, e.g. elasticity, compliance
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/026—Measuring blood flow
- A61B5/0261—Measuring blood flow using optical means, e.g. infrared light
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/20—Measuring for diagnostic purposes; Identification of persons for measuring urological functions restricted to the evaluation of the urinary system
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/40—Detecting, measuring or recording for evaluating the nervous system
- A61B5/4029—Detecting, measuring or recording for evaluating the nervous system for evaluating the peripheral nervous systems
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/125—Colour sequential image capture, e.g. using a colour wheel
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2505/00—Evaluating, monitoring or diagnosing in the context of a particular type of medical care
- A61B2505/05—Surgical care
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2562/00—Details of sensors; Constructional details of sensor housings or probes; Accessories for sensors
- A61B2562/02—Details of sensors specially adapted for in-vivo measurements
- A61B2562/0233—Special features of optical sensors or probes classified in A61B5/00
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2562/00—Details of sensors; Constructional details of sensor housings or probes; Accessories for sensors
- A61B2562/22—Arrangements of medical sensors with cables or leads; Connectors or couplings specifically adapted for medical sensors
- A61B2562/221—Arrangements of sensors with cables or leads, e.g. cable harnesses
- A61B2562/223—Optical cables therefor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2576/00—Medical imaging apparatus involving image processing or analysis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/107—Measuring physical dimensions, e.g. size of the entire body or parts thereof
- A61B5/1076—Measuring physical dimensions, e.g. size of the entire body or parts thereof for measuring dimensions inside body cavities, e.g. using catheters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10064—Fluorescence image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Public Health (AREA)
- Biomedical Technology (AREA)
- Veterinary Medicine (AREA)
- Biophysics (AREA)
- Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Molecular Biology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Optics & Photonics (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Physiology (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Neurology (AREA)
- Multimedia (AREA)
- Cardiology (AREA)
- Electromagnetism (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Urology & Nephrology (AREA)
- Neurosurgery (AREA)
- Vascular Medicine (AREA)
- Hematology (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Endoscopes (AREA)
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
Abstract
描述了在荧光成像系统中使用多个发射器的偏移照明。系统包括发射器和图像传感器,所述发射器用于发射电磁辐射脉冲,所述图像传感器包括用于感测经反射的电磁辐射的像素阵列。该发射器包括用于发射不同波长的电磁辐射的第一发射器和第二发射器。该系统使得该发射器发射的该电磁辐射脉冲的至少一部分包括超光谱发射、荧光发射或激光标测模式中的一者或多者。
Description
技术领域
本公开涉及数字成像,并且具体地涉及缺光环境中的超光谱成像、荧光成像和/或激光标测成像。
背景技术
科技的进步已提供了医用成像能力的进步。内窥镜可用于观察身体内部并检查身体的器官或腔体的内部。内窥镜用于调查患者的症状、确认诊断或提供医学治疗。医学内窥镜可用于观察多种身体系统和部分,诸如胃肠道、呼吸道、尿道、腹腔等。内窥镜还可用于外科手术,诸如整形外科手术、在关节或骨上进行的手术、在神经系统上进行的手术、在腹腔内进行的手术等。
在内窥镜成像的一些情况下,观察彩色空间可能是有利的或有必要的。数字彩色图像包括累积形成具有一系列色调的图像的至少三个层或“颜色通道”。颜色通道中的每个测量光谱带的光的强度和色度。通常,数字彩色图像包括红色光谱带、绿色光谱带和蓝色光谱带的颜色通道(这可称为红绿蓝或RGB图像)。红色通道、绿色通道和蓝色通道中的每个通道包括红色光谱带、绿色光谱带或蓝色光谱带的亮度信息。将单独的红色层、绿色层和蓝色层的亮度信息组合以生成彩色图像。因为彩色图像由单独层构成,所以常规数字相机图像传感器包括颜色滤光器阵列,该颜色滤光器允许红色可见光波长、绿色可见光波长和蓝色可见光波长击中所选择的像素传感器。每个单独的像素传感器元件对红色波长、绿色波长或蓝色波长敏感,并且将仅返回该波长的图像数据。将来自像素传感器的总阵列的图像数据组合以生成RGB图像。该至少三种不同类型的像素传感器消耗大量的物理空间,使得完整的像素阵列不能适配在内窥镜的小远侧端部中。
因为传统图像传感器不能适配在内窥镜的远侧端部中,所以图像传感器传统上位于内窥镜的手持件单元中,该手持件单元由内窥镜操作者保持并且不放置在体腔内。在此类内窥镜中,光沿内窥镜的长度从手持件单元传输到内窥镜的远侧端部。该配置具有显著限制。具有该配置的内窥镜是精密的,并且当其在常规使用期间发生碰撞或冲击时可容易地不对准或损坏。这可显著降低由图像的质量,并且内窥镜需要频繁修理或更换。
具有放置在手持件单元中的图像传感器的传统内窥镜还限于仅捕获彩色图像。然而,在一些具体实施中,除了彩色图像数据之外,还可能希望利用荧光数据、超光谱数据和/或激光标测数据来捕获图像。荧光成像捕获已吸收电磁辐射并在其发射弛豫波长时“发光”的物质发射的光。超光谱成像可用于通过发射电磁辐射的不同分区并评估材料的光谱响应来识别不同的材料、生物过程和化学过程。激光标测成像可捕获对象和景观的表面形状并测量场景内的对象之间的距离。激光标测成像还可涵盖工具跟踪,其中可相对于彼此、相对于成像装置和/或相对于场景内的结构来跟踪场景内工具的距离和/或尺寸。在一些具体实施中,可能希望在对场景成像时组合使用荧光成像、超光谱成像和/或激光标测成像中的一者或多者。
然而,本领域已知的荧光成像技术、超光谱成像技术和激光标测技术的应用通常需要高度专业化的设备,这些设备对于多种应用可能是不可用的。此外,此类技术提供了有限的环境视图,并且通常必须与多个单独系统和多个单独图像传感器结合使用,该多个单独系统和该多个单独图像传感器被制成对特定电磁辐射频带敏感。因此希望开发一种可用于空间受限的环境中以生成荧光成像数据、超光谱成像数据和/或激光标测成像数据的成像系统。
鉴于上述情况,本文描述了用于在缺光环境中进行荧光成像、超光谱成像和激光标测成像的系统、方法和装置。此类系统、方法和装置可提供多个数据集,用于识别身体内的关键结构并提供关于体腔的精确且有价值的信息。
附图说明
参考以下附图描述了本公开的非限制性和非完全性的具体实施,其中除非另外指明,否则在各个视图中类似的附图标号指示类似的部分。参照以下说明和附图将更好地理解本公开的优点,其中:
图1是具有成对发射器和像素阵列的用于在缺光环境中进行数字成像的系统的示意图;
图2是用于向用于内窥镜成像的缺光环境提供照明的系统;
图2A是互补系统硬件的示意图;
图3A至图3D是用于构造曝光帧的传感器的操作循环的图示;
图4A是电磁发射器的实施方案的操作的图形表示;
图4B是改变发射电磁脉冲的持续时间和量值以提供曝光控制的图形表示;
图5是将图3A至图4B的传感器的操作循环、电磁发射器和发射电磁脉冲组合的本公开的实施方案的图示,其示出了操作期间的成像系统;
图6A是用于在t(0)至t(1)的时间段内利用全光谱光记录视频的方法的示意图;
图6B是通过在t(0)至t(1)的时间段内脉冲部分光谱光来记录视频的过程的示意图;
图7A至图7E示出了在时间间隔内用于记录全光谱光和分区光谱光两者的视频帧的方法的示意图;
图8是在控制信号和发射器发射电磁辐射之间的延迟或抖动的图形显示;
图9是包括中心纤维和多个周围纤维的光纤束的横截面图;
图10是用于将电磁辐射发送到光纤束的顶帽式轮廓和高斯轮廓的图形显示;
图11是示出了与相机的视场相比来自光纤束的电磁辐射(光)的输出的侧视图;
图12是示出了来自光纤束的电磁辐射的输出的侧视图,其中单根纤维的端部旨在提供电磁辐射的更均匀分布;
图13是示出了来自光纤束的电磁辐射的输出的侧视图,其中光纤束包括塑料纤维和耦接在该输出部附近的玻璃纤维;
图14是示出了来自光纤束的电磁辐射的输出的侧视图,该光纤束包括位于该输出部附近的漫射器;
图15是根据抖动规格的用于驱动发射器以照明场景的方法的示意性流程图;
图16是用于向缺光环境中的成像场景提供电磁辐射的方法的示意性流程图;
图17A至图17C示出了具有多个发射器的光源;
图18示出了在输出处经由漫射器输出以照明缺光环境中的场景的单根光纤;
图19示出了根据本公开的原理和教导内容被分成可由光源的发射器发射的多个不同子光谱的电磁光谱的一部分;
图20是示出用于生成包括由脉冲光的不同分区产生的多个曝光帧的图像帧的发射和读出时序的示意图;
图21示出了包括用于过滤电磁辐射波长的单个截止滤光器的成像系统;
图22示出了包括用于过滤电磁辐射波长的多个截止滤光器的成像系统;
图23示出了可被成像系统脉冲的示例性激光标测模式;
图24A和图24B示出了根据本公开的原理和教导内容的具有用于产生三维图像的多个像素阵列的具体实施;
图25A和图25B分别示出了构建在多个基板上的成像传感器的具体实施的透视图和侧视图,其中形成像素阵列的多个像素列位于第一基板上,并且多个电路列位于第二基板上,图中显示了一像素列和其相关联的或对应的电路列之间的电连接和通信;并且
图26A和图26B分别示出了具有用于产生三维图像的多个像素阵列的成像传感器的具体实施的透视图和侧视图,其中该多个像素阵列和图像传感器构建在多个基板上。
具体实施方式
本文公开了可主要适用于医学应用诸如医学内窥镜成像的用于数字成像的系统、方法和装置。本公开的一个实施方案是一种用于在缺光环境中进行超光谱、荧光、激光标测和彩色成像的内窥镜系统。本文所公开的此类方法、系统和基于计算机的产品提供用于医学机器人应用诸如用于执行成像规程、外科规程等的机器人的使用的成像或诊断能力。
本公开的一个实施方案是一种包括用于发射电磁辐射脉冲照明场景的发射器的内窥镜成像系统。发射器包括多个激光器束(在本文中可另选地被称为构成整体发射器的独立“发射器”),这些激光器束可彼此独立地操作并且发射不同波长的电磁辐射。构成发射器的多个激光器束可各自被配置为在不同分区或波长的电磁光谱下脉冲电磁辐射。电磁辐射脉冲可被脉冲到光纤束,并且该光纤束然后可将脉冲的电磁辐射携带到内窥镜的远侧端部以照明场景。当电磁辐射到达光纤束时,使用多个激光器束的这种具体实施会引发问题。例如,光纤束内的单个纤维可接收不同波长的光、不同的功率水平的光,或者可接收比其他单个纤维更多或更少的光。这会导致场景的非均匀照明。
根据前述内容,本公开的实施方案包括居间光学元件和/或一个或多个二向色镜。该居间光学元件和该一个或多个二向色镜可组合使用以向光纤束提供均匀光。该居间光学元件可定位在发射器和光纤束之间。该居间光学元件可包括例如漫射器、混合棒、透镜或用于促进均匀轻混合物的一些其他光学部件。在一个实施方案中,存在用于发射器的每个激光器束的二向色镜。用于第一激光器束的第一二向色镜可被配置为反射由该第一激光器束脉冲一定波长的电磁辐射。用于第二激光器束的第二二向色镜可被配置为反射由该第二激光器束脉冲一定波长的电磁辐射等。因此,二向色镜可被配置为反射由某个激光器束脉冲的电磁辐射,并且对可以由发射器的其他激光器束脉冲的其他波长的电磁辐射透明。在一个实施方案中,二向色镜成角度且定位在内窥镜系统内,使得由发射器脉冲的电磁辐射撞击二色镜并且然后改变被脉冲到光纤束中的方向。该光纤束然后可携带光通过内窥镜系统以照明场景。这种用于偏移照明的系统使得能够使用多个不同的激光器、激光器束或发射器,而没有照明场景或通过光纤束传输的非均匀光的风险。
常规内窥镜被设计成使得图像传感器被放置在手持件单元内的装置的近侧端部处。该配置要求入射光通过精确耦接的光学元件行进内窥镜的长度。在正常使用期间精确的光学元件可能不容易对准,并且这可导致图像失真或图像损失。本公开的实施方案将图像传感器放置在内窥镜本身的远侧端部中的空间高度受限环境内。当与本领域中已知的具体实施相比时,这提供了更大的光学简单性。然而,该方法的可接受解决方案绝不简单并且引发了其自身的一系列工程挑战。
当图像传感器的总体尺寸被最小化使得图像传感器可装配在内窥镜的远侧末端内时,可存在图像质量的显著损失。可通过减少像素数量和/或减小每个单个像素的感测区域来减小图像传感器的像素阵列的面积。这些修改中的每一者都影响所得图像的分辨率、灵敏度和动态范围。传统内窥镜成像系统旨在通过分段像素阵列诸如拜耳模式阵列来感测稳定宽带照明并提供颜色信息。鉴于与分段像素阵列相关联的缺陷,本文公开了使用不包括单个像素滤光器的单色(可被称为“颜色不定”)像素阵列的另选系统和方法。在本文所公开的实施方案中,通过用不同波长的电磁辐射脉冲发射器来提供颜色信息。本文所公开的脉冲成像系统可生成上面叠层有超光谱、荧光和/或激光标测成像数据的彩色图像。
在一个实施方案中,颜色信息通过响应于不同波长的电磁辐射的脉冲来捕获独立的曝光帧而确定。另选脉冲可包括红色波长、绿色波长和蓝色波长,用于生成由红色曝光帧、绿色曝光帧和蓝色曝光帧组成的RGB图像帧。在另选具体实施中,另选脉冲可包括光的亮度(“Y”)脉冲、红色色度(“Cr”)脉冲和蓝色色度(“Cb”)脉冲,用于生成由亮度数据、红色色度数据和蓝色色度数据组成的YCbCr图像帧。彩色图像帧还可包括来自叠层在RGB或YCbCr图像帧上的超光谱曝光帧、荧光曝光帧和/或激光标测曝光帧的数据。超光谱脉冲可以是电磁辐射的发射,其引发来自对象的光谱响应。超光谱曝光帧可包括发射光谱响应的对象的位置的指示。荧光脉冲可以是用于使试剂发荧光的荧光激发波长的电磁辐射。荧光曝光帧可包括场景内的荧光试剂的指示。激光标测脉冲可包括一个或多个脉冲,用于测量场景内的距离或尺寸、跟踪场景中的工具的存在和位置、生成场景的三维拓扑结构图等。脉冲电磁辐射的波长交替允许利用全像素阵列并避免拜耳模式像素阵列引发的伪影。
在一些情况下,希望生成具有彼此叠层的多种数据类型或多个图像的内窥镜成像。例如,可能希望生成彩色(RGB或YCbCr)图像,该图像还包括叠层在彩色图像上的超光谱成像数据、荧光成像数据和/或激光标测成像数据。这种性质的叠层图像可使得执业医生或计算机程序能够识别关键身体结构的高准确度尺寸和三维拓扑结构结构,并且基于激光标测数据在缺光环境内进一步识别工具与其它结构之间的距离。过去,这将需要使用多个传感器系统,包括用于彩色成像的图像传感器和用于超光谱成像、荧光成像或激光标测成像的一个或多个附加图像传感器。在此类系统中,多个图像传感器将具有各自对不同范围的电磁辐射敏感的多种类型的像素传感器。在本领域已知的系统中,这包括用于生成彩色图像的三种单独类型的像素传感器,以及用于生成超光谱数据、荧光数据和激光标测数据的附加传感器和系统。这些多个不同的传感器占用过大物理空间,并且不能位于内窥镜的远侧末端处。在本领域已知的系统中,一个或多个相机不放置在内窥镜的远侧末端处,而是放置在内窥镜手持件或机器人单元中。这引发了许多缺点并且导致内窥镜非常脆弱。当脆弱的内窥镜在使用期间受到碰撞或冲击时,可能损坏内窥镜并降低图像质量。考虑到上述情况,本文公开了用于在缺光环境中进行内窥镜成像的系统、方法和装置。本文所公开的系统、方法和装置提供了在单个成像会话中采用多种成像技术同时允许一个或多个图像传感器设置在内窥镜的远侧末端中的方式。
本文所讨论的荧光成像技术可与一种或多种荧光试剂或染料组合使用。试剂的位置可通过发射引起试剂发荧光的电磁辐射激发波长来识别。由试剂发射的弛豫波长可由图像传感器读取以识别场景内试剂的位置。根据所用试剂的类型,试剂的位置还可指示关键结构(诸如某些类型的组织、癌细胞与非癌细胞等)的位置。
本文所讨论的超光谱成像技术可用于“透视”场景前景中的组织层,以识别特定类型的组织和/或特定的生物过程或化学过程。可在医学环境中使用超光谱成像来定量地跟踪疾病的过程并确定组织病理。另外,可使用超光谱成像来识别关键结构,诸如神经组织、肌肉组织、癌细胞等。在一个实施方案中,电磁辐射的分区被脉冲,并且响应于电磁辐射的分区,收集关于不同类型组织的光谱响应的数据。可生成并分析光谱响应的数据存储,以评估场景并基于感测到的光谱响应来预测场景内存在哪些组织。
可评估本文所讨论的激光标测成像技术,以生成场景的三维景观地图并计算场景内对象之间的距离。激光标测数据可与荧光成像和/或超光谱成像结合使用,以计算关键结构的精确位置和尺寸。例如,可利用荧光和/或超光谱成像来识别关键结构的位置和边界。可随后基于激光标测数据来计算关键结构的位置、关键结构的尺寸以及从关键结构到其它对象的距离的精确测量。
超光谱成像
在一个实施方案中,本文所公开的系统、方法和装置提供了用于在缺光环境中生成超光谱成像数据的装置。光谱成像使用跨电磁光谱的多个频带。这不同于仅捕获跨越基于人眼可分辨的可见光谱的三个波长(包括红色、绿色和蓝色波长)的光以生成RGB图像的常规相机。光谱成像可使用电磁光谱中的任何波长带,包括红外波长、可见光谱、紫外光谱、X射线波长或各种波长带的任何合适的组合。
超光谱成像最初开发用于采矿和地质中的应用。不同于向人眼提供有限信息的正常相机图像,超光谱成像可基于不同矿物质的光谱特征来识别特定矿物质。高光谱成像即便在捕获于航拍图像中时也很有用,并且可提供关于例如来自管道或天然井的油或气泄漏以及它们对附近植被的影响的信息。基于可通过超光谱成像识别的某些材料、对象或过程的光谱特征来收集该信息。
超光谱成像包括光谱和数字摄影。在超光谱成像的一个实施方案中,在图像平面中的每个像素处收集完整光谱或一些光谱信息。超光谱成像的目标可针对不同的应用而变化。在一个应用中,超光谱成像的目标是获得图像场景中每个像素的整个电磁光谱。这可使得能够找到原本在可见光波长带下可能不可识别的某些对象。这可使得能够精确地识别某些物质或组织,虽然这些物质或组织在可见光波长带下可能不可识别。此外,这可使得能够通过跨电磁光谱的所有波长捕获图像来检测某些过程。
在本公开的一个实施方案中,内窥镜系统照明源并脉冲用于光谱或超光谱成像的电磁辐射。光谱成像使用跨电磁光谱的多个频带。这不同于仅捕获跨越基于人眼可分辨的可见光谱的三个波长(包括红色、绿色和蓝色波长)的光以生成RGB图像的常规相机。光谱成像可使用电磁光谱中的任何波长带,包括红外波长、可见光谱、紫外光谱、X射线波长或各种波长带的任何合适的组合。光谱成像可将基于不可见频带(例如红外)生成的成像叠层在基于可见频带(例如标准RGB图像)的成像顶部,以提供可易于由人或计算机算法分辨的附加信息。
与常规成像相比,超光谱成像具有许多优势。通过超光谱成像获得的信息使得执业医生和/或计算机实现的程序能够精确地识别利用RGB成像可能无法识别的某些组织或病症。另外,在医学规程期间可使用超光谱成像来提供图像引导的外科手术,使得执业医生能够例如查看位于某些组织或流体后面的组织,识别与典型健康细胞形成对比的非典型癌细胞,识别某些组织或病症,识别关键结构等。超光谱成像提供不能用常规成像生成的关于组织生理、形态和组成的专用诊断信息。
在医学应用中,超光谱成像可提供优于常规成像的特定优点。通过超光谱成像获得的信息可使得执业医生和/或计算机实现的程序能够精确地识别可能导致在使用常规成像诸如RGB成像的情况下可能不可诊断或可能诊断不太准确的某些组织或病症。另外,在医学规程期间可使用超光谱成像来提供图像引导的外科手术,可使得执业医生能够例如查看位于某些组织或流体后面的组织,识别与典型健康细胞形成对比的非典型癌细胞,识别某些组织或病症,识别关键结构等。超光谱成像可提供不能用常规成像生成的关于组织生理、形态和组成的专用诊断信息。
在本公开的各种应用和具体实施中,内窥镜超光谱成像可呈现优于常规成像的优点。在医学具体实施中,内窥镜超光谱成像可允许执业医生或计算机实现的程序分辨例如神经组织、肌肉组织、各种血管、血流方向等。超光谱成像可使得非典型癌组织能够与典型健康组织精确区分,并且因此可使得执业医生或计算机实施的程序能够在手术或研究成像期间分辨癌性肿瘤的边界。另外,如本文所公开的缺光环境中的超光谱成像可与试剂或染料的使用相结合,以允许进一步区分某些组织或物质。在此类实施方案中,试剂或染料可以电磁光谱中的特定波长带发荧光,从而提供特定于该试剂或染料的目的的信息。本文所公开的系统、方法和装置可使得能够脉冲任何数量的波长带,使得一种或多种试剂或染料可在不同时间发荧光,并且进一步使得可脉冲电磁辐射的一个或多个分区,以用于同一成像会话中的超光谱成像。在某些具体实施中,这使得能够在单个成像规程期间识别或研究多种医学病症。
荧光成像
本文所公开的系统、方法和装置提供了用于在缺光环境中生成荧光成像数据的装置。荧光成像数据可用于识别体腔或其他缺光环境内的某些物质、组织、组分或过程。在某些实施方案中,将荧光成像提供给执业医生或计算机实施的程序以使得能够识别体内的某些结构或组织。此类荧光成像数据可叠层在黑白或RGB图像上以提供附加信息和上下文。
荧光是已吸收光或其它电磁辐射的物质发射的光。当荧光物质经受紫外光或其它波长的电磁辐射时,某些荧光物质可“发光”或发出人眼可见的不同颜色。当辐射源停止时,某些荧光材料将几乎立即停止发光。
当分子、原子或纳米结构的轨道电子被光或其它电磁辐射激发,然后通过从激发态发射光子而弛豫至其基态时,出现荧光。激发轨道电子或在弛豫期间由光子发射的电磁辐射的具体频率取决于具体的原子、分子或纳米结构。在大多数情况下,由该物质发射的光具有比被该物质吸收的辐射更长的波长,并因此具有更低的能量。然而,当所吸收的电磁辐射强烈时,一个电子可以吸收两个光子。这种双光子吸收可导致具有比所吸收的辐射更短的波长并因此具有更高的能量的辐射的发射。另外,所发射的辐射也可具有与所吸收的辐射相同的波长。
荧光成像具有许多实际应用,包括矿物学、地质学、医学、化学传感器的光谱学、检测生物过程或信号等。荧光尤其可用于生物化学和医学中作为用于跟踪或分析生物分子的非破坏性手段。生物分子,包括某些组织或结构,可通过分析生物分子在被某些波长的电磁辐射激发后的荧光发射来跟踪。然而,相对较少的细胞组分是天然荧光的。在某些具体实施中,可视化本质上不发荧光的某些组织、结构、化学过程或生物过程可能是有利的。在此类具体实施中,可向身体施用染料或试剂,该染料或试剂可包括具有荧光特性的分子、蛋白质或量子点。然后,试剂或染料可在被某些波长的电磁辐射激发之后发荧光。不同的试剂或染料可包括将在特定波长的电磁辐射下发荧光的不同的分子、蛋白质和/或量子点。因此,可能需要用特定频带的电磁辐射激发试剂或染料以实现荧光并在体内识别期望的组织、结构或过程。
荧光成像可在医学领域中提供可用于诊断目的和/或可在医学规程期间实时可视化的有价值的信息。可向身体施用特定试剂或染料以使某些组织、结构、化学过程或生物过程发荧光。试剂或染料的荧光可突出显示身体结构,诸如血管、神经、特定器官等。另外,试剂或染料的荧光可突出显示病症或疾病,诸如癌细胞或经历可能与病症或疾病相关联的某些生物或化学过程的细胞。荧光成像可由执业医生或计算机程序实时使用,以用于在外科肿瘤提取期间区分例如癌细胞和非癌细胞。荧光成像还可用作非破坏性手段,以用于随时间推移跟踪和可视化体内原本人眼不可见或在RGB图像中不可辨别的病症。
用于生成荧光成像数据的系统、方法和装置可与试剂或染料配合使用。已知一些试剂或染料附着于某些类型的组织并在电磁光谱的特定波长下发荧光。在一个具体实施中,将试剂或染料施用给患者,该试剂或染料被配置成能够在被某些波长的光激活时发荧光。本文所公开的内窥镜成像系统用于激发试剂或染料并使它们发荧光。通过内窥镜成像系统捕获试剂或染料的荧光,以有助于识别体腔中的组织或结构。在一个具体实施中,向患者施用多种试剂或染料,每种试剂或染料被配置成能够发出不同波长的荧光和/或提供不同结构、组织、化学反应、生物过程等的指示。在此类具体实施中,内窥镜成像系统发射适用波长中的每一者,以使适用试剂或染料中的每一者发荧光。这可消除针对该多种试剂或染料中的每一者执行各个成像规程的需要。
成像试剂可增强制药、医学、生物技术、诊断和医学规程行业中的成像能力。许多成像技术诸如X射线、计算机断层摄影术(CT)、超声、磁共振成像(MRI)和核医学主要分析解剖结构和形态,而不能检测到分子水平的变化。荧光试剂、染料和探针(包括量子点纳米粒子和荧光蛋白)通过提供关于成像区域内存在的某些组织、结构、化学过程和/或生物过程的附加信息来辅助医学成像技术。使用荧光试剂成像实现细胞跟踪和/或某些分子生物标志物的跟踪。荧光试剂可用于对癌症、感染、炎症、干细胞生物学等进行成像。许多荧光试剂和染料正在被开发并且应用于以非破坏性方式可视化和跟踪生物过程。此类荧光试剂可由某些波长或波长带的电磁辐射激发。类似地,这些荧光试剂在发荧光时可发出某些波长或波长带的弛豫能量,并且所发出的弛豫能量可由传感器读取以确定试剂或染料的位置和/或边界。
在本公开的一个实施方案中,内窥镜成像系统脉冲电磁辐射以激发荧光试剂或染料中的电子。内窥镜成像系统可在单个成像会话期间脉冲多个不同波长的电磁辐射以使多种不同试剂或染料发荧光。内窥镜包括对该一种或多种试剂或染料的弛豫波长敏感的图像传感器。由图像传感器生成的成像数据可用于识别该一种或多种试剂或染料的位置和边界。内窥镜系统还可在可见光的红色、绿色和蓝色频带中脉冲电磁辐射,使得荧光成像可叠层在RGB视频流上。
激光标测成像
在一个实施方案中,本文所公开的系统、方法和装置提供了用于利用内窥镜成像系统生成激光标测数据的装置。激光标测数据可用于确定场景的精确测量和地形轮廓。在一个具体实施中,激光标测数据用于确定例如体腔中的结构或器官、体腔中的装置或工具和/或体腔中的关键结构之间的精确测量。如本文所述,术语“激光标测”可涵盖被称为激光标测、激光扫描、拓扑结构扫描、三维扫描、激光跟踪、工具跟踪等的技术。如本文所讨论的激光标测曝光帧可包括场景的拓扑结构数据、场景内对象或结构之间的尺寸、场景内工具或对象的尺寸或距离等。
激光标测通常包括激光器束的受控偏转。在三维对象扫描领域内,激光标测将激光器束的受控转向与激光测距仪组合。通过在每个方向上进行距离测量,激光测距仪可快速捕获对象、工具和全景的表面形状。全三维拓扑结构的构造可包括组合从不同视角获得的多个表面模型。存在于本领域的各种测量系统和方法用于考古学、地理学、大气物理学、自动驾驶车辆等中的应用。一种此类系统包括光检测和测距(LIDAR),该LIDAR是三维激光标测系统。LIDAR已应用于导航系统诸如飞机或卫星中,以确定与其他系统和传感器结合的传感器的位置和取向。LIDAR使用有源传感器来照明对象并且检测从对象反射并回到传感器的能量。
如本文所述,术语“激光标测”包括激光跟踪。激光跟踪或使用激光进行工具跟踪通过确定相对于这些对象保持的光学目标的位置来测量对象。激光跟踪器可在几米的距离内精确到0.025mm量级。在一个实施方案中,内窥镜成像系统脉冲光以与激光跟踪系统结合使用,使得可跟踪和测量场景内的位置或工具。在此类实施方案中,内窥镜成像系统可在由内窥镜成像系统成像的场景内的工具、对象或其他结构上脉冲激光跟踪模式。可将目标放置在场景内的工具、对象或其他结构上。内窥镜成像系统和目标之间的测量可在选定点处触发和获取,使得内窥镜成像系统可跟踪目标(以及附连目标的工具、对象或其他结构)的位置。
脉冲成像
本公开的一些具体实施包括传感器和系统组合设计的各个方面,该设计能够在受限的照明环境中以减少的像素数生成高清晰度图像。这是通过以下来实现的:逐帧地脉冲单色波长,并且使用受控光源结合高帧捕获速率和特别设计的对应单色传感器在单个不同颜色波长之间切换或交替每个帧。另外,可脉冲可见光谱外的电磁辐射以使得能够生成超光谱图像。像素可以是颜色不定的,使得每个像素生成针对每个电磁辐射脉冲的数据,该每个电磁辐射脉冲包括红色、绿色和蓝色可见光波长以及可用于超光谱成像的其他波长的脉冲。
本公开的系统是在缺光环境中使用的内窥镜系统。该系统包括内窥镜,该内窥镜包括图像传感器,其中该图像传感器被配置为感测用于生成多个曝光帧的经反射的电磁辐射,该多个曝光帧可被组合以生成上面叠加有超光谱数据的RGB图像帧。系统包括用于发射电磁辐射脉冲的发射器。系统包括与图像传感器和发射器电通信的控制器(可另选地称为“控制电路”)。控制器响应于对应于发射器的占空比的信号来控制发射器的占空比。图像传感器包括可发送和接收信息的双向焊盘。图像传感器的双向焊盘在帧周期中操作,该帧周期被分成三个限定状态,包括滚动读出状态、服务线状态和配置状态。系统包括设置在控制器中的振荡器和连接到控制器的频率检测器。频率检测器响应于来自控制器的对应于振荡器频率的信号来控制图像传感器的时钟频率。系统使得时钟信号数据在服务线阶段和配置阶段期间从图像传感器的双向焊盘传输到控制器。系统使得曝光帧在不使用输入时钟或数据传输时钟的情况下同步。
为了促进对根据本公开的原理的理解的目的,现在将参考附图中所示的实施方案,并且将使用特定的语言来描述这些实施方案。然而,应当理解,因此并不旨在限制本公开的范围。本文所示的本发明特征的任何改变和进一步修改,以及如本文所示的本公开的原理的任何附加的应用(其对于相关领域的技术人员和了解本公开内容的人通常将会发生)将被认为在受权利要求书保护的公开的范围内。
在公开和描述用于在缺光环境中产生图像的结构、系统和方法之前,应当理解,本公开不限于本文所公开的特定结构、配置、工艺步骤和材料,因为此类结构、配置、工艺步骤和材料可一定程度地变化。另外应当理解,本文所用的术语只是为了描述具体实施方案的目的,并不旨在进行限制,因为本发明的范围将仅由所附权利要求书及其等同形式来限定。
在描述及对本公开的主题提出权利要求时,将根据下列定义使用以下术语。
应当指出的是,如本说明书和所附权利要求书中使用的单数形式“一种”、“一个”和“该”包括多个指代物,除非上下文中明确表示其它含义。
如本文所用,术语“包括”、“包含”、“其特征在于”以及它们的语法同等成分是非遍举的或开放式的术语,不排除额外的、未述及的要素或方法步骤。
如本文所用,短语“由……组成”及其语法同等成分排除未载入权利要求书的任何要素或步骤。
如本文所用,短语“主要由……组成”及其语法同等成分将权利要求的范围限制于规定的材料或步骤以及本质上不影响被要求保护的本公开的之一种或多种基本及新颖特征的材料或步骤。
如本文所用,术语“近侧”广义上是指靠近起始点的部分的概念。
如本文所用,术语“远侧”一般是指与近侧相反,因此根据上下文其是指距离起始点较远的部分或最远的部分的概念。
如本文所用,颜色传感器或多光谱传感器是那些已知具有颜色滤光器阵列(CFA)的传感器,在其上以便将入射电磁辐射过滤为其单个分量。在电磁光谱的可见范围中,此类CFA可以基于拜尔模板或其修改形式,以便分离光线中的绿色、红色和蓝色光谱分量。
如本文所用,单色传感器是指无过滤功能的成像传感器。因为像素是颜色不定的,所以其有效空间分辨率明显高于传统单传感器相机中的像素颜色(通常采用拜耳模式过滤)对等物。单色传感器还可具有更高的量子效率,因为单个像素之间浪费的入射光子更少。
如本文所用,发射器是能够生成和发射电磁脉冲的装置。发射器的各种实施方案可被配置成能够发射脉冲并且具有来自整个电磁光谱内的非常特定的频率或频率范围。脉冲可包括可见范围和不可见范围的波长。发射器可循环打开和关闭以产生脉冲,或者可产生具有快门机构的脉冲。发射器可具有可变功率输出电平,或者可用辅助装置诸如光圈或滤光器来控制。发射器可发射可通过颜色滤光或快门开闭产生脉冲的宽光谱或全光谱电磁辐射。发射器可包括单独或协同起作用的多个电磁源。
应当指出,如本文所用,术语“光”既是粒子又是波长,并且旨在表示可被像素阵列122检测的电磁辐射,并且可包括来自电磁辐射的可见光谱和不可见光谱的波长。本文所用的术语“分区”是指电磁光谱的预定波长范围,其小于整个光谱,或者换句话讲,构成电磁光谱的某一部分的波长。如本文所用,发射器是关于所发射的电磁光谱的一部分可控制的光源,或是可操作其部件的物理性质、发射强度或发射持续时间或以上所有的光源。发射器可发射任何抖动的、漫射的或准直的发射中的光,并且可通过数字方式或通过模拟方法或系统来进行控制。如本文所用,电磁发射器是电磁能量爆发源,并且其包括光源,诸如激光、LED、白炽光、或可进行数字控制的任何光源。
现在参见附图,图1示出了用于在缺光环境中进行顺序脉冲成像的系统100的示意图。系统100可被部署成生成其上叠层有专用数据的RGB图像。系统100包括发射器102和像素阵列122。发射器102在缺光环境112中脉冲电磁辐射的分区,并且像素阵列122感测经反射的电磁辐射的实例。发射器102和像素阵列122依次工作,使得电磁辐射的分区的一个或多个脉冲产生由像素阵列122感测的图像数据。
应当指出,如本文所用,术语“光”既是粒子又是波长,并且旨在表示可被像素阵列122检测的电磁辐射,并且可包括来自电磁辐射的可见光谱和不可见光谱的波长。本文所用的术语“分区”是指电磁光谱的预定波长范围,其小于整个光谱,或者换句话讲,构成电磁光谱的某一部分的波长。如本文所用,发射器是关于所发射的电磁光谱的一部分可控制的光源,或是可操作其部件的物理性质、发射强度或发射持续时间或以上所有的光源。发射器可发射任何抖动的、漫射的或准直的发射中的光,并且可通过数字方式或通过模拟方法或系统来进行控制。如本文所用,电磁发射器是电磁能量爆发源,并且其包括光源,诸如激光、LED、白炽光、或可进行数字控制的任何光源。
图像传感器的像素阵列122可与发射器102以电子方式配对,使得发射器102和像素阵列122在操作期间被同步用于接收发射和系统内所进行的调节两者。发射器102可被调谐成发射激光形式的电磁辐射,该电磁辐射可被脉冲以照明缺光环境112。发射器102可对应于像素阵列122的操作和功能的间隔脉冲。发射器102可脉冲多个电磁分区中的光,使得像素阵列接收电磁能量并产生与每个特定电磁分区在时间上对应的数据集。例如,图1示出了具体实施,其中发射器102发射电磁辐射的四个不同分区,包括红色104波长、绿色106波长、蓝色108波长和特殊110发射。专用110发射可包括用于使试剂发荧光的激发波长、电磁辐射的超光谱分区和/或激光标测模式。特殊110发射可包括彼此分开且独立的多个单独发射。专用110发射可包括用于使试剂发荧光的激发波长和激光标测模式的组合,其中发射彼此分开且彼此独立。可一前一后地分析由单独发射产生的数据,以基于荧光成像数据来识别场景内的关键结构,并且还基于激光标测数据与荧光成像数据的组合来识别关键结构的尺寸或定位。专用110发射可包括超光谱带的电磁辐射和激光标测模式的组合,其中发射彼此分开且彼此独立。可一前一后地分析由单独发射产生的数据,以基于超光谱成像数据来识别场景内的关键结构,并且还基于激光标测数据与超光谱成像数据的组合来识别关键结构的尺寸或定位。在一个实施方案中,特殊110发射包括可与由脉冲红色104、脉冲绿色106和脉冲蓝色108发射产生的数据组合的发射的任何期望的组合。专用110发射可分散在脉冲模式内,使得不同类型的专用110发射的脉冲不如脉冲红色104发射、脉冲绿色106发射和脉冲蓝色108发射的脉冲频繁。
在图1中未示出的另选实施方案中,光的脉冲发射包括亮度(“Y”)发射、红色色度(“Cr”)发射和蓝色色度(“Cb”)发射,而不是脉冲红色104发射、脉冲绿色106发射和脉冲蓝色108发射。在一个实施方案中,控制器或发射器102根据颜色变换系数来调制电磁辐射脉冲以提供亮度和/或色度信息,该颜色变换系数将光能从红色光能空间、绿色光能空间和蓝色光能空间转换到亮度光能空间、红色色度光能空间和蓝色色度光能空间。光的脉冲发射还可包括调制蓝色色度(λ“Y+Cb”)脉冲和/或调制红色色度(“δY+Cr”)脉冲。
缺光环境112包括反射红色114、绿色116和/或蓝色118光的组合的结构、组织和其他要素。被感知为红色114的结构将反射脉冲红色104光。来自红色结构的反射导致在脉冲红色104发射之后,像素阵列122感测到红色105。由像素阵列122感测到的数据产生红色曝光帧。被感知为绿色116的结构将反射脉冲绿色106光。来自绿色结构的反射导致在脉冲绿色106发射之后,像素阵列122感测到绿色107。由像素阵列122感测到的数据产生绿色曝光帧。被感知为蓝色118的结构将反射脉冲蓝色108光。来自蓝色结构的反射导致在脉冲蓝色108发射之后,像素阵列122感测到蓝色109。由像素阵列122感测到的数据产生蓝色曝光帧。
当结构为颜色的组合时,结构将反射脉冲红色104发射、脉冲绿色106发射和/或脉冲蓝色108发射的组合。例如,被感知为紫色的结构将反射来自脉冲红色104发射和脉冲蓝色108发射的光。由像素阵列122感测到的所得数据将指示光在脉冲红色104发射和脉冲蓝色108发射之后的相同区域中被反射。当所得红色曝光帧和蓝色曝光帧组合形成RGB图像帧时,RGB图像帧将指示结构是紫色的。
在其中缺光环境112包括荧光试剂或荧光染料或者包括一个或多个荧光结构、组织或其它元件的实施方案中,脉冲方案可包括某些荧光激发波长的发射。可选择某些荧光激发波长以使已知的荧光试剂、荧光染料或其它结构发荧光。荧光结构将对荧光激发波长敏感并且将发射荧光弛豫波长。在发射荧光激发波长之后,荧光弛豫波长将由像素阵列122感测到。由像素阵列122感测到的数据产生荧光曝光帧。荧光曝光帧可与多个其它曝光帧组合以形成图像帧。荧光曝光帧中的数据可叠层在包括来自红色曝光帧、绿色曝光帧和蓝色曝光帧的数据的RGB图像帧上。
在其中缺光环境112包括对电磁光谱的某些分区发射光谱响应的结构、组织或其它材料的实施方案中,脉冲方案可包括电磁辐射的超光谱分区的发射,用于引发来自存在于缺光环境112中的结构、组织或其它材料的光谱响应。光谱响应包括某些波长的电磁辐射的发射或反射。光谱响应可由像素阵列122感测并产生超光谱曝光帧。超光谱曝光帧可与多个其它曝光帧组合以形成图像帧。超光谱曝光帧中的数据可叠层在包括来自红色曝光帧、绿色曝光帧和蓝色曝光帧的数据的RGB图像帧上。
在一个实施方案中,脉冲方案包括激光标测模式或工具跟踪模式的发射。在发射激光标测模式或工具跟踪模式之后,由像素阵列122感测到的经反射的电磁辐射产生激光标测曝光帧。可将激光标测曝光帧中的数据提供给对应的系统,以识别例如在缺光环境112中存在的工具之间的距离、缺光环境112中场景的三维表面拓扑结构、场景内结构或对象的距离、尺寸或位置等。该数据可叠层在RGB图像帧上或以其它方式提供给系统的用户。
发射器102可以是激光发射器,该激光发射器能够发射脉冲红色104光,以用于生成感测红色105数据,从而识别缺光环境112内的红色114要素。发射器102还能够发射脉冲绿色106光,以用于生成感测绿色107数据,从而识别缺光环境内的绿色116要素。发射器102还能够发射脉冲蓝色108光,以用于生成感测蓝色109数据,从而识别缺光环境内的蓝色118要素。发射器102还能够发射特殊110发射,以用于标测缺光环境112内的场景的拓扑结构120。发射器102能够以任何期望的顺序发射脉冲红色104、脉冲绿色106、脉冲蓝色108和脉冲特殊110发射。
像素阵列122感测经反射的电磁辐射。感测红色105、感测绿色107、感测蓝色109和感测特殊111数据中的每一者可被称为“曝光帧”。感测特殊111可导致彼此分开且独立的多个单独曝光帧。例如,感测到的专用111可产生荧光曝光帧、超光谱曝光帧和/或包括激光标测数据的激光标测曝光帧。为每个曝光帧分配特定颜色或波长分区,其中该分配基于来自发射器102的脉冲颜色或波长分区的定时。曝光帧与所分配的特定颜色或波长分区的组合可被称为数据集。即使像素122不是专用颜色,也可基于关于发射器的先验信息为任何给定数据集分配颜色。
例如,在操作期间,在脉冲红色104光在缺光环境112中被脉冲之后,像素阵列122感测经反射的电磁辐射。经反射的电磁辐射产生曝光帧,并且曝光帧被归类为感测红色105数据,因为它在时间上与脉冲红色104光对应。曝光帧连同其在时间上与脉冲红色104光对应的指示是“数据集”。对于由发射器102发射的电磁辐射的每个分区,重复该过程。由像素阵列122创建的数据包括感测红色105曝光帧,该感测红色曝光帧识别缺光环境中的红色114分量并且在时间上与脉冲红色104光对应。该数据还包括感测绿色107曝光帧,该感测绿色曝光帧识别缺光环境中的绿色116分量并且在时间上与脉冲绿色106光对应。该数据还包括感测蓝色109曝光帧,该感测蓝色曝光帧识别缺光环境中的蓝色118分量并且在时间上与脉冲蓝色108光对应。该数据还包括感测特殊111曝光帧,该感测特殊曝光帧识别拓扑结构120并且在时间上与特殊110发射对应。
在一个实施方案中,将代表红色、绿色和蓝色电磁脉冲的三个数据集组合以形成单个图像帧。因此,将红色曝光帧、绿色曝光帧和蓝色曝光帧中的信息组合以形成单个RGB图像帧。表示其他波长分区的一个或多个另外的数据集可叠层在单个RGB图像帧上。一个或多个附加数据集可表示例如激光标测数据、荧光成像数据和/或超光谱成像数据。
应当理解,在不脱离本公开的范围的情况下,本公开不限于任何特定的颜色组合或任何特定的电磁分区,并且任何颜色组合或任何电磁分区均可用于代替RED、GREEN和BLUE,诸如青色、洋红色和黄色;紫外;红外;前述的任何组合或任何其它颜色组合,包括所有可见波长和不可见波长。在图中,待成像的缺光环境112包括红色114部分、绿色116部分和蓝色118部分,并且还包括可被感测并标测到三维渲染中的拓扑结构120。如图所示,来自电磁脉冲的反射光仅包含对象的具有对应于脉冲颜色分区的特定颜色的部分的数据。这些单独的颜色(或颜色间隔)数据集然后可用于通过在126处组合数据集来重建图像。该多个曝光帧(即,该多个数据集)中的每一者中的信息可由控制器124、控制单元、相机控制单元、图像传感器、图像信号处理流水线或一些可被配置成能够在126处处理该多个曝光帧并组合数据集的其他计算资源组合。可将该数据集组合以在内窥镜单元自身内或由一些其他处理资源在场外生成单个图像帧。
图2是用于向诸如用于内窥镜成像的缺光环境提供照明的系统200。系统200可与本文所公开的系统、方法或装置中的任一者结合使用。系统200包括发射器202、控制器204、跳线波导206、波导连接器208、内腔波导210、内腔212和具有附带的光学部件(诸如透镜)的图像传感器214。发射器202(通常可被称为“光源”)生成穿过跳线波导206和内腔波导210的光以照明内腔212的远侧端部处的场景。发射器202可用于发射任何波长的电磁能量,包括可见波长、红外波长、紫外波长、超光谱波长、荧光激励波长或其它波长。可将内腔212插入患者体内以进行成像,诸如在手术或检查期间。如虚线216所示输出光。可使用图像传感器214捕获由光照明的场景并且向医生或一些其他医学人员显示该场景。控制器204可向发射器202提供控制信号以控制何时向一个场景提供照明。在一个实施方案中,发射器202和控制器204位于内窥镜所连接的相机控制单元(CCU)或外部控制台内。如果图像传感器214包括CMOS传感器,则可在所谓的消隐期间以图像传感器214的读出周期之间的一系列照明脉冲周期性地向场景提供光。因此,光可以受控方式被脉冲,以避免重叠到图像传感器214的像素阵列中的图像像素的读出周期中。
在一个实施方案中,内腔波导210包括一根或多根光纤。这些光纤可由低成本材料(诸如塑料)制成,以允许内腔波导210和/或内窥镜的其他部分的处理。在一个实施方案中,内腔波导210是直径为500微米的单根玻璃纤维。跳线波导206可永久性地附接到发射器202。例如,跳线波导206可从发射器202内的发射器接收光,并且在连接器208的位置处向内腔波导210提供光。在一个实施方案中,跳线波导106包括一根或多根玻璃光纤。跳线波导可包括用于将光引导至内腔波导210的任何其他类型的波导。连接器208可将跳线波导206选择性地耦接到内腔波导210,并且允许跳线波导206内的光通过内腔波导210。在一个实施方案中,内腔波导210直接被耦接到光源,而无需任何居间跳线波导206。
图像传感器214包括像素阵列。在一个实施方案中,图像传感器214包括用于生成三维图像的两个或更多个像素阵列。图像传感器214可构成另外两个图像传感器,每个图像传感器具有独立的像素阵列并且可彼此独立地操作。图像传感器214的像素阵列包括有效像素和光学黑色(“OB”)像素或光盲像素。有效像素可以是能够感测任何波长的电磁辐射的成像数据的透明“颜色不定”像素。当像素阵列被“重置”或校准时,在像素阵列的消隐周期期间读取光学黑色像素。在一个实施方案中,当读取光学黑色像素时,光在像素阵列的消隐周期期间脉冲。在已读取光学黑色像素之后,在像素阵列的读出周期期间读取有效像素。有效像素可由在消隐周期期间脉冲的电磁辐射充电,使得有效像素准备好在像素阵列的读出周期期间由图像传感器读取。
图2A是互补系统硬件诸如专用或通用计算机的示意图。处于本公开的范围内的实施方式也可包括用于承载或存储计算机可执行指令和/或数据结构的物理及其他非暂态计算机可读介质。此类计算机可读介质可为可通过通用或专用计算机系统访问的任何可用介质。存储计算机可执行指令的计算机可读介质为计算机存储介质(装置)。承载计算机可执行指令的计算机可读介质为传输介质。因此,以举例而非限制性的方式,本公开的具体实施可包括至少两种明显不同种类的计算机可读介质:计算机存储介质(装置)和传输介质。
计算机存储介质(装置)包括RAM、ROM、EEPROM、CD-ROM、固态硬盘(“SSD”)(例如,基于RAM)、闪存存储器、相变存储器(“PCM”)、其他类型的存储器、其他光盘存储器、磁盘存储器或其他磁存储器装置、或任何其他可用于存储期望的呈计算机可执行指令或数据结构的形式的程序代码工具并可通过通用或专用计算机来访问的介质。
“网络”是指一个或多个数据链路,其能够使电子数据在计算机系统和/或模块和/或其它电子装置之间进行传输。在一个具体实施中,传感器与相机控制单元可网络化,以便彼此通信,以及与通过它们所连接网络进行连接的其它部件进行通信。当信息通过网络或另外的通信连接(硬连接、无线或者硬连接或无线的组合)传送或提供至计算机时,计算机合理地将该连接视作传输介质。传输介质可包括网络和/或数据链路,该网络和/或数据链路可用于承载期望的呈计算机可执行指令或数据结构的形式的程序代码工具并可通过通用或专用计算机来访问。上述组合也应涵盖在计算机可读介质的范围内。
另外,在到达各种计算机系统部件时,呈计算机可执行指令或数据结构的形式的程序代码工具,其可由传输介质自动传送至计算机存储介质(装置)(反之亦然)。例如,通过网络或数据链路接收的计算机可执行指令或数据结构可缓存于网络接口模块(例如,“NIC”)内的RAM中,然后最终传送至计算机系统RAM和/或计算机系统的非易失性计算机存储介质(装置)中。RAM还可包括固态硬盘(SSD或基于PCIx的实时存储器分层存储装置,诸如FusionIO)。因此,应当理解,计算机存储介质(装置)可包括在计算机系统部件中,该计算机系统部件还(或甚至主要)利用了传输介质。
计算机可执行指令包括(例如)当由一个或多个处理器执行时致使通用计算机、专用计算机或专用处理装置执行某些功能或功能群的指令和数据。计算机可执行指令可为(例如)二进制、中间格式指令(诸如汇编语言)、或者甚至为源代码。尽管在语言上针对结构特征和/或方法步骤阐述了本发明的主题,然而应当理解,随附权利要求书中所限定的主题未必仅限于上文所述的特征或步骤。更确切地说,上文所述的特征和步骤是作为实施权利要求书的例子形式而公开的。
本领域的技术人员应当理解,本公开可在网络计算环境中实现,该网络计算环境具有多种类型的计算机系统配置,包括个人电脑、台式计算机、笔记本电脑、信息处理器、控制单元、相机控制单元、手持设备、手持件、多处理器系统、基于微处理器的或可编程的电子消费品、网络PC、小型计算机、大型计算机、移动电话、PDA、平板电脑、传呼机、路由器、交换机、各种存储设备等等。应当指出的是,任意上述计算设备都可由实体机构提供或位于实体机构内。本公开也可在分布式系统环境中实现,其中本地和远程计算机系统通过网络连接起来(通过硬连接数据链路、无线数据链路或硬连接数据链路与无线数据链路的组合),两者均可执行任务。在分布式系统环境中,程序模块可位于本地和远程存储器存储装置二者中。
另外,在适当的情况下,本文所述的功能可通过硬件、软件、固件、数字部件或模拟部件中的一种或多种来执行。例如,可对一种或多种专用集成电路(ASIC)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。在整个下面的描述和权利要求中所用的某些术语是指特定的系统部件。本领域的技术人员应当理解,部件可具有不同的名称。本文并非旨在在名称上而非功能上不同的部件之间进行辨别。
图2A是示出了示例性计算装置250的框图。计算装置250可用于执行各种程序,诸如本文所讨论的那些程序。计算装置250可用作服务器、客户端或任意其他计算实体。计算装置250可执行本文所讨论的各种监控功能,并且可执行一种或多种应用程序,诸如本文所述的应用程序。计算装置250可以是各种计算装置中的任一种,诸如台式计算机、笔记本电脑、服务器电脑、掌上电脑、相机控制单元、平板电脑等。
计算装置250包括一个或多个处理器252、一个或多个存储器装置254、一个或多个接口256、一个或多个大容量存储装置258、一个或多个输入/输出(I/O)装置260以及显示装置280,所有器件均耦接到总线262。处理器252包括一个或多个处理器或控制器,其执行存储于存储器装置254和/或大容量存储装置258中的指令。处理器252还可以包括各种类型的计算机可读介质,诸如高速缓存存储器。
存储器装置254包括各种计算机可读介质,诸如易失性存储器(例如,随机存取存储器(RAM)264)和/或非易失性存储器(例如,只读存储器(ROM)266)。存储器装置254还可包括可重写ROM,诸如闪存存储器。
大容量存储装置258包括各种计算机可读介质,诸如磁带、磁盘、光盘、固态存储器(例如,闪存存储器)等。如图2中所示,特定的大容量存储装置为硬盘驱动器274。各种驱动器也可包括于大容量存储装置258中以能够从各种计算机可读介质中进行读取和/或写入。大容量存储装置258包括可移动介质276和/或不可移动介质。
I/O装置260包括能够向计算装置250输入或从计算装置检索数据和/或其他信息的各种装置。示例性I/O装置260包括数字成像装置、电磁传感器和发射器、光标控制装置、键盘、小键盘、麦克风、监视器或其他显示装置、扬声器、打印机、网络接口卡、调制解调器、透镜、CCD或其他图像捕获装置等。
显示装置280包括能够向计算装置250的一个或多个用户显示信息的任何类型的装置。显示装置280的示例包括监视器、显示终端、视频投影装置等。
接口256包括能够使计算装置250与其他系统、装置或计算环境进行交互的各种接口。示例性接口256可包括任何数量的不同网络接口270,诸如连接局域网(LAN)、广域网(WAN)、无线网和因特网的接口。其他接口包括用户接口268和外围装置接口272。接口256还可包括一个或多个用户接口元件268。接口256还可包括一个或多个外围接口,诸如用于打印机、指示装置(鼠标、触控板等)、键盘等的接口。
总线262使处理器252、存储器装置254、接口256、大容量存储装置258和I/O装置260能够彼此通信,并与耦接到总线262的其他装置或部件进行通信。总线262表示若干类型的总线结构(诸如系统总线、PCI总线、IEEE1394总线、USB总线等)中的一种或多种。
出于示例性目的,本文所示的程序和其他可执行程序器件为分立块体,但应当理解,此类程序和器件可驻留在计算装置250的不同存储器件中的各个时间,并由处理器252执行。或者,本文所述的系统和程序可通过硬件来实现,或通过硬件、软件和/或固件的组合来实现。例如,可对一种或多种专用集成电路(ASIC)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。
图3A示出了在滚动读出模式或在传感器读出300期间使用的传感器的操作循环。帧读出可在竖直线310处开始并且可由该竖直线表示。读出周期由对角线或斜线302表示。图像传感器的像素阵列的有效像素可逐行读出,向下倾斜边缘的顶部为传感器顶行312,向下倾斜边缘的底部为传感器底行314。在最后一行读出和下一读出循环之间的时间可被称为消隐周期316。应当指出,传感器像素行中的一些可覆盖有光屏蔽件(例如,金属涂层或另一种材料类型的任何其它大体上黑色的层)。这些被覆盖的像素行可被称为光学黑色行318和320。光学黑色行318和320可用作校正算法的输入。如图3A所示,这些光学黑色行318和320可位于像素阵列的顶部上或像素阵列的底部或像素阵列的顶部和底部。
图3B示出了控制曝光至像素从而被像素集成或聚积的电磁辐射(例如,光)的量的方法。应当理解,光子是电磁辐射的基本粒子。光子被每个像素集成、吸收或累积并转换为电荷或电流。电子快门或卷帘式快门(虚线322所示)可用于通过复位像素来开始集成时间。然后光将集成直到下一读出阶段为止。电子快门322的位置可在两个读出循环302之间移动,以便控制给定量的光的像素饱和度。应当指出,该技术允许在两个不同行之间的集成时间恒定,但在从顶行移动到底行时引入延迟。
图3C示出了电子快门322已被移除的情况。在该配置中,入射光的集成可在读出302期间开始,并且可在下一读出循环302处结束,该下一读出循环也限定下一集成的开始。
图3D示出了没有电子快门322但在消隐周期316期间具有受控和脉冲光330的配置。这确保所有行看到的光与从相同光脉冲330发出的光相同。换句话讲,每行将在黑暗环境中开始其集成,这可位于读出帧(m)的光学黑色后行320以获得最大的光脉冲宽度,并且然后将接收光通并且将在黑暗环境中结束其集成,这可位于下一后续读出帧(m+1)的光学黑色前行318以获得最大的光脉冲宽度。在例如图3D中,由光脉冲生成的图像将仅在帧(m+1)读出期间可用,而不会干扰帧(m)和帧(m+2)。应当指出,使光脉冲仅在一个帧中读出并且不干扰相邻帧的条件是在消隐周期316期间击发给定的光脉冲。因为光学黑色行318、320对光不敏感,所以可将帧(m)的光学黑色后行320时间和帧(m+1)的光学黑色前行318时间添加至消隐周期316,以确定光脉冲330的击发时间的最大范围。
如图3A所示,传感器可循环多次以接收每种脉冲颜色或波长(例如,电磁光谱上的红色、绿色、蓝色或其他波长)的数据。每个循环可以是定时的。在一个实施方案中,循环可定时以在16.67ms的间隔内操作。在另一个实施方案中,循环可定时以在8.3ms的间隔内操作。应当理解,本公开设想了其它的定时间隔,并且旨在落入本公开的范围内。
图4A以图形方式示出了电磁发射器的实施方案的操作。发射器可定时以对应于传感器的循环,使得电磁辐射在传感器操作循环内和/或传感器操作循环的一部分期间发射。图4A示出了402处的脉冲1、404处的脉冲2和406处的脉冲3。在一个实施方案中,发射器可在传感器操作循环的读出周期302期间脉冲。在一个实施方案中,发射器可在传感器操作循环的消隐部分316期间脉冲。在一个实施方案中,发射器可脉冲持续时间,该持续时间在两个或更多个传感器操作循环的部分期间。在一个实施方案中,发射器可在消隐部分316期间或在读出周期302的光学黑色部分320期间开始脉冲,并且在读出周期302期间或下一后续循环的读出周期302的光学黑色部分318期间结束脉冲。应当理解,只要发射器的脉冲和传感器的循环相对应,上述的任何组合旨在落入本公开的范围内。
图4B以图形方式表示改变发射的电磁脉冲(例如,在412处的脉冲1、在414处的脉冲2、在416处的脉冲3)的持续时间和量值以控制曝光。具有固定输出量值的发射器可在上文结合图3D和图4A所述的任何循环期间脉冲一定间隔,以向像素阵列提供所需的电磁能量。具有固定输出量值的发射器可在较长的时间间隔内脉冲,从而为像素提供更多的电磁能量,或者发射器可在较短的时间间隔脉冲,从而提供较少的电磁能量。是否需要较长或较短的时间间隔取决于操作条件。
与调节发射器脉冲固定输出量值的时间间隔相比,可增大发射量值本身以便向像素提供更多的电磁能量。类似地,减小脉冲的量值可为像素提供较少的电磁能量。应当指出,如果需要的话,系统的实施方案可具有同时调节量值和持续时间的能力。另外,可调节传感器以根据最佳图像质量的需要来增加其灵敏度和持续时间。图4B示出了改变脉冲的量值和持续时间。在图示中,412处的脉冲1具有比414处的脉冲2或416处的脉冲3更高的量值或强度。另外,412处的脉冲1具有比在414处的脉冲2或416处的脉冲3更短的持续时间,使得由该脉冲提供的电磁能量由图示中所示脉冲下的面积示出。在图示中,当与412处的脉冲1或416处的脉冲3相比时,414处的脉冲2具有相对低的量值或强度和较长的持续时间。最后,在图示中,当与412处的脉冲1和414处的脉冲2相比时,416处的脉冲3具有中间量值或强度和持续时间。
图5为根据本公开的原理和教导内容的组合图3A至图3D和图4A的操作循环、电磁发射器和发射的电磁脉冲以在操作期间显示成像系统的本公开的实施方案的图形表示。如在图中可见,电磁发射器主要在图像传感器的消隐周期316期间脉冲发射,使得像素将被充电并且准备好在图像传感器循环的读出周期302期间被读取。图5中的点划线表示电磁辐射脉冲(来自图4A)。电磁辐射脉冲主要在图像传感器的消隐周期316期间发射,但可与图像传感器的读出周期302叠层。
曝光帧包括在读出周期302期间由图像传感器的像素阵列读取的数据。曝光帧可与在读出周期302之前由发射器发射的脉冲的类型的指示组合。曝光帧和脉冲类型的指示的组合可被称为数据集。可组合多个曝光帧以生成黑白或RGB彩色图像。另外,超光谱、荧光和/或激光标测成像数据可叠层在黑白或RGB图像上。
在一个实施方案中,RGB图像帧基于三个曝光帧生成,包括由图像传感器在红光发射之后生成的红色曝光帧、由图像传感器在绿光发射之后生成的绿色曝光帧以及由图像传感器在蓝光发射之后生成的蓝色曝光帧。荧光成像数据可叠层在RGB图像帧上。荧光成像数据可提取自一个或多个荧光曝光帧。荧光曝光帧包括在发射用于激发荧光试剂的激发波长的电磁辐射之后的读出周期302期间由图像传感器生成的数据。在激发荧光试剂之后由像素阵列感测到的数据可为由荧光试剂发射的弛豫波长。荧光曝光帧可包括多个荧光曝光帧,每个荧光曝光帧在不同类型的荧光激发发射之后由图像传感器生成。在一个实施方案中,荧光曝光帧包括多个荧光曝光帧,包括在发射具有约770nm至约790nm的波长的电磁辐射之后由图像传感器生成的第一荧光曝光帧,以及在发射具有约795nm至约815nm的波长的电磁辐射之后由图像传感器生成的第二荧光曝光帧。荧光曝光帧可包括由图像传感器基于成像应用根据需要在光的其它荧光激发发射之后生成的另外的附加荧光曝光帧。
在一个实施方案中,曝光帧是在消隐周期316之后发生的读出周期302期间由像素阵列感测的数据。电磁辐射的发射在消隐周期316期间发射。在一个实施方案中,电磁辐射的发射的一部分与读出周期316重叠。消隐周期316在像素阵列的光学黑色像素正被读取时发生,并且读出周期302在像素阵列的有效像素正被读取时发生。消隐周期316可与读出周期302重叠。
图6A和图6B示出了用于记录图像帧的过程。可将多个图像帧串在一起以生成视频流。单个图像帧可包括来自多个曝光帧的数据,其中曝光帧是在发射电磁辐射之后由像素阵列感测到的数据。图6A示出了通常利用彩色图像传感器实现的常规过程,该彩色图像传感器具有滤色器阵列(CFA)以用于每个像素滤除某些波长的光。图6B是本文所公开的过程,并且可利用接收所有波长的电磁辐射的单色“颜色不定”图像传感器来实现。
图6A所示的过程从时间t(0)到时间t(1)发生。该过程从白光发射602开始并感测白光604。在606处,基于604处的感测来处理并显示图像。
图6B所示的过程从时间t(0)到时间t(1)发生。该过程从发射绿光612开始,并且在发射绿光612之后感测经反射的电磁辐射614。该过程继续发射红光616,并且在发射红光616之后感测经反射的电磁辐射618。该过程继续发射蓝光620,并且在发射蓝光620之后感测经反射的电磁辐射622。该过程继续进行特殊624发射的一次或多次发射,并且在特殊624发射的该一次或多次发射中的每一者之后感测经反射的电磁能量626。专用发射可包括一个或多个单独的发射,诸如荧光试剂的激发波长、超光谱发射和/或激光标测发射。单独的多个专用发射中的每一个发射可由图像传感器独立地感测,以生成单独且独立的曝光帧。在628处基于感测的经反射的电磁能量实例614、618、622和626中的每一者来处理和显示图像。
图6B所示的过程提供较高分辨率图像并提供用于还包括专用数据的生成RGB图像的方式。当使用分区光谱时(如图6B所示),可使传感器对所有波长的电磁能量敏感。在图6B所示的过程中,指示单色像素阵列在每个循环中感测来自电磁能量全光谱的预先确定的分区的电磁能量。因此,为了形成图像,传感器仅需用来自全光谱内的多个不同分区进行循环。基于该多个循环来组装最终图像。因为来自每个颜色分区帧循环的图像具有更高的分辨率(与CFA像素阵列相比),所以当将分区光帧组合时创建的所得图像也具有更高的分辨率。换句话讲,因为阵列内的每个像素(而不是至多,具有CFA的传感器中的每隔一个像素)感测给定脉冲和给定场景的能量的幅值,仅相隔一段时间,所以针对每个场景产生较高分辨率的图像。
如在图6A和图6B中所示的实施方案中在时间t(0)和t(1)之间可图形地看出,用于图6B中的分区光谱系统的传感器对图6A中的全光谱系统中的每个循环了至少四次。在一个实施方案中,显示装置(LCD面板)以每秒50帧至60帧的速度工作。在此类实施方案中,图6B中的分区光系统可以每秒200帧至240帧的速度操作,以保持所显示视频的连续性和平滑性。在其它实施方案中,可存在不同的捕获和显示帧速率。此外,平均捕获速率可以是显示速率的任何倍数。
在一个实施方案中,可能期望并非所有分区在系统帧速率内均相等地表示。换句话讲,并非所有光源都必须以相同的规律性脉冲,以便根据用户的需要来强调和取消强调所记录场景的各个方面。还应当理解,电磁频谱的不可见分区和可见分区可在系统内脉冲到一起,其中它们的相应数据值被接合(stitch)到视频输出中,以用于向用户显示。
示例性实施方案可包括如下脉冲循环模式:
i.绿色脉冲;
ii.红色脉冲;
iii.蓝色脉冲;
iv.绿色脉冲;
v.红色脉冲;
vi.蓝色脉冲;
vii.激光标测脉冲方案;
viii.荧光激发脉冲;
ix.超光谱脉冲;
x.(重复)
另外的示例性实施方案可包括如下脉冲循环模式:i.绿色脉冲;
ii.红色脉冲;
iii.蓝色脉冲;
iv.荧光激发脉冲;
v.超光谱脉冲;
vi.绿色脉冲;
vii.红色脉冲;
viii.蓝色脉冲;
ix.荧光激发脉冲;
x.超光谱脉冲;
xi.激光标测脉冲方案;
xii.(重复)
实施方案可包括如下脉冲循环模式:i.亮度脉冲;
ii.红色色度脉冲;
iii.亮度脉冲;
iv.蓝色色度脉冲;
v.超光谱脉冲;
vi.荧光激发脉冲;
vii.激光标测脉冲;
viii.(重复)
实施方案可包括如下脉冲循环模式:i.亮度脉冲;
ii.红色色度脉冲;
iii.亮度脉冲;
iv.蓝色色度脉冲;
v.亮度脉冲;
vi.红色色度脉冲;
vii.亮度脉冲;
viii.蓝色色度脉冲;
ix.超光谱脉冲;
x.荧光激发脉冲;
xi.激光标测脉冲;
xii.(重复)
可改变脉冲模式以适合特定具体实施的成像目标。示例性成像目标是获得超光谱成像数据和荧光成像数据,并且还获得基于对超光谱和/或荧光成像数据的分析的激光标测和/或工具跟踪数据。在此类示例中,可针对已被超光谱和/或荧光成像数据加亮的场景的某些区域来分析激光标测和/或工具跟踪数据。另外的示例性成像目标是获得超光谱成像数据或荧光成像数据,并且还获得激光标测和/或工具跟踪数据。另外的示例性成像目标是获得激光标测和/或工具跟踪数据。另外的示例性成像目标是获得超光谱成像数据。另外的示例性成像目标是获得荧光成像数据。应当理解,成像目标可以是专用的,这取决于部署成像系统的原因。另外,成像目标可在单个成像会话期间改变,并且可改变脉冲模式以匹配变化的成像目标。
如在该示例中可见,激光标测分区可以与其它分区脉冲的速率不同的速率脉冲。这样做可强调场景的某个方面,其中激光标测数据仅与视频输出中的其它数据叠层以做出希望的强调。应当指出,在红色分区、绿色分区和蓝色分区的顶部上方添加激光标测分区并不一定要求序列化的系统以全光谱非串行系统的速率的四倍操作,因为每个分区不必在脉冲模式中相等地表示。如在该实施方案中所见,添加在脉冲模式(上述示例中的激光标测)中表示较少的分区脉冲将导致小于传感器的循环速度的20%的増加,以适应不规则的分区取样。
在各种实施方案中,脉冲循环模式还可以任何合适的顺序包括以下波长中的任一者。此类波长可特别适用于激发荧光试剂,以通过基于荧光试剂弛豫发射感测荧光试剂的弛豫发射来生成荧光成像数据:
i.770±20nm;
ii.770±10nm;
iii.770±5nm;
iv.790±20nm;
v.790±10nm;
vi.790±5nm;
vii.795±20nm;
viii.795±10nm;
ix.795±5nm;
x.815±20nm;
xi.815±10nm;
xii.815±5nm;
xiii.770nm至790nm;和/或
xiv.795nm至815nm。
在各种实施方案中,脉冲循环还可以任何合适的顺序包括以下波长中的任一者。此类波长可特别适用于生成超光谱成像数据:
i.513±545nm;
ii.565nm至585nm;
iii.900nm至1000nm;
iv.513±5nm;
v.513±10nm;
vi.513±20nm;
vii.513±30nm;
viii.513±35nm;
ix.545±5nm;
x.545±10nm;
xi.545±20nm;
xii.545±30nm;
xiii.545±35nm;
xiv.565±5nm;
xv.565±10nm;
xvi.565±20nm;
xvii.565±30nm;
xviii.565±35nm;
xix.585±5nm;
xx.585±10nm;
xxi.585±20nm;
xxii.585±30nm;
xxiii.585±35nm;
xxiv.900±5nm;
xxv.900±10nm;
xxvi.900±20nm;
xxvii.900±30nm;
xxviii.900±35nm;
xxix.1000±5nm;
xxx.1000±10nm;
xxxi.1000±20nm;
xxxii.1000±30nm;或者
xxxiii.1000±35nm。
可将分区循环划分为适应或近似各种成像和视频标准。在一个实施方案中,分区循环可包括如下如图7A至图7D中最佳地示出的红色光谱、绿色光谱和蓝色光谱中的电磁能量的脉冲。在图7A中,已通过在由竖直灰色虚线所示的工作范围内调制光脉冲宽度或持续时间来实现不同的光强度。在图7B中,已通过调制光功率或电磁发射器(其可为激光器或LED发射器)的功率,但保持脉冲宽度或持续时间恒定来实现不同的光强度。图7C示出了光功率和光脉冲宽度均被调制从而得到更大灵活性的情况。分区循环可使用青色洋红色黄色(CMY)、红外、紫外、超光谱和荧光,其使用与可见脉冲源混合的不可见脉冲源以及产生图像所需的任何其他色彩空间或近似于当前已知或尚未开发的期望视频标准。还应当理解,系统能够在运行中的色彩空间之间切换以提供所需图像输出质量。
在一个实施方案中,发射器发射一个或多个超光谱发射以引发光谱响应。超光谱发射包括具有约513-545nm、约565-585nm和/或约900-1000nm的波长的电磁辐射中的一种或多种。在此类实施方案中,相干光源802包括用于513-545nm分区的至少一个激光发射器、用于565-585分区的至少一个激光发射器,以及用于900-1000nm分区的至少一个激光发射器。应当理解,在不脱离本公开的范围的情况下,可发射用于引发光谱响应的附加的超光谱发射。
在一个实施方案中,发射器发射用于使试剂发荧光的一个或多个荧光激发发射。荧光激发发射包括具有约460-470nm、529-537nm、633-643nm、775-785nm、800-810nm、970-980nm、575-579nm、519-527nm、770-790nm和/或795-815nm的波长的电磁辐射中的一种或多种。在此类实施方案中,相干光源802可包括用于前述电磁辐射的分区中的每一个分区的至少一个激光发射器。应当理解,在不脱离本公开的范围的情况下,可发射用于使试剂发荧光的附加的荧光激发发射。
在使用色彩空间绿色-蓝色-绿色-红色(如图7D中所示)的实施方案中,可能期望比色度分量更频繁地脉冲亮度分量,因为用户通常对光量值差异比对光色差更敏感。可使用如图7D中所示的单色传感器来利用该原理。在图7D中,包含最多亮度信息的绿色可在(G-B-G-R-G-B-G-R……)方案中更频繁地脉冲或具有更大强度以获得亮度数据。此类配置将创建具有可察觉的更多细节的视频流,而不创建和传输不可察觉的数据。
在一个实施方案中,复制较弱分区的脉冲可用于产生已针对较弱脉冲进行调节的输出。例如,认为蓝色激光相对于硅基像素的灵敏度弱,并且与红光或绿光相比,蓝色激光难以产生,因此可在帧循环期间更频繁地脉冲以补偿光的弱性。这些附加脉冲可随时间推移连续地完成,或者通过使用多个激光器同时脉冲以产生所需补偿效果。应当注意,通过在消隐周期(在此期间传感器不读出像素阵列的时间)期间脉冲,传感器对同一种类的激光器之间的差异/失配不敏感,并且简单地聚积光以用于期望的输出。在另一个实施方案中,最大光脉冲范围可能从帧到帧是不同的。这在图7E中示出,其中光脉冲从帧到帧是不同的。传感器可被构建成能够以两帧或三帧或四帧或n帧的重复模式对不同消隐周期进行编程。
在图7E中,示出了四个不同的光脉冲,并且脉冲1可例如在脉冲4之后重复,并且可具有消隐周期不同的四帧的模式。该技术可用于将最大功率的分区放置于最小消隐周期上,并且因此允许最弱的分区在后续帧中的一帧上具有更宽的脉冲而无需增加读出速度。重建帧仍可具有帧到帧的规则模式,因为其由许多脉冲帧构成。
图8示出了控制信号802和电磁辐射的发射804之间的延迟或抖动的图形显示。在一个实施方案中,控制信号802表示提供给发射器的驱动器的信号。驱动器被配置为使发射器202发射电磁辐射脉冲。在一个实施方案中,驱动器是控制器204的部件,或者可独立于控制器204并与控制器204通信。在一个实施方案中,驱动器是控制器204。在一个实施方案中,驱动器是发射器202的部件或与发射器202通信。如图所示,在控制信号802达到其峰值(即,接通)和发射器202发射804电磁辐射之间存在持续时间的延迟t1。在控制信号802降低(即,关闭)和电磁辐射的发射804结束之间存在持续时间的延迟t2。
例如,延迟t1和t2可包括一些恒定延迟以及由发射器的驱动器中的抖动引起的一些非恒定变化。例如,当控制信号802被传输到驱动器时,并且当发射器202实际上发射电磁辐射的发射804时,可能存在恒定延迟。此延迟可以非常短,并且可基于在驱动器和发射器之间发生电通信所需的时间。延迟的非恒定变化可以是发射器的驱动器中、控制器204中和或发射器本身中的抖动的结果。
系统或系统的部件(诸如发射器的驱动器)经历的抖动可通过被称为抖动规格的值来描述。抖动规格是描述系统经历的抖动量或抖动持续时间的数值。在图8所示的示例中,延迟t1具有比延迟t2短的持续时间。在该示例中,延迟t1可表示在启动控制信号802之后经历的恒定延迟,并且发射器发射电磁辐射的发射804。t2和t1之间的差异可表示系统经历的抖动。该值可被称为抖动规格。
在一个实施方案中,抖动规格是表示用于启动或断开电磁辐射脉冲的发射的恒定或可预测延迟的变化量的数值。在此类实施方案中,系统经历在驱动器向发射器发信号以发射电磁辐射脉冲和发射器实际上何时发起电磁辐射脉冲之间的恒定、可预测延迟。类似地,在当发射器应当断开电磁辐射脉冲时和当发射器实际上断开电磁辐射脉冲时之间可能存在恒定、可预测延迟。这种恒定、可预测延迟不表示抖动规格。相反,抖动规格是这种恒定、可预测延迟的变化。在图8所示的示例中,时间t2和t1之间的差异表示恒定、可预测延迟的变化。
抖动不受系统的用户的控制。抖动规格表示系统中存在的不可预测和非恒定时间变化的量。如果抖动规格相对于电磁辐射脉冲太大,则在所产生的曝光帧中会出现图像质量的显著降低或图像亮度变化。例如,在如本文所讨论的视频内窥镜系统中,长抖动规格可以使视频流内的不同排的曝光帧具有不同亮度。这导致在视频流中闪烁和总体质量降低。长抖动规格可导致光在图像传感器的读出周期302期间发射。如果在读出周期302期间脉冲电磁辐射,则将发生像素读数中像素和像素行之间的显著变化,并且这降低所得视频流中的图像质量。
在示例性具体实施中,控制器204具有电磁辐射脉冲的持续时间的10%的抖动规格。在该示例中,脉冲可从其期望持续时间的90%变化到其期望持续时间的110%。这可导致视频的图像帧内曝光帧的或排之间的亮度变化高达三分之一。
在一个实施方案中,如果抖动规格具有长于阈值量的持续时间,则电磁辐射脉冲在持续时间内受到限制,以避免重叠到读出周期302中。脉冲持续时间上的限制可需要通过增加捕获的曝光帧之间的时间和/或增加消隐期316的持续时间来降低帧速率。这可能导致对图像亮度的减少,并且这可进一步降低图像传感器捕获详细图像的能力。
在一个实施方案中,如果抖动规格具有短于阈值量的持续时间,则发射器202的脉冲序列和图像传感器的读出序列204保持不变。在一个实施方案中,阈值指示抖动规格必须为1微秒或更小。在一个实施方案中,阈值指示抖动规格必须为50纳秒或更小。在一个实施方案中,阈值指示抖动规格必须小于图像传感器读出一排像素阵列的所花费的时间。在一个实施方案中,阈值指示抖动规格必须小于图像传感器读出像素阵列的单个像素所花费的时间。在一个实施方案中,阈值指示抖动规格可小于或等于图像传感器的读出周期302的10%至25%,或图像传感器读出像素阵列中的所有有效像素所需的时间。例如,在此类实施方案中,如果像素阵列包括400排,则抖动规格必须小于或等于读出像素阵列中的400排中的40至100排所需的时间。因此,由像素阵列捕获的光的变化量可足够低,以减少图像闪烁并且/或者在读出周期302之间提供尽可能多的光。
在一个实施方案中,通过实施控制器204或发射器202的驱动器中的较高时钟速率或更准确的时钟来减少(缩短)抖动规格。发射器202的驱动器的减小的抖动规格和公差可解决不耐受驱动的问题,从而导致所得视频流中的伪像。
在一个实施方案中,相机控制单元(CCU)向控制器204或发射器202提供信号以避免与图像传感器的读出周期302重叠电磁辐射脉冲。CCU可确定用于向控制器204和/或发射器202发送信号以避免重叠到像素阵列中的有效(即,不是光学黑色)像素的读出中。CCU可使发射器202发射的时间电磁辐射的持续时间最大化,而不重叠图像传感器的读出周期302。
图9示出了用于将电磁辐射从发射器202携带到缺光环境以照明场景的光纤束900的横截面。在图9所示的示例性实施方案中,光纤束900包括七个纤维,但是应当理解,纤维的数量仅是说明性的,并且在脱离本公开的范围的情况下可以使用任何合适数量的纤维。纤维束包括中心纤维902和多个周围纤维904。
在一个实施方案中,限制纤维的总数量以减小光纤束900的横截面积。光纤束900可包括合适数量的纤维,用于提供足够的光分散,同时允许小的横截面积。这可能是期望的,因为内窥镜内腔的横截面积在需要小的内窥镜的一些应用中是至关重要的。在一个实施方案中,光纤束900可包括2至150根纤维。较少数量的纤维可减少携带光纤束900所需的费用和横截面积。然而,更多数量的纤维改善了冗余。在一个实施方案中,光纤束900包括5至100根纤维或5至50根纤维或7至15根纤维。在一个实施方案中,光纤束包括七个纤维,如图9所示。
当光纤束900具有较小数量的纤维时,可能期望每个纤维接收相同量的电磁辐射和相同量的特定波长的电磁辐射。例如,如果电磁辐射主要通过中心纤维902传输,则中心纤维902将接收大部分电磁辐射,并且场景将被彩色或亮度不均匀地照明。另外,如果更多的光进入一根纤维而不是另一根,则可在光纤束900中携带的电磁辐射的总量(功率)会减少。例如,如果向纤维提供高于一定能量水平或强度的电磁辐射,则纤维可具有熔断极限,这些极限可导致纤维熔化或以其他方式失效。因此,如果电磁辐射更均匀地分布在纤维上,则可能增加场景的功率和照明。
在一个实施方案中,发射器202在向光纤束900提供电磁辐射之前混合两个或更多个波长的电磁辐射。这可在发射器202包括用于发射不同波长的电磁辐射的两个或更多个独立激光器束时实现。发射器202可包括例如用于发射第一波长的第一激光器束和用于发射第二波长的第二激光器束。发射器202可混合电磁辐射,使得来自第一激光器束的光和来自第二激光器束的光以相同或基本上相同的角度进入跳线波导(或另一波导)。可通过相对于彼此以相同的角度定位激光器束来实现相同或基本上相同的角度。在一个实施方案中,二向色镜通过反射一种波长的电磁辐射,同时对另一波长透明而允许相同或基本上相同的角度。在一个实施方案中,发射器202包括漫射器、混合棒、透镜或其他光学元件,以在进入光纤束900之前混合光。
在一个实施方案中,发射器202向波导提供均匀分布的光强度。在为波导收集光的区域内的光的峰值强度可基本上等于或接近该区域内的光的平均强度。提供给收集区域的光可具有顶帽式轮廓,使得每根纤维收集和/或接收相同或类似强度的光。发射器202可通过以一定角度向收集区域的表面提供激光来提供或接近顶帽式轮廓。例如,发射器可202可包括高斯或其他非恒定强度轮廓。通过使激光器束相对于收集区域成角度,将高斯轮廓展平为更加恒定的轮廓或顶帽式轮廓。可使用透镜、漫射器、混合棒或类似物来生成顶帽式轮廓。
图10以图形方式示出了顶帽式轮廓1002和高斯轮廓1004。水平轴线表示水平距离,并且垂直轴线表示光强度。图中文字标记有1006的排表示光纤束900的收集区域1006的边界或宽度。图中文字标记有1008的排表示用于纤维或其他波导的熔断水平1008。
使用高斯轮廓1004,将大部分电磁辐射发送到中心纤维902。当大部分能量位于中心纤维902中时,剩余周围纤维904可远低于熔断水平1008。例如,使用高斯轮廓1004,能量总量的增加可导致中心纤维902显著超过熔断水平1008,而多个周围纤维904远低于熔断水平1008。
使用顶帽式轮廓1002,所有纤维都携带相同的能量水平。该能量水平可靠近熔断水平1008或低于熔断水平1008。例如,使用顶帽式轮廓1002,由光纤束900携带的总能量可显著增加,因为光纤束900可被集中地推到熔断水平1008附近,而没有熔断任何单根光纤的风险。
图10示出了通过实施顶帽式轮廓1002在任何单根纤维达到熔断水平1008之前提供更多能量。例如,高斯轮廓1004和顶帽式轮廓1002可向光纤束900提供相同量的瓦特数,而顶帽式轮廓1002在达到熔断水平1008之前仍可显著增加。因此,可使用塑料纤维来实现能量递送的总量的显著改善。在一些情况下,可以通过实施顶帽式轮廓1002来实现光纤束900所携带的瓦特数的50%或更大的增加。在一个实施方案中,塑料纤维可具有用于由一个或多个发射器发射的光/电磁能量的熔断能量水平,高于该熔断能量水平则会损坏塑料纤维,其中光能量横跨多个塑料纤维传播开以允许包括塑料纤维的光纤束900携带更大量的能量,而不达到纤维中的任一根纤维的熔断水平1008。
在一个实施方案中,顶帽式轮廓1002和高斯轮廓1004由发射器202组合以用于与塑料光纤束900一起使用。发射器202和/或跳线波导可不包括塑料波导。然而,发射器202可将高斯轮廓1004与顶帽式轮廓1002混合,以允许在内腔波导处与塑料光纤束900一起使用。在一个实施方案中,鉴于当在不同的材料(例如,从漫射器到玻璃纤维、到塑料纤维和/或返回到玻璃纤维或漫射器)之间移动电磁辐射时可引起的损耗,混合顶帽式轮廓1002允许更大的功率递送。更大的功率递送可抵消先前或后续转变中的损耗,使得仍可递送足够的光以照明场景。
图11是示出了和相机视场相比的来自光纤束1102的输出的侧视图。在一个实施方案中,塑料纤维具有0.63的数值孔径,其中视场为100度,如虚线1106所示。玻璃纤维具有0.87的数值孔径,其中视场为120度,如实线1104所示。然而,在视场内发射的光在小于该视场的光锥内具有近似高斯轮廓。例如,用于塑料纤维的几乎所有光可在80度的锥内,如点划线1108所示。因此,曝光帧的中心区域可能太亮而边缘太暗。
图12是示出了相对于图11中所示的输出来自光纤束1202的具有更均匀的光分布的输出的侧视图。在图12所示的实施方案中,通过瞄准光离开光纤束1202的纤维的端部来实现均匀分布的光。瞄准远离中心的纤维使视场中的锥加宽,并且在输出端处没有光损耗。每根光纤的一端可保持在期望位置以分布光,其中来自纤维的光锥的组合提供均匀的照明。光纤束1202包括多根纤维和指示由单根纤维输出的锥的取向的排1204。在一个实施方案中,诸如物理模具或具有孔的片材的固定装置将纤维的端部保持在期望的取向。纤维可以用于场景的均匀照明的最佳取向来取向。光纤束1202中的纤维的末端可位于内窥镜的远侧末端附近,并且可指向围绕以焦点或相机透镜轴为中心的区域传播光。
图13是示出了从塑料纤维1304转变到连接器1308处的玻璃纤维1306的光纤束1302的输出的侧视图。在该实施方案中,内腔波导包括塑料纤维1304,然后在输出处或附近转变到玻璃纤维1306。玻璃纤维1306通常具有比塑料纤维1304更高的数值孔径和更宽的视场。因此,如光锥1310所示,实现了更宽且更均匀的光能分布。穿过塑料纤维1304的光通过连接器1308被引导到玻璃纤维1306。此耦接可发生在内窥镜的内腔的内窥镜的手持件单元内。连接器1308可定位在手持件或内腔中以限制使用的玻璃纤维1306的量。从塑料纤维1304通过手持件或内腔中的锥形件移动到玻璃纤维1306可产生与传统内窥镜相同的视场。然而,与瞄准实施方案相比(其在输出处没有经历光损耗),光损耗可能是显著的,诸如约25%。
图14是示出了使用漫射器1408来自光纤束1402的光输出的侧视图。在该实施方案中,内腔波导包括塑料纤维1404,然后在输出处或附近转变到漫射器1408。漫射器1408可包括任何合适的光学漫射器,诸如混合棒等。示例性漫射器包括全息漫射器。当与玻璃纤维相比时,输出处的漫射器1408可产生较大角度的视场。然而,漫射器1408的效率较低,诸如与图12中所示的瞄准实施方案相比效率为约40%至60%。
塑料纤维通常比玻璃纤维便宜。降低的价格可导致制造照明系统的显著节省。因为玻璃仅可用于输出部附近的短距离,或者根本不使用玻璃,所以可实现显著的成本节约。
在一个实施方案中,单根纤维替换光纤束。单根纤维可大于构成光纤束的典型纤维,使得单根纤维能够处理比用于相同横截面积的较小纤维束更大的功率。单根纤维可从控制台延伸并穿过内腔以向身体内部或其他缺光环境提供光。单根纤维可作为从发射器202或跳线波导延伸并且穿过内腔的内腔波导操作。电磁辐射可由发射器202直接提供给具有顶帽式轮廓的单根纤维。
由于塑料纤维可仅具有0.63或0.65的数值孔径,因此大多数电磁辐射可仅以70或80度的角度发出。在单根纤维的输出处,漫射器可被定位成传播输出光并且在相机的视场内创建更均匀的照明。在一个实施方案中,漫射器的类型或漫射器的存在可基于相机使用的视场。例如,腹腔镜手术可允许更窄的视场,诸如70度,而关节镜手术可使用更宽的视场,诸如110度。因此,漫射器可用于关节镜检查,而对于腹腔镜检查而言漫射器可不存在。
应当理解,用于输出电磁辐射(光)的实施方案可包括图11至图14中所示的实施方案中的一个或多个实施方案的组合。例如,可将塑料纤维转变到玻璃纤维,并且玻璃纤维可旨在提供更均匀和改进的照明。
图15是示出了用于向缺光环境中的成像场景提供光的示例性方法1500的示意性流程图。方法1500可由照明系统(诸如图1的系统100)执行。
方法1500开始,并且图像传感器基于由图像传感器接收到的光在1502处生成并读出来自图像传感器的针对图像的像素数据,其中用于读出一排像素数据的时间长度包括排读出长度。发射器在1504处发射光以用于照明由图像传感器观察到的场景。驱动器在1506处驱动发射器发射,其中驱动器包括小于或等于排读出长度的抖动规格。控制器在1508处控制驱动器以驱动发射器以在图像传感器的读出周期之间生成光脉冲。
图16是示出了用于向缺光环境中的成像场景提供光的示例性方法1600的示意性流程图。方法1600可由照明系统(诸如图1的系统100)执行。
方法1600开始并且第一发射器和第二发射器在1602处发射包括第一波长和第二波长的光。多根光纤在1604处将由第一发射器和第二发射器生成的光引导至内窥镜环境中的场景。多根光纤在1606a处接收来自多根光纤中的每根光纤处的第一发射器和第二发射器的基本上等量的光(混合光)。
图17A至图17C各自示出了具有多个发射器的光源1700。多个发射器可另选地被称为“激光器束”,其中每个发射器/激光器束可独立于其他发射器/激光器束操作并且/或者脉冲不同分区或波长的电磁光谱。光源1700在本文中可统称为“发射器”。多个发射器包括第一发射器1702、第二发射器1704和第三发射器1706。可包括附加的发射器,如下文进一步讨论。发射器1702、1704和1706可包括发射具有不同波长的光的一个或多个激光发射器。例如,第一发射器1702可发射与蓝色激光一致的波长,第二发射器1704可发射与绿色激光一致的波长,并且第三发射器1706可发射与红色激光一致的波长。例如,第一发射器1702可包括一个或多个蓝色激光器,第二发射器1704可包括一个或多个绿色激光器,并且第三发射器1706可包括一个或多个红色激光器。激光器1702、1704、1706朝收集区域1708发射激光器束,该收集区域可以是波导、透镜或用于收集光和/或向波导(诸如图2的跳线波导206或内腔波导210)提供光的其他光学部件的位置。
在一个具体实施中,发射器1702、1704和1706发射超光谱波长的电磁辐射。某些超光谱波长可刺穿组织并且使得执业医生能够“透视”前景中的组织以识别位于前景中的组织后面的化学过程、结构、化合物、生物过程等。可特别选择超光谱波长以识别已知具有特定光谱响应的特定疾病、组织状况、生物过程、化学过程、组织类型等。
在已向患者施用有助于识别某些组织、结构、化学反应、生物过程等的试剂或染料的具体实施中,发射器1702、1704和1706可发射用于使试剂或染料发荧光的波长。此类波长可基于施用给患者的试剂或染料来确定。在此类实施方案中,发射器可能需要是高度精确的,以便发射所需波长以使某些试剂或染料发荧光或活化。
在一个具体实施中,发射器1702、1704和1706发射激光标测模式,用于标测场景的拓扑结构和/或用于计算场景中对象之间的尺寸和距离。在一个实施方案中,内窥镜成像系统与多个工具诸如手术刀、牵开器、夹钳等结合使用。在此类实施方案中,发射器1702、1704和1706中的每一个发射器可发射激光标测模式,使得激光标测模式单独地投影到每个工具上。在此类实施方案中,可分析工具中的每一者的激光标测数据以识别场景中工具与其它对象之间的距离。
在图17B的实施方案中,发射器1702、1704、1706各自以不同角度向收集区域1708递送激光。角度的变化可导致电磁能量在输出波导中的位置的变化。例如,如果光在收集区域1708处立即进入纤维束(玻璃或塑料)中,则变化的角度可导致不同量的光进入不同的纤维。例如,角度可导致横跨收集区域1708的强度变化。此外,来自不同发射器的光可不会被均匀地混合,因此一些纤维可接收不同量的不同颜色的光。不同纤维中的光的颜色或强度的变化可导致场景的非最佳照明。例如,递送光或光强度的变化可在场景和所捕获图像处导致。
在一个实施方案中,居间光学元件可放置在纤维束和发射器1702、1704、1706之间,以在进入纤维或其他波导中之前混合不同颜色(波长)的光。示例性居间光学元件包括漫射器、混合棒、一个或多个镜片,或用于混合光使得给定纤维接收每种颜色(波长)的相同量的其它光学部件。例如,纤维束中的每根纤维可具有相同的颜色。该混合可导致每根纤维中的相同的颜色,但是,在一些实施方案中,仍可导致递送到不同纤维的不同的总亮度。在一个实施方案中,居间光学元件也可在收集区域上传播或均匀地传播光,使得每根纤维携带相同总量的光(例如,光可能在顶帽式轮廓中散开)。漫射器或混合棒可导致光损失。
尽管收集区域1708在图17A中表示为物理部件,但收集区域1708可以只是递送来自发射器1702、1704和1706的光的区域。在一些情况下,收集区域1708可包括光学部件,诸如漫射器、混合棒、透镜,或处于发射器1702、1704、1706和输出波导之间的任何其他居间光学部件。
图17C示出了具有以相同或基本上相同的角度向收集区域1708提供光的发射器1702、1704、1706的光源1700的实施方案。光以基本上垂直于收集区域1708的角度提供。光源1700包括多个二向色镜,该多个二向色镜包括第一二向色镜1710、第二二向色镜1712和第三二向色镜1714。二向色镜1710、1712、1714包括反射第一波长的光但透射第二波长(或对其透明)的光的镜。例如,第三二向色镜1714可反射由第三发射器提供的蓝色激光,而对第一发射器1702和第二发射器1704各自提供的红光和绿光透明。第二二向色镜1712可对来自第一发射器1702的红光是透明的,但对来自第二发射器1704的绿光是反射的。如果包括其它颜色或波长,则可选择二向色镜以反射对应于至少一个发射器的光并且对其它发射器透明。例如,第三二向色镜1714反射来自第三发射器1706的光,但对其“后面”的发射器诸如第一发射器1702和第二发射器1704透明。在其中存在数十或数百个发射器的实施方案中,每个二向色镜可反射对应发射器和其前面的发射器,同时对其后面的发射器透明。这可允许数十或数百个发射器将电磁能量以基本上相同的角度发射到收集区域1708。
因为这些二向色镜允许其他波长透射或穿过,这些波长中的每一个波长可从相同的角度和/或以相同的中心点或焦点到达收集区域1708。从相同的角度和/或相同的焦点/中心点提供光可显著改善在收集区域1708处的接收和颜色混合。例如,特定纤维可接收不同的颜色,这些颜色的比例与它们由发射器1702、1704、1706和镜1710、1712、1714透射/反射的比例相同。与图17B的实施方案相比,可在收集区域处显著改善光混合。在一个实施方案中,本文所讨论的任何光学部件可在收集区域1708处使用,以在向纤维或纤维束提供光之前收集光。
图17C示出了具有也以相同或基本上相同的角度向收集区域1708提供光的发射器1702、1704、1706的光源1700的实施方案。例如,入射在收集区域1708上的光从垂直偏移。角度1716指示从垂直偏移的角度。在一个实施方案中,激光发射器1702、1704、1706可具有高斯横截面强度轮廓。如前所述,纤维之间的光能量的改善的分布可通过形成更平坦或顶帽形的强度轮廓来实现。在一个实施方案中,随着角度1716的增大,横跨收集区域1708的强度接近顶帽式轮廓。例如,通过增大角度1716直到轮廓足够平坦,顶帽式轮廓甚至可近似为非平坦输出光束。顶帽式轮廓也可使用一个或多个透镜、漫射器、混合棒,或处于发射器1702、1704、1706和输出波导、纤维或光纤束之间的任何其他居间光学部件来实现。
图18是示出了在输出处经由漫射器1804输出的单根光纤1802的示意图。在一个实施方案中,光纤1802具有500微米的直径、0.65的数值孔径,并且在没有漫射器1804的情况下发射约70度或80度的光锥1806。使用漫射器1804,光锥1806可具有约110度或120度的角度。光锥1806可以是所有光到达并且均匀分布的地方的大部分。漫射器1804可允许由图像传感器观察到的场景的电磁能量的更均匀分布。
在一个实施方案中,内腔波导210包括约500微米的单个塑料或玻璃光纤。塑料纤维的成本较低,但通过耦接、漫射或其他损耗其宽度可允许纤维将足够量的光传携带到场景。例如,较小的纤维可能不能携带与较大纤维一样多的光或功率。内腔波导210可包括单根或多根光纤。内腔波导210可直接从光源或经由跳线波导接收光。漫射器可用于加宽光输出206以获得图像传感器214或其他光学部件的期望视场。
虽然在图17A至图17C中示出了三个发射器,但在一些实施方案中可使用数量从一个到数百个或更多个不等的发射器。发射器可具有它们发射的不同波长或光谱的光,并且这些光可用于连续覆盖电磁光谱的所需部分(例如,可见光谱以及红外光谱和紫外光谱)。发射器可被配置成能够发射可见光诸如红光、绿光和蓝光,并且还可被配置成能够发射电磁辐射的超光谱发射、用于使试剂发荧光的荧光激发波长和/或用于计算场景中对象之间的参数和距离的激光标测模式。
图19示出了被分成二十个不同子光谱的电磁光谱1900的一部分。子光谱的数量仅为示例性的。在至少一个实施方案中,光谱1900可被分成数百个子光谱,每个子光谱具有小波带。光谱可从红外光谱1902延伸,穿过可见光谱1904,并且进入紫外光谱1906。子光谱各自具有覆盖光谱1900的一部分的波带1908。每个波带可由上波长和下波长限定。
超光谱成像包括来自横跨电磁光谱1900的成像信息。电磁辐射的超光谱脉冲可包括跨越电磁光谱1900的一个或多个部分或整个电磁光谱1900的多个子脉冲。电磁辐射的超光谱脉冲可包括电磁辐射的单个波长分区。所得超光谱曝光帧包括在电磁辐射的超光谱脉冲之后由像素阵列感测到的信息。因此,超光谱曝光帧可包括电磁光谱1900的任何合适分区的数据,并且可包括电磁光谱1900的多个分区的多个曝光帧。在一个实施方案中,超光谱曝光帧包括多个超光谱曝光帧,使得组合的超光谱曝光帧包括整个电磁光谱1900的数据。
在一个实施方案中,针对每个子光谱,至少一个发射器(诸如激光发射器)包括在光源(诸如光源202、1700)中以提供对整个光谱1900的完整且连续的覆盖。例如,用于提供对所示子光谱的覆盖的光源可包括至少20个不同的发射器,每个子光谱至少有一个发射器。在一个实施方案中,每个发射器覆盖了覆盖40纳米的光谱。例如,一个发射器可发射500nm至540nm的波带内的光,而另一个发射器可发射540nm至580nm的波带内的光。在另一个实施方案中,发射器可覆盖其它尺寸的波带,这取决于可用发射器的类型或成像需要。例如,多个发射器可包括覆盖500nm至540nm的波带的第一发射器、覆盖540nm至640nm的波带的第二发射器,以及覆盖640nm至650nm的波带的第三发射器。每个发射器可覆盖范围从远红外、中红外、近红外、可见光、近紫外和/或远紫外的电磁光谱的不同片段。在一些情况下,可包括相同类型或波长的多个发射器以提供用于成像的足够输出功率。特定波带所需的发射器数量可取决于单色传感器对波带的灵敏度和/或该波带中发射器的功率输出能力。
可选择由发射器提供的波带宽度和覆盖率以提供光谱的任何所需组合。例如,使用非常小的波带宽度(例如,10nm或更小)的光谱的连续覆盖可允许高度选择性的超光谱和/或荧光成像。该波带宽度可允许选择性地发射一种或多种特定荧光试剂的激发波长。另外,波带宽度可允许选择性地发射超光谱电磁辐射的某些部分,以用于识别特定结构、化学过程、组织、生物过程等。因为波长来自可被选择性激活的发射器,所以可实现在检查期间使一种或多种特定荧光试剂发荧光的极端灵活性。另外,可实现通过超光谱成像来识别一个或多个对象或过程的极端灵活性。因此,更多荧光和/或超光谱信息可在更少的时间内并且在单次检查内实现,这原本需要多次检查、由于染料的施用或污渍而延迟等。
图20是示出了用于生成图像的发射和读出的时序图2000的示意图。实线表示用于捕获一系列曝光帧2004至2014的读出周期(峰2002)和消隐周期(谷)。该一系列曝光帧2004至2014可包括可用于生成可叠层在RGB视频流上的激光标测数据、超光谱数据和/或荧光数据的一系列重复曝光帧。在一个实施方案中,单个图像帧包括来自多个曝光帧的信息,其中一个曝光帧包括红色图像数据,另一个曝光帧包括绿色图像数据,并且另一个曝光帧包括蓝色图像数据。另外,单个图像帧可包括超光谱图像数据、荧光图像数据和激光标测数据中的一者或多者。组合该多个曝光帧以产生单个图像帧。单个图像帧是具有超光谱成像数据的RGB图像。曝光帧系列包括第一曝光帧2004、第二曝光帧2006、第三曝光帧2008、第四曝光帧2010、第五曝光帧2012和第N曝光帧2026。
另外,可组合使用超光谱图像数据、荧光图像数据和激光标测数据以识别关键组织或结构并进一步测量那些关键组织或结构的尺寸。例如,可将超光谱图像数据提供给对应的系统以识别身体中的某些关键结构,诸如神经、输尿管、血管、癌组织等。关键结构的位置和识别可从对应的系统接收,并且还可用于使用激光标测数据来生成关键结构的拓扑结构。例如,对应的系统基于超光谱成像数据来确定癌性肿瘤的位置。由于基于超光谱成像数据知晓癌性肿瘤的位置,因此可随后基于激光标测数据来计算癌性肿瘤的拓扑结构和距离。当基于荧光成像数据识别癌性肿瘤或其他结构时,该示例也可适用。
在一个实施方案中,基于电磁能量的至少一个脉冲生成每个曝光帧。电磁能量脉冲被图像传感器反射并检测,并且随后在后续读出(2002)中读出。因此,每个消隐周期和读出导致用于特定电磁能量光谱的曝光帧。例如,第一曝光帧2004可基于第一一个或多个脉冲2016的光谱生成,第二曝光帧2006可基于第二一个或多个脉冲2018的光谱生成,第三曝光帧2008可基于第三一个或多个脉冲2020的光谱生成,第四曝光帧2010可基于第四一个或多个脉冲2022的光谱生成,第五曝光帧2012可基于第五一个或多个脉冲的光谱生成,并且第N曝光帧2026可基于第N一个或多个脉冲2026的光谱生成。
脉冲2016至2026可包括来自单个发射器或来自两个或更多个发射器的组合的能量。例如,可选择包括在单个读出周期中或多个曝光帧2004至2014内的光谱以用于对特定组织或状况进行所需检查或检测。根据一个实施方案,一个或多个脉冲可包括用于生成RGB或黑白图像的可见光谱光,而一个或多个附加脉冲被发射以感测针对超光谱波长的电磁辐射的光谱响应。例如,脉冲2016可包括红光,脉冲2018可包括蓝光,并且脉冲2020可包括绿光,而剩余脉冲2022至2026可包括用于检测特定组织类型、使试剂发荧光和/或标测场景拓扑结构的波长和光谱。又如,单个读出周期的脉冲包括由可用于检测特定组织类型的多个不同发射器生成的光谱(例如,电磁光谱的不同片段)。例如,如果波长的组合导致像素具有超过或低于阈值的值,则该像素可被分类为对应于特定类型的组织。每个帧还可用于缩小存在于该像素(例如,以及图像中的每个像素)处的组织的类型,以基于组织的光谱响应和/或组织处是否存在荧光试剂来提供组织和/或组织的状态(患病/健康)的非常特定的分类。
多个帧2004至2014被示出为具有不同长度的读出周期以及具有不同长度或强度的脉冲。消隐周期、脉冲长度或强度等可基于单色传感器对特定波长的灵敏度、发射器的功率输出能力和/或波导的携带能力来选择。
在一个实施方案中,双图像传感器可用于获得三维图像或视频馈送。三维检查可允许对检查区域的三维结构的改善的理解以及对该区域内的不同组织或物质类型的标测。
在一个示例性具体实施中,向患者提供荧光试剂,并且该荧光试剂被配置成能够附着到癌细胞。已知荧光试剂在被电磁辐射的特定分区辐射时发荧光。荧光试剂的弛豫波长也是已知的。在示例性具体实施中,利用如本文所讨论的内窥镜成像系统对患者进行成像。内窥镜成像系统脉冲红色、绿色和蓝色波长的光的分区,以生成患者身体内部的RGB视频流。另外,内窥镜成像系统脉冲施用给患者的荧光试剂的电磁辐射激发波长。在示例中,患者具有癌细胞,并且荧光试剂附着到癌细胞。当内窥镜成像系统脉冲荧光试剂的激发波长时,荧光试剂将发荧光并发射弛豫波长。如果癌细胞存在于由内窥镜成像系统成像的场景中,则荧光试剂也将存在于场景中,并且由于激发波长的发射而在发荧光之后发射其弛豫波长。内窥镜成像系统感测荧光试剂的弛豫波长,从而感测场景中荧光试剂的存在。因为已知荧光试剂附着到癌细胞,所以荧光试剂的存在还指示场景内癌细胞的存在。内窥镜成像系统从而识别场景内癌细胞的位置。内窥镜成像系统还可发射用于生成场景的拓扑结构并计算场景内对象的尺寸的激光标测脉冲方案。癌细胞的位置(如由荧光成像数据所识别)可与基于激光标测数据计算出的拓扑结构和尺寸信息组合。因此,可识别癌细胞的精确位置、大小、尺寸和拓扑结构。可将该信息提供给执业医生以帮助切除癌细胞。另外,可将该信息提供给机器人外科系统,以使得外科系统能够切除癌细胞。
在另外的示例性具体实施中,利用内窥镜成像系统对患者进行成像,以识别关于患者组织病理的定量诊断信息。在该示例中,患者疑似或已知患有可利用超光谱成像跟踪以观察疾病在患者组织中的进展的疾病。内窥镜成像系统脉冲红色、绿色和蓝色波长的光的分区,以生成患者身体内部的RGB视频流。另外,内窥镜成像系统脉冲一个或多个超光谱波长的光,这允许系统“透视”一些组织并生成受疾病影响的组织的成像。内窥镜成像系统感测经反射的超光谱电磁辐射以生成患病组织的超光谱成像数据,从而识别患者体内患病组织的位置。内窥镜成像系统还可发射用于生成场景的拓扑结构并计算场景内对象的尺寸的激光标测脉冲方案。患病组织的位置(如由超光谱成像数据所识别)可与用激光标测数据计算出的拓扑结构和尺寸信息组合。因此,可识别患病组织的精确位置、大小、尺寸和拓扑结构。可将该信息提供给执业医生以帮助切除、成像或研究患病组织。另外,可将该信息提供给机器人外科系统,以使得外科系统能够切除患病组织。
图21是具有单个截止滤光器的成像系统2100的示意图。系统2100包括内窥镜2106或具有用于缺光环境的光源2108的其他合适的成像装置。内窥镜2106包括图像传感器2104和滤光器2102,该滤光器用于在到达图像传感器2104之前滤除不需要的波长的光或其他电磁辐射。光源2108传输可在缺光环境诸如体腔中照明表面2112的光。光2110从表面2112反射并在击中图像传感器2104之前穿过滤光器2102。
滤光器2102可用于已施用荧光试剂或染料的具体实施中。在此类实施方案中,光源2108发射激发波长以用于使荧光试剂或染料发荧光。通常,由荧光试剂或染料发射的弛豫波长将具有与激发波长不同的波长。可选择滤光器2102来滤除激发波长,并且仅允许弛豫波长穿过滤光器并被图像传感器2104感测。
在一个实施方案中,滤光器2102被配置为滤除电磁辐射的引起试剂或染料发荧光的激发波长,使得仅允许发荧光的试剂或染料的预期弛豫波长穿过滤光器2102并到达图像传感器2104。在一个实施方案中,滤光器2102滤除至少介于770nm和790nm之间的荧光试剂激发波长。在一个实施方案中,滤光器2102滤除至少介于795nm和815nm之间的荧光试剂激发波长。在一个实施方案中,滤光器2102滤除至少介于770nm和790nm之间以及介于795nm和815nm之间的荧光试剂激发波长。在这些实施方案中,滤光器2102滤除试剂的激发波长,并且允许由图像传感器2104读取荧光试剂的仅弛豫波长。图像传感器2104可以是波长不定图像传感器,并且滤光器2102可被配置为允许图像传感器2104仅接收荧光试剂的弛豫波长而不接收试剂的发射激发波长。然后由图像传感器2104确定的数据可指示由试剂或染料的位置确定的关键身体结构、组织、生物过程或化学过程的存在。
滤光器2102还可用于尚未施用荧光试剂或染料的具体实施中。可选择滤光器2102以允许对应于所需光谱响应的波长穿过图像传感器2104并由该图像传感器读取。图像传感器2104可以是单色图像传感器,使得可将所捕获图像的超过阈值或低于阈值的像素表征为对应于某些光谱响应或荧光发射。由图像传感器2104捕获的像素确定的光谱响应或荧光发射可指示某些身体组织或结构、某些病症、某些化学过程等的存在。
图22是具有多个截止滤光器的成像系统2200的示意图。系统2200包括内窥镜2206或具有用于缺光环境的光源2208的其他合适的成像装置。内窥镜2206包括图像传感器2204和两个滤光器2202a、2202b。应当理解,在另选的实施方案中,系统2200可包括任何数量的滤光器,并且可针对某些目的选择滤光器的数量和滤光器的类型,例如,用于采集特定身体组织、身体病症、化学过程等的成像信息。滤光器2202a、2202b被配置用于防止图像传感器2204感测到不需要的波长的光或其他电磁辐射。滤光器2202a、2202b可被配置为从可由光源2208发射的白光或其他电磁辐射中滤除不需要的波长。
相对于图21还描述本公开,滤光器2202a、2202b可用于已施用荧光试剂或染料的具体实施中。滤光器2202a、2202b可被配置用于阻挡试剂或染料的发射激发波长,并且允许图像传感器2204仅读取试剂或染料的弛豫波长。此外,滤光器2202a、2202b可用于尚未施用荧光试剂或染料的具体实施中。在此类具体实施中,可选择滤光器2202a、2202b以允许对应于期望光谱响应的波长穿过图像传感器2204并由该图像传感器读取。
多个滤光器2202a、2202b可各自被配置为用于滤除电磁光谱的不同范围的波长。例如,一个滤光器可被配置用于滤除长于所需波长范围的波长,并且附加滤光器可被配置用于滤除短于所需波长范围的波长。两个或更多个滤光器的组合可导致仅某些波长或波长带由图像传感器2204读取。
在一个实施方案中,滤光器2202a、2202b被定制为使得介于513nm和545nm之间的电磁辐射接触图像传感器2204。在一个实施方案中,滤光器2202a、2202b被定制为使得介于565nm和585nm之间的电磁辐射接触图像传感器2204。在一个实施方案中,滤光器2202a、2202b被定制为使得介于900nm和1000nm之间的电磁辐射接触图像传感器2204。在一个实施方案中,滤光器2202a、2202b被定制为使得介于421nm和475nm之间的电磁辐射接触图像传感器2204。在一个实施方案中,滤光器2202a、2202b被定制为使得介于520nm和545nm之间的电磁辐射接触图像传感器2204。在一个实施方案中,滤光器2202a、2202b被定制为使得介于617nm和645nm之间的电磁辐射接触图像传感器2204。在一个实施方案中,滤光器2202a、2202b被定制为使得介于760nm和795nm之间的电磁辐射接触图像传感器2204。在一个实施方案中,滤光器2202a、2202b被定制为使得介于795nm和815nm之间的电磁辐射接触图像传感器2204。在一个实施方案中,滤光器2202a、2202b被定制为使得介于370nm和420nm之间的电磁辐射接触图像传感器2204。在一个实施方案中,滤光器2202a、2202b被定制为使得介于600nm和670nm之间的电磁辐射接触图像传感器2204。在一个实施方案中,滤光器2202a、2202b被配置用于允许仅某些荧光弛豫发射穿过滤光器2202a、2202b并接触图像传感器2204。在一个实施方案中,第一滤光器阻挡具有约770nm至约790nm的波长的电磁辐射,并且第二滤光器阻挡具有约795nm至约815nm的波长的电磁辐射。
在一个实施方案中,系统2200包括多个图像传感器2204,并且可具体地包括用于生成三维图像的两个图像传感器。图像传感器2204可以是颜色/波长不定的,并且被配置用于读取从表面2212反射的任何波长的电磁辐射。在一个实施方案中,图像传感器2204各自是颜色相关的或波长相关的,并且被配置用于读取从表面2212反射并返回到图像传感器2204的特定波长的电磁辐射。另选地,图像传感器2204可包括具有多个不同像素传感器的单个图像传感器,该多个不同像素传感器被配置用于读取不同波长或颜色的光,诸如拜耳滤光器滤色器阵列。另选地,图像传感器2204可包括一个或多个颜色不定图像传感器,这些图像传感器可被配置用于根据脉冲调度(诸如图5至图7E中所示的那些)读取不同波长的电磁辐射。
图23是示出了用于在缺光环境中通过激光标测成像来标测表面和/或跟踪对象的系统2300的示意图。在一个实施方案中,内窥镜2306在缺光环境中脉冲网格阵列2306(可称为激光标测图模式)到表面2304上。在如图23中所示的一个实施方案中,网格阵列2306包括竖直散列2308和水平散列2310。应当理解,网格阵列2306可包括用于标测表面2304的任何合适的阵列,包括例如离散点的光栅网格、占用网格标测图、点阵列等。另外,内窥镜2306可脉冲多个网格阵列2306,并且可例如在缺光环境内在多个对象或结构中的每个上脉冲一个或多个单独的网格阵列。
在一个实施方案中,系统2300脉冲网格阵列2306,该网格阵列可用于在缺光环境中标测表面的三维拓扑结构和/或跟踪对象诸如工具或另一装置的位置。在一个实施方案中,系统2300向第三方系统或计算机算法提供数据,以用于通过光检测和测距(LIDAR)标测的方式来确定表面尺寸和构型。系统2300可脉冲网格阵列2306中的任何合适波长的光或电磁辐射,包括例如紫外光、可见光和/或红外光或近红外光。可以非常高的分辨率并且以非常高的准确度和精度标测和跟踪环境内的表面2304和/或对象。
在一个实施方案中,系统2300包括成像装置,该成像装置具有管、一个或多个图像传感器和透镜组件,该透镜组件具有对应于该一个或多个图像传感器的光学元件。系统2300可包括具有发射器和内腔的光引擎,该发射器生成一个或多个电磁辐射脉冲,该内腔将该一个或多个电磁辐射脉冲传输到缺光环境诸如体腔内的内窥镜的远侧末端。在一个实施方案中,该一个或多个电磁辐射脉冲的至少一部分包括发射到缺光环境内的表面(诸如,体腔内的身体组织的表面和/或工具或其它装置的表面)上的激光标测图模式。内窥镜2306可包括二维、三维或n维相机,以用于标测和/或跟踪缺光环境内的表面、尺寸和构型。
在一个实施方案中,系统2300包括处理器,该处理器用于确定内窥镜或工具与对象诸如表面2304的距离。处理器还可确定内窥镜或工具与对象之间的角度。处理器还可确定关于对象的表面积信息,包括例如外科工具的尺寸、结构的尺寸、解剖结构的尺寸、位置信息以及其它位置数据和度量。系统2300可包括一个或多个图像传感器,该一个或多个图像传感器提供输出到控制系统的图像数据,以用于确定内窥镜或工具与对象诸如表面2304的距离。图像传感器可将信息输出到控制系统以用于确定内窥镜或工具与对象之间的角度。另外,图像传感器可将信息输出到控制系统,以用于确定关于对象的表面积信息、外科工具的尺寸、结构的尺寸、解剖结构的尺寸、位置信息以及其它位置数据和度量。
在一个实施方案中,内窥镜2306的发射器以足够的速度脉冲网格阵列2306,使得网格阵列2306对于用户不可见。在各种具体实施中,在内窥镜成像规程和/或内窥镜外科手术期间看到网格阵列2306可能使用户分心。可以足够短的周期脉冲网格阵列2306,使得网格阵列2306不能被人眼检测到。在另选的实施方案中,内窥镜2306以足够的复现频率脉冲网格阵列2306,使得网格阵列2306可被用户查看。在此类实施方案中,网格阵列2306可叠层在显示器上的表面2304的图像上。网格阵列2306可叠层在表面2304的黑白或RGB图像上,使得网格阵列2306在系统2300的使用期间可对用户可见。系统2300的用户可指示网格阵列2306是否应叠层在表面2304的图像上和/或网格阵列2306是否应对用户可见。系统2300可包括显示器,该显示器提供从内窥镜2306到缺光环境内的表面2304或另一个对象的距离的实时测量。显示器还可提供关于缺光环境内的表面2304和/或任何对象、结构或工具的实时表面积信息。测量的准确度可精确到小于一毫米。
在一个实施方案中,系统2300脉冲多个网格阵列2306。在一个实施方案中,多个网格阵列2306中的每一者对应于存在于缺光环境内的工具或其他装置。可通过脉冲和感测多个网格阵列2306来跟踪工具和其他装置中的每一者的精确位置和参数。可评估通过感测经反射的网格阵列2306而生成的信息,以识别缺光环境内的工具和其他装置的相对位置。
内窥镜2306可根据脉冲调度(诸如本文所示的那些)脉冲电磁辐射,这还可包括脉冲网格阵列2306并且脉冲用于生成RGB图像并进一步生成可叠层在RGB图像上并且/或者用于标测并跟踪缺光环境内的表面2304和对象的网格阵列2306的红光、绿光和蓝光。可另外结合超光谱或荧光激发波长的电磁辐射来脉冲网格阵列2306。可组合来自RGB成像、激光标测成像、超光谱成像和荧光成像中的每一者的数据,以识别体内关键结构的位置、尺寸和表面拓扑结构。
在一个实施方案中,内窥镜2306包括一个或多个颜色不定图像传感器。在一个实施方案中,内窥镜2306包括用于生成缺光环境的三维图像或标测图的两个颜色不定图像传感器。图像传感器可根据如本文所公开的脉冲调度生成缺光环境的RGB图像。另外,图像传感器可基于在脉冲网格阵列2306时确定的数据来确定用于标测缺光环境并跟踪缺光环境内的一个或多个对象的数据。另外,图像传感器可根据脉冲调度来确定光谱或超光谱数据以及荧光成像数据,该脉冲调度可由用户修改以适应成像规程的特定需要。在一个实施方案中,脉冲调度包括红色、绿色和蓝色脉冲以及网格阵列2306的脉冲和/或用于生成超光谱图像数据和/或荧光图像数据的脉冲。在各种具体实施中,脉冲调度可包括根据用户需要的电磁辐射脉冲的任何合适的组合。不同波长的电磁辐射的复现频率可基于例如某些脉冲的能量、用户的需要、某些数据(例如,超光谱数据和/或荧光成像数据)需要连续更新还是可更新较不频繁等来确定。
根据用户或用于某些成像规程的计算机实现的程序的需要,脉冲调度可以任何合适的方式修改,并且某些电磁辐射脉冲可以任何合适的频率重复。例如,在将基于网格阵列2306生成的表面跟踪数据提供给计算机实现的程序以用于例如机器人外科手术的实施方案中,网格阵列2306可比在将表面跟踪数据提供给在成像规程期间可视化场景的用户的情况下更频繁地脉冲。在表面跟踪数据用于机器人外科手术的此类实施方案中,表面跟踪数据可能需要更频繁地更新或者可能需要极为准确,使得计算机实现的程序可精密而准确地执行机器人外科手术。
在一个实施方案中,系统2300被配置为生成占用网格标测图,该占用网格标测图包括被划分为网格的单元阵列。系统2300被配置为存储相应网格单元中的每个的高度值以确定缺光环境中的三维环境的表面标测。
图24A和图24B分别示出根据本公开的教导和原理的单片传感器2400的具体实施的透视图和侧视图,该单片传感器具有多个像素阵列用于产生三维图像。此类具体实施可能是三维图像捕获所希望的,其中在使用期间两个像素阵列2402和2404可被偏移。在另一个具体实施中,第一像素阵列2402和第二像素阵列2404可专用于接收预先确定的波长范围的电磁辐射,其中第一像素阵列专用于与第二像素阵列不同波长范围的电磁辐射。
图25A和图25B分别示出了构建在多个基板上的成像传感器2500的具体实施的透视图和侧视图。如图所示,形成该像素阵列的多个像素列2504位于第一基板2502上并且多个电路列2508位于第二基板2506上。图中还示出了一个像素列与其相关联的或对应的电路列之间的电连接和通信。在一个具体实施中,图像传感器可具有与全部或大部分支撑电路分开的像素阵列,而其可能以其它方式被制造成它的像素阵列和支撑电路处于单个、单片基板/芯片上。本公开可使用至少两个基板/芯片,这些基板/芯片将使用三维堆叠技术被堆叠在一起。两个基板/芯片中的第一个2502可使用图像CMOS工艺加工。第一基板/芯片2502可仅仅由像素阵列构成,或可由被有限电路围绕的像素阵列构成。第二或后续基板/芯片2506可使用任何工艺加工,而不是必须来自图像CMOS工艺。第二基板/芯片2506可以是但不限于,为了将各种和多个功能集成到基板/芯片上非常有限空间或面积中的高密度数字工艺、或为了集成例如精确模拟功能的混合模式或模拟工艺、或为了实现无线能力的RF工艺、或为了集成MEMS器件的MEMS(微电子机械系统)。图像CMOS基板/芯片2502可使用任何三维技术与第二或后续基板/芯片2506堆叠。第二基板/芯片2506可支撑将可能另外在第一图像CMOS芯片2502中实现(如果在单片基板/芯片上实现)为外围电路的电路的绝大部分或大部分,并且因此当保持像素阵列大小恒定并尽最大可能优化时增加了整个系统面积。两个基板/芯片之间的电连接可通过互联器完成,这些互联器可为接合引线、凸耳和/或TSV(硅通孔)。
图26A和图26B分别示出了具有多个像素阵列用于产生三维图像的成像传感器2600的具体实施的透视图和侧视图。三维图像传感器可被构建在多个基板上并且可包括多个像素阵列和其他相关联的电路,其中形成第一像素阵列的多个像素列2602a和形成第二像素阵列的多个像素列2602b分别位于相应的基板2608a和2608b上,并且多个电路列2606a和2606b位于单独的基板2604上。还示出了像素列与相关联的或对应的电路列之间的电连接和通信。
该多个像素阵列可同时感测信息,并且可将来自该多个像素阵列的信息组合以生成三维图像。在一个实施方案中,内窥镜成像系统包括可被部署以生成三维成像的两个或更多个像素阵列。内窥镜成像系统可包括用于在像素阵列的消隐周期期间发射电磁辐射脉冲的发射器。像素阵列可被同步,使得对于该两个或更多个像素阵列,同时读取光学黑色像素(即,发生消隐周期)。发射器可发射用于对该两个或更多个像素阵列中的每一者进行充电的电磁辐射脉冲。该两个或更多个像素阵列可同时读取其相应的带电像素,使得该两个或更多个像素阵列的读出周期同时或大致同时发生。在一个实施方案中,内窥镜成像系统包括多个发射器,每个发射器与多个像素阵列中的一个或多个像素阵列单独同步。来自多个像素阵列的信息可组合以生成三维图像帧和视频流。
应当理解,本公开的教导和原理可用于可重复使用的装置平台、有限使用的装置平台、可重新设置使用的装置平台或单次使用/一次性的装置平台,而不脱离本公开的范围。应当理解,在可重复使用的装置平台中,最终使用人负责该装置的清洁和消毒。在有限使用的装置平台中,在变得不能操作之前,装置可被使用一些规定量的次数。典型的新装置在交付前已经过无菌处理,如果要用作其它用途,应在其它使用之前由最终用户进行清洗和消毒。在可重新设置使用的装置平台中,第三方可重新处理装置(例如,清洁、包装和消毒)单次使用的装置,以比新单元更低的成本用于另外使用。在单次使用/一次性的装置平台中,提供无菌装置至手术室并且在被处置掉之前只能使用一次。
实施例
以下实施例涉及另外的实施方案的优选特征:
实施例1是一种系统。系统包括用于发射电磁辐射脉冲的发射器。所述发射器包括用于发射第一波长的电磁辐射脉冲的第一发射器。所述发射器包括用于发射第二波长的电磁辐射脉冲的第二发射器。所述系统包括图像传感器,所述图像传感器包括用于感测经反射的电磁辐射的像素阵列。所述系统包括与所述发射器和所述图像传感器电子通信的控制器。该系统使得发射器发射的电磁辐射脉冲的至少一部分包括以下的一者或多者:具有约513nm至约545nm的波长的电磁辐射;具有约565nm至约585nm波长的电磁辐射;具有约900nm至约1000nm的波长的电磁辐射;引起试剂发荧光的电磁辐射激发波长;或激光标测模式。
实施例2为根据实施例1所述的系统,其中:所述第一发射器在第一二向色镜处发射所述第一波长的所述电磁辐射脉冲,所述第一二向色镜将所述第一波长的所述电磁辐射脉冲反射至多根光纤;所述第二发射器在第二二向色镜处发射所述第二波长的所述电磁辐射脉冲,所述第二二向色镜将所述第二波长的所述电磁辐射脉冲反射至所述多根光纤;并且所述第一二向色镜对所述第二波长的电磁辐射是透明的。
实施例3为根据实施例1至2中任一项所述的系统,其中所述第一二向色镜将所述第一波长的所述电磁辐射脉冲以从垂直所述多根光纤偏移的角度反射到所述多根光纤中,并且所述第二二向色镜将所述第二波长的所述电磁辐射脉冲以从垂直所述多根光纤偏移的角度反射到所述多根光纤中。
实施例4为根据实施例1至3中任一项所述的系统,其中:所述第一二向色镜将所述第一波长的所述电磁辐射脉冲以基本上垂直于所述第一发射器的角度反射到所述多根光纤中;并且所述第二二向色镜将所述第二波长的所述电磁辐射脉冲以基本上垂直于所述第二发射器的角度通过所述第一二向色镜反射到所述多根光纤中。
实施例5为根据实施例1至4中任一项所述的系统,其中:所述发射器还包括第三发射器,所述第三发射器用于在第三二向色镜处发射第三波长的电磁辐射脉冲,所述第三二向色镜将所述第三波长的所述电磁辐射脉冲反射至所述多根光纤;所述第三二向色镜将所述第三波长的所述电磁辐射脉冲通过所述第一二向色镜反射到所述多根光纤中;所述第一二向色镜和所述第二二向色镜对所述第三波长的电磁辐射是透明的;所述第三二向色镜将所述第三波长的所述电磁辐射脉冲以基本上垂直于所述第三发射器的角度反射到所述多根光纤中;并且所述第三二向色镜将所述第三波长的所述电磁辐射脉冲从垂直偏移的角度反射到所述多根光纤中。
实施例6为根据实施例1至5中任一项所述的系统,还包括:光纤束,其中所述发射器将所述电磁辐射脉冲发射到所述光纤束中;其中所述光纤束包括塑料纤维和玻璃纤维,其中所述塑料纤维和所述玻璃纤维在所述光纤束的输出部附近耦接。
实施例7为根据实施例1至6中任一项所述的系统,还包括居间光学部件,其中所述电磁辐射脉冲在进入所述光纤束之前穿过所述居间光学部件。
实施例8为根据实施例1至7中任一项所述的系统,其中所述居间光学部件包括漫射器或混合棒中的一者或多者。
实施例9为根据实施例1至8中任一项所述的系统,还包括:光纤束,所述光纤束包括多根塑料光纤,其中所述发射器将所述电磁辐射脉冲发射到所述光纤束中;以及居间光学部件,其中所述电磁辐射脉冲在进入所述光纤束之前穿过所述居间光学部件;其中所述居间光学部件包括多个玻璃纤维。
实施例10为根据实施例1至9中任一项所述的系统,还包括:光纤束,其中所述发射器将所述电磁辐射脉冲发射到所述光纤束中;以及漫射器,所述漫射器设置在所述光纤束的远侧端部处;其中所述漫射器提供光锥,所述光锥具有介于110度和120度之间的角度或介于70度和80度之间的角度。
实施例11为根据实施例1至10中任一项所述的系统,还包括用于发射第三波长的电磁辐射脉冲的第三发射器和用于发射第四波长的电磁辐射脉冲的第四发射器,并且其中:由所述第一发射器发射的所述第一波长的电磁辐射是红光;由所述第二发射器发射的所述第二波长的电磁辐射是蓝光;由所述第三发射器发射的所述第三波长的电磁辐射是绿光;并且由所述第四发射器发射的所述第四波长的电磁辐射是超光谱波长,所述超光谱波长包括以下的一者或多者:具有约513nm至约545nm的波长的所述电磁辐射,具有约565nm至约585nm的波长的所述电磁辐射,或者具有约900nm至约1000nm的波长的所述电磁辐射;其中用于发射所述超光谱波长的所述第四发射器包括用于发射不同超光谱波长的电磁辐射的一个或多个独立激光器。
实施例12为根据实施例1至11中任一项所述的系统,其中所述图像传感器的所述像素阵列在所述像素阵列的读出周期期间感测经反射的电磁辐射以生成所述多个曝光帧,其中所述读出周期包括所述像素阵列中的有效像素被读取时的时间段。
实施例13为根据实施例1至12中任一项所述的系统,其中由所述发射器发射的所述电磁辐射脉冲的至少一部分为用于引起光谱响应的超光谱波长,其中所述超光谱波长包括以下各项中的一者或多者:具有约513nm至约545nm的波长的所述电磁辐射,以及具有约900nm至约1000nm的波长的所述电磁辐射;或者具有约565nm至约585nm的波长的所述电磁辐射,以及具有约900nm至约1000nm的波长的所述电磁辐射。
实施例14为根据实施例1至13中任一项所述的系统,其中所述发射器被配置为在脉冲持续时间期间发射多个电磁辐射子脉冲,所述多个子脉冲具有短于所述脉冲持续时间的子持续时间。
实施例15为根据实施例1至14中任一项所述的系统,其中由所述发射器发射的所述电磁辐射脉冲中的一个或多个电磁辐射脉冲包括作为单个脉冲或单个子脉冲同时以两个或更多个波长发射的电磁辐射。
实施例16为根据实施例1至15中任一项所述的系统,其中由所述发射器发射的所述电磁辐射脉冲的至少一部分为使得所述图像传感器产生超光谱曝光帧的超光谱发射,并且其中所述控制器被配置为向对应的超光谱系统提供所述超光谱曝光帧,所述对应的超光谱系统基于所述超光谱曝光帧确定关键组织结构在场景内的位置。
实施例17为根据实施例1至16中任一项所述的系统,其中所述超光谱发射包括:具有约513nm至约545nm的波长的所述电磁辐射和具有约900nm至约1000nm的波长的所述电磁辐射;或者具有约565nm至约585nm的波长的所述电磁辐射,以及具有约900nm至约1000nm的波长的所述电磁辐射。
实施例18为根据实施例1至17中任一项所述的系统,其中所述控制器被进一步配置为:从所述对应的超光谱系统接收所述关键组织结构的位置;生成包括所述关键组织结构的所述位置的叠层帧;以及将叠层帧与描绘场景的彩色图像帧组合,以指示场景内关键组织结构的位置。
实施例19为根据实施例1至18中任一项所述的系统,其中感测由所述像素阵列反射的电磁辐射包括通过感测由所述发射器脉冲所述激光映射模式产生的经反射的电磁辐射来生成激光映射曝光帧,并且其中所述控制器被进一步配置为:将所述激光映射曝光帧提供给对应的激光映射系统,所述对应的激光映射系统确定所述场景的拓扑结构和/或所述场景内的一个或多个对象的尺寸;将所述关键组织结构的所述位置提供给所述对应激光标测系统;以及从对应激光标测系统接收关键组织结构的拓扑结构和/或尺寸。
实施例20为根据实施例1至19中任一项所述的系统,其中所述关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
实施例21为根据实施例1至20中任一项所述的系统,其中由所述发射器发射的所述电磁辐射脉冲的至少一部分是使得所述图像传感器产生荧光曝光帧的荧光激发波长,并且其中所述控制器被配置为向对应的荧光系统提供所述荧光曝光帧,所述对应的荧光系统基于所述荧光曝光帧来确定关键组织结构在场景内的位置。
实施例22为根据实施例1至21中任一项所述的系统,其中所述荧光激发发射包括以下各项中的一者或多者:具有约770nm至约790nm的波长的电磁辐射;或者具有约795nm至约815nm的波长的电磁辐射。
实施例23为根据实施例1至22中任一项所述的系统,其中所述控制器被进一步配置为:从所述对应的荧光系统接收所述关键组织结构的位置;生成包括所述关键组织结构的所述位置的叠层帧;以及将叠层帧与描绘场景的彩色图像帧组合,以指示场景内关键组织结构的位置。
实施例24为根据实施例1至23中任一项所述的系统,其中感测由所述像素阵列反射的电磁辐射包括通过感测由所述发射器脉冲所述激光映射模式产生的经反射的电磁辐射来生成激光映射曝光帧,并且其中所述控制器被进一步配置为:将所述激光映射曝光帧提供给对应的激光映射系统,所述对应的激光映射系统确定所述场景的拓扑结构和/或所述场景内的一个或多个对象的尺寸;将所述关键组织结构的所述位置提供给所述对应激光标测系统;以及从对应激光标测系统接收关键组织结构的拓扑结构和/或尺寸。
实施例25为根据实施例1至24中任一项所述的系统,其中所述关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
实施例26为根据实施例1至25中任一项所述的系统,其中所述控制器被配置为在所述图像传感器的消隐周期期间同步所述电磁辐射脉冲的定时,其中所述消隐周期对应于所述像素阵列中的最后一行有源像素的读出与所述像素阵列中的有源像素的下一个后续读出开始之间的时间。
实施例27为根据实施例1至26中任一项所述的系统,其中由所述发射器发射的两个或更多个电磁辐射脉冲产生经反射的电磁辐射的两个或更多个实例,经反射的电磁辐射的两个或更多个实例由所述像素阵列感测以生成两个或更多个曝光帧,所述两个或更多个曝光帧被组合以形成图像帧。
实施例28为根据实施例1至27中任一项所述的系统,其中所述图像传感器包括第一图像传感器和第二图像传感器,使得所述图像传感器能够生成三维图像。
实施例29为根据实施例1至28中任一项所述的系统,其中所述发射器被配置为重复发射足以生成包括多个图像帧的视频流的电磁辐射脉冲序列,其中所述视频流中的每个图像帧包括来自多个曝光帧的数据,并且其中所述曝光帧中的每一个曝光帧对应于电磁辐射脉冲。
实施例30为根据实施例1至29中任一项所述的系统,其中所述电磁辐射脉冲以不同波长的电磁辐射的模式发射,并且其中所述发射器重复不同波长的电磁辐射的所述模式。
实施例31为根据实施例1至30中任一项所述的系统,其中所述电磁辐射脉冲的至少一部分包括红色波长、绿色波长、蓝色波长和超光谱波长,使得由所述像素阵列感测的对应于所述红色波长、所述绿色波长、所述蓝色波长和所述超光谱波长中的每一者的经反射的电磁辐射能够被处理以生成包括超光谱成像数据的叠加的红-绿-蓝(RGB)图像帧,其中电磁辐射的所述超光谱波长包括:具有约513nm至约545nm的波长的所述电磁辐射和具有约900nm至约1000nm的波长的所述电磁辐射;或者具有约565nm至约585nm的波长的所述电磁辐射,以及具有约900nm至约1000nm的波长的所述电磁辐射。
实施例32为根据实施例1至31中任一项所述的系统,其中所述电磁辐射脉冲的至少一部分包括亮度发射、红色色度发射、蓝色色度发射和超光谱发射,使得由所述像素阵列感测的对应于所述亮度发射、所述红色色度发射、所述蓝色色度发射和所述超光谱发射中的每一者的经反射的电磁辐射能够被处理以生成包括超光谱成像数据的叠加的YCbCr图像帧,其中所述电磁辐射的超光谱发射包括:具有约513nm至约545nm的波长的所述电磁辐射和具有约900nm至约1000nm的波长的所述电磁辐射;或者具有约565nm至约585nm的波长的所述电磁辐射,以及具有约900nm至约1000nm的波长的所述电磁辐射。
实施例33为根据实施例1至32中任一项所述的系统,其中由所述发射器发射的所述电磁辐射脉冲的至少一部分是用于使试剂发荧光的荧光激发波长,其中所述荧光激发波长包括以下的一者或多者:具有约770nm至约790nm的波长的所述电磁辐射;或者具有约795nm至约815nm的波长的电磁辐射。
实施例34为根据实施例1至33中任一项所述的系统,其中所述电磁辐射脉冲的至少一部分包括红色波长、绿色波长、蓝色波长和荧光激发波长,使得由所述像素阵列感测的对应于所述红色波长、所述绿色波长、所述蓝色波长和所述荧光激发波长中的每一者的经反射的电磁辐射能够被处理以生成包括荧光成像数据的叠层的红-绿-蓝(RGB)图像帧,其中所述荧光波长的电磁辐射包括:具有约770nm至约790nm的波长的电磁辐射和/或者具有约795nm至约815nm的波长的电磁辐射。
实施例35为根据实施例1至34中任一项所述的系统,其中所述电磁辐射脉冲的至少一部分包括亮度发射、红色色度发射、蓝色色度发射和荧光激发发射,使得由所述像素阵列感测的对应于所述亮度发射、所述红色色度发射、所述蓝色色度发射和所述荧光激发发射中的每一者的经反射的电磁辐射能够被处理以生成包括荧光成像数据的叠层的YCbCr图像帧,其中所述荧光波长的电磁辐射包括:具有约770nm至约790nm的波长的电磁辐射和/或具有约795nm至约815nm的波长的电磁辐射。
实施例36为根据实施例1至35中任一项所述的系统,还包括单根光纤,其中所述发射器将所述电磁辐射脉冲发射到所述单根光纤中。
实施例37为根据实施例1至36中任一项所述的系统,其中所述像素阵列为独立像素的二维阵列,每个独立像素能够检测任何波长的电磁辐射。
实施例38为根据实施例1至37中任一项所述的系统,还包括过滤具有约770nm至约790nm的波长的电磁辐射的滤光器。
实施例39为根据实施例1至38中任一项所述的系统,还包括过滤具有约795nm至约815nm的波长的电磁辐射的滤光器。
实施例40为根据实施例1至39中任一项所述的系统,其中所述电磁传感器是光电二极管。
实施例41为根据实施例1至40中任一项所述的系统,其中由所述像素阵列感测经反射的电磁辐射包括:通过感测由所述发射器脉冲所述激光标测模式产生的经反射的电磁辐射来生成激光标测曝光帧,其中所述激光标测曝光帧包括用于确定实时测量的信息,所述信息包括以下的一者或多者:从内窥镜到对象的距离;内窥镜和所述对象之间的角度;或者关于所述对象的表面拓扑结构信息。
实施例42为根据实施例1至41中任一项所述的系统,其中所述激光标测曝光帧包括用于以小于10厘米的精度确定所述实时测量的信息。
实施例43为根据实施例1至42中任一项所述的系统,其中所述激光标测曝光帧包括用于以小于一毫米的精度确定所述实时测量的信息。
实施例44为根据实施例1至43中任一项所述的系统,其中由所述发射器发射的所述电磁辐射脉冲的至少一部分包括用于场景内的多个工具中的每一个工具的多个特定于工具的激光标测模式。
实施例45为根据实施例1至44中任一项所述的系统,其中由所述发射器发射的所述激光标测模式包括彼此独立的第一输出和第二输出,其中所述第一输出用于光照明,并且所述第二输出用于工具跟踪。
实施例46为根据实施例1至45中任一项所述的系统,其中所述第一发射器是包括用于发射所述第一波长的所述电磁辐射脉冲的多个激光器的第一激光器束,并且所述第二发射器是包括用于发射所述第二波长的所述电磁辐射脉冲的多个激光器的第二激光器束。
实施例47为根据实施例1至46中任一项所述的系统,其中所述图像传感器被配置为生成多个曝光帧,其中所述多个曝光帧中的每一个曝光帧对应于由所述发射器发射的一个或多个电磁辐射脉冲。
实施例48为根据实施例1至47中任一项所述的系统,其中所述光纤束包括2至150根纤维。
实施例49为根据实施例1至48中任一项所述的系统,其中所述第三发射器是包括用于发射所述第三波长的所述电磁辐射脉冲的多个激光器的第三激光器束。
实施例50为根据实施例1至49中任一项所述的系统,其中所述第四发射器是包括用于发射所述第四波长的所述电磁辐射脉冲的多个激光器的第四激光器束。
实施例51为根据实施例1至50中任一项所述的系统,其中所述发射器包括一个或多个超光谱发射器,所述一个或多个超光谱发射器用于发射超光谱波长的电磁辐射脉冲以引发光谱响应。
实施例52为根据实施例1到51中任一项所述的系统,其中所述一个或多个超光谱发射器中的每一个超光谱发射器包括激光器束,所述激光器束包括多个激光器。
实施例53为根据实施例1至52中任一项所述的系统,其中所述发射器还包括用于在进入所述光纤束之前混合电磁辐射脉冲的光学元件,其中所述光学元件包括漫射器、混合棒或透镜中的一者或多者。
实施例54为根据实施例1至53中任一项所述的系统,还包括用于反射蓝色波长的电磁辐射的二向色镜。
实施例55为根据实施例1至54中任一项所述的系统,还包括用于反射绿色波长的电磁辐射的二向色镜。
实施例56为根据实施例1至55中任一项所述的系统,还包括用于反射红色波长的电磁辐射的二向色镜。
实施例57为根据实施例1至56中任一项所述的系统,还包括用于反射具有约513nm至约545nm的波长的电磁辐射的二向色镜。
实施例58为根据实施例1至57中任一项所述的系统,还包括用于反射具有约565nm至约585nm的波长的电磁辐射的二向色镜。
实施例59为根据实施例1至58中任一项所述的系统,还包括用于反射具有约900nm至约1000nm的波长的电磁辐射的二向色镜。
实施例60为根据实施例1至59中任一项所述的系统,还包括用于反射具有约770nm至约790nm的波长的电磁辐射的二向色镜。
实施例61为根据实施例1至60中任一项所述的系统,还包括用于反射具有约795nm至约815nm的波长的电磁辐射的二向色镜。
实施例62为根据实施例1至61中任一项所述的系统,还包括用于反射某个波长带的电磁辐射的二向色镜,其中所述二向色镜对其他波长的电磁辐射是透明的。
实施例63为根据实施例1至62中任一项所述的系统,还包括用于反射特定波长的电磁辐射的二向色镜,其中所述二向色镜至少对具有红色波长的电磁辐射是透明的。
实施例64为根据实施例1至63中任一项所述的系统,还包括用于反射特定波长的电磁辐射的二向色镜,其中所述二向色镜至少对具有绿色波长的电磁辐射是透明的。
实施例65为根据实施例1至64中任一项所述的系统,还包括用于反射特定波长的电磁辐射的二向色镜,其中所述二向色镜至少对具有蓝色波长的电磁辐射是透明的。
实施例66为根据实施例1至65中任一项所述的系统,还包括用于反射特定波长的电磁辐射的二向色镜,其中所述二向色镜至少对具有约513nm至约545nm的波长的电磁辐射是透明的。
实施例67为根据实施例1至66中任一项所述的系统,还包括用于反射特定波长的电磁辐射的二向色镜,其中所述二向色镜至少对具有约565nm至约585nm的波长的电磁辐射是透明的。
实施例68为根据实施例1至67中任一项所述的系统,还包括用于反射特定波长的电磁辐射的二向色镜,其中所述二向色镜至少对具有约900nm至约1000nm的波长的电磁辐射是透明的。
实施例69为根据实施例1至68中任一项所述的系统,还包括用于反射特定波长的电磁辐射的二向色镜,其中所述二向色镜至少对具有约770nm至约790nm的波长的电磁辐射是透明的。
实施例70为根据实施例1至69中任一项所述的系统,还包括用于反射特定波长的电磁辐射的二向色镜,其中所述二向色镜至少对具有约795nm至约815nm的波长的电磁辐射是透明的。
实施例71为根据实施例1至70中任一项所述的系统,其中所述发射器包括多个激光发射器,并且其中所述多个激光发射器具有高斯横截面强度轮廓。
实施例72为根据实施例1至71中任一项所述的系统,其中所述发射器包括多个激光发射器,并且其中所述多个激光发射器具有平坦或大致平坦形强度轮廓。
实施例73为根据实施例1至72中任一项所述的系统,其中所述发射器包括多个激光发射器,并且其中所述多个激光发射器具有顶帽形强度轮廓。
实施例74为根据实施例1至73中任一项所述的系统,其中所述第一发射器和所述第二发射器旨在收集区域处,使得所述第一波长的所述电磁辐射脉冲和所述第二波长的所述电磁辐射脉冲在所述收集区域处混合并且由光纤束接收。
实施例75为根据实施例1至74中任一项所述的系统,还包括设置在所述发射器和所述光纤束之间的居间光学元件,其中所述居间光学元件被配置为在所述发射到达所述光纤束之前混合来自所述第一发射器和所述第二发射器的发射。
实施例76为根据实施例1至75中任一项所述的系统,还包括设置在所述发射器和所述光纤束之间的居间光学元件,所述居间光学元件被配置为在到达所述光纤束之前均匀地混合来自所述第一发射器和所述第二发射器的电磁辐射的独立发射。
应当理解,本文所公开的各种特征在本领域中提供了显著优势和进步。下列权利要求为那些特征中的一些的示例。
在上述本公开具体实施方式中,出于简化本公开的目的,将本公开的各个特征集中于单个实施方案中。本公开的方法不应理解为体现了这样的意图:受权利要求书保护的公开内容要求比每项权利要求中所明确列举的更多的特征。相反,创新方面未能体现上文公开的单个实施例的所有特征。
应当理解,上述布置方式、实施例和实施方案的任何特征可在包括从所公开的布置方式、实施例和实施方案中的任一者获得的特征的组合的单个实施方案中组合。
应当理解,上述设置只是本公开原理的示例性应用。在不脱离本公开精神和范围的前提下,本领域的技术人员可以设计许多修改和另选设置,并且所附权利要求书旨在涵盖这些修改和设置。
因此,当本公开以图示显示并且以特殊性和细节进行上述描述时,对于本领域的普通技术人员而言,在不脱离本文所述原则和理念的前提下,显而易见可进行大量修改,这些修改包括但不限于尺寸、材料、形状、形式、功能和操作方式、组装和使用方式的变化。
另外,在适当的情况下,本文所述的功能可通过硬件、软件、固件、数字部件或模拟部件中的一种或多种来执行。例如,可对一种或多种专用集成电路(ASIC)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。在整个下面的描述和权利要求中所用的某些术语是指特定的系统部件。本领域的技术人员应当理解,部件可具有不同的名称。本文并非旨在在名称上而非功能上不同的部件之间进行辨别。
为了举例说明和描述的目的,已经提供了上述具体实施方式。这些具体实施方式并非意图为详尽的或将本公开限制为所公开的具体形式。根据上述教导内容可以对本公开进行许多修改和改变。另外,应当指出的是,任何或所有前述另选的具体实施可以任何期望的组合使用,以形成本公开的另外的混合的具体实施。
另外,虽然已描述和说明了本公开的特定具体实施,但是本公开并不限于如描述和说明的特定形式或部件布置。本公开的范围将由此处所附的权利要求、此处和不同申请中提交的任何未来的权利要求以及它们的等效物来限定。
Claims (33)
1.一种系统,包括:
发射器,所述发射器用于发射电磁辐射脉冲,其中所述发射器包括用于发射第一波长的电磁辐射脉冲的第一发射器和用于发射第二波长的电磁辐射脉冲的第二发射器;
图像传感器,所述图像传感器包括用于感测经反射的电磁辐射的像素阵列;以及
控制器,所述控制器与所述发射器和所述图像传感器电子通信;并且
其中所述发射器发射的所述电磁辐射脉冲的至少一部分包括以下的一者或多者:
具有约513nm至约545nm的波长的电磁辐射;
具有约565nm至约585nm波长的电磁辐射;
具有约900nm至约1000nm的波长的电磁辐射;
使试剂发荧光的荧光激发波长的电磁辐射;或者
激光标测模式。
2.根据权利要求1所述的系统,其中:
所述第一发射器在第一二向色镜处发射所述第一波长的所述电磁辐射脉冲,所述第一二向色镜将所述第一波长的所述电磁辐射脉冲反射至多根光纤;
所述第二发射器在第二二向色镜处发射所述第二波长的所述电磁辐射脉冲,所述第二二向色镜将所述第二波长的所述电磁辐射脉冲反射至所述多根光纤;并且
所述第一二向色镜对所述第二波长的电磁辐射是透明的。
3.根据权利要求2所述的系统,其中所述第一二向色镜将所述第一波长的所述电磁辐射脉冲以从垂直所述多根光纤偏移的角度反射到所述多根光纤中,并且所述第二二向色镜将所述第二波长的所述电磁辐射脉冲以从垂直所述多根光纤偏移的角度反射到所述多根光纤中。
4.根据权利要求2所述的系统,其中:
所述第一二向色镜将所述第一波长的所述电磁辐射脉冲以基本上垂直于所述第一发射器的角度反射到所述多根光纤中;并且
所述第二二向色镜将所述第二波长的所述电磁辐射脉冲以基本上垂直于所述第二发射器的角度通过所述第一二向色镜反射到所述多根光纤中。
5.根据权利要求2所述的系统,其中:
所述发射器还包括第三发射器,所述第三发射器用于在第三二向色镜处发射第三波长的电磁辐射脉冲,所述第三二向色镜将所述第三波长的所述电磁辐射脉冲反射至所述多根光纤;
所述第三二向色镜将所述第三波长的所述电磁辐射脉冲通过所述第一二向色镜反射到所述多根光纤中;
所述第一二向色镜和所述第二二向色镜对所述第三波长的电磁辐射是透明的;
所述第三二向色镜将所述第三波长的所述电磁辐射脉冲以基本上垂直于所述第三发射器的角度反射到所述多根光纤中;并且
所述第三二向色镜将所述第三波长的所述电磁辐射脉冲以从垂直偏移的角度反射到所述多根光纤中。
6.根据权利要求1所述的系统,还包括:
光纤束,其中所述发射器将所述电磁辐射脉冲发射到所述光纤束中;
其中所述光纤束包括塑料纤维和玻璃纤维,其中所述塑料纤维和所述玻璃纤维在所述光纤束的输出部附近耦接。
7.根据权利要求6所述的系统,还包括居间光学部件,其中所述电磁辐射脉冲在进入所述光纤束之前穿过所述居间光学部件。
8.根据权利要求7所述的系统,其中所述居间光学部件包括漫射器或混合棒中的一者或多者。
9.根据权利要求1所述的系统,还包括:
光纤束,所述光纤束包括多个塑料光纤,其中所述发射器将所述电磁辐射脉冲发射到所述光纤束中;以及
居间光学部件,其中所述电磁辐射脉冲在进入所述光纤束之前穿过所述居间光学部件;
其中所述居间光学部件包括多个玻璃纤维。
10.根据权利要求1所述的系统,还包括:
光纤束,其中所述发射器将所述电磁辐射脉冲发射到所述光纤束中;以及
漫射器,所述漫射器设置在所述光纤束的远侧端部处;
其中所述漫射器提供光锥,所述光锥具有介于110度和120度之间的角度或介于70度和80度之间的角度。
11.根据权利要求1所述的系统,其中所述发射器还包括用于发射第三波长的电磁辐射脉冲的第三发射器、用于发射第四波长的电磁辐射脉冲的第四发射器、用于发射第五波长的电磁辐射脉冲的第五发射器和用于发射所述激光标测模式脉冲的第六发射器,并且其中:
由所述第一发射器发射的所述第一波长的电磁辐射是红光;
由所述第二发射器发射的所述第二波长的电磁辐射是蓝光;
由所述第三发射器发射的所述第三波长的电磁辐射是绿光;
由所述第四发射器发射的所述第四波长的电磁辐射是超光谱波长,所述超光谱波长包括以下的一者或多者:具有约513nm至约545nm的波长的所述电磁辐射,具有约565nm至约585nm的波长的所述电磁辐射,或者具有约900nm至约1000nm的波长的所述电磁辐射;并且
由所述第五发射器发射的所述第五波长的电磁辐射是包括以下的一者或多者的所述荧光激发波长:具有约770nm至约790nm的波长的电磁辐射,或者具有约795nm至约815nm的波长的电磁辐射。
12.根据权利要求1所述的系统,其中所述第一发射器是包括用于发射所述第一波长的所述电磁辐射脉冲的多个激光器的第一激光器束,并且所述第二发射器是包括用于发射所述第二波长的所述电磁辐射脉冲的多个激光器的第二激光器束。
13.根据权利要求1所述的系统,其中所述图像传感器被配置为生成多个曝光帧,其中所述多个曝光帧中的每一个曝光帧对应于由所述发射器发射的一个或多个电磁辐射脉冲。
14.根据权利要求13所述的系统,其中所述图像传感器的所述像素阵列在所述像素阵列的所述读出周期期间感测经反射的电磁辐射以生成所述多个曝光帧,其中所述读出周期包括所述像素阵列中的有效像素被读取时的时间段。
15.根据权利要求1所述的系统,其中所述发射器被配置成能够在脉冲持续时间期间发射具有短于所述脉冲持续时间的子持续时间的多个电磁辐射子脉冲。
16.根据权利要求1所述的系统,其中所述发射器发射的所述电磁辐射脉冲中的一个或多个电磁辐射脉冲包括作为单个脉冲或单个子脉冲以两个或更多个波长同时发射的电磁辐射。
17.根据权利要求1所述的系统,其中由所述发射器发射的所述电磁辐射脉冲的至少一部分是使得所述图像传感器产生荧光曝光帧的荧光激发发射,并且其中所述控制器被配置为向对应的荧光系统提供所述荧光曝光帧,所述对应的荧光系统基于所述荧光曝光帧来确定关键组织结构在场景内的位置。
18.根据权利要求17所述的系统,其中所述荧光激发发射包括以下的一者或多者:
具有约770nm至约790nm的波长的电磁辐射;或者
具有约795nm至约815nm的波长的电磁辐射。
19.根据权利要求18所述的系统,其中所述控制器被进一步配置为:
从所述对应荧光系统接收所述关键组织结构的所述位置;
生成包括所述关键组织结构的所述位置的叠层帧;以及
将所述叠层帧与描绘所述场景的彩色图像帧组合,以指示所述场景内所述关键组织结构的所述位置。
20.根据权利要求19所述的系统,其中所述像素阵列感测所述经反射的电磁辐射包括通过感测由所述发射器脉冲所述激光标测模式而产生的经反射的电磁辐射来生成激光标测曝光帧,并且其中所述控制器被配置为:
将所述激光标测曝光帧提供给对应激光标测系统,所述对应激光标测系统确定所述场景的拓扑结构和/或所述场景内一个或多个对象的尺寸;
将所述关键组织结构的所述位置提供给所述对应激光标测系统;以及
从所述对应激光标测系统接收所述关键组织结构的拓扑结构和/或尺寸。
21.根据权利要求20所述的系统,其中所述关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
22.根据权利要求1所述的系统,其中所述控制器被配置为在所述图像传感器的消隐周期期间同步所述电磁辐射脉冲的定时,其中所述消隐周期对应于所述像素阵列中的最后一行有效像素的读出与所述像素阵列中有效像素的下一次后续读出开始之间的时间。
23.根据权利要求1所述的系统,其中所述发射器发射的两个或更多个电磁辐射脉冲产生经反射的电磁辐射的两个或更多个实例,所述两个或更多个实例由所述像素阵列感测以生成被组合以形成图像帧的两个或更多个曝光帧。
24.根据权利要求1所述的系统,其中所述发射器被配置为重复发射足以生成包括多个图像帧的视频流的电磁辐射脉冲的序列,其中所述视频流中的每个图像帧包括来自多个曝光帧的数据,并且其中所述曝光帧中的每一个曝光帧对应于一个或多个电磁辐射脉冲。
25.根据权利要求1所述的系统,其中所述电磁辐射脉冲以不同波长的电磁辐射的模式发射,并且其中所述发射器重复不同波长的电磁辐射的所述模式。
26.根据权利要求1所述的系统,其中所述像素阵列感测经反射的电磁辐射包括通过感测由所述发射器脉冲所述激光标测模式而产生的经反射的电磁辐射来生成激光标测曝光帧,其中所述激光标测曝光帧包括用于确定实时测量的信息,所述信息包括以下的一者或多者;
从内窥镜到对象的距离;
内窥镜和所述对象之间的角度;或者
关于所述对象的表面拓扑结构信息。
27.根据权利要求1所述的系统,其中由所述发射器发射的所述电磁辐射脉冲的至少一部分包括用于场景内的多个工具中的每个工具的多个特定于工具的激光标测模式。
28.根据权利要求1所述的系统,其中所述发射器发射的所述激光标测模式包括彼此独立的第一输出和第二输出,其中所述第一输出用于光照明并且所述第二输出用于工具跟踪。
29.根据权利要求1所述的系统,其中由所述发射器发射的所述电磁辐射脉冲的至少一部分是使得所述图像传感器产生超光谱曝光帧的超光谱发射,并且其中所述控制器被配置为向对应的超光谱系统提供所述超光谱曝光帧,所述对应的超光谱系统基于所述超光谱曝光帧来确定场景内关键组织结构的位置。
30.根据权利要求29所述的系统,其中所述超光谱发射包括:
具有约513nm至约545nm的波长的所述电磁辐射以及具有约900nm至约1000nm的波长的所述电磁辐射;或者
具有约565nm至约585nm的波长的所述电磁辐射以及具有约900nm至约1000nm的波长的所述电磁辐射。
31.根据权利要求30所述的系统,其中所述控制器被进一步配置为:
从所述对应超光谱系统接收所述关键组织结构的所述位置;
生成包括所述关键组织结构的所述位置的叠层帧;以及
将所述叠层帧与描绘所述场景的彩色图像帧组合,以指示所述场景内所述关键组织结构的所述位置。
32.根据权利要求31所述的系统,其中所述像素阵列感测所述经反射的电磁辐射包括通过感测由所述发射器脉冲所述激光标测模式而产生的经反射的电磁辐射来生成激光标测曝光帧,并且其中所述控制器被进一步配置为:
将所述激光标测曝光帧提供给对应激光标测系统,所述对应激光标测系统确定所述场景的拓扑结构和/或所述场景内一个或多个对象的尺寸;
将所述关键组织结构的所述位置提供给所述对应激光标测系统;以及
从所述对应激光标测系统接收所述关键组织结构的拓扑结构和/或尺寸。
33.根据权利要求32所述的系统,其中所述关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962864268P | 2019-06-20 | 2019-06-20 | |
US62/864,268 | 2019-06-20 | ||
US16/845,989 | 2020-04-10 | ||
US16/845,989 US11531112B2 (en) | 2019-06-20 | 2020-04-10 | Offset illumination of a scene using multiple emitters in a hyperspectral, fluorescence, and laser mapping imaging system |
PCT/US2020/038794 WO2020257689A1 (en) | 2019-06-20 | 2020-06-19 | Offset illumination of a scene using multiple emitters in a hyperspectral, fluorescence, and laser mapping imaging system |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114007484A true CN114007484A (zh) | 2022-02-01 |
Family
ID=74037919
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080045999.5A Pending CN114025655A (zh) | 2019-06-20 | 2020-06-19 | 在激光标测成像系统中使用多个发射器的场景的偏移照明 |
CN202080045337.8A Pending CN114007484A (zh) | 2019-06-20 | 2020-06-19 | 在超光谱、荧光和激光标测成像系统中使用多个发射器的场景的偏移照明 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080045999.5A Pending CN114025655A (zh) | 2019-06-20 | 2020-06-19 | 在激光标测成像系统中使用多个发射器的场景的偏移照明 |
Country Status (4)
Country | Link |
---|---|
US (4) | US11589819B2 (zh) |
EP (2) | EP3986238A4 (zh) |
CN (2) | CN114025655A (zh) |
WO (3) | WO2020257687A1 (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AU2017388357B2 (en) * | 2016-12-27 | 2023-08-24 | DePuy Synthes Products, Inc. | Systems, methods, and devices for providing illumination in an endoscopic imaging environment |
US11931009B2 (en) | 2019-06-20 | 2024-03-19 | Cilag Gmbh International | Offset illumination of a scene using multiple emitters in a hyperspectral imaging system |
US11924535B2 (en) * | 2019-06-20 | 2024-03-05 | Cila GmbH International | Controlling integral energy of a laser pulse in a laser mapping imaging system |
US11550057B2 (en) | 2019-06-20 | 2023-01-10 | Cilag Gmbh International | Offset illumination of a scene using multiple emitters in a fluorescence imaging system |
US11903563B2 (en) | 2019-06-20 | 2024-02-20 | Cilag Gmbh International | Offset illumination of a scene using multiple emitters in a fluorescence imaging system |
US11589819B2 (en) | 2019-06-20 | 2023-02-28 | Cilag Gmbh International | Offset illumination of a scene using multiple emitters in a laser mapping imaging system |
US20230400560A1 (en) * | 2022-06-13 | 2023-12-14 | Datalogic IP Tech, S.r.l. | Dynamic utilization of broad-spectrum photosensor |
Family Cites Families (250)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3844047A (en) | 1973-01-29 | 1974-10-29 | R Carson | Electronic micrometers employing digital processing techniques |
JPS5588732A (en) * | 1978-12-26 | 1980-07-04 | Olympus Optical Co | Endoscope |
JPS5940830A (ja) | 1982-08-31 | 1984-03-06 | 浜松ホトニクス株式会社 | レ−ザ光パルスを用いた癌の診断装置 |
US5318024A (en) | 1985-03-22 | 1994-06-07 | Massachusetts Institute Of Technology | Laser endoscope for spectroscopic imaging |
JP2629323B2 (ja) | 1988-12-02 | 1997-07-09 | 富士写真光機株式会社 | 照明装置 |
JP3217343B2 (ja) | 1989-03-23 | 2001-10-09 | オリンパス光学工業株式会社 | 画像処理装置 |
JPH04158205A (ja) | 1990-10-23 | 1992-06-01 | Toshiba Corp | 形状計測内視鏡装置 |
US5784162A (en) | 1993-08-18 | 1998-07-21 | Applied Spectral Imaging Ltd. | Spectral bio-imaging methods for biological research, medical diagnostics and therapy |
US5363387A (en) | 1992-11-18 | 1994-11-08 | Rare Earth Medical, Inc. | Variable pulsewidth lasers |
US5749830A (en) | 1993-12-03 | 1998-05-12 | Olympus Optical Co., Ltd. | Fluorescent endoscope apparatus |
DE19612536A1 (de) | 1996-03-29 | 1997-10-02 | Freitag Lutz Dr | Anordnung und Verfahren zur Diagnose von malignem Gewebe durch Fluoreszenzbetrachtung |
US6038067A (en) * | 1996-05-23 | 2000-03-14 | The Regents Of The University Of California | Scanning computed confocal imager |
US7179222B2 (en) | 1996-11-20 | 2007-02-20 | Olympus Corporation | Fluorescent endoscope system enabling simultaneous achievement of normal light observation based on reflected light and fluorescence observation based on light with wavelengths in infrared spectrum |
US7468075B2 (en) | 2001-05-25 | 2008-12-23 | Conformis, Inc. | Methods and compositions for articular repair |
NL1005068C2 (nl) | 1997-01-23 | 1998-07-27 | Ct Rrn Academisch Ziekenhuis U | Cathetersysteem en een daarvan deel uitmakende catheter. |
EP1026999B1 (en) * | 1997-10-08 | 2006-06-07 | The General Hospital Corporation | Phototherapy systems |
DE69938493T2 (de) * | 1998-01-26 | 2009-05-20 | Massachusetts Institute Of Technology, Cambridge | Endoskop zur erfassung von fluoreszenzbilder |
US6110106A (en) | 1998-06-24 | 2000-08-29 | Biomax Technologies, Inc. | Endoscopes and methods relating to direct viewing of a target tissue |
US6468265B1 (en) | 1998-11-20 | 2002-10-22 | Intuitive Surgical, Inc. | Performing cardiac surgery without cardioplegia |
NZ529432A (en) | 1999-01-26 | 2005-07-29 | Newton Lab Inc | Autofluorescence imaging system for endoscopy |
US6448545B1 (en) * | 2000-01-18 | 2002-09-10 | Syncrotronics Corp. | Precision endoscopic imaging system |
US6563105B2 (en) | 1999-06-08 | 2003-05-13 | University Of Washington | Image acquisition with depth enhancement |
JP3850192B2 (ja) | 1999-12-09 | 2006-11-29 | 株式会社ニデック | 眼底撮影装置 |
US20020138008A1 (en) | 2000-01-13 | 2002-09-26 | Kazuhiro Tsujita | Method and apparatus for displaying fluorescence images and method and apparatus for acquiring endoscope images |
CA2404600A1 (en) | 2000-03-28 | 2001-10-04 | Board Of Regents, The University Of Texas System | Methods and apparatus for diagnostic multispectral digital imaging |
AU2001259435A1 (en) | 2000-05-03 | 2001-11-12 | Stephen T Flock | Optical imaging of subsurface anatomical structures and biomolecules |
JP2001337166A (ja) * | 2000-05-26 | 2001-12-07 | Minolta Co Ltd | 3次元入力方法および3次元入力装置 |
US6748259B1 (en) | 2000-06-15 | 2004-06-08 | Spectros Corporation | Optical imaging of induced signals in vivo under ambient light conditions |
US6975898B2 (en) * | 2000-06-19 | 2005-12-13 | University Of Washington | Medical imaging, diagnosis, and therapy using a scanning single optical fiber system |
JP3579638B2 (ja) | 2000-08-08 | 2004-10-20 | ペンタックス株式会社 | 内視鏡装置 |
JP2002065582A (ja) | 2000-08-25 | 2002-03-05 | Asahi Optical Co Ltd | 電子内視鏡装置 |
DE10107586A1 (de) | 2001-02-10 | 2002-08-14 | Biotronik Mess & Therapieg | Endoskopischer Katheter |
JP2002253500A (ja) | 2001-03-05 | 2002-09-10 | Olympus Optical Co Ltd | 内視鏡用光源装置 |
JP2002315721A (ja) | 2001-04-20 | 2002-10-29 | Mitaka Koki Co Ltd | 癌組織摘出手術用の立体視システム |
DE60227374D1 (de) | 2001-07-12 | 2008-08-14 | Do Labs | Verfahren und System zur Bereitstellung formatierter Informationen für Bildverarbeitungsvorrichtungen |
AU2002324775A1 (en) | 2001-08-23 | 2003-03-10 | Sciperio, Inc. | Architecture tool and methods of use |
US6995841B2 (en) | 2001-08-28 | 2006-02-07 | Rice University | Pulsed-multiline excitation for color-blind fluorescence detection |
US6985622B2 (en) | 2001-09-21 | 2006-01-10 | Hewlett-Packard Development Company, L.P. | System and method for color correcting electronically captured images by determining input media types using color correlation matrix |
US20040092958A1 (en) | 2001-11-15 | 2004-05-13 | Limonadi Farhad M. | Stereotactic wands, endoscopes and methods using such wands and endoscopes |
WO2003068064A1 (en) | 2002-02-12 | 2003-08-21 | Science & Engineering Associates, Inc. | Cancer detection and adaptive dose optimization treatment system |
WO2003070098A2 (en) | 2002-02-19 | 2003-08-28 | Biophan Technologies, Inc. | Magnetic resonance imaging capable catheter assembly |
US8620410B2 (en) | 2002-03-12 | 2013-12-31 | Beth Israel Deaconess Medical Center | Multi-channel medical imaging system |
US20030187319A1 (en) * | 2002-03-29 | 2003-10-02 | Olympus Optical Co., Ltd. | Sentinel lymph node detecting apparatus, and method thereof |
US6825930B2 (en) | 2002-06-04 | 2004-11-30 | Cambridge Research And Instrumentation, Inc. | Multispectral imaging system |
GB0217570D0 (en) | 2002-07-30 | 2002-09-11 | Univ Birmingham | Method and apparatus for quantifying material or object properties |
US7448995B2 (en) | 2003-06-23 | 2008-11-11 | Microvision, Inc. | Scanning endoscope |
EP1680024A2 (en) | 2003-10-21 | 2006-07-19 | The Board Of Trustees Of The Leland Stanford Junior University | Systems and methods for intraoperative targetting |
KR20070004821A (ko) | 2004-03-11 | 2007-01-09 | 더 제너럴 하스피탈 코포레이션 | 형광 단백질을 사용하는 단층 촬영 영상을 위한 방법 및시스템 |
US20050205758A1 (en) | 2004-03-19 | 2005-09-22 | Almeida Leo A | Method and apparatus for multi-spectral photodetection |
JP2006023382A (ja) * | 2004-07-06 | 2006-01-26 | Olympus Corp | 光走査型観察装置 |
JP4642401B2 (ja) * | 2004-07-26 | 2011-03-02 | オリンパス株式会社 | レーザ走査型観察装置 |
US8480566B2 (en) * | 2004-09-24 | 2013-07-09 | Vivid Medical, Inc. | Solid state illumination for endoscopy |
WO2006032106A1 (en) | 2004-09-24 | 2006-03-30 | Optiscan Pty Ltd | Tuning-fork-type scanning apparatus with a counterweight |
US7826878B2 (en) | 2004-12-07 | 2010-11-02 | Research Foundation Of City University Of New York | Optical tomography using independent component analysis for detection and localization of targets in turbid media |
JP5028008B2 (ja) | 2004-12-08 | 2012-09-19 | オリンパス株式会社 | 蛍光内視鏡装置 |
US8872906B2 (en) | 2005-01-05 | 2014-10-28 | Avantis Medical Systems, Inc. | Endoscope assembly with a polarizing filter |
DE202005003411U1 (de) | 2005-02-24 | 2006-07-06 | Karl Storz Gmbh & Co. Kg | Multifunktionales Fluoreszenzdiagnosesystem |
JP2006308624A (ja) | 2005-04-26 | 2006-11-09 | Matsushita Electric Ind Co Ltd | 現像装置 |
EP1889111A2 (en) | 2005-05-25 | 2008-02-20 | Massachusetts Institute of Technology | Multifocal imaging systems and methods |
JP2007029232A (ja) | 2005-07-25 | 2007-02-08 | Hitachi Medical Corp | 内視鏡手術操作支援システム |
US20070086495A1 (en) | 2005-08-12 | 2007-04-19 | Sprague Randall B | Method and apparatus for stable laser drive |
JP5114024B2 (ja) | 2005-08-31 | 2013-01-09 | オリンパス株式会社 | 光イメージング装置 |
GB0519761D0 (en) * | 2005-09-28 | 2005-11-09 | Point Source Ltd | Laser systems |
JP5001286B2 (ja) | 2005-10-11 | 2012-08-15 | プライム センス リミティド | 対象物再構成方法およびシステム |
DE102005054184B4 (de) | 2005-11-14 | 2020-10-29 | Carl Zeiss Microscopy Gmbh | Multispektrale Beleuchtungsvorrichtung und Messverfahren |
JP4744288B2 (ja) | 2005-12-21 | 2011-08-10 | オリンパスメディカルシステムズ株式会社 | 内視鏡装置 |
US20070213618A1 (en) * | 2006-01-17 | 2007-09-13 | University Of Washington | Scanning fiber-optic nonlinear optical imaging and spectroscopy endoscope |
US20090303317A1 (en) | 2006-02-07 | 2009-12-10 | Novadaq Technologies Inc. | Near infrared imaging |
US7817256B2 (en) | 2006-02-22 | 2010-10-19 | Kyushu Institute Of Technology | Personal authentication method and personal authentication device utilizing finger-tip blood flow measurement by laser light |
US8647119B1 (en) | 2006-04-18 | 2014-02-11 | President And Fellows Of Harvard College | Methods and kits with fluorescent probes for caries detection |
US7990524B2 (en) | 2006-06-30 | 2011-08-02 | The University Of Chicago | Stochastic scanning apparatus using multiphoton multifocal source |
US20080058629A1 (en) | 2006-08-21 | 2008-03-06 | University Of Washington | Optical fiber scope with both non-resonant illumination and resonant collection/imaging for multiple modes of operation |
US20080090220A1 (en) | 2006-08-28 | 2008-04-17 | Vincent Freeman | Modular virtual learning system and method |
US20100049180A1 (en) | 2007-10-19 | 2010-02-25 | Lockheed Martin Corporation | System and method for conditioning animal tissue using laser light |
DE102006046925A1 (de) | 2006-09-28 | 2008-04-03 | Jenlab Gmbh | Verfahren und Anordnung zur Laser-Endoskopie für die Mikrobearbeitung |
EP2111165B8 (en) * | 2007-01-19 | 2017-10-04 | Sunnybrook Health Sciences Centre | Imaging probe with combined ultrasound and optical means of imaging |
US20080177140A1 (en) | 2007-01-23 | 2008-07-24 | Xillix Technologies Corp. | Cameras for fluorescence and reflectance imaging |
JP2008259595A (ja) | 2007-04-10 | 2008-10-30 | Hamamatsu Photonics Kk | 蛍光観察装置 |
US7961764B2 (en) | 2007-09-12 | 2011-06-14 | Howard Hughes Medical Institute | Nonlinear imaging using passive pulse splitters and related technologies |
KR100885927B1 (ko) * | 2007-10-16 | 2009-02-26 | 광주과학기술원 | 형광수명 측정 방법 및 장치 |
US8553337B2 (en) | 2007-11-12 | 2013-10-08 | Cornell University | Multi-path, multi-magnification, non-confocal fluorescence emission endoscopy apparatus and methods |
JP5257891B2 (ja) | 2007-12-05 | 2013-08-07 | 富士フイルム株式会社 | 画像処理システムおよびプログラム |
US8115934B2 (en) * | 2008-01-18 | 2012-02-14 | The Board Of Trustees Of The University Of Illinois | Device and method for imaging the ear using optical coherence tomography |
KR101608749B1 (ko) | 2008-01-21 | 2016-04-06 | 삼성전자주식회사 | 박막 원심분리 분석 장치 및 이를 이용한 분석 방법 |
JP5165400B2 (ja) | 2008-01-23 | 2013-03-21 | オリンパス株式会社 | 光源装置 |
US9072445B2 (en) | 2008-01-24 | 2015-07-07 | Lifeguard Surgical Systems Inc. | Common bile duct surgical imaging system |
RU2510235C2 (ru) * | 2008-03-18 | 2014-03-27 | Новадак Текнолоджиз Инк. | Система визуализации для получения комбинированного изображения из полноцветного изображения в отраженном свете и изображение в ближней инфракрасной области |
US8593513B2 (en) | 2008-04-02 | 2013-11-26 | Fujifilm Corporation | Image capturing apparatus having first and second light reception sections, image capturing method, and computer-readable medium |
US8169468B2 (en) * | 2008-04-26 | 2012-05-01 | Intuitive Surgical Operations, Inc. | Augmented stereoscopic visualization for a surgical robot |
US20090289200A1 (en) | 2008-05-22 | 2009-11-26 | Fujifilm Corporation | Fluorescent image obtainment method and apparatus, fluorescence endoscope, and excitation-light unit |
EP2241244A1 (en) | 2008-06-04 | 2010-10-20 | Fujifilm Corporation | Illumination device for use in endoscope |
JP5216429B2 (ja) | 2008-06-13 | 2013-06-19 | 富士フイルム株式会社 | 光源装置および内視鏡装置 |
US9117133B2 (en) | 2008-06-18 | 2015-08-25 | Spectral Image, Inc. | Systems and methods for hyperspectral imaging |
WO2010019515A2 (en) | 2008-08-10 | 2010-02-18 | Board Of Regents, The University Of Texas System | Digital light processing hyperspectral imaging apparatus |
US20120273470A1 (en) | 2011-02-24 | 2012-11-01 | Zediker Mark S | Method of protecting high power laser drilling, workover and completion systems from carbon gettering deposits |
WO2010032306A1 (ja) | 2008-09-18 | 2010-03-25 | 株式会社島津製作所 | 蛍光画像検出装置及び蛍光画像検出方法 |
EP3502256A3 (en) | 2008-09-26 | 2019-09-25 | Tocagen Inc. | Recombinant vectors |
US20100249607A1 (en) * | 2008-09-26 | 2010-09-30 | Massachusetts Institute Of Technology | Quantitative spectroscopic imaging |
JP5485288B2 (ja) | 2008-11-25 | 2014-05-07 | テトラビュー, インコーポレイテッド | 高解像度三次元撮像のシステムおよび方法 |
JP2010125284A (ja) | 2008-12-01 | 2010-06-10 | Fujifilm Corp | 撮像システム |
JP5342869B2 (ja) | 2008-12-22 | 2013-11-13 | Hoya株式会社 | 内視鏡装置、内視鏡照明装置、画像形成装置、内視鏡照明装置の作動方法および画像形成装置の作動方法 |
US9155471B2 (en) * | 2009-05-27 | 2015-10-13 | Lumicell, Inc'. | Methods and systems for spatially identifying abnormal cells |
EP2435096A1 (en) * | 2009-05-27 | 2012-04-04 | Lumicell Diagnostics, Inc. | Methods and systems for spatially identifying abnormal cells |
JP5874116B2 (ja) | 2009-07-30 | 2016-03-02 | 国立研究開発法人産業技術総合研究所 | 画像撮影装置および画像撮影方法 |
US9060776B2 (en) | 2009-10-09 | 2015-06-23 | Ethicon Endo-Surgery, Inc. | Surgical generator for ultrasonic and electrosurgical devices |
BR112012016973A2 (pt) | 2010-01-13 | 2017-09-26 | Koninl Philips Electronics Nv | sistema de navegação cirúrgica para a integração de uma pluralidade de imagens de uma região anatômica de um corpo, incluíndo uma imagem pré-operatótia digitalizada, uma imagem intra-operatória fluoroscópia e uma imagem intra-operatória endoscópica |
US9044142B2 (en) | 2010-03-12 | 2015-06-02 | Carl Zeiss Meditec Ag | Surgical optical systems for detecting brain tumors |
JP2011206227A (ja) | 2010-03-29 | 2011-10-20 | Fujifilm Corp | 内視鏡装置 |
JP2011206435A (ja) | 2010-03-30 | 2011-10-20 | Fujifilm Corp | 撮像装置、撮像方法、撮像プログラム、及び内視鏡 |
CN103002826B (zh) | 2010-04-22 | 2016-11-09 | 精密光手术公司 | 闪蒸手术系统 |
US8662670B2 (en) | 2010-05-28 | 2014-03-04 | Alcon Research, Ltd. | Spectrally-adjustable ophthalmic illumination with discrete sources |
US9946058B2 (en) | 2010-06-11 | 2018-04-17 | Nikon Corporation | Microscope apparatus and observation method |
US8639038B2 (en) * | 2010-06-18 | 2014-01-28 | National Ict Australia Limited | Descriptor of a hyperspectral or multispectral image |
JP2012016545A (ja) | 2010-07-09 | 2012-01-26 | Fujifilm Corp | 内視鏡装置 |
JP5707758B2 (ja) | 2010-07-13 | 2015-04-30 | ソニー株式会社 | 撮像装置、撮像システム、手術用ナビゲーションシステム、及び撮像方法 |
JP5544231B2 (ja) | 2010-07-15 | 2014-07-09 | 富士フイルム株式会社 | 内視鏡光源装置及び内視鏡システム |
JP5481294B2 (ja) | 2010-07-15 | 2014-04-23 | 富士フイルム株式会社 | 内視鏡システム |
JP5484258B2 (ja) | 2010-08-24 | 2014-05-07 | 富士フイルム株式会社 | 色分解光学系 |
JP2012078503A (ja) * | 2010-09-30 | 2012-04-19 | Olympus Corp | 照明装置および観察システム |
EP2637553A2 (en) | 2010-11-12 | 2013-09-18 | Emory University | Additional systems and methods for providing real-time anatomical guidance in a diagnostic or therapeutic procedure |
JP5526000B2 (ja) | 2010-11-15 | 2014-06-18 | 富士フイルム株式会社 | 内視鏡及び内視鏡用光源装置 |
JP5808218B2 (ja) | 2010-11-25 | 2015-11-10 | 富士フイルム株式会社 | 内視鏡用照明光学系ユニット及びその製造方法 |
JP5351924B2 (ja) | 2011-04-01 | 2013-11-27 | 富士フイルム株式会社 | 生体情報取得システムおよび生体情報取得システムの作動方法 |
DE102011018597B9 (de) * | 2011-04-21 | 2013-01-24 | Vrmagic Gmbh | Verfahren zum synchronisierten Betrieb einer Kamera und eines Projektors |
WO2012147679A1 (ja) | 2011-04-27 | 2012-11-01 | オリンパス株式会社 | 内視鏡装置および計測方法 |
JP6083051B2 (ja) * | 2011-05-12 | 2017-02-22 | デピュー シンセス プロダクツ, インコーポレーテッドDePuy Synthes Products, Inc. | 内視鏡用の改良型画像センサ |
JP5627110B2 (ja) | 2011-06-01 | 2014-11-19 | モレックス インコーポレイテドMolex Incorporated | 太陽電池モジュール用ジャンクションボックス |
JP6051397B2 (ja) * | 2011-06-07 | 2016-12-27 | ナノフォトン株式会社 | ラマン顕微鏡、及びラマン分光測定方法 |
EP2725967B1 (en) * | 2011-06-28 | 2020-08-05 | Koninklijke Philips N.V. | An apparatus for optical analysis of an associated tissue sample |
WO2013009970A1 (en) | 2011-07-13 | 2013-01-17 | Viking Systems, Inc | Method and apparatus for obtaining stereoscopic 3d visualization using commercially available 2d endoscopes |
KR102529996B1 (ko) * | 2011-08-12 | 2023-05-08 | 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 | 수술기기 내의 이미지 캡쳐 장치 |
US8827990B2 (en) | 2011-09-29 | 2014-09-09 | Biolase, Inc. | Methods for treating eye conditions |
JP6087049B2 (ja) | 2011-11-02 | 2017-03-01 | 浜松ホトニクス株式会社 | 蛍光ファントム装置および蛍光イメージング方法 |
US20130211246A1 (en) | 2011-12-27 | 2013-08-15 | Vinod PARASHER | METHODS AND DEVICES FOR GASTROINTESTINAL SURGICAL PROCEDURES USING NEAR INFRARED (nIR) IMAGING TECHNIQUES |
US11510600B2 (en) * | 2012-01-04 | 2022-11-29 | The Trustees Of Dartmouth College | Method and apparatus for quantitative and depth resolved hyperspectral fluorescence and reflectance imaging for surgical guidance |
JP5918548B2 (ja) | 2012-01-24 | 2016-05-18 | 富士フイルム株式会社 | 内視鏡画像診断支援装置およびその作動方法並びに内視鏡画像診断支援プログラム |
WO2013116316A1 (en) * | 2012-01-30 | 2013-08-08 | Scanadu Incorporated | Hyperspectral imaging systems, units, and methods |
PL2809225T3 (pl) * | 2012-02-03 | 2017-12-29 | Oregon Health & Science University | Optyczne obrazowanie przepływu in vivo |
JP5620932B2 (ja) * | 2012-02-14 | 2014-11-05 | 富士フイルム株式会社 | 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡システムの作動方法 |
EP2719317A4 (en) | 2012-03-30 | 2015-05-06 | Olympus Medical Systems Corp | ENDOSCOPE |
US9277205B2 (en) * | 2012-05-14 | 2016-03-01 | Intuitive Surgical Operations, Inc. | Single-chip sensor multi-function imaging |
JP5965726B2 (ja) | 2012-05-24 | 2016-08-10 | オリンパス株式会社 | 立体視内視鏡装置 |
US10953241B2 (en) | 2012-05-25 | 2021-03-23 | Ojai Retinal Technology, Llc | Process for providing protective therapy for biological tissues or fluids |
WO2014014838A2 (en) | 2012-07-15 | 2014-01-23 | 2R1Y | Interactive illumination for gesture and/or object recognition |
US10568496B2 (en) | 2012-07-26 | 2020-02-25 | DePuy Synthes Products, Inc. | Continuous video in a light deficient environment |
EP2878123B1 (en) * | 2012-07-26 | 2017-12-20 | DePuy Synthes Products, Inc. | Wide dynamic range using monochromatic sensor |
WO2014018948A2 (en) * | 2012-07-26 | 2014-01-30 | Olive Medical Corporation | Camera system with minimal area monolithic cmos image sensor |
CN104619237B (zh) | 2012-07-26 | 2018-03-30 | 德普伊辛迪斯制品公司 | 光不足环境中的ycbcr脉冲调制的照明方案 |
GB2505926A (en) | 2012-09-14 | 2014-03-19 | Sony Corp | Display of Depth Information Within a Scene |
US10206610B2 (en) | 2012-10-05 | 2019-02-19 | TransRobotics, Inc. | Systems and methods for high resolution distance sensing and applications |
US10178368B2 (en) | 2012-10-23 | 2019-01-08 | Intuitive Surgical Operations, Inc. | Stereo imaging system with automatic disparity adjustment for displaying close range objects |
EP2918217B1 (en) | 2012-11-09 | 2019-03-06 | Panasonic Intellectual Property Management Co., Ltd. | Image processing device and endoscope |
US10267786B2 (en) | 2013-01-24 | 2019-04-23 | Board Of Regents, The University Of Texas System | Systems and methods for high-resolution imaging |
AU2014223163A1 (en) * | 2013-02-28 | 2015-08-20 | Olive Medical Corporation | Videostroboscopy of vocal chords with CMOS sensors |
WO2014134314A1 (en) | 2013-03-01 | 2014-09-04 | The Johns Hopkins University | Light sources, medical devices, and methods of illuminating an object of interest |
US9456752B2 (en) | 2013-03-14 | 2016-10-04 | Aperture Diagnostics Ltd. | Full-field three-dimensional surface measurement |
WO2014146053A2 (en) | 2013-03-15 | 2014-09-18 | Hypermed Imaging, Inc. | Systems and methods for evaluating hyperspectral imaging data using a two layer media model of human tissue |
CA2906828A1 (en) * | 2013-03-15 | 2014-09-18 | Olive Medical Corporation | System and method for removing speckle from a scene lit by a coherent light source |
CA2906832A1 (en) * | 2013-03-15 | 2014-09-18 | Olive Medical Corporation | Viewing trocar with intergrated prism for use with angled endoscope |
EP2967300A4 (en) | 2013-03-15 | 2016-11-23 | Olive Medical Corp | CONTROL OF THE INTEGRATED LIGHT ENERGY OF A LASER PULSE |
EP2967299B1 (en) | 2013-03-15 | 2022-11-30 | Stryker Corporation | Endoscopic light source and imaging system |
CN105246394B (zh) * | 2013-03-15 | 2018-01-12 | 德普伊新特斯产品公司 | 无输入时钟和数据传输时钟的图像传感器同步 |
DE102013103333A1 (de) | 2013-04-03 | 2014-10-09 | Karl Storz Gmbh & Co. Kg | Kamera zur Erfassung von optischen Eigenschaften und von Raumstruktureigenschaften |
EP2904961B1 (en) | 2013-04-19 | 2018-01-03 | Olympus Corporation | Endoscope device |
US9407838B2 (en) * | 2013-04-23 | 2016-08-02 | Cedars-Sinai Medical Center | Systems and methods for recording simultaneously visible light image and infrared light image from fluorophores |
US10165972B2 (en) | 2013-07-12 | 2019-01-01 | Inthesmart Co., Ltd. | Apparatus and method for detecting NIR fluorescence at sentinel lymph node |
EP2827099A1 (de) | 2013-07-16 | 2015-01-21 | Leica Geosystems AG | Lasertracker mit Zielsuchfunktionalität |
CN105407789B (zh) | 2013-08-01 | 2017-07-14 | 奥林巴斯株式会社 | 内窥镜系统、内窥镜系统的工作方法 |
JP5891208B2 (ja) | 2013-08-13 | 2016-03-22 | Hoya株式会社 | 内視鏡用照明光学系 |
WO2015077493A1 (en) | 2013-11-20 | 2015-05-28 | Digimarc Corporation | Sensor-synchronized spectrally-structured-light imaging |
DE102013113511A1 (de) | 2013-12-05 | 2015-06-11 | Karl Storz Gmbh & Co. Kg | Endoskop, Exoskop oder Mikroskop und Verfahren zur Beleuchtung eines Betätigungsbereiches eines Endoskops, Exoskops oder Mikroskops |
JP6129731B2 (ja) | 2013-12-24 | 2017-05-17 | 富士フイルム株式会社 | 内視鏡システム及びその作動方法 |
JP6151850B2 (ja) * | 2014-03-28 | 2017-06-21 | 富士フイルム株式会社 | 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡システムの作動方法 |
EP3137007A4 (en) | 2014-04-28 | 2017-09-27 | Cardiofocus, Inc. | System and method for visualizing tissue with an icg dye composition during ablation procedures |
CN103989459B (zh) | 2014-05-20 | 2021-05-18 | 曾堃 | 用于鉴别恶性肿瘤的形成过程的光学观测设备及内窥镜 |
CN106415359B (zh) * | 2014-05-30 | 2021-01-26 | 索尼公司 | 照明装置、方法与医疗成像系统 |
EP3940371B1 (en) | 2014-06-05 | 2023-08-30 | Universität Heidelberg | Method and imaging apparatus for acquisition of fluorescence and reflectance images |
JP6039606B2 (ja) | 2014-06-24 | 2016-12-07 | 富士フイルム株式会社 | 内視鏡システム、光源装置、内視鏡システムの作動方法、及び光源装置の作動方法 |
JP6253527B2 (ja) | 2014-06-24 | 2017-12-27 | オリンパス株式会社 | 内視鏡装置 |
JP6251888B2 (ja) | 2014-06-25 | 2017-12-27 | パナソニックIpマネジメント株式会社 | 投影システム |
JP6340424B2 (ja) | 2014-07-09 | 2018-06-06 | オリンパス株式会社 | 内視鏡システム及び内視鏡用光源装置 |
ES2907287T3 (es) | 2014-07-25 | 2022-04-22 | Massachusetts Gen Hospital | Aparato para imagenología y diagnóstico in vivo |
US20170035280A1 (en) | 2015-08-07 | 2017-02-09 | Reinroth Gmbh | Stereoscopic endoscope system with concurrent imaging at visible and infrared wavelengths |
US9547165B2 (en) | 2014-08-29 | 2017-01-17 | Reinroth Gmbh | Endoscope system with single camera for concurrent imaging at visible and infrared wavelengths |
US10473916B2 (en) | 2014-09-30 | 2019-11-12 | Washington University | Multiple-view compressed-sensing ultrafast photography (MV-CUP) |
US9717417B2 (en) | 2014-10-29 | 2017-08-01 | Spectral Md, Inc. | Reflective mode multi-spectral time-resolved optical imaging methods and apparatuses for tissue classification |
CN106999025B (zh) | 2014-11-27 | 2018-12-18 | 奥林巴斯株式会社 | 内窥镜装置 |
CN112057169B (zh) | 2014-12-16 | 2024-09-06 | 直观外科手术操作公司 | 利用波段选择性成像的输尿管检测 |
WO2016100701A1 (en) * | 2014-12-17 | 2016-06-23 | Singulex, Inc. | Multiplexed single molecule analyzer |
CN107278135B (zh) * | 2014-12-29 | 2020-02-14 | 波士顿科学国际有限公司 | 医疗装置组件及相关方法 |
US10939864B2 (en) * | 2015-02-03 | 2021-03-09 | Arizona Board Of Regents On Behalf Of The University Of Arizona | Falloposcope and method for ovarian cancer detection |
US10666928B2 (en) | 2015-02-06 | 2020-05-26 | The University Of Akron | Optical imaging system and methods thereof |
DE102015003019A1 (de) | 2015-03-06 | 2016-09-08 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Verfahren und Vorrichtung zur optischen Detektion einer Bewegung in einer biologischen Probe mit räumlicher Ausdehnung |
US10390718B2 (en) * | 2015-03-20 | 2019-08-27 | East Carolina University | Multi-spectral physiologic visualization (MSPV) using laser imaging methods and systems for blood flow and perfusion imaging and quantification in an endoscopic design |
US10043282B2 (en) | 2015-04-13 | 2018-08-07 | Gerard Dirk Smits | Machine vision for ego-motion, segmenting, and classifying objects |
US20170059305A1 (en) | 2015-08-25 | 2017-03-02 | Lytro, Inc. | Active illumination for enhanced depth map generation |
JP2016202726A (ja) | 2015-04-27 | 2016-12-08 | ソニー株式会社 | 光線力学診断装置及び光線力学診断方法 |
JPWO2016185763A1 (ja) * | 2015-05-15 | 2018-03-01 | ソニー株式会社 | 光源制御装置及び光源制御方法並びに撮像システム |
US11466316B2 (en) | 2015-05-20 | 2022-10-11 | Quantum-Si Incorporated | Pulsed laser and bioanalytic system |
EP3216385A4 (en) | 2015-05-28 | 2018-08-22 | Olympus Corporation | Light source device |
JP6484336B2 (ja) | 2015-06-17 | 2019-03-13 | オリンパス株式会社 | 撮像装置 |
US10987129B2 (en) | 2015-09-04 | 2021-04-27 | Medos International Sarl | Multi-shield spinal access system |
EP3859425B1 (en) | 2015-09-17 | 2024-04-17 | S.D. Sight Diagnostics Ltd. | Methods and apparatus for detecting an entity in a bodily sample |
US9936151B2 (en) | 2015-10-16 | 2018-04-03 | Capsovision Inc | Single image sensor for capturing mixed structured-light images and regular images |
US10306156B2 (en) * | 2015-11-30 | 2019-05-28 | Photopotech LLC | Image-capture device |
US9939231B2 (en) | 2016-01-20 | 2018-04-10 | Raytheon Company | Dual-band semi-active laser system |
US10980420B2 (en) | 2016-01-26 | 2021-04-20 | Stryker European Operations Limited | Configurable platform |
US10708478B2 (en) | 2016-03-23 | 2020-07-07 | Karl Storz Imaging, Inc. | Image transformation and display for fluorescent and visible imaging |
US20170280970A1 (en) | 2016-03-31 | 2017-10-05 | Covidien Lp | Thoracic endoscope for surface scanning |
US10690904B2 (en) * | 2016-04-12 | 2020-06-23 | Stryker Corporation | Multiple imaging modality light source |
CN109477784B (zh) | 2016-05-12 | 2022-04-01 | Bd生物科学公司 | 具有增强图像分辨率的荧光成像流式细胞术 |
US11506789B2 (en) | 2016-05-16 | 2022-11-22 | Sony Corporation | Imaging device and endoscope |
US10798310B2 (en) | 2016-05-17 | 2020-10-06 | Hypermed Imaging, Inc. | Hyperspectral imager coupled with indicator molecule tracking |
WO2017221336A1 (ja) | 2016-06-21 | 2017-12-28 | オリンパス株式会社 | 内視鏡システム、画像処理装置、画像処理方法およびプログラム |
WO2018008062A1 (ja) | 2016-07-04 | 2018-01-11 | オリンパス株式会社 | 蛍光観察装置および蛍光観察内視鏡装置 |
US10175425B2 (en) | 2016-07-13 | 2019-01-08 | Micatu Inc. | Integrated polarizing and analyzing optical fiber collimator device and methods of use thereof |
US20210022827A1 (en) | 2016-07-15 | 2021-01-28 | The Board Of Regents For Oklahoma State University | Devices and methods of tissue visualization for use in laparoscopic, robot-assisted laparoscopic, and open procedures |
US10709333B2 (en) | 2016-07-25 | 2020-07-14 | PhotoSound Technologies, Inc. | Instrument for acquiring co-registered orthogonal fluorescence and photoacoustic volumetric projections of tissue and methods of its use |
US11911003B2 (en) | 2016-09-09 | 2024-02-27 | Intuitive Surgical Operations, Inc. | Simultaneous white light and hyperspectral light imaging systems |
JP6364050B2 (ja) | 2016-09-13 | 2018-07-25 | パナソニック株式会社 | 内視鏡システム |
WO2018102467A1 (en) * | 2016-11-29 | 2018-06-07 | Anasys Instruments Corporation | Method and apparatus for enhanced photo-thermal imaging and spectroscopy |
AU2017388357B2 (en) | 2016-12-27 | 2023-08-24 | DePuy Synthes Products, Inc. | Systems, methods, and devices for providing illumination in an endoscopic imaging environment |
US10386489B2 (en) | 2017-02-01 | 2019-08-20 | Jeffrey Albelo | Beam scanner for autonomous vehicles |
JP6931705B2 (ja) | 2017-02-10 | 2021-09-08 | ノバダック テクノロジーズ ユーエルシー | オープンフィールドハンドヘルド蛍光イメージングシステムおよび方法 |
US11083537B2 (en) * | 2017-04-24 | 2021-08-10 | Alcon Inc. | Stereoscopic camera with fluorescence visualization |
US10299880B2 (en) * | 2017-04-24 | 2019-05-28 | Truevision Systems, Inc. | Stereoscopic visualization camera and platform |
DE112018003134T5 (de) * | 2017-08-28 | 2020-03-05 | Hoya Corporation | Endoskoplichtquellenvorrichtung und Endoskopsystem |
WO2019070632A1 (en) | 2017-10-02 | 2019-04-11 | Contraline, Inc. | METHOD AND APPARATUS FOR ADMINISTERING STIMULUS TO OCCLUSIVE IMPLANT |
US10942116B2 (en) * | 2017-10-09 | 2021-03-09 | Photothermal Spectroscopy Corp. | Method and apparatus for enhanced photo-thermal imaging and spectroscopy |
US11801098B2 (en) | 2017-10-30 | 2023-10-31 | Cilag Gmbh International | Method of hub communication with surgical instrument systems |
US11911045B2 (en) | 2017-10-30 | 2024-02-27 | Cllag GmbH International | Method for operating a powered articulating multi-clip applier |
CN111542748A (zh) | 2017-11-13 | 2020-08-14 | 索尼公司 | 信息处理装置、信息处理方法和荧光图像捕捉系统 |
WO2019104329A1 (en) | 2017-11-27 | 2019-05-31 | Optecks, Llc | Medical three-dimensional (3d) scanning and mapping system |
DE102017129188A1 (de) | 2017-12-07 | 2019-06-13 | Olympus Winter & Ibe Gmbh | Endoskop mit schwenkbarem Griffteil |
US10222474B1 (en) * | 2017-12-13 | 2019-03-05 | Soraa Laser Diode, Inc. | Lidar systems including a gallium and nitrogen containing laser light source |
BR112020012594A2 (pt) | 2017-12-27 | 2020-11-24 | Ethicon Llc | imageamento hiperespectral em um ambiente com deficiência de luz |
CN108378825A (zh) | 2018-03-23 | 2018-08-10 | 张栋 | 一种黑白单相机实现的医用四色多光谱成像方法和装置 |
TW201944955A (zh) | 2018-03-30 | 2019-12-01 | 美商布雷茲生物科學股份有限公司 | 用於同時近紅外光和可見光成像之系統及方法 |
JP2019185002A (ja) | 2018-04-11 | 2019-10-24 | ソニー株式会社 | 顕微鏡システム及び医療用光源装置 |
JP7170342B2 (ja) * | 2018-07-09 | 2022-11-14 | 国立大学法人神戸大学 | ホログラフィック3次元マルチスポット光刺激装置及び方法 |
CN112888934B (zh) * | 2018-08-17 | 2024-10-01 | 方宁 | 拉曼光谱法与高级光学显微法的集成系统及其应用 |
DE102018124984A1 (de) | 2018-10-10 | 2020-04-16 | Friedrich-Schiller-Universität Jena | Verfahren und Vorrichtung zur hochaufgelösten Fluoreszenzmikroskopie |
GB2579801B (en) * | 2018-12-13 | 2021-04-14 | Exalos Ag | Superluminescent diode module |
CN109602401B (zh) * | 2019-01-28 | 2021-08-27 | 徐州市心血管病研究所 | 一种微血管血流动力学参数分析仪及分析方法 |
US11931009B2 (en) | 2019-06-20 | 2024-03-19 | Cilag Gmbh International | Offset illumination of a scene using multiple emitters in a hyperspectral imaging system |
US11924535B2 (en) * | 2019-06-20 | 2024-03-05 | Cila GmbH International | Controlling integral energy of a laser pulse in a laser mapping imaging system |
US11550057B2 (en) | 2019-06-20 | 2023-01-10 | Cilag Gmbh International | Offset illumination of a scene using multiple emitters in a fluorescence imaging system |
US11903563B2 (en) | 2019-06-20 | 2024-02-20 | Cilag Gmbh International | Offset illumination of a scene using multiple emitters in a fluorescence imaging system |
US11589819B2 (en) | 2019-06-20 | 2023-02-28 | Cilag Gmbh International | Offset illumination of a scene using multiple emitters in a laser mapping imaging system |
US11006093B1 (en) | 2020-01-22 | 2021-05-11 | Photonic Medical Inc. | Open view, multi-modal, calibrated digital loupe with depth sensing |
-
2020
- 2020-04-10 US US16/845,978 patent/US11589819B2/en active Active
- 2020-04-10 US US16/845,974 patent/US20200397239A1/en not_active Abandoned
- 2020-04-10 US US16/845,989 patent/US11531112B2/en active Active
- 2020-06-19 CN CN202080045999.5A patent/CN114025655A/zh active Pending
- 2020-06-19 WO PCT/US2020/038792 patent/WO2020257687A1/en active Application Filing
- 2020-06-19 EP EP20827463.9A patent/EP3986238A4/en active Pending
- 2020-06-19 EP EP20826784.9A patent/EP3986232A4/en active Pending
- 2020-06-19 CN CN202080045337.8A patent/CN114007484A/zh active Pending
- 2020-06-19 WO PCT/US2020/038791 patent/WO2020257686A1/en active Application Filing
- 2020-06-19 WO PCT/US2020/038794 patent/WO2020257689A1/en active Application Filing
-
2022
- 2022-12-19 US US18/068,193 patent/US11974860B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
WO2020257686A1 (en) | 2020-12-24 |
CN114025655A (zh) | 2022-02-08 |
EP3986238A1 (en) | 2022-04-27 |
EP3986232A4 (en) | 2023-07-05 |
WO2020257687A1 (en) | 2020-12-24 |
WO2020257689A1 (en) | 2020-12-24 |
US11589819B2 (en) | 2023-02-28 |
US20200397239A1 (en) | 2020-12-24 |
EP3986238A4 (en) | 2023-06-07 |
US11974860B2 (en) | 2024-05-07 |
EP3986232A1 (en) | 2022-04-27 |
US20200400835A1 (en) | 2020-12-24 |
US20200400833A1 (en) | 2020-12-24 |
US20230130164A1 (en) | 2023-04-27 |
US11531112B2 (en) | 2022-12-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11747479B2 (en) | Pulsed illumination in a hyperspectral, fluorescence and laser mapping imaging system | |
CN114007484A (zh) | 在超光谱、荧光和激光标测成像系统中使用多个发射器的场景的偏移照明 | |
CN114245868A (zh) | 使用用于超光谱和荧光成像和形貌激光标测的单色图像传感器的宽动态范围 | |
CN114026845A (zh) | 在荧光成像系统中使用多个发射器的场景的偏移照明 | |
US11457154B2 (en) | Speckle removal in a pulsed hyperspectral, fluorescence, and laser mapping imaging system | |
CN114072041A (zh) | 用于超光谱成像、荧光成像和激光标测成像的内窥镜系统中的光纤波导 | |
CN114128253A (zh) | 内窥镜超光谱成像、荧光成像和激光标测成像系统中的图像旋转 | |
CN114025656A (zh) | 脉冲超光谱、荧光和激光标测成像系统中的噪声感知边缘增强 | |
CN114449940A (zh) | 在缺光环境中的激光扫描和工具跟踪成像 | |
CN114072035A (zh) | 在超光谱成像系统中使用多个发射器的场景的偏移照明 | |
CN114144659A (zh) | 控制超光谱、荧光和激光标测成像系统中的激光脉冲的积分能量 | |
CN114175620A (zh) | 内窥镜激光标测成像系统中的图像旋转 | |
WO2020257011A1 (en) | Image synchronization without input clock and data transmission clock in a pulsed hyperspectral, fluorescence, and laser mapping imaging system | |
CN114128243A (zh) | 在缺光环境中利用拓扑激光扫描进行超光谱和荧光成像 | |
US11940615B2 (en) | Driving light emissions according to a jitter specification in a multispectral, fluorescence, and laser mapping imaging system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |