CN112584743A - 医疗系统、信息处理装置和信息处理方法 - Google Patents
医疗系统、信息处理装置和信息处理方法 Download PDFInfo
- Publication number
- CN112584743A CN112584743A CN201980054396.9A CN201980054396A CN112584743A CN 112584743 A CN112584743 A CN 112584743A CN 201980054396 A CN201980054396 A CN 201980054396A CN 112584743 A CN112584743 A CN 112584743A
- Authority
- CN
- China
- Prior art keywords
- image
- speckle
- motion
- unit
- speckle contrast
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 230000010365 information processing Effects 0.000 title claims description 61
- 238000003672 processing method Methods 0.000 title claims description 10
- 230000033001 locomotion Effects 0.000 claims abstract description 183
- 238000001514 detection method Methods 0.000 claims abstract description 62
- 230000001427 coherent effect Effects 0.000 claims abstract description 22
- 230000001678 irradiating effect Effects 0.000 claims abstract description 15
- 238000000034 method Methods 0.000 claims description 111
- 230000017531 blood circulation Effects 0.000 claims description 90
- 238000012545 processing Methods 0.000 claims description 68
- 230000008569 process Effects 0.000 claims description 45
- 210000004204 blood vessel Anatomy 0.000 claims description 16
- 238000003384 imaging method Methods 0.000 abstract description 22
- 230000006854 communication Effects 0.000 description 47
- 238000004891 communication Methods 0.000 description 47
- 230000003287 optical effect Effects 0.000 description 39
- 238000010586 diagram Methods 0.000 description 32
- 238000001356 surgical procedure Methods 0.000 description 19
- 230000006870 function Effects 0.000 description 18
- MOFVSTNWEDAEEK-UHFFFAOYSA-M indocyanine green Chemical compound [Na+].[O-]S(=O)(=O)CCCCN1C2=CC=C3C=CC=CC3=C2C(C)(C)C1=CC=CC=CC=CC1=[N+](CCCCS([O-])(=O)=O)C2=CC=C(C=CC=C3)C3=C2C1(C)C MOFVSTNWEDAEEK-UHFFFAOYSA-M 0.000 description 18
- 229960004657 indocyanine green Drugs 0.000 description 18
- 238000012937 correction Methods 0.000 description 17
- 230000005540 biological transmission Effects 0.000 description 12
- 239000012530 fluid Substances 0.000 description 12
- 230000010354 integration Effects 0.000 description 12
- 238000012986 modification Methods 0.000 description 12
- 230000004048 modification Effects 0.000 description 12
- 230000009467 reduction Effects 0.000 description 10
- 238000002674 endoscopic surgery Methods 0.000 description 9
- 230000004044 response Effects 0.000 description 8
- 238000006243 chemical reaction Methods 0.000 description 7
- 230000007246 mechanism Effects 0.000 description 7
- 206010002329 Aneurysm Diseases 0.000 description 5
- 208000005646 Pneumoperitoneum Diseases 0.000 description 5
- 210000004369 blood Anatomy 0.000 description 5
- 239000008280 blood Substances 0.000 description 5
- 230000005284 excitation Effects 0.000 description 5
- 238000003860 storage Methods 0.000 description 5
- 238000011282 treatment Methods 0.000 description 5
- 238000011161 development Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 239000004065 semiconductor Substances 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 3
- 201000008450 Intracranial aneurysm Diseases 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 239000006059 cover glass Substances 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 229940079593 drug Drugs 0.000 description 3
- 239000003814 drug Substances 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 230000003692 lymphatic flow Effects 0.000 description 3
- 238000007789 sealing Methods 0.000 description 3
- XKRFYHLGVUSROY-UHFFFAOYSA-N Argon Chemical compound [Ar] XKRFYHLGVUSROY-UHFFFAOYSA-N 0.000 description 2
- 210000003815 abdominal wall Anatomy 0.000 description 2
- 239000003795 chemical substances by application Substances 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 238000005520 cutting process Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 230000004907 flux Effects 0.000 description 2
- CPBQJMYROZQQJC-UHFFFAOYSA-N helium neon Chemical compound [He].[Ne] CPBQJMYROZQQJC-UHFFFAOYSA-N 0.000 description 2
- 230000001771 impaired effect Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 210000001365 lymphatic vessel Anatomy 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 230000000877 morphologic effect Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000006641 stabilisation Effects 0.000 description 2
- 238000011105 stabilization Methods 0.000 description 2
- 102000004506 Blood Proteins Human genes 0.000 description 1
- 108010017384 Blood Proteins Proteins 0.000 description 1
- 208000004350 Strabismus Diseases 0.000 description 1
- 229910052786 argon Inorganic materials 0.000 description 1
- 230000007175 bidirectional communication Effects 0.000 description 1
- 230000000740 bleeding effect Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 210000000746 body region Anatomy 0.000 description 1
- 230000000747 cardiac effect Effects 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 230000004087 circulation Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000002224 dissection Methods 0.000 description 1
- 210000003743 erythrocyte Anatomy 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000002073 fluorescence micrograph Methods 0.000 description 1
- 239000007789 gas Substances 0.000 description 1
- 238000000338 in vitro Methods 0.000 description 1
- 238000001727 in vivo Methods 0.000 description 1
- 150000002500 ions Chemical class 0.000 description 1
- 229910052743 krypton Inorganic materials 0.000 description 1
- DNNSSWSSYDEUBZ-UHFFFAOYSA-N krypton atom Chemical compound [Kr] DNNSSWSSYDEUBZ-UHFFFAOYSA-N 0.000 description 1
- 238000002350 laparotomy Methods 0.000 description 1
- 230000003902 lesion Effects 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- QSHDDOUJBYECFT-UHFFFAOYSA-N mercury Chemical compound [Hg] QSHDDOUJBYECFT-UHFFFAOYSA-N 0.000 description 1
- 229910052753 mercury Inorganic materials 0.000 description 1
- 229910001507 metal halide Inorganic materials 0.000 description 1
- 150000005309 metal halides Chemical class 0.000 description 1
- 238000002406 microsurgery Methods 0.000 description 1
- 239000003595 mist Substances 0.000 description 1
- 229940021317 other blood product in atc Drugs 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000007639 printing Methods 0.000 description 1
- 230000010349 pulsation Effects 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00006—Operational features of endoscopes characterised by electronic signal processing of control signals
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000095—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0075—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/026—Measuring blood flow
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/026—Measuring blood flow
- A61B5/0261—Measuring blood flow using optical means, e.g. infrared light
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/742—Details of notification to user or communication with user or patient ; user input means using visual displays
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00147—Holding or positioning arrangements
- A61B1/00149—Holding or positioning arrangements using articulated arms
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00163—Optical arrangements
- A61B1/00188—Optical arrangements with focusing or zooming features
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/042—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by a proximal camera, e.g. a CCD camera
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/043—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0661—Endoscope light sources
- A61B1/0684—Endoscope light sources using light emitting diodes [LED]
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/313—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/0012—Surgical microscopes
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/06—Means for illuminating specimens
- G02B21/08—Condensers
- G02B21/14—Condensers affording illumination for phase-contrast observation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30101—Blood vessel; Artery; Vein; Vascular
- G06T2207/30104—Vascular flow; Blood flow; Perfusion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Veterinary Medicine (AREA)
- Public Health (AREA)
- Pathology (AREA)
- Animal Behavior & Ethology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Radiology & Medical Imaging (AREA)
- Optics & Photonics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Physiology (AREA)
- Signal Processing (AREA)
- Hematology (AREA)
- Cardiology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Dentistry (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Image Processing (AREA)
- Eye Examination Apparatus (AREA)
- Endoscopes (AREA)
Abstract
一种医疗系统(1),包括:第一光照射器件(11),用于利用相干光照射成像被摄体;成像器件(12),用于捕获散斑图像,该散斑图像从通过用相干光照射成像被摄体而散射的光获得;散斑对比度计算器件(1312),用于基于散斑图像计算每个像素的散斑对比度值;移动检测器件(1311),用于检测成像被摄体的移动;散斑图像生成器件(1313),用于基于散斑对比度值和由移动检测器件检测到的成像被摄体的移动来生成散斑对比度图像;以及显示器件(14),用于显示散斑对比度图像。
Description
技术领域
本公开涉及一种医疗系统、信息处理装置和信息处理方法。
背景技术
在医疗系统等中,在一个示例中,已经开发了一种散斑成像技术,该散斑成像技术能够在不向患者等施用药物的情况下持续观察血液流动或淋巴流动。在该技术中,散斑是一种现象,其中,在一个示例中,由于来自目标对象表面上的微小不规则物等的照射相干光的反射或干涉而出现散斑图案。在一个示例中,这种散斑现象的使用允许判别作为目标对象的活体中的血液流动的部分(血流部分)和血液不流动的部分(非血流部分)。
具体细节如下。在一定程度上增加曝光时间的情况下,由于在血流部分中反射相干光的红细胞或其他血液制品的移动,散斑对比度值减小,而在非血流部分中,因为所有元素都处于非流动状态,所以散斑对比度值增加。因此,使用每个像素的散斑对比度值生成的散斑对比度图像允许判别血流部分和非血流部分。
现有技术文献
专利文献
专利文献1:JP 2016-193066 A
发明内容
技术问题
然而,在使用散斑成像技术中,有时,作为目标对象的活体由于身体移动、脉动等而移动,或者图像捕获装置由于某种原因而晃动。在该情况下,捕获图像中的图像捕获目标的整体或部分将移动,导致非血流部分的散斑对比度值减小。因此,血流部分与非血流部分之间的判别准确度有时会降低。
因此,本公开提出了医疗系统、信息处理装置和信息处理方法,即使在使用散斑成像技术时图像捕获目标在捕获图像中移动的情况下,也能够生成令人满意的散斑对比度图像。
问题的解决方案
为了解决该技术问题,一种医疗系统包括:第一光照射器件,用于利用相干光照射图像捕获目标;图像捕获器件,用于捕获散斑图像,该散斑图像从通过利用相干光照射图像捕获目标而引起的散射光获得;散斑对比度计算器件,用于基于散斑图像计算每个像素的散斑对比度值;运动检测器件,用于检测图像捕获目标的运动;散斑图像生成器件,用于基于散斑对比度值和由运动检测器件检测到的图像捕获目标的运动来生成散斑对比度图像;以及显示器件,用于显示散斑对比度图像。
附图说明
[图1]是示出根据本公开的第一实施例的医疗系统的示例性配置的图。
[图2]是示出根据本公开的第一实施例的图像捕获装置的示例性配置的图。
[图3]是示出本公开的第一实施例中的伪血管的SC图像的示例的图。
[图4]是示出根据本公开的第一实施例的信息处理装置的示例性配置的图。
[图5]是示出由根据本公开的第一实施例的信息处理装置执行的SC图像生成处理的流程图。
[图6]是示出描述本公开的第一实施例中的基于运动矢量的图像捕获目标的运动检测的图。
[图7]是示出描述本公开的第一实施例中的基于对散斑形状的波动的辨别的图像捕获目标的运动检测的图。
[图8]是示出本公开的第一实施例中的散斑形状如何波动的示意图。
[图9]是示出本公开的第一实施例中的第一关系信息的曲线图。
[图10]是示出本公开的第一实施例中的如何将参考标记放置在图像捕获目标中的示意图。
[图11]是示出由根据本公开的第二实施例的信息处理装置执行的SC图像生成处理的流程图。
[图12]是示出描述本公开的第二实施例中的基于SC的减小的第一SC校正方法的图。
[图13]是示出描述本公开的第二实施例中的基于SC的减小的第二SC校正方法的图。
[图14]是示出由根据本公开的第三实施例的信息处理装置执行的SC图像生成处理的流程图。
[图15]是示出根据本公开的第四实施例的信息处理装置的示例性配置的图。
[图16]是示出由根据本公开的第四实施例的信息处理装置执行的SC图像生成处理的流程图。
[图17]是示出由根据本公开的第四实施例的信息处理装置执行的学习处理的流程图。
[图18]是示出根据本公开的应用例1的内窥镜手术系统的示意性配置的示例的视图。
[图19]是示出图18所示的摄像头和CCU的功能配置的示例的框图。
[图20]是示出根据本公开的应用例2的显微镜手术系统的示意性配置的示例的视图。
[图21]是示出使用图20所示的显微镜手术系统的手术状态的视图。
[图22]是示出用于描述本公开的变形例中的指标5的时差绝对值积分方法的血液体模模型的示意图。
[图23]是示出描述本公开的变形例中的指标5的时差绝对值积分方法的图。
[图24A]是示出通过未采用时差绝对值积分方法的散斑对比度技术生成的SC图像的示例的图。
[图24B]是示出通过本公开的变形例中的指标5的时差绝对值积分方法生成的SC图像的示例的图。
具体实施方式
现在参照附图详细描述本公开的实施例。此外,在下面描述的实施例中,相同的部件由相同的附图标记表示,并因此适当地省略对其的描述。
在神经手术过程和心脏手术过程中,通常执行使用吲哚青绿(ICG)的荧光观察以用于在进行手术时观察血液流动。该ICG荧光观察是通过利用ICG在体内与血浆蛋白结合并且由近红外激发光发射荧光的特性,以微创方式观察血管或淋巴管的循环的技术。
ICG荧光观察技术需要根据观察时刻提前向活体施用适量的ICG。在反复进行观察的情况下,需要等待ICG的体外释放。因此,该等待观察使迅速的医疗变得困难,并且有可能使手术延迟。此外,ICG观察使得可以辨别血管或淋巴管的存在与否,但无法观察血液流动或淋巴流动的存在与否或速度。
因此,考虑到上述情形,开发了一种散斑成像技术,该散斑成像技术能够使药物的施用变得不必要,并且能够持续观察血液流动或淋巴流动。具体应用例包括脑动脉瘤夹闭手术中的动脉瘤闭塞评估(aneurysm occlusion evaluation)。在使用ICG观察的脑动脉瘤夹闭手术中,在进行夹闭后注射ICG以确定动脉瘤闭塞的存在与否。然而,如果在闭塞不足以诊断时注射ICG,则ICG将流入动脉瘤。因此,在某些情况下,当再次执行夹闭时闭塞评估由于剩余的ICG而不准确。另一方面,在使用基于散斑的血液流动观察的脑动脉瘤夹闭手术中,可以在不使用药物的情况下以高准确度重复确定动脉瘤闭塞的存在与否。
在下文中,将给出关于医疗系统、信息处理装置和信息处理方法的说明,该医疗系统、信息处理装置和信息处理方法即使在使用散斑成像技术时图像捕获目标在捕获图像中移动的情况下,也能够生成令人满意的散斑对比度图像。
(第一实施例)
[根据第一实施例的医疗系统]
图1是示出根据本公开的第一实施例的医疗系统1的示例性配置的图。根据第一实施例的医疗系统1大致至少包括光源11、图像捕获装置12(图像捕获器件)和信息处理装置13。另外,如果需要,还可以提供显示装置14(显示单元)等。现在详细描述每个部件。
(1)光源
光源11包括第一光源(第一光照射器件),该第一光源利用用于捕获散斑图像的相干光照射图像捕获目标。相干光是表示光通量中的任意两点处的光波的相位关系随时间不变且恒定的光束或光线,并且即使在通过任何方法分裂光通量并然后利用相当大的光程差再次叠加相干光时,该相干光仍显示出完美的相干性。在一个示例中,从根据本公开的第一光源输出的相干光的波长优选为830nm。这是因为,如果波长为830nm,则ICG观察与光学系统可以一起使用。换句话说,在执行ICG观察的情况下,通常使用波长为830nm的近红外光。因此,这是因为用于散斑观察的相同波长的近红外光使得散斑观察能够在不修改能够执行ICG观察的显微镜的光学系统的情况下执行。
然而,由第一光源发射的相干光的波长不限于上述示例,并且在一个实例中,波长的示例可以包括550nm至700nm的波长或其他波长。作为示例,给出以下描述,其中,使用波长为830nm的近红外光作为相干光的情况。
此外,只要不损害本技术的效果,发射相干光的第一光源的类型不限于具体的类型。发射激光的第一光源的示例包括氩(Ar)离子激光器、氦-氖(He-Ne)激光器、染料激光器、氪(Cr)激光器、半导体激光器、组合了半导体激光器与波长转换光学器件组合的固态激光器等,它们中的每个可以单独使用或彼此组合使用。
此外,光源11包括第二光源(第二光照射器件),该第二光源利用用于捕获可见光图像的可见光(例如,非相干光的白光)照射图像捕获目标。在根据本公开的医疗系统1中,利用相干光和可见光同时照射图像捕获目标2。换句话说,第二光源与第一光源同时发光。在本说明书中,非相干光是指很少表现出相干性的光,例如物体光束(物体波)。只要不损害本技术的效果,第二光源的类型不限于特具体的类型。该第二光源的示例可以包括发光二极管等。此外,第二光源的其他示例包括氙灯、金属卤化物灯、高压汞灯等。
(2)图像捕获目标
图像捕获目标2可以是各种各样的,但在一个示例中,优选地为包含流体的图像捕获目标2。由于散斑特性,在以稍长的曝光时间成像时,流体的散斑对比度低于非流体的散斑对比度。因此,使用根据本公开的医疗系统1形成具有流体的图像捕获目标2的图像允许获得流体部分与非流体部分之间的边界、流体部分的流速等。
更具体地,在一个示例中,图像捕获目标2可以是其流体为血液的活体(具有血管的活体)。在一个示例中,根据本公开的医疗系统1在显微镜手术、内窥镜手术等中的使用使得可以在检查血管位置的同时执行手术。因此,可以执行更安全且更准确的手术,从而为医疗技术的进一步发展做出贡献。
(3)图像捕获装置
现在参照图2给出对图像捕获装置12的描述。图2是示出根据本公开的第一实施例的图像捕获装置12的示例性配置的图。图像捕获装置12主要包括分色镜121、散斑图像捕获单元122和可见光图像捕获单元123。
分色镜121将接收到的光分离成近红外光(诸如散射光或反射光)和可见光(诸如散射光或反射光)。
散斑图像捕获单元122捕获从由分色镜121分离出的近红外光获得的散斑图像。在一个示例中,散斑图像捕获单元122是用于散斑观察的红外(IR)成像器。
可见光图像捕获单元123捕获从由分色镜121分离出的可见光获得的可见光图像。在一个示例中,可见光图像捕获单元123是用于观察可见光的RGB(红色/绿色/蓝色)成像器。
具有这种配置的图像捕获装置12可以同时执行使用近红外光的散斑观察和使用可见光的可见光观察。
(4)信息处理装置
现在参照图4给出对信息处理装置13的描述。图4是示出根据本公开的第一实施例的信息处理装置13的示例性配置的图。信息处理装置13是图像处理装置,并且主要包括处理单元131和存储单元132。此外,本文中的“SC”是指散斑对比度(散斑对比度值)。
在一个示例中,处理单元131被配置有中央处理单元(CPU)。处理单元131包括运动检测单元1311(运动检测器件)、SC计算单元1312(散斑对比度计算器件)、SC图像生成单元1313(散斑图像生成器件)、判别单元1314和显示控制单元1315(显示控制器件)。
运动检测单元1311检测图像捕获目标2的运动。在一个示例中,运动检测单元1311基于由可见光图像捕获单元123捕获的可见光图像来检测图像捕获目标2的运动。另外,当检测到图像捕获目标2的运动时,运动检测单元1311还能够计算图像捕获目标2的运动速度。稍后描述运动检测单元1311的细节。
SC计算单元1312基于由散斑图像捕获单元122捕获的散斑图像来计算每个像素的散斑对比度值。在这方面,在一个示例中,第i个像素的散斑对比度值可以由以下公式(1)表示:
第i个像素的散斑对比度值=(第i个像素与相邻像素之间的强度的标准差)/(第i个像素和相邻像素的强度的平均值)...公式(1)
SC图像生成单元1313基于由SC计算单元1312计算出的散斑对比度值生成散斑对比度图像(SC图像)。现在参照图3描述SC图像的示例。图3是示出根据本公开的第一实施例的伪血管的示例性SC图像的图。如图3的SC图像示例所示,观察到血流部分的散斑对比度具有比非血流部分的散斑对比度更低的值。该观察结果反映了,在观察稍长的曝光时间内随时间波动的血流部分的散斑时,平均的散斑图案使标准偏差和散斑对比度更低。
此外,在由运动检测单元1311检测图像捕获目标2的运动的情况下,SC图像生成单元1313基于散斑对比度值和由运动检测单元1311检测到的图像捕获目标2的运动来生成散斑对比度图像(稍后详细描述)。
判别单元1314基于SC图像判别流体部分和非流体部分。在一个示例中,判别单元1314基于SC图像判别血流部分和非血流部分。更具体地,判别单元1314基于SC图像通过确定散斑对比度值是否等于或高于预定阈值,来判别血流部分和非血流部分。
显示控制单元1315控制显示装置14显示SC图像。在一个示例中,显示控制单元1315使显示装置14显示SC图像,使得可以基于由判别单元1314获得的判别结果来判别血流部分和非血流部分。
存储单元132存储各种类型的信息,该信息诸如由散斑图像捕获单元122捕获的散斑图像、由可见光图像捕获单元123捕获的可见光图像、处理单元131的每个单元的计算结果以及上述预定阈值。此外,可以使用医疗系统1的外部存储装置来代替存储单元132。
(5)显示装置
显示装置14在显示控制单元1315的控制下显示各种类型的信息,该信息诸如由散斑图像捕获单元122捕获的散斑图像、由可见光图像捕获单元123捕获的可见光图像、以及处理单元131的每个单元的计算结果。此外,可以使用医疗系统1的外部显示装置来代替显示装置14。
[根据第一实施例的SC图像生成处理]
现在参照图5给出对由信息处理装置13执行的SC图像生成处理的描述。图5是示出由根据本公开的第一实施例的信息处理装置13执行的SC图像生成处理的流程图。
在步骤S1中,信息处理装置13的处理单元131首先开始散斑观察和可见光观察(IR和WL(白光)观察)。
随后,在步骤S2中,运动检测单元1311执行用于基于由可见光图像捕获单元123捕获的可见光图像来检测图像捕获目标2的运动的操作。
随后,在步骤S3中,运动检测单元1311确定图像捕获目标2是否移动。如果结果为是,则处理进行到步骤S8。如果结果为否,则处理进行到步骤S4。
在步骤S8中,运动检测单元1311计算图像捕获目标2的运动速度(移动量)。作为步骤S2、步骤S3和步骤S8中的具体处理方法的示例,现在参照图6给出基于运动矢量的运动检测方法的描述并且参照图7给出基于散斑形状的波动的辨别的运动检测方法进行描述。
图6是示出描述本公开的第一实施例中的基于运动矢量的图像捕获目标的运动检测的图。运动检测单元1311基于可见光图像的特征点的运动来检测图像捕获目标2的运动。在一个示例中,运动检测单元1311通过基于时间序列中的多个可见光图像计算特征点的运动矢量来检测图像捕获目标2的运动。图6的示例示出了在时间ti处的Fi帧中的位置3处的被摄体移动到下一时间ti+1处的Fi+1帧中的位置3'的情况。在该情况下,移动量A(移动像素数量)可以由以下公式(2)计算:
移动量A=Fi+1(x+a,y+b)-Fi(x,y)=(a,b)...公式(2)
然后,运动检测单元1311可以基于移动量A、光源11的视角信息、从光源11到图像捕获目标2的距离信息等,计算图像捕获目标2的运动速度。此外,基于运动矢量的图像捕获目标的运动检测不限于使用可见光图像的情况,而是包括使用散斑图像的情况。
图7是示出描述本公开的第一实施例中的基于对散斑形状的波动的辨别的图像捕获目标的运动检测的图。运动检测单元1311基于散斑图像的散斑形状的波动来检测图像捕获目标2的运动。如图7所示,当存在图像捕获目标2的运动时,散斑图案被平均化并且具有在运动方向上延伸的形状。
此外,图8是示出本公开的第一实施例中的散斑形状如何波动的示意图。图8的(a)示出在图像捕获目标2未运动的情况下的散斑形状,并且图8的(b)示出在图像捕获目标2运动的情况下的散斑形状。如从图7和图8可以看出,运动检测单元1311能够通过辨别散斑形状的波动来计算图像捕获目标2的移动量。然后,移动量的使用使得能够执行类似于图6的计算,从而计算图像捕获目标2的运动速度。
返回参照图5,在步骤S8之后的步骤S9中,SC计算单元1312基于散斑图像计算每个像素的SC。随后,在步骤S10中,SC图像生成单元1313基于在步骤S9中计算出的SC和在步骤S8中检测到的图像捕获目标2的运动,生成散斑对比度图像。作为步骤S10中的详细处理方法的示例,现在参照图9给出基于第一关系信息的方法的描述并且参照图10给出基于第二关系信息的方法的描述。
图9是示出本公开的第一实施例中的第一关系信息的曲线图。第一关系信息是预定的关系信息,并且示出了在预定曝光时间被摄体的速度(运动)(水平轴)与散斑对比度值(垂直轴)之间的关系。该第一关系信息仅需要通过实验、理论等而提前创建。然后,SC图像生成单元1313能够基于由运动检测单元1311计算出的图像捕获目标2的运动和图9所示的第一关系信息来生成SC图像。
图10是示出本公开的第一实施例中的如何将参考标记放置在图像捕获目标2中的示意图。参考标记是具有已知光学性质的散射体。SC图像生成单元1313可以基于图像捕获目标2的运动以及指示在预定曝光时间图像捕获目标2上的参考标记的运动与散斑对比度值之间的关系的第二关系信息,生成散斑对比度图像。此外,要放置的参考标记的数量不限于一个,并且可以是两个或更多个。
返回参照图5,在步骤S4中,SC计算单元1312基于散斑图像计算每个像素的SC。随后,在步骤S5中,SC图像生成单元1313基于SC生成SC图像。
在步骤S5和步骤S10之后的步骤S6中,判别单元1314执行阈值处理。即,判别单元1314例如基于SC图像通过确定散斑对比度值是否等于或高于预定阈值,来判别血流部分和非血流部分。
随后,在步骤S7中,显示控制单元1315控制显示装置14以这样的方式显示SC图像,使得血流部分和非血流部分可以基于步骤S6中的阈值处理而判别。此外,在显示时,SC图像和可见光图像可以显示在单独的监视器上,或者分开地显示在单个监视器上。另外,通过散斑图像识别的血流部分的区域可以叠加并显示在可见光图像上。在该情况中,可以执行包含SC的显示。在步骤S7之后,处理结束。
如上所述,根据第一实施例的信息处理装置13允许即使在图像捕获目标2移动的情况下也生成令人满意的SC图像。换句话说,在图像捕获目标2移动的情况下,虽然SC减小,但是基于图像捕获目标2的运动执行了SC的校正等。因此,可以生成令人满意的SC图像,并且准确地判别血流部分和非血流部分。
此外,在一个示例中,在预先分析可见光图像的颜色信息或形态信息并且判别血管部分和非血管部分之后,可以对捕获的整个画面执行图像捕获目标2的运动检测、运动速度计算、SC校正等,或者可以针对每个区域执行图像捕获目标2的运动检测、运动速度计算、SC校正等。
此外,在一个示例中,通过辨别基于时间序列中的多个可见光图像的特征点的运动,可以容易地实现图像捕获目标2的运动检测和运动速度计算。
此外,在一个示例中,通过基于散斑图像辨别散斑形状的波动,可以容易地实现图像捕获目标2的运动检测和运动速度计算。
此外,在一个示例中,可以基于图像捕获目标2的运动速度和上述第一关系信息高准确度地计算SC校正量,从而允许生成令人满意的SC图像。
此外,在一个示例中,可以基于图像捕获目标2的运动速度和上述第二关系信息高准确度地计算SC校正量,从而允许生成令人满意的SC图像。
此外,在现有技术中,存在通过缩短曝光时间来减少由于图像捕获目标的运动而引起的散斑图案波动的影响的技术。然而,该技术需要复杂的控制机构来同步控制照明单元和图像捕获单元。该技术还需要高功率激光源在低曝光条件下进行观察,从而导致难以实现该技术。根据第一实施例的医疗系统1不需要这种复杂的控制机构和高功率激光源。
(第二实施例)
现在描述第二实施例。此外,将适当省略与第一实施例中相同的内容。在第一实施例中,基于可见光图像或散斑图像来检测图像捕获目标2的运动,但是在第二实施例中,散斑对比度值的急剧下降被认为由图像捕获目标2的运动引起,并且校正SC。
图11是示出由根据本公开的第二实施例的信息处理装置13执行的SC图像生成处理的流程图。首先,在步骤S1中,信息处理装置13的处理单元131首先开始散斑观察和可见光观察(IR和WL观察)。
随后,在步骤S4中,SC计算单元1312基于散斑图像计算每个像素的SC。
随后,在步骤S5中,SC图像生成单元1313基于SC生成SC图像。
随后,在步骤S2中,运动检测单元1311执行用于检测图像捕获目标2的运动的操作。随后,在步骤S3中,运动检测单元1311确定图像捕获目标2是否移动。如果结果为是,则处理进行到步骤S11。如果结果为否,则处理进行到步骤S6。
在步骤S11中,处理单元131执行SC校正处理。作为步骤S2、步骤S3和步骤S11中的详细处理方法的示例,现在参照图12给出基于SC的减小的第一SC校正方法的描述并且参照图13给出基于SC的减小的第二SC校正方法的描述。
图12是示出描述本公开的第二实施例中的基于SC的减小的第一SC校正方法的图。在图12的(a)和图12的(b)中,纵轴表示SC,并且横轴表示时间(帧)。给出了如图12的(a)所示,针对特定像素,SC由于图像捕获目标2的运动而急剧减小(即散斑对比度值减小预定值或更多(波动的示例))的情况。在该情况下,SC计算单元1312检测图像捕获目标2中的运动,并且基于时间上前一和后一散斑对比度值来校正减小的散斑对比度值。具体地,在一个示例中,应用针对三个帧的中值滤波器,并且采用了SC、紧接的前一SC和紧接的后一SC当中的中值。然后,SC图像生成单元1313基于每个像素的校正后的散斑对比度值来生成(校正)SC图像。
图13是示出描述在本公开的第二实施例中基于SC的减小的第二SC校正方法的图。在图13的(a)、图13的(b)和图13的(c)中,纵轴表示SC,并且横轴表示被摄体的速度。另外,在图13的(a)中,SC1是被摄体未移动的情况下的血流部分的SC,SC2是被摄体未移动的情况下的非血流部分的SC,并且ΔSC是“SC1-SC2”的值。
此外,在图13的(b)中,SC'1是被摄体移动的情况下的血流部分的SC,SC'2是被摄体移动的情况下的非血流部分的SC,并且ΔSC'是“SC'1-SC'2”的值。另外,在图13的(c)中,SC″1是血流部分的校正后的SC,SC″2是非血流部分的校正后的SC,并且ΔSC″是“SC″1-SC″2”的值。
如图13的(a)和图13(b)的所示,如果存在被摄体的运动,则血流部分和非血流部分的SC都减小。因此,给出了运动检测单元1311检测到运动的整个图像捕获目标2的散斑对比度值减小预定值或更多的运动的情况。在该情况下,SC计算单元1312基于非血流部分的散斑对比度值的减小的比率来计算(校正)所有像素的散斑对比度值。具体地,使用以下公式(3)至公式(5)执行计算:
增益=SC2/SC'2...公式(3)
SC″1=SC'1*增益...公式(4)
SC″2=SC'2*增益...公式(5)
然后,如图13的(c)所示,获得校正后的SC″1和校正后的SC″2。然后,SC图像生成单元1313基于校正后的散斑对比度值生成(校正)散斑对比度图像。
返回参照图11,在步骤S3的结果为否并且在步骤S11之后的情况下,在步骤S6中,判别单元1314执行阈值处理。随后,在步骤S7中,显示控制单元1315控制显示装置14以这样的方式显示SC图像,使得血流部分和非血流部分可以基于步骤S6中的阈值处理而判别。在步骤S7之后,处理结束。
如上所述,根据第二实施例的信息处理装置13允许即使在图像捕获目标2移动的情况下也生成令人满意的SC图像。具体地,不是检测图像捕获目标2的运动,而是通过将SC的突然波动视为图像捕获目标2的运动并且使用在时间上的前一和后一SC来校正SC。因此,可以使SC更接近有效值,生成令人满意的SC图像,并且准确地判别血流部分和非血流部分。
在图11的流程图中,在步骤S5中生成SC图像,然后,在图像捕获目标2移动的情况下,在步骤S11中校正SC图像。然而,本过程不限于上述示例。在一个示例中,在图像捕获目标2的运动检测(步骤S2)之前阻止SC图像的生成。如果存在图像捕获目标2的运动,则校正SC,并然后仅基于校正后的SC生成SC图像。
(第三实施例)
现在给出第三实施例的描述。将适当地省略与第一实施例中相同的内容。图14是示出由根据本公开的第三实施例的信息处理装置13执行的SC图像生成处理的流程图。
在步骤S1中,信息处理装置13的处理单元131首先开始散斑观察和可见光观察(IR和WL观察)。
随后,在步骤S2中,运动检测单元1311执行用于基于由可见光图像捕获单元123捕获的可见光图像来检测图像捕获目标2的运动的操作。
随后,在步骤S3中,运动检测单元1311确定图像捕获目标2是否移动。如果结果为是,则处理进行到步骤S21。如果结果为否,则处理进行到步骤S4。步骤S2和步骤S3与第一实施例中的步骤S2和步骤S3类似。
在步骤S21中,SC计算单元1312基于散斑图像计算每个像素的SC。
随后,在步骤S22中,SC计算单元1312通过在根据运动程度针对每个像素对当前SC和在时间上紧接的前一SC进行加权之后,将它们相加,来校正当前SC。在一个示例中,给出了当前图像捕获目标2的运动大于在时间上紧接的前一图像捕获目标2的运动的情况。在该情况下,当前SC的权重减小并且紧接的前一SC的权重增加,并且然后彼此相加以获得当前SC。此外,可以在整个画面或某些像素上执行这种SC校正。
随后,在步骤S23中,SC图像生成单元1313基于在步骤S22中计算的SC生成SC图像。步骤S4至步骤S7与图5的步骤S4至步骤S7相似。
如上所述,根据第三实施例的信息处理装置13允许即使在图像捕获目标2移动的情况下也生成令人满意的SC图像。换句话说,使用通过根据运动程度对当前SC和在时间上紧接的前一SC进行加权然后将它们相加而获得的值,针对每个像素来校正当前SC。这可以使SC更接近有效值,生成令人满意的SC图像,并且准确地判别血流部分和非血流部分。
(第四实施例)
现在给出第四实施例的描述。将适当地省略与第一实施例相同的内容。在第四实施例中,描述了以下方法:即使在难以执行第一实施例至第三实施例中描述的SC校正处理(考虑图像捕获目标2的运动的SC图像生成处理)的情况下,也继续显示血流部分。图15是示出根据本公开的第四实施例的信息处理装置13的示例性配置的图。与根据图4所示的第一实施例的信息处理装置13相比,处理单元131的不同之处在于另外设置了学习单元1316(学习器件)。
学习单元1316基于散斑对比度图像和可见光图像来判别图像捕获目标2的血流部分和非血流部分。在一个示例中,学习单元1316基于由判别单元1314使用SC图像获得的血液流动和非血流部分的判别结果,学习可见光图像中的血流部分与非血流部分之间的判别。另外,在未能根据图像捕获目标2的运动生成SC图像的情况下,判别单元1314基于学习单元1316的学习结果和可见光图像来识别血流部分。
图16是示出由根据本公开的第四实施例的信息处理装置13执行的SC图像生成处理的流程图。步骤S1至步骤S3仅需要与图5、图11和图14中的任一个中的步骤S1至步骤S3类似地执行。
在步骤S3中的结果为是的情况下,在步骤S31中,SC计算单元1312基于散斑图像计算每个像素的SC。随后,在步骤S32中,处理单元131确定是否可以使用第一实施例至第三实施例的方法中的任一种来校正SC(或者可以考虑图像捕获目标2的运动来生成SC图像,并且这在下文中同样适用)。如果结果为是,则处理进行到步骤S33,如果结果为否,则处理进行到步骤S35。在步骤S33中,处理单元131通过第一实施例至第三实施例的方法中的任一种来执行SC校正。
随后,在步骤S34中,SC图像生成单元1313基于在步骤S33中获得的校正后的SC生成SC图像。
此外,在步骤S35中,判别单元1314基于由学习单元1316获得的学习结果和WL图像(可见光图像)来识别血流部分。可以类似于图5来执行步骤S4至步骤S7。在步骤S7之后,处理结束。
现在参照图17给出学习处理的描述。图17是示出由根据本公开的第四实施例的信息处理装置13执行的学习处理的流程图。
在步骤S41中,处理单元131首先开始IR观察。随后,在步骤S42中,SC计算单元1312计算SC,并且SC图像生成单元1313生成SC图像。随后,在步骤S43中,判别单元1314执行阈值处理。即,判别单元1314基于SC图像通过确定散斑对比度值是否等于或高于预定阈值来判别血流部分和非血流部分。
随后,在步骤S44中,判别单元1314基于SC图像识别血流部分。随后,在步骤S45中,处理单元131开始WL观察。随后,判别单元1314基于可见光图像检测候选血管。随后,在步骤S47中,学习单元1316基于SC图像的判别结果来学习WL图像的判别。在一个示例中,学习单元1316通过基于SC图像的血流部分的检测结果,将WL图像中的血管部分与颜色信息、形态信息等相关联来进行学习。在步骤S47之后,处理结束。在图16的流程图的步骤S35中,上述这种学习处理使判别单元1314可以基于学习单元1316的学习结果和可见光图像来识别血流部分。
此外,为了便于描述,在步骤S41至步骤S44之后执行步骤S45至S47,但本过程不限于上述示例,并且步骤S41至步骤S44和步骤S45至步骤S47可以并行执行。
如上所述,在第四实施例中,在图像捕获目标2的运动较小或没有运动的情形下,可以基于SC图像的判别结果,预先学习WL图像中的血流部分。因此,在存在图像捕获目标2的运动的情况下,例如,即使在SC校正无法实现时,也可以基于学习结果继续识别和显示血流部分。
(应用例1)
根据本公开的技术可应用于各种产品。在一个示例中,根据本公开的技术可应用于内窥镜手术系统。
图18是示出可以应用根据本公开的技术的内窥镜手术系统5000的示意性配置的示例的视图。在图18中,示出手术医生(医生)5067正在使用内窥镜手术系统5000为病床5069上的患者5071进行手术的状态。如所示出的,内窥镜手术系统5000包括内窥镜5001、其他手术工具5017、将内窥镜5001支撑在其上的支撑臂装置5027、以及在其上安装有用于内窥镜手术的各种装置的推车5037。
在内窥镜手术中,代替切开腹壁以进行剖腹手术,使用被称为套管针5025a至套管针5025d的多个管状孔设备来穿刺腹壁。然后,内窥镜5001的镜筒5003和其他手术工具5017通过套管针5025a至套管针5025d插入患者5071的体腔。在所示的示例中,作为其他手术工具5017,气腹管5019、能量装置5021和钳子5023插入患者5071的体腔。此外,能量装置5021是用于通过高频电流或超声波振动来执行组织的切割和剥离、血管的密封等的治疗工具。然而,所示的手术工具5017仅仅是示例,作为手术工具5017,可以使用通常在内窥镜手术中使用的各种手术工具,例如镊子或牵开器。
在显示装置5041上显示由内窥镜5001成像的患者5071的体腔内的手术区域的图像。手术医生5067在实时地观看显示在显示装置5041上的手术区域的图像的同时,将使用能量装置5021或钳子5023执行诸如切除患处的治疗。应当注意,尽管未示出,但是气腹管5019、能量装置5021和钳子5023在手术期间由手术医生5067、助手等支撑。
(支撑臂装置)
支撑臂装置5027包括从基座单元5029延伸的臂单元5031。在所示的示例中,臂单元5031包括接合部5033a、接合部5033b和接合部5033c以及连杆5035a和连杆5035b,并且在臂控制装置5045的控制下被驱动。内窥镜5001由臂单元5031支撑,从而控制内窥镜5001的位置和姿势。因此,可以实现内窥镜5001的位置的稳定固定。
(内窥镜)
内窥镜5001包括镜筒5003和连接到镜筒5003的近端的摄像头5005,镜筒5003具有从其远端为预定长度的区域,以插入患者5071的体腔。在所示的示例中,内窥镜5001被图示为具有硬类型的镜筒5003的刚性内窥镜。然而,内窥镜5001可以另外被配置为具有柔性类型的镜筒5003的柔性内窥镜。
镜筒5003在其远端具有开口,物镜装配在该开口中。光源装置5043连接到内窥镜5001,使得由光源装置5043生成的光通过在镜筒5003的内部延伸的光导引入镜筒的远端,并且通过物镜朝向患者5071的体腔中的观察目标照射。应当注意,内窥镜5001可以是前视内窥镜,或者可以是斜视内窥镜或侧视内窥镜。
光学系统和图像拾取元件设置在摄像头5005的内部,使得来自观察目标的反射光(观察光)通过光学系统会聚在图像拾取元件上。观察光由图像拾取元件进行光电转换,以生成与观察光相对应的电信号(即与观察图像相对应的图像信号)。图像信号作为原始数据发送到相机控制单元(CCU)5039。应当注意,在摄像头5005中包含这样的功能,即适当地驱动摄像头5005的光学系统以调节放大率和焦距。
应当注意,为了建立与例如立体视觉(三维(3D)显示)的兼容性,可以在摄像头5005上设置多个图像拾取元件。在该情况下,在镜筒5003的内部设置多个中继光学系统,以便将观察光引导到多个图像拾取元件中的每个。
(推车中包含的各种装置)
CCU 5039包括中央处理单元(CPU)、图形处理单元(GPU)等,并且整体控制内窥镜5001和显示装置5041的操作。具体地,CCU 5039对从摄像头5005接收的图像信号,执行基于图像信号的各种图像处理(诸如显影处理(去马赛克处理))以用于显示图像,CCU 5039向显示装置5041提供被执行了图像处理的图像信号。此外,CCU 5039向摄像头5005发送控制信号,以控制摄像头5005的驱动。控制信号可以包括与图像拾取条件(诸如放大率或焦距)相关的信息。
显示装置5041在CCU 5039的控制下基于图像信号显示图像,该图像信号已经被CCU 5039执行了图像处理。如果内窥镜5001准备好用于高分辨率(诸如4K(水平像素数量3840×垂直像素数量2160)、8K(水平像素数量7680×垂直像素数量4320)等)成像,和/或准备好用于3D显示,则可以将可以进行高分辨率和/或3D显示的对应显示的显示装置用作显示装置5041。在装置准备好进行高分辨率(例如4K或8K)成像的情况下,如果用作显示装置5041的显示装置具有等于或大于55英寸的尺寸,则可以获得更沉浸式的体验。此外,可以根据目的提供具有不同分辨率和/或不同尺寸的多个显示装置5041。
光源装置5043包括光源(诸如例如发光二极管(LED)),并且向内窥镜5001供应用于对手术区域成像的照射光。
臂控制装置5045包括处理器,(诸如例如CPU),并且根据预定程序操作,从而根据预定控制方法控制支撑臂装置5027的臂单元5031的驱动。
输入装置5047是内窥镜手术系统5000的输入接口。用户可以通过输入装置5047执行输入到内窥镜手术系统5000的各种信息或指令的输入。例如,用户将通过输入装置5047输入与手术相关的各种信息(诸如患者的身体信息、关于手术的手术过程的信息等)。此外,用户将通过输入装置5047输入例如驱动臂单元5031的指令、改变内窥镜5001的图像拾取条件(照射光的类型、放大率、焦距等)的指令、驱动能量装置5021的指令等。
输入装置5047的类型不受限制,并且可以是各种已知输入装置中的任一种。作为输入装置5047,例如可以应用鼠标、键盘、触摸面板、开关、脚踏开关5057和/或杆等。在触摸面板用作输入装置5047的情况下,该触摸面板可以设置在显示装置5041的显示面上。
另外,输入装置5047是安装在用户身上的设备(诸如例如眼镜型可穿戴设备或头戴式显示器(HMD)),并且响应于由所提及的任何设备检测到的用户的手势或视线来执行各种类型的输入。此外,输入装置5047包括可以检测用户运动的相机,并且响应于从相机捕获的视频中检测到的用户的手势或视线,执行各种输入。此外,输入装置5047包括可以收集用户语音的麦克风,并且通过由麦克风收集的语音执行各种输入。通过以该方式配置输入装置5047,使得可以以非接触方式输入各种信息,具体地,属于清洁区域的用户(例如,手术医生5067)可以以非接触方式操作属于非清洁区域的装置。此外,由于用户可以操作装置而无需从其手中松开所握持的手术工具,因此提高了用户的便利性。
治疗工具控制装置5049控制能量装置5021的驱动以用于组织的烧灼或切开、血管的密封等。气腹装置5051通过气腹管5019将气体送入患者5071的体腔,以使体腔膨胀,从而确保内窥镜5001的视野并确保手术医生的工作空间。记录器5053是能够记录与手术相关的各种信息的装置。打印机5055是能够以各种形式(诸如文本、图像或图形)打印与手术相关的各种信息的装置。
在下文中,尤其更详细地描述内窥镜手术系统5000的特性配置。
(支撑臂装置)
支撑臂装置5027包括用作基座的基座单元5029和从基座单元5029延伸的臂单元5031。在所示的示例中,臂单元5031包括多个接合部5033a、5033b和5033c以及通过接合部5033b彼此连接的多个连杆5035a和5035b。在图18中,为了简化图示,以简化形式示出臂单元5031的配置。实际上,可以适当地设定接合部5033a至接合部5033c以及连杆5035a和连杆5035b的形状、数量和布置以及接合部5033a至接合部5033c的旋转轴的方向等,使得臂单元5031具有期望的自由度。例如,臂单元5031可以优选地被配置为使得其具有等于或大于6个自由度的自由度。这使得可以在臂单元5031的可移动范围内自由移动内窥镜5001。因此,可以将内窥镜5001的镜筒5003从期望的方向插入患者5071的体腔中。
致动器设置在接合部5033a至接合部5033c中的每个中,并且接合部5033a至接合部5033c被配置成使得其可通过相应致动器的驱动而绕其预定旋转轴旋转。由臂控制装置5045控制致动器的驱动,以控制接合部5033a至接合部5033c中的每个的旋转角,从而控制臂单元5031的驱动。因此,可以实现对内窥镜5001的位置和姿势的控制。因此,臂控制装置5045可以通过各种已知的控制方法(诸如力控制或位置控制)来控制臂单元5031的驱动。
例如,如果手术医生5067适当地通过输入装置5047(包括脚踏开关5057)执行操作输入,则可以响应于操作输入而适当地通过臂控制装置5045控制臂单元5031的驱动,以控制内窥镜5001的位置和姿势。在臂单元5031的远端处的内窥镜5001通过刚刚描述的控制从任意位置移动到不同的任意位置之后,该内窥镜5001可以固定地支撑在移动之后的位置。应当注意,臂单元5031可以以主从方式操作。在该情况下,用户可以通过放置在远离手术室的地方的输入装置5047来远程控制臂单元5031。
此外,在施加力控制的情况下,臂控制装置5045可以执行动力辅助控制以驱动接合部5033a至接合部5033c的致动器,使得臂单元5031可以接收用户的外力并且随着外力平滑移动。这使得在用户直接触摸臂单元5031并且移动臂单元5031时,可以以相对较弱的力移动臂单元5031。因此,用户可以通过更简单和更容易的操作更直观地移动内窥镜5001,并且可以提高用户的便利性。
这里,在通常的内窥镜手术中,内窥镜5001由被称为内窥镜操作员的医生支撑。相反,在使用支撑臂装置5027的情况下,可以更牢靠地固定内窥镜5001的位置而无需用手,并因此,可以稳定地获得手术区域的图像,并且可以顺利地进行手术。
应当注意,臂控制装置5045可以不必设置在推车5037上。此外,臂控制装置5045可以不必是单个装置。例如,臂控制装置5045可以设置在支撑臂装置5027的臂单元5031的接合部5033a至接合部5033c中的每个中,使得多个臂控制装置5045彼此协作以实现对臂单元5031的驱动控制。
(光源装置)
光源装置5043在手术区域成像时将照射光供应给内窥镜5001。光源装置5043包括白光源,该白光源例如包括LED、激光源或其组合。在该情况下,在白光源包括红、绿和蓝(RGB)激光源的组合的情况下,由于可以针对每种颜色(每种波长)高准确度地控制输出强度和输出定时,所以可以通过光源装置5043执行捕获图像的白平衡的调节。此外,在该情况下,如果将来自各个RGB激光源的激光束时分地照射在观察目标上,并且与照射定时同步地控制摄像头5005的图像拾取元件的驱动,则可以时分地捕获分别与R、G和B颜色相对应的图像。根据刚刚描述的方法,即使没有为图像拾取元件提供滤色器,也可以获得彩色图像。
此外,可以控制光源装置5043的驱动,使得要输出的光的强度在每个预定时间改变。通过与光强度改变的定时同步地控制摄像头5005的图像拾取元件的驱动以时分地获取图像并合成图像,可以创建没有曝光不足的遮挡阴影和曝光过度的高光的高动态范围的图像。
此外,光源装置5043可以被配置为能够供应预定波长带的光,以准备进行特殊光观察。在特殊光观察中,例如,通过利用身体组织中的光的吸收的波长依赖性,以照射与普通观察时的照射光(即,白光)相比更窄波长带的光,来执行以高对比度对预定组织(例如粘膜表面部分的血管等)成像的窄带光观察(窄带成像)。可替代地,在特殊光观察中,可以执行用于从通过激发光照射生成的荧光获得图像的荧光观察。在荧光观察中,可以通过用激发光照射身体组织来执行观察来自身体组织的荧光(自发荧光观察),或者可以通过将诸如吲哚青绿(ICG)的试剂局部注射到身体组织中并用与试剂的荧光波长相对应的激发光照射身体组织来获得荧光图像。光源装置5043可以被配置为能够供应适合于如上所述的特殊光观察的这种窄带光和/或激发光。
(摄像头和CCU)
参照图19更详细地描述内窥镜5001的摄像头5005和CCU 5039的功能。图19是示出图18所示的摄像头5005和CCU 5039的功能配置的示例的框图。
参照图19,作为其功能,摄像头5005具有透镜单元5007、图像拾取单元5009、驱动单元5011、通信单元5013和摄像头控制单元5015。此外,作为其功能,CCU 5039具有通信单元5059、图像处理单元5061和控制单元5063。摄像头5005和CCU 5039通过传输电缆5065彼此双向通信地连接。
首先,描述摄像头5005的功能配置。透镜单元5007是设置在摄像头5005与镜筒5003的连接位置处的光学系统。从镜筒5003的远端获取的观察光被引入摄像头5005并且进入透镜单元5007。透镜单元5007包括具有变焦透镜和聚焦透镜的多个透镜的组合。透镜单元5007具有经调节的光学性质,使得观察光会聚在图像拾取单元5009的图像拾取元件的光接收面上。此外,变焦透镜和聚焦透镜被配置成使得它们在光轴上的位置可移动,以用于调节捕获图像的放大率和焦点。
图像拾取单元5009包括图像拾取元件,并且设置在透镜单元5007的后续阶段。已经通过透镜单元5007的观察光会聚在图像拾取元件的光接收面上,并且通过图像拾取元件的光电转换而生成与观察图像相对应的图像信号。由图像拾取单元5009生成的图像信号被提供给通信单元5013。
作为图像拾取单元5009所包括的图像拾取元件,例如互补金属氧化物半导体(CMOS)类型的图像传感器被使用,该图像传感器具有拜耳阵列并且能够对图像进行彩色成像。应当注意,作为图像拾取元件,可以使用例如准备好用于对等于或大于4K的高分辨率图像进行成像的图像拾取元件。如果手术区域的图像以高分辨率获得,则外科医生5067可以以增强的细节掌握手术区域的状态,并且可以更顺利地进行手术。
此外,图像拾取单元5009所包括的图像拾取元件包括使得该图像拾取元件为一对图像拾取元件,以用于获取与3D显示兼容的右眼和左眼的图像信号。在应用3D显示的情况下,手术医生5067可以更准确地掌握手术区域中的活体组织的深度。应当注意,如果图像拾取单元5009被配置为多板型,则与图像拾取单元5009的各个图像拾取元件相对应地提供多个透镜单元5007的系统。
图像拾取单元5009可以不必设置在摄像头5005上。例如,图像拾取单元5009可以设置在镜筒5003内部的物镜的正后方。
驱动单元5011包括致动器,并且在摄像头控制单元5015的控制下,将透镜单元5007的变焦镜头和聚焦镜头沿着光轴移动预定距离。因此,可以适当地调节由图像拾取单元5009捕获的图像的放大率和焦点。
通信单元5013包括用于向CCU 5039发送各种信息和从CCU 5039接收各种信息的通信装置。通信单元5013通过传输电缆5065将从图像拾取单元5009获取的图像信号作为原始(RAW)数据发送到CCU 5039。因此,为了以低延迟显示手术区域的捕获图像,优选地通过光通信发送图像信号。这是因为,在手术时手术医生5067在通过捕获图像观察患处的状态的同时执行手术,所以要求尽可能实时地显示手术区域的运动图像,以便实现具有更高程度的安全性和确定性的手术。在应用光通信的情况下,在通信单元5013中设置用于将电信号转换成光信号的光电转换模块。在图像信号由光电转换模块转换成光信号之后,将该光信号通过传输电缆5065发送到CCU 5039。
此外,通信单元5013从CCU 5039接收用于控制摄像头5005的驱动的控制信号。控制信号包括与图像拾取条件相关的信息(诸如指定捕获图像的帧速率的信息、指定图像捕获时的曝光值的信息和/或指定捕获图像的放大率和焦点的信息)。通信单元5013将接收到的控制信号提供给摄像头控制单元5015。应当注意,来自CCU 5039的控制信号也可以通过光通信发送。在该情况下,用于将光信号转换成电信号的光电转换模块设置在通信单元5013中。在光电转换模块将控制信号转换成电信号之后,将该电信号提供给摄像头控制单元5015。
应当注意,图像拾取条件(诸如帧速率、曝光值、放大率或焦点)由CCU 5039的控制单元5063基于获取的图像信号自动设定。换句话说,内窥镜5001包含自动曝光(AE)功能、自动聚焦(AF)功能和自动白平衡(AWB)功能结合。
摄像头控制单元5015基于通过通信单元5013从CCU 5039接收的控制信号来控制摄像头5005的驱动。例如,摄像头控制单元5015基于指定捕获图像的帧速率的信息和/或指定图像捕获时的曝光值的信息,控制图像拾取单元5009的图像拾取元件的驱动。此外,例如,摄像头控制单元5015基于指定捕获图像的放大率和焦点的信息,控制驱动单元5011适当地移动透镜单元5007的变焦镜头和聚焦镜头。摄像头控制单元5015还可以包括用于存储用于识别镜筒5003和/或摄像头5005的信息的功能。
应当注意,通过将诸如透镜单元5007和图像拾取单元5009的的部件设置在具有高气密性和防水性的密封结构中,可以为摄像头5005提供对高压灭菌处理的抵抗力。
现在,描述CCU 5039的功能配置。通信单元5059包括用于向摄像头5005发送各种信息和从摄像头5005接收各种信息的通信装置。通信单元5059接收通过传输电缆5065从摄像头5005向该通信单元5059发送的图像信号。因此,可以优选地通过如上所述的光通信来发送图像信号。在该情况下,为了与光通信兼容,通信单元5059包括用于将光信号转换成电信号的光电转换模块。通信单元5059将转换成电信号后的图像信号提供给图像处理单元5061。
此外,通信单元5059向摄像头5005发送用于控制摄像头5005的驱动的控制信号。该控制信号也可以通过光通信发送。
图像处理单元5061对从摄像头5005向该图像处理单元5061以RAW数据形式发送的图像信号执行各种图像处理。图像处理包括各种已知的信号处理(诸如显影处理、图像质量改善处理(例如带宽增强处理、超分辨率处理、降噪(NR)处理和/或图像稳定处理)和/或放大处理(电子变焦处理))。此外,图像处理单元5061对图像信号执行检测处理,以便执行AE、AF和AWB。
图像处理单元5061包括处理器(诸如CPU或GPU),并且当处理器根据预定程序操作时,可以执行如上所述的图像处理和检测处理。应当注意,在图像处理单元5061包括多个GPU的情况下,图像处理单元5061适当地划分与图像信号相关的信息,使得由多个GPU并行地执行图像处理。
控制单元5063执行与通过内窥镜5001捕获手术区域的图像和显示捕获图像相关的各种控制。例如,控制单元5063生成用于控制摄像头5005的驱动的控制信号。因此,如果用户输入了图像拾取条件,则控制单元5063基于用户的输入生成控制信号。可替代地,在内窥镜5001包含AE功能、AF功能和AWB功能的情况下,控制单元5063响应于图像处理单元5061的检测处理的结果,适当地计算最佳曝光值、焦距和白平衡,并且生成控制信号。
此外,控制单元5063基于被图像处理单元5061执行了图像处理的图像信号,控制显示装置5041显示手术区域的图像。因此,控制单元5063使用各种图像识别技术识别手术区域图像中的各种对象。例如,控制单元5063可以通过检测手术区域图像中包括的对象的边缘的形状、颜色等来识别诸如钳子的手术工具、特定的活体区域、出血、使用能量装置5021时的薄雾等。当控制单元5063控制显示装置5041显示手术区域的图像时,该控制单元5063使用识别的结果使各种手术支持信息以与手术区域的图像重叠的方式显示。在手术支持信息以重叠方式显示并呈现给手术医生5067的情况下,手术医生5067可以更安全和稳定地进行手术。
将摄像头5005与CCU 5039彼此连接的传输电缆5065是准备用于电信号通信的电信号电缆、准备用于光通信的光纤或准备用于电通信与光通信两者的复合电缆。
这里,虽然在所示的示例中,通过使用传输电缆5065的有线通信来执行通信,但是摄像头5005与CCU 5039之间的通信可以通过无线通信来执行。在通过无线通信执行摄像头5005与CCU 5039之间的通信的情况下,无需在手术室中铺设传输电缆5065。因此,可以消除医务人员在手术室中的移动受到传输电缆5065干扰的情形。
上面已经描述了可以应用根据本公开的技术的内窥镜手术系统5000的示例。这里应当注意,尽管内窥镜手术系统5000已经被描述为示例,但是可以应用根据本公开的技术的系统不限于该示例。例如,根据本公开的技术可以应用于用于检查的柔性内窥镜手术系统或将在下面的应用例2中描述的显微镜手术系统。
根据本公开的技术可适当地应用于如上所述的配置中的内窥镜5001。具体地,在将由内窥镜5001成像的患者5071的体腔内的手术区域的图像中的血流部分和非血流部分以视觉可识别的方式容易地显示在显示装置5041上的情况下,根据本公开的技术是适用的。换句话说,应用于内窥镜5001的根据本公开的技术允许即使在捕获图像移动的情况下,也生成令人满意的SC图像并且准确地判别血流部分和非血流部分。这使得手术医生5067可以实现对手术区域的图像的实时观察,在该手术区域中,通过显示装置5041准确地判别了血液流动和非血流部分,从而导致更安全的手术。
(应用例2)
此外,根据本公开的技术可以应用于在放大患者的微小区域以进行观察的同时执行的用于所谓的显微镜手术的显微镜手术系统。
图20是示出可以应用根据本公开的技术的显微镜手术系统5300的示意性配置的示例的视图。参照图20,显微镜手术系统5300包括显微镜装置5301、控制装置5317和显示装置5319。应当注意,在对显微镜手术系统5300的描述中,术语“用户”表示使用显微镜手术系统5300的医务人员中的任意一个(诸如手术医生或助手)。
显微镜装置5301具有用于放大观察目标(患者的手术区域)以进行观察的显微镜单元5303、在该显微镜单元5303远端处支撑显微镜单元5303的臂单元5309、以及支撑臂单元5309的近端的基座单元5315。
显微镜单元5303包括大致圆柱形状的圆柱形部5305、设置在圆柱形部5305的内部的图像拾取单元(未示出)以及设置在圆柱形部5305的外周的部分区域中的操作单元5307。显微镜单元5303是电子图像拾取类型的显微镜单元(视频类型的显微镜单元),该显微镜单元5303通过图像拾取单元以电子方式捕获图像。
用于保护内部的图像拾取单元的盖玻璃构件设置在圆柱形部5305的下端的开口面处。来自观察目标的光(以下也被称为观察光)穿过盖玻璃构件并进入圆柱形部5305的内部的图像拾取单元。应当注意,包括例如发光二极管(LED)等的光源可以设置在圆柱形部5305的内部,并且在图像捕获时,光可以通过盖玻璃构件从光源照射到观察目标上。
图像拾取单元包括会聚观察光的光学系统和接收由光学系统会聚的观察光的图像拾取元件。光学系统包括具有变焦透镜和聚焦透镜的多个透镜的组合。光学系统具有经调节的光学性质,使得观察光会聚以在图像拾取元件的光接收面上形成图像。图像拾取元件接收观察光并且对观察光进行光电转换,以生成与观察光相对应的信号(即与观察图像相对应的图像信号)。作为图像拾取元件,例如,使用具有拜耳阵列并且能够对图像进行彩色成像的图像拾取元件。图像拾取元件可以是各种已知的图像拾取元件中的任一种(诸如互补金属氧化物半导体(CMOS)图像传感器或电荷耦合器件(CCD)图像传感器)。由图像拾取元件生成的图像信号作为RAW数据发送到控制装置5317。这里,可以适当地通过光通信执行图像信号的发送。这是因为,在手术部位,由于手术医生在通过捕获图像观察患处的状态的同时执行手术,所以为了实现具有更高程度的安全性和确定性的手术,要求尽可能实时地显示手术区域的运动图像。在使用光通信发送图像信号的情况下,可以以低延迟显示捕获图像。
应当注意,图像拾取单元可以具有用于沿着光轴移动该图像拾取单元图像拾取单元的光学系统的变焦透镜和聚焦透镜的驱动机构。在通过驱动机构适当地移动变焦透镜和聚焦透镜的情况下,可以调节捕获图像的放大率和图像捕获时的焦距。此外,图像拾取单元可以在其中包含通常可以在电子图像拾取类型的显微镜单元中提供的各种功能(诸如自动曝光(AE)功能或自动聚焦(AF)功能)。
此外,图像拾取单元可以被配置为包括单个图像拾取元件的单板型的图像拾取单元,或者可以被配置为包括多个图像拾取元件的多板型的图像拾取单元。在图像拾取单元被配置为多板型的情况下,例如,与红色、绿色和蓝色相对应的图像信号可以由图像拾取元件生成并且可以被合成以获得彩色图像。可替代地,图像拾取单元可以被配置为使得该图象拾取元件为一对图像拾取元件,以用于获取与立体视觉(三维(3D)显示)兼容的右眼和左眼的图像信号。在应用3D显示的情况下,手术医生可以以更高程度的准确性掌握手术区域中的活体组织的深度。应当注意,如果图像拾取单元被配置为多板型,则与各个图像拾取元件相对应地提供多个光学系统。
操作单元5307是输入器件,该操作单元5307例如包括十字杆、开关等,并且接受用户的操作输入。例如,用户可以通过操作单元5307输入用于改变观察图像的放大率和到观察目标的焦距的指令。可以通过图像拾取单元的驱动机构根据指令适当地移动变焦透镜和聚焦透镜来调节放大率和焦距。此外,例如,用户可以通过操作单元5307输入用于切换臂单元5309的操作模式(下文描述的全自由模式和固定模式)的指令。应当注意,当用户旨在移动显微镜单元5303时,假定用户在握住了圆柱形部5305的状态下移动显微镜单元5303。因此,操作单元5307优选地设置在这样的位置,即在圆柱形部5305被握住的情况下,用户的手指可以容易地对操作单元5307进行操作,使得即使在用户移动圆柱形部5305的同时也可以操作操作单元5307。
臂单元5309被配置成使得多个连杆(第一连杆5313a至第六连杆5313f)通过多个接合部(第一接合部5311a至第六接合部5311f)连接以相对于彼此旋转。
第一接合部5311a具有大致圆柱形状,并且在其远端(下端)支撑显微镜单元5303的圆柱形部5305的上端,以用于围绕与圆柱形部5305的中心轴平行的旋转轴(第一轴O1)旋转。这里,第一接合部5311a可以被配置为使得其的第一轴O1与显微镜单元5303的图像拾取单元的光轴对准。通过该配置,如果显微镜单元5303围绕第一轴O1旋转,则可以改变视野,以便旋转捕获图像。
第一连杆5313a在其远端固定地支撑第一接合部5311a。具体地,第一连杆5313a是具有大致L形的棒状构件,并且连接到第一接合部5311a,使得其远端侧的一侧在与第一轴O1正交的方向上延伸,并且该一侧的端部与第一接合部5311a的外周的上端部抵接。第二接合部5311b连接到第一连杆5313a的大致L形的近端侧上的另一侧的端部。
第二接合部5311b具有大致圆柱形状,并且在其远端处支撑第一连杆5313a的近端,以用于围绕与第一轴O1正交的旋转轴(第二轴O2)旋转。第二连杆5313b在其远端固定地连接到第二接合部5311b的近端。
第二连杆5313b是具有大致L形的棒状构件,并且第二连杆5313b的远端侧的一侧在与第二轴O2正交的方向上延伸,并且该一侧的端部固定地连接到第二接合部5311b的近端。第三接合部5311c连接到第二连杆5313b的大致L形的近端侧的另一侧。
第三接合部5311c具有大致圆柱形状,并且在其远端处支撑第二连杆5313b的近端,以用于围绕与第一轴O1和第二轴O2正交的旋转轴(第三轴O3)旋转。第三连杆5313c在其远端固定地连接到第三接合部5311c的近端。通过使包括显微镜单元5303的远端侧处的部件围绕第二轴O2和第三轴O3旋转,可以移动显微镜单元5303,使得该显微镜单元5303的位置在水平面内改变。换句话说,通过控制围绕第二轴O2和第三轴O3的旋转,可以在平面内移动捕获图像的视场。
第三连杆5313c被配置成使得其远端侧具有大致圆柱形状,并且第三接合部5311c的近端固定地连接到圆柱形状的远端,使得它们两者具有大致相同的中心轴。第三连杆5313c的近端侧具有棱柱形状,并且第四接合部5311d连接到第三连杆5313c的端部。
第四接合部5311d具有大致圆柱形状,并且在其远端处支撑第三连杆5313c的近端,以用于围绕与第三轴O3正交的旋转轴(第四轴O4)旋转。第四连杆5313d在其远端处固定地连接到第四接合部5311d的近端。
第四连杆5313d是大致线性延伸的棒状构件,并且固定地连接到第四接合部5311d,使得该第四连杆5313d正交于第四轴O4延伸,并且在该第四连杆5313d的远端的端部处与第四接合部5311d的大致圆柱形状的侧面抵接。第五接合部5311e连接到第四连杆5313d的近端。
第五接合部5311e具有大致圆柱形状,并且在其远端侧处支撑第四连杆5313d的近端,以用于围绕平行于第四轴O4的旋转轴(第五轴O5)旋转。第五连杆5313e在其远端处固定地连接到第五接合部5311e的近端。第四轴O4和第五轴O5是旋转轴,显微镜单元5303可以围绕该旋转轴在向上和向下方向上移动。通过使包括显微镜单元5303的远端侧的部件围绕第四轴O4和第五轴O5旋转,该显微镜单元5303的高度(即显微镜单元5303与观察目标之间的距离)可以调节。
第五连杆5313e包括具有大致L形状的第一构件和棒状第二构件的组合,该第一构件的一侧在竖直方向上延伸并且另一侧在水平方向上延伸,该棒状第二构件从第一构件的沿水平方向延伸的部分竖直向下延伸。第五接合部5311e在其近端处固定地连接到第五连杆5313e的第一构件的沿竖直方向延伸的部分的相邻上端。第六接合部5311f连接到第五连杆5313e的第二构件的近端(下端)。
第六接合部5311f具有大致圆柱形状,并且在其远端侧处支撑第五连杆5313e的近端,以用于围绕平行于竖直方向的旋转轴(第六轴O6)旋转。第六连杆5313f在其远端处固定地连接到第六接合部5311f的近端。
第六连杆5313f是在竖直方向上延伸的棒状构件,并且在其近端处固定地连接到基座单元5315的上表面。
第一接合部5311a至第六接合部5311f具有被适当设定的可旋转范围,使得显微镜单元5303可以进行期望的移动。因此,在具有如上所述的配置的臂单元5309中,关于显微镜单元5303的移动,可以实现包括三个平移自由度和三个旋转自由度的总共六个自由度的移动。通过以这种方式配置臂单元5309使得显微镜单元5303的移动实现六个自由度,可以在臂单元5309的可移动范围内自由地控制显微镜单元5303的位置和姿势。因此,可以从各个角度观察手术区域,并且可以更顺利地执行手术。
应当注意,所示的臂单元5309的配置完全是示例,并且包括在臂单元5309中的连杆的数量和形状(长度)以及接合部的数量、位置、旋转轴的方向等可以被适当地设计成使得可以实现期望的自由度。例如,为了自由移动显微镜单元5303,优选地臂单元5309被配置为具有如上所述的六个自由度。然而,臂单元5309也可以被配置为具有更大的自由度(即,冗余自由度)。在存在冗余自由度时,在臂单元5309中,可以在显微镜单元5303的位置和姿势固定的状态下改变臂单元5309的姿势。因此,可以实现对手术医生而言更方便的控制,例如控制臂单元5309的姿势,使得例如该臂单元5309不干扰观看显示装置5319的手术医生的视野。
这里,可以为第一接合部5311a至第六接合部5311f中的每个设置致动器,在该致动器中包含有驱动机构(诸如马达、检测每个接合部处的旋转角的编码器等)。通过由控制装置5317适当地控制设置在第一接合部5311a至第六接合部5311f中的致动器的驱动,可以控制臂单元5309的姿势(即显微镜单元5303的位置和姿势)。具体地,控制装置5317可以基于与由编码器检测的接合部的旋转角有关的信息,掌握臂单元5309当前的姿势和显微镜单元5303当前的位置和姿势。控制装置5317使用所掌握的信息来计算每个接合部的控制值(例如,要生成的旋转角或扭矩),利用该控制值来实现显微镜单元5303根据来自用户的操作输入的移动。因此,控制装置5317根据控制值驱动每个接合部的驱动机构。应当注意,在该情况下,控制装置5317对臂单元5309的控制方法不受限制,并且可以应用各种已知的控制方法(诸如力控制或位置控制)。
例如,当手术医生通过未示出的输入装置适当地执行操作输入时,臂单元5309的驱动可以响应于控制装置5317输入的操作而被适当地控制,以控制显微镜单元5303的位置和姿势。通过该控制,可以在显微镜单元5303从任意位置移动到不同的任意位置之后,将显微镜单元5303固定地支撑在移动之后的位置。应当注意,作为输入装置,考虑到给手术医生带来的便利性,优选地应用即使手术医生手中有手术工具(诸如例如脚踏开关),也可以由手术医生操作的输入装置。此外,可以基于手势检测或视线检测以非接触方式执行操作输入,在该手势检测或视线检测中使用在手术室中设置的可穿戴装置或相机。这使得即使是属于清洁区域的用户也可以高度自由地操作属于非清洁区域的装置。此外,臂单元5309可以以主从方式操作。在该情况下,用户可以通过放置在远离手术室的地方的输入装置远程控制臂单元5309。
此外,在施加力控制的情况下,控制装置5317可以执行动力辅助控制以驱动第一接合部5311a至第六接合部5311f的致动器,使得臂单元5309可以接收用户的外力并且随着外力平滑移动。这使得在用户握住显微镜单元5303并且直接移动显微镜单元5303的位置时,可以以相对较弱的力移动显微镜单元5303。因此,用户可以通过更简单和更容易的操作更直观地移动显微镜单元5303,并且可以提高用户的便利性。
此外,可以控制臂单元5309的驱动,使得臂单元5309执行枢转移动。这里,枢转移动是用于移动显微镜单元5303使得显微镜单元5303的光轴方向保持朝向空间中的预定点(以下被称为枢转点)的运动。由于枢转移动可以从各种的方向观察相同的观察位置,因此可以对患处进行更详细的观察。应当注意,在显微镜单元5303被配置为使得其焦距不能被调节的情况下,优选地在显微镜单元5303与枢转点之间的距离固定的状态下执行枢转移动。在该情况下,如果提前将显微镜单元5303与枢转点之间的距离调节成显微镜单元5303的固定焦距就足够了。通过刚刚描述的配置,显微镜单元5303开始在以枢转点为中心、半径与焦距相对应的半球形平面(在图20中示意性地示出)上移动,并且即使观察方向改变,也可以获得清晰的捕获图像。另一方面,在显微镜单元5303被配置为其焦距可调节的情况下,可以在显微镜单元5303与枢转点之间的距离可变的状态下执行枢转移动。在该情况下,例如,控制装置5317可以基于与由编码器检测的接合部的旋转角有关的信息来计算显微镜单元5303与枢转点之间的距离,并且基于计算的结果来自动调节显微镜单元5303的焦距。可替代地,在显微镜单元5303包括AF功能的情况下,每当由显微镜单元5303与枢转点之间的枢转移动引起距离改变时,可以通过AF功能自动执行焦距的调节。
此外,第一接合部5311a至第六接合部5311f中的每个可以设置有用于约束第一接合部5311a至第六接合部5311f的旋转的制动器。该制动器的操作可以由控制装置5317控制。例如,如果旨在固定显微镜单元5303的位置和姿势,则控制装置5317使接合部的制动器工作。因此,即使不驱动致动器,臂单元5309的姿势(即显微镜单元5303的位置和姿势)也可以是固定的,因此可以减少功耗。当旨在移动显微镜单元5303的位置和姿势时,只要控制装置5317释放接合部的制动器并且根据预定的控制方法驱动致动器就足够了。
可以响应于用户通过上文描述的操作单元5307输入的操作来执行制动器的这种操作。当用户旨在移动显微镜单元5303的位置和姿势时,用户可以操作操作单元5307以释放接合部的制动器。因此,臂单元5309的操作模式变为可以自由执行接合部的旋转的模式(全自由模式)。另一方面,如果用户旨在固定显微镜单元5303的位置和姿势,则用户可以操作操作单元5307以使接合部的制动器工作。因此,臂单元5309的操作模式变为接合部的旋转受到约束的模式(固定模式)。
控制装置5317通过控制显微镜装置5301和显示装置5319的操作来整体控制显微镜手术系统5300的操作。例如,控制装置5317使第一接合部5311a至第六接合部5311f的致动器根据预定的控制方法工作,以控制臂单元5309的驱动。此外,例如,控制装置5317控制第一接合部5311a至第六接合部5311f的制动器的操作,以改变臂单元5309的操作模式。此外,例如,控制装置5317对由显微镜装置5301的显微镜单元5303的图像拾取单元获取的图像信号执行各种信号处理,以生成用于显示的图像数据,并且控制显示装置5319显示生成的图像数据。作为信号处理,可以执行各种已知的信号处理(诸如例如显影处理(去马赛克处理)、图像质量改善处理(带宽增强处理、超分辨率处理、降噪(NR)处理和/或图像稳定处理)和/或放大处理(即电子变焦处理))。
应当注意,控制装置5317与显微镜单元5303之间的通信以及控制装置5317与第一接合部5311a至第六接合部5311f之间的通信可以是有线通信或无线通信。在应用有线通信时,可以执行电信号的通信或者可以执行光通信。在该情况下,响应于所应用的通信方法,用于有线通信的传输电缆可以被配置为电信号电缆、光纤或它们的复合电缆。另一方面,在应用无线通信时,由于无需在手术室中铺设传输电缆,因此可以消除医务人员在手术室中的移动受到传输电缆干扰的情形。
控制装置5317可以是诸如中央处理单元(CPU)或图形处理单元(GPU)的处理器,或者是其中包含有处理器和诸如存储器的存储元件的微型计算机或控制板。上文描述的各种功能可以由控制装置5317的处理器根据预定程序进行操作来实现。应当注意,在所示的示例中,控制装置5317被设置为与显微镜装置5301分开的装置。然而,控制装置5317可以安装在显微镜装置5301的基座单元5315的内部,并且与显微镜装置5301一体地配置。控制装置5317还可以包括多个装置。例如,微型计算机、控制板等可以设置在显微镜单元5303和臂单元5309的第一接合部5311a至第六接合部5311f中,并且连接以用于彼此通信,以实现与控制装置5317类似的功能。
显示装置5319设置在手术室中,并且在控制装置5317的控制下显示与由控制装置5317生成的图像数据相对应的图像。换句话说,由显微镜单元5303成像的手术区域的图像显示在显示装置5319上。显示装置5319可以显示代替手术区域的图像或者除了手术区域的图像之外的与手术有关的各种信息(诸如患者的身体信息或者与手术的手术过程相关的信息)。在该情况下,显示装置5319的显示可以响应于用户的操作而适当地切换。可替代地,也可以设置多个这样的显示装置5319,使得手术区域的图像或与手术有关的各种信息可以单独显示在多个显示装置5319上。应当注意,作为显示装置5319,可以应用各种已知的显示装置(诸如液晶显示装置或电致发光(EL)显示装置)。
图21是示出使用图20所示的显微镜手术系统5300的手术状态的视图。图21示意性地示出手术医生5321使用显微镜手术系统5300对病床5323上的患者5325进行手术的状态。应当注意,在图21中,为了简化图示,省略了显微镜手术系统5300的部件中的控制装置5317,并且以简化的形式示出了显微镜装置5301。
如图2C所示,在手术时,使用显微镜手术系统5300,由显微镜装置5301成像的手术区域的图像以放大的比例显示在安装在手术室的墙面上的显示装置5319上。显示装置5319安装在与手术医生5321相对的位置处,并且手术医生5321在观察显示在显示装置5319上的视频中的手术区域的状态的同时,可以对手术区域执行各种治疗(诸如例如患处的切除)。
已经描述了可以应用根据本公开的技术的显微镜手术系统5300的示例。这里应当注意的是,虽然显微镜手术系统5300被描述为示例,但是可以应用根据本公开的技术的系统不限于该示例。例如,显微镜装置5301还可以用作支撑臂装置,该支撑臂装置在其远端处支撑不同的观察装置或一些其他手术工具以代替显微镜单元5303。作为其他观察装置,例如,可以应用内窥镜。此外,作为不同的手术工具,可以应用钳子、镊子、用于气腹的气腹管或用于通过烧灼等进行组织切割或血管密封的能量装置。通过由支撑臂装置支撑刚刚描述的这种观察装置和手术工具中的任一种,与由医务人员的手支撑它们的替代情况相比,它们的位置可以以高度的稳定性固定。因此,可以减轻医务人员的负担。根据本公开的技术可以应用于支撑除显微镜单元之外的如上所述的部件的支撑臂装置。
根据本公开的技术可适当地应用于如上所述的配置中的控制装置5317。具体地,在由显微镜单元5303的图像拾取单元成像的患者5325的手术区域的图像中的血流部分和非血流部分以视觉可识别的方式容易地显示在显示装置5319上的情况下,根据本公开的技术是适用的。换句话说,应用于控制装置5317的根据本公开的技术允许即使在捕获图像移动的情况下,也生成令人满意的SC图像并且准确地判别血流部分和非血流部分。这使得手术医生5321可以实现对手术区域的图像的实时观察,在该手术区域中,通过显示装置5319准确地判别血流部分和非血流部分,从而导致更安全的手术。
(变形例)
作为显示散斑的调制强度的指标,除了如上所述的散斑对比度之外,还可以考虑下面的指标1至指标5。
(指标1:熵)
代替单个帧中的散斑对比度,可以导出局部强度分布的熵并且执行映射。然后,可以与散斑对比度类似地在帧内完成处理。
(指标2:相关时间)
针对多个帧上的每个像素获得信号强度,该多个帧的成像曝光时间明显短于散斑相关时间(信号性质持续的时间)。从信号强度导出相关时间,以生成图像。可以在不降低分辨率的情况下使用。
(指标3:帧之间的空间相关性)
相同局部区域中的散斑图案之间的互相关用作在明显短于相关时间的曝光时间成像的相邻帧或特定时间之后的帧之间的指标。与指标2相比,可以节省内存。
(指标4:运动物体检测方法)
在进行观察时,生成通过平均在明显短于相关时间的曝光时间成像的图像前面的多个帧的散斑图像强度信号而获得的图像。取得该图像与观察时的散斑图像强度信号之间的差值,提取波动部分(即血流部分)。这也适用于散斑图像。此外,根据情况,可以在平均时对每个帧执行加权。这使得可以用比指标2更小的内存使用量来生成高分辨率的血液流动图像。
(指标5:时差绝对值积分方法)
现在参照图22至图24B描述指标5的时差绝对值积分方法。图22是示出用于描述本公开的变形例中的指标5的时差绝对值积分方法的血液体模模型的示意图。截取方向是与血液体模模型中的血流部分和非血流部分的纵向垂直的方向。图23是示出描述本公开的变形例中的指标5的时差绝对值积分方法的图。
对于在明显短于相关时间的曝光时间成像的散斑图像的强度信号,获取多个帧的序列差值(图23的(a)和图23的(b),并且对它们的绝对值进行积分(图23的(c))。因此,生成差值绝对值积分图像。然后,可以通过对相同数量的帧分别执行简单的平均或积分并除以差值绝对值积分图像的信号值,来生成血流图像。另外,如果需要,还可以通过将如上所述计算的差值绝对值积分图像除以平均亮度(强度)图像或归一化平均亮度(强度)图像等来消除亮度(强度)分布的影响。像指标4一样,可以在保持分辨率的同时生成血流图像,而无需大的内存容量。该方法还可以检测通过散斑对比度技术无法检测到的微小流速下的血液流动。
图24A是示出通过未使用时差绝对值积分方法的散斑对比度技术生成的SC图像的示例的图。图24B是示出通过本公开的变形例中的指标5的时差绝对值积分方法(积分帧数为100)生成的SC图像的示例的图。在这两种情况下,血液流动速度都很慢。在该情况下,可以看出,图24B的SC图像示例比图24A的SC图像示例更容易判别血流部分和非血流部分。
注意,本技术可能包括以下配置。
(1)一种医疗系统,包括:
第一光照射器件,用于利用相干光照射图像捕获目标;
图像捕获器件,用于捕获散斑图像,该散斑图像从通过利用相干光照射图像捕获目标而引起的散射光获得;
散斑对比度计算器件,用于基于散斑图像计算每个像素的散斑对比度值;
运动检测器件,用于检测图像捕获目标的运动;
散斑图像生成器件,用于基于散斑对比度值和由运动检测器件检测到的图像捕获目标的运动来生成散斑对比度图像;以及
显示器件,用于显示散斑对比度图像。
(2)根据(1)的医疗系统,其中,图像捕获目标是具有血管的活体。
(3)根据(1)或(2)的医疗系统,其中,图像捕获器件还捕获从由图像捕获目标引起的反射光获得的可见光图像。
(4)根据(3)的医疗系统,其中,运动检测器件基于可见光图像来检测图像捕获目标的运动。
(5)根据(4)的医疗系统,还包括第二光照射器件,该第二光照射器件用于利用可见光照射图像捕获目标。
(6)根据(1)至(5)中任一项的医疗系统,其中,医疗系统是显微镜手术系统或者内窥镜手术系统。
(7)一种信息处理装置,包括:
散斑对比度计算器件,用于基于散斑图像计算每个像素的散斑对比度值,该散斑图像从通过利用相干光照射图像捕获目标而引起的散射光获得;
运动检测器件,用于检测图像捕获目标的运动;
散斑图像生成器件,用于基于散斑对比度值和由运动检测器件检测到的图像捕获目标的运动来生成散斑对比度图像;以及
显示控制器件,用于控制显示单元显示散斑对比度图像。
(8)根据(7)的信息处理装置,其中,信息处理装置获取从由图像捕获目标引起的反射光获得的可见光图像。
(9)根据(8)的信息处理装置,其中,运动检测器件基于可见光图像来检测图像捕获目标的运动。
(10)根据(7)至(9)中任一项的信息处理装置,其中,散斑图像生成器件基于图像捕获目标的运动以及指示在预定曝光时间被摄体的运动与散斑对比度值之间的关系的第一关系信息来生成散斑对比度图像。
(11)根据(7)的信息处理装置,其中,散斑图像生成器件基于图像捕获目标的运动以及指示在预定曝光时间图像捕获目标上的参考标记的运动与散斑对比度值之间的关系的第二关系信息来生成散斑对比度图像。
(12)根据(9)的信息处理装置,其中,运动检测器件基于可见光图像的特征点的运动来检测图像捕获目标的运动。
(13)根据(7)的信息处理装置,其中,运动检测器件基于散斑图像中的散斑形状的波动来检测图像捕获目标的运动。
(14)根据(7)的信息处理装置,其中,
运动检测器件基于散斑对比度值波动预定值或更大的像素来检测图像捕获目标的运动,并且
散斑图像生成器件基于像素的散斑对比度值来生成散斑对比度图像。
(15)根据(8)的信息处理装置,还包括学习器件,该学习器件用于基于散斑对比度图像和可见光图像来判别图像捕获目标的血流部分和非血流部分。
(16)根据(15)的信息处理装置,其中,散斑图像生成器件基于由学习器件获得的学习结果来识别血流部分。
(17)一种信息处理方法,包括:
散斑对比度计算处理,基于散斑图像计算每个像素的散斑对比度值,该散斑图像从通过利用相干光照射图像捕获目标而引起的散射光获得;
运动检测处理,检测图像捕获目标的运动;
散斑图像生成处理,基于散斑对比度值和通过运动检测处理检测到的图像捕获目标的运动来生成散斑对比度图像;以及
显示控制处理,控制显示单元显示散斑对比度图像。
尽管给出了本公开的实施例和变形例的以上描述,但是本公开的技术范围不限于上述实施例和变形例,并且在不脱离本公开的精神和范围的情况下,可以进行各种修改和变化。另外,覆盖不同实施例和变形例的部件可以适当地组合。
在上述实施例中,在一个示例中,散斑优选地以大约1.6ms的曝光时间成像,并且结合大约15ms的非曝光时间(占空比≈0.1),以60fps的帧速率执行成像。然而,曝光时间不限于此,并且帧速率也不限于此。
此外,其中检测到图像捕获目标2的运动并且利用该运动校正SC的范围可以是整个图像,并且此外,该范围可以以通过将图像分成若干部分而获得的块为单位或者以像素为单位。
此外,在参照图12的描述中,应用针对三个帧的中值滤波器,并且采用SC、紧接的前一SC和紧接的后一SC当中的中值。然而,SC校正方法不限于此。在一个示例中,可以应用针对五个帧的中值滤波器,或者可以采用针对预定数量的帧的SC的平均值。
此外,本说明书中描述的实施例和变形例中的效果仅仅是说明性的,而不是限制性的,并且可以实现其他效果。
此外,在第四实施例中,学习单元1316对学习结果的使用不限于根据图像捕获目标2的运动无法生成令人满意的SC图像的情况。学习结果可以用于在其他情况下,例如验证由判别单元1314基于SC图像对流体部分和非流体部分的判别结果。
附图标记列表
1 医疗系统
11 光源
12 图像捕获装置
13 信息处理装置
14 显示装置
131 处理单元
132 存储单元
1311 运动检测单元
1312 SC计算单元
1313 SC图像生成单元
1314 判别单元
1315 显示控制单元
1316 学习单元。
Claims (17)
1.一种医疗系统,包括:
第一光照射器件,用于利用相干光照射图像捕获目标;
图像捕获器件,用于捕获散斑图像,所述散斑图像从通过利用所述相干光照射所述图像捕获目标而引起的散射光获得;
散斑对比度计算器件,用于基于所述散斑图像计算每个像素的散斑对比度值;
运动检测器件,用于检测所述图像捕获目标的运动;
散斑图像生成器件,用于基于所述散斑对比度值和由所述运动检测器件检测到的所述图像捕获目标的所述运动来生成散斑对比度图像;以及
显示器件,用于显示所述散斑对比度图像。
2.根据权利要求1所述的医疗系统,其中,所述图像捕获目标是具有血管的活体。
3.根据权利要求1所述的医疗系统,其中,所述图像捕获器件还捕获从由所述图像捕获目标引起的反射光获得的可见光图像。
4.根据权利要求3所述的医疗系统,其中,所述运动检测器件基于所述可见光图像来检测所述图像捕获目标的所述运动。
5.根据权利要求4所述的医疗系统,还包括第二光照射器件,所述第二光照射器件用于利用可见光照射所述图像捕获目标。
6.根据权利要求1所述的医疗系统,其中,所述医疗系统是显微镜手术系统或者内窥镜手术系统。
7.一种信息处理装置,包括:
散斑对比度计算器件,用于基于散斑图像计算每个像素的散斑对比度值,所述散斑图像从通过利用相干光照射图像捕获目标而引起的散射光获得;
运动检测器件,用于检测所述图像捕获目标的运动;
散斑图像生成器件,用于基于所述散斑对比度值和由所述运动检测器件检测到的所述图像捕获目标的所述运动来生成散斑对比度图像;以及
显示控制器件,用于控制显示单元显示所述散斑对比度图像。
8.根据权利要求7所述的信息处理装置,其中,所述信息处理装置获取从由所述图像捕获目标引起的反射光获得的可见光图像。
9.根据权利要求8所述的信息处理装置,其中,所述运动检测器件基于所述可见光图像来检测所述图像捕获目标的所述运动。
10.根据权利要求7所述的信息处理装置,其中,所述散斑图像生成器件基于所述图像捕获目标的所述运动以及指示在预定曝光时间被摄体的运动与散斑对比度值之间的关系的第一关系信息来生成所述散斑对比度图像。
11.根据权利要求7所述的信息处理装置,其中,所述散斑图像生成器件基于所述图像捕获目标的所述运动以及指示在预定曝光时间所述图像捕获目标上的参考标记的运动与散斑对比度值之间的关系的第二关系信息来生成所述散斑对比度图像。
12.根据权利要求9所述的信息处理装置,其中,所述运动检测器件基于所述可见光图像的特征点的运动来检测所述图像捕获目标的所述运动。
13.根据权利要求7所述的信息处理装置,其中,所述运动检测器件基于所述散斑图像中的散斑形状的波动来检测所述图像捕获目标的所述运动。
14.根据权利要求7所述的信息处理装置,其中,
所述运动检测器件基于所述散斑对比度值波动预定值或更大的像素来检测所述图像捕获目标的所述运动,并且
所述散斑图像生成器件基于所述像素的所述散斑对比度值来生成所述散斑对比度图像。
15.根据权利要求8所述的信息处理装置,还包括学习器件,所述学习器件用于基于所述散斑对比度图像和所述可见光图像来判别所述图像捕获目标的血流部分和非血流部分。
16.根据权利要求15所述的信息处理装置,其中,所述散斑图像生成器件基于由所述学习器件获得的学习结果来识别所述血流部分。
17.一种信息处理方法,包括:
散斑对比度计算处理,基于散斑图像计算每个像素的散斑对比度值,所述散斑图像从通过利用相干光照射的图像捕获目标引起的散射光获得;
运动检测处理,检测所述图像捕获目标的运动;
散斑图像生成处理,基于所述散斑对比度值和通过所述运动检测处理检测到的所述图像捕获目标的所述运动来生成散斑对比度图像;以及
显示控制处理,控制显示单元显示所述散斑对比度图像。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018-159675 | 2018-08-28 | ||
JP2018159675 | 2018-08-28 | ||
PCT/JP2019/031246 WO2020045015A1 (ja) | 2018-08-28 | 2019-08-07 | 医療システム、情報処理装置及び情報処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112584743A true CN112584743A (zh) | 2021-03-30 |
Family
ID=69644846
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980054396.9A Withdrawn CN112584743A (zh) | 2018-08-28 | 2019-08-07 | 医疗系统、信息处理装置和信息处理方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20210321887A1 (zh) |
CN (1) | CN112584743A (zh) |
DE (1) | DE112019004340T5 (zh) |
WO (1) | WO2020045015A1 (zh) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11553844B2 (en) | 2014-10-14 | 2023-01-17 | East Carolina University | Methods, systems and computer program products for calculating MetaKG signals for regions having multiple sets of optical characteristics |
US11328185B2 (en) * | 2017-06-30 | 2022-05-10 | California Institute Of Technology | Noninvasive, label-free, in vivo flow cytometry using speckle correlation technique |
EP3705018A4 (en) * | 2017-11-01 | 2020-10-14 | Sony Corporation | SURGICAL ARM SYSTEM AND SURGICAL ARM CONTROL SYSTEM |
US20210235968A1 (en) * | 2018-08-28 | 2021-08-05 | Sony Corporation | Medical system, information processing apparatus, and information processing method |
US11819318B2 (en) * | 2020-04-27 | 2023-11-21 | Open Water Internet Inc. | Optical imaging from light coherence |
CN111759284A (zh) * | 2020-07-20 | 2020-10-13 | 重庆市中医院 | 一种近红外淋巴显影成像检测方法 |
NL2026505B1 (en) | 2020-09-18 | 2022-05-23 | Limis Dev B V | Motion-compensated laser speckle contrast imaging |
CA3196709A1 (en) * | 2020-10-05 | 2022-04-14 | East Carolina University | Methods, systems and computer program products for calculating metakg signals for regions having multiple sets of optical characteristics |
US20230087295A1 (en) * | 2021-09-10 | 2023-03-23 | Rockley Photonics Limited | Optical speckle receiver |
WO2023177281A1 (en) | 2022-03-17 | 2023-09-21 | Limis Development B.V. | Motion-compensated laser speckle contrast imaging |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2121100A2 (en) * | 2007-02-08 | 2009-11-25 | C.R.Bard, Inc. | Shape memory medical device and methods of manufacturing |
JP5349899B2 (ja) * | 2007-11-09 | 2013-11-20 | 富士フイルム株式会社 | 撮像システムおよびプログラム |
EP3748338A1 (en) * | 2013-06-19 | 2020-12-09 | The General Hospital Corporation | Omni-directional viewing apparatus |
US9839365B1 (en) * | 2014-11-24 | 2017-12-12 | Verily Life Sciences Llc | Applications of vasculature mapping using laser speckle imaging |
US10070796B2 (en) * | 2015-02-04 | 2018-09-11 | General Electric Company | Systems and methods for quantitative microcirculation state monitoring |
CN107427201A (zh) * | 2015-03-31 | 2017-12-01 | 索尼公司 | 照明光传输装置及照明光传输方法 |
US20180110423A1 (en) * | 2015-04-15 | 2018-04-26 | Koninklijke Philips N.V. | Optical laser speckle sensor for measuring a blood perfusion parameter |
CN108430306B (zh) * | 2015-10-09 | 2021-06-22 | 瓦索普蒂奇医疗公司 | 用于使用激光散斑对比度成像快速检查脉管系统和微粒流的系统和方法 |
US20180012359A1 (en) * | 2016-07-06 | 2018-01-11 | Marinko Venci Sarunic | Systems and Methods for Automated Image Classification and Segmentation |
-
2019
- 2019-08-07 DE DE112019004340.4T patent/DE112019004340T5/de not_active Withdrawn
- 2019-08-07 WO PCT/JP2019/031246 patent/WO2020045015A1/ja active Application Filing
- 2019-08-07 US US17/250,699 patent/US20210321887A1/en not_active Abandoned
- 2019-08-07 CN CN201980054396.9A patent/CN112584743A/zh not_active Withdrawn
Also Published As
Publication number | Publication date |
---|---|
DE112019004340T5 (de) | 2021-05-12 |
WO2020045015A1 (ja) | 2020-03-05 |
US20210321887A1 (en) | 2021-10-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112584743A (zh) | 医疗系统、信息处理装置和信息处理方法 | |
US11033338B2 (en) | Medical information processing apparatus, information processing method, and medical information processing system | |
US11463629B2 (en) | Medical system, medical apparatus, and control method | |
US11540700B2 (en) | Medical supporting arm and medical system | |
JP2020074926A (ja) | 医療用観察システム、信号処理装置及び医療用観察方法 | |
WO2021049438A1 (ja) | 医療用支持アーム、及び医療用システム | |
US20220008156A1 (en) | Surgical observation apparatus, surgical observation method, surgical light source device, and surgical light irradiation method | |
US20220183576A1 (en) | Medical system, information processing device, and information processing method | |
US20220400938A1 (en) | Medical observation system, control device, and control method | |
WO2017221491A1 (ja) | 制御装置、制御システム、および制御方法 | |
US20230222740A1 (en) | Medical image processing system, surgical image control device, and surgical image control method | |
US20200085287A1 (en) | Medical imaging device and endoscope | |
US20220022728A1 (en) | Medical system, information processing device, and information processing method | |
US20210235968A1 (en) | Medical system, information processing apparatus, and information processing method | |
WO2020203164A1 (ja) | 医療システム、情報処理装置及び情報処理方法 | |
US20230248231A1 (en) | Medical system, information processing apparatus, and information processing method | |
WO2020084917A1 (ja) | 医療システム及び情報処理方法 | |
WO2022269992A1 (ja) | 医療用観察システム、情報処理装置及び情報処理方法 | |
WO2020050187A1 (ja) | 医療システム、情報処理装置及び情報処理方法 | |
WO2023176133A1 (ja) | 内視鏡用保持装置、内視鏡手術システム、及び制御方法 | |
JP2020525055A (ja) | 医療撮影システム、方法及びコンピュータプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20210330 |
|
WW01 | Invention patent application withdrawn after publication |