CN115720505A - 医疗系统、信息处理装置和信息处理方法 - Google Patents
医疗系统、信息处理装置和信息处理方法 Download PDFInfo
- Publication number
- CN115720505A CN115720505A CN202180045528.9A CN202180045528A CN115720505A CN 115720505 A CN115720505 A CN 115720505A CN 202180045528 A CN202180045528 A CN 202180045528A CN 115720505 A CN115720505 A CN 115720505A
- Authority
- CN
- China
- Prior art keywords
- image
- color
- captured image
- observation mode
- parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000010365 information processing Effects 0.000 title claims description 37
- 238000003672 processing method Methods 0.000 title claims description 8
- 238000006243 chemical reaction Methods 0.000 claims abstract description 110
- 238000003384 imaging method Methods 0.000 claims abstract description 67
- 238000012545 processing Methods 0.000 claims abstract description 64
- 230000033001 locomotion Effects 0.000 claims description 41
- 239000011159 matrix material Substances 0.000 claims description 10
- 210000001835 viscera Anatomy 0.000 claims description 5
- 238000010801 machine learning Methods 0.000 claims description 4
- 238000000034 method Methods 0.000 description 56
- 238000004891 communication Methods 0.000 description 45
- 210000003128 head Anatomy 0.000 description 42
- 235000019646 color tone Nutrition 0.000 description 36
- 238000010586 diagram Methods 0.000 description 34
- 230000003287 optical effect Effects 0.000 description 33
- 230000008569 process Effects 0.000 description 23
- 210000000056 organ Anatomy 0.000 description 21
- 238000001356 surgical procedure Methods 0.000 description 21
- 230000006870 function Effects 0.000 description 19
- 230000005540 biological transmission Effects 0.000 description 12
- 210000001519 tissue Anatomy 0.000 description 11
- 238000002674 endoscopic surgery Methods 0.000 description 10
- 230000004044 response Effects 0.000 description 8
- 208000005646 Pneumoperitoneum Diseases 0.000 description 6
- 210000004204 blood vessel Anatomy 0.000 description 5
- 238000001514 detection method Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 230000007246 mechanism Effects 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 239000003086 colorant Substances 0.000 description 4
- 238000011161 development Methods 0.000 description 4
- 230000005284 excitation Effects 0.000 description 4
- 238000011282 treatment Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 239000011521 glass Substances 0.000 description 3
- 210000003815 abdominal wall Anatomy 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 239000003795 chemical substances by application Substances 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000002224 dissection Methods 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- MOFVSTNWEDAEEK-UHFFFAOYSA-M indocyanine green Chemical compound [Na+].[O-]S(=O)(=O)CCCCN1C2=CC=C3C=CC=CC3=C2C(C)(C)C1=CC=CC=CC=CC1=[N+](CCCCS([O-])(=O)=O)C2=CC=C(C=CC=C3)C3=C2C1(C)C MOFVSTNWEDAEEK-UHFFFAOYSA-M 0.000 description 2
- 229960004657 indocyanine green Drugs 0.000 description 2
- 230000001678 irradiating effect Effects 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000006641 stabilisation Effects 0.000 description 2
- 238000011105 stabilization Methods 0.000 description 2
- 208000004350 Strabismus Diseases 0.000 description 1
- 230000000740 bleeding effect Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000002073 fluorescence micrograph Methods 0.000 description 1
- 238000002350 laparotomy Methods 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000002406 microsurgery Methods 0.000 description 1
- 210000004877 mucosa Anatomy 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 238000007639 printing Methods 0.000 description 1
- 238000007789 sealing Methods 0.000 description 1
- 239000002344 surface layer Substances 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0638—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000094—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000095—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
- A61B1/0005—Display arrangement combining images e.g. side-by-side, superimposed or tiled
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/043—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0655—Control therefor
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/25—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
- G01N21/27—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands using photo-electric detection ; circuits for computing concentration
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/06—Means for illuminating specimens
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B23/00—Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
- G02B23/24—Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B23/00—Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
- G02B23/24—Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
- G02B23/26—Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes using light guides
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/143—Sensing or illuminating at different wavelengths
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/56—Extraction of image or video features relating to colour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/761—Proximity, similarity or dissimilarity measures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
- H04N5/145—Movement estimation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10064—Fluorescence image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10141—Special mode during image acquisition
- G06T2207/10152—Varying illumination
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/03—Recognition of patterns in medical or anatomical images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- General Health & Medical Sciences (AREA)
- Optics & Photonics (AREA)
- General Physics & Mathematics (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Pathology (AREA)
- Theoretical Computer Science (AREA)
- Animal Behavior & Ethology (AREA)
- Veterinary Medicine (AREA)
- Biophysics (AREA)
- Public Health (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Signal Processing (AREA)
- Chemical & Material Sciences (AREA)
- Astronomy & Astrophysics (AREA)
- Analytical Chemistry (AREA)
- Geometry (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Quality & Reliability (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Biochemistry (AREA)
- Immunology (AREA)
- Mathematical Physics (AREA)
- Endoscopes (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
Abstract
一种医疗系统,具备:光源,在第一观察模式和第二观察模式下用具有不同波长范围的光照射对象,对象是手术中的活体的一部分;成像装置,拍摄来自被光照射的对象的反射光,并输出拍摄图像;存储控制单元,将第一观察模式下的第一拍摄图像作为参考图像存储在存储单元中;生成单元,对第二观察模式下的第二拍摄图像与参考图像进行比较,并生成用于使第二拍摄图像的色调接近参考图像的色调的参数;颜色转换处理单元,根据参数对第二拍摄图像进行颜色转换处理,并输出经颜色转换的图像;以及显示控制单元,进行控制以使显示单元显示经颜色转换的图像。
Description
技术领域
本公开涉及医疗系统、信息处理装置和信息处理方法。
背景技术
可以在多种类型的观察模式(例如,白光观察模式和可见荧光观察模式)下在医疗领域使用手术期间通过拍摄活体而获得的图像来进行手术部位的观察。
引用列表
专利文献
专利文献1:JP 2005-348902A
发明内容
技术问题
然而,相关技术中的技术对于可用于拍摄的图像中的非荧光部分的颜色再现的波长具有限制性,例如,在可见荧光观察模式下,其颜色再现性劣化。换言之,白光观察模式和可见荧光观察模式下的拍摄图像的色调不同,引起挑战性的问题。
因此,本公开提供了能够使一个观察模式下的拍摄图像的色调接近另一观察模式下的拍摄图像的色调的医疗系统、信息处理装置和信息处理方法。
问题的解决方案
为了解决上述问题,根据本公开的一个方面的医疗系统包括:光源,被配置为在第一观察模式和第二观察模式中使用具有不同波长范围的光照射拍摄对象,拍摄对象是手术中的活体的一部分;成像装置,被配置为拍摄来自被光照射的拍摄对象的反射光并且输出拍摄图像;存储控制器,被配置为执行控制以使存储部存储第一观察模式下的第一拍摄图像作为参考图像;生成部,被配置为将第二观察模式下的第二拍摄图像与参考图像进行比较,以生成用于使第二拍摄图像的色调接近参考图像的色调的参数;颜色转换处理器,被配置为基于参数对第二拍摄图像执行颜色转换处理以输出经颜色转换的图像;以及显示控制器,被配置为执行控制以使显示部显示经颜色转换的图像。
附图说明
图1为示出用以描述背景技术的示图。
图2为示出用以描述背景技术的示图。
图3是示出了用于描述本公开的第一实施方式的概况的示图。
图4是示出根据本公开的第一实施方式的医疗系统的配置的示图。
图5为示出根据本公开第一实施方式的信息处理装置的配置的示图。
图6是示出根据本公开的第一实施方式的颜色转换参数生成部的第一配置示例的示图。
图7是示出根据本公开的第一实施方式的颜色转换参数生成部的第二配置示例的示图。
图8是示出根据本公开的第一实施方式的颜色转换参数生成部的第三配置示例的示图。
图9是示出以描述本公开的第一实施方式中的拍摄图像中的颜色转换的处理单位的示图。
图10是示出以描述根据本公开的第一实施方式的矩阵格式的颜色转换参数的示图。
图11为用于描述在本公开的第一实施方式中在以预定区域为单位生成颜色转换参数的情况下用于防止在预定区域之间的边界处的色调的不连续的处理的示图。
图12是示出根据本公开的第一实施方式的信息处理装置执行的处理的第一流程图。
图13是示出根据本公开的第一实施方式的信息处理装置执行的处理的第二流程图。
图14是示出根据本公开的第二实施方式的信息处理装置的配置的示图。
图15是示出了描述根据本公开的第二实施方式的以矩阵格式的颜色转换参数的示图。
图16是示出根据本公开的第一应用示例的内窥镜手术系统的示意性配置的示例的示图。
图17是示出图16中所示的相机头和CCU的功能配置的示例的框图。
图18是示出根据本公开的第二应用示例的显微镜手术系统的示意性配置的示例的示图。
图19是示出了使用图18中所示的显微镜手术系统的手术状态的示图。
具体实施方式
现在参考附图详细描述本公开的实施方式。此外,在下面描述的实施方式中,相同的部件由相同的参考标号表示,并且因此适当地省略其描述。
再次描述背景技术以便于对实施方式的理解。图1和图2是示出用以描述背景技术的示图。在此,说明作为特定波长光观察模式的示例的可见荧光观察模式。图1的上部示出对于可见荧光观察模式下的荧光部分中的光源的波长与强度的关系、成像装置中使用的波长与强度的关系以及拍摄图像的示意图。
此外,图1的下部示出针对可见荧光观察模式下的非荧光部分的光源的波长与强度的关系、成像装置中使用的波长与强度的关系以及拍摄图像的示意图。即,该情况下,如图2所示,与白光观察模式的情况相比,能够用于成像装置中的非荧光部分的颜色再现的波长范围变窄。这表明,可见荧光观察模式下的拍摄图像的颜色再现性降低。
具体地,现有技术存在如下挑战:白光观察模式下的拍摄图像与可见荧光观察模式下的拍摄图像的色调不同。这种图像可能使例如在观看图像的同时进行手术的外科医生难以识别手术部位的状况。另外,为了改善颜色再现性而针对各种拍摄对象和颜色生成颜色转换参数在一些情况下阻止了输入值和输出结果之间的关系与颜色是一对一的,从而导致不满意的精度。由此,以下说明一种能够高精度地使一个观察模式下的拍摄图像的色调接近于另一个观察模式下的拍摄图像的色调的方法。在此,主要说明使可见荧光观察模式(示例性特定波长光观察模式)下的拍摄图像的色调与白光观察模式下的拍摄图像的色调接近的情况。
(第一实施方式)
现在描述第一实施方式。图3是示出了用于描述本公开的第一实施方式的概况的示图。第一实施方式的概述如下。首先,存储白光拍摄图像(白光观察模式下的拍摄图像)。然后,根据特定波长光拍摄图像(特定波长光观察模式下的拍摄图像)和白光拍摄图像,生成颜色转换参数(以下有时简称为“参数”)。然后,使用颜色转换参数对特定波长光拍摄图像进行颜色转换处理,以获得颜色转换图像。显示颜色转换的图像。该配置使得能够仅使用在手术期间出现的位置(颜色)以实时地更高精度生成颜色转换参数,从而改善颜色再现性。以下详细说明第一实施方式。
图4是示出根据本公开的第一实施方式的医疗系统1的配置的示图。根据第一实施方式的医疗系统1大致包括光源2(光源)、成像装置3(成像装置)、信息处理装置4和显示装置5(显示部)。以下详细描述每个部件的配置。
(1)光源
光源2在白光观察模式(第一观察模式)和可见荧光观察模式(第二观察模式)下,对作为手术中的活体的一部分的拍摄对象照射波长范围不同的光。此外,在图4中,为了简化图示,设置单个光源2,但是,也可以针对白光观察模式和可见荧光观察模式分别设置这些光源。
(2)拍摄对象
拍摄对象9(在下文中,简称为“拍摄对象”)是手术中的活体。在一个示例中,使用根据本公开的医疗系统1用于显微镜手术、内窥镜手术等,使得可以执行外科手术,同时识别脏器、血管等的位置。因此,可以实现更安全且更精确的外科手术,有助于医疗技术的进一步发展。
(3)成像装置
成像装置3拍摄来自用光照射的拍摄对象的反射光,输出拍摄图像。成像装置3例如是成像器。另外,在图4中,为了简化图示,设置单个成像装置3,但是,也可以针对白光观察模式和可见荧光观察模式分别设置这些成像装置。
(4)信息处理装置
现在参考图5给出信息处理装置4的描述。图5为示出根据本公开的第一实施方式的信息处理装置4的功能配置示例的示图。信息处理装置4是图像处理装置,并包括作为主要部件的处理器41和存储部42。
处理器41被实现为例如中央处理单元(CPU),并且包括获取部411、参考图像存储控制器412(或存储控制器)、颜色转换参数生成部413(或生成部)、颜色转换处理器414和显示控制器415。
获取部411从成像装置3获取白光观察模式下的白光拍摄图像和可见荧光观察模式下的可见荧光拍摄图像。
参考图像存储控制器412执行控制以使存储部42将白光观察模式下的白光拍摄图像存储为参考图像。参考图像存储控制器412例如将白光观察模式下的白光拍摄图像默认存储为参考图像。
另外,参考图像存储控制器412使存储部42例如在图像中活体以外的物体(手术工具等)的面积小于等于预定比例的情况下,存储白光观察模式下的白光拍摄图像作为参考图像。另外,在这种情况下,假设使存储部42将白光拍摄图像存储为参考图像的参考图像存储控制器412获取活体以外的面积较小的物体的白光拍摄图像。在这种情况下,参考图像存储控制器412可将参考图像更新为获取的白光拍摄图像。
另外,参考图像存储控制器412例如在图像的清晰度大于等于预定阈值的情况下,使存储部42将白光观察模式下的白光拍摄图像存储为参考图像。可设想,小于预定阈值的图像的清晰度是例如成像装置3已经移动的原因。另外,在该情况下,假设使存储部42将白光拍摄图像存储为参考图像的参考图像存储控制器412获取清晰度更高的白光拍摄图像。在这种情况下,参考图像存储控制器412可将参考图像更新为获取的白光拍摄图像。
另外,参考图像存储控制器412例如在手术对象部位(例如脏器等)的大小和位置满足预定的条件的情况下,使存储部42存储白光观察模式下的白光拍摄图像作为参考图像。该配置使得能够降低在参考图像或可见荧光拍摄图像中出现而在其他图像中未出现的位置的可能性,能够提高颜色转换参数的精度。此外,在这种情况下,假设使存储部42存储白光拍摄图像作为参考图像的参考图像存储控制器412获取具有更合适尺寸和位置的手术对象部位的白光拍摄图像。在这种情况下,参考图像存储控制器412可将参考图像更新为获取的白光拍摄图像。
另外,参考图像存储控制器412在由用户指定的定时,使存储部42将白光观察模式下的白光拍摄图像存储为参考图像。该配置使得更容易再现可见荧光拍摄图像中的用户期望的目标颜色(参考图像的色调)。
此外,参考图像存储控制器412使存储部42将白光观察模式下的多个白光拍摄图像存储为参考图像。该情况下,作为参考图像而存储在存储部42中的多个白光拍摄图像例如能够默认为是以任意可选时间间隔获得的。该配置使得能够以简单的处理来存储多个参考图像。
另外,存储部42中存储为参考图像的多个白光拍摄图像例如能够具有不同的图像特性。该配置使得能够降低由于使用具有特殊图像特性的参考图像而导致颜色转换的精度下降的可能性。
另外,作为参考图像而存储在存储部42中的多个白光拍摄图像例如能够在用户指定的定时获取。这使得可以由用户考虑各种条件来存储多个参考图像。
颜色转换参数生成部413对可见荧光观察模式的可见荧光拍摄图像与参考图像进行比较,以生成用于使可见荧光拍摄图像的色调接近参考图像的色调的参数。在这种情况下,颜色转换参数生成部413以像素为单位、以包括多个像素的预定区域为单位或者以整个图像为单位生成参数。
在这点上,图9是示出用以描述在本公开的第一实施方式中的拍摄图像中的颜色转换处理的处理单位的示图。拍摄图像中的颜色转换处理例如可以针对部分(a)中所示的每个像素、针对部分(b)中所示的每个预定区域或者针对部分(c)中所示的每个画面(整个图像)进行。
在部分(a)的情况下,针对每个像素生成颜色转换参数。在这种情况下,可以使用具有以所注意到的像素为中心的任何可选范围的信息。与针对每个画面生成参数的情况相比,针对每个像素生成参数可具有更高的精度。
在部分(b)的情况下,针对每个预定区域生成颜色转换参数。与针对每个画面生成参数的情况相比,针对每个预定区域生成参数可以具有更高的精度。
在部分(c)的情况下,针对每个画面生成颜色转换参数。通过针对每个画面生成参数,能够利用简单的处理来生成颜色转换参数。
返回参考图5,在以像素为单位或以预定区域为单位生成参数的情况下,颜色转换参数生成部413通过执行被摄体的运动估计和运动补偿以对准被摄体的位置来生成参数。另外,颜色转换参数生成部413例如执行可见荧光拍摄图像中的脏器的识别,并针对每个脏器生成参数。
然后,图6是示出根据本公开的第一实施方式的颜色转换参数生成部413的第一配置示例的示图。运动估计器4131使用参考图像和输入图像(可见荧光参考图像)来基于每个图像中的特征值估计被摄体的运动。此外,运动补偿器4132基于参考图像和通过运动估计器4131中的估计获得的结果对其执行运动补偿。然后,参数生成部4133基于输入图像和通过运动补偿器4132中的运动补偿获得的结果来生成颜色转换参数。
此外,图7是示出根据本公开的第一实施方式的颜色转换参数生成部413的第二配置示例的示图。脏器识别部4134识别参考图像中的脏器。另外,脏器识别部4135识别输入图像中的脏器。然后,参数生成部4136基于参考图像、输入图像、通过脏器识别部4134识别脏器获得的结果和通过脏器识别部4135中识别脏器获得的结果,生成颜色转换参数。
图8是示出根据本公开的第一实施方式的颜色转换参数生成部413的第三配置示例的示图。运动估计器4137使用参考图像和输入图像基于每个图像中的特征值来估计被摄体的运动。此外,运动补偿器4138基于通过运动估计器4137中的估计获得的结果和参考图像来补偿运动。另外,脏器识别部4139识别输入图像中的脏器。然后,参数生成部41310基于输入图像、通过在脏器识别部4139中识别脏器所获得的结果、以及通过在运动补偿器4138中补偿运动所获得的结果,生成颜色转换参数。
返回参考图5,例如,在以像素为单位或以预定区域为单位生成参数的情况下,颜色转换参数生成部413生成参数,使得可以防止像素之间或预定区域之间的边界处的色调的不连续性。就这一点而言,图11是示出以描述在本公开的第一实施方式中针对每个预定区域生成颜色转换参数的情况下防止在预定区域之间的边界处的色调的不连续的处理的示图。
颜色转换参数生成部413执行例如插值处理(例如,线性插值处理),使得在针对每个预定区域生成参数之后,能够防止在预定区域之间的边界处的色调的不连续性出现。在图11的示例中,例如,通过内插由虚线包围的四个区域的颜色转换参数获得的结果可用作像素A的颜色转换参数。
返回参考图5,颜色转换参数生成部413生成例如矩阵格式的参数,矩阵格式的参数用于最小化通过使可见荧光拍摄图像经过颜色转换而获得的经颜色转换的图像与参考图像之间的色调差异。在这点上,图10是示出描述根据本公开的第一实施方式的具有矩阵格式的颜色转换参数的示图。用于生成颜色转换参数的单位可以是像素、预定区域、画面或脏器。另外,在使用多个参考图像的情况下,可以使用它们中的任意可选数目的参考图像。尽管如此,必要时执行对被摄体的运动估计和补偿。在这种情况下,可以根据运动估计和运动补偿的可靠性进行加权。
如图10所示,颜色转换参数生成部413使用输入图像的输入像素值和参考图像(运动补偿图像)的参考像素值来使用最小二乘法导出用于使误差(差)最小化的系数,生成矩阵格式的颜色转换参数。此外,虽然在本文中RGB(红色、绿色和蓝色)颜色空间被用作颜色空间,但是可以采用任何可选的颜色空间。以这种方式,使用矩阵格式的参数使得可以通过简单的处理执行颜色转换。
返回参考图5,颜色转换参数生成部413生成例如具有查找表格式的参数,具有查找表格式的参数用于最小化通过使可见荧光拍摄图像经过颜色转换而获得的经颜色转换的图像与参考图像之间的色调差异。该配置使得可以执行非线性处理,实现高精度颜色再现。
此外,颜色转换参数生成部413使用例如机器学习生成参数。该配置使得可以使用例如使用预定量或更多教师数据的机器学习,从而实现高精度颜色再现。
另外,生成参数的定时例如能够设定在从白光观察模式切换为可见荧光观察模式之后立即进行。或者,定时可以设置在从切换开始的若干帧之后。此外,定时可以每帧或以任何帧间隔设置。此外,可以在时间方向上对参数进行平滑。可替代地,定时可以由用户设置。以这种方式,生成参数的定时可以由用户考虑处理的简单性(计算成本)、颜色再现性等来确定。
颜色转换处理器414根据由颜色转换参数生成部413生成的参数对可见荧光拍摄图像进行颜色转换处理,在作为颜色转换处理的目标的可见荧光观察模式的情况下输出颜色转换图像。
显示控制器415执行用于显示表示的各种控制功能。显示控制器415执行用于使得例如显示装置5显示颜色转换的图像的控制。
存储部42存储各种信息。存储部42存储例如参考图像、颜色转换参数、通过在处理器41的每个部件中的计算所获得的结果等。另外,能够代替存储部42而采用医疗系统1外部的存储装置。
(5)显示装置
显示装置5在显示控制器415的控制下显示各种类型的信息。显示装置5显示例如由颜色转换处理器414输出的颜色转换的图像。另外,能够采用医疗系统1外部的显示装置来代替显示装置5。
图12是示出了根据本公开第一实施方式的信息处理装置4的处理的第一流程图。在步骤S1中,获取部411从成像装置3获取拍摄图像。
接着,在步骤S2中,参考图像存储控制器412确定模式是否为白光观察模式;如果结果为是,则进行至步骤S3,如果否,则进行至步骤S4。在步骤S3中,参考图像存储控制器412使存储部42将拍摄图像存储为参考图像。此外,如上所述,参考图像存储控制器412也可以仅在满足预定条件(例如,图像中除活体外的物体的面积等于或小于预定比例)时执行步骤S3的处理。
在步骤S4中,颜色转换参数生成部413确定是否执行颜色转换参数生成处理;如果结果为是,则进入步骤S5,如果否,则进入步骤S6。
在步骤S5中,颜色转换参数生成部413对可见荧光拍摄图像与参考图像进行比较,以生成用于使可见荧光拍摄图像的色调(color shade)接近参考图像的色调的参数。
在步骤S5之后或者在步骤S4中结果为“否”的情况下,在步骤S6中,颜色转换处理器414基于在步骤S5中生成的参数对可见荧光拍摄图像进行颜色转换处理并输出经颜色转换的图像。
在步骤S6之后,在步骤S7中,显示控制器415执行控制以使显示装置5显示在步骤S6中输出的经颜色转换的图像。
此外,在图12的处理中,在可见荧光观察模式时,对可见荧光拍摄图像默认进行颜色转换。但是,在存在多个特定波长光观察模式并且指定了颜色转换对象的特定波长光观察模式的情况下,能够进行图13所示的处理。
图13是示出根据本公开的第一实施方式的信息处理装置4执行的处理的第二流程图。步骤S1和S2类似于图12中的那些步骤。在步骤S2之后,在步骤S3中,颜色转换参数生成部413确定模式是否是颜色转换对象的特定波长光观察模式。如果结果为是,则进入步骤S4,如果否,则进入步骤S7。步骤S3至步骤S7与图12中的那些相同。
如上所述,第一实施方式的信息处理装置4将白光拍摄图像存储为参考图像,然后,在获取可见荧光拍摄图像时,将白光拍摄图像与参考图像进行比较,从而生成颜色转换参数。信息处理装置4基于所生成的颜色转换参数对可见荧光拍摄图像进行颜色转换处理。这样的配置使得能够通过简单的处理实时地将可见荧光拍摄图像的色调接近白光拍摄图像的色调。
由此,即使在可见荧光观察模式下,也维持与白光观察模式相同的可视性,这有利于例如荧光部分及其周围的非荧光部分的识别。这改善了手术的安全性。此外,该配置不需要中途切换白光观察模式和可见荧光观察模式,因此变得方便。
在一个示例中,相关技术中的技术预先存储每个脏器的颜色校正系数,识别该脏器,并校正所识别的脏器的颜色。然而,该方法依赖于使用环境,导致预先计算颜色校正系数时和使用时之间的脏器颜色差异,这可能无法将颜色转换为合适的颜色。在一个示例中,可能的原因包括光源的类型、光源的性能随时间的变化、透镜(硬透镜)的类型、以及人与人之间的脏器的颜色的差异。根据本公开的信息处理装置4实时生成颜色转换参数,防止其不受使用环境的影响。
(第二实施方式)
现在描述第二实施方式。适当地省略与第一实施方式的部件类似的部件的描述。第二实施方式与第一实施方式的不同之处在于预先参照颜色转换图像,并对其进行加权以生成颜色转换参数。
图14是示出根据本公开的第二实施方式的信息处理装置4的配置的示图。在信息处理装置4的处理器41中,额外地设置颜色转换图像存储控制器416。颜色转换图像存储控制器416进行用于使存储部42存储由颜色转换处理器414输出的颜色转换图像的控制。然后,颜色转换参数生成部413进一步基于存储在存储部42中的颜色转换图像生成参数。
图15是示出了描述根据本公开第二实施方式的具有矩阵格式的颜色转换参数的示图。适当地省略与图10中的部件相似的部件的描述。如图15所示,颜色转换参数生成部413使用输入图像的输入像素值和参考图像(运动补偿图像)的参考像素值来使用最小二乘法等导出用于使误差(差)最小化的系数,生成矩阵格式的颜色转换参数。在这种情况下,颜色转换参数生成部413基于颜色转换的图像(运动补偿图像)对每个像素的像素值之间的差(误差)进行加权。
如上所述,除了第一实施方式的效果之外,根据第二实施方式的信息处理装置4实现了能够减少或防止由于颜色差异引起的颜色再现性的差异的效果。
(第三实施方式)
现在描述第三实施方式。适当地省略与第一实施方式的部件类似的部件的描述。第三实施方式与第一实施方式的不同之处在于,其是指通过用户指定颜色再现优先级位置(颜色)并且对其加权以生成颜色转换参数而获得的结果。
颜色转换参数生成部413生成参数,以使得针对活体中由用户指定的位置(颜色)的可见荧光拍摄图像的色调接近参考图像的色调。要由用户指定的该位置可以使用例如预定的用户界面(UI)来实现。
如上所述,除了第一实施方式的效果之外,根据第三实施方式的信息处理装置4实现能够改善用户指定优先级的位置(颜色)的颜色再现性的效果。
(第一应用示例)
根据本公开的技术可应用于各种产品。在一个示例中,根据本公开的技术可应用于内窥镜系统。以下,说明作为内窥镜手术系统的示例的内窥镜手术系统。
图16是示出可应用根据本公开的技术的内窥镜手术系统5000的示意性配置的示例的示图。在图16中,示出外科医生(医师)5067正在使用内窥镜手术系统5000对病床5069的患者5071进行手术的状态。如图所示,内窥镜手术系统5000包括内窥镜5001、其他手术工具5017、将内窥镜5001支撑在其上的支撑臂装置5027以及安装有内窥镜手术的各种装置的推车5037。
在内窥镜手术中,代替切开腹壁来进行剖腹手术,使用被称为套管针5025a至5025d的多个管状开口装置来刺穿腹壁。然后,通过套管针5025a至5025d将内窥镜5001的透镜镜筒5003和其他手术工具5017插入到患者5071的体腔内。在所示的示例中,作为其他手术工具5017,将气腹管5019、能量装置5021和镊子5023插入患者5071的体腔内。另外,能量装置5021是用于通过高频电流或超声波振动进行组织的切开、剥离、血管的封闭等的处理器具。然而,图示的手术工具5017完全仅是示例,并且作为手术工具5017,可以使用在内窥镜手术中通常使用的各种手术工具,诸如例如镊子或牵开器。
由内窥镜5001成像的患者5071的体腔内的手术部位的图像显示在显示装置5041上。外科医生5067将在实时观看显示在显示装置5041上的手术位置的图像的同时使用能量装置5021或镊子5023来执行诸如切除患部的这种治疗。另外,虽未图示,但外科医生5067、助手等在手术过程中支撑气腹管5019、能量装置5021、钳子5023。
(支撑臂装置)
支撑臂装置5027包括从基座单元5029延伸的臂单元5031。在所示的示例中,臂单元5031包括关节部5033a、5033b和5033c以及连杆5035a和5035b,并且在臂控制装置5045的控制下被驱动。内窥镜5001以内窥镜5001的位置和姿势被控制的方式由臂单元5031支撑。由此,能够实现内窥镜5001的稳定的位置固定。
(内窥镜)
内窥镜5001包括透镜镜筒5003和相机头5005,透镜镜筒5003的从其远端起预定长度的区域插入到患者5071的体腔中,相机头5005连接到透镜镜筒5003的近端。在图示的示例中,内窥镜5001被示出为具有硬性类型的透镜镜筒5003的硬性内窥镜。但是,内窥镜5001也可以以其他方式构成为具有柔性类型的透镜镜筒5003的柔性内窥镜。
透镜镜筒5003在其远端具有开口,物镜装配在该开口中。光源装置5043连接至内窥镜5001,使得由该光源装置5043生成的光由在透镜镜筒5003的内部延伸的导光件导向到透镜镜筒的远端,经由物镜向患者5071的体腔内的观察对象照射。要注意的是,内窥镜5001可以是直视内窥镜,也可以是斜视内窥镜、侧视内窥镜。
光学系统和图像传感器被设置在相机头5005的内部,使得通过光学系统将来自观察对象的反射光(观察光)会聚在图像传感器上。通过图像传感器对观察光进行光电转换,以生成与观察光对应的电信号、即与观察图像对应的图像信号。图像信号作为RAW数据被发送至相机控制单元(CCU)5039。应注意,相机头5005具有结合在其中的功能,以适当地驱动相机头5005的光学系统以调节放大倍率和焦距。
要注意的是,为了与例如立体视觉(三维(3D)显示器)建立兼容性,可在相机头5005上设置多个图像传感器。在这种情况下,在透镜镜筒5003的内部设置多个中继光学系统,以将观察光引导至多个图像传感器中的每个。
(包含在推车中的各种装置)
CCU 5039包括中央处理单元(CPU)、图形处理单元(GPU)等,并且整体控制内窥镜5001和显示装置5041的操作。具体地,CCU 5039对从相机头5005接收的图像信号执行用于基于图像信号显示图像的各种图像处理,例如,显影处理(去马赛克处理)。CCU 5039向显示装置5041提供已经执行了图像处理的图像信号。此外,CCU 5039将控制信号发送至相机头5005以控制相机头5005的驱动。控制信号可以包括与图像捕获条件有关的信息,诸如放大倍率或焦距。
显示装置5041在CCU 5039的控制下基于CCU 5039已对其执行图像处理的图像信号来显示图像。如果内窥镜5001准备好用于以诸如4K(水平像素数3840×垂直像素数2160)、8K(水平像素数7680×垂直像素数4320)等的高分辨率的成像和/或准备好用于3D显示,则可将能够进行高分辨率和/或3D显示的相应显示的显示装置用作显示装置5041。在装置准备好用于诸如4K或8K的高分辨率的成像的情况下,如果用作显示装置5041的显示装置具有等于或不小于55英寸的尺寸,则能够获得更加沉浸式的体验。此外,可以根据目的提供具有不同分辨率和/或不同尺寸的多个显示装置5041。
光源装置5043例如包括发光二极管(LED)等光源,并将用于拍摄手术部位的照射光供给到内窥镜5001。
臂控制装置5045包括处理器(诸如,例如中央处理单元)并根据预定程序操作以根据预定控制方法控制支撑臂装置5027的臂单元5031的驱动。
输入装置5047是内窥镜手术系统5000的输入接口。用户能够通过输入装置5047对内窥镜手术系统5000输入各种信息或指令。例如,用户将通过输入装置5047输入与手术有关的各种信息,诸如患者的身体信息、与手术的手术程序有关的信息等。此外,用户将通过输入装置5047输入例如驱动臂单元5031的指令、改变内窥镜5001的图像捕获条件(照射光的类型、倍率、焦距等)的指令、驱动能量装置5021的指令等。
输入装置5047的类型不受限制,并且可以是各种已知的输入装置中的任何一个的类型。作为输入装置5047,例如,可以应用鼠标、键盘、触摸面板、开关、脚踏开关5057和/或控制杆等。当触摸面板被用作输入装置5047时,它可以被设置在显示装置5041的显示面上。
另外,输入装置5047是佩戴在用户身上的设备,诸如眼镜型可佩戴装置或者头戴式显示器(HMD)等,并且响应于由所提及的任何设备检测的用户的手势或者视线执行各种输入。此外,输入装置5047包括可以检测用户的运动的相机,并且响应于从由相机捕获的视频检测到的用户的手势或视线来执行各种类型的输入。此外,输入装置5047包括能够收集用户语音的麦克风,并且通过由麦克风收集的语音执行各种输入。通过配置输入装置5047使得能够以非接触的方式输入各种信息,特别是属于洁净区域的用户(例如外科医生5067)能够以非接触的方式操作属于非洁净区域的装置。此外,由于用户可在没有从其手中释放所拿的手术工具的情况下操作设备,因此提高了用户的便利性。
处置工具控制装置5049控制能量装置5021的驱动以进行组织的烧灼、切开、血管的封闭等。为了确保内窥镜5001的视野和确保手术医生的作业空间,气腹装置5051经由气腹管5019向患者5071的体腔内供给气体,对体腔内进行充气。记录器5053是能够记录与手术有关的各种信息的设备。打印机5055是能够以各种形式(诸如文本、图像或图形)打印与手术有关的各种信息的设备。
以下,特别详细说明内窥镜手术系统5000的特征配置。
(支撑臂装置)
支撑臂装置5027包括用作基座的基座单元5029和从基座单元5029延伸的臂单元5031。在所示的示例中,臂单元5031包括多个关节部5033a、5033b和5033c以及通过关节部5033b彼此连接的多个连杆5035a和5035b。在图16中,为了简化说明,以简化的形式示出臂单元5031的配置。实际上,关节部5033a至5033c以及连杆5035a和5035b的形状、数量和布置以及关节部5033a至5033c的旋转轴的方向等可以被适当地设定,使得臂单元5031具有期望的自由度。例如,臂单元5031可优选地配置为使得其具有等于或不小于6自由度的自由度。这使得能够使内窥镜5001在臂单元5031的可移动范围内自由移动。由此,能够将内窥镜5001的透镜镜筒5003从期望的方向插入到患者5071的体腔内。
致动器设置在关节部5033a至5033c中的每个中,并且关节部5033a至5033c被配置成使得它们可通过各自致动器的驱动而绕其预定旋转轴旋转。致动器的驱动由臂控制装置5045控制以控制每个关节部5033a至5033c的旋转角度,由此控制臂单元5031的驱动。由此,能够实现内窥镜5001的位置和姿势的控制。于是,臂控制装置5045可以通过各种已知的控制方法(诸如力控制或位置控制)控制臂单元5031的驱动。
例如,在外科医生5067适当地执行通过输入装置5047(包含脚踏开关5057)的输入操作的情况下,也可以通过臂控制装置5045响应于输入的操作适当地控制臂单元5031的驱动来控制内窥镜5001的位置和姿势。通过上述控制,使臂单元5031的远端的内窥镜5001从任意位置移动到不同的任意位置之后,能够在移动后的位置固定支撑内窥镜5001。注意,臂单元5031能够以主从方式操作。在这种情况下,臂单元5031可以由用户通过输入装置5047远程控制,输入装置5047被放置在远离手术室的地方。
此外,在施加力控制的情况下,臂控制装置5045可以执行助力控制以驱动关节部5033a至5033c的致动器,使得臂单元5031可以接收用户的外力并且顺着外力平滑地移动。这使得当用户直接触摸臂单元5031并移动臂单元5031时,能够以比较微弱的力移动臂单元5031。因此,用户能够通过更简单和更容易的操作更直观地移动内窥镜5001,并且能够提高用户的便利性。
在此,一般在内窥镜手术中,内窥镜5001由称为内窥镜检查者的医生支撑。相比之下,在使用支撑臂装置5027的情况下,不用手就能够更加可靠地固定内窥镜5001的位置,因此能够稳定地获得手术部位的图像并能够顺利地进行手术。
应注意,臂控制装置5045可以不必设置在推车5037上。此外,臂控制装置5045可以不必是单个设备。例如,臂控制装置5045可以被设置在支撑臂装置5027的臂单元5031的关节部5033a至5033c中的每一个中,使得多个臂控制装置5045彼此协作以实现臂单元5031的驱动控制。
(光源装置)
光源装置5043将手术部位成像时的照射光供给到内窥镜5001。光源装置5043包括白光源,该白光源包括例如LED、激光光源或其组合。在这种情况下,在白光源包括红色、绿色和蓝色(RGB)激光光源的组合的情况下,由于可以针对每种颜色(每种波长)以高精度控制输出强度和输出定时,所以可以由光源装置5043对拍摄图像的白平衡进行调整。此外,在这种情况下,如果来自各个RGB激光光源的激光束分时地照射在观察对象上并且与照射定时同步地控制相机头5005的图像传感器的驱动,那么可以分时地捕获分别与R、G和B颜色对应的图像。根据以上描述的方法,即使对于图像传感器不提供滤色器,也可以获得颜色图像。
此外,可以控制光源装置5043的驱动,使得要输出的光的强度在每个预定时间改变。通过与光强度改变的定时同步地控制相机头5005的图像传感器的驱动以分时获取图像并且合成图像,可生成没有曝光不足阻挡阴影和曝光过度亮点的高动态范围的图像。
此外,光源装置5043可以被配置为能够提供准备用于特定波长光的预定波频带的光。在特定波长光观察中,例如利用活体组织的光的吸收的波长依赖性来照射与普通观察时的照射光(即白光)相比窄频带的光,由此进行将诸如粘膜的表层部的血管等预定的组织以高对比度进行成像的窄频带光观察(窄频带成像)。或者,在特定波长光观察中,也可以进行从通过照射激励光而生成的荧光获得图像的荧光观察。在荧光观察中,能够通过用激励光照射活体组织来进行来自活体组织的荧光的观察(自发荧光观察),或者通过将吲哚菁绿(ICG)等试剂局部地注入活体组织,并用与试剂的荧光波长对应的激励光照射活体组织来获得荧光图像。如上所述,光源装置5043被配置为能够提供适合于特定波长光观察的窄频带光和/或激励光。
(相机头和CCU)
参考图17更详细地描述内窥镜5001的相机头5005和CCU 5039的功能。图17是示出了图16中示出的相机头5005和CCU 5039的功能配置的示例的框图。
参考图17,相机头5005具有透镜单元5007、成像单元5009、驱动单元5011、通信单元5013以及相机头控制器5015作为其功能。此外,CCU5039具有通信单元5059、图像处理器5061和控制器5063作为其功能。相机头5005和CCU 5039通过传输线缆5065被连接以彼此可双向地通信。
首先,描述相机头5005的功能配置。透镜单元5007是设置在相机头5005与透镜镜筒5003的连接位置处的光学系统。从透镜镜筒5003的远端取得的观察光被引入相机头5005中并且进入透镜单元5007。透镜单元5007包括包含变焦透镜和聚焦透镜的多个透镜的组合。透镜单元5007具有调节为使得观察光会聚在成像单元5009的图像传感器的光接收面上的光学特性。此外,变焦透镜和聚焦透镜被配置成使得变焦透镜和聚焦透镜在其光轴上的位置可移动,以用于调节拍摄图像的放大倍率和焦点。
成像单元5009包括图像传感器,并且设置在透镜单元5007的后续级。穿过透镜单元5007的观察光会聚在图像传感器的光接收面上,并且通过图像传感器的光电转换生成与观察图像对应的图像信号。由成像单元5009生成的图像信号被提供给通信单元5013。
作为成像单元5009包括的图像传感器,使用例如互补金属氧化物半导体(CMOS)类型的图像传感器,该图像传感器具有拜耳阵列并且能够使用颜色成像图像。应注意,作为图像传感器,例如,可使用准备好用于以等于或者不小于4K的高分辨率对图像成像的图像传感器。如果以高分辨率获得手术位置的图像,那么外科医生5067可以更详细地了解手术位置的状态并且可以更平稳地进行手术。
此外,成像单元5009包括的图像传感器包括使得其具有用于获取与3D显示兼容的右眼和左眼的图像信号的一对图像传感器。在应用3D显示的情况下,外科医生5067可以更准确地了解手术位置中的活体组织的深度。要注意的是,如果成像单元5009被配置为多板型,那么与成像单元5009的各个图像传感器对应地设置多个系统的透镜单元5007。
成像单元5009可不必设置在相机头5005上。例如,成像单元5009可设置在透镜镜筒5003的内部的物镜的正后方。
驱动单元5011包括致动器,并且在相机头控制器5015的控制下沿着光轴将透镜单元5007的变焦透镜和聚焦透镜移动预定距离。因此,能够适当地调整由成像单元5009拍摄的图像的放大倍率和焦点。
通信单元5013包括用于向CCU 5039传输和从CCU 5039接收各种信息的通信装置。通信单元5013通过传输线缆5065将从成像单元5009获取的图像信号作为RAW数据传输至CCU 5039。因此,为了以低延迟显示手术位置的拍摄图像,优选通过光学通信传输图像信号。这是因为,在手术时,外科医生5067在通过拍摄的图像观察患部的状态时进行手术,要求尽可能实时地显示手术位置的运动图像以便实现具有较高安全度和确定性的手术。在应用光通信的情况下,在通信单元5013中设置用于将电信号转换成光信号的光电转换模块。图像信号由光电转换模块转换为光信号后,经由传输线缆5065传输至CCU 5039。
此外,通信单元5013从CCU 5039接收用于控制相机头5005的驱动的控制信号。控制信号包括与图像拍摄条件有关的信息,诸如,指定拍摄图像的帧速率的信息、指定图像拍摄时的曝光值的信息和/或指定拍摄图像的放大倍率和焦点的信息。通信单元5013将接收的控制信号提供至相机头控制器5015。应注意,也可以通过光学通信发送来自CCU 5039的控制信号。在这种情况下,用于将光信号转换为电信号的光电转换模块设置在通信单元5013中。在通过光电转换模块将控制信号转换为电信号之后,控制信号被提供给相机头控制器5015。
应注意,基于获取的图像信号,CCU 5039的控制器5063自动设置诸如帧速率、曝光值、放大倍率或者焦点的图像拍摄条件。即,在内窥镜5001中内置有自动曝光(AE)功能、自动对焦(AF)功能、自动白平衡(AWB)功能。
相机头控制器5015基于通过通信单元5013接收的来自CCU 5039的控制信号控制相机头5005的驱动。例如,相机头控制器5015基于指定拍摄图像的帧速率的信息和/或指定图像拍摄时的曝光值的信息,控制成像单元5009的图像传感器的驱动。此外,例如,相机头控制器5015基于指定拍摄图像的放大倍率和焦点的信息控制驱动单元5011适当地移动透镜单元5007的变焦透镜和聚焦透镜。相机头控制器5015可以进一步包括用于存储用于识别透镜镜筒5003和/或相机头5005的信息的功能。
应注意,通过将诸如透镜单元5007和成像单元5009的部件设置在具有高气密性和防水的密封结构中,相机头5005可以设置有对高压灭菌处理的耐受性。
现在,描述CCU 5039的功能配置。通信单元5059包括用于向相机头5005发送各种信息和从相机头5005接收各种信息的通信设备。通信单元5059通过传输线缆5065接收从相机头5005传输至其的图像信号。然而,图像信号可以优选地通过如上所述的光学通信来发送。在这种情况下,为了与光通信的兼容性,通信单元5059包括用于将光信号转换为电信号的光电转换模块。通信单元5059将转换为电信号之后的图像信号提供给图像处理器5061。
此外,通信单元5059将用于控制相机头5005的驱动的控制信号发送到相机头5005。也可以通过光通信传输控制信号。
图像处理器5061对从相机头5005发送到图像处理器5061的RAW数据形式的图像信号执行各种图像处理。图像处理包括各种已知的信号处理,例如,显影处理、图像质量提高处理(例如,带宽增强处理、超分辨率处理、降噪(NR)处理和/或图像稳定处理)和/或放大处理(电子变焦处理)。此外,图像处理器5061对图像信号执行检测处理,以便执行AE、AF和AWB。
图像处理器5061包括诸如中央处理单元或图形处理单元的处理器,并且当处理器根据预定程序操作时,能够执行上述图像处理和检测处理。应注意,在图像处理器5061包括多个图形处理单元的情况下,图像处理器5061适当地划分与图像信号有关的信息,使得由多个图形处理单元并行执行图像处理。
控制器5063执行与通过内窥镜5001拍摄手术部位的图像并显示所拍摄的图像有关的各种控制。例如,控制器5063生成用于控制相机头5005的驱动的控制信号。于是,如果用户输入图像拍摄条件,则控制器5063基于用户的输入生成控制信号。可选地,在内窥镜5001内置有AE功能、AF功能和AWB功能的情况下,控制器5063响应于图像处理器5061的检测处理的结果适当地计算最佳曝光值、焦距和白平衡,并且生成控制信号。
此外,控制器5063基于由图像处理器5061进行了图像处理的图像信号控制显示装置5041显示手术位置的图像。于是,控制器5063使用各种图像识别技术来识别手术位置图像中的各种物体。例如,控制器5063可通过检测包括在手术位置图像中的物体的边缘的形状、颜色等识别手术工具,诸如镊子、特定活体区域、出血、使用能量装置5021时的雾等。当控制器5063控制显示装置5041显示手术位置的图像时,控制器5063使用识别结果使得各种手术支持信息以与手术位置的图像重叠的方式显示。在以重叠方式显示手术支持信息并且将手术支持信息呈现给外科医生5067的情况下,外科医生5067可以更加安全和确定地继续手术。
将相机头5005和CCU 5039彼此连接的传输线缆5065是准备用于电信号通信的电信号线缆、准备用于光通信的光纤或准备用于电通信和光通信两者的复合线缆。
在此,虽然在示出的示例中,通过使用传输线缆5065的有线通信执行通信,但是相机头5005和CCU 5039之间的通信可以以其他方式通过无线通信执行。在相机头5005和CCU5039之间的通信通过无线通信执行的情况下,没有必要将传输线缆5065布置在手术室中。因此,能够消除医疗工作人员在手术室内的移动受到传输线缆5065的干扰的情况。
上面已经描述了可以应用根据本公开的技术的内窥镜手术系统5000的示例。应注意,可以应用根据本公开的技术的系统不限于内窥镜系统。例如,根据本公开的技术可以应用于用于检查的柔性内窥镜手术系统或诸如显微镜系统的另一系统。
根据本公开的技术可适当地应用于上述配置之中的内窥镜5001。具体地,可以在显示装置5041上显示由内窥镜5001捕获的患者5071的体腔内的手术部位的图像的情况下应用根据本公开的技术。将根据本公开的技术应用于内窥镜5001使得能够将特定波长光拍摄图像的色调接近于白光拍摄图像的色调,从而显示特定波长光拍摄图像。该配置使得外科医生5067可以在手术期间实时地观看显示装置5041上的高精度的特定波长光拍摄图像,从而导致更安全的手术。
(第二应用示例)
此外,根据本公开的技术可应用于显微镜系统。下面描述显微镜系统,它是这种显微镜系统的示例。显微镜手术系统用于所谓的显微外科手术,该显微外科手术是在放大患者的微小区域以用于观察的同时执行的。
图18是示出根据本公开的技术能够应用于的显微镜手术系统5300的示意性配置的示例的示图。参照图18,显微镜手术系统5300包括显微镜装置5301、控制装置5317和显示装置5319。应注意,在显微镜手术系统5300的描述中,术语“用户”表示诸如使用显微镜手术系统5300的外科医生或助理的医务人员中的任意一个。
显微镜装置5301具有:显微镜单元5303,用于放大用于观察的观察对象(患者的手术位置);臂单元5309,在其远端支撑显微镜单元5303;以及基座单元5315,支撑臂单元5309的近端。
显微镜单元5303包括大致圆柱形状的圆柱形部分5305、设置在圆柱形部分5305的内部的成像单元(未示出)、以及设置在圆柱形部分5305的外周的部分区域中的操作单元5307。显微镜单元5303是通过成像单元电子地捕获所拍摄的图像的电子图像捕获类型的显微镜单元(视频类型的显微镜单元)。
用于保护内部成像单元的玻璃盖构件被设置在圆柱形部分5305的下端的开口面处。来自观察对象的光(在下文中也称为观察光)穿过玻璃盖构件并且进入圆柱形部分5305内部的成像单元。应注意,光源包括例如发光二极管(LED)等可设置在圆柱形部分5305的内部,并且在图像捕获时,光可通过玻璃盖构件从光源照射在观察对象上。
成像单元包括:光学系统,其会聚观察光;以及图像传感器,其接收由光学系统会聚的观察光。光学系统包括多个透镜的组合,多个透镜包括变焦透镜和聚焦透镜。光学系统调整光学特性,使得观察光会聚以在图像传感器的光接收面上形成图像。图像传感器接收观察光并进行光电转换,以生成与观察光对应的信号,即与观察图像对应的图像信号。作为图像传感器,例如,使用具有拜耳阵列并且能够以颜色成像图像的图像传感器。图像传感器可为各种已知图像传感器中的任一者,例如互补金属氧化物半导体(CMOS)图像传感器或电荷耦合器件(CCD)图像传感器。由图像传感器生成的图像信号作为RAW数据被发送到控制装置5317。这里,图像信号的传输可以通过光学通信适当地进行。这是因为,由于在手术部位处,外科医生在通过拍摄图像观察患部的状态时进行手术,为了实现具有更高安全度和确定性的手术,要求尽可能实时地显示手术位置的运动图像。当使用光通信来传输图像信号时,可以以低延迟显示所拍摄的图像。
要注意的是,成像单元可具有驱动机构,用于沿着光轴移动其光学系统的变焦透镜和聚焦透镜。在变焦透镜和聚焦透镜通过驱动机构适当地移动的情况下,可以调整拍摄图像的放大倍率和图像拍摄时的焦距。此外,成像单元可在其中包括通常可设置在电子图像捕获类型的显微镜单元中的各种功能,诸如自动曝光(AE)功能或自动聚焦(AF)功能。
此外,成像单元可被配置为包括单个图像传感器的单板类型的成像单元或者可被配置为包括多个图像传感器的多板类型的成像单元。在成像单元被配置为多板类型的成像单元的情况下,例如,对应于红色、绿色和蓝色的图像信号可由图像传感器生成并可被合成以获得颜色图像。可替换地,成像单元可以被配置为使得其具有一对图像传感器,用于获取与立体视觉(三维(3D)显示)兼容的右眼和左眼的图像信号。在应用3D显示的情况下,外科医生能够以更高的精确度理解手术位置中的活体组织的深度。要注意的是,如果成像单元被配置为多板类型的成像单元,那么对应于各个图像传感器设置多个光学系统。
操作单元5307是包括例如十字杆、开关等的输入单元,并且接受用户的操作输入。例如,用户可以通过操作单元5307输入改变观察图像的放大倍率和至观察对象的焦距的指令。可通过成像单元的驱动机构根据指令适当地移动变焦透镜和聚焦透镜来调整放大倍率和焦距。此外,例如,用户可以通过操作单元5307输入切换臂单元5309的操作模式(下文中描述的全自由模式和固定模式)的指令。应注意,当用户想要移动显微镜单元5303时,认为用户在用户抓住保持圆柱形部分5305的显微镜单元5303的状态下移动显微镜单元5303。因而,操作单元5307优选地设置在这样的位置处,在该位置处,在握持圆柱形部分分5305的情况下能够通过用户的手指容易地操作操作单元5307,使得即使在用户正在移动圆柱形部分分5305时也能够操作操作单元5307。
臂单元5309被配置为通过多个关节部(第一关节部5311a至第六关节部5311f)使多个连杆(第一连杆5313a至第六连杆5313f)彼此相对旋转地连接。
第一关节部5311a具有大致柱状的形状并且在其远端(下端)处支撑显微镜单元5303的圆柱形部分5305的上端以围绕平行于圆柱形部分5305的中心轴的旋转轴(第一轴O1)旋转。这里,第一关节部5311a可被配置为使得其第一轴O1与显微镜单元5303的成像单元的光轴对准。通过该配置,如果显微镜单元5303围绕第一轴O1旋转,则可以改变视场以旋转拍摄图像。
第一连杆5313a在其远端处固定地支撑第一关节部5311a。具体地,第一连杆5313a是具有大致L形状的棒状构件,并且以其远端侧的一侧沿与第一轴O1正交的方向延伸并且该一侧的端部与第一关节部5311a的外周的上端部抵接的方式连接至第一关节部5311a。第二关节部5311b与第一连杆5313a的大致L形状的近端侧的另一侧的端部连接。
第二关节部5311b具有大致柱状的形状并且在其远端支撑第一连杆5313a的近端以绕与第一轴O1正交的旋转轴(第二轴O2)旋转。第二连杆5313b在其远端与第二关节部5311b的近端固定连接。
第二连杆5313b是具有大致L形状的棒状构件,并且第二连杆5313b的远端侧的一侧沿与第二轴O2正交的方向延伸,并且该一侧的端部固定地连接到第二关节部5311b的近端。第三关节部5311c与第二连杆5313b的大致L形状的近端侧的另一侧连接。
第三关节部5311c具有大致柱状的形状并且在其远端支撑第二连杆5313b的近端以绕与第一轴O1和第二轴O2正交的旋转轴线(第三轴O3)旋转。第三连杆5313c在其远端与第三关节部5311c的近端固定连接。通过使包括显微镜单元5303的远端侧处的部件围绕第二轴O2和第三轴O3旋转,可以移动显微镜单元5303,使得显微镜单元5303的位置在水平面内改变。换言之,通过控制围绕第二轴O2和第三轴O3的旋转,可以在平面内移动拍摄图像的视场。
第三连杆5313c被配置为使得其远端侧具有大致圆柱状,第三关节部5311c的近端与圆柱状的远端固定连接为它们具有大致相同的中心轴线。第三连杆5313c的近端侧呈棱柱形状,第四关节部5311d与第三连杆5313c的端部连接。
第四关节部5311d具有大致柱状的形状并且在其远端支撑第三连杆5313c的近端以绕与第三轴O3正交的旋转轴(第四轴O4)旋转。第四连杆5313d的远端与第四关节部5311d的近端固定连接。
第四连杆5313d是大致直线状地延伸的棒状构件,并且与第四关节部5311d固定连接为与第四轴O4正交地延伸,并且在其远端的端部与第四关节部5311d的大致圆柱状的侧面抵接。第五关节部5311e连接至第四连杆5313d的近端。
第五关节部5311e具有大致柱状的形状并且在其远端侧支撑第四连杆5313d的近端以绕平行于第四轴O4的旋转轴(第五轴O5)旋转。第五连杆5313e的远端与第五关节部5311e的近端固定连接。第四轴O4和第五轴O5是显微镜单元5303可以在上下方向上绕其移动的旋转轴。通过使远端侧处的包括显微镜单元5303的部件围绕第四轴O4和第五轴O5旋转,可以调节显微镜单元5303的高度,即,显微镜单元5303与观察对象之间的距离。
第五连杆5313e包括具有大致L形形状的第一构件和棒状第二构件的组合,第一构件的一侧沿竖直方向延伸,第一构件的另一侧沿水平方向延伸,棒状第二构件从第一构件的沿水平方向延伸的部分竖直向下延伸。第五关节部5311e在其近端处固定连接至第五连杆5313e的第一构件的沿竖直方向延伸的部分的相邻上端。第六关节部5311f连接至第五连杆5313e的第二构件的近端(下端)。
第六关节部5311f具有基本上柱状的形状并且在其远端侧支撑第五连杆5313e的近端以围绕平行于垂直方向的旋转轴线(第六轴O6)旋转。第六连杆5313f在其远端固定连接至第六关节部5311f的近端。
第六连杆5313f是沿竖直方向延伸的棒状构件,并且在其近端固定地连接到基座单元5315的上表面。
第一关节部5311a至第六关节部5311f具有适当设置的可旋转范围,使得显微镜单元5303可以进行期望的移动。因此,在具有上述配置的臂单元5309中,关于显微镜单元5303的移动,可以实现总共六个自由度的移动,包括用于平移的三个自由度和用于旋转的三个自由度。通过配置臂单元5309,使得以这种方式针对显微镜单元5303的移动实现六个自由度,可以在臂单元5309的可移动范围内自由地控制显微镜单元5303的位置和姿势。因此,可以从每个角度观察手术位置,并且可以更顺利地执行手术。
应注意,如图所示的臂单元5309的配置完全是示例,包括在臂单元5309中的连杆的数量和形状(长度)以及关节部的数量、位置、旋转轴方向等可以被适当地设计,使得可以实现期望的自由度。例如,为了自由地移动显微镜单元5303,优选地,臂单元5309被配置为具有如上所述的六个自由度。然而,臂单元5309也可以被配置为具有更大的自由度(即,冗余自由度)。在存在冗余自由度的情况下,在臂单元5309中,可以在显微镜单元5303的位置和姿势固定的状态下改变臂单元5309的姿势。因此,可以实现对外科医生来说更方便的控制,诸如控制臂单元5309的姿势,使得例如臂单元5309不干扰观看显示装置5319的外科医生的视场。
这里,可针对第一关节部5311a至第六关节部5311f中的每个设置致动器,在该致动器中结合有诸如电机的驱动机构、检测每个关节部处的旋转角度的编码器等。通过由控制装置5317适当地控制设置在第一关节部5311a至第六关节部5311f中的致动器的驱动,可以控制臂单元5309的姿势,即,显微镜单元5303的位置和姿势。具体地,基于关于由编码器检测的关节部的旋转角度的信息,控制装置5317可以掌握臂单元5309当前的姿势和显微镜单元5303当前的位置和姿势。控制装置5317使用所理解的信息来计算实现根据来自用户输入的操作移动显微镜单元5303所使用的每个关节部的控制值(例如,旋转角或要生成的扭矩)。因此,控制装置5317根据控制值来驱动每个关节部的驱动机构。应注意,在这种情况下,通过控制装置5317对臂单元5309的控制方法不受限制,并且可以应用各种已知的控制方法,诸如力控制或位置控制。
例如,当外科医生通过未示出的输入装置适当地执行操作输入时,可以响应于操作输入通过控制装置5317适当地控制臂单元5309的驱动,以控制显微镜单元5303的位置和姿势。通过该控制,可以在显微镜单元5303从任意位置移动到不同的任意位置之后,将显微镜单元5303固定地支撑在移动之后的位置处。应注意,作为输入装置,考虑到外科医生的便利性,优选地应用即使外科医生在其手中具有手术工具也可由外科医生操作的输入装置,例如,优选地应用脚踏开关。此外,可以基于手势检测或视线检测以非接触方式执行操作输入,其中,使用设置在手术室中的可佩戴装置或相机。这使得即使属于清洁区域的用户也能够以高自由度操作属于非清洁区域的装置。此外,臂单元5309可以以主从方式操作。在这种情况下,臂单元5309可以由用户通过放置在远离手术室的位置处的输入装置远程控制。
此外,在施加力控制的情况下,控制装置5317可以执行助力控制以驱动第一关节部5311a至第六关节部5311f的致动器,使得臂单元5309可以接收用户的外力并且跟随外力平滑地移动。当用户握持并直接移动显微镜单元5303的位置时,这使得可以以相对弱的力移动显微镜单元5303。因此,用户能够通过更简单和更容易的操作更直观地移动显微镜单元5303,并且可以提高用户的便利性。
此外,臂单元5309的驱动可被控制,使得臂单元5309执行枢转运动。这里的枢转运动是用于移动显微镜单元5303的运动,使得显微镜单元5303的光轴的方向保持朝向空间中的预定点(以下称为枢转点)。由于枢转运动使得能够从各个方向观察相同的观察位置,因此患部的更详细的观察变得可能。应注意,在显微镜单元5303被配置为使得无法调整其焦距的情况下,优选地,在显微镜单元5303与枢转点之间的距离固定的状态下执行枢转移动。在这种情况下,如果显微镜单元5303与枢转点之间的距离被预先调整为显微镜单元5303的固定焦距就足以。通过刚才描述的配置,显微镜单元5303在具有与以枢转点为中心的焦距对应的半径的半球形平面(在图18中示意性地示出)上移动,并且即使观察方向改变,也可获得清晰的拍摄图像。另一方面,在显微镜单元5303被配置为使得其焦距可调节的情况下,可在显微镜单元5303与枢转点之间的距离可变的状态下执行枢转移动。在这种情况下,例如,控制装置5317可以基于关于由编码器检测的关节部的旋转角度的信息计算显微镜单元5303和枢转点之间的距离,并基于计算的结果自动调整显微镜单元5303的焦距。可替代地,在显微镜单元5303包括AF功能的情况下,每次由显微镜单元5303和枢转点之间的枢转移动所引起的距离改变时,焦距的调整可以由AF功能自动执行。
此外,第一关节部5311a至第六关节部5311f中的每个可以设置有用于限制第一关节部5311a至第六关节部5311f的旋转的制动器。制动器的操作可以由控制装置5317控制。例如,如果旨在固定显微镜单元5303的位置和姿势,则控制装置5317使关节部的制动器操作。因此,即使不驱动致动器,臂单元5309的姿势(即,显微镜单元5303的位置和姿势)也可以被固定,并且因此,可以降低功耗。当旨在移动显微镜单元5303的位置和姿势时,如果控制装置5317释放关节部的制动器并且根据预定控制方法驱动致动器就足以。
制动器的这种操作可以响应于用户通过上述操作单元5307的操作输入来执行。当用户想要移动显微镜单元5303的位置和姿势时,用户将操作操作单元5307以释放关节部的制动器。结果,臂单元5309的操作模式改变为能够自由执行关节部的旋转的模式(全自由模式)。另一方面,如果用户想要固定显微镜单元5303的位置和姿势,则用户将操作操作单元5307以使关节部的制动器操作。结果,臂单元5309的操作模式改变为关节部的旋转受到限制的模式(固定模式)。
控制装置5317通过控制显微镜装置5301和显示装置5319的操作来整体控制显微镜手术系统5300的操作。例如,控制装置5317使第一关节部5311a至第六关节部5311f的致动器根据预定控制方法操作以控制臂单元5309的驱动。此外,例如,控制装置5317控制第一关节部5311a至第六关节部5311f的制动器的操作,以改变臂单元5309的操作模式。此外,例如,控制装置5317对通过显微镜装置5301的显微镜单元5303的成像单元获取的图像信号执行各种信号处理以生成用于显示的图像数据并控制显示装置5319显示所生成的图像数据。作为信号处理,可以执行各种已知的信号处理,例如,显影处理(去马赛克处理)、图像质量提高处理(带宽增强处理、超分辨率处理、降噪(NR)处理和/或图像稳定处理)和/或放大处理(即,电子缩放处理)。
应注意,控制装置5317和显微镜单元5303之间的通信以及控制装置5317和第一关节部5311a至第六关节部5311f之间的通信可以是有线通信或无线通信。在应用有线通信的情况下,可以执行通过电信号的通信或者可以执行光通信。在这种情况下,用于有线通信的传输线缆可以被配置为电信号线缆、光纤或它们的复合线缆,以响应所应用的通信方法。另一方面,在应用无线通信的情况下,由于不需要在手术室内铺设传输线缆,所以能够消除医疗人员在手术室内的移动被传输线缆干扰的情况。
控制装置5317可以是诸如中央处理单元(CPU)或图形处理单元(GPU)之类的处理器,或者是其中结合了处理器和诸如存储器之类的存储元件的微型计算机或控制板。上文所描述的各种功能可以通过根据预定程序操作的控制装置5317的处理器来实现。应注意,在所示示例中,控制装置5317被设置为与显微镜装置5301分离的设备。然而,控制装置5317可以安装在显微镜装置5301的基座单元5315的内部并且与显微镜装置5301整体配置。控制装置5317还可以包括多个设备。例如,微型计算机、控制板等可以被布置在显微镜单元5303和臂单元5309的第一关节部5311a至第六关节部5311f中,并且被连接以便彼此通信以实现与控制装置5317的功能类似的功能。
显示装置5319被设置在手术室中,并在控制装置5317的控制下显示与控制装置5317生成的图像数据相对应的图像。换言之,由显微镜单元5303成像的手术位置的图像显示在显示装置5319上。代替或除了手术位置的图像之外,显示装置5319可以显示与手术有关的各种信息,诸如患者的身体信息或关于手术的手术程序的信息。在这种情况下,显示装置5319的显示可以响应于用户的操作而适当地切换。可替换地,也可以提供多个这样的显示装置5319,使得可以在多个显示装置5319上单独地显示手术位置的图像或与手术有关的各种信息。应注意,作为显示装置5319,可以应用各种已知的显示装置,诸如液晶显示装置或电致发光(EL)显示装置。
图19是示出使用图18中所示的显微镜手术系统5300的手术状态的视图。图19示意性示出了外科医生5321使用显微镜手术系统5300对病床5323上的患者5325进行手术的状态。应注意,在图19中,为了简化说明,省略了显微镜手术系统5300的组件之中的控制装置5317,并且以简化的方式示出了显微镜装置5301。
如图19所示,在手术时,使用显微镜手术系统5300,在安装在手术室的墙面上的显示装置5319上以放大比例显示通过显微镜装置5301成像的手术位置的图像。显示装置5319被安装在与外科医生5321相对的位置处,并且外科医生5321将在根据显示在显示装置5319上的视频观察手术位置的状态的同时进行手术位置的各种治疗,例如切除患部。
已经描述了根据本公开的技术能够应用于的显微镜手术系统5300的示例。应注意,虽然显微镜手术系统5300被描述为示例,但是根据本公开的技术能够应用的系统不限于该示例。例如,显微镜装置5301还可以用作支撑臂装置,该支撑臂装置在其远端支撑不同的观察装置或一些其他外科手术工具来代替显微镜单元5303。作为其他的观察装置,例如也可以应用内窥镜。另外,作为其他的手术器具,能够应用钳子、钳子、气腹用的气腹管、利用烧灼等进行组织的切开、血管的密封的能量设备等。通过由支撑臂装置支撑刚刚描述的这种观察设备和手术工具中的任一种,与由医务人员的手支撑观察设备和手术工具的替代情况中的位置相比,可以以高度的稳定性固定观察设备和手术工具的位置。因此,能够减轻医务人员的负担。根据本公开的技术可以应用于支撑如上所述的除了显微镜单元之外的这种部件的支撑臂装置。
根据本公开的技术可适当地应用于上述配置之中的控制装置5317。具体地,可以在显示装置5319上显示指示由显微镜单元5303的成像单元捕获的患者5325的手术位置的图像的情况下应用根据本公开的技术。将根据本公开的技术应用于控制装置5317使得可以将特定波长光拍摄图像的色调接近白光拍摄图像的色调,从而显示特定波长光拍摄图像。该配置使得外科医生5321可以在手术期间实时地在显示装置5319上观看高精度的特定波长光拍摄图像,从而导致更安全的操作。
应注意,本技术可包括以下配置。
(1)一种医疗系统,包括:
光源,被配置为在第一观察模式和第二观察模式下使用具有不同波长范围的光对拍摄对象进行照射,该拍摄对象为手术中的活体的一部分;
成像装置,被配置为拍摄来自被光照射的所述拍摄对象的反射光并且输出拍摄图像;
存储控制器,被配置为执行控制以使存储部存储第一观察模式时的第一拍摄图像作为参考图像;
生成部,被配置为将第二观察模式时的第二拍摄图像与参考图像进行比较,以生成用于使第二拍摄图像的色调与参考图像的色调相近的参数;
颜色转换处理器,被配置为基于所述参数对所述第二拍摄图像执行颜色转换处理以输出经颜色转换的图像;以及
显示控制器,被配置为执行控制以使显示部显示经颜色转换的图像。
(2)根据(1)的医疗系统,其中,所述存储控制器进行控制以在图像中的活体以外的物体的面积等于或小于预定比例的情况下,使所述第一观察模式时的所述第一拍摄图像存储为所述参考图像。
(3)根据(1)的医疗系统,其中,所述存储控制器执行控制以在图像的清晰度等于或高于预定阈值的情况下,使存储部存储第一观察模式时的第一拍摄图像作为参考图像。
(4)根据(1)的医疗系统,其中,所述存储控制器执行控制以在经过了手术操作的目标部位的大小及位置满足预定条件的情况下,使所述控制部存储第一观察模式时的所述第一拍摄图像作为所述参考图像。
(5)根据(1)的医疗系统,其中,所述存储控制器执行控制以使存储部将用户指定的定时的所述第一观察模式下的所述第一拍摄图像存储为所述参考图像。
(6)根据(1)的医疗系统,其中,所述存储控制器执行控制以使存储部将在所述第一观察模式时的多个所述第一拍摄图像存储为所述参考图像。
(7)根据(1)的医疗系统,其中,所述生成部以像素为单位、包括多个像素的预定区域为单位或整个图像为单位生成所述参数。
(8)根据(7)的医疗系统,其中,在以所述像素为单位或以所述预定区域为单位生成所述参数的情况下,所述生成部通过对被摄体执行运动估计和运动补偿以对准所述被摄体的位置来生成所述参数。
(9)根据(7)的医疗系统,其中,在以像素为单位或预定区域为单位生成该参数的情况下,该生成部生成该参数使得防止在像素之间或预定区域之间的边界处的色调的不连续性。
(10)根据(1)的医疗系统,其中,所述生成部在所述第二拍摄图像中识别内脏以生成每个内脏的参数。
(11)根据(1)的医疗系统,其中,所述生成部将所述参数生成为具有矩阵格式的参数,所述具有矩阵格式的参数用于使在所述第二拍摄图像经过颜色转换时获得的经颜色转换的图像与所述参考图像之间的色调的差异最小化。
(12)根据(1)的医疗系统,其中,所述生成部将所述参数生成为查找表格式的参数,所述查找表格式的参数用于最小化经颜色转换的图像与所述参考图像之间的色调的差异,所述经颜色转换的图像是在使所述第二拍摄图像经颜色转换时获得的。
(13)根据(1)的医疗系统,其中所述生成部使用机器学习生成所述参数。
(14)根据(1)的医疗系统,其中,所述存储控制器执行控制,以使所述存储部存储由所述颜色转换处理器输出的经颜色转换的图像,以及
所述生成部进一步基于存储在所述存储部中的所述经颜色转换的图像生成所述参数。
(15)根据(1)的医疗系统,其中,所述生成部生成参数以使得针对由用户指定的活体的位置,使第二拍摄图像的色调接近参考图像的色调。
(16)根据(1)的医疗系统,其中,所述第一观察模式包括白光观察模式,所述第二观察模式包括可见荧光观察模式。
(17)根据(1)的医疗系统,其中,该医疗系统包括显微镜系统或内窥镜系统。
(18)一种结合光源和成像装置操作的信息处理装置,所述信息处理装置包括:
存储控制器,被配置为执行控制以使存储部存储第一观察模式时的第一拍摄图像作为参考图像;
生成部,被配置为将第二观察模式时的第二拍摄图像与所述参考图像进行比较,一生成用于使所述第二拍摄图像的色调与所述参考图像的色调接近的参数;
颜色转换处理器,被配置为基于所述参数对所述第二拍摄图像执行颜色转换处理以输出经颜色转换的图像;以及
显示控制器,被配置为执行用于使显示部显示经颜色转换的图像的控制,
其中,所述光源在所述第一观察模式和所述第二观察模式中使用具有不同波长区域的光照射拍摄对象,所述拍摄对象是手术中的活体的一部分,以及
所述成像装置拍摄来自被所述光照射的所述拍摄对象的反射光并且输出拍摄图像。
(19)一种由结合光源和成像装置操作的信息处理装置执行的信息处理方法,所述信息处理方法包括:
存储控制步骤,执行控制以使存储部存储第一观察模式时的第一拍摄图像作为参考图像;
生成步骤,将第二观察模式时的第二拍摄图像与所述参考图像进行比较,以生成用于使所述第二拍摄图像的色调与所述参考图像的色调接近的参数;
颜色转换处理步骤,基于所述参数对所述第二拍摄图像进行颜色转换处理,以输出经颜色转换的图像;以及
显示控制步骤,执行控制以使显示部显示所述经颜色转换的图像,
其中所述光源在所述第一观察模式和所述第二观察模式中使用具有不同波长区域的光照射拍摄对象,所述拍摄对象是手术中的活体的一部分,以及
所述成像装置拍摄来自被所述光照射的所述拍摄对象的反射光并且输出拍摄图像。
尽管以上描述给出了本公开的实施方式和变形例,然而,本公开的技术范围不局限于上述实施方式和变形例,并且在不背离本公开的精神和范围的情况下,可以做出各种修改和变化。此外,覆盖不同实施方式和修改的部件可适当地组合。
在一个实例中,作为第一观察模式和第二观察模式而组合的目的不限于白光观察模式和可见荧光观察模式,也可以包括白光观察模式和可见荧光观察模式以外的特定波长光观察模式的组合,或者预定的参考观察模式和作为颜色转换对象的观察模式的组合。
另外,在使用多个特定波长光观察模式的情况下,也可以独立地进行颜色转换。
此外,在本说明书中描述的每一个实施方式和变形例中的效果仅是说明性的而不是限制性的,并且可以实现其他效果。
参考标号列表
1医疗系统
2光源
3成像装置
4信息处理装置
5显示装置
9拍摄对象
41处理器
42存储部
411获取部
412参考图像存储控制器
413颜色转换参数生成部
414颜色转换处理器
415显示控制器
416颜色转换图像存储控制器
Claims (19)
1.一种医疗系统,包括:
光源,被配置为针对第一观察模式和第二观察模式用具有不同波长范围的光对拍摄对象进行照射,所述拍摄对象为手术中的活体的一部分;
成像装置,被配置为拍摄来自被所述光照射的所述拍摄对象的反射光并且输出拍摄图像;
存储控制器,被配置为执行控制以使存储部存储所述第一观察模式下的第一拍摄图像作为参考图像;
生成部,被配置为将所述第二观察模式下的第二拍摄图像与所述参考图像进行比较,以生成用于使所述第二拍摄图像的色调接近所述参考图像的色调的参数;
颜色转换处理器,被配置为基于所述参数对所述第二拍摄图像执行颜色转换处理以输出经颜色转换的图像;以及
显示控制器,被配置为执行控制以使显示部显示所述经颜色转换的图像。
2.根据权利要求1所述的医疗系统,其中,所述存储控制器执行控制以在图像中的活体以外的物体的面积等于或小于预定比例的情况下,使所述存储部将所述第一观察模式下的所述第一拍摄图像存储为所述参考图像。
3.根据权利要求1所述的医疗系统,其中,所述存储控制器执行控制以在图像的分辨率等于或大于预定阈值的情况下,使所述存储部将所述第一观察模式下的所述第一拍摄图像存储为所述参考图像。
4.根据权利要求1所述的医疗系统,其中,所述存储控制器执行控制以在进行了手术的对象部位的大小及位置满足预定条件的情况下,使所述存储部将所述第一观察模式下的所述第一拍摄图像存储为所述参考图像。
5.根据权利要求1所述的医疗系统,其中,所述存储控制器执行控制以使所述存储部将用户指定的定时的所述第一观察模式下的所述第一拍摄图像存储为所述参考图像。
6.根据权利要求1所述的医疗系统,其中,所述存储控制器执行控制以使所述存储部将在所述第一观察模式下的多个所述第一拍摄图像存储为所述参考图像。
7.根据权利要求1所述的医疗系统,其中,所述生成部以像素为单位、以包括多个像素的预定区域为单位或以整个图像为单位生成所述参数。
8.根据权利要求7所述的医疗系统,其中,在以所述像素为单位或以所述预定区域为单位生成所述参数的情况下,所述生成部通过对被摄体执行运动估计和运动补偿以对准所述被摄体的位置来生成所述参数。
9.根据权利要求7所述的医疗系统,其中,在以所述像素为单位或者以所述预定区域为单位生成所述参数的情况下,所述生成部生成所述参数以使得防止在所述像素之间或所述预定区域之间的边界处出现色调的不连续性。
10.根据权利要求1所述的医疗系统,其中,所述生成部在所述第二拍摄图像中识别内脏以针对每个内脏生成所述参数。
11.根据权利要求1所述的医疗系统,其中,所述生成部将所述参数生成为矩阵格式的参数,所述矩阵格式的参数用于使在所述第二拍摄图像进行颜色转换时获得的经颜色转换的图像与所述参考图像之间的色调的差异最小化。
12.根据权利要求1所述的医疗系统,其中,所述生成部将所述参数生成为查找表格式的参数,所述查找表格式的参数用于最小化经颜色转换的图像与所述参考图像之间的色调的差异,所述经颜色转换的图像是在使所述第二拍摄图像经颜色转换时获得的。
13.根据权利要求1所述的医疗系统,其中,所述生成部使用机器学习生成所述参数。
14.根据权利要求1所述的医疗系统,其中,所述存储控制器执行控制,以使所述存储部存储由所述颜色转换处理器输出的经颜色转换的图像,以及
所述生成部进一步基于存储在所述存储部中的所述经颜色转换的图像生成所述参数。
15.根据权利要求1所述的医疗系统,其中,所述生成部生成所述参数以使得针对由用户指定的所述活体的位置,使所述第二拍摄图像的色调接近所述参考图像的色调。
16.根据权利要求1所述的医疗系统,其中,所述第一观察模式包括白光观察模式,所述第二观察模式包括可见荧光观察模式。
17.根据权利要求1所述的医疗系统,其中,所述医疗系统包括显微镜系统或内窥镜系统。
18.一种信息处理装置,所述信息处理装置结合光源和成像装置操作,所述信息处理装置包括:
存储控制器,被配置为执行控制以使存储部存储第一观察模式下的第一拍摄图像作为参考图像;
生成部,被配置为将第二观察模式下的第二拍摄图像与所述参考图像进行比较,以生成用于使所述第二拍摄图像的色调与所述参考图像的色调接近的参数;
颜色转换处理器,被配置为基于所述参数对所述第二拍摄图像执行颜色转换处理以输出经颜色转换的图像;以及
显示控制器,被配置为执行控制以使显示部显示所述经颜色转换的图像,
其中,针对所述第一观察模式和所述第二观察模式所述光源使用具有不同波长区域的光照射拍摄对象,所述拍摄对象是手术中的活体的一部分,以及
所述成像装置拍摄来自被所述光照射的所述拍摄对象的反射光并且输出拍摄图像。
19.一种信息处理方法,所述信息处理方法由结合光源和成像装置操作的信息处理装置执行,所述信息处理方法包括:
存储控制步骤,执行控制以使存储部存储第一观察模式下的第一拍摄图像作为参考图像;
生成步骤,将第二观察模式下的第二拍摄图像与所述参考图像进行比较,以生成用于使所述第二拍摄图像的色调接近所述参考图像的色调的参数;
颜色转换处理步骤,基于所述参数对所述第二拍摄图像进行颜色转换处理,以输出经颜色转换的图像;以及
显示控制步骤,执行控制以使显示部显示所述经颜色转换的图像,
其中,针对所述第一观察模式和所述第二观察模式所述光源使用具有不同波长区域的光照射拍摄对象,所述拍摄对象是手术中的活体的一部分,以及
所述成像装置拍摄来自被所述光照射的所述拍摄对象的反射光并且输出拍摄图像。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020-114542 | 2020-07-02 | ||
JP2020114542A JP2022012599A (ja) | 2020-07-02 | 2020-07-02 | 医療システム、情報処理装置及び情報処理方法 |
PCT/JP2021/020922 WO2022004250A1 (ja) | 2020-07-02 | 2021-06-02 | 医療システム、情報処理装置及び情報処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115720505A true CN115720505A (zh) | 2023-02-28 |
Family
ID=79316016
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202180045528.9A Pending CN115720505A (zh) | 2020-07-02 | 2021-06-02 | 医疗系统、信息处理装置和信息处理方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20230248231A1 (zh) |
JP (1) | JP2022012599A (zh) |
CN (1) | CN115720505A (zh) |
WO (1) | WO2022004250A1 (zh) |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7014509B2 (ja) * | 2016-08-26 | 2022-02-01 | キヤノンメディカルシステムズ株式会社 | 医用画像処理装置および内視鏡装置 |
-
2020
- 2020-07-02 JP JP2020114542A patent/JP2022012599A/ja active Pending
-
2021
- 2021-06-02 US US18/003,325 patent/US20230248231A1/en active Pending
- 2021-06-02 WO PCT/JP2021/020922 patent/WO2022004250A1/ja active Application Filing
- 2021-06-02 CN CN202180045528.9A patent/CN115720505A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
JP2022012599A (ja) | 2022-01-17 |
WO2022004250A1 (ja) | 2022-01-06 |
US20230248231A1 (en) | 2023-08-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2017145475A1 (ja) | 医療用情報処理装置、情報処理方法、医療用情報処理システム | |
CN112584743A (zh) | 医疗系统、信息处理装置和信息处理方法 | |
CN111278344B (zh) | 手术臂系统和手术臂控制系统 | |
US11531151B2 (en) | Imaging apparatus and image generating method that detects an orientation of an imaging section and generates an image corresponding to a polarization direction corresponding to the orientation the imaging section | |
US11463629B2 (en) | Medical system, medical apparatus, and control method | |
US11540700B2 (en) | Medical supporting arm and medical system | |
US20220008156A1 (en) | Surgical observation apparatus, surgical observation method, surgical light source device, and surgical light irradiation method | |
US11729493B2 (en) | Image capture apparatus and image capture method | |
US11699215B2 (en) | Imaging device, method and program for producing images of a scene having an extended depth of field with good contrast | |
US11039067B2 (en) | Image pickup apparatus, video signal processing apparatus, and video signal processing method | |
US10778889B2 (en) | Image pickup apparatus, video signal processing apparatus, and video signal processing method | |
WO2020203164A1 (ja) | 医療システム、情報処理装置及び情報処理方法 | |
WO2021256168A1 (ja) | 医用画像処理システム、手術画像制御装置、及び、手術画像制御方法 | |
US20190154953A1 (en) | Control apparatus, control system, and control method | |
WO2020116067A1 (ja) | 医療システム、情報処理装置及び情報処理方法 | |
US20230248231A1 (en) | Medical system, information processing apparatus, and information processing method | |
US20210235968A1 (en) | Medical system, information processing apparatus, and information processing method | |
WO2018043205A1 (ja) | 医療用画像処理装置、医療用画像処理方法、プログラム | |
WO2020050187A1 (ja) | 医療システム、情報処理装置及び情報処理方法 | |
JP7456385B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |