CN107485455A - 手术系统中有效的交互式出血检测 - Google Patents
手术系统中有效的交互式出血检测 Download PDFInfo
- Publication number
- CN107485455A CN107485455A CN201710872989.9A CN201710872989A CN107485455A CN 107485455 A CN107485455 A CN 107485455A CN 201710872989 A CN201710872989 A CN 201710872989A CN 107485455 A CN107485455 A CN 107485455A
- Authority
- CN
- China
- Prior art keywords
- blood
- scene
- module
- bleeding
- regions
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000000740 bleeding effect Effects 0.000 title claims abstract description 163
- 238000001514 detection method Methods 0.000 title claims abstract description 128
- 238000001356 surgical procedure Methods 0.000 title abstract description 39
- 230000002452 interceptive effect Effects 0.000 title description 6
- 239000008280 blood Substances 0.000 claims abstract description 346
- 210000004369 blood Anatomy 0.000 claims abstract description 342
- 230000033001 locomotion Effects 0.000 claims description 102
- 230000017531 blood circulation Effects 0.000 claims description 68
- 238000012360 testing method Methods 0.000 claims description 33
- 230000011218 segmentation Effects 0.000 claims description 22
- 238000009534 blood test Methods 0.000 claims description 14
- 238000012937 correction Methods 0.000 claims description 13
- 239000003550 marker Substances 0.000 claims description 9
- 230000003287 optical effect Effects 0.000 claims description 4
- 238000004088 simulation Methods 0.000 claims description 4
- 238000005206 flow analysis Methods 0.000 claims description 2
- 238000012545 processing Methods 0.000 abstract description 29
- 238000004458 analytical method Methods 0.000 abstract description 2
- 238000000034 method Methods 0.000 description 192
- 208000032843 Hemorrhage Diseases 0.000 description 161
- 230000008569 process Effects 0.000 description 138
- 238000010586 diagram Methods 0.000 description 21
- 238000012544 monitoring process Methods 0.000 description 16
- 238000005259 measurement Methods 0.000 description 15
- 239000007788 liquid Substances 0.000 description 13
- 238000005286 illumination Methods 0.000 description 11
- 230000008859 change Effects 0.000 description 9
- 230000009471 action Effects 0.000 description 7
- 238000004040 coloring Methods 0.000 description 7
- 230000008439 repair process Effects 0.000 description 7
- 238000004159 blood analysis Methods 0.000 description 6
- 238000004590 computer program Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 239000007787 solid Substances 0.000 description 6
- 238000007689 inspection Methods 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 5
- 238000013459 approach Methods 0.000 description 4
- 230000000875 corresponding effect Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000005192 partition Methods 0.000 description 3
- 230000003321 amplification Effects 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 235000013399 edible fruits Nutrition 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- 230000029058 respiratory gaseous exchange Effects 0.000 description 2
- 238000002432 robotic surgery Methods 0.000 description 2
- 230000036548 skin texture Effects 0.000 description 2
- 208000012671 Gastrointestinal haemorrhages Diseases 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000021615 conjugation Effects 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 239000004744 fabric Substances 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000009432 framing Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 208000014674 injury Diseases 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 210000004185 liver Anatomy 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 238000004886 process control Methods 0.000 description 1
- 230000002829 reductive effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000010972 statistical evaluation Methods 0.000 description 1
- 230000002195 synergetic effect Effects 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000008733 trauma Effects 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00039—Operational features of endoscopes provided with input arrangements for the user
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00039—Operational features of endoscopes provided with input arrangements for the user
- A61B1/00042—Operational features of endoscopes provided with input arrangements for the user for mechanical operation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00147—Holding or positioning arrangements
- A61B1/00149—Holding or positioning arrangements using articulated arms
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00163—Optical arrangements
- A61B1/00193—Optical arrangements adapted for stereoscopic vision
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0661—Endoscope light sources
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/07—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements using light-conductive means, e.g. optical fibres
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/02028—Determining haemodynamic parameters not otherwise provided for, e.g. cardiac contractility or left ventricular ejection fraction
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/02042—Determining blood loss or bleeding, e.g. during a surgical procedure
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/026—Measuring blood flow
- A61B5/0261—Measuring blood flow using optical means, e.g. infrared light
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/742—Details of notification to user or communication with user or patient ; user input means using visual displays
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/742—Details of notification to user or communication with user or patient ; user input means using visual displays
- A61B5/743—Displaying an image simultaneously with additional graphical information, e.g. symbols, charts, function plots
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B90/361—Image-producing devices, e.g. surgical cameras
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B90/37—Surgical systems with images on a monitor during operation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
- G06T7/0016—Biomedical image inspection using an image reference approach involving temporal comparison
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/269—Analysis of motion using gradient-based methods
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/043—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B17/00—Surgical instruments, devices or methods, e.g. tourniquets
- A61B2017/00017—Electrical control of surgical instruments
- A61B2017/00115—Electrical control of surgical instruments with audible or visual output
- A61B2017/00119—Electrical control of surgical instruments with audible or visual output alarm; indicating an abnormal situation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B90/361—Image-producing devices, e.g. surgical cameras
- A61B2090/3614—Image-producing devices, e.g. surgical cameras using optical fibre
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Public Health (AREA)
- Pathology (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- Veterinary Medicine (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Biophysics (AREA)
- Radiology & Medical Imaging (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Cardiology (AREA)
- Physiology (AREA)
- Signal Processing (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Gynecology & Obstetrics (AREA)
- Multimedia (AREA)
- Quality & Reliability (AREA)
- Hematology (AREA)
- Mechanical Engineering (AREA)
- Endoscopes (AREA)
- Image Analysis (AREA)
Abstract
手术系统中的出血检测单元处理采集景象中的信息,然后在手术室中的显示单元上展示景象。例如,出血检测单元分析采集景象中的像素数据并确定景象中是否存在一个或多个初始血液位点。在检测到初始血液位点后,通过显示单元上显示的景象中的初始位点图标来识别区域。一方面,处理实时进行,这意味着在向外科医师展示采集景象方面无显著延迟。
Description
本申请是分案申请,原申请的申请日为2013年7月22日,中国申请号为201380039530.0,国际申请号为PCT/US2013/051492,发明名称为“手术系统中有效的交互式出血检测”。
发明背景
发明领域
本发明的方面涉及内窥镜成像,更具体地涉及检测出血,为外科医师提供实时出血运动的视频显示。
相关领域
da手术系统,由Intuitive Surgical,Inc.,Sunnyvale,California销售,是最小侵入性的远距操作手术系统,其为患者提供很多益处,如身体创伤减少、恢复较快和住院时间较短。da手术系统的一个关键要素是能够提供双通道(即,左和右)视频拍摄和可视图像显示,从而向外科医师提供立体观察。
这种电子立体成像系统可向外科医师输出高清晰度视频图像,并且可实现如下特征:“放大”视图,允许外科医师去识别具体组织类型和特征,以及以增加的精确度进行工作。在出血发生时的一般手术视野中,主要颜色变成红色,并且产生的血液可掩盖出血源本身,因此出血和/或出血位置不能立即显见于外科医师。此外,外科医师可能专注于关键工作或景象内的不同的具体区域。这些因素中的任一个均可导致观察和诊断出血源的延迟。
发明概述
一方面,手术位点的景象被手术系统如机器人手术系统中的图像拍摄单元拍摄,作为像素数据帧。手术系统中的出血检测单元处理采集像素数据帧中的信息,然后在手术室中的显示单元上展示景象。例如,出血检测单元分析像素数据帧,并确定景象中是否具有一个或多个血液新情况。在检测到一个或多个血液新情况后,一方面,显示单元上显示的景象中包括一个或多个初始位点图标。每个初始位点图标识别血液新情况的位置。
通过出血检测单元分析每个后续帧中采集的像素数据。一个或多个血液区域连同初始位点图标一起被识别和显示在显示单元上。因此,观察者看到初始位点图标,并且能够观看血液从初始位点开始的进程。即使初始位点被一滩血液覆盖,初始位点图标也提供出血位点的指示。因此,初始位点图标的显示有助于定位实际出血位点。
一方面,通过出血检测单元实施的处理实时进行,这意味着在向外科医师展示采集景象方面无显著延迟。因此,外科医师一旦在景象中检测到血液就通过初始位点图标知道出血,并且外科医师可随时间追踪出血进程。
出血检测单元使用通常通过图像拍摄单元在例如最小侵入性手术中采集的景象。检测过程无需如超声或Doppler技术中的特殊照相机或其他特殊设备。
更具体地,一方面,手术系统中的出血检测单元接收手术景象的采集帧。像素数据帧包括多个位置。每个位置包括多个颜色组分的像素。
出血检测单元检测每个位置的多个颜色组分像素是否包括指示该位置处血液的信息。基于被检测为包括血液指示信息的位置,确定景象中的血液区域。
如果这是在预定事件例如初始化事件或抽吸事件后景象中初次检测到血液,则出血检测单元生成至少一个初始位点图标,以指示景象中出血位点的位置。初始位点也可以一些其他方式指示,例如,通过在景象中突出初始位点。如果这不是景象中初次检测到血液,则任选地利用不同于初始位点图标的血液标记指示景象中的血液区域,例如,不同的图标、不同的假着色、不同的边框等。
将初始位点图标和任选的血液标记与手术景象组合,以获得组合图像。然后,一方面,将组合图像显示在手术室中的显示单元上。因此,最初展示初始位点图标,然后随时间流逝,初始位点图标保持在景象中,同时通过血液标记指示出血进程。在一些方面,不使用血液标记,仅使用初始位点图标。初始位点图标与出血随时间进程显示的组合有助于外科医师和/或手术室中的其他人员确定出血位点的位置。
一方面,每个位置的多个颜色组分像素是否包括该位置处的血液指示信息的确定包括生成比例,其中比例中的第一数量包含该位置处的第一颜色组分像素值,并且其中比例中的第二数量包括该位置处的第二颜色组分值。如果该比例与血液指示阈值具有预先确定的关系,例如,该比例大于血液指示阈值,则将该位置识别为包括血液指示信息。
另一方面,出血检测单元估测血液区域中的血液流动。将血液流动的指示标与采集景象组合,并连同任何血液标记和初始位点图标显示在显示单元上。
在这方面,出血检测单元,利用多个帧的光流分析,估测区域中每个位置的总体运动。通过校正该位置的估测的总体运动以补偿该位置处的平均组织运动,生成该位置处血液流动的估测。由多个位置的血液流动生成景象中的模拟血液流动。
另一方面,交互式方法包括在手术程序期间接收在显示单元上自动生成的出血警告。在该警告后,通过操纵手术器械来清洁相应于显示单元上展示的血液区域的物理区域。接着,由显示单元上展示的信息确定定位的出血源的位置。通过操纵安装在最小侵入性手术系统中的手术器械,处理出血源,以减少出血。最后,通过利用显示单元上展示的信息来确定处理过程是否减少出血。
系统包括图像拍摄系统,其被配置以采集手术景象的数据帧。数据帧包括多个位置。每个位置包括多个颜色组分的像素。系统中的出血检测单元包括区域分割模块和血液区域识别模块。系统还包括显示单元,其偶联于出血检测单元以接收组合景象,和被配置以显示组合景象。
区域分割模块被配置以接收数据帧;检测每个位置的多个颜色组分像素是否包括位置处的血液指示信息;和基于被检测为包括血液指示信息的位置,确定景象中的血液区域。
血液区域识别模块偶联于区域分割模块。血液区域识别模块被配置以生成初始位点图标,指示景象中的血液区域,和组合初始位点图标与景象,生成组合景象。
出血检测单元还包括血液流动估测器模块。血液流动估测器模块在血液区域中生成关于该区域任何运动的血液流动。血液流动估测器模块包括估测运动模块,其估测区域中每个位置的总体运动。血液流动估测器模块还包括校正运动模块,其偶联于估测运动模块。校正运动模块校正区域中每个位置的总体运动,从而生成每个位置处关于该区域的运动的血液流动。
附图简述
图1是包括出血检测单元的手术系统的高水平示图。
图2是示例包括出血检测单元的手术系统的硬件和软件方面的示意图。
图3A是通过图1和2的出血检测单元进行的方法的方法流程图。
图3B是利用出血检测单元提供的信息的交互式方法的方法流程图。
图4A至4F是基于图3A和3B的方法的景象实例。
图5是通过区域分割模块进行的方法的更详细方法流程图。
图6是图3A的血液流动估测方法的更详细方法流程图。
图7是图1的出血检测模块包括的模块的更详细示图。
图8A是在景象上叠加的使使用者指定出血检测区域的栅格的实例。
图8B是关闭了出血检测的手术系统选择的区域的实例。
图9是具有血液检测和血液流动估测控制的出血检测系统的示意图。
在附图中,参考编号的第一数字指示带有该参考编号的元件第一次出现所在的图。
发明详述
图1是手术系统100的高水平示图,例如,da手术系统,包括出血检测单元135。(da是Intuitive Surgical,Inc.of Sunnyvale,California的注册商标)。在此实例中,外科医师,利用外科医师控制台114的主控制器,远程操纵安装在机器人操纵臂113上——该机器人操纵臂113进而安装在推车(cart)110上——的内窥镜112。外科医师还远程操纵偶联于推车110的一个或多个手术器械。da手术系统还与其他部件、线缆等相联,但这些未示例在图1中,以避免从公开转移。关于最小侵入性手术系统的进一步信息可在例如美国专利申请号11/762,165(2007年6月23日提交;公开了Minimally InvasiveSurgical System)、美国专利号US 6,837,883 B2(2001年10月5日提交;公开了Arm Cartfor Telerobotic Surgical System)和美国专利号6,331,181(2001年12月28日提交;公开了Surgical Robotic Tools,Data Architecture,and Use)中查找,其全部被引入本文作为参考。远距操作的最小侵入性手术系统的应用仅具有示例性,而非意图将本发明限制于这种具体系统。基于本公开,本文描述的方面可被引入机器人手术系统或包括实施本文描述的方面所需的元件的其他手术系统。
内窥镜112一方面包括使来自组织的光例如反射光和/或荧光经过的两个光通道。每一个光通道中的从患者111的组织103反射的光被拍摄成景象,从而在各时间点拍摄两个景象:左景象和右景象。每个拍摄的景象均被包含在数据帧121中。在特定时间点通过图像拍摄系统120拍摄两个数据帧:左帧和右帧。处理这两个数据帧,并将所得景象展示在外科医师操控控制台114——其有时被称为外科医师控制台114或简单控制台114——的立体显示单元上。
立体内窥镜和立体显示的应用仅为示例,而非意图限制。本文描述的方面可适用于不包括立体特征的系统,如单视场内窥镜和/或普通显示单元。
一方面,在预定事件之后,例如,外科医师启动出血检测单元135、出血检测单元135的初始化事件、抽吸事件(参见图3B)等,出血检测单元135处理采集景象中的信息,然后将景象作为立体景象的部分展示在外科医师控制台114上。例如,出血检测单元135分析左和右采集帧中的像素数据,并确定采集景象中是否存在一个或多个血液初始情况。在检测到这种初始情况后,出血检测单元135生成景象对140(左景象和右景象)——其中通过初始位点图标识别血液的初始位点,并且将景象对140发送至外科医师控制台114的立体显示系统。带有初始位点图标的立体景象150被显示在外科医师控制台114上。
一方面,左和右采集帧的处理实时进行,这意味着在向外科医师展示采集景象方面无显著延迟。一旦在景象中检测到血液初始情况,就会使外科医师知道出血。因此,帧序列中的每个帧被处理,并且那些帧中的景象基本上在手术位点发生出血的同时在显示器上被展示给外科医师。这意味着外科医师在显示的景象中没有看见出血,然后随后在显示的景象中看见出血指示。在这方面,这两个事件如外科医师所视是同时发生的。在这方面,出血检测能力不需延迟帧的展示,直到拍摄后续帧之后。
例如,为引起外科医师对出血的察觉,一方面,闪烁的箭头或一些其他图标指向外科医师控制台114中显示单元上的初始位点。此外或可选地,图标可以是或可以包括围绕初始位点绘制的边界,或初始位点可以被假着色,使得外科医师可容易看见第一次检测到血液的位置。在一些方面,除视觉警告外,还可生成听觉警告。这些实例仅示例其中一些可能的通知手段,而非意图限制于这些通知外科医师和/或手术操作涉及的其他人员的具体方式。
帧中检测到血液初始位点后,通过出血检测单元135分析每个后续帧中采集的像素数据,并且可在控制台114上显示的该帧的景象中识别该帧中的一个或多个血液位点连同初始位点图标。例如,利用血液标记指示血液区域。血液标记例如以一定方式例如边框、假着色等突出区域。如果在后续帧中检测到不是包围初始位点图标的血液的部分的血液情况,则在一方面,初始位点图标与该血液情况有关。
因此,观察者在显示单元上至少看见初始位点图标,并且可观察血液从初始位点开始增加。虽然一方面,随着景象中的血液量由于出血而增加,针对每组帧进行的处理是静态的——存在或不存在血液,采集景象的时间顺序展示提供了出血的流动和量的信息。此外,即使初始位点被一滩血液覆盖,初始位点图标也提供检测到血液的初始位置的指示。因此,初始位点图标有助于定位出血实际位点。例如,外科医师可利用双极抓握器伸入血液滩,找到出血位置(即使外科医师无法看见该位置),和阻止出血。
初始位点图标的协助用于来自单视场内窥镜的二维图像和来自立体内窥镜的三维图像。如本领域技术人员所知,当左和右景象展示在立体显示单元上时,外科医师感知到三维图像。当初始位点图标展示在左和右显示的景象中时,所得三维图像比二维图像提供给外科医师更好的关于如何将抓握器移至出血位点的指导。
在识别检测到血液的初始位点快速向外科医师警示出血的同时,在一些方面中,相对于景象中的运动的估测血液流动也被展示在图像的视觉显示中。估测的血液流动,通过提供也定位出血位点的信息,进一步有助于外科医师定位出血位点。
因此,出血检测单元135,基于可靠的血液检测和运动估测,自动检测和定位出血位点。一方面,自动检测在手术程序期间持续应用,以警告观看出血显示的人员。将运动检测应用于血液被检区域不仅节约定位出血位点的时间,而且使得检测过程更加可靠。出血的检测和定位在不检测或监测手术器械运动的情况下进行。如下文更充分说明,出血检测单元135提供可靠的血液和血液自出血位点运动的检测,即使在存在呼吸或其他组织运动的情况下。
图2是图1的手术系统100的一个实例的方面的更详细示例。图3A是展示出血检测单元240R、240L的操作方面的方法流程图。出血检测单元240R、240L是出血检测单元135的一种实施方式的实例。图3B是展示出血检测单元240L、240R提供的信息的应用方面的方法流程图。图4A至4F是基于图3A和3B的方法的景象的实例。虽然在图2中出血检测单元240R、240L显示为两个独立单元,但在一些方面中,这两个单元组合成一个出血检测单元。而且,在一些方面,如下文更充分描述,出血检测单元240R、240L不完全独立地工作。
在图2示例的最小侵入性手术系统200的实施方式中,照明器210偶联于立体内窥镜202。照明器210至少包括白光源,并且任选地可包括一个或多个荧光激发源,例如近红外照明。照明器210与立体内窥镜202中的至少一个照明通道协同应用,以照明组织203。可选地且不失一般性,照明器210可被内窥镜202的远端或近远端照明源替代。这种远端照明可由例如发光二极管(LEDs)或其他照明源提供。
在一个实例中,照明器210提供白光照明,照明组织203。在一些实施中,照明器210还可提供其他类型的照明,例如,激发荧光的非可见光,以及构成白光的可见颜色组分的亚组。
来自照明器210的光被引导至照明通道226,该照明通道226使照明器210偶联于内窥镜202中的照明通道。立体内窥镜202中的照明通道将光引导至组织203。照明通道可通过如下实施:例如,光纤束、单一刚性或挠性棒、或光纤。
一方面,图像拍摄单元225R、225L中的每一个捕捉从组织203反射的光,即,拍摄数据帧。数据帧表示手术景象。图像拍摄单元225R、225L中的图像拍摄传感器可以是多个CCD,其中每一个拍摄不同的可见颜色组分;单一CCD,其具有不同的拍摄具体可见颜色组分的CCD区域,等;例如,三芯片CCD传感器、具有滤色器阵列的单一CMOS图像传感器、或三CMOS彩色图像传感器组装体。
图像拍摄单元225L通过左摄像机控制单元(CCU)230L偶联于外科医师控制台250中的立体显示单元251。图像拍摄单元225R通过右摄像机控制单元(CCU)230R偶联于外科医师控制台250中的立体显示单元251。摄像机控制单元230L、230R接收来自系统处理模块263的控制放大、控制拍摄图像、控制数据帧转移至出血检测单元240R、240L等的信号。系统处理模块263表示不同的控制器,包括系统200中的视觉系统控制器。摄像机控制单元230L、230R可以是独立的单元,或可以组合成一个双控制器单元。
显示模式切换器252向用户界面262提供信号,该用户界面262进而将选择的显示模式递送至系统处理模块263。系统处理模块263中不同的视觉系统控制器配置照明器210以产生期望的照明,配置左和右摄像机控制单元230L和230R以采集期望的数据,和配置任何其他所需元件以处理采集帧,从而在立体显示单元251中向外科医师展示被要求的图像。虽然在这方面讨论的是在外科医师控制台上显示的景象,但该景象还可显示在位于手术室或其他任何地方的其他监测器上。
如图2所示,用户界面262、系统处理模块263和出血检测单元240L、240R被分组作为中央控制器260,用于所述用途。中央控制器260一般还包括颜色校正模块,其将景象的颜色转换成通过系统处理模块263确定的期望的新颜色平衡。任选的图像处理模块264接收来自中央控制器260的视频,并处理来自颜色校正模块的景象,然后显示在外科医师控制台250中的立体显示单元251上。颜色校正模块和任选的图像处理模块264等同于现有技术最小侵入性手术系统中的图像处理模块,因此不被进一步详细考虑。
出血检测单元240R、240L中的每一个的工作相同,因此仅详细考虑这些单元其中一个——出血检测单元240R。描述直接适用于另一单元——出血检测单元240L,因此不再重复。但是,如下文更充分说明,对系统200的左和右通道中拍摄的景象的立体限制用于协助消除假血液检测。
而且,描述与单个采集帧关联的处理。但是,这种处理适用于每个采集帧或采集帧的一些亚组,使得景象连续流被提供给外科医师控制台250中的立体显示单元251。此外,应理解,当进行血液流动估测时,即使关于时间t的帧讨论血液流动估测,也应用两个不同时间点——例如,时间(t-1)和时间t——的帧数据。而且,关于出血检测单元240R、240L处理和生成的景象进行等同于现有技术立体处理的立体处理。由于立体处理是已知的,其不被进一步详细考虑,除适用于出血检测外。
一方面,出血检测单元240R通过运行处理器131上的出血检测模块136来实施方法300(图3A)。在这方面,出血检测模块136被存储在存储器132中。但是,这仅为示例,而非意图限制。出血检测模块136可以如下方式实施:硬件,固件,运行软件,或三者任意组合。
在血液监测过程301中,处理采集帧中的像素数据330。像素数据的采集帧包括多个(i,j)位置。例如,帧可具有1920个水平位置(i)和1080个垂直位置(j)。
一般地,帧中的每个位置(i,j)具有一组像素,其中像素值是颜色组分在颜色空间中的值。关于一般的红-绿-蓝组分的颜色空间,每个位置(i,j)具有红色像素、绿色像素和蓝色像素。在此,像素数据采集帧中的每个位置(i,j)被定义为具有多个颜色组分的像素数据。可选的定义是存在颜色像素(i,j),其包括位置(i,j)的多个颜色组分。
关于位置(i,j),血液监测过程301分析包括位置(i,j)的位置组的像素数据,以确定位置(i,j)的血液度量BM。例如,血液监测过程301可利用纹理检测法表征指示纹理图案中的位置或不指示纹理图案中的位置的位置。血液经过一个区域具有平稳的颜色变化,而纹理图案经过一个区域具有统计学颜色变化。某些器官具有一定的纹理图案,例如,可用于方法301的已知的经过一个区域的统计学颜色变化。例如,肝的颜色变化大,并且在红色和白色之间变化,而血液的颜色变化局限于红色内的较小变化。
可选地,在血液监测过程301中,或在纹理处理之外,可利用位置(i,j)的颜色组分组形成比例,并且该比例的值是血液度量BM(i,j)。生成位置(i,j)的血液度量BM(i,j)后,血液监测过程301转移至血液检查过程302。
血液检查过程302将血液度量BM(i,j)与已知的标准品进行比较,以确定血液度量BM(i,j)是否指示位置(i,j)的血液。例如,如果纹理检测法用于血液监测过程301,则血液检查过程302确定血液度量指示组织纹理图案还是指示血液。如果血液度量指示组织纹理图案,则不认为血液处于位置(i,j),并且血液检查过程302转移至最终位置检查过程304。相反,如果血液度量指示血液处于位置(i,j),则血液检查过程302转移至保存位置数据过程303。
一方面,保存位置数据过程303将位置(i,j)的像素数据保存在时间t血液区域数据315中,然后转移至最终位置检查过程304。过程303不应被理解为请求在缓冲中保存位置(i,j)的像素数据。任何期望的技术可用于将位置(i,j)识别为指示血液。例如,一个或多个位(a bit or bits)可被配置在采集的像素数据330中,以表明该位置(i,j)指示血液。也可生成位掩码(bit mask),其选择采集的像素数据330中指示血液的位置。因此,保存位置数据过程303保存将像素数据帧中的位置(i,j)识别为指示血液的信息。
类似地,如果血液度量BM(i,j)是一个比例并且不应用纹理处理,则血液检查过程302将血液度量BM(i,j)值与血液指示阈值进行比较。一方面,如果血液度量BM(i,j)大于血液指示阈值,则认为血液存在于位置(i,j)。相反,如果血液度量BM(i,j)小于血液指示阈值,则不认为血液存在于位置(i,j)。
如果血液度量BM(i,j)指示血液,则血液检查过程302转移至保存位置数据过程303。在这方面,保存位置数据过程303将采集帧中位置(i,j)的像素数据保存在时间t血液区域数据315中,然后转移至最终位置检查过程304。如果不认为血液处于位置(i,j),则检查方法302转移至最终位置检查过程304。
另一方面,血液检查过程302利用纹理图案检查和比例检查的组合。如果纹理图案检查指示血液,则进行位置(i,j)的比例检查,以确定是否在数据315中保存位置(i,j)的像素数据。在这方面,仅当纹理图案检查和比例检查均指示位置(i,j)的血液时,将位置(i,j)的像素数据保存在数据315中。
在又一方面,利用在左通道和右通道中拍摄的景象之间的立体关系协助检测血液检查过程302中的假阳性血液指示。但是,图像拍摄传感器与位置(i,j)的距离不是已知的。为了在左和右通道中均检查位置(i,j)的血液,需要匹配左和右通道中的景象。一种自动进行匹配的技术被描述于美国专利公开号US 2010/0166323 Al(公开了“Robust SparseImage Matching for Robotic Surgery”),其被引入本文作为参考。通过这种匹配,如果在左和右景象中的一个中的一个位置处检测到血液而在左和右景象中的另一个中的相应位置处没有检测到血液,则认为血液检测是假阳性的,因此血液检查过程302没有在位置(i,j)处发现血液。
最终位置检查过程304确定采集的像素数据330中的全部目标位置是否均已通过血液监测过程301处理。如果全部位置均已被处理,则检查过程304转移至区域检查过程305,否则转移至血液监测过程301。
在一些方面,并非帧中的全部位置均被检查,以确定血液是否存在。例如,当拍摄的景象中的周围区域很暗时,周围位置的像素数据不可传递足够的信息以促进血液检测。因此,可过滤采集的像素数据330中的每个位置的像素数据,并且不处理亮度小于周围阈值的位置是否存在血液。
类似地,来自手术器械的反射光可使采集的像素数据330中的像素数据饱和。一方面,具有饱和像素数据的位置不传递关于血液检测的任何有意义的信息,因此不被处理。一方面,为最小化镜面反射效应,使从组织203反射的光经过偏光镜,该偏光镜阻挡这种反射光,使得采集的数据中减少镜面反射效应。
在一些临床环境中,帧中的选定位置可以不是关于检测血液的目标,例如,在外科医师的中心凹(fovea)内的区域中,在切割组织的区域中,或在外科医师已经关闭血液检测的区域中。如下文更充分说明,这种区域可免除血液检测。然而,本文描述的自动血液和出血检测过程是用于在外科医师的小中心凹以外的区域和由于黑暗、饱和或其他标准还未免除血液检测的区域中检测血液的有效工具。
当采集的像素数据330中的全部目标位置均已通过过程301、302、303和304处理时,数据315包含采集的像素数据330中指示血液的一个或多个区域的像素数据。如果未检测到血液区域,则数据315保持处于初始化状态。因此,确定采集景象中是否存在一个或多个血液区域。
区域检查过程305确定数据315中是否存在至少一个血液区域。如果数据315中存在至少一个血液区域,则区域检查过程305转移至运动检测启用检查过程306,否则返回血液监测过程301。
一方面,在方法300初始化期间,初始化若干标示。例如,将初始位点标示设置为预定状态,例如,“是”,将显示血液区域标示设置为默认状态,例如,无显示血液区域状态,和将运动估测标示设置为默认状态,例如,运动检测停用。一方面,使用者可通过用户界面如用户界面262指定这些标示中的一个或多个的状态。标示的使用仅为示例,而非意图限制。基于本公开,所述方面可以多种方式实施,以实现各方面的相关结果。
运动检测启用检查过程306确定运动估测标示的状态,即,启用运动检测。为进行血液运动估测,需要两个像素数据帧——一个时间t的帧和一个时间(t-1)的帧。对于第一帧而言,第二帧的数据是不可获得的,因此用于时间t的运动估测的数据不可获得。甚至当第二帧的数据可获得时,也不可征求运动估测,直到已知时间点以后,例如,在抽吸或灌洗血液区域后。因此,运动估测标示保持在第一状态——停用,直到抽吸完成,然后运动估测标示被设置为第二状态,例如,启用。
运动估测标示的状态可以两种方式应用。在第一方面,不运转血液流动估测器模块708(图7),直到运动估测标示具有第二状态。在第二方面,在系统初始化后启动血液流动估测器模块708(图7),例如,并且在后台中运转,使得在运动估测标示变成第二状态时,血液流动估测已准备好并且可用。在第二方面,运动估测标示用于控制发送至显示单元的信息,例如,包括运动估测数据或不包括运动估测数据。
当运动估测标示具有第一状态时,运动检测启用检查过程306转移至识别血液区域过程307。识别血液区域过程307,一方面,首先确定初始位点标示是否具有第一状态——“是(真,true)”。如果初始位点标示具有第一状态,其意味着采集的像素数据的帧是位点初始化事件——例如,出血检测单元初始化事件、抽吸事件、灌洗事件或用户限定的另一事件——后的第一帧。因此,一方面,当初始位点标示是“是”时,识别血液区域过程307将表征位点的信息保存在初始位点数据325中,然后将初始位点标示设置为第二状态,例如,“否(假,false)”。在识别血液区域过程307中可利用其他技术,以检测帧中的血液初始情况,例如,帧中不连接于任何其他血液位点的血液位点。
识别血液区域过程307利用初始位点数据325中的信息确定在手术景象中何处布置初始位点图标。识别血液区域过程307将初始位点图标与采集的像素数据组合,并通过任选的图像处理模块264将组合信息发送至显示单元251。方法307识别采集的像素数据的初始帧中的每个不同的血液位点。过程307包括发送至显示单元的每个后续数据帧中的初始位点图标,直到另一位点初始化事件发生。
一方面,初始位点图标是在立体显示单元251上显示的景象中指向血液区域的箭头。此外或可选地,初始位点图标可包括围绕初始血液区域绘制的边界,或可使每个初始区域假着色,使得外科医师可容易识别景象中最初检测到血液的位置。在一些方面,除视觉警告外,还通过过程307生成听觉警告。再次重申,这些实例仅为示例其中一些可能的通知手段和其中一些可能的位点图标。这些实例并不是意图限制,而是示例通知外科医师和/或出血检测操作涉及的其他人员的方式。
识别血液区域过程307也转移至更新区域过程309。一方面,更新区域过程309使指引时间t血液区域数据315的当前区域指示器转变为此前的区域指示器,使得时间t血液区域数据315变成时间(t-1)血液区域数据320。在更新区域过程309将时间t血液区域数据315保存为时间(t-1)血液区域数据320后;更新区域过程309返回血液监测过程301。
更新区域过程309用于将时间t血液区域数据315中的数据保存为时间(t-1)血液区域数据320中的数据的具体方法不是苛刻的。选择的方法通过例如可用的存储器、处理能力等来确定。
图4A是显示在立体显示单元251上的手术景象400A。景象400A包括两个远距操作的最小侵入性手术器械420、421。景象400A中存在出血,其由交叉线阴影区域450表示。在现有技术中,外科医师或助理不得不注意到交叉线阴影区域450,并将其识别为血液。但是,如果外科医师的注意力在于其中一个手术器械附近的区域,则外科医师可能耗费一些时间注意到出血,此时出血源可能被血液掩盖。
但是,利用出血检测单元135,在通过过程301、302、303、304、306和307处理景象400A的采集像素数据时,检测到血液。因此,过程307在景象400B中血液451的区域上叠加初始位点图标460B,例如,箭头460B(图4B)。而且,在此实例中,使血液451的区域假着色,例如,显示为绿色,以使血液451的初始区域相对于其余显示景象突出。在图4B中,利用点画(stippling)表示假着色。箭头460B和区域451的假着色将至少在外科医师的周围视觉中被检测到,因此出血将相对于景象400A快得多地被检测到。
返回方法300(图3A),更新区域过程309转移至血液监测过程301,以开始处理下一个采集像素数据帧。当过程301、302、303、304完成下一个采集像素数据帧的处理时,时间t血液区域数据315中可获得一个或多个血液区域。
如果运动估测标示仍具有第一状态,则运动检测启用检查过程306转移至识别血液区域过程307,其如上工作,因此更新血液区域,如图4C示例。出血已经产生一滩血液452,其掩盖了原始位点451(图4B)。因此,如果外科医师错过景象400B,血液滩452仅提供出血发生的信息。但是,初始位点图标460B被叠加在景象400C上,使得外科医师得到原本检测到出血的位点的指示。这有助于外科医师确定出血位点的位置。
为进一步协助外科医师定位出血位点,可以启用或可以已经启用运动估测,例如,将运动估测标示设置为第二状态。当运动估测标示具有第二状态时,运动检测启用检查过程306(图3)转移至血液流动估测过程308。
一方面,血液流动估测过程308实施被检血液区域而非全部景象的运动检测,因此节约时间并且使运动检测更加可靠。血液流动估测过程308生成在各血液区域中的模拟血液流动。但是,血液区域的运动检测仅为示例,而非意图限制。在一些方面,可采用全部景象的运动检测。
而且,一方面,血液流动估测过程308还包括利用(t-1)血液区域的信息确定第一位点图标位置的能力和访问初始位点325的信息的能力。血液流动估测过程308利用运动定位出血位点的位置。
一方面,利用时间t血液区域数据315中的位置信息和时间(t-1)血液区域数据320中的位置信息,估测每个位置的运动。这种估测给出时间(t-1)至时间t在位置(i,j)处的总体运动。总体运动包括任何组织运动——由于例如呼吸或抽吸。一方面,用于运动估测的实际区域略微大于由标记为指示血液的位置构成的区域。选择实际区域的尺寸,从而可使指示血液的位置的运动估测可靠——特别是沿边界。此外,略微在血液区域以外估测的运动可用于协助估测血液流动,如下文更充分描述。
为定位血液区域的出血位点,血液流动估测过程308的一方面利用区域中的运动的统计学。通过分组和平均化区域中全部位置的运动以生成区域的平均运动,估测区域运动。在每个位置,将区域的平均运动从在该位置处的运动中减去,以获得该位置处的相对血液运动。一方面,全部相对运动自出血来源辐射,即,来自定位的出血位点。在获得血液运动——即,区域中的模拟血液流动——后,血液流动估测过程308使处理转移至组合血液流动和景象过程310。
组合血液流动和景象过程310生成景象,该景象一方面包括与如下组合的采集像素数据:每个血液区域的指示标、血液流动的运动指示标——例如,指向流动方向的箭头和初始位点图标。一方面,运动指示标仅显示血液的相对流动。另一方面,用第一颜色和第一样式的指示标指示平均组织运动,和用第二颜色和第二样式的指示标指示血液的相对流动。将生成的景象发送至显示单元。此外,在一些方面中,每个血液区域的标记是任选的。
组合血液流动和景象过程310转移至更新区域过程309。更新区域过程309进行与上述相同的过程,以将时间t血液区域数据315保存作为时间(t-1)血液区域数据320。更新区域过程309返回血液监测过程301。
方法300的线性进程仅为示例,而非意图限制。所述方法可以不同顺序和/或平行进行,只要方法不在该方法所需的信息可得之前进行。
上文关于方法300描述的实例仅为示例,而非意图限制。在一些情况下,血液区域和血液运动区域均可被显示。例如,血液静态区域可以第一颜色显示,和血液运动区域可以第二不同颜色显示。可选地,任何血液区域可以假色显示,例如,绿色,然后箭头被叠加在血液运动区域中的假着色上。箭头表示该区域中的血液运动。在这种情况下,外科医师可切换开启和关闭显示器中的假着色、箭头、或两者。定位的出血位点可在显示器中通过闪烁点指示。一方面,检测到血液的初始位点通过每个血液区域中的初始位点图标指示。在此展示的实例仅为示例,而非意图限制于所述具体实施方式。
此外,方法300可用于多个不同的出血位点。当检测到多个出血位点时,分别如本文描述监测和跟踪每个位点。如果出血位点全部在预先确定的距离内,则可组合位点,并将其处理成一个位点。预先确定的距离通过例如方法300的位置分辨率来确定。
一方面,方法300以一定的帧顺序进行,使得观察者看见视频流。如果运动指示标在帧与帧之间改变,则运动指示标对于观察者而言呈现移动。
另一方面,方法300与交互式方法350组合应用(图3B)。在方法350中,人员观看手术室中显示单元上的显示。显示单元可以是外科医师控制台250中的立体显示单元251、助理的显示单元、或手术室中的一些其他显示单元。在其他手术行动可能正在进行时,出血警告在显示单元上生成。在图4B中,血液区域警告是初始位点图标460B。当手术室中有人检测到初始位点图标460B时,出血指示标检查过程351完成,行动在抽吸过程352中继续。
出血指示标检查过程351不应被理解为请求恒定轮询(constant polling)。检查过程351意为不关于定位未知出血源而采取行动,直到警告出血的事件发生。
在抽吸过程352中,通过手术室中的人员——例如,外科医师或外科医师助理——操纵手术器械,抽吸相应于显示景象中血液区域451的物理区域。景象400D(图4D)在抽吸过程352完成时展示在显示单元上。注意,观看显示的人员——观察者——观看到立体视频序列,并且景象400D显示,在某一点,可以抽走足够的血液,而方法300未检测到血液。
当方法300在景象中未检测到血液时,区域检查过程305将初始位点标示设置为“是”。可选地或此外,最小侵入性手术系统100中的系统可检测到抽吸和/或灌洗,并且将初始位点标示设置为“是”。而且,最小侵入性手术系统100的使用者可通过手术系统100的用户界面将初始位点标示设置为具体状态。
抽吸过程352服务于两个目的。过程352带走血液,使得外科医师可看到手术位点。过程352还可带走已经蓄积在表面上的血液,使得血滩下方出血位点暴露,并且可容易定位血液来源。这允许随着血量增加观看血液。
接着,在观察血液流动过程353中,手术室中的一个或多个人员观察通过方法300生成的显示单元上的景象。显示的景象包括与真实血液运动的运动指示标和至少一个初始位点图标组合的手术位点采集景象。景象400E(图4E)是带有运动指示标453和初始位点图标460E的景象的实例。一方面,在显示运动指示标453时,初始位点图标460E被关闭。在此实例中,运动指示标453呈现为自血液区域中心附近位置辐射,该血液区域中心也由初始位点图标460E指向。通过观察景象400E,观察者确定定位的出血位点的位置。
如果观察者利用景象中展示的信息识别了出血位点的位置,在手术室中的行动转移至修复过程355,否则返回抽吸过程352。在修复过程355中,观察者或另一人员操纵另一手术器械来修复出血位点,从而减少出血。
在修复过程355完成后,观察显示,以确定修复是否成功。在景象400F(图4F)中,一个出血位点的修复成功,但景象400F显示存在第二血液区域,其被来自已修复位点的血液遮蔽。因此,在方法350中,行动可返回抽吸过程352或返回修复过程355,这取决于景象400F是否提供足够的信息以确定出血位置。在此实例中,景象400F中血液区域突出,例如,假着色,并且包括运动指示标454和初始位点图标460F。注意,出血检测模块136贯穿方法350始终持续运行,因此可检测另外的血液和/或血液运动。方法350中的过程反复,直到修复成功,从而手术程序可继续。这由方法350中的成功检查过程357表示。
交互式方法350也用于检测到多个出血位点时。在此情况下,当抽吸过程352在一个位点上进行时,其他远离的位点不被再初始化,因为抽吸过程352不影响这些位点。
在机器人手术系统中,手术器械的位置是已知的。抽吸的出血位点位置也是已知的。利用这个距离信息和其他出血位点的位置,该方法可确定哪些位点(如有)在抽吸器械范围之外,并且这些位点不被再初始化。
一方面,图4A至4F展示的景象是三维景象。因此,方法300允许外科医师在三个维度中跟踪出血。图标在三维实时视频中位于三维景象上,以协助外科医师识别血液的存在和确定一个或多个定位的出血位点。为生成带有正确立体图标的立体视图,利用美国专利公开号US 2010/0166323 Al(公开了“Robust Sparse Image Matching for RoboticSurgery”)中描述的处理,排除假检测情况——其中用于立体成像的两视图仅其中一个检测到出血位点。
虽然出血检测过程本身不需要手术器械的位置或器具跟踪能力,但手术器械的位置和器具跟踪能力由机器人手术系统提供,并且可用于增强出血检测过程。例如,在外科医师利用机器人手术系统提供的关于内窥镜的运动和位置的信息移动内窥镜时,初始位点图标可被适当地定位在景象中。
在一方面,过程301至304被包括在区域分割过程501中(图5)。在这方面,血液监测过程301(图3A)包括获得位置数据过程510和生成血液度量过程511。
关于位置(i,j),获得位置数据过程510获取第一颜色组分的像素的第一分区,有时被称为窗;和第二颜色组分的像素的第二分区。第一和第二颜色组分是不同的颜色组分,例如,第一颜色组分是红色组分,第二颜色组分是绿色组分。
第一分区和第二分区包括位置(i,j)。例如,每个像素分区是5像素×5像素分区,其中位置(i,j)处于分区中心。在此,i的范围为0至水平方向位数-1,而j的范围为0至垂直方向位数-1。
获得位置数据过程510不一定实际上移动任何数据。过程510向针对两组分别包括位置(i,j)的像素的生成血液度量过程511提供信息。每组像素用于不同的颜色组分。在上述实例中,每组像素被称为一个像素分区。
生成血液度量过程511处理第一分区的像素,以生成位置(i,j)处的第一颜色组分的像素的滤波值R。生成血液度量过程511处理第二分区的像素,以生成位置(i,j)处的第二颜色组分的像素的滤波值G。一方面,利用5×5高斯滤波器(Gaussian filter)生成滤波值R和生成滤波值G。
在这方面,为生成血液度量BM(i,j),生成血液度量过程511生成比例(R/G)。另一方面,为生成血液度量BM(i,j),生成血液度量过程511生成比例((R+0.5)/(G+0.5))。一方面,滤波值R和滤波值G的范围为0至255。在任一方面,血液度量BM(i,j)被设置为等于该比例的值。总体而言,生成血液度量过程511生成这样的比例:其中比例中的第一数量包括利用位置(i,j)处的第一颜色组分像素值确定的值,并且其中比例中的第二数量包括利用位置(i,j)处的第二颜色组分值确定的值。
已根据经验确定,当血液度量BM(i,j)具有大于血液指示阈值的值时,血液存在于位置(i,j)处的概率很高。相反,当血液度量BM(i,j)具有小于血液指示阈值的值时,位置(i,j)处无血液。因此,在这方面,血液检查过程302将血液度量BM(i,j)与血液指示阈值进行比较,以确定血液度量BM(i,j)是否指示位置(i,j)处的血液。保守而言,选择最小化错过血液检测机会的血液指示阈值。
一方面,关于手术景象和包括红色颜色组分和绿色颜色组分的颜色模型,生成血液度量过程511生成比例(R/G)作为血液度量BM(i,j)。关于此方面,采用血液指示阈值3。而且,在这方面,红色颜色组分和绿色颜色组分的数值范围为0至255。
区域分割过程501中的其他过程与关于图3A中相同参考编号的过程所描述的相同。因此,那些过程的描述不再重复。
图6是血液流动估测过程308的一方面的更详细的方法流程图。获得区域数据过程601访问时间t和(t-1)的血液区域的像素数据,并将处理转移至估测运动过程602。
一方面,估测运动过程602实施光流动模型,其利用分级运动估测生成时间(t-1)至时间t的区域运动。运动估测框架包括(i)金字塔构造,(ii)运动估测,(iii)图像扭曲,和(iv)粗到细精制。帧与帧颜色一致并且帧与帧亮度一致的景象的光流动模型运作最佳。
光流动模型对于估测区域运动的应用是已知的,因此不被进一步详细考虑。参见例如,J.R.Bergen,P.Anandan,K.J.Hanna,and R.Hingorani,“Hierarchical Model-BasedMotion Estimation,”European Conference on Computer Vision,pages 237-252,(1992),其被引入本文作为参考。一方面,估测运动过程602提供区域中每个位置(i,j)的时间t的运动——通过利用窗,例如,以该位置为中心5位置×5位置的窗。
估测运动过程602提供的运动是包括任何组织运动和任何血液运动的区域的总体运动。校正运动过程603接收来自过程602的总体运动,并去除组织运动,获得血液运动。如上所述,一方面,利用统计学评价去除组织运动。位置(i,j)处的运动被定义为:
M(i,j)=M组织(i,j)+M血液(i,j)
其中
M(i,j)是来自过程602的位置(i,j)处的总体运动,
M组织(i,j)是位置(i,j)处的组织运动,和
M血液(i,j)是位置(i,j)处的血液运动。
位置(i,j)处的组织运动M组织(i,j)被估测为区域平均运动。类似地,血液流动Μ血液(i,j)被估测为区域平均运动。
其中n是区域中的位置数。
但是,假定以辐射出血源为中心,所有方向的血液运动相同,因此血液的平均运动为0。在这种假定下,位置(i,j)处的平均运动正是组织的平均运动。因此,位置(i,j)处的血液运动为:
M血液(i,j)=M(i,j)-M平均
虽然这种校正方法不包括重力效应并且假定各向同性血液流动,但该方法提供的详细内容足以协助外科医师定位出血位点。不需要完全的准确来协助外科医师确认出血位点和定位出血源。
总体上,如果目的不是简单定位出血位点,则运动校正过程可假定可由血液区域外侧接壤区确定平均化的组织运动。在这种假定下,可通过从总体运动减去平均组织运动来获得血液流动。
图7是出血检测模块136的一方面的更详细示图。出血检测模块136包括区域分割模块760,其进而包括血液监测模块701、血液检查模块702、保存位置数据模块703和最终位置检查模块704。
血液监测模块701包括获得位置数据模块771和生成血液度量模块772。血液监测模块701进行血液监测过程301(图3A)。获得位置数据模块771(图7)进行获得位置数据过程510(图5),而生成血液度量模块772进行生成血液度量过程511。血液检查模块702、保存位置数据模块703、和最终位置检查模块704分别进行血液检查过程302、保存位置数据过程303、和最终位置检查过程304。
出血检测模块136还包括区域检测模块705、运动检测启用模块706、血液区域识别模块707、和更新区域模块709。区域检测模块705进行区域检查过程305。运动检测启用模块706和血液区域识别模块707分别进行运动检测启用检查过程306和识别血液区域过程307。更新区域模块709进行更新区域过程309。
出血检测模块136还包括血液流动估测器模块708和组合血液流动和景象模块710。血液流动估测器模块708进行血液流动估测过程308。组合血液流动和景象模块710进行组合血液流动和景象过程310。
血液流动估测器模块708包括获得区域数据模块761、估测运动模块762、和校正运动模块763。获得区域数据模块761、估测运动模块762、和校正运动模块763分别进行获得区域数据过程601、估测运动过程602、和校正运动过程603。
如上所述,图7的模块中的每一个可通过在处理器、固件、硬件、或三者任何组合上运行的计算机程序指令来实施。当应用计算机程序指令时,指令被存储在存储器上,并且在处理器上运行。因此,当描述模块实施行动并且模块包括计算机指令时,本领域技术人员理解这意为在处理器上运行计算机指令。
图7所示模块仅为示例,而非意图限制于示例的具体模块组。例如,如果利用计算机指令实施模块,则全部模块可以是一个计算机程序的部分,并且该程序中一个或多个指令的运行实现模块的功能。
在上述方面,利用出血检测单元135确定手术位点的景象中是否存在一个或多个血液区域和确定一个或多个区域中每一个中的血液相对运动。这种自动检测为外科医师提供了新的能力——通过允许外科医师对任何血液新来源做出迅速响应。
但是,手术期间始终存在血液,并且在一些方面,出血检测单元135的操作基于一个或多个因素,如最小侵入性手术系统中不同组件的状态、外科医师的视野、和也许外科医师的偏好。这使得出血检测单元135提供的信息更加相关——通过不给外科医师过载无用信息。例如,当外科医师专注于待切割区域和开始切割时,该区域的出血警告对于外科医师不是特别有用。外科医师正在专注于该区域并且预料到出血。但是,被专注区域之外——即,中心凹或视野中央之外——的区域的出血检测将对于外科医师有用。
一方面,出血检测单元135检测到血液的区域的展示是可控的,进行血液流动估测的区域的展示也是。例如,指定手术景象其中不需要血液检测的领域。如果血液区域落入该领域,则显示的景象不识别该血液区域。相反,如果血液区域在该领域以外,则显示的景象中识别该血液区域。这种领域可基于用户输入来确定,或基于来自手术系统的输入自动确定,或两者组合。
一方面,使用者激活用户界面262中的出血检测模式选择输入界面253。作为响应,控制出血检测过程的选项被展示给使用者。例如,如图8A所示,栅格800叠加在手术位点的显示景象上,并且使用者选择需要出血检测的领域。这允许使用者指定出血检测被特别关注的领域以及出血检测不被关注的领域。注意,栅格800对于指定不同领域的应用仅为示例,而非意图限制。
而且,可通过默认开启全部景象的出血检测,并且外科医师可利用出血检测模式选择输入界面253来指示手术期间任何时间完全或部分关闭出血检测的领域。部分关闭出血检测意为,例如,关闭血液流动估测308,但血液的检测和指示继续照常工作。而且,血液流动估测308可在后台中继续运行,但在部分关闭出血检测时不采用血液流动估测308的输出。
另一方面,手术系统100自动确定手术景象中不监测血液的一个或多个领域。例如,当内窥镜112仅移动保持焦点所需量并且使用的一个或多个手术器械已知会造成出血时,通过手术系统100将出血检测限制于外科医师中心凹以外的领域,例如,图8B中的圆803所示中央视野以外的领域。当然,可利用用户输入和系统输入的组合来指定血液检测和/或血液流动估测的领域。
图9是方法900的方法流程图,其允许对出血检测模块135进行控制。在图9的方面,通过出血检测启用模块911控制区域分割模块760A和血液流动估测器模块708A的操作。出血检测启用信号被提供给模块911。
一方面,通过经由用户界面262来自出血检测模式选择253的输入,确定出血检测启用信号的状态。可选地,通过来自手术系统的控制系统一个或多个输入,确定出血检测启用信号的状态。当出血检测启用信号具有第一状态时,出血检测启用检查过程901不将启用信号送至区域分割模块760A和血液流动估测器模块708A。但是,当出血检测启用信号具有第二状态时,出血检测启用检查过程901启动分割模块760A和血液流动估测器模块708A。因此,在这方面,启用分割模块760A和血液流动估测器模块708A始终运行。
在图9中,模块760A、705A、707A、708A、709A和710A分别等同于模块760、705、707、708、709和710,因此通过这些模块进行的过程等同于上述那些。因此,过程在此不再重复。
在这方面,运动检测启用模块706被能够进行显示中识别血液的区域和显示血液流动估测的区域两者的控制的模块706A替代。当处理转移至模块706A时,手术位点的采集景象中已检测到至少一个血液区域。模块706A首先确定是否针对每个已检测到血液的区域启用血液检测。
具体地,关于区域分割模块760A发现的每个血液区域,区域检测启用检查过程903确定从血液检测区域选择模块902接收的输入是否允许该区域的血液检测。在这方面,血液检测区域选择模块902接收用户输入920和系统输入921。
如上所述,用户输入920指定景象中需要血液检测的领域和不需要血液检测的其他领域。系统输入921是来自手术系统中的系统的信号,其识别手术系统状态——例如,内窥镜112速度、当前由外科医师控制的一个或多个手术器械、和表征每个受控手术器械的运动的数据。血液检测区域选择模块902分析输入信息,并发送一个或多个信号至区域检测启用检查过程903,以指示采集的手术景象中需要血液检测的领域(一个或多个)。
例如,如果用户输入指示一个领域中不需要血液检测,但内窥镜112上的数据指示内窥镜112正在移动使得摄像机无法聚焦,则模块902启动整个景象的血液检测直到摄像机聚焦,然后恢复到用户选择。由于程序处于过渡期——如内窥镜112的移动指示,启用血液检测,从而在尽可能最早的时间检测到任何血液。相反,如果内窥镜112非快速移动并且正在使用导致出血的手术器械,关闭由用户输入指示的领域的血液检测。此外,系统输入921可关闭外科医师的中心凹中的领域的血液检测。因此,基于输入920、921,模块902提供信息至识别不启用血液检测的一个或多个具体领域的检查过程903。相反,模块902可提供信息至识别启用血液检测的领域的检查过程903。
因此,关于来自区域分割模块760A的每个血液区域,区域检测启用检查过程903比较该区域与通过模块902指定的不启用血液检测的领域。关于每个血液区域,检查过程903指示该区域是否启用血液检测。如果血液区域中的任一个不启用血液检测,则检查过程903返回区域分割模块760A。如果一个或多个血液区域启用血液检测,则检查过程903将那些区域递送至区域运动检测启用检查过程904。当描述递送区域时,其不应被理解为物理递送该区域。而是,提供指示该区域是否启用血液检测的一个或多个指示标,例如,将该区域的血液检测启用位设置为“是”。
类似于上文描述,运动估测标示的状态确定通过区域运动检测启用检查过程904确定的行动。在这方面,血液流动区域选择模块905确定每个启用血液检测的区域的运动估测标示的状态。在这方面,血液流动区域选择模块905接收用户输入923和系统输入922。
例如,使用者可通过出血检测模块选择输入界面253指示一些领域需要血液检测,但不需要血液流动估测。系统输入922提供的状态信息可指示手术程序刚开始,因此不考虑用户输入,血液流动区域选择模块905关闭所有区域的血液流动估测。当可造成出血的手术器械被首次激活时,模块905可开启血液流动估测,使得任何出血可尽可能快地被检测到。
关于来自区域分割模块760A的每个启用出血检测的血液区域,区域运动检测启用检查过程904利用该区域的运动估测标示的状态确定是否将该区域递送至识别血液区域模块707A或递送该区域以组合血液流动和景象模块710A。因此,可估测一些血液区域的血液流动,而不估测同一采集景象中的其他血液区域。在这种情况下,协调模块707A和710A的操作,生成显示的景象。
关于图9应用的实例仅为示例,而非意图限制。在此实例中,分割和血液流动估测被启用,然后被允许持续运行,显示单元的输出被控制。可选地,分割和血液流动估测可在起动(start-up)时开始,并且仅在其需要具有出血检测能力的时候提供采集的像素数据。类似地,出血检测和血液区域分割和血液流动估测过程的控制可基于外科医师的偏好、进行的手术程序、或两者组合来配置。一方面,分割和血液流动估测在后台持续运行,即使其通过用户界面已被关闭,因此在通过用户界面开启分割和/或血液流动估测时,即时信息是可获得的。
如本文所用,“第一”、“第二”和“第三”是形容词,用于在不同的组件之间进行区分。因此,“第一”、“第二”和“第三”并非意图暗示任何组件顺序。
示例本发明的方面和实施方式的上文描述和附图不应用作为限制——权利要求限定被保护的发明。可进行不同的机械、组成、结构、电力和操作改动,而不脱离说明书和权利要求书的精神和范围。在一些情况下,公知的回路、结构和技术未被详细示出或描述,以避免模糊化本发明。
进一步,说明书中的术语并非意图限制本发明。例如,空间相对术语——如“下方”、“之下”、“下部”、“上方”、“上部”、“近端”、“远端”及类似术语——可用于描述如图中示例的一个元件或特征与另一元件或特征的关系。这些空间相对术语意图包括除图中所示位置和定向之外使用或操作中的装置的不同位置(即,部位)和定向(即,旋转布置)。例如,如果图中的装置翻转,描述为在其他元件或特征“之下”或“下方”的元件则将在其他元件或特征“之上”或“上方”。因此,示例性术语“之下”可包括之上和之下的位置和定向。装置可以其他方式定向(旋转90度或处于其他定向),并且本文使用的空间相对描述语被相应理解。同样,沿和绕不同轴线移动的描述包括不同的特殊装置位置和定向。
单数形式“a(一)”、“an(一)”和“the(所述)”意图也包括复数形式,除非上下文另外指明。术语“包括”(“comprises”、“comprising”、“includes”)和类似术语详细指出所述特征、步骤、操作、元件和/或组件的存在,但不排除存在或增加一个或多个其他特征、步骤、操作、元件、组件和/或群组。描述为偶联的组件可电力或机械直接偶联,或其可通过一个或多个中间组件间接偶联。
存储器意指;易失性存储器、非易失性存储器、或两者任意组合。处理器偶联于包含由处理器运行的指令的存储器。这可在计算机系统内实现,或可选地通过经由调制解调器和模拟线路或数字接口和数字载波线连接至另一计算机而实现。
在此,计算机程序产品包括非临时性介质,其被配置以存储关于出血检测系统描述的操作的任何一个或任何组合所需的计算机可读代码,或其中存储关于出血检测系统描述的操作的任何一个或任何组合的计算机可读代码。计算机程序产品的一些实例是CD-ROM盘、DVD盘、快闪存储器、ROM卡、软盘、磁带、计算机硬盘驱动器、网络服务器和在网络上传输的表示计算机可读程序代码的信号。非临时性有形计算机程序产品包括非临时性有形介质,其被配置以存储关于出血检测系统描述的操作的任何一个或任何组合的计算机可读指令,或其中存储关于出血检测系统描述的操作的任何一个或任何组合的计算机可读指令。非临时性有形计算机程序产品是CD-ROM盘、DVD盘、快闪存储器、ROM卡、软盘、磁带、计算机硬盘驱动器和其他非临时性物理存储介质。
基于本公开,用于关于出血检测系统描述的操作的任何一个或任何组合的指令可在多种利用用户感兴趣的操作系统和计算机编程语言的计算机系统配置中实施。
所有实例和示例性参考是非限制的,并且不应用于将权利要求限制于本文描述的具体实施和实施方式及其等同形式。标题仅仅出于格式,不应被用于以任何方式限制主题,因为一个标题下的内容可交叉参考或适用于一个或多个标题下的内容。最后,基于本公开,关于一方面或实施方式描述的具体特征可适用于本发明的其他公开方面或实施方式,尽管没有在附图中具体显示或在正文中具体描述。
Claims (10)
1.用于手术位点景象的血液检测的系统,包括:
出血检测单元,所述出血检测单元被配置以连接在图像拍摄系统和显示单元之间,
所述出血检测单元被配置以接收来自所述图像拍摄系统的手术位点景象的数据帧,所述数据帧包括多个位置,并且所述多个位置中的每个位置包括多个颜色组分的像素,所述出血检测单元包括:
区域分割模块,其被配置以:
接收所述数据帧;
检测每个位置的多个颜色组分的像素是否包括该位置处的血液指示信息;和
基于检测为包括血液指示信息的位置,确定所述景象中的血液区域;
血液区域识别模块,偶联于所述区域分割模块,并且被配置以:
在所述景象中的血液区域是所述景象中的初始血液区域时生成初始位点图标,以指示所述景象中的初始血液区域;和
组合所述初始位点图标与所述景象,以生成包括组合景象的数据;和所述出血检测单元被配置以向所述显示单元输出所述包括组合景象的数据。
2.权利要求1所述的系统,其中所述出血检测单元进一步包括:
血液流动估测器模块,其中所述血液流动估测器模块模拟所述景象中的血液区域中的血液流动。
3.权利要求2所述的系统,其中所述血液流动估测器模块包括:
估测运动模块,其中所述估测运动模块估测所述景象中的血液区域中每个位置的总体运动。
4.权利要求3所述的系统,其中所述血液流动估测器模块包括:
校正运动模块,其偶联于所述估测运动模块,其中所述校正运动模块校正每个位置的所述总体运动,以估测该位置处的血液运动。
5.权利要求1所述的系统,其中所述初始位点图标包括箭头。
6.权利要求1所述的系统,所述血液区域识别模块进一步被配置以利用血液标记识别所述景象中的血液区域,其中所述血液标记不同于所述初始位点图标。
7.权利要求1所述的系统,其中被配置以检测每个位置的多个颜色组分的像素是否包括该位置处的血液指示信息的所述区域分割模块进一步包括:
生成血液度量模块,所述生成血液度量模块被配置以生成比例,其中所述比例中的第一数量包括利用某个位置的第一颜色组分像素值确定的值,并且其中所述比例中的第二数量包括利用所述位置的第二颜色组分像素值确定的值;和
血液检查模块,所述血液检查模块被如下配置:如果所述比例与血液指示阈值具有预先确定的关系,则将所述位置识别为包括血液指示信息。
8.权利要求7所述的系统,其中所述预先确定的关系是所述比例大于所述血液指示阈值。
9.权利要求3所述的系统,所述估测运动模块被配置以基于利用所述手术位点的景象的多个数据帧的光流分析,估测所述景象中的血液区域中每个位置的总体运动。
10.权利要求4所述的系统,所述校正运动模块被配置以校正该位置的估测总体运动以补偿在该位置处的平均组织运动。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201261675484P | 2012-07-25 | 2012-07-25 | |
US61/675,484 | 2012-07-25 | ||
CN201380039530.0A CN104487014B (zh) | 2012-07-25 | 2013-07-22 | 手术系统中有效的交互式出血检测 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201380039530.0A Division CN104487014B (zh) | 2012-07-25 | 2013-07-22 | 手术系统中有效的交互式出血检测 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107485455A true CN107485455A (zh) | 2017-12-19 |
CN107485455B CN107485455B (zh) | 2020-04-03 |
Family
ID=49995514
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201380039530.0A Active CN104487014B (zh) | 2012-07-25 | 2013-07-22 | 手术系统中有效的交互式出血检测 |
CN201710872989.9A Active CN107485455B (zh) | 2012-07-25 | 2013-07-22 | 手术系统中有效的交互式出血检测 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201380039530.0A Active CN104487014B (zh) | 2012-07-25 | 2013-07-22 | 手术系统中有效的交互式出血检测 |
Country Status (6)
Country | Link |
---|---|
US (3) | US9877633B2 (zh) |
EP (3) | EP3603510B1 (zh) |
JP (4) | JP6307073B2 (zh) |
KR (2) | KR102163327B1 (zh) |
CN (2) | CN104487014B (zh) |
WO (1) | WO2014018448A1 (zh) |
Families Citing this family (42)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11771596B2 (en) | 2010-05-10 | 2023-10-03 | Ramot At Tel-Aviv University Ltd. | System and method for treating an eye |
CN103025282B (zh) | 2010-05-10 | 2015-03-11 | 特拉维夫大学拉玛特有限公司 | 通过将电磁能量引导到眼睛的角膜缘区域来治疗青光眼的系统 |
EP3603510B1 (en) | 2012-07-25 | 2023-03-08 | Intuitive Surgical Operations, Inc. | Efficient and interactive bleeding detection in a surgical system |
US9833165B2 (en) * | 2014-04-29 | 2017-12-05 | Biosense Webster (Israel) Ltd. | Checking for perforation of the epicardium using magnetic resonance imaging |
JP6323184B2 (ja) * | 2014-06-04 | 2018-05-16 | ソニー株式会社 | 画像処理装置、画像処理方法、並びにプログラム |
US9633276B2 (en) * | 2014-07-14 | 2017-04-25 | Sony Corporation | Blood detection system with real-time capability and method of operation thereof |
US20160259888A1 (en) * | 2015-03-02 | 2016-09-08 | Sony Corporation | Method and system for content management of video images of anatomical regions |
US10729307B2 (en) * | 2015-06-05 | 2020-08-04 | Sony Corporation | Image processing device, image processing method, and surgical system |
EP3130276B8 (en) * | 2015-08-12 | 2020-02-26 | TransEnterix Europe Sàrl | Endoscope with wide angle lens and adjustable view |
CN107920863B (zh) * | 2015-08-13 | 2021-12-31 | 西门子医疗有限公司 | 用于控制包括成像模态的系统的设备和方法 |
DE102016100566B4 (de) | 2016-01-14 | 2024-05-23 | Carl Zeiss Meditec Ag | Assistenzsystem für ein medizinisch optisches Beobachtungsgerät und Verfahren zum Verbessern der Sichtbarkeit einer Blutaustrittsstelle in einem mit einem medizinisch optischen Beobachtungsgerät gewonnenen Bild und medizinisch optisches Beobachtungsgerätesystem |
DE102016101468A1 (de) | 2016-01-27 | 2017-07-27 | Wobben Properties Gmbh | Verfahren zum Einspeisen elektrischer Leistung in ein elektrisches Versorgungsnetz |
CN105865564A (zh) * | 2016-03-25 | 2016-08-17 | 李文献 | 出血计量装置及出血计量方法 |
US10447906B2 (en) | 2016-05-02 | 2019-10-15 | Visionsense Ltd. | Dual path endoscope |
CN109195502B (zh) * | 2016-05-19 | 2021-03-09 | 奥林巴斯株式会社 | 活体观察系统 |
TWI616180B (zh) * | 2016-06-29 | 2018-03-01 | 國立成功大學 | 上消化道出血偵測裝置及方法 |
JP7067488B2 (ja) * | 2017-01-11 | 2022-05-16 | ソニーグループ株式会社 | 情報処理装置、情報処理方法、及び、プログラム |
US11642106B2 (en) * | 2017-08-14 | 2023-05-09 | Stryker Corporation | Internal bleeding detection, assessment and monitoring devices, systems and methods |
US10772508B2 (en) * | 2017-11-22 | 2020-09-15 | MediVisionTech Co., Ltd. | Method for determining upper gastrointestinal bleeding course |
US10772509B2 (en) * | 2017-11-22 | 2020-09-15 | MediVisionTech Co., Ltd. | Method for determining emptying of upper gastrointestinal tract |
WO2019181432A1 (ja) * | 2018-03-20 | 2019-09-26 | ソニー株式会社 | 手術支援システム、情報処理装置、及びプログラム |
JP2021112220A (ja) * | 2018-04-17 | 2021-08-05 | ソニーグループ株式会社 | 画像処理システム、画像処理装置、画像処理方法及びプログラム |
US11026585B2 (en) * | 2018-06-05 | 2021-06-08 | Synaptive Medical Inc. | System and method for intraoperative video processing |
JP7454243B2 (ja) | 2018-07-02 | 2024-03-22 | ベルキン ヴィジョン リミテッド | 直接的選択的レーザ線維柱帯形成術のためのシステム |
EP3851026A4 (en) * | 2018-09-12 | 2021-11-10 | FUJIFILM Corporation | ENDOSCOPE DEVICE, ENDOSCOPE PROCESSOR, AND ENDOSCOPE DEVICE OPERATING PROCEDURE |
GB2612246B (en) * | 2018-10-03 | 2023-08-30 | Cmr Surgical Ltd | Automatic endoscope video augmentation |
CN113164013B (zh) * | 2018-12-05 | 2024-06-21 | 直观外科手术操作公司 | 图像引导外科手术中的近红外信息与彩色图像的组合 |
US11426255B2 (en) | 2019-02-21 | 2022-08-30 | Theator inc. | Complexity analysis and cataloging of surgical footage |
JP7200353B2 (ja) * | 2019-02-25 | 2023-01-06 | オリンパス株式会社 | 集中制御装置、設定方法および集中制御システム |
US11625834B2 (en) * | 2019-11-08 | 2023-04-11 | Sony Group Corporation | Surgical scene assessment based on computer vision |
CN111012525B (zh) * | 2020-01-20 | 2020-10-27 | 北京华腾创新科技有限公司 | 一种神经外科蛇形持镜臂 |
WO2021152785A1 (ja) * | 2020-01-30 | 2021-08-05 | 株式会社インキュビット | 動画再生システム |
WO2021166208A1 (ja) * | 2020-02-21 | 2021-08-26 | オリンパス株式会社 | 画像処理システム、内視鏡システム及び画像処理方法 |
KR102386673B1 (ko) * | 2020-05-07 | 2022-04-18 | 고려대학교 산학협력단 | 오브젝트 검출 방법 및 장치 |
KR102378497B1 (ko) * | 2020-05-08 | 2022-03-30 | 고려대학교 산학협력단 | 오브젝트 크기 측정 방법 및 장치 |
EP4216793A1 (en) * | 2020-09-23 | 2023-08-02 | Wayne State University | Detecting, localizing, assessing, and visualizing bleeding in a surgical field |
KR102566890B1 (ko) * | 2020-12-11 | 2023-08-11 | 가천대학교 산학협력단 | 수술 부위 모니터링 방법 및 이를 이용한 디바이스 |
WO2022191129A1 (ja) | 2021-03-09 | 2022-09-15 | 富士フイルム株式会社 | 内視鏡システム及びその作動方法 |
JPWO2022190740A1 (zh) | 2021-03-09 | 2022-09-15 | ||
EP4306031A1 (en) | 2021-03-09 | 2024-01-17 | FUJIFILM Corporation | Endoscope system and method for operating same |
KR20230039932A (ko) | 2021-09-15 | 2023-03-22 | 안명천 | 출혈 감지 시스템 및 방법 |
WO2024004013A1 (ja) * | 2022-06-28 | 2024-01-04 | 国立研究開発法人国立がん研究センター | プログラム、情報処理方法、及び情報処理装置 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020177779A1 (en) * | 2001-03-14 | 2002-11-28 | Doron Adler | Method and system for detecting colorimetric abnormalities in vivo |
US20030018244A1 (en) * | 1999-04-23 | 2003-01-23 | The Regents Of The University Of California | Microwave hemorrhagic stroke detector |
WO2006055498A2 (en) * | 2004-11-15 | 2006-05-26 | Uab Research Foundation | Methods and systems of analyzing clinical parameters and methods of producing visual images |
US20070292011A1 (en) * | 2005-04-13 | 2007-12-20 | Hirokazu Nishimura | Image Processing Apparatus and Image Processing Method |
CN101238987A (zh) * | 2007-09-06 | 2008-08-13 | 深圳先进技术研究院 | 一种关于ct脑出血图像的处理方法 |
US20090196476A1 (en) * | 2006-08-08 | 2009-08-06 | Olympus Medical Systems Corp. | Medical image processing device and medical image processing method |
JP2011036372A (ja) * | 2009-08-10 | 2011-02-24 | Tohoku Otas Kk | 医療画像記録装置 |
US20120062717A1 (en) * | 2010-05-10 | 2012-03-15 | Olympus Medical Systems Corp. | Medical apparatus |
CN102843957A (zh) * | 2009-08-24 | 2012-12-26 | 新加坡保健服务集团有限公司 | 一种用于检测视盘出血的方法及系统 |
Family Cites Families (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4582067A (en) | 1983-02-14 | 1986-04-15 | Washington Research Foundation | Method for endoscopic blood flow detection by the use of ultrasonic energy |
US5170792A (en) * | 1989-11-27 | 1992-12-15 | Acoustic Imaging Technologies Corporation | Adaptive tissue velocity compensation for ultrasonic Doppler imaging |
US6331181B1 (en) | 1998-12-08 | 2001-12-18 | Intuitive Surgical, Inc. | Surgical robotic tools, data architecture, and use |
US6659939B2 (en) | 1998-11-20 | 2003-12-09 | Intuitive Surgical, Inc. | Cooperative minimally invasive telesurgical system |
US8620410B2 (en) * | 2002-03-12 | 2013-12-31 | Beth Israel Deaconess Medical Center | Multi-channel medical imaging system |
EP1506471A2 (en) * | 2002-05-17 | 2005-02-16 | Sarnoff Corporation | Method and apparatus for determining optical flow |
WO2005037060A2 (en) * | 2003-10-03 | 2005-04-28 | University Of Washington | Transcutaneous localization of arterial bleeding by ultrasonic imaging |
US7545969B2 (en) | 2004-12-16 | 2009-06-09 | Alliant Techsystems Inc. | Method and system for wide-area ultraviolet detection of forensic evidence |
JP4767591B2 (ja) | 2005-06-01 | 2011-09-07 | オリンパスメディカルシステムズ株式会社 | 内視鏡診断支援方法、内視鏡診断支援装置および内視鏡診断支援プログラム |
JP4895750B2 (ja) * | 2006-10-03 | 2012-03-14 | Hoya株式会社 | 内視鏡プロセッサ、自家蛍光画像表示プログラム、及び内視鏡システム |
JP5121204B2 (ja) | 2006-10-11 | 2013-01-16 | オリンパス株式会社 | 画像処理装置、画像処理方法、および画像処理プログラム |
WO2008069062A1 (ja) * | 2006-12-01 | 2008-06-12 | Kyushu Tlo Company, Limited | 血流速度画像化装置 |
US7920731B2 (en) * | 2007-03-27 | 2011-04-05 | Siemens Medical Solutions Usa, Inc. | Bleeding detection using a blanket ultrasound device |
JP5683946B2 (ja) * | 2007-04-10 | 2015-03-11 | ユニヴァーシティー オブ サザン カリフォルニア | ドップラー光コヒーレンス・トモグラフィを用いた血流測定のための方法とシステム |
EP2157790A4 (en) * | 2007-06-21 | 2012-06-20 | Olympus Corp | PICTURE DISPLAY AND PICTURE DISPLAY PROGRAM |
JP5276814B2 (ja) | 2007-08-28 | 2013-08-28 | オリンパス株式会社 | カプセル型医療装置 |
US8184880B2 (en) | 2008-12-31 | 2012-05-22 | Intuitive Surgical Operations, Inc. | Robust sparse image matching for robotic surgery |
US8831304B2 (en) | 2009-05-29 | 2014-09-09 | University of Pittsburgh—of the Commonwealth System of Higher Education | Blood vessel segmentation with three-dimensional spectral domain optical coherence tomography |
JP2011024628A (ja) * | 2009-07-21 | 2011-02-10 | Olympus Corp | 画像処理装置、画像処理プログラムおよび画像処理方法 |
JP2011036371A (ja) * | 2009-08-10 | 2011-02-24 | Tohoku Otas Kk | 医療画像記録装置 |
US9066658B2 (en) * | 2010-03-23 | 2015-06-30 | Stryker Corporation | Method and system for video based image detection/identification analysis for fluid and visualization control |
JP2011200283A (ja) | 2010-03-24 | 2011-10-13 | Olympus Corp | 制御装置、内視鏡システム、プログラム及び制御方法 |
JP5555097B2 (ja) | 2010-08-24 | 2014-07-23 | オリンパス株式会社 | 画像処理装置、画像処理装置の作動方法、および画像処理プログラム |
EP3603510B1 (en) | 2012-07-25 | 2023-03-08 | Intuitive Surgical Operations, Inc. | Efficient and interactive bleeding detection in a surgical system |
-
2013
- 2013-07-22 EP EP19197625.7A patent/EP3603510B1/en active Active
- 2013-07-22 JP JP2015524363A patent/JP6307073B2/ja active Active
- 2013-07-22 WO PCT/US2013/051492 patent/WO2014018448A1/en active Application Filing
- 2013-07-22 EP EP13823451.3A patent/EP2877116B1/en active Active
- 2013-07-22 KR KR1020157002912A patent/KR102163327B1/ko active IP Right Grant
- 2013-07-22 CN CN201380039530.0A patent/CN104487014B/zh active Active
- 2013-07-22 EP EP23151747.5A patent/EP4186422A1/en active Pending
- 2013-07-22 KR KR1020207021315A patent/KR102201603B1/ko active IP Right Grant
- 2013-07-22 US US13/947,626 patent/US9877633B2/en active Active
- 2013-07-22 CN CN201710872989.9A patent/CN107485455B/zh active Active
-
2018
- 2018-01-05 US US15/863,651 patent/US10772482B2/en active Active
- 2018-03-09 JP JP2018043429A patent/JP6720238B2/ja active Active
-
2020
- 2020-06-17 JP JP2020104180A patent/JP7124011B2/ja active Active
- 2020-08-12 US US16/991,695 patent/US20200367720A1/en active Pending
-
2022
- 2022-08-10 JP JP2022127861A patent/JP7444932B2/ja active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030018244A1 (en) * | 1999-04-23 | 2003-01-23 | The Regents Of The University Of California | Microwave hemorrhagic stroke detector |
US20020177779A1 (en) * | 2001-03-14 | 2002-11-28 | Doron Adler | Method and system for detecting colorimetric abnormalities in vivo |
WO2006055498A2 (en) * | 2004-11-15 | 2006-05-26 | Uab Research Foundation | Methods and systems of analyzing clinical parameters and methods of producing visual images |
US20070292011A1 (en) * | 2005-04-13 | 2007-12-20 | Hirokazu Nishimura | Image Processing Apparatus and Image Processing Method |
US20090196476A1 (en) * | 2006-08-08 | 2009-08-06 | Olympus Medical Systems Corp. | Medical image processing device and medical image processing method |
CN101238987A (zh) * | 2007-09-06 | 2008-08-13 | 深圳先进技术研究院 | 一种关于ct脑出血图像的处理方法 |
JP2011036372A (ja) * | 2009-08-10 | 2011-02-24 | Tohoku Otas Kk | 医療画像記録装置 |
CN102843957A (zh) * | 2009-08-24 | 2012-12-26 | 新加坡保健服务集团有限公司 | 一种用于检测视盘出血的方法及系统 |
US20120062717A1 (en) * | 2010-05-10 | 2012-03-15 | Olympus Medical Systems Corp. | Medical apparatus |
Also Published As
Publication number | Publication date |
---|---|
EP3603510B1 (en) | 2023-03-08 |
CN104487014A (zh) | 2015-04-01 |
KR20200091943A (ko) | 2020-07-31 |
KR102201603B1 (ko) | 2021-01-12 |
EP2877116B1 (en) | 2019-09-18 |
EP4186422A1 (en) | 2023-05-31 |
KR102163327B1 (ko) | 2020-10-08 |
JP6307073B2 (ja) | 2018-04-04 |
US9877633B2 (en) | 2018-01-30 |
JP7124011B2 (ja) | 2022-08-23 |
US10772482B2 (en) | 2020-09-15 |
WO2014018448A1 (en) | 2014-01-30 |
EP2877116A1 (en) | 2015-06-03 |
JP2020171716A (ja) | 2020-10-22 |
KR20150037982A (ko) | 2015-04-08 |
US20180125333A1 (en) | 2018-05-10 |
JP2022172134A (ja) | 2022-11-15 |
JP6720238B2 (ja) | 2020-07-08 |
EP3603510A1 (en) | 2020-02-05 |
CN104487014B (zh) | 2017-10-27 |
JP2018114303A (ja) | 2018-07-26 |
US20200367720A1 (en) | 2020-11-26 |
CN107485455B (zh) | 2020-04-03 |
EP2877116A4 (en) | 2016-04-13 |
US20140031659A1 (en) | 2014-01-30 |
JP7444932B2 (ja) | 2024-03-06 |
JP2015529489A (ja) | 2015-10-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104487014B (zh) | 手术系统中有效的交互式出血检测 | |
US20240180404A1 (en) | Simultaneous white light and hyperspectral light imaging systems | |
US8355043B2 (en) | Medical apparatus | |
JP5810248B2 (ja) | 内視鏡システム | |
JP5771757B2 (ja) | 内視鏡システム及び内視鏡システムの作動方法 | |
JP2015135331A5 (zh) | ||
JP5993515B2 (ja) | 内視鏡システム | |
JP2009509621A (ja) | インビボで内容物を検出するシステムおよび方法 | |
JP5750669B2 (ja) | 内視鏡システム | |
JP5809850B2 (ja) | 画像処理装置 | |
JP6211239B1 (ja) | 内視鏡装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |