CN115917492A - 用于视频协作的方法和系统 - Google Patents
用于视频协作的方法和系统 Download PDFInfo
- Publication number
- CN115917492A CN115917492A CN202180043764.7A CN202180043764A CN115917492A CN 115917492 A CN115917492 A CN 115917492A CN 202180043764 A CN202180043764 A CN 202180043764A CN 115917492 A CN115917492 A CN 115917492A
- Authority
- CN
- China
- Prior art keywords
- videos
- surgical procedure
- medical
- video
- cases
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 289
- 238000001356 surgical procedure Methods 0.000 claims abstract description 497
- 238000003384 imaging method Methods 0.000 claims description 194
- 230000000007 visual effect Effects 0.000 claims description 20
- 230000033001 locomotion Effects 0.000 claims description 18
- 238000004891 communication Methods 0.000 description 131
- 238000012545 processing Methods 0.000 description 47
- 229940127554 medical product Drugs 0.000 description 21
- 230000008569 process Effects 0.000 description 20
- 238000013473 artificial intelligence Methods 0.000 description 17
- 230000015654 memory Effects 0.000 description 17
- 238000013519 translation Methods 0.000 description 17
- 230000014616 translation Effects 0.000 description 17
- 230000009471 action Effects 0.000 description 11
- 238000004458 analytical method Methods 0.000 description 11
- 210000003484 anatomy Anatomy 0.000 description 11
- 238000012544 monitoring process Methods 0.000 description 10
- 238000012549 training Methods 0.000 description 10
- 230000005540 biological transmission Effects 0.000 description 9
- 230000008859 change Effects 0.000 description 9
- 238000005192 partition Methods 0.000 description 9
- 238000004422 calculation algorithm Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 7
- 238000012552 review Methods 0.000 description 7
- 230000003044 adaptive effect Effects 0.000 description 6
- 238000013459 approach Methods 0.000 description 6
- 230000000977 initiatory effect Effects 0.000 description 6
- 230000002452 interceptive effect Effects 0.000 description 6
- 238000012986 modification Methods 0.000 description 6
- 230000004048 modification Effects 0.000 description 6
- 230000002123 temporal effect Effects 0.000 description 6
- 230000008901 benefit Effects 0.000 description 5
- 238000011156 evaluation Methods 0.000 description 5
- 230000006872 improvement Effects 0.000 description 5
- 230000008093 supporting effect Effects 0.000 description 5
- 238000012331 Postoperative analysis Methods 0.000 description 4
- FFBHFFJDDLITSX-UHFFFAOYSA-N benzyl N-[2-hydroxy-4-(3-oxomorpholin-4-yl)phenyl]carbamate Chemical compound OC1=C(NC(=O)OCC2=CC=CC=C2)C=CC(=C1)N1CCOCC1=O FFBHFFJDDLITSX-UHFFFAOYSA-N 0.000 description 4
- 239000003826 tablet Substances 0.000 description 4
- 230000002411 adverse Effects 0.000 description 3
- 238000013500 data storage Methods 0.000 description 3
- 238000002059 diagnostic imaging Methods 0.000 description 3
- 230000036541 health Effects 0.000 description 3
- 230000001788 irregular Effects 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 239000000463 material Substances 0.000 description 3
- 230000001360 synchronised effect Effects 0.000 description 3
- 241001465754 Metazoa Species 0.000 description 2
- 208000014777 Pulmonary venoocclusive disease Diseases 0.000 description 2
- 230000001154 acute effect Effects 0.000 description 2
- QVGXLLKOCUKJST-UHFFFAOYSA-N atomic oxygen Chemical compound [O] QVGXLLKOCUKJST-UHFFFAOYSA-N 0.000 description 2
- 230000036772 blood pressure Effects 0.000 description 2
- 230000001684 chronic effect Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 238000002316 cosmetic surgery Methods 0.000 description 2
- 230000003111 delayed effect Effects 0.000 description 2
- 239000003814 drug Substances 0.000 description 2
- 229940079593 drug Drugs 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000002483 medication Methods 0.000 description 2
- 238000003058 natural language processing Methods 0.000 description 2
- 230000000474 nursing effect Effects 0.000 description 2
- 210000000056 organ Anatomy 0.000 description 2
- 230000008520 organization Effects 0.000 description 2
- 229910052760 oxygen Inorganic materials 0.000 description 2
- 239000001301 oxygen Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 230000029058 respiratory gaseous exchange Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 206010019909 Hernia Diseases 0.000 description 1
- 241000027036 Hippa Species 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 239000012620 biological material Substances 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 210000000481 breast Anatomy 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 210000001072 colon Anatomy 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000006378 damage Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000009365 direct transmission Effects 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 230000002124 endocrine Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000012530 fluid Substances 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000002683 hand surgery Methods 0.000 description 1
- 239000007943 implant Substances 0.000 description 1
- 230000001976 improved effect Effects 0.000 description 1
- 238000010348 incorporation Methods 0.000 description 1
- 238000001990 intravenous administration Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 230000003278 mimic effect Effects 0.000 description 1
- 238000006213 oxygenation reaction Methods 0.000 description 1
- 230000035790 physiological processes and functions Effects 0.000 description 1
- 238000013439 planning Methods 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 230000037452 priming Effects 0.000 description 1
- 238000010223 real-time analysis Methods 0.000 description 1
- 238000002278 reconstructive surgery Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000002829 reductive effect Effects 0.000 description 1
- 239000012925 reference material Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000284 resting effect Effects 0.000 description 1
- 238000013349 risk mitigation Methods 0.000 description 1
- 231100000241 scar Toxicity 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 239000003381 stabilizer Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000153 supplemental effect Effects 0.000 description 1
- 230000001225 therapeutic effect Effects 0.000 description 1
- 238000002560 therapeutic procedure Methods 0.000 description 1
- 210000000115 thoracic cavity Anatomy 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 238000007631 vascular surgery Methods 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
- 210000000707 wrist Anatomy 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B90/361—Image-producing devices, e.g. surgical cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/10—Computer-aided planning, simulation or modelling of surgical operations
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H20/00—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
- G16H20/40—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to mechanical, radiation or invasive therapies, e.g. surgery, laser therapy, dialysis or acupuncture
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/61—Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2055—Optical tracking systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M1/00—Substation equipment, e.g. for use by subscribers
- H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
- H04M1/724—User interfaces specially adapted for cordless or mobile telephones
- H04M1/72448—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions
- H04M1/72451—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions according to schedules, e.g. using calendar applications
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Surgery (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Public Health (AREA)
- Molecular Biology (AREA)
- Veterinary Medicine (AREA)
- Animal Behavior & Ethology (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Multimedia (AREA)
- Robotics (AREA)
- Radiology & Medical Imaging (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Pathology (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Human Computer Interaction (AREA)
- Signal Processing (AREA)
- Urology & Nephrology (AREA)
- Medical Treatment And Welfare Office Work (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- User Interface Of Digital Computer (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本公开提供了用于视频协作的方法和系统。该方法可以包括(a)获得外科手术过程的多个视频;(b)至少部分地基于多个视频确定外科手术过程的进度量;和(c)至少部分地基于进度量更新外科手术过程的一个或多个步骤的估计定时。该方法还可以包括向一个或多个终端用户提供估计定时以协调另一外科手术过程或病房周转。在一些情况下,该方法可以包括(a)获得外科手术过程的多个视频和(b)向多个终端用户提供多个视频,其中多个终端用户中的每个终端用户接收多个视频的不同子集。
Description
交叉引用
本申请要求于2020年4月20日提交的美国临时申请号63/012,394和于2020年12月4日提交的美国临时申请号63/121,701的优先权,出于所有目的,通过引用将其全部内容并入本文。
背景技术
执业医生可以在医疗室(如手术室)内执行各种过程。时常,与手术室中实际不存在的其他人的交流可能很少。即使执业医生确实希望向手术室外的个人提供有关正在进行的医疗过程的更新,但这样做的资源和选择可能有限。这可能会妨碍手术室内的执业医生与手术室外其他执业医生之间的协调和/或沟通。此外,手术室中的执业医生可能无法快速向手术室外的其他个人及时准确地提供有关医疗过程的更新。
发明内容
需要改进的视频协作系统和方法以增强手术室中的个人与手术室外的个人之间的沟通和协调。需要系统和方法来允许执业医生、朋友、家人、供应商或其他医务人员(例如,支持人员或医院管理人员)使用在医疗操作或外科手术过程期间获得和/或流式传输的视频,有效且快速地跟踪、监测和评估医疗操作或外科手术过程的一个或多个步骤的执行或完成。本文认识到的是目前可用于视频协作的系统和方法的各种限制,如在医疗操作和外科手术过程的背景下。本公开的系统和方法可以能够使手术室中的执业医生有选择地向远离手术室的其他个人及时准确地提供关于医疗过程的更新。本公开的系统和方法可以能够使手术室中的执业医生向位于手术室外的一个或多个终端用户提供与医疗操作的一个或多个步骤相关联的视频数据。本公开的系统和方法还可以能够基于此类视频数据与每个终端用户的相关性与不同的终端用户共享不同种类的视频数据。本公开的系统和方法还可以能够共享不同种类的视频数据,以帮助协调并行过程(例如,同时进行的供体和受体外科手术过程)或帮助协调如医院的医疗设施中的病房周转。在一些情况下,本公开的系统和方法可用于向终端用户广播视频数据以用于教育或培训目的。在一些情况下,本公开的系统和方法可用于基于使用一个或多个成像设备获得的多个视频来生成教育性或信息性内容。在一些情况下,本公开的系统和方法可用于将此类教育性或信息性内容分发给执业医生、医生、医师、护士、外科医生、医疗操作者、医务人员、医护人员、医学生、医学实习生和/或住院医师,以帮助进行医学教育或医疗实践。
在一个方面,本公开提供了用于视频协作的方法。该方法可以包括:(a)获得外科手术过程的多个视频;(b)至少部分地基于多个视频或其子集来确定外科手术过程的一个或多个步骤的进度量;和(c)至少部分地基于进度量,更新外科手术过程的一个或多个步骤的估计定时(estimated timing)。在一些实施方式中,该方法还可以包括向一个或多个终端用户提供估计定时,以协调另一外科手术过程。在一些实施方式中,该方法还可以包括向一个或多个终端用户提供估计定时以协调病房周转。
在另一方面,本公开提供了用于视频协作的方法,该方法可以包括:(a)获得外科手术过程的多个视频,其中多个视频使用多个成像设备捕获;和(b)向多个终端用户提供多个视频,其中多个终端用户中的每个终端用户接收多个视频的不同子集。在一些实施方式中,多个视频的不同子集可以包括使用多个成像设备的不同子集捕获的一个或多个视频。
在另一方面,本公开提供了一种用于视频协作的方法,该方法包括:(a)获得外科手术过程的多个视频;(b)至少部分地基于多个视频或其子集来确定外科手术过程的一个或多个步骤的进度量;和(c)至少部分地基于步骤(b)中确定的进度量,更新执行或完成外科手术过程的一个或多个步骤的估计定时。在一些实施方式中,该方法还可以包括向一个或多个终端用户提供估计定时,以协调外科手术过程的执行或完成或者不同于该外科手术过程的至少一个其他外科手术过程的执行或完成。在一些实施方式中,该方法还可以包括向一个或多个终端用户提供估计定时以协调病房周转。在一些实施方式中,外科手术过程和至少一个其他外科手术过程包括涉及供体对象和受体对象的两个或更多个医疗操作。在一些实施方式中,该方法还可以包括基于执行或完成外科手术过程的一个或多个步骤的估计定时来安排或更新一个或多个其他外科手术过程的安排。在一些实施方式中,安排一个或多个其他外科手术过程包括识别或分配用于一个或多个其他外科手术过程的可用时隙或可用手术室。在一些实施方式中,确定外科手术过程的一个或多个步骤的进度量包括分析多个视频以跟踪用于执行外科手术过程的一个或多个步骤的一种或多种工具的移动或使用。在一些实施方式中,估计定时是从与执行相同或相似外科手术过程所花费的实际时间相关联的定时信息得出的。在一些实施方式中,该方法还可以包括基于更新的估计定时生成视觉状态栏,其中该视觉状态栏指示完成外科手术过程的一个或多个步骤的总预测时间。在一些实施方式中,该方法还可以包括当估计定时偏离预测定时一阈值时,生成警报或通知。在一些实施方式中,阈值是预定的。在一些实施方式中,阈值基于过程类型或执行外科手术过程的操作者的经验水平是可调整的。在一些实施方式中,一个或多个终端用户包括医疗操作者、医护人员、医疗供应商,或被配置为帮助或支持外科手术过程或至少一个其他外科手术过程的一个或多个机器人。在一些实施方式中,该方法还可以包括至少部分地基于更新的估计定时来确定操作者执行外科手术过程的效率以完成外科手术过程的一个或多个步骤。在一些实施方式中,该方法还可以包括为操作者生成一个或多个建议,以在执行相同或相似的外科手术过程时提高操作者的效率。在一些实施方式中,该方法还可以包括基于操作者的效率或外科手术过程的表现为操作者生成评分或评估。
在另一方面,本公开提供了一种用于视频协作的方法,该方法包括:(a)获得外科手术过程的多个视频,其中多个视频使用多个成像设备捕获;和(b)向多个终端用户提供多个视频,其中多个终端用户中的至少一个终端用户基于该至少一个终端用户的身份、专业知识或可用性接收与多个终端用户中的至少一个其他终端用户不同的部分或子集。在一些实施方式中,多个视频的不同子集包括使用多个成像设备的不同子集捕获的一个或多个视频。在一些实施方式中,提供多个视频包括在多个成像设备正在捕获多个视频时将多个视频实时流式传输或广播给多个终端用户。在一些实施方式中,提供多个视频包括将多个视频储存在服务器或存储介质上以供多个终端用户观看或访问。在一些实施方式中,提供多个视频包括向第一终端用户提供第一视频并且向第二终端用户提供第二视频。在一些实施方式中,提供多个视频包括向第一终端用户提供视频的第一部分并且向第二终端用户提供该视频的第二部分。在一些实施方式中,第一视频是使用多个成像设备的第一成像设备捕获的,并且其中第二视频是使用多个成像设备的第二成像设备捕获的。在一些实施方式中,第二成像设备提供与第一成像设备不同的外科手术过程的视图。在一些实施方式中,相对于外科手术过程的对象或执行外科手术过程的一个或多个步骤的操作者,第二成像设备具有与第一成像设备不同的位置或取向。在一些实施方式中,视频的第一部分对应于与视频的第二部分不同的外科手术过程的时间点或不同的步骤。在一些实施方式中,该方法还可以包括在一个或多个预定时间点向多个终端用户提供多个视频。在一些实施方式中,该方法还可以包括为多个终端用户提供一个或多个用户界面以观看、修改或注释多个视频。在一些实施方式中,一个或多个用户界面允许在多个视频中的两个或更多个视频之间转换或切换。在一些实施方式中,一个或多个用户界面允许同时观看两个或更多个视频。在一些实施方式中,多个视频储存或编译在视频库中,其中提供多个视频包括广播、流式传输或通过一个或多个视频点播服务或模型提供对多个视频中的一个或多个的访问。在一些实施方式中,该方法还可以包括为多个终端用户实施虚拟会话,以在多个视频被捕获时实时协作地观看和提供多个视频的一个或多个注释。在一些实施方式中,一个或多个注释包括由多个终端用户中的一个或多个提供的视觉标记或图示。在一些实施方式中,一个或多个注释包括由多个终端用户中的一个或多个提供的音频、文字或图文解说。在一些实施方式中,虚拟会话允许多个终端用户修改多个视频的内容。在一些实施方式中,修改多个视频的内容包括添加或移除音频或视觉效果。
在另一方面,本公开提供了一种用于视频协作的方法,该方法包括:(a)向多个用户提供外科手术过程的一个或多个视频;和(b)为多个用户提供虚拟工作空间,以基于一个或多个视频进行协作,其中虚拟工作空间允许多个用户中的每个用户(i)观看一个或多个视频或捕获一个或多个视频的一个或多个录音,(ii)向一个或多个视频或录音提供一个或多个视频标记(telestration),以及(iii)向多个用户分发包含一个或多个视频标记的一个或多个视频或录音。在一些实施方式中,虚拟工作空间允许多个用户同时流式传输一个或多个视频并向多个用户分发包括一个或多个视频标记的一个或多个视频或录音。在一些实施方式中,虚拟工作空间允许第一用户提供第一组视频标记,而同时第二用户提供第二组视频标记。在一些实施方式中,虚拟工作空间允许第三用户同时观看第一组视频标记和第二组视频标记,以比较或对比由第一用户和第二用户提供的输入或指导。在一些实施方式中,第一组视频标记和第二组视频标记对应于同一视频、同一录音、或视频或录音的同一部分。在一些实施方式中,第一组视频标记和第二组视频标记对应于不同的视频、不同的录音,或同一视频或录音的不同部分。在一些实施方式中,一个或多个视频包括外科手术过程的突出显示视频(highlight video),其中突出显示视频包括选择用于外科手术过程的感兴趣的一个或多个部分、阶段或步骤。在一些实施方式中,第一组视频标记和第二组视频标记关于由第一用户和第二用户捕获的不同视频或录音来提供。在一些实施方式中,第一组视频标记和第二组视频标记关于由第一用户或第二用户捕获的同一视频或录音被提供或叠加在彼此之上。在一些实施方式中,虚拟工作空间允许多个用户中的每个用户同时与多个用户共享一个或多个应用或窗口。在一些实施方式中,虚拟工作空间允许多个用户同时提供视频标记或同时修改由多个用户中的一个或多个用户提供的视频标记。在一些实施方式中,视频标记被提供在外科手术过程的现场视频流或外科手术过程的录音上。
从以下详细描述中,本公开的其他方面和优点对于本领域技术人员来说将变得容易理解,其中仅示出和描述了本公开的说明性实施方式。如将意识到的,本公开能够有其他不同的实施方式,并且其若干细节能够在各种明显的方面进行修改,所有这些都不背离本公开。因此,附图和描述在本质上被认为是说明性的,而不是限制性的。
援引并入
本说明书中提及的所有出版物、专利和专利申请均以引用方式并入本文,其程度与每个单独的出版物、专利或专利申请均被明确和单独地指示为以引用方式并入的程度一样。如果通过引用并入的出版物和专利或专利申请与说明书中包含的公开内容相矛盾,则说明书旨在取代和/或优先于任何此类相互矛盾的材料。
附图说明
本发明的新颖特征在所附权利要求中具体阐述。参考以下阐述其中利用了本发明原理的说明性实施方式以及附图(在本文中也被称为“附图”和“图”)的详细描述,将更好地理解本发明的特征和优点,其中:
图1A示意性地示出了根据一些实施方式的用于监测外科手术过程的视频捕获系统的示例。
图1B示意性地示出了根据一些实施方式的可用于与多个终端用户进行视频协作的视频捕获系统的示例。
图2示意性地示出了根据一些实施方式的被配置为接收由多个成像设备捕获的多个视频并将多个视频发送给多个终端用户设备的服务器。
图3示意性地示出了根据一些实施方式的将多个成像设备捕获的多个视频直接传输到多个终端用户设备。
图4示意性地示出了根据一些实施方式的用于观看由多个成像设备捕获的一个或多个视频的用户界面。
图5示意性地示出了根据一些实施方式的被配置为向不同的终端用户显示多个视频的不同子集的多个用户界面。
图6示意性地示出了根据一些实施方式的在过程的预测步骤的时间线与步骤实际实时发生的时间线之间的比较的示例。
图7示意性地示出了根据一些实施方式的可以基于估计定时在用户界面上显示以完成外科手术过程的不同进度条的各种示例。
图8示意性地示出了根据一些实施方式的可以基于在不同手术室中外科手术过程的估计完成时间来更新的手术室时间表的示例。
图9示意性地示出了根据一些实施方式的可以使用本文提供的方法和系统进行协调的供体手术和受体手术。
图10示意性地示出了根据一些实施方式的可以提供给终端用户以观看用于执行外科手术过程的一个或多个步骤的模型示例的一个或多个视频。
图11示意性地示出了被编程或以其他方式配置以实现本文提供的方法的计算机系统。
图12A、图12B、图12C、图12D、图12E、图12F和图12G示意性地示出了根据一些实施方式的用于将多个视频流式传输到一个或多个终端用户的各种方法。
图13示意性地示出了根据一些实施方式的用于视频协作的系统的示例。
具体实施方式
本公开提供了用于视频协作的方法和系统。本公开的系统和方法可以能够让手术室中的执业医生选择性地向远离手术室的其他个人提供关于医疗过程的及时和准确的更新。本公开的系统和方法可以能够让手术室中的执业医生向位于手术室外的一个或多个终端用户提供与医疗操作的一个或多个步骤相关联的视频数据。本公开的系统和方法还可以能够基于此类视频数据与每个终端用户的相关性与不同的终端用户共享不同种类的视频数据。本公开的系统和方法还可以能够共享不同种类的视频数据,以帮助协调并行过程(例如,同时进行的供体和受体外科手术过程)和/或帮助协调如医院的医疗设施中的患者或手术室周转。
在一个方面,本公开提供了用于视频协作的方法。视频协作可能涉及使用一个或多个视频来增强第一组个人与第二组个人之间的沟通或协调。第一组个人可以包括正在执行或帮助执行医疗操作或外科手术过程的一个或多个个人。第二组个人可以包括位于远离正在执行医疗操作或外科手术过程的位置的一个或多个个人。
本文公开的视频协作方法可以使用一个或多个视频来实施,这些视频是使用一个或多个被配置为监测外科手术过程的成像设备获得的。监测外科手术过程可以包括基于多个图像或视频跟踪外科手术过程的一个或多个步骤。在一些情况下,监测外科手术过程可以包括基于多个图像或视频估计正在执行的外科手术过程的进度量。在一些情况下,监测外科手术过程可以包括基于多个图像或视频估计完成外科手术过程的一个或多个步骤所需的时间量。在一些情况下,监测外科手术过程可以包括基于多个图像或视频评估执行外科手术过程的医疗操作者的表现、速度、效率或技能。在一些情况下,监测外科手术过程可以包括基于多个图像或视频将外科手术过程的实际进度与执行或完成该外科手术过程的估定时间线进行比较。
外科手术过程可以包括对人或动物的医疗操作。医疗操作可以包括对人体或动物的内部或外部区域的一项或多项操作。可以使用至少一种或多种医疗产品、医疗工具或医疗器械来执行医疗操作。医疗产品,在本文中可互换地称为医疗工具或医疗器械,可以包括单独使用或与其他设备组合用于治疗或诊断目的的设备。医疗产品可以是医疗设备。医疗产品可以包括在操作期间用于执行操作或促进操作性能的任何产品。医疗产品可能包括工具、器械、植入物、假体、一次性用品或制造商可能打算用于人类的任何其他装置、器具、软件或材料。医疗产品可用于诊断、监测、治疗、缓解或补偿伤害或残障。医疗产品可用于疾病的诊断、预防、监测、治疗或缓解。在一些情况下,医疗产品可用于解剖学或生理过程的研究、替换或修改。医疗产品的一些示例可能包括手术器械(例如,手持式或机器人)、导管、内窥镜、支架、起搏器、人工关节、脊柱稳定器、一次性手套、纱布、静脉输液、药物等。
不同类型的外科手术过程的示例可以包括但不限于胸外科、整形外科、神经外科、眼科外科、整形和重建外科、血管外科、疝气外科、头颈外科、手部外科、内分泌外科、结肠和直肠手术、乳房手术、泌尿外科、妇科手术和其他类型的手术。在一些情况下,外科手术过程可以包括涉及供体和受体的两个或更多个医疗操作。在这种情况下,外科手术过程可以包括两个或更多个同时进行的医疗操作以在供体和受体之间交换生物材料(例如,器官、组织、细胞等)。
本公开的系统和方法可以实施用于在医疗保健设施中进行的一个或多个外科手术过程。如本文所用,医疗保健设施可指可提供一些程度的医疗保健或援助的任何类型的设施、机构或组织。在一些示例中,医疗保健设施可以包括医院、诊所、紧急护理设施、门诊设施、门诊手术中心、疗养院、临终关怀、家庭护理、康复中心、实验室、成像中心、兽医诊所或任何其他类型的可以提供护理或帮助的设施。医疗保健设施可能主要提供也可能主要不提供用于短期护理或长期护理。医疗保健设施可能在所有日期和时间都开放,或者可能有有限的开放时间。医疗保健设施可能包括也可能不包括帮助提供护理的专用设备。可以为患有慢性或急性疾病的个人提供护理。医疗保健设施可能会雇用一名或多名医疗保健提供者(又名医务人员/执业医生)。本文对医疗保健设施的任何描述都可以指医院或任何其他类型的医疗保健设施,反之亦然。
在一些情况下,医疗保健设施可以具有一个或多个位于医疗保健设施内部的位置,其中可以执行一个或多个手术操作。在一些情况下,一个或多个位置可以包括一个或多个手术室。在一些情况下,一个或多个手术室可能只能由合格或经批准的个人进入。合格或经批准的个人可以包括例如正在经历外科手术过程的医疗患者或医疗对象、执行外科手术过程的一个或多个步骤的医疗操作者,和/或支持该外科手术过程的一个或多个方面的医务人员或支持人员的个人。例如,医务人员或支持人员可以出现在手术室中,以便帮助医疗操作者执行外科手术过程的一个或多个步骤。
本公开的方法可以包括获得外科手术过程的多个视频。多个视频可以包括外科手术过程的一个或多个图像。多个视频可被获得和/或用于监测外科手术过程的一个或多个方面(例如,外科手术过程的一个或多个步骤的执行、外科手术过程的一个或多个步骤的完成、时间推移、外科手术过程的每个步骤所花费的时间、完成外科手术过程中一个或多个剩余步骤所需的时间、执行外科手术过程的医疗操作者的一个或多个运动或动作、使用或操作一个或多个医疗产品或医疗工具等)。在一些情况下,多个视频可以捕获医疗操作者正在操作的手术部位的一个或多个视点和/或正在执行外科手术过程的手术环境(例如,手术室)的一个或多个视点。
可以使用一个或多个成像设备捕获多个视频。一个或多个成像设备可以包括一个或多个成像传感器、相机和/或摄像机。一个或多个成像设备可以被配置为捕获外科手术过程的一个或多个图像或视频。外科手术过程的一个或多个图像或视频可以包括患者或外科手术过程的对象,帮助该外科手术过程的一个或多个医务人员或医疗操作者,和/或用于执行或帮助执行外科手术过程的一个或多个医疗产品、医疗工具或医疗器械。
在一些情况下,可以使用多个成像设备捕获多个视频。所述多个成像设备可以包括1、2、3、4、5、6、7、8、9、10或更多个成像设备。多个成像设备可以包括n个成像设备,其中n是大于或等于2的整数。所述多个成像设备可以提供在相对于对象或在对象上执行手术操作的医疗操作者的不同位置和/或取向上。
多个成像设备可以提供在相对于医疗患者或正在经历医疗操作的对象或执行医疗操作的医疗操作者的多个不同位置和/或取向上。多个成像设备可以提供在多个彼此相对的不同位置和/或取向上。
在一些情况下,多个成像设备可以附接到天花板、墙壁、地板、手术室的结构元件(例如,横梁)、操作台、医疗器械或医疗操作者身体的一部分(例如,医疗操作者的手、手臂或头部)。在一些情况下,多个成像设备可以可释放地耦合到天花板、墙壁、地板、手术室的结构元件、手术台、医疗器械或医疗操作者身体的一部分。
在一些情况下,多个成像设备可以相对于多个成像设备在其上附接、固定或可释放耦合的表面或结构元件是可移动的。例如,多个成像设备可以被重新定位和/或旋转以调整多个成像设备的成像路径。在一些情况下,一个或多个关节、铰链、臂、导轨和/或轨道可用于调整多个成像设备的位置和/或取向。在一些情况下,多个成像设备中每个成像设备的位置和/或取向可以由人类操作者手动调整。在其他情况下,多个成像设备中每个成像设备的位置和/或取向可以部分地基于计算机实现的光学跟踪软件自动调整。多个成像设备中每个成像设备的位置和/或取向可以被物理地调整。多个成像设备中每个成像设备的位置和/或取向可由人类操作者远程调整或控制。
多个成像设备可以被配置为跟踪和/或扫描手术室中的一个或多个区域或空间。多个成像设备可以被配置为在手术操作期间跟踪和/或扫描医疗患者或对象的身体内、上或附近的一个或多个区域或空间。在一些情况下,多个成像设备中的每个成像设备都可以被配置为跟踪和/或扫描不同的区域或空间。
多个成像设备可以被配置为跟踪和/或扫描医疗操作者的运动。多个成像设备可以被配置为跟踪和/或扫描多个医疗操作者或协助医疗操作者的医务人员的运动。在一些情况下,多个成像设备可以被配置为跟踪和/或扫描不同医疗操作者或医务人员的运动。
多个成像设备可以被配置为跟踪和/或扫描用于医疗过程的医疗设备、器械或工具的运动或使用。多个成像设备可以被配置为跟踪和/或扫描用于医疗过程的多个医疗设备、器械或工具的运动或使用。在一些情况下,多个成像设备中的每个成像设备可以被配置为跟踪和/或扫描用于医疗过程期间的不同医疗设备、器械或工具的运动或使用。
在一些情况下,多个成像设备可以包括与特定终端用户相关联的一个或多个终端用户特定成像设备。一个或多个终端用户特定成像设备可以被配置为为某一类型的终端用户和/或特定终端用户捕获一个或多个视频以供观看。例如,第一成像设备可以被配置为为第一类型的终端用户(例如,医疗患者的家庭成员)捕获第一组视频,并且第二成像设备可以被配置为为第二类型的终端用户(例如,当前未对医疗患者进行操作但有兴趣跟踪外科手术过程的进度的医疗操作者)捕获第二组视频。在一些情况下,多个成像设备可以包括与提供、维护、支持和/或管理特定医疗设备、器械或工具的特定供应商相关联的一个或多个供应商特定成像设备。一个或多个供应商特定成像设备可以被配置为为某一类型的供应商和/或特定供应商捕获一个或多个视频以供观看。
在一些情况下,多个成像设备可以被配置为监测和/或跟踪外科手术过程的一个步骤或该外科手术过程的多个步骤。在一些情况下,多个成像设备中的每个成像设备可以被配置为在外科手术过程中捕获不同步骤的一个或多个视频。在此情况下,为外科手术过程中的每个不同步骤捕获的一个或多个视频可以广播给不同的终端用户并可由其观看。
多个成像设备中的每个成像设备可以具有与成像设备的操作和/或性能相关联的一组成像参数。成像参数可以包括成像分辨率、视场、景深、帧捕获速度、传感器尺寸和/或镜头焦距。在一些情况下,多个成像设备中的两个或更多个成像设备可以具有相同的一组成像参数。在其他情况下,多个成像设备中的两个或更多个成像设备可以具有不同组的成像参数。
在一些实施方式中,可以使用单个成像设备来捕获多个视频。在一些情况下,可以使用多个成像设备来捕获多个视频。在此情况下,多个成像设备可以同时捕获视频。
如上所述,多个成像设备可以被配置为捕获外科手术过程、执行外科手术过程的医疗操作者、支持外科手术过程的医务人员或正在经历外科手术过程的对象的一个或多个视频。在一些情况下,多个成像设备可以被配置为在一个或多个步骤被执行时捕获外科手术过程的一个或多个步骤的一个或多个视频。在一些情况下,多个成像设备可以被配置为捕获用于执行外科手术过程的每个步骤的一个或多个工具的一个或多个视频。
由成像设备捕获的多个视频或由成像设备捕获的多个视频的子集可以由视频处理模块处理和/或分析。视频处理模块可以被配置为在外科手术过程的一个或多个步骤完成后分析成像设备捕获的一个或多个视频。或者,视频处理模块可以被配置为在执行外科手术过程的一个或多个步骤时分析成像设备捕获的一个或多个视频。
在一些实施方式中,来自单个成像设备的一个或多个视频可以通过视频处理模块进行分析。或者,可以一起分析由多个成像设备捕获的一个或多个视频。在此情况下,各种成像设备之间的定时信息可以同步,以便获得每个成像设备捕获的视频之间的比较定时感。例如,每个成像设备可能具有关联的时钟或可能与时钟通信。此类时钟可以彼此同步,以便准确地确定多个成像设备捕获的视频的定时。在一些情况下,多个成像设备可能与单个时钟通信。在一些情况下,时钟上的定时可能不同,但可以知道时钟之间的差异。时钟之间的差异可用于确保从多个成像设备分析的视频同步或正在使用正确的定时。
在一些情况下,视频处理模块可以被配置为基于成像设备捕获的多个视频来确定外科手术过程的类型。在一些情况下,视频处理模块可以被配置为基于所使用的工具、在场的医务人员、患者的类型、所采取的步骤和/或为外科手术过程的每个步骤所花费的时间来确定外科手术过程的类型。
在一些情况下,视频处理模块可以被配置为在医疗操作者执行外科手术过程时识别外科手术过程中的一个或多个步骤。在一些情况下,外科手术过程中的一个或多个步骤可以部分地基于外科手术过程的类型来识别。在其他情况下,外科手术过程中的一个或多个步骤可以部分地基于医务人员使用的工具和/或医务人员采取的行动来识别。对象识别可用于识别医务人员使用的工具和/或采取的步骤。例如,如果第一步骤是做一个切口,则可以分析多个视频以识别当使用手术刀做切口时正在执行第一步骤。在一些情况下,医务人员和/或医务人员的手做切口的动作可用于识别正在执行第一步骤。
视频处理模块可以被配置为生成一组预测步骤,该组预测步骤对应于外科手术过程的一个或多个剩余步骤。该组预测步骤可以部分地基于外科手术过程的类型导出或估计。该组预测步骤可以部分地基于医疗操作者执行或完成的各种步骤来导出或估计。在一些实施方式中,视频处理模块可以被配置为使用视频信息、音频数据、医疗录音和/或医务人员单独或组合的输入来预测医疗操作者将要执行的一个或多个剩余步骤。
在一些情况下,视频处理模块可以被配置为实时更新用于外科手术过程的步骤列表。这可以帮助医务人员在医务人员执行或完成外科手术过程的一个或多个步骤时跟踪或监测外科手术过程的进度。在一些情况下,可视指示符(例如,复选标记、突出显示、不同颜色、图标、删除线、下划线)可以被提供以在视觉上区分已完成的步骤和尚未完成的步骤。在一些情况下,在医疗过程中检测到的步骤或条件可能会导致预测或建议的步骤发生变化。视频分析系统可以自动检测何时发生此类情况。
视频处理模块可以被配置为预测或估计执行或完成外科手术过程的一个或多个步骤的定时。在一些情况下,外科手术过程的一个或多个步骤的预测定时可能会基于不同的解剖类型而不同。例如,特定的解剖结构可能会使过程中的某些步骤更加困难,这可能导致该特定步骤花费更多时间。例如,对于解剖类型B,步骤1可能比在解剖类型A中花费更长的时间。同样,对于解剖类型B,步骤2可能比在解剖类型A中花费更长的时间。但是,无论患者是解剖类型A还是解剖类型B,步骤4都可能花费大约相同的时间量。为了考虑此类差异,视频处理模块可被配置为检测、确定或识别医疗患者的解剖类型,并基于检测到的解剖类型调整用于外科手术过程的一个或多个步骤的预测定时。识别患者身体的某些部分,如患者身体部分内的各种特定特征,可用于检测执行外科手术过程所需的步骤和/或预测执行或完成该外科手术过程的每个步骤的定时。
在一些情况下,视频处理模块可以被配置为基于从视频图像中认定或识别的一个或多个医疗设备和/或产品来预测或估计执行或完成外科手术过程的一个或多个步骤的定时。在一些情况下,特定外科手术过程可能需要某些类型的医疗设备或工具,并且所使用的工具和/或设备的认定可用于检测要执行的步骤以及与这些步骤相关联的定时。
在一些情况下,视频处理模块可以被配置为基于音频信息来预测或估计执行或完成外科手术过程的一个或多个步骤的定时。例如,医务人员可以在采取步骤之前或在执行该步骤时宣布他或她将要执行的步骤。在一些情况下,医务人员可能会指示他们正在执行的行动。可选地,医务人员可以向其他医务人员寻求帮助或工具,这可以提供对检测正在执行的步骤和预测与这些步骤相关联的定时可能有用的信息。
在一些实施方式中,视频处理模块可以被配置为在医务人员已经执行或完成每个步骤时识别。在一些实施方式中,当系统检测到医务人员已经执行或完成了一个步骤(或子步骤)时,可以更新一个或多个后续步骤的估计定时。在一些情况下,随着每个步骤的完成,复选标记或其他类型的可视指示符可以显示在与外科手术过程相关联的步骤列表上,以在视觉上区分已完成的步骤与外科手术过程的一个或多个剩余步骤。在一些情况下,当步骤完成时,完成的步骤在视觉上可能会从与外科手术过程相关联的步骤列表中消失。
在一些情况下,多个视频可以由视频处理模块处理和/或分析,以导出与外科手术过程的一个或多个步骤的执行或完成相关联的定时信息。当正在执行一个或多个步骤时,与外科手术过程的一个或多个步骤相关联的定时信息可以由视频处理模块记录和测量。例如,当视频处理模块检测到每个步骤正在开始时,系统可能会记录每个步骤发生的时间。在一些情况下,视频处理模块可以被配置为识别各种步骤开始的时间以及完成这些步骤所花费的时间长度。
在一些情况下,视频处理模块可以被配置为导出与整个外科手术过程相关联的总定时信息。例如,作为备选或除了显示每个步骤的定时信息之外,还可以显示总定时信息或进度。例如,可以显示医务人员滞后或超过预测时间的总时间量。在一些情况下,总时间量可以显示为数字时间值(例如,小时、分钟、秒),或显示为相对值(例如,预测时间或实际时间的百分比等)。在一些情况下,可以提供如状态栏的视觉显示。视觉显示可以包括呈现时间线的状态栏。在一些情况下,该状态栏可以显示完成医疗过程的总预测时间。每个步骤的预测时间细分可能会或可能不会显示在状态栏上。可以相对于状态栏显示医务人员当前花费的时间量。完成医疗过程的更新的预测时间量也可以显示为第二状态栏或与第一状态栏重叠。可以以视觉方式向医务人员提供总定时或进度信息。
如本文其他地方所述,视频处理模块可以被配置为确定完成或执行外科手术过程的一个或多个步骤所花费的实际时间。视频处理模块还可被配置为确定或预测完成或执行外科手术过程的一个或多个剩余步骤所需的估定时间量。
在一些实施方式中,视频处理模块可以被配置为将完成外科手术过程的一个或多个步骤所需的实际时间与估计或预测时间进行比较,以确定医疗操作者是否提前和/或落后于计划。估计或预测时间可以对应于在另一外科手术过程(例如,在当前外科手术过程之前先前执行的相同或类似外科手术过程)中执行一个或多个类似步骤所用的实际时间。可以呈现完成该步骤的预测时间和实际时间量的比较。在一些实施方式中,比较可以被提供为数字、评分、百分比、可视条形图、图标、颜色、折线图、或任何其他类型的比较。
视频处理模块可以被配置为当步骤实时发生时将一个或多个步骤的预测定时与各个步骤的实际定时进行比较。当存在显著的定时差异时,可以标记该差异。在一些情况下,可以在医务人员执行过程时实时向他们提供通知。例如,可以在检测到差异时提供视觉通知或音频通知。
在一些实施方式中,差异可能需要达到阈值才能被标记。可以提前设置差异的阈值。可以基于绝对值(例如,分钟数、秒数等)和/或相对值(例如,步骤的预测时间的百分比)来设置阈值。在一些情况下,阈值可能取决于收集的各种数据集的标准偏差。例如,如果通过各种数据集提供更广泛的定时变化,则可以提供更大的阈值或容差。阈值可以是固定的或者可以是可调整的(例如,基于外科手术过程的类型或执行外科手术过程的外科医生的经验水平)。在一些实施方式中,医务人员或医疗保健设施的另一个个人(例如,同事、主管、管理员)可以设置该值。在一些实施方式中,可以提供单个阈值。或者,可以提供多级阈值。多个阈值级可用于确定差异程度,并且可能导致不同类型的动作或对医务人员的通知。在一些情况下,如果达到或超过阈值差异,则可能会生成警报或通知。
在一些情况下,视频处理模块可以被配置为将外科手术过程的一个或多个步骤的预测定时与外科手术过程的一个或多个步骤的实际定时进行比较。例如,外科手术过程的第一步骤可能具有特定的预测定时,并且第一步骤实际上可以在与预测大致相同的时间量内执行。这可能导致不会被标记。在另一示例中,外科手术过程的第二步骤可以预期在特定的时间长度内发生,但实际上可能花费相当长的时间。当发生显著偏差时,可以标记这个差异。这可能允许医务人员稍后回顾这个差异并找出为什么该步骤花费的时间比预期的要长。这可用于引入新技术或向医务人员提供关于医务人员将来如何能够更有效地执行的反馈。
在一些情况下,视频处理模块可以被配置为检测步骤的预测时间量与步骤花费的实际时间量之间的定时差异。当步骤的预测时间量与步骤花费的实际时间量之间的定时差异超过阈值时,如本文其他地方所述,对应于该步骤的视频部分可以自动标记为相关。
在一些情况下,当步骤花费的时间比预测的要长得多时,可能希望将其标记为相关。医务人员或其他个人可能希望回顾该步骤,并确定为什么它比预期花费的时间要长得多。在一些情况下,花费更长时间的步骤可能表明出现了医务人员执行该步骤需要花费更多时间的事件或问题。在一些情况下,花费更长时间的步骤可能表明医务人员没有使用最有效的技术,或者对特定步骤有困难,这可能有助于提供附加的回顾。
在一些情况下,当步骤花费的时间明显少于预测的时间时,可能希望将其标记为相关。医务人员或其他个人可能希望回顾该步骤,并观看医务人员如何能够节省特定步骤的时间。这可能为其他可能希望模仿类似技术的个人提供有用的教学机会。这还可以提供对医务人员可能具有的特定技能组合的认可。在一些情况下,医务人员可以能够以比预测更快的速度执行步骤。发生这个情况时,出于教育目的向其他医务人员提供可能是有用的信息。这个信息可能会被标记为对其他医务人员有用的教学机会。
即使执行的步骤匹配,也可以分析视频以检测是否与步骤的预期定时存在显著偏差。例如,可以预期步骤1通常花费大约5分钟才能执行。如果该步骤最终花费了15分钟,则可以识别和/或标记定时上的这个差异。当提供显著的定时差异时,可以可选地将消息(例如,视觉和/或音频消息)提供给医务人员。例如,如果步骤花费的时间比预期的要长,则显示器可能会显示有助于医务人员执行该步骤的信息。可以实时提供有用的提示或建议。在一些实施方式中,可以跟踪定时信息以便更新对手术定时的预测。在一些情况下,可以在医务人员执行过程时向医务人员提供对预期定时和/或过程完成百分比的更新。
在一些实施方式中,标记差异之前的定时差异程度可以是可调整的。例如,如果平均步骤花费大约15分钟,但医务人员花费16分钟来执行该步骤,则差异程度可能不足以记录或做标记。在一些情况下,可以预先确定做标记所需的差异程度。在一些情况下,达到阈值以做标记的差异程度可以是在绝对时间尺度上(例如,分钟数、秒数)。在一些情况下,达到阈值以做标记的差异程度可以是在相对时间尺度上(例如,步骤通常花费的时间量的百分比)。阈值可以是固定的,也可以是可调整的。在一些实施方式中,医务人员可以提供优选的阈值(例如,如果差异超出大于5分钟,或超出预期过程时间的20%)。在其他实施方式中,阈值可以由医疗保健设施的管理员或另一组成员或监督医务人员或与医务人员一起工作的医疗操作者设置。
在一些情况下,视频处理模块可以被配置为确定医疗操作者是否正在进行或执行与预测步骤不同的步骤。例如,如果预计医务人员将打开一个容器,但医务人员执行不同的步骤,则可能会标记出此差异。在一些情况下,一旦检测到差异,就可以向医务人员提供视觉或音频指示器。例如,屏幕上可能会显示一条消息,指示医务人员偏离计划。该消息可能包括预测步骤和/或实际检测到的步骤发生的指示。可选地,音频消息可以提供类似的信息。例如,音频消息可能指示已检测到与预测步骤的偏差。可能会或可能不会提供预测步骤的详细信息的指示和/或检测到的偏差。此类反馈可以在医疗操作者执行过程时实时提供。这可能有利地允许医务人员评估进度,并在必要时做出任何纠正或调整。
在一些情况下,视频处理模块可以被配置为在医疗操作者正在实时执行外科手术过程的一个或多个步骤时确定医疗操作者的效率。在一些情况下,视频处理模块可以被配置为确定哪些步骤花费的时间比最初估计的时间长。在一些情况下,视频处理模块可以被配置为确定医疗操作者是否犯了任何错误或偏离了降低医疗操作者效率的标准过程。
在一些实施方式中,视频处理模块可以自动向医务人员提供关于过程执行的反馈。例如,视频处理模块可以自动指示步骤和/或定时是否出现显著偏差。在一些情况下,视频处理模块可以向医务人员提供关于医务人员可能做出的差异的建议,以提高过程的效率和/或有效性。可选地,可以为医务人员完成过程提供评分或评估。
多个视频和/或由视频处理模块从多个视频导出的信息可以提供给一个或多个终端用户。一个或多个终端用户可以包括外科手术过程的对象、外科手术过程的医疗操作者(例如,医生、外科医生或医师)、对象的一个或多个朋友或家人、执行外科手术过程的手术室外的医务人员、医疗支持人员、医疗供应商、医学生、接受培训的医护人员(例如实习生或住院医师)、手术室外的其他医疗操作者(例如,将在外科手术过程中执行一个或多个步骤的医疗操作者,已经完成外科手术过程中一个或多个步骤的医疗操作者,或在供体和受体外科手术过程的情况下并行对另一名患者或对象进行手术的医疗操作者),或帮助协调执行外科手术过程的手术室的日程安排和使用的医护人员。
在一些情况下,多个视频和/或从多个视频导出的信息可以提供给一个或多个医疗设备。多个视频和/或从多个视频导出的信息可以由第三方医疗设备显示或消费,以执行附加操作和/或支持外科手术过程的一个或多个步骤。在一个示例中,多个视频和/或从多个视频导出的信息可以实时地提供给一个或多个机器人或纳米机器人(例如,作为正在被捕获的多个视频,或者作为从多个视频导出或生成的信息)。所述一个或多个机器人或纳米机器人可以被配置为实时接收从多个视频中导出的多个视频和任何信息,并且使用多个视频或从多个视频中导出的信息来执行外科手术过程的一个或多个步骤。
在一些情况下,终端用户可以包括一个或多个医疗供应商。医疗供应商可以包括可能在医疗过程之前、期间或之后提供支持的个人或实体。医疗供应商还可以包括外部医疗专业人员或专家、顾问、技术人员、制造商、财务支持、社会工作者或任何其他个人。在一些情况下,医疗供应商可能包括提供医疗设备(例如,医疗产品、医疗设备或医疗工具和器械)的个人或实体。在一些情况下,供应商可以是制造和/或分销医疗产品的实体,例如公司。供应商可能拥有可以能够为使用医疗设备的人员提供支持的代表。供应商代表(也可能被称为产品专家或设备代表)可能对一种或多种特定医疗产品非常了解。供应商代表可以帮助医务人员(例如外科医生、外科助理、医师、护士)解决他们对医疗产品可能有的任何问题。供应商代表可以帮助选择特定医疗产品的尺寸或不同型号。供应商代表可以帮助医疗产品的功能。供应商代表可以帮助医务人员使用产品,或解决可能出现的任何问题。这些问题可能在医务人员使用产品时实时出现。
多个视频可以提供给多个终端用户。在一些情况下,多个终端用户的每个终端用户可以接收多个视频的不同子集。在一些情况下,多个终端用户的每个终端用户可以接收使用不同成像设备捕获的一个或多个视频。
在一些情况下,外科手术过程可以在第一位置执行。可以使用位于第一位置或附近的一个或多个成像设备来捕获多个视频。多个视频可以提供给位于与第一位置不同的第二位置的一个或多个终端用户。在一些情况下,可以将多个视频提供给位于第一位置的一个或多个终端用户。
图1A和图1B示出了在医疗室(如手术室)内利用的视频捕获系统的示例。视频捕获系统可以包括上述一个或多个成像设备。视频捕获系统可以被配置为捕获外科手术过程、手术部位或正在执行外科手术过程的操作环境的图像或视频。
根据本发明的实施方式,视频捕获系统可以允许医疗室与一个或多个终端用户或远程个人之间进行通信。可以可选地在第一位置110和第二位置120之间提供通信。在一些情况下,视频捕获系统还可以包括本地通信设备115。在一些情况下,本地通信设备115可以可操作地耦合到上述一个或多个成像设备。本地通信设备115可以可选地与远程通信设备125通信。
如图1B所示,在一些情况下,本地通信设备115可以与多个远程通信设备125-1、125-2和125-3进行通信。由多个成像设备捕获的多个视频可以提供给多个远程通信设备125-1、125-2和125-3。多个远程通信设备125-1、125-2和125-3可以位于多个位置120-1、120-2和120-3,这些位置远离正在执行外科手术过程的第一位置110。多个远程通信设备125-1、125-2和125-3可以与不同的终端用户127-1、127-2和127-3相关联。在一些情况下,不同的终端用户127-1、127-2和127-3可以包括可能能够在外科手术过程的一个或多个步骤中提供远程支持的供应商或供应商代表。
第一位置110可以是医疗室,如医疗保健设施的手术室。医疗室可以在诊所房间内或在医疗保健设施的任何其他部分内。医疗保健设施可以是可以提供某种程度的医疗保健或援助的任何类型的设施或组织。在一些示例中,医疗保健设施可以包括医院、诊所、紧急护理设施、门诊设施、门诊手术中心、疗养院、临终关怀、家庭护理、康复中心、实验室、成像中心、兽医诊所或任何其他类型的可能提供护理或援助的设施。医疗保健设施可能是也可能不是主要提供短期护理或长期护理。医疗保健设施可能全天开放,也可能限制开放时间。医疗保健设施可能包括也可能不包括帮助提供护理的专门设备。可为患有慢性或急性疾病的个人提供护理。医疗保健设施可以雇用一名或多名医疗保健提供者(又名医务人员/医生)。此处对医疗保健设施的任何描述可指代医院或任何其他类型的医疗保健设施,反之亦然。
第一位置可以是医疗保健设施内的任何房间或区域。例如,第一位置可以是手术室、手术间、诊所室、分诊中心、急诊室或任何其他位置。第一位置可以在房间的区域内或整个房间内。第一位置可以是可能发生操作、可能发生手术、可能发生医疗过程和/或使用医疗产品的任何位置。在一个示例中,第一位置可以是手术室,其中患者118正在经历手术和一个或多个医疗人员117,例如执行操作或帮助执行操作的外科医生或外科助理。医务人员可以包括正在执行医疗过程或帮助执行医疗过程的任何个人。医务人员可以包括为医疗过程提供支持的个人。例如,医务人员可以包括执行手术的外科医生、护士、麻醉师等。医务人员的例子可能包括医师(例如,外科医生、麻醉师、放射科医师、内科医生、住院医师、肿瘤学家、血液学家、心脏病专家等)、护士(例如,CNRA、手术室护士、循环护士)、医师助理、外科技术人员等。医务人员可以包括在医疗过程中在场并被授权在场的个人。
第二位置120可以是终端用户127所在的任何位置。第二位置可以远离第一位置。例如,如果第一位置是医院,则第二位置可能在医院外。在一些情况下,第一位置和第二位置可能位于同一建筑物内,但位于不同的房间、楼层或侧楼。第二位置可以在终端用户或远程个人的办公室。第二位置可以在终端用户或远程个人的住所。
在一些实施方式中,第一位置110中的医务人员可以与第二位置120中的一个或多个远程个人或终端用户进行通信。第一位置110中的医务人员可以使用本地通信设备115与第二位置120中的终端用户进行通信。终端用户或远程个人可以具有远程通信设备125,其可以与本地通信设备115在第一位置进行通信。可以在远程通信设备和本地通信设备之间形成任何形式的通信通道150。通信通道可以是直接通信通道或间接通信通道。通信通道可以采用有线通信、无线通信或两者。通信可以发生在网络上,例如局域网(LAN)、广域网(WAN),例如因特网,或任何形式的电信网络(例如,蜂窝服务网络)。所采用的通信可包括但不限于3G、4G、LTE通信和/或蓝牙、红外线、无线电或其他通信。通信可以可选地由路由器、卫星、塔和/或电线辅助。通信可以或可以不利用第一位置和/或第二位置处的现有通信网络。
远程通信设备与本地通信设备之间的通信可以被加密。可选地,只有经过授权和身份验证的远程通信设备和本地通信设备才能通过通信系统进行通信。
在一些实施方式中,远程通信设备和/或本地通信设备可以通过通信系统相互通信。通信系统可以促进远程通信设备与本地通信设备之间的连接。通信系统可能有助于访问医疗保健设施的日程安排信息。通信系统可有助于在远程通信设备上呈现供终端用户或远程个人监测在第一位置执行的外科手术过程的用户界面。
在一些情况下,一个或多个成像设备可以与通信设备(例如,本地通信设备或远程通信设备)集成。或者,一个或多个成像设备可以操作性地耦合到本地通信设备或远程通信设备。当用户看到通信设备的显示器时,一个或多个成像设备可能朝向用户(例如,位于第一位置的医疗操作者或位于第二位置的终端用户)。当用户看到通信设备的显示器时,一个或多个成像设备可能朝向远离用户。在一些情况下,可以提供多个成像设备,这些成像设备可能朝向不同的方向。成像设备可能能够以所需的分辨率捕获图像和/或视频。例如,成像设备可能能够以一种或多种显示分辨率捕获图像和/或视频,包括标清(SD)、高清(HD)、全高清(FHD)、宽屏超扩展图形阵列(WUXGA)、2K、四重高清(QHD)、宽四重高清(WQHD)、超高清(UHD)、4K、8K或大于或小于8K的任何分辨率。在一些情况下,成像设备可以被配置为以640x360像素、720x480像素、960x540像素、1280x720像素、1280x1080像素、1600x900像素、1920x1080像素、2048x1080像素、2160x1080像素、2560x1080像素、2560x1440像素、3200x1800像素、3440x1440像素、3840x1080像素、3840x1600像素、840x2160像素、4096x2160像素、5120x2160像素、5120x2880像素、7680x4320像素、160x120像素、240x160像素、320x240像素、400x240像素、480x320像素、640x480像素、768x480像素、854x480像素、800x600像素、960x640像素、1024x576像素、1024x600像素、1024x768像素、1366x768像素、1366x768像素、1360x768像素、1280x800像素、1152x864像素、1440x900像素、1280x1024像素、1400x1050像素、1680x1050像素、1600x1200像素、1920x1200像素、2048x1152像素、2048x1152像素、2048x1536像素、2560x1600像素、2560x2048像素、3200x2048像素、3200x2400像素、3840x2400像素的分辨率或任何具有NxM像素的分辨率来捕获图像和/或视频,其中N和M是大于或等于1的整数。在一些情况下,成像设备可以被配置为捕获宽高比为4:3、16:9、16:10、18:9或21:9的图像和/或视频。远程通信设备上的成像设备可以在第二位置捕获终端用户的图像。本地通信设备上的成像设备可以在第一位置捕获医务人员的图像。本地通信设备上的成像设备可以在第一位置捕获手术部位和/或医疗工具、器械或产品的图像。
通信设备(例如,本地通信设备或远程通信设备)可以包括一个或多个麦克风或扬声器。麦克风可以捕获可听声音,例如用户的声音。例如,远程通信设备麦克风可以在第二位置捕获终端用户的讲话,而本地通信设备麦克风可以在第一位置捕获医务人员的讲话。可以提供一个或多个扬声器来播放声音。例如,远程通信设备上的扬声器可以允许在第二位置的终端用户听到由在第一位置的本地通信设备捕获的声音,反之亦然。在一些实施方式中,可以提供音频增强模块。音频增强模块可以由视频捕获系统支持。音频增强模块可以包括麦克风阵列,这些麦克风阵列可以被配置为在嘈杂的房间内清晰地捕获声音,同时最小化或减少背景噪音。音频增强模块可以是可分离的,也可以集成到视频捕获系统中。
在一些情况下,通信设备(例如,本地通信设备或远程通信设备)可以包括显示屏。显示屏可以是触摸屏。显示屏可以接受用户触摸(例如手指)的输入。显示屏可以接受手写笔或其他工具的输入。
在一些情况下,通信设备(例如,本地通信设备或远程通信设备)可以是能够进行通信的任何类型的设备。例如,通信设备可以是智能电话、平板计算机、膝上型计算机、台式计算机、服务器、个人数字助理、可穿戴设备(例如,智能手表、眼镜等)或任何其他类型的设备。
在一些实施方式中,本地通信设备115可以由医疗控制台140支撑。本地通信设备可以永久地附接到医疗控制台,或者可以从医疗控制台移除。在一些情况下,本地通信设备在从医疗控制台移除时可以保持功能。当本地通信设备附接到(例如,对接)医疗控制台时,医疗控制台可以可选地向本地通信设备供电。医疗控制台可以是可以从一个位置移动到另一位置的移动控制台。例如,医疗控制台可以包括可以允许医疗控制台从一个位置移动到另一位置的轮子。轮子可以在所需位置处锁定到位。医疗设备可以可选地包括下部支架和/或支撑基座147。下部支架和/或支撑基座可容纳一个或多个组件,例如通信组件、电源组件、辅助输入和/或处理器。
在一些情况下,医疗控制台可以可选地包括一个或多个相机145、146。在一些情况下,一个或多个相机可以定位在医疗控制台的关节臂143的远端。相机可能能够捕获患者118或患者的一部分(例如,手术部位)的图像。相机可能能够捕获医疗设备的图像。当医疗设备搁置在托盘上时,或者当它们被医务人员处理和/或在手术部位处使用时,相机可能能够捕获医疗设备的图像。相机可能能够以任何分辨率捕获图像,例如本文别处描述的那些。相机可用于捕获静止图像和/或视频图像。相机可能正在实时捕获图像。
在一些情况下,一个或多个相机可以相对于医疗控制台可移动。例如,一个或多个相机可以由臂143支撑。臂可以包括一个或多个部分。在一个示例中,可以在臂的末端处或附近支撑相机。臂可以包括一个或多个部分、两个或更多个部分、三个或更多个部分、四个或更多个部分、或更多个部分。这些部分可以相对于彼此或医疗控制台的主体移动。这些部分可以围绕一个或多个铰链或接头枢转。在一些实施方式中,移动可以被限制在单个平面上,例如水平平面。或者,移动不必局限于单个平面。这些部分可以水平和/或垂直移动。相机可以具有至少一个、两个、三个或更多个自由度。臂可以可选地包括可以允许用户手动将臂操纵到希望位置的把手。臂可以保持在它被操纵的位置。用户可能需要也可能不需要锁定臂以保持其位置。这可以为相机提供稳定的支撑。臂可以根据需要被解锁和/或重新操纵到新的位置。在一些实施方式中,远程用户可能能够控制臂和/或相机的位置。
在一些情况下,本公开的相机和/或成像传感器可以独立于医疗控制台或一个或多个显示器提供。相机和/或成像传感器可用于捕获正在进行的外科手术过程或正操作的、已经操作的或将要操作的作为外科手术过程一部分的手术部位的图像和/或视频。在一些情况下,本文公开的相机和/或成像传感器可用于捕获帮助或执行外科手术过程的一个或多个步骤的外科医生、医生或医务工作者的图像和/或视频。相机和/或成像传感器可以独立于医疗控制台或一个或多个显示器移动。例如,相机和/或成像传感器可以定位和/或朝向第一方向或朝向第一区域,医疗控制台或一个或多个显示器可以定位和/或朝向第二方向或朝向第二区域。在一些情况下,一个或多个显示器可以独立于一个或多个相机和/或成像传感器移动,而不会影响或改变相机或成像传感器的位置和/或方向。本文描述的一个或多个显示器可用于显示使用相机和/或成像传感器捕获的图像和/或视频。在一些情况下,一个或多个显示器可用于显示远程供应商代表向可以执行或进行外科手术过程所在的医疗保健设施或手术室中的一个或多个医务工作者提供的图像、视频或其他信息或数据。显示在一个或多个显示器上的图像或视频可以包括供应商代表的图像或视频。显示在一个或多个显示器上的图像或视频可能包括供应商代表的图像和/或视频,因为供应商代表提供实时反馈、说明、指导、咨询或演示。此类实时反馈、说明、指导、咨询或演示可能涉及一种或多种医疗器械或工具的使用,或者使用一种或多种医疗器械或工具在外科手术过程中一个或多个步骤的执行。
在一些实施方式中,一个或多个相机和/或成像传感器可以包括两个或更多个相机和/或成像传感器。两个或更多个相机和/或成像传感器可以彼此独立移动。在一些情况下,第一相机和/或成像传感器可以独立于第二相机和/或成像传感器并相对于第二相机和/或成像传感器可移动。在一些情况下,第二相机和/或成像传感器可以是固定的或静止的。在其他情况下,第二相机和/或成像传感器可以独立于第一相机和/或成像传感器并相对于第一相机和/或成像传感器可移动。
图13示意性地示出了可用于视频协作的系统1300的示例。系统1300可以包括医疗控制台1301、一个或多个相机1310和至少一个显示单元1320。医疗控制台1301可以包括一个或多个组件或特征,其能够使至少一个显示单元1320和一个或多个相机1310相互独立地和相对地移动。一个或多个组件或特征可以包括例如提供一个或多个自由度的臂或可移动元件。在一些情况下,一个或多个相机1310可以彼此独立地移动以捕获正在进行的外科手术过程的不同视图。在一些情况下,一个或多个相机1310可以独立于至少一个显示单元1320移动,而不影响或改变至少一个显示单元1320的位置和/或取向。在一些情况下,至少一个显示单元1320可以独立于一个或多个相机1310移动,而不影响或改变一个或多个相机1310的位置和/或取向。
在一些实施方式中,可以在第一位置处或附近提供一个或多个相机。一个或多个相机可以被或可以不被医疗控制台支撑。在一些实施方式中,一个或多个相机可以由第一位置处的天花板160、墙壁、家具或其他物品支撑。例如,一个或多个相机可以安装在墙壁、天花板或其他设备上。此类相机可以直接安装在表面上,也可以安装在吊杆或臂上。例如,臂可以在支撑相机时从天花板向下延伸。在另一示例中,臂可以在支撑相机时附接到患者的床或表面上。在一些情况下,医务人员可能会佩戴相机。例如,相机可以佩戴在头带、腕带、躯干或医务人员的任何其他部分上。相机可以是医疗设备的一部分,也可以由医疗设备(例如,内窥镜等)支撑。一个或多个相机可以是固定相机或可移动相机。一个或多个相机可能能够绕一个或多个、两个或更多个、或三个或更多个轴旋转。一个或多个相机可以包括平移-倾斜-变焦相机。相机可由个人在第一位置处手动移动。相机可能被锁定到位和/或解锁以进行移动。在一些情况下,一个或多个相机可以由一个或多个远程用户远程控制。相机可能会放大和/或缩小。任何相机都可以具有如本文提供的任何分辨率值。相机可以可选地具有可以照亮感兴趣区域的光源。或者,相机可能依赖于外部光源。
由一个或多个相机145、146捕获的多个图像和/或视频可以使用如本文其他地方所述的视频处理模块进行分析。视频可能能够实时分析。视频可以发送到远程通信设备。这可以允许远程用户远程观看由位于第一位置处或附近的相机或成像设备的视野捕获的图像或视频。例如,远程用户可以观看手术部位和/或在第一位置处正在使用的任何医疗设备。远程用户可能能够观看在第一位置的医务人员。远程用户可能能够基本上实时地观看这些。例如,这可以在1分钟或更短、30秒或更短、20秒或更短、15秒或更短、10秒或更短、5秒或更短、3秒或更短、2秒或更短或1秒或更短内实际发生的事件。这可能允许远程用户在第一位置处监控外科手术过程,而无需亲自到第一位置。医疗控制台和相机可以帮助向远程用户提供必要的图像、视频和/或信息以在第一位置处虚拟存在。
视频分析可以在本地第一位置110处发生。在一些实施方式中,分析可以在医疗控制台140上发生。例如,分析可以借助于通信设备115的一个或多个处理器或可能位于医疗控制台上的另一台计算机发生。在一些情况下,视频分析可能会远离于第一位置发生。在一些情况下,一个或多个服务器170可以被用来执行视频分析。服务器可能能够访问和/或接收来自多个位置的信息,并可能收集大型数据集。大型数据集可以与机器学习结合使用,以提供越来越精确的视频分析。本文对服务器的任何描述也可以应用于任何类型的云计算基础设施。分析可以远程发生,并且反馈可以基本上实时地传达回控制台和/或位置通信设备。本文对实时的任何描述可以包括在短时间内可能发生的任何动作(例如,在小于或等于约10分钟、5分钟、3分钟、2分钟、1分钟、30秒、20秒、15秒、10秒、5秒、3秒、2秒、1秒、0.5秒、0.1秒、0.05秒、0.01秒或更短时间内)。
在一些情况下,由多个成像设备捕获的多个视频可以保存到一个或多个文档中,以便在以后的时间(例如,在外科手术过程完成后)观看。一个或多个文档可以储存在服务器中。服务器可能位于远离执行外科手术过程的位置。该服务器可以包括云服务器。储存在服务器上的一个或多个文档可以在外科手术过程期间和/或之后可由一个或多个终端用户访问。一个或多个终端用户可以位于远离执行外科手术过程的位置。
在一些情况下,多个视频可以被广播和/或流式传输到多个终端用户设备。多个终端用户设备可以包括一个或多个如本文其他地方所述的远程通信设备。多个远程通信设备可以被配置为向一个或多个终端用户显示多个视频的至少一个子集。多个视频可以实时流式传输到一个或多个终端用户。多个视频可以从第一位置广播和/或流式传输到第二位置。第一位置可能对应于执行外科手术过程的位置。第二位置可能对应于远离第一位置的另一位置。多个视频可以经由如图1A所示的通信网络流式传输、广播和/或与一个或多个终端用户共享。在一些情况下,多个视频可以暂时储存在服务器或云服务器上,然后再将多个视频流式传输和/或广播给一个或多个终端用户。在一些情况下,多个视频可以在多个视频被流式传输和/或广播给一个或多个终端用户之前由视频处理模块进行处理和/或分析。视频处理模块可以提供在远程服务器或云服务器上。在一些情况下,视频处理模块可以提供在位于执行外科手术过程的手术室、医疗室或医疗保健设施中的计算设备上。
多个视频可以保存或储存在服务器上,然后多个视频经由流式传输、实时广播或视频点播提供给一个或多个终端用户。服务器可以位于执行外科手术过程的第一位置。服务器可能位于远离执行外科手术过程的第一位置的第二位置。在一些情况下,可以使用通信网络将多个视频从服务器传送给一个或多个远程终端用户。
在一些情况下,多个视频可以直接从多个成像设备流式传输或广播到一个或多个终端用户。在这种情况下,多个视频可以经由通信网络从多个成像设备传送到一个或多个终端用户的一个或多个通信设备。
在一些情况下,可以使用可操作地耦合到多个成像设备的显示单元来观看多个视频。显示单元可以位于执行外科手术过程的手术室中。在一些情况下,显示单元可以位于执行外科手术过程的医疗保健设施内的另一房间(例如,另一手术室或患者候诊室)。
多个终端用户可以在一个或多个远程通信设备上接收和/或观看多个视频或其子集。一个或多个远程通信设备可以被配置为经由通信网络接收多个视频。一个或多个远程通信设备可以被配置为向一个或多个终端用户显示多个视频或其子集。一个或多个远程通信设备可以包括计算机、台式机、膝上型计算机和/或一个或多个终端用户的移动设备。一个或多个终端用户可以使用一个或多个远程通信设备来观看多个视频的至少一个子集。
在一些情况下,视频可以显示给在医务人员的位置之外(例如,在手术室外,或在医疗保健设施之外)的一个或多个终端用户。在一些情况下,视频可以显示给可以远程为医疗过程提供支持的一个或多个终端用户(例如,其他执业医生、供应商代表)。在一些情况下,视频可以广播给对监测、跟踪或观看外科手术过程的一个或多个步骤感兴趣的一定数目的终端用户。终端用户可能出于培训或评估目的观看外科手术过程。实时流式传输给一个或多个终端用户的视频可能会自动使数据匿名化。个人信息可能会被实时移除,以便手术室外的终端用户无法可以观看个人的任何个人信息。
在一些情况下,多个视频可以稍后被观看和回放。在一些情况下,当稍后提供视频时,个人信息可能会自动移除和/或匿名化。
图2示出了包括与服务器205通信的一个或多个成像设备200-1、200-2和200-3的多个成像设备。多个成像设备200-n可以包括n个成像设备,其中n大于或等于1。服务器205可以被配置为接收由多个成像设备200-n捕获的多个视频并将多个视频发送到多个终端用户设备。多个终端用户设备210-n可以包括一个或多个终端用户设备210-1、210-2、210-3等。多个终端用户设备210-n可以包括n个终端用户设备,其中n大于或等于1。在一些情况下,服务器205可以包括如上所述的视频处理模块。视频处理模块可以被配置为在将多个视频发送到多个终端用户设备210-n之前分析从多个成像设备200-n接收的多个视频。多个成像设备200-n可以位于如上所述的第一位置110。多个终端用户设备210-n可以位于远离第一位置110的一个或多个远程位置。在一些情况下,一个或多个远程位置可以对应于在第一位置之外的不同位置但在第一位置所在的同一医疗保健设施内。例如,一个或多个远程位置可以对应于远离正在执行外科手术过程的手术室的不同手术室。或者,一个或多个远程位置可以对应于远离正在执行外科手术过程的手术室的不同房间(例如,候诊室、病房、诊室、日间室、急诊室、药房、重症监护室等)。在一些情况下,一个或多个远程位置可以对应于第一位置所在的医疗保健设施之外的一个或多个位置。在一些情况下,多个终端用户设备中的每个终端用户设备可以位于远离第一位置的多个不同位置。例如,第一终端用户设备可以在第二位置,第二终端用户设备可以在第三位置,第三终端用户设备可以在第四位置,等等。
在本文描述的任何实施方式中,位于一个或多个远程位置的多个终端用户可以利用一个或多个终端用户设备独立地或集体地向第一位置的医务人员提供远程支持。在本文描述的任何实施方式中,位于一个或多个远程位置的多个终端用户可以利用一个或多个终端用户设备来相互交互、通信和/或协作。在本文描述的任何实施方式中,位于一个或多个远程位置的多个终端用户可以利用一个或多个终端用户设备与第一位置的医务人员集体交互、通信和/或协作。在本文描述的任何实施方式中,位于一个或多个远程位置的多个终端用户可以利用一个或多个终端用户设备与第一位置的医务人员独立地交互、通信和/或协作。
图3示出了包括一个或多个成像设备200-1、200-2、200-3等的多个成像设备200-n,这些成像设备与包括一个或多个终端用户设备210-1、210-2、210-3等的多个终端用户设备210-n通信。多个成像设备200-n可以位于如上所述的第一位置110。多个终端用户设备210-n可以位于一个或多个远离第一位置110的远程位置。如上所述,一个或多个远程位置可以对应于彼此相距较远和/或远离第一位置的不同远程位置。在一些情况下,多个成像设备200-n可以被配置为使用通信网络直接将成像设备捕获的多个视频传送给多个终端用户设备210-n。在其他情况下,多个成像设备200-n可以可操作地耦合到位于正在执行外科手术过程的第一位置110内或附近的一个或多个本地通信设备。在此情况下,一个或多个本地通信设备可以被配置为使用本文描述的任何一个或多个通信网络直接将成像设备捕获的多个视频传送到多个终端用户设备210-n。
可以通过显示在通信设备上的用户界面来观看多个视频。在一些情况下,通信设备可以包括医疗控制台上的本地通信设备,该医疗控制台位于执行外科手术过程的手术室中。在一个示例中,用户界面可以显示在执行过程的医务人员位置处的设备的屏幕上。在其他情况下,用户界面可以显示在终端用户的远程通信设备的屏幕(例如,触摸屏)上。远程通信设备可以包括终端用户的计算机、台式机、膝上型计算机和/或移动设备。在一些情况下,远程通信设备可以包括终端用户设备,其被配置为接收使用多个成像设备捕获的一个或多个视频。
用户界面可以呈现正在执行的医疗过程的一个或多个视觉表示。如图4所示,在一些情况下,用户界面400可以被配置为显示多个区域401和402,其显示关于一个或多个医疗过程的信息。这些区域可以被配置为显示由多个成像设备捕获的多个视频中的至少一个视频。这些区域可以包括图标、图像、视频、文本或交互式按钮。在一些情况下,各个区域可能包括附加信息,如相关的医疗保健设施、医疗保健设施(例如,手术室)的相关位置、医务人员(例如,外科医生的姓名)、过程类型(例如,过程代码、过程名称)、与外科手术过程的一个或多个步骤相关的定时信息和/或医疗产品信息(例如,正在使用的医疗产品的标识)。用户界面400可以显示在终端用户的设备上。
在一些情况下,当医疗过程正在发生或预定发生时,各个区域可能是可视的。区域可以在一个或多个预定时间显示。一个或多个预定时间可与终端用户的身份或类型相关联。区域还可以绑定到通信系统,以便如果一个终端用户能够看到该区域,则该区域不再显示给第二终端用户。这允许每个终端用户在给定时间内仅观看外科手术过程的相关部分或步骤。
在一些情况下,只有单个区域可以显示在终端用户的屏幕上。可选地,终端用户对一个或多个区域的访问权限可以保留或专用于医疗过程的一个或多个部分或步骤。在给定时间,终端用户只能看到现场过程的单个相关区域。
在一些实施方式中,多个终端用户可以看到用于医疗过程的一个或多个步骤的同一区域。例如,如果外科手术过程的特定步骤与多个终端用户相关或感兴趣,则可能有多个终端用户能够同时观看该区域。
在一些情况下,用户界面可以被配置为显示供终端用户指定终端用户是否希望通过过程步骤或按时间访问通信系统的选项。可能会提示用户选择一个选项。
用户界面可以显示外科手术过程的一个或多个步骤的任意数目的视图。在一些实施方式中,用户界面可以显示手术部位和/或要使用的产品的任意数目的视图。这些视图可以根据需要静止和/或可移动。视图数目和/或视图类型可能会根据需要更改。终端用户可能能够控制视图。例如,终端用户可以能够根据需要放大或缩小用户界面的一个或多个区域。例如,终端用户可以操作终端用户屏幕上的图像或视频以放大或缩小特定视图,或者扩展特定视图、减少特定视图或调整特定视图的大小。
在一些情况下,来自连接到控制台的设备的辅助图像可以被呈现出来。例如,来自ECG设备、内窥镜、腹腔镜、超声设备或任何其他设备的图像也可能是可见的。图像可能具有足够的分辨率,以便医务人员可以提供有效的支持。用户界面可能允许终端用户观看相关的医疗过程和/或产品,并根据需要提供支持。
在一些情况下,用户界面可以可选地显示其他数据。例如,可以显示来自一个或多个医疗设备的读数。例如,可能会显示患者的脑电图(EEG)、心电图(ECG/EKG)、肌电图(EMG)、心率、氧合水平或其他数据。有关患者的个人信息,如患者的姓名、患者ID号、患者人口统计、患者地址、患者的病史,供应商代表可能会或可能不会观看。
在一些情况下,终端用户可以操纵用户界面以在多个视图之间切换。例如,如果终端用户需要对特定过程提供更集中的关注,则终端用户可以放大或允许与该过程相关的信息扩展并占用屏幕或整个屏幕上的更多空间。
根据本发明的实施方式,用户界面可以显示由一个或多个图像捕获设备捕获的图像或视频,并实时向终端用户(例如,医生)提供支持。用户界面可以显示在如医疗控制台上的本地通信设备的通信设备上。用户界面可以显示在执行该过程的医务人员位置处的设备屏幕上。用户界面可以显示在终端用户的远程通信设备的屏幕上。
在一些情况下,单个图像或视频可以在给定时刻显示给终端用户。终端用户可以在来自不同相机的不同视图之间切换。图像可以按顺序显示。
在一些其他情况下,多个图像或视频可以在给定时刻同时显示给一个或多个终端用户。例如,多个图像或视频可以显示在行、列和/或阵列中。图像或视频可以以并排方式同时显示。在一些情况下,较小的图像或视频可能会插入到较大的图像或视频中。用户可以选择较小的图像来扩展较小的图像或视频,并缩小较大的图像或视频。可以同时显示任意数目的图像或视频。例如,可以同时显示两个或更多个、三个或更多个、四个或更多个、五个或更多个、六个或更多个、八个或更多个、十个或更多个、或二十个或更多个图像或视频。所显示的各种图像或视频可以包括来自不同成像设备的图像或视频。成像设备可以被配置为同时将不同的视频实时流式传输到用户界面的不同区域。
在一些情况下,来自多个成像设备的视频可以以并排视图或阵列视图提供。来自多个成像设备的图像可以同时显示在同一屏幕上。
在一些情况下,终端用户可以使用用户界面将视频的一部分标识或标记为相关。当视频的一部分被标记为相关时,来自所有成像设备的同时捕获的视频可能会被调出并一起显示。在其他情况下,只能调出和显示来自成像设备的已标记为相关的视频。在一些实施方式中,视频分析系统可以选择成像设备,该成像设备在给定时间段内提供已标记为相关的过程的最佳视图。这可能是提供已标记为相关的视频的同一成像设备,也可能是另一成像设备。
在一些情况下,用户界面可以包括显示附加信息。附加信息可能与医务人员正在执行或即将执行的过程有关。附加信息可能包括与医疗过程有关的步骤。例如,可以显示为了执行医疗过程而预测的步骤列表。步骤列表可以按时间顺序显示,第一步骤显示在列表顶部。在一些实施方式中,可以呈现单个步骤列表。在一些实施方式中,列表可以具有子列表等等。例如,列表可能以嵌套方式显示,其中一个步骤可能对应于包含如何执行每个步骤的详细信息的第二列表。可以呈现每个步骤的任意数目的列表和子列表层。
在一些情况下,用户界面可以被配置为同时显示一个或多个视频。一个或多个视频可以以并排配置提供。在一些情况下,用户界面可以被配置为允许终端用户在一个或多个视频之间切换,或者相对于第二视频放大第一视频。
在一些情况下,用户界面可以被配置为基于进度量、执行的步骤数、剩余步骤数、经过的时间量和/或剩余时间量来显示不同的视频或不同的外科手术过程视图。
用户界面可以被配置为提供对应于外科手术过程的附加数据或在用户界面内显示的多个视频。例如,用户界面可以被配置为显示来自EKG/ECG或一个或多个传感器的附加数据,这些传感器用于监测经历外科手术过程的对象的心率、血压、血氧饱和度、呼吸和/或温度。在一些情况下,附加数据可能叠加在用户界面中显示的一个或多个视频的一部分上。用户界面可以被配置为在外科手术过程期间提供附加数据的实时更新。
在一些情况下,多个终端用户的每个远程通信设备可以被配置为显示终端用户特定的用户界面。终端用户特定的用户界面可以包括为每个终端用户量身定制的个性化或自定义的用户界面。个性化或自定义的用户界面可能允许每个终端用户仅观看与终端用户相关的视频。例如,供应商可能只能看到与供应商相关的多个视频的子集,如使用供应商提供的工具的一个或多个视频。此外,医生或医疗操作者可以看到多个视频的不同子集,并且正在经历外科手术过程的医疗对象的家庭成员或朋友可以看到多个视频的另一个不同子集。
在一些情况下,用户界面可以被配置为匿名化个人信息或个人数据,这些个人信息或个人数据可以被捕获和/或显示在多个视频的一个或多个视频中。在此情况下,用户界面可以被配置为剥离或编辑可能与正在经历外科手术过程的患者关联的个人信息或个人数据。
在一些实施方式中,用户界面可以移除个人数据。在一些情况下,由多个成像设备捕获的图像或视频可以包括与患者有关的个人信息。例如,图表或文档可能包含患者的姓名、出生日期、社会保障号码、地址、电话号码、保险信息或任何其他类型的个人信息。在一些实施方式中,可能希望从视频中为患者编辑个人信息。在一些情况下,可能希望匿名化视频上显示的信息,以遵守一套或多套规则、过程或法律。在一些情况下,视频上显示的所有信息可能都符合《健康保险流通与责任法案》(符合HIPAA标准)。
在一些情况下,用户界面可以显示与患者有关的信息,例如图表或一组医疗录音。图表或医疗录音可以包括在过程期间已被访问的物理文档和/或电子文档。该信息可能包括与患者有关的个人或敏感信息。此信息可以由视频分析系统自动识别。视频分析系统可以使用对象和/或字符识别来能够识别所显示的信息。在一些情况下,可以使用字词识别技术来分析信息。可以可选地使用自然语言处理(NLP)算法。在一些情况下,当识别出个人信息时,可以自动移除个人信息。本文对个人信息的任何描述可能包括与患者有关的任何敏感信息,或可能识别或提供患者个人特征的任何信息。
用户界面可以被配置为显示由一个或多个成像设备捕获的一个或多个图像或视频,如本文其他地方所述。在一些情况下,一个或多个图像或视频可能包含可能需要移除的个人信息。在一些情况下,患者身上的识别特征(例如,患者的面部、医用手环等)可以被摄像机捕获。可以对一个或多个图像进行分析,以自动检测何时在图像内捕获识别特征并移除识别特征。在一些情况下,对象识别可用于识别个人信息。例如,可以识别个人的面部或医用手环,以识别要移除的个人信息。在一些情况下,患者的图表或医疗录音可能会被摄像机捕获。患者的图表或医疗录音上的个人信息可能会被自动检测并移除。
个人信息可以通过被编写、删除、覆盖、混淆或使用可能隐藏个人信息的任何其他技术来删除。在一些情况下,本文提供的系统和方法可能能够识别需要移除的所显示信息的尺寸和/或形状。可以提供相应尺寸和/或形状的编辑。在一些情况下,可能会在图像上提供掩码以覆盖个人信息。掩码可能具有相应的形状和/或尺寸。
因此,录音和/或显示的任何视频都可以匿名化患者的个人信息。在一些情况下,显示在医务人员位置(例如,在手术室内)的视频可能会显示所有信息,而无需实时编辑个人信息。或者,显示在医务人员位置的视频可能具有移除的个人信息。
图5示出了多个不同的用户界面400-1、400-2和400-3,它们可以显示在与不同终端用户相关联的不同终端用户设备上。多个不同的用户界面400-1、400-2和400-3可以被配置为显示由多个成像设备捕获的不同视频或多个视频的不同子集。例如,第一终端用户(用户A)可能看到第一用户界面400-1,该第一用户界面400-1被配置为显示第一组视频410-1、410-2和410-3。在一些情况下,第二终端用户(用户B)可能看到第二用户界面400-2,该第二用户界面400-2被配置为显示不同的第二组视频410-1和410-2。在一些情况下,第三终端用户(用户C)可能看到第三用户界面400-3,该第三用户界面400-3被配置为显示不同的第三组视频410-2和410-3。在一些情况下,可能会对部分视频进行编写以移除个人信息。例如,可由用户C看到的多个视频410-2和410-3的一个或多个部分可以被编写420以覆盖、隐藏或阻止与正在经历外科手术过程的医疗患者相关联的个人信息。图5中示出的多个用户界面可以被配置或定制为任意数目的不同终端用户和/或本文中描述的视频协作系统和方法的任何协作应用。多个用户界面可以根据与一个或多个终端用户共享的视频或视频子集来配置或定制。如果不同的视频或不同的视频子集与一个或多个终端用户共享,则多个用户界面可以包含不同的布局。多个用户界面可以基于终端用户的类型、终端用户的身份、一个或多个视频与终端用户的相关性和/或终端用户是否被允许或有资格观看一个或多个视频,为不同的终端用户显示不同的视频或不同的视频子集。
在一些情况下,多个视频可以经由通信网络提供给一个或多个终端用户。当正在执行外科手术过程的一个或多个步骤时,多个视频可以通过实时流式传输提供给一个或多个终端用户。在一些情况下,多个视频可以作为视频提供给一个或多个终端用户,这些视频可以在外科手术过程的一个或多个步骤已经执行或完成之后由一个或多个终端用户访问和观看。
在一些情况下,一个或多个终端用户可以接收由多个成像设备捕获的同一组视频。在其他情况下,多个终端用户的每个终端用户可以接收多个视频的不同子集。在一些情况下,每个终端用户可能会基于终端用户的类型、终端用户的身份、一个或多个视频与终端用户的相关性和/或终端用户是否被允许或有资格观看一个或多个视频来接收一个或多个视频。在一些情况下,每个终端用户可能会基于终端用户的类型、终端用户的身份、一个或多个视频与终端用户的相关性和/或终端用户是否被允许或有资格观看一个或多个视频来接收不同的视频或不同的视频子集。多个视频的不同子集可以包括使用多个成像设备的不同子集捕获的一个或多个视频。
多个终端用户的每个终端用户可以基于多个视频的特定子集与每个终端用户的相关性接收多个视频的不同子集。在一些情况下,一个或多个终端用户可能接收不同的视频或不同的视频子集,这些视频或视频子集对应于外科手术过程的特定方面或部分,一个或多个终端用户可能能够为其提供指导或远程支持。在一些情况下,每个终端用户可能接收一个或多个与每个终端用户的感兴趣相关的视频。例如,每个终端用户可以接收一个或多个视频,这些视频捕获了外科手术过程感兴趣的特定视点。在另一示例中,每个终端用户可以接收一个或多个视频,这些视频捕获了外科手术过程感兴趣的不同步骤。在一些情况下,第一终端用户可以接收外科手术过程的第一步骤的第一视频,第二终端用户可以接收外科手术过程的第二步骤的第二视频,依此类推。在一些情况下,每个终端用户可以接收一个或多个视频,这些视频捕获了在外科手术过程期间使用的不同工具。在一些情况下,第一终端用户可以接收在外科手术过程期间使用的第一医疗工具的第一视频,第二终端用户可以接收在外科手术过程期间使用的第二医疗工具的第二视频,依此类推。在一些情况下,一个或多个终端用户可以根据终端用户是否被允许或有资格观看一个或多个视频来接收不同的视频或不同的视频子集。在一些情况下,一个或多个终端用户可以根据一个或多个法规或法律,如“健康保险流通与责任法案”接收不同的视频或不同的视频子集。在一些情况下,一个或多个终端用户可以根据医疗患者、外科操作者、医疗保健设施管理员或成员、医疗患者的朋友或家庭成员和/或如本文所述的任何其他终端用户设置的一个或多个规则来接收不同的视频或不同的视频子集。一个或多个规则可以规定哪些终端用户可以观看和/或访问由一个或多个成像设备捕获的特定视频集或子集,以及可以观看或访问此类视频的条件。在一些情况下,一个或多个终端用户可以接收同一视频或视频帧的不同部分或片段,这取决于与多个视频的可视性和/或可访问性相关联的一组规则、一个或多个终端用户的专业或角色,或者视频或视频帧的不同部分或片段与一个或多个终端用户中的每个终端用户的相关性。在一些情况下,可以将来自控制台或广播机的一个或多个并行流提供给适用的或授权的终端用户。一个或多个并行流可以被配置为向每个终端用户提供不同的视频或视频组合,这取决于与多个视频的可视性和/或可访问性相关联的一套规则、一个或多个终端用户的专业或角色,或者视频或视频帧的不同部分或片段与每个终端用户的相关性。
在一些情况下,可以将多个视频提供给一个或多个医疗供应商。在此情况下,一个或多个医疗供应商中的每一个都可以观看多个视频的一个或多个子集。一个或多个子集可以包含一个或多个视频,这些视频跟踪供应商在外科手术过程中提供的工具的使用情况。在一些情况下,一个或多个视频可能会跟踪外科手术过程的一部分或步骤,在此期间可能需要供应商的支持、输入或指导。在这种情况下,每个供应商可以接收多个视频的不同子集,这些视频对应于由供应商提供、支持或管理的一个或多个医疗工具或器械的使用情况。
在一些情况下,多个终端用户中的每一个可以在不同时间或针对外科手术过程的不同步骤接收多个视频的不同子集。例如,第一终端用户可以在外科手术过程期间的第一时间点接收多个视频的第一子集,并且第二终端用户可以在外科手术过程期间的第二时间点接收多个视频的第二子集。在一些情况下,第一终端用户可以在第一时间段观看多个视频的第一子集,并且第二终端用户可以在不同于第一时间段的第二时间段观看多个视频的第二子集。在一些情况下,第一时间段和第二时间段可能重叠。在其他情况下,第一时间段和第二时间段可以不重叠或不必重叠。第一时间段可以对应于外科手术过程的第一步骤。第二时间段可以对应于外科手术过程的第二步骤。
在一些情况下,多个终端用户可以同时或同时观看不同的视频。例如,第一终端用户可以从第一视点观看外科手术过程的一个或多个步骤的视频,而第二终端用户可以从与第一视点不同的第二视点观看外科手术过程的一个或多个步骤的视频。
在一些情况下,一个或多个终端用户可以接收和/或观看由多个成像设备捕获的多个视频中的每一个。例如,正在经历外科手术过程的医疗对象的朋友和/或家庭成员可能能够观看由多个成像设备捕获的每个和每一个视频。在这种情况下,朋友和/或家庭成员可能能够从由多个成像设备捕获的每一个视点监测外科手术过程的每个步骤。在一些情况下,朋友和/或家庭成员可能能够在不同的视频之间切换,从多个不同的视点观看外科手术过程的一个或多个步骤。在一些情况下,朋友和/或家庭成员可能能够同时观看多个视频的至少一个子集,以便同时监测外科手术过程的不同视点。
在一些情况下,医疗操作者可能能够在完成外科手术过程后接收和/或观看由多个成像设备捕获的多个视频中的每一个。在这种情况下,医疗操作者可以观看外科手术过程的不同部分,以便在执行外科手术过程的不同步骤时评估医疗操作者的技能或效率。
在一些情况下,医疗支持人员可能能够在执行外科手术过程时接收和/或观看由多个成像设备捕获的多个视频中的每一个。在这种情况下,医疗支持人员可能能够使用多个视频来确定外科手术过程可能花费多长时间,协调其他外科手术过程的安排,如果外科手术过程花费的时间比预期的要长,预订或预约不同的手术室,调整手术室分配,或通知其他医疗操作者外科手术过程的进度或完成外科手术过程的估定时间。或者,医疗支持人员可能能够使用多个视频来确定需要为外科手术过程的后续步骤准备哪些医疗器械或工具。
在一些情况下,可以将多个视频中的每一个视频提供给将在外科手术过程的另一步骤中对医疗对象进行操作的其他医疗操作者。在这种情况下,其他医疗操作者可能能够监测之前过程的一个或多个步骤和/或导致他们将要对医疗对象进行操作的过程步骤。其他医疗操作者可以使用多个视频为轮到他们做准备。
在一些情况下,多个成像设备可用于协调两个或更多个并行(即,同时发生的)外科手术过程。两个或更多个并行过程可以包括针对第一对象的第一外科手术过程和针对第二对象的第二外科手术过程。第一对象可以包括供体患者并且第二对象可以包括受体患者。或者,第一对象可以包括受体患者并且第二对象可以包括供体患者。在这种情况下,多个成像设备可以被配置为捕获第一外科手术过程和/或第二外科手术过程的一个或多个视频。可以将一个或多个视频提供给第一外科手术过程的第一医疗操作者和/或第二外科手术过程的第二医疗操作者。可以将一个或多个视频提供给第一医疗操作者或第二医疗操作者中的至少一个,使得第一医疗操作者和第二医疗操作者可以协调第一外科手术过程和第二外科手术过程的定时并且使完成第一外科手术过程的一个或多个步骤与完成第二外科手术过程的一个或多个步骤之间的候诊时间最小化。
在一些情况下,可以使用人工智能模块将多个视频选择性地分发给一个或多个终端用户。人工智能模块可以被配置为实施一种或多种算法以在多个成像设备捕获一个或多个视频时实时确定每个终端用户可观看和/或可访问哪些视频或视频子集。人工智能模块可以被配置为实施一种或多种算法以实时确定在执行外科手术过程的一个或多个步骤时每个终端用户可观看和/或可访问哪些视频或视频子集。人工智能模块可以被配置为基于每个终端用户的身份、每个终端用户在支持外科手术过程中的角色、每个终端用户提供的支持类型、一个或多个视频与每个终端用户的相关性,和/或每个终端用户是否被允许或有资格观看一个或多个视频来实时确定每个终端用户可观看和/或可访问哪些视频或视频子集。
在一些情况下,可以将由多个成像设备捕获的多个视频提供给一个或多个终端用户以帮助一个或多个终端用户估计或预测与正在进行的外科手术过程相关联的一个或多个定时参数。一个或多个定时参数可以包括如自外科手术过程开始以来经过的时间量、完成该外科手术过程的估定时间量、自外科手术过程开始以来完成的步骤数、完成外科手术过程的剩余步骤数、外科手术过程的进度量、外科手术过程的当前步骤、和/或外科手术过程中的一个或多个剩余步骤的信息。在一些情况下,一个或多个定时参数可以包括和/或对应于与本文其他地方描述的外科手术过程的一个或多个步骤相关联的定时信息。在一些情况下,视频处理模块可以被配置为分析和/或处理由多个成像设备捕获的多个视频以确定一个或多个定时参数。
在一些情况下,可以部分地基于外科手术类型、执行外科手术过程的医疗操作者使用的一个或多个医疗器械、对正在经历外科手术(对于不同的解剖结构,可能会发生不同的步骤或过程)的对象身体的一部分的解剖学分类和/或外科手术过程的特性与另一外科手术过程的相似性来确定一个或多个定时参数。在一些情况下,一个或多个定时参数可以部分地基于所用医疗器械的变化、医生或医疗操作者的变化、正在使用的一个或多个医疗器械的位置或取向的变化、医生或医疗操作者在外科手术过程中的位置或取向的变化和/或正在经历外科手术过程的患者的位置或取向的变化来确定。
在一些情况下,可以基于患者的解剖类型生成一个或多个定时参数。在这种情况下,可以预测该解剖类型过程的一组步骤,以及每个步骤的预测定时。可以识别患者的解剖类型。在一些实施方式中,来自多个视频的图像可用于识别患者的解剖类型。在一些情况下,患者的医疗记录可能会被自动访问并用于帮助识别患者的解剖类型。在一些情况下,医务人员可能会输入可用于确定患者解剖类型的信息。在一些情况下,医务人员可以直接输入患者的解剖类型。在一些情况下,来自多个来源(例如,两个或更多个视频图像、医疗录音、手动输入)的信息可用于确定患者的解剖类型。可能影响患者的解剖类型的因素的示例可能包括但不限于性别、年龄、体重、身高、各种解剖学特征的位置、各种解剖学特征的尺寸、过去的医疗过程或病史、疤痕组织的存在与否或任何其他因素。
在一些情况下,可以分析多个视频并用于帮助确定患者的解剖类型。对象识别可用于识别患者身上的不同解剖学特征。在一些情况下,可以识别一个或多个特征点并用于识别一个或多个对象。在一些实施方式中,尺寸和/或缩放可以在不同的解剖学特征之间确定。可以在患者身上提供一个或多个基准标志物,以帮助确定缩放和/或尺寸。
在一些实施方式中,机器学习可用于确定患者的解剖类型。当提供和/或访问患者的信息时,本文提供的系统和方法可以自动确定患者的解剖类型。在一些实施方式中,确定的解剖类型可以可选地显示给医务人员。医务人员可能能够回顾确定的解剖类型并确认评估是否准确。如果评估不准确,医务人员可能能够纠正解剖类型或提供可能更新解剖类型的附加的信息。
由于具有不同解剖类型的患者可能需要不同的步骤才能实现类似的目标,因此预测过程的一组步骤和用于这些预测步骤的相关联定时可能取决于患者的解剖类型。医务人员可能会根据患者的位置或各种解剖学特征的尺寸、年龄、过去的医疗状况、整体健康状况或其他因素采取不同的步骤。在一些情况下,对于不同的解剖类型,可能会采取不同的步骤。例如,某些步骤或技术可能更适合特定的解剖学特征。在其他情况下,可以采取相同的步骤,但定时可能会有很大差异。例如,对于特定的解剖学特征,特定步骤可能更难执行,并且可能最终通常花费了比解剖学特征不同时更长的时间。
在一些实施方式中,机器学习可以用于确定用于特定解剖类型的步骤。本文提供的系统和方法可以利用训练数据集来确定通常用于特定解剖类型的步骤。这可能包括确定使用的各种步骤的定时。在一些情况下,可能会向医务人员显示建议的步骤。在医务人员开始过程之前,这些步骤可能会显示给医务人员。医务人员可能能够回顾建议的步骤,以确认这些建议是否准确。如果建议不准确或不可取,医务人员可能会提供一些反馈或改变步骤。显示可能包括也可能不包括有关各个步骤的预期定时的信息。
在一些情况下,一个或多个定时参数可用于生成或更新外科手术过程的一个或多个步骤的估计或预测定时。在一些情况下,外科手术过程的一个或多个步骤的估计定时可以至少部分地基于与外科手术过程相关联的进度量进行更新。
一个或多个定时参数可用于向医疗患者的朋友或家人提供估计已完成多少的外科手术过程的、剩余多少的时间、和/或正在等待或完成的什么步骤。朋友或家人可能在候诊室或远离执行外科手术过程位置的另一位置。在一些情况下,可以使用一个或多个定时参数为候诊室中的朋友和家人提供进度报告。进度报告可能包括完成百分比、剩余百分比、剩余时间和/或已用时间。在一些情况下,进度报告可能会在朋友或家人可以看到患者时报告或通知他们。
在一些情况下,一个或多个定时参数可用于为可能需要随时了解外科手术过程的当前进度的其他医疗操作者或医务人员提供进度报告。其他医疗操作者或医务人员可以是正在执行外科手术过程的另一步骤的医生或医疗支持人员。其他医疗操作者或医疗人员可以是正在执行相关或并行过程的医生或医疗支持人员,如在供体和受体外科手术过程的情况下。在一些情况下,其他医疗操作者或医务人员可能是计划在执行外科手术过程的同一手术室中进行操作的医生或医疗支持人员。进度报告可以包括完成百分比、剩余百分比、剩余时间和/或经过的时间。在一些情况下,进度报告可用于准备其他医疗操作者以便及时挂号、准备其他医疗器械以供医疗操作者使用、准备医务人员和支持人员进行房间切换或病房周转,或提供外科手术过程的一个或多个步骤的估计定时以促进另一并行外科手术过程的一个或多个步骤的协调。
图6示出了外科手术过程的一个或多个步骤的预测定时和与外科手术过程的一个或多个步骤的执行或完成相关联的实际定时的比较。在一些情况下,外科手术过程的步骤1可能具有特定的预测定时,并且步骤1实际上可以在与预测大致相同的时间量内执行。这可能不会导致引发标记。
在另一示例中,外科手术过程的步骤2可以预期在特定时间长度内发生,但在实践中实际上可能需要明显更长的时间。当发生显著偏差时,可能会标记此差异,并可能通知执行外科手术过程的医疗操作者。在一些情况下,当预测定时与实际定时之间发生显著偏差时,可能会通知其他从事并行或同时发生的过程的医疗操作者(例如,在供体和受体外科手术的情况下)。在一些情况下,当预测定时与实际定时之间发生显著偏差时,可能会通知正在协调医疗保健设施手术室安排的其他医务人员。
在另一示例中,外科手术过程的步骤3可以预期在特定时间长度内发生,但在实践中可以在预测时间之前完成。当发生显著偏差时,可能会标记此差异,并可能通知执行外科手术过程的医疗操作者。在一些情况下,当预测定时与实际定时之间发生显著偏差时,可能会通知其他从事并行或同时发生的过程的医疗操作者(例如,在供体和受体外科手术的情况下)。在一些情况下,当预测定时与实际定时之间发生显著偏差时,可能会通知正在协调医疗保健设施手术室安排的其他医务人员。
在另一示例中,外科手术过程的步骤4和步骤5可以预期在特定时间长度内发生。基于先前步骤的实际定时(例如,外科手术过程的步骤1、步骤2和/或步骤3),可以调整步骤4和步骤5的预测定时,以更好地接近外科手术过程的步骤4和步骤5的实际定时。在一些情况下,从事并行或同时发生的过程的其他医疗操作者(例如,在供体和受体外科手术的情况下)可能会被告知外科手术过程后续步骤的更新预测定时。在一些情况下,正在协调医疗保健设施手术室安排的其他医务人员可能会被告知外科手术过程后续步骤的更新的预测定时。
在本文描述的任何实施方式中,对外科手术过程的一个或多个步骤的预测或估计定时可以基于外科手术过程的一个或多个步骤的执行或完成情况实时更新。在本文描述的任何实施方式中,当外科手术过程的一个或多个步骤正在执行或完成时,可以将外科手术过程的一个或多个步骤的更新的预测或估计定时实时地提供和/或传送给一个或多个终端用户。如本文所用,术语“实时”通常可以指与第二事件或动作(例如,更新外科手术过程的一个或多个步骤的预测或估计定时,或向一个或多个终端用户提供更新的预测或估计定时)的发生有关的同时或基本上同时发生的第一事件或动作(例如,执行或完成外科手术过程的一个或多个步骤)。实时动作或事件可以在小于以下一个或多个的响应时间内执行:十秒、五秒、一秒、十分之一秒、百分之一秒、一毫秒或相对于至少另一事件或动作更短的时间。可以使用一个或多个计算机处理器执行实时动作。
在一些情况下,多个视频和/或与多个视频相关联的一个或多个定时参数可用于向一个或多个终端用户提供一个或多个状态更新。当外科手术过程的一个或多个步骤正在执行或完成时,可以实时或基本实时地提供一个或多个状态更新。当一个或多个视频被本文所述的多个成像设备捕获时,可以实时或基本实时地提供一个或多个状态更新。在一些情况下,一个或多个状态更新可以包括对应于外科手术过程进度的一个或多个状态栏。一个或多个终端用户可以包括执行并行或同时发生的过程的其他医疗操作者(例如,在供体和受体外科手术过程的情况下)、帮助协调医疗保健设施中手术室的安排的医务人员、或正在经历外科手术过程的医疗患者的朋友和家人成员。如图7所示,在一个示例中,第一状态栏710可以被配置为显示完成百分比。完成百分比可能对应于完成的步骤数相对于总步骤数,或者剩余完成时间量相对于完成外科手术过程的总估定时间量。在另一示例中,第二状态栏720可以被配置为显示已完成的步骤数相对于完成外科手术过程所需的步骤总数。在另一示例中,第三状态栏730可以被配置为显示完成外科手术过程所经过的时间量和/或完成外科手术过程的剩余估定时间。在一些情况下,根据终端用户的类型或身份,可以将不同的状态栏呈现给不同的终端用户。或者,终端用户可以选择不同的状态栏,以便在终端用户设备上显示的用户界面中观看。
在一些情况下,多个视频和/或与多个视频相关联的一个或多个定时参数可用于实时更新特定医疗保健设施的安排信息。例如,如图8所示,在医院ABC中,可以有多个可以安排一个或多个外科手术操作的位置。多个位置可以包括多个手术室(例如,手术室1、手术室2、手术3、手术室4、手术室5等)。
安排信息可以包括定时信息,如特定日期的一天中的时间。在一些情况下,安排信息可能会实时更新。实时更新安排信息可能能够使医疗操作者、执业医生、医务人员或支持人员预测与外科手术过程的一个或多个步骤的执行或完成相关联的定时变化,并相应地为此类变化做好准备。此类实时更新可以为医疗操作者、执业医生、医务人员或支持人员提供足够的时间以为一个或多个外科手术过程准备手术室或医疗工具和医疗器械。此类实时更新还可以允许医疗操作者、执业医生、医务人员或支持人员协调医疗保健设施内多个不同外科手术过程的安排,并基于可用的最新定时信息管理医疗保健设施的资源或人员配置。安排信息可能可用于当天,即将到来的一天,接下来的几天,下一周,下个月等。安排信息可以实时更新,也可以定期更新(例如,每天、每隔几小时、每小时、每30分钟、每15分钟、每10分钟、每5分钟、每分钟、每秒或更频繁地)。安排信息可能会响应事件进行更新。安排信息可能包括有关可能在各种位置发生的过程的信息。安排信息可能包括有关在任何给定日期在医疗保健设施将执行每个安排的外科手术过程的时间和地点的信息。
在一些情况下,安排信息可以包括有关过程的附加信息。例如,过程1可能安排在手术室1(OR1)的上午7:00发生。过程4可能安排在OR5的上午9:00发生。这些过程可能属于不同的类型。可能会或可能不会提供每个过程的估定时间长度。每个过程的估定时间长度可以基于从多个成像设备捕获的多个视频中导出的定时信息进行更新。
在一些情况下,如果过程1的一个或多个步骤的实际定时延迟或花费的定时比过程1的一个或多个步骤的预测定时长(即,如果过程1花费的定时比预测或估计的定时长),则过程1的估计完成时间可以更新。基于过程1的更新的估计完成时间,过程4可能会同时重新安排在不同的时间或不同的手术室。例如,可以将过程4从OR1移动到OR5。
在一些情况下,可以部分地基于两个或更多个外科手术过程的一个或多个步骤的定时来协调两个或更多个外科手术过程。两个或更多个外科手术过程可以包括对供体医疗对象的第一外科手术过程和对受体医疗对象的第二外科手术过程。第一外科手术过程的至少一部分和第二外科手术过程的至少一部分可以并行或同时执行。
本文公开的系统和方法可以被实施以协调两个或更多个外科手术过程,以相对于在第二外科手术过程中的一个或多个步骤的执行或完成,实现第一外科手术过程中一个或多个步骤的执行或完成的最佳定时。此最佳定时可以帮助减少或最小化从供体移植到受体的器官在供体或受体体外的时间。在一些情况下,如果第一外科手术过程中一个或多个步骤的执行或完成被延迟,则本文公开的系统和方法可以被实施以提醒执行第二外科手术过程的医疗操作者放慢速度。在一些情况下,如果第一外科手术过程中的一个或多个步骤在安排前执行或完成(即,比预测或估计的要快),则可以实施本文公开的系统和方法以提醒执行第二外科手术过程的医疗操作者加快速度。
图9示出了用于供体医疗对象和受体医疗对象的多个外科手术过程900-1和900-2。在一些情况下,可以捕获第一组视频以用于供体910-1上的第一外科手术过程。在一些情况下,可以捕获第二组视频以用于在受体910-2上的第二外科手术过程。第一组视频可以从执行第一外科手术过程的第一位置传送到执行第二外科手术过程的第二位置。第二组视频可以从执行第二外科手术过程的第二位置传送到执行第一外科手术过程的第一位置。在一些情况下,第一组视频和/或第二组视频可以被提供给视频处理模块950,以便生成与第一外科手术过程和/或第二外科手术过程相关联的一个或多个定时参数。在一些情况下,第一组视频和/或第二组视频可以被提供给视频处理模块950,以便更新与第一外科手术过程和/或第二外科手术过程的一个或多个步骤相关联的估计定时。在一些情况下,第一组视频和/或第二组视频可以被提供给视频处理模块950,以便生成与第一外科手术过程和/或第二外科手术过程的进度相关联的一个或多个状态栏。多个视频、与第一外科手术过程和/或第二外科手术过程相关联的一个或多个定时参数、与第一外科手术过程和/或第二外科手术过程相关联的估计定时、或与第一外科手术过程和/或第二外科手术过程的进度相关联的状态栏可以提供给第一医疗操作者(即,执行第一外科手术过程的医疗操作者)或第二医疗操作者(即,执行第二外科手术过程的医疗操作者)以便协调供体或受体外科手术过程的一个或多个步骤的执行或完成。
在一些情况下,由多个成像设备捕获的多个视频可用于帮助一个或多个终端用户监测外科手术过程的一个或多个步骤的执行。例如,在一些情况下,从多个视频中导出的一个或多个定时参数可以实时提供给医疗操作者或执业医生,以通知医疗操作者他或她是否在与外科手术过程相关的估定时间表上走上正轨,太慢或提前安排。在一些实施方式中,本文提供的系统和方法可以向执业医生提供实时支持。当执业医生执行过程时,当步骤被识别时,可能会显示和实时更新过程的有用信息。与预期步骤和/或定时的任何差异都可能被告知执业医生。
在其他情况下,可以在外科手术过程完成后向医疗操作者提供一个或多个定时参数。在这种情况下,医疗操作者可以基于多个视频以及与多个视频相关联的一个或多个定时参数来观看和/或分析他或她的表现。此外,从多个视频中导出的多个手术后分析信息可以提供给医疗操作者,以便医疗操作者可以评估哪些步骤花费的时间比预期的多,哪些步骤花费的时间比预期的少,以及哪些步骤花费的时间与预期的差不多。手术后分析信息可以包括与外科手术过程的一个或多个步骤相关联的一个或多个定时参数。在一些情况下,手术后分析信息可能包括在外科手术过程的哪些步骤中使用了哪些医疗工具的信息,医疗工具随时间移动的信息,和/或外科手术操作者在外科手术过程期间手部运动的信息。在一些情况下,手术后分析信息可以向医疗操作者提供一个或多个关于如何执行外科手术过程的一个或多个步骤的提示,以便提高医疗操作者在外科手术过程的一个或多个步骤中的效率。
在一些情况下,由多个成像设备捕获的多个视频可用于教育或培训目的。例如,多个视频可用于向医学生、实习生、住院医师或其他医生或医师显示如何执行外科手术过程的一个或多个步骤。例如,如果医务人员在特定步骤中遇到困难,医务人员可能会要求培训视频或一系列说明来演练该步骤。在一些情况下,如果医务人员在使用医疗设备或产品时遇到困难,医务人员可能会要求提供培训视频或一系列说明,以演练设备或产品的使用。在一些情况下,多个视频可用于向医学生、实习生、住院医师、或其他医生或医师显示如何不执行外科手术过程的一个或多个步骤。
在一些情况下,可以对多个视频进行处理,以提供一个或多个终端用户的视频分析数据。视频分析数据可以包括医疗操作者的技能或效率的信息。在一些情况下,视频分析数据可以提供对医疗操作者相对于其他医疗操作者的技能水平或效率水平的评估。
在一些情况下,可以将多个视频提供给人工智能记录仪系统。人工智能记录仪系统可以被配置为由一个或多个医疗操作者分析外科手术过程的一个或多个步骤的执行。
在一些实施方式中,可以希望在过程完成之后评估医务人员的表现。这可能有助于向医务人员提供反馈。这可以使医务人员根据需要专注于改善领域。医务人员可能希望了解他或她自己的优势和劣势。医务人员可能希望找到提高他或她自己的效力和效率的方法。
在一些实施方式中,可以希望其他个人评估医务人员的表现。例如,医疗保健设施管理人员或医务人员的同事或主管可能希望评估医务人员的表现。在一些实施方式中,医务人员的表现评估可用于评估个体医务人员,或者特定组或部门可以被评估为个体成员的汇总。类似地,医疗保健设施或作法也可以作为个体成员的总和进行评估。
人工智能记录仪系统可以被配置为以任何方式评估医务人员。在一个示例中,可以给予医务人员对特定医疗过程的评分。评分可以是数值、字母等级、定性评估、定量评估或对医务人员表现的任何其他类型的衡量。本文对评分的任何描述都可能适用于任何其他类型的评估。
在一些情况下,执业医生的评分可以基于一个或多个因素。例如,可以提供定时作为评估执业医生表现的一个因素。例如,如果医务人员执行医疗过程或医疗过程的某些步骤花费的时间比预期长得多,这可能会对医务人员的评估产生不利影响。如果医务人员与完成医疗过程的预期时间有很大或显著偏差,这可能会对他或她的评分产生不利影响。类似地,如果医务人员执行医疗过程或医疗过程的某些步骤花费的时间少于预期,这可能会对他或她的评估产生积极影响。在一些情况下,可以在偏差足够显著以正面或负面影响他或她的评分之前提供阈值。在一些情况下,偏差越大,定时对他或她的评分的影响就越大。例如,如果医务人员完成过程的时间比预期时间多30分钟,这可能比医务人员完成过程的时间比预期时间多10分钟的情况对他的评分产生更负面的影响。类似地,如果医务人员提前30分钟完成过程,这可能比医务人员完成过程的时间比预期时间少5分钟的情况对他的评分产生更积极的影响。
其他因素可用于评估医务人员的表现。例如,过程的有效性或结果可能是影响医务人员评估的一个因素。如果出现并发症,或者如果医务人员犯了错误,这可能会对医务人员的评分产生负面影响。类似地,如果医务人员有无并发症的过程,这可能会对医务人员的评分产生积极影响。在一些情况下,在评估医务人员的表现时,可能会考虑患者的康复情况。
可以考虑的另一个因素是成本。例如,如果医务人员使用的医疗产品或设备比预期的要多,那么这可能会增加成本,并可能对医务人员的评估产生负面影响。例如,如果医务人员经常掉落物体,这可能会对医务人员的评估产生不利影响。类似地,如果医务人员使用的资源(例如,设备、产品、药物、器械等)比预期的要多,则成本可能会上升。类似地,如果过程花费的时间比预期的要长,相应的成本也可能增加。
在一些情况下,人工智能记录仪系统可以被配置为使用多个视频和/或执业医生评分来创建一个或多个示例性方式的模型来执行外科手术过程。该模型可以为终端用户(例如,医疗操作者、医学生、实习生或住院医师)提供有关如何执行外科手术过程的一个或多个步骤的可视化和/或描述。该模型可以被配置为向不同的用户提供基于操作者的技能或经验水平来执行外科手术过程的一个或多个步骤的不同方法。该模型可以被配置为向用户提供基于外科手术过程的当前步骤或患者的当前状态或状况来执行外科手术过程的一个或多个步骤的不同方法。
在一些情况下,人工智能记录仪系统可以被配置为向终端用户提供可视化的模型方式来执行外科手术和/或实施外科手术过程的一个或多个步骤的模型方式。在此情况下,人工智能记录仪系统可以被配置为向终端用户提供一个或多个成像设备捕获的多个视频的至少一个子集。用于教育或培训目的,多个视频可以具有附加的数据、注释、描述或音频叠加在多个视频之上。在一些情况下,可以通过通信网络上的实时流式传输向终端用户提供多个视频。在一些情况下,在外科手术过程完成后,可以通过视频广播频道访问多个视频。在一些情况下,可以通过视频点播系统提供多个视频,由此终端用户可以搜索或查找关于如何执行一个或多个外科手术过程的步骤的模型方式。人工智能记录仪系统还可以提供过程后的分析和反馈。在一些实施方式中,可以生成执业医生表现的评分。可以向执业医生提供回顾视频的选项,并且可以自动识别最相关的部分并将其调到前面,从而执业医生不需要花费附加的时间来分类或搜索不相关的视频。
在一些情况下,人工智能记录仪系统可以被配置为匿名化可能与一个或多个患者相关联的数据。例如,人工智能记录仪系统可以被配置为编辑、阻止或屏蔽信息,这些信息用于教育或培训目的显示在提供给终端用户的多个视频上。
在一些情况下,人工智能记录仪系统可以被配置为提供智能翻译。智能翻译可以构建特定于治疗的语言模型,这些模型可用于支持具有领域特定语言的各种语言翻译。例如,对于特定类型的过程或医疗领域,可以使用各种白话。不同的医务人员可能使用不同的术语来表达相同的含义。本文提供的系统和方法可能能够识别所使用的不同术语并使语言规范化。
智能翻译可能应用于医务人员在医疗过程中说出的命令。医务人员可能会寻求支持或提供其他口头命令。医疗控制台或其他设备可能会使用智能翻译。这可能有助于医疗控制台和其他设备识别医务人员提供的命令,即使语言不标准。
在一些情况下,可以形成过程的脚本。一个或多个麦克风,如音频增强模块,可用于收集音频。医疗团队的一名或多名成员可以在过程期间发言。在一些情况下,这可能包括与过程有关的语言。智能翻译可能自动包括用于符合医疗实践的术语的翻译。例如,对于某些过程,可以使用某些标准术语。即使医务人员使用不同的术语,脚本也可能引用标准术语。在一些实施方式中,脚本可以既包括原始语言,也包括翻译。
在一些情况下,当个人经由一个或多个通信设备相互交谈时,智能翻译可以根据需要自动提供标准术语。如果一个用户正在与另一个用户交谈或键入并使用非标准术语,则智能翻译可能会自动使语言符合标准术语。在一些情况下,每个医学领域或专业可能都有自己的一套标准术语。标准术语可以在所进行的过程情景内提供。
可选地,本文提供的系统和方法可以支持多种语言。例如,手术室可能位于美国境内,医务人员会说英语。提供远程支持的个人可能位于德国,并且可能会说德语。本文提供的系统和方法可以在不同语言之间进行翻译。可以采用智能翻译,以便在每种语言中使用标准术语。即使个人使用不同的字词或短语,智能技术也可以确保翻译的字词符合每种语言中与医疗过程相关的标准术语。
智能翻译可以在本地医疗控制台上得到支持。智能翻译可能发生在医疗控制台上。或者,智能翻译可能发生在一个或多个远程服务器上。智能翻译可以通过云计算基础设施实现。例如,智能翻译可能发生在云中,并被推送回有关控制台。
图10示出了一个或多个用户界面的示例,这些用户界面可以由人工智能记录仪系统生成,以便终端用户可以观看不同的模型方式以执行外科手术过程的一个或多个步骤。在一些情况下,人工智能记录仪系统可以被配置为分析外科手术过程的一个或多个视频并生成交互式用户界面1010,该交互式用户界面1010允许终端用户观看与外科手术过程相关联的步骤列表。在一些情况下,终端用户可以使用人工智能记录仪系统来搜索特定类型的外科手术过程或特定模型方式以执行外科手术过程的一个或多个步骤。在此情况下,交互式用户界面1010可以被配置为生成或更新基于由终端用户选择的特定类型的外科手术过程而显示给终端用户的步骤列表。
交互式用户界面1010可以被配置为允许终端用户选择外科手术过程的一个或多个步骤,以便观看执行外科手术过程的所选的一个或多个步骤的一个或多个模型方式。例如,终端用户可以使用交互式用户界面1010以选择步骤5。当终端用户选择步骤5时,可以为终端用户显示一个或多个视频1020和1030。第一视频1020可以向终端用户展示执行特定外科手术过程的步骤5的第一示例性方法。第二视频1030可以向终端用户展示执行特定外科手术过程的步骤5的第二示例性方法。一个或多个视频1020和1030可以包括使用本文中描述的多个成像设备捕获的多个视频的至少一部分。
在一些情况下,可以使用广播系统将由多个成像设备捕获的多个视频分发给一个或多个终端用户。广播系统可以被配置为将多个视频的至少一个子集分发到一个或多个终端用户设备(例如,移动设备、智能电话、平板计算机、台式机、膝上型计算机或电视)以供观看。广播系统可以被配置为使用如本文所述的任何一个或多个通信网络连接到一个或多个终端用户设备。广播系统可以被配置为经由一个或多个频道向一个或多个终端用户发送多个视频的至少一个子集。一个或多个终端用户可以连接到和/或调谐到一个或多个频道以实时观看正在执行的一个或多个外科手术过程的一个或多个视频。在一些情况下,一个或多个终端用户可以连接到和/或调谐到一个或多个频道以观看先前执行和/或完成的一个或多个外科手术过程的一个或多个保存的视频。
在一些情况下,广播系统可以被配置为允许一个或多个终端用户选择一个或多个视频以供观看。一个或多个视频可能对应于不同的外科手术过程。一个或多个视频可能对应于外科手术过程的各个步骤。一个或多个视频可以对应于如何执行外科手术过程的一个或多个步骤的一个或多个示例或建议的方法。一个或多个视频可以对应于执行外科手术过程的一个或多个模型方式。在一些情况下,一个或多个视频可能对应于一个或多个执业医生对特定外科手术过程的表现。在一些情况下,一个或多个视频可能对应于特定执业医生对特定外科手术过程的表现。
在一些情况下,广播系统可以被配置为允许一个或多个终端用户搜索一个或多个视频以供观看。例如,一个或多个终端用户可以基于外科手术过程的类型、外科手术过程的特定步骤、或在执行外科手术过程的一个或多个步骤方面有经验的特定医疗操作者来搜索一个或多个视频。在一些情况下,一个或多个终端用户可以基于正在执行或已经执行外科手术过程的医疗操作者的评分或效率来搜索一个或多个视频。在另一示例中,一个或多个终端用户可以通过浏览一个或多个用于不同类型的外科手术过程的预定类别来搜索一个或多个视频。在另一示例中,一个或多个终端用户可以基于一个或多个视频是正在现场执行的外科手术过程的实时流式传输还是已经执行或完成的外科手术过程的保存视频来搜索一个或多个视频。在一些情况下,广播系统可以被配置为基于终端用户的类型、终端用户的身份和/或与终端用户相关联的搜索历史或观看历史来建议一个或多个视频。
如上所述,可用于使用广播系统进行搜索和/或观看的一个或多个视频可以具有一个或多个编写部分以覆盖、阻止或移除与正在经历一个或多个视频中的外科手术过程的医疗患者或对象相关联的个人信息。在一些情况下,可用于使用广播系统搜索和/或观看的一个或多个视频可以用如上所述的智能翻译来扩充。在其他情况下,可用于使用广播系统搜索和/或观看的一个或多个视频可以扩充附加信息,如注释、一名或多名执业医生的评论和/或来自EKG/ECG或用于监测正在经历外科手术过程的对象的心率、血压、氧饱和度、呼吸和/或温度的一个或多个传感器的补充数据。
视频协作
在一些实施方式中,本公开的视频协作系统可以被修改、配置和/或实现,以便能够在远程用户(例如,产品或医疗设备专家)和医疗保健设施中的医务人员之间共享媒体内容(例如,视频)。在一些情况下,本公开的视频协作系统可以被修改、配置和/或实现,以促进将来自产品或医疗设备专家的媒体内容传送和共享给正在准备外科手术过程或正在执行外科手术过程中的一个或多个步骤的医生或外科医生。在本文描述的任何实施方式中,媒体内容可以包括与外科手术过程或可用于执行外科手术过程的一个或多个步骤的医疗设备有关的图像、视频和/或医疗数据。
在一些情况下,可以为一个或多个远程终端用户(例如,产品或医疗设备专家)提供虚拟工作空间,以管理、组织和/或归类媒体内容,以便媒体内容可以显示、呈现和/或与医疗保健设施中的医务人员共享。媒体内容可能包括与医疗设备或器械的操作或使用相对应的图像、视频和/或医疗数据。在一些情况下,媒体内容可能包含图像、视频和/或医疗数据,该医疗数据可用于指示、指导和/或培训一个或多个终端用户在外科手术过程中执行一个或多个步骤。
在一些实施方式中,媒体内容可以包括来自公司特定视频库的产品演示材料和/或视频。公司特定视频库可能对应于由医疗设备制造商或医疗设备供应商创建和/或管理的图像和/或视频库或集合。公司特定视频库可能对应于由为医疗设备公司(例如,医疗设备制造商或医疗设备供应商)工作的一个或多个产品专家创建和/或管理的图像和/或视频库或集合。公司特定视频库中的媒体内容可用于指示、指导和/或培训一个或多个终端用户如何在外科手术过程期间使用医疗设备、器械或工具。
在一些实施方式中,媒体内容可以包括预过程视频剪辑或图像。预过程视频剪辑或图像可以是特定患者的(例如,将在有权访问媒体内容的医务工作者的指导或监督下经历外科手术过程的患者)。在此情况下,本公开的系统可以被集成到医疗保健设施的电子记录系统或图片存档和通信系统中。在一些实施方式中,媒体内容可以包括非患者特定的样本病例图像或视频,以帮助当地医生更好地理解或遵循由远程用户(例如,医疗设备专家)提供的指导、培训、指示或远程会诊。
在一些实施方式中,媒体内容可以包括来自现场或正在进行的过程的图像和/或视频剪辑。在一些情况下,媒体内容可以由远程用户(例如,远程产品专家)在本地储存以供在外科手术过程期间使用。在此情况下,可以在外科手术过程完成之后、在外科手术过程的一个或多个步骤完成之后、或者在预定时间量之后删除媒体内容。在一些情况下,虚拟工作空间可以被配置为向远程用户提供记录临时储存在云服务器上的一个或多个视频的能力,以符合HIPPA。一个或多个视频可以被限制为预定长度(例如,少于一分钟、少于30秒、少于20秒、少于10秒等)。在手术操作者或医疗工作者正在执行外科手术过程的一个或多个步骤或准备实施外科手术过程的一个或多个步骤时,可以将一个或多个视频拉回到过程中并根据需要呈现给手术操作者或医疗工作者。
在一些情况下,远程用户(例如,医疗设备代表)可以创建或编译一个匿名视频库,该匿名视频库包括一个或多个在医疗过程中捕获的匿名图像和/或视频。一个或多个匿名图像和/或视频可能会被编辑或编写,以隐藏或移除医疗对象的个人信息。这些图像和/或视频可能储存在远程用户个人账户下的云服务器中。医疗设备代表可以是医疗过程方面的专家,也可以是可用于执行医疗过程的一个或多个步骤的医疗设备。在一些情况下,医疗设备代表可能被允许在外科手术过程期间与医生或外科医生共享匿名图像和/或视频。
在一些实施方式中,虚拟工作空间可以被配置为允许远程代表利用订阅视频点播(SVOD)、交易视频点播(TVOD)、高级视频点播(PVOD)和/或广告视频点播(AVOD)服务。一旦远程代表购买和/或订阅了通过SVOD、TVOD、PVOD和/或AVOD服务提供的某些媒体内容,虚拟工作空间可能允许远程代表向正在执行外科手术过程或准备执行外科手术过程的一个或多个步骤的医生或外科医生提供媒体内容。
在一些情况下,可以使用多个相机和/或成像传感器获得医疗或外科手术过程的一个或多个视频。本公开的系统和方法可以为一个或多个用户(例如,外科医生、医务工作者、助理、供应商代表、远程专家、医学研究人员或对观看和提供对一个或多个视频的内容的输入、想法或意见感兴趣的任何其他个人)提供加入虚拟会话(例如,虚拟视频协作会议)的能力,以创建、共享和观看一个或多个视频的注释。虚拟会话可以允许一个或多个用户在捕获一个或多个视频时现场(即实时)观看医疗或外科手术过程的一个或多个视频。或者,虚拟会话可以允许一个或多个用户在外科手术过程中执行或完成一个或多个步骤后观看已保存到视频库中的医疗或外科手术视频。
虚拟会话可以为一个或多个用户提供用户界面,该用户界面允许用户向一个或多个视频提供一个或多个注释或标记。这些注释可以包括,例如,基于文本的注释、视觉注释(例如,各种尺寸、形状、颜色、格式等的一个或多个线条或形状)、基于音频的注释(例如,与一个或多个视频的一部分有关的音频注释)或基于视频的注释(例如,与一个或多个视频的一部分有关的视听注释)。
在一些情况下,一个或多个注释可以在用户回顾一个或多个视频时由用户手动创建或提供。在其他情况下,用户可以从注释库中选择一个或多个注释并手动将注释放置或定位到一个或多个视频的一部分上。在一些情况下,一个或多个注释可以包括例如围绕视频的一个或多个部分生成或放置的边界框。在一些情况下,一个或多个注释可以包括在一个或多个视频内生成的零维特征。在一些情况下,零维特征可以包括一个点。在一些情况下,一个或多个注释可以包括在一个或多个视频内生成的一维特征。在一些情况下,一维特征可以包括一条线、一条线段或包括两条或更多条线段的折线。在一些情况下,一维特征可以包括线性部分。在一些情况下,一维特征可以包括弯曲部分。在一些情况下,一个或多个注释可以包括在一个或多个视频内生成的二维特征。在一些情况下,二维特征可以包括圆、椭圆或具有三个或更多个边的多边形。或者,二维特征可以包括任何无定形的、不规则的、不确定的、随机的或任意的形状。这种无定形的、不规则的、不确定的、随机的或任意的形状可以由用户使用一个或多个输入设备(例如,计算机鼠标、笔记本计算机触控板或移动设备触摸屏)绘制或生成。在一些情况下,多边形的两个或更多个边可以包含相同的长度。在其他情况下,多边形的两个或更多个边可以包含不同的长度。在一些情况下,二维特征可以包括具有不同长度或不同曲率的两个或更多个边的形状。在一些情况下,二维特征可以包括具有一个或多个线性部分和/或一个或多个弯曲部分的形状。在一些情况下,二维特征可能包含不对应于圆、椭圆或多边形的非晶形状。在一些情况下,二维特征可以包括由注释器(例如,用户观看一个或多个视频)绘制或生成的任意形状。
在一些情况下,注释可以包括,例如,预定的形状(例如,圆形或正方形),其可以放置或覆盖在一个或多个视频上。预定的形状可以使用单击来放置或拖放操作来定位或重新定位。在其他情况下,注释可以包括,例如,由用户使用如计算机鼠标、移动设备触摸屏或笔记本计算机触摸板的输入设备生成的任何手动绘制的形状。手动绘制的形状可以包括任何无定形的、不规则的、不确定的、随机的或任意的形状。在一些替代实施方式中,注释可以包括箭头或基于文本的注释,其放置在出现在一个或多个视频中的一个或多个特征或区域上或附近。
虚拟会话可以允许多个用户同时进行实时注释。在一些情况下,虚拟会话可能允许用户仅在为每个用户分配或指定的特定时间段内制作和/或共享实时注释。例如,第一用户只能在外科手术过程的第一部分制作和/或共享注释,第二用户只能在外科手术过程的第二部分制作和/或共享注释。共享注释可能包括将一个或多个带有用户提供的注释的视频广播或重播给虚拟会话中的其他用户。包含用户提供的注释的此类视频的广播可能与在虚拟会话中向用户广播原始视频几乎同时发生。这可能允许在虚拟会话中的一个或多个视频流式传输到各个用户并由其观看时,将注释实时流式传输到虚拟会话中的其他用户,而不会中断观看体验。重播可能包括在虚拟会话中向用户广播原始视频后稍后广播包含用户提供的注释的视频。
在一些实施方式中,虚拟会话可以允许用户在另一用户提供的注释之上或之外提供附加注释。在一些情况下,每个用户都可以并行提供他或她自己的注释,并与其他用户实时共享注释。然后,其他用户可以提供附加注释,以便与虚拟会话中的用户共享或广播。
在一些情况下,除了提供一个或多个注释之外,虚拟会话可以允许用户修改、调整或改变一个或多个视频的内容。这样的修改、调整或改变可以包括例如使用一个或多个后处理步骤添加或移除音频和/或视觉效果。在一些情况下,修改、调整或改变可以包括将附加数据(例如,使用一个或多个传感器和/或医疗工具或器械获得的数据)添加到一个或多个视频。虚拟会话可以被配置为允许用户与虚拟会话中的各种其他用户一起广播和/或重播包含对视频内容的修改、调整或改变的一个或多个视频。在一些情况下,虚拟会话可以允许向虚拟会话中的所有用户广播和/或重播。在其他情况下,虚拟会话可以允许向虚拟会话中的特定用户子集广播和/或重播。用户子集可以基于医学专业,或者可以基于期望的用户子集的手动输入或选择来确定。
在一些情况下,可以使用多个相机和/或成像传感器获得医疗或外科手术过程的一个或多个视频。一个或多个视频可以被保存到本地存储设备(例如,计算设备的存储驱动器)中。或者,可以将一个或多个视频加载和/或保存在服务器(例如,远程服务器或云服务器)上。一个或多个视频(或其特定子集)可以从存储设备或服务器中提取供用户访问和观看。为访问和观看而提取的特定视频可能与外科手术过程的特定视图或外科手术过程期间使用的特定相机和/或成像传感器相关联。保存到本地存储设备或服务器的一个或多个视频可以通过本文其他地方描述的虚拟会话流式传输或广播给多个用户。
在一些实施方式中,多个远程用户可以加入虚拟会话或工作空间以共同观看外科手术过程的一个或多个视频,并基于该一个或多个视频彼此协作。此类协作可以包括,例如,第一远程专家录音一个或多个视频的一部分,在一个或多个视频的录制部分之上进行视频标记,以及将包含一个或多个视频标记的录音部分流式传输或广播到第二远程专家或至少一个其他个人。例如,至少一个其他个人可以是(a)远离进行外科手术过程的医疗保健设施,或(b)在进行外科手术过程的医疗保健设施内或附近的人。如本文所使用的,视频标记可以指向图像、视频或先前流式传输的或当前正在实时流式传输的视频的录音提供一个或多个注释或标记。如本文所使用的,视频标记可以指可以提供或覆盖在图像、视频或视频录音上的一个或多个注释或标记(例如,使用手指、触笔、笔、触摸屏、计算机显示器或平板显示器)。可以基于物理输入,或基于提供视频标记的用户对一个或多个运动或姿势的光学检测来提供视频标记。
在一些情况下,当现场外科手术过程的一个或多个视频正在被流式传输时,多个专家可以加入虚拟会话以录音正在进行的外科手术过程的各个部分,录音上的视频标记分别由每个专家捕获,并同时将包含视频标记的录音流式传输回(i)虚拟会话中的其他专家,或(ii)在执行外科手术过程的医疗保健设施内或附近的个人(例如,执行外科手术过程的医生或外科医生)。此类同时流式传输和共享包含视频标记的录音可以使各种远程专家比较和对比他们对外科手术过程的解释和评估,包括是否正确执行了步骤,以及执行过程的外科医生是否可以进行任何调整或改进以提高效率或将风险降至最低。
在一些情况下,虚拟会话可以允许多个专家同时共享他们的屏幕。在这种情况下,第一专家可以向第二专家展示第一专家在一个或多个视频中提供的现场视频标记,而第二专家还向另一专家(例如,第一专家和/或另一第三专家)展示第二专家在一个或多个视频中提供的视频标记。在一些情况下,虚拟会话可能允许多个专家同时共享一个或多个视频的单独录音。此类一个或多个单独录音可以对应于一个或多个视频的不同部分,并且可以具有不同的长度。此类单独录音可以从用于捕获外科手术过程的一个或多个视频的不同的相机或成像传感器中提取。此类单独录音可能包括也可能不包括由启动或捕获录音的专家提供的一个或多个视频标记、注释或标记。例如,第一专家可以共享对应于一个或多个视频的第一部分的第一录音,第二专家可以共享对应于一个或多个视频的第二部分的第二录音。一个或多个视频的第一部分和第二部分可以由专家基于他或她对外科手术过程的特定阶段或步骤的兴趣或专业知识来选择。在此类同时共享单独录音期间,第一专家可以向第二专家展示第一专家在一个或多个录音的视频上提供的现场视频标记,而第二专家还向另一专家(例如,第一专家和/或另一第三专家)展示第二专家在一个或多个录音的视频上提供的视频标记。此类同时共享录音和视频标记可以允许专家以各种不同方法或方式比较和对比执行外科手术过程的好处、优点和/或缺点。
在一些情况下,同时流式传输和共享视频录音和现场视频标记可以允许第一远程专家同时看到由第二远程专家和第三远程专家提供的视频标记。在一些情况下,第二远程专家可以提供对应于执行外科手术过程的第一种方法的第一组视频标记,第三远程专家可以提供对应于执行外科手术过程的第二种方法的第二组视频标记。第一远程专家可以观看第一组视频标记和第二组视频标记,以比较执行外科手术过程的第一种方法和第二种方法。如果根据每个远程专家提供的视频标记建议或概述的各种方法执行外科手术过程,则第一远程专家可以使用第一组视频标记和第二组视频标记来评估可以获得的改进(例如,在外科手术结果、患者安全或操作者效率方面)。
在一些情况下,同时流式传输和共享视频录音和现场视频标记可以允许第一用户(例如,执行外科手术过程的医生或外科医生)同时看到由第二用户和第三用户提供的视频标记。在一些情况下,第二用户可以提供对应于执行外科手术过程的第一种方法的第一组视频标记,并且第三用户可以提供对应于执行外科手术过程的第二种方法的第二组视频标记。第一用户可以观看第一组视频标记和第二组视频标记,以比较执行外科手术过程的第一种方法和第二种方法。如果根据每个其他用户提供的视频标记建议或概述的各种方法执行外科手术过程,则第一用户可以使用第一组视频标记和第二组视频标记来评估可以获得的改进(例如,在外科手术结果、患者安全或操作者效率方面)。第二用户和第三用户可以是,例如,远程专家,他们可以提供反馈、评论、指导或附加信息,以在第一用户执行外科手术过程时帮助第一用户,在第一用户完成外科手术过程的一个或多个步骤后向第一用户提供附加的培训,或评估第一用户在完成外科手术过程的一个或多个步骤后的表现。
在一些情况下,第一用户(例如,第一医生或外科医生或医学专家)可以提供和共享视频标记以显示过程应如何完成。在一些情况下,第二用户(例如,第二医生或外科医生或医学专家)可以提供单独的视频标记(例如,在单独的录音或单独的流式传输/广播频道上提供的视频标记)以允许第三用户(例如,第三医生或外科医生或医学专家)比较和对比各种视频标记。在其他情况下,第二用户(例如,第二医生或外科医生或医学专家)可以在第一用户的视频标记之上提供视频标记,以允许第三用户(例如,第三医生或外科医生或医学专家)在单个录音、流式传输或广播中比较和对比各种视频标记。
在一些实施方式中,正在与其他用户或专家共享内容(例如,视频录音或视频标记)的用户或远程专家可以共享诸如下载或可下载文档之类的内容,或者经由服务器提供对此类内容的访问。此类服务器可以是,例如,云服务器。
在一些情况下,多个用户可以同时视频标记视频,并通过添加附加数据或通过更改与视频相关联的一些数据(例如,移除音频或对视频进行后处理)来更改视频的内容。在多个用户向视频添加附加数据和/或更改与视频相关联的一些数据后,多个用户可以将包含已更改或已修改内容的视频重新广播给其他用户(例如,其他远程专家或协助外科手术过程的其他个人)。在一些情况下,多个用户可以在包含其他用户提供的各种视频标记的重播视频之上提供进一步的注释或视频标记,并与其他用户共享此类附加注释或视频标记。在一些情况下,虚拟会话中的每个用户都可以并行提供他们自己的视频标记并同时共享视频标记,使得每个用户看到来自其他用户的多个视频标记,对应于(i)外科手术视频的相同部分或录音,(ii)外科手术视频的各种不同部分或录音,或(iii)外科手术视频的同一部分或录音的不同视图。多个用户可以同时进行视频标记和/或同时修改不同用户提供的视频标记。视频标记可以提供在外科手术过程的现场视频流或外科手术过程的录音(例如,视频录音)上。多个用户可以关于相同现场视频流或相同录音提供多个同时的视频标记,在此情况中,可以彼此叠加提供多个视频标记。或者,多个用户可以关于不同的视频或录音提供多个同时的视频标记。
在一些情况下,可以在与外科手术视频或其录音内的感兴趣的各个部分或片段相对应的突出显示视频上提供视频标记。例如,第一用户可以提供与外科手术视频内的一个或多个感兴趣的部分或片段相关联的第一组视频标记。视频标记可以共享、流式传输或广播给其他用户。在一些情况下,多个用户可以提供多组视频标记(例如,单独录音上的单独视频标记,或多个相互叠加的视频标记)。此类多组视频标记可以同时流式传输到虚拟会话中的各个用户并且可由其观看,以比较和对比由多个用户提供的各种视频标记建议或概述的各种方法和指导。在一些情况下,此类多组视频标记可以同时流式传输到虚拟会话中的各个用户并且可由其观看,以评估执行外科手术过程的一个或多个步骤的不同方法以获得不同的结果(例如,不同的外科手术结果,或在操作者效率或风险缓解方面的差异)。在一些情况下,此类多组视频标记可以同时流式传输到虚拟会话中的各个用户并且可由其观看,从而各个用户可以看到一个或多个改进,该改进可以根据由不同的用户提供的不同视频标记以不同方式执行外科手术过程而产生。
在一些实施方式中,视频标记可以提供在第一时间感兴趣点和第二时间感兴趣点。第一时间感兴趣点和/或第二时间感兴趣点可以对应于外科手术过程中的一个或多个关键步骤。多个用户可以在第一时间感兴趣点和/或第二时间感兴趣点提供多个视频标记。用户可以同时观看多个视频标记,以看到根据在第一时间感兴趣点采取的不同操作如何变化第二时间感兴趣点上的结果或后果。在一些情况下,可以关于不同的突出显示视频提供多个视频标记,以便单个用户可以看到外科手术过程的哪些步骤或时间点能影响外科手术结果,并比较或对比在此类时间点执行此类步骤的各种方法以改善外科手术结果。如本文所用,外科手术结果可对应于外科手术过程的最终结果、外科手术过程的成功程度、与外科手术结果的表现相关联的风险水平、或执行外科手术过程的操作者的效率。
在一些实施方式中,当用户(例如,专家)在一个或多个视频或录音之上进行视频标记时,用户可以同时与其他用户(例如,其他专家)共享一个或多个视频。此外,用户可以同时共享多个应用或窗口以及具有由该用户提供的视频标记的一个或多个视频或录音。这允许其他用户或专家并行或同时观看(i)具有视频标记的一个或多个视频或录音和(ii)包括与外科手术过程相关联的附加信息或内容的一个或多个应用或窗口。此类附加信息或内容可以包括例如医学或外科手术数据、与外科手术过程的执行或一种或多种工具的使用有关的参考材料,或在外科手术过程的各种视频或录音上提供的附加注释或视频标记。让用户或专家同时与其他用户或专家共享一个或多个视频、应用和/或窗口允许其他用户或专家观看、解释和分析包含一个或多个关于附加信息或内容的视频标记的共享视频或录音。此类附加信息或内容可以为理解、解释和分析共享视频或录音和/或在共享视频或录音上提供的视频标记提供附加背景或情景。
计算机系统
本公开的另一方面提供了被编程或以其他方式配置以实现本公开方法的计算机系统。图11示出了被编程或以其他方式配置以实现用于视频协作的方法的计算机系统1101。计算机系统1101可以被配置为(a)获得外科手术过程的多个视频;(b)至少部分地基于多个视频确定外科手术过程的进度量;以及(c)至少部分地基于进度量,更新外科手术过程的一个或多个步骤的估计定时。计算机系统1101还可以被配置为向一个或多个终端用户提供估计定时以协调另一外科手术过程或病房周转。在一些情况下,计算机系统1101可以被配置为(a)获得多个外科手术过程的视频,其中多个视频使用多个成像设备捕获;以及(b)向多个终端用户提供多个视频,其中多个终端用户中的每个终端用户接收多个视频的不同子集。计算机系统1101可以是用户的电子设备或相对于电子设备远程定位的计算机系统。电子设备可以是移动电子设备。
计算机系统1101可以包括中央处理单元(CPU,在此也称为“处理器”和“计算机处理器”)1105,其可以是单核或多核处理器,或用于并行处理的多个处理器。计算机系统1101还包括存储器或存储器位置1110(例如,随机存取存储器、只读存储器、闪存)、电子存储单元1115(例如,硬盘)、用于与一个或多个其他系统通信的通信接口1120(例如网络适配器),以及外围设备1125(例如高速缓存、其他存储器、数据存储和/或电子显示适配器)。存储器1110、存储单元1115、接口1120和外围设备1125通过诸如母板的通信总线(实线)与CPU1105通信。存储单元1115可以是用于存储数据的数据存储单元(或数据仓库)。计算机系统1101可以在通信接口1120的帮助下可操作地耦合到计算机网络(“网络”)1130。网络1130可以是因特网、内联网和/或外联网、或正在与因特网通信的内联网和/或外联网。网络1130在一些情况下是电信和/或数据网络。网络1130可以包括一个或多个计算机服务器,其可以实现分布式计算,例如云计算。在一些情况下,在计算机系统1101的帮助下,网络1130可以实现对等网络,这可以使耦合到计算机系统1101的设备能够充当客户端或服务器。
CPU 1105可以执行一系列机器可读指令,这些指令可以体现在程序或软件中。指令可以存储在诸如存储器1110的存储位置中。指令可以指向CPU 1105,CPU 1105可以随后编程或以其他方式配置CPU 1105以实现本公开的方法。CPU 1105执行的操作示例可以包括获取、解码、执行和写回。
CPU 1105可以是电路的一部分,例如集成电路。系统1101的一个或多个其他组件可以包括在电路中。在一些情况下,该电路是专用集成电路(ASIC)。
存储单元1115可以储存文件,例如驱动程序、库和保存的程序。存储单元1115可以存储用户数据,例如用户偏好和用户程序。在一些情况下,计算机系统1101可以包括一个或多个位于计算机系统1101外部的附加数据存储单元,例如位于通过内联网或因特网与计算机系统1101通信的远程服务器上。
计算机系统1101可以通过网络1130与一个或多个远程计算机系统通信。例如,计算机系统1101可以与用户(例如,终端用户、医疗操作者、医疗支持人员、医务人员、经历外科手术过程的医疗患者的朋友或家人等)的远程计算机系统通信。远程计算机系统的示例包括个人计算机(例如便携式PC)、平板计算机或平板PC(例如,iPad、Galaxy Tab)、电话、智能电话(例如,iPhone、支持Android的设备、)或个人数字助理。用户可以经由网络1130访问计算机系统1101。
如本文所述的方法可以通过存储在计算机系统1101的电子存储位置上(例如,存储在存储器1110或电子存储单元1115上)的机器(例如,计算机处理器)可执行代码来实现。机器可执行或机器可读代码可以以软件的形式提供。在使用期间,代码可以由处理器1105执行。在一些情况下,代码可以从存储单元1115中检索并存储在存储器1110上以供处理器1105随时访问。在一些情况下,可以排除电子存储单元1115,而将机器可执行指令存储在存储器1110中。
代码可以被预编译和配置以与具有适于执行代码的处理器的机器一起使用,或者可以在运行时编译。代码可以以编程语言提供,可以选择该编程语言以使代码能够以预编译或编译后的方式执行。
本文提供的系统和方法的方面,例如计算机系统1101,可以体现在编程中。该技术的各个方面可以被认为是“产品”或“制品”,其通常以在一种机器可读介质中承载或体现的机器(或处理器)可执行代码和/或相关数据的形式。机器可执行代码可以存储在电子存储单元上,例如存储器(例如,只读存储器、随机存取存储器、闪存)或硬盘。“存储”类型的介质可以包括计算机、处理器等或其相关模块的任何或所有有形存储器,例如各种半导体存储器、磁带驱动器、磁盘驱动器等,其可以随时提供非暂时性存储进行软件编程。软件的全部或部分随时可以通过因特网或各种其他电信网络进行通信。例如,这样的通信可以使软件能够从一台计算机或处理器加载到另一台计算机或处理器中,例如从管理服务器或主机计算机加载到应用服务器的计算机平台中。因此,可以承载软件元件的另一种类型的介质包括光波、电波和电磁波,例如跨本地设备之间的物理接口、通过有线和光学陆线网络以及通过各种空中链路使用。承载此类波的物理元件,例如有线或无线链路、光链路等,也可以被认为是承载软件的介质。如本文所用,除非限于非暂时性、有形“存储”介质,否则诸如计算机或机器“可读介质”的术语是指参与向处理器提供指令以供执行的任何介质。
因此,机器可读介质,例如计算机可执行代码,可以采用多种形式,包括但不限于有形存储介质、载波介质或物理传输介质。非易失性存储介质包括例如光盘或磁盘,诸如任何计算机等中的任何存储设备,诸如可用于实现图中所示的数据库等。易失性存储介质包括动态存储器,例如此类计算机平台的主存储器。有形传输介质包括同轴电缆;铜线和光纤,包括构成计算机系统内总线的电线。载波传输介质可以采用电信号或电磁信号,或者声波或光波的形式,例如在射频(RF)和红外(IR)数据通信期间生成的那些。因此,常见形式的计算机可读介质包括例如:软盘、柔性盘、硬盘、磁带、任何其他磁介质、CD-ROM、DVD或DVD-ROM、任何其他光学介质、打孔卡纸磁带、任何其他带有孔洞图案的物理存储介质、RAM、ROM、PROM和EPROM、FLASH-EPROM、任何其他存储器芯片或盒式磁带、传输数据或指令的载波、传输此类载波的电缆或链路,或任何其他计算机可以从中读取编程代码和/或数据的介质。许多这些形式的计算机可读介质可能涉及将一个或多个指令的一个或多个序列传送到处理器以供执行。
计算机系统1101可以包括或与电子显示器1135通信,该电子显示器1135包括用户界面(UI)1140,其用于提供例如用于观看一个或多个外科手术过程视频的门户。在一些情况下,用户界面可以被配置为允许一个或多个终端用户观看由多个成像设备捕获的多个视频的不同子集。门户可以通过应用编程接口(API)提供。用户或实体还可以经由UI与门户中的各种元素进行交互。UI的示例包括但不限于图形用户界面(GUI)和基于Web的用户界面。
本公开的方法和系统可以通过一种或多种算法来实现。算法可以在中央处理单元1105执行时通过软件来实现。该算法可以被配置为(a)获得多个外科手术过程的视频;(b)至少部分地基于多个视频确定外科手术过程的进度量;以及(c)至少部分地基于进度量,更新外科手术过程的一个或多个步骤的估计定时。该算法可以进一步被配置为向一个或多个终端用户提供估计定时,以协调另一外科手术过程或病房周转。在一些情况下,该算法可以被配置为(a)获得多个外科手术过程的视频,其中使用多个成像设备捕获多个视频;以及(b)向多个终端用户提供多个视频,其中多个终端用户中的每个终端用户接收多个视频的不同子集。
图12A、图12B、图12C、图12D、图12E、图12F和图12G示出了用于将多个视频流式传输到一个或多个终端用户的各种非限制性实施方式。用于将多个视频流式传输到一个或多个终端用户的各种方法可以使用视频流平台来实现。视频流平台可以包括控制台或广播机1210,其被配置为使用客户端/服务器1220、对等(P2P)计算或网络、P2P组播和/或客户端/服务器流和P2P组播方法的组合将一个或多个视频从控制台1210流式传输到一个或多个终端用户或远程专家1230。
图12A示出了点对点视频流的方法,该方法可用于将一个或多个视频从云服务器1220流式传输到控制台1210和/或远程专家1230。云服务器1220可以被配置为作为信令和中继服务器操作。在一些情况下,控制台1210可以被配置为将一个或多个视频直接流式传输到远程专家1230。一个或多个视频可以使用一个或多个流协议和技术进行流式传输,例如安全实时传输协议(SRTP)、实时传输协议(RTP)、实时流协议(RTSP)、数据报传输层安全性(DTLS)、会话描述协议(SDP)、会话初始协议(SIP)、Web实时通信(WebRTC)、传输层安全性(TLS)、WebSocket安全(WSS)、实时消息传递协议(RTMP)、用户数据报协议(UDP)、传输控制协议(TCP)和/或其任意组合。
图12B示出了客户端/服务器视频流的方法,该方法可用于将一个或多个视频流式传输到远程专家。在一些情况下,控制台1210可以被配置为将一个或多个视频流式传输到云服务器1220。云服务器1220可以被配置为将一个或多个视频流式传输到远程专家1230。如上所述,可以使用一个或多个流协议和技术对一个或多个视频进行流式传输,例如安全实时传输协议(SRTP)、实时传输协议(RTP)、实时流协议(RTSP)、数据报传输层安全性(DTLS)、会话描述协议(SDP)、会话初始协议(SIP)、Web实时通信(WebRTC)、传输层安全性(TLS)、WebSocket安全(WSS)、实时消息传递协议(RTMP)、用户数据报协议(UDP)、传输控制协议(TCP)和/或其任意组合。
图12C示出了控制台1210的示例,该控制台1210可以被配置为从连接或可操作地耦合到控制台1210的一个或多个医学成像设备或相机捕获或接收数据和/或视频。控制台1210可以被配置为创建一个由一个或多个医学成像设备或相机捕获或接收的数据和/或视频的单个合成帧。单个合成帧可以从控制台1210经由云服务器1220发送到多个远程参与者1230。可以在广播级别(例如,在控制台1210处)处、在云服务器1220中或在远程用户级别(例如,在远程参与者或专家1230的终端用户设备处)处定义用于共享或观看视频或视频帧的一个或多个策略。一个或多个策略可用于确定视频或视频帧的哪些部分是每个终端用户或远程专家1230感兴趣的或与其相关的。在一些情况下,基于定义由控制台1210广播的视频或视频帧的哪些部分可以被每个远程专家1230观看或访问的一个或多个策略或规则,云服务器1220可以被配置为修改(例如,修剪和/或增强)一个或多个视频或视频帧,并向每个远程参与者或专家1230发送一个或多个修改的视频或视频帧。基于用于观看和访问一个或多个视频或视频帧的一个或多个策略或规则,广播机或控制台1210可以被配置为经由云服务器1220或直接使用对等(P2P)网络来多路复用针对不同的终端用户或远程专家1230的多个独立流。此外,控制台1210或云服务器1220可以被配置为基于用于观看和访问一个或多个视频或视频帧的一个或多个策略或规则,定义或选择用于流式传输给不同远程用户的视频或视频帧内的一个或多个不同感兴趣区域(ROI)。此类系统可以被配置为分割或分区视频或视频帧的不同部分,并能够将视频或视频帧的不同部分分发给不同的终端用户,从而增强安全性和隐私性。将视频或视频帧的不同部分分发给不同的终端用户还可以通过允许不同的终端用户轻松监测外科手术过程的不同方面或步骤或跟踪用于执行外科手术过程的一个或多个步骤的不同工具来增强对焦和清晰度。从控制台1210流式传输出的视频或视频帧的不同部分可以定制给每个终端用户或远程专家1230,这取决于每个终端用户或远程专家1230的角色和/或视频或视频帧的不同部分与每个终端用户或远程专家1230的相关性。
如图12C所示,一个或多个视频或视频帧和/或一个或多个视频或视频帧的不同分割部分可以使用一个或多个流协议和技术从控制台1210广播到云服务器1220,例如安全实时传输协议(SRTP)、实时传输协议(RTP)、实时流协议(RTSP)、数据报传输层安全性(DTLS)、会话描述协议(SDP)、会话初始协议(SIP)、Web实时通信(WebRTC)、传输层安全性(TLS)、WebSocket安全(WSS)、实时消息传递协议(RTMP)、用户数据报协议(UDP)、传输控制协议(TCP)和/或其任意组合。一个或多个视频或视频帧和/或一个或多个视频或视频帧的不同分割部分可以使用一个或多个流协议和技术从云服务器1220流式传输到多个远程专家1230,例如安全实时传输协议(SRTP)、实时传输协议(RTP)、实时流协议(RTSP)、数据报传输层安全性(DTLS)、会话描述协议(SDP)、会话初始协议(SIP)、Web实时通信(WebRTC)、传输层安全性(TLS)、WebSocket安全(WSS)、实时消息传递协议(RTMP)、用户数据报协议(UDP)、传输控制协议(TCP)和/或其任意组合。
如图12D所示,一个或多个视频或视频帧和/或一个或多个视频或视频帧的不同分割部分可以使用一个或多个流协议和技术从控制台1210广播到云服务器1220,例如安全实时传输协议(SRTP)、实时传输协议(RTP)、实时流协议(RTSP)、数据报传输层安全性(DTLS)、会话描述协议(SDP)、会话初始协议(SIP)、Web实时通信(WebRTC)、传输层安全性(TLS)、WebSocket安全(WSS)、实时消息传递协议(RTMP)、用户数据报协议(UDP)、传输控制协议(TCP)和/或它们的任意组合。在一些情况下,一个或多个视频或视频帧和/或一个或多个视频或视频帧的不同分割部分可以使用HyperText传输协议(HTTP)自适应比特率流(ABR)、AppleTM HTTP实时流(HLS)、运动图像专家组基于HTTP的动态自适应流(MPEG-DASH)、MicrosoftTM平滑流、AdobeTM HTTP动态流(HDS)、通用媒体应用格式(CMAF)和/或其任意组合从云服务器1220广播给多个远程专家1230。AppleTM HLS、MPEG-DASH和CMAF可与分块传输编码结合使用,以支持低延迟流。如本文所用,低延迟流可以指视频或视频帧的流,其延迟(即视频捕获和视频流之间的延迟)约为10秒、9秒、8秒、7秒、6秒、5秒、4秒、3秒、2秒、1秒、1毫秒、1微秒、1纳秒或更少。
如图12E和图12F所示,在一些情况下,一个或多个视频或视频帧和/或一个或多个视频或视频帧的不同分割部分可以使用HyperText传输协议(HTTP)自适应比特率流(ABR)、AppleTM HTTP实时流(HLS)、运动图像专家组基于HTTP的动态自适应流(MPEG-DASH)、MicrosoftTM平滑流、AdobeTM HTTP动态流(HDS)、通用媒体应用格式(CMAF)和/或其任意组合从控制台1210广播到云服务器1220。在一些情况下,一个或多个视频或视频帧和/或一个或多个视频或视频帧的不同分割部分可以使用HyperText传输协议(HTTP)自适应比特率流(ABR)、AppleTM HTTP实时流(HLS)、运动图像专家组基于HTTP的动态自适应流(MPEG-DASH)、MicrosoftTM平滑流、AdobeTM HTTP动态流(HDS)、通用媒体应用格式(CMAF)和/或其任意组合从云服务器1220广播给一个或多个远程专家1230。在其他情况下,一个或多个视频或视频帧和/或一个或多个视频或视频帧的不同分割部分可以使用安全实时传输协议(SRTP)、实时传输协议(RTP)、实时流协议(RTSP)、数据报传输层安全性(DTLS)、会话描述协议(SDP)、会话初始协议(SIP)、Web实时通信(WebRTC)、传输层安全性(TLS)、WebSocket安全(WSS)、实时消息传递协议(RTMP)、用户数据报协议(UDP)、传输控制协议(TCP)和/或它们的任意组合从云服务器1220广播到一个或多个远程专家1230。在本文描述的任何实施方式中,一个或多个视频或视频帧和/或一个或多个视频或视频帧的不同分割部分可以使用不同的流协议从云服务器1220广播到不同的远程专家1230。
图12G示出了对等组播流方法的示例,这些方法可用于将多个成像设备捕获的一个或多个视频流式传输给多个终端用户。在一些情况下,一个或多个视频可以从流源(例如,控制台或广播机)流式传输到多个节点或终端用户。在一些情况下,网络中的一个或多个节点可能会将一个或多个视频流式传输到网络中的其他节点。
在本文描述的任何实施方式中,一个或多个视频编解码器可用于流式传输由多个成像设备捕获的一个或多个视频。一个或多个视频编解码器可能包括高效视频编码(HEVC或H.265)、高级视频编码(AVC或H.264)、VP9或AOMedia视频1(AV1)。在本文描述的任何实施方式中,一个或多个音频可用于流式传输与一个或多个视频相关联的音频。一个或多个音频编解码器可能包括G.711PCM(A-法)、G.711PCM(μ-法)、作品、高级音频编码(AAC)、杜比数字AC-3或杜比数字增强(增强型AC-3)。在本文描述的任何实施方式中,由连接到广播控制台或可操作耦合到广播控制台的医疗成像设备和相机捕获的视频或视频帧可以使用本文中描述的任何协议和编解码器渲染、捕获、组合、匿名、编码、加密和/或流式传输到一个或多个远程参与者。
虽然本发明的优选实施方式已经在本文示出和描述,但对于本领域技术人员来说容易理解的是,这些实施方式仅通过示例提供。不旨在使本发明受限于说明书中提供的具体示例。虽然已经参考前述说明书描述了本发明,但是这里对实施方式的描述和图示并不意味着被解释为限制性的。在不脱离本发明的情况下,本领域技术人员将想到许多变体、变化和替换。此外,应当理解,本发明的所有方面不限于这里阐述的具体描述、配置或相对比例,这些具体描述、配置或相对比例取决于各种条件和变量。应当理解,本文中描述的本发明的实施方式的各种替代方案可以用于实施本发明。因此,可以设想,本发明还应涵盖任何此类替代、修改、变体或等同物。旨在使以下权利要求定义本发明的范围,并由此涵盖这些权利要求范围内的方法和结构及其等同物。
Claims (48)
1.一种用于视频协作的方法,所述方法包括:
(a)获得外科手术过程的多个视频;
(b)至少部分地基于所述多个视频或其子集来确定所述外科手术过程的一个或多个步骤的进度量;以及
(c)至少部分地基于步骤(b)中确定的所述进度量,更新执行或完成所述外科手术过程的所述一个或多个步骤的估计定时。
2.根据权利要求1所述的方法,还包括向一个或多个终端用户提供所述估计定时,以协调所述外科手术过程的执行或完成或者不同于所述外科手术过程的至少一个其他外科手术过程的执行或完成。
3.根据权利要求1所述的方法,还包括向一个或多个终端用户提供所述估计定时以协调病房周转。
4.根据权利要求2所述的方法,其中所述外科手术过程和所述至少一个其他外科手术过程包括涉及供体对象和受体对象的两个或更多个医疗操作。
5.根据权利要求3所述的方法,还包括基于执行或完成所述外科手术过程的所述一个或多个步骤的所述估计定时来安排或更新一个或多个其他外科手术过程的安排。
6.根据权利要求5所述的方法,其中安排所述一个或多个其他外科手术过程包括:识别或分配用于所述一个或多个其他外科手术过程的可用时隙或可用手术室。
7.根据权利要求1所述的方法,其中确定所述外科手术过程的所述一个或多个步骤的所述进度量包括:分析所述多个视频以跟踪用于执行所述外科手术过程的所述一个或多个步骤的一种或多种工具的移动或使用。
8.根据权利要求1所述的方法,其中所述估计定时是从与执行相同或相似外科手术过程所花费的实际时间相关联的定时信息中得出的。
9.根据权利要求1所述的方法,还包括基于更新的估计定时生成一视觉状态栏,其中所述视觉状态栏指示完成所述外科手术过程的所述一个或多个步骤的总预测时间。
10.根据权利要求1所述的方法,还包括当所述估计定时偏离预测定时达一阈值时,生成警报或通知。
11.根据权利要求10所述的方法,其中所述阈值是预定的。
12.根据权利要求10所述的方法,其中所述阈值基于过程的类型或执行所述外科手术过程的操作者的经验水平是可调整的。
13.根据权利要求2或3所述的方法,其中所述一个或多个终端用户包括医疗操作者、医护人员、医疗供应商、或被配置为帮助或支持所述外科手术过程或至少一个其他外科手术过程的一个或多个机器人。
14.根据权利要求1所述的方法,还包括至少部分地基于所述更新的估计定时来确定执行所述外科手术过程的操作者的效率,以完成所述外科手术过程的一个或多个步骤。
15.根据权利要求14所述的方法,还包括为操作者生成一个或多个建议,以在执行相同或相似的外科手术过程时提高操作者的效率。
16.根据权利要求14所述的方法,还包括基于操作者的效率或所述外科手术过程的表现为操作者生成评分或评估。
17.一种用于视频协作的方法,所述方法包括:
(a)获得外科手术过程的多个视频,其中多个视频是使用多个成像设备捕获的;以及
(b)向多个终端用户提供所述多个视频,其中所述多个终端用户中的至少一个终端用户基于所述至少一个终端用户的身份、专业知识或可用性接收与所述多个终端用户中的至少一个其他终端用户不同的所述多个视频的部分或子集。
18.根据权利要求17所述的方法,其中所述多个视频的所述不同子集包括使用所述多个成像设备的不同子集捕获的一个或多个视频。
19.根据权利要求17所述的方法,其中提供所述多个视频包括在所述多个成像设备正在捕获所述多个视频时将所述多个视频实时流式传输或广播给所述多个终端用户。
20.根据权利要求17所述的方法,其中提供所述多个视频包括将所述多个视频储存在服务器或存储介质上以供所述多个终端用户观看或访问。
21.根据权利要求17所述的方法,其中提供所述多个视频包括向第一终端用户提供第一视频并且向第二终端用户提供第二视频。
22.根据权利要求17所述的方法,其中提供所述多个视频包括向第一终端用户提供视频的第一部分并且向第二终端用户提供所述视频的第二部分。
23.根据权利要求17所述的方法,其中所述第一视频是使用所述多个成像设备中的第一成像设备捕获的,并且其中所述第二视频是使用所述多个成像设备中的第二成像设备捕获的。
24.根据权利要求23所述的方法,其中所述第二成像设备提供与所述第一成像设备不同的所述外科手术过程的视图。
25.根据权利要求23所述的方法,其中相对于所述外科手术过程的对象或执行所述外科手术过程的一个或多个步骤的操作者,所述第二成像设备具有与所述第一成像设备不同的位置或取向。
26.根据权利要求22所述的方法,其中所述视频的所述第一部分对应于与所述视频的所述第二部分不同的所述外科手术过程的时间点或不同的步骤。
27.根据权利要求17所述的方法,还包括在一个或多个预定时间点向所述多个终端用户提供所述多个视频。
28.根据权利要求17所述的方法,还包括为所述多个终端用户提供一个或多个用户界面以观看、修改或注释所述多个视频。
29.根据权利要求28所述的方法,其中所述一个或多个用户界面允许在所述多个视频中的两个或更多个视频之间进行转换或切换。
30.根据权利要求28所述的方法,其中所述一个或多个用户界面允许同时观看两个或更多个视频。
31.根据权利要求17所述的方法,其中在视频库中储存或编译所述多个视频,其中提供所述多个视频包括广播、流式传输或通过一个或多个视频点播服务或模型提供对所述多个视频中的一个或多个的访问。
32.根据权利要求17所述的方法,还包括为所述多个终端用户实施虚拟会话,以在捕获所述多个视频时实时协作地观看和提供所述多个视频的一个或多个注释。
33.根据权利要求32所述的方法,其中所述一个或多个注释包括由所述多个终端用户中的一个或多个提供的视觉标记或图示。
34.根据权利要求32所述的方法,其中所述一个或多个注释包括由所述多个终端用户中的一个或多个提供的音频、文字或图文解说。
35.根据权利要求32所述的方法,其中所述虚拟会话允许所述多个终端用户修改所述多个视频的内容。
36.根据权利要求35所述的方法,其中修改所述多个视频的所述内容包括添加或移除音频或视觉效果。
37.一种用于视频协作的方法,所述方法包括:
(a)向多个用户提供外科手术过程的一个或多个视频;以及
(b)为所述多个用户提供虚拟工作空间,以基于所述一个或多个视频进行协作,其中所述虚拟工作空间允许所述多个用户中的每个用户(i)观看所述一个或多个视频或捕获所述一个或多个视频的一个或多个录音,(ii)向所述一个或多个视频或录音提供一个或多个视频标记,以及(iii)向所述多个用户分发包含所述一个或多个视频标记的所述一个或多个视频或录音。
38.根据权利要求37所述的方法,其中所述虚拟工作空间允许所述多个用户同时流式传输所述一个或多个视频并向所述多个用户分发包括所述一个或多个视频标记的所述一个或多个视频或录音。
39.根据权利要求38所述的方法,其中所述虚拟工作空间允许第一用户提供第一组视频标记,而同时第二用户提供第二组视频标记。
40.根据权利要求39所述的方法,其中所述虚拟工作空间允许第三用户同时观看所述第一组视频标记和所述第二组视频标记,以比较或对比由所述第一用户和所述第二用户提供的输入或指导。
41.根据权利要求39所述的方法,其中所述第一组视频标记和所述第二组视频标记对应于同一视频、同一录音、或视频或录音的同一部分。
42.根据权利要求39所述的方法,其中所述第一组视频标记和所述第二组视频标记对应于不同的视频、不同的录音、或同一视频或录音的不同部分。
43.根据权利要求37所述的方法,其中所述一个或多个视频包括所述外科手术过程的突出显示视频,其中所述突出显示视频包括选择用于所述外科手术过程的感兴趣的一个或多个部分、阶段或步骤。
44.根据权利要求39所述的方法,其中关于由所述第一用户和所述第二用户捕获的不同视频或录音来提供所述第一组视频标记和所述第二组视频标记。
45.根据权利要求39所述的方法,其中关于由所述第一用户或所述第二用户捕获的同一视频或录音来提供所述第一组视频标记和第二组视频标记或将所述第一组视频标记和第二组视频标记叠加在彼此之上。
46.根据权利要求39所述的方法,其中所述虚拟工作空间允许所述多个用户中的每个用户同时与所述多个用户共享一个或多个应用或窗口。
47.根据权利要求37所述的方法,其中所述虚拟工作空间允许所述多个用户同时提供视频标记或同时修改由所述多个用户中的一个或多个用户提供的视频标记。
48.根据权利要求47所述的方法,其中所述视频标记被提供在所述外科手术过程的现场视频流或所述外科手术过程的录音上。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US202063012394P | 2020-04-20 | 2020-04-20 | |
US63/012,394 | 2020-04-20 | ||
US202063121701P | 2020-12-04 | 2020-12-04 | |
US63/121,701 | 2020-12-04 | ||
PCT/US2021/028101 WO2021216509A1 (en) | 2020-04-20 | 2021-04-20 | Methods and systems for video collaboration |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115917492A true CN115917492A (zh) | 2023-04-04 |
Family
ID=78269953
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202180043764.7A Pending CN115917492A (zh) | 2020-04-20 | 2021-04-20 | 用于视频协作的方法和系统 |
Country Status (7)
Country | Link |
---|---|
US (1) | US20230363851A1 (zh) |
EP (1) | EP4139780A1 (zh) |
JP (1) | JP2023521714A (zh) |
CN (1) | CN115917492A (zh) |
AU (1) | AU2021258139A1 (zh) |
CA (1) | CA3176315A1 (zh) |
WO (1) | WO2021216509A1 (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220013232A1 (en) * | 2020-07-08 | 2022-01-13 | Welch Allyn, Inc. | Artificial intelligence assisted physician skill accreditation |
US20220392593A1 (en) * | 2021-06-04 | 2022-12-08 | Mirza Faizan | Medical Surgery Recording, Processing and Reporting System |
WO2023199252A1 (en) * | 2022-04-14 | 2023-10-19 | Kartik Mangudi Varadarajan | A system and method for anonymizing videos |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9766441B2 (en) * | 2011-09-22 | 2017-09-19 | Digital Surgicals Pte. Ltd. | Surgical stereo vision systems and methods for microsurgery |
US10169535B2 (en) * | 2015-01-16 | 2019-01-01 | The University Of Maryland, Baltimore County | Annotation of endoscopic video using gesture and voice commands |
US20170053543A1 (en) * | 2015-08-22 | 2017-02-23 | Surgus, Inc. | Commenting and performance scoring system for medical videos |
US11071595B2 (en) * | 2017-12-14 | 2021-07-27 | Verb Surgical Inc. | Multi-panel graphical user interface for a robotic surgical system |
-
2021
- 2021-04-20 JP JP2022561038A patent/JP2023521714A/ja active Pending
- 2021-04-20 EP EP21792490.1A patent/EP4139780A1/en active Pending
- 2021-04-20 CA CA3176315A patent/CA3176315A1/en active Pending
- 2021-04-20 AU AU2021258139A patent/AU2021258139A1/en active Pending
- 2021-04-20 CN CN202180043764.7A patent/CN115917492A/zh active Pending
- 2021-04-20 WO PCT/US2021/028101 patent/WO2021216509A1/en unknown
-
2022
- 2022-10-14 US US18/046,703 patent/US20230363851A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
WO2021216509A1 (en) | 2021-10-28 |
JP2023521714A (ja) | 2023-05-25 |
AU2021258139A1 (en) | 2022-11-03 |
CA3176315A1 (en) | 2021-10-28 |
US20230363851A1 (en) | 2023-11-16 |
EP4139780A1 (en) | 2023-03-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11314846B1 (en) | Surgical communication and computerization infrastructure | |
US20230363851A1 (en) | Methods and systems for video collaboration | |
US20140204190A1 (en) | Systems and methods for providing guidance for a procedure with a device | |
US20140222526A1 (en) | System and method for augmenting healthcare-provider performance | |
CA2899006A1 (en) | System and method for augmenting healthcare-provider performance | |
US20230134195A1 (en) | Systems and methods for video and audio analysis | |
Chi et al. | Clinical education and the electronic health record: the flipped patient | |
US20200365258A1 (en) | Apparatus for generating and transmitting annotated video sequences in response to manual and image input devices | |
Colborn et al. | Predictive analytics and artificial intelligence in surgery—opportunities and risks | |
US20230136558A1 (en) | Systems and methods for machine vision analysis | |
US20220254516A1 (en) | Medical Intelligence System and Method | |
De et al. | Intelligent Virtual Operating Room for Enhancing Nontechnical Skills | |
US20200066413A1 (en) | Medical procedure based a/r and v/r experience between physician and patient/patient's family | |
Pugh | The Experienced Surgeon and New Tricks—It’s Time for Full Adoption and Support of Automated Performance Metrics and Databases | |
Shkolyar et al. | Laying the groundwork for optimized surgical feedback | |
McIntyre et al. | Globalization of surgery: Let's get serious | |
Wincewicz | Veit Stoss’s High Altar of St Mary's Church—A 15th Century Altar Depicting Skin Lesions | |
Palagin et al. | Digital health systems: SMART-system for remote support of hybrid E-rehabilitation services and activities | |
Herrera et al. | Robotic Assisted Surgery: A Theoretical Approach to Perceived Workload and Non-verbal and Verbal Communication | |
Fried | The challenges and potential of otolaryngological telemedicine |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |