CN101739879B - 基于实时位姿捕捉的手术仿真系统的方法及图形渲染模块 - Google Patents

基于实时位姿捕捉的手术仿真系统的方法及图形渲染模块 Download PDF

Info

Publication number
CN101739879B
CN101739879B CN2009102450007A CN200910245000A CN101739879B CN 101739879 B CN101739879 B CN 101739879B CN 2009102450007 A CN2009102450007 A CN 2009102450007A CN 200910245000 A CN200910245000 A CN 200910245000A CN 101739879 B CN101739879 B CN 101739879B
Authority
CN
China
Prior art keywords
model
pose
stage
operating theater
theater instruments
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN2009102450007A
Other languages
English (en)
Other versions
CN101739879A (zh
Inventor
刘霄飞
严小天
唐国潮
冀强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tianjin Tellyes Scientific Co Ltd
Original Assignee
Tianjin Tellyes Scientific Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tianjin Tellyes Scientific Co Ltd filed Critical Tianjin Tellyes Scientific Co Ltd
Priority to CN2009102450007A priority Critical patent/CN101739879B/zh
Publication of CN101739879A publication Critical patent/CN101739879A/zh
Application granted granted Critical
Publication of CN101739879B publication Critical patent/CN101739879B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)

Abstract

一种基于实时位姿捕捉的手术仿真系统的方法及图形渲染模块,系统手术器械分别连接实体模型和位姿捕捉系统,位姿捕捉系统的输出连接计算机,计算机连接显示器。方法:读入手术器械碰撞模型新的位姿信息并存储;与前一次读入的手术器械碰撞模型的位姿进行比较,判断是否有变化,有进入下一阶段,无回第1阶段;判断手术器械是否与实体模型接触,有记录与实体模型的碰撞点和时间,无回第1阶段;重置手术器械碰撞模型。模块有依次进行的渲染过程、应用过程和场景图显示,渲染过程有手术器械设定部分和实体模型设定部分;应用过程有手术器械的选择及人体实体的确定。本发明实时采集手术器械在空间运动的位姿信息,并及时反馈给虚拟环境,具有精度高、反应快的特点。

Description

基于实时位姿捕捉的手术仿真系统的方法及图形渲染模块
技术领域
本发明涉及一种虚拟手术仿真系统。特别是涉及一种用于医学教学和实践培训练习的基于实时位姿捕捉的手术仿真系统的方法及图形渲染模块。
背景技术
现代科学技术的进步,特别是计算机技术的发展和广发应用,为医学技能训练领域带来了新的契机。传统的医学技能培训中,医生要经过长时间的系统的学习和训练才能熟练掌握,通常情况下是在尸体和活体动物上进行。这种传统的方法存在很多弊端也不符合国际人道主义的惯例。一方面,在尸体上进行训练时由于尸体经过防腐处理,尸体组织器官都有组织结构和位置上的变化,医生也无法获得病人语言或是肢体反应;在活体上进行时,由于活体组织结构与人体的差别较大,医生也无法得到好的训练;另一方面,传统培训中的尸体或活体大都只能用一次,无法重复使用,训练成本很高。
目前医学培训领域应用较多的是美国3DImmersion公司的VIV以及Sensible公司的PHANTOM,这些公司的力反馈系统价格昂贵、结构复杂、不易维修,而且在操作上与实际手术过程有较大区别,因而难以达到训练效果。
发明内容
本发明所要解决的技术问题是,提供一种通过位姿捕捉系统将实体模型和虚拟环境联系起来,实时采集手术器械在空间运动的位姿信息,并及时反馈给虚拟环境,具有精度高、反应快的基于实时位姿捕捉的手术仿真系统的方法及图形渲染模块。
本发明所采用的技术方案是:一种用于基于实时位姿捕捉技术的虚拟手术仿真系统的方法,包括如下阶段:
1)读入手术器械碰撞模型新的位姿信息并存储;
2)与前一次读入的手术器械碰撞模型的位姿进行比较,判断是否有变化,有变化进入下一阶段,否则返回第1阶段;
3)判断手术器械是否与实体模型接触,有接触记录与实体模型的碰撞点和时间,否则返回第1阶段;
所述的判断手术器械是否与实体模型接触,有接触记录与实体模型的碰撞点和时间,否则返回第1阶段包括如下步骤:
1)判断手术器械是否与人体模型接触,有接触进入第2步骤,否则返回第1阶段;
(2)记录与人体模型的碰撞点和时间,然后分别进入第3、5步骤;
(3)判断是否与肌肉模型接触,有接触进入第4步骤,否则返回第1阶段;
(4)记录与肌肉模型的碰撞点和时间,然后进入第7步骤;
(5)判断是否与神经模型接触,有接触进入第6步骤,同时播放音频,否则返回第1阶段;
(6)记录与神经模型的碰撞点和时间,然后进入第7步骤;
(7)判断是否与骨骼模型接触,有接触进入第8步骤,否则返回第1阶段;
(8)记录与骨骼模型的碰撞点和时间,然后进入第4阶段。
4)重置手术器械碰撞模型。
基于实时位姿捕捉技术的虚拟手术仿真系统,包括有实体模型,手术器械,位姿捕捉系统,计算机以及显示器,其中,所述的手术器械分别对应实体模型和位姿捕捉系统,位姿捕捉系统的输出连接计算机,计算机连接显示器;所述的位姿捕捉系统,包括磁场发生器、位姿传感器、由信号调理电路、数据采集卡和位姿转换模块构成的位姿捕捉器,位姿捕捉系统的磁场发生器有三个相互垂直的线圈,接通交流电后在实体模型所在的空间产生稳定的磁场,传感器上的磁感应元件根据磁场强度和空间位置不同发出不同的信号,信号通过调理电路进入数据采集卡,从而将信号转化为空间位置和姿态信息,位姿转换模块将数据采集卡输出的实体空间的位置和姿态信息通过空间变换原理变换为虚拟空间中的位置和姿态信息,使手术器械和手术器械模型分别保持与实体模型和虚拟环境中三维模型一致的空间运动关系。
本发明的基于实时位姿捕捉的手术仿真系统的方法及图形渲染模块,通过位姿捕捉系统将实体模型和虚拟环境联系起来,实时采集手术器械在空间运动的位姿信息,并及时反馈给虚拟环境,具有精度高、反应快的特点。将三维模型和材质导入图形渲染模块,建立了手术的虚拟环境,具有友好的人机接口,互动性强。这种基于实时位姿捕捉技术的虚实手术仿真系统为操作者真实地再现了手术现场,操作者在这样的虚拟环境中进行手术训练,能获得很好的触觉、视觉和听觉上的训练。
附图说明
图1是本发明的结构构成框图;
图2是本发明的物理碰撞检测系统流程图;
图3是图形渲染系统结构框图
具体实施方式
下面结合附图和实施例对本发明的基于实时位姿捕捉的手术仿真系统的方法及图形渲染模块做出详细说明。
如图1所示,本发明的基于实时位姿捕捉技术的虚拟手术仿真系统,包括有实体模型1,手术器械2,位姿捕捉系统3,计算机4以及显示器5,其中,所述的手术器械2分别对应实体模型1和位姿捕捉系统3,位姿捕捉系统3的输出连接计算机4,计算机4连接显示器5。
所述的手术器械2包括针形的手术器械用针、插管。
所述的实体模型1包括有:骨骼模型、肌肉组织模型、神经模型和人体模型。实体骨骼模型通过CT扫描得到真人的骨骼三维模型,再通过快速成型激光三维打印技术得到,使得骨骼的实体模型精度高。实体肌肉模型和实体皮肤由特种硅胶高分子材料制作,其结构性能和人体肌肉类似;实体人体模型符合真人比例。实体人体模型上留有放置骨骼模型、肌肉模型和皮肤的空间位置。分别将骨骼模型、肌肉模型和皮肤模型固定在人体模型相应的位置上,模型固定在工作台上,操作过程中模型的位置不能有变动。
所述的位姿捕捉系统3采用Ascension Technology Corporation公司生产的3D Guidance trakSTARTM。包括磁场发生器6、位姿传感器7、由信号调理电路、数据采集卡和位姿转换模块构成的位姿捕捉器8。位姿捕捉系统的磁场发生器有三个相互垂直的线圈,接通交流电后在实体模型所在的空间产生稳定的磁场,传感器上的磁感应元件根据磁场强度和空间位置不同发出不同的信号,信号通过调理电路进入数据采集卡,从而将信号转化为空间位置和姿态信息。位姿转换模块将数据采集卡输出的实体空间的位置和姿态信息通过空间变换原理变换为虚拟空间中的位置和姿态信息,使手术器械和手术器械模型分别保持与实体模型和虚拟环境中三维模型一致的空间运动关系。
如图2所示,本发明的用于基于实时位姿捕捉技术的虚拟手术仿真系统的方法:
首先在人体实体模型预设三个点,并记录三维模型上相应三点在虚拟环境空间中的位姿信息,将传感器依次放在人体实体模型上预设的三个点上,这样系统检测的这三个点在实体空间的位姿信息,通过空间位姿变换原理得到一个位姿变换矩阵。然后进行如下所包括阶段:
1)读入手术器械碰撞模型新的位姿信息并存储;
2)与前一次读入的手术器械碰撞模型的位姿进行比较,判断是否有变化,有变化进入下一阶段,否则返回第1阶段;
3)判断手术器械是否与实体模型接触,有接触记录并显示与实体模型的碰撞点和时间,否则返回第1阶段;具体包括如下步骤:
(1)判断手术器械是否与人体模型接触,有接触进入第2步骤,否则返回第1阶段;
(2)记录与人体模型的碰撞点和时间,然后分别进入第3、5步骤;
(3)判断是否与肌肉模型接触,有接触进入第4步骤,否则返回第1阶段;
(4)记录与肌肉模型的碰撞点和时间,然后进入第7步骤;
(5)判断是否与神经模型接触,有接触进入第6步骤,同时通过音频进行播放,否则返回第1阶段;
(6)记录与神经模型的碰撞点和时间,然后进入第7步骤;
(7)判断是否与骨骼模型接触,有接触进入第8步骤,否则返回第1阶段;
(8)记录与骨骼模型的碰撞点和时间,然后进入第4阶段。
(4)重置手术器械碰撞模型。
如图3所示,本发明的图形渲染模块,是将三维模型和材质导入计算机虚拟系统,并设定个模型之间的相对位置关系、分别将材质附着在模型上、控制材质的透明性、控制视窗口的位置。包括有依次进行的渲染过程、应用过程和场景图显示,其中,所述的渲染过程有手术器械设定部分和实体模型设定部分;所述的应用过程有手术器械的选择及人体实体的确定。
所述的实体模型设定部分包括有:依次进行的设定人体外形可渲染对象和设定人体外形子实体、依次进行的设定肌肉可渲染对象和设定肌肉子实体、依次进行的设定神经可渲染对象和设定神经子实体、依次进行的设定骨骼可渲染对象和设定骨骼子实体以及对人体外形及人体外形子实体的可见性的设定;所述的手术器械设定部分包括有依次进行的设定手术器械可渲染对象和设定手术器械子实体。
所述的手术器械的选择包括有,依次进行的选择手术器械实体,以及手术器械场景节点的确定。所述的手术器械场景节点的确定是设定手术器械移动的具体位置,是根据计算机中记录的手术器械与实体模型的碰撞点和时间进行设定。
所述的人体实体的确定,包括有依次进行的对人体实体静止对象的确定、以及场景节点的确定。
本发明的基于实时位姿捕捉的手术仿真系统的方法及图形渲染模块,操作者在进行手术训练时,操作者手持末端带有位姿传感器的针形器械在实体模型上进行操作,获得来自实体模型与针形手术器械相互作用的手感;位姿捕捉模块将针形手术器械的空间位置和姿态传给虚拟环境,再经过位置变换模块得出三维针模型的在虚拟环境中的位置和姿态;物理碰撞检测系统检测和记录操作过程中三维针模型与其它各模型的空间位置关系,当针模型进入或接触到非神经模型的其他模型时,记录其空间位置、时间以及接触次数等相关信息,当接触到神经模型时,根据接触到的次数和位置,系统给出相应的提示信息,如系统通过扩音设备发出声响,从而能使操作者获得听觉上得训练。

Claims (1)

1.一种用于基于实时位姿捕捉技术的虚拟手术仿真系统的方法,其特征在于,包括如下阶段:
1)读入手术器械碰撞模型新的位姿信息并存储;
2)与前一次读入的手术器械碰撞模型的位姿进行比较,判断是否有变化,有变化进入下一阶段,否则返回第1阶段;
3)判断手术器械是否与实体模型接触,有接触记录与实体模型的碰撞点和时间,否则返回第1阶段;
所述的判断手术器械是否与实体模型接触,有接触记录与实体模型的碰撞点和时间,否则返回第1阶段包括如下步骤:
1)判断手术器械是否与人体模型接触,有接触进入第2步骤,否则返回第1阶段;
(2)记录与人体模型的碰撞点和时间,然后分别进入第3、5步骤;
(3)判断是否与肌肉模型接触,有接触进入第4步骤,否则返回第1阶段;
(4)记录与肌肉模型的碰撞点和时间,然后进入第7步骤;
(5)判断是否与神经模型接触,有接触进入第6步骤,同时播放音频,否则返回第1阶段;
(6)记录与神经模型的碰撞点和时间,然后进入第7步骤;
(7)判断是否与骨骼模型接触,有接触进入第8步骤,否则返回第1阶段;
(8)记录与骨骼模型的碰撞点和时间,然后进入第4阶段;
4)重置手术器械碰撞模型;
基于实时位姿捕捉技术的虚拟手术仿真系统,包括有实体模型,手术器械,位姿捕捉系统,计算机以及显示器,其中,所述的手术器械分别对应实体模型和位姿捕捉系统,位姿捕捉系统的输出连接计算机,计算机连接显示器;所述的位姿捕捉系统,包括磁场发生器、位姿传感器、由信号调理电路、数据采集卡和位姿转换模块构成的位姿捕捉器,位姿捕捉系统的磁场发生器有三个相互垂直的线圈,接通交流电后在实体模型所在的空间产生稳定的磁场,传感器上的磁感应元件根据磁场强度和空间位置不同发出不同的信号,信号通过调理电路进入数据采集卡,从而将信号转化为空间位置和姿态信息,位姿转换模块将数据采集卡输出的实体空间的位置和姿态信息通过空间变换原理变换为虚拟空间中的位置和姿态信息,使手术器械和手术器械模型分别保持与实体模型和虚拟环境中三维模型一致的空间运动关系。
CN2009102450007A 2009-12-22 2009-12-22 基于实时位姿捕捉的手术仿真系统的方法及图形渲染模块 Active CN101739879B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN2009102450007A CN101739879B (zh) 2009-12-22 2009-12-22 基于实时位姿捕捉的手术仿真系统的方法及图形渲染模块

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN2009102450007A CN101739879B (zh) 2009-12-22 2009-12-22 基于实时位姿捕捉的手术仿真系统的方法及图形渲染模块

Publications (2)

Publication Number Publication Date
CN101739879A CN101739879A (zh) 2010-06-16
CN101739879B true CN101739879B (zh) 2012-01-04

Family

ID=42463304

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2009102450007A Active CN101739879B (zh) 2009-12-22 2009-12-22 基于实时位姿捕捉的手术仿真系统的方法及图形渲染模块

Country Status (1)

Country Link
CN (1) CN101739879B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104424838A (zh) * 2013-08-26 2015-03-18 王尧 宫腔镜手术模拟器
CN104580973B (zh) * 2014-12-30 2018-03-23 中国科学院深圳先进技术研究院 一种虚拟手术模拟过程的录制、回放方法及装置
CN104916184B (zh) * 2015-06-16 2018-02-06 中国科学院自动化研究所 一种面向术前培训的虚拟手术模拟训练系统及其训练方法
CN105788395B (zh) * 2016-04-27 2019-02-19 天津天堰科技股份有限公司 妇科检查虚实同步模拟方法
CN106127845B (zh) * 2016-06-28 2019-01-25 同济大学 车铣复合加工中心在线防碰撞系统部件模型位姿变换方法
CN108389488B (zh) * 2018-03-05 2020-12-15 泉州医学高等专科学校 一种互动式口腔模拟系统
CN110807968A (zh) * 2019-11-28 2020-02-18 上海褚信医学科技有限公司 穿刺手术教学系统、实现方法、教学终端和教学设备
WO2021195916A1 (zh) * 2020-03-31 2021-10-07 西门子股份公司 动态手部仿真方法、装置和系统

Also Published As

Publication number Publication date
CN101739879A (zh) 2010-06-16

Similar Documents

Publication Publication Date Title
CN101739879B (zh) 基于实时位姿捕捉的手术仿真系统的方法及图形渲染模块
US10354555B2 (en) System and method for performing a hybrid simulation of a medical procedure
Hamza-Lup et al. A survey of visuo-haptic simulation in surgical training
CN102207997B (zh) 基于力反馈的机器人微创手术仿真系统
US9424761B2 (en) Medical simulation system and method with configurable anatomy model manufacturing
EP0426767B1 (en) Internal environment simulator system
US20100179428A1 (en) Virtual interactive system for ultrasound training
CN1541381A (zh) 分娩模拟器
Julian et al. A comparative analysis and guide to virtual reality robotic surgical simulators
US11373553B2 (en) Dynamic haptic robotic trainer
CN110807968A (zh) 穿刺手术教学系统、实现方法、教学终端和教学设备
CN110400620B (zh) 一种心脏三维模型构建方法及模拟心脏手术指导系统
CN103117010A (zh) 一种超声成像模拟系统
CN109979600A (zh) 基于虚拟现实的眼眶手术训练方法、系统和存储介质
CN105788395B (zh) 妇科检查虚实同步模拟方法
CN104424838A (zh) 宫腔镜手术模拟器
US20180225992A1 (en) Ultrasound-guided medical tool insertion simulators
CN102568288A (zh) 带有力反馈的内镜虚拟手术系统
CN111833682A (zh) 基于vr技术的虚拟查体教学方法和装置
Voss et al. LAHYSTOTRAIN-Intelligent training system for laparoscopy and hysteroscopy
Coles et al. Haptic palpation for the femoral pulse in virtual interventional radiology
CN104680911A (zh) 一种基于穿刺虚拟教学训练系统的标记方法
CN115662234B (zh) 一种基于虚拟现实的胸腔镜手术示教系统
KR102624918B1 (ko) 환자유형별 맞춤형 훈련제공이 가능한 햅틱기반 이비인후과 및 신경외과 의학실습 시뮬레이터 및 방법
Klempous et al. Application of simulation techniques in a virtual laparoscopic laboratory

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: method of real-time pose capture-based surgery simulation system, and graph rendering module

Effective date of registration: 20120702

Granted publication date: 20120104

Pledgee: Pudong Shanghai Development Bank Limited by Share Ltd Tianjin branch

Pledgor: Tianjin Tellyes Scientific Co., Ltd.

Registration number: 2012990000344

PC01 Cancellation of the registration of the contract for pledge of patent right

Date of cancellation: 20130705

Granted publication date: 20120104

Pledgee: Pudong Shanghai Development Bank Limited by Share Ltd Tianjin branch

Pledgor: Tianjin Tellyes Scientific Co., Ltd.

Registration number: 2012990000344

PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: method of real-time pose capture-based surgery simulation system, and graph rendering module

Effective date of registration: 20130705

Granted publication date: 20120104

Pledgee: Pudong Shanghai Development Bank Limited by Share Ltd Tianjin branch

Pledgor: Tianjin Tellyes Scientific Co., Ltd.

Registration number: 2013990000433

PLDC Enforcement, change and cancellation of contracts on pledge of patent right or utility model
C56 Change in the name or address of the patentee

Owner name: TIANJIN TIANYAN TECHNOLOGY CO., LTD.

Free format text: FORMER NAME: TIANJIN TELLYES SCIENTIFIC CO., LTD.

CP03 Change of name, title or address

Address after: 300384 Tianjin Haitai Huayuan Industrial Zone No. 18 West Road West, 302 industrial incubation 6-301

Patentee after: TELLYES SCIENTIFIC INC.

Address before: 300384 Tianjin city Nankai District New Technology Industrial Park Huayuan Wuhua Avenue No. 2 hi-tech Torch Innovation Park B block 501

Patentee before: Tianjin Tellyes Scientific Co., Ltd.

PC01 Cancellation of the registration of the contract for pledge of patent right

Date of cancellation: 20140715

Granted publication date: 20120104

Pledgee: Pudong Shanghai Development Bank Limited by Share Ltd Tianjin branch

Pledgor: Tianjin Tellyes Scientific Co., Ltd.

Registration number: 2013990000433

PLDC Enforcement, change and cancellation of contracts on pledge of patent right or utility model
PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: method of real-time pose capture-based surgery simulation system, and graph rendering module

Effective date of registration: 20141113

Granted publication date: 20120104

Pledgee: Pudong Shanghai Development Bank Limited by Share Ltd Tianjin branch

Pledgor: TELLYES SCIENTIFIC INC.

Registration number: 2014990000942

PLDC Enforcement, change and cancellation of contracts on pledge of patent right or utility model
PC01 Cancellation of the registration of the contract for pledge of patent right

Date of cancellation: 20151116

Granted publication date: 20120104

Pledgee: Pudong Shanghai Development Bank Limited by Share Ltd Tianjin branch

Pledgor: TELLYES SCIENTIFIC INC.

Registration number: 2014990000942

PLDC Enforcement, change and cancellation of contracts on pledge of patent right or utility model
PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: method of real-time pose capture-based surgery simulation system, and graph rendering module

Effective date of registration: 20151118

Granted publication date: 20120104

Pledgee: Pudong Shanghai Development Bank Limited by Share Ltd Tianjin branch

Pledgor: TELLYES SCIENTIFIC INC.

Registration number: 2015990001017

PLDC Enforcement, change and cancellation of contracts on pledge of patent right or utility model
PC01 Cancellation of the registration of the contract for pledge of patent right

Date of cancellation: 20161108

Granted publication date: 20120104

Pledgee: Pudong Shanghai Development Bank Limited by Share Ltd Tianjin branch

Pledgor: TELLYES SCIENTIFIC INC.

Registration number: 2015990001017

PLDC Enforcement, change and cancellation of contracts on pledge of patent right or utility model