CN115954096B - 一种基于图像数据处理的腔镜vr成像系统 - Google Patents
一种基于图像数据处理的腔镜vr成像系统 Download PDFInfo
- Publication number
- CN115954096B CN115954096B CN202310239628.6A CN202310239628A CN115954096B CN 115954096 B CN115954096 B CN 115954096B CN 202310239628 A CN202310239628 A CN 202310239628A CN 115954096 B CN115954096 B CN 115954096B
- Authority
- CN
- China
- Prior art keywords
- knife
- image
- position information
- tip
- calculating
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation
Landscapes
- Endoscopes (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种基于图像数据处理的腔镜VR成像系统,涉及腔镜VR成像技术领域,包括控制层、设备层、数据库层,所述设备层包括输入设备和输出设备,所述输入设备包括摄像机组、音频设备,所述输出设备包括腔镜VR成像的显示装置、报警装置,所述数据库层用于存储腔镜VR成像系统工作中采集的数据,所述控制层包括CPU、图像处理模块、计算模块、通讯模块、预警模块,所述CPU用于对整体系统的运行进行管理控制,所述预警模块用于对腔镜手术因医生所持手术刀刀尖的抖动幅度变化而产生的手术风险进行预警,并通过所述输出设备中的报警装置进行报警,所述图像处理模块用于对二维图像进行处理以形成VR图像。
Description
技术领域
本发明涉及腔镜VR成像技术领域,特别涉及腔镜VR成像领域中图像数据的处理。
背景技术
目前在医学领域,VR成像系统主要用于实践教学、CT(电子计算机断层扫描)以及医学机器人这些风险较低的应用方向,在腔镜手术领域,VR成像系统主要偏向于手术培训和对手术路线的导航。
如公开号为CN115602032A的中国专利公开了一种基于虚拟现实的消化内镜手术培训系统,所述基于虚拟现实的消化内镜手术培训系统包括:智能手术机器人、人机交互模块、虚拟现实模块以及远程指导模块;所述智能手术机器人与所述人机交互模块连接;所述人机交互模块与所述虚拟现实模块连接;所述远程指导模块与所述虚拟现实模块连接。本发明通过视觉仿真使相关人体器官以及手术环境更加真实并提高手术训练的质量。
但现有VR成像技术在实际的腔镜手术中,无法做到对腔镜手术因医生而产生的手术风险进行危险判断和预警。为解决这一问题,本发明提出了一种基于图像数据处理的腔镜VR成像系统。
发明内容
针对现有技术的不足,本发明的主要目的是提供一种基于图像数据处理的腔镜VR成像系统,能够有效解决背景技术中的问题:现有VR成像技术在实际的腔镜手术中,无法做到对腔镜手术因医生而产生的手术风险进行危险判断和预警。本发明的具体技术方案如下:
一种基于图像数据处理的腔镜VR成像系统,包括控制层、设备层、数据库层;
所述设备层包括输入设备和输出设备,所述输入设备包括摄像机组、音频设备,所述摄像机组用于获取腔镜手术时的二维图像,所述音频设备用于获取腔镜手术中的音频信息;所述输出设备包括腔镜VR成像的显示装置、报警装置,所述报警装置用于对手术风险进行预警,所述显示装置用于显示腔镜VR成像后的图像;
所述数据库层用于存储腔镜VR成像系统工作过程中采集的数据;
所述控制层包括CPU、图像处理模块、计算模块、通讯模块、预警模块,所述CPU用于对整体系统的运行进行管理控制,所述预警模块用于对腔镜手术因医生所持手术刀刀尖的抖动幅度变化而产生的手术风险进行预警,并通过所述输出设备中的报警装置进行报警,所述图像处理模块用于对二维图像进行处理以形成VR图像,所述计算模块用于对腔镜手术中提取到的各项数据进行计算分析,所述通讯模块用于在腔镜VR成像系统内部构建通讯网络,实现系统内部的数据互传。
本发明进一步的改进在于,所述图像处理模块包括图像去噪单元、图像拼接单元,所述图像去噪单元用于对模糊的、不清晰的二维图像进行去噪处理,所述图像拼接单元用于对不同图像重叠区域的特征点提取,并对图像进行校准、初匹配、拼接,使多个不同二维图像组合形成VR图像。
本发明进一步的改进在于,所述计算模块包括位置信息计算单元、抖动幅度计算单元,所述位置信息计算单元用于对病变部位与手术刀刀尖所处区域的位置信息进行精确计算,所述抖动幅度计算单元用于对在腔镜手术中执刀医生的不同持刀姿势下手术刀刀尖的抖动幅度进行计算。
本发明进一步的改进在于,所述计算模块中包括整体计算策略,所述整体计算策略包括以下具体步骤:
1、位置信息计算,包括:病变部位处于VR图像中的位置信息,医生所持手术刀刀尖操作的位置;
2、计算腔镜手术中执刀医生手术刀刀尖在不同持刀姿势下的抖动幅度;
3、根据医生所持手术刀刀尖操作的位置、刀尖抖动幅度大小、病变部位边缘位置信息进行危险判断,当判断手术刀尖不在病变部位边缘位置时,进行风险预警。
本发明进一步的改进在于,所述位置信息计算单元包括:对病变部位与手术刀刀尖所处区域的位置信息的计算策略,所述对病变部位与手术刀刀尖所处区域的位置信息的计算策略为:
s1、设进行所述VR成像的摄像机组分别为、/>,进行所述VR成像的摄像机组的投影矩阵分别为/>、/>,其中/>是投影矩阵/>的第i行第j列元素,/>是投影矩阵的第i行第j列元素,/>是第i个摄像机组的光心到病变部位与手术刀刀尖所处区域的距离,/>为病变部位与手术刀刀尖所处区域通过摄像机组/>得到的二维图像下的齐次坐标,其中/>为其二维图像下的齐次坐标的横坐标,/>为其二维图像下的齐次坐标的纵坐标,/>为病变部位与手术刀刀尖所处区域通过摄像机组/>得到的二维图像下的齐次坐标,其中/>为其二维图像下的齐次坐标的横坐标,/>为其二维图像下的齐次坐标的纵坐标,/>是病变部位与手术刀刀尖所处区域在世界坐标系下的齐次坐标,建立方程式:/>;/>;
本发明进一步的改进在于,所述抖动幅度计算单元包括抖动幅度的计算策略,所述抖动幅度的计算策略用于计算腔镜手术中执刀医生不同持刀姿势下手术刀刀尖的抖动幅度,具体步骤为:
a1、对医生、手术刀刀尖的位置信息进行计算,设其持刀姿势有m种,不同持刀姿势持续时间分别为,/>,...,/>,其中/>表示第i个持刀姿势持续时间的编号,对m种持刀姿势下,手术刀刀尖的位置信息间隔1ms提取一次;
a2、计算同一种持刀姿势下,提取n次手术刀刀尖的位置信息的三维点坐标,/>,....,/>,因间隔1ms提取一次,所以n为同种持刀姿势持续时间T的大小,则相邻两次提取的位置信息的点坐标/>和/>,在X,Y,Z坐标轴下的距离分别为/>,/>,/>,其中i=1,2,3,...,n,分别计算相邻两次提取的三维点坐标距离/>,则同种持刀姿势下刀尖抖动幅度/> ,即得腔镜手术中执刀医生手术刀刀尖在m种持刀姿势下的抖动幅度分别为/>,/>,...,/>;
本发明进一步的改进在于,所述危险判断具体步骤为:
与现有技术相比,本发明具有如下有益效果:
1、本发明能够对腔镜手术因医生而产生的手术风险进行危险判断和预警,大大减少了腔镜手术中存在的风险,提高了腔镜手术的安全性;
2、在腔镜手术中,医生的不同的持刀姿势下所持手术刀刀尖的抖动幅度差异较大,本发明能够对腔镜手术中执刀医生在不同持刀姿势下手术刀刀尖的抖动幅度进行精确量化,以便更精准的切除病变部位,在现有技术的基础上更进一步的提高切除的准确率和腔镜手术的成功率。
附图说明
图1为本发明一种基于图像数据处理的腔镜VR成像系统的框架示意图。
图2为本发明一种基于图像数据处理的腔镜VR成像系统的整体计算策略流程图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合说明书附图对本发明的具体实施方式做详细的说明。
在下面的描述中阐述了很多具体细节以便于充分理解本发明,但是本发明还可以采用其他不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本发明内涵的情况下做类似推广,因此本发明不受下面公开的具体实施例的限制。
其次,此处所称的“一个实施例”或“实施例”是指可包含于本发明至少一个实现方式中的特定特征、结构或特性。在本说明书中不同地方出现的“在一个实施例中”并非均指同一个实施例,也不是单独的或选择性的与其他实施例互相排斥的实施例。
实施例
本实施例通过腔镜VR成像系统对腔镜手术中的病变部位所处区域的位置信息、医生所持手术刀刀尖所处区域的位置信息、医生在不同持刀姿势下所持手术刀刀尖的抖动幅度进行精确计算,以对在腔镜手术中因医生而产生的手术风险进行危险判断和预警,具体方案为,如图1和图2所示,一种基于图像数据处理的腔镜VR成像系统,包括控制层、设备层、数据库层;
所述设备层包括输入设备和输出设备,所述输入设备包括摄像机组、音频设备,所述摄像机组用于获取腔镜手术时的二维图像,所述音频设备用于获取腔镜手术中的音频信息;所述输出设备包括腔镜VR成像的显示装置、报警装置,所述报警装置用于对手术风险进行预警,所述显示装置用于显示腔镜VR成像后的图像;
所述数据库层用于存储腔镜VR成像系统工作过程中采集的数据;
所述控制层包括CPU、图像处理模块、计算模块、通讯模块、预警模块,所述CPU用于对整体系统的运行进行管理控制,所述预警模块用于对腔镜手术因医生所持手术刀刀尖的抖动幅度变化而产生的手术风险进行预警,并通过所述输出设备中的报警装置进行报警,所述图像处理模块用于对二维图像进行处理以形成VR图像,所述计算模块用于对腔镜手术中提取到的各项数据进行计算分析,所述通讯模块用于在腔镜VR成像系统内部构建通讯网络,实现系统内部的数据互传。
在本实施例中,所述图像处理模块包括图像去噪单元、图像拼接单元,所述图像去噪单元用于对模糊的、不清晰的二维图像进行去噪处理,所述图像拼接单元用于对不同图像重叠区域的特征点提取,并对图像进行校准、初匹配、拼接,使多个不同二维图像组合形成VR图像。
在本实施例中,所述计算模块包括位置信息计算单元、抖动幅度计算单元,所述位置信息计算单元用于对病变部位与手术刀刀尖所处区域的位置信息进行精确计算,所述抖动幅度计算单元用于对在腔镜手术中执刀医生的不同持刀姿势下手术刀刀尖的抖动幅度进行计算。
在本实施例中,所述计算模块中包括整体计算策略,所述整体计算策略包括以下具体步骤:
1、位置信息计算,包括:病变部位处于VR图像中的位置信息,医生所持手术刀刀尖操作的位置信息;
2、计算腔镜手术中执刀医生手术刀刀尖在不同持刀姿势下的抖动幅度;
3、根据医生所持手术刀刀尖操作的位置、刀尖抖动幅度大小、病变部位边缘位置信息进行危险判断,当判断手术刀尖不在病变部位边缘位置时,进行风险预警。
在本实施例中,所述位置信息计算单元包括:对病变部位与手术刀刀尖所处区域的位置信息的计算策略,所述对病变部位与手术刀刀尖所处区域的位置信息的计算策略为:
s1、设进行所述VR成像的摄像机组分别为、/>,进行所述VR成像的摄像机组的投影矩阵分别为/>、/>,其中/>是投影矩阵/>的第i行第j列元素,/>是投影矩阵的第i行第j列元素,/>是第i个摄像机组的光心到病变部位与手术刀刀尖所处区域的距离,/>为病变部位与手术刀刀尖所处区域通过摄像机组/>得到的二维图像下的齐次坐标,其中/>为其二维图像下的齐次坐标的横坐标,/>为其二维图像下的齐次坐标的纵坐标,/>为病变部位与手术刀刀尖所处区域通过摄像机组/>得到的二维图像下的齐次坐标,其中/>为其二维图像下的齐次坐标的横坐标,/>为其二维图像下的齐次坐标的纵坐标,/>是病变部位与手术刀刀尖所处区域在世界坐标系下的齐次坐标,建立方程式:/>;;
在本实施例中,所述抖动幅度计算单元包括抖动幅度的计算策略,所述抖动幅度的计算策略用于计算腔镜手术中执刀医生不同持刀姿势下手术刀刀尖的抖动幅度,具体步骤为:
a1、对医生、手术刀刀尖的位置信息进行计算,设其持刀姿势有m种,不同持刀姿势持续时间分别为,/>,...,/>,其中/>表示第i个持刀姿势持续时间的编号,对m种持刀姿势下,手术刀刀尖的位置信息间隔1ms提取一次;
a2、计算同一种持刀姿势下,提取n次手术刀刀尖的位置信息的三维点坐标,/>,....,/>,因间隔1ms提取一次,所以n为同种持刀姿势持续时间T的大小,则相邻两次提取的位置信息的点坐标/>和/>,在X,Y,Z坐标轴下的距离分别为,/>,/>,其中i=1,2,3,...,n,分别计算相邻两次提取的三维点坐标距离/>,则同种持刀姿势下刀尖抖动幅度/>,即得腔镜手术中执刀医生手术刀刀尖在m种持刀姿势下的抖动幅度分别为/>,/>,...,/>;
在本实施例中,所述危险判断具体步骤为:
通过本实施例能够实现:通过腔镜VR成像系统对腔镜手术中的病变部位所处区域的位置信息、医生所持手术刀刀尖所处区域的位置信息、医生在不同持刀姿势下所持手术刀刀尖的抖动幅度进行精确计算,以对在腔镜手术中因医生而产生的手术风险进行危险判断和预警。
以上显示和描述了本发明的基本原理和主要特征和本发明的优点。本行业的技术人员应该了解,本发明不受上述实施例的限制,上述实施例和说明书中描述的只是说明本发明的原理,在不脱离本发明精神和范围的前提下,本发明还会有各种变化和改进,这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。
Claims (3)
1.一种基于图像数据处理的腔镜VR成像系统,包括控制层、设备层、数据库层;
所述设备层包括输入设备和输出设备,所述输入设备包括摄像机组、音频设备,所述摄像机组用于获取腔镜手术时的二维图像,所述音频设备用于获取腔镜手术中的音频信息;所述输出设备包括腔镜VR成像的显示装置、报警装置,所述报警装置用于对手术风险进行预警,所述显示装置用于显示腔镜VR成像后的图像;
所述数据库层用于存储腔镜VR成像系统工作过程中采集的数据;
其特征在于:所述控制层包括CPU、图像处理模块、计算模块、通讯模块、预警模块,所述CPU用于对整体系统的运行进行管理控制,所述预警模块用于对腔镜手术因医生所持手术刀刀尖的抖动幅度变化而产生的手术风险进行预警,并通过所述输出设备中的报警装置进行报警,所述图像处理模块用于对二维图像进行处理以形成VR图像,所述计算模块用于对腔镜手术中提取到的各项数据进行计算分析,所述通讯模块用于在腔镜VR成像系统内部构建通讯网络,实现系统内部的数据互传;所述图像处理模块包括图像去噪单元、图像拼接单元,所述图像去噪单元用于对模糊的、不清晰的二维图像进行去噪处理,所述图像拼接单元用于对不同图像重叠区域的特征点提取,并对图像进行校准、初匹配、拼接,使多个不同二维图像组合形成VR图像;所述计算模块包括位置信息计算单元、抖动幅度计算单元,所述位置信息计算单元用于对病变部位与手术刀刀尖所处区域的位置信息进行精确计算,所述抖动幅度计算单元用于对在腔镜手术中执刀医生的不同持刀姿势下手术刀刀尖的抖动幅度进行计算;所述计算模块中包括整体计算策略,所述整体计算策略包括以下具体步骤:
101、位置信息计算,包括:病变部位处于VR图像中的位置信息,医生所持手术刀刀尖操作的位置;
102、计算腔镜手术中执刀医生手术刀刀尖在不同持刀姿势下的抖动幅度;
103、根据医生所持手术刀刀尖操作的位置、刀尖抖动幅度大小、病变部位边缘位置信息进行危险判断,当判断手术刀尖不在病变部位边缘位置时,进行风险预警;所述位置信息计算单元包括:对病变部位与手术刀刀尖所处区域的位置信息的计算策略,所述对病变部位与手术刀刀尖所处区域的位置信息的计算策略为:
201、设进行所述VR成像的摄像机组分别为、/>,进行所述VR成像的摄像机组的投影矩阵分别为/>、/>,其中/>是投影矩阵/>的第i行第j列元素,/>是投影矩阵的第i行第j列元素,/>是第i个摄像机组的光心到病变部位与手术刀刀尖所处区域的距离,/>为病变部位与手术刀刀尖所处区域通过摄像机组/>得到的二维图像下的齐次坐标,其中/>为其二维图像下的齐次坐标的横坐标,/>为其二维图像下的齐次坐标的纵坐标,/>为病变部位与手术刀刀尖所处区域通过摄像机组/>得到的二维图像下的齐次坐标,其中/>为其二维图像下的齐次坐标的横坐标,/>为其二维图像下的齐次坐标的纵坐标,/>是病变部位与手术刀刀尖所处区域在世界坐标系下的齐次坐标,建立方程式:
2.根据权利要求1所述的一种基于图像数据处理的腔镜VR成像系统,其特征在于:所述抖动幅度计算单元包括抖动幅度的计算策略,所述抖动幅度的计算策略用于计算腔镜手术中执刀医生不同持刀姿势下手术刀刀尖的抖动幅度,具体步骤为:
301、对医生、手术刀刀尖的位置信息进行计算,设其持刀姿势有m种,不同持刀姿势持续时间分别为,/>,...,/>,其中/>表示第i个持刀姿势持续时间的编号,对m种持刀姿势下,手术刀刀尖的位置信息间隔1ms提取一次;/>
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310239628.6A CN115954096B (zh) | 2023-03-14 | 2023-03-14 | 一种基于图像数据处理的腔镜vr成像系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310239628.6A CN115954096B (zh) | 2023-03-14 | 2023-03-14 | 一种基于图像数据处理的腔镜vr成像系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115954096A CN115954096A (zh) | 2023-04-11 |
CN115954096B true CN115954096B (zh) | 2023-05-30 |
Family
ID=85907013
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310239628.6A Active CN115954096B (zh) | 2023-03-14 | 2023-03-14 | 一种基于图像数据处理的腔镜vr成像系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115954096B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117204790B (zh) * | 2023-09-12 | 2024-01-30 | 南京诺源医疗器械有限公司 | 一种内窥镜的图像处理方法及系统 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN201353203Y (zh) * | 2009-02-09 | 2009-12-02 | 李晴航 | 计算机辅助手术术中定位系统 |
EP3453355B1 (en) * | 2017-09-08 | 2024-06-26 | Mariner Endosurgery Inc. | System for inhibiting injury to a patient during laparoscopic surgery |
CN110037768A (zh) * | 2019-04-23 | 2019-07-23 | 雅客智慧(北京)科技有限公司 | 关节置换手术辅助定位方法、定位装置及系统 |
CN110916764B (zh) * | 2019-12-06 | 2022-07-29 | 厚凯(天津)医疗科技有限公司 | 超声手术刀的振幅确定方法、装置、存储介质及电子设备 |
CN115515520A (zh) * | 2020-02-28 | 2022-12-23 | 第八志力公司 | 手术导航系统及其应用 |
CN115338873B (zh) * | 2022-10-19 | 2022-12-16 | 四川爱麓智能科技有限公司 | 一种基于多参多维距离场数字化的机器人运动规划方法 |
-
2023
- 2023-03-14 CN CN202310239628.6A patent/CN115954096B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN115954096A (zh) | 2023-04-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220336078A1 (en) | System and method for tracking a portion of the user as a proxy for non-monitored instrument | |
RU2740259C2 (ru) | Позиционирование датчика ультразвуковой визуализации | |
CN107613897B (zh) | 扩增实境的外科导航 | |
CN110033465B (zh) | 一种应用于双目内窥镜医学图像的实时三维重建方法 | |
JP5410629B1 (ja) | 超音波診断システム、画像処理装置およびその制御方法と制御プログラム | |
CN112618026B (zh) | 远程手术数据融合交互显示系统及方法 | |
CN109512514A (zh) | 一种混合现实骨科微创手术导航系统及使用方法 | |
JP6083103B2 (ja) | 画像内遮蔽領域の画像補完システム、画像処理装置及びそのプログラム | |
US11896441B2 (en) | Systems and methods for measuring a distance using a stereoscopic endoscope | |
CN107374729A (zh) | 基于ar技术的手术导航系统及方法 | |
CN112641514B (zh) | 一种微创介入导航系统与方法 | |
CN115954096B (zh) | 一种基于图像数据处理的腔镜vr成像系统 | |
CN111588467B (zh) | 基于医学影像的三维空间坐标转换为影像二维坐标的方法 | |
CN112515763B (zh) | 目标物的定位显示方法、系统、装置和电子设备 | |
JP6493885B2 (ja) | 画像位置合せ装置、画像位置合せ装置の作動方法および画像位置合せプログラム | |
JP2014064722A (ja) | 仮想内視鏡画像生成装置および方法並びにプログラム | |
US20240189043A1 (en) | Surgical navigation system and method, and electronic device and readable storage medium | |
CN111658142A (zh) | 一种基于mr的病灶全息导航方法及系统 | |
CN109106448A (zh) | 一种手术导航方法和装置 | |
US20200074737A1 (en) | Visualization of ultrasound images in physical space | |
CN115105204A (zh) | 一种腹腔镜增强现实融合显示方法 | |
CN113317874B (zh) | 一种医学图像处理装置及介质 | |
Habert et al. | Multi-layer visualization for medical mixed reality | |
CN115624384B (zh) | 基于混合现实技术的手术辅助导航系统、方法和存储介质 | |
JP7345866B2 (ja) | 情報処理システム、情報処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |