CN115153835A - 基于特征点配准与增强现实的髋臼假体放置引导系统及方法 - Google Patents

基于特征点配准与增强现实的髋臼假体放置引导系统及方法 Download PDF

Info

Publication number
CN115153835A
CN115153835A CN202210861172.2A CN202210861172A CN115153835A CN 115153835 A CN115153835 A CN 115153835A CN 202210861172 A CN202210861172 A CN 202210861172A CN 115153835 A CN115153835 A CN 115153835A
Authority
CN
China
Prior art keywords
acetabular
hip joint
virtual
matrix
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210861172.2A
Other languages
English (en)
Inventor
李彬
郑梅义
孙鸿涛
杨荣骞
杨宜昕
田联房
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
South China University of Technology SCUT
Guangdong No 2 Peoples Hospital
Original Assignee
South China University of Technology SCUT
Guangdong No 2 Peoples Hospital
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by South China University of Technology SCUT, Guangdong No 2 Peoples Hospital filed Critical South China University of Technology SCUT
Priority to CN202210861172.2A priority Critical patent/CN115153835A/zh
Publication of CN115153835A publication Critical patent/CN115153835A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • A61B2034/101Computer-aided simulation of surgical operations
    • A61B2034/102Modelling of surgical devices, implants or prosthesis
    • A61B2034/104Modelling the effect of the tool, e.g. the effect of an implanted prosthesis or for predicting the effect of ablation or burring
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • A61B2034/101Computer-aided simulation of surgical operations
    • A61B2034/105Modelling of the patient, e.g. for ligaments or bones
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • A61B2034/108Computer aided selection or customisation of medical implants or cutting guides

Landscapes

  • Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Robotics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本发明公开了一种基于特征点配准与增强现实的髋臼假体放置引导系统及方法,该方法包括:获取髋关节图像信息及三维重建髋关节模型;求解对应髋臼杯型号;将对应髋臼杯导入并模拟髋臼杯放置;求解并可视化髋臼假体放置方向;将虚拟三维髋关节模型作为浮动图像,将实际髋关节手术部位作为参考图像,基于选取特征点匹配的四元数法求解旋转平移矩阵进行虚实场景的配准;利用增强现实技术将配准好的虚拟规划路径实时渲染到实际场景;采用张式标定法实现机械臂的手眼标定,获取相机坐标系到机械臂坐标系的变换矩阵,引导机械臂抓取髋臼锉到达术前规划路径的空间位置。本发明减少仅凭主观判断引起的误差,提高假体放置的准确性和安全性,缩短假体放置时间。

Description

基于特征点配准与增强现实的髋臼假体放置引导系统及方法
技术领域
本发明涉及计算机图形图像处理技术领域,具体涉及一种基于特征点配准与增强现实的髋臼假体放置引导系统及方法。
背景技术
研究发现术中假体植入位置不正确是导致髋关节置换术后关节不稳定脱位等多种并发症的重要原因,而髋臼假体的准确放置又是假体放置中难度最大的一环,因此国内外许多专家认为髋臼假体的精准放置是手术成功的关键。
由于髋关节结构的特殊性与复杂性和受到多种潜在因素的影响,如术中患者体位发生变化、术者目测误差、参考标志变形或缺失等,髋臼假体的精准放置方法尚无统一标准,存在定位不准,手术难度与风险大的问题。
目前国内医生在髋关节置换术前大多采用CT图像了解病人病灶信息,但是CT图像是二维图像,医生只能凭借经验从序列二维图像估计病灶大小和形状,想象病灶和周围组织的关系,这给手术方案的制定带来了一定的困难。在髋关节置换术中,主要也还是依靠临床经验和肉眼观察来定位髋臼假体的放置位置,存在假体植入不准的问题。
发明内容
本发明的目的在于克服现有技术存在的髋臼假体植入不准问题,提出了一种基于特征点配准与增强现实的髋臼假体放置引导系统及方法,本发明减少仅凭主观判断引起的误差,提高髋臼假体放置的准确性和安全性,缩短假体放置时间。
为了达到上述目的,本发明采用以下技术方案:
本发明提供一种基于特征点配准与增强现实的髋臼假体放置引导系统,包括:髋关节图像解析模块、髋关节模型三维重建模块、髋臼杯型号求解模块、模拟髋臼杯放置模块、假体放置路径规划模块、深度相机信息获取模块,旋转平移矩阵求解模块、虚实场景配准模块、机械臂引导模块;
所述髋关节图像解析模块用于对髋关节部位的DICOM格式文件进行解析,获取髋关节图像信息;
所述髋关节模型三维重建模块用于基于移动立方体算法获取虚拟三维髋关节模型;
所述髋臼杯型号求解模块用于基于交互式点拾取技术和最小二乘法拟合求解对应的髋臼杯型号;
所述模拟髋臼杯放置模块用于将对应髋臼杯以STL文件格式导入,采用Lewinnek安全区作为髋臼假体放置的参考标准模拟髋臼杯放置;
所述假体放置路径规划模块用于根据髋臼杯边缘信息与交互式点拾取技术,确定髋臼磨锉与植入髋臼假体路径方向并进行可视化;
所述深度相机信息获取模块用于获取实际髋关节手术部位目标模型视频场景,对视频图像进行格式解析,获取视频图像的彩色信息和深度信息;
所述旋转平移矩阵求解模块用于将虚拟三维髋关节模型作为浮动图像,将视频场景中的实际髋关节手术部位目标模型作为参考图像,基于选取特征点匹配的四元数法求解旋转矩阵和平移矩阵;
所述虚实场景配准模块用于将求解的旋转平移矩阵作用于虚场景,以实现虚实场景的配准,同时利用增强现实技术将已配准好的虚拟规划路径实时渲染到实际场景;
所述机械臂引导模块用于基于张氏标定法实现机械臂的手眼标定,获取相机坐标系转换到机械臂坐标系下的变换矩阵,从而引导机械臂抓取髋臼锉到术前规划路径的空间位置,结合增强现实效果进行髋臼磨锉和髋臼假体的放置。
作为优选的技术方案,所述髋臼杯型号求解模块用于基于交互式点拾取技术和最小二乘法拟合求解对应的髋臼杯型号,具体包括:
对虚拟三维髋关节模型进行三维姿态变换使其髋臼横截面在计算机屏幕上的投影面最大,利用交互式点拾取技术在髋臼横截面上选取多个特征点进行髋臼杯大小的拟合,基于最小二乘法求解对应的髋臼杯外径大小,确定全髋关节置换中所需的髋臼杯型号。
作为优选的技术方案,所述假体放置路径规划模块用于根据髋臼杯边缘信息与交互式点拾取技术,确定髋臼磨锉与植入髋臼假体路径方向并进行可视化,具体包括:
根据髋臼杯的边缘信息,采用交互式点拾取技术选取特征点构建髋臼杯平面,根据平面中心区域选取髋臼磨锉点,根据三维空间几何关系求解髋臼磨锉点基于平面的法向量,采用移动立方体算法可视化法向量,作为髋臼磨锉与植入髋臼假体的路径方向。
作为优选的技术方案,所述旋转平移矩阵求解模块用于将虚拟三维髋关节模型作为浮动图像,将视频场景中的实际髋关节手术部位目标模型作为参考图像,基于选取特征点匹配的四元数法求解旋转矩阵和平移矩阵,具体包括:
在虚拟三维髋关节模型上获取目标点集U={ui,i=0,1,2,…,n},在视频图像上获取实际髋关节手术部位目标模型对应的参考点集X={xi,i=0,1,2,…,n};
设置目标函数为:
Figure BDA0003758678640000031
其中,R表示旋转矩阵,T表示平移矩阵;
分别求目标点集U和参考点集X的重心,表示为:
Figure BDA0003758678640000032
基于目标点集U和参考点集X构造协方差矩阵K,表示为:
Figure BDA0003758678640000041
基于协方差矩阵K中元素Kij构造出对称矩阵N,表示为:
Figure BDA0003758678640000042
基于Jacobi法计算对称矩阵N对应的特征值和特征向量,获取最大特征值对应的单位特征向量q=[q0 q1 q2 q3],进一步求解旋转矩阵R,表示为:
Figure BDA0003758678640000043
基于旋转矩阵R求解平移矩阵T,表示为:
T=μX-RμU
其中,μU表示目标点集U的重心,μX表示参考点集X的重心。
本发明还提供一种基于特征点配准与增强现实的髋臼假体放置引导方法,包括下述步骤:
对髋关节部位的DICOM格式文件进行解析,获取髋关节图像信息;
基于移动立方体算法三维重建虚拟三维髋关节模型;
基于交互式点拾取技术和最小二乘法拟合求解对应的髋臼杯型号;
将髋臼杯型号以STL文件格式导入,采用Lewinnek安全区作为髋臼假体放置的参考标准模拟髋臼杯放置;
根据髋臼杯边缘信息与交互式点拾取技术确定髋臼磨锉与植入髋臼假体路径方向并进行可视化;
使用深度相机获取实际髋关节手术部位目标模型视频图像,解析图像的彩色信息和深度信息;
将虚拟三维髋关节模型作为浮动图像,将实际髋关节手术部位目标模型作为参考图像,基于选取特征点匹配的四元数法求解旋转矩阵和平移矩阵;
根据旋转矩阵和平移矩阵得到虚拟场景转换到实际场景的空间变换关系,实现虚实场景的配准;
利用增强现实技术将配准好的虚拟规划路径实时渲染到实际场景;
采用张式标定法实现机械臂的手眼标定,获取相机坐标系转换到机械臂坐标系下的变换矩阵,将虚拟规划路径在深度相机坐标系下对应的位姿信息转换到机械臂坐标系,引导机械臂抓取髋臼锉到虚拟规划路径,结合增强现实效果进行髋臼磨锉和髋臼假体的放置。
作为优选的技术方案,所述基于交互式点拾取和最小二乘法拟合求解对应的髋臼杯型号,具体包括:
对虚拟三维髋关节模型进行三维姿态变换使其髋臼横截面在计算机屏幕上的投影面最大,利用交互式点拾取技术在髋臼横截面上选取多个特征点进行髋臼杯大小的拟合,基于最小二乘法求解对应的髋臼杯外径大小,确定全髋关节置换中所需的髋臼杯型号。
作为优选的技术方案,所述根据髋臼杯边缘信息与交互式点拾取技术确定髋臼磨锉与植入髋臼假体路径方向并进行可视化,具体包括:
根据髋臼杯的边缘信息,采用交互式点拾取技术选取特征点构建髋臼杯平面,根据平面中心区域选取髋臼磨锉点,根据三维空间几何关系求解髋臼磨锉点基于平面的法向量,采用移动立方体算法可视化法向量,作为髋臼磨锉与植入髋臼假体的路径方向。
作为优选的技术方案,所述将虚拟三维髋关节模型作为浮动图像,将实际髋关节手术部位目标模型作为参考图像,基于选取特征点匹配的四元数法求解旋转矩阵和平移矩阵,具体包括:
在虚拟三维髋关节模型上获取目标点集U={ui,i=0,1,2,…,n},在视频图像上获取实际髋关节手术部位目标模型对应的参考点集X={xi,i=0,1,2,…,n};
设置目标函数为:
Figure BDA0003758678640000061
其中,R表示旋转矩阵,T表示平移矩阵;
分别求目标点集U和参考点集X的重心,表示为:
Figure BDA0003758678640000062
基于目标点集U和参考点集X构造协方差矩阵K,表示为:
Figure BDA0003758678640000063
基于协方差矩阵K中元素Kij构造出对称矩阵N,表示为:
Figure BDA0003758678640000064
基于Jacobi法计算对称矩阵N对应的特征值和特征向量,获取最大特征值对应的单位特征向量q=[q0 q1 q2 q3],进一步求解旋转矩阵R,表示为:
Figure BDA0003758678640000065
基于旋转矩阵R求解平移矩阵T,表示为:
T=μX-RμU
其中,μU表示目标点集U的重心,μX表示参考点集X的重心。
本发明与现有技术相比,具有如下优点和有益效果:
(1)本发明利用交互式点拾取技术和最小二乘法拟合求解髋臼杯型号,采用Lewinnek安全区作为参考标准模拟实现髋臼杯放置,根据三维空间几何关系求解髋臼磨锉和髋臼假体放置路径并进行可视化,达到规划假体放置路径的目的。
(2)本发明不依赖于人工标记,基于特征点实现虚拟场景和实际场景的匹配,利用增强现实技术将已配准的虚拟规划路径实时渲染到实际场景,达到精确放置假体的目的。
(3)本发明结合了机械臂引导模块,机械臂可抓取髋臼锉到达规划好的参考路径,减少仅凭主观判断引起的误差,提高假体放置的准确性和安全性,缩短假体放置时间。
附图说明
图1为本发明基于特征点配准与增强现实的髋臼假体放置引导系统的框架结构示意图;
图2为本发明基于特征点配准与增强现实的髋臼假体放置引导方法的流程示意图;
图3为本发明虚拟规划路径的效果示意图;
图4(a)为本发明配准好的虚拟髋臼杯和假体放置路径的效果示意图;
图4(b)为本发明只显示虚拟假体放置路径的效果示意图;
图5为本发明机械臂引导效果示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
实施例1
如图1所示,本实施例提供一种基于特征点配准与增强现实的髋臼假体放置引导系统,包括:髋关节图像解析模块、髋关节模型三维重建模块、髋臼杯型号求解模块、模拟髋臼杯放置模块、假体放置路径规划模块、深度相机信息获取模块,旋转平移矩阵求解模块、虚实场景配准模块、机械臂引导模块;
在本实施例中,髋关节图像解析模块用于对髋关节部位的DICOM格式文件进行解析,获取髋关节图像信息;
在本实施例中,髋关节模型三维重建模块用于基于移动立方体算法获取虚拟三维髋关节模型;
在本实施例中,髋臼杯型号求解模块用于基于交互式点拾取技术和最小二乘法拟合求解对应的髋臼杯型号;
在本实施例中,模拟髋臼杯放置模块用于将对应髋臼杯以STL(StereoLithography)文件格式导入,采用Lewinnek安全区作为髋臼假体放置的参考标准进行髋臼杯放置的规划模拟;
在本实施例中,假体放置路径规划模块用于根据髋臼杯边缘信息与交互式点拾取技术确定髋臼磨锉与植入髋臼假体路径方向并进行可视化,可视化结果如图3所示。
在本实施例中,深度相机信息获取模块用于获取实际髋关节手术部位目标模型视频场景,对视频图像进行格式解析,获取视频图像的彩色信息和深度信息;
在本实施例中,旋转平移矩阵求解模块用于将虚拟三维髋关节模型作为浮动图像,将视频场景中的实际髋关节手术部位目标模型作为参考图像,基于选取特征点匹配的四元数法求解旋转矩阵和平移矩阵;
在本实施例中,虚实场景配准模块用于将求解的旋转平移矩阵作用于虚场景,以实现虚实场景的配准,同时利用增强现实技术将已配准好的虚拟规划路径实时渲染到实际场景。如图4(a)和图4(b)所示,得到配准好的虚拟髋臼杯和假体放置路径、以及只显示虚拟假体放置路径的配准渲染效果;
在本实施例中,机械臂引导模块用于基于张氏标定法实现机械臂的手眼标定,获取相机坐标系转换到机械臂坐标系下的变换矩阵,从而引导机械臂抓取髋臼锉到术前规划路径的空间位置,结合增强现实效果进行髋臼磨锉和髋臼假体的放置,机械臂引导效果如图5所示。
在本实施例中,髋臼杯型号求解模块用于基于交互式点拾取技术和最小二乘法拟合求解对应的髋臼杯型号,具体包括:
对虚拟三维髋关节模型进行三维姿态变换使其髋臼横截面在计算机屏幕上的投影面最大,利用交互式点拾取技术在髋臼横截面上选取多个特征点进行髋臼杯型号的拟合,基于最小二乘法求解对应的髋臼杯外径大小,确定全髋关节置换中所需的髋臼杯型号。
在本实施例中,路径方向可视化模块用于根据髋臼杯边缘信息与交互式点拾取技术确定髋臼磨锉与植入髋臼假体路径方向并进行可视化,具体包括:
根据髋臼杯的边缘信息,采用交互式点拾取技术选取特征点构建髋臼杯平面,根据平面中心区域选取髋臼磨锉点,根据三维空间几何关系求解髋臼磨锉点基于平面的法向量,采用移动立方体算法可视化法向量,作为髋臼磨锉与植入髋臼假体的路径方向。
在本实施例中,旋转平移矩阵求解模块用于将虚拟三维髋关节模型作为浮动图像,将视频场景中的实际髋关节手术部位目标模型作为参考图像,基于选取特征点匹配的四元数法求解旋转矩阵和平移矩阵,具体包括:
在虚拟三维髋关节模型上获取目标点集U={ui,i=0,1,2,…,n},在视频图像上获取3D髋关节模型对应的参考点集X={xi,i=0,1,2,…,n};
设置目标函数为:
Figure BDA0003758678640000101
其中,R表示旋转矩阵,T表示平移矩阵;
分别求目标点集U和参考点集X的重心,表示为:
Figure BDA0003758678640000102
基于目标点集U和参考点集X构造协方差矩阵K,表示为:
Figure BDA0003758678640000103
基于协方差矩阵K中元素Kij(i,j=1,2,3)构造出对称矩阵N,表示为:
Figure BDA0003758678640000104
基于Jacobi法计算对称矩阵N对应的特征值和特征向量,获取最大特征值对应的单位特征向量q=[q0 q1 q2 q3],进一步求解旋转矩阵R,表示为:
Figure BDA0003758678640000105
基于旋转矩阵R求解平移矩阵T,表示为:
T=μX-RμU
其中,μU表示目标点集U的重心,μX表示参考点集X的重心。
实施例2
如图2所示,本实施例提供一种基于特征点配准与增强现实的髋臼假体放置引导方法,包括下述步骤:
步骤1:对髋关节部位的DICOM格式文件进行解析,获取其包含的图像信息,基于移动立方体算法获取三维髋关节模型并将其显示在计算机屏幕上。
步骤2:对虚拟三维髋关节模型进行三维姿态变换使其髋臼横截面在计算机屏幕上的投影面最大,利用交互式点拾取技术在髋臼横截面上选取一系列特征点进行髋臼杯型号的拟合,特征点选取完毕后,基于最小二乘法求解对应的髋臼杯外径大小,以此确定全髋关节置换中所需的髋臼杯型号。
步骤3:将确定好的髋臼杯型号以STL文件格式导入并显示在同一窗口,采用Lewinnek安全区作为髋臼假体放置的参考标准规划模拟实现髋臼杯的放置。
步骤4:基于放置好的髋臼杯模型的边缘信息,采用交互式点拾取技术选取特征点构建髋臼杯平面,再根据平面中心区域选取髋臼磨锉点;利用三维空间几何关系求解髋臼磨锉点基于平面的法向量,采用移动立方体算法可视化出该虚拟法向量方向以便于观察,可视化效果如图3所示。此法向量方向便是术前规划的髋臼磨锉与植入髋臼假体的方向,将此法向量方向作为术中髋臼磨锉和植入髋臼假体方向的参考标准。
步骤5:采用三维深度相机获取3D打印的髋关节模型的三维视频场景,对视频图像进行格式解析,获取视频图像的彩色信息和深度信息。
步骤6:将步骤1中三维重建的虚拟三维髋关节模型当作浮动图像,将视频场景中的3D打印髋关节模型当作参考图像,使用基于选取特征点匹配的四元数法求解旋转矩阵和平移矩阵,实现虚拟浮动图像向实际参考图像的配准,具体包含以下步骤:
6.1)在三维虚拟模型上获取目标点集U={ui,i=0,1,2,…,n},在视频图像上获取3D打印模型对应的参考点集X={xi,i=0,1,2,…,n},两个点集包含点的数目相同,为使目标点集U向参考点集X配准,需要求解出最优的旋转矩阵R和平移矩阵T,满足目标函数:
Figure BDA0003758678640000121
式中R是3×3的旋转矩阵,T是3×1的平移矩阵。
6.2)分别求目标点集U和参考点集X的重心。
Figure BDA0003758678640000122
6.3)基于目标点集U和参考点集X构造协方差矩阵K。
Figure BDA0003758678640000123
6.4)基于协方差矩阵K中元素Kij(i,j=1,2,3)构造出一个4×4的对称矩阵N。
Figure BDA0003758678640000124
6.5)基于Jacobi法计算矩阵N对应的特征值和特征向量,获取最大特征值对应的单位特征向量q=[q0 q1 q2 q3],则可进一步求解旋转矩阵R。
Figure BDA0003758678640000125
6.6)基于旋转矩阵R求解平移矩阵T。
T=μX-RμU
步骤7:根据计算出的R,T矩阵即可得出术前虚拟场景转换到术中实际场景的空间变换关系,从而实现虚实场景的配准。接着利用增强现实融合技术将已配准好的虚拟规划路径实时渲染到术中实际场景,如图4(a)和图4(b)所示,得到配准好的虚拟髋臼杯和假体放置路径、以及只显示虚拟假体放置路径的配准渲染效果;
步骤8:实现机械臂的手眼标定。采用张氏标定法,计算机械臂和三维深度相机的相对位置关系,获取相机坐标系转换到机械臂坐标系下的变换矩阵
Figure BDA0003758678640000131
由步骤7可获取虚拟规划路径在深度相机坐标系下对应的位姿信息,再利用求解的
Figure BDA0003758678640000132
可其转换到机械臂坐标系。最终,根据虚拟规划路径在机械臂坐标系下的位姿信息,引导机械臂抓取髋臼锉到达规划好的空间位置,同时结合增强现实效果,进行磨锉和髋臼假体的放置。机械臂引导效果如图5所示。
上述实施例为本发明较佳的实施方式,但本发明的实施方式并不受上述实施例的限制,其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化,均应为等效的置换方式,都包含在本发明的保护范围之内。

Claims (8)

1.一种基于特征点配准与增强现实的髋臼假体放置引导系统,其特征在于,包括:髋关节图像解析模块、髋关节模型三维重建模块、髋臼杯型号求解模块、模拟髋臼杯放置模块、假体放置路径规划模块、深度相机信息获取模块,旋转平移矩阵求解模块、虚实场景配准模块、机械臂引导模块;
所述髋关节图像解析模块用于对髋关节部位的DICOM格式文件进行解析,获取髋关节图像信息;
所述髋关节模型三维重建模块用于基于移动立方体算法获取虚拟三维髋关节模型;
所述髋臼杯型号求解模块用于基于交互式点拾取技术和最小二乘法拟合求解对应的髋臼杯型号;
所述模拟髋臼杯放置模块用于将对应髋臼杯以STL文件格式导入,采用Lewinnek安全区作为髋臼假体放置的参考标准模拟髋臼杯放置;
所述假体放置路径规划模块用于根据髋臼杯边缘信息与交互式点拾取技术,确定髋臼磨锉与植入髋臼假体路径方向并进行可视化;
所述深度相机信息获取模块用于获取实际髋关节手术部位目标模型视频场景,对视频图像进行格式解析,获取视频图像的彩色信息和深度信息;
所述旋转平移矩阵求解模块用于将虚拟三维髋关节模型作为浮动图像,将视频场景中的实际髋关节手术部位目标模型作为参考图像,基于选取特征点匹配的四元数法求解旋转矩阵和平移矩阵;
所述虚实场景配准模块用于将求解的旋转平移矩阵作用于虚场景,以实现虚实场景的配准,同时利用增强现实技术将已配准好的虚拟规划路径实时渲染到实际场景;
所述机械臂引导模块用于基于张氏标定法实现机械臂的手眼标定,获取相机坐标系转换到机械臂坐标系下的变换矩阵,从而引导机械臂抓取髋臼锉到术前规划路径的空间位置,结合增强现实效果进行髋臼磨锉和髋臼假体的放置。
2.根据权利要求1所述的基于特征点配准与增强现实的髋臼假体放置引导系统,其特征在于,所述髋臼杯型号求解模块用于基于交互式点拾取技术和最小二乘法拟合求解对应的髋臼杯型号,具体包括:
对虚拟三维髋关节模型进行三维姿态变换使其髋臼横截面在计算机屏幕上的投影面最大,利用交互式点拾取技术在髋臼横截面上选取多个特征点进行髋臼杯大小的拟合,基于最小二乘法求解对应的髋臼杯外径大小,确定全髋关节置换中所需的髋臼杯型号。
3.根据权利要求1所述的基于特征点配准与增强现实的髋臼假体放置引导系统,其特征在于,所述假体放置路径规划模块用于根据髋臼杯边缘信息与交互式点拾取技术,确定髋臼磨锉与植入髋臼假体路径方向并进行可视化,具体包括:
根据髋臼杯的边缘信息,采用交互式点拾取技术选取特征点构建髋臼杯平面,根据平面中心区域选取髋臼磨锉点,根据三维空间几何关系求解髋臼磨锉点基于平面的法向量,采用移动立方体算法可视化法向量,作为髋臼磨锉与植入髋臼假体的路径方向。
4.根据权利要求1所述的基于特征点配准与增强现实的髋臼假体放置引导系统,其特征在于,所述旋转平移矩阵求解模块用于将虚拟三维髋关节模型作为浮动图像,将视频场景中的实际髋关节手术部位目标模型作为参考图像,基于选取特征点匹配的四元数法求解旋转矩阵和平移矩阵,具体包括:
在虚拟三维髋关节模型上获取目标点集U={ui,i=0,1,2,…,n},在视频图像上获取实际髋关节手术部位目标模型对应的参考点集X={xi,i=0,1,2,…,n};
设置目标函数为:
Figure FDA0003758678630000021
其中,R表示旋转矩阵,T表示平移矩阵;
分别求目标点集U和参考点集X的重心,表示为:
Figure FDA0003758678630000031
基于目标点集U和参考点集X构造协方差矩阵K,表示为:
Figure FDA0003758678630000032
基于协方差矩阵K中元素Kij构造出对称矩阵N,表示为:
Figure FDA0003758678630000033
基于Jacobi法计算对称矩阵N对应的特征值和特征向量,获取最大特征值对应的单位特征向量q=[q0 q1 q2 q3],进一步求解旋转矩阵R,表示为:
Figure FDA0003758678630000034
基于旋转矩阵R求解平移矩阵T,表示为:
T=μX-RμU
其中,μU表示目标点集U的重心,μX表示参考点集X的重心。
5.一种基于特征点配准与增强现实的髋臼假体放置引导方法,其特征在于,包括下述步骤:
对髋关节部位的DICOM格式文件进行解析,获取髋关节图像信息;
基于移动立方体算法三维重建虚拟三维髋关节模型;
基于交互式点拾取技术和最小二乘法拟合求解对应的髋臼杯型号;
将髋臼杯型号以STL文件格式导入,采用Lewinnek安全区作为髋臼假体放置的参考标准模拟髋臼杯放置;
根据髋臼杯边缘信息与交互式点拾取技术确定髋臼磨锉与植入髋臼假体路径方向并进行可视化;
使用深度相机获取实际髋关节手术部位目标模型视频图像,解析图像的彩色信息和深度信息;
将虚拟三维髋关节模型作为浮动图像,将实际髋关节手术部位目标模型作为参考图像,基于选取特征点匹配的四元数法求解旋转矩阵和平移矩阵;
根据旋转矩阵和平移矩阵得到虚拟场景转换到实际场景的空间变换关系,实现虚实场景的配准;
利用增强现实技术将配准好的虚拟规划路径实时渲染到实际场景;
采用张式标定法实现机械臂的手眼标定,获取相机坐标系转换到机械臂坐标系下的变换矩阵,将虚拟规划路径在深度相机坐标系下对应的位姿信息转换到机械臂坐标系,引导机械臂抓取髋臼锉到虚拟规划路径,结合增强现实效果进行髋臼磨锉和髋臼假体的放置。
6.根据权利要求5所述的基于特征点配准与增强现实的髋臼假体放置引导方法,其特征在于,所述基于交互式点拾取技术和最小二乘法拟合求解对应的髋臼杯型号,具体包括:
对虚拟三维髋关节模型进行三维姿态变换使其髋臼横截面在计算机屏幕上的投影面最大,利用交互式点拾取技术在髋臼横截面上选取多个特征点进行髋臼杯大小的拟合,基于最小二乘法求解对应的髋臼杯外径大小,确定全髋关节置换中所需的髋臼杯型号。
7.根据权利要求5所述的基于特征点配准与增强现实的髋臼假体放置引导方法,其特征在于,所述根据髋臼杯边缘信息与交互式点拾取技术确定髋臼磨锉与植入髋臼假体路径方向并进行可视化,具体包括:
根据髋臼杯的边缘信息,采用交互式点拾取技术选取特征点构建髋臼杯平面,根据平面中心区域选取髋臼磨锉点,根据三维空间几何关系求解髋臼磨锉点基于平面的法向量,采用移动立方体算法可视化法向量,作为髋臼磨锉与植入髋臼假体的路径方向。
8.根据权利要求5所述的基于特征点配准与增强现实的髋臼假体放置引导方法,其特征在于,所述将虚拟三维髋关节模型作为浮动图像,将实际髋关节手术部位目标模型作为参考图像,基于选取特征点匹配的四元数法求解旋转矩阵和平移矩阵,具体包括:
在虚拟三维髋关节模型上获取目标点集U={ui,i=0,1,2,…,n},在视频图像上获取实际髋关节手术部位目标模型对应的参考点集X={xi,i=0,1,2,…,n};
设置目标函数为:
Figure FDA0003758678630000051
其中,R表示旋转矩阵,T表示平移矩阵;
分别求目标点集U和参考点集X的重心,表示为:
Figure FDA0003758678630000052
基于目标点集U和参考点集X构造协方差矩阵K,表示为:
Figure FDA0003758678630000053
基于协方差矩阵K中元素Kij构造出对称矩阵N,表示为:
Figure FDA0003758678630000054
基于Jacobi法计算对称矩阵N对应的特征值和特征向量,获取最大特征值对应的单位特征向量q=[q0 q1 q2 q3],进一步求解旋转矩阵R,表示为:
Figure FDA0003758678630000061
基于旋转矩阵R求解平移矩阵T,表示为:
T=μX-RμU
其中,μU表示目标点集U的重心,μX表示参考点集X的重心。
CN202210861172.2A 2022-07-22 2022-07-22 基于特征点配准与增强现实的髋臼假体放置引导系统及方法 Pending CN115153835A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210861172.2A CN115153835A (zh) 2022-07-22 2022-07-22 基于特征点配准与增强现实的髋臼假体放置引导系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210861172.2A CN115153835A (zh) 2022-07-22 2022-07-22 基于特征点配准与增强现实的髋臼假体放置引导系统及方法

Publications (1)

Publication Number Publication Date
CN115153835A true CN115153835A (zh) 2022-10-11

Family

ID=83494860

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210861172.2A Pending CN115153835A (zh) 2022-07-22 2022-07-22 基于特征点配准与增强现实的髋臼假体放置引导系统及方法

Country Status (1)

Country Link
CN (1) CN115153835A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116363184A (zh) * 2023-05-26 2023-06-30 杭州三坛医疗科技有限公司 一种髋关节位置配准方法、装置、电子设备及存储介质
CN116473678A (zh) * 2023-06-21 2023-07-25 杭州键嘉医疗科技股份有限公司 一种虚拟墙引导末端执行器移动的方法及装置
CN117017482A (zh) * 2022-12-29 2023-11-10 北京和华瑞博医疗科技有限公司 辅助安装假体装置和手术导航系统

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117017482A (zh) * 2022-12-29 2023-11-10 北京和华瑞博医疗科技有限公司 辅助安装假体装置和手术导航系统
CN117017482B (zh) * 2022-12-29 2024-05-28 北京和华瑞博医疗科技有限公司 辅助安装假体装置和手术导航系统
CN116363184A (zh) * 2023-05-26 2023-06-30 杭州三坛医疗科技有限公司 一种髋关节位置配准方法、装置、电子设备及存储介质
CN116363184B (zh) * 2023-05-26 2023-10-03 杭州三坛医疗科技有限公司 一种髋关节位置配准方法、装置、电子设备及存储介质
CN116473678A (zh) * 2023-06-21 2023-07-25 杭州键嘉医疗科技股份有限公司 一种虚拟墙引导末端执行器移动的方法及装置
CN116473678B (zh) * 2023-06-21 2023-09-29 杭州键嘉医疗科技股份有限公司 一种虚拟墙引导末端执行器移动的方法及装置

Similar Documents

Publication Publication Date Title
JP7204663B2 (ja) 慣性計測装置を使用して手術の正確度を向上させるためのシステム、装置、及び方法
Wang et al. A practical marker-less image registration method for augmented reality oral and maxillofacial surgery
US20230355312A1 (en) Method and system for computer guided surgery
CN105852970B (zh) 神经外科机器人导航定位系统及方法
JP2966089B2 (ja) 不均質組織内部における局部手術用対話型装置
Joskowicz et al. FRACAS: a system for computer‐aided image‐guided long bone fracture surgery
JP2021154168A (ja) 蛍光透視法および追跡センサを使用する股関節の外科手術ナビゲーション
CN110264504B (zh) 一种用于增强现实的三维配准方法和系统
CN115153835A (zh) 基于特征点配准与增强现实的髋臼假体放置引导系统及方法
CN101474075B (zh) 微创手术导航系统
CN110215284A (zh) 一种可视化系统和方法
CN107016666B (zh) 基于坐标体系的骨盆ct三维重建的图像后处理方法
CN113940755A (zh) 一种术像一体的外科手术规划与导航方法
WO2016116946A2 (en) A system and method for obtaining 3-dimensional images using conventional 2-dimensional x-ray images
CN107049489B (zh) 一种手术导航方法及系统
JPH09511430A (ja) 三次元データ組の登録システムおよび登録方法
US10078906B2 (en) Device and method for image registration, and non-transitory recording medium
CN115018977A (zh) 基于双平面x光的半自动配准方法和关节三维运动求解算法
Wang et al. Real-time marker-free patient registration and image-based navigation using stereovision for dental surgery
US20230074630A1 (en) Surgical systems and methods for positioning objects using augmented reality navigation
CN116363093A (zh) 一种用于寻找髋臼的旋转中心的方法与装置、手术规划系统及存储介质
CN114283179A (zh) 基于超声图像的骨折远近端空间位姿实时获取与配准系统
Gao et al. Design and development of a knee surgery planning system
Yin et al. AR-Based Surgical Navigation System Based on Dual Plane Calibration and 2D/3D Registration
US11430203B2 (en) Computer-implemented method for registering low dimensional images with a high dimensional image, a method for training an aritificial neural network useful in finding landmarks in low dimensional images, a computer program and a system for registering low dimensional images with a high dimensional image

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination