CN113643433A - 形态和姿态预估方法、装置、设备及存储介质 - Google Patents
形态和姿态预估方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN113643433A CN113643433A CN202010342911.8A CN202010342911A CN113643433A CN 113643433 A CN113643433 A CN 113643433A CN 202010342911 A CN202010342911 A CN 202010342911A CN 113643433 A CN113643433 A CN 113643433A
- Authority
- CN
- China
- Prior art keywords
- target object
- dimensional
- information
- deformation
- organ
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 72
- 210000000056 organ Anatomy 0.000 claims abstract description 72
- 230000000877 morphologic effect Effects 0.000 claims abstract description 11
- 230000006870 function Effects 0.000 claims description 25
- 230000008859 change Effects 0.000 claims description 24
- 238000003062 neural network model Methods 0.000 claims description 22
- 238000004590 computer program Methods 0.000 claims description 12
- 238000012545 processing Methods 0.000 claims description 3
- 238000002591 computed tomography Methods 0.000 description 15
- 230000008569 process Effects 0.000 description 14
- 238000002595 magnetic resonance imaging Methods 0.000 description 11
- 238000002600 positron emission tomography Methods 0.000 description 9
- 238000001356 surgical procedure Methods 0.000 description 9
- 238000012549 training Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 238000013135 deep learning Methods 0.000 description 5
- 230000009471 action Effects 0.000 description 3
- 238000002674 endoscopic surgery Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 239000000523 sample Substances 0.000 description 3
- 239000012805 animal sample Substances 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 210000004204 blood vessel Anatomy 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000013526 transfer learning Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000010146 3D printing Methods 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000002872 contrast media Substances 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 210000002216 heart Anatomy 0.000 description 1
- 210000003734 kidney Anatomy 0.000 description 1
- 210000004072 lung Anatomy 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10081—Computed x-ray tomography [CT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10088—Magnetic resonance imaging [MRI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10104—Positron emission tomography [PET]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Geometry (AREA)
- Computing Systems (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Molecular Biology (AREA)
- Computer Graphics (AREA)
- Mathematical Physics (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
本发明实施例公开了一种形态和姿态预估方法、装置、设备及存储介质。该方法包括:利用三维摄像头采集目标物体的表面三维形态信息,其中,目标物体包括目标器官或目标生物组织;获取目标物体对应的初始三维模型;利用预设匹配函数对表面三维形态信息和初始三维模型进行匹配,预估目标物体的形态和姿态。本发明实施例的形态和姿态预估方法、装置、设备及存储介质,能够利用器官或生物组织的表面三维形态信息,来预估器官或生物组织的形态和姿态,不受器官、生物组织变形、遮挡等影响,能够提高预估精度。
Description
技术领域
本发明涉及数据处理技术领域,尤其涉及一种形态和姿态预估方法、装置、设备及存储介质。
背景技术
不管是在开放式手术,还是在内窥镜手术中,如果医生能更加准确的获取当前手术对象器官或生物组织的形态和姿态信息,将会大大的降低医生的压力及手术的风险。
目前对器官或生物组织的形态和姿态预估,主要依据有限的特征点或者部分外形轮廓。受器官或生物组织变形、遮挡等的影响,依据有限的特征点或者部分外形轮廓对器官或生物组织的形态和姿态预估,预估精度较低。
发明内容
本发明实施例提供一种形态和姿态预估方法、装置、设备及存储介质,能够利用器官或生物组织的表面三维形态信息,来预估器官或生物组织的形态和姿态,能够提高预估精度。
一方面,本发明实施例提供了一种形态和姿态预估方法,方法包括:
利用三维摄像头采集目标物体的表面三维形态信息,其中,目标物体包括目标器官或目标生物组织;
获取目标物体对应的初始三维模型;
利用预设匹配函数对表面三维形态信息和初始三维模型进行匹配,预估目标物体的形态和姿态。
在本发明的一个实施例中,预设匹配函数对应的表达式为:
(V’,x,y,z,α,β,θ)=H(V,So)
其中,V’为预估的目标物体的形态,(x,y,z)为预估的目标物体的姿态包括的坐标信息,(α,β,θ)为预估的目标物体的姿态包括的旋转指向角,V为目标物体对应的初始三维模型,So为目标物体的表面三维形态信息,H为预设匹配函数的对应法则,预设匹配函数以So和V’的最小化差值为目标。
在本发明的一个实施例中,本发明实施例提供的形态和姿态预估方法还可以包括:
根据表面三维形态信息,预估目标物体的内部结构形变。
在本发明的一个实施例中,根据表面三维形态信息,预估目标物体的内部结构形变,包括:
根据表面三维形态信息,利用神经网络模型,预估目标物体的内部结构形变。
在本发明的一个实施例中,神经网络模型为基于有限元的神经网络模型。
在本发明的一个实施例中,根据表面三维形态信息,预估目标物体的内部结构形变,包括:
根据相邻两次获取到的表面三维形态信息,确定目标物体表面的变化幅度;
根据变化幅度,预估目标物体的内部结构形变。
在本发明的一个实施例中,根据变化幅度,预估目标物体的内部结构形变,包括:
若变化幅度小于预设第一阈值,则预估目标物体的内部结构没有发生形变。
在本发明的一个实施例中,根据变化幅度,预估目标物体的内部结构形变,包括:
若变化幅度大于预设第二阈值,根据相邻两次获取到的表面三维形态信息,计算目标物体表面变化对应的变化体积;
将变化体积,确定为目标物体的内部结构形变。
另一方面,本发明实施例提供了一种形态和姿态预估装置,装置包括:
采集模块,用于利用三维摄像头采集目标物体的表面三维形态信息,其中,目标物体包括目标器官或目标生物组织;
获取模块,用于获取目标物体对应的初始三维模型;
预估模块,用于利用预设匹配函数对表面三维形态信息和初始三维模型进行匹配,预估目标物体的形态和姿态。
在本发明的一个实施例中,预设匹配函数对应的表达式为:
(V’,x,y,z,α,β,θ)=H(V,So)
其中,V’为预估的目标物体的形态,(x,y,z)为预估的目标物体的姿态包括的坐标信息,(α,β,θ)为预估的目标物体的姿态包括的旋转指向角,V为目标物体对应的初始三维模型,So为目标物体的表面三维形态信息,H为预设匹配函数的对应法则,预设匹配函数以So和V’的最小化差值为目标。
在本发明的一个实施例中,本发明实施例提供的形态和姿态预估装置还可以包括:
内部结构形变预估模块,用于根据表面三维形态信息,预估目标物体的内部结构形变。
在本发明的一个实施例中,内部结构形变预估模块,具体可以用于:
根据表面三维形态信息,利用神经网络模型,预估目标物体的内部结构形变。
在本发明的一个实施例中,神经网络模型为基于有限元的神经网络模型。
在本发明的一个实施例中,内部结构形变预估模块,可以包括:
变化幅度确定单元,用于根据相邻两次获取到的表面三维形态信息,确定目标物体表面的变化幅度;
内部结构形变预估单元,用于根据变化幅度,预估目标物体的内部结构形变。
在本发明的一个实施例中,内部结构形变预估单元,具体可以用于:
若变化幅度小于预设第一阈值,则预估目标物体的内部结构没有发生形变。
在本发明的一个实施例中,内部结构形变预估单元,具体可以用于:
若变化幅度大于预设第二阈值,根据相邻两次获取到的表面三维形态信息,计算目标物体表面变化对应的变化体积;
将变化体积,确定为目标物体的内部结构形变。
再一方面,本发明实施例提供一种形态和姿态预估设备,设备包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序;
处理器执行计算机程序时实现本发明实施例提供的形态和姿态预估方法。
再一方面,本发明实施例提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时实现本发明实施例提供的形态和姿态预估方法。
本发明实施例的形态和姿态预估方法、装置、设备及存储介质,能够利用器官或生物组织的表面三维形态信息,来预估器官或生物组织的形态和姿态,不受器官、生物组织变形、遮挡等影响,能够提高预估精度。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例中所需要使用的附图作简单地介绍,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了本发明实施例提供的形态和姿态预估方法的第一种流程示意图;
图2示出了本发明实施例提供的形态和姿态预估方法的第二种流程示意图;
图3示出了本发明实施例提供的形态和姿态预估装置的第一种结构示意图;
图4示出了本发明实施例提供的形态和姿态预估装置的第二种结构示意图;
图5示出了能够实现根据本发明实施例的形态和姿态预估方法及装置的计算设备的示例性硬件架构的结构图。
具体实施方式
下面将详细描述本发明的各个方面的特征和示例性实施例,为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细描述。应理解,此处所描述的具体实施例仅被配置为解释本发明,并不被配置为限定本发明。对于本领域技术人员来说,本发明可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本发明的示例来提供对本发明更好的理解。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
为了解决现有技术问题,本发明实施例提供一种形态和姿态预估方法、装置、设备及存储介质。下面首先对本发明实施例提供的形态和姿态预估方法进行说明。
如图1所示,图1示出了本发明实施例提供的形态和姿态预估方法的流程示意图。形态和姿态预估方法可以包括:
S101:利用三维摄像头采集目标物体的表面三维形态信息。
其中,目标物体包括目标器官或目标生物组织。
S102:获取目标物体对应的初始三维模型。
S103:利用预设匹配函数对表面三维形态信息和初始三维模型进行匹配,预估目标物体的形态和姿态。
对于器官及生物组织可以利用电子计算机断层扫描(Computed Tomography,CT)、磁共振成像(Magnetic Resonance Imaging,MRI)和正电子发射型计算机断层扫描(Positron Emission ComputedTomography,PET)等仪器测量方式建立器官或生物组织对应的初始三维模型。
当对器官或生物组织预估形态和姿态时,此时可以直接获知待测器官及待测生物组织是何种器官及何种生物组织,比如:心脏、肺和肾等,进而也可以直接获取到相对应的初始三维模型。
在本发明的一个实施例中,预设匹配函数对应的表达式为:
(V’,x,y,z,α,β,θ)=H(V,So) (1)
其中,表达式(1)中V’为预估的目标物体的形态,(x,y,z)为预估的目标物体的姿态包括的坐标信息,(α,β,θ)为预估的目标物体的姿态包括的旋转指向角,V为目标物体对应的初始三维模型,So为目标物体的表面三维形态信息,H为预设匹配函数的对应法则,预设匹配函数以So和V’的最小化差值为目标。
在本发明的一个实施例中,针对表面三维形态信息So和初始三维模型V,可以得到多组与之对应的预估形态V’、坐标信息(x,y,z)和旋转指向角(α,β,θ),分别将每一组的预估形态V’与表面三维形态信息So进行比较,得到与表面三维形态信息So相差最小的预估形态V’,将与表面三维形态信息So相差最小的预估形态V’作为最终的预估形态,将该预估形态所对应的坐标信息(x,y,z)和旋转指向角(α,β,θ)分别作为最终的坐标信息(x,y,z)和旋转指向角(α,β,θ)。
在本发明的一个实施例中,可以进行上述坐标信息(x,y,z)和旋转指向角(α,β,θ)调整,直至表面三维形态信息So和预估形态V’的差值最小,将此时的预估形态V’作为最终的预估形态,将此时的坐标信息(x,y,z)和旋转指向角(α,β,θ)作为最终的坐标信息(x,y,z)和旋转指向角(α,β,θ)。
本发明实施例的形态和姿态预估方法,能够利用器官或生物组织的表面三维形态信息,来预估器官或生物组织的形态和姿态,没有依据有限的特征点或者部分外形轮廓,因此不受器官、生物组织变形、遮挡等的影响,能够提高预估精度。
不管是在开放式手术,还是在内窥镜手术中,如果医生能获取当前手术对象器官或生物组织的实时内部结构信息,比如血管位置、血管粗细,将会大大的降低医生的压力及手术的风险。在当前的医疗手段中,CT、MRI或PET等设备能提供人体器官及生物组织内部的很细微的三维结构。但是由于传统CT、MRI和PET等设备扫描的图像显示方式以及采集图像时的器官或生物组织的位置和形态与手术过程中并不完全一致,导致采集到的信息在手术过程中应用时往往存在障碍。人们一直在尝试怎样把这些三维信息,更好的利用在手术过程中。目前尝试的方法有虚拟三维术前规划、基于3D打印的术前规划、术中CT或MRI,以及利用增强现实眼镜的辅助信息显示。
现有的这些手段,在手术中依然存在较大的局限性。首先,虚拟三维术前规划以及3D打印的术前规划,都不能把三维的内部结构和病人实际的器官或生物组织,在视野中重叠起来。这就要求医生依照自己的经验,把手术过程中眼前所见的部位和规划时的三维模型匹配起来。同时这两种方法都不能对医生手术提供实时的信息指导。现阶段基于虚拟现实(Virtual Reality,VR)、混合现实(Mix reality,MR)或PET等的应用,在某些程度上,能找到视野中病人的相应器官或生物组织,并做一个简单的叠加。但是这种叠加的局限性很大。特别是内窥镜手术中,摄像头等传感器的视野也经常会被医生,或者别的器械所局部遮挡。受限于手术中的空间大小以及别的身体部位遮挡的原因,摄像头的视野往往只能覆盖器官或生物组织的局部。在手术过程中,器官或生物组织,特别是软性的器官或生物组织,由于受力的改变,往往产生区别于CT、MRI或PET扫描时的形态的形变。手术中的器官或生物组织解剖以及部分切除等操作,也会对器官或生物组织的外形产生较大的改变。以上几点不仅会对器官或生物组织匹配CT、MRI或PET采集的3D图形产生困难,也会使CT、MRI或PET采集的三维内部结构不再能精确描述手术过程中器官或生物组织的实时内部结构,甚至在器官或生物组织发生位移时难以对模型进行及时修正。同时,VR/MR眼镜受制于其显示方式的局限,很难对器官或生物组织内部结构进行精确的匹配以及展示。目前采用的对器官或生物组织建模以适应器官或生物组织变形的方法往往要求医生在手术过程中保持持续地对模型的手动调整。这样在大大增加了医生在手术中的负担的同时,此方法对医生的经验有较高的要求。受经验模型本身的局限性,模型在具体器官或生物组织形变时的匹配精度也有待商榷。术中CT或者MRI的方式,能够重新获取当前器官或生物组织的状态,但这也只是对器官或生物组织影响结构进行重新采集,而依然不能做到在整个手术过程中实时更新。同时术中CT或者MRI带来的是巨大的成本以及场地设施的要求。同时将庞大的成像设备带入手术室,以及成像过程本身,也会对手术带来诸多的干扰。
基于此,本发明实施例提供的形态和姿态预估方法,还可以包括:根据表面三维形态信息,预估目标物体的内部结构形变。
图2示出了本发明实施例提供的形态和姿态预估方法的第二种流程示意图。本发明图2所示实施例与本发明图1所示实施例的不同之处在于,增加S104:根据表面三维形态信息,预估目标物体的内部结构形变。
在本发明的一个实施例中,可以根据表面三维形态信息,利用神经网络模型,预估目标物体的内部结构形变。
本发明实施例并不对所利用的神经网络模型进行限定,任何可用的神经网络模型均可以应用于本发明实施例中。
神经网络模型需要大量的训练样本。训练样本可以由动物实验获取,在动物实验中,在注入造影剂之后,对动物的器官或生物组织外加形变,用CT进行扫描,来获取器官或生物组织内部的结构改变。通过这种方式获取器官或生物组织由外部形变导致内部结构改变的训练样本。在神经网络模型的训练过程中,利用动物样本的实验数据和病人的真实CT数据,以病人的真实CT数据作为指引来训练神经网络模型。
由于动物样本的数据采集比较困难,在神经网络模型训练过程中,可以采用迁移学习的方法,来减少对数据量的要求。
在神经网络模型训练时,最重要的部分在于训练样本的采集。而在医疗行业,对于器官或生物组织内部实时结构的采集具有相当的难度。为了在采用迁移学习后进一步减少对训练数据集大小的要求,需要有效地减少神经网络模型所需要的参数数量。在本发明的一个实施例中,可以对器官或生物组织的结构特征进行有限元建模。通过对器官或生物组织有限元建模的方式,器官或生物组织的表达从三维点阵转变为由有限个参数控制的物理模型。采用这种方式,神经网络模型为基于有限元的神经网络模型,神经网络模型的输出由直接输出预测的器官或生物组织的三维点阵,转化为输出预测的器官或生物组织物理模型的参数。因此,这种方式将器官或生物组织的内部结构特性用于辅助深度学习网络,从而降低了深度学习网络预测出准确结果的难度,进而减少了对训练样本集大小的要求。
在本发明的一个实施例中,在根据表面三维形态信息,预估目标物体的内部结构形变时,可以根据相邻两次获取到的表面三维形态信息,确定目标物体表面的变化幅度;根据变化幅度,预估目标物体的内部结构形变。
本发明实施例并不对根据相邻两次获取到的表面三维形态信息,确定目标物体表面的变化幅度的方式进行限定,任何可用的方式均可应用于本发明实施例中。
在本发明的一个实施例中,若变化幅度小于预设第一阈值,则预估目标物体的内部结构没有发生形变。
在本发明的一个实施例中,若变化幅度小于预设第一阈值,则可以将目标物体的表面形变直接应用到目标物体的内部结构中。
在本发明的一个实施例中,若变化幅度大于预设第二阈值,根据相邻两次获取到的表面三维形态信息,计算目标物体表面变化对应的变化体积;将变化体积,确定为目标物体的内部结构形变。
本发明实施例并不对根据相邻两次获取到的表面三维形态信息,计算目标物体表面变化对应的变化体积的方式进行限定,任何可用的方式均可应用于本发明实施例中。
对于比较轻微的形变,往往能够被器官或生物组织表面本身所吸收,而不会传导到器官或生物组织内侧。为了应对这种情况,以及提高对内部结构形变的预测精确度,可以对表面形态的细微变化进行预过滤处理。比如根据实际器官或生物组织特性,在某个区域的,微小形变,可以忽略。在具体实施方案中,可以根据模型人工划分表面变形区域,以及阈值。也可以通过深度学习的方法,来自动划分。
在本发明的一个实施例中,通过上述预设匹配函数所获得的预估形态V’能很好地切合实际场景中由三维摄像头观察到的表面三维形态信息So,但其对器官或生物组织内部不能直接观察到的结构部分的估计的精度会有一定的下降。
对于器官或生物组织而言,此时可以采用CT、MRI或PET影像中常采用的影像配准方法中采用的原则对变形后的内部结构进行微调。这些影像配准方法包括但不局限于:调和能量,曲面共形结构畸变,极小化流速场能量,最优传输方法等。
更进一步,对器官或生物组织内部不能直接观察到的结构部分的估计的精度的修正可以借助深度学习的方法。记深度学习神经网络的变换函数为D,根据表达式(2)可得器官或生物组织内部结构的内部结构。
V’=D(V,So’) (2)
其中,表达式(2)中,V为利用CT、MRI或PET等方式获取的器官或生物组织初始三维模型,So’为器官或生物组织表面三维形态信息So根据上述预设匹配函数映射回初始三维模型空间的表示。
在本发明的一个实施例中,可以对三维模型进行位移和旋转,使三维模型的某表面与观察到的表面进行大致重叠;根据物体的硬度等相应物理特性,在一定的许可范围内,对表面进行形变;计算此时模拟形变的模型表面与实际观察到的表面之间的坐标差值,作为衡量标准;对三维模型进行一定角度的旋转,使另一部分表面与观察到的表面大致重叠;继续执行根据物体的硬度等相应物理特性,在一定的许可范围内,对表面进行形变;计算此时模拟形变的模型表面与实际观察到的表面之间的坐标差值,作为衡量标准;对三维模型进行一定角度的旋转,使另一部分表面与观察到的表面大致重叠的步骤,直至遍历所有的表面;选取对应差值最小时的坐标姿态作为模型此时的坐标姿态;根据模型本身的物理特性,将模型表面的形变信息传递到模型内部的结构中。
本发明实施例的形态和姿态预估方法,能够对器官或生物组织的内部结构形变进行预估。
与上述的方法实施例相对应,本发明实施例还提供一种形态和姿态预估装置。如图3所示,图3示出了本发明实施例提供的形态和姿态预估装置的第一种结构示意图。形态和姿态预估装置可以包括:
采集模块301,用于利用三维摄像头采集目标物体的表面三维形态信息。
其中,目标物体包括目标器官或目标生物组织。
获取模块302,用于获取目标物体对应的初始三维模型。
预估模块303,用于利用预设匹配函数对表面三维形态信息和初始三维模型进行匹配,预估目标物体的形态和姿态。
在本发明的一个实施例中,预设匹配函数对应的表达式为:
(V’,x,y,z,α,β,θ)=H(V,So) (3)
其中,表达式(3)中V’为预估的目标物体的形态,(x,y,z)为预估的目标物体的姿态包括的坐标信息,(α,β,θ)为预估的目标物体的姿态包括的旋转指向角,V为目标物体对应的初始三维模型,So为目标物体的表面三维形态信息,H为预设匹配函数的对应法则,预设匹配函数以So和V’的最小化差值为目标。
本发明实施例的器官或生物组织形态和姿态预估装置,能够利用器官或生物组织的表面三维形态信息,来预估器官或生物组织的形态和姿态,没有依据有限的特征点或者部分外形轮廓,因此不受器官、生物组织变形、遮挡等的影响,能够提高预估精度。
图4示出了本发明实施例提供的形态和姿态预估装置的第二种结构示意图。本发明图4所示实施例与本发明图3所示实施例的不同之处在于,增加内部结构形变预估模块304。
内部结构形变预估模块304,用于根据表面三维形态信息,预估目标物体的内部结构形变。
在本发明的一个实施例中,内部结构形变预估模块304,具体可以用于:
根据表面三维形态信息,利用神经网络模型,预估目标物体的内部结构形变。
在本发明的一个实施例中,神经网络模型为基于有限元的神经网络模型。
在本发明的一个实施例中,内部结构形变预估模块304,可以包括:
变化幅度确定单元,用于根据相邻两次获取到的表面三维形态信息,确定目标物体表面的变化幅度;
内部结构形变预估单元,用于根据变化幅度,预估目标物体的内部结构形变。
在本发明的一个实施例中,内部结构形变预估单元,具体可以用于:
若变化幅度小于预设第一阈值,则预估目标物体的内部结构没有发生形变。
在本发明的一个实施例中,内部结构形变预估单元,具体可以用于:
若变化幅度大于预设第二阈值,根据相邻两次获取到的表面三维形态信息,计算目标物体表面变化对应的变化体积;
将变化体积,确定为目标物体的内部结构形变。
本发明实施例的形态和姿态预估装置,能够对器官或生物组织的内部结构形变进行预估。
图5示出了能够实现根据本发明实施例的形态和姿态预估方法及装置的计算设备的示例性硬件架构的结构图。如图5所示,计算设备500包括输入设备501、输入接口502、中央处理器503、存储器504、输出接口505、以及输出设备506。其中,输入接口502、中央处理器503、存储器504、以及输出接口505通过总线510相互连接,输入设备501和输出设备506分别通过输入接口502和输出接口505与总线510连接,进而与计算设备500的其他组件连接。
具体地,输入设备501接收来自外部的输入信息,并通过输入接口502将输入信息传送到中央处理器503;中央处理器503基于存储器504中存储的计算机可执行指令对输入信息进行处理以生成输出信息,将输出信息临时或者永久地存储在存储器504中,然后通过输出接口505将输出信息传送到输出设备506;输出设备506将输出信息输出到计算设备500的外部供用户使用。
也就是说,图5所示的计算设备也可以被实现为形态和姿态预估设备,该形态和姿态预估设备可以包括:存储有可在处理器上运行的计算机程序的存储器;以及处理器,该处理器在执行计算机程序时可以实现本发明实施例提供的形态和姿态预估方法和装置。
本发明实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序;该计算机程序被处理器执行时实现本发明实施例提供的形态和姿态预估方法。
需要明确的是,本发明并不局限于上文所描述并在图中示出的特定配置和处理。为了简明起见,这里省略了对已知方法的详细描述。在上述实施例中,描述和示出了若干具体的步骤作为示例。但是,本发明的方法过程并不限于所描述和示出的具体步骤,本领域的技术人员可以在领会本发明的精神后,作出各种改变、修改和添加,或者改变步骤之间的顺序。
以上所述的结构框图中所示的功能块可以实现为硬件、软件、固件或者它们的组合。当以硬件方式实现时,其可以例如是电子电路、专用集成电路(ASIC)、适当的固件、插件、功能卡等等。当以软件方式实现时,本发明的元素是被用于执行所需任务的程序或者代码段。程序或者代码段可以存储在机器可读介质中,或者通过载波中携带的数据信号在传输介质或者通信链路上传送。“机器可读介质”可以包括能够存储或传输信息的任何介质。机器可读介质的例子包括电子电路、半导体存储器设备、ROM、闪存、可擦除ROM(EROM)、软盘、CD-ROM、光盘、硬盘、光纤介质、射频(RF)链路,等等。代码段可以经由诸如因特网、内联网等的计算机网络被下载。
还需要说明的是,本发明中提及的示例性实施例,基于一系列的步骤或者装置描述一些方法或系统。但是,本发明不局限于上述步骤的顺序,也就是说,可以按照实施例中提及的顺序执行步骤,也可以不同于实施例中的顺序,或者若干步骤同时执行。
以上所述,仅为本发明的具体实施方式,所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的系统、模块和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。应理解,本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。
Claims (10)
1.一种形态和姿态预估方法,其特征在于,所述方法包括:
利用三维摄像头采集目标物体的表面三维形态信息,其中,所述目标物体包括目标器官或目标生物组织;
获取所述目标物体对应的初始三维模型;
利用预设匹配函数对所述表面三维形态信息和所述初始三维模型进行匹配,预估所述目标物体的形态和姿态。
2.根据权利要求1所述的方法,其特征在于,所述预设匹配函数对应的表达式为:
(V’,x,y,z,α,β,θ)=H(V,So)
其中,V’为预估的所述目标物体的形态,(x,y,z)为预估的所述目标物体的姿态包括的坐标信息,(α,β,θ)为预估的所述目标物体的姿态包括的旋转指向角,V为所述目标物体对应的初始三维模型,So为所述目标物体的表面三维形态信息,H为所述预设匹配函数的对应法则,所述预设匹配函数以So和V’的最小化差值为目标。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
根据所述表面三维形态信息,预估所述目标物体的内部结构形变。
4.根据权利要求3所述的方法,其特征在于,所述根据所述表面三维形态信息,预估所述目标物体的内部结构形变,包括:
根据所述表面三维形态信息,利用神经网络模型,预估所述目标物体的内部结构形变。
5.根据权利要求3所述的方法,其特征在于,所述根据所述表面三维形态信息,预估所述目标物体的内部结构形变,包括:
根据相邻两次获取到的所述表面三维形态信息,确定所述目标物体表面的变化幅度;
根据所述变化幅度,预估所述目标物体的内部结构形变。
6.根据权利要求5所述的方法,其特征在于,所述根据所述变化幅度,预估所述目标物体的内部结构形变,包括:
若所述变化幅度小于预设第一阈值,则预估所述目标物体的内部结构没有发生形变。
7.根据权利要求5所述的方法,其特征在于,所述根据所述变化幅度,预估所述目标物体的内部结构形变,包括:
若所述变化幅度大于预设第二阈值,根据相邻两次获取到的所述表面三维形态信息,计算所述目标物体表面变化对应的变化体积;
将所述变化体积,确定为所述目标物体的内部结构形变。
8.一种形态和姿态预估装置,其特征在于,所述装置包括:
采集模块,用于利用三维摄像头采集目标物体的表面三维形态信息,其中,所述目标物体包括目标器官或目标生物组织;
获取模块,用于获取所述目标物体对应的初始三维模型;
预估模块,用于利用预设匹配函数对所述表面三维形态信息和所述初始三维模型进行匹配,预估所述目标物体的形态和姿态。
9.一种形态和姿态预估设备,其特征在于,所述设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序;
所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的形态和姿态预估方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的形态和姿态预估方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010342911.8A CN113643433A (zh) | 2020-04-27 | 2020-04-27 | 形态和姿态预估方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010342911.8A CN113643433A (zh) | 2020-04-27 | 2020-04-27 | 形态和姿态预估方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113643433A true CN113643433A (zh) | 2021-11-12 |
Family
ID=78414975
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010342911.8A Pending CN113643433A (zh) | 2020-04-27 | 2020-04-27 | 形态和姿态预估方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113643433A (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120289825A1 (en) * | 2011-05-11 | 2012-11-15 | Broncus, Technologies, Inc. | Fluoroscopy-based surgical device tracking method and system |
CN105310776A (zh) * | 2014-12-02 | 2016-02-10 | 复旦大学 | 一种基于子块的软组织表面变形追踪方法 |
CN105389569A (zh) * | 2015-11-17 | 2016-03-09 | 北京工业大学 | 一种人体姿态估计方法 |
CN108960178A (zh) * | 2018-07-13 | 2018-12-07 | 清华大学 | 一种人手姿态估计方法及系统 |
CN109191554A (zh) * | 2018-09-04 | 2019-01-11 | 清华-伯克利深圳学院筹备办公室 | 一种超分辨图像重建方法、装置、终端和存储介质 |
CN109903332A (zh) * | 2019-01-08 | 2019-06-18 | 杭州电子科技大学 | 一种基于深度学习的目标姿态估计方法 |
CN109934847A (zh) * | 2019-03-06 | 2019-06-25 | 视辰信息科技(上海)有限公司 | 弱纹理三维物体姿态估计的方法和装置 |
CN110322512A (zh) * | 2019-06-28 | 2019-10-11 | 中国科学院自动化研究所 | 结合小样本实例分割和三维匹配的物体位姿估计方法 |
-
2020
- 2020-04-27 CN CN202010342911.8A patent/CN113643433A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120289825A1 (en) * | 2011-05-11 | 2012-11-15 | Broncus, Technologies, Inc. | Fluoroscopy-based surgical device tracking method and system |
CN105310776A (zh) * | 2014-12-02 | 2016-02-10 | 复旦大学 | 一种基于子块的软组织表面变形追踪方法 |
CN105389569A (zh) * | 2015-11-17 | 2016-03-09 | 北京工业大学 | 一种人体姿态估计方法 |
CN108960178A (zh) * | 2018-07-13 | 2018-12-07 | 清华大学 | 一种人手姿态估计方法及系统 |
CN109191554A (zh) * | 2018-09-04 | 2019-01-11 | 清华-伯克利深圳学院筹备办公室 | 一种超分辨图像重建方法、装置、终端和存储介质 |
CN109903332A (zh) * | 2019-01-08 | 2019-06-18 | 杭州电子科技大学 | 一种基于深度学习的目标姿态估计方法 |
CN109934847A (zh) * | 2019-03-06 | 2019-06-25 | 视辰信息科技(上海)有限公司 | 弱纹理三维物体姿态估计的方法和装置 |
CN110322512A (zh) * | 2019-06-28 | 2019-10-11 | 中国科学院自动化研究所 | 结合小样本实例分割和三维匹配的物体位姿估计方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102014355B1 (ko) | 수술도구의 위치 정보 산출 방법 및 장치 | |
KR102455774B1 (ko) | 수술 중 이동에 의해서 영향을 받는 내부 기관의 해부학적 부분의 수술에서 보조를 제공하기 위한 수술 보조 장치 | |
CN112991409B (zh) | 骨骼注册方法及系统及存储介质 | |
Winter et al. | Registration of CT and intraoperative 3-D ultrasound images of the spine using evolutionary and gradient-based methods | |
Hawkes et al. | Tissue deformation and shape models in image-guided interventions: a discussion paper | |
EP2505162B1 (en) | Method and apparatus for generating medical image of body organ by using 3-D model | |
JP7171220B2 (ja) | 骨組織への近接に基づく解剖学的画像の位置追跡座標系との位置合わせ | |
CN103886581B (zh) | 利用生物力学模型仿真配准术前和术中图像的系统和方法 | |
US20030011624A1 (en) | Deformable transformations for interventional guidance | |
CN114948199B (zh) | 一种外科手术辅助系统及手术路径规划方法 | |
Soper et al. | In vivo validation of a hybrid tracking system for navigation of an ultrathin bronchoscope within peripheral airways | |
CN109692050B (zh) | 一种牙科种植导航手术的标定、追踪方法和装置 | |
JP7418352B2 (ja) | 機械学習を使用する手術中の自動腫瘍識別 | |
CN110432986B (zh) | 用于从ct数据构建虚拟径向超声图像的系统和方法 | |
CN112641514B (zh) | 一种微创介入导航系统与方法 | |
EP3392835A1 (en) | Improving registration of an anatomical image with a position-tracking coordinate system based on visual proximity to bone tissue | |
WO2011019456A1 (en) | Ct atlas of musculoskeletal anatomy to guide treatment of sarcoma | |
CN113112486A (zh) | 一种肿瘤的运动估计方法、装置、终端设备和存储介质 | |
KR20190074226A (ko) | Ent 뼈 거리 색상 코딩된 안면 맵 | |
CN114404039B (zh) | 三维模型的组织漂移校正方法、装置、电子设备及存储介质 | |
CN115245384A (zh) | 骨骼注册方法及系统、机器人系统及存储介质 | |
CN113643433A (zh) | 形态和姿态预估方法、装置、设备及存储介质 | |
EP4329580A1 (en) | Method and device for generating an uncertainty map for guided percutaneous procedures | |
CN114820855A (zh) | 一种基于患者4d-ct的肺部呼吸过程图像重构方法及装置 | |
CN113643226B (zh) | 标注方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |