CN112656369A - 一种基于ar技术的近红外荧光甲状旁腺的识别增强方法 - Google Patents
一种基于ar技术的近红外荧光甲状旁腺的识别增强方法 Download PDFInfo
- Publication number
- CN112656369A CN112656369A CN202011377205.3A CN202011377205A CN112656369A CN 112656369 A CN112656369 A CN 112656369A CN 202011377205 A CN202011377205 A CN 202011377205A CN 112656369 A CN112656369 A CN 112656369A
- Authority
- CN
- China
- Prior art keywords
- image
- parathyroid gland
- infrared
- camera
- autofluorescence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
Abstract
一种基于AR技术的近红外荧光甲状旁腺的识别增强方法,包括以下步骤:向甲状旁腺所在区域发射785nm的近红外光,甲状旁腺产生820nm的自体荧光,输出甲状旁腺在图像中的位置图像坐标信息;同步采集可见光RGB双目相机的左相机和右相机获取的左右两组图像数据,求出左右相机的空间位置和视野范围内每个点的实际空间坐标;拟合出左图和右图视野范围内的3D曲面;将甲状旁腺的位置图像坐标信息投射到视野范围内的3D曲面上,求出甲状旁腺的实际空间坐标;结合AR显示组件的位置,计算出在AR显示组件要投射的指示图像;通过AR显示组件的观察窗即可看到指示图像和实景的叠加重合。本发明的有益效果是:迅速的检测出甲状旁腺位置,并与实际场景融合。
Description
技术领域
本发明涉及一种基于AR技术的近红外荧光甲状旁腺的识别增强方法,属于医疗手术领域。
背景技术
甲状旁腺细小,位置多变,在可见光范围,甲状旁腺与其它组织(如脂肪)颜色近似,在手术中难以辨认,甲状腺手术中,甲状旁腺被误伤或误切的概率高达18-59%。术中甲状旁腺的保护问题对病人的恢复极为重要,被误伤后可致甲状旁腺功能低下,患者会因缺钙而麻木抽搐,极为痛苦,需要补充钙剂。甲状旁腺的保护的关键在于准确辨认。
另外,还有一些手术中,需要摘除甲状旁腺。例如现在慢性肾病的发病率极高,美国成人高达11.3%,我国约为10%。而75%的慢性肾病患者会出现甲状旁腺功能亢进,其中5%~25%会进展成严重的甲状旁腺功能亢进症,导致骨钙入血,高钙血症,进而引起广泛尿路结石,严重骨质疏松,需要行手术治疗(甲状旁腺全摘除术或甲状旁腺次全摘除术)。这些手术成败的关键是准确找到所有甲状旁腺,不能有错漏。
当前,人们已经在临床上使用的术中辨认甲状旁腺技术包括术中亚甲蓝染色、核素显像、纳米炭甲状旁腺负显影技术,以及最近的术中甲状旁腺激素快速检测技术等。但效果都不能令人满意,面临着设备花费昂贵,存在检测副作用等问题。目前,甲状旁腺的术中辨认仍然主要依靠外科医生凭经验肉眼判断。因此,临床上急需能在术中实时准确探测甲状旁腺的技术。
近红外光谱检测技术由于安全、高效的优点,近年在生物探测应用中越来越热门。目前临床上已经有许多利用近红外光谱技术辨别组织的血运、肿瘤的切缘及前哨淋巴结等的应用,证明其安全有效。2011年Mahadevan-Jansena等发现甲状旁腺被785nm近红外光照射时,不需要借助任何外来药物就可被检测到自体荧光,其峰值为820nm,其自体荧光强度是甲状腺的1.2-11倍,周围脂肪、肌肉及淋巴结等组织则检测不到自体荧光。在此基础上,2013年Mahadevan-Jansena等研发了探针式近红外甲状旁腺探测系统,准确率高,不受角度限制,方便灵活,但不能提供甲状旁腺的空间位置信息,不能主动引导外科医生找到甲状旁腺,只能用于辨认已被观察到的可疑甲状旁腺组织。于是,2014年Mahadevan-Jansena等又研发了成像式近红外甲状旁腺探测系统,可以在术中拍摄手术视野实时成像,可在图像中准确定位甲状旁腺空间位置,引导外科医生找到甲状旁腺。但此系统由于上方摄像头及光源固定,易受角度影响,对于藏在角落的甲状旁腺探测效果欠佳。另外,无论是探针系统或成像系统,均易受环境灯光影响,使用时需要移开或关闭术野上方的灯光,对进行中的手术是一个很大的干扰[10-17]。因为尚存在这些缺点,虽然近红外自体荧光甲状旁腺探测技术的应用前景非常光明,但目前在国外尚未被广泛采用,相关技术仍需进一步改进。
甲状旁腺检测的原理是甲状腺和甲状旁腺在特定波长的近红外激光照射下,产生自体荧光发射。通过检测甲状腺和甲状旁腺和在特定波长的近红外激光照射下,产生自体荧光发射量,可以将甲状旁腺从周围其它组织里检测区分开来。
由于所需识别的甲状旁腺特征复杂,现有近红外荧光成像系统中,照明方式单一,无法提取目标区域荧光信号的完整信息。为了得到更完整的信息,对应的光源应具有多个调制自由度。
现有的检测装置检测出甲状旁腺后,用投射光斑的方式来显示甲状旁腺,或者在屏幕上显示背景图和位置,这两种显示方式存在不容易控制或不直观的问题。
AR技术在近年来快速发展,已达到实用水平。采用增强现实技术,借助计算机视觉技术和人工智能技术,产生物理世界中不存在的虚拟对象,并将虚拟对象准确的放置在现实世界中,通过更自然的交互,呈现给用户一个感知效果更丰富的新环境。
如果将近红外探测技术和AR技术结合,就可以解决前面所述的近红外荧光甲状旁腺探测技术缺陷。手术野是我们的现实世界。而通过成像式近红外探测仪拍摄经电脑处理合成的图像(含有甲状旁腺的空间位置信息)是虚拟现实。两者通过AR技术融合重叠,外科医生就能直接在手术野中实时“看到”甲状旁腺。AR眼镜可随佩戴者位置的改变而改变观察位置角度。因此,成像式近红外探测技术和AR技术结合后,克服了目前成像式近红外甲状旁腺探测系统观察角度单一的缺点,灵活方便,并且快速直观。
我们调研后,发现国内外尚无关于近红外自体荧光探测技术与AR技术结合应用于甲状旁腺探测的相关研究报道。
发明内容
针对现有技术的缺陷,本发明提供一种基于AR技术的近红外荧光甲状旁腺的识别增强方法,能够帮助外科医生在手术中有效快速的识别出甲状腺周围的甲状腺旁腺,确定甲状腺旁腺位置,帮助外科医生发现需要切除或保留的甲状腺旁腺,切除干净,和防止误伤,提高甲状腺相关手术的效率、并为手术提供了安全保障,解决手术中甲状旁腺探测难题,利于患者恢复健康。
为解决上述技术问题,本发明提供以下技术方案:
本发明所述的一种基于AR技术的近红外荧光甲状旁腺的识别增强方法,其特征在于,包括以下步骤:
1)向甲状腺和甲状旁腺所在区域发射785nm的近红外光,甲状旁腺在该波长的近红外光照射下产生820nm的自体荧光,接收产生的自体荧光并同步获取甲状旁腺的图像数据,然后确定近红外自体荧光图像中甲状旁腺的位置,输出甲状旁腺在图像中的位置图像坐标信息;
2)同步采集可见光RGB双目相机的左图相机和右图相机获取的左右两组图像数据,并将两组图像数据保存在内存中,分别记录为左图和右图;对比采集的左图和右图图像数据,找出左图和右图中像素点之间的对应关系;求出对应点的视差,结合左图相机和右图相机的内参与外参,求出左、右相机的空间位置和视野范围内每个点的实际空间坐标;
3)根据步骤2)获取的左、右图相机的空间位置和视野范围内每个点的实际空间坐标,拟合出左图和右图视野范围内的3D曲面;
4)结合近红外自体荧光接收器件的内参和外参,将步骤1)获取的甲状旁腺的位置图像坐标信息投射到视野范围内的3D曲面上,求出甲状旁腺的实际空间坐标;
5)在保证AR增强显示的景象与实景重合的条件下,结合AR增强显示组件的位置,将步骤4)获取的甲状旁腺在近红外图像中的实际空间坐标,与根据左图相机和右图相机图像数据计算出的三维数据进行融合,计算出在AR增强显示组件要投射的指示图像;
6)将步骤5)获取的指示图像输送至AR增强显示组件上,通过AR增强显示组件的观察窗即可看到指示图像和实景的叠加重合,获取甲状旁腺的在实景中的指示位置。
所述近红外光为周期性发射的785nm近红外光。
步骤4)中获取的甲状旁腺的位置图像坐标信息投射到视野范围内的3D曲面时进行畸变矫正,使得投射线和3D曲面。
甲状旁腺投射到3D曲面上的位置点用带颜色的十字标示。
根据本发明所述基于AR技术的近红外荧光甲状旁腺的识别增强方法构建的甲状旁腺位置增强器,其特征在于,包括:
供电电源,用于向近红外自体荧光激发器件以及数据信号处理组件供电,其供电端口分别与近红外自体荧光激发器件、数据信号处理组件电连接,近红外自体荧光激发器件与供电电源之间连接有第一开关,用于控制近红外自体荧光激发器件的启停;数据信号处理组件与供电电源之间连接有第二开关,用于控制数据信号处理组件的启停;
近红外自体荧光激发器件,其信号输入端与所述数据信号处理组件信号连接,供电端与供电电源电连接,且二者之间设置第一开关,用于发射近红外光;
近红外光源照明和自体荧光接收光路组件,其进光口对准近红外自体荧光激发器件的出光口,其出光口对准待检测的甲状旁腺所在区域,其信号输出端与所述近红外自体荧光接收器件的信号输入端信号连接,用于将接收的近红外光引导照射到待检测的甲状旁腺所在区域,同时将从甲状旁腺所在区域反射回来的近红外光和被激发的甲状腺和甲状旁腺的自体荧光引导到近红外自体荧光接收器件;
近红外自体荧光接收器件,其信号输出端与数据信号处理组件的信号输入端信号连接,用于将从甲状旁腺所在区域反射回来的近红外光和被激发的甲状腺和甲状旁腺的自体荧光转换成数字图像信号传输给数据信号处理组件;
可见光RGB双目相机,包括至少两个相机,所述相机的位置均不重合,且相机的信号传输端口与数据信号处理组件信号连接,用于将获取的光信号转换成数字图像信号传输给数据信号处理组件,以获得甲状旁腺所在区域的3维表面空间坐标信息;
数据信号处理组件,其信号输入端分别与近红外自体荧光接收器件的信号输出端、可见光RGB双目相机的信号传输端口信号连接,其信号输出端端口与AR增强显示组件的信号输入端信号连接,用于识别甲状旁腺及其在近红外自体荧光图像中的位置,并结合3维表面空间坐标信息形成AR显示信息,送到AR增强显示组件里进行显示;
以及AR增强显示组件,包括用于支撑的支架以及安装于支架上的增强显示组件,所述支架设有一位于术野上方的悬梁;所述增强显示组件的观察窗的信号输入端与数据信号处理组件信号连接,用于将接收的AR显示信息显示于增强显示组件上。
优选的,所述识别装置还包括数据存储器和通讯模块,所述数据存储器通过通讯模块与数据信号处理组件信号连接,用于接收数据信号处理组件传输的信号。
优选的,所述近红外光源发射组件包括激光二极管、与所述激光二极管同轴放置的聚光透镜和激光二极管驱动电路,所述激光二极管通过第一开关与供电电源电连接,并通过激光二极管驱动电路与数据信号处理组件信号连接,用于通过数据信号处理组件输出的激光导通使能信号控制激光二极管的通断(即点亮或关闭);所述聚光透镜连接至所述二向色镜,用于将激发的近红外光通过同轴近红外光源照明和自体荧光接收光路组件照射到甲状旁腺所在区域。
在进行甲状旁腺识别时,激光导通使能信号控制激光二极管发出或不发出近红外光;近红外自体荧光接收器件接收对应的有近红外照明和无近红外照明条件下的图像。
优选的,所述可见光RGB双目相机包括左图相机和右图相机,其中:
所述左图相机包括左图相机可见光成像光路组件和左图可见光信号接收器件,其中左图相机可见光成像光路组件的出光口对准左图相机可见光信号接收器件,用于将收集左图相机所在位置的可见光信号导入到左图相机可见光信号接收器件;左图相机可见光信号接收器件的信号输出端与数据信号处理组件信号连接或电连接,用于将接收的光信号转换成数字图像信号后传输给数据信号处理组件;
所述右图相机包括右图相机可见光成像光路组件和右图可见光信号接收器件,其中右图相机可见光成像光路组件的出光口对准右图相机可见光信号接收器件,用于将收集左图相机所在位置的可见光信号导入到右图相机可见光信号接收器件;右图相机可见光信号接收器件的信号输出端与数据信号处理组件信号连接或电连接,用于将接收的光信号转换成数字图像信号后传输给数据信号处理组件。
所述左图相机和右图相机的空间距离即为基线距离。由于左图相机和右图相机空间位置差异,对甲状旁腺所在区域上的同一点,成像时,会在左右图像上形成视差。
所述左图相机可见光信号接收器件右图相机可见光信号接收器件都将转换后的数字图像数据传给数据信号处理组件,数据信号处理组件包括深度计算和空间定位模块,该模块通过分析对左右图像进行匹配,找出同一点在左右图像中的位置,计算出同一点在左右图像中的视差,并结合左图相机和右图相机的相机内参和相机外参,计算出甲状旁腺所在区域上的一点的位置坐标。对甲状旁腺所在区域上的所有点进行匹配,计算出其视差和位置坐标后,获得甲状旁腺所在区域的空间坐标信息,即甲状旁腺所在区域的3维表面空间坐标信息。
优选的,所述数据信号处理组件包括照明控制模块、图像数据采集模块、甲状旁腺位置检测模块、深度计算和空间定位模块、信息融合和AR显示控制模块,其中:
所述照明控制模块,用于发出激光导通使能信号;
所述图像数据采集模块,用于管理并接收来自近红外自体荧光接收器件、左图相机可见光信号接收器件、右图相机可见光信号接收器件的图像数据,并把收到的图像数据保存在数据存储器中,并送到甲状旁腺位置检测模块和深度计算和空间定位模块,做进一步的数据分析;
所述甲状旁腺位置检测模块,用于对近红外自体荧光接收器件采集的图像数据进行分析,根据自体荧光强弱确定甲状旁腺在近红外图像中的位置;在进行甲状旁腺识别时,通过控制所述近红外自体荧光激发器件的打开和关闭(即输出红外线或不输出红外线),所述近红外自体荧光接收器件将接收到背景信号和近红外自体荧光发射信号,通过所述数据信号处理组件中的甲状旁腺位置检测模块,比较所述近红外自体荧光接收器件接收到的图像信号强度数据并进行分析,将识别出图像中是否含有甲状旁腺及其在图像中的位置;
所述深度计算和空间定位模块,用于对左图相机可见光信号接收器件和右图相机可见光信号接收器件采集的左右图像数据,进行图像匹配,找出对应点的视差信息,以计算出甲状旁腺所在区域的三维数据;
所述信息融合和AR显示控制模块,用于将找出的甲状旁腺在近红外图像中的位置,与根据左图相机和右图相机图像数据计算出的三维数据,进行融合,并计算出在AR显示眼镜组件中显示图像,传递给AR显示眼镜进行显示。
优选的,所述近红外光源照明和自体荧光接收光路组件包括二向色镜、前级镜头、后级镜头和近红外窄带通滤波器,其中前级镜头、二向色镜、近红外窄带通滤波器和后级镜头依次同轴设置,且:
所述二向色镜设置于近红外自体荧光激发器件的出光口处,其反射光出口与透射光出口同轴,用于接受近红外自体荧光激发器件发出的近红外光,并将其反射后,通过前级镜头折射后,照射到甲状旁腺所在区域;所述二向色镜表面镀膜,使其反射785nm的近红外光、透射820nm的近红外光;
所述前级镜头,设置于二向色镜的反射光出口处,用于收集来自甲状旁腺所在区域的可见光,近红外反射光和自体荧光,并将其传回给二向色镜;
所述后级镜头设置于二向色镜的透射光出口处,用于将自体荧光汇聚成像到近红外自体荧光接收器件表面;
所述近红外窄带通滤波器设置在所述二向色镜和后级镜头之间,近红外窄带通滤波器的透过的近红外光的波长为820nm。
在进行甲状旁腺识别时,所述近红外光源照明和自体荧光接收光路组件将近红外自体荧光激发器件发出的近红外照射到甲状旁腺所在区域,激发甲状腺的近红外自体荧光和甲状旁腺的近红外自体荧光,所述近红外光源照明和自体荧光接收光路组件将收集环境背景噪声信号,甲状腺的近红外自体荧光和甲状旁腺的近红外自体荧光信号,并依次传输给近红外自体荧光接收器件,数据信号处理组件记录所述环境背景噪声图像信号,甲状腺的近红外自体荧光和甲状旁腺的近红外自体荧光图像信号并进行分析,找出甲状旁腺在近红外自体荧光图像中的位置,结合从左图相机和右图相机获得的图像信号分析得到的空间信息,形成AR显示信息,送到AR显示眼镜组件里进行显示。
优选的,所述AR增强显示组件为波导光机AR眼镜,它具有透明的镜片,实景可以透过镜片,在瞳孔里成像,因此手术医生可以通过镜片看到实际的甲状旁腺所在区域;它使用波导方式,在镜片上投射出要显示的图像,因此手术医生可以看到投射的甲状旁腺位置图案;两者同时显示时,手术医生可以看到AR增强显示的图像,实现了甲状旁腺检测眼镜实时检测和显示的功能;手术医生通过配带的AR眼镜,就可以实时的看到手术面的甲状旁腺所在区域的AR图像,其中甲状旁腺用特别的颜色和一个十字形状标示在眼镜视野内,引导医生直接找到实景中的甲状旁腺位置。
具体的,所述支架为可佩戴在使用者眼睛上的镜架,增强显示组件为固装于镜架横梁上并作为观察窗的两个增强显示镜片;其中,供电电源、近红外自体荧光激发器件、近红外光源照明和自体荧光接收光路组件、近红外自体荧光接收器件、可见光RGB双目相机以及数据信号处理组件均设置在镜架上,其中近红外自体荧光激发器件、近红外光源照明和自体荧光接收光路组件并排嵌装于镜架的横梁中空腔内,可见光RGB双目相机的两个相机分别嵌装于横梁两端部,使得左、右两个相机之间保持一定距离;供电电源的供电端口分别与近红外自体荧光激发器件、数据信号处理组件电连接,近红外自体荧光激发器件与供电电源之间连接有第一开关,数据信号处理组件与供电电源之间连接有第二开关;
近红外自体荧光激发器件包括激光二极管、与所述激光二极管同轴放置的聚光透镜和激光二极管驱动电路,所述激光二极管通过第一开关与供电电源电连接,并通过激光二极管驱动电路与数据信号处理组件的照明控制模块信号连接;所述聚光透镜连接至所述二向色镜;
所述近红外光源照明和自体荧光接收光路组件包括二向色镜、前级镜头、后级镜头和近红外窄带通滤波器,其中前级镜头、二向色镜、近红外窄带通滤波器和后级镜头依次同轴设置,所述二向色镜设置于近红外自体荧光激发器件的出光口处,其反射光出口与透射光出口同轴;所述二向色镜表面镀膜,使其反射785nm的近红外光、透射820nm的近红外光;所述前级镜头设置于二向色镜的反射光出口处;所述后级镜头设置于二向色镜的透射光出口处;所述近红外窄带通滤波器设置在所述二向色镜和后级镜头之间,近红外窄带通滤波器的透过的近红外光的波长为820nm;
近红外自体荧光接收器件的信号输出端与所述数据信号处理组件的图像数据采集模块的信号输入端信号连接;
所述可见光RGB双目相机包括左图相机和右图相机,所述左图相机包括左图相机可见光成像光路组件和左图可见光信号接收器件,其中左图相机可见光成像光路组件的出光口对准左图相机可见光信号接收器件;左图相机可见光信号接收器件的信号输出端与数据信号处理组件的图像数据采集模块的信号连接或电连接;所述右图相机包括右图相机可见光成像光路组件和右图可见光信号接收器件,其中右图相机可见光成像光路组件的出光口对准右图相机可见光信号接收器件;右图相机可见光信号接收器件的图像数据采集模块的信号输出端与数据信号处理组件信号连接或电连接;
所述数据信号处理组件采用FPGA实现,包括照明控制模块、图像数据采集模块、甲状旁腺位置检测模块、深度计算和空间定位模块、信息融合和AR显示控制模块,所述照明控制模块的信号输出端与所述激光二极管驱动电路的控制端信号连接或电连接;所述图像数据采集模块的信号输入端与所述近红外自体荧光接收器件的信号输出端信号连接或电连接,其第一信号输出端通过通讯模块与所述数据存储器的信号输入端信号连接,其第二信号输出端与所述数据信号处理组件的甲状旁腺位置检测模块、深度计算和空间定位模块信号连接;所述信息融合和AR显示控制模块的信号输入端与所述甲状旁腺位置检测模块、深度计算和空间定位模块的信号输出端信号连接,其信号输出端与所述AR增强显示组件的前置式显示组件的信号输入端信号连接。
一种如本发明所述甲状旁腺位置增强器的应用方法,其特征在于,包括以下步骤:
闭合所述第一开关,给近红外自体荧光激发器件供电;未收到数据信号处理组件给出的激光导通使能信号以前,近红外自体荧光激发器件的激光二极管不发光;
闭合所述第二开关,给数据信号处理组件供电,所述数据信号处理组件开始工作,启动三个子进程:
进程一,控制近红外自体荧光激发器件发光和关闭;采集来自近红外自体荧光接收器件与激光导通和关闭操作同步的图像数据;对采集的图像数据序列进行分析,找出近红外自体荧光图像中甲状旁腺的位置,输出甲状旁腺在近红外自体荧光图像中的位置坐标信息;
进程二,同步采集来自近左图相机可见光信号接收器件的图像数据,和来自右图相机可见光信号接收器件的图像数据;将两组图像数据保存在内存中,分别记录为左图和右图;对采集的左图和右图的图像数据进行对比,找出左图和右图中像素点之间的对应关系;求出对应点的视差,结合左图相机和右图相机的内参与外参,求出左右相机的空间位置和视野范围内每个点的实际空间坐标;
进程三,根据进程二的输出结果,拟合出左图和右图视野范围内的曲面形状;根据进程一中获得的甲状旁腺的位置图像坐标,结合近红外自体荧光接收器件的内参和外参,投射到视野范围内的曲面形状上,求出甲状旁腺的实际空间坐标。根据AR眼镜的位置,在保证AR显示的景象与实景重合的条件下,计算出在AR眼镜的左显示器和右显示器上要投射的指示图像;送到AR眼镜上显示;
通过AR眼镜看到的显示和实景重合;通过不断移动位置和观察角度,进程一、二、三会实时的重复进行,通过眼镜实时的看到甲状旁腺的在实景中的指示位置;
关闭第二开关,结束数据信号处理组件工作;
关闭第一开关,结束给近红外自体荧光激发器件供电。
更具体地,在进程一中,数据信号处理组件通过控制激光导通使能信号,周期性的打开和关闭激光导通使能信号,使得近红外自体荧光激发器件发射或不发射近红外光,并采集相应的图像;在所述数据信号处理组件中对图像数据IR0和IR1进行预处理,包括降噪滤波,减少图像中的噪声;将图像数据IR1减去背景图像信号IR0,获得在近红外照明下反射回来的近红外和近红外自体荧光图像信号IR_P。对手术区域内的图像数据IR_P进行分析,灰度值的差异大于给定阈值2倍的点作为甲状旁腺的备选位置;在经过形态学滤波后,在最后获得的图像IR_P5中,值等于1的位置上的点判断为甲状旁腺的位置。
更具体地,在进程二中,数据信号处理组件采集左右图像,首先对图像进行畸变校准,然后求左右两图的对应点,根据左右图像获得对应点的视差值,根据左右相机的内参和外参,计算出手术面的三维图;并且根据手术面的颜色差异,将手术面在近红外自体荧光接收器件的成像面上的投影的坐标作为SROI区域提取出来。
更具体地,在进程三中,根据进程二的输出结果,拟合出左图和右图视野范围内的曲面形状;根据进程一中获得的甲状旁腺的位置图像坐标,结合近红外自体荧光接收器件的内参和外参,投射到视野范围内的曲面形状上,求出甲状腺和甲状旁腺的实际空间坐标。根据AR显示眼镜的位置,在保证AR显示的景象与实景重合的条件下,调用AR眼镜显示模块,计算出在AR眼镜左显示器和有显示器上要投射的图像;送到AR眼镜上显示。
本发明利用近红外光源和近红外相机检测甲状旁腺组织和位置,通过图像处理技术识别出微弱小信号,减少了环境光的影响,通过双目相机实现了眼镜的空间定位,通过增强显示眼镜将检测出来的组织位置与实际的场景融合后显示给手术医生观察,将近红外荧光探测技术和AR技术结合,解决手术中甲状旁腺探测难题。通过光学设计、电子设计和软件开发,实现高灵敏度的甲状旁腺探测系统,实现实时检测;解决近红外荧光技术易受环境灯光影响的问题;实现荧光探测技术下的腺体检测;通过光学和图像处理技术,提高探测精度,增强其探测深度,能准确探测到埋在一定深度纤维脂肪组织下面的甲状旁腺;本发明研发制作高灵敏度的近红外荧光甲状旁腺探测系统,将其进行小型化开发,整个系统,包括关键的近红外发射、荧光接收、多路图像的融合和信号增强处理器、和显示部分集成到一个头戴式AR眼镜上。使用时,医生通过随时移动位置,实现不同角度的观察。识别的结果显示在AR眼镜上,和实际的场景实现了空间上的重合,医生可以直接看到手术的场景和增强显示出来的甲状旁腺的位置和形状,帮助进行手术。
本发明的有益效果是:可以迅速的检测出甲状旁腺位置,并将其与实际场景融合后,通过增强现实AR眼镜,实时显示给手术医生观察甲状旁腺位置和实际的场景,具有视场范围宽,观察角度、距离灵活,显示直观的特点。本发明可以有效快速地找出甲状旁腺位置并指示给医生看,提高了甲状腺相关手术的效率,并为甲状腺相关手术提供了安全保障。
附图说明
图1是本发明的结构流程图;
图2a是本发明的一种具体实施方式的结构示意图;
图2b是本发明的一种近红外甲状旁腺识别装置的一种具体实施方式的结构示意图
图3是本发明的近红外光源照明和自体荧光接收光路组件结构示意图(a为反射光和激发荧光;b近红外照明光;c为甲状旁腺所在区域);
图4是本发明的近红外自体荧光激发器件和部分近红外光源照明和自体荧光接收光路组件的结构示意图(c为甲状旁腺所在区域);
图5是本发明的数据信号处理组件结构示意图;
图6是本发明的甲状旁腺的识别和位置显示方法的流程示意图;
图7是本发明的进程一中甲状旁腺的位置识别方法的流程示意图;
图8是本发明的进程二根据左右图像求出相机的空间位置和视野范围内空间点三维坐标的流程示意图;
图9是本发明的进程三,AR眼镜显示的流程示意图;
图10是基于AR技术的近红外甲状旁腺的位置增强仪器结构框图(采用二向色镜分离光路的近红外光源和接收器);
图11基于AR技术的近红外荧光甲状旁腺的位置增强仪器;
图12通过波导光机AR眼镜显示的效果图。
具体实施方式
以下描述用于揭露本发明以使本领域技术人员能够实现本发明。以下描述中的优选实施例只作为举例,本领域技术人员可以想到其他显而易见的变型。在以下描述中界定的本发明的基本原理可以应用于其他实施方案、变形方案、改进方案、等同方案以及没有背离本发明的精神和范围的其他技术方案。
本领域技术人员应理解的是,在本发明的揭露中,术语“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”等指示的方位或位置关系是基于附图所示的方位或位置关系,其仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此上述术语不能理解为对本发明的限制。
在本发明中,权利要求和说明书中术语“一”应理解为“一个或多个”,即在一个实施例,一个元件的数量可以为一个,而在另外的实施例中,该元件的数量可以为多个。除非在本发明的揭露中明确示意该元件的数量只有一个,否则术语“一”并不能理解为唯一或单一,术语“一”不能理解为对数量的限制。
在本发明的描述中,需要理解的是,属于“第一”、“第二”等仅用于描述目的,而不能理解为指示或者暗示相对重要性。本发明的描述中,需要说明的是,除非另有明确的规定和限定,属于“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接或者一体地连接;可以是机械连接,也可以是电连接;可以是直接连接,也可以是通过媒介间接连接。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
实施例1本发明所述的一种基于AR技术的近红外荧光甲状旁腺的识别增强方法,包括以下步骤:
1)向甲状腺和甲状旁腺所在区域发射785nm的近红外光,甲状腺和甲状旁腺在该波长的近红外光照射下产生820nm的自体荧光,接收产生的自体荧光并同步获取甲状腺和甲状旁腺的图像数据,然后确定近红外自体荧光图像中甲状腺和甲状旁腺的位置,输出甲状旁腺在图像中的位置图像坐标信息;
2)同步采集可见光RGB双目相机的左相机和右相机获取的左右两组图像数据,并将两组图像数据保存在内存中,分别记录为左图和右图;对比采集的左图和右图图像数据,找出左图和右图中像素点之间的对应关系;求出对应点的视差,结合左图相机和右图相机的内参与外参,求出左、右相机的空间位置和视野范围内每个点的实际空间坐标;
3)根据步骤2)获取的左、右相机的空间位置和视野范围内每个点的实际空间坐标,拟合出左图和右图视野范围内的3D曲面;
4)结合近红外自体荧光接收器件的内参和外参,将步骤1)获取的甲状旁腺的位置图像坐标信息投射到视野范围内的3D曲面上,求出甲状旁腺的实际空间坐标;
5)在保证AR增强显示的景象与实景重合的条件下,结合AR增强显示组件的位置,将步骤4)获取的甲状旁腺在近红外图像中的实际空间坐标,与根据左图相机和右图相机图像数据计算出的三维数据进行融合,计算出在AR增强显示组件要投射的指示图像;;
6)将步骤5)获取的指示图像输送至AR增强显示组件上,通过AR增强显示组件的观察窗即可看到指示图像和实景的叠加重合,并通过不断移动AR增强显示组件的位置和观察角度,实时重复获取甲状旁腺的在实景中的指示位置。
优选的,所述近红外光为周期性发射的785nm近红外光。
优选的,步骤4)中获取的甲状旁腺的位置图像坐标信息投射到视野范围内的3D曲面时进行畸变矫正,使得投射线和3D曲面相交。
优选的,甲状旁腺投射到3D曲面上的位置点用带颜色的十字标示。
实施例2根据本发明所述的识别增强方法构建的位置增强仪器,包括:
供电电源1,用于向近红外自体荧光激发器件以及数据信号处理组件供电,其供电端口分别与近红外自体荧光激发器件、数据信号处理组件电连接,近红外自体荧光激发器件与供电电源之间连接有第一开关2,用于控制近红外自体荧光激发器件的启停;数据信号处理组件与供电电源之间连接有第二开关8,用于控制数据信号处理组件的启停;
近红外自体荧光激发器件3,其信号输入端与所述数据信号处理组件信号连接,供电端与供电电源电连接,且二者之间设置第一开关,用于发射近红外光;
近红外光源照明和自体荧光接收光路组件4,其进光口对准近红外自体荧光激发器件的出光口,其出光口对准待检测的甲状旁腺所在区域,其信号输出端与所述近红外自体荧光接收器件的信号输入端信号连接,用于将接收的近红外光引导照射到待检测的甲状旁腺所在区域,同时将从甲状旁腺所在区域反射回来的近红外光和被激发的甲状腺和甲状旁腺的自体荧光引导到近红外自体荧光接收器件;
近红外自体荧光接收器件5,其信号输出端与数据信号处理组件的信号输入端信号连接,用于将从甲状旁腺所在区域反射回来的近红外光和被激发的甲状腺和甲状旁腺的自体荧光转换成数字图像信号传输给数据信号处理组件;
可见光RGB双目相机,包括两个相机,所述相机的位置均不重合,且相机的信号传输端口与数据信号处理组件信号连接,用于将获取的光信号转换成数字图像信号传输给数据信号处理组件,以获得甲状旁腺所在区域的3维表面空间坐标信息;
数据信号处理组件6,其信号输入端分别与近红外自体荧光接收器件的信号输出端、可见光RGB双目相机的信号传输端口信号连接,其信号输出端端口与AR增强显示组件的信号输入端信号连接,用于识别甲状旁腺及其在近红外自体荧光图像中的位置,并结合3维表面空间坐标信息形成AR显示信息,送到AR增强显示组件里进行显示;
以及AR增强显示组件7,包括支架以及增强显示组件,所述支架设有一位于术野上方的悬梁;所述增强显示组件设置于悬梁上,其信号输入端与数据信号处理组件信号连接,用于将接收的AR显示信息显示于前置式显示组件上。
优选的,所述识别装置还包括数据存储器13和通讯模块14,所述数据存储器通过通讯模块与数据信号处理组件信号连接,用于接收数据信号处理组件传输的信号。
优选的,近红外自体荧光激发器件3包括激光二极管32、与所述激光二极管同轴放置的聚光透镜33和激光二极管驱动电路31,所述激光二极管通过第一开关与供电电源电连接,并通过激光二极管驱动电路与数据信号处理组件信号连接,用于通过数据信号处理组件输出的激光导通使能信号34控制激光二极管的通断;所述聚光透镜连接至所述二向色镜,用于将激发的近红外光通过同轴近红外光源照明和自体荧光接收光路组件照射到甲状旁腺所在区域。
优选的,所述可见光RGB双目相机包括左图相机和右图相机,其中:
所述左图相机包括左图相机可见光成像光路组件9和左图可见光信号接收器件11,其中左图相机可见光成像光路组件的出光口对准左图相机可见光信号接收器件,用于将收集左图相机所在位置的可见光信号导入到左图相机可见光信号接收器件;左图相机可见光信号接收器件的信号输出端与数据信号处理组件信号连接或电连接,用于将接收的光信号转换成数字图像信号后传输给数据信号处理组件;
所述右图相机包括右图相机可见光成像光路组件10和右图可见光信号接收器件12,其中右图相机可见光成像光路组件的出光口对准右图相机可见光信号接收器件,用于将收集左图相机所在位置的可见光信号导入到右图相机可见光信号接收器件;右图相机可见光信号接收器件的信号输出端与数据信号处理组件信号连接或电连接,用于将接收的光信号转换成数字图像信号后传输给数据信号处理组件。
优选的,所述数据信号处理组件6包括照明控制模块61、图像数据采集模块62、甲状旁腺位置检测模块63、深度计算和空间定位模块64、信息融合和AR显示控制模块65,其中:
所述照明控制模块,其信号输出端与所述近红外自体荧光激发器件的信号输入端电连接,用于发出激光导通使能信号;
所述图像数据采集模块,其信号输入端通过通讯模块分别与近红外自体荧光接收器件的信号输出端、所述左图相机可见光信号接收器的信号输出端、所述右图相机可见光信号接收器的信号输出端以及数据存储器的信号输入端信号连接,其信号输出端与所分别与所述甲状旁腺位置检测模块的信号输入端、所述深度计算和空间定位模块的信号输入端信号连接,用于管理并接收来自近红外自体荧光接收器件、左图相机可见光信号接收器件、右图相机可见光信号接收器件的图像数据,并把收到的图像数据保存在数据存储器中,并送到甲状旁腺位置检测模块和深度计算和空间定位模块,做进一步的数据分析;
所述甲状旁腺位置检测模块,其信号输入端与图像数据采集模块相应的信号输出端信号连接,其信号输出端与所述信息融合和AR显示控制模块的信号输入端信号连接,用于对近红外自体荧光接收器件采集的图像数据进行分析,根据自体荧光强弱确定甲状旁腺在近红外图像中的位置;
所述深度计算和空间定位模块,其信号输入端与图像数据采集模块相应的信号输出端信号连接,其信号输出端与所述信息融合和AR显示控制模块的信号输入端信号连接,用于对左图相机可见光信号接收器件和右图相机可见光信号接收器件采集的左右图像数据,进行图像匹配,找出对应点的视差信息,以计算出甲状旁腺所在区域的三维数据;
所述信息融合和AR显示控制模块,其信号输入端分别与所述甲状旁腺位置检测模块以及深度计算和空间定位模块的信号输出端信号连接,其信号输出端与所述AR增强显示组件的信号输入端信号连接,用于将找出的甲状旁腺在近红外图像中的位置,与根据左图相机和右图相机图像数据计算出的三维数据,进行融合,并计算出在AR显示眼镜组件中显示图像,传递给AR显示眼镜进行显示。
优选的,所述近红外光源照明和自体荧光接收光路组件4为近红外相机40,包括二向色镜41、前级镜头42、后级镜头43和近红外窄带通滤波器44,其中前级镜头、二向色镜、近红外窄带通滤波器和后级镜头依次同轴设置,且:
所述二向色镜设置于近红外自体荧光激发器件的出光口处,其反射光出口与透射光出口同轴,用于接受近红外自体荧光激发器件发出的近红外光,并将其反射后,通过前级镜头折射后,照射到甲状旁腺所在区域;所述二向色镜表面镀膜,使其反射785nm的近红外光、透射820nm的自体荧光;
所述前级镜头,设置于二向色镜的反射光出口处,用于收集来自甲状旁腺所在区域的可见光,近红外反射光和自体荧光,并将其传回给二向色镜;
所述后级镜头43设置于二向色镜的透射光出口处,用于将自体荧光汇聚成像到近红外自体荧光接收器件表面;所述后级镜头内设近红外成像透镜431,在近红外成像透镜的出光口处设置近红外感光芯片432;
所述近红外窄带通滤波器设置在所述二向色镜和后级镜头之间,近红外窄带通滤波器的透过的近红外光的波长为820nm。
优选的,所述AR增强显示组件为波导光机AR眼镜。
具体的,所述支架为可佩戴在使用者眼睛上的镜架,增强显示组件为固装于镜架横梁上的两个镜片组件;其中,供电电源、近红外自体荧光激发器件、近红外光源照明和自体荧光接收光路组件、近红外自体荧光接收器件、可见光RGB双目相机以及数据信号处理组件均设置在镜架上,其中近红外自体荧光激发器件、近红外光源照明和自体荧光接收光路组件并排嵌装于镜架的横梁中部,可见光RGB双目相机的两个相机分别嵌装于横梁两端部,使得左、右两个相机之间保持一定距离;供电电源的供电端口分别与近红外自体荧光激发器件、数据信号处理组件电连接,近红外自体荧光激发器件与供电电源之间连接有第一开关,数据信号处理组件与供电电源之间连接有第二开关;
近红外自体荧光激发器件包括激光二极管、与所述激光二极管同轴放置的聚光透镜和激光二极管驱动电路,所述激光二极管通过第一开关与供电电源电连接,并通过激光二极管驱动电路与数据信号处理组件信号连接;所述聚光透镜连接至所述二向色镜;
所述近红外光源照明和自体荧光接收光路组件包括二向色镜、前级镜头、后级镜头和近红外窄带通滤波器,其中前级镜头、二向色镜、近红外窄带通滤波器和后级镜头依次同轴设置,所述二向色镜设置于近红外自体荧光激发器件的出光口处,其反射光出口与透射光出口同轴;所述二向色镜表面镀膜,使其反射785nm的近红外光、透射820nm的近红外光;所述前级镜头设置于二向色镜的反射光出口处;所述后级镜头设置于二向色镜的透射光出口处;所述近红外窄带通滤波器设置在所述二向色镜和后级镜头之间,近红外窄带通滤波器的透过的近红外光的波长为820nm;
所述可见光RGB双目相机包括左图相机和右图相机,所述左图相机包括左图相机可见光成像光路组件和左图可见光信号接收器件,其中左图相机可见光成像光路组件的出光口对准左图相机可见光信号接收器件;左图相机可见光信号接收器件的信号输出端与数据信号处理组件信号连接或电连接;所述右图相机包括右图相机可见光成像光路组件和右图可见光信号接收器件,其中右图相机可见光成像光路组件的出光口对准右图相机可见光信号接收器件;右图相机可见光信号接收器件的信号输出端与数据信号处理组件信号连接或电连接;
所述数据信号处理组件包括照明控制模块、图像数据采集模块、甲状旁腺位置检测模块、深度计算和空间定位模块、信息融合和AR显示控制模块,所述照明控制模块的信号输出端与所述激光二极管驱动电路的控制端信号连接或电连接;所述图像数据采集模块的信号输入端与所述近红外自体荧光接收器件的信号输出端信号连接或电连接,其第一信号输出端通过通讯模块与所述数据存储器的信号输入端信号连接,其第二信号输出端与所述数据信号处理组件的甲状旁腺位置检测模块和深度计算和空间定位模块信号连接;所述信息融合和AR显示控制模块的信号输入端与所述甲状旁腺位置检测模块的信号输出端信号连接,其信号输出端与所述AR增强显示组件的前置式显示组件的信号输入端信号连接。
实施例2一种如本发明所述的位置增强仪器的应用方法,包括以下步骤:
S100:闭合所述第一开关,给近红外自体荧光激发器件供电;未收到数据信号处理组件给出的激光导通使能信号以前,近红外自体荧光激发器件的激光二极管不发光;
S200:闭合所述第二开关,给数据信号处理组件供电,所述数据信号处理组件开始工作,启动三个子进程:
S300:进程一,控制近红外自体荧光激发器件发光和关闭;采集来自近红外自体荧光接收器件与激光导通和关闭操作同步的图像数据;对采集的图像数据序列进行分析,找出近红外自体荧光图像中甲状腺和甲状旁腺的位置,输出在图像中的位置坐标信息;
S400:进程二,同步采集来自近左图相机可见光信号接收器件的图像数据,和来自右图相机可见光信号接收器件的图像数据;将两组图像数据保存在内存中,分别记录为左图和右图;对采集的左图和右图的图像数据进行对比,找出左图和右图中像素点之间的对应关系;求出对应点的视差,结合左图相机和右图相机的内参与外参,求出左右相机的空间位置和视野范围内每个点的实际空间坐标;
S500:进程三,根据进程二的输出结果,拟合出左图和右图视野范围内的曲面形状;根据进程一中获得的甲状腺和甲状旁腺的位置图像坐标,结合近红外自体荧光接收器件的内参和外参,投射到视野范围内的曲面形状上,求出甲状腺和甲状旁腺的实际空间坐标。根据AR眼镜的位置,在保证AR显示的景象与实景重合的条件下,将甲状旁腺在近红外图像中的实际空间坐标,与根据左图相机和右图相机图像数据计算出的三维数据进行融合,计算出在AR眼镜的左显示器和右显示器上要投射的指示图像;送到AR眼镜上显示;
S600:通过AR眼镜看到的显示和实景重合;通过不断移动位置和观察角度,进程一、二、三会实时的重复进行,通过眼镜实时的看到甲状腺和甲状旁腺的在实景中的指示位置;
S700:关闭第二开关,结束数据信号处理组件工作;
S800:关闭第一开关,结束给近红外自体荧光激发器件供电。
本发明所述位置增强仪器的应用方法,其特征在于:进程一中获得甲状旁腺的位置坐标信息的方法包括以下步骤:
S301:数据信号处理组件关闭激光导通使能信号;使得近红外自体荧光激发器件不发射近红外光;
S302:采集来自近红外自体荧光接收器件的图像数据IR0;记录此图像作为背景图像信号;
S303:数据信号处理组件输出激光导通使能信号;使得近红外自体荧光激发器件发射近红外光;
S304:采集来自近红外自体荧光接收器件的图像数据IR1;
S305:对图像数据IR0和IR1进行预处理,包括降噪滤波,减少图像中的噪声;
S306:将图像数据IR1减去背景图像信号IR0,获得在近红外照明下反射回来的近红外和近红外自体荧光图像信号IR_P;
S307:SROI区域定义为手术区域;将图像数据IR_P按SROI区域范围,做一次屏蔽,将非手术区域的灰度值设置为0,获得IR_P1图像。SROI区域信息来自于进程2中对采集的可见光图像的分析;在进程二未运行以前,SROI默认为空;
S308:在SROI区域内统计IR_P图像的灰度直方图分布,取SROI区域内IR_P图像的灰度的中值作为环境背景噪声值。(灰度值=0的点不参与统计);
Sd=Middle(Grey value in IR_P’s SROI region);
S309:将IR_P1与Sd做一次减法,并将小于0的值都设置为0;即:
IR_P2(x,y)=(IR_P1(x,y)-Sd)>0?IR_P1(x,y)-Sd):0;
S310:根据灰度值的差异判断某一点是否是甲状腺或甲状旁腺,计算以下图像数据:
IR_P3(x,y)=(IR_P2(x,y)-Sj)>0?1:0;
IR_P4(x,y)=(IR_P2(x,y)-2*Sj)>0?1:0;
Sj为预设的甲状腺自体荧光强度值;
IR_P3(x,y)=1的点,代表备选的甲状腺或甲状旁腺位置点;
IR_P4(x,y)=1的点,代表备选的甲状旁腺位置点;
S311:对图像IR_P4做形态学滤波;
IR_P5=MORPH_OPEN(IR_P4,Kernel);
这里取Kernel=3x3的方块;
S312:获得的图像IR_P5中,值等于1的位置上的点即是甲状旁腺的位置。
本发明所述位置增强仪器的应用方法,其特征在于:进程二根据左右图像求出相机的空间位置和视野范围内空间点三维坐标的方法,包括以下步骤:
S401:采集来自左图相机可见光信号接收器件的左图像数据;记录此图像为L0;
S402:采集来自右图相机可见光信号接收器件的左图像数据;记录此图像为R0;
S403:对图像L0做预处理,包括图像降噪;
S404:对图像R0做预处理,包括图像降噪;
S405:对图像L0做畸变校正;
S406:根据颜色信息,识别出图像中手术区域。直观的,就是手术面可见光以红色为主,其它区域为黄色肤色或其它颜色;
S407:对图像R0做畸变校正;
S4028:对左右图像按点匹配,求视差图;
S409:根据视差图,还原左右图视野范围内的深度图,和相机的空间位置;
S410:根据透射关系,求出在三维空间中手术面的空间位置;
S411:根据近红外自体荧光接收器件的内参和外参,将手术面的空间位置投射到近红外自体荧光接收器件的成像面,记为SROI区域;
S412:输出左右图视野范围内的深度图和相机的空间位置信息,SROI区域信息。
具体的,参考附图1至图3所示,根据本发明的一实施例的一种位置增强仪器被阐明,包括一AR增强显示组件7、一近红外自体荧光激发器件3、一近红外光源照明和自体荧光接收光路组件4、一近红外自体荧光接收器件5、一可见光RGB双目相机15以及数据信号处理组件6。所述近红外自体荧光激发器件3、近红外光源照明和自体荧光接收光路组件4、一近红外自体荧光接收器件5部分被设置于所述AR增强显示组件7的支架71上,并且所述AR增强显示组件7的前置式显示组件72的镜片部分被设置于所述支架71的外部,通过所述前置式显示组件72的镜片部分,以使所述近红外荧光甲状旁腺探测仪器探测出来的甲状旁腺位置与实景做增强现实显示。所述甲状旁腺探测仪器,工作时,近红外自体荧光激发器件3发出785nm近红外光,投射到手术面上,甲状旁腺在特定波长的近红外激光照射下,产生自体荧光发射,发射的荧光由近红外光源照明和自体荧光接收光路组件4接收,通过数据信号处理组件6,进行信号分析,而实现探测工作,将甲状旁腺从周围其它组织里检测区分开来。可见光RGB双目相机15以及增强显示组件50,实现甲状旁腺探测和实景的叠加功能。
在本发明的实施例中,近红外发射、接收、和显示部分集成到一个头戴式AR眼镜上。图11是一款基于AR技术的位置增强仪器示意图。其中包括了完整的红外光源照明系统,红外光源接收系统,可见光双目相机,通过数据信号处理组件里的深度计算和空间定位模块,甲状旁腺位置检测模块,信息融合和AR显示控制模块,实现了甲状旁腺位置检测和在AR眼镜中实现增强现实的结果显示。使用时,医生通过随时移动位置,实现不同角度的观察。采用增强现实技术,借助计算机视觉技术和人工智能技术,将识别的结果与实际的场景融合,显示在AR眼镜上,通过增强现实的显示方法,使医生可以直接看到手术的场景和增强显示出来的甲状旁腺的位置和形状,帮助进行手术。
在本发明的实施例中,我们采用AR眼镜技术,研发制作高灵敏度的近红外荧光甲状旁腺探测系统,对近红外相机组件进行了小型化设计,使其厚度小于15mm。
在本发明的实施例中,对近红外照明和相机接收部分,我们通过光学器件设计,实现了同轴光照明。在图4中,我们采用二向色镜对照明光与激发荧光进行分离。我们采用785nm的近红外光源照射手术面目标,甲状旁腺受光照激发后,产生820nm的自体荧光,荧光经过二向色镜和820nm波段的窄带滤光片进入近红外高速面阵相机进行宽场成像,其特点是成像视场大,可确定甲状旁腺目标区域,通过二向色镜实现的同轴光保证了近红外光源照射方向和范围与摄像头的视野一致。在近红外相机的视野范围内,满足光照均匀的要求。近红外光照的角度范围与近红外接收器的接收视场角基本一致(略大于接收视场角),保证了光源的照射效率,且被摄对象在所有时刻和位置都能得到充分和准确的照明。用户不用去关注照明与视场是否重合,简化了使用的操作难度。
在本发明的一实施例中,数据处理主控器用于实现空间定位和甲状旁腺位置的识别,并进行图像融合,实现AR眼镜显示控制。我们在数据处理主控器上,建立了完整的操作系统,实现了图像处理、图像增强、甲状旁腺检测识别、3D深度测量,空间定位和AR显示控制功能。图像处理和目标识别与检测在图像处理软件系统中完成。其中包括图像的获取,降噪,增强,配准,图像分割,特征提取,目标识别,图像显示,光斑指示位置计算等。
在本发明的实施例中,在接收器光路设计中,我们采用了820nm近红外窄带滤波器,使其对820nm的近红外有最高的响应,而其它环境光对它的影响减到最小。
在本发明的一实施例中,设备通过近红外图像接收器获得近红外荧光图像,通过数据处理主控器里的甲状旁腺位置检测模块找出甲状腺旁腺位置。具体的,是利用甲状腺旁腺在785nm下会激发820nm的自体荧光,820nm的荧光被近红外相机接收到,红外相机接收光前面有一个820nm的窄带滤波器,近红外相机主要接收820nm光源的能量。所以近红外图像中,甲状腺旁腺位置亮度变化会比其他部分高。通过检测这个亮度的差异,可以找出甲状旁腺位置。
在本发明的一实施例中,设备通过可见光相机获得的两幅图像,通过数据处理主控器检测两幅图里的图像信息,找出相同目标点在两幅图里的图像坐标,计算出对应两点的视差值,结合已知的相机内参和极距信息,通过三角关系恢复出手术面目标的深度信息。
在本发明的一实施例中,数据处理主控器将深度信息和甲状腺旁腺位置进行融合,在AR眼镜里显示出甲状腺旁腺的位置。这时,手术医生就可以在手术视野中同时看到实际的场景和AR眼镜指示出来的甲状腺旁腺位置,轻松定位甲状旁腺的位置。
在本发明的一实施例中,检测出来甲状旁腺通过AR眼镜透过镜片的显示。图12是衍射波导方案光机的效果示意图,从图中可以看出,虚拟显示的图案可以和实景紧密的融合。图中绿色的图案是叠加上去的虚像,显示非常清晰。图案的透明度,可以通过光强来调整。左右两个眼睛同时透过AR眼镜时,就可以看到和实景立体融合的图像了。
在本发明的一实施例中,数据处理主控器对接收的红外荧光图像进行了图像滤波和增强。通过对接收的图像进行滤波和增强,解决了原始图像中荧光信号弱,信噪比低的问题。通过对原始信号进行处理,使甲状旁腺容易被检出。具体的滤波方法,可以采用图像处理中的广泛使用的空域和频域方法。
在本发明的一实施例中,我们采用样本训练和人工智能的方法,来检测甲状旁腺。在近红外激发的荧光中,也包括其它组织激发的荧光,其它组织在785nm波长的近红外荧光相对较弱。为了准确的识别判断出哪些组织是真正的甲状腺旁腺,我们先进行动物实验,拍摄大量实验动物的甲状旁腺、甲状腺、肌肉、脂肪及淋巴结等组织图片,包括近红外荧光图片及普通图片。再通过平滑处理、随机优化等算法实现对前期采集图片的预处理,对目标区域特征进行提取、重构和识别。再将预处理图片,通过人工进行数据标注,区分甲状旁腺、甲状腺、脂肪、肌肉及淋巴组织等,建立训练集及样本集,结合人工智能算法训练出相应模型。这部分工作在动物实验中完成。最后,我们将在实际的人体甲状腺手术时进行检测效果的的临床验证。
在人体甲状腺手术临床验证中我们将选取60名进行单侧甲状腺腺叶切除术+同侧中央区淋巴结清扫的患者,性别不限,年龄20~70岁,既往无甲状腺手术史、无甲状腺射频或微波治疗史、无甲状腺放疗史。所有入选患者均需签署临床实验知情同意术后。在术前通过抽信封的方式,随机分成A、B两组。A组,由外科医生独立完成术中甲状旁腺的寻找识别;B组,使用近红外荧光成像及探针系统辅助外科医生完成术中甲状旁腺的寻找识别。所有手术均由同一个经验丰富的外科医生主刀实行。术中记录每例患者术中发现的甲状旁腺数量及所需时间。将每个外科医生肉眼寻找到的可疑甲状旁腺分成3类:第一类,高度确信;第二类,中度确信;第三类,低度确信。第一类及第二类纳入研究。第三类直接剔除。以上两种方法探测到的可疑甲状旁腺最终均以组织病理学作为金标准对照,评估其准确性。最后统计学分析,评估近红外荧光成像及探针探测系统术中探测甲状旁腺的敏感性和特异性及所需时间,与有经验的外科医生相比有无显著性差异。
本说明书实施例所述的内容仅仅是对发明构思的实现形式的列举,本发明的保护范围不应当被视为仅限于实施例所陈述的具体形式,本发明的保护范围也包括本领域技术人员根据本发明构思所能够想到的等同技术手段。
Claims (4)
1.一种基于AR技术的近红外荧光甲状旁腺的识别增强方法,其特征在于,包括以下步骤:
1)向甲状腺和甲状旁腺所在区域发射785nm的近红外光,甲状腺和甲状旁腺在该波长的近红外光照射下产生820nm的自体荧光,接收产生的自体荧光并同步获取甲状旁腺的图像数据,然后确定近红外自体荧光图像中甲状旁腺的位置,输出甲状旁腺在图像中的位置图像坐标信息;
2)同步采集可见光RGB双目相机的左图相机和右图相机获取的左右两组图像数据,并将两组图像数据保存在内存中,分别记录为左图和右图;对比采集的左图和右图图像数据,找出左图和右图中像素点之间的对应关系;求出对应点的视差,结合左图相机和右图相机的内参与外参,求出左、右相机的空间位置和视野范围内每个点的实际空间坐标;
3)根据步骤2)获取的左、右图相机的空间位置和视野范围内每个点的实际空间坐标,拟合出左图和右图视野范围内的3D曲面;
4)结合近红外自体荧光接收器件的内参和外参,将步骤1)获取的甲状旁腺的位置图像坐标信息投射到视野范围内的3D曲面上,求出甲状旁腺的实际空间坐标;
5)在保证AR增强显示的景象与实景重合的条件下,结合AR增强显示组件的位置,将步骤4)获取的甲状旁腺在近红外图像中的实际空间坐标,与根据左图相机和右图相机图像数据计算出的三维数据进行融合,计算出在AR增强显示组件要投射的指示图像;
6)将步骤5)获取的指示图像输送至AR增强显示组件上,通过AR增强显示组件的观察窗即可看到指示图像和实景的叠加重合,获取甲状旁腺的在实景中的指示位置。
2.根据权利要求1所述的一种基于AR技术的近红外荧光甲状旁腺的识别增强方法,其特征在于:所述近红外光为周期性发射的785nm近红外光。
3.根据权利要求1所述的一种基于AR技术的近红外荧光甲状旁腺的识别增强方法,其特征在于:步骤4)中获取的甲状旁腺的位置图像坐标信息投射到视野范围内的3D曲面时进行畸变矫正,使得投影线和3D曲面重叠,即可确定甲状旁腺的空间位置。
4.根据权利要求3所述的一种基于AR技术的近红外荧光甲状旁腺的识别增强方法,其特征在于:甲状旁腺投射到3D曲面上的位置点在AR眼镜上用带颜色的十字标示。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011377205.3A CN112656369B (zh) | 2020-11-30 | 2020-11-30 | 一种基于ar技术的近红外荧光甲状旁腺的识别增强方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011377205.3A CN112656369B (zh) | 2020-11-30 | 2020-11-30 | 一种基于ar技术的近红外荧光甲状旁腺的识别增强方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112656369A true CN112656369A (zh) | 2021-04-16 |
CN112656369B CN112656369B (zh) | 2022-11-25 |
Family
ID=75403786
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011377205.3A Active CN112656369B (zh) | 2020-11-30 | 2020-11-30 | 一种基于ar技术的近红外荧光甲状旁腺的识别增强方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112656369B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113796850A (zh) * | 2021-09-27 | 2021-12-17 | 四川大学华西医院 | 甲状旁腺mibi图像分析系统、计算机设备及存储介质 |
CN115797617A (zh) * | 2022-12-05 | 2023-03-14 | 杭州显微智能科技有限公司 | 一种甲状旁腺识别方法及智能腔镜摄像系统装置 |
CN116385337A (zh) * | 2022-12-15 | 2023-07-04 | 陕西中科创孚医疗科技有限责任公司 | 一种基于多光融合的甲状旁腺识别装置及方法 |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103838980A (zh) * | 2014-03-27 | 2014-06-04 | 山东大学 | 对多发性骨髓瘤骨病治疗方法的疗效进行模拟评测的方法 |
WO2015188684A1 (zh) * | 2014-06-12 | 2015-12-17 | 深圳奥比中光科技有限公司 | 三维模型重建方法与系统 |
WO2016142675A1 (en) * | 2015-03-06 | 2016-09-15 | Micromass Uk Limited | Imaging guided ambient ionisation mass spectrometry |
US20170046586A1 (en) * | 2015-08-10 | 2017-02-16 | Adnan Abbas | Optical projection overlay device |
US20170105623A1 (en) * | 2008-07-30 | 2017-04-20 | Vanderbilt University | Intra-operative use of fluorescence spectroscopy and applications of same |
US20170231490A1 (en) * | 2014-08-10 | 2017-08-17 | Autonomix Medical, Inc. | Ans assessment systems, kits, and methods |
CN107110851A (zh) * | 2014-11-05 | 2017-08-29 | 尼尔米达斯生物技术公司 | 用于增强成像的金属复合物 |
CN108447096A (zh) * | 2018-02-09 | 2018-08-24 | 西南科技大学 | kinect深度相机与热红外相机的信息融合方法 |
CN108986157A (zh) * | 2018-07-12 | 2018-12-11 | 李慧勤 | 一种基于双目相机的虚拟发型交互装置及使用方法 |
US20190328309A1 (en) * | 2016-12-27 | 2019-10-31 | Vanderbilt University | Methods and apparatus for intraoperative assessment of parathyroid gland vascularity using laser speckle contrast imaging and applications of same |
WO2019217893A1 (en) * | 2018-05-10 | 2019-11-14 | Memorial Sloan Kettering Cancer Center | Systems for augmented reality surgical and clinical visualization |
CN111343909A (zh) * | 2017-11-17 | 2020-06-26 | 釜庆大学校产学协力团 | 甲状旁腺实时成像系统 |
CN111616799A (zh) * | 2020-06-08 | 2020-09-04 | 广东欧谱曼迪科技有限公司 | 一种增强现实近红外荧光导航系统及方法 |
-
2020
- 2020-11-30 CN CN202011377205.3A patent/CN112656369B/zh active Active
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170105623A1 (en) * | 2008-07-30 | 2017-04-20 | Vanderbilt University | Intra-operative use of fluorescence spectroscopy and applications of same |
CN103838980A (zh) * | 2014-03-27 | 2014-06-04 | 山东大学 | 对多发性骨髓瘤骨病治疗方法的疗效进行模拟评测的方法 |
WO2015188684A1 (zh) * | 2014-06-12 | 2015-12-17 | 深圳奥比中光科技有限公司 | 三维模型重建方法与系统 |
US20170231490A1 (en) * | 2014-08-10 | 2017-08-17 | Autonomix Medical, Inc. | Ans assessment systems, kits, and methods |
CN107110851A (zh) * | 2014-11-05 | 2017-08-29 | 尼尔米达斯生物技术公司 | 用于增强成像的金属复合物 |
WO2016142675A1 (en) * | 2015-03-06 | 2016-09-15 | Micromass Uk Limited | Imaging guided ambient ionisation mass spectrometry |
US20170046586A1 (en) * | 2015-08-10 | 2017-02-16 | Adnan Abbas | Optical projection overlay device |
US20190328309A1 (en) * | 2016-12-27 | 2019-10-31 | Vanderbilt University | Methods and apparatus for intraoperative assessment of parathyroid gland vascularity using laser speckle contrast imaging and applications of same |
CN111343909A (zh) * | 2017-11-17 | 2020-06-26 | 釜庆大学校产学协力团 | 甲状旁腺实时成像系统 |
CN108447096A (zh) * | 2018-02-09 | 2018-08-24 | 西南科技大学 | kinect深度相机与热红外相机的信息融合方法 |
WO2019217893A1 (en) * | 2018-05-10 | 2019-11-14 | Memorial Sloan Kettering Cancer Center | Systems for augmented reality surgical and clinical visualization |
CN108986157A (zh) * | 2018-07-12 | 2018-12-11 | 李慧勤 | 一种基于双目相机的虚拟发型交互装置及使用方法 |
CN111616799A (zh) * | 2020-06-08 | 2020-09-04 | 广东欧谱曼迪科技有限公司 | 一种增强现实近红外荧光导航系统及方法 |
Non-Patent Citations (3)
Title |
---|
MELANIE A MCWADE等: "Enhancing parathyroid gland visualization using a near infrared fluorescence-based overlay imaging system", 《J AM COLL SURG》 * |
支宏海 等: "纳米碳负显影技术在甲状腺癌切除术中甲状旁腺保护作用及其对颈部淋巴结清扫的影响", 《全科医学临床与教育》 * |
柳桢 等: "近红外荧光系统对甲状腺术中甲状旁腺识别临床应用研究", 《中国实用外科杂志》 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113796850A (zh) * | 2021-09-27 | 2021-12-17 | 四川大学华西医院 | 甲状旁腺mibi图像分析系统、计算机设备及存储介质 |
CN115797617A (zh) * | 2022-12-05 | 2023-03-14 | 杭州显微智能科技有限公司 | 一种甲状旁腺识别方法及智能腔镜摄像系统装置 |
CN116385337A (zh) * | 2022-12-15 | 2023-07-04 | 陕西中科创孚医疗科技有限责任公司 | 一种基于多光融合的甲状旁腺识别装置及方法 |
CN116385337B (zh) * | 2022-12-15 | 2023-10-17 | 西安长空医疗科技服务有限公司 | 一种基于多光融合的甲状旁腺识别装置及方法 |
Also Published As
Publication number | Publication date |
---|---|
CN112656369B (zh) | 2022-11-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112656369B (zh) | 一种基于ar技术的近红外荧光甲状旁腺的识别增强方法 | |
US11751971B2 (en) | Imaging and display system for guiding medical interventions | |
US20030114741A1 (en) | Projecting patient image data from radioscopic imaging methods and/or tomographic imaging methods onto video images | |
US7845797B2 (en) | Custom eyeglass manufacturing method | |
US7572009B2 (en) | Method and apparatus for processing an eye fundus image | |
WO2023103467A1 (zh) | 图像处理方法、装置及设备 | |
US20040189935A1 (en) | Custom eyeglass manufacturing method | |
CN110199517A (zh) | 在单个对准处具有自动剪辑的宽视野眼底相机 | |
CN201750891U (zh) | 一种近红外荧光成像的临床诊断系统 | |
JP6745508B2 (ja) | 画像処理システム、画像処理装置、投影装置、及び投影方法 | |
CN215305781U (zh) | 识别甲状旁腺位置并评估甲状旁腺存活率的设备 | |
CN105342561B (zh) | 无线声控穿戴式分子影像导航系统 | |
CN102440760A (zh) | 图像获取及显示方法和图像捕获及显示设备 | |
CN108392181A (zh) | 关注区域跟踪装置 | |
CN112512402A (zh) | 裂隙灯显微镜以及眼科系统 | |
CN110720985A (zh) | 一种多模式引导的手术导航方法和系统 | |
CN109091099A (zh) | 双目视觉的高清微型电子内窥镜系统 | |
CN112704473A (zh) | 一种甲状旁腺的位置增强设备 | |
CN112704474A (zh) | 一种用于检测甲状旁腺位置的ar检测眼镜 | |
CN107976795A (zh) | 双通道组织样品扫描仪和双通道组织样品数字成像复现系统 | |
CN112656370A (zh) | 一种甲状旁腺位置探测仪器 | |
CN113693724B (zh) | 适用于荧光影像导航手术的照射方法、装置及存储介质 | |
CN113952033B (zh) | 一种双源内窥手术导航系统及方法 | |
CN116158718A (zh) | 用于内窥镜系统的成像及显示方法和内窥镜系统 | |
CN107205638A (zh) | 用于双重玻璃体和视网膜成像的系统和方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |