CN112704474A - 一种用于检测甲状旁腺位置的ar检测眼镜 - Google Patents

一种用于检测甲状旁腺位置的ar检测眼镜 Download PDF

Info

Publication number
CN112704474A
CN112704474A CN202011377245.8A CN202011377245A CN112704474A CN 112704474 A CN112704474 A CN 112704474A CN 202011377245 A CN202011377245 A CN 202011377245A CN 112704474 A CN112704474 A CN 112704474A
Authority
CN
China
Prior art keywords
infrared
autofluorescence
parathyroid gland
signal
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011377245.8A
Other languages
English (en)
Inventor
俞志勇
江兴智
张乾威
文仲
杨青
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
First Affiliated Hospital of Zhejiang University School of Medicine
Original Assignee
First Affiliated Hospital of Zhejiang University School of Medicine
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by First Affiliated Hospital of Zhejiang University School of Medicine filed Critical First Affiliated Hospital of Zhejiang University School of Medicine
Priority to CN202011377245.8A priority Critical patent/CN112704474A/zh
Publication of CN112704474A publication Critical patent/CN112704474A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0071Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by measuring fluorescence emission
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0075Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/42Detecting, measuring or recording for evaluating the gastrointestinal, the endocrine or the exocrine systems
    • A61B5/4222Evaluating particular parts, e.g. particular organs
    • A61B5/4227Evaluating particular parts, e.g. particular organs endocrine glands, i.e. thyroid, adrenals, hypothalamic, pituitary
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4887Locating particular structures in or on the body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0176Head mounted characterised by mechanical features
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B2090/364Correlation of different images or relation of image positions in respect to the body
    • A61B2090/365Correlation of different images or relation of image positions in respect to the body augmented reality, i.e. correlating a live optical image with another image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/373Surgical systems with images on a monitor during operation using light, e.g. by using optical scanners
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Pathology (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • General Physics & Mathematics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Urology & Nephrology (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Gynecology & Obstetrics (AREA)
  • Endocrinology (AREA)
  • Gastroenterology & Hepatology (AREA)
  • Physiology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Radiology & Medical Imaging (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Endoscopes (AREA)

Abstract

一种用于检测甲状旁腺位置的AR检测眼镜,包括镜架,所述镜架包括横梁以及镜腿,所述横梁内设中空腔,且其横向两端部各固连一根镜腿;横梁的中空腔内设供电电源、近红外自体荧光接收器件和数据信号处理组件,横梁前端面的中部设有近红外自体荧光激发器件和近红外光源照明和自体荧光接收光路组件;所述横梁前端面的横向两端部对称设有各设有一个相机,两个相机组成可见光RGB双目相机;横梁的底部沿其长度方向固装两片遮挡在使用者眼部的增强显示镜片组件,两片增强显示镜片组件包括镜片以及AR显示器,两片增强显示镜片组件的相互靠拢的内侧沿架于鼻梁上,AR显示器设置于镜片内。本发明的有益效果是:迅速检测甲状旁腺位置,并与实际场景融合。

Description

一种用于检测甲状旁腺位置的AR检测眼镜
技术领域
本发明涉及一种用于检测甲状旁腺位置的AR检测眼镜,属于医疗手术领域。
背景技术
甲状旁腺细小,位置多变,在可见光范围,甲状旁腺与其它组织(如脂肪)颜色近似,在手术中难以辨认,甲状腺手术中,甲状旁腺被误伤或误切的概率高达18-59%。术中甲状旁腺的保护问题对病人的恢复极为重要,被误伤后可致甲状旁腺功能低下,患者会因缺钙而麻木抽搐,极为痛苦,需要补充钙剂。甲状旁腺的保护的关键在于准确辨认。
另外,还有一些手术中,需要摘除甲状旁腺。例如现在慢性肾病的发病率极高,美国成人高达11.3%,我国约为10%。而75%的慢性肾病患者会出现甲状旁腺功能亢进,其中5%~ 25%会进展成严重的甲状旁腺功能亢进症,导致骨钙入血,高钙血症,进而引起广泛尿路结石,严重骨质疏松,需要行手术治疗(甲状旁腺全摘除术或甲状旁腺次全摘除术)。这些手术成败的关键是准确找到所有甲状旁腺,不能有错漏。
当前,人们已经在临床上使用的术中辨认甲状旁腺技术包括术中亚甲蓝染色、核素显像、纳米炭甲状旁腺负显影技术,以及最近的术中甲状旁腺激素快速检测技术等。但效果都不能令人满意,面临着设备花费昂贵,存在检测副作用等问题。目前,甲状旁腺的术中辨认仍然主要依靠外科医生凭经验肉眼判断。因此,临床上急需能在术中实时准确探测甲状旁腺的技术。
近红外光谱检测技术由于安全、高效的优点,近年在生物探测应用中越来越热门。目前临床上已经有许多利用近红外光谱技术辨别组织的血运、肿瘤的切缘及前哨淋巴结等的应用,证明其安全有效。2011年Mahadevan-Jansena等发现甲状旁腺被785nm近红外光照射时,不需要借助任何外来药物就可被检测到自体荧光,其峰值为820nm,其自体荧光强度是甲状腺的1.2-11倍,周围脂肪、肌肉及淋巴结等组织则检测不到自体荧光。在此基础上,2013年Mahadevan-Jansena等研发了探针式近红外甲状旁腺探测系统,准确率高,不受角度限制,方便灵活,但不能提供甲状旁腺的空间位置信息,不能主动引导外科医生找到甲状旁腺,只能用于辨认已被观察到的可疑甲状旁腺组织。于是,2014年Mahadevan-Jansena 等又研发了成像式近红外甲状旁腺探测系统,可以在术中拍摄手术视野实时成像,可在图像中准确定位甲状旁腺空间位置,引导外科医生找到甲状旁腺。但此系统由于上方摄像头及光源固定,易受角度影响,对于藏在角落的甲状旁腺探测效果欠佳。另外,无论是探针系统或成像系统,均易受环境灯光影响,使用时需要移开或关闭术野上方的灯光,对进行中的手术是一个很大的干扰[10-17]。因为尚存在这些缺点,虽然近红外自体荧光甲状旁腺探测技术的应用前景非常光明,但目前在国外尚未被广泛采用,相关技术仍需进一步改进。
甲状旁腺检测的原理是甲状腺和甲状旁腺在特定波长的近红外激光照射下,产生自体荧光发射。通过检测甲状腺和甲状旁腺和在特定波长的近红外激光照射下,产生自体荧光发射量,可以将甲状旁腺从周围其它组织里检测区分开来。
由于所需识别的甲状旁腺特征复杂,现有近红外荧光成像系统中,照明方式单一,无法提取目标区域荧光信号的完整信息。为了得到更完整的信息,对应的光源应具有多个调制自由度。
现有的检测装置检测出甲状旁腺后,用投射光斑的方式来显示甲状旁腺,或者在屏幕上显示背景图和位置,这两种显示方式存在不容易控制或不直观的问题。
AR技术在近年来快速发展,已达到实用水平。采用增强现实技术,借助计算机视觉技术和人工智能技术,产生物理世界中不存在的虚拟对象,并将虚拟对象准确的放置在现实世界中,通过更自然的交互,呈现给用户一个感知效果更丰富的新环境。
如果将近红外探测技术和AR技术结合,就可以解决前面所述的近红外荧光甲状旁腺探测技术缺陷。手术野是我们的现实世界。而通过成像式近红外探测仪拍摄经电脑处理合成的图像(含有甲状旁腺的空间位置信息)是虚拟现实。两者通过AR技术融合重叠,外科医生就能直接在手术野中实时“看到”甲状旁腺。AR眼镜可随佩戴者位置的改变而改变观察位置角度。因此,成像式近红外探测技术和AR技术结合后,克服了目前成像式近红外甲状旁腺探测系统观察角度单一的缺点,灵活方便,并且快速直观。
我们调研后,发现国内外尚无关于近红外自体荧光探测技术与AR技术结合应用于甲状旁腺探测的相关研究报道。
发明内容
针对现有技术的缺陷,本发明提供一种用于检测甲状旁腺位置的AR检测眼镜,能够帮助外科医生在手术中有效快速的识别出甲状腺周围的甲状腺旁腺,确定甲状腺旁腺位置,帮助外科医生发现需要切除或保留的甲状腺旁腺,切除干净,和防止误伤,提高甲状腺相关手术的效率、并为手术提供了安全保障,解决手术中甲状旁腺探测难题,利于患者恢复健康。
为解决上述技术问题,本发明提供以下技术方案:
本发明所述的一种用于检测甲状旁腺位置的AR检测眼镜,其特征在于,包括镜架,所述镜架包括横梁以及镜腿,所述横梁内设中空腔,且其横向两端部各固连一根镜腿;所述横梁的中空腔内设供电电源、近红外自体荧光接收器件和数据信号处理组件,横梁前端面的中部设有近红外自体荧光激发器件和近红外光源照明和自体荧光接收光路组件;所述横梁前端面的横向两端部对称设有各设有一个相机,两个相机组成可见光RGB双目相机;所述横梁的底部沿其长度方向固装两片遮挡在使用者眼部的增强显示镜片组件,两片所述增强显示镜片组件包括镜片以及AR显示器,其中两片所述增强显示镜片组件的相互靠拢的内侧沿设有架于鼻梁上,AR显示器设置于镜片内,用于在镜片上显示甲状旁腺位置;其中:
所述供电电源,用于向近红外自体荧光激发器件以及数据信号处理组件供电,其供电端口分别与近红外自体荧光激发器件、数据信号处理组件电连接,近红外自体荧光激发器件与供电电源之间连接有第一开关,用于控制近红外自体荧光激发器件的启停;数据信号处理组件与供电电源之间连接有第二开关,用于控制数据信号处理组件的启停;
所述近红外自体荧光激发器件的出光口对准近红外光源照明和自体荧光接收光路组件,其信号输入端与所述数据信号处理组件信号连接,供电端与供电电源电连接,且二者之间设置第一开关,用于发射近红外光;
所述近红外光源照明和自体荧光接收光路组件的进光口对准近红外自体荧光激发器件的出光口,其出光口对准待检测的甲状旁腺所在区域,其信号输出端与所述近红外自体荧光接收器件的信号输入端信号连接,用于将接收的近红外光引导照射到待检测的甲状旁腺所在区域,同时将从甲状旁腺所在区域反射回来的近红外光和被激发的甲状旁腺的自体荧光引导到近红外自体荧光接收器件;
所述近红外自体荧光接收器件的信号输出端与数据信号处理组件的信号输入端信号连接,用于将从甲状旁腺所在区域反射回来的近红外光和被激发的甲状旁腺的自体荧光转换成数字图像信号传输给数据信号处理组件;
所述可见光RGB双目相机包括左图相机和右图相机,所述左图相机和右图相机分别安装于横梁两端部的相机安装孔处,且两相机的信号传输端口与数据信号处理组件信号连接,用于将获取的光信号转换成数字图像信号传输给数据信号处理组件,以获得甲状旁腺所在区域的3维表面空间坐标信息;
所述数据信号处理组件的信号输入端分别与近红外自体荧光接收器件的信号输出端、可见光RGB双目相机的信号传输端口信号连接,其信号输出端端口与增强显示镜片组件的AR 显示器的信号输入端信号连接,用于识别甲状旁腺及其在近红外自体荧光图像中的位置,并结合3维表面空间坐标信息形成AR增强显示信息,送到增强显示镜片组件里进行显示。
优选的,所述AR检测眼镜还包括数据存储器和通讯模块,所述数据存储器通过通讯模块与数据信号处理组件信号连接,用于接收数据信号处理组件传输的信号。
优选的,所述近红外光源发射组件包括激光二极管、与所述激光二极管同轴放置的聚光透镜和激光二极管驱动电路,所述激光二极管通过第一开关与供电电源电连接,并通过激光二极管驱动电路与数据信号处理组件信号连接,用于通过数据信号处理组件输出的激光导通使能信号控制激光二极管的通断(即点亮或关闭);所述聚光透镜连接至所述二向色镜,用于将激发的近红外光通过同轴近红外光源照明和自体荧光接收光路组件照射到甲状旁腺所在区域。
在进行甲状旁腺识别时,激光导通使能信号控制激光二极管发出或不发出近红外光;近红外自体荧光接收器件接收对应的有近红外照明和无近红外照明条件下的图像。
优选的,所述可见光RGB双目相机包括左图相机和右图相机,其中:
所述左图相机包括左图相机可见光成像光路组件和左图可见光信号接收器件,其中左图相机可见光成像光路组件的出光口对准左图相机可见光信号接收器件,用于将收集左图相机所在位置的可见光信号导入到左图相机可见光信号接收器件;左图相机可见光信号接收器件的信号输出端与数据信号处理组件信号连接或电连接,用于将接收的光信号转换成数字图像信号后传输给数据信号处理组件;
所述右图相机包括右图相机可见光成像光路组件和右图可见光信号接收器件,其中右图相机可见光成像光路组件的出光口对准右图相机可见光信号接收器件,用于将收集左图相机所在位置的可见光信号导入到右图相机可见光信号接收器件;右图相机可见光信号接收器件的信号输出端与数据信号处理组件信号连接或电连接,用于将接收的光信号转换成数字图像信号后传输给数据信号处理组件。
所述左图相机和右图相机的空间距离即为基线距离。由于左图相机和右图相机空间位置差异,对甲状旁腺所在区域上的同一点,成像时,会在左右图像上形成视差。
所述左图相机可见光信号接收器件右图相机可见光信号接收器件都将转换后的数字图像数据传给数据信号处理组件,数据信号处理组件包括深度计算和空间定位模块,该模块通过分析对左右图像进行匹配,找出同一点在左右图像中的位置,计算出同一点在左右图像中的视差,并结合左图相机和右图相机的相机内参和相机外参,计算出甲状旁腺所在区域上的一点的位置坐标。对甲状旁腺所在区域上的所有点进行匹配,计算出其视差和位置坐标后,获得甲状旁腺所在区域的3维表面空间坐标信息。
优选的,所述数据信号处理组件包括照明控制模块、图像数据采集模块、甲状旁腺位置检测模块、深度计算和空间定位模块、信息融合和AR显示控制模块,其中:
所述照明控制模块,其信号输出端与所述近红外自体荧光激发器件的信号输入端电连接,用于发出激光导通使能信号;
所述图像数据采集模块,其信号输入端通过通讯模块分别与近红外自体荧光接收器件的信号输出端、所述左图相机可见光信号接收器的信号输出端、所述右图相机可见光信号接收器的信号输出端以及数据存储器的信号输入端信号连接,其信号输出端与所分别与所述甲状旁腺位置检测模块的信号输入端、所述深度计算和空间定位模块的信号输入端信号连接,用于管理并接收来自近红外自体荧光接收器件、左图相机可见光信号接收器件、右图相机可见光信号接收器件的图像数据,并把收到的图像数据保存在数据存储器中,并送到甲状旁腺位置检测模块和深度计算和空间定位模块,做进一步的数据分析;
所述甲状旁腺位置检测模块,其信号输入端与图像数据采集模块相应的信号输出端信号连接,其信号输出端与所述信息融合和AR显示控制模块的信号输入端信号连接,用于对近红外自体荧光接收器件采集的图像数据进行分析,根据自体荧光强弱确定甲状旁腺在近红外图像中的位置;
所述深度计算和空间定位模块,其信号输入端与图像数据采集模块相应的信号输出端信号连接,其信号输出端与所述信息融合和AR显示控制模块的信号输入端信号连接,用于对左图相机可见光信号接收器件和右图相机可见光信号接收器件采集的左右图像数据,进行图像匹配,找出对应点的视差信息,以计算出甲状旁腺所在区域的三维数据;
所述信息融合和AR显示控制模块,其信号输入端分别与所述甲状旁腺位置检测模块以及深度计算和空间定位模块的信号输出端信号连接,其信号输出端与所述AR显示器的信号输入端信号连接,用于根据AR检测眼镜的位置,在保证AR显示的景象与实景重合的条件下,调用AR显示器,将找出的甲状旁腺在近红外图像中的位置,与根据左图相机和右图相机图像数据计算出的三维数据进行融合,计算出在AR检测眼镜的左显示器和右显示器上要投射的图像以传递给AR检测眼镜进行显示。
优选的,所述近红外光源照明和自体荧光接收光路组件包括二向色镜、前级镜头、后级镜头和近红外窄带通滤波器,其中前级镜头、二向色镜、近红外窄带通滤波器和后级镜头依次同轴设置,且:
所述二向色镜设置于近红外自体荧光激发器件的出光口处,其反射光出口与透射光出口同轴,用于接受近红外自体荧光激发器件发出的近红外光,并将其反射后,通过前级镜头折射后,照射到甲状旁腺所在区域;所述二向色镜表面镀膜,使其反射785nm的近红外光、透射820nm的近红外光;
所述前级镜头,设置于二向色镜的反射光出口处,用于收集来自甲状旁腺所在区域的可见光,近红外反射光和自体荧光,并将其传回给二向色镜;
所述后级镜头设置于二向色镜的透射光出口处,用于将自体荧光汇聚成像到近红外自体荧光接收器件表面;
所述近红外窄带通滤波器设置在所述二向色镜和后级镜头之间,近红外窄带通滤波器的透过的近红外光的波长为820nm。
在进行甲状旁腺识别时,所述近红外光源照明和自体荧光接收光路组件将近红外自体荧光激发器件发出的近红外照射到甲状旁腺所在区域,激发甲状旁腺的近红外自体荧光,所述的同轴近红外光源照明和自体荧光接收光路组件将收集环境背景噪声信号,甲状旁腺的近红外自体荧光信号,并依次传输给近红外自体荧光接收器件,数据信号处理组件记录所述环境背景噪声图像信号,甲状旁腺的近红外自体荧光图像信号并进行分析,找出甲状旁腺在近红外自体荧光图像中的位置,结合从左图相机和右图相机获得的图像信号分析得到的空间信息,形成AR显示信息,送到AR眼镜本体里进行显示。
优选的,所述AR检测眼镜为波导光机AR眼镜,它具有透明的镜片,实景可以透过镜片,在瞳孔里成像,因此手术医生可以通过镜片看到实际的甲状旁腺所在区域;它使用波导方式,在镜片上投射出要显示的图像,因此手术医生可以看到投射的甲状旁腺位置图案;两者同时显示时,手术医生可以看到AR增强显示的图像,实现了甲状旁腺检测眼镜实时检测和显示的功能。
使用时,手术医生通过配带的AR检测眼镜,就可以实时的看到手术面的甲状旁腺所在区域的AR图像,其中甲状旁腺用特别的颜色和一个十字形状标示在眼镜视野内,引导医生直接找到实景中的甲状旁腺位置。
所述数据信号处理组件采用FPGA实现。
利用本发明所述用于检测甲状旁腺位置的AR检测眼镜的检测甲状旁腺的方法,其特征在于,包括以下步骤:
闭合所述第一开关,给近红外自体荧光激发器件供电;未收到数据信号处理组件给出的激光导通使能信号以前,近红外自体荧光激发器件的激光二极管不发光;
闭合所述第二开关,给数据信号处理组件供电,所述数据信号处理组件开始工作,启动三个子进程:
进程一,控制近红外自体荧光激发器件发光和关闭;采集来自近红外自体荧光接收器件与激光导通和关闭操作同步的图像数据;对采集的图像数据序列进行分析,找出近红外自体荧光图像中甲状旁腺的位置,输出在图像中的位置坐标信息;
进程二,同步采集来自近左图相机可见光信号接收器件的图像数据,和来自右图相机可见光信号接收器件的图像数据;将两组图像数据保存在内存中,分别记录为左图和右图;对采集的左图和右图的图像数据进行对比,找出左图和右图中像素点之间的对应关系;求出对应点的视差,结合左图相机和右图相机的内参与外参,求出左右相机的空间位置和视野范围内每个点的实际空间坐标;
进程三,根据进程二的输出结果,拟合出左图和右图视野范围内的曲面形状;根据进程一中获得的甲状旁腺的位置图像坐标,结合近红外自体荧光接收器件的内参和外参,投射到视野范围内的曲面形状上,投影线与3D曲面相交,并做相应的畸变矫正,结合相交的位置即可求出甲状旁腺的实际空间坐标;根据AR检测眼镜的位置,在保证AR显示的景象与实景重合的条件下,调用AR显示器,将找出的甲状旁腺在近红外图像中的位置,与根据左图相机和右图相机图像数据计算出的三维数据,进行融合,计算出在AR检测眼镜的左显示器和右显示器上要投射的图像;送到AR检测眼镜上显示;
通过AR检测眼镜看到的显示和实景重合;通过不断移动位置和观察角度,进程一、二、三会实时的重复进行,通过眼镜实时的看到甲状旁腺的在实景中的指示位置;
关闭第二开关,结束数据信号处理组件工作;
关闭第一开关,结束给近红外自体荧光激发器件供电。
更具体地,在进程一中,数据信号处理组件通过控制激光导通使能信号,周期性的打开和关闭激光导通使能信号,使得近红外自体荧光激发器件发射或不发射近红外光,并采集相应的图像;在所述数据信号处理组件中对图像数据IR0和IR1进行预处理,包括降噪滤波,减少图像中的噪声;将图像数据IR1减去背景图像信号IR0,获得在近红外照明下反射回来的近红外和近红外自体荧光图像信号IR_P。对手术区域内的图像数据IR_P进行分析,灰度值的差异大于给定阈值2倍的点作为甲状旁腺的备选位置;在经过形态学滤波后,在最后获得的图像IR_P5中,值等于1的位置上的点判断为甲状旁腺的位置。
更具体地,在进程二中,数据信号处理组件采集左右图像,首先对图像进行畸变校准,然后求左右两图的对应点,根据左右图像获得对应点的视差值,根据左右相机的内参和外参,计算出手术面的三维图;并且根据手术面的颜色差异,将手术面在近红外自体荧光接收器件的成像面上的投影的坐标作为SROI区域提取出来。
更具体地,在进程三中,根据进程二的输出结果,拟合出左图和右图视野范围内的曲面形状;根据进程一中获得的甲状旁腺的位置图像坐标,结合近红外自体荧光接收器件的内参和外参,投射到视野范围内的曲面形状上,求出甲状旁腺的实际空间坐标。根据AR检测眼镜的位置,在保证AR显示的景象与实景重合的条件下,调用AR显示器,将找出的甲状旁腺在近红外图像中的位置,与根据左图相机和右图相机图像数据计算出的三维数据进行融合,计算出在AR眼镜左显示器和有显示器上要投射的图像;送到AR检测眼镜上显示。
本发明利用近红外光源和近红外相机检测甲状旁腺组织和位置,通过图像处理技术识别出微弱小信号,减少了环境光的影响,通过双目相机实现了眼镜的空间定位,通过AR检测眼镜将检测出来的组织位置与实际的场景融合后显示给手术医生观察,将近红外荧光探测技术和AR技术结合,解决手术中甲状旁腺探测难题。通过光学设计、电子设计和软件开发,实现高灵敏度的甲状旁腺探测系统,实现实时检测;解决近红外荧光技术易受环境灯光影响的问题;实现荧光探测技术下的腺体检测;通过光学和图像处理技术,提高探测精度,增强其探测深度,能准确探测到埋在一定深度纤维脂肪组织下面的甲状旁腺;本发明研发制作高灵敏度的近红外荧光甲状旁腺探测系统,将其进行小型化开发,整个系统,包括关键的近红外发射、荧光接收、多路图像的融合和信号增强处理器、和显示部分集成到一个头戴式AR 眼镜上。使用时,医生通过随时移动位置,实现不同角度的观察。识别的结果显示在AR眼镜上,和实际的场景实现了空间上的重合,医生可以直接看到手术的场景和增强显示出来的甲状旁腺的位置和形状,帮助进行手术。
本发明的有益效果是:可以迅速的检测出甲状旁腺位置,并将其与实际场景融合后,通过AR检测眼镜,实时显示给手术医生观察甲状旁腺位置和实际的场景,具有视场范围宽,观察角度、距离灵活,显示直观的特点。本发明可以有效快速地找出甲状旁腺位置并指示给医生看,提高了甲状腺相关手术的效率,并为甲状腺相关手术提供了安全保障。
附图说明
图1是本发明的结构图;
图2是本发明的一种具体实施方式的结构示意图;
图3是本发明的同轴近红外光源照明和自体荧光接收光路组件结构示意图(a为反射光和激发荧光;b近红外照明光;c为甲状旁腺所在区域);
图4是本发明的近红外自体荧光激发器件结构示意图(c为甲状旁腺所在区域);
图5是本发明的数据信号处理组件结构示意图;
图6是本发明的甲状旁腺的识别和位置显示方法的流程示意图;
图7是本发明的进程一中甲状旁腺的位置识别方法的流程示意图;
图8是本发明的进程二根据左右图像求出相机的空间位置和视野范围内空间点三维坐标的流程示意图;
图9是本发明的进程三,AR显示眼镜显示的流程示意图;
图10是本发明的结构框图(采用二向色镜分离光路的近红外光源和接收器)。
具体实施方式
以下描述用于揭露本发明以使本领域技术人员能够实现本发明。以下描述中的优选实施例只作为举例,本领域技术人员可以想到其他显而易见的变型。在以下描述中界定的本发明的基本原理可以应用于其他实施方案、变形方案、改进方案、等同方案以及没有背离本发明的精神和范围的其他技术方案。
本领域技术人员应理解的是,在本发明的揭露中,术语“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”等指示的方位或位置关系是基于附图所示的方位或位置关系,其仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此上述术语不能理解为对本发明的限制。
在本发明中,权利要求和说明书中术语“一”应理解为“一个或多个”,即在一个实施例,一个元件的数量可以为一个,而在另外的实施例中,该元件的数量可以为多个。除非在本发明的揭露中明确示意该元件的数量只有一个,否则术语“一”并不能理解为唯一或单一,术语“一”不能理解为对数量的限制。
在本发明的描述中,需要理解的是,属于“第一”、“第二”等仅用于描述目的,而不能理解为指示或者暗示相对重要性。本发明的描述中,需要说明的是,除非另有明确的规定和限定,属于“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接或者一体地连接;可以是机械连接,也可以是电连接;可以是直接连接,也可以是通过媒介间接连接。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
实施例1本发明所述的一种检测甲状旁腺的探测仪器,包括:
AR眼镜本体7,包括用于佩戴在眼部的镜架71和用于增强显示甲状旁腺位置的增强显示镜片组件72,所述镜架由横梁711以及镜腿712构成,所述横梁内设中空腔,且其横向两端部各固连一根镜腿;所述横梁的中空腔内设供电电源、近红外自体荧光接收器件和数据信号处理组件,横梁前端面的中部设有近红外自体荧光激发器件3和近红外自体荧光接收器件5,所述横梁前端面的横向两端部对称设有各装有一个相机,两个相机组成可见光RGB 双目相机15;所述横梁的底部沿其长度方向固装两片遮挡在使用者眼部的增强显示镜片组件,两片所述增强显示镜片组件包括镜片以及AR显示器,其中两片所述增强显示镜片组件的相互靠拢的内侧沿设有架于鼻骨上的凸起,AR显示控制模块设置于镜片内,用于在镜片上显示甲状旁腺位置;其中:
所述供电电源1,用于向近红外自体荧光激发器件以及数据信号处理组件供电,其供电端口分别与近红外自体荧光激发器件、数据信号处理组件电连接,近红外自体荧光激发器件与供电电源之间连接有第一开关,用于控制近红外自体荧光激发器件的启停;数据信号处理组件与供电电源之间连接有第二开关,用于控制数据信号处理组件的启停;
所述近红外自体荧光激发器件3的出光口对准近红外光源照明和自体荧光接收光路组件,其信号输入端与所述数据信号处理组件信号连接,供电端与供电电源电连接,且二者之间设置第一开关,用于发射近红外光;
所述近红外光源照明和自体荧光接收光路组件4的进光口对准近红外自体荧光激发器件的出光口,其出光口对准待检测的甲状旁腺所在区域,其信号输出端与所述近红外自体荧光接收器件的信号输入端信号连接,用于将接收的近红外光引导照射到待检测的甲状旁腺所在区域,同时将从甲状旁腺所在区域反射回来的近红外光和被激发的甲状旁腺的自体荧光引导到近红外自体荧光接收器件;
所述近红外自体荧光接收器件5的信号输出端与数据信号处理组件的信号输入端信号连接,用于将从甲状旁腺所在区域反射回来的近红外光和被激发的甲状旁腺的自体荧光转换成数字图像信号传输给数据信号处理组件;
所述可见光RGB双目相机15包括左图相机和右图相机,所述左图相机和右图相机分别安装于横梁两端部的相机安装孔处,且两相机的信号传输端口与数据信号处理组件信号连接,用于将获取的光信号转换成数字图像信号传输给数据信号处理组件,以获得甲状旁腺所在区域的3维表面空间坐标信息;
所述数据信号处理组件6的信号输入端分别与近红外自体荧光接收器件的信号输出端、可见光RGB双目相机的信号传输端口信号连接,其信号输出端端口与增强显示镜片组件的AR显示器的信号输入端信号连接,用于识别甲状旁腺及其在近红外自体荧光图像中的位置,并结合3维表面空间坐标信息形成AR增强显示信息,送到增强显示镜片组件里进行显示。
优选的,所述AR检测有眼镜还包括数据存储器13和通讯模块14,所述数据存储器通过通讯模块与数据信号处理组件信号连接,用于接收数据信号处理组件传输的信号。
优选的,近红外自体荧光激发器件3包括激光二极管32、与所述激光二极管同轴放置的聚光透镜33和激光二极管驱动电路31,所述激光二极管通过第一开关与供电电源电连接,并通过激光二极管驱动电路与数据信号处理组件信号连接,用于通过数据信号处理组件输出的激光导通使能信号34控制激光二极管的通断;所述聚光透镜连接至所述二向色镜,用于将激发的近红外光通过同轴近红外光源照明和自体荧光接收光路组件照射到甲状旁腺所在区域。
优选的,所述可见光RGB双目相机包括左图相机和右图相机,其中:
所述左图相机包括左图相机可见光成像光路组件9和左图可见光信号接收器件11,其中左图相机可见光成像光路组件的出光口对准左图相机可见光信号接收器件,用于将收集左图相机所在位置的可见光信号导入到左图相机可见光信号接收器件;左图相机可见光信号接收器件的信号输出端与数据信号处理组件信号连接或电连接,用于将接收的光信号转换成数字图像信号后传输给数据信号处理组件;
所述右图相机包括右图相机可见光成像光路组件10和右图可见光信号接收器件12,其中右图相机可见光成像光路组件的出光口对准右图相机可见光信号接收器件,用于将收集左图相机所在位置的可见光信号导入到右图相机可见光信号接收器件;右图相机可见光信号接收器件的信号输出端与数据信号处理组件信号连接或电连接,用于将接收的光信号转换成数字图像信号后传输给数据信号处理组件。
优选的,所述数据信号处理组件6包括照明控制模块61、图像数据采集模块62、甲状旁腺位置检测模块63、深度计算和空间定位模块64、信息融合和AR显示控制模块65,其中:
所述照明控制模块,其信号输出端与所述近红外自体荧光激发器件的信号输入端电连接,用于发出激光导通使能信号;
所述图像数据采集模块,其信号输入端通过通讯模块分别与近红外自体荧光接收器件的信号输出端、所述左图相机可见光信号接收器的信号输出端、所述右图相机可见光信号接收器的信号输出端以及数据存储器的信号输入端信号连接,其信号输出端与所分别与所述甲状旁腺位置检测模块的信号输入端、所述深度计算和空间定位模块的信号输入端信号连接,用于管理并接收来自近红外自体荧光接收器件、左图相机可见光信号接收器件、右图相机可见光信号接收器件的图像数据,并把收到的图像数据保存在数据存储器中,并送到甲状旁腺位置检测模块和深度计算和空间定位模块,做进一步的数据分析;
所述甲状旁腺位置检测模块,其信号输入端与图像数据采集模块相应的信号输出端信号连接,其信号输出端与所述信息融合和AR显示控制模块的信号输入端信号连接,用于对近红外自体荧光接收器件采集的图像数据进行分析,根据自体荧光强弱确定甲状旁腺在近红外图像中的位置;
所述深度计算和空间定位模块,其信号输入端与图像数据采集模块相应的信号输出端信号连接,其信号输出端与所述信息融合和AR显示控制模块的信号输入端信号连接,用于对左图相机可见光信号接收器件和右图相机可见光信号接收器件采集的左右图像数据,进行图像匹配,找出对应点的视差信息,以计算出甲状旁腺所在区域的三维数据;
所述信息融合和AR显示控制模块,其信号输入端分别与所述甲状旁腺位置检测模块以及深度计算和空间定位模块的信号输出端信号连接,其信号输出端与所述AR显示器的信号输入端信号连接,用于根据AR检测眼镜的位置,在保证AR显示的景象与实景重合的条件下,调用AR显示器,将找出的甲状旁腺在近红外图像中的位置,与根据左图相机和右图相机图像数据计算出的三维数据进行融合,计算出在AR检测眼镜的左显示器和右显示器上要投射的图像以传递给AR检测眼镜进行显示。
优选的,所述近红外光源照明和自体荧光接收光路组件4为近红外相机40,包括二向色镜41、前级镜头42、后级镜头43和近红外窄带通滤波器44,其中前级镜头、二向色镜、近红外窄带通滤波器和后级镜头依次同轴设置,且:
所述二向色镜设置于近红外自体荧光激发器件的出光口处,其反射光出口与透射光出口同轴,用于接受近红外自体荧光激发器件发出的近红外光,并将其反射后,通过前级镜头折射后,照射到甲状旁腺所在区域;所述二向色镜表面镀膜,使其反射785nm的近红外光、透射820nm的近红外光;
所述前级镜头,设置于二向色镜的反射光出口处,用于收集来自甲状旁腺所在区域的可见光,近红外反射光和自体荧光,并将其传回给二向色镜;
所述后级镜头43设置于二向色镜的透射光出口处,用于将自体荧光汇聚成像到近红外自体荧光接收器件表面;所述后级镜头内设近红外成像透镜431,在近红外成像透镜的出光口处设置近红外感光芯片432;
所述近红外窄带通滤波器设置在所述二向色镜和后级镜头之间,近红外窄带通滤波器的透过的近红外光的波长为820nm。
优选的,所述AR增强显示组件为波导光机AR眼镜。
实施例2一种用于检测甲状旁腺位置的AR检测眼镜的应用方法,包括以下步骤:
S100:闭合所述第一开关,给近红外自体荧光激发器件供电;未收到数据信号处理组件给出的激光导通使能信号以前,近红外自体荧光激发器件的激光二极管不发光;
S200:闭合所述第二开关,给数据信号处理组件供电,所述数据信号处理组件开始工作,启动三个子进程:
S300:进程一,控制近红外自体荧光激发器件发光和关闭;采集来自近红外自体荧光接收器件与激光导通和关闭操作同步的图像数据;对采集的图像数据序列进行分析,找出近红外自体荧光图像中甲状腺和甲状旁腺的位置,输出在图像中的位置坐标信息;
S400:进程二,同步采集来自近左图相机可见光信号接收器件的图像数据,和来自右图相机可见光信号接收器件的图像数据;将两组图像数据保存在内存中,分别记录为左图和右图;对采集的左图和右图的图像数据进行对比,找出左图和右图中像素点之间的对应关系;求出对应点的视差,结合左图相机和右图相机的内参与外参,求出左右相机的空间位置和视野范围内每个点的实际空间坐标;
S500:进程三,根据进程二的输出结果,拟合出左图和右图视野范围内的曲面形状;根据进程一中获得的甲状腺和甲状旁腺的位置图像坐标,结合近红外自体荧光接收器件的内参和外参,投射到视野范围内的曲面形状上,求出甲状腺和甲状旁腺的实际空间坐标。根据 AR眼镜的位置,在保证AR显示的景象与实景重合的条件下,调用AR显示器,将找出的甲状旁腺在近红外图像中的位置,与根据左图相机和右图相机图像数据计算出的三维数据进行融合,计算出在AR检测眼镜的左显示器和右显示器上要投射的图像以传递给AR检测眼镜进行显示;
S600:通过AR眼镜看到的显示和实景重合;通过不断移动位置和观察角度,进程一、二、三会实时的重复进行,通过眼镜实时的看到甲状腺和甲状旁腺的在实景中的指示位置;
S700:关闭第二开关,结束数据信号处理组件工作;
S800:关闭第一开关,结束给近红外自体荧光激发器件供电。
本发明所述检测甲状旁腺的探测仪器的应用方法,其特征在于:进程一中获得甲状旁腺的位置坐标信息的方法包括以下步骤:
S301:数据信号处理组件关闭激光导通使能信号;使得近红外自体荧光激发器件不发射近红外光;
S302:采集来自近红外自体荧光接收器件的图像数据IR0;记录此图像作为背景图像信号;
S303:数据信号处理组件输出激光导通使能信号;使得近红外自体荧光激发器件发射近红外光;
S304:采集来自近红外自体荧光接收器件的图像数据IR1;
S305:对图像数据IR0和IR1进行预处理,包括降噪滤波,减少图像中的噪声;
S306:将图像数据IR1减去背景图像信号IR0,获得在近红外照明下反射回来的近红外和近红外自体荧光图像信号IR_P;
S307:SROI区域定义为手术区域;将图像数据IR_P按SROI区域范围,做一次屏蔽,将非手术区域的灰度值设置为0,获得IR_P1图像。SROI区域信息来自于进程2中对采集的可见光图像的分析;在进程二未运行以前,SROI默认为空;
S308:在SROI区域内统计IR_P图像的灰度直方图分布,取SROI区域内IR_P图像的灰度的中值作为环境背景噪声值。(灰度值=0的点不参与统计);
Sd=Middle(Grey value in IR_P’s SROI region);
S309:将IR_P1与Sd做一次减法,并将小于0的值都设置为0;即:
IR_P2(x,y)=(IR_P1(x,y)-Sd)>0?(IR_P1(x,y)-Sd):0;
S310:根据灰度值的差异判断某一点是否是甲状腺或甲状旁腺,计算以下图像数据:
IR_P3(x,y)=(IR_P2(x,y)-Sj)>0?1:0;
IR_P4(x,y)=(IR_P2(x,y)-2*Sj)>0?1:0;
Sj为预设的甲状腺自体荧光强度值;
IR_P3(x,y)=1的点,代表备选的甲状腺或甲状旁腺位置点;
IR_P4(x,y)=1的点,代表备选的甲状旁腺位置点;
S311:对图像IR_P4做形态学滤波;
IR_P5=MORPH_OPEN(IR_P4,Kernel);
这里取Kernel=3x3的方块;
S312:获得的图像IR_P5中,值等于1的位置上的点即是甲状旁腺的位置。
本发明所述检测甲状旁腺的探测仪器的应用方法,其特征在于:进程二根据左右图像求出相机的空间位置和视野范围内空间点三维坐标的方法,包括以下步骤:
S401:采集来自左图相机可见光信号接收器件的左图像数据;记录此图像为L0;
S402:采集来自右图相机可见光信号接收器件的左图像数据;记录此图像为R0;
S403:对图像L0做预处理,包括图像降噪;
S404:对图像R0做预处理,包括图像降噪;
S405:对图像L0做畸变校正;
S406:根据颜色信息,识别出图像中手术区域。直观的,就是手术面可见光以红色为主,其它区域为黄色肤色或其它颜色;
S407:对图像R0做畸变校正;
S4028:对左右图像按点匹配,求视差图;
S409:根据视差图,还原左右图视野范围内的深度图,和相机的空间位置;
S410:根据透射关系,求出在三维空间中手术面的空间位置;
S411:根据近红外自体荧光接收器件的内参和外参,将手术面的空间位置投射到近红外自体荧光接收器件的成像面,记为SROI区域;
S412:输出左右图视野范围内的深度图和相机的空间位置信息,SROI区域信息。
具体的,根据本发明的一实施例的一种用于检测甲状旁腺位置的AR检测眼镜被阐明,其中AR检测眼镜包括一AR眼镜本体7、一近红外自体荧光激发器件3、一近红外光源照明和自体荧光接收光路组件4、一近红外自体荧光接收器件5、一可见光RGB双目相机15 以及数据信号处理组件6。所述近红外自体荧光激发器件3、近红外光源照明和自体荧光接收光路组件4、一近红外自体荧光接收器件5部分被设置于所述AR增强显示组件7的支架 71上,并且所述AR增强显示组件7的增强显示镜片组件72的镜片被设置于所述镜架71 的横梁底部,通过所述增强显示镜片组件72的镜片,以使所述近红外荧光甲状旁腺探测仪器探测出来的甲状旁腺位置与实景做增强现实显示。
所述甲状旁腺的位置增强设备,工作时,近红外自体荧光激发器件3发出785nm近红外光,投射到手术面上,甲状旁腺在特定波长的近红外激光照射下,产生自体荧光发射,发射的荧光由近红外光源照明和自体荧光接收光路组件4接收,通过数据信号处理组件6,进行信号分析,而实现甲甲状旁腺的探测工作,将甲状旁腺从周围其它组织里检测区分开来。可见光RGB双目相机15以及AR眼镜本体7的增强显示镜片组件72,实现甲状旁腺探测和实景的叠加功能。
在本发明的实施例中,近红外发射、接收、和显示部分集成到一个头戴式AR眼镜上。图3是一款基于AR技术的AR检测眼镜。其中包括了完整的红外光源照明系统,红外光源接收系统,可见光双目相机,通过数据信号处理组件里的深度计算和空间定位模块,甲状旁腺位置检测模块,信息融合和AR显示控制模块,实现了甲状旁腺位置检测和在AR眼镜中实现增强现实的结果显示。使用时,医生通过随时移动位置,实现不同角度的观察。采用增强现实技术,借助计算机视觉技术和人工智能技术,将识别的结果与实际的场景融合,显示在AR眼镜上,通过增强现实的显示方法,使医生可以直接看到手术的场景和增强显示出来的甲状旁腺的位置和形状,帮助进行手术。
在本发明的实施例中,我们采用AR眼镜技术,研发制作高灵敏度的近红外荧光甲状旁腺探测系统,对近红外相机组件进行了小型化设计,使其厚度小于15mm。
在本发明的实施例中,对近红外光源照明和自体荧光接收光路组件,我们通过光学器件设计,实现了同轴光照明。我们采用二向色镜对照明光与激发荧光进行分离。我们采用785nm 的近红外光源照射手术面目标,甲状旁腺受光照激发后,产生820nm的自体荧光,荧光经过二向色镜和820nm波段的窄带滤光片进入近红外高速面阵相机进行宽场成像,其特点是成像视场大,可确定甲状旁腺目标区域,通过二向色镜实现的同轴光保证了近红外光源照射方向和范围与摄像头的视野一致。在近红外光源照明和自体荧光接收光路组件的视野范围内,满足光照均匀的要求。近红外光照的角度范围与近红外接收器的接收视场角基本一致(略大于接收视场角),保证了光源的照射效率,且被摄对象在所有时刻和位置都能得到充分和准确的照明。用户不用去关注照明与视场是否重合,简化了使用的操作难度。
在本发明的一实施例中,数据处理主控器用于实现空间定位和甲状旁腺位置的识别,并进行图像融合,实现AR眼镜显示控制。我们在数据处理主控器上,建立了完整的操作系统,实现了图像处理、图像增强、甲状旁腺检测识别、3D深度测量,空间定位和AR显示控制功能。图像处理和目标识别与检测在图像处理软件系统中完成。其中包括图像的获取,降噪,增强,配准,图像分割,特征提取,目标识别,图像显示,光斑指示位置计算等。
在本发明的实施例中,在接收器光路设计中,我们采用了820nm近红外窄带滤波器,使其对820nm的近红外有最高的响应,而其它环境光对它的影响减到最小。
在本发明的一实施例中,设备通过近红外图像接收器获得近红外荧光图像,通过数据处理主控器里的甲状旁腺位置检测模块找出甲状腺旁腺位置。具体的,是利用甲状腺和甲状腺旁腺在785nm下会激发820nm的自体荧光,820nm的荧光被近红外相机接收到,红外相机接收光前面有一个820nm的窄带滤波器,近红外相机主要接收820nm光源的能量。但是在所以近红外图像中,甲状腺旁腺位置亮度会比甲状腺或其他部分高。通过检测这个亮度的差异,可以找出甲状旁腺位置。
在本发明的一实施例中,设备通过可见光相机获得的两幅图像,通过数据处理主控器检测两幅图里的图像信息,找出相同目标点在两幅图里的图像坐标,计算出对应两点的视差值,结合已知的相机内参和极距信息,通过三角关系恢复出手术面目标的深度信息。
在本发明的一实施例中,数据处理主控器将深度信息和甲状腺旁腺位置进行融合,在 AR眼镜里显示出甲状腺旁腺的位置。这时,手术医生就可以在手术视野中同时看到实际的场景和AR眼镜指示出来的甲状腺旁腺位置,轻松定位甲状旁腺的位置。
在本发明的一实施例中,检测出来甲状旁腺通过AR眼镜透过镜片的显示。图5是衍射波导方案光机的效果示意图,从图中可以看出,虚拟显示的图案可以和实景紧密的融合。图中绿色的图案是叠加上去的虚像,显示非常清晰。图案的透明度,可以通过光强来调整。左右两个眼睛同时透过AR眼镜时,就可以看到和实景立体融合的图像了。
在本发明的一实施例中,数据处理主控器对接收的红外荧光图像进行了图像滤波和增强。通过对接收的图像进行滤波和增强,解决了原始图像中荧光信号弱,信噪比低的问题。通过对原始信号进行处理,使甲状旁腺容易被检出。具体的滤波方法,可以采用图像处理中的广泛使用的空域和频域方法。
在本发明的一实施例中,我们采用样本训练和人工智能的方法,来检测甲状旁腺。在近红外激发的荧光中,也包括其它组织激发的荧光,其它组织在785nm波长的近红外荧光相对较弱。为了准确的识别判断出哪些组织是真正的甲状腺旁腺,我们先进行动物实验,拍摄大量实验动物的甲状旁腺、甲状腺、肌肉、脂肪及淋巴结等组织图片,包括近红外荧光图片及普通图片。再通过平滑处理、随机优化等算法实现对前期采集图片的预处理,对目标区域特征进行提取、重构和识别。再将预处理图片,通过人工进行数据标注,区分甲状旁腺、甲状腺、脂肪、肌肉及淋巴组织等,建立训练集及样本集,结合人工智能算法训练出相应模型。这部分工作在动物实验中完成。最后,我们将在实际的人体甲状腺手术时进行检测效果的的临床验证。
在人体甲状腺手术临床验证中我们将选取60名进行单侧甲状腺腺叶切除术+同侧中央区淋巴结清扫的患者,性别不限,年龄20~70岁,既往无甲状腺手术史、无甲状腺射频或微波治疗史、无甲状腺放疗史。所有入选患者均需签署临床实验知情同意术后。在术前通过抽信封的方式,随机分成A、B两组。A组,由外科医生独立完成术中甲状旁腺的寻找识别;B组,使用近红外荧光成像及探针系统辅助外科医生完成术中甲状旁腺的寻找识别。所有手术均由同一个经验丰富的外科医生主刀实行。术中记录每例患者术中发现的甲状旁腺数量及所需时间。将每个外科医生肉眼寻找到的可疑甲状旁腺分成3类:第一类,高度确信;第二类,中度确信;第三类,低度确信。第一类及第二类纳入研究。第三类直接剔除。以上两种方法探测到的可疑甲状旁腺最终均以组织病理学作为金标准对照,评估其准确性。最后统计学分析,评估近红外荧光成像及探针探测系统术中探测甲状旁腺的敏感性和特异性及所需时间,与有经验的外科医生相比有无显著性差异。
本说明书实施例所述的内容仅仅是对发明构思的实现形式的列举,本发明的保护范围不应当被视为仅限于实施例所陈述的具体形式,本发明的保护范围也包括本领域技术人员根据本发明构思所能够想到的等同技术手段。

Claims (7)

1.一种用于检测甲状旁腺位置的AR检测眼镜,其特征在于,包括镜架,所述镜架包括横梁以及镜腿,所述横梁内设中空腔,且其横向两端部各固连一根镜腿;所述横梁的中空腔内设供电电源、近红外自体荧光接收器件和数据信号处理组件,横梁前端面的中部设有近红外自体荧光激发器件和近红外光源照明和自体荧光接收光路组件;所述横梁前端面的横向两端部对称设有各设有一个相机,两个相机组成可见光RGB双目相机;所述横梁的底部沿其长度方向固装两片遮挡在使用者眼部的增强显示镜片组件,两片所述增强显示镜片组件包括镜片以及AR显示器,其中两片所述增强显示镜片组件的相互靠拢的内侧沿设有架于鼻梁上,AR显示器设置于镜片内,用于在镜片上显示甲状旁腺位置;其中:
所述供电电源的供电端口分别与近红外自体荧光激发器件、数据信号处理组件电连接,近红外自体荧光激发器件与供电电源之间连接有第一开关,用于控制近红外自体荧光激发器件的启停;数据信号处理组件与供电电源之间连接有第二开关,用于控制数据信号处理组件的启停;
所述近红外自体荧光激发器件的出光口对准近红外光源照明和自体荧光接收光路组件,其信号输入端与所述数据信号处理组件信号连接,供电端与供电电源电连接,且二者之间设置第一开关,用于发射近红外光;
所述近红外光源照明和自体荧光接收光路组件的进光口对准近红外自体荧光激发器件的出光口,其出光口对准待检测的甲状旁腺所在区域,其信号输出端与所述近红外自体荧光接收器件的信号输入端信号连接,用于将接收的近红外光引导照射到待检测的甲状旁腺所在区域,同时将从甲状旁腺所在区域反射回来的近红外光和被激发的甲状旁腺的自体荧光引导到近红外自体荧光接收器件;
所述近红外自体荧光接收器件的信号输出端与数据信号处理组件的信号输入端信号连接,用于将从甲状旁腺所在区域反射回来的近红外光和被激发的甲状旁腺的自体荧光转换成数字图像信号传输给数据信号处理组件;
所述可见光RGB双目相机包括左图相机和右图相机,所述左图相机和右图相机分别安装于横梁两端部的相机安装孔处,且两相机的信号传输端口与数据信号处理组件信号连接,用于将获取的光信号转换成数字图像信号传输给数据信号处理组件,以获得甲状旁腺所在区域的3维表面空间坐标信息;
所述数据信号处理组件的信号输入端分别与近红外自体荧光接收器件的信号输出端、可见光RGB双目相机的信号传输端口信号连接,其信号输出端端口与增强显示镜片组件的AR显示器的信号输入端信号连接,用于识别甲状旁腺及其在近红外自体荧光图像中的位置,并结合3维表面空间坐标信息形成AR增强显示信息,送到增强显示镜片组件里进行显示。
2.如权利要求1所述的一种用于检测甲状旁腺位置的AR检测眼镜,其特征在于:所述AR检测眼镜还包括数据存储器和通讯模块,所述数据存储器通过通讯模块与数据信号处理组件信号连接,用于接收数据信号处理组件传输的信号。
3.如权利要求2所述的一种用于检测甲状旁腺位置的AR检测眼镜,其特征在于:所述近红外自体荧光激发器件包括激光二极管、与所述激光二极管同轴放置的聚光透镜和激光二极管驱动电路,所述激光二极管通过第一开关与供电电源电连接,并通过激光二极管驱动电路与数据信号处理组件信号连接,用于通过数据信号处理组件输出的激光导通使能信号控制激光二极管的通断;所述聚光透镜连接至所述二向色镜,用于将激发的近红外光通过同轴近红外光源照明和自体荧光接收光路组件照射到甲状旁腺所在区域。
4.如权利要求5所述的一种用于检测甲状旁腺位置的AR检测眼镜,其特征在于:
所述左图相机包括左图相机可见光成像光路组件和左图可见光信号接收器件,其中左图相机可见光成像光路组件的出光口对准左图相机可见光信号接收器件,用于将收集左图相机所在位置的可见光信号导入到左图相机可见光信号接收器件;左图相机可见光信号接收器件的信号输出端与数据信号处理组件信号连接或电连接,用于将接收的光信号转换成数字图像信号后传输给数据信号处理组件;
所述右图相机包括右图相机可见光成像光路组件和右图可见光信号接收器件,其中右图相机可见光成像光路组件的出光口对准右图相机可见光信号接收器件,用于将收集左图相机所在位置的可见光信号导入到右图相机可见光信号接收器件;右图相机可见光信号接收器件的信号输出端与数据信号处理组件信号连接或电连接,用于将接收的光信号转换成数字图像信号后传输给数据信号处理组件。
5.如权利要求4所述的一种用于检测甲状旁腺位置的AR检测眼镜,其特征在于:所述数据信号处理组件包括照明控制模块、图像数据采集模块、甲状旁腺位置检测模块、深度计算和空间定位模块、信息融合和AR显示控制模块,其中:
所述照明控制模块,其信号输出端与所述近红外自体荧光激发器件的信号输入端电连接,用于发出激光导通使能信号;
所述图像数据采集模块,其信号输入端通过通讯模块分别与近红外自体荧光接收器件的信号输出端、所述左图相机可见光信号接收器的信号输出端、所述右图相机可见光信号接收器的信号输出端以及数据存储器的信号输入端信号连接,其信号输出端分别与所述甲状旁腺位置检测模块的信号输入端、所述深度计算和空间定位模块的信号输入端信号连接,用于管理并接收来自近红外自体荧光接收器件、左图相机可见光信号接收器件、右图相机可见光信号接收器件的图像数据,并把收到的图像数据保存在数据存储器中,并送到甲状旁腺位置检测模块和深度计算和空间定位模块,做进一步的数据分析;
所述甲状旁腺位置检测模块,其信号输入端与图像数据采集模块相应的信号输出端信号连接,其信号输出端与所述信息融合和AR显示控制模块的信号输入端信号连接,用于对近红外自体荧光接收器件采集的图像数据进行分析,根据自体荧光强弱确定甲状旁腺在近红外图像中的位置;
所述深度计算和空间定位模块,其信号输入端与图像数据采集模块相应的信号输出端信号连接,其信号输出端与所述信息融合和AR显示控制模块的信号输入端信号连接,用于对左图相机可见光信号接收器件和右图相机可见光信号接收器件采集的左右图像数据,进行图像匹配,找出对应点的视差信息,以计算出甲状旁腺所在区域的三维数据;
所述信息融合和AR显示控制模块,其信号输入端分别与所述甲状旁腺位置检测模块以及深度计算和空间定位模块的信号输出端信号连接,其信号输出端与所述AR显示器的信号输入端信号连接,用于根据AR检测眼镜的位置,在保证AR显示的景象与实景重合的条件下,调用AR显示器,将找出的甲状旁腺在近红外图像中的位置,与根据左图相机和右图相机图像数据计算出的三维数据,进行融合,计算出在AR检测眼镜的左显示器和右显示器上要投射的图像以传递给AR检测眼镜进行显示。
6.如权利要求5所述的一种用于检测甲状旁腺位置的AR检测眼镜,其特征在于:所述近红外光源照明和自体荧光接收光路组件包括二向色镜、前级镜头、后级镜头和近红外窄带通滤波器,其中前级镜头、二向色镜、近红外窄带通滤波器和后级镜头依次同轴设置,且:
所述二向色镜设置于近红外自体荧光激发器件的出光口处,其反射光出口与透射光出口同轴,用于接受近红外自体荧光激发器件发出的近红外光,并将其反射后,通过前级镜头折射后,照射到甲状旁腺所在区域;所述二向色镜表面镀膜,使其反射785nm的近红外光、透射820nm的自体荧光;
所述前级镜头,设置于二向色镜的反射光出口处,并位于横梁的前端面处,用于收集来自甲状旁腺所在区域的可见光,近红外反射光和自体荧光,并将其传回给二向色镜;
所述后级镜头设置于二向色镜的透射光出口处,用于将自体荧光汇聚成像到近红外自体荧光接收器件表面;
所述近红外窄带通滤波器设置在所述二向色镜和后级镜头之间,近红外窄带通滤波器的透过的近红外光的波长为820nm。
7.如权利要求6所述的一种用于检测甲状旁腺位置的AR检测眼镜,其特征在于:两个所述相机安装孔处于同一水平轴线上。
CN202011377245.8A 2020-11-30 2020-11-30 一种用于检测甲状旁腺位置的ar检测眼镜 Pending CN112704474A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011377245.8A CN112704474A (zh) 2020-11-30 2020-11-30 一种用于检测甲状旁腺位置的ar检测眼镜

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011377245.8A CN112704474A (zh) 2020-11-30 2020-11-30 一种用于检测甲状旁腺位置的ar检测眼镜

Publications (1)

Publication Number Publication Date
CN112704474A true CN112704474A (zh) 2021-04-27

Family

ID=75543310

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011377245.8A Pending CN112704474A (zh) 2020-11-30 2020-11-30 一种用于检测甲状旁腺位置的ar检测眼镜

Country Status (1)

Country Link
CN (1) CN112704474A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113777792A (zh) * 2021-09-17 2021-12-10 深圳市恒必达电子科技有限公司 一种基于红外热成像进行管道线路查询的ar眼镜装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016190607A1 (ko) * 2015-05-22 2016-12-01 고려대학교 산학협력단 수술 지원 영상을 제공하는 스마트 글라스 시스템 및 스마트 글라스를 이용한 수술 지원 영상 제공 방법
CN107361744A (zh) * 2017-07-31 2017-11-21 清华大学 一种甲状旁腺的识别装置及方法
CN110603002A (zh) * 2017-03-10 2019-12-20 拜欧米特制造有限责任公司 增强现实支持的膝盖手术
CN110811498A (zh) * 2019-12-19 2020-02-21 中国科学院长春光学精密机械与物理研究所 可见光和近红外荧光3d融合图像内窥镜系统
CN111728697A (zh) * 2020-07-21 2020-10-02 中国科学技术大学 一种基于头戴式三维增强现实设备的手术训练和导航装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016190607A1 (ko) * 2015-05-22 2016-12-01 고려대학교 산학협력단 수술 지원 영상을 제공하는 스마트 글라스 시스템 및 스마트 글라스를 이용한 수술 지원 영상 제공 방법
CN110603002A (zh) * 2017-03-10 2019-12-20 拜欧米特制造有限责任公司 增强现实支持的膝盖手术
CN107361744A (zh) * 2017-07-31 2017-11-21 清华大学 一种甲状旁腺的识别装置及方法
CN110811498A (zh) * 2019-12-19 2020-02-21 中国科学院长春光学精密机械与物理研究所 可见光和近红外荧光3d融合图像内窥镜系统
CN111728697A (zh) * 2020-07-21 2020-10-02 中国科学技术大学 一种基于头戴式三维增强现实设备的手术训练和导航装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113777792A (zh) * 2021-09-17 2021-12-10 深圳市恒必达电子科技有限公司 一种基于红外热成像进行管道线路查询的ar眼镜装置
CN113777792B (zh) * 2021-09-17 2024-02-06 深圳市恒必达电子科技有限公司 一种基于红外热成像进行管道线路查询的ar眼镜装置

Similar Documents

Publication Publication Date Title
CN112656369B (zh) 一种基于ar技术的近红外荧光甲状旁腺的识别增强方法
US20240148291A1 (en) Method and apparatus for quantitative and depth resolved hyperspectral fluorescence and reflectance imaging for surgical guidance
US20030114741A1 (en) Projecting patient image data from radioscopic imaging methods and/or tomographic imaging methods onto video images
WO2023103467A1 (zh) 图像处理方法、装置及设备
US7845797B2 (en) Custom eyeglass manufacturing method
US7572009B2 (en) Method and apparatus for processing an eye fundus image
US20040189935A1 (en) Custom eyeglass manufacturing method
CN107735016A (zh) 用于扫描解剖结构且用于显示扫描结果的系统和方法
CN201750891U (zh) 一种近红外荧光成像的临床诊断系统
KR101667152B1 (ko) 수술 지원 영상을 제공하는 스마트 글라스 시스템 및 스마트 글라스를 이용한 수술 지원 영상 제공 방법
CN215305781U (zh) 识别甲状旁腺位置并评估甲状旁腺存活率的设备
JP6745508B2 (ja) 画像処理システム、画像処理装置、投影装置、及び投影方法
CN105342561B (zh) 无线声控穿戴式分子影像导航系统
CN102440760A (zh) 图像获取及显示方法和图像捕获及显示设备
CN108392181A (zh) 关注区域跟踪装置
CN114300095A (zh) 图像处理设备、图像处理方法、装置、设备及存储介质
CN211131438U (zh) 一种手术显微镜系统
CN112704474A (zh) 一种用于检测甲状旁腺位置的ar检测眼镜
CN112704473A (zh) 一种甲状旁腺的位置增强设备
CN113436129A (zh) 图像融合系统、方法、装置、设备及存储介质
CN112656370A (zh) 一种甲状旁腺位置探测仪器
CN117064311A (zh) 一种内窥镜图像的处理方法及内窥镜成像系统
CN113952033B (zh) 一种双源内窥手术导航系统及方法
CN116158718A (zh) 用于内窥镜系统的成像及显示方法和内窥镜系统
CN113693724B (zh) 适用于荧光影像导航手术的照射方法、装置及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination