CN115598817A - 显微镜、投影方法、装置、计算机设备及存储介质 - Google Patents
显微镜、投影方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN115598817A CN115598817A CN202110777954.3A CN202110777954A CN115598817A CN 115598817 A CN115598817 A CN 115598817A CN 202110777954 A CN202110777954 A CN 202110777954A CN 115598817 A CN115598817 A CN 115598817A
- Authority
- CN
- China
- Prior art keywords
- image
- microscope
- projection
- eyepiece
- assembly
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/0012—Surgical microscopes
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/361—Optical details, e.g. image relay to the camera or image sensor
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/364—Projection microscopes
Landscapes
- Physics & Mathematics (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Surgery (AREA)
- Microscoopes, Condenser (AREA)
Abstract
本申请关于一种显微镜、投影方法、装置、计算机设备及存储介质,涉及增强现实技术领域。显微镜包括:目镜组件、投影组件、图像采集组件、以及第一分束器;所述第一分束器设置在所述目镜组件与目标物之间的第一光路上;所述投影组件设置在所述第一分束器的一侧,且所述投影组件发出的光线经过所述第一分束器的反射后,沿所述第一光路向所述目镜组件传播;所述图像采集组件设置在所述第一分束器的另一侧,且从所述目标物出发的光线经过所述第一分束器的反射后,向所述图像采集组件传播。本方案能够结合增强现实和人工智能,辅助操作人员更准确的识别目标物中的细微组织,从而提高通过显微镜进行细微组织识别的准确性。
Description
技术领域
本申请涉及增强现实技术领域,特别涉及一种显微镜、投影方法、装置、计算机设备及存储介质。
背景技术
手术显微镜是一种应用于外科手术或者教学实验中,辅助操作人员准确观察细微血管以及神经等组织的医疗器械。
在相关技术中,手术显微镜中包含目镜组件,操作人员通过调节目镜组件的方向和焦点等操作,使得目镜组件对准手术部位,并通过目镜组件观察手术部位的细微组织,以便更准确的进行手术操作。
然后,上述方案中手术显微镜需要操作人员根据人工经验来分辨目镜视野下的细微组织,对操作人员的限制较高,影响对细微组织的分辨的准确性。
发明内容
本申请实施例提供了一种显微镜、投影方法、装置、计算机设备及存储介质,可以提高辅助操作人员对显微镜下的细微组织进行识别,提高细微组织识别的准确性,该技术方案如下。
一方面,提供了一种显微镜,所述显微镜包括:目镜组件、投影组件、图像采集组件、以及第一分束器;
所述第一分束器设置在所述目镜组件与目标物之间的第一光路上;
所述投影组件设置在所述第一分束器的一侧,且所述投影组件发出的光线经过所述第一分束器的反射后,沿所述第一光路向所述目镜组件传播;
所述图像采集组件设置在所述第一分束器的另一侧,且从所述目标物出发的光线经过所述第一分束器的反射后,向所述图像采集组件传播;
其中,所述投影组件,用于显示投影影像,所述投影影像是基于从所述图像采集组件采集到的实时图像中识别出的信息生成的。
又一方面,提供了一种投影方法,所述方法由处理器执行,所述处理器与显微镜中的投影组件以及图像采集组件分别电性相连,所述显微镜是如上述方面所述的显微镜,所述方法包括:
获取显微镜中的图像采集组件实时采集的器官图像;
对所述器官图像进行组织识别,获得所述指定类型器官组织在所述目镜视野中的位置;
基于所述指定类型器官组织在显微镜的目镜视野中的位置生成所述指示信息对应的AR影像;
将所述AR影像发送给显微镜中的投影组件。
又一方面,提供了一种投影装置,所述装置用于处理器中,所述处理器与显微镜中的投影组件以及图像采集组件分别电性相连,所述显微镜是如上述方面所述的显微镜,所述装置包括:
图像获取模块,用于获取显微镜中的图像采集组件实时采集的器官图像;
识别模块,用于对所述器官图像进行组织识别,获得所述指定类型器官组织在所述目镜视野中的位置;
影像生成模块,用于基于所述指定类型器官组织在显微镜的目镜视野中的位置生成所述指示信息对应的AR影像;
影像发送模块,用于将所述AR影像发送给显微镜中的投影组件。
再一方面,提供了一种计算机设备,所述计算机设备中的处理器与显微镜中的投影组件以及图像采集组件分别电性相连,所述显微镜是如上述方面所述的显微镜;
所述计算机设备包含存储器,所述存储器中存储有至少一条计算机指令,所述至少一条计算机指令由所述处理器加载并执行以实现如上所述的投影方法。
又一方面,提供了一种计算机可读存储介质,所述存储介质中存储有至少一条计算机指令,所述至少一条计算机指令由计算机设备中的处理器加载并执行以实现如上所述的投影方法;
其中,所述处理器与显微镜中的投影组件以及图像采集组件分别电性相连,所述显微镜是如上述方面所述的显微镜。
又一方面,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述投影方法;其中,所述计算机设备中的处理器与显微镜中的投影组件以及图像采集组件分别电性相连,所述显微镜是如上述方面所述的显微镜。
本申请实施例提供的技术方案带来的有益效果至少包括:
通过在目镜组件和目标物之间设置一个分束器,将目标物的影像反射到图像采集组件,同时,将投影组件投影的影像反射至目镜组件,通过投影组件显示投影影像(基于图像采集组件采集到的实时图像中识别出的信息生成),从而实现在目镜视野下,在目标物上直接叠加当前目标物对应的投影图像,由于投影组件发出的投影影像,以及当前目标物的自然图像通过同一个分束器传播到目镜组件中,因此AR影像和自然图像之间可以直接叠加,从而可以通过增强现实的方式,在目镜视野下实时显示当前目镜视野下的目标物对应的相关信息,辅助操作人员更准确的识别目标物中的细微组织,从而提高通过显微镜进行细微组织识别的准确性。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
图1是根据一示例性实施例示出的一种显微镜的结构示意图;
图2是根据一示例性实施例示出的一种显微镜的结构示意图;
图3是图2所示实施例涉及的AR影像处理示意图;
图4是图2所示实施例涉及的一种显微镜的结构示意图;
图5是图2所示实施例涉及的一种显微系统的系统构成图;
图6是图2所示实施例涉及的显微系统的工作流程图;
图7是本申请一示例性实施例提供的投影方法的方法流程图;
图8是本申请一示例性实施例提供的投影装置的结构图;
图9是根据一示例性实施例示出的一种计算机设备的结构示意图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
增强现实(Augmented Reality,AR)
增强现实技术也被称为扩增现实,增强现实技术是促使真实世界信息和虚拟世界信息内容之间综合在一起的较新的技术内容,其将原本在现实世界的空间范围中比较难以进行体验的实体信息在电脑等科学技术的基础上,实施模拟仿真处理,叠加将虚拟信息内容在真实世界中加以有效应用,并且在这一过程中能够被人类感官所感知,从而实现超越现实的感官体验。真实环境和虚拟物体之间重叠之后,能够在同一个画面以及空间中同时存在。
人工智能(Artificial Intelligence,AI)
AI是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
计算机视觉技术(Computer Vision,CV)
计算机视觉是一门研究如何使机器“看”的科学,更进一步的说,就是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉,并进一步做图形处理,使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科,计算机视觉研究相关的理论和技术,试图建立能够从图像或者多维数据中获取信息的人工智能系统。计算机视觉技术通常包括图像处理、图像识别、图像语义理解、图像检索、视频处理、视频语义理解、视频内容/行为识别、三维物体重建、三维技术、虚拟现实、增强现实、同步定位与地图构建等技术,还包括常见的人脸识别、指纹识别等生物特征识别技术。
机器学习(Machine Learning,ML)
机器学习是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、示教学习等技术。
随着人工智能技术研究和进步,人工智能技术在智能医疗领域展开研究和应用,而本申请后续各个实施例提供的方案涉及人工智能的计算机视觉以及机器学习等技术,通过人工智能和增强现实AR相结合的方式实现显微镜视野下的医疗辅助。
图1是根据一示例性实施例示出的一种显微镜的结构示意图。如图1所示,该显微镜包括:目镜组件101、投影组件102、图像采集组件103、以及第一分束器104;
该第一分束器104设置在该目镜组件101与目标物之间的第一光路上;
该投影组件102设置在该第一分束器104的一侧,且该投影组件102发出的光线经过该第一分束器104的反射后,沿该第一光路向该目镜组件101传播;
该图像采集组件103设置在该第一分束器104的另一侧,且从该目标物出发的光线经过该第一分束器104的反射后,向该图像采集组件103传播;
投影组件102,用于向目镜组件101投影增强现实AR影像;AR影像是基于对图像采集组件103采集到的图像进行识别得到的图像识别结果生成的。
以神经外科医生进行开颅手术为例,通过人眼和传统的彩色相机去观察患者脑部和进行手术时,由于存在术中血液对组织的遮挡、不同组织颜色本身差别小以及长时间显微镜视野下手术等给医生带来的疲劳都因素,容易造成医生在区分不同组织上的视觉混淆。例如在人眼区分脑部神经、静脉动脉血管、肿瘤时如果存在视觉混淆而对边界判断不准确时,将会引入手术事故的风险。
而通过本申请实施例提供的显微镜,在目镜组件的基础上,增加第一分束器、投影组件以及图像采集组件,通过第一分束器将目标物的一部分影像反射至图像采集组件,实现目镜视野下的手术实时影像的采集,同时,还通过该第一分束器将根据对实时影像识别生成的投影影像投影到目镜组件中,从而在目镜视野下,对应实时影像投影识别出的信息,辅助操作人员进行识别。
在另一种可能的实现方式中,投影组件102也可以将上述AR影像叠加在图像采集组件103采集到的图像上,得到叠加AR影像后的图像,并向目镜组件101投影上述叠加了AR影像后的图像。
综上所述,在本申请实施例所示的方案中,通过在目镜组件和目标物之间设置一个分束器,将目标物的影像反射到图像采集组件,同时,将投影组件投影的影像反射至目镜组件,通过投影组件显示投影影像(基于图像采集组件采集到的实时图像中识别出的信息生成),从而实现在目镜视野下,在目标物上直接叠加当前目标物对应的投影图像,由于投影组件发出的投影影像,以及当前目标物的自然图像通过同一个分束器传播到目镜组件中,因此AR影像和自然图像之间可以直接叠加,从而可以通过增强现实的方式,在目镜视野下实时显示当前目镜视野下的目标物对应的相关信息,辅助操作人员更准确的识别目标物中的细微组织,从而提高通过显微镜进行细微组织识别的准确性。
此外,本申请实施例所示的方案,通过一个分束器即可以实现在显微镜中同时集成图像采集组件和投影组件,结构较为简单,方便维护,占用空间小。
图2是根据一示例性实施例示出的一种显微镜的结构示意图。如图2所示,该虚拟现实显示设备包括:目镜组件101、投影组件102、图像采集组件103、以及第一分束器104;
该第一分束器104设置在该目镜组件101与目标物之间的第一光路上。
分束器是一种将一束光分成两束光或多束光的光学装置,通常是由金属膜或介质膜构成。
最常见的形状是立方体,由两个三角形玻璃棱镜制成,两个三角形玻璃棱镜使用聚酯,环氧树脂或聚氨酯类粘合剂在基体上胶合在一起。通过调整树脂层的厚度,可以使得通过一个“端口”(即立方体的面)入射的光的(一定波长)的一半被反射,另一半由于全部内反射而被继续传输。
另一种设计中,也可以使用半镀银镜、一片玻璃或塑料、以及透明薄的金属涂层来实现分束器,其中,金属涂层可以实现为铝蒸气沉积铝。通过控制沉积物的厚度,可以使得以45度角入射并且不被涂层吸收的部分光线(通常为一半)被透射,其余部分被反射。上述金属涂层也可以使用二向色光学涂层来代替。
此外,也可以通过二向色镜像棱镜组件来实现上述分束器,二向色镜像棱镜组件使用二向色光学涂层将入射光束分成多个光谱不同的输出光束。
本申请实施例对于分束器的实现形式不做限定。
该投影组件102设置在该第一分束器104的一侧,且该投影组件102发出的光线经过该第一分束器104的反射后,沿该第一光路向该目镜组件101传播。
该图像采集组件103设置在该第一分束器104的另一侧,且从该目标物出发的光线经过该第一分束器104的反射后,向该图像采集组件103传播。
为了简化显微镜的硬件结构,本申请实施例使用单个分束器,同时实现将投影组件投影的AR影像反射至目镜组件,以及,实现将目标物的实时图像反射至图像采集组件,同时,还不影响通过目镜组件对目标物的观察效果。
也就是说,在本申请实施例中,投影组件102显示投影影像时,投影影像的光线经过第一分束器反射后,到达目镜组件101,并且,从目标物处发出的光线在第一分束器处,一部分被反射至图像采集组件,使得图像采集组件可以采集到目标物的实时图像,另一部分经过第一分束器透射后,沿着原方向传播至目镜组件,使得操作人员可以通过目镜组件观察到目标物。
其中,该投影组件102,用于显示投影影像,该投影影像是基于从该图像采集组件103采集到的实时图像中识别出的信息生成的。
在本申请实施例中,图像采集组件采集到的实时图像用于进行图像识别,以便根据识别出的信息生成投影影像,并由投影组件102实时投影到目镜组件中,使得操作人员可以在通过目镜组件中观察目标物的同时,还能够同时观察到以AR方式投影至目镜视野中的,从目标物的实时图像中识别出的相关信息,从而对操作人员进行实时的辅助。
在一种可能的实现方式中,该显微镜还包括:第一偏振片105和第二偏振片106;
该第一偏振片105设置在该第一分束器104与该投影组件102之间;
该第二偏振片106设置在该第一分束器104与该图像采集组件103之间;
该第一偏振片105的偏振方向与该第二偏振片106的偏振方向垂直。
其中,偏振片(polarizer)是一种可以使天然光变成偏振光的光学元件。偏振片对入射光具有遮蔽和透过的功能,可以使纵向光或横向光中的一种透过,并对另一种进行遮蔽。偏振片可以是由偏振膜、内保护膜、压敏胶层及外保护膜层压而成的复合材料。按应用方式划分,偏振片又可以分成透射、透反射及反透射三类。
在一种可能的实现方式中,偏振片可以用高分子化合物聚乙烯醇薄膜作为基片,再浸染具有强烈二向色性的碘,经硼酸水溶液还原稳定后,再将其单向拉伸4~5倍制成。拉伸后,碘分子则整齐地被吸附在排列在该薄膜上面,具有起偏或检偏性能。
在本申请实施例中,由于投影组件102和图像采集组件103分别设置在第一分束器的两侧,并且,光线经过分束器时,会有一部分透过分束器沿着入射方向继续传播,因此,投影组件在进行AR投影时,投影影像的一部分光线被第一分束器反射至目镜组件,另一部分光线会透过第一分束器继续传播,则可能会传播至图像采集组件的镜头中,从而干扰图像采集组件对目标物的图像采集效果,进而影响后续的图像识别的准确性。
为了避免投影组件102显示的投影影像经过第一分束器透射后被图像采集组件103所采集到,本申请实施例在第一分束器与投影组件之间,以及第一分束器与图像采集组件之间分别设置一个偏振片,并且将两个偏振片的偏振方向设置为垂直,投影组件发出的光线经过两个偏振片之后被抵消,从而避免投影组件发出的投影影像影响到图像采集组件采集到的图像。
也就是说,投影组件在进行投影时,其发出的光线a首先经过第一偏振片,其中一部分光线a1透过第一偏振片,另一部分光线a2被第一偏振片阻隔,之后,光线a1在第一分束器处经过透射和反射,其中一部分光线a1-1被反射至目镜组件,另一部分光线a1-2透过第一分束器继续传播至第二偏振片,由于第一偏振片的偏振方向和第二偏振片的偏振方向垂直,因此,光线a1-2将被第二偏振片完全阻隔。
而对于从目标物发出的光线b来说,该光线b在第一分束器处经过透射和反射,其中一部分光线b1透过第一分束器传播至目镜组件,另一部分光线b2被反射至第二偏振片,由于这部分光线b2未经过第一偏振片,因此并不会被第二偏振片完全阻隔,其中未被完全阻隔的部分光线会传播至图像采集组件,由图像采集组件采集为目标物的实时图像。
在一种可能的实现方式中,该显微镜还包括光源107;该光源107用于向该目标物补光。
在本申请实施例中,由于目标物发出的光线经过第一分束器的透射和反射之后才能抵达目镜视野和图像采集组件,因此,目镜视野下观察到的目标物的亮度,以及图像采集组件采集到的目标物的实时图像的亮度,都会比目标物的实际亮度小很多,因此,为了使得图像采集组件能够采集到清晰的图像,以及,提高操作人员对目镜视野下的目标物的观察效果,可以通过一个光源对目标物进行补光。
在一种可能的实现方式中,该光源107发出的光线包括宽光谱光线,该图像采集组件为高光谱或多光谱相机,比如内置推扫式高光谱或多光谱相机。
其中,宽光谱光线可以包括可见光波段和红外波段的光线。
其中,上述光源170可以是宽光谱发光二极管(Light Emitting Diode,LED)或者隔热的卤素灯等。
在本申请实施例中,光源107发出的光线可以包括包含红外光的宽光谱的光线,或者,光源107发出的光线可以包括可见光和红外光的宽光谱的光线。比如,光源107发出的光线可以包括可见光到近红外二区的光谱的光线。
相应的,图像采集组件在采集目标物的实时图像时,可以采集得到多个不同光谱的图像,包括一个或者多个可见光谱的实时图像,以及一个或者多个红外光谱的实时图像。
由于肿瘤组织,动脉,神经等组织在短波红外波段的吸收差异比在可见光更大,因此,本申请实施例利用短波红外相机去感知和区分不同组织,相比于传统方法中的肉眼和可见光相机识别的方案,本申请所示的方案具有图像识别效果更好的优势。
在一种可能的实现方式中,该显微镜还包括:光反射器108;
该光源107发的光线经过该光反射器108反射后,向该目标物传播。
如图2所示,在本申请实施例的一种可能的实现方式中,上述光反射器108可以是第二分束器,且该第二分束器设置在该目镜组件101与目标物之间的第一光路上;光源发出的光线经过第二分束器透射之后的光路,与投影组件发出的光线经过第一分束器透射之后的光路,处于不同的两个相互平行的平面上。
其中,为了避免光源发出的光线经过第二分束器透射之后直接影响到投影组件或者图像采集组件,可以在第一分束器之外另外设置一个第二分束器,该第二分束器的光线入射/透射的光路,与第一分束器的光线入射/透射的光路可以平行,也可以处于两个不同的平面上,从而确保光源发出的光线不会直接影响到投影组件或者图像采集组件,从而在实现对目标物的补光的同时,不会影响图像采集效果以及投影效果。
在另一种可能的实现方式中,上述光反射器108也可以是镜面反射器(无透光作用,或者透光性较弱),且光反射器108设置在该目镜组件101与目标物之间的光路之外。
在一种可能的实现方式中,该目镜组件101包括第一目镜101a和第二目镜101b;
该第一分束器104设置在该第一目镜101a与该目标物之间。
在本申请实施例中,上述第一目镜可以是目镜组件中包含的两个目镜中的任意一个目镜。
在一种可能的实现方式中,该显微镜还包括第一透镜109;
该第一透镜109设置在第二目镜101b与该目标物之间;
从该目标物出发的光线透过该第一分束器104的光程,与透过该第一透镜109的光程相同。
光程是一个折合量,可理解为在相同时间内,光线在真空中传播的距离。也就是说,在传播时间相同或相位改变相同的条件下,将光在介质中传播的路程折合为光在真空中传播的相应路程,即为光程。在数值上,光程等于介质折射率乘以光在介质中传播的路程。
由于分束器的折射率与空气/真空的折射率不同,因此,光线在分束器中透射的光程,与光线在空气/真空中传播的光程存在差异,因此,对于同一时间从目标物发出的两束光线,若一束经过第一分束器透射后传播到目镜,另一束在空气/真空中直接传播到目镜,那么这两束光线到达目镜的时间将会存在差异,从而影响在目镜视野下对目标物的观察效果。
对此,本申请实施例所示的方案,还在第二目镜与目标物之间设置一个透镜,该透镜的作用是调节从目标物发出的光线到达目镜的光程,使得从该目标物出发的光线透过该第一分束器的光程,与透过该第一透镜的光程相同,确保同一时间从目标物发出的不同光线分别到达第一目镜和第二目镜的时间相同。
在一种可能的实现方式中,第一分束器104对从目标物发出的光线的透光率,与第一透镜109对从目标物发出的光线的透光率相同。
由于从目标物发出的光线经过第一分束器104和第一透镜109的透射后,分别传播至目镜组件的两个目镜中,若第一分束器104和第一透镜109对从目标物发出的光线的透光率不同,则会导致目镜组件中两个目镜处观察到的目标物的亮度不同,从而影响目镜视野下对目标物的观察效果,因此,在本申请实施例中,可以选用对从目标物发出的光线的透光率相同的第一分束器104和第一透镜109,以保证两个目镜对目标物进行观察时具有一致的亮度,从而保证操作人员在目镜视野下对目标物的观察效果。
在一种可能的实现方式中,第一透镜可以选用与第一分束器材质相同,且形状相同的透镜,比如,第一透镜和分束器的形状相同(都为立方体),且主材质相同(比如都为玻璃材质,且两者的玻璃材质的光学特性一致)。
在一种可能的实现方式中,上述第一透镜109和第二偏振片106为同一个光学组件,也就是说,第一透镜109同时具有偏振作用,并且,第一透镜的偏正方向与第一偏振片105的偏振方向相互垂直,从而进一步简化显微镜的结构。
在一种可能的实现方式中,该目标物为手术中的器官;
该投影组件102,用于向该目镜组件投影指示信息的AR影像,该指示信息用于指示该器官中的指定类型器官组织在该目镜视野中的位置。
在本申请实施例中,投影组件102可以实时获取到用于指示目镜视野下的目标物上的某一种或者多种指定类型器官组织(比如神经或者细微血管等)的位置的指示信息,并通过AR影像的方式将指示信息投射至第一分束器,经过第一分束器反射至目镜组件中,同时,目标物发出的光线经过第一分束器(以及第一透镜)透射后传播至目镜组件,这样,操作人员可以通过目镜组件,在目镜视野下观察到叠加了指示信息的AR影像的目标物。
本申请实施例提出人工智能方法来处理多光谱或者高光谱图像,其中常见用于处理多光谱或者高光谱数据进行分割的模型包括但不限于:三维卷积神经网络(3D-Convolutional Neural Network,3D-CNN),边缘保护滤波(Edge Preserving Filters,EPF)网络,支持向量机(Support Vector Machines,SVM),主成分分析(PrincipalComponent Analysis,PCA)网络等。
在本申请实施例中,可以通过预先采集并标注的多光谱或者高光谱的图像进行机器学习训练,得到图像分割模型,并通过训练得到的图像分割模型对图像采集组件采集到的实时图像进行识别和分割,以获得实时图像中的器官中的指定类型器官组织的位置等相关信息,然后基于识别分割得到的相关信息生成AR影像。
比如,在模型训练阶段,开发人员预先准备若干个器官图像样本,并由医护人员(比如在相关行业资深的医生)进行标注,以标注出器官图像样本中一种或者多种指定类型的器官组织(比如神经、细微血管)在器官图像样本中的实际位置,作为器官图像样本的标注信息,然后,将器官图像样本输入至图像分割模型,由图像分割模型对输入的器官图像样本进行处理后,输出指定类型的器官组织在器官图像样本中的预测位置信息(比如,预测位置信息可以是指定类型的器官组织在器官图像样本中的各个位置的概率,或者说,预测位置信息是器官图像样本中的各个位置上的器官组织是某种指定类型器官组织的概率),然后,通过预测位置信息和标注信息(即各种执行类型器官组织在器官图像样本中的实际位置)进行损失计算,获得损失函数值,并通过损失函数值对图像分割模型的模型参数进行更新,迭代执行上述过程,直至图像分割模型收敛,得到训练完成的图像分割模型。
在模型应用过程中,上述显微镜中的图像采集组件采集得到目标物(比如手术中的人体脑部)的实时的多光谱或者高光谱图像后,通过训练完成的图像分割模型对实时的多光谱或者高光谱图像进行处理,输出实时的多光谱或者高光谱图像中的各种指定类型器官组织的位置信息。这里得到的位置信息可以用于生成AR影像,并由投影组件投影到目镜视野中。
以使用3D-CNN网络模型作为图像分割模型为例,3D-CNN网络模型既可以考虑到多光谱或者高光谱图像中的空间维度的特征,也可以同时兼顾光谱维度的特征。本申请实施例涉及的显微镜,可以通过图像分割模型,从显微镜的图像采集组件实时采集到的器官图像中识别分割出以下几种器官组织中的至少一种:颈内动脉、静脉、脂肪、肿瘤、视觉神经、灰质、以及白质等等。
其中,上述光源107发的光线中可以包含400-1700nm的宽光谱光线。
请参考图3,其示出了本申请实施例涉及的AR影像处理示意图。本申请实施例采用可见光到近红外二区的多光谱/高光谱技术,将光波长感知从人眼和彩色相机的400-700nm可见光范围拓展到400-1700nm可见到短波红外范围,结合人工智能网络31,对包含海量空间和光谱信息的多光谱或宽光谱图像32进行特征提取,能够实现对不同组织类型的边界进行精准区分(比如,通过给不同脑组织结构标记不同颜色,并以增强现实的可视化方法投影到屏幕或者显微镜目镜视野33内,或者,通过文字+箭头的方式指示不同脑组织结构),使得医生等操作人员可以轻松的分辨不同组织及其相应边界,让病灶位置和大小清晰可见,可以解决诸如神经外科等显微镜下手术中的视觉混淆的问题,通过辅助显微镜手术来减小显微镜下手术的风险。
其中,本申请实施例所示的方案,采用可同时感知400-1700nm波长的多光谱或者高光谱相机采集可见光至短波红外波段的多光谱或高光谱图片,结合经验丰富的医生的标注,运用人工智能对数据进行学习,得到可以预测不同组织类型和边界的图像分割网络。并将分割结果以增强现实的方式叠加到可见光图片上,辅助医生在显微镜下准确找到病灶靶点并避开神经和动脉等组织,减少了对手术经验以及空间想象力的依赖,直观易行,从而提高显微镜下手术质量。
如图2所示,本申请实施例所示的方案,在传统手术显微镜的光路基础上,运用400-1700nm光源作为照明,通过分束器和落射照明镜头组照射到目标区域(如人脑)。高光谱或多光谱相机采集被照明到的目标区域图像。采集到的图像送给计算机/处理器进行人工智能分析处理。处理结果由AR设备进行投影显示,通过分束器投影到双目镜中的其中一个。这样人眼有一只眼睛可以完整看到无AR遮挡的视野(图中右边目镜),一只眼睛可以看到目标与AR投影相叠加的场景(图中左边目镜)。其中偏振片1与偏振片2的偏振方向相互垂直,防止AR投影设备的光信号进入多光谱或者高光谱相机。
请参考图4,其示出了本申请实施例涉及的一种显微镜的结构示意图。如图4所示,该投影组件102以及该图像采集组件103分别与处理器110电性相连;
该处理器110,用于获取该图像采集组件103实时采集的器官图像,并对该器官图像进行组织识别,获得该指定类型器官组织在该目镜视野中的位置,基于该指定类型器官组织在该目镜视野中的位置生成该指示信息对应的AR影像,并将该AR影像发送给该投影组件102。
其中,处理器110,用于通过图像分割模型对器官图像进行组织识别,获得指定类型器官组织在目镜视野中的位置。
其中,上述处理器110,可以是显微镜内置的处理器;或者,上述处理器110,也可以是显微镜外接的控制设备中的处理器。
在本申请实施例的一种可选方案中,上述通过图像采集组件采集到的器官图像识别得到指示信息,并生成指示信息对应的AR影像的步骤,可以由显微镜执行,也就是说显微镜中集成有进行图像识别和AR影像生成的处理器,通过器官图像实时生成并显示AR投影的过程可以在显微镜内部直接执行。
其中,处理器110可以通过预先训练好的图像分割模型对图像采集组件采集到的器官图像进行识别,并根据识别结果生成AR影像。
其中,图像分割模型的训练及应用过程可以参考本申请实施例上述内容的介绍,此处不再赘述。
其中,处理器110在生成AR影像时,还根据识别出的各指定类型器官组织在实时的器官图像中的位置,确定AR影像在目镜视野中的投影位置,并将AR影像和投影位置一并发送给投影组件,由投影组件根据投影位置投影AR影像。
或者,处理器110在生成AR影像时,根据识别出的各指定类型器官组织在实时的器官图像中的位置来生成包含指示信息的AR影像,投影组件投影该AR影像时,AR影像中的指示信息可以准确的对应目镜视野下的器官中的指定类型器官组织进行展示。
在一种可能的实现方式中,上述处理器110还与光源107相连,该处理器110用于控制光源107发出光线。
在一种可能的实现方式中,处理器110还与显示器电性相连。处理器110,还用于将AR影像和对应的器官图像展示在显示器中。
在另一种可能的实现方式中,当处理器110是显微镜外接的控制设备中的处理器时,显微镜中投影组件102和图像采集组件103分别与控制设备电性相连,以组成显微系统。
请参考图5,其示出了本申请实施例涉及的一种显微系统的系统构成图。如图5所示,该显微系统包括如上述图3所示的显微镜100,以及控制设备200。
其中,该控制设备200分别与该显微镜中的投影组件和图像采集组件电性相连。
在一种可能的实现方式中,该图像采集组件,用于实时采集该显微镜的目镜视野中的器官图像;
该控制设备200,用于向对该器官图像进行组织识别,获得该指定类型器官组织在该目镜视野中的位置,基于该指定类型器官组织在该目镜视野中的位置生成该指示信息对应的AR影像,并将该AR影像发送给该投影组件;
该投影组件,用于向该目镜组件投影该AR影像。
其中,控制设备200对该器官图像进行组织识别,获得该指定类型器官组织在该目镜视野中的位置,基于该指定类型器官组织在该目镜视野中的位置生成该指示信息对应的AR影像的过程,请参考上述处理器110通过预先训练好的图像分割模型对图像采集组件采集到的器官图像进行识别,并根据识别结果生成AR影像的过程,此处不再赘述。
在本申请实施例中,显微镜在出厂前或者使用前,其AR影像的投影位置和缩放倍率可以进行校准,以使得AR影像投影在目镜视野下的准确的位置上。
比如,在一种校准方式中,投影组件可以提供校准接口,调试人员可以通过校准接口来调整投影组件投影的位置和缩放倍率。例如,在校准时,在目镜视野下放置一个校准物,该校准物上包含多个显式的参考点,图像采集组件采集该校准物的图像之后,处理器对该校准物的图像进行识别,得到参考点的位置,并生成参考点对应的AR影像(AR影像包含多个参考点对应的影像),调试人员在通过目镜组件观察该校准物,同时调整AR影像的位置和缩放倍率,使得AR影像中的参考点与目镜组件下观察的校准物上的参考点重合,即完成校准。
其中,上述控制设备200还与显微镜中的光源电性相连。
在一种可能的实现方式中,控制设备200与显微镜中的光源电性相连,可以是指控制设备200与光源对应的光源控制器电性相连。
其中,上述控制设备200执行的动作或实现的功能,可以由控制设备200中的处理器执行或实现。
在本申请实施例中,可以将图3中的光源、图像采集组件(比如多光谱或者高光谱相机),投影组件(AR模块)、分束器、透镜等光学组件做成一个完整的光学模块,添加到手术显微镜上,形成本申请示出的新型手术显微镜。请参考图6,其示出了本申请实施例涉及的显微系统的工作流程图:电脑61(即控制设备)发出光源控制指令给光源控制器62,光源控制器62打开光学模块63中的光源,光学模块63中的多光谱或者高光谱相机进行采图,并将图像传输给电脑61,电脑61进行人工智能分析,并将分析结果(AR信息投影)传递给光学模块63中的AR模块,由AR模块将AR信息投影到手术显微镜的目镜内。
在一种可能的实现方式中,控制设备200还与显示器电性相连,或者,控制设备200中包含显示器。控制设备200,还用于将AR影像和对应的器官图像展示在显示器中。
也就是说,本申请实施例所示的方案至少包括以下几点:
1)将可见光至短波红外(或近红外二区)的高光谱成像技术引入手术显微镜,取代当下最普遍的彩色相机。
本申请实施例中,使用可嵌入手术显微镜的模块进行高光谱图像采集。
2)使用人工智能对含有海量信息的高光谱数据进行区域分割和感兴趣区域提取。其中,人工智能神经网络的可以使用医生标注过的同类型高光谱图像进行训练。训练完成后的神经网络可以区分医生先前标注过的不同组织类型:如肿瘤,脂肪,动脉血管,静脉,面部神经,视觉神经,灰质,白质等。
3)神经网络区分结果通过AR技术进行AR显示。可以通过加入到显微镜内的AR模块(即上述投影组件)进行投影,让医生直接可以通过目镜看到实际手术场景和AR结果的叠加。
另外,上述AR结果也可以显示在外接屏幕上,使得操作人员除了通过目镜组件观察到叠加有AR影像的器官图像之外,还可以通过外接屏幕观察到叠加有AR影像的器官图像,比如,在手术室中,除了使用手术显微镜的医生可以通过显微镜的目镜组件观察到叠加有AR影像的器官之外,其它医护人员也可以通过外接屏幕进行观察;再比如,在教学场景中,除了使用手术显微镜的老师可以通过显微镜的目镜组件观察到叠加有AR影像的器官之外,学生也可以通过外接屏幕进行观察。
综上所述,在本申请实施例所示的方案中,通过在目镜组件和目标物之间设置一个分束器,将目标物的影像反射到图像采集组件,同时,将投影组件投影的影像反射至目镜组件,通过投影组件显示投影影像(基于图像采集组件采集到的实时图像中识别出的信息生成),从而实现在目镜视野下,在目标物上直接叠加当前目标物对应的投影图像,由于投影组件发出的投影影像,以及当前目标物的自然图像通过同一个分束器传播到目镜组件中,因此AR影像和自然图像之间可以直接叠加,从而可以通过增强现实(AugmentedReality,AR)的方式,在目镜视野下实时显示当前目镜视野下的目标物对应的相关信息,辅助操作人员更准确的识别目标物中的细微组织,从而提高通过显微镜进行细微组织识别的准确性。
请参考图7,其示出了本申请一示例性实施例提供的投影方法的方法流程图。其中,该方法可以由处理器执行,该处理器与显微镜中的投影组件以及图像采集组件分别电性相连,该显微镜是如上述图1、图2、图4或图5中涉及的显微镜,该方法包括:
步骤701,获取显微镜中的图像采集组件实时采集的器官图像。
步骤702,对该器官图像进行组织识别,获得该指定类型器官组织在该目镜视野中的位置。
步骤703,基于该指定类型器官组织在显微镜的目镜视野中的位置生成该指示信息对应的AR影像。
步骤704,将该AR影像发送给显微镜中的投影组件。
综上所述,在本申请实施例所示的方案中,通过在目镜组件和目标物之间设置一个分束器,将目标物的影像反射到图像采集组件,同时,将投影组件投影的影像反射至目镜组件,通过投影组件显示投影影像(基于图像采集组件采集到的实时图像中识别出的信息生成),从而实现在目镜视野下,在目标物上直接叠加当前目标物对应的投影图像,由于投影组件发出的投影影像,以及当前目标物的自然图像通过同一个分束器传播到目镜组件中,因此AR影像和自然图像之间可以直接叠加,从而可以通过增强现实的方式,在目镜视野下实时显示当前目镜视野下的目标物对应的相关信息,辅助操作人员更准确的识别目标物中的细微组织,从而提高通过显微镜进行细微组织识别的准确性。
请参考图8,其示出了本申请一示例性实施例提供的投影装置的结构图。其中,该装置可以用于处理器中,该处理器与显微镜中的投影组件以及图像采集组件分别电性相连,该显微镜是如上述图1、图2、图4或图5中涉及的显微镜,该装置包括:
图像获取模块801,用于获取显微镜中的图像采集组件实时采集的器官图像;
识别模块802,用于对该器官图像进行组织识别,获得该指定类型器官组织在该目镜视野中的位置;
影像生成模块803,用于基于该指定类型器官组织在显微镜的目镜视野中的位置生成该指示信息对应的AR影像;
影像发送模块804,用于将该AR影像发送给显微镜中的投影组件。
综上所述,在本申请实施例所示的方案中,通过在目镜组件和目标物之间设置一个分束器,将目标物的影像反射到图像采集组件,同时,将投影组件投影的影像反射至目镜组件,通过投影组件显示投影影像(基于图像采集组件采集到的实时图像中识别出的信息生成),从而实现在目镜视野下,在目标物上直接叠加当前目标物对应的投影图像,由于投影组件发出的投影影像,以及当前目标物的自然图像通过同一个分束器传播到目镜组件中,因此AR影像和自然图像之间可以直接叠加,从而可以通过增强现实的方式,在目镜视野下实时显示当前目镜视野下的目标物对应的相关信息,辅助操作人员更准确的识别目标物中的细微组织,从而提高通过显微镜进行细微组织识别的准确性。
手术事故是当下医疗系统中急需解决的问题之一。例如,有的脑部肿瘤病人在进行肿瘤切除时,被误伤到面部神经,导致面瘫等后遗症。增加了病患术后的痛苦。本申请上述各个实施例所示的方案,旨在提高在显微镜手术过程中辅助操作人员更准确的识别指定类型器官组织的位置,大幅降低手术事故。
比如,在肿瘤切除手术中,医生仅凭肉眼判断肿瘤边缘容易出现差错,如果未能一次术中完整切除肿瘤,术后肿瘤会有复发的风险,导致二次手术的需要。这将极大的增加病患的痛苦和治疗的成本。通过本申请上述实施例所示的方案可以精确识别肿瘤边缘,降低二次手术的可能性并减少病患不必要的就医开支。例如,在脑部肿瘤手术中,医生通过显微镜的目镜观察病人脑部时,显微镜中的图像采集组件实时采集目镜视野下的脑部图像,并将脑部图像传递为显微镜中的处理器或者显微镜外的控制设备,由处理器或者控制设备通过图像分割网络对脑部图像进行识别,获得脑部图像中指定类型器官组织的位置信息,并基于识别出的指定类型器官组织的位置信息生成AR影像,并将AR影像发送给显微镜中的投影组件,由显微镜中的投影组件将AR影像投影到目镜视野中,从而通过AR影像来指示目镜视野下的指定类型器官组织的位置。
本申请上述各个实施例所示的方案,结合了软硬件上的创新,将高光谱、人工智能、增强现实等技术引入神经外科手术中,在外置屏幕或显微镜视野下增强显示肉眼颜色相近的不同组织,让医生轻松判断不同组织边界并精准切除肿瘤等病灶组织避开神经和血管等区域减小手术风险。
本申请上述各个实施例所示的方案不仅对神经外科手术有重大意义,还对其他临床手术具有实用价值。
其中自动化的术中图像采集与组织分割也让未来精准手术机器人的开发收益。另外,图像数字化和增强现实技术有利于让神经外科医师远程实施诊治,实时对伤患进行会诊,指导抢救甚至参与远程手术。
图9是根据一示例性实施例示出的一种计算机设备的结构示意图。该计算机设备可以实现为上述图1、图2或图4所示的显微镜,或者,该计算机设备可以实现为上述图5所示系统中的控制设备。其中,计算机设备中的处理器与显微镜中的投影组件以及图像采集组件分别电性相连,该显微镜是上述图1、图2、图4或图5涉及的显微镜。
所述计算机设备900包括中央处理单元(CPU,Central Processing Unit)901、包括随机存取存储器(Random Access Memory,RAM)902和只读存储器(Read-Only Memory,ROM)903的系统存储器904,以及连接系统存储器904和中央处理单元901的系统总线905。可选的,所述计算机设备900还包括帮助计算机内的各个器件之间传输信息的基本输入/输出系统906,和用于存储操作系统913、应用程序914和其他程序模块915的大容量存储设备907。
所述大容量存储设备907通过连接到系统总线905的大容量存储控制器(未示出)连接到中央处理单元901。所述大容量存储设备907及其相关联的计算机可读介质为计算机设备900提供非易失性存储。也就是说,所述大容量存储设备907可以包括诸如硬盘或者光盘只读存储器(Compact Disc Read-Only Memory,CD-ROM)驱动器之类的计算机可读介质(未示出)。
不失一般性,所述计算机可读介质可以包括计算机存储介质和通信介质。计算机存储介质包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据等信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质。计算机存储介质包括RAM、ROM、闪存或其他固态存储其技术,CD-ROM、或其他光学存储、磁带盒、磁带、磁盘存储或其他磁性存储设备。当然,本领域技术人员可知所述计算机存储介质不局限于上述几种。上述的系统存储器904和大容量存储设备907可以统称为存储器。
计算机设备900可以通过连接在所述系统总线905上的网络接口单元911连接到互联网或者其它网络设备。
所述存储器还包括一个或者一个以上的程序,所述一个或者一个以上程序存储于存储器中,中央处理器901通过执行该一个或一个以上程序来实现图7所示的方法的全部或者部分步骤。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括计算机程序(指令)的存储器,上述程序(指令)可由计算机设备的处理器执行以完成本申请各个实施例所示的方法。例如,所述非临时性计算机可读存储介质可以是只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、只读光盘(Compact Disc Read-Only Memory,CD-ROM)、磁带、软盘和光数据存储设备等。
在示例性实施例中,还提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述图7所示的方法的全部或者部分步骤。
其中,上述的该计算机设备的处理器与显微镜中的投影组件以及图像采集组件分别电性相连,该显微镜是上述图1、图2、图4或图5涉及的显微镜。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由权利要求指出。
应当理解的是,本申请并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。
Claims (15)
1.一种显微镜,其特征在于,所述显微镜包括:目镜组件、投影组件、图像采集组件、以及第一分束器;
所述第一分束器设置在所述目镜组件与目标物之间的第一光路上;
所述投影组件设置在所述第一分束器的一侧,且所述投影组件发出的光线经过所述第一分束器的反射后,沿所述第一光路向所述目镜组件传播;
所述图像采集组件设置在所述第一分束器的另一侧,且从所述目标物出发的光线经过所述第一分束器的反射后,向所述图像采集组件传播;
所述投影组件,用于向所述目镜组件投影增强现实AR影像;所述AR影像是基于对所述图像采集组件采集到的图像进行识别得到的图像识别结果生成的。
2.根据权利要求1所述的显微镜,其特征在于,所述显微镜还包括:第一偏振片和第二偏振片;
所述第一偏振片设置在所述第一分束器与所述投影组件之间;
所述第二偏振片设置在所述第一分束器与所述图像采集组件之间;
所述第一偏振片的偏振方向与所述第二偏振片的偏振方向垂直。
3.根据权利要求1所述的显微镜,其特征在于,所述显微镜还包括光源;
所述光源用于向所述目标物补光。
4.根据权利要求3所述的显微镜,其特征在于,所述光源发出的光线包括宽光谱光线,所述图像采集组件为内置高光谱或多光谱相机。
5.根据权利要求3所述的显微镜,其特征在于,所述显微镜还包括:光反射器;
所述光源发的光线经过所述光反射器反射后,向所述目标物传播。
6.根据权利要求1所述的显微镜,其特征在于,所述目镜组件包括第一目镜和第二目镜;
所述第一分束器设置在所述第一目镜与所述目标物之间。
7.根据权利要求6所述的显微镜,其特征在于,所述显微镜还包括第一透镜;
所述第一透镜设置在第二目镜与所述目标物之间;
从所述目标物出发的光线透过所述第一分束器的光程,与透过所述第一透镜的光程相同。
8.根据权利要求7所述的显微镜,其特征在于,所述第一透镜的透光率,与所述第一分束器的透光率相同。
9.根据权利要求1所述的显微镜,其特征在于,所述目标物为手术中器官;
所述投影组件,用于向所述目镜组件投影指示信息的AR影像,所述指示信息用于指示所述器官中的指定类型器官组织在所述目镜视野中的位置。
10.根据权利要求9所述的显微镜,其特征在于,
所述投影组件以及所述图像采集组件分别与处理器电性相连;
所述处理器,用于获取所述图像采集组件实时采集的器官图像,并对所述器官图像进行组织识别,获得所述指定类型器官组织在所述目镜视野中的位置,基于所述指定类型器官组织在所述目镜视野中的位置生成所述指示信息对应的AR影像,并将所述AR影像发送给所述投影组件。
11.根据权利要求10所述的显微镜,其特征在于,
所述处理器,用于通过图像分割模型对所述器官图像进行组织识别,获得所述指定类型器官组织在所述目镜视野中的位置;
其中,所述图像分割模型包括三维卷积神经网络3D-CNN模型。
12.一种投影方法,其特征在于,所述方法由处理器执行,所述处理器与显微镜中的投影组件以及图像采集组件分别电性相连,所述显微镜是如权利要求1至11任一所述的显微镜,所述方法包括:
获取显微镜中的图像采集组件实时采集的器官图像;
对所述器官图像进行组织识别,获得所述指定类型器官组织在所述目镜视野中的位置;
基于所述指定类型器官组织在显微镜的目镜视野中的位置生成所述指示信息对应的AR影像;
将所述AR影像发送给显微镜中的投影组件。
13.一种投影装置,其特征在于,所述装置用于处理器中,所述处理器与显微镜中的投影组件以及图像采集组件分别电性相连,所述显微镜是如权利要求1至11任一所述的显微镜,所述装置包括:
图像获取模块,用于获取显微镜中的图像采集组件实时采集的器官图像;
识别模块,用于对所述器官图像进行组织识别,获得所述指定类型器官组织在所述目镜视野中的位置;
影像生成模块,用于基于所述指定类型器官组织在显微镜的目镜视野中的位置生成所述指示信息对应的AR影像;
影像发送模块,用于将所述AR影像发送给显微镜中的投影组件。
14.一种计算机设备,其特征在于,所述计算机设备中的处理器与显微镜中的投影组件以及图像采集组件分别电性相连,所述显微镜是如权利要求1至11任一所述的显微镜;
所述计算机设备包含存储器,所述存储器中存储有至少一条计算机指令,所述至少一条计算机指令由所述处理器加载并执行以实现如权利要求12所述的投影方法。
15.一种计算机可读存储介质,其特征在于,所述存储介质中存储有至少一条计算机指令,所述至少一条计算机指令由计算机设备中的处理器加载并执行以实现如权利要求12所述的投影方法;
其中,所述处理器与显微镜中的投影组件以及图像采集组件分别电性相连,所述显微镜是如权利要求1至11任一所述的显微镜。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110777954.3A CN115598817A (zh) | 2021-07-09 | 2021-07-09 | 显微镜、投影方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110777954.3A CN115598817A (zh) | 2021-07-09 | 2021-07-09 | 显微镜、投影方法、装置、计算机设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115598817A true CN115598817A (zh) | 2023-01-13 |
Family
ID=84844872
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110777954.3A Pending CN115598817A (zh) | 2021-07-09 | 2021-07-09 | 显微镜、投影方法、装置、计算机设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115598817A (zh) |
-
2021
- 2021-07-09 CN CN202110777954.3A patent/CN115598817A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106236006B (zh) | 3d光学分子影像腹腔镜成像系统 | |
JP6285522B2 (ja) | 灌流評価マルチモダリティ光学医用デバイス | |
CN112043383B (zh) | 一种眼科手术导航系统及电子设备 | |
CN110638527B (zh) | 基于光学相干层析增强现实的手术显微成像系统 | |
Bogdanova et al. | Depth perception of surgeons in minimally invasive surgery | |
CN103892919B (zh) | 基于光学相干层析引导的显微外科手术系统 | |
CN110811498A (zh) | 可见光和近红外荧光3d融合图像内窥镜系统 | |
KR20170044610A (ko) | 조직 구조의 위치를 수술 중 확인하기 위한 방법 및 시스템 | |
JP2008516727A (ja) | デジタル眼科ワークステーション | |
CN104918572A (zh) | 用于外科手术的视频捕获和显示的数字系统 | |
KR20160010864A (ko) | 검안경 | |
CN105342561B (zh) | 无线声控穿戴式分子影像导航系统 | |
JP6972049B2 (ja) | 脈管叢構造の弾性マッピングを用いた画像処理方法および画像処理装置 | |
CN114300095A (zh) | 图像处理设备、图像处理方法、装置、设备及存储介质 | |
CN111128382A (zh) | 一种人工智能多模成像分析装置 | |
US10989911B2 (en) | Method for operating a medical-optical display system | |
US11698535B2 (en) | Systems and methods for superimposing virtual image on real-time image | |
JP2023534449A (ja) | 眼科手術用のデジタル画像最適化 | |
DE102018106651A1 (de) | Visualisierungssystem und Verfahren zum Erzeugen von holographischen Darstellungen aus optischen Signalen | |
GB2588774A (en) | Augmented reality headset for medical imaging | |
CN115035004A (zh) | 图像处理方法、装置、设备、可读存储介质及程序产品 | |
CN109771052B (zh) | 基于多目成像和多偏振态成像的三维图像建立方法及系统 | |
CN115598817A (zh) | 显微镜、投影方法、装置、计算机设备及存储介质 | |
WO2020014999A1 (zh) | 一种用于手术的不可见光显示设备和光学指导系统 | |
JP5555073B2 (ja) | 美容支援装置及び美容カウンセリング方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40080371 Country of ref document: HK |