CN117953043A - 一种基于内镜图像的区域测量方法、装置及存储介质 - Google Patents

一种基于内镜图像的区域测量方法、装置及存储介质 Download PDF

Info

Publication number
CN117953043A
CN117953043A CN202410348842.XA CN202410348842A CN117953043A CN 117953043 A CN117953043 A CN 117953043A CN 202410348842 A CN202410348842 A CN 202410348842A CN 117953043 A CN117953043 A CN 117953043A
Authority
CN
China
Prior art keywords
instrument
area
determining
measured
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202410348842.XA
Other languages
English (en)
Other versions
CN117953043B (zh
Inventor
江维
江国豪
杨涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Yunli Jingan Technology Co ltd
Original Assignee
Beijing Yunli Jingan Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Yunli Jingan Technology Co ltd filed Critical Beijing Yunli Jingan Technology Co ltd
Priority to CN202410348842.XA priority Critical patent/CN117953043B/zh
Publication of CN117953043A publication Critical patent/CN117953043A/zh
Application granted granted Critical
Publication of CN117953043B publication Critical patent/CN117953043B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Quality & Reliability (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Geometry (AREA)
  • Endoscopes (AREA)

Abstract

本申请实施例公开了一种基于内镜图像的区域测量方法、装置及存储介质。其中,该方法包括:将器械沿软式内窥镜的工作孔道输送至给定位置;调整处于给定位置的器械与被测区域的相对位置;在调整处于给定位置的器械与被测区域的相对位置的过程中,获取软式内窥镜的相机采集到的第一内镜图像;根据第一内镜图像中的器械图像信息,确定被测区域的尺寸信息。可见,本申请实施例中通过调整器械与被测区域的相对位置,使得在内镜图像中将器械与被测区域关联起来,如此能利用内镜图像中的器械图像信息,确定被测区域的尺寸信息,避免人眼目测估计息肉或病变带来的误差,提高息肉或病变的测量精度。

Description

一种基于内镜图像的区域测量方法、装置及存储介质
技术领域
本申请涉及医疗器械技术领域,更具体的说,涉及一种基于内镜图像的区域测量方法、装置及存储介质。
背景技术
消化道、呼吸道等自然腔道是人类常见疾病好发部位,由于病灶处于人体自然腔道内部,因此需要通过软式内窥镜进行检查或手术治疗。
软式内窥镜检查或手术,需要人双手配合持镜体、操作旋钮、手工输送镜体等动作完成操作过程;同时需要配合术中术式要求使用不同种类的器械。
目前,大多数内窥镜医师是通过人眼目测估计息肉或病变的大小,如此往往不能准确估计息肉或病变的大小尺寸。
发明内容
有鉴于此,本申请实施例公开一种基于内镜图像的区域测量方法、装置及存储介质,提高息肉或病变的测量精度。
本申请实施例提供的技术方案如下:
第一方面,本申请实施例提供了一种基于内镜图像的区域测量方法,所述方法包括:
将器械沿软式内窥镜的工作孔道输送至给定位置;
调整处于所述给定位置的所述器械与被测区域的相对位置;
在调整处于所述给定位置的所述器械与被测区域的相对位置的过程中,获取所述软式内窥镜的相机采集到的第一内镜图像;
根据所述第一内镜图像中的器械图像信息,确定所述被测区域的尺寸信息。
在一种可能的实现方式中,所述根据所述第一内镜图像中的器械图像信息,确定所述被测区域的尺寸信息,包括:
根据所述器械图像信息确定所述器械的出镜长度在所述第一内镜图像中对应的出镜像素距离;所述出镜长度包括所述器械的头端到所述工作孔道的出口的距离;
利用内镜成像原理,通过所述出镜像素距离,确定所述被测区域的尺寸信息。
在一种可能的实现方式中,所述调整处于所述给定位置的所述器械与被测区域的相对位置,包括:
将处于所述给定位置的所述器械调整为与被测区域相对垂直;
所述利用内镜成像原理,通过所述出镜像素距离,确定所述被测区域的尺寸信息,包括:
确定所述被测区域在所述第一内镜图像中对应的长度像素距离和第一宽度像素距离;
利用内镜成像原理,通过所述出镜像素距离、所述长度像素距离和所述第一宽度像素距离,确定所述被测区域的尺寸信息。
在一种可能的实现方式中,所述调整处于所述给定位置的所述器械与被测区域的相对位置,包括:
将处于所述给定位置的所述器械调整为与被测区域相对平行;
所述利用内镜成像原理,通过所述出镜像素距离,确定所述被测区域的尺寸信息,包括:
确定所述器械的第一待测长度在所述第一内镜图像中对应的第一待测像素距离;所述第一待测长度包括所述器械的执行器的末端到所述工作孔道的出口的距离;
确定所述器械的第二待测长度在所述第一内镜图像中对应的第二待测像素距离;所述第二待测长度包括所述执行器的中心点到所述工作孔道的出口的距离;
确定所述被测区域在所述第一内镜图像中对应的第二宽度像素距离;
利用内镜成像原理,通过所述出镜像素距离、所述第一待测像素距离、所述第二待测像素距离和所述第二宽度像素距离,确定所述被测区域的尺寸信息。
在一种可能的实现方式中,所述调整所述器械与被测区域的相对位置,包括:
根据所述器械的执行器对应的目标驱动角度驱动所述执行器选中所述被测区域;
所述方法还包括:
确定所述第一内镜图像中的执行器轮廓;
根据驱动角度与执行器覆盖尺寸关系,确定所述目标驱动角度对应的执行器覆盖尺寸;
根据所述执行器轮廓在所述第一内镜图像添加预估尺寸信息;所述预估尺寸信息包括:所述执行器覆盖尺寸和所述执行器覆盖尺寸对应的矩形框。
在一种可能的实现方式中,所述方法还包括:
根据所述预估尺寸信息,确定所述第一内镜图像对应的像素距离与尺寸换算比例;
基于所述像素距离与尺寸换算比例,在所述第一内镜图像中显示对应的测量工具;所述测量工具用于测量所述第一内镜图像中任意两个像素点之间的距离。
在一种可能的实现方式中,所述方法还包括:
获取所述软式内窥镜的相机采集到的第二内镜图像;
在所述第二内镜图像中确定所述被测区域对应的第一标记区域;
根据所述第一标记区域确定第一被测区域匹配模板;
在调整处于所述给定位置的所述器械与被测区域的相对位置的过程中,根据所述第一被测区域匹配模板标记所述第一内镜图像中的被测区域。
在一种可能的实现方式中,所述方法还包括:
驱动所述器械的头端触及所述被测区域的标记点;
根据接收到的选中指令选中所述标记点;
根据选中的所述标记点,确定所述被测区域对应的第二标记区域;
根据所述第二标记区域确定第二被测区域匹配模板;
在调整处于所述给定位置的所述器械与被测区域的相对位置的过程中,根据所述第二被测区域匹配模板标记所述第一内镜图像中的被测区域。
第二方面,本申请实施例提供了一种基于内镜图像的区域测量装置,所述装置包括:
输送模块,用于将器械沿软式内窥镜的工作孔道输送至给定位置;
调整模块,用于调整处于所述给定位置的所述器械与被测区域的相对位置;
获取模块,用于在调整处于所述给定位置的所述器械与被测区域的相对位置的过程中,获取所述软式内窥镜的相机采集到的第一内镜图像;
确定模块,用于根据所述第一内镜图像中的器械图像信息,确定所述被测区域的尺寸信息。
第三方面,本申请实施例提供了一种基于内镜图像的区域测量装置,包括:
存储器,用于存储指令;
处理器,用于执行所述存储器中的所述指令以执行以上第一方面任一项所述的基于内镜图像的区域测量方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,包括指令,当其在计算机上运行时,使得计算机执行以上第一方面任一项所述的基于内镜图像的区域测量方法。
第五方面,本申请实施例提供一种计算机程序产品,所述计算机程序产品在终端设备上运行时,使得所述终端设备执行以上第一方面任一项所述的基于内镜图像的区域测量方法。
基于上述技术方案,本申请具有以下有益效果:
本申请实施例公开了一种基于内镜图像的区域测量方法、装置及存储介质。其中,该方法包括:将器械沿软式内窥镜的工作孔道输送至给定位置;调整处于给定位置的器械与被测区域的相对位置;在调整处于给定位置的器械与被测区域的相对位置的过程中,获取软式内窥镜的相机采集到的第一内镜图像;根据第一内镜图像中的器械图像信息,确定被测区域的尺寸信息。可见,本申请实施例中通过调整器械与被测区域的相对位置,使得在内镜图像中将器械与被测区域关联起来,如此能利用内镜图像中的器械图像信息,确定被测区域的尺寸信息,避免人眼目测估计息肉或病变带来的误差,提高息肉或病变的测量精度。而且,通过调整器械与被测区域的相对位置,使得能在较佳的视野下获取包括器械与被测区域的内镜图像,从而能在较佳视野下确定被测区域的尺寸信息,进而能进一步提高息肉或病变的测量精度。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据公开的附图获得其他的附图。
图1为本申请实施例公开的一种软式内窥镜的结构示意图;
图2为本申请实施例公开的一种器械的结构示意图;
图3为本申请实施例公开的一种器械的输送状态示意图;
图4为本申请实施例公开的一种基于内镜图像的区域测量方法的流程图;
图5为本申请实施例公开的执行器运动的示意图;
图6为本申请实施例公开的一种内镜视野与器械出口的示意图;
图7为本申请实施例公开的一种器械与被测区域相对垂直的示意图;
图8为本申请实施例公开的一种确定尺寸信息的原理示意图;
图9为本申请实施例公开的一种器械与被测区域相对平行的示意图;
图10为本申请实施例公开的另一种确定尺寸信息的原理示意图;
图11为本申请实施例公开的一种圈套器的示意图;
图12为本申请实施例公开的一种标记被测区域的示意图;
图13为本申请实施例公开的一种基于内镜图像的区域测量装置的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
参见图1,为本申请实施例公开的一种软式内窥镜的结构示意图。软式内窥镜10包括:操作部101、插入部102、弯曲段103和头端部104。操作部101包括:工作站接口1011、大拨轮旋钮1012、小拨轮旋钮1013、手柄1014、功能按钮1015、吸引阀按钮1016、水汽阀按钮1017等。手柄1014下方有工作孔道105的入口1051,工作孔道105贯穿插入部102、弯曲段103和头端部104,到达工作孔道105的出口1052。其中,工作站接口1011用于与工作站对接,读取镜下视野的图像。头端部104为软式内窥镜前端刚性部分,头端部104的端面设置有相机和工作孔道的出口1052。弯曲段103一般可以四向弯曲。
参见图2,为本申请实施例公开的一种器械的结构示意图,该器械20为活检钳,采用盘式方案。该活检钳包括:执行器201、器械插入管202、器械出口203、开合部204、器械输送单元205等等。其中,转动器械输送单元205能实现器械输送运动,器械输送单元205的转动角度与器械输送长度成正比;驱动开合部204能实现钳口开合。
参见图3,为本申请实施例公开的一种器械的输送状态示意图。引导管40作为器械20导入通道,器械20通过引导管40连接至软式内窥镜10的工作孔道的入口1051。器械驱动装置30可提供驱动力至器械20,以实现器械20的输送操作和执行器201的旋转或开闭等操作。器械驱动装置30包括:编码器301等,编码器301获取器械20的旋转角度,根据器械20固有的内部旋转角度,按照旋转角度与长度比例换算得到输送长度。
参见图4,本申请实施例公开的一种基于内镜图像的区域测量方法的流程图,该方法包括:
S401、将器械沿软式内窥镜的工作孔道输送至给定位置。
需要说明的是,给定位置指的是工作孔道的出口。
本申请实施例中可以接收输送命令,根据输送命令控制器械沿输送管道输送目标长度,然后获取软式内窥镜的相机采集到的第二内镜图像,当第二内镜图像中识别到器械对应的器械特征时,停止输送器械,此时器械输送至给定位置。其中,输送管道包括:引导管40和软式内窥镜的工作孔道105,器械特征为器械靠近工作孔道的出口的头端特征。可见,本申请实施例中会先将器械输送目标长度,以使得器械的头端尽可能靠近工作孔道的出口,在此基础上,利用采集到的内镜图像结合图像识别,进一步控制器械输送,在器械的头端接近工作孔道的出口时停止器械输送,如此器械的输送不受工作孔道形态的影响,能准确地控制器械的输送长度,将器械输送至给定位置。可以理解的是,上述是将器械输送至给定位置的其中一种可实施方式,本申请实施例中还可以采用其他方式将器械输送至给定位置,本申请实施例对此不做限制,可根据实际需求选择。
S402、调整处于给定位置的器械与被测区域的相对位置。
可以理解的是,调整处于给定位置的器械与被测区域的相对位置后,器械将不再处于给定位置。
本申请实施例中可以通过控制器械整体继续向前输送,和/或控制器械的执行器向前输送,和/或驱动器械的执行器打开,和/或调整头端部的位姿等等,实现器械与被测区域的相对位置的调整。可以理解的是,位姿包括位置和姿态,可以通过内镜操作机器人、护士机器人、医师等控制拨轮位置和镜体输送和旋转,实现头端部的位置和姿态的调整。
其中,执行器包括:钳类执行器、针类执行器以及圈套类执行器等等,钳类执行器运动包括打开钳口、闭合钳口,针类器械运动包括出针、收针,圈套类执行器运动包括出圈、收圈等等。参见图5,图5中左边部分为活检钳的部分示意图,驱动丝位于器械插入管内,可驱动钳类执行器开合,图5中右边部分为注射针的部分示意图,驱动软管位于器械插入管内,可驱动注射针出针或收针。
S403、在调整处于给定位置的器械与被测区域的相对位置的过程中,获取软式内窥镜的相机采集到的第一内镜图像。
需要说明的是,本申请实施例中软式内窥镜的相机是实时采集内镜图像,实时获取内镜图像进行识别的。
第一内镜图像是软式内窥镜的相机在器械与被测区域的相对位置的调整过程中实时采集得到的内镜图像。
S404、根据第一内镜图像中的器械图像信息,确定被测区域的尺寸信息。
其中,尺寸信息包括被测区域的长度和/或宽度。
可以理解的是,第一内镜图像中可以包括:器械图像信息和被测区域图像信息。
可见,本申请实施例中通过调整器械与被测区域的相对位置,使得在内镜图像中将器械与被测区域关联起来,如此能利用内镜图像中的器械图像信息,确定被测区域的尺寸信息,避免人眼目测估计息肉或病变带来的误差,提高息肉或病变的测量精度。而且,通过调整器械与被测区域的相对位置,使得能在较佳的视野下获取包括器械与被测区域的内镜图像,从而能在较佳视野下确定被测区域的尺寸信息,进而能进一步提高息肉或病变的测量精度。此外,本申请实施例中不需要添加多余的检测设备就能确定被测区域的尺寸信息,实施成本低。
在一种可能的实现方式中,本申请实施例中提供的基于内镜图像的区域测量方法中S404可以包括:
S4041、根据器械图像信息确定器械的出镜长度在第一内镜图像中对应的出镜像素距离。
其中,出镜长度包括器械的头端到工作孔道的出口1052的距离,也可以理解为出镜长度包括器械的头端到头端部104的端面的距离。出镜像素距离是第一内镜图像中器械的头端到工作孔道的出口的像素距离,像素距离指的是显示器屏幕上两个像素点之间的物理距离。
S4042、利用内镜成像原理,通过出镜像素距离,确定被测区域的尺寸信息。
参见图6,为本申请实施例公开的一种内镜视野与器械出口的示意图。需要说明的是,器械出口即工作孔道的出口,相机包括镜头光心和光学模组,镜头光心即为相机焦点,内窥镜头部端端面即头端部104的端面。图6中H2表示出镜像素距离,即H2是器械的出镜长度在内镜视野下的像素距离;L1表示虚拟成像面至头端部的端面的距离,即虚拟成像面至工作孔道的出口的距离;L2表示器械的头端到虚拟成像面的距离,Lc表示相机焦点至头端部的端面的距离;h表示工作孔道与相机焦点的相对距离。需要说明的是,在给定工作孔道的出口与相机的相对位置下,在单目视觉下相机成像的虚拟成像面与相机焦点位置固定,即Lc,L1,h固定。
基于内镜成像原理可知,当器械处于L2处,出镜长度的计算公式可以为:
L=L2+L1;
L2 =H2×L1/( h- H2);
其中,L表示器械的出镜长度,L2表示器械的头端到虚拟成像面的距离,L1表示虚拟成像面至头端部的端面的距离,H2表示出镜像素距离,h表示工作孔道与相机焦点的相对距离。
本申请实施例中提供了两种利用内镜成像原理,通过出镜像素距离,确定被测区域的尺寸信息的方法,这两种方法中器械与被测区域的相对位置不同。
第一种方法中,器械与被测区域相对垂直,如图7所示。对应的,S402可以包括:将处于给定位置的器械调整为与被测区域相对垂直。S4042可以包括:确定被测区域在第一内镜图像中对应的长度像素距离和第一宽度像素距离;利用内镜成像原理,通过出镜像素距离、长度像素距离和第一宽度像素距离,确定被测区域的尺寸信息。如此能通过调整器械与被测区域相对垂直,基于特定的相对位置关系,利用内镜成像原理和像素距离更准确地确定出被测区域的尺寸信息。
参见图8,为本申请实施例公开的一种确定尺寸信息的原理示意图,图8中与图6中相同的部分不再赘述。结合图8进行说明,本申请实施例中利用内镜成像原理,通过出镜像素距离、长度像素距离和第一宽度像素距离,确定被测区域的尺寸信息,可以包括:
通过如下公式确定被测区域的尺寸信息:
L3=H3(L1+L2)/L1;
L4=H4(L1+L2)/L1;
L2=H2×L1/(h-H2);
其中,L3表示被测区域的长度;L4表示被测区域的宽度;H3表示长度像素距离;H4表示第一宽度像素距离;H2表示出镜像素距离;L1表示虚拟成像面至头端部的端面的距离;L2表示器械的头端到虚拟成像面的距离,出镜长度L=L2+L1;h表示工作孔道与相机焦点的相对距离。可以理解的是,本申请实施例中并不需要计算得到出镜长度。
本申请实施例中可以调整器械与被测区域的中心线接触,同时调整内镜头端部的端面与被测区域的距离,使得被测区域处于视野中心线的下方,再调整头端部的位姿,获取目标像素距离,确保器械与被测区域所在平面相对垂直。
第二种方法中,器械与被测区域相对平行贴合,如图9所示。对应的,S402可以包括:将处于给定位置的器械调整为与被测区域相对平行。S4042可以包括:确定器械的第一待测长度在第一内镜图像中对应的第一待测像素距离;第一待测长度包括器械的执行器的末端到工作孔道的出口的距离;确定器械的第二待测长度在第一内镜图像中对应的第二待测像素距离;第二待测长度包括执行器的中心点到工作孔道的出口的距离;确定被测区域在第一内镜图像中对应的第二宽度像素距离;利用内镜成像原理,通过出镜像素距离、第一待测像素距离、第二待测像素距离和第二宽度像素距离,确定被测区域的尺寸信息。如此能通过调整器械与被测区域相对平行,基于特定的相对位置关系,利用内镜成像原理和像素距离更准确地确定出被测区域的尺寸信息。
参见图10,为本申请实施例公开的一种确定尺寸信息的原理示意图,图10中与图6中相同的部分不再赘述。结合图10进行说明,本申请实施例中利用内镜成像原理,通过出镜像素距离、第一待测像素距离、第二待测像素距离和第二宽度像素距离,确定被测区域的尺寸信息,可以包括:
通过如下公式确定被测区域的尺寸信息:
Ls’=L6-L4;
Hs’=H7×L5/H5;
L6=H6×L1/(h-H6);
L4=H4×L1/(h-H4);
L5=H5×L1/(h-H5);
其中,Ls’表示被测区域的长度;Hs’表示被测区域的宽度;L6表示器械的头端到虚拟成像面的距离,出镜长度L=L6+L1;L4表示执行器的末端到虚拟成像面的距离,第一待测长度=L4+L1;L5表示执行器的中心点到虚拟成像面的距离,第二待测长度=L5+L1;L1表示虚拟成像面至头端部的端面的距离;H7表示第二宽度像素距离;H5表示第二待测像素距离;H6表示出镜像素距离;H4表示第一待测像素距离;h表示工作孔道与相机焦点的相对距离。可以理解的是,本申请实施例中并不需要计算得到出镜长度、第一待测长度、第二待测长度。
可见,本申请实施例中在内镜图像中将器械与被测区域关联起来,使得利用内镜成像原理结合内镜图像中的相应像素距离,能确定出被测区域的尺寸信息,避免人眼目测估计息肉或病变带来的误差,提高息肉或病变的测量精度。而且,提供了将器械调整为与被测区域垂直或平行两种情况下,确定被测区域的尺寸信息的方法,适用于更多器械,在使用不同的器械的情况下,能适应性地采用更合适的方法确定被测区域的尺寸信息。
除上述利用内镜成像原理确定被测区域的尺寸信息的方法,本申请实施例还提供了利用预设的驱动角度与执行器覆盖尺寸关系确定执行器覆盖尺寸,以便相关人员以执行器覆盖尺寸为参考,确定被测区域的尺寸信息的实施方式。
在一种可能的实现方式中,本申请实施例中提供的基于内镜图像的区域测量方法中S402可以包括:根据器械的执行器对应的目标驱动角度驱动执行器选中被测区域;
该方法还包括:根据器械图像信息确定第一内镜图像中的执行器轮廓;根据驱动角度与执行器覆盖尺寸关系,确定目标驱动角度对应的执行器覆盖尺寸;根据执行器轮廓在第一内镜图像添加预估尺寸信息;预估尺寸信息包括:执行器覆盖尺寸和执行器覆盖尺寸对应的矩形框。如此能在内镜图像上给相关人员提供参考,便于确定被测区域的尺寸信息。
参见图7和图9,图7和图9也可以理解为驱动执行器选中被测区域的示意图。其中,图9中的20×10即是执行器覆盖尺寸,虚线矩形框即是执行器覆盖尺寸对应的矩形框。
参见图11,为本申请实施例公开的一种圈套器的示意图。结合图11对驱动角度与执行器覆盖尺寸关系的确定进行说明。圈套器包括圈套类执行器,圈套类执行器伸出外鞘管时,圈套类执行器会展开,圈套类执行器在无外鞘管约束时呈现近似椭圆形,出圈的长度与圈展开的大小/>即圈套类执行器覆盖尺寸,通过实验可以拟合出圈套类执行器驱动/>角度对应推拉丝长度/>,拟合出圈长度/>和圈展开宽度/>,从而确定驱动角度与执行器覆盖尺寸关系。本申请实施例中还可以在对应的界面上显示圈套类执行器的几何形态。
在一种可能的实现方式中,本申请实施例中S404可以包括:根据器械图像信息和预估尺寸信息,确定第一内镜图像对应的像素距离与尺寸换算比例;根据像素距离与尺寸换算比例,确定被测区域的尺寸信息。
同样参见图7,本申请实施例中还可以根据预估尺寸信息,确定第一内镜图像对应的像素距离与尺寸换算比例;基于像素距离与尺寸换算比例,在第一内镜图像中显示对应的测量工具;该测量工具用于测量第一内镜图像中任意两点之间的距离。图7中的12mm即是利用显示的测量工具测量得到的第一内镜图像中两个像素点之间的距离。可以理解的是,相关人员可以基于测量工具选取第一内镜图像中被测区域的两个像素点,以此得到被测区域的尺寸信息。
本申请实施例中可以根据器械图像信息将执行器所在像素点区域设置为感兴趣区域,并提取该感兴趣区域对应的区域图像,经过高斯平滑滤波、Canny边缘检测算法获取区域图像中的执行器轮廓。可以理解的是,还可以采用其他方式确定执行器轮廓,本申请实施例对此不做限制。
可见,本申请实施中在第一内镜图像上叠加对应的预估尺寸信息,如此能在内镜图像上给相关人员提供参考,便于确定被测区域的尺寸信息,避免人眼目测估计息肉或病变带来的误差,提高息肉或病变的测量精度。而且,基于预估尺寸信息提供对应的测量工具,便于相关人员基于该测量工具对被测区域进行进一步测量,进一步提高息肉或病变的测量精度。
参见图12,为本申请实施例公开的一种标记被测区域的示意图,图12中的虚线包围的区域即为被测区域。
在一种可能的实现方式中,本申请实施例中提供的基于内镜图像的区域测量方法还包括:获取软式内窥镜的相机采集到的第二内镜图像;在第二内镜图像中确定被测区域对应的第一标记区域;根据第一标记区域确定第一被测区域匹配模板;在调整处于给定位置的器械与被测区域的相对位置的过程中,根据第一被测区域匹配模板标记第一内镜图像中的被测区域。
需要说明的是,第二内镜图像是器械进入内窥镜视野前采集到的图像,第二内镜图像包括被测区域图像信息,但不包括器械图像信息。用户可以通过鼠标或者触摸屏在第二内镜图像中选中被测区域对应的标记点,从而基于多个标记点确定第一标记区域。
其中,第一被测区域匹配模板是由第一标记区域的轮廓以及该轮廓内部的像素构成。
在一种可能的实现方式中,本申请实施例中提供的基于内镜图像的区域测量方法还包括:驱动器械的头端触及被测区域的标记点;根据接收到的选中指令选中标记点;根据选中的标记点,确定被测区域对应的第二标记区域;
根据第二标记区域确定第二被测区域匹配模板;在调整处于给定位置的器械与被测区域的相对位置的过程中,根据第二被测区域匹配模板标记第一内镜图像中的被测区域。
其中,第二被测区域匹配模板是由第二标记区域的轮廓以及轮廓内部的像素构成。
本申请实施例中可以提取多个选中的标记点的像素位置,并设定每个标志点的半径,计算选中的标记点的颜色特征和灰度值,以此计算连通区域,确定被测区域对应的标记区域。可以理解的是,本申请实施例中还可以采用其他方式确定标记区域,本申请实施例对此不做限制。
本申请实施例中可以在第一内镜图像与被测区域匹配模板中任选一点,采取隔点搜索的方式计算二者灰度的相似性,完成粗匹配得到粗相关点,将得到的粗相关点作为中心点,用最小二乘法寻找二者之间的最优匹配点,匹配成功计算,标记第一内镜图像中的被测区域。
可以理解的是,同一活体内可能会存在多处息肉或病变,即可能会存在多个被测区域,若被测区域发生变动后,被测区域匹配模板也需要重新标记得到,保存变动后的被测区域匹配模板后,以变动后的模板做后续跟踪。
可以理解的是,本申请实施例中也可以在除调整处于给定位置的器械与被测区域的相对位置的过程之外的其他过程,根据第一被测区域匹配模板或第二被测区域匹配模板标记被测区域,实现对被测区域的跟踪。
可见,本申请实施例中通过设定被测区域匹配模板,如此在调整处于给定位置的器械与被测区域的相对位置的过程中,根据被测区域匹配模板标记第一内镜图像中的被测区域,使得快速定位到被测区域,更快地调整好将器械与被测区域的相对位置,提高被测区域的测量效率,从而提高息肉或病变的测量效率。
参见图13,本申请实施例公开的一种基于内镜图像的区域测量装置的结构示意图,该装置包括:
输送模块100,用于将器械沿软式内窥镜的工作孔道输送至给定位置;
调整模块200,用于调整处于所述给定位置的所述器械与被测区域的相对位置;
获取模块300,用于在调整处于所述给定位置的所述器械与被测区域的相对位置的过程中,获取所述软式内窥镜的相机采集到的第一内镜图像;
确定模块400,用于根据所述第一内镜图像中的器械图像信息,确定所述被测区域的尺寸信息。
可见,本申请实施例中通过调整器械与被测区域的相对位置,使得在内镜图像中将器械与被测区域关联起来,如此能利用内镜图像中的器械图像信息,确定被测区域的尺寸信息,避免人眼目测估计息肉或病变带来的误差,提高息肉或病变的测量精度。而且,通过调整器械与被测区域的相对位置,使得能在较佳的视野下获取包括器械与被测区域的内镜图像,从而能在较佳视野下确定被测区域的尺寸信息,进而能进一步提高息肉或病变的测量精度。此外,本申请实施例中不需要添加多余的检测设备就能确定被测区域的尺寸信息,实施成本低。
在一种可能的实现方式中,本申请实施例中提供的基于内镜图像的区域测量装置确定模块400包括:
像素确定单元,用于根据所述器械图像信息确定所述器械的出镜长度在所述第一内镜图像中对应的出镜像素距离;所述出镜长度包括所述器械的头端到所述工作孔道的出口的距离;
尺寸确定单元,用于利用内镜成像原理,通过所述出镜像素距离,确定所述被测区域的尺寸信息。
在一种可能的实现方式中,本申请实施例中提供的基于内镜图像的区域测量装置中调整模块200具体用于将处于所述给定位置的所述器械调整为与被测区域相对垂直;
像素确定单元,还用于确定所述被测区域在所述第一内镜图像中对应的长度像素距离和第一宽度像素距离;
尺寸确定单元,具体用于利用内镜成像原理,通过所述出镜像素距离、所述长度像素距离和所述第一宽度像素距离,确定所述被测区域的尺寸信息。
在一种可能的实现方式中,本申请实施例中提供的基于内镜图像的区域测量装置中,所述第一内镜图像为所述器械的执行器处于打开状态的图像;
调整模块200具体用于将处于所述给定位置的所述器械调整为与被测区域相对平行;
像素确定单元,还用于确定所述器械的第一待测长度在所述第一内镜图像中对应的第一待测像素距离;所述第一待测长度包括所述器械的执行器的末端到所述工作孔道的出口的距离;
像素确定单元,还用于确定所述器械的第二待测长度在所述第一内镜图像中对应的第二待测像素距离;所述第二待测长度包括所述执行器的中心点到所述工作孔道的出口的距离;
像素确定单元,还用于确定所述被测区域在所述第一内镜图像中对应的第二宽度像素距离;
尺寸确定单元,具体用于利用内镜成像原理,通过所述出镜像素距离、所述第一待测像素距离、所述第二待测像素距离和所述第二宽度像素距离,确定所述被测区域的尺寸信息。
在一种可能的实现方式中,本申请实施例中提供的基于内镜图像的区域测量装置中调整模块200具体用于根据所述器械的执行器对应的目标驱动角度驱动所述执行器选中所述被测区域;
确定模块400包括:
轮廓确定单元,用于根据所述第一内镜图像中的器械图像信息,确定所述第一内镜图像中的执行器轮廓;
尺寸确定单元,用于根据驱动角度与执行器覆盖尺寸关系,确定所述目标驱动角度对应的执行器覆盖尺寸;
添加单元,用于根据所述执行器轮廓在所述第一内镜图像添加预估尺寸信息;所述预估尺寸信息包括:所述执行器覆盖尺寸和所述执行器覆盖尺寸对应的矩形框;
尺寸确定单元,还用于根据所述预估尺寸信息,确定所述被测区域的尺寸信息。
在一种可能的实现方式中,本申请实施例中提供的基于内镜图像的区域测量装置中确定模块400,还用于根据所述预估尺寸信息,确定所述第一内镜图像对应的像素距离与尺寸换算比例;
该装置还包括:显示模块,用于基于所述像素距离与尺寸换算比例,在所述第一内镜图像中显示对应的测量工具;所述测量工具用于测量所述第一内镜图像中任意两点之间的距离。
在一种可能的实现方式中,本申请实施例中提供的基于内镜图像的区域测量装置中获取模块300,还用于获取所述软式内窥镜的相机采集到的第二内镜图像;
确定模块400,还用于在所述第二内镜图像中确定所述被测区域对应的第一标记区域;
确定模块400,还用于根据所述第一标记区域确定第一被测区域匹配模板;
该装置还包括:标记模块,用于在调整处于所述给定位置的所述器械与被测区域的相对位置的过程中,根据所述第一被测区域匹配模板标记所述第一内镜图像中的被测区域。
在一种可能的实现方式中,本申请实施例中提供的基于内镜图像的区域测量装置还包括:
驱动模块,用于驱动所述器械的头端触及所述被测区域的标记点;
选中模块,用于根据接收到的选中指令选中所述标记点;
确定模块400,还用于根据选中的所述标记点,确定所述被测区域对应的第二标记区域;
确定模块400,还用于根据所述第二标记区域确定第二被测区域匹配模板;
该装置还包括:标记模块,用于在调整处于所述给定位置的所述器械与被测区域的相对位置的过程中,根据所述第二被测区域匹配模板标记所述第一内镜图像中的被测区域。
进一步地,本申请实施例还提供了一种基于内镜图像的区域测量装置,包括:
存储器,用于存储指令;
处理器,用于执行存储器中的指令以执行上基于内镜图像的区域测量方法的任一种实现方法。
进一步地,本申请实施例还提供了一种计算机可读存储介质,计算机可读存储介质中存储有指令,当指令在终端设备上运行时,使得终端设备执行上述基于内镜图像的区域测量方法的任一种实现方法。
进一步地,本申请实施例还提供了一种计算机程序产品,计算机程序产品在终端设备上运行时,使得终端设备执行上述基于内镜图像的区域测量方法的任一种实现方法。
通过以上的实施方式的描述可知,本领域的技术人员可以清楚地了解到上述实施例方法中的全部或部分步骤可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者诸如媒体网关等网络通信设备,等等)执行本申请各个实施例或者实施例的某些部分所述的方法。
需要说明的是,本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (10)

1.一种基于内镜图像的区域测量方法,其特征在于,所述方法包括:
将器械沿软式内窥镜的工作孔道输送至给定位置;
调整处于所述给定位置的所述器械与被测区域的相对位置;
在调整处于所述给定位置的所述器械与被测区域的相对位置的过程中,获取所述软式内窥镜的相机采集到的第一内镜图像;
根据所述第一内镜图像中的器械图像信息,确定所述被测区域的尺寸信息。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一内镜图像中的器械图像信息,确定所述被测区域的尺寸信息,包括:
根据所述器械图像信息确定所述器械的出镜长度在所述第一内镜图像中对应的出镜像素距离;所述出镜长度包括所述器械的头端到所述工作孔道的出口的距离;
利用内镜成像原理,通过所述出镜像素距离,确定所述被测区域的尺寸信息。
3.根据权利要求2所述的方法,其特征在于,所述调整处于所述给定位置的所述器械与被测区域的相对位置,包括:
将处于所述给定位置的所述器械调整为与被测区域相对垂直;
所述利用内镜成像原理,通过所述出镜像素距离,确定所述被测区域的尺寸信息,包括:
确定所述被测区域在所述第一内镜图像中对应的长度像素距离和第一宽度像素距离;
利用内镜成像原理,通过所述出镜像素距离、所述长度像素距离和所述第一宽度像素距离,确定所述被测区域的尺寸信息。
4.根据权利要求2所述的方法,其特征在于,所述调整处于所述给定位置的所述器械与被测区域的相对位置,包括:
将处于所述给定位置的所述器械调整为与被测区域相对平行;
所述利用内镜成像原理,通过所述出镜像素距离,确定所述被测区域的尺寸信息,包括:
确定所述器械的第一待测长度在所述第一内镜图像中对应的第一待测像素距离;所述第一待测长度包括所述器械的执行器的末端到所述工作孔道的出口的距离;
确定所述器械的第二待测长度在所述第一内镜图像中对应的第二待测像素距离;所述第二待测长度包括所述执行器的中心点到所述工作孔道的出口的距离;
确定所述被测区域在所述第一内镜图像中对应的第二宽度像素距离;
利用内镜成像原理,通过所述出镜像素距离、所述第一待测像素距离、所述第二待测像素距离和所述第二宽度像素距离,确定所述被测区域的尺寸信息。
5.根据权利要求1所述的方法,其特征在于,所述调整所述器械与被测区域的相对位置,包括:
根据所述器械的执行器对应的目标驱动角度驱动所述执行器选中所述被测区域;
所述方法还包括:
确定所述第一内镜图像中的执行器轮廓;
根据驱动角度与执行器覆盖尺寸关系,确定所述目标驱动角度对应的执行器覆盖尺寸;
根据所述执行器轮廓在所述第一内镜图像添加预估尺寸信息;所述预估尺寸信息包括:所述执行器覆盖尺寸和所述执行器覆盖尺寸对应的矩形框。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
根据所述预估尺寸信息,确定所述第一内镜图像对应的像素距离与尺寸换算比例;
基于所述像素距离与尺寸换算比例,在所述第一内镜图像中显示对应的测量工具;所述测量工具用于测量所述第一内镜图像中任意两个像素点之间的距离。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取所述软式内窥镜的相机采集到的第二内镜图像;
在所述第二内镜图像中确定所述被测区域对应的第一标记区域;
根据所述第一标记区域确定第一被测区域匹配模板;
在调整处于所述给定位置的所述器械与被测区域的相对位置的过程中,根据所述第一被测区域匹配模板标记所述第一内镜图像中的被测区域。
8.根据权利要求1所述的方法,其特征在于,所述方法还包括:
驱动所述器械的头端触及所述被测区域的标记点;
根据接收到的选中指令选中所述标记点;
根据选中的所述标记点,确定所述被测区域对应的第二标记区域;
根据所述第二标记区域确定第二被测区域匹配模板;
在调整处于所述给定位置的所述器械与被测区域的相对位置的过程中,根据所述第二被测区域匹配模板标记所述第一内镜图像中的被测区域。
9.一种基于内镜图像的区域测量装置,其特征在于,包括:
存储器,用于存储指令;
处理器,用于执行所述存储器中的所述指令以执行权利要求1至8任意一项所述的基于内镜图像的区域测量方法。
10.一种计算机可读存储介质,包括指令,当其在计算机上运行时,使得计算机执行权利要求1至8任意一项所述的基于内镜图像的区域测量方法。
CN202410348842.XA 2024-03-26 2024-03-26 一种基于内镜图像的区域测量方法、装置及存储介质 Active CN117953043B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202410348842.XA CN117953043B (zh) 2024-03-26 2024-03-26 一种基于内镜图像的区域测量方法、装置及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202410348842.XA CN117953043B (zh) 2024-03-26 2024-03-26 一种基于内镜图像的区域测量方法、装置及存储介质

Publications (2)

Publication Number Publication Date
CN117953043A true CN117953043A (zh) 2024-04-30
CN117953043B CN117953043B (zh) 2024-06-21

Family

ID=90803317

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202410348842.XA Active CN117953043B (zh) 2024-03-26 2024-03-26 一种基于内镜图像的区域测量方法、装置及存储介质

Country Status (1)

Country Link
CN (1) CN117953043B (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2001046577A2 (de) * 1999-12-22 2001-06-28 Forschungszentrum Karlsruhe Gmbh Verfahren zur sicheren automatischen nachführung eines endoskops und verfolgung (tracking) eines chirurgischen instrumentes mit einem elektrisch angetriebenen und gesteuerten endoskopführungssystem (efs) für die minimal invasive chirurgie
US20160199148A1 (en) * 2013-08-30 2016-07-14 The Board Of Regents Of The University Of Texas System Endo-navigation systems and methods for surgical procedures and cpr
JP2016209460A (ja) * 2015-05-13 2016-12-15 オリンパス株式会社 内視鏡システム
US20170354320A1 (en) * 2015-03-25 2017-12-14 Fujifilm Corporation Endoscopic diagnosis apparatus, image processing method, program, and recording medium
CN113925441A (zh) * 2021-12-17 2022-01-14 极限人工智能有限公司 一种基于内窥镜的成像方法及成像系统
CN114092480A (zh) * 2022-01-21 2022-02-25 极限人工智能有限公司 一种内窥镜调整装置、手术机器人及可读存储介质
CN115401689A (zh) * 2022-08-01 2022-11-29 北京市商汤科技开发有限公司 基于单目相机的距离测量方法、装置以及计算机存储介质
CN115500950A (zh) * 2022-10-12 2022-12-23 上海微创医疗机器人(集团)股份有限公司 内窥镜位姿调整方法、手术机器人及存储介质
CN117442345A (zh) * 2023-12-25 2024-01-26 中国人民解放军总医院第一医学中心 一种软式内镜器械机器人工作站

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2001046577A2 (de) * 1999-12-22 2001-06-28 Forschungszentrum Karlsruhe Gmbh Verfahren zur sicheren automatischen nachführung eines endoskops und verfolgung (tracking) eines chirurgischen instrumentes mit einem elektrisch angetriebenen und gesteuerten endoskopführungssystem (efs) für die minimal invasive chirurgie
US20160199148A1 (en) * 2013-08-30 2016-07-14 The Board Of Regents Of The University Of Texas System Endo-navigation systems and methods for surgical procedures and cpr
US20170354320A1 (en) * 2015-03-25 2017-12-14 Fujifilm Corporation Endoscopic diagnosis apparatus, image processing method, program, and recording medium
JP2016209460A (ja) * 2015-05-13 2016-12-15 オリンパス株式会社 内視鏡システム
CN113925441A (zh) * 2021-12-17 2022-01-14 极限人工智能有限公司 一种基于内窥镜的成像方法及成像系统
CN114092480A (zh) * 2022-01-21 2022-02-25 极限人工智能有限公司 一种内窥镜调整装置、手术机器人及可读存储介质
CN115401689A (zh) * 2022-08-01 2022-11-29 北京市商汤科技开发有限公司 基于单目相机的距离测量方法、装置以及计算机存储介质
CN115500950A (zh) * 2022-10-12 2022-12-23 上海微创医疗机器人(集团)股份有限公司 内窥镜位姿调整方法、手术机器人及存储介质
CN117442345A (zh) * 2023-12-25 2024-01-26 中国人民解放军总医院第一医学中心 一种软式内镜器械机器人工作站

Also Published As

Publication number Publication date
CN117953043B (zh) 2024-06-21

Similar Documents

Publication Publication Date Title
US11529197B2 (en) Device and method for tracking the position of an endoscope within a patient's body
JP7154832B2 (ja) 形状推定をともなう軌道情報による位置合わせの改良
US20230107693A1 (en) Systems and methods for localizing, tracking and/or controlling medical instruments
US8248414B2 (en) Multi-dimensional navigation of endoscopic video
JP6348130B2 (ja) デュアルデータ同期を用いた解剖学的部位の位置の再特定
US8781167B2 (en) Apparatus and method for determining a location in a target image
CN112641514B (zh) 一种微创介入导航系统与方法
US20100149183A1 (en) Image mosaicing systems and methods
JP2009279249A (ja) 医療機器
JP2003265408A (ja) 内視鏡誘導装置および方法
US11707179B2 (en) Automatic probe reinsertion
US20190231167A1 (en) System and method for guiding and tracking a region of interest using an endoscope
Allain et al. Re-localisation of a biopsy site in endoscopic images and characterisation of its uncertainty
CN117953043B (zh) 一种基于内镜图像的区域测量方法、装置及存储介质
WO2021149050A1 (en) Systems, devices, subsystems and methods for oral cavity inspection
CN116585032A (zh) 基于导航系统的微创穿刺系统
CN208017582U (zh) 计算机辅助微创手术装置
CN117942170B (zh) 一种器械输送长度的控制方法、设备及存储介质
US20230190135A1 (en) Method and system for using tool width data to estimate measurements in a surgical site
CN117243700B (zh) 一种内镜输送长度的检测方法和相关装置
Allain et al. A system for biopsy site re-targeting with uncertainty in gastroenterology and oropharyngeal examinations
US20240242345A1 (en) Auxiliary evaluation system and method
WO2023100234A1 (ja) 内視鏡システムおよび座標系補正方法
Allain et al. Biopsy site re-localisation based on the computation of epipolar lines from two previous endoscopic images
Liao Analysis and correction of OCT images for the control of robotic flexible endoscopes

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant