CN113907693B - 操作映射比例调整方法、装置、电子设备以及存储介质 - Google Patents
操作映射比例调整方法、装置、电子设备以及存储介质 Download PDFInfo
- Publication number
- CN113907693B CN113907693B CN202111506024.0A CN202111506024A CN113907693B CN 113907693 B CN113907693 B CN 113907693B CN 202111506024 A CN202111506024 A CN 202111506024A CN 113907693 B CN113907693 B CN 113907693B
- Authority
- CN
- China
- Prior art keywords
- target
- preset
- distance
- mapping proportion
- proportion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
- A61B34/32—Surgical robots operating autonomously
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2055—Optical tracking systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2065—Tracking using image or pattern recognition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
- A61B2034/301—Surgical robots for introducing or steering flexible instruments inserted into the body, e.g. catheters or endoscopes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
- A61B2034/302—Surgical robots specifically adapted for manipulations within body cavities, e.g. within abdominal or thoracic cavities
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Engineering & Computer Science (AREA)
- Animal Behavior & Ethology (AREA)
- Veterinary Medicine (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Robotics (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Biophysics (AREA)
- Optics & Photonics (AREA)
- Pathology (AREA)
- Radiology & Medical Imaging (AREA)
- Endoscopes (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
Abstract
本发明实施例提供了一种操作映射比例调整方法、装置、电子设备以及存储介质,该方法包括:在预设时间周期内,获取目标器械对应的电机运行电流;在电机运行电流大于预设电流阈值并且持续时长达到预设时长阈值的情况下,将目标器械的操作映射比例调整为第一操作映射比例;预设电流阈值根据电机的空载运行电流确定。这样,通过电机运行电流,能够判断器械与生物组织是否碰撞,并及时调整映射比例,实现了灵活调节操作手柄与器械尖端的操作映射比例,器械操作更加精细化,能够防止操作幅度过大导致的组织损伤,提高了内镜器械使用的安全性,也能够适应多种场景的要求。
Description
技术领域
本发明涉及图像处理领域,特别是涉及一种操作映射比例调整方法、装置、电子设备以及存储介质。
背景技术
随着科学技术的不断发展,智能化医疗设备在各种医疗场景所起的作用越来越大,例如在腹腔微创手术中的内镜器械控制系统,通过内窥镜能够实时显示患者体内图像画面,同时使用器械对组织进行相应操作,保证手术的正常、安全进行。
内镜器械控制系统采集操作手柄的移动位置信号,根据手柄的移动距离控制器械做相应的运动。现有技术中,器械的移动距离和速度与操作手柄的移动距离和速度之间的映射比例(即操作手柄控制器械的档位),往往在操作过程中为固定值。在进行操作之前,操作者可对该操作映射比例进行档位选择或者比例值设置,后续操作过程中采用该固定的映射比例。
现有技术中采用固定值的操作方法,无法实现内镜器械控制系统操作映射比例的灵活调整,无法适应多种场景的要求,器械操作的精细化程度也不高,危险性较大。
发明内容
本发明实施例提供一种操作映射比例调整方法、装置、电子设备以及存储介质,以解决现有技术中无法实现内镜器械控制系统操作映射比例的灵活调整,无法适应多种场景的要求,器械操作精细化程度也不高,危险性较大的问题。
为了解决上述问题,本发明实施例是这样实现的:
第一方面,本发明实施例公开了一种操作映射比例调整方法,应用于内镜器械控制系统;所述方法包括:
在预设时间周期内,获取目标器械对应的电机运行电流;所述目标器械包括于所述内镜器械控制系统中;
在所述电机运行电流大于预设电流阈值并且持续时长达到预设时长阈值的情况下,将所述目标器械的操作映射比例调整为第一操作映射比例;所述预设电流阈值根据电机的空载运行电流确定。
可选的,所述方法还包括:
在所述电机运行电流不大于所述预设电流阈值或者所述电机运行电流大于所述预设电流阈值但所述持续时长未达到所述预设时长阈值的情况下,确定目标摄像头与目标对象之间的目标距离;所述目标对象为所述目标摄像头采集的生物组织;所述目标摄像头包括于所述内镜器械控制系统中;
在所述目标距离不大于预设距离阈值的情况下,将所述目标器械的操作映射比例调整为第二操作映射比例;
在所述目标距离大于所述预设距离阈值的情况下,将所述目标器械的操作映射比例调整为第三操作映射比例;所述第一操作映射比例小于所述第二操作映射比例;所述第二操作映射比例小于所述第三操作映射比例。
可选的,所述方法还包括:
在所述电机运行电流不大于所述预设电流阈值或者所述电机运行电流大于所述预设电流阈值但所述持续时长未达到所述预设时长阈值的情况下,确定目标摄像头与目标对象之间的目标距离;所述目标对象为所述目标摄像头采集的生物组织;所述目标摄像头包括于所述内镜器械控制系统中;
在所述目标距离不大于预设距离阈值的情况下,根据所述目标器械的运动方向,将所述目标器械的操作映射比例调整为第四操作映射比例或第五操作映射比例;所述第一操作映射比例小于所述第四操作映射比例;所述第四操作映射比例小于所述第五操作映射比例。
可选的,所述在所述目标距离不大于预设距离阈值的情况下,根据所述目标器械的运动方向,将所述目标器械的操作映射比例调整为第四操作映射比例或第五操作映射比例,包括:
在所述目标距离不大于预设距离阈值的情况下,确定所述目标器械的运动方向中沿目标方向的分量,所述目标方向为所述目标摄像头的拍摄方向;
在所述分量大于预设分量阈值的情况下,将所述目标器械的操作映射比例调整为第四操作映射比例;
在所述分量不大于所述预设分量阈值的情况下,将所述目标器械的操作映射比例调整为第五操作映射比例。
可选的,所述确定目标摄像头与目标对象之间的目标距离,包括:
在所述预设时间周期内,确定所述目标摄像头的第一移动距离;所述预设时间周期为从起始时刻至终止时刻;所述目标摄像头的焦距固定;
基于所述目标摄像头在所述起始时刻拍摄的第一画面以及所述目标摄像头在所述终止时刻拍摄的第二画面,确定所述目标对象的第二移动距离;
基于所述第一移动距离、所述第二移动距离以及所述目标对象在所述第一画面中的位置与所述第一画面中心之间的距离,确定所述目标摄像头与所述目标对象的目标距离。
可选的,所述确定所述目标摄像头与目标对象之间的目标距离,还包括:
在所述目标摄像头的第一移动距离为零的情况下,将上一预设时间周期计算出的目标距离作为当前预设时间周期的目标距离。
可选的,所述基于所述第一画面以及所述第二画面,确定目标对象的第二移动距离,包括:
基于预设图像处理算法,确定所述第一画面中的目标对象,并所述目标对象在所述第一画面中的第三位置;
基于预设目标跟踪算法,确定所述目标对象在所述第二画面中的第四位置;
基于所述第三位置以及所述第四位置,确定所述第二移动距离。
可选的,所述基于预设图像处理算法,确定所述第一画面中的目标对象,包括:
将所述第一画面转化为灰度图像;
计算所述灰度图像中的所有角点;所述角点为所述灰度图像中的目标特征点;
从所述所有角点中筛选出目标角点,并将以所述目标角点为中心的预设尺寸区域作为所述目标对象。
可选的,所述将所述第一画面转化为灰度图像,包括:
基于所述第一画面的图像中心点以及所述第一画面的图像边缘,确定角点搜索外边界;所述角点搜索外边界与所述图像中心点之间的距离占所述图像中心点与所述图像边缘的距离的比例为第一预设比例;
基于所述第一画面的中心点以及所述第一画面的图像边缘,确定角点搜索内边界;所述角点搜索内边界与所述图像中心点之间的距离占所述图像中心点与所述图像边缘的距离的比例为第二预设比例;所述第一预设比例大于所述第二预设比例;
根据所述角点搜索外边界以及所述角点搜索内边界,确定所述第一画面中的目标图像区域;
将所述目标图像区域进行灰度化处理,得到所述目标图像区域对应的灰度图像。
第二方面,本发明实施例公开了一种操作映射比例调整装置,应用于内镜器械控制系统;所述装置包括:
获取模块,用于在预设时间周期内,获取目标器械对应的电机运行电流;所述目标器械包括于所述内镜器械控制系统中;
第一调整模块,用于在所述电机运行电流大于预设电流阈值并且持续时长达到预设时长阈值的情况下,将所述目标器械的操作映射比例调整为第一操作映射比例;所述预设电流阈值根据电机的空载运行电流确定。
第三方面,本发明实施例还提供了一种电子设备,包括处理器以及用于存储所述处理器可执行指令的存储器;其中,所述处理器被配置为执行所述指令,以实现第一方面所述的操作映射比例调整方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得所述电子设备执行如第一方面所述的操作映射比例调整方法。
第五方面,本发明实施例还提供了一种内镜器械控制系统,所述内镜器械控制系统包括有电子设备,所述电子设备被配置为执行指令,以实现如第一方面所述的操作映射比例调整方法。
在本发明实施例中,在预设时间周期内,获取目标器械对应的电机运行电流;在电机运行电流大于预设电流阈值并且持续时长达到预设时长阈值的情况下,将目标器械的操作映射比例调整为第一操作映射比例;预设电流阈值根据电机的空载运行电流确定。这样,通过电机运行电流,能够判断器械与生物组织是否碰撞,并及时调整映射比例,实现了灵活调节操作手柄与器械尖端的操作映射比例,器械操作更加精细化,能够防止操作幅度过大导致的组织损伤,提高了内镜器械使用的安全性,也能够适应多种场景的要求。
附图说明
图1示出了本发明的一种操作映射比例调整方法的步骤流程图;
图2示出了本发明实施例的一种内镜器械控制系统的组成部分示意图;
图3示出了本发明实施例的一种目标距离的计算原理图;
图4示出了本发明实施例的一种确定目标图像区域以及第二移动距离的示意图;
图5示出了本发明实施例的一种目标距离计算的流程示意图;
图6示出了本发明实施例的一种操作映射比例调整方法的流程示意图;
图7示出了本发明的一种操作映射比例调整装置的结构框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
参照图1,示出了本发明的一种操作映射比例调整方法的步骤流程图。该方法应用于应用于内镜器械控制系统,所述内镜器械控制系统包括目标器械。
本发明实施例中,内镜器械控制系统可以是指用于控制内窥镜以及目标器械运动系统。目标器械可以是指用于对患者内部组织进行操作的医疗器械,例如手术刀或者缝合针等。该内镜器械控制系统可以控制内窥镜以及医疗器械的进给运动,并通过显像系统的信号将内窥镜影像输入电子设备进行数字化处理,实现生物组织图像的实时显示,以便于用户对医疗器械的控制。
示例性地,图2示出了本发明实施例的一种内镜器械控制系统的组成部分示意图。该内镜器械控制系统可以包括内窥镜41以及目标器械42、内镜器械操纵机器人Surgibot 4以及电子设备45。电子设备45可以用于显示实时画面。内窥镜41上设置有目标摄像头,内窥镜41以及目标器械42可以在内镜器械操纵机器人Surgibot 4的作用下沿轴向作进给运动,显示各种实时画面的同时实现各种医疗操作。该内镜器械操纵机器人Surgibot 4是一种人工智能设备,能够实现对内镜器械的智能控制。需要注意的是,该内窥镜41、目标器械42、电子设备45也可以直接看做内镜器械操纵机器人Surgibot 4的一个组成部分。当然,内镜器械控制系统也可以采用其他构成方式或者采用其他组成部件,本发明实施例对此不作限定。
如图1所示出的,该方法具体可以包括:
步骤101、在预设时间周期内,获取目标器械对应的电机运行电流;所述目标器械包括于所述内镜器械控制系统中。
本发明实施例中,预设时间周期可以是指预先设置的时间周期,在每个计算周期内,读取一次电机运行电流。该预设时间周期可以为0.5秒、1秒或者5秒等,具体可以基于实际需求以及内镜器械控制系统的处理能力进行灵活设置,本发明实施例对此不作限定。电机运行电流可以是指目标器械使用过程中的实时电流。
本步骤中,内镜器械控制系统可以在每个预设时间周期内实时读取当前目标器械的电机运行电流,后续可以基于电机运行电流判断目标器械是否与组织发生碰撞。
步骤102、在所述电机运行电流大于预设电流阈值并且持续时长达到预设时长阈值的情况下,将所述目标器械的操作映射比例调整为第一操作映射比例;所述预设电流阈值根据电机的空载运行电流确定。
本发明实施例中,预设电流阈值可以是指预先设置的电流的临界值。该预设电流阈值可以基于电机的空载运行电流确定。示例性地,内镜器械控制系统可以记录电机的空载运行电流I,之后可以将空载运行电流的一定倍数确定为预设电流阈值,具体可以将空载运行电流I的1.2倍作为预设电流阈值。预设时长阈值可以是指预先设置的电流持续时长阈值。该预设时长阈值具体可以为50毫秒、100毫秒等,具体可以基于实际需求进行设置,本发明实施例对此不作限定。
本步骤中,在内窥镜运行过程中,内镜器械控制系统可以实时监控电机运行电流i。在电机运行电流i大于预设电流阈值并且该电机运行电流i的持续时长达到预设时长阈值的情况下,具体例如i>1.2*I,并持续100毫秒时,电机运行电流明显增大,表明目标器械受到了运行阻力,目标器械已经与生物组织发生了接触碰撞,此时需要将目标器械的操作映射比例调小。
第一操作映射比例可以是指较小的移动档位,这样能够提高目标器械移动的精细化程度,避免对生物组织的损伤。示例性地,内镜器械控制系统可以生成outCommand=a*k*inputCommand的代码指令,其中,k为映射比例的基础值,a为第一比例系数,在目标器械与生物组织接触之后,该第一比例系数可以为0.5、0.6等,具体可以基于实际需求进行灵活设置,本发明实施例对此不作限定。
需要注意的是,本发明实施例中,内镜器械控制系统按照预设时间周期执行操作映射比例的确定流程。在一个预设时间周期内,首先基于根据目标器械的电机运行电流确定出目标器械是否碰撞组织,如果是,则将目标器械的操作映射比例调整为第一操作映射比例,并结束当前执行周期,并开始下一执行周期的判断过程。这样,能够实现对操作映射比例的实时调整,保证目标器械操作的精细化程度。
综上所述,本发明实施例提供的一种操作映射比例调整方法,在预设时间周期内,获取目标器械对应的电机运行电流;在电机运行电流大于预设电流阈值并且持续时长达到预设时长阈值的情况下,将目标器械的操作映射比例调整为第一操作映射比例;预设电流阈值根据电机的空载运行电流确定。这样,通过电机运行电流,能够判断器械与生物组织是否碰撞,并及时调整映射比例,实现了灵活调节操作手柄与器械尖端的操作映射比例,器械操作更加精细化,能够防止操作幅度过大导致的组织损伤,提高了内镜器械使用的安全性,也能够适应多种场景的要求。
可选的,本发明实施例中,所述内镜器械控制系统还包括目标摄像头。
本发明实施例中,目标摄像头可以是指内窥镜的摄像头,该摄像头可以是指单目摄像头。
相应的,本发明实施例中,该操作映射比例调整方法还可以包括以下步骤S21a至步骤S23a:
步骤S21a、在所述电机运行电流不大于所述预设电流阈值或者所述电机运行电流大于所述预设电流阈值但所述持续时长未达到所述预设时长阈值的情况下,确定目标摄像头与目标对象之间的目标距离;所述目标对象为所述目标摄像头采集的生物组织;所述目标摄像头包括于所述内镜器械控制系统中。
本发明实施例中,目标距离可以是指内窥镜的目标摄像头与目标对象之间的实际距离。该目标对象可以是指目标摄像头实时画面中的生物组织。
本步骤中,在预设时间周期内,在电机运行电流不大于预设电流阈值或者电机运行电流大于预设电流阈值但该电流的持续时长未达到预设时长阈值的情况下,表明目标器械并未与组织发生碰撞,此时可以进一步确定目标摄像头与生物组织之间的实际距离以灵活调整操作映射比例,具体在测量时,可以基于图像处理技术,获取目标对象在预设时间周期内的移动距离,同时获取目标摄像头在预设时间周期内的移动距离,之后基于光学成像的比例关系,计算得到内窥镜与生物组织之间的实际距离。具体距离计算方法可以基于实际需求进行选择,本发明实施例对此不作限定。
步骤S22a、在所述目标距离不大于预设距离阈值的情况下,将所述目标器械的操作映射比例调整为第二操作映射比例。
本发明实施例中,预设距离阈值可以是指预先设置的目标摄像头与生物组织之间的距离临界值。第二操作映射比例可以是指运行速度适中的移动档位。
本步骤中,在目标距离不大于预设距离阈值的情况下,此时内窥镜以及目标器械向组织方向移动,视野聚焦在需要执行手术的组织区域,此时内镜器械控制系统可以生成outCommand=b*k*inputCommand的代码指令,其中,b为第二比例系数,b的取值范围为大于0小于1,该第二比例系数可以为0.7、0.8等,第一比例系数a的取值范围为大于0小于b,具体数值可以基于实际需求进行灵活设置,本发明实施例对此不作限定。
步骤S23a、在所述目标距离大于所述预设距离阈值的情况下,将所述目标器械的操作映射比例调整为第三操作映射比例;所述第一操作映射比例小于所述第二操作映射比例;所述第二操作映射比例小于所述第三操作映射比例。
本发明实施例中,第三映射操作比例可以是指移动速度较快的移动档位。当目标距离大于预设距离阈值时,内窥镜离组织距离相对较远,视野较大,目标器械可以大档位移动。操作者操作内窥镜以及目标器械接近需要进行手术的组织,内镜器械控制系统可以生成outCommand=k*inputCommand的代码指令,这个阶段下,在操作手柄移动信号相同的情况下,目标器械的运动幅度和速度比上述两个阶段(内窥镜与组织接触阶段、目标距离不大于预设距离阈值阶段)相对要大。
本发明实施例中,在电机运行电流不大于预设电流阈值或者电机运行电流大于预设电流阈值但持续时长未达到预设时长阈值的情况下,确定目标摄像头与目标对象之间的目标距离;目标对象为目标摄像头采集的生物组织;在目标距离不大于预设距离阈值的情况下,将目标器械的操作映射比例调整为第二操作映射比例;在目标距离大于预设距离阈值的情况下,将目标器械的操作映射比例调整为第三操作映射比例;第一操作映射比例小于第二操作映射比例;第二操作映射比例小于第三操作映射比例。这样,在目标器械未与生物组织发生碰撞时,通过计算目标摄像头与生物组织之间的实际距离,基于实际距离选择相应的操作映射比例,实现了灵活调节操作手柄与器械尖端的操作映射比例,进一步提高了操作映射比例调整的灵活性和精细化程度。
本发明的另一些实施例中,该操作映射比例调整方法还可以包括以下步骤S21b至步骤S22b。需要说明的是,步骤S21a-S23a和步骤S21b-S22b是本发明的两种不同的具体实施方式。
步骤S21b、在所述电机运行电流不大于所述预设电流阈值或者所述电机运行电流大于所述预设电流阈值但所述持续时长未达到所述预设时长阈值的情况下,确定目标摄像头与目标对象之间的目标距离;所述目标对象为所述目标摄像头采集的生物组织;所述目标摄像头包括于所述内镜器械控制系统中。
对于步骤S21b的具体实现方式,可参考前述针对步骤S21a的说明,为避免重复,此处不做赘述。
步骤S22b、在所述目标距离不大于预设距离阈值的情况下,根据所述目标器械的运动方向,将所述目标器械的操作映射比例调整为第四操作映射比例或第五操作映射比例;所述第一操作映射比例小于所述第四操作映射比例;所述第四操作映射比例小于所述第五操作映射比例。
具体地,在所述目标距离不大于预设距离阈值的情况下,确定所述目标器械的运动方向中沿目标方向的分量,所述目标方向为所述目标摄像头的拍摄方向;在所述分量大于预设分量阈值的情况下,将所述目标器械的操作映射比例调整为第四操作映射比例;在所述分量不大于所述预设分量阈值的情况下,将所述目标器械的操作映射比例调整为第五操作映射比例。
为便于理解,示例性地,假设预设分量阈值等于45度,又假设此时目标摄像头的拍摄方向为竖直方向,换言之,目标摄像头此时正竖直向下拍摄人体组织,则此时的目标方向为竖直向下的方向。如果此时目标器械的运动方向为水平方向,则目标器械的运动方向中沿目标方向的分量等于0,小于预设分量阈值,因此将目标器械的操作映射比例确定为第五操作映射比例。又如果此时目标器械的运动方向为斜向下,且运动方向与竖直方向的夹角为60度,则目标器械的运动方向中沿目标方向的分量等于60度,大于预设分量阈值,因此将目标器械的操作映射比例确定为第四操作映射比例。再如果此时目标器械的运动方向为斜向上,且运动方向与竖直方向的夹角为56度,则目标器械的运动方向中沿目标方向的分量等于负56度,小于预设分量阈值,因此将目标器械的操作映射比例确定为第五操作映射比例。
值得说明的是,本发明中,由于目标摄像头的拍摄方向通常与医生的观察方向平行,因此将目标摄像头的拍摄方向确定为目标方向。当目标器械的运动方向中沿目标方向的分量大于预设分量阈值时,说明医生正控制目标器械逐渐靠近人体组织,医生的意图很可能是需要切割/缝合人体组织,此时将目标器械的操作映射比例设置得稍小,更利于医生精细化操作。当目标器械的运动方向中沿目标方向的分量不大于预设分量阈值时,说明医生很可能正在调整目标器械的位置,而没有切割/缝合人体组织的意图,此时将目标器械的操作映射比例设置得稍大,更利于医生提高调整效率。
此外,在目标距离大于预设距离阈值的情况下,可以将目标器械的操作映射比例调整为第五操作映射比例。或者,可以将目标器械的操作映射比例调整为第六操作映射比例,第六操作映射比例大于第五操作映射比例。
可选的,本发明实施例中,所述目标摄像头的焦距固定。
本发明实施例中目标摄像头的焦距固定,没有变焦功能,这样能够方便后续基于比例关系计算目标摄像头与生物组织之间的距离。
相应的,步骤S21a或S21b具体可以包括以下步骤S211至步骤S213:
步骤S211、在预设时间周期内,确定所述目标摄像头的第一移动距离;所述预设时间周期为从起始时刻至终止时刻。
本发明实施例中,预设时间周期可以是指从起始时刻至终止时刻,示例性的,假设预设时间周期为5秒,若起始时刻为第0秒,则终止时刻则为第5秒,当然,终止时刻也可以根据目标摄像头移动的位置进行实时确定,本发明实施例对于终止时刻的具体确定方式也不作限定。
第一移动距离可以是指目标摄像头移动的距离,在实际操作时,内窥镜以一定速度沿内窥镜进行轴向进给运动,因此目标摄像头在起始时刻与终止时刻的位置存在一个轴向进给距离差值,该轴向进给距离差值可以作为目标摄像头移动的第一移动距离。
本步骤中,在使用内窥镜的过程中,可以在预设时间周期内,读取在起始时刻和终止时刻目标摄像头的实时位置,然后依据这两个实时位置之间的距离差值确定目标摄像头移动的第一移动距离。
步骤S212、基于所述目标摄像头在所述起始时刻拍摄的第一画面以及所述目标摄像头在所述终止时刻拍摄的第二画面,确定所述目标对象的第二移动距离。
本发明实施例中,第一画面可以是指目标摄像头在起始时刻拍摄的实时画面。第二画面可以是指目标摄像头在终止时刻拍摄的实时画面。该第一画面可以是指实时预览图像,也可以是基于实时预览图像形成的图像文件,本发明实施例对此不作限定。目标对象可以是指图像中的、特征区分较为明显的生物组织。第二移动距离可以是指目标对象在第一画面中的位置与该目标对象在第二画面中的位置之间的距离。
本步骤中,在预设时间周期的起始时刻,内镜器械控制系统可以采集目标摄像头拍摄的第一画面,并在第一画面中选择特征较为明晰的生物组织图像作为目标对象;之后,采用对应的算法来跟踪该目标对象,并在终止时刻采集第二画面,最终基于第一画面与第二画面中同一目标对象的位置关系确定出目标对象的第二移动距离。
步骤S213、基于所述第一移动距离、所述第二移动距离以及所述目标对象在所述第一画面中的位置与第一画面中心之间的距离,确定所述目标摄像头与所述目标对象的目标距离。
本发明实施例中,目标距离可以是指目标摄像头与目标对象即特定生物组织的实际距离。目标对象在所述第一画面中的位置可以是指目标对象对应的生物组织图像区域的中心像素坐标。第一画面中心可以是指第一画面图像的中心点的像素坐标。
本步骤中,目标距离的计算可以基于目标摄像头针孔成像模型推导得出。示例性地,图3示出了本发明实施例的一种目标距离的计算原理图。如图3所示出的,假设生物组织(目标对象)与内窥镜光轴垂直距离为L,起始时刻T1该生物组织在像平面成像画面在第一画面中的位置与第一画面的画面中心距离为L1,生物组织与目标摄像头的实际距离为D1;终止时刻T2,内窥镜相对该生物组织沿轴向运动了∆D距离,即第一移动距离为∆D,此时生物组织与目标摄像头的目标距离为D2,生物组织在像平面上成像画面在第二画面中的位置与第二画面的画面中心距离为L2。内窥镜的目标摄像头没有自动变焦功能,其焦距为固定值f。由图3可知,有如下几何关系:
L1/L=f/D1
L2/L=f/D2
D1=D2+∆D
联立以上3式可得预设时间周期内目标对象在画面上移动距离即第二移动距离与目标对象到目标摄像头的目标距离有如下关系:
∆L=L2-L1=(L1*∆D)/D2
其中,∆D为第一移动距离,∆L为第二移动距离,D2为目标距离,L1为目标对象在第一画面中的位置与第一画面中心之间的距离,进而可以推出目标距离的计算方式:
D2=(L1*∆D)/∆L
需要注意的是,本发明实施例中,由于当目标摄像头与组织距离很近时,画面显示的组织表面近似为平面,可以近似忽略组织的高低起伏等不平整的情况。当然,也可以采用其他原理和计算方法来确定目标摄像头与目标对象之间的实际距离,本发明实施例对此不作限定。
在本发明实施例中,在预设时间周期内,基于目标摄像头轴向运动的第一移动距离、目标对象在第一画面至第二画面中的第二移动距离以及目标对象在第一画面中的位置与第一画面中心之间的距离,可以快速、准确地计算出生物组织与内窥镜的镜头之间的实际距离,方便后续进行操作比例的灵活调整;同时本发明实施例利用单目摄像头以及镜头轴向运动距离估算镜头与软组织距离,具有更加通用型的特点且计算过程较为简单。
可选的,本发明实施例中,步骤S211具体可以包括以下步骤S31至步骤S32:
步骤S31、基于预设位置传感器,在所述起始时刻读取所述目标摄像头的第一位置以及在所述终止时刻读取所述目标摄像头的第二位置。
本发明实施例中,预设位置传感器可以是指内窥镜上安装的、用于指示内窥镜目标摄像头进给位置的传感器。该预设位置传感器可以是指光栅位置传感器等,本发明实施例对于预设位置传感器的具体种类不作限定。第一位置可以是指预设位置传感器在起始时刻的位置读数,第二位置可以是指预设位置传感器在终止时刻的位置读数。
本步骤中,内窥镜轴向的进给可以由轴向线性进给机构驱动,并且轴向线性进给机构上可以安装测量轴向进给位置的光栅位置传感器作为预设位置传感器。基于该预设位置传感器,起始时刻T1的第一位置和终止时刻T2的第二位置可以直接由传感器读出。
步骤S32、基于所述第一位置以及所述第二位置,确定所述第一移动距离。
本发明实施例中,在基于预设位置传感器读取起始时刻的第一位置以及终止时刻的第二位置之后,可以将该第二位置与第一位置的读数相减,得到目标摄像头的第一移动距离。
示例性地,起始时刻T1读取光栅位置传感器读数x1,终止时刻T2读取光栅位置传感器读数x2,则预设时间周期内窥镜轴向进给距离即目标摄像头的第一移动距离∆D=|x1-x2|。
本发明实施例中,基于预设位置传感器,在起始时刻读取目标摄像头的第一位置以及在终止时刻读取目标摄像头的第二位置;基于第一位置以及第二位置,确定第一移动距离。这样,通过预设位置传感器,能够快速、准确地获知内窥镜的轴向进给距离,提高了距离计算的效率。
可选的,本发明实施例中,步骤S212具体可以包括以下步骤S41至步骤S43:
步骤S41、基于预设图像处理算法,确定所述第一画面中的目标对象,并确定所述目标对象在所述第一画面中的第三位置。
本发明实施例中,预设图像处理算法可以是指预先设置的用于确定待跟踪的目标对象的图像处理算法。该预设图像处理算法可以是指Harris角点检测算法(Harris CornerDetection)或者Shi-Tomasi角点检测算法等,本发明实施例对此不作限定。
第三位置可以是指目标对象在第一画面中的位置。由于生物组织往往在图像中对应一个图像区域,第三位置具体可以由目标对象的中心点的像素坐标来表示。
本步骤中,由于生物组织的表面特征存在相似性,对组织特征的检测存在较大的干扰,因此,在计算目标对象移动的第二移动距离时,首先需要选定适合跟踪的、特征区分明显的生物组织图像作为目标对象。在起始时刻获取到目标摄像头拍摄的第一画面之后,可以基于预设图像处理算法,确定出第一画面中的目标对象,并确定出该目标对象在第一画面中的位置坐标。
步骤S42、基于预设目标跟踪算法,确定所述目标对象在所述第二画面中的第四位置。
本发明实施例中,预设目标跟踪算法可以是指预先设置的图像跟踪算法。该图像跟踪算法可以是指图像跟踪尺度估计(Discriminatiive Scale Space Tracker,DSST)算法等,本发明实施例对于预设目标跟踪算法的具体种类不作限定。第四位置可以是指目标对象在第二画面中的位置。
本步骤中,在基于第一画面确定出目标对象之后,可以根据预设目标跟踪算法对目标对象进行跟踪,并最终确定出终止时刻第二画面目标对象的第四位置。
需要注意的是,由于在内窥镜轴向运动过程中,目标对象的尺度会发生变化,预设目标跟踪算法必须能够适应目标图像尺度变化。本发明实施例可以DSST目标跟踪算法,将目标跟踪看成目标中心平移和目标尺度变化两个独立问题,首先用HOG特征的DCF训练平移相关滤波,负责检测目标中心平移,然后用HOG特征的MOSSE训练另一个尺度相关滤波,负责检测目标尺度变化,以实现对目标对象运动的准确跟踪,保证距离计算的准确度。
步骤S43、根据所述第三位置以及所述第四位置,确定所述第二移动距离。
本发明实施例中,在确定出第一画面中目标对象的第三位置以及第二画面中目标对象的第四位置之后,可以基于坐标计算得到目标对象的第二移动距离。
本发明实施例中,基于预设图像处理算法,确定第一画面中的目标对象,并确定目标对象在第一画面中的第三位置;基于预设目标跟踪算法,确定目标对象在第二画面中的第四位置;根据第三位置以及第四位置,确定第二移动距离。这样,基于图像处理,能够准确获知特定生物组织的移动距离,无需基于人工经验进行判断,距离计算更加科学、合理,精准度更高。
可选的,本发明实施例中,步骤S41具体可以包括以下步骤S411至步骤S413:
步骤S411、将所述第一画面转化为灰度图像。
本发明实施例中,灰度图像可以是指每个像素只有一个采样颜色的图像。基于灰度图像,能够更加精确地确定出第一画面中的各个角点。在灰度图像中,像素值即为像素点的灰度值。
步骤S412、计算所述灰度图像中的所有角点;所述角点为所述灰度图像中的目标特征点。
本发明实施例中,角点可以是指灰度图像中的区分较为明显的特征点,从该角点向周围的像素点进行微小的移动时,灰度值会发生明显变化。具体的,本步骤中,可以依据角点检测算法确定灰度图像中的各个角点,方便后续对于目标对象的筛选。
步骤S413、从所述所有角点中筛选出目标角点,并将以所述目标角点为中心的预设尺寸区域作为所述目标对象。
本发明实施例中,目标角点可以是指目标对象对应的角点。预设尺寸区域可以是指预先设置的、以目标角点为中心的预设尺寸的图像区域,例如,预设尺寸区域可以为以目标角点为中心、边长为X个像素的正方形区域。
本发明实施例中,将第一画面转化为灰度图像;计算灰度图像中的所有角点;角点为灰度图像中的目标特征点;从所有角点中筛选出目标角点,并将以目标角点为中心的预设尺寸区域作为目标对象。这样,通过角点检测以及角点筛选,能够在第一画面中确定出特征区分明显、适合跟踪的生物组织图像作为目标对象,保证了后续图像跟踪的准确性,进而一定程度上也提高了距离计算的精准度。
示例性地,以下以预设图像处理算法为Harris角点检测算法为例,详细介绍本发明实施例的目标对象的确定过程:
第一步、对第一画面进行RGB向灰度图像的转换,将彩色图像转化为灰度图像。
第二步、计算转换后的灰度图像中所有角点,计算角点过程可以使用opencv中角点检测函数得来,该opencv是一个跨平台计算机视觉和机器学习软件库,能够实现多种图像处理算法。
第三步、根据Harris角点响应函数设置质量等级的值,当大于质量门限值时选为候选角点。角点响应函数定义为:
R=detM-k* (traceM)2
detM=λ1*λ2
traceM=λ1+λ2
上述公式中M为协方差矩阵,detM为矩阵M的行列式,traceM为矩阵M的迹,λ1、λ2是矩阵M的特征值,k为系数取0.04~0.06。角点响应值R越大代表当前点越应该作为角点。设定质量等级阈值,将R大于质量等级阈值的点作为候选角点。
第四步,进行非极大值抑制算法,排除一些虽超过门限,但不是局部最大的点。非极大值抑制算法具体可以为:在一个窗口内,如果有多个角点则用值最大的那个角点,其他的角点都删除。
第五步,选取角点响应最大的角点作为最终用于跟踪的目标角点。
这样,基于上述步骤,在第一画面中根据图像灰度强度的二阶导数矩阵寻找Harris角点,筛选得到目标角点。然后将目标角点周围组织作为跟踪的目标对象对应的目标组织,以目标角点为中心,以预设边长X个像素的正方形建立目标对象模板,作为下一帧图像目标匹配参考。
在寻找到目标角点并建立正方形的目标对象模板后,基于预设目标跟踪算法对正方形的目标对象模板进行追踪。在终止时刻T2,对于追踪到的目标对象模板,计算其中心点到起始时刻T1寻找到的目标角点的距离,作为第二移动距离∆L。这样,通过检测并筛选目标角点并确定用于跟踪的目标对象,便于后续预设目标跟踪算法的跟踪处理,进一步提高了距离计算的准确度。
可选的,本发明实施例中,步骤S411具体可以包括以下步骤S51至步骤S54:
步骤S51、基于所述第一画面的图像中心点以及所述第一画面的图像边缘,确定角点搜索外边界;所述角点搜索外边界与所述图像中心点之间的距离占所述图像中心点与所述图像边缘的距离的比例为第一预设比例。
本发明实施例中,角点搜索外边界可以是指最终确定的用于搜索目标对象的图像区域外边界。第一预设比例可以是指预先设置的比例值,该角点搜索外边界的形状可以为正方形,也可以为圆形等,本发明实施例对此不作限定。
步骤S52、基于所述第一画面的中心点以及所述第一画面的图像边缘,确定角点搜索内边界;所述角点搜索内边界与所述图像中心点之间的距离占所述图像中心点与所述图像边缘的距离的比例为第二预设比例;所述第一预设比例大于所述第二预设比例。
本发明实施例中,角点搜索内边界可以是指最终确定的用于搜索目标对象的图像区域外边界。第二预设比例可以是指预先设置的比例值。与角点搜索外边界的形状相对应,角点搜索内边界的形状可以为正方形,也可以为圆形等,本发明实施例对此不作限定。需要注意的是,本发明实施例中,第一预设比例的取值要大于第二预设比例,这样后续才能基于角点搜索内外边界围合成一个目标图像区域,提高角点搜索的效率。
步骤S53、根据所述角点搜索外边界以及所述角点搜索内边界,确定所述第一画面中的目标图像区域。
本发明实施例中,目标图像区域可以是指第一画面中用于选取目标对象的图像区域。示例性地,该目标图像区域可以是指第一画面的图像中心距图像边缘1/3到2/3的区域。
本步骤中,在选取生物组织作为跟踪的目标对象时,不能选用处于第一画面中间的对应生物组织作为跟踪对象,这是因为画面中间的组织图像在内窥镜做轴向运动时不会移动;而选择画面边缘生物组织图像作为跟踪对象时,内窥镜轴向进给时,组织图像又会从画面中消失,从而无法跟踪。因此,为了同时保证距离计算的灵敏性与可靠性,可以选取第一画面中图像中心距离图像边缘预设比例的图像区域作为目标图像区域,后续在该目标图像区域中选取目标对象。
具体在确定该目标图像区域时,可以首先在第一画面中确定角点搜索外边界,可以将第一画面图像中心点(记为O点)与第一画面图像边缘(记为C点)连线,之后选取第一预设比例的A点,然后以第一画面图像中心点O为圆心,绘制半径为长度OA的一个圆形,得到角点搜索外边界;之后选取第二预设比例的B点,然后以第一画面图像中心点O为圆心,绘制半径为长度OB的一个圆形,得到角点搜索内边界;第一预设比例大于第二预设比例,例如第一预设比例可以为2/3,第二预设比例可以为1/3。这样,角点搜索内边界和角点搜索外边界可以组成一个环形区域,即为目标图像区域。当然,也可以以OA或者OB来绘制正方形,只要能够确定出用于角点搜索的目标图像区域即可,本发明实施例对于目标图像区域的具体形状不作限定。
步骤S54、将所述目标图像区域进行灰度化处理,得到所述目标图像区域对应的灰度图像。
本发明实施例中,在确定了目标图像区域之后,后续再进行Harris角点检测时,可以只针对目标图像区域的灰度图像进行图像处理,无需对第一画面整体进行处理、检测,大大减少了数据计算量。
本发明实施例中,基于第一画面的图像中心点以及第一画面的图像边缘,确定角点搜索外边界;角点搜索外边界与图像中心点之间的距离占图像中心点与所述图像边缘的距离的比例为第一预设比例;基于第一画面的中心点以及第一画面的图像边缘,确定角点搜索内边界;角点搜索内边界与图像中心点之间的距离占所述图像中心点与图像边缘的距离的比例为第二预设比例;第一预设比例大于第二预设比例;根据角点搜索外边界以及角点搜索内边界,确定第一画面中的目标图像区域。这样,通过确定用于选择目标对象的目标图像区域,后续只针对目标图像区域进行图像处理,减少了数据计算量,提高了距离计算的效率。
示例性地,图4示出了本发明实施例的一种确定目标图像区域以及第二移动距离的示意图。如图4所示出的,内镜器械控制系统中电子设备的显示界面上显示有内窥镜画面40,目标图像区域404为用于确定跟踪的目标对象的图像区域,该目标图像区域404可以为图像中心距离边缘1/3到2/3的环形区域,具体为角点搜索内边界401以及角点搜索外边界402之间的图像区域。在图4中虚线部分为第一画面中确定出的目标对象403,内窥镜做轴向进给运动之后,目标对象403对应发生了移动(与虚线部分相对应的实线显示部分),目标对象403中的同一个目标角点前后两个位置之间的距离即为目标对象的第二移动距离。
示例性地,图5示出了本发明实施例的一种目标距离计算的流程示意图。如图5所示出的,首先确定目标图像区域,之后在目标图像区域依据角点检测算法搜索角点,并确定目标角点。之后将以目标角点为中心的预设尺寸区域作为目标对象,记录目标对象的中心位置即第三位置(x1,y1),同时记录当前时刻T1作为预设时间周期的起始时刻。之后,根据DSST目标跟踪算法,检测目标对象的实时位置,经过预设时间周期∆T,距离此时目标对象中心位置即第四位置(x2,y2),同时记录当前时刻T2作为预设时间周期的终止时刻;依据第三位置(x1,y1)以及第四位置(x2,y2),计算终止时刻T2与初始时刻T1目标对象中心位置之间的距离即第二移动距离∆L。然后,基于预设位置传感器,在内镜器械控制系统中的智能控制设备例如内镜器械操纵机器人中直接读取内窥镜的进给距离即第一移动距离∆D。之后,根据第一移动距离∆D、第二移动距离∆L、起始时刻目标对象与第一画面图像中心之间的距离L1计算目标摄像头与目标对象对应的生物组织之间的目标距离。这样,通过实时检测内窥镜镜头与组织的距离,为后续操作映射比例的切换提供了准确依据。
可选的,本发明实施例中,在所述目标摄像头的第一移动距离为零的情况下,将上一预设时间周期计算出的目标距离作为当前预设时间周期的目标距离。
可选的,本发明实施例中,所述终止时刻为所述目标对象移动至所述目标摄像头实时画面的预设位置对应的时刻。
本发明实施例中,预设位置可以是指目标图像区域中的位置,例如图4中所示出的图像中心距图像边缘1/3到2/3的环形区域,当然,该预设位置也可以是其他位置,本发明实施例对此不作限定。
本步骤中,当寻找到目标角点以及目标对象之后,将当前时刻作为起始时刻T1,确定目标角点当前位置L1,并读取当前的预设位置传感器读数x1。接着基于预设目标跟踪算法对目标角点进行跟踪,当目标角点移动到图像画面的预设位置处时,将当前时刻作为终止时刻T2,并读取当前的位置传感器读数x2。然后根据角点当前位置和原始位置L1,计算出第二移动距离△L,并根据x1和x2计算出第一移动距离△D。最后根据L1、△L以及△D,计算出内窥镜当前与目标对象对应的生物组织的目标距离。
本发明实施例中,以目标对象移动至目标摄像头实时画面的预设位置对应的时刻作为终止时刻,这样,能够避免在一个预设时间周期内,内窥镜已经与组织发生碰撞的情况。示例性的,如图5所示出的方案中,每个固定时间△T,计算一次内窥镜与生物组织的目标距离,则当内窥镜向组织移动的速度很快时,有可能在△T时间内,角点已经跑出内窥镜拍摄范围,内窥镜可能已经接触组织了。而基于目标对象的实时位置来灵活确定终止时刻以进行目标距离的计算,能够进一步避免同一个预设时间周期内内窥镜与目标组织发生碰撞的情况,提高操作的安全性。
需要注意的是,本发明实施例中,如果能够基于目标角点的位置确定终止时刻,可以基于该终止时刻进行目标距离的计算,若无法基于目标角点的位置确定终止时刻,则可以基于预设时间周期的固定时长△T执行距离计算过程,具体可以依据实际需求确定,本发明实施例对此不作限定。
示例性地,图6示出了本发明实施例的一种操作映射比例调整的流程示意图。如图6中所示出的,在一个执行周期中,内镜器械控制系统首先读取内窥镜的实时电机运行电流,之后判断基于该电机运行电流与预设电流阈值的大小关系以及持续时长,判断内窥镜是否与生物组织接触。若发生接触,此时需要将目标器械的操作映射比例调整为第一操作映射比例,即outCommand=a*k*inputCommand,档位调节至最小档位,并结束本执行周期,并开始下一个执行周期。若未发生接触,进一步确定内窥镜的目标摄像头与生物组织的实际距离即目标距离。在目标距离不大于预设距离阈值的情况下,将目标器械的操作映射比例调整为第二操作映射比例,即outCommand=b*k*inputCommand。在目标距离大于预设距离阈值的情况下,将目标器械的操作映射比例调整为第三操作映射比例,即outCommand=k*inputCommand,使得目标器械可以大档位移动。需要注意的是,在每个预设时间周期内需要先判断器械尖端是否与组织碰撞,然后再判断内窥镜与组织的实际距离,是因为器械尖端一旦与组织碰撞,就需要立刻切换成最小档位,精细化要求最高,保证手术过程的安全性。
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
参照图7,示出了本发明的一种操作映射比例调整装置的结构框图。应用于内镜器械控制系统;该操作映射比例调整装置70包括:
获取模块701,用于在预设时间周期内,获取目标器械对应的电机运行电流;所述目标器械包括于所述内镜器械控制系统中;
第一调整模块702,用于在所述电机运行电流大于预设电流阈值并且持续时长达到预设时长阈值的情况下,将所述目标器械的操作映射比例调整为第一操作映射比例;所述预设电流阈值根据电机的空载运行电流确定。
综上所述,本发明实施例提供的操作映射比例调整装置,在预设时间周期内,获取目标器械对应的电机运行电流;在电机运行电流大于预设电流阈值并且持续时长达到预设时长阈值的情况下,将目标器械的操作映射比例调整为第一操作映射比例;预设电流阈值根据电机的空载运行电流确定。这样,通过电机运行电流,能够判断器械与生物组织是否碰撞,并及时调整映射比例,实现了灵活调节操作手柄与器械尖端的操作映射比例,器械操作更加精细化,能够防止操作幅度过大导致的组织损伤,提高了内镜器械使用的安全性,也能够适应多种场景的要求。
可选的,本发明实施例中,所述装置70还包括:
第一确定模块,用于在所述电机运行电流不大于所述预设电流阈值或者所述电机运行电流大于所述预设电流阈值但所述持续时长未达到所述预设时长阈值的情况下,确定目标摄像头与目标对象之间的目标距离;所述目标对象为所述目标摄像头采集的生物组织;所述目标摄像头包括于所述内镜器械控制系统中;
第二调整模块,用于在所述目标距离不大于预设距离阈值的情况下,将所述目标器械的操作映射比例调整为第二操作映射比例;
第三调整模块,用于在所述目标距离大于所述预设距离阈值的情况下,将所述目标器械的操作映射比例调整为第三操作映射比例;所述第一操作映射比例小于所述第二操作映射比例;所述第二操作映射比例小于所述第三操作映射比例。
可选的,本发明实施例中,所述装置70还包括:
第二确定模块,用于在所述电机运行电流不大于所述预设电流阈值或者所述电机运行电流大于所述预设电流阈值但所述持续时长未达到所述预设时长阈值的情况下,确定目标摄像头与目标对象之间的目标距离;所述目标对象为所述目标摄像头采集的生物组织;所述目标摄像头包括于所述内镜器械控制系统中;
第四调整模块,用于在所述目标距离不大于预设距离阈值的情况下,根据所述目标器械的运动方向,将所述目标器械的操作映射比例调整为第四操作映射比例或第五操作映射比例;所述第一操作映射比例小于所述第四操作映射比例;所述第四操作映射比例小于所述第五操作映射比例。
可选的,所述第四调整模块,具体用于:
在所述目标距离不大于预设距离阈值的情况下,确定所述目标器械的运动方向中沿目标方向的分量,所述目标方向为所述目标摄像头的拍摄方向;
在所述分量大于预设分量阈值的情况下,将所述目标器械的操作映射比例调整为第四操作映射比例;
在所述分量不大于所述预设分量阈值的情况下,将所述目标器械的操作映射比例调整为第五操作映射比例。
可选的,本发明实施例中,所述第一确定模块,还具体用于:
在所述目标摄像头的第一移动距离为零的情况下,将上一预设时间周期计算出的目标距离作为当前预设时间周期的目标距离。
可选的,所述确定模块,包括:
第一确定子模块,用于确定所述目标摄像头的第一移动距离;所述预设时间周期为从起始时刻至终止时刻;所述目标摄像头的焦距固定;
第二确定子模块,用于基于所述目标摄像头在所述起始时刻拍摄的第一画面以及所述目标摄像头在所述终止时刻拍摄的第二画面,确定所述目标对象的第二移动距离;
第三确定子模块,用于基于所述第一移动距离、所述第二移动距离以及所述目标对象在所述第一画面中的位置与所述第一画面中心之间的距离,确定所述目标摄像头与所述目标对象的目标距离。
可选的,所述第一确定子模块,具体用于:
基于预设位置传感器,在所述起始时刻读取所述目标摄像头的第一位置以及在所述终止时刻读取所述目标摄像头的第二位置;
基于所述第一位置以及所述第二位置,确定所述第一移动距离。
可选的,所述第二确定子模块,具体用于:
基于预设图像处理算法,确定所述第一画面中的目标对象,并所述目标对象在所述第一画面中的第三位置;
基于预设目标跟踪算法,确定所述目标对象在所述第二画面中的第四位置;
基于所述第三位置以及所述第四位置,确定所述第二移动距离。
可选的,所述第二确定子模块,还具体用于:
将所述第一画面转化为灰度图像;
计算所述灰度图像中的所有角点;所述角点为所述灰度图像中的目标特征点;
从所述所有角点中筛选出目标角点,并将以所述目标角点为中心的预设尺寸区域作为所述目标对象。
可选的,所述第二确定子模块,还具体用于:
基于所述第一画面的图像中心点以及所述第一画面的图像边缘,确定角点搜索外边界;所述角点搜索外边界与所述图像中心点之间的距离占所述图像中心点与所述图像边缘的距离的比例为第一预设比例;
基于所述第一画面的中心点以及所述第一画面的图像边缘,确定角点搜索内边界;所述角点搜索内边界与所述图像中心点之间的距离占所述图像中心点与所述图像边缘的距离的比例为第二预设比例;所述第一预设比例大于所述第二预设比例;
根据所述角点搜索外边界以及所述角点搜索内边界,确定所述第一画面中的目标图像区域;
将所述目标图像区域进行灰度化处理,得到所述目标图像区域对应的灰度图像。
可选的,本发明实施例还提供了一种电子设备,包括处理器以及用于存储所述处理器可执行指令的存储器;其中,所述处理器被配置为执行所述指令,以实现上述方法实施例所述的操作映射比例调整方法的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
可选的,本发明实施例还提供了一种计算机可读存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得所述电子设备执行如上述方法实施例所述的操作映射比例调整方法的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
可选的,本发明实施例还提供了一种内镜器械控制系统,所述内镜器械控制系统包括有电子设备,所述电子设备被配置为执行指令,以实现如上述方法实施例所述的操作映射比例调整方法的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
本领域技术人员易于想到的是:上述各个实施例的任意组合应用都是可行的,故上述各个实施例之间的任意组合都是本发明的实施方案,但是由于篇幅限制,本说明书在此就不一一详述了。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本发明并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
Claims (10)
1.一种操作映射比例调整方法,其特征在于,应用于内镜器械控制系统;所述方法包括:
在预设时间周期内,获取目标器械对应的电机运行电流;所述目标器械包括于所述内镜器械控制系统中;
在所述电机运行电流大于预设电流阈值并且持续时长达到预设时长阈值的情况下,将所述目标器械的操作映射比例调整为第一操作映射比例;所述预设电流阈值根据电机的空载运行电流确定;所述方法还包括:
在所述电机运行电流不大于所述预设电流阈值或者所述电机运行电流大于所述预设电流阈值但所述持续时长未达到所述预设时长阈值的情况下,确定目标摄像头与目标对象之间的目标距离;所述目标对象为所述目标摄像头采集的生物组织;所述目标摄像头包括于所述内镜器械控制系统中;
在所述目标距离不大于预设距离阈值的情况下,将所述目标器械的操作映射比例调整为第二操作映射比例;或者,在所述目标距离不大于预设距离阈值的情况下,根据所述目标器械的运动方向,将所述目标器械的操作映射比例调整为第四操作映射比例或第五操作映射比例;所述第一操作映射比例小于所述第四操作映射比例;所述第四操作映射比例小于所述第五操作映射比例;
在所述目标距离大于所述预设距离阈值的情况下,将所述目标器械的操作映射比例调整为第三操作映射比例;所述第一操作映射比例小于所述第二操作映射比例;所述第二操作映射比例小于所述第三操作映射比例。
2.根据权利要求1所述的方法,其特征在于,所述在所述目标距离不大于预设距离阈值的情况下,根据所述目标器械的运动方向,将所述目标器械的操作映射比例调整为第四操作映射比例或第五操作映射比例,包括:
在所述目标距离不大于预设距离阈值的情况下,确定所述目标器械的运动方向中沿目标方向的分量,所述目标方向为所述目标摄像头的拍摄方向;
在所述分量大于预设分量阈值的情况下,将所述目标器械的操作映射比例调整为第四操作映射比例;
在所述分量不大于所述预设分量阈值的情况下,将所述目标器械的操作映射比例调整为第五操作映射比例。
3.根据权利要求1所述的方法,其特征在于,所述确定目标摄像头与目标对象之间的目标距离,包括:
在所述预设时间周期内,确定所述目标摄像头的第一移动距离;所述预设时间周期为从起始时刻至终止时刻;所述目标摄像头的焦距固定;
基于所述目标摄像头在所述起始时刻拍摄的第一画面以及所述目标摄像头在所述终止时刻拍摄的第二画面,确定所述目标对象的第二移动距离;
基于所述第一移动距离、所述第二移动距离以及所述目标对象在所述第一画面中的位置与所述第一画面中心之间的距离,确定所述目标摄像头与所述目标对象的目标距离。
4.根据权利要求3所述的方法,其特征在于,所述确定所述目标摄像头与目标对象之间的目标距离,还包括:
在所述目标摄像头的第一移动距离为零的情况下,将上一预设时间周期计算出的目标距离作为当前预设时间周期的目标距离。
5.根据权利要求3所述的方法,其特征在于,所述基于所述第一画面以及所述第二画面,确定目标对象的第二移动距离,包括:
基于预设图像处理算法,确定所述第一画面中的目标对象,并所述目标对象在所述第一画面中的第三位置;
基于预设目标跟踪算法,确定所述目标对象在所述第二画面中的第四位置;
基于所述第三位置以及所述第四位置,确定所述第二移动距离。
6.根据权利要求5所述的方法,其特征在于,所述基于预设图像处理算法,确定所述第一画面中的目标对象,包括:
将所述第一画面转化为灰度图像;
计算所述灰度图像中的所有角点;所述角点为所述灰度图像中的目标特征点;
从所述所有角点中筛选出目标角点,并将以所述目标角点为中心的预设尺寸区域作为所述目标对象。
7.根据权利要求6所述的方法,其特征在于,所述将所述第一画面转化为灰度图像,包括:
基于所述第一画面的图像中心点以及所述第一画面的图像边缘,确定角点搜索外边界;所述角点搜索外边界与所述图像中心点之间的距离占所述图像中心点与所述图像边缘的距离的比例为第一预设比例;
基于所述第一画面的中心点以及所述第一画面的图像边缘,确定角点搜索内边界;所述角点搜索内边界与所述图像中心点之间的距离占所述图像中心点与所述图像边缘的距离的比例为第二预设比例;所述第一预设比例大于所述第二预设比例;
根据所述角点搜索外边界以及所述角点搜索内边界,确定所述第一画面中的目标图像区域;
将所述目标图像区域进行灰度化处理,得到所述目标图像区域对应的灰度图像。
8.一种操作映射比例调整装置,其特征在于,应用于内镜器械控制系统;所述装置包括:
获取模块,用于在预设时间周期内,获取目标器械对应的电机运行电流;所述目标器械包括于所述内镜器械控制系统中;
第一调整模块,用于在所述电机运行电流大于预设电流阈值并且持续时长达到预设时长阈值的情况下,将所述目标器械的操作映射比例调整为第一操作映射比例;所述预设电流阈值根据电机的空载运行电流确定;
所述装置还包括:
第一确定模块,用于在所述电机运行电流不大于所述预设电流阈值或者所述电机运行电流大于所述预设电流阈值但所述持续时长未达到所述预设时长阈值的情况下,确定目标摄像头与目标对象之间的目标距离;所述目标对象为所述目标摄像头采集的生物组织;所述目标摄像头包括于所述内镜器械控制系统中;
第二调整模块,用于在所述目标距离不大于预设距离阈值的情况下,将所述目标器械的操作映射比例调整为第二操作映射比例;或者,第四调整模块,用于在所述目标距离不大于预设距离阈值的情况下,根据所述目标器械的运动方向,将所述目标器械的操作映射比例调整为第四操作映射比例或第五操作映射比例;所述第一操作映射比例小于所述第四操作映射比例;所述第四操作映射比例小于所述第五操作映射比例;
第三调整模块,用于在所述目标距离大于所述预设距离阈值的情况下,将所述目标器械的操作映射比例调整为第三操作映射比例;所述第一操作映射比例小于所述第二操作映射比例;所述第二操作映射比例小于所述第三操作映射比例。
9.一种电子设备,其特征在于,包括:
处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述指令,以实现如权利要求1至7中任一项所述的操作映射比例调整方法。
10.一种存储介质,其特征在于,当所述存储介质中的指令由电子设备的处理器执行时,使得所述电子设备执行如权利要求1至7中任一项所述的操作映射比例调整方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111506024.0A CN113907693B (zh) | 2021-12-10 | 2021-12-10 | 操作映射比例调整方法、装置、电子设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111506024.0A CN113907693B (zh) | 2021-12-10 | 2021-12-10 | 操作映射比例调整方法、装置、电子设备以及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113907693A CN113907693A (zh) | 2022-01-11 |
CN113907693B true CN113907693B (zh) | 2022-03-01 |
Family
ID=79248926
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111506024.0A Active CN113907693B (zh) | 2021-12-10 | 2021-12-10 | 操作映射比例调整方法、装置、电子设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113907693B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114569252B (zh) * | 2022-03-02 | 2024-01-30 | 中南大学 | 手术机器人主从映射比例控制系统及方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111067468A (zh) * | 2019-12-30 | 2020-04-28 | 北京双翼麒电子有限公司 | 用于控制内窥镜系统的方法、设备及存储介质 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5855583A (en) * | 1996-02-20 | 1999-01-05 | Computer Motion, Inc. | Method and apparatus for performing minimally invasive cardiac procedures |
US6424885B1 (en) * | 1999-04-07 | 2002-07-23 | Intuitive Surgical, Inc. | Camera referenced control in a minimally invasive surgical apparatus |
KR20120068597A (ko) * | 2010-12-17 | 2012-06-27 | 주식회사 이턴 | 수술 로봇 시스템 및 적응 제어 방법 |
CN103040425B (zh) * | 2012-12-20 | 2015-09-16 | 深圳市资福技术有限公司 | 一种胶囊内窥镜运行轨迹的控制系统和控制方法 |
US9814406B2 (en) * | 2013-11-19 | 2017-11-14 | Pacesetter, Inc. | Method and system to identify motion data associated with consistent electrical and mechanical behavior for a region of interest |
KR102620057B1 (ko) * | 2014-08-22 | 2024-01-03 | 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 | 순응형 입력 맵핑을 위한 시스템 및 방법 |
CN117838302A (zh) * | 2017-07-31 | 2024-04-09 | 直观外科手术操作公司 | 用于装置的安全操作的系统和方法 |
WO2020016886A1 (en) * | 2018-07-17 | 2020-01-23 | Bnaiahu Levin | Systems and methods of navigation for robotic colonoscopy |
CN112155613B (zh) * | 2020-09-14 | 2021-10-22 | 武汉联影智融医疗科技有限公司 | 一种微创医疗手术设备 |
CN113742992B (zh) * | 2021-04-19 | 2024-03-01 | 广东工业大学 | 基于深度学习的主从控制方法及应用 |
-
2021
- 2021-12-10 CN CN202111506024.0A patent/CN113907693B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111067468A (zh) * | 2019-12-30 | 2020-04-28 | 北京双翼麒电子有限公司 | 用于控制内窥镜系统的方法、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113907693A (zh) | 2022-01-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113838052B (zh) | 碰撞报警装置、电子设备、存储介质以及内窥镜影像系统 | |
US9601025B2 (en) | Method and system for automatic tool position determination for minimally-invasive surgery training | |
US11141050B2 (en) | Autofocus control device, endoscope apparatus, and operation method of autofocus control device | |
US10820787B2 (en) | Endoscope device and focus control method for endoscope device | |
US11025835B2 (en) | Imaging device, endoscope apparatus, and method for operating imaging device | |
US10827906B2 (en) | Endoscopic surgery image processing apparatus, image processing method, and program | |
CN111067468B (zh) | 用于控制内窥镜系统的方法、设备及存储介质 | |
CN113907693B (zh) | 操作映射比例调整方法、装置、电子设备以及存储介质 | |
US20230389775A1 (en) | Image correction of a surgical endoscope video stream | |
WO2017212725A1 (ja) | 医療用観察システム | |
JP7385731B2 (ja) | 内視鏡システム、画像処理装置の作動方法及び内視鏡 | |
US20210161604A1 (en) | Systems and methods of navigation for robotic colonoscopy | |
CN115002447A (zh) | 一种内窥镜评估方法、系统及存储介质 | |
US10799085B2 (en) | Endoscope apparatus and focus control method | |
KR20140108047A (ko) | 물체 추적 방법, 물체의 표시 상태 판단 방법 및 물체 추적이 가능한 제어 장치 | |
CN111161852B (zh) | 一种内窥镜图像处理方法、电子设备及内窥镜系统 | |
JP7179837B2 (ja) | 内視鏡装置、内視鏡画像表示方法及び内視鏡装置の作動方法 | |
JP2010110500A (ja) | 撮像装置及び撮像方法 | |
CN112584735B (zh) | 手术内窥镜视频流的图像校正 | |
WO2023100234A1 (ja) | 内視鏡システムおよび座標系補正方法 | |
TWI753822B (zh) | 內視鏡手術輔助系統與內視鏡手術輔助方法 | |
JP7506264B2 (ja) | 画像処理装置、内視鏡装置及び画像処理装置の作動方法 | |
US20210136257A1 (en) | Endoscope apparatus, operating method of endoscope apparatus, and information storage medium | |
WO2023195326A1 (ja) | 内視鏡システム、手技支援方法および手技支援プログラム | |
CN111991080A (zh) | 一种手术入口的确定方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |