CN113256625A - 一种电子设备和识别装置 - Google Patents

Abstract

本申请实施例提供一种电子设备和识别装置，该电子设备包括存储器和处理器，处理器用于从存储器中读取计算机程序，并执行如下步骤：获取输入数据，输入数据包括待识别图像，待识别图像是将与处理器信号连接的内窥镜插入到目标对象的过程中所拍摄的图像；将输入数据输入到训练好的图像识别模型中，以使训练好的图像识别模型对输入数据进行识别，以获得待识别图像的识别结果；将识别结果进行显示。借助于上述技术方案，本申请实施例能够提高识别效率，并且其无需医生再花费较多的时间去进行确认，从而其也能够提高手术效率。

Description

一种电子设备和识别装置

技术领域

本申请涉及计算机技术领域，尤其涉及一种电子设备和识别装置。

背景技术

在现有的内窥镜手术中，医生是通过观察内窥镜采集的图像画面来确定内窥镜处于对象的组织中的哪个位置，以及该图像画面显示的是哪部分的组织。

在实现本发明的过程中，发明人发现现有技术中存在如下问题：对于经验不足的医生来说，做手术的过程中需要花费很长的时间去判断内窥镜的位置，以确定手术入路是否正确。因此，现有技术中至少存在着识别效率比较低的问题。

发明内容

本申请实施例的目的在于提供一种电子设备和识别装置，以解决现有技术中存在着的识别效率比较低的问题。

第一方面，本申请实施例提供了一种电子设备，该电子设备包括存储器和处理器，处理器用于从存储器中读取计算机程序，并执行如下步骤：获取输入数据，输入数据包括待识别图像，待识别图像是将与处理器信号连接的内窥镜插入到目标对象的过程中所拍摄的图像；将输入数据输入到训练好的图像识别模型中，以使训练好的图像识别模型对输入数据进行识别，以获得待识别图像的识别结果；将识别结果进行显示。

因此，借助于上述技术方案，本申请实施例通过神经网络技术对待识别图像进行识别，以确定内窥镜的头部处于对象中的哪个位置，相比于现有的通过医生自身来确定的方法，其能够提高识别效率，并且其无需医生再花费较多的时间去进行确认，从而其也能够提高手术效率。此外，其还能够解决浪费人力的问题。

在一个可能的实施例中，待识别图像是将内窥镜插入到目标对象的目标组织的过程中所拍摄的图像，目标组织包括关节组织。

在一个可能的实施例中，图像识别模型包括输入层、多个隐藏层和输出层，输入层用于获取输入数据，多个隐藏层用于根据输入数据，获取目标对象的目标组织的特征，输出层用于对目标组织的特征进行识别，以获得识别结果。

在一个可能的实施例中，输入数据还包括由内窥镜和目标对象之间的相对坐标构建的辅助向量。

在一个可能的实施例中，训练好的图像识别模型的获取过程包括：获取训练集、验证集和测试集；利用训练集对待训练的图像识别模型进行训练；利用验证集和测试集对训练后的图像识别模型进行验证和测试，以得到训练好的图像识别模型。

第二方面，本申请实施例提供了一种识别装置，该识别装置包括：第一获取模块，用于获取输入数据，输入数据包括待识别图像，待识别图像是将与处理器信号连接的内窥镜插入到目标对象的过程中所拍摄的图像；输入模块，用于将输入数据输入到训练好的图像识别模型中，以使训练好的图像识别模型对输入数据进行识别，以获得待识别图像的识别结果；显示模块，用于将识别结果进行显示。

在一个可能的实施例中，待识别图像是将内窥镜插入到目标对象的目标组织的过程中所拍摄的图像，目标组织包括关节组织。

在一个可能的实施例中，图像识别模型包括输入层、多个隐藏层和输出层，输入层用于获取输入数据，多个隐藏层用于根据输入数据，获取目标对象的目标组织的特征，输出层用于对目标组织的特征进行识别，以获得识别结果。

在一个可能的实施例中，输入数据还包括由内窥镜和目标对象之间的相对坐标构建的辅助向量。

在一个可能的实施例中，识别装置还包括：第二获取模块，用于获取训练集、验证集和测试集；训练模块，用于利用训练集对待训练的图像识别模型进行训练；验证测试模块，用于利用验证集和测试集对训练后的图像识别模型进行验证和测试，以得到训练好的图像识别模型。

为使本申请实施例所要实现的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

附图说明

为了更清楚地说明本申请实施例的技术方案，下面将对本申请实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本申请的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1示出了本申请实施例提供的一种电子设备的示意性结构框图；

图2示出了本申请实施例提供的一种电子设备的处理器执行计算机程序时所实现的识别方法的流程图；

图3示出了本申请实施例提供的一种电子设备的处理器执行计算机程序时所实现的识别方法的具体流程图；

图4示出了本申请实施例提供的一种识别装置的结构框图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行描述。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。同时，在本申请的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。

在现有的内窥镜手术中，使用目前的内窥镜成像系统，医生经常分辨不出硬质的内窥镜的头部处于对象(例如，人或动物等)中的哪个位置，从而导致需要更多的时间去判别当前的位置。也就是说，对于现有的内窥镜成像系统来说，其并不具有图像识别功能。

因此，现有技术中至少存在着识别效率低、浪费人力和手术效率低等问题。

基于此，本申请实施例提出了一种识别方案，通过获取输入数据，该输入数据包括待识别图像，该待识别图像是将与处理器信号连接的内窥镜插入到目标对象的过程中所拍摄的图像，随后将输入数据输入到训练好的图像识别模型中，以使训练好的图像识别模型对输入数据进行识别，以获得待识别图像的识别结果，最后将该识别结果进行显示。

因此，借助于上述技术方案，本申请实施例通过神经网络技术对待识别图像进行识别，以确定内窥镜的头部处于对象中的哪个位置，相比于现有的通过医生自身来确定的方法，其能够提高识别效率，并且其无需医生再花费较多的时间去进行确认，节省了医生的大量时间，从而其也能够提高手术效率。此外，其还能够解决浪费人力的问题。

请参见图1，图1示出了本申请实施例提供的一种电子设备100的示意性结构框图。在结构上，如图1所示的电子设备100包括存储器110、处理器120和显示器130。其中，存储器110可用于存储软件程序，以及处理器120通过运行存储在存储器110内的软件程序，从而可执行各种功能应用以及数据处理，以及显示器139可用于显示处理器120的处理结果。

应理解，存储器110可以是，但不限于，随机存取存储器(Random Access Memory，RAM)、只读存储器(Read Only Memory，ROM)、可编程只读存储器(Programmable Read-OnlyMemory，PROM)、可擦可编程序只读存储器(Erasable Programmable Read-Only Memory，EPROM)，以及电可擦编程只读存储器(Electric Erasable Programmable Read-OnlyMemory，EEPROM)。

还应理解，处理器120可以是一种集成电路芯片，具有信号处理能力。处理器120也可以是通用处理器，例如，可以是数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、分立门或晶体管逻辑器件、分立硬件组件等。

还应理解，显示器130可以是液晶显示器，也可以是有机发光显示器等。

应当理解，图1所示的结构仅为示意，本申请实施例提供的电子设备100还可以具有比图1更少或更多的组件，或是具有与图1所示不同的配置，例如，输入输出器件等，此外，图1所示的各组件可以通过软件、硬件或其组合实现。

请参见图2，图2示出了本申请实施例提供的一种电子设备的处理器执行计算机程序时所实现的识别方法的流程图。如图2所示，该识别方法包括：

步骤S210，获取输入数据。其中，输入数据包括待识别图像，待识别图像是将与处理器信号连接的内窥镜插入到目标对象的过程中所拍摄的图像。

应理解，虽然上面是以输入数据包括待识别图像为例来进行描述的，但本领域的技术人员应当理解，该输入数据还可包括其他数据，本申请实施例并不局限于此。

例如，该输入数据还可包括由内窥镜和目标对象之间的相对坐标构建的辅助向量，并且该辅助向量用于辅助图像识别模型对待识别图像的识别，从而可通过增加输入数据的维度来提高图像识别模型的识别精度。

还应理解，内窥镜和目标对象之间的相对坐标的获取过程可根据实际需求来进行设置，本申请实施例并不局限于此。

例如，在通过机械臂夹持内窥镜的杆体并且机械臂内部可安装有角度传感器的情况下，由于该机械臂和内窥镜的杆体的夹持部分距杆体的插入对象的体内的一侧的长度是固定的，并且可通过角度传感器确定机械臂的角度，那么可根据以上数据来计算内窥镜的杆体的坐标值。此外，由于目标对象是处于病床上的，那么可以将病床的中心点作为坐标原点，并且在获取到目标对象的中心点的坐标的情况下，可利用内窥镜的杆体的坐标值和目标对象的中心点的坐标，计算内窥镜的杆体相对于目标对象的中心点之间的相对坐标。

还应理解，待识别图像可以是将内窥镜输入到目标对象的目标组织的过程中所拍摄的图像。

还应理解，目标组织的具体组织可根据实际需求来进行设置，本申请实施例并不局限于此。

例如，目标组织可包括肩关节、膝关节等关节组织。

为了便于理解本申请实施例，下面通过具体的实施例来进行描述。

具体地，在内窥镜经过手术的切口进入目标对象的体内的情况下，由于内窥镜的头部可获取其头部所处位置的图像，从而可将采集的图像传输给处理器。

应理解，内窥镜可以是电子设备的一部分(即其可以是一体的)，也可以与电子设备是两个独立的设备。

步骤S220，将输入数据输入到训练好的图像识别模型中，以使训练好的图像识别模型对输入数据进行识别，以获得待识别图像的识别结果。

应理解，图像识别模型的具体类型和具体结构均可根据实际需求来进行设置，本申请实施例并不局限于此。

例如，图像识别模型包括输入层、多个隐藏层和输出层，输入层用于获取输入数据，多个隐藏层用于根据输入数据，获取目标对象的目标组织的特征，输出层用于对目标组织的特征进行识别，以获得识别结果。其中，识别结果可以为内窥镜的头部所处目标组织的名称，也可以为目标组织的哪一部分(例如，在关节组织包括关节面、关节囊和关节腔的情况下，该识别结果可以为关节腔)。

这里需要说明的是，由于目标图像的目标组织中不同位置的特征(例如，尺寸和颜色等)是不一样的，从而根据目标组织的特征来进行识别。

例如，由于关节腔中的不同组织对应的特征是不相同的，从而可根据确定出的特征来进行识别。

还应理解，图像识别模型中隐藏层的具体层数可根据实际需求来进行设置，本申请实施例并不局限于此。

例如，图像识别模型可包括5层隐藏层，也可包括16层隐藏层。

还应理解，输入层的具体层结构、隐藏层的具体层结构和输出层的具体层结构均可根据实际需求来进行设置，本申请实施例并不局限于此。

还应理解，训练好的图像识别模型的获取过程也可根据实际需求来进行设置，本申请实施例并不局限于此。

例如，在将样本数据集(例如，该数据集可包括样本图像、样本图像对应的相对坐标和样本图像对应的样本识别结果)划分成训练集、验证集和测试集的情况下，可利用训练集对待训练的图像识别模型进行训练，随后可利用验证集对训练后的图像识别模型进行验证，随后在验证完成后，可利用测试集对验证后的图像识别模型进行测试，以获得训练好的图像识别模型。

这里需要说明的是，虽然上面对图像识别模型的训练过程进行了描述，但本领域的技术人员应当理解，在图像识别模型已经训练好的情况下，可直接使用训练好的图像识别模型，无需再次训练。

这里需要说明的是，无论输入数据包括待识别图像还是输入数据包括待识别图像和辅助向量，该图像识别模型的结构是无需进行调整的。此外，在输入数据发生变化(例如，输入数据包括待识别图像；再例如，输入数据包括待识别图像和辅助向量)的情况下，该图像识别模型可调整多个隐藏层获取的中间矩阵中的元素值，并且该图像识别模型可根据中间矩阵来获取目标组织的特征。

步骤S230，将识别结果进行显示。

应理解，识别结果的显示方式可根据实际需求来进行设置，本申请实施例并不局限于此。

例如，可通过文字显示的方式来显示识别结果。

再例如，可通过在对象三维模型中标记的方式来显示识别结果(例如，可根据识别结果确定内窥镜处于目标对象的那个位置，从而可将三维模型中对应的位置用红点的方式来显示等)。

因此，借助于上述技术方案，本申请实施例通过神经网络技术，将专家的经验和判断能力转化为对所观察的医学图像的分辨和辨识能力，从而可提高医生的手术能力(即提高了手术的治疗效果和治疗效率)，降低对医生的需求。

为了便于理解本申请实施例，下面通过具体的实施例来进行描述。

请参见图3，图3示出了本申请实施例提供的一种电子设备的处理器执行计算机程序时所实现的识别方法的具体流程图。如图3所示，该识别方法包括：

步骤310，将收集的样本数据集划分成训练集、验证集和测试集。

具体地，可收集病例数据和患者标本，并可根据手术结果建立分类的样本数据集。例如，某个组织的大量内窥镜下的正确形态图像。随后可对样本数据集进行划分。

步骤S320，构建待训练的图像识别模型，并利用训练集对待训练的图像识别模型进行训练。

应理解，图像识别模型也可称为神经网络模型等。

还应理解，利用训练集对待训练的图像识别模型进行训练的具体过程可根据实际需求来进行设置，本申请实施例并不局限于此。

例如，可对训练集中图像进行预处理(例如，可将训练集中图像的像素统一调整为1920*1080)，随后可将预处理之后的图像输入到待训练的图像识别模型的输入层中，随后待训练的图像识别模型的多个隐藏层可根据输入的图像进行卷积计算，以获得目标组织的特征，随后待训练的图像识别模型的输出层可根据目标组织的特征，获得并输出识别结果。

步骤S330，利用验证集和测试集对训练后的图像识别模型进行验证和测试，以得到训练好的图像识别模型。

具体地，可利用验证集对训练后的图像识别模型进行验证和训练，随后在验证通过后，可利用测试集对验证后的图像识别模型进行测试，从而确定图像识别模型的准确度。若不满足要求，则可通过调整图像识别模型的参数。

因此，本申请实施例可先收集内窥镜(或者可称为关节镜)下观察到的组织画面数据集，然后对这些数据集进分类，通过这些判断出典型的组织。之后通过对这些图片分区操作，获得图像识别模型(或者可称为组织识别模型)，通过提取图片的特征值获得新的卷积特征，最后经过平均池化输出，预测类别概率。然后通过训练集上的数据增强，将专家的经验知识用于提高系统判断准确性上。最后通过测试集对整个的训练模型进行评估。

应理解，上述电子设备仅是示例性的，本领域技术人员根据上述的方法可以进行各种变形，修改或变形之后的内容也在本申请保护范围内。

请参见图4，图4示出了本申请实施例提供的一种识别装置400的结构框图，应理解，该识别装置400与上述图2和图3的方法实施例对应，能够执行上述方法实施例涉及的各个步骤，该识别装置400具体的功能可以参见上文中的描述，为避免重复，此处适当省略详细描述。该识别装置400包括至少一个能以软件或固件(firmware)的形式存储于存储器中或固化在识别装置400的操作系统(operating system，OS)中的软件功能模块。具体地，该识别装置400包括：

第一获取模块410，用于获取输入数据，输入数据包括待识别图像，待识别图像是将与处理器信号连接的内窥镜插入到目标对象的过程中所拍摄的图像；

输入模块420，用于将输入数据输入到训练好的图像识别模型中，以使训练好的图像识别模型对输入数据进行识别，以获得待识别图像的识别结果；

显示模块430，用于将识别结果进行显示。

在一个可能的实施例中，待识别图像是将内窥镜插入到目标对象的目标组织的过程中所拍摄的图像，目标组织包括关节组织。

在一个可能的实施例中，图像识别模型包括输入层、多个隐藏层和输出层，输入层用于获取输入数据，多个隐藏层用于根据输入数据，获取目标对象的目标组织的特征，输出层用于对目标组织的特征进行识别，以获得识别结果。

在一个可能的实施例中，输入数据还包括由内窥镜和目标对象之间的相对坐标构建的辅助向量。

在一个可能的实施例中，识别装置还包括：第二获取模块(未示出)，用于获取训练集、验证集和测试集；训练模块(未示出)，用于利用训练集对待训练的图像识别模型进行训练；验证测试模块(未示出)，用于利用验证集和测试集对训练后的图像识别模型进行验证和测试，以得到训练好的图像识别模型。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的装置的具体工作过程，可以参考前述方法中的对应过程，在此不再过多赘述。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统的具体工作过程，可以参考前述方法中的对应过程，在此不再过多赘述。

需要说明的是，本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。对于装置类实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

另外，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。

所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

以上所述仅为本申请的优选实施例而已，并不用于限制本申请，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。

以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应所述以权利要求的保护范围为准。

Claims (10)

1.一种电子设备，其特征在于，所述电子设备包括存储器和处理器，所述处理器用于从所述存储器中读取计算机程序，并执行如下步骤：

获取输入数据，所述输入数据包括待识别图像，所述待识别图像是将与所述处理器信号连接的内窥镜插入到目标对象的过程中所拍摄的图像；

将所述输入数据输入到训练好的图像识别模型中，以使所述训练好的图像识别模型对所述输入数据进行识别，以获得所述待识别图像的识别结果；

将所述识别结果进行显示。

2.根据权利要求1所述的电子设备，其特征在于，所述待识别图像是将所述内窥镜插入到目标对象的目标组织的过程中所拍摄的图像，所述目标组织包括关节组织。

3.根据权利要求2所述的电子设备，其特征在于，所述图像识别模型包括输入层、多个隐藏层和输出层，所述输入层用于获取所述输入数据，所述多个隐藏层用于根据所述输入数据，获取所述目标对象的目标组织的特征，所述输出层用于对所述目标组织的特征进行识别，以获得所述识别结果。

4.根据权利要求1或3所述的电子设备，其特征在于，所述输入数据还包括由所述内窥镜和所述目标对象之间的相对坐标构建的辅助向量。

5.根据权利要求1所述的电子设备，其特征在于，所述训练好的图像识别模型的获取过程包括：

获取训练集、验证集和测试集；

利用所述训练集对待训练的图像识别模型进行训练；

利用所述验证集和测试集对训练后的图像识别模型进行验证和测试，以得到所述训练好的图像识别模型。

6.一种识别装置，其特征在于，包括：

第一获取模块，用于获取输入数据，所述输入数据包括待识别图像，所述待识别图像是将与所述处理器信号连接的内窥镜插入到目标对象的过程中所拍摄的图像；

输入模块，用于将所述输入数据输入到训练好的图像识别模型中，以使所述训练好的图像识别模型对所述输入数据进行识别，以获得所述待识别图像的识别结果；

显示模块，用于将所述识别结果进行显示。

7.根据权利要求6所述的识别装置，其特征在于，所述待识别图像是将所述内窥镜插入到目标对象的目标组织的过程中所拍摄的图像，所述目标组织包括关节组织。

8.根据权利要求7所述的识别装置，其特征在于，所述图像识别模型包括输入层、多个隐藏层和输出层，所述输入层用于获取所述输入数据，所述多个隐藏层用于根据所述输入数据，获取所述目标对象的目标组织的特征，所述输出层用于对所述目标组织的特征进行识别，以获得所述识别结果。

9.根据权利要求6或8所述的识别装置，其特征在于，所述输入数据还包括由所述内窥镜和所述目标对象之间的相对坐标构建的辅助向量。

10.根据权利要求6所述的识别装置，其特征在于，所述识别装置还包括：

第二获取模块，用于获取训练集、验证集和测试集；

训练模块，用于利用所述训练集对待训练的图像识别模型进行训练；

验证测试模块，用于利用所述验证集和测试集对训练后的图像识别模型进行验证和测试，以得到所述训练好的图像识别模型。

Images