CN113724237A - 齿痕识别方法、装置、计算机设备及存储介质 - Google Patents
齿痕识别方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN113724237A CN113724237A CN202111033982.0A CN202111033982A CN113724237A CN 113724237 A CN113724237 A CN 113724237A CN 202111033982 A CN202111033982 A CN 202111033982A CN 113724237 A CN113724237 A CN 113724237A
- Authority
- CN
- China
- Prior art keywords
- tongue
- image
- tooth
- model
- edge region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 57
- 238000001514 detection method Methods 0.000 claims abstract description 68
- 238000010586 diagram Methods 0.000 claims abstract description 54
- 238000000605 extraction Methods 0.000 claims abstract description 33
- 238000007781 pre-processing Methods 0.000 claims abstract description 14
- 230000004927 fusion Effects 0.000 claims description 86
- 230000006870 function Effects 0.000 claims description 21
- 230000003321 amplification Effects 0.000 claims description 17
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 17
- 230000011218 segmentation Effects 0.000 claims description 13
- 238000012545 processing Methods 0.000 claims description 11
- 238000006243 chemical reaction Methods 0.000 claims description 8
- 238000010606 normalization Methods 0.000 claims description 8
- 230000007246 mechanism Effects 0.000 description 10
- 230000000007 visual effect Effects 0.000 description 10
- 230000008569 process Effects 0.000 description 7
- 238000003062 neural network model Methods 0.000 description 6
- 238000012549 training Methods 0.000 description 6
- 239000003814 drug Substances 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000036541 health Effects 0.000 description 2
- 238000005192 partition Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000994 depressogenic effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001575 pathological effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/12—Edge-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及图像识别领域,尤其涉及一种齿痕识别方法、装置、计算机设备及存储介质。其方法包括:获取舌头图像;将舌头图像输入舌头检测模型进行舌头边缘区域的检测,得到舌头边缘区域图像;并对舌头边缘区域图像进行图像预处理,得到待识别舌头图像;将待识别舌头图像输入齿痕识别模型;齿痕识别模型包括密集卷积网络模型和齿痕注意力模型;通过密集卷积网络模型对待识别舌头图像进行卷积特征提取,得到卷积特征图;通过齿痕注意力模型对卷积特征图进行齿痕特征提取,生成齿痕热力图和齿痕分类信息;根据待识别舌头图像、齿痕特征图和齿痕分类信息生成齿痕识别结果。本发明可提高齿痕识别的准确性和效率。
Description
技术领域
本发明涉及图像识别领域,尤其涉及一种齿痕识别方法、装置、计算机设备及存储介质。
背景技术
在中医领域中,通过观察患者舌头上的齿痕以及齿痕的数量、位置等信息诊断人体的健康状态,是中医望诊的重要诊断方法。在中医领域,齿痕舌是比较常见的病态舌,齿痕舌一般表现为在舌头边缘有牙齿痕迹。
随着人们对健康的关注,中医相关的数字化技术也日益更新发展。传统的人工观察方式效率较低,且受医生的主观经验影响,准确性不高。目前,现有技术中,通常通过纹理分析方式对舌头和齿痕进行定位识别分类。然而,纹理分析方式具有局限性,在处理大规模数据时,效率较低,很难得到比较好的识别结果。
发明内容
基于此,有必要针对上述技术问题,提供一种齿痕识别方法、装置、计算机设备及存储介质,以解决现有技术具有局限性,在处理大规模数据时,效率较低,很难得到比较好的识别结果的问题。
一种齿痕识别方法,包括:
获取舌头图像;
将所述舌头图像输入舌头检测模型进行舌头边缘区域的检测,得到舌头边缘区域图像;并对所述舌头边缘区域图像进行图像预处理,得到待识别舌头图像;
将所述待识别舌头图像输入齿痕识别模型;所述齿痕识别模型包括密集卷积网络模型和齿痕注意力模型;
通过所述密集卷积网络模型对所述待识别舌头图像进行卷积特征提取,得到卷积特征图;
通过所述齿痕注意力模型对所述卷积特征图进行齿痕特征提取,生成齿痕热力图和齿痕分类信息;
根据所述待识别舌头图像、所述齿痕热力图和所述齿痕分类信息生成齿痕识别结果。
一种齿痕识别装置,包括:
舌头图像模块,用于获取舌头图像;
待识别舌头图像获取模块,用于将所述舌头图像输入舌头检测模型进行舌头边缘区域的检测,得到舌头边缘区域图像;并对所述舌头边缘区域图像进行图像预处理,得到待识别舌头图像;
齿痕识别模型模块,用于将所述待识别舌头图像输入齿痕识别模型;所述齿痕识别模型包括密集卷积网络模型和齿痕注意力模型;
卷积特征提取模块,用于通过所述密集卷积网络模型对所述待识别舌头图像进行卷积特征提取,得到卷积特征图;
齿痕特征提取模块,用于通过所述齿痕注意力模型对所述卷积特征图进行齿痕特征提取,生成齿痕热力图和齿痕分类信息;
齿痕识别结果模块,用于根据所述待识别舌头图像、所述齿痕热力图和所述齿痕分类信息生成齿痕识别结果。
一种计算机设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机可读指令,所述处理器执行所述计算机可读指令时实现上述齿痕识别方法。
一个或多个存储有计算机可读指令的可读存储介质,所述计算机可读指令被一个或多个处理器执行时,使得所述一个或多个处理器执行如上述齿痕识别方法。
上述齿痕识别方法、装置、计算机设备及存储介质,通过获取舌头图像;将所述舌头图像输入舌头检测模型进行舌头边缘区域的检测,得到舌头边缘区域图像;并对所述舌头边缘区域图像进行图像预处理,得到待识别舌头图像;将所述待识别舌头图像输入齿痕识别模型;所述齿痕识别模型包括密集卷积网络模型和齿痕注意力模型;通过所述密集卷积网络模型对所述待识别舌头图像进行卷积特征提取,得到卷积特征图;通过所述齿痕注意力模型对所述卷积特征图进行齿痕特征提取,生成齿痕热力图和齿痕分类信息;根据所述待识别舌头图像、所述齿痕热力图和所述齿痕分类信息生成齿痕识别结果。本发明采用轻量级的舌头检测模型,可提高舌头检测的效率,在检测到舌头边缘区域图像时,对舌头边缘区域图像进行预处理,可提高齿痕识别的准确性,并在密集卷积网络模型的基础上加入了视觉注意力机制,可提高齿痕识别的精确度。且最终结果输出包含齿痕热力图,根据齿痕热力图可对齿痕分类信息的准确性进行佐证,进一步提高齿痕识别的准确性。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一实施例中齿痕识别方法的一应用环境示意图;
图2是本发明一实施例中齿痕识别方法的一流程示意图;
图3是本发明一实施例中齿痕识别装置的一结构示意图;
图4是本发明一实施例中计算机设备的一示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本实施例提供的齿痕识别方法,可应用在如图1的应用环境中,其中,客户端与服务端进行通信。其中,客户端包括但不限于各种个人计算机、笔记本电脑、智能手机、平板电脑和便携式可穿戴设备。服务端可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
在一实施例中,如图2所示,提供一种齿痕识别方法,以该方法应用在图1中的服务端为例进行说明,包括如下步骤:
S10、获取舌头图像。
可理解的,舌头图像指通过摄像设备对患者的舌头进行拍摄得到的拍摄图像。
S20、将所述舌头图像输入舌头检测模型进行舌头边缘区域的检测,得到舌头边缘区域图像;并对所述舌头边缘区域图像进行图像预处理,得到待识别舌头图像。
可理解的,在对患者的舌头进行拍摄时,由于患者的头部存在转动,可能导致舌头图像不包含患者的舌头。因此,需要通过舌头检测模型对舌头图像进行识别,判断舌头图像是否包含患者的舌头边缘区域。若舌头图像包含患者的舌头边缘区域,则将识别到的舌头边缘区域分割出来,得到舌头边缘区域图像。若不包含舌头边缘区域,则提示舌头图像不包含患者舌头边缘区域,需重新对患者的舌头进行拍摄。其中,舌头边缘区域是指包含舌头边缘的区域。
可理解的,舌头检测模型为训练完成的多模型融合的神经网络模型,该舌头检测模型融合了多尺度深度网络模型、特征金字塔网络模型和加权融合模型,即舌头检测模型包括多尺度深度网络模型、特征金字塔网络模型和加权融合模型,舌头检测模型能够对输入的舌头图像进行识别,识别出是否包含舌头边缘区域,并将识别到的舌头边缘区域从舌头图像中分割出来。其中,多尺度深度网络模型的网络结构可以根据需求设定。比如,多尺度深度网络模型的网络结构为轻量级的网络结构,作为优选,多尺度深度网络模型的网络结构为轻量级的BlazeNet网络结构。其中,Blaze译为“火焰、失火”,反映了BlazeNet算法从算法设计到实现都竭力追求“极速”的特点。特征金字塔网络模型为基于BiFPN(加权的双向特征金字塔网络)模型的深度神经网络,特征金字塔网络模型对高层级的特征进行融合获得更高级的特征,并对融合后的特征进行预测的模型,特征金字塔网络模型的网络结构为BiFPN的网络结构。加权融合模型为运用双线性插值法生成多组与舌头图像的尺寸大小相同的图像,通过对生成的多组图像进行加权融合,并预测出舌头边缘区域的神经网络模型。
具体的,将舌头图像输入舌头检测模型,通过舌头检测模型对舌头图像进行舌头识别处理,在识别到舌头图像包含舌头边缘区域时,根据舌头边缘区域的位置和轮廓,对舌头边缘区域进行分割提取,得到舌头边缘区域图像。在得到舌头边缘区域图像之后,对舌头边缘区域图像进行预处理,得到待识别舌头图像。其中,预处理包括但不限于对舌头边缘区域图像进行缩放、旋转、灰度转换和归一化处理。由于在数据处理的过程中,如果不对获取到的舌头边缘区域图像进行标准化处理,那么在后续的图像处理过程以及识别过程中有可能得到的结果产生偏差,这种偏差并不是由所关注的对象本身产生的偏差,而是由于没有对舌头边缘区域图像进行图像归一而产生的偏差。
优选的,按照预设灰度参数,对舌头边缘区域图像进行灰度转换,得到灰度图像,并对灰度图像进行归一化处理,得到待识别舌头图像。
S30、将所述待识别舌头图像输入齿痕识别模型;所述齿痕识别模型包括密集卷积网络模型和齿痕注意力模型。
可理解的,齿痕识别模型是训练完成的多模型融合的神经网络模型。该齿痕识别模型融合了密集卷积网络模型和注意力机制模型,即该齿痕识别模型包括密集卷积网络模型和齿痕注意力模型。其中,齿痕注意力机制模型为基于视觉注意力机制(transformer)的深度网络模型。密集卷积网络模型用于提取待识别舌头图像的卷积特征。例如,密集卷积网络模型为densenet121(密集卷积网络)。视觉注意力机制在分类任务中有较好的识别结果。齿痕识别模型能够对输入的待识别舌头图像进行识别,识别出该待识别舌头图像是否包含齿痕。齿痕在舌头上一般表现为在舌头边缘区域向下凹陷的牙齿痕迹。
S40、通过所述密集卷积网络模型对所述待识别舌头图像进行卷积特征提取,得到卷积特征图。
可理解的,密集卷积网络模型用于提取待识别舌头图像的卷积特征,得到卷积特征图。密集卷积网络模型是基于DenseNet结构的网络模型。在DenseNet结构中,每一层的输出都输入后面的所有层。DenseNet结构使用的是连结结构(concatenate),可以减少网络参数,避免某些层被选择性丢弃,导致信息阻塞。
可理解的,卷积特征为与齿痕相关的多个维度的齿痕特征。卷积特征包括齿痕的位置特征、数量特征和凹陷程度特征。卷积特征图为经过提取卷积特征之后获得的特征向量图,该特征向量图包含多个层级的齿痕特征。
S50、通过所述齿痕注意力模型对所述卷积特征图进行齿痕特征提取,生成齿痕热力图和齿痕分类信息。
可理解的,齿痕注意力机制模型为基于视觉注意力机制(transformer)的深度网络模型。齿痕特征包括齿痕的视觉特征。齿痕的视觉特征一般表现为向下凹陷。视觉注意力机制可基于原有的数据找到它们之间的视觉关联性,并突出某些重要特征。通过视觉注意力机制可获取卷积特征图的注意力权重取值,然后将注意力权重取值通过梯度反传到卷积特征图分辨率,即可获得对卷积特征图的齿痕热力图。其中,注意力权重取值高的位置表示该位置为齿痕。齿痕热力图为待识别舌头图像中齿痕的热力图。热力图通常是将需要展现给用户的内容以颜色的深浅进行标识,从而更加直观地呈现给用户。在该方法中,通过热力图在齿痕坐标位置处将齿痕的凹陷程度用颜色深浅进行区分。例如,对于凹陷越深的齿痕,在热力图上齿痕坐标位置处对应的颜色越深。通过齿痕注意力模型对卷积特征图进行齿痕特征提取,在得到齿痕特征之后,可根据齿痕特征对舌头边缘区域图像是否有齿痕、齿痕坐标位置以及齿痕个数进行识别分类,得到齿痕分类信息。齿痕分类信息包括待识别舌头图像中包含齿痕和待识别舌头图像中不包含齿痕。当齿痕分类信息为待识别舌头图像中包含齿痕时,可得到待识别图像具有齿痕的概率、齿痕坐标位置以及齿痕个数的识别结果。
S60、根据所述待识别舌头图像、所述齿痕热力图和所述齿痕分类信息生成齿痕识别结果。
可理解的,在得到待识别舌头图像的齿痕热力图和齿痕分类信息之后,将待识别舌头图像和齿痕热力图进行合成,得到齿痕图像,即在待识别舌头图像的基础上叠加齿痕热力图。具体的,将待识别舌头图像中的与齿痕热力图对应的齿痕坐标位置的像素点替代成在齿痕热力图中相同的坐标位置的值。将舌头图像、齿痕分类信息和齿痕图像彼此关联存储,作为舌头图像的齿痕识别结果。
在步骤S10-S60中,通过获取舌头图像;将所述舌头图像输入舌头检测模型进行舌头边缘区域的检测,得到舌头边缘区域图像;并对所述舌头边缘区域图像进行图像预处理,得到待识别舌头图像;将所述待识别舌头图像输入齿痕识别模型;所述齿痕识别模型包括密集卷积网络模型和齿痕注意力模型;通过所述密集卷积网络模型对所述待识别舌头图像进行卷积特征提取,得到卷积特征图;通过所述齿痕注意力模型对所述卷积特征图进行齿痕特征提取,生成齿痕热力图和齿痕分类信息;根据所述待识别舌头图像、所述齿痕热力图和所述齿痕分类信息生成齿痕识别结果。本发明采用轻量级的舌头检测模型,可提高舌头检测的效率,在检测到舌头边缘区域图像时,对舌头边缘区域图像进行预处理,可提高齿痕识别的准确性,并在密集卷积网络模型的基础上加入了视觉注意力机制,可提高齿痕识别的精确度。且最终结果输出包含齿痕热力图,根据齿痕热力图可对齿痕分类信息的准确性进行佐证,进一步提高齿痕识别的准确性。
可选的,在步骤S20中,即所述将所述舌头图像输入舌头检测模型进行舌头边缘区域的检测,得到舌头边缘区域图像,包括:
S201、将所述舌头图像输入舌头检测模型;所述舌头检测模型包括多尺度深度网络模型、特征金字塔网络模型和加权融合模型;
可理解的,舌头检测模型为训练完成的多模型融合的神经网络模型,该舌头检测模型融合了多尺度深度网络模型、特征金字塔网络模型和加权融合模型,即舌头检测模型包括多尺度深度网络模型、特征金字塔网络模型和加权融合模型,舌头检测模型能够对输入的舌头图像进行识别,识别出是否包含舌头边缘区域,并将识别到的舌头边缘区域从舌头图像中分割出来。其中,多尺度深度网络模型的网络结构可以根据需求设定。比如,多尺度深度网络模型的网络结构为轻量级的网络结构,作为优选,多尺度深度网络模型的网络结构为轻量级的BlazeNet网络结构。特征金字塔网络模型为基于BiFPN模型的深度神经网络,特征金字塔网络模型对高层级的特征进行融合获得更高级的特征,并对融合后的特征进行预测的模型,特征金字塔网络模型的网络结构为BiFPN的网络结构。加权融合模型为运用双线性插值法生成多组与舌头图像的尺寸大小相同的图像,通过对生成的多组图像进行加权融合,并预测出舌头边缘区域的神经网络模型。
S202、通过所述多尺度深度网络模型对所述舌头图像进行舌头特征提取,生成待处理特征图和舌头识别结果;所述舌头识别结果用于判断所述舌头图像是否包括舌头边缘区域;
可理解的,舌头特征为多个维度与舌头相关的特征。待处理特征图为经过提取舌头特征之后获得的具有舌头特征的特征图,该特征图包含多个层级的特征。优选的,该特征图包含五个层级的特征吗,即五个层级分别输出的特征向量图。舌头识别结果是指舌头图像中是否包含舌头边缘区域的识别结果。该识别结果包括舌头图像包含舌头边缘区域和舌头图像不包含舌头边缘区域。在该识别结果为舌头图像包含舌头边缘区域时,表示该舌头图像中包含患者的舌头,对舌头边缘区域分割并提取。在该识别结果为舌头图像不包含舌头边缘区域时,则提示舌头图像不包含患者舌头边缘区域,需重新对患者的舌头进行拍摄。
S203、当所述识别结果表示所述舌头图像包括舌头边缘区域时,将所述待处理特征图输入所述特征金字塔网络模型中进行特征融合,生成融合特征图组;
可理解的,舌头边缘区域指患者的舌头。在识别到舌头图像包含舌头边缘区域时,表示舌头图像中可以分割出舌头边缘区域图像。将待处理特征图输入特征金字塔网络模型中,特征金字塔网络模型为基于BiFPN模型且训练完成的深度神经网络。其中,BiFPN模型能够更好地平衡不同尺度的特征信息,BiFPN模型在基于FPN(特征图金字塔网络)的一条自顶向下的通道来融合多个层级输出的特征基础上增加了一条自底向上的通道,并将同一层级的特征添加一条额外的边,在不增加损失的情况下同时融合更多的特征,从而重复堆叠它们来获得更高级的特征融合方式。
优选的,通过特征金字塔网络模型可对五个层级的待处理特征图进行融合,生成与五个层级一一对应的融合特征图组,得到五组融合特征图组,五组述融合特征图组分别表明了五个层级的不同尺度的融合后的特征信息。
S204、将所述融合特征图组输入所述加权融合模型中进行插值及加权融合,得到待分割特征图像以及所述待分割特征图像中各个像素点对应的像素值,将与大于预设阈值的像素值对应的像素点确定为舌头边缘区域的坐标点,根据所述坐标点进行舌头边缘区域的分割,得到舌头边缘区域图像。
可理解的,运用双线性插值法可将与各个层级对应的各组的融合特征图组进行上采样至与舌头图像大小相同的图像,并合并成与该融合特征图组对应的一个扩增特征图。其中,双线性插值法为充分的利用了特征向量图中像素点四周的四个像素点来共同决定输出的目标特征向量图中的与该像素点对应的值的插值法。加权融合模型包含多个层级。插值为运用双线性插值法确定出扩增特征图中的各个像素点对应的像素值。像素值为像素点是舌头边缘区域中的点的概率。加权融合为通过加权融合模型中的各个层级的权重参数,对各个层级对应的扩增特征图进行加权乘积,融合成一个待分割特征图像。根据待分割特征图像中各个像素点对应的像素值,确定出待分割特征图像中舌头边缘区域的坐标位置,即识别出与舌头图像大小相同的待分割特征图像中各个像素点是否为舌头边缘区域中点的概率,将大于所述预设阈值的概率对应的像素点确定为舌头边缘区域中的坐标点,并根据若干坐标点的坐标位置进行舌头边缘区域的分割,得到一个舌头边缘区域图像。
在步骤S201-S204中,通过将所述舌头图像输入舌头检测模型;所述舌头检测模型包括多尺度深度网络模型、特征金字塔网络模型和加权融合模型;通过所述多尺度深度网络模型对所述舌头图像进行舌头特征提取,生成待处理特征图和舌头识别结果;所述舌头识别结果用于判断所述舌头图像是否包括舌头边缘区域;当所述识别结果表示所述舌头图像包括舌头边缘区域时,将所述待处理特征图输入所述特征金字塔网络模型中进行特征融合,生成融合特征图组;将所述融合特征图组输入所述加权融合模型中进行插值及加权融合,得到待分割特征图像以及所述待分割特征图像中各个像素点对应的像素值,将与大于预设阈值的像素值对应的像素点确定为舌头边缘区域的坐标点,根据所述坐标点进行舌头边缘区域的分割,得到舌头边缘区域图像。实现了加权融合,可以将各个层级的融合特征图组进行插值和加权融合,优化各个层级的尺度的权重,提高了识别的准确性和可靠性,提升了舌头识别的效率。
可选的,在步骤S204中,即所述将所述融合特征图组输入所述加权融合模型中进行插值及加权融合,得到待分割特征图像,包括:
S2041、运用双线性插值法,将所述融合特征图组中的各融合特征图插值,生成与所述融合特征图组对应的扩增特征图,所述扩增特征图与所述舌头图像的尺寸相同。
可理解的,双线性插值法(Bilinear Upsampling)为充分的利用了特征向量图中像素点四周的四个像素点来共同决定输出的目标特征向量图中的与该像素点对应的值的插值法。融合特征图组包含若干融合特征图。通过运用双线性插值法,可将与各个层级对应的各组的融合特征图组进行上采样至与舌头图像大小相同的图像,并合并成与该融合特征图组对应的一个扩增特征图。该扩增特征图与舌头图像的尺寸相同。
S2042、通过所述加权融合模型将所有所述扩增特征图进行加权融合得到所述待分割特征图像。
可理解的,加权融合为通过加权融合模型中的各个层级的权重参数,对各个层级对应的扩增特征图进行加权乘积,融合成一个待分割特征图像,待分割特征图像与舌头图像的尺寸大小相同。
在步骤S2041和S2042中,通过运用双线性插值法,实现了加权融合,能够将各个层级的融合特征图组进行插值和加权融合,优化了各个层级的尺度的权重,提高了识别的准确性和可靠性,提升了舌头识别效率。
可选的,在步骤S20中,即所述对所述舌头边缘区域图像进行图像预处理,得到待识别舌头图像,包括:
S205、按照预设灰度参数,对所述舌头边缘区域图像进行灰度转换,得到灰度图像;
S206、对所述灰度图像进行归一化处理,得到所述待识别舌头图像。
可理解的,灰度转换是图像增强的一种重要手段。灰度转换用于改善图像显示效果,属于空间域处理方法,可以使图像对比度扩展,图像更加清晰,特征更加明显。灰度转换其实质就是按一定的预设参数修改图像每一个像素的灰度,从而改变图像的灰度范围。灰度参数可根据客户端需求进行设定。不同的灰度参数,图像增强的效果不同。归一化处理是指通过一系列变换,将待处理的原始图像转换成相应的唯一标准形式图像。该标准形式图像对平移、旋转、缩放等仿射变换具有不变特性。
在步骤S205和S206中,对舌头边缘区域图像按照预设灰度参数进行灰度转换,可使舌头边缘区域图像更加清晰,图像特征更加明显。在灰度图像的基础上,进行图像归一化处理,可减少提高齿痕识别的准确性。
可选的,在步骤S20之前,即所述将所述舌头图像输入舌头检测模型之前,包括:
S207、获取舌头样本集;所述舌头样本集包括若干舌头样本图像,所述舌头样本图像与一个舌头标识标签关联。
可理解的,舌头样本集为所有舌头样本图像的集合,舌头样本图像为历史采集的舌头的拍摄图像。舌头样本图像与一个舌头标识标签关联。其中,舌头标识标签为舌头样本图像中是否包含舌头边缘区域的信息。舌头标识标签包括舌头样本图像中舌头边缘区域标签以及舌头边缘区域坐标图像,其中,舌头边缘区域标签为舌头边缘区域坐标图像是否包含舌头边缘区域的标签。在模型训练过程中将包含舌头边缘区域的舌头样本图像标注为1,不包含舌头边缘区域的舌头样本图像在模型训练过程中标注为0。舌头边缘区域坐标图像指标记出舌头边缘区域的坐标位置的图像,即在与标签舌头边缘区域标签对应的舌头样本图像中标记出舌头边缘区域,并将该舌头边缘区域的坐标位置移至一个空白的图像中生成舌头边缘区域坐标图像。
S208、将所述舌头样本图像输入含有初始参数的初始舌头检测模型,通过所述初始舌头检测模型对所述舌头样本图像进行所述舌头特征提取,生成样本识别结果。
可理解的,初始舌头检测模型为多模型融合的神经网络模型,初始舌头检测模型包括初始深度网络模型、初始金字塔网络模型和初始加权融合模型,初始舌头检测模型包含初始参数,该初始参数包括初始深度网络模型、初始金字塔网络模型和初始加权融合模型的所有参数。样本识别结果包括样本融合特征图组、样本分类识别结果和样本分割识别结果。
具体的,通过初始深度网络模型对舌头样本图像进行舌头特征提取,生成至少一个待处理样本特征图和样本分类识别结果。其中,待处理样本特征图是指经过提取舌头特征之后得到的特征向量图。样本分类识别结果包括舌头样本图像中包含舌头边缘区域和舌头样本图像中不包含舌头边缘区域。当样本分类识别结果为舌头样本图像中包含舌头边缘区域时,可得到舌头样本图像具有舌头边缘区域的概率的结果。在检测到样本分类识别结果为舌头样本图像中包含舌头边缘区域时,将所有待处理样本特征图输入初始金字塔网络模型中,通过初始金字塔网络模型对待处理样本特征图进行融合,生成至少一个融合样本特征图组。在得到若干融合样本特征图组之后,运用双线性插值法,通过初始加权融合模型对所有融合样本特征图组进行加权融合,得到一个待分割样本特征向量图,根据待分割样本特征向量图中各个像素点对应的值,确定出待分割样本特征向量图中的舌头边缘区域的坐标位置,得到样本分割识别结果。其中,样本分割识别结果包括舌头边缘区域图像以及该舌头边缘区域图像中各像素点对应的为舌头边缘区域中的点的概率值。
S209、根据所述样本识别结果和所述舌头标识标签确定总损失值。
可理解的,样本识别结果包括样本融合特征图组、样本分类识别结果和样本分割识别结果。
具体的,根据样本分类识别结果和舌头标识标签,确定第一损失值L1。根据所有融合样本特征图组和舌头标识标签,确定第二损失值L2。根据样本分割识别结果和舌头标识标签,确定第三损失值L3。将第一损失值L1、第二损失值L2和第三损失值L3进行加权求和,得到总损失值L。
S2010、在所述总损失值未满足收敛条件时,迭代更新所述初始舌头检测模型的初始参数,并根据更新后的初始参数计算新的总损失值;当新的总损失值满足所述收敛条件时,将与所述新的总损失值对应的所述初始舌头检测模型确定为所述舌头检测模型。
可理解的,在模型训练中,总损失值越小越好,对模型的不断训练是为了使模型的总损失值满足收敛条件,即总损失值越接近收敛条件说明模型越好。收敛条件可以为小于预设收敛阈值,例如,预设收敛阈值为0.1,则收敛条件为总损失值小于0.1。当总损失值满足收敛条件时,停止训练,将与该总损失值对应的初始舌头检测模型确定为舌头检测模型。当总损失值未满足收敛条件时,迭代更新初始舌头检测模型的初始参数。并根据更新后的初始参数计算新的总损失值,判断新的总损失值是否满足收敛条件。直到新的总损失值满足收敛条件时,停止训练,并将与该新的总损失值对应的初始舌头检测模型确定为舌头检测模型。
在步骤S207-S2010中,通过样本识别结果和所述舌头标识标签确定总损失值,并基于收敛条件使总损失值越来越小,可提高检测模型的准确性。可以不断向准确的结果靠拢,让识别的准确率越来越高
可选的,在步骤S209中,即所述样本识别结果包括样本融合特征图组、样本分类识别结果和样本分割识别结果;所述根据所述样本分类识别结果和所述舌头标识标签确定总损失值,包括:
S2091、将所述样本分类识别结果和所述舌头边缘区域标签输入第一损失函数,得到第一损失值。
可理解的,舌头标识标签包括舌头样本图像中舌头边缘区域标签以及舌头边缘区域坐标图像。舌头边缘区域标签为舌头边缘区域坐标图像是否包含舌头边缘区域的标签。将样本分类识别结果和舌头标识标签的舌头边缘区域标签输入初始深度网络模型中的第一损失函数,通过第一损失函数计算出第一损失值。其中,第一损失函数可以根据需求设置。例如,该第一损失函数可以为交叉熵损失函数。
S2092、根据所述样本融合特征图组得到舌头边缘区域的预测坐标位置,根据所述舌头边缘区域坐标图像得到舌头边缘区域的坐标位置,将所述预测坐标位置和所述坐标位置输入第二损失函数,得到第二损失值。
可理解的,舌头标识标签包括舌头样本图像中舌头边缘区域标签以及舌头边缘区域坐标图像。其中,舌头边缘区域坐标图像指标记出舌头边缘区域的坐标位置的图像。根据样本融合特征图组可以预测出舌头边缘区域的坐标位置,即得到舌头边缘区域的预测坐标位置。将预测的舌头边缘区域的坐标位置和舌头标识标签中舌头边缘区域的坐标位置输入第二损失函数中,通过第二损失函数计算出预测出舌头边缘区域的坐标位置和舌头标识标签中舌头边缘区域的坐标位置的差异,得到第二损失值L2。其中,第二损失函数可以根据需求设置。例如,该第二损失函数可以为交叉熵损失函数。
S2093、根据所述样本分割识别结果和所述舌头边缘区域坐标图像,得到第三损失值。
可理解的,舌头标识标签包括舌头边缘区域坐标图像。根据样本分割识别结果中的舌头边缘区域图像和舌头标识标签中的舌头边缘区域坐标图像,可得到第三损失值。
具体的,将样本分割识别结果中的舌头边缘区域图像和舌头标识标签中的舌头边缘区域图像输入距离损失函数中,通过距离损失函数计算第三损失值。
S2094、根据所述第一损失值、所述第二损失值和所述第三损失值确定总损失值。
可理解的。获取预先设定的第一损失的权重、第二损失的权重和第三损失的权重。其中,第一损失的权重、第二损失的权重和第三损失的权重之和为1。根据第一损失的权重、第二损失的权重和第三损失的权重对第一损失值、第二损失值和第三损失值进行加权求和,得到总损失值L。其中,加权求和的公式为:
L=α1L1+α2L2+α3L3
其中:
L为总损失值;
L1为第一损失值;
L2为第二损失值;
L3为第三损失值;
α1为第一损失的权重;
α2为第二损失的权重;
α3为第三损失的权重。
在步骤S2091-S2094中,舌头检测模型考虑了多个维度的损失值,能够提高识别的准确性。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
在一实施例中,提供一种齿痕识别装置,该齿痕识别装置与上述实施例中齿痕识别方法一一对应。如图3所示,该齿痕识别装置包括舌头图像模块10、待识别舌头图像获取模块20、齿痕识别模型模块30、卷积特征提取模块40、齿痕特征提取模块50和齿痕识别结果模块60。各功能模块详细说明如下:
舌头图像模块10,用于获取舌头图像;
待识别舌头图像获取模块20,用于将所述舌头图像输入舌头检测模型进行舌头边缘区域的检测,得到舌头边缘区域图像;并对所述舌头边缘区域图像进行图像预处理,得到待识别舌头图像;
齿痕识别模型模块30,用于将所述待识别舌头图像输入齿痕识别模型;所述齿痕识别模型包括密集卷积网络模型和齿痕注意力模型;
卷积特征提取模块40,用于通过所述密集卷积网络模型对所述待识别舌头图像进行卷积特征提取,得到卷积特征图;
齿痕特征提取模块50,用于通过所述齿痕注意力模型对所述卷积特征图进行齿痕特征提取,生成齿痕热力图和齿痕分类信息;
齿痕识别结果模块60,用于根据所述待识别舌头图像、所述齿痕热力图和所述齿痕分类信息生成齿痕识别结果。
可选的,待识别舌头图像获取模块20,包括:
舌头检测模型单元,用于将所述舌头图像输入舌头检测模型;所述舌头检测模型包括多尺度深度网络模型、特征金字塔网络模型和加权融合模型;
舌头特征提取单元,用于通过所述多尺度深度网络模型对所述舌头图像进行舌头特征提取,生成待处理特征图和舌头识别结果;所述舌头识别结果用于判断所述舌头图像是否包括舌头边缘区域;
融合特征图组单元,用于当所述识别结果表示所述舌头图像包括舌头边缘区域时,将所述待处理特征图输入所述特征金字塔网络模型中进行特征融合,生成融合特征图组;
舌头边缘区域图像单元,用于将所述融合特征图组输入所述加权融合模型中进行插值及加权融合,得到待分割特征图像以及所述待分割特征图像中各个像素点对应的像素值,将与大于预设阈值的像素值对应的像素点确定为舌头边缘区域的坐标点,根据所述坐标点进行舌头边缘区域的分割,得到舌头边缘区域图像。
可选的,所述舌头边缘区域图像单元,包括:
扩增特征图单元,用于运用双线性插值法,将所述融合特征图组中的各融合特征图插值,生成与所述融合特征图组对应的扩增特征图,所述扩增特征图与所述舌头图像的尺寸相同;
待分割特征图像单元,用于通过所述加权融合模型将所有所述扩增特征图进行加权融合得到所述待分割特征图像。
可选的,待识别舌头图像获取模块20,包括:
灰度图像单元,用于按照预设灰度参数,对所述舌头边缘区域图像进行灰度转换,得到灰度图像;
图像归一化单元,用于对所述灰度图像进行归一化处理,得到所述待识别舌头图像。
可选的,待识别舌头图像获取模块20之前,包括:
舌头样本集模块,用于获取舌头样本集;所述舌头样本集包括若干舌头样本图像,所述舌头样本图像与一个舌头标识标签关联;
模块,用于将所述舌头样本图像输入含有初始参数的初始舌头检测模型,通过所述初始舌头检测模型对所述舌头样本图像进行所述舌头特征提取,生成样本识别结果;
总损失值模块,用于根据所述样本识别结果和所述舌头标识标签确定总损失值;
收敛模块,用于在所述总损失值未满足收敛条件时,迭代更新所述初始舌头检测模型的初始参数,并根据更新后的初始参数计算新的总损失值;当新的总损失值满足所述收敛条件时,将与所述新的总损失值对应的所述初始舌头检测模型确定为所述舌头检测模型。
可选的,所述样本识别结果包括样本融合特征图组、样本分类识别结果和样本分割识别结果;总损失值模块,包括:
第一损失值单元,用于将所述样本分类识别结果和所述舌头边缘区域标签输入第一损失函数,得到第一损失值;
第二损失值单元,用于根据所述样本融合特征图组得到舌头边缘区域的预测坐标位置,根据所述舌头边缘区域坐标图像得到舌头边缘区域的坐标位置,将所述预测坐标位置和所述坐标位置输入第二损失函数,得到第二损失值
第三损失值单元,用于根据所述样本分割识别结果和所述舌头边缘区域坐标图像,得到第三损失值;
总损失值单元,用于根据所述第一损失值、所述第二损失值和所述第三损失值确定总损失值。
关于齿痕识别装置的具体限定可以参见上文中对于齿痕识别方法的限定,在此不再赘述。上述齿痕识别装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图4所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括可读存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机可读指令。该内存储器为可读存储介质中的操作系统和计算机可读指令的运行提供环境。该计算机设备的网络接口用于与外部服务器通过网络连接通信。该计算机可读指令被处理器执行时以实现一种齿痕识别方法。本实施例所提供的可读存储介质包括非易失性可读存储介质和易失性可读存储介质。
在一个实施例中,提供了一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机可读指令,处理器执行计算机可读指令时实现以下步骤:
获取舌头图像;
将所述舌头图像输入舌头检测模型进行舌头边缘区域的检测,得到舌头边缘区域图像;并对所述舌头边缘区域图像进行图像预处理,得到待识别舌头图像;
将所述待识别舌头图像输入齿痕识别模型;所述齿痕识别模型包括密集卷积网络模型和齿痕注意力模型;
通过所述密集卷积网络模型对所述待识别舌头图像进行卷积特征提取,得到卷积特征图;
通过所述齿痕注意力模型对所述卷积特征图进行齿痕特征提取,生成齿痕热力图和齿痕分类信息;
根据所述待识别舌头图像、所述齿痕热力图和所述齿痕分类信息生成齿痕识别结果。
在一个实施例中,提供了一个或多个存储有计算机可读指令的计算机可读存储介质,本实施例所提供的可读存储介质包括非易失性可读存储介质和易失性可读存储介质。可读存储介质上存储有计算机可读指令,计算机可读指令被一个或多个处理器执行时实现以下步骤:
获取舌头图像;
将所述舌头图像输入舌头检测模型进行舌头边缘区域的检测,得到舌头边缘区域图像;并对所述舌头边缘区域图像进行图像预处理,得到待识别舌头图像;
将所述待识别舌头图像输入齿痕识别模型;所述齿痕识别模型包括密集卷积网络模型和齿痕注意力模型;
通过所述密集卷积网络模型对所述待识别舌头图像进行卷积特征提取,得到卷积特征图;
通过所述齿痕注意力模型对所述卷积特征图进行齿痕特征提取,生成齿痕热力图和齿痕分类信息;
根据所述待识别舌头图像、所述齿痕热力图和所述齿痕分类信息生成齿痕识别结果。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机可读指令来指令相关的硬件来完成,所述的计算机可读指令可存储于一非易失性可读取存储介质或易失性可读存储介质中,该计算机可读指令在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。
以上所述实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。
Claims (10)
1.一种齿痕识别方法,其特征在于,包括:
获取舌头图像;
将所述舌头图像输入舌头检测模型进行舌头边缘区域的检测,得到舌头边缘区域图像;并对所述舌头边缘区域图像进行图像预处理,得到待识别舌头图像;
将所述待识别舌头图像输入齿痕识别模型;所述齿痕识别模型包括密集卷积网络模型和齿痕注意力模型;
通过所述密集卷积网络模型对所述待识别舌头图像进行卷积特征提取,得到卷积特征图;
通过所述齿痕注意力模型对所述卷积特征图进行齿痕特征提取,生成齿痕热力图和齿痕分类信息;
根据所述待识别舌头图像、所述齿痕热力图和所述齿痕分类信息生成齿痕识别结果。
2.如权利要求1所述的齿痕识别方法,其特征在于,所述将所述舌头图像输入舌头检测模型进行舌头边缘区域的检测,得到舌头边缘区域图像,包括:
将所述舌头图像输入舌头检测模型;所述舌头检测模型包括多尺度深度网络模型、特征金字塔网络模型和加权融合模型;
通过所述多尺度深度网络模型对所述舌头图像进行舌头特征提取,生成待处理特征图和舌头识别结果;所述舌头识别结果用于判断所述舌头图像是否包括舌头边缘区域;
当所述识别结果表示所述舌头图像包括舌头边缘区域时,将所述待处理特征图输入所述特征金字塔网络模型中进行特征融合,生成融合特征图组;
将所述融合特征图组输入所述加权融合模型中进行插值及加权融合,得到待分割特征图像以及所述待分割特征图像中各个像素点对应的像素值,将与大于预设阈值的像素值对应的像素点确定为舌头边缘区域的坐标点,根据所述坐标点进行舌头边缘区域的分割,得到舌头边缘区域图像。
3.如权利要求2所述的齿痕识别方法,其特征在于,所述将所述融合特征图组输入所述加权融合模型中进行插值及加权融合,得到待分割特征图像,包括:
运用双线性插值法,将所述融合特征图组中的各融合特征图插值,生成与所述融合特征图组对应的扩增特征图,所述扩增特征图与所述舌头图像的尺寸相同;
通过所述加权融合模型将所有所述扩增特征图进行加权融合得到所述待分割特征图像。
4.如权利要求1所述的齿痕识别方法,其特征在于,所述对所述舌头边缘区域图像进行图像预处理,得到待识别舌头图像,包括:
按照预设灰度参数,对所述舌头边缘区域图像进行灰度转换,得到灰度图像;
对所述灰度图像进行归一化处理,得到所述待识别舌头图像。
5.如权利要求1所述的齿痕识别方法,其特征在于,所述将所述舌头图像输入舌头检测模型之前,包括:
获取舌头样本集;所述舌头样本集包括若干舌头样本图像,所述舌头样本图像与一个舌头标识标签关联;
将所述舌头样本图像输入含有初始参数的初始舌头检测模型,通过所述初始舌头检测模型对所述舌头样本图像进行所述舌头特征提取,生成样本识别结果;
根据所述样本识别结果和所述舌头标识标签确定总损失值;
在所述总损失值未满足收敛条件时,迭代更新所述初始舌头检测模型的初始参数,并根据更新后的初始参数计算新的总损失值;当新的总损失值满足所述收敛条件时,将与所述新的总损失值对应的所述初始舌头检测模型确定为所述舌头检测模型。
6.如权利要求5所述的齿痕识别方法,其特征在于,所述样本识别结果包括样本融合特征图组、样本分类识别结果和样本分割识别结果;所述舌头标识标签包括舌头边缘区域标签和舌头边缘区域坐标图像;所述根据所述样本分类识别结果和所述舌头标识标签确定总损失值,包括:
将所述样本分类识别结果和所述舌头边缘区域标签输入第一损失函数,得到第一损失值;
根据所述样本融合特征图组得到舌头边缘区域的预测坐标位置,根据所述舌头边缘区域坐标图像得到舌头边缘区域的坐标位置,将所述预测坐标位置和所述坐标位置输入第二损失函数,得到第二损失值;
根据所述样本分割识别结果和所述舌头边缘区域坐标图像,得到第三损失值;
根据所述第一损失值、所述第二损失值和所述第三损失值确定总损失值。
7.一种齿痕识别装置,其特征在于,包括:
舌头图像模块,用于获取舌头图像;
待识别舌头图像获取模块,用于将所述舌头图像输入舌头检测模型进行舌头边缘区域的检测,得到舌头边缘区域图像;并对所述舌头边缘区域图像进行图像预处理,得到待识别舌头图像;
齿痕识别模型模块,用于将所述待识别舌头图像输入齿痕识别模型;所述齿痕识别模型包括密集卷积网络模型和齿痕注意力模型;
卷积特征提取模块,用于通过所述密集卷积网络模型对所述待识别舌头图像进行卷积特征提取,得到卷积特征图;
齿痕特征提取模块,用于通过所述齿痕注意力模型对所述卷积特征图进行齿痕特征提取,生成齿痕热力图和齿痕分类信息;
齿痕识别结果模块,用于根据所述待识别舌头图像、所述齿痕热力图和所述齿痕分类信息生成齿痕识别结果。
8.如权利要求7所述的齿痕识别装置,其特征在于,所述将所述舌头图像输入舌头检测模型进行舌头边缘区域的检测,得到舌头边缘区域图像,包括:
舌头检测模型单元,用于将所述舌头图像输入舌头检测模型;所述舌头检测模型包括多尺度深度网络模型、特征金字塔网络模型和加权融合模型;
舌头特征提取单元,用于通过所述多尺度深度网络模型对所述舌头图像进行舌头特征提取,生成待处理特征图和舌头识别结果;所述舌头识别结果用于判断所述舌头图像是否包括舌头边缘区域;
融合特征图组单元,用于当所述识别结果表示所述舌头图像包括舌头边缘区域时,将所述待处理特征图输入所述特征金字塔网络模型中进行特征融合,生成融合特征图组;
舌头边缘区域图像单元,用于将所述融合特征图组输入所述加权融合模型中进行插值及加权融合,得到待分割特征图像以及所述待分割特征图像中各个像素点对应的像素值,将与大于预设阈值的像素值对应的像素点确定为舌头边缘区域的坐标点,根据所述坐标点进行舌头边缘区域的分割,得到舌头边缘区域图像。
9.一种计算机设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机可读指令,其特征在于,所述处理器执行所述计算机可读指令时实现如权利要求1至6中任一项所述齿痕识别方法。
10.一个或多个存储有计算机可读指令的可读存储介质,所述计算机可读指令被一个或多个处理器执行时,使得所述一个或多个处理器执行如权利要求1至6中任一项所述齿痕识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111033982.0A CN113724237A (zh) | 2021-09-03 | 2021-09-03 | 齿痕识别方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111033982.0A CN113724237A (zh) | 2021-09-03 | 2021-09-03 | 齿痕识别方法、装置、计算机设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113724237A true CN113724237A (zh) | 2021-11-30 |
Family
ID=78681575
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111033982.0A Pending CN113724237A (zh) | 2021-09-03 | 2021-09-03 | 齿痕识别方法、装置、计算机设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113724237A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116126151A (zh) * | 2023-04-14 | 2023-05-16 | 广州市第一人民医院(广州消化疾病中心、广州医科大学附属市一人民医院、华南理工大学附属第二医院) | 舌骨上肌群运动皮质区绘制方法、系统、存储介质及设备 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111524093A (zh) * | 2020-03-23 | 2020-08-11 | 中润普达(十堰)大数据中心有限公司 | 一种异常舌象的智能筛查方法及其系统 |
US20210232813A1 (en) * | 2020-01-23 | 2021-07-29 | Tongji University | Person re-identification method combining reverse attention and multi-scale deep supervision |
-
2021
- 2021-09-03 CN CN202111033982.0A patent/CN113724237A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210232813A1 (en) * | 2020-01-23 | 2021-07-29 | Tongji University | Person re-identification method combining reverse attention and multi-scale deep supervision |
CN111524093A (zh) * | 2020-03-23 | 2020-08-11 | 中润普达(十堰)大数据中心有限公司 | 一种异常舌象的智能筛查方法及其系统 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116126151A (zh) * | 2023-04-14 | 2023-05-16 | 广州市第一人民医院(广州消化疾病中心、广州医科大学附属市一人民医院、华南理工大学附属第二医院) | 舌骨上肌群运动皮质区绘制方法、系统、存储介质及设备 |
CN116126151B (zh) * | 2023-04-14 | 2023-08-08 | 广州市第一人民医院(广州消化疾病中心、广州医科大学附属市一人民医院、华南理工大学附属第二医院) | 舌骨上肌群运动皮质区绘制方法、系统、存储介质及设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7058373B2 (ja) | 医療画像に対する病変の検出及び位置決め方法、装置、デバイス、及び記憶媒体 | |
CN111950329A (zh) | 目标检测及模型训练方法、装置、计算机设备和存储介质 | |
CN105740780B (zh) | 人脸活体检测的方法和装置 | |
CN110674804A (zh) | 文本图像的检测方法、装置、计算机设备和存储介质 | |
WO2016150240A1 (zh) | 身份认证方法和装置 | |
CN110020582B (zh) | 基于深度学习的人脸情绪识别方法、装置、设备及介质 | |
CN108229301B (zh) | 眼睑线检测方法、装置和电子设备 | |
CN109977912B (zh) | 视频人体关键点检测方法、装置、计算机设备和存储介质 | |
CN111428552B (zh) | 黑眼圈识别方法、装置、计算机设备和存储介质 | |
CN109903272B (zh) | 目标检测方法、装置、设备、计算机设备和存储介质 | |
CN111368672A (zh) | 一种用于遗传病面部识别模型的构建方法及装置 | |
CN112884782B (zh) | 生物对象分割方法、装置、计算机设备和存储介质 | |
CN113128271A (zh) | 脸部图像的伪造检测 | |
CN112241952B (zh) | 大脑中线识别方法、装置、计算机设备及存储介质 | |
JP6071002B2 (ja) | 信頼度取得装置、信頼度取得方法および信頼度取得プログラム | |
JP6756406B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
US20220036140A1 (en) | Classification device, classification method, program, and information recording medium | |
KR20160053833A (ko) | 개선된 데이터 비교 방법 | |
CN113781488A (zh) | 舌象图像的分割方法、装置及介质 | |
CN111144285A (zh) | 胖瘦程度识别方法、装置、设备及介质 | |
CN112818821A (zh) | 基于可见光和红外光的人脸采集源检测方法和装置 | |
CN112541394A (zh) | 黑眼圈及鼻炎识别方法、系统及计算机介质 | |
CN110942067A (zh) | 文本识别方法、装置、计算机设备和存储介质 | |
CN113724237A (zh) | 齿痕识别方法、装置、计算机设备及存储介质 | |
CN109063601B (zh) | 唇纹检测方法、装置、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |