CN113705477B - 一种医疗图像识别方法、系统、设备及介质 - Google Patents
一种医疗图像识别方法、系统、设备及介质 Download PDFInfo
- Publication number
- CN113705477B CN113705477B CN202111008475.1A CN202111008475A CN113705477B CN 113705477 B CN113705477 B CN 113705477B CN 202111008475 A CN202111008475 A CN 202111008475A CN 113705477 B CN113705477 B CN 113705477B
- Authority
- CN
- China
- Prior art keywords
- skin
- medical image
- prediction
- abnormal
- human body
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biomedical Technology (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Bioinformatics & Computational Biology (AREA)
- Epidemiology (AREA)
- Public Health (AREA)
- Probability & Statistics with Applications (AREA)
- Primary Health Care (AREA)
- Medical Informatics (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
本发明提供一种医疗图像识别方法、系统、设备及介质,涉及人工智能技术领域;包括:获取目标用户传输的待识别医疗图像、年龄信息和性别信息;对待识别医疗图像进行人体部位预测识别和皮肤预测识别;若待识别医疗图像中存在异常皮肤,则继续进行异常类别预测,输出多个预测异常类别;以及根据人体部位预测识别结果、年龄信息和性别信息对多个预测异常类别进行复核,并将复核后的预测识别结果反馈给目标用户;若待识别医疗图像中不存在皮肤或者存在正常皮肤,则直接将图像预测识别结果反馈给目标用户。本发明首先通过对待识别医疗图像进行多级预测识别,然后对图像预测识别结果进行复核,可以提高对待识别医疗图像进行异常类别预测时的精准度。
Description
技术领域
本发明涉及人工智能技术领域,特别是涉及一种医疗图像识别方法、系统、设备及介质。
背景技术
皮肤病是最常见的疾病之一,据统计,国内真正拥有健康皮肤的人群不到15%,而对于皮肤问题的应对,超过60%的人首选自行用药或忍受皮肤病所带来的困扰,加上线下医疗资源的短缺和不平衡,大部分人无法得到及时有效的治疗,这大大增加了对应疾病加重的风险。
随着人工智能(Artificial Intelligence,简称AI)技术的发展,越来越多的AI技术在各个领域中得到了实际的应用。近些年,部分机构研发出了能预测识别一些常见皮肤病的人工智能系统。但是,目前的人工智能系统在预测皮肤病时,其预测识别精度不够精准,导致现有的人工智能系统在给出对应预测识别结果时存在与实际情况相混淆的问题。同时,现有的人工智能系统在预测完皮肤病后,其仅仅给患者提供预测识别结果,而并没有针对预测识别结果给出任何提示信息或帮助信息。
发明内容
鉴于以上所述现有技术的缺点,本发明的目的在于提供一种医疗图像识别方法、系统、设备及介质,用于解决现有技术中的人工智能系统在预测识别医疗图像时精度不准以及无法对预测识别结果给出任何提示信息或帮助信息的问题。
为实现上述目的及其他相关目的,本发明提供一种医疗图像识别方法,所述方法包括以下步骤:
获取目标用户传输的待识别医疗图像,以及传输的与所述待识别医疗图像关联的年龄信息和性别信息;
对所述待识别医疗图像进行人体部位预测识别,获取对应的人体部位预测识别结果;
对所述待识别医疗图像进行皮肤预测识别,确定所述待识别医疗图像是否存在皮肤,以及存在的皮肤是否为正常皮肤;
若所述待识别医疗图像中存在异常皮肤,则对异常皮肤所对应的待识别医疗图像进行异常类别预测,输出多个预测异常类别;以及根据所述人体部位预测识别结果、年龄信息和性别信息对所述多个预测异常类别进行复核,并将复核后的预测识别结果作为所述待识别医疗图像的最终预测识别结果反馈给所述目标用户;
若所述待识别医疗图像中不存在皮肤或者存在正常皮肤,则将所述待识别医疗图像的预测识别结果直接反馈给所述目标用户。
可选地,在对所述待识别医疗图像进行人体部位识别时,包括利用人体部位预测模型对所述待识别医疗图像进行人体部位分类;所述人体部位预测模型的生成过程包括:
获取多张包含有人体部位的图像作为人体部位训练图像;
按照预先确定的人体部位标注类别对每张人体部位训练图像进行人体部位标注,并在完成人体部位标注后,将所有的人体部位训练图像以及对应的人体部位标注同时输入至ResNext网络结构中进行分类训练;
计算当前时刻ResNext网络结构的真正例率和假正例率,并在真正例率大于第一目标值以及假正例率小于第二目标值时,将当前时刻的ResNext网络结构和对应的网络参数进行结合输出,生成用于识别待识别医疗图像中的待确认部位的人体部位预测模型。
可选地,利用所述人体部位预测模型对所述待识别医疗图像进行人体部位识别,获取对应的人体部位预测识别结果的过程包括:
将所述待识别医疗图像输入至所述人体部位预测模型中,利用所述人体部位预测模型对所述待识别医疗图像进行人体部位分类,获取所述待识别医疗图像被分类至每个人体部位标注类别的分类概率集,记为第一分类概率集;
对所述第一分类概率集进行归一化,并将归一化后的概率结果作为所述待识别医疗图像的人体部位预测概率集;
获取所述人体部位预测概率集中最大概率值所对应的人体部位,作为所述待识别医疗图像的预测人体部位。
可选地,对所述待识别医疗图像进行皮肤预测识别,确定所述待识别医疗图像是否存在皮肤,以及存在的皮肤是否为正常皮肤的过程包括:
获取多张不存在皮肤、存在正常皮肤和存在异常皮肤的人体部位图像作为皮肤正异常训练图像;
按照不存在皮肤、存在正常皮肤和存在异常皮肤的皮肤类别来对每张皮肤正异常训练图像进行皮肤类别标注,并在完成皮肤类别标注后,将每张皮肤正异常训练图像以及对应的标注同时输入至EfficientNet网络结构中进行分类训练;
获取训练过程中EfficientNet网络结构的感受野、网络深度和图像分辨率大小,并根据所述感受野、网络深度和图像分辨率大小确定当前时刻中EfficientNet网络结构是否满足第一类收敛,以及在所述EfficientNet网络结构满足第一类收敛时输出皮肤正异常预测识别模型;
利用皮肤正异常预测识别模型对所述待识别医疗图像进行皮肤分类,获取所述待识别医疗图像被分类为不存在皮肤、存在正常皮肤和存在异常皮肤的分类概率集,记为第二分类概率集;
对所述第二分类概率集进行归一化,并将归一化后的概率结果作为所述待识别医疗图像被预测为不存在皮肤、存在正常皮肤和存在异常皮肤的预测概率;
获取最大预测概率所对应的皮肤类别,并将该皮肤类别作为所述待识别医疗图像的皮肤预测识别结果。
可选地,根据所述人体部位预测识别结果、年龄信息和性别信息对所述异常类别预测结果进行复核,并将复核后的最终预测识别结果反馈给所述目标用户后,还包括:
获取目标用户输入的咨询指令;
根据所述咨询指令将异常皮肤所对应的待识别医疗图像的异常类别预测结果推送至识别异常皮肤的目标对象;
或,获取目标用户输入的查询指令;
根据所述查询指令获取数据库中预先存储的治疗异常皮肤的治疗机构,以及生成当前位置到达所述治疗机构的路线信息;并将所述治疗机构和所述路线信息推送给所述目标用户。
可选地,根据所述人体部位预测识别结果、年龄信息和性别信息对所述异常类别预测结果进行复核,并将复核后的最终预测识别结果反馈给所述目标用户后,还包括:
获取目标用户输入的信息推荐指令;
根据所述信息推荐指令向所述目标用户显示每个预测异常类别的推荐信息,所述推荐信息包括:概述、状态、原因和预防措施。
本发明还提供一种医疗图像识别系统,所述系统包括有:
采集模块,用于获取目标用户传输的待识别医疗图像,以及传输的与所述待识别医疗图像关联的年龄信息和性别信息;
人体部位预测识别模块,用于对所述待识别医疗图像进行人体部位预测识别,获取对应的人体部位预测识别结果;
皮肤预测识别模块,用于对所述待识别医疗图像进行皮肤预测识别,确定所述待识别医疗图像是否存在皮肤,以及存在的皮肤是否为正常皮肤;
异常类别预测模块,用于在所述待识别医疗图像存在异常皮肤时,对异常皮肤所对应的待识别医疗图像进行异常类别预测,输出多个预测异常类别;
复核模块,用于根据所述人体部位预测识别结果、年龄信息和性别信息对所述多个预测异常类别进行复核;
识别结果反馈模块,用于在所述待识别医疗图像中不存在皮肤或者存在正常皮肤时,将所述待识别医疗图像的预测识别结果直接反馈给所述目标用户;或者将复核后的预测识别结果作为所述待识别医疗图像的最终预测识别结果反馈给所述目标用户。
本发明还提供一种医疗图像识别设备,,包括:
处理器;和
存储有指令的计算机可读介质,当所述处理器执行所述指令时,使得所述设备执行如上述中任意一项所述的方法。
本发明还提供一种计算机可读介质,其上存储有指令,所述指令由处理器加载并执行如上述中任意一项所述的方法。
如上所述,本发明提供一种医疗图像识别方法、系统、设备及介质,具有以下有益效果:本发明可以通过人体部位预测模型识别出目标对象传输的待识别医疗图像属于身体哪个部位,同时根据人体部位预测识别结果还可以排除异常类别预测结果中不合理的情况。其次,可以利用皮肤正异常预测识别模型来对待识别医疗图像进行非皮肤、正常皮肤和异常皮肤预测;当待识别医疗图像被预测为不存在皮肤或存在正常皮肤时,可以直接将待识别医疗图像的预测识别结果反馈给目标用户。并且在待识别医疗图像被预测为异常皮肤时,本发明还可以利用异常类别预测模型来对异常皮肤所对应的待识别医疗图像进行异常类别预测,输出K个预测异常类别,以及根据人体部位预测识别结果、年龄信息和性别信息来对K个预测异常类别进行复核,从而保证输出的预测异常类别不会与输入的待识别医疗图像之间存在矛盾的情况。所以,本发明可以通过对待识别医疗图像进行多级预测识别,即分别对待识别医疗图像进行人体部位预测识别、皮肤正异常预测识别和异常类别预测,然后根据多级预测结果之间的关联来排除异常类别预测结果中不合理的情况,使得本发明输出的预测异常类别不会与输入的待识别医疗图像之间存在矛盾的情况,从而提高了对待识别医疗图像的识别精度。若异常类别预测包括疾病预测,则本发明可以对异常皮肤所对应的待识别医疗图像进行疾病预测,预测识别出对应的疾病类别,即确定该异常皮肤具体属于何种皮肤疾病,并输出K个预测疾病类别,然后根据所述人体部位预测识别结果、年龄信息和性别信息对K个预测疾病类别进行复核,并将复核后的预测识别结果作为待识别医疗图像的最终识别结果,从而排除存在矛盾的疾病预测识别结果。因此,本发明首先通过对待识别医疗图像进行多级预测识别,然后利用通过人体部位预测识别结果、年龄信息和性别信息来对预测疾病类别进行复核,可以提高对待识别医疗图像进行疾病预测时的精准度。
附图说明
图1为一实施例提供的医疗图像识别方法的流程示意图;
图2为一实施例提供的生成人体部位预测模型的流程示意图;
图3为一实施例提供的人体部位预测模型中的ResNext网络结构示意图;
图4为一实施例提供的对待识别医疗图像进行皮肤预测识别的流程示意图;
图5为一实施例提供的对待识别医疗图像进行皮肤疾病预测识别的流程示意图;
图6为一实施例提供的医疗图像识别系统的硬件结构示意图;
图7为一实施例提供的医疗图像识别设备的硬件结构示意图。
具体实施方式
以下通过特定的具体实例说明本发明的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本发明的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。
需要说明的是,本实施例中所提供的图示仅以示意方式说明本发明的基本构想,遂图式中仅显示与本发明中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。
请参阅图1所示,本实施例提供一种医疗图像识别方法,包括以下步骤:
S10,获取目标用户传输的待识别医疗图像,以及传输的与待识别医疗图像关联的年龄信息和性别信息。作为示例,例如目标用户可以通过手机拍摄需要进行皮肤疾病预测的部位图像,记为待识别医疗图像;其中,需要进行患病确认的部位即为其余内容中描述的待确认部位;在拍摄完成待识别医疗图像后,再利用手机填写与当前待识别医疗图像关联的用户年龄信息和用户性别信息,并在填写完成后,将所拍摄的待识别医疗图像和填写的年龄信息、性别信息一起上传至指定位置中,其中,指定位置可以是预先设置的服务器,待确认部位可以是目标用户的人体部位,也可以是其他用户的人体部位。
S20,根据待识别医疗图像、以及与待识别医疗图像关联的年龄信息和性别信息生成图像识别请求。作为示例,在服务器接收到待识别医疗图像、以及与待识别医疗图像关联的年龄信息、性别信息后,默认目标用户向服务器发起了图像识别请求,然后服务器根据待识别医疗图像、对应的年龄信息和性别信息,生成针对待识别医疗图像的图像识别请求。
S30,基于图像识别请求对待识别医疗图像进行人体部位预测识别,获取对应的人体部位预测识别结果;
S40,基于图像识别请求对待识别医疗图像进行皮肤预测识别,确定待识别医疗图像是否存在皮肤,以及存在的皮肤是否为正常皮肤;
S50-1,若待识别医疗图像中存在异常皮肤,则对异常皮肤所对应的待识别医疗图像进行异常类别预测,输出K个预测异常类别;以及根据人体部位预测识别结果、年龄信息和性别信息对K个预测异常类别进行复核,并将复核后的预测识别结果作为待识别医疗图像的最终预测识别结果反馈给目标用户;其中,K为正整数;
S50-2,若待识别医疗图像中不存在皮肤或者存在正常皮肤,则将待识别医疗图像的预测识别结果直接反馈给目标用户。
由此可知,本实施例可以通过人体部位预测模型识别出目标对象传输的待识别医疗图像属于身体哪个部位,同时根据人体部位预测识别结果还可以排除异常类别预测结果中不合理的情况。其次,可以利用皮肤正异常预测识别模型来对待识别医疗图像进行非皮肤、正常皮肤和异常皮肤预测;当待识别医疗图像被预测为不存在皮肤或存在正常皮肤时,可以直接将待识别医疗图像的预测识别结果反馈给目标用户。并且在待识别医疗图像被预测为异常皮肤时,本实施例还可以利用异常类别预测模型来对异常皮肤所对应的待识别医疗图像进行异常类别预测,输出K个预测异常类别,以及根据人体部位预测识别结果、年龄信息和性别信息来对K个预测异常类别进行复核,从而保证输出的预测异常类别不会与输入的待识别医疗图像之间存在矛盾的情况。所以,本实施例可以通过对待识别医疗图像进行多级预测识别,即分别对待识别医疗图像进行人体部位预测识别、皮肤正异常预测识别和异常类别预测,然后根据多级预测结果之间的关联来排除异常类别预测结果中不合理的情况,使得本实施例输出的预测异常类别不会与输入的待识别医疗图像之间存在矛盾的情况,从而提高了对待识别医疗图像的识别精度。在本实施例中,对待识别医疗图像进行图像识别前,还包括对待识别医疗图像进行预处理,所述预处理包括但不限于以下中的任一项或多项:图像格式转换处理、图像缺失填补处理、减去平均值、规范化(normalization)和白化(whiten)等。通过将待识别医疗图像进行预处理后再输入至人工智能识别算法中,可以提高图像识别的识别效率和准确率。
根据上述记载,在一示例性实施例中,在对待识别医疗图像进行人体部位识别时,还包括利用人体部位预测模型对待识别医疗图像进行人体部位分类。如图2所示,人体部位预测模型的生成过程包括:
S211,获取多张包含有人体部位的图像作为人体部位训练图像。作为示例,本实施例可以直接采集仅包含单个人体部位的图像作为人体部位训练图像;也可以直接采集包含有多个人体部位的图像作为人体部位训练图像。
S212,按照预先确定的人体部位标注类别对每张人体部位训练图像进行人体部位标注,并在完成人体部位标注后,将所有的人体部位训练图像以及对应的人体部位标注同时输入至ResNext网络结构中进行分类训练。作为示例,本实施例对每张人体部位训练图像进行人体部位标注时,可以采用人工标注的方式。在本实施例中,人体部位的标注类别可以按照:手臂(包括上臂和前臂)、背部、肚子、臀部、胸部、人脸、足、生殖器官、手掌、腿(包括大腿和小腿)、颈部、头皮和其他部位等13个类别进行标注。其中,本实施例对人体部位的标注原则是:将图像中占比最大的人体部位标注为该图像的人体部位类别;例如某图像a包含有70%的手臂,18%的胸和12%的人脸,则对该图像a的标注类别是手臂;又例如某图像b包含有15%的背部,60%的臀部和25%的腿部,则对图像b的标注类别为臀部。
S213,将存在人体部位动作的图像记为正例,不存在人体部位动作的图像记为反例;若ResNext网络结构将存在人体部位动作的图像分类为正例,则将当次分类结果记为真正例;若ResNext网络结构将不存在人体部位动作的图像分类为正例,则将当次分类结果记为假正例;若ResNext网络结构将不存在人体部位动作的图像分类为反例,则将当次分类结果记为真反例,若ResNext网络结构将存在人体部位动作的图像分类为反例,则将当次分类结果记为假反例;
S214,计算当前时刻ResNext网络结构的真正例率和假正例率,并在真正例率大于第一目标值以及假正例率小于第二目标值时,将当前时刻的ResNext网络结构和对应的网络参数进行结合输出,生成用于识别待识别医疗图像中的待确认部位的人体部位预测模型;其中,真正例率=真正例/(真正例+假反例),假正例率=假正例/(真反例+假正例);第一目标值大于第二目标值。
根据上述记载,本实施例训练生成人体部位预测模型的具体过程包括:
首先,获取用于训练的所有人体部位训练图像,然后将每张人体部位训练图像的图像尺寸重新调整至预设尺寸,例如将每张人体部位训练图像的图像尺寸由720像素×720调整至380(像素)×380(像素)。在本实施例中,用于训练的所有人体部位训练图像包括多张手臂(包括上臂和前臂)、背部、肚子、臀部、胸部、人脸、足、生殖器官、手掌、腿(包括大腿和小腿)、颈部、头皮和其他部位等13个类别的图像。通过将多张13个类别的图像作为训练图像,可以训练出一个能够对这13个类别进行同时识别的人体部位预测模型,与单独训练一个仅能够对单个人体部位进行预测的人体部位预测模型相比,本实施例可以节约训练资源和训练时间。
完后图像尺寸调整后,再通过上采样提升所有人体部位训练图像的通道数,例如通过上采样将原来通道数为3的人体部位训练图像提升至16、32、64、128或256等。作为示例,本实施例图像提升后的通道数为256,本实施例进行上采样的过程参照现有技术,此处不再进行赘述。
将通道数为256的所有人体部位训练图像输入至平行堆叠且拓扑结构相同的ResNext网络结构中进行分类训练,然后输出每个通道数为256的人体部位训练图像的分类结果。其中,本实施例中每一个拓扑结构包括有三层结构,第一层结构为(256,1×1,4),其中,256为输入的图像通道数,1×1为第一层卷积核尺寸,4为第一层卷积后的通道数。第二层结构为(4,3×3,4),其中,4为前层通道数,3×3为第二层卷积核尺寸,4为第二层卷积后的通道数。第三层结构为(4,1×1,256),其中,4为前层通道数,1×1为第三层卷积核尺寸,256为第三层卷积后的通道数。本实施例中的平行堆叠是指将多个拓扑结构进行平行堆叠,然后形成ResNext网络结构。其中,本实施例的ResNext网络结构如图3所示。由于现有技术中的ResNet网络结构仅包括一个拓扑结构,该拓扑结构的第一层结构为:第一层结构为(256,1×1,64),其中,256为输入的图像通道数,1×1为第一层卷积核尺寸,64为第一层卷积后的通道数。第二层结构为(64,3×3,64),其中,64为前层通道数,3×3为第二层卷积核尺寸,64为第二层卷积后的通道数。第三层结构为(64,1×1,256),其中,64为前层通道数,1×1为第三层卷积核尺寸,256为第三层卷积后的通道数。所以,本实施例通过采用平行堆叠且拓扑结构相同的ResNext网络结构,在相同参数下,本实施例训练出的人体部位预测模型比现有技术的精度更高,且本实施例中的人体部位预测模型也更轻量快速。
将存在人体部位动作的图像记为正例、不存在人体部位动作的图像记为反例;若ResNext网络结构将存在人体部位动作的图像分类为正例,则将当次分类结果记为真正例TP;若ResNext网络结构将不存在人体部位动作的图像分类为正例,则将当次分类结果记为假正例FP;若ResNext网络结构将不存在人体部位动作的图像分类为反例,则将当次分类结果记为真反例TN,若ResNext网络结构将存在人体部位动作的图像分类为反例,则将当次分类结果记为假反例FN。计算此时的假正例率FPR值和真正例率TPR值,有:TPR=TP/(TP+FN);FPR=FP/(TN+FP)。
当FPR值小于0.00945,且TPR值大于0.9364时,将当前时刻的ResNext网络结构和对应的参数进行结合输出,生成用于识别待识别医疗图像中的待确认部位的人体部位预测模型。若FPR值大于等于0.00945,和/或TPR值小于0.9364时,则调整ResNext网络结构的网络参数后,继续利用原始的人体部位训练图像或重新输入新的人体部位训练图像进行分类训练。其中,ResNext网络结构的网络参数包括拓扑结构堆叠的个数以及每个拓扑结构中的卷积核尺寸。即本实施例中的第一目标值为0.9364,第二目标值为0.00945。
在一示例性实施例中,利用人体部位预测模型对待识别医疗图像进行人体部位识别,获取对应的人体部位预测识别结果的过程包括:
将待识别医疗图像输入至人体部位预测模型中,利用人体部位预测模型对待识别医疗图像进行人体部位分类,获取待识别医疗图像被分类至每个人体部位标注类别的分类概率集,记为第一分类概率集。作为示例,以待识别医疗图像A为例,将待识别医疗图像A输入至训练好的人体部位预测模型中,利用训练好的人体部位预测模型对待识别医疗图像进行人体部位分类,得到待识别医疗图像在这13个标注类别中每个类别的分类概率集,记为第一分类概率集。其中,13个标注类别分别是:多张手臂(包括上臂和前臂)、背部、肚子、臀部、胸部、人脸、足、生殖器官、手掌、腿(包括大腿和小腿)、颈部、头皮和其他部位。若待识别医疗图像A被分类至手臂、背部、肚子、臀部、胸部、人脸、足、生殖器官、手掌、腿、颈部、头皮和其他部位等13个类别的概率分别为87%、36%、31%、34%、22%、43%、35%、21%、64%、53%、46%、12%、16%,则第一分类概率集为:{87%,36%,31%,34%,22%,43%,35%,21%,64%,53%,46%,12%,16%}。
对第一分类概率集进行归一化,并将归一化后的概率结果作为待识别医疗图像的人体部位预测概率集。例如利用归一化指数交叉熵损失函数Softmax cross entropy对第一分类概率集进行归一化处理,得到待识别医疗图像中的待确认部位被预测为每个人体部位的预测概率。即在进行归一化处理后,待识别医疗图像A被预测为手臂、背部、肚子、臀部、胸部、人脸、足、生殖器官、手掌、腿、颈部、头皮和其他部位的预测概率分别为87%/P1=0.174,36%/P1=0.072,31%/P1=0.062,34%/P1=0.068,22%/P1=0.044,43%/P1=0.086,35%/P1=0.070,21%/P1=0.042,64%/P1=0.128,53%/P1=0.106,46%/P1=0.092,12%/P1=0.024,16%/P1=0.032;其中,P1=87%+36%+31%+34%+22%+43%+35%+21%+64%+53%+46%+12%+16%。得到人体部位预测概率集为{0.174,0.072,0.062,0.068,0.044,0.086,0.070,0.042,0.128,0.106,0.092,0.024,0.032}。
获取人体部位预测概率集中最大概率值所对应的人体部位,作为待识别医疗图像的预测人体部位。例如按照预测概率从高到低进行排序,然后输出最大预测概率为0.174所对应的手臂分类结果作为待识别医疗图像A的人体部位,即待识别医疗图像A的人体部位预测识别结果为手臂。此外,人体部位预测模型还可以用于排除不合理的疾病预测识别结果,例如在人体部位预测模型预测出当前待识别医疗图像中的部位属于手部,而疾病预测模型对当前待识别医疗图像的疾病预测识别结果为手癣、脚癣和湿疹,则排除与人体部位预测模型的预测结果相冲突的疾病,即排除脚癣。
在一示例性实施例中,如图4所示,对待识别医疗图像进行皮肤预测识别,确定待识别医疗图像是否存在皮肤,以及存在的皮肤是否为正常皮肤的过程包括:
S311,获取多张不存在皮肤、存在正常皮肤和存在异常皮肤的人体部位图像作为皮肤正异常训练图像;
S312,按照不存在皮肤、存在正常皮肤和存在异常皮肤的皮肤类别来对每张皮肤正异常训练图像进行皮肤类别标注,并在完成皮肤类别标注后,将每张皮肤正异常训练图像以及对应的标注同时输入至EfficientNet网络结构中进行分类训练。作为示例,例如本实施例可以首先获取用于训练的所有皮肤正异常训练图像,然后将每张皮肤正异常训练图像的图像尺寸重新调整至预设尺寸,例如将每张皮肤正异常训练图像的图像尺寸由640(像素)×640(像素)调整至360(像素)×360(像素)。完后图像尺寸调整后,再通过上采样提升所有皮肤正异常训练图像的通道数,例如通过上采样将原来通道数为3的皮肤正异常训练图像提升至16、32、64、128或256等。作为示例,本实施例图像提升后的通道数为256,本实施例进行上采样的过程参照现有技术,此处不再进行赘述。将通道数为256的所有皮肤正异常训练图像输入至EfficientNet网络结构中进行分类训练,然后输出每个通道数为256的皮肤正异常训练图像的分类结果。本实施例利用EfficientNet网络结构对皮肤正异常训练图像进行分类训练的过程参照现有技术,此处不再进行赘述。本实施例对每张皮肤正异常训练图像进行部位标注时,可以采用人工标注的方式,例如可以由医学专家或具有医学专业知识的人员来对每张皮肤正异常训练图像进行皮肤类别标注。
S313,获取训练过程中EfficientNet网络结构的感受野、网络深度和图像分辨率大小,并根据感受野、网络深度和图像分辨率大小确定当前时刻中EfficientNet网络结构是否满足第一类收敛,以及在EfficientNet网络结构满足第一类收敛时输出皮肤正异常预测识别模型。作为示例,例如在所有的皮肤正异常训练图像均从EfficientNet网络结构中得到对应的分类结果后,获取此时EfficientNet网络结构中的感受野w,网络深度d,图像分辨率大小r,并计算此时w*d2*r2≈2。若此时EfficientNet网络结构满足w*d2*r2≈2,则将此时的EfficientNet网络结构以及对应的感受野w,网络深度d,图像分辨率大小r进行结合,作为用于预测识别待识别医疗图像中的待确认部位是否存在皮肤、以及存在正常皮肤还是异常皮肤的皮肤正异常预测识别模型。若此时EfficientNet网络结构不满足w*d2*r2≈2,则调整感受野w,网络深度d,和/或图像分辨率大小r,使调整后的EfficientNet网络结构满足w*d2*r2≈2。如果EfficientNet网络结构满足w*d2*r2≈2,则说明此时EfficientNet网络结构皮肤正异常预测识别模型达到第一类收敛,此时生成的皮肤正异常预测识别模型可以用于对待识别医疗图像进行皮肤正异常预测识别。
S314,利用皮肤正异常预测识别模型对待识别医疗图像进行皮肤分类,获取待识别医疗图像被分类为不存在皮肤、存在正常皮肤和存在异常皮肤的分类概率集,记为第二分类概率集。例如,若待识别医疗图像B被分类至非皮肤、正常皮肤和异常皮肤的类别的概率分别为85%、43%和72%,则第二分类概率集为{85%,43%,72%}。
S315,对第二分类概率集进行归一化,并将归一化后的概率结果作为待识别医疗图像被预测为不存在皮肤、存在正常皮肤和存在异常皮肤的预测概率。利用归一化指数交叉熵损失函数Softmax cross entropy对这3个分类概率进行归一化处理,得到待识别医疗图像中的待确认部位分别被预测为非皮肤、正常皮肤和异常皮肤的预测概率。若待识别医疗图像B被分类至非皮肤、正常皮肤和异常皮肤的类别的概率分别为85%、43%和72%,则在进行归一化处理后,待识别医疗图像B被预测为非皮肤、正常皮肤和异常皮肤的预测概率分别为:85%/P2=0.425,43%/P2=0.215,72%/P2=0.360。其中,P2=85%+43%+72%。
S316,获取最大预测概率所对应的皮肤类别,并将该皮肤类别作为待识别医疗图像的皮肤预测识别结果。例如按照预测概率从高到低进行排序,并输出预测概率为0.425所对应的非皮肤分类结果作为待识别医疗图像B的皮肤类别,即说明待识别医疗图像B中不存在皮肤,或者待识别医疗图像B为中的待确认部位为非皮肤。
在本实施例中,对待识别医疗图像中的待确认部位进行皮肤识别后,还包括将对应的皮肤识别结果反馈至对应的手机显示页面中进行显示,同时显示对应的提示信息。作为一示例,若皮肤正异常预测识别模型确定出待识别医疗图像中的待确认部位为非皮肤时,则服务器会生成第一提示信息,并将所生成的第一提示信息上传至对应的手机显示页面中进行显示,提示目标用户重新上传待识别医疗图像。其中,第一提示信息为“当前图像为非皮肤,请重新上传图像”。作为另一示例,若皮肤正异常预测识别模型确定出待识别医疗图像中的待确认部位为正常皮肤时,则服务器会生成第二提示信息,并将所生成的第二提示信息上传至对应的手机显示页面中进行显示,提示目标用户当前待识别医疗图像中的待确认部位为正常皮肤。其中,第二提示信息为“当前图像为正常皮肤”。作为另一示例,若皮肤正异常预测识别模型确定出待识别医疗图像中的待确认部位为异常皮肤时,则服务器会生成第三提示信息,并将所生成的提示信息上传至对应的手机显示页面中进行显示,提示目标用户当前待识别医疗图像中的待确认部位为异常皮肤。其中,第三提示信息为“当前图像为异常皮肤”。同时,在皮肤正异常预测识别模型确认出待确认部位为异常皮肤时,服务器会将异常皮肤所对应的待识别医疗图像传输至疾病预测模型中,利用疾病预测模型来对待识别医疗图像进行后续具体疾病类别的预测。
在一示例性实施例中,如图5所示,若待识别医疗图像中存在异常皮肤,则对异常皮肤所对应的待识别医疗图像进行异常类别预测,输出K个预测异常类别的过程包括:
S411,获取多张存在异常皮肤的图像作为异常类别训练图像;
S412,按照皮肤异常类别和异常程度来对每张皮肤异常类别训练图像进行标注,并在完成标注后,将每张皮肤异常类别训练图像以及对应的标注同时输入至EfficientNet网络结构中进行分类训练。作为示例,例如可以首先获取用于训练的所有疾病预测训练图像,然后将每张疾病预测训练图像的图像尺寸重新调整至预设尺寸,例如将每张疾病预测训练图像的图像尺寸由360(像素)×360(像素)调整至300(像素)×300(像素)。完后图像尺寸调整后,再通过上采样提升所有疾病预测训练图像的通道数,例如通过上采样将原来通道数为3的疾病预测训练图像提升至16、32、64、128或256等。作为示例,本实施例图像提升后的通道数为256,本实施例进行上采样的过程参照现有技术,此处不再进行赘述。将通道数为256的所有疾病预测训练图像输入至EfficientNet网络结构中进行分类训练,然后输出每个通道数为256的疾病预测训练图像的分类结果。本实施例利用EfficientNet网络结构对疾病预测训练图像进行分类训练的过程参照现有技术,此处不再进行赘述。
S413,获取训练过程中EfficientNet网络结构的感受野、网络深度和图像分辨率大小,并根据感受野、网络深度和图像分辨率大小确定当前时刻中EfficientNet网络结构是否满足第二类收敛,以及在EfficientNet网络结构满足第二类收敛时输出异常类别预测模型。需要说明的是,虽然异常类别预测模型和皮肤正异常预测识别模型都是基于EfficientNet网络结构,但是两者在输入的图像标注完全不同,同时对训练参数的要求也完全不同,导致两者即使采用相同的网络结构进行训练,其训练产生的模型也用于输出不同的预测识别结果。其中,EfficientNet网络结构的训练参数包括感受野w,网络深度d和图像分辨率大小r。
S414,利用异常类别预测模型对异常皮肤所对应的待识别医疗图像进行皮肤异常类别分类,获取该待识别医疗图像被分类至每个异常类别的分类概率集,记为第三分类概率集;
S415,对第三分类概率集进行归一化,并将归一化后的概率结果作为异常皮肤所对应的待识别医疗图像的皮肤异常类别预测概率集;
S416,筛选出预测概率集中概率值最大的前K个预测概率,并输出概率值最大的前K个预测概率所对应的皮肤异常类别,作为异常皮肤所对应的待识别医疗图像的异常类别预测结果。
具体地,若本实施例中的异常类别为疾病类别,则在皮肤正异常预测识别模型区分出待识别医疗图像存在异常皮肤后,对异常皮肤所对应的待识别医疗图像进行疾病类别预测,输出K个预测疾病类别的具体过程包括:
获取多张存在异常皮肤的图像,并将所获取的图像作为疾病预测训练图像;
按照皮肤疾病的病理状态类别、病理程度来对每张疾病预测训练图像进行标注;其中,病理状态类别包括:手癣、脚癣、湿疹、黄褐斑、雄激素性秃发、荨麻疹等,病理程度包括:轻微、中度和重度。本实施例对每张疾病预测训练图像进行部位标注时,可以采用人工标注的方式,例如可以由医学专家或具有医学专业知识的人员来对每张疾病预测训练图像进行病理状态类别和病理程度的标注;同时,在进行标注时,病理状态类别还可以根据新出现的疾病类别进行增加。
将标注后的疾病预测训练图像和对应图像的标注信息同时输入至EfficientNet网络结构中进行训练,生成疾病预测模型。本实施例中的疾病预测模型用于预测识别被皮肤正异常预测识别模型确定为异常皮肤所对应的待识别医疗图像,预测识别这类待识别医疗图像中的异常皮肤所对应的疾病类型。其中,本实施例训练生成疾病预测模型的过程包括:获取用于训练的所有疾病预测训练图像,然后将每张疾病预测训练图像的图像尺寸重新调整至预设尺寸,例如将每张疾病预测训练图像的图像尺寸由360(像素)×360(像素)调整至300(像素)×300(像素)。完后图像尺寸调整后,再通过上采样提升所有疾病预测训练图像的通道数,例如通过上采样将原来通道数为3的疾病预测训练图像提升至16、32、64、128或256等。作为示例,本实施例图像提升后的通道数为256;本实施例进行上采样的过程参照现有技术,此处不再进行赘述。将通道数为256的所有疾病预测训练图像输入至EfficientNet网络结构中进行分类训练,然后输出每个通道数为256的疾病预测训练图像的分类结果。本实施例利用EfficientNet网络结构对疾病预测训练图像进行分类训练的过程参照现有技术,此处不再进行赘述。在所有的疾病预测训练图像均从EfficientNet网络结构中得到对应的分类结果后,获取此时EfficientNet网络结构感受野w,网络深度d,图像分辨率大小r,并计算此时w*d2*r2≈6。若此时EfficientNet网络结构满足w*d2*r2≈6,则将此时的EfficientNet网络结构以及对应的感受野w,网络深度d,图像分辨率大小r进行结合,作为用于预测识别被皮肤正异常预测识别模型确定为异常皮肤所对应的待识别医疗图像,预测识别这类待识别医疗图像中的异常皮肤所对应的疾病类型的疾病预测模型。若此时EfficientNet网络结构不满足w*d2*r2≈6,则调整感受野w,网络深度d,和/或图像分辨率大小r,使调整后的EfficientNet网络结构满足w*d2*r2≈6。如果EfficientNet网络结构满足w*d2*r2≈6,则说明此时疾病预测模型达到第二类收敛。需要说明的是,虽然疾病预测模型和皮肤正异常预测识别模型都是基于EfficientNet网络结构,但是两者在输入的图像标注完全不同,同时对训练参数的要求也完全不同,导致两者即使采用相同的网络结构进行训练,其训练产生的模型也用于输出不同的预测识别结果。其中,EfficientNet网络结构的训练参数包括感受野w,网络深度d和图像分辨率大小r。
将单个被判定为异常皮肤的待识别医疗图像输入至训练好的疾病预测模型中,利用训练好的疾病预测模型对该待识别医疗图像进行疾病预测分类识别,得到待识别医疗图像在预先标注的所有病历状态类别中每个类别的分类概率。例如以被皮肤正异常预测识别模型分类预测识别为异常皮肤的待识别医疗图像C为例,若待识别医疗图像C被分类至重度手癣、重度脚癣、重度湿疹、轻微黄褐斑、轻微雄激素性秃发、轻微荨麻疹的分类概率为:87%、81%、78%、21%、15%和18%。即第三分类概率集为{87%,81%,78%,21%,15%,18%}。
利用归一化指数交叉熵损失函数Softmax cross entropy对所有分类概率进行归一化处理,得到待识别医疗图像中的待确认部位分别被预测为每个病历状态类别的预测概率。在进行归一化处理后,待识别医疗图像C被预测为每个病历状态类别的预测概率为:87%/P3=0.29,81%/P3=0.27,78%/P3=0.26,21%/P3=0.07,15%/P3=0.05,18%/P3=0.06。其中,P3=87%+81%+78%+21%+15%+18%。即皮肤异常类别预测概率集为{0.29,0.27,0.26,0.07,0.05,0.06}。
按照预测概率从高到低进行排序,并输出预测概率最大前K个分类结果作为与待识别医疗图像C匹配度最高的前K个疾病预测识别结果。作为示例,若本实施例中的K=3时,则输出预测概率为0.29、0.27和0.26所对应的疾病预测识别结果作为待识别医疗图像C的预测疾病类别,即预测出的疾病类别分别是:重度手癣、重度脚癣和重度湿疹。
根据上述一些实施例中的记载可知,在得到疾病预测模型输出的预测疾病类别后,还包括根据人体部位预测识别结果、年龄信息和性别信息对前K个疾病预测识别结果进行复核,并将复核后的预测识别结果作为待识别医疗图像的最终识别结果。在本实施例中,由于疾病预测模型只根据当前被确定为异常皮肤的待识别图像进行疾病预测识别,其产生的疾病预测识别结果可能与待识别医疗图像中的人体部位、年龄或性别存在矛盾,所以本实施例通过人体部位预测识别结果、年龄信息和性别信息来对前K个疾病预测识别结果进行复核,从而排除存在矛盾的疾病预测识别结果。作为示例,以待识别医疗图像C的疾病预测识别结果为例,若待识别医疗图像C的人体部位预测识别结果为手臂,则此时可以根据计算机逻辑规则或者关键词的匹配度来对待识别医疗图像C的疾病预测识别结果进行复核。其中,本实施例中的计算机逻辑规则是指人体部位预测识别结果与疾病预测识别结果的交集仍为真,如果为假,则以人体部位预测识别结果为准,排除不符合计算机逻辑规则的疾病预测识别结果。基于计算机逻辑规则进行复核时,由于待识别医疗图像C的人体部位预测识别结果是手臂,而待识别医疗图像C的疾病预测识别结果包含“重度脚癣”,而脚癣不可能出现在手臂上,则说明待识别医疗图像C的人体部位预测识别结果与疾病预测识别结果之间存在矛盾,两者不符合计算机逻辑规则,所以此时将疾病预测识别结果中的“重度脚癣”排除。此外,本实施例还可以从人体部位预测识别结果与疾病预测识别结果中分别提取关键词,然后比对所提取的关键词,判断关键词的匹配度是否满足预设要求。若关键词的匹配度大于等于预设阈值,则此时保留前K个疾病预测识别结果;若关键词的匹配度小于预设阈值,则此时从前K个疾病预测识别结果中排除匹配度小于预设阈值所对应的疾病预测识别结果,从而完成整个复核过程。作为另一示例,若目标用户上传了一张婴儿的图像,对该婴儿图像进行图像预测识别后,疾病预测模型输出的疾病预测识别结果分别为:黄褐斑、雄激素性秃发和湿疹,由于黄褐斑不可能出现在婴儿这个年龄段,所以根据计算机逻辑规则进行判断,可以得知年龄信息与疾病预测识别结果的交集为空,从而可以排除疾病预测识别结果中的黄褐斑。
在得到待识别医疗图像的最终识别结果,还包括将最终的疾病预测识别结果反馈至对应的手机显示页面中进行显示,同时显示对应的疾病预测识别结果及对应的提示信息。作为示例,例如以待识别医疗图像C的疾病预测识别结果为例,则当前时刻向手机反馈的疾病预测识别结果及对应的提示信息为:“1.当前图像的预测识别结果为重度手癣,本次预测识别结果仅供参考,真实疾病状态请以医院诊断结果为准”和“2.当前图像的预测识别结果为重度湿疹,本次预测识别结果仅供参考,真实疾病状态请以医院诊断结果为准”。
根据上述记载,在一示例性实施例中,根据人体部位预测识别结果、年龄信息和性别信息对异常类别预测结果进行复核,并将复核后的最终预测识别结果反馈给目标用户后,还包括:获取目标用户输入的咨询指令;根据咨询指令将异常皮肤所对应的待识别医疗图像的异常类别预测结果推送至识别异常皮肤的目标对象。或者,获取目标用户输入的查询指令;根据查询指令获取数据库中预先存储的治疗异常皮肤的治疗机构,以及生成当前位置到达治疗机构的路线信息;并将治疗机构和路线信息推送给目标用户。在本实施例中,若异常类别为疾病类别,则治疗异常皮肤的治疗结构可以为医院和/或药店。具体地,在对待识别医疗图像完成图像预测识别并输出预测概率最大的前K个预测疾病类别后,服务器还可以在对应的手机页面展示“在线咨询医生”和“医院/药店查询”的按钮。作为示例,若目标用户选择了“在线咨询医生”的按钮,默认目标用户向服务输入了咨询指令,则服务器会将当前待识别医疗图像的图像识别结果推送到对应医生,辅助该医生就该待识别医疗图像的疾病状态做出真实的疾病诊断。若目标用户选择了“医院/药店查询”的按钮,默认目标用户向服务器输入了查询指令,则服务器会调用数据库中预先存储的医院和药店信息,然后按照对应的医院和药店信息的路程长短进行排序,并将排序结果反馈显示在当前手机显示页面上,由目标用户自行选择对应的医院或药店。其中,数据库中预先存储的医院和药店信息包括:医院的地理信息、医院的名称、药店的地理信息、药店的名称。本实施例通过将当前待识别医疗图像的图像识别结果推送到对应医生,以及通过为目标用户显示医院和药店信息的路程信息,可以向目标用户提供帮助信息,帮助目标用户以最短的时间完成对应疾病的诊断咨询或治疗等。
根据上述记载,在一示例性实施例中,根据人体部位预测识别结果、年龄信息和性别信息对异常类别预测结果进行复核,并将复核后的最终预测识别结果反馈给目标用户后,还包括:获取目标用户输入的信息推荐指令;根据信息推荐指令向目标用户显示每个预测异常类别的推荐信息,推荐信息包括:概述、状态、原因和预防措施。在对待识别医疗图像完成图像预测识别并输出预测概率最大的前K个预测疾病类别后,服务器还可以在对应的手机页面展示“推荐疾病相关信息”和“不推荐疾病相关信息”的按钮,根据用户所选择的按钮来决定是否推荐对应每种疾病的概述、症状、病因以及预防措施等,从而辅助目标用户了解更多相关联的信息。作为示例,若目标用户选择了“确认推荐相关信息”的按钮,则说明目标用户向服务器输入了信息推荐指令,此时服务器会根据当前输入的信息推荐指令来向手机页面显示对应每种疾病的概述、症状、病因以及预防措施等。若目标用户选择了“不推荐相关信息”的按钮,则说明目标用户向服务器输入了拒绝指令,此时手机维持显示当前疾病预测识别结果及对应的提示信息。
综上所述,本发明提供一种医疗图像识别方法,首先通过人体部位预测模型可以识别出所拍摄的待识别医疗图像中的待确认部位属于身体哪个部位;其次,利用皮肤正异常预测识别模型来对待识别医疗图像进行非皮肤、正常皮肤和异常皮肤的区分;当对待确认部位的预测结果为非皮肤时,提示用户重新上传待识别医疗图像;当对待确认部位的预测结果为正常皮肤时,提示用户为正常皮肤;当对待确认部位的预测结果为异常皮肤时,提示用户为异常皮肤。同时,在待识别医疗图像中的待确认部位被预测识别为异常皮肤时,再利用疾病预测模型对异常皮肤所对应的待识别医疗图像进行疾病预测,预测识别出对应的疾病类别,即确定该异常皮肤具体属于何种皮肤疾病,并输出预测概率最大的前K个预测疾病类别;最后根据人体部位预测识别结果、年龄信息和性别信息对前K个预测疾病类别进行复核,并将复核后的预测识别结果作为待识别医疗图像的最终识别结果。本申请通过人体部位预测识别结果、年龄信息和性别信息来对前K个疾病预测识别结果进行复核,从而排除存在矛盾的疾病预测识别结果。本申请对待识别医疗图像分别进行人体部位、皮肤异常类别和疾病类别的预测,同时在输出K个预测疾病类别后,本申请又基于人体部位预测识别结果、年龄信息和性别信息来对K个预测疾病类别进行复核,从而保证输出的预测疾病类别不会与输入的待识别医疗图像之间存在矛盾的情况。所以,本申请通过人体部位预测识别结果、年龄信息和性别信息来对预测疾病类别进行复核,可以提高疾病预测识别结果的精准度。同时,本申请在输出疾病预测识别结果后,目标用户可以决定是否推荐对应每种疾病的概述、症状、病因以及预防措施等,从而辅助目标用户了解更多相关联的信息。并且,本申请在输出疾病预测识别结果后,目标用户还可以选择在线咨询医生,或者根据推荐的医院或药店决定自己去线下医院进行治疗,或者去线下药店购买药品,使得本申请能够给目标用户提供帮助信息,帮助目标用户以最短的时间完成对应疾病的诊断咨询或治疗等,从而提升了诊断咨询或治疗效率。
如图6所示,本发明还提供一种医疗图像识别系统,包括有:
采集模块M10,用于获取目标用户传输的待识别医疗图像,以及传输的与待识别医疗图像关联的年龄信息和性别信息;
人体部位预测识别模块M20,用于对待识别医疗图像进行人体部位预测识别,获取对应的人体部位预测识别结果;
皮肤预测识别模块M30,用于对待识别医疗图像进行皮肤预测识别,确定待识别医疗图像是否存在皮肤,以及存在的皮肤是否为正常皮肤;
异常类别预测模块M40,用于在待识别医疗图像存在异常皮肤时,对异常皮肤所对应的待识别医疗图像进行异常类别预测,输出K个预测异常类别;其中,K为正整数;
复核模块M50,用于根据人体部位预测识别结果、年龄信息和性别信息对K个预测异常类别进行复核;
识别结果反馈模块M60,用于在待识别医疗图像中不存在皮肤或者存在正常皮肤时,将待识别医疗图像的预测识别结果直接反馈给目标用户;或者将复核后的预测识别结果作为待识别医疗图像的最终预测识别结果反馈给目标用户。
由此可知,本实施例可以通过人体部位预测模型识别出目标对象传输的待识别医疗图像属于身体哪个部位,同时根据人体部位预测识别结果还可以排除异常类别预测结果中不合理的情况。其次,可以利用皮肤正异常预测识别模型来对待识别医疗图像进行非皮肤、正常皮肤和异常皮肤预测;当待识别医疗图像被预测为不存在皮肤或存在正常皮肤时,可以直接将待识别医疗图像的预测识别结果反馈给目标用户。并且在待识别医疗图像被预测为异常皮肤时,本实施例还可以利用异常类别预测模型来对异常皮肤所对应的待识别医疗图像进行异常类别预测,输出K个预测异常类别,以及根据人体部位预测识别结果、年龄信息和性别信息来对K个预测异常类别进行复核,从而保证输出的预测异常类别不会与输入的待识别医疗图像之间存在矛盾的情况。所以,本实施例可以通过对待识别医疗图像进行多级预测识别,即分别对待识别医疗图像进行人体部位预测识别、皮肤正异常预测识别和异常类别预测,然后根据多级预测结果之间的关联来排除异常类别预测结果中不合理的情况,使得本实施例输出的预测异常类别不会与输入的待识别医疗图像之间存在矛盾的情况,从而提高了对待识别医疗图像的识别精度。在本实施例中,对待识别医疗图像进行图像识别前,还包括对待识别医疗图像进行预处理,所述预处理包括但不限于以下中的任一项或多项:图像格式转换处理、图像缺失填补处理、减去平均值、规范化(normalization)和白化(whiten)等。通过将待识别医疗图像进行预处理后再输入至人工智能识别算法中,可以提高图像识别的识别效率和准确率。
根据上述记载,在一示例性实施例中,人体部位预测识别模块M20在对待识别医疗图像进行人体部位识别时,包括利用人体部位预测模型对待识别医疗图像进行人体部位分类。其中,人体部位预测模型的生成过程参见上述医疗图像识别方法中的实施例,此处不再进行赘述。利用人体部位预测模型对待识别医疗图像进行人体部位识别,获取对应的人体部位预测识别结果的过程包括:
将待识别医疗图像输入至人体部位预测模型中,利用人体部位预测模型对待识别医疗图像进行人体部位分类,获取待识别医疗图像被分类至每个人体部位标注类别的分类概率集,记为第一分类概率集。作为示例,以待识别医疗图像A为例,将待识别医疗图像A输入至训练好的人体部位预测模型中,利用训练好的人体部位预测模型对待识别医疗图像进行人体部位分类,得到待识别医疗图像在预先确定的13个标注类别中每个类别的分类概率集,记为第一分类概率集。若待识别医疗图像A被分类至手臂、背部、肚子、臀部、胸部、人脸、足、生殖器官、手掌、腿、颈部、头皮和其他部位等13个类别的概率分别为87%、36%、31%、34%、22%、43%、35%、21%、64%、53%、46%、12%、16%,则第一分类概率集为:{87%,36%,31%,34%,22%,43%,35%,21%,64%,53%,46%,12%,16%}。
对第一分类概率集进行归一化,并将归一化后的概率结果作为待识别医疗图像的人体部位预测概率集。例如利用归一化指数交叉熵损失函数Softmax cross entropy对第一分类概率集进行归一化处理,得到待识别医疗图像中的待确认部位被预测为每个人体部位的预测概率。即在进行归一化处理后,待识别医疗图像A被预测为手臂、背部、肚子、臀部、胸部、人脸、足、生殖器官、手掌、腿、颈部、头皮和其他部位的预测概率分别为87%/P1=0.174,36%/P1=0.072,31%/P1=0.062,34%/P1=0.068,22%/P1=0.044,43%/P1=0.086,35%/P1=0.070,21%/P1=0.042,64%/P1=0.128,53%/P1=0.106,46%/P1=0.092,12%/P1=0.024,16%/P1=0.032;其中,P1=87%+36%+31%+34%+22%+43%+35%+21%+64%+53%+46%+12%+16%。得到人体部位预测概率集为{0.174,0.072,0.062,0.068,0.044,0.086,0.070,0.042,0.128,0.106,0.092,0.024,0.032}。
获取人体部位预测概率集中最大概率值所对应的人体部位,作为待识别医疗图像的预测人体部位。例如按照预测概率从高到低进行排序,然后输出最大预测概率为0.174所对应的手臂分类结果作为待识别医疗图像A的人体部位,即待识别医疗图像A的人体部位预测识别结果为手臂。
在一示例性实施例中,皮肤预测识别模块M30对待识别医疗图像进行皮肤预测识别的过程包括:训练皮肤正异常预测识别模型和利用训练后的皮肤正异常预测识别模型对待识别医疗图像进行皮肤预测识别。其中,皮肤正异常预测识别模型的训练过程参见上述医疗图像识别方法中的实施例,此处不再进行赘述。利用训练后的皮肤正异常预测识别模型对待识别医疗图像进行皮肤预测识别的过程包括:
利用皮肤正异常预测识别模型对待识别医疗图像进行皮肤分类,获取待识别医疗图像被分类为不存在皮肤、存在正常皮肤和存在异常皮肤的分类概率集,记为第二分类概率集。例如,若待识别医疗图像B被分类至非皮肤、正常皮肤和异常皮肤的类别的概率分别为85%、43%和72%,则第二分类概率集为{85%,43%,72%}。
对第二分类概率集进行归一化,并将归一化后的概率结果作为待识别医疗图像被预测为不存在皮肤、存在正常皮肤和存在异常皮肤的预测概率。利用归一化指数交叉熵损失函数Softmax cross entropy对这3个分类概率进行归一化处理,得到待识别医疗图像中的待确认部位分别被预测为非皮肤、正常皮肤和异常皮肤的预测概率。若待识别医疗图像B被分类至非皮肤、正常皮肤和异常皮肤的类别的概率分别为85%、43%和72%,则在进行归一化处理后,待识别医疗图像B被预测为非皮肤、正常皮肤和异常皮肤的预测概率分别为:85%/P2=0.425,43%/P2=0.215,72%/P2=0.360。其中,P2=85%+43%+72%。
获取最大预测概率所对应的皮肤类别,并将该皮肤类别作为待识别医疗图像的皮肤预测识别结果。例如按照预测概率从高到低进行排序,并输出预测概率为0.425所对应的非皮肤分类结果作为待识别医疗图像B的皮肤类别,即说明待识别医疗图像B中不存在皮肤,或者待识别医疗图像B为中的待确认部位为非皮肤。
在本实施例中,对待识别医疗图像中的待确认部位进行皮肤识别后,还包括将对应的皮肤识别结果反馈至对应的手机显示页面中进行显示,同时显示对应的提示信息。其中,显示的提示信息可以是:“当前图像为非皮肤,请重新上传图像”、“当前图像为正常皮肤”和“当前图像为异常皮肤”。显示提示信息的过程参见上述医疗图像识别方法中的实施例,本实施例不再进行赘述。
在一示例性实施例中,若待识别医疗图像中存在异常皮肤,则对异常皮肤所对应的待识别医疗图像进行异常类别预测,输出K个预测异常类别的过程参照上述医疗图像识别方法中的实施例,此处不再进行赘述。若本实施例中的异常类别为疾病类别,对异常皮肤所对应的待识别医疗图像进行疾病类别预测,输出K个预测疾病类别的过程包括:
将单个被判定为异常皮肤的待识别医疗图像输入至训练好的疾病预测模型中,利用训练好的疾病预测模型对该待识别医疗图像进行疾病预测分类识别,得到待识别医疗图像在预先标注的所有病历状态类别中每个类别的分类概率。例如以被皮肤正异常预测识别模型分类预测识别为异常皮肤的待识别医疗图像C为例,若待识别医疗图像C被分类至重度手癣、重度脚癣、重度湿疹、轻微黄褐斑、轻微雄激素性秃发、轻微荨麻疹的分类概率为:87%、81%、78%、21%、15%和18%。即第三分类概率集为{87%,81%,78%,21%,15%,18%}。
利用归一化指数交叉熵损失函数Softmax cross entropy对所有分类概率进行归一化处理,得到待识别医疗图像中的待确认部位分别被预测为每个病历状态类别的预测概率。在进行归一化处理后,待识别医疗图像C被预测为每个病历状态类别的预测概率为:87%/P3=0.29,81%/P3=0.27,78%/P3=0.26,21%/P3=0.07,15%/P3=0.05,18%/P3=0.06。其中,P3=87%+81%+78%+21%+15%+18%。即皮肤异常类别预测概率集为{0.29,0.27,0.26,0.07,0.05,0.06}。
按照预测概率从高到低进行排序,并输出预测概率最大前K个分类结果作为与待识别医疗图像C匹配度最高的前K个疾病预测识别结果。作为示例,若本实施例中的K=3时,则输出预测概率为0.29、0.27和0.26所对应的疾病预测识别结果作为待识别医疗图像C的预测疾病类别,即预测出的疾病类别分别是:重度手癣、重度脚癣和重度湿疹。
根据上述一些实施例中的记载可知,复核模块M50在得到疾病预测模型输出的预测疾病类别后,还包括根据人体部位预测识别结果、年龄信息和性别信息对前K个疾病预测识别结果进行复核,并将复核后的预测识别结果作为待识别医疗图像的最终识别结果。在本实施例中,由于疾病预测模型只根据当前被确定为异常皮肤的待识别图像进行疾病预测识别,其产生的疾病预测识别结果可能与待识别医疗图像中的人体部位、年龄或性别存在矛盾,所以本实施例通过人体部位预测识别结果、年龄信息和性别信息来对前K个疾病预测识别结果进行复核,从而排除存在矛盾的疾病预测识别结果。作为示例,可以根据计算机逻辑规则或者关键词的匹配度来对待识别医疗图像C的疾病预测识别结果进行复核。其中,本实施例中的计算机逻辑规则是指人体部位预测识别结果与疾病预测识别结果的交集仍为真,如果为假,则以人体部位预测识别结果为准,排除不符合计算机逻辑规则的疾病预测识别结果。基于计算机逻辑规则进行复核时,由于待识别医疗图像C的人体部位预测识别结果是手臂,而待识别医疗图像C的疾病预测识别结果包含“重度脚癣”,而脚癣不可能出现在手臂上,则说明待识别医疗图像C的人体部位预测识别结果与疾病预测识别结果之间存在矛盾,两者不符合计算机逻辑规则,所以此时将疾病预测识别结果中的“重度脚癣”排除。此外,本实施例还可以从人体部位预测识别结果与疾病预测识别结果中分别提取关键词,然后比对所提取的关键词,判断关键词的匹配度是否满足预设要求。若关键词的匹配度大于等于预设阈值,则此时保留前K个疾病预测识别结果;若关键词的匹配度小于预设阈值,则此时从前K个疾病预测识别结果中排除匹配度小于预设阈值所对应的疾病预测识别结果,从而完成整个复核过程。在一示例性实施例中,识别结果反馈模块M60在得到待识别医疗图像的最终识别结果,还包括将最终的疾病预测识别结果反馈至对应的手机显示页面中进行显示,同时显示对应的疾病预测识别结果及对应的提示信息。作为示例,例如以待识别医疗图像C的疾病预测识别结果为例,则当前时刻向手机反馈的疾病预测识别结果及对应的提示信息为:“1.当前图像的预测识别结果为重度手癣,本次预测识别结果仅供参考,真实疾病状态请以医院诊断结果为准”和“2.当前图像的预测识别结果为重度湿疹,本次预测识别结果仅供参考,真实疾病状态请以医院诊断结果为准”。
根据上述记载,在一示例性实施例中,对异常类别预测结果进行复核,并将复核后的最终预测识别结果反馈给目标用户后,还包括:获取目标用户输入的咨询指令;根据咨询指令将异常皮肤所对应的待识别医疗图像的异常类别预测结果推送至识别异常皮肤的目标对象。或者,获取目标用户输入的查询指令;根据查询指令获取数据库中预先存储的治疗异常皮肤的治疗机构,以及生成当前位置到达治疗机构的路线信息;并将治疗机构和路线信息推送给目标用户。在本实施例中,若异常类别为疾病类别,则治疗异常皮肤的治疗结构可以为医院和/或药店。本实施例将异常皮肤所对应的待识别医疗图像的异常类别预测结果推送至识别异常皮肤的目标对象,和/或将治疗机构和路线信息推送给目标用户的过程参见上述医疗图像识别方法,本实施例不再进行赘述。
根据上述记载,在一示例性实施例中,对异常类别预测结果进行复核,并将复核后的最终预测识别结果反馈给目标用户后,还包括:获取目标用户输入的信息推荐指令;根据信息推荐指令向目标用户显示每个预测异常类别的推荐信息,推荐信息包括:概述、状态、原因和预防措施。在对待识别医疗图像完成图像预测识别并输出预测概率最大的前K个预测疾病类别后,服务器还可以在对应的手机页面展示“推荐疾病相关信息”和“不推荐疾病相关信息”的按钮,根据用户所选择的按钮来决定是否推荐对应每种疾病的概述、症状、病因以及预防措施等,从而辅助目标用户了解更多相关联的信息。作为示例,若目标用户选择了“确认推荐相关信息”的按钮,则说明目标用户向服务器输入了信息推荐指令,此时服务器会根据当前输入的信息推荐指令来向手机页面显示对应每种疾病的概述、症状、病因以及预防措施等。若目标用户选择了“不推荐相关信息”的按钮,则说明目标用户向服务器输入了拒绝指令,此时手机维持显示当前疾病预测识别结果及对应的提示信息。
综上所述,本发明提供一种医疗图像识别系统,首先通过人体部位预测模型可以识别出所拍摄的待识别医疗图像中的待确认部位属于身体哪个部位;其次,利用皮肤正异常预测识别模型来对待识别医疗图像进行非皮肤、正常皮肤和异常皮肤的区分;当对待确认部位的预测结果为非皮肤时,提示用户重新上传待识别医疗图像;当对待确认部位的预测结果为正常皮肤时,提示用户为正常皮肤;当对待确认部位的预测结果为异常皮肤时,提示用户为异常皮肤。同时,在待识别医疗图像中的待确认部位被预测识别为异常皮肤时,再利用疾病预测模型对异常皮肤所对应的待识别医疗图像进行疾病预测,预测识别出对应的疾病类别,即确定该异常皮肤具体属于何种皮肤疾病,并输出预测概率最大的前K个预测疾病类别;最后根据人体部位预测识别结果、年龄信息和性别信息对前K个预测疾病类别进行复核,并将复核后的预测识别结果作为待识别医疗图像的最终识别结果。本申请通过人体部位预测识别结果、年龄信息和性别信息来对前K个疾病预测识别结果进行复核,从而排除存在矛盾的疾病预测识别结果。本申请对待识别医疗图像分别进行人体部位、皮肤异常类别和疾病类别的预测,同时在输出K个预测疾病类别后,本申请又基于人体部位预测识别结果、年龄信息和性别信息来对K个预测疾病类别进行复核,从而保证输出的预测疾病类别不会与输入的待识别医疗图像之间存在矛盾的情况。所以,本申请通过人体部位预测识别结果、年龄信息和性别信息来对预测疾病类别进行复核,可以提高疾病预测识别结果的精准度。同时,本申请在输出疾病预测识别结果后,目标用户可以决定是否推荐对应每种疾病的概述、症状、病因以及预防措施等,从而辅助目标用户了解更多相关联的信息。并且,本申请在输出疾病预测识别结果后,目标用户还可以选择在线咨询医生,或者根据推荐的医院或药店决定自己去线下医院进行治疗,或者去线下药店购买药品,使得本申请能够给目标用户提供帮助信息,帮助目标用户以最短的时间完成对应疾病的诊断咨询或治疗等,从而提升了诊断咨询或治疗效率。
本申请实施例还提供了一种医疗图像识别设备,该设备可以包括:一个或多个处理器;和其上存储有指令的一个或多个机器可读介质,当由所述一个或多个处理器执行时,使得所述设备执行图1所述的方法。图7示出了一种医疗图像识别设备1000的结构示意图。参阅图7所示,医疗图像识别设备1000包括:处理器1010、存储器1020、电源1030、显示单元1040、输入单元1060。
处理器1010是医疗图像识别设备1000的控制中心,利用各种接口和线路连接各个部件,通过运行或执行存储在存储器1020内的软件程序和/或数据,执行医疗图像识别设备1000的各种功能,从而对医疗图像识别设备1000进行整体监控。本申请实施例中,处理器1010调用存储器1020中存储的计算机程序时执行如图1所述的方法。可选的,处理器1010可包括一个或多个处理单元;优选的,处理器1010可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用等,调制解调处理器主要处理无线通信。在一些实施例中,处理器、存储器、可以在单一芯片上实现,在一些实施例中,它们也可以在独立的芯片上分别实现。
存储器1020可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、各种应用等;存储数据区可存储根据医疗图像识别设备1000的使用所创建的数据等。此外,存储器1020可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件等。
医疗图像识别设备1000还包括给各个部件供电的电源1030(比如电池),电源可以通过电源管理系统与处理器1010逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗等功能。
显示单元1040可用于显示由用户输入的信息或提供给用户的信息以及医疗图像识别设备1000的各种菜单等,本发明实施例中主要用于显示医疗图像识别设备1000中各应用的显示界面以及显示界面中显示的文本、图片等对象。显示单元1040可以包括显示面板1050。显示面板1050可以采用液晶显示屏(Liquid Crystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置。
输入单元1060可用于接收用户输入的数字或字符等信息。输入单元1060可包括触控面板1070以及其他输入设备1080。其中,触控面板1070,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触摸笔等任何适合的物体或附件在触控面板1070上或在触控面板1070附近的操作)。
具体的,触控面板1070可以检测用户的触摸操作,并检测触摸操作带来的信号,将这些信号转换成触点坐标,发送给处理器1010,并接收处理器1010发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1070。其他输入设备1080可以包括但不限于物理键盘、功能键(比如音量控制按键、开关机按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
当然,触控面板1070可覆盖显示面板1050,当触控面板1070检测到在其上或附近的触摸操作后,传送给处理器1010以确定触摸事件的类型,随后处理器1010根据触摸事件的类型在显示面板1050上提供相应的视觉输出。虽然在图7中,触控面板1070与显示面板1050是作为两个独立的部件来实现医疗图像识别设备1000的输入和输出功能,但是在某些实施例中,可以将触控面板1070与显示面板1050集成而实现医疗图像识别设备1000的输入和输出功能。
医疗图像识别设备1000还可包括一个或多个传感器,例如压力传感器、重力加速度传感器、接近光传感器等。当然,根据具体应用中的需要,上述医疗图像识别设备1000还可以包括摄像头等其它部件。
本申请实施例还提供了一种计算机可读存储介质,该存储介质中存储有指令,当一个或多个处理器执行所述指令时,使得上述设备能够执行本申请中如图1所述的方法。
本领域技术人员可以理解的是,图7仅仅是医疗图像识别设备的举例,并不构成对该设备的限定,该设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件。为了描述的方便,以上各部分按照功能划分为各模块(或单元)分别描述。当然,在实施本申请时,可以把各模块(或单元)的功能在同一个或多个软件或硬件中实现。
上述实施例仅例示性说明本发明的原理及其功效,而非用于限制本发明。任何熟悉此技术的人士皆可在不违背本发明的精神及范畴下,对上述实施例进行修饰或改变。因此,举凡所属技术领域中具有通常知识者在未脱离本发明所揭示的精神与技术思想下所完成的一切等效修饰或改变,仍应由本发明的权利要求所涵盖。应当理解的是,尽管在本发明实施例中可能采用术语第一、第二、第三等来描述预设范围等,但这些预设范围不应限于这些术语。这些术语仅用来将预设范围彼此区分开。例如,在不脱离本发明实施例范围的情况下,第一预设范围也可以被称为第二预设范围,类似地,第二预设范围也可以被称为第一预设范围。
Claims (9)
1.一种医疗图像识别方法,其特征在于,所述方法包括以下步骤:
获取目标用户传输的待识别医疗图像,以及传输的与所述待识别医疗图像关联的年龄信息和性别信息;
对所述待识别医疗图像进行人体部位预测识别,获取对应的人体部位预测识别结果;
对所述待识别医疗图像进行皮肤预测识别,确定所述待识别医疗图像是否存在皮肤,以及存在的皮肤是否为正常皮肤;
若所述待识别医疗图像中存在异常皮肤,则对异常皮肤所对应的待识别医疗图像进行异常类别预测,输出多个预测异常类别 ;以及根据所述人体部位预测识别结果、年龄信息和性别信息对所述多个预测异常类别进行复核,并将复核后的预测识别结果作为所述待识别医疗图像的最终预测识别结果反馈给所述目标用户;其中,对异常皮肤所对应的待识别医疗图像进行异常类别预测,输出多个预测异常类别的过程包括:获取多张存在异常皮肤的图像作为异常类别训练图像;按照皮肤异常类别和异常程度来对每张皮肤异常类别训练图像进行标注,并在完成标注后,将每张皮肤异常类别训练图像以及对应的标注同时输入至EfficientNet网络结构中进行分类训练;获取训练过程中EfficientNet网络结构的感受野、网络深度和图像分辨率大小,并根据所述感受野、网络深度和图像分辨率大小确定当前时刻中EfficientNet网络结构是否满足第二类收敛,以及在所述EfficientNet网络结构满足第二类收敛时输出异常类别预测模型;利用所述异常类别预测模型对异常皮肤所对应的待识别医疗图像进行皮肤异常类别分类,获取该待识别医疗图像被分类至每个异常类别的分类概率集,记为第三分类概率集;对所述第三分类概率集进行归一化,并将归一化后的概率结果作为异常皮肤所对应的待识别医疗图像的皮肤异常类别预测概率集;筛选出预测概率集中概率值最大的前K个预测概率,并输出概率值最大的前K个预测概率所对应的皮肤异常类别,作为异常皮肤所对应的待识别医疗图像的异常类别预测结果;其中,K为正整数;
若所述待识别医疗图像中不存在皮肤或者存在正常皮肤,则将所述待识别医疗图像的预测识别结果直接反馈给所述目标用户。
2.根据权利要求1所述的医疗图像识别方法,其特征在于,在对所述待识别医疗图像进行人体部位识别时,包括利用人体部位预测模型对所述待识别医疗图像进行人体部位分类;所述人体部位预测模型的生成过程包括:
获取多张包含有人体部位的图像作为人体部位训练图像;
按照预先确定的人体部位标注类别对每张人体部位训练图像进行人体部位标注,并在完成人体部位标注后,将所有的人体部位训练图像以及对应的人体部位标注同时输入至ResNext网络结构中进行分类训练;
计算当前时刻ResNext网络结构的真正例率和假正例率,并在真正例率大于第一目标值以及假正例率小于第二目标值时,将当前时刻的ResNext网络结构和对应的网络参数进行结合输出,生成用于识别待识别医疗图像中的待确认部位的人体部位预测模型。
3.根据权利要求2所述的医疗图像识别方法,其特征在于,利用所述人体部位预测模型对所述待识别医疗图像进行人体部位识别,获取对应的人体部位预测识别结果的过程包括:
将所述待识别医疗图像输入至所述人体部位预测模型中,利用所述人体部位预测模型对所述待识别医疗图像进行人体部位分类,获取所述待识别医疗图像被分类至每个人体部位标注类别的分类概率集,记为第一分类概率集;
对所述第一分类概率集进行归一化,并将归一化后的概率结果作为所述待识别医疗图像的人体部位预测概率集;
获取所述人体部位预测概率集中最大概率值所对应的人体部位,作为所述待识别医疗图像的预测人体部位。
4.根据权利要求1所述的医疗图像识别方法,其特征在于,对所述待识别医疗图像进行皮肤预测识别,确定所述待识别医疗图像是否存在皮肤,以及存在的皮肤是否为正常皮肤的过程包括:
获取多张不存在皮肤、存在正常皮肤和存在异常皮肤的人体部位图像作为皮肤正异常训练图像;
按照不存在皮肤、存在正常皮肤和存在异常皮肤的皮肤类别来对每张皮肤正异常训练图像进行皮肤类别标注,并在完成皮肤类别标注后,将每张皮肤正异常训练图像以及对应的标注同时输入至EfficientNet网络结构中进行分类训练;
获取训练过程中EfficientNet网络结构的感受野、网络深度和图像分辨率大小,并根据所述感受野、网络深度和图像分辨率大小确定当前时刻中EfficientNet网络结构是否满足第一类收敛,以及在所述EfficientNet网络结构满足第一类收敛时输出皮肤正异常预测识别模型;
利用皮肤正异常预测识别模型对所述待识别医疗图像进行皮肤分类,获取所述待识别医疗图像被分类为不存在皮肤、存在正常皮肤和存在异常皮肤的分类概率集,记为第二分类概率集;
对所述第二分类概率集进行归一化,并将归一化后的概率结果作为所述待识别医疗图像被预测为不存在皮肤、存在正常皮肤和存在异常皮肤的预测概率;
获取最大预测概率所对应的皮肤类别,并将该皮肤类别作为所述待识别医疗图像的皮肤预测识别结果。
5.根据权利要求1或4所述的医疗图像识别方法,其特征在于,根据所述人体部位预测识别结果、年龄信息和性别信息对所述异常类别预测结果进行复核,并将复核后的最终预测识别结果反馈给所述目标用户后,还包括:
获取目标用户输入的咨询指令;
根据所述咨询指令将异常皮肤所对应的待识别医疗图像的异常类别预测结果推送至识别异常皮肤的目标对象;
或,获取目标用户输入的查询指令;
根据所述查询指令获取数据库中预先存储的治疗异常皮肤的治疗机构,以及生成当前位置到达所述治疗机构的路线信息;并将所述治疗机构和所述路线信息推送给所述目标用户。
6.根据权利要求1或4所述的医疗图像识别方法,其特征在于,根据所述人体部位预测识别结果、年龄信息和性别信息对所述异常类别预测结果进行复核,并将复核后的最终预测识别结果反馈给所述目标用户后,还包括:
获取目标用户输入的信息推荐指令;
根据所述信息推荐指令向所述目标用户显示每个预测异常类别的推荐信息,所述推荐信息包括:概述、状态、原因和预防措施。
7.一种医疗图像识别系统,其特征在于,所述系统包括有:
采集模块,用于获取目标用户传输的待识别医疗图像,以及传输的与所述待识别医疗图像关联的年龄信息和性别信息;
人体部位预测识别模块,用于对所述待识别医疗图像进行人体部位预测识别,获取对应的人体部位预测识别结果;
皮肤预测识别模块,用于对所述待识别医疗图像进行皮肤预测识别,确定所述待识别医疗图像是否存在皮肤,以及存在的皮肤是否为正常皮肤;
异常类别预测模块,用于在所述待识别医疗图像存在异常皮肤时,对异常皮肤所对应的待识别医疗图像进行异常类别预测,输出多个预测异常类别;其中,对异常皮肤所对应的待识别医疗图像进行异常类别预测,输出多个预测异常类别的过程包括:获取多张存在异常皮肤的图像作为异常类别训练图像;按照皮肤异常类别和异常程度来对每张皮肤异常类别训练图像进行标注,并在完成标注后,将每张皮肤异常类别训练图像以及对应的标注同时输入至EfficientNet网络结构中进行分类训练;获取训练过程中EfficientNet网络结构的感受野、网络深度和图像分辨率大小,并根据所述感受野、网络深度和图像分辨率大小确定当前时刻中EfficientNet网络结构是否满足第二类收敛,以及在所述EfficientNet网络结构满足第二类收敛时输出异常类别预测模型;利用所述异常类别预测模型对异常皮肤所对应的待识别医疗图像进行皮肤异常类别分类,获取该待识别医疗图像被分类至每个异常类别的分类概率集,记为第三分类概率集;对所述第三分类概率集进行归一化,并将归一化后的概率结果作为异常皮肤所对应的待识别医疗图像的皮肤异常类别预测概率集;筛选出预测概率集中概率值最大的前K个预测概率,并输出概率值最大的前K个预测概率所对应的皮肤异常类别,作为异常皮肤所对应的待识别医疗图像的异常类别预测结果;其中,K为正整数;
复核模块,用于根据所述人体部位预测识别结果、年龄信息和性别信息对所述多个预测异常类别进行复核;
识别结果反馈模块,用于在所述待识别医疗图像中不存在皮肤或者存在正常皮肤时,将所述待识别医疗图像的预测识别结果直接反馈给所述目标用户;或者将复核后的预测识别结果作为所述待识别医疗图像的最终预测识别结果反馈给所述目标用户。
8.一种医疗图像识别设备,其特征在于,包括:
处理器;和
存储有指令的计算机可读介质,当所述处理器执行所述指令时,使得所述设备执行如权利要求1至6中任意一项所述的方法。
9.一种计算机可读介质,其特征在于,其上存储有指令,所述指令由处理器加载并执行如权利要求1至6中任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111008475.1A CN113705477B (zh) | 2021-08-31 | 2021-08-31 | 一种医疗图像识别方法、系统、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111008475.1A CN113705477B (zh) | 2021-08-31 | 2021-08-31 | 一种医疗图像识别方法、系统、设备及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113705477A CN113705477A (zh) | 2021-11-26 |
CN113705477B true CN113705477B (zh) | 2023-08-29 |
Family
ID=78657318
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111008475.1A Active CN113705477B (zh) | 2021-08-31 | 2021-08-31 | 一种医疗图像识别方法、系统、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113705477B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114241261A (zh) * | 2021-12-15 | 2022-03-25 | 平安科技(深圳)有限公司 | 基于图像处理的皮肤病识别方法、装置、设备及存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019095118A1 (zh) * | 2017-11-14 | 2019-05-23 | 深圳和而泰智能控制股份有限公司 | 一种皮肤瑕疵点分类方法及电子设备 |
CN110148121A (zh) * | 2019-05-09 | 2019-08-20 | 腾讯科技(深圳)有限公司 | 一种皮肤图像处理方法、装置、电子设备及介质 |
WO2020171904A1 (en) * | 2019-02-21 | 2020-08-27 | Microsoft Technology Licensing, Llc | Human body part segmentation with real and synthetic images |
CN111783896A (zh) * | 2020-07-08 | 2020-10-16 | 汪金玲 | 一种基于核方法的图像识别方法及系统 |
CN112001282A (zh) * | 2020-08-12 | 2020-11-27 | 腾讯音乐娱乐科技(深圳)有限公司 | 一种图像识别方法 |
US10878567B1 (en) * | 2019-09-18 | 2020-12-29 | Triage Technologies Inc. | System to collect and identify skin conditions from images and expert knowledge |
CN113177923A (zh) * | 2021-05-07 | 2021-07-27 | 上海联影智能医疗科技有限公司 | 医学影像内容识别方法、电子设备及存储介质 |
-
2021
- 2021-08-31 CN CN202111008475.1A patent/CN113705477B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019095118A1 (zh) * | 2017-11-14 | 2019-05-23 | 深圳和而泰智能控制股份有限公司 | 一种皮肤瑕疵点分类方法及电子设备 |
WO2020171904A1 (en) * | 2019-02-21 | 2020-08-27 | Microsoft Technology Licensing, Llc | Human body part segmentation with real and synthetic images |
CN110148121A (zh) * | 2019-05-09 | 2019-08-20 | 腾讯科技(深圳)有限公司 | 一种皮肤图像处理方法、装置、电子设备及介质 |
US10878567B1 (en) * | 2019-09-18 | 2020-12-29 | Triage Technologies Inc. | System to collect and identify skin conditions from images and expert knowledge |
CN111783896A (zh) * | 2020-07-08 | 2020-10-16 | 汪金玲 | 一种基于核方法的图像识别方法及系统 |
CN112001282A (zh) * | 2020-08-12 | 2020-11-27 | 腾讯音乐娱乐科技(深圳)有限公司 | 一种图像识别方法 |
CN113177923A (zh) * | 2021-05-07 | 2021-07-27 | 上海联影智能医疗科技有限公司 | 医学影像内容识别方法、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113705477A (zh) | 2021-11-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110619962B (zh) | 一种医患共享的网络医疗服务系统 | |
US20140379378A1 (en) | System and Method for Generating a Medical Summary Report | |
CN109559300A (zh) | 图像处理方法、电子设备及计算机可读存储介质 | |
Tong et al. | Pulmonary nodule classification based on heterogeneous features learning | |
WO2020248847A1 (zh) | 智能心脏疾病检测方法、装置及计算机可读存储介质 | |
CN111345823B (zh) | 一种远程运动康复方法、装置和计算机可读存储介质 | |
US20210202085A1 (en) | Apparatus for automatically triaging patient and automatic triage method | |
CN112614578B (zh) | 医生智能推荐方法、装置、电子设备及存储介质 | |
US20210057106A1 (en) | System and Method for Digital Therapeutics Implementing a Digital Deep Layer Patient Profile | |
WO2020224433A1 (zh) | 基于机器学习的目标对象属性预测方法及相关设备 | |
CN111370102A (zh) | 科室导诊方法、装置以及设备 | |
US20220108447A1 (en) | Wound healing analysis and tracking | |
CN113705477B (zh) | 一种医疗图像识别方法、系统、设备及介质 | |
CN114416967A (zh) | 智能推荐医生的方法、装置、设备及存储介质 | |
Swarupa et al. | Disease prediction: smart disease prediction system using random forest algorithm | |
CN112635050B (zh) | 诊断推荐方法及电子设备、存储装置 | |
Ali et al. | KARE: A hybrid reasoning approach for promoting active lifestyle | |
CN110473636B (zh) | 基于深度学习的智能医嘱推荐方法及系统 | |
CN116246762B (zh) | 基于人工智能的处方剂量优化方法、装置、设备及介质 | |
Li et al. | Personalized intelligent syndrome differentiation guided by TCM consultation philosophy | |
CN116959733A (zh) | 医疗数据的分析方法、装置、设备及存储介质 | |
Luque et al. | Automatic classification of cancer tumors using image annotations and ontologies | |
Afzal et al. | Redesign of clinical decision systems to support precision medicine | |
KR20220094649A (ko) | 환자의 의료데이터를 기초로 한 질병 예측 시스템 | |
Kumar et al. | NATURAL LANGUAGE PROCESSING: HEALTHCARE ACHIEVING BENEFITS VIA NLP |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |