CN118120023A - 基于利用深度学习的图像分析的皮肤诊断系统以及方法 - Google Patents

基于利用深度学习的图像分析的皮肤诊断系统以及方法 Download PDF

Info

Publication number
CN118120023A
CN118120023A CN202280068459.8A CN202280068459A CN118120023A CN 118120023 A CN118120023 A CN 118120023A CN 202280068459 A CN202280068459 A CN 202280068459A CN 118120023 A CN118120023 A CN 118120023A
Authority
CN
China
Prior art keywords
skin
neural network
deep learning
pores
method based
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202280068459.8A
Other languages
English (en)
Inventor
朴爀坤
李尚兰
黄重元
金银珠
吴旺真
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Amorepacific Corp
Original Assignee
Amorepacific Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Amorepacific Corp filed Critical Amorepacific Corp
Publication of CN118120023A publication Critical patent/CN118120023A/zh
Pending legal-status Critical Current

Links

Abstract

实施例涉及一种基于利用深度学习的图像分析的皮肤诊断系统以及方法,包括:面部识别模型,从获取的面部图像中识别能够辨识个人的特征点而导出面部构成的形态或者位置信息;非辨识化模型,基于面部构成的形态或者位置信息,对面部图像进行非辨识化处理以使得不能辨识分析对象的个人信息;以及多个人工神经网络模型,针对皱纹、色素沉着、毛孔、红斑以及老化诊断中的至少一个项目的每一个。

Description

基于利用深度学习的图像分析的皮肤诊断系统以及方法
技术领域
本申请涉及一种基于利用深度学习的图像分析的皮肤诊断系统以及方法。
相关申请的交叉引用
本申请主张基于2021年10月14日提出申请的韩国专利申请第10-2021-0136568号以及2022年10月13日提出申请的韩国专利申请第10-2022-0131817号的优先权权益,这些申请的全部内容通过引用并入本申请。
背景技术
皮肤诊断除了医药用途之外,还在化妆品产业以及相关研究领域中积极应用,随着线上市场和个性化服务的发展,对能够更容易且准确地执行皮肤诊断的方法的需求正在增加。另一方面,以往的各种皮肤诊断以及测定方法虽然准确度高,但是测定项目有限,需要昂贵的设备。以往的基于图像分析的皮肤诊断方法相对低廉,可以用一个影像测定各种项目,但是准确度低,难以得到定量的详细数据或者成本高。
另外,以往的皮肤诊断方法存在的问题是,为了避开准确度实现难度和数据标记(Labeling)问题,不提供针对症状的检测位置和定量数据或者通过症状的简单等级判定来实现,从而不提供按实际项目的症状位置和定量信息。
另外,以往的现有技术存在的问题是,不包括去除应用于皮肤诊断的面部图像中包括的个人辨识信息的步骤,从而在分析处理或数据收集过程中个人信息的管理或保护步骤不完善。
其它现有技术也只是利用图像来定义利用人工智能(AI)的皮肤诊断的概念,不包括针对实际详细工作或诊断的技术定义或者将图像收集以及诊断装备限定在智能电话或智能装置等,没有考虑各种图像装置中可以与收集环境组合单独的诊断服务构成的部分,因此应用范围受到限制。
发明内容
本申请用于解决上述的问题,提供一种可以通过将人工智能(AI)技术适用于皮肤老化评价以及皮肤病变评价来识别以及整合分析面部皮肤老化等的诊断技术。具体地,可以通过深度学习制作人工神经网络模型,从而对皮肤图像中的根据各项目的症状进行诊断分析,从而定量导出实际皮肤症状的各详细个体的位置和形态、深化程度。能够分析各个症状的数量或平均大小或形态、整体面积或症状的强度等,能够提供应用获得的信息对皮肤图像强调诊断内容的可视化信息。
根据本申请的一个方面,可以是,基于利用通过处理器执行的深度学习的图像分析的皮肤诊断方法包括:拍摄对象皮肤而获取受试者的面部图像的步骤;从获取的所述面部图像中识别能够辨识个人的特征点而导出面部构成的形态或者位置信息的步骤;基于面部构成的形态或者位置信息,对面部图像进行非辨识化处理以使得不能辨识分析对象的个人信息的步骤;以及将非辨识化处理的面部图像分别输入到多个人工神经网络模型,可视化地提供针对与相应人工神经网络模型相对应项目的皮肤诊断结果以及按各项目的症状位置的步骤,所述项目包括皱纹、色素沉着、毛孔、红斑以及老化诊断中的至少一个。
在一实施例中,可以是,对所述面部图像进行非辨识化处理的步骤包括:从面部图像中分离特征点以及背景,并去除包括所述特征点的皮肤形态的步骤;将去除所述特征点的面部图像分割为多个块的步骤;以及对所述多个块进行随机化而重新配置的步骤。
在一实施例中,可以是,所述特征点是眉毛、眼睛、鼻子以及嘴唇中的至少一个。
在一实施例中,可以是,所述多个人工神经网络模型的每一个利用多个训练样本作为学习数据进行学习,所述多个训练样本包括利用数据增强(Data Augmentation)技术进行变形的样本。
在一实施例中,可以是,所述数据增强技术包括随机裁剪(randomcrop)、模糊(blur)以及翻转(flip)处理中的至少一个。
在一实施例中,可以是,进行皱纹诊断的人工神经网络模型通过调整包括检测到皱纹的总个体数、检测到皱纹的个体中的相对于周边未检测到区域的强度(深度)估计、检测到皱纹的总面积、检测到的皱纹的长度和宽度的参数来学习,并输出与皱纹的数量、皱纹的强度(深度)、皱纹的面积、皱纹的长度、皱纹的宽度、按照皱纹的强度、面积、长度或宽度的分布以及皱纹分数中的至少一个有关的分析结果。
在一实施例中,可以是,进行色素沉着诊断的人工神经网络模型调整包括检测到色素沉着的总个体数、检测到色素沉着的个体中的相对于周边未检测到区域的强度估计、检测到色素沉着的总面积的参数来学习,并输出与色素沉着的数量、色素沉着的强度、色素沉着的面积、按照色素沉着的强度、面积、长度或宽度的分布以及色素沉着分数中的至少一个有关的分析结果。
在一实施例中,可以是,进行毛孔诊断的人工神经网络模型调整包括检测到毛孔的总个体数、检测到毛孔的个体中的相对于周边未检测到区域的强度(深度)估计、检测到毛孔的总面积、毛孔的长度、毛孔的宽度的参数来学习,并输出与毛孔的数量、毛孔的强度(深度)、毛孔的大小、毛孔面积、毛孔的长度、毛孔的宽度、毛孔粗大(长宽比)、按照毛孔的强度、面积、长度、宽度或粗大的分布以及毛孔分数中的至少一个有关的分析结果。
在一实施例中,可以是,进行红斑诊断的人工神经网络模型调整包括检测到红斑的总个体数、检测到红斑的个体中的相对于周边未检测到区域的强度估计、检测到红斑的总面积的参数来学习,并输出与红斑的数量、红斑的强度、红斑的面积、按照红斑的强度或面积的分布以及红斑分数中的至少一个有关的分析结果。
在一实施例中,可以是,进行老化诊断的人工神经网络模型将对非辨识化处理的面部图像、单个人工神经网络模型的输出结果以及多个人工神经网络模型的输出结果进行整合的值中的至少一个作为输入来预测从面部图像中估计的针对面部老化或者面部皮肤老化的年龄。
在一实施例中,可以是,所述多个人工神经网络模型的每一个是基于U-net模型的编码器-解码器(Encoder-Decoder)结构模型。
在一实施例中,可以是,所述多个人工神经网络模型的每一个以基于ResNet的imageNet预学习权重形式学习。
在一实施例中,可以是,所述方法还包括:基于针对所述项目的皮肤诊断结果,评价针对特征产品的抗氧化功效以及美白功效中的至少一个的步骤。
在一实施例中,可以是,还包括:在将非辨识化处理的面部图像分别输入到多个人工神经网络模型之前,通过问诊来获取与所述受试者的皮肤烦恼以及生活方式有关的信息的步骤,所述皮肤诊断结果是与所述受试者的皮肤烦恼以及生活方式相关的结果。
在一实施例中,可以是,还包括:基于所述皮肤诊断结果,推荐与受试者的皮肤烦恼以及生活方式匹配的特征产品或者提供美容饮食习惯的步骤。
根据本申请的又另一个方面,可以是,基于利用深度学习的图像分析的皮肤诊断系统包括:拍摄部,拍摄对象皮肤而获取面部图像;面部识别模型,从获取的所述面部图像中识别能够辨识个人的特征点而导出面部构成的形态或者位置信息;非辨识化模型,基于面部构成的形态或者位置信息,对面部图像进行非辨识化处理以使得不能辨识分析对象的个人信息;以及多个人工神经网络模型,是与皱纹、色素沉着、毛孔、红斑以及老化诊断中的至少一个项目的每一个有关的多个人工神经网络模型,所述多个人工神经网络模型接收非辨识化处理的面部图像,可视化地提供针对与相应人工神经网络模型相对应项目的皮肤诊断结果以及按各项目的症状位置。
根据本申请的一个方面的基于利用深度学习的图像分析的皮肤诊断系统以及方法分离构成为寻找脸部的位置的面部识别模型、为了个人信息非辨识化处理而在面部图像中只留下皮肤区域进行随机化配置的非辨识化模型、包括皱纹、色素沉着、毛孔、红斑以及老化诊断的各诊断症状模型等。因此,可以针对各特性进行最优化以及功能分离或调节,从而可以实现重叠的诊断以及有效的系统管理和操作。
通过获取的面部图像中的非辨识化处理的一部分的皮肤图像也可以进行皮肤诊断,设计为不应用或保存和/或处理诊断系统内个人信息,从而在系统操作和数据收集部分中也可以预先应对个人信息泄露或管理。
相应系统中用于皮肤状态诊断的图像不限于专业拍摄装备或普通相机、智能电话之类图像,设计为根据图像条件导出各皮肤诊断项目的特性,从而最小化对图像的种类或形态的影响,可以应用于各种目的。
在抗老化研究之类需要长期追踪观察分析的长期皮肤老化研究以及抗老化产品功效评价、需要分析细微的皮肤色素的变化的美白化妆品的功效评价中,也可以定量地执行皮肤变化和化妆品功效评价。因此,即使没有单独的皮肤测定装备或分析准备,也可以快速且低成本地执行各种皮肤诊断项目,从而为长期追踪观察或大规模皮肤研究之类领域提供有利的特性。
本申请的效果不限于以上提及的效果,本领域技术人员能够从权利要求书的记载清楚地理解未提及的其它效果。
附图说明
为了清楚地说明本申请或者现有技术的实施例的技术性解决方案,将在下面简单介绍对实施例的说明所需的附图。应理解的是,下面的附图只是为了说明本说明书的实施例而不是限定的目的。另外,为了清楚地说明,下面的附图中可能示出适用了放大、省略等各种变形的一部分要件。
图1是根据本申请的一实施例的基于图像分析的皮肤诊断系统的框图。
图2是根据本申请的另一实施例的基于图像分析的皮肤诊断方法的流程图。
图3是示出根据本申请的一实施例的多个人工神经网络模型的输入输出过程的概略图。
图4示出根据本申请的一实施例的面部识别模型提取脸部的特征点而寻找位置,并通过非辨识化模型仅提取皮肤区域的过程。
图5示出根据本申请的一实施例的非辨识化模型的面部图像的非辨识化处理过程。
图6a至图6d示出根据本申请的一实施例的为了学习多个人工智能神经网络模型的每一个而由专家对多个训练样本进行标记的过程。
图7示出根据本申请的一实施例的基于Unet的人工智能神经网络模型。
图8是根据本申请的一实施例的对多个人工智能神经网络模型的每一个诊断皮肤的主要项目进行整理的表。
图9a至图9d是根据本申请的一实施例的将非辨识化模型以及多个人工智能神经网络模型的按各项目的诊断结果重建到非辨识化之前状态的图像中的图像。
图10a至图10d是根据本申请的一实施例的通过非辨识化模型进行非辨识化处理的情况下的多个人工智能神经网络模型的按各项目的诊断图像。
图11a至图11d是示出根据本申请的一实施例的随着年龄增加的按各项目的诊断结果的相关性的曲线图。
图12a以及图12b是根据本申请的一实施例的利用本申请来分析抗老化产品评价研究结果的曲线图。
图13a以及图13b是根据本申请的一实施例的利用本申请来分析美白产品评价研究结果的曲线图。
图14示出根据本申请的一实施例的通过问诊来获取与受试者的皮肤烦恼以及生活方式有关的信息的过程。
具体实施方式
这里使用的专业术语仅用于描述特征实施例,无意限制本申请。这里使用的单数形式还包括复数形式,除非语句表示明显相反的含义。说明书中使用的“包括的”的含义具体化特征特性、区域、整数、步骤、工作、项目和/或成分,但不排除其它特性、区域、整数、步骤、工作、项目和/或成分的存在或添加。
虽然没有不同地定义,但包括这里使用的技术术语以及科学术语的所有术语具有与本申请所属技术领域中具有通常知识的人通常理解的含义相同的含义。通常使用的词典中定义的术语被进一步解释为具有符合相关技术文献和当前公开的内容的含义,除非定义,否则不会被解释为理想或过于正式的含义。
以下,参照附图详细观察本申请的实施例。
图1是根据本申请的一实施例的基于利用深度学习的图像分析的皮肤诊断系统1(以下“皮肤诊断系统”)的框图。
参照图1,皮肤诊断系统1可以包括:拍摄部10,通过拍摄对象皮肤而获取面部图像;面部识别模型11,从获取的所述面部图像中识别能够辨识个人的特征点而导出面部构成的形态或者位置信息;非辨识化模型12,基于面部构成的形态或者位置信息,对面部图像进行非辨识化处理以使得不能辨识分析对象的个人信息;以及多个人工神经网络模型13、14、15、16,是与皱纹、色素沉着、毛孔以及红斑中的至少一个项目的每一个有关的多个人工神经网络模型,所述多个人工神经网络模型接收非辨识化处理的面部图像,可视化地提供针对与相应人工神经网络模型相对应项目的皮肤诊断结果以及按各项目的症状位置。所述项目可以包括皱纹、色素沉着、毛孔以及红斑中的至少一个。另外,皮肤诊断系统1可以还包括:老化诊断模型17,将对包括非辨识化模型的单个或者多个人工神经网络模型的输出结果进行整合的值作为输入,在面部图像中预测估计的年龄。
在本说明书中,人工神经网络模型可以包括深度学习模型(deep learningmodel),但是深度学习模型可以是多层层叠人工神经网络的形式。深度学习模型(deeplearning model)是通过在由多层网络构成的深度神经网络(deep neural network)中学习大量的数据来自动学习各个影像的特征(feature),并通过其利用目标函数即最小化预测准确度的误差(error)的方法学习网络的形式。
在本说明书中,深度学习模型(deep learning model)可以利用例如CNN(卷积神经网络;Convolutional Neural Network)、DHN(深层分级网络;Deep HierachicalNetwork)、CDBN(卷积深度信念网络;Convolutional Deep Belief Network)、DDN(解卷积深度网络;Deconvolutional Deep Network)等,但是可以利用当前或者未来各种深度学习模型。
根据实施例的皮肤诊断系统1可以具有完全是硬件或完全是软件或者部分是硬件且部分是软件的方面。例如,系统可以统称具备数据处理能力的硬件以及用于驱动其的操作软件。在本说明书中,“单元(unit)”、“系统”以及“装置”等术语意图指代硬件以及通过相应硬件驱动的软件的组合。例如,硬件可以是包括CPU(中央处理单元;Central ProcessingUnit)、GPU(图形处理单元;Graphic Processing Unit)或者其它处理器(processor)的数据处理设备。另外,软件可以指代运行中的进程、对象(object)、执行文件(可执行的;executable)、执行线程(thread of execution)、程序(program)等。
例如,所述皮肤诊断系统1的概念(例如,构成要件10~17的工作),作为(Canfield公司(Fairfield,NJ,USA)的系统之类)皮肤分析用影像系统或者计算机用软件或者客户用应用程序,也可以整合到各种计算装置(例如,包括智能电话的智能装置、计算机等)。软件设计成处理拍摄的对象皮肤的图像,并且诊断以及评价图像内对象皮肤,进而也可以将工作结果向用户提供。
拍摄部10是拍摄对象的皮肤的构成要件,也可以实现为(implemented)本技术领域中能够使用的各种影像拍摄设备。在一实施例中,拍摄部10构成为拍摄对象的皮肤影像而获取面部图像。例如,拍摄部10也可以由Canfield公司(Fairfield,NJ,USA)的实现。
拍摄部10也可以将对象的皮肤影像数据向其它构成要件11~17提供。另外,拍摄部10也可以构成为执行提取对象的皮肤影像的部分区域的工作,例如,剪裁(cropping)处理工作。
对于通常的技术人员来说,所述皮肤诊断系统1也可以包括本说明书中未明确叙述的其它构成要件是显而易见的。例如,所述皮肤诊断系统也可以包括具有网络接口、用于数据条目的输入装置以及显示器、用于印刷或者其它数据显示的输出装置、存储器之类存储装置的本说明书中叙述的工作所需的其它硬件要件。
图2是根据本申请的另一实施例的基于图像分析的皮肤诊断方法的流程图。
参照图2,基于图像分析的皮肤诊断方法(以下,“皮肤诊断方法”)通过包括处理器的计算装置执行。包括所述处理器的计算装置例如可以通过所述皮肤诊断系统1或者一部分构成要件(例如,拍摄部10、面部识别模型11、非辨识化模型12和/或多个人工神经网络模型13~17)执行或者通过其它计算装置执行。以下,为了清楚地说明,以通过所述皮肤诊断系统1执行所述皮肤诊断方法的实施例,更详细地叙述本申请。
参照图2,皮肤诊断方法包括:通过问诊来获取与受试者的皮肤烦恼以及生活方式有关的信息的步骤(S20);(例如,通过拍摄部10)拍摄对象皮肤而获取受试者的面部图像的步骤(S21);(例如,通过面部识别模型11)从获取的所述面部图像中识别能够辨识个人的特征点而导出面部构成的形态或者位置信息的步骤(S22);(例如,通过非辨识化模型112)基于面部构成的形态或者位置信息,对面部图像进行非辨识化处理以使得不能辨识分析对象的个人信息的步骤(S23);(例如,通过多个人工神经网络模型13~17)将非辨识化处理的面部图像分别输入到多个人工神经网络模型,可视化地提供针对与相应人工神经网络模型相对应项目的皮肤诊断结果以及按各项目的症状位置的步骤(S24);基于皮肤诊断结果,推荐与受试者的皮肤烦恼以及生活方式匹配的特征产品或者提供美容饮食习惯的步骤(S25);以及评价针对特征产品的抗氧化功效以及美白功效中的至少一个的步骤(S26)。
图3是示出根据本申请的一实施例的多个人工神经网络模型的输入输出过程的概略图。
参照图3,皮肤诊断系统1由寻找脸部位置的面部识别(Face Detection)模型、去除图像的个人信息的非辨识化模型、诊断色素沉着、毛孔、红斑、皱纹的按各项目诊断模型等共6种组成,从而构成为可以实现各个特性最优化以及功能分离。各个模型为了针对各项目的准确的症状诊断而学习。
进行皱纹诊断的皱纹模型可以将非辨识化的面部图像作为输入而输出与皱纹的数量、皱纹的强度(深度)、皱纹的面积、皱纹的长度、皱纹的宽度、按照皱纹的强度、面积、长度或宽度的分布以及皱纹分数中的至少一个有关的分析结果。进行色素沉着诊断的色素沉着模型可以输出与色素沉着的数量、色素沉着的强度、色素沉着的面积、按照色素沉着的强度或面积的分布以及色素沉着分数中的至少一个有关的分析结果。进行毛孔诊断的毛孔模型可以输出与毛孔的数量、毛孔的强度(深度)、毛孔的大小、毛孔的面积、毛孔的长度、毛孔的宽度、毛孔粗大(长宽比)、按照毛孔的强度、面积、长度、宽度或粗大的分布以及毛孔分数中的至少一个有关的分析结果。进行红斑诊断的红斑模型可以输出与红斑的数量、红斑的强度、红斑的面积、按照红斑的强度或面积的分布以及红斑分数中的至少一个有关的分析结果。所述皱纹分数、色素沉着分数、毛孔分数以及红斑分数的每一个意指基于事先收集的数据,对单独皮肤项目的皮肤状态进行分数化的数值,考虑皱纹、色素沉着、毛孔以及红斑的每一个的强度以及总面积之类单个或者多个组合的数据来算出。所述皱纹模型、色素沉着模型、毛孔模型以及红斑模型所输出的分析结果可以可视化而显示在与相应项目的症状有关的部位。另外,进行面部老化诊断的老化诊断模型可以将非辨识化或者未非辨识化的面部图像作为输入而输出与面部老化状态以及面部皮肤老化状态有关的分析结果。
图4示出根据本申请的一实施例的面部识别模型提取脸部的特征点而寻找位置,并通过非辨识化模型仅提取皮肤区域的过程。
参照图4,面部识别模型可以从获取的面部图像中识别能够辨识个人的特征点而导出面部构成的形态或者位置信息。所述特征点可以是眉毛、眼睛、鼻子以及嘴唇中的至少一个,可以分离识别背景。在一实施例中,面部识别模型可以为了皮肤诊断而判断是否为适当的图像,仅在判断为适当的图像的情况下进行皮肤分析。进一步,面部识别模型可以输出在面部图像中进行非辨识化处理之后检测的皮肤区域的大小即面部大小。
图5示出根据本申请的一实施例的非辨识化模型的面部图像的非辨识化处理过程。
参照图5,非辨识化模型可以包括从面部图像中分离特征点以及背景,并去除包括所述特征点的皮肤形态的步骤;将去除所述特征点的面部图像分割为多个块的步骤;以及对所述多个块进行随机化而重新配置的步骤。
因此,即使用通过非辨识化模型获取的面部图像中的非辨识化处理的一部分的皮肤图像也可以进行皮肤诊断,设计为不应用或保存和/或处理诊断系统内个人信息,从而在系统操作和数据收集部分中也可以预先应对个人信息泄露或管理。
图6a至图6d示出根据本申请的一实施例的为了学习多个人工智能神经网络模型的每一个而由专家对多个训练样本进行标记的过程。
参照图6a至图6d,所述多个人工神经网络模型的每一个可以利用多个训练样本作为学习数据进行学习。在一实验例中,对用高分辨率全脸拍摄仪(VISIA-CR、VISIA等)拍摄的韩国男女的本公司人体适用研究图像13596张进行选择以及加工,从而将50358个图像块用于人工神经网络模型学习,1150张图像块用于模型学习结果的验证。在数据标记的情况下,将皮肤图像中能够用肉眼确认的各项目的位置和形态进行分割(segmentation),10年以上经验的临床专家3名以上与50名以上的操作者一起验收制作了作业数据。数据标记是在原始数据中显示加工最终结果或信息的作业,以使得人工智能可以根据开发目标学习。作为一例,为了皱纹诊断学习而皱纹模型在将要诊断的皮肤图像中显示皱纹的准确的位置。分割是在图像数据标记或者图像分析时分类显示特征目标区域的种类和位置的作业。
所述多个训练样本可以利用数据增强(Data Augmentation)技术进行变形。数据增强是将用于人工智能学习的数据集变形为各种真实的形式来确保实际收集的数据以上的数据多样性和数量,从而提高针对各种数据环境的适应性和开发性能的技术。
在一实施例中,所述数据增强技术可以包括随机裁剪(random crop)、模糊(blur)以及翻转(flip)处理中的至少一个。通过数据增强技术,可以产生如下效果:在各种环境下也可以得到通用、一致的结果,即使在未通过其学习的设备或环境下也有意义地工作。
图7示出根据本申请的一实施例的基于Unet的人工智能神经网络模型。
参照图7,非辨识化模型以及多个人工神经网络模型的每一个可以是基于U-net模型的编码器-解码器(Encoder-Decoder)结构模型。U-net模型是生物医学(Biomedical)领域中以图像分割(Segmentation)为目的开发的代表性人工神经网络模型中的一个。U-net模型具有以U字形式将目标过程的各种过程通过一个神经网络重新配置的进程。编码器-解码器结构模型是设计成可以分离以及联系输入和输出数据处理来提高处理效率和质量的人工智能模型。非辨识化模型以及多个人工神经网络模型的每一个可以以基于ResNet的imageNet预学习权重形式学习。基于学习应用mIoU(均交并比;mean Intersection overUnion),除了通常应用的交叉熵损失函数(Cross-Entropy loss)之外,可以追加应用骰子损失(Dice loss)、焦点损失(Focal loss)等。
ResNEt模型是微软(Microsoft)开发的高性能的多级人工神经网络模型,为了提高性能,通过称为残差学习(Residual learning)的将各步骤输入和输出的差异应用于学习的方式,解决在形成多个步骤的神经网络时发生的准确度降低问题。ImageNet是用于开发从图像中识别物体的软件的大规模数据库,预学习权重意指以基于该数据能够对特征的条件赋予权重(weights)的方式学习的初始人工智能模型条件。mIoU(均交并比;meanIntersection over Union)是用于数字图像分析模型的评价的方法论中的一个,是将目标和预测结果之间的公共像素数除以总像素数而对结果的一致率进行定量化的方法,交叉熵损失函数(Cross-Entropy loss)是数字分析模型的评价方法论中的一个,利用基于熵的损失函数评价目标数据的概率分布和预测的模型结果数据的概率分布差异。焦点损失(Focalloss)是数字分析模型的评价方法论中的一个,是应用赋予权重的参数来评价以使可以减少容易分析的样本数据对整个预测模型学习的影响并集中于难以分析的样本的方法。
在皮肤的特性上,大部分的状况是一般的皮肤区域多且病变区域少的环境(imbalanced data),因此,为了顺利的学习,使用测定各标签的频率(frequency)而在损失(loss)计算时反映其的学习方法。根据按各项目分离诊断模型,能够最优化单独特性,并进行按项目的重叠诊断等。追加地,还可以适用单独的面部图像非辨识化模型,应对仅通过面部识别模型难以去除的个人辨识数据等针对诊断信息的个人信息保护等安全问题。
图8是根据本申请的一实施例的对多个人工神经网络模型的每一个诊断皮肤的主要项目进行整理的表。
参照图8,进行皱纹诊断的皱纹模型可以通过调整包括检测到皱纹的总个体数、检测到皱纹的个体中的相对于周边未检测到区域的强度(深度)估计、检测到皱纹的总面积以及检测到的皱纹的长度和宽度的参数来学习,并输出与皱纹的数量、皱纹的强度(深度)、皱纹的面积、皱纹的长度和宽度、按照皱纹的强度、面积、长度或宽度的分布状态以及皱纹分数有关的分析结果。
进行色素沉着诊断的色素沉着模型可以通过调整包括检测到色素沉着的总个体数、检测到色素沉着的个体中的相对于周边未检测到区域的强度估计、检测到色素沉着的总面积的参数来学习,并输出与色素沉着的数量、色素沉着的强度、色素沉着的面积、按照色素沉着的强度或面积的分布状态以及色素沉着分数有关的分析结果。
进行毛孔诊断的毛孔模型可以通过调整包括检测到毛孔的总个体数、检测到毛孔的个体中的相对于周边未检测到区域的强度(深度)估计、检测到毛孔的总面积以及毛孔的长度、毛孔的宽度的参数来学习,并输出与毛孔的数量、毛孔的深度、毛孔的面积、毛孔的长度和宽度、毛孔粗大(长宽比)、按照毛孔的强度、面积、长度、宽度或粗大的分布状态以及毛孔分数有关的分析结果。
进行红斑诊断的红斑模型可以通过调整包括检测到红斑的总个体数、检测到红斑的个体中的相对于周边未检测到区域的强度估计、检测到红斑的总面积的参数来学习,并输出与红斑的数量、红斑的强度、红斑的面积、按照红斑的强度或面积的分布状态以及红斑分数有关的分析结果。
老化诊断模型可以输出与从面部图像中估计的面部老化或者面部皮肤的年龄有关的分析结果。
追加地,面部识别模型可以输出在面部图像中进行非辨识化处理之后检测的皮肤区域的大小即面部大小。
图9a至图9d是根据本申请的一实施例的将非辨识化模型以及多个人工智能神经网络模型的按各项目的诊断结果重建到非辨识化之前状态的图像中的图像。
参照图9a至图9d,皮肤诊断系统1可以对皮肤图像中的各症状进行诊断分析来定量导出实际皮肤状态症状的各详细个体的位置和形态、深化程度,可以分析各症状的数量或平均大小或形态、整体面积或症状的强度等,可以提供应用获得的信息再次对皮肤图像强调诊断内容的可视化信息。
另外,分离构成为个人信息处理非辨识化模型、包括皱纹、色素沉着、毛孔、红斑的各诊断症状模型等,从而可以针对各特性进行最优化以及功能分离或调节,可以实现重叠的诊断以及有效的系统管理和操作。
图10a至图10d是根据本申请的一实施例的通过非辨识化模型进行非辨识化处理的情况下的多个人工智能神经网络模型的按各项目的诊断图像。
图10a至图10d的每一个是,通过非辨识化模型对图9a至图9d的每一个的原图进行非辨识化处理之后,利用色素沉着模型、毛孔模型、皱纹模型以及红斑模型对相应项目的区域进行可视化的图像。参照图10a至图10d,可以包括:非辨识化模型从原图即面部图像中分离特征点以及背景,去除包括所述特征点的皮肤形态,将去除所述特征点的面部图像分割为多个块的步骤;以及对所述多个块进行随机化来重新配置的步骤。
图11a至图11d是示出根据本申请的一实施例的随着年龄增加的各个皮肤诊断项目的诊断结果的相关性的曲线图。
参照图11a至图11d,将各种年龄段和皮肤条件的韩国人作为对象检查本申请的匹配性以及分析适用性,为了进行新的皮肤特性分析以及洞察力导出,进行了应用各种年龄的面部皮肤图像的各年龄皮肤特性诊断分析。在一实验例中,以14~69岁的韩国女性各年龄段20名、共120名为面部图像对象。参照图11a,对普通皮肤组的120名女性图像进行分析的结果,在皱纹的情况下,呈现出皱纹数均随年龄增加而增加的相关性,整体上呈现出在30多岁、50多岁变化区间加速发生的趋势。
参照图11b,在色素沉着的情况下,呈现出色素沉着的总面积随年龄增加而增加的相关性,呈现出30多岁时大幅增加之后,40多岁时停滞,在50多岁区间中发生进一步增加的趋势。
参照图11c,在红斑(过敏)的情况下,呈现出平均大小或总面积随年龄增加而减少的相关性,整体上呈现出在低年龄的10~20多岁等低年龄中发生较高,30~40多岁为止减少,之后部分增加的趋势,判断为与老化相比低年龄的暂时性过敏影响更大。
在毛孔的情况下,呈现出毛孔的数/平均大小/总面积随年龄增加而增加,强度(深度)减少的相关性。参照图11d,呈现出毛孔数整体上增加但50多岁时停滞的趋势。
图12a以及图12b是根据本申请的一实施例的利用本申请来分析抗老化产品评价研究结果的曲线图。
参照图12a以及图12b,皮肤诊断系统1可以基于针对所述项目的皮肤诊断结果,评价针对特征产品的抗氧化功效以及美白功效中的至少一个。皮肤诊断系统1与专家评价不同,可以以相同的基准应对细微的变化或大量重复性追踪观察,仅通过图像就可以进行各种项目的定量性评价以及可视化,因此可以应用于皮肤变化研究以及化妆品的功效评价,可以有效地应用于客户服务和更具公信力的客户沟通内容制作等。
在一实验例中,对证实了抗老化功效的视黄醇产品的长期皮肤追踪研究结果的图像实施皮肤诊断的结果,在4年的追踪观察时段期间,与产品未使用组的色素沉着和皱纹数增加或保持的情况相比,可以确认产品使用组的显著的皮肤改善效果。其是与单独的临床测定评价结果相同的结果,可以提供更细化且定量化的评价结果。
图13a以及图13b是根据本申请的一实施例的利用本申请来分析美白产品评价研究结果的曲线图。
参照图13a以及图13b,对美白产品的功效评价适用皮肤诊断系统1的结果,确认到使用含有麝香草酚3,4,5-三甲氧基肉桂酸酯(3,4,5-trimethoxycinnamatethymolester)(TCTE)的产品的试验参与者的色素沉着的大小和面积在4周之后显著减少的结果,其与实际人体适用试验的结果一致。因此,判断为,利用深度学习的皮肤诊断,仅通过图像拍摄,也可以适用于比医药品评价细微、需要评价各种项目的变化的化妆品的功效评价。
图14示出根据本申请的一实施例的通过问诊来获取与受试者的皮肤烦恼以及生活方式有关的信息的过程。
参照图14,皮肤诊断系统1除了将非辨识化处理的面部图像分别输入到多个人工神经网络模型之外,还可以通过问诊来获取与所述受试者的皮肤烦恼以及生活方式有关的信息。皮肤诊断结果可以是与所述受试者的皮肤烦恼以及生活方式相关的结果。皮肤诊断系统1可以利用通过问诊获取的信息,对受试者的皮肤关注点更加集中以及具体化,从而提供诊断结果。
皮肤诊断系统1可以基于所述皮肤诊断结果,推荐与受试者的皮肤烦恼以及生活方式匹配的特征产品或者提供美容饮食习惯。
在一实施例中,皮肤诊断系统1按照色素沉着、毛孔、红斑、皱纹的各项目提供受试者的皮肤状态分析结果。另外,利用通过问诊获取的信息来提供针对受试者的皮肤烦恼的意见,并提供与洁面或者生活方式相关的小建议。可以与根据受试者的皮肤状态的匹配型皮肤管理方法一起,推荐适合于各个皮肤状态的化妆品。
根据基于利用这种深度学习的图像分析的皮肤诊断系统以及方法,分离构成为面部位置和特征点识别模型、个人信息处理非辨识化模型、包括皱纹、色素沉着、毛孔、红斑以及老化诊断的各诊断症状模型等,从而可以针对各特性进行最优化以及功能分离或调节,可以实现重叠的诊断以及有效的系统管理和操作。
即使通过获取的面部图像中的非辨识化处理的一部分的皮肤图像也可以进行皮肤诊断,设计为不应用或保存和/或处理诊断系统内个人信息,从而在系统操作和数据收集部分中也可以预先应对个人信息泄露或管理。
相应系统中用于皮肤状态诊断的图像不限于专业拍摄装备或普通相机、智能电话之类图像,设计为根据图像条件导出各皮肤诊断项目的特性,从而最小化对图像的种类或形态的影响,可以应用于各种目的。
在抗老化研究之类需要长期追踪观察分析的长期皮肤老化研究以及抗老化产品功效评价、需要分析细微的皮肤色素的变化的美白化妆品的功效评价中,也可以定量地执行皮肤变化和化妆品功效评价。因此,即使没有单独的皮肤测定装备或分析准备,也可以快速且低成本地执行各种皮肤诊断项目,从而为长期追踪观察或大规模皮肤研究之类领域提供有利的特性。
根据以上说明的实施例,根据基于图像分析的皮肤诊断系统以及方法的工作的至少一部分可以由计算机程序实现,记录在计算机可读取的记录介质中。例如,可以与构成为包括程序代码的计算机-可读介质的程序产品一起实现,其通过用于执行叙述的任意或所有步骤、工作或者过程的处理器运行。
所述计算机可读取的记录介质包括存储计算机可读数据的所有种类的记录装置。作为计算机可读取的记录介质的例,包括ROM、RAM、CD-ROM、磁带、软盘、光数据存储装置等。另外,计算机可读取的记录介质也可以分布在用网络连接的计算机系统中,从而以分布方式存储并运行计算机可读取的代码。另外,用于实现本实施例的功能性程序、代码以及代码段(segment)将容易被本实施例所属技术领域的通常的技术人员理解。
如上所述的本申请参考附图所示的实施例进行了说明,但其不过是示例性的,只要是本技术领域的具有通常知识的人就可以理解可以基于此实施多种变形以及实施例的变形。但是,应视为这种变形在本申请的技术保护范围内。因此,本申请的真正技术保护范围应由所附权利要求书的技术构思而定。
根据本申请的一个方面的基于利用深度学习的图像分析的皮肤诊断系统以及方法分离构成为寻找脸部的位置的面部识别模型、为了个人信息非辨识化处理而在面部图像中只留下皮肤区域进行随机化配置的非辨识化模型、包括皱纹、色素沉着、毛孔、红斑以及老化诊断的各诊断症状模型等。因此,可以针对各特性进行最优化以及功能分离或调节,从而可以实现重叠的诊断以及有效的系统管理和操作。

Claims (16)

1.一种基于利用深度学习的图像分析的皮肤诊断方法,由处理器执行深度学习,所述基于利用深度学习的图像分析的皮肤诊断方法包括:
拍摄对象皮肤而获取受试者的面部图像的步骤;
从获取的所述面部图像中识别能够辨识个人的特征点而导出面部构成的形态或者位置信息的步骤;
基于面部构成的形态或者位置信息,对面部图像进行非辨识化处理以使得不能辨识分析对象的个人信息的步骤;以及
将非辨识化处理的面部图像分别输入到多个人工神经网络模型,可视化地提供针对与相应人工神经网络模型相对应项目的皮肤诊断结果以及按各项目的症状位置的步骤,
所述项目包括皱纹、色素沉着、毛孔、红斑以及老化诊断中的至少一个。
2.根据权利要求1所述的基于利用深度学习的图像分析的皮肤诊断方法,其特征在于,
对所述面部图像进行非辨识化处理的步骤包括:
从面部图像中分离特征点以及背景,并去除包括所述特征点的皮肤形态的步骤;
将去除所述特征点的面部图像分割为多个块的步骤;以及
对所述多个块进行随机化而重新配置的步骤。
3.根据权利要求1所述的基于利用深度学习的图像分析的皮肤诊断方法,其特征在于,
所述特征点是眉毛、眼睛、鼻子以及嘴唇中的至少一个。
4.根据权利要求1所述的基于利用深度学习的图像分析的皮肤诊断方法,其特征在于,
所述多个人工神经网络模型的每一个利用多个训练样本作为学习数据进行学习,
所述多个训练样本包括利用数据增强技术进行变形的样本。
5.基于利用深度学习的图像分析的皮肤诊断方法,其特征在于,
所述数据增强技术包括随机裁剪、模糊以及翻转处理中的至少一个。
6.根据权利要求1所述的基于利用深度学习的图像分析的皮肤诊断方法,其特征在于,
进行皱纹诊断的人工神经网络模型调整包括检测到皱纹的总个体数、检测到皱纹的个体中的相对于周边未检测到区域的强度(深度)估计、检测到皱纹的总面积、检测到的皱纹的长度和宽度的参数来学习,
并输出与皱纹的数量、皱纹的强度(深度)、皱纹的面积、皱纹的长度、皱纹的宽度、按照皱纹的强度、面积、长度或宽度的分布以及皱纹分数中的至少一个有关的分析结果。
7.根据权利要求1所述的基于利用深度学习的图像分析的皮肤诊断方法,其特征在于,
进行色素沉着诊断的人工神经网络模型调整包括检测到色素沉着的总个体数、检测到色素沉着的个体中的相对于周边未检测到区域的强度估计、检测到色素沉着的总面积的参数来学习,
并输出与色素沉着的数量、色素沉着的强度、色素沉着的面积、按照色素沉着的强度、面积、长度或宽度的分布以及色素沉着分数中的至少一个有关的分析结果。
8.根据权利要求1所述的基于利用深度学习的图像分析的皮肤诊断方法,其特征在于,
进行毛孔诊断的人工神经网络模型调整包括检测到毛孔的总个体数、检测到毛孔的个体中的相对于周边未检测到区域的强度(深度)估计、检测到毛孔的总面积、毛孔的长度、毛孔的宽度的参数来学习,
并输出与毛孔的数量、毛孔的强度(深度)、毛孔的大小、毛孔面积、毛孔的长度、毛孔的宽度、毛孔粗大(长宽比)、按照毛孔的强度、面积、长度、宽度或粗大的分布以及毛孔分数中的至少一个有关的分析结果。
9.根据权利要求1所述的基于利用深度学习的图像分析的皮肤诊断方法,其特征在于,
进行红斑诊断的人工神经网络模型调整包括检测到红斑的总个体数、检测到红斑的个体中的相对于周边未检测到区域的强度估计、检测到红斑的总面积的参数来学习,
并输出与红斑的数量、红斑的强度、红斑的面积、按照红斑的强度或面积的分布以及红斑分数中的至少一个有关的分析结果。
10.根据权利要求1所述的基于利用深度学习的图像分析的皮肤诊断方法,其特征在于,
进行老化诊断的人工神经网络模型将对非辨识化处理的面部图像、单个人工神经网络模型的输出结果以及多个人工神经网络模型的输出结果进行整合的值中的至少一个作为输入来预测从面部图像中估计的针对面部老化或者面部皮肤老化的年龄。
11.根据权利要求1所述的基于利用深度学习的图像分析的皮肤诊断方法,其特征在于,
所述多个人工神经网络模型的每一个是基于U-net模型的编码器-解码器结构模型。
12.根据权利要求1所述的基于利用深度学习的图像分析的皮肤诊断方法,其特征在于,
所述多个人工神经网络模型的每一个以基于ResNet的imageNet预学习权重形式学习。
13.根据权利要求1所述的基于利用深度学习的图像分析的皮肤诊断方法,其特征在于,
所述基于利用深度学习的图像分析的皮肤诊断方法还包括:
基于针对所述项目的皮肤诊断结果,评价针对特征产品的抗氧化功效以及美白功效中的至少一个的步骤。
14.根据权利要求1所述的基于利用深度学习的图像分析的皮肤诊断方法,其特征在于,
所述基于利用深度学习的图像分析的皮肤诊断方法还包括:
在将非辨识化处理的面部图像分别输入到多个人工神经网络模型之前,通过问诊来获取与所述受试者的皮肤烦恼以及生活方式有关的信息的步骤,
所述皮肤诊断结果是与所述受试者的皮肤烦恼以及生活方式相关的结果。
15.根据权利要求14所述的基于利用深度学习的图像分析的皮肤诊断方法,其特征在于,
所述基于利用深度学习的图像分析的皮肤诊断方法还包括:
基于所述皮肤诊断结果,推荐与受试者的皮肤烦恼以及生活方式匹配的特征产品或者提供美容饮食习惯的步骤。
16.一种基于利用深度学习的图像分析的皮肤诊断系统,包括:
拍摄部,拍摄对象皮肤而获取面部图像;
面部识别模型,从获取的所述面部图像中识别能够辨识个人的特征点而导出面部构成的形态或者位置信息;
非辨识化模型,基于面部构成的形态或者位置信息,对面部图像进行非辨识化处理以使得不能辨识分析对象的个人信息;以及
多个人工神经网络模型,是与皱纹、色素沉着、毛孔、红斑以及老化诊断中的至少一个项目的每一个有关的多个人工神经网络模型,所述多个人工神经网络模型接收非辨识化处理的面部图像,可视化地提供针对与相应人工神经网络模型相对应项目的皮肤诊断结果以及按各项目的症状位置。
CN202280068459.8A 2021-10-14 2022-10-14 基于利用深度学习的图像分析的皮肤诊断系统以及方法 Pending CN118120023A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2021-0136568 2021-10-14
KR10-2022-0131817 2022-10-13

Publications (1)

Publication Number Publication Date
CN118120023A true CN118120023A (zh) 2024-05-31

Family

ID=

Similar Documents

Publication Publication Date Title
Pantazi et al. Automated leaf disease detection in different crop species through image features analysis and One Class Classifiers
CN110084259B (zh) 一种结合面部纹理和光流特征的面瘫分级综合评估系统
Morales et al. Retinal disease screening through local binary patterns
Zhang et al. Sparse representation classifier for microaneurysm detection and retinal blood vessel extraction
Basu et al. Human emotion recognition from facial thermal image based on fused statistical feature and multi-class SVM
De Guzman et al. Design and evaluation of a multi-model, multi-level artificial neural network for eczema skin lesion detection
Raja et al. An automated early detection of glaucoma using support vector machine based visual geometry group 19 (VGG-19) convolutional neural network
Chen et al. Hybrid facial image feature extraction and recognition for non-invasive chronic fatigue syndrome diagnosis
WO2014158345A1 (en) Methods and systems for vessel bifurcation detection
Orfao et al. A comparison of computer vision methods for the combined detection of glaucoma, diabetic retinopathy and cataracts
Dhanashree et al. Fingernail analysis for early detection and diagnosis of diseases using machine learning techniques
Hortinela IV et al. Development of abnormal red blood cells classifier using image processing techniques with support vector machine
KR20230054286A (ko) 딥 러닝을 이용한 이미지 분석 기반의 피부 진단 시스템 및 방법
CN115439920B (zh) 基于情绪视听刺激和面部表情的意识状态检测系统、设备
CN118120023A (zh) 基于利用深度学习的图像分析的皮肤诊断系统以及方法
Pal et al. Advanced Convolutional Neural Network Model to Identify Melanoma Skin Cancer
US20220335252A1 (en) Method and system for anonymizing facial images
Bhardwaj et al. Two-tier grading system for npdr severities of diabetic retinopathy in retinal fundus images
Jardeleza et al. Detection of Common Types of Eczema Using Gray Level Co-occurrence Matrix and Support Vector Machine
Hammal et al. Comparing a novel model based on the transferable belief model with humans during the recognition of partially occluded facial expressions
Gonçalves et al. Automatic detection of Visceral Leishmaniasis in humans using Deep Learning
Biruntha et al. Automatic Detection of Diabetic Retinopathy on Digital Fundus Image
Shamil et al. Detection of Iris localization in facial images using haar cascade circular hough transform
Al Shabibi et al. Detection of Skin Diseases Using Matlab
Azeroual et al. Convolutional Neural Network for Segmentation and Classification of Glaucoma.

Legal Events

Date Code Title Description
PB01 Publication