CN118103869A - 光学图像处理方法及其应用 - Google Patents

光学图像处理方法及其应用 Download PDF

Info

Publication number
CN118103869A
CN118103869A CN202280053348.XA CN202280053348A CN118103869A CN 118103869 A CN118103869 A CN 118103869A CN 202280053348 A CN202280053348 A CN 202280053348A CN 118103869 A CN118103869 A CN 118103869A
Authority
CN
China
Prior art keywords
image
skin
optical image
optical
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202280053348.XA
Other languages
English (en)
Inventor
陈怡伶
吕志伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Unita Biotechnology Co ltd
Original Assignee
Unita Biotechnology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Unita Biotechnology Co ltd filed Critical Unita Biotechnology Co ltd
Publication of CN118103869A publication Critical patent/CN118103869A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/44Detecting, measuring or recording for evaluating the integumentary system, e.g. skin, hair or nails
    • A61B5/441Skin evaluation, e.g. for skin disorder diagnosis
    • A61B5/443Evaluating skin constituents, e.g. elastin, melanin, water
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/60Image enhancement or restoration using machine learning, e.g. neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • A61B5/7267Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems involving training the classification device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20216Image averaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30088Skin; Dermal

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Quality & Reliability (AREA)
  • Radiology & Medical Imaging (AREA)
  • Dermatology (AREA)
  • Image Processing (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)

Abstract

本发明提供了一种从皮肤光学图像中分割特征的方法,包括以下步骤:接收包含目标至少一个特征的皮肤光学图像;从背景信号中增强光学图像中特征信号的对比度;在增强光学图像中对目标进行分割,并从皮肤光学图像中量化该特征。

Description

光学图像处理方法及其应用
背景技术
传统上,只有组织病理学切片被用于观察皮肤细胞变化。然而,这种黄金标准方法具有创伤性,并不被美容患者所青睐。近几十年来,越来越多的无创成像工具,例如光学相干断层扫描仪(OCT)、反射共聚焦显微镜(RCM)和多光子显微镜等,已经用于检测皮肤细胞变化,其新发现可能影响医生的治疗决策。
如上所述,无创技术已经可以在细胞级分辨率上检测色素变化。最近开发的细胞级分辨率全场光学相干断层扫描(FF-OCT)设备还能对皮肤表层进行实时无创成像,为进行浅层皮肤病的数字化皮肤活检提供了有效方法。然而,对色素的数量和强度进行定量测量,并分析其在不同皮肤层中的分布的研究还很少。
发明内容
本发明涉及一种从皮肤光学图像中分割特征的方法,用于提供一种从无创光学图像中标记特征的新方法。
在一方面,本发明提供了一种处理皮肤光学图像的方法,包括:
a)接收包含目标特征的皮肤光学图像;
b)优选地进行降噪,以降低光学图像的噪点;
c)从背景信号中增强目标特征信号的对比度;
d)通过特征的至少一个阈值对光学图像中的目标进行分割;
e)优选地对分割的目标进行分类;以及
f)从皮肤光学图像中量化所述目标的特征。
在另一方面,本发明提供了一种用于皮肤状况诊断的计算机辅助系统,包括配置为提供皮肤光学图像的光学成像仪;与成像仪耦合的处理器、与处理器耦合的显示器,以及与处理器耦合的存储器,存储器承载程序指令,当在处理器上执行时,使其执行本发明所公开的方法。
在又一方面,本发明还提供了一种识别色素紊乱的方法,包括:
1)接收疑似色素紊乱皮肤的光学图像;
2)优选地进行降噪,以降低光学图像的噪点;
3)从背景信号中增强目标特征信号的对比度,其中所述目标为黑色素、黑素体、黑色素细胞、黑色素吞噬细胞、活化黑色素细胞或其组合;
4)通过特征的至少一个阈值对增强光学图像中的目标进行分割;
5)优选地对分割的目标进行分类,其中特征为亮度或细长结构;
6)从皮肤光学图像中量化所述目标的特征;以及
7)通过量化值识别疑似色素紊乱的皮肤。
援引并入
本说明书提及的所有出版物、专利和专利申请均以引用的方式纳入本说明书中,其范围和每一单独出版物、专利或专利申请被具体地和单独地指明通过援引而纳入的范围相同。
附图说明
以下详细描述阐述了本发明的原理,通过参考以下详细描述和附图,可以更好地理解本发明的特征和优点:
图1A/图1B提供了示例性框图,图示了如何对皮肤光学图像中的目标进行分类(1A),以及示例性方框图还包括可选降噪步骤和计算机辅助诊断步骤(1B)。
图2显示了一种示例性降噪方法,其采用了深度学习架构的降噪卷积神经网络(DnCNN)。
图3A/图3B显示了将一系列示例图像(3A)经过降噪步骤处理,以生成低斑点真值图像(3B)。
图4显示了一个流程图,其描绘了针对光学图像降噪训练的基于空间复合的降噪卷积神经网络(SC-DnCNN)的训练结构,该光学图像如光学相干断层扫描(OCT)图像。
图5A至图5F显示了图示本发明方法对示例目标进行分类(即,黑色素分类)的一系列图像。
图6提供了一个在目标分类后具有标记黑色素的示例图像。
图7A/图7B显示了没有经过SC-DnCNN训练(7A)及有经过SC-DnCNN训练(7B)的降噪步骤后的示例性OCT图像(例如,周围皮肤图像)的性能比较。
图8是一个图示活化黑色素细胞(树突细胞)分类方法的框流程图。
图9图示了根据本文公开的发明方法在OCT图像中标记活化黑色素细胞(树突细胞)的结果。
具体实施方式
皮肤是人体最大的器官。皮肤包含三层:表皮,皮肤的最外层;真皮,位于表皮下方,含有毛囊和汗腺;以及更深层的皮下组织,由脂肪和结缔组织构成。黑色素细胞具有树突,将黑素体传递给单位内的角质细胞。肤色是由黑色素细胞所造成的,黑色素细胞产生黑色素并位于表皮中。
皮肤色素沉着是通过在称为黑素体的特殊膜结合细胞器内产生黑色素,并通过将这些细胞器从黑色素细胞转移至周围的角质细胞来完成的。色素紊乱(或皮肤色素失调)是人类肤色的紊乱,包括色素的丧失或减少,可能与黑色素细胞的丧失或黑色素细胞无法产生黑色素或正确转运黑素体有关。大多数色素紊乱涉及黑色素的产生过度或产生不足。在一些实施方式中,皮肤色素紊乱是白化病、黄褐斑或白癜风。
在一些色素沉着障碍中,例如黄褐斑,活化黑色素细胞具有树突状形态;因此,活化黑色素细胞也被称为“树突细胞”。
深色皮肤类型的个体容易患色素沉着障碍,例如黄褐斑、晒斑和雀斑,其中黄褐斑尤其难治且经常复发。皮肤中的黑色素含量通常用于监测治疗反应并对黄褐斑患者进行归类。现有的黑色素测量工具仅限于皮肤表面检测,无法观察黑色素在实际组织结构中的分布。
为了更精确地评估皮肤的黑色素相关参数,并为每种类型的皮肤提供更具体的治疗,需要直接检测实际的黑色素特征(如含量、密度、面积或分布)。
无创技术,包括光学相干断层扫描(OCT)、反射共聚焦显微镜(RCM)和共聚焦光学相干断层扫描,可用于在细胞分辨率下检测皮肤表层的色素变化,以进行浅表层皮肤病的数字化皮肤活检。在一些实施方式中,组织光学图像是由光学相干断层扫描(OCT)设备、反射共聚焦显微镜(RCM)设备、双光子共聚焦显微镜设备、超声成像仪等提供的。在特定实施方式中,光学图像是通过OCT设备或RCM设备提供的。在特定实施方式中,组织光学图像是由OCT设备提供的。使用无创设备,例如FF-OCT设备,可以提供三维皮肤成像,从而能够显著地可视化皮肤组织结构,并识别皮肤层中的关键特征,可用于辅助诊断皮肤疾病和紊乱。在一些实施方式中,组织光学图像是包括表皮切片图像的组织光学图像。例如,组织光学图像可以是三维图像(3D图像)、横截面图像(B-扫描)和垂直切面图像(E-扫描)中的至少一种。在特定实施方式中,组织光学图像是B-扫描图像。
在一些实施方式中,本发明提供了一种处理皮肤光学图像的方法及由此产生能够帮助检测(或识别)皮肤疾病和/或紊乱(如色素沉着障碍)的应用。本发明方法可以应用于计算机辅助系统中,该系统包括配置为提供皮肤光学图像的光学成像仪;与成像仪耦合的处理器;与处理器耦合的显示器;以及与处理器耦合的存储器,存储器承载使其在处理器上执行本文所述方法的程序指令。
图1A提供了一个示例框图,图示了如何对皮肤光学图像中的目标进行分类,包括接收包含目标的至少一个特征(例如,感兴趣的标的物,如黑色素或活化黑色素细胞)的皮肤光学图像(步骤1);从背景信号中增强目标特征信号的对比度(步骤2);通过该特征的至少一个阈值在增强光学图像中分割目标(步骤3),优选地对分割的目标进行分类(归类)(步骤4);以及量化皮肤光学图像中该特定目标的特征(步骤5)。在一些实施方式中,特征选自亮度、颗粒面积、颗粒大小、颗粒形状、分布位置以及其组合。
优选地降噪步骤
通过采用二维图像传感器进行并行检测,以及低空间相干光源进行照明,无创设备,如FF-OCT,可以仅沿轴向进行一维机械扫描,即可获取三维卷积图像。然而,由于相干检测的性质,即使使用低空间相干光源,具有细胞级分辨率的横截面生物图像的图像质量可能会受到斑点噪点的影响。空间复合(special compounding)是一种通过对相邻的B-扫描进行平均,来显著降低斑点对比度,而基本不会损失分辨率的技术。对于FF-OCT设备中的上述横截面成像模式,即同时获取二维数据并自然对齐B-扫描,基于空间复合的选择性降噪图像步骤可以在无需进行图像配准预处理的情况下实现。在一些实施方式中,该步骤包括对接近5μm厚度的解调数据进行平均,5μm厚度接近H&E切片的典型厚度。由于来自相邻B-扫描的样本结构具有一定程度的相关性,因此平均化可以提高信噪比(SRN),得到的图像显示了有限厚度内的平均样本结构。
尽管一般图像滤波器(例如,高斯滤波器、中值滤波器)可用于抑制斑点噪点,但缺点是会损失图像细节,特别是在感兴趣的图像特征与斑点颗粒具有类似尺寸的情况下。
在一些实施方式中,降噪步骤包括使用降噪神经网络,例如基于空间复合的降噪卷积神经网络(SC-DnCNN),该网络使用复合图像数据进行训练,能够区分噪点和信号,同时保留图像细节。
空间复合(SC)是一种常用技术,用于缓解斑点和高斯噪点。SC的原理是通过调整被测目标的微小位置变化,引起重复测量之间的斑点图案变化。然后,将从样本中测得的这些部分相关的多个图像进行平均,以获得低斑点图像。
为了训练这种降噪模型,噪点地图被定义为在特定厚度内进行图像平均前后的差异。经过训练的SC-DnCNN模型通过深度卷积神经网络的强大学习能力,可以自动从数据中提取多个特征作为代表,通过对单个B-扫描进行噪点预测来改善图像质量。此外,为实现空间复合所需的采样厚度可减小以提高成像速度。
图1B进一步图示了图1A的特定实施方式,包括优选地降噪步骤(6),以减少光学图像的噪点,以及计算机辅助诊断步骤(7)。在一些实施方式中,通过基于空间复合的降噪卷积神经网络(SC-DnCNN)降低了光学图像的噪点,其提供了有效的降噪,并改善图像质量,同时保持了光学图像的细节,特别是OCT图像。
SC-DnCNN是一种像素级噪点预测方法,在一些实施方式中,用于区分信号中的噪点,从而提高图像质量。它继承了降噪卷积神经网络(DnCNN)的优点,采用了残差学习和批量归一化(BN)来加快训练过程并改善降噪性能。如图2所示,DnCNN的深度架构基于视觉几何群(VGG)网络的概念,并由多个较小的卷积层组成。这些层的组成可以分为三种主要类型。第一种类型出现在第一层中,使用大小为3×3的64个滤波器生成64个特征图,然后通过修正线性单元(ReLU)对这些特征图进行非线性转换,作为下一层的输入。从第二层到倒数第二层,所有这些卷积层属于第二种类型。同样,使用大小为3×3×64的64个滤波器对输入图进行处理,但与上一层不同的是,在ReLU之前添加了BN。BN是一种将输入值调整为正态分布的规范化方法,它不仅避免了梯度消失的问题,还大大加快了训练速度。最后,在最后一层使用大小为3×3×64的滤波器作为输出重构。
在模型训练中,采用了深度残差网络(ResNet)的残差学习概念来简化优化过程。不同之处在于,DnCNN没有在几层之间添加快捷连接,而是将网络输出直接改变为残差图像。这意味着DnCNN的优化目标不是真实清晰图像与网络输出之间的均方误差(MSE),而是真实残差图像与网络输出之间的MSE。残差图像(噪点图)可以通过从清晰图像中减降噪点来获得。通过向清晰图像中随机添加噪点来模拟噪点图像。例如,对于OCT图像,噪点主要由斑点噪点组成,它将噪点与结构信号相乘。因此,真值是通过使用真实OCT图像而不是模拟图像生成的。
不限于本发明披露的示例方法,SC-DnCNN是通过包含噪点图像和清晰图像的数据库进行训练的,其中清晰图像是通过对N个相邻光学图像进行平均获得的,噪点图像是通过对M个相邻光学图像进行平均获得的。N大于M。例如,N为2至20,特别是5至15,尤其是7至12。图3A/图3B显示了通过具有生成基于SC的真值的降噪步骤处理的一系列示例图像(3A),以生成低斑点真值图像(3B)。11个像素线被激活以获得横截面视图(B-扫描或横截面扫描)OCT图像;因此,为SC生成了11个相邻虚拟切片。复合图像的厚度约为5μm,接近组织学切片的厚度。关于清晰图像,通过平均11个相邻B-扫描获得了低斑点的复合图像,即N=11。相反,关于噪点图像,通过合成M个像素线而生成的平均图像,其中M<11。
图4显示了具有光学图像的SC-DnCNN模型的示例性训练和实施结构。模型训练过程可以通过以下示例来解释。在该示例中,选择了一个通过5个像素线复合的噪点图像训练的模型,以改善横切面扫描(E-扫描或水平扫描)图像的质量。为了训练SC-DnCNN模型,随机在每对图像(噪点图像和噪点分布图)中裁剪了大小为50×50的512对补丁。将网络层的数量设置为20,并使用随机梯度下降方法自动学习滤波器核的权重。在这种深度学习中,用于模型训练的参数设置,包括动量、学习率、小批量大小和历元数,分别为0.9、0.001、128和50。总体上,经由335个B-扫描OCT图像对模型进行了训练和验证。所有通过整个FF-OCT扫描采集的B-扫描数据的规格为1024×715像素,图像分辨率约为0.5μm/像素,并以8位像素深度存储。
对比度增强
为了得到更适合识别目标中特征(即,皮肤中的感兴趣标的物)的光学图像,并进行进一步的图像分析,在一些实施方式中,使用了一些基于扫描深度和图像亮度的后处理方法。首先,进行图像校正以补偿深度相关的信号衰减。可以根据距离皮肤表面的距离来设置图像像素的权重,以调整设备(例如,OCT)的衍射极限对组织中成像深度的影响。
在一些实施方式中,在过程中应用对比度增强,例如通过锐化或增亮图像,以突出关键特征(例如,所选特征)。例如,应用了对比度限制的自适应直方图均衡化。与普通直方图均衡化不同,对比度限制的自适应直方图均衡化的优点在于改善局部对比度,并增强图像各区域的边缘清晰度。该自适应方法不是在整个图像上使用对比度变换函数,而是在图像的小区域上操作多个直方图,以重新分配图像的亮度值。然后,使用双线性插值结合相邻区域,以消除人为引起的边界。
目标分割
目标分割是将图像划分为多个图像段,也称为图像区域或图像目标(像素集)的过程。例如,为了从OCT图像的背景组织中提取与黑色素(目标)相关的特征,需要将图像分割成两个部分(前景和背景),并设定亮度级别b,从而创建二值图像。通过强度阈值处理,所有灰度图像中亮度大于级别b的像素被替换为值1,其他像素被替换为值0。在一些实施方式中,目标分割过程由用于阈值处理、聚类和/或区域生长的算法来处理,其分析强度、梯度或纹理,生成一组目标区域。
在一些实施方式中,目标分割步骤的目标是黑色素、黑素体、黑色素细胞、黑色素吞噬细胞、活化黑色素细胞(树突细胞),或其组合。在特定实施方式中,非限定特征选自数量、皮肤内部的分布、在皮肤中的占用面积、大小、密度、亮度、特定形状和其他光学信号特征。
本发明提供的E-扫描OCT图像作为示例,以说明从所述皮肤的光学图像中分割色素特征的过程。如图5A至图5F所示,首先提供了一张OCT E-扫描图像(5A),其中含有相对周围组织亮度更高的黑色素特征。接下来,通过SC-DnCNN降噪OCT图像后,图像如图5B所示。特征的对比度得到了有效提高。然后,通过对比度限制的自适应直方图均衡化(CLAHE)增强黑色素信号,以拉伸每个局部区域(大约12.5×12.5μm2)的对比度,从而进一步增强亮度强于周围信号的黑色素特征,如图5C所示。CLAHE中确定了几个指定参数,包括将图像分成的小方块数、创建对比度变换函数的分布类型以及控制对比度增强效果的限制因子,经过实验分别确定为40×40、指数(λ=0.1)和0.001。然后接下来,如图5D所示,给定了一个相对较低的亮度级别阈值0.6,以过滤掉局部信号强度未达到特定水平的标的物,这意味着增强图像中所有超过153灰度级的像素被视为可能的黑色素候选。然后接下来,对OCT图像进行二值化处理,并从直径>0.5毫米的OCT图像中提取黑色素特征,如图5E所示,以及面积>8.42μm2(约为直径为3.3μm的圆形)的黑色素特征,如图5F所示。根据聚集黑色素的颗粒大小,黑色素被归类为两种类型:颗粒黑色素(直径在0.5~3.3μm之间)和聚集体黑色素(直径>3.3μm)。图6显示了标记的颗粒黑色素和聚集体黑色素,它们可以用不同的颜色标记。
根据本发明的实践,降噪步骤是可选的。图7A/图7B显示了在没有SC-DnCNN训练(图7A)和有SC-DnCNN训练(图7B)的降噪步骤之后的示例OCT图像(例如,周围皮肤图像)的性能比较。通过与未经过SC-DnCNN的目标分割处理的结果进行比较,经过SC-DnCNN处理的OCT生成图像显示出明显的低斑点噪点和高清晰度,如图7B所示。这些效果有助于更好地观察图像细节,并显示了对黑色素识别能力的明显优势。这在FF-OCT图像处理中尤其有效。
特征量化
特征量化为医生监测皮肤疾病或紊乱(例如,区分色素紊乱)提供了一种有效的方法。
举例来说,黑色素的特征是量化的。在特定实施方式中,黑色素相关的参数(特征)列在表1中,基于这些特征进行特征量化。从E-扫描获取的图像为例,描述黑色素特征的完整图像处理流程。对于B-扫描和C扫描,可以根据相同的概念合理灵活地调整图像处理和分析的方法和步骤。
表1.E-扫描OCT图像中与黑色素相关参数(特征)的定量特征。
在此提供的特征量化处理示例中,使用了96个病变图像和48个邻近皮肤图像,其包含三层:面向皮层棘层、真皮-表皮交界(DEJ)和乳头状真皮。根据所述方法,对黑色素特征进行了分割。至于黑色素特征的量化,根据本发明的实践,从分割的黑色素中提取的定量特征归类为颗粒黑色素和聚集体黑色素两组。根据表1,基于面积的特征分别计算了从光学图像中分割出的所有颗粒黑色素和聚集体黑色素的总面积。所有颗粒黑色素的基于分布的特征(G_密度)是基于图像中组织的总面积来计算其面积的比例,其中组织被定义为增强图像中灰度值大于38的信号。所有聚集体黑色素的基于分布的特征与它们在二维空间中的距离有关。C_距离平均值和C_距离标准差分别使用每个聚集体黑色素的质心来计算彼此之间的平均距离对聚集体黑色素的平均值和标准差。另外,基于形状和亮度的特征分别提供了用于确定图像中所有黑色素的大小和强度的统计信息。为提取C_圆度特征,定义了一个简单的度量标准,用于表示聚集体黑色素的圆度:圆度=4π*面积/周长2 (1)。
为了探索黄褐斑与黑色素之间的关联,通过几种统计假设检验评估了定量特征在区分病变图像和邻近皮肤图像中的可行性。为了进行比较,还对图像降噪前后的所有数据进行了测试,以观察SC-DnCNN模型用于本发明方法的效果。使用柯尔莫哥洛夫-斯米尔诺夫(Kolmogorov-Smirnov)检验确定了各特征是否符合正态分布。随后,使用学生t-检验和曼-惠特尼U-检验(Mann-WhitneyU-test)分别对正态分布和非正态分布中的每个特征在病变和邻近皮肤病例之间的差异进行评估,正态分布下使用均值±标准差,非正态分布下使用中位数。通过显著性分析,p值小于0.05表示差异显著。
表2至表3列出了在使用和未使用SC-DnCNN方法下的本发明方法的性能差异。提取并分析了图像降噪前后生成的所有不同特征的p值和均值±标准差。表2显示了在降噪后,代表所有聚集体黑色素质心平均距离的C_距离平均值在病变和邻近皮肤之间存在显著差异(p=0.0402)。在降噪后,邻近皮肤和病变图像中聚集体黑色素的平均距离分别为200μm和193.5μm,而在未使用SC-DnCNN方法下,它们分别为206.1μm和200.3μm。病变图像中的C_距离平均值倾向于小于邻近皮肤图像。然而,当未进行图像降噪时,差异并不具有统计学意义(p=0.0502)。
表2.使用显著特征的p值和均值±标准差用于识别降噪图像中的病变。
p值<0.05表示统计上显著的差异。
表3.使用显著特征的p值和均值±标准差用于识别未使用SC-DnCNN的子集中的病变。
p值<0.05表示统计上显著的差异。
此外,根据皮肤层(皮层棘层、DEJ和乳头状真皮)将数据集分为三个子集,并评估了可区分每个子集中的病变的黑色素特征之间的差异。表3中还总结了每个子集在图像降噪前后生成的不同特征的p值和均值±标准差。在皮层棘层中,两个显著特征都代表聚集体黑色素的分布,C_距离平均值越大,黑色素就越分散。此外,C_距离标准差越小,整个图像中的黑色素分布就越均匀。这意味着与邻近皮肤相比,病变中聚集体黑色素在图像的局部区域更为聚集。在图像降噪前,C_距离平均值和C_距离标准差的p值分别为0.0036和0.0202,降噪后分别为0.0032和0.0312。未执行图像降噪步骤的情况下,DEJ和乳头状真皮的所有定量特征在病变和邻近皮肤之间没有显著差异。通过SC-DnCNN,DEJ中所有密度的p值从0.1393降至0.0426。对于病变图像,这表明颗粒黑色素密度的特征有高于邻近皮肤图像的趋势。
根据本发明的定量结果,适用于定量评估和比较属于病变的一些黑色素特征,包括其在不同皮肤层中的形态。在观察病变的OCT图像时,皮层棘层中的聚集体黑色素呈密集状态,而DEJ中的颗粒黑色素密度较高。不同的皮肤层产生不同形态的黑色素,在OCT图像上的表现也不同。
在特定实施方式中,提供了一种识别皮肤色素紊乱的方法,包括接收疑似皮肤色素紊乱的光学图像;优选地执行降噪以减少光学图像的噪点;从背景信号中增强目标特征信号的对比度,其中所述目标是黑色素、黑素体、黑色素细胞、黑色素吞噬细胞、活化黑色素细胞或其组合;通过特征的至少一个阈值在增强光学图像中对目标进行分割;对分割后的目标进行分类;量化皮肤光学图像中目标的特征;并通过量化值识别疑似的皮肤色素紊乱。
在一些实施方式中,还提供了对目标进行分割的另一个示例,其中目标是具有树突状形态的活化黑色素细胞,也称为“树突细胞”。如前所述,紫外线治疗或激光治疗将活化黑色素细胞形成树突特征,以将黑色素分泌到表皮层以保护皮肤免受损害。出于这个原因,具有树突状形态的黑色素细胞被称为“树突细胞”。分割树突细胞的一般步骤与图1A中所示相同。图8显示了一个框流程图(其中包括每个步骤的示例图像),说明了从示例OCT图像中分类/归类活化黑色素细胞(树突细胞)的方法。增强对比度步骤基于树突细胞的各种形态,例如细长结构的增强。OCT图像是通过空间复合过程5至10个相邻光学图像进行平均而获得的,在提供OCT图像后,OCT图像中树突细胞的对比度得到增强(20);接下来,通过基于何塞弗兰基血管滤波器(Hessian based Frangi Vessel filter)等方式增强树突细胞的细长结构特征(21)。在目标分割步骤期间,通过阈值处理将增强光学图像转换为二值图像(31),以便更容易分析图像。然后对树突细胞进行识别归类(32),其粒径小于42μm2;随后对树突细胞进行归类标记,如图9所示。
根据本发明的实践,还基于表4中列出的特征实现了分割的树突细胞的量化。
表4.树突细胞相关参数。
在一些实施方式中,提供了一种处理皮肤光学图像的方法,包括:a.接收包含目标特征的皮肤光学图像;b.优选地执行降噪以降低光学图像的噪点;c.从背景信号中增强目标特征信号的对比度;d.通过特征的至少一个阈值在增强光学图像中对目标进行分割;e.优选地对分割后的目标进行分类;以及f.从皮肤光学图像中量化目标的特征。在一些实施方式中,该方法在特征量化后还包括计算机辅助诊断步骤。在一些实施方式中,光学图像是光学相干断层扫描(OCT)图像、反射共聚焦显微镜(RCM)图像或共聚焦光学相干断层扫描图像。在一些实施方式中,优选地降噪步骤通过基于空间复合的降噪卷积神经网络(SC-DnCNN)降低光学图像的噪点。在特定实施方式中,SC-DnCNN被训练以区分光学图像的噪点。在特定实施方式中,SC-DnCNN是通过包含有噪点图像和清晰图像的数据库进行训练的。在特定实施方式中,清晰图像是通过对N个相邻光学图像进行平均获得,噪点图像是通过对M个相邻光学图像进行平均获得,其中N大于M。在一些实施方式中,目标是黑色素、黑素体、黑色素细胞、黑色素吞噬细胞、活化黑色素细胞或其组合。在特定实施方式中,目标是黑色素、黑色素细胞或活化黑色素细胞。在特定实施方式中,目标是黑色素。在特定实施方式中,特征是亮度、颗粒面积、颗粒尺寸、颗粒形状或在皮肤中的分布位置。在特定实施方式中,特征是亮度和/或颗粒形状(例如,细长结构)。在一些实施方式中,光学图像是通过对至少两个相邻光学图像进行平均获得的。在特定实施方式中,步骤e包括对目标分类为颗粒黑色素或聚集体黑色素。在一些实施方式中,对比度增强步骤是用来增加光学影像的锐利度或亮度,以凸显特征或是目标。在一些实施方式中,目标分割步骤是由演算法处理阈值、聚类和/或区域生长,分析强度、梯度或纹理以产生一组目标区域。
在一些实施方式中,提供了一个用于皮肤状况诊断(例如,皮肤疾病或紊乱,如皮肤色素紊乱诊断)的计算机辅助系统,包括配置为提供皮肤光学图像的光学成像仪;与成像仪耦合的处理器(例如,计算机);与处理器耦合的显示器;以及与处理器耦合的存储器,存储器承载程序指令,当在处理器上执行时,使其在计算机程序中执行所述发明的方法(例如,参见图1B)。在一些实施方式中,成像仪是光学相干断层扫描(OCT)设备、反射共聚焦显微镜(RCM)设备、共聚焦光学相干断层扫描设备或类似设备。在特定实施方式中,成像仪是光学相干断层扫描(OCT)设备。
在一些实施方式中,该系统、网络、方法和介质包括至少一个计算机程序,或使用相同的计算机程序。计算机程序包括一串指令,可在数字处理设备的CPU中执行,编写以执行指定任务,指定任务可能是任何适用的算法。可读取的计算机指令可以被实现为程序模块,例如函数、对象、应用程序编程接口(API)、数据结构等,用于执行特定任务或实现特定的抽象数据类型。鉴于此处提供的披露,本技术领域的专业人员将认识到,计算机程序可以用各种版本的各种语言编写。
在一些实施方式中,计算机系统或云计算服务通过网络链接和网络适配器连接到云。在一个实施方式中,计算机系统被实现为各种计算设备,例如服务器、台式计算机、笔记本计算机、平板计算机、智能电话、物联网(IoT)设备和消费类电子产品。在一个实施方式中,计算机系统在其他系统中实现或作为其他系统的一部分。
由于其能够实现实时和稳定的检测结果,以及在描述黑色素特征时的客观性和精确度,该方法肯定可以成为解决具有这种要求的色素归类问题的有吸引力的工具。
虽然本发明的优选实施方式已在本文展示和描述,但本技术领域的专业人员将明白,此类实施方式仅为例示。在不脱离本发明的情况下,本技术领域的专业人员将会产生许多变化、改动和替代方案。应当理解,可以在实施本发明的方法和结构的范围内采用各种替代方案。本文中的以下权利要求将定义本发明的范围,这些权利要求包括这些权利要求内的方法和结构以及其等效物。

Claims (23)

1.一种处理皮肤光学图像的方法,包括:
a)接收包含目标特征的皮肤光学图像;
b)优选地执行降噪,以降低所述光学图像的噪点;
c)从背景信号中增强所述目标特征信号的对比度;
d)通过所述特征的至少一个阈值在所述增强光学图像中对所述目标进行分割;
e)优选地对所述分割后的目标进行分类;以及
f)从所述皮肤的所述光学图像中量化所述目标的所述特征。
2.根据权利要求1所述的方法,在步骤e后还包括:进行计算机辅助诊断步骤。
3.根据权利要求1所述的方法,其中步骤b是通过基于空间复合的降噪卷积神经网络(SC-DnCNN)来降低所述光学图像的噪点。
4.根据权利要求3所述的方法,其中训练所述SC-DnCNN,以区分所述光学图像的所述噪点。
5.根据权利要求4所述的方法,其中所述SC-DnCNN是通过包含有噪点图像和清晰图像的数据库进行训练的。
6.根据权利要求5所述的方法,其中所述清晰图像是通过对N个相邻光学图像进行平均获得,所述噪点图像是通过对M个相邻光学图像进行平均获得,且N大于M。
7.根据权利要求1所述的方法,其中所述目标是黑色素、黑素体、黑色素细胞、黑色素吞噬细胞、活化黑色素细胞或其组合。
8.根据权利要求7所述的方法,其中所述特征是亮度、颗粒面积、颗粒尺寸、颗粒形状或在所述皮肤中的分布位置。
9.根据权利要求8所述的方法,其中所述特征是亮度。
10.根据权利要求1所述的方法,其中所述光学图像是通过对至少两个相邻光学图像进行平均获得的。
11.根据权利要求7所述的方法,其中所述目标是黑色素、黑色素细胞或活化黑色素细胞。
12.根据权利要求11所述的方法,其中所述目标是黑色素。
13.根据权利要求12所述的方法,其中步骤e包括将所述目标分类为颗粒黑色素或者聚集体黑色素。
14.根据权利要求1所述的方法,其中所述光学图像是光学相干断层扫描(OCT)图像、反射共聚焦显微镜(RCM)图像或共聚焦光学相干断层扫描图像。
15.一种用于皮肤状况诊断的计算机辅助系统,包括配置为提供皮肤光学图像的光学成像仪;与所述成像仪耦合的处理器;与所述处理器耦合的显示器;以及与所述处理器耦合的存储器;所述存储器承载程序指令,当在所述处理器上执行时,使其执行权利要求2所述的方法。
16.根据权利要求15所述的计算机辅助系统,其中所述成像仪是光学相干断层扫描(OCT)设备、反射共聚焦显微镜(RCM)设备或共聚焦光学相干断层扫描设备。
17.根据权利要求16所述的计算机辅助系统,其中所述成像仪是光学相干断层扫描(OCT)设备。
18.根据权利要求15所述的计算机辅助系统,其中所述存储器包括云存储器。
19.一种用于皮肤状况诊断的计算机辅助系统,包括根据权利要求15所述的光学成像仪,其配置为提供皮肤光学图像;以及配置为输出所述诊断结果的显示器。
20.根据权利要求15所述的计算机辅助系统,其中所述皮肤状况是皮肤癌或皮肤色素紊乱。
21.根据权利要求20所述的计算机辅助系统,其中所述色素紊乱是白化病、黄褐斑或白癜风。
22.根据权利要求20所述的计算机辅助系统,其中所述色素紊乱是黄褐斑。
23.一种用于识别皮肤色素紊乱的方法,包括:
1)接收疑似色素紊乱皮肤的光学图像;
2)优选地执行降噪,以降低所述光学图像的噪点;
3)从背景信号中增强目标特征信号的对比度,其中所述目标是黑色素、黑素体、黑色素细胞、黑色素吞噬细胞、活化黑色素细胞或其组合;
4)通过所述特征的至少一个阈值在所述增强光学图像中对所述目标进行分割;
5)从所述皮肤的所述光学图像中量化所述目标的所述特征;以及
6)通过所述量化值识别所述疑似色素紊乱皮肤。
CN202280053348.XA 2021-08-02 2022-08-02 光学图像处理方法及其应用 Pending CN118103869A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202163228580P 2021-08-02 2021-08-02
US63/228,580 2021-08-02
PCT/US2022/039218 WO2023014749A1 (en) 2021-08-02 2022-08-02 Methods of processing optical images and applications thereof

Publications (1)

Publication Number Publication Date
CN118103869A true CN118103869A (zh) 2024-05-28

Family

ID=85156228

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202280053348.XA Pending CN118103869A (zh) 2021-08-02 2022-08-02 光学图像处理方法及其应用

Country Status (5)

Country Link
EP (1) EP4381464A1 (zh)
CN (1) CN118103869A (zh)
AU (1) AU2022323229A1 (zh)
TW (1) TW202326752A (zh)
WO (1) WO2023014749A1 (zh)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7844076B2 (en) * 2003-06-26 2010-11-30 Fotonation Vision Limited Digital image processing using face detection and skin tone information
EP3478160A4 (en) * 2016-07-01 2020-04-08 Bostel Technologies, LLC PHONODERMOSCOPY, MEDICAL SYSTEM AND METHOD FOR SKIN DIAGNOSIS

Also Published As

Publication number Publication date
WO2023014749A1 (en) 2023-02-09
TW202326752A (zh) 2023-07-01
AU2022323229A1 (en) 2024-02-01
EP4381464A1 (en) 2024-06-12

Similar Documents

Publication Publication Date Title
Rajan et al. Brain tumor detection and segmentation by intensity adjustment
Arroyo et al. Detection of pigment network in dermoscopy images using supervised machine learning and structural analysis
Jain et al. Computer aided melanoma skin cancer detection using image processing
John et al. Multilevel thresholding based segmentation and feature extraction for pulmonary nodule detection
JP6506700B2 (ja) 細胞レベルfishドットカウントのための方法及びシステム
Sawyer et al. Three-dimensional texture analysis of optical coherence tomography images of ovarian tissue
Ahmed et al. Medical image denoising system based on stacked convolutional autoencoder for enhancing 2-dimensional gel electrophoresis noise reduction
Vocaturo et al. Features for melanoma lesions characterization in computer vision systems
Gayathri et al. A survey of breast cancer detection based on image segmentation techniques
Sagar et al. Color channel based segmentation of skin lesion from clinical images for the detection of melanoma
Ganvir et al. Filtering method for pre-processing mammogram images for breast cancer detection
Lazar et al. Retinal microaneurysm detection based on intensity profile analysis
Okuboyejo et al. CLAHE inspired segmentation of dermoscopic images using mixture of methods
Fraz et al. Retinal vasculature segmentation by morphological curvature, reconstruction and adapted hysteresis thresholding
Jalab et al. Fractional Renyi entropy image enhancement for deep segmentation of kidney MRI
Yadav et al. A study on automatic early detection of skin cancer
Huang et al. Intravascular optical coherence tomography image segmentation based on support vector machine algorithm
CN118103869A (zh) 光学图像处理方法及其应用
Aarthy et al. An approach for detecting breast cancer using wavelet transforms
Bessaid et al. Detection of blood vessels from retinal images using watershed transformation
Lee et al. Enhancement of blood vessels in retinal imaging using the nonsubsampled contourlet transform
Radhika et al. Skin Melanoma Classification from Dermoscopy Images using ANU-Net Technique
Jeena et al. Analysis of stroke using texture features
Jivtode et al. Neural network based detection of melanoma skin cancer
RU137139U1 (ru) Устройство диагностики области новообразования типа "киста молочной железы" на маммограммах

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication