CN113689436A - 图像语义分割方法、装置、设备及存储介质 - Google Patents
图像语义分割方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN113689436A CN113689436A CN202111152660.8A CN202111152660A CN113689436A CN 113689436 A CN113689436 A CN 113689436A CN 202111152660 A CN202111152660 A CN 202111152660A CN 113689436 A CN113689436 A CN 113689436A
- Authority
- CN
- China
- Prior art keywords
- image
- semantic segmentation
- images
- category
- preset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000011218 segmentation Effects 0.000 title claims abstract description 143
- 238000000034 method Methods 0.000 title claims abstract description 36
- 238000012549 training Methods 0.000 claims abstract description 171
- 230000004927 fusion Effects 0.000 claims description 67
- 239000013598 vector Substances 0.000 claims description 52
- 230000015654 memory Effects 0.000 claims description 23
- 238000004458 analytical method Methods 0.000 claims description 6
- 230000002708 enhancing effect Effects 0.000 claims description 6
- 238000012545 processing Methods 0.000 abstract description 20
- 238000013473 artificial intelligence Methods 0.000 abstract description 7
- 238000005516 engineering process Methods 0.000 description 9
- 238000002372 labelling Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 238000004422 calculation algorithm Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000013507 mapping Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000009336 multiple cropping Methods 0.000 description 3
- 238000007635 classification algorithm Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 238000009966 trimming Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20132—Image cropping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Abstract
本发明涉及人工智能,提供一种图像语义分割方法、装置、设备及存储介质。该方法能够获取尾部类别图像及头部类别图像,对尾部类别图像进行多尺度裁剪,得到多张裁剪图像,对每张裁剪图像进行增强处理,得到多张增强图像,根据每张裁剪图像、多张增强图像及头部类别图像生成训练图像,划分训练图像,得到第一阶段训练图像及第二阶段训练图像,基于第一阶段训练图像训练预设分类器,得到初始语义分割模型,根据第二阶段训练图像对初始语义分割模型中的预设参数进行调整,得到目标语义分割模型,分析待分类图像,得到目标类别。本发明能够准确的识别出图像所属的类别。此外,本发明还涉及区块链技术,所述目标类别可存储于区块链中。
Description
技术领域
本发明涉及人工智能技术领域,尤其涉及一种图像语义分割方法、装置、设备及存储介质。
背景技术
随着人工智能的发展,语义分割也随之发展,在语义分割任务中,通过分析图像中的像素信息能够识别出图像所属的类别。然而,在进行语义分割处理时,样本不均衡的问题导致语义分割任务只能预测样本较多的类别。
为了解决样本不均衡带来的问题,目前通常对样本较多的第一类别进行欠采样处理,同时对样本较少的第二类别进行过采样处理,无法准确的识别出图像所属的类别。
发明内容
鉴于以上内容,有必要提供一种图像语义分割方法、装置、设备及存储介质,能够准确的识别出图像所属的类别。
一方面,本发明提出一种图像语义分割方法,所述图像语义分割方法包括:
从预设图像库中获取尾部类别图像及头部类别图像;
根据所述尾部类别图像中的物体对象对所述尾部类别图像进行多尺度裁剪,得到多张裁剪图像;
对每张裁剪图像进行增强处理,得到多张增强图像;
根据每张裁剪图像及所述多张增强图像生成所述尾部类别图像的融合图像,并根据所述融合图像及所述头部类别图像生成训练图像;
根据预设裁剪尺寸划分所述训练图像,得到第一阶段训练图像及第二阶段训练图像;
基于所述第一阶段训练图像训练预设分类器,得到初始语义分割模型;
根据所述第二阶段训练图像对所述初始语义分割模型中的预设参数进行调整,直至所述初始语义分割模型的损失值不再降低,得到目标语义分割模型;
接收待分类图像,并根据所述目标语义分割模型分析所述待分类图像,得到所述待分类图像的目标类别。
根据本发明优选实施例,所述从预设图像库中获取尾部类别图像及头部类别图像包括:
计算所述预设图像库中每个预设类别的样本数量;
将取值最大的样本数量确定为第一数量,并将所述第一数量所对应的预设类别确定为第一类别;
根据所述第一类别从所述预设图像库中获取所述头部类别图像;
计算所述第一数量与预设比例的乘积,得到需求数量;
将取值小于所述需求数量的样本数量确定为第二数量,并将所述第二数量所对应的预设类别确定为第二类别;
根据所述第二类别从所述预设图像库中获取所述尾部类别图像。
根据本发明优选实施例,所述根据所述尾部类别图像中的物体对象对所述尾部类别图像进行多尺度裁剪,得到多张裁剪图像包括:
获取所述尾部类别图像中的像素信息;
根据所述像素信息确定所述物体对象在所述尾部类别图像中的位置信息;
根据所述位置信息生成所述物体对象在所述尾部类别图像中的最小外接矩形;
根据所述尾部类别图像获取所述最小外接矩形中左上角的坐标信息,并获取所述最小外接矩形的矩形宽度及矩形高度;
计算所述坐标信息、所述矩形宽度及所述矩形高度,得到多个裁剪位置点,并分别计算所述矩形宽度及所述矩形高度,分别得到多个裁剪宽度及多个裁剪高度:
根据任一裁剪位置点、任一裁剪宽度及任一裁剪高度对所述尾部类别图像进行裁剪处理,得到所述多张裁剪图像。
根据本发明优选实施例,所述根据所述融合图像及所述头部类别图像生成训练图像包括:
根据所述任一裁剪位置点确定所述头部类别图像中的替换位置点;
从所述头部类别图像中获取与所述替换位置点处于同一水平线的第一边缘位置点,并从所述头部类别图像中获取与所述替换位置点处于同一竖直线的第二边缘位置点;
根据所述第一边缘位置点及所述替换位置点计算所述头部类别图像的最大替换宽度,并根据所述第二边缘位置点及所述替换位置点计算所述头部类别图像的最大替换高度;
若所述最大替换宽度小于所述任一裁剪宽度,或者所述最大替换高度小于所述任一裁剪高度,调整所述替换位置点,得到目标位置点;
根据所述目标位置点、所述任一裁剪宽度及所述任一裁剪高度生成所述头部类别图像的图像区域;
基于所述融合图像替换所述图像区域,得到所述训练图像。
根据本发明优选实施例,所述根据每张裁剪图像及所述多张增强图像生成所述尾部类别图像的融合图像包括:
获取每张增强图像中每个像素点的像素值,得到第一像素值,并获取每张增强图像的第一融合权重;
根据所述第一融合权重计算所述第一像素值,得到第二像素值;
获取每张裁剪图像中每个像素点的像素值,得到第三像素值,并获取该裁剪图像的第二融合权重;
根据所述第二融合权重计算所述第二像素值及所述第三像素值,得到目标像素值;
拼接所述目标像素值,得到所述融合图像。
根据本发明优选实施例,所述根据预设裁剪尺寸划分所述训练图像,得到第一阶段训练图像及第二阶段训练图像包括:
将所述预设裁剪尺寸为预设值的裁剪图像所生成的融合图像确定为目标融合图像;
将所述目标融合图像所生成的训练图像确定为所述第一阶段训练图像;
将所述训练图像中除所述第一阶段训练图像外的其余图像确定为所述第二阶段训练图像。
根据本发明优选实施例,所述第二阶段训练图像中包括第一类型图像及第二类型图像,所述根据所述第二阶段训练图像对所述初始语义分割模型中的预设参数进行调整,直至所述初始语义分割模型的损失值不再降低,得到目标语义分割模型包括:
将所述第一类型图像中的任意两张图像分别输入至所述初始语义分割模型中,得到所述任意两张图像所对应的第一输出向量及第二输出向量,并将所述第二类型图像中的任意图像输入至所述初始语义分割模型中,得到第三输出向量;
根据下列公式计算所述第一输出向量、所述第二输出向量及所述第三输出向量,得到所述损失值:
其中,JS(pc,pm1,pm2)是指所述损失值,KL[pc|M]是指pc偏离M的程度,KL[pm1|M]是指pm1偏离M的程度,KL[pm2|M]是指pm2偏离M的程度,pm1是指所述第一输出向量,pm2是指所述第二输出向量,pc是指所述第三输出向量;
根据所述损失值调整所述预设参数,直至所述损失值不再降低,得到所述目标语义分割模型。
另一方面,本发明还提出一种图像语义分割装置,所述图像语义分割装置包括:
获取单元,用于从预设图像库中获取尾部类别图像及头部类别图像;
裁剪单元,用于根据所述尾部类别图像中的物体对象对所述尾部类别图像进行多尺度裁剪,得到多张裁剪图像;
增强单元,用于对每张裁剪图像进行增强处理,得到多张增强图像;
生成单元,用于根据每张裁剪图像及所述多张增强图像生成所述尾部类别图像的融合图像,并根据所述融合图像及所述头部类别图像生成训练图像;
划分单元,用于根据预设裁剪尺寸划分所述训练图像,得到第一阶段训练图像及第二阶段训练图像;
训练单元,用于基于所述第一阶段训练图像训练预设学习器,得到初始语义分割模型;
调整单元,用于根据所述第二阶段训练图像对所述初始语义分割模型中的预设参数进行调整,直至所述初始语义分割模型的损失值不再降低,得到目标语义分割模型;
分析单元,用于接收待分类图像,并根据所述目标语义分割模型分析所述待分类图像,得到所述待分类图像的目标类别。
另一方面,本发明还提出一种电子设备,所述电子设备包括:
存储器,存储计算机可读指令;及
处理器,执行所述存储器中存储的计算机可读指令以实现所述图像语义分割方法。
另一方面,本发明还提出一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机可读指令,所述计算机可读指令被电子设备中的处理器执行以实现所述图像语义分割方法。
由以上技术方案可以看出,本发明通过所述物体对象对所述尾部类别图像进行多尺度裁剪,不仅能够确保每张裁剪图像中包含有所述物体对象,基于所述多张裁剪图像还能够提高尾部类别的图像数量,通过对每张裁剪图像进行增强处理以及所述融合图像的生成,能够进一步提高尾部类别的图像数量,进而根据所述融合图像及所述头部类别图像生成的训练图像对所述目标语义分割模型训练,能够避免对尾部类别或者头部类别进行过采样处理,提高了所述目标语义分割模型的分割准确性及鲁棒性,从而提高所述目标类别的准确性。此外,本发明先利用所述第一阶段训练图像训练所述初始语义分割模型,再利用所述第二阶段训练图像对所述预设参数进行调整,由于所述第一阶段训练图像中所包含的干扰信息量较少,因此确保所述初始语义分割模型能够充分学习所述头部类别图像上的信息,提高了所述目标语义分割模型的分割准确性。
附图说明
图1是本发明图像语义分割方法的较佳实施例的流程图。
图2是本发明图像语义分割装置的较佳实施例的功能模块图。
图3是本发明实现图像语义分割方法的较佳实施例的电子设备的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面结合附图和具体实施例对本发明进行详细描述。
如图1所示,是本发明图像语义分割方法的较佳实施例的流程图。根据不同的需求,该流程图中步骤的顺序可以改变,某些步骤可以省略。
所述图像语义分割方法可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
所述图像语义分割方法应用于一个或者多个电子设备中,所述电子设备是一种能够按照事先设定或存储的计算机可读指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable Gate Array,FPGA)、数字信号处理器(Digital Signal Processor,DSP)、嵌入式设备等。
所述电子设备可以是任何一种可与用户进行人机交互的电子产品,例如,个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant,PDA)、游戏机、交互式网络电视(Internet Protocol Television,IPTV)、智能穿戴式设备等。
所述电子设备可以包括网络设备和/或用户设备。其中,所述网络设备包括,但不限于单个网络电子设备、多个网络电子设备组成的电子设备组或基于云计算(CloudComputing)的由大量主机或网络电子设备构成的云。
所述电子设备所处的网络包括,但不限于:互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network,VPN)等。
S10,从预设图像库中获取尾部类别图像及头部类别图像。
在本发明的至少一个实施例中,所述预设图像库中存储有多个预设类别的图像。其中,所述多个预设类别可以根据需求设定。每个预设类别可以用于表征该存储图像中的物体。例如,带有电车的图像,该图像的预设类别为:电车。所述预设图像库中存储的图像用于训练目标语义分割模型。
所述尾部类别图像是指样本数量小于需求数量的预设类别所对应的任一图像,其中,所述需求数量是根据所述预设图像库中最大样本数量与预设比例的乘积计算得到的。
所述头部类别图像是指所述预设图像库中最大样本数量的预设类别所对应的任一图像。
在本发明的至少一个实施例中,所述电子设备从预设图像库中获取尾部类别图像及头部类别图像包括:
计算所述预设图像库中每个预设类别的样本数量;
将取值最大的样本数量确定为第一数量,并将所述第一数量所对应的预设类别确定为第一类别;
根据所述第一类别从所述预设图像库中获取所述头部类别图像;
计算所述第一数量与预设比例的乘积,得到需求数量;
将取值小于所述需求数量的样本数量确定为第二数量,并将所述第二数量所对应的预设类别确定为第二类别;
根据所述第二类别从所述预设图像库中获取所述尾部类别图像。
其中,所述预设比例可以根据实际需求设定,例如,所述预设比例可以是0.5。
通过将最大样本数量的预设类别所对应的图像确定为所述头部类别图像,能够避免其余类别的样本数量与该类别的样本数量相差较大导致样本不均衡,通过所述预设比例对最大样本数量进行调整,能够生成符合需求的需求数量,从而能够避免样本数量较低的类别的遗漏,提高了所述尾部类别图像的全面性。
S11,根据所述尾部类别图像中的物体对象对所述尾部类别图像进行多尺度裁剪,得到多张裁剪图像。
在本发明的至少一个实施例中,所述物体对象是指所述尾部类别图像中所包含的物体。所述物体对象可以是所述尾部类别图像的标注类别。
在本发明的至少一个实施例中,所述多张裁剪图像是指采用不同裁剪尺寸及缩放系数对所述尾部类别图像进行裁剪后所得到的图像。可以理解的是,所述裁剪尺寸及所述缩放系数的不同,任意一张尾部类别图像可以包含有相应的多张裁剪图像。
在本发明的至少一个实施例中,所述电子设备根据所述尾部类别图像中的物体对象对所述尾部类别图像进行多尺度裁剪,得到多张裁剪图像包括:
获取所述尾部类别图像中的像素信息;
根据所述像素信息确定所述物体对象在所述尾部类别图像中的位置信息;
根据所述位置信息生成所述物体对象在所述尾部类别图像中的最小外接矩形;
根据所述尾部类别图像获取所述最小外接矩形中左上角的坐标信息,并获取所述最小外接矩形的矩形宽度及矩形高度;
计算所述坐标信息、所述矩形宽度及所述矩形高度,得到多个裁剪位置点,并分别计算所述矩形宽度及所述矩形高度,分别得到多个裁剪宽度及多个裁剪高度;
根据任一裁剪位置点、任一裁剪宽度及任一裁剪高度对所述尾部类别图像进行裁剪处理,得到所述多张裁剪图像。
其中,所述像素信息是指所述尾部类别图像中所有像素点在单通道上的像素值。
通过结合所述像素信息及所述物体对象能够准确的确定出所述位置信息,从而通过所述位置信息能够准确的生成所述最小外接矩形,提高所述多张裁剪图像的生成准确性,进而利用所述最小外接矩形中左上角的坐标信息、所述矩形宽度及所述矩形高度能够快速生成裁剪位置点、裁剪宽度及裁剪高度,提高所述多张裁剪图像的生成效率。
具体地,所述电子设备根据所述像素信息确定所述物体对象在所述尾部类别图像中的位置信息包括:
将所述尾部类别图像的标注信息确定为所述物体对象;
获取所述物体对象的对象灰度像素值;
将所述像素信息与所述对象灰度像素值进行比较,并将与所述对象灰度像素值相同的像素信息所对应的像素点确定为所述位置信息。
通过所述物体对象能够准确的获取到所述对象灰度像素值,进而利用所述对象灰度像素值与所述像素信息的比较,能够准确的确定出所述位置信息。
具体地,所述电子设备根据下列公式计算所述坐标信息、所述矩形宽度及所述矩形高度,得到多个裁剪位置点,并根据下列公式分别计算所述矩形宽度及所述矩形高度,分别得到多个裁剪宽度及多个裁剪高度:
x2=x1+(r+s*t)*w1;
y2=y1+(r+s*t)*h1;
w2=w1+2*(r+s*t)*w1;
h2=h1+2*(r+s*t)*h1;
0<r<1,s>1and t≥1;
其中,(x2,y2)是指任一裁剪位置点,(x1,y1)是指所述坐标信息,r、s是指缩放系数,t是指所述预设裁剪尺寸,w1是指所述矩形宽度,h1是指所述矩形高度,w2是指任一裁剪宽度,h2是指任一裁剪高度。
S12,对每张裁剪图像进行增强处理,得到多张增强图像。
在本发明的至少一个实施例中,每张裁剪图像的配置参数与基于该裁剪图像生成的多张增强图像中的配置参数不同,其中,所述配置参数可以包括,但不限于:对比度、饱和度。每张裁剪图像的物体形态与基于该裁剪图像生成的多张增强图像的物体形态相同。
在本发明的至少一个实施例中,所述电子设备基于Augmix算法对每张裁剪图像进行增强处理,得到多张增强图像。
本实施例中,通过Augmix算法对每张裁剪图像进行增强处理能够避免所述裁剪图像中像素的损失。
S13,根据每张裁剪图像及所述多张增强图像生成所述尾部类别图像的融合图像,并根据所述融合图像及所述头部类别图像生成训练图像。
在本发明的至少一个实施例中,所述融合图像中包含任一裁剪图像的图像信息及基于该任一裁剪图像生成的多张增强图像的图像信息。
所述训练图像中包含所述融合图像的图像信息及所述头部类别图像的图像信息。
在本发明的至少一个实施例中,所述电子设备根据每张裁剪图像及所述多张增强图像生成所述尾部类别图像的融合图像包括:
获取每张增强图像中每个像素点的像素值,得到第一像素值,并获取每张增强图像的第一融合权重;
根据所述第一融合权重计算所述第一像素值,得到第二像素值;
获取每张裁剪图像中每个像素点的像素值,得到第三像素值,并获取该裁剪图像的第二融合权重;
根据所述第二融合权重计算所述第二像素值及所述第三像素值,得到目标像素值;
拼接所述目标像素值,得到所述融合图像。
其中,所述多张增强图像的第一融合权重的总和为1。
通过所述第一融合权重能够快速生成所述第二像素值,进而通过所述第二融合权重能够快速生成所述目标像素值,提高所述融合图像的融合效率。
在本发明的至少一个实施例中,所述电子设备根据所述融合图像及所述头部类别图像生成训练图像包括:
根据所述任一裁剪位置点确定所述头部类别图像中的替换位置点;
从所述头部类别图像中获取与所述替换位置点处于同一水平线的第一边缘位置点,并从所述头部类别图像中获取与所述替换位置点处于同一竖直线的第二边缘位置点;
根据所述第一边缘位置点及所述替换位置点计算所述头部类别图像的最大替换宽度,并根据所述第二边缘位置点及所述替换位置点计算所述头部类别图像的最大替换高度;
若所述最大替换宽度小于所述任一裁剪宽度,或者所述最大替换高度小于所述任一裁剪高度,调整所述替换位置点,得到目标位置点;
根据所述目标位置点、所述任一裁剪宽度及所述任一裁剪高度生成所述头部类别图像的图像区域;
基于所述融合图像替换所述图像区域,得到所述训练图像。
其中,所述替换位置点是指所述头部类别图像中坐标信息为所述任一裁剪位置点的位置。
通过所述第一边缘位置点及所述第二边缘位置点分析所述替换位置点能够准确的确定出所述最大替换宽度及所述最大替换高度,从而能够避免所述融合图像替换所述图像区域时造成所述头部类别图像的溢出,提高所述训练图像的生成准确性。
S14,根据预设裁剪尺寸划分所述训练图像,得到第一阶段训练图像及第二阶段训练图像。
在本发明的至少一个实施例中,所述第一阶段训练图像是指所述裁剪尺寸为1的裁剪图像所生成的训练图像,所述第二阶段训练图像是指所述裁剪尺寸大于1的裁剪图像所生成的训练图像。
在本发明的至少一个实施例中,所述电子设备根据预设裁剪尺寸划分所述训练图像,得到第一阶段训练图像及第二阶段训练图像包括:
将所述预设裁剪尺寸为预设值的裁剪图像所生成的融合图像确定为目标融合图像;
将所述目标融合图像所生成的训练图像确定为所述第一阶段训练图像;
将所述训练图像中除所述第一阶段训练图像外的其余图像确定为所述第二阶段训练图像。
通过所述裁剪尺寸对所述训练图像的划分,能够快速生成第一阶段训练图像及第二阶段训练图像。
S15,基于所述第一阶段训练图像训练预设分类器,得到初始语义分割模型。
在本发明的至少一个实施例中,所述预设分类器可以是SVM支持向量机等分类算法构建成的。
所述初始语义分割模型是指对所述第一阶段训练图像进行训练后所生成的模型。
在本发明的至少一个实施例中,所述电子设备基于所述第一阶段训练图像训练预设分类器,得到初始语义分割模型包括:
获取所述第一阶段训练图像的标注结果;
根据所述第一阶段训练图像的图像像素对所述第一阶段训练图像进行映射处理,得到图像向量,并对所述标注结果进行映射处理,得到结果向量;
根据所述图像向量及所述结果向量训练所述预设分类器,直至所述第一阶段训练图像均参与训练,得到所述初始语义分割模型。
通过所述第一阶段训练图像训练所述预设学习器,能够使所述预设学习器充分学习所述头部类别图像中的信息。
S16,根据所述第二阶段训练图像对所述初始语义分割模型中的预设参数进行调整,直至所述初始语义分割模型的损失值不再降低,得到目标语义分割模型。
在本发明的至少一个实施例中,所述预设参数是指所述预设分类器中预先设定好的网络值。
所述目标语义分割模型是指所述损失值不再降低时的初始语义分割模型。
在本发明的至少一个实施例中,所述第二阶段训练图像中包括第一类型图像及第二类型图像,所述电子设备根据所述第二阶段训练图像对所述初始语义分割模型中的预设参数进行调整,直至所述初始语义分割模型的损失值不再降低,得到目标语义分割模型包括:
将所述第一类型图像中的任意两张图像分别输入至所述初始语义分割模型中,得到所述任意两张图像所对应的第一输出向量及第二输出向量,并将所述第二类型图像中的任意图像输入至所述初始语义分割模型中,得到第三输出向量;
根据下列公式计算所述第一输出向量、所述第二输出向量及所述第三输出向量,得到所述损失值:
其中,JS(pc,pm1,pm2)是指所述损失值,KL[pc|M]是指pc偏离M的程度,KL[pm1|M]是指pm1偏离M的程度,KL[pm2|M]是指pm2偏离M的程度,pm1是指所述第一输出向量,pm2是指所述第二输出向量,pc是指所述第三输出向量;
根据所述损失值调整所述预设参数,直至所述损失值不再降低,得到所述目标语义分割模型。
通过所述第一类型图像及所述第二类型图像中的图像对所述初始语义分割模型的损失值进行分析,进而根据所述损失值调整所述预设参数,能够提高所述目标语义分割模型的预测能力。
S17,接收待分类图像,并根据所述目标语义分割模型分析所述待分类图像,得到所述待分类图像的目标类别。
在本发明的至少一个实施例中,所述待分类图像是指需要进行类别标注的图像。
所述目标类别是指所述待分类图像所属的类型,所述目标类别可以是所述待分类图像中所带有的物体。
需要强调的是,为进一步保证上述目标类别的私密和安全性,上述目标类别还可以存储于一区块链的节点中。
在本发明的至少一个实施例中,所述电子设备对所述待分类图像进行向量化处理,得到待分类向量,并将所述待分类向量输入至所述目标语义分割模型中,得到类别向量,将所述类别向量中取值最大的维度所对应的类别确定为所述目标类别。
通过所述目标语义分割模型能够准确的生成所述目标类别。
由以上技术方案可以看出,本发明通过所述物体对象对所述尾部类别图像进行多尺度裁剪,不仅能够确保每张裁剪图像中包含有所述物体对象,基于所述多张裁剪图像还能够提高尾部类别的图像数量,通过对每张裁剪图像进行增强处理以及所述融合图像的生成,能够进一步提高尾部类别的图像数量,进而根据所述融合图像及所述头部类别图像生成的训练图像对所述目标语义分割模型训练,能够避免对尾部类别或者头部类别进行过采样处理,提高了所述目标语义分割模型的分割准确性及鲁棒性,从而提高所述目标类别的准确性。此外,本发明先利用所述第一阶段训练图像训练所述初始语义分割模型,再利用所述第二阶段训练图像对所述预设参数进行调整,由于所述第一阶段训练图像中所包含的干扰信息量较少,因此确保所述初始语义分割模型能够充分学习所述头部类别图像上的信息,提高了所述目标语义分割模型的分割准确性。
如图2所示,是本发明图像语义分割装置的较佳实施例的功能模块图。所述图像语义分割装置11包括获取单元110、裁剪单元111、增强单元112、生成单元113、划分单元114、训练单元115、调整单元116及分析单元117。本发明所称的模块/单元是指一种能够被处理器13所获取,并且能够完成固定功能的一系列计算机可读指令段,其存储在存储器12中。在本实施例中,关于各模块/单元的功能将在后续的实施例中详述。
获取单元110从预设图像库中获取尾部类别图像及头部类别图像。
在本发明的至少一个实施例中,所述预设图像库中存储有多个预设类别的图像。其中,所述多个预设类别可以根据需求设定。每个预设类别可以用于表征该存储图像中的物体。例如,带有电车的图像,该图像的预设类别为:电车。所述预设图像库中存储的图像用于训练目标语义分割模型。
所述尾部类别图像是指样本数量小于需求数量的预设类别所对应的任一图像,其中,所述需求数量是根据所述预设图像库中最大样本数量与预设比例的乘积计算得到的。
所述头部类别图像是指所述预设图像库中最大样本数量的预设类别所对应的任一图像。
在本发明的至少一个实施例中,所述获取单元110从预设图像库中获取尾部类别图像及头部类别图像包括:
计算所述预设图像库中每个预设类别的样本数量;
将取值最大的样本数量确定为第一数量,并将所述第一数量所对应的预设类别确定为第一类别;
根据所述第一类别从所述预设图像库中获取所述头部类别图像;
计算所述第一数量与预设比例的乘积,得到需求数量;
将取值小于所述需求数量的样本数量确定为第二数量,并将所述第二数量所对应的预设类别确定为第二类别;
根据所述第二类别从所述预设图像库中获取所述尾部类别图像。
其中,所述预设比例可以根据实际需求设定,例如,所述预设比例可以是0.5。
通过将最大样本数量的预设类别所对应的图像确定为所述头部类别图像,能够避免其余类别的样本数量与该类别的样本数量相差较大导致样本不均衡,通过所述预设比例对最大样本数量进行调整,能够生成符合需求的需求数量,从而能够避免样本数量较低的类别的遗漏,提高了所述尾部类别图像的全面性。
裁剪单元111根据所述尾部类别图像中的物体对象对所述尾部类别图像进行多尺度裁剪,得到多张裁剪图像。
在本发明的至少一个实施例中,所述物体对象是指所述尾部类别图像中所包含的物体。所述物体对象可以是所述尾部类别图像的标注类别。
在本发明的至少一个实施例中,所述多张裁剪图像是指采用不同裁剪尺寸及缩放系数对所述尾部类别图像进行裁剪后所得到的图像。可以理解的是,所述裁剪尺寸及所述缩放系数的不同,任意一张尾部类别图像可以包含有相应的多张裁剪图像。
在本发明的至少一个实施例中,所述裁剪单元111根据所述尾部类别图像中的物体对象对所述尾部类别图像进行多尺度裁剪,得到多张裁剪图像包括:
获取所述尾部类别图像中的像素信息;
根据所述像素信息确定所述物体对象在所述尾部类别图像中的位置信息;
根据所述位置信息生成所述物体对象在所述尾部类别图像中的最小外接矩形;
根据所述尾部类别图像获取所述最小外接矩形中左上角的坐标信息,并获取所述最小外接矩形的矩形宽度及矩形高度;
计算所述坐标信息、所述矩形宽度及所述矩形高度,得到多个裁剪位置点,并分别计算所述矩形宽度及所述矩形高度,分别得到多个裁剪宽度及多个裁剪高度;
根据任一裁剪位置点、任一裁剪宽度及任一裁剪高度对所述尾部类别图像进行裁剪处理,得到所述多张裁剪图像。
其中,所述像素信息是指所述尾部类别图像中所有像素点在单通道上的像素值。
通过结合所述像素信息及所述物体对象能够准确的确定出所述位置信息,从而通过所述位置信息能够准确的生成所述最小外接矩形,提高所述多张裁剪图像的生成准确性,进而利用所述最小外接矩形中左上角的坐标信息、所述矩形宽度及所述矩形高度能够快速生成裁剪位置点、裁剪宽度及裁剪高度,提高所述多张裁剪图像的生成效率。
具体地,所述裁剪单元111根据所述像素信息确定所述物体对象在所述尾部类别图像中的位置信息包括:
将所述尾部类别图像的标注信息确定为所述物体对象;
获取所述物体对象的对象灰度像素值;
将所述像素信息与所述对象灰度像素值进行比较,并将与所述对象灰度像素值相同的像素信息所对应的像素点确定为所述位置信息。
通过所述物体对象能够准确的获取到所述对象灰度像素值,进而利用所述对象灰度像素值与所述像素信息的比较,能够准确的确定出所述位置信息。
具体地,所述裁剪单元111根据下列公式计算所述坐标信息、所述矩形宽度及所述矩形高度,得到多个裁剪位置点,并根据下列公式分别计算所述矩形宽度及所述矩形高度,分别得到多个裁剪宽度及多个裁剪高度:
x2=x1+(r+s*t)*w1;
y2=y1+(r+s*t)*h1;
w2=w1+2*(r+s*t)*w1;
h2=h1+2*(r+s*t)*h1;
0<r<1,s>1and t≥1;
其中,(x2,y2)是指任一裁剪位置点,(x1,y1)是指所述坐标信息,r、s是指缩放系数,t是指所述预设裁剪尺寸,w1是指所述矩形宽度,h1是指所述矩形高度,w2是指任一裁剪宽度,h2是指任一裁剪高度。
增强单元112对每张裁剪图像进行增强处理,得到多张增强图像。
在本发明的至少一个实施例中,每张裁剪图像的配置参数与基于该裁剪图像生成的多张增强图像中的配置参数不同,其中,所述配置参数可以包括,但不限于:对比度、饱和度。每张裁剪图像的物体形态与基于该裁剪图像生成的多张增强图像的物体形态相同。
在本发明的至少一个实施例中,所述增强单元112基于Augmix算法对每张裁剪图像进行增强处理,得到多张增强图像。
本实施例中,通过Augmix算法对每张裁剪图像进行增强处理能够避免所述裁剪图像中像素的损失。
生成单元113根据每张裁剪图像及所述多张增强图像生成所述尾部类别图像的融合图像,并根据所述融合图像及所述头部类别图像生成训练图像。
在本发明的至少一个实施例中,所述融合图像中包含任一裁剪图像的图像信息及基于该任一裁剪图像生成的多张增强图像的图像信息。
所述训练图像中包含所述融合图像的图像信息及所述头部类别图像的图像信息。
在本发明的至少一个实施例中,所述生成单元113根据每张裁剪图像及所述多张增强图像生成所述尾部类别图像的融合图像包括:
获取每张增强图像中每个像素点的像素值,得到第一像素值,并获取每张增强图像的第一融合权重;
根据所述第一融合权重计算所述第一像素值,得到第二像素值;
获取每张裁剪图像中每个像素点的像素值,得到第三像素值,并获取该裁剪图像的第二融合权重;
根据所述第二融合权重计算所述第二像素值及所述第三像素值,得到目标像素值;
拼接所述目标像素值,得到所述融合图像。
其中,所述多张增强图像的第一融合权重的总和为1。
通过所述第一融合权重能够快速生成所述第二像素值,进而通过所述第二融合权重能够快速生成所述目标像素值,提高所述融合图像的融合效率。
在本发明的至少一个实施例中,所述生成单元113根据所述融合图像及所述头部类别图像生成训练图像包括:
根据所述任一裁剪位置点确定所述头部类别图像中的替换位置点;
从所述头部类别图像中获取与所述替换位置点处于同一水平线的第一边缘位置点,并从所述头部类别图像中获取与所述替换位置点处于同一竖直线的第二边缘位置点;
根据所述第一边缘位置点及所述替换位置点计算所述头部类别图像的最大替换宽度,并根据所述第二边缘位置点及所述替换位置点计算所述头部类别图像的最大替换高度;
若所述最大替换宽度小于所述任一裁剪宽度,或者所述最大替换高度小于所述任一裁剪高度,调整所述替换位置点,得到目标位置点;
根据所述目标位置点、所述任一裁剪宽度及所述任一裁剪高度生成所述头部类别图像的图像区域;
基于所述融合图像替换所述图像区域,得到所述训练图像。
其中,所述替换位置点是指所述头部类别图像中坐标信息为所述任一裁剪位置点的位置。
通过所述第一边缘位置点及所述第二边缘位置点分析所述替换位置点能够准确的确定出所述最大替换宽度及所述最大替换高度,从而能够避免所述融合图像替换所述图像区域时造成所述头部类别图像的溢出,提高所述训练图像的生成准确性。
划分单元114根据预设裁剪尺寸划分所述训练图像,得到第一阶段训练图像及第二阶段训练图像。
在本发明的至少一个实施例中,所述第一阶段训练图像是指所述裁剪尺寸为1的裁剪图像所生成的训练图像,所述第二阶段训练图像是指所述裁剪尺寸大于1的裁剪图像所生成的训练图像。
在本发明的至少一个实施例中,所述划分单元114根据预设裁剪尺寸划分所述训练图像,得到第一阶段训练图像及第二阶段训练图像包括:
将所述预设裁剪尺寸为预设值的裁剪图像所生成的融合图像确定为目标融合图像;
将所述目标融合图像所生成的训练图像确定为所述第一阶段训练图像;
将所述训练图像中除所述第一阶段训练图像外的其余图像确定为所述第二阶段训练图像。
通过所述裁剪尺寸对所述训练图像的划分,能够快速生成第一阶段训练图像及第二阶段训练图像。
训练单元115基于所述第一阶段训练图像训练预设分类器,得到初始语义分割模型。
在本发明的至少一个实施例中,所述预设分类器可以是SVM支持向量机等分类算法构建成的。
所述初始语义分割模型是指对所述第一阶段训练图像进行训练后所生成的模型。
在本发明的至少一个实施例中,所述训练单元115基于所述第一阶段训练图像训练预设分类器,得到初始语义分割模型包括:
获取所述第一阶段训练图像的标注结果;
根据所述第一阶段训练图像的图像像素对所述第一阶段训练图像进行映射处理,得到图像向量,并对所述标注结果进行映射处理,得到结果向量;
根据所述图像向量及所述结果向量训练所述预设分类器,直至所述第一阶段训练图像均参与训练,得到所述初始语义分割模型。
通过所述第一阶段训练图像训练所述预设学习器,能够使所述预设学习器充分学习所述头部类别图像中的信息。
调整单元116根据所述第二阶段训练图像对所述初始语义分割模型中的预设参数进行调整,直至所述初始语义分割模型的损失值不再降低,得到目标语义分割模型。
在本发明的至少一个实施例中,所述预设参数是指所述预设分类器中预先设定好的网络值。
所述目标语义分割模型是指所述损失值不再降低时的初始语义分割模型。
在本发明的至少一个实施例中,所述第二阶段训练图像中包括第一类型图像及第二类型图像,所述调整单元116根据所述第二阶段训练图像对所述初始语义分割模型中的预设参数进行调整,直至所述初始语义分割模型的损失值不再降低,得到目标语义分割模型包括:
将所述第一类型图像中的任意两张图像分别输入至所述初始语义分割模型中,得到所述任意两张图像所对应的第一输出向量及第二输出向量,并将所述第二类型图像中的任意图像输入至所述初始语义分割模型中,得到第三输出向量;
根据下列公式计算所述第一输出向量、所述第二输出向量及所述第三输出向量,得到所述损失值:
其中,JS(pc,pm1,pm2)是指所述损失值,KL[pc|M]是指pc偏离M的程度,KL[pm1|M]是指pm1偏离M的程度,KL[pm2|M]是指pm2偏离M的程度,pm1是指所述第一输出向量,pm2是指所述第二输出向量,pc是指所述第三输出向量;
根据所述损失值调整所述预设参数,直至所述损失值不再降低,得到所述目标语义分割模型。
通过所述第一类型图像及所述第二类型图像中的图像对所述初始语义分割模型的损失值进行分析,进而根据所述损失值调整所述预设参数,能够提高所述目标语义分割模型的预测能力。
分析单元117接收待分类图像,并根据所述目标语义分割模型分析所述待分类图像,得到所述待分类图像的目标类别。
在本发明的至少一个实施例中,所述待分类图像是指需要进行类别标注的图像。
所述目标类别是指所述待分类图像所属的类型,所述目标类别可以是所述待分类图像中所带有的物体。
需要强调的是,为进一步保证上述目标类别的私密和安全性,上述目标类别还可以存储于一区块链的节点中。
在本发明的至少一个实施例中,所述分析单元117对所述待分类图像进行向量化处理,得到待分类向量,并将所述待分类向量输入至所述目标语义分割模型中,得到类别向量,将所述类别向量中取值最大的维度所对应的类别确定为所述目标类别。
通过所述目标语义分割模型能够准确的生成所述目标类别。
由以上技术方案可以看出,本发明通过所述物体对象对所述尾部类别图像进行多尺度裁剪,不仅能够确保每张裁剪图像中包含有所述物体对象,基于所述多张裁剪图像还能够提高尾部类别的图像数量,通过对每张裁剪图像进行增强处理以及所述融合图像的生成,能够进一步提高尾部类别的图像数量,进而根据所述融合图像及所述头部类别图像生成的训练图像对所述目标语义分割模型训练,能够避免对尾部类别或者头部类别进行过采样处理,提高了所述目标语义分割模型的分割准确性及鲁棒性,从而提高所述目标类别的准确性。此外,本发明先利用所述第一阶段训练图像训练所述初始语义分割模型,再利用所述第二阶段训练图像对所述预设参数进行调整,由于所述第一阶段训练图像中所包含的干扰信息量较少,因此确保所述初始语义分割模型能够充分学习所述头部类别图像上的信息,提高了所述目标语义分割模型的分割准确性。
如图3所示,是本发明实现图像语义分割方法的较佳实施例的电子设备的结构示意图。
在本发明的一个实施例中,所述电子设备1包括,但不限于,存储器12、处理器13,以及存储在所述存储器12中并可在所述处理器13上运行的计算机可读指令,例如图像语义分割程序。
本领域技术人员可以理解,所述示意图仅仅是电子设备1的示例,并不构成对电子设备1的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述电子设备1还可以包括输入输出设备、网络接入设备、总线等。
所述处理器13可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等,所述处理器13是所述电子设备1的运算核心和控制中心,利用各种接口和线路连接整个电子设备1的各个部分,及执行所述电子设备1的操作系统以及安装的各类应用程序、程序代码等。
示例性的,所述计算机可读指令可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器12中,并由所述处理器13执行,以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机可读指令段,该计算机可读指令段用于描述所述计算机可读指令在所述电子设备1中的执行过程。例如,所述计算机可读指令可以被分割成获取单元110、裁剪单元111、增强单元112、生成单元113、划分单元114、训练单元115、调整单元116及分析单元117。
所述存储器12可用于存储所述计算机可读指令和/或模块,所述处理器13通过运行或执行存储在所述存储器12内的计算机可读指令和/或模块,以及调用存储在存储器12内的数据,实现所述电子设备1的各种功能。所述存储器12可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据电子设备的使用所创建的数据等。存储器12可以包括非易失性和易失性存储器,例如:硬盘、内存、插接式硬盘,智能存储卡(SmartMedia Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他存储器件。
所述存储器12可以是电子设备1的外部存储器和/或内部存储器。进一步地,所述存储器12可以是具有实物形式的存储器,如内存条、TF卡(Trans-flash Card)等等。
所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机可读指令来指令相关的硬件来完成,所述的计算机可读指令可存储于一计算机可读存储介质中,该计算机可读指令在被处理器执行时,可实现上述各个方法实施例的步骤。
其中,所述计算机可读指令包括计算机可读指令代码,所述计算机可读指令代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机可读指令代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
结合图1,所述电子设备1中的所述存储器12存储计算机可读指令实现一种图像语义分割方法,所述处理器13可执行所述计算机可读指令从而实现:
从预设图像库中获取尾部类别图像及头部类别图像;
根据所述尾部类别图像中的物体对象对所述尾部类别图像进行多尺度裁剪,得到多张裁剪图像;
对每张裁剪图像进行增强处理,得到多张增强图像;
根据每张裁剪图像及所述多张增强图像生成所述尾部类别图像的融合图像,并根据所述融合图像及所述头部类别图像生成训练图像;
根据预设裁剪尺寸划分所述训练图像,得到第一阶段训练图像及第二阶段训练图像;
基于所述第一阶段训练图像训练预设分类器,得到初始语义分割模型;
根据所述第二阶段训练图像对所述初始语义分割模型中的预设参数进行调整,直至所述初始语义分割模型的损失值不再降低,得到目标语义分割模型;
接收待分类图像,并根据所述目标语义分割模型分析所述待分类图像,得到所述待分类图像的目标类别。
具体地,所述处理器13对上述计算机可读指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述计算机可读存储介质上存储有计算机可读指令,其中,所述计算机可读指令被处理器13执行时用以实现以下步骤:
从预设图像库中获取尾部类别图像及头部类别图像;
根据所述尾部类别图像中的物体对象对所述尾部类别图像进行多尺度裁剪,得到多张裁剪图像;
对每张裁剪图像进行增强处理,得到多张增强图像;
根据每张裁剪图像及所述多张增强图像生成所述尾部类别图像的融合图像,并根据所述融合图像及所述头部类别图像生成训练图像;
根据预设裁剪尺寸划分所述训练图像,得到第一阶段训练图像及第二阶段训练图像;
基于所述第一阶段训练图像训练预设分类器,得到初始语义分割模型;
根据所述第二阶段训练图像对所述初始语义分割模型中的预设参数进行调整,直至所述初始语义分割模型的损失值不再降低,得到目标语义分割模型;
接收待分类图像,并根据所述目标语义分割模型分析所述待分类图像,得到所述待分类图像的目标类别。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。所述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一、第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种图像语义分割方法,其特征在于,所述图像语义分割方法包括:
从预设图像库中获取尾部类别图像及头部类别图像;
根据所述尾部类别图像中的物体对象对所述尾部类别图像进行多尺度裁剪,得到多张裁剪图像;
对每张裁剪图像进行增强处理,得到多张增强图像;
根据每张裁剪图像及所述多张增强图像生成所述尾部类别图像的融合图像,并根据所述融合图像及所述头部类别图像生成训练图像;
根据预设裁剪尺寸划分所述训练图像,得到第一阶段训练图像及第二阶段训练图像;
基于所述第一阶段训练图像训练预设分类器,得到初始语义分割模型;
根据所述第二阶段训练图像对所述初始语义分割模型中的预设参数进行调整,直至所述初始语义分割模型的损失值不再降低,得到目标语义分割模型;
接收待分类图像,并根据所述目标语义分割模型分析所述待分类图像,得到所述待分类图像的目标类别。
2.如权利要求1所述的图像语义分割方法,其特征在于,所述从预设图像库中获取尾部类别图像及头部类别图像包括:
计算所述预设图像库中每个预设类别的样本数量;
将取值最大的样本数量确定为第一数量,并将所述第一数量所对应的预设类别确定为第一类别;
根据所述第一类别从所述预设图像库中获取所述头部类别图像;
计算所述第一数量与预设比例的乘积,得到需求数量;
将取值小于所述需求数量的样本数量确定为第二数量,并将所述第二数量所对应的预设类别确定为第二类别;
根据所述第二类别从所述预设图像库中获取所述尾部类别图像。
3.如权利要求1所述的图像语义分割方法,其特征在于,所述根据所述尾部类别图像中的物体对象对所述尾部类别图像进行多尺度裁剪,得到多张裁剪图像包括:
获取所述尾部类别图像中的像素信息;
根据所述像素信息确定所述物体对象在所述尾部类别图像中的位置信息;
根据所述位置信息生成所述物体对象在所述尾部类别图像中的最小外接矩形;
根据所述尾部类别图像获取所述最小外接矩形中左上角的坐标信息,并获取所述最小外接矩形的矩形宽度及矩形高度;
计算所述坐标信息、所述矩形宽度及所述矩形高度,得到多个裁剪位置点,并分别计算所述矩形宽度及所述矩形高度,分别得到多个裁剪宽度及多个裁剪高度;
根据任一裁剪位置点、任一裁剪宽度及任一裁剪高度对所述尾部类别图像进行裁剪处理,得到所述多张裁剪图像。
4.如权利要求3所述的图像语义分割方法,其特征在于,所述根据所述融合图像及所述头部类别图像生成训练图像包括:
根据所述任一裁剪位置点确定所述头部类别图像中的替换位置点;
从所述头部类别图像中获取与所述替换位置点处于同一水平线的第一边缘位置点,并从所述头部类别图像中获取与所述替换位置点处于同一竖直线的第二边缘位置点;
根据所述第一边缘位置点及所述替换位置点计算所述头部类别图像的最大替换宽度,并根据所述第二边缘位置点及所述替换位置点计算所述头部类别图像的最大替换高度;
若所述最大替换宽度小于所述任一裁剪宽度,或者所述最大替换高度小于所述任一裁剪高度,调整所述替换位置点,得到目标位置点;
根据所述目标位置点、所述任一裁剪宽度及所述任一裁剪高度生成所述头部类别图像的图像区域;
基于所述融合图像替换所述图像区域,得到所述训练图像。
5.如权利要求1所述的图像语义分割方法,其特征在于,所述根据每张裁剪图像及所述多张增强图像生成所述尾部类别图像的融合图像包括:
获取每张增强图像中每个像素点的像素值,得到第一像素值,并获取每张增强图像的第一融合权重;
根据所述第一融合权重计算所述第一像素值,得到第二像素值;
获取每张裁剪图像中每个像素点的像素值,得到第三像素值,并获取该裁剪图像的第二融合权重;
根据所述第二融合权重计算所述第二像素值及所述第三像素值,得到目标像素值;
拼接所述目标像素值,得到所述融合图像。
6.如权利要求1所述的图像语义分割方法,其特征在于,所述根据预设裁剪尺寸划分所述训练图像,得到第一阶段训练图像及第二阶段训练图像包括:
将所述预设裁剪尺寸为预设值的裁剪图像所生成的融合图像确定为目标融合图像;
将所述目标融合图像所生成的训练图像确定为所述第一阶段训练图像;
将所述训练图像中除所述第一阶段训练图像外的其余图像确定为所述第二阶段训练图像。
7.如权利要求1所述的图像语义分割方法,其特征在于,所述第二阶段训练图像中包括第一类型图像及第二类型图像,所述根据所述第二阶段训练图像对所述初始语义分割模型中的预设参数进行调整,直至所述初始语义分割模型的损失值不再降低,得到目标语义分割模型包括:
将所述第一类型图像中的任意两张图像分别输入至所述初始语义分割模型中,得到所述任意两张图像所对应的第一输出向量及第二输出向量,并将所述第二类型图像中的任意图像输入至所述初始语义分割模型中,得到第三输出向量;
根据下列公式计算所述第一输出向量、所述第二输出向量及所述第三输出向量,得到所述损失值:
其中,JS(pc,pm1,pm2)是指所述损失值,KL[pc|M]是指pc偏离M的程度,KL[pm1|M]是指pm1偏离M的程度,KL[pm2|M]是指pm2偏离M的程度,pm1是指所述第一输出向量,pm2是指所述第二输出向量,pc是指所述第三输出向量;
根据所述损失值调整所述预设参数,直至所述损失值不再降低,得到所述目标语义分割模型。
8.一种图像语义分割装置,其特征在于,所述图像语义分割装置包括:
获取单元,用于从预设图像库中获取尾部类别图像及头部类别图像;
裁剪单元,用于根据所述尾部类别图像中的物体对象对所述尾部类别图像进行多尺度裁剪,得到多张裁剪图像;
增强单元,用于对每张裁剪图像进行增强处理,得到多张增强图像;
生成单元,用于根据每张裁剪图像及所述多张增强图像生成所述尾部类别图像的融合图像,并根据所述融合图像及所述头部类别图像生成训练图像;
划分单元,用于根据预设裁剪尺寸划分所述训练图像,得到第一阶段训练图像及第二阶段训练图像;
训练单元,用于基于所述第一阶段训练图像训练预设分类器,得到初始语义分割模型;
调整单元,用于根据所述第二阶段训练图像对所述初始语义分割模型中的预设参数进行调整,直至所述初始语义分割模型的损失值不再降低,得到目标语义分割模型;
分析单元,用于接收待分类图像,并根据所述目标语义分割模型分析所述待分类图像,得到所述待分类图像的目标类别。
9.一种电子设备,其特征在于,所述电子设备包括:
存储器,存储有计算机可读指令;及
处理器,执行所述存储器中存储的计算机可读指令以实现如权利要求1至7中任意一项所述的图像语义分割方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机可读指令,所述计算机可读指令被电子设备中的处理器执行以实现如权利要求1至7中任意一项所述的图像语义分割方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111152660.8A CN113689436B (zh) | 2021-09-29 | 2021-09-29 | 图像语义分割方法、装置、设备及存储介质 |
PCT/CN2022/071315 WO2023050651A1 (zh) | 2021-09-29 | 2022-01-11 | 图像语义分割方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111152660.8A CN113689436B (zh) | 2021-09-29 | 2021-09-29 | 图像语义分割方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113689436A true CN113689436A (zh) | 2021-11-23 |
CN113689436B CN113689436B (zh) | 2024-02-02 |
Family
ID=78587391
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111152660.8A Active CN113689436B (zh) | 2021-09-29 | 2021-09-29 | 图像语义分割方法、装置、设备及存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN113689436B (zh) |
WO (1) | WO2023050651A1 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023050651A1 (zh) * | 2021-09-29 | 2023-04-06 | 平安科技(深圳)有限公司 | 图像语义分割方法、装置、设备及存储介质 |
CN116052094A (zh) * | 2023-03-07 | 2023-05-02 | 浙江华是科技股份有限公司 | 一种船舶检测方法、系统及计算机存储介质 |
WO2023137921A1 (zh) * | 2022-01-21 | 2023-07-27 | 平安科技(深圳)有限公司 | 基于人工智能的实例分割模型训练方法、装置、存储介质 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117422732B (zh) * | 2023-12-18 | 2024-02-23 | 湖南自兴智慧医疗科技有限公司 | 病理学图像分割方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109410220A (zh) * | 2018-10-16 | 2019-03-01 | 腾讯科技(深圳)有限公司 | 图像分割方法、装置、计算机设备及存储介质 |
CN111402278A (zh) * | 2020-02-21 | 2020-07-10 | 华为技术有限公司 | 分割模型训练方法、图像标注方法及相关装置 |
CN111696112A (zh) * | 2020-06-15 | 2020-09-22 | 携程计算机技术(上海)有限公司 | 图像自动裁剪方法、系统、电子设备及存储介质 |
WO2021013095A1 (zh) * | 2019-07-24 | 2021-01-28 | 华为技术有限公司 | 图像分类方法、图像分类模型的训练方法及其装置 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018081537A1 (en) * | 2016-10-31 | 2018-05-03 | Konica Minolta Laboratory U.S.A., Inc. | Method and system for image segmentation using controlled feedback |
CN108491889A (zh) * | 2018-04-02 | 2018-09-04 | 深圳市易成自动驾驶技术有限公司 | 图像语义分割方法、装置及计算机可读存储介质 |
CN109544468B (zh) * | 2018-10-26 | 2023-10-13 | 浙江师范大学 | 一种图像数据扩增方法 |
CN110689544A (zh) * | 2019-09-06 | 2020-01-14 | 哈尔滨工程大学 | 一种遥感图像细弱目标分割方法 |
CN111598095B (zh) * | 2020-03-09 | 2023-04-07 | 浙江工业大学 | 一种基于深度学习的城市道路场景语义分割方法 |
CN112270653A (zh) * | 2020-10-27 | 2021-01-26 | 中国计量大学 | 一种针对图像样本不平衡的数据增强方法 |
CN113689436B (zh) * | 2021-09-29 | 2024-02-02 | 平安科技(深圳)有限公司 | 图像语义分割方法、装置、设备及存储介质 |
-
2021
- 2021-09-29 CN CN202111152660.8A patent/CN113689436B/zh active Active
-
2022
- 2022-01-11 WO PCT/CN2022/071315 patent/WO2023050651A1/zh unknown
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109410220A (zh) * | 2018-10-16 | 2019-03-01 | 腾讯科技(深圳)有限公司 | 图像分割方法、装置、计算机设备及存储介质 |
WO2021013095A1 (zh) * | 2019-07-24 | 2021-01-28 | 华为技术有限公司 | 图像分类方法、图像分类模型的训练方法及其装置 |
CN111402278A (zh) * | 2020-02-21 | 2020-07-10 | 华为技术有限公司 | 分割模型训练方法、图像标注方法及相关装置 |
CN111696112A (zh) * | 2020-06-15 | 2020-09-22 | 携程计算机技术(上海)有限公司 | 图像自动裁剪方法、系统、电子设备及存储介质 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023050651A1 (zh) * | 2021-09-29 | 2023-04-06 | 平安科技(深圳)有限公司 | 图像语义分割方法、装置、设备及存储介质 |
WO2023137921A1 (zh) * | 2022-01-21 | 2023-07-27 | 平安科技(深圳)有限公司 | 基于人工智能的实例分割模型训练方法、装置、存储介质 |
CN116052094A (zh) * | 2023-03-07 | 2023-05-02 | 浙江华是科技股份有限公司 | 一种船舶检测方法、系统及计算机存储介质 |
CN116052094B (zh) * | 2023-03-07 | 2023-06-09 | 浙江华是科技股份有限公司 | 一种船舶检测方法、系统及计算机存储介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2023050651A1 (zh) | 2023-04-06 |
CN113689436B (zh) | 2024-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113689436B (zh) | 图像语义分割方法、装置、设备及存储介质 | |
EP4044115A1 (en) | Image processing method and apparatus based on artificial intelligence, and device and storage medium | |
CN111563502A (zh) | 图像的文本识别方法、装置、电子设备及计算机存储介质 | |
CN113435522A (zh) | 图像分类方法、装置、设备及存储介质 | |
CN112989826B (zh) | 基于人工智能的试题分数确定方法、装置、设备及介质 | |
CN113870395A (zh) | 动画视频生成方法、装置、设备及存储介质 | |
CN112883926B (zh) | 表格类医疗影像的识别方法及装置 | |
KR101981284B1 (ko) | 이미지 처리 장치 및 방법 | |
CN114972771A (zh) | 车辆定损理赔方法、装置、电子设备及存储介质 | |
CN115270184A (zh) | 视频脱敏、车辆的视频脱敏方法、车载处理系统 | |
CN111144215A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN113705468A (zh) | 基于人工智能的数字图像识别方法及相关设备 | |
CN112434581A (zh) | 一种室外目标颜色识别方法、系统、电子设备及存储介质 | |
CN113850632B (zh) | 用户类别确定方法、装置、设备及存储介质 | |
CN113516205B (zh) | 基于人工智能的员工稳定性分类方法及相关设备 | |
CN111738213B (zh) | 人物属性识别方法、装置、计算机设备及存储介质 | |
CN114581177A (zh) | 产品推荐方法、装置、设备及存储介质 | |
CN113486848A (zh) | 文档表格识别方法、装置、设备及存储介质 | |
CN114332561A (zh) | 超分辨率模型的训练方法、装置、设备及介质 | |
CN114842205B (zh) | 车损检测方法、装置、设备及存储介质 | |
CN113468334B (zh) | 密文情感分类方法、装置、设备及存储介质 | |
CN113742455B (zh) | 基于人工智能的简历搜索方法、装置、设备及存储介质 | |
CN115359490A (zh) | 文本方向识别方法、装置、设备及存储介质 | |
CN114882196A (zh) | 三维图像生成方法、装置、设备及存储介质 | |
CN114840733A (zh) | 主数据识别方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |