CN117649358B - 图像处理方法、装置、设备及存储介质 - Google Patents
图像处理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN117649358B CN117649358B CN202410126079.6A CN202410126079A CN117649358B CN 117649358 B CN117649358 B CN 117649358B CN 202410126079 A CN202410126079 A CN 202410126079A CN 117649358 B CN117649358 B CN 117649358B
- Authority
- CN
- China
- Prior art keywords
- image
- band
- sample
- color
- color band
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 24
- 238000003860 storage Methods 0.000 title claims abstract description 22
- 238000012545 processing Methods 0.000 claims abstract description 188
- 238000003379 elimination reaction Methods 0.000 claims abstract description 183
- 230000008030 elimination Effects 0.000 claims abstract description 177
- 238000000034 method Methods 0.000 claims abstract description 103
- 238000012549 training Methods 0.000 claims abstract description 74
- 230000009467 reduction Effects 0.000 claims description 65
- 238000002372 labelling Methods 0.000 claims description 53
- 230000008569 process Effects 0.000 claims description 51
- 238000010606 normalization Methods 0.000 claims description 40
- 238000000605 extraction Methods 0.000 claims description 30
- 238000004590 computer program Methods 0.000 claims description 28
- 230000015654 memory Effects 0.000 claims description 19
- 238000013139 quantization Methods 0.000 claims description 15
- 230000008439 repair process Effects 0.000 claims description 12
- 238000001514 detection method Methods 0.000 claims 1
- 238000005516 engineering process Methods 0.000 abstract description 18
- 238000013473 artificial intelligence Methods 0.000 abstract description 15
- 238000012360 testing method Methods 0.000 description 36
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 23
- 230000006870 function Effects 0.000 description 18
- 238000010586 diagram Methods 0.000 description 13
- 238000004422 calculation algorithm Methods 0.000 description 10
- 238000004891 communication Methods 0.000 description 8
- 230000009286 beneficial effect Effects 0.000 description 7
- 238000010801 machine learning Methods 0.000 description 7
- 230000004913 activation Effects 0.000 description 6
- 230000008859 change Effects 0.000 description 6
- 238000013527 convolutional neural network Methods 0.000 description 6
- 238000013507 mapping Methods 0.000 description 6
- 238000013528 artificial neural network Methods 0.000 description 5
- 238000003062 neural network model Methods 0.000 description 5
- 230000033228 biological regulation Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 244000025254 Cannabis sativa Species 0.000 description 3
- 230000006399 behavior Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 238000013480 data collection Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000035772 mutation Effects 0.000 description 2
- 230000000750 progressive effect Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 1
- 241000070023 Phoenicopterus roseus Species 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000013526 transfer learning Methods 0.000 description 1
Abstract
本申请实施例公开了一种图像处理方法、装置、设备及存储介质,应用于人工智能技术,该方法包括:通过初始色带去除模型,对样本色带图像进行色带去除处理,得到初始色带去除图像,对样本色带图像进行色带区域预测,得到预测色带区域信息;根据预测色带区域信息确定样本色带图像中的非色带区域,以及初始色带去除图像中的与非色带区域关联的图像区域,根据样本色带图像中的非色带区域,对图像区域进行增强处理,得到样本色带去除图像;根据样本色带去除图像、样本非色带图像、预测色带区域信息和标注色带区域信息对初始色带去除模型进行训练,得到色带去除模型。本申请能够提高色带去除模型的训练准确度,提高针对色带图像的色带去除处理准确度。
Description
技术领域
本申请涉及人工智能技术等领域,尤其涉及一种图像处理方法、装置、设备及存储介质。
背景技术
色带是图像的平滑的渐变区域,由于颜色变化比较小,导致用于量化颜色的编码值数量不够,从而在显示器上把渐变反映成了色阶的样子;或者,色带是指对图像进行图像增强处理,处理后的图像在平滑的渐变区域中出现的颜色突变,色带的产生严重影响图像的图像质量。现有技术中,主要是通过训练色带去除模型来降低色带边界的可见度,但是,这种方式会降低图像的亮度以及色彩等,进而,导致训练得到色带去除模型的准确度比较低。
发明内容
本申请实施例提供一种图像处理方法、装置、设备及存储介质,提高色带去除模型的训练准确度,进而,提高针对色带图像的色带去除处理准确度。
本申请实施例一方面提供一种图像处理方法,包括:
获取样本非色带图像、上述样本非色带图像对应的样本色带图像和上述样本色带图像的标注色带区域信息;上述标注色带区域信息用于反映上述样本色带图像中的色带区域;
通过初始色带去除模型,对上述样本色带图像进行色带去除处理,得到初始色带去除图像,对上述样本色带图像进行色带区域预测,得到上述样本色带图像的预测色带区域信息;
根据上述预测色带区域信息确定上述样本色带图像中的非色带区域,以及上述初始色带去除图像中的与上述非色带区域关联的图像区域,根据上述样本色带图像中的非色带区域,对上述初始色带去除图像中的上述图像区域进行增强处理,得到样本色带去除图像;
根据上述样本色带去除图像、上述样本非色带图像、上述预测色带区域信息和上述标注色带区域信息对上述初始色带去除模型进行训练,得到用于对目标色带图像进行色带去除处理的色带去除模型。
本申请实施例一方面提供一种图像处理方法,包括:
获取待处理的目标色带图像;
通过色带去除模型,对目标色带图像进行色带去除处理,得到候选色带去除图像,对上述目标色带图像进行色带区域识别,得到上述目标色带图像的识别色带区域信息;上述色带去除模型是通过上述的方法对初始色带去除模型训练得到的;
根据上述识别色带区域信息确定上述目标色带图像中的非色带区域,以及上述候选色带去除图像中的与上述非色带区域关联的图像区域;
根据上述目标色带图像中的非色带区域,对上述候选色带去除图像中的上述图像区域进行增强处理,得到目标色带去除图像。
本申请实施例一方面提供一种图像处理装置,包括:
获取模块,用于获取样本非色带图像、上述样本非色带图像对应的样本色带图像和上述样本色带图像的标注色带区域信息;上述标注色带区域信息用于反映上述样本色带图像中的色带区域;
处理模块,用于通过初始色带去除模型,对上述样本色带图像进行色带去除处理,得到初始色带去除图像,对上述样本色带图像进行色带区域预测,得到上述样本色带图像的预测色带区域信息;
增强模块,用于根据上述预测色带区域信息确定上述样本色带图像中的非色带区域,以及上述初始色带去除图像中的与上述非色带区域关联的图像区域,根据上述样本色带图像中的非色带区域,对上述初始色带去除图像中的上述图像区域进行增强处理,得到样本色带去除图像;
训练模块,用于根据上述样本色带去除图像、上述样本非色带图像、上述预测色带区域信息和上述标注色带区域信息对上述初始色带去除模型进行训练,得到用于对目标色带图像进行色带去除处理的色带去除模型。
本申请实施例一方面提供一种图像处理装置,包括:
获取模块,用于获取待处理的目标色带图像;
处理模块,用于通过色带去除模型,对目标色带图像进行色带去除处理,得到候选色带去除图像,对上述目标色带图像进行色带区域识别,得到上述目标色带图像的识别色带区域信息;上述色带去除模型是通过上述的方法对初始色带去除模型训练得到的;
确定模块,用于根据上述识别色带区域信息确定上述目标色带图像中的非色带区域,以及上述候选色带去除图像中的与上述非色带区域关联的图像区域;
增强模块,用于根据上述目标色带图像中的非色带区域,对上述候选色带去除图像中的上述图像区域进行增强处理,得到目标色带去除图像。
本申请实施例一方面提供了一种计算机设备,包括存储器和处理器,上述存储器存储有计算机程序,上述处理器执行上述计算机程序时实现上述的方法的步骤。
本申请实施例一方面提供了一种计算机可读存储介质,其上存储有计算机程序,上述计算机程序被处理器执行时实现上述的方法的步骤。
本申请实施例一方面提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述的方法的步骤。
本申请中,通过根据样本色带图像中的非色带区域,对初始色带去除图像中的该图像区域进行增强处理,得到样本色带去除图像,这样可以避免在对样本色带图像进行色带去除处理过程中,造成样本色带图像中的非色带区域失真,即这样不仅能够有效地去除样本色带图像中的色带,还能够确保样本色带图像的非色带区域的图像质量不受影响,更符合实际需求。进而,通过样本色带去除图像和样本非色带图像、预测色带区域信息、标注色带区域信息,对初始色带区域模型进行训练,得到用于对目标色带图像进行色带去除处理的色带去除模型,这样使色带去除模型不仅具备色带去除能力,还具备确保非色带区域的图像质量不受影响的能力,提高色带去除模型的训练准确度,进而,提高针对色带图像的色带去除处理准确度。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请提供的一种图像处理系统示意图;
图2是本申请提供的一种初始色带去除模型的训练流程示意图;
图3是本申请提供的一种采用色带去除模型对目标色带图像进行色带去除处理的流程示意图;
图4是本申请提供的一种图像处理方法的流程示意图;
图5是本申请提供的一种获取样本色带图像的场景示意图;
图6是本申请提供的一种获取样本色带图像的边界框的场景示意图;
图7是本申请提供的另一种图像处理方法的流程示意图;
图8是本申请提供的一种对待修改视频数据中的帧图像进行色带去除处理的场景示意图;
图9a是本申请提供的一种色带图像,以及色带图像左下角区域的放大图的示意图;
图9b是本申请提供的一种基于本申请得到的色带去除图像,以及色带去除图像左下角区域的放大图的示意图;
图9c是本申请提供的一种基于现有算法得到的色带去除图像,以及色带去除图像左下角区域的放大图的示意图;
图10a是本申请提供的一种色带图像,以及色带图像的预测色带区域掩膜的示意图;
图10b是本申请提供的另一种色带图像,以及色带图像的预测色带区域掩膜的示意图;
图11是本申请实施例提供的一种图像处理装置的结构示意图;
图12是本申请实施例提供的另一种图像处理装置的结构示意图;
图13是本申请实施例提供的一种计算机设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请实施例可涉及人工智能技术以及自动驾驶、智慧交通等领域,所谓人工智能(Artificial Intelligence,AI),是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大图像处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
所谓机器学习(Machine Learning, ML)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、式教学习等技术。
本申请中主要涉及人工智能技术中的机器学习技术,利用机器学习技术对初始色带去除模型进行训练,使训练得到的色带去除模型不仅具备色带去除能力,还具备确保非色带区域的图像质量不受影响的能力。
其中,本申请中的初始色带去除模型,可以称为预训练模型(Pre-trainingmodel,PTM),也称基石模型、大模型,指具有大参量的深度神经网络(Deep neuralnetwork,DNN),在海量未标记的数据上对其进行训练,利用大参量DNN的函数近似能力使PTM在数据上提取共性特征,经微调(fine tune)、参数高效微调(PEFT)、prompt-tuning等技术,适用于下游任务。因此,预训练模型可以在小样本(Few-shot)或零样本(Zero-shot)场景下达到理想效果。PTM按照处理的数据模态可以分为语言模型(ELMO,BERT,GPT)、视觉模型(swin-transformer,ViT,V-MOE)、语音模型(VALL-E)、多模态模型(ViBERT, CLIP,Flamingo,Gato)等,其中多模态模型指建立两种或以上数据模态特征表示的模型。预训练模型是输出人工智能生成内容(AIGC)重要工具,也可以作为连接多个具体任务模型的通用接口。
具体的,本申请中的初始色带去除模型主要是指PTM中的视觉模型,如基于视觉的深度神经网络(DNN)、卷积神经网络(CNN)、循环神经网络(RNN)等。
其中,色带是图像的平滑的渐变区域,由于颜色变化比较小,导致用于量化颜色的编码值数量不够,从而在显示器上把渐变反映成了色阶的样子;或者,色带是指对图像进行图像增强处理,处理后的图像在平滑的渐变区域中出现的颜色突变。换言之,引起图像出现色带的原因包括:(1)拍摄装置的图像质量较差、或者拍摄环境因素等造成拍摄得到图像出现色带;(2)在对图像进行量化编码过程中,平滑的渐变区域,由于颜色变化比较小,导致用于量化颜色的编码值数量不够,进而,造成图像出现色带。(3)在对图像进行图像增强处理过程中,处理后的图像在平滑的渐变区域中出现的颜色突变。其中,本申请中的色带区域是指图像中具有色带的图像区域,非色带区域可以是指图像中不具有色带的图像区域。
其中,本申请中的色带图像可以是指具有色带的图像,样本色带图像是指用于训练初始色带去除模型的色带图像,目标色带图像是指实际应用中需要进行色带去除处理的色带图像。
其中,本申请中的样本非色带图像可以是指不具有色带的图像,样本色带图像和样本非色带图像可以通过如下两种方式中的任一种方式获取:方式一、样本非色带图像可以是指计算机设备拍摄得到的不具有色带的图像,或者,样本非色带图像可以是从网络下载得到的不具有色带的图像;样本非色带图像对应的样本色带图像可以是对样本非色带图像进行量化编码、图像增强处理等得到的。方式二、样本色带图像可以是指拍摄得到的具有色带的图像,或者,样本色带图像可以是从网络下载得到的具有色带的图像,样本色带图像对应的样本非色带图像可以是人工对样本色带图像进行色带去除处理得到的。
其中,样本非色带图像所反映的内容与其对应的样本色带图像所反映的内容均相同,如样本非色带图像为对建筑A所拍摄得到的,即样本色带图像、样本非色带图像所反映的内容均为建筑A。样本非色带图像的第一图像区域的图像质量优于其对应的样本色带图像的色带区域的图像质量,第一图像区域可以是指样本非色带图像中与样本色带图像的色带区域具有相同位置关系的图像区域。例如,样本色带图像的色带区域为一个矩形区域,色带区域的四个角的在样本色带图像中的位置坐标为D1、D2、D3以及D4,那么,第一图像区域可以是指样本非色带图像中位置坐标为D1、D2、D3以及D4的矩形区域。样本非色带图像的第二图像区域的图像质量与其对应的样本色带图像的非色带区域的图像质量相同,第二图像区域可以是指样本非色带图像中与样本色带图像的非色带区域具有相同位置关系的图像区域。
其中,色带区域信息是指用于反映色带图像中的色带区域,在一个实施例中,色带区域信息可以采用掩膜的形式来呈现,即色带区域信息可以包括色带图像的色带区域掩膜,色带区域掩膜可以是指采用有效值标记色带图像的色带区域内的像素点和色带区域的边界上的像素点,采用无效值标记色带图像的非色带区域内的像素点,有效值可以为非0值,如1,无效值可以为0;或者,有效值可以是指大于某个标记阈值的数值,无效值可以是指小于该标记阈值的数值,如标记阈值可以为0.5。在一个实施例中,色带区域可以采用坐标的形式来呈现,即色带区域信息可以包括色带图像中的色带区域的边界的坐标,如色带区域为一个矩形,色带区域信息可以包括色带区域的边界上的四个角的坐标。
其中,标注色带区域信息是指人工对样本色带图像进行标注得到的色带区域信息,即标注色带区域信息反映从样本色带图像中标注得到的色带区域;预测色带区域信息是指采用初始色带去除模型对样本色带图像进行预测得到的色带区域信息,预测色带区域信息反映从样本色带图像中预测得到的色带区域。识别色带区域信息是指采用色带去除模型对目标色带图像进行识别得到的色带区域信息,识别色带区域信息反映从目标色带图像中识别得到的色带区域。
其中,增维特征图像用于反映色带图像的浅层特征,浅层特征包括色带图像的空间信息,空间信息可以包括颜色信息、纹理信息、边缘信息、棱角信息中的至少一种。深度特征图像可以反映色带图像的深度特征(即深层特征),深度特征可以是指色带图像的语义信息,语义信息用于反映色带图像中所包含的内容。例如,包括小猫的色带图像,该色带图像的语义信息可以包括自然语言单词“小猫”,或者,描述小猫的姿态、品种等的信息。
为了便于更清楚理解本申请,首先介绍实现本申请的图像处理系统,如图1所示,该图像处理系统中包括服务器10和终端集群,终端集群可以包括一个或者多个终端,这里将不对终端的数量进行限制。如图1所示,以终端集群中包括4个终端为例进行说明,终端集群具体可以包括终端1a、终端2a、终端3a、终端4a;可以理解的是,终端1a、终端2a、终端3a、终端4a均可以与服务器10进行网络连接,以便于每个终端均可以通过网络连接与服务器10之间进行数据交互。
可理解的是,服务器可以是独立的一个物理服务器,也可以是至少两个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、中容分发网络(ContentDelivery NetworK,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。终端具体可以是指车载终端、智能手机、平板电脑、笔记本电脑、桌上型电脑、智能音箱、有屏音箱、智能电视、智能手表等等,但并不局限于此。各个终端以及服务器可以通过有线或无线通信方式进行直接或间接地连接,同时,终端以及服务器的数量可以为一个或至少两个,本申请在此不做限制。
终端中安装有一个或多个目标应用,此处的目标应用可以是指具有图像处理(如下载图像、生成图像)功能的应用,如目标应用可以包括独立的应用程序、网页应用、宿主应用中的小程序等。服务器10是指为终端中的目标应用提供后端服务的设备,在一个实施例中,服务器10可以根据样本色带图像、样本非色带图像以及样本色带图像的标注区域信息,对初始色带去除模型进行训练,得到色带去除模型,可以将色带去除模型发送至各个终端,各个终端可以通过目标应用调用该色带去除模型,对色带图像进行色带去除处理。
在一个实施例中,以上述初始色带去除模型为卷积神经网络模型为例进行说明,如图2中,初始色带去除模型可以包括特征增维网络21a、色带去除网络22a以及色带区域预测网络23a,该特征增维网络21a可以是指用于增加输入图像的特征维度,色带去除网络22a和色带区域预测网络23a可以称为双分支卷积神经网络,色带去除网络22a可以用于对色带图像进行色带去除处理,得到色带去除图像,记为初始色带去除图像,色带区域预测网络23a可以用于对色带图像进行色带区域预测,得到预测色带区域信息,预测色带区域信息用于反映色带图像中的色带区域。
进一步,如图3所示,特征增维网络21a可以包括标准化层和卷积层1,标准化层可以用于对初始色带去除模型的输入图像进行标准化处理,卷积层1可以用于对标准化后的图像进行特征增维处理。色带去除网络22a可以包括个残差块、卷积层2和反标准化层1,个残差块可以用于提取增维处理后的图像的深度特征图像,记为第一深度特征图像;卷积层2可以用于对第一深度特征图像进行特征降维处理,得到降维特征图像,记为第一降维特征图像;反标准化层1可以用于对第一降维特征图像进行反标准化处理,得到初始去色带图像。色带区域预测网络23a可以包括/>个残差块、卷积层3和反标准化层2,/>个残差块可以用于提取增维处理后的图像的深度特征图像,记为第二深度特征图像;卷积层3可以用于对第二深度特征图像进行特征降维处理,得到降维特征图像,记为第二降维特征图像;反标准化层2可以用于对第二降维特征图像进行反标准化处理,得到预测色带区域信息。
需要说明的是,、/>可以根据计算机设备的设备资源、算力、运算效率等中的至少一种确定,/>可以为8、12、16、20等,/>可以为4、6、8、10等。设备资源可以包括CPU资源、内存资源、硬件资源、接口资源等中的任一种,算力是指计算机设备的处理信息的能力,即算力是指计算机设备的硬件和软件配合共同针对色带图像的色带去除处理能力、针对初始色带去除模型的训练能力。运算效率是指计算机设备的信息处理速度,计算机设备可以是指服务器或终端。
在一个实施例中,通常针对色带图像的色带去除处理过程的难度大于针对色带图像的色带区域预测过程的难度,因此,色带去除网络中的残差块的数量可以大于色带区域预测网络中的残差块的数量,即大于/>,如/>可以为/>,这样有利于色带去除网络通过个残差块提取到更精细化的深度特征图像,提高色带去除处理的精度。
在一个实施例中,图1中的图像处理系统可以用于实现针对图2中的初始色带去除模型的训练过程,该训练过程可以包括如下步骤S1~S4:
S1、获取样本色带图像的增维特征图;服务器10可以获取训练样本集,训练样本集可以包括P帧样本色带图像(即图2中的色带图像数据集),P帧样本色带图像分别对应的样本非色带图像,以及P帧样本色带图像分别对应的标注色带区域信息。服务器10可以从训练样本集中随机选择一个训练样本子集,训练样本子集包括多帧样本色带图像,每个样本色带图像对应样本非色带图像,以及每个样本色带图像的标注色带区域信息。
针对训练样本子集中的任一样本色带图像,可以标记为样本色带图像B,如结合图2和图3所示,服务器10可以将样本色带图像B输入至特征增维网络21a的标准化层中,通过标准化层对样本色带图像B进行标准化,得到标准化色带图像S,如标准化色带图像S可以采用如下公式(1)表示:
(1)
其中,公式(1)中的表示样本色带图像/>在c个通道上的特征值,/>表示标准化色带图像/>在/>个通道上的特征值,通常/>,r是指红色,g是指绿色,b是指蓝色,和/>分别表示大量数据统计得到的色带图像在/>个通道上的特征值的均值和标准差。
进一步,可以将标准化色带图像S输入至特征增维网络21a的标准化层中的卷积层1中,卷积层1可以对该标准化色带图像S进行特征增维处理,得到样本色带图像B的增维特征图像。该特征增维处理也可以是指增加标准化色带图像S的特征值的通道数,即增加标准化色带图像的特征值的维度,如标准化色带图像具有3个通道的特征值(即三个维度的特征值),增维特征图像具有个通道的特征值,3个通道可以包括/>,/>个通道也可以称为样本色带图像B的浅层特征,除了包括/>,还包括色度、亮度、饱和度、纹理等。/>为大于3的,/>的取值可以根据服务器10的设备资源、算力以及运算效率等中的至少一个确定,如可以为16、32、48、64等数值。增维特征图像可以采用如下公式(2)表示:
(2)
其中,公式(2)中的表示增维特征图像在/>个通道上的特征值,即/>表示增维特征图像的浅层特征的特征值,S表示标准化特征图像S在三个通道上(即颜色特征)的特征值,/>表示卷积层1。
S2、通过色带去除网络22a对增维特征图像进行色带去除处理,得到样本色带图传B的初始色带去除图像,记为初始色带去除图像R。具体的,服务器10可以将增维特征图像输入至色带去除网络22a的个残差块,通过/>个残差块对增维特征图像进行深度特征提取,得到样本色带图像B的深度特征图像,记为第一深度特征图像。该第一深度特征图像用于反映样本色带图像B的深度特征,第一深度特征图像可以采用如下公式(3)表示:
(3)
其中,公式(3)中的表示第一深度特征图像的深度特征的特征值,/>表示色带去除网络22a中的第k个残差块的计算函数,k为大于1,且小于或等于/>的整数。具体的,第k个残差块的输入特征图像将依次经过一个卷积层、一次激活函数、再一个卷积层和再一次激活函数的计算,得到初始深度特征图像,对初始深度特征图像与输入特征图像进行融合,得到第k个残差块的输出特征图像,第k个残差块的输出特征图像可以采用如下公式(4)表示:
(4)
其中,第/>个残差块的输入特征图像的特征值,/>表示第/>个残差块的输出特征图像的特征值,/>和/>分别表示第/>个残差块内部的两个卷积层,为第k个残差块中的激活层对应的激活函数,激活函数可以采用如下公式(5)表示:
(5)
其中,表示激活函数的变量,在/>中/>是指,在/>中/>是指。残差块的输入特征图像和输出特征图像均具有/>个通道的特征值。
进一步,服务器10可以将第一深度特征图像输入至色带去除网络22a中的卷积层2中,通过卷积层2对第一深度特征图像进行特征降维处理,得到样本色带图像B的降维特征图像,记为第一降维特征图像,如将第一深度特征图像的通道数从降低至3,即第一降维特征图像包括3个通道的特征值,如该第一降维特征图像可以采用如下公式(6)表示:
(6)
其中,公式(6)中的表示卷积层2,/>表示第一降维特征图像在3个通道上(即颜色特征)的特征值。然后,将该第一降维特征图像输入至色带去除网络22a中的反标准化层1中,通过反标准化层1对第一降维特征图像进行反标准化处理,得到样本色带图像B的初始色带去除图像,记为初始色带去除图像R,该初始色带去除图像R可以采用如下公式(7)表示:
(7)
其中,表示第一降维特征图像在c个通道上的特征值,/>表示初始色带去除图像R在c个通道上的特征值。
S3、通过色带区域预测网络23a对增维特征图像进行色带区域预测,得到样本色带图传B的预测色带区域信息。服务器10可以将增维特征图像输入至色带区域预测网络23a的个残差块,通过/>个残差块对增维特征图像进行深度特征提取,得到样本色带图像B的深度特征图像,记为第二深度特征图像。该第二深度特征图像用于反映样本色带图像B的深度特征,第二深度特征图像可以采用如下公式(8)表示:
(8)
其中,公式(8)中的表示第二深度特征图像的深度特征的特征值,/>表示色带区域预测网络23a中的第v个残差块的计算函数,第v个残差块针对特征图像的处理方式可以参考上述公式(4),v为小于或等于/>的正整数。
进一步,服务器10可以将第二深度特征图像输入至色带区域预测网络23a中的卷积层3中,通过卷积层3对第二深度特征图像进行特征降维处理,得到样本色带图像B的降维特征图像,记为第二降维特征图像,如将第二深度特征图像的通道数从降低至3,即第二降维特征图像包括3个通道的特征值,如第二该降维特征图像可以采用如下公式(9)表示:
(9)
其中,公式(9)中的表示卷积层3,/>表示第二降维特征图像在3个通道上(即颜色特征)的特征值。然后,将该第二降维特征图像输入至色带区域预测网络23a中的反标准化层2中,通过反标准化层2对第二降维特征图像进行反标准化处理,对该反标准化后的第二降维特征图像进行归一化处理,得到样本色带图像B的预测色带区域掩膜,将预测色带区域掩膜,确定为样本色带图像B的预测色带区域信息,预测色带区域掩膜可以采用如下公式(10)表示:
(10)
其中,表示样本色带图像B的预测色带区域掩膜,预测色带区域掩膜包括样本色带图像B中的各个像素值的标记值,标记值大于标记阈值的像素点所在的图像区域为样本色带图像的色带区域,标记值小于或等于标记阈值的像素点所在的图像区域为样本色带图像的非色带区域。
S4、根据样本色带图像的标注色带区域信息、预测色带区域信息以及样本非色带图像和样本色带去除图像,对初始色带模型进行训练。具体的,服务器10在获取到预测色带区域掩膜、初始色带去除图像R之后,可以根据该预测色带区域掩膜,采用样本色带图像中的非色带区域,对初始色带去除图像R中与非色带区域对应的图像区域进行增强处理,得到样本色带图像B对应的样本色带去除图像,记样本色带去除图像O,即将初始色带去除图像R中与色带区域对应的图像区域,同样本色带图像中的非色带区域进行拼接(融合),得到样本色带去除图像O。样本色带去除图像O可以采用如下公式(11)表示:
(11)
其中,表示样本色带去除图像中位于/>的像素点的像素值,/>表示样本色带图像B中位于/>的像素点的标记值,/>表示初始色带去除图像R中位于的像素点的像素值,/>表示样本色带图像B中位于/>的像素点的像素值。
进一步,服务器10可以重复上述步骤,获取训练样本子集中所有样本色带图像对应的预测色带区域信息和样本色带去除图像,根据训练样本子集中的样本色带图像的对应的预测色带区域信息、样本色带去除图像、标注色带区域信息和样本非色带图像,对初始色带去除模型进行训练,得到色带去除模型。具体的,服务器10可以根据训练样本子集中的样本色带图像对应的预测色带区域信息和标注色带区域信息,确定初始色带去除模型的色带区域预测损失,该色带区域预测损失可以采用如下公式(12)表示:
(12)
其中,表示预测色带区域掩膜与标注色带区域掩膜(即标注色带区域信息)之间的损失,即表示初始色带去除模型的色带区域预测损失,/>、/>为样本色带图像的高、宽,/>表示样本色带图像在/>行/>列位置上的像素点的标记值,i为小于或等于/>的正整数,j为小于或等于/>的正整数。然后,可以根据训练样本子集中的样本色带图像对应的样本色带去除图像和样本非色带图像,确定初始色带去除模型的色带去除损失,色带去除损失可以采用如下公式(13)表示:
(13)
其中,表示初始色带去除模型的色带去除损失,/>为样本色带图像的通道数(即颜色特征的通道数),/>表示样本色带去除图像中位于/>行/>列的像素点在通道/>上的像素值,/>表示样本非色带图像中位于/>行/>列的像素点在通道/>上的像素值,/>为小于或等于c的正整数。对色带区域预测损失和色带去除损失进行加权求和处理,得到初始色带去除模型的总损失,该总损失可以采用如下(14)表示:
(14)
其中,表示初始色带去除模型的总损失,α为色带区域预测损失对应的权重,β为色带去除损失对应的权重,α和β可以为经验值,如α和β可以分别设置为8和1。
接着,可以根据该总损失,对初始色带去除模型的模型参数进行调整,从训练样本集中随机选择下一个训练样本子集对继续对调整后的初始色带去除模型的模型参数进行调整,直到训练样本集中样本色带图像均被选择,完成针对初始色带去除模型的一轮迭代训练,在对初始色带去除模型经过多轮迭代训练后,可以得到色带去除模型。
需要说明的是,初始色带去除模型的迭代训练的轮数可以根据经验设置的,或者,初始色带去除模型的迭代训练的轮数是根据训练后的初始色带去除模型的总损失确定的,如当该总损失趋于稳定时,可以停止对初始色带去除模型进行训练。或者,初始色带去除模型的迭代训练的轮数根据服务器10的设备资源、算力以及运算效率中的至少一种确定。
可见,在初始色带去除模型的训练过程中,通过基于样本色带图像对应的预测色带区域信息,对样本色带图像中对应的初始色带去除图像中与非色带区域关联的图像进行增强处理,这样可以避免在对样本色带图像进行色带去除处理过程中,造成样本色带图像中的非色带区域失真,即这样不仅能够有效地去除样本色带图像中的色带,还能够确保样本色带图像的非色带区域的图像质量不受影响,更符合实际需求,提高样本色带去除图像的准确度。进一步,基于样本色带去除图像、样本非色带图像以及预测色带区域、标注色带区域信息对初始色带去除模型进行训练,这样使色带去除模型不仅具备色带去除能力,还具备确保非色带区域的图像质量不受影响的能力,提高色带去除模型的训练准确度,进而,提高针对色带图像的色带去除处理准确度。
在一个实施例中,服务器10在训练得到色带去除模型之后,可以将该色带去除模型发送至终端集群中的任一终端,以终端1a为例,终端1a在接收到色带去除模型之后,可以采用色带去除模型对色带图像进行色带去除处理。具体的,如图3所示,色带去除模型针对色带去除图像的色带去除处理过程包括:终端1a获取待处理的色带图像,记为目标色带图像31a,将目标色带图像31a输入至特征增维网络21a中,通过特征增维网络21a对目标色带图像31a进行特征增维处理,得到目标色带图像31a对应的增维特征图像。进一步,将目标色带图像31a对应的增维特征图像输入至色带去除网络22a中,通过色带去除网络22a对目标色带图像31a对应的增维特征图像进行色带去除处理,得到目标色带图像对应的候选色带去除图像32a。
进一步,将目标色带图像31a对应的增维特征图像输入至色带预测网络23a中,通过色带预测网络23a对目标色带图像31a对应的增维特征图像进行色带区域识别,得到目标色带图像31a的识别色带区域信息。此处的识别色带区域信息用于目标色带图像31a中的色带区域,该识别色带区域信息包括识别色带区域掩膜33a。识别色带区域掩膜33a中包括目标色带图像中的各个像素点的标记值,即位于色带区域内以及边界上的像素点的标记值大于标记阈值,位于色带区域外的像素点的标记值小于或等于标记阈值。
虽然候选色带去除图像32a不包含目标色带图像中的色带区域,但是,候选色带去除图像中与目标色带图像中的非色带区域对应的图像区域的图像质量也被降低,如色度、亮度也被减弱。终端1a可以根据识别色带区域掩膜33a,确定目标色带图像31a中的非色带区域,以及候选色带去除图像32a中与该非色带区域对应的图像区域,采用该目标色带图像31a中的非色带区域,对候选色带去除图像32a中与该非色带区域对应的图像区域进行增强处理,得到目标色带去除图像36a。
其中,此处的目标色带去除图像36a是对图像35a和图像34a进行求和处理得到的,图像35a中包括目标色带图像31a的非色带区域(大山和草地所在的区域),图像35a中保留了目标色带图像31a的非色带区域的原始亮度和色彩。图像34a包括候选色带去除图像32a的色带去除区域(天空景色所在的区域),此处的色带去除区域可以是对目标色带图像31a中的色带区域进行色带去除处理得到的。图像35a可以是根据目标色带图像31a与目标色带图像32a的识别色带区域掩膜33a确定的,图像34a可以是根据候选色带去除图像32a和识别色带区域掩膜33a确定的,具体实现过程可以参考上述公式(11)。
需要说明的是,图3中的目标色带图像31a的放大图为图9a中的色带图像91a,图3中的目标色带去除图像的放大图是图9b中的色带去除处理91b,将色带图像91a和色带去除图像91b比对可知,通过本申请不仅去除了目标色带图像31a中的色带,还保留了目标色带图像31a中非色带区域的亮度和色彩,能够避免在对目标色带图像31a进行色带去除处理过程中,造成目标色带图像31a中的非色带区域失真,提高针对色带图像的色带去除处理准确度,更符合实际需求。
需要说明的是,在训练得到色带去除模型之后,服务器10可以将色带去除模型部署在云端的服务器中,终端可以将待处理的目标色带图像发送至云端服务器,云端的服务器可以通过色带去除模型对目标色带图像进行色带处理,得到目标色带去除图像,将该目标色带去除图像发送至终端。
进一步地,请参见图4,是本申请实施例提供的一种图像处理方法的流程示意图。如图4所示,该方法可由图1中的终端集群中的任一终端来执行,也可以由图1中的服务器来执行,还可以由图1中的终端集群中的终端和服务器来协同执行,本申请中用于执行该图像处理方法的设备可以统称为计算机设备。其中,该方法可以包括如下步骤:
S101、获取样本非色带图像、上述样本非色带图像对应的样本色带图像和上述样本色带图像的标注色带区域信息;上述标注色带区域信息用于反映上述样本色带图像中的色带区域。
其中,标注色带区域信息是指人工对样本色带图像进行色带区域标注得到的,标注色带区域信息用于反映样本色带图像中的色带区域。在一个实施例中,该标注色带区域信息可以包括样本色带图像的色带区域掩膜,即该色带区域掩膜包括样本色带图像中的各个像素点的标记值,样本色带图像中位于色带区域内的像素点以及位于色带区域的边界上的像素点的标记值均为有效值,位于色带区域外的像素点的标记值为无效值。在一个实施例中,该标注色带区域信息可以包括样本色带图像中的色带区域的边界对应的坐标信息。
其中,样本色带图像和样本非色带图像的获取方式,可以参考前文描述,在此不再赘述。
在一个实施例中,上述步骤S101可以包括:计算机设备可以从图像库中获取清晰度大于清晰度阈值的候选图像,作为样本非色带图像,即样本非色带图像可以是指图像库中不具有色带的候选图像。进一步,对该样本非色带图像中的像素点的像素值进行降低量化级别数处理,得到量化后的样本非色带图像, 对该量化后的样本非色带图像进行增大量化级别数处理,得到候选色带图像。该候选色带图像相比样本非色带图像,不仅增加了色带区域,还使非色带区域中的亮度以及色度等发生畸变。因此,计算机设备可以接收针对该候选色带图像的标注色带区域信息,此处的标注色带区域信息用于反映候选色带图像中的色带区域,根据该候选色带图像、样本非色带图像以及标注色带区域信息,确定样本非图像图像对应的样本色带图像。样本色带图像的色带区域就是指候选色带图像中的色带区域,因此,可以将候选色带图像的标注色带区域信息,确定为样本色带图像的标注色带区域信息。
需要说明的是,样本非色带图像可以包括高清(HD)图像,高清图像可以是指清晰度大于清晰度阈值的候选图像,清晰度可以是指候选图像的分辨率,清晰度阈值可以是指分辨率阈值,如分辨率阈值可以是1080P,P为逐行扫描(Progressive scanning)。高清图像可以包括高动态范围(High-Dynamic Range,HDR)图像、标准动态范围(Standard DynamicRange,SDR)图像等。
在一个实施例中,上述根据上述候选色带图像的标注色带区域信息、上述候选色带图像以及上述样本非色带图像,确定上述样本非色带图像对应的样本色带图像,包括:计算机设备可以根据候选色带图像的标注色带区域信息,确定候选色带图像的色带区域,将候选色带图像中除色带区域以外的图像区域,确定为候选色带图像的非色带区域,将样本色非带图像中与该候选色带图像中的非色带区域具有相同位置关系的图像区域,确定为样本非色带图像中与该非色带区域关联的图像区域,相同位置关系可以是指非色带区域在候选色带图像的位置坐标与对应的图像区域在样本非色带图像的位置坐标相同。计算机设备可以采用该样本非色带图像中与该非色带区域关联的图像区域,替换该候选色带图像中的非色带区域,得到该样本非色带图像对应的样本色带图像,这样可以避免在样本色带图像中的非色带区域出现色度、亮度畸变等问题,使样本色带图像的图像质量比较低,有利于为初始色带去除模型提供更加精确的训练数据,提高初始色带去除模型的训练准确度。
例如,如图5所示,计算机设备可以从图像库中获取清晰度大于清晰度阈值的候选图像,作为样本非色带图像,由P个样本非色带图像构成非色带图像数据集,P为大于1的整数,非色带图像数据集包括样本非色带图像1、样本非色带图像2、……、样本非色带图像z、……、样本非色带图像P,z为小于或等于P的正整数。计算机设备可以获取样本非色带图像z的原始量化级别数,标记为,原始量化级别数可以是根据样本非色带图像中的像素点的最大像素值确定的,如最大像素值为255,则样本非色带图像z的原始量化级别数可以是8。计算机设备可以从[/>,/>)中随机选择一个量化级别数,记为/>,/>为小于/>的正整数,如当/>为8时,/>可以为5。将样本非色带图像z的像素点的像素值从原始量化级别数,降低至/>(即降低量化级别数),得到量化后的样本非色带图像z,量化后的样本非色带图像z可以采用如下公式(15)
(15)
其中,表示样本非色带图像z中位于(x,y)处的像素点的像素值,/>表示量化后的样本非色带图像z中位于(x,y)处的像素点的像素值,/>表示四舍五入取整操作。
进一步,计算机设备可以将量化后的样本非色带图像z中像素点的像素值进行增加量化级别数处理(即提升量化级别数),得到候选色带图像z;如可以将量化后的样本非色带图像z的量化级别数提升至原始量化级别数,得到候选色带图像z,计算机设备可以通过如下公式(16)计算得到候选色带图像z:
(16)
其中,为候选色带图像z中位于(x,y)处的像素点的像素值。接着,计算机设备可以获取针对候选色带图像z进行标注得到的一个或多个边界框,即候选色带图像中的色带区域位于边界框内,边界框的形状可以是指矩形、三角形等形状,本申请以边界框的形状为矩形为例进行说明。基于候选色带图像的一个或多个边界框,得到候选色带图像的标注色带区域掩膜/>,标注色带区域掩膜/>包括候选色带图像中各个像素点的标记值,该标注色带区域掩膜/>可以采用如下公式(17)表示:
(17)
其中,表示候选色带图像中位于(x,y)处的像素点的标记值,即候选色带图像中位于边界框内的像素点,以及位于边界框的边界上的像素点的标记值均为1,位于边界框外的像素点的标记值为0。
需要说明的是,在获取候选色带图像中的边界框时,计算机设备可以检测各个边界框内是否包含非色带区域,获取非色带区域的尺寸(如面积),当非色带区域的尺寸大于尺寸阈值,则可以重新获取候选色带图像中的边界框,以避免边界框中包含大量非色带区域,提高候选色带图像的边界框的准确度,进而,提高标注色带区域信息的准确度。例如,如图6所示,候选色带图像60a中包含天空景色的区域为色带区域,候选色带图像60a中包含大山的区域为非色带区域。当候选色带图像60a包括边界框61a时,这时候选色带图像60a中大部分色带区域被包含在边界框61a中,但是,该边界框61a中包含大量非色带区域,即边界框61a中所包含的山顶为非色带区域。可以采用多个小尺寸的边界框对候选色带图像60a中的色带区域进行标注,如图6中,候选色带图像60a可以包括边界框62a、边界框63a、边界框64a以及边界框65a,边界框62a、边界框63a以及边界框65a中均不包含非色带区域,边界框64a中所包含的非色带区域的尺寸小于尺寸阈值。
需要说明的是,可以采用掩膜标注代替边界框的标注,使预测色带区域信息更加准确,提高色带去除模型的训练准确度。掩膜标注是指针对样本色带图像中的每个像素点进行标注,即像素点的属于色带区域,将该像素点的标记值设置为有效值,像素点属于非色带区域,将该像素点的标记值设置为无效值。
进一步,计算机设备获取到候选色带图像z的标注色带区域掩膜之后,可以将标注色带区域掩膜,确定为候选色带图像z的标注色带区域信息,根据该标注色带区域信息,确定候选色带图像z的色带区域,将候选色带图像z中除色带区域以外的图像区域,确定为候选色带图像z中的非色带区域,从样本非色带图像z中确定与候选色带图像中的非色带区域关联的图像区域,采用样本非色带区域z中的该图像区域,替换候选色带图像z中的非色带区域,得到样本非色带图像z对应的样本色带图像z。该样本色带图像z可以采用如下公式(18)表示:
(18)
其中,公式(18)中表示样本色带图像z中位于(x,y)处的像素点的像素值,反映候选色带图像中的色带区域,/>表示样本非色带图像中与候选色带图像中的非色带区域关联的图像区域。也即公式(18)反映将候选色带图像中的色带区域,同样本非色带图像中与候选色带图像中的非色带区域关联的图像区域进行拼接,得到样本色带图像,使样本色带图像中不仅包含色带区域,还使样本色带图像中非色带区域与样本非色带图像中的对应图像区域保持相同,避免样本色带图像中的非色带区域中的色度、亮度等出现畸变,提高样本色带图像的图像质量,为初始色带去除模型提供更准确的训练数据,进而,有利于提高初始色带去除模型的训练准确度。
在一个实施例中,计算机设备可以对样本非色带图像进行色调映射(Tonemapping)处理,得到映射处理后的样本非色带图像,对映射处理后的样本非色带图像进行逆色调映射(Inverse Tone mapping)处理,得到样本非色带图像对应的样本色带图像。
需要说明的是,色调映射处理是指将样本非色带图像的色度,亮度,动态范围等,映射到低动态范围(Low Dynamic Range,LDR)图像的标准范围内,逆色调映射处理可以是指将处理后的样本非色带图像的色度,亮度,动态范围等,映射到高动态范围(HighDynamic Range,HDL)图像的标准范围内。
S102、通过初始色带去除模型,对上述样本色带图像进行色带去除处理,得到初始色带去除图像,对上述样本色带图像进行色带区域预测,得到上述样本色带图像的预测色带区域信息。
本申请中,计算机设备可以将样本色带图像输入至初始色带去除模型中,通过该色带去除模型,对该样本色带图像进行色带去除处理,得到初始色带去除图像,对该样本色带图像进行色带区域预测,得到样本色带图像的预测色带区域信息,预测色带区域信息用于反映样本色带图像中的色带区域。
其中,色带去除处理是指使样本色带图像的色带区域中突变的颜色更加平滑的过程,色带区域预测是指预测出样本色带图像中哪些图像区域中存在色带的过程。
在一个实施例中,初始色带去除模型包括特征增维网络、色带去除网络以及色带区域预测网络;上述通过初始色带去除模型,对上述样本色带图像进行色带去除处理,得到初始色带去除图像,对上述样本色带图像进行色带区域预测,得到上述样本色带图像的预测色带区域信息,包括:计算机设备可以将该样本色带图像在c个通道上的特征值输入至特征增维网络中,通过特征增维网络对c个通道上的特征值进行特征增维处理,得到个通道上的特征值,即将/>个通道上的特征值的图像,确定为样本色带图像对应的增维特征图像,为大于c的正整数。进一步,将该样本色带图像对应的增维特征图像输入至色带去除网络中,通过该色带去除网络,对上述样本色带图像对应的增维特征图像进行色带去除处理,得到初始色带去除图像。将该样本色带图像对应的增维特征图像输入至色带区域预测网络中,通过上述色带区域预测网络,对上述样本色带图像对应的增维特征图像进行色带区域预测,得到上述样本色带图像的预测色带区域信息。通过对样本色带图像进行特征增维处理,有利于提取到样本色带图像中更多维度的特征信息,有利于提高后续的色带去除处理过程和色带区域预测过程的准确度。
需要说明的是,c个通道上的特征值可以是指样本色带图像在颜色信息上的特征值,如c为3,c个通道可以是指红、绿、蓝,或者,c个通道可以是指色度(H),饱和度(S),亮度(V)。个通道上除了包括c个通道,还包括纹理、边缘、棱角等。
在一个实施例中,上述特征增维网络包括标准化层和特征增维层;上述通过上述特征增维网络,对上述样本色带图像进行特征增维处理,得到上述样本色带图像对应的增维特征图像,包括:计算机设备可以通过该标准化层,根据上述样本色带图像对应的图像统计特征,对该样本色带图像进行标准化处理,得到标准化后的样本色带图像,此处的图像统计特征包括通过大量色带图像的像素值进行统计得到的均值和方差;将标准化后的样本色带图像输入至特征增维层中,通过上述特征增维层,对上述标准化后的样本色带图像进行特征增维处理,得到上述样本色带图像对应的增维特征图像。在对样本色带图像进行特征增维之前,通过对样本色带图像进行标准化处理,有利于消除不同样本色带图像在像素值上的明显差异,使不同样本色带图像的像素值满足相似的数据分布,即消除极端像素值对初始色带去除模型的训练过程的影响。进而,提高初始色带去除模型的泛化能力,使其在见过的色带图像上具有较好的色带去除效果,即使初始色带去除模型对应的色带去除模型在应用中具有较强的色带去除能力,未见过的色带图像可以是指不属于训练数据集中的样本色带图像,即未见过的色带图像可以是应用中的色带图像。
需要说明的是,当该初始色带去除模型为卷积神经网络模型时,此处的特征增维网络可以是指前文的特征增维网络21a,色带去除网络可以是指前文的色带去除网络22a,色带区域预测网络可以是指前文的色带区域预测网络23a,
特征增维层可以是指前文的卷积层1。当该初始色带去除模型为深度神经网络模型时,此处的特征增维网络可以是指深度神经网络模型的输入层,色带去除网络和色带区域预测网络可以为深度神经网络模型的隐藏层。
在一个实施例中,上述色带去除网络包括第一深度特征提取层、第一特征降维层和第一反标准化层;上述通过该色带去除网络,对上述样本色带图像对应的增维特征图像进行色带去除处理,得到初始色带去除图像,包括:计算机设备可以将样本色带图像对应的增维特征图像输入至通过该第一深度特征提取层,对该样本色带图像对应的增维特征图像进行深度特征提取,得到该样本色带图像对应的第一深度特征图像;该第一深度特征图像反映样本色带图像中的深度特征。进一步,通过该第一特征降维层,对该第一深度特征图像进行特征降维处理,得到上述样本色带图像对应的第一降维特征图像;该第一深度特征图像可以包括个通道上的特征值,第一降维特征图像可以包括c个通道上的特征值。进一步,可以通过该第一反标准化层,对该第一降维特征图像进行反标准化处理,得到初始色带去除图像。
需要说明的是,此处的第一深度特征提取层可以包括个深度特征识别块,/>为大于1的正整数。当该初始色带去除模型为卷积神经网络模型时,此处的深度特征识别块可以是指前文的残差块,或者,第一深度特征提取层可以是指UNet(即U型网络),第一特征降维层可以是指前文的卷积层2,第一反标准化层可以是指前文的反标准化层1。当该初始色带去除模型为深度神经网络模型时,第一特征降维层和第一反标准化层可以是指深度神经网络模型中的隐藏层中的神经元。
在一个实施例中,上述第一深度特征提取层包括个深度特征识别块,/>为大于1的正整数;上述通过上述第一深度特征提取层,对上述样本色带图像对应的增维特征图像进行深度特征提取,得到上述样本色带图像的第一深度特征图像,包括:计算机设备可以将第k-1个深度特征识别块的输出特征图像k-1,输入至第k个深度特征识别块中;第1个深度特征识别块的输入为该上述样本色带图像对应的增维特征图像,k为大于1,且小于或等于的整数。通过该第k个深度特征识别块,对该输出特征图像k-1进行深度特征提取,得到该第k个深度特征识别块对应的初始深度特征图。对上述第k个深度特征识别块对应的初始深度特征图和上述输出特征图像k-1进行融合,得到上述第k个深度特征识别块的输出特征图像k;此处的融合可以是指对输出特征图像k-1与输出特征图像k-1中各个相同位置处的像素点对应的特征值进行求和运算,得到输出特征图像k。进一步,将第/>个深度特征识别块的输出特征图像,确定为该样本色带图像的第一深度特征图像,通过多个深度特征识别块,提取样本色带图像对应的第一深度特征图像,有利于挖掘样本色带图像中的深度特征,进一步,提高针对样本色带图像的色带去除处理准确度。
在一个实施例中,上述色带区域预测网络包括第二深度特征提取层、第二特征降维层和第二反标准化层;上述通过上述色带区域预测网络,对上述样本色带图像对应的增维特征图像进行色带区域预测,得到上述样本色带图像的预测色带区域信息,包括:计算机设备可以通过该第二深度特征提取层,对该样本色带图像对应的增维特征图像进行深度特征提取,得到该样本色带图像对应的第二深度特征图像,该第二深度特征图像用于反映样本色带图像中的深度特征。通过该第二特征降维层,对该第二深度特征图像进行特征降维处理,得到该样本色带图像对应的第二降维特征图像。通过该第二反标准化层,对该第二降维特征图像进行反标准化处理,得到反标准化后的第二降维特征图像,根据上述反标准化后的第二降维特征图像,确定上述样本色带图像的预测色带区域信息。
需要说明的是,该第二深度特征图像可以包括个通道上的特征值,第二降维特征图像可以包括c个通道上的特征值,或者,该第二降维特征图像可以包括1个通道上的特征值,该第二降维特征图像可以根据上述公式(9)计算得到。反标准化后的第二降维特征图像的特征值的通道数与第二降维特征图像的特征值的通道数相同。
在一个实施例中,上述根据上述反标准化后的第二降维特征图像,确定上述样本色带图像的预测色带区域信息,包括:计算机设备可以对该反标准化后的第二降维特征图像进行像素归一化处理,得到该样本色带图像的预测色带区域掩膜;即对反标准化后的第二降维特征图像中的像素点的像素值与第二降维特征图像对应的最大像素值进行相除处理,得到该样本色带图像的预测色带区域掩膜,该预测色带区域掩膜用于指示上述样本色带图像中的色带区域。进一步,将该样本色带图像的预测色带区域掩膜,确定为该样本色带图像的预测色带区域信息。
需要说明的是,反标准化后的第二降维特征图像的特征值的通道数为c时,预测色带区域掩膜包括样本色带图像中各个像素点在c个通道上的标记值;这时,可以根据各个像素点在c个通道上的标记值,确定c个通道分别对应的色带区域。例如,c个通道包括r、g、b三个通道,假设像素点1在r通道上的标记值大于标记阈值,像素点1属于r通道上的色带区域,即将像素点1所在的位置标记为r通道上的色带区域;当像素点1在g、b通道上的标记值均小于或等于标记值,则像素点1不属于g通道上的色带区域和b通道上的色带区域,即将像素点1所在的位置标记为g通道上的非色带区域,和通用b上的非色带区域。以此类推,可以得到样本色带图像在c个通道上分别对应的色带区域。
S103、根据上述预测色带区域信息确定上述样本色带图像中的非色带区域,以及上述初始色带去除图像中的与上述非色带区域关联的图像区域,根据上述样本色带图像中的非色带区域,对上述初始色带去除图像中的上述图像区域进行增强处理,得到样本色带去除图像。
本申请中,由于在对样本色带图像进行色带去除处理过程中,不仅去除了样本色带图像中的色带,还使样本色带图像中非色带区域中出现失真,即初始色带去除图像中与样本色带图像的非色带区域关联的图像区域出现失真(如亮度、色彩发生畸变)。因此,计算机设备可以根据该样本色带图像中的非色带区域,对上述初始色带去除图像中的上述图像区域进行增强处理,得到样本色带去除图像,这样可以避免在对样本色带图像进行色带去除处理过程中,造成样本色带图像中的非色带区域失真,即这样不仅能够有效地去除样本色带图像中的色带,还能够确保样本色带图像的非色带区域的图像质量不受影响,更符合实际需求。
在一个实施例中,上述根据上述预测色带区域信息确定上述样本色带图像中的非色带区域,以及上述初始色带去除图像中的与上述非色带区域关联的图像区域,根据上述样本色带图像中的非色带区域,对上述初始色带去除图像中的上述图像区域进行增强处理,得到样本色带去除图像,包括:计算机设备可以根据该预测色带区域信息,确定样本色带图像中的色带区域,将样本色带图像中除色带区域以外的图像区域确定为非色带区域,将初始色带去除图像中与样本色带图像中的非色带区域具有相同位置关系的图像区域,确定为初始色带去除图像中与该非色带区域关联的图像区域。采用该样本色带图像中的非色带区域,替换该初始色带去除图像中上述图像区域,得到样本色带去除图像。通过基于样本色带图像中的非色带区域,对初始色带去除图像中的上述图像区域进行增强处理,使样本色带去除图像中的图像区域r1与样本色带图像中的非色带区域保持一致,且样本色带去除图像中的图像区域r2与初始色带去除图像中的色带去除区域保持一致,这样不仅能够使样本色带去除图像中不具有色带,还能够确保样本色带图像中的图像区域r1不出现失真,提高色带去除处理的准确度,进而,提高初始色带去除模型的训练准确度。
需要说明的是,图像区域r1为样本色带去除图像中与样本色带图像中的非色带区域具有相同位置关系的图像区域,图像区域r2是指样本色带去除图像中与样本色带图像中的色带区域具有相同位置关系的图像区域。初始色带去除图像中的色带去除区域为对样本色带图像中的色带区域进行色带去除处理得到的图像区域。
S104、根据上述样本色带去除图像、上述样本非色带图像、上述预测色带区域信息和上述标注色带区域信息对上述初始色带去除模型进行训练,得到用于对目标色带图像进行色带去除处理的色带去除模型。
本申请中,计算机设备可以根据该样本色带去除图像、样本非色带图像、预测色带区域信息和标注色带区域信息,对该初始色带去除模型进行迭代训练,直到初始色带去除模型的迭代训练的轮数达到轮数阈值,将训练后的初始色带去除模型,确定为色带去除模型。或者,直到训练后的初始色带去除模型的状态处于收敛状态时,将训练后的初始色带去除模型,确定为色带去除模型。训练后的初始色带去除模型的状态处于收敛状态可以是指训练后的初始色带去除模型的总损失达到最小值,上述轮数阈值可以是根据计算机设备的设备资源、算力以及运算效率中的至少一个确定的,或者,轮数阈值还可以是根据经验值确定的。
在一个实施例中,上述根据上述样本色带去除图像、上述样本非色带图像、上述预测色带区域信息和上述标注色带区域信息对上述初始色带去除模型进行训练,得到用于对目标色带图像进行色带去除处理的色带去除模型,包括:计算机设备可以根据该样本色带去除图像和上述样本非色带图像,确定上述初始色带去除模型的色带去除损失,即可以将样本色带去除图像的像素值和样本非色带图像的像素值代入至前文的公式(13)中,通过公式(13)计算得到初始色带去除模型的色带去除损失,此处的色带去除损失用于衡量初始色带去除模型的色带去除处理准确度。进一步,可以根据上述预测色带区域信息和上述标注色带区域信息,确定上述初始色带去除模型的色带区域预测损失;即将预测色带区域信息和标注色带区域信息代入至前文的公式(12)中,通过公式(12)计算得到初始色带去除模型的色带区域预测损失,该色带区域预测损失用于衡量初始色带去除模型的色带区域预测准确度。然后,可以根据上述色带去除损失和上述色带区域预测损失,对上述初始色带去除模型的模型参数进行调整,得到用于对目标色带图像进行色带去除处理的色带去除模型。通过基于色带区域预测损失和色带去除损失,对初始色带去除模型的模型参数进行调整,有利于提高训练得到的色带去除模型的色带去除处理准确度。
在一个实施例中,上述根据上述色带去除损失和上述色带区域预测损失,对上述初始色带去除模型的模型参数进行调整,得到用于对目标色带图像进行色带去除处理的色带去除模型,包括:计算机设备可以根据色带去除损失对初始色带去除模型中的色带去除网络的参数进行调整,根据色带区域预测损失,对初始色带去除模型的色带区域预测网络的参数进行调整。根据色带去除损失和色带区域预测损失对初始色带去除模型的特征增维网络的参数进行调整,以此对初始色带去除模型进行多轮迭代训练后,得到色带去除模型。
需要说明的是,初始色带去除模型的模型参数包括上述特征增维网络的参数、色带去除网络的参数以及色带区域预测网络的参数。
在一个实施例中,上述根据上述色带去除损失和上述色带区域预测损失,对上述初始色带去除模型的模型参数进行调整,得到用于对目标色带图像进行色带去除处理的色带去除模型,包括:计算机设备可以获取该色带去除损失和该色带区域预测损失分别对应的权重,该色带去除损失和该色带区域预测损失分别对应的权重可以是预先设置的经验值。根据上述色带去除损失和上述色带区域预测损失分别对应的权重,对上述色带去除损失和上述色带区域预测损失进行加权求和处理,得到该初始色带去除模型的总损失;根据该初始色带去除模型的总损失,对上述初始色带去除模型的模型参数进行调整,得到用于对目标色带图像进行色带去除处理的色带去除模型。
在一个实施例中,上述根据该初始色带去除模型的总损失,对上述初始色带去除模型的模型参数进行调整,得到用于对目标色带图像进行色带去除处理的色带去除模型,包括:计算机设备可以根据该初始色带去除模型的总损失,对该初始色带去除模型的模型参数进行调整,得到调整后的初始色带去除模型(即前文的训练后的初始色带去除模型)。计算机设备可以获取测试数据集,该测试数据集中包括测试色带图像,测试色带图像对应的测试非色带图像以及测试色带图像的标注色带区域信息,可以将该测试色带图像输入至调整后的初始色带去除模型中,通过调整后的初始色带去除模型对测试色带图像进行色带区域预测,得到测试色带图像的预测区域信息,对测试色带图像进行色带去除处理,得到测试色带图像对应的初始色带去除图像。
进一步,计算机设备可以根据测试色带图像中的非色带区域,对测试色带图像对应的初始色带去除图像中的对应图像区域进行增强处理,得到测试色带去除图像,根据该测试色带去除图像、测试色带图像对应的测试非色带图像、测试色带图像的标注色带区域信息和预测色带区域信息,确定调整后的初始色带去除模型的总损失,当调整后的初始色带去除模型的总损失小于损失阈值时,将调整后的初始色带去除模型确定为色带去除模型,损失阈值可以是指初始色带去除模型的最小损失,或者,损失阈值可以是根据需求设置的。当调整后的初始色带去除模型的总损失大于或等于损失阈值时,继续基于训练数据集对调整后的初始色带去除模型进行迭代训练,直到初始色带去除模型的迭代训练的轮数达到轮数阈值,或者,调整后的初始色带去除模型的总损失小于损失阈值,将调整后的初始色带去除模型确定为色带去除模型。
需要说明的是,测试色带图像可以是指用于测试调整后的初始色带去除模型是否满足停止迭代训练条件的色带图像,测试非色带图像可以是指用于测试调整后的初始色带去除模型是否满足停止迭代训练条件的非色带图像。测试数据集的获取方式可以参考上述训练样本集的获取方式,重复之处,不再赘述。
本申请中,通过根据样本色带图像中的非色带区域,对初始色带去除图像中的该图像区域进行增强处理,得到样本色带去除图像,这样可以避免在对样本色带图像进行色带去除处理过程中,造成样本色带图像中的非色带区域失真,即这样不仅能够有效地去除样本色带图像中的色带,还能够确保样本色带图像的非色带区域的图像质量不受影响,更符合实际需求。进而,通过样本色带去除图像和样本非色带图像、预测色带区域信息、标注色带区域信息,对初始色带区域模型进行训练,得到用于对目标色带图像进行色带去除处理的色带去除模型,这样使色带去除模型不仅具备色带去除能力,还具备确保非色带区域的图像质量不受影响的能力,提高色带去除模型的训练准确度,进而,提高针对色带图像的色带去除处理准确度。
进一步地,请参见图7,是本申请实施例提供的一种图像处理方法的流程示意图。如图7所示,该方法可由图1中的终端集群中的任一终端来执行,也可以由图1中的服务器来执行,还可以由图1中的终端集群中的终端和服务器来协同执行,本申请中用于执行该图像处理方法的设备可以统称为计算机设备。其中,该方法可以包括如下步骤:
S201、获取待处理的目标色带图像。
本申请中,计算机设备可以从本地获取待处理的目标色带图像,或者,可以从其他设备中获取待处理的目标色带图像;该目标色带图像可以是指计算机设备中的任一待处理的色带图像,或者,该目标色带图像可以是指计算机设备中待修复视频数据中的任一帧色带图像。
S202、通过色带去除模型,对目标色带图像进行色带去除处理,得到候选色带去除图像,对上述目标色带图像进行色带区域识别,得到上述目标色带图像的识别色带区域信息;上述色带去除模型是通过上述的方法对初始色带去除模型训练得到的。
本申请中,计算机设备可以将该目标色带图像输入至该色带去除模型中,通过该色带去除模型,对目标色带图像进行色带去除处理,得到候选色带去除图像,对该目标色带图像进行色带区域识别,得到识别色带区域信息,该识别色带区域信息用于反映目标色带图像中的色带区域。
需要说明的是,色带去除模型针对目标色带图像的色带去除处理过程,可以参考初始色带去除模型针对样本色带图像的色带去除处理过程,色带去除模型针对目标色带图像的色带区域识别过程,可以参考初始色带去除模型针对样本色带图像的色带区域预测过程,重复之处,不再赘述。
S203、根据上述识别色带区域信息确定上述目标色带图像中的非色带区域,以及上述候选色带去除图像中的与上述非色带区域关联的图像区域。
S204、根据上述目标色带图像中的非色带区域,对上述候选色带去除图像中的上述图像区域进行增强处理,得到目标色带去除图像。
步骤S203和S204中,由于在对目标色带图像进行色带去除处理过程中,不仅去除了目标色带图像中的色带,还使目标色带图像中非色带区域中出现失真,即候选色带图像中与目标色带图像的非色带区域关联的图像区域出现失真(如亮度、色彩发生畸变)。因此,计算机设备可以根据该识别色带区域信息,确定目标色带图像中的色带区域,将目标色带图像中除色带区域以外的图像区域,确定为目标色带图像的非色带区域,将候选色带去除图像与目标色带图像中的非色带区域具有相同位置关系的图像区域,确定为候选色带图像中与该非色带区域关联的图像区域。采用该目标色带图像中的非色带区域,替换该候选色带去除图像中上述图像区域,得到目标色带去除图像。通过基于目标色带图像中的非色带区域,对候选色带去除图像中的上述图像区域进行增强处理,使目标色带去除图像中的图像区域r3与目标色带图像中的非色带区域保持一致,且目标色带去除图像中的图像区域r4与候选色带去除图像中的色带去除区域保持一致,这样不仅能够使目标色带去除图像中不具有色带,还能够确保目标色带图像中的图像区域r1不出现失真,提高色带去除处理的准确度。
需要说明的是,图像区域r3为目标色带去除图像中与目标色带图像中的非色带区域具有相同位置关系的图像区域,图像区域r2是指目标色带去除图像中与目标色带图像中的色带区域具有相同位置关系的图像区域。候选色带去除图像中的色带去除区域为对目标色带图像中的色带区域进行色带去除处理得到的图像区域。
在一个实施例中,上述获取待处理的目标色带图像,包括:在训练得到色带去除模型之后,可以将该色带去除模型用于对图像或视频数据进行修复处理(即色带去除处理)。具体的,以视频数据为例,计算机设备可以从本地或其他设备中获取待修复视频数据,该待修复视频数据为对Q帧图像进行编码得到。如图8所示,因此,计算机设备可以对待修复视频数据进行解码,得到待处理的Q帧图像,Q帧图像包括帧图像1、帧图像2、……、帧图像t、……、帧图像Q-1、帧图像Q,前文的目标色带图像为Q帧图像中的任一帧图像。通过前文的步骤S202~S204,分别获取Q帧图像分别对应的目标色带去除图像,如图8中,帧图像1对应的目标色带去除图像为修复帧图像1、帧图像2对应的目标色带去除图像为修复帧图像2、……、帧图像t对应的目标色带去除图像为修复帧图像t、……、帧图像Q-1对应的目标色带去除图像为修复帧图像Q-1、帧图像Q对应的目标色带去除图像为修复帧图像Q。进一步,对上述Q帧图像分别对应的目标色带去除图像进行编码处理,得到修复视频数据。
需要说明的是,待修复视频数据可以是指长视频数据(如点播视频数据/直播视频数据)、短视频数据等。
例如,如图9a所示,色带图像91a中的天空景色的区域中存在色带,即天空景色的区域为色带区域,色带图像91a中大山和草地所在的区域为非色带区域,色带图像91a的左下角区域的放大图为图像92a。图9b中的色带去除图像91b为采用本申请中方法对色带图像91a进行色带去除处理得到的,图9b中的图像92b为色带去除图像91b的左下角区域的放大图。图9c中的色带去除图像91c为采用现有算法(即deepDeband)对色带图像91a进行色带去除处理得到的,图9c中的图像92c为色带去除图像91c的左下角区域的放大图。将色带图像91a、色带去除图像91b、色带去除图像91c对比,将图像92a、图像92b、图像92c对比;可知,现有算法得到的色带去除图像91c中还包括部分色带,且色带去除图像91c中的非色带区域(草地、大山所在的区域)的亮度和色彩,相比色带图像91a中的非色带区域都变暗了,色带去除结果不符合预期,破坏了色带图像91a中非色带区域的原始亮度和色彩,即导致色带图像91a中的非色带区域的图像质量出现失真。本申请得到的色带去除图像91b不仅不具有色带,色带去除图像91b中保留了色带图像91a中的非色带区域(草地、大山所在的区域)的原始亮度和色彩,即本申请相比现有算法针对色带图像91a的色带去除更干净、彻底,且保留了色带图像91a的非色带区域的原始亮度和色彩,可避免色带图像91a中的非色带区域的图像质量出现失真,提高色带去除处理的准确度。
例如,图10a示出了色带图像101a,以及基于本申请对色带图像101a进行色带区域预测得到的预测色带区域掩膜102a,色带图像101a为色带比较严重的图像,即色带图像101a中的背景区域均存在色带。图10b示出了色带图像101b,以及基于本申请对色带图像101b进行色带区域预测得到的预测色带区域掩膜102b,色带图像101b为色带比较轻微的图像,即色带图像101b中的右上角区域存在色带。对预测色带区域掩膜102a中的标记值进行平均化处理,得到预测色带区域掩膜102a对应的均值,对预测色带区域掩膜102b中的标记值进行平均化处理,得到预测色带区域掩膜102b对应的均值,预测色带区域掩膜102a对应的均值为0.6935,预测色带区域掩膜102b对应的均值为0.0010。可见,本申请中得到的预测色带区域掩膜对应的均值在一定程度上可以反映色带图像的色带严重程度,即本申请中的色带区域预测和色带区域识别的准确度比较高。
例如,表1为本申请和现有算法针对测试数据集中的测试色带图像进行色带去除处理之后,得到的测试色带去除图像的色带严重程度(DBI),其中,DBI越高表示测试色带去除图像的色带严重程度越高,DBI越低表示测试色带去除图像的色带严重程度越低。根据表1可知,测试数据集中的测试色带图像的平均色带严重严重程度为0.2507,在采用现有算法deepDeband-F对测试色带图像进行色带去除处理之后,所得到的测试色带去除图像(即修复结果)的平均色带严重程度为0.1472,在采用现有算法deepDeband-W对测试色带图像进行色带去除处理之后,所得到的测试色带去除图像(即修复结果)的平均色带严重程度为0.1418,在采用本申请对测试色带图像进行色带去除处理之后,所得到的测试色带去除图像(即修复结果)的平均色带严重程度为0.0808。可见,采用本申请的色带去除效果明显优于现有算法(deepDeband-W、deepDeband-F)。请参考如下表1:
表1
本申请中,通过基于目标色带图像中的非色带区域,对候选色带去除图像中的上述图像区域进行增强处理,使目标色带去除图像中不仅去除了色带,还使目标色带去除图像中保留了目标色带图像中非色带区域中的亮度和色彩,可以避免在对目标色带图像进行色带去除处理过程中,造成目标色带图像中的非色带区域的图像质量失真的问题,提高色带去除处理的准确度,使色带去除处理更符合预期。
请参见图11,是本申请实施例提供的一种图像处理装置的结构示意图。如图11所示,该图像处理装置可以包括:
获取模块111a,用于获取样本非色带图像、上述样本非色带图像对应的样本色带图像和上述样本色带图像的标注色带区域信息;上述标注色带区域信息用于反映上述样本色带图像中的色带区域;
处理模块112a,用于通过初始色带去除模型,对上述样本色带图像进行色带去除处理,得到初始色带去除图像,对上述样本色带图像进行色带区域预测,得到上述样本色带图像的预测色带区域信息;
增强模块113a,用于根据上述预测色带区域信息确定上述样本色带图像中的非色带区域,以及上述初始色带去除图像中的与上述非色带区域关联的图像区域,根据上述样本色带图像中的非色带区域,对上述初始色带去除图像中的上述图像区域进行增强处理,得到样本色带去除图像;
训练模块114a,用于根据上述样本色带去除图像、上述样本非色带图像、上述预测色带区域信息和上述标注色带区域信息对上述初始色带去除模型进行训练,得到用于对目标色带图像进行色带去除处理的色带去除模型。
可选的,上述初始色带去除模型包括特征增维网络、色带去除网络以及色带区域预测网络;
可选的,处理模块112a,具体用于通过上述特征增维网络,对上述样本色带图像进行特征增维处理,得到上述样本色带图像对应的增维特征图像;
通过上述色带去除网络,对上述样本色带图像对应的增维特征图像进行色带去除处理,得到初始色带去除图像;
通过上述色带区域预测网络,对上述样本色带图像对应的增维特征图像进行色带区域预测,得到上述样本色带图像的预测色带区域信息。
可选的,上述特征增维网络包括标准化层和特征增维层;
可选的,处理模块112a,具体用于通过上述标准化层,根据上述样本色带图像对应的图像统计特征,对上述样本色带图像进行标准化处理,得到标准化后的样本色带图像;
通过上述特征增维层,对上述标准化后的样本色带图像进行特征增维处理,得到上述样本色带图像对应的增维特征图像。
可选的,上述色带去除网络包括第一深度特征提取层、第一特征降维层和第一反标准化层;
可选的,处理模块112a,具体用于通过上述第一深度特征提取层,对上述样本色带图像对应的增维特征图像进行深度特征提取,得到上述样本色带图像对应的第一深度特征图像;
通过上述第一特征降维层,对上述第一深度特征图像进行特征降维处理,得到上述样本色带图像对应的第一降维特征图像;
通过上述第一反标准化层,对上述第一降维特征图像进行反标准化处理,得到初始色带去除图像。
可选的,上述第一深度特征提取层包括个深度特征识别块,/>为大于1的正整数;
可选的,处理模块112a,具体用于将第k-1个深度特征识别块的输出特征图像k-1,输入至第k个深度特征识别块中;第1个深度特征识别块的输入为上述样本色带图像对应的增维特征图像,k为大于1,且小于或等于的整数;
通过上述第k个深度特征识别块,对上述输出特征图像k-1进行深度特征提取,得到上述第k个深度特征识别块对应的初始深度特征图;
对上述第k个深度特征识别块对应的初始深度特征图和上述输出特征图像k-1进行融合,得到上述第k个深度特征识别块的输出特征图像k;
将第个深度特征识别块的输出特征图像,确定为上述样本色带图像的第一深度特征图像。
可选的,上述色带区域预测网络包括第二深度特征提取层、第二特征降维层和第二反标准化层;
可选的,处理模块112a,具体用于通过上述第二深度特征提取层,对上述样本色带图像对应的增维特征图像进行深度特征提取,得到上述样本色带图像对应的第二深度特征图像;
通过上述第二特征降维层,对上述第二深度特征图像进行特征降维处理,得到上述样本色带图像对应的第二降维特征图像;
通过上述第二反标准化层,对上述第二降维特征图像进行反标准化处理,得到反标准化后的第二降维特征图像;
根据上述反标准化后的第二降维特征图像,确定上述样本色带图像的预测色带区域信息。
可选的,处理模块112a,具体用于对上述反标准化后的第二降维特征图像进行像素归一化处理,得到上述样本色带图像的预测色带区域掩膜;上述预测色带区域掩膜用于指示上述样本色带图像中的色带区域;
将上述样本色带图像的预测色带区域掩膜,确定为上述样本色带图像的预测色带区域信息。
可选的,增强模块113a,具体用于根据上述预测色带区域信息,确定上述样本色带图像中的色带区域;
将上述样本色带图像中除色带区域以外的图像区域,确定为上述样本色带图像中的非色带区域;
从上述初始色带去除图像中,获取与上述样本色带图像中的非色带区域具有相同位置关系的图像区域;
采用上述样本色带图像中的非色带区域,替换上述初始色带去除图像中的上述图像区域,得到样本色带去除图像。
可选的,训练模块114a,具体用于根据上述样本色带去除图像和上述样本非色带图像,确定上述初始色带去除模型的色带去除损失;
根据上述预测色带区域信息和上述标注色带区域信息,确定上述初始色带去除模型的色带区域预测损失;
根据上述色带去除损失和上述色带区域预测损失,对上述初始色带去除模型的模型参数进行调整,得到用于对目标色带图像进行色带去除处理的色带去除模型。
可选的,训练模块114a,具体用于获取上述色带去除损失和上述色带区域预测损失分别对应的权重;
根据上述色带去除损失和上述色带区域预测损失分别对应的权重,对上述色带去除损失和上述色带区域预测损失进行加权求和处理,得到上述初始色带去除模型的总损失;
根据上述初始色带去除模型的总损失,对上述初始色带去除模型的模型参数进行调整,得到用于对目标色带图像进行色带去除处理的色带去除模型。
可选的,获取模块111a,具体用于从图像库中获取清晰度大于清晰度阈值的候选图像,作为样本非色带图像;
对上述样本非色带图像中的像素点的像素值进行降低量化级别数处理,得到量化后的样本非色带图像;
对上述量化后的样本非色带图像进行增大量化级别数处理,得到上述样本非色带图像对应的候选色带图像;
接收针对上述候选色带图像的标注色带区域信息;
根据上述候选色带图像的标注色带区域信息、上述候选色带图像以及上述样本非色带图像,确定上述样本非色带图像对应的样本色带图像,根据上述候选色带图像的标注色带区域信息,确定上述样本色带图像的标注色带区域信息。
可选的,获取模块111a,具体用于根据上述标注色带区域信息,确定上述候选色带图像中的非色带区域,以及上述样本非色带图像中与上述非色带区域关联的图像区域;
采用上述样本非色带图像中与上述非色带区域关联的图像区域,替换上述候选色带图像中的非色带区域,得到上述样本非色带图像对应的样本色带图像。
需要说明的时,本申请中的图像处理装置可用于执行前文所对应实施例中对上述图像处理方法的描述,图像处理装置执行前文的图像处理方法的描述时,所带来的有益效果,可以参考前文的图像处理方法对应的实施例中所描述的有益效果,在此不再赘述。
本申请中,通过根据样本色带图像中的非色带区域,对初始色带去除图像中的该图像区域进行增强处理,得到样本色带去除图像,这样可以避免在对样本色带图像进行色带去除处理过程中,造成样本色带图像中的非色带区域失真,即这样不仅能够有效地去除样本色带图像中的色带,还能够确保样本色带图像的非色带区域的图像质量不受影响,更符合实际需求。进而,通过样本色带去除图像和样本非色带图像、预测色带区域信息、标注色带区域信息,对初始色带区域模型进行训练,得到用于对目标色带图像进行色带去除处理的色带去除模型,这样使色带去除模型不仅具备色带去除能力,还具备确保非色带区域的图像质量不受影响的能力,提高色带去除模型的训练准确度,进而,提高针对色带图像的色带去除处理准确度。
请参见图12,是本申请实施例提供的一种图像处理装置的结构示意图。如图12所示,该图像处理装置可以包括:
获取模块121a,用于获取待处理的目标色带图像;
处理模块122a,用于通过色带去除模型,对目标色带图像进行色带去除处理,得到候选色带去除图像,对上述目标色带图像进行色带区域识别,得到上述目标色带图像的识别色带区域信息;上述色带去除模型是通过上述的方法对初始色带去除模型训练得到的;
确定模块123a,用于根据上述识别色带区域信息确定上述目标色带图像中的非色带区域,以及上述候选色带去除图像中的与上述非色带区域关联的图像区域;
增强模块124a,用于根据上述目标色带图像中的非色带区域,对上述候选色带去除图像中的上述图像区域进行增强处理,得到目标色带去除图像。
可选的,获取模块121a,具体用于对待修复视频数据进行解码处理,得到待处理的Q帧图像;上述目标色带图像为上述Q帧图像中的任一帧图像;当获取到上述Q帧图像分别对应的目标色带去除图像时,对上述Q帧图像分别对应的目标色带去除图像进行编码处理,得到修复视频数据。
需要说明的时,本申请中的图像处理装置可用于执行前文所对应实施例中对上述图像处理方法的描述,图像处理装置执行前文的图像处理方法的描述时,所带来的有益效果,可以参考前文的图像处理方法对应的实施例中所描述的有益效果,在此不再赘述。
本申请中,通过基于目标色带图像中的非色带区域,对候选色带去除图像中的上述图像区域进行增强处理,使目标色带去除图像中不仅去除了色带,还使目标色带去除图像中保留了目标色带图像中非色带区域中的亮度和色彩,可以避免在对目标色带图像进行色带去除处理过程中,造成目标色带图像中的非色带区域的图像质量失真的问题,提高色带去除处理的准确度,使色带去除处理更符合预期。
请参见图13,是本申请实施例提供的一种计算机设备的结构示意图。如图13所示,上述计算机设备1000可以是指终端或服务器,包括:处理器1001,网络接口1004和存储器1005,此外,上述计算机设备1000还可以包括:用户接口1003,和至少一条通信总线1002。其中,通信总线1002用于实现这些组件之间的连接通信。其中,在一些实施例中,用户接口1003可以包括显示屏(DiSPlay)、键盘(Keyboard),可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器1005可以是高速RAM存储器,也可以是非易失性的存储器(non-volatileMeMory),例如至少一个磁盘存储器。存储器1005可选的还可以是至少一个在远离前述处理器1001的存储装置。如图13所示,作为一种计算机可读存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及计算机程序。
在图13所示的计算机设备1000中,网络接口1004可提供网络通讯功能;而用户接口1003主要用于提供输入的接口;而处理器1001可以用于调用存储器1005中存储的计算机程序,以实现本申请各方法实施例中的步骤。
计算机程序本申请中,通过根据样本色带图像中的非色带区域,对初始色带去除图像中的该图像区域进行增强处理,得到样本色带去除图像,这样可以避免在对样本色带图像进行色带去除处理过程中,造成样本色带图像中的非色带区域失真,即这样不仅能够有效地去除样本色带图像中的色带,还能够确保样本色带图像的非色带区域的图像质量不受影响,更符合实际需求。进而,通过样本色带去除图像和样本非色带图像、预测色带区域信息、标注色带区域信息,对初始色带区域模型进行训练,得到用于对目标色带图像进行色带去除处理的色带去除模型,这样使色带去除模型不仅具备色带去除能力,还具备确保非色带区域的图像质量不受影响的能力,提高色带去除模型的训练准确度,进而,提高针对色带图像的色带去除处理准确度。
应当理解,本申请实施例中所描述的计算机设备可执行前文所对应实施例中对上述图像处理方法的描述,也可执行前文所对应实施例中对上述图像处理装置的描述,在此不再赘述。另外,对采用相同方法的有益效果描述,也不再进行赘述。
本申请书中相关数据收集处理在实例应用时应该严格根据相关国家法律法规的要求,获取个人信息主体的知情同意或单独同意,并在法律法规及个人信息主体的授权范围内,开展后续数据使用及处理行为。
此外,这里需要指出的是:本申请实施例还提供了一种计算机可读存储介质,且上述计算机可读存储介质中存储有前文提及的图像处理装置所执行的计算机程序,且上述计算机程序包括程序指令,当上述处理器执行上述程序指令时,能够执行前文对应实施例中对上述图像处理方法的描述,因此,这里将不再进行赘述。另外,对采用相同方法的有益效果描述,也不再进行赘述。对于本申请所涉及的计算机可读存储介质实施例中未披露的技术细节,请参照本申请方法实施例的描述。
作为示例,上述程序指令可被部署在一个计算机设备上执行,或者被部署在一个地点的至少两个计算机设备上执行,又或者,在分布在至少两个地点且通过通信网络互连的至少两个计算机设备上执行,分布在至少两个地点且通过通信网络互连的至少两个计算机设备可以组成区块链网络。
上述计算机可读存储介质可以是前述任一实施例提供的图像处理装置或者上述计算机设备的中部存储单元,例如计算机设备的硬盘或中存。该计算机可读存储介质也可以是该计算机设备的外部存储设备,例如该计算机设备上配备的插接式硬盘,智能存储卡(SMart Media card,SMC),安全数字(Secure digital,SD)卡,闪存卡(flaSh card)等。进一步地,该计算机可读存储介质还可以既包括该计算机设备的中部存储单元也包括外部存储设备。该计算机可读存储介质用于存储该计算机程序以及该计算机设备所需的其他程序和数据。该计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的数据。
本申请实施例的说明书和权利要求书及附图中的术语“第一”、“第二”等是用于区别不同媒体中容,而非用于描述特定顺序。此外,术语“包括”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、装置、产品或设备没有限定于已列出的步骤或模块,而是可选地还包括没有列出的步骤或模块,或可选地还包括对于这些过程、方法、装置、产品或设备固有的其他步骤单元。
本申请实施例中,术语“模块”或“单元”是指有预定功能的计算机程序或计算机程序的一部分,并与其他相关部分一起工作以实现预定目标,并且可以通过使用软件、硬件(如处理电路或存储器)或其组合来全部或部分实现。同样的,一个处理器(或多个处理器或存储器)可以用来实现一个或多个模块或单元。此外,每个模块或单元都可以是包含该模块或单元功能的整体模块或单元的一部分。
本申请书中相关数据收集处理在实例应用时应该严格根据相关国家法律法规的要求,获取个人信息主体的知情同意或单独同意,并在法律法规及个人信息主体的授权范围内,开展后续数据使用及处理行为。
本申请实施例还提供了一种计算机程序产品,包括计算机程序,上述计算机程序被处理器执行时实现前文对应实施例中对上述图像处理方法、解码方法的描述,因此,这里将不再进行赘述。另外,对采用相同方法的有益效果描述,也不再进行赘述。对于本申请所涉及的计算机程序产品的实施例中未披露的技术细节,请参照本申请方法实施例的描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
本申请实施例提供的方法及相关装置是参照本申请实施例提供的方法流程图和/或结构示意图来描述的,具体可由计算机程序指令实现方法流程图和/或结构示意图的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。这些计算机程序指令可提供到通用计算机、专用计算机、嵌入式处理机或其他可编程网络连接设备的处理器以产生一个机器,使得通过计算机或其他可编程网络连接设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或结构示意图一个方框或多个方框中指定的功能的装置。这些计算机程序指令也可存储在能引导计算机或其他可编程网络连接设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或结构示意图一个方框或多个方框中指定的功能。这些计算机程序指令也可装载到计算机或其他可编程网络连接设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或结构示意一个方框或多个方框中指定的功能的步骤。
以上所揭露的仅为本申请较佳实施例而已,当然不能以此来限定本申请之权利范围,因此依本申请权利要求所作的等同变化,仍属本申请所涵盖的范围。
Claims (18)
1.一种图像处理方法,其特征在于,包括:
获取样本非色带图像、所述样本非色带图像对应的样本色带图像和所述样本色带图像的标注色带区域信息;所述标注色带区域信息用于反映所述样本色带图像中的色带区域;
通过初始色带去除模型,对所述样本色带图像进行色带去除处理,得到初始色带去除图像,对所述样本色带图像进行色带区域预测,得到所述样本色带图像的预测色带区域信息;
根据所述预测色带区域信息确定所述样本色带图像中的非色带区域,从所述初始色带去除图像中,获取与所述样本色带图像中的非色带区域具有相同位置关系的图像区域,采用所述样本色带图像中的非色带区域,替换所述初始色带去除图像中的所述图像区域,得到样本色带去除图像;
根据所述样本色带去除图像和所述样本非色带图像,确定所述初始色带去除模型的色带去除损失;
根据所述预测色带区域信息和所述标注色带区域信息,确定所述初始色带去除模型的色带区域预测损失;
根据所述色带去除损失和所述色带区域预测损失,对所述初始色带去除模型的模型参数进行调整,得到用于对目标色带图像进行色带去除处理的色带去除模型。
2.如权利要求1所述的方法,其特征在于,所述初始色带去除模型包括特征增维网络、色带去除网络以及色带区域预测网络;
所述通过初始色带去除模型,对所述样本色带图像进行色带去除处理,得到初始色带去除图像,对所述样本色带图像进行色带区域预测,得到所述样本色带图像的预测色带区域信息,包括:
通过所述特征增维网络,对所述样本色带图像进行特征增维处理,得到所述样本色带图像对应的增维特征图像;
通过所述色带去除网络,对所述样本色带图像对应的增维特征图像进行色带去除处理,得到初始色带去除图像;
通过所述色带区域预测网络,对所述样本色带图像对应的增维特征图像进行色带区域预测,得到所述样本色带图像的预测色带区域信息。
3.如权利要求2所述的方法,其特征在于,所述特征增维网络包括标准化层和特征增维层;所述通过所述特征增维网络,对所述样本色带图像进行特征增维处理,得到所述样本色带图像对应的增维特征图像,包括:
通过所述标准化层,根据所述样本色带图像对应的图像统计特征,对所述样本色带图像进行标准化处理,得到标准化后的样本色带图像;
通过所述特征增维层,对所述标准化后的样本色带图像进行特征增维处理,得到所述样本色带图像对应的增维特征图像。
4.如权利要求2所述的方法,其特征在于,所述色带去除网络包括第一深度特征提取层、第一特征降维层和第一反标准化层;
所述通过所述色带去除网络,对所述样本色带图像对应的增维特征图像进行色带去除处理,得到初始色带去除图像,包括:
通过所述第一深度特征提取层,对所述样本色带图像对应的增维特征图像进行深度特征提取,得到所述样本色带图像对应的第一深度特征图像;
通过所述第一特征降维层,对所述第一深度特征图像进行特征降维处理,得到所述样本色带图像对应的第一降维特征图像;
通过所述第一反标准化层,对所述第一降维特征图像进行反标准化处理,得到初始色带去除图像。
5.如权利要求4所述的方法,其特征在于,所述第一深度特征提取层包括个深度特征识别块,/>为大于1的正整数;
所述通过所述第一深度特征提取层,对所述样本色带图像对应的增维特征图像进行深度特征提取,得到所述样本色带图像的第一深度特征图像,包括:
将第k-1个深度特征识别块的输出特征图像k-1,输入至第k个深度特征识别块中;第1个深度特征识别块的输入为所述样本色带图像对应的增维特征图像,k为大于1,且小于或等于的整数;
通过所述第k个深度特征识别块,对所述输出特征图像k-1进行深度特征提取,得到所述第k个深度特征识别块对应的初始深度特征图;
对所述第k个深度特征识别块对应的初始深度特征图和所述输出特征图像k-1进行融合,得到所述第k个深度特征识别块的输出特征图像k;
将第个深度特征识别块的输出特征图像,确定为所述样本色带图像的第一深度特征图像。
6.如权利要求2所述的方法,其特征在于,所述色带区域预测网络包括第二深度特征提取层、第二特征降维层和第二反标准化层;
所述通过所述色带区域预测网络,对所述样本色带图像对应的增维特征图像进行色带区域预测,得到所述样本色带图像的预测色带区域信息,包括:
通过所述第二深度特征提取层,对所述样本色带图像对应的增维特征图像进行深度特征提取,得到所述样本色带图像对应的第二深度特征图像;
通过所述第二特征降维层,对所述第二深度特征图像进行特征降维处理,得到所述样本色带图像对应的第二降维特征图像;
通过所述第二反标准化层,对所述第二降维特征图像进行反标准化处理,得到反标准化后的第二降维特征图像;
根据所述反标准化后的第二降维特征图像,确定所述样本色带图像的预测色带区域信息。
7.如权利要求6所述的方法,其特征在于,所述根据所述反标准化后的第二降维特征图像,确定所述样本色带图像的预测色带区域信息,包括:
对所述反标准化后的第二降维特征图像进行像素归一化处理,得到所述样本色带图像的预测色带区域掩膜;所述预测色带区域掩膜用于指示所述样本色带图像中的色带区域;
将所述样本色带图像的预测色带区域掩膜,确定为所述样本色带图像的预测色带区域信息。
8.如权利要求1所述的方法,其特征在于,所述根据所述预测色带区域信息确定所述样本色带图像中的非色带区域,包括:
根据所述预测色带区域信息,确定所述样本色带图像中的色带区域;
所述样本色带图像中除色带区域以外的图像区域,确定为所述样本色带图像中的非色带区域。
9.如权利要求1所述的方法,其特征在于,所述根据所述色带去除损失和所述色带区域预测损失,对所述初始色带去除模型的模型参数进行调整,得到用于对目标色带图像进行色带去除处理的色带去除模型,包括:
获取所述色带去除损失和所述色带区域预测损失分别对应的权重;
根据所述色带去除损失和所述色带区域预测损失分别对应的权重,对所述色带去除损失和所述色带区域预测损失进行加权求和处理,得到所述初始色带去除模型的总损失;
根据所述初始色带去除模型的总损失,对所述初始色带去除模型的模型参数进行调整,得到用于对目标色带图像进行色带去除处理的色带去除模型。
10.如权利要求1所述的方法,其特征在于,所述获取样本非色带图像、所述样本非色带图像对应的样本色带图像和所述样本色带图像的标注色带区域信息,包括:
从图像库中获取清晰度大于清晰度阈值的候选图像,作为样本非色带图像;
对所述样本非色带图像中的像素点的像素值进行降低量化级别数处理,得到量化后的样本非色带图像;
对所述量化后的样本非色带图像进行增大量化级别数处理,得到所述样本非色带图像对应的候选色带图像;
接收针对所述候选色带图像的标注色带区域信息;
根据所述候选色带图像的标注色带区域信息、所述候选色带图像以及所述样本非色带图像,确定所述样本非色带图像对应的样本色带图像,根据所述候选色带图像的标注色带区域信息,确定所述样本色带图像的标注色带区域信息。
11.如权利要求10所述的方法,其特征在于,所述根据所述候选色带图像的标注色带区域信息、所述候选色带图像以及所述样本非色带图像,确定所述样本非色带图像对应的样本色带图像,包括:
根据所述标注色带区域信息,确定所述候选色带图像中的非色带区域,以及所述样本非色带图像中与所述非色带区域关联的图像区域;
采用所述样本非色带图像中与所述非色带区域关联的图像区域,替换所述候选色带图像中的非色带区域,得到所述样本非色带图像对应的样本色带图像。
12.一种图像处理方法,其特征在于,包括:
获取待处理的目标色带图像;
通过色带去除模型,对目标色带图像进行色带去除处理,得到候选色带去除图像,对所述目标色带图像进行色带区域识别,得到所述目标色带图像的识别色带区域信息;所述色带去除模型是通过权利要求1-11任一项所述的方法对初始色带去除模型训练得到的;
根据所述识别色带区域信息确定所述目标色带图像中的非色带区域,以及所述候选色带去除图像中的与所述非色带区域关联的图像区域;
根据所述目标色带图像中的非色带区域,对所述候选色带去除图像中的所述图像区域进行增强处理,得到目标色带去除图像。
13.如权利要求12所述的方法,其特征在于,所述获取待处理的目标色带图像,包括:
对待修复视频数据进行解码处理,得到待处理的Q帧图像;所述目标色带图像为所述Q帧图像中的任一帧图像;
所述方法还包括:
当获取到所述Q帧图像分别对应的目标色带去除图像时,对所述Q帧图像分别对应的目标色带去除图像进行编码处理,得到修复视频数据。
14.一种图像处理装置,其特征在于,包括:
获取模块,用于获取样本非色带图像、所述样本非色带图像对应的样本色带图像和所述样本色带图像的标注色带区域信息;所述标注色带区域信息用于反映所述样本色带图像中的色带区域;
处理模块,用于通过初始色带去除模型,对所述样本色带图像进行色带去除处理,得到初始色带去除图像,对所述样本色带图像进行色带区域预测,得到所述样本色带图像的预测色带区域信息;
增强模块,用于根据所述预测色带区域信息确定所述样本色带图像中的非色带区域,从所述初始色带去除图像中,获取与所述样本色带图像中的非色带区域具有相同位置关系的图像区域,采用所述样本色带图像中的非色带区域,替换所述初始色带去除图像中的所述图像区域,得到样本色带去除图像;
训练模块,用于根据所述样本色带去除图像和所述样本非色带图像,确定所述初始色带去除模型的色带去除损失;根据所述预测色带区域信息和所述标注色带区域信息,确定所述初始色带去除模型的色带区域预测损失;根据所述色带去除损失和所述色带区域预测损失,对所述初始色带去除模型的模型参数进行调整,得到用于对目标色带图像进行色带去除处理的色带去除模型。
15.一种图像处理装置,其特征在于,包括:
获取模块,用于获取待处理的目标色带图像;
处理模块,用于通过色带去除模型,对目标色带图像进行色带去除处理,得到候选色带去除图像,对所述目标色带图像进行色带区域识别,得到所述目标色带图像的识别色带区域信息;所述色带去除模型是通过权利要求1-11任一项所述的方法对初始色带去除模型训练得到的;
确定模块,用于根据所述识别色带区域信息确定所述目标色带图像中的非色带区域,以及所述候选色带去除图像中的与所述非色带区域关联的图像区域;
增强模块,用于根据所述目标色带图像中的非色带区域,对所述候选色带去除图像中的所述图像区域进行增强处理,得到目标色带去除图像。
16.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至13中任一项所述的方法的步骤。
17.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至13中任一项所述的方法的步骤。
18.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至13中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410126079.6A CN117649358B (zh) | 2024-01-30 | 2024-01-30 | 图像处理方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410126079.6A CN117649358B (zh) | 2024-01-30 | 2024-01-30 | 图像处理方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117649358A CN117649358A (zh) | 2024-03-05 |
CN117649358B true CN117649358B (zh) | 2024-04-16 |
Family
ID=90045615
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410126079.6A Active CN117649358B (zh) | 2024-01-30 | 2024-01-30 | 图像处理方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117649358B (zh) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113284073A (zh) * | 2021-07-08 | 2021-08-20 | 腾讯科技(深圳)有限公司 | 一种图像修复方法、装置及存储介质 |
CN114549369A (zh) * | 2022-04-24 | 2022-05-27 | 腾讯科技(深圳)有限公司 | 数据修复方法、装置、计算机及可读存储介质 |
WO2022111352A1 (zh) * | 2020-11-30 | 2022-06-02 | 展讯通信(上海)有限公司 | 目标检测方法及装置、存储介质、终端 |
CN114742733A (zh) * | 2022-04-19 | 2022-07-12 | 中国工商银行股份有限公司 | 云去除方法、装置、计算机设备和存储介质 |
CN115330615A (zh) * | 2022-08-09 | 2022-11-11 | 腾讯医疗健康(深圳)有限公司 | 伪影去除模型的训练方法、装置、设备、介质及程序产品 |
WO2023071464A1 (zh) * | 2021-10-29 | 2023-05-04 | 华为技术有限公司 | 图像处理方法、装置及存储介质 |
CN116543246A (zh) * | 2022-01-25 | 2023-08-04 | 腾讯科技(深圳)有限公司 | 图像去噪模型的训练方法、图像去噪方法、装置及设备 |
CN116977237A (zh) * | 2023-07-31 | 2023-10-31 | 联想(北京)有限公司 | 一种图像处理方法、系统及电子设备 |
CN117314758A (zh) * | 2022-06-22 | 2023-12-29 | 武汉Tcl集团工业研究院有限公司 | 图像处理方法、装置、终端设备及计算机可读存储介质 |
-
2024
- 2024-01-30 CN CN202410126079.6A patent/CN117649358B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022111352A1 (zh) * | 2020-11-30 | 2022-06-02 | 展讯通信(上海)有限公司 | 目标检测方法及装置、存储介质、终端 |
CN113284073A (zh) * | 2021-07-08 | 2021-08-20 | 腾讯科技(深圳)有限公司 | 一种图像修复方法、装置及存储介质 |
WO2023071464A1 (zh) * | 2021-10-29 | 2023-05-04 | 华为技术有限公司 | 图像处理方法、装置及存储介质 |
CN116543246A (zh) * | 2022-01-25 | 2023-08-04 | 腾讯科技(深圳)有限公司 | 图像去噪模型的训练方法、图像去噪方法、装置及设备 |
CN114742733A (zh) * | 2022-04-19 | 2022-07-12 | 中国工商银行股份有限公司 | 云去除方法、装置、计算机设备和存储介质 |
CN114549369A (zh) * | 2022-04-24 | 2022-05-27 | 腾讯科技(深圳)有限公司 | 数据修复方法、装置、计算机及可读存储介质 |
CN117314758A (zh) * | 2022-06-22 | 2023-12-29 | 武汉Tcl集团工业研究院有限公司 | 图像处理方法、装置、终端设备及计算机可读存储介质 |
CN115330615A (zh) * | 2022-08-09 | 2022-11-11 | 腾讯医疗健康(深圳)有限公司 | 伪影去除模型的训练方法、装置、设备、介质及程序产品 |
CN116977237A (zh) * | 2023-07-31 | 2023-10-31 | 联想(北京)有限公司 | 一种图像处理方法、系统及电子设备 |
Non-Patent Citations (1)
Title |
---|
一种色带生成方法;张标 等;测绘与空间地理信息;20210908;第44卷(第8期);第31-33页 * |
Also Published As
Publication number | Publication date |
---|---|
CN117649358A (zh) | 2024-03-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20210271917A1 (en) | Image processing method and apparatus, electronic device, and storage medium | |
CN110738125B (zh) | 利用Mask R-CNN选择检测框的方法、装置及存储介质 | |
Gu et al. | Blind quality assessment of tone-mapped images via analysis of information, naturalness, and structure | |
CN108229509B (zh) | 用于识别物体类别的方法及装置、电子设备 | |
CN111401374A (zh) | 基于多任务的模型训练方法、字符识别方法及装置 | |
CN112101386B (zh) | 文本检测方法、装置、计算机设备和存储介质 | |
CN110298829A (zh) | 一种舌诊方法、装置、系统、计算机设备和存储介质 | |
CN113034514A (zh) | 天空区域分割方法、装置、计算机设备和存储介质 | |
CN113378897A (zh) | 基于神经网络的遥感图像分类方法、计算设备及存储介质 | |
CN115797846A (zh) | 一种风力发电叶片区块缺陷比对方法、装置及电子设备 | |
CN114529750A (zh) | 图像分类方法、装置、设备及存储介质 | |
US20230005107A1 (en) | Multi-task text inpainting of digital images | |
CN113837965A (zh) | 图像清晰度识别方法、装置、电子设备及存储介质 | |
CN111898544B (zh) | 文字图像匹配方法、装置和设备及计算机存储介质 | |
CN117649358B (zh) | 图像处理方法、装置、设备及存储介质 | |
CN116798041A (zh) | 图像识别方法、装置和电子设备 | |
He et al. | Fast image quality assessment via supervised iterative quantization method | |
CN114222181B (zh) | 一种图像处理方法、装置、设备及介质 | |
WO2022127865A1 (zh) | 视频处理方法、装置、电子设备及存储介质 | |
CN115512340A (zh) | 基于图片的意图检测方法及装置 | |
CN115239590A (zh) | 样本图像的生成方法、装置、设备、介质及程序产品 | |
CN112634382B (zh) | 一种非自然对象的图像识别、替换方法和装置 | |
Zhang et al. | Blind image quality assessment based on local quantized pattern | |
CN112434698A (zh) | 字符识别方法、装置、电子设备及存储介质 | |
CN117078564B (zh) | 视频会议画面的智能生成方法及其系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |