CN113596471B - 图像处理方法及装置、电子设备和存储介质 - Google Patents
图像处理方法及装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN113596471B CN113596471B CN202110844476.3A CN202110844476A CN113596471B CN 113596471 B CN113596471 B CN 113596471B CN 202110844476 A CN202110844476 A CN 202110844476A CN 113596471 B CN113596471 B CN 113596471B
- Authority
- CN
- China
- Prior art keywords
- image
- training
- image processing
- round
- processed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003860 storage Methods 0.000 title claims abstract description 73
- 238000003672 processing method Methods 0.000 title claims abstract description 21
- 238000012545 processing Methods 0.000 claims abstract description 459
- 238000012549 training Methods 0.000 claims abstract description 351
- 230000006870 function Effects 0.000 claims abstract description 334
- 230000006835 compression Effects 0.000 claims abstract description 142
- 238000007906 compression Methods 0.000 claims abstract description 142
- 238000000034 method Methods 0.000 claims abstract description 121
- 230000005540 biological transmission Effects 0.000 claims abstract description 33
- 230000008569 process Effects 0.000 claims abstract description 32
- 238000012795 verification Methods 0.000 claims description 39
- 238000009826 distribution Methods 0.000 claims description 29
- 238000004590 computer program Methods 0.000 claims description 14
- 238000010200 validation analysis Methods 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 24
- 230000000694 effects Effects 0.000 description 24
- 238000013139 quantization Methods 0.000 description 18
- 238000013461 design Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 10
- 230000003044 adaptive effect Effects 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 9
- 238000002156 mixing Methods 0.000 description 9
- 230000000007 visual effect Effects 0.000 description 7
- 238000013135 deep learning Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 238000005457 optimization Methods 0.000 description 5
- 230000006872 improvement Effects 0.000 description 4
- 238000012423 maintenance Methods 0.000 description 4
- 238000011176 pooling Methods 0.000 description 4
- 238000013441 quality evaluation Methods 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 238000003491 array Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 238000007405 data analysis Methods 0.000 description 3
- 230000018109 developmental process Effects 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 239000010949 copper Substances 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000004438 eyesight Effects 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 238000009827 uniform distribution Methods 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Signal Processing (AREA)
- Evolutionary Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
- Image Analysis (AREA)
Abstract
本公开涉及一种图像处理方法及装置、电子设备和存储介质，该方法包括：对待处理图像进行压缩处理，得到待处理图像的第一压缩结果，再对第一压缩结果进行重建处理，得到待处理图像的重建图像；其中，图像处理方法是通过图像处理网络实现的，该图像处理网络是通过奖励函数自动调整损失函数的训练方法得到的，图像处理网络的损失函数包括多个子损失函数，奖励函数用于在训练过程中调整多个子损失函数的权重。本公开实施例可降低图像的存储和传输成本。
Description
技术领域
本公开涉及计算机视觉技术领域，尤其涉及一种图像处理方法及装置、电子设备和存储介质。
背景技术
随着信息技术的发展，图像采集和图像共享已经变得无处不在。在图像数据过于庞大的情况下，对图像数据的存储、传输、处理过程会比较困难，因此，对图像数据的有效压缩就显得尤为重要。
基于深度学习的图像压缩技术在近年来取得较大进展，压缩效果已经超过H.265甚至H.266的帧内编码。针对图像压缩网络模型的训练，往往需要指定描述画质保真度的损失函数，在网络模型的训练过程中损失函数会保持不变，然而，指定的损失函数只能部分代表人的主观感受，在压缩率较高时会造成不同类型的视觉失真。
发明内容
本公开提出了一种图像处理方法及装置、电子设备和存储介质。
根据本公开的一方面，提供了一种图像处理方法，所述方法包括：对待处理图像进行压缩处理，得到所述待处理图像的第一压缩结果；对所述第一压缩结果进行重建处理，得到所述待处理图像的重建图像；其中，所述图像处理方法是通过图像处理网络实现的，所述图像处理网络是通过奖励函数自动调整损失函数的训练方法得到的，所述图像处理网络的损失函数包括多个子损失函数，所述奖励函数用于在训练过程中调整所述多个子损失函数的权重。
通过这种方式，能够通过奖励函数能够调整损失函数的多个子损失函数的权重，实现了奖励函数对损失函数进行自动调和，替代了复杂的手动损失函数设计和超参数遍历，提高了训练效果和效率，并且使训练好的图像处理网络在保证图像质量的情况下，降低图像的存储和传输成本。
在一种可能的实现方式中，所述奖励函数包括第一函数及多个第二函数，所述第一函数用于指示所述图像处理网络的编码码率的偏差；所述第二函数用于指示所述图像处理网络的画质指标的偏差。
通过这种方式，奖励函数能够用于指示图像处理网络的编码码率的偏差，及多个画质指标的偏差，在此情况下，通过该奖励函数对损失函数的在线调和，能够有效控制编码码率与各画质指标间的权衡，节省大量手动尝试的成本，并有利于在保证图像质量的情况下，降低图像的存储和传输成本。
在一种可能的实现方式中，所述对待处理图像进行压缩处理，得到所述待处理图像的第一压缩结果，包括：对所述待处理图像进行编码，得到所述待处理图像的第一图像特征；对所述第一图像特征进行量化，得到所述待处理图像的量化数据及量化分布信息；对所述量化数据进行熵编码，得到所述待处理图像的压缩码流，所述第一压缩结果包括所述压缩码流及所述量化分布信息。
通过这种方式，对待处理图像进行压缩处理，得到的待处理图像的第一压缩结果，具有更优的压缩效果。
在一种可能的实现方式中，所述对所述第一压缩结果进行重建处理，得到所述待处理图像的重建图像，包括：对所述第一压缩结果进行熵解码，得到第二图像特征；对所述第二图像特征进行解码，得到所述待处理图像的重建图像。
通过这种方式，对第一压缩结果进行重建处理，能够使解压缩的重建图像，无失真或减少失真。
在一种可能的实现方式中，所述方法还包括：根据训练集及验证集对所述图像处理网络进行训练，得到训练后的图像处理网络；其中，所述根据所述训练集及所述验证集对所述图像处理网络进行训练，得到训练后的图像处理网络，包括：对于第t轮训练，将所述训练集中的第一样本图像分别输入第(t-1)轮训练的B个图像处理网络中处理，得到所述第一样本图像的B个第一处理结果，t、B为大于1的整数；根据所述第一样本图像、所述B个第一处理结果，以及第t轮训练的B个损失函数，分别对所述第(t-1)轮训练的B个图像处理网络进行训练，得到第t轮训练的B个图像处理网络；在第t轮训练的B个图像处理网络满足训练条件的情况下，根据所述第t轮训练的B个图像处理网络，确定训练后的图像处理网络。
通过这种方式，可以根据训练集及验证集对图像处理网络进行训练，得到训练后的图像处理网络，有助于对图像处理网络高效训练，使训练好的图像处理网络性能更优秀。
在一种可能的实现方式中，所述根据所述训练集及所述验证集对所述图像处理网络进行训练，得到训练后的图像处理网络，还包括：对于第t轮训练，将所述验证集中的第二样本图像分别输入所述第t轮训练的B个图像处理网络中处理，得到所述第二样本图像的B个第二处理结果；根据所述第二样本图像、所述B个第二处理结果及所述奖励函数，分别确定与所述第t轮训练的B个图像处理网络对应的第(t+1)轮训练的B个自适应策略；根据所述第(t+1)轮训练的B个自适应策略，分别确定所述损失函数的多个子损失函数的权重，得到第(t+1)轮训练的B个损失函数。
通过这种方式，训练过程中依据奖励函数自适应的调整损失函数的多个子损失函数的权重，实现了奖励函数对损失函数进行自动调和，替代了复杂的手动损失函数设计和超参数遍历，提高了训练效果和效率。
在一种可能的实现方式中，所述根据所述第一样本图像、所述B个第一处理结果，以及第t轮训练的B个损失函数，分别对所述第(t-1)轮训练的B个图像处理网络进行训练，得到第t轮训练的B个图像处理网络，包括：在训练轮数t为预设轨迹N的倍数的情况下，根据所述第一样本图像、所述B个第一处理结果，以及第t轮训练的B个损失函数，分别对所述第(t-1)轮训练的B个图像处理网络进行训练，得到第t轮训练的B个中间状态的图像处理网络，N为大于1的整数；将所述验证集中的第二样本图像分别输入所述第t轮训练的B个中间状态的图像处理网络中处理，得到所述第二样本图像的B个第三处理结果；根据所述第二样本图像、所述B个第三处理结果及所述奖励函数，分别确定所述第t轮训练的B个中间状态的图像处理网络的第t轮训练的奖励结果；根据所述第t轮训练的奖励结果，从所述第t轮训练的B个中间状态的图像处理网络中确定出第t轮训练的目标图像处理网络；根据所述第t轮训练的目标图像处理网络，确定第t轮训练的B个图像处理网络。
通过这种方式，每间隔N轮迭代对训练过程调整一次，将训练的目标图像处理网络确定第为图像处理网络，可减少因训练过程中新旧策略变化差异过大所导致的不利于学习的情况，可提高训练效率与训练的准确度。
在一种可能的实现方式中，所述训练条件包括训练轮数达到总训练轮数T，T为整数且1<t≤T，所述在第t轮训练的B个图像处理网络满足训练条件的情况下，根据所述第t轮训练的B个图像处理网络，确定训练后的图像处理网络，包括：在t＝T的情况下，将所述验证集中的第二样本图像分别输入第T轮训练的B个图像处理网络中处理，得到所述第二样本图像的B个第四处理结果；根据所述第二样本图像、所述B个第四处理结果及所述奖励函数，分别确定所述第T轮训练的B个图像处理网络的第T轮训练的奖励结果；根据所述第T轮训练的奖励结果，从所述第T轮训练的B个图像处理网络中确定出第T轮训练的目标图像处理网络；将所述第T轮训练的目标图像处理网络，确定为训练后的图像处理网络。
通过这种方式，可预设总训练轮数T，可以在有限轮中就得到训练好的图像处理网络，提高了图像处理网络的训练效率。
在一种可能的实现方式中，所述多个子损失函数包括第一子损失函数、第二子损失函数及第三子损失函数，所述第一子损失函数用于指示编码码率的误差，所述第二子损失函数用于指示峰值信噪比PSNR的误差，所述第三子损失函数用于指示结构相似性SSIM的误差，其中，所述画质指标包括峰值信噪比PSNR及结构相似性SSIM。
通过这种方式，调整损失函数中多个子损失的权重，可有效平衡编码码率、以及各画质评价指标对网络训练的影响。
在一种可能的实现方式中，所述待处理图像的第一压缩结果用于进行传输和/或存储。
通过这种方式，第一压缩结果用于进行传输和/或存储，可降低图像的储存或传输成本。
根据本公开的一方面，提供了一种图像处理装置，包括：压缩模块，用于对待处理图像进行压缩处理，得到所述待处理图像的第一压缩结果；重建模块，用于对所述第一压缩结果进行重建处理，得到所述待处理图像的重建图像，其中，所述图像处理装置是通过图像处理网络实现的，所述图像处理网络是通过奖励函数自动调整损失函数的训练方法得到的，所述图像处理网络的损失函数包括多个子损失函数，所述奖励函数用于在训练过程中调整所述多个子损失函数的权重。
通过这种方式，能够通过奖励函数能够调整损失函数的多个子损失函数的权重，实现了奖励函数对损失函数进行自动调和，替代了复杂的手动损失函数设计和超参数遍历，提高了训练效果和效率，并且使训练好的图像处理网络在保证图像质量的情况下，降低图像的存储和传输成本。
在一种可能的实现方式中，所述奖励函数包括第一函数及多个第二函数，所述第一函数用于指示所述图像处理网络的编码码率的偏差；所述第二函数用于指示所述图像处理网络的画质指标的偏差。
通过这种方式，奖励函数能够用于指示图像处理网络的编码码率的偏差，及多个画质指标的偏差，在此情况下，通过该奖励函数对损失函数的在线调和，能够有效控制编码码率与各画质指标间的权衡，节省大量手动尝试的成本，并有利于在保证图像质量的情况下，降低图像的存储和传输成本。
在一种可能的实现方式中，所述压缩模块用于：对所述待处理图像进行编码，得到所述待处理图像的第一图像特征；对所述第一图像特征进行量化，得到所述待处理图像的量化数据及量化分布信息；对所述量化数据进行熵编码，得到所述待处理图像的压缩码流，所述第一压缩结果包括所述压缩码流及所述量化分布信息。
通过这种方式，压缩模块对待处理图像进行压缩处理，得到的待处理图像的第一压缩结果，具有更优的压缩效果。
在一种可能的实现方式中，所述重建模块用于：对所述第一压缩结果进行熵解码，得到第二图像特征；对所述第二图像特征进行解码，得到所述待处理图像的重建图像。
通过这种方式，重建模块对第一压缩结果进行重建处理，能够使解压缩的重建图像，无失真或减少失真。
在一种可能的实现方式中，所述装置还包括训练模块：用于根据训练集及验证集对所述图像处理网络进行训练，得到训练后的图像处理网络；其中，训练模块用于：对于第t轮训练，将所述训练集中的第一样本图像分别输入第(t-1)轮训练的B个图像处理网络中处理，得到所述第一样本图像的B个第一处理结果，t、B为大于1的整数；根据所述第一样本图像、所述B个第一处理结果，以及第t轮训练的B个损失函数，分别对所述第(t-1)轮训练的B个图像处理网络进行训练，得到第t轮训练的B个图像处理网络；在第t轮训练的B个图像处理网络满足训练条件的情况下，根据所述第t轮训练的B个图像处理网络，确定训练后的图像处理网络。
通过这种方式，可以根据训练集及验证集对图像处理网络进行训练，得到训练后的图像处理网络，有助于对图像处理网络高效训练，使训练好的图像处理网络性能更优秀。
在一种可能的实现方式中，训练模块，还用于：对于第t轮训练，将所述验证集中的第二样本图像分别输入所述第t轮训练的B个图像处理网络中处理，得到所述第二样本图像的B个第二处理结果；根据所述第二样本图像、所述B个第二处理结果及所述奖励函数，分别确定与所述第t轮训练的B个图像处理网络对应的第(t+1)轮训练的B个自适应策略；根据所述第(t+1)轮训练的B个自适应策略，分别确定所述损失函数的多个子损失函数的权重，得到第(t+1)轮训练的B个损失函数。
通过这种方式，训练过程中依据奖励函数自适应的调整损失函数的多个子损失函数的权重，实现了奖励函数对损失函数进行自动调和，替代了复杂的手动损失函数设计和超参数遍历，提高了训练效果和效率。
在一种可能的实现方式中，所述根据所述第一样本图像、所述B个第一处理结果，以及第t轮训练的B个损失函数，分别对所述第(t-1)轮训练的B个图像处理网络进行训练，得到第t轮训练的B个图像处理网络，包括：在训练轮数t为预设轨迹N的倍数的情况下，根据所述第一样本图像、所述B个第一处理结果，以及第t轮训练的B个损失函数，分别对所述第(t-1)轮训练的B个图像处理网络进行训练，得到第t轮训练的B个中间状态的图像处理网络，N为大于1的整数；将所述验证集中的第二样本图像分别输入所述第t轮训练的B个中间状态的图像处理网络中处理，得到所述第二样本图像的B个第三处理结果；根据所述第二样本图像、所述B个第三处理结果及所述奖励函数，分别确定所述第t轮训练的B个中间状态的图像处理网络的第t轮训练的奖励结果；根据所述第t轮训练的奖励结果，从所述第t轮训练的B个中间状态的图像处理网络中确定出第t轮训练的目标图像处理网络；根据所述第t轮训练的目标图像处理网络，确定第t轮训练的B个图像处理网络。
通过这种方式，每间隔N轮迭代对训练过程调整一次，将训练的目标图像处理网络确定第为图像处理网络，可减少因训练过程中新旧策略变化差异过大所导致的不利于学习的情况，可提高训练效率与训练的准确度。
在一种可能的实现方式中，所述训练条件包括训练轮数达到总训练轮数T，T为整数且1<t≤T，所述在第t轮训练的B个图像处理网络满足训练条件的情况下，根据所述第t轮训练的B个图像处理网络，确定训练后的图像处理网络，包括：在t＝T的情况下，将所述验证集中的第二样本图像分别输入第T轮训练的B个图像处理网络中处理，得到所述第二样本图像的B个第四处理结果；根据所述第二样本图像、所述B个第四处理结果及所述奖励函数，分别确定所述第T轮训练的B个图像处理网络的第T轮训练的奖励结果；根据所述第T轮训练的奖励结果，从所述第T轮训练的B个图像处理网络中确定出第T轮训练的目标图像处理网络；将所述第T轮训练的目标图像处理网络，确定为训练后的图像处理网络。
通过这种方式，可预设总训练轮数T，可以在有限轮中就得到训练好的图像处理网络，提高了图像处理网络的训练效率。
在一种可能的实现方式中，所述多个子损失函数包括第一子损失函数、第二子损失函数及第三子损失函数，所述第一子损失函数用于指示编码码率的误差，所述第二子损失函数用于指示峰值信噪比PSNR的误差，所述第三子损失函数用于指示结构相似性SSIM的误差，其中，所述画质指标包括峰值信噪比PSNR及结构相似性SSIM。
通过这种方式，调整损失函数中多个子损失的权重，可有效平衡编码码率、以及各画质评价指标对网络训练的影响。
在一种可能的实现方式中，所述待处理图像的第一压缩结果用于进行传输和/或存储。
通过这种方式，第一压缩结果用于进行传输和/或存储，可降低图像的储存或传输成本。
根据本公开的一方面，提供了一种电子设备，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为调用所述存储器存储的指令，以执行上述方法。
根据本公开的一方面，提供了一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现上述方法。
在本公开实施例中，通过奖励函数能够调整损失函数的多个子损失函数的权重，实现了奖励函数对损失函数进行自动调和，替代了复杂的手动损失函数设计和超参数遍历，提高了训练效果和效率，并且使训练好的图像处理网络在保证图像质量的情况下，降低图像的存储和传输成本。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，而非限制本公开。根据下面参考附图对示例性实施例的详细说明，本公开的其它特征及方面将变得清楚。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，这些附图示出了符合本公开的实施例，并与说明书一起用于说明本公开的技术方案。
图1示出根据本公开实施例的图像处理方法的流程图。
图2示出根据本公开实施例的奖励函数的示意图。
图3示出根据本公开实施例的图像处理网络的示意图。
图4示出根据本公开实施例的图像处理方法的图像处理效果的示意图。
图5示出根据本公开实施例的图像处理装置的框图。
图6示出根据本公开实施例的电子设备的框图。
图7示出根据本公开实施例的电子设备的框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面，但是除非特别指出，不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合，例如，包括A、B、C中的至少一种，可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。
另外，为了更好地说明本公开，在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解，没有某些具体细节，本公开同样可以实施。在一些实例中，对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述，以便于凸显本公开的主旨。
相关技术中，在深度学习图像压缩训练时，需要预先指定描述图像的画质保真度的损失函数，例如可采用峰值信噪比(Peak Signal To Noise Ratio，PSNR)损失函数或多层级结构相似性(Multiscale Structural Similarity，MS-SSIM)损失函数。其中，MS-SSIM损失函数可保留图像的高频信息(即图像中的边缘和细节信息)，但容易导致图像亮度的改变和颜色的偏差；与之相反，PSNR损失函数可以较好的保持图像亮度和颜色不变化。所以，无论是PSNR损失函数还是MS-SSIM损失函数，只可代表人的部分主观感受，优化目标比较片面，在压缩率较高时会造成不同类型的视觉失真。
为缓解上述问题，可将PSNR损失函数和MS-SSIM损失函数进行手动的组合。然而，手动设计的混合损失函数比较复杂，需要专家经验，且难以平衡PSNR损失和MS-SSIM损失的优化，不能保证最终的主客观效果提升。
相关技术中，虽然在针对高级视觉任务上，例如包括图像分割、目标检测、人脸识别、身份认证等任务，存在AutoML等训练方法，可在训练过程中自动调整损失函数的超参数。然而，这些高级任务与图像压缩任务有很大的差异，图像压缩是一项典型的低级视觉任务。在高级视觉任务中，损失函数和评估度量之间的不匹配导致的性能降低，为损失函数搜索或自适应方法留下了相对较大的改进空间。在例如图像压缩的低级视觉任务中，流行的评估指标，例如包括PSNR和MS-SSIM，可以作为损失函数。通过重新分级这两个指标来实现性能改进要困难得多。此外，在低级别的视觉任务中，没有一个单一的评估度量或已知的组合可以很好地代表人类视觉感知来优化最终目标，这带来了额外的复杂性。
有鉴于此，本公开提出一种图像处理方法，该方法通过奖励函数能够调整损失函数的多个子损失函数的权重，实现了奖励函数对损失函数进行自动调和，替代了复杂的手动损失函数设计和超参数遍历，提高了训练效果和效率；并且，奖励函数能够用于指示图像处理网络的编码码率的偏差，及多个画质指标(例如包括PSNR指标、MS-SSIM指标)的偏差，在此情况下，通过该奖励函数对损失函数的在线调和，能够有效控制编码码率与各画质指标间的权衡，节省大量手动尝试的成本，并有利于在保证图像质量的情况下，降低图像的存储和传输成本。
图1示出根据本公开实施例的图像处理方法的流程图，如图1所示，所述图像处理方法包括：
在S11中，对待处理图像进行压缩处理，得到所述待处理图像的第一压缩结果；
在S12中，对所述第一压缩结果进行重建处理，得到所述待处理图像的重建图像；
其中，所述图像处理方法是通过图像处理网络实现的，所述图像处理网络是通过奖励函数自动调整损失函数的训练方法得到的，所述图像处理网络的损失函数包括多个子损失函数，所述奖励函数用于在训练过程中调整所述多个子损失函数的权重。
在一种可能的实现方式中，所述图像处理方法可以由终端设备或服务器等电子设备执行，终端设备可以为用户设备(User Equipment，UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字助理(Personal Digital Assistant，PDA)、手持设备、计算设备、车载设备、可穿戴设备等，所述方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。或者，可通过服务器执行所述方法。
在一种可能的实现方式中，所述图像处理方法输入的待处理图像可以是安防摄像头的抓拍图像、遥感图像、医学图像等，本公开对待处理图像的来源及具体类型不作限制。
在一种可能的实现方式中，所述图像处理网络可包括压缩网络和重建网络，压缩网络可用于对待处理图像进行压缩处理，获得用于存储或传输的第一压缩结果，重建网络可用于对第一压缩结果解压缩，获得重建图像。其中，第一压缩结果所占用的存储空间越小，重建图像与待处理图像的差别越小，该方法的效果也越好。
在S11中，对待处理图像进行压缩处理，得到所述待处理图像的第一压缩结果；
举例来说，可以将待处理图像输入图像处理网络的压缩网络中，对待处理图像进行压缩处理，得到所述待处理图像的第一压缩结果；图像处理网络的压缩网络可以是基于深度学习的压缩网络，待处理图像的长宽可以例如是384像素×512像素，每个像素占用24比特(Bit)位数，可占据的存储空间为576KB。将该待处理图像输入图像处理网络的压缩网络中处理，得到的第一压缩结果可以是包括48*64*192个数据单元，每个数据单元平均可消耗1比特的压缩特征数据，可占用48*64*192比特的存储空间。经过压缩处理后，第一压缩结果中每个像素需要的比特数为(48*64*192)/(384*512)＝3比特/像素，压缩比为24:3＝8:1。
由此可见，一张需占用576KB的待处理图像，通过压缩网络的处理后，可转换为消耗72KB存储空间的第一压缩结果。对比直接将待处理图像进行存储或传输，对第一压缩结果进行存储或传输，可节省对存储空间以及减少传输带宽。
其中，基于深度学习的压缩网络可包括多个卷积、池化、非线性等网络层，本公开对压缩网络的具体网络结构不作限制。
在S12中，对所述第一压缩结果进行重建处理，得到所述待处理图像的重建图像；
举例来说，可以将所述第一压缩结果输入图像处理网络的重建网络中，对第一压缩结果进行重建处理，得到待处理图像的重建图像。图像处理网络的重建网络也可以是基于深度学习的重建网络，可将大小为72KB的第一压缩结果输入该重建网络，对第一压缩结果进行解压缩，得到待处理图像的重建图像，该重建图像可恢复成占据576KB的图像数据，与待处理图像的画质可保持接近。
其中，基于深度学习的图像重建网络可包括多个卷积、池化、非线性等网络层，本公开对重建网络的具体网络结构不作限制。
应当理解，图像处理网络的结构或网络参数不同，待处理图像的压缩和重建效果也不一样，通过寻找性能更优的训练方法对图像处理网络进行训练，所获取的训练好的图像处理网络性能也更优。
在一种可能的实现方式中，所述图像处理网络是通过预设的训练集、预设的验证集、损失函数以及奖励函数训练得到的；其中，训练集用于对图像处理网络进行训练，测试集用于对训练好的图像处理网络的性能进行评估，可将测试集输入奖励函数，通过奖励函数输出的结果确定图像处理网络的性能。
例如，可利用基于强化学习的多损失函数在线调和训练方法，例如包括近端策略优化(Proximal Policy Optimization，PPO)方法，对图像处理网络进行训练，在训练过程中，通过奖励函数自适应的调整损失函数多个子损失间的权重，并基于在线调整中的损失函数和训练集对图像处理网络进行训练，直至利用寻找到最优的损失函数，并将基于该损失函数训练得到的图像处理网络作为目标图像处理网络。
可预设多个损失函数，在训练过程中，通过奖励函数分别调整多个损失函数的超参数的采样空间，进而调整多个损失函数各自的多个子损失函数的权重，直至寻找到最优的损失函数，基于该损失函数训练得到的图像处理网络可以使奖励函数的函数值最大。
通过这种方式，该方法通过奖励函数能够调整损失函数的多个子损失函数的权重，实现了奖励函数对损失函数进行自动调和，替代了复杂的手动损失函数设计和超参数遍历，提高了训练效果和效率，使训练好的图像处理网络在保证图像质量的情况下，降低图像的存储和传输成本。
在一种可能的实现方式中，所述待处理图像的第一压缩结果用于进行传输和/或存储。
举例来说，针对安防场景，安防摄像头会抓拍海量的图像(例如人脸图像)，并将海量的图像传输给服务器进行数据分析，在这个过程中，图像数据越大，所消耗的传输时间越长，并且需要保存海量的图像数据，占用的存储空间也越大。
采用本公开方法，可对海量的抓拍图像分别进行图像压缩，得到抓拍图像第一压缩结果，例如，第一压缩结果的大小为抓拍图像大小的1/S，S为大于1的实数。在这种情况下，安防摄像头可将第一压缩结果传输给服务器，服务器对接收的第一压缩结果存储。在服务器需要对抓拍图像分析时，可以先对第一压缩结果解压缩(重建)，对重建图像进行分析处理，该重建图像与压缩前的原图相比，失真很小，可满足数据分析的要求。
因此，在安防场景，对第一压缩结果进行传输和/或存储，可以在保证图像质量的情况下尽可能地减小图片的存储空间，或者在占用同样的存储空间时，能够尽可能提升保存的图片的质量。起到提升安防产品(例如人脸识别系统，该产品服务器存储了人脸抓拍图像的第一压缩结果)质量和降低存储和维护成本的作用。
举例来说，针对医学图像处理场景，医疗设备会不断地获取大量的医学图像(例如核磁图像、超声图像等)，并将大量的图像传输给服务器进行图像分析。为了防止病情的延误，服务器需要尽快获取医疗设备拍摄的医学图像，并对图像进行分析处理。
在这种情况下，可采用本公开方法对医疗设备拍摄的医学图像进行图像压缩，将压缩后的第一压缩结果传输给服务器，减少图像传输的时间。服务器接收到第一压缩结果，可以先对第一压缩结果解压缩(重建)，然后对重建图像进行分析处理，该重建图像与压缩前的原图相比，失真很小，可满足数据分析的要求。并且，服务器需要保存大量病人的医学图像，如果直接对原图保存会消耗大量存储空间，可对第一压缩结果进行存储，降低对服务器的存储空间的消耗，进而降低了服务器的维护成本。
举例来说，针对图文直播平台的应用场景，媒体可使用电子设备(例如手机)对直播现场进行拍照，并将拍摄的照片传输给图文直播平台，由于图文直播平台会收到大量媒体发送的大量现场图像，而图文直播平台用于接收图像的带宽不能满足需求时，会导致传输拥堵，不用实时的进行图文直播。
在这种情况下，可采用本公开方法对电子设备(例如手机)拍摄的现场图像进行图像压缩，将压缩后的第一压缩结果传输给图文直播平台，减少图像传输的时间，保证现场图像的实时性。服务器接收到第一压缩结果，可以先对第一压缩结果解压缩(重建)，然后对重建图像进行分析处理，该重建图像与压缩前的原图相比，失真很小，可满足图像直播的要求。并且，图文直播平台需要保存不同媒体的大量现场图像，如果直接对原图保存会消耗大量存储空间，可对第一压缩结果进行存储，降低对图文直播平台的存储空间的消耗，进而降低了平台的维护成本。
应当理解，本公开对第一压缩结果具体的应用场景不作限制，在保证图像质量的情况下尽可能地减小图片的存储空间，或者在占用同样的存储空间时，能够尽可能提升保存的图片的质量的情况下，可用本公开方法中的第一压缩结果进行传输和/或存储。
通过这种方式，第一压缩结果用于进行传输和/或存储，可降低图像的储存或传输成本。
在一种可能的实现方式中，奖励函数包括第一函数及多个第二函数，第一函数用于指示图像处理网络的编码码率与目标码率之间的偏差；多个第二函数分别用于指示各画质指标的偏差，例如包括PSNR指标、MS-SSIM指标等。本公开对奖励函数包括的函数项的数量不作限制。
图2示出根据本公开实施例的奖励函数的示意图。如图2所示，图中实线和虚线分别为单独采用PSNR和MS-SSIM作为损失函数，训练出的图像处理网络在PSNR和MS-SSIM两个评价画质指标上的码率-失真(RD)曲线。图2中“X”标记为训练过程中某个中间状态的图像处理网络的RD表现。
如图2所示，奖励函数可设计为：
在公式(1)中，代表图像处理网络，Sv代表训练集图像，R代表码率，即图像中各像素占据的比特位数(Bits Per Pixel，BPP)，例如，对于一张RGB三通道图像，每个像素需要消耗24个比特。
公式(1)所示的奖励函数包括了三个函数项，即由一个第一函数和两个第二函数构成。
其中，第一函数用于评价图像处理网络的编码码率性能，也即图像处理网络的码率R与给定的目标码率Rtarget的偏差。
第二函数用于评价图像处理网络的画质指标PSNR性能，中f1(psnr)的计算方法如图2左图所示，表示在左图中与实线的差距，即在相同的PSNR值下，码率R和实线对应码率f1(psnr)之间的差值。
另一个第二函数用于评价图像处理网络的画质指标MS-SSIM性能，中f2(ms-ssim)的计算方法如图2右图所示，表示在右图中与虚线的差距，即在相同的MS-SSIM值下，码率R和虚线对应码率f2(ms-ssim)之间的差值。
为了使图像处理网络可以匹配不同的应用场景，可针对当前的应用场景，可预设奖励函数的函数项，可以使用不同的函数进行加权和重塑。例如可以表示为：
在公式(2)中，可以设ω1＝25，ω3＝10，该参数的设置，可以使当前奖励函数更匹配需要图像处理网络的画质指标MS-SSIM更优的应用场景，在该奖励函数调和下自动生成的损失函数，可训练出画质指标MS-SSIM性能较优的图像处理网络
还可以表示为：
ωi可用于控制画质指标PSNR和画质指标MS-SSIM之间的优先级。为了在优化PSNR指标的情况下，同时关注MS-SSIM指标，可设置ω1＝25；ω2＝100；ω3＝1。为了优化MS-SSIM指标，同时关注PSNR指标，可设置ω1＝25；ω2＝1；ω3＝100。
因此，可针对当前应用场景的需要，预设满足当前场景需要的奖励函数本公开对中具体的参数设置不作限制。如公式(1)设计的奖励函数可以综合的调和图像处理网络的码率R、PSNR和MS-SSIM这三个指标的优化。
例如，对于安防场景，经常需要保存大量的图片。可采用本公开方法预设满足该场景的奖励函数，实现在保证图像质量的情况下，尽可能地减小图片的存储空间，或者，在占用同样的存储空间时，能够尽可能提升保存的图片的质量。起到提升产品质量和降低存储和维护成本的作用。
应当理解，公式(1)～(3)所示的奖励函数仅仅通过三个函数项作为示例，奖励函数也可以有更多的对应不同画质平均指标的函数项，本公开对奖励函数包括的函数项的数量不作限制。
通过这种方式，奖励函数能够用于指示图像处理网络的编码码率的偏差，及多个画质指标(例如包括PSNR指标、MS-SSIM指标)的偏差，在此情况下，通过该奖励函数对损失函数的在线调和，能够有效控制编码码率与各画质指标间的权衡，节省大量手动尝试的成本，并有利于在保证图像质量的情况下，降低图像的存储和传输成本。
下面对本公开实施例的图像处理方法进行展开说明。
图3示出根据本公开实施例的图像处理网络的示意图，如图3所示，该图像处理网络可包括压缩网络和重建网络，其中，灰色箭头用于指示压缩网络的数据流，黑色箭头用于指示重建网络的数据流，白色箭头用于指示压缩网络和重建网络共享的数据流。
在一种可能的实现方式中，所述对待处理图像进行压缩处理，得到所述待处理图像的第一压缩结果，包括：对所述待处理图像进行编码，得到所述待处理图像的第一图像特征；对所述第一图像特征进行量化，得到所述待处理图像的量化数据及量化分布信息；对所述量化数据进行熵编码，得到所述待处理图像的压缩码流，所述第一压缩结果包括所述压缩码流及所述量化分布信息。
举例来说，可将待处理图像输入图像处理网络的压缩网络中处理，得到待处理图像的第一压缩结果。
其中，压缩网络可以包括编码子网络、量化子网络及熵编码子网络。可通过编码子网络对所述待处理图像进行处理，得到待处理图像的第一图像特征；通过量化子网络对所述第一图像特征进行量化，得到待处理图像的量化数据及量化分布信息；通过熵编码子网络对量化数据进行处理，得到待处理图像的压缩码流，第一压缩结果包括压缩码流及所述量化分布信息，第一压缩结果用于传输和/或存储。
如图3所示，压缩网络可包括编码子网络ga、量化子网络Q1、熵编码子网络AE1。
可将待处理图像x输入编码子网络ga，得到待处理图像x的第一图像特征y。其中，编码子网络ga用于提取待处理图像x的第一图像特征y，可降低待处理图像x的数据量，方便后续的量化、编码处理，有效地提高编码效率。
然后，将第一图像特征y输入量化子网络Q1，对第一图像特征y量化处理，得到量化数据其中，量化子网络Q1用于将第一图像特征y中连续的数值域转换成离散集合，可进一步降低数据量。该量化子网络Q1可通过等距离法、模糊聚类法等方法进行量化处理，本公开对具体采用的量化方法不作限制。
由于量化后的量化数据中多处存在0阶导数，为了使图像处理网络在训练过程中可以满足可使用梯度下降法的条件，可在第一图像特征y中加入预设均匀噪声使得到的无限接近为了简化运算，可使用代表和
接下来，将量化数据输入熵编码子网络AE1处理，将量化数据转变为一个用来传输或存储的压缩码流。熵编码子网络可在已知信源概率分布的情况下，通过概率分配合适的码字，使得平均总码长最短。其中，熵编码方法可包括香农(Shannon)编码、哈夫曼(Huffman)编码和算术编码(Arithmetic Coding)，本公开对具体的熵编码方法不作限制。
上述过程虽然可获取用于存储和传输的第一压缩结果，但是为了提高压缩效果，还可通过学习边信息，添加至熵编码中，得到更优的第一压缩结果。
图像处理网络对待处理图像x进行压缩处理的过程，可看作学习图像的信号分布过程。对于待处理图像x，并不知道待处理图像x的实际分布，然而其分布可存在统计依赖(概率耦合)的，还可引入了基于边信息(图像边缘特征信息)的量化分布信息指导熵编码子网络。
如图3虚线框部分所示，压缩网络还可包括用于指导熵编码的先验子网络，例如，还可以将第一图像特征y输入编码子网络ha，对第一图像特征y进行边信息特征提取，得到边信息特征z。然后依次将边信息特征z依次输入量化子网络Q2、熵编码子网络AE2、熵解码子网络AD2、解码子网络hs，对边信息特征z进行量化处理、熵编码、熵解码、解码重建后得到边信息的先验指导信息再基于环境模型gcm，将量化数据输入环境模型子网络gcm得到基于上下文信息的先验指导信息分别将和输入至熵参数获取子网络gep，得到用于指导熵编码的量化分布信息(μ，σ)。
通过这种方式，该图像处理网络的压缩网络，可通过学习边信息，添加至熵编码中，可以实现更优的压缩效果。因此，对待处理图像进行压缩处理，得到的待处理图像的第一压缩结果，具有更优的压缩效果。
应当理解，上述压缩网络可以包括卷积、池化、非线性等单元进行设计或搭建，本公开对压缩网络的具体结构不作限制。
在一种可能的实现方式中，所述对所述第一压缩结果进行重建处理，得到所述待处理图像的重建图像，包括：对所述第一压缩结果进行熵解码，得到第二图像特征；对所述第二图像特征进行解码，得到所述待处理图像的重建图像。
举例来说，可以将第一压缩结果输入图像处理网络的重建网络中处理，得到待处理图像的重建图像。
其中，重建网络可包括熵解码子网络及解码子网络。可通过熵解码子网络对第一压缩结果进行处理，得到第二图像特征；通过解码子网络对第二图像特征进行处理，得到待处理图像的重建图像。
如图3所示，重建网络可包括熵解码子网络AD1及解码子网络gs。
在获取了第一压缩结果后，可以利用熵解码子网络AD1对所述第一压缩结果进行处理，得到第二图像特征通过解码子网络gs对第二图像特征进行处理，得到待处理图像的重建图像
其中，在熵解码AD1的过程中，可参考上文熵编码子网络AE1的编码过程，还可引入了基于边信息(图像边缘特征信息)的量化分布信息指导熵解码子网络AD1。
通过这种方式，该图像处理网络的压缩网络，可通过学习边信息，添加至熵编码中，可以实现更优的图像重建效果。因此，对第一压缩结果进行重建处理，能够使解压缩的重建图像，无失真或减少失真。
应当理解，上述重建网络可以包括卷积、池化、非线性等单元进行设计或搭建，本公开对重建网络的具体结构不作限制。
在应用图像处理网络之前，可通过损失函数对图像处理网络进行训练，获取训练好的图像处理网络。
在一种可能的实现方式中，所述多个子损失函数包括第一子损失函数、第二子损失函数及第三子损失函数，所述第一子损失函数用于指示编码码率的误差，所述第二子损失函数用于指示峰值信噪比PSNR的误差，所述第三子损失函数用于指示结构相似性SSIM的误差，其中，所述画质指标包括峰值信噪比PSNR及结构相似性SSIM。
举例来说，损失函数L可以表示为：
L＝R+D＝R+λMSE·MSE+λMS-SSIM·(1-MS-SSIM) (4)
在公式(4)中，第一子损失函数R用于指示编码码率的误差，第二子损失函数MSE用于指示峰值信噪比PSNR的误差，第三子损失函数(1-MS-SSIM)用于指示结构相似性SSIM的误差，例如包括多层次结构相似性MS-SSIM的误差。λMSE与λMS-SSIM分别代表第二子损失函数MSE和第三子损失函数(1-MS-SSIM)的权重参数。
由于λMSE与λMS-SSIM的取值均大于零，为了简化运算，可以使 其中，λ′MSE与λ′MS-SSIE可作为损失函数的超参数，可以表示为λ＝(λ′MSE，λ′MS-SSIE)，通过设置不同的超参数λ，可调整第二子损失函数MSE和第三子损失函数(1-MS-SSIM)的权重参数，从而可确定不同的损失函数。
通过这种方式，调整损失函数的超参数就可以调整损失函数中多个子损失的权重，有利于损失函数的自动调和，可有效平衡编码码率，以及各画质评价指标对网络训练的影响。
应当理解，损失函数可包括多个子损失函数，本公开对子损失函数的具体数量不作限制。针对不同结构的图像处理网络，可预设损失函数，例如，针对如图3所示的图像处理网络，损失函数可表示为：
在公式(5)中，代表图像处理网络的压缩码率，压缩码率可以通过熵的期望形式进行近似，其中，待处理图像x可服从概率分布px，代表熵编码或熵解码过程中的量化数据，代表边信息的量化数据；
代表画质指标，也即重建图像与待处理图像x的失真误差，失真度可使用均方误差MSE、多层级结构相似性MS-SSIM、峰值信噪比PSNR等画质评价指标中的一种或多种组合。超参数λ包括多个参数，与D中存在的画质指标个数相对应，用于调节画质指标的权值。
其中，预测分布可表示为：
在公式(6)中，量化数据包括了多个量化元素i用于指示量化数据中的各元素的编号，可代表一个均值为μi，标准差为σ的正态分布，代表均匀分布。
或者，还可以根据自回归方法，将预测分布可表示为：
在公式(7)中，量化数据代表量化数据中包括的量化元素附近的量化元素，例如预设距离内的量化元素，本公开对预设距离的具体取值不作限制，环境模型子网络gcm和熵参数获取子网络gep可以是基于神经网络的变化。
或者，还可以根据高斯混合模型方法，将预测分布表示为：
其中，根据熵参数获取子网络gep可得到K组熵参数(π(k)，μ(k)，σ(k))，k＝1～K。
在确定了图3所示的图像处理网络，公式(1)所示的奖励函数，以及公式(4)所示的损失函数后，可以通过多损失函数调和训练方法对图像处理网络进行训练。
在一种可能的实现方式中，根据所述训练集及所述验证集对所述图像处理网络进行训练，得到训练后的图像处理网络，包括S41～S42：
S41：对于第t轮训练，将所述训练集中的第一样本图像分别输入第(t-1)轮训练的B个图像处理网络中处理，得到所述第一样本图像的B个第一处理结果，t、B为大于1的整数；
S42：根据所述第一样本图像、所述B个第一处理结果，以及第t轮训练的B个损失函数，分别对所述第(t-1)轮训练的B个图像处理网络进行训练，得到第t轮训练的B个图像处理网络；
S43：在第t轮训练的B个图像处理网络满足训练条件的情况下，根据所述第t轮训练的B个图像处理网络，确定训练后的图像处理网络。
举例来说，假设训练集为St，验证集为Sv，待处理图像为x，图像处理网络为θ代表图像处理网络的参数。
在S41～S43之前，可随机初始化B个图像处理网络其中，B为大于1的整数，例如可以将B设置为8，本公开对B的具体取值不作限制。
在S41中，对于第t轮训练(非首轮)，可以将训练集St中第一样本图像数据一个一个地并行输入第(t-1)轮训练的B个图像处理网络中处理，也可以将多个第一样本图像数据以批(batch)数据方式并行输入第n-1轮训练的B个图像处理网络中处理，得到第一样本图像的B个第一处理结果，本公开对第一样本图像输入图像处理网络的具体输入方式不作限制。
其中，每一个第一样本图像可对应B个第一处理结果，即：图像处理网络的第一处理结果～图像处理网络的第一处理结果，各个第一处理结果可包括第一样本图像的第一压缩结果和重建图像。
应当理解，由于t为大于1的整数，针对第1轮训练，可以将训练集St中的第一样本图像分别输入初始化的B个图像处理网络中处理得到第一样本图像的B个第一处理结果。
在S42中，根据第一样本图像、B个第一处理结果，以及第t轮训练的B个损失函数分别对上一轮训练的B个图像处理网络进行训练，得到本轮(第t轮)训练的B个图像处理网络
例如，可根据第一样本图像、处理网络的第一处理结果、通过第t轮训练的损失函数对上一轮训练的图像处理网络进行训练，得到本轮(第t轮)训练的图像处理网络以此类推，可以获取第t轮训练的其它图像处理网络此处不再赘叙。
通过第t轮的B个损失函数对第n-1轮训练的图像处理网络进行训练的过程可以异步并行训练，以提高训练效率。其中，可根据上一轮的训练情况，分别更新本轮训练的B个损失函数的超参数得到本轮的B个损失函数
在S43中，在第t轮训练的B个图像处理网络满足训练条件的情况下，根据第t轮训练的B个图像处理网络将B个图像处理网络中性能最优的图像处理网络，确定为训练后的图像处理网络
其中，满足训练条件的情况可包括第t轮的迭代次数达到了预设次数，或者得到的图像处理网络的性能满足期望性能等，本公开对停止迭代的具体条件不作限制。
通过这种方式，可以根据训练集及验证集对图像处理网络进行训练，得到训练后的图像处理网络，有助于对图像处理网络高效训练，使训练好的图像处理网络性能更优秀。
在一种可能的实现方式中，所述根据所述训练集及所述验证集对所述图像处理网络进行训练，得到训练后的图像处理网络，还包括S44～S46：
S44：对于第t轮训练，将所述验证集中的第二样本图像分别输入所述第t轮训练的B个图像处理网络中处理，得到所述第二样本图像的B个第二处理结果；
S45：根据所述第二样本图像、所述B个第二处理结果及所述奖励函数，分别确定与所述第t轮训练的B个图像处理网络对应的第(t+1)轮训练的B个自适应策略；
S46：根据所述第(t+1)轮训练的B个自适应策略，分别确定所述损失函数的多个子损失函数的权重，得到第(t+1)轮训练的B个损失函数。
举例来说，在S44中，对于第t轮训练(非首轮)，将验证集Sv中的第二样本图像分别输入本轮训练的B个图像处理网络中处理，得到第二样本图像的B个第二处理结果，即：图像处理网络的第一处理结果～图像处理网络的第一处理结果，各第二处理结果可包括第二样本图像的第一压缩结果和重建图像。
其中，本公开可以一个一个的将第二样本图像分别输入本轮训练的B个图像处理网络中处理，也可以通过批(batch)数据方式将第二样本图像分别输入本轮训练的B个图像处理网络中处理，本公开对第二样本图像输入图像处理网络的具体输入方式不作限制。
在S45中，根据验证集Sv中的第二样本图像、B个第二处理结果及奖励函数分别确定本轮训练的B个图像处理网络各自对应的第(t+1)轮训练的B个验证结果该验证结果可包括第t轮训练得到第二处理结果的评价画质失真度的MS-SSIM指标、PSNR指标、量化数据的BPP、边信息量化数据的BPP，以及梯度损失和总变化等。
然后，可根据B个验证结果确定对应的自适应策略i=1～B；其中，自适应策略可以是对验证结果ot(例如果)进行多层感知(Multi-Layer Perceptron，MLP)的结果，即一个均值为μλ，方差为σλ的正态分布，具体的获取方法可以表示为：
在公式(9)中，t代表当前轮训练，当前轮损失函数的超参数λt服从正态分布该正态分布是通过对验证结果ot进行多层感知MLP分析获得的。
在S46中，根据第(t+1)轮训练的B个自适应策略i＝1～B，对得到的如公式(9)所示的B个正态分布进行采样，得到B个损失函数分别对应的B个超参数i＝1～B，进而确定B个损失函数各自的多个子损失函数的权重，得到第(t+1)轮训练的B个损失函数
通过这种方式，训练过程中依据奖励函数自适应的调整损失函数的多个子损失函数的权重(例如包括PSNR和MS-SSIM等子损失函数的权重)，实现了奖励函数对损失函数进行自动调和，替代了复杂的手动损失函数设计和超参数遍历，提高了训练效果和效率。
在一种可能的实现方式中，S42包括：
S421：在训练轮数t为预设轨迹N的倍数的情况下，根据所述第一样本图像、所述B个第一处理结果，以及与第t轮训练的B个损失函数，分别对所述第(t-1)轮训练的B个图像处理网络进行训练，得到第t轮训练的B个中间状态的图像处理网络，N为大于1的整数；
S422：将所述验证集中的第二样本图像分别输入所述第t轮训练的B个中间状态的图像处理网络中处理，得到所述第二样本图像的B个第三处理结果；
S423：根据所述第二样本图像、所述B个第三处理结果及所述奖励函数，分别确定所述第t轮训练的B个图像处理网络的第t轮训练的奖励结果；
S424：根据所述第t轮训练的奖励结果，从所述第t轮训练的B个中间状态的图像处理网络中确定出第t轮训练的目标图像处理网络；
S425：根据所述第t轮训练的目标图像处理网络，确定第t轮训练的B个图像处理网络。
举例来说，在S421中，在训练轮数t为预设轨迹N的倍数(N＞1)的情况下，根据训练集St中的第一样本图像、S41中得到的第一样本图像的B个第一处理结果，以及与第t轮训练的B个损失函数分别对上一轮训练的B个图像处理网络进行训练，得到本轮训练的B个中间状态的图像处理网络
其中，在训练轮数t不是预设轨迹N的倍数的情况下，可以按照S41～S43进行数据处理。
因此，通过预设轨迹N，可以每间隔N轮迭代对训练过程调整一次，N的取值越小，轮与轮之间训练所得的目标图像处理网络的参数分布的变化越小，越有利于整体训练的学习过程。
在S422中，将验证集Sv中的第二样本图像分别输入本轮训练的B个中间状态的图像处理网络中处理，得到第二样本图像的B个第三处理结果，即：图像处理网络的第三处理结果～图像处理网络的第三处理结果，各第三处理结果可包括第二样本图像的第一压缩结果和重建图像。
其中，本公开可以一个一个的将第二样本图像分别输入本轮训练的B个中间状态的图像处理网络中中处理，也可以通过批(batch)数据方式将第二样本图像分别输入本轮训练的B个中间状态的图像处理网络中处理，本公开对第二样本图像输入图像处理网络的具体输入方式不作限制。
在S423中，可以将验证集Sv中的第二样本图像、B个第三处理结果，分别输入对应的奖励函数确定第t轮训练的B个中间状态的图像处理网络的第t轮训练的奖励结果
其中，为了便于训练过程中的梯度下降，还可以通过最小化代理损失函数(Surrogate Loss Function，SLF)，得到最优化的自适应策略的参数ωp，并通过参数ωp调整自适应策略可以使本轮策略与上一轮迭代的策略间的偏差相对较小，有利于之后轮的迭代训练。其中，根据自适应策略的参数ωp，可以调整损失函数的超参数λ服从的正态分布。
代理损失函数可以表示为LCLIP，即：
在公式(10)中，采样系数用于指示新旧自适应策略间的变化率；剪切函数CLIP(ft(ωp)，1-∈，1+∈)用于将评估优势限制在需要的范围内，其中剪切率∈的取值可以为0.2，本公开对剪切率∈具体的取值范围不作限制。
在S424中，根据所述第t轮训练的奖励结果从第t轮训练的B个中间状态的图像处理网络中，将奖励结果中最大的奖励结果所对应的图像处理网络确定为第t轮训练的目标图像处理网络，即：
在S425中，根据第t轮训练的目标图像处理网络可以将第t轮训练的B个图像处理网络的替换成目标图像处理网络可确定第t轮训练的B个图像处理网络
通过这种方式，每间隔N轮迭代对训练过程调整一次，将训练的目标图像处理网络确定第为图像处理网络，可减少因训练过程中新旧策略变化差异过大所导致的不利于学习的情况，可提高训练效率与训练的准确度。
在一种可能的实现方式中，所述训练条件包括训练轮数达到总训练轮数T，T为整数且1<t≤T，S43包括：
S431：在t＝T的情况下，将所述验证集中的第二样本图像分别输入第T轮训练的B个图像处理网络中处理，得到所述第二样本图像的B个第四处理结果；
S422：根据所述第二样本图像、所述B个第四处理结果及所述奖励函数，分别确定所述第T轮训练的B个图像处理网络的第T轮训练的奖励结果；
S433：根据所述第T轮训练的奖励结果，从所述第T轮训练的B个图像处理网络中确定出第T轮训练的目标图像处理网络；
S434：将所述第T轮训练的目标图像处理网络，确定为训练后的图像处理网络。
举例来说，在S431中，可以预设总的训练轮数为T，在训练轮数t为第T轮的情况下，将验证集Sv中的第二样本图像分别输入第T轮训练的B个图像处理网络中处理得到第二样本图像的B个第四处理结果，即：图像处理网络的第四处理结果～图像处理网络的第四处理结果，各第四处理结果可包括第二样本图像的第一压缩结果和重建图像。
其中，本公开可以一个一个的将第二样本图像分别输入本轮训练的B个图像处理网络中中处理，也可以通过批(batch)数据方式将第二样本图像分别输入第T轮训练的B个图像处理网络中处理，本公开对第二样本图像输入图像处理网络的具体输入方式不作限制。
在S432中，可以将第二样本图像、B个第四处理结果，分别输入对应的奖励函数确定第T轮训练的B个图像处理网络的奖励结果
在S433中，根据第T轮训练的奖励结果从第T轮训练的B个图像处理网络中，将奖励结果中最大的奖励结果所对应的图像处理网络确定出第T轮训练的目标图像处理网络
在S434中，将第T轮训练的目标图像处理网络确定为训练后的图像处理网络。
应当理解，在第T轮训练之前，如果得到的图像处理网络的性能满足期望性能，可以结束训练，并将该图像处理网络作为训练好的图像处理网络。
通过这种方式，可预设总训练轮数T，可以在有限轮中就得到训练好的图像处理网络，提高了图像处理网络的训练效率。
综上可知，可随着训练动态调整损失函数中多个子损失函数的权重。具体来说，可分别根据当前轮的自适应策略π(·│o)，对损失函数超参数λ多轮采样，得到最优的损失函数，使得图像处理网络在验证集Sv上的奖励最大，其中，图像处理网络的参数θ是可通过最小化当前损失函数获得。通过上述双层优化的方式，直至得到最优的图像处理网络即：
在公式(11)中，L＝R+λMSE·MSE+λMS-SSIM·(1-MS-SSIM)代表损失函数，该损失函的超参数λ包括各子损失函数λMSE与λMS-SSIM的权值参数。
本公开方法能够有效控制码率、PSNR和MS-SSIM三个指标之间的权衡，节省大量手动尝试的成本，调和训练能够同时在PSNR和MS-SSIM两个指标上获得提升，解决单独优化PSNR或MS-SSIM在低码率带来的不同画质问题。
图4示出根据本公开实施例的图像处理方法的图像处理效果的示意图。如图4所示，左侧图像(a)为原始的待处理图像；中间图片(b)为使用本公开方法的效果示意图，图像中各像素占据的比特位数为0.128BPP；右侧图像(c)为使用JPEG方法的效果示意图，图像中各像素占据的比特位数为0.164BPP。
对比原始的待处理图像(a)以及JPEG方法(c)，可以看出，使用本公开方式训练得到的图像处理网络对待处理图像进行图像压缩，可以在BPP更低的情况下，更好的保留图片细节(如图4中方框所示)，与原始的待处理图像的图像质量一致，减少了压缩处理所引入的图像失真。
因此，根据本公开实施例的图像处理方法，图像处理网络可以通过预设的训练集、预设的验证集、损失函数以及奖励函数训练得到，通过奖励函数能够调整损失函数的多个子损失函数的权重，实现了奖励函数对损失函数进行自动调和，替代了复杂的手动损失函数设计和超参数遍历，提高了训练效果和效率；并且，奖励函数包括的第一函数及多个第二函数，分别用于指示图像处理网络的编码码率的偏差，及多个画质指标的偏差，通过该奖励函数对损失函数的在线调和，能够有效控制编码码率与各画质指标间的权衡，节省大量手动尝试的成本，并有利于在保证图像质量的情况下，降低图像的存储和传输成本。
可以理解，本公开提及的上述各个方法实施例，在不违背原理逻辑的情况下，均可以彼此相互结合形成结合后的实施例，限于篇幅，本公开不再赘述。本领域技术人员可以理解，在具体实施方式的上述方法中，各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
此外，本公开还提供了图像处理装置、电子设备、计算机可读存储介质、程序，上述均可用来实现本公开提供的任一种图像处理方法，相应技术方案和描述和参见方法部分的相应记载，不再赘述。
图5示出根据本公开实施例的图像处理装置的框图，如图5所示，所述装置包括：
压缩模块51，用于对待处理图像进行压缩处理，得到所述待处理图像的第一压缩结果；
重建模块52，用于对所述第一压缩结果进行重建处理，得到所述待处理图像的重建图像；
其中，所述图像处理装置是通过图像处理网络实现的，所述图像处理网络是通过奖励函数自动调整损失函数的训练方法得到的，所述图像处理网络的损失函数包括多个子损失函数，所述奖励函数用于在训练过程中调整所述多个子损失函数的权重。
应当理解，压缩模块51和重建模块52可以应用于任意处理器，本公开不作限制。
在一种可能的实现方式中，所述奖励函数包括第一函数及多个第二函数，所述第一函数用于指示所述图像处理网络的编码码率的偏差；所述第二函数用于指示所述图像处理网络的画质指标的偏差。
在一种可能的实现方式中，所述压缩模块51用于：对所述待处理图像进行编码，得到所述待处理图像的第一图像特征；对所述第一图像特征进行量化，得到所述待处理图像的量化数据及量化分布信息；对所述量化数据进行熵编码，得到所述待处理图像的压缩码流，所述第一压缩结果包括所述压缩码流及所述量化分布信息。
在一种可能的实现方式中，所述重建模块52用于：对所述第一压缩结果进行熵解码，得到第二图像特征；对所述第二图像特征进行解码，得到所述待处理图像的重建图像。
在一种可能的实现方式中，所述装置还包括训练模块：用于根据训练集及验证集对所述图像处理网络进行训练，得到训练后的图像处理网络；其中，训练模块用于：对于第t轮训练，将所述训练集中的第一样本图像分别输入第(t-1)轮训练的B个图像处理网络中处理，得到所述第一样本图像的B个第一处理结果，t、B为大于1的整数；根据所述第一样本图像、所述B个第一处理结果，以及第t轮训练的B个损失函数，分别对所述第(t-1)轮训练的B个图像处理网络进行训练，得到第t轮训练的B个图像处理网络；在第t轮训练的B个图像处理网络满足训练条件的情况下，根据所述第t轮训练的B个图像处理网络，确定训练后的图像处理网络。
在一种可能的实现方式中，训练模块，还用于：对于第t轮训练，将所述验证集中的第二样本图像分别输入所述第t轮训练的B个图像处理网络中处理，得到所述第二样本图像的B个第二处理结果；根据所述第二样本图像、所述B个第二处理结果及所述奖励函数，分别确定与所述第t轮训练的B个图像处理网络对应的第(t+1)轮训练的B个自适应策略；根据所述第(t+1)轮训练的B个自适应策略，分别确定所述损失函数的多个子损失函数的权重，得到第(t+1)轮训练的B个损失函数。
在一种可能的实现方式中，所述根据所述第一样本图像、所述B个第一处理结果，以及第t轮训练的B个损失函数，分别对所述第(t-1)轮训练的B个图像处理网络进行训练，得到第t轮训练的B个图像处理网络，包括：在训练轮数t为预设轨迹N的倍数的情况下，根据所述第一样本图像、所述B个第一处理结果，以及第t轮训练的B个损失函数，分别对所述第(t-1)轮训练的B个图像处理网络进行训练，得到第t轮训练的B个中间状态的图像处理网络，N为大于1的整数；将所述验证集中的第二样本图像分别输入所述第t轮训练的B个中间状态的图像处理网络中处理，得到所述第二样本图像的B个第三处理结果；根据所述第二样本图像、所述B个第三处理结果及所述奖励函数，分别确定所述第t轮训练的B个中间状态的图像处理网络的第t轮训练的奖励结果；根据所述第t轮训练的奖励结果，从所述第t轮训练的B个中间状态的图像处理网络中确定出第t轮训练的目标图像处理网络；根据所述第t轮训练的目标图像处理网络，确定第t轮训练的B个图像处理网络。
在一种可能的实现方式中，所述训练条件包括训练轮数达到总训练轮数T，T为整数且1<t≤T，所述在第t轮训练的B个图像处理网络满足训练条件的情况下，根据所述第t轮训练的B个图像处理网络，确定训练后的图像处理网络，包括：在t＝T的情况下，将所述验证集中的第二样本图像分别输入第T轮训练的B个图像处理网络中处理，得到所述第二样本图像的B个第四处理结果；根据所述第二样本图像、所述B个第四处理结果及所述奖励函数，分别确定所述第T轮训练的B个图像处理网络的第T轮训练的奖励结果；根据所述第T轮训练的奖励结果，从所述第T轮训练的B个图像处理网络中确定出第T轮训练的目标图像处理网络；将所述第T轮训练的目标图像处理网络，确定为训练后的图像处理网络。
在一种可能的实现方式中，所述多个子损失函数包括第一子损失函数、第二子损失函数及第三子损失函数，所述第一子损失函数用于指示编码码率的误差，所述第二子损失函数用于指示峰值信噪比PSNR的误差，所述第三子损失函数用于指示结构相似性SSIM的误差，其中，所述画质指标包括峰值信噪比PSNR及结构相似性SSIM。
在一种可能的实现方式中，所述待处理图像的第一压缩结果用于进行传输和/或存储。
在一些实施例中，本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法，其具体实现可以参照上文方法实施例的描述，为了简洁，这里不再赘述。
本公开实施例还提出一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现上述方法。计算机可读存储介质可以是易失性或非易失性计算机可读存储介质。
本公开实施例还提出一种电子设备，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为调用所述存储器存储的指令，以执行上述方法。
本公开实施例还提供了一种计算机程序产品，包括计算机可读代码，或者承载有计算机可读代码的非易失性计算机可读存储介质，当所述计算机可读代码在电子设备的处理器中运行时，所述电子设备中的处理器执行上述方法。
电子设备可以被提供为终端、服务器或其它形态的设备。
图6示出根据本公开实施例的一种电子设备800的框图。例如，电子设备800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等终端。
参照图6，电子设备800可以包括以下一个或多个组件：处理组件802，存储器804，电源组件806，多媒体组件808，音频组件810，输入/输出(I/O)的接口812，传感器组件814，以及通信组件816。
处理组件802通常控制电子设备800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理组件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在电子设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统，一个或多个电源，及其他与为电子设备800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当电子设备800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当电子设备800处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器，用于为电子设备800提供各个方面的状态评估。例如，传感器组件814可以检测到电子设备800的打开/关闭状态，组件的相对定位，例如所述组件为电子设备800的显示器和小键盘，传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变，用户与电子设备800接触的存在或不存在，电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如互补金属氧化物半导体(CMOS)或电荷耦合装置(CCD)图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络，如无线网络(WiFi)，第二代移动通信技术(2G)或第三代移动通信技术(3G)，或它们的组合。在一个示例性实施例中，通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件816还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
在示例性实施例中，还提供了一种非易失性计算机可读存储介质，例如包括计算机程序指令的存储器804，上述计算机程序指令可由电子设备800的处理器820执行以完成上述方法。
图7示出根据本公开实施例的一种电子设备1900的框图。例如，电子设备1900可以被提供为一服务器。参照图7，电子设备1900包括处理组件1922，其进一步包括一个或多个处理器，以及由存储器1932所代表的存储器资源，用于存储可由处理组件1922的执行的指令，例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件1922被配置为执行指令，以执行上述方法。
电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理，一个有线或无线网络接口1950被配置为将电子设备1900连接到网络，和一个输入输出(I/O)接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统，例如微软服务器操作系统(Windows ServerTM)，苹果公司推出的基于图形用户界面操作系统(Mac OSXTM)，多用户多进程的计算机操作系统(UnixTM),自由和开放原代码的类Unix操作系统(LinuxTM)，开放原代码的类Unix操作系统(FreeBSDTM)或类似。
在示例性实施例中，还提供了一种非易失性计算机可读存储介质，例如包括计算机程序指令的存储器1932，上述计算机程序指令可由电子设备1900的处理组件1922执行以完成上述方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是(但不限于)电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如，通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等，以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA)，该电子电路可以执行计算机可读程序指令，从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中，所述计算机程序产品具体体现为计算机存储介质，在另一个可选实施例中，计算机程序产品具体体现为软件产品，例如软件开发包(Software Development Kit，SDK)等等。
以上已经描述了本公开的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中的技术的改进，或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (12)
1.一种图像处理方法，其特征在于，所述方法包括：
对待处理图像进行压缩处理，得到所述待处理图像的第一压缩结果；
对所述第一压缩结果进行重建处理，得到所述待处理图像的重建图像；
其中，所述图像处理方法是通过图像处理网络实现的，所述图像处理网络是通过奖励函数自动调整损失函数的训练方法得到的，所述图像处理网络的损失函数包括多个子损失函数，所述奖励函数用于在训练过程中调整所述多个子损失函数的权重；
所述奖励函数包括第一函数及多个第二函数，所述第一函数用于指示所述图像处理网络的编码码率的偏差；所述第二函数用于指示所述图像处理网络的画质指标的偏差。
2.根据权利要求1所述的方法，其特征在于，所述对待处理图像进行压缩处理，得到所述待处理图像的第一压缩结果，包括：
对所述待处理图像进行编码，得到所述待处理图像的第一图像特征；
对所述第一图像特征进行量化，得到所述待处理图像的量化数据及量化分布信息；
对所述量化数据进行熵编码，得到所述待处理图像的压缩码流，所述第一压缩结果包括所述压缩码流及所述量化分布信息。
3.根据权利要求1或2所述的方法，其特征在于，所述对所述第一压缩结果进行重建处理，得到所述待处理图像的重建图像，包括：
对所述第一压缩结果进行熵解码，得到第二图像特征；
对所述第二图像特征进行解码，得到所述待处理图像的重建图像。
4.根据权利要求1-3中任意一项所述的方法，其特征在于，所述方法还包括：
根据训练集及验证集对所述图像处理网络进行训练，得到训练后的图像处理网络；
其中，所述根据所述训练集及所述验证集对所述图像处理网络进行训练，得到训练后的图像处理网络，包括：
对于第t轮训练，将所述训练集中的第一样本图像分别输入第(t-1)轮训练的B个图像处理网络中处理，得到所述第一样本图像的B个第一处理结果，t、B为大于1的整数；
根据所述第一样本图像、所述B个第一处理结果，以及第t轮训练的B个损失函数，分别对所述第(t-1)轮训练的B个图像处理网络进行训练，得到第t轮训练的B个图像处理网络；
在第t轮训练的B个图像处理网络满足训练条件的情况下，根据所述第t轮训练的B个图像处理网络，确定训练后的图像处理网络。
5.根据权利要求4所述的方法，其特征在于，所述根据所述训练集及所述验证集对所述图像处理网络进行训练，得到训练后的图像处理网络，还包括：
对于第t轮训练，将所述验证集中的第二样本图像分别输入所述第t轮训练的B个图像处理网络中处理，得到所述第二样本图像的B个第二处理结果；
根据所述第二样本图像、所述B个第二处理结果及所述奖励函数，分别确定与所述第t轮训练的B个图像处理网络对应的第(t+1)轮训练的B个自适应策略；
根据所述第(t+1)轮训练的B个自适应策略，分别确定所述损失函数的多个子损失函数的权重，得到第(t+1)轮训练的B个损失函数。
6.根据权利要求4所述的方法，其特征在于，所述根据所述第一样本图像、所述B个第一处理结果，以及第t轮训练的B个损失函数，分别对所述第(t-1)轮训练的B个图像处理网络进行训练，得到第t轮训练的B个图像处理网络，包括：
在训练轮数t为预设轨迹N的倍数的情况下，根据所述第一样本图像、所述B个第一处理结果，以及第t轮训练的B个损失函数，分别对所述第(t-1)轮训练的B个图像处理网络进行训练，得到第t轮训练的B个中间状态的图像处理网络，N为大于1的整数；
将所述验证集中的第二样本图像分别输入所述第t轮训练的B个中间状态的图像处理网络中处理，得到所述第二样本图像的B个第三处理结果；
根据所述第二样本图像、所述B个第三处理结果及所述奖励函数，分别确定所述第t轮训练的B个中间状态的图像处理网络的第t轮训练的奖励结果；
根据所述第t轮训练的奖励结果，从所述第t轮训练的B个中间状态的图像处理网络中确定出第t轮训练的目标图像处理网络；
根据所述第t轮训练的目标图像处理网络，确定第t轮训练的B个图像处理网络。
7.根据权利要求4-6中任意一项所述的方法，其特征在于，所述训练条件包括训练轮数达到总训练轮数T，T为整数且1<t≤T，
所述在第t轮训练的B个图像处理网络满足训练条件的情况下，根据所述第t轮训练的B个图像处理网络，确定训练后的图像处理网络，包括：
在t＝T的情况下，将所述验证集中的第二样本图像分别输入第T轮训练的B个图像处理网络中处理，得到所述第二样本图像的B个第四处理结果；
根据所述第二样本图像、所述B个第四处理结果及所述奖励函数，分别确定所述第T轮训练的B个图像处理网络的第T轮训练的奖励结果；
根据所述第T轮训练的奖励结果，从所述第T轮训练的B个图像处理网络中确定出第T轮训练的目标图像处理网络；
将所述第T轮训练的目标图像处理网络，确定为训练后的图像处理网络。
8.根据权利要求1所述的方法，其特征在于，所述多个子损失函数包括第一子损失函数、第二子损失函数及第三子损失函数，所述第一子损失函数用于指示编码码率的误差，所述第二子损失函数用于指示峰值信噪比PSNR的误差，所述第三子损失函数用于指示结构相似性SSIM的误差，
其中，所述画质指标包括峰值信噪比PSNR及结构相似性SSIM。
9.根据权利要求1-8中任意一项所述的方法，其特征在于，所述待处理图像的第一压缩结果用于进行传输和/或存储。
10.一种图像处理装置，其特征在于，包括：
压缩模块，用于对待处理图像进行压缩处理，得到所述待处理图像的第一压缩结果；
重建模块，用于对所述第一压缩结果进行重建处理，得到所述待处理图像的重建图像，
其中，所述图像处理装置是通过图像处理网络实现的，所述图像处理网络是通过奖励函数自动调整损失函数的训练方法得到的，所述图像处理网络的损失函数包括多个子损失函数，所述奖励函数用于在训练过程中调整所述多个子损失函数的权重；
所述奖励函数包括第一函数及多个第二函数，所述第一函数用于指示所述图像处理网络的编码码率的偏差；所述第二函数用于指示所述图像处理网络的画质指标的偏差。
11.一种电子设备，其特征在于，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为调用所述存储器存储的指令，以执行权利要求1至9中任意一项所述的方法。
12.一种计算机可读存储介质，其上存储有计算机程序指令，其特征在于，所述计算机程序指令被处理器执行时实现权利要求1至9中任意一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110844476.3A CN113596471B (zh) | 2021-07-26 | 2021-07-26 | 图像处理方法及装置、电子设备和存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110844476.3A CN113596471B (zh) | 2021-07-26 | 2021-07-26 | 图像处理方法及装置、电子设备和存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113596471A CN113596471A (zh) | 2021-11-02 |
| CN113596471B true CN113596471B (zh) | 2023-09-12 |
Family
ID=78249975
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110844476.3A Active CN113596471B (zh) | 2021-07-26 | 2021-07-26 | 图像处理方法及装置、电子设备和存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113596471B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116309151B (zh) * | 2023-03-06 | 2024-08-09 | 腾讯科技（深圳）有限公司 | 图片去压缩失真网络的参数生成方法、装置和存储介质 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108062780A (zh) * | 2017-12-29 | 2018-05-22 | 百度在线网络技术（北京）有限公司 | 图像压缩方法和装置 |
| CN110428378A (zh) * | 2019-07-26 | 2019-11-08 | 北京小米移动软件有限公司 | 图像的处理方法、装置及存储介质 |
| CN111147862A (zh) * | 2020-01-03 | 2020-05-12 | 南京大学 | 一种基于目标编码的端到端图像压缩方法 |
| CN111683250A (zh) * | 2020-05-13 | 2020-09-18 | 武汉大学 | 一种基于深度学习的生成式遥感图像压缩方法 |
| US10965948B1 (en) * | 2019-12-13 | 2021-03-30 | Amazon Technologies, Inc. | Hierarchical auto-regressive image compression system |
-
2021
- 2021-07-26 CN CN202110844476.3A patent/CN113596471B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108062780A (zh) * | 2017-12-29 | 2018-05-22 | 百度在线网络技术（北京）有限公司 | 图像压缩方法和装置 |
| CN110428378A (zh) * | 2019-07-26 | 2019-11-08 | 北京小米移动软件有限公司 | 图像的处理方法、装置及存储介质 |
| US10965948B1 (en) * | 2019-12-13 | 2021-03-30 | Amazon Technologies, Inc. | Hierarchical auto-regressive image compression system |
| CN111147862A (zh) * | 2020-01-03 | 2020-05-12 | 南京大学 | 一种基于目标编码的端到端图像压缩方法 |
| CN111683250A (zh) * | 2020-05-13 | 2020-09-18 | 武汉大学 | 一种基于深度学习的生成式遥感图像压缩方法 |
Non-Patent Citations (1)
| Title |
|---|
| Zhengxue Cheng, et al.Deep Convolutional AutoEncoder-based Lossy Image Compression.《2018 Picture Coding Symposium (PCS)》.2018,全文. * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113596471A (zh) | 2021-11-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110915215B (zh) | 使用神经网络的图块化图像压缩 | |
| CN109859144B (zh) | 图像处理方法及装置、电子设备和存储介质 | |
| CN112383777B (zh) | 视频编码方法、装置、电子设备及存储介质 | |
| JP7345650B2 (ja) | 代替エンドツーエンドビデオコーディング | |
| CN114363615B (zh) | 数据处理方法及装置、电子设备和存储介质 | |
| CN109165738B (zh) | 神经网络模型的优化方法及装置、电子设备和存储介质 | |
| WO2020062074A1 (en) | Reconstructing distorted images using convolutional neural network | |
| EP3849180A1 (en) | Encoding or decoding data for dynamic task switching | |
| CN113596471B (zh) | 图像处理方法及装置、电子设备和存储介质 | |
| US20230419452A1 (en) | Method and device for correcting image on basis of compression quality of image in electronic device | |
| CN115052150A (zh) | 视频编码方法、装置、电子设备和存储介质 | |
| CN113613003B (zh) | 视频压缩、解压缩方法及装置、电子设备和存储介质 | |
| WO2022246986A1 (zh) | 数据处理方法、装置、设备及计算机可读存储介质 | |
| CN106358004B (zh) | 视频通话方法及装置 | |
| CN116805282A (zh) | 图像超分辨率重建方法、模型训练方法、装置及电子设备 | |
| US12058312B2 (en) | Generative adversarial network for video compression | |
| EP4454281A1 (en) | Method and data processing system for lossy image or video encoding, transmission and decoding | |
| CN116129308A (zh) | 一种视频质量增强方法、装置、电子设备及存储介质 | |
| WO2022155818A1 (zh) | 图像编码、解码方法及装置、编解码器 | |
| CN116156175A (zh) | 视频编码方法及装置 | |
| JP2021120840A (ja) | 学習方法、装置及びプログラム | |
| CN112954348B (zh) | 视频编码方法及装置、电子设备和存储介质 | |
| Lungisani et al. | Optimized Block-Based Lossy Image Compression Technique for Wireless Sensor Networks | |
| US11670008B2 (en) | Processing display data for transmission | |
| CN114071164B (zh) | 图像压缩模型的训练方法及装置、图像压缩方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |