CN114972021A - 一种图像处理方法、装置、电子设备及存储介质 - Google Patents

一种图像处理方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN114972021A
CN114972021A CN202210388782.5A CN202210388782A CN114972021A CN 114972021 A CN114972021 A CN 114972021A CN 202210388782 A CN202210388782 A CN 202210388782A CN 114972021 A CN114972021 A CN 114972021A
Authority
CN
China
Prior art keywords
image
processing
super
preprocessing
resolution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210388782.5A
Other languages
English (en)
Inventor
张珂新
赵世杰
孙晓鹏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing ByteDance Network Technology Co Ltd
Original Assignee
Beijing ByteDance Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing ByteDance Network Technology Co Ltd filed Critical Beijing ByteDance Network Technology Co Ltd
Priority to CN202210388782.5A priority Critical patent/CN114972021A/zh
Publication of CN114972021A publication Critical patent/CN114972021A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

本公开实施例公开了一种图像处理方法、装置、电子设备及存储介质,该方法包括:获取待处理图像,并确定所述待处理图像的图像指标,其中,所述图像指标包括多个单一维度指标;基于各所述单一维度指标调用对应强度的预处理模型,依次对所述待处理图像进行预处理,得到预处理图像;对所述预处理图像进行超分辨率处理,得到目标图像。通过本公开的技术方案,实现了在提升图像清晰度的同时,减少超分辨率处理后图像中的伪像,进一步的,基于图像指标调用对应强度的预处理模型,提高对图像进行预处理的精准度,避免过度处理和处理强度不足的问题。

Description

一种图像处理方法、装置、电子设备及存储介质
技术领域
本公开实施例涉及计算机数据处理技术领域,尤其涉及一种图像处理方法、 装置、电子设备及存储介质。
背景技术
超分辨算法用于将低分辨率的图像提升至高分辨率,增强图像清晰度,消 除模糊感。
现有的超分辨率算法在处理低质量的图像/视频时,存在超分辨率处理后图 像产生伪像的问题。
发明内容
本公开实施例提供了一种图像处理方法、装置、电子设备及存储介质,以 实现在提升图像清晰度的同时,减少超分辨率处理后图像中的伪像。
第一方面,本公开实施例提供了一种图像处理方法,包括:
获取待处理图像,并确定所述待处理图像的图像指标,其中,所述图像指 标包括多个单一维度指标;
基于各所述单一维度指标调用对应强度的预处理模型,依次对所述待处理 图像进行预处理,得到预处理图像;
对所述预处理图像进行超分辨率处理,得到目标图像。
第二方面,本公开实施例还提供了一种图像处理装置,包括:
图像指标确定模块,用于获取待处理图像,并确定所述待处理图像的图像 指标,其中,所述图像指标包括多个单一维度指标;
图像预处理模块,用于基于各所述单一维度指标调用对应强度的预处理模 型,依次对所述待处理图像进行预处理,得到预处理图像;
超分辨率处理模块,用于对所述预处理图像进行超分辨率处理,得到目标 图像。
第三方面,本公开实施例还提供了一种电子设备,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多 个处理器实现如本公开实施例任一所述的图像处理方法。
第四方面,本公开实施例还提供了一种包含计算机可执行指令的存储介质, 所述计算机可执行指令在由计算机处理器执行时用于执行如本公开实施例任一 所述的图像处理方法。
本公开实施例的技术方案,通过获取待处理图像,并确定待处理图像的图 像指标,实现了对待处理图像进行多个单一维度的评估;进一步的,根据评估 得到的各单一维度指标调用对应强度的预处理模型,提高了预处理模型的适应 性,根据自适应调用的预处理模型依次对待处理图像进行预处理,提高了图像 的质量;进一步的,将质量提升后的预处理图像进行超分辨率处理,实现了在 提升图像清晰度的同时,减少图像中伪像的产生。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、 优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或 相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1是本公开实施例提供的一种图像处理方法的流程示意图;
图2是本公开实施例提供的一种图像处理方法的流程示意图;
图3是本公开实施例提供的一种图像处理方法的流程示意图;
图4是本公开实施例提供的一种图像处理方法的流程示意图;
图5是本公开实施例所提供的一种图像处理方法的流程示意图;
图6是本公开实施例提供的一种图像处理装置的结构示意图;
图7是本公开实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开 的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不 应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和 完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用, 并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序 执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行 示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术 语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”; 术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示 “至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、 模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺 序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性 的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为 “一个或多个”。
图1为本公开实施例所提供的一种图像处理方法的流程示意图,本公开实 施例适应于对图像或视频进行超分辨率处理的情况,该方法可以由本公开实施 例提供的图像处理装置来执行,该图像处理装置可以通过软件和/或硬件的形式 实现,可选的,通过电子设备来实现,该电子设备可以是移动终端或PC端等。 如图1,本实施例的方法包括:
S110、获取待处理图像,并确定所述待处理图像的图像指标,其中,所述 图像指标包括多个单一维度指标。
S120、基于各所述单一维度指标调用对应强度的预处理模型,依次对所述 待处理图像进行预处理,得到预处理图像。
S130、对所述预处理图像进行超分辨率处理,得到目标图像。
在本公开实施例中,待处理图像指的是未经处理的原始图像。
示例性的,待处理图像可以是包含噪声、压缩伪影等干扰信息的低质量图 像,换而言之,待处理图像为画质不清晰的低分辨率图像。具体地,待处理图 像可以从电子设备本地或其他设备的存储位置中调取得到。
在本公开实施例中,图像指标是指评估图像质量的指标,可以理解为对图 像的评价分数。图像指标可以包括多个单一维度指标,即对图像进行多维度的 图像质量评估,得到的图像指标包括多个不同维度的图像评估指标。可以理解 的是,单一维度指标是指用单一类型参数评估图像的指标,诸如噪声、压缩失 真和曝光等类型。在一些实施例中,单一维度指标可以包括噪声指标和压缩失 真指标。其中,噪声指标可以用于评价待处理图像的噪声强度;压缩失真指标 可以用于评价待处理图像的压缩失真程度。可选的,任一单一维度指标可以是 在预设数据范围内的数据值,其中,预设数据范围可以是0-1或者0-100等, 对此不作限定。通过数据值形式的图像指标,可通过数据值的大小直观评述图 像质量。
在一些实施例中,可以将待处理图像与标准图像进行特征对比,得到待处 理图像与标准图像的特征相似度,可以根据特征相似度确定待处理图像的图像 指标。其中,标准图像指的是不包含干扰信息的高分辨率图像。
在一些实施例中,可以将待处理图像分别输入至各图像指标对应的指标识 别模型中,得到各指标识别模型输出的图像指标。其中,指标识别模型指的是 用于确定输入图像对应图像指标的神经网络模型,各图像指标对应的指标识别 模型的网络架构在此不做限定,例如ResNet、U-net等。指标识别模型的类型 可以与单一维度指标对应,即单一维度指标的维度与指标识别模型的类型一一 对应。
进一步的,可以根据各单一维度指标调用对应强度的预处理模型,依次对 待处理图像进行预处理,得到预处理图像。可以理解的是,电子设备中可以存 储有多种单一维度的预处理模型,并且任一单一维度下可以包括多个强度的预 处理模型。
其中,预处理模型可以用于对待处理图像进行预处理,预处理所实现的功 能与单一维度指标的类型相对应。示例性的,当单一维度指标包括噪声指标和 压缩失真指标时,相应的,预处理模型包括降噪模型和去压缩模型。降噪模型 可以用于对待处理图像进行降噪处理,以降低图像中的噪声强度;去压缩模型 可以用于对待处理图像进行去压缩处理,以降低图像的失真程度。
可以理解的是,任一单一维度指标存在与之对应强度的预处理模型,即对 预处理模型进行了强度划分。具体的,根据各单一维度指标调用对应强度的预 处理模型,实现了预处理模型的自适应调用,并根据自适应调用的预处理模型 依次对待处理图像进行预处理,以提高图像的质量。
示例性的,可以根据各单一维度指标从模型存储文件中调用对应强度的预 处理模型,其中,模型存储文件中可以存储有不同强度的预先训练完成的预处 理模型。当预处理模型为多个时,可以将多个预处理模型按照预设顺序,依次 对待处理图像进行预处理。例如,当预处理模型包括降噪模型和去压缩模型时, 可以先通过降噪模型对待处理图像进行降噪处理,以降低图像中的噪声强度, 再通过去压缩模型对降噪处理后的图像进行去压缩处理,以降低图像的失真程 度,从而提高图像的质量。其中,降噪处理和去压缩处理的处理顺序不作限定, 可根据对图像的处理需求确定。
在得到高质量的预处理图像之后,对预处理图像进行超分辨率处理,得到 目标图像。本实施例中,不限定超分辨率处理的处理方式。需要说明的是,经 过图像预处理,已将待处理图像中与单一维度指标对应的干扰信息去除,提升 了图像质量,进而对质量提升后的预处理图像进行超分辨率处理,可以在提升 图像清晰度的同时,并减少超分辨率处理后图像中的伪像。
本公开实施例的技术方案,通过获取待处理图像,并确定待处理图像的图 像指标,实现了对待处理图像进行多个单一维度的评估;进一步的,根据评估 得到的各单一维度指标调用对应强度的预处理模型,提高了预处理模型的适应 性,根据自适应调用的预处理模型依次对待处理图像进行预处理,提高了图像 的质量;进一步的,将质量提升后的预处理图像进行超分辨率处理,实现了在 提升图像清晰度的同时,减少图像中伪像的产生。
参考图2,图2为本公开实施例提供的图像处理方法流程示意图,本实施 例的方法与上述实施例中提供的图像处理方法中各个可选方案可以结合。本实 施例提供的图像处理方法进行了进一步优化。可选的,任一预处理类型分别对 应不同处理强度的多个预处理模型;其中,任一预处理模型的训练方法包括: 获取标准图像,基于当前预处理类型对应的图像降质处理方式,对所述标准图 像进行不同强度的图像降质处理,得到当前预处理类型对应的不同强度的训练 样本;基于任一强度的训练样本训练得到所述当前预处理类型对应强度的预处 理模型。
如图2,本实施例的方法包括:
S210、获取标准图像,基于当前预处理类型对应的图像降质处理方式,对 所述标准图像进行不同强度的图像降质处理,得到当前预处理类型对应的不同 强度的训练样本。
S220、基于任一强度的训练样本训练得到所述当前预处理类型对应强度的 预处理模型。
S230、获取待处理图像,并确定所述待处理图像的图像指标,其中,所述 图像指标包括多个单一维度指标。
S240、基于各所述单一维度指标调用对应强度的预处理模型,依次对所述 待处理图像进行预处理,得到预处理图像。
S250、对所述预处理图像进行超分辨率处理,得到目标图像。
在本公开实施例中,预处理类型指的是预处理模型的类型。可以理解的是, 电子设备中可以预先存储多种预处理类型的预处理模型,单一维度指标的维度 与预处理类型的类型一一对应。每种预处理类型的预处理模型所实现的预处理 功能相同,并且每一预处理类型下可以包括多个不同处理强度的预处理模型。
示例性的,当预处理类型为降噪处理时,降噪处理可以对应多个不同降噪 处理强度的预处理模型,以便预处理模型实现精准的降噪功能。
在本公开实施例中,标准图像指的是不包含干扰信息的高分辨率图像。具 体地,标准图像可以从电子设备本地或其他设备的存储位置中调取得到。图像 降质处理指的是对图像进行质量降低的处理方式,包括但不限于加入噪声、压 缩等处理方式。可以理解的是,任一预处理类型具有与其对应的图像降质处理 方式。示例性的,当预处理类型为降噪处理类型时,对应的图像降质处理方式 为对标准图像加入噪声;当预处理类型为去压缩处理类型时,对应的图像降质 处理方式为对标准图像进行压缩。
进一步的,对标准图像进行不同强度的图像降质处理,得到当前预处理类 型对应的不同强度的训练样本,基于任一强度的训练样本训练得到当前预处理 类型对应强度的预处理模型。示例性的,当预处理类型为降噪处理类型时,可 以将不同比例的噪声加入标准图像,以实现对标准图像进行不同强度的图像降 质处理,得到降噪处理类型对应的不同噪声强度的训练样本。其中,噪声可以 包括但不限于高斯噪声和泊松噪声。降噪处理类型对应的不同噪声强度的训练 样本可以用于模型训练,以得到不同降噪强度的预处理模型。可以理解的是, 训练数据中加入的噪声越多,训练得到的预处理模型的降噪强度越大。当预处 理类型为去压缩处理类型时,可以对标准图像进行不同比例的压缩,得到去压 缩处理类型对应的不同压缩强度的训练样本。其中,压缩类型可以包括但不限 于JPEG(JointPhotographic Experts Group)压缩等。去压缩处理类型对应 的不同压缩强度的训练样本可以用于模型训练,以得到不同去压缩强度的预处 理模型。可以理解的是,训练数据的压缩程度越高,训练得到的预处理模型的 去压缩强度越大。
对于每一种预处理模型,其训练过程可以是:创建初始模型,基于训练样 本的强度数据,对训练样本进行分组,得到各强度对应的训练样本组,基于每 一训练样本组对初始模型进行迭代训练,得到对应强度的预处理模型,其中, 训练样本为初始模型训练过程中的输入图像,得到初始模型训练过程中得到预 测预处理图像,基于预测预处理图像与标准图像的损失函数,对训练过程中的 初始图像进行参数调节。迭代执行上述过程,直到满足训练条件。
本公开实施例的技术方案,通过当前预处理类型对应的图像降质处理方式, 对标准图像进行不同强度的图像降质处理,得到当前预处理类型对应的不同强 度的训练样本;进一步的,可以利用各训练样本分别对模型进行训练,得到多 个强度的预处理模型,提高了预处理模型的多样性,以便后续根据单一维度指 标调用对应强度的预处理模型,提高预处理模型的适用性。
参考图3,图3为本公开实施例提供的图像处理方法流程示意图,本实施 例的方法与上述实施例中提供的图像处理方法中各个可选方案可以结合。本实 施例提供的图像处理方法进行了进一步优化。可选的,所述图像指标还包括图 像综合质量指标;所述对所述预处理图像进行超分辨率处理,得到目标图像, 包括:基于所述图像综合质量指标调用对应处理强度的超分辨模型,将所述预 处理图像输入至调用的超分辨模型,得到所述超分辨模型输出的目标图像。
如图3,本实施例的方法包括:
S310、获取待处理图像,并确定所述待处理图像的图像指标,其中,所述 图像指标包括多个单一维度指标和图像综合质量指标。
S320、基于各所述单一维度指标调用对应强度的预处理模型,依次对所述 待处理图像进行预处理,得到预处理图像。
S330、基于图像综合质量指标调用对应处理强度的超分辨模型,将所述预 处理图像输入至调用的超分辨模型,得到所述超分辨模型输出的目标图像。
在本实施例中,图像综合质量指标指的是从多个维度综合评价图像质量的 评分。示例性的,可以对图像的清晰度、噪声程度和压缩程度等方面进行综合 评分,图像综合质量指标越高,表明图像质量越高,图像综合质量指标越低, 表明图像质量越差。
具体的,可以根据图像综合质量指标,从多个处理强度超分辨模型中调用 对应处理强度的超分辨模型,实现了超分辨模型的自适应调用。换而言之,根 据待处理图像的质量选择对应处理强度的超分辨模型。例如,待处理图像的质 量越差,或者图像综合质量指标越低,调用的超分辨模型的强度越大。其中, 超分辨模型可以是预先训练完成的神经网络模型,神经网络模型的架构在此不 做限定,例如RRDBNet、ResNet等。进一步的,将预处理图像输入至自适应调 用的超分辨模型,提高了超分辨模型输出图像的清晰度。
在上述各实施例的基础上,各强度的超分辨模型的训练方法包括:对标准 图像执行如下的一种或多种处理,得到超分辨样本图像:模糊处理、下采样处 理、加噪处理、加压缩处理;基于各处理的处理参数,确定所述超分辨样本图 像的图像综合质量指标;基于各所述超分辨样本图像的图像综合质量指标,将 各所述超分辨样本图像划分为多个不同强度对应的样本组;基于任一强度对应 的样本组训练得到对应强度的超分辨模型。
其中,模糊处理指的是对标准图像进行模糊退化处理,可以包括但不限于 高斯各向同性模糊处理和各向异性模糊处理。可以理解的是,模糊处理的强度 可以由高斯模糊核尺寸确定,高斯模糊核尺寸越大,对应的训练数据越模糊。 下采样处理包括但不限于双线性差值、三次线性插值和最邻近差值,用于减少 运算量。加噪处理指的是对标准图像进行加噪声处理。加压缩处理指的是对标 准图像进行压缩处理。
示例性的,各处理的处理参数可以包括模糊核尺寸、噪声比例,压缩比例 等。可以根据各处理的处理参数,通过权重计算得到超分辨样本图像的图像综 合质量指标,例如噪声比例为20%,压缩比例为30%,通过权重计算得到对应的 超分辨样本图像的图像综合质量指标为50分。图像综合质量指标的总分值可以 为100分。进一步的,可以根图像综合质量指标划分为多个区间,例如, 0-20,21-40,41-60,61-80,81-100;可以根据每个分值区间制作对应不同强度 对应的样本组;不同强度对应的样本组可以用于模型的训练,以得到多个不同 强度的超分辨模型。
本公开实施例的技术方案,根据图像综合质量指标,从多个处理强度超分 辨模型中调用对应处理强度的超分辨模型,提高了超分辨模型的适用性,并将 预处理图像输入至调用的超分辨模型,提高了超分辨模型输出图像的清晰度, 避免对低分辨率图像进行过度超分辨的情况,或者对低分辨率图像进行超分辨 得到高分辨图像仍存在图像不清晰的问题。
参考图4,图4为本公开实施例提供的图像处理方法流程示意图,本实施 例的方法与上述实施例中提供的图像处理方法中各个可选方案可以结合。本实 施例提供的图像处理方法进行了进一步优化。可选的,所述待处理图像为视频 中的各图像帧;在对所述预处理图像进行超分辨率处理,得到目标图像之前, 还包括;对相邻图像帧对应的相邻预处理图像进行平滑处理。
如图4,本实施例的方法包括:
S410、获取视频中的各图像帧,并确定所述图像帧的图像指标,其中,所 述图像指标包括多个单一维度指标。
S420、基于各所述单一维度指标调用对应强度的预处理模型,依次对所述 视频中的各图像帧进行预处理,得到预处理图像。
S420、对相邻图像帧对应的相邻预处理图像进行平滑处理,得到平滑处理 图像。
S430、对所述平滑处理图像进行超分辨率处理,得到所述视频中的各图像 帧对应的目标图像。
在本公开实施例中,待处理图像可以是视频中的一个或多个图像帧。在一 些实施例中,可以选取视频首帧图像或者任一图像帧确定视频的图像指标,以 减少预处理模型调用的数量,提高预处理的效率。
为了避免视频中相邻图像帧进行超分辨率处理过程中,增大相邻图像帧之 间的差异导致的闪烁,在得到各图像帧对应的预处理图像之后,可以对相邻图 像帧对应的相邻预处理图像进行平滑处理,以减少图像中的噪声或失真,使相 邻图像帧间过度更自然,提高图像的质量。进一步的,对平滑处理图像进行超 分辨率处理,得到视频中的各图像帧对应的目标图像,实现了在提升视频清晰 度的同时,减少各图像帧中伪像的产生。
在一些实施例中,可以将相邻预处理图像输入至训练好的时域平滑网络模 型,得到平滑处理图像。其中,时域平滑网络模型可以是神经网络模型,神经 网络模型的架构在此不做限定,例如ResNet、U-Net等。时域平滑网络模型可 以用于对视频进行时域的运动补偿,对相邻图像帧的闪烁噪声进行消除,减少 闪烁抖动。
在一些实施例中,可以是将相邻图像帧中的对应像素点分别进行平滑处理, 例如对对应像素点进行加权平均等处理,以实现相邻图像帧之间的平滑处理。
在上述各实施例的基础上,所述对相邻图像帧对应的相邻预处理图像进行 平滑处理,包括:对所述相邻图像帧对应的相邻预处理图像进行闪烁验证;在 所述相邻预处理图像满足闪烁条件的情况下,所述对相邻图像帧对应的相邻预 处理图像进行平滑处理。
其中,闪烁验证是在视频播放过程中相邻预处理图像闪烁状态的验证。可 选的,闪烁验证的方式可以是计算相邻图像帧的像素相似度,例如相邻图像帧 之间的像素相似度越低,存在闪烁的概率越高。相应的闪烁条件可以包括判定 相邻图像帧之间是否存在闪烁的阈值。在相邻预处理图像满足闪烁条件,例如 相邻图像帧的像素相似度小于闪烁条件中的阈值,即视频所产生的闪烁会影像 视频观看效果,需要对相邻图像帧对应的相邻预处理图像进行平滑处理,以消 除相邻图像帧间的闪烁噪声,从而减少视频画面的闪烁感,提升用户观感。
本公开实施例的技术方案,通过对视频中相邻图像帧对应的相邻预处理图 像进行平滑处理,以减少图像中的噪声或失真的基础上,减少时域上的闪烁, 使得相邻图像帧间过度更自然,提高图像的质量。进一步的,对平滑处理图像 进行超分辨率处理,得到视频中的各图像帧对应的目标图像,实现了在提升视 频清晰度的同时,减少各图像帧中伪像的产生。
在上述实施例的基础上,图5是本公开实施例所提供的一种图像处理方法 的流程示意图。对于视频中的各视频帧执行以下处理过程。对于输入的视频, 通过检测算法确定图像的综合视频质量分数(即图像综合质量指标)、噪声指 标和压缩失真指标,例如可以是对视频中的任一视频帧或者基准视频帧进行检 测得到。其中,检测算法中可以包括但不限于综合视频质量识别模型、噪声识 别模型和压缩失真识别模型。通过噪声指标调用对应强度的去噪模型对视频中 的各视频帧进行去噪处理,得到去噪视频帧,通过压缩失真指标调用对应强度 的去压缩模型对各去噪视频帧进行去压缩处理,得到去压缩视频帧,对各去压缩视频帧进行时域平滑处理,以去除相邻视频帧之间的闪烁,得到预处理视频 帧。基于综合视频质量分数调用对应强度的的超分辨模型,将各预处理视频帧 进行超分辨率处理,得到高分辨视频。
本实施例中,通过去噪处理、去压缩处理对视频中各视频帧进行预处理, 避免超分辨率处理过程导致的伪影。各预处理过程,仅调用视频帧图像指标对 应强度的预处理模型,提高了预处理过程的针对性,避免过度处理或者处理程 度不足的情况。通过对相邻视频帧进行时域平滑,避免超分辨率处理过程中对 增加相邻图像帧之间差异导致的视频闪烁。进一步的,基于综合视频质量分数 调用对应强度的的超分辨模型,同样提高超分辨率处理的针对性和精准度,避 免超分辨率处理存在过度处理或者处理程度不足的情况。
图6是本公开实施例所提供的一种图像处理装置的结构示意图。如图6所 示,所述装置包括:
图像指标确定模块510,用于获取待处理图像,并确定所述待处理图像的 图像指标,其中,所述图像指标包括多个单一维度指标;
图像预处理模块520,用于基于各所述单一维度指标调用对应强度的预处 理模型,依次对所述待处理图像进行预处理,得到预处理图像;
超分辨率处理模块530,用于对所述预处理图像进行超分辨率处理,得到 目标图像。
在本公开实施例的一些可选的实现方式中,所述单一维度指标包括噪声指 标和压缩失真指标;
相应的,所述预处理模型包括降噪模型和去压缩模型。
在本公开实施例的一些可选的实现方式中,任一预处理类型分别对应不同 处理强度的多个预处理模型;
其中,任一预处理模型的训练装置用于:
获取标准图像,基于当前预处理类型对应的图像降质处理方式,对所述标 准图像进行不同强度的图像降质处理,得到当前预处理类型对应的不同强度的 训练样本;
基于任一强度的训练样本训练得到所述当前预处理类型对应强度的预处理 模型。
在本公开实施例的一些可选的实现方式中,所述图像指标还包括图像综合 质量指标;
超分辨率处理模块530还用于:
基于所述图像综合质量指标调用对应处理强度的超分辨模型,将所述预处 理图像输入至调用的超分辨模型,得到所述超分辨模型输出的目标图像。
在本公开实施例的一些可选的实现方式中,各强度的超分辨模型的训练装 置用于:
对标准图像执行如下的一种或多种处理,得到超分辨样本图像:模糊处理、 下采样处理、加噪处理、加压缩处理;
基于各处理的处理参数,确定所述超分辨样本图像的图像综合质量指标;
基于各所述超分辨样本图像的图像综合质量指标,将各所述超分辨样本图 像划分为多个不同强度对应的样本组;
基于任一强度对应的样本组训练得到对应强度的超分辨模型。
在本公开实施例的一些可选的实现方式中,图像指标确定模块510还用于:
将所述待处理图像分别输入至各图像指标对应的指标识别模型中,得到各 指标识别模型输出的图像指标。
在本公开实施例的一些可选的实现方式中,所述待处理图像为视频中的各 图像帧;所述装置还包括;
平滑处理模块,用于对相邻图像帧对应的相邻预处理图像进行平滑处理。
在本公开实施例的一些可选的实现方式中,所述平滑处理模块还用于:
对所述相邻图像帧对应的相邻预处理图像进行闪烁验证;
在所述相邻预处理图像满足闪烁条件的情况下,所述对相邻图像帧对应的 相邻预处理图像进行平滑处理。
本公开实施例所提供的图像处理装置可执行本公开任意实施例所提供的图 像处理方法,具备执行图像处理方法相应的功能模块和有益效果。
值得注意的是,上述装置所包括的各个单元和模块只是按照功能逻辑进行 划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各 功能单元的具体名称也只是为了便于相互区分,并不用于限制本公开实施例的 保护范围。
下面参考图7,其示出了适于用来实现本公开实施例的电子设备(例如图7 中的终端设备或服务器)400的结构示意图。本公开实施例中的终端设备可以 包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字 助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载 导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图 7示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带 来任何限制。
如图7所示,电子设备400可以包括处理装置(例如中央处理器、图形处 理器等)401,其可以根据存储在只读存储器(ROM)402中的程序或者从存储 装置408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作 和处理。在RAM403中,还存储有电子设备400操作所需的各种程序和数据。 处理装置401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O) 接口405也连接至总线404。
通常,以下装置可以连接至I/O接口405:包括例如触摸屏、触摸板、键盘、 鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置406;包括例如液晶 显示器(LCD)、扬声器、振动器等的输出装置407;包括例如磁带、硬盘等的 存储装置408;以及通信装置409。通信装置409可以允许电子设备400与其他 设备进行无线或有线通信以交换数据。虽然图7示出了具有各种装置的电子设 备400,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地 实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为 计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承 载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程 图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装 置409从网络上被下载和安装,或者从存储装置408被安装,或者从ROM402 被安装。在该计算机程序被处理装置401执行时,执行本公开实施例的方法中 限定的上述功能。
本公开实施例提供的电子设备与上述实施例提供的图像处理方法属于同一 发明构思,未在本实施例中详尽描述的技术细节可参见上述实施例,并且本实 施例与上述实施例具有相同的有益效果。
本公开实施例提供了一种计算机存储介质,其上存储有计算机程序,该程 序被处理器执行时实现上述实施例所提供的图像处理方法。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质 或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例 如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装 置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包 括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机 访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM 或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以 是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器 件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基 带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。 这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上 述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外 的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于 由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、 RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通 信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通 信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联 网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研 发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在, 而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序 被该电子设备执行时,使得该电子设备:
获取待处理图像,并确定所述待处理图像的图像指标,其中,所述图像指 标包括多个单一维度指标;
基于各所述单一维度指标调用对应强度的预处理模型,依次对所述待处理 图像进行预处理,得到预处理图像;
对所述预处理图像进行超分辨率处理,得到目标图像。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的 计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言— 诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言 或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在 用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在 远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算 机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广 域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因 特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计 算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图 中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、 或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应 当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图 中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执 行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的 是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可 以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用 硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以 通过硬件的方式来实现。其中,单元/模块的名称在某种情况下并不构成对该单 元本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。 例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门 阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、 复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存 储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地 使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机 器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或 半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质 的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、 随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学 储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例,【示例一】提供了一种图像处理方法, 该方法包括:
获取待处理图像,并确定所述待处理图像的图像指标,其中,所述图像指 标包括多个单一维度指标;
基于各所述单一维度指标调用对应强度的预处理模型,依次对所述待处理 图像进行预处理,得到预处理图像;
对所述预处理图像进行超分辨率处理,得到目标图像。
根据本公开的一个或多个实施例,【示例二】提供了一种图像处理方法, 还包括:
所述单一维度指标包括噪声指标和压缩失真指标;
相应的,所述预处理模型包括降噪模型和去压缩模型。
根据本公开的一个或多个实施例,【示例三】提供了一种图像处理方法, 还包括:
任一预处理类型分别对应不同处理强度的多个预处理模型;
其中,任一预处理模型的训练方法包括:
获取标准图像,基于当前预处理类型对应的图像降质处理方式,对所述标 准图像进行不同强度的图像降质处理,得到当前预处理类型对应的不同强度的 训练样本;
基于任一强度的训练样本训练得到所述当前预处理类型对应强度的预处理 模型。
根据本公开的一个或多个实施例,【示例四】提供了一种图像处理方法, 还包括:
所述图像指标还包括图像综合质量指标;
所述对所述预处理图像进行超分辨率处理,得到目标图像,包括:
基于所述图像综合质量指标调用对应处理强度的超分辨模型,将所述预处 理图像输入至调用的超分辨模型,得到所述超分辨模型输出的目标图像。
根据本公开的一个或多个实施例,【示例五】提供了一种图像处理方法, 还包括:
各强度的超分辨模型的训练方法包括:
对标准图像执行如下的一种或多种处理,得到超分辨样本图像:模糊处理、 下采样处理、加噪处理、加压缩处理;
基于各处理的处理参数,确定所述超分辨样本图像的图像综合质量指标;
基于各所述超分辨样本图像的图像综合质量指标,将各所述超分辨样本图 像划分为多个不同强度对应的样本组;
基于任一强度对应的样本组训练得到对应强度的超分辨模型。
根据本公开的一个或多个实施例,【示例六】提供了一种图像处理方法, 还包括:
所述确定所述待处理图像的图像指标,包括:
将所述待处理图像分别输入至各图像指标对应的指标识别模型中,得到各 指标识别模型输出的图像指标。
根据本公开的一个或多个实施例,【示例七】提供了一种图像处理方法, 还包括:
所述待处理图像为视频中的各图像帧;
在对所述预处理图像进行超分辨率处理,得到目标图像之前,还包括;
对相邻图像帧对应的相邻预处理图像进行平滑处理。
根据本公开的一个或多个实施例,【示例八】提供了一种图像处理方法, 还包括:
所述对相邻图像帧对应的相邻预处理图像进行平滑处理,包括:
对所述相邻图像帧对应的相邻预处理图像进行闪烁验证;
在所述相邻预处理图像满足闪烁条件的情况下,所述对相邻图像帧对应的 相邻预处理图像进行平滑处理。
根据本公开的一个或多个实施例,【示例九】提供了一种图像处理装置, 该装置包括:
图像指标模块,用于获取待处理图像,并确定所述待处理图像的图像指标, 其中,所述图像指标包括多个单一维度指标;
图像预处理模块,用于基于各所述单一维度指标调用对应强度的预处理模 型,依次对所述待处理图像进行预处理,得到预处理图像;
超分辨率处理模块,用于对所述预处理图像进行超分辨率处理,得到目标 图像。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域 技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特 定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上 述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征 与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成 的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操 作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并 行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节, 但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中 描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的 上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多 个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但 是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或 动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (11)

1.一种图像处理方法,其特征在于,包括:
获取待处理图像,并确定所述待处理图像的图像指标,其中,所述图像指标包括多个单一维度指标;
基于各所述单一维度指标调用对应强度的预处理模型,依次对所述待处理图像进行预处理,得到预处理图像;
对所述预处理图像进行超分辨率处理,得到目标图像。
2.根据权利要求1所述的方法,其特征在于,所述单一维度指标包括噪声指标和压缩失真指标;
相应的,所述预处理模型包括降噪模型和去压缩模型。
3.根据权利要求1或2所述的方法,其特征在于,任一预处理类型分别对应不同处理强度的多个预处理模型;
其中,任一预处理模型的训练方法包括:
获取标准图像,基于当前预处理类型对应的图像降质处理方式,对所述标准图像进行不同强度的图像降质处理,得到当前预处理类型对应的不同强度的训练样本;
基于任一强度的训练样本训练得到所述当前预处理类型对应强度的预处理模型。
4.根据权利要求1所述的方法,其特征在于,所述图像指标还包括图像综合质量指标;
所述对所述预处理图像进行超分辨率处理,得到目标图像,包括:
基于所述图像综合质量指标调用对应处理强度的超分辨模型,将所述预处理图像输入至调用的超分辨模型,得到所述超分辨模型输出的目标图像。
5.根据权利要求1所述的方法,其特征在于,各强度的超分辨模型的训练方法包括:
对标准图像执行如下的一种或多种处理,得到超分辨样本图像:模糊处理、下采样处理、加噪处理、加压缩处理;
基于各处理的处理参数,确定所述超分辨样本图像的图像综合质量指标;
基于各所述超分辨样本图像的图像综合质量指标,将各所述超分辨样本图像划分为多个不同强度对应的样本组;
基于任一强度对应的样本组训练得到对应强度的超分辨模型。
6.根据权利要求1或2所述的方法,其特征在于,所述确定所述待处理图像的图像指标,包括:
将所述待处理图像分别输入至各图像指标对应的指标识别模型中,得到各指标识别模型输出的图像指标。
7.根据权利要求1所述的方法,其特征在于,所述待处理图像为视频中的各图像帧;
在对所述预处理图像进行超分辨率处理,得到目标图像之前,还包括;
对相邻图像帧对应的相邻预处理图像进行平滑处理。
8.根据权利要求7所述的方法,其特征在于,所述对相邻图像帧对应的相邻预处理图像进行平滑处理,包括:
对所述相邻图像帧对应的相邻预处理图像进行闪烁验证;
在所述相邻预处理图像满足闪烁条件的情况下,所述对相邻图像帧对应的相邻预处理图像进行平滑处理。
9.一种图像处理装置,其特征在于,包括:
图像指标确定模块,用于获取待处理图像,并确定所述待处理图像的图像指标,其中,所述图像指标包括多个单一维度指标;
图像预处理模块,用于基于各所述单一维度指标调用对应强度的预处理模型,依次对所述待处理图像进行预处理,得到预处理图像;
超分辨率处理模块,用于对所述预处理图像进行超分辨率处理,得到目标图像。
10.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-8中任一所述的图像处理方法。
11.一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-8中任一所述的图像处理方法。
CN202210388782.5A 2022-04-13 2022-04-13 一种图像处理方法、装置、电子设备及存储介质 Pending CN114972021A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210388782.5A CN114972021A (zh) 2022-04-13 2022-04-13 一种图像处理方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210388782.5A CN114972021A (zh) 2022-04-13 2022-04-13 一种图像处理方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN114972021A true CN114972021A (zh) 2022-08-30

Family

ID=82976903

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210388782.5A Pending CN114972021A (zh) 2022-04-13 2022-04-13 一种图像处理方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN114972021A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024094086A1 (zh) * 2022-11-02 2024-05-10 抖音视界有限公司 图像处理方法、装置、设备、介质及产品

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111738951A (zh) * 2020-06-22 2020-10-02 北京字节跳动网络技术有限公司 图像处理方法及装置
CN111784580A (zh) * 2020-06-30 2020-10-16 北京金山云网络技术有限公司 图像的超分辨率方法、装置和服务器
CN112991203A (zh) * 2021-03-08 2021-06-18 Oppo广东移动通信有限公司 图像处理方法、装置、电子设备及存储介质

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111738951A (zh) * 2020-06-22 2020-10-02 北京字节跳动网络技术有限公司 图像处理方法及装置
CN111784580A (zh) * 2020-06-30 2020-10-16 北京金山云网络技术有限公司 图像的超分辨率方法、装置和服务器
CN112991203A (zh) * 2021-03-08 2021-06-18 Oppo广东移动通信有限公司 图像处理方法、装置、电子设备及存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024094086A1 (zh) * 2022-11-02 2024-05-10 抖音视界有限公司 图像处理方法、装置、设备、介质及产品

Similar Documents

Publication Publication Date Title
CN110163237B (zh) 模型训练及图像处理方法、装置、介质、电子设备
CN112419151B (zh) 图像退化处理方法、装置、存储介质及电子设备
CN110413812B (zh) 神经网络模型的训练方法、装置、电子设备及存储介质
CN111275721B (zh) 一种图像分割方法、装置、电子设备及存储介质
CN112381717A (zh) 图像处理方法、模型训练方法、装置、介质及设备
CN112565890B (zh) 视频裁剪方法、装置、存储介质及电子设备
CN113724136A (zh) 一种视频修复方法、设备及介质
CN111738951A (zh) 图像处理方法及装置
CN113038176B (zh) 视频抽帧方法、装置和电子设备
CN114972021A (zh) 一种图像处理方法、装置、电子设备及存储介质
CN114399814A (zh) 一种基于深度学习的遮挡物移除和三维重建方法
CN111402159B (zh) 图像处理方法、装置、电子设备及计算机可读介质
CN110852250B (zh) 一种基于最大面积法的车辆排重方法、装置及存储介质
CN110399802B (zh) 处理面部图像眼睛亮度的方法、装置、介质和电子设备
CN111738950A (zh) 图像处理方法及装置
CN115526796A (zh) 图像处理方法、装置、设备及存储介质
CN115272132A (zh) 一种图像处理方法、装置、设备和存储介质
CN113706385A (zh) 一种视频超分辨率方法、装置、电子设备及存储介质
CN112488947A (zh) 模型训练和图像处理方法、装置、设备和计算机可读介质
CN114419086A (zh) 边缘提取方法、装置、电子设备及存储介质
CN114119377A (zh) 一种图像处理方法及装置
CN112419179B (zh) 修复图像的方法、装置、设备和计算机可读介质
CN115761248B (zh) 图像处理方法、装置、设备及存储介质
WO2023072173A1 (zh) 一种视频处理方法、装置、电子设备和存储介质
CN114066722B (zh) 用于获取图像的方法、装置和电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination