CN116419076B - 图像处理方法、装置、电子设备及芯片 - Google Patents

图像处理方法、装置、电子设备及芯片 Download PDF

Info

Publication number
CN116419076B
CN116419076B CN202210640285.XA CN202210640285A CN116419076B CN 116419076 B CN116419076 B CN 116419076B CN 202210640285 A CN202210640285 A CN 202210640285A CN 116419076 B CN116419076 B CN 116419076B
Authority
CN
China
Prior art keywords
shading correction
lens shading
light sources
channel
standard deviation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210640285.XA
Other languages
English (en)
Other versions
CN116419076A (zh
Inventor
岳皓
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Xuanjie Technology Co ltd
Original Assignee
Shanghai Xuanjie Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Xuanjie Technology Co ltd filed Critical Shanghai Xuanjie Technology Co ltd
Priority to CN202210640285.XA priority Critical patent/CN116419076B/zh
Publication of CN116419076A publication Critical patent/CN116419076A/zh
Application granted granted Critical
Publication of CN116419076B publication Critical patent/CN116419076B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • H04N5/211Ghost signal cancellation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Studio Devices (AREA)

Abstract

本申请涉及一种图像处理方法、装置、电子设备及芯片,涉及图像处理技术领域,其中方法包括:首先对待处理图像进行分块,并获取每一分块的颜色值信息;再根据所述颜色值信息和预先标定的不同光源的镜头阴影矫正矩阵,确定所述不同光源分别对应的相对标准偏差信息;然后从所述不同光源中,选择所述相对标准偏差信息符合预设条件的目标光源;进而依据所述目标光源的镜头阴影矫正矩阵,对所述待处理图像进行镜头阴影矫正的图像处理。通过应用本申请的技术方案,使用相对标准偏差作为量化模型在平衡性能的前提下,能有效降低运算复杂度和运行功耗,进而可有效提高图像处理的效率,降低了对于设备硬件的要求。

Description

图像处理方法、装置、电子设备及芯片
技术领域
本申请涉及图像处理技术领域,尤其涉及一种图像处理方法、装置、电子设备及芯片。
背景技术
图像处理中的镜头阴影矫正(Lens Shading Correction,LSC)是一种矫正图像边缘四角亮度和颜色畸变的一类方法。由于红外滤光片衰减、镜头和图像传感器主光角(Chief Ray Angle,CRA)不匹配等原因,相机图像会在四角和边缘处出现亮度的衰减以及颜色的畸变。这时需要通过镜头阴影矫正来补偿图像中四角和边缘处出现亮度的衰减以及颜色的畸变,以使图像亮度颜色均匀一致。
目前,镜头阴影矫正的传统方式是采用迭代法,通过全部数据按照一定步伐精度迭代试错,选取最优解进行图像的镜头阴影矫正。然而,这种传统的镜头阴影矫正方式计算复杂度过高,算力消耗较大,不但会影响图像处理的效率,而且对于设备硬件的要求也较高。
发明内容
有鉴于此,本申请提供了一种图像处理方法、装置、电子设备及芯片,主要目的在于改善目前传统的镜头阴影矫正方式计算复杂度过高,算力消耗较大,不但会影响图像处理的效率,而且对于设备硬件的要求也较高的技术问题。
第一方面,本申请提供了一种图像处理方法,包括:
对待处理图像进行分块,并获取每一分块的颜色值信息;
根据所述颜色值信息和预先标定的不同光源的镜头阴影矫正矩阵,确定所述不同光源分别对应的相对标准偏差信息;
从所述不同光源中,选择所述相对标准偏差信息符合预设条件的目标光源;
依据所述目标光源的镜头阴影矫正矩阵,对所述待处理图像进行镜头阴影矫正的图像处理。
第二方面,本申请提供了一种图像处理装置,包括:
分块模块,被配置为对待处理图像进行分块;
获取模块,被配置为获取每一分块的颜色值信息;
确定模块,被配置为根据所述颜色值信息和预先标定的不同光源的镜头阴影矫正矩阵,确定所述不同光源分别对应的相对标准偏差信息;
选择模块,被配置为从所述不同光源中,选择所述相对标准偏差信息符合预设条件的目标光源;
处理模块,被配置为依据所述目标光源的镜头阴影矫正矩阵,对所述待处理图像进行镜头阴影矫正的图像处理。
第三方面,本申请提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现第一方面所述的图像处理方法。
第四方面,本申请提供了一种电子设备,包括存储介质、处理器及存储在存储介质上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现第一方面所述的图像处理方法。
第五方面,本申请提供了一种芯片,包括一个或多个接口电路和一个或多个处理器;所述接口电路用于从电子设备的存储器接收信号,并向所述处理器发送所述信号,所述信号包括存储器中存储的计算机指令;当所述处理器执行所述计算机指令时,使得所述电子设备执行第一方面所述的图像处理方法。
借由上述技术方案,本申请提供的一种图像处理方法、装置、电子设备及芯片,与目前现有的采用迭代法进行镜头阴影矫正相比,本申请可使用相对标准偏差来量化镜头亮度和颜色一致性,进而选择出合适光源的镜头阴影矫正矩阵,对图像进行镜头阴影矫正,避免了迭代法的漫长无效循环,极大的减少了计算耗时,和降低了计算复杂度。具体的,可首先对待处理图像进行分块,根据每一分块的颜色值信息和预先标定的不同光源的镜头阴影矫正矩阵,确定不同光源分别对应的相对标准偏差信息;再从这些不同光源中,选择出相对标准偏差信息符合预设条件的目标光源;然后依据选择出的目标光源的镜头阴影矫正矩阵,对待处理图像进行镜头阴影矫正的图像处理。通过应用本申请的技术方案,使用相对标准偏差作为量化模型在平衡性能的前提下,能有效降低运算复杂度和运行功耗,进而可有效提高图像处理的效率,降低了对于设备硬件的要求。
上述说明仅是本申请技术方案的概述,为了能够更清楚了解本申请的技术手段,而可依照说明书的内容予以实施,并且为了让本申请的上述和其它目的、特征和优点能够更明显易懂,以下特举本申请的具体实施方式。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1示出了本申请实施例提供的一种图像处理方法的流程示意图;
图2示出了本申请实施例提供的另一种图像处理方法的流程示意图;
图3示出了本申请实施例中对图像分块示例的示意图;
图4示出了本申请实施例中抛物线拟合示例的示意图;
图5示出了本申请实施例提供的示例性的总体方案示意图;
图6示出了本申请实施例提供的一种应用场景的示意图;
图7示出了本申请实施例提供的一种图像处理装置的结构示意图。
具体实施方式
下面将参照附图更详细地描述本申请的实施例。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
为了改善目前传统的镜头阴影矫正方式计算复杂度过高,算力消耗较大,不但会影响图像处理的效率,而且对于设备硬件的要求也较高的技术问题。本实施例提供了一种图像处理方法,如图1所示,可应用于图像处理设备(如智能手机、平板电脑、无人机、智能机器人等智能终端)端侧,该方法包括:
步骤101、对待处理图像进行分块,并获取每一分块的颜色值信息。
在本实施例中,在待处理图像输入进来,可先对该待处理图像进行分块,具体可根据实际需求进行切分。例如,分块数量越多效果越好,但是相应的计算更耗时;而分块数量越少,运行越快,但是计算结果的精度会下降,因此需要对性能和效果进行权衡评估,按照合适的分块标准对待处理图像进行分块切分。
在对待处理图像分块成功后,可计算每一分块的颜色值信息,如获取分块内每个像素点的红(R)、绿(G)、蓝(B)三个颜色通道的颜色值进行平均值计算,得到该分块的颜色值信息。
步骤102、根据每一分块的颜色值信息和预先标定的不同光源的镜头阴影矫正矩阵,确定不同光源分别对应的相对标准偏差信息。
在不同光源下,镜头在亮度和颜色上的衰减是不一样的。因此需要在离线模式下预先标定多个光源(如D65、D50、TL84,A等光源)的镜头阴影矫正矩阵(或称补偿矩阵)。例如,在专业的灯箱里,通过18%反射率纯灰卡来计算镜头阴影矫正矩阵。其中,对于相同的一组光源(多个光源),不同的图像其分别标定的镜头阴影矫正矩阵是不同的。需要说明的是,在提前标定多个光源下的矫正矩阵的过程中,光源的选择需要考虑计算复杂度和效果收益的平衡问题。一般情况下光源选择的种类越多,会对提高最终效果起到一定的帮助作用。
本实施例可根据每一分块的颜色值信息和预先标定的不同光源的镜头阴影矫正矩阵进行计算,得到不同光源分别对应的相对标准偏差信息,进而通过该相对标准偏差信息来量化镜头亮度和颜色一致性。
步骤103、从不同光源中,选择相对标准偏差信息符合预设条件的目标光源。
预设条件可根据实际需求进行预先设置,目的是基于相对标准偏差来量化镜头亮度和颜色一致性,选择出合适光源的镜头阴影矫正矩阵。例如,从不同光源中,可选择相对标准偏差值最小的光源作为符合预设条件的目标光源等。
步骤104、依据目标光源的镜头阴影矫正矩阵,对待处理图像进行镜头阴影矫正的图像处理。
本实施例在选择合适光源的镜头阴影矫正矩阵进行图像的镜头阴影矫正时,与目前现有的采用迭代法相比,可使用相对标准偏差来量化镜头亮度和颜色一致性,进而选择出合适光源的镜头阴影矫正矩阵,对图像进行镜头阴影矫正,避免了迭代法的漫长无效循环,极大的减少了计算耗时,和降低了计算复杂度。通过应用本实施例的技术方案,使用相对标准偏差作为量化模型在平衡性能的前提下,能有效降低运算复杂度和运行功耗,进而可有效提高图像处理的效率,降低了对于设备硬件的要求。
进一步的,作为上述实施例的细化和扩展,为了完整说明本实施例方法的具体实现过程,本实施例提供了如图2所示的具体方法,该方法包括:
步骤201、获取图像处理设备的硬件信息。
图像处理设备可为智能手机、平板电脑、无人机、智能机器人等智能终端。图像处理设备的硬件信息可包括:设备的系统级芯片(System on Chip,SOC)的相关硬件参数信息等。
步骤202、按照与图像处理设备的硬件信息对应的预设分块标准,对待处理图像进行分块。
其中,不同的硬件信息均具有各自对应的预设分块标准。例如,分块数量可以是和系统级芯片硬件相关的。分块越多效果越好,但是芯片面积更大,计算更耗时。分块少,芯片面积小,运行快,但是精度会下降,因此需要权衡评估。如权衡计算性能和计算效果,获得与硬件信息对应的预设分块标准,进而可按照该分块标准将待处理图像分割成35*27个分块,如图3所示。
通过这种方式可根据图像处理设备的硬件信息,权衡计算性能和计算效果,快速找到适合的分块标准进行分块,保证后续计算的准确性和效率。
步骤203、获取分块中在预设亮度范围内的像素点的颜色平均值。
对于单个分块中可能会存在较多的像素点,每个像素点的亮度可能并不一样,与场景相关,这就造成有些像素特别亮,而有些像素特别暗,但绝大多数的像素是介于最亮与最暗之间的均衡数值。因此为了避免这些过亮或过暗的像素对颜色计算造成误导,本实施例可首先通过预设亮度范围(即卡两个门限值),过滤掉太亮和太暗的像素(即处于预设亮度范围外的像素点),然后在预设亮度范围内的像素点取平均值,如计算每个分块在门限之内的像素点的RGB值的平均值。
通过这种先过滤后计算的方式,可准确获得每一分块的颜色值信息,保证后续计算不同光源对应分别对应的相对标准偏差信息的准确性。
步骤204、根据每一分块对应的颜色平均值和不同光源的镜头阴影矫正矩阵,确定不同光源分别对应的相对标准偏差信息。
可选的,步骤204具体可包括:首先将不同光源的镜头阴影矫正矩阵分别作用到每一分块对应的颜色平均值上,得到不同光源分别对应的镜头阴影矫正生效结果;然后利用不同光源分别对应的镜头阴影矫正生效结果,确定不同光源分别对应的相对标准偏差信息。通过这种可选方式,可将镜头阴影矫正矩阵作用到每一分块对应的颜色信息上,以便更好地分析出每个光源对应的相对标准偏差信息。
示例性的,上述将不同光源的镜头阴影矫正矩阵分别作用到每一分块对应的颜色平均值上,得到不同光源分别对应的镜头阴影矫正生效结果,具体可包括:将每一光源在R、G、B三个通道的镜头阴影矫正矩阵分别作用到每一分块在R、G、B三个通道的颜色平均值上,得到不同光源下每一分块在R通道的镜头阴影矫正生效结果、在G通道的镜头阴影矫正生效结果、在B通道的镜头阴影矫正生效结果。通过这种方式,考虑了每一分块在R、G、B三个通道的颜色情况,进而可做到准确将镜头阴影矫正矩阵作用到每一分块对应的颜色信息上。
例如,具体可首先将每一分块对应的颜色平均值和不同光源的镜头阴影矫正矩阵进行点乘处理,得到不同光源分别对应的镜头阴影矫正生效结果;然后利用不同光源分别对应的镜头阴影矫正生效结果,确定不同光源分别对应的相对标准偏差信息。
在离线模式下预先标定得到多个光源的镜头阴影矫正矩阵,然后将该预先标定的镜头阴影矫正矩阵分别作用到每一分块对应的颜色平均值上,得到这些光源分别对应的镜头阴影矫正生效结果,具体可将每一分块对应的颜色平均值和多个光源的镜头阴影矫正矩阵进行点乘处理,得到这些光源分别对应的镜头阴影矫正生效结果。
示例性的,不同光源的镜头阴影矫正矩阵可以是预先根据与待处理图像同一分块标准进行标定得到的;例如,按照35*27的分块标准,对待处理图像进行分块,而在预先标定中也按照35*27的标准,来标定这些不同光源的镜头阴影矫正矩阵,使得每个光源的镜头阴影矫正矩阵均为35*27的矩阵。
相应的,上述将每一分块对应的颜色平均值和不同光源的镜头阴影矫正矩阵进行点乘处理,得到不同光源分别对应的镜头阴影矫正生效结果,具体可包括:将每一分块在R、G、B三个通道的颜色平均值,分别与每一光源在R、G、B三个通道的镜头阴影矫正矩阵进行相对应位置的点乘处理,得到不同光源下每一分块在R通道的第一点乘结果、在G通道的第二点乘结果、以及在B通道的第三点乘结果。
例如,将待处理图像分割成35*27个分块,针对每一分块在R通道的颜色平均值,可得到一个35*27的矩阵a,矩阵a中的元素对应相对位置分块在R通道上的颜色平均值。以多个光源中任一个光源n为例,其也是一个35*27的矩阵,可认为是矩阵b。将矩阵a与矩阵b进行点乘(非叉乘)计算,得到光源n下每一分块在R通道的点乘结果。同理,还可得到光源n下每一分块在R通道的点乘结果,以及在B通道的点乘结果。
进一步的,为了准确计算得到每个光源对应的相对标准偏差值(即相对标准偏差信息),上述利用不同光源分别对应的镜头阴影矫正生效结果,确定不同光源分别对应的相对标准偏差信息,具体可包括:基于不同光源下每一分块在R通道的镜头阴影矫正生效结果、在G通道的镜头阴影矫正生效结果,确定每一光源在R通道和G通道的第一相对标准偏差值;以及基于不同光源下每一分块在B通道的镜头阴影矫正生效结果、在G通道的镜头阴影矫正生效结果,确定每一光源在B通道和G通道的第二相对标准偏差值;然后根据第一相对标准偏差值和第二相对标准偏差值,确定得到每一光源对应的目标相对标准偏差值。通过这种方式,首先获取光源在R通道和G通道的相对标准偏差值1,以及该光源在B通道和G通道的相对标准偏差值2,然后基于相对标准偏差值1和2进行综合分析,可准确得到的该光源对应的相对标准偏差信息。
示例性的,上述基于不同光源下每一分块在R通道的镜头阴影矫正生效结果、在G通道的镜头阴影矫正生效结果,确定每一光源在R通道和G通道的第一相对标准偏差值,具体可包括:通过将任一光源下每一分块在R通道的镜头阴影矫正生效结果分别与相对应在G通道的镜头阴影矫正生效结果进行比对,确定任一光源的R通道相对于G通道的第一相对标准偏差值。上述基于不同光源下每一分块在B通道的镜头阴影矫正生效结果、在G通道的镜头阴影矫正生效结果,确定每一光源在B通道和G通道的第二相对标准偏差值,具体可包括:通过将该任一光源下每一分块在B通道的镜头阴影矫正生效结果分别与相对应在G通道的镜头阴影矫正生效结果进行比对,确定该任一光源的B通道相对于G通道的第二相对标准偏差值。
相应的,上述根据第一相对标准偏差值和第二相对标准偏差值,确定得到每一光源对应的目标相对标准偏差值,具体可包括:基于上述得到的第一相对标准偏差值和第二相对标准偏差值进行融合,得到该任一光源对应的目标相对标准偏差值。
例如,首先基于不同光源下每一分块在R通道的第一点乘结果、在G通道的第二点乘结果,确定每一光源在R通道和G通道的第一相对标准偏差值;以及基于不同光源下每一分块在B通道的第三点乘结果、在G通道的第二点乘结果,确定每一光源在B通道和G通道的第二相对标准偏差值;然后根据得到的该第一相对标准偏差值和第二相对标准偏差值,确定得到每一光源对应的目标相对标准偏差值。
上述基于不同光源下每一分块在R通道的第一点乘结果、在G通道的第二点乘结果,确定每一光源在R通道和G通道的第一相对标准偏差值,包括:利用公式一计算出每一光源在R通道和G通道的第一相对标准偏差值。
其中,S_RG为光源在R通道和G通道的第一相对标准偏差值,R_stats[i]为分块i在R通道的第一点乘结果(具体可在R通道上的矩阵点乘结果中查询得到),G_stats[i]为分块i在G通道的第二点乘结果(具体可在G通道上的矩阵点乘结果中查询得到),total_num为分块数,如35*27=945个分块。
上述基于不同光源下每一分块在B通道的第三点乘结果、在G通道的第二点乘结果,确定每一光源在B通道和G通道的第二相对标准偏差值,具体可包括:利用公式二,计算出每一光源在B通道和G通道的第二相对标准偏差值。
其中,S_BG为光源在B通道和G通道的第二相对标准偏差值,为分块i在B通道的第三点乘结果(具体可在B通道上的矩阵点乘结果中查询得到),G_stats[i]为分块i在G通道的第二点乘结果(具体可在G通道上的矩阵点乘结果中查询得到),total_num为分块数,如35*27=945个分块。
基于上述示例性内容,根据第一相对标准偏差值和第二相对标准偏差值,确定得到每一光源对应的目标相对标准偏差值,具体可包括:利用公式三计算得到光源对应的目标相对标准偏差值。
其中,S为光源对应的目标相对标准偏差值。S_RG为光源在R通道和G通道的第一相对标准偏差值,S_BG为光源在B通道和G通道的第二相对标准偏差值。
通过上述示例性方法,可准确计算得到不同光源分别对应的相对标准偏差值,以便准确适用相对标准偏差来量化镜头亮度和颜色一致性,进而准确选择出合适光源的镜头阴影矫正矩阵,具体可执行步骤205所示的过程。
步骤205、从不同光源中,获取目标相对标准偏差值最小的第一预设个数目标光源。
第一预设个数可根据实际需求进行预先设置,例如第一预设个数为3个。在得到每个光源对应的目标相对标准偏差值以后,将这些相对标准偏差值进行排序,选出排序最小的三组结果,分别用ill0,ill1,ill2表示。
步骤206、依据第一预设个数目标光源的镜头阴影矫正矩阵,对待处理图像进行镜头阴影矫正的图像处理。
可选的,步骤206具体可包括:首先获取第一预设个数目标光源的混合光成分权重,具体可存在多种可选方式;然后根据确定得到的混合光成分权重和第一预设个数目标光源的镜头阴影矫正矩阵,对待处理图像进行镜头阴影矫正的图像处理。
示例性的,首先可将第一预设个数目标光源的目标相对标准偏差值进行抛物线拟合,获取拟合得到的抛物线的极小值点,以及每个目标光源在抛物线上的坐标点;再依据极小值点和其在抛物线上相邻的坐标点之间的几何距离,确定混合光成分权重;然后根据确定得到的混合光成分权重和第一预设个数目标光源的镜头阴影矫正矩阵,对待处理图像进行镜头阴影矫正的图像处理。
例如,在得到排序最小的三组结果(ill0,ill1,ill2)之后,用抛物线拟合的方式,计算出抛物线的极小值点,如图4所示,计算极小值点与相邻两点(ill0和ill1)的几何距离,进而依据该几何距离计算出混合光成分权重α,即极小值点与相邻两点(ill0和ill1)的几何距离分别对应α和(1-α)。
需要说明的是,抛物线极小值拟合过程还可以采用最小二乘等其他拟合方式,需要考虑的关键点是计算复杂度和效果收益的平衡问题。
进一步可选的,上述根据混合光成分权重和第一预设个数目标光源的镜头阴影矫正矩阵,对待处理图像进行镜头阴影矫正的图像处理,具体可包括:首先从第一预设个数目标光源中,获取目标相对标准偏差值最小的第二预设个数目标光源;再将第二预设个数目标光源的镜头阴影矫正矩阵,基于混合光成分权重进行融合,具体可存在多种可选的融合方式;然后基于融合后得到的镜头阴影矫正矩阵,对待处理图像进行镜头阴影矫正的图像处理。
示例性的,首先可从第一预设个数目标光源中,获取目标相对标准偏差值最小的第二预设个数目标光源;再将第二预设个数目标光源的镜头阴影矫正矩阵,通过混合光成分权重进行加权融合;然后基于加权融合的镜头阴影矫正矩阵,对待处理图像进行镜头阴影矫正的图像处理。
例如,从得到排序最小的三组结果(ill0,ill1,ill2)和混合光成分权重α之后,从这三组结果(ill0,ill1,ill2)中选出最小的两组结果(ill0,ill1),使用混合光成分权重α做线性插值。如使用公式四加权融合得到R通道的镜头阴影矫正矩阵:
cls_mapR=α×cls_mapsR[ill1]+(1-α)×cls_mapsR[ill0] (公式四)
其中,cls_mapR为R通道的镜头阴影矫正矩阵,α为混合光成分权重,cls_mapsR[ill1]为ill1在R通道的镜头阴影矫正矩阵,cls_mapsR[ill0]为ill0在R通道的镜头阴影矫正矩阵。
如使用公式五加权融合得到G通道的镜头阴影矫正矩阵:
cls_mapG=α×cls_mapsG[ill1]+(1-α)×cls_mapsG[ill0] (公式五)
其中,cls_mapG为G通道的镜头阴影矫正矩阵,α为混合光成分权重,cls_mapsG[ill1]为ill1在G通道的镜头阴影矫正矩阵,cls_mapsG[ill0]为ill0在G通道的镜头阴影矫正矩阵。
如使用公式六加权融合得到B通道的镜头阴影矫正矩阵:
cls_mapB=α×cls_mapsB[ill1]+(1-α)×cls_mapsB[ill0] (公式六)
其中,cls_mapB为B通道的镜头阴影矫正矩阵,α为混合光成分权重,cls_mapsB[ill1]为ill1在B通道的镜头阴影矫正矩阵,cls_mapsB[ill0]为ill0在B通道的镜头阴影矫正矩阵。
最后基于加权融合得到的RGB三个通道的镜头阴影矫正矩阵,对待处理图像进行镜头阴影矫正的图像处理。
为了进一步说明上述实施例的具体实施过程,给出如下应用场景,在不限于此:
近年来,拍照成像技术被智能手机广泛使用,而图像成像质量的提高是智能手机技术的重点突破方向,图像整体亮度和颜色的均匀一致性作为画质评定的基础指标之一,对于图像的最终呈现效果有着显著的影响。
目前镜头阴影矫正的传统常见方法主要有两类:迭代法和色温插值法。由于不同光源下,镜头的亮度和颜色衰减是不一样的,所以使用者一般会提前标定多组不同光源下的镜头阴影矫正矩阵,镜头阴影矫正会通过计算选取最优结果。迭代法是通过全部数据按照一定步伐精度迭代试错选取最优解。迭代法的缺点是计算强度大、算力消耗较大。色温插值法是通过借助自动白平衡输出的色温来插值得到输出结果。色温插值法的缺点是独立性差、要依赖外部自动白平衡矫正(White Balance Correction,WBC)算法输出,且计算精度低。
为了解决上述现有技术中存在的问题,本实施例提出了基于相对标准偏差的镜头阴影矫正新技术。目的是要通过采用基于相对标准偏差曲线拟合计算的方法,在确保输出精度符合要求的前提下,大幅度的减少计算所消耗的时间,大幅度优化运行效率,进而改善手机因为图像处理而容易发热的情况发生。如图5所示,为本实施例示例性的总体方案。
在镜头阴影矫正(LSC)统计中,在用户使用智能手机拍摄图像(如图6所示的手机拍摄人像的场景)时,将输入的图像先分块统计,如将图像分割成35*27个统计块,并计算每一个统计块的平均值,如执行如图2所示方法的步骤201至203所示的过程。
LSC矫正矩阵:不同光源下,镜头在亮度和颜色上的衰减是不一样的。因此需要在离线模式下先标定多个光源(例如,D65、D50、TL84,A等光源)的矫正矩阵。
LSC应用生效:将LSC矫正矩阵分别作用到LSC统计上,得到多个光源下的LSC生效结果,如将每一分块对应的颜色平均值和不同光源的镜头阴影矫正矩阵进行点乘处理,得到不同光源分别对应的镜头阴影矫正生效结果。
计算相对标准偏差:计算所有光源的相对标准偏差,如执行如图2所示方法的步骤204所示的过程。
相对标准偏差值排序:将得到的相对标准偏差值进行排序,选出排序最小的三组结果,分别用ill0,ill1,ill2表示,如执行如图2所示方法的步骤205所示的过程。
最后是输出最优解,基于加权融合得到的RGB三个通道的镜头阴影矫正矩阵,对待处理图像进行镜头阴影矫正的图像处理。
本实施例使用相对标准偏差作为量化模型,相比于“方差”可以有效的增加模型可靠性。另外,相比于使用“熵”等复杂模型,可以省去log运算等算力开销巨大的指数运算。综合而言,使用相对标准偏差作为量化模型在平衡性能的前提下能有效降低运算复杂度和运行功耗,可有效降低智能手机发热的情况发生。在实现镜头阴影矫正的同时还可以输出当前环境光源的类型(ill0、ill1、ill2)和混合光成分权重(α),这些环境光的估算结果对后续颜色矫正等模块都会提供有益的帮助。
进一步的,作为图1至图2所示方法的具体实现,本实施例提供了一种图像处理装置,如图7所示,该装置包括:分块模块31、获取模块32、确定模块33、选择模块34、处理模块35。
分块模块31,被配置为对待处理图像进行分块;
获取模块32,被配置为获取每一分块的颜色值信息;
确定模块33,被配置为根据所述颜色值信息和预先标定的不同光源的镜头阴影矫正矩阵,确定所述不同光源分别对应的相对标准偏差信息;
选择模块34,被配置为从所述不同光源中,选择所述相对标准偏差信息符合预设条件的目标光源;
处理模块35,被配置为依据所述目标光源的镜头阴影矫正矩阵,对所述待处理图像进行镜头阴影矫正的图像处理。
在具体的应用场景中,获取模块32,具体被配置为获取分块中在预设亮度范围内的像素点的颜色平均值;
确定模块33,具体被配置为根据每一分块对应的颜色平均值和所述不同光源的镜头阴影矫正矩阵,确定所述不同光源分别对应的相对标准偏差信息。
在具体的应用场景中,确定模块33,具体还被配置为将所述不同光源的镜头阴影矫正矩阵分别作用到每一分块对应的颜色平均值上,得到所述不同光源分别对应的镜头阴影矫正生效结果;利用所述不同光源分别对应的镜头阴影矫正生效结果,确定所述不同光源分别对应的相对标准偏差信息。
在具体的应用场景中,确定模块33,具体还被配置为将每一光源在R、G、B三个通道的镜头阴影矫正矩阵分别作用到每一分块在R、G、B三个通道的颜色平均值上,得到所述不同光源下每一分块在R通道的镜头阴影矫正生效结果、在G通道的镜头阴影矫正生效结果、在B通道的镜头阴影矫正生效结果。
在具体的应用场景中,确定模块33,具体还被配置为基于所述不同光源下每一分块在R通道的镜头阴影矫正生效结果、在G通道的镜头阴影矫正生效结果,确定每一光源在R通道和G通道的第一相对标准偏差值;及,基于所述不同光源下每一分块在B通道的镜头阴影矫正生效结果、在G通道的镜头阴影矫正生效结果,确定每一光源在B通道和G通道的第二相对标准偏差值;根据所述第一相对标准偏差值和所述第二相对标准偏差值,确定得到每一光源对应的目标相对标准偏差值。
在具体的应用场景中,确定模块33,具体还被配置为通过将任一光源下每一分块在R通道的镜头阴影矫正生效结果分别与相对应在G通道的镜头阴影矫正生效结果进行比对,确定所述任一光源的R通道相对于G通道的第一相对标准偏差值。
在具体的应用场景中,确定模块33,具体还被配置为通过将所述任一光源下每一分块在B通道的镜头阴影矫正生效结果分别与相对应在G通道的镜头阴影矫正生效结果进行比对,确定所述任一光源的B通道相对于G通道的第二相对标准偏差值。
在具体的应用场景中,确定模块33,具体还被配置为基于所述第一相对标准偏差值和所述第二相对标准偏差值进行融合,得到所述任一光源对应的目标相对标准偏差值。
在具体的应用场景中,选择模块34,具体被配置为从所述不同光源中,获取所述目标相对标准偏差值最小的第一预设个数目标光源;
处理模块35,具体被配置为依据所述第一预设个数目标光源的镜头阴影矫正矩阵,对所述待处理图像进行镜头阴影矫正的图像处理。
在具体的应用场景中,处理模块35,具体还被配置为获取所述第一预设个数目标光源的混合光成分权重;根据所述混合光成分权重和所述第一预设个数目标光源的镜头阴影矫正矩阵,对所述待处理图像进行镜头阴影矫正的图像处理。
在具体的应用场景中,处理模块35,具体还被配置为从所述第一预设个数目标光源中,获取所述目标相对标准偏差值最小的第二预设个数目标光源;将所述第二预设个数目标光源的镜头阴影矫正矩阵,基于所述混合光成分权重进行融合;基于融合后得到的镜头阴影矫正矩阵,对所述待处理图像进行镜头阴影矫正的图像处理。
在具体的应用场景中,分块模块31,具体被配置为获取图像处理设备的硬件信息;按照与所述硬件信息对应的预设分块标准,对所述待处理图像进行分块。
需要说明的是,本实施例提供的一种图像处理装置所涉及各功能单元的其它相应描述,可以参考图1至图2中的对应描述,在此不再赘述。
基于上述如图1至图2所示方法,相应的,本实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述如图1至图2所示的方法。
基于这样的理解,本申请的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施场景的方法。
基于上述如图1至图2所示的方法,以及图7所示的虚拟装置实施例,为了实现上述目的,本申请实施例还提供了一种电子设备,如智能手机、平板电脑、无人机、智能机器人等智能终端,该设备包括存储介质和处理器;存储介质,用于存储计算机程序;处理器,用于执行计算机程序以实现上述如图1至图2所示的方法。
可选的,上述实体设备还可以包括用户接口、网络接口、摄像头、射频(RadioFrequency,RF)电路,传感器、音频电路、WI-FI模块等等。用户接口可以包括显示屏(Display)、输入单元比如键盘(Keyboard)等,可选用户接口还可以包括USB接口、读卡器接口等。网络接口可选的可以包括标准的有线接口、无线接口(如WI-FI接口)等。
本领域技术人员可以理解,本实施例提供的上述实体设备结构并不构成对该实体设备的限定,可以包括更多或更少的部件,或者组合某些部件,或者不同的部件布置。
存储介质中还可以包括操作系统、网络通信模块。操作系统是管理上述实体设备硬件和软件资源的程序,支持信息处理程序以及其它软件和/或程序的运行。网络通信模块用于实现存储介质内部各组件之间的通信,以及与信息处理实体设备中其它硬件和软件之间通信。
基于上述如图1至图2所示的方法,以及图7所示的虚拟装置实施例,本实施例还提供了一种芯片,包括一个或多个接口电路和一个或多个处理器;所述接口电路用于从电子设备的存储器接收信号,并向所述处理器发送所述信号,所述信号包括存储器中存储的计算机指令;当所述处理器执行所述计算机指令时,使得所述电子设备执行上述如图1至图2所示的方法。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到本申请可以借助软件加必要的通用硬件平台的方式来实现,也可以通过硬件实现。通过应用本实施例的方案,在镜头阴影矫正问题中引入“相对标准偏差”的概念,通过相对标准偏差来量化镜头亮度和颜色一致性。选择相对标准偏差值最小的矫正矩阵组合,作为最终输出,避免了迭代法的漫长无效循环,极大的减少了计算耗时。选取的相对标准偏差是一种性能和运算效率综合表现较好的方案。相比于“方差”可以有效的增加模型可靠性。另外,相比于使用“熵”等复杂模型,可以省去log运算等算力开销巨大的指数运算。综合而言,使用相对标准偏差作为量化模型在平衡性能的前提下有效降低运算复杂度和运行功耗。用相对标准偏差值对当前环境下的光源成分做了量化分类,为后续其他颜色相关模块的进一步处理提供了支撑。
需要说明的是,在本文中,诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅是本申请的具体实施方式,使本领域技术人员能够理解或实现本申请。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所述的这些实施例,而是要符合与本文所申请的原理和新颖特点相一致的最宽的范围。

Claims (12)

1.一种图像处理方法,其特征在于,包括:
对待处理图像进行分块,并获取每一分块的颜色值信息;
根据所述颜色值信息和预先标定的不同光源的镜头阴影矫正矩阵,确定所述不同光源分别对应的相对标准偏差信息,包括:基于每一光源在R通道和G通道的第一相对标准偏差值和每一光源在B通道和G通道的第二相对标准偏差值进行融合,得到每一光源对应的目标相对标准偏差值;
从所述不同光源中,选择所述相对标准偏差信息符合预设条件的目标光源,包括:从所述不同光源中,获取所述目标相对标准偏差值最小的第一预设个数目标光源;
依据所述目标光源的镜头阴影矫正矩阵,对所述待处理图像进行镜头阴影矫正的图像处理,包括:从所述第一预设个数目标光源中,获取所述目标相对标准偏差值最小的第二预设个数目标光源,所述第二预设个数小于所述第一预设个数;将所述第二预设个数目标光源的镜头阴影矫正矩阵,基于所述第一预设个数目标光源的混合光成分权重进行融合;基于融合后得到的镜头阴影矫正矩阵,对所述待处理图像进行镜头阴影矫正的图像处理。
2.根据权利要求1所述的方法,其特征在于,所述获取每一分块的颜色值信息,包括:
获取分块中在预设亮度范围内的像素点的颜色平均值;
所述根据所述颜色值信息和预先标定的不同光源的镜头阴影矫正矩阵,确定所述不同光源分别对应的相对标准偏差信息,包括:
根据每一分块对应的颜色平均值和所述不同光源的镜头阴影矫正矩阵,确定所述不同光源分别对应的相对标准偏差信息。
3.根据权利要求2所述的方法,其特征在于,所述根据每一分块对应的颜色平均值和所述不同光源的镜头阴影矫正矩阵,确定所述不同光源分别对应的相对标准偏差信息,包括:
将所述不同光源的镜头阴影矫正矩阵分别作用到每一分块对应的颜色平均值上,得到所述不同光源分别对应的镜头阴影矫正生效结果;
利用所述不同光源分别对应的镜头阴影矫正生效结果,确定所述不同光源分别对应的相对标准偏差信息。
4.根据权利要求3所述的方法,其特征在于,所述将所述不同光源的镜头阴影矫正矩阵分别作用到每一分块对应的颜色平均值上,得到所述不同光源分别对应的镜头阴影矫正生效结果,包括:
将每一光源在R、G、B三个通道的镜头阴影矫正矩阵分别作用到每一分块在R、G、B三个通道的颜色平均值上,得到所述不同光源下每一分块在R通道的镜头阴影矫正生效结果、在G通道的镜头阴影矫正生效结果、在B通道的镜头阴影矫正生效结果。
5.根据权利要求4所述的方法,其特征在于,所述利用所述不同光源分别对应的镜头阴影矫正生效结果,确定所述不同光源分别对应的相对标准偏差信息,包括:
基于所述不同光源下每一分块在R通道的镜头阴影矫正生效结果、在G通道的镜头阴影矫正生效结果,确定每一光源在R通道和G通道的第一相对标准偏差值;及,
基于所述不同光源下每一分块在B通道的镜头阴影矫正生效结果、在G通道的镜头阴影矫正生效结果,确定每一光源在B通道和G通道的第二相对标准偏差值;
根据所述第一相对标准偏差值和所述第二相对标准偏差值,确定得到每一光源对应的目标相对标准偏差值。
6.根据权利要求5所述的方法,其特征在于,所述基于所述不同光源下每一分块在R通道的镜头阴影矫正生效结果、在G通道的镜头阴影矫正生效结果,确定每一光源在R通道和G通道的第一相对标准偏差值,包括:
通过将任一光源下每一分块在R通道的镜头阴影矫正生效结果分别与相对应在G通道的镜头阴影矫正生效结果进行比对,确定所述任一光源的R通道相对于G通道的第一相对标准偏差值。
7.根据权利要求6所述的方法,其特征在于,所述基于所述不同光源下每一分块在B通道的镜头阴影矫正生效结果、在G通道的镜头阴影矫正生效结果,确定每一光源在B通道和G通道的第二相对标准偏差值,包括:
通过将所述任一光源下每一分块在B通道的镜头阴影矫正生效结果分别与相对应在G通道的镜头阴影矫正生效结果进行比对,确定所述任一光源的B通道相对于G通道的第二相对标准偏差值。
8.根据权利要求1所述的方法,其特征在于,所述对待处理图像进行分块,包括:
获取图像处理设备的硬件信息;
按照与所述硬件信息对应的预设分块标准,对所述待处理图像进行分块。
9.一种图像处理装置,其特征在于,包括:
分块模块,被配置为对待处理图像进行分块;
获取模块,被配置为获取每一分块的颜色值信息;
确定模块,被配置为根据所述颜色值信息和预先标定的不同光源的镜头阴影矫正矩阵,确定所述不同光源分别对应的相对标准偏差信息,包括:基于每一光源在R通道和G通道的第一相对标准偏差值和每一光源在B通道和G通道的第二相对标准偏差值进行融合,得到每一光源对应的目标相对标准偏差值;
选择模块,被配置为从所述不同光源中,选择所述相对标准偏差信息符合预设条件的目标光源,包括:从所述不同光源中,获取所述目标相对标准偏差值最小的第一预设个数目标光源;
处理模块,被配置为依据所述目标光源的镜头阴影矫正矩阵,对所述待处理图像进行镜头阴影矫正的图像处理,包括:从所述第一预设个数目标光源中,获取所述目标相对标准偏差值最小的第二预设个数目标光源,所述第二预设个数小于所述第一预设个数;将所述第二预设个数目标光源的镜头阴影矫正矩阵,基于所述第一预设个数目标光源的混合光成分权重进行融合;基于融合后得到的镜头阴影矫正矩阵,对所述待处理图像进行镜头阴影矫正的图像处理。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至8中任一项所述的方法。
11.一种电子设备,包括存储介质、处理器及存储在存储介质上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至8中任一项所述的方法。
12.一种芯片,其特征在于,包括一个或多个接口电路和一个或多个处理器;所述接口电路用于从电子设备的存储器接收信号,并向所述处理器发送所述信号,所述信号包括存储器中存储的计算机指令;当所述处理器执行所述计算机指令时,使得所述电子设备执行权利要求1至8任一项所述的方法。
CN202210640285.XA 2022-06-07 2022-06-07 图像处理方法、装置、电子设备及芯片 Active CN116419076B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210640285.XA CN116419076B (zh) 2022-06-07 2022-06-07 图像处理方法、装置、电子设备及芯片

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210640285.XA CN116419076B (zh) 2022-06-07 2022-06-07 图像处理方法、装置、电子设备及芯片

Publications (2)

Publication Number Publication Date
CN116419076A CN116419076A (zh) 2023-07-11
CN116419076B true CN116419076B (zh) 2024-05-07

Family

ID=87050282

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210640285.XA Active CN116419076B (zh) 2022-06-07 2022-06-07 图像处理方法、装置、电子设备及芯片

Country Status (1)

Country Link
CN (1) CN116419076B (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106506905A (zh) * 2016-10-20 2017-03-15 湖南国科微电子股份有限公司 镜头阴影校正方法
CN106664351A (zh) * 2014-09-26 2017-05-10 英特尔公司 使用块匹配的镜头阴影颜色校正的方法和系统
CN107590840A (zh) * 2017-09-21 2018-01-16 长沙全度影像科技有限公司 基于网格划分的颜色阴影校正方法及其校正系统
CN111818239A (zh) * 2020-03-12 2020-10-23 成都微光集电科技有限公司 一种图像传感器中镜头阴影校正方法
CN113516636A (zh) * 2021-06-18 2021-10-19 展讯半导体(南京)有限公司 镜头阴影的评价方法、装置、设备和介质、镜头模组
CN114240782A (zh) * 2021-12-16 2022-03-25 北京爱芯科技有限公司 图像校正方法、系统及电子设备
CN114331907A (zh) * 2021-12-31 2022-04-12 展讯半导体(南京)有限公司 颜色阴影校正方法及装置
CN114531521A (zh) * 2020-11-02 2022-05-24 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114205487A (zh) * 2020-08-28 2022-03-18 超威半导体公司 内容自适应镜头阴影校正方法和装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106664351A (zh) * 2014-09-26 2017-05-10 英特尔公司 使用块匹配的镜头阴影颜色校正的方法和系统
CN106506905A (zh) * 2016-10-20 2017-03-15 湖南国科微电子股份有限公司 镜头阴影校正方法
CN107590840A (zh) * 2017-09-21 2018-01-16 长沙全度影像科技有限公司 基于网格划分的颜色阴影校正方法及其校正系统
CN111818239A (zh) * 2020-03-12 2020-10-23 成都微光集电科技有限公司 一种图像传感器中镜头阴影校正方法
CN114531521A (zh) * 2020-11-02 2022-05-24 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN113516636A (zh) * 2021-06-18 2021-10-19 展讯半导体(南京)有限公司 镜头阴影的评价方法、装置、设备和介质、镜头模组
CN114240782A (zh) * 2021-12-16 2022-03-25 北京爱芯科技有限公司 图像校正方法、系统及电子设备
CN114331907A (zh) * 2021-12-31 2022-04-12 展讯半导体(南京)有限公司 颜色阴影校正方法及装置

Also Published As

Publication number Publication date
CN116419076A (zh) 2023-07-11

Similar Documents

Publication Publication Date Title
US10949958B2 (en) Fast fourier color constancy
CN112258579B (zh) 图像处理方法、装置、电子设备和计算机可读存储介质
US9367916B1 (en) Method and system of run-time self-calibrating lens shading correction
CN113170028B (zh) 生成基于机器学习的成像算法的图像数据的方法
CN112669758B (zh) 显示屏校正方法、装置、系统和计算机可读存储介质
CN105681775A (zh) 一种白平衡方法和装置
US9361537B2 (en) Techniques to reduce color artifacts in a digital image
CN106713887A (zh) 移动终端及白平衡调节方法
WO2020010638A1 (zh) 一种图像坏点检测方法及装置
CN111292246A (zh) 图像颜色校正方法、存储介质及内窥镜
WO2023016320A1 (zh) 图像处理方法、装置、设备及介质
US11962917B2 (en) Color adjustment method, color adjustment device, electronic device and computer-readable storage medium
CN111670575B (zh) 图像的白平衡处理方法和装置
CN109587466B (zh) 颜色阴影校正的方法和装置
CN112788322B (zh) 自适应白平衡处理方法、装置、介质及电子设备
CN116158087A (zh) 一种多相机色彩一致性校正方法和装置
CN114331907A (zh) 颜色阴影校正方法及装置
US20180176528A1 (en) Light locus generation for automatic white balance
CN116419076B (zh) 图像处理方法、装置、电子设备及芯片
CN112492286A (zh) 一种自动白平衡校正方法、装置及计算机存储介质
CN117156289A (zh) 色彩风格校正方法、系统、电子设备、存储介质及芯片
WO2019137396A1 (zh) 一种图像处理方法及装置
CN114286000B (zh) 图像色彩处理方法、装置和电子设备
CN111669572A (zh) 摄像头模组的检测方法、装置、介质及电子设备
CN113793291A (zh) 一种图像融合方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant