CN117135293A - 图像处理方法和电子设备 - Google Patents

图像处理方法和电子设备 Download PDF

Info

Publication number
CN117135293A
CN117135293A CN202310207723.8A CN202310207723A CN117135293A CN 117135293 A CN117135293 A CN 117135293A CN 202310207723 A CN202310207723 A CN 202310207723A CN 117135293 A CN117135293 A CN 117135293A
Authority
CN
China
Prior art keywords
image
color
brightness
parameter
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310207723.8A
Other languages
English (en)
Other versions
CN117135293B (zh
Inventor
乔晓磊
李怀乾
肖斌
刘志恒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honor Device Co Ltd
Original Assignee
Honor Device Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honor Device Co Ltd filed Critical Honor Device Co Ltd
Priority to CN202310207723.8A priority Critical patent/CN117135293B/zh
Publication of CN117135293A publication Critical patent/CN117135293A/zh
Application granted granted Critical
Publication of CN117135293B publication Critical patent/CN117135293B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • H04N5/213Circuitry for suppressing or minimising impulsive noise
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/68Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/77Circuits for processing the brightness signal and the chrominance signal relative to each other, e.g. adjusting the phase of the brightness signal relative to the colour signal, correcting differential gain or differential phase

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

本申请涉及图像领域,提供了一种图像处理方法和电子设备,该图像处理方法包括:开启相机应用程序;显示第一图像,第一图像中包括条纹和/或偏色图像区域;检测到第一操作;响应于第一操作,获取第二图像;基于第一图像与第二图像,得到颜色转换矩阵和/或亮度参数;基于颜色转换矩阵和/或亮度参数对第一图像进行第一图像处理,得到第三图像,第三图像为去除条纹和/或偏色图像区域的图像;基于第二图像的亮度信息获取第一参数;基于第一参数对第三图像进行镜头阴影校正处理,得到第四图像;显示或者保存第四图像。基于本申请的方案,在拍摄运动对象时能够去除图像中的条纹和/或局部偏色,且避免图像中出现颜色校正过度的问题,提高图像质量。

Description

图像处理方法和电子设备
技术领域
本申请涉及图像领域,具体地,涉及一种图像处理方法和电子设备。
背景技术
随着电子设备中图像技术的发展,用户对拍摄功能的要求越来越高。例如,用户在拍摄运动对象时,通常期望电子设备能够采集到运动对象在运动瞬间的图像;由于拍摄对象在运动,因此电子设备通常需要减少图像中的运动模糊;为了减少图像中的运动模糊,通常电子设备可以缩短曝光时间,提升感光度值;在频闪光源(例如,50HZ交流电光源)的拍摄场景中,由于缩短曝光时间会导致曝光时间不满足10ms的整数倍,因此电子设备采集的图像中会出现banding现象;例如,banding现象包括图像中出现明暗相间的条纹,或者,局部图像区域偏色等问题;导致图像质量较差。
因此,在拍摄运动对象时,如何提高图像质量成为一个亟需解决的问题。
发明内容
本申请提供了一种图像处理方法和电子设备,能够确保在采集运动拍摄对象的运动瞬间图像时,去除图像中的条纹和/或偏色图像区域;且避免图像中出现颜色校正过度的问题,提高图像质量。
第一方面,提供了一种图像处理方法,应用于电子设备,所述电子设备所处的拍摄环境的光源为频闪光源,所述图像处理方法包括:
开启相机应用程序;
显示第一图像,所述第一图像为基于第一曝光时间采集的拍摄对象的图像,所述拍摄对象为运动对象,所述第一曝光时间小于第一时长,所述第一图像中包括条纹和/或偏色图像区域;
检测到第一操作,所述第一操作指示所述电子设备拍照或者录像;
响应于所述第一操作,获取第二图像,所述第二图像为基于第二曝光时间采集的所述拍摄对象的图像,所述第二曝光时间为所述第一时长的整数倍;
基于所述第一图像与所述第二图像,得到颜色转换矩阵和/或亮度参数,所述颜色转换矩阵用于对所述第一图像进行颜色调整,所述亮度参数用于表征亮度的灰阶;
基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行第一图像处理,得到第三图像,所述第三图像为去除所述条纹和/或偏色图像区域的图像;
基于所述第二图像的亮度信息获取第一参数,所述第一参数用于镜头阴影校正处理;
基于所述第一参数对所述第三图像进行所述镜头阴影校正处理,得到第四图像;
显示或者保存所述第四图像。
在本申请的实施例中,在电子设备所处的拍摄环境的光源为频闪光源,由于电子设备需要拍摄运动物体从而降低曝光时间导致图像中出现banding条纹的情况下;在本申请的实施例中,通过将第二图像(例如,正常曝光图像)的颜色信息与亮度信息迁移至第一图像(例如,短曝光图像),得到去除第一图像中的条纹和/或偏色图像区域的第三图像;若采用短曝光图像的LSC增益信息对第三图像进行LSC处理,由于LSC增益信息与第三图像中的颜色信息与亮度信息不匹配,导致经过LSC处理之后第四图像中会出现颜色校正过度的问题;在本申请的实施例中,能够基于统计信息获取每一帧曝光图像的LSC增益信息,因此在对第三图像进行LSC处理时,可以根据第二图像的LSC增益信息对第三图像进行LSC处理,使得LSC增益信息与第三图像相匹配,避免LSC处理后的第四图像中出现颜色校正过度的问题;综上所述,通过本申请的实施例,能够确保在采集运动拍摄对象的运动瞬间图像时,去除图像中的条纹和/或偏色图像区域;且避免图像中出现颜色校正过度的问题,提高图像质量。结合第一方面,在第一方面的某些实现方式中,所述第二图像的亮度信息包括:所述第二图像的亮度通道的数据,或者,所述第二图像的像素点的亮度值。
结合第一方面,在第一方面的某些实现方式中,还包括:
将所述第一图像与所述第二图像输入至图像处理模型,得到双边网格数据;其中,所述双边网格数据包括所述颜色转换矩阵和/或所述亮度参数,所述第一图像的尺寸与所述第二图像的尺寸相同。
本申请的实施例中,通过图像处理模型能够得到将正常曝光时间或者长曝光时间得到的图像帧的颜色与亮度迁移至短曝光时间的图像帧的双边网格;在交流电为50HZ的频闪光源的拍摄场景中,由于正常曝光时间或者长曝光时间为10ms的整数倍,因此,长曝光图像与正常曝光图像中通常不存在图像条纹或者偏色图像区域;基于图像处理模型输出的双边网格得到颜色转换矩阵和/或亮度参数;通过图像处理模型对第一图像进行颜色迁移与亮度迁移时,能够识别第一图像与第二图像之间的图像内容差异部分;因此,通过图像处理模型得到的得到颜色转换矩阵和/或亮度参数,在对第一图像进行颜色调整和/或亮度调整时不会引入鬼影区域,提高图像质量。
结合第一方面,在第一方面的某些实现方式中,所述基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行第一图像处理,得到第三图像,包括:
基于所述颜色转换矩阵和/或所述亮度参数对所述第一图像进行插值处理,得到所述第三图像。
在一种可能的实现方式中,通过颜色转换矩阵和/或亮度参数与第一图像的矩阵进行相乘,得到第三图像。
结合第一方面,在第一方面的某些实现方式中,所述基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行插值处理,得到所述第三图像,包括:
在第一颜色空间,基于所述颜色转换矩阵和/或所述亮度参数对所述第一图像进行所述第一图像处理,得到处理后的图像;
在所述第一颜色空间,对所述处理后的图像进行第二图像处理,得到所述第三图像,所述第二图像处理为所述第一颜色空间中的颜色处理算法。
在本申请的实施例中,在图像信号处理器对电子设备采集的Raw图像进行处理的过程中,在执行第一颜色空间的算法时,可以先执行基于颜色转换矩阵和/或亮度参数对第一图像进行第一图像处理再执行第一颜色空间的其他算法;由于第一图像处理能够得到去除banding条纹和/或偏色图像区域的图像;换而言之,第一图像处理能够对图像进行颜色与亮度的校正;在颜色与亮度的准确性较高的情况下,再执行第一颜色空间的其他算法能够确保在图像的颜色与亮度的准确性较高的基础上,对去除banding条纹和/或偏色图像区域的图像进行第一颜色空间的其他算法处理,从而提升图像质量。
结合第一方面,在第一方面的某些实现方式中,所述镜头阴影校正处理包括颜色阴影校正与亮度阴影校正,所述基于所述第二图像的亮度信息获取第一参数,包括:
基于所述第二图像的亮度信息,得到镜头阴影校正标定参数;
将所述镜头阴影校正标定参数与所述第二图像中的像素点相乘,得到处理后的第二图像;
基于处理后的第二图像的统计信息,得到第二参数,所述第二图像的统计信息包括所述处理后的第二图像的亮度直方图或者,所述处理后的第二图像的亮度梯度图,所述第二参数用于所述颜色阴影校正;
将所述镜头阴影校正标定参数与所述第二参数相乘,得到所述第一参数,所述第一参数用于所述颜色阴影校正与所述亮度阴影校正。
结合第一方面,在第一方面的某些实现方式中,所述获取第二图像之前,还包括:
对所述电子设备所处的拍摄场景进行检测,检测到所述运动对象;
并且,检测到所述第一图像中存在所述条纹和/或偏色图像区域。
结合第一方面,在第一方面的某些实现方式中,所述第一时长的大小为基于所述频闪光源在每秒的亮暗次数得到的。
结合第一方面,在第一方面的某些实现方式中,所述第一时长=1000/所述频闪光源在每秒的亮暗次数。
在一种可能的实现方式中,所述频闪光源在每秒的亮暗次数与所述频闪光源的工作电压的频率关联。
在一种可能的实现方式中,频闪光源工作电压的频率为50HZ,即频闪光源在每秒的亮暗次数为100次,则第一时长为10ms;此时,第一图像的曝光时间小于10ms,第二图像的曝光时间为10ms的整数倍。
在一种可能的实现方式中,频闪光源工作电压的频率为60HZ,即频闪光源在每秒的亮暗次数为120次,则第一时长为8.3ms;此时,第一图像的曝光时间小于8.3ms,第二图像的曝光时间为8.3ms的整数倍。
结合第一方面,在第一方面的某些实现方式中,所述图像处理模型为卷积神经网络。
结合第一方面,在第一方面的某些实现方式中,所述图像处理模型是通过以下方法训练得到的:
获取样本数据,所述样本数据包括第一样本图像、第二样本图像与第三样本图像,所述第二样本图像中包括所述第一样本图像的图像内容、条纹和/或偏色图像区域,所述第三样本图像与所述第一样本图像具有相同的图像内容,所述第三样本图像的图像质量高于所述第一样本图像的图像质量;
将所述第一样本图像与所述第二样本图像输入至待训练的图像处理模型,得到预测双边网格数据;
基于所述预测双边网格数据对所述第二样本图像进行插值处理,得到预测图像;
基于预测图像与所述第三样本图像之间的差异训练所述待训练的图像处理模型,得到所述图像处理模型。
在一种可能的实现方式中,所述电子设备包括图像信号处理器,所述第一图像为所述图像信号处理器输出的图像。
在一种可能的实现方式中,所述第二图像为对所述电子设备采集的Raw图像进行第三图像处理得到的图像,所述第三图像处理包括颜色空间转换处理。
第二方面,提供了一种图像处理方法,应用于电子设备,所述电子设备所处的拍摄环境的光源为频闪光源,所述图像处理方法包括:
开启相机应用程序;
显示第一图像,所述第一图像为基于第一曝光时间采集的拍摄对象的图像,所述拍摄对象为运动对象,所述第一曝光时间小于第一时长,所述第一图像中包括条纹和/或偏色图像区域;
检测到第一操作,所述第一操作指示所述电子设备拍照或者录像;
响应于所述第一操作,获取第二图像,所述第二图像为基于第二曝光时间采集的所述拍摄对象的图像,所述第二曝光时间为所述第一时长的整数倍;
基于所述第二图像的亮度信息获取第一参数,所述第一参数用于镜头阴影校正处理;
基于所述第一参数对所述第二图像进行所述镜头阴影校正处理,得到第五图像;
基于所述第一图像与所述第五图像,得到颜色转换矩阵和/或亮度参数,所述颜色转换矩阵用于对所述第一图像进行颜色调整,所述亮度参数用于表征亮度的灰阶;
基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行第一图像处理,得到第四图像,所述第四图像为去除所述条纹和/或偏色图像区域的图像;
显示或者保存所述第四图像。
在本申请的实施例中,若采用第一图像(例如,短曝光图像)的LSC增益信息对第二图像(例如,正常曝光图像)进行LSC处理,由于短曝光图像的LSC增益信息与正曝光图像中的颜色信息和亮度信息不匹配,导致对正曝光图像进行LSC处理后图像中会出现颜色校正过度的问题;在本申请的实施例中,能够基于第二图像的亮度统计信息获取正常曝光图像的LSC增益信息(例如,第一参数);因此,在对第二图像进行LSC处理时,可以第一参数对第二图像进行LSC处理,使得LSC增益信息与第二图像相匹配,避免LSC处理后的图像中出现颜色校正过度的问题;此外,由于第五图像中不存在明暗相间的条纹与局部偏色的问题;通过将第五图像的颜色信息与亮度信息迁移至第一图像,从而去除第一图像中的明暗相间的条纹与局部偏色问题,得到第四图像;可以理解为,第四图像中包括第一图像的图像内容信息,与第五图像中的颜色信息和亮度信息;综上所述,通过本申请的实施例,能够确保在采集运动拍摄对象的运动瞬间图像时,去除图像中的条纹和/或偏色图像区域;且避免图像中出现颜色校正过度的问题,提高图像质量。
结合第二方面,在第二方面的某些实现方式中,所述第二图像的亮度信息包括:所述第二图像的亮度通道的数据,或者,所述第二图像的像素点的亮度值。
结合第二方面,在第二方面的某些实现方式中,所述第一图像为基于所述第一参数进行所述镜头阴影校正处理后的图像。
在一种可能的实现方式中,第一图像基于电子设备采集的短曝光Raw图像进行图像处理后得到的图像,图像处理包括基于第一参数进行镜头阴影校正处理。
结合第二方面,在第二方面的某些实现方式中,还包括:
将所述第一图像与所述第五图像输入至图像处理模型,得到双边网格数据;其中,所述双边网格数据包括所述颜色转换矩阵和/或所述亮度参数,所述第一图像的尺寸与所述第五图像的尺寸相同。
本申请的实施例中,通过图像处理模型能够得到将正常曝光时间或者长曝光时间得到的图像帧的颜色与亮度迁移至短曝光时间的图像帧的双边网格;在交流电为50HZ的频闪光源的拍摄场景中,由于正常曝光时间或者长曝光时间为10ms的整数倍,因此,长曝光图像与正常曝光图像中通常不存在图像条纹或者偏色图像区域;基于图像处理模型输出的双边网格得到颜色转换矩阵和/或亮度参数;通过图像处理模型对第一图像进行颜色迁移与亮度迁移时,能够识别第一图像与第五图像之间的图像内容差异部分;因此,通过图像处理模型得到的得到颜色转换矩阵和/或亮度参数,在对第一图像进行颜色调整和/或亮度调整时不会引入鬼影区域,提高图像质量。
结合第二方面,在第二方面的某些实现方式中,所述基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行第一图像处理,得到第四图像,包括:
基于所述颜色转换矩阵和/或所述亮度参数对所述第一图像进行插值处理,得到所述第四图像。
结合第二方面,在第二方面的某些实现方式中,所述基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行插值处理,得到所述第四图像,包括:
在第一颜色空间,基于所述颜色转换矩阵和/或所述亮度参数对所述第一图像进行所述第一图像处理,得到处理后的图像;
在所述第一颜色空间,对所述处理后的图像进行第二图像处理,得到所述第四图像,所述第二图像处理为所述第一颜色空间中的颜色处理算法。
结合第二方面,在第二方面的某些实现方式中,所述镜头阴影校正处理包括颜色阴影校正与亮度阴影校正,所述基于所述第二图像的亮度信息获取第一参数,包括:
基于所述第二图像的亮度信息,得到镜头阴影校正标定参数;
将所述镜头阴影校正标定参数与所述第二图像中的像素点相乘,得到处理后的第二图像;
基于处理后的第二图像的统计信息,得到第二参数,所述第二图像的统计信息包括所述处理后的第二图像的亮度直方图或者,所述处理后的第二图像的亮度梯度图,所述第二参数用于所述颜色阴影校正;
将所述镜头阴影校正标定参数与所述第二参数相乘,得到所述第一参数,所述第一参数用于所述颜色阴影校正与所述亮度阴影校正。
结合第二方面,在第二方面的某些实现方式中,所述获取第二图像之前,还包括:
对所述电子设备所处的拍摄场景进行检测,检测到所述运动对象;
并且,检测到所述第一图像中存在所述条纹和/或偏色图像区域。
结合第二方面,在第二方面的某些实现方式中,所述第一时长的大小为基于所述频闪光源在每秒的亮暗次数得到的。
结合第二方面,在第二方面的某些实现方式中,所述第一时长=1000/所述频闪光源在每秒的亮暗次数。
在一种可能的实现方式中,所述频闪光源在每秒的亮暗次数与所述频闪光源的工作电压的频率关联。
结合第二方面,在第二方面的某些实现方式中,所述图像处理模型为卷积神经网络。
结合第二方面,在第二方面的某些实现方式中,所述图像处理模型是通过以下方法训练得到的:
获取样本数据,所述样本数据包括第一样本图像、第二样本图像与第三样本图像,所述第二样本图像中包括所述第一样本图像的图像内容、条纹和/或偏色图像区域,所述第三样本图像与所述第一样本图像具有相同的图像内容,所述第三样本图像的图像质量高于所述第一样本图像的图像质量;
将所述第一样本图像与所述第二样本图像输入至待训练的图像处理模型,得到预测双边网格数据;
基于所述预测双边网格数据对所述第二样本图像进行插值处理,得到预测图像;
基于预测图像与所述第三样本图像之间的差异训练所述待训练的图像处理模型,得到所述图像处理模型。
在一种可能的实现方式中,所述电子设备包括图像信号处理器,所述第一图像为所述图像信号处理器输出的图像。
在一种可能的实现方式中,所述第二图像为对所述电子设备采集的Raw图像进行第三图像处理得到的图像,所述第三图像处理包括颜色空间转换处理。
第三方面,提供了一种电子设备,电子设备包括一个或多个处理器与存储器;存储器与一个或多个处理器耦合,存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,一个或多个处理器调用计算机指令以使得电子设备执行:
开启相机应用程序;
显示第一图像,所述第一图像为基于第一曝光时间采集的拍摄对象的图像,所述拍摄对象为运动对象,所述第一曝光时间小于第一时长,所述第一图像中包括条纹和/或偏色图像区域;
检测到第一操作,所述第一操作指示所述电子设备拍照或者录像;
响应于所述第一操作,获取第二图像,所述第二图像为基于第二曝光时间采集的所述拍摄对象的图像,所述第二曝光时间为所述第一时长的整数倍;
基于所述第一图像与所述第二图像,得到颜色转换矩阵和/或亮度参数,所述颜色转换矩阵用于对所述第一图像进行颜色调整,所述亮度参数用于表征亮度的灰阶;
基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行第一图像处理,得到第三图像,所述第三图像为去除所述条纹和/或偏色图像区域的图像;
基于所述第二图像的亮度信息获取第一参数,所述第一参数用于镜头阴影校正处理;
基于所述第一参数对所述第三图像进行所述镜头阴影校正处理,得到第四图像;
显示或者保存所述第四图像。
可选地,一个或多个处理器调用计算机指令以使得电子设备执行第一方面中的任意一种实现方式中的图像处理方法。
第四方面,提供了一种电子设备,电子设备包括一个或多个处理器与存储器;存储器与一个或多个处理器耦合,存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,一个或多个处理器调用计算机指令以使得电子设备执行:
开启相机应用程序;
显示第一图像,所述第一图像为基于第一曝光时间采集的拍摄对象的图像,所述拍摄对象为运动对象,所述第一曝光时间小于第一时长,所述第一图像中包括条纹和/或偏色图像区域;
检测到第一操作,所述第一操作指示所述电子设备拍照或者录像;
响应于所述第一操作,获取第二图像,所述第二图像为基于第二曝光时间采集的所述拍摄对象的图像,所述第二曝光时间为所述第一时长的整数倍;
基于所述第二图像的亮度信息获取第一参数,所述第一参数用于镜头阴影校正处理;
基于所述第一参数对所述第二图像进行所述镜头阴影校正处理,得到第五图像;
基于所述第一图像与所述第五图像,得到颜色转换矩阵和/或亮度参数,所述颜色转换矩阵用于对所述第一图像进行颜色调整,所述亮度参数用于表征亮度的灰阶;
基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行第一图像处理,得到第四图像,所述第四图像为去除所述条纹和/或偏色图像区域的图像;
显示或者保存所述第四图像。
可选地,一个或多个处理器调用计算机指令以使得电子设备执行第二方面中的任意一种实现方式中的图像处理方法。
第五方面,提供了一种电子设备,包括用于执行第一方面或者第一方面中的任意一种实现方式中的图像处理方法的模块/单元。
第六方面,提供了一种电子设备,包括用于执行第二方面或者第二方面中的任意一种实现方式中的图像处理方法的模块/单元。
第七方面,提供一种电子设备,所述电子设备包括一个或多个处理器和存储器与;所述存储器与所述一个或多个处理器耦合,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行任一方面(例如,第一方面或者第二方面)或者任一方面中的任意一种实现方式中的图像处理方法。
第八方面,提供了一种芯片系统,所述芯片系统应用于电子设备,所述芯片系统包括一个或多个处理器,所述处理器用于调用计算机指令以使得所述电子设备执行任一方面或者任一方面中的任一种图像处理方法。
第九方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序代码,当所述计算机程序代码被电子设备运行时,使得该电子设备执行任一方面或者任一方面中的任意一种实现方式中的图像处理方法。
第十方面,提供了一种计算机程序产品,所述计算机程序产品包括:计算机程序代码,当所述计算机程序代码被电子设备运行时,使得该电子设备执行任一方面或者任一方面中的任意一种实现方式中的图像处理方法。
在本申请的实施例中,在电子设备所处的拍摄环境的光源为频闪光源,由于电子设备需要拍摄运动物体从而降低曝光时间导致图像中出现banding条纹的情况下;在本申请的实施例中,通过将第二图像(例如,正常曝光图像)的颜色信息与亮度信息迁移至第一图像(例如,短曝光图像),得到去除第一图像中的条纹和/或偏色图像区域的第三图像;若采用短曝光图像的LSC增益信息对第三图像进行LSC处理,由于LSC增益信息与第三图像中的颜色信息与亮度信息不匹配,导致经过LSC处理之后第四图像中会出现颜色校正过度的问题;在本申请的实施例中,能够基于统计信息获取每一帧曝光图像的LSC增益信息,因此在对第三图像进行LSC处理时,可以根据第二图像的LSC增益信息对第三图像进行LSC处理,使得LSC增益信息与第三图像相匹配,避免LSC处理后的第四图像中出现颜色校正过度的问题;综上所述,通过本申请的实施例,能够确保在采集运动拍摄对象的运动瞬间图像时,去除图像中的条纹和/或偏色图像区域;且避免图像中出现颜色校正过度的问题,提高图像质量。
附图说明
图1提供了一种镜头阴影校正的示意图;
图2是一种适用于本申请的电子设备的硬件系统的示意图;
图3是一种适用于本申请的电子设备的软件系统的示意图;
图4是一种适用于本申请实施例的应用场景的示意图;
图5是一种适用于本申请实施例的图形用户界面的示意图;
图6是本申请实施例一种LSC处理的增益信息的示意图;
图7是本申请实施例提供的一种图像信号处理器处理方法的示意性流程图;
图8是本申请实施例提供的一种图像处理方法的示意性流程图;
图9是本申请实施例提供的一种LSC处理的增益信息的示意图;
图10是本申请实施例提供的另一种图像处理方法的示意性流程图;
图11是本申请实施例提供的另一种图像处理方法的示意性流程图;
图12是本申请实施例提供的另一种图像处理方法的示意性流程图;
图13是一种适用于本申请实施例的图形用户界面的示意图;
图14是一种适用于本申请实施例的图形用户界面的示意图;
图15是一种适用于本申请实施例的图形用户界面的示意图;
图16是一种适用于本申请实施例的图形用户界面的示意图;
图17是一种适用于本申请实施例的图形用户界面的示意图;
图18是本申请实施例提供的一种电子设备的结构示意图;
图19是本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
在本申请的实施例中,以下术语“第一”、“第二”等仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
为了便于对本申请实施例的理解,首先对本申请实施例中涉及的相关概念进行简要说明。
1、频闪(flicker)
交流电网中的传输的能量并不是稳定不变的,而是随着一个固定频率进行变化,这个频率一般被称为工频;工频所带来能量变化称为flicker。
2、图像条带(banding)
在频闪光源的拍摄环境中,电子设备中的图像传感器捕捉到flicker而在图像上形成的条带的现象称为图像条带banding现象,通常可以称为banding。
示例性地,对于50HZ交流电,即每秒钟灯光亮暗100次的带电光源;若电子设备的曝光时间满足10ms的整数倍,则曝光积分周期可以抵消banding;若电子设备的曝光时间不满足10ms的整数倍,则采集图像时的进光量会按交流电正弦波规律波动,导致图像中出现有规律的条纹。
3、镜头阴影校正(Lens shading correction,LSC)
镜头阴影校正是指校正镜头阴影;其中,镜头阴影是指由镜头的光学特性所导致的图像亮度和/或图像颜色不均匀的现象,如图1中的(a)所示;在图1中的(a)中,图像区域196表示图像颜色不均匀的区域;LSC通常可以包括亮度阴影(luma shading)校正和颜色阴影(color shading)校正两个部分;亮度阴影校是由于图像传感器边缘接收到的光线比图像传感器的中心弱,从而造成图像中心到图像四周逐渐变暗的现象,如图1中的(b)所示;颜色阴影一般主要是由于使用红外截止滤光片(IR-cut filter),入射光角度不同时IR-cutfilter的截止频率不同;或者,图像传感器的主光线倾斜角(ChiefRay Angle,CRA)与镜头的CRA不匹配;或者器件安装有误等,从而导致图像中心到图像四周颜色渐变的现象,如图1中的(c)所示;进行LSC后,图像的亮度不均匀与颜色不均匀的问题都得到了解决,如图1中的(d)所示。
3、双边网格(bilateral grid)
双边网格本质上是一个数据结构;例如,对于单通道的灰度值,双边网格可以为结合图像二维的空间域信息以及一维的灰度信息,得到的一个三维数组。
4、曝光时间
曝光时间是指从相机快门打开到关闭这段时间内光线照射到底片或感光器的时间。
5、神经网络
神经网络是指将多个单一的神经单元联结在一起形成的网络,即一个神经单元的输出可以是另一个神经单元的输入;每个神经单元的输入可以与前一层的局部接受域相连,来提取局部接受域的特征,局部接受域可以是由若干个神经单元组成的区域。
6、卷积神经网络(convolutional neuron network,CNN)
卷积神经网络是一种带有卷积结构的深度神经网络。卷积神经网络包含了一个由卷积层和子采样层构成的特征选取器,该特征选取器可以看作是滤波器。卷积层是指卷积神经网络中对输入信号进行卷积处理的神经元层。在卷积神经网络的卷积层中,一个神经元可以只与部分邻层神经元连接。一个卷积层中,通常包含若干个特征平面,每个特征平面可以由一些矩形排列的神经单元组成。同一特征平面的神经单元共享权重,这里共享的权重就是卷积核。共享权重可以理解为提取图像信息的方式与位置无关。卷积核可以以随机大小的矩阵的形式初始化,在卷积神经网络的训练过程中卷积核可以通过学习得到合理的权重。另外,共享权重带来的直接好处是减少卷积神经网络各层之间的连接,同时又降低了过拟合的风险。
7、HDRnet
HDRNet是一种典型的3D插值网格;例如,空域上可以划分成了16x16,值域上可以划分成8个区间。
8、反向传播算法
神经网络可以采用误差反向传播(back propagation,BP)算法在训练过程中修正初始的神经网络模型中参数的大小,使得神经网络模型的重建误差损失越来越小。具体地,前向传递输入信号直至输出会产生误差损失,通过反向传播误差损失信息来更新初始的神经网络模型中参数,从而使误差损失收敛。反向传播算法是以误差损失为主导的反向传播运动,旨在得到最优的神经网络模型的参数,例如权重矩阵。
下面将结合附图,对本申请实施例中提供的图像处理方法和电子设备进行描述。
图2示出了一种适用于本申请的电子设备的硬件系统。
示例性地,电子设备100可以是手机、智慧屏、平板电脑、可穿戴电子设备、车载电子设备、增强现实(augmented reality,AR)设备、虚拟现实(virtual reality,VR)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、个人数字助理(personal digital assistant,PDA)、投影仪等等,本申请实施例对电子设备100的具体类型不作任何限制。
示例性地,电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
需要说明的是,图2所示的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图2所示的部件更多或更少的部件,或者,电子设备100可以包括图2所示的部件中某些部件的组合,或者,电子设备100可以包括图2所示的部件中某些部件的子部件。图2示的部件可以以硬件、软件、或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元。例如,处理器110可以包括以下处理单元中的至少一个:应用处理器(application processor,AP)、调制解调处理器、图形处理器(graphics processing unit,GPU)、图像信号处理器(image signal processor,ISP)、控制器、视频编解码器、数字信号处理器(digital signal processor,DSP)、基带处理器、神经网络处理器(neural-network processing unit,NPU)。其中,不同的处理单元可以是独立的器件,也可以是集成的器件。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。例如,处理器110可以包括以下接口中的至少一个:内部集成电路(inter-integrated circuit,I2C)接口、内部集成电路音频(inter-integrated circuit sound,I2S)接口、脉冲编码调制(pulse codemodulation,PCM)接口、通用异步接收传输器(universal asynchronous receiver/transmitter,UART)接口、移动产业处理器接口(mobile industry processor interface,MIPI)、通用输入输出(general-purpose input/output,GPIO)接口、SIM接口、USB接口。
示例性地,在本申请的实施例中,处理器110可以用于执行本申请实施例提供的图像处理方法;例如,开启相机应用程序;显示第一图像,第一图像为基于第一曝光时间采集的拍摄对象的图像,拍摄对象为运动对象,第一曝光时间小于第一时长,第一图像中包括条纹和/或偏色图像区域;检测到第一操作,第一操作指示电子设备拍照或者录像;响应于第一操作,获取第二图像,第二图像为基于第二曝光时间采集的拍摄对象的图像,第二曝光时间为第一时长的整数倍;基于第一图像与第二图像,得到颜色转换矩阵和/或亮度参数,颜色转换矩阵用于对第一图像进行颜色调整,亮度参数用于表征亮度的灰阶;基于颜色转换矩阵和/或亮度参数对第一图像进行第一图像处理,得到第三图像,第三图像为去除条纹和/或偏色图像区域的图像;基于第二图像的亮度信息获取第一参数,第一参数用于镜头阴影校正处理;基于第一参数对第三图像进行镜头阴影校正处理,得到第四图像;显示或者保存第四图像;可选地,参见后续图10所示,或者,参见后续图12所示。
示例性地,在本申请的实施例中,处理器110可以用于执行本申请实施例提供的图像处理方法;例如,开启相机应用程序;显示第一图像,第一图像为基于第一曝光时间采集的拍摄对象的图像,拍摄对象为运动对象,第一曝光时间小于第一时长,第一图像中包括条纹和/或偏色图像区域;检测到第一操作,第一操作指示电子设备拍照或者录像;响应于第一操作,获取第二图像,第二图像为基于第二曝光时间采集的拍摄对象的图像,第二曝光时间为第一时长的整数倍;基于第二图像的亮度信息获取第一参数,第一参数用于镜头阴影校正处理;基于第一参数对第二图像进行镜头阴影校正处理,得到第五图像;基于第一图像与第五图像,得到颜色转换矩阵和/或亮度参数,颜色转换矩阵用于对第一图像进行颜色调整,亮度参数用于表征亮度的灰阶;基于颜色转换矩阵和/或亮度参数对第一图像进行第一图像处理,得到第四图像,第四图像为去除条纹和/或偏色图像区域的图像;显示或者保存第四图像;可选地,参见后续图11所示。
图2所示的各模块间的连接关系只是示意性说明,并不构成对电子设备100的各模块间的连接关系的限定。可选地,电子设备100的各模块也可以采用上述实施例中多种连接方式的组合。
电子设备100的无线通信功能可以通过天线1、天线2、移动通信模块150、无线通信模块160、调制解调处理器以及基带处理器等器件实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
电子设备100可以通过GPU、显示屏194以及应用处理器实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194可以用于显示图像或视频。
可选地,显示屏194可以用于显示图像或视频。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD)、有机发光二极管(organic light-emitting diode,OLED)、有源矩阵有机发光二极体(active-matrix organic light-emitting diode,AMOLED)、柔性发光二极管(flex light-emitting diode,FLED)、迷你发光二极管(mini light-emitting diode,Mini LED)、微型发光二极管(micro light-emitting diode,Micro LED)、微型OLED(Micro OLED)或量子点发光二极管(quantum dotlight emitting diodes,QLED)。在一些实施例中,电子设备100可以包括1个或N个显示屏194,N为大于1的正整数。
示例性地,电子设备100可以通过ISP、摄像头193、视频编解码器、GPU、显示屏194以及应用处理器等实现拍摄功能。
示例性地,ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过摄像头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP可以对图像的噪点、亮度和色彩进行算法优化,ISP还可以优化拍摄场景的曝光和色温等参数。在一些实施例中,ISP可以设置在摄像头193中。
示例性地,摄像头193(也可以称为镜头)用于捕获静态图像或视频。可以通过应用程序指令触发开启,实现拍照功能,如拍摄获取任意场景的图像。摄像头可以包括成像镜头、滤光片、图像传感器等部件。物体发出或反射的光线进入成像镜头,通过滤光片,最终汇聚在图像传感器上。成像镜头主要是用于对拍照视角中的所有物体(也可以称为待拍摄场景、目标场景,也可以理解为用户期待拍摄的场景图像)发出或反射的光汇聚成像;滤光片主要是用于将光线中的多余光波(例如除可见光外的光波,如红外)滤去;图像传感器可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementarymetal-oxide-semiconductor,CMOS)光电晶体管。图像传感器主要是用于对接收到的光信号进行光电转换,转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。
示例性地,数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
示例性地,视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1、MPEG2、MPEG3和MPEG4。
示例性地,陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即,x轴、y轴和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。例如,当快门被按下时,陀螺仪传感器180B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航和体感游戏等场景。
示例性地,加速度传感器180E可检测电子设备100在各个方向上(一般为x轴、y轴和z轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。加速度传感器180E还可以用于识别电子设备100的姿态,作为横竖屏切换和计步器等应用程序的输入参数。
示例性地,距离传感器180F用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,例如在拍摄场景中,电子设备100可以利用距离传感器180F测距以实现快速对焦。
示例性地,环境光传感器180L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测电子设备100是否在口袋里,以防误触。
示例性地,指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现解锁、访问应用锁、拍照和接听来电等功能。
示例性地,触摸传感器180K,也称为触控器件。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,触摸屏也称为触控屏。触摸传感器180K用于检测作用于其上或其附近的触摸操作。触摸传感器180K可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,并且与显示屏194设置于不同的位置。
上文详细描述了电子设备100的硬件系统,下面介绍电子设备100的软件系统。
图3是本申请实施例提供的电子设备的软件系统的示意图。
如图3所示,系统架构中可以包括应用层210、应用框架层220、硬件抽象层230、驱动层240以及硬件层250。
应用层210可以包括相机应用程序。
可选地,应用层210还可以包括图库、日历、通话、地图、导航、WLAN、蓝牙、音乐、视频、短信息等应用程序。
应用框架层220为应用程序层的应用程序提供应用程序编程接口(applicationprogramming interface,API)和编程框架;应用程序框架层可以包括一些预定义的函数。
例如,应用框架层220可以包括相机访问接口;相机访问接口中可以包括相机管理与相机设备。其中,相机管理可以用于提供管理相机的访问接口;相机设备可以用于提供访问相机的接口。
硬件抽象层230用于将硬件抽象化。比如,硬件抽象层可以包括相机抽象层以及其他硬件设备抽象层;相机抽象层中可以包括相机设备1、相机设备2等;相机硬件抽象层可以与相机算法库相连接,相机硬件抽象层可以调用相机算法库中的算法。
示例性地,相机算法库中可以包括图像处理算法,运行图像处理算法时用于执行本申请实施例提供的图像处理方法。
驱动层240用于为不同硬件设备提供驱动。比如,驱动层可以包括相机设备驱动。
硬件层250可以包括图像传感器、图像信号处理器以及其他硬件设备。
目前,用户在拍摄运动对象时,通常期望电子设备能够采集到运动对象在运动瞬间的图像;由于拍摄对象在运动,因此电子设备通常需要减少图像中的运动模糊;为了减少图像中的运动模糊,通常电子设备可以缩短曝光时间,提升感光度值;但是,在频闪光源(例如,50HZ交流电)的拍摄场景中,由于缩短曝光时间会导致曝光时间不满足10ms的整数倍;若曝光时间不满足10ms的整数倍,则电子设备采集的图像中会出现图像条带(banding)问题,即图像中出现明暗相间的banding条纹;其中,banding可以包括Luma banding与Chromabanding;Luma banding是指由于缩短曝光时间产生的banding条纹;其中,Luma banding仅有明暗变换,无颜色改变;Chroma banding是指图像中的局部区域出现图像偏色,图像中的局部区域与图像整体颜色不符,出现红色,绿色或者蓝色的偏色;产生Luma banding的原因在于:对于50HZ交流电的频闪光源的拍摄场景,若电子设备的曝光时间不是10ms的整数倍时,拍摄环境中频闪光源产生的交流电正弦波段无法与曝光积分周期相抵消,使得采集的图像中出现亮度有规律的条纹;产生Chroma banding的原因在于:在频闪光源的电压变化10%时,光源的色温会发生较大的变化(例如,1000K左右);图像的成像与色温相关;由于带电光源的电压发生较小的变化时,色温会出现较大的变化;导致图像中出现偏色问题;因此,若图像中出现banding则会严重影响图像质量。
此外,目前在ISP处理流程中,对于LSC处理电子设备只能获取预览图像的LSC增益信息,或者,获取当前帧图像的3帧之前图像的LSC增益信息,由于LSC处理时增益信息与图像帧不匹配,导致对debanding图像进行LSC处理后图像中可能会出现颜色校正过度的问题;例如,在进行debanding处理之前图像中包括红色偏色与明暗相间的条纹;在进行debanding处理与LSC处理后,由于LSC处理时增益信息与图像帧不匹配,使得处理后的图像中整体亮度基本一致,但是图像中会出现颜色过度校正的问题,如图5中的(b)中所示的272。
示例性地,图6所示的预览图像1(例如,3ms)的LSC增益信息与预览图像2(例如,10ms)的LSC增益信息之间的对比;其中,如图6中的(a)所示,图像291表示预览图像1的红色通道(R通道)的LSC增益信息;图像292表示预览图像2的R通道的LSC增益信息;图像293表示预览图像1的R通道的LSC增益信息与预览图像2的R通道的LSC增益信息的差异信息;在图像293中颜色越深表示差异越大,颜色越浅表示差异越小;基于图像293可以看出,预览图像1的R通道的LSC增益信息与预览图像2的R通道的LSC增益信息的差异较大;如图6中的(b)所示,图像294表示预览图像1的绿色通道(G通道)的LSC增益信息;图像295表示预览图像2的G通道的LSC增益信息;图像296表示预览图像1的G通道的LSC增益信息与预览图像2的G通道的LSC增益信息的差异信息;在图像296中颜色越深表示差异越大,颜色越浅表示差异越小;基于图像296可以看出,预览图像1的G通道的LSC增益信息与预览图像2的G通道的LSC增益信息的差异较小;如图6中的(c)所示,图像297表示预览图像1的蓝色通道(B通道)的LSC增益信息;图像298表示预览图像2的B通道的LSC增益信息;图像299表示预览图像1的B通道的LSC增益信息与预览图像2的B通道的LSC增益信息的差异信息;在图像299中颜色越深表示差异越大,颜色越浅表示差异越小;基于图像299可以看出,预览图像1的B通道的LSC增益信息与预览图像2的B通道的LSC增益信息的差异较大;基于图6可以看出,对于不同曝光时间的图像进行LSC时,LSC增益信息是不同的。
图4是本申请实施例提供的图像处理方法的应用场景的示意图。
示例性地,本申请实施例中的图像处理方法可以应用于拍照领域或者录像领域;例如,本申请的图像处理方法可以应用于在频闪光源的拍摄环境(例如,室内拍摄环境)中对运动对象的抓拍;其中,运动对象可以是指运动的用户,移动的物体,或者,视频中播放的图像(例如,电影)等。
例如,如图4所示,拍摄对象270在频闪光源的室内场所运动,室内照明设备(例如,电灯260)提供照明,电子设备100运行相机应用,电子设备100采集包括拍摄对象270的图像的过程中,显示屏上可以实时显示包括拍摄对象270的预览图像;用户在查看电子设备100显示屏的预览图像时,若要抓拍拍摄对象270运动瞬间的图像,点击拍摄界面的拍摄控件即可。当电子设备100的拍摄控件被触发,电子设备100可以抓拍到拍摄对象270运动瞬间的图像。
可选地,图4中以拍摄对象270为用户进行举例说明;拍摄对象还可以是动物、车辆、机器人等。例如,拍摄对象在频闪光源的拍摄环境中运动,可以是用户在室内打羽毛球、打乒乓球、练习瑜伽等。其中,电子设备的拍摄视角中的拍摄对象可以是一个用户,也可以是多用户。
例如,拍摄对象在频闪光源的拍摄环境中运动,可以是动物(例如,兔子、猫或者狗等)在室内奔跑等。
另外,室内场所需要使用照明设备提供光照,照明设备可以在交流电的驱动下工作。以照明设备是日光灯为例,日光灯的工作原理是在高压电流的作用下,灯管内的惰性气体放电,放电产生的电子到达日光灯的灯管使得日光灯发光。以日光灯的工作电压是50Hz交流电为例,当日光灯在交流电的驱动下工作时,50Hz的交流电使得日光灯在1s中频闪次数为100。
可选地,日光灯的工作电压是60Hz交流电为例,当日光灯在交流电的驱动下工作时,60Hz的交流电使得日光灯在1s中频闪次数为120。
示例性地,在本申请的实施例中,电子设备处于拍照模式,电子设备的显示屏可以显示预览图像,当电子设备的拍摄控件被触发,电子设备可以生成抓拍图像(也可被称为拍摄图像)。当电子设备抓拍拍摄对象的运动瞬间的过程,拍摄场景中光源的频闪会影响图像传感器采集的图像,可能会使得电子设备采集的图像出现banding条纹,如图5中的(a)所示,和/或,局部偏色区域,如图5中的(a)所示的271;通过debanding处理与LSC处理的相关算法后,得到如图5中的(b)所示的图像;如图5中的(b)所示,debanding之的图像中会出现局部偏色区域272,其中,局部偏色区域272与局部偏色区域271不同;例如,局部偏色区域271可以为红色偏色区域,局部偏色区域272可以为青色偏色区域;即debanding处理之前图像中的红色偏色区域,通过debanding处理与LSC处理之后红色偏色区域可能变为青色偏色区域。
有鉴于此,本申请的实施例提供了一种图像处理方法和电子设备;在电子设备所处的拍摄环境的光源为频闪光源,由于电子设备需要拍摄运动物体从而降低曝光时间导致图像中出现banding条纹和偏色图像区域的情况下;在本申请的实施例中,一方面,通过以正常曝光图像为基准对短曝光图像进行颜色迁移与亮度迁移,从而去除短曝光图像中的banding条纹与偏色图像区域;另一方面,在对短曝光图像进行LSC时,采用正常曝光图像的LSC增益信息进行LSC处理,确保在采集运动拍摄对象的运动瞬间图像时,去除图像中的banding条纹与偏色图像区域的情况下,图像中不会出现颜色校正过度的现象,提高图像质量。
本申请实施例的图像处理方法可以应用于相机应用程序的任一拍摄模式(例如,拍照模式);通过本申请实施例提供的图像处理方法,在电子设备处于频闪光源的拍摄环境中,拍摄运动物体时,能够去除图像中的banding现象,例如,去除图像中明暗相间的条纹与局部偏色区域;进一步,还能避免去除debanding的图像中出现颜色校正过度的问题,提高图像质量。
可选地,在相机应用程序处于预览状态(例如,拍照预览)时;电子设备显示的预览图像中包括banding条纹;在电子设备的拍摄控件被触发后,可以执行本申请实施例提供的图像处理方法,得到去除banding且图像中未出现局部偏色的图像。
可选地,相机应用程序的拍摄模式可以包括:拍照模式、人像模式、大光圈模式、专业模式等。
可选地,在电子设备具有足够的运算能力的情况下,本申请实施例中的图像处理方法还可以应用于录制视频领域、视频通话领域或者其他图像处理领域。
示例性地,视频通话场景可以包括但不限于以下场景中:
视频通话、视频会议应用、长短视频应用、视频直播类应用、视频网课应用、人像智能运镜应用场景、系统相机录像功能录制视频、视频监控,或者智能猫眼等人像拍摄类场景等。
应理解,上述为对应用场景的举例说明,并不对本申请的应用场景作任何限定。
下面结合图7至图12对本申请实施例提供的图像处理方法进行详细地描述。
图7是本申请实施例提供的一种图像信号处理器的处理流程的示意性流程图。该方法300可以由图1所示的电子设备执行;该方法300包括S310至S360,下面分别对S310至S360进行详细的描述。
步骤S310、图像传感器采集Raw图像。
应理解,Raw图像是指Raw颜色空间的图像;Raw图像可以是指从图像传感器中输出的未经过插值混色的原始的图像数据。
步骤S320、对Raw图像进行第一颜色空间转换处理。
示例性地,可以将Raw图像转换至RGB颜色空间,得到RGB图像。
步骤S330、RGB域算法处理。
可选地,S330中包括S331与S332;其中,S331为去除图像条带(debanding)处理;S332为基于第一增益信息的LSC处理;其中,第一增益信息可以是指基于正常曝光图像的统计信息得到的增益信息;例如,对于多帧曝光图像而言,第一增益信息可以为基于多帧曝光图像中第一帧正常曝光图像的统计信息得到的增益信息。
可选地,可以先执行S331再执行S332,如图10所示。
可选地,可以先执行S332再执行S331,如图11所示。
在本申请的实施例中,通过S331能够得到去除图像中明暗相间的条纹与局部偏色区域;通过S332能够有效避免颜色校正过度的问题,使得图像的颜色与亮度的准确性较高。
可选地,S330中对RGB图像进行RGB域算法处理包括:颜色相关算法处理与其他RGB域算法处理;在执行颜色相关算法处理时,先执行S331与S332,得到去除banding且未出现颜色校正过度的图像;再对执行其他颜色相关的算法处理。
在本申请的实施例中,在执行颜色相关算法处理之前,可以先执行本申请实施例提供的图像处理方法,即执行去除图像条带处理与基于第一增益信息的LSC处理;通过去除图像条带处理,能够得到去除图像中明暗相间的条纹与局部偏色区域;通过基于第一增益信息的LSC处理能够有效避免颜色校正过度的问题,使得图像的颜色与亮度的准确性较高;在颜色与亮度的准确性较高的情况下,再执行颜色相关算法处理,从而能够确保在图像的颜色与亮度的准确性较高的基础上,对去除banding且未出现颜色校正过度的图像进行其他颜色相关算法处理,从而提高图像质量。
可选地,本申请实施例提供的图像处理方法,即去除图像条带处理可以不限定在RGB域算法中的执行时间。
可选地,S331与S332的实现方式可以参见后续图10或者图11所示。
步骤S340、对处理后的RGB图像进行第二颜色空间转换处理。
示例性地,第二颜色空间可以是指YUV颜色空间;可以将处理后的RGB图像转换至YUV颜色空间;并执行YUV域算法处理。
步骤S350、YUV域算法处理。
示例性地,YUV域算法处理包括但不限于:
亮度降噪处理、边缘增强处理,对比度处理等。
步骤S360、输出处理后的图像。
可选地,输出存储格式的图像;例如,存储格式包括:JPEG格式(JPG格式)、GIF格式、PNG格式、PPM格式或者BMP格式等。
在本申请的实施例中,通过在RGB域算法处理增加去除图像条带处理与基于第一增益信息进行LSC处理;能够在电子设备所处的拍摄环境的光源为频闪光源,由于电子设备需要拍摄运动物体从而降低曝光时间导致图像中出现banding的情况下,去除短曝光图像中的banding,且能够有效避免颜色校正过度的问题,使得图像的颜色与亮度的准确性较高,从而提高图像质量。
图8是本申请实施例提供的一种图像处理方法的示意性流程图。该方法400可以由图1所示的电子设备执行;该方法400包括S401至S410,下面分别对S401至S410进行详细的描述。
S401、开启相机应用程序。
例性地,用户可以通过单击“相机”应用程序的图标,指示电子设备开启相机应用;或者,电子设备处于锁屏状态时,用户可以通过在电子设备的显示屏上向右滑动的手势,指示电子设备开启相机应用。又或者,电子设备处于锁屏状态,锁屏界面上包括相机应用程序的图标,用户通过点击相机应用程序的图标,指示电子设备开启相机应用程序。又或者,电子设备在运行其他应用时,该应用具有调用相机应用程序的权限;用户通过点击相应的控件可以指示电子设备开启相机应用程序。例如,电子设备正在运行即时通信类应用程序时,用户可以通过选择相机功能的控件,指示电子设备开启相机应用程序等。
应理解,上述为对开启相机应用程序的操作的举例说明;还可以通过语音指示操作,或者其它操作的指示电子设备开启相机应用程序;本申请对此不作任何限定。
可选地,在开启相机应用程序之后,电子设备中的图像传感器采集Raw图像。
应理解,Raw图像是指Raw颜色空间的图像;Raw图像可以是指从图像传感器中输出的未经过插值混色的原始的图像数据。
S402、场景检测处理。
可选地,场景检测处理中包括S4021与S4022;其中,S4021、检测到拍摄场景中包括运动对象;S4022、检测到存在图像条带(banding)。
应理解,图像条带可以是指明暗相间的条纹,和/或,局部偏色图像区域。
可选地,电子设备可以基于预览流中前后两帧图像的光流信息计算运动幅度;若运动幅度大于阈值,则表示拍摄场景中包括运动对象。
应理解,光流是空间运动物体在观察成像平面上的像素运动的瞬时速度;一般而言,光流是由于场景中前景目标本身的移动和/或相机的运动所产生的;光流信息可以用于表示两帧图像之间像素的位移偏差。
示例性地,运动对象可以是指运动的用户,运动的动物,移动的物体,或者,视频中播放的图像等。
可选地,可以通过频闪(Flicker)器件统计数据,计算并输出当前拍摄场景中的光源频率与幅值,检测到存在图像条带。
示例性地,电子设备中的防闪烁传感器(Flicker Sensor)可以用于检测是否存在图像条带化;其中,防闪烁传感器(Flicker Sensor)可以为一种对环境光进行采样的传感器。
可选地,在执行S4022时,为了使得曝光周期与帧率相匹配,可以对预览流进行帧率控制;使得曝光周期为光源能量周期的整数倍。
例如,若光源能量周期为10ms;预览帧率为30,即每个曝光周期为33.33ms;则光源能量周期的整数倍无法与曝光周期匹配;此时,可以将预览帧率调整为25,即每个曝光周期为40ms,实现光源能量周期的整数倍与曝光周期相匹配。
S403、缩短自动曝光的时长。
可选地,若电子设备检测到拍摄场景中包括运动对象,触发电子设备可以缩短自动曝光时长;此外,曝光时长的大小受到场景检测结果的约束;例如,若图像中包括运行对象,触发电子设备缩短曝光时长;若图像中还包括banding,为了避免图像中出现的条纹颜色过深,则缩短曝光时长的幅度较小,即降曝光的幅度较小。
S404、获取短曝光图像。
其中,短曝光图像中包括运动对象。
可选地,短曝光图像可以是指多帧融合后的RGB图像;例如,短曝光图像可以为ISP处理后的短曝光图像;ISP处理后输出的短曝光图像可以是指以多帧Raw图像中的短曝光Raw图像为参考帧,得到的RGB图像。
应理解,由于短曝光图像的曝光时间较短,短曝光图像的曝光时间通常不满足10ms的整数倍;因此,短曝光图像中存在banding条纹。此外,由于在频闪光源的电压变化10%时,光源的色温会发生较大的变化(例如,1000K左右);图像的成像与色温相关,由于频闪光源的电压发生较小的变化时,色温会出现较大的变化,导致图像中出现偏色问题;因此,短曝光图像中可能还存在偏色图像区域。
可选地,可以获取全尺寸(full size)的短曝光Raw图像,对短曝光Raw图像进行ISP处理后得到的短曝光图像(例如,512*512大小的RGB图像)。
例如,相机模组中摄像头支持的最大分辨率为4096*2160,则获取的全尺寸的短曝光Raw图像的分辨率可以为4096*2160。
S405、检测到指示拍照的第一操作。
可选地,检测到指示拍照的第一操作可以为检测到对快门键的点击操作。
应理解,上述以第一操作为点击操作进行举例说明;第一操作还可以是通过语音指示操作,或者其它操作的指示拍照的操作;本申请对此不作任何限定。
S406、响应于第一操作,获取正常曝光图像。
其中,正常曝光图像与短曝光图像中包括同一运动对象。
示例性地,对于交流电为50HZ的频闪光源的拍摄场景中,正常曝光图像可以是指曝光时间为10ms的整数倍的Raw图像;即在采集正常曝光图像时,电子设备的曝光时间为10ms的整数倍。
可选地,在本申请的实施例中,电子设备可以采集多帧Raw图像,多帧Raw图像中包括SANB;其中,SA表示A帧短曝光图像,NB表示B帧正常曝光图像;其中,A为大于或者等于1的整数,B为大于或者等于1的整数;短曝光图像的曝光时间小于10ms;正常曝光图像的曝光时间为10ms的整数倍。可选地,SANB中的A帧短曝光Raw图像可以为S404中采集的图像。
可选地,在本申请的实施例中,电子设备可以采集多帧Raw图像,多帧Raw图像中包括SANBLC;其中,SA表示A帧短曝光图像,NB表示B帧正常曝光图像,LC表示C帧长曝光图像;其中,A为大于或者等于1的整数,B为大于或者等于1的整数,C为大于或者等于0的整数;短曝光图像的曝光时间小于10ms;正常曝光图像的曝光时间为10ms的整数倍;长曝光图像的曝光时间大于正常曝光图像的曝光时间。
例如,多帧Raw图像可以是指S2N2L的5帧图像;即为SSNNL的Raw图像,其中,2帧S为预览帧中的短曝光Raw图像;2帧N表示曝光值大于或者等于2帧短曝光图像,曝光时间为10ms整数倍的正常曝光图像;1帧L表示长曝光图像。
可选地,可以对采集到的一帧或者多帧正常曝光的Raw图像中的第一帧正常曝光的Raw图像,进行颜色空间转换处理(例如,去马赛克处理)后得到RGB图像。
S407、获取正常曝光图像的LSC增益信息。
可选地,可以将正常曝光图像输入至ISP中处理,基于正常曝光图像的统计信息获取正常曝光图像的LSC增益信息。
可选地,若相机模组采集多帧曝光图像,可以将多帧图像分别输入至ISP处理,基于每帧曝光图像的统计信息得到该帧图像对应的LSC增益信息(例如,LSC map)。
示例性地,根据当前帧图像(例如,输入ISP的正常曝光图像或者多帧曝光图像)的亮度信息,获取当前帧图像的LSC标定参数,记为fixed gain table;将LSC标定参数与当前帧图像相乘,得到处理后图像;根据处理后图像的统计信息(例如,直方图信息或者不同图像块的梯度信息),统计处理后图像的颜色阴影增益,记为color shading gain;将LSC标定参数与颜色阴影增益相乘,得到当前帧图像的增益信息,记为gain table;该增益信息既包含了对亮度阴影的校正也包含对颜色阴影增益的校正。
可选地,当前帧图像的亮度信息包括:当前帧图像的亮度通道的数据,或者,当前帧图像的像素点的亮度值。
例如,图9所示的为基于统计信息得到LSC增益信息(例如,曝光时长为10ms的图像)与预览图像2(例如,曝光时长为10ms的图像)的LSC增益信息之间的对比;其中,如图9中的(a)所示,图像421表示基于统计信息得到的红色通道(R通道)的LSC增益信息;图像422表示预览图像2的R通道的LSC增益信息;图像423表示基于统计信息得到的R通道的LSC增益信息与预览图像2的R通道的LSC增益信息的差异信息;在图像423中颜色越深表示差异越大,颜色越浅表示差异越小;基于图像423可以看出,基于统计信息得到的红色通道的LSC增益信息与预览图像2的R通道的LSC增益信息的差异较小;如图9中的(b)所示,图像424表示基于统计信息得到的绿色通道(G通道)的LSC增益信息;图像425表示预览图像2的G通道的LSC增益信息;图像426表示基于统计信息得到的G通道的LSC增益信息与预览图像2的G通道的LSC增益信息的差异信息;在图像426中颜色越深表示差异越大,颜色越浅表示差异越小;基于图像426可以看出,基于统计信息得到的G通道的LSC增益信息与预览图像2的G通道的LSC增益信息的差异较小;如图9中的(c)所示,图像427表示基于统计信息得到的蓝色通道(B通道)的LSC增益信息;图像428表示预览图像2的B通道的LSC增益信息;图像429表示基于统计信息得到的B通道的LSC增益信息与预览图像2的B通道的LSC增益信息的差异信息;在图像429中颜色越深表示差异越大,颜色越浅表示差异越小;基于图像429可以看出,基于统计信息得到的B通道的LSC增益信息与预览图像2的B通道的LSC增益信息的差异较小;基于图9可以看出,基于曝光时长为10ms的图像的统计信息得到的LSC增益信息与曝光时长为10ms的预览图像的实际LSC增益信息差异较小。
S408、基于正常曝光图像对短曝光图像进行去除条纹与局部偏色处理,得到处理后的短曝光图像。
应理解,由于正常曝光图像的曝光时间为10ms的整数倍;因此,正常曝光图像中不存在banding条纹;即图像中不存在Luma banding;此外,Chroma banding产生的原因在于:能量变化的同时,伴随色温的变化,导致图像中出现偏色问题;例如,对于Luma banding中明暗相间的条纹中呈现不同的颜色,则图像中出现Chroma banding;例如,暗条纹的位置偏红,亮条纹的位置偏蓝等;对于正常曝光图像而言,每一行像素接收的能量相同,因此正常曝光图像中不会存在能量波动,也不会存在偏色问题;因此,正常曝光图像中不会出现Lumabanding与Chroma banding;通过将正常曝光图像的颜色信息与亮度信息迁移至短曝光图像中,从而去除短曝光图像中的明暗相间的条纹与局部偏色问题;可以理解为,处理后的短曝光图像中包括短曝光图像的图像内容信息,与正常曝光图像中的颜色信息和亮度信息;确保在采集运动拍摄对象的运动瞬间图像时,去除图像中的条纹和/或偏色图像区域,提高图像质量。
可选地,将短曝光图像与正常曝光图像输入图像处理模型进行处理,得到双边网格;基于双边网格对短曝光图像进行去除条纹与局部偏色处理,得到处理后的图像;例如,通过双边网格与短曝光图像相乘,得到处理后的图像。
应理解,双边网格是指一种数据结构;在本申请的实施例中,双边网格可以是一个网格矩阵;该网格矩阵中包括颜色转换矩阵与亮度参数(例如,亮度的灰阶值),其中,颜色转换矩阵包括红色像素增益(R gain)、绿色像素增益(G gain)与蓝色像素增益(B gain);基于双边网格中的数据可以将正常曝光图像的颜色与亮度迁移至短曝光图像中,从而实现去除短曝光图像中明暗相间的条纹与偏色图像区域。
示例性地,双边网格可以为一个32*32*8*9的网格矩阵;其中,32*32可以表示宽度与高度,8可以表示亮度阶数,即亮度的灰阶值;9可以表示颜色转换矩阵,即作用于每一个RGB值的3*3矩阵。
应理解,灰阶是指将最亮和最暗之间的亮度变化区分为不同的层级,每一级用于表征一个亮度变化区间;可以理解为,亮度的灰阶值越大,则亮度变化区间的数量越多;亮度变化区间划分的越细。
可选地,图像处理模型的网络结构可以为卷积神经网络;例如,图像处理模型可以为HDR Net;训练数据中包括第一样本图像、第二样本图像与第三样本图像;其中,第一样本图像为无banding的图像;第二样本图像为在第一图像中增加banding后的图像;第三样本图像为无banding图像且第三样本图像的图像质量高于第一样本图像的图像质量;将第一样本图像与第二样本图像输入至待训练的图像处理模型,得到预测双边网格;基于预测双边网格对第一样本图像进行插值处理,得到预测图像;基于预测图像与第三样本图像之间的差异,更新图像处理模型的参数得到训练后的图像处理模型。
例如,第三样本图像可以为经过ISP处理后且无banding的RGB图像;第一样本图像可以为基于正常曝光的样本Raw图像进行颜色空间转换后得到的RGB图像;因此,第三样本图像的图像质量高于第一样本图像的图像质量。
示例性地,可以计算预测图像与第三样本图像中各个像素点之间的差异,通过反向传播算法训练待训练的图像处理模型的,使得待训练的图像处理模型的损失函数收敛,得到训练后的图像处理模型。
可选地,在本申请的实施例中,考虑到Chroma Banding图像处理模型可以包括8个参数;8个参数分别为A*3,a*1,b*1,c*3;其中,A表示幅值;a表示频率;b表示初始相位;c表示偏移项;A*3表示RGB像素分别对应的幅值;c*3表示RGB像素分别对应的偏移项。
可选地,可以基于双边网格中的颜色转换矩阵对短曝光图像进行颜色迁移处理,去除短曝光图像中的偏色图像区域;基于双边网格中的亮度参数对短曝光图像进行亮度迁移处理,从而实现去除短曝光图像中的明暗相间的条纹。
可选地,可以基于双边网格中的数据与短曝光图像进行插值处理,得到处理后的短曝光图像。
例如,将双边网格中的数据与短曝光图像的像素矩阵进行相乘,得到处理后的短曝光图像。
可选地,在本申请的实施例中,短曝光图像的曝光时间、正常曝光图像的曝光时间与电子设备所处的拍摄环境的频闪光源在每秒的亮暗次数相关;例如,正常曝光图像的曝光时间=(1000/频闪光源在每秒的亮暗次数)毫秒的整数倍。
示例性地,若拍摄环境的频闪光源的工作电压频率为50HZ,即频闪光源每秒钟灯光亮暗100次,则短曝光图像是指曝光时间小于10ms的图像;正常曝光图像是指曝光时间为10ms整数倍的图像。
示例性地,拍摄环境的频闪光源的工作电压频率为60HZ,即频闪光源每秒钟灯光亮暗120次,则短曝光图像是指曝光时间小于8.3ms的图像;正常曝光图像是指曝光时间为8.3ms整数倍的图像。
S409、基于正常曝光图像的LSC增益信息对处理后的短曝光图像进行LSC处理。
可选地,可以基于正常曝光图像的增益信息中的红色像素增益、绿色像素增益或者蓝色像素增益对处理后的短曝光图像进行LSC处理,得到LSC处理后的短曝光图像。
可选地,在LSC处理后还可以执行其他RGB域算法或者YUV域算法,得到处理后的图像。
可选地,在本申请的实施例中,可以先执行S408再执行S409;例如,参见后续图10所示;或者,也可以先分别对短曝光图像与正常曝光图像执行S409,再执行S408;例如,参见后续图11所示;本申请对此不作任何限定。
S410、输出处理后的图像。
可选地,输出存储格式的图像;例如,存储格式包括:JPEG格式(JPG格式)、GIF格式、PNG格式、PPM格式或者BMP格式等。
示例一
可选地,在本申请的实施例中,可以先基于正常曝光图像对短曝光图像进行debanding处理;对debanding处理后的短曝光图像基于正常曝光图像的LSC增益信息进行LSC处理,得到去除明暗相间的条纹与去除偏色图像区域的图像,且能够避免图像中出现颜色校正过度地问题。
图10是本申请实施例提供的一种图像处理方法的示意性流程图。该方法500可以由图1所示的电子设备执行;该方法500包括S501至S509,下面分别对S501至S509进行详细的描述。
S501、采集Raw图像。
可选地,电子设备可以采集多帧Raw图像。
示例性地,多帧Raw图像中包括SANB;其中,SA表示预览流中的A帧短曝光图像,NB表示拍照流中的B帧正常曝光图像;其中,A为大于或者等于1的整数,B为大于或者等于1的整数;若拍摄环境的频闪光源的工作电压频率为50HZ,短曝光图像的曝光时间小于10ms;正常曝光图像的曝光时间为10ms的整数倍;若拍摄环境的频闪光源的工作电压频率为60HZ,短曝光图像是指曝光时间小于8.3ms的图像;正常曝光图像是指曝光时间为8.3ms整数倍的图像。
示例性地,帧Raw图像中包括SANBLC;其中,SA表示预览流中的A帧短曝光图像,NB表示拍照流中的B帧正常曝光图像,LC表示拍照流中的C帧长曝光图像;其中,A为大于或者等于1的整数,B为大于或者等于1的整数,C为大于或者等于0的整数;若拍摄环境的频闪光源的工作电压频率为50HZ,短曝光图像的曝光时间小于10ms;正常曝光图像的曝光时间为10ms的整数倍;若拍摄环境的频闪光源的工作电压频率为60HZ,短曝光图像是指曝光时间小于8.3ms的图像;正常曝光图像是指曝光时间为8.3ms整数倍的图像;长曝光图像的曝光时间大于正常曝光图像的曝光时间。
例如,多帧Raw图像可以是指S2N2L的5帧图像;即为SSNNL的Raw图像,其中,2帧S为预览帧中的短曝光Raw图像;2帧N为拍照帧中曝光值大于或者等于4帧短曝光图像,曝光时间为10ms整数倍的正常曝光图像;1帧L表示长曝光图像。
可选地,预览流为电子设备检测到对快门键的点击操作之前,图像传感器采集的数据流;拍照流为电子设备检测到对快门键的点击操作后,图像传感器采集的数据流。
S502、基于统计信息获取正常曝光图像的LSC增益信息。
可选地,LSC增益信息包括红色像素的增益信息(例如,R gain)、绿色像素的增益信息(例如,Ggain)与蓝色像素的增益信息(例如,B gain)。
可选地,S502的实现方式可以参见图8中S407的相关描述,此处不再赘述。
S503、自动白平衡处理。
示例性地,自动白平衡处理用于使得白色在任何色温下相机均能将它还原成白;由于色温的影响,白纸在低色温下会偏黄,白纸在高色温下会偏蓝;白平衡处理的目的在于使得白色物体在任何色温下均为R=G=B,呈现出白色。
可选地,S503可以采用现有的任意自动白平衡处理的方法,本申请对此不作任何限定。
S504、去马赛克处理与降噪处理。
示例性地,去马赛克处理可以是指将拜尔阵列结构的Raw域图像转换成RGB域图像;降噪处理为了减少图像中的噪声。
应理解,Raw域图像是指Raw颜色空间的图像;同理,RGB域图像是指RGB颜色空间的图像。
可选地,S504可以采用现有的任意去马赛克处理的方法与降噪处理的方法,本申请对此不作任何限定。
可选地,S504还可以包括多帧融合,即可以将多帧Raw图像以第一帧短曝光图像为参考帧进行融合处理,得到融合后的一帧短曝光图像。
示例性地,可以以多帧Raw图像中的第一帧短曝光Raw图像为基准,将多帧Raw图像中的其他Raw图像中的颜色信息与亮度信息与第一帧短曝光Raw图像进行融合,得到融合后的短曝光图像。
S505、去除图像条带(debanding)处理。
可选地,可以基于正常曝光图像对短曝光图像进行debanding处理。实现方式可以参见图8中S408的相关描述,此处不再赘述。
S506、颜色空间转换处理与下采样处理。
可选地,图像传感器采集多帧Raw图像;多帧Raw图像包括SANB或者SANBLC;可以对第一帧N图像(例如,第一帧正常曝光图像)进行颜色空间转换处理与下采样处理。
示例性地,颜色转换处理包括去马赛克处理。
S507、LSC处理。
示例性地,LSC处理是指校正镜头阴影;其中,镜头阴影是指由镜头的光学特性所导致的图像亮度和/或图像颜色不均匀的现象;LSC处理通常可以包括亮度阴影(lumashading)校正和颜色阴影(color shading)校正两个部分。
可选地,在对debanding处理后的短曝光图像进行LSC处理时,可以基于统计信息获取的正常曝光图像的LSC增益信息进行LSC处理。
在本申请的实施例中,通过将正常曝光图像的颜色信息与亮度信息迁移至短曝光图像,从而去除短曝光图像中的明暗相间的条纹与局部偏色问题,得到处理后的短曝光图像;若采用短曝光图像的LSC增益信息对处理后的短曝光图像进行LSC处理,由于LSC增益信息与处理后的短曝光图像中的颜色信息与亮度信息不匹配,导致经过LSC处理之后处理后的短曝光图像中会出现颜色校正过度的问题;在本申请的实施例中,由于能够基于统计信息获取每一帧曝光图像的LSC增益信息,因此在对处理后的短曝光图像进行LSC处理时,可以根据正常曝光图像的LSC增益信息对处理后的短曝光图像进行LSC处理,使得LSC增益信息与处理后的短曝光图像相匹配,避免LSC处理后的图像中出现颜色校正过度的问题,提高图像质量。
S508、后处理。
可选地,后处理可以包括:
颜色校正矩阵(Color Correction Matrix,CCM)处理、全局色调映射(GlobalTone Mapping,GTM)处理、局部色调映射(Local Tone Mapping,LTM)处理或者伽马(gamma)处理等中的部分或者全部。
其中,CCM处理用于校准除白色以外其他颜色的准确度;GTM处理用于解决高动态图像的灰度值分布不均匀的问题;LTM处理用于增强图像的局部对比度;伽马处理用于通过调整伽马曲线来调整图像的亮度、对比度与动态范围等。
S509、输出处理后的图像。
可选地,输出存储格式的图像;例如,存储格式包括:JPEG格式(JPG格式)、GIF格式、PNG格式、PPM格式或者BMP格式等。
在本申请的实施例中,由于正常曝光图像中不存在明暗相间的条纹与局部偏色的问题;通过将正常曝光图像的颜色信息与亮度信息迁移至短曝光图像,从而去除短曝光图像中的明暗相间的条纹与局部偏色问题,得到处理后的短曝光图像;可以理解为,处理后的短曝光图像中包括短曝光图像的图像内容信息,与正常曝光图像中的颜色信息和亮度信息;此外,若采用短曝光图像的LSC增益信息对处理后的短曝光图像进行LSC处理,由于短曝光图像的LSC增益信息与处理后的短曝光图像中的颜色信息和亮度信息不匹配,导致对处理后的短曝光图像进行LSC处理后图像中会出现颜色校正过度的问题;在本申请的实施例中,能够基于统计信息获取每一帧曝光图像的LSC增益信息(例如,正常曝光图像的LSC增益信息),因此在对处理后的短曝光图像进行LSC处理时,可以根据正常曝光图像的LSC增益信息对处理后的短曝光图像进行LSC处理,使得LSC增益信息与处理后的短曝光图像相匹配,避免LSC处理后的图像中出现颜色校正过度的问题;综上所述,通过本申请的实施例,能够确保在采集运动拍摄对象的运动瞬间图像时,去除图像中的条纹和/或偏色图像区域;且避免图像中出现颜色校正过度的问题,提高图像质量。
示例二
可选地,在本申请的实施例中,可以先基于正常曝光图像的LSC增益信息分别对正常曝光图像与短曝光图像进行LSC处理;再对LSC处理后的短曝光图像进行debanding处理,得到去除明暗相间的条纹与去除偏色图像区域的图像,且能够避免图像中出现颜色校正过度地问题。
图11是本申请实施例提供的一种图像处理方法的示意性流程图。该方法500可以由图1所示的电子设备执行;该方法600包括S601至S610,下面分别对S601至S610进行详细的描述。
S601、采集Raw图像。
可选地,S601的实现方式可以参见图10中S501的相关描述,此处不再赘述。
S602、基于统计信息获取正常曝光图像的LSC增益信息。
可选地,S602的实现方式可以参见图10中S502的相关描述,此处不再赘述。
S603、自动白平衡处理。
可选地,S603的实现方式可以参见图10中S503的相关描述,此处不再赘述。
S604、去马赛克处理与降噪处理。
可选地,S604的实现方式可以参见图10中S504的相关描述,此处不再赘述。
S605、第一LSC处理。
可选地,基于正常曝光图像的LSC增益信息对短曝光图像进行第一LSC处理;例如,采集多帧Raw图像,多帧Raw图像包括SANB或者SANBLC,可以对第一帧S图像(例如,第一帧短曝光图像)进行LSC处理。
示例性地,LSC处理是指校正镜头阴影;其中,镜头阴影是指由镜头的光学特性所导致的图像亮度和/或图像颜色不均匀的现象;LSC处理通常可以包括亮度阴影(lumashading)校正和颜色阴影(color shading)校正两个部分。
可选地,由于在S608中将正常曝光图像的颜色信息和亮度信息迁移至短曝光图像中;因此,在一种可能的实现方式中,S605可以采用短曝光图像的LSC增益信息。
S606、颜色转换处理与下采样处理。
可选地,S606的实现方式可以参见图10中S506的相关描述,此处不再赘述。
S607、第二LSC处理。
可选地,图像传感器采集多帧Raw图像;多帧Raw图像包括SANB或者SANBLC;可以基于正常曝光图像的LSC增益信息对第一帧N图像(例如,第一帧正常曝光图像)进行第二LSC处理。
S608、去除图像条带(debanding)处理。
可选地,S608的实现方式可以参见图10中S505的相关描述,此处不再赘述。
S609、后处理。
可选地,S609的实现方式可以参见图10中S508的相关描述,此处不再赘述。
S610、输出处理后的图像。
可选地,S610的实现方式可以参见图10中S509的相关描述,此处不再赘述。
在本申请的实施例中,若采用短曝光图像的LSC增益信息对颜色空间转换处理与下采样处理后的正常曝光图像进行LSC处理,由于短曝光图像的LSC增益信息与正曝光图像中的颜色信息和亮度信息不匹配,导致对正曝光图像进行LSC处理后图像中会出现颜色校正过度的问题;在本申请的实施例中,能够基于统计信息获取每一帧曝光图像的LSC增益信息(例如,正常曝光图像的LSC增益信息),因此在对正常曝光图像进行LSC处理时,可以根据正常曝光图像的LSC增益信息对正常曝光图像进行LSC处理,使得LSC增益信息与正常曝光图像相匹配,避免LSC处理后的图像中出现颜色校正过度的问题;此外,由于正常曝光图像中不存在明暗相间的条纹与局部偏色的问题;通过将正常曝光图像的颜色信息与亮度信息迁移至短曝光图像,从而去除短曝光图像中的明暗相间的条纹与局部偏色问题,得到处理后的短曝光图像;可以理解为,处理后的短曝光图像中包括短曝光图像的图像内容信息,与正常曝光图像中的颜色信息和亮度信息;综上所述,通过本申请的实施例,能够确保在采集运动拍摄对象的运动瞬间图像时,去除图像中的条纹和/或偏色图像区域;且避免图像中出现颜色校正过度的问题,提高图像质量。需要说明的是,图10所示的示例一与图11所示的示例二相比只需要执行一次LSC处理;因此,示例一与示例二相比,电子设备的运算量相对较小,使得电子设备的功耗相对较小。
图12是本申请实施例提供的一种图像处理方法的示意性流程图。该方法700可以由图1所示的电子设备执行;该方法700包括S710至S790,下面分别对S710至S790进行详细的描述。
应理解,图12所示的方法应用于电子设备所处拍摄环境的光源为频闪光源;由于本申请的方案光源为频闪光源,因此在电子设备获取图像时的曝光时间不满足(例如,1000/每秒钟光源亮暗次数)毫秒的整数倍时,图像中会出现banding条纹。
S710、开启相机应用程序。
可选地,可以参见S401的相关描述,此处不再赘述。
S720、显示第一图像,第一图像中包括条纹和/或偏色图像区域。
其中,第一图像为基于第一曝光时间采集的拍摄对象的图像,拍摄对象为运动对象,第一曝光时间小于第一时长。
可选地,第一图像中可以包括条纹,即第一图像中包括Luma banding。
可选地,第一图像中可以包括条纹与偏色图像区域,即第一图像中包括Lumabanding与Chroma banding。
应理解,Luma banding指由于缩短曝光时间产生的banding条纹;其中,Lumabanding仅有明暗变换,无颜色改变;产生Luma banding的原因在于:拍摄环境中频闪光源产生的交流电正弦波段无法与曝光积分周期相抵消,使得采集的图像中出现亮度有规律的条纹。
应理解,Chroma banding是指图像中的局部区域出现图像偏色,图像中的局部区域与图像整体颜色不符,出现红色,绿色或者蓝色等偏色;产生Chroma banding的原因在于:能量变化的同时,伴随色温的变化,导致图像中出现偏色问题;例如,对于Luma banding中明暗相间的条纹中呈现不同的颜色,则图像中出现Chroma banding。
还应理解,条纹可以是指全局banding,即图像的整体区域中会出现明暗相间的条纹;偏色图像区域可以是指局部banding,即图像中出现局部偏色区域,该偏色区域与图像整体的颜色不相符;例如,可以是出现红色,绿色或者蓝色的偏色。
还应理解,由于第一图像的曝光时间小于第一时长,因此曝光积分周期无法抵消banding;因此,第一图像中可能会出现banding条纹;此外,在频闪光源的电压变化10%时,光源的色温会发生较大的变化(例如,1000K左右);图像的成像与色温相关;由于带电光源的电压发生较小的变化时,色温会出现较大的变化;导致图像中出现偏色问题。
可选地,第一图像可以是指电子设备中预览界面中的预览图像;其中,预览界面可以是指拍照预览界面,或者,录像预览界面。
S730、检测到第一操作,第一操作指示电子设备拍照或者录像。
示例性地,在相机应用程序处于拍照模式,则第一操作可以是指点击快门键的操作。
示例性地,在相机应用程序处于录像模式,则第一操作可以是指点击录像控件的操作。应理解,上述是对第一操作的举例说明;还可以通过语音指示操作,或者其它操作的指示电子设备拍照或者录像;本申请对此不作任何限定。
可选地,运动对象可以是指运动的用户,移动的物体,或者,视频中播放的图像(例如,电影)等。
可选地,电子设备中包括图像信号处理器,第一图像可以为图像信号处理器输出的图像。
在本申请的实施例中,第一图像可以为图像信号处理器输出的图像;由于第一图像为信号处理器输出的图像,图像信号处理器可以对短曝光的Raw图像进行去噪处理,因此虽然第一图像中包括banding条纹,但是第一图像中的图像细节信息较丰富。
S740、响应于所述第一操作,获取第二图像。
其中,第二图像为基于第二曝光时间采集的拍摄对象的图像,第二曝光时间为第一时长的整数倍。可选地,整数倍包括0倍。
应理解,由于第二图像的曝光时间为第一时长的整数倍,因此曝光积分周期可以抵消banding;因此,第二图像中不会出现banding条纹。
示例性地,对于50HZ交流电的频闪光源,第二图像的曝光时间可以为10ms的整数倍。
应理解,由于第二图像的曝光时间满足第一时长的整数倍,因此第二图像中每一行像素接收的能量相同,因此第二图像中不会存在能量波动,也不会存在偏色问题;因此,第二图像中不会出现条纹与偏色图像区域,即第二图像中不存在Luma banding与Chromabanding。
可选地,第一时长的大小为基于频闪光源在每秒的亮暗次数得到的。
可选地,频闪光源在每秒的亮暗次数与频闪光源的工作电压的频率关联。
示例性地,第一时长=1000/频闪光源在每秒的亮暗次数。
在一个示例中,频闪光源工作电压的频率为50HZ,即频闪光源在每秒的亮暗次数为100次,则第一时长为10ms;此时,第一图像的曝光时间小于10ms,第二图像的曝光时间为10ms的整数倍。
在一个示例中,频闪光源工作电压的频率为60HZ,即频闪光源在每秒的亮暗次数为120次,则第一时长为8.3ms;此时,第一图像的曝光时间小于8.3ms,第二图像的曝光时间为8.3ms的整数倍。
应理解,上述是对第一时长的举例说明;本申请对第一时长的大小不作任何限定。
可选地,第二图像为对电子设备采集的Raw图像进行第三图像处理得到的图像,第三图像处理包括颜色空间转换处理。
示例性地,电子设备可以采集正常曝光的Raw图像,对正常曝光的Raw图像进行颜色空间转换处理,得到第二像。
例如,第二图像可以为RGB颜色空间的图像,或者,YUV颜色空间的图像。
应理解,在本申请的实施例中,第二图像为正常曝光图像;例如,第二图像可以为对正常曝光的Raw图像进行下采样与颜色空间转换处理后得到的图像;由于在本申请的实施例中,需要第二图像中的颜色信息与亮度信息对第一图像进行迁移处理,因此对第二图像中的细节信息的要求较低,即第二图像可以无需经过图像信号处理器的处理。
可选地,在获取第二图像之前,还包括:
对电子设备所处的拍摄场景进行检测,检测到运动对象;
并且,检测到第一图像中存在条纹和/或偏色图像区域。
示例性地,电子设备中可以包括检测模块,检测模块可以对拍摄对象进行检测;当拍摄对象中包括运动对象时,检测模块输出标识,该标识可以指示拍摄场景中包括运动对象。
示例性地,电子设备中的防闪烁传感器(Flicker Sensor)可以用于检测是否存在条纹;其中,防闪烁传感器(Flicker Sensor)可以为一种对环境光进行采样的传感器。
在本申请的实施例中,在拍摄场景中存在运动对象且采集的图像中包括banding时,可以触发电子设备执行本申请实施例提供的图像处理方法,即去除图像中banding的方法。
应理解,若拍摄场景中包括运动对象,则在电子设备采集运动对象在运动瞬间的图像;由于拍摄对象在运动,因此电子设备通常需要减少图像中的运动模糊;为了减少图像中的运动模糊,通常电子设备可以缩短曝光时间,提升感光度值;但是,对于频闪光源的拍摄环境而言,降低曝光时间会导致图像中出现banding,因此需要对图像中的banding进行处理。
S750、基于第一图像与第二图像,得到颜色转换矩阵和/或亮度参数。
其中,颜色转换矩阵用于对第一图像进行颜色调整,亮度参数用于表征亮度的灰阶。
示例性地,亮度参数可以包括亮度的灰阶值。在本申请的实施例中,由于第二图像为正常曝光时间的图像,因此第二图像中不存在banding;可以基于将第二图像的颜色与亮度迁移至第一图像中,得到颜色转换矩阵与亮度参数。
应理解,颜色转换矩阵可以表示第一图像与第二图像中像素点的颜色差异;例如,颜色转换矩阵可以包括红色像素增益(R gain)、绿色像素增益(G gain)与蓝色像素增益(Bgain)。
可选地,可以基于第一图像中的像素点与第二图像中的像素点,得到一个网格矩阵;该网格矩阵中的数据可以用于表征第一图像与第二图像中颜色和亮度的差异;例如,网格矩阵可以为32*32*8*9的网格矩阵;其中,32*32可以表示网格矩阵的宽度与高度,8可以表示亮度的灰阶值;9可以表示颜色转换矩阵,即作用于每一个RGB值的3*3矩阵;该网格矩阵可以为双边网格,双边网格为一种数据结构。
可选地,上述方法还包括:
将第一图像与第二图像输入至图像处理模型,得到双边网格数据;其中,图像处理模型用于以第二图像为基准对第一图像进行颜色迁移处理与亮度迁移处理,双边网格数据包括颜色转换矩阵和/或亮度参数,第一图像的尺寸与第二图像的尺寸相同。
示例性地,图像处理模型为卷积神经网络;例如,图像处理模型可以为HDRnet。
在本申请的实施例中,基于图像处理模型输出的双边网格得到颜色转换矩阵和/或亮度参数;通过图像处理模型对第一图像进行颜色迁移与亮度迁移时,第一图像与第二图像之间图像内容差异较大的偏差区域,即图像处理模型能够识别第二图像与第一图像之间的鬼影区域;因此,通过图像处理模型得到的得到颜色转换矩阵和/或亮度参数,在对第一图像进行颜色调整和/或亮度调整时不会引入鬼影区域,提高图像质量。
可选地,可以对第一图像与第二图像先进行配准处理与平滑处理;对配准处理后的第一图像与第二图像进行逐像素的作差,得到颜色转换矩阵和/或亮度参数。
S760、基于颜色转换矩阵和/或亮度参数对第一图像进行第一图像处理,得到第三图像。
其中,第三图像为去除条纹和/或偏色图像区域的图像。
示例性地,可以基于颜色转换矩阵对第一图像进行颜色调整,去除第一图像中的偏色图像区域;基于亮度参数对第一图像进行亮度调整,去除第一图像中的banding条纹。
可选地,基于颜色转换矩阵和/或亮度参数对第一图像进行第一图像处理,得到第三图像,包括:
基于颜色转换矩阵和/或亮度参数对第一图像进行插值处理,得到第三图像。
示例性地,可以对颜色转换矩阵和/或亮度参数与第一图像的矩阵进行相乘,得到第三图像。
可选地,基于颜色转换矩阵和/或亮度参数对第一图像进行插值处理,得到第三图像,包括:
在第一颜色空间,基于颜色转换矩阵和/或亮度参数对第一图像进行第一图像处理,得到处理后的图像;
在第一颜色空间,对处理后的图像进行第二图像处理,得到第三图像,第二图像处理为第一颜色空间中的颜色处理算法。
示例性地,第一颜色空间可以为RGB颜色空间;即第一图像处理可以在RGB颜色空间执行。
例如,在RGB颜色空间中,可以先执行第一图像处理;再执行其他RGB颜色空间中与颜色处理相关的算法。
可选地,图像处理模型是通过以下方法训练得到的:
获取样本数据,样本数据包括第一样本图像、第二样本图像与第三样本图像,第二样本图像中包括第一样本图像的图像内容、条纹和/或偏色图像区域,第三样本图像与第一样本图像具有相同的图像内容,第三样本图像的图像质量高于第一样本图像的图像质量;
将第一样本图像与第二样本图像输入至待训练的图像处理模型,得到预测双边网格数据;
基于预测双边网格数据对第二样本图像进行插值处理,得到预测图像;
基于预测图像与第三样本图像之间的差异训练待训练的图像处理模型,得到图像处理模型。
S770、基于第二图像的亮度信息获取第一参数。其中,第一参数用于镜头阴影校正处理。
可选地,第二图像的亮度信息包括:第二图像的亮度通道的数据,或者,第二图像的像素点的亮度值。
可选地,镜头阴影校正处理包括颜色阴影校正与亮度阴影校正,基于第二图像的亮度信息获取第一参数,包括:
基于第二图像的亮度信息,得到镜头阴影校正标定参数;
将镜头阴影校正标定参数与第二图像中的像素点相乘,得到处理后的第二图像;
基于处理后的第二图像的统计信息,得到第二参数,第二图像的统计信息包括处理后的第二图像的亮度直方图或者,处理后的第二图像的亮度梯度图,第二参数用于颜色阴影校正;
将镜头阴影校正标定参数与第二参数相乘,得到第一参数,第一参数用于颜色阴影校正与亮度阴影校正。
示例性地,可以参见图8中S407的相关描述,此处不再赘述。
S780、基于第一参数对第三图像进行镜头阴影校正处理,得到第四图像。
可选地,可以通过第一参数与第三图像相乘,得到第四图像。
S790、显示或者保存第四图像。
示例性地,电子设备在运行其他应用时,该应用具有调用相机应用程序的权限;在其他应用调用相机应用程序获取图像时,可以显示第四图像。示例性地,在电子设备运行相机应用程序的拍摄模式(或者录像模式)时,在电子设备检测到指示拍照的操作(或者指示录像的操作)之后,可以保存第四图像。
在本申请的实施例中,在电子设备所处的拍摄环境的光源为频闪光源,由于电子设备需要拍摄运动物体从而降低曝光时间导致图像中出现banding条纹的情况下;在本申请的实施例中,通过将第二图像(例如,正常曝光图像)的颜色信息与亮度信息迁移至第一图像(例如,短曝光图像),得到去除第一图像中的条纹和/或偏色图像区域的第三图像;若采用短曝光图像的LSC增益信息对第三图像进行LSC处理,由于LSC增益信息与第三图像中的颜色信息与亮度信息不匹配,导致经过LSC处理之后第四图像中会出现颜色校正过度的问题;在本申请的实施例中,能够基于统计信息获取每一帧曝光图像的LSC增益信息,因此在对第三图像进行LSC处理时,可以根据第二图像的LSC增益信息对第三图像进行LSC处理,使得LSC增益信息与第三图像相匹配,避免LSC处理后的第四图像中出现颜色校正过度的问题;综上所述,通过本申请的实施例,能够确保在采集运动拍摄对象的运动瞬间图像时,去除图像中的条纹和/或偏色图像区域;且避免图像中出现颜色校正过度的问题,提高图像质量。
下面结合图13至图17对在电子设备中的界面示意图进行举例描述。
图13是本申请实施例提供的一种电子设备的界面示意图。
在本申请的实施例中,在电子设备运行相机应用程序后电子设备中显示中的预览界面中显示的预览图像包括banding条纹与偏色图像区域;在电子设备检测到对智能控件的点击操作后,可以执行本申请实施例提供的图像处理方法;即执行去除图像条带的处理且基于正常曝光图像的增益信息进行LSC的图像处理方法。
在一个示例中,如图14中的(b)所示电子设备检测到点击控件703的操作之后,执行本申请实施例提供的图像处理方法。
示例性地,如图13所示,图13中的(a)所示的图形用户界面(graphical userinterface,GUI)为电子设备的桌面901;电子设备检测到对桌面901上的相机应用程序的控件902的点击操作,如图13中的(b)所示;在电子设备检测到对桌面901上的相机应用程序的控件902的点击操作之后,电子设备开启相机应用程序;例如,如图14中的(a)所示,电子设备可以显示拍照预览界面;拍照预览界面中包括预览图像与智能控件903,其中,预览图像中包括明暗相间的条纹与偏色图像区域904;偏色图像区域904可以为红色、绿色、蓝色或者其他颜色;电子设备检测到对智能控件903的点击操作,如图14中的(b)所示;当电子设备检测到对智能控件903的点击操作之后,若电子设备检测到对拍照控件的点击操作,则电子设备可以执行本申请实施例提供的图像处理方法;例如,电子设备在电子设备检测到对智能控件903的操作之后,显示预览界面,如图15中的(a)所示;在预览界面中,包括拍照控件905;电子设备检测到对拍照控件905的点击操作,如图15中的(b)所示;在电子设备检测到对拍照控件905的点击操作之后,显示预览界面;预览界面中包括缩略图906,如图15中的(c)所;电子设备检测到对缩略图906的点击操作,如图15中的(d)所示;在电子设备检测到对缩略图906的点击操作之后,显示图像显示界面,如图16所示。
在一个示例中,如图17中的(d)所示电子设备检测到对控件909的点击操作之后,若电子设备检测到对拍照控件的点击操作,则执行本申请实施例提供的图像处理方法。
示例性地,电子设备中开启相机应用程序后,可以显示如图17中的(a)所示的预览界面;预览界面中包括预览图像与设置控件907,其中,预览图像中包括明暗相间的条纹与偏色图像区域904,偏色图像区域904可以为红色、绿色、蓝色或者其他颜色;电子设备检测到对设置控件907的点击操作,如图17中的(b)所示;在电子设备检测到对设置控件907的点击操作之后,显示设置界面,如图17中的(c)所示;设置界面中包括去除图像条带的控件909;电子设备检测到对去除图像条带的控件909的点击操作,如图17中的(d)所示;在电子设备检测到对去除图像条带的控件909的点击操作之后,若电子设备检测到对拍照控件的点击操作,则执行本申请实施例提供的图像处理方法。
需要说明的是,上述为对电子设备中的显示界面的举例说明,本申请对此不作任何限定。
应理解,上述举例说明是为了帮助本领域技术人员理解本申请实施例,而非要将本申请实施例限于所例示的具体数值或具体场景。本领域技术人员根据所给出的上述举例说明,显然可以进行各种等价的修改或变化,这样的修改或变化也落入本申请实施例的范围内。
上文结合图1至图17详细描述了本申请实施例提供的图像处理方法;下面将结合图18与图19详细描述本申请的装置实施例。应理解,本申请实施例中的装置可以执行前述本申请实施例的各种方法,即以下各种产品的具体工作过程,可以参考前述方法实施例中的对应过程。
图18是本申请实施例提供的一种电子设备的结构示意图。该电子设备1000包括处理模块1010与显示模块1020。
应理解,电子设备1000所处的拍摄环境的光源为频闪光源。
在一种实现方式中,处理模块1010用于:开启相机应用程序;显示模块1020用于:显示第一图像,所述第一图像为基于第一曝光时间采集的拍摄对象的图像,所述拍摄对象为运动对象,所述第一曝光时间小于第一时长,所述第一图像中包括条纹和/或偏色图像区域;处理模块1010还用于:检测到第一操作,所述第一操作指示所述电子设备拍照或者录像;响应于所述第一操作,获取第二图像,所述第二图像为基于第二曝光时间采集的所述拍摄对象的图像,所述第二曝光时间为所述第一时长的整数倍;基于所述第一图像与所述第二图像,得到颜色转换矩阵和/或亮度参数,所述颜色转换矩阵用于对所述第一图像进行颜色调整,所述亮度参数用于表征亮度的灰阶;基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行第一图像处理,得到第三图像,所述第三图像为去除所述条纹和/或偏色图像区域的图像;基于所述第二图像的亮度信息获取第一参数,所述第一参数用于镜头阴影校正处理;基于所述第一参数对所述第三图像进行所述镜头阴影校正处理,得到第四图像;显示模块1020还用于:显示或者保存所述第四图像。
可选地,作为一个实施例,处理模块1010还用于:
将所述第一图像与所述第二图像输入至图像处理模型,得到双边网格数据;其中,所述双边网格数据包括所述颜色转换矩阵和/或所述亮度参数,所述第一图像的尺寸与所述第二图像的尺寸相同。
可选地,作为一个实施例,处理模块1010具体用于:
基于所述颜色转换矩阵和/或所述亮度参数对所述第一图像进行插值处理,得到所述第三图像。
可选地,作为一个实施例,处理模块1010具体用于:
在第一颜色空间,基于所述颜色转换矩阵和/或所述亮度参数对所述第一图像进行所述第一图像处理,得到处理后的图像;
在所述第一颜色空间,对所述处理后的图像进行第二图像处理,得到所述第三图像,所述第二图像处理为所述第一颜色空间中的颜色处理算法。
可选地,作为一个实施例,所述镜头阴影校正处理包括颜色阴影校正与亮度阴影校正,处理模块1010具体用于:基于所述第二图像的亮度信息,得到镜头阴影校正标定参数;
将所述镜头阴影校正标定参数与所述第二图像中的像素点相乘,得到处理后的第二图像;
基于处理后的第二图像的统计信息,得到第二参数,所述第二图像的统计信息包括所述处理后的第二图像的亮度直方图或者,所述处理后的第二图像的亮度梯度图,所述第二参数用于所述颜色阴影校正;
将所述镜头阴影校正标定参数与所述第二参数相乘,得到所述第一参数,所述第一参数用于所述颜色阴影校正与所述亮度阴影校正。
可选地,作为一个实施例,所述获取第二图像之前,处理模块1010具体用于:
对所述电子设备所处的拍摄场景进行检测,检测到所述运动对象;
并且,检测到所述第一图像中存在所述条纹和/或偏色图像区域。
可选地,作为一个实施例,所述第一时长的大小为基于所述频闪光源在每秒的亮暗次数得到的。
可选地,作为一个实施例,所述第一时长=1000/所述频闪光源在每秒的亮暗次数。
可选地,作为一个实施例,所述图像处理模型为卷积神经网络。
可选地,作为一个实施例,所述图像处理模型是通过以下方法训练得到的:
获取样本数据,所述样本数据包括第一样本图像、第二样本图像与第三样本图像,所述第二样本图像中包括所述第一样本图像的图像内容、条纹和/或偏色图像区域,所述第三样本图像与所述第一样本图像具有相同的图像内容,所述第三样本图像的图像质量高于所述第一样本图像的图像质量;
将所述第一样本图像与所述第二样本图像输入至待训练的图像处理模型,得到预测双边网格数据;
基于所述预测双边网格数据对所述第二样本图像进行插值处理,得到预测图像;
基于预测图像与所述第三样本图像之间的差异训练所述待训练的图像处理模型,得到所述图像处理模型。
在另一种实现方式中,处理模块1010用于:开启相机应用程序;显示模块1020用于:显示第一图像,所述第一图像为基于第一曝光时间采集的拍摄对象的图像,所述拍摄对象为运动对象,所述第一曝光时间小于第一时长,所述第一图像中包括条纹和/或偏色图像区域;处理模块1010还用于:检测到第一操作,所述第一操作指示所述电子设备拍照或者录像;响应于所述第一操作,获取第二图像,所述第二图像为基于第二曝光时间采集的所述拍摄对象的图像,所述第二曝光时间为所述第一时长的整数倍;基于所述第二图像的亮度信息获取第一参数,所述第一参数用于镜头阴影校正处理;基于所述第一参数对所述第二图像进行所述镜头阴影校正处理,得到第五图像;基于所述第一图像与所述第五图像,得到颜色转换矩阵和/或亮度参数,所述颜色转换矩阵用于对所述第一图像进行颜色调整,所述亮度参数用于表征亮度的灰阶;基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行第一图像处理,得到第四图像,所述第四图像为去除所述条纹和/或偏色图像区域的图像;显示模块1020还用于:显示或者保存所述第四图像。
可选地,作为一个实施例,所述第一图像为基于所述第一参数进行所述镜头阴影校正处理后的图像。
可选地,作为一个实施例,处理模块1010还用于:
将所述第一图像与所述第五图像输入至图像处理模型,得到双边网格数据;其中,所述双边网格数据包括所述颜色转换矩阵和/或所述亮度参数,所述第一图像的尺寸与所述第五图像的尺寸相同。
可选地,作为一个实施例,处理模块1010具体用于:
基于所述颜色转换矩阵和/或所述亮度参数对所述第一图像进行插值处理,得到所述第四图像。
可选地,作为一个实施例,处理模块1010还用于:
在第一颜色空间,基于所述颜色转换矩阵和/或所述亮度参数对所述第一图像进行所述第一图像处理,得到处理后的图像;
在所述第一颜色空间,对所述处理后的图像进行第二图像处理,得到所述第四图像,所述第二图像处理为所述第一颜色空间中的颜色处理算法。
可选地,作为一个实施例,所述镜头阴影校正处理包括颜色阴影校正与亮度阴影校正,处理模块1010具体用于:
基于所述第二图像的亮度信息,得到镜头阴影校正标定参数;
将所述镜头阴影校正标定参数与所述第二图像中的像素点相乘,得到处理后的第二图像;
基于处理后的第二图像的统计信息,得到第二参数,所述第二图像的统计信息包括所述处理后的第二图像的亮度直方图或者,所述处理后的第二图像的亮度梯度图,所述第二参数用于所述颜色阴影校正;
将所述镜头阴影校正标定参数与所述第二参数相乘,得到所述第一参数,所述第一参数用于所述颜色阴影校正与所述亮度阴影校正。
可选地,作为一个实施例,所述获取第二图像之前,处理模块1010还用于:
对所述电子设备所处的拍摄场景进行检测,检测到所述运动对象;
并且,检测到所述第一图像中存在所述条纹和/或偏色图像区域。
可选地,作为一个实施例,所述第一时长的大小为基于所述频闪光源在每秒的亮暗次数得到的。
可选地,作为一个实施例,所述第一时长=1000/所述频闪光源在每秒的亮暗次数。
在一种可能的实现方式中,所述频闪光源在每秒的亮暗次数与所述频闪光源的工作电压的频率关联。
可选地,作为一个实施例,所述图像处理模型为卷积神经网络。
可选地,作为一个实施例,所述图像处理模型是通过以下方法训练得到的:
获取样本数据,所述样本数据包括第一样本图像、第二样本图像与第三样本图像,所述第二样本图像中包括所述第一样本图像的图像内容、条纹和/或偏色图像区域,所述第三样本图像与所述第一样本图像具有相同的图像内容,所述第三样本图像的图像质量高于所述第一样本图像的图像质量;
将所述第一样本图像与所述第二样本图像输入至待训练的图像处理模型,得到预测双边网格数据;
基于所述预测双边网格数据对所述第二样本图像进行插值处理,得到预测图像;
基于预测图像与所述第三样本图像之间的差异训练所述待训练的图像处理模型,得到所述图像处理模型。
需要说明的是,上述电子设备1000以功能模块的形式体现。这里的术语“模块”可以通过软件和/或硬件形式实现,对此不作具体限定。
例如,“模块”可以是实现上述功能的软件程序、硬件电路或二者结合。所述硬件电路可能包括应用特有集成电路(application specific integrated circuit,ASIC)、电子电路、用于执行一个或多个软件或固件程序的处理器(例如共享处理器、专有处理器或组处理器等)和存储器、合并逻辑电路和/或其它支持所描述的功能的合适组件。
因此,在本申请的实施例中描述的各示例的单元,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
图19示出了本申请提供的一种电子设备的结构示意图。图19中的虚线表示该单元或该模块为可选的;电子设备1100可以用于实现上述方法实施例中描述的图像处理方法。
示例性地,电子设备1100包括一个或多个处理器1101,该一个或多个处理器1101可支持电子设备1100实现方法实施例中的图像处理方法。处理器1101可以是通用处理器或者专用处理器。例如,处理器1101可以是中央处理器(central processing unit,CPU)、数字信号处理器(digital signal processor,DSP)、专用集成电路(application specificintegrated circuit,ASIC)、现场可编程门阵列(field programmable gate array,FPGA)或者其它可编程逻辑器件,如分立门、晶体管逻辑器件或分立硬件组件。
可选地,处理器1101可以用于对电子设备1100进行控制,执行软件程序,处理软件程序的数据。电子设备1100还可以包括通信单元1105,用以实现信号的输入(接收)和输出(发送)。
例如,电子设备1100可以是芯片,通信单元1105可以是该芯片的输入和/或输出电路,或者,通信单元1105可以是该芯片的通信接口,该芯片可以作为终端设备或其它电子设备的组成部分。
又例如,电子设备1100可以是终端设备,通信单元1105可以是该终端设备的收发器,或者,通信单元1105可以1100中可以包括一个或多个存储器1102,其上存有程序1104,程序1104可被处理器1101运行,生成指令1103,使得处理器1101根据指令1103执行上述方法实施例中描述的图像处理方法。
可选地,存储器1102中还可以存储有数据。
可选地,处理器1101还可以读取存储器1102中存储的数据,该数据可以与程序1104存储在相同的存储地址,该数据也可以与程序1104存储在不同的存储地址。
可选地,处理器1101和存储器1102可以单独设置,也可以集成在一起,例如,集成在终端设备的系统级芯片(system on chip,SOC)上。
示例性地,存储器1102可以用于存储本申请实施例中提供的图像处理方法的相关程序1104,处理器1101可以用于在执行图像处理方法时调用存储器1102中存储的图像处理方法的相关程序1104,执行本申请实施例的图像处理方法;例如,开启相机应用程序;显示第一图像,第一图像为基于第一曝光时间采集的拍摄对象的图像,拍摄对象为运动对象,第一曝光时间小于第一时长,第一图像中包括条纹和/或偏色图像区域;检测到第一操作,第一操作指示电子设备拍照或者录像;响应于第一操作,获取第二图像,第二图像为基于第二曝光时间采集的拍摄对象的图像,第二曝光时间为第一时长的整数倍;基于第一图像与第二图像,得到颜色转换矩阵和/或亮度参数,颜色转换矩阵用于对第一图像进行颜色调整,亮度参数用于表征亮度的灰阶;基于颜色转换矩阵和/或亮度参数对第一图像进行第一图像处理,得到第三图像,第三图像为去除条纹和/或偏色图像区域的图像;基于第二图像的亮度信息获取第一参数,第一参数用于镜头阴影校正处理;基于第一参数对第三图像进行镜头阴影校正处理,得到第四图像;显示或者保存第四图像;可选地,参见图10所示,或者,图12所示。
示例性地,存储器1102可以用于存储本申请实施例中提供的图像处理方法的相关程序1104,处理器1101可以用于在执行图像处理方法时调用存储器1102中存储的图像处理方法的相关程序1104,执行本申请实施例的图像处理方法;例如,开启相机应用程序;显示第一图像,第一图像为基于第一曝光时间采集的拍摄对象的图像,拍摄对象为运动对象,第一曝光时间小于第一时长,第一图像中包括条纹和/或偏色图像区域;检测到第一操作,第一操作指示电子设备拍照或者录像;响应于第一操作,获取第二图像,第二图像为基于第二曝光时间采集的拍摄对象的图像,第二曝光时间为第一时长的整数倍;基于第二图像的亮度信息获取第一参数,第一参数用于镜头阴影校正处理;基于第一参数对第二图像进行镜头阴影校正处理,得到第五图像;基于第一图像与第五图像,得到颜色转换矩阵和/或亮度参数,颜色转换矩阵用于对第一图像进行颜色调整,亮度参数用于表征亮度的灰阶;基于颜色转换矩阵和/或亮度参数对第一图像进行第一图像处理,得到第四图像,第四图像为去除条纹和/或偏色图像区域的图像;显示或者保存第四图像;可选地,参见图11所示。
可选地,本申请还提供了一种计算机程序产品,该计算机程序产品被处理器1101执行时实现本申请中任一方法实施例中的图像处理方法。
例如,该计算机程序产品可以存储在存储器1102中,例如是程序1104,程序1104经过预处理、编译、汇编和链接等处理过程最终被转换为能够被处理器1101执行的可执行目标文件。
可选地,本申请还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被计算机执行时实现本申请中任一方法实施例所述的图像处理方法。该计算机程序可以是高级语言程序,也可以是可执行目标程序。
例如,该计算机可读存储介质例如是存储器1102。存储器1102可以是易失性存储器或非易失性存储器,或者,存储器1102可以同时包括易失性存储器和非易失性存储器。其中,非易失性存储器可以是只读存储器(read-only memory,ROM)、可编程只读存储器(programmable ROM,PROM)、可擦除可编程只读存储器(erasable PROM,EPROM)、电可擦除可编程只读存储器(electrically EPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(random access memory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(static RAM,SRAM)、动态随机存取存储器(dynamic RAM,DRAM)、同步动态随机存取存储器(synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(double data rate SDRAM,DDR SDRAM)、增强型同步动态随机存取存储器(enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(synchlinkDRAM,SLDRAM)和直接内存总线随机存取存储器(direct rambus RAM,DR RAM)。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的电子设备的实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
应理解,在本申请的各种实施例中,各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请的实施例的实施过程构成任何限定。
另外,本文中的术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准总之,以上所述仅为本申请技术方案的较佳实施例而已,并非用于限定本申请的保护范围。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

Claims (20)

1.一种图像处理方法,其特征在于,应用于电子设备,所述电子设备所处的拍摄环境的光源为频闪光源,所述图像处理方法包括:
开启相机应用程序;
显示第一图像,所述第一图像为基于第一曝光时间采集的拍摄对象的图像,所述拍摄对象为运动对象,所述第一曝光时间小于第一时长,所述第一图像中包括条纹和/或偏色图像区域;
检测到第一操作,所述第一操作指示所述电子设备拍照或者录像;
响应于所述第一操作,获取第二图像,所述第二图像为基于第二曝光时间采集的所述拍摄对象的图像,所述第二曝光时间为所述第一时长的整数倍;
基于所述第一图像与所述第二图像,得到颜色转换矩阵和/或亮度参数,所述颜色转换矩阵用于对所述第一图像进行颜色调整,所述亮度参数用于表征亮度的灰阶;
基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行第一图像处理,得到第三图像,所述第三图像为去除所述条纹和/或偏色图像区域的图像;
基于所述第二图像的亮度信息获取第一参数,所述第一参数用于镜头阴影校正处理;
基于所述第一参数对所述第三图像进行所述镜头阴影校正处理,得到第四图像;
显示或者保存所述第四图像。
2.如权利要求1所述的图像处理方法,其特征在于,还包括:
将所述第一图像与所述第二图像输入至图像处理模型,得到双边网格数据;其中,所述双边网格数据包括所述颜色转换矩阵和/或所述亮度参数,所述第一图像的尺寸与所述第二图像的尺寸相同。
3.如权利要求1或2所述的图像处理方法,其特征在于,所述基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行第一图像处理,得到第三图像,包括:
基于所述颜色转换矩阵和/或所述亮度参数对所述第一图像进行插值处理,得到所述第三图像。
4.如权利要求1至3中任一项所述图像处理方法,其特征在于,所述基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行插值处理,得到所述第三图像,包括:
在第一颜色空间,基于所述颜色转换矩阵和/或所述亮度参数对所述第一图像进行所述第一图像处理,得到处理后的图像;
在所述第一颜色空间,对所述处理后的图像进行第二图像处理,得到所述第三图像,所述第二图像处理为所述第一颜色空间中的颜色处理算法。
5.如权利要求1至4中任一项所述图像处理方法,其特征在于,所述镜头阴影校正处理包括颜色阴影校正与亮度阴影校正,所述基于所述第二图像的亮度信息获取第一参数,包括:
基于所述第二图像的亮度信息,得到镜头阴影校正标定参数;
将所述镜头阴影校正标定参数与所述第二图像中的像素点相乘,得到处理后的第二图像;
基于处理后的第二图像的统计信息,得到第二参数,所述第二图像的统计信息包括所述处理后的第二图像的亮度直方图,或者,所述处理后的第二图像的亮度梯度图,所述第二参数用于所述颜色阴影校正;
将所述镜头阴影校正标定参数与所述第二参数相乘,得到所述第一参数,所述第一参数用于所述颜色阴影校正与所述亮度阴影校正。
6.如权利要求1至5中任一项所述的图像处理方法,其特征在于,所述获取第二图像之前,还包括:
对所述电子设备所处的拍摄场景进行检测,检测到所述运动对象;
并且,检测到所述第一图像中存在所述条纹和/或偏色图像区域。
7.如权利要求1至6中任一项所述的图像处理方法,其特征在于,所述第一时长的大小为基于所述频闪光源在每秒的亮暗次数得到的。
8.如权利要求7所述的图像处理方法,其特征在于,所述第一时长=1000/所述频闪光源在每秒的亮暗次数。
9.如权利要求2所述的图像处理方法,其特征在于,所述图像处理模型为卷积神经网络。
10.如权利要求2或9所述的图像处理方法,其特征在于,所述图像处理模型是通过以下方法训练得到的:
获取样本数据,所述样本数据包括第一样本图像、第二样本图像与第三样本图像,所述第二样本图像中包括所述第一样本图像的图像内容、条纹和/或偏色图像区域,所述第三样本图像与所述第一样本图像具有相同的图像内容,所述第三样本图像的图像质量高于所述第一样本图像的图像质量;
将所述第一样本图像与所述第二样本图像输入至待训练的图像处理模型,得到预测双边网格数据;
基于所述预测双边网格数据对所述第二样本图像进行插值处理,得到预测图像;
基于预测图像与所述第三样本图像之间的差异训练所述待训练的图像处理模型,得到所述图像处理模型。
11.如权利要求1至10中任一项所述的图像处理方法,其特征在于,所述第二图像的亮度信息包括:所述第二图像的亮度通道的数据,或者,所述第二图像的像素点的亮度值。
12.一种图像处理方法,其特征在于,应用于电子设备,所述电子设备所处的拍摄环境的光源为频闪光源,所述图像处理方法包括:
开启相机应用程序;
显示第一图像,所述第一图像为基于第一曝光时间采集的拍摄对象的图像,所述拍摄对象为运动对象,所述第一曝光时间小于第一时长,所述第一图像中包括条纹和/或偏色图像区域;
检测到第一操作,所述第一操作指示所述电子设备拍照或者录像;
响应于所述第一操作,获取第二图像,所述第二图像为基于第二曝光时间采集的所述拍摄对象的图像,所述第二曝光时间为所述第一时长的整数倍;
基于所述第二图像的亮度信息获取第一参数,所述第一参数用于镜头阴影校正处理;
基于所述第一参数对所述第二图像进行所述镜头阴影校正处理,得到第五图像;
基于所述第一图像与所述第五图像,得到颜色转换矩阵和/或亮度参数,所述颜色转换矩阵用于对所述第一图像进行颜色调整,所述亮度参数用于表征亮度的灰阶;
基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行第一图像处理,得到第四图像,所述第四图像为去除所述条纹和/或偏色图像区域的图像;
显示或者保存所述第四图像。
13.如权利要求12所述的图像处理方法,其特征在于,所述第一图像为基于所述第一参数进行所述镜头阴影校正处理后的图像。
14.如权利要求12或13所述的图像处理方法,其特征在于,还包括:
将所述第一图像与所述第五图像输入至图像处理模型,得到双边网格数据;其中,所述双边网格数据包括所述颜色转换矩阵和/或所述亮度参数,所述第一图像的尺寸与所述第五图像的尺寸相同。
15.如权利要求12至14中任一项所述的图像处理方法,其特征在于,所述基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行第一图像处理,得到第四图像,包括:
基于所述颜色转换矩阵和/或所述亮度参数对所述第一图像进行插值处理,得到所述第四图像。
16.如权利要求12至15中任一项所述图像处理方法,其特征在于,所述基于所述颜色转换矩阵和/或亮度参数对所述第一图像进行插值处理,得到所述第四图像,包括:
在第一颜色空间,基于所述颜色转换矩阵和/或所述亮度参数对所述第一图像进行所述第一图像处理,得到处理后的图像;
在所述第一颜色空间,对所述处理后的图像进行第二图像处理,得到所述第四图像,所述第二图像处理为所述第一颜色空间中的颜色处理算法。
17.如权利要求12至16中任一项所述的图像处理方法,其特征在于,所述第二图像的亮度信息包括:所述第二图像的亮度通道的数据,或者,所述第二图像的像素点的亮度值。
18.一种电子设备,其特征在于,包括:
一个或多个处理器和存储器;
所述存储器与所述一个或多个处理器耦合,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行如权利要求1至11中任一项,或者,12至17中任一项所述的图像处理方法。
19.一种芯片系统,其特征在于,所述芯片系统应用于电子设备,所述芯片系统包括一个或多个处理器,所述处理器用于调用计算机指令以使得所述电子设备执行如权利要求1至11中任一项,或者,12至17中任一项所述的图像处理方法。
20.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储了计算机程序,当所述计算机程序被处理器执行时,使得处理器执行权利要求1至11中任一项,或者12至17中任一项所述的图像处理方法。
CN202310207723.8A 2023-02-24 2023-02-24 图像处理方法和电子设备 Active CN117135293B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310207723.8A CN117135293B (zh) 2023-02-24 2023-02-24 图像处理方法和电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310207723.8A CN117135293B (zh) 2023-02-24 2023-02-24 图像处理方法和电子设备

Publications (2)

Publication Number Publication Date
CN117135293A true CN117135293A (zh) 2023-11-28
CN117135293B CN117135293B (zh) 2024-05-24

Family

ID=88849702

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310207723.8A Active CN117135293B (zh) 2023-02-24 2023-02-24 图像处理方法和电子设备

Country Status (1)

Country Link
CN (1) CN117135293B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118018715A (zh) * 2024-04-10 2024-05-10 深圳精智达技术股份有限公司 一种多相机曝光时间一致性调节的方法及相关装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110381263A (zh) * 2019-08-20 2019-10-25 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN110445988A (zh) * 2019-08-05 2019-11-12 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN114979500A (zh) * 2021-02-26 2022-08-30 Oppo广东移动通信有限公司 图像处理方法、图像处理装置、电子设备及可读存储介质
CN115633262A (zh) * 2022-12-21 2023-01-20 荣耀终端有限公司 图像处理方法和电子设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110445988A (zh) * 2019-08-05 2019-11-12 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN110381263A (zh) * 2019-08-20 2019-10-25 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN114979500A (zh) * 2021-02-26 2022-08-30 Oppo广东移动通信有限公司 图像处理方法、图像处理装置、电子设备及可读存储介质
CN115633262A (zh) * 2022-12-21 2023-01-20 荣耀终端有限公司 图像处理方法和电子设备

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118018715A (zh) * 2024-04-10 2024-05-10 深圳精智达技术股份有限公司 一种多相机曝光时间一致性调节的方法及相关装置

Also Published As

Publication number Publication date
CN117135293B (zh) 2024-05-24

Similar Documents

Publication Publication Date Title
US11403740B2 (en) Method and apparatus for image capturing and processing
AU2019326496B2 (en) Method for capturing images at night, apparatus, electronic device, and storage medium
CN109788207B (zh) 图像合成方法、装置、电子设备及可读存储介质
US8446481B1 (en) Interleaved capture for high dynamic range image acquisition and synthesis
CN110445988A (zh) 图像处理方法、装置、存储介质及电子设备
JP2016519822A (ja) 動きゴーストフィルタリングのための基準画像選択
CN116744120B (zh) 图像处理方法和电子设备
CN116416122B (zh) 图像处理方法及其相关设备
CN108833802A (zh) 曝光控制方法、装置和电子设备
CN108900785A (zh) 曝光控制方法、装置和电子设备
WO2023036034A1 (zh) 图像处理方法及其相关设备
CN114693580A (zh) 图像处理方法及其相关设备
CN115550570A (zh) 图像处理方法与电子设备
CN116055890A (zh) 生成高动态范围视频的方法和电子设备
CN117135293B (zh) 图像处理方法和电子设备
CN110581957B (zh) 图像处理方法、装置、存储介质及电子设备
CN116668862B (zh) 图像处理方法与电子设备
CN115767290B (zh) 图像处理方法和电子设备
CN116437198B (zh) 图像处理方法与电子设备
CN113891008B (zh) 一种曝光强度调节方法及相关设备
CN115988311A (zh) 图像处理方法与电子设备
CN115526786B (zh) 图像处理方法及其相关设备
CN116723417B (zh) 一种图像处理方法和电子设备
CN116051368B (zh) 图像处理方法及其相关设备
CN116055855B (zh) 图像处理方法及其相关设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant