CN113660425B - 图像处理方法、装置、电子设备及可读存储介质 - Google Patents

图像处理方法、装置、电子设备及可读存储介质 Download PDF

Info

Publication number
CN113660425B
CN113660425B CN202110953703.6A CN202110953703A CN113660425B CN 113660425 B CN113660425 B CN 113660425B CN 202110953703 A CN202110953703 A CN 202110953703A CN 113660425 B CN113660425 B CN 113660425B
Authority
CN
China
Prior art keywords
pixel
exposure
pixels
image
control path
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110953703.6A
Other languages
English (en)
Other versions
CN113660425A (zh
Inventor
黄春成
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Vivo Mobile Communication Hangzhou Co Ltd
Original Assignee
Vivo Mobile Communication Hangzhou Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Vivo Mobile Communication Hangzhou Co Ltd filed Critical Vivo Mobile Communication Hangzhou Co Ltd
Priority to CN202110953703.6A priority Critical patent/CN113660425B/zh
Publication of CN113660425A publication Critical patent/CN113660425A/zh
Priority to PCT/CN2022/112970 priority patent/WO2023020527A1/zh
Application granted granted Critical
Publication of CN113660425B publication Critical patent/CN113660425B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time

Abstract

本申请公开了一种图像处理方法、装置、电子设备及可读存储介质,属于图像处理技术领域。该方法包括:根据拍摄场景和所述图像传感器中对焦区域内目标PD像素的亮度信息,确定第一曝光参数;采用第一控制通路配置的所述第一曝光参数对所述图像传感器中的候选PD像素进行第一曝光,生成第一图像,所述候选PD像素为所述图像传感器中用于相位对焦的像素,所述候选PD像素包括所述目标PD像素,其中,第一曝光参数由所述第一控制通路控制;基于所述第一图像对所述拍摄场景进行相位对焦;其中,所述图像传感器中成像像素的第二曝光参数由第二控制通路控制,其中,所述第一控制通路与所述第二控制通路不同,且所述图像传感器与所述第一控制通路、第二控制通路均连接。

Description

图像处理方法、装置、电子设备及可读存储介质
技术领域
本申请属于图像处理技术领域,具体涉及一种图像处理方法、装置、电子设备及可读存储介质。
背景技术
随着对焦技术的快速发展,电子设备可以进行相位(PD,phase detection)对焦,PD对焦是通过相位检测实现对焦。为了实现相位对焦,需要图像传感器(Sensor)的成像像素(RGB像素,红绿蓝像素)的基础上(如图1所示的图像传感器的成像像素的示意图,成像像素的布局方式不限于图1,成像像素包括GR像素61,R像素62、B像素63、GB像素64,本例中,图像传感器可以应用于拍摄人脸的场景,而人脸对G像素较为敏感,因此可以对G通道设置红绿通道的G像素,即GR像素61,以及蓝绿通道的G像素,即GB像素64),增加一种PD像素,其中,PD像素可以包括左(L)像素和右(R)像素。例如,对比于图1,参照图2可以看出,这里的图像传感器在图1的成像像素的基础上,增加了PD像素(以L、R示出)。对于图1和图2,相同的附图标记表示相同的对象,这里不再对图2的附图标记做一一赘述,参照图1的解释即可。其中,PD像素的排列形式不限于图2,从而可以利用PD像素辅助对焦。通过PD像素中的L像素和R像素的像素值,可以计算对焦区域的相位差(Phase diff),从而实现相位对焦。
目前,Sensor的成像像素和PD像素所配置的曝光参数是同一组参数,那么单纯从PD对焦效果或者是成像对焦的一个维度去调整该曝光参数,可能存在导致另一个维度的性能下降。目前,主流的图像控制方式主要是参照Sensor中成像像素的成像效果来调整该统一的曝光参数。例如,在逆光场景下,为了保证背景较好的成像质量,将成像像素和PD像素的统一的曝光参数调整为较小,这样将导致对焦区域内的人脸对象相对较暗,当然,可以通过后期的图像处理方式来对人脸成像质量进行提升,但是,这还是会使得对焦区域内的相位值很低,信噪比差,从而导致包括PD像素的人脸区域的对焦质量下降。
因此,相关技术中的图像处理方式存在着基于PD对焦的对焦质量下降的问题。
发明内容
本申请实施例的目的是提供一种图像处理方法、装置、电子设备及可读存储介质,能够解决相关技术中的图像处理方式所存在的基于PD对焦的对焦质量下降的问题。
第一方面,本申请实施例提供了一种图像处理方法,该方法包括:
根据拍摄场景和所述图像传感器中对焦区域内目标相位PD像素的亮度信息,确定第一曝光参数;
采用第一控制通路配置的所述第一曝光参数对所述图像传感器中的候选PD像素进行第一曝光,生成第一图像,所述候选PD像素为所述图像传感器中用于相位对焦的像素,所述候选PD像素包括所述目标PD像素,其中,第一曝光参数由所述第一控制通路控制;
基于所述第一图像对所述拍摄场景进行相位对焦;
其中,所述图像传感器中成像像素的第二曝光参数由第二控制通路控制,其中,所述第一控制通路与所述第二控制通路不同,且所述图像传感器与所述第一控制通路、第二控制通路均连接。
第二方面,本申请实施例提供了一种图像处理装置,该装置包括:
第一确定模块,用于根据拍摄场景和所述图像传感器中对焦区域内目标相位PD像素的亮度信息,确定第一曝光参数;
第一生成模块,用于采用第一控制通路配置的所述第一曝光参数对所述图像传感器中的候选PD像素进行第一曝光,生成第一图像,所述候选PD像素为所述图像传感器中用于相位对焦的像素,所述候选PD像素包括所述目标PD像素,其中,第一曝光参数由所述第一控制通路控制;
对焦模块,用于基于所述第一图像对所述拍摄场景进行相位对焦;
其中,所述图像传感器中成像像素的第二曝光参数由第二控制通路控制,其中,所述第一控制通路与所述第二控制通路不同,且所述图像传感器与所述第一控制通路、第二控制通路均连接。
第三方面,本申请实施例提供了一种电子设备,该电子设备包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如第一方面所述的方法的步骤。
第四方面,本申请实施例提供了一种可读存储介质,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如第一方面所述的方法的步骤。
第五方面,本申请实施例提供了一种芯片,所述芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述处理器用于运行程序或指令,实现如第一方面所述的方法。
在本申请实施例中,可以修改图像传感器中成像像素与PD像素的参数控制方式,通过独立设置图像传感器中成像像素的曝光参数和PD像素的曝光参数,从而可以利用PD像素的曝光参数来对图像传感器中的PD像素进行曝光生成第一图像,并利用第一图像进行相位对焦,从而可以在利用成像像素的曝光参数确保成像质量的同时,提升PD对焦效果,优化PD性能,改善因成像像素的曝光参数与PD像素的曝光参数的配置不独立导致成像效果与PD对焦效果无法得到最优效果的问题。
附图说明
图1是现有技术中的一种图像传感器的像素布局示意图之一;
图2是现有技术中的一种图像传感器的像素布局示意图之二;
图3是现有技术中的一种图像传感器的像素布局示意图之三;
图4是现有技术中的一种图像传感器的像素布局示意图之四;
图5是本申请一个实施例的一种图像传感器的像素布局示意图之一;
图6是本申请一个实施例的图像处理方法的流程图;
图7是现有技术中的一种图像传感器的像素输出方式示意图之一;
图8是现有技术中的一种图像传感器的像素输出方式示意图之二;
图9是本申请一个实施例的一种图像传感器的像素输出方式示意图之一;
图10是本申请一个实施例的一种图像传感器的像素输出方式示意图之二;
图11是本申请一个实施例的图像处理装置的框图;
图12是本申请一个实施例的电子设备的硬件结构示意图;
图13是本申请另一个实施例的电子设备的硬件结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员获得的所有其他实施例,都属于本申请保护的范围。
本申请的说明书和权利要求书中的术语“第一”、“第二”等是用于区别类似的对象,而不用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施,且“第一”、“第二”等所区分的对象通常为一类,并不限定对象的个数,例如第一对象可以是一个,也可以是多个。此外,说明书以及权利要求中“和/或”表示所连接对象的至少其中之一,字符“/”,一般表示前后关联对象是一种“或”的关系。
发明人在实现本申请的过程中发现,Sensor的成像像素和PD像素所配置的曝光参数是同一组参数,即PD像素的曝光参数保持与成像像素的曝光参数一致,对比于图1,如图3所示,在图3中示出了不存在PD像素的Sensor中各成像像素的曝光参数的设置,以图3中像素格内的竖线11表示曝光参数,这里未对每个成像像素的曝光参数做附图标记,图3的像素布局方式与图1相同,这里只是在图3中附加示出了曝光参数的示意线条。从图3可以看出每个成像像素的曝光参数是相同的。那么在增加了PD像素的Sensor中,对比于图2,如图4所示,在图4中示出了存在PD像素的Sensor中成像像素和PD像素的曝光参数的设置,在图4中,以像素格内的竖线21表示该像素格的像素的曝光参数,这里未对每个成像像素的曝光参数和每个PD像素的曝光参数做附图标记,图4的像素布局方式与图2相同,这里只是在图4中附加示出了曝光参数的示意线条。从图4可以看出Sensor中成像像素和PD像素的曝光参数相同。那么由于Sensor中成像像素和PD像素采用统一的曝光参数设置,并以成像效果为主,来调整该统一的曝光参数,使得利用PD像素进行PD对焦时的对焦效果下降,影响PD性能。为了提升PD对焦效果和PD性能,本申请实施例提供了一种图像处理方法,下面结合附图来对各个实施例的图像处理方法做详细阐述。
参照图6,示出了本申请一个实施例的图像处理方法的流程图,所述方法具体可以包括如下步骤:
步骤101,根据拍摄场景和所述图像传感器中对焦区域内目标PD像素的亮度信息,确定第一曝光参数;
其中,PD像素可以包括L像素和R像素,对于PD像素中的L像素和R像素,图像传感器中的一个像素点,若将该像素点的一半位置加了金属遮盖,使得被遮住左边一半的像素点只能接受左边来的光,该被遮住左边一半的像素点称之为L像素;同理,被遮住右边一半的像素点就只能接受右边来的光,该被遮住右边一半的像素点称之为R像素;在图像传感器中,L像素和R像素是在相邻位置成对出现,如图2、图4、图5所示。
其中,曝光参数可以包括但不限于积分时间(integration time,INT),模拟增益(gain)以及数字gain等。
其中,积分时间是以行为单位表示曝光时间(exposure time)的,比如说INT为159,就是指图像传感器(Sensor)曝光时间为159行,积分时间和曝光时间两者所代表的意思是相同的,都是表示Sensor的曝光时间,但是integration time是一个相对的概念,即以行为单位,而每行所占的绝对时间与时钟频率和每一行包含多少pclk(即行长)有关;而exposure time则是指Sensor曝光的绝对时间。
其中,第二曝光参数的取值与所述第一曝光参数的取值不同,例如曝光参数为积分时间,则对PD像素进行曝光的积分时间的取值,与对成像像素进行曝光的积分时间的取值不同。
其中,所述第二曝光参数为用于对所述图像传感器中成像像素进行第二曝光的曝光参数,也就是说,在本申请实施例中,可以对Sensor中的成像像素和PD像素设置独立的曝光参数。
对比于图4中对成像像素和PD像素采用相同的曝光参数21进行曝光,参照本申请实施例的图5(其中,图5中的像素布局方式与图2、图4的像素布局方式相同,为了更加清楚的示出表示曝光参数的线条,这里未对图5中的成像像素以及PD像素(图5中的L像素、R像素)以不同的灰度底色做像素区分,图5中具体像素布局参照图2、图4的解释即可,也就是说,在图5中除L像素和R像素之外的每个像素格表示的都是成像像素)可以看出,在本申请实施例中,可以采用曝光参数41控制对Sensor中PD像素中的L像素和R像素进行曝光,图5中每个包括L像素或R像素的像素格内的竖线用于表示曝光参数41;而对图5中示出的每个成像像素采用曝光参数42进行曝光,图5中每个成像像素的像素格内的竖线用于表示曝光参数42,为了附图标记的清楚和简要,这里未对图5中每个成像像素的曝光参数做附图标记,第2~8行的成像像素的曝光参数参照第一行示出的成像像素的曝光参数42即可。图5中的箭头用于表示Sensor中每行未示出的像素点。
其中,用于控制成像像素曝光的第二曝光参数的取值可以是使得成像效果最优的曝光参数的取值;而控制PD像素曝光的第一曝光参数的取值则可以是使得曝光后的PD像素对应的第一图像,能够使得进行相位对焦效果最优的取值,即采用第一曝光参数的取值来对PD像素进行曝光后,所生成的第一图像,能够用于改善和优化PD对焦效果,使得PD性能提升。
本实施例中,可以结合Sensor的当前拍摄场景和Sensor中对焦区域内目标PD像素的亮度信息,来确定能够改善和优化PD对焦效果的第一曝光参数的取值,其中,目标PD像素表示对焦区域内的每个PD像素。
可选地,在一个实施例中,为了确定能够改善和优化PD对焦效果,使得PD性能提升的第一曝光参数的取值,可以通过以下方式来实现步骤101,从而确定该第一曝光参数的取值,具体而言:确定与拍摄场景匹配的预设亮度条件;那么在所述图像传感器中对焦区域内的目标PD像素的亮度信息不符合所述预设亮度条件的情况下,确定与所述预设亮度条件匹配的第一曝光参数的取值,其中,所述第一曝光参数的取值,用于使得经所述第一曝光后的所述目标PD像素的亮度信息符合所述预设亮度条件。
示例地,预先可以经过大量实验来确定各种拍摄场景下,能够使得PD对焦效果最优、PD性能提升的对焦区域内PD像素的预设亮度条件。
预设拍摄场景可以包括但不限于逆光场景、点光源场景、人像场景等,针对每个预设拍摄场景分别配置对应的预设亮度条件。
在不同实施例中,该预设亮度条件可以是预设亮度范围,还可以是表示对焦区域内过曝的PD像素的数量的第一阈值,对焦区域内欠曝的PD像素的数量的第二阈值,考虑到用于确定第一曝光参数的取值的策略的区别,预设亮度条件也存在区别。
例如当前的拍摄场景为逆光场景,则可以预先配置的与逆光场景匹配的预设亮度条件,例如预设亮度范围,然后,获取Sensor中对焦区域内的每个PD像素(上文称之为目标PD像素)的亮度值,对该亮度值求平均值,如果该平均值在该预设亮度范围内,则说明目标PD像素的亮度信息符合该预设亮度条件,不需要对PD像素的曝光参数进行调整;如果该平均值不在该预设亮度范围内,则说明目标PD像素的亮度信息不符合该预设亮度条件,PD性能不是最优,需要对用于PD曝光的PD像素的曝光参数进行调整,对于曝光参数调整后的取值,则可以基于该预设亮度范围来确定,因为曝光参数与对焦区域的PD像素的亮度值存在着逻辑关系,因此,可以反推确定符合该预设亮度范围的第一曝光参数的取值,将反推得到的该取值作为用于本次对焦时对拍摄场景的PD像素进行曝光时所采用的第一曝光参数的取值。
同理,如果与当前拍摄场景匹配的预设亮度条件为表示对焦区域内过曝的PD像素的数量的第一阈值,对焦区域内欠曝的PD像素的数量的第二阈值,则可以获取对焦区域内PD像素的亮度值的直方图,利用该直方图确定对焦区域内欠曝的PD像素的数量是否小于或等于第二阈值,以及该对焦区域内过曝的PD像素的数量是否小于或等于第一阈值,如果是,则说明对焦区域内PD像素的亮度信息符合该预设亮度条件,不需要对Sensor中PD像素的曝光参数进行调整;如果对焦区域内欠曝的PD像素的数量大于第二阈值,或者,该对焦区域内过曝的PD像素的数量大于第一阈值,则说明目标PD像素的亮度信息不符合该预设亮度条件,PD性能不是最优,需要对用于PD曝光的PD像素的曝光参数进行调整,对于曝光参数调整后的取值,则可以基于上述第一阈值和第二阈值来确定,因为曝光参数与对焦区域的PD像素的亮度值存在着逻辑关系,因此,可以反推确定符合满足上述第一阈值和第二阈值的条件的第一曝光参数的取值,将反推得到的该取值作为用于本次对焦时对拍摄场景的PD像素进行曝光时所采用的第一曝光参数的取值。
在本申请实施例中,可以结合拍摄场景来灵活确定与该拍摄场景匹配的对焦区域内PD像素的预设亮度条件;那么在图像传感器中对焦区域内的目标PD像素(指代Sensor中当前对焦区域内的PD像素)的亮度信息不符合所述预设亮度条件的情况下,说明用于PD像素曝光的曝光参数的取值无法使得PD对焦性能最优,需要确定与所述预设亮度条件匹配的第一曝光参数的取值,而所述第一曝光参数的取值,用于使得经所述第一曝光后的所述目标PD像素的亮度信息符合所述预设亮度条件,使得本申请实施例能够结合拍摄场景准确地确定出符合该拍摄场景的、且能够使PD对焦效果最优的用于曝光PD像素的第一曝光参数的取值,不仅提升了用于PD像素曝光的曝光参数的取值的准确度,而且能够随着拍摄场景的变化,来合理灵活地调整该取值,能够在各种拍摄场景下,优化PD对焦性能。
步骤102,采用第一控制通路配置的所述第一曝光参数对所述图像传感器中的候选PD像素进行第一曝光,生成第一图像,所述候选PD像素为所述图像传感器中用于相位对焦的像素,所述候选PD像素包括所述目标PD像素,其中,第一曝光参数由所述第一控制通路控制;
其中,该候选PD像素可以是Sensor中的每个PD像素,也可以是Sensor中对焦区域内的PD像素,因此,该候选PD像素是包括该目标PD像素的。
由于对焦区域可以灵活地发生变化,因此,可以不仅仅地对Sensor中当前对焦区域内的目标PD像素采用第一曝光参数进行曝光,而是,可以对Sensor中每个PD像素(这里候选PD像素表示Sensor中的每个PD像素)进行统一的曝光拍摄,来生成一帧第一图像。这样,即便对焦区域发生变化,那么仍旧可以从第一图像中确定出变化后的对焦区域所对应的各个PD像素的图像信息。
此外,虽然Sensor中不仅仅包括PD像素,还包括成像像素,但这里可以理解为只对Sensor中的PD像素进行曝光,来生成第一图像。
示例地,以对对焦区域内的PD像素进行曝光来生成第一图像为例进行说明。
在逆光的拍摄场景中,例如对焦区域为人脸,则人脸区域亮度较暗,则可以将Sensor中人脸区域内的PD像素的曝光参数,例如曝光时间设置长一些,从而将人脸调亮,利于对人脸区域进行对焦。
在点光源的拍摄场景中,点光源之外的区域很暗,为了将点光源周围区域提亮,优化成像效果,现有技术会将成像像素设置较高的曝光参数,从而导致点光源区域被过曝,那么本申请实施例的方法则可以对对焦区域,即点光源区域内的PD像素的曝光参数降低,不用于对成像像素进行曝光的较高的曝光参数,从而可以降低点光源区域的过曝问题。
由此可见,本申请实施例的方法在应用到逆光、点光源等极限场景下,可以改善因为成像质量而导致PD性能下降问题。
此外,在非上述极限场景下,也可以通过单独配置PD像素的曝光参数,来使得曝光后的PD像素在PD对焦时性能提升优化。
其中,所述图像传感器中成像像素的第二曝光参数由第二控制通路控制,其中,所述第一控制通路与所述第二控制通路不同,且所述图像传感器与所述第一控制通路、第二控制通路均连接。
示例地,在单独配置成像像素和PD像素的曝光参数时,可以通过在半导体硬件通路上的分离实现,即配置图像传感器与不同的半导体硬件通路连接。其中,图像传感器可以通过不同的半导体硬件通路与后端的控制器通信连接。
可以对所述图像传感器与控制器之间的第一控制通路配置所述第一曝光参数;以及对所述图像传感器与控制器之间的第二控制通路配置第二曝光参数,考虑到需要兼顾成像效果和对焦效果,因此,这两组曝光参数的取值大多数情况下不同。
本实施例可以通过第一控制通路和第二控制通路来分别实现对PD像素、成像像素的曝光参数的各自控制,确保成像效果的同时也可以优化PD对焦性能。
可选地,在图像传感器用于曝光用于显示的成像图像时,可以采用上述第二曝光参数对图像传感器中的成像像素进行曝光,来生成成像图像。
步骤103,基于所述第一图像对所述拍摄场景进行相位对焦;
其中,在第一图像是Sensor中全部PD像素的曝光图的情况下,则可以根据当前的对焦区域,在第一图像中确定属于该对焦区域的部分图像,利用该部分图像进行拍摄场景的相位对焦,由于对焦区域可能发生变化,因此,这种方式可以准确地获取到最新的对焦区域对应的PD像素的曝光图像,从而用于辅助相位对焦。
在第一图像是Sensor中对焦区域内的PD像素的曝光图的情况下,则可以直接利用该第一图像进行拍摄场景的相位对焦。
在本申请实施例中,可以修改图像传感器中成像像素与PD像素的参数控制方式,通过独立设置图像传感器中成像像素的曝光参数和PD像素的曝光参数,从而可以利用PD像素的曝光参数来对图像传感器中的PD像素进行曝光生成第一图像,并利用第一图像进行相位对焦,从而可以在利用成像像素的曝光参数确保成像质量的同时,提升PD对焦效果,优化PD性能,改善因成像像素的曝光参数与PD像素的曝光参数的配置不独立导致成像效果与PD对焦效果无法得到最优效果的问题。
可选地,在步骤102之前,根据本申请实施例的方法还可以包括:
步骤100,根据所述第一曝光参数中的第一曝光时间,确定所述第一曝光对应的第一帧率;
其中,对于步骤100和步骤101的执行顺序不做限制。
其中,所述第一帧率高于所述第二曝光对应的第二帧率;
本实施例中,可以将成像像素对应的第二帧率和PD像素对应的第一帧率进行分离,并非采用统一的帧率进行像素曝光。在进行分离时,可以参照曝光参数的独立配置方式,通过在半导体硬件通路上的分离来实现对不同像素的不同帧率控制,即采用不同的半导体硬件通路,来分别实现对成像像素、PD像素的帧率的各自控制,从而可以将用于对PD像素进行曝光的第一帧率设置的高于用于对成像像素进行曝光的第二帧率。
由于PD像素用于相位对焦,那么在PD像素的曝光操作对应的第一帧率,相较于用于显示的成像像素的曝光操作对应的第二帧率更高时,则可以提升对焦速度,虽然为了提升对焦速度,PD像素对应的帧率越高越好,但是,在配置PD像素对应的第一帧率时,还是受限于对PD像素进行曝光的第一曝光参数中的第一曝光时间这一参数信息。
例如PD像素的曝光时间为20ms,那么1s(秒)=1000ms(毫秒),1000ms/20ms=50帧,则PD像素对应的第一帧率的最大值为50帧/s。
那么在本实施例中,在执行步骤102时,则可以对所述第一控制通路配置所述第一帧率和所述第一曝光参数;采用所述第一控制通路配置的所述第一帧率和所述第一曝光参数,对所述图像传感器中的候选PD像素进行第一曝光,生成多帧第一图像;
那么在本实施例中,在执行步骤103时,则可以基于所述多帧第一图像中的每帧第一图像,对所述拍摄场景进行多次相位对焦。
例如PD像素的第一帧率为50帧/s,即1s内对PD像素可以进行50次曝光,那么每对PD像素完成一次曝光输出一帧第一图像,就可以对该第一图像进行相位对焦。由于原本PD像素和成像像素对应的帧率相同,例如成像像素的帧率为30ms输出一帧图像,那么将pd像素的帧率提高,例如15ms输出一帧,则在30ms内可以对PD像素进行两次曝光输出两帧pd像素的第一图像,从而在30m内可以利用两帧第一图像分别进行对焦,完成两次对焦,使得利用pd像素进行相位对焦的速度变快。
在本申请实施例中,由于可以将成像像素的帧率和PD像素的帧率进行独立控制,那么通过将两个帧率设置为不同帧率,具体可以将PD像素对应的第一帧率设置的高于成像像素的第二帧率,从而使得在采用较低的第二帧率对成像像素进行一次曝光的时间内,可以利用第一帧率来对PD像素进行多次曝光,从而对每输出的一帧PD像素的第一图像,就完成一次相位对焦,从而完成多次相位对焦,因此,通过将成像像素的帧率设置的与PD像素的帧率不同,具体可以为将PD像素设置为更高速的帧率,从而可以在输出一帧用于显示的图像(对成像像素进行曝光而生成的图像)的时长内,通过PD像素的高速帧率,快速完成多次PD对焦。
可选地,所述基于所述多帧第一图像中的每帧第一图像,对所述拍摄场景进行多次相位对焦之后,根据本申请实施例的方法还可以包括:
采用所述第二控制通路配置的所述第二曝光参数和所述第二帧率,对所述图像传感器中的所述成像像素进行第二曝光,生成第二图像。
具体而言,在本实施例中,不仅可以将用于对焦的PD像素的第一帧率设置的高于用于显示的成像像素的第二帧率,从而提升对焦速度,而且还可以通过帧率分离,并配置对PD像素进行曝光的时序,在对成像像素进行曝光的时序之前,从而可改善sensor曝光过程中对焦导致的图像扭曲或者是画面拉伸变化等情况。
发明人发现存在上述对焦导致的画面扭曲和画面拉伸的原因在于,由于对焦需要移动镜头,那么在对焦过程中,对对焦区域进行了图像曝光,使得图像曝光过程中移动镜头导致了图像存在扭曲或拉伸的情况。那么为了解决该问题,在本实施例中,由于基于第一图像,对所述拍摄场景进行一次相位对焦的时长是可以确定的,即每次对焦的时长是已知的,那么可以控制对PD像素进行曝光的时间,在对本次成像像素进行曝光的时间之前,就可以对用于对焦的PD像素进行曝光,在完成对PD像素的曝光之后,再基于曝光生成的第一图像来确定焦距等对焦信息,从而利用该对焦信息来推动镜头中的马达来完成相位对焦操作;在马达推动完成之后,即相位对焦完成之后,再对成像图像进行曝光生成用于显示的第二图像,使得在镜头移动之前PD像素已经完成了曝光,在镜头移动之后,成像像素完成了曝光,使得镜头移动过程中,不存在曝光的图像,因此,不论是PD像素还是成像像素的曝光都不受移动镜头的影响,从而不会存在对焦时图像拉伸和变形的问题。
需要说明地是,本实施例中的第二图像用于送显,即用于显示,而非用于对焦,由于Sensor中并不是全部像素均为成像像素,既包括了成像像素也包括了PD像素,那么在生成第二图像时,PD像素也可以用于送显,即可以通过对Sensor中的全部成像像素和全部PD像素进行曝光,来生成第二图像,但是,由于PD像素在用于送显时,清晰度较低,因此,会使得第二图像中PD像素位置的画质较差。
那么可选地,在生成第二图像时,还可以对Sensor中原本包括PD像素的各个像素点位置(以目标位置命名)中的各个PD像素去除,并根据目标位置周围的成像像素的像素值来生成目标位置的像素值,将新生成的各个目标位置的像素值来作为该目标位置的成像像素的像素值来补充到该目标位置。那么在对各个目标位置的像素值进行重新补充后,再对Sensor中全部的成像像素(包括目标位置被补充的成像像素的像素值)进行曝光,从而生成第二图像。输出的第二图像用于显示,那么这种方式生成的第二图像,在各个目标位置的清晰度更高,画质更好。
而在生成第二图像之前,生成并输出的第一图像则用于确定摄像头对焦时的焦距等信息。
在本申请实施例中,相比于传统技术中PD像素和成像像素只可以同时进行曝光,本实施例中将PD像素和成像像素进行曝光的各自的帧率采用不同的控制通路进行帧率配置,实现了帧率的分离,使得PD像素可以在成像像素之前或之后进行曝光。这里为了解决利用PD像素进行相位对焦时所存在的画面拉伸变形的问题,由于PD像素和成像像素各自的帧率分离,因此,可以通过将PD像素的曝光时机,即时序,控制输出的不同帧的成像像素的图像的间隙内,这里,将该时序控制在成像像素的当前帧(当前帧第二图像)和上一帧(第二图像)之间的场消隐期内,使得移动镜头的过程的时序落在成像像素的曝光时序之前,那么在镜头移动之前PD像素已经完成了曝光,在镜头移动之后,成像像素完成了曝光,因此,镜头移动过程中,不存在曝光的图像。所以,不论是PD像素还是成像像素的曝光都不受移动镜头的影响,从而不会存在对焦时图像拉伸和变形的问题。
可选地,在生成第一图像之后,Sensor可以输出第一图像;同理,在生成第二图像之后,Sensor可以输出第二图像;Sensor可以通过数据传输通道与后台处理端通信连接,Sensor可以将第一图像、第二图像通过该数据传输通道输出到后台处理端。
在传统技术中,如图7所示,是Sensor逐行输出像素的一种方式,具体为每一行输出的像素中先输出成像像素,再在当前行的水平消隐期内,即HBLT(horizontal blanktime,水平空白时间)中输出PD像素;再如,如图8所示,是Sensor逐行输出像素的另一种方式,具体为先逐行输出成像像素,待当前帧的全部行的成像像素输出完成之后,再在当前帧的成像像素的图像帧和下一帧的成像像素的图像帧的垂直消隐期,即场消隐期VBLT(vertical blank time,垂直空白时间)中输出所有行的PD像素。这两种传统方案都只能先输出成像像素行,后输出PD像素行。
在本申请实施例中,由于上述第一帧率可以与上述第二帧率不同,因此,本申请实施例的方法可以控制成像像素的图像帧和PD像素的图像帧的输出时刻点进行分离,那么在输出时刻点分离之后,Sensor可以如图9、图10所示,但不仅限于图9、图10的像素输出方式进行像素输出。
在本申请实施例中,PD像素的输出时刻点与成像像素的输出时刻点分离后,不同行的PD像素输出的时刻点不需与成像像素行的输出时刻点保持一致,PD像素行的输出时刻点可以先于成像像素行的输出时刻点。
例如如图9所示,在输出第一行成像像素之后,在第一行的水平消隐期内输出三行PD像素;然后输出第二行成像像素,在第二行成像像素输出之后,在第一行的水平消隐期内输出两行PD像素;
再如,如图10所示,在当前帧和上一帧的成像像素的图像帧的垂直消隐期内,输出3行PD像素;然后输出当前帧的首行成像像素;在当前帧的首行成像像素的水平消隐期内,输出两行PD像素。
可选地,在一个实施例中,Sensor还可以将PD像素的输出时刻点提前到当前帧(成像像素的图像帧,例如与第一图像对应的当前帧的第二图像)与上一帧(成像像素的图像帧,例如上一帧的第二图像)的场消隐期(VBLT,垂直空隙时间)中。
举例说明,以图10为例,可以对图10进行改进,在当前帧和上一帧的成像像素的图像帧的垂直消隐期内,所有行的PD像素,例如5行PD像素;然后输出当前帧的首行成像像素;接着依次输出其他行的成像像素。使得PD像素的输出时刻点可以提前到当前帧的成像图像和上一帧的成像图像的场消隐期内。那么在利用输出的所有行的PD像素的第一图像进行相位对焦,则可以在当前帧的成像图像输出之前完成相位对焦,而不影响下一帧成像图像。
其中,由于第一帧率和第二帧率相同,因此,相同时间内生成的第一图像的帧数和第二图像的帧数是相同的,因此,按照曝光顺序生成的一组第一图像和一组第二图像实际上是可以一一对应起来的,例如输出的首帧第一图像与输出的首帧第二图像是相互对应的,那么对于任意一组相互对应的第一图像和第二图像,虽然两种图像的曝光时长存在区别,但是可以通过消隐期的控制,来使得一帧第一图像在曝光完成之后,利用第一图像进行对焦的步骤,可以在该帧第一图像对应的第二图像输出之前进行。
也就是说,上述实施例中的采用所述第一控制通路配置的所述第一帧率和所述第一曝光参数,对所述图像传感器中的候选PD像素进行第一曝光,生成多帧第一图像的步骤,以及基于所述多帧第一图像中的每帧第一图像,对所述拍摄场景进行多次相位对焦的步骤中,在生成每一帧第一图像、和利用每一帧第一图像进行对焦的操作步骤,都可以在该帧第一图像对应的第二图像(即当前帧第二图像)与上一帧第二图像的场消隐期内完成。
具体的像素的具体输出方式为:成像像素的第一行曝光并输出之前,首先获取PD像素,完成所有行的PD像素的全部曝光并输出,其中,由于PD像素对应的第一帧率相较成像像素的第二帧率更高,从而可以在满足PD像素的帧率的情况下,Sensor一次传输很多行的PD像素;然后,推动马达移动镜头进行对焦;再然后,再进行首行成像像素的曝光并输出。使得输出的的成像像素不会抓取到镜头移动时的画面,且PD像素在镜头移动之前完成了曝光并输出,因此,曝光并输出得到PD像素的图像帧(例如第一图像)和成像像素的图像帧(例如第二图像)均无法抓取到镜头移动的画面,从而解决移动镜头对焦时的画面拉伸和变形扭曲的问题。其中,成像像素的全部曝光和输出以及之后的推动马达进行对焦的操作都在当前帧第二图像和上一帧第二图像的场消隐期内完成。
本实施例中,Sensor可以将PD像素的输出时刻点提前到当前帧(成像像素的图像帧,例如与一帧第一图像对应的当前帧第二图像)与上一帧(成像像素的图像帧,例如上一帧第二图像)的场消隐期中,从而可以更快获取到PD像素信息,从而在更早的时刻点进行PD对焦,从而使PD对焦能够在当前帧内完成,而不影响下一帧图像(即下一帧第二图像)。
可选地,在执行步骤102之前,根据本申请实施例的方法还可以包括:根据所述第一控制通路的带宽,确定所述候选PD像素的第一数据量;对所述第一控制通路配置所述第一数据量;根据所述第二控制通路的带宽,确定所述成像像素的第二数据量;对所述第二控制通路配置第二数据量,其中,所述第二数据量为所述图像传感器中成像像素的数据量大小。
其中,本实施例的附加步骤与上述步骤100、步骤101之间的执行顺序不做限制。
本实施例中,还可以将Sensor中PD像素和成像像素各自的字节数大小进行分离,所谓字节数大小,即每个PD像素的数据量大小,以及每个成像像素的数据量大小,其中,不同PD像素的数据量大小是相同的,不同成像像素的数据量大小是相同,在传统技术中,Sensor中PD像素和成像像素各自的字节数大小是统一的,而本申请则通过不同控制通路来分别输出Sensor生成的用于送显的第二图像和用于对焦的第一图像,因此,可以通过对不同控制通路分别配置所需要传送的图像的像素的数据量大小,来传送不同数据量的图像数据。
那么在确定像素的数据量大小时,可以依据Sensor对曝光生成的图像数据的数据传输通道(这里包括第一控制通路和第二控制通路)的实际带宽情况,来合理确定所需要传送的像素的数据量大小;Sensor可以通过该数据传输通道来将图像数据传输给后台处理端。
以确定PD像素的数据量大小为例进行说明,对于确定成像像素的数据量大小的方式同理。其中,在第一控制通路的带宽紧张的情况下,则可以将原本与成像像素相同数据量大小的PD像素的数据量大小进行降低,例如每个成像像素的数据量大小(即像素值的数据量大小)是10个字节,可以配置每个PD像素的数据量大小为8个字节;在该第一控制通路的带宽空闲的情况下,则为了提高PD像素的图像精度,可以对PD像素的像素值的大小进行提高,例如每个成像像素的数据量大小为10字节,配置每个PD像素的数据量大小为12字节。
那么经过本申请实施例的对PD像素的数据量的大小进行调节后,生成的第一图像中每个PD像素的数据量大小均为本步骤调整后的数据量大小。
可选地,每个所述PD像素的数据量大小,与每个所述成像像素的数据量大小不同。
由于对PD像素和成像像素各自的数据量大小进行了单独配置,那么可以配置二者的数据量大小不同,从而可以依据图像传感器的带宽情况,以及PD像素的图像精度要求来灵活地调整PD像素的数据量大小。
在本申请实施例中,可以将Sensor中PD像素和成像像素各自的数据量大小进行分离来独立控制,从而可以根据所述图像传感器的第一控制通路和第二控制通路的带宽,来灵活地确定所需要传送的PD像素和成像像素的数据量大小,在带宽紧张的情况下,来降低像素(包括PD像素、成像像素)的数据量大小,从而减少传输带宽;在带宽空闲的情况下,来提升像素(PD像素、成像像素)的数据量大小,从而可以提升利用PD像素生成的第一图像的图像精度,使得利用第一图像进行相位对焦时,对焦精度提升,对焦效果好,以及提升成像像素的第二图像的图像质量。
需要说明的是,本申请实施例提供的图像处理方法,执行主体可以为图像处理装置,或者该图像处理装置中的用于执行图像处理方法的控制模块。本申请实施例中以图像处理装置执行图像处理方法为例,说明本申请实施例提供的图像处理装置。
参照图11,示出了本申请一个实施例的图像处理装置的框图。该图像处理装置包括:
第一确定模块201,用于根据拍摄场景和所述图像传感器中对焦区域内目标相位PD像素的亮度信息,确定第一曝光参数;
第一生成模块202,用于采用第一控制通路配置的所述第一曝光参数对所述图像传感器中的候选PD像素进行第一曝光,生成第一图像,所述候选PD像素为所述图像传感器中用于相位对焦的像素,所述候选PD像素包括所述目标PD像素,其中,第一曝光参数由所述第一控制通路控制;
对焦模块203,用于基于所述第一图像对所述拍摄场景进行相位对焦;
其中,所述图像传感器中成像像素的第二曝光参数由第二控制通路控制,其中,所述第一控制通路与所述第二控制通路不同,且所述图像传感器与所述第一控制通路、第二控制通路均连接。
可选地,所述第一确定模块201包括:
第一确定子模块,用于确定与拍摄场景匹配的预设亮度条件;
第二确定子模块,用于在所述图像传感器中对焦区域内的目标PD像素的亮度信息不符合所述预设亮度条件的情况下,确定与所述预设亮度条件匹配的第一曝光参数的取值,其中,所述第一曝光参数的取值,用于使得经所述第一曝光后的所述目标PD像素的亮度信息符合所述预设亮度条件。
可选地,所述装置还包括:
第二确定模块,用于根据所述第一曝光参数中的第一曝光时间,确定所述第一曝光对应的第一帧率;
其中,所述第一帧率高于所述第二曝光对应的第二帧率;
所述第一生成模块202包括:
配置子模块,用于对所述第一控制通路配置所述第一帧率和所述第一曝光参数;
生成子模块,用于采用所述第一控制通路配置的所述第一帧率和所述第一曝光参数,对所述图像传感器中的候选PD像素进行第一曝光,生成多帧第一图像;
所述对焦模块203,还用于基于所述多帧第一图像中的每帧第一图像,对所述拍摄场景进行多次相位对焦。
可选地,所述装置还包括:
第二生成模块,用于采用所述第二控制通路配置的所述第二曝光参数和所述第二帧率,对所述图像传感器中的所述成像像素进行第二曝光,生成第二图像。
可选地,所述装置还包括:
第二确定模块,用于根据所述第一控制通路的带宽,确定所述候选PD像素的第一数据量;
第一配置模块,用于对所述第一控制通路配置所述第一数据量;
第三确定模块,用于根据所述第二控制通路的带宽,确定所述成像像素的第二数据量;
第二配置模块,用于对所述第二控制通路配置第二数据量,其中,所述第二数据量为所述图像传感器中成像像素的数据量大小。
在本申请实施例中,可以修改图像传感器中成像像素与PD像素的参数控制方式,通过独立设置图像传感器中成像像素的曝光参数和PD像素的曝光参数,从而可以利用PD像素的曝光参数来对图像传感器中的PD像素进行曝光生成第一图像,并利用第一图像进行相位对焦,从而可以在利用成像像素的曝光参数确保成像质量的同时,提升PD对焦效果,优化PD性能,改善因成像像素的曝光参数与PD像素的曝光参数的配置不独立导致成像效果与PD对焦效果无法得到最优效果的问题。
本申请实施例中的图像处理装置可以是装置,也可以是终端中的部件、集成电路、或芯片。该装置可以是移动电子设备,也可以为非移动电子设备。示例性的,移动电子设备可以为手机、平板电脑、笔记本电脑、掌上电脑、车载电子设备、可穿戴设备、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本或者个人数字助理(personaldigital assistant,PDA)等,非移动电子设备可以为个人计算机(personal computer,PC)、电视机(television,TV)、柜员机或者自助机等,本申请实施例不作具体限定。
本申请实施例中的图像处理装置可以为具有操作系统的装置。该操作系统可以为安卓(Android)操作系统,可以为iOS操作系统,还可以为其他可能的操作系统,本申请实施例不作具体限定。
本申请实施例提供的图像处理装置能够实现上述方法实施例实现的各个过程,为避免重复,这里不再赘述。
可选地,如图12所示,本申请实施例还提供一种电子设备2000,包括处理器2002,存储器2001,存储在存储器2001上并可在所述处理器2002上运行的程序或指令,该程序或指令被处理器2002执行时实现上述图像处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
需要注意的是,本申请实施例中的电子设备包括上述所述的移动电子设备和非移动电子设备。
图13为实现本申请实施例的一种电子设备的硬件结构示意图。
该电子设备1000包括但不限于:射频单元1001、网络模块1002、音频输出单元1003、输入单元1004、传感器1005、显示单元1006、用户输入单元1007、接口单元1008、存储器1009、以及处理器1010等部件。
本领域技术人员可以理解,电子设备1000还可以包括给各个部件供电的电源(比如电池),电源可以通过电源管理系统与处理器1010逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。图13中示出的电子设备结构并不构成对电子设备的限定,电子设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置,在此不再赘述。
其中,传感器1005,用于根据拍摄场景和所述图像传感器中对焦区域内目标相位PD像素的亮度信息,确定第一曝光参数;采用第一控制通路配置的所述第一曝光参数对所述图像传感器中的候选PD像素进行第一曝光,生成第一图像,所述候选PD像素为所述图像传感器中用于相位对焦的像素,所述候选PD像素包括所述目标PD像素,其中,第一曝光参数由所述第一控制通路控制;基于所述第一图像对所述拍摄场景进行相位对焦;
其中,所述图像传感器中成像像素的第二曝光参数由第二控制通路控制,其中,所述第一控制通路与所述第二控制通路不同,且所述图像传感器与所述第一控制通路、第二控制通路均连接。
在本申请实施例中,可以修改图像传感器中成像像素与PD像素的参数控制方式,通过独立设置图像传感器中成像像素的曝光参数和PD像素的曝光参数,从而可以利用PD像素的曝光参数来对图像传感器中的PD像素进行曝光生成第一图像,并利用第一图像进行相位对焦,从而可以在利用成像像素的曝光参数确保成像质量的同时,提升PD对焦效果,优化PD性能,改善因成像像素的曝光参数与PD像素的曝光参数的配置不独立导致成像效果与PD对焦效果无法得到最优效果的问题。
可选地,传感器1005,用于确定与拍摄场景匹配的预设亮度条件;在所述图像传感器中对焦区域内的目标PD像素的亮度信息不符合所述预设亮度条件的情况下,确定与所述预设亮度条件匹配的第一曝光参数的取值,其中,所述第一曝光参数的取值,用于使得经所述第一曝光后的所述目标PD像素的亮度信息符合所述预设亮度条件。
本申请实施例中,可以结合拍摄场景来灵活确定与该拍摄场景匹配的对焦区域内PD像素的预设亮度条件;那么在图像传感器中对焦区域内的目标PD像素(指代Sensor中当前对焦区域内的PD像素)的亮度信息不符合所述预设亮度条件的情况下,说明用于PD像素曝光的曝光参数的取值无法使得PD对焦性能最优,需要确定与所述预设亮度条件匹配的第一曝光参数的取值,而所述第一曝光参数的取值,用于使得经所述第一曝光后的所述目标PD像素的亮度信息符合所述预设亮度条件,使得本申请实施例能够结合拍摄场景准确地确定出符合该拍摄场景的、且能够使PD对焦效果最优的用于曝光PD像素的第一曝光参数的取值,不仅提升了用于PD像素曝光的曝光参数的取值的准确度,而且能够随着拍摄场景的变化,来合理灵活地调整该取值,能够在各种拍摄场景下,优化PD对焦性能。
可选地,传感器1005,用于根据所述第一曝光参数中的第一曝光时间,确定所述第一曝光对应的第一帧率;其中,所述第一帧率高于所述第二曝光对应的第二帧率;对所述第一控制通路配置所述第一帧率和所述第一曝光参数;采用所述第一控制通路配置的所述第一帧率和所述第一曝光参数,对所述图像传感器中的候选PD像素进行第一曝光,生成多帧第一图像;基于所述多帧第一图像中的每帧第一图像,对所述拍摄场景进行多次相位对焦。
本申请实施例中,由于可以将成像像素的帧率和PD像素的帧率进行独立控制,那么通过将两个帧率设置为不同帧率,具体可以将PD像素对应的第一帧率设置的高于成像像素的第二帧率,从而使得在采用较低的第二帧率对成像像素进行一次曝光的时间内,可以利用第一帧率来对PD像素进行多次曝光,从而对每输出的一帧PD像素的第一图像,就完成一次相位对焦,从而完成多次相位对焦,因此,通过将成像像素的帧率设置的与PD像素的帧率不同,具体可以为将PD像素设置为更高速的帧率,从而可以在输出一帧用于显示的图像(对成像像素进行曝光而生成的图像)的时长内,通过PD像素的高速帧率,快速完成多次PD对焦。
可选地,传感器1005,用于采用所述第二控制通路配置的所述第二曝光参数和所述第二帧率,对所述图像传感器中的所述成像像素进行第二曝光,生成第二图像。
在本申请实施例中,相比于传统技术中PD像素只可以在成像像素之后输出,本实施例中将PD像素和成像像素进行曝光的各自的帧率进行分离,使得PD像素可以在成像像素之前或之后进行曝光,这里为了解决利用PD像素进行相位对焦时所存在的画面拉伸变形的问题,由于PD像素和成像像素各自的帧率分离,因此,可以通过将PD像素的曝光时机,即时序,将PD像素的输出时机控制在不同帧的成像像素的图像的间隙内,这里,将该时序控制在成像像素的当前帧(当前帧第二图像)和上一帧(第二图像)之间的场消隐期内,使得移动镜头的过程的时序落在成像像素的曝光时序之前,那么在镜头移动之前PD像素已经完成了曝光,在镜头移动之后,成像像素完成了曝光,因此,镜头移动过程中,不存在曝光的图像。所以,不论是PD像素还是成像像素的曝光都不受移动镜头的影响,从而不会存在对焦时图像拉伸和变形的问题。
可选地,传感器1005,用于根据所述第一控制通路的带宽,确定所述候选PD像素的第一数据量;对所述第一控制通路配置所述第一数据量;根据所述第二控制通路的带宽,确定所述成像像素的第二数据量;对所述第二控制通路配置第二数据量,其中,所述第二数据量为所述图像传感器中成像像素的数据量大小。
本申请实施例中,可以将Sensor中PD像素和成像像素各自的数据量大小进行分离来独立控制,从而可以根据所述图像传感器的第一控制通路和第二控制通路的带宽,来灵活地确定所需要传送的PD像素和成像像素的数据量大小,在带宽紧张的情况下,来降低像素(包括PD像素、成像像素)的数据量大小,从而减少传输带宽;在带宽空闲的情况下,来提升像素(PD像素、成像像素)的数据量大小,从而可以提升利用PD像素生成的第一图像的图像精度,使得利用第一图像进行相位对焦时,对焦精度提升,对焦效果好,以及提升成像像素的第二图像的图像质量。
应理解的是,本申请实施例中,输入单元1004可以包括图形处理器(GraphicsProcessing Unit,GPU)10041和麦克风10042,图形处理器10041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。显示单元1006可包括显示面板10061,可以采用液晶显示器、有机发光二极管等形式来配置显示面板10061。用户输入单元1007包括触控面板10071以及其他输入设备10072。触控面板10071,也称为触摸屏。触控面板10071可包括触摸检测装置和触摸控制器两个部分。其他输入设备10072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆,在此不再赘述。存储器1009可用于存储软件程序以及各种数据,包括但不限于应用程序和操作系统。处理器1010可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器1010中。
本申请实施例还提供一种可读存储介质,所述可读存储介质上存储有程序或指令,该程序或指令被处理器执行时实现上述图像处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
其中,所述处理器为上述实施例中所述的电子设备中的处理器。所述可读存储介质,包括计算机可读存储介质,如计算机只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等。
本申请实施例另提供了一种芯片,所述芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述处理器用于运行程序或指令,实现上述图像处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
应理解,本申请实施例提到的芯片还可以称为系统级芯片、系统芯片、芯片系统或片上系统芯片等。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。此外,需要指出的是,本申请实施方式中的方法和装置的范围不限按示出或讨论的顺序来执行功能,还可包括根据所涉及的功能按基本同时的方式或按相反的顺序来执行功能,例如,可以按不同于所描述的次序来执行所描述的方法,并且还可以添加、省去、或组合各种步骤。另外,参照某些示例所描述的特征可在其他示例中被组合。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以计算机软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,或者网络设备等)执行本申请各个实施例所述的方法。
上面结合附图对本申请的实施例进行了描述,但是本申请并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本申请的启示下,在不脱离本申请宗旨和权利要求所保护的范围情况下,还可做出很多形式,均属于本申请的保护之内。

Claims (10)

1.一种图像处理方法,其特征在于,所述方法包括:
根据拍摄场景和所述图像传感器中对焦区域内目标PD像素的亮度信息,确定第一曝光参数;
根据所述第一曝光参数中的第一曝光时间,确定第一曝光对应的第一帧率;其中,所述第一帧率高于第二曝光对应的第二帧率,所述第二曝光为对成像像素进行的曝光操作;
对所述第一控制通路配置所述第一帧率和所述第一曝光参数;
采用所述第一控制通路配置的所述第一帧率和所述第一曝光参数,对所述图像传感器中的候选PD像素进行所述第一曝光,生成多帧第一图像;所述候选PD像素为所述图像传感器中用于相位对焦的像素,所述候选PD像素包括所述目标PD像素,其中,所述第一曝光参数由所述第一控制通路控制;
基于所述多帧第一图像中的每帧第一图像,对所述拍摄场景进行多次相位对焦;
其中,所述图像传感器中所述成像像素的第二曝光参数由第二控制通路控制,其中,所述第一控制通路与所述第二控制通路不同,且所述图像传感器与所述第一控制通路、第二控制通路均连接。
2.根据权利要求1所述的方法,其特征在于,所述根据拍摄场景和所述图像传感器中对焦区域内目标PD像素的亮度信息,确定第一曝光参数,包括:
确定与拍摄场景匹配的预设亮度条件;
在所述图像传感器中对焦区域内的目标PD像素的亮度信息不符合所述预设亮度条件的情况下,确定与所述预设亮度条件匹配的第一曝光参数的取值,其中,所述第一曝光参数的取值,用于使得经所述第一曝光后的所述目标PD像素的亮度信息符合所述预设亮度条件。
3.根据权利要求1所述的方法,其特征在于,
所述基于所述多帧第一图像中的每帧第一图像,对所述拍摄场景进行多次相位对焦之后,所述方法还包括:
采用所述第二控制通路配置的所述第二曝光参数和所述第二帧率,对所述图像传感器中的所述成像像素进行所述第二曝光,生成第二图像。
4.根据权利要求1所述的方法,其特征在于,所述采用第一控制通路配置的所述第一曝光参数对所述图像传感器中的候选PD像素进行第一曝光,生成第一图像之前,所述方法还包括:
根据所述第一控制通路的带宽,确定所述候选PD像素的第一数据量;
对所述第一控制通路配置所述第一数据量;
根据所述第二控制通路的带宽,确定所述成像像素的第二数据量;
对所述第二控制通路配置第二数据量,其中,所述第二数据量为所述图像传感器中成像像素的数据量大小。
5.一种图像处理装置,其特征在于,所述装置包括:
第一确定模块,用于根据拍摄场景和所述图像传感器中对焦区域内目标PD像素的亮度信息,确定第一曝光参数;
第二确定模块,用于根据所述第一曝光参数中的第一曝光时间,确定第一曝光对应的第一帧率;其中,所述第一帧率高于第二曝光对应的第二帧率,所述第二曝光为对成像像素进行的曝光操作;
第一生成模块,包括:
配置子模块,用于对所述第一控制通路配置所述第一帧率和所述第一曝光参数;
生成子模块,用于采用所述第一控制通路配置的所述第一帧率和所述第一曝光参数,对所述图像传感器中的候选PD像素进行第一曝光,生成多帧第一图像;所述候选PD像素为所述图像传感器中用于相位对焦的像素,所述候选PD像素包括所述目标PD像素,其中,所述第一曝光参数由所述第一控制通路控制;
对焦模块,基于所述多帧第一图像中的每帧第一图像,对所述拍摄场景进行多次相位对焦;
其中,所述图像传感器中所述成像像素的第二曝光参数由第二控制通路控制,其中,所述第一控制通路与所述第二控制通路不同,且所述图像传感器与所述第一控制通路、第二控制通路均连接。
6.根据权利要求5所述的装置,其特征在于,所述第一确定模块包括:
第一确定子模块,用于确定与拍摄场景匹配的预设亮度条件;
第二确定子模块,用于在所述图像传感器中对焦区域内的目标PD像素的亮度信息不符合所述预设亮度条件的情况下,确定与所述预设亮度条件匹配的第一曝光参数的取值,其中,所述第一曝光参数的取值,用于使得经所述第一曝光后的所述目标PD像素的亮度信息符合所述预设亮度条件。
7.根据权利要求5所述的装置,其特征在于,所述装置还包括:
第二生成模块,用于采用所述第二控制通路配置的所述第二曝光参数和所述第二帧率,对所述图像传感器中的所述成像像素进行第二曝光,生成第二图像。
8.根据权利要求5所述的装置,其特征在于,所述装置还包括:
第二确定模块,用于根据所述第一控制通路的带宽,确定所述候选PD像素的第一数据量;
第一配置模块,用于对所述第一控制通路配置所述第一数据量;
第三确定模块,用于根据所述第二控制通路的带宽,确定所述成像像素的第二数据量;
第二配置模块,用于对所述第二控制通路配置第二数据量,其中,所述第二数据量为所述图像传感器中成像像素的数据量大小。
9.一种电子设备,其特征在于,包括处理器,存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如权利要求1至4中任意一项所述的图像处理方法的步骤。
10.一种可读存储介质,其特征在于,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如权利要求1至4中任意一项所述的图像处理方法的步骤。
CN202110953703.6A 2021-08-19 2021-08-19 图像处理方法、装置、电子设备及可读存储介质 Active CN113660425B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202110953703.6A CN113660425B (zh) 2021-08-19 2021-08-19 图像处理方法、装置、电子设备及可读存储介质
PCT/CN2022/112970 WO2023020527A1 (zh) 2021-08-19 2022-08-17 图像处理方法、装置、电子设备及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110953703.6A CN113660425B (zh) 2021-08-19 2021-08-19 图像处理方法、装置、电子设备及可读存储介质

Publications (2)

Publication Number Publication Date
CN113660425A CN113660425A (zh) 2021-11-16
CN113660425B true CN113660425B (zh) 2023-08-22

Family

ID=78492326

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110953703.6A Active CN113660425B (zh) 2021-08-19 2021-08-19 图像处理方法、装置、电子设备及可读存储介质

Country Status (2)

Country Link
CN (1) CN113660425B (zh)
WO (1) WO2023020527A1 (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113660425B (zh) * 2021-08-19 2023-08-22 维沃移动通信(杭州)有限公司 图像处理方法、装置、电子设备及可读存储介质
CN114554086A (zh) * 2022-02-10 2022-05-27 支付宝(杭州)信息技术有限公司 一种辅助拍摄方法、装置及电子设备

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104755981B (zh) * 2012-11-14 2017-04-12 富士胶片株式会社 图像处理装置、摄像装置及图像处理方法
CN108322651A (zh) * 2018-02-11 2018-07-24 广东欧珀移动通信有限公司 拍摄方法和装置、电子设备、计算机可读存储介质
CN108683863A (zh) * 2018-08-13 2018-10-19 Oppo广东移动通信有限公司 成像控制方法、装置、电子设备以及可读存储介质
CN109040609A (zh) * 2018-08-22 2018-12-18 Oppo广东移动通信有限公司 曝光控制方法、装置和电子设备
CN110278375A (zh) * 2019-06-28 2019-09-24 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN110381263A (zh) * 2019-08-20 2019-10-25 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
WO2020029732A1 (zh) * 2018-08-06 2020-02-13 Oppo广东移动通信有限公司 全景拍摄方法、装置和成像设备

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030193594A1 (en) * 2002-04-16 2003-10-16 Tay Hiok Nam Image sensor with processor controlled integration time
JP5247044B2 (ja) * 2007-02-16 2013-07-24 キヤノン株式会社 撮像装置
EP3098638B1 (en) * 2015-05-29 2022-05-11 Phase One A/S Adaptive autofocusing system
CN107948519B (zh) * 2017-11-30 2020-03-27 Oppo广东移动通信有限公司 图像处理方法、装置及设备
CN111586323A (zh) * 2020-05-07 2020-08-25 Oppo广东移动通信有限公司 图像传感器、控制方法、摄像头组件和移动终端
CN113660425B (zh) * 2021-08-19 2023-08-22 维沃移动通信(杭州)有限公司 图像处理方法、装置、电子设备及可读存储介质

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104755981B (zh) * 2012-11-14 2017-04-12 富士胶片株式会社 图像处理装置、摄像装置及图像处理方法
CN108322651A (zh) * 2018-02-11 2018-07-24 广东欧珀移动通信有限公司 拍摄方法和装置、电子设备、计算机可读存储介质
WO2020029732A1 (zh) * 2018-08-06 2020-02-13 Oppo广东移动通信有限公司 全景拍摄方法、装置和成像设备
CN108683863A (zh) * 2018-08-13 2018-10-19 Oppo广东移动通信有限公司 成像控制方法、装置、电子设备以及可读存储介质
CN109040609A (zh) * 2018-08-22 2018-12-18 Oppo广东移动通信有限公司 曝光控制方法、装置和电子设备
CN110278375A (zh) * 2019-06-28 2019-09-24 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN110381263A (zh) * 2019-08-20 2019-10-25 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备

Also Published As

Publication number Publication date
CN113660425A (zh) 2021-11-16
WO2023020527A1 (zh) 2023-02-23

Similar Documents

Publication Publication Date Title
US10916036B2 (en) Method and system of generating multi-exposure camera statistics for image processing
US10616511B2 (en) Method and system of camera control and image processing with a multi-frame-based window for image data statistics
CN113660425B (zh) 图像处理方法、装置、电子设备及可读存储介质
US11483467B2 (en) Imaging device, image processing device, and electronic apparatus
TWI722283B (zh) 多工高動態範圍影像
JP2021500820A (ja) 撮像制御方法および撮像装置
CN110958401B (zh) 一种超级夜景图像颜色校正方法、装置和电子设备
EP3328067B1 (en) Method and apparatus for shooting image and terminal device
US9860507B2 (en) Dynamic frame skip for auto white balance
US11880963B2 (en) Apparatus and method for image processing
CN112437237B (zh) 拍摄方法及装置
CN111383166B (zh) 处理待显示图像的方法及装置、电子设备、可读存储介质
CN113676674B (zh) 图像处理方法、装置、电子设备及可读存储介质
CN109937382B (zh) 成像装置和成像方法
CN112419218A (zh) 图像处理方法、装置及电子设备
US9288461B2 (en) Apparatus and method for processing image, and computer-readable storage medium
US8300970B2 (en) Method for video enhancement and computer device using the method
JP2014179781A (ja) 撮像ユニット、撮像装置および撮像制御プログラム
CN111866401A (zh) 拍摄方法、装置及电子设备
CN112651899A (zh) 图像处理方法及装置、电子设备、存储介质
CN112446848A (zh) 图像处理方法、装置及电子设备
CN113194264B (zh) 偏色调整方法、装置、电子设备及存储介质
JP2020053960A (ja) 撮像装置、該撮像装置の制御方法、及びプログラム
JP2002185867A (ja) 撮像装置、撮像装置の制御装置及び光量制御方法
CN116934582A (zh) 去马赛克方法、去马赛克装置、存储介质及芯片

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant