CN116051362B - 图像处理方法及电子设备 - Google Patents
图像处理方法及电子设备 Download PDFInfo
- Publication number
- CN116051362B CN116051362B CN202211020256.XA CN202211020256A CN116051362B CN 116051362 B CN116051362 B CN 116051362B CN 202211020256 A CN202211020256 A CN 202211020256A CN 116051362 B CN116051362 B CN 116051362B
- Authority
- CN
- China
- Prior art keywords
- image
- psf
- color
- depth
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 14
- 238000003384 imaging method Methods 0.000 claims abstract description 196
- 230000011514 reflex Effects 0.000 claims abstract description 181
- 238000000034 method Methods 0.000 claims abstract description 88
- 238000012545 processing Methods 0.000 claims abstract description 52
- 229920013655 poly(bisphenol-A sulfone) Polymers 0.000 claims description 123
- 238000006243 chemical reaction Methods 0.000 claims description 30
- 230000006870 function Effects 0.000 claims description 24
- 230000015572 biosynthetic process Effects 0.000 claims description 12
- 238000003786 synthesis reaction Methods 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 6
- 238000009499 grossing Methods 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 111
- 230000008569 process Effects 0.000 abstract description 57
- 238000004088 simulation Methods 0.000 abstract description 22
- 239000003086 colorant Substances 0.000 description 32
- 230000003287 optical effect Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 16
- 238000004891 communication Methods 0.000 description 15
- 101150046368 PSF1 gene Proteins 0.000 description 9
- 238000010295 mobile communication Methods 0.000 description 9
- 101100465853 Caenorhabditis elegans psf-2 gene Proteins 0.000 description 8
- 230000004075 alteration Effects 0.000 description 8
- 238000004422 calculation algorithm Methods 0.000 description 8
- 238000013461 design Methods 0.000 description 7
- 230000002159 abnormal effect Effects 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 238000003709 image segmentation Methods 0.000 description 4
- 230000011218 segmentation Effects 0.000 description 4
- 229920001621 AMOLED Polymers 0.000 description 3
- 102100030343 Antigen peptide transporter 2 Human genes 0.000 description 3
- 101000652582 Homo sapiens Antigen peptide transporter 2 Proteins 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 239000002096 quantum dot Substances 0.000 description 2
- 230000008439 repair process Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
Abstract
本申请提供一种图像处理方法及电子设备,涉及图像处理技术领域。电子设备先根据摄像头采集的彩色图像对应的深度图像对该彩色图像进行分割,得到多个彩色区域图像。之后,对于每个彩色区域图像,电子设备从预设的摄像头的PSF分布结果中确定该彩色区域图像的第一PSF,并从预设的单反相机的PSF分布结果中确定该彩色区域图像的第二PSF,该摄像头的PSF分布结果是根据该摄像头的实际成像结果标定的,该单反相机的PSF分布结果是根据该单反相机的实际成像结果标定的。之后,该电子设备基于该第二PSF和该第一PSF对该彩色区域图像进行处理,使得该彩色区域图像具备该单反相机的成像效果,从而实现单反相机成像的虚拟效果的模拟。
Description
技术领域
本申请涉及图像处理技术领域,尤其涉及一种图像处理方法及电子设备。
背景技术
一般来说,摄像头的成像效果受限于光学系统的设计,手机摄像头由于光学系统的特性,无法像单反相机一样,拍摄的图像具有较强的虚化效果。因此,为了模拟单反相机成像的虚化效果,手机基于大光圈算法处理手机摄像头拍摄的图像,从而提高图像的虚化效果。
然而,大光圈算法是基于理想成像条件下计算得到的点扩散函数(point spreadfunction,PSF)对图像进行处理的,并没有考虑真实单反相机的成像特性,使得处理后的图像的虚拟效果与单反相机成像的虚化效果之间的差距较大,导致单反相机成像的虚化效果模拟失败。
发明内容
有鉴于此,本申请提供了一种图像处理方法及电子设备,实现单反相机成像的虚化效果。
第一方面,本申请提供一种应用预加载方法,电子设备获取摄像头拍摄的彩色图像,并获取该彩色图像对应的深度图像;该深度图像包括多个深度区域图像,每个深度区域图像对应一个深度值,且每个深度区域图像中的各个像素点的深度值均相同;
该电子设备基于该深度图像中的各个深度区域图像,对彩色图像进行分割,得到多个彩色区域图像;该彩色区域图像与该深度区域图像一一对应;每个彩色区域图像的深度值为对应深度区域图像的深度值;
该电子设备从该多个彩色区域图像中确定第一彩色区域图像,并将其它彩色区域图像作为第二彩色区域图像。对于每个第一彩色区域图像,该电子设备基于该第一彩色区域图像的深度值,从预设的摄像头的点扩散函数PSF分布结果中确定该第一彩色区域图像的第一PSF;该摄像头的PSF分布结果是基于该摄像头的实际成像结果标定得到的;以及该电子设备基于该第一彩色区域图像的深度值,从预设的单反相机的PSF分布结果中确定该第一彩色区域图像的第二PSF;该单反相机的PSF分布结果是基于该单反相机的实际成像结果标定得到的;
该电子设备根据该第一彩色区域图像的第一PSF和第二PSF,对该第一彩色区域图像进行单反相机模糊合成处理,得到该第一彩色区域图像对应的目标区域图像;该目标区域图像的模糊为单反相机模糊;
该电子设备对每个该第一彩色区域图像对应的目标区域图像和第二彩色区域图像进行拼接处理,得到该彩色图像对应的完整的目标图像;该目标图像的虚化效果为该单反相机的虚化效果。
在本申请实施例中,电子设备在得到电子设备摄像头拍摄的彩色图像后,先利用该彩色图像对应的深度图像对该彩色图像进行分割,得到多个彩色区域图像。然后,电子设备从该多个彩色区域图像中确定需模拟单反相机成像特性的彩色区域图像,也即确定第一彩色区域图像。之后,该电子设备预先标定的该摄像头的PSF分布结果中查找与各个第一彩色区域图像的第一PSF以及从预先标定的单反相机的PSF分布结果中查找各个第一彩色区域图像的第二PSF。该摄像头的PSF分布结果是根据该摄像头的实际成像结果得到的,也即该摄像头的PSF分布结果是在非理想成像条件下标定得到的。以及该单反相机的PSF分布结果均是根据该单反相机的实际成像结果得到的,也即该单反相机的PSF分布结果是在非理想成像条件下标定得到的。之后,该电子设备利用各个第一彩色区域图像的第一PSF和第二PSF对对应第一彩色区域图像进行单反相机模糊处理,得到各个第一彩色区域图像对应的目标区域图像,该目标区域图像具备单反相机模糊,也即成像效果。之后,该电子设备对各个目标区域图像和该多个彩色区域图像除该第一彩色区域图像以外的彩色区域图像进行拼接,得到该彩色图像对应的完整的目标图像。由于该摄像头的PSF分布结果和该单反相机的PSF分布结果均是根据实际成像结果确定的,也即根据实际成像特性确定的,因此,电子设备在对彩色图像进行处理时,考虑到单反相机实际成像特性,使得彩色图像对应的目标图像能够成功模拟出单反相机成像的虚化效果,也即实现单反相机成像效果的模拟,提高图像质量,从而提高用户拍照体验。
在一种可能的设计中,上述单反相机模糊合成处理指示去除原始成像特性后再添加单反相机成像特性。该电子设备基于上述第一彩色区域图像的第一PSF,对该第一彩色区域图像进行去模糊处理,得到该第一彩色区域图像对应的清晰图像。该电子设备基于该第一彩色区域图像的第二PSF,对该清晰图像进行模糊处理,得到该第一彩色区域图像对应的目标区域图像。
在本申请实施例中,对于每个第一彩色区域图像,该电子设备先利用该第一彩色区域图像的第一PSF对该第一彩色区域图像进行去模糊,以还原该第一彩色区域图像,得到该第一彩色区域图像对应的清晰图像,实现电子设备摄像头的成像特性的去除。然后,该电子设备继续利用该第二彩色区域图像的第二PSF对该清晰图像进行模糊处理,以为该清晰图像添加单反相机的成像特性,得到相应的具备单反相机成像效果(如虚化效果)的目标区域图像,实现单反相机成像的虚化效果的模拟。
其中,上述第一彩色区域图像的第一PSF包括该第一彩色区域图像中的各个像素块的第一PSF,上述第一彩色区域图像的第二PSF包括该第一彩色区域图像中的各个像素块的第二PSF。相应的,上述电子设备在利用该第一彩色区域图像的第一PSF对该第一彩色区域图像进行去模糊时,对于该第一彩色区域图像中的每个第一像素块,该电子设备利用该第一像素块的第一PSF对该第一像素块中的像素点进行非盲反卷积处理,实现该第一像素块的像素点的还原,得到该第一像素块对应的清晰第一像素块。
以及,上述电子设备在对所述清晰图像进行模糊处理时,该电子设备利用该上述第一像素块的第二PSF,对该第一像素块对应的清晰第一像素块进行卷积处理,得到该第一像素块对应的目标像素块,该目标像素块具备单反相机成像效果。
在本申请实施例中,由于图像的生成过程实际为卷积过程,因此,电子设备可以利用像素块的第一PSF对该像素块进行非盲反卷积,以还原该像素块,也即去除该像素块上的该电子设备摄像头的成像效果,得到该像素块对应的清晰像素块。然后,该电子设备继续利用单反相机的成像特性,即第二PSF对该清晰像素块进行卷积,得到具备单反相机成像特性,即成像效果的目标像素块。
在另一种可能的设计中,上述单反相机模糊合成处理指示将原始成像特性转换为单反相机成像特性。对于每个第一彩色区域图像,该电子设备计算该第一彩色区域图像的第二PSF与该第一彩色区域图像的第一PSF之间的转换关系,并基该转换关系,对该第一彩色区域图像进行模糊补偿,得到该第一彩色区域图像对应的目标区域图像。
在本申请实施例中,电子设备直接先确定该第一彩色区域图像的第二PSF与第一PSF之间的转换关系,即转换PSF。然后,该电子设备利用该转换PSF,对该第一彩色区域图像的模糊进行补偿,以将该第一彩色区域图像的手机摄像头模糊(即成像特性)直接转换为单反相机模糊(即成像特性),从而得到该第一彩色区域图像对应的具备单反相机成像效果的目标区域图像,实现单反相机成像的虚化效果的模拟。
其中,该电子设备在计算该第一彩色区域图像的第二PSF与第一PSF之间的转换关系时,实际是计算该第一彩色区域图像中的各个像素块的第二PSF与第一PSF之间的转换关系。相应的,该电子设备在第一彩色区域图像进行模糊补偿时,实际是基于各个像素块的第二PSF与第一PSF之间的转换关系,对对应像素块中的各个像素点的像素值进行补偿,使得该像素点的像素值由当前像素值转换为单反相机成像下时的相应像素值,从而实现单反相机成像效果的模拟。
在一种可能的设计中,上述PSF分布结果与颜色、对焦深度和离焦深度有关。上述摄像头的PSF分布结果包括摄像头的离焦面的PSF分布结果;该摄像头的离焦面的PSF分布结果包括多个离焦深度和多个对焦深度,以及与一个离焦深度和一个对焦深度对应的第一PSF;该对焦深度指示拍摄装置与焦平面之间的距离,该离焦深度指示所述焦平面与离焦面之间的距离。上述单反相机的PSF分布结果包括单反相机的离焦面的PSF分布结果;该单反相机的离焦面的PSF分布结果包括多个离焦深度和多个对焦深度,以及与一个离焦深度和一个对焦深度对应的第二PSF。
上述第一彩色区域图像包括离焦区域图像,该离焦区域图像指示离焦面的成像结果。
其中,上述离焦区域图像的确定过程包括:
所述电子设备获取上述彩色图像的对焦点位置,并从上述多个彩色区域图像中确定该对焦点位置所属的彩色区域图像;
该电子设备将该对焦点位置所属的彩色区域图像作为对焦区域图像,并将所述多个彩色区域图像中该对焦区域图像以外的彩色区域图像作为离焦区域图像;所述对焦区域图像指示焦平面的成像结果,所述对焦区域图像的深度值指示对焦深度。
相应的,上述从预设的摄像头的PSF分布结果中确定第一彩色区域图像的第一PSF和第二PSF,包括:
对于每个离焦区域图像,该电子设备计算该离焦区域图像的深度值与该对焦区域图像的深度值之间的差值,得到该离焦区域图像的离焦深度。
该电子设备从摄像头的离焦面的PSF分布结果中查找与该离焦区域图像的离焦深度和该对焦区域图像的深度值对应的第一PSF,并将查找到的第一PSF作为该离焦区域图像的第一PSF。
以及该电子设备从单反相机的离焦面的PSF分布结果中查找与该离焦区域图像的离焦深度和该对焦区域图像的深度值对应的第二PSF,并将查找到的第二PSF作为该离焦区域图像的第二PSF。
在本申请实施例中,当需要将电子设备摄像头拍摄的图像中的离焦面的成像效果变为单反相机的成像效果时,该电子设备确定该彩色图像中的离焦区域图像,并从摄像头的PSF分布结果中查找该离焦区域图像的第一PSF,以及从单反相机的PSF的分布结果中查找该离焦区域图像的第二PSF,实现该离焦区域图像的第一PSF和第二PSF的准确确定,从而使得电子设备能够利用该第一PSF和第二PSF对该离焦区域图像进行处理,以使处理后的离焦区域图像的成像效果变为单反相机的成像效果。
其中,上述离焦区域图像包括近景离焦区域图像和/或远景离焦区域图像。该近景离焦区域图像指示近景离焦面的成像结果,也即指示图像的前景部分,该近景离焦区域图像的深度值小于对焦区域图像的深度值。该远景离焦区域图像指示远景离焦面的成像结果,也即指示图像的背景部分,该远景离焦区域图像的深度值大于该对焦区域图像的深度值。上述摄像头的离焦面的PSF分布结果包括摄像头的远景离焦面的PSF分布结果和/或近景离焦面的PSF分布结果,上述单反相机的离焦面的PSF分布结果包括单反相机的远景离焦面的PSF分布结果和/或近景离焦面的PSF分布结果。远景离焦面指示位于焦平面后方的离焦面,近景离焦面指示位于焦平面前方的离焦面。
相应的,当需要改变图像背景部分的虚化效果时,电子设备可以从摄像头的远景离焦面的PSF分布结果中查找远景离焦区域图像的第一PSF,并从单反相机的远景离焦面的PSF分布结果中查找远景离焦区域图像的第二PSF。
当需要改变图像前景部分的虚化效果时,电子设备可以从摄像头的近景离焦面的PSF分布结果中查找近景离焦区域图像的第一PSF,并从单反相机的近景离焦面的PSF分布结果中查找近景离焦区域图像的第二PSF。
在一种可能的设计中,上述摄像头的PSF分布结果还包括摄像头的焦平面的PSF分布结果;该摄像头的焦平面的PSF分布结果包括多个对焦深度,以及每个对焦深度对应的第一PSF,也即该摄像头的PSF分布结果还包括离焦深度为0,不同对焦深度对应的第一PSF。上述单反相机的PSF分布结果还包括单反相机的焦平面的PSF分布结果,该单反相机的焦平面的PSF分布结果包括多个对焦深度,以及每个对焦深度对应的第二PSF。
上述第一彩色区域图像包括对焦区域图像。相应的,该电子设备从该摄像头的焦平面的PSF分布结果中查找与该对焦区域图像的深度值对应的第一PSF,也即查找对焦深度为该对焦深度区域图像的深度值的第一PSF,并将查找的第一PSF作为该对焦区域图像的第一PSF。同理,该电子设备从该单反相机的焦平面的PSF分布结果中查找与该对焦区域图像的深度值对应的第二PSF,也即查找对焦深度为该对焦深度区域图像的深度值的第二PSF,并将查找的第二PSF作为该对焦区域图像的第二PSF。
在本申请实施例中,当需要将电子设备摄像头拍摄的图像中的焦平面的成像效果变为单反相机的成像效果时,该电子设备确定该彩色图像中的对焦区域图像,并从摄像头的PSF分布结果中查找该对焦区域图像的第一PSF,以及从单反相机的PSF的分布结果中查找该对焦区域图像的第二PSF,实现该对焦区域图像的第一PSF和第二PSF的准确确定,从而使得电子设备能够利用该第一PSF和第二PSF对该对焦区域图像进行处理,以使处理后的对焦区域图像的成像效果变为单反相机的成像效果。
在另一种可能的设计中,上述PSF分布结果与颜色、对焦深度和离焦深度有关。上述摄像头的PSF分布结果包括摄像头的离焦面的PSF分布结果;该摄像头的离焦面的PSF分布结果包括多个颜色值、多个离焦深度和多个对焦深度,以及与一个颜色值、一个离焦深度和一个对焦深度对应的第一PSF。上述单反相机的PSF分布结果包括单反相机的离焦面的PSF分布结果;该单反相机的离焦面的PSF分布结果包括多个颜色值、多个离焦深度和多个对焦深度,以及与一个颜色值、一个离焦深度和一个对焦深度对应的第二PSF。
上述第一彩色区域图像包括离焦区域图像,该离焦区域图像指示离焦面的成像结果。
相应的,该电子设备确定离焦区域图像的第一PSF和第二PSF过程包括:
对于每个离焦区域图像,该电子设备计算该第一彩色区域图像的深度值与上述对焦区域的深度值之间的差值,得到该离焦区域图像的离焦深度;
对于该离焦区域图像中的每个第一像素块,该电子设备确定该第一像素块的颜色值;
所述电子设备从所述摄像头的离焦面的PSF分布结果中确定与所述第一像素块的颜色值、所离焦区域图像的离焦深度和所述对焦区域图像的深度值对应的第一PSF,并将确定的第一PSF作为所述第一像素块的第一PSF。
同理,所述电子设备从所述单反相机的离焦面的PSF分布结果中确定与所述第一像素块的颜色值、所离焦区域图像的离焦深度和所述对焦区域图像的深度值对应的第二PSF,并将确定的第二PSF作为所述第一像素块的第二PSF。
在本申请实施例中,上述PSF分布结果与颜色、对焦深度和离焦深度相关。因此,电子设备基于离焦区域图像中的各个像素块的颜色值以及该离焦区域图像的离焦深度和该对焦深度的深度值确定对应像素块的第一PSF和第二PSF,以供电子设备利用该第一PSF和第二PSF对对应像素块进行处理,使得处理后的像素块具备单反相机的成像效果,实现单反相机成像的虚化效果的模拟。
其中,上述与一个颜色值、一个离焦深度和一个对焦深度对应的第一PSF包括与该颜色值和该离焦深度对应的离焦面的成像结果上的各个位置上的第二像素块分别对应的第一PSF。上述与一个颜色值、一个离焦深度和一个对焦深度对应的第二PSF包括与该颜色值和该离焦深度对应的离焦面的成像结果上的各个位置上的第二像素块分别对应的第二PSF。
具体的,电子设备确定上述第一像素块的位置信息,并从与该第一像素块的颜色值、该第一像素块所属的离焦区域图像的离焦深度和上述对焦区域图像的深度值对应的第一PSF中查找与该第一像素块的位置信息对应的第一PSF,该第一像素块的位置信息指示该第一像素块在上述彩色图像(即成像结果)中的位置。以及电子设备从与该第一像素块的颜色值、该第一像素块所属的离焦区域图像的离焦深度和上述对焦区域图像的深度值对应的第二PSF中查找与该第一像素块的位置信息对应的第二PSF,实现第一PSF和第二PSF的准确确定,从而能够精确地模拟单反相机的成像效果,提高用户的拍照体验。
在一种可能的设计中,电子设备在得到彩色图像对应的完整的目标图像后,该目标图像可能存在分割裂缝等问题,则电子设备将该目标图像输入至目标网络模型,以使该目标网络模型对该目标图像进行边缘平滑处理,并输出边缘平滑的目标图像,保证图像的质量,从而提高用户的拍照体验。
第二方面,本申请提供一种电子设备,所述电子设备包括显示屏、摄像头、存储器和一个或多个处理器;所述显示屏、所述摄像头、所述存储器和所述处理器耦合;所述摄像头用于采集图像,所述显示屏用于显示所述处理器生成的图像,以及所述摄像头采集的图像,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令;当所述处理器执行所述计算机指令时,使得所述电子设备执行如上所述的方法。
第三方面,本申请提供一种计算机可读存储介质,包括计算机指令,当所述计算机指令在电子设备上运行时,使得所述电子设备执行如上所述的方法。
第四方面,本申请提供一种计算机程序产品,当所述计算机程序产品在电子设备上运行时,使得所述电子设备执行如上所述的方法。
附图说明
图1为本申请实施例提供的一种光学系统成像示意图;
图2为本申请实施例提供的一种视野范围内的点扩散函数分布示意图;
图3A为本申请实施例提供的一种离焦面示意图;
图3B为本申请实施例提供的一种离焦面对应成像结果中的像素块示意图;
图4为本申请实施例提供的一种图像处理过程的示意图一;
图5为本申请实施例提供的一种图像示意图一;
图6为本申请实施例提供的一种电子设备的硬件结构示意图;
图7为本申请实施例提供的一种图像处理过程的示意图二;
图8为本申请实施例提供的一种手机摄像头标定过程示意图;
图9为本申请实施例提供的一种单反相机标定过程示意图一;
图10为本申请实施例提供的一种单反相机标定过程示意图二;
图11为本申请实施例提供的一种图像处理方法的流程示意图;
图12为本申请实施例提供的一种图像处理过程的示意图三;
图13为本申请实施例提供的一种图像处理过程的示意图四;
图14A为本申请实施例提供的一种图像分割示意图一;
图14B为本申请实施例提供的一种图像分割示意图二;
图14C为本申请实施例提供的一种图像分割示意图三;
图14D为本申请实施例提供的一种图像分割示意图四;
图14E为本申请实施例提供的一种图像拼接示意图;
图15为本申请实施例提供的一种图像处理过程的示意图五;
图16为本申请实施例提供的一种图像处理过程的示意图六。
具体实施方式
以下,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
为了更好的理解本申请的方案,以下介绍本申请实施例所涉及的术语。
(1)摄像头模组(camera compact module,CCM):摄像头模组包括镜头(lens)、传感器(sensor)、软板(FPC)、图像处理芯片(DSP)等部件,该镜头是由透镜组成。
(2)焦距(effective focal length,EFL):从透镜中心到光聚集之焦点的距离。
(3)光圈:用来控制光线透过镜头,进入机身内感光面光量的装置,其通常在镜头内。
(4)焦平面:过对焦点且与光轴垂直的平面。
(5)景深(depth of field,DOF):在镜头前沿能够取得清晰图像的成像所测定的被摄物体前后距离范围,简单来说,景深是指对焦点前后能够清晰成像的距离范围。其中,景深包括前景深和后景深,该前景深小于后景深,也就是说,对焦之后,对焦点前面较短距离内的景物能够清晰成像,而对焦点后面较长距离内的景物能够清晰成像。景深与光圈有关,光圈越小,景深越深;光圈越大,景深就越浅。
由于单反相机的光学系统的特性(如大光圈、像差、透视关系等),因此,单反相机拍摄的图像的虚化效果可以使图像中的对象更具有层次感,并且使图像更具有美感。单反相机成像的虚化效果是摄影用户所追求的一种虚化效果。
由于电子设备的摄像头模组的参数固定,拍照时无法调整景深。在一些存在拍摄主体的场景(人物拍摄场景)下,拍摄主体的背景部分所在位置可能会超过该景深,使得拍摄得到的图像中的该拍摄主体的背景部分是模糊的。为了提高该背景部分成像效果,电子设备通过大光圈算法为摄像头拍摄的图像的背景部分添加虚拟大光圈的虚化效果,以模拟单反相机的虚化效果。
其中,摄像头拍摄的图像的远景离焦部分(如上述拍摄主体的背景部分)是弥散斑叠加的结果。该弥散斑可以通过点扩散函数(point spread function,PSF)表示。大光圈算法是基于单反相机在理想成像条件下的PSF对图像的远景离焦部分进行处理。具体的,电子设备基于大光圈算法为图像的背景部分添加虚拟大光圈的虚化效果的过程包括:
首先,相关设备(如电脑)利用相关公式计算指定镜头(如单反相机的镜头)在理想成像条件下的离焦面的PSF分布结果(简称理想离焦PSF分布结果)。并在电子设备出厂前,将该理想离焦PSF结果集成在该电子设备上。该理想离焦PSF分布结果包括远景离焦深度、对焦深度以及与远景离焦深度和对焦深度对应的理想离焦PSF。如图1所示,该对焦深度表示焦平面与光学系统(如透镜中心)之间的距离,该远景离焦深度表示处于焦平面后方的离焦面(即远景离焦面)与该焦平面之间的距离,该离焦面表示在对焦点后方的拍摄物体所在的平面,该离焦面与该焦平面平行。
其中,理想离焦PSF包括离焦面的成像结果中的各个像素块的PSF,该像素块包括多个像素点。如图2所示的视野范围内的PSF分布,PSF10表示第1行第1列的像素块的PSF。具体的,对于该每个像素块,相关设备基于相关公式以及该像素块中的各个像素点的像素值计算该像素块的PSF。例如,如图3A所示,一个离焦面上存在多个点11,相应的,成像面上也会存在该多个点中的每个点对应的成像点12,也即该离焦面的成像结果包括多个成像点。假设一个成像点是一个像素点,一个像素块包括6个像素点,则对于每个像素块13,相关设备利用该像素块中的像素点计算该像素块的PSF(如图3B所示),从而可以得到该离焦面的成像结果中的各个像素块的PSF。
应理解,图3B所示的成像点仅为一种示例,在实际成像情况下,成像点12与离焦面上的点11并不是完全一致的,点11在成像时会扩散成斑(即弥散斑)。以及图3B所示的像素块所包括的像素点的数量仅为一种示例,本申请不对像素块所包括的像素点的数量限制。
之后,如图4所示,电子设备在拍摄得到彩色图像后,获取该彩色图像对应的深度图,以及获取拍摄该彩色图像时的对焦点的位置。该彩色图像为存在拍摄主体(如人物)的图像,该对焦点为该拍摄主体。该深度图像与该彩色图像的拍摄内容相同,对焦点的位置也相同,该深度图由多个深度区域图像组成,每个深度区域图像中的所有像素点对应的像素值(即深度值)均相同。
之后,该电子设备基于该深度图中的深度区域图像,对该彩色图进行分割,得到多个彩色区域图像,每个彩色区域图像中的所有像素点对应的深度值均相同。该彩色区域图像包括对焦区域图像和远景离焦区域图像(即上述彩色图像中的拍摄主体的背景部分),该对焦区域图像为对焦点所在的彩色区域图像,该对焦区域图像的深度值为对焦深度。该远景离焦区域图像的深度值大于该对焦深度区域的深度值。
之后,针对彩色区域图像中的远景离焦区域图像,该电子设备先计算该远景离焦区域图像的深度值与该对焦区域图像的深度值之间的差值,得到该远景离焦区域图像的远景离焦深度。
之后,该电子设备从上述理想离焦PSF分布结果中查找与该远景离焦区域图像的远景离焦深度且对焦深度对应的理想离焦PSF,得到该远景离焦区域图像的理想离焦PSF。具体的,对于每个该远景离焦区域图像中的每个像素块,该电子设备根据该像素块在该彩色图像中的位置,从该远景离焦区域图的理想离焦PSF中查找该像素块的理想离焦PSF。例如,该远景离焦区域图像中的一个像素块的位置为(3,3),其表示该一个像素块为上述彩色图像中的第3行第3列的像素块,则电子设备确定该一个像素块的理想离焦PSF为第3行第3列的像素块的PSF。
之后,该电子设备基于该远景离焦区域图像的理想离焦PSF对该远景离焦区域图像进行卷积处理,以使该远景离焦区域图像的PSF变为该远景离焦区域图像的理想离焦PSF,得到该远景离焦区域图像对应的模糊区域图像。该模糊区域图像具有该理想离焦PSF对应的成像效果(即虚化效果)。
之后,上述电子设备对该远景离焦区域图像对应的模糊区域图像和其它彩色区域图像(如上述对焦区域图像)进行拼接,得到具有分割裂缝的完整图像,使得该完整图像中的拍摄主体的背景部分存在单反相机在理想成像条件下的成像效果,即虚化效果,也即模糊效果。
其中,在对模糊区域图像和其它彩色区域图像进行拼接时,该电子设备可以先确定该模糊区域图像和该其它彩色区域图像需要拼接的相邻区域图像之间的重叠部分。然后,该电子设备对该重叠部分中的像素点的像素值进行加权求和。
之后,该电子设备对该完整图像进行边缘处理,以消除该完成图像中的分割裂缝等问题,得到模糊的完整图像,也即得到优化后的具有单反相机在理想成像条件下的远景离焦模糊的图像。
应理解,在理想成像条件下,处于焦平面上的一个点成像后也是一个点,而在非理想成像条件下,由于光学系统像差的影响,物空间处于焦平面上的一个点成像后会变成一个斑(即弥散斑)。相应的,在理想成像条件下,离焦面上的点成像后虽然也是一个弥散斑,但该弥散斑与该离焦面上的点在非理想成像请看下所形成的弥散斑是不一样,也离焦面上的点在理想成像条件下对应的PSF与该点在非理想情况下对应的PSF是不同的。具体的,如图1所示,在非理想成像条件下,由于光学系统像差的影响,物空间焦平面上的点会在成像面上形成一个弥散斑,而不是一个点。同时,远景离焦面和近景离焦面上的点也会在成像面上形成一个弥散斑。该弥散斑可以通过点扩展函数(PSF)表示。通过离焦面(如远景离焦面和近景离焦面)和焦平面各个点的PSF,可以计算成像结果。
具体的,可以通过其中,Output表示成像结果。L表示离焦深度(如远景离焦深度、近景离焦深度),也即离焦面与焦平面之间的距离。D表示对焦深度,也即焦平面与光学系统(如透镜中心)之间的距离。i表示焦平面或离焦面上的第i个像素块。其中,i可以通过(x,y)表示,该x表示行数,该y表示列数。如x=1,y=1,表示第1行第1列的像素块。
示例性的,如图5所示的图像,拍摄主体为人物21,人物21的背景是树22,人物21的前景是花朵23,该图像的对焦点在人物21上,该树22处于远景离焦面上,该花朵23处于近景离焦面上。花朵23与拍摄镜头之间的距离为2米,该人物21与拍摄镜头之间的距离为3米,该树22与拍摄镜头之间的距离为10米,则该人物21与拍摄镜头之间的距离(即3米)为对焦深度,花朵23与该人物21之间的距离(即-1米)为近景离焦深度,树22与该人物21之间的距离(即7米)为远景离焦深度。
由以上内容可知,在基于大光圈算法为图像添加虚化效果时,电子设备是基于单反相机在理想成像条件下的离焦面PSF分布结果为电子设备拍摄的图像中的远景离焦部分(如上述背景部分)添加虚化效果,未考虑单反相机在非理想成像条件下的实际成像情况,也即未考虑该单反相机的真实成像特性(如像差、透视关系等),导致图像上的虚化效果与单反相机实际成像的虚化效果存在较大差距。并且该电子设备在对图像添加虚化效果的过程中,未对焦平面所对应的图像部分或者近景离焦部分(如前景部分)进行处理,使得添加了虚化效果的图像还存在电子设备的原始摄像头的光学系统的成像特性(如像差、透视关系、小光圈等),从而导致添加了虚化效果的图像真实感较差,无法实现单反相机成像效果的模拟。
因此,针对上述问题,本申请提出一种模拟单反相机成像效果的图像处理方法。首先,相关人员利用标定板真实标定的第一设备摄像头的PSF分布结果,该第一设备摄像头的PSF分布结果表示在非理想成像条件下该摄像头对应的PSF分布情况,也即表示实际摄像头的焦平面的PSF分布情况以及离焦面的PSF分布情况。并且,相关人员利用标定板真实标定单反相机的PSF分布结果,该单反相机的PSF分布结果为在非理想成像条件下,该单反相机对应的PSF,也即表示实际单反相机的焦平面的PSF分布情况以及离焦面的PSF分布情况。之后,相关人员利用相关设备将该第一设备摄像头的PSF分布结果和单反相机的PSF分布结果集成在第二设备上,该第二设备具有该电子设备摄像头。第二设备在得到第二设备的摄像头拍摄的图像后,基于该摄像头的PSF分布结果去除该图像上的原始模糊(即第二设备的摄像头的成像效果),得到清晰图像,并基于该单反相机的PSF分布结果为该清晰的图像添加单反相机模糊,得到具有单反相机的成像效果(即虚化效果)的图像,或者,该第二设备基于该单反相机的PSF分布结果与该摄像头的PSF分布结果之间的转换关系,将该图像的原始模糊直接转换成该单反相机模糊,得到具有单反相机的成像效果的图像。由于该摄像头的PSF分布结果以及单反相机的PSF分布结果均是在非理想成像条件下标定的,考虑了单反相机的实际成像特性,且得到的具有单反相机的成像效果的图像不具备原始摄像头的成像特性,因此,保证该图像上的成像效果的真实性,即实现单反相机的虚化效果,从而成功模拟了单反相机的成像效果,提高用户的使用满意度。
示例性的,本申请实施例中的第一设备和第二设备可以是手机、平板电脑、可穿戴设备、个人数字助理(personal digital assistant,PDA)、车载终端、物联网设备等具有摄像头的电子设备,本申请实施例对该电子设备的具体形态不作特殊限制。
示例性的,图6示出了电子设备100的结构示意图。如图6所示,电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serialbus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。
可以理解的是,本发明实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
其中,控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
可以理解的是,本发明实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在本申请另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备供电。
电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
电子设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或N个显示屏194,N为大于1的正整数。
电子设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备100的存储能力。
内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,从而执行电子设备100的各种功能应用以及数据处理。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
在一些实施例中,内部存储器121可以用于存储标定的摄像头193对应的第一PSF结果以及标定的单反相机对应的第二PSF结果。
电子设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。
指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
传感器模块180可以包括压力传感器,陀螺仪传感器,气压传感器,磁传感器,加速度传感器,距离传感器,接近光传感器,指纹传感器,温度传感器,触摸传感器,环境光传感器,骨传导传感器等。
为了实现单反相机的成像效果的模拟,本申请提出一种图像处理方法,如图7所示,利用该图像处理方法,电子设备对该电子设备的摄像头正常拍摄的图像进行处理,将合成逼真的具有单反相机成像效果的大光圈图像。具体的,电子设备利用预先标定的单反相机的PSF和该摄像头的PSF,将该电子设备的摄像头拍摄的图像变换为具有单反相机成像效果的图像,实现单反相机的虚化效果的成功模拟,从而成功解决一些拍摄场景下的离焦模糊问题。
下面将以电子设备为手机为例,将本申请实施例提供的图像处理分为两个实施例进行介绍,其中,实施例一用于介绍手机的摄像头的PSF分布结果以及单反相机的PSF分布结果的标定过程,实施例二用于介绍利用手机的摄像头的PSF分布以及单反相机的PSF分布的将手机的摄像头拍摄的图像转换成具有该单反相机的成像效果的图像的过程。
实施例一
本申请实施例提供一种图像处理方法。在该实施例中,为了确定手机摄像头的成像特性,相关人员针对手机的光学系统标定出不同深度的焦平面和离焦面分别对应的PSF,从而得到在非理想成像条件下,即在实际成像情况下,手机摄像头的PSF分布结果。以及为了确定单反相机的成像特性,相关人员针对单反相机的光学系统标定出不同深度的焦平面和离焦面分别对应的PSF,从而得到在非理想成像条件下,即在实际成像情况下,单反相机的PSF分布结果。其中,手机摄像头的PSF分布结果的标定过程可以通过下面的a部分内容进行介绍。该单反相机的PSF分布结果的标定过程可以通过下面的b部分内容进行介绍。
a、标定手机摄像头的PSF分布结果。
其中,手机摄像头的PSF分布结果包括焦平面对应的第一PSF分布结果和/或离焦面对应的第一PSF分布结果。该焦平面对应的第一PSF分布结果可以表示离焦深度为0,不同对焦深度所分别对应的第一PSF。该离焦面对应的第一PSF分布结果可以表示不同离焦深度和对焦深度所分别对应的第一PSF。
其中,离焦深度包括近景离焦深度和/或远景离焦深度。近景离焦深度表示在焦平面之前的离焦面(即近景离焦面)与该焦平面之间的距离。远景离焦深度表示在焦平面之后的离焦面(即远景离焦面)与该焦平面之间的距离。相应的,离焦面对应的第一PSF分布结果包括近景离焦面对应的第一PSF分布结果和/或远景离焦面对应的第一PSF分布结果。
下面分别通过示例一介绍手机摄像头的焦平面对应的第一PSF分布结果的标定过程,示例二介绍手机摄像头的远景离焦面对应的第一PSF分布结果的标定过程,以及示例三介绍手机摄像头的近景离焦面对应的第一PSF分布结果的标定过程。
示例一、标定手机摄像头的焦平面对应的第一PSF分布结果。首先,相关人员可以根据标定需求将第一标定板放置在手机摄像头前方的一定距离的位置上。
然后,相关人员将手机摄像头的焦点对焦到该第一标定板上,此时该第一标定板相当于焦平面,该第一标定板与该手机摄像头之间的距离为对焦深度。
之后,相关人员控制手机摄像头进行拍摄,得到该焦平面对应的图像,也即得到与离焦深度为0,该对焦深度的图像。
之后,相关设备基于该焦平面对应的图像计算得到该焦平面对应的第一PSF,也即得到与离焦深度为0,该对焦深度对应的第一PSF。之后,相关人员通过移动前后移动该第一标定板,并控制手机摄像头对焦拍摄,得到离焦深度为0,不同对焦深度分别对应的图像,从而得到离焦深度为0,不同对焦深度分别对应的第一PSF,也即得到不同对焦深度的焦平面分别对应的第一PSF,以供手机摄像头可以根据焦平面对应的第一PSF处理由于手机摄像头的像差导致的图像模糊,模拟单反相机的成像效果。
例如,相关人员将第一标定板放置在手机摄像头前方3米处,并控制手机摄像头对焦拍照,得到3米焦平面对应的图像,也即得到与离焦深度为0,对焦深度为3米对应的图像。相关设备基于该与离焦深度为0,对焦深度为3米对应的图像得到3米焦平面对应的第一PSF,也即得到与离焦深度为0,对焦深度为3米对应的第一PSF。又例如,相关人员将第一标定板移动至手机摄像头前方2米处,并控制手机摄像头对焦拍照,得到2米焦平面对应的图像,也即得到与离焦深度为0,对焦深度为2米对应的图像。相关设备基于该与离焦深度为0,对焦深度为2米对应的图像得到2米焦平面对应的第一PSF,也即得到与离焦深度为0,对焦深度为2米对应的第一PSF。
其中,第一标定板的尺寸可以根据实际需求进行设置,例如,第一标定板的尺寸覆盖该手机摄像头的全部视野范围,也即拍摄范围。该第一标定板上包括多个点,该点可以是第一标定板本身的图案,例如,该点为白色点光源,或该点为不会发光的点。或者,该点为外界点光源投射至第一标定板上,在该第一标定板上形成白色点。该第一标定板上的点的数量也可以根据实际需求进行设置,本申请不对其进行限制。
示例性的,上述第一PSF可以为高斯核函数。
应理解,第一标定板上的点为白色点光源或是由点光源投射的白色点可以避免光线对第一PSF标定结果的影响,并且可以使相关设备可以根据图像的亮度值更好地计算得到相应的第一PSF结果,保证第一PSF分布结果标定的准确性。
在本申请实施例中,相关人员通过将第一标定板放置在手机摄像头前方的不同位置上,并控制手机摄像头对焦拍照,得到不同对焦深度的焦平面对应的图像,从而使得相关设备能够基于不同对焦深度的焦平面分别对应的图像计算得到不同对焦深度的焦平面所分别对应的第一PSF,实现焦平面的第一PSF的成功标定,以供手机能够利用该焦平面的第一PSF对手机摄像头拍摄的图像上的焦平面对应的部分图像进行处理,也即去除该部分图像上的手机摄像头的原始成像特性,从而在手机基于标定的单反相机的第一PSF对该部分图像进行处理时,可以保证处理后的图像的成像效果,实现单反相机的成像效果的成功模拟。
在一些实施例中,由于拍摄对象的颜色也会影响图像的成像效果,也即不同颜色的拍摄对象所对应的模糊核函数(即第一PSF)也不同。因此,在标定焦平面对应的第一PSF分布结果时,除了调整标定板(如第一标定板)的位置,还会调整标定板显示的点的颜色。
一种情况下,第一标定板本身是光源,也即第一标定板上存在点光源。首先,相关人员可以根据标定需求调整第一标定板的点光源的发光颜色,并前后移动第一标定板的位置,以及控制手机摄像头对焦拍照,得到不同颜色、对焦深度的焦平面所对应的图像。之后,基于不同颜色、对焦深度的焦平面所对应的图像,计算得到对应颜色和对焦深度的焦平面所对应的第一PSF。
例如,相关人员先将第一标定板放置在手机摄像头前方3米处,并将该第一标定板上的点光源的发光颜色调整为红光。然后,相关人员,控制手摄像头对焦拍照,得到颜色为红色,3米焦平面对应的图像,也即得到与颜色为红色,离焦深度为0,对焦深度为3米对应的图像。相关设备基于该与颜色为红色,离焦深度为0,对焦深度为3米对应的图像得到颜色为红色,3米焦平面对应的第一PSF,也即得到与颜色为红色,离焦深度为0,对焦深度为3米对应的第一PSF。
又例如,相关人员将该第一标定板为上的点光源的发光颜色调整为绿色,并控制手机摄像头对焦拍照,得到与颜色为绿色,离焦深度为0,对焦深度为3米对应的图像。相关设备基于该与颜色为绿色,离焦深度为0,对焦深度为3米对应的图像得到颜色为绿色,3米焦平面对应的第一PSF,也即得到与颜色为绿色,离焦深度为0,对焦深度为3米对应的第一PSF。
又例如,相关人员先将第一标定板放置在手机摄像头前方2米处,并将该第一标定板上的点光源的发光颜色调整为红光。然后,相关人员,控制手摄像头对焦拍照,得到颜色为红色,2米焦平面对应的图像,也即得到与颜色为红色,离焦深度为0,对焦深度为2米对应的图像。相关设备基于该与颜色为红色,离焦深度为0,对焦深度为2米对应的图像得到颜色为红色,2米焦平面对应的第一PSF,也即得到与颜色为红色,离焦深度为0,对焦深度为2米对应的第一PSF。
示例性的,上述颜色可以通过RGB(red green blue)颜色表示。例如,相关人员将第一标定板上的点光源的发光颜色调整为红光,实际是将该发光颜色调整为RGB值为(255.0.0)的颜色。相应的,上述得到的颜色为红色,3米焦平面对应的第一PSF,实际为颜色为(255.0.0),2米焦平面对应的第一PSF。
在另一种情况下,标定板本身不是光源,外界点光源投射到标定板(如第一标定板)上,使得该标定板上呈现相应颜色的点。如图8所示,相关人员先将标定设备(如外界点光源、第一标定板)放置在手机摄像头的相应位置上。然后,相关人员调整外界点光源的发光颜色、第一标定板的位置,也即调整手机摄像头的焦平面的位置,并控制手机摄像头对焦拍照,得到不同颜色、对焦深度的焦平面所对应的图像。之后,基于不同颜色、对焦深度的焦平面所对应的图像,计算得到对应颜色和对焦深度的焦平面所对应的第一PSF。
在一些实施例中,相关人员可以调整外界点光源的位置(如图8所示),使得外界点光源投射到标定板上的点是均匀分布的,避免出现由于标定板上部分位置没有点导致该部分位置对应的PSF无法确定的问题。
在本申请实施例中,相关人员通过将第一标定板放置在手机摄像头前方的不同位置上,并调整第一标定板上显示的点的颜色,使得手机摄像头在对焦该第一标定板后,能够拍摄得到对应颜色以及对焦深度的焦平面的图像,从而使得相关设备能够基于不同颜色以及对焦深度的图像计算出对应颜色以及对焦深度的焦平面的PSF,实现手机焦平面的PSF的成功标定。
示例二、标定手机摄像头的远景离焦面对应的第一PSF分布结果。首先,相关人员根据标定需求,将第一标定板放置在手机摄像头前方的一定距离的位置上,并将第二标定板放置在该第一标定板后方的位置上。
之后,相关人员将手机摄像头的焦点对焦到该第一标定板上,此时该第一标定板相当于焦平面,该第一标定板与该手机摄像头之间的距离为对焦深度,该第二标定板与该第一标定板之间的距离相当于远景离焦深度。
之后,相关人员移除第一标定板,此时手机摄像头能够拍摄到第二标定板。相关人员控制手机摄像头进行拍摄,得到与该远景离焦深度和该对焦深度对应的图像。
应理解,在相关人员将手机摄像头的焦点对焦到该第一标定板之后,截止到手机摄像头拍摄图像,该手机摄像头的焦点没有变化,也即手机摄像头处于锁焦状态。
之后,相关设备基于与该远景离焦深度和该对焦深度对应的图像计算得到与该远景离焦深度和该对焦深度对应的第一PSF。之后,相关人员通过移动前后移动该第一标定板以及第二标定板,并在控制手机摄像头对焦后,移除第一标定板以及控制该手机摄像头拍摄,得到不同远景离焦深度以及对焦深度分别对应的第一PSF,以供手机摄像头可以根据不同远景离焦深度以及对焦深度分别对应的第一PSF处理由于离焦导致的图像模糊,模拟单反相机的成像效果。
例如,相关人员先将第一标定板放置在手机摄像头前方3米处的位置,将第二标定板放置在手机摄像头前方15米的位置,也即第一标定板后方12米处的位置。然后,相关人员控制手机摄像头对焦到第一标定板上。在对焦成功后,相关人员移动该第一标定板,并触发手机摄像头拍照,得到与远景离焦深度为12米,对焦深度为3米对应的图像。相关设备基于该与远景离焦深度为12米,对焦深度为3米对应的图像计算得到与离焦深度为12米,对焦深度为3米对应的第一PSF。
又例如,相关人员将第一标定板移动至手机摄像头前方2米处,将第二标定板放置在手机摄像头前方15米的位置,也即第一标定板后方13米处的位置。然后,相关人员控制手机摄像头对焦到第一标定板上。在对焦成功后,相关人员移动该第一标定板,并触发手机摄像头拍照,得到与远景离焦深度为13米,对焦深度为3米对应的图像。相关设备基于该与远景离焦深度为13米,对焦深度为3米对应的图像计算得到与远景离焦深度为13米,对焦深度为3米对应的第一PSF。
其中,第二标定板的尺寸可以根据实际需求进行设置,例如,第二标定板的尺寸覆盖该手机摄像头的全部视野范围,也即拍摄范围。该第二标定板上包括多个点,该点可以是第二标定板本身的图案,例如,该点为白色点光源,或该点为不会发光的点。或者,该点为外界点光源投射至第二标定板上,在该第二标定板上形成白色点。该第二标定板上的点的数量也可以根据实际需求进行设置,本申请不对其进行限制。
应理解,第二标定板上的点为白色点光源或是由点光源投射的白色点可以避免光线对第一PSF标定结果的影响,并且可以使相关设备可以根据图像的亮度值更好地计算得到相应的第一PSF结果,保证第一PSF结果标定的准确性。
在本申请实施例中,相关人员通过将第一标定板放置在手机摄像头前方的不同位置上,以及将第二标定板放置在该第一标定板后方的不同位置上。然后,相关人员控制手机摄像头对焦,然后移除第一标定板,并控制手机摄像头拍照,得到不同远景离焦深度和对焦深度所分别对应的图像,以供相关设备能基于不同远景离焦深度和对焦深度分别对应的图像计算得到不同远景离焦深度和对焦深度所分别对应的第一PSF,实现远景离焦面的第一PSF的成功标定,以供手机能够利用远景离焦面的第一PSF对手机摄像头拍摄的图像上的远景离焦部分图像进行处理,也即去除该部分图像上的手机摄像头的原始成像特性,从而在手机基于标定的单反相机的第一PSF对该部分图像进行处理时,可以保证处理后的图像的成像效果,实现单反相机的成像效果的成功模拟。
在一些实施例中,由于拍摄对象的颜色也会影响图像的成像效果,也即不同颜色的拍摄对象所对应的模糊核函数(即第一PSF)也不同。因此,在标定远景离焦面对应的第一PSF分布结果时,相关人员除了会调整标定板(如第一标定板和第二标定板)的位置,还会调整标定板(如上述第二标定板)显示的点的颜色。
一种情况下,第二标定板本身是光源,也即第二标定板上存在点光源。首先,相关人员可以根据标定需求调整第二标定板的点光源的发光颜色,并前后移动第二标定板和第一标定板的位置。以及相关人员在控制手机摄像头对焦后,移除第一标定板,并控制手机摄像头拍摄第二标定板,得到不同颜色、远景离焦深度和对焦深度所对应的图像。之后,基于不同颜色、远景离焦深度和对焦深度所对应的图像,计算得到对应颜色、远景离焦深度和对焦深度所对应的第一PSF。
例如,相关人员先将第一标定板放置在手机摄像头前方3米处的位置,将第二标定板放置在手机摄像头前方15米的位置,也即第一标定板后方12米处的位置,并将该第二标定板上的点光源的发光颜色调整为红色。然后,相关人员控制手机摄像头对焦到第一标定板上。在对焦成功后,相关人员移动该第一标定板,并触发手机摄像头拍照,得到与颜色为红色,远景离焦深度为12米且对焦深度为3米对应的图像。相关设备基于该与颜色为红色,远景离焦深度为12米且对焦深度为3米对应的图像计算得到与颜色为红色,远景离焦深度为12米且对焦深度为3米对应的第一PSF。
又例如,相关人员将第一标定板移动至手机摄像头前方3米处,将第二标定板放置在手机摄像头前方15米的位置,并将该第二标定板上的点光源的发光颜色调整为红色。然后,相关人员控制手机摄像头对焦到第一标定板上。在对焦成功后,相关人员移除该第一标定板,并触发手机摄像头拍照,得到与颜色为绿色,远景离焦深度为12米且对焦深度为3米对应的图像。相关设备基于该与颜色为绿色,远景离焦深度为12米且对焦深度为3米对应的图像计算得到与颜色为绿色,远景离焦深度为12米且对焦深度为3米对应的第一PSF。
示例性的,上述颜色可以通过RGB(red green blue)颜色表示。例如,相关人员将第二标定板上的点光源的发光颜色调整为红光,实际是将该发光颜色调整为RGB值为(255,0,0)的颜色。相应的,上述得到的与颜色为红色,远景离焦深度为12米且对焦深度为3米对应的第一PSF,实际为颜色为(255,0,0),远景离焦深度为12米且对焦深度为3米对应的第一PSF。
在另一种情况下,标定板本身不是光源,外界点光源投射到标定板(如第二标定板)上,使得该标定板上呈现相应颜色的点。相关人员先放置标定设备(如外界点光源、第二标定板)在相应位置。然后,相关人员调整外界点光源的发光颜色、第一标定板和第二标定板的位置,也即调整手机摄像头的离焦面和焦平面的位置。并且相关人员在控制手机摄像头对焦第一标定板后,移除该第一标定板,并控制该手机摄像头拍照,得到不同的颜色,远景离焦深度以及对焦深度所分别对应的图像。之后,基于不同的颜色,远景离焦深度以及对焦深度所分别对应的图像,计算得到对应颜色、远景离焦深度和对焦深度所对应的第一PSF。
在一些实施例中,如图8所示,相关人员可以调整外界点光源的位置,使得外界点光源投射到标定板上的点是均匀分布的,避免出现由于标定板上部分位置没有点导致该部分位置对应的PSF无法确定的问题。
在本申请实施例中,相关人员通过将第一标定板放置在手机摄像头前方的不同位置上,并将第二标定板放置在第一标定板后方的不同位置上,以及调整第二标定板上显示的点的颜色,使得能够实现不同颜色、远景离焦深度和对焦深度所分别对应的第一PSF的标定。
需要说明的是,由于当远景离焦深度超过一定深度值后,其所对应的PSF相差较小,因此,可以将该深度值对应的PSF作为超过该深度值的远景离焦深度所对应的PSF。
示例三、标定近景离焦面对应的第一PSF分布结果。近景离焦面对应的第一PSF分布结果的标定与上述远景离焦面对应的第一PSF分布结果的标定过程类似,相关人员仅需在放置第一标定板后,先控制手机摄像头对焦到该第一标定板,此时该第一标定板与该手机摄像头之间的距离便为一个对焦深度。
然后,相关人员可以根据近景离焦深度的标定需求,将第三标定板放置在该第一标定板之前的位置上,此时该第三标定板与该第一标定板之间的距离便为一个近景离焦深度。
之后,相关人员移除该第一标定板,并控制该手机摄像头拍照,得到与该近景离焦深度和该对焦深度对应的图像。
之后,相关设备基于与该远景离焦深度和该对焦深度对应的图像计算得到与该远景离焦深度和该对焦深度对应的第一PSF。
应理解,在相关人员将手机摄像头的焦点对焦到该第一标定板之后,截止到手机摄像头拍摄第三标定板,该手机摄像头的焦点没有变化,也即手机摄像头处于锁焦状态。
之后,相关人员通过移动前后移动该第一标定板以及第三标定板来调整手机摄像头的焦平面和离焦面的位置,并在控制手机摄像头对焦后,移除第一标定板以及控制该手机摄像头拍摄,得到不同近景离焦深度以及对焦深度分别对应的第一PSF,以供手机摄像头可以根据不同近景离焦深度以及对焦深度分别对应的第一PSF处理由于离焦导致的图像模糊,模拟单反相机的成像效果。
例如,相关人员先将第一标定板放置在手机摄像头前方3米处的位置,将第三标定板放置在手机摄像头前方1米的位置,也即第一标定板前方2米处的位置。然后,相关人员控制手机摄像头对焦到第一标定板上。在对焦成功后,相关人员移动该第一标定板,并触发手机摄像头拍照,得到与近景离焦深度为2米(即离焦深度为-2米),对焦深度为3米对应的图像。相关设备基于该与近景离焦深度为2米,对焦深度为3米对应的图像计算得到与近景离焦深度为2米,对焦深度为3米对应的第一PSF。
其中,第三标定板的尺寸可以根据实际需求进行设置,例如,第三标定板的尺寸覆盖该手机摄像头的全部视野范围,也即拍摄范围。该第三标定板上包括多个点,该点可以是第三标定板本身的图案,例如,该点为白色点光源,或该点为不会发光的点。或者,该点为外界点光源投射至第三标定板上,在该第三标定板上形成白色点。该第三标定板上的点的数量也可以根据实际需求进行设置,本申请不对其进行限制。
应理解,第三标定板上的点为白色点光源或是由点光源投射的白色点可以避免光线对第一PSF标定结果的影响,并且可以使相关设备可以根据图像的亮度值更好地计算得到相应的第一PSF结果,保证第一PSF结果标定的准确性。
在本申请实施例中,相关人员通过将第一标定板放置在手机摄像头前方的不同位置上,以及将第三标定板放置在该第一标定板前方的不同位置上。然后,相关人员控制手机摄像头对焦,然后移除第一标定板,并控制手机摄像头拍照,得到不同近景离焦深度和对焦深度所对应的图像,以供相关设备能基于不同近景离焦深度和对焦深度所对应的图像计算得到不同远景离焦深度和对焦深度所对应的第一PSF,实现近景离焦面的第一PSF的成功标定,以供手机能够利用近景离焦面的第一PSF对手机摄像头拍摄的图像上的近景离焦部分图像进行处理,也即去除该部分图像上的手机摄像头的原始成像特性,从而在手机基于标定的单反相机的第一PSF对该部分图像进行处理时,可以保证处理后的图像的成像效果,实现单反相机的成像效果的成功模拟。
在一些实施例中,由于拍摄对象的颜色也会影响图像的成像效果,也即不同颜色的拍摄对象所对应的模糊核函数(即第一PSF)也不同。因此,在标定近景离焦面对应的第一PSF分布结果时,也可以调整标定板(如上述第二标定板)显示的点的颜色。
一种情况下,第二标定板本身是光源,也即第二标定板上存在点光源。相关人员在标定过程中,根据标定需求调整第二标定板的点光源的发光颜色,使得手机摄像头能够拍摄得到不同颜色、近景离焦深度和对焦深度的图像,从而使得相关设备能够基于不同颜色、近景离焦深度和对焦深度的图像计算得到不同颜色、近景离焦深度和对焦深度的PSF,实现近景离焦面对应的PSF的标定。
例如,相关人员先将第一标定板放置在手机摄像头前方3米处的位置。然后,相关人员控制手机摄像头对焦到第一标定板上。在对焦成功后,相关人员移除该第一标定板,将第三标定板放置在手机摄像头前方1米的位置,也即第一标定板前方2米处的位置,并将该第三标定板上的点光源的发光颜色调整为红色。之后,相关人员触发手机摄像头拍照,得到与颜色为红色,近景离焦深度为2米(即离焦深度为-2米)且对焦深度为3米对应的图像。相关设备基于该与颜色为红色,近景离焦深度为2米且对焦深度为3米对应的图像计算得到与颜色为红色,近景离焦深度为2米(即离焦深度为-2米)且对焦深度为3米对应的第一PSF。
示例性的,上述颜色可以通过RGB(red green blue)颜色格式表示。
在另一种情况下,标定板本身不是光源,外界点光源投射到标定板(如第三标定板)上,使得该标定板上呈现相应颜色的点。相关人员可以通过调整外界点光源的发光颜色来调整第三标定板上显示的点的颜色,从而实现不同颜色,近景离焦深度和对焦深度的PSF的标定。
需要说明的是,上述相关人员在将对手机摄像机的焦点对焦到第一标定板上时,可以根据需求将该焦点对焦到第一标定板的对应位置上,例如,将手机摄像头的焦点对焦到第一标定板的中心位置上。以及离焦深度的正负仅表示该离家深度是近景离焦深度还是远景离焦深度,也可以将近景离焦深度通过正数表示,而将远景离焦深度通过负数表示,本申请不对其进行限制。
应理解,当手机摄像头有多种时,可以按照上述手机摄像头的标定过程对手机上的每种摄像头的PSF进行标定,得到每种手机摄像头的PSF分布结果。例如,手机上的摄像头包括主摄像头、广角摄像头和长焦摄像头时,分别标定主摄像头的PSF分布结果、广角摄像头的PSF分布结果和长焦摄像头的PSF分布结果。
在该实施例中,在得到手机摄像头的焦平面对应的第一PSF分布结果以及离焦面对应的第一PFS分布结果(即远景离焦面对应的第一PSF分布结果和/或近景离焦面对应的第一PSF分布结果)后,也即在手机摄像头的PSF分布结果标定完成后,可以将保存在目标手机(如目标手机的存储器)中,该目标手机指示具备该摄像头,且需要模拟单反相机的成像效果的摄像头。
示例性的,当没有基于颜色标定手机摄像头的PSF分布结果时,该手机摄像头的PSF分布结果{PSF_1i}D,L可以如表1所示的格式进行保存。当基于颜色标定手机摄像头的PSF分布结果{PSFi}λD,L时,该手机摄像头的PSF分布结果的格式可以如表2所示。
表1
对焦深度 | 离焦深度 | PSF_1 |
3米 | 13米 | {PSF_1i}3,13 |
3米 | -2米 | {PSF_1i}3,-2 |
3米 | 0米 | {PSFi_1}3,0 |
表2
颜色 | 对焦深度 | 离焦深度 | PSF_1 |
RGB(0,255,0) | 3米 | 13米 | {PSFi_1}RGB(0,255,0)3,13 |
RGB(255,0,0) | 3米 | -2米 | {PSFi_1}RGB(255,0,0),3,-2 |
RGB(255,0,0) | 3米 | 0米 | {PSFi_1}RGB(255,0,0),3,0 |
可以理解,上述颜色通过RGB颜色格式仅为一种示例,颜色也可以通过其它颜色格式表示,例如,YUV格式等。并且上述表1和表2所示的手机摄像头的PSF分布结果的保存格式也仅为一种示例,手机摄像头的PSF分布结果也可以通过其它保存格式进行保存,例如,手机摄像头的焦平面的PSF分布结果和离焦面的PSF分布结果均需保存在目标手机,则一个表用来保存手机摄像头的焦平面的PSF分布结果。另一个表用来保存手机摄像头的离焦面的PSF分布结果,本申请不对手机摄像头的PSF分布结果的保存格式进行限制。
b、标定单反相机的PSF分布结果。
其中,单反相机的PSF分布结果包括焦平面对应的第二PSF分布结果和/或离焦面对应的第二PSF分布结果。该焦平面对应的第二PSF分布结果可以表示离焦深度为0,不同对焦深度所分别对应的第二PSF。该离焦面对应的第二PSF分布结果可以表示不同离焦深度和对焦深度所分别对应的第二PSF。
其中,离焦面对应的第二PSF分布结果包括近景离焦面对应的第二PSF分布结果和/或远景离焦面对应的第二PSF分布结果。
在该实施例中,在标定单反相机的PSF分布结果时,相关人员可以利用真实的单反相机进行标定,也可以利用仿真的单反相机进行标定。
其中,真实的单反相机的PSF分布结果的标定过程与上述介绍的手机摄像头的PSF的标定过程类似。一种情况下,相关人员基于对焦深度和离焦深度进行标定,得到与对焦深度和离焦深度对应的PSF分布结果,也即得到单反相机的PSF分布结果。另一种情况下,如图9所示,相关人员基于标定板上的点的颜色、对焦深度和离焦深度进行标定,得到与颜色、对焦深度和离焦深度对应的PSF分布结果,也即得到单反相机的PSF分布结果。在此,不再对这两种情况对应的标定进行赘述。
需要说明的是,相关人员可以根据手机需模拟的单反相机的成像效果来选择标定的单反相机。例如,相关人员想要手机拍摄的图像模拟品牌A的单反相机的成像效果,可以标定该品牌A的单反相机的PSF分布结果。
示例性的,在利用仿真的单反相机进行标定时,首先,相关人员在仿真软件(即虚拟空间)上构建单反相机光学系统模型(如透镜、光圈等),实现单反相机的物理结构的模拟。并且相关人员设置该单反相机光学系统模型的物理参数(如光圈大小、透镜厚度等)。
其中,相关人员想要手机拍摄的图像实现某款型号的单反相机的虚化效果,则相关人员可以将仿真的单反相机光学系统模型的物理参数设置的与该单反相机的物理参数一致。
之后,相关人员在该仿真软件上构建虚拟的标定板,并调整虚拟的标定板的位置,以得到不同离焦深度和对焦深度的成像结果。该虚拟的标定板的数量可以根据需求进行设置。例如,在标定单反相机的焦平面对应的第二PSF分布结果时。首先,相关人员根据标定需求将虚拟的第一标定板放置在该单反相机光学系统模型前方的一定距离的位置上。然后,相关人员在焦点设置在该第一标定板上,该仿真软件通过光学追踪,计算生成相应的成像结果。
其中,在进行光学追踪时,从单反相机光学系统模型射出光线,该光线经过单反相机光学系统模型出射至相应的标定板上,也即与相机的实际成像路径相反,但由于是光路是可逆的,因此,仍可以正确模拟实际单反相机的成像结果。并且由于在按照实际成像路径追踪光线时,有些光线实际并无法成功射到成像面上,因此,可以减少计算量。
之后,相关设备基于不同离焦深度和对焦深度的成像结果计算得到不同离焦深度和对焦深度对应的PSF,实现仿真的单反相机的PSF分布结果的标定,从而实现单反相机的PSF分别结果的标定。
在一些实施例中,由于拍摄对象的颜色也会影响图像最终的成像效果,也即不同颜色的拍摄对象所对应的模糊核函数,即PSF也不同。因此,在标定仿真单反相机对应的PSF分布结果时,如图10所示,相关人员除了调整虚拟的标定板的位置,还可以调整虚拟的标定板显示的点的颜色,从而得到与颜色相关的PSF分布结果。
其中,相关人员调整虚拟的标定板显示的点的颜色的过程与上述相关人员调整标定板显示的点的颜色类似。例如,该虚拟的标定板也可以模拟点光源,即可以主动发光。当然,该虚拟的标定板上的点也可以是虚拟的外界点光源投射的,从而相关人员可以通过调整虚拟的外界点光源的发光颜色来调整该虚拟的标定板显示的点的颜色。当然相关人员也可以调整该虚拟的外界点光源的位置,使得该外界点光源投射到该虚拟的标定上的点更加均匀(如图6所示)。
在该实施例中,上述单反相机的PSF分布结果的标定过程可以是在目标手机出厂前进行的。相关设备在得到单反相机的焦平面对应的第二PSF分布结果和/或离焦面对应的第二PFS分布结果(即远景离焦面对应的第二PSF分布结果和/或近景离焦面对应的第二PSF分布结果)后,也即在单反相机的PSF分布结果标定完成后,可以将保存在上述目标手机(如目标手机的存储器)中。
示例性的,当没有基于颜色标定单反相机的PSF分布结果时,该单反相机的PSF分布结果{PSF_2i}D,L可以如表3所示的格式进行保存。当基于颜色标定手机摄像头的PSF分布结果{PSF_2i}λ,D,L时,该手机摄像头的PSF分布结果的格式可以如表4所示。
表3
表4
颜色 | 对焦深度 | 离焦深度 | PSF_1 |
RGB(0,255,0) | 3米 | 13米 | {PSF_2i}RGB(0,255,0),3,13 |
RGB(255,0,0) | 3米 | -2米 | {PSF_2i}RGB(255,0,0),3,-2 |
RGB(255,0,0) | 3米 | 0米 | {PSF_2i}RGB(255,0,0),3,0 |
可以理解,上述颜色通过RGB颜色格式仅为一种示例,颜色也可以通过其它颜色格式表示,例如,YUV格式等。并且上述表3和表4所示的手机摄像头的PSF分布结果的保存格式也仅为一种示例,手机摄像头的PSF分布结果也可以通过其它保存格式进行保存,本申请不对手机摄像头的PSF分布结果的保存格式进行限制。以及离焦深度的正负仅是为了区分近景离焦深度和远景离焦深度,也即为了区分近景离焦面的PSF以及远景离焦面的PSF,也可以不用正负区分近景离焦深度和远景离焦深度,例如,都用正数或负数表示近景离焦深度和远景离焦深度,且将近景离焦面的PSF以及远景离焦面的PSF分开保存。
实施例二
本申请实施例提供一种图像处理方法。在该实施例中,手机(如实施例一中的目标手机)在手机摄像头拍摄彩色图像后,先获取该彩色图像对应的深度图,并基于该深度图确定该彩色图像对应的手机摄像头的PSF分布结果以及单反相机的PSF分布结果。然后,手机基于该彩色图像对应的手机摄像头的PSF分布结果以及单反相机的PSF分布结果,将该彩色图像变换为具有单反相机成像效果的图像,使得该图像具备单反相机的虚化效果,实现单反相机成像特性的模拟。具体的,如图11所示,本申请实施例提供的图片显示方法可以包括S101-S105。
S101、手机获取手机摄像头拍摄的彩色图像,并获取该彩色图像对应的深度图像。该深度图像是由多个深度区域图像组成,每个深度区域图像存在对应的深度值。
其中,每个深度区域图像中的各个像素点的深度值均相同。
一种情况下,上述彩色图像可以是在拍照模式下拍摄得到的图像。另一种情况下,上述彩色图像可以是视频模式下拍摄的图像。具体的,该视频模式下拍摄的图像可以是在视频拍摄完成后所得到的视频文件中的图像。该视频模式下拍摄的图像也可以是在视频拍摄过程中手机摄像头所采集的图像,使得手机显示的预览图像是具有单反相机的成像效果的图像,从而在视频拍摄完成后所得到的视频文件中的图像具有单反相机的成像效果。
另一种情况下,上述彩色图像可以为重聚焦图像。该重聚焦图像是指手机根据用户需求,改变已拍摄的图像的对焦点位置后得到的图像。例如,手机在拍摄一张图像后,如果用户想要改变该图像上的对焦点的位置,则手机基于改变后的对焦点的位置,对该图像进行重聚焦,得到重聚焦图像。例如,手机拍摄的图像中对象包括人和山,该图像的对焦点是人,该图像中的人的图像是清晰的,该图像中的山的图像是模糊的。用户想要将对焦点的位置由人调整为山,则手机对该图像进行重聚焦,得到相应的重聚焦图像,该重聚焦图像的对焦点为山,该图像中的人的图像是模糊的,而山的图像是清晰的。
其中,上述彩色图像对应的深度图像是在拍摄彩色图像的同时拍摄得到的,该深度图像与该彩色图像中的拍摄内容相同,该深度图像的对焦点的位置(即对焦位置)与该彩色图像的对焦点的位置相同。
其中,上述对焦点的位置可以是拍摄该彩色图像时记录的。在拍摄彩色图像时,用户可以手动进行对焦,此时,手机可以记录用户选择的对焦点所在位置,也即得到该彩色图像对应的对焦点的位置。如果用户未进行对焦,则手机可以自动进行对焦拍摄彩色图像,并记录对焦点的位置,也即得到该彩色图像对应的对焦点的位置。
其中,深度图像是由不同颜色的深度区域图像组成,颜色代表深度值,每个深度区域图像对应一个深度值,该深度区域图像中的各个像素点的深度值(即像素值)均相同。深度值表示拍摄对象与手机摄像头(如手机摄像头中的透镜中心)之间的距离。
在一种实现方式中,上述深度图像可以是基于飞行时间测距法(time oflight,TOF)确定的。具体的,该深度图像可以是手机上的TOF生成的,例如,手机在控制手机上的主摄像头采集图像(即上述彩色图像)时,也控制TOF相机生成相应的深度图。
在另一种实现方式中,上述深度图像可以是基于双目多角立体成像算法确定的,该算法的原理是使用两个或者两个以上的摄像头同时采集图像,通过比对这些不同摄像头在同一时刻获得的图像的差别来计算深度信息,从而得到相应的深度图像。例如,手机在控制手机上的主摄头采集图像(即上述彩色图像)时,可以同时控制手机上的广角摄像头采集图像。手机基于该主摄像头和广角摄像头采集的图像,得到该主摄像头采集的图像对应的深度图。
当然上述列举的深度图像的实现方式仅为示例,上述深度图像也可以采用其它实现方式进行确定,本申请不对其进行限制。
S102、手机基于深度图像中的深度区域图像,对彩色图像进行分割,得到多个彩色区域图像,该彩色区域图像中的各个像素点对应的深度值均相同。
在本申请实施例中,手机可以先将深度图像和彩色图像进行配准。然后,手机可以按照深度图像中的深度区域图像之间的分隔线的位置,对该彩色图像进行切片,得到多个彩色区域图像,一个彩色区域图像对应一个深度区域图像,也即彩色区域图像中的各个像素点的深度值均相同。该彩色区域图像的深度值为与其对应的深度区域图像的深度值相同。例如,该彩色图像中的对象包括人和山。该彩色图像对应的深度图像中的深度区域图像包括人的图像和山的图像。该人的图像的深度值为3米,表明在拍摄该彩色图像时,该人与手机摄像头之间的距离为3米;山的图像的深度值为15米,表明在拍摄该彩色图像时,该山为人的背景,该山与手机摄像头之间的距离为15米。因此,手机可以基于深度区域图像中的人的图像和山的图像,对彩色图像进行分割,得到该彩色图像的区域图像(即彩色区域图像)。该彩色区域图像也包括人的图像和山的图像,该彩色区域图像中的人的图像与深度区域图像中的人的图像所包括的内容相同,且该彩色区域图像中的人的图像的深度值也为3米。该彩色区域图像中的山的图像与深度区域图像中的山的图像所包括的内容相同,且该彩色区域图像中的山的图像的深度值也为15米。
S103、对于每个彩色区域图像,手机基于该彩色区域图像的深度值,从该手机预存的该手机摄像头的PSF分布结果中确定该彩色区域图像的第一PSF,并从该手机预存的单反相机的PSF分布结果中确定该彩色区域图像的第二PSF。
在本申请实施例中,首先,手机基于上述彩色图像的对焦点位置,确定对焦点所在的彩色区域图像,并将该对焦点所在的彩色区域图像作为对焦区域图像。
其中,对焦区域图像为焦平面的成像结果,该对焦区域图像的深度值为对焦深度,且该对焦区域图像对应的离焦深度为0。相应的,除该对焦区域图像以外的彩色区域图像,即其它彩色区域图像为离焦面的成像结果。
其中,上述离焦区域图像包括近景离焦区域图像和/或远景离焦区域图像。该近景离焦区域图像为近景离焦面的成像结果,其包括位于上述对焦区域图像中的对象之前的对象,也即该近景离焦区域图像指示对焦区域图像中的对象的前景部分。该远景离焦区域图像为远景离焦面的成像结果,其包括位于上述对焦区域图像中的对象之后的对象,也即该远景离焦区域图像指示对焦区域图像中的对象的背景部分。
之后,手机可以从手机摄像头的PSF分布结果中的焦平面的PSF分布结果中查找与该对焦区域图像的深度值(即对焦深度)对应的第一PSF,得到该对焦区域图像的第一PSF。例如,手机可以从保存手机摄像头的PSF分布结果的数据表(如表1所示的手机摄像头的PSF分布结果表)中查找与离焦深度为0和该对焦深度对应的第一PSF。
并且手机对于每个离焦区域图像,计算该离焦区域图像的深度值与该对焦区域图像的深度值(即对焦深度)之间的差值,得到该离焦区域图像的离焦深度。手机从该手机摄像头的PSF分布结果中查找与该对焦深度和该离焦区域图像的离焦深度对应的第一PSF,并将该第一PSF作为该离焦区域图像的第一PSF。例如,手机可以从保存手机摄像头的PSF分布结果的数据表(如表1所示的手机摄像头的PSF分布结果表)中查找与离焦深度为该离焦区域图像的离焦深度,且对焦深度为该对焦区域图像的深度值的第一PSF。
以及手机从单反相机的PSF分布结果中查找与该对焦深度和该离焦区域图像的离焦深度对应的第二PSF,即手机可以从单反相机的PSF分布结果中的焦平面的PSF分布结果中查找与该对焦区域图像的深度值(即对焦深度)对应的第二PSF,并将该第二PSF作为该对焦区域图像的第二PSF。
并且手机对于每个离焦区域图像,手机可以从该单反的PSF分布结果中查找与该对焦深度和该离焦区域图像的离焦深度对应的第二PSF,即手机可以从单反相机的PSF分布结果中的离焦面的PSF分布结果中查找与该离焦区域图像的离焦深度和该对焦深度对应的第二PSF,并将该第二PSF作为该离焦区域图像的第二PSF。
示例性的,上述彩色区域图像中的对焦区域图像的深度值为3米,手机上存有手机摄像头的PSF分布结果的数据表以及单反相机的PSF分布结果的数据表。手机从该手机摄像头的PSF分布结果的数据表中查找对焦深度为3米,且离焦深度为0米对应的第一PSF,即{PSFi-1}3,0,该{PSFi-1}3,0为该对焦区域图像的第一PSF。以及手机从该单反相机的PSF分布结果的数据表查找对焦深度为3米,且离焦深度为0米对应的第二PSF,即{PSF-2i}3,0,该{PSF-2i}3,0为该对焦区域图像的第二PSF。
上述彩色区域图像中的一个离焦区域图像的离焦深度为13米。手机从该单反相机的PSF分布结果的数据表中查找对焦深度为3米,离焦深度为13米的对应的第一PSF,即{PSF_1i}3,13,该{PSF_1i}3,13为该离焦区域图像的第一PSF。以及手机从该单反相机的PSF分布结果的数据表查找对焦深度为3米,且离焦深度为0米对应的第二PSF,即{PSF_2i}3,13,该{PSF_2i}3,13为该离焦区域图像的第二PSF。
之后,由于PSF分布结果中的PSF具体为成像结果中的各个像素块对应的PSF,因此,在得到上述彩色图像中的各个彩色区域图像的PSF分布结果(即上述离焦区域图像和对焦区域图像的第一PSF分布结果和第二PSF分布结果)后,对于彩色区域图像中的各个像素块,手机先根据该像素块在的该彩色图像(即成像结果)中的位置,得到该像素块的位置信息。之后,手机可以从该彩色区域图像的第一PSF中查找与该像素块的位置信息对应的第一PSF以及从该彩色区域图像的第二PSF中查找与该像素块的位置信息对应的第二PSF。
其中,像素块的位置信息表示该像素块为其所属的彩色图像中的第个像素块,也即第几行第几列的像素块。该位置信息可以通过i表示,也即通过(x,y)表示。该x表示行数,该y表示列数。
承接上述示例,手机确定该示例中的对焦区域图像中的一个像素块的位置信息为(3,8)。手机从该对焦区域图像的第一PSF(即{PSFi_1}3,0)中查找第3行,第8列的像素块对应的PSF,并将查找到的PSF作为该像素块的第一PSF。以及该手机从该对焦区域图像的第二PSF(即{PSF_2i}3,0)中查找第3行,第8列的像素块对应的PSF,并将查找到的PSF作为该像素块的第二PSF。
以及手机确定该示例中的离焦区域图像中的一个像素块的位置信息为(2,4),手机从该图像区域图像的第二PSF(即{PSF_1i}3,13)中查找第2行,第4列的像素块对应的PSF,并将查找到的PSF作为该像素块的第一PSF。以及该手机从该离焦区域图像的第二PSF(即{PSF-2i}3,13)中查找第2行,第4列的像素块对应的PSF,并将查找的PSF作为该像素块的第二PSF。
在一些实施例中,由于不同颜色对应的PSF不同,为了使手机拍摄的图像的虚化效果与单反相机的虚化效果之间的差距更小,因此,在确定彩色区域图像对应的PSF时,还可以根据颜色进行确定。对于上述每个彩色区域图像,手机先确定该彩色区域图像的颜色值,也即手机确定该彩色区域图像中的各个像素块的颜色值。之后,对于每个像素块,手机从手机摄像头的PSF分布结果中查找与该像素块的颜色值、该像素块的离焦深度(即该像素块所属的彩色区域图像的离焦深度)和对焦区域图像的深度值(即对焦深度)对应的第一PSF,并将该第一PSF作为该像素块的第一PSF。同理,手机从单反相机的PSF分布结果中查找与该像素块的颜色值、该像素块的离焦深度(即该像素块所属的彩色区域图像的离焦深度)和对焦区域图像的深度值(即对焦深度)对应的第二PSF,并将该第二PSF作为该像素块的第二PSF。
其中,在确定像素块的颜色值时,可以根据以下实现方式进行确定。
在一种实现方式中,由于像素块中的像素点的数量较少,颜色相差较小,因此,手机可以将像素块中的一个像素点的颜色值作为该像素块的颜色值。该像素点可以是为该像素块中的任意一个像素点,也可以是该像素块中的特定位置的像素点,本申请不对其进行限制。示例性的,颜色值通过RGB格式表示。对焦区域图像中的一个像素块中的一个像素点的颜色值为RGB(255,0,0),该像素块所属的彩色区域图像的对焦深度为3米。则手机可以先确定该像素块的颜色值也为RGB(255,0,0)。之后手机可以从手机摄像头的PSF分布结果中的焦平面的PSF分布结果中查找与颜色值为RGB(255,0,0)和对焦深度为3米对应的第一PSF,也即可以从手机摄像头的PSF分布结果中查找RGB(255,0,0),对焦深度为3米和离焦深度为0米对应的第一PSF,该第一PSF包括不同位置上的像素块的PSF。因此,手机可以继续从该第一PSF中查找与该像素块在彩色图像中的位置信息对应的PSF,并将其作为该像素块的第一PSF,其中该像素块的第一PSF实际为该像素块中的各个像素点的第一PSF。同理,手机也可以确定该像素块的第二PSF,其中该像素块的第二PSF实际为该像素块中的各个像素点的第二PSF。
在另一种实现方式中,手机可以确定像素块中的每个像素点的颜色值,以将每个像素点的颜色值均作为该像素块的颜色值。示例性的,颜色值通过RGB格式表示。对焦区域图像中的一个像素块包括3个像素点。该像素块所属的彩色区域图像的对焦深度为3米。对于该3个像素点中的每个像素点,手机可以从手机摄像头的PSF分布结果中查找与颜色值为该像素点的颜色值,对焦深度为3米和离焦深度为0米对应的第一PSF,该第一PSF包括不同位置上的像素块的PSF。因此,手机可以继续从该第一PSF查找与该像素块的位置信息对应的PSF,并将其作为该像素点的第一PSF。在得到该3个像素点中的每个像素点的第一PSF后,手机可以将该每个像素点的第一PSF作为该像素块的第一PSF。同理,手机也可以确定该像素块的第二PSF。
S104、手机根据该彩色区域图像的第一PSF和第二PSF对该彩色区域图像进行单反模糊合成处理,得到该彩色区域图像对应的目标区域图像。
在本申请实施例中,在得到彩色区域图像中的各个彩色区域图像的第一PSF和第二PSF后,对于每个彩色区域图像,手机可以分别利用该彩色区域图像中的各个像素块的第一PSF和第二PSF,对对应像素块进行单反模糊合成处理,使得处理后的像素块具备单反相机的成像特性,而不存在手机摄像头的原始成像特性,从而得到处理后的彩色区域图像(即目标区域图像)对应的目标区域图像。
下面将结合具体实例对上述单反模糊合成处理进行介绍。
在一些实施例中,上述单反模糊合成处理指示去除原始成像特性后再添加单反相机成像特性。具体的,如图12所示,对于每个彩色区域图像,手机可以先根据该彩色区域图像的第一PSF,对该彩色区域图像进行去模糊,也即去除该彩色区域图像的原始成像特性,得到该彩色区域图像的清晰图像。之后,手机根据基于该彩色区域图像的第二PSF,为该清晰图像添加单反相机模糊,得到该彩色区域图像对应的目标区域图像,该目标区域图像具备单反相机的成像特性,且该目标区域图像不再具有手机摄像头的原始成像特性,实现单反相机的成像效果的模拟,也即实现单反相机成像的虚化效果的成功模拟。
示例性的,由于彩色图像的生成过程相当于卷积的过程,因此,彩色图像的复原,即去模糊是一个反卷积的过程。相应的,手机可以基于该彩色区域图像的第一PSF对该彩色区域图像进行非盲反卷积,以去除该彩色区域图像的原始模糊,得到相应的清晰图像。以及手机可以基于该彩色区域图像的第二PSF,对该清晰图像进行卷积处理,得到具备单反相机模糊的目标区域图像。
其中,在基于该彩色区域图像的第一PSF对该彩色区域图像进行非盲反卷积时,对于该彩色区域图像中的每个像素块,手机基于该像素块的第一PSF对该像素块进行非盲反卷积,也即基于该像素块中的各个像素点的第一PSF对像素点的像素值进行非盲反卷积。同理,手机基于该彩色区域图像的第二PSF,对该清晰图像进行卷积处理时,对于该清晰图像中的每个像素块,手机基于该像素块的第二PSF对该像素块进行卷积,也即基于该像素块中的各个像素点的第二PSF对该像素点的像素值进行卷积处理。
在另一些实施例中,上述单反模糊合成处理指示将原始成像特性转换为单反相机成像特性。具体的,如图13所示,对于每个彩色区域图像,手机可以先计算该彩色区域图像的第二PSF与该像素块的第一PSF之间的转换关系,即转换PSF。然后,手机利用该转换关系对该彩色区域图像进行模糊补偿处理,以将手机摄像头的成像特性转换为单反相机的成像特性,得到该彩色区域图像对应的具有单反虚化效果的目标区域图像,也即该目标区域图像具备单反相机的成像特性,实现单反相机成像的虚化效果的成功模拟,由于该彩色区域图像的PSF是直接转换的,可以避免去模糊过程出现的问题。
具体的,对于该彩色区域图像中的各个像素块,手机可以先计算该像素块的第二PSF与该像素块的第一PSF之间的转换关系。然后,手机利用该转换关系对该像素块进行模糊补偿,也即对该像素块进行卷积处理,使得该像素块的PSF变为该第二PSF,从而可以得到该彩色区域图像对应的目标区域图像。
示例性的,在利用该转换关系对该像素块进行模糊补偿时,对于该像素块中的各个像素点,手机计算该像素点的第二PSF和第一PSF之间的转换关系,并基于该转换关系对该像素点的像素值进行补偿,使得该像素点的像素值成为该第二PSF对应的像素值,该第二PSF对应的像素值表示单反相机按照手机拍摄上述彩色图像的方式拍摄得到的图像中的该像素点的像素值。手机得到的补偿后的像素块的PSF为该像素块的第二PSF,实现图像的PSF的成功转换,也即实现单反相机的成像特性的模拟,使得补偿后的图像具备单反相机的虚化效果。
其中,该像素点的第二PSF和第一PSF之间的转换关系可以通过该第二PSF第一PSF之间的差值,或者其它计算公式(如比值等)计算得到的,本申请不对其进行限制。
S105、手机对各个彩色区域图像对应的目标区域图像进行拼接处理,得到上述彩色图像对应的完整的目标图像。
在本申请实施例中,在得到彩色图像中的各个彩色区域图像对应的目标区域图像后,手机按照各个彩色区域图像在该彩色图像的分布位置,确定目标区域图像的分布位置。然后,如图12或图13所示,手机对相邻的目标区域图像进行拼接,得到完整的图像,也即得到该彩色图像对应的完整的目标图像,该目标图像不再具有手机摄像头的原始成像特性,而是具有单反相机的成像特性,也即该目标图像相当于单反相机拍摄得到,实现单反相机的成像效果的模拟,也即实现单反相机成像的虚化效果的模拟,提高图像的成像质量,能够提高用户拍照体验。
其中,该目标区域图像在该目标图像的分布位置与该目标区域图像对应的彩色区域图像在该目标图像对应的彩色图像的分布位置相同。
一种情况下,在对相邻的目标区域图像进行拼接时,手机可以直接沿着相邻的目标区域图像之间的边缘线(即分割线)缝合该相邻的目标区域图像。
另一种情况下,由于一个彩色区域图像中的对象实际属于另一个彩色区域图像,但被分割至该一个彩色区域图像。在该对象进行处理时,手机也是按照该一个彩色区域图像的PSF对该对象进行处理,使得最后直接缝合得到的目标图像存在锯齿感等拼接缝问题,因此,为了避免该拼接缝问题,手机在分割得到彩色图像对应的彩色区域图像后,可以先对该彩色区域图像的边缘部分进行镜像对称,得到相应的镜像部分,使得该彩色区域图像彩为包括该镜像部分的彩色区域图像。该边缘部分是指彩色区域图像的分割线之前的特定位置部分,包括该分割线之前的预设数量的像素点。如图14A所示,手机对彩色图像30进行分割,得到两个彩色区域图像,分别是区域图像A和区域图像B(如图14B所示)。对于该区域图像A,手机对该区域图像A中的边缘部分31进行镜像对称,得到镜像部分32(如图14C所示)。同理对于该区域图像B,手机对该区域图像B中的边缘部分33进行镜像对称,得到镜像部分34(如图14D所示)。
相应的,在拼接相邻的目标区域图像时,手机可以采用加权求和算法处理图像。具体的,在沿着相邻的目标区域图像之间的边缘线(即分割线)缝合该相邻的目标区域图像后,手机先确定该相邻的目标区域图像之间的重叠部分(即该相邻的目标区域图像中的各个目标区域图像的镜像部分)。然后,手机根据该相邻的目标区域图像中的各个目标区域图像的深度值确定该各个目标区域图像的权重。之后,对于该重叠部分,手机基于该各个目标区域图像的权重,对该各个目标区域图像的镜像部分中的像素点的像素值进行加权求和,得到该重叠部分中的各个像素点的目标像素值,实像素点的像素值平滑过渡,可以有效缓解拼接缝问题。并且虽然重叠部分是上述彩色图像的多余部分,但由于重叠部分所包括的像素点的数量很少(如仅有五个或六个像素点),因此,用户基本无法感知出来图像是存在多余部分的。
其中,目标区域图像的深度值越大,该目标区域图像的权重越小。例如,该目标区域图像的权重可以为该目标区域图像的深度值的倒数,当然,该权重也可以是基于方式根据该深度值确定的,例如,手机可以从相关数据表中直接查找深度值对应的权重。
示例性的,如图14E所示,上述相邻的目标区域图像包括区域图像A和区域图像B。对于该区域图像A和该区域图像B的重叠部分中的各个像素点,手机根据(p1*t1+p2*t2)/(t1+t2)计算该像素点的加权后的像素值,即目标像素值,该p1表示该像素点在区域图像A的镜像部分的像素值,该t1表示该区域图像A的权重,该p2表示该像素点在区域图像B的镜像部分的像素值,该t2表示该区域图像B的权重。
应理解,上述图14A至图14E所示的图像以及分割线仅为一种示例,该分割线的形状可以是任意的。
上面介绍了手机对彩色图像中的各个彩色区域图像(即对焦区域图像和离焦区域图像)进行处理,使得彩色区域图像的各个部分均具备单反相机的成像特性的情况。当然也存在手机进行对彩色图像中的背景部分的处理的情况。在该情况下,手机确定该彩色图像的远景离焦区域图像,并对该远景离焦区域图像进行处理(如确定该远景离焦区域图像对应的目标区域图像,并将该目标区域图像与该彩色图像的其它彩色区域图像(即对焦区域图像和近景离焦区域图像)进行拼接,得到该彩色图像对应的目标图像),使得该彩色图像的背景部分具备单反相机的模糊效果,即虚化效果。
当然还存在手机对彩色图像中的前景部分的处理的情况。在该情况下,手机确定该彩色图像的近景离焦区域图像,并对该近景离焦区域图像进行处理(如确定该近景离焦区域图像对应的目标区域图像,并将该目标区域图像与该彩色图像的其它彩色区域图像(即对焦区域图像和近景离焦区域图像)进行拼接,得到该彩色图像对应的目标图像),使得该彩色图像的前景部分具备单反相机的模糊效果。
当然还存在手机对彩色图像中的对焦部分的处理的情况。在该情况下,手机确定该彩色图像的对焦区域图像,并对该对焦区域图像进行处理(如确定该对焦区域图像对应的目标区域图像,并将该目标区域图像与该彩色图像的其它彩色区域图像(即离焦区域图像)进行拼接,得到该彩色图像对应的目标图像),使得该彩色图像的对焦部分具备单反相机的成像效果。
在一些实施例中,如图12或图13所示,在得到目标图像后,该目标图像可能仍具有分割裂缝等问题。因此,为了提高图像质量,手机可以将该目标图像输入至目标网络模型中,该目标网络模型对该目标图像进行边缘平滑处理,也即对该目标图像进行修复,得到并输出边缘平滑的目标图像,也即模糊的完整图像,避免目标图像中出现白边等裂缝问题。
其中,目标网络模型为训练好的网络模型。相关人员可以将样本图像输入至网络模型中,以使该网络模型利用样本图像进行参数训练。该样本图像包括异常图像和异常图像对应的修复后的图像。该异常图像指示存在白边等问题的图像。例如,相关人员根据需求查找一些存在常见边缘问题的异常图像,并人工修复好该异常图像,得到该异常图像对应的修复后的图像。
在本申请实施例中,如图15所示,手机在得到手机摄像头拍摄的彩色图像后,先利用该彩色图像对应的深度图像对该彩色区域图像进行分割,得到多个彩色区域图像。然后,手机从预先标定的手机摄像头的PSF分布结果中查找各个彩色区域图像的第一PSF,并从预设标定的单反相机的PSF分布结果中查找各个彩色区域图像的第二PSF。之后,手机利用各个彩色区域图像的第一PSF去除对应彩色区域图像的手机成像特性(即手机摄像头的离焦模糊或手机摄像头的像差对应的成像效果,即对焦模糊),得到各个彩色区域图像对应的清晰图像,也即得到该彩色图像对应的清晰的原始场景图像,之后,手机利用各个彩色区域图像的第二PSF为对应清晰图像添加单反相机的成像特性(即单反相机的离焦模糊或者单反相机的像差对应的成像效果,即对焦模糊),得到具备单反相机模糊的虚化图像,实现单反相机成像效果的模拟。
在本申请实施例中,如图16所示,手机在得到手机摄像头拍摄的彩色图像后,手机先利用该彩色图像对应的深度图像对该彩色区域图像进行分割,得到多个彩色区域图像。然后,手机从预先标定的手机摄像头的PSF分布结果中查找各个彩色区域图像的第一PSF,并从预先标定的单反相机的PSF分布结果中查找各个彩色区域图像的第二PSF。之后,对于每个彩色区域图像,手机基于确定该彩色区域图像的第二PSF和第一PSF之间的转换关系(即手机摄像和单反相机之间的转换PSF)。然后,手机为该彩色区域图像添加该转换PSF,得到模拟单反相机成像效果的目标区域图像,从而能够得到该彩色图像对应的模拟单反相机的虚化效果的图像,该图像具备单反相机模糊,而不再存在手机摄像头的原始模糊,从而实现逼真的单反相机的成像效果的合成。
在一些实施例中,本申请提供一种计算机可读存储介质,包括计算机指令,当所述计算机指令在电子设备上运行时,使得所述电子设备执行如上所述的方法。
在一些实施例中,本申请提供一种计算机程序产品,当所述计算机程序产品在电子设备上运行时,使得所述电子设备执行如上所述的方法。
通过以上实施方式的描述,所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个装置,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是一个物理单元或多个物理单元,即可以位于一个地方,或者也可以分布到多个不同地方。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该软件产品存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上内容,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何在本申请揭露的技术范围内的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (13)
1.一种图像处理方法,其特征在于,应用于包括摄像头的电子设备,所述方法包括:
所述电子设备获取所述摄像头拍摄的彩色图像,并获取所述彩色图像对应的深度图像;所述深度图像包括多个深度区域图像,每个所述深度区域图像中的各个像素点的深度值均相同;
所述电子设备基于所述深度图像中的各个深度区域图像,对所述彩色图像进行分割,得到多个彩色区域图像;所述彩色区域图像与所述深度区域图像一一对应;
对于每个第一彩色区域图像,所述电子设备基于第一彩色区域图像的深度值,从预设的所述摄像头的点扩散函数PSF分布结果中确定所述第一彩色区域图像的第一PSF;所述摄像头的PSF分布结果是基于所述摄像头的成像结果标定得到的;所述第一彩色区域图像为所述多个彩色区域图像中的至少一个彩色区域图像;
所述电子设备基于所述第一彩色区域图像的深度值,从预设的单反相机的PSF分布结果中确定所述第一彩色区域图像的第二PSF;所述单反相机的PSF分布结果是基于所述单反相机的成像结果标定得到的;
所述电子设备根据所述第一彩色区域图像的第一PSF和第二PSF,对所述第一彩色区域图像进行单反相机模糊合成处理,得到所述第一彩色区域图像对应的目标区域图像;
所述电子设备对每个所述第一彩色区域图像对应的目标区域图像和第二彩色区域图像进行拼接处理,得到所述彩色图像对应的完整的目标图像;所述第二彩色区域图像包括所述多个彩色区域图像中除所述第一彩色区域图像以外的彩色区域图像。
2.根据权利要求1所述的方法,其特征在于,所述电子设备根据所述第一彩色区域图像的第一PSF和第二PSF,对所述第一彩色区域图像进行单反相机模糊合成处理,得到所述第一彩色区域图像对应的目标区域图像,包括:
所述电子设备基于所述第一彩色区域图像的第一PSF,对所述第一彩色区域图像进行去模糊处理,得到所述第一彩色区域图像对应的清晰图像;
所述电子设备基于所述第一彩色区域图像的第二PSF,对所述清晰图像进行模糊处理,得到所述目标区域图像。
3.根据权利要求2所述的方法,其特征在于,所述第一彩色区域图像包括多个第一像素块,所述第一彩色区域图像的第一PSF包括所述第一彩色区域图像中的每个第一像素块的第一PSF,所述第一彩色区域图像的第二PSF包括所述第一彩色区域图像中的每个第一像素块的第二PSF;所述第一像素块包括至少一个像素点;
所述电子设备基于所述第一彩色区域图像的第一PSF,对所述第一彩色区域图像进行去模糊处理,得到所述第一彩色区域图像对应的清晰图像,包括:
所述电子设备对于所述第一彩色区域图像中的每个第一像素块,基于所述第一像素块的第一PSF,对所述第一像素块中的各个像素点进行非盲反卷积处理,得到所述第一像素块对应的清晰第一像素块;
所述电子设备基于所述第一彩色区域图像的第二PSF,对所述清晰图像进行模糊处理,得到所述目标区域图像,包括:
所述电子设备基于所述第一像素块的第二PSF,对所述第一像素块对应的清晰第一像素块进行卷积处理,得到所述第一像素块对应的目标像素块;所述目标像素块为所述目标区域图像中的部分图像。
4.根据权利要求1所述的方法,其特征在于,所述电子设备根据所述第一彩色区域图像的第一PSF和第二PSF,对所述第一彩色区域图像进行单反相机模糊合成处理,得到所述第一彩色区域图像对应的目标区域图像,包括:
所述电子设备计算所述第一彩色区域图像的第二PSF与所述第一彩色区域图像的第一PSF之间的转换关系;
所述电子设备基于所述第一彩色区域图像的第二PSF与所述第一彩色区域图像的第一PSF之间的转换关系,对所述第一彩色区域图像进行模糊补偿,得到所述目标区域图像。
5.根据权利要求4所述的方法,其特征在于,所述第一彩色区域图像包括多个第一像素块,所述第一彩色区域图像的第一PSF包括所述第一彩色区域图像中的每个第一像素块的第一PSF,所述第一彩色区域图像的第二PSF包括所述第一彩色区域图像中的每个第一像素块的第二PSF;所述第一像素块包括至少一个像素点;
所述电子设备计算所述第一彩色区域图像的第二PSF与所述第一彩色区域图像的第一PSF之间的转换关系,包括:
对于所述第一彩色区域图像中的每个第一像素块,所述电子设备计算所述第一像素块的第一PSF与所述第一像素块的第二PSF之间的转换关系;
所述电子设备基于所述第一彩色区域图像的第二PSF与所述第一彩色区域图像的第一PSF之间的转换关系,对所述第一彩色区域图像进行模糊补偿,得到所述目标区域图像,包括:
所述电子设备基于所述第一像素块的第一PSF与所述第一像素块的第二PSF之间的转换关系,对所述第一像素块中的各个像素点进行模糊补偿,得到所述第一像素块对应的目标像素块;所述目标像素块为所述目标区域图像中的部分图像。
6.根据权利要求1至5中任一项所述的方法,其特征在于,所述摄像头的PSF分布结果包括摄像头的离焦面的PSF分布结果;所述摄像头的离焦面的PSF分布结果包括多个离焦深度和多个对焦深度,以及与一个所述离焦深度和一个所述对焦深度对应的第一PSF;所述对焦深度指示拍摄装置与焦平面之间的距离,所述离焦深度指示所述焦平面与离焦面之间的距离;
所述电子设备基于第一彩色区域图像的深度值,从预设的所述摄像头的点扩散函数PSF分布结果中确定所述第一彩色区域图像的第一PSF,包括:
所述电子设备获取所述彩色图像的对焦点位置,并从所述多个彩色区域图像中确定所述对焦点位置所属的彩色区域图像;
所述电子设备将所述对焦点位置所属的彩色区域图像作为对焦区域图像,并将所述多个彩色区域图像中所述对焦区域图像以外的彩色区域图像作为离焦区域图像;所述对焦区域图像指示焦平面的成像结果,所述对焦区域图像的深度值指示对焦深度;所述离焦区域图像指示离焦面的成像结果;
所述电子设备从所述离焦区域图像中确定所述第一彩色区域图像;
所述电子设备计算所述第一彩色区域图像的深度值与所述对焦区域的深度值之间的差值,得到所述第一彩色区域图像的离焦深度;
所述电子设备从所述摄像头的离焦面的PSF分布结果中确定与所述第一彩色区域图像的离焦深度和所述对焦区域图像的深度值对应的第一PSF。
7.根据权利要求6所述的方法,其特征在于,所述摄像头的PSF分布结果还包括摄像头的焦平面的PSF分布结果;所述摄像头的焦平面的PSF分布结果包括多个对焦深度,以及每个对焦深度对应的第一PSF;所述对焦区域图像为所述第一彩色区域图像;
所述电子设备基于第一彩色区域图像的深度值,从预设的所述摄像头的点扩散函数PSF分布结果中确定所述第一彩色区域图像的第一PSF,包括:
所述电子设备从所述摄像头的焦平面的PSF分布结果中确定与所述对焦区域图像的深度值对应的第一PSF,并将确定的第一PSF作为所述对焦区域图像的第一PSF。
8.根据权利要求6或7所述的方法,其特征在于,所述摄像头的离焦面的PSF分布结果包括远景离焦面的PSF分布结果和/或近景离焦面的PSF分布结果;所述远景离焦面指示位于焦平面后方的离焦面,所述近景离焦面指示位于焦平面前方的离焦面;
所述离焦区域图像包括远景离焦区域图像和/或近景离焦区域图像;所述远景离焦区域图像指示远景离焦面的成像结果,所述近景离焦区域图像指示近景离焦面的成像结果;
所述电子设备从所述离焦区域图像中确定所述第一彩色区域图像,包括:
所述电子设备将所述离焦区域图像中的远景离焦区域图像和/或近景离焦区域图像作为所述第一彩色区域图像。
9.根据权利要求1至5中任一项所述的方法,其特征在于,所述摄像头的PSF分布结果包括摄像头的离焦面的PSF分布结果;所述摄像头的离焦面的PSF分布结果包括多个颜色值、多个离焦深度和多个对焦深度,以及与一个所述颜色值、一个所述离焦深度和一个所述对焦深度对应的第一PSF;所述彩色区域图像包括多个第一像素块;所述第一彩色区域图像的第一PSF包括所述第一彩色区域图像的各个第一像素块的第一PSF;
所述电子设备基于第一彩色区域图像的深度值,从预设的所述摄像头的点扩散函数PSF分布结果中确定所述第一彩色区域图像的第一PSF,包括:
所述电子设备获取所述彩色图像的对焦点位置,并从所述多个彩色区域图像中确定所述对焦点位置所属的彩色区域图像;
所述电子设备将所述对焦点位置所属的彩色区域图像作为对焦区域图像,并将所述多个彩色区域图像中所述对焦区域图像以外的彩色区域图像作为离焦区域图像;
所述电子设备从所述离焦区域图像中确定所述第一彩色区域图像;
所述电子设备计算所述第一彩色区域图像的深度值与所述对焦区域的深度值之间的差值,得到所述第一彩色区域图像的离焦深度;
对于所述第一彩色区域图像中的每个第一像素块,所述电子设备确定所述第一像素块的颜色值;
所述电子设备从所述摄像头的离焦面的PSF分布结果中确定与所述第一像素块的颜色值、所述第一彩色区域图像的离焦深度和所述对焦区域图像的深度值对应的第一PSF,并将确定的第一PSF作为所述第一像素块的第一PSF。
10.根据权利要求9所述的方法,其特征在于,所述与一个所述颜色值、一个所述离焦深度和一个所述对焦深度对应的第一PSF包括与所述颜色值和所述离焦深度对应的离焦面的成像结果上的各个位置上的第二像素块分别对应的第一PSF;
所述从所述摄像头的离焦面的PSF分布结果中确定与所述第一像素块的颜色值、所述第一彩色区域图像的离焦深度和所述对焦区域图像的深度值对应的第一PSF,包括:
所述电子设备确定所述第一像素块的位置信息,并从与所述第一像素块的颜色值、所述第一彩色区域图像的离焦深度和所述对焦区域图像的深度值对应的第一PSF中获取与所述第一像素块的位置信息所对应的第一PSF。
11.根据权利要求1至10中任一项所述的方法,其特征在于,在所述得到所述彩色图像对应的完整的目标图像之后,还包括:
所述电子设备将所述目标图像作为输入,运行所述电子设备上的目标网络模型输出边缘平滑的目标图像;其中,所述目标网络模型用于对图像进行边缘平滑处理。
12.一种电子设备,其特征在于,所述电子设备包括显示屏、摄像头、存储器和一个或多个处理器;所述显示屏、所述摄像头、所述存储器和所述处理器耦合;所述摄像头用于采集图像,所述显示屏用于显示所述处理器生成的图像,以及所述摄像头采集的图像,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令;当所述处理器执行所述计算机指令时,使得所述电子设备执行如权利要求1至11中任一项所述的图像处理方法。
13.一种计算机可读存储介质,其特征在于,包括计算机指令,当所述计算机指令在电子设备上运行时,使得所述电子设备执行如权利要求1至11中任一项所述的图像处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211020256.XA CN116051362B (zh) | 2022-08-24 | 2022-08-24 | 图像处理方法及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211020256.XA CN116051362B (zh) | 2022-08-24 | 2022-08-24 | 图像处理方法及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116051362A CN116051362A (zh) | 2023-05-02 |
CN116051362B true CN116051362B (zh) | 2023-09-15 |
Family
ID=86120613
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211020256.XA Active CN116051362B (zh) | 2022-08-24 | 2022-08-24 | 图像处理方法及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116051362B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108076286A (zh) * | 2017-11-30 | 2018-05-25 | 广东欧珀移动通信有限公司 | 图像虚化方法、装置、移动终端和存储介质 |
CN110035218A (zh) * | 2018-01-11 | 2019-07-19 | 华为技术有限公司 | 一种图像处理方法、图像处理装置及拍照设备 |
CN111539960A (zh) * | 2019-03-25 | 2020-08-14 | 华为技术有限公司 | 图像处理方法以及相关设备 |
WO2021160648A1 (de) * | 2020-02-10 | 2021-08-19 | Hochschule Düsseldorf | Verfahren zum anpassen einer optischen abbildung |
CN113888437A (zh) * | 2021-10-15 | 2022-01-04 | Oppo广东移动通信有限公司 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
-
2022
- 2022-08-24 CN CN202211020256.XA patent/CN116051362B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108076286A (zh) * | 2017-11-30 | 2018-05-25 | 广东欧珀移动通信有限公司 | 图像虚化方法、装置、移动终端和存储介质 |
WO2019105214A1 (zh) * | 2017-11-30 | 2019-06-06 | Oppo广东移动通信有限公司 | 图像虚化方法、装置、移动终端和存储介质 |
CN110035218A (zh) * | 2018-01-11 | 2019-07-19 | 华为技术有限公司 | 一种图像处理方法、图像处理装置及拍照设备 |
CN111539960A (zh) * | 2019-03-25 | 2020-08-14 | 华为技术有限公司 | 图像处理方法以及相关设备 |
WO2021160648A1 (de) * | 2020-02-10 | 2021-08-19 | Hochschule Düsseldorf | Verfahren zum anpassen einer optischen abbildung |
CN113888437A (zh) * | 2021-10-15 | 2022-01-04 | Oppo广东移动通信有限公司 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
Non-Patent Citations (4)
Title |
---|
Wavelet Synthesis Net for Disparity Estimation to Synthesize DSLR Calibre Bokeh Effect on Smartphones;Chenchi Luo 等;2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition;第2407-2415页 * |
基于图像感知与分割的自动背景虚化算法;刘成民 等;激光与光电子学进展;第59卷(第04期);第0410002页 * |
基于多聚焦图像深度信息提取的背景虚化显示;肖进胜 等;自动化学报;第42卷(第02期);第304-311页 * |
基于贝叶斯抠图的图像背景虚化技术;李晓颖 等;电脑知识与技术;第13卷(第28期);第211-214页 * |
Also Published As
Publication number | Publication date |
---|---|
CN116051362A (zh) | 2023-05-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112150399B (zh) | 基于宽动态范围的图像增强方法及电子设备 | |
JP5108093B2 (ja) | 撮像装置及び撮像方法 | |
WO2019105154A1 (en) | Image processing method, apparatus and device | |
CN113810598B (zh) | 一种拍照方法、电子设备及存储介质 | |
KR20120068655A (ko) | 무선통신장치를 이용하여 양질의 홍채 및 피사체 영상을 편리하게 촬영하기 위한 방법 및 한 개의 밴드패스필터로 가시광선과 근적외선 일부영역을 투과시키는 카메라 장치 | |
JP4156893B2 (ja) | 画像処理装置、方法及びプログラム | |
JP7051373B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 | |
CN114092364A (zh) | 图像处理方法及其相关设备 | |
CN104580922A (zh) | 一种拍摄补光的控制方法和装置 | |
CN105103534A (zh) | 摄像装置、校准方法、程序以及记录介质 | |
US20140085422A1 (en) | Image processing method and device | |
CN111246092B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN111385461B (zh) | 全景拍摄方法及装置、相机、移动终端 | |
CN116051362B (zh) | 图像处理方法及电子设备 | |
CN112116530B (zh) | 鱼眼图像畸变矫正方法、装置和虚拟显示系统 | |
WO2013153252A1 (en) | Method and apparatus for producing special effects in digital photography | |
JP7398939B2 (ja) | 画像処理装置およびその制御方法、撮像装置、プログラム、並びに記憶媒体 | |
CN207939596U (zh) | 一种双摄像头模组 | |
JP2004120600A (ja) | デジタル双眼鏡 | |
JP5818515B2 (ja) | 画像処理装置、画像処理方法およびそのプログラム | |
CN117135420B (zh) | 图像同步方法及其相关设备 | |
CN114762313B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
JP6126638B2 (ja) | 画像処理装置、画像処理方法およびそのプログラム | |
CN117115004A (zh) | 一种图像处理方法和电子设备 | |
US20200374423A1 (en) | Information processing apparatus, information processing method, program, and interchangeable lens |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |