CN114422682B - 拍摄方法、电子设备和可读存储介质 - Google Patents
拍摄方法、电子设备和可读存储介质 Download PDFInfo
- Publication number
- CN114422682B CN114422682B CN202210104514.6A CN202210104514A CN114422682B CN 114422682 B CN114422682 B CN 114422682B CN 202210104514 A CN202210104514 A CN 202210104514A CN 114422682 B CN114422682 B CN 114422682B
- Authority
- CN
- China
- Prior art keywords
- image
- scene
- image data
- style
- parameters
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 91
- 230000008569 process Effects 0.000 claims abstract description 35
- 238000004422 calculation algorithm Methods 0.000 claims description 86
- 230000015654 memory Effects 0.000 claims description 37
- 238000013528 artificial neural network Methods 0.000 claims description 22
- 239000000284 extract Substances 0.000 claims description 10
- 238000010801 machine learning Methods 0.000 claims description 8
- 230000009467 reduction Effects 0.000 claims description 6
- 238000005516 engineering process Methods 0.000 abstract description 8
- 238000012545 processing Methods 0.000 description 59
- 238000012937 correction Methods 0.000 description 18
- 238000004891 communication Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 11
- 238000007726 management method Methods 0.000 description 11
- 230000003287 optical effect Effects 0.000 description 11
- 238000012549 training Methods 0.000 description 11
- 230000008571 general function Effects 0.000 description 10
- 238000010295 mobile communication Methods 0.000 description 10
- 238000007635 classification algorithm Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 229920001621 AMOLED Polymers 0.000 description 6
- 241001465754 Metazoa Species 0.000 description 4
- 238000013473 artificial intelligence Methods 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 4
- 238000013135 deep learning Methods 0.000 description 4
- 230000007613 environmental effect Effects 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 4
- 239000002096 quantum dot Substances 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 230000005236 sound signal Effects 0.000 description 3
- 230000001360 synchronised effect Effects 0.000 description 3
- 241000196324 Embryophyta Species 0.000 description 2
- 230000003416 augmentation Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 238000003066 decision tree Methods 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 241000533950 Leucojum Species 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 238000007477 logistic regression Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000013488 ordinary least square regression Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/64—Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/88—Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
Abstract
本申请涉及拍摄技术领域,特别涉及一种拍摄方法、电子设备和可读存储介质,该方法包括:在电子设备的拍摄过程中,图像信号处理器获取镜头采集的图像数据;图像信号处理器获取与图像数据所属的场景类型所对应的图像风格参数的参数值,场景类型的图像风格参数的参数值是基于电子设备上存储的图像确定的;图像信号处理器根据图像风格参数的参数值,对图像数据进行处理,得到目标图像数据;电子设备将目标图像数据对应的目标图像作为拍摄结果,向用户显示。本申请提供的拍照方法,无需用户手动操作即可得到用户偏好的图像风格类型,提高用户的使用体验。
Description
技术领域
本发明涉及拍摄技术领域,具体涉及一种拍摄方法、电子设备和可读存储介质。
背景技术
随着图像处理类产业的发展,人们越来越习惯对手机、平板电脑等终端类电子设备拍摄的图像添加滤镜,以得到自己喜欢的图像风格类型。由此,一些拍摄应用和图像处理应用陆续出现。例如,参考图1a所示,用户在使用手机100进行拍摄时,可以打开拍摄应用的界面10,并在其提供的多种滤镜中选择自己喜欢的滤镜3,然后调整好拍摄应用的取景区域101至用户需要的范围,点击拍摄按钮102。手机100显示出的照片103的图像风格类型与滤镜3对应的图像风格类型相同。再例如,参考图1b所示,用户操作手机100打开相机的界面11,调整好相机取景区域101至用户需要的范围,然后点击拍摄按钮102,得到图像104。用户可以打开图像处理应用的界面12,在图像处理应用提供的多种滤镜中,选择自己喜欢的滤镜3,使得拍摄的照片的图像风格类型与滤镜3的图像风格类型相同,得到添加滤镜后的照片105。
然而,上述图1a至图1b所示的图像处理的过程中,无论是采用拍摄应用添加的滤镜,还是拍摄好图像后添加滤镜,均需要用户手动为图像添加滤镜,以得到用户偏好的图像风格类型,操作比较繁琐,用户体验感不高。
发明内容
为解决上述用户需要手动选择滤镜、体验感不高的问题,本申请实施例提供了一种拍摄方法、电子设备和可读存储介质。
第一方面,本申请实施例提供了一种拍摄方法,应用于电子设备,电子设备包括镜头和图像信号处理器,该方法包括:在电子设备的拍摄过程中,图像信号处理器获取镜头采集的图像数据;图像信号处理器获取与图像数据所属的场景类型所对应的图像风格参数的参数值,场景类型的图像风格参数的参数值是基于电子设备上存储的图像确定的;图像信号处理器根据图像风格参数的参数值,对图像数据进行处理,得到目标图像数据;电子设备将目标图像数据对应的目标图像作为拍摄结果,向用户显示。
可以理解,电子设备中预设有多种场景类型,图像数据所属的场景类型为电子设备中预设的多种场景类型之一。预设的场景类型可以根据不同的拍摄对象进行划分,例如风景场景类型、人像场景类型、动物场景类型等,还可以根据不同的天气进行划分,例如雨景场景类型、晴天场景类型、雪景场景类型等,还可以结合拍摄对象和天气进行划分,例如风景场景类型根据不同的天气进行进一步划分等,本申请对此不作限制。
可以理解,其中的拍摄结果可以为由单张图像的图像数据得到的图像,还可以为多张连续的图像的图像数据得到的视频或动图,本申请对此不作限制。
可以理解,图像风格参数为图像信号处理器在对镜头采集的图像进行处理时,可以理解为下文中的ISP参数,不同的图像风格参数的参数值对应不同的图像风格类型。电子设备在拍摄前,可以根据设备中存储的图像,确定各场景类型对应的图像风格参数的参数值,进而在电子设备拍摄的过程中,图像信号处理器可以根据各场景类型对应的图像风格参数的参数值,对镜头采集的图像数据进行处理,得到对应场景类型下用户偏好的图像风格类型。可以理解,本申请实施例中的拍摄方法,无需用户手动操作,电子设备即可将图像数据处理成用户偏好的图像风格类型,提高用户使用体验。
在上述第一方面的一种可能的实现方式中,图像风格参数包括下列中的至少一种:黑电平补偿的参数、坏点矫正的参数、自动白平衡的参数、镜头矫正的参数、降噪的参数、边缘增强的参数、亮度调整的参数、对比度调整的参数、色度调整的参数、颜色矫正的参数、伽玛矫正的参数。
可以理解,黑电平补偿、坏点矫正、自动白平衡、镜头矫正、降噪、边缘增强、亮度调整、对比度调整、色度调整、颜色矫正和伽玛矫正对应于图像信号处理器的通用功能模块中的不同子模块,不同的子模块会对图像数据的不同参数作调整。可以理解,图像数据所述的场景类型对应的图像风格参数可以是上述参数中的任意之一,也可以是上述参数中的多个参数,还可以是上述所有的参数。
可以理解,上述图像风格参数为本申请实施例中的一种举例,本申请实施例中的图像风格参数还可以包括比上述更多或更少的参数,在此不作限制。
在上述第一方面的一种可能的实现方式中,图像信号处理器获取与图像数据所属的场景类型所对应的图像风格参数,包括:图像信号处理器提取图像数据的第一特征信息,并根据第一特征信息判断图像数据所属的场景类型。
可以理解,第一特征信息为图像信号处理器在确定图像数据的场景类型时,对图像数据进行特征提取得到的信息,第一特征信息可以包括:物体特征信息、环境特征信息、光线特征信息等。其中,物体特征信息可以包括物体类别信息、物体颜色信息、物体比例信息,物体类别信息可以是人物、风景、动物、植物、物品等的类似信息;物体颜色信息可以是彩色物品、黑白物品等的类似信息,物体比例信息是指物体占整体图片的比例。环境特征可以是如室内、室外、草原、大海、沙漠等的类似信息,光线特征可以是如白天、阴天、黑夜等的类似信息。在一些实施例中,第一特征信息还可以包括信息之外其他特征信息,上述第一特征信息是本申请实施例中的一种举例,本申请对此不作限制。
可以理解,电子设备中预设多个场景类型,根据第一特征信息判断图像数据所属的场景类型为,根据第一特征信息,在预设的多个场景类型中确定第一特征信息对应的场景类型。
在上述第一方面的一种可能的实现方式中,电子设备还包括神经网络处理器,图像风格参数的参数值是通过以下方式预先确定:神经网络处理器获取电子设备存储的多张图像;神经网络处理器确定多张图像中各图像所属的场景类型;神经网络处理器确定多张图像的图像风格参数的参数值,并根据各场景类型下各图像的图像风格参数的参数值,确定各场景类型对应的图像风格参数的参数值。
可以理解,神经网络处理器确定多张图像中各图像所属的场景类型为,神经网络处理器确定各图像与电子设备中预设的多个场景类型的对应关系。
在上述第一方面的一种可能的实现方式中,神经网络处理器确定多张图像中各图像所属的场景类型,包括:神经网络处理器通过机器学习算法提取多张图像中各图像的第二特征信息,并确定第二特征信息与各场景类型的对应关系。
可以理解,第二特征信息为图像信号处理器在确定多张图像的场景类型时,对图像数据进行特征提取得到的信息,第二特征信息与上文中的第一特征信息可以为同种特征信息,其区别在于对应的图像不同,在此不作赘述。
在上述第一方面的一种可能的实现方式中,机器学习算法包括场景分类学习算法或场景聚类算法。
可以理解,在一些实施例中,获取的多张图像的图像数据量过大,例如获取的多张图像为电子设备存储的所有图像,可以先采用场景聚类算法对多张图像的第二特征信息进行聚类,并确定每个类别对应的场景类型。在另一些实施例中,获取的多张图像的图像数据量较小,例如获取的多张图像为电子设备存储的图像之一或之二,可以采用场景分类学习算法确定第二特征信息对应的场景类型。
在上述第一方面的一种可能的实现方式中,神经网络处理器确定多张图像的图像风格参数的参数值包括:神经网络处理器通过机器分类学习算法提取多张图像中各图像的第三特征信息,并确定第三特征信息与各图像风格参数的参数值的对应关系。
可以理解,第三特征信息为图像信号处理器在确定图像数据的场景类型时,对图像数据进行特征提取得到的信息,提取的第三特征信息可以包括:饱和度信息、对比度信息、颜色直方图信息、亮度直方图信息、主体类别信息中的至少一种。此外,第三特征信息还可以包含其他信息,本申请对此不作限制。
在一些实施例中,第一特征信息、第二特征信息与第三特征信息可以包括相同的内容,在另一些实施例中,第一特征信息、第二特征信息与第三特征信息可以包括不同的内容。
在上述第一方面的一种可能的实现方式中,神经网络处理器根据各场景类型下各图像的图像风格参数的参数值,确定各场景类型对应的图像风格参数的参数值,包括:神经网络处理器确定第二对应关系中,各场景类型下对应第三特征信息最多的预设图像风格参数的参数值为该场景类型对应的图像风格参数的参数值。
第二方面,本申请实施例提供了一种电子设备,一个或多个处理器;一个或多个存储器;一个或多个存储器存储有一个或多个程序,当一个或者多个程序被一个或多个处理器执行时,使得电子设备执行上述拍摄方法。
第三方面,本申请实施例提供了一种计算机可读存储介质,存储介质上存储有指令,指令在计算机上执行时使所述计算机执行上述拍摄方法。
第四方面,本申请实施例提供了一种计算机程序产品,计算机程序产品包括指令,该指令在执行时使计算机执行上述拍摄方法。
附图说明
图1a至图1b为一些对拍摄的图像添加滤镜的界面图;
图2所示为本申请实施例提供的一种电子设备的结构示意图;
图3所示为本申请实施例提供的一种拍摄方法的结构示意图;
图4所示为本申请实施例提供的一种拍摄方法的流程示意图;
图5a至图5c所示为本申请实施例提供的一些拍摄方法的界面图;
图6所示为本申请实施例提供的另一种拍摄方法的流程示意图;
图7所示为本申请实施例提供的一种ISP的结构示意图;
图8所示为本申请实施例提供的一种通用功能模块对图像数据进行处理的过程示意图;
图9所示为本申请实施例提供的一种适应于本申请拍摄方法的手机的结构示意图。
具体实施方式
本申请的说明性实施例包括但不限于一种拍摄方法、电子设备和可读存储介质。下面将结合附图对本申请的实施例作进一步地详细描述。
在以下的叙述中,为了使读者更好地理解本发明而提出了许多技术细节。但是,本领域的普通技术人员可以理解,即使没有这些技术细节和基于以下各实施方式的种种变化和修改,也可以实现本发明各权利要求所要求保护的技术方案。
为解决上述用户在获得自己想要的图像风格时,需要由终端设备对拍摄好的图像进行处理,终端设备的系统工作量大、占用内存多的问题,本申请提供了一种拍摄方法。该方法通过获取用户喜欢的参考图像,确定在不同场景下用户偏好的图像风格类型。进而用户在拍摄时,电子设备可以根据在该拍摄的场景下用户偏好的图像风格类型,对电子设备的图像信号处理器(Image Signal Processing,ISP)中的ISP参数的参数值进行调整,使得ISP参数的参数值调整至用户偏好的图像风格类型对应的ISP参数的参数值,ISP可以基于调整后的ISP参数处理电子设备采集的图像,得到满足用户偏好的图像风格类型的图像。
具体地,电子设备在获取到用户喜欢的参考图像后,可以通过电子设备中预设的机器学习算法,对参考图像进行图像的分析处理,确定参考图像对应的场景类型(下文称参考场景类型),并在电子设备预设的多种待选图像风格类型中,确定参考图像匹配的参考图像风格类型,进而确定的参考图像风格类型可以作为参考场景类型下用户偏好的图像风格类型,并将参考场景类型和各参考场景下的参考图像风格类型的对应关系发送给电子设备的ISP。在用户使用终端设备进行拍摄时,终端设备会确定拍摄的场景类型,若拍摄的场景类型匹配于参考场景类型,则调整ISP中参数的参数值,例如通用功能模块中参数的参数值,使其匹配于参考图像风格类型对应的参考ISP参数的参数值。进而电子设备在参考场景类型下,拍摄出的照片的图像风格类型可以符合用户的偏好。
本申请实施例提供的拍摄方法,在用户拍摄的过程中,电子设备通过调整ISP的参数值,由ISP对电子设备采集的图像进行处理,可以直接拍摄出用户在不同场景下的偏好的图像风格类型的图像,无需用户手动操作即可得到用户偏好的图像风格类型,提高用户的使用体验。
可以理解,电子设备中预设有多种场景类型,图像数据所属的场景类型为电子设备中预设的多种场景类型之一。预设的场景类型可以根据不同的拍摄对象进行划分,例如风景场景类型、人像场景类型、动物场景类型等,还可以根据不同的天气进行划分,例如雨景场景类型、晴天场景类型、雪景场景类型等,还可以结合拍摄对象和天气进行划分,例如风景场景类型根据不同的天气进行进一步划分等,本申请对此不作限制。
可以理解,上述ISP参数为ISP在进行图像处理时涉及到的图像处理的参数,可以例如包括黑电平补偿的参数、坏点矫正的参数、自动白平衡的参数、镜头矫正的参数、降噪的参数、边缘增强的参数、亮度调整的参数、对比度调整的参数、色度调整的参数、颜色矫正的参数、伽玛矫正的参数等,本申请对此不作限制。
可以理解,在另一些实施例中,上述ISP参数还可以包括用于调整镜头的相关参数,例如用于调整镜头的光圈、快门、焦距等的参数,本申请对此不作限制。
可以理解,电子设备的ISP中或电子设备的存储器中预先存储有图像风格类型以及对应的ISP参数的参数值,ISP在根据用户在不同场景类型下偏好的图像风格类型对ISP参数的参数值进行调整时,可以获取图像风格类型对应的ISP参数的参数值,然后根据获取到的ISP参数的参数值完成对ISP参数的调整。
可以理解,应用本申请提供的拍摄方法得到的拍摄结果可以为单张图像(即照片),也可以为多帧图像组成的视频或动图,本申请对此不作限制。
为了更好地理解本申请实施例的方案,下面先对本申请实施例可能涉及的电子设备进行介绍。可以理解,电子设备200可以包括但不限于:膝上型计算机、台式计算机、平板计算机、手机、服务器、可穿戴设备、头戴式显示器、移动电子邮件设备、便携式游戏机、阅读器设备、电视机等。
图2所示为本申请实施例中一种电子设备200的结构示意图。
如图2所示,电子设备200可以包括镜头201、图像传感器202、显示屏207以及片上系统(system on chip,SOC)2000。其中,镜头201和图像传感器202连接,图像传感器202与片上系统2000连接。
具体的,镜头201用于收集景物反射的光信号并呈现在图像传感器202上,镜头201可以是定焦镜头、变焦镜头、鱼眼镜头、全景镜头等。
图像传感器202用于将通过镜头201收集的景物反射的光信号转换为电信号,生成原始图像(RAW)数据并将原始图像数据发送至片上系统2000,例如原始图像(RAW)数据可以为Bayer格式的数据。图像传感器可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管通成。
片上系统2000可以包括ISP 203、神经网络处理器(Neural network ProcessingUnit,NPU)204、中央处理器(central processing unit,CPU)206;其中,ISP 203、NPU 204、CPU 206可以通过总线耦接;在另一些实施例中,片上系统2000可以包括ISP 203和NPU204,其中,ISP 203和NPU 204通过总线耦接,CPU 206为电子设备中独立的器件。在另一些实施例中,片上系统2000可以包括ISP 203、NPU 204及存储器205,存储器205可以为双倍速率同步动态随机存储器,其中,ISP 203、NPU 204、CPU 206及存储器205可以通过总线耦接;在另一些实施例中,ISP 203、NPU 204、CPU 206也可以均是电子设备200中独立的器件。
显示屏207用于显示图像,视频等。显示屏207包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Mini-LED,Micro-LED,Micro-OLED,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,电子设备200可以包括1个或N个显示屏207,N为大于1的正整数。
可以理解,图2中所示的片上系统2000只是一种示例性说明,本领域的技术人员应当理解,在另一些实施例中,可以增加或减少一些部件,例如,增加总线控制单元、中断管理单元、协处理器等,还可以拆分或者组合一些部件,例如,将ISP 203和CPU 206集成在一起,本申请实施例不作限制。
ISP 203是用于图像数据处理的专用集成电路(application-specificintegrated circuit,ASIC),用于对图像传感器202形成的图像数据进行进一步处理,以获得更好的图像质量。
NPU 204是为深度学习设计的ASIC,在一些实施例中,可以通过从存储器204中获取的参考图像,判断参考图像的参考场景类型和参考图像风格类型,例如可以进行深度学习模型推理,例如可以包括:神经网络模型训练、图像识别、人脸识别等。
CPU 206可以包括一个或多个处理单元,例如,可以包括中央处理器CPU(CentralProcessing Unit)、图像处理器GPU(Graphics Processing Unit)、数字信号处理器DSP(Digital Signal Processor)、微处理器MCU(Micro-programmed Control Unit)、AI(Artificial Intelligence,人工智能)处理器或可编程逻辑器件FPGA(FieldProgrammable Gate Array)等的处理模块或处理电路。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
ISP 203、NPU 204、CPU 206通过总线耦接。总线可以是高级高性能总线(advancedhigh-performance bus,AHB),也可以是其他类型的数据总线。
本申请实施例提供的上述片上系统2000包括能够通过NPU 204确定各场景类型下用户偏好的图像风格类型,并将参考场景类型与各参考场景类型下的参考图像风格类型的对应关系发送给ISP 203。用户在操作电子设备200进行拍摄时,ISP 203可以根据电子设备200采集的图像的场景类型,确定在场景类型下用户偏好的图像风格类型,并根据确定的图像风格类型对ISP 203的ISP参数的参数值进行调整。ISP 203可以根据调整后的ISP参数的参数值对采集的图像进行处理,得到满足用户偏好的图像风格类型的照片。
可以理解,图2所示的电子设备200的结构只是一种示例,可以是包含ISP 203、NPU204和CPU 206的任意电子设备200,并不构成对电子设备200的具体限定,在另一些实施例中,电子设备200可以包含更多或更少的模块,还可以组合或者拆分部分模块,本申请实施例不作限制。
可以理解,在一些实施例中,终端设备进行拍摄时,需要通过ISP 203对镜头201和图像传感器202采集的图像进行处理。
图3所示为本申请实施例中电子设备200拍摄时的流程图。
如图3所示,镜头会采集取景范围内的景物反射的光,并将得到的光信号投射到图像传感器的感光区域。图像传感器可以进行光电转换,将光信号转换为原始的图像,形成RAW格式的图像数据并传递给片上系统2000的ISP 203中。ISP 203可以通过其中的通用功能模块对图像进行处理。其中,通用功能模块可以例如包括自动光圈、自动曝光、自动白平衡、色调调整等功能模块。ISP进行图像处理后,将处理后的图像反馈给中央处理器(central processing unit,CPU),CPU进行界面渲染后在显示屏207上显示图像。
可以理解,在一些实施例中,本申请实施例提供的拍摄方法中,ISP可以存储获取到的参考图像的参考场景类型以及对应的参考图像风格类型。当用户使用终端设备进行拍摄时,ISP在确定用户的拍摄场景类型与参考图像的参考场景类型匹配时,会根据参考图像风格类型对应的参考ISP参数的参数值,调整ISP 203中的至少部分ISP参数的参数值。根据调整后的ISP参数的参数值,实现对拍摄的图像的处理。本申请实施例中的拍摄方法,在电子设备拍摄成像的过程中,对ISP参数进行调整,得到用户喜欢的图像风格类型,无需用户手动操作即可得到用户偏好的图像风格类型,提高用户的使用体验。
下面以电子设备200为手机为例,结合图4对本申请实施例中的一种拍摄方法进行介绍。
图4所示为本申请实施例中的一种拍摄方法的流程图。
可以理解,在图4对应的实施例中,以部分用户选择的参考图像确定用户在参考场景类型下偏好的图像风格类型,并以该图像风格类型进行智能拍摄。如图4所示,本申请实施例中的拍摄方法包括:
401:NPU 204从存储器中读取参考图像对应的参考图像数据。
可以理解,参考图像数据可以表征用户在参考图像的参考场景类型下,用户偏好的照片的图像风格类型。其中,NPU 204获取的参考图像数据可以为一张参考图像对应的数据,也可以为多张参考图像对应的图像数据。
可以理解,手机200的相册应用、图库应用、照片应用等应用中可以显示手机200的存储器205中的图像数据。
在一些实施例中,参考图像可以为用户在相册应用、图库应用、照片应用等应用中标记的图像,用户在标记好喜欢的参考图像后,NPU 204可以从存储器205中获取标记好的参考图像的参考图像数据。其中的标记可例如将照片标记为喜欢,也可例如标记为收藏等,本申请对此不作限制。
在一些实施例中,参考图像可以为用户打开相册应用、图库应用、照片应用等应用后,选择喜欢的图像风格类型对应的图像,然后将该选择的图像导入拍摄应用,手机200检测到拍摄应用中导入图像后,即将该图像作为参考图像,进而NPU 204即可从存储器205中获取参考图像的参考图像数据。
在另一些实施例中,参考图像的确定方法也可以为标记图像和向拍摄应用中导入图像的其他的操作,本申请对此不作限制。
402:NPU 204确定参考图像数据的参考场景类型。
示例性地,NPU 204可以利用场景分类学习算法确定参考图像数据的参考场景类型。
可以理解,其中的场景分类学习算法为机器学习算法中的分类算法。可以理解,机器分类学习算法是一种对离散型随机变量建模或预测的监督学习方法。其中分类学习的目的是从给定的人工标注的分类训练样本数据集中学习出一个分类函数或者分类模型,也常常称作分类器(classifier)。当新的数据到来时,可以根据这个函数进行预测,将新数据项映射到给定类别中的某一个类中。
具体地,场景分类学习算法的训练为,通过大量的图像数据以及图像数据对应的场景类型作为训练数据集,构建出图像数据与场景类型之间的规律,进而NPU 204可以通过构建出的规律,对输入的参考图像数据的参考场景类型进行预测,即执行上述步骤402。具体地,场景分类学习算法,即通过将图像数据的特征信息,以及图像数据的场景类型作为输入,找到特征信息与场景类型之间的关系。进而,当有新的图像数据(例如参考图像数据)输入场景分类学习算法时,场景分类学习算法可以通过构建好的关系,在场景分类学习算法已有的各场景类型中,确定与新的图像数据匹配的场景类型。其中,特征信息可以包括:物体特征信息、环境特征信息、光线特征信息等。其中,物体特征信息可以包括物体类别信息、物体颜色信息、物体比例信息,物体类别信息可以是人物、风景、动物、植物、物品等的类似信息;物体颜色信息可以是彩色物品、黑白物品等的类似信息,物体比例信息是指物体占整体图片的比例。环境特征可以是如室内、室外、草原、大海、沙漠等的类似信息,光线特征可以是如白天、阴天、黑夜等的类似信息。
在一些实施例中,场景分类学习算法可以例如采用对数几率回归(LogisticRegression)算法、最小二乘回归(Ordinary Least Squares Regression)算法、贝叶斯分类算法、决策树(Decision Tree)算法、深度学习(Deep Learning)算法等分类算法,其中的深度学习算法可以包括卷积神经网络(Convolutional Neural Networks,CNN)算法、生成式网络(Generative Network,GAN)算法等,本申请对此不作限制。
可以理解,在另一些实施例中,NPU 204也可以基于其他方式来确定参考图像数据的参考场景,本申请对此不作限制。
403:NPU 204确定参考图像数据的参考图像风格类型。
示例性地,NPU 204可以利用风格分类学习算法确定参考图像数据的参考图像风格类型。
其中,风格分类学习算法为机器学习算法中的分类算法。可以理解,风格分类学习算法与上述场景分类学习算法为相似类型的算法,其区别在于:场景分类学习算法为通过大量的图像数据以及图像数据对应的场景类型作为训练数据集,构建出图像数据与场景类型之间的规律,进而NPU 204可以通过构建出的规律,对输入的参考图像数据的参考场景类型进行预测。风格分类学习算法为通过大量图像数据以及图像数据对应的图像风格类型作为训练数据集,构建出图像数据与图像风格类型之间的规律,进而NPU 204可以通过构建出的规律,对输入的参考图像数据的参考图像风格类型进行预测。即场景分类学习算法和风格分类学习算法对于输入的相同的参考图像数据,可以输出不同的结果:参考场景类型和参考图像风格类型。
具体地,风格分类学习算法,即通过将图像数据的特征信息,以及图像数据的场景类型作为输入,找到特征信息与场景类型之间的关系。进而,当有新的图像数据(例如参考图像数据)输入场景分类学习算法时,场景分类学习算法可以通过构建好的关系,在场景分类学习算法已有的各场景类型中,确定与新的图像数据匹配的场景类型。
在一些实施例中,在训练场景分类学习算法和风格分类学习算法时,提取的特征信息可以是不同的。在训练风格分类学习算法时,提取的特征信息可以包括:饱和度信息、对比度信息、颜色直方图信息、亮度直方图信息、主体类别信息中的至少一种。当然,特征信息还可以包含其他信息,本申请对此不作限制。
在另一些实施例中,在训练场景分类学习算法和风格分类学习算法时,提取的特征信息可以是相同的,进而可以采用相同的特征信息集合作为训练训练场景分类学习算法和风格分类学习算法的部分训练数据集。
其中,风格分类学习算法采用的分类算法可例如上文中场景分类学习算法的举例。并且,在一些实施例中,风格分类学习算法可以与场景分类学习算法采用相同的分类算法,在另一些实施例中,风格分类学习算法可以与场景分类学习算法采用不同的分类算法,本申请对此不作限制。
可以理解,在一些实施例中,参考图像风格类型为手机200中预设的多种图像风格类型之一,即手机200中预先定义好了不同场景类型下的多种图像风格类型。进而执行上述步骤403的过程即为,NPU 204对参考图像数据进行图像的分析处理,例如提取图像特征信息等,进而分别与手机200中预先定义好的参考场景类型下的多种图像风格类型进行匹配,匹配度最高的图像风格类型即可作为参考图像场景类型。
其中,图像风格类型,可以理解为图像的滤镜,可以表示一张图像的特殊显示效果。可以根据图像的特征信息的不同,划分出不同的图像风格并对其进行命名。例如,根据色调由暖色调渐变为冷色调的色调参数的参数值,可以将图像风格类型划分出鲜明风格类型、暖色风格类型,进一步地,还可以对鲜明风格类型和暖色风格类型进行进一步划分。再例如,结合饱和度信息、对比度信息等,划分出“电影”、“怀旧”、“胶片相机”等图像风格类型,本申请对此不作限制。
可以理解,步骤402和步骤403确定的参考场景类型和参考图像风格类型为,用户在参考场景类型下,偏好的图像风格类型。
可以理解,在另一些实施例中,NPU 204也可以基于其他方式来确定参考图像数据的参考图像风格类型,本申请对此不作限制。
404:NPU 204将参考场景类型和参考图像风格类型的对应关系发送给ISP 203。
可以理解,NPU 204发送给ISP 203的数据可以不需要包括具体地参考场景类型和参考图像风格类型。在一些实施例中,对应关系可以包括参考场景类型的标号和对应的参考图像风格类型的标号,例如参考场景类型的标号为A,参考图像风格类型的标号为a,对应关系可以为A-a,NPU 204发送给ISP 203的数据可以为A-a。在一些实施例中,对应关系可以包括参考场景类型和参考图像风格类型的对应关系的标号,例如参考场景类型的标号为A,参考图像风格类型的标号为a,A与a的对应关系的标号为01,NPU 204发送给ISP 203的数据可以为01。
可以理解,NPU 204确定好参考图像数据的参考场景类型和参考图像风格类型的对应关系后,可以通过总线将其发送给ISP 203,进而,ISP 203可以在用户使用手机200的相机应用进行拍摄时,根据接收到的信息,对拍摄的照片的ISP参数的参数值进行调整,拍摄出符合用户偏好的图像风格类型的照片。
405:ISP 203获取图像传感器202转换的图像数据,并确定图像数据的场景类型。
示例性地,用户可以操作手机200打开相机应用,镜头201采集到的光信号后,经过图像传感器202将光信号转换为RAW格式的图像数据(即图像数据)。图像传感器202可以将输出的图像数据发送给ISP 203。此时,手机200的ISP获取到图像数据,可以根据获取到的图像数据确定图像数据的场景类型,即执行步骤404。
可以理解,在一些实施例中,ISP 203在确定场景类型时,可以通过调用NPU 204中的场景分类算法,确定图像数据的场景类型。在另一些实施例中,ISP 203中会包括场景分类算法,进而,ISP 203可以直接对图像数据的场景类型进行分析,并得到对应的结果。
可以理解,图像数据即为用户打开相机应用等拍摄应用时,镜头201采集的图像对应的图像数据,且该图像数据需要经过ISP 203进行图像处理,才会在手机200的显示屏上207进行显示。
406:ISP 203确定图像数据的场景类型匹配于参考图像场景类型,则根据参考图像风格类型调整ISP参数的参数值,并对图像数据进行图像处理,得到目标图像数据。
其中,场景类型匹配于参考场景类型,表明用户拍摄的场景可以采用NPU 204已经分析出的参考图像风格类型,ISP 203可以直接获取参考图像风格类型对应的ISP参数的参数值,对ISP 203中的ISP参数的参数值进行调整,使ISP 203中的ISP参数的参数值匹配于参考图像风格类型。进而,ISP 203可以根据调整后的ISP参数对图像数据进行处理,和/或对镜头201、图像传感器202进行控制,得到目标图像数据。
可以理解,ISP 203中可以存储风格分类学习算法中的多种图像风格类型对应的ISP参数。ISP 203在确定图像场景匹配于参考图像场景后,会根据参考图像风格类型确定其对应的ISP参数的参数值。
可以理解,目标图像数据为手机200的ISP 203对图像数据进行处理后,输出到手机200的CPU 206的图像数据,CPU 206可以根据接收到的目标图像数据对显示界面进行渲染,并控制显示屏207显示目标图像数据。其中,目标图像数据的图像风格类型匹配于参考图像的参考图像风格类型,即目标图像数据的图像风格类型为用户在对应场景类型下偏好的图像风格类型。
本申请实施例中的拍摄方法,在用户拍摄的过程中,电子设备通过调整ISP参数的参数值,由ISP对电子设备采集的图像进行处理,以得到用户在不同场景下的偏好的图像风格类型的图像,无需用户手动操作即可得到用户偏好的图像风格类型,提高用户的使用体验。
下面结合图5a至5c所示的界面图,对本申请实施例中的拍摄方法进行介绍。
图5a至图5b示出了本申请实施例中一种拍摄方法的界面变化示意图。
示例性地,用户操作手机200打开图库应用,手机200的显示屏上显示的界面如图5a所示。用户在图库应用中确定图像501的图像风格类型为自己喜欢的图像风格类型,则用户可以点击图像501,手机显示如图5b所示的界面。用户可以在图5b所示的界面点击喜欢按钮502,将图像501标记为喜欢。
此时手机200可以将图像501作为参考图像,NPU 204可以从存储器205中获取参考图像的参考图像数据,即执行步骤401。
手机200的NPU 204在执行完步骤401后,会依次执行步骤402、403、404。具体地,NPU 204通过场景分类学习算法,对图像501的场景类型进行分类,确定图像501的场景类型。场景分类学习算法可以提取图像501中的特征信息,提取出图像501中包括树木、鸟、雪花等,环境为白天,则图像501的场景类型可以为风景场景类型。NPU 204可以采用风格分类学习算法对图像501进行进一步判断。风景分类学习算法可以提取图像501中的特征信息,例如饱和度信息、对比度信息、颜色直方图信息、亮度直方图信息等,与风景分类学习算法中预设的多种图像风格类型进行匹配,确定图像501的图像风格类型。假设图像501的图像风格类型为鲜明图像风格,则NPU 204可以将风景场景类型和鲜明图像风格发送给ISP203。
用户操作手机200打开相机应用,此时镜头201会将采集到的光信号经过图像传感器进行光电转换,得到对应的RAW格式的图像数据。并将该图像数据发送至ISP 203。ISP203接收到图像数据后,对图像数据的场景类型进行分析,确定其场景类型为风景场景类型,与图像501的场景类型相匹配。此时,ISP 203可以根据接收到的、来自NPU 204的风景场景类型和鲜明图像风格,确定ISP 203采用鲜明图像风格对应的ISP参数的参数值,对图像数据进行处理,和/或对镜头201、图像传感器202进行控制。ISP 203可以获取其中存储的鲜明图像风格对应的ISP参数的参数值,对ISP 203的ISP参数的参数值进行调整。具体地,可以根据鲜明图像风格对应的ISP参数的参数值,例如对ISP 203中的直方图均衡化的参数、曝光时间的参数等进行调整。ISP 203可以基于调整后的ISP参数,对图像数据进行对比度调整,使得图像数据的对比度达到图像501的鲜明风格类型,并防止图像过曝。ISP 203可以输出调整后的目标图像数据(即图像504对应的图像数据),并将其发送给CPU 206,CPU 206可以根据接收到的目标图像数据对显示界面进行渲染,并控制显示屏207显示图像504,如图5c所示。
用户可以调整镜头201的取景区域,控制显示屏207显示的图像为用户想要的角度、取景区域。用户可以点击拍摄按钮503进行拍摄,得到图像504对应的照片。
可以理解,在一些实施例中,图像501经过NPU 204的场景分类学习算法的判断后,输出的场景类型可以是雪景场景类型,经过NPU 204的场景分类学习算法的判断后,输出的图像风格类型可以是清新风格类型,即上述风景场景类型和鲜明风格类型只是本申请实施例中的一种举例,本申请实施例中的拍摄方法并不限于上述输出结果。
可以理解,在上述拍摄过程中,手机200可以直接调整ISP中的ISP参数的参数值,使图像数据的图像风格类型调整为用户在该场景类型下偏好的图像风格类型,无需系统在拍摄后再执行图像处理算法,减少了系统的工作量和运行时占用的内存。
在上述实施例中,是以同种参考场景类型的参考图像,确定该参考场景下用户偏好的图像风格类型,并以确定的参考场景下用户偏好的图像风格类型进行智能拍摄。本申请实施例还提供了另一种拍摄方法,以手机200中存储的具有不同场景类型的图像作为参考图像,确定用户在不同场景类型下偏好的图像风格类型,并以确定的图像风格类型进行智能拍摄。
具体地,下面继续以电子设备200为手机为例,结合图6对本申请实施例中的另一种拍摄方法进行介绍。
图6所示为本申请实施例中的另一种拍摄方法的流程图。
601:NPU 204从存储器中读取不同场景类型下的多张参考图像对应的参考图像数据。
可以理解,步骤601与步骤401相似,其区别在于步骤601中获取的多张参考图像对应的参考图像数据对应不同场景类型。
602:NPU 204确定各参考图像数据对应的参考场景类型。
示例性地,NPU 204可以利用场景聚类算法确定每张参考图像数据对应的场景类型。
其中,场景聚类算法为机器学习算法中的聚类算法。可以理解,机器聚类学习算法为及其学习中的无监督式学习方法,机器聚类算法可以将训练集中的图像数据划分为若干个互不相交的子集,每个子集可以称为一个“簇”(cluster),达到“物以类聚”效果,即簇与簇之间的相似度低(low intra-cluster similarity),簇内相似度高(high inter-cluster similarity)。可以按照数据的相似度(similarity)和距离(distance)来聚类(clustering)划分成不同的簇,这样每个簇可能会对应一些潜在的概念或类别。
具体地,场景聚类算法为,将大量的图像数据以及场景类型作为算法数的输入,场景聚类算法可以将大量的图像数据划分为多个互不相交的子集,每个子集对应的潜在的概念或类别即为场景类型,场景聚类算法可以为每个子集匹配对应场景类型。本申请实施例中的场景聚类算法,可以将手机200中存储的图像数据进行划分,得到多个图像数据集,且每个图像数据集会匹配对应的场景类型。
在一些实施例中,场景聚类算法可以例如原型聚类(prototype-basedclustering)算法、密度聚类(density-based clustering)算法、层次聚类(hierarchicalclustering)算法等,本申请对此不作限制。
603:NPU 204确定各参考图像数据对应的参考图像风格类型。
示例性地,NPU 204可以利用风格分类学习算法确定每张参考图像对应的图像风格类型。
可以理解,步骤603与步骤403中的实施过程相似,在此不作赘述。
604:NPU根据场景聚类算法和风格分类学习算法的运算结果,确定用户在各场景类型下偏好的图像风格类型。
其中,步骤604中,NPU 204根据场景聚类算法和风格分类学习算法的运算结果,确定用户在各个场景下偏好的图像风格类型,具体可以为,NPU 204根据场景聚类算法确定的每个场景类型的子集中的多张参考图像数据,以及每张参考图像数据对应的图像风格类型,确定该场景类型下用户偏好的图像风格类型。
在一些实施例中,NPU 204可以确定每个场景类型下,最多的图像风格类型为该场景类型下用户偏好的图像风格类型。
605:NPU将用户在各个场景类型下偏好的图像数据的风格类型发送给ISP。
可以理解,步骤605与步骤404相似,其区别在于步骤605中可以发送多种场景类型下用户偏好的图像风格类型。
606:ISP 203获取图像传感器202转换的图像数据,并确定图像数据的场景类型。
可以理解,步骤606与步骤405相似,本申请对此不作赘述。
607:ISP 203根据用户在对应场景类型下偏好的图像风格类型,调整ISP参数的参数值,并对图像数据进行图像处理,得到目标图像数据。
可以理解,步骤607中,ISP 203可以根据步骤606确定的场景类型,在ISP 203接收到的来自NPU 204发送的各场景类型下偏好的图像数据的风格类型后,确定出场景类型对应的图像风格类型,并根据确定的图像风格类型,获取确定的图像风格类型对应的ISP参数的参数值,对ISP 203中的ISP参数的参数值进行调整,使ISP 203中的ISP参数的参数值匹配于确定的图像风格类型。进而,ISP 203可以根据调整后的ISP参数对图像数据进行处理,和/或对镜头201、图像传感器202进行控制,得到目标图像数据。
本申请实施例提供的另一种拍摄方法,可以根据手机200中保存的图像数据,确定用户在不同场景类型下偏好的图像风格类型。进而,在用户拍摄的过程中,在ISP中可以调整生成用户喜欢的图像风格类型的图像,实现智能拍摄,无需终端设备在拍摄好图像后,通过处理器对拍摄好的图像进行处理,减少了系统的工作量和运行时占用的内存。
图7根据本申请的一些实施例,示出了一种ISP 203的结构示意图。如图7所示,ISP203是用于图像数据处理的专用集成电路(application-specific integratedcircuit,ASIC),用于对图像传感器202形成的图像数据进行进一步处理,以获得更好的图像质量。
ISP 203包括处理器2031、图像传输接口2032、通用外围设备2033、填充模块2034和通用功能模块2035。
其中,处理器2031用于ISP 203中的逻辑控制和调度。
图像传输接口2032用于图像数据的传输。
通用外围设备2033包括但不限于:用于耦接ISP 203的各个模块的总线及其控制器,用于与其他设备耦接的总线,例如高级高性能总线(advanced high-performance bus,AHB),可以使ISP与其他设备(如DSP、CPU等)进行高性能通信;用于监控ISP工作状态的看门狗单元(WATCHDOG)。
填充模块2034,用于根据NPU中图像处理模型,例如深度学习模型,对输入数据的要求,对图像数据进行填充运算。
通用功能模块2035用于对输入ISP 203的图像进行处理,包括但不限于:坏点矫正(bad pixel correction,BPC)、黑电平补偿(black level correction,BLC)、自动白平衡(automatic white balance,AWB)、伽马矫正(Gamma Correction)、颜色矫正(ColorCorrection)、降噪(Denoise)、边缘增强、亮度、对比度、色度调整等。当图像传感器将RAW格式的图像数据传递给ISP 203时,先由通用功能模块进行处理。通用功能模块2035对图像数据进行处理的过程将在下文结合图7进行详细介绍,这里不再展开描述。在本申请实施例中,图4中的步骤406和图6中的步骤607中的ISP参数的参数值的调整可以为对通用功能模块2035参数的参数值的调整,且其中的对图像数据的图像处理,可以通过通用功能模块2035执行。
可以理解,图7所示的ISP 203的结构只是一种示例,本领域的技术人员应当理解,其可以包含更多或更少的模块,也可以组合或者拆分部分模块,本申请实施例不作限定。
通用功能模块可以包括RAW域处理模块2035a、YUV域处理模块2035b和RGB域处理模块2035c,图8示出了一种通用功能模块对图像数据进行处理的过程示意图,处理过程如下:
RAW域处理模块2035a对图像数据进行坏点矫正、黑电平补偿和自动白平衡。
经过RAW域处理后的图像数据经过RGB插值后得到RGB域的图像数据,再由RGB域处理模块2035b对RGB域的图像数据进行伽马矫正和颜色校正。
经过RGB域处理的图像数据经过色域转换得到YUV域的图像数据,再由YUV域处理模块2035c对YUV域的图像数据进行降噪、边缘增加、亮度/对比度/色度调整。本申请实施例中,对YUV域的图像数据进行降噪可以采用本申请实施例提供的图像降噪方法。
可以理解,图8所示的ISP 203的结构只是一种示例,本领域的技术人员应当理解,其可以包含更多或更少的模块,也可以组合或者拆分部分模块,本申请实施例不作限定。
图9根据本申请的一些实施例,示出了一种适应于本申请拍摄方法的手机200的结构示意图。如图9示,手机200可以包括处理器910、电源模块940、存储器980、移动通信模块930、无线通信模块920、传感器模块990、音频模块950、摄像头970、接口模块960、按键901以及显示屏902等。
可以理解的是,本发明实施例示意的结构并不构成对手机200的具体限定。在本申请另一些实施例中,手机200可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器910可以包括一个或多个处理单元,例如,可以包括中央处理器(CentralProcessing Unit,CPU)、图像信号处理(Image Signal Processing,ISP)、视频处理单元(Video Processing Unit,VPU)、图像处理器(Graphics Processing Unit,GPU)、数字信号处理器DSP、微处理器MCU(Micro-programmed Control Unit)、AI(ArtificialIntelligence,人工智能)处理器或可编程逻辑器件FPGA(Field Programmable GateArray)等的处理模块或处理电路。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。处理器910中可以设置存储单元,用于存储指令和数据。在一些实施例中,处理器910中的存储单元为高速缓冲存储器。ISP、VPU和存储器980可以通过总线耦接,构成片上系统(system on chip,SOC),在另一些实施例中,ISP、VPU和存储器980也可以是独立的器件。
存储器980可用于存储数据、软件程序以及模块,可以是易失性存储器(VolatileMemory),例如随机存取存储器(Random-Access Memory,RAM),双倍数据率同步动态随机存取存储器(Double Data Rate Synchronous Dynamic Random Access Memory,DDRSDRAM)。
电源模块940可以包括电源、电源管理部件等。电源可以为电池。电源管理部件用于管理电源的充电和电源向其他模块的供电。在一些实施例中,电源管理部件包括充电管理模块和电源管理模块。充电管理模块用于从充电器接收充电输入;电源管理模块用于连接电源,充电管理模块与处理器910。电源管理模块接收电源和/或充电管理模块的输入,为处理器910,显示屏902,摄像头970,及无线通信模块920等供电。
移动通信模块930可以包括但不限于天线、功率放大器、滤波器、LNA(Low noiseamplify,低噪声放大器)等。移动通信模块930可以提供应用在手机200上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块930可以由天线接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块930还可以对经调制解调处理器调制后的信号放大,经天线转为电磁波辐射出去。在一些实施例中,移动通信模块930的至少部分功能模块可以被设置于处理器910中。在一些实施例中,移动通信模块930至少部分功能模块可以与处理器910的至少部分模块被设置在同一个器件中。无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(code divisionmultiple access,CDMA),宽带码分多址(wideband code division multiple access,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),蓝牙(bluetooth,BT),全球导航卫星系统(globalnavigation satellite system,GNSS),无线局域网(wireless local area networks,WLAN),近距离无线通信技术(near field communication,NFC),调频(frequencymodulation,FM),红外技术(infrared,IR)技术等。所述GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(global navigation satellitesystem,GLONASS),北斗卫星导航系统(beidou navigation-satellite system,BDS),准天顶卫星系统(quasi-zenith satellite system,QZSS)和/或星基增强系统(satellitebased augmentation systems,SBAS)。
无线通信模块920可以包括天线,并经由天线实现对电磁波的收发。无线通信模块920可以提供应用在手机200上的包括无线局域网(wireless local area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。手机200可以通过无线通信技术与网络以及其他设备进行通信。
在一些实施例中,手机200的移动通信模块930和无线通信模块920也可以位于同一模块中。
显示屏902用于显示人机交互界面、图像、视频等。显示屏902包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organiclight-emitting diode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrix organic light emitting diode的,AMOLED),柔性发光二极管(flexlight-emitting diode,FLED),Mini-LED,Micro-LED,量子点发光二极管(quantum dotlight emitting diodes,QLED)等。
传感器模块990可以包括接近光传感器、压力传感器,陀螺仪传感器,气压传感器,磁传感器,加速度传感器,距离传感器,指纹传感器,温度传感器,触摸传感器,环境光传感器,骨传导传感器等。
音频模块950用于将数字音频信息转换成模拟音频信号输出,或者将模拟音频输入转换为数字音频信号。音频模块950还可以用于对音频信号编码和解码。在一些实施例中,音频模块950可以设置于处理器910中,或将音频模块950的部分功能模块设置于处理器910中。在一些实施例中,音频模块950可以包括扬声器、听筒、麦克风以及耳机接口。
摄像头970用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件把光信号转换成电信号,之后将电信号传递给ISP(Image SignalProcessing,图像信号处理)转换成数字图像信号。手机200可以通过ISP,摄像头970,VPU,GPU(Graphic Processing Unit,图形处理器),显示屏902以及应用处理器等实现拍摄功能。摄像头970可以是定焦镜头、变焦镜头、鱼眼镜头、全景镜头等。
接口模块960包括外部存储器接口、通用串行总线(universal serial bus,USB)接口及用户标识模块(subscriber identification module,SIM)卡接口等。其中外部存储器接口可以用于连接外部存储卡,例如Micro SD卡,实现扩展手机200的存储能力。外部存储卡通过外部存储器接口与处理器910通信,实现数据存储功能。通用串行总线接口用于手机200和其他电子设备进行通信。用户标识模块卡接口用于与安装至手机200的SIM卡进行通信,例如读取SIM卡中存储的电话号码,或将电话号码写入SIM卡中。
在一些实施例中,手机200还包括按键901、马达以及指示器等。其中,按键901可以包括音量键、开/关机键等。马达用于使手机200产生振动效果,例如在用户的手机200被呼叫的时候产生振动,以提示用户接听手机200来电。指示器可以包括激光指示器、射频指示器、LED指示器等。
本申请公开的机制的各实施例可以被实现在硬件、软件、固件或这些实现方法的组合中。本申请的实施例可实现为在可编程系统上执行的计算机程序或程序代码,该可编程系统包括至少一个处理器、存储系统(包括易失性和非易失性存储器和/或存储元件)、至少一个输入设备以及至少一个输出设备。
可将程序代码应用于输入指令,以执行本申请描述的各功能并生成输出信息。可以按已知方式将输出信息应用于一个或多个输出设备。为了本申请的目的,处理系统包括具有诸如例如数字信号处理器(DSP)、微控制器、专用集成电路(ASIC)或微处理器之类的处理器的任何系统。
程序代码可以用高级程序化语言或面向对象的编程语言来实现,以便与处理系统通信。包括但不局限于OpenCL、C语言、C++、Java等。而对于C++、Java之类语言,由于其会将存储进行转换,基于对于本申请实施例中的数据处理方法的应用会有些差异,本领域技术人员可以基于具体地高级语言进行变换,均不脱离本申请实施例的范围。
在一些情况下,所公开的实施例可以以硬件、固件、软件或其任何组合来实现。所公开的实施例还可以被实现为由一个或多个暂时或非暂时性机器可读(例如,计算机可读)存储介质承载或存储在其上的指令,其可以由一个或多个处理器读取和执行。例如,指令可以通过网络或通过其他计算机可读介质分发。因此,机器可读介质可以包括用于以机器(例如,计算机)可读的形式存储或传输信息的任何机制,包括但不限于,软盘、光盘、光碟、只读存储器(CD-ROMs)、磁光盘、只读存储器(ROM)、随机存取存储器(RAM)、可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、磁卡或光卡、闪存、或用于利用因特网以电、光、声或其他形式的传播信号来传输信息(例如,载波、红外信号数字信号等)的有形的机器可读存储器。因此,机器可读介质包括适合于以机器(例如,计算机)可读的形式存储或传输电子指令或信息的任何类型的机器可读介质。
在附图中,可以以特定布置和/或顺序示出一些结构或方法特征。然而,应该理解,可能不需要这样的特定布置和/或排序。而是,在一些实施例中,这些特征可以以不同于说明性附图中所示的方式和/或顺序来布置。另外,在特定图中包括结构或方法特征并不意味着暗示在所有实施例中都需要这样的特征,并且在一些实施例中,可以不包括这些特征或者可以与其他特征组合。
需要说明的是,本申请各设备实施例中提到的各单元/模块都是逻辑单元/模块,在物理上,一个逻辑单元/模块可以是一个物理单元/模块,也可以是一个物理单元/模块的一部分,还可以以多个物理单元/模块的组合实现,这些逻辑单元/模块本身的物理实现方式并不是最重要的,这些逻辑单元/模块所实现的功能的组合才是解决本申请所提出的技术问题的关键。此外,为了突出本申请的创新部分,本申请上述各设备实施例并没有将与解决本申请所提出的技术问题关系不太密切的单元/模块引入,这并不表明上述设备实施例并不存在其它的单元/模块。
需要说明的是,在本专利的示例和说明书中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
虽然通过参照本申请的某些优选实施例,已经对本申请进行了图示和描述,但本领域的普通技术人员应该明白,可以在形式上和细节上对其作各种改变,而不偏离本申请的精神和范围。
Claims (9)
1.一种拍摄方法,应用于电子设备,所述电子设备包括镜头和图像信号处理器,其特征在于,所述方法包括:
在所述电子设备的拍摄过程中,所述图像信号处理器获取所述镜头采集的图像数据;
所述图像信号处理器获取与所述图像数据所属的场景类型所对应的图像风格参数的参数值,其中所述场景类型基于拍摄对象、拍摄环境和拍摄光线划分;
所述图像信号处理器根据所述图像风格参数的参数值,对所述图像数据进行处理,得到目标图像数据;
所述电子设备将所述目标图像数据对应的目标图像作为拍摄结果,向用户显示;
所述图像风格参数的参数值通过以下方式预先确定:
神经网络处理器获取所述电子设备存储的多张历史图像;所述历史图像表征用户在所述历史图像的场景类型下偏好的照片的图像风格类型;
所述神经网络处理器确定所述多张历史图像中各历史图像所属的场景类型;
所述神经网络处理器确定所述多张历史图像的图像风格参数的参数值,并根据所述各场景类型下所述各历史图像的图像风格参数的参数值,确定所述各场景类型对应的图像风格参数的参数值。
2.根据权利要求1所述的拍摄方法,其特征在于,所述图像风格参数包括下列中的至少一种:
黑电平补偿的参数、坏点矫正的参数、自动白平衡的参数、镜头矫正的参数、降噪的参数、边缘增强的参数、亮度调整的参数、对比度调整的参数、色度调整的参数、颜色矫正的参数、伽玛矫正的参数。
3.根据权利要求1所述的拍摄方法,其特征在于,所述图像信号处理器获取与所述图像数据所属的场景类型所对应的图像风格参数,包括:
所述图像信号处理器提取所述图像数据的第一特征信息,并根据所述第一特征信息判断所述图像数据所属的场景类型。
4.根据权利要求1所述的拍摄方法,其特征在于,所述神经网络处理器确定所述多张图像中各图像所属的场景类型,包括:
所述神经网络处理器通过机器学习算法提取所述多张历史图像中所述各历史图像的第二特征信息,并确定所述第二特征信息与所述各场景类型的第一对应关系。
5.根据权利要求4所述的拍摄方法,其特征在于,所述机器学习算法包括场景分类学习算法或场景聚类算法。
6.根据权利要求1所述的拍摄方法,其特征在于,所述电子设备中存储有多个预设图像风格参数的参数值;
所述神经网络处理器确定所述多张历史图像的图像风格参数的参数值包括:
所述神经网络处理器通过机器分类学习算法提取所述多张历史图像中所述各历史图像的第三特征信息,并确定所述第三特征信息与所述多个预设图像风格参数的参数值的第二对应关系。
7.根据权利要求6所述的拍摄方法,其特征在于,所述神经网络处理器根据所述各场景类型下所述各历史图像的图像风格参数的参数值,确定所述各场景类型对应的图像风格参数的参数值,包括:
所述神经网络处理器确定所述第二对应关系中,所述各场景类型下对应所述第三特征信息最多的预设图像风格参数的参数值为该场景类型对应的图像风格参数的参数值。
8.一种电子设备,其特征在于,包括:
存储器,用于存储由电子设备的一个或多个处理器执行的指令,以及
处理器,是电子设备的处理器之一,用于控制执行权利要求1至7中任一项所述的拍摄方法。
9.一种计算机可读存储介质,其特征在于,所述存储介质上存储有指令,所述指令在计算机上执行时使所述计算机执行权利要求1至7中任一项所述的拍摄方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210104514.6A CN114422682B (zh) | 2022-01-28 | 2022-01-28 | 拍摄方法、电子设备和可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210104514.6A CN114422682B (zh) | 2022-01-28 | 2022-01-28 | 拍摄方法、电子设备和可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114422682A CN114422682A (zh) | 2022-04-29 |
CN114422682B true CN114422682B (zh) | 2024-02-02 |
Family
ID=81278364
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210104514.6A Active CN114422682B (zh) | 2022-01-28 | 2022-01-28 | 拍摄方法、电子设备和可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114422682B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115334234B (zh) * | 2022-07-01 | 2024-03-29 | 北京讯通安添通讯科技有限公司 | 一种暗光环境拍摄照片补充图像信息的方法及装置 |
CN115439307B (zh) * | 2022-08-08 | 2023-06-27 | 荣耀终端有限公司 | 风格转换方法、风格转换模型的生成方法和风格转换系统 |
CN116843583A (zh) * | 2023-09-01 | 2023-10-03 | 荣耀终端有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN117119316A (zh) * | 2023-10-25 | 2023-11-24 | 荣耀终端有限公司 | 图像处理方法、电子设备及可读存储介质 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105323459A (zh) * | 2015-05-25 | 2016-02-10 | 维沃移动通信有限公司 | 图像处理方法及移动终端 |
CN105450923A (zh) * | 2014-09-25 | 2016-03-30 | 索尼公司 | 图像处理方法、图像处理装置以及电子设备 |
CN105812553A (zh) * | 2015-09-24 | 2016-07-27 | 维沃移动通信有限公司 | 一种快速拍照方法及移动终端 |
CN105979238A (zh) * | 2016-07-05 | 2016-09-28 | 深圳市德赛微电子技术有限公司 | 一种多摄像头全局成像一致性控制方法 |
CN107948529A (zh) * | 2017-12-28 | 2018-04-20 | 北京麒麟合盛网络技术有限公司 | 图像处理方法及装置 |
CN107995415A (zh) * | 2017-11-09 | 2018-05-04 | 深圳市金立通信设备有限公司 | 一种图像处理方法、终端及计算机可读介质 |
WO2018174648A1 (ko) * | 2017-03-23 | 2018-09-27 | 삼성전자 주식회사 | 전자 장치 및 이를 이용한 카메라 촬영 환경 및 장면에 따른 영상 처리 방법 |
CN111901520A (zh) * | 2020-06-26 | 2020-11-06 | 深圳蚂里奥技术有限公司 | 一种基于图像处理的场景自适应系统、方法及终端 |
WO2020238775A1 (zh) * | 2019-05-28 | 2020-12-03 | 华为技术有限公司 | 一种场景识别方法、一种场景识别装置及一种电子设备 |
CN112840376A (zh) * | 2018-10-15 | 2021-05-25 | 华为技术有限公司 | 一种图像处理方法、装置与设备 |
WO2021185374A1 (zh) * | 2020-03-20 | 2021-09-23 | 华为技术有限公司 | 一种拍摄图像的方法及电子设备 |
CN113518210A (zh) * | 2020-04-10 | 2021-10-19 | 华为技术有限公司 | 图像自动白平衡的方法及装置 |
CN113727025A (zh) * | 2021-08-31 | 2021-11-30 | 荣耀终端有限公司 | 一种拍摄方法、设备、存储介质和程序产品 |
CN113905182A (zh) * | 2020-06-22 | 2022-01-07 | 华为技术有限公司 | 一种拍摄方法及设备 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI399081B (zh) * | 2006-10-16 | 2013-06-11 | Casio Computer Co Ltd | 攝像裝置、連續攝影方法、以及記憶有程式之記憶媒體 |
-
2022
- 2022-01-28 CN CN202210104514.6A patent/CN114422682B/zh active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105450923A (zh) * | 2014-09-25 | 2016-03-30 | 索尼公司 | 图像处理方法、图像处理装置以及电子设备 |
CN105323459A (zh) * | 2015-05-25 | 2016-02-10 | 维沃移动通信有限公司 | 图像处理方法及移动终端 |
CN105812553A (zh) * | 2015-09-24 | 2016-07-27 | 维沃移动通信有限公司 | 一种快速拍照方法及移动终端 |
CN105979238A (zh) * | 2016-07-05 | 2016-09-28 | 深圳市德赛微电子技术有限公司 | 一种多摄像头全局成像一致性控制方法 |
WO2018174648A1 (ko) * | 2017-03-23 | 2018-09-27 | 삼성전자 주식회사 | 전자 장치 및 이를 이용한 카메라 촬영 환경 및 장면에 따른 영상 처리 방법 |
CN107995415A (zh) * | 2017-11-09 | 2018-05-04 | 深圳市金立通信设备有限公司 | 一种图像处理方法、终端及计算机可读介质 |
CN107948529A (zh) * | 2017-12-28 | 2018-04-20 | 北京麒麟合盛网络技术有限公司 | 图像处理方法及装置 |
CN112840376A (zh) * | 2018-10-15 | 2021-05-25 | 华为技术有限公司 | 一种图像处理方法、装置与设备 |
WO2020238775A1 (zh) * | 2019-05-28 | 2020-12-03 | 华为技术有限公司 | 一种场景识别方法、一种场景识别装置及一种电子设备 |
WO2021185374A1 (zh) * | 2020-03-20 | 2021-09-23 | 华为技术有限公司 | 一种拍摄图像的方法及电子设备 |
CN113518210A (zh) * | 2020-04-10 | 2021-10-19 | 华为技术有限公司 | 图像自动白平衡的方法及装置 |
CN113905182A (zh) * | 2020-06-22 | 2022-01-07 | 华为技术有限公司 | 一种拍摄方法及设备 |
CN111901520A (zh) * | 2020-06-26 | 2020-11-06 | 深圳蚂里奥技术有限公司 | 一种基于图像处理的场景自适应系统、方法及终端 |
CN113727025A (zh) * | 2021-08-31 | 2021-11-30 | 荣耀终端有限公司 | 一种拍摄方法、设备、存储介质和程序产品 |
Also Published As
Publication number | Publication date |
---|---|
CN114422682A (zh) | 2022-04-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114422682B (zh) | 拍摄方法、电子设备和可读存储介质 | |
CN112150399B (zh) | 基于宽动态范围的图像增强方法及电子设备 | |
CN113129312B (zh) | 一种图像处理方法、装置与设备 | |
CN109688351B (zh) | 一种图像信号处理方法、装置及设备 | |
CN111179282B (zh) | 图像处理方法、图像处理装置、存储介质与电子设备 | |
WO2021036853A1 (zh) | 一种图像处理方法及电子设备 | |
CN110456960B (zh) | 图像处理方法、装置及设备 | |
CN113810603B (zh) | 点光源图像检测方法和电子设备 | |
CN112887582A (zh) | 一种图像色彩处理方法、装置及相关设备 | |
CN112840642B (zh) | 一种图像拍摄方法和终端设备 | |
CN113973173A (zh) | 图像合成方法和电子设备 | |
CN108848306B (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
CN113810590A (zh) | 图像处理方法、电子设备、介质和系统 | |
CN110570370B (zh) | 图像信息的处理方法、装置、存储介质及电子设备 | |
CN117768789A (zh) | 一种拍摄方法和电子设备 | |
CN113436576B (zh) | 应用于二维码扫描的oled显示屏调光方法及装置 | |
CN116437198B (zh) | 图像处理方法与电子设备 | |
CN114463191A (zh) | 一种图像处理方法及电子设备 | |
CN111026893A (zh) | 智能终端、图像处理方法及计算机可读存储介质 | |
CN115705663B (zh) | 图像处理方法与电子设备 | |
WO2023160220A1 (zh) | 一种图像处理方法和电子设备 | |
CN116320716B (zh) | 图片采集方法、模型训练方法及相关装置 | |
CN116723417B (zh) | 一种图像处理方法和电子设备 | |
WO2023005882A1 (zh) | 拍摄方法、拍摄参数训练方法、电子设备及存储介质 | |
RU2791810C2 (ru) | Способ, аппаратура и устройство для обработки и изображения |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |