CN115767287B - 图像处理方法与电子设备 - Google Patents

图像处理方法与电子设备 Download PDF

Info

Publication number
CN115767287B
CN115767287B CN202111294313.9A CN202111294313A CN115767287B CN 115767287 B CN115767287 B CN 115767287B CN 202111294313 A CN202111294313 A CN 202111294313A CN 115767287 B CN115767287 B CN 115767287B
Authority
CN
China
Prior art keywords
image
image stream
stream
algorithm
electronic device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111294313.9A
Other languages
English (en)
Other versions
CN115767287A (zh
Inventor
王宁
陈彬
曾祥睿
王宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honor Device Co Ltd
Original Assignee
Honor Device Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honor Device Co Ltd filed Critical Honor Device Co Ltd
Priority to US18/009,858 priority Critical patent/US20240107182A1/en
Priority to PCT/CN2022/114535 priority patent/WO2023030135A1/zh
Priority to EP22818595.5A priority patent/EP4167557A4/en
Publication of CN115767287A publication Critical patent/CN115767287A/zh
Application granted granted Critical
Publication of CN115767287B publication Critical patent/CN115767287B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/815Camera processing pipelines; Components thereof for controlling the resolution by using a single image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/85Camera processing pipelines; Components thereof for processing colour signals for matrixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply
    • H04N23/651Control of camera operation in relation to power supply for reducing power consumption by affecting camera operations, e.g. sleep mode, hibernation mode or power off of selective parts of the camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

一种图像处理方法与电子设备,该图像处理方法包括:显示第一界面,第一界面包括第一控件;检测到对第一控件的第一操作;响应于第一操作,获取第一图像流,第一图像流为第一颜色空间的图像流;根据去马赛克算法将第一图像流转换为第二颜色空间的第二图像流;对第二图像流进行下采样处理与重采样处理,得到第三图像流,第三图像流为第一颜色空间的图像流,第三图像流的尺寸小于第一图像流;对第三图像流进行图像处理,得到第四图像流。基于本申请的技术方案,在电子设备的运算性能与功耗受限的情况下,能够提高视频中的图像质量。

Description

图像处理方法与电子设备
技术领域
本申请涉及图像处理领域,具体地,涉及一种图像处理方法与电子设备。
背景技术
在暗光环境下拍摄视频,比如,在夜景环境下录制视频时,由于进光量较少导致视频的噪声较大;为了减小视频中的噪声,提升视频的图像质量,通常对视频中的图像采用Raw域降噪;由于受限于电子设备的运算性能与功耗,在进行Raw域降噪时需要减小图像的尺寸;但是,目前在进行Raw域降噪时采用的减小图像尺寸的方法会存在降低图像的清晰度,或者破坏图像的拜尔(bayer)结构的问题。
因此,在电子设备的运算性能与功耗受限的情况下,如何进行图像处理确保视频中的图像质量成为一个亟需解决的问题。
发明内容
本申请提供了一种图像处理方法与电子设备,能够在电子设备的运算性能与功耗受限的情况下,提高视频中的图像质量。
第一方面,提供了一种图像处理方法,包括:
显示第一界面,所述第一界面包括第一控件;
检测到对所述第一控件的第一操作;
响应于所述第一操作,获取第一图像流,所述第一图像流为第一颜色空间的图像流;
根据去马赛克算法将所述第一图像流转换为第二颜色空间的第二图像流;
对所述第二图像流进行下采样处理与重采样处理,得到第三图像流,所述第三图像流为所述第一颜色空间的图像流,所述第三图像流的尺寸小于所述第一图像流;
对所述第三图像流进行图像处理,得到第四图像流。
在本申请的实施例中,通过将获取的Raw域图像流转换为RGB域(或者YUV域图像流)图像流,对RGB域图像流中的图像进行下采样处理与重采样处理得到缩小尺寸的Raw域图像流;对缩小尺寸的Raw域图像流进行图像处理,得到处理后的图像流;由于在对图像流缩小尺寸时,采用RGB域图像流进行下采样处理;因此,在减小图像尺寸的情况下不会影响图像的清晰度;此外,对RGB域图像流进行下采样处理,不会破坏图像的拜尔结构,从而能够有效的避免图像中出现伪彩;因此,通过本申请实施例的图像处理方法,在电子设备的运算性能与功耗受限的情况下,能够提高视频中的图像质量。
还应理解,Raw域图像流是指Raw颜色空间的图像流;Raw域图像流是指图像流在Raw颜色空间;同理,RGB域图像流是指RGB颜色空间的图像流,即图像流在RGB颜色空间;YUV域图像流是指YUV颜色空间的图像流,即图像流在YUV颜色空间。
在一种可能的实现方式中,第一颜色空间是指Raw域;第二颜色空间包括RGB域或者YUV域。
结合第一方面,在第一方面的某些实现方式中,所述第一界面是指所述电子设备的主屏界面,所述主屏界面包括相机应用程序,所述第一控件是指所述相机应用程序对应的控件。
在一种可能的实现方式中,所述第一操作是指点击所述相机应用程序的操作。
结合第一方面,在第一方面的某些实现方式中,所述第一界面是指视频录制界面,所述第一控件是指用于指示录制视频的控件。
在一种可能的实现方式中,所述第一操作是指点击所述用于指示录制视频的控件的操作。
结合第一方面,在第一方面的某些实现方式中,所述第一界面是指视频通话界面,所述第一控件是指用于指示视频通话的控件。
在一种可能的实现方式中,所述第一操作是指点击所述用于指示视频通话的控件的操作。
上述以第一操作为点击操作为例进行举例说明;第一操作还可以包括语音指示操作,或者其它的指示电子设备进行录制视频或者视频通话的操作;上述为举例说明,并不对本申请作任何限定。
结合第一方面,在第一方面的某些实现方式中,所述图像处理包括根据所述第一颜色空间的算法进行处理,所述第一颜色空间的算法包括以下至少一项算法:
降噪算法、超分辨率算法或者去模糊算法。在一种可能的实现方式中,图像处理还包括图像信号处理器的图像处理;比如,图像处理还可以包括黑电平校正、镜头阴影校正、自动白平衡、去马赛克等图像处理过程。
结合第一方面,在第一方面的某些实现方式中,还包括:
保存所述第四图像流,所述第四图像流用于回放。
结合第一方面,在第一方面的某些实现方式中,所述第四图像流是指预览图像流。
结合第一方面,在第一方面的某些实现方式中,所述电子设备包括相机算法库,所述相机算法库设置于硬件抽象层,所述相机算法库包括用于所述下采样处理的算法、所述重采样处理的算法或者所述第一颜色空间的算法。
在本申请的实施例中,下采样处理的算法、重采样处理的算法或者第一颜色空间的算法可以是指相机算法库中的算法;即可以不需要对电子设备中的硬件进行较大改动,通过相机算法库中的算法实现本申请实施例中的图像处理方法,提升图像质量。
结合第一方面,在第一方面的某些实现方式中,还包括:
检测到第二操作,所述第二操作用于指示开启所述电子设备的夜景模式,所述夜景模式是指所述电子设备的进光量小于预设阈值的拍摄模式。
在本申请的实施例中,当电子设备在暗光场景下录制视频时,用户可以开启电子设备的夜景模式,从而运行本申请实施例提供的图像处理方法,提升图像的降噪效果,提高图像质量。
第二方面,提供了一种电子设备,包括用于执行第一方面或第一方面中任一种方法的模块/单元。
第三方面,提供了一种电子设备,所述电子设备包括:一个或多个处理器、存储器和显示屏;所述存储器与所述一个或多个处理器耦合,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行:显示第一界面,所述第一界面包括第一控件;检测到对所述第一控件的第一操作;响应于所述第一操作,获取第一图像流,所述第一图像流为第一颜色空间的图像流;根据去马赛克算法将所述第一图像流转换为第二颜色空间的第二图像流;对所述第二图像流进行下采样处理与重采样处理,得到第三图像流,所述第三图像流为所述第一颜色空间的图像流,所述第三图像流的尺寸小于所述第一图像流;对所述第三图像流进行图像处理,得到第四图像流。
结合第三方面,在第三方面的某些实现方式中,所述图像处理包括根据所述第一颜色空间的算法进行处理,所述第一颜色空间的算法包括以下至少一项算法:
降噪算法、超分辨率算法或者去模糊算法。
结合第三方面,在第三方面的某些实现方式中,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行:
保存所述第四图像流,所述第四图像流用于回放。
结合第三方面,在第三方面的某些实现方式中,所述第四图像流是指预览图像流。
结合第三方面,在第三方面的某些实现方式中,所述电子设备包括相机算法库,所述相机算法库设置于硬件抽象层,所述相机算法库包括用于所述下采样处理的算法、所述重采样处理的算法或者所述第一颜色空间的算法。
结合第三方面,在第三方面的某些实现方式中,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行:
检测到第二操作,所述第二操作用于指示开启所述电子设备的夜景模式,所述夜景模式是指所述电子设备的进光量小于预设阈值的拍摄模式。
结合第三方面,在第三方面的某些实现方式中,所述第一界面是指所述电子设备的主屏界面,所述主屏界面包括相机应用程序,所述第一控件是指所述相机应用程序对应的控件。
结合第三方面,在第三方面的某些实现方式中,所述第一界面是指视频录制界面,所述第一控件是指用于指示录制视频的控件。
结合第三方面,在第三方面的某些实现方式中,所述第一界面是指视频通话界面,所述第一控件是指用于指示视频通话的控件。
第四方面,提供了一种电子设备,所述电子设备包括:一个或多个处理器和存储器;所述存储器与所述一个或多个处理器耦合,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行第一方面中的任一种图像处理方法。
第五方面,提供了一种芯片系统,所述芯片系统应用于电子设备,所述芯片系统包括一个或多个处理器,所述处理器用于调用计算机指令以使得所述电子设备执行第一方面中的任一种图像处理方法。
第六方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序代码,当所述计算机程序代码被电子设备运行时,使得该电子设备执行第一方面中的任一种图像处理方法。
第七方面,提供了一种计算机程序产品,所述计算机程序产品包括:计算机程序代码,当所述计算机程序代码被电子设备运行时,使得该电子设备执行第一方面中的任一种图像处理方法。
在本申请的实施例中,通过将获取的Raw域图像流转换为RGB域图像流(或者YUV域图像流),对RGB域图像流中的图像进行下采样处理与重采样处理得到缩小尺寸的Raw域图像流;对缩小尺寸的Raw域图像流进行图像处理,得到处理后的图像流;由于在对图像流缩小尺寸时,采用RGB域图像流进行下采样处理;因此,在减小图像尺寸的情况下不会影响图像的清晰度;此外,对RGB域图像流进行下采样处理,不会破坏图像的拜尔结构,从而能够有效的避免图像中出现伪彩;因此,通过本申请实施例的图像处理方法,在电子设备的运算性能与功耗受限的情况下,能够提高视频中的图像质量。
附图说明
图1是一种适用于本申请的电子设备的硬件系统的示意图;
图2是一种适用于本申请的电子设备的软件系统的示意图;
图3是一种适用于本申请实施例的应用场景的示意图;
图4是一种适用于本申请实施例的应用场景的示意图;
图5是一种适用于本申请的图像处理方法的示意图;
图6是一种适用于本申请的图像处理方法的示意图;
图7是一种适用于本申请的图像处理方法的示意图;
图8是一种适用于本申请的图像处理方法的示意图;
图9是本申请实施例提供的图像处理方法的效果示意图;
图10是本申请实施例提供的一种电子设备的显示界面的示意图;
图11是本申请实施例提供的一种电子设备的结构示意图;
图12是本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合附图,对本申请实施例中的技术方案进行描述。
以下,术语“第一”、“第二”、“第三”、“第四”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。
图1示出了一种适用于本申请的电子设备的硬件系统。
电子设备100可以是手机、智慧屏、平板电脑、可穿戴电子设备、车载电子设备、增强现实(augmented reality,AR)设备、虚拟现实(virtual reality,VR)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、个人数字助理(personal digital assistant,PDA)、投影仪等等,本申请实施例对电子设备100的具体类型不作任何限制。
电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
需要说明的是,图1所示的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图1所示的部件更多或更少的部件,或者,电子设备100可以包括图1所示的部件中某些部件的组合,或者,电子设备100可以包括图1所示的部件中某些部件的子部件。图1示的部件可以以硬件、软件、或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元。例如,处理器110可以包括以下处理单元中的至少一个:应用处理器(application processor,AP)、调制解调处理器、图形处理器(graphics processing unit,GPU)、图像信号处理器(image signal processor,ISP)、控制器、视频编解码器、数字信号处理器(digital signal processor,DSP)、基带处理器、神经网络处理器(neural-network processing unit,NPU)。其中,不同的处理单元可以是独立的器件,也可以是集成的器件。
控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在本申请的实施例中,处理器110可以执行显示第一界面,第一界面包括第一控件;检测到对第一控件的第一操作;响应于第一操作,获取第一图像流,第一图像流为第一颜色空间的图像流;根据去马赛克算法将第一图像流转换为第二颜色空间的第二图像流;对第二图像流进行下采样处理与重采样处理,得到第三图像流,第三图像流为第一颜色空间的图像流,第三图像流的尺寸小于第一图像流;对第三图像流进行图像处理,得到第四图像流。
图1所示的各模块间的连接关系只是示意性说明,并不构成对电子设备100的各模块间的连接关系的限定。可选地,电子设备100的各模块也可以采用上述实施例中多种连接方式的组合。
电子设备100的无线通信功能可以通过天线1、天线2、移动通信模块150、无线通信模块160、调制解调处理器以及基带处理器等器件实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
电子设备100可以通过GPU、显示屏194以及应用处理器实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194可以用于显示图像或视频。
电子设备100可以通过ISP、摄像头193、视频编解码器、GPU、显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP可以对图像的噪点、亮度和色彩进行算法优化,ISP还可以优化拍摄场景的曝光和色温等参数。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的红绿蓝(red green blue,RGB),YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或N个摄像头193,N为大于1的正整数。
在本申请的实施例中,摄像头193可以获取第一图像流。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1、MPEG2、MPEG3和MPEG4。
陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即,x轴、y轴和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。例如,当快门被按下时,陀螺仪传感器180B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航和体感游戏等场景。
示例性地,在本申请的实施例中陀螺仪传感器180B可以用于采集的抖动信息,抖动信息可以用于表示电子设备在拍摄过程中的位姿变化。
加速度传感器180E可检测电子设备100在各个方向上(一般为x轴、y轴和z轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。加速度传感器180E还可以用于识别电子设备100的姿态,作为横竖屏切换和计步器等应用程序的输入参数。
距离传感器180F用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,例如在拍摄场景中,电子设备100可以利用距离传感器180F测距以实现快速对焦。
环境光传感器180L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测电子设备100是否在口袋里,以防误触。
指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现解锁、访问应用锁、拍照和接听来电等功能。
触摸传感器180K,也称为触控器件。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,触摸屏也称为触控屏。触摸传感器180K用于检测作用于其上或其附近的触摸操作。触摸传感器180K可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,并且与显示屏194设置于不同的位置。
上文详细描述了电子设备100的硬件系统,下面介绍电子设备100的软件系统。
图2是本申请实施例提供的电子设备的软件系统的示意图。
如图2所示,系统架构中可以包括应用层210、应用框架层220、硬件抽象层230、驱动层240以及硬件层250。
应用层210可以包括相机应用程序或者其他应用程序,其他应用程序包括但不限于:图库、日历、通话、地图、导航、WLAN、蓝牙、音乐、视频、短信息等应用程序。
应用框架层220可以向应用层的应用程序提供应用程序编程接口(applicationprogramming interface,API)和编程框架;应用框架层可以包括一些预定义的函数。
例如,应用框架层220可以包括相机访问接口;相机访问接口中可以包括相机管理与相机设备;其中,相机管理可以用于提供管理相机的访问接口;相机设备可以用于提供访问相机的接口。
硬件抽象层230用于将硬件抽象化。比如,硬件抽象层可以包相机抽象层2301以及其他硬件设备抽象层;相机硬件抽象层可以调用相机算法。
例如,硬件抽象层230中包括相机硬件抽象层2301与相机算法2302;相机算法2302中可以包括软件算法;比如,算法1、算法2等可以是用于图像处理的软件算法。
驱动层240用于为不同硬件设备提供驱动。例如,驱动层可以包括相机设备驱动。
硬件层250可以包括相机设备以及其他硬件设备。
例如,硬件层250包括相机设备2501;相机设备2501中可以包括算法;比如,算法1、算法2等。
示例性地,相机设备2501中可以包括图像信号处理器,相机设备2501中的算法可以是指图像信号处理器中运行的用于图像处理的算法。
目前,在暗光环境下拍摄视频,由于进光量较少导致视频的噪声较大;为了减小视频的噪声,提升视频的图像质量,通常对视频中的图像进行Raw域降噪处理;由于受限于电子设备的运算性能与功耗,在进行Raw域降噪时需要减小图像尺寸;为了减小图像尺寸,目前在进行Raw域降噪处理时可以采用binning方式输出图像,但是这样会对图像的清晰度产生较大影响;若直接对Raw域图像进行下采样,则会破坏Raw域图像的拜尔(bayer)结构,从而导致图像在去马赛克(demosaic)后容易出现伪彩。
有鉴于此,本申请实施例提供了一种图像处理方法,通过将获取的Raw域图像流转换为RGB域图像流,对RGB域图像流中的图像进行下采样处理得到缩小尺寸的RGB域图像流;基于缩小尺寸的RGB域图像流进行降噪处理,得到降噪处理后的图像流;由于在对图像流缩小尺寸时,采用RGB域图像流进行下采样处理;因此,在减小图像尺寸的情况下不会影响图像的清晰度;此外,对RGB域图像流进行下采样处理,不会破坏图像的拜尔结构,从而能够有效的避免图像中出现伪彩;因此,通过本申请实施例的图像处理方法,在电子设备的运算性能与功耗受限的情况下,能够提高视频中的图像质量。
应用场景一:拍摄领域
本申请的图像处理方法可以应用于拍摄领域;例如,可以应用于暗光场景的拍摄图像或者录制视频;如图3所示,在暗光场景下(例如,夜晚)录制视频时,电子设备的进光量少导致获取的图像噪声较大;图3中的(a)是采样现有方案进行图像处理,得到拍摄对象261的预览图像;图3中的(b)是通过本申请实施例提供的图像处理方法,得到拍摄对象261的预览图像;图3中的(b)所示的预览图像与图3中的(a)所示的预览图像相比,清晰度得到提升;因此,通过本申请实施例的图像处理方法,能够提高视频中的图像质量。
应用场景二:视频通话
本申请的图像处理方法可以应用于视频通话领域;比如,在暗光场景下视频通话时,由于电子设备的进光量少导致视频通话的图像噪声较大;如图4所示,图4中的(a)是采样现有方案进行图像处理,得到拍摄对象262的预览图像;图4中的(b)是通过本申请实施例提供的图像处理方法,得到拍摄对象262的预览图像;图4中的(b)所示的预览图像与图4中的(a)所示的预览图像相比,清晰度得到提升;因此,通过本申请实施例的图像处理方法,能够提高视频中的图像质量。
应理解,噪声在图像中可以表现为一些引起较强视觉效果的孤立像素点或像素块;通过对图像的降噪处理可以消除或者减少图像中的噪声,使得图像质量得到提升。
还应理解,上述为对应用场景的举例说明,并不对本申请的应用场景作任何限定。
下面结合图5至图10对本申请实施例提供的图像处理方法进行详细描述。
实现方式一
图5是一种适用于本申请的图像处理方法的示意图。
如图5所示,系统300中可以包括图像传感器310、第一图像信号处理器320、下采样与重采样模块330、内存340、Raw算法模块350、第二图像信号处理器360、内存370、第三图像信号处理器380、第四图像信号处理器390。
示例性地,图像传感器310用于采集图像,或者视频。可选地,图像处理器310还可以用于向第一图像信号处理器320输出图像(或图像流)或者视频(视频流)。
例如,在录制视频的场景下,图像传感器310可以采集Raw域图像流(第一图像流的一个示例);其中,Raw域图像流中包括的Raw域图像是指拜尔阵列结构的图像。
示例性地,第一图像信号处理器320用于将采集的Raw域图像转换为RGB域图像。
例如,在录制视频的场景下,第一图像信号处理器320用于将Raw域图像流转换为RGB域图像流。
应理解,Raw域图像流是指Raw颜色空间的图像流,Raw域图像流是指图像流在Raw颜色空间的图像流;同理,RGB域图像流是指RGB颜色空间的图像流,RGB域图像流是指图像流在RGB颜色空间的图像流。
示例性地,第一图像信号处理器320中可以包括去马赛克模块321,去马赛克模块321可以对图像传感器310采集的Raw域图像流进行去马赛克处理(demosic),得到RGB域图像流(第二图像流的一个示例)。
其中,去马赛克处理可以是指将拜尔阵列结构的Raw域图像转换成RGB域图像。
可选地,第一图像信号处理器320中还可以包括坏点校正模块(defect pixelcorrection,DPC),坏点校正模块用于解决图像传感器上光线采集的点形成的阵列所存在的缺陷,或者光信号进行转化的过程中存在的错误;通常通过在亮度域上取其他周围像素点均值来消除坏点。
示例性地,下采样与重采样模块330用于对去马赛克模块321输出的RGB域图像流进行下采样处理(downscale)与重采样处理(resample),得到缩小尺寸的Raw域图像流;例如,可以对去马赛克模块321输出的RGB域图像流进行下采样处理,得到缩小尺寸的RGB域图像流;对缩小尺寸的RGB域图像流进行重采样处理,得到缩小尺寸的Raw域图像流(第三图像流的一个示例);其中,下采样处理用于使得图像尺寸减小,以满足算法运行的性能功耗要求;重采样处理用于将下采样处理后的RGB域图像转换至Raw域图像,得到缩小尺寸的Raw域图像。
例如,重采样处理可以是指在对采样后形成的由离散数据组成的数字图像按照所需的像元位置或像元间距重新采样,以构成几何变换后的新图像。
在一种可能的实现方式中,由于可能存在数据接口问题,导致下采样与重采样模块330、Raw域算法模块350无法与第二图像信号处理器360直接进行数据流的传输;因此,内存340用于实现下采样与重采样模块330与Raw域算法模块350的数据流传输,以及Raw域算法模块350与第二图像信号处理器360的数据流传输。
示例性地,Raw域算法模块350可以从内存340中获取的缩小尺寸的Raw域图像进行Raw域算法,Raw域算法可以包括但不限于降噪算法、超分辨率算法或者去模糊算法等。
应理解,Raw域算法模块350可以是指软件算法模块;例如,如图2所示Raw域算法模块350可以是相机算法库中的模块;或者,Raw域算法模块350可以是指硬件算法模块;例如,如图2所示Raw域算法模块350可以是相机设备中的模块;比如,可以是指图像信号处理器中的算法模块。
示例性地,第二图像信号处理器360可以从内存340中获取经过Raw域算法处理的缩小尺寸的Raw域图像帧,并对缩小尺寸的Raw域图像帧进行以下处理:
步骤一:对缩小尺寸的Raw域图像流进行Raw域算法处理。
示例性地,第二图像信号处理器360中的Raw域算法可以包括但不限于:
黑电平校正(black level correction,BLC)、镜头阴影校正(lens shadingcorrection,LSC)、自动白平衡(auto white balance,AWB)、去马赛克等。
其中,黑电平校正用于对黑电平进行校正处理;镜头阴影校正用于消除由于镜头光学系统原因造成的图像四周颜色以及亮度与图像中心不一致的问题;自动白平衡用于使得白色在任何色温下相机均能呈现出白色。
步骤二:将处理后的Raw域图像流转换为RGB域图像流。
步骤三:将RGB域图像流转换为YUV域图像流,并传输至内存370。
可选地,在本申请的实施例中,还可以对第二图像信号处理器360输出的YUV域图像流进行后处理,后处理可以用于表示对YUV域图像流的其他算法处理。
可选地,在本申请的实施例中,第二图像信号处理器360输出的YUV域图像流可以分为第一支路与第二支路,其中,第一支路可以用于处理预览流,输出预览流(第四图像流的一个示例);例如,预览流可以用于预览;第二支路可以用于处理视频流,输出视频流(第四图像流的一个示例);例如,视频流可以用于视频保存和回放等。
在一个示例中,如图5所示,在电子设备的运行性能有限的情况下,预览流可以是指缩小尺寸的Raw域图像流经过第二图像处理器360、内存370、第三图像信号处理器380处理后的图像流,其中,缩小尺寸的Raw域图像流是指下采样与重采样模块330输出的Raw域图像流。
在一个示例中,如图5所示,在电子设备的运行性能较高的情况下,预览流可以是指缩小尺寸的Raw域图像流经过Raw域算法模块350、第二图像处理器360、内存370、第三图像信号处理器380处理后的图像流,其中,缩小尺寸的Raw域图像流是指下采样与重采样模块330输出的Raw域图像流。
可选地,第二图像信号处理器360与第三图像信号处理器380,第二图像信号处理器360与第四图像信号处理器390之间可能无法直接进行数据流传输;因此,第二图像信号处理器360通过内存370将输出的YUV域图像流发送至第三图像信号处理器380与第四图像信号处理器390进行处理。
示例性地,第三图像信号处理器380可以用于对从内存370中获取的YUV域图像流进行YUV域图像算法与RGB域图像算法处理输出预览流,第三图像信号处理器380中的算法可以包括:色彩校正(color correction matrix,CCM)、伽马处理(Gamma)、全局色调映射(global tone mapping,GTM)等。
示例性地,第四图像信号处理器390可以从内存370中获取多个YUV域图像流,对YUV域图像流进行YUV域图像算法与RGB域图像算法处理,并进行图像编码得到视频流。第四图像信号处理器390中的算法可以包括:色彩校正(color correction matrix,CCM)、伽马处理(Gamma)、全局色调映射(global tone mapping,GTM)等。
其中,色彩校正用于校准除白色以外其他颜色的准确度;伽马处理用于通过调整伽马曲线来调整图像的亮度,对比度,动态范围等;全局色调映射用于解决高动态图像的灰度值分布不均匀的问题。
可选地,内存370与内存340可以是指在同一内存硬件中占用的不同内存位置。
在一个示例中,如图5所示,内存370与第三图像信号处理器380之间还可以包括第一防抖算法模块391;内存370与第四图像信号处理器390之间还可以包括第二防抖算法模块392;其中,第一防抖算法模块391与第二防抖算法模块392中的防抖算法可以不同;第一防抖算法模块391用于对预览流中的图像进行防抖处理,防抖算法可以没有图像延迟,保证用户所见即所得;第二防抖算法模块392用于对视频流中的图像进行防抖处理,防抖算法可以通过图像缓存并进行处理,以达到更好的防抖效果。
可选地,在高帧率的拍摄场景下,为了节省电子设备的性能功耗,可以将图5或者图6中所示的第一支路与第二支路合并为同一支路用于输出视频流。
可选地,如图5所示,第一图像信号处理器320与第二图像信号处理器360可以是指不同的图像信号处理器;第三图像信号处理器380与第四图像信号处理器390可以是指相同的图像信号处理器。
可选地,图像信号处理器可以分为两个部分,一部分是进行Raw域算法处理,表示为ISP-part1;另一部分是进行YUV和/或RGB域算法处理,表示为ISP-part2;如图5所示,第一图像信号处理器320可以是指第一part1,第二图像信号处理器360可以是指第二part1;第一part1与第二part1可以是指同一图像信号处理器中不同的part1,或者,第一part1与第二part1可以是指不同图像信号处理器中的part1;第三图像信号处理器380可以是指第一part2,第四图像信号处理器390可以是指第二part2;第一part2与第二part2可以是指同一图像信号处理器中的part2。
示例性地,第一图像信号处理器320、第二图像信号处理器360、第三图像信号处理器380与第四信号处理器390中运行的图像处理算法可以是指图2所示的相机设备2501中的算法;下采样与重采样模块330、内存340、Raw域算法模块350与内存370中运行的图像处理算法可以是指如图2所示的相机算法库2302中的算法。
可选地,在一种可能的实现方式中,如图5所示,下采样与重采样模块330与内存340之间可以互相传输数据流,即下采样与重采样模块330可以将缩小尺寸的Raw域图像传输至内存340;同理,在具有算法需求时,内存340中的数据流也可以传输至下采样与重采样模块330中进行处理。
可选地,在一种可能的实现方式中,如图5所示,第二图像信号处理器360与内存370之间也可以互相传输数据流;内存370与第三图像信号处理器380、以及内存370第四图像信号处理器390之间也可以互相传输数据流。
本申请实施例提供了一种图像处理方法,通过将获取的Raw域图像流转换为RGB域图像流,对RGB域图像流中的图像进行下采样处理与重采样处理得到缩小尺寸的RGB域图像流;对缩小尺寸的RGB域图像流进行图像处理,得到处理后的图像流;由于在对图像流缩小尺寸时,采用RGB域图像流进行下采样处理;因此,在减小图像尺寸的情况下不会影响图像的清晰度;此外,对RGB域图像流进行下采样处理,不会破坏图像的拜尔结构,从而能够有效的避免图像中出现伪彩;因此,通过本申请实施例的图像处理方法,在电子设备的运算性能与功耗受限的情况下,能够提高视频中的图像质量。
实现方式二
在一个示例中,图像信号处理器可以与软件算法模块之间直接进行数据流的传输,或者,图像信号处理器中的不同部分可以直接进行数据流的传输时,则可以不需要通过电子设备中的内存进行数据流的传输,如图7所示。
图7是一种适用于本申请的图像处理方法的示意图。
如图7所示,该系统400中可以包括图像传感器410、第一图像信号处理器420、下采样与重采样模块430、Raw算法模块440、第二图像信号处理器450、第三信号处理器460与第四信号处理器470,第一图像信号处理器420中包括去马赛克模块421;如图7所示,Raw域算法模块440可以直接向第二图像信号处理器450传输数据流,因此Raw算法模块440可以无需通过内存向第二图像信号处理器450传输数据流;此外,在第二图像信号处理器450与第三图像信号处理460,以及第二图像信号处理器450与第四图像信号处理器470之间也可以直接传输数据流,第二图像信号处理器450也无需通过内存向第三图像信号处理器460与第四图像信号处理器470传输数据流。
需要说明的是,图7中与图5、图6中相同的部分可以参照图5、图6中的描述,此处不再赘述。
实现方式三
可选地,在一种可能的实现方式中,如图8所示,Raw算法模块430中可以包括下采样与重采样模块431。
需要说明的是,图8中与图5、图6中相同的部分可以参照图5、图6中的描述,此处不再赘述。
图9是本申请实施例提供的不同图像处理方法的降噪效果示意图。
其中,图9中的(a)是通过对Raw域图像直接下采样后进行降噪处理得到的输出图像;图9中的(b)是通过对Raw域图像进行降噪处理后采用v2h2的binning方式得到输出图像;图9中的(c)是通过本申请实施例提供的图像处理方法得到的输出图像;与图9中的(c)所示的输出图像相比,图9中的(a)所示的输出图像中出现了伪彩色,图9中的(b)所示的图像的清晰度较低;因此,通过本申请实施例提供的图像处理方法在对图像进行降噪处理时与现有的方案相比能够提升降噪效果,提高图像质量。
在一个示例中,可以在电子设备的相机应用程序中开启夜景模式,则在电子设备识别到当前的拍摄环境处于进光量较少的场景下,通过本申请实施例提供的图像处理方法对传感器采集的Raw域图像进行降噪处理,从而输出降噪处理后的预览流和/或者视频流。
例如,图10示出了电子设备的一种图形用户界面(graphical user interface,GUI);图10中的(a)所示的GUI可以是相机应用程序在录像模式下的显示界面,该显示界面中可以包括拍摄界面610;拍摄界面610上可以包括取景框611与控件;比如,取景框611中可以包括用于指示录像的控件612与用于指示设置的控件613;检测到用户点击控件613的操作,响应于用户操作显示设置界面,如图9中的(b)所示;在设置界面上包括夜景模式614,检测到用户开启夜景模式(第二操作的一个示例);在电子设备开启夜景模式后,可以通过本申请实施例提供的图像处理方法对电子设备采集的图像流进行降噪处理。
上文结合图1至图10详细描述了本申请实施例提供的图像处理方法;下面将结合图11与图12详细描述本申请的装置实施例。应理解,本申请实施例中的装置可以执行前述本申请实施例的各种方法,即以下各种产品的具体工作过程,可以参考前述方法实施例中的对应过程。
图11是本申请实施例提供的一种电子设备的结构示意图。该电子设备700包括显示模块710与处理模块720。
其中,所述显示模块710用于显示第一界面,所述第一界面包括第一控件;所述处理模块720用于检测到对所述第一控件的第一操作;响应于所述第一操作,获取第一图像流,所述第一图像流为第一颜色空间的图像流;根据去马赛克算法将所述第一图像流转换为第二颜色空间的第二图像流;对所述第二图像流进行下采样处理与重采样处理,得到第三图像流,所述第三图像流为所述第一颜色空间的图像流,所述第三图像流的尺寸小于所述第一图像流;对所述第三图像流进行图像处理,得到第四图像流。
可选地,作为一个实施例,所述图像处理包括根据所述第一颜色空间的算法进行处理,所述第一颜色空间的算法包括以下至少一项算法:
降噪算法、超分辨率算法或者去模糊算法。
可选地,作为一个实施例,所述处理模块720还用于:
保存所述第四图像流,所述第四图像流用于回放。
可选地,作为一个实施例,所述第四图像流是指预览图像流。
可选地,作为一个实施例,所述电子设备包括相机算法库,所述相机算法库设置于硬件抽象层,所述相机算法库包括用于所述下采样处理的算法、所述重采样处理的算法或者所述第一颜色空间的算法。
可选地,作为一个实施例,所述处理模块720还用于:
检测到第二操作,所述第二操作用于指示开启所述电子设备的夜景模式,所述夜景模式是指所述电子设备的进光量小于预设阈值的拍摄模式。
可选地,作为一个实施例,所述第一界面是指所述电子设备的主屏界面,所述主屏界面包括相机应用程序,所述第一控件是指所述相机应用程序对应的控件。
可选地,作为一个实施例,所述第一界面是指视频录制界面,所述第一控件是指用于指示录制视频的控件。
可选地,作为一个实施例,所述第一界面是指视频通话界面,所述第一控件是指用于指示视频通话的控件。
需要说明的是,上述电子设备700以功能模块的形式体现。这里的术语“模块”可以通过软件和/或硬件形式实现,对此不作具体限定。
例如,“模块”可以是实现上述功能的软件程序、硬件电路或二者结合。所述硬件电路可能包括应用特有集成电路(application specific integrated circuit,ASIC)、电子电路、用于执行一个或多个软件或固件程序的处理器(例如共享处理器、专有处理器或组处理器等)和存储器、合并逻辑电路和/或其它支持所描述的功能的合适组件。
因此,在本申请的实施例中描述的各示例的单元,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
图12示出了本申请提供的一种电子设备的结构示意图。图12中的虚线表示该单元或该模块为可选的。电子设备800可用于实现上述方法实施例中描述的方法。
电子设备800包括一个或多个处理器801,该一个或多个处理器801可支持电子设备800实现方法实施例中的图像处理方法。处理器801可以是通用处理器或者专用处理器。例如,处理器801可以是中央处理器(central processing unit,CPU)、数字信号处理器(digital signal processor,DSP)、专用集成电路(application specific integratedcircuit,ASIC)、现场可编程门阵列(field programmable gate array,FPGA)或者其它可编程逻辑器件,如分立门、晶体管逻辑器件或分立硬件组件。
处理器801可以用于对电子设备800进行控制,执行软件程序,处理软件程序的数据。电子设备800还可以包括通信单元805,用以实现信号的输入(接收)和输出(发送)。
例如,电子设备800可以是芯片,通信单元805可以是该芯片的输入和/或输出电路,或者,通信单元805可以是该芯片的通信接口,该芯片可以作为终端设备或其它电子设备的组成部分。
又例如,电子设备800可以是终端设备,通信单元805可以是该终端设备的收发器,或者,通信单元805可以是该终端设备的收发电路。
电子设备800中可以包括一个或多个存储器802,其上存有程序804,程序804可被处理器801运行,生成指令803,使得处理器801根据指令803执行上述方法实施例中描述的图像处理方法。
可选地,存储器802中还可以存储有数据。可选地,处理器801还可以读取存储器802中存储的数据,该数据可以与程序804存储在相同的存储地址,该数据也可以与程序804存储在不同的存储地址。
处理器801和存储器802可以单独设置,也可以集成在一起,例如,集成在终端设备的系统级芯片(system on chip,SOC)上。
示例性地,存储器802可以用于存储本申请实施例中提供的图像处理方法的相关程序804,处理器801可以用于在执行图像处理时调用存储器802中存储的图像处理方法的相关程序804,执行本申请实施例的图像处理方法;例如,显示第一界面,第一界面包括第一控件;检测到对第一控件的第一操作;响应于第一操作,获取第一图像流,第一图像流为第一颜色空间的图像流;根据去马赛克算法将第一图像流转换为第二颜色空间的第二图像流;对第二图像流进行下采样处理与重采样处理,得到第三图像流,第三图像流为第一颜色空间的图像流,第三图像流的尺寸小于第一图像流;对第三图像流进行图像处理,得到第四图像流。
本申请还提供了一种计算机程序产品,该计算机程序产品被处理器801执行时实现本申请中任一方法实施例所述的图像处理方法。
该计算机程序产品可以存储在存储器802中,例如是程序804,程序804经过预处理、编译、汇编和链接等处理过程最终被转换为能够被处理器801执行的可执行目标文件。
本申请还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被计算机执行时实现本申请中任一方法实施例所述的图像处理方法。该计算机程序可以是高级语言程序,也可以是可执行目标程序。
该计算机可读存储介质例如是存储器802。存储器802可以是易失性存储器或非易失性存储器,或者,存储器802可以同时包括易失性存储器和非易失性存储器。其中,非易失性存储器可以是只读存储器(read-only memory,ROM)、可编程只读存储器(programmableROM,PROM)、可擦除可编程只读存储器(erasable PROM,EPROM)、电可擦除可编程只读存储器(electrically EPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(randomaccess memory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(static RAM,SRAM)、动态随机存取存储器(dynamicRAM,DRAM)、同步动态随机存取存储器(synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(doubledata rate SDRAM,DDR SDRAM)、增强型同步动态随机存取存储器(enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(synchlink DRAM,SLDRAM)和直接内存总线随机存取存储器(direct rambus RAM,DR RAM)。
本领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的装置和设备的具体工作过程以及产生的技术效果,可以参考前述方法实施例中对应的过程和技术效果,在此不再赘述。
在本申请所提供的几个实施例中,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的方法实施例的一些特征可以忽略,或不执行。以上所描述的装置实施例仅仅是示意性的,单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,多个单元或组件可以结合或者可以集成到另一个系统。另外,各单元之间的耦合或各个组件之间的耦合可以是直接耦合,也可以是间接耦合,上述耦合包括电的、机械的或其它形式的连接。
应理解,在本申请的各种实施例中,各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请的实施例的实施过程构成任何限定。
另外,本文中术语“系统”和“网络”在本文中常被可互换使用。本文中的术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
总之,以上所述仅为本申请技术方案的较佳实施例而已,并非用于限定本申请的保护范围。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

Claims (10)

1.一种图像处理方法,其特征在于,应用于电子设备,包括:
显示第一界面,所述第一界面包括第一控件;
检测到第二操作,所述第二操作用于指示开启所述电子设备的夜景模式,所述夜景模式是指所述电子设备的进光量小于预设阈值的拍摄模式;
检测到对所述第一控件的第一操作;
响应于所述第一操作,获取第一图像流,所述第一图像流为第一颜色空间的图像流,所述第一颜色空间是指Raw域;
根据去马赛克算法将所述第一图像流转换为第二颜色空间的第二图像流;
对所述第二图像流进行下采样处理与重采样处理,得到第三图像流,所述第三图像流为所述第一颜色空间的图像流,所述第三图像流的尺寸小于所述第一图像流;
对所述第三图像流进行图像处理,得到第四图像流。
2.如权利要求1所述的图像处理方法,其特征在于,所述图像处理包括根据所述第一颜色空间的算法进行处理,所述第一颜色空间的算法包括以下至少一项算法:
降噪算法、超分辨率算法或者去模糊算法。
3.如权利要求1或2所述的图像处理方法,其特征在于,还包括:
保存所述第四图像流,所述第四图像流用于回放。
4.如权利要求1或2所述的图像处理方法,其特征在于,所述第四图像流是指预览图像流。
5.如权利要求2所述的图像处理方法,其特征在于,所述电子设备包括相机算法库,所述相机算法库设置于硬件抽象层,所述相机算法库包括用于所述下采样处理的算法、所述重采样处理的算法或者所述第一颜色空间的算法。
6.如权利要求1或2所述的图像处理方法,其特征在于,所述第一界面是指所述电子设备的主屏界面,所述主屏界面包括相机应用程序,所述第一控件是指所述相机应用程序对应的控件。
7.如权利要求1或2所述的图像处理方法,其特征在于,所述第一界面是指视频录制界面,所述第一控件是指用于指示录制视频的控件。
8.如权利要求1或2所述的图像处理方法,其特征在于,所述第一界面是指视频通话界面,所述第一控件是指用于指示视频通话的控件。
9.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器和存储器;
所述存储器与所述一个或多个处理器耦合,所述存储器用于存储计算机可执行程序,所述一个或多个处理器调用所述计算机可执行程序以使得所述电子设备执行如权利要求1至8中任一项所述的图像处理方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储了计算机程序,当所述计算机程序被处理器执行时,使得处理器执行权利要求1至8中任一项所述的图像处理方法。
CN202111294313.9A 2021-09-03 2021-11-03 图像处理方法与电子设备 Active CN115767287B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US18/009,858 US20240107182A1 (en) 2021-09-03 2022-08-24 Image processing method and electronic device
PCT/CN2022/114535 WO2023030135A1 (zh) 2021-09-03 2022-08-24 图像处理方法与电子设备
EP22818595.5A EP4167557A4 (en) 2021-09-03 2022-08-24 IMAGE PROCESSING METHOD AND ELECTRONIC DEVICE

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN2021110342927 2021-09-03
CN202111034292 2021-09-03

Publications (2)

Publication Number Publication Date
CN115767287A CN115767287A (zh) 2023-03-07
CN115767287B true CN115767287B (zh) 2023-10-27

Family

ID=85332812

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111294313.9A Active CN115767287B (zh) 2021-09-03 2021-11-03 图像处理方法与电子设备

Country Status (4)

Country Link
US (1) US20240107182A1 (zh)
EP (1) EP4167557A4 (zh)
CN (1) CN115767287B (zh)
WO (1) WO2023030135A1 (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101796843A (zh) * 2008-07-08 2010-08-04 松下电器产业株式会社 图像编码方法及装置、图像解码方法及装置、程序、集成电路
JP2015035775A (ja) * 2013-08-09 2015-02-19 キヤノン株式会社 画像処理装置及び画像処理方法
US9210391B1 (en) * 2014-07-31 2015-12-08 Apple Inc. Sensor data rescaler with chroma reduction
US9219870B1 (en) * 2014-07-31 2015-12-22 Apple Inc. Sensor data rescaler for image signal processing
CN107924554A (zh) * 2015-08-26 2018-04-17 苹果公司 图像处理流水线中对图像数据的多速率处理
CN111402146A (zh) * 2020-02-21 2020-07-10 华为技术有限公司 图像处理方法以及图像处理装置
CN111741277A (zh) * 2020-07-13 2020-10-02 深圳市汇顶科技股份有限公司 图像处理的方法和图像处理装置
CN112261391A (zh) * 2020-10-26 2021-01-22 Oppo广东移动通信有限公司 图像处理方法、摄像头组件及移动终端

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100760135B1 (ko) * 2005-12-28 2007-09-18 매그나칩 반도체 유한회사 이미지 센서 및 이미지 축소 방법
US9025867B2 (en) * 2012-05-31 2015-05-05 Apple Inc. Systems and methods for YCC image processing
US9332239B2 (en) * 2012-05-31 2016-05-03 Apple Inc. Systems and methods for RGB image processing
US9462189B2 (en) * 2014-07-31 2016-10-04 Apple Inc. Piecewise perspective transform engine
JP2016082452A (ja) * 2014-10-17 2016-05-16 キヤノン株式会社 画像処理装置及び画像処理方法
US9697796B2 (en) * 2015-03-26 2017-07-04 Intel Corporation Adaptive linear luma domain video pipeline architecture
WO2017083784A1 (en) * 2015-11-11 2017-05-18 Apple Inc. Adaptive chroma downsampling and color space conversion techniques
US10262401B2 (en) * 2017-04-27 2019-04-16 Apple Inc. Noise reduction using sequential use of multiple noise models
US10657623B2 (en) * 2018-08-10 2020-05-19 Apple Inc. Two stage multi-scale processing of image data

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101796843A (zh) * 2008-07-08 2010-08-04 松下电器产业株式会社 图像编码方法及装置、图像解码方法及装置、程序、集成电路
JP2015035775A (ja) * 2013-08-09 2015-02-19 キヤノン株式会社 画像処理装置及び画像処理方法
US9210391B1 (en) * 2014-07-31 2015-12-08 Apple Inc. Sensor data rescaler with chroma reduction
US9219870B1 (en) * 2014-07-31 2015-12-22 Apple Inc. Sensor data rescaler for image signal processing
CN107924554A (zh) * 2015-08-26 2018-04-17 苹果公司 图像处理流水线中对图像数据的多速率处理
CN111402146A (zh) * 2020-02-21 2020-07-10 华为技术有限公司 图像处理方法以及图像处理装置
CN111741277A (zh) * 2020-07-13 2020-10-02 深圳市汇顶科技股份有限公司 图像处理的方法和图像处理装置
CN112261391A (zh) * 2020-10-26 2021-01-22 Oppo广东移动通信有限公司 图像处理方法、摄像头组件及移动终端

Also Published As

Publication number Publication date
CN115767287A (zh) 2023-03-07
WO2023030135A1 (zh) 2023-03-09
US20240107182A1 (en) 2024-03-28
EP4167557A4 (en) 2024-01-17
EP4167557A1 (en) 2023-04-19

Similar Documents

Publication Publication Date Title
CN115550570B (zh) 图像处理方法与电子设备
US20240119566A1 (en) Image processing method and apparatus, and electronic device
CN115701125B (zh) 图像防抖方法与电子设备
CN116055895B (zh) 图像处理方法及其装置、芯片系统和存储介质
CN116668862B (zh) 图像处理方法与电子设备
CN115767290B (zh) 图像处理方法和电子设备
WO2023060921A1 (zh) 图像处理方法与电子设备
WO2023124202A1 (zh) 图像处理方法与电子设备
CN115633262B (zh) 图像处理方法和电子设备
WO2023040725A1 (zh) 白平衡处理方法与电子设备
CN116437198B (zh) 图像处理方法与电子设备
CN115529411B (zh) 视频虚化方法和装置
CN115767287B (zh) 图像处理方法与电子设备
CN115767262A (zh) 拍照方法及电子设备
CN116128739A (zh) 下采样模型的训练方法、图像处理方法及装置
CN116258633A (zh) 图像去反光的方法、图像去反光模型的训练方法与装置
CN116029914B (zh) 图像处理方法与电子设备
CN116723417B (zh) 一种图像处理方法和电子设备
CN115955611B (zh) 图像处理方法与电子设备
CN116029951B (zh) 图像处理方法与电子设备
CN116012262B (zh) 一种图像处理方法、模型训练方法及电子设备
EP4344241A1 (en) Image processing method and electronic device
CN116029951A (zh) 图像处理方法与电子设备
CN117135459A (zh) 图像防抖方法与电子设备
CN116668837A (zh) 显示缩略图像的方法和电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant