CN106412592A - 图像处理方法、图像处理装置、成像装置及电子装置 - Google Patents

图像处理方法、图像处理装置、成像装置及电子装置 Download PDF

Info

Publication number
CN106412592A
CN106412592A CN201611079544.7A CN201611079544A CN106412592A CN 106412592 A CN106412592 A CN 106412592A CN 201611079544 A CN201611079544 A CN 201611079544A CN 106412592 A CN106412592 A CN 106412592A
Authority
CN
China
Prior art keywords
pixel
image
unit
image processing
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201611079544.7A
Other languages
English (en)
Other versions
CN106412592B (zh
Inventor
唐城
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN201611079544.7A priority Critical patent/CN106412592B/zh
Publication of CN106412592A publication Critical patent/CN106412592A/zh
Priority to PCT/CN2017/085409 priority patent/WO2018099012A1/zh
Priority to US15/800,233 priority patent/US10282817B2/en
Priority to EP17200121.6A priority patent/EP3328070B1/en
Priority to ES17200121T priority patent/ES2745726T3/es
Application granted granted Critical
Publication of CN106412592B publication Critical patent/CN106412592B/zh
Priority to US16/194,380 priority patent/US10339632B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015—Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/73—Deblurring; Sharpening
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843—Demosaicing, e.g. interpolating colour pixel values
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88—Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/62—Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/03—Circuitry for demodulating colour component signals modulated spatially by colour striped filters by frequency separation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20021—Dividing image into blocks, subimages or windows
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20172—Image enhancement details
    • G06T2207/20192—Edge enhancement; Edge preservation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Color Television Image Signal Generators (AREA)
  • Peptides Or Proteins (AREA)

Abstract

本发明公开了一种图像处理方法，用于处理图像传感器输出的色块图像以输出仿原图像。图像处理方法包括以下步骤：将色块图像划分成多个频率分析区域；计算每个频率分析区域的空间频率值；将空间频率值符合预定条件对应的频率分析区域归并为高频区域；和将色块图像转化成仿原图像。本发明实施方式的图像处理方法根据图像空间频率的判断，对高频区域采用能够提高图像分辨率及解析度的第一插值算法，对高频区域外的图像采用复杂度小于第一插值算法的第二插值算法，一方面提高了图像的信噪比、分辨率及解析度，提升了用户体验，另一方面减少了图像处理的时间。此外，本发明还公开了一种图像处理装置、成像装置及电子装置。

Description

图像处理方法、图像处理装置、成像装置及电子装置
技术领域
本发明涉及图像处理技术，特别涉及一种图像处理方法、图像处理装置、成像装置及电子装置。
背景技术
现有的一种图像传感器包括感光像素单元阵列和设置在感光像素单元阵列上的滤光片单元阵列，每个滤光片单元阵列覆盖对应一个感光像素单元，每个感光像素单元包括多个感光像素。工作时，可以控制图像传感器曝光输出合并图像，合并图像可以通过图像处理方法转化成合并真彩图像并保存下来。合并图像包括合并像素阵列，同一感光像素单元的多个感光像素合并输出作为对应的合并像素。如此，可以提高合并图像的信噪比，然而，合并图像的解析度降低。当然，也可以控制图像传感器曝光输出高像素的色块图像，色块图像包括原始像素阵列，每个感光像素对应一个原始像素。然而，由于同一滤光片单元对应的多个原始像素颜色相同，同样无法提高色块图像的解析度。因此，需要通过插值计算的方式将高像素色块图像转化成高像素的仿原图像，仿原图像可以包括呈拜耳阵列排布的仿原像素。仿原图像可以通过图像处理方法转化成仿原真彩图像并保存下来。然而，插值计算耗费资源且耗时，而且并非所有场景都适用或者需要输出仿原真彩图像。
发明内容
本发明旨在至少解决现有技术中存在的技术问题之一。为此，本发明需要提供一种图像处理方法、图像处理装置、成像装置及电子装置。
本发明实施方式的图像处理方法，用于处理图像传感器输出的色块图像以输出仿原图像，所述图像传感器包括感光像素单元阵列和设置在所述感光像素单元阵列上的滤光片单元阵列，每个所述滤光片单元阵列覆盖对应一个所述感光像素单元，每个所述感光像素单元包括多个感光像素，所述色块图像包括预定阵列排布的图像像素单元，所述图像像素单元包括多个原始像素，每个所述感光像素对应一个所述原始像素，所述图像处理方法包括以下步骤：
将所述色块图像划分成多个频率分析区域；
计算每个所述频率分析区域的空间频率值；
将所述空间频率值符合预定条件对应的所述频率分析区域归并为高频区域；和
将所述色块图像转化成仿原图像，所述仿原图像包括阵列排布的仿原像素，所述仿原像素包括当前像素，所述原始像素包括与所述当前像素对应的关联像素，所述将所述色块图像转化成仿原图像的步骤包括以下步骤：
判断所述关联像素是否位于所述高频区域内；
在所述关联像素位于所述高频区域内时，判断所述当前像素的颜色与所述关联像素的颜色是否相同；
在所述当前像素的颜色与所述关联像素的颜色相同时，将所述关联像素的像素值作为所述当前像素的像素值；
在所述当前像素的颜色与所述关联像素的颜色不同时，根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值，所述图像像素单元包括所述关联像素单元，所述关联像素单元的颜色与所述当前像素相同且与所述当前像素相邻；和
在所述关联像素位于所述高频区域外时，通过第二插值算法计算所述当前像素的像素值，所述第二插值算法的复杂度小于所述第一插值算法。
在某些实施方式中，所述预定条件包括所述空间频率值大于预设频率阈值。
在某些实施方式中，所述预定阵列包括拜耳阵列。
在某些实施方式中，所述图像像素单元包括2*2阵列的所述原始像素。
在某些实施方式中，所述根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值的步骤，包括以下步骤：
计算所述关联像素各个方向上的渐变量；
计算所述关联像素各个方向上的权重；和
根据所述渐变量及所述权重计算所述当前像素的像素值。
在某些实施方式中，所述图像处理方法在所述根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值的步骤前，包括以下步骤：
对所述色块图像做白平衡补偿；
所述图像处理方法在所述根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值的步骤后包括以下步骤：
对所述仿原图像做白平衡补偿还原。
在某些实施方式中，所述图像处理方法在所述根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值的步骤前，包括以下步骤：
对所述色块图像做坏点补偿。
在某些实施方式中，所述图像处理方法在所述根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值的步骤前，包括以下步骤：
对所述色块图像做串扰补偿。
在某些实施方式中，所述图像处理方法在所述根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值的步骤后，包括以下步骤：
对所述仿原图像进行镜片形状校正、去马赛克、降噪和边缘锐化处理。
本发明实施方式的图像处理装置，用于处理图像传感器输出的色块图像以输出仿原图像，所述图像传感器包括感光像素单元阵列和设置在所述感光像素单元阵列上的滤光片单元阵列，每个所述滤光片单元阵列覆盖对应一个所述感光像素单元，每个所述感光像素单元包括多个感光像素，所述色块图像包括预定阵列排布的图像像素单元，所述图像像素单元包括多个原始像素，每个所述感光像素对应一个所述原始像素，所述图像处理装置包括：
划分模块，所述划分模块用于将所述色块图像划分成多个频率分析区域；
计算模块，所述计算模块用于计算每个所述频率分析区域的空间频率值；
归并模块，所述归并模块用于将所述空间频率值符合预定条件对应的所述频率分析区域归并为高频区域；和
转化模块，所述转化模块用于将所述色块图像转化成仿原图像，所述仿原图像包括阵列排布的仿原像素，所述仿原像素包括当前像素，所述原始像素包括与所述当前像素对应的关联像素；
所述转化模块包括：
第一判断单元，所述第一判断单元用于判断所述关联像素是否位于所述高频区域内；
第二判断单元，所述第二判断单元用于在所述关联像素位于所述高频区域内时，判断所述当前像素的颜色与所述关联像素的颜色是否相同；
第一计算单元，所述第一计算单元用于在所述当前像素的颜色与所述关联像素的颜色相同时，将所述关联像素的像素值作为所述当前像素的像素值；
第二计算单元，所述第二计算单元用于在所述当前像素的颜色与所述关联像素的颜色不同时，根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值，所述图像像素单元包括所述关联像素单元，所述关联像素单元的颜色与所述当前像素相同且与所述当前像素相邻；和
第三计算单元，所述第三计算单元用于在所述关联像素位于所述高频区域外时，通过第二插值算法计算所述当前像素的像素值，所述第二插值算法的复杂度小于所述第一插值算法。
在某些实施方式中，所述预定条件包括所述空间频率值大于预设频率阈值。
在某些实施方式中，所述预定阵列包括拜耳阵列。
在某些实施方式中，所述图像像素单元包括2*2阵列的所述原始像素。
在某些实施方式中，所述第二计算单元包括：
第一计算子单元，所述第一计算子单元用于计算所述关联像素各个方向上的渐变量；
第二计算子单元，所述第二计算子单元用于计算所述关联像素各个方向上的权重；和
第三计算子单元，所述第三计算子单元用于根据所述渐变量及所述权重计算所述当前像素的像素值。
在某些实施方式中，所述转化模块包括：
白平衡补偿单元，所述白平衡补偿单元用于对所述色块图像做白平衡补偿；
白平衡补偿还原单元，所述白平衡补偿还原单元用于对所述仿原图像做白平衡补偿还原。
在某些实施方式中，所述转化模块包括：
坏点补偿单元，所述坏点补偿单元用于对所述色块图像做坏点补偿。
在某些实施方式中，所述转化模块包括：
串扰补偿单元，所述串扰补偿单元用于对所述色块图像做串扰补偿。
在某些实施方式中，所述转化模块包括：
处理单元，所述处理单元用于对所述仿原图像进行镜片形状校正、去马赛克、降噪和边缘锐化处理。
本发明实施方式的成像装置包括上述的图像处理装置和图像传感器，所述图像传感器用于产生所述色块图像。
本发明实施方式的电子装置包括上述的成像装置触摸屏。
在某些实施方式中，所述电子装置包括手机或平板电脑。
在某些实施方式中，所述成像装置包括前置相机或后置相机。
本发明实施方式的图像处理方法、图像处理装置、成像装置及电子装置，根据图像空间频率的判断，对高频区域采用能够提高图像分辨率及解析度的第一插值算法，对高频区域外的图像采用复杂度小于第一插值算法的第二插值算法，一方面提高了图像的信噪比、分辨率及解析度，提升了用户体验，另一方面减少了图像处理的时间。
本发明的附加方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。
附图说明
本发明的上述和/或附加的方面和优点可以从结合下面附图对实施方式的描述中将变得明显和容易理解，其中：
图1是本发明实施方式的图像处理方法的流程示意图；
图2是本发明实施方式的图像处理装置的功能模块示意图；
图3是本发明实施方式的频率分析区域的示意图；
图4是本发明实施方式的图像传感器的模块示意图；
图5是本发明实施方式的图像传感器的电路示意图；
图6是本发明实施方式的滤光片单元的示意图；
图7是本发明实施方式的图像传感器的结构示意图；
图8是本发明实施方式的合并图像状态示意图；
图9是本发明实施方式的色块图像的状态示意图；
图10是本发明实施方式的控制方法的状态示意图；
图11是本发明实施方式的控制方法的流程示意图；
图12是本发明某些实施方式的第二计算模块的功能模块示意图；
图13是本发明某些实施方式的图像处理方法的流程示意图；
图14是本发明某些实施方式的图像处理装置的功能模块示意图；
图15是本发明某些实施方式的色块图像的图像像素单元示意图；
图16是本发明某些实施方式的图像处理方法的流程示意图；
图17是本发明某些实施方式的图像处理装置的功能模块示意图；
图18是本发明某些实施方式的图像处理方法的状态示意图；
图19是本发明实施方式的成像装置的功能模块示意图；
图20是本发明实施方式的电子装置的功能模块示意图；
主要元件及符号说明：
图像处理装置100、划分模块110、计算模块120、归并模块130、转化模块140、第一判断单元141、第二判断单元142、第一计算单元143、第二计算单元144、第一计算子单元1441、第二计算子单元1442、第三计算子单元1443、第三计算单元145、白平衡补偿单元146、白平衡补偿还原单元147、坏点补偿单元148、串扰补偿单元149、处理单元150；
图像传感器200、感光像素单元阵列210、感光像素单元210a、感光像素212、感光像素子单元2120、感光器件2121、传输管2122、源极跟随器2123、模数转换器2124、加法器213、滤光片单元阵列220、滤光片单元220a；
成像装置1000；
触摸屏2000；
电子装置10000。
具体实施方式
下面详细描述本发明的实施方式，实施方式的示例在附图中示出，其中，相同或类似的标号自始至终表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施方式是示例性的，仅用于解释本发明，而不能理解为对本发明的限制。
在本发明的实施方式的描述中，需要理解的是，术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”、“顺时针”、“逆时针”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明的实施方式和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的实施方式的限制。此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。在本发明的实施方式的描述中，“多个”的含义是两个或两个以上，除非另有明确具体的限定。
在本发明的实施方式的描述中，需要说明的是，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接或可以相互通讯；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明的实施方式中的具体含义。
在本发明的实施方式中，除非另有明确的规定和限定，第一特征在第二特征之“上”或之“下”可以包括第一和第二特征直接接触，也可以包括第一和第二特征不是直接接触而是通过它们之间的另外的特征接触。而且，第一特征在第二特征“之上”、“上方”和“上面”包括第一特征在第二特征正上方和斜上方，或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”包括第一特征在第二特征正下方和斜下方，或仅仅表示第一特征水平高度小于第二特征。
下文的公开提供了许多不同的实施方式或例子用来实现本发明的实施方式的不同结构。为了简化本发明的实施方式的公开，下文中对特定例子的部件和设置进行描述。当然，它们仅仅为示例，并且目的不在于限制本发明。此外，本发明的实施方式可以在不同例子中重复参考数字和/或参考字母，这种重复是为了简化和清楚的目的，其本身不指示所讨论各种实施方式和/或设置之间的关系。此外，本发明的实施方式提供了的各种特定的工艺和材料的例子，但是本领域普通技术人员可以意识到其他工艺的应用和/或其他材料的使用。
请参阅图1，本发明实施方式的图像处理方法用于处理图像传感器200输出的色块图像以输出仿原图像。图像传感器200包括感光像素单元阵列210和设置在感光像素单元阵列210上的滤光片单元阵列220。每个滤光片单元阵列220覆盖对应一个感光像素单元210a。每个感光像素单元210a包括多个感光像素212。色块图像包括预定阵列排布的图像像素单元。图像像素单元包括多个原始像素。每个感光像素212对应一个原始像素。图像处理方法包括以下步骤：
步骤S10：将色块图像划分成多个频率分析区域；
步骤S20：计算每个频率分析区域的空间频率值；
步骤S30：将空间频率值符合预定条件对应的频率分析区域归并为高频区域；和
步骤S40：将色块图像转化成仿原图像，仿原图像包括阵列排布的仿原像素，仿原像素包括当前像素，原始像素包括与当前像素对应的关联像素，步骤S40包括以下步骤：
步骤S41：判断关联像素是否位于高频区域内；
步骤S42：在关联像素位于高频区域内时，判断当前像素的颜色与关联像素的颜色是否相同；
步骤S43：在当前像素的颜色与关联像素的颜色相同时，将关联像素的像素值作为当前像素的像素值；
步骤S44：在当前像素的颜色与关联像素的颜色不同时，根据关联像素单元的像素值通过第一插值算法计算当前像素的像素值，图像像素单元包括关联像素单元，关联像素单元的颜色与当前像素相同且与当前像素相邻；和
步骤S45：在关联像素位于高频区域外时，通过第二插值算法计算当前像素的像素值，第二插值算法的复杂度小于第一插值算法。
请参阅图2，本发明实施方式的图像处理装置100用于处理图像传感器200输出的色块图像以输出仿原图像。图像传感器200包括感光像素单元阵列210和设置在感光像素单元阵列210上的滤光片单元阵列220。每个滤光片单元阵列220覆盖对应一个感光像素单元210a。每个感光像素单元210a包括多个感光像素212。色块图像包括预定阵列排布的图像像素单元。图像像素单元包括多个原始像素。每个感光像素212对应一个原始像素。图像处理装置100包括划分模块110、计算模块120、归并模块130和转化模块140。转化模块140包括第一判断单元141、第二判断单元142、第一计算单元143、第二计算单元144和第三计算单元145。
本发明实施方式的图像处理方法可以由本发明实施方式的图像处理装置100实现。例如，步骤S10可以由划分模块110实现，步骤S20可以由计算模块120实现，步骤S30可以由归并模块130实现，步骤S40可以由转化模块140实现，步骤S41可以由第一判断单元141实现，步骤S42可以由第二判断单元142实现，步骤S43可以由第一计算单元143实现，步骤S44可以由第二计算单元144实现，步骤S45可以由第三计算单元145实现。
也即是说，划分模块110用于将色块图像划分成多个频率分析区域。计算模块120用于计算每个频率分析区域的空间频率值。归并模块130用于将空间频率值符合预定条件对应的频率分析区域归并为高频区域。转化模块140用于将色块图像转化成仿原图像。仿原图像包括阵列排布的仿原像素。仿原像素包括当前像素。原始像素包括与当前像素对应的关联像素。第一判断单元141用于判断关联像素是否位于高频区域内。第二判断单元142用于在关联像素位于高频区域内时，判断当前像素的颜色与关联像素的颜色是否相同。第一计算单元143用于在当前像素的颜色与关联像素的颜色相同时，将关联像素的像素值作为当前像素的像素值。第二计算单元144用于在当前像素的颜色与关联像素的颜色不同时，根据关联像素单元的像素值通过第一插值算法计算当前像素的像素值。图像像素单元包括关联像素单元。关联像素单元的颜色与当前像素相同且与当前像素相邻。第三计算单元145用于在关联像素位于高频区域外时，通过第二插值算法计算当前像素的像素值。第二插值算法的复杂度小于第一插值算法。
本发明实施方式的图像处理方法及图像处理装置100根据图像空间频率的判断，对高频区域采用能够提高图像分辨率及解析度的第一插值算法，对高频区域外的图像采用复杂度小于第一插值算法的第二插值算法，一方面提高了图像的信噪比、分辨率及解析度，提升了用户体验，另一方面减少了图像处理的时间。
在某些实施方式中，第二插值算法的时间复杂度和空间复杂度都比第一插值算法小。算法的复杂度包括时间复杂度和空间复杂度，时间复杂度用来度量算法需要耗费的时间，空间复杂度是用来度量算法需要耗费的存储空间。时间复杂度小说明算法需要耗费的时间少，空间复杂度小说明算法需要耗费的存储空间小，因此，利用第二插值算法有利于提高运算速度，使得拍照过程更加流畅，提高用户体验。
在某些实施方式中，预定条件包括空间频率值大于预设频率阈值。
具体地，请参阅图3，可以将色块图像划分成n*m个频率分析区域，计算每个频率分析区域的空间频率值，并对每个频率分析区域设定一个频率阈值，例如，W1×1、W1×2、W1×3、…Wn×m，由于位于图像四周的部分通常不是拍照的主体，因此四周的频率阈值可以相对设置得低一些，中心位置的频率阈值则可以设置得高一些，具体地，可以根据实际情况来确定。当频率分析区域的空间频率值大于与其对应设置的频率阈值时，则可以判定该区域为高频区域。
请一并参阅图4至图7，本发明实施方式的图像传感器200包括感光像素单元阵列210和设置在感光像素单元阵列210上的滤光片单元阵列220。
进一步地，感光像素单元阵列210包括多个感光像素单元210a，每个感光像素单元210a包括多个相邻的感光像素212。每个感光像素212包括一个感光器件2121和一个传输管2122，其中，感光器件2121可以是光电二极管，传输管2122可以是MOS晶体管。
滤光片单元阵列220包括多个滤光片单元220a，每个滤光片单元220a覆盖对应一个感光像素单元210a。
具体地，在某些示例中，滤光片单元阵列220包括拜耳阵列，也即是说，相邻的四个滤光片单元220a分别为一个红色滤光片单元、一个蓝色滤光片单元和两个绿色滤光片单元。
每一个感光像素单元210a对应同一颜色的滤光片单元220a，若一个感光像素单元210a中一共包括n个相邻的感光器件2121，那么一个滤光片单元220a覆盖一个感光像素单元210a中的n个感光器件2121，该滤光片单元220a可以是一体构造，也可以由n个独立的子滤光片组装连接在一起。
在某些实施方式中，每个感光像素单元210a包括四个相邻的感光像素212，相邻两个感光像素212共同构成一个感光像素子单元2120，感光像素子单元2120还包括一个源极跟随器2123及一个模数转换器2124。感光像素单元210a还包括一个加法器213。其中，一个感光像素子单元2120中的每个传输管2122的一端电极被连接到对应感光器件2121的阴极电极，每个传输管2122的另一端被共同连接至源极跟随器2123的闸极电极，并通过源极跟随器2123源极电极连接至一个模数转换器2124。其中，源极跟随器2123可以是MOS晶体管。两个感光像素子单元2120通过各自的源极跟随器2123及模数转换器2124连接至加法器213。
也即是说，本发明实施方式的图像传感器200的一个感光像素单元210a中相邻的四个感光器件2121共用一个同颜色的滤光片单元220a，每个感光器件2121对应连接一个传输管2122，相邻两个感光器件2121共用一个源极跟随器2123和一个模数转换器2124，相邻的四个感光器件2121共用一个加法器213。
进一步地，相邻的四个感光器件2121呈2*2阵列排布。其中，一个感光像素子单元2120中的两个感光器件2121可以处于同一列。
在成像时，当同一滤光片单元220a下覆盖的两个感光像素子单元2120或者说四个感光器件2121同时曝光时，可以对像素进行合并进而可输出合并图像。
具体地，感光器件2121用于将光照转化为电荷，且产生的电荷与光照强度成比例关系，传输管2122用于根据控制信号来控制电路的导通或断开。当电路导通时，源极跟随器2123用于将感光器件2121经光照产生的电荷信号转化为电压信号。模数转换器2124用于电压信号转换为数字信号。加法器213用于将两路数字信号相加共同输出。
请参阅图8，以16M的图像传感器200举例来说，本发明实施方式的图像传感器200可以将16M的感光像素212合并成4M，或者说，输出合并图像，合并后，感光像素212的大小相当于变成了原来大小的4倍，从而提升了感光像素212的感光度。此外，由于图像传感器200中的噪声大部分都是随机噪声，对于合并之前的感光像素212的来说，有可能其中一个或两个像素中存在噪点，而在将四个感光像素212合并成一个大的感光像素212后，减小了噪点对该大像素的影响，也即是减弱了噪声，提高了信噪比。
但在感光像素212大小变大的同时，由于像素值降低，合并图像的解析度也将降低。
在成像时，当同一滤光片单元220a下覆盖的四个感光器件2121依次曝光时，经过图像处理可以输出色块图像。
具体地，感光器件2121用于将光照转化为电荷，且产生的电荷与光照强度成比例关系，传输管2122用于根据控制信号来控制电路的导通或断开。当电路导通时，源极跟随器2123用于将感光器件2121经光照产生的电荷信号转化为电压信号。模数转换器2124用于电压信号转换为数字信号，以供与图像传感器200相连的图像处理装置100处理。
请参阅图9，以16M的图像传感器200举例来说，本发明实施方式的图像传感器200还可以保持16M的感光像素212输出，或者说输出色块图像，色块图像包括图像像素单元，图像像素单元包括2*2阵列排布的原始像素，该原始像素的大小与感光像素212大小相同，然而由于覆盖相邻四个感光器件2121的滤光片单元220a为同一颜色，也即是说，虽然四个感光器件2121分别曝光，但其覆盖的滤光片单元220a颜色相同，因此，输出的每个图像像素单元的相邻四个原始像素颜色相同，仍然无法提高图像的解析度。
本发明实施方式的图像处理方法，可以用于对输出的色块图像进行处理，以得到仿原图像。
可以理解，合并图像在输出时，四个相邻的同色感光像素212以合并像素输出，如此，合并图像中的四个相邻的合并像素仍可看作是典型的拜耳阵列，可以直接被图像处理装置100接收进行处理以输出合并真彩图像。而色块图像在输出时每个感光像素212分别输出，由于相邻四个感光像素212颜色相同，因此，一个图像像素单元的四个相邻原始像素的颜色相同，是非典型的拜耳阵列。而图像处理装置100无法对非典型拜耳阵列直接进行处理，也即是说，在图像传感器200采用同一图像处理装置100时，为兼容两种模式的真彩图像输出即合并模式下的合并真彩图像输出及色块模式下的仿原真彩图像输出，需将色块图像转化为仿原图像，或者说将非典型拜耳阵列的图像像素单元转化为典型拜耳阵列的像素排布。
仿原图像包括呈拜耳阵列排布的仿原像素。仿原像素包括当前像素，原始像素包括与当前像素对应的关联像素。
请参阅图10，以图10为例，当前像素为R3’3’和R5’5’，对应的关联像素分别为R33和B55。
在获取当前像素R3’3’时，由于R33’与对应的关联像素R33的颜色相同，因此在转化时直接将R33的像素值作为R33’的像素值。
在获取当前像素R5’5’时，由于R5’5’与对应的关联像素B55的颜色不相同，显然不能直接将B55的像素值作为R5’5’的像素值，需要根据R5’5’的关联像素单元通过第一插值算法计算得到。
需要说明的是，以上及下文中的像素值应当广义理解为该像素的颜色属性数值，例如色彩值。
关联像素单元包括多个，例如4个，颜色与当前像素相同且与当前像素相邻的图像像素单元中的原始像素。
需要说明的是，此处相邻应做广义理解，以图x为例，R5’5’对应的关联像素为B55，与B55所在的图像像素单元相邻的且与R5’5’颜色相同的关联像素单元所在的图像像素单元分别为R44、R74、R47、R77所在的图像像素单元，而并非在空间上距离B55所在的图像像素单元更远的其他的红色图像像素单元。其中，与B55在空间上距离最近的红色原始像素分别为R44、R74、R47和R77，也即是说，R55’的关联像素单元由R44、R74、R47和R77组成，R5’5’与R44、R74、R47和R77的颜色相同且相邻。
如此，针对不同情况的当前像素，采用不同方式的将原始像素转化为仿原像素，从而将色块图像转化为仿原图像，由于拍摄图像时，采用了特殊的拜耳阵列结构的滤光片，提高了图像信噪比，并且在图像处理过程中，通过第一插值算法对色块图像进行插值处理，提高了图像的分辨率及解析度。
请参阅图11，在某些实施方式中，步骤S44包括以下步骤：
步骤S441：计算关联像素单元各个方向上的渐变量；
步骤S442：计算关联像素单元各个方向上的权重；和
步骤S443：根据渐变量及权重计算当前像素的像素值。
请参阅图12，在某些实施方式中，第二计算单元144包括第一计算子单元1441、第二计算子单元1442和第三计算子单元1443。步骤S441可以由第一计算子单元1441实现，步骤S442可以由第二计算子单元1442实现，步骤S443可以由第三计算子单元1443实现。或者说，第一计算子单元1441用于计算关联像素单元各个方向上的渐变量，第二计算子单元1442用于计算关联像素单元各个方向上的权重，第三计算子单元1443用于根据渐变量及权重计算当前像素的像素值。
具体地，第一插值算法是参考图像在不同方向上的能量渐变，将与当前像素对应的颜色相同且相邻的关联像素单元依据在不同方向上的渐变权重大小，通过线性插值的方式计算得到当前像素的像素值。其中，在能量变化量较小的方向上，参考比重较大，因此，在插值计算时的权重较大。
在某些示例中，为方便计算，仅考虑水平和垂直方向。
R5’5’由R44、R74、R47和R77插值得到，而在水平和垂直方向上并不存在颜色相同的原始像素，因此需首根据关联像素单元计算在水平和垂直方向上该颜色的分量。其中，水平方向上的分量为R45和R75、垂直方向的分量为R54和R57可以分别通过R44、R74、R47和R77计算得到。
具体地，R45＝R44*2/3+R47*1/3，R75＝2/3*R74+1/3*R77，R54＝2/3*R44+1/3*R74，R57＝2/3*R47+1/3*R77。
然后，分别计算在水平和垂直方向的渐变量及权重，也即是说，根据该颜色在不同方向的渐变量，以确定在插值时不同方向的参考权重，在渐变量小的方向，权重较大，而在渐变量较大的方向，权重较小。其中，在水平方向的渐变量X1＝|R45-R75|，在垂直方向上的渐变量X2＝|R54-R57|，W1＝X1/(X1+X2)，W2＝X2/(X1+X2)。
如此，根据上述可计算得到，R5’5’＝(2/3*R45+1/3*R75)*W2+(2/3*R54+1/3*R57)*W1。可以理解，若X1大于X2，则W1大于W2，因此计算时水平方向的权重为W2，而垂直方向的权重为W1，反之亦反。
如此，可根据第一插值算法计算得到当前像素的像素值。依据上述对关联像素的处理方式，可将原始像素转化为呈典型拜耳阵列排布的仿原像素，也即是说，相邻的四个2*2阵列的仿原像素包括一个红色仿原像素，两个绿色仿原像素和一个蓝色仿原像素。
需要说明的是，第一插值算法包括但不限于本实施例中公开的在计算时仅考虑垂直和水平两个方向相同颜色的像素值的方式，例如还可以参考其他颜色的像素值。
请参阅图13及图14，在某些实施方式中，步骤S44前包括步骤：
步骤S46：对色块图像做白平衡补偿；
步骤S44后包括步骤：
步骤S47：对仿原图像做白平衡补偿还原。
在某些实施方式中，转化模块140包括白平衡补偿单元146和白平衡补偿还原单元147。步骤S46可以由白平衡补偿单元146实现，步骤S47可以由白平衡补偿还原单元147实现。或者说，白平衡补偿单元146用于对色块图像做白平衡补偿，白平衡补偿还原单元147用于对仿原图像做白平衡补偿还原。
具体地，在一些示例中，在将色块图像转化为仿原图像的过程中，在第一插值算法中，红色和蓝色仿原像素往往不仅参考与其颜色相同的通道的原始像素的颜色，还会参考绿色通道的原始像素的颜色权重，因此，在第一插值算法前需要进行白平衡补偿，以在插值计算中排除白平衡的影响。为了不破坏色块图像的白平衡，因此，在插值之后需要将仿原图像进行白平衡补偿还原，还原时根据在补偿中红色、绿色及蓝色的增益值进行还原。
如此，可排除在第一插值算法的过程中白平衡的影响，并且能够使得插值后得到的仿原图像保持色块图像的白平衡。
请再次参阅图13及图14，在某些实施方式中，步骤S44前包括步骤：
步骤S48：对色块图像做坏点补偿。
在某些实施方式中，转化模块140包括坏点补偿单元148。步骤S48可以由坏点补偿单元148实现。或者说，坏点补偿单元148用于对色块图像做坏点补偿。
可以理解，受限于制造工艺，图像传感器200可能会存在坏点，坏点通常不随感光度变化而始终呈现同一颜色，坏点的存在将影响图像质量，因此，为保证插值的准确，不受坏点的影响，需要在第一插值算法前进行坏点补偿。
具体地，坏点补偿过程中，可以对原始像素进行检测，当检测到某一原始像素为坏点时，可根据其所在的图像像素单元的其他原始像的像素值进行坏点补偿。
如此，可排除坏点对插值处理的影响，提高图像质量。
请再次参阅图13及图14，在某些实施方式中，步骤S44前包括步骤：
步骤S49：对色块图像做串扰补偿。
在某些实施方式中，转化包括串扰补偿单元149。步骤S49可以由串扰补偿单元149实现。或者说，串扰补偿单元149用于对色块图像做串扰补偿。
具体的，一个感光像素单元210a中的四个感光像素212覆盖同一颜色的滤光片，而感光像素212之间可能存在感光度的差异，以至于以仿原图像转化输出的真彩图像中的纯色区域会出现固定型谱噪声，影响图像的质量。因此，需要对色块图像进行串扰补偿。
如上述解释说明，进行串扰补偿，需要在成像装置1000的图像传感器200制造过程中获得补偿参数，并将串扰补偿的相关参数预置于成像装置1000的存储器中或装设成像装置1000的电子装置10000例如手机或平板电脑中。
预定光环境例如可包括LED匀光板，5000K左右的色温，亮度1000勒克斯左右，成像参数可包括增益值，快门值及镜头位置。设定好相关参数后，进行串扰补偿参数的获取。
处理过程中，首先在设定的光环境中以设置好的成像参数，获取多张色块图像，并合并成一张色块图像，如此可减少以单张色块图像作为校准基础的噪声影响。
请参阅图15，以图15中的图像像素单元Gr为例，其包括Gr1、Gr2、Gr3和Gr4，串扰补偿目的在于将感光度可能存在差异的感光像素212通过补偿进本校准至同一水平。该图像像素单元的平均像素值为Gr_avg＝(Gr1+Gr2+Gr3+Gr4)/4，可基本表征这四个感光像素212的感光度的平均水平，以此平均值作为基础值,分别计算Gr1/Gr_avg，Gr2/Gr_avg，Gr3/Gr_avg和Gr4/Gr_avg，可以理解，通过计算每一个原始像素的像素值与该图像像素单元的平均像素值的比值，可以基本反映每个原始像素与基础值的偏差，记录四个比值并作为补偿参数记录到相关装置的存储器中，以在成像时进行调取对每个原始像素进行补偿，从而减少串扰，提高图像质量。
通常，在设定串扰补偿参数后还应当验证所设定的参数是否准确。
验证过程中，首先以相同的光环境和成像参数获取一张色块图像，依据计算得到的补偿参数对该色块图像进行串扰补偿，计算补偿后的Gr’_avg、Gr’1/Gr’_avg、Gr’2/Gr’_avg、Gr’3/Gr’_avg和Gr’4/Gr’_avg。根据计算结果判断补偿参数是否准确，判断可根据宏观与微观两个角度考虑。微观是指某一个原始像素在补偿后仍然偏差较大，成像后易被使用者感知，而宏观则从全局角度，也即是在补偿后仍存在偏差的原始像素的总数目较多时，此时即便单独的每一个原始像素的偏差不大，但作为整体仍然会被使用者感知。因此，应当设置针对微观设置一个比例阈值即可，针对宏观需设置一个比例阈值和一个数量阈值。如此，可对设置的串扰补偿参数进行验证，确保补偿参数的正确，以减少串扰对图像质量的影响。
请参阅图16和图17，在某些实施方式中，步骤S44后还包括步骤：
步骤S50：对仿原图像进行镜片阴影校正、去马赛克、降噪和边缘锐化处理。
在某些实施方式中，转化模块140包括处理单元150。步骤S50可以由处理单元150实现，或者说，处理单元150用于对仿原图像进行镜片阴影校正、去马赛克、降噪和边缘锐化处理。
可以理解，将色块图像转化为仿原图像后，仿原像素排布为典型的拜耳阵列，可采用处理模块进行处理，处理过程中包括镜片阴影校正、去马赛克、降噪和边缘锐化处理，如此，处理后即可得到真彩图像输出给用户。
对于一帧色块图像的高频区域外的图像，需利用第二插值算法进行图像处理。第二插值算法的插值过程是：对高频区域外的每一个图像像素单元中所有的原始像素的像素值取均值，随后判断当前像素与关联像素的颜色是否相同，在当前像素与关联像素颜色值相同时，取关联像素的像素值作为当前像素的像素值，在当前像素与关联像素颜色不同时，取最邻近的与当前像素值颜色相同的图像像素单元中的原始像素的像素值作为当前像素的像素值。
具体地，请参阅图18，以图18为例，先计算图像像素单元中各个原始像素的像素值：Ravg＝(R1+R2+R3+R4)/4，Gravg＝(Gr1+Gr2+Gr3+Gr4)/4，Gbavg＝(Gb1+Gb2+Gb3+Gb4)/4，Bavg＝(B1+B2+B3+B4)/4。此时，R11、R12、R21、R22的像素值均为Ravg，Gr31、Gr32、Gr41、Gr42的像素值均为Gravg，Gb13、Gb14、Gb23、Gb24的像素值均为Gbavg，B33、B34、B43、B44的像素值均为Bavg。以当前像素B22为例，当前像素B22对应的关联像素为R22，由于当前像素B22的颜色与关联像素R22的颜色不同，因此当前像素B22的像素值应取最邻近的蓝色滤光片对应的像素值即取B33、B34、B43、B44中任一Bavg的值。同样地，其他颜色也采用第二插值算法进行计算以得到各个像素的像素值。
如此，采用第二插值算法，由非典型拜耳阵列转换成典型的拜耳阵列过程中所需的复杂度较小，第二插值算法同样能提升仿原图像的解析度，但图像的仿原效果比第一插值算法的仿原效果略差。因此，用第一插值算法处理高频区域内的图像，而采用第二插值算法处理高频区域外的图像，提升主体部分的解析度和仿原效果，提升了用户体验，同时减少了图像处理所需的时间。
请参阅图19，本发明实施方式的成像装置1000包括上述的图像处理装置100和图像传感器200。图像传感器200用于产生色块图像。
本发明实施方式的成像装置1000根据图像空间频率的判断，对高频区域采用能够提高图像分辨率及解析度的第一插值算法，对高频区域外的图像采用复杂度小于第一插值算法的第二插值算法，一方面提高了图像的信噪比、分辨率及解析度，提升了用户体验，另一方面减少了图像处理的时间。
请参阅图20，本发明实施方式的电子装置10000包括上述成像装置1000和触摸屏2000。
在某些实施方式中，电子装置10000包括手机或平板电脑。
手机和平板电脑均带有摄像头即成像装置1000，用户使用手机或平板电脑进行拍摄时，可以采用本发明实施方式的图像处理方法，以得到高解析度的图片。
当然，电子装置10000也可以包括其他具有成像功能的电子设备。
在某些实施方式中，成像装置1000包括前置相机或后置相机。
可以理解，许多电子装置10000包括前置相机和后置相机，前置相机和后置相机均可采用本发明实施方式的图像处理方法实现图像处理，以提升用户体验。
在本说明书的描述中，参考术语“一个实施方式”、“一些实施方式”、“示意性实施方式”、“示例”、“具体示例”或“一些示例”等的描述意指结合所述实施方式或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施方式或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施方式或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施方式或示例中以合适的方式结合。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本发明的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本发明的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理模块的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(控制方法)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。
应当理解，本发明的实施方式的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如，如果用硬件来实现，和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。
此外，在本发明的各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器，磁盘或光盘等。
尽管上面已经示出和描述了本发明的实施方式，可以理解的是，上述实施方式是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施实施进行变化、修改、替换和变型。

Claims (22)

1.一种图像处理方法，用于处理图像传感器输出的色块图像以输出仿原图像，其特征在于，所述图像传感器包括感光像素单元阵列和设置在所述感光像素单元阵列上的滤光片单元阵列，每个所述滤光片单元阵列覆盖对应一个所述感光像素单元，每个所述感光像素单元包括多个感光像素，所述色块图像包括预定阵列排布的图像像素单元，所述图像像素单元包括多个原始像素，每个所述感光像素对应一个所述原始像素，所述图像处理方法包括以下步骤：
将所述色块图像划分成多个频率分析区域；
计算每个所述频率分析区域的空间频率值；
将所述空间频率值符合预定条件对应的所述频率分析区域归并为高频区域；和
将所述色块图像转化成仿原图像，所述仿原图像包括阵列排布的仿原像素，所述仿原像素包括当前像素，所述原始像素包括与所述当前像素对应的关联像素，所述将所述色块图像转化成仿原图像的步骤包括以下步骤：
判断所述关联像素是否位于所述高频区域内；
在所述关联像素位于所述高频区域内时，判断所述当前像素的颜色与所述关联像素的颜色是否相同；
在所述当前像素的颜色与所述关联像素的颜色相同时，将所述关联像素的像素值作为所述当前像素的像素值；
在所述当前像素的颜色与所述关联像素的颜色不同时，根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值，所述图像像素单元包括所述关联像素单元，所述关联像素单元的颜色与所述当前像素相同且与所述当前像素相邻；和
在所述关联像素位于所述高频区域外时，通过第二插值算法计算所述当前像素的像素值，所述第二插值算法的复杂度小于所述第一插值算法。
2.如权利要求1所述的图像处理方法，其特征在于，所述预定条件包括所述空间频率值大于预设频率阈值。
3.如权利要求1所述的图像处理方法，其特征在于，所述预定阵列包括拜耳阵列。
4.如权利要求1所述的图像处理方法，其特征在于，所述图像像素单元包括2*2阵列的所述原始像素。
5.如权利要求1所述的图像处理方法，其特征在于，所述根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值的步骤，包括以下步骤：
计算所述关联像素各个方向上的渐变量；
计算所述关联像素各个方向上的权重；和
根据所述渐变量及所述权重计算所述当前像素的像素值。
6.如权利要求1所述的图像处理方法，其特征在于，所述图像处理方法在所述根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值的步骤前，包括以下步骤：
对所述色块图像做白平衡补偿；
所述图像处理方法在所述根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值的步骤后包括以下步骤：
对所述仿原图像做白平衡补偿还原。
7.如权利要求1所述的图像处理方法，其特征在于，所述图像处理方法在所述根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值的步骤前，包括以下步骤：
对所述色块图像做坏点补偿。
8.如权利要求1所述的图像处理方法，其特征在于，所述图像处理方法在所述根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值的步骤前，包括以下步骤：
对所述色块图像做串扰补偿。
9.如权利要求1所述的图像处理方法，其特征在于，所述图像处理方法在所述根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值的步骤后，包括以下步骤：
对所述仿原图像进行镜片形状校正、去马赛克、降噪和边缘锐化处理。
10.一种图像处理装置，用于处理图像传感器输出的色块图像以输出仿原图像，其特征在于，所述图像传感器包括感光像素单元阵列和设置在所述感光像素单元阵列上的滤光片单元阵列，每个所述滤光片单元阵列覆盖对应一个所述感光像素单元，每个所述感光像素单元包括多个感光像素，所述色块图像包括预定阵列排布的图像像素单元，所述图像像素单元包括多个原始像素，每个所述感光像素对应一个所述原始像素，所述图像处理装置包括：
划分模块，所述划分模块用于将所述色块图像划分成多个频率分析区域；
计算模块，所述计算模块用于计算每个所述频率分析区域的空间频率值；
归并模块，所述归并模块用于将所述空间频率值符合预定条件对应的所述频率分析区域归并为高频区域；和
转化模块，所述转化模块用于将所述色块图像转化成仿原图像，所述仿原图像包括阵列排布的仿原像素，所述仿原像素包括当前像素，所述原始像素包括与所述当前像素对应的关联像素；
所述转化模块包括：
第一判断单元，所述第一判断单元用于判断所述关联像素是否位于所述高频区域内；
第二判断单元，所述第二判断单元用于在所述关联像素位于所述高频区域内时，判断所述当前像素的颜色与所述关联像素的颜色是否相同；
第一计算单元，所述第一计算单元用于在所述当前像素的颜色与所述关联像素的颜色相同时，将所述关联像素的像素值作为所述当前像素的像素值；
第二计算单元，所述第二计算单元用于在所述当前像素的颜色与所述关联像素的颜色不同时，根据关联像素单元的像素值通过第一插值算法计算所述当前像素的像素值，所述图像像素单元包括所述关联像素单元，所述关联像素单元的颜色与所述当前像素相同且与所述当前像素相邻；和
第三计算单元，所述第三计算单元用于在所述关联像素位于所述高频区域外时，通过第二插值算法计算所述当前像素的像素值，所述第二插值算法的复杂度小于所述第一插值算法。
11.如权利要求10所述的图像处理装置，其特征在于，所述预定条件包括所述空间频率值大于预设频率阈值。
12.如权利要求10所述的图像处理装置，其特征在于，所述预定阵列包括拜耳阵列。
13.如权利要求10所述的图像处理装置，其特征在于，所述图像像素单元包括2*2阵列的所述原始像素。
14.如权利要求10所述的图像处理装置，其特征在于，所述第二计算单元包括：
第一计算子单元，所述第一计算子单元用于计算所述关联像素各个方向上的渐变量；
第二计算子单元，所述第二计算子单元用于计算所述关联像素各个方向上的权重；和
第三计算子单元，所述第三计算子单元用于根据所述渐变量及所述权重计算所述当前像素的像素值。
15.如权利要求10所述的图像处理装置，其特征在于，所述转化模块包括：
白平衡补偿单元，所述白平衡补偿单元用于对所述色块图像做白平衡补偿；
白平衡补偿还原单元，所述白平衡补偿还原单元用于对所述仿原图像做白平衡补偿还原。
16.如权利要求10所述的图像处理装置，其特征在于，所述转化模块包括：
坏点补偿单元，所述坏点补偿单元用于对所述色块图像做坏点补偿。
17.如权利要求10所述的图像处理装置，其特征在于，所述转化模块包括：
串扰补偿单元，所述串扰补偿单元用于对所述色块图像做串扰补偿。
18.如权利要求10所述的图像处理装置，其特征在于，所述转化模块包括：
处理单元，所述处理单元用于对所述仿原图像进行镜片形状校正、去马赛克、降噪和边缘锐化处理。
19.一种成像装置，其特征在于，包括：
如权利要求10-18任意一项所述的图像处理装置；和
图像传感器，用于产生所述色块图像。
20.一种电子装置，其特征在于包括：
如权利要求19所述的成像装置；和
触摸屏。
21.如权利要求20所述的电子装置，其特征在于，所述电子装置包括手机或平板电脑。
22.如权利要求20所述的电子装置，其特征在于，所述成像装置包括前置相机或后置相机。
CN201611079544.7A 2016-11-29 2016-11-29 图像处理方法、图像处理装置、成像装置及电子装置 Expired - Fee Related CN106412592B (zh)

Priority Applications (6)

Application Number Priority Date Filing Date Title
CN201611079544.7A CN106412592B (zh) 2016-11-29 2016-11-29 图像处理方法、图像处理装置、成像装置及电子装置
PCT/CN2017/085409 WO2018099012A1 (zh) 2016-11-29 2017-05-22 图像处理方法、图像处理装置、成像装置及电子装置
US15/800,233 US10282817B2 (en) 2016-11-29 2017-11-01 Image processing method and apparatus, and electronic device
EP17200121.6A EP3328070B1 (en) 2016-11-29 2017-11-06 Image processing method and apparatus, and electronic device
ES17200121T ES2745726T3 (es) 2016-11-29 2017-11-06 Procedimiento y aparato de procesamiento de imágenes, y dispositivo electrónico
US16/194,380 US10339632B2 (en) 2016-11-29 2018-11-18 Image processing method and apparatus, and electronic device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201611079544.7A CN106412592B (zh) 2016-11-29 2016-11-29 图像处理方法、图像处理装置、成像装置及电子装置

Publications (2)

Publication Number Publication Date
CN106412592A true CN106412592A (zh) 2017-02-15
CN106412592B CN106412592B (zh) 2018-07-06

Family

ID=58084345

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611079544.7A Expired - Fee Related CN106412592B (zh) 2016-11-29 2016-11-29 图像处理方法、图像处理装置、成像装置及电子装置

Country Status (5)

Country Link
US (2) US10282817B2 (zh)
EP (1) EP3328070B1 (zh)
CN (1) CN106412592B (zh)
ES (1) ES2745726T3 (zh)
WO (1) WO2018099012A1 (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018098983A1 (zh) * 2016-11-29 2018-06-07 广东欧珀移动通信有限公司 图像处理方法及装置、控制方法及装置、成像及电子装置
WO2018099012A1 (zh) * 2016-11-29 2018-06-07 广东欧珀移动通信有限公司 图像处理方法、图像处理装置、成像装置及电子装置
CN110390036A (zh) * 2019-06-03 2019-10-29 高萍 双索引数据查询平台
CN110475066A (zh) * 2019-08-20 2019-11-19 Oppo广东移动通信有限公司 控制方法、成像装置和电子设备
CN111968037A (zh) * 2020-08-28 2020-11-20 维沃移动通信有限公司 数码变焦方法、装置和电子设备
WO2023169121A1 (zh) * 2022-03-10 2023-09-14 腾讯科技（深圳）有限公司 图像处理方法、游戏渲染方法、装置、设备、程序产品及存储介质

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106488203B (zh) * 2016-11-29 2018-03-30 广东欧珀移动通信有限公司 图像处理方法、图像处理装置、成像装置及电子装置
KR20210112042A (ko) * 2020-03-04 2021-09-14 에스케이하이닉스 주식회사 이미지 센싱 장치 및 그의 동작 방법
CN114004769B (zh) * 2021-12-30 2022-03-15 江苏游隼微电子有限公司 一种基于离散权重的Bayer去噪颜色插值方法
JP2024024906A (ja) * 2022-08-10 2024-02-26 コニカミノルタ株式会社 画像読取装置、画像読取方法、画像読取プログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101472048A (zh) * 2007-12-21 2009-07-01 索尼株式会社 图像拾取装置、色噪声降低方法和色噪声降低程序
US8248496B2 (en) * 2009-03-10 2012-08-21 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and image sensor
CN105611258A (zh) * 2015-12-18 2016-05-25 广东欧珀移动通信有限公司 图像传感器的成像方法、成像装置和电子装置
CN105611124A (zh) * 2015-12-18 2016-05-25 广东欧珀移动通信有限公司 图像传感器、成像方法、成像装置及电子装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4816336B2 (ja) 2006-02-07 2011-11-16 日本ビクター株式会社 撮像方法及び撮像装置
US7773138B2 (en) 2006-09-13 2010-08-10 Tower Semiconductor Ltd. Color pattern and pixel level binning for APS image sensor using 2×2 photodiode sharing scheme
TW200818803A (en) * 2006-10-04 2008-04-16 Interdigital Tech Corp Method and apparatus for advanced adaptive two dimensional channel interpolation in orthogonal frequency division multiplexing (OFDM) wireless communication systems
US7745779B2 (en) 2008-02-08 2010-06-29 Aptina Imaging Corporation Color pixel arrays having common color filters for multiple adjacent pixels for use in CMOS imagers
CN101815157B (zh) 2009-02-24 2013-01-23 虹软(杭州)科技有限公司 图像及视频的放大方法与相关的图像处理装置
GB201117191D0 (en) * 2011-10-04 2011-11-16 Imagination Tech Ltd +Detecting image impairments in an interpolated image
CN106412592B (zh) * 2016-11-29 2018-07-06 广东欧珀移动通信有限公司 图像处理方法、图像处理装置、成像装置及电子装置
CN109005392B (zh) * 2017-06-07 2021-01-12 联发科技股份有限公司 一种去马赛克方法及其电路

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101472048A (zh) * 2007-12-21 2009-07-01 索尼株式会社 图像拾取装置、色噪声降低方法和色噪声降低程序
US8248496B2 (en) * 2009-03-10 2012-08-21 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and image sensor
CN105611258A (zh) * 2015-12-18 2016-05-25 广东欧珀移动通信有限公司 图像传感器的成像方法、成像装置和电子装置
CN105611124A (zh) * 2015-12-18 2016-05-25 广东欧珀移动通信有限公司 图像传感器、成像方法、成像装置及电子装置

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018098983A1 (zh) * 2016-11-29 2018-06-07 广东欧珀移动通信有限公司 图像处理方法及装置、控制方法及装置、成像及电子装置
WO2018099012A1 (zh) * 2016-11-29 2018-06-07 广东欧珀移动通信有限公司 图像处理方法、图像处理装置、成像装置及电子装置
US10282817B2 (en) 2016-11-29 2019-05-07 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Image processing method and apparatus, and electronic device
US10339632B2 (en) 2016-11-29 2019-07-02 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Image processing method and apparatus, and electronic device
US10440265B2 (en) 2016-11-29 2019-10-08 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Image processing method and apparatus, electronic device and control method
US10447925B2 (en) 2016-11-29 2019-10-15 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Image processing method and apparatus, electronic device and control method
CN110390036A (zh) * 2019-06-03 2019-10-29 高萍 双索引数据查询平台
CN110475066A (zh) * 2019-08-20 2019-11-19 Oppo广东移动通信有限公司 控制方法、成像装置和电子设备
CN111968037A (zh) * 2020-08-28 2020-11-20 维沃移动通信有限公司 数码变焦方法、装置和电子设备
WO2023169121A1 (zh) * 2022-03-10 2023-09-14 腾讯科技（深圳）有限公司 图像处理方法、游戏渲染方法、装置、设备、程序产品及存储介质

Also Published As

Publication number Publication date
CN106412592B (zh) 2018-07-06
EP3328070B1 (en) 2019-08-07
ES2745726T3 (es) 2020-03-03
US20190087935A1 (en) 2019-03-21
EP3328070A1 (en) 2018-05-30
US20180150937A1 (en) 2018-05-31
US10282817B2 (en) 2019-05-07
WO2018099012A1 (zh) 2018-06-07
US10339632B2 (en) 2019-07-02

Similar Documents

Publication Publication Date Title
CN106412592A (zh) 图像处理方法、图像处理装置、成像装置及电子装置
CN106412407B (zh) 控制方法、控制装置及电子装置
CN106454289B (zh) 控制方法、控制装置及电子装置
CN106507080B (zh) 控制方法、控制装置及电子装置
CN106604001B (zh) 图像处理方法、图像处理装置、成像装置及电子装置
CN106341670B (zh) 控制方法、控制装置及电子装置
CN106504218B (zh) 控制方法、控制装置及电子装置
CN106791477B (zh) 图像处理方法、图像处理装置、成像装置及制造方法
CN106454288B (zh) 控制方法、控制装置、成像装置及电子装置
CN106507069B (zh) 控制方法、控制装置及电子装置
CN106454054B (zh) 控制方法、控制装置及电子装置
CN106507067B (zh) 控制方法、控制装置及电子装置
CN106488203B (zh) 图像处理方法、图像处理装置、成像装置及电子装置
CN106507019B (zh) 控制方法、控制装置、电子装置
CN106534822B (zh) 控制方法、控制装置及电子装置
CN106506984B (zh) 图像处理方法及装置、控制方法及装置、成像及电子装置
CN106507068B (zh) 图像处理方法及装置、控制方法及装置、成像及电子装置
CN103685992A (zh) 生成高动态范围图像的方法及图像传感器
CN106357967A (zh) 控制方法、控制装置和电子装置
CN106507018B (zh) 控制方法、控制装置及电子装置
CN106713790A (zh) 控制方法、控制装置及电子装置
CN106504217B (zh) 图像处理方法、图像处理装置、成像装置及电子装置
CN102905077B (zh) 一种图像暗角亮度调节方法及装置
CN102948152A (zh) 成像设备和成像方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: Changan town in Guangdong province Dongguan 523860 usha Beach Road No. 18

Patentee after: GUANGDONG OPPO MOBILE TELECOMMUNICATIONS Corp.,Ltd.

Address before: Changan town in Guangdong province Dongguan 523860 usha Beach Road No. 18

Patentee before: GUANGDONG OPPO MOBILE TELECOMMUNICATIONS Corp.,Ltd.

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20180706