CN110169054B - 摄像装置、摄像方法 - Google Patents

摄像装置、摄像方法 Download PDF

Info

Publication number
CN110169054B
CN110169054B CN201780082457.3A CN201780082457A CN110169054B CN 110169054 B CN110169054 B CN 110169054B CN 201780082457 A CN201780082457 A CN 201780082457A CN 110169054 B CN110169054 B CN 110169054B
Authority
CN
China
Prior art keywords
pixel
divided
pixels
processing
phase difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201780082457.3A
Other languages
English (en)
Other versions
CN110169054A (zh
Inventor
畠山陵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of CN110169054A publication Critical patent/CN110169054A/zh
Application granted granted Critical
Publication of CN110169054B publication Critical patent/CN110169054B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/702SSIS architectures characterised by non-identical, non-equidistant or non-planar pixel layout
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/34Systems for automatic generation of focusing signals using different areas in a pupil plane
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/17Colour separation based on photon absorption depth, e.g. full colour resolution obtained simultaneously at each pixel location
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Optics & Photonics (AREA)
  • Automatic Focus Adjustment (AREA)
  • Color Television Image Signal Generators (AREA)
  • Focusing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

摄像装置(1)具有:像素部(4a),其在第1方向和第2方向上重复配置多个颜色的像素的基本排列,任意的像素沿着第1方向被分割成多个分割像素;MIX部(11、12、13),其对相同颜色且相同分割位置的多个分割像素信号进行减少像素处理而生成处理后像素信号;以及管理指示部(14),其在使相位差检测优先的情况下,对MIX部(11、12、13)的减少像素处理进行控制,以使得处理后像素信号的第2方向的排列间隔不是等间隔。

Description

摄像装置、摄像方法
技术领域
本发明涉及将1个像素分割成相位差检测用的多个分割像素的摄像装置、摄像方法。
背景技术
以往提出了将1个像素分割成相位差检测用的多个分割像素的结构的摄像元件。
这种摄像元件针对1个微透镜设置多个光电二极管(PD),由此能够取得相位差信息,但是,与针对1个微透镜设置1个光电二极管的结构相比,像素数增加,因此,存在用于读出摄像元件上的全部像素信号的读出时间和消耗电力增加的倾向。
因此,在不需要相位差信息的例如静态图像拍摄中,在摄像元件内对分割像素的分割像素信号进行相加而作为通常的像素信号进行读出。此外,在其他动作模式中,有时也对像素信号进行相加并进行读出。
作为在摄像元件内进行像素信号的相加的技术,例如,在日本特开2015-173387号公报中记载了如下的摄像元件,该摄像元件呈二维矩阵状排列有具有蓄积与受光量对应的信号电荷的多个光电转换部的像素,其中,该摄像元件具有:读出单元,其在从像素分别读出信号电荷时,从第1数量的光电转换部读出与信号电荷对应的像素信号作为第1像素信号,并且,从与第1数量不同的第2数量的光电转换部读出与信号电荷对应的像素信号作为第2像素信号;以及相加单元,其设预定数量的像素为1个第1单位,在第1单位中对第1像素信号和第2像素信号进行相加,得到第1图像信号。
例如,作为保留纵线检测用的AF信息(基于左分割像素和右分割像素的相位差信息)并减少读出像素数的方法,存在在垂直方向上进行相加、相加平均或间疏等的方法。
具体而言,针对本申请的图2所示的左右方向上分割的分割像素,如本申请的图11和图12等所示,在利用左分割像素彼此和右分割像素彼此分别进行垂直3像素混合(MIX)的情况下,如本申请的图13所示,在垂直方向上得到等间隔的混合像素。关于这种混合像素,在垂直方向和水平方向上,像素配置成为等间隔,因此,从提高图像的画质的观点来看是优选的,但是,从相位差检测的观点来看不能说是优选的。
即,在使用主要负责亮度成分的G(绿色)像素作为AF用的相位差像素的情况下,如果仅使用位于与R像素同一行的Gr像素(或与位于B像素同一行的Gb像素),则水平方向的像素间隔变宽。因此,为了提高水平方向上的检测精度(纵线检测精度),需要组合相邻的行的Gr像素和Gb像素。但是,在图13所示的配置中,排列有Gr像素的行和排列有Gb像素的行的垂直方向的间隔较宽,因此,相位差检测精度降低。
本发明是鉴于上述情况而完成的,其目的在于,提供能够减少像素数并提高相位差检测精度的摄像装置、摄像方法。
发明内容
用于解决课题的手段
本发明的一个方式的摄像装置具有:像素部,其在第1方向和与所述第1方向垂直的第2方向上重复配置分光特性不同的多种像素的基本排列,任意的像素被分割成沿着所述第1方向的多个分割位置的多个分割像素;减少像素处理部,其对相同种类且相同分割位置的、相邻的多个分割像素的分割像素信号进行减少像素处理而生成处理后像素信号,由此减少像素数;以及控制部,其根据是否使相位差检测优先,对所述减少像素处理部的减少像素处理进行控制,所述控制部在使所述相位差检测优先的情况下,对所述减少像素处理部进行如下控制:使所述减少像素处理部进行在所述第2方向上相邻的多个分割像素的分割像素信号的减少像素处理,以使得所述处理后像素信号的所述第2方向的排列间隔不是等间隔。
本发明的另一个方式的摄像方法具有以下步骤:减少像素处理步骤,对从像素部输出的相同种类且相同分割位置的、相邻的多个分割像素的分割像素信号进行减少像素处理而生成处理后像素信号,由此减少像素数,其中,所述像素部在第1方向和与所述第1方向垂直的第2方向上重复配置分光特性不同的多种像素的基本排列,任意的像素被分割成沿着所述第1方向的多个分割位置的多个分割像素;以及控制步骤,根据是否使相位差检测优先,对所述减少像素处理步骤的减少像素处理进行控制,在所述控制步骤中,在使所述相位差检测优先的情况下,对所述减少像素处理步骤进行如下控制:进行在所述第2方向上相邻的多个分割像素的分割像素信号的减少像素处理,以使得所述处理后像素信号的所述第2方向的排列间隔不是等间隔。
附图说明
图1是示出本发明的实施方式1中的摄像装置的结构的框图。
图2是示出上述实施方式1的摄像元件的像素部中的分割像素的结构的图。
图3是示出上述实施方式1中、使相位差检测优先的R分割像素的垂直3像素混合的例子的图。
图4是示出上述实施方式1中、通过使相位差检测优先的垂直3像素混合而得到的混合像素的配置在垂直方向上不是等间隔的状况的图。
图5是示出上述实施方式1中、使相位差检测优先的R分割像素的垂直2像素混合的例子的图。
图6是示出上述实施方式1中、使相位差检测优先的R分割像素的水平3像素混合的例子的图。
图7是示出上述实施方式1中、使相位差检测优先的Gr分割像素的水平3像素混合的例子的图。
图8是示出上述实施方式1中、通过使相位差检测优先的水平3像素混合而得到的混合像素的配置在水平方向上成为等间隔的例子的图。
图9是示出上述实施方式1中、通过加权相加进行使相位差检测优先的R分割像素的水平2像素混合的例子的图。
图10是示出上述实施方式1中、通过加权相加进行使相位差检测优先的Gr分割像素的水平2像素混合的例子的图。
图11是示出上述实施方式1中、使画质优先的R分割像素的垂直3像素混合的例子的图。
图12是示出上述实施方式1中、使画质优先的Gb分割像素的垂直3像素混合的例子的图。
图13是示出上述实施方式1中、通过使画质优先的垂直3像素混合而得到的混合像素的配置在垂直方向上成为等间隔的状况的图。
图14是示出上述实施方式1中、通过加权相加进行使画质优先的R分割像素的垂直2像素混合的例子的图。
图15是示出上述实施方式1中、通过加权相加进行使画质优先的Gb分割像素的垂直2像素混合的例子的图。
图16是示出上述实施方式1的摄像装置的拍摄时的作用的流程图。
图17是示出上述实施方式1的摄像装置的AF用处理的流程图。
图18是示出上述实施方式1的摄像装置的静态图像用处理的流程图。
图19是示出上述实施方式1的摄像装置的动态图像用处理的流程图。
图20是示出上述实施方式1的摄像装置的LV用处理的流程图。
图21是示出上述实施方式1的摄像装置中的与AF、静态图像、动态图像、LV对应的混合处理的分类的图表。
图22是示出上述实施方式1的摄像装置中的混合处理和各图的对应的图表。
具体实施方式
下面,参照附图对本发明的实施方式进行说明。
[实施方式1]
图1~图22示出本发明的实施方式1,图1是示出摄像装置1的结构的框图。
该摄像装置1具有摄像镜头2、快门3、具有摄像元件用像素MIX部11的摄像元件4、数据总线5、内部存储器6、AF信号处理部7、图像信号处理部8、显示部9、输入接口(IF)10、AF信号用像素MIX部12、图像信号用像素MIX部13、MIX模式管理/指示部14、系统控制部15。另外,在图1中还图示了外部存储器20,但是,外部存储器20例如由能够相对于摄像装置1进行拆装的存储卡等构成,因此,也可以不是摄像装置1固有的结构。
摄像镜头2是使被摄体的光学像成像在摄像元件4上的摄像光学系统。该摄像镜头2具有用于调节焦点位置的对焦镜头和用于调节光的通过范围的光圈。此外,摄像镜头2也可以是能够调节变焦位置的变焦镜头。
快门3对摄像元件4的曝光时间进行调整。这里,快门3设置在被摄体的光学像穿过的光路上,例如假设是通过对遮光幕进行开闭动作来控制光学像相对于摄像元件4的到达和遮光的光学快门,但是不限于此,也可以使用所谓的电子快门,还可以一并使用光学快门和电子快门。
摄像元件4例如构成为CMOS图像传感器或CCD图像传感器等,通过二维状排列的多个像素(各像素包含进行光电转换的光电二极管(PD))对被摄体的光学像进行光电转换,生成图像信号。这里,假设摄像元件4是输出数字图像信号的数字摄像元件,但是,也可以将摄像元件4构成为模拟摄像元件,并且在摄像元件4与数据总线5之间额外设置A/D转换部。
该摄像元件4具有像素部4a,该像素部4a在第1方向和与第1方向垂直的第2方向上重复配置分光特性不同的多种像素的基本排列,任意的像素被分割成沿着上述第1方向的多个分割位置的多个分割像素。
根据这种结构,由像素部4a生成的图像数据由第1方向和第2方向上排列的多个像素数据构成,各像素数据由沿着第1方向的多个分割像素数据构成。
这里,图2是示出摄像元件4的像素部4a中的分割像素的结构的图。在该图2中例示像素部4a中的纵20×横8像素(纵20×横16分割像素)的像素配置,行编号示出M~(M+19)的部分,针对分割像素的列编号示出N~(N+15)的部分。另外,“行”有时也称为“line”。
在本实施方式所示的例子中,如图2所示,分光特性不同的多种像素是R(红色)像素、G(绿色)像素(位于与R像素同一行的G像素即Gr像素、和位于与B像素同一行的G像素即Gb像素)、B(蓝色)像素,基本排列成为原色拜耳排列(但是不限于此)。而且,与1个微透镜ML对应的1个像素沿着第1方向即水平方向被分割成2个分割像素(右分割像素和左分割像素)。
根据这种结构,根据水平方向上排列的右分割像素组和水平方向上排列的左分割像素组来检测水平方向的相位差,由此能够进行所谓纵线检测。
另外,这里示出左右方向的分割像素的例子,但是,如果设第1方向为垂直方向而使用上下方向上被分割的分割像素(上分割像素和下分割像素),则能够进行垂直方向的相位差检测、即所谓横线检测。
进而,如果使用上下左右对与1个微透镜对应的1个像素进行4分割后的分割像素,则能够进行纵线检测和横线检测双方。
这里,在上下左右的4分割像素的结构中,如果对左上的分割像素和左下的分割像素进行相加、并对右上的分割像素和右下的分割像素进行相加,则等同于图2所示的左右的2分割像素的结构。同样,在上下左右的4分割像素的结构中,如果对左上的分割像素和右上的分割像素进行相加、并对左下的分割像素和右下的分割像素进行相加,则等同于上下的2分割像素的结构。
数据总线5从摄像装置1内的某个部分向其他部分传输各种命令和数据等。在该图1所示的例子中,数据总线5与摄像元件4、内部存储器6、AF信号处理部7、图像信号处理部8、显示部9、输入IF 10、AF信号用像素MIX部12、图像信号用像素MIX部13、MIX模式管理/指示部14、系统控制部15、和外部存储器20连接。
内部存储器6构成为具有易失性的DRAM和非易失性的闪存等,非易失地存储并保持进行摄像装置1整体的控制的处理程序,并且,暂时或断续地存储并保持图像数据和用户设定值等各种数据。根据需要,将从上述摄像元件4输出的图像数据、或从摄像元件4输出且由图像信号用像素MIX部13混合后的图像数据、或从摄像元件4输出且由AF信号用像素MIX部12混合后的图像数据、或由图像信号处理部8进行处理后的图像数据例如暂时存储在该内部存储器6中。
AF信号处理部7通过基于分割像素信号的差动运算等处理进行相位差检测,从而计算相位差信息,根据计算出的相位差信息生成镜头驱动信息。由该AF信号处理部7生成的镜头驱动信息被输入到系统控制部15。系统控制部15根据所输入的镜头驱动信息对摄像镜头2的焦点位置进行控制,使成像在摄像元件4上的被摄体像进行合焦。
图像信号处理部8针对图像数据进行白平衡调整、去马赛克(颜色插值)、颜色校正、γ转换、边缘强调、噪声降低、分辨率转换(尺寸调整)、图像压缩等各种处理。
显示部9例如包含TFT或有机EL等显示面板,是显示图像数据、并且显示摄像装置1的各种信息的显示装置。
输入IF 10包含操作按钮、操作开关、触摸面板等各种操作输入器件,是使用者进行操作而对摄像装置1进行输入用的操作部。该输入IF 10例如具有用于拍摄静态图像的构成2级式按钮的第1按钮(所谓第一释放)和第2按钮(所谓第二释放)、以及用于拍摄动态图像的第3按钮(动态图像录像按钮)。
摄像元件用像素MIX部11是减少像素处理部,并且是设置在摄像元件4中的元件内减少像素处理部,其中,该减少像素处理部对与相同种类的像素且相同分割位置相关的相邻的多个分割像素的分割像素信号进行减少像素处理而生成处理后像素信号,由此减少像素数。在本实施方式中,针对摄像元件用像素MIX部11、AF信号用像素MIX部12和图像信号用像素MIX部13,均主要说明进行混合(Mixture)来作为减少像素处理的例子,但是不限于此,也可以通过间疏来进行减少像素处理(可以进行混合和间疏中的任意一方,也可以进行双方)。另外,关于混合,可以使用基于相加的混合、基于相加平均的混合、基于加权相加(或加权相加平均)的混合等中的任意一方。
具体而言,摄像元件用像素MIX部11是如下的像素MIX部:从MIX模式管理/指示部14接受进行/不进行混合的信息,在要进行混合的情况下还接受进行哪种混合的信息,在摄像元件4内对像素数据进行混合(MIX)处理。
在由该摄像元件用像素MIX部11进行的混合处理中,存在对来自1个像素中包含的多个分割像素的分割像素信号进行相加的处理(在图2的分割像素结构的情况下,是对相同颜色的左分割像素和右分割像素进行相加而返回通常像素的左右相加)、对垂直方向上相邻的相同颜色且相同分割位置的多个分割像素的分割像素信号进行混合的垂直混合、对水平方向上相邻的相同颜色且相同分割位置的多个分割像素的分割像素信号进行混合的水平混合等。
在该摄像元件用像素MIX部11不进行混合处理的情况下、或进行分割像素信号的垂直混合和水平混合中的至少一方的情况下,从摄像元件4输出分割像素信号作为相位差信号。另一方面,在摄像元件用像素MIX部11至少进行左右相加的情况下(包含垂直混合和水平混合中的至少一方组合了左右相加的情况),从摄像元件4输出不包含相位差信息的图像用的像素信号。
由该摄像元件用像素MIX部11进行混合处理后的图像数据经由内部存储器6转交给各处理部,但是,例如也可以不经由内部存储器6而转交给图像信号用像素MIX部13或AF信号用像素MIX部12。
AF信号用像素MIX部12是设置在摄像元件4的外部的减少像素处理部,是如下的像素MIX部:根据需要,针对由摄像元件用像素MIX部11进行混合处理后从摄像元件4输出的图像数据,从MIX模式管理/指示部14接受进行/不进行混合的信息,在要进行混合的情况下还接受进行哪种混合的信息,对像素数据进行混合处理。
在由该AF信号用像素MIX部12进行的混合处理中存在上述垂直混合和水平混合,但是,由于是用于AF、即需要对左分割像素和右分割像素进行分离,因此,不包含左右相加。
然后,由AF信号用像素MIX部12进行混合处理后的图像数据被转交给AF信号处理部7。
图像信号用像素MIX部13是减少像素数的减少像素处理部,但是,生成图像信号即可,不需要相位差信息。因此,图像信号用像素MIX部13不需要以保留分割像素信号的方式进行减少像素处理,输出左右相加后的像素信号即可。
具体而言,图像信号用像素MIX部13是如下的像素MIX部:根据需要,针对由摄像元件用像素MIX部11进行混合处理后从摄像元件4输出的图像数据,从MIX模式管理/指示部14接受进行/不进行混合的信息,在要进行混合的情况下还接受进行哪种混合的信息,对像素数据进行混合处理。
该图像信号用像素MIX部13进行适合于显示图像和动态图像的混合处理。在由图像信号用像素MIX部13进行的混合处理中包含上述垂直混合、水平混合和左右相加。
然后,由图像信号用像素MIX部13进行混合处理后的图像数据被转交给图像信号处理部8。
MIX模式管理/指示部14是如下的控制部:根据是否使相位差检测优先,对减少像素处理部的减少像素处理进行控制。
该MIX模式管理/指示部14在使相位差检测优先的情况下,对像素MIX部进行控制,以使得处理后像素信号(混合像素信号)的与分割方向垂直的方向(第2方向)的排列间隔不是等间隔。
另一方面,MIX模式管理/指示部14在不使相位差检测优先的情况下(例如,与相位差检测相比使画质优先的情况下)、且进行第2方向上相邻的多个分割像素的分割像素信号的减少像素处理的情况下,对像素MIX部进行控制,以使得处理后像素信号的第2方向的排列间隔成为等间隔。
此外,与是否使相位差检测优先无关,MIX模式管理/指示部14在进行第1方向上相邻的多个分割像素的分割像素信号的减少像素处理的情况下,对像素MIX部进行控制,以使得处理后像素信号的第1方向的排列间隔成为等间隔。
具体而言,MIX模式管理/指示部14成为如下的混合控制部:对哪种混合(MIX)方法(例如混合的像素数(分割像素的数量)或混合时是否进行加权等不同的各种混合方法)最适用于图像信号处理、以及最适用于AF信号处理进行管理,根据使相位差检测优先还是使画质优先,对减少像素处理部即像素MIX部(摄像元件用像素MIX部11、AF信号用像素MIX部12和图像信号用像素MIX部13)的混合进行控制。例如,根据输入IF 10(按钮等)的指示或者由前帧决定的曝光条件或被摄体信息等来决定该MIX模式管理/指示部14进行混合的混合方法(但是,也可以根据其他要因来决定)。
如上所述,外部存储器20例如由能够相对于摄像装置1进行拆装的存储卡等构成,例如是以图像文件的形式保存由图像信号处理部8为了记录而进行处理后的图像的非易失性记录介质。
系统控制部15例如具有由CPU等硬件构成的处理器,按照非易失地存储在内部存储器6中的处理程序对摄像装置1整体进行总括控制。
例如,系统控制部15对摄像镜头2进行驱动控制,使焦点位置、变焦状态、光圈开口直径等变化。此外,系统控制部15对快门3进行驱动控制,进行遮光幕的开闭。进而,系统控制部15对从基于摄像元件4的像素信号的蓄积到图像数据的输出为止的动作进行控制。
这样,本实施方式的摄像装置构成为能够进行使相位差检测优先的混合处理(参照图3~图10等)和使画质优先的混合处理(参照图11~图15等)。
而且,在以下的图3~图15的说明中,将不同颜色的像素的混合处理、分割位置不同的分割像素的混合(左右相加等)除外,而考虑分光特性为相同种类(例如相同颜色)且相同分割位置(左分割或右分割等)的分割像素彼此的混合处理。
此时,例如使水平方向的相位差检测(纵线检测)优先的混合处理要求满足如下条件等:区分左分割像素和右分割像素而进行混合,然后,成对的左分割像素和右分割像素在混合后也处于在水平方向上偏移半像素间距(1个分割像素间距)的位置关系;相位差检测中组合使用的Gr分割像素和Gb分割像素在混合后位于垂直方向上接近的位置(参照图4、图8等)。
首先,参照图3~图10对使相位差检测优先的混合处理的若干个例子进行说明。
参照图3和图4对使相位差检测优先的混合处理的第1例(垂直3像素混合)进行说明。另外,3个以上的垂直奇数像素混合也根据这里说明的方法进行。
图3是示出使相位差检测优先的R分割像素的垂直3像素混合的例子的图。该图3所示的行编号和列编号对应于图2所示的行编号和列编号。
在图2所示的例子中,在设i、j为整数时,在左右方向上对R像素进行分割后的R分割像素配置在(行编号,列编号)成为((M+2i),(N+4j))和((M+2i),(N+4j+1))的位置。
而且,在该图3所示的例子中,对列编号相同且行编号为(M+6i)、(M+6i+2)、(M+6i+4)那样相邻的3个垂直方向的R分割像素进行相加(或者也可以是相加平均等,以下相同)。相加后的混合像素根据垂直方向的3个R分割像素的重心位置配置在中央的R分割像素的位置、即行编号为(M+6i+2)的位置。
因此,控制部即MIX模式管理/指示部14在减少像素处理部即像素MIX部(摄像元件用像素MIX部11、AF信号用像素MIX部12和图像信号用像素MIX部13)通过混合来进行减少像素处理的情况下,指定作为混合对象的多个分割像素的位置(这里是表示垂直方向的位置的行编号),由此设定处理后像素信号(混合像素)的重心位置。
另外,MIX模式管理/指示部14在减少像素处理部通过间疏来进行减少像素处理的情况下,指定未被间疏而保留的分割像素的位置,由此设定处理后像素信号的位置即可。
此外,虽然省略图示,但是,如下进行Gr分割像素、Gb分割像素、B分割像素的垂直3像素混合。
首先,在左右方向上对Gr像素进行分割后的Gr分割像素配置在(行编号,列编号)成为((M+2i),(N+4j+2))和((M+2i),(N+4j+3))的位置。
然后,与R分割像素同样,对行编号为(M+6i)、(M+6i+2)、(M+6i+4)那样相邻的3个垂直方向的Gr分割像素进行相加。相加后的混合像素与R分割像素同样配置在中央的Gr分割像素的位置、即行编号为(M+6i+2)的位置。
接着,在左右方向上对Gb像素进行分割后的Gb分割像素配置在(行编号,列编号)成为((M+2i+1),(N+4j))和((M+2i+1),(N+4j+1))的位置。
然后,对行编号为(M+6i+1)、(M+6i+3)、(M+6i+5)那样相邻的3个垂直方向的Gb分割像素进行相加。相加后的混合像素配置在中央的Gb分割像素的位置、即行编号为(M+6i+3)的位置。
进而,在左右方向上对B像素进行分割后的B分割像素配置在(行编号,列编号)成为((M+2i+1)、(N+4j+2))和((M+2i+1)、(N+4j+3))的位置。
然后,与Gb分割像素同样,对行编号为(M+6i+1)、(M+6i+3)、(M+6i+5)那样相邻的3个垂直方向的B分割像素进行相加。相加后的混合像素与Gb分割像素同样,配置在中央的B分割像素的位置、即行编号为(M+6i+3)的位置。
图4是示出通过使相位差检测优先的垂直3像素混合而得到的混合像素的配置在垂直方向上不是等间隔的状况的图。
主要负责亮度成分的像素是G像素,但是,进行上述这种使相位差检测优先的垂直3像素混合的结果,配置在行编号(M+6i+2)的Gr混合像素和配置在行编号(M+6i+3)的Gb混合像素的行编号仅相差1个,因此,在垂直方向上较密。另一方面,配置在行编号(M+6i+3)的Gb混合像素和配置在行编号(M+6i+8)的Gr混合像素的行编号相差5个,因此,在垂直方向上较疏。
具体而言,如图4所示,混合像素的配置在垂直方向上交替成为密和疏,行编号(M+2)和(M+3)、(M+8)和(M+9)、…较密,行编号(M+3)和(M+8)、(M+9)和(M+14)、…较疏。
而且,在较密配置的2行中,Gb分割像素和Gr分割像素配置在连续的列编号N、(N+1)、(N+2)、(N+3)、(N+4)、…,因此,是1行中的仅Gb分割像素的2倍(或者1行中的仅Gr分割像素的2倍)的配置密度。因此,与仅使用1行的G成分进行水平方向的相位差检测(即纵线检测)的情况相比,基本上得到2倍的检测精度。此时,Gb分割像素和Gr分割像素的纵方向的偏移为1行,因此,能够极小地抑制基于不同纵线的误检测的可能性。这样,如果使用图4所示的配置的混合像素,则读出图2所示的分割像素的全部像素,能够得到与使用Gb分割像素和Gr分割像素进行相位差检测的情况相同的检测精度。
参照图5对使相位差检测优先的混合处理的第2例(垂直2像素混合)进行说明。另外,2个以上的垂直偶数像素混合也根据这里说明的方法进行。
图5是示出使相位差检测优先的R分割像素的垂直2像素混合的例子的图。
在垂直2像素混合的情况下,如图5所示,对列编号相同且行编号为(M+4i)、(M+4i+2)那样相邻的2个垂直方向的R分割像素进行相加。相加后的混合像素根据垂直方向的2个R分割像素的重心位置配置在阴影所示的中间的位置、即行编号为(M+4i+1)的位置。
此外,虽然省略图示,但是,如下进行Gr分割像素、Gb分割像素、B分割像素的垂直2像素混合。
首先,关于Gr分割像素,与R分割像素同样,对行编号为(M+4i)、(M+4i+2)那样相邻的2个垂直方向的Gr分割像素进行相加。相加后的混合像素与R分割像素同样配置在中间的位置、即行编号为(M+4i+1)的位置。
接着,关于Gb分割像素,对行编号为(M+4i+1)、(M+4i+3)那样相邻的2个垂直方向的Gb分割像素进行相加。相加后的混合像素配置在中间的位置、即行编号为(M+4i+2)的位置。
进而,关于B分割像素,与Gb分割像素同样,对行编号为(M+4i+1)、(M+4i+3)那样相邻的2个垂直方向的B分割像素进行相加。相加后的混合像素与Gb分割像素同样配置在中间的位置、即行编号为(M+4i+2)的位置。
进行上述这种使相位差检测优先的垂直2像素混合的结果,配置在行编号(M+4i+1)的Gr混合像素和配置在行编号(M+4i+2)的Gb混合像素的行编号仅相差1个,因此,在垂直方向上较密。另一方面,配置在行编号(M+4i+2)的Gb混合像素和配置在行编号(M+4i+5)的Gr混合像素的行编号相差3个,因此,在垂直方向上较疏。
具体而言,混合像素的配置在垂直方向上交替成为密和疏,行编号行编号(M+1)和(M+2)、(M+5)和(M+6)、…较密,行编号(M+2)和(M+5)、(M+6)和(M+9)、…较疏。
而且,通过使用较密配置的2行中的Gb分割像素和Gr分割像素,与上述同样,能够得到与读出全部像素相同的检测精度。
参照图6~图8对使相位差检测优先的混合处理的第3例(水平3像素混合)进行说明。另外,3个以上的水平奇数像素混合也根据这里说明的方法进行。
图6是示出使相位差检测优先的R分割像素的水平3像素混合的例子的图。
在该图6所示的例子中,对行编号相同且列编号为(N+12i)、(N+12i+4)、(N+12i+8)那样相邻的3个水平方向的R左分割像素进行相加,并且对列编号为(N+12i+1)、(N+12i+5)、(N+12i+9)那样相邻的3个水平方向的R右分割像素进行相加。相加后的混合像素根据水平方向的3个R分割像素的重心位置而配置在中央的R分割像素的位置,即,R左分割像素配置在列编号为(N+12i+4)的位置,R右分割像素配置在列编号为(N+12i+5)的位置。
图7是示出使相位差检测优先的Gr分割像素的水平3像素混合的例子的图。
在该图7所示的例子中,对行编号相同且列编号为(N+12i+6)、(N+12i+10)、(N+12i+14)那样相邻的3个水平方向的Gr左分割像素进行相加,并且对列编号为(N+12i+7)、(N+12i+11)、(N+12i+15)那样相邻的3个水平方向的Gr右分割像素进行相加。相加后的混合像素根据水平方向的3个Gr分割像素的重心位置配置在中央的Gr分割像素的位置,即,Gr左分割像素配置在列编号为(N+12i+10)的位置,Gr右分割像素配置在列编号为(N+12i+11)的位置。
此外,虽然省略图示,但是,如下进行Gb像素、B分割像素的水平3像素混合。
首先,关于Gb分割像素,对列编号为(N+12i)、(N+12i+4)、(N+12i+8)那样相邻的3个水平方向的GB左分割像素进行相加,并且对列编号为(N+12i+1)、(N+12i+5)、(N+12i+9)那样相邻的3个水平方向的GB右分割像素进行相加。相加后的混合像素根据水平方向的3个GB分割像素的重心位置配置在中央的GB分割像素的位置,即,GB左分割像素配置在列编号为(N+12i+4)的位置,GB右分割像素配置在列编号为(N+12i+5)的位置。
接着,关于B分割像素,对列编号为(N+12i+6)、(N+12i+10)、(N+12i+14)那样相邻的3个水平方向的B左分割像素进行相加,并且对列编号为(N+12i+7)、(N+12i+11)、(N+12i+15)那样相邻的3个水平方向的B右分割像素进行相加。相加后的混合像素根据水平方向的3个B分割像素的重心位置配置在中央的B分割像素的位置,即,B左分割像素配置在列编号为(N+12i+10)的位置,B右分割像素配置在列编号为(N+12i+11)的位置。
图8是示出通过使相位差检测优先的水平3像素混合而得到的混合像素的配置在水平方向上成为等间隔的例子的图。
如上所述,区分左分割像素和右分割像素进行混合,混合像素的配置在水平方向上成为等间隔(仅观察左分割像素的混合像素时成为等间隔,同样,仅观察右分割像素的混合像素时成为等间隔)(而且,如上所述,成对的左分割像素和右分割像素在混合后也处于在水平方向上偏移半像素间距(1个分割像素间距)的位置关系),因此,能够进行相位差检测,但是,与图4所示的混合像素的配置相比,水平方向的像素间隔较宽,即使在相位差检测中使用连续的2行的Gb分割像素和Gr分割像素,水平方向的配置密度也是图4的配置的1/3。因此,在图8所示的水平3像素混合的情况下,得到读出全部像素或图4所示的垂直3像素混合的情况下的大致1/3的相位差检测精度(但是,相位差检测精度不是仅由像素配置密度决定,因此,1/3这样的数值只不过是从水平方向的像素配置密度的观点来说的)。
参照图9和图10对使相位差检测优先的混合处理的第4例(水平2像素混合)进行说明。另外,2个以上的水平偶数像素混合也根据这里说明的方法进行。
图9是示出通过加权相加来进行使相位差检测优先的R分割像素的水平2像素混合的例子的图。
在该图9所示的例子中,以3:1对行编号相同且列编号为(N+8i)、(N+8i+4)那样相邻的2个水平方向的R左分割像素进行加权相加,并且以3:1对列编号为(N+8i+1)、(N+8i+5)那样相邻的2个水平方向的R右分割像素进行加权相加。
这里,从MIX模式管理/指示部14对减少像素处理部即像素MIX部(摄像元件用像素MIX部11、AF信号用像素MIX部12和图像信号用像素MIX部13)指示权重。
关于加权相加后的混合像素,R左分割像素配置在列编号为(N+8i+1)的位置,R右分割像素配置在列编号为(N+8i+2)的位置。
这样,控制部即MIX模式管理/指示部14还指定作为混合对象的多个分割像素的分割像素信号的混合比率,由此设定处理后像素信号(混合像素)的重心位置。
图10是示出通过加权相加进行使相位差检测优先的Gr分割像素的水平2像素混合的例子的图。
在该图10所示的例子中,以1:3对行编号相同且列编号为(N+8i+2)、(N+8i+6)那样相邻的2个水平方向的Gr左分割像素进行加权相加,并且以1:3对列编号为(N+8i+3)、(N+8i+7)那样相邻的2个水平方向的Gr右分割像素进行加权相加。关于加权相加后的混合像素,Gr左分割像素配置在列编号为(N+8i+5)的位置,Gr右分割像素配置在列编号为(N+8i+6)的位置。
此外,虽然省略图示,但是,如下进行Gb像素、B分割像素的水平2像素混合。
首先,关于Gb分割像素,以3:1对列编号为(N+8i)、(N+8i+4)那样相邻的2个水平方向的GB左分割像素进行加权相加,并且以3:1对列编号为(N+8i+1)、(N+8i+5)那样相邻的2个水平方向的GB右分割像素进行加权相加。关于加权相加后的混合像素,GB左分割像素配置在列编号为(N+8i+1)的位置,GB右分割像素配置在列编号为(N+8i+2)的位置。
接着,关于B分割像素,以1:3对列编号为(N+8i+2)、(N+8i+6)那样相邻的2个水平方向的B左分割像素进行加权相加,并且以1:3对列编号为(N+8i+3)、(N+8i+7)那样相邻的2个水平方向的B右分割像素进行加权相加。关于加权相加后的混合像素,B左分割像素配置在列编号为(N+8i+5)的位置,B右分割像素配置在列编号为(N+8i+6)的位置。
通过进行这种处理,成对的左分割像素和右分割像素在混合后也成为在水平方向上偏移半像素间距(1个分割像素间距)的位置关系,并且,左分割像素和右分割像素的对在水平方向上等间隔配置。
接着,参照图11~图15对使画质优先的混合处理的若干个例子进行说明。
使画质优先的混合处理例如要求满足如下条件等:相位差检测中使用的左分割像素和右分割像素的对在垂直方向和水平方向上都等间隔配置。
首先,参照图11~图13对使画质优先的混合处理的第1例(垂直3像素混合)进行说明。另外,3个以上的垂直奇数像素混合也根据这里说明的方法进行。
图11是示出使画质优先的R分割像素的垂直3像素混合的例子的图。如图所示,R分割像素的垂直3像素混合与使相位差检测优先的垂直3像素混合(图3)相同。此外,虽然没有图示,但是,Gr分割像素的垂直3像素混合也与使相位差检测优先的垂直3像素混合相同。
此外,图12是示出使画质优先的Gb分割像素的垂直3像素混合的例子的图。
关于Gb分割像素的垂直3像素混合,对行编号为(M+6i+3)、(M+6i+5)、(M+6i+7)那样相邻的3个垂直方向的Gb分割像素进行相加。相加后的混合像素配置在中央的Gb分割像素的位置、即行编号为(M+6i+5)的位置。
此外,关于B分割像素的垂直3像素混合,与Gb分割像素同样,对行编号为(M+6i+3)、(M+6i+5)、(M+6i+7)那样相邻的3个垂直方向的B分割像素进行相加。相加后的混合像素与Gb分割像素同样配置在中央的B分割像素的位置、即行编号为(M+6i+5)的位置。
其结果,混合像素的配置成为如图13所示。图13是示出通过使画质优先的垂直3像素混合而得到的混合像素的配置在垂直方向上成为等间隔的状况的图。
如图4所示,通过使相位差检测优先的垂直3像素混合而相加的Gb混合像素和B混合像素的行编号为(M+6i+3)。与此相对,如图13所示,通过使画质优先的垂直3像素混合而相加的Gb混合像素和B混合像素的行编号成为(M+6i+5)。另一方面,R混合像素和Gr混合像素的行编号在图4和图13中都是(M+6i+2)。
因此,在图13中,混合像素的配置在垂直方向上成为等间隔,因此,相位差检测中组合使用的Gr分割像素和Gb分割像素在垂直方向上成为分开的位置,相位差的精度降低,另一方面,由于是等间隔,因此,与亮度信号相当的成分在图像内更加均匀地分布,能够提高画质。
接着,参照图14和图15对使画质优先的混合处理的第2例(垂直2像素混合)进行说明。另外,2个以上的垂直偶数像素混合也根据这里说明的方法进行。
图14是示出通过加权相加进行使画质优先的R分割像素的垂直2像素混合的例子的图。另外,从MIX模式管理/指示部14指示权重这点与上述相同。
在使画质优先的R分割像素的垂直2像素混合的情况下,如图14所示,以3:1对列编号相同且行编号为(M+4i)、(M+4i+2)那样相邻的2个垂直方向的R分割像素进行加权相加。加权相加后的混合像素配置在概略阴影所示的中间的位置、即行编号为(M+4i+0.5)的位置。
此外,虽然省略图示,但是,使画质优先的Gr分割像素的垂直2像素混合也与R分割像素的垂直2像素混合同样,以3:1对行编号为(M+4i)、(M+4i+2)那样相邻的2个垂直方向的Gr分割像素进行加权相加。加权相加后的混合像素配置在行编号为(M+4i+0.5)的位置。
图15是示出通过加权相加进行使画质优先的Gb分割像素的垂直2像素混合的例子的图。
使画质优先的Gb分割像素的垂直2像素混合以1:3对行编号为(M+4i+1)、(M+4i+3)那样相邻的2个垂直方向的Gb分割像素进行加权相加。加权相加后的混合像素配置在该大致阴影所示的中间的位置、即行编号为(M+4i+2.5)的位置。
此外,虽然省略图示,但是,使画质优先的B分割像素的垂直2像素混合也与Gb分割像素的垂直2像素混合同样,以1:3对行编号为(M+4i+1)、(M+4i+3)那样相邻的2个垂直方向的B分割像素进行加权相加。加权相加后的混合像素配置在该大致阴影所示的中间的位置、即行编号为(M+4i+2.5)的位置。
进行这种处理的结果,R混合像素和Gr混合像素配置在行编号为(M+4i+0.5)的位置、即成为(M+0.5)、(M+4.5)、(M+8.5)、…的位置。
另一方面,Gb混合像素和B混合像素配置在行编号为(M+4i+2.5)的位置、即成为(M+2.5)、(M+6.5)、(M+10.5)、…的位置。
因此,R混合像素及Gr混合像素的行与Gb混合像素及B混合像素的行在垂直方向上各2个像素等间隔分开。
此外,使画质优先的混合处理的第3例(水平3像素混合)与参照图6~图8说明的使相位差检测优先的混合处理的第3例(水平3像素混合)相同,因此省略说明。
进而,使画质优先的混合处理的第4例(水平2像素混合)与参照图9和图10说明的使相位差检测优先的混合处理的第4例(水平2像素混合)相同,因此省略说明。
接着,参照图16~图20对具备具有图2所示的左右分割的像素的摄像元件4的摄像装置1例如是数字照相机的情况下的动作进行说明。
首先,图16是示出摄像装置1的拍摄时的作用的流程图。根据系统控制部15的控制,由摄像装置1内的各部进行该拍摄时的动作。
例如,当摄像装置1的电源接通后,在进行适当的初始设定等后,进入该处理。
于是,首先,系统控制部15判定输入IF 10的第1按钮(第一释放)是否接通(步骤S1)。
这里,在判定为第1按钮接通的情况下,进行后面参照图17说明的AF用处理(步骤S2)。
当AF用处理结束后,接着,系统控制部15判定第2按钮(第二释放)是否接通(步骤S3)。
这里,在判定为第2按钮接通的情况下,进行后面参照图18说明的静态图像用处理(步骤S4)。
另一方面,在步骤S1中判定为第1按钮断开的情况下,系统控制部15判定第3按钮(动态图像录像按钮)是否接通(步骤S5)。
这里,在判定为第3按钮接通的情况下,进行后面参照图19说明的动态图像用处理(步骤S6)。
此外,在步骤S5中判定为第3按钮断开的情况下,进行后面参照图20说明的LV(实时取景)用处理(步骤S7)。
在上述步骤S3中判定为第2按钮断开的情况下、上述步骤S4的静态图像用处理结束的情况下、上述步骤S6的动态图像用处理结束的情况下、或上述步骤S7的LV用处理结束的情况下,返回步骤S1,反复进行上述这种处理。
接着,图17是示出摄像装置1的AF用处理的流程图。
在图16的步骤S2中进入该处理后,从系统控制部15接收成为AF用处理这样的信息,MIX模式管理/指示部14根据使相位差检测优先的观点,决定摄像元件用像素MIX部11、AF信号用像素MIX部12、图像信号用像素MIX部13分别进行哪种混合处理(步骤S11)。
接着,MIX模式管理/指示部14经由系统控制部15指示摄像元件用像素MIX部11的混合方法(步骤S12)。
在该AF用处理中,例如如图21所示,对摄像元件用像素MIX部11指示的混合方法是如图3和图4所示进行垂直混合(即,为了高精度地取得相位差信息,在垂直方向上较密地进行相加)、不进行水平混合(当然不进行左右相加)的处理等。这里,图21是示出本实施方式的摄像装置1中的与AF、静态图像、动态图像、LV对应的混合处理的分类的图表。
此外,图22中示出图3~图15所示的各图中的混合方向、混合数、以及非等间隔配置(疏密配置)或等间隔配置的分类。这里,图22是示出本实施方式的摄像装置1中的混合处理和各图的对应的图表。
因此,控制部即MIX模式管理/指示部14至少对元件内减少像素处理部即摄像元件用像素MIX部11进行如下控制:使摄像元件用像素MIX部11进行第2方向上相邻的多个分割像素的分割像素信号的减少像素处理,以使得使相位差检测优先的情况下的处理后像素信号(混合像素)的第2方向(在该例子中为垂直方向)的排列间隔不是等间隔。
然后,通过摄像元件用像素MIX部11对由像素部4a生成的图像数据进行混合处理(步骤S13),从摄像元件4读出(步骤S14)。
从摄像元件4读出的图像数据分别发送到AF信号用像素MIX部12和图像信号用像素MIX部13。
首先,如下进行发送到图像信号用像素MIX部13的图像数据的处理。
MIX模式管理/指示部14对图像信号用像素MIX部13指示混合方法(步骤S15)。在这里指示的混合方法中包含左右相加(参照图21)。
因此,图像信号用像素MIX部13对相同颜色的左分割像素和右分割像素进行相加,返回适合于图像信号处理的通常像素(步骤S16)。
这样,图像信号用的混合后的图像信号从图像信号用像素MIX部13发送到图像信号处理部8,进行上述各种图像处理(步骤S17)。
图像处理后的图像信号从图像信号处理部8发送到显示部9,在显示部9中作为图像进行显示(步骤S18)。
另一方面,如下进行发送到AF信号用像素MIX部12的图像数据的处理。
MIX模式管理/指示部14对AF信号用像素MIX部12指示混合方法(步骤S21)。
这里,例如如图21所示,对AF信号用像素MIX部12指示的混合方法是不进行已经由摄像元件用像素MIX部11进行的垂直混合、而如图6~图8所示进行水平混合等。通过AF信号用像素MIX部12进一步进行水平混合例如是假设被摄体较暗的情况而为了提高S/N。因此,在被摄体更亮的情况下,也可以代替图6~图8的水平3像素混合而进行图9和图10的水平2像素混合,或者,在被摄体进一步更亮的情况下,也可以不进行水平混合。
然后,AF信号用像素MIX部12按照来自MIX模式管理/指示部14的指示,对从摄像元件4接收到的图像数据进行混合处理(步骤S22)。
这样,AF信号用的混合后的图像信号从AF信号用像素MIX部12发送到AF信号处理部7,通过AF信号处理部7进行差动运算等处理,生成镜头驱动信息(步骤S23)。
由AF信号处理部7生成的镜头驱动信息发送到系统控制部15,系统控制部15进行摄像镜头2的驱动控制以进行合焦(步骤S24)。
这样,在进行步骤S18和步骤S24的处理后,从该处理返回。
图18是示出摄像装置1的静态图像用处理的流程图。
在图16的步骤S4中进入该处理后,从系统控制部15接收成为静态图像用处理这样的信息,MIX模式管理/指示部14根据不需要相位差检测(使画质优先)的观点,决定摄像元件用像素MIX部11、AF信号用像素MIX部12、图像信号用像素MIX部13分别进行哪种混合处理(步骤S31)。
接着,MIX模式管理/指示部14经由系统控制部15指示摄像元件用像素MIX部11中的混合方法(步骤S32)。
在该静态图像用处理中,例如如图21所示,对摄像元件用像素MIX部11指示的混合方法是不进行垂直混合和水平混合而进行左右相加的处理。首先,静态图像要求高画质,因此,为了防止像素数的减少,不进行垂直混合和水平混合。此外,在静态图像拍摄时不需要相位差信息,因此,通过在摄像元件用像素MIX部11中进行左右相加,减少从摄像元件4读出的像素数,实现读出时间的缩短。
然后,通过摄像元件用像素MIX部11对由像素部4a生成的图像数据进行混合处理,对相同颜色的左分割像素和右分割像素进行相加而返回通常像素后(步骤S33),从摄像元件4读出(步骤S34)。
在静态图像用处理中不需要AF处理,因此,从摄像元件4读出的图像数据发送到图像信号用像素MIX部13,但是不发送到AF信号用像素MIX部12。
如图21所示,MIX模式管理/指示部14对图像信号用像素MIX部13指示混合动作的关闭(步骤S35)。如上所述,这是为了避免由于混合处理而引起的像素数的减少。
与其对应地,图像信号用像素MIX部13关闭混合动作(步骤S36)。
这样,从摄像元件4输出的未进行图像信号用像素MIX部13的混合处理的图像信号经由图像信号用像素MIX部13或直接发送到图像信号处理部8,进行上述各种图像处理(步骤S37)。
图像处理后的图像信号从图像信号处理部8发送到外部存储器20,例如作为图像文件(静态图像文件)进行保存,此外发送到显示部9,作为图像进行显示(步骤S38)。
这样,在进行步骤S38的处理后,从该处理返回。
图19是示出摄像装置1的动态图像用处理的流程图。
在图16的步骤S6中进入该处理后,从系统控制部15接收成为动态图像用处理这样的信息,MIX模式管理/指示部14根据使画质优先(虽然需要相位差检测,但是,与相位差检测的精度相比使画质优先)的观点,决定摄像元件用像素MIX部11、AF信号用像素MIX部12、图像信号用像素MIX部13分别进行哪种混合处理(步骤S41)。
接着,MIX模式管理/指示部14经由系统控制部15指示摄像元件用像素MIX部11中的混合方法(步骤S42)。
在该动态图像用处理中,例如如图21所示,对摄像元件用像素MIX部11指示的混合方法是如图14和图15所示进行垂直混合(即,使画质优先,因此使垂直方向的混合像素成为等间隔)、如图9和图10所示进行水平混合(水平方向的混合像素成为等间隔)的处理等(由于需要相位差检测,因此当然不进行左右相加)(还参照图22)。
然后,通过摄像元件用像素MIX部11对由像素部4a生成的图像数据进行混合处理(步骤S43),从摄像元件4读出(步骤S44)。
从摄像元件4读出的图像数据分别发送到AF信号用像素MIX部12和图像信号用像素MIX部13。
首先,如下进行发送到图像信号用像素MIX部13的图像数据的处理。
MIX模式管理/指示部14对图像信号用像素MIX部13指示混合方法(步骤S45)。在这里指示的混合方法中包含左右相加。
因此,图像信号用像素MIX部13对相同颜色的左分割像素和右分割像素进行相加,返回适合于图像信号处理的通常像素(步骤S46)。
这样,图像信号用的混合后的图像信号从图像信号用像素MIX部13发送到图像信号处理部8,进行上述各种图像处理(步骤S47)。
图像处理后的图像信号从图像信号处理部8发送到外部存储器20,例如作为图像文件(动态图像文件)进行保存,此外发送到显示部9,作为图像进行显示(步骤S48)。
另一方面,如下进行发送到AF信号用像素MIX部12的图像数据的处理。
例如如图21所示,MIX模式管理/指示部14对AF信号用像素MIX部12指示混合动作的关闭(即垂直混合和水平混合的关闭)(步骤S51)。这是因为在摄像元件用像素MIX部11中已经进行了垂直混合和水平混合。
与其对应地,AF信号用像素MIX部12关闭混合动作(步骤S52)。
这样,从摄像元件4输出的未进行AF信号用像素MIX部12的混合处理的图像信号经由AF信号用像素MIX部12或直接发送到AF信号处理部7,通过AF信号处理部7进行差动运算等处理,生成镜头驱动信息(步骤S53)。
由AF信号处理部7生成的镜头驱动信息发送到系统控制部15,系统控制部15进行摄像镜头2的驱动控制以进行合焦(步骤S54)。
这样,在进行步骤S48和步骤S54的处理后,从该处理返回。
图20是示出摄像装置1的LV用处理的流程图。
在图16的步骤S7中进入该处理后,从系统控制部15接收成为LV用处理这样的信息,MIX模式管理/指示部14根据不需要相位差检测(使画质优先)的观点,决定摄像元件用像素MIX部11、AF信号用像素MIX部12、图像信号用像素MIX部13分别进行哪种混合处理(步骤S61)。
接着,MIX模式管理/指示部14经由系统控制部15指示摄像元件用像素MIX部11中的混合方法(步骤S62)。
在该LV用处理中,例如如图21所示,对摄像元件用像素MIX部11指示的混合方法是如下处理:如图11、图12和图13所示进行垂直混合(即,使画质优先,因此使垂直方向的混合像素成为等间隔),并且如图6、图7和图8所示进行水平混合(水平方向的混合像素成为等间隔),进而进行左右相加。首先,LV图像需要确保规定的帧率和实时性,因此,通过在摄像元件4内进行垂直3像素混合和水平3像素混合,从而减少从摄像元件4读出的像素数,减少消耗电力。而且,在LV图像拍摄时不需要相位差信息,因此,通过在摄像元件用像素MIX部11中进行左右相加,进一步减少从摄像元件4读出的像素数,实现读出时间的进一步缩短等。
然后,通过摄像元件用像素MIX部11对由像素部4a生成的图像数据进行混合处理(步骤S63),从摄像元件4读出(步骤S64)。
在LV用处理中不需要AF处理,因此,从摄像元件4读出的图像数据发送到图像信号用像素MIX部13,但是不发送到AF信号用像素MIX部12。
如图21所示,MIX模式管理/指示部14对图像信号用像素MIX部13指示混合动作的关闭(步骤S65)。这是因为摄像元件用像素MIX部11已经进行了必要的混合处理。
与其对应地,图像信号用像素MIX部13关闭混合动作(步骤S66)。
这样,从摄像元件4输出的未进行图像信号用像素MIX部13的混合处理的图像信号经由图像信号用像素MIX部13或直接发送到图像信号处理部8,进行上述各种图像处理(步骤S67)。
图像处理后的图像信号从图像信号处理部8发送到显示部9,在显示部9中作为图像进行显示(步骤S68)。
这样,在进行步骤S68的处理后,从该处理返回。
另外,在上述中,主要设第1方向为水平方向、第2方向为垂直方向,举例说明了水平方向的相位差检测(纵线检测)。
该情况下,在使相位差检测优先来进行垂直方向的减少像素处理(垂直混合或垂直间疏)时,使处理后像素信号的垂直方向的排列间隔不是等间隔。此外,在不进行垂直方向的减少像素处理而进行水平方向的减少像素处理(水平混合或水平间疏)时、或在垂直方向的减少像素处理的基础上进行水平方向的减少像素处理时,与一般处理同样,使处理后像素信号的水平方向的排列间隔成为等间隔。
与此相对,在使相位差检测优先来进行垂直方向的相位差检测(横线检测)的情况下,如果设第1方向为垂直方向、第2方向为水平方向,则能够应用与上述相同的思路。
即,在进行水平方向的减少像素处理(水平混合或水平间疏)时,使处理后像素信号的水平方向的排列间隔不是等间隔即可。此外,在不进行水平方向的减少像素处理而进行垂直方向的减少像素处理(垂直混合或垂直间疏)时、或在水平方向的减少像素处理的基础上进行垂直方向的减少像素处理时,与一般处理同样,使处理后像素信号的垂直方向的排列间隔成为等间隔即可。因此,省略与横线检测有关的详细说明。
另外,在上述中,作为减少像素处理部即像素MIX部,说明了具有摄像元件用像素MIX部11(元件内MIX)、图像信号用像素MIX部13(图像用MIX)、AF信号用像素MIX部12(AF用MIX)这3个的例子(下述(4)的组合的例子),但是,不限于具有全部这3个。
在使相位差检测优先的情况下,进行第2方向上相邻的多个分割像素的分割像素信号的减少像素处理,以使得处理后像素信号的第2方向的排列间隔不是等间隔,因此,例如能够进行如下组合(○:OK、×:NG)。
Figure BDA0002119908360000231
而且,在这些组合中,在使用上下左右4分割后的分割像素时,针对纵线检测和横线检测双方,能够进行使得处理后像素信号的第2方向的排列间隔不是等间隔的相位差检测优先、并且还能够进行画质优先的结构是(5)的结构(或者在(4)的结构中不使摄像元件用像素MIX部11进行动作时)。
具体而言,该情况下,在摄像元件4内不进行一切MIX处理,直接输出全部像素。然后,在AF信号用像素MIX部12中,设第1方向为水平方向、第2方向为垂直方向而进行减少像素处理,生成纵线检测用的处理后像素信号而进行纵线检测,并且,独立于纵线检测,在AF信号用像素MIX部12中,设第1方向为垂直方向、第2方向为水平方向而进行减少像素处理,生成横线检测用的处理后像素信号而进行横线检测即可。
该情况下,从摄像元件4读出全部像素,因此,很难得到帧率的提高和消耗电力的减少的效果,但是,如果在AF信号用像素MIX部12中进行混合处理作为减少像素处理,则能够提高灵敏度(S/N)。
另外,作为像素的基本排列,在上述中举例了拜耳排列,但是,如上所述,不限于此。
此外,作为分光特性不同的像素,在上述中举例了RGB各像素,但是不限于此。可以是补色系的像素,也可以包含白色像素,还可以是3种颜色以上的多色像素。
进而,在上述中,使用主要负责亮度成分的G像素的信号进行相位差检测,但是,也可以在进行去马赛克处理而生成各像素位置的亮度信号后进行相位差检测。
根据这种实施方式1,在使相位差检测优先的情况下,进行分割像素信号的减少像素处理,以使得处理后像素信号的第2方向的排列间隔不是等间隔,因此,能够使相位差检测中使用的种类的处理后像素信号的第2方向的排列间隔接近,能够有效抑制基于不同被摄体的误检测。这样,能够减少像素数,并提高相位差检测精度。
此外,在不使相位差检测优先的情况下,使处理后像素信号的第2方向的排列间隔成为等间隔,因此,与亮度信号相当的成分在图像内更加均匀地分布,能够提高画质。
进而,由于使处理后像素信号的第1方向的排列间隔成为等间隔,因此,与是否使相位差检测优先无关,能够提高第1方向的画质。
而且,在通过元件内减少像素处理部即摄像元件用像素MIX部11进行减少像素处理以使得处理后像素信号的第2方向的排列间隔不是等间隔的情况下,能够减少从摄像元件4读出的像素数,因此,读出成为高速,能够实现消耗电力的减少。
而且,进行混合和间疏中的至少一方作为减少像素处理,由此,不需要复杂的运算处理,能够维持处理的高速性。
此外,通过指定作为混合对象的多个分割像素的位置来设定处理后像素信号的重心位置,因此,例如,在能够指定读出行和读出像素的地址指定型的摄像元件4中,能够良好地进行元件内的处理。
进而,在通过指定多个分割像素信号的混合比率来设定处理后像素信号的重心位置的情况下,仅加减乘除的四则运算即可,因此,在摄像元件用像素MIX部11、AF信号用像素MIX部12或图像信号用像素MIX部13中都能够高速进行处理。
另一方面,在通过指定未被间疏而保留的分割像素的位置来设定处理后像素信号的位置从而进行减少像素处理的情况下,不需要四则运算,因此,进一步减轻了处理负荷。
另外,上述各部也可以构成为电路。而且,任意的电路能够发挥相同功能即可,可以作为一个电路进行安装,也可以作为组合了多个电路的部件进行安装。进而,任意的电路不限于构成为用于发挥目标功能的专用电路,也可以构成为通过使通用电路执行处理程序而发挥目标功能。或者,构成为硬件的处理器也可以进行各部的处理作为处理步骤。
此外,在上述中,主要说明了摄像装置,但是,也可以是进行与摄像装置相同的处理的摄像方法,还可以是用于使计算机进行与摄像装置相同的处理的处理程序、记录该处理程序的计算机可读取的非暂时性记录介质等。
进而,本发明不限于上述实施方式,能够在实施阶段在不脱离其主旨的范围内对结构要素进行变形而具体化。此外,通过上述实施方式所公开的多个结构要素的适当组合,能够形成各种发明的形式。例如,可以从实施方式所示的全部结构要素中删除若干个结构要素。进而,可以适当组合不同实施方式的结构要素。这样,当然能够在不脱离发明主旨的范围内进行各种变形和应用。
本申请以2017年1月10日在日本申请的日本特愿2017-1882号为优先权主张的基础进行申请,上述公开内容被引用到本申请说明书、权利要求书和附图中。

Claims (9)

1.一种摄像装置,其特征在于,所述摄像装置具有:
像素部,其在第1方向和与所述第1方向垂直的第2方向上重复配置分光特性不同的多种像素的基本排列,任意的像素被分割成沿着所述第1方向的多个分割位置的多个分割像素;
减少像素处理部,其对所述像素部中的全部分割像素中的相同种类且相同分割位置的、相邻的多个分割像素的分割像素信号进行减少像素处理而生成处理后像素信号,由此减少像素数;以及
控制部,其根据是否使相位差检测优先,对所述减少像素处理部进行的减少像素处理进行控制,
所述控制部在使所述相位差检测优先的情况下,对所述减少像素处理部进行如下控制:使所述减少像素处理部进行在所述第2方向上相邻的多个分割像素的分割像素信号的减少像素处理,以使得所述处理后像素信号的所述第2方向的排列间隔不是等间隔;
所述摄像装置还具有:AF信号处理部,其使用所述第2方向的排列间隔不是等间隔的所述处理后像素信号进行所述相位差检测。
2.根据权利要求1所述的摄像装置,其特征在于,
所述控制部在不使所述相位差检测优先、且使所述减少像素处理部进行在所述第2方向上相邻的多个分割像素的分割像素信号的减少像素处理的情况下,对所述减少像素处理部进行控制,以使得所述处理后像素信号的所述第2方向的排列间隔成为等间隔。
3.根据权利要求1或2所述的摄像装置,其特征在于,
与是否使所述相位差检测优先无关地,所述控制部在使所述减少像素处理部进行在所述第1方向上相邻的多个分割像素的分割像素信号的减少像素处理的情况下,对所述减少像素处理部进行控制,以使得所述处理后像素信号的所述第1方向的排列间隔成为等间隔。
4.根据权利要求1所述的摄像装置,其特征在于,
所述像素部设置于摄像元件,
所述减少像素处理部具有设置于所述摄像元件的元件内减少像素处理部,
所述控制部至少对所述元件内减少像素处理部进行如下控制:使所述元件内减少像素处理部进行在所述第2方向上相邻的多个分割像素的分割像素信号的减少像素处理,以使得使所述相位差检测优先的情况下的所述处理后像素信号的所述第2方向的排列间隔不是等间隔。
5.根据权利要求1所述的摄像装置,其特征在于,
所述减少像素处理部进行混合和间疏中的至少一方作为所述减少像素处理。
6.根据权利要求5所述的摄像装置,其特征在于,
所述控制部在所述减少像素处理部通过混合来进行所述减少像素处理的情况下,指定作为混合对象的多个分割像素的位置,由此设定所述处理后像素信号的重心位置。
7.根据权利要求6所述的摄像装置,其特征在于,
所述控制部还指定作为混合对象的多个分割像素的分割像素信号的混合比率,由此设定所述处理后像素信号的所述重心位置。
8.根据权利要求5所述的摄像装置,其特征在于,
所述控制部在所述减少像素处理部通过间疏来进行所述减少像素处理的情况下,指定未被间疏而保留的分割像素的位置,由此设定所述处理后像素信号的位置。
9.一种摄像方法,其特征在于,所述摄像方法具有以下步骤:
减少像素处理步骤,对像素部中的全部分割像素中的相同种类且相同分割位置的、相邻的多个分割像素的分割像素信号进行减少像素处理而生成处理后像素信号,由此减少像素数,其中,所述像素部在第1方向和与所述第1方向垂直的第2方向上重复配置分光特性不同的多种像素的基本排列,任意的像素被分割成沿着所述第1方向的多个分割位置的多个分割像素;以及
控制步骤,根据是否使相位差检测优先,对所述减少像素处理步骤的减少像素处理进行控制,
在所述控制步骤中,在使所述相位差检测优先的情况下,对所述减少像素处理步骤进行如下控制:进行在所述第2方向上相邻的多个分割像素的分割像素信号的减少像素处理,以使得所述处理后像素信号的所述第2方向的排列间隔不是等间隔;
所述摄像方法还具有以下步骤:AF信号处理步骤,使用所述第2方向的排列间隔不是等间隔的所述处理后像素信号进行所述相位差检测。
CN201780082457.3A 2017-01-10 2017-10-25 摄像装置、摄像方法 Active CN110169054B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017001882A JP6847669B2 (ja) 2017-01-10 2017-01-10 撮像装置、撮像方法
JP2017-001882 2017-01-10
PCT/JP2017/038461 WO2018131254A1 (ja) 2017-01-10 2017-10-25 撮像装置、撮像方法

Publications (2)

Publication Number Publication Date
CN110169054A CN110169054A (zh) 2019-08-23
CN110169054B true CN110169054B (zh) 2021-10-08

Family

ID=62840281

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201780082457.3A Active CN110169054B (zh) 2017-01-10 2017-10-25 摄像装置、摄像方法

Country Status (4)

Country Link
US (1) US10911701B2 (zh)
JP (1) JP6847669B2 (zh)
CN (1) CN110169054B (zh)
WO (1) WO2018131254A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7086783B2 (ja) * 2018-08-13 2022-06-20 株式会社東芝 固体撮像装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103095985A (zh) * 2011-10-31 2013-05-08 索尼公司 信息处理装置、信息处理方法和程序
JP2015173387A (ja) * 2014-03-12 2015-10-01 キヤノン株式会社 撮像素子、その駆動方法、およびプログラム
JP2015195550A (ja) * 2014-03-28 2015-11-05 パナソニックIpマネジメント株式会社 撮像素子および撮像装置
JP2016213757A (ja) * 2015-05-12 2016-12-15 キヤノン株式会社 撮像装置およびその制御方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5888914B2 (ja) * 2011-09-22 2016-03-22 キヤノン株式会社 撮像装置およびその制御方法
WO2014118868A1 (ja) * 2013-01-30 2014-08-07 パナソニック株式会社 撮像装置及び固体撮像装置
JP5923075B2 (ja) * 2013-10-07 2016-05-24 モレックス エルエルシー コネクタ
JP5982601B2 (ja) * 2014-03-18 2016-08-31 富士フイルム株式会社 撮像装置及び合焦制御方法
KR102390836B1 (ko) * 2015-10-05 2022-04-26 삼성전자주식회사 이미지 데이터를 생성하는 전자 장치 및 방법
JP6741549B2 (ja) * 2016-10-14 2020-08-19 キヤノン株式会社 撮像装置及びその制御方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103095985A (zh) * 2011-10-31 2013-05-08 索尼公司 信息处理装置、信息处理方法和程序
JP2015173387A (ja) * 2014-03-12 2015-10-01 キヤノン株式会社 撮像素子、その駆動方法、およびプログラム
JP2015195550A (ja) * 2014-03-28 2015-11-05 パナソニックIpマネジメント株式会社 撮像素子および撮像装置
JP2016213757A (ja) * 2015-05-12 2016-12-15 キヤノン株式会社 撮像装置およびその制御方法

Also Published As

Publication number Publication date
JP6847669B2 (ja) 2021-03-24
JP2018113542A (ja) 2018-07-19
US10911701B2 (en) 2021-02-02
US20190327434A1 (en) 2019-10-24
WO2018131254A1 (ja) 2018-07-19
CN110169054A (zh) 2019-08-23

Similar Documents

Publication Publication Date Title
US10200664B2 (en) Image processing apparatus, image device, image processing method, and program for reducing noise or false colors in an image
US9942482B2 (en) Image sensor with transfer gate control signal lines
US10630920B2 (en) Image processing apparatus
US8605177B2 (en) Image sensor with wide dynamic range
TWI428006B (zh) 處理像素陣列及處理影像的方法
US8525917B2 (en) Image sensing apparatus with plural focus detection pixel groups
JP4738907B2 (ja) 固体撮像素子および固体撮像装置
US8730545B2 (en) Color imaging element, imaging device, and storage medium storing a control program for imaging device
WO2014050875A1 (ja) 撮像素子および撮像装置
US10136079B2 (en) Method and apparatus for imaging an object
US8823851B2 (en) Image capturing apparatus and control method for image capturing apparatus
KR20160034897A (ko) 촬상 소자, 촬상 방법, 및 프로그램
US20130208147A1 (en) Imaging apparatus and imaging method
JP2006165975A (ja) 撮像素子、撮像装置、画像処理方法
JPWO2011136031A1 (ja) 撮像装置
JP2017118197A (ja) 画像処理装置、画像処理方法、および撮像装置
JP5911252B2 (ja) 撮像装置及び画像処理方法
US11171169B2 (en) Image sensor, imaging device and imaging method
US8111298B2 (en) Imaging circuit and image pickup device
JP5526287B2 (ja) 撮像装置及び撮像方法
JP6070301B2 (ja) 固体撮像素子及びこれを用いた撮像装置
US8218021B2 (en) Image capture apparatus, method of controlling the same, and program
JP5033711B2 (ja) 撮像装置及び撮像装置の駆動方法
JP5645474B2 (ja) 撮像装置及び撮像画像信号の補正方法
JP5607266B2 (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant