CN107690805A - 成像控制设备、成像设备以及成像控制方法 - Google Patents

成像控制设备、成像设备以及成像控制方法 Download PDF

Info

Publication number
CN107690805A
CN107690805A CN201680031976.2A CN201680031976A CN107690805A CN 107690805 A CN107690805 A CN 107690805A CN 201680031976 A CN201680031976 A CN 201680031976A CN 107690805 A CN107690805 A CN 107690805A
Authority
CN
China
Prior art keywords
pixel
signal
focus
picture element
element signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201680031976.2A
Other languages
English (en)
Other versions
CN107690805B (zh
Inventor
藤井真
藤井真一
宫腰大辅
关健三郎
喜多光昭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN107690805A publication Critical patent/CN107690805A/zh
Application granted granted Critical
Publication of CN107690805B publication Critical patent/CN107690805B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/445Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by skipping some contiguous pixels within the read portion of the array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)

Abstract

提供了一种图像传感器,包括:控制单元,被配置为以独立地进行从用于聚焦的焦点检测像素读取焦点像素信号和从用于图像生成的像素读出主像素信号的方式控制像素;以及输出单元,被配置为彼此独立地输出焦点像素信号和主像素信号。

Description

成像控制设备、成像设备以及成像控制方法
相关申请的交叉引用
本申请要求于2015年6月9日提交的日本优先权专利申请JP2015-116389的权益,其全部内容通过引用并入本文。
技术领域
本公开涉及成像控制设备、图像设备以及成像控制方法。
背景技术
近来,配备有诸如电荷耦合器件(CCD)和互补金属氧化物半导体(CMOS)传感器的图像传感器的数码静态相机和数码摄像机已经变得普遍。数码静态相机拍摄静态图像,而数码摄像机拍摄运动图像,但是也存在能够拍摄运动图像的数码静态相机和能够拍摄静态图像的数码摄像机。请注意,在下文中,当不特别区分时,可以简单地将数码静态相机和数码摄像机指定为“数码相机”。而且,在下文中,当不特别区分时,静态图像和运动图像可以被简单地指定为“图像”。
如专利文献1所公开的那样,在许多情况下,上述数码相机包括自动进行聚焦的自动聚焦处理的功能。例如,在自动聚焦处理中,测量数码相机与被摄体之间的距离,并且基于测量的距离驱动镜头来适当地调整焦点。结果,获取对焦(经聚焦的)图像变得可能。
引用列表
专利文献
PTL 1:JP2013-223054A
发明内容
[技术问题]
在上述自动聚焦处理中,期望减少从测量距离直到结果被反映(例如,镜头驱动完成)所花费的时间(延迟时间)。
因此,本公开提出了能够减少自动聚焦的延迟时间的新的和改进的成像控制设备、成像设备和成像控制方法。
[问题的解决方案]
根据本公开的实施例,提供了一种成像控制设备,包括:控制单元,其被配置为以独立地进行从用于聚焦的焦点检测像素读出焦点像素信号和从用于图像生成的像素读出主像素信号的方式控制像素;以及输出单元,其被配置为彼此独立地输出焦点像素信号和主像素信号。
根据本公开的实施例,提供了一种成像设备,包括:控制单元,其被配置为以独立地进行从用于聚焦的焦点检测像素读出焦点像素信号和从用于图像生成的像素读出主像素信号的方式控制像素;输出单元,其被配置为彼此独立地输出焦点像素信号和主像素信号;输入单元,其被配置为接受彼此独立地输出的焦点像素信号和主像素信号作为输入;以及镜头驱动指示单元,其被配置成以在输入主像素信号期间进行镜头驱动的方式基于焦点像素信号发出镜头驱动指令。
根据本公开的实施例,提供了一种成像控制方法,包括:以独立地进行从用于聚焦的焦点检测像素读出焦点像素信号和从用于图像生成的像素读出主像素信号的方式控制像素;以及彼此独立地输出焦点像素信号和主像素信号。
[发明的有益效果]
根据如上所述的本公开的实施例,能够减少自动聚焦的延迟时间。
注意,上述效果不一定是有限的,并且与效果一起或代替效果,可以展现本说明书中期望引入的任何效果或者可以从本说明书预期的其他效果。
附图说明
[图1]图1是例示根据本公开的实施例的成像设备的使用场景的说明图。
[图2]图2是用于描述根据实施例的比较示例的成像设备的示意性配置的示例的说明图。
[图3]图3是用于描述使用根据实施例的比较示例的成像设备的连续拍摄期间的自动聚焦处理的流程的说明图。
[图4]图4是用于描述根据实施例的成像设备的概况的说明图。
[图5]图5是例示根据实施例的成像设备的配置的示例的说明图。
[图6]图6是用于描述设置在根据实施例的图像传感器中的像素阵列单元的像素布置的示例的说明图。
[图7]图7是例示根据实施例的相位差像素的示例的说明图。
[图8]图8是例示根据实施例的图像传感器的一部分的示例配置的框图。
[图9]图9是用于描述根据实施例的图像传感器的芯片的配置的示例的说明图。
[图10]图10是用于说明根据实施例的操作示例1的示意性时间图。
[图11]图11是用于说明根据实施例的操作示例2的示意性时间图。
具体实施方式
在下文中,将参照附图详细描述本公开的优选实施例(一个或多个)。在本说明书和附图中,具有基本相同的功能和结构的结构元件用相同的附图标记来表示,并且省略对这些结构元件的重复说明。
在下文中,按照以下的顺序进行描述。
<<1.介绍>>
<1-1.背景>
<1-2.概述>
<<2.配置>>
<2-1.成像设备的配置>
<2-2.图像传感器的配置>
<<3.操作示例>>
<3-1.操作示例1>
<3-2.操作示例2>
<<4.变型例>>
<4-1.变型例1>
<4-2.变型例2>
<<5.结论>>
<<1.介绍>>
<1-1.背景>
为了描述根据本公开的实施例的成像设备,将参照附图描述导致创建根据本公开的实施例的成像设备的背景。
图1是示出根据本公开的实施例的成像设备1的使用场景的说明图。例如,图1所示的成像设备1是数码相机。如图1所示,成像设备1配备有用于聚焦的聚焦镜头11。通过根据被摄体和成像设备1之间的距离驱动和控制聚焦镜头11来自动执行聚焦(也称为自动聚焦或AF)。
在这一点上,将参照图2和图3来描述相关技术的成像设备的示例中的自动聚焦处理作为比较示例。图2是用于描述根据比较示例的成像设备的示意性配置的示例的说明图。
图2所示的图像传感器800被设置在根据比较示例的成像设备中,并且是对被摄体进行成像并获得所拍摄的图像的数字数据的图像传感器。例如,图像传感器800也可以是图像传感器,诸如互补金属氧化物半导体(CMOS)图像传感器或电荷耦合器件(CCD)图像传感器。图像传感器800包括其中多个像素按阵列布置的像素阵列单元811。注意,图像传感器800通常包括除了像素阵列单元811以外的电路,但是在图2所示的示例中,为了清楚起见,从例示中省略了除了像素阵列单元811以外的电路。
另外,图像处理集成电路(IC)900是对基于来自像素阵列单元811的每个像素的像素信号提供的像素信号(图像信号)执行指定的图像处理的集成电路。例如,图像处理可以包括诸如黑色电平校正、颜色混合校正、缺陷校正、去马赛克处理、矩阵处理、伽马校正和YC转换的处理。图像处理单元910示意性地示出了由图像处理900实现的图像处理功能。注意,图像处理IC 900还可以包括用于执行除了图像处理之外的功能的配置,但是在图2所示的示例中,为了清楚起见,从例示中省略了除了图像处理单元910以外的配置。
另外,附图标记n0示意性地表示图像传感器800和图像处理IC900之间的信号流(流)。
换句话说,在图2所示的根据比较示例的成像设备中,图像传感器800对通过光学元件(未示出)入射的光进行光电转换,并且对每个像素的像素值进行A/D转换,从而生成指示被摄体的拍摄图像的像素信号。随后,图像传感器800将所生成的像素信号作为流n0输出到图像处理IC 900的图像处理单元910。
图像处理IC 900获取从图像传感器800输出的像素信号作为流n0,并且对所获取的像素信号执行图像处理,以测量被摄体和成像设备之间的距离(被摄体距离)。根据比较示例的成像设备通过基于测量的被摄体距离驱动和控制设置在成像设备中的聚焦镜头来执行聚焦(自动聚焦)。例如,根据比较示例的成像设备可以根据图像表面相位差技术来执行自动聚焦。换句话说,根据比较示例的像素阵列单元811包括用于根据相位差技术进行聚焦的相位差像素,图像处理单元910基于来自相位差像素的像素信号(焦点像素信号)来测量被摄体距离,并且基于被摄体距离驱动和控制聚焦镜头。
接着,将参照图3来描述图2所示的成像设备中的处理流程的示例,其中被摄体的图像由图像传感器800曝光(成像),表示曝光的图像的像素信号被读出到图像处理IC 900,并且完成镜头驱动控制。图3是用于描述使用根据比较示例的成像设备进行连续拍摄期间的自动聚焦处理的流程的说明图,并示出了用于根据比较示例的成像设备电子地控制每个像素的曝光时间的情况的示意性时间图的示例。
在图3中,横轴表示时间方向,而像素和输出控制的纵轴表示像素阵列单元811的行方向。另外,附图标记d910、d911、d912和d913示意性地表示像素阵列单元811的相应像素的曝光时段。注意,曝光时段d910被取为表示在曝光时段d911之前拍摄的图像的曝光时段。
此时,将通过关注曝光期间d911来描述当在根据比较示例的成像设备中执行自动聚焦时的一系列处理的流程。首先,如附图标记d901所示,以行为单位顺序地执行在每个像素中累积的像素信号的重置,并且在每个像素的重置完成之后,光入射到像素上,并且立即开始像素的曝光。之后,如附图标记d921所示,在每个像素的曝光结束之后,立即开始从像素读出像素信号并输出到图像处理单元910。换句话说,对于每个像素,附图标记d901和d921之间的时段T92对应于相关像素的曝光时间,并且从附图标记d921的开始到结束的时段T93对应于用于读出和输出所有像素所花费的时间。如上所述,在图3所示的示例中,每个像素的曝光开始和结束的定时以及每个像素的读出和输出的定时每行不同。
在从全部像素向图像处理单元910输出像素信号之后,在图3中由附图标记d951所示的时段期间,图像处理单元910基于与相位差像素相对应的焦点像素信号执行相位差检测,从而测量被摄体距离(测距)。随后,在图3中由附图标记d961所示的时段期间,执行基于曝光时段d911期间的测量的被摄体距离和镜头位置来计算镜头驱动量的AF操作。而且,在图3中由附图标记d971所示的时段期间,执行对设置在根据比较示例的成像设备中的聚焦镜头的驱动控制。结果,来自图3所示的曝光时段d913的图像反映了基于来自图3所示的曝光时段d911的图像执行的自动聚焦。换句话说,在图3的示例中,从测距曝光开始直到自动聚焦被反映为止所花费的时间(延迟时间)是拍摄间隔T91的时间的两倍。
如图1所示,在使用成像设备拍摄运动场景等中的运动被摄体的情况下,自动聚焦的延迟时间变得重要。例如,如果被摄体移动,或者如果被摄体和成像设备之间的距离在测距曝光和完成聚焦镜头的驱动控制之间改变,则在一些情况下可以获取离焦图像。因此,自动聚焦的小的延迟时间是期望的。
因此,着眼于上述情况导致了本实施例的创建。根据本实施例,能够减小自动聚焦的延迟时间。在下文中,将描述具有这种有益效果的根据本实施例的成像设备的概述。
<1-2.概述>
图4是用于描述根据本公开的实施例的成像设备的概况的说明图。请注意,图4主要例示了作为根据本实施例的成像设备1(成像控制设备)的示意性配置的图像传感器100和图像处理IC 200,而从例示中省略了配置的其他部分。
如图4所示,根据本实施例的图像传感器100通过包括帧存储器190而不同于图2所示的根据比较示例的图像传感器800。附图标记n1和n2示意性地表示图像传感器100和图像处理IC 200之间的信号流(流)。
另外,根据本实施例的成像设备1根据图像表面相位差技术执行自动聚焦,并且与参考图2和图3描述的比较示例类似地电子地控制每个像素的曝光时段。换句话说,包括在图4中所示的根据本实施例的图像传感器100中的像素阵列单元111包括用于根据相位差技术执行聚焦的相位差像素(焦点检测像素)以及用于图像生成的正常像素,并且每个像素的曝光时段被电子地控制。
在图4所示的根据本实施例的成像设备中,图像传感器100对通过光学元件(未示出)入射的光进行光电转换,并且对每个像素的像素值进行A/D转换,从而生成表示被摄体的拍摄图像的图像信号(也被称为读出)。此时,图像传感器100从构成像素阵列单元111的多个像素中的至少相位差像素中读出焦点图像信号,并将该焦点图像信号作为流n1输出到图像处理IC 200。
另外,图像传感器100从构成像素阵列单元111的多个像素中的至少正常像素中读出主像素信号,并且将主像素信号暂时记录在帧存储器190中。随后,图像传感器100将记录在帧存储器190中的主像素信号作为流n2输出给图像处理IC 200。
根据这种配置,图像传感器100能够将相互独立的像素信号输出到图像处理IC200,例如,输出来自相位差像素的聚焦图像信号作为流n1,并且输出来自正常像素的主像素信号(图像)作为流n2。注意,虽然以上描述了从相位差像素输出焦点图像信号作为流n1的示例,但是本技术不限于这样的示例。例如,也能够输出从用于图像生成的正常像素中的一些正常像素中读出的像素信号作为流n1。稍后将描述这样的示例作为修改。
注意,例如,因为图像传感器100能够将来自所有像素的像素信号暂时保持在帧存储器190中,所以并非严格地必须在相同定时并行地将流n1和流n2输出到图像处理IC 200。换句话说,图像传感器100也可以在输出流n1之后输出流n2。显然,图像传感器100也可以并行地将流n1和流n2输出到图像处理IC 200。
为此,例如,图像处理IC 200能够基于在主像素信号(流n2)之前从图像传感器100输出的焦点像素信号(流n1)来执行相位差检测处理。根据这种配置,根据本实施例的成像设备1能够减少自动聚焦的延迟时间。
而且,作为另一示例,图像处理IC 200能够与基于提前从图像传感器100输出的作为流n1的焦点像素信号的相位差检测处理并行地执行作为流n2输出的主像素信号的获取。
注意,图像传感器100和图像处理IC 200不必设置在同一壳体内。在这种情况下,设置有图像传感器100的设备对应于“成像控制设备”的示例。
因此,以上描述了根据本实施例的成像设备1的概况。接下来,将在下文中依次更详细地描述根据本实施例的成像设备1的配置和操作。
<<2.配置>>
以下,首先将参照图5描述根据本实施例的成像设备1的示例配置,并且然后将参照图6至9描述设置在成像设备1中的图像传感器100的示例配置。
<2-1.成像设备的配置>
图5是示出根据本实施例的成像设备1的配置示例的说明图,并且示出了其中上述图像传感器100和图像处理IC 200被设置在同一壳体内的情况的示例。图5所示的成像设备1是对被摄体进行成像并将被摄体的图像作为电信号输出的设备。
如图5所示,成像设备1包括聚焦镜头11(以下在一些情况下也简称为镜头)、图像传感器100、驱动控制单元12、操作单元13、图像处理单元210、编解码处理单元14、记录单元15和显示单元16。
聚焦镜头11由驱动控制单元12控制,并且调整对被摄体的聚焦,使来自对焦位置的光聚集,并将聚集的光提供给图像传感器100。
图像传感器100是图像传感器,其对被摄体进行成像,由驱动控制单元12进行控制,并且通过对入射光进行光电转换和对每个像素的像素值进行A/D转换来读出并输出像素信号。这里,如前所述,图像传感器100独立地执行从用于聚焦的相位差像素(焦点检测像素)读出焦点像素信号,并从用于图像生成的正常像素读出主像素信号。另外,图像传感器100将焦点像素信号和主像素信号独立地输出到图像处理单元210。
驱动控制单元12基于与通过操作单元13输入的用户的操作输入相对应的信号来控制聚焦镜头11、图像传感器100、图像处理单元210、编解码处理单元14、记录单元15和显示单元16的驱动,并且使得每个组件进行与成像相关的处理。具体地,驱动控制单元12包括用作基于在主像素信号之前输入的焦点像素信号来发出镜头驱动指令,使得在主像素信号从图像传感器100输入到图像处理单元210期间进行镜头驱动的镜头驱动指令单元的功能。例如,驱动控制单元12接收由图像处理单元210基于焦点像素信号进行的相位差检测的结果、根据AF操作计算镜头驱动量、并发出镜头驱动指令。请注意,图像处理单元210也可以充当镜头驱动指令单元,并发出镜头驱动指令。
操作单元13例如由诸如微动拨盘(注册商标)、键、按钮、触摸面板的组件构成,接受由用户的操作输入,并将与该操作输入对应的信号提供给驱动控制单元12。
图像处理单元210从图像传感器100接收像素信号并进行图像处理。例如,图像处理单元210包括充当独立接受从图像传感器100输出的焦点像素信号和主像素信号的输入的输入单元的功能。另外,图像处理单元210基于焦点像素信号进行相位差检测,并将相位差检测的结果提供给驱动控制单元12。例如,图像处理单元210还执行各种图像处理,诸如黑色电平校正、颜色混合校正、缺陷校正、去马赛克处理、矩阵处理、伽玛校正和YC转换。图像处理的内容是任意的,并且还可以进行除上述之外的处理。另外,图像处理单元210将处理后的图像信号提供给编解码处理单元14和显示单元16。
编解码处理单元14对来自图像处理单元210的图像信号执行指定方案的编码处理,并且将作为编码处理的结果获得的图像数据提供给记录单元15。
记录单元15记录从编解码处理单元14提供的图像数据。记录在记录单元15上的图像数据由图像处理单元210适当地读出,由此提供给显示单元16,并且显示对应的图像。
显示单元16例如被配置为液晶显示器,并且基于来自图像处理单元210的图像信号来显示被摄体的图像。
<2-2.图像传感器的配置>
因此以上参照图5描述了根据本实施例的成像设备1的示例配置。接下来,将参照图6至9描述设置在成像设备1中的图像传感器100的示例配置。
(像素布置)
首先,将参考图6来描述参考图4描述的根据本实施例的图像传感器100中设置的像素阵列单元111的像素布置的示例,同时特别关注像素阵列单元111中包括的相位差像素的布置。图6是用于描述设置在根据本实施例的图像传感器100中的像素阵列单元111的像素布置的示例的说明图。在像素阵列单元111中,除了红色、蓝色和绿色的正常像素之外,用于聚焦的相位差像素121a和121b被周期性地布置在图6中标记为A和B的位置处。
图7是例示根据本实施例的相位差像素的示例的说明图。例如,布置在像素阵列单元111中的相位差像素121a和121b可以是如图7的顶行中所示的左开口像素121a和右开口像素121b。如图7所示,在左开口像素121a和右开口像素121b中,片上镜头1211a和1211b被倾斜金属体1212a和1212b覆盖。另外,左开口部分1213a被设置在左开口像素121a中包括的倾斜金属体1212a的左侧上。左开口像素121a仅能够接收入射在左开口部分1213a的区域上的光。类似地,右开口部分1213b被设置在右开口像素121b中包括的倾斜金属体1212b的右侧。右开口像素121b仅能够接收入射在右开口部分1213b的区域上的光。结果,分别通过左开口像素121a和右开口像素121b来感测沿着拍摄镜头的不同光路行进的光通量。
通过将上面的左开口像素121a和右开口像素121b看作一对像素,并且使图像处理单元210评估对应于该对像素的焦点像素信号中的两个图像之间的偏移程度,进行相位差检测处理。
注意,虽然以上描述了布置在像素阵列单元111中的相位差像素是包括左开口像素和右开口像素的像素对的示例,但是本技术不限于这样的示例。例如,如图7的中间行所示,布置在像素阵列单元111中的相位差像素也可以是包括顶部开口像素121c和底部开口像素121d的像素对。类似于上述左开口像素121a和右开口像素121b,顶部开口像素121c和底部开口像素121d分别配备有片上镜头1211c和1211d、倾斜金属体1212c和1212d以及顶部开口部分1213c和底部开口部分1213d。
另外,布置在像素阵列单元111中的相位差像素也可以是分段光电二极管像素。在这种情况下,例如,图7的左下方所示的左/右分段光电二极管像素121e或者图7的右下方所示的顶部/底部分段光电二极管像素121f中的一种类型可以被布置为相位差像素。在左/右分段光电二极管像素121e中,单个片上镜头1211e设置有能够独立感测光的两个光电二极管(左光电二极管1214a和右光电二极管1214b)。类似地,在顶部/底部分段光电二极管像素121f中,单个片上镜头1211f设置有能够独立感测光的两个光电二极管(顶部光电二极管1214c和底部光电二极管1214d)。通过评估与上述分段光电二极管像素中的一个对应的焦点像素信号中的两个图像之间的偏移程度,图像处理单元210能够进行相位差检测处理。
(与读出和输出有关的配置)
因此,以上描述了在根据本实施例的图像传感器100中设置的像素阵列单元111的像素布置的示例。接着,将参照图8来描述与图像传感器100中的读出和输出有关的配置的示例,同时特别关注经由光学元件(未示出)将入射的光进行光电转换并且将每个像素的像素值进行A/D转换从而读出像素信号的配置。
图8是示出根据本实施例的图像传感器100的一部分的示例配置的框图。图8所示的图像传感器100是对被摄体进行成像并获得所拍摄图像的数字数据的图像传感器,并且可以例如是互补金属氧化物半导体(CMOS)图像传感器或电荷耦合器件(CCD)图像传感器。
如图8所示,图像传感器100包括控制单元(或控制电路)101、像素阵列单元111、选择单元112、模数转换器(ADC)113和恒流电路单元114。
控制单元101控制图像传感器100的每个部件,并且使得执行与读取图像数据(像素信号)等有关的处理。具体地,根据本实施例的控制单元101控制像素,使得独立地进行从用于聚焦的相位差像素(焦点检测像素)读出焦点像素信号,并且从用于图像生成的正常像素读出主像素信号。
注意,独立地进行焦点像素信号的读出和主像素信号的读出意味着焦点像素信号的读出和主像素信号的读出被彼此没有限制地进行。例如,上述内容包括诸如在不同的时段内进行读出焦点像素信号和读出主像素信号的情况、读出时段重叠并且读出各像素信号的开始定时不同的情况、以及并行读出各像素信号的情况。
另外,根据本实施例的控制单元101包括充当分别控制焦点检测像素的曝光和用于图像生成的像素的曝光的曝光控制单元的功能。例如,控制单元101可以表现出充当曝光控制单元的功能,并且控制相位差像素的曝光和正常像素的曝光,使得相位差像素(焦点检测像素)的曝光时间与正常像素的曝光时间不同。例如,控制单元101可以控制相位差像素的曝光和正常像素的曝光,使得相位差像素的曝光时间长于正常像素的曝光时间。根据这种配置,即使相位差像素比正常像素具有更窄的光感测区域,也能够接收更多的光,从而导致例如改善黑暗区域的AF精度的有益效果。控制单元101还可以控制相位差像素的曝光和正常像素的曝光,使得相位差像素的曝光时间短于正常像素的曝光时间。根据这种配置,在对明亮的被摄体进行AF的情况下,具有减少像素值溢出对AF精度的影响的效果。
如参照图6和图7所述,像素阵列单元111是像素区域,其中包括诸如光电二极管的光电换能器的像素结构被布置成阵列。像素阵列单元111在控制单元101的控制下,利用每个像素感测来自被摄体的光,对入射光进行光电转换以累积电荷,并且在指定的定时处将在每个像素中累积的电荷作为模拟像素信号输出。
像素121和像素122表示布置在像素阵列单元111中的像素组中的从上到下相邻的两个像素。像素121和像素122是在连续行上位于同一列中的像素。例如,像素121可以是如参照图6和图7所描述的用于聚焦的相位差像素,而像素122可以是用于图像生成的正常像素。在图8的示例的情况下,如像素121和像素121所示,在每个像素的电路中使用光电换能器和四个晶体管。注意,每个像素的电路的配置是任意的,并且可以不同于图8中所示的示例。
在典型的像素阵列中,每列都设置用于模拟像素信号的输出线。在像素阵列单元111的情况下,对于每列设置两条输出线(两个系统)。一列中的像素电路每行交替地来交替地连接到这两条输出线。例如,从顶部算起的奇数行上的像素电路连接到一条输出线,而偶数行上的像素电路连接到另一条输出线。在图8的示例的情况下,像素121的电路连接到第一输出线(VSL1),而像素122的电路连接到第二输出线(VSL2)。
注意,在图8中,为了方便起见,仅示出了一列的输出线,但是实际上,对于每列分别类似地设置两条输出线,并且每一列中的像素电路每行交替地来交替地连接到输出线。
选择单元112包括将像素阵列单元111的每个输出线连接到ADC 113的输入的开关,并且在控制单元101的控制下,控制像素阵列单元111和ADC 113之间的连接。换言之,从像素阵列单元111读出的模拟像素信号通过选择单元112被提供给ADC 113。
选择单元112包括开关131、开关132和开关133。开关131(选择SW)控制对应于同一列的两条输出线的彼此连接。例如,如果开关131导通,则连接第一输出线(VSL1)和第二输出线(VSL2),而如果开关131断开,则连接切断。
虽然稍后详细讨论,但在图像传感器100中,为每个输出线设置一个ADC(列ADC)。因此,假设开关132和开关133均导通,如果开关131导通,则同一列中的两条输出线被连接,并且因此两个ADC连接到一个像素的电路。相反,如果开关131断开,则同一列中的两个输出线断开,并且一个ADC连接到一个像素的电路。换句话说,开关131选择充当来自一个像素的信号的输出目的地的ADC(列ADC)的数量。
尽管在后面详细讨论,但是通过使开关131控制充当模拟像素信号的输出目的地的ADC的数量,图像传感器100能够根据ADC的数量将更多不同的像素信号输出到图像处理IC 200。换句话说,图像传感器100能够实现更多不同的数据输出。
开关132控制对应于像素121的第一输出线(VSL1)和对应于该输出线的ADC之间的连接。如果开关132导通,则第一输出线连接到对应的ADC中的比较器之一的输入,而如果开关132断开,则连接切断。
开关133控制对应于像素122的第二输出线(VSL2)和对应于输出线的ADC之间的连接。如果开关133导通,则第二输出线连接到对应的ADC中的比较器之一的输入,而如果开关132断开,则连接切断。
选择单元112在控制单元101的控制下切换这些开关131至133的状态,从而能够控制充当来自一个像素的信号的输出目的地的ADC(列ADC)的数量。
注意,开关132和开关133(其中之一或两者)也可以被省略,并且每个输出线和对应于该输出线的ADC可以被连续地连接。然而,这些开关使得能够控制连接和断开,从而扩大了充当来自一个像素的信号的输出目的地的ADC(列ADC)数量的选择范围。换句话说,通过提供这些开关,图像传感器100能够输出更多不同的像素信号。
另外,在图8中,仅示出了一个列的输出线,但是实际上,选择单元112对于每列包括与图8所示的配置(开关131至133)相似的配置。换句话说,选择单元112在控制单元101的控制下,针对每列执行与上述类似的连接控制。
ADC 113分别对经由每个输出线从像素阵列单元111提供的模拟像素信号进行A/D转换,并且输出像素信号(数字数据)。ADC 113对于来自像素阵列单元111的每个输出线包括ADC(列ADC)。换句话说,ADC 113包括多个列ADC。对应于一个输出线的列ADC是包括比较器、数模转换器(DAC)和计数器的单斜率ADC。
比较器将DAC输出与模拟像素信号的信号值进行比较。计数器递增计数值(数字值),直到模拟像素信号和DAC输出变为相等。当DAC输出达到信号值时,比较器停止计数器。之后,由计数器1和2数字化的信号从DATA1和DATA2输出到图像传感器100的外部。
在输出数据之后,计数器针对下一次A/D转换将计数值恢复为初始值(例如0)。
ADC 113对于每列包括两个系统的列ADC。例如,为第一输出线(VSL1)设置比较器141(COMP1)、DAC 142(DAC1)和计数器143(计数器1),并且为第二输出线(VSL2)设置比较器151(COMP2)、DAC152(DAC2)以及计数器153(计数器2)。尽管从图示中省略,但是ADC 113对于其他列的输出线包括类似配置。
但是,DAC可以在这些配置之间共享。DAC的共享是按系统进行的。换句话说,DAC在属于相同系统的列之间共享。在图8的示例的情况下,对应于每列的第一输出线(VSL1)的DAC被共享为DAC 142,并且与每列的第二输出线(VSL2)对应的DAC被共享为DAC 152。注意,为每个输出线系统设置比较器和计数器。
恒流电路单元114是连接到每个输出线的恒流电路,并且通过由控制单元101控制而被驱动。例如,恒流电路单元114的电路由诸如金属氧化物半导体(MOS)的组件构成。电路配置是任意的,但是在图8中,为了方便起见,为第一输出线(VSL1)设置MOS晶体管161(LOAD1),并且为第二输出线(VSL2)设置MOS晶体管162(LOAD2)。
控制单元101例如从用户接收外部请求、选择读出模式、并控制选择单元112控制到输出线的连接。另外,控制单元101还可以根据所选择的读出模式来控制列ADC的驱动。此外,除了列ADC之外,控制单元101还可以例如适当地控制恒流电路单元114的驱动或者控制像素阵列单元111的驱动,诸如读出速率和定时。
换句话说,控制单元101不仅能够控制选择单元112,还能够控制除了选择单元112之外的组件,并且使组件以更多不同的模式操作。结果,图像传感器100能够输出更多不同的像素信号。
注意,只要数量足够,图8所示的每个部件的数量是任意的。例如,也可以为每列设置三个或更多个输出线系统。另外,可以通过增加从ADC 113输出的并行像素信号的数量,或者通过增加ADC 113自身的数量来增加并行外部输出的像素信号的数量。
接着,将参照图9来描述根据本实施例的图像传感器100的芯片的配置。图9是用于描述根据本实施例的图像传感器100的芯片的配置的示例的说明图。如参考图8所述,如果为每列设置多个ADC,则芯片尺寸增加,并且在一些情况下成本可能增加。为此,在根据本实施例的图像传感器100中,芯片被如图9所示地分层。
在图9所示的示例中,图像传感器100由多个芯片组成,所述多个芯片为:其上主要形成有像素阵列单元111的像素芯片100-1;其上形成有诸如输出电路180、外围电路和ADC113的外围电路芯片100-2;以及焊盘(PAD)。像素芯片100-1的像素阵列单元111的输出线和驱动线通过通孔(VIA)连接到外围电路芯片100-2的电路。注意,图4中所示的帧存储器190例如可以设置在输出电路180或外围电路的内部。输出电路180充当独立地输出如上所述读出的焦点像素信号和主像素信号的输出单元。
通过采取如上所述的配置,可以减小芯片尺寸,并且可以降低成本。另外,由于额外的空间可用于互连层,互连的布局也变得容易。而且,通过将配置分成多个芯片,每个芯片可以分别被优化。例如,在像素芯片中,通过使用较少的互连层可以实现较低的轮廓,以避免由于互连层引起的光学反射而导致的降低的量化效率。同时,在外围电路芯片中,可以实现互连层的更大分层,以使得诸如防止互连耦合的对策的优化成为可能。例如,外围电路芯片中的互连层可以比像素芯片中的互连层更大地分层。
注意,在背照式图像传感器的情况下,由于互连层引起的光反射不会发生,但是通过最小化不需要的互连层数量的增加,互连处理步骤的数量的增加和其他问题可以被最小化并且可以实现成本节约。
另外,由于外围电路芯片区域具有类似于像素芯片区域的芯片表面积,因此能够在不增加总的堆叠芯片的表面积的情况下在外围电路区域中安装多个ADC。
注意,应用本技术的实施例的成像控制设备(成像设备)不限于上面讨论的配置,并且显然可以以其他方式配置。
如上所述,根据本实施例的图像传感器100对通过光学元件(未示出)入射的光进行光电转换,并且对每个像素的像素值进行A/D转换以生成像素信号,并且从图8所示的DATA1和DATA2中读出所生成的像素信号。例如,随后,输出电路180将从DATA1和DATA2之一(在此被认为是DATA1)输出的焦点像素信号作为图4所示的流n1输出到图像处理IC 200。
另外,图像传感器100将从DATA2读出的主像素信号暂时记录在帧存储器190中。随后,图像传感器100顺序地输出记录在帧存储器190中的主像素信号,并且输出电路180将从帧存储器190读出的主像素信号作为流n2输出到图像处理IC 200。注意,与像素信号相对于帧存储器190的输入和输出以及像素信号从输出电路180的输出有关的控制的首要代理不受特别的限制。例如,上述控制可以由之前讨论的控制单元101来执行,或者可以设置与控制单元101分离的控制单元。另外,上述控制也可以根据来自设置在图像传感器100外部的控制单元(例如,图像处理IC 200)的控制来进行。
另外,如果能够暂时保持由构成像素阵列单元111的每个像素获取的像素信号,则设置帧存储器190的位置和帧存储器190的数量不受特别限制。例如,通过设置多个帧存储器190,能够并行地执行像素信号相对于多个帧存储器190的输入和输出。为此,能够缓和取决于与像素信号相对于帧存储器190的输入和输出有关的速度的处理速度的降低。
作为另一示例,在构成像素阵列单元111的每个像素的像素电路上,可以设置用于暂时保持从相关像素获取的像素信号的缓存。根据这种配置,能够更灵活地控制与像素信号在每个像素和帧存储器190之间的输入和输出有关的处理和与每个像素信号从帧存储器190的读出相关的处理的执行定时。此外,由于用于将来自每个像素电路的像素信号写入到帧存储器190的引脚的数量增加,因此还能够拓宽像素电路和帧存储器190之间的总线的带宽。
<<3.操作示例>>
因此,以上参照图5至9描述了根据本实施例的成像设备1和设置在成像设备1中的图像传感器100的示例配置。接下来,作为根据本实施例的成像设备1的操作示例,将在下文中参照图10和图11依次地描述其中进行一次焦点像素信号的读出和输出以执行一次聚焦的示例,以及其中进行多次焦点像素信号的读出和输出以执行一次聚焦的示例。
<3-1.操作示例1>
图10是用于说明其中在根据本实施例的成像设备1中,进行一次焦点像素信号的读出和输出以执行一次聚焦的操作示例1的示例性时间图。
图10示出了与每个像素的曝光和读出处理相关的像素控制,与从输出电路180向图像处理IC 200发送像素信号的处理有关的输出控制,与基于像素信号的聚焦处理相关的相位差检测,AF操作和镜头驱动控制之间的关系。注意,像素控制1和输出控制1是与用于图像生成的正常像素有关的像素控制和输出控制,而像素控制2和输出控制2是与用于聚焦的焦点像素有关的像素控制和输出控制。而且,在图10中,横轴表示时间方向。此外,像素控制1、像素控制2、输出控制1和输出控制2中的纵轴表示作为目标像素信号的输出源的像素的行方向上的位置。
图10中所示的时段T11表示根据本实施例的图像传感器100中的拍摄间隔。时段T12表示根据本实施例的正常像素的曝光时间,并且时段T13表示根据本实施例的相位差像素的曝光时间。在本实施例中,作为正常像素的曝光时间的时段T12和作为相位差像素的曝光时间的时段T13可以不同。例如,控制单元101可以表现出充当曝光控制单元的功能,并且控制相位差像素的曝光和正常像素的曝光,使得作为相位差像素(焦点检测像素)的曝光时间的时段T13比作为正常像素的曝光时间的时段T12长。根据这种配置,如上所述,具有改善黑暗区域的AF精度的有益效果。
另外,附图标记d210到d212在曝光时段d110到d112中的每个时段中表示输出电路180输出通过图像传感器100从正常像素读出并记录在帧存储器190中的主像素信号的输出处理。另外,附图标记d221和d222在曝光时段d121和d122中的每个时段中表示输出电路180输出通过图像传感器100从相位差像素读出的焦点像素信号的输出处理。注意,在输出处理d210到d212中,输出电路180输出主像素信号作为图4中所示的流n2,而在输出处理d221和d222中,输出电路180输出焦点像素信号作为图4所示的流n1。
另外,附图标记d311和d312表示输出处理d221和d222中图像处理单元210在被输入焦点像素信号之后(即,在接收到输出电路180的输出之后)测量被摄体距离(测距)的相位差检测处理。另外,附图标记d321和d322表示驱动控制单元12基于在相位差检测处理d221和d222中测量的被摄体距离以及曝光时段d121和d122期间的镜头位置来计算镜头驱动量的AF操作处理。另外,附图标记d331和d332表示基于在AF操作处理d321和d322中计算的镜头驱动量,从驱动控制单元12发出镜头驱动指令开始到镜头驱动完成结束的镜头驱动处理。注意,在下文中,相位差检测处理、AF操作处理和镜头驱动处理可以被统称为一系列AF相关处理。
如图10所示,在正常像素的曝光和主像素信号的读出(记录到帧存储器190)在曝光时段d110到d112中完成之后,进行输出从帧存储器190读出的主像素信号的输出处理d210到d212。同时,在相位差像素的曝光和焦点像素信号的读出在曝光时段d121和d122中完成之后,进行输出读出焦点像素信号的输出处理d221和d222。
这里,在本实施例中,用于聚焦的相位差像素的数量与正常像素的数量相比较小,并且另外,焦点像素信号在不经过帧存储器190的情况下被输出。由于这些原因,与输出处理d210至d212相比,输出处理d221和d222的处理时间短。因此,例如,通过在相位差像素的A/D转换(读出)和输出处理d221之后,立即对正常像素进行A/D转换并记录到帧存储器190,在正常像素的输入和输出(输出处理d211)期间完成镜头驱动处理d331。换言之,能够在正常像素的曝光时段d112开始之前,完成一系列AF相关处理d311、d321和d331。因此,在图10所示的这个操作示例中,从用于测距的曝光开始直到自动聚焦被反映所花费的时间(延迟时间)小于或等于相位差像素的拍摄间隔T11和曝光时段d121的总和。由于相位差像素的曝光时段d121与拍摄间隔相比较小,因此与参考图3描述的比较示例相比,本操作示例能够减少自动聚焦的延迟时间。
注意的是,尽管图10的示例示出了在相位差像素的曝光时段d122开始之前完成镜头驱动处理d331的示例,但是本操作示例不限于这样的示例。例如,如果在相位差像素的曝光时段d122开始之前没有完成镜头驱动处理d331,则镜头在曝光时段d122中的位置(诸如平均位置或中间位置)可以被用作代表性的镜头位置,并且可以进行AF操作处理d322。
<3-2.操作示例2>
因此,以上参考图10描述其中进行一次焦点像素信号的读出和输出以执行一次聚焦的操作示例1,作为根据本实施例的成像设备1的操作示例。接下来,将参照图11描述其中执行多次焦点像素信号的读出和输出以执行一次聚焦的操作示例2。图11是用于说明其中在根据本实施例的成像设备1中,进行多次焦点像素信号的读出和输出以执行一次聚焦的操作示例2的示意性时间图。
图11示出了与每个像素的曝光和读出处理相关的像素控制、与从输出电路180向图像处理IC 200传送像素信号的处理相关的输出控制、与基于像素信号的聚焦处理相关的相位差检测、AF操作和镜头驱动控制之间的关系。注意,在图11中,与图10类似,像素控制1和输出控制1是与用于图像生成的正常像素有关的像素控制和输出控制,而像素控制2和输出控制2是与用于聚焦的焦点像素有关的像素控制和输出控制。而且,在图11中,与图10类似,横轴表示时间方向。而且,在图11中,与图10类似,像素控制1、像素控制2、输出控制1以及输出控制2中的纵轴表示作为目标像素信号的输出源的像素的行方向上的位置。
图11中所示的附图标记T21和T22表示根据本实施例的图像传感器100中的垂直同步信号的示例。另外,附图标记t1和t2是开始拍摄处理的时间,并且时段T21是从时间t1到时间t2的拍摄间隔(进行正常像素的曝光的间隔)。例如,作为拍摄间隔的时段T21约为1/20〔s〕,并且相应的帧速率约为20〔fps〕。而且,时段T22约为1/120〔s〕,并且相应的帧速率约为120〔fps〕。
另外,图11中所示的附图标记d151和d152与参考图10描述的曝光时段d111和d112类似。另外,附图标记d250至d252与参照图10描述的输出处理d210至d212类似。注意,输出处理d210表示与在曝光时段d111之前进行的正常像素的曝光和读出相对应的输出处理。
另外,图11所示的附图标记d161至d165与参考图10描述的曝光时段d121和d122相似,但在图11中所示的示例中,多次进行曝光和读出(曝光时段)以执行一次聚焦。另外,附图标记d261至d265与参考图10描述的输出处理d221和d222类似,但在图11所示的示例中,进行多次输出处理以执行一次聚焦。
另外,图11所示的附图标记d351至d355与参照图10描述的相位差检测处理d311和d312类似,但在图11所示的示例中,与曝光时段d161至d165相对应,多次执行相位差检测处理以执行一次聚焦。类似地,附图标记d361至d365与参照图10描述的AF操作处理d321和d322相似,但在图11所示的示例中,多次执行AF操作处理以执行一次聚焦。
另外,图11中所示的附图标记d371和d372类似于参照图10描述的镜头驱动处理d331。但是,在图11所示的示例中,从AF操作处理d361到d364的四个AF操作的结果被输入到镜头驱动处理(例如,镜头驱动处理d371)的一个实例中。在本操作示例中,即使镜头当前正在被驱动,驱动控制单元12也在每次进行AF操作处理时使用最近的AF操作的结果来发出镜头驱动指令,从而使得能够更精确地进行镜头驱动控制。结果,自动聚焦的精度得到改善。
另外,如果注意根据图11所示的镜头驱动处理d371的聚焦,则从AF操作处理d364直到镜头驱动处理d371完成的时间小于图10所示的从AF操作处理d321直到镜头驱动处理d331完成的时间。这是因为在图11的示例中,当使用AF操作处理d364的结果驱动镜头时,AF操作处理d363的结果(即,紧接在前的AF操作处理)已经被输入并反映在镜头驱动处理中,并且因此必要的镜头驱动量变小。这里,能够将自动聚焦的延迟时间视为从用于测距的曝光时段d164的开始直到反映自动聚焦的曝光时段d152的开始时间。结果,本操作示例能够减小自动聚焦的延迟时间。
如上所述,在图11所示的本操作示例中,在主像素信号被输出一次的时段期间,焦点像素信号被多次输出。由于如上所述,根据本实施例的图像传感器100配备有帧存储器190并且帧存储器190能够记录主像素信号,因此在从帧存储器190读出的主像素信号的输入和输出期间,相位差像素的曝光处理和输出处理变得可能。因此,能够多次执行焦点像素信号的输出处理、相位差检测处理和AF操作处理,以执行一次聚焦,从而减少了自动聚焦的延迟,同时也提高了自动聚焦的精度。
另外,如图11所示,由于曝光时段d162、d163和d164与镜头驱动处理d371的时段重叠,因此可以在每个曝光时段中使用代表性镜头位置来进行AF操作处理d362、d363和d364,如前所述。
<<4.变型例>>
因此,以上描述了本公开的实施例。在下文中,将描述本实施例的几个变型例。注意,以下描述的变型例也可以单独地应用于本实施例,或可以彼此组合地应用于本实施例。另外,每个变型例可以作为本实施例中描述的配置的替代来应用,或也可以应用于本实施例中描述的配置以外。
<4-2.变型例2>
前述实施例描述了其中用于聚焦的焦点检测像素是用于根据相位差技术进行聚焦的相位差像素的示例,但是本技术不限于上述示例。例如,焦点检测像素也可以是用于根据对比技术进行聚焦的像素,该对比技术将聚焦位置视为图像的对比度增加的镜头位置。在使用对比技术进行聚焦的情况下,焦点检测像素也可以是也可用于图像生成的正常像素。在这种情况下,类似于稍后讨论的变型例2,可以独立于其余像素来控制普通像素中的一些或普通像素的一些线。而且,即使在使用将上述相位差技术和对比技术两种技术组合的混合技术作为聚焦技术的情况下,本技术也是适用的。
<4-2.变型例2>
上述实施例描述了控制单元控制像素以使得独立地进行从像素阵列单元中预先布置的焦点检测像素读出焦点像素信号并且从用于图像生成的正常像素读出主像素信号的示例。然而,本技术不限于以上技术。在本技术中,可以独立地(预先)读出任意像素。
例如,预先读出的像素不限于焦点检测像素。像素也可以被控制,使得从正常像素中的一些或正常像素的一些线的读出和输出被预先进行,而来自其余像素的输出在被读出和输出之前被记录在帧存储器中。例如,通过执行上述控制,基于预先从像素中的一些输出的像素信号,图像处理IC可以进行图像分析,或者显示单元可以显示低分辨率预览图像(也称为通过镜头图像)。根据这种配置,与通过读出所有像素进行图像分析或者显示预览图像的情况相比,能够缩短从拍摄直到进行分析或显示处理的时间。
另外,由于能够独立读出任意像素,因此在预先读出的像素是用于聚焦的焦点检测像素的情况下,不必预先确定焦点检测像素的布置。例如,可以基于图像处理指定焦点检测像素。在这种情况下,控制单元控制像素,使得独立地进行从基于图像处理指定的焦点检测像素读出焦点像素信号和读出主像素信号。另外,图像处理可以由设置在图像处理IC中的图像处理单元进行,并且接收图像处理结果的图像传感器可以指定焦点检测像素。根据这种配置,仅预先读出并输出基于图像处理指定的相关的焦点检测像素就足够了,并且因此在某些情况下,可以缩短与焦点检测像素的读出和输出有关的处理时间。另外,根据这种配置,通过基于与用户的目标对应的图像处理的结果来指定焦点检测像素,能够在通过成像设备进行的拍摄范围中保持对焦用户期望的区域的同时进行拍摄。
例如,上述图像处理可以包括被摄体跟踪处理,并且基于图像处理指定的焦点检测像素可以是与通过被摄体跟踪处理指定的被摄体区域(用于聚焦的检测窗口)对应的像素。根据这种配置,能够在通过成像设备进行的拍摄范围中保持对焦特定被摄体的同时进行拍摄。
例如,上述图像处理可以包括物体检测处理,并且基于图像处理指定的焦点检测像素可以是与通过物体检测处理指定的物体区域(用于聚焦的检测窗口)相对应的像素。例如,要检测的物体可以是诸如人物、脸部、汽车等的物体。根据这种配置,能够在通过成像设备进行的拍摄范围中保持对焦特定物体的同时进行拍摄。
<<5.结论>>
如上所述,根据本公开的实施例,可以在从正常像素读出并输出主像素信号之前从用于聚焦的焦点检测像素读出并输出焦点像素信号,由此使得能够减少自动聚焦的延迟时间。另外,根据本实施例的图像传感器通过配备有帧存储器,能够在输出一次主像素信号的时段期间多次输出焦点像素信号,由此使得能够增加自动聚焦的精度,同时还使得能够减少自动聚焦的延迟时间。
本领域的技术人员应该理解,可以根据设计要求和其他因素进行各种修改、组合、子组合和变更,只要它们在所附权利要求或其等同物的范围内即可。
例如,前述实施例描述了电子地控制每个像素的曝光时段的成像设备的示例,但是本技术不限于这样的示例。例如,本技术可以应用于配备有可以设置有机械前帘和后帘的所谓的焦平面快门的成像设备,其中成像设备利用机械前帘和后帘的运动来控制每个像素的曝光时段。
另外,上述实施例描述了紧接在正常像素的像素控制(期间进行曝光和读出的曝光时段)之前进行相位差像素的像素控制的示例,但是本技术不是仅限于这样的示例。例如,在图10的示例中,相位差像素的像素控制(曝光时段d121)是紧接在正常像素的像素控制(曝光时段d111)之前进行,但是相位差像素的像素控制也可以在正常像素的像素控制之后进行。具体而言,如果基于在正常像素的像素控制之后进行的相位差像素的像素控制的镜头驱动处理可以在正常像素的第一像素控制之后进行的正常像素的下一像素控制之前完成,则可以获得自动聚焦延迟时间的额外减少。
另外,前述实施例的操作示例中的处理并不严格限于按照在此作为时间图描述的序列以时间顺序处理。例如,前述实施例的操作示例中的处理也可以按照与这里作为时间图描述的序列不同的序列进行处理,或者并行处理。
另外,本说明书中描述的效果仅仅是示例性的和说明性的,而不是限制性的。换句话说,根据本公开的技术可以展现对于本领域技术人员显而易见的其他效果,或者取代基于本说明书的效果。
另外,本技术也可以如下配置。
(1)
一种成像控制设备,包括:
控制单元,被配置为以独立地进行从用于聚焦的焦点检测像素读出焦点像素信号和从用于图像生成的像素读出主像素信号的方式控制像素;以及
输出单元,被配置为彼此独立地输出焦点像素信号和主像素信号。
(2)
根据(1)所述的成像控制设备,其中:
在主像素信号被输出一次的时段期间,焦点像素信号被多次输出。
(3)
根据(1)或(2)所述的成像控制设备,还包括:
帧存储器,被配置为记录主像素信号,其中,
输出单元输出记录在帧存储器中的主像素信号。
(4)
根据(1)至(3)中任一项所述的成像控制设备,还包括:
曝光控制单元,被配置为分别控制焦点检测像素的曝光和用于图像生成的像素的曝光。
(5)
根据(4)所述的成像控制设备,其中,
曝光控制单元以焦点检测像素的曝光时间与用于图像生成的像素的曝光时间不同的方式来控制焦点检测像素的曝光和用于图像生成的像素的曝光。
(6)
根据(1)至(5)中任一项所述的成像控制设备,其中,
控制单元以独立地进行读出主像素信号和从基于图像处理指定的焦点检测像素读出焦点像素信号的方式来控制像素。
(7)
根据(6)所述的成像控制设备,其中,
图像处理包括被摄体跟踪处理,并且基于图像处理指定的焦点检测像素是与由被摄体跟踪处理指定的被摄体区域对应的像素。
(8)
根据(6)或(7)所述的成像控制设备,其中,
图像处理包括物体检测处理,并且基于图像处理指定的焦点检测像素是与由物体检测处理指定的物体区域对应的像素。
(9)
根据(1)至(8)中任一项所述的成像控制设备,其中,
焦点检测像素是用于根据相位差技术进行聚焦的像素。
(10)
一种成像设备,包括:
控制单元,被配置为以独立地进行从用于聚焦的焦点检测像素读出焦点像素信号,和从用于图像生成的像素读出主像素信号的方式控制像素;
输出单元,被配置为彼此独立地输出焦点像素信号和主像素信号;
输入单元,被配置为接收彼此独立地输出的焦点像素信号和输出主像素信号作为输入;以及
镜头驱动指示单元,被配置为以在主像素信号的输入期间进行镜头驱动的方式基于焦点像素信号发出镜头驱动指令。
(11)
一种成像控制方法,包括:
以独立地进行从用于聚焦的焦点检测像素读出焦点像素信号和从用于图像生成的像素读出主像素信号的方式控制像素;以及
彼此独立地输出焦点像素信号和主像素信号。
(12)
一种图像传感器,包括:
电路,被配置为
独立地提供以焦点像素信号的焦点检测像素的读出和以主像素信号的像素的读出,所述焦点像素信号用在自动聚焦操作中,并且所述主像素信号用于生成图像,以及
从图像传感器作为分离的信号来独立地输出焦点像素信号和主像素信号。
(13)
根据(12)所述的图像传感器,其中
电路被配置为在主像素信号被输出一次的时段期间多次输出焦点像素信号。
(14)
根据(12)所述的图像传感器,还包括:
帧存储器,被配置为记录主像素信号,其中
电路被配置为输出记录在帧存储器中的主像素信号。
(15)
根据(12)所述的图像传感器,其中:
电路还被配置为分别控制焦点检测像素的曝光和像素的曝光。
(16)
根据(15)所述的图像传感器,其中
焦点检测像素的曝光时间与像素的曝光时间不同。
(17)
根据(12)所述的图像传感器,其中
电路被配置为基于来自主像素信号的读出的图像处理需求独立地控制焦点检测像素的读出。
(18)
根据(17)所述的图像传感器,其中
图像处理需求包括来自被摄体跟踪处理的需求,并且基于图像处理需求指定的焦点检测像素是与由被摄体跟踪处理指定的被摄体区域对应的像素。
(19)
根据(17)所述的图像传感器,其中
图像处理需求包括来自物体检测处理的需求,并且基于图像处理指定的焦点检测像素是与由物体检测处理指定的物体区域对应的像素。
(20)
根据(12)所述的图像传感器,其中
焦点检测像素是在使用相位差检测的自动聚焦操作中使用的相位检测像素,其中在用于读出包括像素的主像素信号的一部分的时段期间,电路被配置为从焦点像素信号读出焦点检测像素和的至少另一个焦点检测像素。
(21)
根据(20)所述的图像传感器,其中,在所述时段期间,使用所述焦点检测像素和所述至少另一个焦点检测像素执行多个自动聚焦操作。
(22)一种成像设备,包括:
电路,被配置为
独立地提供以焦点像素信号的焦点检测像素的读出和以主像素信号的像素的读出,所述焦点像素信号用在自动聚焦操作中,并且所述主像素信号用于生成图像,并且
从图像传感器作为分离的信号来独立地输出焦点像素信号和主像素信号;
输入接口,被配置为接受独立地输出的焦点像素信号和主像素信号作为输入;以及
镜头驱动控制器,被配置为基于焦点像素信号发出镜头驱动指令,使得在主像素信号的输入期间进行镜头驱动。
(23)
根据(22)所述的成像设备,其中
电路被配置为在主像素信号被输出一次的时段期间多次输出焦点像素信号。
(24)
根据(22)所述的成像设备,还包括:
帧存储器,被配置为记录主像素信号,其中
电路被配置为输出记录在帧存储器中的主像素信号。
(25)
根据(22)所述的成像设备,其中
电路还被配置为分别控制焦点检测像素的曝光和像素的曝光。
(26)
根据(25)所述的成像设备,其中
焦点检测像素的曝光时间与像素的曝光时间不同。
(27)
根据(22)所述的成像设备,其中
电路被配置为基于来自主像素信号的读出的图像处理需求独立地控制焦点检测像素的读出。
(28)
根据(27)所述的成像设备,其中
图像处理需求包括来自被摄体跟踪处理的需求,并且基于图像处理需求指定的焦点检测像素是与由被摄体跟踪处理指定的被摄体区域对应的像素。
(29)
根据(27)所述的成像设备,其中
图像处理需求包括来自物体检测处理的需求,并且基于图像处理指定的焦点检测像素是与由物体检测处理指定的物体区域对应的像素。
(30)
根据(22)所述的成像设备,其中
焦点检测像素是在使用相位差检测的自动聚焦操作中使用的相位检测像素,其中在用于读出包括像素的主像素信号的一部分的时段期间,电路被配置为从焦点像素信号读出焦点检测像素和至少另一个焦点检测像素,以及
使用所述焦点检测像素和所述至少另一个焦点检测像素执行多个自动聚焦操作。
(31)一种成像控制方法,包括:
经由电路独立地提供以焦点像素信号的焦点检测像素的读出和以主像素信号的像素的读出,所述焦点像素信号用在自动聚焦操作中,并且所述主像素信号用于生成图像;以及
经由电路从图像传感器作为分离的信号来独立地输出焦点像素信号和主像素信号。
附图标记列表
1 成像设备
11 聚焦镜头
12 驱动控制单元
13 操作单元
14 编解码处理单元
15 记录单元
16 显示单元
100 图像传感器
100-1 像素芯片
100-2 外围电路芯片
101 控制单元
111 像素阵列单元
180 输出电路
190 帧存储器
210 图像处理单元

Claims (20)

1.一种图像传感器,包括:
电路,被配置为
独立地提供以焦点像素信号的焦点检测像素的读出和以主像素信号的像素的读出,所述焦点像素信号用在自动聚焦操作中,并且所述主像素信号用于生成图像,以及
从图像传感器作为分离的信号来独立地输出焦点像素信号和主像素信号。
2.根据权利要求1所述的图像传感器,其中
电路被配置为在主像素信号被输出一次的时段期间多次输出焦点像素信号。
3.根据权利要求1所述的图像传感器,还包括:
帧存储器,被配置为记录主像素信号,其中
电路被配置为输出记录在帧存储器中的主像素信号。
4.根据权利要求1所述的图像传感器,其中:
电路还被配置为分别控制焦点检测像素的曝光和像素的曝光。
5.根据权利要求4所述的图像传感器,其中
焦点检测像素的曝光时间与像素的曝光时间不同。
6.根据权利要求1所述的图像传感器,其中
电路被配置为基于来自主像素信号的读出的图像处理需求独立地控制焦点检测像素的读出。
7.根据权利要求6所述的图像传感器,其中
图像处理需求包括来自被摄体跟踪处理的需求,并且基于图像处理需求指定的焦点检测像素是与由被摄体跟踪处理指定的被摄体区域对应的像素。
8.根据权利要求6所述的图像传感器,其中
图像处理需求包括来自物体检测处理的需求,并且基于图像处理指定的焦点检测像素是与由物体检测处理指定的物体区域对应的像素。
9.根据权利要求1所述的图像传感器,其中
焦点检测像素是在使用相位差检测的自动聚焦操作中使用的相位检测像素,其中在用于读出包括像素的主像素信号的一部分的时段期间,电路被配置为从焦点像素信号读出焦点检测像素和至少另一个焦点检测像素。
10.根据权利要求9所述的图像传感器,其中,在所述时段期间,使用所述焦点检测像素和所述至少另一个焦点检测像素执行多个自动聚焦操作。
11.一种成像设备,包括:
电路,被配置为
独立地提供以焦点像素信号的焦点检测像素的读出和以主像素信号的像素的读出,所述焦点像素信号用在自动聚焦操作中,并且所述主像素信号用于生成图像,并且
从图像传感器作为分离的信号来独立地输出焦点像素信号和主像素信号;
输入接口,被配置为接受彼此独立地输出的焦点像素信号和主像素信号作为输入;以及
镜头驱动控制器,被配置为基于焦点像素信号发出镜头驱动指令,使得在主像素信号的输入期间进行镜头驱动。
12.根据权利要求11所述的成像设备,其中
电路被配置为在主像素信号被输出一次的时段期间多次输出焦点像素信号。
13.根据权利要求11所述的成像设备,还包括:
帧存储器,被配置为记录主像素信号,其中
电路被配置为输出记录在帧存储器中的主像素信号。
14.根据权利要求11所述的成像设备,其中
电路还被配置为分别控制焦点检测像素的曝光和像素的曝光。
15.根据权利要求14所述的成像设备,其中
焦点检测像素的曝光时间与像素的曝光时间不同。
16.根据权利要求11所述的成像设备,其中
电路被配置为基于来自主像素信号的读出的图像处理需求独立地控制焦点检测像素的读出。
17.根据权利要求16所述的成像设备,其中
图像处理需求包括来自被摄体跟踪处理的需求,并且基于图像处理需求指定的焦点检测像素是与由被摄体跟踪处理指定的被摄体区域对应的像素。
18.根据权利要求16所述的成像设备,其中
图像处理需求包括来自物体检测处理的需求,并且基于图像处理指定的焦点检测像素是与由物体检测处理指定的物体区域对应的像素。
19.根据权利要求11所述的成像设备,其中
焦点检测像素是在使用相位差检测的自动聚焦操作中使用的相位检测像素,其中在用于读出包括像素的主像素信号的一部分的时段期间,电路被配置为从焦点像素信号读出焦点检测像素和至少另一个焦点检测像素,以及
使用所述焦点检测像素和所述至少另一个焦点检测像素执行多个自动聚焦操作。
20.一种成像控制方法,包括:
经由电路独立地提供以焦点像素信号的焦点检测像素的读出和以主像素信号的像素的读出,所述焦点像素信号用在自动聚焦操作中,并且所述主像素信号用于生成图像;以及
经由电路从图像传感器作为分离的信号来独立地输出焦点像素信号和主像素信号。
CN201680031976.2A 2015-06-09 2016-05-12 成像控制设备、成像设备以及成像控制方法 Active CN107690805B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015-116389 2015-06-09
JP2015116389A JP6682770B2 (ja) 2015-06-09 2015-06-09 撮像装置、及び撮像方法
PCT/JP2016/002341 WO2016199351A1 (en) 2015-06-09 2016-05-12 Imaging control device, imaging device, and imaging control method

Publications (2)

Publication Number Publication Date
CN107690805A true CN107690805A (zh) 2018-02-13
CN107690805B CN107690805B (zh) 2021-04-06

Family

ID=56097223

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680031976.2A Active CN107690805B (zh) 2015-06-09 2016-05-12 成像控制设备、成像设备以及成像控制方法

Country Status (6)

Country Link
US (1) US10244158B2 (zh)
EP (1) EP3269134B1 (zh)
JP (1) JP6682770B2 (zh)
KR (1) KR102652933B1 (zh)
CN (1) CN107690805B (zh)
WO (1) WO2016199351A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108322668A (zh) * 2018-02-27 2018-07-24 杭州光珀智能科技有限公司 一种图像传感器的成像方法
CN109117830A (zh) * 2018-09-21 2019-01-01 上海晔芯电子科技有限公司 图像传感器、目标跟踪系统及方法

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6146293B2 (ja) * 2013-12-25 2017-06-14 ソニー株式会社 制御装置、制御方法および制御システム
US10491847B2 (en) * 2016-12-23 2019-11-26 Samsung Electronics Co., Ltd. Sensor having a memory for capturing image and method for controlling the same
WO2019082775A1 (ja) * 2017-10-24 2019-05-02 ソニー株式会社 画像処理装置、画像処理方法および撮像装置
JP7250428B2 (ja) * 2018-03-22 2023-04-03 キヤノン株式会社 撮像装置およびその制御方法
US10904424B2 (en) * 2018-07-06 2021-01-26 Canon Kabushiki Kaisha Image capturing apparatus
JP7277263B2 (ja) * 2018-07-06 2023-05-18 キヤノン株式会社 撮像装置
JP2020012983A (ja) * 2018-07-18 2020-01-23 株式会社ニコン 焦点検出装置、カメラボディおよびカメラシステム
JP2020039094A (ja) * 2018-09-05 2020-03-12 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置及び電子機器
JP7195120B2 (ja) * 2018-11-16 2022-12-23 キヤノン株式会社 撮像装置およびその制御方法
EP3674973A1 (en) * 2018-12-28 2020-07-01 Samsung Electronics Co., Ltd. Method and apparatus with liveness detection and object recognition
JP7218193B2 (ja) 2019-01-31 2023-02-06 キヤノン株式会社 撮像装置
JP7358079B2 (ja) * 2019-06-10 2023-10-10 キヤノン株式会社 撮像装置、撮像システムおよび半導体チップ
JP7395910B2 (ja) 2019-09-27 2023-12-12 ソニーグループ株式会社 情報処理装置、電子機器、端末装置、情報処理システム、情報処理方法及びプログラム
JP7204694B2 (ja) * 2020-02-26 2023-01-16 キヤノン株式会社 比較器、ad変換器、光電変換装置及び撮像システム
JP7204695B2 (ja) * 2020-02-26 2023-01-16 キヤノン株式会社 比較器、ad変換器、光電変換装置及び撮像システム
EP4161062A4 (en) * 2020-05-25 2023-11-22 Sony Group Corporation IMAGING DEVICE AND IMAGING METHOD
KR20220038972A (ko) * 2020-09-21 2022-03-29 삼성전자주식회사 전자 장치 및 그 이미지 비닝방법

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1791344A2 (en) * 2005-11-28 2007-05-30 Sony Corporation Solid-state image-pickup device, method of driving solid-state image-pickup device and image pickup-apparatus
CN102318335A (zh) * 2009-02-06 2012-01-11 佳能株式会社 摄像设备
CN102870028A (zh) * 2010-04-28 2013-01-09 富士胶片株式会社 成像装置
US20130258149A1 (en) * 2012-03-30 2013-10-03 Samsung Electronics Co., Ltd. Image pickup apparatus, method for image pickup and computer-readable recording medium

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5194688B2 (ja) * 2007-10-01 2013-05-08 株式会社ニコン 固体撮像装置
JP5115302B2 (ja) * 2008-04-23 2013-01-09 株式会社ニコン 焦点検出装置および焦点検出方法
JP5589760B2 (ja) * 2010-10-27 2014-09-17 ソニー株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム。
JP6019692B2 (ja) 2012-04-16 2016-11-02 ソニー株式会社 撮像素子、撮像素子の制御方法、および、撮像装置
JP6320272B2 (ja) * 2013-11-29 2018-05-09 キヤノン株式会社 撮像素子、撮像装置及び携帯電話機

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1791344A2 (en) * 2005-11-28 2007-05-30 Sony Corporation Solid-state image-pickup device, method of driving solid-state image-pickup device and image pickup-apparatus
CN102318335A (zh) * 2009-02-06 2012-01-11 佳能株式会社 摄像设备
CN102870028A (zh) * 2010-04-28 2013-01-09 富士胶片株式会社 成像装置
US20130258149A1 (en) * 2012-03-30 2013-10-03 Samsung Electronics Co., Ltd. Image pickup apparatus, method for image pickup and computer-readable recording medium

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108322668A (zh) * 2018-02-27 2018-07-24 杭州光珀智能科技有限公司 一种图像传感器的成像方法
CN108322668B (zh) * 2018-02-27 2020-07-03 浙江光珀智能科技有限公司 一种图像传感器的成像方法
CN109117830A (zh) * 2018-09-21 2019-01-01 上海晔芯电子科技有限公司 图像传感器、目标跟踪系统及方法
CN109117830B (zh) * 2018-09-21 2022-09-09 思特威(上海)电子科技股份有限公司 图像传感器、目标跟踪系统及方法

Also Published As

Publication number Publication date
JP6682770B2 (ja) 2020-04-15
KR20180016373A (ko) 2018-02-14
US20180077337A1 (en) 2018-03-15
KR102652933B1 (ko) 2024-03-28
CN107690805B (zh) 2021-04-06
WO2016199351A1 (en) 2016-12-15
US10244158B2 (en) 2019-03-26
EP3269134A1 (en) 2018-01-17
JP2017005443A (ja) 2017-01-05
EP3269134B1 (en) 2021-10-20

Similar Documents

Publication Publication Date Title
CN107690805A (zh) 成像控制设备、成像设备以及成像控制方法
US11405576B2 (en) Image sensor and image-capturing device
US11405565B2 (en) Information processing device and information processing method
JP6765860B2 (ja) 撮像素子、撮像装置、および撮像信号処理方法
JP6791336B2 (ja) 撮像装置
JP2020184766A (ja) 撮像装置、画像処理装置、および表示装置
US20150237247A1 (en) Information processing apparatus, information processing method, information processing system, and imaging apparatus
US10171784B2 (en) Solid state imaging device and imaging apparatus having a plurality of addition read modes
JP6561428B2 (ja) 電子機器、制御方法、及び制御プログラム
CN106210506A (zh) 图像传感器和摄像装置
JP2015148676A (ja) 撮像装置及び撮像装置の制御方法
JP6929027B2 (ja) 撮像素子及び撮像装置
US11381762B2 (en) Integrated circuit chip and image capturing apparatus
JP7047858B2 (ja) 撮像装置及び撮像方法
US11463646B2 (en) Imaging element comprising output circuit that includes first and second output lines, imaging apparatus, image data output method, and program
US20130155301A1 (en) Image pickup apparatus, image pickup method, and machine-readable storage medium
CN115379142A (zh) 包括自动聚焦像素的图像传感器
JP2017188926A (ja) 撮像素子および撮像装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant