CN111263057B - 摄像设备、摄像设备的控制方法、计算方法和存储介质 - Google Patents

摄像设备、摄像设备的控制方法、计算方法和存储介质 Download PDF

Info

Publication number
CN111263057B
CN111263057B CN201911220409.3A CN201911220409A CN111263057B CN 111263057 B CN111263057 B CN 111263057B CN 201911220409 A CN201911220409 A CN 201911220409A CN 111263057 B CN111263057 B CN 111263057B
Authority
CN
China
Prior art keywords
region
wavelength band
light
pixel region
filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911220409.3A
Other languages
English (en)
Other versions
CN111263057A (zh
Inventor
沼田爱彦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Publication of CN111263057A publication Critical patent/CN111263057A/zh
Application granted granted Critical
Publication of CN111263057B publication Critical patent/CN111263057B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B26/00Optical devices or arrangements for the control of light using movable or deformable optical elements
    • G02B26/02Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the intensity of light
    • G02B26/023Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the intensity of light comprising movable attenuating elements, e.g. neutral density filters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Automatic Focus Adjustment (AREA)
  • Studio Devices (AREA)
  • Blocking Light For Cameras (AREA)
  • Color Television Image Signal Generators (AREA)
  • Focusing (AREA)

Abstract

本发明涉及摄像设备、摄像设备的控制方法、计算方法和存储介质。该摄像设备包括:图像传感器;光学滤波器,其具有用于选择性地使得第一波长带中的光能够通过的第一滤波器区域;以及计算部件,其被配置为基于从图像传感器获得的信号来计算调焦透镜的聚焦位置。计算部件基于从用于接收通过第一滤波器区域的光的第一像素区域所获得的第一信号和从图像传感器的排除了图像传感器的第一像素区域的第二像素区域所获得的第二信号,来估计第二像素区域所接收到的光在第一波长带中的第一分量和在第二波长带中的第二分量,并且基于所估计的第一分量和第二分量来计算调焦透镜相对于预定拍摄距离的聚焦位置。

Description

摄像设备、摄像设备的控制方法、计算方法和存储介质
技术领域
本发明涉及摄像设备、摄像设备的控制方法和计算方法。
背景技术
监视等中使用的摄像设备需要即使在例如在夜间的低光下,也获取清晰的被摄体图像。作为即使在低光下也能够获取清晰的被摄体图像的摄像设备,已经提出了使用不仅对可见光灵敏而且还对红外光灵敏的图像传感器、并且使得能够拍摄可见光和红外光的拍摄图像的摄像设备(参见日本特开2001-45512)。
在一些情况下,监视等中使用的摄像设备需要在聚焦位置固定的情况下连续进行拍摄,以连续不断地监视特定拍摄区域。然而,普通摄像光学系统具有轴向色像差,因此图像形成位置根据入射光的波长而不同。图12示出入射在摄像光学系统上的光的波长和图像形成位置之间的关系(轴向色像差),其中横轴表示光的波长,并且纵轴表示图像形成位置。如从图12所理解的,由于摄像光学系统中的轴向色像差,因此图像形成位置根据入射在摄像光学系统上的光的波长而不同。通常,波长的不同越大,图像形成位置的不同越大。
入射在摄像光学系统上的光的波长由环境光的照明波长和被摄体的光谱反射率的乘积(在下文中,“环境光波长”)确定。由于这个原因,如果在调焦透镜的位置固定的情况下拍摄被摄体的图像,则聚焦位置可能随着环境光的波长改变而改变。例如,安装在商店或停车场的入口处的监视中使用的摄像设备需要在聚焦位置位于特定拍摄区域(在这种情况下为入口)的情况下连续进行拍摄。例如,在工厂的组装处理中使用的工业摄像设备和用于检测障碍物的车载摄像设备也需要在聚焦位置位于特定拍摄区域中的情况下连续进行拍摄。
如利用诸如在日本特开2001-45512中描述的传统摄像设备那样,如果在调焦透镜的位置固定的情况下进行拍摄,则可能存在由于聚焦位置的偏移而不能获取期望图像的情况。特别地,在为了监视目的而拍摄可见光和红外光的图像的情况下,环境光波长的差异大,因此,由于环境光的照明波长和被摄体的光谱反射率,导致聚焦位置显著偏移。
发明内容
考虑到上述情况作出了本发明,并且本发明在拍摄可见光和红外光的图像时降低了聚焦位置对环境光的照明波长和被摄体的光谱反射率的依赖性。
根据本发明,提供一种摄像设备,包括:图像传感器,其对第一波长带中的光和第二波长带中的光灵敏,所述光经由包括调焦透镜的摄像光学系统入射在所述图像传感器上;光学滤波器,其具有用于选择性地使得所述第一波长带中的光能够通过的第一滤波器区域,所述光学滤波器被设置在所述摄像光学系统和所述图像传感器之间;以及计算部件,其被配置为基于从所述图像传感器所获得的信号来计算所述调焦透镜的聚焦位置,其中,所述计算部件基于从第一像素区域所获得的第一信号和从第二像素区域所获得的第二信号来对所述第二像素区域所接收到的光在所述第一波长带中的第一分量和在所述第二波长带中的第二分量进行估计,并且基于所估计的所述第一分量和所述第二分量来计算所述调焦透镜相对于预定拍摄距离的聚焦位置,所述第一像素区域是所述图像传感器的像素区域中的用于接收已经通过所述第一滤波器区域的光的区域,以及所述第二像素区域是所述图像传感器的像素区域中的排除了所述第一像素区域的区域。
此外,根据本发明,提供一种计算方法,用于基于从摄像设备的图像传感器所获得的信号来计算调焦透镜的聚焦位置,所述摄像设备包括:所述图像传感器,其对第一波长带中的光和第二波长带中的光灵敏,所述光经由包括所述调焦透镜的摄像光学系统入射在所述图像传感器上;以及光学滤波器,其具有用于选择性地使得所述第一波长带中的光能够通过的第一滤波器区域,所述光学滤波器被设置在所述摄像光学系统和所述图像传感器之间,所述计算方法包括:基于从第一像素区域所获得的第一信号和从第二像素区域所获得的第二信号来对所述第二像素区域所接收到的光在所述第一波长带中的第一分量和在所述第二波长带中的第二分量进行估计,所述第一像素区域是所述图像传感器的像素区域中的用于接收已经通过所述第一滤波器区域的光的区域,以及所述第二像素区域是所述图像传感器的像素区域中的排除了所述第一像素区域的区域;以及基于所述第一分量和所述第二分量来计算所述调焦透镜相对于预定拍摄距离的聚焦位置。
另外,根据本发明,提供一种摄像设备的控制方法,所述摄像设备包括:图像传感器,其对第一波长带中的光和第二波长带中的光灵敏,所述光经由包括调焦透镜的摄像光学系统入射在所述图像传感器上;光学滤波器,其具有用于选择性地使得所述第一波长带中的光能够通过的第一滤波器区域,所述光学滤波器被设置在所述摄像光学系统和所述图像传感器之间;以及驱动部件,其被配置为在与所述摄像光学系统的光轴垂直的平面上移动所述光学滤波器,所述控制方法包括:在第一模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域覆盖所述图像传感器的整个像素区域的位置,并且在第二模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域覆盖像素区域的一部分的位置;以及在所述第二模式的情况下,基于从第一像素区域所获得的第一信号和从第二像素区域所获得的第二信号来对所述第二像素区域所接收到的光在所述第一波长带中的第一分量和在所述第二波长带中的第二分量进行估计,并且基于所估计的所述第一分量和所述第二分量来计算所述调焦透镜相对于预定拍摄距离的聚焦位置,所述第一像素区域是像素区域中的用于接收已经通过所述第一滤波器区域的光的区域,以及所述第二像素区域是像素区域中的排除了所述第一像素区域的区域。
另外,根据本发明,提供一种摄像设备的控制方法,所述摄像设备包括:图像传感器,其对第一波长带中的光和第二波长带中的光灵敏,所述光经由包括调焦透镜的摄像光学系统入射在所述图像传感器上;光学滤波器,其具有用于选择性地使得所述第一波长带中的光能够通过的第一滤波器区域、用于选择性地使得所述第二波长带中的光能够通过的第二滤波器区域、以及用于使得所述第一波长带中的光和所述第二波长带中的光能够通过的第三滤波器区域,所述光学滤波器被设置在所述摄像光学系统和所述图像传感器之间;以及驱动部件,其被配置为在与所述摄像光学系统的光轴垂直的平面上移动所述光学滤波器,所述控制方法包括:在第一模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域覆盖所述图像传感器的整个像素区域的位置,并且在第二模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域和所述第二滤波器区域覆盖像素区域的一部分的位置;以及在所述第二模式的情况下,基于从第一像素区域所获得的第一信号和从第二像素区域所获得的第二信号来对用于接收已经通过所述第三滤波器区域的光的第三像素区域所接收到的光在所述第一波长带中的第一分量和在所述第二波长带中的第二分量进行估计,并且基于所估计的所述第一分量和所述第二分量来计算所述调焦透镜相对于预定拍摄距离的聚焦位置,所述第一像素区域是像素区域中的用于接收已经通过所述第一滤波器区域的光的区域,以及所述第二像素区域是像素区域中的用于接收已经通过所述第二滤波器区域的光的区域。
根据本发明,提供一种计算机可读的非暂时性存储介质,所述存储介质存储能够由所述计算机执行的程序,其中,所述程序包括用于使所述计算机实现用于基于从摄像设备的图像传感器所获得的信号来计算调焦透镜的聚焦位置的方法的程序代码,所述摄像设备包括:所述图像传感器,其对第一波长带中的光和第二波长带中的光灵敏,所述光经由包括所述调焦透镜的摄像光学系统入射在所述图像传感器上;以及光学滤波器,其具有用于选择性地使得所述第一波长带中的光能够通过的第一滤波器区域,所述光学滤波器被设置在所述摄像光学系统和所述图像传感器之间,所述方法包括:基于从第一像素区域所获得的第一信号和从第二像素区域所获得的第二信号来对所述第二像素区域所接收到的光在所述第一波长带中的第一分量和在所述第二波长带中的第二分量进行估计,所述第一像素区域是所述图像传感器的像素区域中的用于接收已经通过所述第一滤波器区域的光的区域,以及所述第二像素区域是所述图像传感器的像素区域中的排除了所述第一像素区域的区域;以及基于所述第一分量和所述第二分量来计算所述调焦透镜相对于预定拍摄距离的聚焦位置。
根据本发明,提供一种计算机可读的非暂时性存储介质,所述存储介质存储能够由所述计算机执行的程序,其中,所述程序包括用于使所述计算机实现摄像设备的控制方法的程序代码,所述摄像设备包括:图像传感器,其对第一波长带中的光和第二波长带中的光灵敏,所述光经由包括调焦透镜的摄像光学系统入射在所述图像传感器上;光学滤波器,其具有用于选择性地使得所述第一波长带中的光能够通过的第一滤波器区域,所述光学滤波器被设置在所述摄像光学系统和所述图像传感器之间;以及驱动部件,其被配置为在与所述摄像光学系统的光轴垂直的平面上移动所述光学滤波器,所述控制方法包括:在第一模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域覆盖所述图像传感器的整个像素区域的位置,并且在第二模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域覆盖像素区域的一部分的位置;以及在所述第二模式的情况下,基于从第一像素区域所获得的第一信号和从第二像素区域所获得的第二信号来对所述第二像素区域所接收到的光在所述第一波长带中的第一分量和在所述第二波长带中的第二分量进行估计,并且基于所估计的所述第一分量和所述第二分量来计算所述调焦透镜相对于预定拍摄距离的聚焦位置,所述第一像素区域是像素区域中的用于接收已经通过所述第一滤波器区域的光的区域,以及所述第二像素区域是像素区域中的排除了所述第一像素区域的区域。
根据本发明,提供一种计算机可读的非暂时性存储介质,所述存储介质存储能够由所述计算机执行的程序,其中,所述程序包括用于使所述计算机实现摄像设备的控制方法的程序代码,所述摄像设备包括:图像传感器,其对第一波长带中的光和第二波长带中的光灵敏,所述光经由包括调焦透镜的摄像光学系统入射在所述图像传感器上;光学滤波器,其具有用于选择性地使得所述第一波长带中的光能够通过的第一滤波器区域、用于选择性地使得所述第二波长带中的光能够通过的第二滤波器区域、以及用于使得所述第一波长带中的光和所述第二波长带中的光能够通过的第三滤波器区域,所述光学滤波器被设置在所述摄像光学系统和所述图像传感器之间;以及驱动部件,其被配置为在与所述摄像光学系统的光轴垂直的平面上移动所述光学滤波器,所述控制方法包括:在第一模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域覆盖所述图像传感器的整个像素区域的位置,并且在第二模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域和所述第二滤波器区域覆盖像素区域的一部分的位置;以及在所述第二模式的情况下,基于从第一像素区域所获得的第一信号和从第二像素区域所获得的第二信号来对用于接收已经通过所述第三滤波器区域的光的第三像素区域所接收到的光在所述第一波长带中的第一分量和在所述第二波长带中的第二分量进行估计,并且基于所估计的所述第一分量和所述第二分量来计算所述调焦透镜相对于预定拍摄距离的聚焦位置,所述第一像素区域是像素区域中的用于接收已经通过所述第一滤波器区域的光的区域,以及所述第二像素区域是像素区域中的用于接收已经通过所述第二滤波器区域的光的区域。
根据以下(参考附图)对典型实施例的描述,本发明的其它特征将变得明显。
附图说明
并入说明书并构成说明书的一部分的附图示出本发明的实施例,并且与说明书一起用于解释本发明的原理。
图1A和1B是示出根据本发明的第一实施例至第三实施例的摄像设备的示意性结构的框图。
图2的(A)和(B)是示出根据第一实施例的光学滤波器的结构以及光学滤波器和图像传感器之间的位置关系的概念图。
图3示出根据第一实施例的调焦透镜控制表的示例。
图4A至4C是用于示出根据第一实施例以及变形例1和2的用于计算信号电平的像素区域的示例的示意图。
图5的(A)和(B)是示出根据第二实施例和变形例4的光学滤波器的结构以及光学滤波器和图像传感器之间的位置关系的概念图。
图6示出根据变形例4的调焦透镜控制表的示例。
图7的(A)和(B)是示出根据第三实施例的光学滤波器的结构以及光学滤波器和图像传感器之间的位置关系的概念图。
图8是示出根据第四实施例和第五实施例的摄像设备的示意性结构的框图。
图9A和9B是示出根据第四实施例的光学滤波器的结构以及光学滤波器和图像传感器之间的位置关系的概念图。
图10A至图10C是示出根据第五实施例的光学滤波器的结构以及光学滤波器和图像传感器之间的位置关系的概念图。
图11示出根据变形例5的图像传感器中的像素的光谱灵敏度特性。
图12示出摄像光学系统中的轴向色像差的示例。
具体实施方式
将根据附图来详细描述本发明的典型实施例。在实施例中示出的构成部件的尺寸、材料、形状和相对位置应当根据各种条件和适于本发明的设备的结构而方便地改变,并且本发明不限于这里描述的实施例。
第一实施例
摄像设备
图1A和1B示出根据本发明第一实施例的摄像设备的示意性结构。在图1A中,摄像设备100包括摄像光学系统101、图像传感器102、控制单元103和相对于图像传感器102布置在摄像光学系统101侧(-z侧)的光学滤波器104。
图像传感器102被布置在摄像光学系统101的光轴上,并且摄像光学系统101在图像传感器102上形成被摄体图像。图像传感器102由在可见光的至少一部分波长带中和在红外光的至少一部分波长带中具有吸收性的诸如Si、InGaAs或金属氧化物等的无机半导体或者有机半导体等制成。注意,可见光是指具有从380nm至750nm的波长的光,并且红外光是指具有从750nm至2500nm的波长的光。“具有吸收性”是指在期望的波长带中消光系数为1×10-3或更大。在使用Si的情况下,Si的吸收端为1100nm,因此在可见光的整个波长带中的光和具有从750nm至1100nm的波长的红外光中具有吸收性。
图1B是示出根据本实施例的摄像光学系统101的结构的示意图。摄像光学系统101具有调焦机构105和多个摄像透镜。通过使用具有诸如步进马达等的驱动机构的调焦机构105在光轴方向(Z轴方向)上移动多个摄像透镜中包括的调焦透镜106的位置,来调整摄像光学系统101的聚焦位置。
控制单元103控制调焦机构105,驱动图像传感器102,从图像传感器102读出信号,并且生成图像。此外,控制单元103保持稍后描述的调焦透镜控制表111。
图2的(A)和(B)示出在具有上述结构的摄像设备100中使用的根据第一实施例的光学滤波器104的结构以及光学滤波器104和图像传感器102之间的位置关系。图2的(A)示出从+Y轴方向观看的光学滤波器104和图像传感器102,并且图2的(B)示出从-Z轴方向观看的图像传感器102。
光学滤波器104具有选择性地使得预定波长带中包括的可见光(第一波长)能够通过并选择性地吸收至少部分与可见光的预定波长带不同的预定波长带中包括的红外光(第二波长)的第一滤波器区域107、以及使得可见光和红外光两者能够通过的第二滤波器区域108。第一滤波器区域107被布置为覆盖图像传感器102的一部分。这里,在图像传感器102的像素区域113中,由第一滤波器区域107覆盖的像素区域将被称为第一像素区域109,并且由第二滤波器区域108覆盖的像素区域将被称为第二像素区域110。也就是说,第二像素区域110中的像素接收可见光和红外光两者,而第一像素区域109中的像素由于红外光被第一滤波器区域107吸收而仅接收可见光。
在第一实施例中,在控制单元103中,基于从第一像素区域109中的像素读出的信号电平和从第二像素区域110中的像素读出的信号电平之间的差,估计环境光的照明波长与被摄体的光谱反射率的乘积(环境光波长)。然后,使用估计结果和调焦透镜控制表111来控制调焦机构105。下面将给出详细描述。
图3示出调焦透镜控制表111的示例。在本实施例中,控制单元103保持表示要将焦点置于的距离(拍摄距离)和与环境光波长相对应的调焦透镜106的位置之间的关系的调焦透镜控制表111。具体地,对于拍摄距离L,调焦透镜控制表111具有当可见光入射在摄像光学系统101上时的调焦透镜106的位置PVI、以及当红外光入射在摄像光学系统101上时的调焦透镜106的位置PIR。
注意,如果要将焦点置于调焦透镜控制表111中列出的距离L之间的距离处,则可以通过利用线性插值等在与调焦透镜控制表111中的期望距离前后的距离L相对应的位置PVI之间和位置PIR之间进行插值,来分别获得位置PVI和PIR。尽管图3示出以表的形式保持拍摄距离L与位置PVI和PIR之间的关系的情况,但是该关系也可以可选地以诸如多项式等的表达式的形式保持。
接着,将描述用于估计环境光波长的方法。如上所述,第一像素区域109中的像素仅接收可见光,并且第二像素区域110中的像素接收可见光和红外光两者。因此,如果从第一像素区域109中的像素读出的信号的第一信号电平表示为S1,并且从第二像素区域110中的像素读出的信号的第二信号电平表示为S2,则可以使用下面的等式(1)和(2)来估计环境光波长。
SVI=S1...(1)
SIR=S2-S1...(2)
这里,SVI表示环境光波长中的可见光分量,并且SIR表示环境光波长中的红外光分量。也就是说,可以使用等式(1)和(2)来估计环境光波长中包括的可见光分量(第一分量)和红外光分量(第二分量)。第一信号电平S1和第二信号电平S2可以是第一像素区域109和第二像素区域110中的特定像素处的信号电平,或者可以是多个像素处的信号电平的平均值或中值。注意,如果使用多个像素处的信号电平的平均值或中值,则估计精度提高。
图4A是示出根据第一实施例的包括要用于计算信号电平的多个像素的像素区域的示例的示意图。通常,摄像光学系统具有相对于其光轴旋转对称的图像形成能力。因此,发生所谓的阴影,即由像素接收到的光量根据距光轴的距离(图像高度)而不同。由于这个原因,如果用于获得第一信号电平S1的第一波长估计区域109a的图像高度等于用于获得第二信号电平S2的第二波长估计区域110a的图像高度,则可以更精确地估计环境光波长中的可见光分量和红外光分量。注意,这里假设第一波长估计区域109a的图像高度和第二波长估计区域110a的图像高度是各个区域的重心的图像高度。这些区域的图像高度允许具有约10%的公差。
另一方面,在以卷帘式快门模式驱动的图像传感器中,使用垂直扫描电路和连接到垂直扫描电路的水平控制线,从上行到下行顺次进行像素中的电荷累积和信号向周边电路的读出。因此,在位于不同行的像素(即,具有不同Y坐标的像素)之间曝光定时不同。特别地,例如在使用荧光照明作为环境光的照明并且发生闪烁的情况下,由像素接收到的光量在位于不同行的像素之间不同。因此,如果第一波长估计区域109a和第二波长估计区域110a在读出像素信号的方向上的坐标(Y坐标)与图4A所示的相同,则可以更精确地估计环境光波长中的可见光分量和红外光分量。注意,这里假设第一波长估计区域109a和第二波长估计区域110a的Y坐标是各个区域的重心的Y坐标。
此外,第一波长估计区域109a和第二波长估计区域110a之间的环境光中的波长的差越小,可以越精确地估计环境光波长。由于这个原因,可以想到使用被估计为不是主被摄体的部分作为第一波长估计区域109a和第二波长估计区域110a。具体地,在第一像素区域109和第二像素区域110中,像素之间的信号电平的对比度比率较小的区域被用作波长估计区域。
接着,将描述用于使用环境光波长中包括的利用上面的等式(1)和(2)估计的可见光分量SVI和红外光分量SIR来控制调焦透镜106的位置的方法。如上所述,调焦透镜控制表111具有用于在可见光入射时调整聚焦位置的调焦透镜的位置PVI和用于在红外光入射时调整聚焦位置的调焦透镜的位置PIR。在本实施例中,如等式(3)所示,基于环境光波长中的可见光分量SVI和红外光分量SIR,获得拍摄距离L的位置PVI和位置PIR的加权平均。然后,将调焦透镜106移动到所获得的PMIX的位置,从而可以降低聚焦位置对环境光波长的依赖性。
PMIX=(PVI×SVI+PIR×SIR)/(SVI+SIR)...(3)
如上所述,根据第一实施例,通过估计环境光波长中的可见光分量和红外光分量并使用估计结果来控制调焦透镜的位置,可以降低聚焦位置对环境光的照明波长和被摄体的光谱反射率的依赖性。因此,可以提高图像质量。
变形例1
尽管图2的(A)和(B)示出第一像素区域109沿图像传感器102在+X方向的一侧设置的情况,但是第一像素区域109和第二像素区域110的布置不限于图2的(A)和(B)所示的布置。然而,优选地第一滤波器区域沿着光学滤波器的任意一侧设置,因为这种结构便于光学滤波器的制造。
此外,优选地,在图像传感器102的像素区域113中,第二像素区域110在用于生成图像的有效像素区域112中的比例较大。下面将描述原因。
如上所述,第二像素区域110中的像素接收可见光和红外光两者,而第一像素区域109中的像素仅接收可见光。因此,第一像素区域109中的像素所接收到的光量小于第二像素区域110中的像素所接收到的光量。通常,像素所接收到的光量越大,像素信号的SN比越高,因此,来自第二像素区域110的像素信号的SN比高于来自第一像素区域109的像素信号的SN比。因此,使用来自第二像素区域110的像素信号生成的图像的质量高于使用来自第一像素区域109的像素信号生成的图像的质量。由于这个原因,更优选地,第二像素区域110在有效像素区域112中的比例较大。特别地,更优选地,整个有效像素区域112是第二像素区域110。
换句话说,优选地,在图像传感器102的有效像素区域112中,由光学滤波器104的第一滤波器区域107覆盖的面积的比例较小,并且更优选地,有效像素区域112不被第一滤波器区域107覆盖。
作为摄像设备100具有有效像素区域112外部的像素区域的示例,存在图像传感器102的像素区域113的面积大于摄像光学系统101的成像圈101b的面积的情况。例如,在全向照相机中,在图像传感器102的矩形像素区域113中的由摄像光学系统101的成像圈101b确定的区域是圆形的有效像素区域112,并且剩余区域是有效像素区域112外部的像素区域。因此,在这种摄像设备100中,可以将光学滤波器104的第一滤波器区域107布置为覆盖包括像素区域113的四个角的区域,并且不覆盖中心的有效像素区域112。
图4B示出第一滤波器区域107覆盖的排除了中心的有效像素区域112的包括像素区域113的四个角的区域的示例。利用该结构,可以使用来自不用于生成图像的第一像素区域109的像素信号和来自作为有效像素区域112的第二像素区域110的像素信号,来估计环境光波长中所包括的可见光分量(第一分量)和红外光分量(第二分量)。此外,在有效像素区域112中,可以使用利用可见光和红外光两者获得的像素信号来生成图像。结果,可以降低聚焦位置对环境光的照明波长和被摄体的光谱反射率的依赖性,并且可以提高图像质量。
变形例2
第一像素区域109和第二像素区域110的拍摄条件可以相同,或者可以不同。为了减小等式(2)中的第一信号电平S1和第二信号电平S2之间的差的计算的计算负荷,优选地,第一像素区域109和第二像素区域110的拍摄条件相同。
另一方面,为了提高环境光波长中的可见光分量和红外光分量的估计精度,优选改变第一像素区域109和第二像素区域110之间的拍摄条件。下面将描述原因。
如上所述,第一像素区域109中的像素所接收到的光量小于第二像素区域110中的像素所接收到的光量。因此,优选使第一像素区域109中的曝光水平高于第二像素区域110的曝光水平。具体地,优选使第一像素区域109中的像素的累积时间和模拟增益高于第二像素区域110中的像素的累积时间和模拟增益。
特别地,在相对于第二像素区域110中的像素的累积时间改变第一像素区域109中的像素的累积时间的情况下,图4C所示的布置是优选的。也就是说,优选地,第一像素区域109和第二像素区域110之间的边界(X方向)与在图像传感器102中读出像素信号的方向(Y方向)垂直。下面将描述原因。
如上所述,在卷帘式快门模式的情况下,使用连接到垂直扫描电路的水平控制线,从上行到下行顺次在像素中累积电荷并且将信号从像素读出到水平扫描电路。因此,在改变位于同一行的像素(即,在相同Y坐标的像素)之间的累积时间的情况下,需要用于针对各个像素控制电荷累积和信号读出的定时的水平控制线。结果,电路规模增加,导致制造成本增加和产量降低。另一方面,由于位于不同行的像素(即,不同Y坐标的像素)连接到不同的水平控制线,因此在这些像素之间可以容易地逐行改变累积时间。由于上述原因,如果光学滤波器104的第一像素区域109和第二像素区域110之间的边界(X方向)与在图像传感器102中读出像素信号的方向(Y方向)垂直,则可以更容易地控制累积时间。
变形例3
尽管图2的(A)和(B)示出光学滤波器104具有第一滤波器区域107和第二滤波器区域108的情况,但是光学滤波器104可以可选地仅具有第一滤波器区域107,并且第一滤波器区域107可以被布置为覆盖图像传感器102的一部分。换句话说,可以采用如下结构:光学滤波器由选择性地使得可见光能够通过并选择性地吸收红外光的材料制成,并且光学滤波器104被布置为覆盖图像传感器102的一部分。
在采用这种结构的情况下,仅可见光入射在被光学滤波器覆盖的第一像素区域109中的像素上,并且未被光学滤波器覆盖的第二像素区域110中的像素接收可见光和红外光两者。因此,与图2的(A)和(B)中的情况相同,可以通过比较来自第一像素区域109的信号电平和来自第二像素区域110的信号电平来估计环境光波长。
第二实施例
接着,将描述本发明的第二实施例。注意,根据第二实施例的摄像设备100的结构与参考图1A和1B在第一实施例中描述的结构相同,因此这里省略对该结构的描述。图5的(A)示出根据第二实施例的光学滤波器104的结构以及第二实施例中的光学滤波器104和图像传感器102之间的位置关系,并且示出从+Y轴方向观看的光学滤波器104和图像传感器102。
如图5的(A)所示,根据第二实施例的光学滤波器104具有选择性地使得红外光能够通过并选择性地吸收可见光的第一滤波器区域207、以及使得红外光和可见光两者能够通过的第二滤波器区域208。与第一实施例中图2的(B)所示的布置相同,第一滤波器区域207被布置为覆盖图像传感器102的一部分。在下文中,由第一滤波器区域207覆盖的像素区域将被称为第一像素区域209,以及由第二滤波器区域208覆盖的像素区域将被称为第二像素区域210。也就是说,第二像素区域210中的像素接收可见光和红外光两者,而第一像素区域209中的像素由于可见光被第一滤波器区域207吸收而仅接收红外光。
同样在第二实施例中,基于从第一像素区域209中的像素读出的信号的信号电平和从第二像素区域210中的像素读出的信号的信号电平之间的差来估计环境光波长。使用估计结果和调焦透镜控制表111来控制调焦机构。然而,根据第二实施例的光学滤波器104的结构与第一实施例的结构不同,因此用于估计环境光波长的方法不同。如果从第一像素区域209中的像素读出的信号的信号电平表示为S3,并且从第二像素区域110中的像素读出的信号的信号电平表示为S4,则可以使用下面的等式(4)和(5)来估计环境光波长。
SIR=S3...(4)
SVI=S4-S3...(5)
这里,与上述等式(1)和(2)相同,SVI表示环境光波长中的可见光分量(第一分量),并且SIR表示环境光波长中的红外光分量(第二分量)。然后,与上述第一实施例相同,使用利用等式(4)和(5)估计的可见光分量SVI和红外光分量SIR,将调焦透镜106驱动到利用等式(3)获得的位置。
如上所述,根据第二实施例,与第一实施例相同,可以降低聚焦位置对环境光的照明波长和被摄体的光谱反射率的依赖性,并且可以提高图像质量。
注意,第一滤波器区域207和第二滤波器区域208的布置不限于图5的(A)中所示的布置。例如,第一滤波器区域207和第二滤波器区域208可以交替地被布置以形成以上变形例1至3中描述的第一像素区域109和第二像素区域110的布置。
变形例4
如图12所示,聚焦位置不仅在可见光和红外光之间,而且在红外光带内根据波长而不同。因此,通过估计环境光波长中的可见光分量(第一分量)和红外光分量(第二分量)以及红外光分量中的波长分布、并根据该估计控制调焦透镜106的位置,可以降低聚焦位置对环境光波长的依赖性。
图5的(B)示出图5的(A)所示的第一滤波器区域207被划分成选择性地使得近红外光(小于1100nm)能够通过的第三滤波器区和选择性地使得短波红外光(1100nm或更大)能够通过的第四滤波器区的情况。注意,在图像传感器102的像素区域113中,由第二滤波器区域208覆盖的像素区域将被称为第二像素区域210,由第三滤波器区域覆盖的像素区域将被称为第三像素区域214,以及由第四滤波器区域覆盖的像素区域将被称为第四像素区域215。
这里,从第三像素区域214中的像素读出的信号的第一信号电平表示为S5,并且从第四像素区域215中的像素读出的信号的第三信号电平表示为S6。在这种情况下,使用下面的等式(6)、(7)和(8),除了可以估计环境光波长中的可见光分量SVI(第二分量)之外,还可以估计红外光的波长带中的近红外光分量SNIR(第一分量)和短波红外光分量SSWIR(第三分量)。
SNIR=S5...(6)
SSWIR=S6...(7)
SVI=S4-S5-S6...(8)
图6示出根据变形例4的调焦透镜控制表111的示例。在图6中,相对于拍摄距离L设置当可见光入射在摄像光学系统101上时的调焦透镜106的位置PVI、当近红外光入射在摄像光学系统101上时的位置PNIR、以及当短波红外光入射在摄像光学系统101上时的位置PSWIR。
使用估计的近红外光分量SNIR、短波红外光分量SSWIR和可见光分量SVI以及调焦透镜控制表111,使用下面的等式(9)来计算PMIX。通过将调焦透镜106移动到所计算的PMIX位置,可以降低聚焦位置对环境光波长的依赖性。
PMIX=(PVI×SVI+PNIR×SNIR+PSWIR×SSWIR)÷(SVI+SNIR+SSWIR)...(9)
尽管图5的(B)所示的示例描述了使得红外光能够通过的区域包括两个区域(即选择性地使得近红外光能够通过的区域和选择性地使得短波红外光能够通过的区域)的情况,但是使得红外光能够通过的区域可以可选地包括三个或更多个区域。此外,使得红外光能够通过的区域还可以包括选择性地使得在红外带中具有不同形式的透过光谱的红外光能够通过的多个区域。
第三实施例
接着,将描述本发明的第三实施例。注意,根据第三实施例的摄像设备100的结构与参考图1A和1B在第一实施例中描述的结构相同,并且因此省略对该结构的描述。图7的(A)和(B)示出根据第三实施例的光学滤波器104的结构以及光学滤波器104和图像传感器102之间的位置关系。图7的(A)示出从+Y轴方向观看的光学滤波器104和图像传感器102,并且图7的(B)示出从-Z轴方向观看的图像传感器102。
如图7的(A)和(B)所示,根据第三实施例的光学滤波器104具有选择性地吸收红外光并选择性地使得可见光能够通过的第一滤波器区域316、选择性地吸收可见光并选择性地使得红外光能够通过的第二滤波器区域317、以及使得可见光和红外光能够通过的第三滤波器区域318。在图像传感器102的像素区域113中,由第一滤波器区域316覆盖的像素区域将被称为第一像素区域319,由第二滤波器区域317覆盖的像素区域将被称为第二像素区域320,以及由第三滤波器区域318覆盖的像素区域将被称为第三像素区域321。
与根据第一实施例和第二实施例的摄像设备100相同,根据第三实施例的摄像设备100也基于从第一像素区域319至第三像素区域321中的像素读出的信号的信号电平之间的差来估计环境光波长。与第一实施例相同,使用估计结果和调焦透镜控制表111来控制调焦机构105。然而,由于根据第三实施例的光学滤波器104的结构与第一实施例和第二实施例的结构不同,因此在第三实施例中,可以如下这样估计环境光波长。也就是说,第一像素区域319仅接收可见光,并且第二像素区域320仅接收红外光。因此,如果从第一像素区域319中的像素读出的信号的信号电平表示为S7,并且从第二像素区域320中的像素读出的信号的信号电平表示为S8,则可以使用下面的等式(10)和(11)来进行估计。
SVI=S7...(10)
SIR=S8...(11)
因此,在根据第三实施例的摄像设备100中,可以在无需获得多个像素区域之间的信号电平的差的情况下估计环境光波长中的可见光分量和红外光分量。因此,第三实施例除了可以实现与第一实施例和第二实施例的效果相同的效果之外,还可以实现差计算的计算负荷的降低。
注意,图像传感器102和光学滤波器104的布置不限于图7的(A)和(B)所示的布置。然而,如上所述,从摄像光学系统中的阴影的观点来看,优选地,从摄像光学系统的光轴到第一像素区域319和到第二像素区域320的距离彼此一致。
第四实施例
接着,将描述本发明的第四实施例。
摄像设备
图8是示出根据第四实施例的摄像设备400的示意图的框图。注意,在图8中,与图1A和1B中的元件相同的元件被分配相同的附图标记,并且省略对这些元件的描述。摄像设备400与图1A和1B所示的摄像设备100的不同之处在于,摄像设备400具有用于基于控制单元403进行的控制来在与摄像光学系统101的光轴垂直的平面上移动光学滤波器104的滤波器驱动机构401。
图9A和9B示出根据第四实施例的光学滤波器104的结构以及光学滤波器104和图像传感器102之间的位置关系,并且示出从+Y轴方向观看的光学滤波器104和图像传感器102。根据第四实施例的光学滤波器104具有选择性地使得可见光能够通过并选择性地吸收红外光的第一滤波器区域407、以及使得可见光和红外光两者能够通过的第二滤波器区域408。
此外,根据第四实施例的图像传感器102在像素中具有多种类型的滤色器,并且可以获取彩色图像。具体地,图像传感器102具有所谓的RGB拜耳阵列中的像素。在第四实施例中,通过驱动光学滤波器104,拍摄模式在获取彩色图像的拍摄模式(白天模式)和即使在丢失颜色信息的同时在低光下也能够获取清晰图像的拍摄模式(夜间模式)之间切换。
白天模式(第一模式)
当在白天模式中使用摄像设备400时,由于彩色图像的颜色再现性增加,因此优选使用仅接收可见光的像素来生成图像。具体地,如图9A所示,滤波器驱动机构401可以将光学滤波器104的第一滤波器区域407布置为覆盖图像传感器102的整个像素区域113。在这种结构的情况下,由于图像传感器102所接收到的光可以被限制为仅可见光,因此不需要估计环境光波长中的可见光分量(第一分量)和红外光分量(第二分量)。因此,使用图3所示的调焦透镜控制表111中的与可见光入射时的调焦透镜位置有关的信息,仅需要将调焦透镜106的位置控制在与拍摄距离相对应的位置处。
注意,聚焦位置还根据可见光带中的波长而不同。因此,通过估计环境光波长的可见光分量中的波长分布并根据所估计的波长分布来控制调焦透镜的位置,也可以降低聚焦位置对环境光波长的依赖性。具体地,可以基于R像素、G像素和B像素处的信号电平来估计可见光分量中的波长分布,以控制调焦透镜106的位置。在这种情况下,可以准备诸如调焦透镜控制表或表示要将焦点置于的位置与R、G和B的波长之间的关系的多项式等的信息,并且可以获得加权平均。
夜间模式(第二模式)
另一方面,当在夜间模式中使用摄像设备400时,优选使用接收可见光和红外光两者的像素来生成图像。在使用接收可见光和红外光两者的像素来生成图像的情况下,聚焦位置的偏移对环境光的照明波长和被摄体的光谱反射率的依赖性大,因此对环境光波长中的可见光分量和红外光分量进行估计。
具体地,如图9B所示,滤波器驱动机构401将第一滤波器区域407和第二滤波器区域408布置为覆盖图像传感器102的像素区域113的一部分。然后,使用上述等式(1)和(2),利用由第一滤波器区域407覆盖的第一像素区域409中的像素处的第一信号电平S1和由第二滤波器区域408覆盖的第二像素区域410中的像素处的第二信号电平S2,来估计环境光波长中的可见光分量和红外光分量。与第一实施例相同,使用估计结果和调焦透镜控制表111来控制调焦机构105。
注意,为了实现图9A和9B中的布置,可以进行用于布置第一滤波器区域407和第二滤波器区域408的各种方法以及用于驱动光学滤波器104的方法。在这些方法中,优选如下结构:第一滤波器区域407和第二滤波器区域408沿光学滤波器104的驱动方向(在图9A和9B所示的示例中的X方向)布置,并且滤波器驱动机构401在这些滤波器区域的布置方向(在图9A和9B所示的示例中的X方向)上驱动第一滤波器区域407和第二滤波器区域408。通过采用这种结构,可以简化用于驱动光学滤波器的机构,并且还可以在用于仅获取可见光的白天模式与用于估计环境光波长中的可见光分量和红外光分量的夜间模式之间切换。
如上所述,第四实施例使得除了实现与第一实施例的效果相同的效果之外,还能够在白天模式中获得具有更高颜色再现性的图像。
第五实施例
接着,将描述本发明的第五实施例。注意,根据第五实施例的摄像设备400的示意性结构与参考图8在第四实施例中描述的结构相同,因此这里省略对该结构的描述。
图10A至10C示出根据第五实施例的光学滤波器104的结构以及光学滤波器104和图像传感器102的布置,并且示出从+Y轴方向观看的光学滤波器104和图像传感器102。根据第五实施例的光学滤波器104具有选择性地吸收红外光并选择性地使得可见光能够通过的第一滤波器区域516、选择性地吸收可见光并选择性地使得红外光能够通过的第二滤波器区域517、以及使得可见光和红外光能够通过的第三滤波器区域518。
通过驱动图10A至10C所示的光学滤波器104,除了白天模式和夜间模式之外,根据第五实施例的摄像设备400的拍摄模式可以被切换到能够获取远距离处的被摄体的清晰图像的拍摄模式(红外模式)。
白天模式(第一模式)
当在白天模式中使用摄像设备400时,如图10A所示,光学滤波器104被布置为使得图像传感器102的整个像素区域113被第一滤波器区域516覆盖。在这种情况下,与第四实施例中的白天模式的情况相同地控制调焦透镜106的位置。
红外模式(第三模式)
当在红外模式中使用摄像设备400时,如图10B所示,光学滤波器104被布置为使得图像传感器102的整个像素区域113被第二滤波器区域517覆盖。这种布置使得可以将由图像传感器102接收到的光限制为仅红外光。因此,使用图3所示的调焦透镜控制表111中的与红外光入射时的调焦透镜位置有关的信息,仅需要将调焦透镜106的位置控制在与拍摄距离相对应的位置处。
通常,由于空气中的烟或雾而引起的具有较长波长的红外光的散射小于可见光的散射,因此与仅使用可见光获得的拍摄图像相比,在仅使用红外光获得的拍摄图像中可以更清晰地拍摄远距离处的被摄体的图像。因此,使用红外模式,通过将由图像传感器接收到的光限制为仅红外光,可以获取远距离处的被摄体的清晰图像。
夜间模式(第二模式)
当在夜间模式中使用摄像设备400时,如图10C所示,第一滤波器区域516、第二滤波器区域517和第三滤波器区域518被布置为覆盖图像传感器102的像素区域113。然后,与第三实施例相同,使用来自被第一滤波器区域516覆盖的第一像素区域519和被第二滤波器区域517覆盖的第二像素区域520的像素信号,来估计环境光波长中的可见光分量(第一分量)和红外光分量(第二分量)。然后,如第三实施例中所述的那样控制调焦透镜106的位置。
如上所述,第五实施例使得除了与第四实施例的效果相同的效果之外,还能够通过选择性地仅接收红外光来获取远距离处的被摄体的清晰图像。
变形例5
此外,摄像设备400在处于夜间模式时,还可以使用图像传感器102中的R像素、G像素和B像素在红外光的波长带中的光谱灵敏度特性的差来估计红外光分量中的波长分布。
图11示出根据变形例5的图像传感器102中的R、G和B像素的各个光谱灵敏度。如从图11理解的,在红外光的波长带中,R像素对具有较短波长的红外光IR1最灵敏,而B像素对具有较长波长的红外光IR3最灵敏。此外,所有像素对具有红外光IR1和红外光IR3之间的波长的红外光IR2的灵敏程度相同。
图11所示的光谱灵敏度由图像传感器102中的光电转换器的材料和结构以及RGB像素中使用的滤色器材料的物理性质确定。注意,通过在滤色器中混合在红外光的特定波长带中具有吸收性的色素,可以更精确地控制像素在红外光的波长带中的光谱灵敏度。
如在变形例4中已经提到的,还可以使用来自在红外光的波长带中具有不同光谱灵敏度的多个像素的信号来估计环境光波长的红外光分量中的波长分布。此外,通过根据估计结果控制调焦透镜的位置,可以降低聚焦位置对环境光波长的依赖性。
来自图10C的第二像素区域520中的R像素、G像素和B像素的信号的信号电平分别表示为SvR、SvG和SvB。R、G和B像素在图11所示的波长带IR1中的像素灵敏度分别表示为Rir1、Gir1和Bir1,R、G和B像素在波长带IR2中的像素灵敏度分别表示为Rir2、Gir2和Bir2,以及R、G和B像素在波长带IR3中的像素灵敏度分别表示为Rir3、Gir3和Bir3。此时,可以使用下面的等式(12)来估计在环境光波长的红外光中的波长带IR1、IR2和IR3中的分量Sir1、Sir2和Sir3。
Figure GDA0002402494390000221
注意,以上描述已经描述了通过在夜间模式中估计红外光分量中的波长分布来降低夜间模式中聚焦位置对环境光波长的依赖性的示例,但是在红外模式中也可以使用相同的方法。同样,在红外模式中使用该方法的情况下,可以基于来自由第二滤波器区域517覆盖的区域中的RGB像素的信号的信号电平,使用等式(12)来估计环境光波长中的红外光的波长带IR1、IR2和IR3中的分量Sir1、Sir2和Sir3。结果,同样,在红外模式中可以降低聚焦位置对环境光波长的依赖性。
变形例6
在第一实施例至第三实施例中,在为了估计环境光波长而获取的图像的有效像素区域中的图像还被用作拍摄图像。然而,在如第四实施例和第五实施例中那样设置用于驱动光学滤波器104的机构的情况下,光学滤波器的位置可以在用于估计波长的帧和用于获取拍摄图像的帧之间改变。
例如,在第四实施例中,在用于估计环境光波长的帧中,第一滤波器区域407和第二滤波器区域408被布置为覆盖图像传感器102的像素区域113的一部分。另一方面,在用于在夜间模式中获取拍摄图像的帧中,第一滤波器区域407被布置为使得图像传感器102的有效像素区域不被第一滤波器区域407覆盖。通过采用这种结构,可以在夜间模式中估计环境光波长的同时提高拍摄图像的SN比。
同样,在第五实施例中,在用于估计环境光波长的帧中,第一滤波器区域516、第二滤波器区域517和第三滤波器区域518被布置为覆盖图像传感器102的像素区域113。另一方面,在用于在夜间模式中获取拍摄图像的帧中,光学滤波器的第一滤波器区域516和第二滤波器区域517被布置为使得图像传感器102的有效像素区域由此不被覆盖。通过采用这种结构,可以在夜间模式中估计环境光波长的同时提高拍摄图像的SN比,这是优选的。
因此,在与用于获取拍摄图像的帧分开地设置用于估计环境光波长的帧的情况下,还可以在这些帧之间改变图像传感器102的驱动模式。例如,在用于获取拍摄图像的帧中,从图像传感器102中的所有像素读出信号,以获取高分辨率的拍摄图像。另一方面,由于在估计环境光波长的模式中不需要分辨率,因此可以将要读出的像素间隔剔除以降低功耗并增加帧频。
其它实施例
本发明的实施例还可以通过如下的方法来实现,即,通过网络或者各种存储介质将执行上述实施例的功能的软件(程序)提供给系统或装置,该系统或装置的计算机或是中央处理单元(CPU)、微处理单元(MPU)读出并执行程序的方法。
虽然已经参考典型实施例描述了本发明,但应理解,本发明不限于所公开的典型实施例。以下权利要求书的范围符合最宽的解释,以包含所有这类修改以及等同结构和功能。

Claims (29)

1.一种摄像设备,包括:
图像传感器,其对第一波长带中的光和第二波长带中的光灵敏,所述光经由包括调焦透镜的摄像光学系统入射在所述图像传感器上;
光学滤波器,其具有用于选择性地使得所述第一波长带中的光能够通过的第一滤波器区域,所述光学滤波器被设置在所述摄像光学系统和所述图像传感器之间;以及
计算部件,其被配置为基于从所述图像传感器所获得的信号来计算所述调焦透镜的聚焦位置,
其中,所述计算部件基于从第一像素区域所获得的第一信号和从第二像素区域所获得的第二信号来对所述第二像素区域所接收到的光在所述第一波长带中的第一分量和在所述第二波长带中的第二分量进行估计,并且基于所估计的所述第一分量和所述第二分量来计算所述调焦透镜相对于预定拍摄距离的聚焦位置,所述第一像素区域是所述图像传感器的像素区域中的用于接收已经通过所述第一滤波器区域的光的区域,以及所述第二像素区域是所述图像传感器的像素区域中的排除了所述第一像素区域的区域。
2.根据权利要求1所述的摄像设备,
其中,所述计算部件具有用于表示多个拍摄距离与所述调焦透镜针对所述第一波长带中的光和所述第二波长带中的光而言相对于各个拍摄距离的聚焦位置之间的关系的信息,并且通过使用所述第一分量和所述第二分量获得所述调焦透镜针对所述第一波长带中的光和所述第二波长带中的光而言相对于所述预定拍摄距离的聚焦位置的加权平均,来计算所述调焦透镜的聚焦位置。
3.根据权利要求1或2所述的摄像设备,
其中,所述计算部件将所述第一信号作为所述第一分量,以及通过从所述第二信号中减去所述第一信号来估计所述第二分量。
4.根据权利要求1或2所述的摄像设备,
其中,所述光学滤波器还具有用于使得所述第一波长带中的光和所述第二波长带中的光能够通过的第二滤波器区域,以及所述第二像素区域接收已经通过所述第二滤波器区域的光。
5.根据权利要求1或2所述的摄像设备,
其中,所述第一波长带是可见光的波长带,以及所述第二波长带是红外光的波长带。
6.根据权利要求1或2所述的摄像设备,
其中,所述第一波长带是红外光的波长带,以及所述第二波长带是可见光的波长带。
7.根据权利要求1或2所述的摄像设备,
其中,所述计算部件分别在所述第一像素区域和所述第二像素区域中从相同图像高度处的像素区域的像素中获取所述第一信号和所述第二信号。
8.根据权利要求1或2所述的摄像设备,
其中,所述光学滤波器是矩形的,以及所述第一滤波器区域是沿所述光学滤波器的一侧设置的。
9.根据权利要求1或2所述的摄像设备,还包括:
控制部件,其被配置为控制所述第一像素区域和所述第二像素区域中的曝光,
其中,所述控制部件使所述第一像素区域中的曝光高于所述第二像素区域中的曝光。
10.根据权利要求1或2所述的摄像设备,
其中,所述第一滤波器区域被布置为覆盖像素区域中的排除了用于生成图像的有效像素区域的区域。
11.根据权利要求10所述的摄像设备,
其中,所述有效像素区域是所述摄像光学系统的成像圈所确定的区域。
12.根据权利要求1或2所述的摄像设备,
其中,所述光学滤波器还具有用于选择性地使得所述第二波长带中的光能够通过的第二滤波器区域以及用于使得所述第一波长带中的光和所述第二波长带中的光能够通过的第三滤波器区域,以及
所述第二像素区域接收已经通过所述第二滤波器区域的光。
13.根据权利要求1所述的摄像设备,其中,
所述图像传感器还对第三波长带中的光灵敏,
所述第一波长带是近红外光的波长带,所述第二波长带是可见光的波长带,以及所述第三波长带是短波红外光的波长带,
所述光学滤波器还具有用于选择性地使得所述第三波长带中的光能够通过的第二滤波器区域,以及
所述计算部件从作为将所述第一像素区域和用于接收已经通过所述第二滤波器区域的光的第三像素区域排除的像素区域的所述第二像素区域中获得所述第二信号,还基于从所述第三像素区域所获得的第三信号来对所述第二像素区域所接收到的光在所述第一波长带中的第一分量、在所述第二波长带中的第二分量和在所述第三波长带中的第三分量进行估计,并且基于所估计的所述第一分量、所述第二分量和所述第三分量来计算所述调焦透镜相对于预定拍摄距离的聚焦位置。
14.根据权利要求13所述的摄像设备,
其中,所述计算部件具有用于表示多个拍摄距离与所述调焦透镜针对所述第一波长带中的光、所述第二波长带中的光和所述第三波长带中的光而言相对于各个拍摄距离的聚焦位置之间的关系的信息,并且通过使用所述第一分量、所述第二分量和所述第三分量获得所述调焦透镜针对所述第一波长带中的光、所述第二波长带中的光和所述第三波长带中的光而言相对于所述预定拍摄距离的聚焦位置的加权平均,来计算所述调焦透镜的聚焦位置。
15.根据权利要求5所述的摄像设备,还包括:
驱动部件,其被配置为在与所述摄像光学系统的光轴垂直的平面上移动所述光学滤波器,
其中,所述第一波长带是可见光的波长带,以及所述第二波长带是红外光的波长带,
所述驱动部件在第一模式的情况下将所述光学滤波器驱动到所述第一滤波器区域覆盖整个像素区域的位置,并且在第二模式的情况下将所述光学滤波器驱动到所述第一滤波器区域覆盖像素区域的一部分的位置,以及
所述计算部件计算所述调焦透镜在所述第二模式的情况下的聚焦位置。
16.根据权利要求12所述的摄像设备,还包括:
驱动部件,其被配置为在与所述摄像光学系统的光轴垂直的平面上移动所述光学滤波器,
其中,所述第一波长带是可见光的波长带,以及所述第二波长带是红外光的波长带,
所述驱动部件在第一模式的情况下将所述光学滤波器驱动到所述第一滤波器区域覆盖整个像素区域的位置,并且在第二模式的情况下将所述光学滤波器驱动到所述第一滤波器区域和所述第二滤波器区域覆盖像素区域的一部分的位置,以及
所述计算部件计算所述调焦透镜在所述第二模式的情况下的聚焦位置。
17.根据权利要求16所述的摄像设备,
其中,所述驱动部件在第三模式的情况下将所述光学滤波器驱动到所述第二滤波器区域覆盖整个像素区域的位置。
18.根据权利要求15所述的摄像设备,
其中,所述驱动部件在所述第二模式下驱动所述光学滤波器,使得所述光学滤波器的位置在预定的第一帧和与所述第一帧不同的第二帧之间不同。
19.根据权利要求16所述的摄像设备,
其中,所述驱动部件在所述第二模式下驱动所述光学滤波器,使得所述光学滤波器的位置在预定的第一帧和与所述第一帧不同的第二帧之间不同。
20.根据权利要求12所述的摄像设备,
其中,所述计算部件分别在所述第一像素区域和所述第二像素区域中从相同图像高度处的像素区域的像素中获取所述第一信号和所述第二信号。
21.根据权利要求12所述的摄像设备,
其中,所述光学滤波器是矩形的,以及所述第一滤波器区域是沿所述光学滤波器的一侧设置的。
22.根据权利要求12所述的摄像设备,还包括:
控制部件,其被配置为控制所述第一像素区域和所述第二像素区域中的曝光,
其中,所述控制部件使所述第一像素区域中的曝光高于所述第二像素区域中的曝光。
23.根据权利要求12所述的摄像设备,
其中,所述第一滤波器区域被布置为覆盖像素区域中的排除了用于生成图像的有效像素区域的区域。
24.一种计算方法,用于基于从摄像设备的图像传感器所获得的信号来计算调焦透镜的聚焦位置,所述摄像设备包括:所述图像传感器,其对第一波长带中的光和第二波长带中的光灵敏,所述光经由包括所述调焦透镜的摄像光学系统入射在所述图像传感器上;以及光学滤波器,其具有用于选择性地使得所述第一波长带中的光能够通过的第一滤波器区域,所述光学滤波器被设置在所述摄像光学系统和所述图像传感器之间,所述计算方法包括:
基于从第一像素区域所获得的第一信号和从第二像素区域所获得的第二信号来对所述第二像素区域所接收到的光在所述第一波长带中的第一分量和在所述第二波长带中的第二分量进行估计,所述第一像素区域是所述图像传感器的像素区域中的用于接收已经通过所述第一滤波器区域的光的区域,以及所述第二像素区域是所述图像传感器的像素区域中的排除了所述第一像素区域的区域;以及
基于所述第一分量和所述第二分量来计算所述调焦透镜相对于预定拍摄距离的聚焦位置。
25.一种摄像设备的控制方法,所述摄像设备包括:图像传感器,其对第一波长带中的光和第二波长带中的光灵敏,所述光经由包括调焦透镜的摄像光学系统入射在所述图像传感器上;光学滤波器,其具有用于选择性地使得所述第一波长带中的光能够通过的第一滤波器区域,所述光学滤波器被设置在所述摄像光学系统和所述图像传感器之间;以及驱动部件,其被配置为在与所述摄像光学系统的光轴垂直的平面上移动所述光学滤波器,所述控制方法包括:
在第一模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域覆盖所述图像传感器的整个像素区域的位置,并且在第二模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域覆盖像素区域的一部分的位置;以及
在所述第二模式的情况下,基于从第一像素区域所获得的第一信号和从第二像素区域所获得的第二信号来对所述第二像素区域所接收到的光在所述第一波长带中的第一分量和在所述第二波长带中的第二分量进行估计,并且基于所估计的所述第一分量和所述第二分量来计算所述调焦透镜相对于预定拍摄距离的聚焦位置,所述第一像素区域是像素区域中的用于接收已经通过所述第一滤波器区域的光的区域,以及所述第二像素区域是像素区域中的排除了所述第一像素区域的区域。
26.一种摄像设备的控制方法,所述摄像设备包括:图像传感器,其对第一波长带中的光和第二波长带中的光灵敏,所述光经由包括调焦透镜的摄像光学系统入射在所述图像传感器上;光学滤波器,其具有用于选择性地使得所述第一波长带中的光能够通过的第一滤波器区域、用于选择性地使得所述第二波长带中的光能够通过的第二滤波器区域、以及用于使得所述第一波长带中的光和所述第二波长带中的光能够通过的第三滤波器区域,所述光学滤波器被设置在所述摄像光学系统和所述图像传感器之间;以及驱动部件,其被配置为在与所述摄像光学系统的光轴垂直的平面上移动所述光学滤波器,所述控制方法包括:
在第一模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域覆盖所述图像传感器的整个像素区域的位置,并且在第二模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域和所述第二滤波器区域覆盖像素区域的一部分的位置;以及
在所述第二模式的情况下,基于从第一像素区域所获得的第一信号和从第二像素区域所获得的第二信号来对用于接收已经通过所述第三滤波器区域的光的第三像素区域所接收到的光在所述第一波长带中的第一分量和在所述第二波长带中的第二分量进行估计,并且基于所估计的所述第一分量和所述第二分量来计算所述调焦透镜相对于预定拍摄距离的聚焦位置,所述第一像素区域是像素区域中的用于接收已经通过所述第一滤波器区域的光的区域,以及所述第二像素区域是像素区域中的用于接收已经通过所述第二滤波器区域的光的区域。
27.一种计算机可读的非暂时性存储介质,所述存储介质存储能够由所述计算机执行的程序,其中,所述程序包括用于使所述计算机实现用于基于从摄像设备的图像传感器所获得的信号来计算调焦透镜的聚焦位置的方法的程序代码,所述摄像设备包括:所述图像传感器,其对第一波长带中的光和第二波长带中的光灵敏,所述光经由包括所述调焦透镜的摄像光学系统入射在所述图像传感器上;以及光学滤波器,其具有用于选择性地使得所述第一波长带中的光能够通过的第一滤波器区域,所述光学滤波器被设置在所述摄像光学系统和所述图像传感器之间,所述方法包括:
基于从第一像素区域所获得的第一信号和从第二像素区域所获得的第二信号来对所述第二像素区域所接收到的光在所述第一波长带中的第一分量和在所述第二波长带中的第二分量进行估计,所述第一像素区域是所述图像传感器的像素区域中的用于接收已经通过所述第一滤波器区域的光的区域,以及所述第二像素区域是所述图像传感器的像素区域中的排除了所述第一像素区域的区域;以及
基于所述第一分量和所述第二分量来计算所述调焦透镜相对于预定拍摄距离的聚焦位置。
28.一种计算机可读的非暂时性存储介质,所述存储介质存储能够由所述计算机执行的程序,其中,所述程序包括用于使所述计算机实现摄像设备的控制方法的程序代码,所述摄像设备包括:图像传感器,其对第一波长带中的光和第二波长带中的光灵敏,所述光经由包括调焦透镜的摄像光学系统入射在所述图像传感器上;光学滤波器,其具有用于选择性地使得所述第一波长带中的光能够通过的第一滤波器区域,所述光学滤波器被设置在所述摄像光学系统和所述图像传感器之间;以及驱动部件,其被配置为在与所述摄像光学系统的光轴垂直的平面上移动所述光学滤波器,所述控制方法包括:
在第一模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域覆盖所述图像传感器的整个像素区域的位置,并且在第二模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域覆盖像素区域的一部分的位置;以及
在所述第二模式的情况下,基于从第一像素区域所获得的第一信号和从第二像素区域所获得的第二信号来对所述第二像素区域所接收到的光在所述第一波长带中的第一分量和在所述第二波长带中的第二分量进行估计,并且基于所估计的所述第一分量和所述第二分量来计算所述调焦透镜相对于预定拍摄距离的聚焦位置,所述第一像素区域是像素区域中的用于接收已经通过所述第一滤波器区域的光的区域,以及所述第二像素区域是像素区域中的排除了所述第一像素区域的区域。
29.一种计算机可读的非暂时性存储介质,所述存储介质存储能够由所述计算机执行的程序,其中,所述程序包括用于使所述计算机实现摄像设备的控制方法的程序代码,所述摄像设备包括:图像传感器,其对第一波长带中的光和第二波长带中的光灵敏,所述光经由包括调焦透镜的摄像光学系统入射在所述图像传感器上;光学滤波器,其具有用于选择性地使得所述第一波长带中的光能够通过的第一滤波器区域、用于选择性地使得所述第二波长带中的光能够通过的第二滤波器区域、以及用于使得所述第一波长带中的光和所述第二波长带中的光能够通过的第三滤波器区域,所述光学滤波器被设置在所述摄像光学系统和所述图像传感器之间;以及驱动部件,其被配置为在与所述摄像光学系统的光轴垂直的平面上移动所述光学滤波器,所述控制方法包括:
在第一模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域覆盖所述图像传感器的整个像素区域的位置,并且在第二模式的情况下,将所述光学滤波器驱动到所述第一滤波器区域和所述第二滤波器区域覆盖像素区域的一部分的位置;以及
在所述第二模式的情况下,基于从第一像素区域所获得的第一信号和从第二像素区域所获得的第二信号来对用于接收已经通过所述第三滤波器区域的光的第三像素区域所接收到的光在所述第一波长带中的第一分量和在所述第二波长带中的第二分量进行估计,并且基于所估计的所述第一分量和所述第二分量来计算所述调焦透镜相对于预定拍摄距离的聚焦位置,所述第一像素区域是像素区域中的用于接收已经通过所述第一滤波器区域的光的区域,以及所述第二像素区域是像素区域中的用于接收已经通过所述第二滤波器区域的光的区域。
CN201911220409.3A 2018-12-03 2019-12-03 摄像设备、摄像设备的控制方法、计算方法和存储介质 Active CN111263057B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018-226720 2018-12-03
JP2018226720A JP7169863B2 (ja) 2018-12-03 2018-12-03 撮像装置及びその制御方法、及び演算方法

Publications (2)

Publication Number Publication Date
CN111263057A CN111263057A (zh) 2020-06-09
CN111263057B true CN111263057B (zh) 2021-08-27

Family

ID=68581312

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911220409.3A Active CN111263057B (zh) 2018-12-03 2019-12-03 摄像设备、摄像设备的控制方法、计算方法和存储介质

Country Status (4)

Country Link
US (1) US11108968B2 (zh)
EP (1) EP3664436A1 (zh)
JP (1) JP7169863B2 (zh)
CN (1) CN111263057B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111726514B (zh) * 2019-03-20 2021-09-28 浙江宇视科技有限公司 一种摄像机及其昼夜模式切换方法、装置、设备、介质
WO2022038924A1 (ja) 2020-08-20 2022-02-24 富士フイルム株式会社 撮像装置、撮像方法、及びプログラム
CN112665618B (zh) * 2020-12-17 2022-05-17 安徽中元新材料技术有限公司 一种基于形态学的波长敏感模式提取装置及方法
CN113873132B (zh) * 2021-10-26 2024-03-22 维沃移动通信有限公司 镜头模组、移动终端、拍摄方法和拍摄装置

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3583952B2 (ja) 1999-08-04 2004-11-04 三洋電機株式会社 白黒/カラー切換カメラ
JP2004132836A (ja) * 2002-10-10 2004-04-30 Seiko Precision Inc 測光機能付き位相差検出装置、測光機能付き測距装置および測光機能付き撮像装置
JP4375348B2 (ja) * 2006-03-08 2009-12-02 ソニー株式会社 撮像装置及び撮像装置の制御方法
KR20070115243A (ko) * 2006-06-01 2007-12-05 삼성전자주식회사 이미지 촬상 장치, 및 그 동작 방법
JP4999494B2 (ja) * 2007-02-28 2012-08-15 オンセミコンダクター・トレーディング・リミテッド 撮像装置
JP5178396B2 (ja) * 2008-08-21 2013-04-10 キヤノン株式会社 撮像装置
US9204062B2 (en) * 2011-08-24 2015-12-01 Fluke Corporation Thermal imaging camera with range detection
JP2014048620A (ja) * 2012-09-04 2014-03-17 Canon Inc 焦点調節装置、その制御方法、および制御プログラム
JP2014075780A (ja) * 2012-09-14 2014-04-24 Ricoh Co Ltd 撮像装置及び撮像システム
KR101473768B1 (ko) * 2013-11-28 2014-12-24 한국과학기술연구원 편광 라이트 필드 카메라를 이용한 스페큘러 및 디퓨즈 영상 생성 장치 및 그것의 제어방법
JP6372109B2 (ja) * 2014-03-11 2018-08-15 リコーイメージング株式会社 Af機能を備えた撮像装置
KR101783991B1 (ko) * 2014-04-29 2017-10-11 한화테크윈 주식회사 영상촬영장치에서 개선된 줌트래킹 방법
JP6471953B2 (ja) * 2014-05-23 2019-02-20 パナソニックIpマネジメント株式会社 撮像装置、撮像システム、及び撮像方法
CN106664394B (zh) * 2014-06-24 2018-10-02 麦克赛尔株式会社 摄像处理装置以及摄像处理方法
CN107431760B (zh) * 2015-03-31 2018-08-28 富士胶片株式会社 摄像装置、摄像装置的图像处理方法以及存储介质
CN107534733B (zh) * 2015-04-23 2019-12-20 富士胶片株式会社 摄像装置、该摄像装置的图像处理方法及介质
US10579871B2 (en) * 2016-02-03 2020-03-03 Hefei Xu Biometric composite imaging system and method reusable with visible light
US10277842B1 (en) * 2016-11-29 2019-04-30 X Development Llc Dynamic range for depth sensing
EP3340603B1 (en) * 2016-12-22 2018-12-19 Axis AB Focusing of a camera monitoring a scene
JP6849438B2 (ja) * 2017-01-10 2021-03-24 キヤノン株式会社 撮像装置及び撮像装置の制御方法
JP6975896B2 (ja) * 2017-02-03 2021-12-01 パナソニックIpマネジメント株式会社 撮像装置の制御方法及び撮像装置
CN108886571B (zh) * 2017-03-13 2020-12-01 亮锐控股有限公司 具有改善的自动对焦性能的成像设备
JP6989466B2 (ja) * 2018-09-13 2022-01-05 株式会社東芝 光学フィルタ、撮像装置および測距装置

Also Published As

Publication number Publication date
US11108968B2 (en) 2021-08-31
JP2020091328A (ja) 2020-06-11
EP3664436A1 (en) 2020-06-10
JP7169863B2 (ja) 2022-11-11
CN111263057A (zh) 2020-06-09
US20200177781A1 (en) 2020-06-04

Similar Documents

Publication Publication Date Title
CN111263057B (zh) 摄像设备、摄像设备的控制方法、计算方法和存储介质
US9615030B2 (en) Luminance source selection in a multi-lens camera
CN107004685B (zh) 固体摄像器件和电子装置
US8063978B2 (en) Image pickup device, focus detection device, image pickup apparatus, method for manufacturing image pickup device, method for manufacturing focus detection device, and method for manufacturing image pickup apparatus
KR100804719B1 (ko) 촬상 모듈
JP4867552B2 (ja) 撮像装置
US9277150B2 (en) Image pickup apparatus and camera system capable of improving calculation accuracy of defocus amount
JP5947507B2 (ja) 撮像装置及びその制御方法
CN102203655B (zh) 摄像设备
US8243189B2 (en) Image sensor and imaging apparatus
KR102100031B1 (ko) 카메라 및 컬러 이미지 생성 방법
JP5625286B2 (ja) 撮像装置
CN104641276B (zh) 摄像装置及信号处理方法
WO2016180874A1 (en) Camera for a motor vehicle with at least two optical fibers and an optical filter element, driver assistance system as well as motor vehicle
JP5475393B2 (ja) 撮像システムおよび補正方法
US10887527B2 (en) Image capture apparatus having illumination section, monitoring system including image capture apparatus, method of controlling image capture apparatus, and storage medium
US10715753B2 (en) Solid-state image pickup element and electronic apparatus
JP5852356B2 (ja) 撮像装置
KR102622489B1 (ko) 촬상 장치, 촬상 방법, 및 프로그램
JP2010091848A (ja) 焦点検出装置および撮像装置
US10582102B2 (en) Imaging apparatus, on-vehicle camera, and image processing method
US7474349B2 (en) Image-taking apparatus
JP5929021B2 (ja) 焦点検出装置、撮像装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant