CN105657221A - 包括发光器件的全光相机 - Google Patents

包括发光器件的全光相机 Download PDF

Info

Publication number
CN105657221A
CN105657221A CN201510836336.6A CN201510836336A CN105657221A CN 105657221 A CN105657221 A CN 105657221A CN 201510836336 A CN201510836336 A CN 201510836336A CN 105657221 A CN105657221 A CN 105657221A
Authority
CN
China
Prior art keywords
optical sensor
full light
microlens
luminescent device
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201510836336.6A
Other languages
English (en)
Other versions
CN105657221B (zh
Inventor
瓦尔特·德拉季奇
莫扎德·赛菲
诺伊斯·萨瓦特尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
InterDigital CE Patent Holdings SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of CN105657221A publication Critical patent/CN105657221A/zh
Application granted granted Critical
Publication of CN105657221B publication Critical patent/CN105657221B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/557Depth or shape recovery from multiple images from light fields, e.g. from plenoptic cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/957Light-field or plenoptic cameras or camera modules
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10052Images from lightfield camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10148Varying focus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)

Abstract

一种全光相机(2),包括:相机镜头(10);小透镜阵列(11),包括多个微透镜(111、112、11n);以及光传感器阵列(13)。为了确定子图像的参考像素,所述相机镜头(10)包括布置在相机镜头(10)的光圈光阑平面中的发光器件(20),所述发光器件(20)照射所述光传感器阵列(13)。

Description

包括发光器件的全光相机
技术领域
本公开涉及全光相机以及光场获取设备和方法的领域。本公开还涉及校准全光相机的领域。
背景技术
根据背景技术,已知利用全光相机(也被称为光场相机)获取相同场景的不同视图。图1示出了根据现有技术的这种全光相机1。全光相机1由与光传感器阵列13(也被称为图像传感器阵列13)相关联的透镜布置构成。光传感器阵列13包括以X列和Y行的网格形式布置的大量(m个)光传感器131、132、133至1m,其中,m对应于X乘以Y。颜色滤波器阵列(CFA)12被布置在光传感器阵列13上。CFA12传统地将RGB(红色、绿色和蓝色)颜色滤波器布置在光传感器阵列上,RGB布置采用例如拜耳滤波器马赛克的形式。传统地,一个颜色滤波器(红色、绿色和蓝色滤波器)根据预定模式与一个光传感器相关联,在拜耳滤波器的示例中,所述预定模式包括50%的绿色、25%的红色和25%的蓝色,这样的模式还被称为RGBG、GRGB或RGGB模式。透镜布置包括初级透镜10(也被称为主透镜)以及小透镜阵列11,该小透镜阵列11包括多个(n个)微透镜111、112、1n,其中,n是大于或等于2的正整数。微透镜111、112、1n按以下方式被布置:均与多个光传感器光学关联。与一个微透镜光学关联的光传感器的数量对应于利用全光相机1获取的场景的视图的数量。与给定微透镜相关联的光传感器形成微透镜微图像。为了获得不同的视图,对原始图像(即,利用光传感器阵列13获取的颜色传感器数据)进行解马赛克和解复用。解马赛克使得能够恢复全色彩原始图像,即恢复针对原始图像的像素的全色彩信息(例如,RGB信息,RGB表示“红色”、“绿色”和“蓝色”),而利用全光图像获取的原始图像将仅与一个颜色分量(例如,R、G或B)与每个像素相关联。在解马赛克之后执行的解复用使得能够恢复场景的不同视图,即,根据解马赛克后的原始图像的像素所属的视图来对所述像素进行分组。
为了恢复场景的不同视图,必须校准利用全光相机获取的原始图像。该校准的主要目的在于识别在全光相机的光传感器阵列上形成的每个微透镜微图像的中心点位置。由于各种复杂的情况,属于识别中心点位置的处理受到各种问题的困扰,这导致遍及光传感器阵列的估计的中心与假定与这些中心像素光学共轭的主透镜子光圈的单个位置之间的失配。如果光传感器阵列设置有拜耳类型颜色滤波器阵列(CFA),则其甚至会进一步影响估计的精确度。如果使用全局优化来估计中心,则这种优化通常不会考虑单独微透镜在尺寸和在小透镜阵列中的相对位置方面的制造差量。此外,如果估计的位置落在一些像素/光传感器之间的边界附近,则对中心的估计存在模糊:用于选择正确像素的最近取整具有很大的概率选择不是微图像的中心像素的像素。
此外,每当主透镜经历改变(无论是变焦还是聚焦)时,微图像中心都不得不被再次估计。为此,不得不拍摄具有相同透镜设置的平白图片,并且使用最小均方优化方法根据该图像来检索对视图进行解复用所需要的参数。这产生不便,其原因在于每当微调主透镜用于快照时校准系统是很不方便的。如果系统还能够拍摄视频,则这还意味着还禁止在拍摄期间进行变焦。
发明内容
本公开的目的在于克服背景技术中的这些缺点中的至少一个。
本公开涉及一种全光相机,包括:相机镜头;小透镜阵列,包括多个微透镜;以及光传感器阵列,其中:所述相机镜头包括布置在相机镜头的光圈光阑平面中的发光器件,所述发光器件照射所述光传感器阵列。
根据特定特征,所述发光器件被布置在所述光圈光阑平面的中心。
有利地,所述发光器件是透明的。
根据特定特征,所述全光相机包括:用于检测所述相机镜头的至少一个参数的改变的器件。
有利地,检测到至少一个参数的改变触发了所述发光器件照射所述光传感器阵列。
根据另一特征,所述发光器件在至少一个图像采集周期的至少一部分期间照射所述光传感器阵列。
有利地,所述发光器件发射白光。
根据特定特征,所述发光器件连续地发射红光、绿光和蓝光。
根据另一特征,所述发光器件是发光二极管。
本公开还涉及一种校准全光相机的方法,其中,所述全光相机包括相机镜头、包括多个微透镜的小透镜阵列和光传感器阵列,所述方法包括:
-利用布置在所述相机镜头的光圈光阑平面中的发光器件照射所述光传感器阵列,
-确定被所述发光器件照射的光传感器阵列的光传感器,
-根据确定的光传感器校准全光相机。
有利地,所述方法还包括:检测所述相机镜头的至少一个参数的改变,其中所述照射是由所述检测来触发的。
根据特定特征,在至少一个图像采集周期的至少一部分期间照射所述光传感器阵列。
根据另一特征,所述确定包括:测量由所述光传感器阵列的每个光传感器接收到的光强度,其中确定的光传感器对应于测量到的光强度最大的光传感器。
有利地,针对小透镜阵列的每个微透镜确定一个光传感器。
根据特定特征,针对每个微透镜确定的光传感器对应于与所述微透镜相关联的微图像的中心像素。
本发明还涉及包括所述全光相机的电信设备。
附图说明
在阅读以下描述后,将更好地理解本公开并且其它特定特征和优点将显现,参照附图描述本文,在附图中:
图1示出了根据背景技术的全光相机;
图2示出了根据本原理特定实施例的全光相机;
图3示出了根据本原理特定实施例的由图2的全光相机的发光器件发射的光线束;
图4示出了根据本原理第一特定实施例的与图2的全光相机的小透镜阵列的微透镜相关联的微图像;
图5示出了根据本原理第二特定实施例的与图2的全光相机的小透镜阵列的微透镜相关联的微图像;
图6示出了根据本原理特定实施例的校准图2的全光相机的方法;
图7示出了根据本原理特定实施例的包括图2的全光相机的电信设备。
具体实施方式
现在参照附图描述主题,其中,相似附图标记用于贯穿全文表示相似元件。在以下描述中,为了解释的目的,阐述了多个特定细节以提供对主题的充分理解。然而显而易见的是,可以在不具有这些特定细节的情况下实践主题实施例。
根据本原理的特定实施例,全光相机的光学装配包括发光器件(即,光源),其布置在光学装配的相机镜头(还被称为主透镜或初级透镜)的光圈光阑平面中。发光器件以这种方式被布置以照射全光相机的光传感器阵列。为了简洁的目的,附图仅示出了一个透镜以示出主透镜。自然应理解,主透镜可以包括若干透镜的集合。
在预定时间段期间(例如,在与用于获取场景的原始图像所需要的时间段相对应的时间段期间,或者在与用于获取原始图像所需要的时间段的仅一部分相对应的时间段期间)利用发光器件照射光传感器阵列使得能够选择每个微透镜下的光传感器阵列的至少一个光传感器。针对给定微透镜选择的光传感器随后可以被用作参考光传感器(或像素),以在对原始图像解马赛克期间收集与不同视图相关联的像素。
应理解,相机镜头的光圈光阑平面、物理器件(透镜和/或隔板)的平面限制光锥通过相机镜头。光圈光阑平面是确定的平面(取决于相机镜头的设计),在该确定的平面处,隔板(或者更一般地说,光圈光阑)将被布置为限制光锥通过相机镜头。
图2示出了根据本原理特定实施例的全光相机2。全光相机包括透镜单元201(对应于光学装配)和相机主体202。
透镜单元201有利地适于与相机主体202相关联。相机主体202包括光传感器阵列13,其包括多个(m个)光传感器131、132、133至13m。每个光传感器对应于利用光传感器阵列获取的场景的原始图像的像素,其中,每个像素包围场景的一部分(还被称为点)。为了说明的目的,光传感器13被示出为具有相对少量的光传感器131至13m。自然地,光传感器的数量不限于图2的示出,而是可以扩展为任意数量的光传感器,例如数千或数百万的光传感器。例如,在12.4兆像素相机中,一个像素将对应于一个光传感器(例如,对应于4088×3040像素/光传感器的阵列)。颜色滤波器阵列(CFA)12被布置在光传感器阵列13上。CFA12传统地将RGB(红色、绿色和蓝色)颜色滤波器布置在光传感器阵列上,其中,RGB布置采用例如拜耳滤波器马赛克的形式。根据变型,CFA布置在小透镜阵列11上(作为CFA12的附加或者替代CFA12)。为了将透镜单元201与相机主体202关联,透镜单元201包括第一附着部件,相机主体202包括第二附着部件,第一附着部件和第二附着部件是兼容的。由于第一附着部件和第二附着部件,透镜单元201可以夹在相机主体202上,或者透镜单元201可以与相机主体202拧在一起。被配置为与相机主体关联的透镜单元的这种第一附着部件和第二附着部件的示例可以在于2013年5月30日公布的日本专利申请JP2013-105151A中找到。第一附着部件和第二附着部件以如下方式被配置:一旦透镜单元201和相机主体202被放在一起,透镜单元201和相机主体202就形成被配置为在每次获取场景时都获取场景的多个视图的全光相机。为此,相机主体202还包括小透镜阵列11,小透镜阵列11包括n个微透镜111、112、11n,其中,n是大于或等于2的整数。为了示出的目的,小透镜阵列11被示出为具有相对少量的微透镜,但是微透镜的数量可以扩展为数千或者甚至一百万或数百万个微透镜。光传感器阵列13的一组光传感器与小透镜阵列11的每个微透镜111至11n光学关联。例如,小透镜阵列11的每个微透镜111至11n的尺寸被设置为对应于2×1、4×4或10×10个光传感器的阵列。与微透镜相关联的一组光传感器(或者换言之,在微透镜下的一组光传感器)形成与该微透镜相关联的微图像,该组光传感器中的每个光传感器形成微图像的像素。与单个微透镜光学关联的多个光传感器中的每个光传感器使得能够根据一个位置获取代表场景的像素的原始数据(获取与像素一样多的视差)。根据变型,透镜单元201和相机主体202形成单个主体,并被装配为不可拆卸的。
透镜单元201包括相机镜头10(还被称为主透镜或者初级透镜),其有利地由一个或多个透镜元件组成,为了清楚目的,在图2中仅示出了一个透镜元件10。透镜单元201还包括布置在相机镜头10的光圈光阑平面中的发光器件(LED)或光源20。LED20可以例如是激光、发光电化电池(LEC或LEEC)、白光发光二极管(WLED)、有机发光二极管(OLED)或量子点发光二极管。WLED可以例如采用RGB(红色、绿色、蓝色)系统的形式,在所述系统中,通过区别地混合颜色光来获得白光(还被称为多颜色白光LED),例如,集成了蓝色LED、绿色LED和红色LED的LED系统。根据另一示例,WLED可以是基于磷的LED,例如涂覆有磷以用于形成白光的蓝色LED。LED20有利地嵌入在透明玻璃板21中。根据变型,利用任何方式来保持LED20的位置,例如,利用三脚架来保持LED20的位置,其中,所述三脚架的每个支架有利地由透明材料制成(例如由ITO(氧化铟锡)或者透明纤维素薄膜或薄银六边形网格)制成。LED20本身有利地是透明的(例如,TOLED(透明有机发光二极管)),这意味着当不发光时,LED让到达LED的光通过LED,例如,LED20让到达LED20的光的85%、90%、95%或者甚至更多的光通过LED20。嵌入LED的玻璃板或者维持LED的支架可以有利地涂覆有导电且光透明的透明导电膜(TCF),以向LED供电。TCF可以由无机材料和有机材料二者制成。无机膜传统地由透明导电氧化物(TCO)层构成,透明导电氧化物(TCO)通常是氧化铟锡(ITO)、氟掺杂氧化锡(FTO)和掺杂氧化锌的形式。有机膜例如由碳纳米管网络和石墨烯(其可以被制造为对红外光高度透明)以及诸如聚(3,4-乙烯二氧噻吩)及其衍生物的聚合物网络制成。
LED20被布置在相机镜头的光圈光阑平面中,并有利地布置在相机镜头10的光圈光阑平面的中心。根据变型,LED20被布置在相机镜头10的光圈光阑平面中,但是被布置在与光圈光阑平面的中心不同的位置。
LED20有利地面朝全光相机2的背面,并以当发光时照射光传感器阵列13的方式朝向光传感器阵列13。LED20的横向尺寸有利地足够小,以使得其通过微透镜111至11n在光传感器阵列13上的图像等于或小于一个光传感器/像素,或者即使大于一个光传感器也是至少可能最小的尺寸。之后,当LED20朝向光传感器阵列13发光时,其仅照射与每个微透镜相关联的每个微图像的一个像素(其中,该像素可用作用于对在光传感器阵列13上形成的子图像进行定位的参考像素),并随后在对利用全光相机2获取的原始图像进行解马赛克时收集针对不同视图的像素。
全光相机2有利地包括被配置为检测相机镜头10的一个或多个参数的改变的硬件模块203,其中,所述改变为例如当聚焦或变焦时发生的相机镜头的焦距的改变和/或变焦距离的改变。硬件模块还可有利地被配置为当检测到相机镜头10的至少一个参数的改变时和/或当对全光相机10上电时,触发LED20照射光传感器阵列13。该模块可以包括在相机主体202或者有利地包括在透镜单元201中。该模块有利地包括与存储器(例如随机存取存储器或者包括寄存器的RAM2032)相关联的一个或若干个处理器2031。存储器存储实施检测相机镜头的参数改变和/或当检测到相机镜头10的至少一个参数的改变时和/或当对全光相机10上电时触发LED20照射的方法的算法的指令。根据变型,该模块采用例如FPGA(现场可编程门阵列)、ASIC(专用集成电路)或DSP(数字信号处理器)类型的可编程逻辑电路的形式。该模块还可以包括被配置为接收和发送数据的接口,所述数据例如是由用户经由用户接口输入以设置影响LED20的控制的参数(例如,照射强度、照射持续时间)的控制参数。
图3示出了根据本原理的示例性且非限制的实施例的由发光器件20发射的光线束30。根据图3的示例,LED20位于相机镜头的光圈光阑平面中的相机镜头的光学中心的水平。由LED20发射的光被示出为由点划线30所示的光锥。光锥30通过相机镜头的后透镜元件31、32以集中在与LED20在出瞳301上形成的图像相对应的点34上。后透镜元件31和32对应于相机镜头10的位于光圈光阑平面300和出瞳301之间的透镜元件。自然地,后透镜元件的数量不限于2,而是可以扩展为大于或等于0的任何整数。为了清楚,仅在图2上示出了由LED20发射且已经通过后透镜元件31、32的光线的一部分35,即,通过微透镜33的光线。用点线示出通过微透镜33的光线束35。这些光线35有利地集中在光传感器阵列13的一个或若干个光传感器334(例如,3、4或5个光传感器)上。由于LED20位于相机镜头的光圈光阑平面300中的光学中心的水平,因此在与微透镜33相关联的一组光传感器332、333、334、335、336、337、338中,与同微透镜33相关联(在微透镜33之下)的微图像的中心像素相对应的光传感器接收最大的光强度。当若干个光传感器被光线35击中时,接收最大光强度的光传感器被选为针对与微透镜相关联的微图像的参考光传感器/像素。
图4示出了根据本原理第一特定实施例的与小透镜阵列11的微透镜相关联的微图像。在图4上仅呈现了小透镜阵列11的一部分微透镜,即微透镜41、42、43、44、45、46、47和48。更具体地,图4示出了光传感器阵列13在小透镜阵列上的投影4,其使得能够将光传感器阵列中与每个微透镜41至48相关联的光传感器可视化。与给定微透镜相关联的光传感器对应于给定微透镜之下的光传感器,即,投影到由给定微透镜覆盖的区域上的光传感器。一组光传感器中与给定微透镜相关联的每个光传感器对应于与该微透镜相关联的微图像的像素。被LED20照射的光传感器针对每个微透镜被高亮为黑色或者淡灰色。例如,与微透镜41相关联且被LED20照射的光传感器对应于光传感器411、412、413和414。为了确定被LED20照射的一组光传感器411至414中的参考光传感器,将由每个光传感器411至414接收到的光量彼此比较,并将具有最大值的光传感器选为与关联于微透镜41的微图像的参考像素相对应的参考光传感器。如果仅一个光传感器被LED照射(例如,光传感器421和431分别与微透镜42和43相关联),则针对微透镜的参考光传感器是被LED照射的单个光传感器。用黑色示出针对每个微透镜41至48的参考光传感器。图4的示例对应于图3的示例实施例,其中,LED20被布置在相机镜头的光圈光阑平面的光学中心。根据该示例,针对每个微透镜41至48,接收到由LED20发射的最大量的光的光传感器(被称为与所述每个微透镜相关联的微图像的参考光传感器或参考像素)对应于一组光传感器中与该微透镜相关联的中心光传感器。
在已知与每个微透镜相关联的每个微图像的边界以及每个微图像的参考像素的情况下,可以收集每个微图像中的任何像素以将它们与正确的视图相关联。实际上,利用全光相机在单次快照中获取的视图的数量对应于与一个微透镜相关联的光传感器的数量。为了构建给定视图,需要选择每个微图像中与微透镜相关联的正确像素。根据本原理的一个实施例,通过使用如上所述确定的参考像素来执行被称为解复用的这种处理。解复用处理在于以如下方式对原始图像的像素进行重新组织:捕捉具有特定入射角度的光线的所有像素被存储在创建所谓的视图(还被称为子光圈视图)的相同图像中。由微图像中的相对于每个微图像中的参考像素的位置的相对像素位置给出光线的角度信息。在相对于与每个微透镜相关联的每个微图像的参考像素的相同相对位置处的每个微透镜之下的像素属于相同视图。与微透镜相关联的微图像的像素形成R行C列的像素网格,例如,R和C是整数。由像素的行号和列号给出微图像的像素的坐标。对于在微透镜41之下的微图像,参考像素411的坐标例如为(i,j)。其适用于在每个微透镜之下的每个微图像的每个参考像素。例如,在微透镜42之下的微图像中参考像素421的坐标也是(i,j),并且在微透镜43之下的微图像中参考像素431的坐标也是(i,j),对于每个微图像而言,像素的数量是相同的,并且每个微图像中的行和列的数量R和C也是相同的。为了构建确定的视图,选择每个微图像中的具有相同坐标的所有像素。例如,针对相同视图的像素在图4上用叉号标识,用叉号标识的每个像素的坐标在每个图像中相对于每个微图像的参考像素的坐标(i,j)是(i+3,j+3)。
例如,通过获取白色场景或灰色均匀场景来确定微图像的边界。微图像具有与微透镜的分布相同的分布。通过获取白色或灰色场景的图像,在微透镜之下的像素看上去比不位于微透镜之下的像素更亮。微图像收集在光传感器阵列上看上去亮的像素且具有与微透镜的形式相同的形式。微图像的边界可以例如在制造全光相机时仅确定一次,代表边界的信息例如被存储在全光相机的存储器(例如RAM)中。根据变型,在已知微透镜的形式的情况下,当参考像素对应于中心像素时(与图4中的示例一样),可以通过使用参考像素来确定微图像的边界。通过采用以两个邻近微图像的中心像素作为端点的分割线的中点,可以容易地确定微图像的尺寸。例如,如果与微图像相关联的微透镜是圆形的,则微图像的半径对应于中心像素和位于以两个邻近微图像的中心像素作为端点的分割线的中点的像素之间的像素的数量。
图5示出了根据本原理第二特定实施例的与小透镜阵列11的微透镜相关联的微图像。图5的微透镜41至48对应于图4的微透镜,但是图5的每个微图像的参考像素与图4上呈现的微图像的参考像素不同。根据图5的示例,参考像素511、521和531分别位于分别与微透镜41、42和43相关联的微图像的左上部。该特定实施例对应于如下情况:LED20不位于相机镜头的光圈光阑平面中的光学中心,而是位于与光圈光阑平面的光学中心相距一定距离处。更具体地,根据图5的示例的LED的位置是光圈光阑平面中相机镜头的光圈的左上部,就像与微透镜41至48相关联的微图像中的参考像素的位置一样。自然地,LED20保持在相机镜头的光圈中,以能够在发光时照射光传感器。以与参照图4描述的方式相同的方式执行解复用处理,只是参考像素的位置与图4的示例性实施例不同。
图6示出了根据本原理的示意性而非限制的实施例的校准全光相机2的方法。
在初始化步骤60期间,更新全光相机的不同参数,尤其是相机镜头的参数以及代表参考像素的参数。例如在对全光相机上电时和/或在改变相机镜头的参数(例如,当变焦或聚焦时的焦距)时,对参数进行初始化。
之后在步骤61期间,全光相机的光传感器阵列在确定的时间段期间被布置在全光相机的相机镜头的光圈光阑平面中的发光器件(LED)照射。LED有利地布置在光圈光阑平面的中心。根据变型,LED布置在除全光相机的相机镜头的光圈以外的光圈光阑平面中的任意位置,以能够照射光传感器阵列。
发光持续时间对应于例如图像采集周期,即对应于利用全光相机获取场景的原始图像所需要的持续时间。根据变型,LED的发光持续时间小于图像采集周期,例如,LED的发光持续时间是图像采集周期的20%、30%或50%。在小于图像采集周期的时间段期间照射光传感器阵列使得能够在图像采集周期的剩余时间期间捕捉来自该场景的光,这样即使是针对被LED“覆盖”的光传感器也能够获取原始数据,其中,所述LED有利地在不发光时是透明的。
例如在对全光相机上电时和/或在相机镜头的参数(诸如焦距)被修改时(例如当变焦或聚焦时)触发了LED发光。
之后,在步骤62期间,识别光传感器阵列的由LED发射的光线照射的光传感器。在每组光传感器中照射与微透镜相关联且位于微透镜之下的至少一个光传感器。LED的尺寸有利地被选择为使得由LED发射的光束在通过相机镜头的后透镜元件以及微透镜阵列的微透镜之后仅击中一个光传感器。LED的尺寸有利地使得其在光传感器上的图像等于一个光传感器的尺寸,其对应于与微透镜相关联的微图像的一个像素的尺寸,或者对应于属于通过对利用全光相机获取的原始图像解复用而获得的视图的像素的尺寸。如果在一组光传感器中有多余一个的在微透镜之下的光传感器被照射(例如,如果LED的图像的尺寸大于像素的尺寸或者如果例如由于全光系统的小透镜制造容差和/或光学失真而发生汇聚情况),则必须确定/选择被光束击中的光传感器之一。从多个照射的光传感器中选择的光传感器有利地对应于接收到最大光强度的光传感器。为此目的,对由被LED照射的每个光传感器接收到的光量进行相互比较,并选择最大值。作为步骤62的结果,选择每个微透镜之下的单个光传感器,其中,针对确定的微透镜选择的光传感器对应于与该确定的微透镜相关联的微图像的参考像素。
之后,在步骤63期间,基于选择的用作针对每个微图像的参考像素的光传感器校准全光相机。校准在于识别每个微透镜微图像中的参考像素,所述参考像素例如对应于微图像的中心像素。一旦识别出参考像素,就可以开始解复用处理以通过重新组织原始图像的像素来构建利用全光相机获取的场景的不同视图。
在可选步骤中,在后处理步骤重建与参考像素相对应的视图。实际上,由LED照射的参考像素对应于根据特定视角的场景的视图。如果在整个图像采集周期期间由LED照射与这些参考像素相对应的光传感器,则针对这些像素没有原始数据是可用的,并且会丢失相应视图。例如,在利用全光相机例如以每秒24个图像的帧率获取视频的情况下,LED可以在24个图像采集周期之一期间照射光传感器,这意味着与照射的光传感器相对应的视图将丢失,但是这仅针对24个图像之一而言。随后可以有利地通过相同视图(即,对应于相同视角)的时间插值来重建丢失的视图,以形成23个剩余图像中的一个或若干个。根据变型,从自全光相机输出的视图流中移除24个图像中与用于校准全光相机(即,用于确定微图像的参考像素)的图像相对应的所有视图,仅与23个剩余图像相关联的视图被考虑,例如,被存储在存储器中或显示在屏幕上。
在另一可选步骤中,可以校正与当LED不照射光传感器阵列时被LED“覆盖”的微图像的像素相对应的视图的亮度水平。实际上,即使LED在“关闭”状态(即,当LED不照射光传感器阵列时的状态)下基本是透明的,用于制造LED的材料也会过滤通过LED从而到达光传感器阵列上的相应光传感器(尤其是相对于未被LED“覆盖”的周围光传感器)的光的一部分。为了校正这种在光传感器之间的亮度差,可以在将LED集成在透镜单元中之前将LED的透明度确定为LED的波长(颜色)的函数,并且可以针对照射的像素应用校正增益。
图7图示地示出了电信设备7的硬件实施例,该电信设备7例如对应于具体实现根据本原理的一个方面的全光相机的智能电话或平板电脑。
电信设备7包括以下元件,这些元件通过还传输时钟信号的地址和数据总线74彼此连接:
-微处理器71(或CPU),
-ROM(只读存储器)类型的非易失性存储器72,
-随机存取存储器或RAM73,
-无线电接口76,
-适于传输数据的接口75,
-全光相机77,例如对应于图2的全光相机2,
-MMI接口78,适于向用户显示信息和/或输入数据或参数。
应注意,在对存储器72和73的描述中使用的词语“寄存器”指明在提到的每个存储器中的低容量的存储器区域和大容量的存储器区域(使整个程序或者代表被接收和解码的数据的全部或部分数据能够被存储)。
存储器ROM72具体包括“prog”程序。
如下所述的实施本公开特定的方法的步骤的算法被存储在与实施这些步骤的电信设备7相关联的ROM72存储器中。当上电时,微处理器71加载并运行这些算法的指令。
随机存取存储器73尤其包括:
-在寄存器中,负责开启电信设备7的微处理器71的操作程序,
-接收参数(例如用于调制、编码、MIMO、帧循环的参数),
-发送参数(例如用于调制、编码、MIMO、帧循环的参数),
-与由接收机76接收和解码的数据相对应的输入数据,
-形成为在应用的接口75被发送的解码数据,
-相机镜头的参数和/或每个微图像的参考像素。
电信设备7的除参照图7描述结构之外的其它结构与本公开兼容。具体地,根据变型,可以根据纯硬件实现来实施电信设备,例如,纯硬件实现具有专用组件(例如ASIC(专用集成电路)或FPGA(现场可编程门阵列)或VLSI(超大型集成)),或者嵌入在装置中的若干电子组件的形式,或者甚至硬件元件和软件元件的混合的形式。
无线电接口76和接口75适于根据一个或若干个电信标准(诸如IEEE802.11(Wi-Fi)、与IMT-2000规范兼容的标准(还被称为3G)、与3GPPLTE兼容的标准(还被称为4G)、与IEEE802.15.1兼容的标准(还被称为蓝牙)……)接收和发送信号。
根据变型,电信设备不包括任何ROM,而是只包括RAM,实施本公开特定的方法的步骤的算法被存储在RAM中。
自然地,本公开不限于上述实施例。
具体地,本公开不限于全光相机,而是扩展为包括相机镜头和LED的透镜单元(还被称为全光光学装配)。
电信设备包括例如智能电话、智能手表、平板电脑、计算机、移动电话、便携式/个人数字助理(“PDA”)和促进终端用户以及机顶盒之间的信息通信的其它设备。
可以通过处理器执行的指令来实施本文描述的校准全光相机的方法,并且这种指令(和/或通过实施产生的数据值)可以被存储在处理器可读介质上,所述处理器可读介质例如是集成电路、软件载体或其它存储设备(例如硬盘、致密盘(“CD”)、光盘(例如DVD,其通常被称为数字多功能盘或数字视频盘)、随机存取存储器(“RAM”)或只读存储器(“ROM”))。指令可以形成有形地具体实现在处理器可读介质上的应用程序。指令可以例如在硬件、固件、软件或组合中。指令可以存在于例如操作系统、单独应用或者这两者的组合中。因此,处理器可以被表征为例如被配置为执行处理的设备、以及包括具有用于执行处理的指令的处理器可读介质(诸如存储设备)的设备。此外,除了指令之外或者作为指令的替代,处理器可读介质可以存储通过实施而产生的数据值。
本领域技术人员将清楚,实施可以产生被格式化为承载可被例如存储或发送的信息的各种信号。该信息可以包括例如用于执行方法的指令或者通过描述的实施之一产生的数据。例如,信号可以被格式化为承载用于写入或读取描述的实施例的语法的规则作为数据,或者承载由描述的实施例写入的实际语法值作为数据。这种信号可以被格式化为例如电磁波(例如,使用频谱的射频部分)或者基带信号。格式化可以包括例如编码数据流并利用编码的数据流调制载波。信号承载的信息可以是例如模拟或数字信息。可以通过已知的各种不同的有线或无线链路来发送信号。信号可以存储在处理器可读介质上。
已经描述了多种实施方式。然而,将理解可以进行各种修改。例如,可以组合、补充、修改或移除不同实施方式的元素以产生其他实施方式。此外,本领域普通技术人员将理解,可以用其他结构和处理来替代公开的结构和处理,并且产生的实施方式将以至少基本上相同的方式执行至少基本上相同的功能,以实现至少基本上与公开的实施方式相同的结果。因此,本申请预期这些和其他实施方式。

Claims (16)

1.一种全光相机(2),包括:相机镜头(10);小透镜阵列(11),包括多个微透镜(111、112、11n);以及光传感器阵列(13),其特征在于:所述全光相机(2)包括布置在所述相机镜头(10)的光圈光阑平面中的发光器件(20),所述发光器件(20)照射所述光传感器阵列(13)。
2.根据权利要求1所述的全光相机(2),还包括:与存储器相关联的处理器,被配置为根据被所述发光器件照射的光传感器来确定与所述多个微透镜中的每个微透镜相关联的微图像的参考像素。
3.根据权利要求1或2所述的全光相机,其中,所述发光器件(20)被布置在所述光圈光阑平面的中心。
4.根据权利要求1或2所述的全光相机,其中,所述发光器件(20)是透明的。
5.根据权利要求1或2所述的全光相机,还包括:用于检测在变焦或聚焦时发生的所述相机镜头的焦距的改变和/或变焦距离的改变的模块。
6.根据权利要求5所述的全光相机,其中,检测到改变触发了所述发光器件(20)照射所述光传感器阵列(13)。
7.根据权利要求1或2所述的全光相机,其中,所述发光器件(20)在至少一个图像采集周期的至少一部分期间照射所述光传感器阵列(13)。
8.根据权利要求1或2所述的全光相机,其中,所述发光器件(20)发射白光。
9.根据权利要求1或2所述的全光相机,其中,所述发光器件(20)连续地发射红光、绿光和蓝光。
10.根据权利要求1或2所述的全光相机,其中,所述发光器件(20)是发光二极管。
11.根据权利要求2所述的全光相机,其中,所述处理器还被配置为通过测量由所述光传感器阵列的每个光传感器接收到的光强度来确定被所述发光二极管照射的光传感器,其中所确定的光传感器对应于测量到的光强度最大的光传感器。
12.一种在全光相机中确定参考像素的方法,所述全光相机包括相机镜头、包括多个微透镜的小透镜阵列和光传感器阵列,其特征在于,所述方法包括:
-利用布置在所述相机镜头的光圈光阑平面中的发光器件照射(61)所述光传感器阵列,
-根据被所述发光器件照射的所述光传感器阵列的光传感器来确定(62)与所述多个微透镜中的每个微透镜相关联的微图像的参考像素。
13.根据权利要求12所述的方法,还包括:检测在变焦或聚焦时发生的所述相机镜头的焦距的改变和/或变焦距离的改变,其中所述照射是由所述检测触发的。
14.根据权利要求12或13所述的方法,其中,在至少一个图像采集周期的至少一部分期间照射所述光传感器阵列。
15.根据权利要求12或13所述的方法,其中,所述确定包括:通过测量由所述光传感器阵列的每个光传感器接收到的光强度来确定被所述发光器件照射的所述光传感器,其中所确定的光传感器对应于测量到的光强度最大的光传感器。
16.根据权利要求12或13所述的方法,其中,所述参考像素对应于所述微图像的中心像素。
CN201510836336.6A 2014-11-27 2015-11-26 包括发光器件的全光相机 Active CN105657221B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP14306897.1 2014-11-27
EP14306897.1A EP3026884A1 (en) 2014-11-27 2014-11-27 Plenoptic camera comprising a light emitting device

Publications (2)

Publication Number Publication Date
CN105657221A true CN105657221A (zh) 2016-06-08
CN105657221B CN105657221B (zh) 2020-06-26

Family

ID=52016546

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510836336.6A Active CN105657221B (zh) 2014-11-27 2015-11-26 包括发光器件的全光相机

Country Status (8)

Country Link
US (1) US9691149B2 (zh)
EP (2) EP3026884A1 (zh)
JP (1) JP6630927B2 (zh)
KR (1) KR102432789B1 (zh)
CN (1) CN105657221B (zh)
HK (1) HK1224472A1 (zh)
TW (1) TWI679887B (zh)
ZA (1) ZA201508428B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112385235A (zh) * 2018-06-05 2021-02-19 交互数字Vc控股公司 光场编码和解码的预测

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA3214444A1 (en) 2016-04-12 2017-10-19 Quidient, Llc Quotidian scene reconstruction engine
EP3264761A1 (en) * 2016-06-23 2018-01-03 Thomson Licensing A method and apparatus for creating a pair of stereoscopic images using least one lightfield camera
JP7302970B2 (ja) * 2016-06-27 2023-07-04 ウォシャブスキ,オムリ 個別の狭帯域同期照明によるカラー画像形成
EP3288253A1 (en) * 2016-08-25 2018-02-28 Thomson Licensing Method and apparatus for generating data representative of a bokeh associated to light-field data
CA3097202A1 (en) 2018-05-02 2019-11-07 Quidient, Llc A codec for processing scenes of almost unlimited detail
KR102689953B1 (ko) * 2018-12-03 2024-07-31 삼성전자주식회사 캘리브레이션 방법 및 장치
WO2023000162A1 (zh) * 2021-07-20 2023-01-26 重庆康佳光电技术研究院有限公司 一种显示屏及终端

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100014052A1 (en) * 2006-12-21 2010-01-21 Ingo Koschmieder Optical system for a fundus camera
US20100141572A1 (en) * 2007-04-20 2010-06-10 Sharp Kabushiki Kaisha Illumination device and display device using the same
US20100141802A1 (en) * 2008-12-08 2010-06-10 Timothy Knight Light Field Data Acquisition Devices, and Methods of Using and Manufacturing Same
US20130010260A1 (en) * 2011-07-08 2013-01-10 Carl Zeiss Meditec, Inc. Light field camera for fundus photography
CN103037180A (zh) * 2011-10-03 2013-04-10 佳能株式会社 图像传感器和摄像设备
US20130208241A1 (en) * 2012-02-13 2013-08-15 Matthew Everett Lawson Methods and Apparatus for Retinal Imaging
CN103309175A (zh) * 2013-06-07 2013-09-18 中国科学院上海光学精密机械研究所 光刻机照明系统的级联微透镜阵列的对准装置和对准方法
CN203416336U (zh) * 2013-05-22 2014-01-29 李高勤 光场摄像装置以及包含该光场摄像装置的成像系统
CN104137117A (zh) * 2011-12-22 2014-11-05 讯宝科技公司 具有光场图像传感器的成像设备

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AUPQ131399A0 (en) 1999-06-30 1999-07-22 Silverbrook Research Pty Ltd A method and apparatus (NPAGE02)
US7620309B2 (en) * 2006-04-04 2009-11-17 Adobe Systems, Incorporated Plenoptic camera
US20100265385A1 (en) * 2009-04-18 2010-10-21 Knight Timothy J Light Field Camera Image, File and Configuration Data, and Methods of Using, Storing and Communicating Same
US7780364B2 (en) * 2008-05-01 2010-08-24 Mitsubishi Electric Research Laboratories, Inc. Apparatus and method for reducing glare in images
EP2403233B1 (en) 2008-10-10 2022-12-28 Samsung Electronics Co., Ltd. Image processing apparatus and method
ATE551841T1 (de) * 2009-04-22 2012-04-15 Raytrix Gmbh Digitales bildgebungsverfahren zum synthetisieren eines bildes unter verwendung der mit einer plenoptischen kamera aufgezeichneten daten
JP2012205015A (ja) * 2011-03-24 2012-10-22 Casio Comput Co Ltd 画像処理装置及び画像処理方法、並びにプログラム
JP2012205014A (ja) * 2011-03-24 2012-10-22 Casio Comput Co Ltd 撮像装置の製造装置及び製造方法、並びに撮像装置
JP2012205111A (ja) 2011-03-25 2012-10-22 Casio Comput Co Ltd 撮像装置
JP2013105151A (ja) 2011-11-16 2013-05-30 Olympus Corp 光学装置
JP5913934B2 (ja) * 2011-11-30 2016-05-11 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム、および画像処理装置を有する撮像装置
JP6217918B2 (ja) 2012-01-27 2017-10-25 パナソニックIpマネジメント株式会社 アレイ状光学素子、撮像用部材、撮像素子、撮像装置および測距装置
US8811769B1 (en) * 2012-02-28 2014-08-19 Lytro, Inc. Extended depth of field and variable center of perspective in light-field processing
JP2014016965A (ja) 2012-07-11 2014-01-30 Toshiba Corp 画像処理装置、画像処理方法およびプログラム、ならびに、撮像装置
US9153026B2 (en) 2012-11-26 2015-10-06 Ricoh Co., Ltd. Calibration of plenoptic imaging systems
US9319665B2 (en) * 2013-06-19 2016-04-19 TrackThings LLC Method and apparatus for a self-focusing camera and eyeglass system

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100014052A1 (en) * 2006-12-21 2010-01-21 Ingo Koschmieder Optical system for a fundus camera
US20100141572A1 (en) * 2007-04-20 2010-06-10 Sharp Kabushiki Kaisha Illumination device and display device using the same
US20100141802A1 (en) * 2008-12-08 2010-06-10 Timothy Knight Light Field Data Acquisition Devices, and Methods of Using and Manufacturing Same
US20130010260A1 (en) * 2011-07-08 2013-01-10 Carl Zeiss Meditec, Inc. Light field camera for fundus photography
CN103037180A (zh) * 2011-10-03 2013-04-10 佳能株式会社 图像传感器和摄像设备
CN104137117A (zh) * 2011-12-22 2014-11-05 讯宝科技公司 具有光场图像传感器的成像设备
US20130208241A1 (en) * 2012-02-13 2013-08-15 Matthew Everett Lawson Methods and Apparatus for Retinal Imaging
CN203416336U (zh) * 2013-05-22 2014-01-29 李高勤 光场摄像装置以及包含该光场摄像装置的成像系统
CN103309175A (zh) * 2013-06-07 2013-09-18 中国科学院上海光学精密机械研究所 光刻机照明系统的级联微透镜阵列的对准装置和对准方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112385235A (zh) * 2018-06-05 2021-02-19 交互数字Vc控股公司 光场编码和解码的预测
US12088841B2 (en) 2018-06-05 2024-09-10 Interdigital Vc Holdings, Inc. Prediction for light-field coding and decoding

Also Published As

Publication number Publication date
US9691149B2 (en) 2017-06-27
KR20160064021A (ko) 2016-06-07
ZA201508428B (en) 2016-11-30
HK1224472A1 (zh) 2017-08-18
EP3026887B1 (en) 2020-07-22
JP2016103822A (ja) 2016-06-02
US20160155230A1 (en) 2016-06-02
JP6630927B2 (ja) 2020-01-15
KR102432789B1 (ko) 2022-08-12
EP3026887A1 (en) 2016-06-01
EP3026884A1 (en) 2016-06-01
TWI679887B (zh) 2019-12-11
TW201620286A (zh) 2016-06-01
CN105657221B (zh) 2020-06-26

Similar Documents

Publication Publication Date Title
CN105657221A (zh) 包括发光器件的全光相机
WO2018041136A1 (zh) 光通信装置和系统以及相应的信息传输和接收方法
Kriss Handbook of digital imaging
CN108028895A (zh) 有缺陷的图像传感器元件的校准
US20150146014A1 (en) Imaging systems and methods for location-specific image flare mitigation
CN104184940A (zh) 控制设备、摄像系统和控制方法
CN109905681B (zh) 图像传感器、从其获取图像数据的方法及摄像设备
CN106454018B (zh) 全光照相机以及控制它的方法
JP6846341B2 (ja) 空間光変調器を含むプレノプティックカメラ
Teli et al. Spatial frequency-based angular behavior of a short-range flicker-free MIMO–OCC link
CN109429011A (zh) 飞行物、移动设备、控制方法和存储介质
CN104394391A (zh) 相机采集的点阵图像的图像数据处理方法和系统
CN112135017A (zh) 图像传感器、图像处理方法及装置、成像模组、存储介质
CN202617286U (zh) 影像获取装置
CN101986432B (zh) Cmos图像传感器
JP2014204151A (ja) 撮像演算装置
JP2021152456A (ja) 情報処理装置、情報処理システム、情報処理方法及びプログラム
KR101178796B1 (ko) 디지털 촬상 기기의 광역 역광 보정 기능을 테스트하기 위한 테스트 차트 셋트 및 테스트 시스템
CN112415831B (zh) 一种光学补偿图像获取装置及方法
Hassan et al. Impact of Defocusing of the Camera Lens on the Image in Optical Camera Communications
KR20240120602A (ko) 이미지 센서를 통해서 이미지를 획득하는 전자 장치 및 그 동작 방법
CN117351868A (zh) 一种led显示屏的校正系数确定方法、装置及电子设备
CN114615395A (zh) 屏下摄像装置、显示设备、屏下摄像装置生成图像的方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20190515

Address after: France

Applicant after: Interactive Digital CE Patent Holding Company

Address before: I Si Eli Murli Nor, France

Applicant before: Thomson Licensing SA

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant