CN114600165A - 用于使用偏振提示表面建模的系统和方法 - Google Patents

用于使用偏振提示表面建模的系统和方法 Download PDF

Info

Publication number
CN114600165A
CN114600165A CN202080074656.1A CN202080074656A CN114600165A CN 114600165 A CN114600165 A CN 114600165A CN 202080074656 A CN202080074656 A CN 202080074656A CN 114600165 A CN114600165 A CN 114600165A
Authority
CN
China
Prior art keywords
polarization
tensors
polarized
image
representation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080074656.1A
Other languages
English (en)
Inventor
阿丘塔·卡丹比
阿加斯塔·卡尔拉
瑟普里斯·K·拉奥
卡提克·文卡塔拉曼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Boston Polarization Measurement Co
Original Assignee
Boston Polarization Measurement Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Boston Polarization Measurement Co filed Critical Boston Polarization Measurement Co
Publication of CN114600165A publication Critical patent/CN114600165A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/10—Image acquisition
    • G06V10/12—Details of acquisition arrangements; Constructional details thereof
    • G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/145—Illumination specially adapted for pattern recognition, e.g. using gratings
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00—Measuring arrangements characterised by the use of optical techniques
    • G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0004—Industrial image inspection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G06T7/55—Depth or shape recovery from multiple images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/60—Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/80—Recognising image objects characterised by unique random patterns
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00—Microscopes
    • G02B21/0004—Microscopes specially adapted for specific applications
    • G02B21/0016—Technical microscopes, e.g. for inspection or measuring in industrial production processes
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00—Microscopes
    • G02B21/0004—Microscopes specially adapted for specific applications
    • G02B21/0092—Polarisation microscopes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30108—Industrial image inspection
    • G06T2207/30156—Vehicle coating
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/06—Recognition of objects for industrial automation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Analytical Chemistry (AREA)
  • Quality & Reliability (AREA)
  • Chemical & Material Sciences (AREA)
  • Optics & Photonics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Analysis (AREA)

Abstract

一种用于表面建模的计算机实现方法包括：接收物理物体的表面的一个或多个偏振原始帧，所述偏振原始帧借由偏振滤波器以不同的线性偏振角度捕获；从所述偏振原始帧提取一个或多个偏振表示空间中的一个或多个第一张量；以及基于所述一个或多个偏振表示空间中的所述一个或多个第一张量检测所述物理物体的所述表面的表面特性。

Description

用于使用偏振提示表面建模的系统和方法
相关申请的交叉参考
本申请要求在2019年9月17日向美国专利商标局申请的第62/901,731号美国临时专利申请和在2020年3月29日向美国专利商标局申请的第63/001,445号美国临时专利申请的优先权和益处，其全部公开内容通过引用并入本文。
技术领域
本公开的实施例的方面涉及计算机视觉和使用机器视觉对物体表面建模的领域。
背景技术
由于各种原因，在制造中通常需要大规模表面建模。一个应用领域是汽车和汽车部件的制造，其中使用计算机视觉或机器视觉的表面建模提供了用于自动检查扫描表面的方法，这可提高效率且使制造成本降低。
大规模表面建模还可应用于其他场合，诸如实验室工作和对大规模制造之外的个别工件的检查。
发明内容
本公开的实施例的方面涉及通过使用光偏振(例如，光波的旋转)来向特性化物体的表面的过程提供附加信息通道的表面建模。本公开的实施例的方面可应用于诸如制造的场景，其中表面特性化用以执行物体检查作为质量保证过程的组成部分，诸如检测在生产线上生产的有缺陷的货物并且移除或修复那些有缺陷的物体。
根据本公开的一个实施例，一种用于表面建模的计算机实现方法包括：接收物理物体的表面的一个或多个偏振原始帧，所述偏振原始帧由包括偏振滤波器的偏振相机以不同偏振捕获；从所述偏振原始帧提取一个或多个偏振表示空间中的一个或多个第一张量；以及基于所述一个或多个偏振表示空间中的所述一个或多个第一张量检测所述物理物体的所述表面的表面特性。
一个或多个偏振表示空间中的一个或多个第一张量可包括：线性偏振度(DOLP)表示空间中的DOLP图像；以及线性偏振角(AOLP)表示空间中的AOLP图像。
所述一个或多个第一张量还可包括一个或多个非偏振表示空间中的一个或多个非偏振张量，以及所述一个或多个非偏振张量可包括强度表示空间中的一个或多个强度图像。
所述一个或多个强度图像可包括：第一颜色强度图像；第二颜色强度图像；以及第三颜色强度图像。
所述表面特性可包括对所述物理物体的所述表面中的缺陷的检测。
检测所述表面特性可包括：加载与所述物理物体的所述表面的位置相对应的存储模型；以及根据所述存储模型和所述一个或多个偏振表示空间中的所述一个或多个第一张量来计算所述表面特性。
所述存储模型可包括所述一个或多个偏振表示空间中的一个或多个参考张量，以及计算所述表面特性可包括计算所述一个或多个偏振表示空间中的所述一个或多个参考张量与所述一个或多个第一张量之间的差。
所述差可使用菲涅耳距离来计算。
所述存储模型可包括参考三维网格，以及计算所述表面特性可包括：基于所述一个或多个偏振表示空间中的所述一个或多个第一张量来计算所述物理物体的所述表面的三维点云；以及计算所述三维点云与所述参考三维网格之间的差。
所述存储模型可包括经训练的统计模型，所述经训练的统计模型被配置为基于所述一个或多个偏振表示空间中的所述一个或多个第一张量来计算表面特性的预测。
所述经训练的统计模型可包括异常检测模型。
所述经训练的统计模型可包括被训练以检测所述物理物体的所述表面中的缺陷的卷积神经网络。
所述经训练的统计模型可包括被训练以检测缺陷的经训练的分类器。
根据本公开的一个实施例，一种用于表面建模的系统包括：包括偏振滤波器的偏振相机，所述偏振相机被配置为以不同偏振捕获偏振原始帧；以及包括处理器和存储指令的存储器的处理系统，所述指令在由所述处理器执行时使所述处理器：接收物理物体的表面的一个或多个偏振原始帧，所述偏振原始帧对应于光的不同偏振；从所述偏振原始帧提取一个或多个偏振表示空间中的一个或多个第一张量；以及基于所述一个或多个偏振表示空间中的所述一个或多个第一张量检测所述物理物体的所述表面的表面特性。
所述一个或多个偏振表示空间中的所述一个或多个第一张量可包括：线性偏振度(DOLP)表示空间中的DOLP图像；以及线性偏振角(AOLP)表示空间中的AOLP图像。
所述一个或多个第一张量还可包括一个或多个非偏振表示空间中的一个或多个非偏振张量，所述一个或多个非偏振张量可包括强度表示空间中的一个或多个强度图像。
所述一个或多个强度图像可包括：第一颜色强度图像；第二颜色强度图像；以及第三颜色强度图像。
所述表面特性可包括对所述物理物体的所述表面中的缺陷的检测。
存储器还可存储指令，当由处理器执行指令时，使得处理器通过以下步骤来检测所述表面特性：加载与所述物理物体的所述表面的位置相对应的存储模型；以及根据所述存储模型和所述一个或多个偏振表示空间中的所述一个或多个第一张量来计算所述表面特性。
所述存储模型可包括所述一个或多个偏振表示空间中的一个或多个参考张量，并且所述存储器还可存储指令，所述指令在由所述处理器执行时使所述处理器通过计算所述一个或多个偏振表示空间中的所述一个或多个参考张量与所述一个或多个第一张量之间的差来计算所述表面特性。
所述差可使用菲涅耳距离来计算。
所述存储模型可包括参考三维网格，以及所述存储器还可存储指令，所述指令在由所述处理器执行时使所述处理器通过以下步骤来计算所述表面特性：基于所述一个或多个偏振表示空间中的所述一个或多个第一张量来计算所述物理物体的所述表面的三维点云；以及计算所述三维点云与所述参考三维网格之间的差。
所述存储模型可包括经训练的统计模型，所述经训练的统计模型被配置为基于所述一个或多个偏振表示空间中的所述一个或多个第一张量来计算所述表面特性的预测。
所述经训练的统计模型可包括异常检测模型。
所述经训练的统计模型可包括被训练以检测所述物理物体的所述表面中的缺陷的卷积神经网络。
所述经训练的统计模型可包括被训练以检测缺陷的经训练的分类器。
附图说明
附图与说明书一起说明了本发明的示例性实施例，并且与说明书描述一起用于解释本发明的原理。
图1A是根据本公开一个实施例的借由表面特性化系统被检查的物体(例如，汽车)的表面的示意性描绘。
图1B是根据本公开一个实施例的表面特性化系统的示意性框图。
图2A是一个场景的图像或强度图像，其中一个真实的透明球放置在描绘了包含两个透明球(“欺骗者”)和一些背景杂物的另一个场景的照片打印件上。
图2B描述了利用以基于掩模区域的卷积神经网络(Mask Region-basedConvolutional Neural Network)(掩模R-CNN(Mask R-CNN))计算的重叠分割掩模(overlaid segmentation mask)的图2A的强度图像识别透明球的实例，其中真实的透明球被正确地识别为实例，并且两个欺骗者被不正确地识别为实例。
图2C是根据本发明一个实施例的从场景的所捕获的偏振原始帧计算的偏振角图像。
图2D示出了根据本发明实施例的利用以使用偏振数据计算的重叠分割掩模的图2A的强度图像，其中真实透明球被正确地识别为实例，并且两个欺骗被正确地排除为实例。
图3是光与透明物体和非透明物体的相互作用(例如，漫射和/或反射)的高阶描绘。
图4是到折射率约为1.5的表面在入射角范围内的透射与反射的光的能量的图。
图5是根据本发明一个实施例的用于基于偏振数据计算表面特性化输出的处理电路100的框图。
图6是根据本发明的一个实施例的用于基于输入图像执行表面特性化以计算表面特性化输出的方法的流程图。
图7A是根据本发明一个实施例的特征提取器的框图。
图7B是绘示根据本发明一个实施例的用于从偏振原始帧提取特征的方法的流程图。
图8A是根据本发明一个实施例的预测器的框图。
图8B是描述根据本发明的一个实施例的用于检测物体表面特性的方法的流程图。
具体实施方式
在以下详细描述中，通过说明的方式，仅示出和描述了本发明的某些示例性实施例。如本领域技术人员将认识到的，本发明可以以许多不同的形式实施，并且不应被解释为限于本文阐述的实施例。在整个说明书中，类似的附图标记表示类似的元件。
如本文所使用的，术语“表面建模(surface modeling)”指的是捕获关于真实世界物体(real-world object)的表面的信息，诸如表面的三维形状，并且还可以包括捕获关于表面的颜色(或“纹理”)信息和关于表面的反射率的其他信息(例如，双向反射分布函数或BRDF)。
表面轮廓检查在分析表面的固有形状和曲率属性或特性时是重要的。真实世界物体的表面建模在许多需要表面特性化的领域中具有应用。例如，在制造业中，表面建模可用于执行对通过制造流程生产的物体的检查，从而使得能够检测物体(或制造的货物或工件)中的缺陷并且从制造流中移除那些有缺陷的物体。一个应用领域是汽车和汽车部件的制造，诸如在有缺陷的汽车部件的自动检测中，其中计算机视觉或机器视觉系统(例如，使用一个或多个相机)捕获汽车部件的图像并生成关于部件质量的分类结果和/或其他检测信息，诸如窗户是否被刮擦或门板是否有凹痕。应用使用计算机视觉的表面建模技术来执行扫描表面的自动检查，诸如通过在制造或组装过程中早期检测错误，提高了效率并降低了制造成本。
与例如通过物理触摸探测对象的接触式三维(3-D)扫描仪相比，计算机视觉和机器视觉技术使得能够进行快速且无接触的表面建模。然而，无论是被动地(例如，没有额外的照明)还是主动地(例如，具有可发射结构光的主动照明装置)执行的比较性计算机视觉技术可能都无法可靠地确定可被称为“光学挑战性(optically challenging)”的表面特性类别。这些可能是缺陷的颜色与缺陷出现的表面的背景颜色非常相似的情况。例如，在表面的标准彩色图像中可能经常难以看到的诸如玻璃窗中或光泽涂料的透明涂层中的划痕和已涂料或未涂料的金属表面中的浅凹痕等缺陷，因为由于这些缺陷所导致的颜色(或纹理)变化可能相对较小。换句话说，缺陷的颜色和无缺陷(或“干净的”)表面的颜色之间的对比度可能相对较小，诸如在已涂料门板中的凹痕与无凹痕部分具有相同颜色的情况下。
因此，本公开的实施例的一些方面涉及基于物体的偏振特征来检测物体中的缺陷，如基于使用一个或多个偏振相机(例如，在光路中包括偏振滤波器的相机)对被检查物体捕获的原始(raw)偏振帧来计算的。在一些实施例中，偏振增强成像可提供对表面形状的特性化(characterization)的数量级改进，包括表面法线的检测方向的准确度。美观的光滑表面不能具有凸起或凹陷，凸起或凹陷本质上是局部曲率变化，而这又由它们的表面法线表示限定。因此，本公开的一些实施例可应用于工业部件的高精度制造中的平滑度检测和形状保真度。一种使用情况涉及在制造的部件离开装配线以交付给最终客户之前对它们进行检查。在许多制造系统中，制造的部件在传送系统上(例如，在传送带上)以高速率离开装配线，并且为了提高吞吐量，要求在部件仍在移动时进行检查，并且在部件之间具有非常短的时间。
因此，本公开的实施例的一些方面涉及用于表面特性化(surfacecharacterization)的系统和方法，包括通过捕获要被特性化的表面的偏振原始帧，并且基于那些偏振原始帧计算特性化，诸如检测表面中的缺陷。
图1A是根据本公开的一个实施例的借由表面特性化系统被检查的物体(例如，汽车)的表面的示意性描绘。在图1A所示的布置中，被检查物体1可以在场景或环境内。例如，在工厂或其它制造厂的环境中，被检查物体1可以位于装配线上，并且可以在诸如传送带或高架传送机(例如，高架链式传送机)的传送系统40上运动。被检查物体1可以具有一个或多个表面(在图1A中标记为表面2、表面3和表面4)，其由一个或多个偏振相机10成像。偏振相机10可以安装在安装座上，其中该安装座可以是可移动安装座，其诸如在机械臂32的末端执行器上，或者可以是固定安装座，其例如固定在传送系统上方或者作为传送系统的一部分的台架(gantry)34上。偏振相机10捕获被检查物体1的各个表面2、3和4的偏振原始帧(图像)18，其中每个偏振相机10在其光路中包括偏振滤波器。
图1B是根据本发明一个实施例的表面特性化系统的示意性框图。特别地，图1B描述了所述偏振相机10中被配置用于对被检查物体1的表面2成像的偏振相机10。在图1B所示的实施例中，偏振相机10具有带视场(field of view)的透镜12，其中透镜12和相机10被定向为使得视场包含被检查表面(例如，被检查物体1的被检查表面2)。透镜12被配置成将来自场景(例如，来自被检查表面)的光引导(例如，将光聚焦)到诸如图像传感器14(例如，互补金属氧化物半导体(CMOS)图像传感器或电荷耦合器件(CCD)图像传感器)之类的光敏介质上。
偏振相机10还包括置于场景1和图像传感器14之间的光路中的偏振器或偏振滤波器或偏振掩模(polarization mask)16。根据本公开的各种实施例，偏振器或偏振掩模16被配置为使得偏振相机10能够利用以各种指定角度设置的偏振器(例如，以45°旋转或以60°旋转或以非均匀间隔旋转)来捕获场景1的图像。
作为一个示例，图1B示出了一个实施例，其中偏振掩模16是以类似于彩色相机的红-绿-蓝(RGB)滤色器(例如，拜尔滤波器(Bayer filter))的方式与图像传感器14的像素栅格对准的偏振马赛克(polarization mosaic)。以类似于滤色器马赛克如何基于波长对入射光进行过滤以使得图像传感器14中的每个像素根据马赛克的滤色器的图案接收光谱的特定部分(例如，红色、绿色或蓝色)中的光的方式，使用偏振马赛克的偏振掩模16基于线性偏振对光进行过滤以使得不同像素以不同的线性偏振角度(例如，以0°、45°、90°和135°，或以0°、60°度和120°)接收光。因此，使用诸如图1所示的偏振掩模16的偏振相机10能够同时或同步捕获四种不同线性偏振的光。偏振相机的一个例子是由俄勒冈州威尔逊维尔(Wilsonville)的
Figure BDA0003614118190000081
系统公司(
Figure BDA0003614118190000084
Systems,Inc.)生产的
Figure BDA0003614118190000082
S偏振相机(
Figure BDA0003614118190000083
S Polarization Camera)。
虽然以上描述涉及使用偏振马赛克的偏振相机的一些可能的实现，但是本公开的实施例不限于此，并且涵盖能够以多个不同偏振捕获图像的其他类型的偏振相机。例如，偏振掩模16可以具有少于四个偏振或多于四个不同的偏振，或者可以具有在与上文所述角度不同的角度处的偏振(例如，在0°、60°和120°的偏振角度处或在0°、30°、60°、90°、120°和150°的偏振角度处)。作为另一示例，偏振掩模16可使用诸如电光调制器(例如，可包括液晶层)的电子控制的偏振掩模来实现，其中掩模的各自像素的偏振角可被独立地控制，使得图像传感器14的不同部分接收具有不同偏振的光。作为另一示例，电光调制器可被配置为在捕获不同帧时传输不同线性偏振的光，例如，使得相机以整个偏振掩模被顺序地设置为不同线性偏振器角度(例如，顺序地设置为：0度；45度；90度；或135度)来捕获图像。作为另一个例子，偏振掩模16可包括机械旋转的偏振滤波器，使得偏振相机10捕获不同的偏振原始帧，其中偏振滤波器相对于镜头12机械旋转以将不同偏振角度的光传输到图像传感器14。此外，虽然上述例子涉及使用线性偏振滤波器，但是本公开的实施例不限于此，并且还包括使用包括圆偏振滤波器(例如，具有四分之一波片的线性偏振滤波器)的偏振相机。因此，在本公开的各种实施例中，偏振相机使用偏振滤波器来以不同光偏振捕获多个偏振原始帧，诸如不同的线性偏振角度和不同的圆偏振(例如，手性(handedness))。
结果，偏振相机10捕获包括被检查目标1的被检查表面2的场景的多个输入图像18(或偏振原始帧)。在一些实施例中，每个偏振原始帧18对应于在偏振滤波器或偏振器后以不同的偏振角度φpol(例如，0度、45度、90度或135度)拍摄的图像。与从相对于场景的不同位置和定向捕获偏振原始帧相反，从相对于场景1的基本上相同的位姿捕获每个偏振原始帧18(例如，利用偏振滤波器以0度、45度、90度或135度捕获的图像全部由处于同一位置和定向的同一偏振相机100捕获)。偏振相机10可被配置成检测电磁谱的各种不同部分中的光，诸如电磁谱的人类可见部分、人类可见谱的红色、绿色和蓝色部分以及电磁谱的不可见部分，例如红外和紫外。
在本公开的一些实施例中，诸如上述实施例中的一些，不同的偏振原始帧由同一的偏振相机10捕获，并且因此可从相对于场景1的基本上相同的位姿(例如，位置和定向)捕获。然而，本公开的实施例不限于此。例如，偏振相机10可在不同的偏振原始帧之间相对于场景1移动(例如，当在不同的时间捕获与不同的偏振角度相对应的不同的原始偏振原始帧时，诸如在机械旋转偏振滤波器的情况下)，这是因为偏振相机10已经移动或者因为物体1已经移动(例如，如果物体在移动的传送器系统上)。在一些实施例中，不同的偏振相机在不同的时间捕获物体的图像，但是是以相对于物体基本上相同的位姿(例如，不同的相机在传送系统中的不同点处捕获物体的相同表面的图像)。因此，在本公开的一些实施例中，使用偏振相机10以相对于被检查物体1和/或被检查表面2的不同位姿或相同相对位姿捕获不同偏振原始帧。
偏振原始帧18被提供给处理电路100，下面将更详细地描述，其基于偏振原始帧18计算特性化输出20。在图1B所示的实施例中，特性化输出20包括表面2的图像中检测到缺陷(例如，汽车车门中的凹痕)的区域21。
图2A、2B、2C和2D提供了背景，用于说明根据本公开的实施例的通过比较方法(comparative approach)和语义分割(semantic segmentation)或实例分割(instancesegmentation)基于偏振原始帧而计算的分割图(segmentation map)。更详细地，图2A是一个场景的图像或强度图像，其中一个真实的透明球放置在描绘了包含两个透明球(“欺骗者”)和一些背景杂物的另一场景的照片打印件上。图2B示出了重叠在图2A的强度图像上以基于掩模区域的卷积神经网络(Mask Region-based Convolutional Neural Network)(掩模R-CNN(Mask R-CNN))计算的分割掩模使用不同的线图案识别透明球的实例，其中真实的透明球被正确地识别为实例，并且两个欺骗者被不正确地识别为实例。换句话说，掩模R-CNN算法被欺骗，以致将两个欺骗透明球标记为场景中的实际透明球的实例。
图2C是根据本发明的一个实施例的从场景的所捕获的偏振原始帧计算的线性偏振角(angle of linear polarization,AOLP)图像。如图2C所示，透明物体在诸如AOLP域的偏振空间中具有非常独特的纹理，其中在边缘上存在几何相关特征标记(signature)，并且在线性偏振角下在透明物体的表面上出现明显不同的或独特的或特定的图案。换句话说，透明物体的内在纹理(例如，与从通过透明物体可见的背景表面所取的外在纹理相反)在图2C的偏振角图像中比在图2A的强度图像中更可见。
图2D示出了根据本发明的实施例的利用以使用偏振数据计算的重叠分割掩模的图2A的强度图像，其中真实透明球被正确地使用重叠线图案识别为一实例，并且两个欺骗者被正确地排除为实例(例如，与图2B相反，图2D不包括两个欺骗者上的重叠线图案)。虽然图2A、2B、2C和2D示出了与在存在欺骗透明物体的情况下检测真实透明物体相关的示例，但是本公开的实施例不限于此，并且还可以应用于其他光学挑战性物体，诸如透明、半透明和非亚光(non-matte)或非朗伯(non-Lambertian)物体，以及非反射性(例如，亚光黑物体)和多径引入物体(multipath inducing object)。
因此，本公开的实施例的一些方面涉及从偏振原始帧提取表示空间(representation space)中的张量(或第一表示空间中的第一张量，诸如偏振特征图(polarization feature map))，以作为输入提供给表面特性化算法或其他计算机视觉算法。第一表示空间中的这些第一张量可以包括对与从场景接收的光的偏振有关的信息进行编码的偏振特征图，诸如图2C所示的AOLP图像、线性偏振度(degree of linearpolarization,DOLP)特征图等(例如，从偏振原始帧的各自偏振原始帧的斯托克斯矢量(Stokes vector)或变换的其他组合)。在一些实施例中，这些偏振特征图与非偏振特征图(例如，诸如图2A中所示的图像的强度图像)一起使用，以提供语义分割算法使用的附加信息通道。
虽然本发明的实施例不限于与特定表面特性化算法一起使用，但是本发明的实施例的一些方面涉及用于透明物体(例如，车辆的玻璃窗和透明的涂料的光泽层)或其他光学挑战性物体(例如，透明的、半透明的、非朗伯的、多径引入物体和非反射的(例如，非常暗的)物体)的基于偏振的表面特性化的深度学习框架，其中这些框架可以被称为偏振卷积神经网络(偏振CNN(Polarized CNN))。该偏振CNN框架包括适合于处理偏振的特定纹理的主干，并且可以与诸如掩模R-CNN的其他计算机视觉架构耦合(例如，以形成偏振掩模R-CNN架构)，以产生用于透明物体和其他光学挑战性物体的准确且鲁棒(robust)的特性化的解决方案。此外，该方法可应用于混有透明和非透明(例如，不透明(opaque)物体)的场景，并且可用于特性化被检查的一个或多个物体的透明、半透明、非朗伯、多径引入、暗的和浑浊表面。
偏振特征表示空间
本公开的实施例的一些方面涉及用于在操作650中从偏振原始帧提取特征(feature)的系统和方法，其中这些提取特征在操作690中用于物体的表面中的光学挑战性特性的鲁棒检测。相反，仅依赖于强度图像的比较技术可能无法检测这些光学挑战性特征或表面(例如，比较图2A的强度图像与图2C的AOLP图像，如上面所讨论的)。在此将使用术语“第一表示空间”中的“第一张量”来指代从由偏振相机捕获的偏振原始帧18计算(例如，提取)的特征，其中这些第一表示空间至少包括偏振特征空间(例如，包含关于由图像传感器检测的光的偏振的信息的诸如AOLP和DOPL的特征空间)，并且还可包括非偏振特征空间(例如，不需要关于到达图像传感器的光的偏振的信息的特征空间，诸如仅基于在没有任何偏振滤波器的情况下捕获的强度图像计算的图像)。
光和透明物体之间的相互作用是丰富且复杂的，但是物体的材料决定了其在可见光下的透明度。对于许多透明的家用物品，大部分可见光直接通过，而一小部分(约4％至约8％，取决于折射率)被反射。这是因为光谱的可见部分中的光具有不足以激发透明物体中的原子的能量。结果，透明物体后面的(或通过透明物体可见的)物体纹理(例如，外观)主导透明物体的外观。例如，当看桌子上的透明玻璃杯(glass cup)或平底玻璃杯(tumbler)时，玻璃杯的另一侧(例如桌子的表面)上的物体的外观通常主导透过杯所看到的。当试图仅仅基于强度图像来检测诸如玻璃窗和涂料的光泽透明层的透明物体的表面特性时，此属性导致一些困难：
图3是光与透明物体和非透明物体的相互作用(例如，漫射和/或反射)的高阶描绘。如图3所示，偏振相机10捕获场景的偏振原始帧，该场景包括在不透明背景物体303前面的透明物体302。到达偏振相机10的图像传感器14的光线310包含来自透明物体302和背景物体303的偏振信息。与从背景物体303反射并穿过透明物体302的光313相比，来自透明物体302的反射光312的一小部分被严重偏振，因此对偏振测量具有大的影响。
类似地，达到物体表面的光线可以以各种方式与表面的形状相互作用。例如，具有光泽涂料的表面可以表现得基本上类似于如图3所示的不透明物体前面的透明物体，其中光线与光泽涂料的透明或半透明层(或透明涂层)之间的相互作用使得从表面反射的光基于透明或半透明层的特性(例如，基于层的厚度和表面法线)而被偏振，其被编码在到达图像传感器的光线中。类似地，如下面关于由偏振定形状(shape from polarization)(SfP)理论更详细讨论的，表面形状(例如，表面法线的方向)的变化可以引起由物体表面反射的光的偏振的显著变化。例如，光滑表面通常可以始终表现出相同的偏振特性，但是表面中的划痕或凹痕改变了那些区域中的表面法线的方向，并且到达划痕或凹痕的光可能以不同于物体表面的其他部分中的方式被偏振、衰减或反射。光和物质之间的相互作用的模型通常考虑三项基础：几何形状、照明和材料。几何形状基于材料的形状。照明包括照明的方向和颜色。材料可以由光的折射率或角反射/透射来参数化。这个角反射被称为双向反射分布函数(bi-directional reflectance distribution function,BRDF)，尽管其它函数形式可以更精确地表示某些情况。例如，双向次表面散射分布函数(bidirectional subsurfacescattering distribution function,BSSRDF)在呈现次表面散射的材料(例如大理石或蜡)的背景下将更准确。
到达偏振相机10的图像传感器16的光线310具有三个可测量分量：光的强度(强度图像/I)、线性偏振光的百分比或比例(线性偏振度/DOLP/ρ)和线性偏振的方向(线性偏振角/AOLP/φ)。这些属性对关于被成像物体的表面曲率和材料的信息进行编码，其可被预测器800使用来检测透明物体，如下文更详细地描述的。在一些实施例中，预测器800可基于通过半透明物体的光和/或与多径引入物体或通过非反射性物体(例如，亚光黑色物体)相互作用的光的类似偏振属性来检测其他光学挑战性物体。
因此，本发明实施例的一些方面涉及使用特征提取器700来计算一个或多个第一表示空间中的第一张量，其可包括基于强度I、DOLPρ和AOLPφ的导出(derived)特征图。特征提取器700通常可将信息提取到包括诸如“偏振图像”的偏振表示空间(或偏振特征空间)的第一表示空间(或第一特征空间)中，换言之，基于偏振原始帧提取的、否则无法从强度图像(例如，由不包括偏振滤波器或用于检测到达其图像传感器的光的偏振的其他机构的相机捕获的图像)可计算的图像，其中这些偏振图像可包括DOLPρ图像(在DOLP表示空间或特征空间中)、AOLPφ图像(在AOLP表示空间或特征空间中)、从斯托克斯矢量计算的偏振原始帧的其他组合、以及从偏振原始帧计算的信息的其他图像(或更通常地，第一张量或第一特征张量)。第一表示空间可包括非偏振表示空间，诸如强度I表示空间。
在每个像素处测量强度I、DOLPρ和AOLPφ需要在偏振滤波器(或偏振器)后以不同角度φpol拍摄的场景的3个或更多偏振原始帧(例如，因为有三个未知值需要确定：强度I、DOLPρ和AOLPφ)。例如，上文描述的
Figure BDA0003614118190000144
S偏振相机以偏振角φpol为0度、45度、90度或135度捕捉偏振原始帧，从而产生四个偏振原始帧
Figure BDA0003614118190000145
在此表示为I0，I45，I90和I135。
每个像素处
Figure BDA0003614118190000146
与强度I、DOLPρ和AOLPφ之间的关系可表示为：
Figure BDA0003614118190000147
因此，借由四个不同的偏振原始帧
Figure BDA0003614118190000148
(I0,I45,I90和I135)，可使用四个等式的系统来求解强度I、DOLPρ和AOLPφ。
由偏振定形状(SfP)理论(参见，例如，Gary A Atkinson和Edwin R Hancock的Recovery of surface orientation from diffuse polarization.IEEE transactionson image processing,15(6):1653-1664,2006.)说明当漫反射占主导时，物体表面法线的折射率(n)、方位角(θa)和天顶角(θz)与来自该物体的光线的φ和ρ分量之间的关系遵循以下特性：
Figure BDA0003614118190000141
φ＝θa (3)
以及当镜面反射占主导时：
Figure BDA0003614118190000142
Figure BDA0003614118190000143
其中，在这两种情况下，ρ都随着θz的增加呈指数增加，且如果折射率相同，镜面反射比漫反射偏振得多。
因此，本公开的实施例的一些方面涉及应用SfP理论以基于表面的原始偏振帧18来检测表面的形状(例如，表面的定向)。该方法使得能够在不使用其他用于确定物体形状的计算机视觉技术(诸如飞行时间(time-of-flight,ToF)深度感测和/或立体视觉技术)的情况下特性化物体的形状，尽管本公开的实施例可以结合这样的技术使用。
更正式地，本公开的实施例的方面涉及计算第一表示空间中的第一张量50，包括在操作650中基于由偏振相机10捕获的偏振原始帧提取偏振表示空间中的第一张量，诸如形成偏振图像(或提取导出偏振特征图)。
来自透明物体的光线有两个组分：包括反射强度Ir、反射DOLPρr和反射AOLPφr的反射部分，及包括折射强度It、折射DOLPρt和折射AOLPφt的折射部分。在结果图像中的单个像素的强度可以写为：
I＝Ir+It (6)
当具有线性偏振角φpol的偏振滤波器被置于相机前时，在给定像素处的值是：
Figure BDA0003614118190000153
根据Lr,ρr,φr,It,ρt和φt求解上述表达式，求出DOLPρ图像中的像素值和AOLPφ图像中的像素值：
Figure BDA0003614118190000151
Figure BDA0003614118190000152
因此，根据本公开的一个实施例，上面的等式(7)、(8)和(9)提供了用于形成第一表示空间中第一张量50的模型，包括强度图像I、DOLP图像ρ和AOLP图像φ，其中，使用偏振图像或偏振表示空间中的张量(包括基于等式(8)和(9)的DOLP图像ρ和AOLP图像φ)使得能够可靠地检测物体的光学挑战性表面特性，而这通常无法由仅使用强度I图像作为输入的比较系统检测到。
更详细地说，诸如DOLP图像ρ和AOLP图像φ的偏振表示空间中的第一张量(在导出特征图50之中)，可揭示物体的表面特性，否则该物体可能在强度I域中表现为无纹理。透明物体可能具有在强度域I中不可见的纹理，因为该强度严格依赖于Ir/It的比率(参见等式(6))。与It＝0的不透明物体不同，透明物体传输大部分入射光，只反射一小部分入射光。作为另一个例子，在强度I域(例如，不考虑光的偏振的域)中，其他光滑表面(或其他粗糙表面中的光滑部分)的形状中的薄的或小的偏差可能基本上不可见或具有低对比度，但是在诸如DOLPρ或AOLPφ的偏振表示空间中可能是非常可见的或具有高对比度。
因此，获取表面形貌的一种示例性方法是结合几何正则化(geometricregularization)使用偏振提示。菲涅尔方程(Fresnel equation)将AOLPφ和DOLPρ与表面法线相关联。通过利用所谓的表面的偏振图案(polarization pattern)，这些方程对于异常检测可能是有益的。偏振图案是大小为[M，N，K]的张量，其中M和N分别是水平和垂直像素尺寸，其中K是偏振数据信道，其大小可以变化。例如，如果忽略圆偏振，只考虑线性偏振，那么K将等于二，因为线性偏振具有偏振角和偏振度(AOLPφ和DOLPρ)二者。与莫尔图案(Moire pattern)类似，在本公开的一些实施例中，特征提取模块700提取偏振表示空间(例如，AOLP空间和DOLP空间)中偏振图案。在上面所示的图1A和图1B中所示的示例性特性化输出20中，水平和垂直尺寸对应于由偏振相机10捕获的表面2的窄条带(strip)或块(patch)的横向视场。然而，这是一种示例性情况：在各种实施例中，表面的条带或块可以是垂直的(例如，与宽相比高得多)、水平的(例如，与高相比宽得多)，或者具有趋向于更接近正方形的更常规的视场(FoV)(例如，宽与高的比为4:3或16:9)。
虽然前面的讨论提供了在使用具有一个或多个线性偏振滤波器的偏振相机捕捉对应于不同线性偏振角度的偏振原始帧并计算诸如DOLP和AOLP的线性偏振表示空间中的张量的情况下，基于线性偏振的偏振表示空间的具体示例，但本公开的实施例不限于此。例如，在本公开的一些实施例中，偏振相机包括一个或多个圆偏振滤波器，其被配置为仅通过圆偏振光，并且其中圆偏振表示空间中的偏振图案或第一张量进一步从偏振原始帧提取。在一些实施例中，圆偏振表示空间中的这些附加张量单独使用，在其他实施例中，它们与诸如AOLP和DOLP的线性偏振表示空间中的张量一起使用。例如，包括偏振表示空间中的张量的偏振图案可包括圆偏振空间、AOLP和DOLP中的张量，其中偏振图案可以具有维度[M，N，k]，其中K是三，以进一步包括圆偏振表示空间中的张量。
图4是折射率约为1.5的表面在入射角范围内的透射与反射的光的能量的图。如图4所示，透射能量(图4中用实线示出)和反射能量(图4中用虚线示出)的线的斜率在低入射角(例如，在更接近垂直于表面平面的角度)下相对较小。这样，当入射角较低时(例如，接近垂直于表面，换句话说，接近表面法线)，在偏振图案中可能难以检测到表面角度的小差异(低对比度)。另一方面，反射能量的斜率随着入射角的增大而从平坦开始增大，透射能量的斜率随着入射角的增大而从平坦开始减小(以具有较大的绝对值)。在图4所示的折射率为1.5的示例中，两条线的斜率基本上从大约60°的入射角开始更陡，并且它们的斜率在大约80°的入射角非常陡。对于不同的材料，曲线的特定形状可根据材料的折射率而改变。因此，以对应于曲线的较陡部分的入射角(例如，接近平行于表面的角度，诸如在折射率为1.5的情况下为约80°，如图4所示)捕获被检查表面的图像可以提高偏振原始帧18中的表面形状变化的对比度和可检测性，并且可以提高偏振表示空间中的张量中的这种特征的可检测性，因为入射角的小变化(由于表面法线的小变化)可以引起所捕获的偏振原始帧中的大变化。
依据本公开实施例的一些方面涉及提供从偏振原始帧提取的第一表示空间中的第一张量(例如，包括偏振表示空间中的特征图)，作为对预测器的输入，用于计算或检测透明物体的表面特性和/或被检查物体的其他光学挑战性表面特性。这些第一张量可包括导出特征图，其可包括强度特征图I、线性偏振度(DOLP)ρ特征图和线性偏振角(AOLP)φ特征图，其中线性偏振度(DOLP)ρ特征图和线性偏振角(AOLP)φ特征图是偏振表示空间中的偏振特征图或张量的示例，参考对与偏振相机检测到的光的偏振有关的信息进行编码的特征图。在一些实施例中，偏振表示空间中的特征图或张量被作为输入提供给例如检测算法，利用SfP理论来特性化由偏振相机10成像的物体的表面的形状。
基于偏振特征的表面特性化
如图1A和1B所示，本发明的实施例的各方面涉及用于通过使用一个或多个偏振相机10捕获物体1的表面的图像来执行对被检查物体的表面特性化的系统和方法，偏振相机10捕获偏振原始帧18，偏振原始帧18由处理系统或处理电路100分析。表面的特性化可包括检测光学挑战性的表面特性，例如，使用不使用偏振信息的比较计算机视觉或机器视觉技术可能难以或不可能检测的表面特性。虽然本公开的实施例的一些方面涉及与制造产品中的缺陷(例如，诸如裂纹、撕裂、涂料或染料的不均匀施加、表面污染物的存在、无意的表面不规则或与参考模型的其他几何偏差等的缺陷)相对应的表面特性，但是本公开的实施例不限于此，并且可以应用于检测其他表面特性，诸如检测不同类型的材料之间的位置边界、测量材料在整个区域上的折射率的均匀性、特性化施加到材料的部分的表面处理的几何形状(例如，材料的蚀刻和/或材料在表面上的沉积)等。
图5是根据本发明一个实施例的用于基于偏振数据计算表面特性化输出的处理电路100的框图。图6是根据本发明的一个实施例的用于基于输入图像执行表面特性化以计算表面特性化输出的方法600的流程图。
根据本公开的各种实施例，使用被配置为执行如下文更详细描述的各种操作的一个或多个电子电路来实现处理电路100。电子电路的类型可以包括中央处理单元(CPU)、图形处理单元(GPU)、人工智能(AI)加速器(例如，向量处理器，其可包括被配置为高效地执行神经网络所共有的操作(诸如点积和softmax(归一化指数函数))的向量算术逻辑单元)、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、数字信号处理器(DSP)等。例如，在一些情况下，本公开的实施例的方面以存储在非易失性计算机可读存储器中的程序指令来实现，其中，当由电子电路(例如，CPU、GPU、AI加速器或其组合)执行时，执行本文描述的操作以从输入偏振原始帧18计算特性化输出20。由处理电路100执行的操作可由单个电子电路(例如，单个CPU、单个GPU等)来执行，或者可在多个电子电路之间分配(例如，多个GPU或与GPU结合的CPU)。多个电子电路可彼此在本地(例如，位于同一管芯上、位于同一封装内、或位于同一嵌入式装置或计算机系统内)和/或可彼此远离(例如，通过诸如蓝牙的个人局域网的网络、通过诸如本地有线和/或无线网络的局域网、和/或通过诸如互联网的广域网进行通信，在这种情况下，一些操作在本地执行而其他操作在云计算服务托管的服务器上执行)。操作以实现处理电路100的一个或多个电子电路在本文中可被称为计算机或计算机系统，其可包括存储指令的存储器，所述指令在由一个或多个电子电路执行时实现本文描述的系统和方法。
如图5所示，在一些实施例中，处理电路100包括特征提取器或特征提取系统700和预测器800(例如，经典计算机视觉预测算法和/或诸如经训练的神经网络之类的经训练的统计模型)，该预测器被配置为基于特征提取系统700的输出来计算关于物体的表面特性的预测输出20(例如，统计预测)。虽然本公开的一些实施例在本文中是在用于检测制造物体的表面中的缺陷的表面特性化系统的上下文中描述的，其中检测那些表面缺陷可能具有光学挑战性，但是本公开的实施例不限于此。例如，本公开的实施例的一些方面可以应用于用于特性化由检测具有光学挑战性的材料制成的或具有检测具有光学挑战性的表面特性的物体的表面的技术，诸如半透明物体、多径引入物体、不完全或基本上亚光的或朗伯的物体和/或非常暗的物体的表面。这些光学挑战性物体包括难以通过使用由对光的偏振不敏感的相机系统捕获的图像(例如，基于由在光路中不具有偏振滤波器的相机捕获的图像或者其中不同图像不基于不同偏振角捕获图像)来分辨或检测的物体及其表面特性。例如，这些表面特性可具有与所述特性所出现的表面非常相似的表面外观或颜色(例如，凹痕具有与底层材料相同的颜色，并且诸如玻璃的透明材料上的划痕可能也是基本上透明的)。另外，虽然本公开的实施例在本文中是在检测光学挑战性表面特性的上下文中描述的，但是本公开的实施例不限于仅检测光学挑战性表面缺陷。例如，在一些实施例中，预测器800被配置为(例如，使用训练数据训练统计模型)检测光学挑战性的表面特性以及在不使用偏振信息的情况下可鲁棒地检测的表面特性二者。
偏振可用于检测表面特性或特征，否则当单独使用强度信息(例如，颜色强度信息)时，该表面特性或特征将是光学挑战性的。例如，偏振信息可以检测物体表面中的几何形状的变化和材料的变化。材料的变化(或材料变化)，例如不同类型材料之间的边界(例如，黑路上的黑色金属物体或表面上的无色液体两者在颜色空间中可能都是基本上不可见的，但是在偏振空间中都将具有对应的偏振特征标记)，在偏振空间中可能是更可见的，因为不同材料的折射率的差异引起光的偏振的变化。同样，各种材料的镜面反射性(specularity)的差异导致偏振旋转相位角的不同变化，也导致偏振空间中的可检测特征，否则在不使用偏振滤波器的情况下，该可检测特征可能是检测具有光学挑战性的。因此，这导致对比度出现在偏振表示空间中的图像或张量中，其中在强度空间(例如，不考虑光的偏振的颜色表示空间)中计算出的张量的对应区域可能无法捕获这些表面特性(例如，其中这些表面特性在这些空间中具有低对比度或者可能是不可见的)。光学挑战性表面特性的示例包括：表面的特定形状(例如，表面的平滑度和与理想的或可接受的物理设计公差的偏差)；表面粗糙度和表面粗糙度图案的形状(例如，透明物体和机加工部件的表面中的有意蚀刻、划痕和边缘)、机加工部件和模制部件的边缘处的毛刺和飞边等等。偏振对于检测具有相同颜色但具有不同材料属性(例如散射或折射率)的物体也是有用的。
如图6所示，例如参考图1B，在操作610中，处理电路100捕获被检查物体1的表面2的偏振原始帧18。例如，在一些实施例中，处理电路100控制一个或多个偏振相机10以捕获描绘物体的特定表面2的偏振原始帧18。在本公开的各种实施例中，可使用一个或多个检测系统来触发对被检查物体的特定表面的捕获，诸如机械开关触发器(例如，当物体的一部分或传送器系统闭合电子开关以用信号通知物体的当前位置时)、激光触发器(例如，当物体1的一部分阻挡激光束到达检测器时)或光学触发器(例如，相机系统检测到物体出现在特定位置处)。
返回参考图1A，根据本公开的实施例的偏振增强成像系统或表面特性化系统可使用安装在位于传送带周围的台架上或安装在机器人臂的末端执行器上的偏振相机10，其可用于随着物体1在传送带上移动时提供物体1的基于块(patch-based)的图像(例如，物体1的表面的图像或块或条带)。在本公开的一些实施例中，系统自动地重新定位附接到可移动安装座的偏振相机10，以将偏振相机10置于使得光在表面上的入射角处于图4所示曲线的更陡或更高对比度部分的位姿(例如，基于场景中的被检查表面和光源的一般定向)。在本公开的一些实施例中，照明源(例如，运行灯或闪光灯)也可被置于固定位置或附接到可移动安装座(例如，刚性地附接到对应的偏振相机或附接到可独立移动的可移动安装座)，以使得物体的表面形状特征更容易可被检测的入射角(例如，以高入射角)，用光照射物体的表面。
因此，在本公开的一些实施例中，在操作610中捕获被检查物体1的表面2的偏振原始帧18包括根据待特性化的表面2的特定特性移动偏振相机10和/或照明源以相对于被检查表面2定位姿。例如，在一些实施例中，这涉及自动定位偏振相机10和/或照明源，使得来自照明源的光以高入射角(例如，大约80度)照射表面2。在本公开的一些实施例中，高入射角可能是可行的特定位置将基于待检查的表面的特定形状而变化(例如，车门的设计可包括具有显著不同的表面法线的不同部分，诸如门把手处的凹陷、门与窗相接的边缘、以及为了风格和/或空气动力学的门的主表面中的凹陷)。
在本公开的一些实施例中，处理电路100加载与被检查物体的类型或类别相关联的配置文件(profile)，其中该配置文件包括偏振相机10要被移动至相对于被检查物体1的一个或多个位姿的集合。具有不同形状的物体的不同类型或类别可与不同的配置文件相关联，而相同类型或类别的制造物体预期具有相同形状。(例如，不同型号的车辆可能具有不同的形状，并且这些不同型号的车辆可能混合在一条装配线上。因此，处理电路100可从不同配置文件的集合中选择与当前正在检查的车辆类型相对应的配置文件。)因此，偏振相机10可以自动地移动通过存储在配置文件中的一系列位姿，以捕获被检查物体1的表面的偏振原始帧18。
在图5和图6所示的实施例中，在操作650中，处理电路100的特征提取系统700从场景的输入偏振原始帧18提取一个或多个第一表示空间中的一个或多个第一特征图50(包括各种偏振表示空间中的偏振图像或偏振特征图)。
图7A是根据本发明一个实施例的特征提取器700的框图。
图7B是绘示根据本发明一个实施例的用于从偏振原始帧提取特征的方法的流程图。在图7A所示的实施例中，特征提取器700包括强度提取器720，其被配置为提取强度表示空间中的强度图像I52(例如，根据等式(7)，作为非偏振表示空间的一个示例)，和偏振特征提取器730，其被配置为提取一个或多个偏振表示空间中的特征。在本公开的一些实施例中，省略了强度提取器720，并且特征提取器不提取强度图像I52。
如图7B所示，在操作650中提取偏振图像可包括在操作651中根据第一斯托克斯矢量从偏振原始帧提取第一偏振表示空间中的第一张量。在操作652中，特征提取器700进一步从偏振原始帧中提取第二偏振表示空间中的第二张量。例如偏振特征提取器730可包括被配置为提取DOLPρ图像54(例如，根据等式(8)的第一偏振图像或第一张量，其中DOLP作为第一偏振表示空间)的DOLP提取器740和被配置为从所提供的偏振原始帧18提取AOLPφ图像56(例如，根据等式(9)的第二偏振图像或第二张量，其中AOLP作为第二偏振表示空间)的AOLP提取器760。此外，在各种实施例中，特征提取系统700在两个或更多个表示空间(例如，n个表示空间)中提取两个或更多个不同的张量(例如，n个不同的张量)，其中在操作614中提取第n张量。如上所述，在本公开的一些实施例中，偏振特征提取器730在包括线性偏振表示空间(例如，从使用线性偏振滤波器捕获的偏振原始帧中提取前述AOLP和DOLP表示空间中的张量)和圆偏振表示空间(例如，从使用圆偏振滤波器捕获的偏振原始帧中提取的张量)的偏振表示空间中提取偏振特征。在各种实施例中，表示空间包括但不限于偏振表示空间。
偏振表示空间可包括根据斯托克斯矢量的偏振原始帧的组合。作为进一步的例子，偏振表示可包括根据一个或多个图像处理滤波器(例如，用于增加图像对比度的滤波器或去噪滤波器)对偏振原始帧的修改或变换。然后，第一偏振表示空间中的特征图52、54和56可以被提供给预测器800，用于基于特征图50检测表面特性。
虽然图7B示出了在多于两个不同的表示空间中从偏振原始帧18提取两个或更多个不同张量的情况，但本发明的实施例不限于此。例如，在本公开的一些实施例中，从偏振原始帧18提取偏振表示空间中就一个张量。例如，原始帧的一个偏振表示空间是AOLPφ，另一个是DOLPρ(例如，在一些应用中，AOLP可足以检测透明物体的表面特性或诸如半透明、非朗伯、多径引入和/或非反射物体的其他光学挑战性物体的表面特性)。
因此，从偏振原始帧18提取诸如偏振特征图或偏振图像的特征产生第一张量50，光学挑战性表面特性可自其从被检查物体表面图像被检测。在一些实施例中，由特征提取器700提取的第一张量可以是与可能在偏振原始帧中展现的潜在(underlying)物理现象(例如，如上所述，线性偏振空间中的AOLP和DOLP图像的计算以及圆偏振空间中的张量的计算)相关的明确的导出特征(例如，由人类设计者手工制得)。在本公开的一些附加实施例中，特征提取器700提取其他非偏振特征图或非偏振图像，诸如不同颜色光(例如，红、绿和蓝光)的强度图和强度图的变换(例如，将图像处理滤波器应用于强度图)。在本公开的一些实施例中，特征提取器700可被配置为提取通过基于标记的训练数据的端到端监督训练过程自动学习的一个或多个特征(例如，不由人手动指定的特征)。在一些实施例中，这些学习特征提取器可包括深度卷积神经网络，其可与传统计算机视觉滤波器(例如，哈尔小波变换(Haar wavelet transform)、坎尼边缘检测器(Canny edge detector)等)结合使用。
基于包括偏振表示空间的表示空间中的张量的表面特性化
由特征提取系统700提取的第一表示空间中的特征图50(包括偏振图像)作为输入被提供给处理电路100的预测器800，其在操作690中实现一个或多个预测模型以计算表面特性化输出20。
在预测器800是缺陷检测系统的情况下，预测可以是表面2的图像20(例如，强度图像)，其中，图像的一部分被标记21或突出显示为包含缺陷。在一些实施例中，缺陷检测系统的输出是分割图(segmentation map)，其中每个像素可以与该像素对应于表面特性化系统被训练以检查的物体中可能发现的各种可能类别(或类型)的表面特性(例如，缺陷)的位置的一个或多个置信度、或者该像素对应于被检查物体表面的图像中的异常状况的置信度相关联。在预测器是分类系统的情况下，预测可包括多个类别和图像描绘每个所述类别的实例(例如，图像描绘各种类型的缺陷或不同类型的表面特性，诸如光滑玻璃、蚀刻玻璃、刮擦玻璃等)的相应置信度。在预测器800是经典计算机视觉预测算法的情况下，预测器可计算检测结果(例如，通过将第一表示空间中的所提取的特征图与第一表示空间中的模型特征图进行比较来检测缺陷，或者识别在预期平滑的区域中的特征图中具有急剧或不连续变化的边缘或区域)。
在图5所示的实施例中，预测器800实现缺陷检测系统，并在操作690计算包括检测缺陷的位置的表面特性输出20，其是基于从输入偏振原始帧18提取的经提取的第一表示空间中的第一张量50计算的。如上所述，特征提取系统700和预测器800使用被配置为执行其操作的一个或多个电子电路来实现，如下面更详细描述的。
根据本公开的各种实施例，由一个或多个偏振相机10成像的物体1的表面2根据与该表面相关联的模型来特性化。由根据本发明实施例的表面特性化系统执行的表面特性化的具体细节取决于特定应用和被特性化的表面。
继续上面检测汽车表面上的缺陷的例子，由于制造各种部件的位置和方法以及由于不同部件所使用的材料类型，不同类型的缺陷可能出现在汽车的不同表面上。例如，已涂料金属门板可能表现出的缺陷类型(例如，划痕、凹痕)与玻璃窗的(例如，划痕、碎片和裂纹)不同，而玻璃窗可能表现出的缺陷与塑料部件中发现的那些缺陷(例如，前灯罩，其也可能表现出划痕、碎片和裂纹，但也可能包含预期的和有意的表面不规则，包括诸如表面隆起和凸起以及脱膜顶销痕(ejector pin mark))不同。
作为另一个例子，在机加工的金属部件中，一些表面可以预期是光滑和有光泽的，而其它表面可以预期是粗糙的或具有特定的物理图案(例如，凹槽、凸起或随机纹理的图案)，其中机加工部件的不同表面可以具有不同的公差。
图8A是根据本发明一个实施例的预测器的框图。如图8A所示，预测器800接收第一表示空间中的输入张量50。预测器800可包括与预期要由表面特性化系统分析的不同类型的表面相关联的模型810的集合。在图8A所示的实施例中，预测器800可存取m个不同的模型(例如，存储在处理电路100的存储器中的不同模型)。例如，第一模型811可与门板的主表面相关联，第二模型812可与门板的把手部分相关联，第m模型814可与尾灯相关联。
图8B是描述根据本发明的一个实施例的用于检测物体表面特性的方法690的流程图。在操作691，处理系统100从模型810的集合中选择对应于当前表面的模型。在一些实施例中，基于存储在与被检查物体1相关联并且与偏振相机10捕获偏振原始帧18的特定位姿相关联的配置文件中的元数据来选择特定模型。
在本公开的一些实施例中，被检查物体的定向从一个物体到下一个物体是一致的。例如，在汽车制造的情况下，每个装配的汽车可以是其前端在前地沿着传送系统移动(例如，与一些移动是驾驶员侧在前，以及一些移动是车辆的后部在前相反)。因此，基于关于汽车在传送系统上的位置及其速度的已知信息，可以可靠地捕获被检查物体1的不同表面的图像。例如，位于汽车驾驶员侧特定高度的相机可预期对汽车的保险杠、挡泥板、轮槽、驾驶员侧门、后围板和后保险杠的特定部分进行成像。基于传送系统的速度和汽车进入表面特性化系统的视场的触发时间，根据与物体的类型(例如，汽车的类型、类别或型号)相关联的配置文件，将预计在不同时间对汽车的各种表面进行成像。
在一些实施例中，被检测物体的定向可能是不一致的，且因此可以使用单独的配准(registration)过程来确定哪些表面正被偏振相机10成像。在这些实施例中，配置文件可包括被检测物体的三维(3-D)模型(例如，物理物体的计算机辅助设计或CAD模型，或者三维网格或点云模型)。因此，在一些实施例中，应用同时定位和映射(SLAM)算法来确定被检查物体的哪些部分正由偏振相机10成像，并且使用所确定的位置来识别3-D模型上的对应位置，从而使得能够确定3-D模型的哪些表面由偏振相机10成像。例如，关键点检测算法可用于检测物体的独特部分，并且关键点用于将3-D模型的定向与被检查物理物体1的定向匹配。
这样，在本公开的一些实施例中，预测系统800的表面配准模块820基于与物体相关联的配置文件将由偏振相机捕获的偏振原始帧18(和/或表示空间中的张量50)与被检查物体的特定部分配准，以从模型810的集合选择与由偏振原始帧18成像的当前表面相关联的模型。
在操作693中，处理系统使用表面分析器830应用选择的模型以计算当前表面的表面特性化输出20。下面将更详细地描述根据本公开的各种实施例的各种类型的模型的细节以及由表面分析器830基于这些不同类型的模型执行的特定操作。
通过与设计模型和表示性模型比较的表面特性化
在本公开的一些实施例中，存储模型包括从被检查物体的表示性模型(例如，设计模型)计算的表示空间中的特征图，并且表面分析器将从捕获的偏振原始帧18计算的特征图与存储的相同表示空间中的表示性(例如，理想的)特征图进行比较。
例如，如上所述，在本公开的一些实施例中，表示空间包括线性偏振度(DOLP)ρ和和线性偏振角(AOLP)φ。在一些这样的实施例中，模型810包括所述表面的参考2-D和/或3-D模型(例如，CAD模型)，其具有它们的固有表面法线。这些固有表面参考模型有时被称为设计表面法线且是表面的设计目标(例如，表面的理想形状)，且因此它们表示了被检查的块(patch)(例如，由偏振原始帧18的集合所成像的表面的块)的基本事实(ground truth)。
在这样的实施例中，特征提取系统700使用由偏振定形状(SfP)提取表面法线，且这些表面法线由表面配准模块820与表面的对应部分的参考2-D和/或3-D模型(例如，CAD模型)对准。
在该实施例中，表面分析器830执行从偏振原始帧18计算的表示空间中的张量50所表示的表面法线与来自模型810中的对应者的设计表面法线之间的比较，以找到差异区域，由此识别和标记不同的区域。例如，从原始偏振帧18计算的表示空间中的张量50的部分，其与设计表面法线的对应部分(在与张量50相同的表示空间中)的不同大于阈值量，被标记为差异或潜在缺陷，而不同小于阈值的其他部分被标记为干净的(例如，无缺陷的)。在本公开的各种实施例中，可以基于例如针对被检查表面的设计公差和系统的灵敏度(例如，根据系统中的噪声水平，诸如偏振相机10的图像传感器14中的传感器噪声)来设置该阈值。
另外，假定感兴趣区域具有所计算的表面法线和从选自于模型810的模型所加载的设计目标的表面的3D坐标两者，则在一些实施例中，表面分析器830将所述区域转换成表示被成像表面的形状的3D点云(例如，使用由偏振定形状等式)，并且表面分析器830对所生成的3D点云执行进一步检查和分析，诸如通过将3D点云的形状与参考3D模型中的对应表面的形状进行比较。所述比较可包括迭代地重新定向点云以最小化点云中的点与参考3-D模型的表面之间的距离，其中点云中与被检查表面的参考3-D模型区域的表面相距大于阈值距离的点，偏离参考模型并且可能对应于几何缺陷(例如，凹痕、毛刺或其他表面不规则)。
作为另一个例子，满足相同公差的制造部件在类似的照明下将具有基本相同的偏振图案(例如，具有由于制造公差引起的变化的相同的偏振图案)。理想或预期或参考部分的偏振图案将被称为模板偏振图案或参考张量(其将对应于从模型810集合中选择的模型)。在这些实施例中，特征提取系统700提取被检查物体的表面的测量偏振图案(例如，上述AOLP和DOLP特征图的第一表示空间中的测量张量)。如果物体的表面包含异常，诸如表面中的微小凹痕，则该异常将出现在测量的偏振图案中，从而导致其分类为与第一表示空间中的模板偏振图案或参考张量不同的异常偏振图案(或具有包含异常的区域，诸如图1B中所示的区域21)。另一方面，无缺陷表面将生成与模板偏振图案或参考张量(在容差内)匹配的测量偏振图案(例如，当测量偏振图案匹配时，则其被分类为干净偏振图案)。
本公开的实施例的一些方面涉及用于比较模板偏振图案和测量偏振图案的数学运算。在一些实施例中，计算模板和异常偏振图案之间的减法或算术差以比较所述图案。然而，如图4所示，菲涅耳方程模拟入射角与透射的能量和反射的能量之间的非线性关系，其中曲线的形状根据折射率而偏移(图4示出了折射率为1.5的示例曲线)。在不同入射角度，表面法线的类似改变所反射的能量的这种非线性改变可能使得难以执行偏振图案之间的比较(例如，比较模板偏振图案与测量偏振图案)。例如，在60度附近的入射角的1度变化(例如，60度的平均入射角和引起入射角到60.5度的0.5度变化的表面法线变化)，将具有比在10度附近的类似变化(例如，0度的平均入射角和引起入射角到0.5度的0.5度变化的表面法线变化)更大的反射能量变化。换句话说，这些实施例将使用线性度量来比较非线性现象，这可能在曲线的较平坦的邻域(例如，具有较小一阶导数的曲线部分)中引起可检测性问题，或者可能在曲线的较陡峭的邻域(例如，具有较大一阶导数的曲线部分)中引起信号的饱和或溢出。
因此，本公开的实施例的一些方面涉及使用菲涅耳减法(Fresnel subtraction)来计算菲涅耳距离，来以考虑入射角与反射或透射的能量之间的非线性关系的方式比较模板偏振图案和测量偏振图案。因此，根据本公开的实施例的一些方面，菲涅耳减法是允许表面法线的线性比较的非线性算子。实际上，菲涅耳减法使图4所示的曲线线性化，使得30度的相对微表面偏离能够用一致的异常评分(例如，根据菲涅耳距离计算的异常评分)来表示，而不管原始定向是在0°还是60°(例如，表面上的平均入射角)。换句话说，根据本公开的实施例，使用菲涅耳减法计算菲涅耳距离，其中两个偏振图案之间的菲涅耳距离基本上独立于表面的原始定向(例如，基本上独立于表面上的平均入射角)。在本公开的一些实施例中，使用符号回归(symbolic regression)的图案匹配技术来参数性地学习菲涅耳减法函数。在本公开的一些实施例中，根据材料的折射率和表面的定向，基于已知的菲涅耳方程，在数值上近似菲涅耳减法函数，诸如通过将测量的反射光除以在表面上的光的近似入射角(例如，在表面的基本上平面的局部块上的平均入射角)处反射的能量的百分比，基于表面法线的变化小到足以在曲线的基本上或足够线性的邻域内的假设。在本公开的一些实施例中，基于材料性质的先验知识，例如材料的折射率，导出闭合式方程。
因为菲涅耳方程是折射率相关的，所以菲涅耳减法也取决于材料的折射率(例如，图4中所示的曲线的形状根据折射率而偏移)。制造部件在不同的块中(例如，在不同的表面上)可具有不同的折射率。在本公开的一些实施例中，根据应用基于平衡关于物体的不同表面的灵敏度需要来选择标准折射率(例如，制造部件的接触表面可能比那些制造部件的非接触表面更重要，并且因此可以选择更接近接触表面的折射率)。例如，标准折射率可以被设置为1.5，并且被假定为足够接近。
在本公开的一些实施例中，使用设计表面法线执行局部校准，以确定每个块的局部平滑折射率，从而能实现为每个块定制的更高精度菲涅耳减法。在一些实施例中，通过假设折射率是在不同像素上不变的标量常数并且使用来自不同像素的信息来估计给定材料的折射率值，来执行局部校准。在一些实施例中，通过使用Proceedings of the IEEEInternational Conference on Computer Vision，2015，Kadambi、Achuta等人的“Polarized 3d:High-quality depth sensing with polarization cues.”的“refractive distortion”部分中描述的技术估计折射率值，来执行局部校准。
因此，本公开的实施例的一些方面涉及通过将从被检查物体捕获的偏振原始帧提取的测量特征图或张量与对应于参考或模板物体的参考张量或参考特征图或模板特征图(例如，基于来自诸如CAD模型的设计的理想表面，或基于已知良好物体的测量)进行比较来检测缺陷。
使用异常检测算法的表面特征检测
在本公开的一些实施例中，使用异常检测来检测表面特征。例如，在一些情况下，可以预期从被检查物体的一个实例到下一个实例的一些显著变化。例如，制造流程可能导致材料所呈现的偏振图案的不规则和不均匀变化。虽然这些变化可能在制造公差内，但是这些变化可能不与相对于整个物体的特定物理位置对齐。例如，根据特定玻璃片的冷却过程，玻璃窗可能从一个窗到下一个窗呈现一些不一致的偏振图案。然而，偏振图案的不一致性可能使得难以检测缺陷。例如，如果“参考”玻璃窗用于生成模板偏振图案，那么如果阈值被设置得太低，则该模板偏振图案与来自另一玻璃窗的测量的偏振图案之间的差异可能导致缺陷的检测，但是如果阈值被设置得较高，则缺陷可能未被检测到。一些实施例使用自适应阈值和/或基于物理学的先验而设置的阈值。例如，如果表面是弯曲的，则具有高曲率的区域更可能具有较强的偏振信号。因此，在一些实施例中，此区域设置的阈值与估计或预期为平坦的区域的阈值不同。这种自适应阈值化可以非常大(例如，阈值可以在不同表面之间相差几个数量级)，因为偏振强度可以在看起来大部分平坦对弯曲的表面之间变化两个数量级。
因此，本公开的实施例的一些方面涉及用以检测物体中的表面特征的异常检测方法。例如，在本公开的一些实施例中，从已知良好参考样本的大集合中提取表示空间中的张量。表示空间中的这些参考张量可以根据自然变化(例如，它们的偏振图案的自然变化)而彼此不同。因此，可以对表示空间中的这些参考张量计算一个或多个概要度量以聚类各种参考张量，诸如计算DOLP的最大值和最小值，或者特性化表面的不同部分上的AOLP的分布，或者不同级别的DOLP中的过渡的平滑度。然后，可以将已知良好物体的集合的这些概要度量的统计分布存储为用于特性化表面的存储模型810的一部分。
在本公开的这些实施例中，基于该方法，存储模型810包括异常检测模型作为用于物体的特定表面的一般预期特性的统计模型，其基于原始偏振帧18(或表示空间中的计算张量50)的配准被加载，根据对来自被检查表面的计算张量50执行的测量来计算类似的概要度量。如果用于被检查表面的这些概要度量在来自异常检测模型中表示的已知良好样本的度量的分布内，则表面的此特定部分可以被标记为干净或无缺陷。另一方面，如果这些测量中的一个或多个在测量分布之外(例如，与已知良好样本的分布相距大于阈值距离，诸如与平均值相距大于两个标准差)，则该表面可被标记为包含缺陷。
使用经训练的卷积神经网络的表面特性检测
在本公开的一些实施例中，存储模型810包括被训练以基于表示空间中的所提供的张量来检测物体的表面中的一个或多个缺陷的经训练的卷积神经网络(CNN)。这些CNN可基于标记的训练数据(例如，其中表示空间中的训练张量被用于训练神经网络的连接的权重以根据标记的训练数据计算标记缺陷部分的输出的数据)来训练。
在本公开的一些实施例中，使用以下中的一者或多者来实现模型：编码器-解码器神经网络(encoder-decoder neural networks)或用于缺陷的语义分割的U-网架构(U-netarchitecture)。U-net使得能够传播多尺度(multiscale)信息。在本公开的一些实施例中，使用偏振训练数据(例如，包括偏振原始帧作为训练输入和分割掩模作为标记的训练输出的训练数据)来训练用于语义分割和/或实例分割的CNN架构。
使用深度实例分割的本公开的一个实施例基于对基于掩模区域的卷积神经网络(掩模R-CNN)架构的修改以形成偏振掩模R-CNN架构。掩模R-CNN通过取得输入图像x，该输入图像x是图像强度值的H×W×3张量(例如，高乘宽乘红色、绿色和蓝色通道中颜色强度)，并且使该输入图像x通过主干网络：C＝B(x)来工作。主干网络B(x)负责从输入图像提取有用的学习特征，并且可以是任何标准CNN架构，诸如AlexNet(参见，例如，Krizhevsky,Alex,Ilya Sutskever和Geoffrey E.Hinton.的“ImageNet classification with deepconvolutional neural networks.”Advances in neural information processingsystems.2012.)、VGG(参见，例如，Simonyan,Karen和Andrew Zisserman.的“Very deepconvolutional networks for large-scale image recognition.”arXiv预印本arXiv:1409.1556(2014).)、ResNet-101(参见，例如，Kaiming He,Xiangyu Zhang,Shaoqing Ren和Jian Sun.的Deep residual learning for image recognition.在Proceedings ofthe IEEE Conference on Computer Vision and Pattern Recognition中，第770–778页,2016.)、MobileNet(参见，例如，Howard,Andrew G.等人的“Mobilenets:Efficientconvolutional neural networks for mobile vision applications.”arXiv预印本arXiv:1704.04861(2017).)、MobileNetV2(参见，例如，Sandler,Mark等人的“MobileNetV2:Inverted residuals and linear bottlenecks.”Proceedings of theIEEE Conference on Computer Vision and Pattern Recognition.2018.)以及MobileNetV3(参见，例如，Howard,Andrew等人的“Searching for MobileNetV3.”Proceedings of the IEEE International Conference on Computer Vision.2019.)。
主干网络B(x)输出张量的集合，例如，C＝{C1，C2，C3，C4，C5}，其中每个张量ci表示不同的分辨率(resolution)特征图。这些特征图然后被组合在特征金字塔网络(featurepyramid network,FPN)(参见，例如，Tsung-Yi Lin,Piotr Doll′ar,Ross Girshick,Kaiming He,Bharath Hariharan和Serge Belongie的Feature pyramid networks forobject detection.在Proceedings of the IEEE Conference on Computer Vision andPattern Recognition中，第2117–2125页,2017.)中、用区域建议网络(region proposalnetwork,RPN)(参见，例如，Shaoqing Ren,Kaiming He,Ross Girshick和Jian Sun.的Faster r-cnn:Towards real-time object detection with region proposalnetworks.在Advances in Neural Information Processing Systems中，第91–99页，2015.)处理，且最后通过输出子网络(参见，例如，上述Ren等人及He等人)以产生类、边界框、和像素级(pixel-wise)分割。这些与用于实例分割的非最大抑制合并。
在一些实施例中，使用掩模R-CNN架构作为偏振掩模R-CNN架构的一个组成部分，该偏振掩模R-CNN架构配置成获取若干输入张量，包括偏振表示空间中的张量，并计算第二表示空间中的多尺度第二张量。在一些实施例中，不同的第一表示空间中的张量被称为处于不同的“模式(mode)”，并且每个模式的张量可被提供给每个模式的独立掩模R-CNN主干。这些主干中的每一个计算多个尺度或分辨率下的模式张量(例如，对应于输入第一张量的不同缩放版本)，并且融合在不同模式的每个尺度下计算的模式张量以生成每个尺度的融合张量。然后可以将融合张量或第二张量提供给预测模块，所述预测模块被训练成基于融合张量或第二张量计算预测(例如，表面特性的识别)。在2020年3月29日向美国专利商标局申请的第63/001,445号美国临时专利申请和在2020年8月28日向美国专利商标局申请的第PCT/US20/48604号国际专利申请中更详细地描述了偏振掩模R-CNN结构，其全部公开内容通过引用并入本文。
虽然本公开的一些实施例涉及使用包括掩模R-CNN主干的偏振CNN架构的表面特性化，但是本公开的实施例不限于此，并且可以以类似的方式修改诸如AlexNet、VGG、MobileNet、MobileNetV2、MobileNetV3等的其他主干来代替一个或多个(例如，代替全部)掩模R-CNN主干。
因此，在本公开的一些实施例中，通过以下步骤计算表面特性化结果20：将包括偏振特征表示空间中的张量的第一张量提供给诸如偏振掩模R-CNN架构的经训练的卷积神经网络(CNN)来计算分割图，其中分割图识别输入图像(例如，输入偏振原始帧)的与特定表面特性(例如，诸如裂纹、凹痕、不均匀涂料、表面污染物的存在等的表面缺陷，或诸如表面平滑度对粗糙度、表面平坦度对曲率等的表面特征)相对应的位置或部分。
使用分类器的表面特性检测
在本公开的一些实施例中，不是使用卷积神经网络来识别被检查表面的包含各种感兴趣的表面特性(例如，包含缺陷)的区域，而是模型810包括将给定输入分类到一个或多个类别中的经训练的分类器。例如，经训练的分类器可计算特征输出20，其包括长度等于分类器被训练检测的不同的可能表面特性的数量的向量，其中向量中的每个值对应于输入图像描绘相应表面特性的置信度。
分类器可被训练成获取固定大小的输入图像，其中输入可通过以下步骤被计算：例如从原始偏振帧提取第一表示空间中的第一张量并且将整个第一张量作为输入提供给分类器或者将第一张量划分成固定大小的区块(block)。在本公开的各种实施例中，分类器可包括例如支持向量机、深度神经网络(例如，深度全连接神经网络)等。
用于训练统计模型的训练数据
本公开的实施例的一些方面涉及准备用于训练用于检测表面特征的统计模型的训练数据。在一些情况下，手动标记(例如，人类标记)的训练数据可以是可用的，诸如以使用偏振相机手动捕获物体的表面的偏振原始帧并且标记图像中作为包含感兴趣的表面特性(例如，不同类型的材料之间的边界、诸如凹痕和裂纹的缺陷的位置、或者诸如预期是平滑的表面的粗糙部分的表面不规则)之区域的形式。可使用这些手动标记的训练数据作为训练集的一部分，用于训练统计模型，诸如如上所述的异常检测器或卷积神经网络。
虽然手动标记的训练数据通常被认为是良好的训练数据，但是可能存在其中该手动标记的数据可能不足以大到训练良好的统计模型的情况。因此，本公开的实施例的一些方面还涉及扩充训练数据集，其可包括合成附加训练数据。
在本公开的一些实施例中，计算机图形技术被用于合成具有和不具有感兴趣的表面特性的训练对象数据。例如，当训练检测器检测表面缺陷时，无缺陷表面的偏振原始帧可与描绘诸如裂纹、碎片、毛刺、不均匀涂料等缺陷的偏振原始帧组合。这些独立的图像可以使用计算机图形技术(例如，图像编辑工具，用以将缺陷的偏振原始帧图像程序化地克隆或合成到无缺陷表面的偏振原始帧上，以模拟或合成包含缺陷的表面的偏振原始帧)来组合，合成的缺陷可以置于干净表面的物理上合理的位置上(例如，门板中的凹痕的图像被合成到门板会遭凹陷的部分的图像中，并且不置于物理上不现实的区域中，例如玻璃窗上，同样地，玻璃表面中的碎片可被合成到玻璃表面中，但不被合成到塑料装饰的图像上)。
作为另一示例，在本公开的一些实施例中，生成对抗性网络(generativeadversarial network,GAN)被训练以生成合成数据，其中生成性网络被训练以合成描绘缺陷的表面的偏振原始帧，并且判断网络被训练以确定其输入是真实的偏振原始帧还是(例如，通过生成性网络)合成的。
在本公开的一些实施例中，使用被称为“域随机化”的技术来对模拟或合成的训练数据添加基于“随机”图像的扰动，以使得合成的训练数据更接近地类似真实世界数据。例如，在本公开的一些实施例中，将旋转扩充(rotation augmentation)应用于训练数据，以利用各种特征的旋转版本来扩充训练数据。这对于在自然图像中未良好表现的具有极端纵横比的缺陷(例如，划痕)的检测的准确性可能是特别有益的。
在本公开的各种实施例中，基于对应的技术使用训练数据来训练统计模型。例如，在使用异常检测方法的实施例中，对良好数据的集合计算各种统计，诸如良好数据点的均值和方差，以确定阈值距离(例如，两个标准差)，用于确定给定样本是可接受的还是异常的(例如，有缺陷的)。在使用诸如卷积神经网络(例如，偏振掩模R-CNN)的神经网络的实施例中，训练过程可包括根据反向传播算法更新神经网络的各层的神经元之间的连接的权重，并且使用梯度下降来迭代地调整权重以最小化神经网络的输出与标记的训练数据之间的误差(或损失)。
因此，本公开的实施例的方面提供了用于自动特性化表面的系统和方法，例如用于随着制造零件滚离装配线时自动检查制造零件。这些自动化过程使得能够节约制造商的成本，不仅通过检查中的自动化和随之减少的人工劳动，而且还通过对产品本身的异常的鲁棒且准确的处理(例如，从制造流中自动移除有缺陷的产品)。
虽然已经结合某些示例性实施例描述了本发明，但是应当理解，本发明不限于所公开的实施例，相反，本发明旨在覆盖包括在所附权利要求及其等同物的精神和范围内的各种修改和等同布置。

Claims (26)

1.一种用于表面建模的计算机实现方法，所述方法包括：
接收物理物体的表面的一个或多个偏振原始帧，所述偏振原始帧由包括偏振滤波器的偏振相机以不同偏振捕获；
从所述偏振原始帧提取一个或多个偏振表示空间中的一个或多个第一张量；以及
基于所述一个或多个偏振表示空间中的所述一个或多个第一张量检测所述物理物体的所述表面的表面特性。
2.根据权利要求1所述的计算机实现方法，其中所述一个或多个偏振表示空间中的所述一个或多个第一张量包括：
线性偏振度(DOLP)表示空间中的DOLP图像；以及
线性偏振角(AOLP)表示空间中的AOLP图像。
3.根据权利要求1所述的计算机实现方法，其中所述一个或多个第一张量还包括一个或多个非偏振表示空间中的一个或多个非偏振张量，以及
其中，所述一个或多个非偏振张量包括强度表示空间中的一个或多个强度图像。
4.根据权利要求3所述的计算机实现方法，其中，所述一个或多个强度图像包括：
第一颜色强度图像；
第二颜色强度图像；以及
第三颜色强度图像。
5.根据权利要求1、2、3或4所述的计算机实现方法，其中所述表面特性包括对所述物理物体的所述表面中的缺陷的检测。
6.根据权利要求5所述的计算机实现方法，其中，检测所述表面特性包括：
加载与所述物理物体的所述表面的位置相对应的存储模型；以及
根据所述存储模型和所述一个或多个偏振表示空间中的所述一个或多个第一张量来计算所述表面特性。
7.根据权利要求6所述的计算机实现方法，其中，所述存储模型包括所述一个或多个偏振表示空间中的一个或多个参考张量，以及
其中，计算所述表面特性包括计算所述一个或多个偏振表示空间中的所述一个或多个参考张量与所述一个或多个第一张量之间的差。
8.根据权利要求7所述的计算机实现方法，其中，所述差使用菲涅耳距离来计算。
9.根据权利要求6所述的计算机实现方法，其中，所述存储模型包括参考三维网格，以及
其中，计算所述表面特性包括：
基于所述一个或多个偏振表示空间中的所述一个或多个第一张量来计算所述物理物体的所述表面的三维点云；以及
计算所述三维点云与所述参考三维网格之间的差。
10.根据权利要求6所述的计算机实现方法，其中，所述存储模型包括经训练的统计模型，所述经训练的统计模型被配置为基于所述一个或多个偏振表示空间中的所述一个或多个第一张量来计算所述表面特性的预测。
11.根据权利要求10所述的计算机实现方法，其中所述经训练的统计模型包括异常检测模型。
12.根据权利要求10所述的计算机实现方法，其中所述经训练的统计模型包括被训练以检测所述物理物体的所述表面中的缺陷的卷积神经网络。
13.根据权利要求10所述的计算机实现方法，其中所述经训练的统计模型包括被训练以检测缺陷的经训练的分类器。
14.一种用于表面建模的系统，所述系统包括：
包括偏振滤波器的偏振相机，所述偏振相机被配置为以不同偏振捕获偏振原始帧；以及
包括处理器和存储指令的存储器的处理系统，所述指令在由所述处理器执行时使所述处理器：
接收物理物体的表面的一个或多个偏振原始帧，所述偏振原始帧对应于光的不同偏振；
从所述偏振原始帧提取一个或多个偏振表示空间中的一个或多个第一张量；以及
基于所述一个或多个偏振表示空间中的所述一个或多个第一张量检测所述物理物体的所述表面的表面特性。
15.根据权利要求14所述的系统，其中所述一个或多个偏振表示空间中的所述一个或多个第一张量包括：
线性偏振度(DOLP)表示空间中的DOLP图像；以及
线性偏振角(AOLP)表示空间中的AOLP图像。
16.根据权利要求14所述的系统，其中所述一个或多个第一张量还包括一个或多个非偏振表示空间中的一个或多个非偏振张量，以及
其中，所述一个或多个非偏振张量包括强度表示空间中的一个或多个强度图像。
17.根据权利要求16所述的系统，其中，所述一个或多个强度图像包括：
第一颜色强度图像；
第二颜色强度图像；以及
第三颜色强度图像。
18.根据权利要求14、15、16或17所述的系统，其中所述表面特性包括对所述物理物体的所述表面中的缺陷的检测。
19.根据权利要求18所述的系统，其中所述存储器还存储指令，所述指令在由所述处理器执行时使所述处理器通过以下步骤来检测所述表面特性：
加载与所述物理物体的所述表面的位置相对应的存储模型；以及
根据所述存储模型和所述一个或多个偏振表示空间中的所述一个或多个第一张量来计算所述表面特性。
20.根据权利要求19所述的系统，其中，所述存储模型包括所述一个或多个偏振表示空间中的一个或多个参考张量，以及
其中所述存储器还存储指令，所述指令在由所述处理器执行时使所述处理器通过计算所述一个或多个偏振表示空间中的所述一个或多个参考张量与所述一个或多个第一张量之间的差来计算所述表面特性。
21.根据权利要求20所述的系统，其中，所述差使用菲涅耳距离来计算。
22.根据权利要求19所述的系统，其中，所述存储模型包括参考三维网格，以及
其中，所述存储器还存储指令，所述指令在由所述处理器执行时使所述处理器通过以下步骤来计算所述表面特性：
基于所述一个或多个偏振表示空间中的所述一个或多个第一张量来计算所述物理物体的所述表面的三维点云；以及
计算所述三维点云与所述参考三维网格之间的差。
23.根据权利要求19所述的系统，其中，所述存储模型包括经训练的统计模型，所述经训练的统计模型被配置为基于所述一个或多个偏振表示空间中的所述一个或多个第一张量来计算所述表面特性的预测。
24.根据权利要求23所述的系统，其中所述经训练的统计模型包括异常检测模型。
25.根据权利要求23所述的系统，其中所述经训练的统计模型包括被训练以检测所述物理物体的所述表面中的缺陷的卷积神经网络。
26.根据权利要求23所述的系统，其中所述经训练的统计模型包括被训练以检测缺陷的经训练的分类器。
CN202080074656.1A 2019-09-17 2020-09-17 用于使用偏振提示表面建模的系统和方法 Pending CN114600165A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201962901731P 2019-09-17 2019-09-17
US62/901,731 2019-09-17
US202063001445P 2020-03-29 2020-03-29
US63/001,445 2020-03-29
PCT/US2020/051243 WO2021055585A1 (en) 2019-09-17 2020-09-17 Systems and methods for surface modeling using polarization cues

Publications (1)

Publication Number Publication Date
CN114600165A true CN114600165A (zh) 2022-06-07

Family

ID=74884390

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080074656.1A Pending CN114600165A (zh) 2019-09-17 2020-09-17 用于使用偏振提示表面建模的系统和方法

Country Status (9)

Country Link
US (2) US11270110B2 (zh)
EP (1) EP3821267A4 (zh)
JP (1) JP7273250B2 (zh)
KR (1) KR102646521B1 (zh)
CN (1) CN114600165A (zh)
BR (1) BR112022004811A2 (zh)
DE (1) DE112020004391T5 (zh)
MX (1) MX2022003020A (zh)
WO (1) WO2021055585A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116109798A (zh) * 2023-04-04 2023-05-12 腾讯科技（深圳）有限公司 图像数据处理方法、装置、设备及介质
CN117313552A (zh) * 2023-11-28 2023-12-29 菏泽学院 半导体器件建模方法、系统及电子设备

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10877540B2 (en) * 2019-10-04 2020-12-29 Intel Corporation Content adaptive display power savings systems and methods
CN114746717A (zh) * 2019-10-07 2022-07-12 波士顿偏振测定公司 利用偏振进行表面法线感测的系统和方法
WO2021154459A1 (en) 2020-01-30 2021-08-05 Boston Polarimetrics, Inc. Systems and methods for synthesizing data for training statistical models on different imaging modalities including polarized images
US11430105B2 (en) * 2020-06-15 2022-08-30 Mitutoyo Corporation Workpiece inspection and defect detection system including monitoring of workpiece images
CH717628A1 (fr) 2020-07-14 2022-01-14 Chopard Tech Sa Article de joaillerie.
EP3971556A1 (en) * 2020-09-17 2022-03-23 Evonik Operations GmbH Qualitative or quantitative characterization of a coating surface
US20220272285A1 (en) * 2021-02-23 2022-08-25 Fris, Inc. Sensing and processing unit generating a trigger signal upon occurrence of specified conditions
US11546508B1 (en) * 2021-07-21 2023-01-03 Black Sesame Technologies Inc. Polarization imaging system with super resolution fusion
US11756186B2 (en) 2021-09-15 2023-09-12 Mitutoyo Corporation Workpiece inspection and defect detection system utilizing color channels
CN116878407B (zh) * 2023-09-08 2023-12-01 法博思(宁波)半导体设备有限公司 一种基于红外干涉的外延片测厚方法及装置
CN117291918B (zh) * 2023-11-24 2024-02-06 吉林大学 一种基于三维点云的汽车冲压件缺陷检测方法

Family Cites Families (1068)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4124798A (en) 1965-12-09 1978-11-07 Thompson Kenneth B Optical viewing apparatus
US4198646A (en) 1978-10-13 1980-04-15 Hughes Aircraft Company Monolithic imager for near-IR
US4323925A (en) 1980-07-07 1982-04-06 Avco Everett Research Laboratory, Inc. Method and apparatus for arraying image sensor modules
JPS5769476A (en) 1980-10-16 1982-04-28 Fuji Xerox Co Ltd Reader control system
JPS5925483A (ja) 1982-08-04 1984-02-09 Hitachi Denshi Ltd 固体撮像装置
US4652909A (en) 1982-09-14 1987-03-24 New York Institute Of Technology Television camera and recording system for high definition television having imagers of different frame rate
US4460449A (en) 1983-01-03 1984-07-17 Amerace Corporation Apparatus for making a tool
US4888645A (en) 1984-01-16 1989-12-19 International Business Machines Corporation Method for encoding and decoding a digital image
JPS60228564A (ja) 1984-04-27 1985-11-13 Tokuyama Soda Co Ltd 液晶性組成物
JPS6129851A (ja) 1984-07-20 1986-02-10 Toshiba Corp 電子写真装置
JPS6140709U (ja) 1984-08-20 1986-03-14 三洋電機株式会社 磁気ヘツド
EP0289885A1 (de) 1987-05-08 1988-11-09 Siemens Aktiengesellschaft Blendensystem zur Erzeugung mehrerer Teilchensonden mit veränderbarem Querschnitt
JPS6437177A (en) 1987-08-03 1989-02-07 Canon Kk Image pickup device
EP0342419B1 (de) 1988-05-19 1992-10-28 Siemens Aktiengesellschaft Verfahren zur Beobachtung einer Szene und Einrichtung zur Durchführung des Verfahrens
JPH02285772A (ja) 1989-04-26 1990-11-26 Toshiba Corp 画像読取装置
US5070414A (en) 1988-09-20 1991-12-03 Kabushiki Kaisha Toshiba Method and apparatus for reading image information formed on material
US4962425A (en) 1988-10-27 1990-10-09 National Research Council Of Canada/Conseil National Deresherches Canada Photometric device
US5157499A (en) 1990-06-29 1992-10-20 Kabushiki Kaisha N A C High-speed video camera using solid-state image sensor
US5144448A (en) 1990-07-31 1992-09-01 Vidar Systems Corporation Scanning apparatus using multiple CCD arrays and related method
US5463464A (en) 1991-10-04 1995-10-31 Kms Fusion, Inc. Electro-optical system for gauging surface profile deviations using infrared radiation
US5325449A (en) 1992-05-15 1994-06-28 David Sarnoff Research Center, Inc. Method for fusing images and apparatus therefor
JP3032382B2 (ja) 1992-07-13 2000-04-17 シャープ株式会社 デジタル信号のサンプリング周波数変換装置
JPH06129851A (ja) 1992-10-13 1994-05-13 Sumitomo Electric Ind Ltd ステレオカメラの校正方法
US5670935A (en) 1993-02-26 1997-09-23 Donnelly Corporation Rearview vision system for vehicle including panoramic view
WO1994020875A2 (en) 1993-03-03 1994-09-15 Street Graham S B Method and apparatus for image alignment
US5659424A (en) 1993-05-25 1997-08-19 Hitachi, Ltd. Projecting lens and image display device
JPH0715457A (ja) 1993-06-18 1995-01-17 Hitachi Ltd ディジタル通信切替方式
US5475422A (en) 1993-06-21 1995-12-12 Nippon Telegraph And Telephone Corporation Method and apparatus for reconstructing three-dimensional objects
US6095989A (en) 1993-07-20 2000-08-01 Hay; Sam H. Optical recognition methods for locating eyes
US6419638B1 (en) 1993-07-20 2002-07-16 Sam H. Hay Optical recognition methods for locating eyes
JP2761837B2 (ja) 1993-08-19 1998-06-04 株式会社日鉄エレックス 立体像表示装置
EP0677821A3 (en) 1994-04-14 1996-03-06 Hewlett Packard Co Enlargement of a digital image by slaving.
WO1995034044A1 (en) 1994-06-09 1995-12-14 Kollmorgen Instrument Corporation Stereoscopic electro-optical system for automated inspection and/or alignment of imaging devices on a production assembly line
US5517236A (en) 1994-06-22 1996-05-14 Philips Electronics North America Corporation Video surveillance system
JPH0877356A (ja) 1994-09-09 1996-03-22 Fujitsu Ltd 三次元多眼画像の処理方法及び処理装置
US5703961A (en) 1994-12-29 1997-12-30 Worldscape L.L.C. Image transformation and synthesis methods
US20020195548A1 (en) 2001-06-06 2002-12-26 Dowski Edward Raymond Wavefront coding interference contrast imaging systems
US5629524A (en) 1995-02-21 1997-05-13 Advanced Scientific Concepts, Inc. High speed crystallography detector
EP0739039A3 (en) 1995-04-18 1998-03-04 Interuniversitair Micro-Elektronica Centrum Vzw Pixel structure, image sensor using such pixel, structure and corresponding peripheric circuitry
US5963664A (en) 1995-06-22 1999-10-05 Sarnoff Corporation Method and system for image combination using a parallax-based technique
US6005607A (en) 1995-06-29 1999-12-21 Matsushita Electric Industrial Co., Ltd. Stereoscopic computer graphics image generating apparatus and stereoscopic TV apparatus
US5675377A (en) 1995-06-30 1997-10-07 Telefonaktiebolaget Lm Ericsson True three-dimensional imaging and display system
GB2302978A (en) 1995-07-04 1997-02-05 Sharp Kk LIquid crystal device
WO1997018633A1 (en) 1995-11-07 1997-05-22 California Institute Of Technology Capacitively coupled successive approximation ultra low power analog-to-digital converter
US5757425A (en) 1995-12-19 1998-05-26 Eastman Kodak Company Method and apparatus for independently calibrating light source and photosensor arrays
JP3502713B2 (ja) 1995-12-21 2004-03-02 本田技研工業株式会社 車両用距離測定装置
JPH09181913A (ja) 1995-12-26 1997-07-11 Olympus Optical Co Ltd カメラシステム
US5793900A (en) 1995-12-29 1998-08-11 Stanford University Generating categorical depth maps using passive defocus sensing
US5973844A (en) 1996-01-26 1999-10-26 Proxemics Lenslet array systems and methods
US6124974A (en) 1996-01-26 2000-09-26 Proxemics Lenslet array systems and methods
US6493465B2 (en) 1996-02-21 2002-12-10 Canon Kabushiki Kaisha Matching point extracting method and apparatus therefor
US5832312A (en) 1996-02-22 1998-11-03 Eastman Kodak Company Watertight body for accommodating a photographic camera
US5867584A (en) 1996-02-22 1999-02-02 Nec Corporation Video object tracking method for interactive multimedia applications
US5911008A (en) 1996-04-30 1999-06-08 Nippon Telegraph And Telephone Corporation Scheme for detecting shot boundaries in compressed video data using inter-frame/inter-field prediction coding and intra-frame/intra-field coding
US6084979A (en) 1996-06-20 2000-07-04 Carnegie Mellon University Method for creating virtual reality
US6002743A (en) 1996-07-17 1999-12-14 Telymonde; Timothy D. Method and apparatus for image acquisition from a plurality of cameras
GB9616262D0 (en) 1996-08-02 1996-09-11 Philips Electronics Nv Post-processing generation of focus/defocus effects for computer graphics images
US6141048A (en) 1996-08-19 2000-10-31 Eastman Kodak Company Compact image capture device
US6137535A (en) 1996-11-04 2000-10-24 Eastman Kodak Company Compact digital camera with segmented fields of view
US5808350A (en) 1997-01-03 1998-09-15 Raytheon Company Integrated IR, visible and NIR sensor and methods of fabricating same
JPH10232626A (ja) 1997-02-20 1998-09-02 Canon Inc 立体画像表示装置
JPH10253351A (ja) 1997-03-14 1998-09-25 Kyocera Corp 測距装置
US5801919A (en) 1997-04-04 1998-09-01 Gateway 2000, Inc. Adjustably mounted camera assembly for portable computers
US6097394A (en) 1997-04-28 2000-08-01 Board Of Trustees, Leland Stanford, Jr. University Method and system for light field rendering
NO304715B1 (no) 1997-05-06 1999-02-01 Dimensions As FremgangsmÕte ved bildebehandling
US6515701B2 (en) 1997-07-24 2003-02-04 Polaroid Corporation Focal plane exposure control system for CMOS area image sensors
US6563537B1 (en) 1997-07-31 2003-05-13 Fuji Photo Film Co., Ltd. Image signal interpolation
JP3430935B2 (ja) 1997-10-20 2003-07-28 富士ゼロックス株式会社 画像読取装置及びレンズ
NO305728B1 (no) 1997-11-14 1999-07-12 Reidar E Tangen Optoelektronisk kamera og fremgangsmÕte ved bildeformatering i samme
JP4243779B2 (ja) 1997-11-14 2009-03-25 株式会社ニコン 拡散板の製造方法および拡散板、並びにマイクロレンズアレイの製造方法およびマイクロレンズアレイ
US6069365A (en) 1997-11-25 2000-05-30 Alan Y. Chow Optical processor based imaging system
JPH11242189A (ja) 1997-12-25 1999-09-07 Olympus Optical Co Ltd 像形成法、像形成装置
US6721008B2 (en) 1998-01-22 2004-04-13 Eastman Kodak Company Integrated CMOS active pixel digital camera
US6833863B1 (en) 1998-02-06 2004-12-21 Intel Corporation Method and apparatus for still image capture during video streaming operations of a tethered digital camera
JPH11223708A (ja) 1998-02-09 1999-08-17 Nikon Corp 圧子およびマイクロ光学素子アレイの製造方法
US6198577B1 (en) 1998-03-10 2001-03-06 Glaxo Wellcome, Inc. Doubly telecentric lens and imaging system for multiwell plates
US6054703A (en) 1998-03-20 2000-04-25 Syscan, Inc. Sensing module for accelerating signal readout from image sensors
US6160909A (en) 1998-04-01 2000-12-12 Canon Kabushiki Kaisha Depth control for stereoscopic images
KR100307883B1 (ko) 1998-04-13 2001-10-19 박호군 정합화소수를이용한유사도측정방법및이를구현하기위한장치
JP3745117B2 (ja) 1998-05-08 2006-02-15 キヤノン株式会社 画像処理装置及び画像処理方法
JP3931936B2 (ja) 1998-05-11 2007-06-20 セイコーエプソン株式会社 マイクロレンズアレイ基板及びその製造方法並びに表示装置
JP3284190B2 (ja) 1998-05-14 2002-05-20 富士重工業株式会社 ステレオカメラの画像補正装置
US6198852B1 (en) 1998-06-01 2001-03-06 Yeda Research And Development Co., Ltd. View synthesis from plural images using a trifocal tensor data structure in a multi-view parallax geometry
US6205241B1 (en) 1998-06-01 2001-03-20 Canon Kabushiki Kaisha Compression of stereoscopic images
US6137100A (en) 1998-06-08 2000-10-24 Photobit Corporation CMOS image sensor with different pixel sizes for different colors
US6069351A (en) 1998-07-16 2000-05-30 Intel Corporation Focal plane processor for scaling information from image sensors
US6903770B1 (en) 1998-07-27 2005-06-07 Sanyo Electric Co., Ltd. Digital camera which produces a single image based on two exposures
US6340994B1 (en) 1998-08-12 2002-01-22 Pixonics, Llc System and method for using temporal gamma and reverse super-resolution to process images for use in digital display systems
DE19838362C1 (de) 1998-08-18 2000-02-10 Deutsch Zentr Luft & Raumfahrt Fokalebenenplatte für eine hochauflösende CCD-Kamera
US6269175B1 (en) 1998-08-28 2001-07-31 Sarnoff Corporation Method and apparatus for enhancing regions of aligned images using flow estimation
US6879735B1 (en) 1998-09-14 2005-04-12 University Of Utah Reasearch Foundation Method of digital image enhancement and sharpening
US6185529B1 (en) 1998-09-14 2001-02-06 International Business Machines Corporation Speech recognition aided by lateral profile image
US6310650B1 (en) 1998-09-23 2001-10-30 Honeywell International Inc. Method and apparatus for calibrating a tiled display
GB2343320B (en) 1998-10-31 2003-03-26 Ibm Camera system for three dimentional images and video
JP3596314B2 (ja) 1998-11-02 2004-12-02 日産自動車株式会社 物体端の位置計測装置および移動体の通行判断装置
DE69917489T2 (de) 1998-11-09 2005-06-02 Broadcom Corp., Irvine Anzeigesystem zur mischung von graphischen daten und videodaten
US6611289B1 (en) 1999-01-15 2003-08-26 Yanbin Yu Digital cameras using multiple sensors with multiple lenses
JP3875423B2 (ja) 1999-01-19 2007-01-31 日本放送協会 固体撮像素子およびそれ用の映像信号出力装置
US6603513B1 (en) 1999-02-16 2003-08-05 Micron Technology, Inc. Using a single control line to provide select and reset signals to image sensors in two rows of a digital imaging device
JP3634677B2 (ja) 1999-02-19 2005-03-30 キヤノン株式会社 画像の補間方法、画像処理方法、画像表示方法、画像処理装置、画像表示装置、及びコンピュータプログラム記憶媒体
US6563540B2 (en) 1999-02-26 2003-05-13 Intel Corporation Light sensor with increased dynamic range
US20020063807A1 (en) 1999-04-19 2002-05-30 Neal Margulis Method for Performing Image Transforms in a Digital Display System
US6819358B1 (en) 1999-04-26 2004-11-16 Microsoft Corporation Error calibration for digital image sensors and apparatus using the same
US6292713B1 (en) 1999-05-20 2001-09-18 Compaq Computer Corporation Robotic telepresence system
US6864916B1 (en) 1999-06-04 2005-03-08 The Trustees Of Columbia University In The City Of New York Apparatus and method for high dynamic range imaging using spatially varying exposures
JP2001008235A (ja) 1999-06-25 2001-01-12 Minolta Co Ltd ３次元データの再構成のための画像入力方法及び多眼式データ入力装置
JP2001042042A (ja) 1999-07-27 2001-02-16 Canon Inc 撮像装置
US6801653B1 (en) 1999-08-05 2004-10-05 Sony Corporation Information processing apparatus and method as well as medium
US7015954B1 (en) 1999-08-09 2006-03-21 Fuji Xerox Co., Ltd. Automatic video system using multiple cameras
US6647142B1 (en) 1999-08-19 2003-11-11 Mitsubishi Electric Research Laboratories, Inc. Badge identification system
US6771833B1 (en) 1999-08-20 2004-08-03 Eastman Kodak Company Method and system for enhancing digital images
US6628330B1 (en) 1999-09-01 2003-09-30 Neomagic Corp. Color interpolator and horizontal/vertical edge enhancer using two line buffer and alternating even/odd filters for digital camera
US6358862B1 (en) 1999-09-02 2002-03-19 Micron Technology, Inc Passivation integrity improvements
JP3280001B2 (ja) 1999-09-16 2002-04-30 富士重工業株式会社 ステレオ画像の位置ずれ調整装置
US6639596B1 (en) 1999-09-20 2003-10-28 Microsoft Corporation Stereo reconstruction from multiperspective panoramas
US6628845B1 (en) 1999-10-20 2003-09-30 Nec Laboratories America, Inc. Method for subpixel registration of images
US6774941B1 (en) 1999-10-26 2004-08-10 National Semiconductor Corporation CCD output processing stage that amplifies signals from colored pixels based on the conversion efficiency of the colored pixels
US6671399B1 (en) 1999-10-27 2003-12-30 Canon Kabushiki Kaisha Fast epipolar line adjustment of stereo pairs
US6674892B1 (en) 1999-11-01 2004-01-06 Canon Kabushiki Kaisha Correcting an epipolar axis for skew and offset
JP2001195050A (ja) 1999-11-05 2001-07-19 Mitsubishi Electric Corp グラフィックアクセラレータ
WO2001039512A1 (en) 1999-11-26 2001-05-31 Sanyo Electric Co., Ltd. Device and method for converting two-dimensional video to three-dimensional video
JP3950926B2 (ja) 1999-11-30 2007-08-01 エーユー オプトロニクス コーポレイション 画像表示方法、ホスト装置、画像表示装置、およびディスプレイ用インターフェイス
JP3728160B2 (ja) 1999-12-06 2005-12-21 キヤノン株式会社 奥行き画像計測装置及び方法、並びに複合現実感提示システム
US7068851B1 (en) 1999-12-10 2006-06-27 Ricoh Co., Ltd. Multiscale sharpening and smoothing with wavelets
FI107680B (fi) 1999-12-22 2001-09-14 Nokia Oyj Menetelmä videokuvien lähettämiseksi, tiedonsiirtojärjestelmä, lähettävä videopäätelaite ja vastaanottava videopäätelaite
US6502097B1 (en) 1999-12-23 2002-12-31 Microsoft Corporation Data structure for efficient access to variable-size data objects
US6476805B1 (en) 1999-12-23 2002-11-05 Microsoft Corporation Techniques for spatial displacement estimation and multi-resolution operations on light fields
JP2001194114A (ja) 2000-01-14 2001-07-19 Sony Corp 画像処理装置および画像処理方法、並びにプログラム提供媒体
EP1257325A4 (en) 2000-02-18 2006-01-04 Beaumont Hospital William COMPUTERIZED TOMOGRAPHY WITH A CONICAL BEAM WITH A FLAT PANEL IMAGER
US6523046B2 (en) 2000-02-25 2003-02-18 Microsoft Corporation Infrastructure and method for supporting generic multimedia metadata
JP2001264033A (ja) 2000-03-17 2001-09-26 Sony Corp 三次元形状計測装置とその方法、三次元モデリング装置とその方法、およびプログラム提供媒体
US6571466B1 (en) 2000-03-27 2003-06-03 Amkor Technology, Inc. Flip chip image sensor package fabrication method
JP2001277260A (ja) 2000-03-30 2001-10-09 Seiko Epson Corp マイクロレンズアレイ、その製造方法及びその製造用原盤並びに表示装置
WO2001075949A1 (fr) 2000-04-04 2001-10-11 Advantest Corporation Appareil d'exposition multifaisceau comprenant une lentille electronique multiaxe, et procede de fabrication d'un dispositif a semi-conducteur
WO2001082593A1 (en) 2000-04-24 2001-11-01 The Government Of The United States Of America, As Represented By The Secretary Of The Navy Apparatus and method for color image fusion
JP2001337263A (ja) 2000-05-25 2001-12-07 Olympus Optical Co Ltd 測距装置
JP4501239B2 (ja) 2000-07-13 2010-07-14 ソニー株式会社 カメラ・キャリブレーション装置及び方法、並びに、記憶媒体
AU2001277964A1 (en) 2000-07-21 2002-02-05 The Trustees Of Columbia University In The City Of New York Method and apparatus for image mosaicing
AU2001277110A1 (en) 2000-07-21 2002-02-05 The Trustees Of Columbia University In The City Of New York Method and apparatus for reducing distortion in images
US7154546B1 (en) 2000-08-07 2006-12-26 Micron Technology, Inc. Pixel optimization for color
EP1185112B1 (en) 2000-08-25 2005-12-14 Fuji Photo Film Co., Ltd. Apparatus for parallax image capturing and parallax image processing
US7085409B2 (en) 2000-10-18 2006-08-01 Sarnoff Corporation Method and apparatus for synthesizing new video and/or still imagery from a collection of real video and/or still imagery
US6734905B2 (en) 2000-10-20 2004-05-11 Micron Technology, Inc. Dynamic range extension for CMOS image sensors
US6774889B1 (en) 2000-10-24 2004-08-10 Microsoft Corporation System and method for transforming an ordinary computer monitor screen into a touch screen
US7262799B2 (en) 2000-10-25 2007-08-28 Canon Kabushiki Kaisha Image sensing apparatus and its control method, control program, and storage medium
US6476971B1 (en) 2000-10-31 2002-11-05 Eastman Kodak Company Method of manufacturing a microlens array mold and a microlens array
JP3918499B2 (ja) 2000-11-01 2007-05-23 セイコーエプソン株式会社 間隙測定方法、間隙測定装置、形状測定方法、形状測定装置並びに液晶装置の製造方法
US6573912B1 (en) 2000-11-07 2003-06-03 Zaxel Systems, Inc. Internet system for virtual telepresence
US6788338B1 (en) 2000-11-20 2004-09-07 Petko Dimitrov Dinev High resolution video camera apparatus having two image sensors and signal processing
US7490774B2 (en) 2003-11-13 2009-02-17 Metrologic Instruments, Inc. Hand-supportable imaging based bar code symbol reader employing automatic light exposure measurement and illumination control subsystem integrated therein
JP2002171537A (ja) 2000-11-30 2002-06-14 Canon Inc 複眼撮像系、撮像装置および電子機器
EP1354292B1 (en) 2000-12-01 2012-04-04 Imax Corporation Method and apparatus FOR DEVELOPING HIGH-RESOLUTION IMAGERY
EP1356431A2 (en) 2000-12-05 2003-10-29 YEDA RESEARCH AND DEVELOPMENT Co. LTD. Apparatus and method for alignment of spatial or temporal non-overlapping image sequences
JP2002252338A (ja) 2000-12-18 2002-09-06 Canon Inc 撮像装置及び撮像システム
JP2002195910A (ja) 2000-12-26 2002-07-10 Omron Corp 光学部品の検査装置
JP2002209226A (ja) 2000-12-28 2002-07-26 Canon Inc 撮像装置
US7805680B2 (en) 2001-01-03 2010-09-28 Nokia Corporation Statistical metering and filtering of content via pixel-based metadata
JP3957460B2 (ja) 2001-01-15 2007-08-15 沖電気工業株式会社 伝送ヘッダ圧縮装置、動画像符号化装置及び動画像伝送システム
JP2002250607A (ja) 2001-02-27 2002-09-06 Optex Co Ltd 物体検知センサ
CN2488005Y (zh) 2001-03-15 2002-04-24 左耀太 型煤燃烧器
US6635941B2 (en) 2001-03-21 2003-10-21 Canon Kabushiki Kaisha Structure of semiconductor device with improved reliability
JP2002324743A (ja) 2001-04-24 2002-11-08 Canon Inc 露光方法及び装置
US6443579B1 (en) 2001-05-02 2002-09-03 Kenneth Myers Field-of-view controlling arrangements
US20020167537A1 (en) 2001-05-11 2002-11-14 Miroslav Trajkovic Motion-based tracking with pan-tilt-zoom camera
US7235785B2 (en) 2001-05-11 2007-06-26 Irvine Sensors Corp. Imaging device with multiple fields of view incorporating memory-based temperature compensation of an uncooled focal plane array
US20020190991A1 (en) 2001-05-16 2002-12-19 Daniel Efran 3-D instant replay system and method
AU2002305780A1 (en) 2001-05-29 2002-12-09 Transchip, Inc. Patent application cmos imager for cellular applications and methods of using such
US7738013B2 (en) 2001-05-29 2010-06-15 Samsung Electronics Co., Ltd. Systems and methods for power conservation in a CMOS imager
US6482669B1 (en) 2001-05-30 2002-11-19 Taiwan Semiconductor Manufacturing Company Colors only process to reduce package yield loss
US6525302B2 (en) 2001-06-06 2003-02-25 The Regents Of The University Of Colorado Wavefront coding phase contrast imaging systems
US7113634B2 (en) 2001-07-31 2006-09-26 Canon Kabushiki Kaisha Stereoscopic image forming apparatus, stereoscopic image forming method, stereoscopic image forming system and stereoscopic image forming program
US20030025227A1 (en) 2001-08-02 2003-02-06 Zograph, Llc Reproduction of relief patterns
US8675119B2 (en) 2001-08-09 2014-03-18 Trustees Of Columbia University In The City Of New York Adaptive imaging using digital light processing
EP1289309B1 (en) 2001-08-31 2010-04-21 STMicroelectronics Srl Noise filter for Bayer pattern image data
JP3978706B2 (ja) 2001-09-20 2007-09-19 セイコーエプソン株式会社 微細構造体の製造方法
JP2003139910A (ja) 2001-10-30 2003-05-14 Sony Corp 光学素子、その製造方法およびその製造装置、並びにそれを用いた液晶表示装置および画像投影型表示装置
DE10153237A1 (de) 2001-10-31 2003-05-15 Lfk Gmbh Verfahren und Vorrichtung zur automatisierten Bestimmung der Modulations-Transfer-Funktion (MTF) von Focal-Plane-Array (FPA)- Kameras
JP3705766B2 (ja) 2001-11-28 2005-10-12 独立行政法人科学技術振興機構 画像入力装置
WO2003052465A2 (en) 2001-12-18 2003-06-26 University Of Rochester Multifocal aspheric lens obtaining extended field depth
US7212228B2 (en) 2002-01-16 2007-05-01 Advanced Telecommunications Research Institute International Automatic camera calibration method
US7302118B2 (en) 2002-02-07 2007-11-27 Microsoft Corporation Transformation of images
US20030179418A1 (en) 2002-03-19 2003-09-25 Eastman Kodak Company Producing a defective pixel map from defective cluster pixels in an area array image sensor
US8369607B2 (en) 2002-03-27 2013-02-05 Sanyo Electric Co., Ltd. Method and apparatus for processing three-dimensional images
JP2003298920A (ja) 2002-03-29 2003-10-17 Fuji Photo Film Co Ltd デジタルカメラ
US20030188659A1 (en) 2002-04-05 2003-10-09 Canadian Bank Note Company Limited Method and apparatus for reproducing a color image based on monochrome images derived therefrom
WO2003087929A1 (en) 2002-04-10 2003-10-23 Pan-X Imaging, Inc. A digital imaging system
US6856314B2 (en) 2002-04-18 2005-02-15 Stmicroelectronics, Inc. Method and system for 3D reconstruction of multiple views with altering search path and occlusion modeling
US6917702B2 (en) 2002-04-24 2005-07-12 Mitsubishi Electric Research Labs, Inc. Calibration of multiple cameras for a turntable-based 3D scanner
JP3567327B2 (ja) 2002-05-08 2004-09-22 富士写真光機株式会社 撮像レンズ
US6783900B2 (en) 2002-05-13 2004-08-31 Micron Technology, Inc. Color filter imaging array and method of formation
JP2004048644A (ja) 2002-05-21 2004-02-12 Sony Corp 情報処理装置、情報処理システム、及び対話者表示方法
JP2003347192A (ja) 2002-05-24 2003-12-05 Toshiba Corp エネルギービーム露光方法および露光装置
US7013318B2 (en) 2002-05-29 2006-03-14 Raytheon Company Method and system for encapsulating cells
US7129981B2 (en) 2002-06-27 2006-10-31 International Business Machines Corporation Rendering system and method for images having differing foveal area and peripheral view area resolutions
JP2004088713A (ja) 2002-06-27 2004-03-18 Olympus Corp 撮像レンズユニットおよび撮像装置
JP4147059B2 (ja) 2002-07-03 2008-09-10 株式会社トプコン キャリブレーション用データ測定装置、測定方法及び測定プログラム、並びにコンピュータ読取可能な記録媒体、画像データ処理装置
JP2004037924A (ja) 2002-07-04 2004-02-05 Minolta Co Ltd 撮像装置
EP1537550A2 (en) 2002-07-15 2005-06-08 Magna B.S.P. Ltd. Method and apparatus for implementing multipurpose monitoring system
US20040012689A1 (en) 2002-07-16 2004-01-22 Fairchild Imaging Charge coupled devices in tiled arrays
JP2004078296A (ja) 2002-08-09 2004-03-11 Victor Co Of Japan Ltd 画像生成装置
US20070166447A1 (en) 2002-08-27 2007-07-19 Select Milk Producers, Inc. Dairy compositions and method of making
US7639838B2 (en) 2002-08-30 2009-12-29 Jerry C Nims Multi-dimensional images system for digital image input and output
US7447380B2 (en) 2002-09-12 2008-11-04 Inoe Technologies, Llc Efficient method for creating a viewpoint from plurality of images
US20040050104A1 (en) 2002-09-18 2004-03-18 Eastman Kodak Company Forming information transfer lens array
US20040207836A1 (en) 2002-09-27 2004-10-21 Rajeshwar Chhibber High dynamic range optical inspection system and method
US7084904B2 (en) 2002-09-30 2006-08-01 Microsoft Corporation Foveated wide-angle imaging system and method for capturing and viewing wide-angle images in real time
US7477781B1 (en) 2002-10-10 2009-01-13 Dalsa Corporation Method and apparatus for adaptive pixel correction of multi-color matrix
US20040075654A1 (en) 2002-10-16 2004-04-22 Silicon Integrated Systems Corp. 3-D digital image processor and method for visibility processing for use in the same
JP4171786B2 (ja) 2002-10-25 2008-10-29 コニカミノルタホールディングス株式会社 画像入力装置
US7742088B2 (en) 2002-11-19 2010-06-22 Fujifilm Corporation Image sensor and digital camera
EP1570683A1 (en) 2002-11-21 2005-09-07 Vision III Imaging, Inc. Critical alignment of parallax images for autostereoscopic display
US20040105021A1 (en) 2002-12-02 2004-06-03 Bolymedia Holdings Co., Ltd. Color filter patterns for image sensors
US20040114807A1 (en) 2002-12-13 2004-06-17 Dan Lelescu Statistical representation and coding of light field data
US6878918B2 (en) 2003-01-09 2005-04-12 Dialdg Semiconductor Gmbh APS pixel with reset noise suppression and programmable binning capability
US7340099B2 (en) 2003-01-17 2008-03-04 University Of New Brunswick System and method for image fusion
DE10301941B4 (de) 2003-01-20 2005-11-17 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Kamera und Verfahren zur optischen Aufnahme eines Schirms
US7379592B2 (en) 2003-01-21 2008-05-27 United States Of America As Represented By The Secretary Of The Navy System and method for significant dust detection and enhancement of dust images over land and ocean
WO2004068862A1 (ja) 2003-01-31 2004-08-12 The Circle For The Promotion Of Science And Engineering 高解像度カラー画像生成方法,高解像度カラー画像生成装置及び高解像度カラー画像生成プログラム
US7005637B2 (en) 2003-01-31 2006-02-28 Intevac, Inc. Backside thinning of image array devices
US7308157B2 (en) 2003-02-03 2007-12-11 Photon Dynamics, Inc. Method and apparatus for optical inspection of a display
EP1599043A4 (en) 2003-02-04 2011-08-10 Panasonic Corp CODING METHOD AND DEVICE THEREFOR
US7595817B1 (en) 2003-02-12 2009-09-29 The Research Foundation Of State University Of New York Linear system based, qualitative independent motion detection from compressed MPEG surveillance video
US20040165090A1 (en) 2003-02-13 2004-08-26 Alex Ning Auto-focus (AF) lens and process
JP2004266369A (ja) 2003-02-21 2004-09-24 Sony Corp 固体撮像装置およびその駆動方法
US7106914B2 (en) 2003-02-27 2006-09-12 Microsoft Corporation Bayesian image super resolution
US7148861B2 (en) 2003-03-01 2006-12-12 The Boeing Company Systems and methods for providing enhanced vision imaging with decreased latency
US8218052B2 (en) 2003-03-07 2012-07-10 Iconix Video, Inc. High frame rate high definition imaging system and method
US7218320B2 (en) 2003-03-13 2007-05-15 Sony Corporation System and method for capturing facial and body motion
US6801719B1 (en) 2003-03-14 2004-10-05 Eastman Kodak Company Camera using beam splitter with micro-lens image amplification
US7206449B2 (en) 2003-03-19 2007-04-17 Mitsubishi Electric Research Laboratories, Inc. Detecting silhouette edges in images
US7425984B2 (en) 2003-04-04 2008-09-16 Stmicroelectronics, Inc. Compound camera and methods for implementing auto-focus, depth-of-field and high-resolution functions
US7373005B2 (en) 2003-04-10 2008-05-13 Micron Technology, Inc. Compression system for integrated sensor devices
US7221445B2 (en) * 2003-04-11 2007-05-22 Metrolaser, Inc. Methods and apparatus for detecting and quantifying surface characteristics and material conditions using light scattering
US7097311B2 (en) 2003-04-19 2006-08-29 University Of Kentucky Research Foundation Super-resolution overlay in multi-projector displays
US6958862B1 (en) 2003-04-21 2005-10-25 Foveon, Inc. Use of a lenslet array with a vertically stacked pixel array
US7428330B2 (en) 2003-05-02 2008-09-23 Microsoft Corporation Cyclopean virtual imaging via generalized probabilistic smoothing
SE525665C2 (sv) 2003-05-08 2005-03-29 Forskarpatent I Syd Ab Matris av pixlar samt elektronisk bildanordning innefattande nämnda matris av pixlar
KR20060115961A (ko) 2003-05-13 2006-11-13 익시이드 이미징 리미티드 이미지 해상도를 향상시키기 위한 광학적 방법 및 시스템
JP2004348674A (ja) 2003-05-26 2004-12-09 Noritsu Koki Co Ltd 領域検出方法及びその装置
US20040239782A1 (en) 2003-05-30 2004-12-02 William Equitz System and method for efficient improvement of image quality in cameras
US20040240052A1 (en) 2003-06-02 2004-12-02 Pentax Corporation Multiple-focal imaging device, and a mobile device having the multiple-focal-length imaging device
JP2004363478A (ja) 2003-06-06 2004-12-24 Sanyo Electric Co Ltd 半導体装置の製造方法
KR100539234B1 (ko) 2003-06-11 2005-12-27 삼성전자주식회사 투명 고분자 소재를 적용한 씨모스형 이미지 센서 모듈 및그 제조방법
US7362918B2 (en) 2003-06-24 2008-04-22 Microsoft Corporation System and method for de-noising multiple copies of a signal
US6818934B1 (en) 2003-06-24 2004-11-16 Omnivision International Holding Ltd Image sensor having micro-lens array separated with trench structures and method of making
US20050117015A1 (en) 2003-06-26 2005-06-02 Microsoft Corp. Foveated panoramic camera system
US7315630B2 (en) 2003-06-26 2008-01-01 Fotonation Vision Limited Perfecting of digital image rendering parameters within rendering devices using face detection
US7495694B2 (en) 2004-07-28 2009-02-24 Microsoft Corp. Omni-directional camera with calibration and up look angle improvements
US7090135B2 (en) 2003-07-07 2006-08-15 Symbol Technologies, Inc. Imaging arrangement and barcode imager for imaging an optical code or target at a plurality of focal planes
US7388609B2 (en) 2003-07-07 2008-06-17 Zoran Corporation Dynamic identification and correction of defective pixels
US20050007461A1 (en) 2003-07-11 2005-01-13 Novatek Microelectronic Co. Correction system and method of analog front end
JP3731589B2 (ja) 2003-07-18 2006-01-05 ソニー株式会社 撮像装置と同期信号発生装置
US7233737B2 (en) 2003-08-12 2007-06-19 Micron Technology, Inc. Fixed-focus camera module and associated method of assembly
US20050111705A1 (en) 2003-08-26 2005-05-26 Roman Waupotitsch Passive stereo sensing for 3D facial shape biometrics
US7643703B2 (en) 2003-09-03 2010-01-05 Battelle Energy Alliance, Llc Image change detection systems, methods, and articles of manufacture
WO2005024698A2 (en) 2003-09-04 2005-03-17 Sarnoff Corporation Method and apparatus for performing iris recognition from an image
WO2005027038A2 (en) 2003-09-08 2005-03-24 Honda Motor Co., Ltd. Systems and methods for directly generating a view using a layered approach
JP4015090B2 (ja) 2003-09-08 2007-11-28 株式会社東芝 立体表示装置および画像表示方法
JP4020850B2 (ja) 2003-10-06 2007-12-12 株式会社東芝 磁気記録媒体の製造方法、製造装置、インプリントスタンパ及びその製造方法
US7079251B2 (en) 2003-10-16 2006-07-18 4D Technology Corporation Calibration and error correction in multi-channel imaging
US7924327B2 (en) 2003-10-22 2011-04-12 Panasonic Corporation Imaging apparatus and method for producing the same, portable equipment, and imaging sensor and method for producing the same
US7840067B2 (en) 2003-10-24 2010-11-23 Arcsoft, Inc. Color matching and color correction for images forming a panoramic image
JP4118916B2 (ja) 2003-11-11 2008-07-16 オリンパス株式会社 マルチスペクトル画像撮影装置
JP4235539B2 (ja) 2003-12-01 2009-03-11 独立行政法人科学技術振興機構 画像構成装置及び画像構成方法
US7328288B2 (en) 2003-12-11 2008-02-05 Canon Kabushiki Kaisha Relay apparatus for relaying communication from CPU to peripheral device
US20050128509A1 (en) 2003-12-11 2005-06-16 Timo Tokkonen Image creating method and imaging device
US7453510B2 (en) 2003-12-11 2008-11-18 Nokia Corporation Imaging device
JP3859158B2 (ja) 2003-12-16 2006-12-20 セイコーエプソン株式会社 マイクロレンズ用凹部付き基板、マイクロレンズ基板、透過型スクリーン、およびリア型プロジェクタ
US7511749B2 (en) 2003-12-18 2009-03-31 Aptina Imaging Corporation Color image sensor having imaging element array forming images on respective regions of sensor elements
US7123298B2 (en) 2003-12-18 2006-10-17 Avago Technologies Sensor Ip Pte. Ltd. Color image sensor with imaging elements imaging on respective regions of sensor elements
US7376250B2 (en) 2004-01-05 2008-05-20 Honda Motor Co., Ltd. Apparatus, method and program for moving object detection
US7496293B2 (en) 2004-01-14 2009-02-24 Elbit Systems Ltd. Versatile camera for various visibility conditions
US7773143B2 (en) 2004-04-08 2010-08-10 Tessera North America, Inc. Thin color camera having sub-pixel resolution
US8134637B2 (en) 2004-01-28 2012-03-13 Microsoft Corporation Method and system to increase X-Y resolution in a depth (Z) camera using red, blue, green (RGB) sensing
US7453688B2 (en) 2004-01-29 2008-11-18 Inventec Corporation Multimedia device for portable computers
US7774044B2 (en) 2004-02-17 2010-08-10 Siemens Medical Solutions Usa, Inc. System and method for augmented reality navigation in a medical intervention procedure
US20050185711A1 (en) 2004-02-20 2005-08-25 Hanspeter Pfister 3D television system and method
SE527889C2 (sv) 2004-03-17 2006-07-04 Thomas Jeff Adamo Apparat för avbildning av ett objekt
JP2006047944A (ja) 2004-03-24 2006-02-16 Fuji Photo Film Co Ltd 撮影レンズ
JP4468442B2 (ja) 2004-03-31 2010-05-26 キヤノン株式会社 イメージングシステム性能測定
US7633511B2 (en) 2004-04-01 2009-12-15 Microsoft Corporation Pop-up light field
JP4665422B2 (ja) 2004-04-02 2011-04-06 ソニー株式会社 撮像装置
US8634014B2 (en) 2004-04-05 2014-01-21 Hewlett-Packard Development Company, L.P. Imaging device analysis systems and imaging device analysis methods
US7091531B2 (en) 2004-04-07 2006-08-15 Micron Technology, Inc. High dynamic range pixel amplifier
US8049806B2 (en) 2004-09-27 2011-11-01 Digitaloptics Corporation East Thin camera and associated methods
US7620265B1 (en) 2004-04-12 2009-11-17 Equinox Corporation Color invariant image fusion of visible and thermal infrared video
JP2005303694A (ja) 2004-04-13 2005-10-27 Konica Minolta Holdings Inc 複眼撮像装置
US7292735B2 (en) 2004-04-16 2007-11-06 Microsoft Corporation Virtual image artifact detection
US7773404B2 (en) 2005-01-07 2010-08-10 Invisage Technologies, Inc. Quantum dot optical devices with enhanced gain and sensitivity and methods of making same
US8218625B2 (en) 2004-04-23 2012-07-10 Dolby Laboratories Licensing Corporation Encoding, decoding and representing high dynamic range images
US20060034531A1 (en) 2004-05-10 2006-02-16 Seiko Epson Corporation Block noise level evaluation method for compressed images and control method of imaging device utilizing the evaluation method
JP4691552B2 (ja) 2004-05-14 2011-06-01 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 乳癌診断システム及び方法
JP4610411B2 (ja) 2004-05-17 2011-01-12 ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド 物体を含むシーンの様式化された画像を生成する方法
US7355793B2 (en) 2004-05-19 2008-04-08 The Regents Of The University Of California Optical system applicable to improving the dynamic range of Shack-Hartmann sensors
US20050265633A1 (en) 2004-05-25 2005-12-01 Sarnoff Corporation Low latency pyramid processor for image processing systems
JP2005354124A (ja) 2004-06-08 2005-12-22 Seiko Epson Corp 複数の低画素密度画像からの高画素密度画像の生成
US20060013318A1 (en) 2004-06-22 2006-01-19 Jennifer Webb Video error detection, recovery, and concealment
US7330593B2 (en) 2004-06-25 2008-02-12 Stmicroelectronics, Inc. Segment based image matching method and system
JP4408755B2 (ja) 2004-06-28 2010-02-03 Ｎｅｃエレクトロニクス株式会社 デインタリーブ装置、移動通信端末及びデインタリーブ方法
JP4479373B2 (ja) 2004-06-28 2010-06-09 ソニー株式会社 イメージセンサ
US7447382B2 (en) 2004-06-30 2008-11-04 Intel Corporation Computing a higher resolution image from multiple lower resolution images using model-based, robust Bayesian estimation
JP2006033228A (ja) 2004-07-14 2006-02-02 Victor Co Of Japan Ltd 画像撮像装置
JP2006033493A (ja) 2004-07-16 2006-02-02 Matsushita Electric Ind Co Ltd 撮像装置
US7189954B2 (en) 2004-07-19 2007-03-13 Micron Technology, Inc. Microelectronic imagers with optical devices and methods of manufacturing such microelectronic imagers
JP2006033570A (ja) 2004-07-20 2006-02-02 Olympus Corp 画像生成装置
US8027531B2 (en) 2004-07-21 2011-09-27 The Board Of Trustees Of The Leland Stanford Junior University Apparatus and method for capturing a scene using staggered triggering of dense camera arrays
GB0416496D0 (en) 2004-07-23 2004-08-25 Council Of The Central Lab Of Imaging device
US20060023197A1 (en) 2004-07-27 2006-02-02 Joel Andrew H Method and system for automated production of autostereoscopic and animated prints and transparencies from digital and non-digital media
US7068432B2 (en) 2004-07-27 2006-06-27 Micron Technology, Inc. Controlling lens shape in a microlens array
DE102004036469A1 (de) 2004-07-28 2006-02-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Kameramodul, hierauf basierendes Array und Verfahren zu dessen Herstellung
US20060028476A1 (en) 2004-08-03 2006-02-09 Irwin Sobel Method and system for providing extensive coverage of an object using virtual cameras
US7333652B2 (en) 2004-08-03 2008-02-19 Sony Corporation System and method for efficiently performing a depth map recovery procedure
JP2006050263A (ja) 2004-08-04 2006-02-16 Olympus Corp 画像生成方法および装置
JP2008509438A (ja) 2004-08-06 2008-03-27 ユニヴァーシティ オブ ワシントン 可変固定視距離で走査される光表示装置
US7430339B2 (en) 2004-08-09 2008-09-30 Microsoft Corporation Border matting by dynamic programming
US7609302B2 (en) 2004-08-11 2009-10-27 Micron Technology, Inc. Correction of non-uniform sensitivity in an image array
US7645635B2 (en) 2004-08-16 2010-01-12 Micron Technology, Inc. Frame structure and semiconductor attach process for use therewith for fabrication of image sensor packages and the like, and resulting packages
US7061693B2 (en) 2004-08-16 2006-06-13 Xceed Imaging Ltd. Optical method and system for extended depth of focus
JP2008511080A (ja) 2004-08-23 2008-04-10 サーノフ コーポレーション 融合画像を形成するための方法および装置
US7795577B2 (en) 2004-08-25 2010-09-14 Richard Ian Olsen Lens frame and optical focus assembly for imager module
US7916180B2 (en) 2004-08-25 2011-03-29 Protarius Filo Ag, L.L.C. Simultaneous multiple field of view digital cameras
US8124929B2 (en) 2004-08-25 2012-02-28 Protarius Filo Ag, L.L.C. Imager module optical focus and assembly method
US7564019B2 (en) 2005-08-25 2009-07-21 Richard Ian Olsen Large dynamic range cameras
US20060054782A1 (en) 2004-08-25 2006-03-16 Olsen Richard I Apparatus for multiple camera devices and method of operating same
JP4057597B2 (ja) 2004-08-26 2008-03-05 独立行政法人科学技術振興機構 光学素子
CN100489599C (zh) 2004-08-26 2009-05-20 财团法人秋田企业活性化中心 液晶透镜
US20060046204A1 (en) 2004-08-31 2006-03-02 Sharp Laboratories Of America, Inc. Directly patternable microlens
JP2006080852A (ja) 2004-09-09 2006-03-23 Olympus Corp 画像処理装置、電子カメラ、スキャナ、画像処理方法、および画像処理プログラム
US20060055811A1 (en) 2004-09-14 2006-03-16 Frtiz Bernard S Imaging system having modules with adaptive optical elements
US7145124B2 (en) 2004-09-15 2006-12-05 Raytheon Company Multispectral imaging chip using photonic crystals
JP4202991B2 (ja) 2004-09-29 2008-12-24 株式会社東芝 立体画像用データの記録方法及び表示再生方法
JP3977368B2 (ja) 2004-09-30 2007-09-19 クラリオン株式会社 駐車支援システム
DE102004049676A1 (de) 2004-10-12 2006-04-20 Infineon Technologies Ag Verfahren zur rechnergestützten Bewegungsschätzung in einer Vielzahl von zeitlich aufeinander folgenden digitalen Bildern, Anordnung zur rechnergestützten Bewegungsschätzung, Computerprogramm-Element und computerlesbares Speichermedium
JP2006119368A (ja) 2004-10-21 2006-05-11 Konica Minolta Opto Inc 広角光学系、撮像レンズ装置、モニタカメラ及びデジタル機器
JP4534715B2 (ja) 2004-10-22 2010-09-01 株式会社ニコン 撮像装置および画像処理プログラム
DE102004052994C5 (de) 2004-11-03 2010-08-26 Vistec Electron Beam Gmbh Multistrahlmodulator für einen Partikelstrahl und Verwendung des Multistrahlmodulators zur maskenlosen Substratsstrukturierung
KR100603601B1 (ko) 2004-11-08 2006-07-24 한국전자통신연구원 다시점 콘텐츠 생성 장치 및 그 방법
US7598996B2 (en) 2004-11-16 2009-10-06 Aptina Imaging Corporation System and method for focusing a digital camera
EP1831657B1 (en) 2004-12-03 2018-12-05 Fluke Corporation Method for a visible light and ir combined image camera
JP2006165795A (ja) 2004-12-03 2006-06-22 Canon Inc 画像形成装置およびその方法
US7483065B2 (en) 2004-12-15 2009-01-27 Aptina Imaging Corporation Multi-lens imaging systems and methods using optical filters having mosaic patterns
US8854486B2 (en) 2004-12-17 2014-10-07 Mitsubishi Electric Research Laboratories, Inc. Method and system for processing multiview videos for view synthesis using skip and direct modes
US7728878B2 (en) 2004-12-17 2010-06-01 Mitsubishi Electric Research Labortories, Inc. Method and system for processing multiview videos for view synthesis using side information
US20060139475A1 (en) 2004-12-23 2006-06-29 Esch John W Multiple field of view camera arrays
US20110102553A1 (en) 2007-02-28 2011-05-05 Tessera Technologies Ireland Limited Enhanced real-time face models from stereo imaging
WO2006074310A2 (en) 2005-01-07 2006-07-13 Gesturetek, Inc. Creating 3d images of objects by illuminating with infrared patterns
US7073908B1 (en) 2005-01-11 2006-07-11 Anthony Italo Provitola Enhancement of depth perception
US7767949B2 (en) 2005-01-18 2010-08-03 Rearden, Llc Apparatus and method for capturing still images and video using coded aperture techniques
US7671321B2 (en) 2005-01-18 2010-03-02 Rearden, Llc Apparatus and method for capturing still images and video using coded lens imaging techniques
US7602997B2 (en) 2005-01-19 2009-10-13 The United States Of America As Represented By The Secretary Of The Army Method of super-resolving images
US8700729B2 (en) 2005-01-21 2014-04-15 Robin Dua Method and apparatus for managing credentials through a wireless network
EP1844425B1 (en) 2005-02-02 2013-06-05 Intergraph Software Technologies Company Real-time image detection using polarization data
US7408627B2 (en) 2005-02-08 2008-08-05 Canesta, Inc. Methods and system to quantify depth data accuracy in three-dimensional sensors using single frame capture
US7965314B1 (en) 2005-02-09 2011-06-21 Flir Systems, Inc. Foveal camera systems and methods
US20060187322A1 (en) 2005-02-18 2006-08-24 Janson Wilbert F Jr Digital camera using multiple fixed focal length lenses and multiple image sensors to provide an extended zoom range
US7561191B2 (en) 2005-02-18 2009-07-14 Eastman Kodak Company Camera phone using multiple lenses and image sensors to provide an extended zoom range
WO2006094409A1 (en) 2005-03-11 2006-09-14 Creaform Inc. Auto-referenced system and apparatus for three-dimensional scanning
JP2006258930A (ja) 2005-03-15 2006-09-28 Nikon Corp マイクロレンズの製造方法、及びマイクロレンズ用の型の製造方法
WO2006102181A1 (en) 2005-03-21 2006-09-28 Massachusetts Institute Of Technology (Mit) Real-time, continuous-wave terahertz imaging using a microbolometer focal-plane array
JPWO2006100903A1 (ja) 2005-03-23 2008-08-28 松下電器産業株式会社 車載撮像装置
WO2006101064A1 (ja) 2005-03-24 2006-09-28 Matsushita Electric Industrial Co., Ltd. 撮像装置及びそれに用いられるレンズアレイ
US7297917B2 (en) 2005-03-24 2007-11-20 Micron Technology, Inc. Readout technique for increasing or maintaining dynamic range in image sensors
US7683950B2 (en) 2005-04-26 2010-03-23 Eastman Kodak Company Method and apparatus for correcting a channel dependent color aberration in a digital image
US7956871B2 (en) 2005-04-28 2011-06-07 Samsung Electronics Co., Ltd. Color disparity correction in image sensors methods and circuits
US7656428B2 (en) 2005-05-05 2010-02-02 Avago Technologies General Ip (Singapore) Pte. Ltd. Imaging device employing optical motion sensor as gyroscope
EP1882449A4 (en) 2005-05-18 2010-05-05 Hitachi Medical Corp RADIOGRAPHY DEVICE AND IMAGE PROCESSING PROGRAM
US8411182B2 (en) 2005-06-02 2013-04-02 Xerox Corporation System for controlling integration times of photosensors in an imaging device
US7968888B2 (en) 2005-06-08 2011-06-28 Panasonic Corporation Solid-state image sensor and manufacturing method thereof
JP2006345233A (ja) 2005-06-09 2006-12-21 Fujifilm Holdings Corp 撮像装置及びデジタルカメラ
KR100813961B1 (ko) 2005-06-14 2008-03-14 삼성전자주식회사 영상 수신장치
US7364306B2 (en) 2005-06-20 2008-04-29 Digital Display Innovations, Llc Field sequential light source modulation for a digital display system
JP4826152B2 (ja) 2005-06-23 2011-11-30 株式会社ニコン 画像合成方法及び撮像装置
US20070102622A1 (en) 2005-07-01 2007-05-10 Olsen Richard I Apparatus for multiple camera devices and method of operating same
ES2375929T3 (es) 2005-07-04 2012-03-07 High Point Pharmaceuticals, Llc Antagonistas del receptor histamina h3.
JP4577126B2 (ja) 2005-07-08 2010-11-10 オムロン株式会社 ステレオ対応づけのための投光パターンの生成装置及び生成方法
WO2007014293A1 (en) 2005-07-25 2007-02-01 The Regents Of The University Of California Digital imaging system and method to produce mosaic images
CA2553473A1 (en) 2005-07-26 2007-01-26 Wa James Tam Generating a depth map from a tw0-dimensional source image for stereoscopic and multiview imaging
CN101533202B (zh) 2005-07-26 2011-04-13 松下电器产业株式会社 复眼方式的摄像装置
US7969488B2 (en) 2005-08-03 2011-06-28 Micron Technologies, Inc. Correction of cluster defects in imagers
US7929801B2 (en) 2005-08-15 2011-04-19 Sony Corporation Depth information for auto focus using two pictures and two-dimensional Gaussian scale space theory
US20070041391A1 (en) 2005-08-18 2007-02-22 Micron Technology, Inc. Method and apparatus for controlling imager output data rate
US20070040922A1 (en) 2005-08-22 2007-02-22 Micron Technology, Inc. HDR/AB on multi-way shared pixels
US20070258006A1 (en) 2005-08-25 2007-11-08 Olsen Richard I Solid state camera optics frame and assembly
US7964835B2 (en) 2005-08-25 2011-06-21 Protarius Filo Ag, L.L.C. Digital cameras with direct luminance and chrominance detection
US20070083114A1 (en) 2005-08-26 2007-04-12 The University Of Connecticut Systems and methods for image resolution enhancement
JP4804856B2 (ja) 2005-09-29 2011-11-02 富士フイルム株式会社 単焦点レンズ
US8009209B2 (en) 2005-09-30 2011-08-30 Simon Fraser University Methods and apparatus for detecting defects in imaging arrays by image analysis
EP1941314A4 (en) 2005-10-07 2010-04-14 Univ Leland Stanford Junior ARRANGEMENTS AND APPROACHES FOR MICROSCOPY
US8300085B2 (en) 2005-10-14 2012-10-30 Microsoft Corporation Occlusion handling in stereo imaging
JP4773179B2 (ja) 2005-10-14 2011-09-14 富士フイルム株式会社 撮像装置
US7806604B2 (en) 2005-10-20 2010-10-05 Honeywell International Inc. Face detection and tracking in a wide field of view
KR100730406B1 (ko) 2005-11-16 2007-06-19 광운대학교 산학협력단 중간 요소 영상을 이용한 입체 영상 표시 장치
JP4389865B2 (ja) 2005-11-17 2009-12-24 ソニー株式会社 固体撮像素子の信号処理装置および信号処理方法並びに撮像装置
JP4943695B2 (ja) 2005-11-21 2012-05-30 富士フイルム株式会社 多焦点カメラの撮影光学系
US7599547B2 (en) 2005-11-30 2009-10-06 Microsoft Corporation Symmetric stereo model for handling occlusion
CN101356831B (zh) 2005-11-30 2010-09-01 意大利电信股份公司 用于确定立体视觉中的分散视差场的方法
JP4516516B2 (ja) 2005-12-07 2010-08-04 本田技研工業株式会社 人物検出装置、人物検出方法及び人物検出プログラム
TWI296480B (en) 2005-12-19 2008-05-01 Quanta Comp Inc Image camera of an electronic device
JP4501855B2 (ja) 2005-12-22 2010-07-14 ソニー株式会社 画像信号処理装置、撮像装置、および画像信号処理方法、並びにコンピュータ・プログラム
JP2007180730A (ja) 2005-12-27 2007-07-12 Eastman Kodak Co デジタルカメラおよびデータ管理方法
KR100789441B1 (ko) 2005-12-30 2007-12-28 엘에스산전 주식회사 인버터의 전류 검출 장치 및 방법
WO2007077283A1 (en) 2005-12-30 2007-07-12 Nokia Corporation Method and device for controlling auto focusing of a video camera by tracking a region-of-interest
US7855786B2 (en) 2006-01-09 2010-12-21 Bae Systems Spectral Solutions Llc Single camera multi-spectral imager
US7675080B2 (en) 2006-01-10 2010-03-09 Aptina Imaging Corp. Uniform color filter arrays in a moat
JP4147273B2 (ja) 2006-01-20 2008-09-10 松下電器産業株式会社 複眼方式のカメラモジュール及びその製造方法
DE102006004802B4 (de) 2006-01-23 2008-09-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Bilderfassungssystem und Verfahren zur Herstellung mindestens eines Bilderfassungssystems
US7856125B2 (en) 2006-01-31 2010-12-21 University Of Southern California 3D face reconstruction from 2D images
JP4834412B2 (ja) 2006-02-03 2011-12-14 富士フイルム株式会社 固体撮像装置およびこれを用いた電子内視鏡
US8075604B2 (en) 2006-02-16 2011-12-13 Warsaw Orthopedic, Inc. Multi-thread bone screw and method
US20070201859A1 (en) 2006-02-24 2007-08-30 Logitech Europe S.A. Method and system for use of 3D sensors in an image capture device
US7391572B2 (en) 2006-03-01 2008-06-24 International Business Machines Corporation Hybrid optical/electronic structures fabricated by a common molding process
US7924483B2 (en) 2006-03-06 2011-04-12 Smith Scott T Fused multi-array color image sensor
DE102006011707B4 (de) 2006-03-14 2010-11-18 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und Vorrichtung zum Erzeugen einer strukturfreien fiberskopischen Aufnahme
US7616254B2 (en) 2006-03-16 2009-11-10 Sony Corporation Simple method for calculating camera defocus from an image scene
US8360574B2 (en) 2006-03-20 2013-01-29 High Performance Optics, Inc. High performance selective light wavelength filtering providing improved contrast sensitivity
JP4615468B2 (ja) 2006-03-23 2011-01-19 富士フイルム株式会社 撮影装置
US7606484B1 (en) 2006-03-23 2009-10-20 Flir Systems, Inc. Infrared and near-infrared camera hyperframing
CN101046882A (zh) 2006-03-27 2007-10-03 谷京陆 可直接输出的混合分辨率图像制作技术
US7342212B2 (en) 2006-03-31 2008-03-11 Micron Technology, Inc. Analog vertical sub-sampling in an active pixel sensor (APS) image sensor
US7916934B2 (en) 2006-04-04 2011-03-29 Mitsubishi Electric Research Laboratories, Inc. Method and system for acquiring, encoding, decoding and displaying 3D light fields
US8044994B2 (en) 2006-04-04 2011-10-25 Mitsubishi Electric Research Laboratories, Inc. Method and system for decoding and displaying 3D light fields
TW200740212A (en) 2006-04-10 2007-10-16 Sony Taiwan Ltd A stitching accuracy improvement method with lens distortion correction
US20070242141A1 (en) 2006-04-14 2007-10-18 Sony Corporation And Sony Electronics Inc. Adjustable neutral density filter system for dynamic range compression from scene to imaging sensor
CN101064780B (zh) 2006-04-30 2012-07-04 台湾新力国际股份有限公司 利用透镜失真校正的影像接合准确度改善方法及装置
US20070263114A1 (en) 2006-05-01 2007-11-15 Microalign Technologies, Inc. Ultra-thin digital imaging device of high resolution for mobile electronic devices and method of imaging
US7580620B2 (en) 2006-05-08 2009-08-25 Mitsubishi Electric Research Laboratories, Inc. Method for deblurring images using optimized temporal coding patterns
US9736346B2 (en) 2006-05-09 2017-08-15 Stereo Display, Inc Imaging system improving image resolution of the system with low resolution image sensor
EP2022008A4 (en) 2006-05-09 2012-02-01 Technion Res & Dev Foundation PICTURE SYSTEMS AND METHOD FOR RESTORING THE OBJECTIBILITY
US7889264B2 (en) 2006-05-12 2011-02-15 Ricoh Co., Ltd. End-to-end design of superresolution electro-optic imaging systems
US7916362B2 (en) 2006-05-22 2011-03-29 Eastman Kodak Company Image sensor with improved light sensitivity
US8139142B2 (en) 2006-06-01 2012-03-20 Microsoft Corporation Video manipulation of red, green, blue, distance (RGB-Z) data including segmentation, up-sampling, and background substitution techniques
IES20070229A2 (en) 2006-06-05 2007-10-03 Fotonation Vision Ltd Image acquisition method and apparatus
US8081207B2 (en) 2006-06-06 2011-12-20 Point Grey Research Inc. High accuracy stereo camera
US20070177004A1 (en) 2006-06-08 2007-08-02 Timo Kolehmainen Image creating method and imaging device
US20070291995A1 (en) 2006-06-09 2007-12-20 Rivera Paul G System, Method, and Apparatus for Preventing Identity Fraud Associated With Payment and Identity Cards
JP4631811B2 (ja) 2006-06-12 2011-02-16 株式会社日立製作所 撮像装置
JP5106870B2 (ja) 2006-06-14 2012-12-26 株式会社東芝 固体撮像素子
FR2902530A1 (fr) 2006-06-19 2007-12-21 St Microelectronics Rousset Procede de fabrication de lentilles, notamment pour imageur comprenant un diaphragme
TWI362550B (en) 2007-06-21 2012-04-21 Ether Precision Inc The method for manufacturing the image captures unit
US7925117B2 (en) 2006-06-27 2011-04-12 Honeywell International Inc. Fusion of sensor data and synthetic data to form an integrated image
FR2903155B1 (fr) 2006-07-03 2008-10-17 Poclain Hydraulics Ind Soc Par Circuit hydraulique de recuperation d'energie
KR100793369B1 (ko) 2006-07-06 2008-01-11 삼성전자주식회사 분해능이 향상되는 이미지 센서 및 이를 이용한 이미지감지 방법
US20080024683A1 (en) 2006-07-31 2008-01-31 Niranjan Damera-Venkata Overlapped multi-projector system with dithering
JP2008039852A (ja) 2006-08-01 2008-02-21 Agc Techno Glass Co Ltd ガラス光学素子及びその製造方法
US20080030592A1 (en) 2006-08-01 2008-02-07 Eastman Kodak Company Producing digital image with different resolution portions
US8406562B2 (en) 2006-08-11 2013-03-26 Geo Semiconductor Inc. System and method for automated calibration and correction of display geometry and color
US20080044170A1 (en) 2006-08-16 2008-02-21 Choon Hwee Yap Image Capturing System And Method Of Operating The Same
EP1892688B1 (fr) 2006-08-24 2010-09-01 Valeo Vision Procédé de détermination de passage d'un véhicule dans un goulet
US8306063B2 (en) 2006-08-29 2012-11-06 EXFO Services Assurance, Inc. Real-time transport protocol stream detection system and method
US8687087B2 (en) 2006-08-29 2014-04-01 Csr Technology Inc. Digital camera with selectively increased dynamic range by control of parameters during image acquisition
KR100746360B1 (ko) 2006-08-31 2007-08-06 삼성전기주식회사 스템퍼 제조방법
NO326372B1 (no) 2006-09-21 2008-11-17 Polight As Polymerlinse
WO2008039802A2 (en) 2006-09-25 2008-04-03 Ophthonix, Incorporated Method for correction of chromatic aberration and achromatic lens
JP4403162B2 (ja) 2006-09-29 2010-01-20 株式会社東芝 立体画像表示装置および立体画像の作製方法
US20080080028A1 (en) 2006-10-02 2008-04-03 Micron Technology, Inc. Imaging method, apparatus and system having extended depth of field
US8031258B2 (en) 2006-10-04 2011-10-04 Omnivision Technologies, Inc. Providing multiple video signals from single sensor
WO2008044938A1 (en) 2006-10-11 2008-04-17 Ignis Display As Method for manufacturing adjustable lens
KR101360455B1 (ko) 2006-10-11 2014-02-07 포라이트 에이에스 소형의 조정 가능한 렌즈의 설계
US8073196B2 (en) 2006-10-16 2011-12-06 University Of Southern California Detection and tracking of moving objects from a moving platform in presence of strong parallax
US7702229B2 (en) 2006-10-18 2010-04-20 Eastman Kodak Company Lens array assisted focus detection
JP4349456B2 (ja) 2006-10-23 2009-10-21 ソニー株式会社 固体撮像素子
US20100103175A1 (en) 2006-10-25 2010-04-29 Tokyo Institute Of Technology Method for generating a high-resolution virtual-focal-plane image
US7888159B2 (en) 2006-10-26 2011-02-15 Omnivision Technologies, Inc. Image sensor having curved micro-mirrors over the sensing photodiode and method for fabricating
JP4452951B2 (ja) 2006-11-02 2010-04-21 富士フイルム株式会社 距離画像生成方法及びその装置
KR20080043106A (ko) 2006-11-13 2008-05-16 삼성전자주식회사 광학렌즈 및 그 제조방법
US8059162B2 (en) 2006-11-15 2011-11-15 Sony Corporation Imaging apparatus and method, and method for designing imaging apparatus
US20080118241A1 (en) 2006-11-16 2008-05-22 Tekolste Robert Control of stray light in camera systems employing an optics stack and associated methods
CN201043890Y (zh) 2006-11-17 2008-04-02 中国科学院上海光学精密机械研究所 单孔径多重成像的光学成像测距装置
US8538166B2 (en) 2006-11-21 2013-09-17 Mantisvision Ltd. 3D geometric modeling and 3D video content creation
KR20080047002A (ko) 2006-11-24 2008-05-28 엘지이노텍 주식회사 카메라모듈의 렌즈 어셈블리 및 그 제작 방법
US20100265385A1 (en) 2009-04-18 2010-10-21 Knight Timothy J Light Field Camera Image, File and Configuration Data, and Methods of Using, Storing and Communicating Same
US8559705B2 (en) 2006-12-01 2013-10-15 Lytro, Inc. Interactive refocusing of electronic images
US8570426B2 (en) 2008-11-25 2013-10-29 Lytro, Inc. System of and method for video refocusing
JP4406937B2 (ja) 2006-12-01 2010-02-03 富士フイルム株式会社 撮影装置
JP5040493B2 (ja) 2006-12-04 2012-10-03 ソニー株式会社 撮像装置及び撮像方法
US8242426B2 (en) 2006-12-12 2012-08-14 Dolby Laboratories Licensing Corporation Electronic camera having multiple sensors for capturing high dynamic range images and related methods
US7646549B2 (en) 2006-12-18 2010-01-12 Xceed Imaging Ltd Imaging system and method for providing extended depth of focus, range extraction and super resolved imaging
US8558929B2 (en) 2006-12-20 2013-10-15 Carestream Health, Inc. Imaging array for multiple frame capture
US8213500B2 (en) 2006-12-21 2012-07-03 Sharp Laboratories Of America, Inc. Methods and systems for processing film grain noise
TWI324015B (en) 2006-12-22 2010-04-21 Ind Tech Res Inst Autofocus searching method
US8103111B2 (en) 2006-12-26 2012-01-24 Olympus Imaging Corp. Coding method, electronic camera, recording medium storing coded program, and decoding method
US20080158259A1 (en) 2006-12-28 2008-07-03 Texas Instruments Incorporated Image warping and lateral color correction
US20080158698A1 (en) 2006-12-29 2008-07-03 Chao-Chi Chang Lens barrel array and lens array and the method of making the same
US7973823B2 (en) 2006-12-29 2011-07-05 Nokia Corporation Method and system for image pre-processing
US20080165257A1 (en) 2007-01-05 2008-07-10 Micron Technology, Inc. Configurable pixel array system and method
JP4993578B2 (ja) 2007-01-15 2012-08-08 オリンパスイメージング株式会社 画像ファイル再生装置，画像ファイル加工編集装置
US8655052B2 (en) 2007-01-26 2014-02-18 Intellectual Discovery Co., Ltd. Methodology for 3D scene reconstruction from 2D image sequences
JP5024992B2 (ja) 2007-02-02 2012-09-12 株式会社ジャパンディスプレイセントラル 表示装置
US7667824B1 (en) 2007-02-06 2010-02-23 Alpha Technology, LLC Range gated shearography systems and related methods
US7792423B2 (en) 2007-02-06 2010-09-07 Mitsubishi Electric Research Laboratories, Inc. 4D light field cameras
CN100585453C (zh) 2007-02-09 2010-01-27 奥林巴斯映像株式会社 解码方法及解码装置
JP4386083B2 (ja) 2007-02-27 2009-12-16 トヨタ自動車株式会社 駐車支援装置
JP4185956B2 (ja) 2007-02-27 2008-11-26 トヨタ自動車株式会社 旅行時間演算サーバ、車両用旅行時間演算装置及び旅行時間演算システム
JP2008209761A (ja) 2007-02-27 2008-09-11 Nikon Corp 焦点検出装置および撮像装置
JP4153013B1 (ja) 2007-03-06 2008-09-17 シャープ株式会社 撮像レンズ、撮像ユニットおよびそれを備えた携帯型情報端末
US7755679B2 (en) 2007-03-07 2010-07-13 Altasens, Inc. Apparatus and method for reducing edge effect in an image sensor
US7676146B2 (en) 2007-03-09 2010-03-09 Eastman Kodak Company Camera using multiple lenses and image sensors to provide improved focusing capability
US7729602B2 (en) 2007-03-09 2010-06-01 Eastman Kodak Company Camera using multiple lenses and image sensors operable in a default imaging mode
US7683962B2 (en) 2007-03-09 2010-03-23 Eastman Kodak Company Camera using multiple lenses and image sensors in a rangefinder configuration to provide a range map
US7859588B2 (en) 2007-03-09 2010-12-28 Eastman Kodak Company Method and apparatus for operating a dual lens camera to augment an image
US8593506B2 (en) 2007-03-15 2013-11-26 Yissum Research Development Company Of The Hebrew University Of Jerusalem Method and system for forming a panoramic image of a scene having minimal aspect distortion
JP4915859B2 (ja) 2007-03-26 2012-04-11 船井電機株式会社 物体の距離導出装置
JP2008242658A (ja) 2007-03-26 2008-10-09 Funai Electric Co Ltd 立体物体の撮像装置
US7738017B2 (en) 2007-03-27 2010-06-15 Aptina Imaging Corporation Method and apparatus for automatic linear shift parallax correction for multi-array image systems
US8055466B2 (en) 2007-03-30 2011-11-08 Mitutoyo Corporation Global calibration for stereo vision probe
US8165418B2 (en) 2007-03-30 2012-04-24 Brother Kogyo Kabushiki Kaisha Image processor
US8493496B2 (en) 2007-04-02 2013-07-23 Primesense Ltd. Depth mapping using projected patterns
US8213711B2 (en) 2007-04-03 2012-07-03 Her Majesty The Queen In Right Of Canada As Represented By The Minister Of Industry, Through The Communications Research Centre Canada Method and graphical user interface for modifying depth maps
US8098941B2 (en) 2007-04-03 2012-01-17 Aptina Imaging Corporation Method and apparatus for parallelization of image compression encoders
CN101281282A (zh) 2007-04-04 2008-10-08 鸿富锦精密工业（深圳）有限公司 镜头模组
JP2008258885A (ja) 2007-04-04 2008-10-23 Texas Instr Japan Ltd 撮像装置および撮像装置の駆動方法
JP4310348B2 (ja) 2007-04-04 2009-08-05 シャープ株式会社 固体撮像装置およびそれを備えた電子機器
JP2010525387A (ja) 2007-04-16 2010-07-22 サンダラー，ナガッパン，ムスサミー 立体視覚
CN102017147B (zh) 2007-04-18 2014-01-29 因维萨热技术公司 用于光电装置的材料、系统和方法
US8467628B2 (en) 2007-04-24 2013-06-18 21 Ct, Inc. Method and system for fast dense stereoscopic ranging
KR100869219B1 (ko) 2007-05-03 2008-11-18 동부일렉트로닉스 주식회사 이미지 센서 및 그 제조방법
GB0708655D0 (en) * 2007-05-04 2007-06-13 Imp Innovations Ltd Imaging of moving objects
US8462220B2 (en) 2007-05-09 2013-06-11 Aptina Imaging Corporation Method and apparatus for improving low-light performance for small pixel image sensors
US7812869B2 (en) 2007-05-11 2010-10-12 Aptina Imaging Corporation Configurable pixel array system and method
JP4341695B2 (ja) 2007-05-17 2009-10-07 ソニー株式会社 画像入力処理装置、撮像信号処理回路、および、撮像信号のノイズ低減方法
JP4337911B2 (ja) 2007-05-24 2009-09-30 ソニー株式会社 撮像装置、撮像回路、および撮像方法
US20080298674A1 (en) 2007-05-29 2008-12-04 Image Masters Inc. Stereoscopic Panoramic imaging system
US7733575B2 (en) 2007-05-31 2010-06-08 Artificial Muscle, Inc. Optical systems employing compliant electroactive materials
US8290358B1 (en) 2007-06-25 2012-10-16 Adobe Systems Incorporated Methods and apparatus for light-field imaging
EP2163103B1 (en) 2007-06-26 2017-05-03 Koninklijke Philips N.V. Method and system for encoding a 3d video signal, enclosed 3d video signal, method and system for decoder for a 3d video signal
EP2168096A1 (en) 2007-07-12 2010-03-31 Thomson Licensing System and method for three-dimensional object reconstruction from two-dimensional images
US8125619B2 (en) 2007-07-25 2012-02-28 Eminent Electronic Technology Corp. Integrated ambient light sensor and distance sensor
JP5006727B2 (ja) 2007-07-26 2012-08-22 株式会社リコー 画像処理装置およびデジタルカメラ
US8019215B2 (en) 2007-08-06 2011-09-13 Adobe Systems Incorporated Method and apparatus for radiance capture by multiplexing in the frequency domain
EP2034338A1 (en) 2007-08-11 2009-03-11 ETH Zurich Liquid Lens System
EP2026563A1 (en) 2007-08-14 2009-02-18 Deutsche Thomson OHG System and method for detecting defective pixels
US7782364B2 (en) 2007-08-21 2010-08-24 Aptina Imaging Corporation Multi-array sensor with integrated sub-array for parallax detection and photometer functionality
EP2031592A1 (en) 2007-08-30 2009-03-04 DTR Limited Method and system for recordable DVDs
US20090066693A1 (en) 2007-09-06 2009-03-12 Roc Carson Encoding A Depth Map Into An Image Using Analysis Of Two Consecutive Captured Frames
US7973834B2 (en) 2007-09-24 2011-07-05 Jianwen Yang Electro-optical foveated imaging and tracking system
US20090079862A1 (en) 2007-09-25 2009-03-26 Micron Technology, Inc. Method and apparatus providing imaging auto-focus utilizing absolute blur value
US20090086074A1 (en) 2007-09-27 2009-04-02 Omnivision Technologies, Inc. Dual mode camera solution apparatus, system, and method
US7940311B2 (en) 2007-10-03 2011-05-10 Nokia Corporation Multi-exposure pattern for enhancing dynamic range of images
JP5172267B2 (ja) 2007-10-09 2013-03-27 富士フイルム株式会社 撮像装置
US8049289B2 (en) 2007-10-11 2011-11-01 Dongbu Hitek Co., Ltd. Image sensor and method for manufacturing the same
US8938009B2 (en) 2007-10-12 2015-01-20 Qualcomm Incorporated Layered encoded bitstream structure
US7956924B2 (en) 2007-10-18 2011-06-07 Adobe Systems Incorporated Fast computational camera based on two arrays of lenses
US7787112B2 (en) 2007-10-22 2010-08-31 Visiongate, Inc. Depth of field extension for optical tomography
US7920193B2 (en) 2007-10-23 2011-04-05 Aptina Imaging Corporation Methods, systems and apparatuses using barrier self-calibration for high dynamic range imagers
US7777804B2 (en) 2007-10-26 2010-08-17 Omnivision Technologies, Inc. High dynamic range sensor with reduced line memory for color interpolation
US20100223237A1 (en) 2007-11-05 2010-09-02 University Of Florida Research Foundation, Inc. Lossless data compression and real-time decompression
US20090128644A1 (en) 2007-11-15 2009-05-21 Camp Jr William O System and method for generating a photograph
US7852461B2 (en) 2007-11-15 2010-12-14 Microsoft International Holdings B.V. Dual mode depth imaging
US8351685B2 (en) 2007-11-16 2013-01-08 Gwangju Institute Of Science And Technology Device and method for estimating depth map, and method for generating intermediate image and method for encoding multi-view video using the same
US8126279B2 (en) 2007-11-19 2012-02-28 The University Of Arizona Lifting-based view compensated compression and remote visualization of volume rendered images
KR20090055803A (ko) 2007-11-29 2009-06-03 광주과학기술원 다시점 깊이맵 생성 방법 및 장치, 다시점 영상에서의변이값 생성 방법
JP5010445B2 (ja) 2007-11-29 2012-08-29 パナソニック株式会社 マイクロレンズアレイ用金型の製造方法
GB2455316B (en) 2007-12-04 2012-08-15 Sony Corp Image processing apparatus and method
WO2009073950A1 (en) 2007-12-13 2009-06-18 Keigo Izuka Camera system and method for amalgamating images to create an omni-focused image
DE602007012734D1 (de) 2007-12-21 2011-04-07 Caterpillar Inc Steuern der Antriebsgeschwindigkeit einer Maschine
TWI353778B (en) 2007-12-21 2011-12-01 Ind Tech Res Inst Moving object detection apparatus and method
US7880807B2 (en) 2007-12-26 2011-02-01 Sony Ericsson Mobile Communications Ab Camera system with mirror arrangement for generating self-portrait panoramic pictures
US8233077B2 (en) 2007-12-27 2012-07-31 Qualcomm Incorporated Method and apparatus with depth map generation
US20110031381A1 (en) 2007-12-28 2011-02-10 Hiok-Nam Tay Light guide array for an image sensor
TWI362628B (en) 2007-12-28 2012-04-21 Ind Tech Res Inst Methof for producing an image with depth by using 2d image
WO2009089127A1 (en) 2008-01-04 2009-07-16 3M Innovative Properties Company Image signatures for use in motion-based three-dimensional reconstruction
JP4413261B2 (ja) 2008-01-10 2010-02-10 シャープ株式会社 撮像装置及び光軸制御方法
JP5198295B2 (ja) 2008-01-15 2013-05-15 富士フイルム株式会社 撮像素子の位置調整方法、カメラモジュール製造方法及び装置、カメラモジュール
US7962033B2 (en) 2008-01-23 2011-06-14 Adobe Systems Incorporated Methods and apparatus for full-resolution light-field capture and rendering
US8189065B2 (en) 2008-01-23 2012-05-29 Adobe Systems Incorporated Methods and apparatus for full-resolution light-field capture and rendering
JP4956452B2 (ja) 2008-01-25 2012-06-20 富士重工業株式会社 車両用環境認識装置
WO2009097552A1 (en) 2008-02-01 2009-08-06 Omnivision Cdm Optics, Inc. Image data fusion systems and methods
GB0802290D0 (en) 2008-02-08 2008-03-12 Univ Kent Canterbury Camera adapter based optical imaging apparatus
US8319301B2 (en) 2008-02-11 2012-11-27 Omnivision Technologies, Inc. Self-aligned filter for an image sensor
JP2009206922A (ja) 2008-02-28 2009-09-10 Funai Electric Co Ltd 複眼撮像装置
US9094675B2 (en) 2008-02-29 2015-07-28 Disney Enterprises Inc. Processing image data from multiple cameras for motion pictures
CN101520532A (zh) 2008-02-29 2009-09-02 鸿富锦精密工业（深圳）有限公司 复合镜片
GB2470520B (en) 2008-03-03 2012-11-28 Videoiq Inc Dynamic object classification
US8072599B2 (en) 2008-03-14 2011-12-06 Teledyne Scientific & Imaging, Llc Real-time, hybrid amplitude-time division polarimetric imaging camera
JP5571651B2 (ja) 2008-03-18 2014-08-13 コーニンクレッカ フィリップス エヌ ヴェ 皮膚撮像装置及び皮膚分析システム
US8098955B2 (en) 2008-03-25 2012-01-17 Point Grey Research Inc. Efficient selection and application of regions of interest in digital imaging
US20110018973A1 (en) 2008-03-26 2011-01-27 Konica Minolta Holdings, Inc. Three-dimensional imaging device and method for calibrating three-dimensional imaging device
CN101551586A (zh) 2008-04-03 2009-10-07 晶宏半导体股份有限公司 高速摄影方法及其装置
US8497905B2 (en) 2008-04-11 2013-07-30 nearmap australia pty ltd. Systems and methods of capturing large area images in detail including cascaded cameras and/or calibration features
US8259208B2 (en) 2008-04-15 2012-09-04 Sony Corporation Method and apparatus for performing touch-based adjustments within imaging devices
US7843554B2 (en) 2008-04-25 2010-11-30 Rockwell Collins, Inc. High dynamic range sensor system and method
US8155456B2 (en) 2008-04-29 2012-04-10 Adobe Systems Incorporated Method and apparatus for block-based compression of light-field images
US8280194B2 (en) 2008-04-29 2012-10-02 Sony Corporation Reduced hardware implementation for a two-picture depth map algorithm
US8724921B2 (en) 2008-05-05 2014-05-13 Aptina Imaging Corporation Method of capturing high dynamic range images with objects in the scene
EP2283644A4 (en) 2008-05-09 2011-10-26 Ecole Polytech PICTURE SENSOR WITH NONLINEAR REACTION
JP2009273035A (ja) 2008-05-09 2009-11-19 Toshiba Corp 画像圧縮装置、画像伸張装置及び画像処理装置
US8208543B2 (en) 2008-05-19 2012-06-26 Microsoft Corporation Quantization and differential coding of alpha image data
WO2009141998A1 (ja) 2008-05-19 2009-11-26 パナソニック株式会社 キャリブレーション方法、キャリブレーション装置及びその装置を備えるキャリブレーションシステム
US20100097444A1 (en) 2008-10-16 2010-04-22 Peter Lablans Camera System for Creating an Image From a Plurality of Images
US8866920B2 (en) 2008-05-20 2014-10-21 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with heterogeneous imagers
EP3876510A1 (en) 2008-05-20 2021-09-08 FotoNation Limited Capturing and processing of images using monolithic camera array with heterogeneous imagers
US8442355B2 (en) 2008-05-23 2013-05-14 Samsung Electronics Co., Ltd. System and method for generating a multi-dimensional image
US8125559B2 (en) 2008-05-25 2012-02-28 Avistar Communications Corporation Image formation for large photosensor array surfaces
US8131097B2 (en) 2008-05-28 2012-03-06 Aptina Imaging Corporation Method and apparatus for extended depth-of-field image restoration
US8244058B1 (en) 2008-05-30 2012-08-14 Adobe Systems Incorporated Method and apparatus for managing artifacts in frequency domain processing of light-field images
CN101593350B (zh) 2008-05-30 2013-01-09 日电（中国）有限公司 深度自适应视频拼接的方法、装置和系统
JP2009300268A (ja) 2008-06-13 2009-12-24 Nippon Hoso Kyokai <Nhk> ３次元情報検出装置
KR101539935B1 (ko) 2008-06-24 2015-07-28 삼성전자주식회사 3차원 비디오 영상 처리 방법 및 장치
US7710667B2 (en) 2008-06-25 2010-05-04 Aptina Imaging Corp. Imaging module with symmetrical lens system and method of manufacture
CN102016654A (zh) 2008-06-25 2011-04-13 柯尼卡美能达精密光学株式会社 成像光学系统及成像用透镜的制造方法
KR101000531B1 (ko) 2008-06-26 2010-12-14 에스디씨마이크로 주식회사 데이터 전송 범위가 증대되는 무선랜을 이용한 씨씨티브이관리시스템
US7916396B2 (en) 2008-06-27 2011-03-29 Micron Technology, Inc. Lens master devices, lens structures, imaging devices, and methods and apparatuses of making the same
US8326069B2 (en) 2008-06-30 2012-12-04 Intel Corporation Computing higher resolution images from multiple lower resolution images
US7773317B2 (en) 2008-07-01 2010-08-10 Aptina Imaging Corp. Lens system with symmetrical optics
US7920339B2 (en) 2008-07-02 2011-04-05 Aptina Imaging Corporation Method and apparatus providing singlet wafer lens system with field flattener
CN100576934C (zh) 2008-07-03 2009-12-30 浙江大学 基于深度和遮挡信息的虚拟视点合成方法
US8456517B2 (en) 2008-07-09 2013-06-04 Primesense Ltd. Integrated processor for 3D mapping
KR101445185B1 (ko) 2008-07-10 2014-09-30 삼성전자주식회사 복수 개의 영상촬영유닛을 구비한 플렉시블 영상촬영장치및 그 제조방법
US8284240B2 (en) 2008-08-06 2012-10-09 Creaform Inc. System for adaptive three-dimensional scanning of surface characteristics
EP2329653B1 (en) 2008-08-20 2014-10-29 Thomson Licensing Refined depth map
CN101656259A (zh) 2008-08-20 2010-02-24 鸿富锦精密工业（深圳）有限公司 影像感测器封装结构、封装方法及相机模组
US7924312B2 (en) 2008-08-22 2011-04-12 Fluke Corporation Infrared and visible-light image registration
US8736751B2 (en) 2008-08-26 2014-05-27 Empire Technology Development Llc Digital presenter for displaying image captured by camera with illumination system
US8102428B2 (en) 2008-08-28 2012-01-24 Adobe Systems Incorporated Content-aware video stabilization
JP5105482B2 (ja) 2008-09-01 2012-12-26 船井電機株式会社 光学的条件設計方法及び複眼撮像装置
CN102138102A (zh) 2008-09-01 2011-07-27 兰斯维克托公司 液晶光电装置的晶片级制造
US8098297B2 (en) 2008-09-03 2012-01-17 Sony Corporation Pre- and post-shutter signal image capture and sort for digital camera
KR20100028344A (ko) 2008-09-04 2010-03-12 삼성전자주식회사 휴대단말의 영상 편집 방법 및 장치
US9025136B2 (en) 2008-09-23 2015-05-05 Applied Materials, Inc. System and method for manufacturing three dimensional integrated circuits
JP5238429B2 (ja) 2008-09-25 2013-07-17 株式会社東芝 立体映像撮影装置および立体映像撮影システム
US8553093B2 (en) 2008-09-30 2013-10-08 Sony Corporation Method and apparatus for super-resolution imaging using digital imaging devices
CN102239506B (zh) 2008-10-02 2014-07-09 弗兰霍菲尔运输应用研究公司 中间视合成和多视点数据信号的提取
US9619917B2 (en) 2008-10-03 2017-04-11 Apple Inc. Depth of field for a camera in a media-editing application
US9064476B2 (en) 2008-10-04 2015-06-23 Microsoft Technology Licensing, Llc Image super-resolution using gradient profile prior
US8310525B2 (en) 2008-10-07 2012-11-13 Seiko Epson Corporation One-touch projector alignment for 3D stereo display
WO2010044963A1 (en) 2008-10-15 2010-04-22 Innovative Technology Distributors Llc Digital processing method and system for determination of optical flow
US8416282B2 (en) 2008-10-16 2013-04-09 Spatial Cam Llc Camera for creating a panoramic image
JP2010096723A (ja) 2008-10-20 2010-04-30 Funai Electric Co Ltd 物体の距離導出装置
US8436909B2 (en) 2008-10-21 2013-05-07 Stmicroelectronics S.R.L. Compound camera sensor and related method of processing digital images
KR101697598B1 (ko) 2008-10-27 2017-02-01 엘지전자 주식회사 가상 뷰 이미지 합성 방법 및 장치
US8063975B2 (en) 2008-10-29 2011-11-22 Jabil Circuit, Inc. Positioning wafer lenses on electronic imagers
KR101502597B1 (ko) 2008-11-13 2015-03-13 삼성전자주식회사 고심도 입체 영상 표시가 가능한 디스플레이 장치 및 방법
WO2010057081A1 (en) 2008-11-14 2010-05-20 The Scripps Research Institute Image analysis platform for identifying artifacts in samples and laboratory consumables
AU2008246243B2 (en) 2008-11-19 2011-12-22 Canon Kabushiki Kaisha DVC as generic file format for plenoptic camera
EP2359593B1 (en) * 2008-11-25 2018-06-06 Tetravue, Inc. Systems and methods of high resolution three-dimensional imaging
JP4852591B2 (ja) 2008-11-27 2012-01-11 富士フイルム株式会社 立体画像処理装置、方法及び記録媒体並びに立体撮像装置
WO2010077625A1 (en) 2008-12-08 2010-07-08 Refocus Imaging, Inc. Light field data acquisition devices, and methods of using and manufacturing same
US8013904B2 (en) 2008-12-09 2011-09-06 Seiko Epson Corporation View projection matrix based high performance low latency display pipeline
JP5311016B2 (ja) 2008-12-10 2013-10-09 コニカミノルタ株式会社 ステレオカメラユニット及びステレオマッチング方法
KR101200490B1 (ko) 2008-12-10 2012-11-12 한국전자통신연구원 영상 정합 장치 및 방법
US8149323B2 (en) 2008-12-18 2012-04-03 Qualcomm Incorporated System and method to autofocus assisted by autoexposure control
JP4631966B2 (ja) 2008-12-22 2011-02-16 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
CN101770060B (zh) 2008-12-27 2014-03-26 鸿富锦精密工业（深圳）有限公司 相机模组及其组装方法
US8405742B2 (en) 2008-12-30 2013-03-26 Massachusetts Institute Of Technology Processing images having different focus
US8259212B2 (en) 2009-01-05 2012-09-04 Applied Quantum Technologies, Inc. Multiscale optical system
WO2010081010A2 (en) 2009-01-09 2010-07-15 New York University Methods, computer-accessible medium and systems for facilitating dark flash photography
EP2381418A4 (en) 2009-01-09 2014-11-12 Konica Minolta Holdings Inc MOVING VECTOR GENERATING APPARATUS AND MOVING VECTOR GENERATING METHOD
US20100177411A1 (en) 2009-01-09 2010-07-15 Shashikant Hegde Wafer level lens replication on micro-electrical-mechanical systems
US8189089B1 (en) 2009-01-20 2012-05-29 Adobe Systems Incorporated Methods and apparatus for reducing plenoptic camera artifacts
US8315476B1 (en) 2009-01-20 2012-11-20 Adobe Systems Incorporated Super-resolution with the focused plenoptic camera
US8300108B2 (en) 2009-02-02 2012-10-30 L-3 Communications Cincinnati Electronics Corporation Multi-channel imaging devices comprising unit cells
US20100194860A1 (en) 2009-02-03 2010-08-05 Bit Cauldron Corporation Method of stereoscopic 3d image capture using a mobile device, cradle or dongle
US8761491B2 (en) 2009-02-06 2014-06-24 Himax Technologies Limited Stereo-matching processor using belief propagation
US8290301B2 (en) 2009-02-06 2012-10-16 Raytheon Company Optimized imaging system for collection of high resolution imagery
KR101776955B1 (ko) 2009-02-10 2017-09-08 소니 주식회사 고체 촬상 장치와 그 제조 방법, 및 전자 기기
JP4915423B2 (ja) 2009-02-19 2012-04-11 ソニー株式会社 画像処理装置、フォーカルプレーン歪み成分算出方法、画像処理プログラム及び記録媒体
WO2010095440A1 (ja) 2009-02-20 2010-08-26 パナソニック株式会社 記録媒体、再生装置、及び集積回路
US8520970B2 (en) 2010-04-23 2013-08-27 Flir Systems Ab Infrared resolution and contrast enhancement with fusion
KR20100099896A (ko) 2009-03-04 2010-09-15 삼성전자주식회사 메타데이터 생성 방법 및 장치, 그 메타데이터를 이용하여 영상을 처리하는 방법 및 장치
US8207759B2 (en) 2009-03-12 2012-06-26 Fairchild Semiconductor Corporation MIPI analog switch for automatic selection of multiple inputs based on clock voltages
CN105681633B (zh) 2009-03-19 2019-01-18 数字光学公司 双传感器照相机及其方法
US8106949B2 (en) 2009-03-26 2012-01-31 Seiko Epson Corporation Small memory footprint light transport matrix capture
US8450821B2 (en) 2009-03-26 2013-05-28 Micron Technology, Inc. Method and apparatus providing combined spacer and optical lens element
US7901095B2 (en) 2009-03-27 2011-03-08 Seiko Epson Corporation Resolution scalable view projection
US8437537B2 (en) 2009-03-27 2013-05-07 Mitsubishi Electric Research Laboratories, Inc. Method and system for estimating 3D pose of specular objects
JP4529010B1 (ja) 2009-03-30 2010-08-25 シャープ株式会社 撮像装置
JP5222205B2 (ja) 2009-04-03 2013-06-26 Ｋｄｄｉ株式会社 画像処理装置、方法及びプログラム
US8896697B2 (en) 2009-04-07 2014-11-25 Chen Golan Video motion compensation and stabilization gimbaled imaging system
US20100259610A1 (en) 2009-04-08 2010-10-14 Celsia, Llc Two-Dimensional Display Synced with Real World Object Movement
US8294099B2 (en) 2009-04-10 2012-10-23 Bae Systems Information And Electronic Systems Integration Inc. On-wafer butted microbolometer imaging array
US8717417B2 (en) 2009-04-16 2014-05-06 Primesense Ltd. Three-dimensional mapping and imaging
JP5463718B2 (ja) 2009-04-16 2014-04-09 ソニー株式会社 撮像装置
US20120249550A1 (en) 2009-04-18 2012-10-04 Lytro, Inc. Selective Transmission of Image Data Based on Device Attributes
US8908058B2 (en) 2009-04-18 2014-12-09 Lytro, Inc. Storage and transmission of pictures including multiple frames
ATE551841T1 (de) 2009-04-22 2012-04-15 Raytrix Gmbh Digitales bildgebungsverfahren zum synthetisieren eines bildes unter verwendung der mit einer plenoptischen kamera aufgezeichneten daten
CN101527046B (zh) 2009-04-28 2012-09-05 青岛海信数字多媒体技术国家重点实验室有限公司 一种运动检测方法、装置和系统
KR101671021B1 (ko) 2009-04-30 2016-11-10 삼성전자주식회사 스테레오스코픽 영상 데이터 전송 장치 및 방법
US8271544B2 (en) 2009-05-01 2012-09-18 Creative Technology Ltd Data file having more than one mode of operation
US8358365B2 (en) 2009-05-01 2013-01-22 Samsung Electronics Co., Ltd. Photo detecting device and image pickup device and method thereon
DE102009003110A1 (de) 2009-05-14 2010-11-18 Robert Bosch Gmbh Bildverarbeitungsverfahren zur Bestimmung von Tiefeninformation aus wenigstens zwei mittels eines Stereokamerasystems aufgenommenen Eingangsbildern
US8203633B2 (en) 2009-05-27 2012-06-19 Omnivision Technologies, Inc. Four-channel color filter array pattern
KR20100130423A (ko) 2009-06-03 2010-12-13 삼성전자주식회사 웨이퍼-레벨 렌즈 모듈 및 이를 구비하는 촬상 모듈
US10091439B2 (en) 2009-06-03 2018-10-02 Flir Systems, Inc. Imager with array of multiple infrared imaging modules
US8872910B1 (en) 2009-06-04 2014-10-28 Masoud Vaziri Method and apparatus for a compact and high resolution eye-view recorder
US8745677B2 (en) 2009-06-12 2014-06-03 Cygnus Broadband, Inc. Systems and methods for prioritization of data for intelligent discard in a communication network
CN101931742B (zh) 2009-06-18 2013-04-24 鸿富锦精密工业（深圳）有限公司 影像感测模组及取像模组
US20100321640A1 (en) 2009-06-22 2010-12-23 Industrial Technology Research Institute Projection display chip
JP5254893B2 (ja) 2009-06-26 2013-08-07 キヤノン株式会社 画像変換方法及び装置並びにパターン識別方法及び装置
WO2011008443A2 (en) 2009-06-29 2011-01-20 Lensvector Inc. Wafer level camera module with active optical element
US8351726B2 (en) 2009-06-29 2013-01-08 DigitalOptics Corporation Europe Limited Adaptive PSF estimation technique using a sharp preview and a blurred image
JP2011030184A (ja) 2009-07-01 2011-02-10 Sony Corp 画像処理装置、及び、画像処理方法
US8212197B2 (en) 2009-07-02 2012-07-03 Xerox Corporation Image sensor with integration time compensation
JP2011017764A (ja) 2009-07-07 2011-01-27 Konica Minolta Opto Inc 撮像レンズ，撮像装置及び携帯端末
US8345144B1 (en) 2009-07-15 2013-01-01 Adobe Systems Incorporated Methods and apparatus for rich image capture with focused plenoptic cameras
US20110019243A1 (en) 2009-07-21 2011-01-27 Constant Jr Henry J Stereoscopic form reader
CN101964866B (zh) 2009-07-24 2013-03-20 鸿富锦精密工业（深圳）有限公司 计算摄像型数码相机
GB0912970D0 (en) 2009-07-27 2009-09-02 St Microelectronics Res & Dev Improvements in or relating to a sensor and sensor system for a camera
US20110025830A1 (en) 2009-07-31 2011-02-03 3Dmedia Corporation Methods, systems, and computer-readable storage media for generating stereoscopic content via depth map creation
CN102483485A (zh) 2009-08-03 2012-05-30 高通Mems科技公司 用于光导照明的微结构
EP2293586A1 (en) 2009-08-04 2011-03-09 Samsung Electronics Co., Ltd. Method and system to transform stereo content
US8577183B2 (en) 2009-08-05 2013-11-05 Raytheon Company Resolution on demand
WO2011018678A1 (en) 2009-08-11 2011-02-17 Ether Precision, Inc. Method and device for aligning a lens with an optical system
CA2771018C (en) 2009-08-14 2017-06-13 Genesis Group Inc. Real-time image and video matting
JP2011044801A (ja) 2009-08-19 2011-03-03 Toshiba Corp 画像処理装置
US8154632B2 (en) 2009-08-24 2012-04-10 Lifesize Communications, Inc. Detection of defective pixels in an image sensor
JP2011052064A (ja) 2009-08-31 2011-03-17 Toyobo Co Ltd ポリイミドおよびその製造方法
KR101680300B1 (ko) 2009-08-31 2016-11-28 삼성전자주식회사 액체 렌즈 및 그 제조방법
US9274699B2 (en) 2009-09-03 2016-03-01 Obscura Digital User interface for a large scale multi-user, multi-touch system
US8411146B2 (en) 2009-09-04 2013-04-02 Lockheed Martin Corporation Single camera color and infrared polarimetric imaging
KR20120068024A (ko) 2009-09-07 2012-06-26 노키아 코포레이션 장치
FR2950153B1 (fr) 2009-09-15 2011-12-23 Commissariat Energie Atomique Dispositif optique a membrane deformable a actionnement piezoelectrique
US20140076336A1 (en) 2009-09-17 2014-03-20 Ascentia Health, Inc. Ear insert for relief of tmj discomfort and headaches
US9497386B1 (en) 2009-09-22 2016-11-15 Altia Systems Inc. Multi-imager video camera with automatic exposure control
BR112012007115A2 (pt) 2009-10-02 2020-02-27 Koninklijke Philips Electronics N.V. Método de codificação de um sinal de dados de vídeo 3d, método de decodificação de um sinal de vídeo 3d, codificador para codificar um sinal de dados de vídeo 3d, decodificador para decodificar um sinal de dados de vídeo 3d, produto de programa de computador para codificar um sinal de dados de vídeo, produto de programa de computador para decodificar um sinal de vídeo, sinal de dados de vídeo 3d, e portador de dados digitais
KR101695809B1 (ko) 2009-10-09 2017-01-13 엘지전자 주식회사 이동 단말기 및 그 제어방법
BR112012008988B1 (pt) 2009-10-14 2022-07-12 Dolby International Ab Método, meio legível não transitório e aparelho para processamento de mapa de profundidade
US8199165B2 (en) 2009-10-14 2012-06-12 Hewlett-Packard Development Company, L.P. Methods and systems for object segmentation in digital images
DE102009049387B4 (de) 2009-10-14 2016-05-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Bildverarbeitungsvorrichtung und Verfahren zur optischen Abbildung
US8502909B2 (en) 2009-10-19 2013-08-06 Pixar Super light-field lens
WO2011056574A1 (en) 2009-10-26 2011-05-12 Olaf Andrew Hall-Holt Dental imaging system and method
WO2011053319A1 (en) 2009-10-30 2011-05-05 Hewlett-Packard Development Company, L.P. Stereo display systems
US8546737B2 (en) 2009-10-30 2013-10-01 Invisage Technologies, Inc. Systems and methods for color binning
WO2011055655A1 (ja) 2009-11-05 2011-05-12 コニカミノルタオプト株式会社 撮像装置、光学ユニット、ウエハレンズ積層体及びウエハレンズ積層体の製造方法
WO2011055654A1 (ja) 2009-11-05 2011-05-12 コニカミノルタオプト株式会社 撮像装置及びこの撮像装置の製造方法
CN102597693B (zh) 2009-11-13 2015-04-01 富士胶片株式会社 测距装置、测距方法、测距程序及测距系统以及拍摄装置
TR200908688A2 (tr) 2009-11-17 2011-06-21 Vestel Elektron�K San. Ve T�C. A.�. Çoklu görüntülü videoda derinlik dengelemeli gürültü azaltımı.
US8643701B2 (en) 2009-11-18 2014-02-04 University Of Illinois At Urbana-Champaign System for executing 3D propagation for depth image-based rendering
JP5399215B2 (ja) 2009-11-18 2014-01-29 シャープ株式会社 多眼カメラ装置および電子情報機器
EP2502115A4 (en) 2009-11-20 2013-11-06 Pelican Imaging Corp RECORDING AND PROCESSING IMAGES THROUGH A MONOLITHIC CAMERA ARRAY WITH HETEROGENIC IMAGE CONVERTER
US8497934B2 (en) 2009-11-25 2013-07-30 Massachusetts Institute Of Technology Actively addressable aperture light field camera
KR101608970B1 (ko) 2009-11-27 2016-04-05 삼성전자주식회사 광 필드 데이터를 이용한 영상 처리 장치 및 방법
US8400555B1 (en) 2009-12-01 2013-03-19 Adobe Systems Incorporated Focused plenoptic camera employing microlenses with different focal lengths
US8730338B2 (en) 2009-12-01 2014-05-20 Nokia Corporation Set of camera modules hinged on a body and functionally connected to a single actuator
JP5446797B2 (ja) 2009-12-04 2014-03-19 株式会社リコー 撮像装置
US8446492B2 (en) 2009-12-10 2013-05-21 Honda Motor Co., Ltd. Image capturing device, method of searching for occlusion region, and program
JP5387377B2 (ja) 2009-12-14 2014-01-15 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
US9030530B2 (en) 2009-12-15 2015-05-12 Thomson Licensing Stereo-image quality and disparity/depth indications
KR101281961B1 (ko) 2009-12-21 2013-07-03 한국전자통신연구원 깊이 영상 편집 방법 및 장치
US20110153248A1 (en) 2009-12-23 2011-06-23 Yeming Gu Ophthalmic quality metric system
US8885067B2 (en) 2009-12-24 2014-11-11 Sharp Kabushiki Kaisha Multocular image pickup apparatus and multocular image pickup method
JP4983905B2 (ja) 2009-12-25 2012-07-25 カシオ計算機株式会社 撮像装置、３ｄモデリングデータ生成方法、および、プログラム
KR101643607B1 (ko) 2009-12-30 2016-08-10 삼성전자주식회사 영상 데이터 생성 방법 및 장치
CN102117576A (zh) 2009-12-31 2011-07-06 鸿富锦精密工业（深圳）有限公司 电子相框
CN102118551A (zh) 2009-12-31 2011-07-06 鸿富锦精密工业（深圳）有限公司 成像装置
CN102131044B (zh) 2010-01-20 2014-03-26 鸿富锦精密工业（深圳）有限公司 相机模组
WO2011097508A2 (en) 2010-02-04 2011-08-11 University Of Southern California Combined spectral and polarimetry imaging and diagnostics
US8593512B2 (en) 2010-02-05 2013-11-26 Creative Technology Ltd Device and method for scanning an object on a working surface
US8326142B2 (en) 2010-02-12 2012-12-04 Sri International Optical image systems
WO2011099404A1 (en) 2010-02-15 2011-08-18 Ricoh Company, Ltd. Transparent object detection system and transparent flat plate detection system
JP5387856B2 (ja) 2010-02-16 2014-01-15 ソニー株式会社 画像処理装置、画像処理方法、画像処理プログラムおよび撮像装置
US8648918B2 (en) 2010-02-18 2014-02-11 Sony Corporation Method and system for obtaining a point spread function using motion information
CN103210641B (zh) 2010-02-19 2017-03-15 双光圈国际株式会社 处理多孔径像数据
US9456196B2 (en) 2010-02-23 2016-09-27 Samsung Electronics Co., Ltd. Method and apparatus for providing a multi-view still image service, and method and apparatus for receiving a multi-view still image service
KR101802238B1 (ko) 2010-02-23 2017-11-29 삼성전자주식회사 휴대용 단말기에서 입체 영상 데이터를 생성하기 위한 장치 및 방법
KR20130000401A (ko) 2010-02-28 2013-01-02 오스터하우트 그룹 인코포레이티드 대화형 머리­장착식 아이피스 상의 지역 광고 컨텐츠
US20130278631A1 (en) 2010-02-28 2013-10-24 Osterhout Group, Inc. 3d positioning of augmented reality information
JP5776173B2 (ja) 2010-03-01 2015-09-09 株式会社リコー 撮像装置及び距離測定装置
US8817015B2 (en) 2010-03-03 2014-08-26 Adobe Systems Incorporated Methods, apparatus, and computer-readable storage media for depth-based rendering of focused plenoptic camera data
WO2011112633A1 (en) 2010-03-09 2011-09-15 Flir Systems, Inc. Imager with multiple sensor arrays
US20110222757A1 (en) 2010-03-10 2011-09-15 Gbo 3D Technology Pte. Ltd. Systems and methods for 2D image and spatial data capture for 3D stereo imaging
US20110221950A1 (en) 2010-03-12 2011-09-15 Doeke Jolt Oostra Camera device, wafer scale package
US8231814B2 (en) 2010-03-17 2012-07-31 Pelican Imaging Corporation Fabrication process for mastering imaging lens arrays
JP5837283B2 (ja) 2010-03-18 2015-12-24 株式会社ブリヂストン タイヤの外観検査方法および外観検査装置
US8310538B2 (en) 2010-03-19 2012-11-13 Fujifilm Corporation Imaging apparatus, method, program, and recording medium used in the program
US8890934B2 (en) 2010-03-19 2014-11-18 Panasonic Corporation Stereoscopic image aligning apparatus, stereoscopic image aligning method, and program of the same
US8736733B2 (en) 2010-03-19 2014-05-27 Invisage Technologies, Inc. Dark current reduction in image sensors via dynamic electrical biasing
JPWO2011118135A1 (ja) 2010-03-25 2013-07-04 パナソニック株式会社 送信装置、受信装置、送信方法および受信方法
US8558903B2 (en) 2010-03-25 2013-10-15 Apple Inc. Accelerometer / gyro-facilitated video stabilization
US8285033B2 (en) 2010-04-01 2012-10-09 Seiko Epson Corporation Bi-affinity filter: a bilateral type filter for color images
WO2011121117A1 (en) 2010-04-02 2011-10-06 Imec Virtual camera system
US20110242355A1 (en) 2010-04-05 2011-10-06 Qualcomm Incorporated Combining data from multiple image sensors
US8896668B2 (en) 2010-04-05 2014-11-25 Qualcomm Incorporated Combining data from multiple image sensors
US20110255786A1 (en) 2010-04-20 2011-10-20 Andrew Hunter Method and apparatus for determining flicker in the illumination of a subject
US8600186B2 (en) 2010-04-26 2013-12-03 City University Of Hong Kong Well focused catadioptric image acquisition
US9053573B2 (en) 2010-04-29 2015-06-09 Personify, Inc. Systems and methods for generating a virtual camera viewpoint for an image
US20110267264A1 (en) 2010-04-29 2011-11-03 Mccarthy John Display system with multiple optical sensors
US20130250150A1 (en) 2010-05-03 2013-09-26 Michael R. Malone Devices and methods for high-resolution image and video capture
US9256974B1 (en) 2010-05-04 2016-02-09 Stephen P Hines 3-D motion-parallax portable display software application
US8885890B2 (en) 2010-05-07 2014-11-11 Microsoft Corporation Depth map confidence filtering
KR20110124473A (ko) 2010-05-11 2011-11-17 삼성전자주식회사 다중시점 영상을 위한 3차원 영상 생성 장치 및 방법
KR101756910B1 (ko) 2010-05-11 2017-07-26 삼성전자주식회사 감쇠 패턴을 포함하는 마스크를 이용한 광 필드 영상 처리 장치 및 방법
US20130147979A1 (en) 2010-05-12 2013-06-13 Pelican Imaging Corporation Systems and methods for extending dynamic range of imager arrays by controlling pixel analog gain
JP5545016B2 (ja) 2010-05-12 2014-07-09 ソニー株式会社 撮像装置
CN103004180A (zh) 2010-05-12 2013-03-27 派力肯影像公司 成像器阵列和阵列照相机的架构
WO2011142774A1 (en) 2010-05-14 2011-11-17 Omnivision Technologies, Inc. Alternative color image array and associated methods
US8576293B2 (en) 2010-05-18 2013-11-05 Aptina Imaging Corporation Multi-channel imager
SG176327A1 (en) 2010-05-20 2011-12-29 Sony Corp A system and method of image processing
US8602887B2 (en) 2010-06-03 2013-12-10 Microsoft Corporation Synthesis of information from multiple audiovisual sources
US20120062697A1 (en) 2010-06-09 2012-03-15 Chemimage Corporation Hyperspectral imaging sensor for tracking moving targets
DE102010024666A1 (de) 2010-06-18 2011-12-22 Hella Kgaa Hueck & Co. Verfahren zur optischen Selbstdiagnose eines Kamerasystems und Vorrichtung zur Durchführung eines solchen Verfahrens
CN102184720A (zh) 2010-06-22 2011-09-14 上海盈方微电子有限公司 一种支持多层多格式输入的图像合成显示的方法及装置
US20110310980A1 (en) 2010-06-22 2011-12-22 Qualcomm Mems Technologies, Inc. Apparatus and methods for processing frames of video data across a display interface using a block-based encoding scheme and a tag id
KR20120000485A (ko) 2010-06-25 2012-01-02 삼성전자주식회사 예측 모드를 이용한 깊이 영상 부호화 장치 및 방법
EP2403234A1 (en) 2010-06-29 2012-01-04 Koninklijke Philips Electronics N.V. Method and system for constructing a compound image from data obtained by an array of image capturing devices
CN101883291B (zh) 2010-06-29 2012-12-19 上海大学 感兴趣区域增强的视点绘制方法
US8493432B2 (en) 2010-06-29 2013-07-23 Mitsubishi Electric Research Laboratories, Inc. Digital refocusing for wide-angle images using axial-cone cameras
JP5492300B2 (ja) 2010-06-30 2014-05-14 富士フイルム株式会社 立体視表示用撮像の際の撮像領域内の障害物を判定する装置、方法およびプログラム
JP5392199B2 (ja) 2010-07-09 2014-01-22 ソニー株式会社 画像処理装置および方法
GB2482022A (en) 2010-07-16 2012-01-18 St Microelectronics Res & Dev Method for measuring resolution and aberration of lens and sensor
US9406132B2 (en) 2010-07-16 2016-08-02 Qualcomm Incorporated Vision-based quality metric for three dimensional video
US8386964B2 (en) 2010-07-21 2013-02-26 Microsoft Corporation Interactive image matting
US20120019700A1 (en) 2010-07-26 2012-01-26 American Technologies Network Corporation Optical system with automatic mixing of daylight and thermal vision digital video signals
US20120026342A1 (en) 2010-07-27 2012-02-02 Xiaoguang Yu Electronic system communicating with image sensor
US20120026451A1 (en) 2010-07-29 2012-02-02 Lensvector Inc. Tunable liquid crystal lens with single sided contacts
US8605136B2 (en) 2010-08-10 2013-12-10 Sony Corporation 2D to 3D user interface content data conversion
CN102375199B (zh) 2010-08-11 2015-06-03 鸿富锦精密工业（深圳）有限公司 相机模组
US8428342B2 (en) 2010-08-12 2013-04-23 At&T Intellectual Property I, L.P. Apparatus and method for providing three dimensional media content
US8836793B1 (en) 2010-08-13 2014-09-16 Opto-Knowledge Systems, Inc. True color night vision (TCNV) fusion
US8493482B2 (en) 2010-08-18 2013-07-23 Apple Inc. Dual image sensor image processing system and method
US8749694B2 (en) 2010-08-27 2014-06-10 Adobe Systems Incorporated Methods and apparatus for rendering focused plenoptic camera data using super-resolved demosaicing
US8724000B2 (en) 2010-08-27 2014-05-13 Adobe Systems Incorporated Methods and apparatus for super-resolution in integral photography
US8665341B2 (en) 2010-08-27 2014-03-04 Adobe Systems Incorporated Methods and apparatus for rendering output images with simulated artistic effects from focused plenoptic camera data
GB2483434A (en) 2010-08-31 2012-03-14 Sony Corp Detecting stereoscopic disparity by comparison with subset of pixel change points
JP5140210B2 (ja) 2010-08-31 2013-02-06 パナソニック株式会社 撮影装置および画像処理方法
US20120056982A1 (en) 2010-09-08 2012-03-08 Microsoft Corporation Depth camera based on structured light and stereo vision
US9013550B2 (en) 2010-09-09 2015-04-21 Qualcomm Incorporated Online reference generation and tracking for multi-user augmented reality
WO2012037075A1 (en) 2010-09-14 2012-03-22 Thomson Licensing Method of presenting three-dimensional content with disparity adjustments
US9013634B2 (en) 2010-09-14 2015-04-21 Adobe Systems Incorporated Methods and apparatus for video completion
AU2011302448A1 (en) 2010-09-14 2013-03-21 Thomson Licensing Compression methods and apparatus for occlusion data
US8780251B2 (en) 2010-09-20 2014-07-15 Canon Kabushiki Kaisha Image capture with focus adjustment
WO2012039043A1 (ja) 2010-09-22 2012-03-29 富士通株式会社 ステレオ画像生成装置、ステレオ画像生成方法及びステレオ画像生成用コンピュータプログラム
US20120086803A1 (en) 2010-10-11 2012-04-12 Malzbender Thomas G Method and system for distance estimation using projected symbol sequences
US20140192238A1 (en) 2010-10-24 2014-07-10 Linx Computational Imaging Ltd. System and Method for Imaging and Image Processing
US8531535B2 (en) 2010-10-28 2013-09-10 Google Inc. Methods and systems for processing a video for stabilization and retargeting
JP5657343B2 (ja) 2010-10-28 2015-01-21 株式会社ザクティ 電子機器
US9876953B2 (en) 2010-10-29 2018-01-23 Ecole Polytechnique Federale De Lausanne (Epfl) Omnidirectional sensor array system
US9137503B2 (en) 2010-11-03 2015-09-15 Sony Corporation Lens and color filter arrangement, super-resolution camera system and method
US9065991B2 (en) 2010-11-04 2015-06-23 Lensvector Inc. Methods of adjustment free manufacture of focus free camera modules
US20120113232A1 (en) 2010-11-10 2012-05-10 Sony Pictures Technologies Inc. Multiple camera system and method for selectable interaxial separation
WO2012064106A2 (en) 2010-11-12 2012-05-18 Samsung Electronics Co., Ltd. Method and apparatus for video stabilization by compensating for view direction of camera
US8576276B2 (en) 2010-11-18 2013-11-05 Microsoft Corporation Head-mounted display device which provides surround video
MY150361A (en) 2010-12-03 2013-12-31 Mimos Berhad Method of image segmentation using intensity and depth information
US20130258067A1 (en) 2010-12-08 2013-10-03 Thomson Licensing System and method for trinocular depth acquisition with triangular sensor
US8878950B2 (en) 2010-12-14 2014-11-04 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using super-resolution processes
JP5963422B2 (ja) 2010-12-17 2016-08-03 キヤノン株式会社 撮像装置、表示装置、コンピュータプログラムおよび立体像表示システム
US9177381B2 (en) 2010-12-22 2015-11-03 Nani Holdings IP, LLC Depth estimate determination, systems and methods
US8682107B2 (en) 2010-12-22 2014-03-25 Electronics And Telecommunications Research Institute Apparatus and method for creating 3D content for oriental painting
WO2012092246A2 (en) 2010-12-27 2012-07-05 3Dmedia Corporation Methods, systems, and computer-readable storage media for identifying a rough depth map in a scene and for determining a stereo-base distance for three-dimensional (3d) content creation
US8565709B2 (en) 2010-12-30 2013-10-22 Apple Inc. Digital signal filter
TWI535292B (zh) 2010-12-31 2016-05-21 派力肯影像公司 使用具有異質的成像器的整體式相機陣列的影像捕捉和處理
JP5699609B2 (ja) 2011-01-06 2015-04-15 ソニー株式会社 画像処理装置および画像処理方法
US9007683B2 (en) 2011-01-20 2015-04-14 Fivefocal Llc Dual element passively athemalized infrared imaging systems
US8717467B2 (en) 2011-01-25 2014-05-06 Aptina Imaging Corporation Imaging systems with array cameras for depth sensing
US8581995B2 (en) 2011-01-25 2013-11-12 Aptina Imaging Corporation Method and apparatus for parallax correction in fused array imaging systems
JP5594477B2 (ja) 2011-01-26 2014-09-24 Ｎｌｔテクノロジー株式会社 画像表示装置、画像表示方法、及びプログラム
US9235894B2 (en) 2011-01-27 2016-01-12 Metaio Gmbh Method for determining correspondences between a first and a second image, and method for determining the pose of a camera
US8717464B2 (en) 2011-02-09 2014-05-06 Blackberry Limited Increased low light sensitivity for image sensors by combining quantum dot sensitivity to visible and infrared light
US20120200726A1 (en) 2011-02-09 2012-08-09 Research In Motion Limited Method of Controlling the Depth of Field for a Small Sensor Camera Using an Extension for EDOF
US8698885B2 (en) 2011-02-14 2014-04-15 Intuitive Surgical Operations, Inc. Methods and apparatus for demosaicing images with highly correlated color channels
US20140176592A1 (en) 2011-02-15 2014-06-26 Lytro, Inc. Configuring two-dimensional image processing based on light-field parameters
WO2012111766A1 (ja) 2011-02-18 2012-08-23 東ソー株式会社 電解二酸化マンガン及びその製造方法、並びにリチウムマンガン系複合酸化物の製造方法
BR112012027306A2 (pt) 2011-02-28 2016-08-02 Fujifilm Corp aparelho de geração de imagem colorida
US8406548B2 (en) 2011-02-28 2013-03-26 Sony Corporation Method and apparatus for performing a blur rendering process on an image
US8537245B2 (en) 2011-03-04 2013-09-17 Hand Held Products, Inc. Imaging and decoding device with quantum dot imager
CA2769358C (en) 2011-03-08 2016-06-07 Research In Motion Limited Quantum dot image sensor with dummy pixels used for intensity calculations
US9565449B2 (en) 2011-03-10 2017-02-07 Qualcomm Incorporated Coding multiview video plus depth content
KR101792501B1 (ko) 2011-03-16 2017-11-21 한국전자통신연구원 특징기반의 스테레오 매칭 방법 및 장치
US20120249853A1 (en) 2011-03-28 2012-10-04 Marc Krolczyk Digital camera for reviewing related images
US8824821B2 (en) 2011-03-28 2014-09-02 Sony Corporation Method and apparatus for performing user inspired visual effects rendering on an image
US8422770B2 (en) 2011-03-30 2013-04-16 Mckesson Financial Holdings Method, apparatus and computer program product for displaying normalized medical images
US9030528B2 (en) 2011-04-04 2015-05-12 Apple Inc. Multi-zone imaging sensor and lens array
FR2974449A1 (fr) 2011-04-22 2012-10-26 Commissariat Energie Atomique Circuit integre imageur et dispositif de capture d'images stereoscopiques
US20120274626A1 (en) 2011-04-29 2012-11-01 Himax Media Solutions, Inc. Stereoscopic Image Generating Apparatus and Method
US9170723B2 (en) 2011-05-04 2015-10-27 Sony Ericsson Mobile Communications Ab Method, graphical user interface, and computer program product for processing of a light field image
US8305456B1 (en) 2011-05-11 2012-11-06 Pelican Imaging Corporation Systems and methods for transmitting and receiving array camera image data
US8843346B2 (en) 2011-05-13 2014-09-23 Amazon Technologies, Inc. Using spatial information with device interaction
CN102164298B (zh) 2011-05-18 2012-10-03 长春理工大学 全景成像系统中基于立体匹配的元素图像获取方法
US8629901B2 (en) 2011-05-19 2014-01-14 National Taiwan University System and method of revising depth of a 3D image pair
US20120293489A1 (en) 2011-05-20 2012-11-22 Himax Technologies Limited Nonlinear depth remapping system and method thereof
JP5797016B2 (ja) 2011-05-30 2015-10-21 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP5762142B2 (ja) 2011-05-31 2015-08-12 キヤノン株式会社 撮像装置、画像処理装置およびその方法
US8648919B2 (en) 2011-06-06 2014-02-11 Apple Inc. Methods and systems for image stabilization
US8823813B2 (en) 2011-06-06 2014-09-02 Apple Inc. Correcting rolling shutter using image stabilization
US9635274B2 (en) 2011-06-15 2017-04-25 Microsoft Technology Licensing, Llc High resolution multispectral image capture
JP2013005259A (ja) 2011-06-17 2013-01-07 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
WO2013003276A1 (en) 2011-06-28 2013-01-03 Pelican Imaging Corporation Optical arrangements for use with an array camera
US20130265459A1 (en) 2011-06-28 2013-10-10 Pelican Imaging Corporation Optical arrangements for use with an array camera
US8773513B2 (en) 2011-07-01 2014-07-08 Seiko Epson Corporation Context and epsilon stereo constrained correspondence matching
KR101216123B1 (ko) 2011-07-08 2012-12-27 김호 시청자 얼굴 추적정보 생성방법 및 생성장치, 그 기록매체 및 3차원 디스플레이 장치
US9300946B2 (en) 2011-07-08 2016-03-29 Personify, Inc. System and method for generating a depth map and fusing images from a camera array
JP2013024886A (ja) 2011-07-14 2013-02-04 Sanyo Electric Co Ltd 撮像装置
JP5780865B2 (ja) 2011-07-14 2015-09-16 キヤノン株式会社 画像処理装置、撮像システム、画像処理システム
US9363535B2 (en) 2011-07-22 2016-06-07 Qualcomm Incorporated Coding motion depth maps with depth range variation
US9264689B2 (en) 2011-08-04 2016-02-16 Semiconductor Components Industries, Llc Systems and methods for color compensation in multi-view video
KR101927967B1 (ko) 2011-08-09 2018-12-12 삼성전자주식회사 다시점 비디오 데이터의 깊이맵 부호화 방법 및 장치, 복호화 방법 및 장치
US8432435B2 (en) 2011-08-10 2013-04-30 Seiko Epson Corporation Ray image modeling for fast catadioptric light field rendering
US8866951B2 (en) 2011-08-24 2014-10-21 Aptina Imaging Corporation Super-resolution imaging systems
US8704895B2 (en) 2011-08-29 2014-04-22 Qualcomm Incorporated Fast calibration of displays using spectral-based colorimetrically calibrated multicolor camera
US9009952B2 (en) 2011-08-29 2015-04-21 Asm Technology Singapore Pte. Ltd. Apparatus for assembling a lens module and an image sensor to form a camera module, and a method of assembling the same
US20130070060A1 (en) 2011-09-19 2013-03-21 Pelican Imaging Corporation Systems and methods for determining depth from multiple views of a scene that include aliasing using hypothesized fusion
CN103119516B (zh) 2011-09-20 2016-09-07 松下知识产权经营株式会社 光场摄像装置和图像处理装置
WO2013042440A1 (ja) 2011-09-21 2013-03-28 富士フイルム株式会社 画像処理装置、方法、プログラム及び記録媒体並びに立体撮像装置、携帯電子機器、プリンタ及び立体画像再生装置
US8724893B2 (en) 2011-09-27 2014-05-13 Thomson Licensing Method and system for color look up table generation
KR102002165B1 (ko) 2011-09-28 2019-07-25 포토내이션 리미티드 라이트 필드 이미지 파일의 인코딩 및 디코딩을 위한 시스템 및 방법
US8908083B2 (en) 2011-09-28 2014-12-09 Apple Inc. Dynamic autofocus operations
JP5831105B2 (ja) 2011-09-30 2015-12-09 ソニー株式会社 撮像装置及び撮像方法
SG11201401363UA (en) 2011-10-11 2014-05-29 Pelican Imaging Corp Lens stack arrays including adaptive optical elements
EP2582128A3 (en) 2011-10-12 2013-06-19 Canon Kabushiki Kaisha Image-capturing device
JP5913903B2 (ja) 2011-10-24 2016-04-27 株式会社日立製作所 形状検査方法およびその装置
US20130107061A1 (en) 2011-10-31 2013-05-02 Ankit Kumar Multi-resolution ip camera
JP5149435B1 (ja) 2011-11-04 2013-02-20 株式会社東芝 映像処理装置および映像処理方法
US9692991B2 (en) 2011-11-04 2017-06-27 Qualcomm Incorporated Multispectral imaging system
EP2590138B1 (en) 2011-11-07 2019-09-11 Flir Systems AB Gas visualization arrangements, devices, and methods
GB201119405D0 (en) 2011-11-10 2011-12-21 Univ East Anglia Spectral estimation method,system and reference target design system
EP2780755A4 (en) 2011-11-15 2015-09-02 Technion Res & Dev Foundation METHOD AND SYSTEM FOR LIGHT TRANSMISSION
US20130121559A1 (en) 2011-11-16 2013-05-16 Sharp Laboratories Of America, Inc. Mobile device with three dimensional augmented reality
US20130127988A1 (en) 2011-11-17 2013-05-23 Sen Wang Modifying the viewpoint of a digital image
US9661310B2 (en) 2011-11-28 2017-05-23 ArcSoft Hanzhou Co., Ltd. Image depth recovering method and stereo image fetching device thereof
JP6019568B2 (ja) 2011-11-28 2016-11-02 ソニー株式会社 画像処理装置および方法、記録媒体、並びに、プログラム
EP2600316A1 (en) 2011-11-29 2013-06-05 Inria Institut National de Recherche en Informatique et en Automatique Method, system and software program for shooting and editing a film comprising at least one image of a 3D computer-generated animation
KR101862404B1 (ko) 2011-12-09 2018-05-29 엘지이노텍 주식회사 스테레오 영상의 노이즈 제거장치 및 방법
US9117295B2 (en) 2011-12-20 2015-08-25 Adobe Systems Incorporated Refinement of depth maps by fusion of multiple estimates
KR20130072535A (ko) * 2011-12-22 2013-07-02 삼성전기주식회사 비파괴적 결함검사장치 및 이를 이용한 결함검사방법
WO2013099169A1 (ja) 2011-12-27 2013-07-04 パナソニック株式会社 ステレオ撮影装置
US8941722B2 (en) 2012-01-03 2015-01-27 Sony Corporation Automatic intelligent focus control of video
US8854433B1 (en) 2012-02-03 2014-10-07 Aquifi, Inc. Method and system enabling natural user interface gestures with an electronic system
WO2013119706A1 (en) 2012-02-06 2013-08-15 Pelican Imaging Corporation Systems and methods for extending dynamic range of imager arrays by controlling pixel analog gain
US9172889B2 (en) 2012-02-09 2015-10-27 Semiconductor Components Industries, Llc Imaging systems and methods for generating auto-exposed high-dynamic-range images
WO2013126578A1 (en) 2012-02-21 2013-08-29 Pelican Imaging Corporation Systems and methods for the manipulation of captured light field image data
US9230333B2 (en) 2012-02-22 2016-01-05 Raytheon Company Method and apparatus for image processing
JP5860304B2 (ja) 2012-02-23 2016-02-16 キヤノン株式会社 撮像装置及びその制御方法、プログラム、並びに記憶媒体
US8831377B2 (en) 2012-02-28 2014-09-09 Lytro, Inc. Compensating for variation in microlens position during light-field image processing
JP5924978B2 (ja) 2012-02-28 2016-05-25 キヤノン株式会社 画像処理装置および画像処理方法
JP6112824B2 (ja) 2012-02-28 2017-04-12 キヤノン株式会社 画像処理方法および装置、プログラム。
EP2637139A1 (en) 2012-03-05 2013-09-11 Thomson Licensing Method and apparatus for bi-layer segmentation
EP2834788A4 (en) 2012-04-02 2016-01-13 Intel Corp SYSTEMS, METHODS, AND COMPUTER PROGRAM PRODUCTS FOR CHANGING PICTURE DISTANCE PARAMETERS IN A MULTICAMERA SYSTEM
US9156168B2 (en) 2012-04-13 2015-10-13 Automation Engineering, Inc. Active alignment using continuous motion sweeps and temporal interpolation
KR102214789B1 (ko) 2012-04-16 2021-02-09 칠드런스 내셔널 메디컬 센터 수술 및 중재 시술에서 추적 및 제어를 위한 듀얼-모드 스테레오 이미징 시스템
US8994845B2 (en) 2012-04-27 2015-03-31 Blackberry Limited System and method of adjusting a camera based on image data
JP2015521411A (ja) 2012-05-01 2015-07-27 ペリカン イメージング コーポレイション πフィルタ群を用いてパターン化されたカメラモジュール
US9210392B2 (en) 2012-05-01 2015-12-08 Pelican Imaging Coporation Camera modules patterned with pi filter groups
EP2845384A1 (en) 2012-05-02 2015-03-11 Koninklijke Philips N.V. Quality metric for processing 3d video
EP2820838B1 (en) 2012-05-09 2020-01-08 Lytro, Inc. Optimization of optical systems for improved light field capture and manipulation
US9846960B2 (en) 2012-05-31 2017-12-19 Microsoft Technology Licensing, Llc Automated camera array calibration
US9179126B2 (en) 2012-06-01 2015-11-03 Ostendo Technologies, Inc. Spatio-temporal light field cameras
WO2013182873A1 (en) 2012-06-08 2013-12-12 Nokia Corporation A multi-frame image calibrator
EP2677734A3 (en) 2012-06-18 2016-01-13 Sony Mobile Communications AB Array camera imaging system and method
KR20150023907A (ko) 2012-06-28 2015-03-05 펠리칸 이매징 코포레이션 결함있는 카메라 어레이들, 광학 어레이들 및 센서들을 검출하기 위한 시스템들 및 방법들
JP5929553B2 (ja) 2012-06-28 2016-06-08 ソニー株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
US20140002674A1 (en) 2012-06-30 2014-01-02 Pelican Imaging Corporation Systems and Methods for Manufacturing Camera Modules Using Active Alignment of Lens Stack Arrays and Sensors
US8896594B2 (en) 2012-06-30 2014-11-25 Microsoft Corporation Depth sensing with depth-adaptive illumination
US8792710B2 (en) 2012-07-24 2014-07-29 Intel Corporation Stereoscopic depth reconstruction with probabilistic pixel correspondence search
US9147251B2 (en) 2012-08-03 2015-09-29 Flyby Media, Inc. Systems and methods for efficient 3D tracking of weakly textured planar surfaces for augmented reality applications
US8988566B2 (en) 2012-08-09 2015-03-24 Omnivision Technologies, Inc. Lens array for partitioned image sensor having color filters
US9860443B2 (en) 2012-08-20 2018-01-02 The Regents Of The University Of California Monocentric lens designs and associated imaging systems having wide field of view and high resolution
EP3869797B1 (en) 2012-08-21 2023-07-19 Adeia Imaging LLC Method for depth detection in images captured using array cameras
US20140055632A1 (en) 2012-08-23 2014-02-27 Pelican Imaging Corporation Feature based high resolution motion estimation from low resolution images captured using an array source
JP6458988B2 (ja) 2012-08-31 2019-01-30 ソニー株式会社 画像処理装置および画像処理方法、並びに情報処理装置
US9214013B2 (en) 2012-09-14 2015-12-15 Pelican Imaging Corporation Systems and methods for correcting user identified artifacts in light field images
US9373088B2 (en) 2012-09-17 2016-06-21 The Board Of Trustees Of The Leland Stanford Junior University Brain machine interface utilizing a discrete action state decoder in parallel with a continuous decoder for a neural prosthetic device
US9143673B2 (en) 2012-09-19 2015-09-22 Google Inc. Imaging device with a plurality of pixel arrays
WO2014052974A2 (en) 2012-09-28 2014-04-03 Pelican Imaging Corporation Generating images from light fields utilizing virtual viewpoints
TW201415879A (zh) 2012-10-12 2014-04-16 Wintek Corp 影像擷取裝置
EP2915325A4 (en) 2012-10-31 2016-06-01 Invisage Technologies Inc PICTURE AND VIDEO RECORDING WITH ADVANCED VIEW FIELD
US9338370B2 (en) 2012-11-05 2016-05-10 Honeywell International Inc. Visual system having multiple cameras
US9143711B2 (en) 2012-11-13 2015-09-22 Pelican Imaging Corporation Systems and methods for array camera focal plane control
KR101954192B1 (ko) 2012-11-15 2019-03-05 엘지전자 주식회사 어레이 카메라, 휴대 단말기 및 그 동작 방법
US9076205B2 (en) 2012-11-19 2015-07-07 Adobe Systems Incorporated Edge direction and curve based image de-blurring
TWI525382B (zh) 2012-11-21 2016-03-11 豪威科技股份有限公司 包括至少一拜耳型攝影機的攝影機陣列系統及關聯的方法
CN113472989A (zh) 2012-11-28 2021-10-01 核心光电有限公司 多孔径成像系统以及通过多孔径成像系统获取图像的方法
US9001226B1 (en) 2012-12-04 2015-04-07 Lytro, Inc. Capturing and relighting images using multiple devices
US9088369B2 (en) 2012-12-28 2015-07-21 Synergy Microwave Corporation Self injection locked phase locked looped optoelectronic oscillator
US8851370B2 (en) 2013-01-02 2014-10-07 Jpmorgan Chase Bank, N.A. System and method for secure card with on-board verification
US20140183334A1 (en) 2013-01-03 2014-07-03 Visera Technologies Company Limited Image sensor for light field device and manufacturing method thereof
US9270876B2 (en) 2013-01-05 2016-02-23 The Lightco Inc. Methods and apparatus for using multiple optical chains in parallel with multiple different exposure times
KR20140094395A (ko) 2013-01-22 2014-07-30 삼성전자주식회사 복수 개의 마이크로렌즈를 사용하여 촬영하는 촬영 장치 및 그 촬영 방법
EP2954046A4 (en) 2013-02-06 2016-07-20 Univ Rochester Oligodendrocyte precursor cells derived from isolated pluripotent cells to treat myelin disease
US9769365B1 (en) 2013-02-15 2017-09-19 Red.Com, Inc. Dense field imaging
US9462164B2 (en) 2013-02-21 2016-10-04 Pelican Imaging Corporation Systems and methods for generating compressed light field representation data using captured light fields, array geometry, and parallax information
US9253380B2 (en) 2013-02-24 2016-02-02 Pelican Imaging Corporation Thin form factor computational array cameras and modular array cameras
US9853826B2 (en) 2013-02-25 2017-12-26 Qualcomm Incorporated Establishing groups of internet of things (IOT) devices and enabling communication among the groups of IOT devices
US20140240469A1 (en) 2013-02-28 2014-08-28 Motorola Mobility Llc Electronic Device with Multiview Image Capture and Depth Sensing
US20150002734A1 (en) 2013-07-01 2015-01-01 Motorola Mobility Llc Electronic Device with Modulated Light Flash Operation for Rolling Shutter Image Sensor
US9638883B1 (en) 2013-03-04 2017-05-02 Fotonation Cayman Limited Passive alignment of array camera modules constructed from lens stack arrays and sensors based upon alignment information obtained during manufacture of array camera modules using an active alignment process
WO2014138697A1 (en) 2013-03-08 2014-09-12 Pelican Imaging Corporation Systems and methods for high dynamic range imaging using array cameras
US8866912B2 (en) 2013-03-10 2014-10-21 Pelican Imaging Corporation System and methods for calibration of an array camera using a single captured image
US9521416B1 (en) 2013-03-11 2016-12-13 Kip Peli P1 Lp Systems and methods for image data compression
US9106784B2 (en) 2013-03-13 2015-08-11 Pelican Imaging Corporation Systems and methods for controlling aliasing in images captured by an array camera for use in super-resolution processing
US9888194B2 (en) 2013-03-13 2018-02-06 Fotonation Cayman Limited Array camera architecture implementing quantum film image sensors
US9124831B2 (en) 2013-03-13 2015-09-01 Pelican Imaging Corporation System and methods for calibration of an array camera
WO2014160142A1 (en) 2013-03-13 2014-10-02 Pelican Imaging Corporation Systems and methods for using alignment to increase sampling diversity of cameras in an array camera module
US9519972B2 (en) 2013-03-13 2016-12-13 Kip Peli P1 Lp Systems and methods for synthesizing images from image data captured by an array camera using restricted depth of field depth maps in which depth estimation precision varies
US9578259B2 (en) 2013-03-14 2017-02-21 Fotonation Cayman Limited Systems and methods for reducing motion blur in images or video in ultra low light with array cameras
WO2014153098A1 (en) 2013-03-14 2014-09-25 Pelican Imaging Corporation Photmetric normalization in array cameras
WO2014144157A1 (en) 2013-03-15 2014-09-18 Pelican Imaging Corporation Optical arrangements for use with an array camera
WO2014145856A1 (en) 2013-03-15 2014-09-18 Pelican Imaging Corporation Systems and methods for stereo imaging with camera arrays
WO2014150856A1 (en) 2013-03-15 2014-09-25 Pelican Imaging Corporation Array camera implementing quantum dot color filters
US9497429B2 (en) 2013-03-15 2016-11-15 Pelican Imaging Corporation Extended color processing on pelican array cameras
US9633442B2 (en) 2013-03-15 2017-04-25 Fotonation Cayman Limited Array cameras including an array camera module augmented with a separate camera
US9445003B1 (en) 2013-03-15 2016-09-13 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using image deconvolution based on motion and depth information
US10122993B2 (en) 2013-03-15 2018-11-06 Fotonation Limited Autofocus system for a conventional camera that uses depth information from an array camera
WO2014149902A1 (en) 2013-03-15 2014-09-25 Pelican Imaging Corporation Systems and methods for providing an array projector
US20140307055A1 (en) 2013-04-15 2014-10-16 Microsoft Corporation Intensity-modulated light pattern for active stereo
CN105122104B (zh) 2013-04-23 2017-05-17 柯尼卡美能达株式会社 光学膜、圆偏振片及有机电致发光显示装置
CN105165008B (zh) 2013-05-10 2017-11-21 皇家飞利浦有限公司 对与多视图再现设备一起使用的视频数据信号进行编码的方法
JP6201476B2 (ja) 2013-07-18 2017-09-27 凸版印刷株式会社 自由視点画像撮像装置およびその方法
WO2015015722A1 (ja) 2013-07-29 2015-02-05 パナソニックＩｐマネジメント株式会社 光学フィルタおよびそれを用いた偏光撮像装置
KR102103983B1 (ko) 2013-07-31 2020-04-23 삼성전자주식회사 시프트된 마이크로 렌즈 어레이를 구비하는 라이트 필드 영상 획득 장치
US20160182786A1 (en) 2013-09-11 2016-06-23 Lytro, Inc. Hybrid light-field camera
CN103514580B (zh) * 2013-09-26 2016-06-08 香港应用科技研究院有限公司 用于获得视觉体验优化的超分辨率图像的方法和系统
WO2015048694A2 (en) 2013-09-27 2015-04-02 Pelican Imaging Corporation Systems and methods for depth-assisted perspective distortion correction
US20160210785A1 (en) 2013-10-03 2016-07-21 Sulon Technologies Inc. Augmented reality system and method for positioning and mapping
US20150098079A1 (en) 2013-10-09 2015-04-09 Hilti Aktiengesellschaft System and method for camera based position and orientation measurement
US20150104101A1 (en) 2013-10-14 2015-04-16 Apple Inc. Method and ui for z depth image segmentation
US9185276B2 (en) 2013-11-07 2015-11-10 Pelican Imaging Corporation Methods of manufacturing array camera modules incorporating independently aligned lens stacks
WO2015074078A1 (en) 2013-11-18 2015-05-21 Pelican Imaging Corporation Estimating depth from projected texture using camera arrays
US9426361B2 (en) 2013-11-26 2016-08-23 Pelican Imaging Corporation Array camera configurations incorporating multiple constituent array cameras
US10395113B2 (en) 2014-01-22 2019-08-27 Polaris Sensor Technologies, Inc. Polarization-based detection and mapping method and system
KR102135770B1 (ko) 2014-02-10 2020-07-20 한국전자통신연구원 스테레오 카메라 기반의 3차원 얼굴 복원 방법 및 장치
GB2523149A (en) 2014-02-14 2015-08-19 Nokia Technologies Oy Method, apparatus and computer program product for image-driven cost volume aggregation
US9979878B2 (en) 2014-02-21 2018-05-22 Light Labs Inc. Intuitive camera user interface methods and apparatus
JP6211435B2 (ja) 2014-02-26 2017-10-11 株式会社アドバンテスト 半導体装置の製造方法
US9307159B2 (en) 2014-03-04 2016-04-05 Panasonic Intellectual Property Management Co., Ltd. Polarization image processing apparatus
WO2015134996A1 (en) 2014-03-07 2015-09-11 Pelican Imaging Corporation System and methods for depth regularization and semiautomatic interactive matting using rgb-d images
CN106104633A (zh) 2014-03-19 2016-11-09 英特尔公司 面部表情和/或交互驱动的化身装置和方法
JP2017518147A (ja) 2014-03-28 2017-07-06 インテュイティブ サージカル オペレーションズ， インコーポレイテッド 手術シーンの定量的三次元撮像
US9247117B2 (en) 2014-04-07 2016-01-26 Pelican Imaging Corporation Systems and methods for correcting for warpage of a sensor array in an array camera module by introducing warpage into a focal plane of a lens stack array
GB2525660A (en) 2014-05-01 2015-11-04 Mastercard International Inc Methods, devices and systems for transaction initiation
WO2015183824A1 (en) 2014-05-26 2015-12-03 Pelican Imaging Corporation Autofocus system for a conventional camera that uses depth information from an array camera
US9521319B2 (en) 2014-06-18 2016-12-13 Pelican Imaging Corporation Array cameras and array camera modules including spectral filters disposed outside of a constituent image sensor
US9729865B1 (en) 2014-06-18 2017-08-08 Amazon Technologies, Inc. Object detection and tracking
US9992483B2 (en) 2014-09-03 2018-06-05 Intel Corporation Imaging architecture for depth camera mode with mode switching
WO2016054089A1 (en) 2014-09-29 2016-04-07 Pelican Imaging Corporation Systems and methods for dynamic calibration of array cameras
US9766461B2 (en) 2015-01-20 2017-09-19 Microsoft Technology Licensing, Llc Head-mounted display device with stress-resistant components
US9964482B2 (en) 2015-01-26 2018-05-08 The United States Of America As Represented By The Secretary Of The Army Detecting clouds using polarized sunlight
US10260866B2 (en) 2015-03-06 2019-04-16 Massachusetts Institute Of Technology Methods and apparatus for enhancing depth maps with polarization cues
US20160267486A1 (en) 2015-03-13 2016-09-15 Radiius Corp Smartcard Payment System and Method
US9942474B2 (en) 2015-04-17 2018-04-10 Fotonation Cayman Limited Systems and methods for performing high speed video capture and depth estimation using array cameras
EP3284061B1 (en) 2015-04-17 2021-11-10 FotoNation Limited Systems and methods for performing high speed video capture and depth estimation using array cameras
KR102483838B1 (ko) 2015-04-19 2023-01-02 포토내이션 리미티드 Vr/ar 응용에서 심도 증강을 위한 다중-기선 카메라 어레이 시스템 아키텍처
JP6512928B2 (ja) 2015-04-28 2019-05-15 キヤノン株式会社 画像符号化装置、画像処理装置、画像符号化方法
US9679526B2 (en) 2015-06-30 2017-06-13 Nxp Usa, Inc. Display system, an integrated circuit for use in the display system, and a method of displaying at least two images on at least two screens
US20170011405A1 (en) 2015-07-09 2017-01-12 Mastercard International Incorporated Simultaneous multi-factor authentication systems and methods for payment transactions
JP6626295B2 (ja) 2015-09-09 2019-12-25 キヤノン株式会社 画像符号化装置、画像処理装置、画像符号化方法
US11257075B2 (en) 2015-10-20 2022-02-22 Paypal, Inc. Secure multi-factor user authentication on disconnected mobile devices
US20170142405A1 (en) 2015-10-21 2017-05-18 Praxik, LLC. Apparatus, Systems and Methods for Ground Plane Extension
RU2694021C1 (ru) 2015-12-14 2019-07-08 Моушен Метрикс Интернешэнл Корп. Способ и устройство идентификации частей фрагментированного материала в пределах изображения
US9741163B2 (en) 2015-12-22 2017-08-22 Raytheon Company 3-D polarimetric imaging using a microfacet scattering model to compensate for structured scene reflections
US20170268990A1 (en) 2016-03-17 2017-09-21 Canon Kabushiki Kaisha Separating diffuse and specular components of a glossy object for shape reconstruction using electronic light diffusing layers (e-glass) and polarized light
US20170337682A1 (en) 2016-05-18 2017-11-23 Siemens Healthcare Gmbh Method and System for Image Registration Using an Intelligent Artificial Agent
US10546297B2 (en) 2016-06-30 2020-01-28 Paypal, Inc. Hardware and token based user authentication
JP6697681B2 (ja) 2016-08-17 2020-05-27 ソニー株式会社 検査装置、検査方法、およびプログラム
US11199678B2 (en) 2016-09-14 2021-12-14 Fotonation Limited Optical systems for cameras incorporating lens elements formed separately and subsequently bonded to low CTE substrates
US10466036B2 (en) * 2016-10-07 2019-11-05 Arizona Board Of Regents On Behalf Of The University Of Arizona Attachable depth and orientation tracker device and method of depth and orientation tracking using focal plane polarization and color camera
US11832969B2 (en) 2016-12-22 2023-12-05 The Johns Hopkins University Machine learning approach to beamforming
US20180189767A1 (en) 2016-12-29 2018-07-05 Fotonation Limited Systems and methods for utilizing payment card information with a secure biometric processor on a mobile device
US10976239B1 (en) 2017-03-14 2021-04-13 Hart Scientific Consulting International Llc Systems and methods for determining polarization properties with high temporal bandwidth
US10643382B2 (en) 2017-04-04 2020-05-05 Intel Corporation Application of convolutional neural networks to object meshes
CN110741632B (zh) 2017-06-13 2021-08-03 索尼公司 拍摄装置、拍摄元件以及图像处理方法
KR102351542B1 (ko) 2017-06-23 2022-01-17 삼성전자주식회사 시차 보상 기능을 갖는 애플리케이션 프로세서, 및 이를 구비하는 디지털 촬영 장치
CN110832843B (zh) 2017-07-12 2021-12-14 索尼公司 成像设备、图像形成方法和成像系统
US10742894B2 (en) 2017-08-11 2020-08-11 Ut-Battelle, Llc Optical array for high-quality imaging in harsh environments
US10482618B2 (en) 2017-08-21 2019-11-19 Fotonation Limited Systems and methods for hybrid depth regularization
JP2019082853A (ja) 2017-10-30 2019-05-30 日立造船株式会社 情報処理装置、情報処理方法、および情報処理プログラム
WO2019089049A1 (en) 2017-11-06 2019-05-09 Google Llc Systems and methods for improved feature extraction using polarization information
US10643383B2 (en) 2017-11-27 2020-05-05 Fotonation Limited Systems and methods for 3D facial modeling
CN109961406B (zh) 2017-12-25 2021-06-25 深圳市优必选科技有限公司 一种图像处理的方法、装置及终端设备
US11024046B2 (en) 2018-02-07 2021-06-01 Fotonation Limited Systems and methods for depth estimation using generative models
US20210081698A1 (en) * 2018-02-09 2021-03-18 Nano Techgalaxy, Inc. D/B/A Galaxy.Ai Systems and methods for physical object analysis
JP2019148453A (ja) 2018-02-26 2019-09-05 日立造船株式会社 フィルム検査装置およびフィルム検査方法
US20200012119A1 (en) 2018-07-06 2020-01-09 Polaris Sensor Technologies, Inc. Reducing glare for objects viewed through transparent surfaces
WO2020028257A2 (en) 2018-07-30 2020-02-06 Hyperfine Research, Inc. Deep learning techniques for magnetic resonance image reconstruction
US11315321B2 (en) 2018-09-07 2022-04-26 Intel Corporation View dependent 3D reconstruction mechanism
US10659751B1 (en) * 2018-12-14 2020-05-19 Lyft Inc. Multichannel, multi-polarization imaging for improved perception
US10708557B1 (en) * 2018-12-14 2020-07-07 Lyft Inc. Multispectrum, multi-polarization (MSMP) filtering for improved perception of difficult to perceive colors
CN110044931B (zh) 2019-04-23 2021-03-26 华中科技大学 一种曲面玻璃表面和内部缺陷的检测装置
US11431884B2 (en) * 2019-09-16 2022-08-30 Meta Platforms Technologies, Llc Polarization capture device for identifying feature of object
US11461998B2 (en) 2019-09-25 2022-10-04 Samsung Electronics Co., Ltd. System and method for boundary aware semantic segmentation

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116109798A (zh) * 2023-04-04 2023-05-12 腾讯科技（深圳）有限公司 图像数据处理方法、装置、设备及介质
CN116109798B (zh) * 2023-04-04 2023-06-09 腾讯科技（深圳）有限公司 图像数据处理方法、装置、设备及介质
CN117313552A (zh) * 2023-11-28 2023-12-29 菏泽学院 半导体器件建模方法、系统及电子设备
CN117313552B (zh) * 2023-11-28 2024-02-02 菏泽学院 半导体器件建模方法、系统及电子设备

Also Published As

Publication number Publication date
US11270110B2 (en) 2022-03-08
EP3821267A1 (en) 2021-05-19
EP3821267A4 (en) 2022-04-13
US20220157070A1 (en) 2022-05-19
JP7273250B2 (ja) 2023-05-12
KR20220051430A (ko) 2022-04-26
US11699273B2 (en) 2023-07-11
JP2022541674A (ja) 2022-09-26
US20210264147A1 (en) 2021-08-26
MX2022003020A (es) 2022-06-14
DE112020004391T5 (de) 2022-06-02
KR102646521B1 (ko) 2024-03-21
BR112022004811A2 (pt) 2022-06-21
WO2021055585A1 (en) 2021-03-25

Similar Documents

Publication Publication Date Title
US11699273B2 (en) Systems and methods for surface modeling using polarization cues
US11024020B2 (en) Method and system for automatic quality inspection of materials and virtual material surfaces
JP2022552833A (ja) 偏光による面法線計測のためのシステム及び方法
CN114787648B (zh) 用于使用偏振提示进行透明对象分段的系统和方法
Molina et al. On the detection of defects on specular car body surfaces
US11295475B2 (en) Systems and methods for pose detection and measurement
US20180322623A1 (en) Systems and methods for inspection and defect detection using 3-d scanning
Arnal et al. Detecting dings and dents on specular car body surfaces based on optical flow
Kang et al. Learning efficient illumination multiplexing for joint capture of reflectance and shape.
CA3109406C (en) Systems and methods for surface modeling using polarization cues
de la Calle Herrero et al. Inspection system for rail surfaces using differential images
Rantoson et al. 3D reconstruction of transparent objects exploiting surface fluorescence caused by UV irradiation
WO2022272166A1 (en) Systems and methods for generating and using visual datasets for training computer vision models
US11657495B2 (en) Non-lambertian surface inspection system using images scanned in different directions
GB2605621A (en) Monocular depth estimation
Jang et al. Automated visual inspection of defects in transparent display layers using light-field 3D imaging
Zhang et al. Defect Inspection for Curved Surface with Highly Specular Reflection
Simler et al. Bimodal model-based 3D vision and defect detection for free-form surface inspection
Hansen et al. Defect or Design? Leveraging the Angle of Opportunity for Detecting Scratches on Brushed Aluminium Surfaces
Martínez et al. A machine vision system for automated headlamp lens inspection
Li Photometric stereo for micro-scale shape reconstruction
To Surface-type classification in structured planar environments under various illumination and imaging conditions
Ishii et al. High-speed glossy surface scanner with estimation of surface reflectance properties

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination