KR20170063827A - 어레이 카메라들의 동적 교정을 위한 시스템들 및 방법들 - Google Patents

어레이 카메라들의 동적 교정을 위한 시스템들 및 방법들 Download PDF

Info

Publication number
KR20170063827A
KR20170063827A KR1020177011284A KR20177011284A KR20170063827A KR 20170063827 A KR20170063827 A KR 20170063827A KR 1020177011284 A KR1020177011284 A KR 1020177011284A KR 20177011284 A KR20177011284 A KR 20177011284A KR 20170063827 A KR20170063827 A KR 20170063827A
Authority
KR
South Korea
Prior art keywords
calibration data
geometric calibration
images
view image
camera
Prior art date
Application number
KR1020177011284A
Other languages
English (en)
Inventor
플로리안 시우레아
댄 렐러스큐
프리얌 채터지
Original Assignee
포토네이션 케이맨 리미티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 포토네이션 케이맨 리미티드 filed Critical 포토네이션 케이맨 리미티드
Publication of KR20170063827A publication Critical patent/KR20170063827A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00—Diagnosis, testing or measuring for television systems or their details
    • H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
    • G06T5/006—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/80—Geometric correction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • H04N5/225—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10004—Still image; Photographic image
    • G06T2207/10012—Stereo images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10052—Images from lightfield camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Geometry (AREA)
  • Image Analysis (AREA)

Abstract

어레이 카메라를 동적으로 교정하여 그의 동작 수명 전체에 걸쳐서 발생할 수 있는 기하학적 구조에서의 변동들을 수용하기 위한 시스템들 및 방법들이 개시된다. 동적 교정 프로세스들은 한 장면의 이미지들의 세트를 획득하는 단계 및 이미지들 내의 대응하는 피처들을 식별하는 단계를 포함할 수 있다. 기하학적 교정 데이터는, 이미지들을 개정하기 위해, 그리고 대응하는 피처들이 관찰되는 위치들에서의 기하학적 교정 데이터에 대한 잔류 벡터들을 판정하기 위해 이용될 수 있다. 이어서, 잔류 벡터들은 카메라 어레이에 대한 업데이트된 기하학적 교정 데이터를 판정하는 데 이용될 수 있다. 여러 개의 실시예들에서, 잔류 벡터들은 기하학적 교정 데이터를 업데이트하는 잔류 벡터 교정 데이터 필드를 생성하는 데 이용된다. 많은 실시예들에서, 잔류 벡터들은 카메라 어레이의 현재 기하학적 구조에 대한 최상의 피팅인 기하학적 교정 데이터의 다수의 상이한 세트들 중에서 기하학적 교정의 세트를 선택하는 데 이용된다.

Description

어레이 카메라들의 동적 교정을 위한 시스템들 및 방법들{SYSTEMS AND METHODS FOR DYNAMIC CALIBRATION OF ARRAY CAMERAS}
본 발명은 일반적으로 카메라 어레이들에 관한 것이고, 더 구체적으로는, 카메라들의 어레이의 동적 교정에 관한 것이다.
소정 장면의 양안 보기(binocular viewing)는, 각각의 눈의 상이한 시야들로 인해, 그 장면의 2개의 약간 상이한 이미지들을 생성한다. 양안 이격도(disparity)(또는 시차(parallax))로 지칭되는 이들 차이는 시각적 장면에서의 심도를 계산하여 심도 지각의 주요 수단을 제공하는 데 이용될 수 있는 정보를 제공한다. 입체 심도 지각과 연관된 심도의 인상(impression)은, 또한, 관찰자가 이동하는 동안 오로지 한쪽 눈만으로 소정 장면을 보는 경우와 같은 다른 조건들 하에서 획득될 수 있다. 관찰된 시차는 그 장면 내의 피사체들에 대한 심도 정보를 획득하는 데 활용될 수 있다. 머신 비전(machine vision)에서의 유사한 원리들이 심도 정보를 수집하는 데 이용될 수 있다.
소정 거리만큼 이격된 2개의 카메라들이 동일한 장면을 촬영할 수 있고, 캡처된 이미지들은 매칭하는 이미지들의 부분들을 찾기 위해 2개 이상의 이미지들의 픽셀들을 시프트시킴으로써 비교될 수 있다. 피사체가 2개의 상이한 카메라 뷰(view)들 사이에서 시프트하는 양은 이격도로 지칭되는데, 이는 피사체까지의 거리에 반비례한다. 최상의 매칭이 되는 다수의 이미지들에서의 피사체의 시프트를 검출하는 이격도 탐색이 카메라들 사이의 기선 거리 및 수반되는 카메라들의 포커스 길이(뿐 아니라 카메라의 추가 특성들에 대한 지식)에 기초하여 피사체까지의 거리를 계산하는 데 이용될 수 있다. 대부분의 카메라 구성들에서, 2개 이상의 이미지들 사이의 대응성을 찾는 것은 2개의 차원들에서의 탐색을 필요로 한다. 그러나, 개정이 이격도 탐색들을 간소화하는 데 이용될 수 있다. 개정은 2개 이상의 이미지들을 공통 이미지 평면 상에 투영하는 데 이용될 수 있는 변환 프로세스이다. 개정이 이미지들의 세트를 동일한 평면 상에 투영하는 데 이용되는 경우, 이격도 탐색들은 등극선(epipolar line)들을 따르는 1차원 탐색들이 된다.
보다 최근에, 연구자들은 보다 넓은 합성 애퍼처(aperture)에 걸쳐 있는 다수의 카메라들(예컨대, 스탠포드 멀티-카메라 어레이)을 사용하여 명시야(light field) 이미지들을 캡처해 왔다. 소정 장면에서 모든 포인트들에서의 모든 방향들로부터의 광을 특징으로 하는 4D 기능으로서 종종 정의되는 명시야는 소정 장면의 2차원(2D) 이미지들의 2D 집합으로 해석될 수 있다. 실제 제약들로 인해, 전형적으로, 명시야를 형성하는 장면의 2D 이미지들의 집합을 동시에 캡처하는 것은 어렵다. 그러나, 이미지 데이터가 카메라들 각각에 의해 캡처되는 시간이 더 가까울수록, 광 세기(예컨대, 형광의 다른 방식으로 감지불가능한 깜박임(flicker)) 또는 피사체 모션에서의 변동이 캡처된 이미지들 사이의 시간 의존적 변동들을 초래할 가능성이 더 적다. 명시야를 캡처 및 리샘플링하는 것을 수반하는 프로세스들은 넓은 애퍼처들을 갖는 카메라들을 시뮬레이션하는 데 활용될 수 있다. 예를 들어, 소정 장면을 향하는 MxN 카메라들의 어레이는 시야가 어레이의 시야만큼이나 넓은 렌즈의 포커싱 효과들을 시뮬레이션할 수 있다. 많은 실시예들에서, 카메라들은 직사각형 패턴으로 배열될 필요가 없고, 특정 애플리케이션의 요건들에 적절한 원형 구성들 및/또는 임의의 임의적인 구성을 포함한 구성들을 가질 수 있다. 이러한 방식에서의 카메라 어레이들의 사용은 합성 애퍼처 사진술로 지칭될 수 있다.
본 발명의 다양한 실시예들에 따른 시스템들 및 방법들은 카메라 어레이들의 동적 교정을 수행한다. 일 실시예는, 복수의 카메라들을 사용하여 한 장면의 이미지들의 세트 - 이미지들의 세트는 기준 이미지 및 대안의 뷰 이미지를 포함함 - 를 획득하는 단계; 이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 이미지들의 세트에서 피처(feature)들을 검출하는 단계; 이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 기준 이미지 내에서 검출된 피처들에 대응하는 피처들을 대안의 뷰 이미지 내에서 식별하는 단계; 이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 기하학적 교정 데이터의 세트에 기초하여 이미지들의 세트를 개정하는 단계; 이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 기준 이미지 및 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 관찰된 시프트들에 기초하여 피처들이 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 잔류 벡터들을 판정하는 단계; 이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 잔류 벡터들에 기초하여 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계; 및 이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 업데이트된 기하학적 교정 데이터에 기초하여 대안의 뷰 이미지를 캡처했던 카메라에 의해 캡처된 이미지를 개정하는 단계를 포함한다.
추가 실시예에서, 피처들이 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 잔류 벡터들을 판정하는 단계는, 등극선들을 따르는, 기준 이미지 및 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 관찰된 시프트들의 성분들에 기초하여 기준 이미지 내에서 검출된 피처들에 대응하는 것으로 식별된 대안의 뷰 이미지 내의 피처들의 심도들을 추정하는 단계; 대응하는 피처들의 추정된 심도들에 기초하여 기준 이미지 및 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 관찰된 시프트들에 적용할 장면 의존적 기하학적 정정들을 판정하는 단계; 및 피처들이 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 잔류 벡터들을 획득하기 위해 기준 이미지 및 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 관찰된 시프트들에 장면 의존적 기하학적 정정들을 적용하는 단계를 포함한다.
다른 실시예에서, 잔류 벡터들에 기초하여 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계는 적어도 보간(interpolation) 프로세스를 이용하여 잔류 벡터들로부터 잔류 벡터 교정 필드를 생성하는 단계를 포함한다.
다른 추가 실시예에서, 잔류 벡터들에 기초하여 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계는 잔류 벡터들로부터 잔류 벡터 교정 필드의 생성 시에 보외(extrapolation) 프로세스를 이용하는 단계를 추가로 포함한다.
또 다른 실시예는, 또한, 대안의 뷰 이미지를 캡처했던 카메라에 대해 기하학적 교정 데이터의 세트에 잔류 벡터 교정 필드를 적용하는 단계를 포함한다.
다른 추가 실시예는, 또한, 잔류 벡터 교정 필드를 기저 벡터들의 세트와 맵핑시키는 단계; 및 완전하지 않은 세트의 기저 벡터들의 선형 조합을 이용하여 잡음제거된 잔류 벡터 교정 필드를 생성하는 단계를 포함한다.
또 다른 실시예에서, 기저 벡터들의 세트는 잔류 벡터 교정 필드들의 트레이닝 데이터 세트로부터 학습된다.
추가 실시예에서, 또한, 기저 벡터들의 세트는 PCA(Principal Component Analysis)를 이용하여 잔류 벡터 교정 필드들의 트레이닝 데이터 세트로부터 학습된다.
다른 실시예에서, 또한, 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계는, 피처들이 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 적어도 잔류 벡터들에 기초하여 기하학적 교정 데이터의 복수의 세트들 중에서 기하학적 교정 데이터의 업데이트된 세트를 선택하는 단계를 추가로 포함한다.
다른 추가 실시예는, 또한, 복수의 카메라들을 사용하여 한 장면의 이미지들의 추가 세트를 획득하는 단계; 및 이미지들의 추가 세트를 이용하여 기하학적 교정 데이터에 대한 잔류 벡터들을 판정하는 단계를 포함한다. 추가로, 잔류 벡터들에 기초하여 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계는, 또한, 이미지들의 추가 세트를 이용하여 판정된 기하학적 교정 데이터에 대한 잔류 벡터들을 활용하는 단계를 포함한다.
다른 추가 실시예는, 또한, 피처 밀도 임계치를 만족시키지 않는 카메라의 시야 내에서 적어도 하나의 영역을 검출하는 단계를 포함한다. 추가로, 한 장면의 이미지들의 추가 세트는 카메라의 시야 내의 적어도 하나의 영역이 피처 밀도 임계치를 만족시키지 않음을 검출한 것에 응답하여 획득된다.
또 다른 추가 실시예에서, 이미지들의 추가 세트를 이용하여 판정된 잔류 벡터들을 활용하는 단계는 밀도 임계치가 만족되지 않은 카메라의 시야 내의 적어도 하나의 영역에 대해 업데이트된 기하학적 교정 데이터를 판정하기 위해 이미지들의 추가 세트를 이용하여 판정된 잔류 벡터들을 활용하는 단계를 추가로 포함한다.
또 다른 실시예는, 또한, 이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 사용자 인터페이스를 통해 프롬프트들을 제공하는 단계를 포함하고, 프롬프트들은, 카메라 어레이의 배향이, 이미지들의 추가 세트의 획득 동안 피처 밀도 임계치를 만족시키지 않는 카메라의 시야 내의 적어도 하나의 영역으로 기준 이미지 및 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들을 시프트시킬 것을 지시한다.
다른 추가 실시예는, 또한, 복수의 카메라들을 사용하여 한 장면의 이미지들의 세트 - 이미지들의 세트는 기준 이미지 및 대안의 뷰 이미지를 포함함 - 를 획득하는 단계; 이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 이미지들의 세트에서 피처들을 검출하는 단계; 이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 기준 이미지 내에서 검출된 피처들에 대응하는 피처들을 대안의 뷰 이미지 내에서 식별하는 단계; 이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 기하학적 교정 데이터의 세트에 기초하여 이미지들의 세트를 개정하는 단계; 및 이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 기준 이미지 및 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 관찰된 시프트들에 기초하여 기하학적 교정 데이터의 유효성을 판정하는 단계를 포함한다.
또 다른 실시예에서, 또한, 기준 이미지 및 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 관찰된 시프트들에 기초하여 기하학적 교정 데이터의 유효성을 판정하는 단계는 관찰된 시프트들이 등극선으로부터 멀리 떨어진 위치들까지의 범위를 판정하는 단계를 포함한다.
다른 추가 실시예는, 또한, 이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 기준 이미지 및 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 관찰된 시프트들에 기초하여 피처들이 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 잔류 벡터들을 판정함으로써; 그리고 이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 잔류 벡터들에 기초하여 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정함으로써, 업데이트된 기하학적 교정 데이터를 동적으로 생성하는 단계를 추가로 포함한다.
또 다른 실시예에서, 또한, 피처들이 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 잔류 벡터들을 판정하는 단계는, 이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여, 등극선들을 따르는, 기준 이미지 및 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 관찰된 시프트들의 성분들에 기초하여 기준 이미지 내에서 검출된 피처들에 대응하는 것으로 식별된 대안의 뷰 이미지 내의 피처들의 심도들을 추정하는 단계; 대응하는 피처들의 추정된 심도들에 기초하여 기준 이미지 및 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 관찰된 시프트들에 적용할 장면 의존적 기하학적 정정들을 판정하는 단계; 및 피처들이 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 잔류 벡터들을 획득하기 위해 기준 이미지 및 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 관찰된 시프트들에 장면 의존적 기하학적 정정들을 적용하는 단계를 포함한다.
또 다른 추가 실시예에서, 잔류 벡터들에 기초하여 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계는 적어도 보간 프로세스를 이용하여 잔류 벡터들로부터 잔류 벡터 교정 필드를 생성하는 단계를 포함한다.
또 다른 추가 실시예에서, 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계는, 피처들이 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 적어도 잔류 벡터들에 기초하여 기하학적 교정 데이터의 복수의 세트들 중에서 기하학적 교정 데이터의 업데이트된 세트를 선택하는 단계를 추가로 포함한다.
또 다른 추가 실시예는, 또한, 복수의 카메라들을 사용하여 한 장면의 이미지들의 추가 세트를 획득하는 단계; 및 이미지들의 추가 세트를 이용하여 잔류 벡터들을 판정하는 단계를 포함한다. 추가로, 잔류 벡터들에 기초하여 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계는, 또한, 이미지들의 추가 세트를 이용하여 판정된 잔류 벡터들을 활용하는 단계를 포함한다.
다른 추가 실시예는 복수의 카메라들을 포함하는 적어도 하나의 카메라 어레이; 프로세서; 및 이미지 프로세싱 애플리케이션을 포함하는 메모리를 포함한다. 추가로, 이미지 프로세싱 애플리케이션은, 프로세서가, 복수의 카메라들을 사용하여 한 장면의 이미지들의 세트 - 이미지들의 세트는 기준 이미지 및 대안의 뷰 이미지를 포함함 - 를 획득할 것; 이미지들의 세트에서의 피처들을 검출할 것; 기준 이미지 내에서 검출된 피처들에 대응하는 피처들을 대안의 뷰 이미지 내에서 식별할 것; 기하학적 교정 데이터의 세트에 기초하여 이미지들의 세트를 개정할 것; 기준 이미지 및 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 관찰된 시프트들에 기초하여 피처들이 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 잔류 벡터들을 판정할 것; 잔류 벡터들에 기초하여 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정할 것; 및 업데이트된 기하학적 교정 데이터에 기초하여 대안의 뷰 이미지를 캡처했던 카메라에 의해 캡처된 이미지를 개정할 것을 지시한다.
도 1은 본 발명의 일 실시예에 따른 카메라 어레이를 개념적으로 도시한다.
도 2는 본 발명의 일 실시예에 따른, 기하학적 교정 데이터를 유효화하기 위한 그리고/또는 업데이트된 기하학적 교정 데이터를 동적으로 생성하기 위한 프로세스를 도시한 흐름도이다.
도 3a 및 도 3b는 기하학적 교정 데이터가 유효할 때 그리고 카메라가 교정을 벗어날 때 관찰되는 기하학적 시프트들을 개념적으로 도시한다.
도 4는 본 발명의 일 실시예에 따른, 동적 기하학적 교정을 수행하기 위한 프로세스를 도시한 흐름도이다.
도 5는 본 발명의 일 실시예에 따른, 카메라의 시야의 상이한 영역들에 대해 동적으로 생성된 기하학적 교정 데이터를 조합하여 카메라의 전체 시야에 대해 업데이트된 기하학적 교정 데이터의 완전한 세트를 생성하기 위한 프로세스를 도시한 흐름도이다.
도 6은 본 발명의 일 실시예에 따른, 이미지들의 세트 내의 대응하는 피처들의 관찰된 시프트들에 대한 최상의 피팅(fitting)인 기하학적 교정 데이터의 세트를 선택함으로써 기하학적 교정 데이터를 동적으로 업데이트하기 위한 프로세스를 도시한 흐름도이다.
이제, 도면들을 참조하면, 본 발명의 실시예들에 따른, 카메라 어레이들을 동적으로 교정하기 위한 시스템들 및 방법들이 도시된다. 다중 카메라 시스템들은 다양한 애플리케이션들에 대한 대중성을 점점 더 얻고 있고, 그들의 정확한 기능은 서로에 대해 카메라들에 의해 캡처된 이미지들을 정밀하게 정합하는 능력에 의존한다. 서로에 대해 다양한 이미지들을 정합하는 복잡도는 이미지들을 개정함으로써 현저히 감소된다. 이는, 보통, 그들의 구성(예컨대, 렌즈 특성들에서의 그리고/또는 카메라 어셈블리에서의 제조 변동들), 상대적 위치들, 및 배향들(종종, 어레이의 기하학적 구조로 지칭됨)의 결과로서 어레이 내의 카메라들에 의해 도입되는 대응하는 픽셀들의 장면 독립적 시프트들에 관한 정보를 캡처하는 오프라인 교정 프로세스에 의존한다. 실제로, 어레이 내의 카메라들이 실장되는 기계적 구조물들은 온도 변화들(이로 제한되지 않음)과 같은 다양한 인자들, 및/또는 기계적 충격과 같은 필드 조건들에 상이하게 응답한다. 카메라 어레이 내의 카메라들의 상대적 위치들에서의 변화들이 다루어지지 않는 경우, 그 변화들은 심도 추정치들의 열화로 이어지는 카메라들에 의해 캡처된 이미지들 및/또는 카메라 어레이 내의 카메라들에 의해 캡처된 이미지 데이터로부터 생성된 이미지들(예컨대, 초고해상도에 의해 생성된 이미지들, 및/또는 심도 기반 필터 또는 효과를 적용함으로써 생성된 이미지들)의 정합에 영향을 줄 수 있다. 본 발명의 다양한 실시예들에 따른 시스템들 및 방법들은, 카메라들의 어레이의 기하학적 교정을 평가할 수 있고, 임의의 이미징된 장면에서의 강건한 피처 매칭에 의한 기하학적 교정의 적응적 조절을 수행할 수 있다. 사전에 교정된 값들로부터의 기하학적 교정의 점진적 열화를 가정하면, 본 발명의 많은 실시예들에 따른 카메라 어레이들 내의 카메라들의 리던던시(redundancy)는 카메라들 사이의 새로운 기하학적 관계들을 다루는 기존의 교정 파라미터들에 대한 조절들 및/또는 새로운 교정된 파라미터들을 판정하는 데 이용될 수 있다.
많은 실시예들에서, 피처 매칭은 기존의 교정 데이터가 더 이상 유효하지 않게 되는 카메라 어레이를 식별하는 데 활용된다. 현실 세계 장면들의 피처들은 어레이 내의 카메라들에 의해 캡처된 이미지들의 세트 각각에서 식별될 수 있다. 카메라들의 기하학적 교정이 이미지들을 정확하게 개정하는 경우, 대응하는 피처들은 카메라 어레이로부터 피처의 거리에 기초하여 판정된 위치들에서 (개정된 이미지들을 가정하면) 등극선들 상에 위치될 것이다. 어레이 내의 카메라들 사이의 기하학적 관계들이 변화하고 교정 데이터가 더 이상 유효하지 않은 경우, 대응하는 피처들은 특정 심도와 일치하는 등극선 시프트들에 기초하여 예측될 위치들에서의 이미지들 내에 위치되지 않을 것이다. 이에 따라, 실제 절대치와 예상 절대치 사이의 또는 서로에 대한 차이들, 기하학적 교정 데이터를 이용하여 개정된 이미지들의 세트 내의 대응하는 피처들의 위치들은 기하학적 교정 데이터가 언제 더 이상 유효하지 않은지 식별하는 데 활용될 수 있다. 더욱이, 그 차이들은 심도 추정 및/또는 초고해상도 프로세싱과 같은 (그러나, 이로 제한되지 않는) 후속 이미지 프로세싱 동작들을 수행하기 위해 카메라들의 어레이에 의해 활용될 수 있는 새로운 기하학적 교정 데이터 및/또는 기하학적 교정 데이터에 대한 업데이트들을 동적으로 생성하는 데 이용될 수 있다.
본 발명의 많은 실시예들에 따른 시스템들 및 방법들은, 카메라 어레이의 기하학적 구조에서의 변화들이 카메라 어레이 내의 카메라들의 고유 파라미터들(즉, 이미지 지점의 픽셀 좌표들을 카메라의 기준 프레임에서의 대응하는 좌표들과 관련시키는 파라미터들)에 영향을 주는 경우, 이미지들의 세트 내의 대응하는 피처들을 활용하여 동적 교정을 수행할 수 있다. 카메라의 고유 파라미터들은, 전형적으로, 포커스 길이, 픽셀 스큐(skew), 렌즈 왜곡 파라미터들, 및 카메라의 주점(principal point)을 포함하는 것으로 간주된다. 여러 개의 실시예들에서, 동적 교정은, 또한, 기준 카메라에 대해 정의되는 기선들을 따르는 카메라들의 병진을 수반하는, 카메라 어레이의 외인성 파라미터들에서의 변환들을 수용할 수 있다. 카메라의 외인성 파라미터들은 공지된 세계 기준 프레임에 대한 카메라 기준 프레임의 위치 및 배향을 정의하는 파라미터들이다. 카메라 어레이의 경우에 있어서, 외인성 파라미터들은, 종종, 기준 카메라에 대해 정의된다. 이들 기선들 및/또는 카메라들의 배향에서의 변화들로 제약되지 않는 병진들은 업데이트된 기하학적 교정 데이터를 얻기 위해 추가 교정 프로세스들의 수행을 필요로 할 수 있다.
업데이트된 기하학적 교정 데이터를 동적으로 생성하는 프로세스는 동적 교정 프로세스 동안 기준 카메라로서 사용된 카메라의 시야 전체에 걸쳐서 식별되는 피처들을 활용한다. 동적 교정 프로세스들에서 직면할 수 있는 과제는 많은 현실 세계 장면들이 피처들이 없는 영역들(예컨대, 백색 벽)을 포함한다는 것이다. 여러 개의 실시예들에서, 기준 카메라로서 카메라 어레이 내의 다수의 상이한 카메라들을 활용하는 동적 교정 프로세스를 반복하는 것은, 추가로, 기하학적 교정 데이터를 개선할 수 있다. 이러한 방식으로, 카메라들의 시야들의 상이한 위치들로부터의 피처들은 대응성을 평가하는 데 활용될 수 있다. 다양한 실시예들에서, 상이한 시점들에서 캡처된 이미지들의 다수의 세트들을 이용하여 기하학적 교정 데이터의 완전한 세트가 구성될 수 있다. 다수의 세트들을 이용함으로써, 기준 카메라의 시야 내의 영역에 대한 기하학적 교정 데이터는 최대 개수의 피처들 및/또는 임계치를 초과하는 피처들의 밀도가 특정 영역 내에 존재하게 되는 이미지들의 세트에 기초하여 선택될 수 있다. 이어서, 이미지들의 다수의 세트들로부터 생성된 기하학적 교정 데이터는 각각의 카메라의 전체 시야를 커버하는 기하학적 교정 데이터의 세트를 생성하도록 조합될 수 있다. 다수의 실시예들에서, 동적 교정 프로세스가 가이드된다. 카메라 어레이에 의해 생성된 사용자 인터페이스는 사용자가 카메라 어레이의 배향을 변경할 것을 지시하여, 카메라 어레이의 이동이 제1 이미지의 제1 영역에서 검출된 피처들로 하여금 제2 이미지의 제2 영역에서 나타나게 하도록 할 수 있다. 이러한 방식으로, 카메라 어레이는 기준 카메라의 전체 시야에 대해 시간 경과에 따라 동적 교정 데이터의 완전한 세트를 신속하게 구성할 수 있다.
소정 실시예들에서, 기하학적 교정 데이터의 상이한 세트들은 대응성들을 판정하는 데 활용되고, 관찰된 대응 피처들에 대한 최상의 피팅을 안출하는 기하학적 교정 데이터의 세트는 이미지 프로세싱을 수행하는 데 활용된다. 이러한 방식으로, 카메라들의 어레이에는, 예를 들어 상이한 동작 조건들에 대응하는 기하학적 교정 데이터의 다양한 세트들이 제공될 수 있고, 관찰된 장면 피처들에 대한 최상의 피팅을 안출하는 기하학적 교정 데이터는 이미지 프로세싱을 위해 활용될 수 있다.
본 발명의 다양한 실시예들에 따른, 기하학적 교정 데이터를 유효화하고 카메라들의 어레이들을 동적으로 교정하기 위한 시스템들 및 방법들이 하기에서 추가로 논의된다.
어레이 카메라들
상이한 시점(viewpoint)들(즉, 명시야 이미지들)로부터 이미지 데이터를 캡처하는 데 활용될 수 있는 카메라 모듈들을 포함하는 어레이 카메라들은 1차원, 2차원(2D), 모노리식, 비-모노리식일 수 있고/있거나, 그리드로 배열될 수 있고/있거나, 비-그리드 배열로 배열될 수 있고/있거나, 상이한 해상도들, 시야들, 및/또는 컬러 필터들을 포함하는 (그러나, 이들로 제한되지 않는) 상이한 이미징 특성들을 갖는 카메라들을 조합할 수 있다. 발명의 명칭이 "Capturing and Processing of Images using Non-Grid Camera Arrays"인 Venkataraman 등의 미국 특허 제9,077,893호, 발명의 명칭이 "Methods of Manufacturing Array Camera Modules Incorporating Independently Aligned Lens Stacks"인 Rodda 등의 미국 특허 공개 제2015/0122411호, 발명의 명칭이 "Array Cameras Including an Array Camera Module Augmented with a Separate Camera"인 Venkataraman 등의 미국 특허 공개 제2015/0161798호, 및 발명의 명칭이 "Multi-Baseline Camera Array System Architecture for Depth Augmentation in VR/AR Applications"인 Venkatarman 등의 미국 가출원 제62/149,636호에 다양한 어레이 카메라 아키텍처들이 개시되어 있다. 캡처된 명시야 내의 각각의 2차원(2D) 이미지는 어레이 카메라 내의 카메라들 중 하나의 카메라의 시점으로부터의 것이다. 카메라들 각각의 상이한 시점으로 인해, 시차는 장면의 이미지들 내에서의 피사체들의 위치의 변화들을 초래한다. 다양한 카메라 어레이 아키텍처들의 구현 및 사용과 관련되는 미국 특허 제9,077,893호, 미국 특허 공개 제2015/0122411호 및 제2015/0161798호, 및 미국 가특허 출원 제62/149,636호의 개시내용들은 이로써 그들 전체가 참고로 포함된다.
많은 실시예들에서, 카메라들의 어레이는 장면의 이미지들의 세트를 캡처하는 데 활용되고, 심도는 이미지들의 캡처된 세트를 이용하여 이격도 탐색들을 수행함으로써 추정된다. 등극선을 따르는 영역들이 자가 유사(self-similar)한 경우 심도 추정치들은 신뢰할 수 없다. 상이한 등극선들(즉, 카메라들의 쌍들 사이의 상이한 기선들)의 각각의 개수 증가가 탐색된 상태에서, 텍스처가 부정확한 심도에 대응하는 등극선들을 따르는 대응하는 위치들 각각에서 자가 유사한 가능성은 감소한다. 다수의 실시예들에서, 투영된 텍스처는, 또한, 장면의 상이한 영역들의 자가 유사성을 감소시키는 데 활용된다.
어레이 카메라들은 명시야 내의 이미지들에서의 픽셀들 사이의 이격도를 이용하여 기준 시점으로부터의 심도 맵을 생성할 수 있다. 심도 맵은 기준 시점으로부터 장면 피사체들의 표면들의 거리를 나타내며, 캡처된 명시야 내의 이미지들 각각으로부터의 픽셀들에 적용할 장면 의존적 기하학적 정정들을 판정하여, 융합 및/또는 초고해상도 프로세싱을 수행할 때 이격도를 제거하는 데 활용될 수 있다. 발명의 명칭이 "Systems and Methods for Parallax Detection and Correction in Images Captured Using Array Cameras that Contain Occlusions using Subsets of Images to Perform Depth Estimation"인 Ciurea 등의 미국 특허 제8,619,082호에 개시된 것들과 같은 프로세스들은 관찰된 이격도에 기초하여 심도 맵들을 생성하는 데 활용될 수 있다. 미국 특허 제8,619,082호의 개시내용은 이로써 그 전체가 참고로 포함된다.
전술된 바와 같이, 기하학적 교정 데이터는 이미지들의 세트를 개정하여, 개정된 이미지들의 세트 내의 대응하는 픽셀들이 등극선들 상에 위치되도록 하는 데 활용될 수 있다. 기하학적 교정 데이터는 어레이 내의 카메라들의 특정 기하학적 구성을 가정한다. 열적 및/또는 환경적 인자들이 어레이 내의 카메라들로 하여금 서로에 대해 특성들을 변화시키게 하거나 위치들을 시프트시키게 하는 경우, 기하학적 교정 데이터를 기초로 하는 가정은 더 이상 유효하지 않다. 따라서, 카메라 어레이는 재교정되어야 하거나, 또는 미국 특허 제8,619,082호에 개시된 것들과 유사한 프로세스들을 이용하여 생성된 심도 추정치들에서의 심각한 열화를 잠재적으로 겪어야 한다.
많은 경우들에 있어서, 발명의 명칭이 "Systems and Methods for Synthesizing High Resolution Images Using Super-Resolution Processes"인 Lelescu 등의 미국 특허 제8,878,950호에 개시된 것들과 같은 융합 및 초고해상도 프로세스들은 카메라 어레이에 의해 캡처된 명시야 내의 더 낮은 해상도 이미지들로부터 더 높은 해상도 2D 이미지 또는 더 높은 해상도 2D 이미지들의 스테레오 쌍을 합성하는 데 활용될 수 있다. 고해상도 또는 더 높은 해상도 및 저해상도 또는 더 낮은 해상도라는 용어들은 본 명세서에서 상대적인 관점으로 사용되며, 어레이 카메라에 의해 캡처된 이미지들의 특정 해상도들을 나타내기 위해 사용되지는 않는다. 미국 특허 제8,878,950호의 검토로부터 용이하게 이해될 수 있는 바와 같이, 어레이 카메라에 의해 캡처된 이미지 데이터를 융합하고 초고해상도 프로세싱을 수행하는 것은 정확한 기하학적 교정 데이터에 특히 의존적인데, 이는 초고해상도 프로세스들이 서브픽셀 정확도로 상이한 시점들로부터 캡처된 픽셀들을 정렬하고자 시도하고 있기 때문이다. 따라서, 초고해상도 프로세스들은 기하학적 교정 데이터가 더 이상 유효하지 않음을 검출함으로써 그리고 카메라 어레이의 동적 교정을 수행함으로써 상당히 향상될 수 있다. 초고해상도 프로세싱 및 초고해상도 프로세싱을 수행하기 위한 기하학적 교정 데이터의 이용에 관한 미국 특허 제8,878,950호의 개시내용은 이로써 그 전체가 참고로 포함된다.
본 발명의 다양한 실시예들에 따른 증강 현실 헤드셋들 및 머신 비전 시스템들을 포함한(그러나, 이들로 제한되지 않는) 다양한 애플리케이션들에서 활용될 수 있는 어레이 카메라가 도 1에 도시되어 있다. 어레이 카메라(100)는 개별 카메라들(104)의 어레이를 갖는 어레이 카메라 모듈(102)을 포함한다. 어레이 카메라 모듈(102)이라는 용어는 개별 카메라들의 어레이를 지지하는 기계적 구조물들 및 기계적 구조물들에 실장된 카메라들을 총칭한다. 개별 카메라들의 어레이는, 어레이의 좌측편 상의 수직 정렬된 카메라들의 쌍, 어레이의 중심 내의 스태거링된(staggered) 쌍, 및 어레이의 우측편 상의 그리드 내의 4개의 카메라들을 포함하는 예시된 실시예에서 활용되는 배열체와 같은 (그러나, 이로 제한되지 않는) 특정 배열체 내의 복수의 카메라들이다. 다른 실시예들에서, 카메라들의 다양한 그리드 또는 비-그리드 배열체들 중 임의의 것이 활용될 수 있다. 많은 실시예들에서, 어레이 카메라 모듈은, 또한, 텍스처가 없는 또는 자가 유사한 장면의 영역들에서의 심도 추정을 돕도록 텍스처를 장면 상에 투영하는 데 활용될 수 있는 프로젝터(105)를 포함한다. 어레이 카메라 모듈(102)은 프로세서(106)에 접속된다. 프로세서는, 또한, 이미지 프로세싱 파이프라인 애플리케이션(110), 어레이 카메라 모듈(102)에 의해 캡처된 이미지 데이터(112), 캡처된 이미지 데이터로부터 이미지 프로세싱 파이프라인 애플리케이션에 의해 생성된 심도 맵들(114), 및/또는 초고해상도 프로세스들을 이용하여 생성된 더 높은 해상도 이미지들(116)을 저장하는 데 활용될 수 있는 하나 이상의 상이한 타입들의 메모리(108)와 통신하도록 구성된다. 이미지 프로세싱 파이프라인 애플리케이션(110)은, 전형적으로, 프로세서가 후술되는 다양한 프로세스들을 포함하는 (그러나, 이들로 제한되지 않는) 프로세스들을 수행할 것을 지시하는 데 활용되는 비일시적 기계 판독가능 명령어들이다. 여러 개의 실시예들에서, 프로세스들은 어레이 카메라 모듈(102) 내의 카메라들의 그룹들에 의한 이미지 데이터의 캡처, 및 캡처된 이미지 데이터(112)로부터의 심도 정보(114)의 추정을 조정하는 것을 포함한다. 다수의 실시예들에서, 이미지 프로세싱 파이프라인 애플리케이션(110)은 프로세서(108)가 융합 및/또는 초고해상도 프로세스들을 이용하여 캡처된 이미지 데이터(112)로부터의 더 높은 해상도 이미지들(116)을 합성할 것을 지시한다. 추가로 후술되는 바와 같이, 이들 프로세스들에 의해 생성된 심도 추정치들 및/또는 이미지들의 품질은 이미지들을 개정하는 데 활용되는 기하학적 교정 데이터(120)의 신뢰성에 의존적이다. 많은 실시예들에서, 이미지 프로세싱 파이프라인 애플리케이션(110)은 프로세서(108)가 어레이 카메라 모듈(102) 내의 카메라들(104)에 의해 캡처된 이미지 데이터를 활용하는 동적 교정 프로세스를 수행할 것을 지시한다.
특히 어레이 카메라 모듈(102) 내의 카메라들(104)에 관해서, 어레이 카메라 모듈(102) 내의 각각의 카메라(104)는 장면의 이미지를 캡처할 수 있다. 카메라들(104)의 포커스 평면들에서 활용되는 센서 요소들은 전통적인 CIS(CMOS 이미지 센서) 픽셀들, CCD(charge-coupled device) 픽셀들, 높은 동적 범위 센서 요소들, 다중스펙트럼 센서 요소들, 및/또는 구조물 상에 입사되는 광을 나타내는 전기 신호를 생성하도록 구성된 임의의 다른 구조물과 같은, 그러나, 이들로 제한되지 않는, 개별 광 감지 요소들일 수 있다. 많은 실시예들에서, 각각의 포커스 평면의 센서 요소들은 유사한 물리적 속성들을 가지며, 동일한 광학 채널 및 컬러 필터(존재하는 경우)를 통해 광을 수용한다. 여러 개의 실시예들에서, 센서 요소들은 상이한 특성들을 가지며, 많은 경우들에 있어서, 센서 요소들의 특성들은 각각의 센서 요소에 적용되는 컬러 필터와 관련된다.
다양한 실시예들에서, 개별 카메라들 내의 컬러 필터들은 발명의 명칭이 "Camera Modules Patterned with pi Filter Groups"인 Nisenzon 등의 미국 특허 공개 제2013/0293760호에서 추가로 논의된 바와 같은 π 필터 그룹들을 갖는 카메라 모듈을 패턴화하는 데 사용될 수 있는데, 어레이 카메라의 구현 시에 활용될 수 있는 필터 패턴들과 관련되는 그러한 특허 공개의 개시내용은 그 전체가 본 명세서에 참고로 포함된다. 각각의 컬러 채널 내의 카메라들이 카메라의 중심의 어느 한쪽 측면 상에 분포되는 다양한 컬러 필터 구성들 중 임의의 것이 활용될 수 있다. 카메라들은 상이한 컬러들, 또는 스펙트럼의 특정 부분에 대한 데이터를 캡처하는 데 사용될 수 있다. 다수의 실시예들에서, 카메라들은 근-IR, IR, 및/또는 원-IR 스펙트럼 대역들에서 이미징한다.
많은 실시예들에서, 각각의 카메라의 광학 채널 내의 렌즈 적층체는 광을 포커싱하여 각각의 카메라의 픽셀들이 장면 내의 동일한 피사체 공간 또는 영역을 샘플링하도록 하는 시야를 갖는다. 여러 개의 실시예들에서, 렌즈 적층체들은 동일한 피사체 공간을 샘플링하는 픽셀들이 서브픽셀 오프셋들과 함께 그렇게 하여, 초고해상도 프로세스들의 이용을 통해 증가된 해상도를 복구하는 데 활용될 수 있는 샘플링 다이버시티를 제공하도록 구성된다. 샘플링 다비어시티라는 용어는 상이한 시점들로부터의 이미지들이 장면 내의 동일한 피사체를 샘플링하지만 약간의 서브픽셀 오프셋들을 갖는다는 사실을 지칭한다. 서브픽셀 정밀도로 이미지들을 프로세싱함으로써, 단일 이미지를 갖는 피사체 공간을 단순히 샘플링하는 것에 비해, 서브픽셀 오프셋들로 인해 인코딩된 추가 정보가 복구될 수 있다. 더 높은 해상도 정보를 복구하는 실시예들에서, 렌즈 적층체들은 콘트라스트가 더 높은 해상도에 대응하는 공간 주파수에서 해상될 수 있게 하고 포커스 평면을 형성하는 픽셀들의 공간 해상도에서 해상될 수 없게 하는 MTF(Modulation Transfer Function)를 갖도록 설계된다.
특히 도 1에 도시된 프로세서(108)에 관해서, 본 발명의 많은 실시예들에 따른 카메라 어레이들 내에서 활용되는 프로세서들은 마이크로프로세서, 코프로세서, 주문형 집적 회로, 및/또는, 적절한 소프트웨어를 이용하여, 어레이 카메라 모듈(102) 내의 카메라들에 의해 캡처된 이미지 데이터를 촬영할 것 및 동적 교정 및/또는 이미지 프로세싱을 수행할 것을 지시받는 적절히 구성된 필드 프로그래밍가능 게이트 어레이를 사용하여 구현될 수 있다. 본 발명의 많은 실시예들에서, 심도를 추정하고/하거나 이미지들의 세트로부터 한 장면의 더 높은 해상도 이미지를 합성하는 프로세스는 기준 시점, 전형적으로 기준 카메라의 것의 선택을 수반한다. 많은 실시예들에서, 프로세서(108)는 가상 시점으로부터의 이미지를 합성할 수 있다.
특정 어레이 카메라 아키텍처들이 도 1에 대해 전술되어 있지만, 본 발명의 실시예들에 따른 대안의 아키텍처들이 또한 활용될 수 있다. 어레이 내의 카메라들에 의해 캡처되어 어레이의 동적 교정을 수행하기 위한 이미지 데이터의 이용이 하기에서 추가로 논의된다.
동적 교정
카메라 어레이의 기하학적 구조에 대한 지식은 어레이에 의해 캡처된 이미지들을 개정하는 데 활용될 수 있다. 개정 프로세스들 동안 활용되는 변환들은, 전형적으로, 기하학적 교정 데이터로 지칭될 수 있는 것을 안출하는 오프라인 교정 프로세스 동안 결정된다. 적절한 오프라인 교정 프로세스들은 발명의 명칭이 "Systems and Methods for Calibration of an Array Camera"인 Mullis의 미국 특허 제9,124,864호에 기재된 것들과 유사한 오프라인 교정 프로세스들을 포함한다. 기하학적 교정 데이터는 심도 추정 프로세스들, 융합 프로세스들, 및/또는 초고해상도 프로세스들에서 활용된다. 일반적으로, 카메라 어레이에 의해 캡처된 이미지들에 대해 이격도 탐색들을 수행함으로써 이루어진 심도 추정치들의 정확도는 어레이 내의 카메라들의 상대적 위치들 및 배향들이 오프라인 교정 프로세스가 수행되었을 때의 카메라들의 기하학적 구조에 대응하지 않을 때 열화된다. 카메라 어레이의 기하학적 구조는 열적 팽창/수축 및/또는 환경적 인자들로 인해 변화할 수 있다. 소비자 전자 디바이스들의 사용자들은, 일상적으로, 카메라 어레이가 실장되는 기계적 구조물들을 변형할 수 있는 방식들로 디바이스들을 떨어뜨린다. 따라서, 본 발명의 다수의 실시예들에 따른 카메라 어레이들은 이용가능한 기하학적 교정 데이터가 카메라 어레이의 현재 기하학적 구조에 적절함을 유효화하는 프로세스들을 수행할 수 있다. 카메라 어레이가 "교정을 벗어나" 있음을 검출함으로써, 적절한 기하학적 교정 데이터를 획득하도록 다른 오프라인 교정 프로세스가 수행될 수 있다. 여러 개의 실시예들에서, 카메라 어레이는 새로운 기하학적 교정 데이터 또는 기존의 기하학적 교정 데이터에 대한 업데이트들을 안출하는 동적 교정 프로세스를 수행하여, 후속 이미지 프로세싱 동작들이 특정 애플리케이션의 요건들을 만족시키는 출력들을 안출할 수 있게 할 수 있다.
본 발명의 일 실시예에 따른 기하학적 교정 데이터를 유효화하기 위한 그리고 기하학적 교정 데이터를 동적으로 생성하기 위한 프로세스가 도 2에 도시되어 있다. 프로세스(200)는 카메라들의 어레이를 사용하여 이미지들의 세트를 획득하는 단계(202)를 포함한다. 피처 검출 프로세스들은 이미지들의 세트 내의 대응성 지점들을 식별하는 데 이용될 수 있는 개별 피처들을 장면 내에서 식별하도록 이미지들 각각에 대해 수행된다(204). SIFT(Scale-Invariant Feature Transform) 검출기, SURF(Speeded Up Robust Features) 피처 검출기, 및/또는 이미지들의 세트 내의 이미지들 사이에서 대응하는 피처들을 식별하는 데 적절한 피처 기술자(descriptor)들을 생성하는 임의의 다른 피처 검출기를 포함하는 (그러나, 이들로 제한되지 않는) 다양한 피처 검출기들 중 임의의 것이 활용될 수 있다. 하기의 논의 중 대부분이 이미지들 사이의 대응성을 식별하기 위한 피처 검출의 이용에 의존하지만, 영역 기반 및/또는 상관 기반 대응성 분석이, 또한, 본 발명의 다수의 실시예들에 따른 이미지들의 쌍들 및/또는 세트들 내의 대응하는 픽셀 위치들을 식별하도록 수행될 수 있다. 따라서, 피처 검출은 본 명세서에 기술된 시스템들 및/또는 방법들 중 임의의 것에서 영역 기반 매칭과 상호교환가능하게 이용될 수 있다.
이어서, 기하학적 교정 데이터가 이미지들의 캡처된 세트를 개정하는 데 활용될 수 있다. 기하학적 교정 데이터가 카메라 어레이의 기하학적 구조에 대해 유효한 경우, 기준 이미지 내에서 가시적인 피처들은 기준 카메라로부터 피처의 거리에 의해 결정되는 등극선을 따르는 거리만큼 시프트된 상태로 보일 것이다. 기하학적 교정 데이터가 카메라 어레이의 기하학적 구조에 대해 더 이상 유효하지 않는 경우, 대응하는 피처들은 등극선들 상에 있지 않는 위치들로 시프트된 상태로 보일 가능성이 있다. 그 차이가 도 3a 및 도 3b에 도시되어 있다. 이미지(300)는 등극선(306)을 따르는 거리만큼 시프트된 상태로 보이는(304) 기준 카메라에서 가시적인 피처(302)를 포함한다. 전술된 바와 같이, 시프트의 범위는 기준 카메라로부터의 피처의 거리를 나타낸다. 피처(302)가 이미지(300) 내의 등극선 상의 또는 그에 가까운 위치에 도시되어 있다는 사실은 이미지를 캡처했던 카메라 및 기준 카메라의 기하학적 구조가 기하학적 교정 데이터가 획득되었던 시간에서의 카메라의 상대적 배향 및 정렬에 대응함을 시사한다. 기하학적 교정 데이터의 신뢰성은 기준 카메라로부터의 피처의 심도를 확인하는 이미지들의 다른 쌍들에서의 등극선 시프트들을 관찰함으로써 확인될 수 있다. 기준 카메라로부터의 피처의 거리가 카메라 어레이에 의해 캡처된 다른 이미지들에서의 관찰된 시프트들에 의해 확인되지 않는 이벤트에서, 기하학적 교정 데이터는 신뢰할 수 없는 것으로 판정된다. 교정 동안 점유했던 기하학적 구조를 더 이상 갖지 않는 어레이 내의 카메라에 의해 캡처된 이미지가 도 3b에 도시되어 있다. 이미지(310)는 피처(302)가 기준 시점으로부터 캡처된 이미지 내의 그의 위치에 대해 시프트된 것(306)을 도시한다. 관찰된 시프트는 등극선(306)을 따른 방향으로 있지 않다. 시프트는 등극선을 따르는 벡터 성분(donEPL), 및 등극선 또는 등극선에 직각인 벡터 성분(dtoEPL)으로 분해될 수 있다. 용이하게 이해될 수 있는 바와 같이, 교정 손실은 기하학적 교정 데이터가 유효했다면 관찰되었을 것(304)과는 상이한 크기의 것인 donEPL이 될 가능성이 있다.
다시 도 2를 참조하면, 개정된 이미지들 내의 대응하는 피처들의 식별은 기하학적 교정 데이터의 유효성을 판정(208)하는 데 이용될 수 있다. 하나 이상의 피처들에 대한 dtoEPL의 크기들이 제로(0)가 아닌 경우, 기하학적 교정 데이터가 더 이상 유효하지 않다는 판정이 이루어질 수 있다. 임계치를 초과하는 대응하는 피처 지점들에서의 시프트들의 dtoEPL 성분들의 크기들의 정규 합을 포함하는 (그러나, 이로 제한되지 않는) 다양한 기준 중 임의의 것이 판정을 행하는 데 활용될 수 있다. 용이하게 이해될 수 있는 바와 같이, 기하학적 교정 데이터가 더 이상 유효하지 않음을 판정하는 데 활용되는 특정 기준 또는 기준들의 세트는 특정 애플리케이션의 요건들에 기초하여 결정될 수 있다.
개정된 이미지들의 세트 내의 대응하는 피처 지점들이, 기하학적 교정 데이터가 더 이상 유효하지 않음을 시사하는 경우, 카메라 어레이가 재교정을 위해 제출되어야 함을 시사하는 경고가 사용자에게 제공될 수 있다. 다수의 실시예들에서, 카메라 어레이는 식별된 피처 지점들을 이용하여 동적 교정 프로세스를 수행할 수 있다(210). 동적 교정 프로세스는 기하학적 교정 데이터의 새로운 세트, 오프라인 기하학적 교정 프로세스를 통해 생성된 기하학적 교정 데이터에 대한 업데이트들의 세트, 및/또는 기하학적 교정 데이터의 세트들의 데이터베이스로부터의 기하학적 교정 데이터의 대안의 세트의 선택을 안출할 수 있다. 여러 개의 실시예들에서, 카메라 어레이 내의 카메라들의 상이한 동작 온도들 및/또는 상이한 예상 섭동(perturbation)들에 적절한 기하학적 교정 데이터의 세트들을 포함하는 기하학적 교정 데이터의 세트들의 데이터베이스들이 활용될 수 있다. 용이하게 이해될 수 있는 바와 같이, 데이터베이스는 근거리에 제공될 수 있고/있거나, 원거리에 위치되어 네트워크 접속을 통해 질의될 수 있다. 본 발명의 다양한 실시예들에 따른 동적 교정을 수행하기 위한 특정 프로세스들이 하기에서 상세히 논의된다. 기하학적 교정 데이터의 유효한 세트가 식별되는 경우, 카메라 어레이는 기하학적 교정 데이터를 이용하여 이미지들의 추가 세트들을 획득하는 것 및/또는 이미지 프로세싱을 수행하는 것으로 진행할 수 있다(212).
특정 카메라 어레이의 기하학적 구조에 대한 기하학적 교정 데이터의 세트의 유효성을 판정하기 위한 그리고/또는 동적 교정을 수행하기 위한 특정 프로세스들이 도 2를 참조하여 전술되어 있지만, 개정된 이미지들의 세트에서의 대응하는 피처들의 위치들을 활용하여, 이미지 프로세싱에서 이용할 기하학적 교정 데이터의 세트를 동적으로 판정하는 다양한 프로세스들 중 임의의 것이 본 발명의 다양한 실시예들에 따른 특정 애플리케이션들의 요건들에 대해 적절하게 활용될 수 있다. 본 발명의 다수의 실시예들에 따른 새로운 및/또는 업데이트된 기하학적 교정 데이터를 동적으로 생성하기 위한 특정 프로세스들이 하기에서 추가로 논의된다.
기하학적 교정 데이터의 동적 생성
기하학적 교정 데이터를 생성하기 위한 오프라인 프로세스들은 공지된 특성들을 갖는 장면의 이미지들을 획득하는 능력에 의존한다. 기하학적 교정 데이터의 동적 생성을 위한 프로세스들은, 전형적으로, 장면의 특성들의 임의의 선험적 지식을 소유하지 않는다. 피처 검출기들은 이미지 프로세싱 애플리케이션이 어레이 내의 카메라들에 의해 캡처된 장면 내의 대응하는 피처들을 판정할 수 있게 할 수 있다. 이들 피처들은 산재하게 분포될 가능성이 있다. 따라서, 피처들은 각각의 픽셀 위치에서의 기하학적 교정 정보의 생성을 직접적으로 가능하게 하지 않는다. 그러나, 특정 픽셀 위치들에서의 기하학적 교정 정보의 보간 및/또는 보외들이 기하학적 교정 데이터의 새로운 세트, 및/또는 기하학적 교정 데이터의 기존 세트에 대한 업데이트들의 세트를 생성하는 데 활용될 수 있다. 다수의 실시예들에서, 피처들의 픽셀 위치들에서 판정된 기하학적 교정 데이터는 기하학적 교정 데이터의 세트들을 포함하는 데이터베이스로부터의 관찰된 대응성들에 대한 최상의 피팅을 제공하는 기하학적 교정의 세트를 식별하도록 매칭된다.
본 발명의 일 실시예에 따른 장면 내의 관찰된 피처들의 세트에 기초하여 기하학적 교정 데이터의 세트를 획득하도록 동적 교정을 수행하기 위한 프로세스가 도 4에 도시되어 있다. 프로세스(400)는 상이한 컬러 채널들에서 캡처된 이미지들 사이의 대응성을 증가시키도록 이미지들을 (선택적으로) 프리프로세싱하는 단계(402)를 포함한다. 여러 개의 실시예들에서, 프리프로세싱은 작은 이미지 패치들을 정렬하기 위한 상관 변환의 이용을 포함한다. 여러 개의 실시예들에서, 문헌[Drulea, M.; Nedevschi, S., "Motion Estimation Using the Correlation Transform," in Image Processing, IEEE Transactions on, vol.22, no.8, pp.3260-3270, Aug. 2013]에 개시된 변환과 유사한 상관 변환이 활용될 수 있으며, 이 문헌의 관련 개시내용은 이로써 그 전체가 참고로 포함된다. 카메라 어레이 내의 모든 카메라들이 동일한 이미지 스펙트럼 대역에서의 이미지 데이터를 캡처하는 경우, 프리프로세싱은 필요하지 않을 수도 있다.
피처 검출기가 이미지들의 세트 내의 관심 피처들 및/또는 관심 지점들을 검출(404)하는 데 사용될 수 있다. 전술된 바와 같이, SIFT 및/또는 SURF 검출기들을 포함한 다양한 피처 검출기들 중 임의의 것이 특정 애플리케이션의 요건들에 대해 적절하게 피처들을 검출하는 데 활용될 수 있다. 이어서, 기준 이미지에서 가시적인 피처 지점들과 카메라 어레이에 의해 캡처된 이미지들의 세트 내의 다른 이미지들에서 가시적인 피처 지점들 사이에서 대응성 매칭이 수행된다(406). 많은 실시예들에서, 루카스-카나데(Lucas-Kanade) 방법과 같은 (그러나, 이로 제한되지 않는) 산재적 광학 흐름 프로세스가 피처 대응성을 판정하는 데 활용될 수 있다. 산재적 광학 흐름 프로세스들은, 이미지들의 쌍 사이의 광학 흐름이 고려 중인 픽셀의 근거리 이웃에서 본질적으로 일정함을 가정하며, 최소 제곱 기준과 같은 (그러나, 이로 제한되지 않는) 기준에 의해 그 이웃 내의 모든 픽셀들에 대한 기본 광학 흐름 수학식들을 해결한다. 대응성 문제는 컴퓨터 비전의 분야에서 주지된 문제이며, RANSAC(Random Sample Consensus) 프로세스를 포함한 (그러나, 이로 제한되지 않는) 다양한 대안의 대응성 매칭 프로세스들 중 임의의 것이 특정 애플리케이션들의 요건들에 대해 적절하게 이미지 쌍들 및/또는 이미지들의 세트들 내의 대응하는 피처들을 식별하는 데 활용될 수 있다.
이어서, 최상의 이용가능한 기하학적 교정 데이터가 대응하는 피처들의 위치들에 기하학적 시프트들을 적용(408)하는 데 활용될 수 있다. 이론적으로, 이들 시프트들은 이미지들을 개정해야 한다. 전술된 바와 같이, 기하학적 시프트들은 카메라 어레이의 기하학적 구조가 기하학적 교정 데이터에 의해 가정된 것과는 상이한 경우에 이미지들을 개정하는 데 있어서 비성공적일 것이다. 이미지들을 개정하는 데 있어서 기하학적 교정 데이터의 유효성은 기준 이미지와 대안의 뷰 이미지(즉, 상이한 시점/카메라로부터 기준 이미지가 캡처되는 시점/카메라까지 캡처된 이미지) 사이의 대응하는 피처들 각각에 대한 벡터 차이(donEPL, dtoEPL)를 계산함으로써(410) 판정될 수 있다 전술된 바와 같이, 벡터들의 dtoEPL 성분들은 카메라 어레이의 기하학적 구조가 기하학적 교정 데이터에 의해 가정된 기하학적 구조에 대응하는 경우에 제로 또는 거의 제로여야 한다.
기준 이미지 및 대안의 뷰 이미지 내의 대응하는 픽셀들 사이에서 관찰되는 시프트들은 장면 독립적 시프트들 및 장면 의존적 시프트들을 포함한다. 장면 독립적 시프트들은 카메라 어레이의 기하학적 구조와 카메라들을 구성하는 데 사용되는 컴포넌트들의 변동의 함수이다. 장면 의존적 시프트들은 장면 내의 피사체들의 거리에 기초하여 유도된다. 교정 데이터를 동적으로 생성하기 위해, 시스템의 많은 실시예들에 따른 프로세스들은 기하학적 교정 데이터에서의 잔여 에러를 판정하기 위해 장면 의존적 시프트들을 정정하고자 시도한다.
여러 개의 실시예들에서, 카메라 어레이는 전체 장면이 무한대일 것으로 가정될 수 있도록 장면 내의 모든 피사체들이 카메라로부터 충분히 멀리 있게 되는 장면의 이미지들의 세트를 캡처함으로써 사용자 인터페이스를 통해 사용자에게 카메라 어레이를 동적으로 교정하는 데 이용되는 이미지들의 세트를 캡처할 것을 프롬프트한다. 장면이 무한대일 것으로 가정될 수 있는 경우, 이미지 내에 존재하는 장면 의존적 시프트들이 모든 픽셀 위치들에서 제로여야 한다. 시프트들이 있는 범위까지, 이들은 개정을 통해 정정된다.
피사체들이 미지의 심도들로 장면 내에 위치되는 경우, 이미지 내에 존재하는 시프트들은 장면 의존적 기하학적 시프트들 및 장면 독립적 기하학적 시프트들을 포함한다. 기하학적 교정 데이터를 업데이트하여 장면 독립적 시프트들을 정정하기 위해, 장면 의존적 기하학적 시프트들이 추정 및 제거된다. 대안의 뷰 이미지들 각각에서 등극선들을 따르는 관찰된 시프트(donEPL)들의 가중 평균을 이용하여 각각의 피처에 대해 개별 심도 추정치가 판정되며(412), 여기서 평균은 기준 이미지 및 대안의 뷰 이미지들을 캡처했던 카메라들 사이의 가정된 기선들에 의해 가중된다. 다른 실시예들에서, 관찰된 피처들의 심도들을 추정하기 위한 다양한 프로세스들 중 임의의 것을 이용하여 장면 의존적 시프트들이 판정될 수 있다. 용이하게 이해될 수 있는 바와 같이, 이미지들의 세트 내의 이미지들을 캡처하는 데 활용되는 카메라들의 개수 및 캡처된 이미지들 내의 피처들의 개수는 장면 의존적 기하학적 정정들이 동적 교정 프로세스들 동안 제거될 수 있는 정밀도를 현저히 증가시킬 수 있다.
장면 의존적 기하학적 시프트들이 추정되는 실시예들에서, 장면 의존적 기하학적 시프트들은 기준 이미지와 대안의 뷰 이미지 사이의 대응하는 피처들 각각에 대한 벡터 차이(donEPL, dtoEPL)로부터 감산되어, 대안의 뷰 이미지 내에서 가시적인 각각의 대응하는 피처에 대한 잔류 벡터들(ronEPL, rtoEPL)을 계산한다(414). 이어서, 잔류 벡터들은 기하학적 교정 데이터의 벡터 필드에 대한 정정들(즉, 대안의 뷰 이미지를 캡처했던 카메라의 각각의 픽셀 위치에 대해 특정된 기하학적 교정 벡터들에 적용할 정정들)을 계산(416)하는 데 활용될 수 있다. 여러 개의 실시예들에서, 기하학적 교정 데이터의 벡터 필드에 대한 정정들은 잔류 벡터 지점들을 대안의 뷰 이미지 내의 픽셀 좌표들로 변환함으로써 판정되고, 이어서 잔류 벡터들이 특정되지 않는 픽셀 위치들에 대한 잔류 벡터들은 공지된 잔류 벡터들의 보간, 보외, 및/또는 필터링을 이용하여 판정될 수 있다. 생성된 잔류 교정 벡터 필드는 대안의 뷰 카메라의 각각의 필셀 위치에서의 기하학적 교정 데이터를 조절하도록 적용되어, 기준 카메라에 의해 캡처된 이미지들에 대해 대안의 뷰 카메라에 의해 캡처된 이미지들 내에서 관찰된 장면 독립적 기하학적 시프트들을 정정하게 할 수 있다. 이러한 방식으로, 프로세스(400)는 카메라 어레이의 현재 기하학적 구조에 대해 적절한 업데이트된 기하학적 교정 데이터를 동적으로 생성할 수 있다.
많은 실시예들에서, 도 4를 참조하여 전술된 것들과 유사한 프로세스들을 이용하여 생성된 잔류 교정 벡터 필드는 잡음성이다. 다수의 실시예들에서, 기저 벡터들의 세트가 잔류 교정 벡터 필드들의 트레이닝 데이터세트로부터 학습된다. 잔류 교정 벡터 필드들은 (전술된 바와 같이 고유적 및 외인성 양측 모두인) 카메라 어레이의 기하학적 구조에서의 다양한 변경들과 연관된 가능성있는 관찰된 잔류 교정 벡터 필드들을 나타내는 상태 공간에 걸쳐 있는 것으로 간주될 수 있다. 기저 벡터들은 잔류 교정 벡터 필드를 기저 벡터들에 맵핑함으로써 그리고 잔류 교정 벡터 필드 내의 랜덤 잡음의 존재를 감소시키도록 선택된 감소된 개수의 기저 벡터들의 선형 조합으로서 잡음제거된 잔류 교정 벡터 필드를 생성함으로써, 잔류 교정 벡터 필드를 잡음제거하기 위해 동적 교정 동안 활용될 수 있다. 여러 개의 실시예들에서, 기저 벡터들은 PCA를 이용하여 학습된다. PCA는 팽창부가 더 적은 개수의 기저 벡터들로 절단(truncate)될 때 PCA가 재구성 에러를 최소화하는 속성을 갖는 기초를 구성하는 데 이용될 수 있다. 따라서, 절단은 잡음을 감소시키기 위한 효과적인 기법일 수 있다. 잔류 교정 벡터 필드를 잡음제거하기 위한 감소된 기초를 선택하는 데 이용되는 특정 메커니즘은 주어진 애플리케이션의 요건들에 매우 의존적이다. 더욱이, 다양한 프로세스들 중 임의의 것이 본 발명의 실시예들에 따라 기저 벡터들을 선택하도록 그리고/또는 잔류 교정 벡터 필드들을 잡음제거하도록 활용될 수 있다.
업데이트된 기하학적 교정 데이터를 생성하기 위한 특정 프로세스들이 도 4를 참조하여 전술되어 있지만, 다양한 프로세스들 중 임의의 것은, 본 발명의 실시예들에 따른 특정 애플리케이션들의 요건들에 대해 적절하게 장면 의존적 기하학적 시프트들을 다루는 피처들의 관찰된 시프트들 및/또는 상관 이미지 패치들에 기초하여, 업데이트된 교정 데이터를 생성하는 데 활용될 수 있다. 추가로, 도 4에 대해 전술된 프로세스와 유사한 프로세스들은 기하학적 교정 데이터의 사전 생성 세트의 부재 시에 기하학적 교정 데이터를 동적으로 생성하는 데 활용될 수 있다. 잔류 벡터 필드를 생성하는 대신, 도 4에 도시된 프로세스는 캡처된 이미지들의 세트 내의 대응하는 피처들의 관찰된 장면 독립적 시프트들의 보간 및/또는 보외에 기초하여 완전한 기하학적 교정 벡터 필드를 생성하는 데 활용될 수 있다.
동적 교정 데이터의 조합
현실 세계 장면들은, 전형적으로, 랜덤 위치들에서의 어레이 내의 다수의 카메라들에 의해 캡처된 이미지들에 걸쳐서 추적될 정도로 충분히 강한 신뢰성있는 피처들을 포함한다. 추가로, 피처들은, 종종, 기준 카메라의 시야 내의 소정 영역들 내에서 클러스터링되며, 다른 영역들은 상대적으로 피처들이 없을 수 있다. 피처들의 밀도 및 분포는 잔류 교정 벡터 필드들을 생성하는 데 활용되는 보간 및 보외 프로세스들에 의해 도입되는 에러들에 영향을 줄 수 있다. 보외는, 특히, 심도 추정치들 및/또는 초고해상도 프로세스들에서 상당한 잡음을 도입시킬 수 있다. 다수의 실시예들에서, 카메라에 대한 잔류 교정 벡터 필드의 상이한 영역들은 기준 카메라들로서 어레이 내의 상이한 카메라들의 사용에 기초하여 판정된 잔류 벡터들을 이용하여 그리고/또는 상이한 장면들 중 캡처된 이미지들의 다수의 세트들을 이용하여 구성된다. 소정 실시예들에서, 상이한 장면들 중 이미지들의 다수의 세트들을 획득하는 프로세스들은 어레이 카메라에 의해 가이드된다. 어레이 카메라는 기준 카메라의 시야 내의 장면의 영역을 식별할 수 있으며, 이미지들의 세트에서 피처들의 임계 밀도가 기준 카메라의 시야 내의 각각의 영역에 대해 획득되었을 때까지, 사용자에게 카메라 어레이를 재배향시켜서 장면의 피처가 풍부한 부분이 기준 카메라의 시야의 상이한 영역들 내에 보이게 하는 것을 명령할 수 있다.
본 발명의 일 실시예에 따른 잔류 교정 벡터 필드를 획득하기 위해 이미지들의 상이한 세트들을 이용하여 판정된 잔류 벡터들을 조합하기 위한 프로세스가 도 5에 도시되어 있다. 프로세스(500)는 이미지들의 세트를 획득하는 단계(502), 및 전술된 것들과 유사한 기법들을 이용하여 이미지들의 세트 내에서 피처들을 검출하는 단계(504)를 포함한다. 이어서, 피처들은 동적 교정을 수행하는 데 활용될 수 있다. 기준 카메라의 시야 내의 피처들의 밀도는 피처들의 불충분한 밀도를 포함하는(예컨대, 피처 밀도 임계치를 충족시키지 못하는) 시야 내의 영역들 및/또는 최소 피처 밀도를 초과하는 영역들을 식별하는 데 활용될 수 있다. 기준 카메라의 전체 시야에서 피처가 풍부한 경우, 프로세스가 완료된다. 그렇지 않은 경우, 프로세스(600)는 이미지들의 추가 세트들을 캡처하는 단계(502)를 포함한다. 여러 개의 실시예들에서, 어레이 카메라는 사용자 인터페이스를 포함하며, 사용자에게 카메라 어레이를 재배향시켜서 장면 내에 존재하는 피처들이, 업데이트된 교정 데이터가 여전히 요구되는 시야의 부분 내에서 이동하게 하는 방식에 관한 지시를 제공한다. 이미지들의 세트들의 획득(502) 및 잔류 벡터들의 판정(506)은 조합된 잔류 벡터들이 각각의 카메라에 대해 잔류 벡터들의 임계 밀도를 달성할 때까지 계속된다. 어느 시점에서, 잔류 벡터들은 잔류 교정 벡터 필드를 생성하도록 조합(512) 및 활용될 수 있다.
특정 프로세스들이 도 5를 참조하여 전술되어 있지만, 본 발명의 다양한 실시예들에 따른 특정 애플리케이션들의 요건들에 대해 적절하게 후속 이미지 프로세싱 동작들에서 사용하기 위한 잔류 교정 벡터 필드를 생성하기 위해 다양한 프로세스들 중 임의의 것이 잔류 벡터 정보의 다양한 소스들을 조합하는 데 활용될 수 있다. 다른 실시예들에서, 잔류 교정 벡터 필드들은 조합된 잔류 교정 벡터 필드들 및 이미지들의 세트들 각각에 대해 생성될 수 있다. 전술된 프로세스들 중 많은 것이 기하학적 교정 데이터를 업데이트하는 데 활용될 수 있는 기하학적 교정 데이터 및/또는 잔류 교정 벡터 필드들의 생성 시에 보간 및 보외를 활용하지만, 전술된 것들과 유사한 기법들을 이용하여 생성된 잔류 벡터들 및/또는 잔류 교정 벡터 필드들은 기하학적 교정 데이터의 다수의 상이한 세트들 중에서 기하학적 교정 데이터의 적절한 세트를 선택하는 데 활용될 수 있다. 본 발명의 다양한 실시예들에 따른 동적 교정을 이용하여 기하학적 교정 데이터의 대안의 세트들 사이에서 선택하기 위한 프로세스들은 하기에서 추가로 논의된다.
기하학적 교정 데이터의 세트들 사이의 선택
카메라 어레이에 의해 캡처된 이미지들 사이의 대응성들을 식별하는 데 이용되는 피처들의 산재 특성은 잔류 벡터들을 대안의 뷰 카메라의 각각의 픽셀 위치에서의 기하학적 교정 데이터를 업데이트하는 데 이용될 수 있는 잔류 교정 벡터 필드들로 변환하기 위해 보간 및 보외의 사용을 필수로 한다. 그들의 특성에 의하면, 보간 및 보외 프로세스들은 생성된 기하학적 교정 데이터에 에러들을 도입시킨다. 잔류 벡터들을 이용하여 잔류 교정 벡터 필드를 생성하는 것에 대한 대안은 잔류 벡터들을 이용하여 다수의 대안의 기하학적 교정 데이터세트들 중에서 최상의 피팅을 선택하는 것이다. 여러 개의 실시예들에서, 피처들의 대응성은 다수의 상이한 기하학적 교정 데이터 세트들 각각을 이용하여 판정되며, 최소 평균 잔류 벡터들을 안출하는 기하학적 교정 세트는 후속 이미지 프로세싱을 위해 활용된다.
본 발명의 일 실시예에 따른 기하학적 교정 데이터의 다수의 세트들 중에서 기하학적 교정 데이터의 세트를 선택하기 위한 프로세스가 도 6에 도시되어 있다. 프로세스(600)는 카메라 어레이를 이용하여 이미지들의 세트를 획득하는 단계(602) 및 기하학적 교정 데이터의 제1 세트를 선택하는 단계(604)를 포함한다. 프로세스는 전술된 동적 교정 프로세스들과 유사한 방식으로 진행된다. 대응하는 피처 지점들의 세트 각각에 대한 잔류 벡터들을 얻기 위해 동적 교정이 수행되며(606), 잔류 벡터들은 기하학적 교정 데이터에 기초한 개정에 이어서 관찰된 시프트들이 예상되는 장면 의존적 기하학적 시프트들에 대응하는 범위를 측정하는 데 활용된다. 다양한 메트릭(metric)들 중 임의의 것은 기하학적 교정 데이터가 잔류 벡터들의 평균 크기를 포함하는 (그러나, 이로 제한되지 않는) 관찰된 시프트들을 피팅하는 범위를 평가하는 데 활용될 수 있다. 기하학적 교정 데이터 세트들을 선택하는 단계(604), 선택된 기하학적 교정 데이터를 이용하여 동적 교정을 수행하는 단계(606), 및 기하학적 교정 데이터가 대응하는 피처 지점들 사이에서 관찰된 시프트들을 피팅하는 범위를 측정하는 단계의 프로세스는 기하학적 교정 데이터의 각각의 세트가 고려되었을 때까지 반복된다(610). 용이하게 이해될 수 있는 바와 같이, 사전결정된 온도 범위 내의 상이한 동작 온도들에 대해 적절한 기하학적 교정 데이터에 대응하는 상이한 세트들을 포함한 기하학적 교정 데이터의 다양한 상이한 세트들 중 임의의 것이 고려될 수 있다. 고려되는 기하학적 교정 데이터의 특정 세트들은, 전형적으로, 특정 카메라 어레이 애플리케이션의 요건들에 기초하여 판정된다. 모든 기하학적 교정 데이터 세트들이 고려되어 온 경우, 대응하는 피처 지점들 사이에서 관찰된 시프트들에 대해 최상의 피팅인 기하학적 교정 데이터는 후속 이미지 프로세싱을 위해 활용될 수 있다.
특정 프로세스들이 도 6을 참조하여 전술되어 있지만, 다양한 프로세스들 중 임의의 것이 대응하는 피처 지점들 사이에서 관찰된 시프트들에 대해 최상의 피팅인 기하학적 교정 데이터의 다수의 세트들 중에서 기하학적 교정 데이터의 세트를 선택하는 데 활용될 수 있다. 추가로, 도 6에 도시된 프로세스는 루프(loop)를 포함한다. 용이하게 이해될 수 있는 바와 같이, 기하학적 교정 데이터의 다수의 세트를 동시에 평가하는 프로세스들이 구현될 수 있다. 다수의 실시예들에서, 기하학적 교정 데이터의 데이터베이스에 대해 이미지들의 세트를 평가하고 카메라 어레이로의 네트워크 접속을 통해 기하학적 교정 데이터의 업데이트된 세트를 복귀시키는 원거리에 위치된 서버 시스템으로 이미지들의 세트가 카메라 어레이에 의해 제공된다.
상기의 설명이 본 발명의 많은 특정 실시예들을 포함하지만, 이들은 본 발명의 범주에 대한 제한사항들로서 이해되어야 하는 것이 아니라, 오히려 그의 일 실시예의 예시로서 이해되어야 한다. 따라서, 본 발명의 범주는 예시된 실시예들에 의해서가 아니라 첨부된 청구범위 및 그의 동등물들에 의해서 판정되어야 한다.

Claims (21)

  1. 카메라들의 어레이에 대한 기하학적 교정 데이터를 동적으로 생성하는 방법으로서,
    복수의 카메라들을 사용하여 한 장면의 이미지들의 세트 - 상기 이미지들의 세트는 기준 이미지 및 대안의 뷰(view) 이미지를 포함함 - 를 획득하는 단계;
    이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 상기 이미지들의 세트에서 피처(feature)들을 검출하는 단계;
    이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 상기 기준 이미지 내에서 검출된 피처들에 대응하는 피처들을 상기 대안의 뷰 이미지 내에서 식별하는 단계;
    이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 기하학적 교정 데이터의 세트에 기초하여 상기 이미지들의 세트를 개정하는 단계;
    이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 상기 기준 이미지 및 상기 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 관찰된 시프트들에 기초하여 피처들이 상기 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 잔류 벡터들을 판정하는 단계;
    이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 상기 잔류 벡터들에 기초하여 상기 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계; 및
    이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 상기 업데이트된 기하학적 교정 데이터에 기초하여 상기 대안의 뷰 이미지를 캡처했던 상기 카메라에 의해 캡처된 이미지를 개정하는 단계를 포함하는, 방법.
  2. 제1항에 있어서, 피처들이 상기 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 잔류 벡터들을 판정하는 단계는,
    등극선(epipolar line)들을 따르는, 상기 기준 이미지 및 상기 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 상기 관찰된 시프트들의 성분들에 기초하여 상기 기준 이미지 내에서 검출된 피처들에 대응하는 것으로 식별된 상기 대안의 뷰 이미지 내의 피처들의 심도들을 추정하는 단계;
    상기 대응하는 피처들의 상기 추정된 심도들에 기초하여 상기 기준 이미지 및 상기 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 상기 관찰된 시프트들에 적용할 장면 의존적 기하학적 정정들을 판정하는 단계; 및
    피처들이 상기 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 잔류 벡터들을 획득하기 위해 상기 기준 이미지 및 상기 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 상기 관찰된 시프트들에 상기 장면 의존적 기하학적 정정들을 적용하는 단계를 포함하는, 방법.
  3. 제1항에 있어서, 상기 잔류 벡터들에 기초하여 상기 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계는 적어도 보간(interpolation) 프로세스를 이용하여 상기 잔류 벡터들로부터 잔류 벡터 교정 필드를 생성하는 단계를 포함하는, 방법.
  4. 제3항에 있어서, 상기 잔류 벡터들에 기초하여 상기 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계는 상기 잔류 벡터들로부터 상기 잔류 벡터 교정 필드의 생성 시에 보외(extrapolation) 프로세스를 이용하는 단계를 추가로 포함하는, 방법.
  5. 제3항에 있어서, 상기 대안의 뷰 이미지를 캡처했던 상기 카메라에 대해 상기 기하학적 교정 데이터의 세트에 상기 잔류 벡터 교정 필드를 적용하는 단계를 추가로 포함하는, 방법.
  6. 제3항에 있어서,
    상기 잔류 벡터 교정 필드를 기저 벡터들의 세트와 맵핑시키는 단계; 및
    완전하지 않은 세트의 기저 벡터들의 선형 조합을 이용하여 잡음제거된 잔류 벡터 교정 필드를 생성하는 단계를 추가로 포함하는, 방법.
  7. 제6항에 있어서, 상기 기저 벡터들의 세트는 잔류 벡터 교정 필드들의 트레이닝 데이터 세트로부터 학습되는, 방법.
  8. 제7항에 있어서, 상기 기저 벡터들의 세트는 PCA(Principal Component Analysis)를 이용하여 잔류 벡터 교정 필드들의 트레이닝 데이터 세트로부터 학습되는, 방법.
  9. 제1항에 있어서, 상기 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계는, 피처들이 상기 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 적어도 상기 잔류 벡터들에 기초하여 기하학적 교정 데이터의 복수의 세트들 중에서 기하학적 교정 데이터의 업데이트된 세트를 선택하는 단계를 추가로 포함하는, 방법.
  10. 제1항에 있어서,
    상기 복수의 카메라들을 사용하여 한 장면의 이미지들의 추가 세트를 획득하는 단계; 및
    상기 이미지들의 추가 세트를 이용하여 상기 기하학적 교정 데이터에 대한 잔류 벡터들을 판정하는 단계를 추가로 포함하고,
    상기 잔류 벡터들에 기초하여 상기 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계는, 또한, 상기 이미지들의 추가 세트를 이용하여 판정된 상기 기하학적 교정 데이터에 대한 상기 잔류 벡터들을 활용하는 단계를 포함하는, 방법.
  11. 제10항에 있어서,
    피처 밀도 임계치를 만족시키지 않는 카메라의 시야 내에서 적어도 하나의 영역을 검출하는 단계를 추가로 포함하고,
    한 장면의 상기 이미지들의 추가 세트는 카메라의 시야 내의 적어도 하나의 영역이 상기 피처 밀도 임계치를 만족시키지 않음을 검출한 것에 응답하여 획득되는, 방법.
  12. 제11항에 있어서, 상기 이미지들의 추가 세트를 이용하여 판정된 상기 잔류 벡터들을 활용하는 단계는 밀도 임계치가 만족되지 않은 상기 카메라의 상기 시야 내의 상기 적어도 하나의 영역에 대해 업데이트된 기하학적 교정 데이터를 판정하기 위해 상기 이미지들의 추가 세트를 이용하여 판정된 상기 잔류 벡터들을 활용하는 단계를 추가로 포함하는, 방법.
  13. 제12항에 있어서, 이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 사용자 인터페이스를 통해 프롬프트들을 제공하는 단계를 추가로 포함하고, 상기 프롬프트들은, 상기 카메라 어레이의 배향이, 상기 이미지들의 추가 세트의 획득 동안 피처 밀도 임계치를 만족시키지 않는 카메라의 상기 시야 내의 상기 적어도 하나의 영역으로 상기 기준 이미지 및 상기 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들을 시프트시킬 것을 지시하는, 방법.
  14. 카메라들의 어레이에 대한 기하학적 교정 데이터를 유효화하는 방법으로서,
    복수의 카메라들을 사용하여 한 장면의 이미지들의 세트 - 상기 이미지들의 세트는 기준 이미지 및 대안의 뷰 이미지를 포함함 - 를 획득하는 단계;
    이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 상기 이미지들의 세트에서 피처들을 검출하는 단계;
    이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 상기 기준 이미지 내에서 검출된 피처들에 대응하는 피처들을 상기 대안의 뷰 이미지 내에서 식별하는 단계;
    이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 기하학적 교정 데이터의 세트에 기초하여 상기 이미지들의 세트를 개정하는 단계; 및
    이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 상기 기준 이미지 및 상기 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 관찰된 시프트들에 기초하여 상기 기하학적 교정 데이터의 유효성을 판정하는 단계를 포함하는, 방법.
  15. 제14항에 있어서, 상기 기준 이미지 및 상기 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 관찰된 시프트들에 기초하여 상기 기하학적 교정 데이터의 유효성을 판정하는 단계는 관찰된 시프트들이 등극선으로부터 멀리 떨어진 위치들까지의 범위를 판정하는 단계를 포함하는, 방법.
  16. 제14항에 있어서,
    이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 상기 기준 이미지 및 상기 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 상기 관찰된 시프트들에 기초하여 피처들이 상기 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 잔류 벡터들을 판정함으로써; 그리고
    이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여 상기 잔류 벡터들에 기초하여 상기 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정함으로써,
    업데이트된 기하학적 교정 데이터를 동적으로 생성하는 단계를 추가로 포함하는, 방법.
  17. 제16항에 있어서, 피처들이 상기 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 잔류 벡터들을 판정하는 단계는,
    이미지 프로세싱 애플리케이션에 의해 지시된 프로세서를 사용하여, 등극선들을 따르는, 상기 기준 이미지 및 상기 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 상기 관찰된 시프트들의 성분들에 기초하여 상기 기준 이미지 내에서 검출된 피처들에 대응하는 것으로 식별된 상기 대안의 뷰 이미지 내의 피처들의 심도들을 추정하는 단계;
    상기 대응하는 피처들의 상기 추정된 심도들에 기초하여 상기 기준 이미지 및 상기 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 상기 관찰된 시프트들에 적용할 장면 의존적 기하학적 정정들을 판정하는 단계; 및
    피처들이 상기 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 잔류 벡터들을 획득하기 위해 상기 기준 이미지 및 상기 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 상기 관찰된 시프트들에 상기 장면 의존적 기하학적 정정들을 적용하는 단계를 포함하는, 방법.
  18. 제16항에 있어서, 상기 잔류 벡터들에 기초하여 상기 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계는 적어도 보간 프로세스를 이용하여 상기 잔류 벡터들로부터 잔류 벡터 교정 필드를 생성하는 단계를 포함하는, 방법.
  19. 제16항에 있어서, 상기 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계는, 피처들이 상기 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 적어도 상기 잔류 벡터들에 기초하여 기하학적 교정 데이터의 복수의 세트들 중에서 기하학적 교정 데이터의 업데이트된 세트를 선택하는 단계를 추가로 포함하는, 방법.
  20. 제16항에 있어서,
    상기 복수의 카메라들을 사용하여 한 장면의 이미지들의 추가 세트를 획득하는 단계; 및
    상기 이미지들의 추가 세트를 이용하여 잔류 벡터들을 판정하는 단계를 추가로 포함하고,
    상기 잔류 벡터들에 기초하여 상기 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정하는 단계는, 또한, 상기 이미지들의 추가 세트를 이용하여 판정된 상기 잔류 벡터들을 활용하는 단계를 포함하는, 방법.
  21. 카메라 어레이로서,
    복수의 카메라들을 포함하는 적어도 하나의 카메라 어레이;
    프로세서; 및
    이미지 프로세싱 애플리케이션을 포함하는 메모리를 포함하고,
    상기 이미지 프로세싱 애플리케이션은, 상기 프로세서가,
    상기 복수의 카메라들을 사용하여 한 장면의 이미지들의 세트 - 상기 이미지들의 세트는 기준 이미지 및 대안의 뷰 이미지를 포함함 - 를 획득할 것;
    상기 이미지들의 세트에서의 피처들을 검출할 것;
    상기 기준 이미지 내에서 검출된 피처들에 대응하는 피처들을 상기 대안의 뷰 이미지 내에서 식별할 것;
    기하학적 교정 데이터의 세트에 기초하여 상기 이미지들의 세트를 개정할 것;
    상기 기준 이미지 및 상기 대안의 뷰 이미지에서 대응하는 것으로 식별된 피처들의 위치들에서의 관찰된 시프트들에 기초하여 피처들이 상기 대안의 뷰 이미지 내에서 관찰된 위치들에서의 기하학적 교정 데이터에 대한 잔류 벡터들을 판정할 것;
    상기 잔류 벡터들에 기초하여 상기 대안의 뷰 이미지를 캡처했던 카메라에 대한 업데이트된 기하학적 교정 데이터를 판정할 것; 및
    상기 업데이트된 기하학적 교정 데이터에 기초하여 상기 대안의 뷰 이미지를 캡처했던 상기 카메라에 의해 캡처된 이미지를 개정할 것을 지시하는, 카메라 어레이.
KR1020177011284A 2014-09-29 2015-09-29 어레이 카메라들의 동적 교정을 위한 시스템들 및 방법들 KR20170063827A (ko)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201462057196P 2014-09-29 2014-09-29
US62/057,196 2014-09-29
US201562106168P 2015-01-21 2015-01-21
US62/106,168 2015-01-21
PCT/US2015/053013 WO2016054089A1 (en) 2014-09-29 2015-09-29 Systems and methods for dynamic calibration of array cameras

Publications (1)

Publication Number Publication Date
KR20170063827A true KR20170063827A (ko) 2017-06-08

Family

ID=55631383

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020177011284A KR20170063827A (ko) 2014-09-29 2015-09-29 어레이 카메라들의 동적 교정을 위한 시스템들 및 방법들

Country Status (6)

Country Link
US (4) US10250871B2 (ko)
EP (2) EP3201877B1 (ko)
JP (1) JP2017531976A (ko)
KR (1) KR20170063827A (ko)
CN (2) CN113256730B (ko)
WO (1) WO2016054089A1 (ko)

Cited By (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10089740B2 (en) 2014-03-07 2018-10-02 Fotonation Limited System and methods for depth regularization and semiautomatic interactive matting using RGB-D images
US10127682B2 (en) 2013-03-13 2018-11-13 Fotonation Limited System and methods for calibration of an array camera
US10182216B2 (en) 2013-03-15 2019-01-15 Fotonation Limited Extended color processing on pelican array cameras
US10225543B2 (en) 2013-03-10 2019-03-05 Fotonation Limited System and methods for calibration of an array camera
US10250871B2 (en) 2014-09-29 2019-04-02 Fotonation Limited Systems and methods for dynamic calibration of array cameras
US10261219B2 (en) 2012-06-30 2019-04-16 Fotonation Limited Systems and methods for manufacturing camera modules using active alignment of lens stack arrays and sensors
US10306120B2 (en) 2009-11-20 2019-05-28 Fotonation Limited Capturing and processing of images captured by camera arrays incorporating cameras with telephoto and conventional lenses to generate depth maps
US10311649B2 (en) 2012-02-21 2019-06-04 Fotonation Limited Systems and method for performing depth based image editing
US10334241B2 (en) 2012-06-28 2019-06-25 Fotonation Limited Systems and methods for detecting defective camera arrays and optic arrays
US10366472B2 (en) 2010-12-14 2019-07-30 Fotonation Limited Systems and methods for synthesizing high resolution images using images captured by an array of independently controllable imagers
US10380752B2 (en) 2012-08-21 2019-08-13 Fotonation Limited Systems and methods for estimating depth and visibility from a reference viewpoint for pixels in a set of images captured from different viewpoints
US10390005B2 (en) 2012-09-28 2019-08-20 Fotonation Limited Generating images from light fields utilizing virtual viewpoints
US10430682B2 (en) 2011-09-28 2019-10-01 Fotonation Limited Systems and methods for decoding image files containing depth maps stored as metadata
US10455218B2 (en) 2013-03-15 2019-10-22 Fotonation Limited Systems and methods for estimating depth using stereo array cameras
US10462362B2 (en) 2012-08-23 2019-10-29 Fotonation Limited Feature based high resolution motion estimation from low resolution images captured using an array source
US10540806B2 (en) 2013-09-27 2020-01-21 Fotonation Limited Systems and methods for depth-assisted perspective distortion correction
US10542208B2 (en) 2013-03-15 2020-01-21 Fotonation Limited Systems and methods for synthesizing high resolution images using image deconvolution based on motion and depth information
US10547772B2 (en) 2013-03-14 2020-01-28 Fotonation Limited Systems and methods for reducing motion blur in images or video in ultra low light with array cameras
US10674138B2 (en) 2013-03-15 2020-06-02 Fotonation Limited Autofocus system for a conventional camera that uses depth information from an array camera
US10708492B2 (en) 2013-11-26 2020-07-07 Fotonation Limited Array camera configurations incorporating constituent array cameras and constituent cameras
US10767981B2 (en) 2013-11-18 2020-09-08 Fotonation Limited Systems and methods for estimating depth from projected texture using camera arrays
US11270110B2 (en) 2019-09-17 2022-03-08 Boston Polarimetrics, Inc. Systems and methods for surface modeling using polarization cues
US11290658B1 (en) 2021-04-15 2022-03-29 Boston Polarimetrics, Inc. Systems and methods for camera exposure control
US11302012B2 (en) 2019-11-30 2022-04-12 Boston Polarimetrics, Inc. Systems and methods for transparent object segmentation using polarization cues
US11412158B2 (en) 2008-05-20 2022-08-09 Fotonation Limited Capturing and processing of images including occlusions focused on an image sensor by a lens stack array
US11525906B2 (en) 2019-10-07 2022-12-13 Intrinsic Innovation Llc Systems and methods for augmentation of sensor systems and imaging systems with polarization
US11580667B2 (en) 2020-01-29 2023-02-14 Intrinsic Innovation Llc Systems and methods for characterizing object pose detection and measurement systems
US11689813B2 (en) 2021-07-01 2023-06-27 Intrinsic Innovation Llc Systems and methods for high dynamic range imaging using crossed polarizers
US11792538B2 (en) 2008-05-20 2023-10-17 Adeia Imaging Llc Capturing and processing of images including occlusions focused on an image sensor by a lens stack array
US11797863B2 (en) 2020-01-30 2023-10-24 Intrinsic Innovation Llc Systems and methods for synthesizing data for training statistical models on different imaging modalities including polarized images
US11954886B2 (en) 2021-04-15 2024-04-09 Intrinsic Innovation Llc Systems and methods for six-degree of freedom pose estimation of deformable objects
US11953700B2 (en) 2020-05-27 2024-04-09 Intrinsic Innovation Llc Multi-aperture polarization optical systems using beam splitters
US12002233B2 (en) 2021-01-29 2024-06-04 Adeia Imaging Llc Systems and methods for estimating depth and visibility from a reference viewpoint for pixels in a set of images captured from different viewpoints

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9100586B2 (en) 2013-03-14 2015-08-04 Pelican Imaging Corporation Systems and methods for photometric normalization in array cameras
US10551913B2 (en) * 2015-03-21 2020-02-04 Mine One Gmbh Virtual 3D methods, systems and software
KR101638022B1 (ko) * 2015-09-21 2016-07-12 광주과학기술원 다수의 렌즈를 이용한 촬상장치
JP2017099616A (ja) * 2015-12-01 2017-06-08 ソニー株式会社 手術用制御装置、手術用制御方法、およびプログラム、並びに手術システム
US9963246B2 (en) * 2016-03-28 2018-05-08 Amazon Technologies, Inc. Combining depth and thermal information for object detection and avoidance
GB2553108B (en) * 2016-08-22 2020-07-15 Canon Kk Method, processing device and system for managing copies of media samples in a system comprising a plurality of interconnected network cameras
WO2018083848A1 (ja) * 2016-11-07 2018-05-11 ソニー株式会社 画像処理装置、キャリブレーション用チャート、及びキャリブレーションシステム
JP6636963B2 (ja) * 2017-01-13 2020-01-29 株式会社東芝 画像処理装置及び画像処理方法
WO2019059632A1 (ko) * 2017-09-25 2019-03-28 한국과학기술원 프리즘을 이용한 초분광 영상 재구성 방법 및 시스템
US10504244B2 (en) * 2017-09-28 2019-12-10 Baidu Usa Llc Systems and methods to improve camera intrinsic parameter calibration
US10380746B2 (en) * 2017-10-16 2019-08-13 Texas Instruments Incorporated Sparse optical flow support in an optical flow system
US10645364B2 (en) * 2017-11-14 2020-05-05 Intel Corporation Dynamic calibration of multi-camera systems using multiple multi-view image frames
US11024046B2 (en) 2018-02-07 2021-06-01 Fotonation Limited Systems and methods for depth estimation using generative models
US11089265B2 (en) 2018-04-17 2021-08-10 Microsoft Technology Licensing, Llc Telepresence devices operation methods
US11182914B2 (en) 2018-05-21 2021-11-23 Facebook Technologies, Llc Dynamic structured light for depth sensing systems based on contrast in a local area
EP3815045A1 (en) * 2018-06-29 2021-05-05 Zoox, Inc. Sensor calibration
CN109341720A (zh) * 2018-10-10 2019-02-15 中国科学院上海技术物理研究所 一种基于恒星轨迹的遥感相机几何标定方法
EP3644279A1 (en) * 2018-10-25 2020-04-29 Continental Automotive GmbH Static camera calibration using motion of vehicle portion
US11270464B2 (en) 2019-07-18 2022-03-08 Microsoft Technology Licensing, Llc Dynamic detection and correction of light field camera array miscalibration
US11553123B2 (en) * 2019-07-18 2023-01-10 Microsoft Technology Licensing, Llc Dynamic detection and correction of light field camera array miscalibration
US11064154B2 (en) 2019-07-18 2021-07-13 Microsoft Technology Licensing, Llc Device pose detection and pose-related image capture and processing for light field based telepresence communications
US11082659B2 (en) 2019-07-18 2021-08-03 Microsoft Technology Licensing, Llc Light field camera modules and light field camera module arrays
US20210256729A1 (en) * 2020-02-13 2021-08-19 Proprio, Inc. Methods and systems for determining calibration quality metrics for a multicamera imaging system
US20230296408A1 (en) * 2020-03-26 2023-09-21 Creaform Inc. Method and system for maintaining accuracy of a photogrammetry system
US11738464B2 (en) 2021-03-24 2023-08-29 International Business Machines Corporation Robotic geometric camera calibration and monitoring alert configuration and testing
US20220391625A1 (en) * 2021-06-08 2022-12-08 Kyndryl, Inc. Contextual policy-based computer vision control
DE102021119462A1 (de) * 2021-07-27 2023-02-02 Lavision Gmbh Verfahren zum Kalibrieren eines optischen Messaufbaus

Family Cites Families (933)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4124798A (en) 1965-12-09 1978-11-07 Thompson Kenneth B Optical viewing apparatus
US4198646A (en) 1978-10-13 1980-04-15 Hughes Aircraft Company Monolithic imager for near-IR
US4323925A (en) 1980-07-07 1982-04-06 Avco Everett Research Laboratory, Inc. Method and apparatus for arraying image sensor modules
JPS5769476A (en) 1980-10-16 1982-04-28 Fuji Xerox Co Ltd Reader control system
JPS5925483A (ja) 1982-08-04 1984-02-09 Hitachi Denshi Ltd 固体撮像装置
US4652909A (en) 1982-09-14 1987-03-24 New York Institute Of Technology Television camera and recording system for high definition television having imagers of different frame rate
US4460449A (en) 1983-01-03 1984-07-17 Amerace Corporation Apparatus for making a tool
JPS60228564A (ja) 1984-04-27 1985-11-13 Tokuyama Soda Co Ltd 液晶性組成物
EP0289885A1 (de) 1987-05-08 1988-11-09 Siemens Aktiengesellschaft Blendensystem zur Erzeugung mehrerer Teilchensonden mit veränderbarem Querschnitt
JPS6437177A (en) 1987-08-03 1989-02-07 Canon Kk Image pickup device
EP0342419B1 (de) 1988-05-19 1992-10-28 Siemens Aktiengesellschaft Verfahren zur Beobachtung einer Szene und Einrichtung zur Durchführung des Verfahrens
US5070414A (en) 1988-09-20 1991-12-03 Kabushiki Kaisha Toshiba Method and apparatus for reading image information formed on material
JPH02285772A (ja) 1989-04-26 1990-11-26 Toshiba Corp 画像読取装置
US4962425A (en) 1988-10-27 1990-10-09 National Research Council Of Canada/Conseil National Deresherches Canada Photometric device
US5157499A (en) 1990-06-29 1992-10-20 Kabushiki Kaisha N A C High-speed video camera using solid-state image sensor
US5144448A (en) 1990-07-31 1992-09-01 Vidar Systems Corporation Scanning apparatus using multiple CCD arrays and related method
US5463464A (en) 1991-10-04 1995-10-31 Kms Fusion, Inc. Electro-optical system for gauging surface profile deviations using infrared radiation
US5325449A (en) 1992-05-15 1994-06-28 David Sarnoff Research Center, Inc. Method for fusing images and apparatus therefor
JP3032382B2 (ja) 1992-07-13 2000-04-17 シャープ株式会社 デジタル信号のサンプリング周波数変換装置
JPH06129851A (ja) 1992-10-13 1994-05-13 Sumitomo Electric Ind Ltd ステレオカメラの校正方法
US5712732A (en) 1993-03-03 1998-01-27 Street; Graham Stewart Brandon Autostereoscopic image display adjustable for observer location and distance
US5659424A (en) 1993-05-25 1997-08-19 Hitachi, Ltd. Projecting lens and image display device
JPH0715457A (ja) 1993-06-18 1995-01-17 Hitachi Ltd ディジタル通信切替方式
US6095989A (en) 1993-07-20 2000-08-01 Hay; Sam H. Optical recognition methods for locating eyes
US6419638B1 (en) 1993-07-20 2002-07-16 Sam H. Hay Optical recognition methods for locating eyes
JP2761837B2 (ja) 1993-08-19 1998-06-04 株式会社日鉄エレックス 立体像表示装置
EP0677821A3 (en) 1994-04-14 1996-03-06 Hewlett Packard Co Enlargement of a digital image by slaving.
AU1742895A (en) 1994-06-09 1996-01-04 Kollmorgen Instrument Corporation Stereoscopic electro-optical system for automated inspection and/or alignment of imaging devices on a production assembly line
US20020195548A1 (en) 2001-06-06 2002-12-26 Dowski Edward Raymond Wavefront coding interference contrast imaging systems
US5629524A (en) 1995-02-21 1997-05-13 Advanced Scientific Concepts, Inc. High speed crystallography detector
EP0739039A3 (en) 1995-04-18 1998-03-04 Interuniversitair Micro-Elektronica Centrum Vzw Pixel structure, image sensor using such pixel, structure and corresponding peripheric circuitry
US5963664A (en) * 1995-06-22 1999-10-05 Sarnoff Corporation Method and system for image combination using a parallax-based technique
US6005607A (en) 1995-06-29 1999-12-21 Matsushita Electric Industrial Co., Ltd. Stereoscopic computer graphics image generating apparatus and stereoscopic TV apparatus
GB2302978A (en) 1995-07-04 1997-02-05 Sharp Kk LIquid crystal device
US5880691A (en) 1995-11-07 1999-03-09 California Institute Of Technology Capacitively coupled successive approximation ultra low power analog-to-digital converter
US5757425A (en) 1995-12-19 1998-05-26 Eastman Kodak Company Method and apparatus for independently calibrating light source and photosensor arrays
JP3502713B2 (ja) 1995-12-21 2004-03-02 本田技研工業株式会社 車両用距離測定装置
JPH09181913A (ja) 1995-12-26 1997-07-11 Olympus Optical Co Ltd カメラシステム
US5793900A (en) 1995-12-29 1998-08-11 Stanford University Generating categorical depth maps using passive defocus sensing
US5973844A (en) 1996-01-26 1999-10-26 Proxemics Lenslet array systems and methods
US6124974A (en) 1996-01-26 2000-09-26 Proxemics Lenslet array systems and methods
US6493465B2 (en) 1996-02-21 2002-12-10 Canon Kabushiki Kaisha Matching point extracting method and apparatus therefor
US5832312A (en) 1996-02-22 1998-11-03 Eastman Kodak Company Watertight body for accommodating a photographic camera
MY118360A (en) 1996-04-30 2004-10-30 Nippon Telegraph & Telephone Scheme for detecting shot boundaries in compressed video data using inter-frame/inter field prediction coding and intra-frame/intra-field coding
US6002743A (en) 1996-07-17 1999-12-14 Telymonde; Timothy D. Method and apparatus for image acquisition from a plurality of cameras
GB9616262D0 (en) 1996-08-02 1996-09-11 Philips Electronics Nv Post-processing generation of focus/defocus effects for computer graphics images
US6141048A (en) 1996-08-19 2000-10-31 Eastman Kodak Company Compact image capture device
US6137535A (en) 1996-11-04 2000-10-24 Eastman Kodak Company Compact digital camera with segmented fields of view
US5808350A (en) 1997-01-03 1998-09-15 Raytheon Company Integrated IR, visible and NIR sensor and methods of fabricating same
JPH10232626A (ja) 1997-02-20 1998-09-02 Canon Inc 立体画像表示装置
JPH10253351A (ja) 1997-03-14 1998-09-25 Kyocera Corp 測距装置
US5801919A (en) 1997-04-04 1998-09-01 Gateway 2000, Inc. Adjustably mounted camera assembly for portable computers
US6097394A (en) 1997-04-28 2000-08-01 Board Of Trustees, Leland Stanford, Jr. University Method and system for light field rendering
US6515701B2 (en) 1997-07-24 2003-02-04 Polaroid Corporation Focal plane exposure control system for CMOS area image sensors
US6563537B1 (en) 1997-07-31 2003-05-13 Fuji Photo Film Co., Ltd. Image signal interpolation
JP3430935B2 (ja) 1997-10-20 2003-07-28 富士ゼロックス株式会社 画像読取装置及びレンズ
NO305728B1 (no) 1997-11-14 1999-07-12 Reidar E Tangen Optoelektronisk kamera og fremgangsmÕte ved bildeformatering i samme
JP4243779B2 (ja) 1997-11-14 2009-03-25 株式会社ニコン 拡散板の製造方法および拡散板、並びにマイクロレンズアレイの製造方法およびマイクロレンズアレイ
US6069365A (en) 1997-11-25 2000-05-30 Alan Y. Chow Optical processor based imaging system
JPH11242189A (ja) 1997-12-25 1999-09-07 Olympus Optical Co Ltd 像形成法、像形成装置
US6721008B2 (en) 1998-01-22 2004-04-13 Eastman Kodak Company Integrated CMOS active pixel digital camera
US6833863B1 (en) 1998-02-06 2004-12-21 Intel Corporation Method and apparatus for still image capture during video streaming operations of a tethered digital camera
JPH11223708A (ja) 1998-02-09 1999-08-17 Nikon Corp 圧子およびマイクロ光学素子アレイの製造方法
US6054703A (en) 1998-03-20 2000-04-25 Syscan, Inc. Sensing module for accelerating signal readout from image sensors
US6160909A (en) 1998-04-01 2000-12-12 Canon Kabushiki Kaisha Depth control for stereoscopic images
KR100307883B1 (ko) 1998-04-13 2001-10-19 박호군 정합화소수를이용한유사도측정방법및이를구현하기위한장치
JP3745117B2 (ja) 1998-05-08 2006-02-15 キヤノン株式会社 画像処理装置及び画像処理方法
JP3931936B2 (ja) 1998-05-11 2007-06-20 セイコーエプソン株式会社 マイクロレンズアレイ基板及びその製造方法並びに表示装置
JP3284190B2 (ja) 1998-05-14 2002-05-20 富士重工業株式会社 ステレオカメラの画像補正装置
US6205241B1 (en) 1998-06-01 2001-03-20 Canon Kabushiki Kaisha Compression of stereoscopic images
US6137100A (en) 1998-06-08 2000-10-24 Photobit Corporation CMOS image sensor with different pixel sizes for different colors
US6069351A (en) 1998-07-16 2000-05-30 Intel Corporation Focal plane processor for scaling information from image sensors
US6903770B1 (en) 1998-07-27 2005-06-07 Sanyo Electric Co., Ltd. Digital camera which produces a single image based on two exposures
US6340994B1 (en) 1998-08-12 2002-01-22 Pixonics, Llc System and method for using temporal gamma and reverse super-resolution to process images for use in digital display systems
US6269175B1 (en) 1998-08-28 2001-07-31 Sarnoff Corporation Method and apparatus for enhancing regions of aligned images using flow estimation
US6879735B1 (en) 1998-09-14 2005-04-12 University Of Utah Reasearch Foundation Method of digital image enhancement and sharpening
US6310650B1 (en) 1998-09-23 2001-10-30 Honeywell International Inc. Method and apparatus for calibrating a tiled display
GB2343320B (en) 1998-10-31 2003-03-26 Ibm Camera system for three dimentional images and video
JP3596314B2 (ja) 1998-11-02 2004-12-02 日産自動車株式会社 物体端の位置計測装置および移動体の通行判断装置
US6611289B1 (en) 1999-01-15 2003-08-26 Yanbin Yu Digital cameras using multiple sensors with multiple lenses
JP3875423B2 (ja) 1999-01-19 2007-01-31 日本放送協会 固体撮像素子およびそれ用の映像信号出力装置
US6603513B1 (en) 1999-02-16 2003-08-05 Micron Technology, Inc. Using a single control line to provide select and reset signals to image sensors in two rows of a digital imaging device
JP3634677B2 (ja) 1999-02-19 2005-03-30 キヤノン株式会社 画像の補間方法、画像処理方法、画像表示方法、画像処理装置、画像表示装置、及びコンピュータプログラム記憶媒体
US6563540B2 (en) 1999-02-26 2003-05-13 Intel Corporation Light sensor with increased dynamic range
US20020063807A1 (en) 1999-04-19 2002-05-30 Neal Margulis Method for Performing Image Transforms in a Digital Display System
US6819358B1 (en) 1999-04-26 2004-11-16 Microsoft Corporation Error calibration for digital image sensors and apparatus using the same
US6292713B1 (en) 1999-05-20 2001-09-18 Compaq Computer Corporation Robotic telepresence system
US6864916B1 (en) 1999-06-04 2005-03-08 The Trustees Of Columbia University In The City Of New York Apparatus and method for high dynamic range imaging using spatially varying exposures
JP2001008235A (ja) 1999-06-25 2001-01-12 Minolta Co Ltd ３次元データの再構成のための画像入力方法及び多眼式データ入力装置
JP2001042042A (ja) 1999-07-27 2001-02-16 Canon Inc 撮像装置
US6801653B1 (en) 1999-08-05 2004-10-05 Sony Corporation Information processing apparatus and method as well as medium
US7015954B1 (en) 1999-08-09 2006-03-21 Fuji Xerox Co., Ltd. Automatic video system using multiple cameras
US6647142B1 (en) 1999-08-19 2003-11-11 Mitsubishi Electric Research Laboratories, Inc. Badge identification system
US6771833B1 (en) 1999-08-20 2004-08-03 Eastman Kodak Company Method and system for enhancing digital images
US6628330B1 (en) 1999-09-01 2003-09-30 Neomagic Corp. Color interpolator and horizontal/vertical edge enhancer using two line buffer and alternating even/odd filters for digital camera
US6358862B1 (en) 1999-09-02 2002-03-19 Micron Technology, Inc Passivation integrity improvements
JP3280001B2 (ja) * 1999-09-16 2002-04-30 富士重工業株式会社 ステレオ画像の位置ずれ調整装置
US6639596B1 (en) 1999-09-20 2003-10-28 Microsoft Corporation Stereo reconstruction from multiperspective panoramas
US6628845B1 (en) 1999-10-20 2003-09-30 Nec Laboratories America, Inc. Method for subpixel registration of images
US6774941B1 (en) 1999-10-26 2004-08-10 National Semiconductor Corporation CCD output processing stage that amplifies signals from colored pixels based on the conversion efficiency of the colored pixels
US6671399B1 (en) 1999-10-27 2003-12-30 Canon Kabushiki Kaisha Fast epipolar line adjustment of stereo pairs
US6674892B1 (en) 1999-11-01 2004-01-06 Canon Kabushiki Kaisha Correcting an epipolar axis for skew and offset
JP2001195050A (ja) 1999-11-05 2001-07-19 Mitsubishi Electric Corp グラフィックアクセラレータ
WO2001039512A1 (en) 1999-11-26 2001-05-31 Sanyo Electric Co., Ltd. Device and method for converting two-dimensional video to three-dimensional video
JP3950926B2 (ja) 1999-11-30 2007-08-01 エーユー オプトロニクス コーポレイション 画像表示方法、ホスト装置、画像表示装置、およびディスプレイ用インターフェイス
JP3728160B2 (ja) 1999-12-06 2005-12-21 キヤノン株式会社 奥行き画像計測装置及び方法、並びに複合現実感提示システム
US7068851B1 (en) 1999-12-10 2006-06-27 Ricoh Co., Ltd. Multiscale sharpening and smoothing with wavelets
FI107680B (fi) 1999-12-22 2001-09-14 Nokia Oyj Menetelmä videokuvien lähettämiseksi, tiedonsiirtojärjestelmä, lähettävä videopäätelaite ja vastaanottava videopäätelaite
US6502097B1 (en) 1999-12-23 2002-12-31 Microsoft Corporation Data structure for efficient access to variable-size data objects
US6476805B1 (en) 1999-12-23 2002-11-05 Microsoft Corporation Techniques for spatial displacement estimation and multi-resolution operations on light fields
JP2001194114A (ja) 2000-01-14 2001-07-19 Sony Corp 画像処理装置および画像処理方法、並びにプログラム提供媒体
EP2311527B1 (en) 2000-02-18 2019-08-28 William Beaumont Hospital Cone-beam computerized tomography with a flat-panel imager
US6523046B2 (en) 2000-02-25 2003-02-18 Microsoft Corporation Infrastructure and method for supporting generic multimedia metadata
JP2001264033A (ja) 2000-03-17 2001-09-26 Sony Corp 三次元形状計測装置とその方法、三次元モデリング装置とその方法、およびプログラム提供媒体
US6571466B1 (en) 2000-03-27 2003-06-03 Amkor Technology, Inc. Flip chip image sensor package fabrication method
JP2001277260A (ja) 2000-03-30 2001-10-09 Seiko Epson Corp マイクロレンズアレイ、その製造方法及びその製造用原盤並びに表示装置
WO2001075949A1 (fr) 2000-04-04 2001-10-11 Advantest Corporation Appareil d'exposition multifaisceau comprenant une lentille electronique multiaxe, et procede de fabrication d'un dispositif a semi-conducteur
WO2001082593A1 (en) 2000-04-24 2001-11-01 The Government Of The United States Of America, As Represented By The Secretary Of The Navy Apparatus and method for color image fusion
JP2001337263A (ja) 2000-05-25 2001-12-07 Olympus Optical Co Ltd 測距装置
JP4501239B2 (ja) 2000-07-13 2010-07-14 ソニー株式会社 カメラ・キャリブレーション装置及び方法、並びに、記憶媒体
CN1451230A (zh) 2000-07-21 2003-10-22 纽约市哥伦比亚大学托管会 图象拼合方法与设备
AU2001277110A1 (en) 2000-07-21 2002-02-05 The Trustees Of Columbia University In The City Of New York Method and apparatus for reducing distortion in images
US7154546B1 (en) 2000-08-07 2006-12-26 Micron Technology, Inc. Pixel optimization for color
DE60115789T2 (de) 2000-08-25 2006-08-31 Fuji Photo Film Co., Ltd., Minami-Ashigara Vorrichtung zur Parallaxbildaufnahme und Parallaxbildverarbeitung
US7085409B2 (en) 2000-10-18 2006-08-01 Sarnoff Corporation Method and apparatus for synthesizing new video and/or still imagery from a collection of real video and/or still imagery
US6734905B2 (en) 2000-10-20 2004-05-11 Micron Technology, Inc. Dynamic range extension for CMOS image sensors
US6774889B1 (en) * 2000-10-24 2004-08-10 Microsoft Corporation System and method for transforming an ordinary computer monitor screen into a touch screen
US7262799B2 (en) 2000-10-25 2007-08-28 Canon Kabushiki Kaisha Image sensing apparatus and its control method, control program, and storage medium
US6476971B1 (en) 2000-10-31 2002-11-05 Eastman Kodak Company Method of manufacturing a microlens array mold and a microlens array
JP3918499B2 (ja) 2000-11-01 2007-05-23 セイコーエプソン株式会社 間隙測定方法、間隙測定装置、形状測定方法、形状測定装置並びに液晶装置の製造方法
US6573912B1 (en) 2000-11-07 2003-06-03 Zaxel Systems, Inc. Internet system for virtual telepresence
US6788338B1 (en) 2000-11-20 2004-09-07 Petko Dimitrov Dinev High resolution video camera apparatus having two image sensors and signal processing
US7490774B2 (en) 2003-11-13 2009-02-17 Metrologic Instruments, Inc. Hand-supportable imaging based bar code symbol reader employing automatic light exposure measurement and illumination control subsystem integrated therein
JP2002171537A (ja) 2000-11-30 2002-06-14 Canon Inc 複眼撮像系、撮像装置および電子機器
EP1354292B1 (en) 2000-12-01 2012-04-04 Imax Corporation Method and apparatus FOR DEVELOPING HIGH-RESOLUTION IMAGERY
WO2002047031A2 (en) 2000-12-05 2002-06-13 Yeda Research And Development Co. Ltd. Apparatus and method for alignment of spatial or temporal non-overlapping image sequences
JP2002252338A (ja) 2000-12-18 2002-09-06 Canon Inc 撮像装置及び撮像システム
JP2002195910A (ja) 2000-12-26 2002-07-10 Omron Corp 光学部品の検査装置
JP2002209226A (ja) 2000-12-28 2002-07-26 Canon Inc 撮像装置
US7805680B2 (en) 2001-01-03 2010-09-28 Nokia Corporation Statistical metering and filtering of content via pixel-based metadata
JP3957460B2 (ja) 2001-01-15 2007-08-15 沖電気工業株式会社 伝送ヘッダ圧縮装置、動画像符号化装置及び動画像伝送システム
JP2002250607A (ja) 2001-02-27 2002-09-06 Optex Co Ltd 物体検知センサ
US6635941B2 (en) 2001-03-21 2003-10-21 Canon Kabushiki Kaisha Structure of semiconductor device with improved reliability
JP2002324743A (ja) 2001-04-24 2002-11-08 Canon Inc 露光方法及び装置
US6443579B1 (en) 2001-05-02 2002-09-03 Kenneth Myers Field-of-view controlling arrangements
US20020167537A1 (en) 2001-05-11 2002-11-14 Miroslav Trajkovic Motion-based tracking with pan-tilt-zoom camera
US7235785B2 (en) 2001-05-11 2007-06-26 Irvine Sensors Corp. Imaging device with multiple fields of view incorporating memory-based temperature compensation of an uncooled focal plane array
US20020190991A1 (en) 2001-05-16 2002-12-19 Daniel Efran 3-D instant replay system and method
US7738013B2 (en) 2001-05-29 2010-06-15 Samsung Electronics Co., Ltd. Systems and methods for power conservation in a CMOS imager
WO2002098112A2 (en) 2001-05-29 2002-12-05 Transchip, Inc. Patent application cmos imager for cellular applications and methods of using such
US6482669B1 (en) 2001-05-30 2002-11-19 Taiwan Semiconductor Manufacturing Company Colors only process to reduce package yield loss
US6525302B2 (en) 2001-06-06 2003-02-25 The Regents Of The University Of Colorado Wavefront coding phase contrast imaging systems
US20030025227A1 (en) 2001-08-02 2003-02-06 Zograph, Llc Reproduction of relief patterns
US8675119B2 (en) 2001-08-09 2014-03-18 Trustees Of Columbia University In The City Of New York Adaptive imaging using digital light processing
EP1289309B1 (en) 2001-08-31 2010-04-21 STMicroelectronics Srl Noise filter for Bayer pattern image data
JP3978706B2 (ja) 2001-09-20 2007-09-19 セイコーエプソン株式会社 微細構造体の製造方法
JP2003139910A (ja) 2001-10-30 2003-05-14 Sony Corp 光学素子、その製造方法およびその製造装置、並びにそれを用いた液晶表示装置および画像投影型表示装置
DE10153237A1 (de) 2001-10-31 2003-05-15 Lfk Gmbh Verfahren und Vorrichtung zur automatisierten Bestimmung der Modulations-Transfer-Funktion (MTF) von Focal-Plane-Array (FPA)- Kameras
JP3705766B2 (ja) 2001-11-28 2005-10-12 独立行政法人科学技術振興機構 画像入力装置
AU2002357321A1 (en) 2001-12-18 2003-06-30 University Of Rochester Multifocal aspheric lens obtaining extended field depth
US7212228B2 (en) * 2002-01-16 2007-05-01 Advanced Telecommunications Research Institute International Automatic camera calibration method
US7302118B2 (en) 2002-02-07 2007-11-27 Microsoft Corporation Transformation of images
US20030179418A1 (en) 2002-03-19 2003-09-25 Eastman Kodak Company Producing a defective pixel map from defective cluster pixels in an area array image sensor
US8369607B2 (en) 2002-03-27 2013-02-05 Sanyo Electric Co., Ltd. Method and apparatus for processing three-dimensional images
JP2003298920A (ja) 2002-03-29 2003-10-17 Fuji Photo Film Co Ltd デジタルカメラ
US20030188659A1 (en) 2002-04-05 2003-10-09 Canadian Bank Note Company Limited Method and apparatus for reproducing a color image based on monochrome images derived therefrom
AU2003226047A1 (en) 2002-04-10 2003-10-27 Pan-X Imaging, Inc. A digital imaging system
US6856314B2 (en) 2002-04-18 2005-02-15 Stmicroelectronics, Inc. Method and system for 3D reconstruction of multiple views with altering search path and occlusion modeling
US6917702B2 (en) 2002-04-24 2005-07-12 Mitsubishi Electric Research Labs, Inc. Calibration of multiple cameras for a turntable-based 3D scanner
JP3567327B2 (ja) 2002-05-08 2004-09-22 富士写真光機株式会社 撮像レンズ
US6783900B2 (en) 2002-05-13 2004-08-31 Micron Technology, Inc. Color filter imaging array and method of formation
JP2004048644A (ja) 2002-05-21 2004-02-12 Sony Corp 情報処理装置、情報処理システム、及び対話者表示方法
JP2003347192A (ja) 2002-05-24 2003-12-05 Toshiba Corp エネルギービーム露光方法および露光装置
JP2004088713A (ja) 2002-06-27 2004-03-18 Olympus Corp 撮像レンズユニットおよび撮像装置
US7129981B2 (en) 2002-06-27 2006-10-31 International Business Machines Corporation Rendering system and method for images having differing foveal area and peripheral view area resolutions
JP4147059B2 (ja) 2002-07-03 2008-09-10 株式会社トプコン キャリブレーション用データ測定装置、測定方法及び測定プログラム、並びにコンピュータ読取可能な記録媒体、画像データ処理装置
JP2004037924A (ja) 2002-07-04 2004-02-05 Minolta Co Ltd 撮像装置
AU2003242974A1 (en) 2002-07-15 2004-02-02 Magna B.S.P. Ltd. Method and apparatus for implementing multipurpose monitoring system
US20040012689A1 (en) 2002-07-16 2004-01-22 Fairchild Imaging Charge coupled devices in tiled arrays
JP2004078296A (ja) 2002-08-09 2004-03-11 Victor Co Of Japan Ltd 画像生成装置
US20070166447A1 (en) 2002-08-27 2007-07-19 Select Milk Producers, Inc. Dairy compositions and method of making
US7639838B2 (en) 2002-08-30 2009-12-29 Jerry C Nims Multi-dimensional images system for digital image input and output
US7447380B2 (en) 2002-09-12 2008-11-04 Inoe Technologies, Llc Efficient method for creating a viewpoint from plurality of images
US20040050104A1 (en) 2002-09-18 2004-03-18 Eastman Kodak Company Forming information transfer lens array
US20040207836A1 (en) 2002-09-27 2004-10-21 Rajeshwar Chhibber High dynamic range optical inspection system and method
US7084904B2 (en) 2002-09-30 2006-08-01 Microsoft Corporation Foveated wide-angle imaging system and method for capturing and viewing wide-angle images in real time
US7477781B1 (en) 2002-10-10 2009-01-13 Dalsa Corporation Method and apparatus for adaptive pixel correction of multi-color matrix
US20040075654A1 (en) 2002-10-16 2004-04-22 Silicon Integrated Systems Corp. 3-D digital image processor and method for visibility processing for use in the same
JP4171786B2 (ja) 2002-10-25 2008-10-29 コニカミノルタホールディングス株式会社 画像入力装置
US7742088B2 (en) 2002-11-19 2010-06-22 Fujifilm Corporation Image sensor and digital camera
WO2004049736A1 (en) 2002-11-21 2004-06-10 Vision Iii Imaging, Inc. Critical alignment of parallax images for autostereoscopic display
US20040105021A1 (en) 2002-12-02 2004-06-03 Bolymedia Holdings Co., Ltd. Color filter patterns for image sensors
US20040114807A1 (en) 2002-12-13 2004-06-17 Dan Lelescu Statistical representation and coding of light field data
US6878918B2 (en) 2003-01-09 2005-04-12 Dialdg Semiconductor Gmbh APS pixel with reset noise suppression and programmable binning capability
US7340099B2 (en) 2003-01-17 2008-03-04 University Of New Brunswick System and method for image fusion
DE10301941B4 (de) 2003-01-20 2005-11-17 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Kamera und Verfahren zur optischen Aufnahme eines Schirms
US7379592B2 (en) 2003-01-21 2008-05-27 United States Of America As Represented By The Secretary Of The Navy System and method for significant dust detection and enhancement of dust images over land and ocean
US7005637B2 (en) 2003-01-31 2006-02-28 Intevac, Inc. Backside thinning of image array devices
WO2004068862A1 (ja) 2003-01-31 2004-08-12 The Circle For The Promotion Of Science And Engineering 高解像度カラー画像生成方法,高解像度カラー画像生成装置及び高解像度カラー画像生成プログラム
US7308157B2 (en) 2003-02-03 2007-12-11 Photon Dynamics, Inc. Method and apparatus for optical inspection of a display
US7595817B1 (en) 2003-02-12 2009-09-29 The Research Foundation Of State University Of New York Linear system based, qualitative independent motion detection from compressed MPEG surveillance video
US20040165090A1 (en) 2003-02-13 2004-08-26 Alex Ning Auto-focus (AF) lens and process
JP2004266369A (ja) 2003-02-21 2004-09-24 Sony Corp 固体撮像装置およびその駆動方法
US7106914B2 (en) 2003-02-27 2006-09-12 Microsoft Corporation Bayesian image super resolution
US7148861B2 (en) 2003-03-01 2006-12-12 The Boeing Company Systems and methods for providing enhanced vision imaging with decreased latency
US8218052B2 (en) 2003-03-07 2012-07-10 Iconix Video, Inc. High frame rate high definition imaging system and method
US7218320B2 (en) 2003-03-13 2007-05-15 Sony Corporation System and method for capturing facial and body motion
US6801719B1 (en) 2003-03-14 2004-10-05 Eastman Kodak Company Camera using beam splitter with micro-lens image amplification
US7206449B2 (en) 2003-03-19 2007-04-17 Mitsubishi Electric Research Laboratories, Inc. Detecting silhouette edges in images
US7425984B2 (en) 2003-04-04 2008-09-16 Stmicroelectronics, Inc. Compound camera and methods for implementing auto-focus, depth-of-field and high-resolution functions
US7373005B2 (en) 2003-04-10 2008-05-13 Micron Technology, Inc. Compression system for integrated sensor devices
US7097311B2 (en) 2003-04-19 2006-08-29 University Of Kentucky Research Foundation Super-resolution overlay in multi-projector displays
US6958862B1 (en) 2003-04-21 2005-10-25 Foveon, Inc. Use of a lenslet array with a vertically stacked pixel array
US7428330B2 (en) 2003-05-02 2008-09-23 Microsoft Corporation Cyclopean virtual imaging via generalized probabilistic smoothing
SE525665C2 (sv) 2003-05-08 2005-03-29 Forskarpatent I Syd Ab Matris av pixlar samt elektronisk bildanordning innefattande nämnda matris av pixlar
EP1627526A1 (en) 2003-05-13 2006-02-22 Xceed Imaging Ltd. Optical method and system for enhancing image resolution
JP2004348674A (ja) 2003-05-26 2004-12-09 Noritsu Koki Co Ltd 領域検出方法及びその装置
US20040239782A1 (en) 2003-05-30 2004-12-02 William Equitz System and method for efficient improvement of image quality in cameras
CN1574894A (zh) 2003-06-02 2005-02-02 宾得株式会社 多焦距成像装置和具有该多焦距成像装置的移动装置
JP2004363478A (ja) 2003-06-06 2004-12-24 Sanyo Electric Co Ltd 半導体装置の製造方法
KR100539234B1 (ko) 2003-06-11 2005-12-27 삼성전자주식회사 투명 고분자 소재를 적용한 씨모스형 이미지 센서 모듈 및그 제조방법
US7362918B2 (en) 2003-06-24 2008-04-22 Microsoft Corporation System and method for de-noising multiple copies of a signal
US6818934B1 (en) 2003-06-24 2004-11-16 Omnivision International Holding Ltd Image sensor having micro-lens array separated with trench structures and method of making
US7388609B2 (en) 2003-07-07 2008-06-17 Zoran Corporation Dynamic identification and correction of defective pixels
US7090135B2 (en) 2003-07-07 2006-08-15 Symbol Technologies, Inc. Imaging arrangement and barcode imager for imaging an optical code or target at a plurality of focal planes
US20050007461A1 (en) 2003-07-11 2005-01-13 Novatek Microelectronic Co. Correction system and method of analog front end
JP3731589B2 (ja) 2003-07-18 2006-01-05 ソニー株式会社 撮像装置と同期信号発生装置
US7233737B2 (en) 2003-08-12 2007-06-19 Micron Technology, Inc. Fixed-focus camera module and associated method of assembly
US7643703B2 (en) 2003-09-03 2010-01-05 Battelle Energy Alliance, Llc Image change detection systems, methods, and articles of manufacture
JP2007504562A (ja) 2003-09-04 2007-03-01 サーノフ コーポレーション １つの画像から虹彩認証を行う方法および装置
US7161606B2 (en) 2003-09-08 2007-01-09 Honda Motor Co., Ltd. Systems and methods for directly generating a view using a layered approach
JP4015090B2 (ja) 2003-09-08 2007-11-28 株式会社東芝 立体表示装置および画像表示方法
JP4020850B2 (ja) 2003-10-06 2007-12-12 株式会社東芝 磁気記録媒体の製造方法、製造装置、インプリントスタンパ及びその製造方法
US7079251B2 (en) 2003-10-16 2006-07-18 4D Technology Corporation Calibration and error correction in multi-channel imaging
WO2005041562A1 (ja) 2003-10-22 2005-05-06 Matsushita Electric Industrial Co., Ltd. 撮像装置とその製造方法、携帯機器、及び撮像素子とその製造方法
US7840067B2 (en) 2003-10-24 2010-11-23 Arcsoft, Inc. Color matching and color correction for images forming a panoramic image
CN1875638A (zh) 2003-11-11 2006-12-06 奥林巴斯株式会社 多谱图像捕捉装置
JP4235539B2 (ja) 2003-12-01 2009-03-11 独立行政法人科学技術振興機構 画像構成装置及び画像構成方法
US7328288B2 (en) 2003-12-11 2008-02-05 Canon Kabushiki Kaisha Relay apparatus for relaying communication from CPU to peripheral device
US20050128509A1 (en) 2003-12-11 2005-06-16 Timo Tokkonen Image creating method and imaging device
US7453510B2 (en) 2003-12-11 2008-11-18 Nokia Corporation Imaging device
JP3859158B2 (ja) 2003-12-16 2006-12-20 セイコーエプソン株式会社 マイクロレンズ用凹部付き基板、マイクロレンズ基板、透過型スクリーン、およびリア型プロジェクタ
US7123298B2 (en) 2003-12-18 2006-10-17 Avago Technologies Sensor Ip Pte. Ltd. Color image sensor with imaging elements imaging on respective regions of sensor elements
US7511749B2 (en) 2003-12-18 2009-03-31 Aptina Imaging Corporation Color image sensor having imaging element array forming images on respective regions of sensor elements
US7376250B2 (en) 2004-01-05 2008-05-20 Honda Motor Co., Ltd. Apparatus, method and program for moving object detection
US7496293B2 (en) 2004-01-14 2009-02-24 Elbit Systems Ltd. Versatile camera for various visibility conditions
US7773143B2 (en) 2004-04-08 2010-08-10 Tessera North America, Inc. Thin color camera having sub-pixel resolution
US8134637B2 (en) 2004-01-28 2012-03-13 Microsoft Corporation Method and system to increase X-Y resolution in a depth (Z) camera using red, blue, green (RGB) sensing
US7453688B2 (en) 2004-01-29 2008-11-18 Inventec Corporation Multimedia device for portable computers
GB2411532B (en) * 2004-02-11 2010-04-28 British Broadcasting Corp Position determination
US20050185711A1 (en) 2004-02-20 2005-08-25 Hanspeter Pfister 3D television system and method
SE527889C2 (sv) 2004-03-17 2006-07-04 Thomas Jeff Adamo Apparat för avbildning av ett objekt
JP2006047944A (ja) 2004-03-24 2006-02-16 Fuji Photo Film Co Ltd 撮影レンズ
JP4468442B2 (ja) 2004-03-31 2010-05-26 キヤノン株式会社 イメージングシステム性能測定
US7633511B2 (en) 2004-04-01 2009-12-15 Microsoft Corporation Pop-up light field
JP4665422B2 (ja) 2004-04-02 2011-04-06 ソニー株式会社 撮像装置
US8634014B2 (en) 2004-04-05 2014-01-21 Hewlett-Packard Development Company, L.P. Imaging device analysis systems and imaging device analysis methods
US7091531B2 (en) 2004-04-07 2006-08-15 Micron Technology, Inc. High dynamic range pixel amplifier
US8049806B2 (en) 2004-09-27 2011-11-01 Digitaloptics Corporation East Thin camera and associated methods
US7620265B1 (en) 2004-04-12 2009-11-17 Equinox Corporation Color invariant image fusion of visible and thermal infrared video
JP2005303694A (ja) 2004-04-13 2005-10-27 Konica Minolta Holdings Inc 複眼撮像装置
US7292735B2 (en) 2004-04-16 2007-11-06 Microsoft Corporation Virtual image artifact detection
US7773404B2 (en) 2005-01-07 2010-08-10 Invisage Technologies, Inc. Quantum dot optical devices with enhanced gain and sensitivity and methods of making same
US8218625B2 (en) 2004-04-23 2012-07-10 Dolby Laboratories Licensing Corporation Encoding, decoding and representing high dynamic range images
US20060034531A1 (en) 2004-05-10 2006-02-16 Seiko Epson Corporation Block noise level evaluation method for compressed images and control method of imaging device utilizing the evaluation method
EP1750584B1 (en) 2004-05-14 2020-10-14 Philips Intellectual Property & Standards GmbH System and method for diagnosing breast cancer
JP4610411B2 (ja) 2004-05-17 2011-01-12 ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド 物体を含むシーンの様式化された画像を生成する方法
US7355793B2 (en) 2004-05-19 2008-04-08 The Regents Of The University Of California Optical system applicable to improving the dynamic range of Shack-Hartmann sensors
WO2006083277A2 (en) 2004-05-25 2006-08-10 Sarnoff Corporation Low latency pyramid processor for image processing systems
JP2005354124A (ja) 2004-06-08 2005-12-22 Seiko Epson Corp 複数の低画素密度画像からの高画素密度画像の生成
US20060013318A1 (en) 2004-06-22 2006-01-19 Jennifer Webb Video error detection, recovery, and concealment
US7330593B2 (en) 2004-06-25 2008-02-12 Stmicroelectronics, Inc. Segment based image matching method and system
JP4408755B2 (ja) 2004-06-28 2010-02-03 Ｎｅｃエレクトロニクス株式会社 デインタリーブ装置、移動通信端末及びデインタリーブ方法
JP4479373B2 (ja) 2004-06-28 2010-06-09 ソニー株式会社 イメージセンサ
US7447382B2 (en) 2004-06-30 2008-11-04 Intel Corporation Computing a higher resolution image from multiple lower resolution images using model-based, robust Bayesian estimation
JP2006033228A (ja) 2004-07-14 2006-02-02 Victor Co Of Japan Ltd 画像撮像装置
JP2006033493A (ja) 2004-07-16 2006-02-02 Matsushita Electric Ind Co Ltd 撮像装置
US7189954B2 (en) 2004-07-19 2007-03-13 Micron Technology, Inc. Microelectronic imagers with optical devices and methods of manufacturing such microelectronic imagers
JP2006033570A (ja) 2004-07-20 2006-02-02 Olympus Corp 画像生成装置
US8027531B2 (en) 2004-07-21 2011-09-27 The Board Of Trustees Of The Leland Stanford Junior University Apparatus and method for capturing a scene using staggered triggering of dense camera arrays
GB0416496D0 (en) 2004-07-23 2004-08-25 Council Of The Central Lab Of Imaging device
US7068432B2 (en) 2004-07-27 2006-06-27 Micron Technology, Inc. Controlling lens shape in a microlens array
US20060023197A1 (en) 2004-07-27 2006-02-02 Joel Andrew H Method and system for automated production of autostereoscopic and animated prints and transparencies from digital and non-digital media
DE102004036469A1 (de) 2004-07-28 2006-02-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Kameramodul, hierauf basierendes Array und Verfahren zu dessen Herstellung
US20060028476A1 (en) 2004-08-03 2006-02-09 Irwin Sobel Method and system for providing extensive coverage of an object using virtual cameras
US7333652B2 (en) 2004-08-03 2008-02-19 Sony Corporation System and method for efficiently performing a depth map recovery procedure
JP2006050263A (ja) 2004-08-04 2006-02-16 Olympus Corp 画像生成方法および装置
EP1784988A1 (en) 2004-08-06 2007-05-16 University of Washington Variable fixation viewing distance scanned light displays
US7430339B2 (en) 2004-08-09 2008-09-30 Microsoft Corporation Border matting by dynamic programming
US7609302B2 (en) 2004-08-11 2009-10-27 Micron Technology, Inc. Correction of non-uniform sensitivity in an image array
US7645635B2 (en) 2004-08-16 2010-01-12 Micron Technology, Inc. Frame structure and semiconductor attach process for use therewith for fabrication of image sensor packages and the like, and resulting packages
US7061693B2 (en) 2004-08-16 2006-06-13 Xceed Imaging Ltd. Optical method and system for extended depth of focus
WO2006036398A2 (en) 2004-08-23 2006-04-06 Sarnoff Corporation Method and apparatus for producing a fused image
US7795577B2 (en) 2004-08-25 2010-09-14 Richard Ian Olsen Lens frame and optical focus assembly for imager module
US7916180B2 (en) 2004-08-25 2011-03-29 Protarius Filo Ag, L.L.C. Simultaneous multiple field of view digital cameras
US8124929B2 (en) 2004-08-25 2012-02-28 Protarius Filo Ag, L.L.C. Imager module optical focus and assembly method
US7564019B2 (en) 2005-08-25 2009-07-21 Richard Ian Olsen Large dynamic range cameras
WO2006026354A2 (en) 2004-08-25 2006-03-09 Newport Imaging Corporation Apparatus for multiple camera devices and method of operating same
CN100489599C (zh) 2004-08-26 2009-05-20 财团法人秋田企业活性化中心 液晶透镜
JP4057597B2 (ja) 2004-08-26 2008-03-05 独立行政法人科学技術振興機構 光学素子
US20060046204A1 (en) 2004-08-31 2006-03-02 Sharp Laboratories Of America, Inc. Directly patternable microlens
JP2006080852A (ja) 2004-09-09 2006-03-23 Olympus Corp 画像処理装置、電子カメラ、スキャナ、画像処理方法、および画像処理プログラム
US20060055811A1 (en) 2004-09-14 2006-03-16 Frtiz Bernard S Imaging system having modules with adaptive optical elements
US7145124B2 (en) 2004-09-15 2006-12-05 Raytheon Company Multispectral imaging chip using photonic crystals
JP4202991B2 (ja) 2004-09-29 2008-12-24 株式会社東芝 立体画像用データの記録方法及び表示再生方法
JP3977368B2 (ja) 2004-09-30 2007-09-19 クラリオン株式会社 駐車支援システム
DE102004049676A1 (de) 2004-10-12 2006-04-20 Infineon Technologies Ag Verfahren zur rechnergestützten Bewegungsschätzung in einer Vielzahl von zeitlich aufeinander folgenden digitalen Bildern, Anordnung zur rechnergestützten Bewegungsschätzung, Computerprogramm-Element und computerlesbares Speichermedium
JP2006119368A (ja) 2004-10-21 2006-05-11 Konica Minolta Opto Inc 広角光学系、撮像レンズ装置、モニタカメラ及びデジタル機器
JP4534715B2 (ja) 2004-10-22 2010-09-01 株式会社ニコン 撮像装置および画像処理プログラム
DE102004052994C5 (de) 2004-11-03 2010-08-26 Vistec Electron Beam Gmbh Multistrahlmodulator für einen Partikelstrahl und Verwendung des Multistrahlmodulators zur maskenlosen Substratsstrukturierung
KR100603601B1 (ko) 2004-11-08 2006-07-24 한국전자통신연구원 다시점 콘텐츠 생성 장치 및 그 방법
US7598996B2 (en) 2004-11-16 2009-10-06 Aptina Imaging Corporation System and method for focusing a digital camera
WO2006060746A2 (en) 2004-12-03 2006-06-08 Infrared Solutions, Inc. Visible light and ir combined image camera with a laser pointer
US7483065B2 (en) 2004-12-15 2009-01-27 Aptina Imaging Corporation Multi-lens imaging systems and methods using optical filters having mosaic patterns
US8854486B2 (en) 2004-12-17 2014-10-07 Mitsubishi Electric Research Laboratories, Inc. Method and system for processing multiview videos for view synthesis using skip and direct modes
US7728878B2 (en) 2004-12-17 2010-06-01 Mitsubishi Electric Research Labortories, Inc. Method and system for processing multiview videos for view synthesis using side information
CN101198964A (zh) 2005-01-07 2008-06-11 格斯图尔泰克股份有限公司 使用红外图案照射创建对象的三维图像
US7073908B1 (en) 2005-01-11 2006-07-11 Anthony Italo Provitola Enhancement of depth perception
US7767949B2 (en) 2005-01-18 2010-08-03 Rearden, Llc Apparatus and method for capturing still images and video using coded aperture techniques
US7671321B2 (en) 2005-01-18 2010-03-02 Rearden, Llc Apparatus and method for capturing still images and video using coded lens imaging techniques
US7602997B2 (en) 2005-01-19 2009-10-13 The United States Of America As Represented By The Secretary Of The Army Method of super-resolving images
US7408627B2 (en) 2005-02-08 2008-08-05 Canesta, Inc. Methods and system to quantify depth data accuracy in three-dimensional sensors using single frame capture
US7965314B1 (en) 2005-02-09 2011-06-21 Flir Systems, Inc. Foveal camera systems and methods
US7561191B2 (en) 2005-02-18 2009-07-14 Eastman Kodak Company Camera phone using multiple lenses and image sensors to provide an extended zoom range
US20060187322A1 (en) 2005-02-18 2006-08-24 Janson Wilbert F Jr Digital camera using multiple fixed focal length lenses and multiple image sensors to provide an extended zoom range
ATE518113T1 (de) 2005-03-11 2011-08-15 Creaform Inc Selbstreferenziertes system und vorrichtung zum dreidimensionalen scannen
JP2006258930A (ja) 2005-03-15 2006-09-28 Nikon Corp マイクロレンズの製造方法、及びマイクロレンズ用の型の製造方法
WO2006102181A1 (en) 2005-03-21 2006-09-28 Massachusetts Institute Of Technology (Mit) Real-time, continuous-wave terahertz imaging using a microbolometer focal-plane array
JPWO2006100903A1 (ja) 2005-03-23 2008-08-28 松下電器産業株式会社 車載撮像装置
US7297917B2 (en) 2005-03-24 2007-11-20 Micron Technology, Inc. Readout technique for increasing or maintaining dynamic range in image sensors
CN101147392B (zh) 2005-03-24 2012-05-09 松下电器产业株式会社 成像装置及其中使用的透镜阵列
US7683950B2 (en) 2005-04-26 2010-03-23 Eastman Kodak Company Method and apparatus for correcting a channel dependent color aberration in a digital image
US7956871B2 (en) 2005-04-28 2011-06-07 Samsung Electronics Co., Ltd. Color disparity correction in image sensors methods and circuits
US7656428B2 (en) 2005-05-05 2010-02-02 Avago Technologies General Ip (Singapore) Pte. Ltd. Imaging device employing optical motion sensor as gyroscope
US7876874B2 (en) 2005-05-18 2011-01-25 Hitachi Medical Corporation Radiographing apparatus and image processing program
US8411182B2 (en) 2005-06-02 2013-04-02 Xerox Corporation System for controlling integration times of photosensors in an imaging device
US7968888B2 (en) 2005-06-08 2011-06-28 Panasonic Corporation Solid-state image sensor and manufacturing method thereof
JP2006345233A (ja) 2005-06-09 2006-12-21 Fujifilm Holdings Corp 撮像装置及びデジタルカメラ
KR100813961B1 (ko) 2005-06-14 2008-03-14 삼성전자주식회사 영상 수신장치
US7364306B2 (en) 2005-06-20 2008-04-29 Digital Display Innovations, Llc Field sequential light source modulation for a digital display system
JP4826152B2 (ja) 2005-06-23 2011-11-30 株式会社ニコン 画像合成方法及び撮像装置
US20070102622A1 (en) 2005-07-01 2007-05-10 Olsen Richard I Apparatus for multiple camera devices and method of operating same
JP4577126B2 (ja) 2005-07-08 2010-11-10 オムロン株式会社 ステレオ対応づけのための投光パターンの生成装置及び生成方法
WO2007014293A1 (en) 2005-07-25 2007-02-01 The Regents Of The University Of California Digital imaging system and method to produce mosaic images
WO2007013250A1 (ja) 2005-07-26 2007-02-01 Matsushita Electric Industrial Co., Ltd. 複眼方式の撮像装置
US8384763B2 (en) 2005-07-26 2013-02-26 Her Majesty the Queen in right of Canada as represented by the Minster of Industry, Through the Communications Research Centre Canada Generating a depth map from a two-dimensional source image for stereoscopic and multiview imaging
US7969488B2 (en) 2005-08-03 2011-06-28 Micron Technologies, Inc. Correction of cluster defects in imagers
US7929801B2 (en) 2005-08-15 2011-04-19 Sony Corporation Depth information for auto focus using two pictures and two-dimensional Gaussian scale space theory
US20070041391A1 (en) 2005-08-18 2007-02-22 Micron Technology, Inc. Method and apparatus for controlling imager output data rate
US20070040922A1 (en) 2005-08-22 2007-02-22 Micron Technology, Inc. HDR/AB on multi-way shared pixels
US7964835B2 (en) 2005-08-25 2011-06-21 Protarius Filo Ag, L.L.C. Digital cameras with direct luminance and chrominance detection
US20070258006A1 (en) 2005-08-25 2007-11-08 Olsen Richard I Solid state camera optics frame and assembly
US20070083114A1 (en) 2005-08-26 2007-04-12 The University Of Connecticut Systems and methods for image resolution enhancement
JP4804856B2 (ja) 2005-09-29 2011-11-02 富士フイルム株式会社 単焦点レンズ
US8009209B2 (en) 2005-09-30 2011-08-30 Simon Fraser University Methods and apparatus for detecting defects in imaging arrays by image analysis
EP1941314A4 (en) 2005-10-07 2010-04-14 Univ Leland Stanford Junior ARRANGEMENTS AND APPROACHES FOR MICROSCOPY
JP4773179B2 (ja) 2005-10-14 2011-09-14 富士フイルム株式会社 撮像装置
US8300085B2 (en) 2005-10-14 2012-10-30 Microsoft Corporation Occlusion handling in stereo imaging
US7806604B2 (en) 2005-10-20 2010-10-05 Honeywell International Inc. Face detection and tracking in a wide field of view
KR100730406B1 (ko) 2005-11-16 2007-06-19 광운대학교 산학협력단 중간 요소 영상을 이용한 입체 영상 표시 장치
JP4389865B2 (ja) 2005-11-17 2009-12-24 ソニー株式会社 固体撮像素子の信号処理装置および信号処理方法並びに撮像装置
US8275195B2 (en) 2005-11-30 2012-09-25 Telecom Italia S.P.A. Method for determining scattered disparity fields in stereo vision
US7599547B2 (en) 2005-11-30 2009-10-06 Microsoft Corporation Symmetric stereo model for handling occlusion
JP4516516B2 (ja) 2005-12-07 2010-08-04 本田技研工業株式会社 人物検出装置、人物検出方法及び人物検出プログラム
TWI296480B (en) 2005-12-19 2008-05-01 Quanta Comp Inc Image camera of an electronic device
JP4501855B2 (ja) 2005-12-22 2010-07-14 ソニー株式会社 画像信号処理装置、撮像装置、および画像信号処理方法、並びにコンピュータ・プログラム
JP2007180730A (ja) 2005-12-27 2007-07-12 Eastman Kodak Co デジタルカメラおよびデータ管理方法
JP2009522591A (ja) 2005-12-30 2009-06-11 ノキア コーポレイション 関心領域を追跡することによってビデオカメラの自動焦点を制御するための方法および装置
US7855786B2 (en) 2006-01-09 2010-12-21 Bae Systems Spectral Solutions Llc Single camera multi-spectral imager
US7675080B2 (en) 2006-01-10 2010-03-09 Aptina Imaging Corp. Uniform color filter arrays in a moat
US8194169B2 (en) 2006-01-20 2012-06-05 Panasonic Corporation Compound eye camera module and method of producing the same
DE102006004802B4 (de) 2006-01-23 2008-09-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Bilderfassungssystem und Verfahren zur Herstellung mindestens eines Bilderfassungssystems
JP4834412B2 (ja) 2006-02-03 2011-12-14 富士フイルム株式会社 固体撮像装置およびこれを用いた電子内視鏡
US20070201859A1 (en) 2006-02-24 2007-08-30 Logitech Europe S.A. Method and system for use of 3D sensors in an image capture device
US7391572B2 (en) 2006-03-01 2008-06-24 International Business Machines Corporation Hybrid optical/electronic structures fabricated by a common molding process
US7924483B2 (en) 2006-03-06 2011-04-12 Smith Scott T Fused multi-array color image sensor
DE102006011707B4 (de) 2006-03-14 2010-11-18 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und Vorrichtung zum Erzeugen einer strukturfreien fiberskopischen Aufnahme
US7616254B2 (en) 2006-03-16 2009-11-10 Sony Corporation Simple method for calculating camera defocus from an image scene
US8360574B2 (en) 2006-03-20 2013-01-29 High Performance Optics, Inc. High performance selective light wavelength filtering providing improved contrast sensitivity
US7606484B1 (en) 2006-03-23 2009-10-20 Flir Systems, Inc. Infrared and near-infrared camera hyperframing
JP4615468B2 (ja) 2006-03-23 2011-01-19 富士フイルム株式会社 撮影装置
US7342212B2 (en) 2006-03-31 2008-03-11 Micron Technology, Inc. Analog vertical sub-sampling in an active pixel sensor (APS) image sensor
US8044994B2 (en) 2006-04-04 2011-10-25 Mitsubishi Electric Research Laboratories, Inc. Method and system for decoding and displaying 3D light fields
US7916934B2 (en) 2006-04-04 2011-03-29 Mitsubishi Electric Research Laboratories, Inc. Method and system for acquiring, encoding, decoding and displaying 3D light fields
TW200740212A (en) 2006-04-10 2007-10-16 Sony Taiwan Ltd A stitching accuracy improvement method with lens distortion correction
US20070242141A1 (en) 2006-04-14 2007-10-18 Sony Corporation And Sony Electronics Inc. Adjustable neutral density filter system for dynamic range compression from scene to imaging sensor
CN101064780B (zh) 2006-04-30 2012-07-04 台湾新力国际股份有限公司 利用透镜失真校正的影像接合准确度改善方法及装置
US20070263114A1 (en) 2006-05-01 2007-11-15 Microalign Technologies, Inc. Ultra-thin digital imaging device of high resolution for mobile electronic devices and method of imaging
US7580620B2 (en) 2006-05-08 2009-08-25 Mitsubishi Electric Research Laboratories, Inc. Method for deblurring images using optimized temporal coding patterns
US9736346B2 (en) 2006-05-09 2017-08-15 Stereo Display, Inc Imaging system improving image resolution of the system with low resolution image sensor
US7889264B2 (en) 2006-05-12 2011-02-15 Ricoh Co., Ltd. End-to-end design of superresolution electro-optic imaging systems
US7916362B2 (en) 2006-05-22 2011-03-29 Eastman Kodak Company Image sensor with improved light sensitivity
US8139142B2 (en) 2006-06-01 2012-03-20 Microsoft Corporation Video manipulation of red, green, blue, distance (RGB-Z) data including segmentation, up-sampling, and background substitution techniques
IES20070229A2 (en) 2006-06-05 2007-10-03 Fotonation Vision Ltd Image acquisition method and apparatus
US20070177004A1 (en) 2006-06-08 2007-08-02 Timo Kolehmainen Image creating method and imaging device
JP4631811B2 (ja) 2006-06-12 2011-02-16 株式会社日立製作所 撮像装置
JP5106870B2 (ja) 2006-06-14 2012-12-26 株式会社東芝 固体撮像素子
FR2902530A1 (fr) 2006-06-19 2007-12-21 St Microelectronics Rousset Procede de fabrication de lentilles, notamment pour imageur comprenant un diaphragme
TWI362550B (en) 2007-06-21 2012-04-21 Ether Precision Inc The method for manufacturing the image captures unit
US7925117B2 (en) 2006-06-27 2011-04-12 Honeywell International Inc. Fusion of sensor data and synthetic data to form an integrated image
KR100793369B1 (ko) 2006-07-06 2008-01-11 삼성전자주식회사 분해능이 향상되는 이미지 센서 및 이를 이용한 이미지감지 방법
US20080024683A1 (en) 2006-07-31 2008-01-31 Niranjan Damera-Venkata Overlapped multi-projector system with dithering
US20080030592A1 (en) 2006-08-01 2008-02-07 Eastman Kodak Company Producing digital image with different resolution portions
JP2008039852A (ja) 2006-08-01 2008-02-21 Agc Techno Glass Co Ltd ガラス光学素子及びその製造方法
US8406562B2 (en) 2006-08-11 2013-03-26 Geo Semiconductor Inc. System and method for automated calibration and correction of display geometry and color
ATE479980T1 (de) 2006-08-24 2010-09-15 Valeo Vision Verfahren zur bestimmung der durchfahrt eines fahrzeugs durch eine engen durchlass
US8306063B2 (en) 2006-08-29 2012-11-06 EXFO Services Assurance, Inc. Real-time transport protocol stream detection system and method
US8687087B2 (en) 2006-08-29 2014-04-01 Csr Technology Inc. Digital camera with selectively increased dynamic range by control of parameters during image acquisition
KR100746360B1 (ko) 2006-08-31 2007-08-06 삼성전기주식회사 스템퍼 제조방법
NO326372B1 (no) 2006-09-21 2008-11-17 Polight As Polymerlinse
WO2008039802A2 (en) 2006-09-25 2008-04-03 Ophthonix, Incorporated Method for correction of chromatic aberration and achromatic lens
JP4403162B2 (ja) 2006-09-29 2010-01-20 株式会社東芝 立体画像表示装置および立体画像の作製方法
US20080080028A1 (en) 2006-10-02 2008-04-03 Micron Technology, Inc. Imaging method, apparatus and system having extended depth of field
US8031258B2 (en) 2006-10-04 2011-10-04 Omnivision Technologies, Inc. Providing multiple video signals from single sensor
WO2008044937A1 (en) 2006-10-11 2008-04-17 Ignis Display As Design of compact adjustable lens
KR101360545B1 (ko) 2006-10-11 2014-02-10 포라이트 에이에스 조정 가능한 렌즈의 제조 방법
US8073196B2 (en) 2006-10-16 2011-12-06 University Of Southern California Detection and tracking of moving objects from a moving platform in presence of strong parallax
US7702229B2 (en) 2006-10-18 2010-04-20 Eastman Kodak Company Lens array assisted focus detection
JP4349456B2 (ja) 2006-10-23 2009-10-21 ソニー株式会社 固体撮像素子
JP4942221B2 (ja) 2006-10-25 2012-05-30 国立大学法人東京工業大学 高解像度仮想焦点面画像生成方法
US7888159B2 (en) 2006-10-26 2011-02-15 Omnivision Technologies, Inc. Image sensor having curved micro-mirrors over the sensing photodiode and method for fabricating
JP4452951B2 (ja) 2006-11-02 2010-04-21 富士フイルム株式会社 距離画像生成方法及びその装置
KR20080043106A (ko) 2006-11-13 2008-05-16 삼성전자주식회사 광학렌즈 및 그 제조방법
US8059162B2 (en) 2006-11-15 2011-11-15 Sony Corporation Imaging apparatus and method, and method for designing imaging apparatus
US20080118241A1 (en) 2006-11-16 2008-05-22 Tekolste Robert Control of stray light in camera systems employing an optics stack and associated methods
CN201043890Y (zh) 2006-11-17 2008-04-02 中国科学院上海光学精密机械研究所 单孔径多重成像的光学成像测距装置
EP2084491A2 (en) 2006-11-21 2009-08-05 Mantisvision Ltd. 3d geometric modeling and 3d video content creation
KR20080047002A (ko) 2006-11-24 2008-05-28 엘지이노텍 주식회사 카메라모듈의 렌즈 어셈블리 및 그 제작 방법
US20100265385A1 (en) 2009-04-18 2010-10-21 Knight Timothy J Light Field Camera Image, File and Configuration Data, and Methods of Using, Storing and Communicating Same
US8559705B2 (en) 2006-12-01 2013-10-15 Lytro, Inc. Interactive refocusing of electronic images
JP4406937B2 (ja) 2006-12-01 2010-02-03 富士フイルム株式会社 撮影装置
JP5040493B2 (ja) 2006-12-04 2012-10-03 ソニー株式会社 撮像装置及び撮像方法
US8242426B2 (en) 2006-12-12 2012-08-14 Dolby Laboratories Licensing Corporation Electronic camera having multiple sensors for capturing high dynamic range images and related methods
US7646549B2 (en) 2006-12-18 2010-01-12 Xceed Imaging Ltd Imaging system and method for providing extended depth of focus, range extraction and super resolved imaging
US8213500B2 (en) 2006-12-21 2012-07-03 Sharp Laboratories Of America, Inc. Methods and systems for processing film grain noise
TWI324015B (en) 2006-12-22 2010-04-21 Ind Tech Res Inst Autofocus searching method
US8103111B2 (en) 2006-12-26 2012-01-24 Olympus Imaging Corp. Coding method, electronic camera, recording medium storing coded program, and decoding method
US20080158259A1 (en) 2006-12-28 2008-07-03 Texas Instruments Incorporated Image warping and lateral color correction
US20080158698A1 (en) 2006-12-29 2008-07-03 Chao-Chi Chang Lens barrel array and lens array and the method of making the same
US7973823B2 (en) 2006-12-29 2011-07-05 Nokia Corporation Method and system for image pre-processing
US20080165257A1 (en) 2007-01-05 2008-07-10 Micron Technology, Inc. Configurable pixel array system and method
JP4993578B2 (ja) 2007-01-15 2012-08-08 オリンパスイメージング株式会社 画像ファイル再生装置，画像ファイル加工編集装置
US8655052B2 (en) 2007-01-26 2014-02-18 Intellectual Discovery Co., Ltd. Methodology for 3D scene reconstruction from 2D image sequences
JP5024992B2 (ja) 2007-02-02 2012-09-12 株式会社ジャパンディスプレイセントラル 表示装置
US7956988B1 (en) 2007-02-06 2011-06-07 Alpha Technology, LLC Light detection and ranging systems and related methods
US7792423B2 (en) 2007-02-06 2010-09-07 Mitsubishi Electric Research Laboratories, Inc. 4D light field cameras
CN100585453C (zh) 2007-02-09 2010-01-27 奥林巴斯映像株式会社 解码方法及解码装置
JP4386083B2 (ja) 2007-02-27 2009-12-16 トヨタ自動車株式会社 駐車支援装置
JP2008209761A (ja) 2007-02-27 2008-09-11 Nikon Corp 焦点検出装置および撮像装置
JP4153013B1 (ja) 2007-03-06 2008-09-17 シャープ株式会社 撮像レンズ、撮像ユニットおよびそれを備えた携帯型情報端末
US7755679B2 (en) 2007-03-07 2010-07-13 Altasens, Inc. Apparatus and method for reducing edge effect in an image sensor
US7859588B2 (en) 2007-03-09 2010-12-28 Eastman Kodak Company Method and apparatus for operating a dual lens camera to augment an image
US7683962B2 (en) 2007-03-09 2010-03-23 Eastman Kodak Company Camera using multiple lenses and image sensors in a rangefinder configuration to provide a range map
US7729602B2 (en) 2007-03-09 2010-06-01 Eastman Kodak Company Camera using multiple lenses and image sensors operable in a default imaging mode
US7676146B2 (en) 2007-03-09 2010-03-09 Eastman Kodak Company Camera using multiple lenses and image sensors to provide improved focusing capability
US8593506B2 (en) 2007-03-15 2013-11-26 Yissum Research Development Company Of The Hebrew University Of Jerusalem Method and system for forming a panoramic image of a scene having minimal aspect distortion
JP4915859B2 (ja) 2007-03-26 2012-04-11 船井電機株式会社 物体の距離導出装置
JP2008242658A (ja) 2007-03-26 2008-10-09 Funai Electric Co Ltd 立体物体の撮像装置
US7738017B2 (en) 2007-03-27 2010-06-15 Aptina Imaging Corporation Method and apparatus for automatic linear shift parallax correction for multi-array image systems
US8055466B2 (en) 2007-03-30 2011-11-08 Mitutoyo Corporation Global calibration for stereo vision probe
US8165418B2 (en) 2007-03-30 2012-04-24 Brother Kogyo Kabushiki Kaisha Image processor
WO2008120217A2 (en) 2007-04-02 2008-10-09 Prime Sense Ltd. Depth mapping using projected patterns
US8098941B2 (en) 2007-04-03 2012-01-17 Aptina Imaging Corporation Method and apparatus for parallelization of image compression encoders
US8213711B2 (en) 2007-04-03 2012-07-03 Her Majesty The Queen In Right Of Canada As Represented By The Minister Of Industry, Through The Communications Research Centre Canada Method and graphical user interface for modifying depth maps
JP2008258885A (ja) 2007-04-04 2008-10-23 Texas Instr Japan Ltd 撮像装置および撮像装置の駆動方法
CN101281282A (zh) 2007-04-04 2008-10-08 鸿富锦精密工业（深圳）有限公司 镜头模组
US7923801B2 (en) 2007-04-18 2011-04-12 Invisage Technologies, Inc. Materials, systems and methods for optoelectronic devices
US8467628B2 (en) 2007-04-24 2013-06-18 21 Ct, Inc. Method and system for fast dense stereoscopic ranging
KR100869219B1 (ko) 2007-05-03 2008-11-18 동부일렉트로닉스 주식회사 이미지 센서 및 그 제조방법
US8462220B2 (en) 2007-05-09 2013-06-11 Aptina Imaging Corporation Method and apparatus for improving low-light performance for small pixel image sensors
US7812869B2 (en) 2007-05-11 2010-10-12 Aptina Imaging Corporation Configurable pixel array system and method
JP4341695B2 (ja) 2007-05-17 2009-10-07 ソニー株式会社 画像入力処理装置、撮像信号処理回路、および、撮像信号のノイズ低減方法
JP4337911B2 (ja) 2007-05-24 2009-09-30 ソニー株式会社 撮像装置、撮像回路、および撮像方法
US20080298674A1 (en) 2007-05-29 2008-12-04 Image Masters Inc. Stereoscopic Panoramic imaging system
EP2206013A4 (en) 2007-05-31 2011-07-20 Artificial Muscle Inc OPTICAL SYSTEMS EMPLOYING COMPATIBLE ELECTROLYTE MATERIALS
US8290358B1 (en) 2007-06-25 2012-10-16 Adobe Systems Incorporated Methods and apparatus for light-field imaging
WO2009001255A1 (en) 2007-06-26 2008-12-31 Koninklijke Philips Electronics N.V. Method and system for encoding a 3d video signal, enclosed 3d video signal, method and system for decoder for a 3d video signal
EP2168096A1 (en) 2007-07-12 2010-03-31 Thomson Licensing System and method for three-dimensional object reconstruction from two-dimensional images
US8125619B2 (en) 2007-07-25 2012-02-28 Eminent Electronic Technology Corp. Integrated ambient light sensor and distance sensor
JP5006727B2 (ja) 2007-07-26 2012-08-22 株式会社リコー 画像処理装置およびデジタルカメラ
US8559756B2 (en) 2007-08-06 2013-10-15 Adobe Systems Incorporated Radiance processing by demultiplexing in the frequency domain
EP2034338A1 (en) 2007-08-11 2009-03-11 ETH Zurich Liquid Lens System
EP2026563A1 (en) 2007-08-14 2009-02-18 Deutsche Thomson OHG System and method for detecting defective pixels
US7782364B2 (en) 2007-08-21 2010-08-24 Aptina Imaging Corporation Multi-array sensor with integrated sub-array for parallax detection and photometer functionality
US20090066693A1 (en) 2007-09-06 2009-03-12 Roc Carson Encoding A Depth Map Into An Image Using Analysis Of Two Consecutive Captured Frames
US7973834B2 (en) 2007-09-24 2011-07-05 Jianwen Yang Electro-optical foveated imaging and tracking system
US20090079862A1 (en) 2007-09-25 2009-03-26 Micron Technology, Inc. Method and apparatus providing imaging auto-focus utilizing absolute blur value
US20090086074A1 (en) 2007-09-27 2009-04-02 Omnivision Technologies, Inc. Dual mode camera solution apparatus, system, and method
US7940311B2 (en) 2007-10-03 2011-05-10 Nokia Corporation Multi-exposure pattern for enhancing dynamic range of images
JP5172267B2 (ja) 2007-10-09 2013-03-27 富士フイルム株式会社 撮像装置
US8049289B2 (en) 2007-10-11 2011-11-01 Dongbu Hitek Co., Ltd. Image sensor and method for manufacturing the same
US8938009B2 (en) 2007-10-12 2015-01-20 Qualcomm Incorporated Layered encoded bitstream structure
US7956924B2 (en) 2007-10-18 2011-06-07 Adobe Systems Incorporated Fast computational camera based on two arrays of lenses
US7787112B2 (en) 2007-10-22 2010-08-31 Visiongate, Inc. Depth of field extension for optical tomography
US7920193B2 (en) 2007-10-23 2011-04-05 Aptina Imaging Corporation Methods, systems and apparatuses using barrier self-calibration for high dynamic range imagers
US7777804B2 (en) 2007-10-26 2010-08-17 Omnivision Technologies, Inc. High dynamic range sensor with reduced line memory for color interpolation
US20100223237A1 (en) 2007-11-05 2010-09-02 University Of Florida Research Foundation, Inc. Lossless data compression and real-time decompression
US7852461B2 (en) 2007-11-15 2010-12-14 Microsoft International Holdings B.V. Dual mode depth imaging
US20090128644A1 (en) 2007-11-15 2009-05-21 Camp Jr William O System and method for generating a photograph
US8351685B2 (en) 2007-11-16 2013-01-08 Gwangju Institute Of Science And Technology Device and method for estimating depth map, and method for generating intermediate image and method for encoding multi-view video using the same
US8126279B2 (en) 2007-11-19 2012-02-28 The University Of Arizona Lifting-based view compensated compression and remote visualization of volume rendered images
KR20090055803A (ko) 2007-11-29 2009-06-03 광주과학기술원 다시점 깊이맵 생성 방법 및 장치, 다시점 영상에서의변이값 생성 방법
JP5010445B2 (ja) 2007-11-29 2012-08-29 パナソニック株式会社 マイクロレンズアレイ用金型の製造方法
GB2455316B (en) 2007-12-04 2012-08-15 Sony Corp Image processing apparatus and method
EP2071515A1 (en) * 2007-12-11 2009-06-17 Honda Research Institute Europe GmbH Visually tracking an object in real world using 2D appearance and multicue depth estimations
WO2009073950A1 (en) 2007-12-13 2009-06-18 Keigo Izuka Camera system and method for amalgamating images to create an omni-focused image
US7924330B2 (en) * 2007-12-20 2011-04-12 Aptina Imaging Corporation Methods and apparatuses for double sided dark reference pixel row-wise dark level non-uniformity compensation in image signals
TWI353778B (en) 2007-12-21 2011-12-01 Ind Tech Res Inst Moving object detection apparatus and method
US7880807B2 (en) 2007-12-26 2011-02-01 Sony Ericsson Mobile Communications Ab Camera system with mirror arrangement for generating self-portrait panoramic pictures
US8233077B2 (en) 2007-12-27 2012-07-31 Qualcomm Incorporated Method and apparatus with depth map generation
TWI362628B (en) 2007-12-28 2012-04-21 Ind Tech Res Inst Methof for producing an image with depth by using 2d image
US20110031381A1 (en) 2007-12-28 2011-02-10 Hiok-Nam Tay Light guide array for an image sensor
DE112009000099T5 (de) 2008-01-04 2010-11-11 3M Innovative Properties Co., St. Paul Bildsignaturen zur Verwendung in einer bewegungsbasierten dreidimensionalen Rekonstruktion
JP4413261B2 (ja) 2008-01-10 2010-02-10 シャープ株式会社 撮像装置及び光軸制御方法
JP5198295B2 (ja) 2008-01-15 2013-05-15 富士フイルム株式会社 撮像素子の位置調整方法、カメラモジュール製造方法及び装置、カメラモジュール
US8189065B2 (en) 2008-01-23 2012-05-29 Adobe Systems Incorporated Methods and apparatus for full-resolution light-field capture and rendering
US7962033B2 (en) 2008-01-23 2011-06-14 Adobe Systems Incorporated Methods and apparatus for full-resolution light-field capture and rendering
JP4956452B2 (ja) 2008-01-25 2012-06-20 富士重工業株式会社 車両用環境認識装置
US8824833B2 (en) 2008-02-01 2014-09-02 Omnivision Technologies, Inc. Image data fusion systems and methods
GB0802290D0 (en) 2008-02-08 2008-03-12 Univ Kent Canterbury Camera adapter based optical imaging apparatus
US8319301B2 (en) 2008-02-11 2012-11-27 Omnivision Technologies, Inc. Self-aligned filter for an image sensor
JP2009206922A (ja) 2008-02-28 2009-09-10 Funai Electric Co Ltd 複眼撮像装置
CN101520532A (zh) 2008-02-29 2009-09-02 鸿富锦精密工业（深圳）有限公司 复合镜片
US9094675B2 (en) 2008-02-29 2015-07-28 Disney Enterprises Inc. Processing image data from multiple cameras for motion pictures
KR101592889B1 (ko) 2008-03-03 2016-02-11 아비길론 페이턴트 홀딩 2 코포레이션 트래킹, 인덱싱 및 서치를 위한 물체 매칭 방법 및 장치
JPWO2009119229A1 (ja) 2008-03-26 2011-07-21 コニカミノルタホールディングス株式会社 ３次元撮像装置及び３次元撮像装置の校正方法
US8497905B2 (en) 2008-04-11 2013-07-30 nearmap australia pty ltd. Systems and methods of capturing large area images in detail including cascaded cameras and/or calibration features
US8259208B2 (en) 2008-04-15 2012-09-04 Sony Corporation Method and apparatus for performing touch-based adjustments within imaging devices
US7843554B2 (en) 2008-04-25 2010-11-30 Rockwell Collins, Inc. High dynamic range sensor system and method
US8280194B2 (en) 2008-04-29 2012-10-02 Sony Corporation Reduced hardware implementation for a two-picture depth map algorithm
US8155456B2 (en) 2008-04-29 2012-04-10 Adobe Systems Incorporated Method and apparatus for block-based compression of light-field images
US8724921B2 (en) 2008-05-05 2014-05-13 Aptina Imaging Corporation Method of capturing high dynamic range images with objects in the scene
US8633996B2 (en) 2008-05-09 2014-01-21 Rambus Inc. Image sensor having nonlinear response
JP2009273035A (ja) 2008-05-09 2009-11-19 Toshiba Corp 画像圧縮装置、画像伸張装置及び画像処理装置
WO2009141998A1 (ja) 2008-05-19 2009-11-26 パナソニック株式会社 キャリブレーション方法、キャリブレーション装置及びその装置を備えるキャリブレーションシステム
US8208543B2 (en) 2008-05-19 2012-06-26 Microsoft Corporation Quantization and differential coding of alpha image data
WO2009151903A2 (en) 2008-05-20 2009-12-17 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with hetergeneous imagers
US8866920B2 (en) 2008-05-20 2014-10-21 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with heterogeneous imagers
US8442355B2 (en) 2008-05-23 2013-05-14 Samsung Electronics Co., Ltd. System and method for generating a multi-dimensional image
US8125559B2 (en) 2008-05-25 2012-02-28 Avistar Communications Corporation Image formation for large photosensor array surfaces
US8131097B2 (en) 2008-05-28 2012-03-06 Aptina Imaging Corporation Method and apparatus for extended depth-of-field image restoration
US8244058B1 (en) 2008-05-30 2012-08-14 Adobe Systems Incorporated Method and apparatus for managing artifacts in frequency domain processing of light-field images
CN101593350B (zh) * 2008-05-30 2013-01-09 日电（中国）有限公司 深度自适应视频拼接的方法、装置和系统
JP2009300268A (ja) 2008-06-13 2009-12-24 Nippon Hoso Kyokai <Nhk> ３次元情報検出装置
KR20100002032A (ko) 2008-06-24 2010-01-06 삼성전자주식회사 영상 생성 방법, 영상 처리 방법, 및 그 장치
US7710667B2 (en) 2008-06-25 2010-05-04 Aptina Imaging Corp. Imaging module with symmetrical lens system and method of manufacture
JPWO2009157273A1 (ja) 2008-06-25 2011-12-08 コニカミノルタオプト株式会社 撮像光学系及び撮像用レンズの製造方法
KR101000531B1 (ko) 2008-06-26 2010-12-14 에스디씨마이크로 주식회사 데이터 전송 범위가 증대되는 무선랜을 이용한 씨씨티브이관리시스템
US7916396B2 (en) 2008-06-27 2011-03-29 Micron Technology, Inc. Lens master devices, lens structures, imaging devices, and methods and apparatuses of making the same
US8326069B2 (en) 2008-06-30 2012-12-04 Intel Corporation Computing higher resolution images from multiple lower resolution images
US7773317B2 (en) 2008-07-01 2010-08-10 Aptina Imaging Corp. Lens system with symmetrical optics
US7920339B2 (en) 2008-07-02 2011-04-05 Aptina Imaging Corporation Method and apparatus providing singlet wafer lens system with field flattener
US8456517B2 (en) 2008-07-09 2013-06-04 Primesense Ltd. Integrated processor for 3D mapping
KR101445185B1 (ko) 2008-07-10 2014-09-30 삼성전자주식회사 복수 개의 영상촬영유닛을 구비한 플렉시블 영상촬영장치및 그 제조방법
CA2731680C (en) 2008-08-06 2016-12-13 Creaform Inc. System for adaptive three-dimensional scanning of surface characteristics
US9179153B2 (en) 2008-08-20 2015-11-03 Thomson Licensing Refined depth map
CN101656259A (zh) 2008-08-20 2010-02-24 鸿富锦精密工业（深圳）有限公司 影像感测器封装结构、封装方法及相机模组
US7924312B2 (en) 2008-08-22 2011-04-12 Fluke Corporation Infrared and visible-light image registration
US8736751B2 (en) 2008-08-26 2014-05-27 Empire Technology Development Llc Digital presenter for displaying image captured by camera with illumination system
US8102428B2 (en) 2008-08-28 2012-01-24 Adobe Systems Incorporated Content-aware video stabilization
EP2329315A4 (en) 2008-09-01 2012-01-18 Lensvector Inc PREPARATION OF OPTOELECTRONIC LIQUID CRYSTAL COMPONENTS AT WAF LEVEL
JP5105482B2 (ja) 2008-09-01 2012-12-26 船井電機株式会社 光学的条件設計方法及び複眼撮像装置
US8098297B2 (en) 2008-09-03 2012-01-17 Sony Corporation Pre- and post-shutter signal image capture and sort for digital camera
KR20100028344A (ko) 2008-09-04 2010-03-12 삼성전자주식회사 휴대단말의 영상 편집 방법 및 장치
US9025136B2 (en) 2008-09-23 2015-05-05 Applied Materials, Inc. System and method for manufacturing three dimensional integrated circuits
JP5238429B2 (ja) 2008-09-25 2013-07-17 株式会社東芝 立体映像撮影装置および立体映像撮影システム
US8553093B2 (en) 2008-09-30 2013-10-08 Sony Corporation Method and apparatus for super-resolution imaging using digital imaging devices
KR101468267B1 (ko) 2008-10-02 2014-12-15 프라운호퍼-게젤샤프트 추르 푀르데룽 데어 안제반텐 포르슝 에 파우 중간 뷰 합성 및 멀티-뷰 데이터 신호 추출
US9619917B2 (en) 2008-10-03 2017-04-11 Apple Inc. Depth of field for a camera in a media-editing application
US9064476B2 (en) 2008-10-04 2015-06-23 Microsoft Technology Licensing, Llc Image super-resolution using gradient profile prior
US8310525B2 (en) 2008-10-07 2012-11-13 Seiko Epson Corporation One-touch projector alignment for 3D stereo display
GB2476397B (en) 2008-10-15 2014-04-30 Spinella Ip Holdings Inc Digital processing method and system for determination of optical flow
US8416282B2 (en) 2008-10-16 2013-04-09 Spatial Cam Llc Camera for creating a panoramic image
JP2010096723A (ja) 2008-10-20 2010-04-30 Funai Electric Co Ltd 物体の距離導出装置
US8436909B2 (en) 2008-10-21 2013-05-07 Stmicroelectronics S.R.L. Compound camera sensor and related method of processing digital images
US8913657B2 (en) 2008-10-27 2014-12-16 Lg Electronics Inc. Virtual view image synthesis method and apparatus
US8063975B2 (en) 2008-10-29 2011-11-22 Jabil Circuit, Inc. Positioning wafer lenses on electronic imagers
KR101502597B1 (ko) 2008-11-13 2015-03-13 삼성전자주식회사 고심도 입체 영상 표시가 가능한 디스플레이 장치 및 방법
US8644547B2 (en) 2008-11-14 2014-02-04 The Scripps Research Institute Image analysis platform for identifying artifacts in samples and laboratory consumables
AU2008246243B2 (en) 2008-11-19 2011-12-22 Canon Kabushiki Kaisha DVC as generic file format for plenoptic camera
US8279325B2 (en) 2008-11-25 2012-10-02 Lytro, Inc. System and method for acquiring, editing, generating and outputting video data
JP4852591B2 (ja) 2008-11-27 2012-01-11 富士フイルム株式会社 立体画像処理装置、方法及び記録媒体並びに立体撮像装置
JP5282543B2 (ja) * 2008-11-28 2013-09-04 ソニー株式会社 固体撮像装置、固体撮像装置の駆動方法および撮像装置
WO2010077625A1 (en) 2008-12-08 2010-07-08 Refocus Imaging, Inc. Light field data acquisition devices, and methods of using and manufacturing same
US8013904B2 (en) 2008-12-09 2011-09-06 Seiko Epson Corporation View projection matrix based high performance low latency display pipeline
KR101200490B1 (ko) 2008-12-10 2012-11-12 한국전자통신연구원 영상 정합 장치 및 방법
JP5311016B2 (ja) 2008-12-10 2013-10-09 コニカミノルタ株式会社 ステレオカメラユニット及びステレオマッチング方法
US8149323B2 (en) 2008-12-18 2012-04-03 Qualcomm Incorporated System and method to autofocus assisted by autoexposure control
JP4631966B2 (ja) 2008-12-22 2011-02-16 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
CN101770060B (zh) 2008-12-27 2014-03-26 鸿富锦精密工业（深圳）有限公司 相机模组及其组装方法
US8405742B2 (en) 2008-12-30 2013-03-26 Massachusetts Institute Of Technology Processing images having different focus
US8259212B2 (en) 2009-01-05 2012-09-04 Applied Quantum Technologies, Inc. Multiscale optical system
WO2010081010A2 (en) 2009-01-09 2010-07-15 New York University Methods, computer-accessible medium and systems for facilitating dark flash photography
WO2010079685A1 (ja) 2009-01-09 2010-07-15 コニカミノルタホールディングス株式会社 動きベクトル生成装置および動きベクトル生成方法
US20100177411A1 (en) 2009-01-09 2010-07-15 Shashikant Hegde Wafer level lens replication on micro-electrical-mechanical systems
US8315476B1 (en) 2009-01-20 2012-11-20 Adobe Systems Incorporated Super-resolution with the focused plenoptic camera
US8189089B1 (en) 2009-01-20 2012-05-29 Adobe Systems Incorporated Methods and apparatus for reducing plenoptic camera artifacts
US8300108B2 (en) 2009-02-02 2012-10-30 L-3 Communications Cincinnati Electronics Corporation Multi-channel imaging devices comprising unit cells
US20100194860A1 (en) 2009-02-03 2010-08-05 Bit Cauldron Corporation Method of stereoscopic 3d image capture using a mobile device, cradle or dongle
US8761491B2 (en) 2009-02-06 2014-06-24 Himax Technologies Limited Stereo-matching processor using belief propagation
US8290301B2 (en) 2009-02-06 2012-10-16 Raytheon Company Optimized imaging system for collection of high resolution imagery
KR101776955B1 (ko) 2009-02-10 2017-09-08 소니 주식회사 고체 촬상 장치와 그 제조 방법, 및 전자 기기
JP4915423B2 (ja) 2009-02-19 2012-04-11 ソニー株式会社 画像処理装置、フォーカルプレーン歪み成分算出方法、画像処理プログラム及び記録媒体
WO2010095440A1 (ja) 2009-02-20 2010-08-26 パナソニック株式会社 記録媒体、再生装置、及び集積回路
US8520970B2 (en) 2010-04-23 2013-08-27 Flir Systems Ab Infrared resolution and contrast enhancement with fusion
KR20100099896A (ko) 2009-03-04 2010-09-15 삼성전자주식회사 메타데이터 생성 방법 및 장치, 그 메타데이터를 이용하여 영상을 처리하는 방법 및 장치
US8207759B2 (en) 2009-03-12 2012-06-26 Fairchild Semiconductor Corporation MIPI analog switch for automatic selection of multiple inputs based on clock voltages
US8542287B2 (en) 2009-03-19 2013-09-24 Digitaloptics Corporation Dual sensor camera
US8450821B2 (en) 2009-03-26 2013-05-28 Micron Technology, Inc. Method and apparatus providing combined spacer and optical lens element
US8106949B2 (en) 2009-03-26 2012-01-31 Seiko Epson Corporation Small memory footprint light transport matrix capture
US7901095B2 (en) 2009-03-27 2011-03-08 Seiko Epson Corporation Resolution scalable view projection
JP4529010B1 (ja) 2009-03-30 2010-08-25 シャープ株式会社 撮像装置
JP5222205B2 (ja) 2009-04-03 2013-06-26 Ｋｄｄｉ株式会社 画像処理装置、方法及びプログラム
WO2010116370A1 (en) 2009-04-07 2010-10-14 Nextvision Stabilized Systems Ltd Camera systems having multiple image sensors combined with a single axis mechanical gimbal
US20100259610A1 (en) 2009-04-08 2010-10-14 Celsia, Llc Two-Dimensional Display Synced with Real World Object Movement
US8294099B2 (en) 2009-04-10 2012-10-23 Bae Systems Information And Electronic Systems Integration Inc. On-wafer butted microbolometer imaging array
US8717417B2 (en) 2009-04-16 2014-05-06 Primesense Ltd. Three-dimensional mapping and imaging
JP5463718B2 (ja) 2009-04-16 2014-04-09 ソニー株式会社 撮像装置
US20120249550A1 (en) 2009-04-18 2012-10-04 Lytro, Inc. Selective Transmission of Image Data Based on Device Attributes
US8908058B2 (en) 2009-04-18 2014-12-09 Lytro, Inc. Storage and transmission of pictures including multiple frames
ATE551841T1 (de) 2009-04-22 2012-04-15 Raytrix Gmbh Digitales bildgebungsverfahren zum synthetisieren eines bildes unter verwendung der mit einer plenoptischen kamera aufgezeichneten daten
CN101527046B (zh) 2009-04-28 2012-09-05 青岛海信数字多媒体技术国家重点实验室有限公司 一种运动检测方法、装置和系统
KR101671021B1 (ko) 2009-04-30 2016-11-10 삼성전자주식회사 스테레오스코픽 영상 데이터 전송 장치 및 방법
US8358365B2 (en) 2009-05-01 2013-01-22 Samsung Electronics Co., Ltd. Photo detecting device and image pickup device and method thereon
US8271544B2 (en) 2009-05-01 2012-09-18 Creative Technology Ltd Data file having more than one mode of operation
DE102009003110A1 (de) 2009-05-14 2010-11-18 Robert Bosch Gmbh Bildverarbeitungsverfahren zur Bestimmung von Tiefeninformation aus wenigstens zwei mittels eines Stereokamerasystems aufgenommenen Eingangsbildern
US8203633B2 (en) 2009-05-27 2012-06-19 Omnivision Technologies, Inc. Four-channel color filter array pattern
KR20100130423A (ko) 2009-06-03 2010-12-13 삼성전자주식회사 웨이퍼-레벨 렌즈 모듈 및 이를 구비하는 촬상 모듈
US8766808B2 (en) 2010-03-09 2014-07-01 Flir Systems, Inc. Imager with multiple sensor arrays
US10091439B2 (en) 2009-06-03 2018-10-02 Flir Systems, Inc. Imager with array of multiple infrared imaging modules
US8745677B2 (en) 2009-06-12 2014-06-03 Cygnus Broadband, Inc. Systems and methods for prioritization of data for intelligent discard in a communication network
CN101931742B (zh) 2009-06-18 2013-04-24 鸿富锦精密工业（深圳）有限公司 影像感测模组及取像模组
US20100321640A1 (en) 2009-06-22 2010-12-23 Industrial Technology Research Institute Projection display chip
JP5254893B2 (ja) 2009-06-26 2013-08-07 キヤノン株式会社 画像変換方法及び装置並びにパターン識別方法及び装置
WO2011008443A2 (en) 2009-06-29 2011-01-20 Lensvector Inc. Wafer level camera module with active optical element
US8208746B2 (en) 2009-06-29 2012-06-26 DigitalOptics Corporation Europe Limited Adaptive PSF estimation technique using a sharp preview and a blurred image
JP2011030184A (ja) 2009-07-01 2011-02-10 Sony Corp 画像処理装置、及び、画像処理方法
US8212197B2 (en) 2009-07-02 2012-07-03 Xerox Corporation Image sensor with integration time compensation
JP2011017764A (ja) 2009-07-07 2011-01-27 Konica Minolta Opto Inc 撮像レンズ，撮像装置及び携帯端末
US8345144B1 (en) 2009-07-15 2013-01-01 Adobe Systems Incorporated Methods and apparatus for rich image capture with focused plenoptic cameras
US20110019243A1 (en) 2009-07-21 2011-01-27 Constant Jr Henry J Stereoscopic form reader
CN101964866B (zh) 2009-07-24 2013-03-20 鸿富锦精密工业（深圳）有限公司 计算摄像型数码相机
GB0912970D0 (en) 2009-07-27 2009-09-02 St Microelectronics Res & Dev Improvements in or relating to a sensor and sensor system for a camera
US8436893B2 (en) 2009-07-31 2013-05-07 3Dmedia Corporation Methods, systems, and computer-readable storage media for selecting image capture positions to generate three-dimensional (3D) images
EP2293586A1 (en) 2009-08-04 2011-03-09 Samsung Electronics Co., Ltd. Method and system to transform stereo content
US8577183B2 (en) 2009-08-05 2013-11-05 Raytheon Company Resolution on demand
WO2011018678A1 (en) 2009-08-11 2011-02-17 Ether Precision, Inc. Method and device for aligning a lens with an optical system
US8320666B2 (en) 2009-08-14 2012-11-27 Genesis Group Inc. Real-time image and video matting
JP2011044801A (ja) 2009-08-19 2011-03-03 Toshiba Corp 画像処理装置
US8154632B2 (en) 2009-08-24 2012-04-10 Lifesize Communications, Inc. Detection of defective pixels in an image sensor
KR101680300B1 (ko) 2009-08-31 2016-11-28 삼성전자주식회사 액체 렌즈 및 그 제조방법
US9274699B2 (en) 2009-09-03 2016-03-01 Obscura Digital User interface for a large scale multi-user, multi-touch system
US8411146B2 (en) 2009-09-04 2013-04-02 Lockheed Martin Corporation Single camera color and infrared polarimetric imaging
EP2476248A1 (en) 2009-09-07 2012-07-18 Nokia Corp. An apparatus
FR2950153B1 (fr) 2009-09-15 2011-12-23 Commissariat Energie Atomique Dispositif optique a membrane deformable a actionnement piezoelectrique
US20140076336A1 (en) 2009-09-17 2014-03-20 Ascentia Health, Inc. Ear insert for relief of tmj discomfort and headaches
US8754941B1 (en) 2009-09-22 2014-06-17 Altia Systems, Inc. Multi-imager video camera with frame-by-frame view switching
KR101727094B1 (ko) 2009-10-02 2017-04-17 코닌클리케 필립스 엔.브이. ３ｄ 비디오에서 추가 뷰들을 생성하기 위한 뷰포인트들을 선택하는 방법
US8199165B2 (en) 2009-10-14 2012-06-12 Hewlett-Packard Development Company, L.P. Methods and systems for object segmentation in digital images
DE102009049387B4 (de) 2009-10-14 2016-05-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Bildverarbeitungsvorrichtung und Verfahren zur optischen Abbildung
EP2499829B1 (en) 2009-10-14 2019-04-17 Dolby International AB Methods and devices for depth map processing
US8502909B2 (en) 2009-10-19 2013-08-06 Pixar Super light-field lens
US20110207074A1 (en) 2009-10-26 2011-08-25 Olaf Andrew Hall-Holt Dental imaging system and method
EP2494402B1 (en) 2009-10-30 2018-04-18 Hewlett-Packard Development Company, L.P. Stereo display systems
CN102598652B (zh) * 2009-10-30 2015-08-12 佳能株式会社 信息处理设备和方法
US8546737B2 (en) 2009-10-30 2013-10-01 Invisage Technologies, Inc. Systems and methods for color binning
WO2011055655A1 (ja) 2009-11-05 2011-05-12 コニカミノルタオプト株式会社 撮像装置、光学ユニット、ウエハレンズ積層体及びウエハレンズ積層体の製造方法
US8654195B2 (en) 2009-11-13 2014-02-18 Fujifilm Corporation Distance measuring apparatus, distance measuring method, distance measuring program, distance measuring system, and image pickup apparatus
TR200908688A2 (tr) 2009-11-17 2011-06-21 Vestel Elektron�K San. Ve T�C. A.�. Çoklu görüntülü videoda derinlik dengelemeli gürültü azaltımı.
JP5399215B2 (ja) 2009-11-18 2014-01-29 シャープ株式会社 多眼カメラ装置および電子情報機器
US8643701B2 (en) 2009-11-18 2014-02-04 University Of Illinois At Urbana-Champaign System for executing 3D propagation for depth image-based rendering
WO2011063347A2 (en) 2009-11-20 2011-05-26 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with heterogeneous imagers
WO2011066275A2 (en) 2009-11-25 2011-06-03 Massachusetts Institute Of Technology Actively addressable aperture light field camera
KR101608970B1 (ko) 2009-11-27 2016-04-05 삼성전자주식회사 광 필드 데이터를 이용한 영상 처리 장치 및 방법
US8400555B1 (en) 2009-12-01 2013-03-19 Adobe Systems Incorporated Focused plenoptic camera employing microlenses with different focal lengths
US8730338B2 (en) 2009-12-01 2014-05-20 Nokia Corporation Set of camera modules hinged on a body and functionally connected to a single actuator
JP5446797B2 (ja) 2009-12-04 2014-03-19 株式会社リコー 撮像装置
US8446492B2 (en) 2009-12-10 2013-05-21 Honda Motor Co., Ltd. Image capturing device, method of searching for occlusion region, and program
JP5387377B2 (ja) 2009-12-14 2014-01-15 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
US9030530B2 (en) 2009-12-15 2015-05-12 Thomson Licensing Stereo-image quality and disparity/depth indications
KR101281961B1 (ko) 2009-12-21 2013-07-03 한국전자통신연구원 깊이 영상 편집 방법 및 장치
US20110153248A1 (en) 2009-12-23 2011-06-23 Yeming Gu Ophthalmic quality metric system
EP2518995B1 (en) 2009-12-24 2018-08-22 Sharp Kabushiki Kaisha Multocular image pickup apparatus and multocular image pickup method
JP4983905B2 (ja) 2009-12-25 2012-07-25 カシオ計算機株式会社 撮像装置、３ｄモデリングデータ生成方法、および、プログラム
KR101643607B1 (ko) 2009-12-30 2016-08-10 삼성전자주식회사 영상 데이터 생성 방법 및 장치
CN102117576A (zh) 2009-12-31 2011-07-06 鸿富锦精密工业（深圳）有限公司 电子相框
CN102118551A (zh) 2009-12-31 2011-07-06 鸿富锦精密工业（深圳）有限公司 成像装置
CN102131044B (zh) 2010-01-20 2014-03-26 鸿富锦精密工业（深圳）有限公司 相机模组
WO2011097508A2 (en) 2010-02-04 2011-08-11 University Of Southern California Combined spectral and polarimetry imaging and diagnostics
US8593512B2 (en) 2010-02-05 2013-11-26 Creative Technology Ltd Device and method for scanning an object on a working surface
US8326142B2 (en) 2010-02-12 2012-12-04 Sri International Optical image systems
JP5387856B2 (ja) 2010-02-16 2014-01-15 ソニー株式会社 画像処理装置、画像処理方法、画像処理プログラムおよび撮像装置
US8648918B2 (en) 2010-02-18 2014-02-11 Sony Corporation Method and system for obtaining a point spread function using motion information
US20130033579A1 (en) 2010-02-19 2013-02-07 Dual Aperture Inc. Processing multi-aperture image data
WO2011105814A2 (ko) 2010-02-23 2011-09-01 삼성전자 주식회사 다시점 정지 영상 서비스 제공 방법 및 그 장치, 다시점 정지 영상 서비스 수신 방법 및 그 장치
KR101802238B1 (ko) 2010-02-23 2017-11-29 삼성전자주식회사 휴대용 단말기에서 입체 영상 데이터를 생성하기 위한 장치 및 방법
WO2011106797A1 (en) 2010-02-28 2011-09-01 Osterhout Group, Inc. Projection triggering through an external marker in an augmented reality eyepiece
JP5776173B2 (ja) 2010-03-01 2015-09-09 株式会社リコー 撮像装置及び距離測定装置
US8817015B2 (en) 2010-03-03 2014-08-26 Adobe Systems Incorporated Methods, apparatus, and computer-readable storage media for depth-based rendering of focused plenoptic camera data
US20110222757A1 (en) 2010-03-10 2011-09-15 Gbo 3D Technology Pte. Ltd. Systems and methods for 2D image and spatial data capture for 3D stereo imaging
US20110221950A1 (en) 2010-03-12 2011-09-15 Doeke Jolt Oostra Camera device, wafer scale package
US8231814B2 (en) 2010-03-17 2012-07-31 Pelican Imaging Corporation Fabrication process for mastering imaging lens arrays
WO2011116345A1 (en) 2010-03-19 2011-09-22 Invisage Technologies, Inc. Dark current reduction in image sensors via dynamic electrical biasing
CN102428707B (zh) 2010-03-19 2015-03-11 松下电器产业株式会社 立体视用图像对位装置和立体视用图像对位方法
US8310538B2 (en) 2010-03-19 2012-11-13 Fujifilm Corporation Imaging apparatus, method, program, and recording medium used in the program
US8558903B2 (en) 2010-03-25 2013-10-15 Apple Inc. Accelerometer / gyro-facilitated video stabilization
US8285033B2 (en) 2010-04-01 2012-10-09 Seiko Epson Corporation Bi-affinity filter: a bilateral type filter for color images
US20110242342A1 (en) 2010-04-05 2011-10-06 Qualcomm Incorporated Combining data from multiple image sensors
US8896668B2 (en) 2010-04-05 2014-11-25 Qualcomm Incorporated Combining data from multiple image sensors
US8600186B2 (en) 2010-04-26 2013-12-03 City University Of Hong Kong Well focused catadioptric image acquisition
US9053573B2 (en) 2010-04-29 2015-06-09 Personify, Inc. Systems and methods for generating a virtual camera viewpoint for an image
US20110267264A1 (en) 2010-04-29 2011-11-03 Mccarthy John Display system with multiple optical sensors
US20130250150A1 (en) 2010-05-03 2013-09-26 Michael R. Malone Devices and methods for high-resolution image and video capture
US9256974B1 (en) 2010-05-04 2016-02-09 Stephen P Hines 3-D motion-parallax portable display software application
US8885890B2 (en) 2010-05-07 2014-11-11 Microsoft Corporation Depth map confidence filtering
KR101756910B1 (ko) 2010-05-11 2017-07-26 삼성전자주식회사 감쇠 패턴을 포함하는 마스크를 이용한 광 필드 영상 처리 장치 및 방법
KR20110124473A (ko) 2010-05-11 2011-11-17 삼성전자주식회사 다중시점 영상을 위한 3차원 영상 생성 장치 및 방법
JP5545016B2 (ja) 2010-05-12 2014-07-09 ソニー株式会社 撮像装置
EP2569935B1 (en) 2010-05-12 2016-12-28 Pelican Imaging Corporation Architectures for imager arrays and array cameras
US20130147979A1 (en) 2010-05-12 2013-06-13 Pelican Imaging Corporation Systems and methods for extending dynamic range of imager arrays by controlling pixel analog gain
WO2011142774A1 (en) 2010-05-14 2011-11-17 Omnivision Technologies, Inc. Alternative color image array and associated methods
US8576293B2 (en) 2010-05-18 2013-11-05 Aptina Imaging Corporation Multi-channel imager
SG176327A1 (en) 2010-05-20 2011-12-29 Sony Corp A system and method of image processing
US8602887B2 (en) 2010-06-03 2013-12-10 Microsoft Corporation Synthesis of information from multiple audiovisual sources
US20120062697A1 (en) 2010-06-09 2012-03-15 Chemimage Corporation Hyperspectral imaging sensor for tracking moving targets
DE102010024666A1 (de) 2010-06-18 2011-12-22 Hella Kgaa Hueck & Co. Verfahren zur optischen Selbstdiagnose eines Kamerasystems und Vorrichtung zur Durchführung eines solchen Verfahrens
US20110310980A1 (en) 2010-06-22 2011-12-22 Qualcomm Mems Technologies, Inc. Apparatus and methods for processing frames of video data across a display interface using a block-based encoding scheme and a tag id
KR20120000485A (ko) 2010-06-25 2012-01-02 삼성전자주식회사 예측 모드를 이용한 깊이 영상 부호화 장치 및 방법
CN101883291B (zh) 2010-06-29 2012-12-19 上海大学 感兴趣区域增强的视点绘制方法
EP2403234A1 (en) 2010-06-29 2012-01-04 Koninklijke Philips Electronics N.V. Method and system for constructing a compound image from data obtained by an array of image capturing devices
US8493432B2 (en) 2010-06-29 2013-07-23 Mitsubishi Electric Research Laboratories, Inc. Digital refocusing for wide-angle images using axial-cone cameras
WO2012001975A1 (ja) 2010-06-30 2012-01-05 富士フイルム株式会社 立体視表示用撮像の際の撮像領域内の障害物を判定する装置、方法およびプログラム
JP5392199B2 (ja) 2010-07-09 2014-01-22 ソニー株式会社 画像処理装置および方法
GB2482022A (en) 2010-07-16 2012-01-18 St Microelectronics Res & Dev Method for measuring resolution and aberration of lens and sensor
US9406132B2 (en) 2010-07-16 2016-08-02 Qualcomm Incorporated Vision-based quality metric for three dimensional video
US8386964B2 (en) 2010-07-21 2013-02-26 Microsoft Corporation Interactive image matting
US20120019700A1 (en) 2010-07-26 2012-01-26 American Technologies Network Corporation Optical system with automatic mixing of daylight and thermal vision digital video signals
US20120026342A1 (en) 2010-07-27 2012-02-02 Xiaoguang Yu Electronic system communicating with image sensor
US20120026451A1 (en) 2010-07-29 2012-02-02 Lensvector Inc. Tunable liquid crystal lens with single sided contacts
US8605136B2 (en) 2010-08-10 2013-12-10 Sony Corporation 2D to 3D user interface content data conversion
CN102375199B (zh) 2010-08-11 2015-06-03 鸿富锦精密工业（深圳）有限公司 相机模组
US8428342B2 (en) 2010-08-12 2013-04-23 At&T Intellectual Property I, L.P. Apparatus and method for providing three dimensional media content
US8836793B1 (en) 2010-08-13 2014-09-16 Opto-Knowledge Systems, Inc. True color night vision (TCNV) fusion
US8493482B2 (en) 2010-08-18 2013-07-23 Apple Inc. Dual image sensor image processing system and method
US8749694B2 (en) 2010-08-27 2014-06-10 Adobe Systems Incorporated Methods and apparatus for rendering focused plenoptic camera data using super-resolved demosaicing
US8665341B2 (en) 2010-08-27 2014-03-04 Adobe Systems Incorporated Methods and apparatus for rendering output images with simulated artistic effects from focused plenoptic camera data
US8724000B2 (en) 2010-08-27 2014-05-13 Adobe Systems Incorporated Methods and apparatus for super-resolution in integral photography
GB2483434A (en) 2010-08-31 2012-03-14 Sony Corp Detecting stereoscopic disparity by comparison with subset of pixel change points
JP5140210B2 (ja) 2010-08-31 2013-02-06 パナソニック株式会社 撮影装置および画像処理方法
US20120056982A1 (en) 2010-09-08 2012-03-08 Microsoft Corporation Depth camera based on structured light and stereo vision
US9013550B2 (en) 2010-09-09 2015-04-21 Qualcomm Incorporated Online reference generation and tracking for multi-user augmented reality
CN103299619A (zh) 2010-09-14 2013-09-11 汤姆逊许可公司 遮挡数据的压缩方法和装置
WO2012037075A1 (en) 2010-09-14 2012-03-22 Thomson Licensing Method of presenting three-dimensional content with disparity adjustments
US9013634B2 (en) 2010-09-14 2015-04-21 Adobe Systems Incorporated Methods and apparatus for video completion
US8780251B2 (en) 2010-09-20 2014-07-15 Canon Kabushiki Kaisha Image capture with focus adjustment
WO2012039043A1 (ja) 2010-09-22 2012-03-29 富士通株式会社 ステレオ画像生成装置、ステレオ画像生成方法及びステレオ画像生成用コンピュータプログラム
US20120086803A1 (en) 2010-10-11 2012-04-12 Malzbender Thomas G Method and system for distance estimation using projected symbol sequences
US20140192238A1 (en) 2010-10-24 2014-07-10 Linx Computational Imaging Ltd. System and Method for Imaging and Image Processing
US8531535B2 (en) 2010-10-28 2013-09-10 Google Inc. Methods and systems for processing a video for stabilization and retargeting
JP5657343B2 (ja) 2010-10-28 2015-01-21 株式会社ザクティ 電子機器
WO2012056437A1 (en) 2010-10-29 2012-05-03 École Polytechnique Fédérale De Lausanne (Epfl) Omnidirectional sensor array system
US9137503B2 (en) 2010-11-03 2015-09-15 Sony Corporation Lens and color filter arrangement, super-resolution camera system and method
US9065991B2 (en) 2010-11-04 2015-06-23 Lensvector Inc. Methods of adjustment free manufacture of focus free camera modules
US20120113232A1 (en) 2010-11-10 2012-05-10 Sony Pictures Technologies Inc. Multiple camera system and method for selectable interaxial separation
WO2012064106A2 (en) 2010-11-12 2012-05-18 Samsung Electronics Co., Ltd. Method and apparatus for video stabilization by compensating for view direction of camera
MY150361A (en) 2010-12-03 2013-12-31 Mimos Berhad Method of image segmentation using intensity and depth information
US20130258067A1 (en) 2010-12-08 2013-10-03 Thomson Licensing System and method for trinocular depth acquisition with triangular sensor
US8878950B2 (en) 2010-12-14 2014-11-04 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using super-resolution processes
JP5963422B2 (ja) 2010-12-17 2016-08-03 キヤノン株式会社 撮像装置、表示装置、コンピュータプログラムおよび立体像表示システム
US8682107B2 (en) 2010-12-22 2014-03-25 Electronics And Telecommunications Research Institute Apparatus and method for creating 3D content for oriental painting
US9177381B2 (en) 2010-12-22 2015-11-03 Nani Holdings IP, LLC Depth estimate determination, systems and methods
US8565709B2 (en) 2010-12-30 2013-10-22 Apple Inc. Digital signal filter
TWI535292B (zh) 2010-12-31 2016-05-21 派力肯影像公司 使用具有異質的成像器的整體式相機陣列的影像捕捉和處理
JP5699609B2 (ja) 2011-01-06 2015-04-15 ソニー株式会社 画像処理装置および画像処理方法
EP2666048A4 (en) 2011-01-20 2014-06-04 Fivefocal Llc PASSIV ATHERMALIZED INFRARED IMAGING SYSTEM AND MANUFACTURING METHOD THEREFOR
US8717467B2 (en) 2011-01-25 2014-05-06 Aptina Imaging Corporation Imaging systems with array cameras for depth sensing
US8581995B2 (en) 2011-01-25 2013-11-12 Aptina Imaging Corporation Method and apparatus for parallax correction in fused array imaging systems
JP5594477B2 (ja) 2011-01-26 2014-09-24 Ｎｌｔテクノロジー株式会社 画像表示装置、画像表示方法、及びプログラム
WO2012100829A1 (en) 2011-01-27 2012-08-02 Metaio Gmbh Method for determining correspondences between a first and a second image, and method for determining the pose of a camera
US8401242B2 (en) * 2011-01-31 2013-03-19 Microsoft Corporation Real-time camera tracking using depth maps
CA2767023C (en) 2011-02-09 2014-09-09 Research In Motion Limited Increased low light sensitivity for image sensors by combining quantum dot sensitivity to visible and infrared light
US20120200726A1 (en) 2011-02-09 2012-08-09 Research In Motion Limited Method of Controlling the Depth of Field for a Small Sensor Camera Using an Extension for EDOF
US8698885B2 (en) 2011-02-14 2014-04-15 Intuitive Surgical Operations, Inc. Methods and apparatus for demosaicing images with highly correlated color channels
US20140176592A1 (en) 2011-02-15 2014-06-26 Lytro, Inc. Configuring two-dimensional image processing based on light-field parameters
RU2551649C2 (ru) 2011-02-28 2015-05-27 Фуджифилм Корпорэйшн Устройство формирования цветного изображения
US8406548B2 (en) 2011-02-28 2013-03-26 Sony Corporation Method and apparatus for performing a blur rendering process on an image
US8537245B2 (en) 2011-03-04 2013-09-17 Hand Held Products, Inc. Imaging and decoding device with quantum dot imager
CA2769358C (en) 2011-03-08 2016-06-07 Research In Motion Limited Quantum dot image sensor with dummy pixels used for intensity calculations
US9565449B2 (en) 2011-03-10 2017-02-07 Qualcomm Incorporated Coding multiview video plus depth content
WO2012125706A2 (en) * 2011-03-15 2012-09-20 Board Of Trustees Of Michigan State University Real-time 3d shape measurement system
KR101792501B1 (ko) 2011-03-16 2017-11-21 한국전자통신연구원 특징기반의 스테레오 매칭 방법 및 장치
US8824821B2 (en) 2011-03-28 2014-09-02 Sony Corporation Method and apparatus for performing user inspired visual effects rendering on an image
US20120249853A1 (en) 2011-03-28 2012-10-04 Marc Krolczyk Digital camera for reviewing related images
US8422770B2 (en) 2011-03-30 2013-04-16 Mckesson Financial Holdings Method, apparatus and computer program product for displaying normalized medical images
US9030528B2 (en) 2011-04-04 2015-05-12 Apple Inc. Multi-zone imaging sensor and lens array
FR2974449A1 (fr) 2011-04-22 2012-10-26 Commissariat Energie Atomique Circuit integre imageur et dispositif de capture d'images stereoscopiques
US20120274626A1 (en) 2011-04-29 2012-11-01 Himax Media Solutions, Inc. Stereoscopic Image Generating Apparatus and Method
CN103503023B (zh) 2011-05-04 2016-07-06 索尼爱立信移动通讯有限公司 用于处理光场图像的方法、图形用户接口以及计算机程序产品
US8305456B1 (en) 2011-05-11 2012-11-06 Pelican Imaging Corporation Systems and methods for transmitting and receiving array camera image data
US8843346B2 (en) 2011-05-13 2014-09-23 Amazon Technologies, Inc. Using spatial information with device interaction
US9536312B2 (en) * 2011-05-16 2017-01-03 Microsoft Corporation Depth reconstruction using plural depth capture units
US8629901B2 (en) 2011-05-19 2014-01-14 National Taiwan University System and method of revising depth of a 3D image pair
US20120293489A1 (en) 2011-05-20 2012-11-22 Himax Technologies Limited Nonlinear depth remapping system and method thereof
JP5797016B2 (ja) 2011-05-30 2015-10-21 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP5762142B2 (ja) 2011-05-31 2015-08-12 キヤノン株式会社 撮像装置、画像処理装置およびその方法
US8648919B2 (en) 2011-06-06 2014-02-11 Apple Inc. Methods and systems for image stabilization
US8823813B2 (en) 2011-06-06 2014-09-02 Apple Inc. Correcting rolling shutter using image stabilization
US9635274B2 (en) 2011-06-15 2017-04-25 Microsoft Technology Licensing, Llc High resolution multispectral image capture
JP2013005259A (ja) 2011-06-17 2013-01-07 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
US20130265459A1 (en) 2011-06-28 2013-10-10 Pelican Imaging Corporation Optical arrangements for use with an array camera
WO2013003276A1 (en) 2011-06-28 2013-01-03 Pelican Imaging Corporation Optical arrangements for use with an array camera
US8773513B2 (en) 2011-07-01 2014-07-08 Seiko Epson Corporation Context and epsilon stereo constrained correspondence matching
US9300946B2 (en) 2011-07-08 2016-03-29 Personify, Inc. System and method for generating a depth map and fusing images from a camera array
JP2013024886A (ja) 2011-07-14 2013-02-04 Sanyo Electric Co Ltd 撮像装置
JP5780865B2 (ja) 2011-07-14 2015-09-16 キヤノン株式会社 画像処理装置、撮像システム、画像処理システム
US9363535B2 (en) 2011-07-22 2016-06-07 Qualcomm Incorporated Coding motion depth maps with depth range variation
US9264689B2 (en) 2011-08-04 2016-02-16 Semiconductor Components Industries, Llc Systems and methods for color compensation in multi-view video
CA2844602A1 (en) 2011-08-09 2013-02-14 Samsung Electronics Co., Ltd. Method and device for encoding a depth map of multi viewpoint video data, and method and device for decoding the encoded depth map
US8432435B2 (en) 2011-08-10 2013-04-30 Seiko Epson Corporation Ray image modeling for fast catadioptric light field rendering
US8866951B2 (en) 2011-08-24 2014-10-21 Aptina Imaging Corporation Super-resolution imaging systems
US9009952B2 (en) 2011-08-29 2015-04-21 Asm Technology Singapore Pte. Ltd. Apparatus for assembling a lens module and an image sensor to form a camera module, and a method of assembling the same
US8704895B2 (en) 2011-08-29 2014-04-22 Qualcomm Incorporated Fast calibration of displays using spectral-based colorimetrically calibrated multicolor camera
WO2013043761A1 (en) 2011-09-19 2013-03-28 Pelican Imaging Corporation Determining depth from multiple views of a scene that include aliasing using hypothesized fusion
JP5879549B2 (ja) 2011-09-20 2016-03-08 パナソニックＩｐマネジメント株式会社 ライトフィールド撮像装置、および画像処理装置
JP5544047B2 (ja) 2011-09-21 2014-07-09 富士フイルム株式会社 画像処理装置、方法及びプログラム並びに立体撮像装置、携帯電子機器、プリンタ及び立体画像再生装置
US8724893B2 (en) 2011-09-27 2014-05-13 Thomson Licensing Method and system for color look up table generation
US9129183B2 (en) 2011-09-28 2015-09-08 Pelican Imaging Corporation Systems and methods for encoding light field image files
US8908083B2 (en) 2011-09-28 2014-12-09 Apple Inc. Dynamic autofocus operations
JP5831105B2 (ja) 2011-09-30 2015-12-09 ソニー株式会社 撮像装置及び撮像方法
CN104185808A (zh) 2011-10-11 2014-12-03 派力肯影像公司 包括自适应光学元件的透镜堆叠阵列
EP2582128A3 (en) 2011-10-12 2013-06-19 Canon Kabushiki Kaisha Image-capturing device
US20130107061A1 (en) 2011-10-31 2013-05-02 Ankit Kumar Multi-resolution ip camera
JP5149435B1 (ja) 2011-11-04 2013-02-20 株式会社東芝 映像処理装置および映像処理方法
US9692991B2 (en) 2011-11-04 2017-06-27 Qualcomm Incorporated Multispectral imaging system
EP2590138B1 (en) 2011-11-07 2019-09-11 Flir Systems AB Gas visualization arrangements, devices, and methods
GB201119405D0 (en) * 2011-11-10 2011-12-21 Univ East Anglia Spectral estimation method,system and reference target design system
WO2013072875A2 (en) 2011-11-15 2013-05-23 Technion Research & Development Foundation Ltd. Method and system for transmitting light
US20130121559A1 (en) 2011-11-16 2013-05-16 Sharp Laboratories Of America, Inc. Mobile device with three dimensional augmented reality
US20130127988A1 (en) 2011-11-17 2013-05-23 Sen Wang Modifying the viewpoint of a digital image
US9661310B2 (en) 2011-11-28 2017-05-23 ArcSoft Hanzhou Co., Ltd. Image depth recovering method and stereo image fetching device thereof
JP6019568B2 (ja) 2011-11-28 2016-11-02 ソニー株式会社 画像処理装置および方法、記録媒体、並びに、プログラム
EP2600316A1 (en) 2011-11-29 2013-06-05 Inria Institut National de Recherche en Informatique et en Automatique Method, system and software program for shooting and editing a film comprising at least one image of a 3D computer-generated animation
KR101862404B1 (ko) 2011-12-09 2018-05-29 엘지이노텍 주식회사 스테레오 영상의 노이즈 제거장치 및 방법
US9117295B2 (en) 2011-12-20 2015-08-25 Adobe Systems Incorporated Refinement of depth maps by fusion of multiple estimates
WO2013099169A1 (ja) 2011-12-27 2013-07-04 パナソニック株式会社 ステレオ撮影装置
US8941722B2 (en) 2012-01-03 2015-01-27 Sony Corporation Automatic intelligent focus control of video
WO2013119706A1 (en) 2012-02-06 2013-08-15 Pelican Imaging Corporation Systems and methods for extending dynamic range of imager arrays by controlling pixel analog gain
US9172889B2 (en) 2012-02-09 2015-10-27 Semiconductor Components Industries, Llc Imaging systems and methods for generating auto-exposed high-dynamic-range images
EP2817955B1 (en) 2012-02-21 2018-04-11 FotoNation Cayman Limited Systems and methods for the manipulation of captured light field image data
JP5860304B2 (ja) 2012-02-23 2016-02-16 キヤノン株式会社 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP5924978B2 (ja) 2012-02-28 2016-05-25 キヤノン株式会社 画像処理装置および画像処理方法
JP6112824B2 (ja) 2012-02-28 2017-04-12 キヤノン株式会社 画像処理方法および装置、プログラム。
US8831377B2 (en) 2012-02-28 2014-09-09 Lytro, Inc. Compensating for variation in microlens position during light-field image processing
EP2637139A1 (en) 2012-03-05 2013-09-11 Thomson Licensing Method and apparatus for bi-layer segmentation
WO2013151883A1 (en) * 2012-04-02 2013-10-10 Intel Corporation Systems, methods, and computer program products for runtime adjustment of image warping parameters in a multi-camera system
US9156168B2 (en) 2012-04-13 2015-10-13 Automation Engineering, Inc. Active alignment using continuous motion sweeps and temporal interpolation
WO2013158636A1 (en) 2012-04-16 2013-10-24 Azizian Mahdi Dual-mode stereo imaging system for tracking and control in surgical and interventional procedures
US8994845B2 (en) 2012-04-27 2015-03-31 Blackberry Limited System and method of adjusting a camera based on image data
US9210392B2 (en) 2012-05-01 2015-12-08 Pelican Imaging Coporation Camera modules patterned with pi filter groups
JP2015521411A (ja) 2012-05-01 2015-07-27 ペリカン イメージング コーポレイション πフィルタ群を用いてパターン化されたカメラモジュール
US20150085073A1 (en) 2012-05-02 2015-03-26 Koninklijke Philips N.V. Quality metric for processing 3d video
US9300932B2 (en) 2012-05-09 2016-03-29 Lytro, Inc. Optimization of optical systems for improved light field capture and manipulation
US9846960B2 (en) 2012-05-31 2017-12-19 Microsoft Technology Licensing, Llc Automated camera array calibration
US9179126B2 (en) 2012-06-01 2015-11-03 Ostendo Technologies, Inc. Spatio-temporal light field cameras
WO2013182873A1 (en) 2012-06-08 2013-12-12 Nokia Corporation A multi-frame image calibrator
EP2677734A3 (en) 2012-06-18 2016-01-13 Sony Mobile Communications AB Array camera imaging system and method
JP5929553B2 (ja) 2012-06-28 2016-06-08 ソニー株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
CN104508681B (zh) 2012-06-28 2018-10-30 Fotonation开曼有限公司 用于检测有缺陷的相机阵列、光学器件阵列和传感器的系统及方法
US8896594B2 (en) 2012-06-30 2014-11-25 Microsoft Corporation Depth sensing with depth-adaptive illumination
US20140002674A1 (en) 2012-06-30 2014-01-02 Pelican Imaging Corporation Systems and Methods for Manufacturing Camera Modules Using Active Alignment of Lens Stack Arrays and Sensors
KR20140010553A (ko) * 2012-07-13 2014-01-27 삼성전자주식회사 픽셀 어레이, 이를 포함하는 이미지 센서, 및 상기 이미지 센서의 로컬 다크 전류 보상 방법
US9147251B2 (en) 2012-08-03 2015-09-29 Flyby Media, Inc. Systems and methods for efficient 3D tracking of weakly textured planar surfaces for augmented reality applications
US8988566B2 (en) 2012-08-09 2015-03-24 Omnivision Technologies, Inc. Lens array for partitioned image sensor having color filters
EP3869797B1 (en) 2012-08-21 2023-07-19 Adeia Imaging LLC Method for depth detection in images captured using array cameras
US20140055632A1 (en) 2012-08-23 2014-02-27 Pelican Imaging Corporation Feature based high resolution motion estimation from low resolution images captured using an array source
CN104584545B (zh) 2012-08-31 2017-05-31 索尼公司 图像处理装置、图像处理方法、以及信息处理装置
US9214013B2 (en) 2012-09-14 2015-12-15 Pelican Imaging Corporation Systems and methods for correcting user identified artifacts in light field images
US9373088B2 (en) 2012-09-17 2016-06-21 The Board Of Trustees Of The Leland Stanford Junior University Brain machine interface utilizing a discrete action state decoder in parallel with a continuous decoder for a neural prosthetic device
US9143673B2 (en) 2012-09-19 2015-09-22 Google Inc. Imaging device with a plurality of pixel arrays
US20140092281A1 (en) 2012-09-28 2014-04-03 Pelican Imaging Corporation Generating Images from Light Fields Utilizing Virtual Viewpoints
TW201415879A (zh) 2012-10-12 2014-04-16 Wintek Corp 影像擷取裝置
WO2014070927A2 (en) 2012-10-31 2014-05-08 Invisage Technologies, Inc. Expanded-field-of-view image and video capture
WO2014078443A1 (en) 2012-11-13 2014-05-22 Pelican Imaging Corporation Systems and methods for array camera focal plane control
KR101954192B1 (ko) 2012-11-15 2019-03-05 엘지전자 주식회사 어레이 카메라, 휴대 단말기 및 그 동작 방법
US9076205B2 (en) 2012-11-19 2015-07-07 Adobe Systems Incorporated Edge direction and curve based image de-blurring
TWI525382B (zh) 2012-11-21 2016-03-11 豪威科技股份有限公司 包括至少一拜耳型攝影機的攝影機陣列系統及關聯的方法
CN116405747A (zh) 2012-11-28 2023-07-07 核心光电有限公司 多孔径成像系统以及通过多孔径成像系统获取图像的方法
US9001226B1 (en) 2012-12-04 2015-04-07 Lytro, Inc. Capturing and relighting images using multiple devices
US9088369B2 (en) 2012-12-28 2015-07-21 Synergy Microwave Corporation Self injection locked phase locked looped optoelectronic oscillator
US20140183334A1 (en) 2013-01-03 2014-07-03 Visera Technologies Company Limited Image sensor for light field device and manufacturing method thereof
US9270876B2 (en) 2013-01-05 2016-02-23 The Lightco Inc. Methods and apparatus for using multiple optical chains in parallel with multiple different exposure times
KR20140094395A (ko) 2013-01-22 2014-07-30 삼성전자주식회사 복수 개의 마이크로렌즈를 사용하여 촬영하는 촬영 장치 및 그 촬영 방법
KR20140099098A (ko) * 2013-02-01 2014-08-11 한국전자통신연구원 능동 스테레오 매칭 방법 및 그 장치
US9769365B1 (en) 2013-02-15 2017-09-19 Red.Com, Inc. Dense field imaging
US9462164B2 (en) 2013-02-21 2016-10-04 Pelican Imaging Corporation Systems and methods for generating compressed light field representation data using captured light fields, array geometry, and parallax information
WO2014133974A1 (en) 2013-02-24 2014-09-04 Pelican Imaging Corporation Thin form computational and modular array cameras
US20150002734A1 (en) 2013-07-01 2015-01-01 Motorola Mobility Llc Electronic Device with Modulated Light Flash Operation for Rolling Shutter Image Sensor
US9638883B1 (en) 2013-03-04 2017-05-02 Fotonation Cayman Limited Passive alignment of array camera modules constructed from lens stack arrays and sensors based upon alignment information obtained during manufacture of array camera modules using an active alignment process
WO2014138697A1 (en) 2013-03-08 2014-09-12 Pelican Imaging Corporation Systems and methods for high dynamic range imaging using array cameras
US8866912B2 (en) 2013-03-10 2014-10-21 Pelican Imaging Corporation System and methods for calibration of an array camera using a single captured image
US9521416B1 (en) 2013-03-11 2016-12-13 Kip Peli P1 Lp Systems and methods for image data compression
US9519972B2 (en) 2013-03-13 2016-12-13 Kip Peli P1 Lp Systems and methods for synthesizing images from image data captured by an array camera using restricted depth of field depth maps in which depth estimation precision varies
WO2014160142A1 (en) 2013-03-13 2014-10-02 Pelican Imaging Corporation Systems and methods for using alignment to increase sampling diversity of cameras in an array camera module
WO2014164909A1 (en) 2013-03-13 2014-10-09 Pelican Imaging Corporation Array camera architecture implementing quantum film sensors
US9124831B2 (en) 2013-03-13 2015-09-01 Pelican Imaging Corporation System and methods for calibration of an array camera
US9106784B2 (en) 2013-03-13 2015-08-11 Pelican Imaging Corporation Systems and methods for controlling aliasing in images captured by an array camera for use in super-resolution processing
US9100586B2 (en) 2013-03-14 2015-08-04 Pelican Imaging Corporation Systems and methods for photometric normalization in array cameras
WO2014159779A1 (en) 2013-03-14 2014-10-02 Pelican Imaging Corporation Systems and methods for reducing motion blur in images or video in ultra low light with array cameras
US20140267286A1 (en) 2013-03-15 2014-09-18 Pelican Imaging Corporation Systems and Methods for Providing an Array Projector
WO2014150856A1 (en) 2013-03-15 2014-09-25 Pelican Imaging Corporation Array camera implementing quantum dot color filters
US9633442B2 (en) 2013-03-15 2017-04-25 Fotonation Cayman Limited Array cameras including an array camera module augmented with a separate camera
JP2016524125A (ja) 2013-03-15 2016-08-12 ペリカン イメージング コーポレイション カメラアレイを用いた立体撮像のためのシステムおよび方法
US9445003B1 (en) 2013-03-15 2016-09-13 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using image deconvolution based on motion and depth information
US9497429B2 (en) 2013-03-15 2016-11-15 Pelican Imaging Corporation Extended color processing on pelican array cameras
US10122993B2 (en) 2013-03-15 2018-11-06 Fotonation Limited Autofocus system for a conventional camera that uses depth information from an array camera
WO2014144157A1 (en) 2013-03-15 2014-09-18 Pelican Imaging Corporation Optical arrangements for use with an array camera
KR102103983B1 (ko) 2013-07-31 2020-04-23 삼성전자주식회사 시프트된 마이크로 렌즈 어레이를 구비하는 라이트 필드 영상 획득 장치
US9898856B2 (en) 2013-09-27 2018-02-20 Fotonation Cayman Limited Systems and methods for depth-assisted perspective distortion correction
US20150098079A1 (en) 2013-10-09 2015-04-09 Hilti Aktiengesellschaft System and method for camera based position and orientation measurement
US20150104101A1 (en) 2013-10-14 2015-04-16 Apple Inc. Method and ui for z depth image segmentation
US9264592B2 (en) 2013-11-07 2016-02-16 Pelican Imaging Corporation Array camera modules incorporating independently aligned lens stacks
WO2015074078A1 (en) 2013-11-18 2015-05-21 Pelican Imaging Corporation Estimating depth from projected texture using camera arrays
WO2015081279A1 (en) 2013-11-26 2015-06-04 Pelican Imaging Corporation Array camera configurations incorporating multiple constituent array cameras
CN103796004B (zh) * 2014-02-13 2015-09-30 西安交通大学 一种主动结构光的双目深度感知方法
US9979878B2 (en) 2014-02-21 2018-05-22 Light Labs Inc. Intuitive camera user interface methods and apparatus
JP6211435B2 (ja) 2014-02-26 2017-10-11 株式会社アドバンテスト 半導体装置の製造方法
WO2015134996A1 (en) 2014-03-07 2015-09-11 Pelican Imaging Corporation System and methods for depth regularization and semiautomatic interactive matting using rgb-d images
KR102397254B1 (ko) 2014-03-28 2022-05-12 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 수술 장면의 정량적인 3차원 영상
WO2015183824A1 (en) 2014-05-26 2015-12-03 Pelican Imaging Corporation Autofocus system for a conventional camera that uses depth information from an array camera
US9521319B2 (en) 2014-06-18 2016-12-13 Pelican Imaging Corporation Array cameras and array camera modules including spectral filters disposed outside of a constituent image sensor
US20150381972A1 (en) * 2014-06-30 2015-12-31 Microsoft Corporation Depth estimation using multi-view stereo and a calibrated projector
US9992483B2 (en) 2014-09-03 2018-06-05 Intel Corporation Imaging architecture for depth camera mode with mode switching
US10250871B2 (en) 2014-09-29 2019-04-02 Fotonation Limited Systems and methods for dynamic calibration of array cameras

Cited By (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11412158B2 (en) 2008-05-20 2022-08-09 Fotonation Limited Capturing and processing of images including occlusions focused on an image sensor by a lens stack array
US11792538B2 (en) 2008-05-20 2023-10-17 Adeia Imaging Llc Capturing and processing of images including occlusions focused on an image sensor by a lens stack array
US10306120B2 (en) 2009-11-20 2019-05-28 Fotonation Limited Capturing and processing of images captured by camera arrays incorporating cameras with telephoto and conventional lenses to generate depth maps
US10366472B2 (en) 2010-12-14 2019-07-30 Fotonation Limited Systems and methods for synthesizing high resolution images using images captured by an array of independently controllable imagers
US11423513B2 (en) 2010-12-14 2022-08-23 Fotonation Limited Systems and methods for synthesizing high resolution images using images captured by an array of independently controllable imagers
US11875475B2 (en) 2010-12-14 2024-01-16 Adeia Imaging Llc Systems and methods for synthesizing high resolution images using images captured by an array of independently controllable imagers
US11729365B2 (en) 2011-09-28 2023-08-15 Adela Imaging LLC Systems and methods for encoding image files containing depth maps stored as metadata
US10984276B2 (en) 2011-09-28 2021-04-20 Fotonation Limited Systems and methods for encoding image files containing depth maps stored as metadata
US10430682B2 (en) 2011-09-28 2019-10-01 Fotonation Limited Systems and methods for decoding image files containing depth maps stored as metadata
US10311649B2 (en) 2012-02-21 2019-06-04 Fotonation Limited Systems and method for performing depth based image editing
US10334241B2 (en) 2012-06-28 2019-06-25 Fotonation Limited Systems and methods for detecting defective camera arrays and optic arrays
US10261219B2 (en) 2012-06-30 2019-04-16 Fotonation Limited Systems and methods for manufacturing camera modules using active alignment of lens stack arrays and sensors
US11022725B2 (en) 2012-06-30 2021-06-01 Fotonation Limited Systems and methods for manufacturing camera modules using active alignment of lens stack arrays and sensors
US10380752B2 (en) 2012-08-21 2019-08-13 Fotonation Limited Systems and methods for estimating depth and visibility from a reference viewpoint for pixels in a set of images captured from different viewpoints
US10462362B2 (en) 2012-08-23 2019-10-29 Fotonation Limited Feature based high resolution motion estimation from low resolution images captured using an array source
US10390005B2 (en) 2012-09-28 2019-08-20 Fotonation Limited Generating images from light fields utilizing virtual viewpoints
US11570423B2 (en) 2013-03-10 2023-01-31 Adeia Imaging Llc System and methods for calibration of an array camera
US11985293B2 (en) 2013-03-10 2024-05-14 Adeia Imaging Llc System and methods for calibration of an array camera
US10958892B2 (en) 2013-03-10 2021-03-23 Fotonation Limited System and methods for calibration of an array camera
US10225543B2 (en) 2013-03-10 2019-03-05 Fotonation Limited System and methods for calibration of an array camera
US11272161B2 (en) 2013-03-10 2022-03-08 Fotonation Limited System and methods for calibration of an array camera
US10127682B2 (en) 2013-03-13 2018-11-13 Fotonation Limited System and methods for calibration of an array camera
US10547772B2 (en) 2013-03-14 2020-01-28 Fotonation Limited Systems and methods for reducing motion blur in images or video in ultra low light with array cameras
US10638099B2 (en) 2013-03-15 2020-04-28 Fotonation Limited Extended color processing on pelican array cameras
US10674138B2 (en) 2013-03-15 2020-06-02 Fotonation Limited Autofocus system for a conventional camera that uses depth information from an array camera
US10182216B2 (en) 2013-03-15 2019-01-15 Fotonation Limited Extended color processing on pelican array cameras
US10542208B2 (en) 2013-03-15 2020-01-21 Fotonation Limited Systems and methods for synthesizing high resolution images using image deconvolution based on motion and depth information
US10455218B2 (en) 2013-03-15 2019-10-22 Fotonation Limited Systems and methods for estimating depth using stereo array cameras
US10540806B2 (en) 2013-09-27 2020-01-21 Fotonation Limited Systems and methods for depth-assisted perspective distortion correction
US10767981B2 (en) 2013-11-18 2020-09-08 Fotonation Limited Systems and methods for estimating depth from projected texture using camera arrays
US11486698B2 (en) 2013-11-18 2022-11-01 Fotonation Limited Systems and methods for estimating depth from projected texture using camera arrays
US10708492B2 (en) 2013-11-26 2020-07-07 Fotonation Limited Array camera configurations incorporating constituent array cameras and constituent cameras
US10089740B2 (en) 2014-03-07 2018-10-02 Fotonation Limited System and methods for depth regularization and semiautomatic interactive matting using RGB-D images
US10574905B2 (en) 2014-03-07 2020-02-25 Fotonation Limited System and methods for depth regularization and semiautomatic interactive matting using RGB-D images
US11546576B2 (en) 2014-09-29 2023-01-03 Adeia Imaging Llc Systems and methods for dynamic calibration of array cameras
US10250871B2 (en) 2014-09-29 2019-04-02 Fotonation Limited Systems and methods for dynamic calibration of array cameras
US11270110B2 (en) 2019-09-17 2022-03-08 Boston Polarimetrics, Inc. Systems and methods for surface modeling using polarization cues
US11699273B2 (en) 2019-09-17 2023-07-11 Intrinsic Innovation Llc Systems and methods for surface modeling using polarization cues
US11982775B2 (en) 2019-10-07 2024-05-14 Intrinsic Innovation Llc Systems and methods for augmentation of sensor systems and imaging systems with polarization
US11525906B2 (en) 2019-10-07 2022-12-13 Intrinsic Innovation Llc Systems and methods for augmentation of sensor systems and imaging systems with polarization
US11302012B2 (en) 2019-11-30 2022-04-12 Boston Polarimetrics, Inc. Systems and methods for transparent object segmentation using polarization cues
US11842495B2 (en) 2019-11-30 2023-12-12 Intrinsic Innovation Llc Systems and methods for transparent object segmentation using polarization cues
US11580667B2 (en) 2020-01-29 2023-02-14 Intrinsic Innovation Llc Systems and methods for characterizing object pose detection and measurement systems
US11797863B2 (en) 2020-01-30 2023-10-24 Intrinsic Innovation Llc Systems and methods for synthesizing data for training statistical models on different imaging modalities including polarized images
US11953700B2 (en) 2020-05-27 2024-04-09 Intrinsic Innovation Llc Multi-aperture polarization optical systems using beam splitters
US12002233B2 (en) 2021-01-29 2024-06-04 Adeia Imaging Llc Systems and methods for estimating depth and visibility from a reference viewpoint for pixels in a set of images captured from different viewpoints
US11290658B1 (en) 2021-04-15 2022-03-29 Boston Polarimetrics, Inc. Systems and methods for camera exposure control
US11954886B2 (en) 2021-04-15 2024-04-09 Intrinsic Innovation Llc Systems and methods for six-degree of freedom pose estimation of deformable objects
US11683594B2 (en) 2021-04-15 2023-06-20 Intrinsic Innovation Llc Systems and methods for camera exposure control
US11689813B2 (en) 2021-07-01 2023-06-27 Intrinsic Innovation Llc Systems and methods for high dynamic range imaging using crossed polarizers

Also Published As

Publication number Publication date
EP3201877A1 (en) 2017-08-09
EP3467776A1 (en) 2019-04-10
JP2017531976A (ja) 2017-10-26
US11546576B2 (en) 2023-01-03
CN107077743B (zh) 2021-03-23
US20210281828A1 (en) 2021-09-09
WO2016054089A1 (en) 2016-04-07
US20190230348A1 (en) 2019-07-25
US20230336707A1 (en) 2023-10-19
US20170244960A1 (en) 2017-08-24
CN107077743A (zh) 2017-08-18
US10944961B2 (en) 2021-03-09
US10250871B2 (en) 2019-04-02
EP3201877A4 (en) 2018-03-14
CN113256730B (zh) 2023-09-05
CN113256730A (zh) 2021-08-13
EP3201877B1 (en) 2018-12-19

Similar Documents

Publication Publication Date Title
US11546576B2 (en) Systems and methods for dynamic calibration of array cameras
US11272161B2 (en) System and methods for calibration of an array camera
US9519972B2 (en) Systems and methods for synthesizing images from image data captured by an array camera using restricted depth of field depth maps in which depth estimation precision varies
CN104685513B (zh) 根据使用阵列源捕捉的低分辨率图像的基于特征的高分辨率运动估计
US9214013B2 (en) Systems and methods for correcting user identified artifacts in light field images
US20150237329A1 (en) Systems and Methods for Estimating Depth Using Ad Hoc Stereo Array Cameras
KR20160030228A (ko) 이미징 디바이스 모델링 및 캘리브레이션을 위한 시스템 및 방법
CA2881131A1 (en) Systems and methods for parallax detection and correction in images captured using array cameras
KR20050058085A (ko) 변이지도 및 깊이지도의 융합을 통한 3차원 장면 모델생성 장치 및 그 방법
JP7378219B2 (ja) 撮像装置、画像処理装置、制御方法、及びプログラム
JP2018046340A (ja) 撮像装置および被写体情報取得方法
KR101823657B1 (ko) 이종 카메라를 위한 스테레오 영상 교정 방법
CN111557090A (zh) 信息处理设备、信息处理方法、程序和可互换透镜