JP2015521411A - πフィルタ群を用いてパターン化されたカメラモジュール - Google Patents
πフィルタ群を用いてパターン化されたカメラモジュール Download PDFInfo
- Publication number
- JP2015521411A JP2015521411A JP2015510443A JP2015510443A JP2015521411A JP 2015521411 A JP2015521411 A JP 2015521411A JP 2015510443 A JP2015510443 A JP 2015510443A JP 2015510443 A JP2015510443 A JP 2015510443A JP 2015521411 A JP2015521411 A JP 2015521411A
- Authority
- JP
- Japan
- Prior art keywords
- camera
- array
- cameras
- color
- camera module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4015—Demosaicing, e.g. colour filter array [CFA], Bayer pattern
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/13—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with multiple sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/048—Picture signal generators using solid-state devices having several pick-up sensors
Abstract
本発明の実施形態によるシステムおよび方法は、πフィルタ群を用いて、アレイカメラモジュールをパターン化する。一実施形態では、アレイカメラモジュールは、複数の焦点面を含むM?Nイメージャアレイであって、各焦点面がピクセルのアレイを含む、M?Nイメージャアレイと、レンズスタックのM?N光学系アレイであって。各レンズスタックが焦点面に対応し、各レンズスタックがその対応する焦点面上にシーンの画像を形成する、M?N光学系アレイとを含み、レンズスタックおよび焦点面の各対は、したがって、カメラを規定し、カメラのM?Nアレイ内の少なくとも1つの行は、少なくとも1つの赤色カメラ、1つの緑色カメラ、および、1つの青色カメラを含み、カメラのM?Nアレイ内の少なくとも1つの列は、少なくとも1つの赤色カメラ、1つの緑色カメラ、および、1つの青色カメラを含む。
Description
(発明の分野)
本発明は、概して、デジタルカメラに関し、より具体的には、アレイカメラのカメラモジュール内で利用されるフィルタパターンに関する。
本発明は、概して、デジタルカメラに関し、より具体的には、アレイカメラのカメラモジュール内で利用されるフィルタパターンに関する。
(発明の背景)
従来のデジタルカメラは、典型的には、レンズスタックを伴う、単一焦点面を含む。焦点面は、感光ピクセルのアレイを含み、センサの一部である。レンズスタックは、焦点面内の感光ピクセルのアレイ上にシーンの画像を形成する、光学チャネルを作成する。各感光ピクセルは、ピクセル上に入射する光に基づいて、画像データを生成することができる。
従来のデジタルカメラは、典型的には、レンズスタックを伴う、単一焦点面を含む。焦点面は、感光ピクセルのアレイを含み、センサの一部である。レンズスタックは、焦点面内の感光ピクセルのアレイ上にシーンの画像を形成する、光学チャネルを作成する。各感光ピクセルは、ピクセル上に入射する光に基づいて、画像データを生成することができる。
従来のカラーデジタルカメラでは、カラーフィルタのアレイは、典型的には、カメラのセンサの焦点面内のピクセルに適用される。典型的カラーフィルタは、赤色、緑色、および青色カラーフィルタを含むことができる。デモザイキングアルゴリズムは、具体的カラーフィルタパターンを前提として、焦点面によって捕捉された画像データの各ピクセルに対して、一式の完全赤色、緑色、および青色値を補間するために使用されることができる。カメラカラーフィルタパターンの一実施例は、Bayerフィルタパターンである。Bayerフィルタパターンは、焦点面内のピクセルの50%が緑色光を捕捉し、25%が赤色光を捕捉し、25%が青色光を捕捉する結果をもたらす、赤色、緑色、および青色カラーフィルタの具体的パターンを説明する。
従来の撮影術は、両眼結像を理解することによって改良され得る。両眼でのシーンの視認は、各眼の異なる視野のため、2つの若干異なるシーンの画像を作成する。両眼像差(または、視差)と称される、これらの差異は、視覚的シーンの奥行を計算するために使用され得る情報を提供し、奥行知覚の主要な手段を提供する。立体奥行知覚と関連付けられた奥行の印象もまた、観察者が、移動している間、片方のみの眼でシーンを視認するとき等、他の条件下で得られ得る。観察された視差は、シーン内の物体に対する奥行情報を得るために利用されることができる。機械視覚における類似原理も、奥行情報を収集するために使用されることができる。
例えば、ある距離だけ分離された2つのカメラが、同一のシーンの写真を撮影することができ、捕捉された画像は、2つ以上の画像のピクセルをシフトさせ、整合する画像の部分を見つけることによって、比較されることができる。異なるカメラビュー間の物体シフトの量は、像差と呼ばれ、物体の距離に反比例する。複数の画像内の物体のシフトを検出する、像差検索が、カメラ間の基線距離および伴われるカメラの焦点距離に基づいて、物体までの距離を計算するために使用されることができる。2つ以上のカメラを使用して、立体3次元画像を生成するアプローチは、一般に、マルチビューステレオと称される。
複数のシーンの画像が、異なる観点から捕捉され、シーンが、前景物体を含むとき、画像のそれぞれ内の前景物体の場所における像差は、前景物体の背後の形式の一部が、画像の全部ではないが、一部において可視となる結果をもたらす。他の視点からのシーンの捕捉された画像内で不可視であるシーンの部分に関する画像データを捕捉するピクセルは、オクルードされたピクセルと称され得る。
図1Aおよび1Bは、視差およびオクルージョンの原理を図示する。図1Aは、第1の視野を有する、第1のカメラによって捕捉された画像100を描写する一方、図1Bは、第2の視野を有する、第2の隣接するカメラによって捕捉された画像102を描写する。第1のカメラによって捕捉された画像100では、前景物体104は、若干、背景物体106の右に現れる。しかしながら、第2のカメラによって捕捉された画像102では、前景物体104は、背景物体106の左手側にシフトされて現れる。2つのカメラの異なる視野によって導入される像差は、第1のカメラによって捕捉される画像内の前景物体104の場所(ゴーストライン108によって、第2のカメラによって捕捉される画像内に示される)と第2のカメラによって捕捉される画像内のその場所との間の差異に等しい。2つのカメラから前景物体までの距離は、2つの捕捉された画像内の前景物体の像差を決定することによって得られることができ、これは、米国特許出願第61/780,906号「Systems and Methods for Parallax Detection and Correction in Images Captured Using Array Cameras」に説明されている。米国特許出願第61/780,906号の開示は、参照することによって、全体として本明細書に組み込まれる。
加えて、図1Aおよび1Bを参照すると、その視野が図1Bに描写される、第2のカメラの視点が、基準視点として選択されるとき、画像102内のゴーストライン108の中に含まれるピクセルは、オクルードされたピクセル(すなわち、第2のカメラによって捕捉される画像102内では可視であって、第1のカメラによって捕捉される画像100内では不可視である、シーンの一部からのピクセル捕捉画像データ)と見なされ得る。第2の画像102では、前景物体104のピクセルは、画像102内のゴーストライン108の中に含まれるピクセルをオクルードする、シーンの部分を捕捉するため、オクルーディングピクセルと称され得る。第2の画像102内のゴーストライン108の中に含まれるピクセルのオクルージョンのため、カメラからゴーストライン108の中で可視のシーンの部分までの距離は、図1Aに示される画像100内に対応するピクセルがないため、2つの画像から決定されることができない。
(発明の概要)
本発明の実施形態によるシステムおよび方法は、πフィルタ群を用いて、パターンアレイカメラモジュールを含む。一実施形態では、アレイカメラモジュールは、複数の焦点面を含み、各焦点面が、感光ピクセルのアレイを含む、M×Nイメージャアレイと、各レンズスタックが焦点面に対応し、各レンズスタックがその対応する焦点面上にシーンの画像を形成する、レンズスタックのM×N光学系アレイとを含み、レンズスタックおよびその対応する焦点面の各対は、それによって、カメラを規定し、カメラのM×Nアレイ内の少なくとも1つの行は、少なくとも1つの赤色カラーカメラ、少なくとも1つの緑色カラーカメラ、および少なくとも1つの青色カラーカメラを含み、カメラのM×Nアレイ内の少なくとも1つの列は、少なくとも1つの赤色カラーカメラ、少なくとも1つの緑色カラーカメラ、および少なくとも1つの青色カラーカメラを含む。
本発明の実施形態によるシステムおよび方法は、πフィルタ群を用いて、パターンアレイカメラモジュールを含む。一実施形態では、アレイカメラモジュールは、複数の焦点面を含み、各焦点面が、感光ピクセルのアレイを含む、M×Nイメージャアレイと、各レンズスタックが焦点面に対応し、各レンズスタックがその対応する焦点面上にシーンの画像を形成する、レンズスタックのM×N光学系アレイとを含み、レンズスタックおよびその対応する焦点面の各対は、それによって、カメラを規定し、カメラのM×Nアレイ内の少なくとも1つの行は、少なくとも1つの赤色カラーカメラ、少なくとも1つの緑色カラーカメラ、および少なくとも1つの青色カラーカメラを含み、カメラのM×Nアレイ内の少なくとも1つの列は、少なくとも1つの赤色カラーカメラ、少なくとも1つの緑色カラーカメラ、および少なくとも1つの青色カラーカメラを含む。
別の実施形態では、MおよびNはそれぞれ、2より大きく、MおよびNのうちの少なくとも1つは、偶数であって、カラーフィルタは、アレイカメラモジュールが、カメラの3×3アレイの中心における基準カメラと、カメラの3×3アレイの両側に位置する2つの赤色カラーカメラと、カメラの3×3アレイの両側に位置する2つの青色カラーカメラと、基準カメラを囲む4つの緑色カラーカメラとを含む、カメラの3×3アレイを含む、少なくとも1つのπフィルタ群を用いて、パターン化されるように、アレイカメラモジュール内のカメラの中に実装される。
さらに別の実施形態では、基準カメラを囲む4つの緑色カラーカメラはそれぞれ、カメラの3×3アレイの角位置に配置される。
なおも別の実施形態では、Mは、4であって、Nは、4であって、4×4アレイカメラモジュールのカメラの第1の行は、緑色カラーカメラ、青色カラーカメラ、緑色カラーカメラ、および赤色カラーカメラをその順序通り含み、4×4アレイカメラモジュールのカメラの第2の行は、赤色カラーカメラ、緑色カラーカメラ、赤色カラーカメラ、および緑色カラーカメラをその順序通り含み、4×4アレイカメラモジュールのカメラの第3の行は、緑色カラーカメラ、青色カラーカメラ、緑色カラーカメラ、および青色カラーカメラをその順序通り含み、4×4アレイカメラモジュールのカメラの第4の行は、青色カラーカメラ、緑色カラーカメラ、赤色カラーカメラ、および緑色カラーカメラをその順序通り含む。
なおもさらなる実施形態では、Mは、4であって、Nは、4であって、4×4アレイカメラモジュールのカメラの第1の行は、赤色カラーカメラ、緑色カラーカメラ、青色カラーカメラ、および緑色カラーカメラをその順序通り含み、4×4アレイカメラモジュールのカメラの第2の行は、緑色カラーカメラ、赤色カラーカメラ、緑色カラーカメラ、および赤色カラーカメラをその順序通り含み、4×4アレイカメラモジュールのカメラの第3の行は、青色カラーカメラ、緑色カラーカメラ、青色カラーカメラ、および緑色カラーカメラをその順序通り含み、4×4アレイカメラモジュールのカメラの第4の行は、緑色カラーカメラ、赤色カラーカメラ、緑色カラーカメラ、および青色カラーカメラをその順序通り含む。
なおも別の実施形態では、基準カメラは、緑色カラーカメラである。
なおもさらに別の実施形態では、基準カメラは、Bayerフィルタを組み込むカメラ、赤外光を捕捉するように構成されるカメラ、および紫外光を捕捉するように構成されるカメラのうちの1つである。
なおもさらなる実施形態では、2つの赤色カラーカメラはそれぞれ、カメラの3×3アレイの角位置に位置し、および2つの青色カラーカメラはそれぞれ、カメラの3×3アレイの角位置に位置する。
別の実施形態では、少なくとも1つのカラーフィルタが、イメージャアレイ上に実装される。
さらなる実施形態では、少なくとも1つのカラーフィルタが、レンズスタック上に実装される。
別の実施形態では、3×3アレイカメラモジュールは、焦点面の3×3配列を含み、各焦点面が、感光ピクセルのアレイを含む、3×3イメージャアレイと、レンズスタックの3×3光学系アレイとを含み、各レンズスタックが焦点面に対応し、各レンズスタックがその対応する焦点面上にシーンの画像を形成し、レンズスタックおよびその対応する焦点面の各対は、それによって、カメラを規定し、カメラの3×3アレイは、カメラの3×3アレイの中心における基準カメラと、カメラの3×3アレイの両側に位置する2つの赤色カラーカメラと、カメラの3×3アレイの両側に位置する2つの青色カラーカメラと、それぞれ、カメラの3×3アレイの角位置に位置する、4つの緑色カラーカメラとを含み、カラーカメラはそれぞれ、カラーフィルタを使用して達成される。
さらなる実施形態では、少なくとも1つのカラーフィルタが、イメージャアレイ上に実装され、カラーカメラを達成する。
なおもさらなる実施形態では、少なくとも1つのカラーフィルタが、レンズスタック内に実装され、カラーカメラを達成する。
さらに別の実施形態では、基準カメラは、緑色カラーカメラである。
なおもさらなる実施形態では、基準カメラは、Bayerフィルタを組み込むカメラ、赤外光を捕捉するように構成されるカメラ、および紫外光を捕捉するように構成されるカメラのうちの1つである。
別の実施形態では、少なくとも1つのπフィルタ群を用いて、アレイカメラモジュールをパターン化する方法は、各焦点面が感光ピクセルのアレイを備える、M×N焦点面のイメージャアレイが、何らかの欠陥焦点面を含むかどうかを評価するステップと、M×N焦点面のイメージャアレイと、各レンズスタックが焦点面に対応する、レンズスタックのM×N光学系アレイとを使用して、M×Nアレイカメラモジュールを組み立てるステップであって、M×Nアレイカメラモジュールは、各レンズスタックおよびその対応する焦点面が、カメラを規定し、アレイカメラモジュールが、カメラの3×3アレイの中心における基準カメラと、カメラの3×3アレイの両側に位置する2つの赤色カラーカメラと、カメラの3×3アレイの両側に位置する2つの青色カラーカメラと、基準カメラを囲む4つの緑色カラーカメラとを含む、カメラの3×3アレイを含む、少なくとも1つのπフィルタ群を用いて、パターン化されるよう、カラーフィルタが、アレイカメラモジュール内に実装されるように組み立てられ、アレイカメラモジュールが、欠陥焦点面を含むカメラが緑色カラーカメラであるように、少なくとも1つのπフィルタ群を用いて、パターン化される、ステップとを含む。
さらなる実施形態では、少なくとも1つのカラーフィルタが、イメージャアレイ上に実装される。
なおもさらなる実施形態では、少なくとも1つのカラーフィルタが、レンズスタック内に実装される。
なおもさらなる実施形態では、基準カメラは、緑色カラーカメラである。
なおもさらに別の実施形態では、基準カメラは、Bayerフィルタを組み込むカメラ、赤外光を捕捉するように構成されるカメラ、および紫外光を捕捉するように構成されるカメラのうちの1つである。
別の実施形態では、アレイカメラモジュールは、M×N焦点面を備え、各焦点面が、ピクセルの複数の列もまた形成する、ピクセルの複数の行を備え、各活動焦点面が、別の焦点面からのピクセルを含まない、イメージャアレイの領域内に含まれる、イメージャアレイと、画像が、レンズスタックの光学系アレイ内の個別のレンズスタックによって、各焦点面上に形成される、M×Nレンズスタックの光学系アレイとを含み、イメージャアレイおよびレンズスタックの光学系アレイは、独立して、シーンの画像を捕捉するように構成される、カメラのM×Nアレイを形成し、カメラのM×Nアレイ内の少なくとも1つの行は、少なくとも1つの赤色カラーカメラ、少なくとも1つの緑色カラーカメラ、および少なくとも1つの青色カラーカメラを備え、カメラのM×Nアレイ内の少なくとも1つの列は、少なくとも1つの赤色カラーカメラ、少なくとも1つの緑色カラーカメラ、および少なくとも1つの青色カラーカメラを備える。
さらに別の実施形態では、赤色カラーカメラは、620nm〜750nmの範囲内の波長を有する電磁波を含む、画像データを捕捉するカメラであって、緑色カラーカメラは、495nm〜570nmの範囲内の波長を有する電磁波を含む、画像データを捕捉するカメラであって、青色カラーカメラは、450nm〜495nmの範囲内の波長を有する電磁波を含む、画像データを捕捉するカメラである。
なおも別の実施形態では、アレイカメラモジュール内の各カメラの光学系は、他のカメラの視野に対する各カメラの視野の各シフトが、シーンの一意のサブピクセルシフトビューを含むように構成されるよう、各カメラが、他のカメラの視野に対してシフトされたシーンの視野を有するように構成される。
さらなる実施形態では、MおよびNはそれぞれ、2より大きく、MおよびNのうちの少なくとも1つは、偶数であって、カラーフィルタは、アレイカメラモジュールが、カメラの3×3アレイの中心における基準カメラと、カメラの3×3アレイの両側に位置する2つの赤色カラーカメラと、カメラの3×3アレイの両側に位置する2つの青色カラーカメラと、基準カメラを囲む4つの緑色カラーカメラとを含む、カメラの3×3アレイを含む、少なくとも1つのπフィルタ群を用いて、パターン化されるように、アレイカメラモジュール内のカメラの中に実装される。
なおもさらなる実施形態では、基準カメラを囲む4つの緑色カラーカメラはそれぞれ、カメラの3×3アレイの角位置に配置される。
なおもさらなる実施形態では、Mは、4であって、Nは、4であって、4×4アレイカメラモジュールのカメラの第1の行は、緑色カラーカメラ、青色カラーカメラ、緑色カラーカメラ、および赤色カラーカメラをその順序通り含み、4×4アレイカメラモジュールのカメラの第2の行は、赤色カラーカメラ、緑色カラーカメラ、赤色カラーカメラ、および緑色カラーカメラをその順序通り含み、4×4アレイカメラモジュールのカメラの第3の行は、緑色カラーカメラ、青色カラーカメラ、緑色カラーカメラ、および青色カラーカメラをその順序通り含み、4×4アレイカメラモジュールのカメラの第4の行は、青色カラーカメラ、緑色カラーカメラ、赤色カラーカメラ、および緑色カラーカメラをその順序通り含む。
なおもさらなる実施形態では、Mは、4であって、Nは、4であって、4×4アレイカメラモジュールのカメラの第1の行は、赤色カラーカメラ、緑色カラーカメラ、青色カラーカメラ、および緑色カラーカメラをその順序通り含み、4×4アレイカメラモジュールのカメラの第2の行は、緑色カラーカメラ、赤色カラーカメラ、緑色カラーカメラ、および赤色カラーカメラをその順序通り含み、4×4アレイカメラモジュールのカメラの第3の行は、青色カラーカメラ、緑色カラーカメラ、青色カラーカメラ、および緑色カラーカメラをその順序通り含み、4×4アレイカメラモジュールのカメラの第4の行は、緑色カラーカメラ、赤色カラーカメラ、緑色カラーカメラ、および青色カラーカメラをその順序通り含む。
別の実施形態では、少なくとも1つのπフィルタ群内の基準カメラは、緑色カラーカメラである。
さらなる実施形態では、少なくとも1つのπフィルタ群内の基準カメラは、Bayerフィルタを組み込むカメラである。
なおもさらなる実施形態では、基準カメラは、Bayerフィルタを組み込むカメラ、赤外光を捕捉するように構成されるカメラ、および紫外光を捕捉するように構成されるカメラのうちの1つである。
さらに別の実施形態では、2つの赤色カラーカメラはそれぞれ、カメラの3×3アレイの角位置に位置し、2つの青色カラーカメラはそれぞれ、カメラの3×3アレイの角位置に位置する。
なおもさらに別の実施形態では、少なくとも1つのカラーフィルタが、イメージャアレイ上に実装される。
なおもさらなる実施形態では、少なくとも1つのカラーフィルタが、レンズスタック上に実装される。
別の実施形態では、3×3アレイカメラモジュールは、焦点面の3×3配列を含み、各焦点面が、ピクセルの複数の列もまた形成する、ピクセルの複数の行を備え、各活動焦点面が、別の焦点面からのピクセルを含まない、イメージャアレイの領域内に含まれる、3×3イメージャアレイと、画像が、レンズスタックの光学系アレイ内の個別のレンズスタックによって、各焦点面上に形成される、レンズスタックの3×3光学系アレイとを含み、イメージャアレイおよびレンズスタックの光学系アレイは、独立して、シーンの画像を捕捉するように構成される、カメラの3×3アレイを形成し、カメラの3×3アレイは、カメラの3×3アレイの中心における基準カメラと、カメラの3×3アレイの両側に位置する2つの赤色カラーカメラと、カメラの3×3アレイの両側に位置する2つの青色カラーカメラと、それぞれ、カメラの3×3アレイの角位置に位置する、4つの緑色カラーカメラとを含み、カラーカメラはそれぞれ、カラーフィルタを使用して達成される。
さらに別の実施形態では、少なくとも1つのカラーフィルタが、イメージャアレイ上に実装され、カラーカメラを達成する。
なおもさらに別の実施形態では、少なくとも1つのカラーフィルタが、レンズスタック内に実装され、カラーカメラを達成する。
さらなる実施形態では、基準カメラは、緑色カラーカメラである。
なおもさらなる実施形態では、基準カメラは、Bayerフィルタを組み込むカメラ、赤外光を捕捉するように構成されるカメラ、および紫外光を捕捉するように構成されるカメラのうちの1つである。
別の実施形態では、アレイカメラモジュールは、M×N焦点面を備え、各焦点面が、ピクセルの複数の列もまた形成する、ピクセルの複数の行を備え、各活動焦点面が、別の焦点面からのピクセルを含まない、イメージャアレイの領域内に含まれる、イメージャアレイと、画像が、レンズスタックの光学系アレイ内の個別のレンズスタックによって、各焦点面上に形成される、M×Nレンズスタックの光学系アレイとを含み、イメージャアレイおよびレンズスタックの光学系アレイは、独立して、シーンの画像を捕捉するように構成される、カメラのM×Nアレイを形成し、カメラのM×Nアレイ内の少なくともいずれかの1行または1列は、少なくとも1つの赤色カラーカメラ、少なくとも1つの緑色カラーカメラ、および少なくとも1つの青色カラーカメラを備える。
さらに別の実施形態では、Mは、3であって、Nは、3であって、3×3アレイカメラモジュールのカメラの第1の行は、青色カラーカメラ、緑色カラーカメラ、および緑色カラーカメラをその順序通り含み、3×3アレイカメラモジュールのカメラの第2の行は、赤色カラーカメラ、緑色カラーカメラ、および赤色カラーカメラをその順序通り含み、3×3アレイカメラモジュールのカメラの第3の行は、緑色カラーカメラ、緑色カラーカメラ、および青色カラーカメラをその順序通り含む。
なおもさらに別の実施形態では、Mは、3であって、Nは、3であって、3×3アレイカメラモジュールのカメラの第1の行は、赤色カラーカメラ、緑色カラーカメラ、および緑色カラーカメラをその順序通り含み、3×3アレイカメラモジュールのカメラの第2の行は、青色カラーカメラ、緑色カラーカメラ、および青色カラーカメラをその順序通り含み、3×3アレイカメラモジュールのカメラの第3の行は、緑色カラーカメラ、緑色カラーカメラ、および赤色カラーカメラをその順序通り含む。
別の実施形態では、アレイカメラは、M×N焦点面を備え、各焦点面が、ピクセルの複数の列もまた形成する、ピクセルの複数の行を備え、各活動焦点面は、別の焦点面からのピクセルを含まない、イメージャアレイの領域内に含まれる、イメージャアレイと、画像が、レンズスタックの光学系アレイ内の個別のレンズスタックによって、各焦点面上に形成される、M×Nレンズスタックの光学系アレイとを含み、イメージャアレイおよびレンズスタックの光学系アレイは、独立して、シーンの画像を捕捉するように構成される、カメラのM×Nアレイを形成し、カメラのM×Nアレイ内の少なくとも1つの行は、少なくとも1つの赤色カラーカメラ、少なくとも1つの緑色カラーカメラ、および少なくとも1つの青色カラーカメラを備え、カメラのM×Nアレイ内の少なくとも1つの列は、少なくとも1つの赤色カラーカメラ、少なくとも1つの緑色カラーカメラ、および少なくとも1つの青色カラーカメラを備える、アレイカメラモジュールと、画像処理パイプラインを含み、画像処理パイプラインは、視差検出モジュールと、超解像モジュールとを含み、視差検出モジュールは、カメラモジュールから、シーンの基準低解像度画像と、シーンの少なくとも1つの代替ビュー画像とを得るように構成され、視差検出モジュールは、基準画像および少なくとも1つの代替ビュー画像を比較し、基準画像に対する奥行マップおよびオクルージョンマップを決定するように構成され、超解像モジュールは、少なくとも基準画像、奥行マップ、オクルージョンマップ、および少なくとも1つの代替ビュー画像を使用して、高解像度画像を合成するように構成される、プロセッサとを含む。
(詳細な説明)
ここで、図面を参照すると、本発明の実施形態による、πフィルタ群を用いて、アレイカメラをパターン化するためのシステムおよび方法が、図示される。多くの実施形態では、アレイカメラのカメラモジュールは、1つ以上のπフィルタ群を用いて、パターン化される。用語「パターン化された」とは、本明細書では、カメラがアレイカメラ内にカラーチャネルのパターンを形成するように、カメラモジュール内の個々のカメラの中の具体的カラーフィルタの使用を指す。用語「カラーチャネル」または「カラーカメラ」は、スペクトルの具体的部分内の画像データを捕捉するカメラを指すために使用され得、必ずしも、具体的色に関する画像データに限定されない。例えば、「赤色カラーカメラ」は、ヒトが、従来、赤色として知覚する、電磁波と一致する(すなわち、電磁スペクトル内の)画像データを捕捉するカメラであって、「青色カラーカメラ」、「緑色カラーカメラ」等も同様である。言い換えると、赤色カラーカメラは、約620nm〜750nmの波長を有する電磁波に対応する画像データを捕捉し得、緑色カラーカメラは、約495nm〜約570nmの波長を有する電磁波に対応する画像データを捕捉し得、青色カラーカメラは、約450nm〜495nmの波長を有する電磁波に対応する画像データを捕捉し得る。他の実施形態では、青色カラーカメラ、緑色カラーカメラ、および赤色カラーカメラによって捕捉される可視光スペクトルの部分は、具体的用途の要件に依存し得る。用語「Bayerカメラ」は、画像平面上でBayerフィルタパターンを使用して画像データを捕捉する、カメラを指すために使用され得る。多くの実施形態では、カラーチャネルは、赤外光、紫外光、拡張色、および具体的用途に適切な可視スペクトルの任意の他の部分を捕捉する、カメラを含むことができる。用語「πフィルタ群」は、中心カメラと、各カラーチャネル内のオクルージョンゾーンを低減させるために、中心カメラの周囲に分布されたカラーカメラとを含む、カメラの3×3群を指す。πフィルタ群の中心カメラは、イメージャアレイによって捕捉される画像データを使用して画像を合成するとき、基準カメラとして使用されることができる。カメラは、その視点が合成された画像の視点として使用されるとき、基準カメラである。πフィルタ群の中心カメラは、中心カメラが基準カメラとして使用されるとき、各カラーカメラに対するオクルージョンゾーンを最小限にするように、カラーカメラによって囲まれる。オクルージョンゾーンは、視差の効果のため、基準カメラから空間的にオフセットされたカメラに不可視である前景物体を囲む面積である。
ここで、図面を参照すると、本発明の実施形態による、πフィルタ群を用いて、アレイカメラをパターン化するためのシステムおよび方法が、図示される。多くの実施形態では、アレイカメラのカメラモジュールは、1つ以上のπフィルタ群を用いて、パターン化される。用語「パターン化された」とは、本明細書では、カメラがアレイカメラ内にカラーチャネルのパターンを形成するように、カメラモジュール内の個々のカメラの中の具体的カラーフィルタの使用を指す。用語「カラーチャネル」または「カラーカメラ」は、スペクトルの具体的部分内の画像データを捕捉するカメラを指すために使用され得、必ずしも、具体的色に関する画像データに限定されない。例えば、「赤色カラーカメラ」は、ヒトが、従来、赤色として知覚する、電磁波と一致する(すなわち、電磁スペクトル内の)画像データを捕捉するカメラであって、「青色カラーカメラ」、「緑色カラーカメラ」等も同様である。言い換えると、赤色カラーカメラは、約620nm〜750nmの波長を有する電磁波に対応する画像データを捕捉し得、緑色カラーカメラは、約495nm〜約570nmの波長を有する電磁波に対応する画像データを捕捉し得、青色カラーカメラは、約450nm〜495nmの波長を有する電磁波に対応する画像データを捕捉し得る。他の実施形態では、青色カラーカメラ、緑色カラーカメラ、および赤色カラーカメラによって捕捉される可視光スペクトルの部分は、具体的用途の要件に依存し得る。用語「Bayerカメラ」は、画像平面上でBayerフィルタパターンを使用して画像データを捕捉する、カメラを指すために使用され得る。多くの実施形態では、カラーチャネルは、赤外光、紫外光、拡張色、および具体的用途に適切な可視スペクトルの任意の他の部分を捕捉する、カメラを含むことができる。用語「πフィルタ群」は、中心カメラと、各カラーチャネル内のオクルージョンゾーンを低減させるために、中心カメラの周囲に分布されたカラーカメラとを含む、カメラの3×3群を指す。πフィルタ群の中心カメラは、イメージャアレイによって捕捉される画像データを使用して画像を合成するとき、基準カメラとして使用されることができる。カメラは、その視点が合成された画像の視点として使用されるとき、基準カメラである。πフィルタ群の中心カメラは、中心カメラが基準カメラとして使用されるとき、各カラーカメラに対するオクルージョンゾーンを最小限にするように、カラーカメラによって囲まれる。オクルージョンゾーンは、視差の効果のため、基準カメラから空間的にオフセットされたカメラに不可視である前景物体を囲む面積である。
以下にさらに論じられるように、基準視点の周囲の相補的オクルージョンゾーン内の異なる視点からシーンの画像を捕捉するカメラの数を増加させることは、基準視点から可視のシーンの全ての部分もまた、他のカメラのうちの少なくとも1つの視点から可視となる可能性を増加させる。アレイカメラが、異なるカメラを使用して、異なる波長の光(例えば、RGB)を捕捉するとき、基準視点を囲む象限内の各波長の光を捕捉する、少なくとも1つのカメラを分布させることは、基準視点から可視のシーンの一部が、具体的カラーチャネル内で捕捉された全ての他の画像の中でオクルードされるであろう可能性を有意に低下させることができる。いくつかの実施形態では、基準視点から可視のシーンの一部が、具体的カラーチャネル内で捕捉された全ての他の画像の中でオクルードされるであろう可能性の同様の低下は、基準カメラの両側に位置する同一のカラーチャネルの中の2つのカメラまたは基準カメラの周囲の3つのセクタ内に分布される各カラーチャネルの中の3つのカメラを使用して達成されることができる。他の実施形態では、カメラは、基準カメラの周囲の4つを上回るセクタ内に分布されることができる。
いくつかの実施形態では、πフィルタ群の中心カメラは、緑色カメラである一方、他の実施形態では、中心カメラは、スペクトルの任意の適切な部分から画像データを捕捉する。いくつかの実施形態では、中心カメラは、Bayerカメラ(すなわち、Bayerフィルタパターンを利用して、カラー画像を捕捉する、カメラ)である。多くの実施形態では、πフィルタ群は、各角における緑色カラーカメラと、中心緑色カメラの周囲に赤色および青色カメラの対称分布を伴う、基準カメラとしての役割を果たすことができる、中心における緑色カラーカメラと用いたカメラの3×3アレイである。対称分布は、赤色カラーカメラが、中心緑色基準カメラのすぐ上および下にあって、青色カラーカメラが、すぐ左および右にあるか、または青色カラーカメラが、緑色中心基準カメラのすぐ上および下にあって、赤色カラーカメラが、すぐ左および右にあるかのいずれかの配列を含むことができる。
カメラの3×3アレイを上回る寸法のカメラモジュールが、本発明の多くの実施形態に従って、πフィルタ群を用いてパターン化されることができる。多くの実施形態では、πフィルタ群を用いてカメラモジュールをパターン化することは、オクルージョンゾーンを低減させる、基準カメラの周囲のカメラの効率的分布を可能にする。いくつかの実施形態では、πフィルタ群のパターンは、カメラモジュール上の2つの重複するπフィルタ群が共通カメラを共有するように、相互と重複することができる。重複するπフィルタ群が、カメラモジュール内のカメラの全てに及ばないとき、πフィルタ群の一部ではないカメラは、基準カメラおよび/またはカメラアレイ内の基準カメラとして作用することができる複数のカメラを囲む、所定の数のセクタのそれぞれ内の各カラーチャネルの中にカメラを分布することによって、結果として生じるカメラアレイ内のオクルージョンゾーンを低減させるためのカラーが割り当てられることができる。
いくつかの実施形態では、カメラモジュールは、カメラモジュール内の少なくとも1つの行またはカメラモジュール内の少なくとも1つの列のいずれかが、少なくとも1つの赤色カラーカメラ、少なくとも1つの緑色カラーカメラ、および少なくとも1つの青色カラーカメラを含むように、πフィルタ群を用いてパターン化されることができる。多くの実施形態では、アレイカメラモジュールの少なくとも1つの行および少なくとも1つの列は、少なくとも1つの赤色カラーカメラ、少なくとも1つの緑色カラーカメラ、および少なくとも1つの青色カラーカメラを含む。これらの配列は、カメラ全体を通して異なる波長を捕捉するカメラの分布をもたらすため、オクルージョンの事例を低減させることができる。当然ながら、カメラの任意の好適な組み合わせが、本方式を使用して実装されることができる。例えば、いくつかの実施形態では、アレイカメラモジュールの少なくとも1つの行および少なくとも1つの列は、少なくとも1つのシアン色カラーカメラ、少なくとも1つのマゼンタ色カラーカメラ、および少なくとも1つの黄色カラーカメラ(例えば、CMYKカラーモデルに対応するカラーカメラ)を含む。いくつかの実施形態では、アレイカメラモジュールの少なくとも1つの行および少なくとも1つの列は、少なくとも1つの赤色カラーカメラ、少なくとも1つの黄色カラーカメラ、および少なくとも1つの青色カラーカメラ(例えば、RYBカラーモデルに対応するカラーカメラ)を含む。
加えて、MおよびNのうちの少なくとも1つが偶数である、M×N寸法のカメラモジュールもまた、本発明の多くの実施形態に従って、πフィルタ群を用いてパターン化されることができる。これらのカメラモジュールは、MおよびNのうちの少なくとも1つが偶数である限り、構成カメラのいずれも、カメラアレイの中心と整合しない、MおよびNが両方とも奇数である、M×Nカメラモジュールと異なる。逆に言えば、MおよびNが両方とも奇数である場合、カメラアレイの中心に対応するカメラが存在することになる。例えば、単一πフィルタ群を採用する、3×3カメラモジュールでは、カメラアレイの中心に対応する、中心カメラが存在する。カメラアレイの中心と整合するカメラは、典型的には、カメラモジュールの基準カメラとして選択される。故に、MおよびNの一方が偶数である場合、任意の好適なカメラが、カメラモジュールの基準カメラとして利用されてもよい。加えて、基準カメラを囲むカラーカメラは、均一に分布される必要はないが、基準カメラの観点から各カラーのオクルージョンゾーンを最小限または低減させるようにのみ分散される必要がある。捕捉された画像データからの画像を合成するためのπフィルタ群内の基準カメラの利用は、仮想視点からの同一の画像データを使用して、画像を合成するより有意に低計算集約的であり得る。
高品質画像またはビデオは、カメラモジュール内にカメラのサブセットを利用して、πフィルタ群を用いてパターン化されたカメラモジュールを含むアレイカメラによって捕捉されることができる(すなわち、カメラモジュール上の全カメラが利用されることを要求しない)。類似技法もまた、カメラモジュール内のカメラのサブセットによって捕捉された画像データを使用して、立体3D画像の効率的生成のために使用されることができる。
πフィルタ群を用いてカメラモジュールをパターン化することはまた、基準カメラが準最適に機能し始める場合、複数の可能性として考えられる基準カメラが利用され得るため、複数のπフィルタ群を伴うカメラモジュール内にロバストな耐故障性を可能にする。πフィルタ群を用いて、カメラモジュールをパターン化することはまた、焦点面アレイ上に及ぼす欠陥焦点面の影響が、単に、光学系アレイ内のカラーレンズスタックのパターンを変更することによって、最小限にされ得るため、カメラモジュールの製造における収率改善を可能にする。本発明の実施形態による、種々のπフィルタ群およびπフィルタ群を用いたカメラモジュールのパターン化は、以下にさらに論じられる。
(アレイカメラ)
多くの実施形態では、アレイカメラは、カメラモジュールと、プロセッサとを含む。本発明のある実施形態による、πフィルタ群を用いてパターン化されたカメラモジュールを伴うアレイカメラは、図2に図示される。アレイカメラ200は、個々のカメラ204のアレイとして、カメラモジュール202を含み、各カメラ204は、対応するレンズスタックを伴う、焦点面を含む。個々のカメラのアレイは、図示される実施形態において利用される(限定されないが)正方形配列等、特定の配列における複数のカメラを指す。カメラモジュール202は、プロセッサ208に接続206される。図示される実施形態では、「R」と標識されたカメラ204は、赤色フィルタ処理カラーチャネルを伴う、赤色カメラを指し、「G」は、緑色フィルタ処理カラーチャネルを伴う、緑色カメラを指し、「B」は、青色フィルタ処理カラーチャネルを伴う、青色カメラを指す。具体的アレイカメラが、図2に図示されるが、種々の異なるアレイカメラ構成のいずれかが、本発明の多くの異なる実施形態に従って利用されることができる。
多くの実施形態では、アレイカメラは、カメラモジュールと、プロセッサとを含む。本発明のある実施形態による、πフィルタ群を用いてパターン化されたカメラモジュールを伴うアレイカメラは、図2に図示される。アレイカメラ200は、個々のカメラ204のアレイとして、カメラモジュール202を含み、各カメラ204は、対応するレンズスタックを伴う、焦点面を含む。個々のカメラのアレイは、図示される実施形態において利用される(限定されないが)正方形配列等、特定の配列における複数のカメラを指す。カメラモジュール202は、プロセッサ208に接続206される。図示される実施形態では、「R」と標識されたカメラ204は、赤色フィルタ処理カラーチャネルを伴う、赤色カメラを指し、「G」は、緑色フィルタ処理カラーチャネルを伴う、緑色カメラを指し、「B」は、青色フィルタ処理カラーチャネルを伴う、青色カメラを指す。具体的アレイカメラが、図2に図示されるが、種々の異なるアレイカメラ構成のいずれかが、本発明の多くの異なる実施形態に従って利用されることができる。
(アレイカメラモジュール)
本発明の実施形態による、アレイカメラモジュール(または、「カメラモジュール」)は、焦点面のアレイを含む、イメージャアレイまたはセンサと、イメージャアレイ内の各焦点面に対するレンズスタックを含む、光学系アレイとから構築されることができる。複数の焦点面を含むセンサは、Painらの米国特許出願第13/106,797号「Architectures for System on Chip Array Cameras」に論じられている(その開示は、参照することによって、全体として本明細書に組み込まれる)。光フィルタは、光学系アレイ内のレンズスタックによって形成された各光学チャネルの中で使用され、アレイカメラモジュール内の異なるカメラが、電磁スペクトルの異なる部分に対する画像データを捕捉することを可能にすることができる。
本発明の実施形態による、アレイカメラモジュール(または、「カメラモジュール」)は、焦点面のアレイを含む、イメージャアレイまたはセンサと、イメージャアレイ内の各焦点面に対するレンズスタックを含む、光学系アレイとから構築されることができる。複数の焦点面を含むセンサは、Painらの米国特許出願第13/106,797号「Architectures for System on Chip Array Cameras」に論じられている(その開示は、参照することによって、全体として本明細書に組み込まれる)。光フィルタは、光学系アレイ内のレンズスタックによって形成された各光学チャネルの中で使用され、アレイカメラモジュール内の異なるカメラが、電磁スペクトルの異なる部分に対する画像データを捕捉することを可能にすることができる。
本発明のある実施形態によるカメラモジュールが、図3に図示される。カメラモジュール300は、焦点面340のアレイを含む、イメージャアレイ330とともに、レンズスタック320のアレイを含む、対応する光学系アレイ310を含む。レンズスタックのアレイ内には、各レンズスタック320が、対応する焦点面340内の感光ピクセルのアレイ上にシーンの画像を形成する、光学チャネルを作成する。レンズスタック320および焦点面340の各対は、カメラモジュール内に単一カメラ204を形成し、それによって、画像が、レンズスタックの光学系アレイ内の個別のレンズスタックによって、各焦点面上に形成される。カメラ204の焦点面340内の各ピクセルは、カメラ204からプロセッサ208に送信され得る、画像データを生成する。多くの実施形態では、各光学チャネル内のレンズスタックは、各焦点面340のピクセルが、シーン内の同一の物体空間または領域をサンプリングするように構成される。いくつかの実施形態では、レンズスタックは、同一の物体空間をサンプリングするピクセルが、サブピクセルオフセットを用いてそれを行い、超解像プロセスの使用を通して、増加した解像度を復元するために利用され得る、サンプリングダイバーシティを提供するように構成される。例えば、各カメラモジュールの光学系は、カメラモジュール内の各カメラが、他のカメラの視野に対する各カメラの視野の各シフトが、シーンの一意のサブピクセルシフトビューを含むよう構成されるよう、カメラモジュール内の他のカメラの視野に対してシフトされたシーンの視野を有するように構成されることができる。
図示される実施形態では、焦点面は、5×5アレイに構成される。センサ上の各焦点面340は、シーンの画像を捕捉可能である。典型的には、各焦点面は、ピクセルの複数の列もまた形成する、ピクセルの複数の行を含み、各焦点面は、別の焦点面からのピクセルを含まないイメージャの領域内に含まれる。多くの実施形態では、各焦点面の画像データ捕捉および読み出しは、独立して、制御されることができる。言い換えると、イメージャアレイおよびレンズスタックの光学系アレイは、独立して、シーンの画像を捕捉するように構成されることができる、カメラのアレイを形成する。このように、(限定されないが)露光時間および焦点内のピクセルのアナログ利得を含む、画像捕捉設定は、独立して、画像捕捉設定が、(限定されないが)具体的カラーチャネルおよび/またはシーンのダイナミックレンジの具体的部分を含む要因に基づいて、調整されることを可能にするよう決定することができる。焦点面において利用されるセンサ要素は、限定されないが、従来のCIS(CMOS画像センサ)ピクセル、CCD(電荷結合素子)ピクセル、高ダイナミックレンジセンサ要素、マルチスペクトルセンサ要素、および/または構造に入射する光を示す電気信号を生成するように構成される、任意の他の構造等、個々の光感知要素であることができる。多くの実施形態では、各焦点面のセンサ要素は、類似物理特性を有し、同一の光学チャネルおよびカラーフィルタ(存在する場合)を介して、光を受光する。他の実施形態では、センサ要素は、異なる特性を有し、多くの事例では、センサ要素の特性は、各センサ要素に適用されるカラーフィルタに関連する。
いくつかの実施形態では、個々のカメラ内のカラーフィルタは、πフィルタ群を用いて、カメラモジュールをパターン化するために使用されることができる。これらのカメラは、異なるカラーまたはスペクトルの具体的部分に対するデータを捕捉するために使用されることができる。カラーフィルタをカメラのピクセルに適用するのとは対照的に、本発明の多くの実施形態におけるカラーフィルタは、レンズスタック内に含まれることができる。例えば、緑色カラーカメラは、緑色光を光学チャネルを通して通過させる、緑色光フィルタを伴う、レンズスタックを含むことができる。多くの実施形態では、各焦点面内のピクセルは、同一であって、ピクセルによって捕捉される光情報は、各フィルタ平面に対する対応するレンズスタック内のカラーフィルタによって区別される。レンズスタック内にカラーフィルタを含む光学系アレイを伴う、カメラモジュールの具体的構造が、前述されたが、πフィルタ群を含むカメラモジュールは、(限定されないが)カラーフィルタが従来のカラーカメラのピクセルに適用される様式と同様に、カラーフィルタをカメラモジュールの焦点面のピクセルに適用することを含め、種々の方法で実装されることができる。いくつかの実施形態では、カメラモジュール内のカメラのうちの少なくとも1つは、その焦点面内のピクセルに適用される均一カラーフィルタを含むことができる。多くの実施形態では、Bayerフィルタパターンが、カメラモジュール内のカメラのうちの1つのピクセルに適用される。いくつかの実施形態では、カメラモジュールは、カラーフィルタがレンズスタック内およびイメージャアレイのピクセル上の両方で利用されるように構築される。
いくつかの実施形態では、アレイカメラは、複数の焦点面から画像データを生成し、プロセッサを使用して、1つ以上のシーンの画像を合成する。ある実施形態では、センサアレイ内の単一焦点面によって捕捉される画像データは、プロセッサが、カメラモジュールによって捕捉された他の低解像度画像データと組み合わせて使用し、超解像処理を通して、より高い解像度画像を構築することができる、低解像度画像または「LR画像」を構成することができる(用語「低解像度」は、本明細書では、より高い解像度画像または超分解画像、代替として、「HR画像」または「SR画像」と対比されるためだけに使用される)。アレイカメラによって捕捉される低解像度画像を使用して、高解像度画像を合成するために使用され得る、超解像プロセスは、2010年12月14日出願の米国特許出願第12/967,807号「Systems and Methods for Synthesizing High Resolution Images Using Super−Resolution Processes」(その開示は、参照することによって全体として本明細書に組み込まれる)に論じられる。
具体的イメージャアレイ構成が、前述されたが、可視光、可視光スペクトルの一部、近IR光、スペクトルの他の部分、および/またはスペクトルの異なる部分の組み合わせを感知するイメージャを含む、イメージャの種々の規則的または不規則的レイアウトのいずれかが、本発明の実施形態による、SRプロセスにおいて使用するための情報の1つ以上のチャネルを提供する、LR画像を捕捉するために利用されることができる。捕捉されるLR画像の処理は、以下にさらに論じられる。
(画像処理パイプライン)
本発明の実施形態による、SR画像を得るためのLR画像の処理は、典型的には、アレイカメラの画像処理パイプライン内で生じる。多くの実施形態では、画像処理パイプラインは、LR画像上でSRプロセスを行うのに先立って、LR画像を位置合わせするプロセスを行う。いくつかの実施形態では、画像処理パイプラインはまた、問題ピクセルを排除し、視差を補償する、プロセスを行う。
本発明の実施形態による、SR画像を得るためのLR画像の処理は、典型的には、アレイカメラの画像処理パイプライン内で生じる。多くの実施形態では、画像処理パイプラインは、LR画像上でSRプロセスを行うのに先立って、LR画像を位置合わせするプロセスを行う。いくつかの実施形態では、画像処理パイプラインはまた、問題ピクセルを排除し、視差を補償する、プロセスを行う。
本発明のある実施形態による、合成されたHR画像を得るために、LR画像からの情報を融合するためのSRモジュールを組み込む、画像処理パイプラインが、図4に図示される。図示される画像処理パイプライン400では、ピクセル情報が、焦点面340から読み取られ、光度正規化のために、光度変換モジュール402に提供される。光度変換モジュールは、光度正規化、黒色レベル計算および調節、ヴィネット補正、ならびに側方カラー補正のうちの1つ以上を含むが、それらに限定されない、種々の光度画像処理プロセスのいずれかを行うことができる。いくつかの実施形態では、光度変換モジュールはまた、温度正規化を行う。図示される実施形態では、光度正規化モジュールの入力は、光度較正データ401および捕捉されたLR画像である。光度較正データは、典型的には、オフライン較正プロセスの間に捕捉される。光度変換モジュール402の出力は、光度的に正規化されたLR画像のセットである。これらの光度的に正規化された画像は、視差検出モジュール404および超解像モジュール406に提供される。
SR処理を行うのに先立って、画像処理パイプラインは、イメージャアレイによって捕捉されるシーン内の物体がイメージャアレイに接近するにつれて、より明白となる視差を検出する。図示される実施形態では、視差(または、像差)検出は、視差検出モジュール404を使用して行われる。いくつかの実施形態では、視差検出モジュール404は、前景物体の周囲のオクルージョンゾーンに対するオクルージョンマップを生成する。多くの実施形態では、オクルージョンマップは、対のLRイメージャに対して作成されるバイナリマップである。多くの実施形態では、オクルージョンマップは、シーン内の点が、基準LRイメージャの視野内で可視であるかどうかと、基準イメージャの視野内で可視であるシーンの中の点が、他のイメージャの視野内で可視であるかどうかとを例証するために生成される。前述のように、πフィルタ群の使用は、基準LR画像内で可視であるピクセルが、少なくとも1つの他のLR画像内で可視である(すなわち、オクルードされていない)可能性を増加させることができる。視差を決定するために、視差検出モジュール404は、アドレス変換モジュール410を介して得られた幾何学較正データ408を使用して、光度的に正規化されたLR画像にシーン独立幾何学補正を行う。視差検出モジュール404は、次いで、幾何学および光度的に補正されたLR画像を比較し、LR画像間のシーン依存幾何学変位の存在を検出することができる。これらのシーン依存幾何学変位に関する情報は、視差情報と称され得、シーン依存視差補正およびオクルージョンマップの形態において、超解像モジュール406に提供されることができる。以下により詳細に論じられる、視差情報はまた、同様に、超解像モジュール406に提供され得る、生成された奥行マップを含むことができる。幾何学較正(または、シーン独立幾何学補正)データ408は、オフライン較正プロセスまたは後続再較正プロセスを使用して生成されることができる。シーン独立補正情報は、シーン依存幾何学補正情報(視差)およびオクルージョンマップとともに、LR画像のための幾何学補正情報を形成する。
いったん、視差情報が生成されると、視差情報および光度的に正規化されたLR画像は、1つ以上のHR画像420の合成において使用するために、超解像モジュール406に提供される。多くの実施形態では、超解像モジュール406は、アドレス変換モジュール410を介して得られた視差情報および幾何学較正データ408を使用して、シーン独立およびシーン依存幾何学補正(すなわち、幾何学補正)を行う。光度的に正規化され、幾何学的に位置合わせされたLR画像は、次いで、HR画像の合成において利用される。合成されたHR画像は、次いで、カラー補正および/または彩度レベル調節を行うように構成される任意の標準的カラー処理モジュールを使用して実装され得る、下流カラー処理モジュール412にフィードされてもよい。いくつかの実施形態では、カラー処理モジュールは、ホワイトバランス、カラー補正、ガンマ補正、およびRGB/YUV補正のうちの1つ以上を含むが、それらに限定されない、動作を行う。
いくつかの実施形態では、本発明の実施形態による画像処理パイプラインは、動的再焦点化モジュールを含む。動的再焦点化モジュールは、ユーザが、HR画像を合成するときに使用するために、シーン内の焦点面を規定することを可能にする。いくつかの実施形態では、動的再焦点化モジュールは、シーンに対する推定されるHR奥行マップを構築する。動的再焦点化モジュールは、HR奥行マップを使用して、合成された画像をぼやけさせ、焦点面上にないシーンの部分を焦点外に現すことができる。多くの実施形態では、SR処理は、焦点面上にあって、焦点面の周囲の規定されるZ−範囲内にあるピクセルに限定される。
いくつかの実施形態では、合成された高解像度画像420は、Joint Photographic Experts Groupによって開発されたJPEG規格に従う画像のエンコードを含むが、それらに限定されない、種々の規格ベースまたは専用エンコードプロセスのいずれかを使用して、エンコードされる。エンコードされた画像は、次いで、JPEG Interchange Format(JIF)、JPEG File Interchange Format(JFIF)、またはExchangeable image file format(Exif)を含むが、それらに限定されない、使用されるエンコード技法に適切なファイル形式に従って記憶されることができる。
同様に、本発明の実施形態によるアレイカメラ内で利用され得る、図4に図示される処理パイプラインに類似する処理パイプラインは、PCT公開第WO2009/151903号に説明されている。具体的画像処理パイプラインが前述されたが、本発明の実施形態による超解像プロセスは、本発明の実施形態による、超解像処理に先立って、LR画像を位置合わせする、種々の画像処理パイプラインのいずれか内で使用されることができる。
前述で示唆されるように、視差情報は、奥行マップならびにオクルージョンマップを生成するために使用されることができ、これは、以下に論じられる。
(像差を使用して、アレイカメラ内に奥行マップを生成する)
本発明の多くの実施形態によるアレイカメラは、アレイカメラによって捕捉される画像内で観察された像差を使用して、奥行マップを生成する。奥行マップは、典型的には、カメラから画像内の具体的ピクセルまたはピクセル群(オリジナル入力画像の解像度に対する奥行マップの解像度に依存する)までの距離を記述する、画像(多くの場合、基準カメラによって捕捉される基準画像)に関するメタデータの層と見なされる。本発明のいくつかの実施形態によるアレイカメラは、(限定されないが)高解像度画像の合成の間、シーン依存幾何学シフトを生成する、および/または合成された画像の動的再焦点化を行うことを含む、種々の目的のために奥行マップを使用する。
本発明の多くの実施形態によるアレイカメラは、アレイカメラによって捕捉される画像内で観察された像差を使用して、奥行マップを生成する。奥行マップは、典型的には、カメラから画像内の具体的ピクセルまたはピクセル群(オリジナル入力画像の解像度に対する奥行マップの解像度に依存する)までの距離を記述する、画像(多くの場合、基準カメラによって捕捉される基準画像)に関するメタデータの層と見なされる。本発明のいくつかの実施形態によるアレイカメラは、(限定されないが)高解像度画像の合成の間、シーン依存幾何学シフトを生成する、および/または合成された画像の動的再焦点化を行うことを含む、種々の目的のために奥行マップを使用する。
前述の像差の議論に基づいて、ピクセル像差に基づくシーンの一部の奥行を決定するプロセスは、理論的に単純である。アレイカメラ内の具体的カメラの視点が、基準視点として選定されると、基準視点から可視のシーンの一部までの距離は、カメラアレイによって捕捉される他の画像(多くの場合、代替ビュー画像と称される)の一部または全部内の対応するピクセル間の像差を使用して決定されることができる。オクルージョンが不在の場合、基準視点から捕捉される基準画像内のピクセルに対応するピクセルは、エピポーラ線(すなわち、2つのカメラ間の基線ベクトルに平行な線)に沿って、各代替ビュー画像内に位置するであろう。像差のエピポーラ線に沿った距離は、カメラとピクセルによって捕捉されるシーンの一部との間の距離に対応する。したがって、捕捉された基準画像および具体的奥行において対応すると予期される代替ビュー画像内のピクセルを比較することによって、検索は、高度の類似性を有するピクセルをもたらす奥行に対して実施されることができる。基準画像および代替ビュー画像内の対応するピクセルが、高度の類似性を有する奥行は、カメラとピクセルによって捕捉されたシーンの一部との間の最も可能性の高い距離として選択されることができる。
しかしながら、前述の方法を使用して正確な奥行マップを決定する際、多くの課題が存在する。いくつかの実施形態では、アレイカメラ内のカメラは、類似するが、同一ではない。したがって、(限定されないが)光学特性、異なるセンサ特性(オフセットによるセンサ応答の変動、異なる伝送または利得応答、ピクセル応答の非線形特性等)、捕捉された画像内の雑音、および/または組立プロセスに関連した製造公差に関連する歪曲または収差を含む、画像特性は、画像間で変動し、異なる画像内の対応するピクセルの類似性を低減させ得る。加えて、超解像プロセスは、高い解像度画像を合成するために、イメージャアレイによって捕捉される画像内のサンプリングダイバーシティに依拠する。しかしながら、サンプリングダイバーシティの増加はまた、光照射野内で捕捉された画像の中の対応するピクセル間の類似性の低下を伴い得る。前述の奥行を決定するためのプロセスが、ピクセルの類似性に依拠することを前提として、捕捉された画像間の光度差およびサンプリングダイバーシティの存在は、奥行マップが決定され得る正確度を低下させ得る。
奥行マップの生成はさらに、オクルージョンによって複雑になる。前述のように、オクルージョンは、基準視点から可視のピクセルが、画像のうちの1つ以上において不可視であるときに生じる。オクルージョンの効果は、正しい奥行にあるとき、そうでなければ、対応するピクセルによって占有されるであろう、ピクセル場所が、シーンの別の部分(典型的には、カメラにより近い物体)をサンプリングするピクセルによって占有されるというものである。オクルーディングピクセルは、多くの場合、オクルードされたピクセルに対して非常に異なる。したがって、正しい奥行におけるピクセルの類似性の比較は、他の奥行においてより有意に高い類似性度をもたらす可能性は低い。事実上、オクルーディングピクセルは、強外れ値として作用し、実際、正しい奥行において対応するそれらのピクセルの類似性をマスクキングする。故に、オクルージョンの存在は、強誤差源を奥行マップに導入し得る。さらに、基準カメラによって捕捉される画像内で可視のピクセルが、アレイ内の他のカメラによって捕捉される代替ビュー画像内で可視である可能性を増加させるためのπフィルタ群の使用は、前述の様式で生成された奥行マップの誤差を低減させることができる。
本発明の多くの実施形態による、奥行マップを生成するためのプロセスは、(限定されないが)前述のものを含む源によって奥行マップに導入され得る、誤差源を低減しようとする。例えば、米国特許出願第61/780,906号「Systems and Methods for Parallax Detection and Correctionin Images Captured Using Array Cameras」は、そのようなプロセスを開示している。既に前述のように、米国特許出願第61/780,906号の開示は、参照することによって、全体として本明細書に組み込まれる。加えて、前述のように、πフィルタ群の使用は、基準カメラの視点から可視のピクセルが、カラーチャネル内の全カメラの中でオクルードされる可能性を有意に低下させることができる。多くの異なるアレイカメラが、本発明の実施形態による、πフィルタ群を利用可能である。本発明の実施形態によるπフィルタ群を利用するカメラモジュールは、以下にさらに詳細に説明される。
(πフィルタ群を用いたパターン化)
カメラモジュールは、本発明の実施形態に従って、πフィルタ群を用いてパターン化されることができる。いくつかの実施形態では、カメラモジュールの一部として利用されるπフィルタ群はそれぞれ、各カラーに対してオクルージョンゾーンを低減させるように、カラーカメラによって囲まれる基準カメラとして機能し得る、中心カメラを含むことができる。ある実施形態では、カメラモジュールは、基準カメラが、赤色、緑色、および青色カメラによって囲まれる、緑色カメラである、RGBカラーモデルを利用して、長方形形式に配列される。いくつかの実施形態では、赤色カメラの数の2倍および青色カメラの数の2倍である数の緑色カメラが、基準カメラを囲む。多くの実施形態では、赤色カラーカメラおよび青色カラーカメラは、カメラの3×3アレイ上で反対位置に位置する。当然ながら、任意のカラーモデルからのカラーの任意のセットが、シアン色、マゼンタ色、黄色、ならびに基本(CMYK)カラーモデルまたは赤色、黄色、および青色(RYB)カラーモデル等のRGBカラーモデルに加え、有用範囲のカラーを検出するために利用されることができる。
カメラモジュールは、本発明の実施形態に従って、πフィルタ群を用いてパターン化されることができる。いくつかの実施形態では、カメラモジュールの一部として利用されるπフィルタ群はそれぞれ、各カラーに対してオクルージョンゾーンを低減させるように、カラーカメラによって囲まれる基準カメラとして機能し得る、中心カメラを含むことができる。ある実施形態では、カメラモジュールは、基準カメラが、赤色、緑色、および青色カメラによって囲まれる、緑色カメラである、RGBカラーモデルを利用して、長方形形式に配列される。いくつかの実施形態では、赤色カメラの数の2倍および青色カメラの数の2倍である数の緑色カメラが、基準カメラを囲む。多くの実施形態では、赤色カラーカメラおよび青色カラーカメラは、カメラの3×3アレイ上で反対位置に位置する。当然ながら、任意のカラーモデルからのカラーの任意のセットが、シアン色、マゼンタ色、黄色、ならびに基本(CMYK)カラーモデルまたは赤色、黄色、および青色(RYB)カラーモデル等のRGBカラーモデルに加え、有用範囲のカラーを検出するために利用されることができる。
いくつかの実施形態では、RGBカラーモデルが使用されるとき、2つのπフィルタ群が、カメラモジュールのパターン化において利用されることができる。一方のπフィルタ群は、図5Aに図示され、他方のπフィルタ群は、図5Bに図示される。これらのπフィルタ群はいずれも、カメラの3×3アレイを上回る寸法を伴う、任意のカメラモジュールをパターン化するために使用されることができる。
3×3カメラモジュールを伴う実施形態では、πフィルタ群を用いたカメラモジュールのパターン化は、単一πフィルタ群のみを含む。本発明のある実施形態による、3×3カメラモジュール上のπフィルタ群は、図5Aに図示される。πフィルタ群500は、各角における緑色カメラと、ボックス502内に表記される中心における緑色基準カメラと、基準カメラの上下の青色カメラと、基準カメラの左右側の赤色カメラとを含む。本構成では、中心基準カメラを囲む緑色カメラの数は、赤色カメラの数の2倍および青色カメラの数の2倍である。加えて、赤色カメラは、オクルージョンを低減させるために、カメラの3×3アレイの中心に対して反対場所に位置する。同様に、青色カメラは、オクルージョンを低減させるために、カメラの3×3アレイの中心に対して反対場所に位置する。図5Aに説明されるπフィルタ群の代替は、本発明のある実施形態による、図5Bに図示される。本πフィルタ群もまた、角における緑色カメラとともに、ボックスを用いて示されるように、中心における緑色基準カメラ552を含む。しかしながら、図5Aと異なり、赤色カメラは、図5Bに示されるように、上下にあって、青色カメラは、基準カメラの左右側にある。図5Aに示されるπフィルタ群と同様に、図5Bにおけるπフィルタ群も、赤色カメラの数の2倍および青色カメラの数の2倍の数の緑色カラーカメラによって囲まれる中心基準カメラを含む。前述のように、基準カメラは、緑色カメラである必要はない。いくつかの実施形態では、図5Aおよび5Bにおける構成は、Bayerカラーフィルタを採用する中心カメラを含むように修正されることができる。他の実施形態では、中心カメラは、赤外線カメラ、拡張カラーカメラ、および/または具体的用途に適切な任意の他のタイプのカメラ、例えば、赤外線カメラ、またはUVカメラである。さらなる実施形態では、種々のカラーカメラのいずれも、各カラーチャネルに対してオクルージョンゾーンを低減させる様式で、基準カメラに対して3×3アレイ内の反対場所において、基準カメラの周囲に分布されることができる。
例えば、図5Cは、緑色カラーカメラが、中心カメラの上下左右に位置することができる一方、赤色および青色カラーカメラが、πフィルタ群の角位置に配置される、実施形態を描写する。本実施形態では、第1および第3の行および列はそれぞれ、赤色、緑色、および青色カラーフィルタを有し、本配列は、オクルージョンの事例を低減させることができることに留意されたい。同様に、図5Cに示される構成は、赤色および青色カラーカメラが、若干、中心基準カメラから離れているため、赤色および青色カラーチャネル内に、図5Aおよび5Bに図示される実施形態と比較して、若干、大きいオクルージョンゾーンを含み得る。図5Dおよび5Eは、各カラーチャネル内のカメラが、中心基準カメラに対して3×3アレイにおいて、反対位置に位置するように、カラーカメラが、中心緑色カメラを囲む、実施形態を描写する。本構成では、カメラが3×3アレイの角にある、青色または赤色カラーチャネルは、若干、カメラが中心基準カメラにより近接して位置する(すなわち、カメラが、角に位置しない)、青色または赤色カラーチャネルより大きいオクルージョンゾーンを有する可能性が高い。当然ながら、前述のように、中心基準カメラは、本発明の実施形態による、例えば、緑色カメラだけではない、任意の好適なカメラであることができる。さらに、多くの実施形態は、図5Dおよび5Eに見られるものに類似するが、図5Dおよび5Eに見られるものの鏡像である配列を利用する。同様に、多数の実施形態は、図5Dおよび5Eに見られるものに類似するが、図5Dおよび5Eに見られるものに対して回転される配列を利用する。
3×3カメラ以上の寸法を伴う、任意のカメラモジュールは、1つ以上のπフィルタ群を用いてパターン化されることができ、πフィルタ群内にないカメラに、πフィルタ群のカラーフィルタ割当を前提として、カメラモジュール内のオクルージョンゾーンの可能性を低減または最小限にする、カラーが割り当てられる。本発明のある実施形態による、2つのπフィルタ群を用いてパターン化された4×4カメラモジュールが、図6に図示される。カメラモジュール600は、基準緑色カメラ604を中心とする9つのカメラの第1のπフィルタ群602を含む。第2のπフィルタ群610は、第1のπフィルタ群の右下に1カメラシフトして、対角線上に位置する。第2のπフィルタ群は、カメラモジュール600の4つの中心カメラ612を第1のπフィルタ群と共有する。しかしながら、カメラは、異なる役割を果たす(すなわち、異なるカメラが、2つのπフィルタ群内の基準カメラとして作用する)。図6に図示されるように、カメラモジュールの角606および608における2つのカメラは、2つのπフィルタ群、602および610内に含まれない。これらのカメラ内で利用されるカラーフィルタは、2つのπフィルタ群、602および610の一部であるカメラのカラーフィルタ割当を前提として、オクルージョンゾーンの最小限化に基づいて決定される。πフィルタ群のパターン化のため、基準カメラの周囲には、青色カラーカメラの均一分布が存在するが、基準カメラの上方には、赤色カラーカメラは存在しない。したがって、右上角カメラ606を赤色として選択することによって、基準カメラの上方の視点からの赤色画像データを提供し、基準カメラ604および第2のπフィルタ群の中心カメラに対するシーン内の前景画像の上および右のオクルージョンゾーンの可能性は、最小限にされる。同様に、左下角カメラ608を青色として選択することによって、基準カメラの左への視点からの青カラー画像データを提供し、基準カメラ604および第2のπフィルタ群の中心カメラに対するシーン内の前景画像の下および左のオクルージョンゾーンの可能性は、最小限にされる。それによって、3×3を上回る寸法を伴うカメラモジュールは、任意のπフィルタ群内に含まれないカメラに割り当てられたカラーを伴うπフィルタ群を用いてパターン化され、前述のように、オクルージョンゾーンを低減および/または最小限にすることができる。その結果、カメラアレイは、青色カラーカメラ、緑色カラーカメラ、および赤色カラーカメラを含む、少なくとも1つの行および少なくとも1つの列を含む。具体的πフィルタ群が、前述されたが、種々のπフィルタ群のいずれも、本発明の多くの異なる実施形態に従って、カメラモジュールをパターン化することができる。
(同等性能を伴う、複数の基準カメラ選択肢)
本発明の実施形態による、カメラモジュールをパターン化するための複数のπフィルタ群の使用は、複数のカメラが、同等性能を伴う基準カメラとして使用されることを可能にする。本発明のある実施形態による、2つのπフィルタ群を伴う4×4カメラモジュールが、図7に図示される。カメラモジュール700は、各πフィルタ群704、708の中心カメラが、基準カメラとして作用することができる、2つのπフィルタ群702、706を含む。選択された基準カメラにかかわらず、基準カメラの周囲のカメラの分布は、πフィルタ群の使用のため、同じようになる。それによって、カメラモジュール700が、基準カメラ704に欠陥を検出する場合、カメラモジュール700は、基準カメラ708として、別のπフィルタ群の中心におけるカメラの使用に切り替え、第1の基準カメラ704の欠陥を回避することができる。さらに、πフィルタ群を用いてパターン化することは、基準カメラまたは仮想視点がカメラモジュールの中心にあることを要求しないが、むしろ、基準カメラが、各カラーに対するオクルージョンゾーンを低減させるように、カラーカメラによって囲まれることを要求する。具体的カメラモジュールが、前述されたが、任意の数の異なる寸法のカメラモジュールが、本発明の実施形態による、複数の基準カメラ選択肢を作成するために利用されることができる。
本発明の実施形態による、カメラモジュールをパターン化するための複数のπフィルタ群の使用は、複数のカメラが、同等性能を伴う基準カメラとして使用されることを可能にする。本発明のある実施形態による、2つのπフィルタ群を伴う4×4カメラモジュールが、図7に図示される。カメラモジュール700は、各πフィルタ群704、708の中心カメラが、基準カメラとして作用することができる、2つのπフィルタ群702、706を含む。選択された基準カメラにかかわらず、基準カメラの周囲のカメラの分布は、πフィルタ群の使用のため、同じようになる。それによって、カメラモジュール700が、基準カメラ704に欠陥を検出する場合、カメラモジュール700は、基準カメラ708として、別のπフィルタ群の中心におけるカメラの使用に切り替え、第1の基準カメラ704の欠陥を回避することができる。さらに、πフィルタ群を用いてパターン化することは、基準カメラまたは仮想視点がカメラモジュールの中心にあることを要求しないが、むしろ、基準カメラが、各カラーに対するオクルージョンゾーンを低減させるように、カラーカメラによって囲まれることを要求する。具体的カメラモジュールが、前述されたが、任意の数の異なる寸法のカメラモジュールが、本発明の実施形態による、複数の基準カメラ選択肢を作成するために利用されることができる。
(製造収率改善)
製造プロセスは、本質的に、欠陥をもたらし得る、ばらつきを伴う。いくつかの事例では、製造欠陥は、イメージャアレイ内の焦点面全体を動作不能にするほど十分に深刻であり得る。焦点面の不具合が、イメージャアレイの廃棄をもたらす場合、アレイカメラを製造するためのコストは、増加される。πフィルタ群を用いて、カメラモジュールをパターン化することは、光学系アレイの光学チャネル内のカラーフィルタの配分が、アレイカメラによって捕捉された画像データを使用して合成された画像内のオクルージョンゾーンの作成に対して、故障焦点面が及ぼす影響を低減させるために使用され得るため、高製造収率を提供することができる。
製造プロセスは、本質的に、欠陥をもたらし得る、ばらつきを伴う。いくつかの事例では、製造欠陥は、イメージャアレイ内の焦点面全体を動作不能にするほど十分に深刻であり得る。焦点面の不具合が、イメージャアレイの廃棄をもたらす場合、アレイカメラを製造するためのコストは、増加される。πフィルタ群を用いて、カメラモジュールをパターン化することは、光学系アレイの光学チャネル内のカラーフィルタの配分が、アレイカメラによって捕捉された画像データを使用して合成された画像内のオクルージョンゾーンの作成に対して、故障焦点面が及ぼす影響を低減させるために使用され得るため、高製造収率を提供することができる。
多くの実施形態では、イメージャアレイの焦点面内のピクセルによって感知される光は、光を焦点面上に集束させる、光学チャネル内に含まれるカラーフィルタによって決定される。製造の間、焦点面内の欠陥は、検出され得る。欠陥が検出されると、光学系アレイ内の光学チャネルのカラーフィルタパターンは、欠陥焦点面がオクルージョンゾーンのサイズの増加をもたらさないように、決定されることができる。典型的には、これは、欠陥焦点面の存在が、カメラアレイ内の赤色または青色カメラの数を減少させないように、πフィルタ群を用いて、カメラモジュールをパターン化することを意味する(すなわち、緑色チャネルが欠陥焦点面に割り当てられ、1つのカメラ分、カメラアレイ内の緑色カメラの数が減少させる結果をもたらす、フィルタパターンが、使用される)。
本発明の実施形態による、光学系アレイおよびイメージャアレイを組み合わせ、カメラモジュールを作成する前に、故障焦点面を検出するプロセスが、図6Aに図示される。図示されるプロセスでは、カラーフィルタパターンは、イメージャアレイのピクセル上ではなく、光学系アレイ上にパターン化される。異なるフィルタパターンを伴う異なるタイプの光学系アレイを製造することによって、プロセスは、具体的光学系アレイを体系的に選定し、故障焦点面をあるフィルタのカラーと対にし、所与のカラーチャネル内のオクルージョンゾーンのサイズが低減および/または最小限にされることを確実にすることができる。プロセス800は、故障焦点面に対してイメージャアレイを試験(802)することを含む。イメージャアレイを試験(802)後、故障焦点面がイメージャアレイ上に検出されるかどうについて、決定(804)が行われる。故障焦点面が検出される場合、光学系アレイが、故障焦点面の場所に基づいて、選択される(806)。多くの実施形態では、光学系アレイは、イメージャアレイによって捕捉された画像データを使用して合成された画像内のオクルージョンゾーンの作成に及ぼす故障焦点面の影響を最小限にするよう、カラーフィルタを動作焦点面に割り当てることによって、故障焦点面の効果を低減させるように選択される。故障焦点面が存在するとき、オクルージョンゾーンを低減させる、異なる光学系アレイの選択のさらなる議論は、図6Bおよび6Cを参照して以下に提供される。故障焦点面の場所に基づいて、光学系アレイを選択(806)後、選択された光学系アレイは、イメージャアレイと組み合わせられ(808)、カメラモジュールを作成する。故障焦点面が選択されない場合、πフィルタ群に基づくフィルタパターンを含む、種々の光学系アレイのいずれかが、試験されたイメージャアレイと組み合わせられ(808)、カメラモジュールを作成することができる。以下にさらに論じられるように、典型的プロセスは、πフィルタ群に基づく第1のフィルタパターンを含む、デフォルト光学系アレイを含むことができ、πフィルタ群に基づく第2のフィルタパターンは、第1のフィルタパターンが使用されるとき、故障焦点面がカメラモジュール内のカラーカメラ(またはさらに、カメラモジュールの外側の周囲のカラーカメラ等の具体的カラーカメラ)の数の減少をもたらすであろう、具体的欠陥が検出されるときに利用されることができる。
カラーフィルタ割当の修正が、故障焦点面の影響を低減させ得る様式は、図8Bおよび8Cに図示される。故障赤色カメラを伴うカメラモジュールが、図8Bに図示される。カメラモジュール820は、可能性として考えられる基準カメラ822を中心に伴う、第1のπフィルタ群828と、可能性として考えられる基準カメラ830を中心に伴う、第2のπフィルタ群832と、πフィルタ群828および832両方の下方の故障赤色カメラ824とを含む。故障赤色カメラのため、可能性として考えられる基準カメラ822および830の両方の下方には、赤色画像データが欠けている。したがって、2つのカメラのいずれが、πフィルタ群の中心にあるかにかかわらず、は、基準カメラとして選定される。故に、図8Bに図示されるフィルタパターンを含む、光学系アレイと、示される故障焦点面を伴うイメージャを組み合わせることは、任意の基準カメラの下方の赤色情報の捕捉を妨害し、前景物体の下方のオクルージョンゾーンの可能性を増加させる、欠陥赤色カメラをもたらす。しかしながら、異なる場所におけるπフィルタ群を使用してパターン化された光学系アレイは、青色および赤色カラーフィルタの全てが、アクティブであるカメラに割り当てられる結果をもたらし得る。このように、故障焦点面は、緑色カメラの数のみに影響を及ぼし、結果として生じるカメラモジュールによって捕捉された画像データを使用して合成された画像内のオクルージョンゾーンの可能性を低減させるようにそれを行う。換言すると、故障焦点面の場所を前提として、オクルージョンゾーンの可能性を最小限にするよう、カラー情報が基準カメラの周囲で捕捉される結果をもたらすように、故障焦点面を含むイメージャアレイと、πフィルタ群に基づいて、アクティブカメラのカラーフィルタを割り当てる、光学系アレイを組み合わせることによって、収率が、ある状況下では、改善され得る。
図8Bの故障焦点面を伴うが、故障焦点面が、基準カメラモジュールの周囲における赤色または青色画像データの捕捉を低減させないように、πフィルタ群を用いてパターン化された光学系アレイを伴う、カメラモジュールが、図8Cに図示される。図8Bの光学系アレイのパターンに対して、図8Cの光学系アレイは、光学系アレイの中心垂直交差軸826に沿って反転され、2つのπフィルタ群828’および832’を含む。故障焦点面と関連付けられたレンズスタックは、図8Bにおける赤色824とは対照的に、緑色854である。図8Cにおける全可能性として考えられる基準カメラ852、856の下方に複数の緑色カメラが存在するため、緑色カメラ854の損失は、図8Bにおける赤色カメラ824の損失からの影響とは対照的に、ほとんど影響はない。したがって、イメージャアレイ上の故障焦点面の影響は、故障焦点面が、結果として生じるカメラモジュールによって捕捉されるカラーチャネルのいずれか内にオクルージョンゾーンを作成する可能性を低減させる様式において、故障イメージャアレイと、カラーフィルタをイメージャアレイ内の焦点面に具体的に割り当てるように選択された光学系アレイを組み合わせることによって、低減されることができる。前述の実施例は、赤色オクルージョンゾーンを減少させるが、イメージャアレイ内の場所のいずれかにおける欠陥焦点面の影響も、同様に、πフィルタ群に基づいて、フィルタパターンの適切な選択によって、最小限にされることができる。πフィルタ群を用いてパターン化され、故障焦点面による収率損失を最小限にするカメラモジュールの具体的実施例が、前述されたが、種々の代替πフィルタ群を含む、カラーフィルタパターンのいずれも、本発明の実施形態に従って、製造収率を増加させるために利用されることができる。
(立体3D画像の捕捉)
多くの実施形態では、超解像プロセスは、2010年12月14日出願の米国特許出願第12/967,807号「Systems and Methods for Synthesizing High Resolution Images Using Super−Resolution Processes」(その開示は、参照することによって前述に組み込まれている)に開示されるように、対の立体3D画像を含む、アレイカメラによって捕捉される低解像度画像を使用して、高解像度画像を合成するために使用されることができる。立体3D画像対は、シーンの3D表現を作成するために組み合わせられ得る、空間的にオフセットされた視点からの2つのシーンの画像である。πフィルタ群を含む、フィルタパターンの使用は、計算上効率的様式において、立体3D画像の合成を可能にすることができる。アレイカメラ内の全部に満たないカメラによって捕捉される画像データが、立体3D画像対を形成する、画像のそれぞれを合成するために使用されることができる。
多くの実施形態では、超解像プロセスは、2010年12月14日出願の米国特許出願第12/967,807号「Systems and Methods for Synthesizing High Resolution Images Using Super−Resolution Processes」(その開示は、参照することによって前述に組み込まれている)に開示されるように、対の立体3D画像を含む、アレイカメラによって捕捉される低解像度画像を使用して、高解像度画像を合成するために使用されることができる。立体3D画像対は、シーンの3D表現を作成するために組み合わせられ得る、空間的にオフセットされた視点からの2つのシーンの画像である。πフィルタ群を含む、フィルタパターンの使用は、計算上効率的様式において、立体3D画像の合成を可能にすることができる。アレイカメラ内の全部に満たないカメラによって捕捉される画像データが、立体3D画像対を形成する、画像のそれぞれを合成するために使用されることができる。
πフィルタ群を用いてパターン化することは、基準カメラの周囲におけるカメラの効率的分布を可能にし、オクルージョンゾーンを減少させ、立体3D画像対内の画像のそれぞれを合成するために利用される、カメラモジュールによって捕捉される画像データの量を減少させる。多くの実施形態では、異なるカメラのサブセットが、立体3D画像対を形成する画像のそれぞれを捕捉するために使用され、サブセットはそれぞれ、πフィルタ群を含む。多くの実施形態では、立体3D画像対を形成する画像は、若干、πフィルタ群の中心におけるカメラからオフセットされた仮想視点から捕捉される。πフィルタ群の中心カメラは、中心カメラが基準カメラとして使用されるとき、各カラーカメラに対するオクルージョンゾーンを最小限にするように、カラーカメラによって囲まれる。仮想視点が、πフィルタ群の中心に近接すると、仮想視点の周囲のカラーカメラの分布の利点は、類似する。
πフィルタ群を使用してパターン化されたカメラモジュールを使用して捕捉される、立体3D画像対のための左仮想視点が、図9Aに図示される。左仮想視点904は、3×4アレイを形成する、12の円形カメラG1−G3、G5−G7、B1−B2、B4、およびR2−R3からの画像データから得られる。仮想視点は、πフィルタ群906の中心にある、緑色カメラG3に対してオフセットされる。図7に示されるカメラモジュールを使用して、立体対内の第2の画像を捕捉するために使用される、右仮想視点が、図9Bに図示される。右仮想視点954は、3×4アレイを形成する、12の円形カメラB1−B3、G2−G4、G6−G8、R1、R3−R4からの画像データから得られる。仮想視点は、πフィルタ群956の中心にある緑色カメラG6に対してオフセットされる。したがって、単一アレイカメラは、立体対を形成する画像のそれぞれを合成するために、カメラのサブセットからの画像データを使用して、3Dシーンの画像を捕捉することができる。カメラモジュール内の全部に満たないカメラによって捕捉された画像データを利用することによって、立体3D画像対を生成する計算上の複雑性が、低減される。加えて、πフィルタ群の中心におけるカメラに近接する画像のそれぞれの視点の場所は、合成された画像内のオクルージョンゾーンの可能性を低減させる。
いくつかの実施形態では、視点は、仮想視点である必要はない。多くの実施形態では、アレイカメラモジュールは、立体画像が捕捉される視点が、カメラアレイ内の基準カメラから得られた基準視点であるように、πフィルタ群を使用して構築されることができる。例えば、いくつかの実施形態では、3×5カメラモジュールが、2つの重複するπフィルタ群を含むように提供される。2つの基準緑色カラーカメラのそれぞれを中心とする2つの重複するπフィルタ群を含む、3×5カメラモジュールが、図9Cに図示される。特に、カメラモジュール960は、2つの重複するπフィルタ群962および964を含み、それぞれ、2つの基準緑色カラーカメラ966および968のそれぞれの一方を中心とする。2つの基準カメラ966および968は、2つの基準視点を提供するために使用される。多くの実施形態では、アレイカメラモジュールは、非重複πフィルタ群を使用して、立体画像を捕捉するように構成される。立体画像を捕捉するために使用され得る、2つの非重複πフィルタ群を含む、3×6アレイカメラモジュールが、図9Dに図示される。特に、アレイカメラモジュール970は、図9Cに見られるものに類似するが、2つのπフィルタ群972および974は、重複しない。図示される実施形態では、前述のように、2つのπフィルタ群972および974はそれぞれ、2つの緑色カラーカメラ976および978のそれぞれ一方を中心とする。2つの基準カメラ976および978は、2つの基準視点を提供するために使用される。図9Dに図示される実施形態は、各πフィルタ群内にカメラの異なる配列を有する、πフィルタ群が、本発明の実施形態に従って、アレイカメラモジュールをパターン化するために利用され得ることを実証する。2つのπフィルタ群972および974は、異なる3×3カメラ配列を使用する。同様に、カメラの異なる3×3配列を組み込む、πフィルタ群は、異なる寸法の種々のカメラアレイのいずれかを構築するために利用されることができる。
立体3D画像対を合成するためのカメラの具体的視点およびサブセットが、図9A−9Dに図示されたが、立体画像対は、本発明の実施形態による種々のカメラモジュールのいずれかにおいて、カメラのサブセットを使用して生成されることができる。
(カメラのサブセットを使用した画像の捕捉)
πフィルタ群を用いてパターン化されたカメラモジュールを伴うアレイカメラは、本発明の多くの実施形態に従って、動作時に利用可能な全部に満たないカメラを利用することができる。いくつかの実施形態では、より少ないカメラの使用は、アレイカメラを使用して画像を生成する計算上の複雑性を最小限にすることができ、アレイカメラの電力消費を削減することができる。画像データを捕捉するために使用されるカメラの数の減少は、ビデオ等の用途に有用であり得、ビデオのフレームは、カメラモジュールによって捕捉され得る全部に満たない画像データを使用して、合成されることができる。いくつかの実施形態では、単一πフィルタ群が、画像を捕捉するために利用されることができる。多くの実施形態では、単一πフィルタ群によって捕捉される画像データは、より多い数のカメラを用いて画像データを捕捉するのに先立って、プレビュー画像を捕捉するために利用される。いくつかの実施形態では、単一πフィルタ群内のカメラは、ビデオ画像データを捕捉する。具体的用途の要件に応じて、画像データは、付加的カメラを使用して捕捉され、解像度を増加させ、および/または付加的カラー情報を提供し、オクルージョンを低減させることができる。
πフィルタ群を用いてパターン化されたカメラモジュールを伴うアレイカメラは、本発明の多くの実施形態に従って、動作時に利用可能な全部に満たないカメラを利用することができる。いくつかの実施形態では、より少ないカメラの使用は、アレイカメラを使用して画像を生成する計算上の複雑性を最小限にすることができ、アレイカメラの電力消費を削減することができる。画像データを捕捉するために使用されるカメラの数の減少は、ビデオ等の用途に有用であり得、ビデオのフレームは、カメラモジュールによって捕捉され得る全部に満たない画像データを使用して、合成されることができる。いくつかの実施形態では、単一πフィルタ群が、画像を捕捉するために利用されることができる。多くの実施形態では、単一πフィルタ群によって捕捉される画像データは、より多い数のカメラを用いて画像データを捕捉するのに先立って、プレビュー画像を捕捉するために利用される。いくつかの実施形態では、単一πフィルタ群内のカメラは、ビデオ画像データを捕捉する。具体的用途の要件に応じて、画像データは、付加的カメラを使用して捕捉され、解像度を増加させ、および/または付加的カラー情報を提供し、オクルージョンを低減させることができる。
画像を合成するために利用され得る画像データを捕捉するために利用される、カメラモジュール内のπフィルタ群が、図10に図示される。図示される実施形態では、基準カメラは、ボックスで囲まれ、利用されるカメラは、点線で包含される。カメラモジュール1000は、基準カメラG3を用いて、画像データG1−G2、G5−G6、B1−B2、およびR2−R3を生成する、カメラのπフィルタ群を含む。図10は、πフィルタ群内のカメラが、どのように画像を捕捉するために利用され得るかを図示する。画像データは、解像度の増加のために、付加的カメラを使用して取得され、オクルージョンゾーン内の付加的カラー情報を提供することができる。故に、カメラの任意の数および配列が、本発明の多くの異なる実施形態に従って、カメラモジュールを使用して画像データを捕捉するために利用されることができる。
(πフィルタ群を含む、カラーフィルタパターンの構築)
3×3を上回る寸法を有するカメラの任意のアレイのためのカラーフィルタパターンが、本発明の実施形態に従って、構築されることができる。多くの実施形態では、カラーフィルタパターンを構築するためのプロセスは、典型的には、カラーフィルタをカメラモジュール内のカメラに割り当て、重複するπフィルタ群の数を最大限にすることを伴う。πフィルタ群内に含まれることができないカメラが存在する場合、カラーフィルタが、高解像度画像を合成する目的のために、基準カメラとして使用されるべきカメラの周囲のオクルージョンを最小限にすることに基づいて、カメラに割り当てられることができる。
3×3を上回る寸法を有するカメラの任意のアレイのためのカラーフィルタパターンが、本発明の実施形態に従って、構築されることができる。多くの実施形態では、カラーフィルタパターンを構築するためのプロセスは、典型的には、カラーフィルタをカメラモジュール内のカメラに割り当て、重複するπフィルタ群の数を最大限にすることを伴う。πフィルタ群内に含まれることができないカメラが存在する場合、カラーフィルタが、高解像度画像を合成する目的のために、基準カメラとして使用されるべきカメラの周囲のオクルージョンを最小限にすることに基づいて、カメラに割り当てられることができる。
本発明のある実施形態による、カラーフィルタをカメラモジュール内のカメラに割り当てるためのプロセスが、図11に図示される。プロセス1100は、アレイの角を選択し(1102)、πフィルタ群を選択された角に割り当てる(1104)ことを含む。πフィルタ群は、3×3グリッドを占有する。カラーフィルタは、アレイ内の重複するπフィルタ群の数を最大限にするように、残りのカメラに割り当てられることができる(1106)。カラーフィルタが割り当てられないカメラが存在する場合、カメラは、アレイのための基準カメラとして選択されたカメラの視点から合成された画像内のオクルージョンゾーンの可能性を低減させる、カラーフィルタが割り当てられる(1108)。その時点で、アレイ内のカメラは全て、カラーフィルタが割り当てられる。前述のように、複数のπフィルタ群の存在は、(限定されないが)アレイ内の具体的カメラの中の不具合に対するロバスト性、および少なくとも1つのπフィルタ群によって捕捉される画像データを利用して、カメラモジュール内の全部に満たないカメラを用いて画像を合成する能力を含む、利点を提供する。
πフィルタ群を使用して、5×5アレイのための単純フィルタパターンを生成するプロセスが、図12A-12Dに図示される。プロセスは、アレイの左上角の選択から開始する。πフィルタ群が、左上角におけるカメラの3×3群(カメラG1−G5、B1−B2、およびR1−R2)に割り当てられる。第2の重複するπフィルタ群が、3つの緑色カメラおよび青色カメラおよび赤色カメラ(G6−G8およびB3およびR3)を追加することによって作成される。第3の重複するπフィルタ群は、別の3つの緑色カメラおよび青色カメラおよび赤色カメラ(G9−G11およびB4およびR4)を追加することによって作成される。第5のおよび第6のπフィルタ群は、単一緑色カメラ、青色カメラ、および赤色カメラ(G12、B5、R5およびG13、B6、R6)を追加することによって作成される。中心カメラ(G6)が故障する場合、別のπフィルタ群の中心におけるカメラが、基準カメラ(例えば、G3)として利用されることができる。
πフィルタ群を使用して、4×5アレイのための単純フィルタパターンを生成するための類似プロセスが、図13A−13Dに図示される。プロセスは、非常に類似するが、2つのカメラが、πフィルタ群内に含まれない。以下にカメラG6(πフィルタ群の中心)の下方に青色カメラが存在しないという事実のため、πフィルタ群の一部を形成しないカメラは、青色カメラ(B5およびB6)として割り当てられる。容易に理解され得るように、類似プロセスが、3×3アレイを上回る任意のアレイに適用され、本発明の実施形態によるπフィルタ群を組み込む、カラーフィルタパターンを生成することができる。同様に、前述のプロセスは、図14に図示されるカメラの7×7アレイを含む、より大きいアレイを構築するために利用されることができる。同一のプロセスはまた、アレイの寸法のそれぞれ内のカメラの数が奇数である、正方形アレイを含む、任意の寸法のさらに大きいアレイを構築するために利用されることができる。故に、本明細書で論じられるプロセスは、本発明の実施形態に従って、具体的用途の要件に適切な任意の寸法を有するカメラアレイを含む、カメラモジュールおよび/またはアレイカメラを構築するために利用されることができる。
前述の説明は、本発明の多くの具体的実施形態を含むが、これらは、発明の範囲の限定として解釈されるべきではなく、むしろ、その一実施形態の実施例として解釈されたい。したがって、本発明は、本発明の範囲および精神から逸脱することなく、具体的に説明された以外にも実践され得ることを理解されたい。したがって、本発明の実施形態は、あらゆる観点において、制限ではなく、例証として見なされるべきである。
Claims (42)
- アレイカメラモジュールであって、前記アレイカメラモジュールは、
複数の焦点面を備えるM×Nイメージャアレイであって、各焦点面は、感光ピクセルのアレイを備える、M×Nイメージャアレイと、
複数のレンズスタックのM×N光学系アレイであって、各レンズスタックは、焦点面に対応し、各レンズスタックは、その対応する焦点面上にシーンの画像を形成する、M×N光学系アレイと
を備え、レンズスタックおよびその対応する焦点面の各対は、したがって、カメラを規定し、
前記カメラのM×Nアレイ内の少なくとも1つの行は、少なくとも1つの赤色カラーカメラと、少なくとも1つの緑色カラーカメラと、少なくとも1つの青色カラーカメラとを備え、
前記カメラのM×Nアレイ内の少なくとも1つの列は、少なくとも1つの赤色カラーカメラと、少なくとも1つの緑色カラーカメラと、少なくとも1つの青色カラーカメラとを備える、アレイカメラモジュール。 - MおよびNはそれぞれ、2より大きく、MおよびNのうちの少なくとも1つは、偶数であり、
カラーフィルタは、前記アレイカメラモジュールが少なくとも1つのπフィルタ群を用いてパターン化されるように、前記アレイカメラモジュールにおける前記カメラ内に実装され、前記少なくとも1つのπフィルタ群は、
カメラの3×3アレイを備え、前記カメラの3×3アレイは、
前記カメラの3×3アレイの中心における基準カメラと、
前記カメラの3×3アレイの両側に位置する2つの赤色カラーカメラと、
前記カメラの3×3アレイの両側に位置する2つの青色カラーカメラと、
前記基準カメラを囲む4つの緑色カラーカメラと
を備える、請求項1に記載のアレイカメラモジュール。 - 前記基準カメラを囲む前記4つの緑色カラーカメラのそれぞれは、前記カメラの3×3アレイの角位置に配置されている、請求項2に記載のアレイカメラモジュール。
- Mは、4であり、
Nは、4であり、
前記4×4アレイカメラモジュールのカメラの第1の行は、緑色カラーカメラ、青色カラーカメラ、緑色カラーカメラ、および、赤色カラーカメラをその順序で含み、
前記4×4アレイカメラモジュールのカメラの第2の行は、赤色カラーカメラ、緑色カラーカメラ、赤色カラーカメラ、および、緑色カラーカメラをその順序で含み、
前記4×4アレイカメラモジュールのカメラの第3の行は、緑色カラーカメラ、青色カラーカメラ、緑色カラーカメラ、および、青色カラーカメラをその順序で含み、
前記4×4アレイカメラモジュールのカメラの第4の行は、青色カラーカメラ、緑色カラーカメラ、赤色カラーカメラ、および、緑色カラーカメラをその順序で含む、
請求項3に記載のアレイカメラモジュール。 - Mは、4であり、
Nは、4であり、
前記4×4アレイカメラモジュールのカメラの第1の行は、赤色カラーカメラ、緑色カラーカメラ、青色カラーカメラ、および、緑色カラーカメラをその順序で含み、
前記4×4アレイカメラモジュールのカメラの第2の行は、緑色カラーカメラ、赤色カラーカメラ、緑色カラーカメラ、および、赤色カラーカメラをその順序で含み、
前記4×4アレイカメラモジュールのカメラの第3の行は、青色カラーカメラ、緑色カラーカメラ、青色カラーカメラ、および、緑色カラーカメラをその順序で含み、
前記4×4アレイカメラモジュールのカメラの第4の行は、緑色カラーカメラ、赤色カラーカメラ、緑色カラーカメラ、および、青色カラーカメラをその順序で含む、
請求項3に記載のアレイカメラモジュール。 - 前記基準カメラは、緑色カラーカメラである、請求項2に記載のアレイカメラモジュール。
- 前記基準カメラは、Bayerフィルタを組み込むカメラ、赤外光を捕捉するように構成されたカメラ、および、紫外光を捕捉するように構成されたカメラのうちの1つである、請求項2に記載のアレイカメラモジュール。
- 前記2つの赤色カラーカメラのそれぞれは、前記カメラの3×3アレイの角位置に位置し、前記2つの青色カラーカメラのそれぞれは、前記カメラの3×3アレイの角位置に位置する、請求項2に記載のアレイカメラモジュール。
- 少なくとも1つのカラーフィルタは、前記イメージャアレイ上に実装されている、請求項2に記載のアレイカメラモジュール。
- 少なくとも1つのカラーフィルタは、レンズスタック上に実装されている、請求項2に記載のアレイカメラモジュール。
- 3×3アレイカメラモジュールであって、前記3×3アレイカメラモジュールは、
焦点面の3×3配列を備える3×3イメージャアレイであって、各焦点面は、感光ピクセルのアレイを備える、3×3イメージャアレイと、
複数のレンズスタックの3×3光学系アレイであって、各レンズスタックは、焦点面に対応し、各レンズスタックは、その対応する焦点面上にシーンの画像を形成する、3×3光学系アレイと
を備え、レンズスタックおよびその対応する焦点面の各対は、したがって、カメラを規定し、
カメラの3×3アレイは、
前記カメラの3×3アレイの中心における基準カメラと、
前記カメラの3×3アレイの両側に位置する2つの赤色カラーカメラと、
前記カメラの3×3アレイの両側に位置する2つの青色カラーカメラと、
4つの緑色カラーカメラであって、そのそれぞれは、前記カメラの3×3アレイの角位置に位置する、4つの緑色カラーカメラと
を備え、前記カラーカメラのそれぞれは、カラーフィルタを使用して達成される、3×3アレイカメラモジュール。 - 少なくとも1つのカラーフィルタは、前記イメージャアレイ上に実装されることにより、カラーカメラを達成する、請求項11に記載の3×3アレイカメラモジュール。
- 少なくとも1つのカラーフィルタは、レンズスタック内に実装されることにより、カラーカメラを達成する、請求項11に記載の3×3アレイカメラモジュール。
- 前記基準カメラは、緑色カラーカメラである、請求項11に記載の3×3アレイカメラモジュール。
- 前記基準カメラは、Bayerフィルタを組み込むカメラ、赤外光を捕捉するように構成されたカメラ、および、紫外光を捕捉するように構成されたカメラのうちの1つである、請求項11に記載の3×3アレイカメラモジュール。
- 少なくとも1つのπフィルタ群を用いてアレイカメラモジュールをパターン化する方法であって、前記方法は、
M×N焦点面のイメージャアレイが、何らかの欠陥焦点面を含むかどうかを評価することであって、各焦点面は、感光ピクセルのアレイを備える、ことと、
M×Nアレイカメラモジュールを組み立てることと
を含み、前記組み立てることは、
M×N焦点面の前記イメージャアレイと、
複数のレンズスタックのM×N光学系アレイであって、各レンズスタックは、焦点面に対応する、光学系アレイと
を使用し、前記M×Nアレイカメラモジュールは、
各レンズスタックおよびその対応する焦点面がカメラを規定し、かつ、
前記アレイカメラモジュールが少なくとも1つのπフィルタ群を用いてパターン化されるように、カラーフィルタが前記アレイカメラモジュール内に実装される
ように組み立てられ、前記少なくとも1つのπフィルタ群は、
カメラの3×3アレイを備え、前記カメラの3×3アレイは、
前記カメラの3×3アレイの中心における基準カメラと、
前記カメラの3×3アレイの両側に位置する2つの赤色カラーカメラと、
前記カメラの3×3アレイの両側に位置する2つの青色カラーカメラと、
前記基準カメラを囲む4つの緑色カラーカメラと
を備え、
前記アレイカメラモジュールは、欠陥焦点面を含むカメラが緑色カラーカメラであるように、前記少なくとも1つのπフィルタ群を用いてパターン化される、方法。 - 少なくとも1つのカラーフィルタは、前記イメージャアレイ上に実装されている、請求項16に記載の少なくとも1つのπフィルタ群を用いてアレイカメラモジュールをパターン化する方法。
- 少なくとも1つのカラーフィルタは、レンズスタック内に実装されている、請求項16に記載の少なくとも1つのπフィルタ群を用いてアレイカメラモジュールをパターン化する方法。
- 前記基準カメラは、緑色カラーカメラである、請求項16に記載の少なくとも1つのπフィルタ群を用いてアレイカメラモジュールをパターン化する方法。
- 前記基準カメラは、Bayerフィルタを組み込むカメラ、赤外光を捕捉するように構成されたカメラ、および、紫外光を捕捉するように構成されたカメラのうちの1つである、請求項16に記載の少なくとも1つのπフィルタ群を用いてアレイカメラモジュールをパターン化する方法。
- アレイカメラモジュールであって、前記アレイカメラモジュールは、
M×N焦点面を備えるイメージャアレイであって、各焦点面は、ピクセルの複数の列も形成するピクセルの複数の行を備え、各活動焦点面は、別の焦点面からのピクセルを含まない前記イメージャアレイの領域内に含まれる、イメージャアレイと、
M×Nレンズスタックの光学系アレイであって、画像は、前記レンズスタックの光学系アレイ内の個別のレンズスタックによって、各焦点面上に形成される、レンズスタックの光学系アレイと
を備え、前記イメージャアレイおよび前記レンズスタックの光学系アレイは、独立してシーンの画像を捕捉するように構成されるカメラのM×Nアレイを形成し、
前記カメラのM×Nアレイ内の少なくとも1つの行は、少なくとも1つの赤色カラーカメラと、少なくとも1つの緑色カラーカメラと、少なくとも1つの青色カラーカメラとを備え、
前記カメラのM×Nアレイ内の少なくとも1つの列は、少なくとも1つの赤色カラーカメラと、少なくとも1つの緑色カラーカメラと、少なくとも1つの青色カラーカメラとを備える、アレイカメラモジュール。 - 前記赤色カラーカメラは、620nm〜750nmの範囲内の波長を有する電磁波を含む画像データを捕捉するカメラであり、
前記緑色カラーカメラは、495nm〜570nmの範囲内の波長を有する電磁波を含む画像データを捕捉するカメラであり、
前記青色カラーカメラは、450nm〜495nmの範囲内の波長を有する電磁波を含む画像データを捕捉するカメラである、
請求項21に記載のアレイカメラモジュール。 - 前記アレイカメラモジュール内の各カメラの光学系は、他のカメラの視野に対する各カメラの視野の各シフトがシーンの一意のサブピクセルシフトビューを含むように構成されるように、各カメラが他のカメラの視野に対してシフトされたシーンの視野を有するように構成されている、請求項22に記載のアレイカメラモジュール。
- MおよびNはそれぞれ、2より大きく、MおよびNのうちの少なくとも1つは、偶数であり、
カラーフィルタは、前記アレイカメラモジュールが少なくとも1つのπフィルタ群を用いてパターン化されるように、前記アレイカメラモジュールにおけるカメラ内に実装され、前記少なくとも1つのπフィルタ群は、
カメラの3×3アレイを備え、前記カメラの3×3アレイは、
前記カメラの3×3アレイの中心における基準カメラと、
前記カメラの3×3アレイの両側に位置する2つの赤色カラーカメラと、
前記カメラの3×3アレイの両側に位置する2つの青色カラーカメラと、
前記基準カメラを囲む4つの緑色カラーカメラと
を備える、請求項23に記載のアレイカメラモジュール。 - 前記基準カメラを囲む4つの緑色カラーカメラのそれぞれは、前記カメラの3×3アレイの角位置に配置されている、請求項24に記載のアレイカメラモジュール。
- Mは、4であり、
Nは、4であり、
前記4×4アレイカメラモジュールのカメラの第1の行は、緑色カラーカメラ、青色カラーカメラ、緑色カラーカメラ、および、赤色カラーカメラをその順序で含み、
前記4×4アレイカメラモジュールのカメラの第2の行は、赤色カラーカメラ、緑色カラーカメラ、赤色カラーカメラ、および、緑色カラーカメラをその順序で含み、
前記4×4アレイカメラモジュールのカメラの第3の行は、緑色カラーカメラ、青色カラーカメラ、緑色カラーカメラ、および、青色カラーカメラをその順序で含み、
前記4×4アレイカメラモジュールのカメラの第4の行は、青色カラーカメラ、緑色カラーカメラ、赤色カラーカメラ、および、緑色カラーカメラをその順序で含む、
請求項25に記載のアレイカメラモジュール。 - Mは、4であり、
Nは、4であり、
前記4×4アレイカメラモジュールのカメラの第1の行は、赤色カラーカメラ、緑色カラーカメラ、青色カラーカメラ、および、緑色カラーカメラをその順序で含み、
前記4×4アレイカメラモジュールのカメラの第2の行は、緑色カラーカメラ、赤色カラーカメラ、緑色カラーカメラ、および、赤色カラーカメラをその順序で含み、
前記4×4アレイカメラモジュールのカメラの第3の行は、青色カラーカメラ、緑色カラーカメラ、青色カラーカメラ、および、緑色カラーカメラをその順序で含み、
前記4×4アレイカメラモジュールのカメラの第4の行は、緑色カラーカメラ、赤色カラーカメラ、緑色カラーカメラ、および、青色カラーカメラをその順序で含む、
請求項25に記載のアレイカメラモジュール。 - 前記少なくとも1つのπフィルタ群内の前記基準カメラは、緑色カラーカメラである、請求項24に記載のアレイカメラモジュール。
- 前記少なくとも1つのπフィルタ群内の前記基準カメラは、Bayerフィルタを組み込むカメラである、請求項24に記載のアレイカメラモジュール。
- 前記基準カメラは、Bayerフィルタを組み込むカメラ、赤外光を捕捉するように構成されたカメラ、および、紫外光を捕捉するように構成されたカメラのうちの1つである、請求項24に記載のアレイカメラモジュール。
- 前記2つの赤色カラーカメラのそれぞれは、前記カメラの3×3アレイの角位置に位置し、前記2つの青色カラーカメラのそれぞれは、前記カメラの3×3アレイの角位置に位置する、請求項24に記載のアレイカメラモジュール。
- 少なくとも1つのカラーフィルタは、前記イメージャアレイ上に実装されている、請求項24に記載のアレイカメラモジュール。
- 少なくとも1つのカラーフィルタは、レンズスタック上に実装されている、請求項24に記載のアレイカメラモジュール。
- 3×3アレイカメラモジュールであって、前記3×3アレイカメラモジュールは、
焦点面の3×3配列を備える3×3イメージャアレイであって、各焦点面は、ピクセルの複数の列も形成するピクセルの複数の行を備え、各活動焦点面は、別の焦点面からのピクセルを含まない前記イメージャアレイの領域内に含まれる、3×3イメージャアレイと、
複数のレンズスタックの3×3光学系アレイであって、画像は、前記複数のレンズスタックの光学系アレイ内の個別のレンズスタックによって、各焦点面上に形成される、3×3光学系アレイと
を備え、前記イメージャアレイおよび前記複数のレンズスタックの光学系アレイは、シーンの画像を独立して捕捉するように構成されるカメラの3×3アレイを形成し、
前記カメラの3×3アレイは、
前記カメラの3×3アレイの中心における基準カメラと、
前記カメラの3×3アレイの両側に位置する2つの赤色カラーカメラと、
前記カメラの3×3アレイの両側に位置する2つの青色カラーカメラと、
4つの緑色カラーカメラであって、そのそれぞれは、前記カメラの3×3アレイの角位置に位置する、4つの緑色カラーカメラと
を備え、前記カラーカメラのそれぞれは、カラーフィルタを使用して達成される、3×3アレイカメラモジュール。 - 少なくとも1つのカラーフィルタは、前記イメージャアレイ上に実装されることにより、カラーカメラを達成する、請求項34に記載の3×3アレイカメラモジュール。
- 少なくとも1つのカラーフィルタは、レンズスタック内に実装されることにより、カラーカメラを達成する、請求項34に記載の3×3アレイカメラモジュール。
- 前記基準カメラは、緑色カラーカメラである、請求項34に記載の3×3アレイカメラモジュール。
- 前記基準カメラは、Bayerフィルタを組み込むカメラ、赤外光を捕捉するように構成されたカメラ、および、紫外光を捕捉するように構成されたカメラのうちの1つである、請求項34に記載の3×3アレイカメラモジュール。
- アレイカメラモジュールであって、前記アレイカメラモジュールは、
M×N焦点面を備えるイメージャアレイであって、各焦点面は、ピクセルの複数の列も形成するピクセルの複数の行を備え、各活動焦点面は、別の焦点面からのピクセルを含まない前記イメージャアレイの領域内に含まれる、イメージャアレイと、
M×Nレンズスタックの光学系アレイであって、画像は、前記レンズスタックの光学系アレイ内の個別のレンズスタックによって、各焦点面上に形成される、レンズスタックの光学系アレイと
を備え、前記イメージャアレイおよび前記レンズスタックの光学系アレイは、シーンの画像を独立して捕捉するように構成されるカメラのM×Nアレイを形成し、
前記カメラのM×Nアレイ内の1行または1列の少なくともいずれかは、少なくとも1つの赤色カラーカメラと、少なくとも1つの緑色カラーカメラと、少なくとも1つの青色カラーカメラとを備える、アレイカメラモジュール。 - Mは、3であり、
Nは、3であり、
前記3×3アレイカメラモジュールのカメラの第1の行は、青色カラーカメラ、緑色カラーカメラ、および、緑色カラーカメラをその順序で含み、
前記3×3アレイカメラモジュールのカメラの第2の行は、赤色カラーカメラ、緑色カラーカメラ、および、赤色カラーカメラをその順序で含み、
前記3×3アレイカメラモジュールのカメラの第3の行は、緑色カラーカメラ、緑色カラーカメラ、および、青色カラーカメラをその順序で含む、
請求項39に記載のアレイカメラモジュール。 - Mは、3であり、
Nは、3であり、
前記3×3アレイカメラモジュールのカメラの第1の行は、赤色カラーカメラ、緑色カラーカメラ、および、緑色カラーカメラをその順序で含み、
前記3×3アレイカメラモジュールのカメラの第2の行は、青色カラーカメラ、緑色カラーカメラ、および、青色カラーカメラをその順序で含み、
前記3×3アレイカメラモジュールのカメラの第3の行は、緑色カラーカメラ、緑色カラーカメラ、および、赤色カラーカメラをその順序で含む、
請求項39に記載のアレイカメラモジュール。 - アレイカメラであって、前記アレイカメラは、
アレイカメラモジュールであって、前記アレイカメラモジュールは、
M×N焦点面を備えるイメージャアレイであって、各焦点面は、ピクセルの複数の列も形成するピクセルの複数の行を備え、各活動焦点面は、別の焦点面からのピクセルを含まない前記イメージャアレイの領域内に含まれる、イメージャアレイと、
M×Nレンズスタックの光学系アレイであって、画像は、前記レンズスタックの光学系アレイ内の個別のレンズスタックによって、各焦点面上に形成される、レンズスタックの光学系アレイと
を備え、前記イメージャアレイおよび前記レンズスタックの光学系アレイは、シーンの画像を独立して捕捉するように構成されるカメラのM×Nアレイを形成し、前記カメラのM×Nアレイ内の少なくとも1つの行は、少なくとも1つの赤色カラーカメラと、少なくとも1つの緑色カラーカメラと、少なくとも1つの青色カラーカメラとを備え、前記カメラのM×Nアレイ内の少なくとも1つの列は、少なくとも1つの赤色カラーカメラと、少なくとも1つの緑色カラーカメラと、少なくとも1つの青色カラーカメラとを備える、アレイカメラモジュールと、
画像処理パイプラインを備えるプロセッサと
を備え、前記画像処理パイプラインは、
視差検出モジュールと、
超解像モジュールと
を備え、前記視差検出モジュールは、前記カメラモジュールから、シーンの基準低解像度画像と、前記シーンの少なくとも1つの代替ビュー画像とを得るように構成され、
前記視差検出モジュールは、前記基準画像と前記少なくとも1つの代替ビュー画像とを比較することにより、前記基準画像に対する奥行マップおよびオクルージョンマップを決定するように構成され、
前記超解像モジュールは、少なくとも、前記基準画像、前記奥行マップ、前記オクルージョンマップ、および、前記少なくとも1つの代替ビュー画像を使用して、高解像度画像を合成するように構成されている、
アレイカメラ。
Applications Claiming Priority (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201261641165P | 2012-05-01 | 2012-05-01 | |
US61/641,165 | 2012-05-01 | ||
US201261691666P | 2012-08-21 | 2012-08-21 | |
US61/691,666 | 2012-08-21 | ||
US201361780906P | 2013-03-13 | 2013-03-13 | |
US61/780,906 | 2013-03-13 | ||
PCT/US2013/039155 WO2013166215A1 (en) | 2012-05-01 | 2013-05-01 | CAMERA MODULES PATTERNED WITH pi FILTER GROUPS |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015521411A true JP2015521411A (ja) | 2015-07-27 |
Family
ID=49514873
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015510443A Pending JP2015521411A (ja) | 2012-05-01 | 2013-05-01 | πフィルタ群を用いてパターン化されたカメラモジュール |
Country Status (4)
Country | Link |
---|---|
EP (1) | EP2845167A4 (ja) |
JP (1) | JP2015521411A (ja) |
CN (1) | CN104335246B (ja) |
WO (1) | WO2013166215A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2017154606A1 (ja) * | 2016-03-10 | 2019-01-10 | ソニー株式会社 | 情報処理装置および情報処理方法 |
Families Citing this family (39)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11792538B2 (en) | 2008-05-20 | 2023-10-17 | Adeia Imaging Llc | Capturing and processing of images including occlusions focused on an image sensor by a lens stack array |
US8866920B2 (en) | 2008-05-20 | 2014-10-21 | Pelican Imaging Corporation | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
WO2011063347A2 (en) | 2009-11-20 | 2011-05-26 | Pelican Imaging Corporation | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
US8878950B2 (en) | 2010-12-14 | 2014-11-04 | Pelican Imaging Corporation | Systems and methods for synthesizing high resolution images using super-resolution processes |
EP2761534B1 (en) | 2011-09-28 | 2020-11-18 | FotoNation Limited | Systems for encoding light field image files |
WO2013126578A1 (en) | 2012-02-21 | 2013-08-29 | Pelican Imaging Corporation | Systems and methods for the manipulation of captured light field image data |
WO2014005123A1 (en) | 2012-06-28 | 2014-01-03 | Pelican Imaging Corporation | Systems and methods for detecting defective camera arrays, optic arrays, and sensors |
US20140002674A1 (en) | 2012-06-30 | 2014-01-02 | Pelican Imaging Corporation | Systems and Methods for Manufacturing Camera Modules Using Active Alignment of Lens Stack Arrays and Sensors |
AU2013305770A1 (en) | 2012-08-21 | 2015-02-26 | Pelican Imaging Corporation | Systems and methods for parallax detection and correction in images captured using array cameras |
US20140055632A1 (en) | 2012-08-23 | 2014-02-27 | Pelican Imaging Corporation | Feature based high resolution motion estimation from low resolution images captured using an array source |
EP4307659A1 (en) | 2012-09-28 | 2024-01-17 | Adeia Imaging LLC | Generating images from light fields utilizing virtual viewpoints |
US8866912B2 (en) | 2013-03-10 | 2014-10-21 | Pelican Imaging Corporation | System and methods for calibration of an array camera using a single captured image |
US9124831B2 (en) | 2013-03-13 | 2015-09-01 | Pelican Imaging Corporation | System and methods for calibration of an array camera |
WO2014159779A1 (en) | 2013-03-14 | 2014-10-02 | Pelican Imaging Corporation | Systems and methods for reducing motion blur in images or video in ultra low light with array cameras |
US9445003B1 (en) | 2013-03-15 | 2016-09-13 | Pelican Imaging Corporation | Systems and methods for synthesizing high resolution images using image deconvolution based on motion and depth information |
US9438888B2 (en) | 2013-03-15 | 2016-09-06 | Pelican Imaging Corporation | Systems and methods for stereo imaging with camera arrays |
US9497429B2 (en) | 2013-03-15 | 2016-11-15 | Pelican Imaging Corporation | Extended color processing on pelican array cameras |
US10122993B2 (en) | 2013-03-15 | 2018-11-06 | Fotonation Limited | Autofocus system for a conventional camera that uses depth information from an array camera |
WO2015048694A2 (en) | 2013-09-27 | 2015-04-02 | Pelican Imaging Corporation | Systems and methods for depth-assisted perspective distortion correction |
US10119808B2 (en) | 2013-11-18 | 2018-11-06 | Fotonation Limited | Systems and methods for estimating depth from projected texture using camera arrays |
WO2015081279A1 (en) | 2013-11-26 | 2015-06-04 | Pelican Imaging Corporation | Array camera configurations incorporating multiple constituent array cameras |
CN104735360B (zh) * | 2013-12-18 | 2017-12-22 | 华为技术有限公司 | 光场图像处理方法和装置 |
US9807372B2 (en) | 2014-02-12 | 2017-10-31 | Htc Corporation | Focused image generation single depth information from multiple images from multiple sensors |
WO2015134996A1 (en) | 2014-03-07 | 2015-09-11 | Pelican Imaging Corporation | System and methods for depth regularization and semiautomatic interactive matting using rgb-d images |
WO2015186439A1 (ja) * | 2014-06-03 | 2015-12-10 | 株式会社 日立メディコ | 画像処理装置及び立体視表示方法 |
US20150381972A1 (en) * | 2014-06-30 | 2015-12-31 | Microsoft Corporation | Depth estimation using multi-view stereo and a calibrated projector |
WO2016003253A1 (en) | 2014-07-04 | 2016-01-07 | Samsung Electronics Co., Ltd. | Method and apparatus for image capturing and simultaneous depth extraction |
RU2595759C2 (ru) * | 2014-07-04 | 2016-08-27 | Самсунг Электроникс Ко., Лтд. | Способ и устройство для захвата изображения и одновременного извлечения глубины |
KR20170063827A (ko) | 2014-09-29 | 2017-06-08 | 포토네이션 케이맨 리미티드 | 어레이 카메라들의 동적 교정을 위한 시스템들 및 방법들 |
US9762893B2 (en) * | 2015-12-07 | 2017-09-12 | Google Inc. | Systems and methods for multiscopic noise reduction and high-dynamic range |
WO2021055585A1 (en) | 2019-09-17 | 2021-03-25 | Boston Polarimetrics, Inc. | Systems and methods for surface modeling using polarization cues |
BR112022006617A2 (pt) | 2019-10-07 | 2022-06-28 | Boston Polarimetrics Inc | Sistemas e métodos para detecção por sensor de normais à superfície com polarização |
EP4066001A4 (en) | 2019-11-30 | 2024-01-24 | Boston Polarimetrics Inc | SYSTEMS AND METHODS FOR TRANSPARENT OBJECT SEGMENTATION USING POLARIZATION GUIDES |
KR20220132620A (ko) | 2020-01-29 | 2022-09-30 | 인트린식 이노베이션 엘엘씨 | 물체 포즈 검출 및 측정 시스템들을 특성화하기 위한 시스템들 및 방법들 |
JP2023511747A (ja) | 2020-01-30 | 2023-03-22 | イントリンジック イノベーション エルエルシー | 偏光画像を含む異なる撮像モダリティで統計モデルを訓練するためのデータを合成するためのシステムおよび方法 |
WO2021243088A1 (en) | 2020-05-27 | 2021-12-02 | Boston Polarimetrics, Inc. | Multi-aperture polarization optical systems using beam splitters |
US11954886B2 (en) | 2021-04-15 | 2024-04-09 | Intrinsic Innovation Llc | Systems and methods for six-degree of freedom pose estimation of deformable objects |
US11290658B1 (en) | 2021-04-15 | 2022-03-29 | Boston Polarimetrics, Inc. | Systems and methods for camera exposure control |
US11689813B2 (en) | 2021-07-01 | 2023-06-27 | Intrinsic Innovation Llc | Systems and methods for high dynamic range imaging using crossed polarizers |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3728160B2 (ja) * | 1999-12-06 | 2005-12-21 | キヤノン株式会社 | 奥行き画像計測装置及び方法、並びに複合現実感提示システム |
EP1812968B1 (en) * | 2004-08-25 | 2019-01-16 | Callahan Cellular L.L.C. | Apparatus for multiple camera devices and method of operating same |
US8902321B2 (en) * | 2008-05-20 | 2014-12-02 | Pelican Imaging Corporation | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
US8866920B2 (en) * | 2008-05-20 | 2014-10-21 | Pelican Imaging Corporation | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
JP2011044801A (ja) * | 2009-08-19 | 2011-03-03 | Toshiba Corp | 画像処理装置 |
WO2011063347A2 (en) * | 2009-11-20 | 2011-05-26 | Pelican Imaging Corporation | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
SG10201503516VA (en) * | 2010-05-12 | 2015-06-29 | Pelican Imaging Corp | Architectures for imager arrays and array cameras |
-
2013
- 2013-05-01 EP EP13785220.8A patent/EP2845167A4/en not_active Withdrawn
- 2013-05-01 WO PCT/US2013/039155 patent/WO2013166215A1/en active Application Filing
- 2013-05-01 JP JP2015510443A patent/JP2015521411A/ja active Pending
- 2013-05-01 CN CN201380029203.7A patent/CN104335246B/zh active Active
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2017154606A1 (ja) * | 2016-03-10 | 2019-01-10 | ソニー株式会社 | 情報処理装置および情報処理方法 |
Also Published As
Publication number | Publication date |
---|---|
CN104335246B (zh) | 2018-09-04 |
WO2013166215A1 (en) | 2013-11-07 |
EP2845167A4 (en) | 2016-01-13 |
EP2845167A1 (en) | 2015-03-11 |
CN104335246A (zh) | 2015-02-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2015521411A (ja) | πフィルタ群を用いてパターン化されたカメラモジュール | |
US9706132B2 (en) | Camera modules patterned with pi filter groups | |
CN204697179U (zh) | 具有像素阵列的图像传感器 | |
JP5472584B2 (ja) | 撮像装置 | |
CN105872525B (zh) | 图像处理装置和图像处理方法 | |
CN105306786B (zh) | 用于具有相位检测像素的图像传感器的图像处理方法 | |
JP5589146B2 (ja) | 撮像素子及び撮像装置 | |
CN104041020B (zh) | 彩色摄像元件 | |
CN202750183U (zh) | 视差成像设备和视差成像系统 | |
US8111320B2 (en) | Multi-image capture system with improved depth image resolution | |
CN103688536B (zh) | 图像处理装置、图像处理方法 | |
JP2013172292A (ja) | 撮像装置及び撮像素子アレイ | |
US9648305B2 (en) | Stereoscopic imaging apparatus and stereoscopic imaging method | |
JP5597777B2 (ja) | カラー撮像素子及び撮像装置 | |
JP6821028B2 (ja) | 撮像装置および画像データ読み出し方法 | |
CN103597811A (zh) | 拍摄立体移动图像和平面移动图像的图像拍摄元件以及装配有其的图像拍摄装置 | |
JP5634614B2 (ja) | 撮像素子及び撮像装置 | |
JP6190119B2 (ja) | 画像処理装置、撮像装置、制御方法、及びプログラム | |
WO2012153504A1 (ja) | 撮像装置および撮像装置の制御プログラム | |
JP6234366B2 (ja) | グリッド変調された単一レンズ3−dカメラ | |
US9596402B2 (en) | Microlens array for solid-state image sensing device, solid-state image sensing device, imaging device, and lens unit |