JP2013198160A - 透明フィルタピクセルを備えるイメージングシステム - Google Patents

透明フィルタピクセルを備えるイメージングシステム Download PDF

Info

Publication number
JP2013198160A
JP2013198160A JP2013057224A JP2013057224A JP2013198160A JP 2013198160 A JP2013198160 A JP 2013198160A JP 2013057224 A JP2013057224 A JP 2013057224A JP 2013057224 A JP2013057224 A JP 2013057224A JP 2013198160 A JP2013198160 A JP 2013198160A
Authority
JP
Japan
Prior art keywords
image signals
image
red
blue
image sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013057224A
Other languages
English (en)
Other versions
JP6134879B2 (ja
Inventor
Mlinar Marko
ムリナール マルコ
Keelan Brian
キーラン ブライアン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aptina Imaging Corp
Original Assignee
Aptina Imaging Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aptina Imaging Corp filed Critical Aptina Imaging Corp
Publication of JP2013198160A publication Critical patent/JP2013198160A/ja
Application granted granted Critical
Publication of JP6134879B2 publication Critical patent/JP6134879B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/10Image enhancement or restoration using non-spatial domain filtering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/85Camera processing pipelines; Components thereof for processing colour signals for matrixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/618Noise processing, e.g. detecting, correcting, reducing or removing noise for random or high-frequency noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/63Generation or supply of power specially adapted for television receivers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/67Circuits for processing colour signals for matrixing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Color Television Image Signal Generators (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】画像信号を捕捉して処理する改良された手段を備える。
【解決手段】画像センサは、赤色画像信号を生成する一つの赤色画素と、青色画像信号を生成する一つの青色画素と、白色画像信号を生成する二つの透明画像センサピクセルと、を各々が有する色フィルタユニットセルに配列された画像センサピクセルのアレイを有しうる。画像センサは、画像信号におけるノイズ相関を増大させるために、赤、青および白色画像信号にフィルタ処理作用を実施して、画像信号に対して色補正マトリクスを適用するときのノイズ増幅を低減する処理回路に結合されてもよい。処理回路は、白色画像信号から緑色画像信号を抽出してもよい。処理回路は、赤、青、白および緑色画像信号の線形の組み合わせを含むスケーリング値を計算してもよい。スケーリング値は、改善された画像品質を有する補正画像信号を生成するために、赤、青および緑色画像信号に対して適用されてもよい。
【選択図】なし

Description

本出願は、2013年1月8日に出願された米国特許出願整理番号13/736,768ならびに、2012年3月19日に出願された米国仮特許出願整理番号No.61/612,819の優先権の利益を享受する権利を主張し、米国特許出願整理番号13/736,768ならびに米国仮特許出願整理番号No.61/612,819は参照によってその全体が本明細書に組み込まれる。
本出願は、概してイメージングデバイスに関し、特に、透明画素を備えるイメージングデバイスに関する。
画像センサは、通常、画像を捕捉するために、携帯電話、カメラおよびコンピュータなどの電子デバイスで使用される。典型的な配置においては、電子デバイスは、ピクセル行およびピクセル列に配列された画素のアレイを備える。回路は、画素からの画像信号を読み出すために各ピクセル列に通常、結合される。
従来のイメージングシステムは、可視光スペクトルがBayerモザイクパターンで配列された赤、緑および青色(RGB)画素によってサンプリングされる単一の画像センサを使用する。Bayerモザイクパターンは、お互いに対して対角線上の逆側に位置する二つの緑色ピクセルとそれ以外の角が赤色および青色である、2×2の画素のセルの繰り返しで構成される。しかしながら、Bayerパターンは、画素から捕捉される画像信号におけるノイズ比(SNR)に対する信号の制限のため、ピクセルサイズをより小さくして、画像センサのさらなる小型化を可能にするのは容易ではない。
SNRを改善する一手段は、弱光レベルにおける露光を増加させることによって利用可能な画像信号を増大させることであり、弱光レベルでは、SNRは画像品質を制限する。従来の一方法は、サブトラクティブ(減法混色)フィルタの使用であり、例えば、赤、緑、青色の画素は、シアン、マゼンタおよび黄色の画素で置換される。しかしながら、これらの信号は、概して、大部分の従来の画像表示を駆動することを可能にするために、RGBもしく幾つかの等価な出力画像信号へと変換されなければならない。この変換は、ノイズを増幅する可能性のある色補正マトリクス(CCM)を使用して捕捉された画像信号の改変を含むため、露光増大の効果が犠牲にされる。
したがって、画像信号を捕捉して処理する改良された手段を備えるイメージングデバイスを提供することができることが望ましい。
画像信号によって生成される画像信号におけるノイズを低減するために、透明画素フィルタを有する画像センサおよび画像処理技術(例えば、クロマデモザイク、ポイントフィルタの適用など)を例示する、種々の実施形態が記述される。
画像センサは、赤色光に応じて赤色画像信号を生成する赤色画素と、青色光に応じて青色画像信号を生成する青色画素と、少なくとも赤色光、緑色光、青色光(例えば、白色光)に応じて白色画像信号を生成する透明画像センサピクセルとを含む、画像センサピクセルのアレイを有してもよい。画素は、異なる色の多数の画素を各々が含む、ピクセルユニットセルのアレイに配列されてもよい。画像センサは、赤、青、白色画像信号に関連付けられたノイズ相関を増大させるために、赤、青、および白色画像信号にフィルタ処理作用を実施する処理回路へと結合されてもよい。処理回路は、例えば、画素アレイにおける少なくとも25個の画素によって生成される画像信号の重み付け和を生成するステップによって任意の画素に対してフィルタ処理作用を実施してもよい。重み付け和は、調整可能な重み(例えば、観察された画像特性に基づいて調製される重み)を含んでもよい。重み付け和は、複数のタイムフレーム間に、または、複数の画像センサから捕捉された画像信号用に生成されてもよい。複数のタイムフレーム用に重み付け和を生成するステップによって、処理回路は、画像信号のノイズを低減するのに成功しつつ、画素のカーネルのサイズを縮小してもよい。
本実施例は単に例示的なものにすぎない。概して、画像センサピクセルのアレイは、任意の所望の色の画像センサピクセル(例えば、任意の色の光に反応する画像センサピクセル)を含んでもよい。例えば、画像センサピクセルのアレイは、第一の色の光に反応する画像センサピクセルの第一のグループと、第二の色の光に反応する画像センサピクセルの第二のグループと、第三の色の光(例えば、赤、青、および白色光)に反応する画像センサピクセルの第三のグループと、を含んでもよい。第一の画像信号は第一のスペクトル応答レベル(例えば、画像センサピクセルの第一のグループによって受信される光の周波数の関数として積文された信号電力レベル)を有し、第二の画像信号は第二のスペクトル応答レベル(例えば、画像センサピクセルの第二のグループによって受信される光の周波数の関数として積文された信号電力レベル)を有し、第三の画像信号は、第三のスペクトル応答レベル(例えば、画像センサピクセルの第三のグループによって受信される光の周波数の関数として積文された信号電力レベル)を有してもよい。第三の画像信号は、第一および第二のスペクトル応答レベルよりも大きいスペクトル応答レベルを有してもよい(例えば、第三のスペクトル応答レベルは、第一および第二のスペクトル応答レベルの和の75%よりも大きい可能性がある)。換言すると、第三の画像信号は、第一および第二の画像信号よりも広範な範囲の光周波数に応じて捕捉されてもよい。
処理回路は、所望の場合には、第一、第二、および第三の画像信号を使用して、推定輝度値(例えば、LCH空間における輝度値)を生成してもよい。処理回路は、第一、第二および第三の画像信号を派生三原色空間(例えば、線形sRGB空間、CIE空間、XYZ空間、Bayer空間など)へと変換することによって、変換された第一、第二および第三の画像信号を生成してもよい。処理回路は、例えば、第一、第二および第三の画像信号の線形の組み合わせを実施することによって、変換された第一、第二および第三の画像信号を生成してもよい。処理回路は、変換された第一、第二および第三の画像信号を組み合わせることによって、派生輝度値(例えば、LCH空間における輝度値)を生成してもよい。処理回路は、派生輝度値を推定輝度値と比較して、派生輝度値が推定輝度値に近づくように(例えば、派生輝度値が、推定輝度値に十分に一致するように)、変換された第一、第二および第三の画像信号を改変してもよい。
処理回路は、所望の場合には、処理回路を有する画像センサを使用して、第一の色の第一の画像信号と、第一の色とは異なる第二の色の第二の画像信号と、白色画像信号とを含む画像データを処理してもよい。処理回路は、白色画像信号を使用して、第一および第二の色とは異なる第三の色の第三の画像信号を生成してもよい。処理回路は、派生輝度値を形成するために、第一の画像信号、第二の画像信号および第三の画像信号を組み合わせ、第一の画像信号、第二の画像信号および白色画像信号から推定輝度値を計算してもよい。処理回路は、第一、第二および第三の画像信号を白色画像信号と組み合わせることによって派生輝度値を形成してもよい。
処理回路は、派生輝度値および推定輝度値を使用して、第一の画像信号、第二の画像信号および第三の画像信号を改変してもよい。例えば、処理回路は、派生輝度値および推定輝度値に基づいてスケーリング値を計算し、生成されたスケーリング値で第一、第二および第三の画像信号を乗算してもよい。処理回路は、重み付けファクタを使用して、第一、第二および第三の画像信号の線形の組み合わせを計算することによって派生輝度値を形成するために、第一、第二および第三の画像信号を組み合わせてもよい。
処理回路は、所望の場合には、捕捉された画像信号に無限インパルス応答(IIR)フィルタ処理を実施してもよい。処理回路は、画素190によって捕捉された画像信号の特性に基づいて、捕捉された画像信号に適用されるフィルタ(例えば、図6−図8に関連して記述されるようなフィルタ)を調整することによって、IIRフィルタ処理を実施してもよい。IIRフィルタ処理の実施は、捕捉された画像信号を処理回路が処理する効率を増大させる可能性がある。
処理回路は、所望の場合には、赤、青および白色画像信号に白色バランス作用を実施してもよい。処理回路は、各白色画像信号から緑色画像信号などの異なる色の画像信号を抽出するために、白色画像信号に対して色補正マトリクスを適用してもよい。処理回路は、輝度値を形成するために、(例えば、赤、青、緑および白色画像信号の線形の組み合わせもしくは重み付け和を計算することによって)赤色画像信号、青色画像信号、緑色画像信号および白色画像信号を組み合わせてもよい。処理回路は、スケーリング値を生成するために、輝度値で、白色画像信号を除算してもよい。処理回路は、スケーリング値で赤、緑および青色画像信号を乗算することによって、赤、緑および青色画像信号を改変してもよい。スケーリング値は、赤、緑および青色画像信号に作用するとき、ポイントフィルタとして機能してもよい。所望の場合には、任意の色の画素が、白色画素と組み合わせて使用されてもよい。所望の場合には、処理回路は、複数の画素アレイからの画像信号、複数の画像センサ上の画素アレイからの画像信号、および/もしくは複数のタイムフレーム間に捕捉された画像信号にこれらの作用を実施してもよい。
透明画素および関連するフィルタ処理技術は、中央処理装置、メモリ、入力−出力回路、イメージングデバイスを含むシステムで実施され、イメージングデバイスは、ピクセルアレイ、ピクセルアレイ上に光の焦点を合わせるためのレンズ、データ変換回路をさらに含む。
本発明の一実施形態に従う、イメージングシステムを有する例示的な電子デバイスの図である。 本発明の一実施形態に従う、ピクセルアレイ、ならびに、画像センサにおける列ラインに沿った画素からピクセルデータを読み出すための関連付けられた制御回路の例示的な図である。 本発明の実施形態に従う、透明フィルタピクセルを有する例示的なピクセルユニットセルの図である。 本発明の実施形態に従う、透明フィルタピクセルを有する例示的なピクセルユニットセルの図である。 本発明の実施形態に従う、透明フィルタピクセルを有する例示的なピクセルユニットセルの図である。 本発明の一実施形態に従う、フィルタ処理されたピクセルアレイから受信された画像信号を処理するための、イメージングシステムにおける処理回路によって実施されうる例示的なステップのフローチャートである。 本発明の一実施形態に従う、フィルタ処理されたピクセルアレイから受信された画像信号をデモザイクおよびフィルタ処理するための、イメージングシステムにおける処理回路によって実施されうる例示的なステップのフローチャートである。 本発明の一実施形態に従う、フィルタ処理されたピクセルアレイから受信された画像信号に対してポイントフィルタを適用するための、イメージングシステムにおける処理回路によって実施されうる例示的なステップのフローチャートである。 本発明の一実施形態に従う、図1の実施形態を使用するプロセッサシステムのブロック図である。
デジタルカメラ、コンピュータ、携帯電話および他の電子デバイスなどの電子デバイスは、画像を捕捉するために、入射光を集める画像センサを含む。画像センサは、画素のアレイを含んでもよい。画像センサにおけるピクセルは、入射光を画像信号へと変換するフォトダイオードなどの感光性素子を含んでもよい。画像センサは、任意の数(例えば、何百もしくは何千もしくはそれ以上)のピクセルを含んでもよい。典型的な画像センサは、例えば、何十万もしくは何百万ものピクセル(例えば、メガピクセル)を有する可能性がある。画像センサは、画素を操作するための回路などの制御回路、および、感光性素子によって生成される電荷に対応する画像信号を読み出すための読み出し回路を含んでもよい。読み出し回路は、デバイスにおける電力消費を低減するため、ならびに、ピクセル読み出し動作を改善するために、有効化したり無効化したりすることが可能な、ピクセルの各列に結合された選択可能な読み出し回路を含んでもよい。
図1は、画像を捕捉するために画像センサを使用する例示的な電子デバイスの図である。図1の電子デバイス10は、カメラ、携帯電話、ビデオカメラ、もしくはデジタル画像データを捕捉する他のイメージングデバイスなどのポータブル電子デバイスであってもよい。カメラモジュール12は、入射光をデジタル画像データへと変換するために使用されてもよい。カメラモジュール12は、一つ以上のレンズ14と一つ以上の対応する画像センサ16を含んでもよい。画像捕捉動作の間、その場からの光は、レンズ14によって画像センサ16上に焦点を合わせられてもよい。画像センサ16は、処理回路18へと提供されるべき対応するデジタル画像データへと、アナログピクセルデータを変換するための回路を含んでもよい。所望の場合には、カメラモジュール12は、レンズ14のアレイと、対応する画像センサ16のアレイを提供されてもよい。
処理回路18は、一つ以上の集積回路(例えば、画像処理回路、マイクロプロセッサ、ランダムアクセスメモリおよび不揮発性メモリなどの記憶デバイス)を含み、カメラモジュール12から分離された、および/もしくはカメラモジュール12の一部を形成するコンポーネント(例えば、画像センサ16を含む集積回路の一部を形成する回路もしくは画像センサ16に関連付けられたモジュール12内の集積回路)を使用して実施されてもよい。カメラモジュール12によって捕捉された画像データは、処理回路18を使用して処理され、かつ格納されてもよい。処理された画像データは、所望の場合には、処理回路18に結合された有線および/もしくはワイヤレス通信パスを使用して外部機器(例えば、コンピュータもしくは他のデバイス)へ提供されてもよい。
図2に示されるように、画像センサ16は、画像センサピクセル190(時には、本明細書で画素190とも称される)ならびに制御および処理回路122を含むピクセルアレイ200を含んでもよい。アレイ200は、例えば、何百もしくは何千もの行および列の画像センサピクセル190を含んでもよい。制御回路122は、行デコーダ回路124および列デコーダ回路126に結合されてもよい。行デコーダ回路124は、制御回路122から行アドレスを受信し、制御パス128を介してピクセル190へと、リセット、行選択、伝送、および読み出し制御信号などの対応する行制御信号を供給してもよい。列ライン40などの一つ以上の導線は、アレイ200におけるピクセル190の各列へと結合されてもよい。列ライン40は、ピクセル190から画像信号を読み出すため、かつ、ピクセル190へとバイアス信号(例えば、バイアス電流もしくはバイアス電圧)を供給するために使用されてもよい。ピクセル読み出し動作の間、アレイ200におけるピクセル行は、行デコーダ回路124を使用して選択され、当該ピクセル行における画素190に関連付けられた画像データは、列ライン40に沿って読み出すことができる。
列デコーダ回路126は、サンプルアンドホールド回路、増幅器回路、アナログデジタル変換回路、バイアス回路、列メモリ、列回路を選択的に有効化もしくは無効化するためのラッチ回路、または、ピクセル190を操作し、かつ、ピクセル190から画像信号を読み出すための、アレイ200における一つ以上のピクセル列に結合された他の回路を含んでもよい。列デコーダ回路126は、列ライン40の選択されたサブセット上の列回路へと、電力を選択的に提供するために使用されてもよい。列デコーダ回路126に関連付けられた信号処理回路などの読み出し回路(例えば、サンプルアンドホールド回路およびアナログデジタル変換回路)は、選択されたピクセル列におけるピクセル用に、パス210を介して、プロセッサ18(図1)へとデジタル画像データを供給するために使用されてもよい。
画素190などの画像センサピクセルは、従来、色フィルタアレイを提供され、色フィルタアレイによって、Bayerモザイクパターンに配列された対応する赤、緑および青色画像センサピクセルを使用して、単一の画像センサが、赤、緑および青色(RGB)の光をサンプリングすることが可能になる。Bayerモザイクパターンは、青色画素の対角線の反対側の赤色画素に隣接し、かつ、お互いに対して対角線上の逆側に位置する二つの緑色画素を備える、2×2の画素のユニットセルの繰り返しで構成される。しかしながら、Bayerモザイクパターンに関連する、ノイズ比(SNR)に対する信号の制限によって、画像センサ16などの画像センサのサイズを減少させることは困難になる。したがって、画像を捕捉する改良された手段を備えた画像センサを提供できることが望ましい。
一実施例として本明細書で時に議論される、適切な一実施例においては、図3に示されるように、Bayerパターンにおける緑色ピクセルが透明画素によって置換される。図3に示されるように、画素190のユニットセル192は、青色(B)画素の対角線の反対側にある赤色(R)画素に隣接し、かつ、お互いに対して対角線上の逆側にある二つの透明画素(本明細書では、ときには、白色(W)画素と称される)から形成されてもよい。ユニットセル192における白色画素190は、可視光スペクトルにわたった光を透過する(例えば、白色ピクセル190は白色光を捕捉することができる)視覚的に透明な色のフィルタで形成されてもよい。透明画素190は、透明色フィルタを形成する材料および/もしくは画像センサピクセルを形成する材料(例えば、シリコン)によって定義される自然感度を有してもよい。透明画素190の感度は、所望の場合には、さらに良好な色再生用および/もしくは色素などの吸光剤の使用を介したさらに良好なノイズ特性用に調製されてもよい。ユニットセル192は、赤、白および青色画素190のモザイクを形成するために、画素アレイ200にわたって繰り返されてもよい。本方法においては、赤色画素は、赤色光に応じて赤色画像信号を生成し、青色画素は、青色光に応じて青色画像信号を生成し、白色画素は、白色光に応じて白色画像信号を生成してもよい。白色画像信号は、赤、青および/もしくは緑色光の任意の適切な組み合わせに応じて、白色画素によって生成されてもよい。
図3のユニットセル192は、単に例示的なものにすぎない。所望の場合には、任意の色の画素が、ユニットセル192における白色画素の対角線上の反対側に隣接して形成されてもよい。例えば、ユニットセル194は、図4に示されるように、緑色(G)画素の対角線上の反対側にある赤色画素に隣接し、かつ、お互いに対角線上の反対側に形成された二つの白色画素190によって定義されてもよい。さらに別の適切な配置においては、ユニットセル196は、図5の実施例に示されるように、緑色画素の対角線上の反対側にある青色画素に隣接し、かつ、お互いに対角線上の反対側に形成された二つの白色画素190によって定義されてもよい。
白色画素Wは、緑色画素などの、より狭い色フィルタ(例えば、可視光スペクトルのサブセットにわたる光を透過するフィルタ)を有する画素と比較してさらなる光を集めることによって、画素190によって捕捉される画像信号の信号対雑音比(SNR)を増加させるのに役立つ可能性がある。白色画素Wは、SNRが時には画像品質を制限する可能性のある弱光条件において、SNRを特に改善する可能性がある。(例えば、図3−図5に示されたような)白色画素を有する画素アレイ200から集められた画像信号は、多くの画像ディスプレイ(例えば、ディスプレイスクリーン、モニタなど)を駆動するために使用される回路およびソフトウェアと互換性を有するように、赤、緑および青色画像信号へと変換されてもよい。この変換は、概して、色補正マトリクス(CCM)を使用する、捕捉された画像信号の改変を含む。注意が払われない場合には、色補正動作は、ノイズを不必要に増幅する可能性がある。
適切な一配置においては、CCMによって生成されたノイズは、集められた画像信号に対してCCMを適用する前に、強いノイズ除去(例えば、クロマノイズ除去)を実施することによって低減されてもよい。クロマノイズ除去は、画素190によって集められた画像信号に対してクロマフィルタを適用することによって、処理回路18(図1)によって実施されてもよい。クロマフィルタは、異なる色の画素からの画像信号(例えば、赤、白および青色の画像信号)間のノイズ相関を増大させるのに役立つ可能性がある。異なる色の画素からの画像信号間のノイズ層間を増大させることによって、CCMによるノイズ増幅を低減させ、それによって、最終的な画像品質を改善することにつながる。別の配置においては、CCMによって増幅されたノイズは、捕捉された画像信号に対して、いわゆる“ポイントフィルタ”を適用することによって補償される可能性がある。ポイントフィルタは、CCMを利用して生成された赤、緑および青色画像信号の品質を高めるために、高適合度の白色画像信号を使用してもよい。所望の場合には、画像センサ16は、最終的な画像における改善された輝度特性をもたらすために、CCMによるノイズ増幅を低減させるため、クロマノイズ除去とポイントフィルタの双方を実施してもよい。
図6は、ピクセルアレイ200(例えば、緑色画素のないピクセルアレイ)などのフィルタ処理されたピクセルアレイによって集められた画像信号を処理するために、図1の処理回路18などの処理回路によって実施されうる例示的なステップのフローチャートを示す。図6のステップは、例えば、図3−図5に示されるように、白色画素を有するユニットセルを使用して捕捉される画像信号におけるノイズを低減させるため、処理回路18によって実施されてもよい。
ステップ100において、画像センサ16は、その場から画像信号を捕捉してもよい。画像センサ16によって捕捉された画像信号は、白色ピクセルで集められた光に応じて生成される白色画像信号を含んでもよい。所望の場合には、画像信号は、使用される画素の構成に依存して(例えば、図3のユニットセル192が使用される場合には、画像信号は赤、白および青色画像信号を含み、図4のユニットセル194が使用される場合には、画像信号は赤、白および緑色画像信号を含むなど)、一つ以上の赤色画像信号、青色画像信号もしくは緑色画像信号を含んでもよい。図6の実施例においては、赤(R’)、白(W’)および青(B’)色画像信号が捕捉されてもよい。赤色画像信号は、第一のスペクトル応答値(赤色画像センサピクセルによって受信される光の周波数の関数として積文された信号電力レベル)を有し、青色画像信号は第二のスペクトル応答値を有し、白色画像信号(例えば、標準CIE光源Eで可視光スペクトルにわたって等しいエネルギー放射体に対して広範な感度を有する白色画像信号)は、例えば、第一および第二のスペクトル応答値の和のうちの75%より大きな第三のスペクトル応答値を有してもよい。画像信号は、各画素190によって捕捉された光に対応する画像値を有してもよい(例えば、赤色画像信号は、赤色画像値を含み、青色画像信号は青色画像値を含んでもよい、など)。捕捉された画像信号は、画像処理用に処理回路18へと伝送されてもよい。
ステップ102において、白色バランス作用が捕捉された画像信号上に実施されてもよい。図6の実施例においては、白色バランス赤色画像信号(R)、白色バランス白色画像信号(W)および白色バランス青色画像信号(B)が生成されてもよい。
ステップ104において、処理回路18は、白色バランス画像信号から、赤、白および青色画像データを抽出するために、白色バランス画像信号をデモザイクし、かつ、クロマフィルタを適用してもよい。クロマフィルタは、白色バランス画像信号をクロマノイズ除去するために適用されてもよい。処理回路18は、例えば、同時に、連続的に、または間隔をあけて、画像信号をデモザイクし、クロマフィルタを適用してもよい。クロマフィルタを適用し、かつ、画像信号をデモザイクする本プロセスは、本明細書では、時には、“クロマデモザイク”と称されることもある。クロマフィルタは、各色の画像信号間のノイズ相関を増大させる可能性がある(例えば、赤、白および青色チャネルにおけるノイズ変動は、相関して、ともに増大したり、低減したりする可能性がある)。例えば、処理回路18は、赤、白および緑色画像信号間の相関ノイズを、赤、白および緑色画像信号に関連付けられる全ノイズのうちの70%以上に増大させる可能性がある。
ノイズ相関を増大させることによって、処理回路18は、CCMが画像信号に適用されたときに生成されるノイズ増幅量を減少させる可能性がある。画像信号のクロマデモザイクによって、不明な色の画像信号(例えば、画素によって生成されていない色の画像信号)を利用可能な色の画像信号から決定できることがある。本実施例においては、ユニットセル192(図3)において緑色フィルタが使用されていないため、緑色画像信号は、集められた画像信号からは不明である可能性がある。緑色画像信号は、白、赤および青色画像信号を使用して(例えば、減算演算を実施することによって)決定されてもよい。概して、任意の基本的な加法混色の色(例えば、赤、緑および青)は、利用可能な色の画像信号を使用して決定されてもよい。表示システムは、しばしば赤、緑および青色ピクセルを使用して画像を表示するため、画素アレイ200上で使用される色フィルタに関係なく、赤、緑および青色画像信号を生成することが望ましい。
ステップ106において、処理回路18は、赤色画像データ、白色画像データおよび青色画像データに対して、色補正マトリクス(CCM)を適用してもよい。CCMは、例えば、赤、緑および青色画像データを生成するために、白色画像データから緑色画像データを抽出してもよい。例えば、CCMは、画像データを、標準赤色、標準緑色および標準青色画像データ(時には、まとめて、線形sRGB画像データもしくは単にsRGB画像データと称される)へと変換してもよい。別の適切な配置においては、CCMは、赤および/もしくは青色画像データから緑色画像データを抽出してもよい。所望の場合には、ガンマ補正処理が、線形sRGB画像データに実施されてもよい。ガンマ補正後に、sRGB画像データは、画像表示デバイスを使用して表示するために使用されてもよい。幾つかの場合においては、CCMを赤、白および青色画像データに対して適用することによって生成されるノイズ増幅をさらに軽減するために、(例えば、sRGB画像データにポイントフィルタを適用することによって)さらなるノイズ除去を提供することが望ましいこともある。処理回路18は、任意のステップ108の間、sRGB画像データのさらなる処理用に、白色画像データを保存してもよい。
任意のステップ108において、処理回路18は、画像データに対して(例えば、赤、白および青色画像データに対してCCMを適用した後に生成されるsRGB画像データに対して)ポイントフィルタを適用してもよい。ポイントフィルタは、補正sRGBデータを生成するために、sRGB画像データに作用してもよい。ポイントフィルタは、赤、白および青色画像データに対してCCMを適用することによって引き起こされるノイズ増幅をさらに低減するために役立つ可能性がある。表示システムを使用して表示されるとき、補正sRGBデータは、したがって、ポイントフィルタ適用前のsRGBデータと比較すると、より良好な画像品質(例えば、より良好な輝度特性)を提供する。
図7は、画素アレイ200から受信された画像信号をデモザイクし、かつフィルタ処理するために、処理回路18によって実施される可能性がある例示的なステップのフローチャートを示す。図7のステップは、例えば、赤、白および青色画像データにおいて十分なノイズ相関を生成するために、画素190によって集められた赤、白および青色画像信号にクロマデモザイクを実施するために、処理回路18によって実施されてもよい。図7のステップは、例えば、図6のステップ104の一部として実施されてもよい。
ステップ110において、処理回路18は、白色画像データ(例えば、各画素用の白色画像値)を生成するために、白色画像信号をデモザイクしてもよい。別の適切な配置においては、白色画像値は、利用可能な画素190の組み合わせ用に生成されてもよい。白色画像値は、赤、白および青色画像信号の間のノイズ相関を増大させるために、赤および青色画像信号を使用して差値を計算するために使用されてもよい。
ステップ112において、処理回路18は、各ピクセルに対して、赤色画像値から白色画像値を減算することによって赤色差値を生成してもよい。処理回路18は、青色画像値から白色画像値を減算することによって青色差値を生成してもよい。赤色差値は、例えば、各赤色画素に対して計算され、青色差値は、画素アレイ200の各青色画素に対して計算されてもよい。
ステップ114において、処理回路18は、クロマフィルタを使用して、赤色差値および青色差値をフィルタ処理してもよい。クロマフィルタは、例えば、画素190のカーネルにわたって計算された差値の重み付け平均(例えば、ステップ112の実施によって計算された差値の集合の重み付け平均)を実施することによって、赤および青色差値に対して適用されてもよい。画素のカーネルは、クロマフィルタ処理が実施される画素アレイ200における画素のサブセットとして定義されてもよい(例えば、カーネルは、画素アレイ200における幾つかもしくは全ての画素を含んでもよい)。例えば、5ピクセル×5ピクセルのカーネルが使用されるとき、クロマフィルタ処理を実施する際に、差値の重み付け平均は画素アレイ200における画素190の5ピクセル×5ピクセルのサブセットに対して計算される(例えば、差値の重み付け和は、画素アレイ200における周囲の25個の画素における差値を使用して任意の画素190に対して計算されてもよい)。概して、任意の所望のサイズのカーネルが使用されてもよい。
ステップ116において、クロマフィルタ処理された赤色画像値およびクロマフィルタ処理された青色画像値を其々生成するために、白色画像値が、クロマフィルタ処理された赤色差値およびクロマフィルタ処理された青色差値に対して加算されてもよい。
ステップ118において、処理回路18は、ノイズ相関が増大した赤色画像データおよび青色画像データ(例えば、クロマデモザイクされた赤および青色画像データ)を生成するために、クロマフィルタ処理された赤色画像値およびクロマフィルタ処理された青色画像値をデモザイクしてもよい。デモザイクされた白色画像データならびにクロマデモザイクされた赤色および青色画像データは、その後、図6のステップ106に関連して上述されたように、標準赤、標準緑および標準青色(sRGB)画像データを生成するために、CCMを使用して操作されてもよい。
図7は単に例示的なものにすぎない。所望の場合には、処理回路18は、赤および青色差値を生成する前に、クロマフィルタ処理された赤および青色画像値をデモザイクしてもよい(例えば、処理回路18は、ステップ112の前にステップ118を実施してもよい)。
差値のクロマフィルタ処理は、十分に大きなカーネルの画素190にわたって実施される場合には、赤および青色画像信号由来のごくわずかなノイズが、クロマフィルタ処理後(例えば、ステップ114の実施後)に赤および青色差値に残存する可能性がある。例えば、カーネルが15ピクセル×15ピクセル以上のサイズを有する場合には、クロマフィルタ処理は、クロマフィルタ処理された赤および青色差値におけるノイズを無視できるレベルまで低減する可能性がある。所望の場合には、画素190のカーネルは、複数の画素アレイ200に位置する画素、複数の画像センサ16に位置する画素、および/もしくは、(例えば、一時的なノイズ除去を考慮するために)複数のタイムフレーム間に使用される画素を含んでもよい。白色画像値がクロマフィルタ処理された差値に加算されるとき、白色画像値におけるノイズは、差値におけるノイズにおいて優位を占める可能性がある。本方法においては、ステップ116で生成された赤および青色画像データにおけるノイズは、白色画像データにおけるノイズと実施的に等しい可能性がある。赤および青色画像データにおけるノイズは、したがって、高い相関を有し、結果としてCCMによるノイズ増幅を低減させる。本プロセスは、Bayerパターンが画素アレイ200に対して使用される場合よりも、CCMによるノイズ増幅をより小さくする可能性がある。
CCMは、ステップ106(図6)において線形sRGBデータを生成するために、赤、白および青色画像データに作用してもよい。例えば、CCMは、標準緑色データを生成するために、白色画像データから情報を抽出してもよい。白色画像データ(例えば、ステップ104において生成されたデモザイクされた白色画像データ)は、CCMが画像データに作用した後、保存されてもよい。sRGB画像データは、輝度−クロマ(彩度)−色相(LCH)空間などの他の三次元空間で表されてもよい。LCH空間においては、輝度チャネル(L)は、画像センサ16によって捕捉された画像の明るさに関連し、クロマチャネル(C)は、画像の色飽和度に関連し、色相チャネルは、画像の特定の色(例えば、赤色、紫色、黄色、緑色など)に関連しうる。表示された画像のノイズおよび鮮明さの認知は、輝度チャネルにおけるノイズと信号の変化によって影響を受ける可能性がある。画像データにおけるSNRは、sRGBデータをLHCデータへと変換し、(白色画像信号の広範なスペクトルによって、画像全体の明るさと良好な相関を有する)白色画像値で輝度チャネルにおける輝度値を置換し、LHCデータをsRGBデータへと戻すことによって改善される可能性がある。本方法においては、CCMによって引き起こされたノイズ増幅は、観察者が表示された画像を観察する際にノイズが特に顕著である、輝度チャネルにおいて抑制される可能性がある。
図6の任意のステップ108に関連して上述されたように、ポイントフィルタは、白色画像データを使用して補正sRGBデータを生成するために、線形sRGBデータに対して適用されてもよい。ポイントフィルタは、隣接する画素190からの情報なしで単一の画素190に作用するが、クロマデモザイクは、単一の画素190における画像信号に適用されるときに、複数の画素(例えば、画素のカーネル)からの画像信号(例えば、差値)を必要とすることがある。例えば、ポイントフィルタは、各画素に対して、標準赤色値、標準緑色値および標準青色値に作用してもよい。sRGBデータにポイントフィルタ作用を実施するために、処理回路18は、元(生)の輝度信号を計算するために、赤色画像データ、白色画像データおよび青色画像データ(例えば、CCM適用前の画像データ)を使用してもよい。元の輝度信号は、白色画像データ、赤色画像データおよび青色画像データの線形の組み合わせ(例えば、重み付け和)であってもよい。所望の場合には、白色画像データは、線形の組み合わせにおいて、赤および青色画像データよりもさらに重み付けされてもよい。処理回路18は、(例えば、画像データに対してCCMを適用後)標準赤、標準緑および標準青色画像データの線形の組み合わせである、包含された輝度信号を計算してもよい。所望の場合には、包含された輝度信号を計算するために使用された線形の組み合わせにおける重みは、元の輝度信号を計算するために使用された重みに実質的に類似していてもよい。重みは、ポイントフィルタの“強さ”(例えば、ポイントフィルタがsRGBデータを変形もしくは補正する程度)を改変するために調整されてもよい。
処理回路18は、最も単純な場合においては、包含された輝度信号によって元の輝度信号を除算することによって、スケーリング値(例えば、色補正された画像値に対して適用されるスケーリング値)を生成してもよい。所望の場合には、スケーリングファクタは、分子および分母を含んでもよい。スケーリング値の分子および/もしくは分母は、元の輝度信号および包含された輝度信号の重み付け和を含んでもよい。スケーリング値は、ポイントフィルタの強さを調整するために変化することが可能な調整可能な重み付けパラメータを含んでもよい(例えば、重み付けパラメータは、ポイントフィルタの強さをゼロから最大の強さまで調整するために連続的に変化してもよい)。sRGBデータ(例えば、標準赤、緑および青色画像データ)に対してポイントフィルタを適用するために、処理回路18は、補正sRGBデータを生成するためにスケーリング値でsRGBデータを乗算してもよい。例えば、処理回路18は、スケーリング値で標準赤色画像データを乗算し、スケーリング値で標準緑色画像データを乗算するなどしてもよい。所望の場合には、補正sRGBデータは、(例えば、補正sRGBデータをLCH空間へと変換することで)ポイントフィルタ適用前にほぼ保存された色相およびクロマチャネルを有してもよい。補正sRGBデータは、白色画像信号の継承された適合度によって、改善されたノイズおよび/もしくは鮮明さを有する可能性がある。
最も単純な場合においては、元の輝度信号は、白色画像データによって見積もられてもよい。図8は、(一実施例として)赤、白および青色画像データに対してCCMを適用後、sRGBデータに対して(最も単純な場合には)ポイントフィルタを適用するために、処理回路18によって実施される可能性のある例示的なステップのフローチャートを示す。処理回路18は、例えば、画素アレイ200における各画素190用にsRGBデータに対してポイントフィルタを適用してもよい。図8のステップは、例えば、図6のステップ108の一部として実施されてもよい。
ステップ130において、処理回路18は、(例えば、CCM適用後)赤、緑および青色画像データを組み合わせることによって、任意の画素190用に包含された輝度値(例えば、LCH空間における輝度値)を生成してもよい。包含された輝度値は、例えば、赤、緑および青色画像データの線形の組み合わせとして計算されてもよい。
ステップ132において、処理回路18は包含された輝度値で白色画像値を除算することによってスケーリング値を生成してもよい。所望の場合には、スケーリングファクタは、包含された輝度値と白色画像値との重み付け和で白色画像値を除算することによって生成されてもよい。スケーリングファクタは、ポイントフィルタの強さを調整するために変化することのできる調整可能な重み付けパラメータを含んでもよい(例えば、重み付けパラメータは、ゼロから最大の強さまでポイントフィルタの強さを調整するために連続的に変化してもよい)。スケーリング値は、例えば、sRGBデータに作用する演算子であってもよい。
ステップ134において、処理回路18は、補正sRGBデータ(例えば、補正標準赤、緑および青色画像データ)を生成するために、スケーリング値でsRGBデータを乗算してもよい。例えば、処理回路18は、スケーリング値で標準赤色画像データを乗算し、スケーリング値で標準緑色画像データを乗算するなどしてもよい。補正sRGBデータは、所望の場合には、画像ディスプレイに提供されてもよい。補正sRGBデータは、ポイントフィルタの適用前のsRGBデータと比較されると、改善されたノイズおよび/もしくは鮮明さを有する可能性がある。
図6−図8の実施例は単に例示的なものにすぎない。任意の所望の色フィルタが、色画像信号を得るために、図3−図5に示された白色フィルタと組み合わせて使用されてもよい。所望の色フィルタの任意の組み合わせ(例えば、赤色フィルタ、緑色フィルタ、シアンフィルタ、赤外フィルタ、紫外フィルタ、青色フィルタ、黄色フィルタ、マゼンタフィルタ、紫色フィルタなどの任意の組み合わせ)が使用されてもよい。所望の場合には、任意の他の適切な三次元空間が、ポイントフィルタ作用を実施するために使用されてもよい。
所望の場合には、任意の数の画像センサ16上に形成された、任意の数の画素アレイ200が、画像を捕捉するために使用されてもよい。使用される各画素アレイは、例えば、異なる色の画像信号用に使用されてもよい。例えば、第一の画素アレイは、白色画像信号を生成するための透明フィルタを有し、第二の画素アレイは、赤色画像信号を生成するための赤色フィルタを有し、第三の画素アレイは、青色画像信号を生成するための青色フィルタを有してもよい。これらの各アレイからの画像信号は、クロマデモザイクされる、および/もしくはポイントフィルタを使用して操作されてもよい。各画素アレイは、所望の場合には、画像センサ16などのデバイス10における異なる画像センサ上に形成されてもよい(例えば、複数の画像センサ16がデバイス10に形成されてもよい)。このような一実施形態は、例えば、より短いカメラの焦点距離およびより薄いカメラモジュールを提供する可能性がある。
図9は、イメージングデバイス2000(例えば、透明色フィルタおよび上述された動作用の技術を使用する、図1−図8のイメージングセンサ16などのイメージングデバイス2000)を含むデジタルカメラなどの典型的なプロセッサシステム300を簡略化された形式で示す。プロセッサシステム300は、イメージングデバイス2000を含む可能性のあるデジタル回路を有する例示的なシステムである。限定することなく、このようなシステムは、コンピュータシステム、スチールもしくはビデオカメラシステム、スキャナ、マシンビジョン、自動車ナビゲーション、ビデオ電話、監視システム、オートフォーカスシステム、スタートラッカシステム、動作検出システム、手ぶれ補正システム、およびイメージングデバイスを使用する他のシステムを含む可能性がある。
プロセッサシステム300は、概して、シャッターボタン397が押されたとき、デバイス2000のピクセルアレイ200上に画像の焦点を合わせるためのレンズ396と、中央処理装置(CPU)395とを含み、中央処理装置395は、マイクロプロセッサのように、カメラおよび一つ以上の画像フロー機能を制御し、バス393を介して一つ以上の入力/出力(I/O)デバイス391と通信する。イメージングデバイス2000もまた、バス393を介してCPU395と通信する。システム300は、ランダムアクセスメモリ(RAM)392も含み、バス393を介してCPU395と通信するフラッシュメモリなどのリムーバブルメモリ394も含むことができる。イメージングデバイス2000は、単一の集積回路上もしくは異なるチップ上にメモリ記憶装置とともに、もしくはメモリ記憶装置なしで、CPUと組み合わせられてもよい。バス393は単一バスとして図示されているが、システムコンポーネントを相互接続するために使用される一つ以上のバスもしくはブリッジもしくは他の通信パスであってもよい。
一実施形態に従い、イメージングシステムは、画像センサピクセルのアレイを有するイメージセンサを含むように提供され、画像センサピクセルのアレイは、赤色光に応じて赤色画像信号を生成するように構成された赤色画像センサピクセルと、青色光に応じて青色画像信号を生成するように構成された青色画像センサピクセルと、少なくとも赤色光、緑色光および青色光に応じて白色画像信号を生成するように構成された透明画像センサピクセルと、赤色画像信号、青色画像信号および白色画像信号に対して、赤色画像信号、青色画像信号および白色画像信号に関連付けられたノイズ相関を増加させるフィルタ処理動作を実施するように構成された処理回路と、を含む。
別の実施形態に従い、処理回路は、赤色画像信号、青色画像信号および白色画像信号に関連付けられるノイズ相関を、赤色画像信号、青色画像信号および白色画像信号に関連付けられる全ノイズのうちの70%よりも大きく増大させるように構成される。
別の実施形態に従い、処理回路は、少なくとも25個の画像センサピクセルによって生成された画像信号の重み付け和を生成することによって、任意の色の各画像センサピクセル用にフィルタ処理作用を実施するように構成される。
別の実施形態に従い、処理回路は、赤色画像信号、青色画像信号および白色画像信号にバランス作用を実施するように構成される。
別の実施形態に従い、処理回路は、色補正マトリクスを白色画像信号に対して適用するように構成され、色補正マトリクスは、各白色画像信号から緑色画像信号を抽出する。
別の実施形態に従い、画像センサは、画像センサピクセルのさらなるアレイをさらに含む。
別の実施形態に従い、イメージングシステムは、画像センサピクセルのアレイを少なくとも一つ有するさらなる画像センサをさらに含む。
一実施形態に従い、第一の色の第一の画像信号、第一の色とは異なる第二の色の第二の画像信号、および白色画像信号を含む画像データを、処理回路を有する画像センサを使用して処理する方法は、処理回路によって、白色画像信号を使用して、第一および第二の色とは異なる第三の色の第三の画像信号を生成するステップと、処理回路によって、派生輝度値を形成するために第一の画像信号、第二の画像信号および第三の画像信号を組み合わせるステップと、処理回路によって、第一の画像信号、第二の画像信号および白色画像信号に基づいて推定輝度値を計算するステップと、処理回路によって、派生輝度値および推定輝度値を使用して、第一の画像信号、第二の画像信号および第三の画像信号を改変するステップと、を含むように提供される。
別の実施形態に従い、方法は、処理回路によって、派生輝度値および推定輝度値に基づいてスケーリング値を計算するステップをさらに含み、第一の画像信号、第二の画像信号および第三の画像信号を改変するステップは、生成されたスケーリング値で、第一の画像信号、第二の画像信号および第三の画像信号を乗算するステップを含む。
別の実施形態に従い、派生輝度値を形成するために、第一の画像信号、第二の画像信号および第三の画像信号を組み合わせるステップは、重み付けファクタを使用して、第一の画像信号、第二の画像信号および第三の画像信号の線形の組み合わせを計算するステップを含む。
別の実施形態に従い、派生輝度値を形成するために第一の画像信号、第二の画像信号および第三の画像信号を組み合わせるステップは、派生輝度値を形成するために、第一の画像信号、第二の画像信号および第三の画像信号と白色画像信号を組み合わせるステップをさらに含む。
別の実施形態に従い、白色画像信号を使用して、第三の色の第三の画像信号を生成するステップは、色補正マトリクスを使用して、白色画像信号から第三の画像信号を抽出するステップを含む。
別の実施形態に従い、第一の画像信号は赤色画像信号を含み、第二の画像信号は青色画像信号を含み、第三の画像信号は緑色画像信号を含む。
別の実施形態に従い、第一の画像信号は赤色画像信号を含み、第二の画像信号は緑色画像信号を含み、第三の画像信号は青色画像信号を含む。
別の実施形態に従い、第一の画像信号は青色画像信号を含み、第二の画像信号は緑色画像信号を含み、第三の画像信号は赤色画像信号を含む。
一実施形態に従い、システムは、中央処理装置、メモリ、入力−出力回路、イメージングデバイスを含むように提供され、イメージングデバイスは、ピクセルアレイ、ピクセルアレイ上の画像に焦点を合わせるレンズ、画素のアレイを有する画像センサを含み、画素のアレイは、赤色光に応じて赤色画像信号を生成するように構成された赤色画素と、青色光に応じて青色画像信号を生成するように構成された青色画素と、少なくとも赤色光、緑色光および青色光に応じて白色画像信号を生成するように構成された透明画素と、少なくとも赤色画像信号、青色画像信号および緑色画像信号の線形の組み合わせに対する白色画像信号の比であるスケーリング値を生成し、かつ、生成されたスケーリング値を使用して、赤色画像信号、青色画像信号および緑色画像信号を改変するように構成された処理回路と、を含む。
別の実施形態に従い、画素のアレイは、一つの赤色画素、一つの青色画素、および二つの透明画素を各々含む、多数のピクセルユニットセルを含む。
別の実施形態に従い、処理回路は、赤色画像信号、青色画像信号および白色画像信号に関連付けられるノイズ相関を増大させるために、赤色画像信号、青色画像信号および白色画像信号にフィルタ処理作用を実施すようにさらに構成される。
別の実施形態に従い、処理回路は、白色画像信号と赤色画像信号との間、および白色画像信号と青色画像信号との間に差値を生成するようにさらに構成される。
別の実施形態に従い、処理回路は、生成された差値を使用して、赤色画像信号、青色画像信号および白色画像信号にフィルタ処理作用を実施するようにさらに構成される。
一実施形態に従い、画像センサを使用して画像信号を処理する方法は、画像センサが画像センサピクセルのアレイと処理回路とを含み、画像センサピクセルが赤色画像センサピクセル、青色画像センサピクセルおよび透明画像センサピクセルを含むように提供され、方法は、赤色画像センサピクセルによって、赤色光に応じて赤色画像信号を生成するステップと、青色画像センサピクセルによって、青色光に応じて青色画像信号を生成するステップと、透明画像センサピクセルによって、少なくとも赤色光、緑色光および青色光に応じて白色画像信号を生成するステップと、処理回路によって、赤色画像信号、青色画像信号および白色画像信号に関連付けられたノイズ相関を増大させるために、赤色画像信号、青色画像信号および白色画像信号にフィルタ処理作用を実施するステップと、を含む。
別の実施形態に従い、フィルタ処理作用を実施するステップは、赤色画像信号、青色画像信号および白色画像信号に関連付けられたノイズ相関を、赤色画像信号、青色画像信号および白色画像信号に関連付けられた全ノイズのうちの70%よりも大きく増大させるステップを含む。
別の実施形態に従い、フィルタ処理作用を実施するステップは、任意の色の各画像センサピクセル用に少なくとも25個の画像センサピクセルによって生成された画像信号の重み付け和を生成するステップを含む。
一実施形態に従い、画像センサを使用して画像信号を処理する方法は、画像センサが画像センサピクセルのアレイと処理回路とを有し、画像センサピクセルのアレイが第一の色の光に反応する画像センサピクセルの第一のグループと、第二の色の光に反応する画像センサピクセルの第二のグループと、第三の色の光に反応する画像センサピクセルの第三のグループとを含むように提供され、方法は、画像センサピクセルの第一のグループによって、第一の色の光に応じて第一の画像信号を生成するステップと、画像センサピクセルの第二のグループによって、第二の光に応じて第二の画像信号を生成するステップと、画像センサピクセルの第三のグループによって、少なくとも第一および第二の色の光に応じて第三の画像信号を生成するステップと、処理回路によって、第一の画像信号、第二の画像信号および第三の画像信号に関連付けられたノイズ相関を増大させる、第一の画像信号、第二の画像信号および第三の画像信号におけるフィルタ処理作用を実施するステップとを含む。
別の実施形態に従い、第一の画像信号は第一のスペクトル応答レベルを有し、第二の画像信号は、第二のスペクトル応答レベルを有し、少なくとも第一および第二の色の光に応じて第三の画像信号を生成するステップは、第一および第二の信号応答レベルの和の75%よりも大きい第三のスペクトル応答レベルを有する第三の画像信号を生成するステップを含む。
別の実施形態に従い、第一の画像信号を生成するステップは、赤色光に応じて赤色画像信号を生成するステップを含み、第二の画像信号を生成するステップは、青色光に応じて青色画像信号を生成するステップを含み、第三の画像信号を生成するステップは、少なくとも赤色および青色光に応じて白色画像信号を生成するステップを含む。
別の実施形態に従い、赤色画像信号は第一のスペクトル応答レベルを有し、青色画像信号は第二のスペクトル応答レベルを有し、白色画像信号を生成するステップは、第一および第二のスペクトル応答レベルの和の75%よりも大きい第三のスペクトル応答レベルを有する白色画像信号を生成するステップを含む。
別の実施形態に従い、第一の画像信号、第二の画像信号および白色画像信号にフィルタ処理作用を実施するステップは、第一の画像信号、第二の画像信号、および第三の画像信号に無限インパルス応答フィルタを実施するステップを含む。
一実施形態に従い、画像センサを使用して画像信号を処理する方法が提供され、画像センサは、処理回路と、第一の色の光に応じて第一の画像信号を生成する画像センサピクセルの第一のグループと、第二の色の光に応じて第二の画像信号を生成する画像センサピクセルの第二のグループと、第三の色の光に応じて第三の画像信号を生成する画像センサピクセルの第三のグループとを含み、第一の画像信号は第一のスペクトル応答を有し、第二の画像信号は第二のスペクトル応答を有し、第三の画像信号は、第一および第二のスペクトル応答よりも大きい第三のスペクトル応答を有し、方法は、処理回路によって、第一の画像信号、第二の画像信号および第三の画像信号を使用して、推定輝度値を生成するステップと、処理回路によって、第一、第二および第三の画像信号を派生三原色空間へと変換することによって、変換された第一の画像信号、変換された第二の画像信号および変換された第三の画像信号を生成するステップと、処理回路によって、変換された第一、第二および第三の画像信号を組み合わせることによって派生輝度値を生成するステップと、処理回路によって、派生輝度値が推定輝度値に近づくように、変換された第一、第二および第三の画像信号を改変するステップと、を含む。
別の実施形態に従い、第一、第二および第三の画像信号を派生三原色空間へと変換するステップは、第一、第二および第三の画像信号を標準赤−緑−青色空間へと変換するステップを含む。
別の実施形態に従い、変換された第一、第二および第三の画像信号を生成するステップは、第一、第二および第三の画像信号の線形の組み合わせを生成するステップを含む。
別の実施形態に従い、第一の画像信号は、赤色光に応じて画像センサピクセルの第一のグループによって捕捉された赤色画像信号を含み、第二の画像信号は、青色光に応じて画像センサピクセルの第二のグループによって捕捉された青色画像信号を含み、第三の画像センサピクセルは、少なくとも青色光および赤色光に応じて画像センサピクセルの第三のグループによって捕捉された白色画像信号を含み、第一、第二および第三の画像信号の線形の組み合わせを生成するステップは、赤、青および白色画像信号を使用して、線形の組み合わせを生成するステップを含む。
一実施形態に従い、イメージングシステムは、画像センサピクセルのアレイを有する画像センサを含むように提供され、画像センサピクセルのアレイは、第一の色の光に応じて第一の画像信号を生成するように構成された画像センサピクセルの第一のグループと、第二の色の光に応じて第二の画像信号を生成するように構成された画像センサピクセルの第二のグループと、少なくとも第一および第二の色の光に応じて第三の画像信号を生成するように構成された画像センサピクセルの第三のグループと、第一の画像信号、第二の画像信号および第三の画像信号に関連付けられたノイズ相関を増大させるフィルタ処理作用を、第一の画像信号、第二の画像信号および第三の画像信号に実施するように構成された処理回路と、を含む。
別の実施形態に従い、第一の画像信号は第一のスペクトル応答レベルを有し、第二の画像信号は第二のスペクトル応答レベルを有し、第三の画像信号は、第一および第二のスペクトル応答レベルの和の75%よりも大きい第三のスペクトル応答レベルを有する。
別の実施形態に従い、画像センサピクセルの第一のグループは、赤色光に応じて赤色画像信号を生成するように構成された赤色画像センサピクセルを含み、画像センサピクセルの第二のグループは、青色光に応じて青色画像信号を生成するように構成された青色画像センサピクセルを含み、画像センサピクセルの第三のグループは、少なくとも赤色光および青色光に応じて白色画像信号を生成するように構成された透明画像センサピクセルを含む。
別の実施形態に従い、画像センサピクセルの第一のグループは、赤色光に応じて赤色画像信号を生成するように構成された赤色画像センサピクセルを含み、画像センサピクセルの第二のグループは、緑色光に応じて緑色画像信号を生成するように構成された緑色画像センサピクセルを含み、画像センサピクセルの第三のグループは、少なくとも赤色光および緑色光に応じて白色画像信号を生成するように構成された透明画像センサピクセルを含む。
前述された事柄は、他の実施形態でも実施することが可能な、本発明の原則を単に例示するものである。
ことを特徴とする請求項33に記載のイメージングシステム。
別の実施形態に従い、第一の画像信号は、赤色光に応じて画像センサピクセルの第一のグループによって捕捉された赤色画像信号を含み、第二の画像信号は、青色光に応じて画像センサピクセルの第二のグループによって捕捉された青色画像信号を含み、第三の画像信号は、少なくとも青色光および赤色光に応じて画像センサピクセルの第三のグループによって捕捉された白色画像信号を含み、第一、第二および第三の画像信号の線形の組み合わせを生成するステップは、赤、青および白色画像信号を使用して、線形の組み合わせを生成するステップを含む。

Claims (36)

  1. 複数の画像センサピクセルのアレイを有する画像センサであって、複数の画像センサピクセルの前記アレイは、赤色光に応じて複数の赤色画像信号を生成するように構成された複数の赤色画像センサピクセルと、青色光に応じて複数の青色画像信号を生成するように構成された複数の青色画像センサピクセルと、少なくとも赤色光、緑色光および青色光に応じて、複数の白色画像信号を生成するように構成された複数の透明画像センサピクセルと、を含む、画像センサと、
    前記複数の赤色画像信号、前記複数の青色画像信号および前記複数の白色画像信号に、前記複数の赤色画像信号、前記複数の青色画像信号および前記複数の白色画像信号に関連付けられた複数のノイズ相関を増大させる、複数のフィルタ処理作用を実施するように構成された処理回路と、
    を含む、
    ことを特徴とするイメージングシステム。
  2. 前記処理回路は、前記複数の赤色画像信号、前記複数の青色画像信号および前記複数の白色画像信号に関連付けられた全ノイズの70%よりも大きく、前記複数の赤色画像信号、前記複数の青色画像信号および前記複数の白色画像信号に関連付けられた前記複数のノイズ相関を増大するように構成される、
    ことを特徴とする請求項1に記載のイメージングシステム。
  3. 前記処理回路は、少なくとも25個の画像センサピクセルによって生成される複数の画像信号の重み付け和を生成することによって、任意の色の各画像センサピクセルに対して、前記複数のフィルタ処理作用を実施するように構成される、
    ことを特徴とする請求項1に記載のイメージングシステム。
  4. 前記処理回路は、前記複数の赤色画像信号、前記複数の青色画像信号および前記複数の白色画像信号に、複数の白色バランス作用を実施するように構成される、
    ことを特徴とする請求項1に記載のイメージングシステム。
  5. 前記処理回路は、前記白色画像信号に色補正マトリクスを適用するように構成され、前記色補正マトリクスは、各白色画像信号から緑色画像信号を抽出する、
    ことを特徴とする請求項4に記載のイメージングシステム。
  6. 前記画像センサは、複数の画像センサピクセルのさらなるアレイをさらに含む、
    ことを特徴とする請求項1に記載のイメージングシステム。
  7. 前記イメージングシステムは、複数の画像センサピクセルの少なくとも一つのアレイを有するさらなる画像センサをさらに含む、
    ことを特徴とする請求項1に記載のイメージングシステム。
  8. 処理回路を有する画像センサを使用して、第一の色の複数の第一の画像信号と、前記第一の色とは異なる第二の色の複数の第二の画像信号と、複数の白色画像信号とを含む画像データを処理する方法であって、
    前記方法は、
    前記処理回路によって、前記複数の白色画像信号を使用して、前記第一および第二の色とは異なる第三の色の複数の第三の画像信号を生成するステップと、
    前記処理回路によって、派生輝度値を形成するために、前記第一の複数の画像信号、前記第二の複数の画像信号および前記第三の複数の画像信号を組み合わせるステップと、
    前記処理回路によって、前記第一の複数の画像信号、前記第二の複数の画像信号、前記複数の白色画像信号に基づいて、推定輝度値を計算するステップと、
    前記処理回路によって、前記派生輝度値および前記推定輝度値を使用して、前記第一の複数の画像信号、前記第二の複数の画像信号および前記第三の複数の画像信号を改変するステップと、
    を含む、
    ことを特徴とする方法。
  9. 前記処理回路によって、前記派生輝度値および前記推定輝度値に基づいて、スケーリング値を計算するステップをさらに含み、前記第一の複数の画像信号、前記第二の複数の画像信号および前記第三の複数の画像信号を改変するステップは、前記生成されたスケーリング値で、前記第一の複数の画像信号、前記第二の複数の画像信号および前記第三の複数の画像信号を乗算するステップを含む、
    ことを特徴とする請求項8に記載の方法。
  10. 前記派生輝度値を形成するために、前記第一の複数の画像信号、前記第二の複数の画像信号および前記第三の複数の画像信号を組み合わせるステップは、複数の重み付けファクタを使用して、前記第一の複数の画像信号、前記第二の複数の画像信号および前記第三の複数の画像信号の線形の組み合わせを計算するステップを含む、
    ことを特徴とする請求項9に記載の方法。
  11. 前記派生輝度値を形成するために、前記第一の複数の画像信号、前記第二の複数の画像信号および前記第三の複数の画像信号を組み合わせるステップは、前記派生輝度値を形成するために、前記第一の複数の画像信号、前記第二の複数の画像信号および前記第三の複数の画像信号と、前記複数の白色画像信号とを組み合わせるステップをさらに含む、
    ことを特徴とする請求項10に記載の方法。
  12. 前記複数の白色画像信号を使用して、前記第三の色の前記第三の複数の画像信号を生成するステップは、色補正マトリクスを使用して、前記複数の白色画像信号から前記第三の複数の画像信号を抽出するステップを含む、
    ことを特徴とする請求項8に記載の方法。
  13. 前記第一の複数の画像信号は複数の赤色画像信号を含み、前記第二の複数の画像信号は複数の青色画像信号を含み、前記第三の複数の画像信号は複数の緑色画像信号を含む、
    ことを特徴とする請求項8に記載の方法。
  14. 前記第一の複数の画像信号は複数の赤色画像信号を含み、前記第二の複数の画像信号は複数の緑色画像信号を含み、前記第三の複数の画像信号は複数の青色画像信号を含む、
    ことを特徴とする請求項8に記載の方法。
  15. 前記第一の複数の画像信号は複数の青色画像信号を含み、前記第二の複数の画像信号は複数の緑色画像信号を含み、前記第三の複数の画像信号は複数の赤色画像信号を含む、
    ことを特徴とする請求項8に記載の方法。
  16. 中央処理装置と、
    メモリと、
    入力−出力回路と、
    イメージングデバイスと、
    を含み、前記イメージングデバイスは、
    ピクセルアレイと、
    前記ピクセルアレイ上に画像の焦点を合わせるレンズと、
    複数の画素のアレイを有する画像センサであって、複数の画素の前記アレイは、赤色光に応じて複数の赤色画像信号を生成するように構成された複数の赤色画素と、青色光に応じて複数の青色画像信号を生成するように構成された複数の青色画素と、少なくとも赤色光、緑色光および青色光に応じて、複数の白色画像信号を生成するように構成された複数の透明画素と、を含む、画像センサと、
    少なくとも前記複数の赤色画像信号、前記複数の青色画像信号および前記複数の緑色画像信号の線形の組み合わせに対する、前記複数の白色画像信号の比であるスケーリングと生成し、かつ、前記生成されたスケーリング値を使用して、前記複数の赤色画像信号、前記複数の青色画像信号、前記複数の緑色画像信号を改変するように構成された処理回路と、
    を含む、
    ことを特徴とするシステム。
  17. 複数の画素の前記アレイは、前記複数の赤色画素のうちの一つ、前記複数の青色画素のうちの一つ、および前記複数の透明画素のうちの二つを各々含む複数のピクセルユニットセルを含む、
    ことを特徴とする請求項16に記載のシステム。
  18. 前記処理回路は、前記複数の赤色画像信号、前記複数の青色画像信号および前記複数の白色画像信号に関連付けられた複数のノイズ相関を増大させるために、前記複数の赤色画像信号、前記複数の青色画像信号および前記複数の白色画像信号に複数のフィルタ処理作用を実施するようにさらに構成される、
    ことを特徴とする請求項16に記載のシステム。
  19. 前記処理回路は、前記複数の白色画像信号と前記複数の赤色画像信号との間、および前記複数の白色画像信号と前記複数の青色画像信号との間の複数の差値を生成するようにさらに構成される、
    ことを特徴とする請求項18に記載のシステム。
  20. 前記処理回路は、前記生成された複数の差値を使用して、前記複数の赤色画像信号、前記複数の青色画像信号および前記複数の白色画像信号に前記複数のフィルタ処理作用を実施するようにさらに構成される、
    ことを特徴とする請求項19に記載のシステム。
  21. 画像センサを使用して、複数の画像信号を処理する方法であって、前記画像センサは複数の画像センサピクセルのアレイと処理回路とを含み、前記複数の画像センサピクセルは、複数の赤色画像センサピクセル、複数の青色画像センサピクセルおよび複数の透明画像センサピクセルを含み、前記方法は、
    前記複数の赤色画像センサピクセルによって、赤色光に応じて複数の赤色画像信号を生成するステップと、
    前記複数の青色画像センサピクセルによって、青色光に応じて複数の青色画像信号を生成するステップと、
    前記複数の透明画像センサピクセルによって、少なくとも赤色光、緑色光、および青色光に応じて複数の白色画像信号を生成するステップと、
    前記処理回路によって、前記複数の赤色画像信号、前記複数の青色画像信号および前記複数の白色画像信号に、前記複数の赤色画像信号、前記複数の青色画像信号および前記複数の白色画像信号に関連付けられた複数のノイズ相関を増大させる複数のフィルタ処理作用を実施するステップと、
    を含む、
    ことを特徴とする方法。
  22. 前記複数のフィルタ処理作用を実施するステップは、
    前記複数の赤色画像信号、前記複数の青色画像信号および前記複数の白色画像信号に関連付けられた全ノイズのうちの70%よりも大きく、前記複数の赤色画像信号、前記複数の青色画像信号および前記複数の白色画像信号に関連付けられた前記複数のノイズ相関を増大させるステップを含む、
    ことを特徴とする請求項21に記載の方法。
  23. 前記複数のフィルタ処理作用を実施するステップは、
    任意の色の各画像センサピクセルに対して、少なくとも25個の画像センサピクセルによって生成された複数の画像信号の重み付け和を生成するステップを含む、
    ことを特徴とする請求項21に記載の方法。
  24. 複数の画像センサピクセルのアレイと処理回路とを有する画像センサを使用して、複数の画像信号を処理する方法であって、複数の画像センサピクセルの前記アレイは、第一の色の光に反応する画像センサピクセルの第一のグループと、第二の色の光に反応する画像センサピクセルの第二のグループと、第三の色の光に反応する画像センサピクセルの第三のグループとを含み、前記方法は、
    画像センサピクセルの前記第一のグループによって、前記第一の色の光に応じて、複数の第一の画像信号を生成するステップと、
    画像センサピクセルの前記第二のグループによって、前記第二の色の光に応じて、複数の第二の画像信号を生成するステップと、
    画像センサピクセルの前記第三のグループによって、少なくとも前記第一および第二の色の光に応じて、複数の第三の画像信号を生成するステップと、
    前記処理回路によって、前記第一の複数の画像信号、前記第二の複数の画像信号および前記第三の複数の画像信号に、前記第一の複数の画像信号、前記第二の複数の画像信号および前記第三の複数の画像信号に関連付けられた複数のノイズ相関を増大させる複数のフィルタ処理作用を実施するステップと、
    を含む、
    ことを特徴とする方法。
  25. 前記第一の複数の画像信号は第一のスペクトル応答レベルを有し、前記第二の複数の画像信号は第二のスペクトル応答レベルを有し、少なくとも前記第一および第二の色の光に応じて、前記第三の複数の画像信号を生成するステップは、
    前記第一および第二の信号応答レベルの和の75%よりも大きい第三のスペクトル応答レベルを有する前記第三の複数の画像信号を生成するステップを含む、
    ことを特徴とする請求項24に記載の方法。
  26. 前記第一の複数の画像信号を生成するステップは、赤色光に応じて複数の赤色画像信号を生成するステップを含み、前記第二の複数の画像信号を生成するステップは、青色光に応じて複数の青色画像信号を生成するステップを含み、前記第三の複数の画像信号を生成するステップは、少なくとも赤色および青色光に応じて複数の白色画像信号を生成するステップを含む、
    ことを特徴とする請求項24に記載の方法。
  27. 前記複数の赤色画像信号は第一のスペクトル応答レベルを有し、前記複数の青色画像信号は第二のスペクトル応答レベルを有し、前記複数の白色画像信号を生成するステップは、
    前記第一および第二のスペクトル応答レベルの和の75%よりも大きい第三のスペクトル応答レベルを有する前記複数の白色画像信号を生成するステップを含む、
    ことを特徴とする請求項26に記載の方法。
  28. 前記第一の複数の画像信号、前記第二の複数の画像信号および前記複数の白色画像信号に複数のフィルタ処理作用を実施するステップは、
    前記第一の複数の画像信号、前記第二の複数の画像信号および前記第三の複数の画像信号に、無限インパルス応答フィルタを実施するステップを含む、
    ことを特徴とする請求項24に記載の方法。
  29. 画像センサを使用して複数の画像信号を処理する方法であって、
    前記画像センサは、処理回路と、第一の色の光に応じて第一の複数の画像信号を生成する画像センサピクセルの第一のグループと、第二の色の光に応じて第二の複数の画像信号を生成する画像センサピクセルの第二のグループと、第三の色の光に応じて第三の複数の画像信号を生成する画像センサピクセルの第三のグループと、を含み、前記第一の複数の画像信号は第一のスペクトル応答を有し、前記第二の複数の画像信号は第二のスペクトル応答を有し、前記第三の複数の画像信号は、前記第一および第二のスペクトル応答よりも大きい第三のスペクトル応答を有し、前記方法は、
    前記処理回路によって、前記第一の複数の画像信号、前記第二の複数の画像信号および前記第三の複数の画像信号を使用して、推定輝度値を生成するステップと、
    前記処理回路によって、前記第一、第二および第三の複数の画像信号を派生三原色空間へと変換することによって、変換された第一の複数の画像信号、変換された第二の複数の画像信号および変換された第三の複数の画像信号を生成するステップと、
    前記処理回路によって、前記変換された第一、第二および第三の複数の画像信号を組み合わせることによって、派生輝度値を生成するステップと、
    前記処理回路によって、前記派生輝度値が前期推定輝度値に近づくように、前記変換された第一、第二および第三の複数の画像信号を改変するステップと、
    を含む、
    ことを特徴とする方法。
  30. 前記第一、第二および第三の画像信号を前記派生三原色空間へと変換するステップは、
    前記第一、第二および第三の画像信号を標準赤−緑−青色空間へと変換するステップを含む、
    ことを特徴とする請求項29に記載の方法。
  31. 前記変換された第一、第二および第三の画像信号を生成するステップは、
    前記第一、第二および第三の画像信号の線形の組み合わせを生成するステップを含む、
    ことを特徴とする請求項29に記載の方法。
  32. 前記第一の複数の画像信号は、赤色光に応じて画像センサピクセルの前記第一のグループによって捕捉された複数の赤色画像信号を含み、前記第二の複数の画像信号は、青色光に応じて画像センサピクセルの前記第二のグループによって捕捉された複数の青色画像信号を含み、前記第三の複数の画像センサピクセルは、少なくとも青色光および赤色光に応じて画像センサピクセルの前記第三のグループによって捕捉された複数の白色画像信号を含み、前記第一、第二および第三の画像信号の前記線形の組み合わせを生成するステップは、
    前記赤、青および白色画像信号を使用して前記線形の組み合わせを生成するステップを含む、
    ことを特徴とする請求項31に記載の方法。
  33. 複数の画像センサピクセルのアレイを有する画像センサであって、複数の画像センサピクセルの前記アレイは、第一の色の光に応じて第一の複数の画像信号を生成するように構成された画像センサピクセルの第一のグループと、第二の色の光に応じて第二の複数の画像信号を生成するように構成された画像センサピクセルの第二のグループと、少なくとも前記第一および第二の色の光に応じて複数の第三の画像信号を生成するように構成された画像センサピクセルの第三のグループとを含む、画像センサと、
    前記第一の複数の画像信号、前記第二の複数の画像信号および前記第三の複数の画像信号に、前記第一の複数の画像信号、前記第二の複数の画像信号および前記第三の複数の画像信号に関連付けられた複数のノイズ相関を増大させる複数のフィルタ処理作用を実施するように構成された処理回路と、
    を含む、
    ことを特徴とするイメージングシステム。
  34. 前記第一の複数の画像信号は第一のスペクトル応答レベルを有し、前記第二の複数の画像信号は第二のスペクトル応答レベルを有し、前記第三の複数の画像信号は、前記第一および第二のスペクトル応答レベルの和の75%よりも大きい第三のスペクトル応答レベルを有する、
    ことを特徴とする請求項33に記載のイメージングシステム。
  35. 画像センサピクセルの前記第一のグループは、赤色光に応じて複数の赤色画像信号を生成するように構成された複数の赤色画像センサピクセルを含み、画像センサピクセルの前記第二のグループは、青色光に応じて複数の青色画像信号を生成するように構成された複数の青色画像センサピクセルを含み、画像センサピクセルの前記第三のグループは、少なくとも赤色光および青色光に応じて複数の白色画像信号を生成するように構成された複数の透明画像センサピクセルを含む、
    ことを特徴とする請求項33に記載のイメージングシステム。
  36. 画像センサピクセルの前記第一のグループは、赤色光に応じて複数の赤色画像信号を生成するように構成された複数の赤色画像センサピクセルを含み、画像センサピクセルの前記第二のグループは、緑色光に応じて複数の緑色画像信号を生成するように構成された複数の緑色画像センサピクセルを含み、画像センサピクセルの前記第三のグループは、少なくとも赤色光および緑色光に応じて複数の白色画像信号を生成するように構成された複数の透明画像センサピクセルを含む、
    ことを特徴とする請求項33に記載のイメージングシステム。
JP2013057224A 2012-03-19 2013-03-19 透明フィルタピクセルを備えるイメージングシステム Expired - Fee Related JP6134879B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201261612819P 2012-03-19 2012-03-19
US61/612,819 2012-03-19
US13/736,768 2013-01-08
US13/736,768 US9191635B2 (en) 2012-03-19 2013-01-08 Imaging systems with clear filter pixels

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2015105093A Division JP6096243B2 (ja) 2012-03-19 2015-05-25 画像データの処理方法およびシステム

Publications (2)

Publication Number Publication Date
JP2013198160A true JP2013198160A (ja) 2013-09-30
JP6134879B2 JP6134879B2 (ja) 2017-05-31

Family

ID=48128065

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2013057224A Expired - Fee Related JP6134879B2 (ja) 2012-03-19 2013-03-19 透明フィルタピクセルを備えるイメージングシステム
JP2015105093A Expired - Fee Related JP6096243B2 (ja) 2012-03-19 2015-05-25 画像データの処理方法およびシステム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2015105093A Expired - Fee Related JP6096243B2 (ja) 2012-03-19 2015-05-25 画像データの処理方法およびシステム

Country Status (6)

Country Link
US (4) US9191635B2 (ja)
EP (2) EP2642757B1 (ja)
JP (2) JP6134879B2 (ja)
KR (2) KR101446419B1 (ja)
CN (3) CN105847772B (ja)
HK (2) HK1222962A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9548336B2 (en) 2014-04-24 2017-01-17 Samsung Electronics Co., Ltd. Image sensors and electronic devices including the same

Families Citing this family (62)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9282228B2 (en) 2013-01-05 2016-03-08 The Lightco Inc. Camera methods and apparatus using optical chain modules which alter the direction of received light
CN110225259B (zh) 2013-02-28 2021-09-07 株式会社尼康 电子设备、显示方法及图像处理方法
FR3004882B1 (fr) * 2013-04-17 2015-05-15 Photonis France Dispositif d'acquisition d'images bimode
US9374514B2 (en) 2013-10-18 2016-06-21 The Lightco Inc. Methods and apparatus relating to a camera including multiple optical chains
US9551854B2 (en) 2013-10-18 2017-01-24 Light Labs Inc. Methods and apparatus for controlling sensors to capture images in a synchronized manner
US9549127B2 (en) 2013-10-18 2017-01-17 Light Labs Inc. Image capture control methods and apparatus
US9736365B2 (en) 2013-10-26 2017-08-15 Light Labs Inc. Zoom related methods and apparatus
US9467627B2 (en) 2013-10-26 2016-10-11 The Lightco Inc. Methods and apparatus for use with multiple optical chains
US9426365B2 (en) 2013-11-01 2016-08-23 The Lightco Inc. Image stabilization related methods and apparatus
US9554031B2 (en) 2013-12-31 2017-01-24 Light Labs Inc. Camera focusing related methods and apparatus
US9979878B2 (en) 2014-02-21 2018-05-22 Light Labs Inc. Intuitive camera user interface methods and apparatus
US9462170B2 (en) 2014-02-21 2016-10-04 The Lightco Inc. Lighting methods and apparatus
US9531976B2 (en) 2014-05-29 2016-12-27 Semiconductor Components Industries, Llc Systems and methods for operating image sensor pixels having different sensitivities and shared charge storage regions
US9888198B2 (en) 2014-06-03 2018-02-06 Semiconductor Components Industries, Llc Imaging systems having image sensor pixel arrays with sub-pixel resolution capabilities
EP3164831A4 (en) 2014-07-04 2018-02-14 Light Labs Inc. Methods and apparatus relating to detection and/or indicating a dirty lens condition
US10110794B2 (en) 2014-07-09 2018-10-23 Light Labs Inc. Camera device including multiple optical chains and related methods
WO2016061565A1 (en) 2014-10-17 2016-04-21 The Lightco Inc. Methods and apparatus for using a camera device to support multiple modes of operation
KR102219784B1 (ko) 2014-12-15 2021-02-24 에스케이하이닉스 주식회사 컬러 필터 어레이 및 이를 구비한 이미지 센서
EP3235243A4 (en) 2014-12-17 2018-06-20 Light Labs Inc. Methods and apparatus for implementing and using camera devices
US9544503B2 (en) 2014-12-30 2017-01-10 Light Labs Inc. Exposure control methods and apparatus
CN104700353B (zh) 2015-02-11 2017-12-05 小米科技有限责任公司 图像滤镜生成方法及装置
US9467633B2 (en) 2015-02-27 2016-10-11 Semiconductor Components Industries, Llc High dynamic range imaging systems having differential photodiode exposures
US9793306B2 (en) 2015-04-08 2017-10-17 Semiconductor Components Industries, Llc Imaging systems with stacked photodiodes and chroma-luma de-noising
US9824427B2 (en) 2015-04-15 2017-11-21 Light Labs Inc. Methods and apparatus for generating a sharp image
US10091447B2 (en) 2015-04-17 2018-10-02 Light Labs Inc. Methods and apparatus for synchronizing readout of multiple image sensors
US9857584B2 (en) 2015-04-17 2018-01-02 Light Labs Inc. Camera device methods, apparatus and components
US9967535B2 (en) 2015-04-17 2018-05-08 Light Labs Inc. Methods and apparatus for reducing noise in images
US10075651B2 (en) 2015-04-17 2018-09-11 Light Labs Inc. Methods and apparatus for capturing images using multiple camera modules in an efficient manner
WO2016172641A1 (en) 2015-04-22 2016-10-27 The Lightco Inc. Filter mounting methods and apparatus and related camera apparatus
US9686486B2 (en) 2015-05-27 2017-06-20 Semiconductor Components Industries, Llc Multi-resolution pixel architecture with shared floating diffusion nodes
US10129483B2 (en) 2015-06-23 2018-11-13 Light Labs Inc. Methods and apparatus for implementing zoom using one or more moveable camera modules
US9467665B1 (en) * 2015-06-29 2016-10-11 Omnivision Technologies, Inc. Color filter array patterns for reduction of color aliasing
US10491806B2 (en) 2015-08-03 2019-11-26 Light Labs Inc. Camera device control related methods and apparatus
US9712792B2 (en) * 2015-08-10 2017-07-18 Samsung Electronics Co., Ltd. RGB-RWB dual images by multi-layer sensors towards better image quality
US10365480B2 (en) 2015-08-27 2019-07-30 Light Labs Inc. Methods and apparatus for implementing and/or using camera devices with one or more light redirection devices
US9749549B2 (en) 2015-10-06 2017-08-29 Light Labs Inc. Methods and apparatus for facilitating selective blurring of one or more image portions
US10148926B2 (en) 2015-12-07 2018-12-04 Samsung Electronics Co., Ltd. Imaging apparatus and image processing method of thereof
CN105516697B (zh) 2015-12-18 2018-04-17 广东欧珀移动通信有限公司 图像传感器、成像装置、移动终端及成像方法
CN105430359B (zh) * 2015-12-18 2018-07-10 广东欧珀移动通信有限公司 成像方法、图像传感器、成像装置及电子装置
US10225445B2 (en) 2015-12-18 2019-03-05 Light Labs Inc. Methods and apparatus for providing a camera lens or viewing point indicator
US10003738B2 (en) 2015-12-18 2018-06-19 Light Labs Inc. Methods and apparatus for detecting and/or indicating a blocked sensor or camera module
CN106934317A (zh) * 2015-12-29 2017-07-07 我查查信息技术(上海)有限公司 条码扫描识别方法及装置
US10600213B2 (en) * 2016-02-27 2020-03-24 Focal Sharp, Inc. Method and apparatus for color-preserving spectrum reshape
US10306218B2 (en) 2016-03-22 2019-05-28 Light Labs Inc. Camera calibration apparatus and methods
CN108781278A (zh) * 2016-03-30 2018-11-09 Lg 电子株式会社 图像处理装置和移动终端
US10033949B2 (en) 2016-06-16 2018-07-24 Semiconductor Components Industries, Llc Imaging systems with high dynamic range and phase detection pixels
US9948832B2 (en) 2016-06-22 2018-04-17 Light Labs Inc. Methods and apparatus for synchronized image capture in a device including optical chains with different orientations
TW201822709A (zh) * 2016-12-30 2018-07-01 曦威科技股份有限公司 即時心跳偵測方法及即時心跳偵測系統
US10262399B2 (en) * 2017-01-09 2019-04-16 Samsung Electronics Co., Ltd. Image denoising with color-edge contrast preserving
US10960237B2 (en) * 2017-07-19 2021-03-30 Honeywell International Inc. Powered air-purifying respirator (PAPR) with eccentric venturi air flow rate determination
WO2019019772A1 (en) * 2017-07-28 2019-01-31 Zhejiang Dahua Technology Co., Ltd. SYSTEMS AND METHODS FOR IMAGE PROCESSING
US10616536B2 (en) 2018-01-12 2020-04-07 Semiconductor Components Industries, Llc Imaging systems having broadband monochromatic and chromatic image sensors
CN108769635B (zh) * 2018-05-30 2020-01-21 Oppo(重庆)智能科技有限公司 拍摄装置、电子设备及图像获取方法
KR102386672B1 (ko) * 2018-06-07 2022-04-14 모빌아이 비젼 테크놀로지스 엘티디. 고분해능 자동차 렌즈 및 센서
CN114422766B (zh) * 2018-08-03 2024-06-04 杭州海康威视数字技术股份有限公司 一种图像采集设备
CN111835977B (zh) * 2019-04-18 2021-11-02 北京小米移动软件有限公司 图像传感器、图像生成方法及装置、电子设备、存储介质
KR102709671B1 (ko) * 2019-08-08 2024-09-26 에스케이하이닉스 주식회사 이미지 센서, 이미지 신호 프로세서 및 이들을 포함하는 이미지 처리 시스템
WO2021046690A1 (zh) * 2019-09-09 2021-03-18 Oppo广东移动通信有限公司 图像传感器、摄像头模组、移动终端及图像采集方法
KR102230609B1 (ko) * 2019-11-26 2021-03-19 가천대학교 산학협력단 딥 러닝 기반 희소 컬러 센서 이미지 처리장치, 이미지 처리방법 및 컴퓨터-판독가능 매체
KR20220010285A (ko) * 2020-07-17 2022-01-25 에스케이하이닉스 주식회사 디모자익 동작 회로, 이미지 센싱 장치 및 그 동작방법
KR20220081532A (ko) * 2020-12-09 2022-06-16 에스케이하이닉스 주식회사 이미지 시그널 프로세서 및 이미지 처리 시스템
KR20230024063A (ko) 2021-08-11 2023-02-20 에스케이하이닉스 주식회사 전자 장치 및 그 동작 방법

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06339145A (ja) * 1993-05-28 1994-12-06 Canon Inc カラー撮像装置
JP2007520166A (ja) * 2004-01-26 2007-07-19 ディジタル・オプティックス・コーポレイション サブピクセル解像度を有する薄型カメラ
JP2007288395A (ja) * 2006-04-14 2007-11-01 Sony Corp 撮像装置
JP2008078922A (ja) * 2006-09-20 2008-04-03 Toshiba Corp 固体撮像装置
JP2008187249A (ja) * 2007-01-26 2008-08-14 Toshiba Corp 固体撮像装置
JP2009153013A (ja) * 2007-12-21 2009-07-09 Sony Corp 撮像装置、色ノイズ低減方法および色ノイズ低減プログラム
JP2010509841A (ja) * 2006-11-10 2010-03-25 イーストマン コダック カンパニー パンクロマチックおよびカラーの画像のノイズ低減
JP2011055038A (ja) * 2009-08-31 2011-03-17 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5018006A (en) * 1985-10-31 1991-05-21 Canon Kabushiki Kaisha Multi-plate type image pickup apparatus having picture elements for producing color and luminance signals
US6330029B1 (en) 1998-03-17 2001-12-11 Eastman Kodak Company Particular pattern of pixels for a color filter array which is used to derive luminance and chrominance values
JP4011861B2 (ja) * 2001-03-29 2007-11-21 キヤノン株式会社 信号処理装置及び方法
US7688368B2 (en) 2006-01-27 2010-03-30 Eastman Kodak Company Image sensor with improved light sensitivity
KR100818987B1 (ko) * 2006-09-19 2008-04-04 삼성전자주식회사 이미지 촬상 장치 및 상기 이미지 촬상 장치의 동작 방법
CN101193319B (zh) * 2006-11-29 2011-04-27 帆宣系统科技股份有限公司 显示装置的灰度级白平衡的增益决定方法及装置
JP2009005262A (ja) * 2007-06-25 2009-01-08 Olympus Imaging Corp 半導体装置および撮像装置
US8111307B2 (en) * 2008-10-25 2012-02-07 Omnivision Technologies, Inc. Defective color and panchromatic CFA image
US8224082B2 (en) * 2009-03-10 2012-07-17 Omnivision Technologies, Inc. CFA image with synthetic panchromatic image
US8203633B2 (en) 2009-05-27 2012-06-19 Omnivision Technologies, Inc. Four-channel color filter array pattern
US8295631B2 (en) 2010-01-29 2012-10-23 Eastman Kodak Company Iteratively denoising color filter array images
US8345130B2 (en) 2010-01-29 2013-01-01 Eastman Kodak Company Denoising CFA images using weighted pixel differences

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06339145A (ja) * 1993-05-28 1994-12-06 Canon Inc カラー撮像装置
JP2007520166A (ja) * 2004-01-26 2007-07-19 ディジタル・オプティックス・コーポレイション サブピクセル解像度を有する薄型カメラ
JP2007288395A (ja) * 2006-04-14 2007-11-01 Sony Corp 撮像装置
JP2008078922A (ja) * 2006-09-20 2008-04-03 Toshiba Corp 固体撮像装置
JP2010509841A (ja) * 2006-11-10 2010-03-25 イーストマン コダック カンパニー パンクロマチックおよびカラーの画像のノイズ低減
JP2008187249A (ja) * 2007-01-26 2008-08-14 Toshiba Corp 固体撮像装置
JP2009153013A (ja) * 2007-12-21 2009-07-09 Sony Corp 撮像装置、色ノイズ低減方法および色ノイズ低減プログラム
JP2011055038A (ja) * 2009-08-31 2011-03-17 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9548336B2 (en) 2014-04-24 2017-01-17 Samsung Electronics Co., Ltd. Image sensors and electronic devices including the same

Also Published As

Publication number Publication date
EP2642757B1 (en) 2019-09-11
US9942527B2 (en) 2018-04-10
KR101446419B1 (ko) 2014-10-01
US20180192011A1 (en) 2018-07-05
EP2642757A2 (en) 2013-09-25
CN103327342A (zh) 2013-09-25
EP3054675A1 (en) 2016-08-10
KR20140066684A (ko) 2014-06-02
CN108650497B (zh) 2021-08-10
JP6096243B2 (ja) 2017-03-15
US9191635B2 (en) 2015-11-17
EP2642757A3 (en) 2015-11-25
US10070104B2 (en) 2018-09-04
CN108650497A (zh) 2018-10-12
EP3054675B1 (en) 2020-04-29
KR20130106328A (ko) 2013-09-27
CN105847772B (zh) 2018-07-27
JP6134879B2 (ja) 2017-05-31
US20130242148A1 (en) 2013-09-19
HK1189731A1 (zh) 2014-06-13
HK1222962A1 (zh) 2017-07-14
KR101490653B1 (ko) 2015-02-06
CN105847772A (zh) 2016-08-10
US20160021345A1 (en) 2016-01-21
JP2015167399A (ja) 2015-09-24
US9521380B2 (en) 2016-12-13
CN103327342B (zh) 2016-06-22
US20170078627A1 (en) 2017-03-16

Similar Documents

Publication Publication Date Title
JP6096243B2 (ja) 画像データの処理方法およびシステム
US10136107B2 (en) Imaging systems with visible light sensitive pixels and infrared light sensitive pixels
US9793306B2 (en) Imaging systems with stacked photodiodes and chroma-luma de-noising
US9287316B2 (en) Systems and methods for mitigating image sensor pixel value clipping
CN107547807B (zh) 用于减少空间闪烁伪影的装置和成像系统
US10616536B2 (en) Imaging systems having broadband monochromatic and chromatic image sensors
WO2016047240A1 (ja) 画像処理装置、撮像素子、撮像装置および画像処理方法
US9179110B2 (en) Imaging systems with modified clear image pixels
WO2019067075A1 (en) GENERATING A MONOCHROME IMAGE
TWI536765B (zh) 具有透明濾波器像素之成像系統
JP2013219452A (ja) 色信号処理回路、色信号処理方法、色再現評価方法、撮像装置、電子機器、及び、試験装置
TWI617198B (zh) 具有透明濾波器像素之成像系統
TWI601427B (zh) 具有透明濾波器像素之成像系統

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20140523

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140523

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140530

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20140602

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140602

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150127

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20150525

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150525

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20150602

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20150703

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20150824

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20150828

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20150828

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160722

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160908

R150 Certificate of patent or registration of utility model

Ref document number: 6134879

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees