JP5686726B2 - 画像センサの同心露光シーケンス - Google Patents

画像センサの同心露光シーケンス Download PDF

Info

Publication number
JP5686726B2
JP5686726B2 JP2011507407A JP2011507407A JP5686726B2 JP 5686726 B2 JP5686726 B2 JP 5686726B2 JP 2011507407 A JP2011507407 A JP 2011507407A JP 2011507407 A JP2011507407 A JP 2011507407A JP 5686726 B2 JP5686726 B2 JP 5686726B2
Authority
JP
Japan
Prior art keywords
row
exposure
pixel
pixels
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011507407A
Other languages
English (en)
Other versions
JP2011520351A5 (ja
JP2011520351A (ja
Inventor
ジョン フランクリン ジュニア ハミルトン
ジョン フランクリン ジュニア ハミルトン
ジョン トーマス コンプトン
ジョン トーマス コンプトン
ブルース ハロルド ピルマン
ブルース ハロルド ピルマン
Original Assignee
オムニヴィジョン テクノロジーズ インコーポレイテッド
オムニヴィジョン テクノロジーズ インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by オムニヴィジョン テクノロジーズ インコーポレイテッド, オムニヴィジョン テクノロジーズ インコーポレイテッド filed Critical オムニヴィジョン テクノロジーズ インコーポレイテッド
Publication of JP2011520351A publication Critical patent/JP2011520351A/ja
Publication of JP2011520351A5 publication Critical patent/JP2011520351A5/ja
Application granted granted Critical
Publication of JP5686726B2 publication Critical patent/JP5686726B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/531Control of the integration time by controlling rolling shutters in CMOS SSIS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/533Control of the integration time by using differing integration times for different sensor regions
    • H04N25/534Control of the integration time by using differing integration times for different sensor regions depending on the spectral component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Description

本発明は、電子的画像取り込みシステムに関し、より詳細には、個別にアドレス指定可能な、画素の部分集合を有する画像センサの読み出し方法に関する。
電荷結合素子(CCD)画像センサおよび能動画素センサ(APS)素子などの電子的画像センサは、視覚画像の電子的表現を生成する電子的画像生成システムに用いられている。APS素子は、相補型金属酸化膜半導体(Complementary Metal Oxide Semiconductor)工程で製造されることが多いため、CMOSセンサとも呼ばれる。一般に、これらの画像センサは、規則正しい2次元パターンまたは行と列の配列に並べられた多数の感光性画素(すなわち、画像素子)を含み、個々の画素が、それぞれ、その画素上にレンズによって投影された場面画像部分の光レベルに応じた信号を提供する。
小型性およびコストを考慮して、これらの画像センサは、通常、前述の信号をデジタル化するための画素をアナログ−デジタル変換器(ADC)よりも遥かに多く備える。センサチップ上の空間を節約するために、単一行の画素を同時に読み出すのに足りるだけの記憶装置を設けることが一般的である。このため、2次元センサ全体の画素信号の測定または読み出しを同時に行うことはできない。代わりに、画素センサ信号は、逐次方式で読み出される。例えば、単一のADCを有するCCDにおいて、画素信号は、ラスタ式に、一つの行内で画素ごとに読み出され、次いで、画素の配列内で行ごとに読み出される。
画像センサの読み出しにおける逐次的な特性は、読み出し機構の帯域幅によって制限されるため、センサ全体を読み出せる速度を直接的に規制する。例えば、画像センサの読み出し機構が、毎秒5千万画素を測定できる場合、5百万画素の画像センサの読み出しに、約10分の1秒かかることになる。画像センサ全体の読み出しに必要な時間を低減するためには、通常、より高速の読み出しのために電力消費量を増やすか、または画像センサのサイズを大きくして、追加の読み出しチャンネルを提供する必要がある。ただし、電力消費量の増大やサイズの拡大はいずれも望ましいのもではない。
機械構成要素を排除して、コストおよび空間要件を低減するため、遮光シャッタを持たない画像取り込みシステムを設計することが一般的である。このようなシステムは、代わりに、電子シャッタを効果的に提供するセンサタイミングに依拠している。このタイミング機構は、各光検出器をリセットして、光電子(または、これに代わるホール)を集積し、その後、規則正しいシーケンスで光検出器信号を読み出すことによって動作する。リセットステップは、フォトダイオードから対応する浮動拡散回路に残留電荷を移し、その残留電荷を廃棄することによって実現できる。露光中、光電子は、所定の集積時間の間フォトダイオード内に累積し、この時点で電荷信号が浮動拡散部に送られる。電荷信号は、CMOS素子内で電圧に変換される。この後、対応する電圧が、キャパシタなどのメモリ素子に格納される。
センサが、十分に低い暗電流と、浮動拡散部に対する十分に優れた遮光性とを有する場合は、移動した電荷を直ちに読み出す必要はない。この状態において、それぞれの浮動拡散部内に、全画素から一度に電荷を移動し、その後、逐次読み出しシーケンスが、行ごとに漸進的に信号を処理しているときに、少しの間、待機することができる。もちろん、このような一括移動が機能するためには、各画素がそれぞれ固有の遮光された浮動拡散部を備える必要もある。
特に、APS画像センサによって提供される代替の画像センサ読み出し機構は、画像センサの行全体に亘って、行ごとに画像センサの露光および読み出しを斬新的に行うことができる。この「ローリングシャッタ式」シーケンスは、CCDのインターレースフィールド内に顕現する露光差の問題を回避して、各行の露光が、同じ時間長さだけ続くようにする。他の利点として、ローリングシャッタ式シーケンスでは、画素ごとの遮蔽記憶装置を必要としないため、センサ構成要素の設計が簡単になる。ただし、各行に対する露光は、他の行に対する露光とは独立しており、他の行の露光に連続した(すなわち、ローリング)方式で生じるため、連続した各行は、前の行から僅かに遅れた時点で場面画像の一部を取り込む。その結果、場面(または場面の構成要素)と画像センサとの間の相対移動によって、画像センサによって取り込まれた画像内で、場面内の物体が変形したように見える。画像「ずれ」と呼ばれるこの作用は、ローリングシャッタ機構の特徴である。例えば、このようないわゆるローリングシャッタ式、または電子フォーカルプレーンシャッタ式画像センサを用いて、水平方向に移動している自動車の画像を取り込む場合、自動車は、取り込まれた画像の各行が露光されて読み出されるごとに、画像センタに対して移動するため、取り込まれた画像の各行が、異なる位置にある車両を表すことになる。このため、車の丸いタイヤがやや楕円形に見え、車の四角いウィンドウが歪んで平行四辺形に見えるようになる。移動によって生じるこの歪みは、画像センサの全ての行を読み出すために必要な時間の長さと直接的な因果関係を有する。これらの行をより高速に読み出せる場合には、歪みを低減できる。ただし、既に言及したように、読み出し速度を上げることには、通常、画像センサのコストと消費電力の好ましくない増加が伴う。
シリコンベースの画像センサでは、画素構成要素自体が可視光に広く感応するため、白黒画像の取り込みに適した、フィルタなしの画素を実現できる。カラー画像の取り込みでは、通常、画素配列の上にフィルタの2次元パターンが作製されるが、この作製の際に、異なるフィルタ材料を用いて、個々の画素を可視光スペクトルの一部のみに感応させる。このようなフィルタパターンの例は、米国特許第3,971,065号に記載されるような、よく知られているベイヤー(Bayer)カラーフィルタアレイ(CFA)パターンである。ただし、ベイヤーCFAは、標準的な条件下でのフルカラー画像の取り込みには有利であるが、この解決策には欠点があることが判明している。狭帯域のスペクトル応答を提供するためにはフィルタが必要であるが、入射光に対する何らかのフィルタ処理は、各画素に到達する光量を低下させる傾向があるため、各画素の有効な光感受性を低下させて、画素の応答速度を低下させる。
各種の光条件における画像の取り込みを改良して、撮像センサ全体の感度を向上させる解決策として、周知のベイヤーパターンを改造することが開示されている。例えば、本願と共に譲渡された、ハミルトン(Hamilton)他による「Capturing Images Under Varying Lighting Conditions(各種の照明条件での画像の取り込み)」という名称の米国特許出願公開第2007/0046807号、およびコンプトン(Compton)他による「Image Sensor with Improved Light Sensitivity(光感受性が向上した画像センサ)」という名称の米国特許出願公開第2007/0024931号には、いずれも、カラーフィルタに、いずれかの方式で空間的に交互配置されるパンクロマティックフィルタ素子を組み合わせた代替のセンサアレイが記載されている。このタイプの解決策では、画像センサの一部が色を検出する一方で、残りのパンクロマティック部分は、ダイナミックレンジおよび感度を改善するために、可視帯域に広がる光を検出するように最適化される。したがって、これらの解決策は、一部の画素がカラーフィルタを備え(狭帯域のスペクトル応答を提供し)、一部がカラーフィルタを持たない(フィルタのない「パンクロマティック」画素、または広帯域のスペクトル応答を提供するようにフィルタ処理される画素)という画素パターンを提供する。
スペクトル帯域の狭い画素応答とスペクトル帯域の広い画素応答の両方を組み合わせたものを用いることで、より低い光レベルで画像センサを利用することや、より短い露光時間を提供することが可能になる。たとえば、サトウ他の米国特許第4,390,895号、ヤマガミ他の米国特許第5,323,233号、およびジンデール(Gindele)他の米国特許第6,476,865号を参照されたい。
カラー画素とパンクロマティック画素の両方を備える構成は、カラーフィルタによって生じるいくつかの問題、特に、光感受性の低下および動作のぶれに関する問題に対処することに役立ち得る。ただし、従来の画素の読み出しタイミングシーケンスを利用すると、画像センサの同一部分におけるパンクロマティック取り込みの露光区間とカラー取り込みの露光区間の間の時間遅延によって生じる動作問題の補正に、動作の推測や他の補償技法を実施しなければならない。したがって、カラー画素とパンクロマティック画素の両方の利用を実施する利点を最大限活用するためには、洗練されたソフトウェアが必要になり、撮像素子の設計に関わるコストおよび複雑さが増大する。
米国特許第3,971,065号明細書 米国特許出願公開第2007/0046807号明細書 米国特許出願公開第2007/0024931号明細書 米国特許第4,390,895号明細書 米国特許第5,323,233号明細書 米国特許第6,476,865号明細書
ここで、デジタル撮像センサアレイを利用する際の動作の推測および補償に関する要件を緩和または排除する、向上した読み出し方法についての要望が存在する。
本発明は、
(a)ローリングシャッタおよび少なくとも一つの分割された画素行を有する画像センサであって、前記少なくとも一つの分割された行は、第1および第2の互いに素である画素行部分集合を少なくとも含み、各行部分集合な、個別に読出しおよびリセットを行うことができる、画像センサを設け、
(b)前記少なくとも一つの画素行内の画素の露光において、
(i)前記第1の行部分集合をリセットして、第1の露光を開始し、第1の区間の後で、前記第2の行部分集合をリセットして、第2の露光を開始し、
(ii)前記第2の行部分集合を読み出して、前記第2の露光を終了すると共に第2の露光信号値を取得し、第2の区間の後で、前記第1の行部分集合を読み出して、前記第1の露光を終了すると共に第1の露光信号値を取得することによって、前記画素の露光を行い、
この露光の際に、前記第1の区間および前記第2の区間の長さが、前記第1の露光の長さの20%内で等しくなるようにし、
(c)前記第1の露光信号値および前記第2の露光信号値から得られた画像データを組み合わせて、画素値の行を形成することを含み、
前記画像データを組み合わせることは、異なる行内の画素から得られた画像データを組み合わせることを更に含む、画像取り込み方法である。
本発明に係る画像の取り込みは、静止画像およびビデオ画像を取り込む、画像取り込み装置に特に適する。本発明は、幅広い用途を有し、多くのタイプの画像取り込み装置は、前記画像取り込み方法を効果的に利用することができる。
前述したもの、ならびに他の本発明の態様、目的、特徴、および利点は、好ましい実施形態の下記の詳細な説明および付属の請求項を検討し、付属の図面を参照することによってより明瞭に把握および理解されるであろう。
従来のセンサおよび処理方法、または前記センサおよび本発明の処理方法を利用できる従来のデジタルスチルカメラシステムを示すブロック図である。 従来のベイヤーカラーフィルタアレイのパターンに、最小繰り返し単位および非最小繰り返し単位を示した図である。 各種の光条件におけるローリングシャッタ動作についての従来のタイミング図である。 各種の光条件におけるローリングシャッタ動作についての従来のタイミング図である。 赤、緑、および青の画素の代表的なスペクトルの量子収率曲線、ならびにスペクトルのより広いパンクロマティックの量子収率について、それぞれ赤外線カットフィルタの透過特性を乗じたものを示す図である。 一つの行を互いに素な行部分集合に分割することを表した、従来のベイヤーカラーフィルタアレイパターンの一部を示す図である。 2つの互いに素な行部分集合を利用するときの、露光および読み出しのローリングシャッタ式タイミング設定についての従来の手法を示すタイミング図である。 一実施形態における、分割された画素行のローリングシャッタ式タイミングを示すタイミング図である。 カラー画素とパンクロマティック画素の両方を用いる画素配列のいくつかのパターンを示す平面図である。 画素配列の類を形成する要素の例を示す平面図である。 画素配列の類を形成する要素の他の例を示す平面図である。 隣接する行部分集合の実現可能な構成を示す模式図である。 隣接する列の画素を互いにビン化(binned)して、浮動拡散部品を共有できるようにする方式を示す模式図である。 一つがカラー画素で、一つがパンクロマティック画素である、2つの互いに素な行部分集合を利用するときの、露光および読み出しのローリングシャッタ式タイミング設定についての従来の手法を示すタイミング図である。 一実施形態におけるカラー部分集合とパンクロマティック部分集合の両方を有する、分割された画素行についてのローリングシャッタ式タイミングを示すタイミング図である。 一実施形態における、本発明の方法の読み出しシーケンスの一部を示すタイミング図である。 読み出しシーケンスと、センサアレイ内の画素の空間的位置との関係性を示す模式図である。 一実施形態に従って、異なるパンクロマティック要素とカラー要素に対する組み合わせ露光を示すタイミング図である。 パンクロマティック画素とカラー画素に対する同心露光を示すタイミング図である。 本発明の同心読み出しタイミングと、ローリング式読み出しタイミングの関係性を示すタイミング図である。 より複雑な構成の行部分集合について、本発明の同心読み出しタイミングと、ローリング式読み出しタイミングの関係性を示すタイミング図である。
撮像素子を利用し、かつ、信号の取り込みと補正、および露光制御を行う関連回路を利用するデジタルカメラはよく知られているため、本明細書では、特に、本発明の方法および装置の一部を構成する要素、または本発明の方法および装置と、より直接的に協働する要素について説明する。本明細書に具体的に図示または記載されていない要素は、当該技術分野で知られているものから選択される。記載する実施形態の特定の側面は、ソフトウェアで提供される。下記の項目において本発明に従って図示および説明するシステムを考える際に、本明細書内に具体的に図示、説明、または提案されていない、本発明の実施に有用なソフトウェアは、従来のものであり、このような技術の当業者の能力の範囲内のものである。
本開示の文脈において、「類」という用語は、数学の集合理論において用いられる意味を有する。集合Sの類は、結合されたときに完全な集合Sとなる、互いに素な真かつ非空の部分集合の集まりである。より正式な類のこの定義は、この用語の日常的用途の意味とは若干異なることは確認できるであろう。ただし、数学の集合理論によって指定される正式な定義は、後で詳細に説明するように、本発明の方法および装置を用いて、アレイ内の画素を構成する方式を定義することに特に適している。
「部分集合」の用語は、特に明示的な言及がない限り、本明細書では、非空の部分集合を表すために用いられる。集合Sについて、部分集合は、集合S全体を含んでもよい。ただし、集合Sの「真部分集合」は、完全に集合S内に含まれ、かつ、集合Sの少なくとも一つの要素を除いたものである。2つの部分集合は、その共通集合が空集合である場合、すなわち、2つの部分集合が共通の要素を持たない場合に互いに素である。
次に、図1に参照すると、本発明を具現化するデジタルカメラとして表された画像取り込み装置のブロック図が示されている。ここではデジタルカメラについて説明するが、本発明は、カメラ以外の装置、例えば、携帯電話および自動車などに組み込まれる画像生成補助システムなど、他のタイプの画像取り込み装置にも明らかに適用可能である。被写体場面からの光10は、画像形成段11に入力され、ここで、前記光が、レンズ12によって集束されて、固体画像センサ20上に画像を形成する。画像センサ20は、各画像素子(画素)に対応する電気信号に、入射光を変換する。好ましい実施形態の画像センサ20は、電荷結合素子(CCD)タイプ、または能動画素センサ(APS)タイプである(APS素子は、相補型金属酸化膜半導体プロセスで製造できることから、CMOSセンサと呼ばれることも多い)。カラー画像形成に関して、画像センサ20は、後でより詳細に説明するようなカラーフィルタの配列を含む。
絞りブロック14は、アパーチャを変化させる。中性(ND)フィルタブロック13は、光路に挿入される一つ以上のNDフィルタを含む。これらのブロックは、画像センサ20に到達する光の量を調整する。また、シャッタ18が開いている時間も、全体の光レベルを調整する。露光制御装置40は、輝度センサ16によって測定される、場面で利用可能な光の量に反応して、前述した3つの調整機能の全てを制御する。
画像センサ20からのアナログ信号は、アナログ信号処理装置22によって処理されて、アナログ/デジタル(A/D)変換器24に適用される。タイミング発生器26は、行および画素を選択する各種のクロック信号を生成して、アナログ信号処理装置22およびA/D変換器24の動作を同期させる。画像センサ段28は、画像センサ20、アナログ信号処理装置22、A/D変換器24、およびタイミング発生器26を含む。画像センサ段28の機能要素は、それぞれ個別に作製される集積回路であっても、またはCOMS画像センサで一般的に行われているように、単一の集積回路として作製されてもよい。A/D変換器24から結果的に得られるデジタル画素値のストリームは、デジタル信号処理装置(DSP)36に対応付けられたメモリ32に格納される。
システム制御装置50および露光制御装置40に加え、DSP36も、本実施形態の3つの処理装置または制御装置のうちの一つである。複数の制御装置および処理装置の中にこのようにカメラ機能の制御を分散することは一般的であるが、これらの制御装置や処理装置は、カメラの機能的動作および本発明の適用内容に影響を与えることなく、各種の方式で組み合わされる。これらの制御装置または処理装置は、デジタル信号プロセッサ素子、マイクロコントローラ、プログラム可能論理回路、または他のデジタル論理回路を一つ以上含むことができる。このような制御装置または処理装置の組み合わせを記載したが、必要な全ての機能を実行することを、一つの制御装置または処理装置に割り当てられることも明らかであろう。このような全ての変形例は、同一の機能を実行することができ、本発明の範囲内に入る。また、「処理段」という用語は、例えば、図1の処理段38のように、一つの段階に前記機能の全てを包含する必要がある場合に使用される。
図示した実施形態において、DSP36は、プログラムメモリ54に恒久的に格納され、画像取り込み中にメモリ32にコピーされて実行されるソフトウェアプログラムに従って、メモリ32内のデジタル画像データを操作する。DSP36は、画像処理を行うために必要なソフトウェアを実行する。メモリ32は、SDRAMなど、各種のランダムアクセスメモリを含む。アドレスおよびデータ信号の経路を含むバス30は、DSP36を、その関連メモリ32と、A/D変換器24と、関連する他のデバイスとに接続する。
システム制御装置50は、フラッシュEEPROMや他の不揮発性メモリを含むことができるプログラムメモリ54に格納されたソフトウェアプログラムに基づいて、カメラの全体動作を制御する。このメモリは、画像センサ較正データ、ユーザ設定の選択内容、および、カメラの電源がオフになったときに保存しておかなければならない他のデータを格納することにも利用できる。システム制御装置50は、露光制御装置40に命令して、既に説明したレンズ12、NDフィルタ13、絞り14、およびシャッタ18を動作させると共に、タイミング発生器26に命令して、画像センサ20および対応する構成要素を動作させ、更に、DSP36に命令して、取り込まれた画像データを処理させることによって、画像の取り込みシーケンスを制御する。画像が取り込まれて処理された後、メモリ32に格納された最終画像ファイルは、インターフェイス57を介してホストコンピュータに送られて、着脱式メモリカード64または他の記憶装置に保存され、ユーザのために画像ディスプレイ88に表示される。
バス52は、アドレス信号、データ信号、および制御信号の経路を含み、DSP36と、プログラムメモリ54と、システムメモリ56と、ホストインターフェイス57と、メモリカードインターフェイス60と、他の関連素子とに、システム制御装置50を接続する。ホストインターフェイス57は、表示、保存、操作、または印刷を行う画像データを転送するための、パーソナルコンピュータ(PC)または他のホストコンピュータへの高速接続を提供する。このインターフェイスは、IEEE1394もしくはUSB2.0のシリアルインターフェイス、または他の適切なデジタルインターフェイスである。メモリカード64は、通常、コンパクトフラッシュ(登録商標)(CF)カードであり、このCFカードは、ソケット62に挿入されて、メモリカードインターフェイス60を介してシステム制御装置50に接続される。利用される他のタイプの記憶装置は、限定するものではないが、PCカード、マルチメディアカード(MMC)、またはセキュアデジタル(SD)カードを含む。
処理された画像は、システムメモリ56内のディスプレイバッファにコピーされ、ビデオエンコーダ80を介して連続的に読み出されて、ビデオ信号を生成する。この信号は、カメラから直接出力されて外部モニタに表示されるか、またはディスプレイ制御装置82によって処理されて、画像ディスプレイ88に提示される。このディスプレイは、通常、アクティブマトリクス型カラー液晶ディスプレイ(LCD)であるが、他のタイプのディスプレイも同様に利用される。
ビューファインダディスプレイ70、露出ディスプレイ72、状態ディスプレイ76、および画像ディスプレイ88の全て、またはその任意の組み合わせと、ユーザ入力部74とを含むユーザインターフェイスは、露光制御装置40およびシステム制御装置50において実行されるソフトウェアの組み合わせによって制御される。ユーザ入力部74は、通常、ボタン、ロッカスイッチ、ジョイスティック、回転ダイヤル、またはタッチスクリーンのうちのいくつかの組み合わせを含む。ビューファインダディスプレイ70、露出ディスプレイ72、状態ディスプレイ76、およびユーザ入力部74は、集合的にユーザインターフェイス68と呼ばれる。画像ディスプレイ88も、ユーザインターフェイス68の一部であると見なすことができる。露光制御装置40は、測光、露光モード、自動焦点、および他の露光機能を操作する。システム制御装置50は、一つ以上のディスプレイ、例えば、画像ディスプレイ88上に表示されるグラフィカルユーザインターフェイス(GUI)を管理する。このGUIは、通常、各種のオプション選択、および取り込まれた画像を検査するレビューモードを実施するメニューを含む。
露光制御装置40は、露光モード、レンズアパーチャ、露光時間(シャッタ速度)、および露光指数すなわちISO感度定格を選択するユーザ入力を受け入れ、その入力に応じて、後の取り込み用にレンズおよびシャッタを調整する。輝度センサ16は、場面の輝度を測定して、ISO感度定格、アパーチャ、およびシャッタ速度をマニュアルで設定するときにユーザが参照する露出計機能を提供するために利用される。この場合、ユーザが一つ以上の設定を変更すると、ビューファインダディスプレイ70に表示される露出指示器は、画像が露光オーバーまたは露光不足になる程度をユーザに提示する。自動露光モードでは、ユーザが一つの設定を変更すると、露光制御装置40が、自動的に他の設定を修正して、適正露出を維持する。例えば、所定のISO感度定格について、ユーザがレンズアパーチャを小さくすると、露光制御装置40は、自動的に露光時間を長くして、同一の全体露出を維持する。
ISO感度定格は、デジタルスチルカメラの重要な属性である。露光時間、レンズアパーチャ、レンズ透過率、場面照明のレベルおよびスペクトル分布、ならびに、場面反射率が、デジタルスチルカメラの露光レベルを決定する。デジタルスチルカメラからの画像が、不十分な露光を用いて取得されたときには、一般に、電子ゲインまたはデジタルゲインを上げることによって、適正な諧調再現性を維持できるが、画像は、望ましくない量のノイズを含むことになる。露出を増やすと、ゲインが減少するため、通常は、画像ノイズを許容可能なレベルまで低減することができる。露出を過度に高くすると、画像の明るい領域で得られる信号が、画像センサまたはカメラ信号処理の最大信号レベル限度を超えてしまう。これにより、画像の高輝度部がクリップされて、不均一に明るい領域を形成することや、画像の周囲領域内へのブルーミングが生じ得る。適切な露出を設定するようにユーザを導くことは重要である。ISO感度定格は、このような指針の役割を果たすことを目的としたものである。写真撮影者に容易に理解されるように、デジタルスチルカメラのISO感度定格は、写真フィルムカメラのISO感度定格と直接対応していなければならない。例えば、デジタルスチルカメラがISO200のISO感度定格を有する場合は、同一の露光時間およびアパーチャが、定格ISO200のフィルム/処理システムに適合しなければならない。
ISO感度定格は、フィルムのISO感度定格と一致するように意図される。ただし、電子的画像生成システムとフィルムベースの画像生成システムの間には、正確な等価性を妨げる違いが存在する。デジタルスチルカメラは、可変利得を含むことができ、画像データが取り込まれた後で、カメラの露光範囲全体で諧調を再現できるデジタル処理を提供することができる。デジタルスチルカメラは、一定範囲の感度定格を含むことができる。この範囲は、ISO感度ラチチュードとして定義される。混乱を避けるため、単一の値は、固有ISO感度定格と呼ばれ、ISO感度ラチチュードの上限および下限が、感度範囲、すなわち、固有ISO感度定格とは異なる複数の有効な感度定格を含む範囲を示す。この点を考慮に入れると、固有ISO感度は、デジタルスチルカメラの焦点面に提供されて、指定のカメラ出力信号特性を生成する露出から計算される数値である。この固有感度は、通常、既定の場面について、所定のカメラシステムの最高画像品質を生じる露光指数であり、露光指数は、画像センサに提供される露出に反比例する数値である。
デジタルカメラの上記の説明は当業者には周知であろう。本実施形態には、コストを抑制する、機能を追加する、またはカメラの性能を向上させるために選択できる、多数の変形例が存在することは明らかであろう。例えば、自動焦点システムを追加したり、または、レンズを取り外し可能かつ交換可能にしたりである。本発明は、あらゆるタイプのデジタルカメラ、より一般的に述べると、代替のモジュールが同様の機能を提供するデジタル画像取り込み装置に適用されることは理解されるであろう。
本発明の方法では、部分画像センサ20内のいくつかの画素行を分割して、行が、画素の部分集合を2つ以上含むようにし、各部分集合について、タイミング発生器26によって制御されるとおりに、露光を開始するリセット動作と、露光を終了する読み出し動作とを独立して制御可能にする必要がある。これは、多くの従来型画像センサ素子では提供されない機能である。ただし、この機能を有する画像センサ20のハードウェア設計は、画像センサの設計および製造技術を実践する当業者の能力の範囲内である。この機能を備えるセンサは、分割された画素行を有するセンサである。
図1の図示例を前提として、下記の説明では、本発明に従って画像を取り込む前記カメラの動作を詳細に記述する。下記の説明において、画像センサについて一般的に言及するときには、図1の画像センサ20を代表例とすることを理解されたい。図1に示した画像センサ20は、通常、シリコン基板上に作製される感光性画素の2次元配列を含み、この配列が、各画素における入射光を、測定対象である電気信号に変換する。画像センサの文脈において、画素(「画像素子」の短縮形)は、離散的光検知領域、およびこの光検知領域に対応付けられた電荷シフト回路または電荷測定回路を表す。デジタルカラー画像の文脈において、画素の用語は、通例、一つの原色(フィルタを利用)に限定されるか、または概して全色性であるかのいずれかである、対応する色値を有する画像内の特定の位置を表す。カラー画素の用語は、比較的狭いスペクトル帯に亘るカラー光応答を有する画素を表すものとする。
画像センサ20が光に曝されると、各画素において、自由電子が生成されて電子構造内に取り込まれる。この自由電子を一定の期間に亘って取り込み、取り込まれた電子の数を測定するか、または自由電子の生成速度を測定することで、各画素における光のレベルを測定することができる。前者の場合、累積された電荷は、画素の配列から取り出されて、電荷結合素子(CCD)の場合には電荷−電圧測定回路に送られる。または、能動画素センサ(APSまたはCMOSセンサ)の場合には、各画素に近接した領域が、電荷−電圧測定回路を含むことができる。
光電子を取り込んで利用するタイプ、または光生成されるホールを取り込んで利用するタイプのどちらの基本センサタイプでも同一の原理が働くことは認められよう。
カラー画像を生成するために、画像センサ内の画素の配列は、通常、画素の上に配置されるカラーフィルタの重畳パターンを有する。図2に、一般的に利用される、赤(R)、緑(G)、および青(B)のカラーフィルタのパターンを示す。この特定のパターンは、米国特許第3,971,065号に開示されており、発明者であるブライス・ベイヤー(Bryce Bayer)の名をとったベイヤーカラーフィルタアレイとして広く知られている。このパターンは、カラー画素の2次元配列を有する画像センサにおいて効果的に利用される。このため、各画素は、特定のカラー光応答を有し、このカラー光応答は、この場合、赤色光、緑色光、または青色光に対して最も優勢な感度である。他の有用なタイプのカラー光応答は、マゼンタ光、黄色光、またはシアン光に対して最も優勢な感度である。各例において、特定のカラー光応答は、可視スペクトルの特定の部分に対する高い感度を有すると同時に、可視スペクトルの他の部分に対しては低い感度を有する。
最小繰り返し単位は、これより少ない画素を有する繰り返し単位が存在しない繰り返し単位である。例えば、図2のCFAは、図2の画素ブロック100に示されるように、2画素×2画素の最小繰り返し単位を含む。この最小繰り返し単位の複数のコピーが、画像センサ内の画素の配列全体を覆うようにタイル状に並べられる。この最小繰り返し単位は、右上角部に緑色画素を有する状態で図示されているが、太線で囲った領域を1画素右へ、1画素下へ、または1画素斜め右下へ動かすことによって、3つの代替の最小繰り返し単位を容易に認識することができる。画素ブロック102は繰り返し単位であるが、繰り返し単位である画素ブロック100が、画素ブロック102よりも少ない画素を有することから、画素ブロック102は最小繰り返し単位ではない。
図2のCFAを備える2次元配列を有する画像センサを用いて取り込まれた画像は、各画素に1つの色値しか持たない。フルカラー画像を生成するために、各画素に欠けた色を推測または補間する多数の技法がある。これらのCFA補間技法は、この分野ではよく知られているので、次の特許、米国特許第5,506,619号、第5,629,734号、および第5,652,621号を参照されたい。
画像センサ20の各画素は、画素信号を読み出すために、光検出器と能動トランジスタ回路の両方を備える。画像センサアレイ内の各画素の光検出器は、画素に衝突する光子を光電効果によって電荷に変換する。この電荷は、一定の期間に亘って集積され、この期間は、検出可能な量の電荷を収集する十分な長さであるが、記憶素子の飽和を回避できるくらい短い。この集積期間は、フィルムの露光時間(すなわち、シャッタ速度)と同じである。
画像取り込みのタイミングは、2つの基本パターンの一つを踏襲できる。一括取り込みシーケンスでは、全ての画像画素の露光信号値が、単純に、同時に読み出される。ただし、このタイプのシーケンスは、装置がかなり複雑になることを強いると共に、光を受容するセンサチップ上の空間の大きさに制約を加えるため、不利なものになり得る。代わりに、行単位の読み出し方法が採用されており、この方法は、CMOS APS画素にとって好ましい読み出しモードであることが多い。
CMOS APS素子の画像センサアレイにおいて、露光時間とも呼ばれる集積時間は、露光を開始する、所定の行の画素のリセットから、この後で露光を終了する、前記所定の行の読み取り、または読み出しまでの間隔である。一度に一つの行しか選択できないため、リセット/読み出しルーティンは逐次的(すなわち、行単位)である。この読み出し技法は、「ローリング電子シャッタ」、または、より簡単に「ローリングシャッタ」モードと呼ばれ、画像生成技術においてよく知られている。ローリングシャッタ式時間順序設定のいくつかの変形例は、イェディッド−ペック(Yadid−Pecht)他に付与された、「Image Sensor Producing at Least Two Integration Times from Each Sensing Pixel(各検知画素から少なくとも2つの集積時間を生成する画像センサ)」という名称の米国特許第6,115,065号、およびクリムスキー(Krymski)他に付与された、「Look−Ahead Rolling Shutter System in CMOS Sensors(CMOSセンサ内の先読みローリングシャッタシステム)」という名称の米国特許第6,809,766号に提示されている。読み出しシーケンスの有効なシャッタ幅は、集積の実施から読み出しまでの時間と関連がある。この幅は、同じ集積時間を有する隣接画素の数に左右される可変サイズであってよい。一度に読み取られる一つ以上の行を有するシャッタ幅は、センサアレイの露光領域のゲインを制御する固定値で調整されてもよい。ローリングシャッタ式シーケンスを設定する一つの方法として、リセットポインタが、読み取りポインタから、シャッタ幅に等しい量だけ前に索引付けされる。2つのポインタ間の時間差は、画素集積時間に対応する。
本例における比較的良好な照明条件での、従来どおりのローリングシャッタモードのタイミングシーケンスを図3Aに示す。横軸(x軸)は時間を表す。各傾斜線は、一つのシャッタ幅(例えば、一つ以上の行)の読み取り処理を表す。リセット300は、行ごとに順次実行される。太い矢印は、画素集積時間320を示す。適切な集積時間の後、一つ以上の行に対して読み取り302が実行される。
図3Aのタイミング図から判るように、この従来のローリングシャッタ式シーケンスでは、特に、読み取り302とその次のリセット300の間に、光子が取得されない期間が生じる。太い矢印は、画素集積区間320を示している。この状態は良好な照明下では許容可能であり得るが、この構成は、低輝度条件では十分に機能しない。これは、光強度が低下するにつれて、より長い画素集積時間が必要になり得るためである。図3Bのタイミング図に、低輝度条件でのタイミングを示す。ここでは、リセット300が、読み取り302に続いて直ちに実行され、入射する光子が無駄にならないように、画素集積時間を最大化している。
ローリングシャッタ技法では、複数の画素行が、同一のデータ変換要素に画像信号を供給することができる。ただし、ローリングシャッタ技法を採用したとしても、画像センサを効率的に読み取るという課題は依然として達成されない。既に述べたように、ずれ動作のアーティファクトは、問題の一つのタイプである。低輝度での性能は、依然として改善の余地がある。また、画像のダイナミックレンジも、まだ、求められているものよりも低い。
この問題に対処する解決策の一つのタイプは、センサアレイの画素の一部をパンクロマティック画素として用いることである。例えば、本願と共に譲渡された、コンプトン(Compton)他による「Image Sensor with Improved Light Sensitivity(光感受性が向上した画像センサ)」という名称の米国特許出願公開第2007/0024931号は、カラー画素とパンクロマティック画素の両方を有する画像センサを開示している。本開示の関連において、パンクロマティック画素の用語は、概してパンクロマティックな光応答を有し、カラー光応答の指定の集合に顕現する狭いスペクトル感度よりも広いスペクトル感度を持つ画素を表す。すなわち、パンクロマティック画素は、可視スペクトル全体に亘って、光に対する高い感受性を持つことができる。パンクロマティック画素は、一般に、カラー光応答の集合よりも広いスペクトル感度を有するが、各パンクロマティック画素は、対応するフィルタを備えることもできる。このようなフィルタは、中性フィルタ、カラーフィルタ、または帯域幅フィルタのいずれかであってよい。
図4のグラフを参照すると、一般的なカメラの用途における、赤、緑、および青のカラーフィルタを備える画素の相対スペクトル感度が示されている。図4のX軸は、ほぼ近紫外線から近赤外線に広がる光の波長をナノメートルで表し、Y軸は、効率(正規化されたもの)を表す。図4において、曲線110は、赤外線光および紫外線光が画像センサに到達することを阻止するために用いられる、標準的な帯域幅フィルタのスペクトル透過特性を表す。このようなフィルタが必要であるのは、画像センサに用いられるカラーフィルタは、通常、赤外線光を遮断せず、その結果、画素が、赤外線光と、その画素に対応するカラーフィルタの通過帯域内の光とを区別できない可能性があるためである。したがって、曲線110によって示される赤外線遮断特性が、赤外線が可視光信号を汚染することを防いでいる。赤、緑、および青のフィルタが適用される一般的なシリコンセンサでのスペクトルの量子収率、すなわち、取り込まれて、測定可能な電気信号に変換される入射光子の割合に、曲線110によって表される赤外線遮断フィルタのスペクトル透過特性を乗じて、赤色については曲線114によって表され、緑色については曲線116によって表され、青色については曲線118によって表される、複合系の量子収率を得る。これらの曲線から、各カラー光応答は、可視スペクトルの一部のみに対する感度であることが判る。一方、カラーフィルタが適用されていない(ただし、赤外線遮断フィルタ特性は含む)同一のシリコンセンサの光応答は、曲線112によって示されている。この曲線112が、パンクロマティック光応答の一例である。カラー光応答曲線114,116,118と、パンクロマティック光応答曲線112とを比較すると、パンクロマティック光応答は、広いスペクトルの光に対して、どのカラー光応答よりも2〜4倍大きく感応することは明らかである。
本発明の方法は、画素の2つ以上の部分集合が画素の行の類を形成できる、各種のセンサ構成に用いることができる。ここでも、既に説明した正式な定義で前述の類を使用している。本方法は、行内の部分集合ごとに異なる露光期間を提供し、単一行内の異なる露光期間は全て、時間的にほぼ同心、すなわち、同一の瞬間を中心として等しく振り分けられる。この後の説明は、カラーRGB画素のパターン化構造を有するセンサアレイから始める。その後、部分集合に編成されたRGB画素とパンクロマティック画素の両方を有するアレイで用いられるときに、本発明の方法が、どのように具体的な利点を提供するのかについて説明する。
図2を参照しながら上記で説明したベイヤーパターンは、4画素の最小繰り返し単位であるブロック100内に2つの緑色画素センサ(G)を提供する。画像内の輝度を得るための緑色(G)の色チャンネルの高い感度および重要性を利用して、画像取り込み素子の拡張されたダイナミックレンジを提供することができる。
本発明の方法は、いくつかの基本的処理を伴い、この基本的処理は、下記のとおり、
(i)各行が、異なる時間に読み取りおよびリセットを行える、重複しない、または互いに素である一つ以上の行部分集合を提供するように、画像センサの行を分割し、
(ii)同一行内に存在する互いに素である行部分集合が時間的にほぼ同心になるように、前記行部分集合の対応する露光期間のタイミング設定を行い、
(iii)2つ以上の互いに素である行部分集合が存在する場所で、各行部分集合から取得した画像データを結合することを含む。
図5Aに、ベイヤーフィルタパターンを用いて配列されたセンサアレイを分割(i)した状態を示す。図5Aは、よい大きいアレイの一部を示したもので、行1037から行1046のみが記載されている。画素ブロック100の4画素の各最小繰り返し単位内には、2つの緑色G画素が存在する。4個組の各画素ブロック100内のG画素の一方、図5Aに網掛けして示したものは、網掛けされてない他方のG画素よりも長い区間に亘って露光されるように設計される。
「行部分集合」の用語は、全てが同一行内に存在する画素から成る部分集合を表す。この定義によれば、どの画素行も、少なくとも一つの(画素行そのものである)行部分集合を有するか、または2つ以上の行部分集合を含むことができる。1行内に2つ以上の行部分集合が存在する場合、各行部分集合に対するリセットおよび読み出しの動作は、他の(一つ以上の)行部分集合に対するリセットおよび読み出しの動作から独立して制御可能である。
図5Aのセンサ構成の例について、2つの互いに素である、または重複しない行部分集合は、画素行番号1038に存在し、1038aおよび1038bの符号が付けられている。行部分集合1038aは、青色(B)画素のみを有する。その隣の部分集合1038bは、G画素のみを有し、ここでも、網掛けは、そのG画素全てがより長く露光されるように意図されること示している。この同じ基本パターンは、偶数番の行1040,1042,1044などにも適用される。すなわち、偶数番の各行は、一方が緑色G画素(1038bと同様)で、他方が青色B画素(1038aと同様)である2つの行部分集合を有する。
この例における奇数番の画素行は、行部分集合に分割されていないと考えることができる。ただし、前述した部分集合の正式な数学的定義を適用すると、これらの各行は、その行の全ての画素を含む、単一の行部分集合に分割されていると見なすことができる。これは、数学の正式な定義における真部分集合ではないが、有効な部分集合を構成する。
図5Bの部分的なローシング式読み出しタイミング図は、同一の行に由来する行部分集合1038aおよび1038bの露光および読み取り動作に利用できる、従来のタイミング構成を示したものである。露光曲線EC1038aおよびEC1038b(点線で図示)が示すように、両方の部分集合は、同時に読み取られるが、リセットは、Reset1038aおよびReset1038bに示されるように、異なる時間に行われる。このためには、行内の全ての部分集合を含め、画素の全ての行を同時に読み取る必要がある。図3と同様に、ローシング式読み出しタイミングでは、センサの読み出し中に時間が経過するにつれて、各行部分集合が順次に読み出されなければならない。このことは、傾斜したリセット線300a,300b、および傾斜した読み出し線302によって示されている。
ここで説明したように、読み取りシーケンス内の次の画素行、第1039行は、(1)分割されていない、または、(2)単一の部分集合に分割されているという2つの観点で見ることができる。したがって、その従来の露光曲線EC1039は、単一のリセットおよび単一の読み取り動作のみを有する。ただし、代替の実施形態において、これらの奇数番号の行は、偶数番号の行列に適用されるものと同様の行部分集合構造で分割されることに留意されたい。
図5Aおよび図5Bに示した構造およびタイミングの解決策は、センサによって取得される画像のダイナミックレンジが拡張するという利点を提供する。この読み出しタイミングは、カメラと被写体の間に相対移動が存在しない限り、十分適切に機能する。カラー画素の2つの部分集合の露光/集積と読み出しの間のタイミング差は、相対移動が存在しない場合には、基本的に無視することができる。
ただし、実際には、特に、一般消費者向けデジタルカメラの用途、および一般向けの他の画像形成用途において、カメラと被写体の間には、通常、少なくとも何らかの相対移動が存在する。この移動は、取り込まれる被写体場面内の動きに由来し得ると同様に、カメラジッタによる不慮の移動に起因し得る。異なる部分集合に対する露光/集積時間は、図5Bに示すように、長さが異なると共に、異なる期間に亘るため、この従来のローリングシャッタ式タイミングシーケンスを利用する場合には、同一行内の異なる部分集合から得られる画像内容間に、少なくとも何らかの僅かな空間変位が存在し得る。すなわち、Reset1038aとReset1038bの間の区間i内の移動は、行部分集合1038aの青色(B)画素によってのみ取り込まれる。ある種の動作補償/補正を利用しない限り、ボケなどの移動誤差が生じることになる。
図6に、本発明の露光期間のタイミング設定方法(上記で列挙した処理(ii))が、異なる露光時間を有する行部分集合の動作補償の問題を回避する方式を示す。ここで、2つの行部分集合を有する行1038には、それぞれの露光が開始する2つの個別のリセット動作Reset1038aおよびReset1038bと、それぞれの露光が終了する2つの読み取り動作Read1038aおよびRead1038bが存在する。露光曲線EC1038aおよびEC1038bは、いずれも同心であり、同一時間Cを中心にほぼ中央振り分けされている。このことは、前記画素行に対する各リセット動作と読み取り動作の間の区間i1およびi2は、測定可能な許容範囲内でほぼ等しいことを意味する。図3および図5Bと同様に、ローシング式読み出しタイミングでは、センサの読み出し中に時間が経過するにつれて、各行部分集合が順次に読み出されなければならない。このことは、傾斜したリセット線300a,300b、および傾斜した読み出し線302a,302bによって表されている。
図6の同心のタイミング関係を有する露光は、「写真的に中央振り分け」されている。厳密には、長い露光期間(E1)および短い露光期間(E2)は、次の両方である場合に写真的に中央振り分けされる。
(a)短い区間(E2)が、長い期間(E1)の開始後に始まり(リセット)、かつ、長い期間の終了前に終了する(読み取り)。
(b)それぞれのリセットの間の区間(i1)が、それぞれの読み出し動作の間の区間(i2)と実質的に等しく、次式を満たす。
Figure 0005686726
これは、第1の区間の長さと第2の区間の長さは、少なくとも第1の露光の長さの20%未満で等しいと述べることと同じであることは次のとおりである。
|i1−i2|<(0.2)E1
正確な動作補償は、i1とi2が等しい場合に最も容易に達成される。
ベイヤーCFA構成と共に機能することに加え、図6に基づいて説明した実施形態は、多くの他のカラーフィルタ構造のいずれかを有する色配列を用いた画像センサでも利用することができる。この方式では、カラー画素の異なる部分集合を有利に利用して、ダイナミックレンジを広げ、異なるフィルタ効率を補償し、かつ、画像取り込み中の動作を補償することができる。
特に図6を参照して説明した方法は、カラー画素とパンクロマティック画素の両方を有するセンサに利用するように更に拡張することができる。下記の説明で、行部分集合の露光タイミングが、複合カラー−パンクロマティック画素構造に極めて類似している点を示す。
カラー画素とパンクロマティック画素の両方を利用することは、多くの利点を提供する。図4の感度グラフに戻って参照すると、画像センサの全体感度は、カラーフィルタを含む画素と、カラーフィルタを含まない画素とを混在させることによって改善できることが判る。この場合、図4から判るように、カラーフィルタ画素は、パンクロマティック画素よりもかなり感度が低い。この解決策において、パンクロマティック画素が、適切に光に曝されて、場面からの光強度の範囲が、パンクロマティック画素の全測定範囲を網羅する場合、カラー画素は大幅に露光不足になる。このため、カラーフィルタ画素が、パンクロマティック画素とほぼ同じ感度を有するように、カラーフィルタ画素の感度を調整すると有利である。カラー画素の感度は、例えば、パンクロマティック画素よりもカラー画素のサイズを大きくし、これに応じて空間画素を削減することによって上昇する。後述するように、カラー信号とパンクロマティック信号のタイミングも、調整することができる。
後続の図7、図8A、および図8Bに、パンクロマティック(PanまたはP)画素、赤色(R)画素、緑色(G)画素、および青色(B)画素を使用する撮像センサに利用できる各種の画素配置またはパターンを示す。当然ながら、これらの図で、アレイ全体およびそのいくつかの部分集合について図示したパターンは、単一のセンサアレイ内で数百回繰り返すことができる画素配置、パターンを表していることに留意されたい。
図7に、図示したアレイパターンにPとして示すパンクロマティック画素と、R、G、Bの画素との組み合わせの利用形態を、310,311,312,313の符号を付けた各種のパターンで示す。容易に理解できるであろうが、図2を参照して既に説明したような繰り返し単位を用いるものを含め、多数のパターンを利用することができる。パターン310は、例えば、ベイヤーパターンの拡張形において、カラーRGB画素の行と、その間に挿入されるパンクロマティックP画素の行とを交番させることを利用する。
図8Aに、パターン210を、どのように非空の要素部分集合211aおよび211bに編成できるのかを示す。図8Bに、4つの非空の要素部分集合213aと、213bと、213cと、213dとから、どのように代替パターン212を形成できるのかについて示す。本開示で用いられる場合、「要素部分集合」は、複数の画素行にまたがる、非空の真部分集合である。画像センサアレイの要素部分集合は互いに素である。すなわち、撮像アレイの要素部分集合の共通集合は空集合である。要素部分集合は、より小さい部分集合に更に分割することができる。本発明の目的のために最も有用であるのは、図5Aに基づいて検討したような、行部分集合の構成を考えることである。各行部分集合は、一つの画素行内に完全に包含される。図8Aの例において、要素部分集合211aは、211a1,211a2,211a3,211a4として示した多数の行部分集合を有する。同様に、カラー要素部分集合211bは、多数の行部分集合211b1,211b2,211b3,211b4を有する。
特に図8Aを参照して説明すると、要素部分集合211aは、パンクロマティック画素のみを含み、要素部分集合211bは、カラー(ベイヤーパターン)画素のみを含む。また、要素部分集合211aおよび211bの和集合は、パターン210によって表される完全な画素集合を形成する。数学の集合理論に精通した者が周知の表現で述べると、要素部分集合211aおよび211bは、パターン210によって表される集合の類を形成すると言うことができる。画像処理の当業者にとってより普通の表現で述べると、要素へのこの分離は、画像センサの画素の行および列のスパースサンプリングを効果的に提供する。各要素部分集合は、その各要素部分集合が、場面の異なる部分を取り込むように、少なくとも一次元の水平方向または垂直方向に粗くサンプリングされる。
図8Bは、この同じ原理を2つより多くの要素に拡張したものを示している。重要な点として、図8Bに示すように、同一の画素行は、パンクロマティックP画素とカラーRGB画素の両方を含むことができる。各要素部分集合の更に小さい行部分集合は、図8Bの例では、要素部分集合213cについてのみ詳細に図示(すなわち、行部分集合213c1,213c2,213c3,213c4として図示)されているが、これらの行部分集合は同様に編成される。
本発明の文脈において、「要素部分集合」の用語は、便利なように、また、複数の行にまたがる要素と、該当する行内に各行部分集合が完全に包含される行部分集合とを区別し易くするために、単純に「要素」と省略される場合がある。したがって、図8Aについて、要素部分集合211aおよび211bは、パターン210によって表される配列の要素であると表現される。行部分集合は、211a1と、211a2と、211a3と、211a4と、211b1と、211b2と、211b3と、211b4である。もちろん、図8Aおよび図8Bには、説明のために、画像配列全体のうちの僅か8×8の部分のみが示されているが、この画像配列は、実際には、通常、各方向に何百という画素を展開する。図8Aに関して、例えば、要素211aおよび211bは、複数の行に同様に広がって、センサ画素の全領域に延びることになる。
本発明の文脈において、任意の2つの行部分集合は、一方の行部分集合内の画素の少なくとも一部が他方の行部分集合内の画素に接しているときに、「隣接する行部分集合」であると見なすことができる。隣接する行部分集合は、同一行内にある必要はない。図9Aを参照すると、図8Bのパターン212が、パンクロマティック行部分集合213a1に隣接すると考えられる行部分集合の他の構成を示すための例示的構成として用いられている。行部分集合へのこの分割により、行部分集合213a1(各図に網掛けして図示)には、5つの隣接する行部分集合が存在する。この5つの隣接する行部分集合は次のとおりである。
隣接する行部分集合213b1は、行部分集合213a1のパンクロマティックP画素の真上にカラー画素を含む。
隣接する行部分集合213c1は、行部分集合213a1のパンクロマティックP画素の第1の対角方向にパンクロマティック画素を含む。
隣接する行部分集合213d1は、行部分集合213a1のパンクロマティックP画素と同じ画素行にカラー画素を含む。
隣接する行部分集合213e1は、行部分集合213a1のパンクロマティックP画素の第2の対角方向(第1対角方向と直交する方向)にパンクロマティック画素を含む。
隣接する行部分集合213f1は、行部分集合213a1のパンクロマティックP画素の真下である次の行にカラー画素を含む。
図9Bの模式図に、一実施形態において、本発明の読み出しタイミング設定方式に、隣接する行部分集合をどのように利用できるのかを示す。この説明のため、図9Aの行220および221を、その対応する行部分集合213a1、213d1、213e1、および213f1と共に、再び図9Bに示す。本実施形態において、センサアレイの基礎を成す読み出し回路は、一つ以上の周囲画素に切り替え可能に同時に接続される浮動拡散部222を利用する。浮動拡散部の実装および利用については、デジタル画像取得技術の当業者にはよく知られている。図9Bに、各浮動拡散部222が、一例において、4つ組228として記載される4つの周囲画素に作用する従来の構成を示す。
画素信号は、各種多数の組み合わせで、浮動拡散部222に切り替えることができる。読み出し組み合わせ230において、4つ組228内の各画素が有する電荷は、個別に浮動拡散部222に送られるため、個別に読み出される。読み出し組み合わせ232において、パンクロマティックP画素は、それぞれが格納している電荷を同時に浮動拡散部222に渡して空にすることによってビン化される、すなわち、浮動拡散部222を共有する。同様に、4つ組内の両方のカラー(G)画素がビン化されて、それぞれの信号を同時に浮動拡散部222に切り替える。他の読み出し組み合わせ234において、パンクロマティックP画素は、ビン化されないが個別に読み出され、ここでは、カラー(G)画素がビン化される。
更に図9Bを参照すると、4つの画素を全て同時に読み出すことを含め、4つ組228内の画素の読み出しに浮動拡散部222を利用するための多数の他のビン化組み合わせが存在することを把握することができる。ただし、図示した3つの組み合わせ230、232、および234は、図示した画素パターンを利用するときに、画像形成状況のほとんどで利用されることになる最も有望なビン化構成である。同一行内の行部分集合について既に説明したように、本発明の写真的に中央振り分けされる露光方法は、隣り合う画素がビン化される、隣接する行部分集合の各種の組み合わせ(図9Bに記載されていない他の組み合わせも含む)で同様に利用できる。また、有用であるので注記しておくと、同一の浮動拡散部を共有する画素が垂直方向または水平方向に配列される配置を含め、浮動拡散要素を共有する他の配置を利用することもできる。また、ビン化組み合わせは、前述した従来のベイヤーパターンでカラー画素が配列されるものなど、カラー画素のみを利用するセンサアレイにも利用することができる。2つ以上の行部分集合を有する任意の画素行において、各行部分集合に対するリセットおよび読み出しの動作は、他の行部分集合のリセットおよび読み出しの動作とは独立して制御できることを確認されたい。この独立して制御可能な構成は、図9Bに示すように、画素が、隣接行内の画素とビン化される場合であっても適用される。
一つ以上のビン化された画素グループから、写真的に中央振り分けされた画像データが取得されると、このデータは、他の画像データと組み合わされて、これまでのタイミング設定方式よりも動作誤差の影響を受け難い画像を生成することができる。
図7〜9Bに示したような画素配列パターンが与えられ、かつ、図4のグラフに示したように画素タイプの間で感度が異なる場合は、一般に、2つのタイプの画素の個別読み出しを行って、画像品質に適したタイミングを得ると有利であることが判る。このためには、パンクロマティックP要素と、カラーRGB要素とを別々に読み出す必要がある。一実施形態において、ローリングシャッタ式シーケンスは、要素に分けられた2種類の画素をそれぞれ読み出す。この従来のシーケンスを図8Aの構成で用いると、カラー要素211bの各行が順次に読み出され、その後、パンクロマティック要素211aの各行が読み出される。
図10に、カラー画素とパンクロマティック画素の両方で構成される画素行に対するローリングシャッタ式読み出しタイミングを設定する従来的な手法を示す。図5Bについて既に説明したように、第1038画素行を例として用いる。EC1038aは、行1038のカラー行部分集合内の画素についての露光区間タイミングを表す。この行内のカラー画素の露光区間は、Resetcolorによって示される時間に始まる。EP1038bは、行1038のパンクロマティック行部分集合内の画素の露光区間を表す。パンクロマティック画素の露光区間は、Resetpansによって示される時間に始まる。カラー画素とパンクロマティック画素は、その両方が同時に読み出される。ここで、画像センサアレイの行は、標準的なローリングシャッタ式シーケンスを用いて連続して読み出される。時間間隔ilは、画像センサの各行のResetcolorからResetpansまでの時間である。
図5Bを参照して説明したように、露光と読み出しについてのこのタイミングシーケンスは、カメラと被写体の間に相対移動が存在しない限り十分に機能する。カラー画素の2つの部分集合の露光/集積から読み出しまでの時間差は、相対移動が存在しなければ基本的に無視することができる。ただし、実際には、なんらかの移動を予測することができる。したがって、図10に示した従来のタイミング構成は、ぶれ、および他の望ましくない動作偏差の影響を受け易くなる。
図10に示したタイミングとは異なり、図11は、本発明の実施形態に用いられる写真的に中央振り分けされたタイミングを表す。ここで、カラー画素部分集合およびパンクロマティック画素部分集合を有する行1038について、それぞれの露光区間の始まりである2つの個別のリセット動作ResetcolorおよびResetpansと、それぞれの露光区間の最後である2つの個別の読み出し動作ReadcolorおよびReadpansとが存在する。両方の露光曲線EC1038aおよびEP1038bは、同心であり、同一時刻tを中心として振り分けられている。このことは、図6を参照しながら2つのカラー行部分集合について説明したように、この画素行内の異なる行部分集合それぞれのリセット動作と読み出し動作の間の区間i1とi2が実質的に等しいことを意味する。
カラー画素のみを使用する行部分集合について図6に示したタイミングシーケンス、およびカラー画素とパンクロマティック画素とを有する行部分集合の組み合わせについて図11に示したタイミングシーケンスは、標準的なローリングシャッタ動作に用いられる従来の行ごとのタイミング(図3Aおよび図3B)と大きく異なる。隣接する行を連続して読み出す代わりに、本発明の方法は、画像センサの隣接しない行を連続して読み出す。
このタイミングの一例示的実施形態における動作方式を図12A〜12Dに示す。図12Aにおいて、時間は、左から右に向かって進むように表され、読み出しタイミングの斬新なシーケンスは、斜めの読み出し線303に沿って示されている。ここで、画像センサの読み出しシーケンスは、図にPanとして示される第1のパンクロマティック行部分集合を読み出すことによって開始する。次に読み出される行部分集合は、パンクロマティック行であってもよい。ただし、読み出しシーケンスが進むにつれて、連続した読み出し動作は、近いうちに、パンクロマティック画素の行部分集合と、カラー画素の行部分集合との間で交番する。別の言い方をすると、読み出し動作は、カラー要素の行部分集合の読み出しと、パンクロマティック要素の行部分集合の読み出しとを交互に行う。また、行部分集合Pan〜Panに対する読み出し動作は、サイクルの一部で、行部分集合Color〜Colorに対する読み出し動作の間に挿入される。これは、画像センサの上から下に向かって、連続した行内のカラー画素またはパンクロマティック要素の全てを同時に読み出す既存の方法とは対照的である。
図12Aに示すように、これらのパンクロマティック読み出しとカラー読み出しは、読み出しサイクル(線303)の少なくとも一部において交番する。このことは、Pan200と、Color17と、Pan201と、Color18とを時間的にずらして交互配置することによって表されている。この例において、PanからPan184は、カラー行部分集合が間に挿入されることなく読み出される。この後、カラー行部分集合は、Pan184とPan185の間のColorから始まって、パンクロマティック行部分集合の間に挿入されることになる。パンクロマティック行部分集合とカラー行部分集合に対する、この読み出し動作の交番は、従来の読み出し方法、または全カラー要素を読み出してから全パンクロマティック要素を読み出す方法から本発明の読み出しシーケンスを区別するものである。また、線303に沿って示されるように、読み出しサイクルの開始部と終了部が、従来の読み出しと異なる。図12A〜12Dに示す例では、撮像アレイの画素の全パンクロマティック行部分集合の全面的な読み出しは、読み出しサイクルの第1の部分(すなわち、線303の上方部分)にのみ存在する。同様に、画素のカラー行部分集合の全面的な読み出しは、読み出しサイクルの第2の部分(すなわち、線303の下方部分)にのみ存在する。これらの第1および第2の部分は、少なくとも部分的に重畳する。
図12Bの模式図は、本発明の読み出しタイミング方法が、パンクロマティック画素とカラー画素の隣接する行部分集合の読み出しを交番させる方式、および、センサアレイ180に関して、空間的にオフセットされた行部分集合に順次読み出しを行う方式を示したものである。読み出し動作のシーケンスは、図示するように、この図の上から下の順である。この例について、センサアレイ180は、8画素幅で図示されており、パンクロマティック画素およびカラー画素の連続した行を備える。この例を簡単にするため、パンクロマティック画素の完全な行は、それぞれ、図5Aを参照して説明したように、行部分集合である。したがって、図12Bに関して、要素部分集合211aおよび511bは、アレイ180の要素と表現される。当然ながら、図12Bには、説明のために、全画像配列のうちの僅か8×8の部分のみが示されているが、実際には、何百という画素が各方向に延びる。12Bに関して、例えば、要素211aおよび511bは、同様に複数の行に亘り、センサ画素の領域全体に延びる。同様に、カラー画素の各行は、行部分集合である。空間的には、図12Bにセンサアレイ180のサムネイルに部分的に記載されるように、要素211aに属するパンクロマティック行部分集合211a1,211a2,211a3,211a4は、要素511bに属するカラー行部分集合511b1,511b2,511b3,511b4に隣接してはいない。ただし、図12Bの読み出しシーケンスによって示されるように、また、図12Aを参照して前述したように、これらの隣接しない行部分集合は連続して読み出される。したがって、カラーの読み出し動作は、パンクロマティックの読み出し動作の間に挿入される。
行部分集合が完全な画素行である図12Aおよび12Bに記載した読み出しタイミングは、行が2つ以上の行部分集合に分割される、図8Bに示したような配列構造にも同様に利用できる。このような分割が存在する場合、行内の異なる行部分集合は、それぞれ異なる時点でリセットされて読み出される。
図12Cの代替のタイミング図は、本発明のタイミング方法が、前述したような従来のローリングシャッタ式タイミングとどのように異なるのかを、別の観点で表したものである。図12Cにおいて、パンクロマティック画素の行部分集合の露光区間EP200,EP201,EP202は、ここでも、同一行または隣接行のカラー行部分集合の対応する露光区間EC200,EC201,EC202と重複すると共に、写真的に中央振り分けされている。図12Aおよび図12Bに示したように、パンクロマティック画素(例えば、Pan200)の行を読み取った後、撮像装置の回路は、次にカラー画素(図12Aの例を引き続き用いるとColor17)の行を読み出す。この空間的にオフセットされた交番読み出しシーケンスは、図12Cの2か所に点線で記載した斜め線303によって表されている。
図12Dは、この写真的に中央振り分けされたタイミングオフセットを利用すると、何が実現するのかを示す図である。時刻tの仮想線によって表される瞬間を中心に示されるように、本例において、同一の行部分集合または隣接する行部分集合内のパンクロマティック画素とカラー画素の露光区間EP200およびEC200は、時間的にほぼ同心である。すなわち、これらの露光期間は、時刻tとして示される同一の瞬間を中心に等しく振り分けられている。特に、図12Aおよび図12Bから結論付けることができるように、画素データが結合されることになる同一の行において、パンクロマティック画素の行部分集合の読み出しとカラー画素の隣接する行部分集合の読み出しの間にタイミング遅延が存在する。
2つの露光期間が、実質的に、写真的に中央振り分けされる(時間的に同心である)ためには、短い方の露光期間が、長い方の露光期間の開始に続いて、第1の時間間隔i1の後で始まり、長い方の露光期間が終了する前に、第2の時間間隔i2をもって終了し、かつ、第1および第2の時間間隔i1およびi2が、長い方の露光期間の長さの約20%未満で互いに異なることを強調しておく。
同一行内または隣接行内のパンクロマティック画素とカラー画素の行部分集合に、写真的に中央振り分けされた露光期間を用いることはいくつかの利点をもたらす。この利点の中でも、前述の構成は、延長された露光期間を用いるときに得られるものと同じ利益を提供しながら、これ以外の場合にこのような延長露光に付随することになる動作のぶれの副次的悪影響を抑制する。カラー信号自体は、低下したノイズを有する。動作の予測や補償の必要性が低減または排除されるため、カラー情報を、より容易にパンクロマティック画素データと組み合わせることができる。
本発明の他の実施形態では、写真的に中央振り分けされた露光のこの同じ原理が、複数の要素を有する構成に拡張され、露光時間は、行内で同心である一方で、異なる方式で変化する。特に、パンクロマティック画素の異なる行部分集合に、各種の理由により、より長い露光時間とより短い露光時間とを提供することができる。
図12A〜12Dのタイミング図が示すように、本発明のタイミングシーケンスは、カラー画素の第1の行部分集合の露光期間が、画像センサにおいて、そのカラー画素の第1の部分集合と同じ行内に存在するパンクロマティック画素の第2の行部分集合の露光期間と写真的に中央振り分けされるように、前記第1の行部分集合の露光期間を設定する。
図13のタイミング図に、集積期間の相対的タイミングと、本発明の同心露光方法を用いるローリング式読み出しタイミングの関係性を示す。同一行内のパンクロマティック行部分集合およびカラー行部分集合の露光区間182pおよび182cのタイミングがそれぞれ図示されている。カラー行部分集合の露光を開始するリセット184は、時刻tに行われる。このカラー行部分集合の露光を終了して、その露光信号値を取得する読み出し188は、時刻tに行われる。パンクロマティック行部分集合の露光を開始するリセット184は、時刻tに行われる。露光を終了してパンクロマティック画素の露光信号値を取得する読み出し188は、時刻tに行われる。図13のタイミング図が示すように、画素の集積/露光時間が写真的に中央振り分けされる、すなわち、時間的に同心であるとき、リセット動作と読み出し動作の間に(t−t)と(t−t)のほぼ等しい遅延が存在する。
図12Aおよび図12Bには、各行部分集合211a1,211a2,211a3,211a4,511b1,511b2,511b3,511b4が画素行全体を含んでいる単純な例を用いた。ただし、既に注記したように、画素の行が3つ以上の行部分集合に構成される、より複雑なパターンの行部分集合も利用することができる。同一行内にいくつかの行部分集合を有するこの複雑な構成は、同心で、写真的に中央振り分けされた露光を使用するときに、より複雑なタイミング構成を可能にする。図9Bを参照しながら上記で説明したように、画素をビン化して、隣接する行内の複数の行部分集合が同一の浮動拡散部品を共有するときには、他の構成を利用することができる。
図14のタイミング図に、2つのカラー行部分集合、および一つのパンクロマティック行部分集合を有する実施形態について、露光区間の写真的に中央振り分けされた相対タイミングを示す。2つのカラー行部分集合の露光タイミングは、開始時が時刻tで終了時が時刻tである曲線EC200a、および、開始時がtで終了時がtであるEC200bによって示されると共に、182c1および182c2の符号が付けられた露光区間によって示されている。パンクロマティック行部分集合の露光タイミングは、曲線EP200および露光区間182pによって示されており、時刻tにおいて開始して時刻tにおいて終了する。図13の例と同様に、同一行内に存在するこれらの行部分集合の各露光区間は、時刻tを中心として時間的に同心である。この図14の例について、次の等式がほぼ成り立ち、その全てが、最も長い露光区間、ここではEC200bの少なくとも20%内に入る。
区間(t−t)=区間(t−t
区間(t−t)=区間(t−t
区間(t−t)=区間(t−t
図6〜14が示すように、本発明の方法は、デジタルセンサアレイから画像データを取得するために用いられる従来のローリングシャッタ式タイミングシーケンスに変わるものである。本発明の方法は、計算を伴う動作推測を必要とせずに、パンクロマティック画素データと、カラー画素データとを組み合わせることを可能にする。したがって、隣接する行部分集合に対して、同一時刻tを中心に時間的に中央振り分けされた露光時間を使用することで、本発明の方法は、パンクロマティックデータとカラーデータを組み合わせる作業を簡略化する。同一場面内容から異なる光レベルを取得する画素からの画素データを組み合わせる技法は、当業者にはよく知られている。本発明のタイミング設定方法は、画像データ組み合わせる多数の方式、および動作の影響を補償する多数の方式を可能にする。
画素データの組み合わせについての利点に加え、本発明の方法では、隣接する行部分集合内の画素からのデータをまとめてポーリングまたはビン化することもできる。2つのパンクロマティック画素、または2つのカラー画素について、その2つが異なる行内に存在することを条件として、図9Bを参照して上記で説明したように、これらの画素の蓄積された電荷は、より多くの画像データを収集するために、ビン化して互いに加算することができる。画素電荷のこのポーリングまたはビン化は、画像解像度を低下させ得るが、コントラストなど、画像品質の他の側面を改善することができる。
したがって、提供するのは、カラー画素、またはカラー画素とパンクロマティック画素の両方を有する画像センサの、写真的に中央振り分けられた読み出しを行う同心の露光タイミング方式である。
10 光
11 画像形成段
12 レンズ
13 中性(ND)フィルタ
14 絞り
16 輝度センサ
18 シャッタ
20 画像センサ
22 アナログ信号処理装置
24 A/D変換器
26 タイミング発生器
28 画像センサ段
30 バス
32 メモリ
36 デジタル信号処理装置(DSP)
38 処理段
40 露光制御装置
50 システム制御装置
52 バス
54 プログラムメモリ
56 システムメモリ
57 ホストインターフェイス
60 メモリカードインターフェイス
62 ソケット
64 メモリカード
68 ユーザインターフェイス
70 ビューファインダディスプレイ
74 ユーザ入力部
72 露出ディスプレイ
76 状態ディスプレイ
80 ビデオエンコーダ
82 ディスプレイ制御装置
88 画像ディスプレイ
100 画素ブロック
102 画素ブロック
110 曲線
112 曲線
114 曲線
116 曲線
118 曲線
180 センサアレイ
182p 露光区間
182c 露光区間
182c1 露光区間
182c2 露光区間
184 リセット
188 読み出し
210 パターン
212 パターン
211a 要素部分集合
211b 要素部分集合
213a 要素部分集合
213b 要素部分集合
213c 要素部分集合
213d 要素部分集合
211a1 行部分集合
211a2 行部分集合
211a3 行部分集合
211a4 行部分集合
211b1 行部分集合
211b2 行部分集合
211b3 行部分集合
211b4 行部分集合
213a1 行部分集合
213b1 行部分集合
213c1 行部分集合
213c2 行部分集合
213c3 行部分集合
213c4 行部分集合
213d1 行部分集合
213e1 行部分集合
213f1 行部分集合
220 行
221 行
222 浮動拡散部
228 4つ組
230 組み合わせ
232 組み合わせ
234 組み合わせ
300 リセット
300a リセット
300b リセット
302 読み取り
302a 読み出し
302b 読み出し
303 読み出し線
310 パターン
311 パターン
312 パターン
313 パターン
320 画素集積時間
511b 要素部分集合
511b1 行部分集合
511b2 行部分集合
511b3 行部分集合
511b4 行部分集合
1037 画素行
1038 画素行
1038a 行部分集合
1038b 行部分集合
1039 画素行
1040 画素行
1041 画素行
1042 画素行
1043 画素行
1044 画素行
1045 画素行
1046 画素行
i1 区間
i2 区間
時刻
時刻
時刻
時刻
時刻
時刻
時刻
EC200 露光曲線
EC200a 露光曲線
EC200b 露光曲線
EC201 露光曲線
EC202 露光曲線
EC1038a 露光曲線
EC1038b 露光曲線
EC1039 露光曲線
EP200 露光曲線
EP201 露光曲線
EP202 露光曲線
EP1038b 露光曲線
Color 読み出し
Color17 読み出し
Color18 読み出し
Color 読み出し
Pan 読み出し
Pan200 読み出し
Pan201 読み出し
Pan 読み出し
Read1038a 読み出し信号
Read1038b 読み出し信号
Readcolor 読み出し信号
Readpans 読み出し信号
Reset1038a リセット信号
Reset1038b リセット信号
Resetcolor リセット信号
Resetpans リセット信号

Claims (1)

  1. (a)ローリングシャッタおよび少なくとも一つの分割された画素行を有する画像センサであって、前記少なくとも一つの分割された行は、第1および第2の互いに素である画素行部分集合を少なくとも含み、各行部分集合な、個別に読出しおよびリセットを行うことができる、画像センサを設け、
    (b)前記少なくとも一つの画素行内の画素の露光において、
    (i)前記第1の行部分集合をリセットして、第1の露光を開始し、第1の区間の後で、前記第2の行部分集合をリセットして、第2の露光を開始し、
    (ii)前記第2の行部分集合を読み出して、前記第2の露光を終了すると共に第2の露光信号値を取得し、第2の区間の後で、前記第1の行部分集合を読み出して、前記第1の露光を終了すると共に第1の露光信号値を取得することによって、前記画素の露光を行い、
    この露光の際に、前記第1の区間および前記第2の区間の長さが、前記第1の露光の長さの20%内で等しくなるようにし、
    (c)前記第1の露光信号値および前記第2の露光信号値から得られた画像データを組み合わせて、画素値の行を形成することを含み、
    前記画像データを組み合わせることは、異なる行内の画素から得られた画像データを組み合わせることを更に含む、画像取り込み方法。
JP2011507407A 2008-04-29 2009-04-14 画像センサの同心露光シーケンス Active JP5686726B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/111,219 2008-04-29
US12/111,219 US8164651B2 (en) 2008-04-29 2008-04-29 Concentric exposure sequence for image sensor
PCT/US2009/002329 WO2009134316A1 (en) 2008-04-29 2009-04-14 Concentric exposure sequence for image sensor

Publications (3)

Publication Number Publication Date
JP2011520351A JP2011520351A (ja) 2011-07-14
JP2011520351A5 JP2011520351A5 (ja) 2012-02-16
JP5686726B2 true JP5686726B2 (ja) 2015-03-18

Family

ID=40786644

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011507407A Active JP5686726B2 (ja) 2008-04-29 2009-04-14 画像センサの同心露光シーケンス

Country Status (6)

Country Link
US (1) US8164651B2 (ja)
EP (1) EP2269368A1 (ja)
JP (1) JP5686726B2 (ja)
CN (1) CN102007761B (ja)
TW (1) TWI455583B (ja)
WO (1) WO2009134316A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7414050B2 (ja) 2021-09-07 2024-01-16 カシオ計算機株式会社 押釦装置、時計および電子機器

Families Citing this family (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7844127B2 (en) * 2007-03-30 2010-11-30 Eastman Kodak Company Edge mapping using panchromatic pixels
US8594451B2 (en) * 2007-03-30 2013-11-26 Omnivision Technologies, Inc. Edge mapping incorporating panchromatic pixels
JP5138521B2 (ja) * 2008-09-19 2013-02-06 富士フイルム株式会社 撮像装置及び撮像方法
US8111307B2 (en) 2008-10-25 2012-02-07 Omnivision Technologies, Inc. Defective color and panchromatic CFA image
US8224082B2 (en) * 2009-03-10 2012-07-17 Omnivision Technologies, Inc. CFA image with synthetic panchromatic image
US8068153B2 (en) * 2009-03-27 2011-11-29 Omnivision Technologies, Inc. Producing full-color image using CFA image
US8218068B2 (en) * 2009-04-01 2012-07-10 Omnivision Technologies, Inc. Exposing pixel groups in producing digital images
US8045024B2 (en) * 2009-04-15 2011-10-25 Omnivision Technologies, Inc. Producing full-color image with reduced motion blur
US8203633B2 (en) * 2009-05-27 2012-06-19 Omnivision Technologies, Inc. Four-channel color filter array pattern
US8237831B2 (en) 2009-05-28 2012-08-07 Omnivision Technologies, Inc. Four-channel color filter array interpolation
US8125546B2 (en) * 2009-06-05 2012-02-28 Omnivision Technologies, Inc. Color filter array pattern having four-channels
US8253832B2 (en) * 2009-06-09 2012-08-28 Omnivision Technologies, Inc. Interpolation for four-channel color filter array
JP4657379B1 (ja) * 2010-09-01 2011-03-23 株式会社ナックイメージテクノロジー 高速度ビデオカメラ
US8417058B2 (en) 2010-09-15 2013-04-09 Microsoft Corporation Array of scanning sensors
US8408821B2 (en) * 2010-10-12 2013-04-02 Omnivision Technologies, Inc. Visible and infrared dual mode imaging system
FR2968499B1 (fr) * 2010-12-06 2013-06-14 Astrium Sas Procede d'utilisation d'un capteur d'image.
US8810663B2 (en) * 2011-01-27 2014-08-19 Aptina Imaging Corporation Methods for motion correction for high-dynamic-range imaging systems
US8428308B2 (en) * 2011-02-04 2013-04-23 Apple Inc. Estimating subject motion for capture setting determination
US8379934B2 (en) * 2011-02-04 2013-02-19 Eastman Kodak Company Estimating subject motion between image frames
US8736704B2 (en) 2011-03-25 2014-05-27 Apple Inc. Digital camera for capturing an image sequence
US8736697B2 (en) 2011-03-25 2014-05-27 Apple Inc. Digital camera having burst image capture mode
US8736716B2 (en) 2011-04-06 2014-05-27 Apple Inc. Digital camera having variable duration burst mode
US8890986B2 (en) * 2011-04-27 2014-11-18 Aptina Imaging Corporation Method and apparatus for capturing high dynamic range images using multi-frame interlaced exposure images
JP6402624B2 (ja) * 2012-03-30 2018-10-10 株式会社ニコン 撮像素子および撮像装置
US10477087B2 (en) * 2017-11-16 2019-11-12 Duelight Llc System, method, and computer program for capturing a flash image based on ambient and flash metering
RU2666819C2 (ru) * 2013-05-24 2018-09-12 Филипс Лайтинг Холдинг Б.В. Обнаружение кодированного света
KR102071325B1 (ko) * 2013-09-27 2020-04-02 매그나칩 반도체 유한회사 조도와 물체의 거리를 측정하는 광 센서
WO2015165528A1 (en) * 2014-04-30 2015-11-05 Siemens Aktiengesellschaft Method and a device for generating a high quality image using pixel shifted low resolution images
US9894304B1 (en) 2014-08-18 2018-02-13 Rambus Inc. Line-interleaved image sensors
JP6541324B2 (ja) * 2014-10-17 2019-07-10 キヤノン株式会社 固体撮像装置及びその駆動方法、並びに、撮像システム
US9671537B2 (en) * 2015-10-22 2017-06-06 Omnivision Technologies, Inc. Multi-layer color filter for low color error and high SNR
KR102502452B1 (ko) * 2016-02-15 2023-02-22 삼성전자주식회사 이미지 센서 및 복원 이미지 생성 방법
US10819926B2 (en) 2018-04-09 2020-10-27 Facebook Technologies, Llc Systems and methods for synchronizing image sensors
WO2020140281A1 (zh) * 2019-01-04 2020-07-09 京东方科技集团股份有限公司 图像数据处理方法及传输装置、图像显示方法及存储介质
CN110740272B (zh) * 2019-10-31 2021-05-14 Oppo广东移动通信有限公司 图像采集方法、摄像头组件及移动终端
CN111405204B (zh) * 2020-03-11 2022-07-26 Oppo广东移动通信有限公司 图像获取方法、成像装置、电子设备及可读存储介质
CN111432099B (zh) * 2020-03-30 2021-04-30 Oppo广东移动通信有限公司 图像传感器、处理系统及方法、电子设备和存储介质
CN113973184A (zh) * 2020-05-22 2022-01-25 Oppo广东移动通信有限公司 图像传感器、摄像头组件、移动终端
CN118214952B (zh) * 2024-05-20 2024-08-02 浙江大华技术股份有限公司 图像采集方法、设备、电子设备和计算机可读存储介质

Family Cites Families (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3971065A (en) 1975-03-05 1976-07-20 Eastman Kodak Company Color imaging array
GB2014397B (en) 1978-02-10 1982-08-18 Hitachi Ltd Solid-state colour imaging device
JPS5763983A (en) 1980-10-07 1982-04-17 Toshiba Corp Color image pickup device
IE61778B1 (en) 1989-01-04 1994-11-30 Emyville Enterprises Image processing
US5323233A (en) 1990-07-31 1994-06-21 Canon Kabushiki Kaisha Image signal processing apparatus having a color filter with offset luminance filter elements
US5194351A (en) 1990-12-21 1993-03-16 Xerox Corporation Single pass digital xerographic process color reproduction
US5641596A (en) 1995-12-05 1997-06-24 Eastman Kodak Company Adjusting film grain properties in digital images
US5949914A (en) 1997-03-17 1999-09-07 Space Imaging Lp Enhancing the resolution of multi-spectral image data with panchromatic image data using super resolution pan-sharpening
US6714239B2 (en) 1997-10-29 2004-03-30 Eastman Kodak Company Active pixel sensor with programmable color balance
US6759646B1 (en) * 1998-11-24 2004-07-06 Intel Corporation Color interpolation for a four color mosaic pattern
GB2345217A (en) 1998-12-23 2000-06-28 Nokia Mobile Phones Ltd Colour video image sensor
US6441848B1 (en) 2000-05-19 2002-08-27 Damon L. Tull Preventing blur caused by motion of the subject in a digital image
US6937774B1 (en) 2000-10-24 2005-08-30 Lockheed Martin Corporation Apparatus and method for efficiently increasing the spatial resolution of images
US6900836B2 (en) 2001-02-19 2005-05-31 Eastman Kodak Company Correcting defects in a digital image caused by a pre-existing defect in a pixel of an image sensor
US6476865B1 (en) 2001-03-07 2002-11-05 Eastman Kodak Company Sparsely sampled image sensing device with color and luminance photosites
US8169517B2 (en) 2001-03-26 2012-05-01 Panavision Imaging Llc Image sensor ADC and CDS per column with oversampling
US7340099B2 (en) 2003-01-17 2008-03-04 University Of New Brunswick System and method for image fusion
JP3804617B2 (ja) 2003-02-14 2006-08-02 コニカミノルタフォトイメージング株式会社 画像処理装置及び方法
US20040212723A1 (en) * 2003-04-22 2004-10-28 Malcolm Lin Image pickup apparatus and operating method
JP4328953B2 (ja) * 2003-10-20 2009-09-09 株式会社ジェイエイアイコーポレーション Rgb独立電子シャッタ機能付きカラー撮像装置
US7880785B2 (en) * 2004-07-21 2011-02-01 Aptina Imaging Corporation Rod and cone response sensor
US8570389B2 (en) 2004-07-22 2013-10-29 Broadcom Corporation Enhancing digital photography
US8081234B2 (en) 2004-12-29 2011-12-20 Intel Corporation Technique for increased exposure range in image sensors
US8654201B2 (en) 2005-02-23 2014-02-18 Hewlett-Packard Development Company, L.P. Method for deblurring an image
US8139130B2 (en) 2005-07-28 2012-03-20 Omnivision Technologies, Inc. Image sensor with improved light sensitivity
US20070046807A1 (en) 2005-08-23 2007-03-01 Eastman Kodak Company Capturing images under varying lighting conditions
US7680354B2 (en) 2006-03-22 2010-03-16 Arcsoft, Inc. Image deblur based on two images
JP4449936B2 (ja) * 2006-03-31 2010-04-14 ソニー株式会社 撮像装置、カメラシステムおよびその駆動方法
JP4867448B2 (ja) 2006-04-18 2012-02-01 ソニー株式会社 物理情報取得方法および物理情報取得装置
JP5011814B2 (ja) 2006-05-15 2012-08-29 ソニー株式会社 撮像装置、および画像処理方法、並びにコンピュータ・プログラム
US8059174B2 (en) 2006-05-31 2011-11-15 Ess Technology, Inc. CMOS imager system with interleaved readout for providing an image with increased dynamic range
US8160381B2 (en) * 2006-08-30 2012-04-17 Micron Technology, Inc. Method and apparatus for image noise reduction using noise models
JP4483841B2 (ja) * 2006-09-06 2010-06-16 カシオ計算機株式会社 撮像装置
US7826685B2 (en) 2006-12-01 2010-11-02 Harris Corporation Spatial and spectral calibration of a panchromatic, multispectral image pair
JP4930109B2 (ja) 2007-03-06 2012-05-16 ソニー株式会社 固体撮像装置、撮像装置
JP2008301360A (ja) * 2007-06-01 2008-12-11 Panasonic Corp 撮像装置、撮像方法および集積回路
US7940311B2 (en) * 2007-10-03 2011-05-10 Nokia Corporation Multi-exposure pattern for enhancing dynamic range of images
US8111307B2 (en) 2008-10-25 2012-02-07 Omnivision Technologies, Inc. Defective color and panchromatic CFA image

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7414050B2 (ja) 2021-09-07 2024-01-16 カシオ計算機株式会社 押釦装置、時計および電子機器

Also Published As

Publication number Publication date
US20090268055A1 (en) 2009-10-29
TWI455583B (zh) 2014-10-01
TW201004327A (en) 2010-01-16
CN102007761A (zh) 2011-04-06
JP2011520351A (ja) 2011-07-14
US8164651B2 (en) 2012-04-24
EP2269368A1 (en) 2011-01-05
WO2009134316A1 (en) 2009-11-05
CN102007761B (zh) 2016-08-03

Similar Documents

Publication Publication Date Title
JP5686726B2 (ja) 画像センサの同心露光シーケンス
EP2179591B1 (en) Multiple component readout of image sensor
US9955071B2 (en) Using captured high and low resolution images
EP2415254B1 (en) Exposing pixel groups in producing digital images
TWI500319B (zh) 影像感測器之延伸景深
US8179445B2 (en) Providing improved high resolution image
US8068153B2 (en) Producing full-color image using CFA image
KR100827238B1 (ko) 고화질 영상을 위한 영상 표시 방법 및 장치
US20100309340A1 (en) Image sensor having global and rolling shutter processes for respective sets of pixels of a pixel array
WO2020049867A1 (ja) 撮像装置、および撮像素子
KR20230055626A (ko) 촬영 장치

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20110719

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111226

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130625

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130919

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130927

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20131017

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20131024

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131122

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20140701

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141027

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20141104

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150120

R150 Certificate of patent or registration of utility model

Ref document number: 5686726

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250