JP6896638B2 - 同時に複数の画像を捕捉するための画像センサ装置および方法 - Google Patents

同時に複数の画像を捕捉するための画像センサ装置および方法 Download PDF

Info

Publication number
JP6896638B2
JP6896638B2 JP2017544281A JP2017544281A JP6896638B2 JP 6896638 B2 JP6896638 B2 JP 6896638B2 JP 2017544281 A JP2017544281 A JP 2017544281A JP 2017544281 A JP2017544281 A JP 2017544281A JP 6896638 B2 JP6896638 B2 JP 6896638B2
Authority
JP
Japan
Prior art keywords
analog
digital
image
gain
sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017544281A
Other languages
English (en)
Other versions
JP2017534230A (ja
Inventor
リバード,ウィリアム
フェーダー,アダム
キンドル,ブライアン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Duelight LLC
Original Assignee
Duelight LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Duelight LLC filed Critical Duelight LLC
Publication of JP2017534230A publication Critical patent/JP2017534230A/ja
Priority to JP2021096499A priority Critical patent/JP2021158674A/ja
Application granted granted Critical
Publication of JP6896638B2 publication Critical patent/JP6896638B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/583Control of the dynamic range involving two or more exposures acquired simultaneously with different integration times
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/771Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising storage means other than floating diffusion
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Spectrometry And Color Measurement (AREA)
  • Color Television Image Signal Generators (AREA)

Description

発明の分野
本発明は写真撮影システムに関し、より特定的には、同時に複数の画像を捕捉するための画像センサ装置および方法に関する。
背景
旧来のデジタル写真撮影システムは、捕捉中の画像センサのダイナミックレンジによって本質的に制限されている。そのような制限に対する1つの解決策は、高ダイナミックレンジ(HDR)写真撮影の使用である。HDR写真撮影は、同じシーンの多重露光を捕捉することを伴い、当該露光の各々は異なって計測され、次いで、当該多数の捕捉を併合してより大きいダイナミックレンジを有する画像を作成することを伴う。
概要
同時に複数の画像を捕捉するために、システム、方法およびコンピュータプログラムプロダクトが提供される。
使用において、第1のサンプルが画像センサのフォトダイオードに基づいて格納される。さらに、第1のサンプルの格納と少なくとも部分的に同時に、第2のサンプルが画像センサのフォトダイオードに基づいて格納される。次に、少なくとも1つの画像を生成するために、第1のサンプルに基づいて第1の値が出力され、第2のサンプルに基づいて第2の値が出力される。最後に、2つ以上のゲインを利用して第1の値および第2の値のうちの少なくとも1つが増幅される。付加的なシステム、方法およびコンピュータプログラムプロダクトも提示される。
一実施形態において、装置は、画像センサのフォトダイオードからの電気信号に基づいた第1のサンプルを格納し、第1のサンプルの格納と少なくとも部分的に同時に、画像センサのフォトダイオードからの電気信号に基づいた第2のサンプルを格納するための回路を含む。さらに、少なくとも1つの画像を生成するために、第1のサンプルに基づいた第1の値と、第2のサンプルに基づいた第2の値とが出力される。さらに、2つ以上のゲインを利用して第1の値および第2の値のうちの少なくとも1つが増幅される。
別の実施形態において、第2のサンプルの少なくとも一部の格納と同時に第1のサンプルの全体が格納される。別の実施形態において、電気信号は、画像センサのフォトダイオードから受け取られるフォトダイオード電流を含む。
一実施形態において、第1のサンプルに基づいた第1の値を出力するための第1のアナログ値記憶回路と、第2のサンプルに基づいた第2の値を出力するための第2のアナログ値記憶回路とが存在する。さらに別の実施形態において、第1のアナログ値記憶回路および第2のアナログ値記憶回路は、少なくとも1つの共有コンポーネントを共有する。
一実施形態において、少なくとも1つの共有コンポーネントは、画像センサのフォトダイオードを含む。別の実施形態において、第1のアナログ値記憶回路および第2のアナログ値記憶回路がリセット信号を共有する。別の実施形態において、第1のアナログ値記憶回路および第2のアナログ値記憶回路は、共有のリセット信号を利用して同時にリセットされる。
さらに、一実施形態において、第1の値が、2つ以上の増幅された第1のアナログ信号を生成するよう2つ以上のゲインを利用して増幅される第1のアナログ信号に含まれ、2つ以上の増幅された第1のアナログ信号の各々が少なくとも1つのデジタル信号に変換される。別の実施形態において、第2の値が、2つ以上の増幅された第2のアナログ信号を生成するよう2つ以上のゲインを利用して増幅される第2のアナログ信号に含まれ、2つ以上の増幅された第2のアナログ信号の各々が少なくとも1つの別のデジタル信号に変換される。
別の実施形態において、2つ以上のゲインは第1のゲインおよび第2のゲインを含み、第1のアナログ信号が第1のゲインおよび第2のゲインの各々を利用して増幅され、第1のデジタル信号および第2のデジタル信号に変換され、かつ、第2のアナログ信号が第1のゲインおよび第2のゲインの各々を利用して増幅され、第3のデジタル信号および第4のデジタル信号に変換される。
一実施形態において、第1のデジタル信号、第2のデジタル信号、第3のデジタル信号および第4のデジタル信号の各々は、異なるデジタル画像に関連付けられる。別の実施形態において、デジタル画像のうちの少なくとも2つはブレンドされる。別の実施形態において、スライディング標識が表示され、ユーザによってスライディング標識が操作されることに応答して、デジタル画像のうちの少なくとも2つがブレンドされる。
別の実施形態において、第1のサンプルは第1の露光時間に関連付けられ、第2のサンプルは第1の露光時間と異なる第2の露光時間に関連付けられる。さらに、別の実施形態において、第1の露光時間は第2の露光時間未満である。
別の実施形態において、第1のサンプルの格納の速度は、第2のサンプルの格納の速度と実質的に同一である。別の実施形態において、上記装置は、少なくとも1つのデジタル信号および少なくとも1つの他のデジタル信号をリモートで結合されるためにネットワークを介して移すために動作可能である。
一実施形態において、非一時的なコンピュータ読取可能媒体上で具現化されるコンピュータプログラムプロダクトは、画像センサのフォトダイオードからの電気信号に基づいた第1のサンプルの格納を可能にするためのコードと、第1のサンプルの格納を可能にすることと少なくとも部分的に同時に、画像センサのフォトダイオードからの電気信号に基づいた第2のサンプルの格納を可能にするためのコードとを含む。さらに、第1のサンプルに基づいた第1の値および第2のサンプルに基づいた第2の値を利用して少なくとも1つの画像を生成するためのコードが提供される。コンピュータプログラムプロダクトは、第1の値および第2の値のうちの少なくとも1つが2つ以上のゲインを利用して増幅されるように動作可能である。
一実施形態において、方法は、画像センサのフォトダイオードからの電気信号に基づいた第1のサンプルを格納することと、第1のサンプルの格納と少なくとも部分的に同時に、画像センサのフォトダイオードからの電気信号に基づいた第2のサンプルを格納することとを含む。さらに、少なくとも1つの画像を生成するために、第1のサンプルに基づいた第1の値と、第2のサンプルに基づいた第2の値とが出力される。さらに、2つ以上のゲインを利用して第1の値および第2の値のうちの少なくとも1つが増幅される。
同時に複数の画像を捕捉するための例示的なシステムを示す図である。 同時に複数の画像を捕捉するために実行される例示的な方法を示す図である。 実施形態に従った、同時に複数の画像を捕捉するように構成されるデジタル写真撮影システムを示す図である。 一実施形態に係るデジタル写真撮影システム内のプロセッサ複合体を示す図である。 ある実施形態に従うデジタルカメラを示す図である。 別の実施形態に従うワイヤレスモバイルデバイスを示す図である。 一実施形態に係る画像をサンプリングするように構成されたカメラモジュールを示す図である。 別の実施形態に係る画像をサンプリングするように構成されたカメラモジュールを示す図である。 ある実施形態に従うアプリケーションプロセッサと通信しているカメラモジュールを示す図である。 別の実施形態に従うネットワークサービスシステムを示す図である。 他の実施形態に従う光学シーン情報を写真撮影シーンの電子表現に変換するためのシステムを示す図である。 他の実施形態に従う光学シーン情報を写真撮影シーンの電子表現に変換するためのシステムを示す図である。 他の実施形態に従う光学シーン情報を写真撮影シーンの電子表現に変換するためのシステムを示す図である。 他の実施形態に従う光学シーン情報を写真撮影シーンの電子表現に変換するためのシステムを示す図である。 他の実施形態に従う光学シーン情報を写真撮影シーンの電子表現に変換するためのシステムを示す図である。 一実施形態に従った感光セルについての回路図を示す図である。 ある実施形態に従うアナログ画素データをデジタル画素データに変換するためのシステムを示す図である。 別の実施形態に従う1つより多いアナログ信号のアナログ画素データをデジタル画素データに変換するためのシステムを示す図である。 他の実施形態に従うアナログ信号を増幅するためのさまざまなタイミング構成を示す図である。 一実施形態に従うアナログ画素データをデジタル画素データの多数の信号に並列に変換するためのシステムを示す図である。 ある実施形態に係る結合画像を生成するためのユーザインターフェイスシステムを示す図である。 一実施形態に係る結合画像を生成するための方法ステップのフロー図である。 別の実施形態に係るネットワークを利用して結合画像を生成するためのメッセージシーケンスを示す図である。
詳細な説明
図1は、1つの可能な実施形態に従った、同時に複数の画像を捕捉するためのシステム100を示す。選択肢として、システム100は本明細書に開示されている図面のうちのいずれかの図面の文脈において実現されてもよい。しかし、当然、システム100は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図1に示されるように、システム100は、フォトダイオード101に基づいた、第1のサンプル記憶ノード133(0)に提供される第1の入力102と、フォトダイオード101に基づいた、第2のサンプル記憶ノード133(1)に少なくとも部分的に同時に提供される第2の入力104とを含む。したがって、第1のサンプル記憶ノード133(0)への入力102と、第2のサンプル記憶ノード133(1)への入力104とに基づき、第1のサンプルは、第2のサンプル記憶ノード133(1)への第2のサンプルの格納と少なくとも部分的に同時に、第1のサンプル記憶ノード133(0)に格納される。一実施形態において、第1の期間中の第1のサンプルの同時格納と、第2の期間中の第2のサンプルの格納とは、第1のサンプルおよび第2のサンプルを少なくとも部分的に同時に格納することを含む。一実施形態において、第1のサンプルの全体は、第2のサンプルのうちの少なくとも一部の格納と同時に格納され得る。たとえば、第2のサンプルの格納は、第1のサンプルの格納の全体の間に行なわれ得る。しかしながら、第1のサンプルの格納より長い期間にわたって第2のサンプルの格納が行なわれる場合があるので、第1のサンプルの格納は、第2のサンプルの格納のうちの一部の間にのみ行なわれ得る。実施形態において、第1のサンプルの格納および第2のサンプルの格納は同時にスタートされ得る。
以下の議論は、画像センサの1つ以上のフォトダイオードを使用して同時に複数の画像を捕捉するための画像センサ装置および方法を記載しているが、任意の光感知電気要素または光センサが使用または実現されてもよい。
一実施形態において、フォトダイオード101は、光子吸収に応答して電位差、電流を生成するかまたはその電気抵抗を変化させる任意の半導体ダイオードを含んでいてもよい。したがって、フォトダイオード101は光強度の検出または測定に用いられてもよい。さらに、サンプル記憶ノード133(0)および133(1)においてそれぞれ受け取られる入力102および入力104は、フォトダイオード101によって検出または測定される光強度に基づき得る。そのような実施形態において、第1のサンプル記憶ノード133(0)に格納される第1のサンプルは、フォトダイオード101における光に対する第1の露光時間に基づき得、第2のサンプル記憶ノード133(1)に格納される第2のサンプルは、フォトダイオード101における光に対する第2の露光時間に基づき得る。
一実施形態において、第1の入力102は、第1のサンプル記憶ノード133(0)において受け取られるフォトダイオード101からの電気信号を含み得、第2の入力104は、第2のサンプル記憶ノード133(1)において受け取られるフォトダイオード101からの電気信号を含み得る。たとえば、第1の入力102は、第1のサンプル記憶ノード133(0)において受け取られる電流を含み得、第2の入力104は、第2のサンプル記憶ノード133(1)において受け取られる電流を含み得る。別の実施形態において、第1の入力102および第2の入力104は、少なくとも部分的に、共有の電気配線上で送信され得る。他の実施形態において、第1の入力102および第2の入力104は、異なる電気配線上で送信され得る。いくつかの実施形態において、入力102は入力104と同じであり得る。たとえば、入力102および入力104は各々同じ電流を含み得る。他の実施形態において、入力102は第1の電流を含み得、入力104は、第1の電流と異なる第2の電流を含み得る。さらに別の実施形態において、第1の入力102は、第1のサンプル記憶ノード133(0)が第1のサンプルを格納するように動作し得る任意の入力を含み得、第2の入力104は、第2のサンプル記憶ノード133(1)が第2のサンプルを格納するように動作し得る任意の入力を含み得る。
一実施形態において、第1の入力102および第2の入力104は、フォトダイオード101を含む画像センサ上に合焦された光学画像の部分の電子表現を含み得る。そのような実施形態では、光学画像はレンズによって画像センサ上に合焦されてもよい。光学画像の電子表現は空間色強度情報を含んでいてもよく、当該情報は異なる色強度サンプル(たとえば赤色、緑色および青色光等)を含んでいてもよい。他の実施形態では、空間色強度情報は白色光についてのサンプルをさらに含んでいてもよい。一実施形態において、光学画像は写真撮影シーンの光学画像であってもよい。いくつかの実施形態において、フォトダイオード101は、画像センサのフォトダイオードのアレイのうちの単一のフォトダイオードであり得る。そのような画像センサは、相補型金属酸化膜半導体(CMOS)画像センサ、または電荷結合素子(CCD)画像センサ、またはその他の技術的に実行可能な形態の画像センサを含んでいてもよい。他の実施形態において、フォトダイオード101は2つ以上のフォトダイオードを含み得る。
一実施形態において、各サンプル記憶ノード133は、サンプルを格納するための電荷格納デバイスを含んでおり、当該格納されたサンプルは、フォトダイオード101において検出される光強度の関数であり得る。たとえば、各サンプル記憶ノード133は、サンプルとして電荷を格納するためのコンデンサを含み得る。そのような実施形態において、各コンデンサは、露光時間中またはサンプル時間中に蓄積された露光に対応する電荷を格納する。たとえば、関連付けられているフォトダイオードから各コンデンサにおいて受け取られた電流によって、予め充電されているコンデンサが、フォトダイオードにおいて検出された入射光強度に比例する速度で放電し得る。その後、各コンデンサの残存する電荷は、コンデンサから値として出力され得る。たとえば、各コンデンサの残存する電荷は、コンデンサ上の残存する電荷の関数であるアナログ値として出力され得る。
この目的のために、コンデンサから受け取られたアナログ値は、関連付けられているフォトダイオードにおいて検出された光の蓄積された強度の関数であり得る。いくつかの実施形態において、各サンプル記憶ノード133は、フォトダイオードに基づいた入力を受け取るために動作可能である回路を含み得る。たとえば、そのような回路は1つ以上のトランジスタを含んでもよい。1つ以上のトランジスタは、1つ以上の制御装置またはコンポーネントから受け取られる、サンプリング信号、リセット信号、および行選択信号といったさまざまな制御信号にサンプル記憶ノード133を応答させるために構成され得る。他の実施形態において、各サンプル記憶ノード133は、フォトダイオード101において検出される光強度の関数である任意のサンプルまたは値を格納するための任意のデバイスを含んでもよい。
さらに、図1に示されるように、第1のサンプル記憶ノード133(0)は第1の値106を出力し、第2のサンプル記憶ノード133(1)は第2の値108を出力する。一実施形態において、第1のサンプル記憶ノード133(0)は、第1のサンプル記憶ノード133(0)において格納される第1のサンプルに基づいた第1の値106を出力し、第2のサンプル記憶ノード133(1)は、第2のサンプル記憶ノード133(1)において格納される第2のサンプルに基づいた第2の値108を出力する。
いくつかの実施形態において、第1のサンプル記憶ノード133(0)は、第1のサンプル記憶ノード133(0)において格納される電荷に基づいた第1の値106を出力し、第2のサンプル記憶ノード133(1)は、第2のサンプル記憶ノード133(1)において格納される第2の電荷に基づいた第2の値108を出力する。一方の値が他方の値に先立って出力されるように第1の値106は第2の値108に対して連続的に出力されてもよく、または、第1の値106は第2の値108の出力と並行して出力されてもよい。さまざまな実施形態において、第1の値106は第1のアナログ値を含み得、第2の値108は第2のアナログ値を含み得る。これらの値の各々は、フォトダイオードアレイの各フォトダイオードに関連付けられる少なくとも1つのアナログ値を含むアナログ信号への包含のために出力され得る電流を含み得る。そのような実施形態において、第1のアナログ値106は第1のアナログ信号に含まれ得、第2のアナログ値108は、第1のアナログ信号と異なる第2のアナログ信号に含まれ得る。言いかえれば、第1のアナログ信号はフォトダイオードアレイのうちの各フォトダイオードに関連付けられるアナログ値を含むように生成され得、また、第2のアナログ信号は、フォトダイオードアレイのうちのフォトダイオードの各々に関連付けられる異なるアナログ値を含むように生成され得る。アナログ信号は、空間的に離散した強度サンプルのセットであり得、その各々は連続アナログ値によって表される。
この目的のために、複数のアナログ信号を生成するために単一のフォトダイオードアレイが利用されてもよい。複数のアナログ信号は、同時または並行して生成され得る。さらに、複数のアナログ信号は各々、2つ以上のゲインを利用して増幅され得、増幅された各アナログ信号は、合計で2つ以上のデジタル信号が生成され得るように、1つ以上のデジタル信号に変換され得る。各デジタル信号はデジタル画像を含み得る。したがって、第1のサンプルおよび第2のサンプルの部分的に同時の格納により、単一のフォトダイオードアレイが、同時に複数のデジタル信号またはデジタル画像を生成するよう利用され得る。各デジタル信号は、同じ写真撮影シーンの異なる露光時間またはサンプル時間に関連付けられている。そのような実施形態において、異なる露光特性を有する複数のデジタル信号は、単一の写真撮影シーンについて同時に生成され得る。そのようなデジタル信号またはデジタル画像の集合は、画像スタックと称され得る。
特定の実施形態において、アナログ信号は、複数の異なるアナログ信号を含み、信号増幅器は、異なる信号増幅器回路の対応するセットを含む。たとえば、画像センサの画素の行内の各画素は、アナログ信号内において関連付けられる異なるアナログ信号を有し得、当該各異なるアナログ信号は対応する異なる信号増幅器回路を有し得る。さらに、増幅された2つ以上のアナログ信号は各々、画像センサの少なくとも1つの画素からの共通のアナログ値を表すゲイン調整アナログ画素データを含み得る。たとえば、画像センサの所与の画素について、アナログ信号において所与のアナログ値が出力され得、次いで、信号増幅動作の後、第1の増幅アナログ信号における第1の増幅値と、第2の増幅アナログ信号における第2の増幅値とによって、当該所与のアナログ値が表わされる。アナログ画素データは、1つ以上の所与の画素に関連付けられるアナログ信号値であり得る。
図2は、一実施形態に従った、同時に複数の画像を捕捉するための方法200を示す。選択肢として、方法200は本明細書に開示されている図面のうちのいずれかの図面の文脈において実行されてもよい。しかし、当然、方法200は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
動作202に示されるように、第1のサンプルは、画像センサのフォトダイオードからの電気信号に基づいて格納される。さらに、第1のサンプルの格納と少なくとも部分的に同時に、動作204において、画像センサのフォトダイオードからの電気信号に基づいて第2のサンプルが格納される。上述したように、上記画像センサのフォトダイオードは、光子吸収に応答して電位差を生成するかまたはその電気抵抗を変化させる任意の半導体ダイオードを含んでいてもよい。したがって、フォトダイオードは、光強度を検出または測定するために使用されてもよく、フォトダイオードからの電気信号はフォトダイオード電流を含んでもよい。
いくつかの実施形態において、各サンプルは、フォトダイオードを含む画像センサ上に合焦している光学画像の部分の電子表現を含み得る。そのような実施形態では、光学画像はレンズによって画像センサ上に合焦されてもよい。光学画像の電子表現は空間色強度情報を含んでいてもよく、当該情報は異なる色強度サンプル(たとえば赤色、緑色および青色光等)を含んでいてもよい。他の実施形態では、空間色強度情報は白色光についてのサンプルをさらに含んでいてもよい。一実施形態において、光学画像は写真撮影シーンの光学画像であってもよい。フォトダイオードは、画像センサのフォトダイオードのアレイのうち単一のフォトダイオードであってもよい。そのような画像センサは、相補型金属酸化膜半導体(CMOS)画像センサ、または電荷結合素子(CCD)画像センサ、またはその他の技術的に実行可能な形態の画像センサを含んでいてもよい。
一実施形態の文脈において、サンプルの各々はエネルギーを格納することにより格納され得る。たとえば、サンプルの各々は、コンデンサ上に格納された電荷を含み得る。そのような実施形態において、第1のサンプルは、第1のコンデンサに格納される第1の電荷を含み得、第2のサンプルは、第2のコンデンサに格納される第2の電荷を含み得る。一実施形態において、第1のサンプルは第2のサンプルと異なってもよい。たとえば、第1のサンプルは、第1のコンデンサに格納される第1の電荷を含んでもよく、第2のサンプルは、第1の電荷と異なる、第2のコンデンサに格納される第2の電荷を含んでもよい。一実施形態において、第1のサンプルは、異なるサンプル時間によって、第2のサンプルと異なり得る。たとえば、第1のサンプルは、第1の期間の間に第1のコンデンサを充電または放電することにより格納され得、第2のサンプルは、第2の期間の間に第2のコンデンサを充電または放電することにより格納され得る。第1のコンデンサおよび第2のコンデンサは実質的に同一であり得、実質的に同一の速度で充電または放電され得る。さらに、第2のコンデンサは、第1のコンデンサの充電または放電と少なくとも部分的に同時に充電または放電され得る。
別の実施形態において、第1のサンプルは、少なくとも部分的に異なる格納特性により、第2のサンプルと異なり得る。たとえば、第1のサンプルは、ある期間の間に第1のコンデンサを充電または放電することにより格納され得、第2のサンプルは、同じ期間の間に第2のコンデンサを充電または放電することにより格納され得、当該第1のコンデンサおよび第2のコンデンサは異なる格納特性を有し得る、および/または、異なる速度で充電または放電され得る。より具体的には、第1のコンデンサは、第2のコンデンサとは異なる静電容量を有し得る。当然、第2のコンデンサは、第1のコンデンサの充電または放電と少なくとも部分的に同時に充電または放電されてもよい。
さらに、動作206で示されるように、第1のサンプルおよび第2のサンプルの格納の後、少なくとも1つの画像を生成するために、第1のサンプルに基づいて第1の値が出力され、第2のサンプルに基づいて第2の値が出力される。一実施形態の文脈において、第1の値および第2の値は、連続して送信または出力される。たとえば、第1の値は第2の値に先立って送信されてもよい。別の実施形態において、第1の値および第2の値は並行して送信されてもよい。
一実施形態において、各出力値はアナログ値を含み得る。たとえば、各出力値は、関連付けられる格納されたサンプルを表す電流を含み得る。より具体的には、第1の値は、格納された第1のサンプルを表す電流値を含み得、第2の値は、格納された第2のサンプルを表す電流値を含み得る。一実施形態において、第1の値は、第1のアナログ信号への包含のために出力され、第2の値は、第1のアナログ信号と異なる第2のアナログ信号への包含のために出力される。さらに、各値は、他の格納されたサンプルに基づいて、他の値出力と組み合わされるような態様で出力され得る。当該他の格納されたサンプルは、画像センサの他のフォトダイオードから受け取られた他の電気信号に応答して格納される。たとえば、第1の値は、第1のアナログ信号において、第1のサンプルの格納のために利用された電気信号が受け取られたフォトダイオードに隣接するフォトダイオードから受け取られた電気信号に基づいて格納された他のサンプルに基づいて出力される値と組み合わされ得る。同様に、第2の値は、第2のアナログ信号において、第2のサンプルの格納のために利用された電気信号が受け取られたフォトダイオードに隣接する同じフォトダイオードから受け取られた電気信号に基づいて格納された他のサンプルに基づいて出力される値と組み合わされ得る。
最後に、動作208において、第1の値および第2の値のうちの少なくとも1つは、2つ以上のゲインを利用して増幅される。一実施形態において、各出力値がアナログ値を含む場合、第1の値および第2の値の少なくとも1つを増幅することにより、少なくとも2つの増幅されたアナログ値が得られ得る。別の実施形態において、第1の値が第1のアナログ信号への包含のために出力されるとともに第2の値が第1のアナログ信号と異なる第2のアナログ信号への包含のために出力される場合、第1のアナログ信号または第2のアナログ信号のうちの1つが、2つ以上のゲインを利用して増幅され得る。たとえば、第1の値を含む第1のアナログ信号は、第1の値が第1のゲインおよび第2のゲインにより増幅されるように、第1のゲインおよび第2のゲインにより増幅され得る。当然、2つ以上のゲインを使用して2つを超えるアナログ信号が増幅されてもよい。一実施形態において、各増幅されたアナログ信号は、デジタル画像を含むデジタル信号に変換され得る。
この目的のために、フォトダイオードのアレイが、第1の露光時間またはサンプル時間において捕捉されたサンプルの第1のセットに基づいた第1のアナログ信号と、第2の露光時間またはサンプル時間において捕捉されたサンプルの第2のセットに基づいた第2のアナログ信号とを、生成するために利用され得る。サンプルの第1のセットおよびサンプルの第2のセットは、同じ写真撮影シーンのサンプルの2つの異なるセットであり得る。さらに、各アナログ信号は、画像センサの各画素の各フォトダイオードに基づいて生成されるアナログ値を含み得る。各アナログ値は、当該アナログ値と関連付けられているフォトダイオードにおいて測定される光強度を表し得る。したがって、アナログ信号は空間的に離散した強度サンプルのセットであってもよく、その各々が連続アナログ値によって表されており、アナログ画素データは1つ以上の所与の画素と関連付けられているアナログ信号値であってもよい。さらに、各アナログ信号には、増幅といったその後の処理が行われ得る。当該処理は、各々がデジタル画素データを含み得るデジタル画像を各々が含み得る1つ以上のデジタル信号へのアナログ信号の変換を促進し得る。
本明細書に開示されている実施形態は、カメラモジュールが、従来の技術よりも低い(たとえばゼロの、またはゼロに近い、等)サンプル間時間(たとえばフレーム間、等)で画像スタックを含む画像をサンプリングすることを有利に可能にし得る。特定の実施形態において、画像スタックを含む画像は重複する時間間隔時に効果的にサンプリングまたは同時に捕捉され、これによってサンプル間時間がゼロに減少し得る。他の実施形態では、カメラモジュールはストロボユニットと協調して画像をサンプリングして、ストロボ照明を用いずにサンプリングされた画像とストロボ照明を用いてサンプリングされた画像との間のサンプル間時間を減少させ得る。
上述の方法がユーザの希望に従って実行されてもされなくてもよいさまざまな随意のアーキテクチャおよび使用に関して、より例示的な情報が以下に記載される。以下の情報は例示目的で記載されており、いかなる意味でも限定的であると解釈されるべきでないことに強く留意すべきである。以下の特徴はいずれも、説明される他の特徴を除外してまたは除外せずに随意に組込まれ得る。
図3Aは、一実施形態に従うデジタル写真撮影システム300を示す。選択肢として、デジタル写真撮影システム300は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、デジタル写真撮影システム300は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
示されるように、デジタル写真撮影システム300は、配線334を介してカメラモジュール330に結合されたプロセッサ複合体310を含んでいてもよい。一実施形態において、プロセッサ複合体310はストロボユニット336に結合されている。デジタル写真撮影システム300はさらに、表示ユニット312、入出力デバイス314のセット、不揮発性メモリ316、揮発性メモリ318、ワイヤレスユニット340およびセンサデバイス342を含み得るがこれらに限定されず、これらの各々はプロセッサ複合体310に結合されている。一実施形態において、電力管理サブシステム320が、デジタル写真撮影システム300内の電気負荷要素の各々に適切な電源電圧を生成するように構成される。電池322が、電気エネルギーを電力管理サブシステム320に供給するように構成されてもよい。電池322は、一次電池技術または再充電可能電池技術を含む任意の技術的に実行可能なエネルギー貯蔵システムを実現し得る。当然、他の実施形態では、より多いもしくは少ない特徴、ユニット、デバイス、センサ、またはサブシステムがシステムに含まれていてもよい。
一実施形態において、ストロボユニット336はデジタル写真撮影システム300に統合され、デジタル写真撮影システム300が実行する画像サンプルイベント時にストロボ照明350を提供するように構成されてもよい。別の実施形態において、ストロボユニット336は、デジタル写真撮影システム300から独立したデバイスとして実現され、デジタル写真撮影システム300が実行する画像サンプルイベント時にストロボ照明350を提供するように構成されてもよい。ストロボユニット336は1つ以上のLED素子、ガス放電照明器(たとえばキセノンストロボデバイス、キセノンフラッシュランプ等)、またはその他の技術的に実行可能な照明デバイスを含んでいてもよい。特定の実施形態において、2つ以上のストロボユニットが画像のサンプリングと共にストロボ照明を同期して生成するように構成される。一実施形態において、ストロボユニット336は、ストロボ照明350を発するようにまたはストロボ照明350を発しないようにストロボ制御信号338を通して制御される。ストロボ制御信号338は、任意の技術的に実行可能な信号伝送プロトコルを用いて実現されてもよい。ストロボ制御信号338は、ストロボユニット336にストロボ照明350の指定強度および/または色を生成するように命じるためのストロボパラメータ(たとえばストロボ強度、ストロボ色、ストロボ時間等)を指示し得る。ストロボ制御信号338は、プロセッサ複合体310、カメラモジュール330によって、またはその他の技術的に実行可能なそれらの組合せによって生成されてもよい。一実施形態において、ストロボ制御信号338は、プロセッサ複合体310内のカメラインターフェイスユニットによって生成され、配線334を介してストロボユニット336およびカメラモジュール330の両方に送信される。別の実施形態において、ストロボ制御信号338はカメラモジュール330によって生成され、配線334を介してストロボユニット336に送信される。
写真撮影シーン内のオブジェクトから反射したストロボ照明350の少なくとも一部を含み得る光学シーン情報352が、カメラモジュール330内の画像センサ332上に光学画像として合焦される。画像センサ332は光学画像の電子表現を生成する。電子表現は空間色強度情報を含み、当該情報は異なる色強度サンプル(たとえば赤色、緑色および青色光等)を含んでいてもよい。他の実施形態では、空間色強度情報は白色光についてのサンプルをさらに含んでいてもよい。電子表現は、任意の技術的に実行可能な信号伝送プロトコルを実現し得る配線334を介してプロセッサ複合体310に送信される。
一実施形態において、入出力デバイス314は、容量性タッチ入力面、抵抗性タブレット入力面、1つ以上のボタン、1つ以上のノブ、発光素子、光検出素子、音放射素子、音検出素子、またはユーザ入力を受信して当該入力を電気信号に変換する、もしくは電気信号を物理的信号に変換するためのその他の技術的に実行可能な素子を含み得るがこれらに限定されない。一実施形態において、入出力デバイス314は、表示ユニット312に結合された容量性タッチ入力面を含む。タッチエントリ表示システムが、表示ユニット312、およびこれもプロセッサ複合体310に結合された容量性タッチ入力面を含んでいてもよい。
また、他の実施形態では、不揮発性(NV)メモリ316は、電力が遮断されるとデータを記憶するように構成される。一実施形態において、NVメモリ316は1つ以上のフラッシュメモリデバイス(たとえばROM、PCM、FeRAM、FRAM(登録商標)、PRAM、MRAM、NRAM等)を含む。NVメモリ316は非一時的なコンピュータ読取可能媒体を含み、当該媒体は、プロセッサ複合体310内の1つ以上の処理装置によって実行されるプログラミング命令を含むように構成されてもよい。プログラミング命令は、オペレーティングシステム(OS)、UIソフトウェアモジュール、画像処理および記憶ソフトウェアモジュール、プロセッサ複合体310に接続された1つ以上の入出力デバイス314、カメラモジュール330を通して画像スタックをサンプリングするための1つ以上のソフトウェアモジュール、画像スタックまたは画像スタックから生成された1つ以上の合成画像を表示ユニット312を通して提示するための1つ以上のソフトウェアモジュールを実現し得るがこれらに限定されない。一例として、一実施形態において、プログラミング命令はさらに、画像スタック内の画像同士もしくは画像の一部同士を併合し、画像スタック内の各画像の少なくとも一部同士を整列させるための、またはそれらの組合せのための1つ以上のソフトウェアモジュールを実現し得る。別の実施形態において、プロセッサ複合体310はプログラミング命令を実行するように構成されてもよく、当該命令は、高ダイナミックレンジ(HDR)画像を作成するように動作可能な1つ以上のソフトウェアモジュールを実現し得る。
さらに、一実施形態において、NVメモリ316を含む1つ以上のメモリデバイスが、ユーザによってインストールまたは除去されるように構成されたモジュールとしてパッケージ化されてもよい。一実施形態において、揮発性メモリ318はダイナミックランダムアクセスメモリ(DRAM)を含み、当該ダイナミックランダムアクセスメモリは、デジタル写真撮影システム300の通常動作中にアクセスされる、プログラミング命令、画像スタックと関連付けられているデータなどの画像データなどを一時的に記憶するように構成される。当然、揮発性メモリは、任意の態様で、プロセッサ複合体310に取付けられたその他の入出力デバイス314またはセンサデバイス342と関連して用いられてもよい。
一実施形態において、センサデバイス342は、動作および/もしくは方向を検出する加速度計、動作および/もしくは方向を検出する電子ジャイロスコープ、方向を検出する磁束検出器、地理的位置を検出する全地球測位システム(GPS)モジュール、の1つ以上、またはそれらのいずれかの組合せを含み得るがこれらに限定されない。当然、動作検出センサ、近接センサ、RGB光センサ、ジェスチャセンサ、3D入力画像センサ、圧力センサ、および屋内位置センサを含むがこれらに限定されない他のセンサがセンサデバイスとして統合されてもよい。一実施形態において、当該センサデバイスは入出力デバイス314の一例であり得る。
ワイヤレスユニット340は、デジタルデータを送受信するように構成された1つ以上のデジタルラジオを含んでいてもよい。特に、ワイヤレスユニット340は無線規格(たとえばWiFi、Bluetooth(登録商標)、NFC等)を実現し得、データ通信のためのデジタルセルラー電話規格(たとえばCDMA、3G、4G、LTE、LTEアドバンスト等)を実現し得る。当然、任意の無線規格またはデジタルセルラー電話規格が用いられてもよい。
一実施形態において、デジタル写真撮影システム300は、1つ以上のデジタル写真をワイヤレスユニット340を介してネットワークベースの(オンライン)または「クラウドベースの」写真メディアサービスに送信するように構成される。1つ以上のデジタル写真は、NVメモリ316もしくは揮発性メモリ318のいずれか一方、またはプロセッサ複合体310と関連付けられているその他のメモリデバイスの内部に存在し得る。一実施形態において、ユーザは、オンライン写真メディアサービスにアクセスするための、かつ、1つ以上のデジタル写真を送信してオンライン写真メディアサービスに保存する、オンライン写真メディアサービスから取出す、およびオンライン写真メディアサービスによって提示するためのクレデンシャルを所有していてもよい。クレデンシャルは、デジタル写真を送信する前にデジタル写真撮影システム300内で記憶または生成されてもよい。オンライン写真メディアサービスは、ソーシャルネットワーキングサービス、写真共有サービス、またはデジタル写真の保存、デジタル写真の処理、デジタル写真の送信、デジタル写真の共有、もしくはそれらのいずれかの組合せを提供するその他のネットワークベースのサービスを含んでいてもよい。特定の実施形態において、1つ以上のデジタル写真が、オンライン写真メディアサービスと関連付けられているサーバに送信される画像データ(たとえば画像スタック、HDR画像スタック、画像パッケージ等)に基づいてオンライン写真メディアサービスによって生成される。そのような実施形態では、ユーザはデジタル写真撮影システム300からの1つ以上のソース画像を、オンライン写真メディアサービスによって処理するためにアップロードしてもよい。
一実施形態において、デジタル写真撮影システム300はカメラモジュール330の少なくとも1つのインスタンスを含む。別の実施形態において、デジタル写真撮影システム300は複数のカメラモジュール330を含む。そのような実施形態はさらに、複数のカメラモジュール330によって多数の視野としてサンプリングされた写真撮影シーンを照明するように構成された少なくとも1つのストロボユニット336を含んでいてもよい。複数のカメラモジュール330は、広角視野(たとえばカメラ間の45度のスイープよりも大きい)をサンプリングしてパノラマ写真を生成するように構成されてもよい。一実施形態において、複数のカメラモジュール330は、2つ以上の狭角視野(たとえばカメラ間の45度のスイープよりも小さい)をサンプリングしてステレオ写真を生成するように構成されてもよい。他の実施形態では、複数のカメラモジュール330は、表示ユニット312もしくはその他の表示デバイス上に示されるような3D画像を生成するように、またはそうでなければ遠近感(たとえばz成分等)を表示するように構成されてもよい。
一実施形態において、表示ユニット312は、画素の二次元配列を表示して表示用の画像を形成するように構成されてもよい。表示ユニット312は、液晶(LCD)ディスプレイ、発光ダイオード(LED)ディスプレイ、有機LEDディスプレイ、またはその他の技術的に実行可能な種類のディスプレイを含んでいてもよい。特定の実施形態において、表示ユニット312は、単一のHDR画像内で、または多重露光もしくはHDR画像スタックを含む2つ以上の画像のセットにわたって、などで、写真撮影シーンからサンプリングされた強度値の完全な範囲よりも狭い画像強度値のダイナミックレンジを表示することが可能であり得る。一実施形態において、画像スタックを含む画像は、任意の技術的に実行可能なHDRブレンド技術に従って併合されて、表示ユニット312のダイナミックレンジ制約内で表示用の合成画像を生成してもよい。一実施形態において、制限されるダイナミックレンジは、対応する色強度の8ビット/カラーチャネルバイナリ表現を指定してもよい。他の実施形態では、制限されるダイナミックレンジは、8ビットよりも多いビット(たとえば10ビット、12ビット、または14ビット等)/カラーチャネルバイナリ表現を指定してもよい。
図3Bは、一実施形態に従う図3Aのデジタル写真撮影システム300内のプロセッサ複合体310を示す。選択肢として、プロセッサ複合体310は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、プロセッサ複合体310は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
示されるように、プロセッサ複合体310はプロセッササブシステム360を含み、メモリサブシステム362を含んでいてもよい。一実施形態において、プロセッサ複合体310はプロセッササブシステム360を実現するシステムオンチップ(system on a chip:SoC)デバイスを含んでいてもよく、メモリサブシステム362はプロセッササブシステム360に結合された1つ以上のDRAMデバイスを含む。別の実施形態において、プロセッサ複合体310は、SoCデバイスと、メモリサブシステム362を含む1つ以上のDRAMデバイスとをカプセル化するマルチチップモジュール(multi-chip module:MCM)を含んでいてもよい。
プロセッササブシステム360は、1つ以上の中央処理装置(CPU)コア370、メモリインターフェイス380、入出力インターフェイスユニット384、および表示インターフェイスユニット382を含み得るがこれらに限定されず、これらの各々が配線374に結合されている。1つ以上のCPUコア370は、メモリサブシステム362、揮発性メモリ318、NVメモリ316、またはそれらのいずれかの組合せの内部に存在している命令を実行するように構成されてもよい。1つ以上のCPUコア370の各々は、配線374およびメモリインターフェイス380を通してデータを取出して記憶するように構成されてもよい。一実施形態において、1つ以上のCPUコア370の各々がデータキャッシュおよび命令キャッシュを含んでいてもよい。また、CPUコア370の2つ以上がデータキャッシュ、命令キャッシュ、またはそれらのいずれかの組合せを共有してもよい。一実施形態において、各CPUコア370にプライベートキャッシュ層および共有キャッシュ層を提供するようにキャッシュ階層が実現される。
いくつかの実施形態において、プロセッササブシステム360は1つ以上のグラフィック処理装置(GPU)コア372を含んでいてもよい。各GPUコア372は、グラフィック加速機能を実現するがこれに限定されないようにプログラミングされ得る複数のマルチスレッド実行ユニットを含んでいてもよい。さまざまな実施形態において、GPUコア372は、周知の規格(たとえばOpenGL(商標)、WebGL(商標)、OpenCL(商標)、CUDA(商標)等)、および/またはその他のプログラム可能なレンダリンググラフィック規格に従ってマルチスレッドプログラムを実行するように構成されてもよい。特定の実施形態において、少なくとも1つのGPUコア372が、周知のHarris検出器または周知のHessian−Laplace検出器などの動作推定機能の少なくとも一部を実現する。そのような動作推定機能を用いて、画像スタック内の画像同士または画像の一部同士を少なくとも部分的に整列させることができる。たとえば、一実施形態において、HDR画像が画像スタックに基づいてコンパイルされてもよく、HDR画像をコンパイルする前に2つ以上の画像がまず整列させられる。
示されるように、配線374は、メモリインターフェイス380、表示インターフェイスユニット382、入出力インターフェイスユニット384、CPUコア370、およびGPUコア372の間でデータを伝送するように構成される。さまざまな実施形態において、配線374は、1本以上のバス、1つ以上のリング、クロスバー、メッシュ、またはその他の技術的に実行可能なデータ伝送構造もしくは技術を実現し得る。メモリインターフェイス380は、メモリサブシステム362を配線374に結合するように構成される。メモリインターフェイス380はさらに、NVメモリ316、揮発性メモリ318、またはそれらのいずれかの組合せを配線374に結合してもよい。表示インターフェイスユニット382は、表示ユニット312を配線374に結合するように構成されてもよい。表示インターフェイスユニット382は特定のフレームバッファ機能(たとえばフレームリフレッシュ等)を実現し得る。または、別の実施形態において、表示ユニット312は特定のフレームバッファ機能(たとえばフレームリフレッシュ等)を実現し得る。入出力インターフェイスユニット384は、さまざまな入出力デバイスを配線374に結合するように構成されてもよい。
特定の実施形態において、カメラモジュール330は、画像スタックと関連付けられている各画像をサンプリングするための露光パラメータを記憶するように構成される。たとえば、一実施形態において、カメラモジュール330は、写真撮影シーンをサンプリングするように命じられると、記憶された露光パラメータに従って画像スタックを含む画像のセットをサンプリングし得る。プロセッサ複合体310内で実行されるプログラミング命令を含むソフトウェアモジュールが、カメラモジュール330に画像スタックをサンプリングするように命じる前に露光パラメータを生成して記憶してもよい。他の実施形態では、カメラモジュール330を用いて画像または画像スタックが計測されてもよく、プロセッサ複合体310内で実行されるプログラミング命令を含むソフトウェアモジュールは、カメラモジュール330に画像を捕捉するように命じる前に計測パラメータを生成して記憶してもよい。当然、カメラモジュール330はプロセッサ複合体310と組合されて任意の態様で用いられてもよい。
一実施形態において、画像スタックを含む画像と関連付けられている露光パラメータは、1つ以上の画像についての露光パラメータを含む露光パラメータデータ構造内に記憶されてもよい。別の実施形態において、プロセッサ複合体310内のカメラインターフェイスユニット(図3Bには図示せず)が、露光パラメータデータ構造から露光パラメータを読出し、写真撮影シーンのサンプリングに備えて、関連付けられている露光パラメータをカメラモジュール330に送信するように構成されてもよい。カメラモジュール330が露光パラメータに従って構成された後、カメラインターフェイスはカメラモジュール330に写真撮影シーンをサンプリングするように命じてもよく、カメラモジュール330は次いで、対応する画像スタックを生成してもよい。露光パラメータデータ構造は、カメラインターフェイスユニット、プロセッサ複合体310内のメモリ回路、揮発性メモリ318、NVメモリ316、カメラモジュール330の内部に、またはその他の技術的に実行可能なメモリ回路の内部に記憶されてもよい。さらに、別の実施形態において、プロセッサ複合体310内で実行されるソフトウェアモジュールが露光パラメータデータ構造を生成して記憶してもよい。
図3Cは、一実施形態に従うデジタルカメラ302を示す。選択肢として、デジタルカメラ302は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、デジタルカメラ302は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、デジタルカメラ302は、図3Aのデジタル写真撮影システム300などのデジタル写真撮影システムを含むように構成されてもよい。示されるように、デジタルカメラ302はカメラモジュール330を含み、当該カメラモジュールは、写真撮影シーンを表す光学シーン情報を画像センサ上に合焦するように構成された光学素子を含んでいてもよく、当該画像センサは、光学シーン情報を写真撮影シーンの電子表現に変換するように構成されてもよい。
また、デジタルカメラ302はストロボユニット336を含んでいてもよく、写真撮影サンプルイベントをトリガするためのシャッターリリースボタン315を含んでいてもよく、これによってデジタルカメラ302は電子表現を含む1つ以上の画像をサンプリングする。他の実施形態では、その他の技術的に実行可能なシャッターリリース機構が写真撮影サンプルイベントをトリガしてもよい(たとえばタイマトリガまたは遠隔制御トリガ等)。
図3Dは、一実施形態に従うワイヤレスモバイルデバイス376を示す。選択肢として、モバイルデバイス376は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、モバイルデバイス376は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、モバイルデバイス376は、写真撮影シーンをサンプリングするように構成されているデジタル写真撮影システム(たとえば図3Aのデジタル写真撮影システム300など)を含むように構成されてもよい。さまざまな実施形態において、カメラモジュール330は、写真撮影シーンを表す光学シーン情報を画像センサ上に合焦するように構成された光学素子を含んでいてもよく、当該画像センサは、光学シーン情報を写真撮影シーンの電子表現に変換するように構成されてもよい。さらに、表示ユニット312を含むタッチエントリ表示システム上のタッチジェスチャによって起動され得る仮想ボタン、または任意の面もしくはモバイルデバイス376の表面上に位置し得る物理ボタンなどの、任意の技術的に実行可能なメカニズムによって、シャッターリリースコマンドが生成されてもよい。当然、他の実施形態では、任意の数の他のボタン、外部入出力、またはデジタル入出力がモバイルデバイス376上に含まれていてもよく、カメラモジュール330と併用されてもよい。
示されるように、一実施形態において、表示ユニット312を含むタッチエントリ表示システムがモバイルデバイス376のカメラモジュール330と反対側に配置されている。特定の実施形態において、モバイルデバイス376は、ユーザの方を向くカメラモジュール331を含み、ユーザの方を向くストロボユニット(図示せず)を含んでいてもよい。当然、他の実施形態では、モバイルデバイス376は、任意の数のユーザの方を向くカメラモジュールまたは後ろ向きのカメラモジュール、および任意の数のユーザの方を向くストロボユニットまたは後ろ向きのストロボユニットを含んでいてもよい。
いくつかの実施形態において、デジタルカメラ302およびモバイルデバイス376の各々は、カメラモジュール330によってサンプリングされた画像スタックに基づいて合成画像を生成して記憶してもよい。画像スタックは、周囲照明条件下でサンプリングされた1つ以上の画像、ストロボユニット336からのストロボ照明下でサンプリングされた1つ以上の画像、またはそれらの組合せを含んでいてもよい。
図3Eは、一実施形態に従うカメラモジュール330を示す。選択肢として、カメラモジュール330は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、カメラモジュール330は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、カメラモジュール330は、ストロボ制御信号338を通してストロボユニット336を制御するように構成されてもよい。示されるように、レンズ390が、光学シーン情報352をサンプリングすべき画像センサ332上に合焦するように構成される。一実施形態において、画像センサ332はストロボ制御信号338を通してストロボユニット336の詳細なタイミングを有利に制御して、ストロボユニット336が有効な状態でサンプリングされた画像とストロボユニット336が無効な状態でサンプリングされた画像との間のサンプル間時間を減少させる。たとえば、画像センサ332は、画像センサ332が周囲画像のサンプリングと関連付けられている露光時間を完了した後であってストロボ画像をサンプリングする前に、ストロボユニット336が1マイクロ秒未満(または任意の所望の長さ)にわたってストロボ照明350を発することを可能にし得る。
他の実施形態では、ストロボ照明350は所望の1つ以上のターゲットポイントに基づいて構成されてもよい。たとえば、一実施形態において、ストロボ照明350は前景内のオブジェクトを照らし出してもよく、露光時間の長さに依存して、画像の背景内のオブジェクトも照らし出してもよい。一実施形態において、ストロボユニット336が有効になると、画像センサ332はその直後にストロボ画像を露光し始めてもよい。ゆえに、画像センサ332はサンプリング動作を直接制御することが可能であり得、当該サンプリング動作は、ストロボユニット336が無効な状態でサンプリングされた少なくとも1つの画像、およびストロボユニット336が有効または無効な状態でサンプリングされた少なくとも1つの画像を含み得る画像スタックの生成と関連付けられているストロボユニット336の有効化および無効化を含む。一実施形態において、画像センサ332によってサンプリングされた画像スタックを含むデータが、配線334を介してプロセッサ複合体310内のカメラインターフェイスユニット386に送信される。いくつかの実施形態において、カメラモジュール330は画像センサコントローラを含んでいてもよく、当該コントローラは画像センサ332の制御動作と共にストロボ制御信号338を生成するように構成されてもよい。
図3Fは、一実施形態に従うカメラモジュール330を示す。選択肢として、カメラモジュール330は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、カメラモジュール330は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、カメラモジュール330は、ストロボユニット336についての状態情報に基づいて画像をサンプリングするように構成されてもよい。状態情報は、ストロボユニット336にストロボ照明350の指定強度および/または色を生成するように命じるための1つ以上のストロボパラメータ(たとえばストロボ強度、ストロボ色、ストロボ時間等)を含み得るがこれらに限定されない。一実施形態において、ストロボユニット336と関連付けられている状態情報を構成するためのコマンドがストロボ制御信号338を通して送信されてもよく、当該信号は、ストロボユニット336が有効になった時を検出するためにカメラモジュール330によって監視され得る。たとえば、一実施形態において、カメラモジュール330は、ストロボ制御信号338によってストロボユニット336が有効または無効になってから1マイクロ秒以下内にストロボユニット336が有効または無効になった時を検出し得る。ストロボ照明を必要とする画像をサンプリングするために、カメラインターフェイスユニット386は、有効化コマンドをストロボ制御信号338を通して送信することによってストロボユニット336を有効にしてもよい。一実施形態において、カメラインターフェイスユニット386は、図3Bのプロセッサ複合体310のプロセッササブシステム360内の入出力インターフェイス384のインターフェイスとして含まれていてもよい。有効化コマンドは、信号レベル遷移、データパケット、レジスタ書込み、またはその他の技術的に実行可能なコマンドの送信を含んでいてもよい。カメラモジュール330はストロボユニット336が有効であることを検知し、次いで、ストロボユニット336が有効である間に、画像センサ332にストロボ照明を必要とする1つ以上の画像をサンプリングさせてもよい。そのような実現例では、画像センサ332は、ストロボユニット336宛ての有効化信号を、新たな露光のサンプリングを開始するトリガ信号として待機するように構成されてもよい。
一実施形態において、カメラインターフェイスユニット386は、露光パラメータおよびコマンドを配線334を通してカメラモジュール330に送信してもよい。特定の実施形態において、カメラインターフェイスユニット386は、制御コマンドをストロボ制御信号338を通してストロボユニット336に送信することによってストロボユニット336を直接制御するように構成されてもよい。カメラモジュール330およびストロボユニット336の両方を直接制御することによって、カメラインターフェイスユニット386は、カメラモジュール330およびストロボユニット336に、正確な時間同期でそれぞれの動作を実行させることができる。一実施形態において、正確な時間同期は500マイクロ秒未満のイベントタイミングエラーであってもよい。また、イベントタイミングエラーは、意図されたイベント発生から対応する実際のイベント発生の時間までの時間差であってもよい。
別の実施形態において、カメラインターフェイスユニット386は、カメラモジュール330から画像データを受信している間に統計を蓄積するよう構成されてもよい。特に、カメラインターフェイスユニット386は、配線334を通して所与の画像についての画像データを受信している間に当該画像についての露光統計を蓄積してもよい。露光統計は、強度ヒストグラム、露光過多の画素のカウント、露光不足の画素のカウント、画素強度の強度−加重和、の1つ以上、またはそれらのいずれかの組合せを含み得るがこれらに限定されない。カメラインターフェイスユニット386は、プロセッサ複合体310内のCPUコア370の1つ以上などのプロセッサによって規定される物理または仮想アドレス空間内のメモリマップされた記憶場所として、露光統計を提示してもよい。一実施形態において、露光統計は、メモリマップされたレジスタ空間内にマップされる記憶回路内に存在しており、これは配線334を通してアクセス可能である。他の実施形態では、露光統計は、捕捉した画像についての画素データを伝送するのと共に伝送される。たとえば、所与の画像についての露光統計は、捕捉した画像についての画素強度データの送信に引き続いて、インラインデータとして送信されてもよい。露光統計は、カメラインターフェイスユニット386内で計算、記憶、またはキャッシュされてもよい。
一実施形態において、カメラインターフェイスユニット386は、シーンホワイトバランスを推定するための色統計を蓄積してもよい。赤色、緑色および青色カラーチャネルを含む異なるカラーチャネルについての強度の和などの、ホワイトバランスを推定するための任意の技術的に実行可能な色統計が蓄積されてもよい。次いで、カラーチャネル強度の和を用いて、グレーワールドホワイトバランスモデルなどのホワイトバランスモデルに従って、関連画像に対してホワイトバランス色補正が実行されてもよい。他の実施形態では、画像に対してホワイトバランス補正を実現するために用いられる一次または二次曲線適合のための曲線適合統計が蓄積される。
一実施形態において、カメラインターフェイスユニット386は、周囲画像と、ストロボ照明を用いてサンプリングされた1つ以上の画像との間など、画像同士の間でカラーマッチングを実行するための空間色統計を蓄積してもよい。露光統計と同様に、色統計はプロセッサ複合体310内のメモリマップされた記憶場所として提示されてもよい。一実施形態において、色統計はメモリマップされたレジスタ空間内にマップされ、これはプロセッササブシステム360内で配線334を通してアクセス可能である。他の実施形態では、色統計は、捕捉した画像についての画素データを伝送するのと共に伝送されてもよい。たとえば、一実施形態において、所与の画像についての色統計は、当該画像についての画素強度データの送信に引き続いて、インラインデータとして送信されてもよい。色統計は、カメラインターフェイス386内で計算、記憶、またはキャッシュされてもよい。
一実施形態において、カメラモジュール330はストロボ制御信号338をストロボユニット336に送信して、カメラモジュール330が画像をサンプリングしている間にストロボユニット336が照明を生成することを可能にし得る。別の実施形態において、カメラモジュール330は、ストロボユニット336が有効であるという指示信号をカメラインターフェイスユニット386から受信すると、ストロボユニット336が照明している画像をサンプリングしてもよい。さらに別の実施形態において、カメラモジュール330は、シーン照明の急激な増加によって写真撮影シーン内のストロボ照明を検出すると、ストロボユニット336が照明している画像をサンプリングしてもよい。一実施形態において、シーン照明の急激な増加は、ストロボユニット336を有効にする率と一致した強度の増加率を少なくとも含んでいてもよい。さらに別の実施形態において、カメラモジュール330は、1つの画像をサンプリングしている間にストロボユニット336を有効にしてストロボ照明を生成し、別の画像をサンプリングしている間にストロボユニット336を無効にしてもよい。
図3Gは、一実施形態に従うカメラモジュール330を示す。選択肢として、カメラモジュール330は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、カメラモジュール330は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、カメラモジュール330はアプリケーションプロセッサ335と通信していてもよい。カメラモジュール330は、コントローラ333と通信している画像センサ332を含むとして示されている。さらに、コントローラ333はアプリケーションプロセッサ335と通信しているとして示されている。
一実施形態において、アプリケーションプロセッサ335はカメラモジュール330の外部に存在していてもよい。示されるように、レンズ390は、光学シーン情報をサンプリングすべき画像センサ332上に合焦するように構成されてもよい。次いで、画像センサ332によってサンプリングされた光学シーン情報は、その後の処理およびアプリケーションプロセッサ335への通信の少なくとも一方のために、画像センサ332からコントローラ333に通信されてもよい。別の実施形態において、コントローラ333は、画像センサ332によってサンプリングされた光学シーン情報の記憶、または処理された光学シーン情報の記憶を制御してもよい。
別の実施形態において、コントローラ333は、画像センサ332が周囲画像のサンプリングと関連付けられている露光時間を完了した後に、ストロボユニットが短い期間(たとえば1マイクロ秒未満等)中にストロボ照明を発することを可能にし得る。さらに、コントローラ333は、画像センサ332の制御動作と共にストロボ制御信号338を生成するように構成されてもよい。
一実施形態において、画像センサ332は相補型金属酸化膜半導体(CMOS)センサまたは電荷結合素子(CCD)センサであってもよい。別の実施形態において、コントローラ333および画像センサ332は、集積システムまたは集積回路として共にパッケージ化されてもよい。さらに別の実施形態において、コントローラ333および画像センサ332は別個のパッケージを含んでいてもよい。一実施形態において、コントローラ333は、画像センサ332からの光学シーン情報の受信、光学シーン情報の処理、さまざまな機能のタイミング、およびアプリケーションプロセッサ335と関連付けられているシグナリングのための回路を提供してもよい。さらに、別の実施形態において、コントローラ333は、露光、シャッタリング、ホワイトバランス、およびゲイン調整の1つ以上を制御するための回路を提供してもよい。コントローラ333の回路による光学シーン情報の処理は、ゲイン適用、増幅、およびアナログ−デジタル変換の1つ以上を含んでいてもよい。光学シーン情報を処理した後、コントローラ333は対応するデジタル画素データをアプリケーションプロセッサ335などに送信してもよい。
一実施形態において、アプリケーションプロセッサ335は、プロセッサ複合体310および揮発性メモリ318とNVメモリ316との少なくとも一方、またはその他のメモリデバイスおよび/もしくはシステム上で実現されてもよい。アプリケーションプロセッサ335は、カメラモジュール330からアプリケーションプロセッサ335に通信される受信した光学シーン情報またはデジタル画素データの処理のために予め構成されてもよい。
図4は、一実施形態に従うネットワークサービスシステム400を示す。選択肢として、ネットワークサービスシステム400は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、ネットワークサービスシステム400は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、ネットワークサービスシステム400は、デジタル写真撮影システムを実現するデバイスにネットワークアクセスを提供するように構成されてもよい。示されるように、ネットワークサービスシステム400は、ワイヤレスモバイルデバイス376、無線アクセスポイント472、データネットワーク474、データセンタ480、およびデータセンタ481を含む。ワイヤレスモバイルデバイス376は、デジタル無線リンク471を介して無線アクセスポイント472と通信して、デジタル画像と関連付けられているデータを含むデジタルデータを送受信してもよい。ワイヤレスモバイルデバイス376および無線アクセスポイント472は、本発明の範囲および精神から逸脱することがなければ、デジタル無線リンク471を介してデジタルデータを伝送するための任意の技術的に実行可能な伝送技術を実現し得る。特定の実施形態において、データセンタ480,481の1つ以上は、所与のデータセンタ480,481内の各システムおよびサブシステムが、指定されたデータ処理およびネットワークタスクを実行するように構成された仮想マシンを含み得るように、仮想構造を用いて実現されてもよい。他の実現例では、データセンサ480,481の1つ以上は複数の物理的サイトにわたって物理的に分散していてもよい。
ワイヤレスモバイルデバイス376は、デジタルカメラを含むように構成されたスマートフォン、ワイヤレスネットワーク接続性を含むように構成されたデジタルカメラ、現実拡張デバイス、デジタルカメラおよびワイヤレスネットワーク接続性を含むように構成されたラップトップ、またはデジタル写真撮影システムおよびワイヤレスネットワーク接続性を含むように構成されたその他の技術的に実行可能なコンピューティングデバイスを含んでいてもよい。
さまざまな実施形態において、無線アクセスポイント472は、デジタル無線リンク471を介してワイヤレスモバイルデバイス376と通信するように、かつ、電気、光学、または無線伝送媒体などの任意の技術的に実行可能な伝送媒体を介してデータネットワーク474と通信するように構成されてもよい。たとえば、一実施形態において、無線アクセスポイント472は、無線アクセスポイント472に、かつデータネットワーク474内のルータシステムまたはスイッチシステムに結合された光ファイバを通してデータネットワーク474と通信してもよい。広域ネットワーク(WAN)リンクなどのネットワークリンク475がデータネットワーク474とデータセンタ480との間でデータを伝送するように構成されてもよい。
一実施形態において、データネットワーク474は、ルータ、スイッチ、長距離伝送システム、プロビジョニングシステム、認証システム、ならびに、無線アクセスポイント472とデータセンタ480との間など、ネットワーク終点同士の間でデータを伝達するように構成された通信および動作サブシステムの任意の技術的に実行可能な組合せを含んでいてもよい。一実現例において、ワイヤレスモバイルデバイス376は、データネットワーク474に結合された1つ以上の無線アクセスポイントを介してデータセンタ480と通信するように構成された複数のワイヤレスモバイルデバイスのうちの1つを含んでいてもよい。
また、さまざまな実施形態において、データセンタ480はスイッチ/ルータ482および少なくとも1つのデータサービスシステム484を含み得るがこれらに限定されない。スイッチ/ルータ482は、ネットワークリンク475と各データサービスシステム484との間でデータトラフィックを転送するように構成されてもよい。スイッチ/ルータ482は、イーサネット(登録商標)メディアレイヤー伝送、レイヤー2スイッチング、レイヤー3ルーティングなどの任意の技術的に実行可能な伝送技術を実現し得る。スイッチ/ルータ482は、データサービスシステム484とデータネットワーク474との間でデータを伝送するように構成された1つ以上の個別のシステムを含んでいてもよい。
一実施形態において、スイッチ/ルータ482は、複数のデータサービスシステム484同士の間でセッションレベルのロードバランシングを実現し得る。各データサービスシステム484は少なくとも1つの計算システム488を含んでいてもよく、さらに1つ以上の記憶システム486を含んでいてもよい。各計算システム488は、中央処理装置、グラフィック処理装置、またはそれらのいずれかの組合せなどの、1つ以上の処理装置を含んでいてもよい。所与のデータサービスシステム484は、共に動作するように構成された1つ以上の物理的に別個のシステムを含む物理的システムとして実現されてもよい。または、所与のデータサービスシステム484は、任意の物理的システム上で実行される1つ以上の仮想システムを含む仮想システムとして実現されてもよい。特定のシナリオでは、データネットワーク474は、ネットワークリンク476を通すなどしてデータセンタ480と別のデータセンタ481との間でデータを伝送するように構成されてもよい。
別の実施形態において、ネットワークサービスシステム400は、本発明の1つ以上の実施形態を実現するように構成された、任意のネットワーク化されたモバイルデバイスを含んでいてもよい。たとえば、いくつかの実施形態において、アドホック無線ネットワークなどのピアツーピアネットワークが2つの異なるワイヤレスモバイルデバイス同士の間に確立されてもよい。そのような実施形態では、デジタル画像データは、当該デジタル画像データをデータセンタ480に送信しなくても2つのワイヤレスモバイルデバイス同士の間で伝送され得る。
図5Aは、一実施形態に従う光学シーン情報を捕捉して写真撮影シーンの電子表現に変換するためのシステムを示す。選択肢として、図5Aのシステムは図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、図5Aのシステムは任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図5Aに示されるように、画素アレイ510は行ロジック512および列読出回路522と通信している。さらに、行ロジック512および列読出回路522の両方が制御ユニット514と通信している。さらに、画素アレイ510は複数の画素540を含むとして示されており、各画素540は4つのセルであるセル542〜545を含んでいてもよい。本説明の文脈において、画素アレイ510は、画像センサ132またはカメラモジュール330の画像センサ332などの画像センサに含まれていてもよい。
示されるように、画素アレイ510は画素540の二次元配列を含む。たとえば、一実施形態において、画素アレイ510は、第1の寸法における4,000個の画素540および第2の寸法における3,000個の画素540を含み、画素アレイ510において合計12,000,000個の画素540を含むように構築されてもよく、これは12メガピクセル画素アレイと称され得る。さらに、上述のように、各画素540は4つのセル542〜545を含むとして示されている。一実施形態において、セル542は第1の光の色と関連付けられてもよく(たとえば、第1の光の色に対して選択的に感度が高い、等)、セル543は第2の光の色と関連付けられてもよく、セル544は第3の光の色と関連付けられてもよく、セル545は第4の光の色と関連付けられてもよい。一実施形態において、第1の光の色、第2の光の色、第3の光の色および第4の光の色の各々は、セル542〜545の各々が異なる光の色と関連付けられ得るように、異なる光の色である。別の実施形態において、セル542〜545の少なくとも2つのセルが同じ光の色と関連付けられてもよい。たとえば、セル543およびセル544が同じ光の色と関連付けられてもよい。
さらに、セル542〜545の各々はアナログ値を記憶することが可能であり得る。一実施形態において、セル542〜545の各々は、露光時間中に蓄積された露光に対応する電荷を格納するためのコンデンサと関連付けられてもよい。そのような実施形態では、所与のセルの回路への行選択信号をアサートすると、当該セルは読出動作を実行し得、当該読出動作は、当該セルと関連付けられているコンデンサの格納された電荷の関数である電流を生成して送ることを含み得るがこれらに限定されない。一実施形態において、読出動作の前に、関連付けられているフォトダイオードからコンデンサにおいて受け取った電流によって、予め充電されているコンデンサが、フォトダイオードにおいて検出された入射光強度に比例する速度で放電し得る。次いで、セルのコンデンサの残留電荷が行選択信号を用いて読出され得る。セルから送られる電流は、コンデンサ上の残留電荷を反映するアナログ値である。この目的で、読出動作時にセルから受け取られるアナログ値は、フォトダイオードにおいて検出される光の蓄積強度を反映し得る。所与のコンデンサ上に格納された電荷、および送られた電流などのいずれかの対応する電荷の表示は、本明細書においてアナログ画素データと称され得る。当然、アナログ画素データは空間的に離散した強度サンプルのセットを含んでいてもよく、その各々が連続アナログ値によって表される。
さらに、行ロジック512および列読出回路520は制御ユニット514の制御下で連携して働いて、複数の画素540の複数のセル542〜545を読出してもよい。たとえば、制御ユニット514は、行ロジック512に、画素540の所与の行と関連付けられている行制御信号530を含む行選択信号をアサートさせ、その画素の行と関連付けられているアナログ画素データを読出すことを可能にし得る。図5Aに示されるように、これは、行ロジック512が、画素540(0)および画素540(a)を含む行534(0)と関連付けられている行制御信号530(0)を含む1つ以上の行選択信号をアサートすることを含んでいてもよい。行選択信号がアサートされたことに応答して、行534(0)上の各画素540は、画素540のセル542〜545内に格納されている電荷に基づいて少なくとも1つのアナログ値を送信する。特定の実施形態において、セル542およびセル543は第1の行選択信号に応答して対応するアナログ値を送信するように構成されるのに対して、セル544およびセル545は第2の行選択信号に応答して対応するアナログ値を送信するように構成される。
一実施形態において、各行534(0)から534(r)を含む画素540の完全な行についてのアナログ値が、列信号532を通して列読出回路520に連続して送信されてもよい。一実施形態において、完全な行、または画素の完全な行内の画素もしくはセルについてのアナログ値が同時に送信されてもよい。たとえば、行制御信号530(0)を含む行選択信号がアサートされたことに応答して、画素540(0)は、少なくとも1つのアナログ値を、画素540(0)のセル542〜545から列信号532(0)を含む1つ以上の信号経路を通って列読出回路520に送信することによって応答してもよく、同時に、画素540(a)も、少なくとも1つのアナログ値を、画素540(a)のセル542〜545から列信号532(c)を含む1つ以上の信号経路を通って列読出回路520に送信することになる。当然、画素540(0)から少なくとも1つのアナログ値を受信するのと並行して、かつ画素540(a)から少なくとも1つのアナログ値を受信するのと並行して、1つ以上のアナログ値が1つ以上の他の画素540から列読出回路520において受信されてもよい。行534(0)を含む画素540から受信したアナログ値のセットは合わせてアナログ信号と称され得、このアナログ信号は画素アレイ510上に合焦される光学画像に基づいていてもよい。
さらに、行534(0)を含む画素540を読出した後、行ロジック512は読出すべき画素540の第2の行を選択してもよい。たとえば、行ロジック512は、画素540(b)および画素540(z)を含む画素540の行と関連付けられている行制御信号530(r)を含む1つ以上の行選択信号をアサートしてもよい。この結果、列読出回路520は、行534(r)を含む画素540と関連付けられているアナログ値の対応するセットを受信してもよい。
列読出回路520は、1つ以上の受信したアナログ値を選択して図6Bのアナログ−デジタルユニット622などのアナログ−デジタル変換回路に転送するマルチプレクサとして作用し得る。列読出回路520は、受信したアナログ値を予め規定された順序または順番で転送してもよい。一実施形態において、行ロジック512が行制御信号530を含む1つ以上の行選択信号をアサートすると、画素の対応する行が列信号532を通してアナログ値を送信する。列読出回路520はアナログ値を受信し、アナログ値の1つ以上を連続的に選択してアナログ−デジタルユニット622に一度に転送する。行ロジック512による行の選択、および列読出回路620による列の選択は制御ユニット514によって命じられてもよい。一実施形態において、行534は連続的に選択されて読出され、行534(0)で開始して行534(r)で終了し、連続した列と関連付けられているアナログ値がアナログ−デジタルユニット622に送信される。他の実施形態では、画素540に記憶されたアナログ値を読出す他の選択パターンが実現されてもよい。
さらに、列読出回路520によって転送されるアナログ値はアナログ画素データを含んでいてもよく、当該データは後で増幅され、次いで、画素アレイ510上に合焦される光学画像に基づいて1つ以上のデジタル画像を生成するためのデジタル画素データに変換されてもよい。
図5B〜図5Dは、1つ以上の実施形態に係る3つの随意の画素構成を示す。選択肢として、これらの画素構成は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、これらの画素構成は任意の所望の環境において実現されてもよい。具体例として、図5B〜図5Dの画素540のうちのいずれかは、画素アレイ510の画素540の1つ以上として動作してもよい。
図5Bに示されるように、画素540は、一実施形態に従って、赤色光強度を測定するための第1のセル(R)、緑色光強度を測定するための第2および第3のセル(G)、ならびに青色光強度を測定するための第4のセル(B)を含むとして示されている。図5Cに示されるように、画素540は、一実施形態に従って、赤色光強度を測定するための第1のセル(R)、緑色光強度を測定するための第2のセル(G)、青色光強度を測定するための第3のセル(B)、および白色光強度を測定するための第4のセル(W)を含むとして示されている。図5Dに示されるように、画素540は、さらに別の実施形態に従って、シアン光強度を測定するための第1のセル(C)、マゼンタ光強度を測定するための第2のセル(M)、黄色光強度を測定するための第3のセル(Y)、および白色光強度を測定するための第4のセル(W)を含むとして示されている。
画素540は各々が4つのセルを含むとして示されているが、当然、画素540は光強度を測定するためのより少ないまたは多いセルを含むように構成されてもよい。さらに、別の実施形態において、画素540の特定のセルは光の単一のピーク波長、または白色光を測定するように構成されるとして示されているが、画素540のセルは任意の波長、光の波長範囲、または複数の光波長を測定するように構成されてもよい。
次に図5Eを参照して、一実施形態に従う画像センサ332上に光学画像として合焦される光学シーン情報を捕捉するためのシステムが示されている。選択肢として、図5Eのシステムは図面のうちのいずれかの画面の詳細の文脈において実現されてもよい。しかし、当然、図5Eのシステムは任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図5Eに示されるように、画像センサ332は第1のセル544、第2のセル545および第3のセル548を含むとして示されている。さらに、セル544〜548の各々はフォトダイオード562を含むとして示されている。さらに、フォトダイオード562の各々の上には対応するフィルタ564があり、フィルタ564の各々の上には対応するマイクロレンズ566がある。たとえば、セル544はフォトダイオード562(0)を含むとして示されており、その上にフィルタ564(0)があり、その上にマイクロレンズ566(0)がある。同様に、セル545はフォトダイオード562(1)を含むとして示されており、その上にフィルタ564(1)があり、その上にマイクロレンズ566(1)がある。さらに、図5Eに示されるように、画素540は、セル544および545、フォトダイオード562(0)および562(1)、フィルタ564(0)および564(1)、ならびにマイクロレンズ566(0)および566(1)の各々を含むとして示されている。
一実施形態において、マイクロレンズ566の各々は、直径が50ミクロン未満の任意のレンズであってもよい。しかし、他の実施形態では、マイクロレンズ566の各々の直径は50ミクロン以上であってもよい。一実施形態において、マイクロレンズ566の各々は、受光した光をマイクロレンズ566の下方の支持基板上に集束および集光するための球状凸面を含んでいてもよい。たとえば、図5Eに示されるように、マイクロレンズ566(0)は受光した光をフィルタ564(0)上に集束および集光する。一実施形態において、マイクロレンズアレイ567はマイクロレンズ566を含んでいてもよく、当該マイクロレンズの各々は、画像センサ332のセル544内のフォトダイオード562と配置が対応している。
本説明の文脈において、フォトダイオード562は、光子吸収に応答して電位差を生成するかまたはその電気抵抗を変化させる任意の半導体ダイオードを含んでいてもよい。したがって、フォトダイオード562は光強度の検出または測定に用いられてもよい。さらに、フィルタ564の各々は、1つ以上の予め定められた波長の光を選択的に送信するための光学フィルタであってもよい。たとえば、フィルタ564(0)は対応するマイクロレンズ566(0)から受光した実質的に緑色光のみを選択的に透過するように構成されてもよく、フィルタ564(1)はマイクロレンズ566(1)から受光した実質的に青色光のみを選択的に透過するように構成されてもよい。フィルタ564およびマイクロレンズ566はともに、入射光の選択波長を平面上に集束するように動作可能であり得る。一実施形態において、当該平面は、画像センサ332の表面上のフォトダイオード562の二次元格子であってもよい。さらに、各フォトダイオード562は、その関連付けられているフィルタに依存して、1つ以上の予め定められた光の波長を受光する。一実施形態において、各フォトダイオード562は、フィルタリングされた光の赤色、青色または緑色波長のみを受光する。図5B〜図5Dに関して示されるように、フォトダイオードは赤色、緑色または青色以外の光の波長を検出するように構成されてもよいと考えられる。たとえば、具体的には図5C〜図5Dの文脈において、フォトダイオードは、白色、シアン、マゼンタ、黄色、または赤外光もしくは紫外光などの不可視光を検出するように構成されてもよい。
この目的で、セル、フォトダイオード、フィルタ、およびマイクロレンズの各結合は、光を受光し、受光した光を集光およびフィルタリングして1つ以上の予め定められた光の波長を分離し、次いで当該1つ以上の予め定められた波長で受光した光の強度を測定する、検出する、またはそうでなければ定量化するように動作可能であり得る。測定または検出された光は次いで、セル内に記憶される1つ以上のアナログ値として表されてもよい。たとえば、一実施形態において、各アナログ値は、コンデンサを利用してセル内に格納され得る。さらに、セル内に格納される各アナログ値は、行ロジック512から受信され得る行選択信号などの選択信号に基づいてセルから出力されてもよい。さらに、セルから送信される各アナログ値は、アナログ信号の複数のアナログ値のうちの1つのアナログ値を含んでいてもよく、アナログ値の各々は異なるセルによって出力される。したがって、アナログ信号は複数のセルからの複数のアナログ画素データ値を含んでいてもよい。一実施形態において、アナログ信号は、写真撮影シーンの画像全体についてのアナログ画素データ値を含んでいてもよい。別の実施形態において、アナログ信号は、写真撮影シーンの画像全体のサブセットについてのアナログ画素データ値を含んでいてもよい。たとえば、アナログ信号は、写真撮影シーンの画像の画素の行についてのアナログ画素データ値を含んでいてもよい。図5A〜図5Eの文脈において、画素アレイ510の画素540の行534(0)は写真撮影シーンの画像の画素のそのような1行であってもよい。
図6Aは、1つの可能な実施形態に従った、感光セル600のための回路図を示す。選択肢として、セル600は本明細書に開示されている図面のうちのいずれかの図面の文脈において実現されてもよい。しかし、当然、システム600は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図6Aに示されるように、感光セル600は、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)に結合されるフォトダイオード602を含む。フォトダイオード602は、図1の文脈で記載されたフォトダイオード101か、または、図5Eのフォトダイオード562のうちのいずれかとして実現され得る。さらに、アナログサンプリング回路603は、図1の文脈で記載されたサンプル記憶ノード133として実現され得る。一実施形態において、感光セル600のユニークインスタンス(unique instance)は、図5A〜図5Eの文脈における画素540を含むセル542〜545の各々として実現され得る。
示されるように、感光セル600は、2つのアナログサンプリング回路603およびフォトダイオード602を含む。2つのアナログサンプリング回路603は、第2のアナログサンプリング回路603(1)に結合される第1のアナログサンプリング回路603(0)を含む。図6Aに示されるように、第1のアナログサンプリング回路603(0)は、トランジスタ606(0),610(0),612(0),614(0)、および、コンデンサ604(0)を含み、第2のアナログサンプリング回路603(1)は、トランジスタ606(1),610(1),612(1),614(1)、および、コンデンサ604(1)を含む。一実施形態において、トランジスタ606,610,612および614の各々は、電界効果トランジスタであってもよい。
フォトダイオード602は、写真撮影シーンの入射光601を測定または検出するように動作可能であり得る。一実施形態において、入射光601は、写真撮影シーンの環境光を含み得る。別の実施形態において、入射光601は、写真撮影シーンを照らすために利用されるストロボユニットからの光を含み得る。当然、入射光601は、フォトダイオード602において受け取られるとともに測定される任意の光を含み得る。さらに、上で論じたように、入射光601は、マイクロレンズによってフォトダイオード602に集中され得、フォトダイオード602は、二次元平面上に配される複数のフォトダイオードを含むように構成されるフォトダイオードアレイのうちの1つのフォトダイオードであり得る。
一実施形態において、アナログサンプリング回路603は実質的に同一であり得る。たとえば、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)は各々、実質的に同一の態様において構成される対応するトランジスタ、コンデンサ、および配線を含み得る。当然、他の実施形態において、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)は、アナログサンプリング回路603の1つに特有であり得る、回路、トランジスタ、コンデンサ、配線および/または任意の他のコンポーネントもしくはコンポーネントパラメータ(たとえば各コンデンサ604の容量値)を含んでもよい。
一実施形態において、各コンデンサ604は、トランジスタ610のためのゲート容量と、トランジスタ606および614のための拡散容量とを含むコンデンサの1つのノードを含み得る。コンデンサ604はさらに、金属酸化膜スタック、ポリコンデンサ、トレンチコンデンサのような別個の容量構造、または、任意の他の技術的に実現可能なコンデンサ構造といった付加的な回路要素(図示せず)に結合されてもよいが、当該付加的な回路要素はこれらに限定されない。
アナログサンプリング回路603(0)に関して、リセット616(0)がアクティブ(ロー)である場合、トランジスタ614(0)は電圧源V2からコンデンサ604(0)へのパスを提供し、V2の電位までコンデンサ604(0)を充電にする。サンプル信号618(0)がアクティブである場合、トランジスタ606(0)は、入射光601に応答してフォトダイオード602によって生成されるフォトダイオード電流(I_PD)に比例して放電するようコンデンサ604(0)のためのパスを提供する。これにより、サンプル信号618(0)がアクティブである場合、フォトダイオード電流I_PDは第1の露光時間の間、積分され、コンデンサ604(0)上で対応する第1の電圧が得られる。コンデンサ604(0)上のこの第1の電圧は第1のサンプルとも称され得る。行選択634(0)がアクティブである場合、トランジスタ612(0)は、第1の出力電流のために、V1から出力608(0)へのパスを提供する。第1の出力電流は、コンデンサ604(0)上の第1の電圧に応答してトランジスタ610(0)によって生成される。行選択634(0)がアクティブである場合、出力608(0)での出力電流はしたがって、第1の露光時間中の入射光601の積分強度に比例し得る。一実施形態において、サンプル信号618(0)は、画像センサを含む実質的にすべての感光セル600にわたって実質的に同時に、画像センサ内ですべての第1のサンプルについてグローバルシャッタ(global shutter)を実現するようにアサートされる。
アナログサンプリング回路603(1)に関して、リセット616(1)がアクティブ(ロー)である場合、トランジスタ614(1)は電圧源V2からコンデンサ604(1)へのパスを提供し、V2の電位までコンデンサ604(1)を充電にする。サンプル信号618(1)がアクティブである場合、トランジスタ606(1)は、入射光601に応答してフォトダイオード602によって生成されるフォトダイオード電流(I_PD)に比例して放電するようコンデンサ604(1)のためのパスを提供する。これにより、サンプル信号618(1)がアクティブである場合、フォトダイオード電流I_PDは第2の露光時間の間、積分され、コンデンサ604(1)上で対応する第2の電圧が得られる。コンデンサ604(1)上のこの第2の電圧は第2のサンプルとも称され得る。行選択634(1)がアクティブである場合、トランジスタ612(1)は、第2の出力電流のために、V1から出力608(1)へのパスを提供する。第2の出力電流は、コンデンサ604(1)上の第2の電圧に応答してトランジスタ610(1)によって生成される。行選択634(1)がアクティブである場合、出力608(1)での出力電流はしたがって、第2の露光時間中の入射光601の積分強度に比例し得る。一実施形態において、サンプル信号618(1)は、画像センサを含む実質的にすべての感光セル600にわたって実質的に同時に、画像センサ内ですべての第2のサンプルについてグローバルシャッタ(global shutter)を実現するようにアサートされる。
この目的のために、第1の露光時間が第2の露光時間と異なるように第1の露光時間および第2の露光時間を制御することにより、同じフォトダイオード電流I_PDがフォトダイオード602によって生成されることに応答して、コンデンサ604(0)は第1の電圧またはサンプルを格納し得、コンデンサ604(1)は第1の電圧またはサンプルと異なる第2の電圧またはサンプルを格納し得る。一実施形態において、第1の露光時間および第2の露光時間は同時に開始し、時間において重なっており、異なる時間で終了する。したがって、アナログサンプリング回路603の各々は、異なる露光に対応するアナログ値を格納するように動作可能であり得る。2つの異なる露光時間を有する利点として、フォトダイオード602が、十分なしきい値の入射光601に晒される状況において、第1のコンデンサ604(0)は、白飛び(blown out)または過剰に露光された画像部分を提供し得、同じセル600の第2のコンデンサ604(1)はデジタル画像を生成するのに好適なアナログ値を提供し得る。したがって、各セル600について、第1のコンデンサ604は、同じセル600の別のコンデンサ604より暗い画像コンテンツをより効果的に捕捉し得る。
他の実施形態において、2つを超える電圧またはサンプルを格納する目的で、2つを超えるアナログサンプリング回路を使用することが望ましくあり得る。たとえば、各アナログサンプリング回路が、異なる露光時間中に、フォトダイオードによって生成されている同じフォトダイオード電流I_PDを同時にサンプリングするように、3つ以上のアナログサンプリング回路を有する実施形態が実現され得る。そのような実施形態において、3つ以上の電圧またはサンプルが得られ得る。この目的のために、フォトダイオード602によって生成された電流I_PDは、任意の所与の時間において、フォトダイオード602に結合された多くのアナログサンプリング回路603にわたって分離され得る。結果、任意の所定時間においてフォトダイオード602に結合されるアナログサンプリング回路603の数と、各アナログサンプリング回路603に関連付けられる容量の量との関数として、露光感度が変動し得る。そのような変動は、各アナログサンプリング回路603について露光時間またはサンプル時間を決定する際に、考慮される必要があり得る。
さまざまな実施形態において、コンデンサ604(0)は、コンデンサ604(1)と実質的に同一であってもよい。たとえば、コンデンサ604(0)および604(1)は実質的に同一の容量値を有してもよい。そのような実施形態において、フォトダイオード電流I_PDは、コンデンサ604(0)とコンデンサ604(1)との間で、これらのコンデンサが実質的に同一の程度(rage)で放電される時間の第1の部分の間、均一に分離され得る。その後、フォトダイオード電流は、コンデンサ604(0)および604(1)のうちの1つの選択されたコンデンサに、選択されたコンデンサが時間の第1の部分に関連付けられる速度の2倍で放電する時間の第2の部分の間、方向付けられ得る。一実施形態において、コンデンサ604(0)とコンデンサ604(1)との間で異なる電圧またはサンプルを得るために、アナログサンプリング回路のうちの1つのサンプル信号618は、フォトダイオード電流I_PDの少なくとも部分を受け取る任意の他のアナログサンプリング回路603についてサンプル信号618がアクティベートされるよりも長いまたは短い期間の間、アクティベートされ得る。
実施形態において、1つのアナログサンプリング回路603のサンプル信号618のアクティベーションは、同じセル600における別のアナログサンプリング回路603の別のサンプル信号618のアクティベーションに基づいて制御されるように構成され得る。たとえば、第1のアナログサンプリング回路603(0)のサンプル信号618(0)は、第2のアナログサンプリング回路603(1)のサンプル信号618(1)についてのアクティベーション期間に対して2:1の比率になるように制御される期間の間、アクティベートされ得る。より多くの具体的な例として、2:1の制御比率によって、サンプル信号618(1)が1/60秒の期間の間アクティベートされるように選択されている場合、サンプル信号618(0)が1/30秒の期間の間アクティベートされることになり得る。当然、各サンプル信号618についてのアクティベーションまたは露光時間は、1秒、1/120秒、1/1000秒などといった他の期間について制御されてもよく、または、0.5:1、1.2:1、1.5:1、3:1などといった他の比率について制御されてもよい。一実施形態において、サンプル信号618のうちの少なくとも1つのアクティベーションの期間は、デジタル写真撮影システム300のようなデジタル写真撮影システム上で実行されるソフトウェアによって、または、デジタルカメラの「手動モード」とインタラクションするユーザのようなユーザによって、制御されてもよい。たとえば、サンプル信号618のうちの少なくとも1つのアクティベーションの期間は、シャッター速度のユーザ選択に基づいて制御され得る。2:1の露光を達成するためには、電流が全体的な露光プロセスの一部の間に分割することにより、3:1の露光時間が必要であり得る。
他の実施形態において、コンデンサ604(0)および604(1)は異なる容量値を有し得る。一実施形態において、フォトダイオード602からの電流I_PDに対して、アナログサンプリング回路603のうちの1つを同じセル600の他のアナログサンプリング回路603より感度がより高くまたは低くする目的で、コンデンサ604(0)および604(1)は異なる容量値を有し得る。たとえば、同じセル600の他のコンデンサ604より著しく大きな容量を有するコンデンサ604は、有意な量の入射光601を有する写真撮影シーンを捕捉する際に、完全には放電しにくくなり得る。そのような実施形態において、コンデンサ604(0)とコンデンサ604(1)との間の格納された電圧またはサンプルにおける如何なる差も、サンプル信号618の異なるアクティベーション時間に関連して、異なる容量値の関数となり得る。
実施形態において、サンプル信号618(0)およびサンプル信号618(1)は、アクティブ状態に独立してアサートされ得る。別の実施形態において、サンプル信号618(0)およびサンプル信号618(1)は、同時にアクティブ状態にアサートされ、一方が他方より早い時間にディアクティベートされ、これにより、一部の時間の間、実質的に同時にサンプリングされるが各々が異なる有効な露光時間またはサンプル時間を有する画像を生成する。サンプル信号618(0)およびサンプル信号618(1)の両方が同時にアサートされるごとに、フォトダイオード電流I_PDは、放電コンデンサ604(0)と放電コンデンサ604(1)との間で分割され得る。
一実施形態において、感光セル600は、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)が、少なくとも1つの共有コンポーネントを共有するように構成され得る。さまざまな実施形態において、少なくとも1つの共有コンポーネントは、画像センサのフォトダイオード602を含み得る。他の実施形態において、少なくとも1つの共有コンポーネントは、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)が共有リセットを利用して同時にリセットされ得るように、リセットを含み得る。図6Aの文脈において、感光セル600は、アナログサンプリング回路603(0)とアナログサンプリング回路603(1)との間の共有リセットを含み得る。たとえば、リセット616(0)は、リセット616(1)に結合され得、両者は、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)の両方を同時にリセットするために使用され得るリセット616(1)とリセット616(0)が同じ信号であるように、一緒にアサートされ得る。リセットの後、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)は、一緒にサンプリングするようにアサートされ得る。
別の実施形態において、第1のアナログサンプリング回路603(0)についてのサンプル信号618(0)は、第2のアナログサンプリング回路603(1)についてのサンプル信号618(1)とは独立し得る。一実施形態において、第1のアナログサンプリング回路603(0)についての行選択634(0)は、第2のアナログサンプリング回路603(1)についての行選択634(1)とは独立し得る。他の実施形態において、第1のアナログサンプリング回路603(0)のための行選択634(0)は、第2のアナログサンプリング回路603(1)についての行選択634(1)と共有される行選択信号を含み得る。さらに別の実施形態において、第1のアナログサンプリング回路603(0)の出力608(0)の出力信号は、第2のアナログサンプリング回路603(1)の出力608(1)の出力信号とは独立し得る。別の実施形態において、第1のアナログサンプリング回路603(0)の出力信号は、第2のアナログサンプリング回路603(1)の出力信号と共有される出力を利用し得る。出力を共有する実施形態において、第1のアナログサンプリング回路603(0)の行選択634(0)は、第2のアナログサンプリング回路603(1)の行選択634(1)とは独立していることが必要であり得る。行選択信号を共有する実施形態において、第1のアナログサンプリング回路603(0)の出力608(0)のラインが、第2のアナログサンプリング回路603(1)の出力608(1)のラインとは独立していることが必要であり得る。
一実施形態において、図5Aのカラム信号532は、出力608(0)および608(1)の複数の独立した出力信号のうちの1つの出力信号を含み得る。さらに、図5Aの行制御信号530は、画素の所与の行について共有され得る行選択634(0)および634(1)の独立した行選択信号のうちの1つを含み得る。共有された行選択信号を実現するセル600の実施形態において、行選択634(0)は行選択634(1)に結合され得、両者は一緒に同時にアサートされ得る。
実施形態において、所与の行の画素は、1つ以上の行のセルを含み得る。セルの各行は、セルの各行が、アナログサンプリング回路603(0)および603(1)の複数の対を含むように、感光セル600の複数のインスタンスを含む。たとえば、セルの所与の行は、複数の第1のアナログサンプリング回路603(0)を含み得、第1のアナログサンプリング回路603(0)の各々とペアにされる異なる第2のアナログサンプリング回路603(1)をさらに含み得る。一実施形態において、複数の第1のアナログサンプリング回路603(0)は、複数の第2のアナログサンプリング回路603(1)から独立して駆動され得る。別の実施形態において、複数の第1のアナログサンプリング回路603(0)は、複数の第2のアナログサンプリング回路603(1)と並列に駆動され得る。たとえば、所与の行のセルの第1のアナログサンプリング回路603(0)の各々の各出力608(0)は、列信号532の1つのセットを通じて並列に駆動され得る。さらに、所与の行のセルの第2のアナログサンプリング回路603(1)の各々の各出力608(1)は、列信号532の第2の並列なセットを通じて並列に駆動され得る。
この目的のために、入射光601に基づいて第1のサンプルおよび第2のサンプルの両方を少なくとも部分的に同時に生成および格納するように、感光セル600が利用され得る。具体的には、第1のサンプルは、第1の露光時間の間に、捕捉され第1のコンデンサ上に格納され得、第2のサンプルは、第2の露光時間の間に、少なくとも部分的に同時に、捕捉され第2のコンデンサ上に格納される。さらに、行選択634(0)がアクティベートされると、2つの異なるサンプルのうちの第1のサンプルに対応する出力電流信号は出力608(0)に結合され得、行選択634(1)がアクティベートされると、2つの異なるサンプルの第2のサンプルに対応する出力電流信号は出力608(1)に結合され得る。
一実施形態において、第1の値は、第1の露光時間において、複数の画素について第1のアナログ画素データを含んでいる第1のアナログ信号に含まれ得、第2の値は、第2の露光時間において、複数の画素について第2のアナログ画素データを含んでいる第2のアナログ信号に含まれ得る。さらに、第1のアナログ信号は、1つ以上のデジタル画像の第1のスタックを生成するために利用され得、第2のアナログ信号は1つ以上のデジタル画像の第2のスタックを生成するために利用され得る。画像の第1のスタックと画像の第2のスタックの間の如何なる差も、第1の露光時間と第2の露光時間の間の差に少なくとも部分的に基づき得る。したがって、感光セル600のアレイが、同時に複数のデジタル画像を捕捉するために利用され得る。
図6Bは、ある実施形態に従うアナログ画素データをデジタル画素データに変換するためのシステムを示す。選択肢として、図6Bのシステムは本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、図6Bのシステムは任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図6Bに示されるように、アナログ画素データ621が、制御ユニット514の制御下でアナログ−デジタルユニット622において列読出回路520から受信される。アナログ画素データ621は、上述のようにアナログ信号内で受信されてもよい。さらに、アナログ−デジタルユニット622は、受信したアナログ画素データ621に基づいてデジタル画素データ625を生成する。
一実施形態において、アナログ画素データ621のユニークインスタンスは、個々のアナログ値の順序集合として、すべての対応するアナログサンプリング回路またはサンプル記憶ノードから出力されるすべてのアナログ値を含み得る。たとえば、前述の図の文脈において、画素アレイ510の複数の画素540のセル542〜545の各セルは、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)の両方を含み得る。したがって、画素アレイ510は複数の第1のアナログサンプリング回路603(0)を含み得、さらに複数の第2のアナログサンプリング回路603(1)を含み得る。言いかえれば、画素アレイ510は、各セルについて第1のアナログサンプリング回路603(0)を含み得、さらに各セルについて第2のアナログサンプリング回路603(1)を含み得る。実施形態において、複数の第1のアナログサンプリング回路603(0)の各アナログサンプリング回路から、離散アナログ値を含んでいるアナログ画素データ621の第1のインスタンスが受け取られ得、複数の第2のアナログサンプリング回路603(1)の各アナログサンプリング回路から、離散アナログ値を含んでいるアナログ画素データ621の第2のインスタンスが受け取られ得る。したがって、画素アレイのセルが2つ以上のアナログサンプリング回路を含む実施形態において、画素アレイは、各々がアナログ画素データ621のユニークインスタンスを含む2つ以上の離散アナログ信号を出力し得る。
いくつかの実施形態において、画素アレイのセルのサブセットのみが、2つ以上のアナログサンプリング回路を含み得る。たとえば、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)の両方をすべてのセルが含み得るわけではない。
図6Bを引き続き参照して、アナログ−デジタルユニット622は増幅器650およびアナログ−デジタル変換器654を含む。一実施形態において、増幅器650はアナログ画素データ621のインスタンスおよびゲイン652を受信し、ゲイン652をアナログ画素データ621に適用して、ゲイン調整されたアナログ画素データ623を生成する。ゲイン調整されたアナログ画素データ623は増幅器650からアナログ−デジタル変換器654に送信される。アナログ−デジタル変換器654はゲイン調整されたアナログ画素データ623を受信し、ゲイン調整されたアナログ画素データ623をデジタル画素データ625に変換し、当該データは次いでアナログ−デジタル変換器654から送信される。他の実施形態では、増幅器650はアナログ−デジタルユニット622内ではなく列読出回路520内で実現されてもよい。アナログ−デジタル変換器654は、任意の技術的に実行可能なアナログ−デジタル変換技術を用いて、ゲイン調整されたアナログ画素データ623をデジタル画素データ625に変換してもよい。
ある実施形態において、ゲイン調整されたアナログ画素データ623は、ゲイン652をアナログ画素データ621に適用することによって得られる。一実施形態において、ゲイン652はアナログ−デジタルユニット622によって選択されてもよい。別の実施形態において、ゲイン652は制御ユニット514によって選択され、次いで、アナログ画素データ621に適用されるために制御ユニット514からアナログ−デジタルユニット622に供給されてもよい。
一実施形態において、ゲイン652をアナログ画素データ621に適用した結果、ゲイン調整されたアナログ画素データ623にアナログノイズが現われ得ることに留意すべきである。画素アレイ510から非常に感度の高いデータを得るために、増幅器650が著しく大きいゲインをアナログ画素データ621に付与した場合は、ゲイン調整されたアナログ画素データ623内に大量のノイズが予想され得る。一実施形態において、そのようなノイズの悪影響は、減少した全露光において光学シーン情報を捕捉することによって減少し得る。そのような実施形態では、ゲイン652をアナログ画素データ621に適用することによって、露光が適切でノイズが減少した、ゲイン調整されたアナログ画素データを得ることができる。
一実施形態において、増幅器650はトランスインピーダンス増幅器(TIA)であってもよい。さらに、ゲイン652はデジタル値によって指定されてもよい。一実施形態において、ゲイン652を指定するデジタル値は、デジタル写真撮影デバイスを「マニュアル」モードで操作することによってなど、デジタル写真撮影デバイスのユーザによって設定されてもよい。さらに、デジタル値はデジタル写真撮影デバイスのハードウェアまたはソフトウェアによって設定されてもよい。選択肢として、デジタル値は、デジタル写真撮影デバイスのソフトウェアと連携して作業するユーザによって設定されてもよい。
一実施形態において、ゲイン652を指定するために用いられるデジタル値はISOと関連付けられてもよい。写真撮影の分野において、ISOシステムは光感度を指定するための確立された規格である。一実施形態において、増幅器650は、アナログ画素データ621に適用すべきゲイン652を指定するデジタル値を受信する。別の実施形態において、従来のISO値から、ゲイン652として増幅器650に与えられ得るデジタルゲイン値へのマッピングがあってもよい。たとえば、ISO100、ISO200、ISO400、ISO800、ISO1600等の各々が異なるデジタルゲイン値に一意にマップされてもよく、特定のISOを選択すると、マップされたデジタルゲイン値がゲイン652として適用されるために増幅器650に与えられる。一実施形態において、1つ以上のISO値が1のゲインにマップされてもよい。当然、他の実施形態では、1つ以上のISO値がその他のゲイン値にマップされてもよい。
したがって、一実施形態において、各アナログ画素値は特定のISO値を前提として輝度が調整されてもよい。ゆえに、そのような実施形態では、ゲイン調整されたアナログ画素データ623は輝度補正された画素データを含んでいてもよく、輝度は指定されたISOに基づいて補正される。別の実施形態において、ある画像についてゲイン調整されたアナログ画素データ623は、当該画像が特定のISOでサンプリングされたかのような輝度を画像内に有する画素を含んでいてもよい。
ある実施形態に従うと、デジタル画素データ625は、画素アレイ510を用いて捕捉された画像の画素を表す複数のデジタル値を含んでいてもよい。
一実施形態において、デジタル画素データ625のインスタンスは、受け取られたアナログ画素データ621の各インスタンスについて出力され得る。したがって、画素アレイ510が複数の第1のアナログサンプリング回路603(0)を含み、さらに複数の第2のアナログサンプリング回路603(1)を含む場合、離散アナログ値を含んでいるアナログ画素データ621の第1のインスタンスが、第1のアナログサンプリング回路603(0)の各々から受け取られ得、離散アナログ値を含んでいるアナログ画素データ621の第2のインスタンスが、第2のアナログサンプリング回路603(1)の各々から受け取られ得る。そのような実施形態において、デジタル画素データ625の第1のインスタンスは、アナログ画素データ621の第1のインスタンスに基づいて出力され得、デジタル画素データ625の第2のインスタンスはアナログ画素データ621の第2のインスタンスに基づいて出力され得る。
さらに、デジタル画素データ625の第1のインスタンスは、画素アレイ510のうちの複数の第1のアナログサンプリング回路603(0)を使用して捕捉される第1の画像の画素を表わす複数のデジタル値を含み得、デジタル画素データ625の第2のインスタンスは、画素アレイ510のうちの複数の第2のアナログサンプリング回路603(1)を使用して捕捉される第2の画像の画素を表わす複数のデジタル値を含み得る。デジタル画素データ625の第1のインスタンスおよびデジタル画素データ625の第2のインスタンスが同じゲイン652を利用して生成される場合、デジタル画素データのインスタンス同士間の如何なる差も、複数の第1のアナログサンプリング回路603(0)の露光時間と複数の第2のアナログサンプリング回路603(1)の露光時間との間の差の関数であり得る。
いくつかの実施形態において、デジタル画素データ625の2つ以上のインスタンスがアナログ画素データ621の各インスタンスについて出力され得るように、2つ以上のゲイン652がアナログ画素データ621のインスタンスに適用され得る。たとえば、2つ以上のゲインが、アナログ画素データ621の第1のインスタンスおよびアナログ画素データ621の第2のインスタンス両方に適用され得る。そのような実施形態において、アナログ画素データ621の第1のインスタンスは、画素アレイ510の複数の第1のアナログサンプリング回路603(0)の各々からの離散アナログ値を含み得、アナログ画素データ621の第2のインスタンスは、画素アレイ510の複数の第2のアナログサンプリング回路603(1)の各々からの離散アナログ値を含み得る。したがって、4つ以上の対応するデジタル画像に関連付けられるデジタル画素データ625の4つ以上のインスタンスが、写真撮影シーンの画素アレイ510によって単一の捕捉から生成され得る。
図7は、ある実施形態に従うアナログ信号のアナログ画素データをデジタル画素データに変換するためのシステム700を示す。選択肢として、システム700は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、システム700は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
システム700は、図7において、第1のアナログ記憶面702(0)、第1のアナログ−デジタルユニット722(0)、および、第1のデジタル画像スタック732(0)を含むのが示されており、さらに、第2のアナログ記憶面702(1)、第2のアナログ−デジタルユニット722(1)、および、第2のデジタル画像スタック732(1)を含むのが示される。したがって、システム700は少なくとも2つのアナログ記憶面702(0)および702(1)を含むのが示されている。図7に示されるように、アナログ記憶面702の各々内において、複数のアナログ値が各々「V」として示されており、画像スタック732の各々のデジタル画像内において、対応するデジタル値が各々「D」として示されている。
特定の実施形態の文脈において、各アナログ記憶面702は1つ以上のアナログ値の任意の集合を含んでいてもよい。いくつかの実施形態において、各アナログ記憶面702は、画素アレイの行またはラインの画素ごとに少なくとも1つのアナログ画素値を含んでいてもよい。さらに、別の実施形態において、各アナログ記憶面702は、フレームと称され得る画素アレイの全体の画素ごとに少なくとも1つのアナログ画素値を含んでいてもよい。たとえば、各アナログ記憶面702は、アナログ値を含んでいてもよく、または、より一般的には、画素アレイのすべてのラインまたは行の各画素のセルごとにアナログ値を含んでいてもよい。
さらに、各アナログ記憶面702のアナログ値は、アナログ画素データ704として、対応するアナログ−デジタルユニット722に出力される。たとえば、アナログ記憶面702(0)のアナログ値はアナログ−デジタルユニット722(0)にアナログ画素データ704(0)として出力され、アナログ記憶面702(1)のアナログ値はアナログ−デジタルユニット722(1)にアナログ画素データ704(1)として出力される。一実施形態において、各アナログ−デジタルユニット722は、図6Bの文脈内で説明したアナログ−デジタルユニット622と実質的に同一であってもよい。たとえば、各アナログ−デジタルユニット722は少なくとも1つの増幅器および少なくとも1つのアナログ−デジタル変換器を含んでいてもよく、当該増幅器はゲイン値を受け取り、当該ゲイン値を利用して、アナログ−デジタルユニット722において受け取ったアナログ画素データをゲイン調整するように動作可能である。さらに、そのような実施形態では、増幅器はゲイン調整されたアナログ画素データをアナログ−デジタル変換器に送信してもよく、当該変換器は次いで、ゲイン調整されたアナログ画素データからデジタル画素データを生成する。この目的のために、2つ以上の異なるアナログ記憶面702の各々のコンテンツに対してアナログデジタル変換が実行され得る。
図7のシステム700の文脈において、各アナログ−デジタルユニット722は対応するアナログ画素データ704を受け取り、受け取ったアナログ画素データ704に少なくとも2つの異なるゲインを適用して、少なくとも第1のゲイン調整されたアナログ画素データおよび第2のゲイン調整されたアナログ画素データを生成する。たとえば、アナログ−デジタルユニット722(0)はアナログ画素データ704(0)を受け取り、アナログ画素データ704(0)に少なくとも2つの異なるゲインを適用し、これにより、少なくとも第1のゲイン調整アナログ画素データおよび第2のゲイン調整アナログ画素データをアナログ画素データ704(0)に基づいて生成する。アナログ−デジタルユニット722(1)はアナログ画素データ704(1)を受け取り、アナログ画素データ704(1)に少なくとも2つの異なるゲインを適用し、これにより、少なくとも第1のゲイン調整アナログ画素データおよび第2のゲイン調整アナログ画素データをアナログ画素データ704(1)に基づいて生成する。
さらに、各アナログ−デジタルユニット722は、生成したゲイン調整アナログ画素データの各々をデジタル画素データに変換してから、少なくとも2つのデジタル出力を出力する。一実施形態において、各アナログ−デジタルユニット722は、受け取られたアナログ画素データ704に適用される各ゲインに対応する異なるデジタル出力を提供する。具体的には、図7に関して、アナログ−デジタルユニット722(0)は、第1のゲイン(ゲイン1)に対応する第1のデジタル画素データ723(0)を含む第1のデジタル信号と、第2のゲイン(ゲイン2)に対応する第2のデジタル画素データ724(0)を含む第2のデジタル信号と、第3のゲイン(ゲイン3)に対応する第3のデジタル画素データ725(0)を含む第3のデジタル信号とを生成するのが示されている。同様に、アナログ−デジタルユニット722(1)は、第1のゲイン(ゲイン1)に対応する第1のデジタル画素データ723(1)を含む第1のデジタル信号と、第2のゲイン(ゲイン2)に対応する第2のデジタル画素データ724(1)を含む第2のデジタル信号と、第3のゲイン(ゲイン3)に対応する第3のデジタル画素データ725(1)を含む第3のデジタル信号とを生成するのが示されている。各デジタル画素データのインスタンスは、各デジタル信号がデジタル画像を含むように各デジタル画像を含み得る。
したがって、アナログ−デジタルユニット722(0)が、アナログ画素データ704(0)にゲイン1、ゲイン2およびゲイン3の各々を適用することにより、第1のデジタル画素データ723(0)、第2のデジタル画素データ724(0)および第3のデジタル画素データ725(0)を生成した結果、アナログ−デジタルユニット722(0)は、画像スタック732(0)とも称されるデジタル画像のスタックを生成する。同様に、アナログ−デジタルユニット722(1)が、アナログ画素データ704(1)にゲイン1、ゲイン2およびゲイン3の各々を適用することにより、第1のデジタル画素データ723(1)、第2のデジタル画素データ724(1)および第3のデジタル画素データ725(1)を生成した結果、アナログ−デジタルユニット722(1)は、画像スタック732(1)とも称されるデジタル画像の第2のスタックを生成する。
一実施形態において、各アナログ−デジタルユニット722は少なくとも2つのゲインをアナログ値に連続して適用する。たとえば、図7の文脈において、アナログ−デジタルユニット722(0)は、第1にアナログ画素データ704(0)にゲイン1を適用し、その後、同じアナログ画素データ704(0)にゲイン2を適用し、その後、同じアナログ画素データ704(0)にゲイン3を適用する。他の実施形態では、各アナログ−デジタルユニット722は少なくとも2つのゲインをアナログ値に並行して適用してもよい。たとえば、アナログ−デジタルユニットは、アナログ画素データに対するゲイン2およびゲイン3の適用と並行して、受け取られたアナログ画素データにゲイン1を適用し得る。この目的のために、アナログ画素データ704の各インスタンスは、少なくとも2つのゲインを利用して増幅される。
一実施形態において、アナログ−デジタルユニット722(0)においてアナログ画素データ704(0)に適用されるゲインは、アナログ−デジタルユニット722(1)においてアナログ画素データ704(1)に適用されるゲインと同じであり得る。具体的な例として、アナログ−デジタルユニット722(0)およびアナログ−デジタルユニット722(1)両方によって適用されるゲイン1は1.0のゲインであり得、アナログ−デジタルユニット722(0)およびアナログ−デジタルユニット722(1)の両方によって適用されるゲイン2は2.0のゲインであり得、アナログ−デジタルユニット722(0)およびアナログ−デジタルユニット722(1)の両方によって適用されるゲイン3は4.0のゲインであり得る。別の実施形態において、アナログ−デジタルユニット722(0)においてアナログ画素データ704(0)に適用されるゲインの1つ以上は、アナログ−デジタルユニット722(1)においてアナログ画素データ704(1)に適用されるゲインとは異なり得る。たとえば、アナログ−デジタルユニット722(0)において適用されるゲイン1は1.0のゲインであり得、アナログ−デジタルユニット722(1)において適用されるゲイン1は2.0のゲインであり得る。したがって、各アナログ−デジタルユニット722で適用されるゲインは、システム700内の他のアナログ−デジタルユニット722において適用されるゲインに依存してまたは当該ゲインから独立して、選択され得る。
一実施形態に従うと、少なくとも2つのゲインは、写真撮影シーンの露光、計測データ、ユーザ入力、検出された周囲光、ストロボ制御、または上記のいずれかの組合せに基づく任意の技術的に実行可能な技術を用いて決定されてもよい。たとえば、少なくとも2つのゲインのうちの第1のゲインは、アナログ記憶面702からのデジタル値の半分が、「EV0」露光を有すると特徴付けられ得る画像スタック732の第1のデジタル画像を含むデジタル値と関連付けられているダイナミックレンジについての指定閾値(たとえば0.0から1.0の範囲内の0.5の閾値)よりも高いデジタル値に変換されるように決定されてもよい。この例を続けて、少なくとも2つのゲインのうちの第2のゲインは、「EV+1」露光を有すると特徴付けられる画像スタック732の第2のデジタル画像を生成するように第1のゲインの2倍であるとして決定されてもよい。さらに、少なくとも2つのゲインのうちの第3のゲインは、「EV−1」露光を有すると特徴付けられる画像スタック732の第3のデジタル画像を生成するように第1のゲインの半分であるとして決定されてもよい。
一実施形態において、アナログ−デジタルユニット722が、ゲイン調整アナログ画素データの第1のインスタンスを第1のデジタル画素データ723に、ゲイン調整アナログ画素データの第2のインスタンスを第2のデジタル画素データ724に、ゲイン調整アナログ画素データの第3のインスタンスを第3のデジタル画素データ725に順に変換する。たとえば、アナログ−デジタルユニット722はまず、ゲイン調整アナログ画素データの第1のインスタンスを第1のデジタル画素データ723に変換し、その後、ゲイン調整アナログ画素データの第2のインスタンスを第2のデジタル画素データ724に変換し、その後、ゲイン調整アナログ画素データの第3のインスタンスを第3のデジタル画素データ725に変換し得る。他の実施形態において、アナログ−デジタルユニット722は、第1のデジタル画素データ723、第2のデジタル画素データ724および第3のデジタル画素データ725のうちの1つ以上が並行して生成されるように、そのような変換を並列で実行してもよい。
さらに、図7に示されるように、各第1のデジタル画素データ723は第1のデジタル画像を提供する。同様に、各第2のデジタル画素データ724は第2のデジタル画像を提供し、各第3のデジタル画素データ725は第3のデジタル画像を提供する。単一のアナログ記憶面702のアナログ値を使用してともに作り出されたデジタル画像の各セットは、画像スタック732を含む。たとえば、画像スタック732(0)は、アナログ記憶面702(0)のアナログ値を使用して作り出されるデジタル画像を含み、画像スタック732(1)は、アナログ記憶面702(1)のアナログ値を使用して作り出されるデジタル画像を含む。
図7に示されるように、画像スタック732のすべてのデジタル画像は、同じアナログ画素データ704に基づき得る。しかしながら、画像スタック732の各デジタル画像は、2つのデジタル画像を生成するために使用されるゲイン間の差の関数として、画像スタック732における他のデジタル画像と異なり得る。具体的には、少なくとも2つのゲインのうち最大のゲインを使用して生成されるデジタル画像は、画像スタック732のデジタル画像のうち最も明るいまたは露光が多いと視覚的に認識され得る。逆に、少なくとも2つのゲインのうちの最小のゲインを用いて生成されたデジタル画像は、最も暗いまたは画像スタック732の他のデジタル画像よりも露光が少ないと視覚的に認識され得る。この目的のために、第1の光感度値が第1のデジタル画素データ723に関連付けられ得、第2の光感度値が第2のデジタル画素データ724に関連付けられ得、第3の光感度値が第3のデジタル画素データ725に関連付けられ得る。さらに、ゲインの各々が異なる光感度値に関連付けられ得るので、第1のデジタル画像または第1のデジタル信号は第1の光感度値に関連付けられ得、第2のデジタル画像または第2のデジタル信号は第2の光感度値に関連付けられ得、第3のデジタル画像または第3のデジタル信号は第3の光感度値に関連付けられ得る。
アナログ画素データへのゲインの制御された適用はHDR画像生成を大きく助け得るが、適用するゲインが大き過ぎると、ノイズが多い、露光過多である、および/または白飛び(blown-out)であると視覚的に認識されるデジタル画像が生じ得ることに留意すべきである。一実施形態において、ゲインの2ストップをアナログ画素データに適用すると、写真撮影シーンの暗い部分について視覚的に認識可能なノイズが、および写真撮影シーンの明るい部分について視覚的に認識不可能なノイズが付与され得る。別の実施形態において、デジタル写真撮影デバイスは、捕捉された写真撮影シーンのアナログ画素データについてアナログ記憶面を提供し、次いでアナログ−デジタルユニット722を用いて同じアナログ画素データの少なくとも2つのアナログ−デジタルサンプリングを実行するように構成されてもよい。この目的で、デジタル画像が少なくとも2つのサンプリングのサンプリングごとに生成されてもよく、各デジタル画像は、すべてのデジタル画像が画像センサ上に合焦される単一の光学画像の同じアナログサンプリングから生成されているにもかかわらず、異なる露光で得られる。
一実施形態において、当初の露光パラメータはユーザによって、またはデジタル写真撮影デバイスの計測アルゴリズムによって選択されてもよい。当初の露光パラメータは、ユーザ入力、または特定の捕捉変数を選択するソフトウェアに基づいて選択されてもよい。そのような捕捉変数は、たとえば、ISO、アパーチャ、およびシャッター速度を含んでいてもよい。画像センサは次いで、当初の露光パラメータで写真撮影シーンを捕捉し、画像センサ上に合焦される光学画像に対応する第1の複数のアナログ値で第1のアナログ記憶面をポピュレートしてもよい。第1のアナログ記憶面をポピュレートすることと少なくとも部分的に同時に、第2のアナログ記憶面は、画像センサに合焦される光像に対応する第2の複数のアナログ値でポピュレートされ得る。前述の図の文脈において、第1のアナログ記憶面702(0)は、画素アレイ510の複数の第1のアナログサンプリング回路603(0)から出力される複数のアナログ値でポピュレートされ得、第2のアナログ記憶面702(1)は、画素アレイ510の複数の第2のアナログサンプリング回路603(1)から出力される複数のアナログ値でポピュレートされ得る。
言いかえれば、各感光セルが2つのアナログサンプリング回路を含む実施形態において、アナログ記憶面のうちの第1のアナログ記憶面がセルのアナログサンプリング回路のうちの1つから出力される第1のアナログ値出力を格納し、アナログ記憶面のうちの第2のアナログ記憶面が同じセルの他のアナログサンプリング回路から出力される第2のアナログ値を格納するように、2つのアナログ記憶面が構成され得る。この構成において、アナログ記憶面の各々は、画素アレイまたは画像センサの画素から受け取られる少なくとも1つのアナログ値を格納し得る。
さらに、アナログ記憶面の各々は、画素アレイまたは画像センサの所与の画素について異なるアナログ値を受け取り格納し得る。たとえば、所与の画素について受け取られ第1のアナログ記憶面に格納されたアナログ値は、第1の露光時間の間に捕捉された第1のサンプルに基づいて出力され得、所与の画素について受け取られ第2のアナログ記憶面に格納された対応するアナログ値は、第1の露光時間と異なる第2の露光時間の間に捕捉された第2のサンプルに基づいて出力され得る。したがって、一実施形態において、第1のアナログ記憶面に格納された実質的にすべてのアナログ値は、第1の露光時間の間に得られたサンプルに基づき得、第2のアナログ記憶面に格納された実質的にすべてのアナログ値は、第1の露光時間と異なる第2の露光時間の間に得られたサンプルに基づき得る。
この記載の文脈において、初期露光パラメータの写真撮影シーンの「単一露光」は、少なくとも部分的に同時に、アナログサンプリング回路の2つ以上のセットを使用して写真撮影シーンを捕捉することを含み得、アナログサンプリング回路の各セットは異なる露光時間で動作するように構成され得る。アナログサンプリング回路の2つ以上のセットを使用する写真撮影シーンの捕捉の間に、写真撮影シーンは、環境光によって照らされ得るか、または、ストロボユニットを使用して照らされ得る。さらに、アナログサンプリング回路の2つ以上のセットを使用して写真撮影シーンを捕捉した後、2つ以上のアナログ記憶面(たとえばアナログサンプリング回路の各セットにつき1つの記憶面)が、画像センサに合焦した光学画像に対応するアナログ値でポピュレートされてもよい。次に、上記のシステムおよび方法に従って、第1のアナログ記憶面のアナログ値に1つ以上のゲインを適用することによって、第1の画像スタックの1つ以上のデジタル画像が得られ得る。さらに、上記のシステムおよび方法に従って、第2のアナログ記憶面のアナログ値に1つ以上のゲインを適用することによって、第2の画像スタックの1つ以上のデジタル画像が得られ得る。
この目的のために、1つ以上の画像スタック732が、写真撮影シーンの単一露光に基づいて生成され得る。一実施形態において、特定の画像スタック732の各デジタル画像は、共通露光時間またはサンプル時間に基づいて生成され得るが、ユニークゲインを利用して生成され得る。そのような実施形態において、写真撮影シーンの単一露光の画像スタック732の各々は、異なるサンプル時間に基づいて生成され得る。
一実施形態において、画像スタック732の第1のデジタル画像が上述のシステムおよび方法に従って第1のゲインを利用して得られてもよい。たとえば、当初の露光パラメータがISO400の選択を含むようにデジタル写真撮影デバイスが構成されている場合、第1のデジタル画像を得るために利用される第1のゲインはISO400にマップされてもよく、またはそうでなければISO400と関連付けられてもよい。この第1のデジタル画像は、露光値0(EV0)で得られる露光または画像と称され得る。さらに、1つ以上のデジタル画像が上述のシステムおよび方法に従って第2のゲインを利用して得られてもよい。たとえば、第1のデジタル画像を生成するために用いられるのと同じアナログ画素データが第2のゲインを利用して処理されて第2のデジタル画像を生成してもよい。さらに、1つ以上のデジタル画像が上述のシステムおよび方法に従って第2のアナログ記憶面を利用して得られてもよい。たとえば、第2のアナログ画素データは、第1のデジタル画像を生成するために使用されるアナログ画素データとは異なる第2のデジタル画像を生成するために使用されてもよい。具体的には、第1のデジタル画像を生成するために使用されるアナログ画素データは第1のサンプル時間を使用して捕捉され、第2のアナログ画素データは、第1のサンプル時間と異なる第2のサンプル時間を使用して捕捉され得た。
この目的のために、少なくとも2つのデジタル画像が異なるアナログ画素データを用いて生成されてブレンドされ、HDR画像を生成してもよい。当該少なくとも2つのデジタル画像は、第1のデジタル信号と第2のデジタル信号とをブレンドすることによってブレンドされてもよい。写真撮影シーンの単一露光の間に捕捉された異なるアナログ画素データを使用して、少なくとも2つのデジタル画像が生成される場合、当該少なくとも2つのデジタル画像同士の間には約ゼロまたはほぼゼロのフレーム間時間が存在し得る。同じ写真撮影シーンの少なくとも2つのデジタル画像同士の間のフレーム間時間がゼロまたはほぼゼロである結果として、1つの可能な実施形態において、HDR画像を、HDR写真に典型的なモーションブラーまたは他のアーティファクトなしで生成することができる。
一実施形態において、画像スタック732の第1のデジタル画像を生成するための第1のゲインを選択した後、第2のゲインは第1のゲインに基づいて選択され得る。たとえば、第2のゲインは、第2のゲインが第1のゲインから1ストップ離れていることに基づいて選択されてもよい。より具体的には、第1のゲインがISO400にマップされているか関連付けられている場合は、ISO400から1ストップ下がるとISO200と関連付けられているゲインが提供され、ISO400から1ストップ上がるとISO800と関連付けられているゲインが提供される。そのような実施形態では、ISO200と関連付けられているゲインを利用して生成されるデジタル画像は露光値−1(EV−1)で得られる露光または画像と称され得、ISO800と関連付けられているゲインを利用して生成されるデジタル画像は露光値+1(EV+1)で得られる露光または画像と称され得る。
さらに、同じアナログ信号を利用して生成されるデジタル画像同士の間により有意な露光差が求められる場合は、第2のゲインは、第2のゲインが第1のゲインから2ストップ離れていることに基づいて選択されてもよい。たとえば、第1のゲインがISO400にマップされているか関連付けられている場合は、ISO400から2ストップ下がるとISO100と関連付けられているゲインが提供され、ISO400から2ストップ上がるとISO1600と関連付けられているゲインが提供される。そのような実施形態では、ISO100と関連付けられているゲインを利用して生成されるデジタル画像は露光値−2(EV−2)で得られる露光または画像と称され得、ISO1600と関連付けられているゲインを利用して生成されるデジタル画像は露光値+2(EV+2)で得られる露光または画像と称され得る。
一実施形態において、ISOおよびEV0画像の露光は、より暗いデジタル画像が生成されるように好みに従って選択されてもよい。そのような実施形態では、その意図は、最大ゲインを利用して生成されるデジタル画像である、最も明るいデジタル画像となるものの白飛びまたは露光過多を回避することであり得る。別の実施形態において、EV−1デジタル画像またはEV−2デジタル画像は第1の生成デジタル画像であってもよい。EV−1またはEV−2デジタル画像を生成したのに続いて、アナログ−デジタルユニットにおけるゲインの増加を利用してEV0デジタル画像が生成されてもよく、次いでアナログ−デジタルユニットにおけるゲインの第2の増加を利用してEV+1またはEV+2デジタル画像が生成されてもよい。一実施形態において、当初の露光パラメータはEV−Nデジタル画像に対応し、その後のゲインを用いてEV0デジタル画像、EV+Mデジタル画像、またはそれらのいずれかの組合せが得られ、NおよびMは0から−10の間の値である。
一実施形態において、3つの異なる露光を有する3つのデジタル画像(たとえばEV−2デジタル画像、EV0デジタル画像、およびEV+2デジタル画像)が、3つのアナログ−デジタルユニットを実現することによって並行して生成されてもよい。各アナログ−デジタルユニットは、1つ以上のアナログ信号値を対応するデジタル信号値に変換するように構成され得る。そのような実現例によって、EV−1デジタル画像、EV0デジタル画像、およびEV+1デジタル画像のすべてを同時に生成することもできる。同様に、他の実施形態において、露光のいずれかの組合せが、2つ以上のアナログ−デジタルユニット、3つ以上のアナログ−デジタルユニット、または任意の数のアナログ−デジタルユニットから並行して生成されてもよい。他の実施形態において、アナログ−デジタルユニットのセットは、2つ以上の異なるアナログ記憶面のいずれか上で各々が動作するように構成され得る。
図8は、さまざまな実施形態に従うアナログ信号を増幅するためのさまざまなタイミング構成を示す。選択肢として、図8のタイミング構成は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、図8のタイミング構成は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
具体的には、図8に示されるように、画素ごとのタイミング構成801が画素単位でアナログ信号を増幅するとして示されている。さらに、ラインごとのタイミング構成811がライン単位でアナログ信号を増幅するとして示されている。最後に、フレームごとのタイミング構成821がフレーム単位でアナログ信号を増幅するとして示されている。アナログ画素データと関連付けられている各増幅アナログ信号は、対応するデジタル信号値に変換されてもよい。
画素ごとのタイミング構成801を実現するシステムにおいて、アナログ画素データを含むアナログ信号がアナログ−デジタルユニットにおいて受信されてもよい。さらに、アナログ画素データは個々のアナログ画素値を含んでいてもよい。そのような実施形態では、第1の画素と関連付けられている第1のアナログ画素値がアナログ信号内で特定されて選択されてもよい。次に、第1のゲイン803、第2のゲイン805および第3のゲイン807の各々が、同じ第1のアナログ画素値に連続してまたは並行して適用されてもよい。いくつかの実施形態において、3つよりも少ないまたは多い異なるゲインが、選択されたアナログ画素値に適用されてもよい。たとえば、いくつかの実施形態において、満足のいくHDR画像を生成するためには2つの異なるゲインを同じアナログ画素値に適用するのみで十分であり得る。一実施形態において、第1のゲイン803、第2のゲイン805および第3のゲイン807の各々を適用した後、第2の画素と関連付けられている第2のアナログ画素値がアナログ信号内で特定されて選択されてもよい。第2の画素は第1の画素の隣接画素であってもよい。たとえば、第2の画素は第1の画素と同じ行内にあり、画像センサの画素アレイ上で第1の画素に隣接して位置していてもよい。次に、第1のゲイン803、第2のゲイン805および第3のゲイン807の各々が、同じ第2のアナログ画素値に連続してまたは並行して適用されてもよい。この目的で、画素ごとのタイミング構成801において、複数の連続したアナログ画素値がアナログ信号内で特定されてもよく、少なくとも2つのゲインのセットが画素単位で当該アナログ信号内の各画素に適用される。
さらに、画素ごとのタイミング構成801を実現するシステムにおいて、制御ユニットは、各画素が予め選択されたゲインを用いて増幅された後に適用すべき次のゲインを選択してもよい。別の実施形態において、制御ユニットは、アナログ画素データ704を含む第1のアナログ画素データ値のような、第1の画素に関連付けられる第1のアナログピクセル値に適用されることになる所定のゲインのセットによりサイクル動作して、当該セットにおける各ゲインが、その後に増幅器に到達する第2のアナログ画素データに所定のゲインのセットを適用する前に第1のアナログ画素データを増幅するために使用され得るように増幅器を制御し得る。一実施形態において、図8の文脈において示されるように、これは、第1のゲインを選択すること、第1のゲインを受信した第1のアナログ画素値に適用すること、第2のゲインを選択すること、第2のゲインを受信した第1のアナログ画素値に適用すること、第3のゲインを選択すること、選択した第3のゲインを受信した第1のアナログ画素値に適用すること、そして次いで、第2のアナログ画素値を受信し、選択した3つのゲインを、第1の画素値に適用したのと同じ順序で第2の画素値に適用することを含んでいてもよい。一実施形態において、各アナログ画素値は複数回読出されてもよい。概して、アナログ記憶面は、画素のアナログ画素値を読出のために保持するように利用され得る。
ラインごとのタイミング構成811を実現するシステムにおいて、アナログ画素データを含むアナログ信号がアナログ−デジタルユニットにおいて受信されてもよい。さらに、アナログ画素データは個々のアナログ画素値を含んでいてもよい。一実施形態において、画素アレイの画素の第1のラインと関連付けられているアナログ画素値の第1のラインがアナログ信号内で特定されて選択されてもよい。次に、第1のゲイン813、第2のゲイン815および第3のゲイン817の各々がアナログ画素値の同じ第1のラインに連続してまたは並行して適用されてもよい。いくつかの実施形態において、3つよりも少ないまたは多い異なるゲインが、アナログ画素値の選択されたラインに適用されてもよい。たとえば、いくつかの実施形態において、満足のいくHDR画像を生成するためには2つの異なるゲインをアナログ画素値の同じラインに適用するのみで十分であり得る。一実施形態において、第1のゲイン813、第2のゲイン815および第3のゲイン817の各々を適用した後、画素の第2のラインと関連付けられているアナログ画素値の第2のラインがアナログ信号内で特定されて選択されてもよい。画素の第2のラインは画素の第1のラインの隣接ラインであってもよい。たとえば、画素の第2のラインは、画像センサの画素アレイ内の画素の第1のラインの真上または真下に位置していてもよい。次に、第1のゲイン813、第2のゲイン815および第3のゲイン817の各々が、アナログ画素値の同じ第2のラインに連続してまたは並行して適用されてもよい。この目的で、ラインごとのタイミング構成811において、アナログ画素値の複数の連続したラインがアナログ信号内で特定され、少なくとも2つのゲインのセットがライン単位で当該アナログ信号内のアナログ画素値の各ラインに適用される。
さらに、ラインごとのタイミング構成811を実現するシステムにおいて、制御ユニットは、各ラインが予め選択されたゲインを用いて増幅された後に適用すべき次のゲインを選択してもよい。別の実施形態において、制御ユニットは、ラインに適用される予定の予め定められたゲインのセットを、アナログ画素値の第1のラインに続いて増幅器に到着するアナログ画素値の第2のラインに適用する前に、当該セットの各ゲインを用いてアナログ画素値の第1のラインが増幅されるように、当該予め定められたゲインのセットによりサイクル動作するように増幅器を制御してもよい。一実施形態において、図8の文脈において示されるように、これは、第1のゲインを選択すること、第1のゲインをアナログ画素値の受信した第1のラインに適用すること、第2のゲインを選択すること、第2のゲインをアナログ画素値の受信した第1のラインに適用すること、第3のゲインを選択すること、選択した第3のゲインをアナログ画素値の受信した第1のラインに適用すること、そして次いで、アナログ画素値の第2のラインを受信し、選択した3つのゲインを、アナログ画素値の第1のラインに適用したのと同じ順序でアナログ画素値の第2のラインに適用することを含んでいてもよい。一実施形態において、アナログ画素値の各ラインは複数回読出されてもよい。別の実施形態において、アナログ記憶面は、1本以上のラインのアナログ画素データ値を読出のために保持するように利用され得る。
フレームごとのタイミング構成821を実現するシステムにおいて、アナログ画素値を含む複数のアナログ画素データ値を含むアナログ信号がアナログ−デジタルユニットにおいて受信されてもよい。そのような実施形態では、画素の第1のフレームと関連付けられているアナログ画素値の第1のフレームがアナログ信号内で特定されて選択されてもよい。次に、第1のゲイン823、第2のゲイン825および第3のゲイン827の各々がアナログ画素値の同じ第1のフレームに連続してまたは並行して適用されてもよい。いくつかの実施形態において、3つよりも少ないまたは多い異なるゲインが、アナログ画素値の選択されたフレームに適用されてもよい。たとえば、いくつかの実施形態において、満足のいくHDR画像を生成するためには2つの異なるゲインをアナログ画素値の同じフレームに適用するのみで十分であり得る。
一実施形態において、第1のゲイン823、第2のゲイン825および第3のゲイン827の各々を適用した後、画素の第2のフレームと関連付けられているアナログ画素値の第2のフレームがアナログ信号内で特定されて選択されてもよい。画素の第2のフレームは、写真撮影シーンと関連付けられているビデオデータを捕捉する一連のフレーム内の次のフレームであってもよい。たとえば、デジタル写真撮影システムは30フレーム/秒のビデオデータを捕捉するように動作可能であり得る。そのようなデジタル写真撮影システムでは、画素の第1のフレームは上記30個のフレームのうちの1つのフレームであってもよく、画素の第2のフレームは上記30個のフレームのうちの第2のフレームであってもよい。さらに、第1のゲイン823、第2のゲイン825および第3のゲイン827の各々は第2のフレームのアナログ画素値に連続して適用されてもよい。この目的で、フレームごとのタイミング構成821において、アナログ画素値の複数の連続したフレームがアナログ信号内で特定されてもよく、少なくとも2つのゲインのセットがフレーム単位でアナログ画素値の各フレームに適用される。
さらに、フレームごとのタイミング構成821を実現するシステムにおいて、制御ユニットは、各フレームが予め選択されたゲインを用いて増幅された後に適用すべき次のゲインを選択してもよい。別の実施形態において、制御ユニットは、フレームに適用される予定の予め定められたゲインのセットを、後で増幅器に到着する第2のフレームと関連付けられているアナログ画素値に適用する前に、各ゲインを用いて第1のフレームと関連付けられているアナログ画素値が増幅されるように、当該予め定められたゲインのセットによりサイクル動作するように増幅器を制御してもよい。一実施形態において、図8の文脈において示されるように、これは、第1のゲインを選択すること、第1のゲインを第1のフレームと関連付けられているアナログ画素値に適用すること、第2のゲインを選択すること、第2のゲインを第1のフレームと関連付けられているアナログ画素値に適用すること、第3のゲインを選択すること、および第3のゲインを第1のフレームと関連付けられているアナログ画素値に適用することを含んでいてもよい。別の実施形態において、第1のフレームと関連付けられているアナログ画素値に選択したすべての3つのゲインを適用したのに引き続いて、第2のフレームと関連付けられているアナログ画素値が受信されてもよく、次いで、選択した3つのゲインは、第1のフレームに適用されたのと同じ順序で第2のフレームと関連付けられているアナログ画素値に適用されてもよい。
さらに別の実施形態において、第1のフレームに適用される選択されたゲインは第2のフレームに適用される選択されたゲインとは異なっていてもよく、これは第2のフレームが第1のフレームとは異なる内容および照明を含む場合などに起こり得る。概して、アナログ記憶面は、1つ以上のフレームのアナログ画素データ値を読出のために保持するように利用され得る。
ある実施形態において、アナログ−デジタルユニットは各異なるゲインについて割り当てられ、アナログ−デジタルユニットは同時に動作するように構成される。結果得られるデジタル値は、出力のためにインターリーブされ得るか、または、並列で出力され得る。たとえば、所与の行についてのアナログ画素データは、ゲイン803に従って増幅され、第1のアナログ−デジタルユニットによって対応するデジタル値に変換され得、それと同時に、当該行についてのアナログ画素データはゲイン805に従って増幅され、第2のアナログ−デジタルユニットによって対応するデジタル値に変換され得る。さらに、同時に、当該行についてのアナログ画素データは、ゲイン807に従って増幅され、第3のアナログ−デジタルユニットによって対応するデジタル値に変換され得る。第1〜第3のアナログ−デジタルユニットからのデジタル値は、画素のセットとして出力され得、画素のセットにおける各画素は3つのゲイン803,805,807のうちの1つに対応する。同様に、出力データ値は異なるゲイン値を有するラインとして構成され得、各ラインは、3つのゲイン803,805,807のうちの1つに対応するゲインを有する画素を含む。
図9は、一実施形態に従うアナログ画素データをデジタル画素データの多数の信号に並列に変換するためのシステム900を示す。選択肢として、システム900は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、システム900は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図9の文脈において、システム900は入力されたアナログ画素データ621を受信するとして示されている。アナログ画素データ621は、上述のようにアナログ信号内で受信されてもよい。さらに、アナログ−デジタルユニット622は、受信したアナログ画素データ621に基づいてデジタル画素データ625を生成するように構成されてもよい。
図9に示されるように、システム900は、アナログ−デジタルユニット622(0)、アナログ−デジタルユニット622(1)およびアナログ−デジタルユニット622(n)の各々がアナログ画素データ621のスケーリングされたコピーを受信するように、アナログ画素データ621の電流をミラーリングするように構成される。一実施形態において、アナログ−デジタルユニット622(0)、アナログ−デジタルユニット622(1)およびアナログ−デジタルユニット622(n)の各々は一意のゲインをアナログ画素データ621に適用するように構成されてもよい。スケーリングされた各コピーは、電流ミラーとして当該技術において公知の構造を含む、システム900を含むトランジスタについての物理的寸法に従ってスケーリングされてもよい。示されるように、各電流i1、i2、i3は、当該物理的寸法に基づいて、入力電流Iinに対して任意の比で生成されてもよい。たとえば、電流i1、i2、i3は、Iinに対して1:1:1、1:2:4、0.5:1:2の比で、またはその他の技術的に実行可能な比で生成されてもよい。
ある実施形態において、一意のゲインは、コントローラによってアナログ−デジタルユニット622の各々において構成されてもよい。具体例として、アナログ−デジタルユニット622(0)は1.0のゲインをアナログ画素データ621に適用するように構成されてもよく、アナログ−デジタルユニット622(1)は2.0のゲインをアナログ画素データ621に適用するように構成されてもよく、アナログ−デジタルユニット622(n)は4.0のゲインをアナログ画素データ621に適用するように構成されてもよい。したがって、同じアナログ画素データ621が、アナログ−デジタルユニット622(0)、アナログ−デジタルユニット622(1)およびアナログ−デジタルユニット622(n)の各々に入力送信され得るが、デジタル画素データ625(0)、デジタル画素データ625(1)およびデジタル画素データ625(n)の各々は、アナログ−デジタルユニット622内に適用される異なるゲインに基づいて異なるデジタル値を含むため、同じ写真撮影シーンの一意の露光表現を提供し得る。
アナログ−デジタルユニット622(0)が1.0のゲインを適用するように構成されてもよく、アナログ−デジタルユニット622(1)が2.0のゲインを適用するように構成されてもよく、アナログ−デジタルユニット622(n)が4.0のゲインを適用するように構成されてもよい上述の実施形態において、デジタル画素データ625(0)は最小露光の対応するデジタル画像を提供し得る。逆に、デジタル画素データ625(n)は最大露光のデジタル画像を提供し得る。別の実施形態において、デジタル画素データ625(0)はEV−1デジタル画像を生成するために利用されてもよく、デジタル画素データ625(1)はEV0デジタル画像を生成するために利用されてもよく、デジタル画素データ625(n)はEV+2画像を生成するために利用されてもよい。別の実施形態において、システム900は2:1:4の比で電流i1、i2およびi3を生成するように構成され、各アナログ−デジタルユニット622は1.0のゲインを適用するように構成されてもよく、この結果、対応するデジタル画像はそれぞれEV−1、EV0およびEV+1の露光値を有する。そのような実施形態では、露光値のさらなる差は、1つ以上のアナログ−デジタルユニット622内に非ユニットゲインを適用することによって達成され得る。
システム900は3つのアナログ−デジタルユニット622を含むとして示されているが、3つよりも多いまたは少ないアナログ−デジタルユニット622を有する同様のシステムによって多数のデジタル画像が生成されてもよいと考えられる。たとえば、2つのアナログ−デジタルユニット622を有するシステムが、システム900に関して上述したのと同様の態様でゼロまたはほぼゼロのフレーム間時間で写真撮影シーンの2つの露光を同時に生成するために実現されてもよい。一実施形態において、2つのアナログ−デジタルユニット622の各々が2つの露光を生成して、アナログ画素データの1フレームに対して合計4つの異なる露光を生成するように構成されてもよい。
図10は、一実施形態に係る結合画像1020を生成するためのユーザインターフェイス(UI)システム1000を示す。選択肢として、UIシステム1000は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、UIシステム1000は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、結合画像1020は少なくとも2つの関連したデジタル画像の組合せを含む。一実施形態において、結合画像1020は、図7の画像スタック732(0)および画像スタック732(1)のデジタル画像のうちの2つ以上のデジタル画像といった少なくとも2つのデジタル画像の組み合わされたレンダリングを含むがこれに限定されない。別の実施形態において、結合画像1020を計算するために用いられるデジタル画像は第1のアナログ信号および第2のアナログ信号の各々を少なくとも2つの異なるゲインで増幅することによって生成されてもよく、各アナログ信号は、画像センサ上に合焦される光学画像に基づいて捕捉される光学シーン情報を含む。さらに別の実施形態において、各アナログ信号は、画素単位で、ライン単位で、またはフレーム単位で少なくとも2つの異なるゲインを用いて増幅されてもよい。
一実施形態において、UIシステム1000は、結合画像1020と、トラック1032に沿って動くように構成されたスライダコントロール1030と、各々が表示画像1010内に表示される視覚マーカを含み得る2つ以上の表示点1040とを含むがこれらに限定されない表示画像1010を提示する。
一実施形態において、UIシステム1000はデジタル写真撮影システム300のプロセッサ複合体310内で実行される調整ツールによって生成され、表示画像1010は表示ユニット312上に表示される。一実施形態において、少なくとも2つのデジタル画像は、結合画像1020を生成するためのソース画像を含む。少なくとも2つのデジタル画像は、NVメモリ316、揮発性メモリ318、メモリサブシステム362またはそれらのいずれかの組合せの内部に存在してもよい。別の実施形態において、UIシステム1000は、ラップトップコンピュータまたはデスクトップコンピュータなどのコンピュータシステム内で実行される調整ツールによって生成される。少なくとも2つのデジタル画像はコンピュータシステムに送信されてもよく、または取付けられたカメラデバイスによって生成されてもよい。さらに別の実施形態において、UIシステム1000はクラウドベースのサーバコンピュータシステムによって生成されてもよく、当該サーバコンピュータシステムは少なくとも2つのデジタル画像をクライアントブラウザにダウンロードしてもよく、当該ブラウザは以下に説明する結合動作を実行してもよい。別の実施形態において、UIシステム1000はクラウドベースのサーバコンピュータシステムによって生成され、当該サーバコンピュータシステムは、モバイルデバイス内のデジタル写真撮影システムから少なくとも2つのデジタル画像を受信し、結合画像1020を生成するのと共に、以下に説明する結合動作を実行してもよい。
スライダコントロール1030は、表示点1040−Aおよび1040−Cに対応する2つの終点同士の間を動くように構成されてもよい。表示点1040−Bなどの1つ以上の表示点が2つの終点同士の間に位置決めされてもよい。各表示点1040は、結合画像1020の特定のレンダリング、または2つ以上のデジタル画像の特定の組合せと関連付けられてもよい。たとえば、表示点1040−Aは、第1のサンプル時間の間に捕捉された第1のアナログ信号から生成され第1のゲインを利用して増幅された第1のデジタル画像に関連付けられ得、表示点1040−Cは、第2のサンプル時間の間に捕捉された第2のアナログ信号から生成され第2のゲインを利用して増幅された第2のデジタル画像に関連付けられ得る。本願明細書において前述されるように、第1のデジタル画像および第2のデジタル画像の両方は、単一露光によるものであり得る。一実施形態において、第1のゲインおよび第2のゲインは同じゲインであり得る。別の実施形態において、スライダコントロール1030が表示点1040−Aの真上に位置決めされると、第1のデジタル画像のみが表示画像1010内に結合画像1020として表示されてもよく、同様に、スライダコントロール1030が表示点1040−Cの真上に位置決めされると、第2のデジタル画像のみが表示画像1010内に結合画像1020として表示されてもよい。
一実施形態において、表示点1040−Bは第1のデジタル画像と第2のデジタル画像とのブレンドと関連付けられてもよい。たとえば、スライダコントロール1030が表示点1040−Bに位置決めされると、結合画像1020は第1デジタル画像と第2のデジタル画像とのブレンドであってもよい。一実施形態において、第1のデジタル画像と第2のデジタル画像とのブレンドは、アルファブレンディング、輝度ブレンディング、ダイナミックレンジブレンディング、ならびに/またはトーンマッピングもしくは他の非線形ブレンディングおよびマッピング動作を含んでいてもよい。別の実施形態において、第1のデジタル画像と第2のデジタル画像とのブレンドはいずれも、第1の画像および第2の画像単独のいずれか一方とは異なるより大きいダイナミックレンジまたは他の視覚的特徴を有する新たな画像を提供し得る。ゆえに、第1のデジタル画像と第2のデジタル画像とのブレンドによって、結合画像1020として表示され得るかまたは結合画像1020を生成するために用いられ得る、新たに計算されたHDR画像が提供され得る。この目的で、第1のデジタル信号と第2のデジタル信号とが組合されることによって、HDR画像の少なくとも一部が得られてもよい。さらに、第1のデジタル信号および第2のデジタル信号の一方は、別のデジタル画像またはデジタル信号の少なくとも一部とさらに組合されてもよい。一実施形態において、他方のデジタル画像は別のHDR画像を含んでいてもよい。
一実施形態において、スライダコントロール1030が表示点1040−Aに位置決めされると第1のデジタル画像が結合画像1020として表示され、スライダコントロール1030が表示点1040−Cに位置決めされると第2のデジタル画像が結合画像1020として表示され、さらに、スライダコントロール1030が表示点1040−Bに位置決めされるとブレンド画像が結合画像1020として表示される。そのような実施形態では、スライダコントロール1030が表示点1040−Aと表示点1040−Cとの間に位置決めされると、第1のデジタル画像および第2のデジタル画像について混合(たとえばブレンド)重みが計算されてもよい。第1のデジタル画像について、混合重みは、スライダコントロール1030が表示点1040−Cにあるときに0.0の値を有し、スライダコントロール1030が表示点1040−Aにあるときに1.0の値を有するとして計算されてもよく、混合重み値の範囲はそれぞれ表示点1040−Cと1040−Aとの間に位置する0.0から1.0である。第2のデジタル画像について、混合重みは、スライダコントロール1030が表示点1040−Aにあるときに0.0の値を有し、スライダコントロール1030が表示点1040−Cにあるときに1.0の値を有するとして計算されてもよく、混合重み値の範囲はそれぞれ表示点1040−Aと1040−Cとの間に位置する0.0から1.0である。
他の実施形態において、表示点1040−Bに加えて、表示点1040−Aと表示点1040−Cとの間のトラック1032に沿って複数の付加的な表示点が存在してもよい。付加的な表示点は付加的なデジタル画像に関連付けられ得る。たとえば、第1の画像スタック732は、EV−1露光のデジタル画像、EV0露光のデジタル画像およびEV+1露光のデジタル画像の各々を含むように生成され得る。上記画像スタック732は、図7の画像スタック732(0)のように、第1の露光時間において捕捉された第1のアナログ記憶面に関連付けられ得る。したがって、第1の画像スタックは、第1の露光時間にすべてが関連付けられる複数のデジタル画像を含み得、各デジタル画像は異なるISOに関連付けられる。さらに、第2の画像スタック732は、EV−1露光のデジタル画像、EV0露光のデジタル画像およびEV+1露光のデジタル画像の各々を含むように生成され得る。しかしながら、第2の画像スタック732は、図7の画像スタック732(1)のように、第1の露光時間と異なる第2の露光時間において捕捉された第2のアナログ記憶面に関連付けられ得る。したがって、第2の画像スタックは、すべて第2の露光時間に関連付けられる第2の複数のデジタル画像を含み得、各デジタル画像は異なるISOに関連付けられる。アナログ−デジタルユニット722(0)および722(1)がそれぞれの画像スタック732を生成した後、アナログ−デジタルユニット722(0)および722(1)によって出力されるデジタル画素データは、露光を増加または減少させるデジタル画像の単一のシーケンスへと一緒に配され得る。当該記載の文脈において、2つの画像スタックの2つのデジタル信号が、同じISO+露光時間の組合せに関連付けられ得ず、したがって、各デジタル画像またはデジタル画素データのインスタンスはユニークな有効露光を有すると考えられ得る。
前述の図の文脈において、アナログ−デジタルユニット722(0)およびアナログ−デジタルユニット722(1)によって出力されるデジタル画像またはデジタル画素データのインスタンスを露光を増加または減少させるデジタル画像の単一のシーケンスへ配することは、全体的な露光に従って実行され得る。たとえば、デジタル画像の単一のシーケンスは、有効な露光を決定するためにゲインと露光時間とを組み合わせ得る。デジタル画素データは、たとえば723(0)、723(1)、724(0)、724(1)、725(0)および725(1)といったように、有効な露光を増加するデジタル画像の単一のシーケンスを得るために迅速に編成され得る。当然、有効な露光レベルに基づいたデジタル画像またはデジタル画素データの如何なるソーティングも、ゲインの適用およびデジタル信号723〜725の生成の順番に依存することになる。
一実施形態において、露光時間およびゲインは、多くの適当に異なる有効な露光を生成するために、選択または予め定められ得る。たとえば、3つのゲインが適用されることになっている場合、各ゲインは、最も近い選択されたゲインから2つの露光ストップだけ離れるように選択され得る。さらに、複数の露光時間が使用されることになっている場合、第1の露光時間は第2の露光時間から1つの露光ストップだけ離れるように選択され得る。そのような実施形態において、2つの露光ストップによって分離される3つのゲインの選択、および、1つの露光ストップによって分離される2つの露光時間の選択によって、各々がユニークな有効な露光を有する6つのデジタル画像の生成が保証され得る。
露光を増加するシーケンスにおいてソートされた複数の画像スタックのデジタル画像を引き続き参照して、デジタル画像の各々は、UIシステム1000のトラック1032に沿った表示点に関連付けられ得る。たとえば、デジタル画像は、有効な露光を増加させる以前に言及した順序、すなわち、723(0)、723(1)、724(0)、724(1)、725(0)および725(1)の順序で、トラック1032に沿ってソートまたは配列され得る。そのような実施形態において、スライダコントロール1030は、2つの異なるアナログ記憶面に基づいて生成される2つのデジタル画像同士の間にある、トラック1032に沿った任意の点に位置決めされてもよい。結果として、2つの異なるアナログ記憶面に基づいて生成される2つのデジタル画像は、結合画像1020を生成するようブレンドされ得る。
たとえば、スライダコントロール1030は、デジタル画素データ724(0)およびデジタル画素データ724(1)に等しく関連付けられ得る表示点に位置決めされ得る。結果として、第1のサンプル時間の間に捕捉されゲインを利用して増幅された第1のアナログ信号から生成される第1のデジタル画像を含み得るデジタル画素データ724(0)は、第2のサンプル時間の間に捕捉され同じゲインを利用して増幅される第2のアナログ信号から生成される第2のデジタル画像を含み得るデジタル画素データ724(1)にブレンドされ得、これにより、結合画像1020が生成される。
さらに、別の例として、スライダコントロール1030は、デジタル画素データ724(1)およびデジタル画素データ725(0)に等しく関連付けられ得る表示点に位置決めされ得る。結果として、第1のサンプル時間の間に捕捉され第1のゲインを利用して増幅された第1のアナログ信号から生成される第1のデジタル画像を含み得るデジタル画素データ724(1)は、第2のサンプル時間の間に捕捉され異なるゲインを利用して増幅される第2のアナログ信号から生成される第2のデジタル画像を含み得るデジタル画素データ725(0)にブレンドされ得、これにより、結合画像1020が生成される。
したがって、スライダコントロール1030が位置決めされた結果、2つ以上のデジタル信号がブレンドされ得、ブレンドされたデジタル信号は異なるアナログ記憶面からのアナログ値を利用して生成され得る。スライダに沿って有効な露光をソートし、スライダコントロール位置に基づいてブレンド動作を可能にするさらに別の利点として、隣接するデジタル画像の各対が、より高いノイズデジタル画像およびより低いノイズデジタル画像を含み得る。たとえば、2つの隣接するデジタル信号が同じゲインを利用して増幅される場合、より低いサンプル時間で捕捉されたアナログ信号から生成されるデジタル信号にはノイズがより少ない。同様に、2つの隣接するデジタル信号が異なるゲインを利用して増幅される場合、より低いゲイン値で増幅されたアナログ信号から生成されるデジタル信号にはノイズがより少ない。したがって、スライダに沿って有効な露光に基づいてデジタル信号がソートされる場合、2つ以上のデジタル信号のブレンド動作が、デジタル信号の少なくとも1つにおいて明らかなノイズを低減するよう機能し得る。
当然、任意の有効な2つ以上の露光が、UIシステム1000において結合画像1020を生成するよう、スライダコントロール1030の表示点に基づいてブレンドされてもよい。
一実施形態において、第1のデジタル画像および第2のデジタル画像の少なくとも一方と関連付けられている少なくとも1つの混合重み値に基づいて、第1のデジタル画像および第2のデジタル画像に混合動作が適用されてもよい。一実施形態において、1.0の混合重みは、1.0の混合重みと関連付けられているデジタル画像に完全な混合重みを与える。このように、ユーザは第1のデジタル画像と第2のデジタル画像とをブレンドしてもよい。この目的で、第1のデジタル信号および第2のデジタル信号はユーザ入力に応じてブレンドされてもよい。たとえば、スライディング標識(indicia)が表示されてもよく、ユーザがスライディング標識を操作したことに応答して第1のデジタル信号および第2のデジタル信号がブレンドされてもよい。
混合重みおよび混合動作のシステムは、第1のデジタル画像、第2のデジタル画像およびブレンド画像を第1のデジタル画像から第2のデジタル画像への段階的な進行として見るためのUIツールを提供する。一実施形態において、ユーザは、スライダコントロール1030の任意の位置に対応する結合画像1020を保存してもよい。UIシステム1000を実現する調整ツールは、任意の技術的に実行可能なジェスチャまたは技術を介して結合画像1020の保存を指示するコマンドを受信してもよい。たとえば、調整ツールは、結合画像1020によって占められる領域内でユーザがジェスチャを行なうと結合画像1020を保存するように構成されてもよい。または、調整ツールは、ユーザがスライダコントロール1030を押すが他の点では動かさない場合に結合画像1020を保存してもよい。別の実現例では、調整ツールは、ユーザが保存コマンドを受信する専用の保存ボタンなどのUI要素(図示せず)を押すことによってなどでジェスチャを行なうと結合画像1020を保存してもよい。
この目的で、スライダコントロールを用いて2つ以上のデジタル画像の寄与を求め、結合画像1020などの最終計算画像を生成することができる。当業者は、混合重みおよび混合動作の上記のシステムは、2つ以上の関連画像と関連付けられている2つ以上の表示点を含むように一般化され得ることを認識するであろう。そのような関連画像は、2つ以上のアナログ記憶面から生成され0またはほぼ0のフレーム間時間を有し得る任意数のデジタル画像を含み得るがこれらに限定されない。
さらに、スライダ1030ではなく、回転ノブのような異なる連続位置UIコントロールが実現されてもよい。
図11は、一実施形態に係る結合画像を生成するための方法1100のフロー図である。選択肢として、方法1100は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、方法1100は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
方法1100はステップ1110で開始し、プロセッサ複合体310などのプロセッサ複合体内で実行される調整ツールが、図10の文脈において説明した第1のデジタル画像および第2のデジタル画像などの少なくとも2つの関連したソース画像をロードする。ステップ1112において、調整ツールは、図10のスライダコントロール1030などのUIコントロールの位置をデフォルト設定に初期化する。一実施形態において、デフォルト設定は、UIコントロールの値の範囲について、表示点1040−Aなどの終点を含む。別の実施形態において、デフォルト設定は、少なくとも2つの関連したソース画像のうちの1つ以上に基づく計算値を含む。特定の実施形態において、デフォルト設定は、少なくとも第1のデジタル画像および第2のデジタル画像を含む画像オブジェクトと関連してユーザによって予め選択された値に初期化される。
ステップ1114において、調整ツールは、UIコントロールの位置および少なくとも2つの関連したソース画像に基づいて、図10の結合画像1020などの結合画像を生成して表示する。一実施形態において、結合画像を生成することは、図10において先に説明したように少なくとも2つの関連したソース画像同士を混合することを含む。ステップ1116において、調整ツールはユーザ入力を受信する。ユーザ入力は、表示画像1010内の選択ジェスチャまたはクリックジェスチャなどのUIジェスチャを含み得るがこれらに限定されない。ステップ1120においてユーザ入力がUIコントロールの位置を変更した場合は、調整ツールはUIコントロールの位置を変更し、方法はステップ1114に戻る。そうでなければ、方法はステップ1130に進む。
ステップ1130においてユーザ入力が終了コマンドを含んでいない場合は、方法はステップ1140に進み、調整ツールはユーザ入力と関連付けられているコマンドを実行する。一実施形態において、当該コマンドは保存コマンドを含み、調整ツールは次いで、UIコントロールの位置に従って生成される結合画像を保存する。方法は次いでステップ1116に戻る。
ステップ1130に戻って、ユーザ入力が終了コマンドを含んでいる場合は、方法はステップ1190において終わり、調整ツールが終了することによって実行を終わらせる。
要約すると、第1のデジタル画像と第2のデジタル画像とを有益にブレンドする新たなデジタル写真を生成するための技術であって、第1のデジタル画像および第2のデジタル画像が画像センサではなく2つの異なるアナログ記憶面から受信した異なるアナログ信号に基づいている技術が開示される。第1のデジタル画像は、任意の技術的に実行可能なブレンド技術を実現する機能に基づいて第2のデジタル画像とブレンドされてもよい。調整ツールは、ユーザが関連画像を組合せるためにパラメータの段階的な変化から新たなデジタル信号を選択して保存することを可能にするユーザインターフェイス技術を実現し得る。
本願明細書において開示された実施形態の1つの利点は、デジタル写真が、写真撮影シーンの単一露光の2つ以上の異なるサンプルを用いてユーザ入力に基づいて選択的に生成され得ることである。したがって、ユーザ入力に基づいて生成されるデジタル写真は、いずれの個別のサンプルよりも大きいダイナミックレンジを有し得る。さらに、ゼロまたはほぼゼロのフレーム間時間で2つ以上の異なるサンプルを用いてHDR画像を生成するので、モーションアーティファクトなしでHDR画像の迅速な生成が可能となる。
図12は、一実施形態に係るネットワークを利用して結合画像を生成するためのメッセージシーケンス1200を示す。選択肢として、メッセージシーケンス1200は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、メッセージシーケンス1200は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図12に示されるように、ワイヤレスモバイルデバイス376(0)は少なくとも2つのデジタル画像を生成する。一実施形態において、少なくとも2つのデジタル画像は2つ以上のアナログ記憶面のアナログ値を増幅することによって生成されてもよく、生成される各デジタル画像は適用されるゲインのデジタル出力に対応し得る。一実施形態において、第1のデジタル画像は、写真撮影シーンのEV−1露光を含んでいてもよく、第2のデジタル画像は、写真撮影シーンのEV+1露光を含んでいてもよい。別の実施形態において、少なくとも2つのデジタル画像は、写真撮影シーンのEV−2露光、写真撮影シーンのEV0露光、および写真撮影シーンのEV+2露光を含んでいてもよい。
再び図12を参照して、少なくとも2つのデジタル画像は、データネットワーク474によってワイヤレスモバイルデバイス376(0)からデータセンタ480に送信される。少なくとも2つのデジタル画像は、任意の技術的に実行可能なネットワーク通信方法を用いてワイヤレスモバイルデバイス376(0)によってデータセンタ480に送信されてもよい。
さらに、一実施形態において、データセンタ480は次いで、少なくとも2つのデジタル画像を処理して第1の計算画像を生成してもよい。少なくとも2つのデジタル画像を処理することは、少なくとも2つのデジタル画像の各々の少なくとも一部をブレンドまたは併合して第1の計算画像を生成する、少なくとも2つのデジタル画像のいずれかの処理を含んでいてもよい。この目的で、第1のデジタル画像および第2のデジタル画像はワイヤレスモバイルデバイス376(0)から遠隔で結合されてもよい。たとえば、少なくとも2つのデジタル画像を処理することは、HDR画像結合動作を含むがこれに限定されないいずれかの種類のブレンド動作を含んでいてもよい。一実施形態において、少なくとも2つのデジタル画像を処理することは、データセンタ408において受信したデジタル画像のうちのいずれか1つよりも大きいダイナミックレンジを有する第1の計算画像を生成するいずれかの計算を含んでいてもよい。したがって、一実施形態において、データセンタ480によって生成される第1の計算画像はHDR画像であってもよい。他の実施形態では、データセンタ480によって生成される第1の計算画像はHDR画像の少なくとも一部であってもよい。
第1の計算画像を生成した後、データセンタ480は次いで第1の計算画像をワイヤレスモバイルデバイス376(0)に送信してもよい。一実施形態において、ワイヤレスモバイルデバイス376(0)からの少なくとも2つのデジタル画像の送信、およびワイヤレスデバイス376(0)における第1の計算画像の受信は、ワイヤレスモバイルデバイス376(0)のユーザから介入または命令を全く受けずに起こってもよい。たとえば、一実施形態において、ワイヤレスモバイルデバイス376(0)は、写真撮影シーンを捕捉して当該写真撮影シーンを表すアナログ信号を利用して少なくとも2つのデジタル画像を生成した直後に、少なくとも2つのデジタル画像をデータセンタ480に送信してもよい。写真撮影シーンは、ワイヤレスモバイルデバイス376(0)上の、電子シャッターコントロールのユーザ入力もしくは選択、またはマニュアルシャッターボタンの押下に基づいて捕捉されてもよい。さらに、少なくとも2つのデジタル画像を受信したことに応答して、データセンタ480は少なくとも2つのデジタル画像に基づいてHDR画像を生成し、HDR画像をワイヤレスモバイルデバイス376(0)に送信してもよい。ワイヤレスモバイルデバイス376(0)は次いで、受信したHDR画像を表示してもよい。したがって、ワイヤレスモバイルデバイス376(0)のユーザは、データセンタ480によって計算されたHDR画像をワイヤレスモバイルデバイス376(0)のディスプレイ上で見ることができる。ゆえに、ワイヤレスモバイルデバイス376(0)がHDR画像処理をまったく実行しない場合でも、ユーザは、新たに計算されたHDR画像を、写真撮影シーンを捕捉して当該HDR画像が基づく少なくとも2つのデジタル画像を生成したほぼ直後に、ワイヤレスモバイルデバイス376(0)上で見ることができる。
図12に示されるように、ワイヤレスモバイルデバイス376(0)は、少なくとも2つのデジタル画像の処理の調整を要求する。一実施形態において、データセンタ480から第1の計算画像を受信すると、ワイヤレスモバイルデバイス376(0)は、図10のUIシステム1000などのUIシステムにおいて第1の計算画像を表示してもよい。そのような実施形態では、ユーザは、スライダコントロール1030などのスライダコントロールを制御して、データセンタ480に送信される少なくとも2つのデジタル画像の処理を調整してもよい。たとえば、ユーザがスライダコントロールを操作すると、コマンドがデータセンタ480に送信されてもよい。一実施形態において、データセンタ480に送信されるコマンドは、少なくとも2つのデジタル画像の処理を調整する際に用いられる混合重みを含んでいてもよい。他の実施形態では、少なくとも2つのデジタル画像の処理の調整を求める要求は、データセンタ480が少なくとも2つのデジタル画像を再処理して第2の計算画像を生成するために使用し得る、ワイヤレスモバイルデバイス376(0)からのいずれかの命令を含む。
図12に示されるように、処理の調整を求める要求を受信すると、データセンタ480は少なくとも2つのデジタル画像を再処理して第2の計算画像を生成する。一実施形態において、データセンタ480は、ワイヤレスモバイルデバイス376(0)から受信したパラメータを用いて少なくとも2つのデジタル画像を再処理してもよい。そのような実施形態では、パラメータは、少なくとも2つのデジタル画像を有する入力として、データセンタ480において実行されるHDR処理アルゴリズムに提供されてもよい。第2の計算画像を生成した後、第2の計算画像は次いで、ユーザに表示するためにデータセンタ480からワイヤレスモバイルデバイス376(0)に送信されてもよい。
再び図12を参照して、ワイヤレスモバイルデバイス376(0)は、第2の計算画像を別のワイヤレスモバイルデバイス376(1)と共有する。一実施形態において、ワイヤレスモバイルデバイス376(0)は、データセンタ480から受信したいずれかの計算画像を他のワイヤレスモバイルデバイス376(1)と共有してもよい。たとえば、ワイヤレスモバイルデバイス376(0)は、データセンタ480から受信した第1の計算画像を共有してもよい。図12に示されるように、データセンタ480は、同じデータネットワーク474上でワイヤレスモバイルデバイス376(0)およびワイヤレスモバイルデバイス376(1)と通信する。当然、他の実施形態では、ワイヤレスモバイルデバイス376(0)は、データセンタ480およびワイヤレスモバイルデバイス376(1)が通信のために利用するネットワークとは異なるネットワークを介してデータセンタ480と通信してもよい。
別の実施形態において、ワイヤレスモバイルデバイス376(0)は、共有要求をデータセンタ480に送信することによって計算画像を他のワイヤレスモバイルデバイス376(1)と共有してもよい。たとえば、ワイヤレスモバイルデバイス376(0)は、データセンタ480が第2の計算画像を他のワイヤレスモバイルデバイス376(1)に転送することを要求してもよい。共有要求を受信したことに応答して、データセンタ480は次いで第2の計算画像をワイヤレスモバイルデバイス376(1)に送信してもよい。ある実施形態において、第2の計算画像を他のワイヤレスモバイルデバイス376(1)に送信することは、他のワイヤレスモバイルデバイス376(1)が第2の計算画像にアクセス可能となるURLを送信することを含んでいてもよい。
さらに、図12に示されるように、第2の計算画像を受信した後、他のワイヤレスモバイルデバイス376(1)は、少なくとも2つのデジタル画像の処理の調整を求める要求をデータセンタ480に送信してもよい。たとえば、他のワイヤレスモバイルデバイス376(1)は、図10のUIシステム1000などのUIシステムにおいて第2の計算画像を表示してもよい。他のワイヤレスモバイルデバイス376(1)のユーザは、UIコントロールを操作して、ワイヤレスモバイルデバイス376(0)によってデータセンタ480に送信される少なくとも2つのデジタル画像の処理を調整してもよい。たとえば、他のワイヤレスモバイルデバイス376(1)においてユーザがスライダコントロールを操作すると、コマンドが生成されて処理のためにデータセンタ480に送信されてもよい。ある実施形態において、他のワイヤレスモバイルデバイス376(1)から送信される少なくとも2つのデジタル画像の処理の調整を求める要求は、他のワイヤレスモバイルデバイス376(1)におけるスライダコントロールのユーザ操作に基づいて生成されるコマンドを含む。他の実施形態では、少なくとも2つのデジタル画像の処理の調整を求める要求は、データセンタ480が少なくとも2つのデジタル画像を再処理して第3の計算画像を生成するために使用し得る、ワイヤレスモバイルデバイス376(1)からのいずれかの命令を含む。
図12に示されるように、処理の調整を求める要求を受信すると、データセンタ480は少なくとも2つのデジタル画像を再処理して第3の計算画像を生成する。一実施形態において、データセンタ480は、ワイヤレスモバイルデバイス376(1)から受信した混合重みを用いて少なくとも2つのデジタル画像を再処理してもよい。そのような実施形態では、ワイヤレスモバイルデバイス376(1)から受信した混合重みは、少なくとも2つのデジタル画像を有する入力として、データセンタ480において実行されるHDR処理アルゴリズムに提供されてもよい。第3の計算画像を生成した後、第3の計算画像は次いで、表示のためにデータセンタ480からワイヤレスモバイルデバイス376(1)に送信される。さらに、第3の計算画像を受信した後、ワイヤレスモバイルデバイス376(1)は、第3の計算画像を記憶することを求める要求をデータセンタ480に送信してもよい。別の実施形態において、データセンタ480と通信している他のワイヤレスモバイルデバイス376が計算画像の記憶を要求してもよい。たとえば、図12の文脈において、ワイヤレスモバイルデバイス376(0)は、第1の計算画像または第2の計算画像の記憶をいつでも要求してもよい。
計算画像の記憶を求める要求を受信したことに応答して、データセンタ480は、後で取出すために計算画像を記憶してもよい。たとえば、記憶される計算画像は、当該計算画像を生成するために適用された処理を再び適用することなく当該計算画像を後で取出すことができるように記憶されてもよい。一実施形態において、データセンタ480は、データセンタ480にローカルな記憶システム486内に計算画像を記憶してもよい。他の実施形態では、データセンタ480は、データセンタ481などの、データセンタ480にローカルでないハードウェアデバイス内に計算画像を記憶してもよい。そのような実施形態では、データセンタ480は計算画像を記憶するためにデータネットワーク474上で送信してもよい。
さらに、いくつかの実施形態において、計算画像は、当該計算画像を生成するために利用された少なくとも2つのデジタル画像に関連して記憶されてもよい。たとえば、計算画像は、データセンタ480または481によって供給されるURLを通すなどして、当該計算画像を生成するために利用された少なくとも2つのデジタル画像と関連付けられてもよい。記憶された計算画像を少なくとも2つのデジタル画像にリンクすることによって、計算画像へのアクセスを有する任意のユーザまたはデバイスには、少なくとも2つのデジタル画像に適用される処理を後で調整し、それによって新たな計算画像を生成する機会も与えられ得る。
この目的で、ワイヤレスモバイルデバイス376のユーザは、データネットワーク474を介してアクセス可能なデータセンタ480の処理能力を利用して、他のワイヤレスモバイルデバイス376が捕捉しており、続いてアクセスを提供しているデジタル画像を利用してHDR画像を生成してもよい。たとえば、デジタル画像を含むデジタル信号が遠隔で結合されるようにネットワーク上で転送されてもよく、結合されたデジタル信号によってHDR画像の少なくとも一部が得られてもよい。さらに、ユーザは、自身のワイヤレスモバイルデバイス376に依拠して新たなHDR写真を生成するのに必要な処理または計算を実行することなく、2つ以上のデジタル画像のブレンドを調整して当該新たなHDR写真を生成することが可能であり得る。続いて、ユーザのデバイスは、2つ以上のデジタル信号の結合によって得られたHDR画像の少なくとも一部を受信してもよい。したがって、ユーザのワイヤレスモバイルデバイス376は、HDR処理をデータセンタにオフロードすることによって電力を節約することができる。さらに、ユーザは、HDR画像生成と関連付けられている高出力処理タスクを実行可能なワイヤレスモバイルデバイス376を有していないにもかかわらず、HDR写真を効果的に捕捉することが可能であり得る。最後に、ユーザは、自身でHDRアルゴリズムを選択することなく、かつ、そのようなHDRアルゴリズムを実現するソフトウェアを自身のワイヤレスモバイルデバイス376上にインストールすることなく、写真撮影シーンに最良であると判断されるアルゴリズムを用いて生成されるHDR写真を得ることが可能であり得る。たとえば、ユーザは、データセンタ480に依拠して特定の写真撮影シーンのための最良のHDRアルゴリズムを特定して選択することができる。
本発明の1つの利点は、デジタル写真が、写真撮影シーンの単一露光から生成される2つ以上の異なる画像を用いてユーザ入力に基づいて選択的に生成され得ることである。したがって、ユーザ入力に基づいて生成されるデジタル写真は、いずれの個別の画像よりも大きいダイナミックレンジを有し得る。さらに、ゼロまたはほぼゼロのフレーム間時間で2つ以上の異なる画像を用いてHDR画像を生成するので、モーションアーティファクトなしでHDR画像の迅速な生成が可能となる。
さらに、写真撮影シーン内に任意のモーションがある場合、または、捕捉デバイスが、捕捉の間に任意のジッタを経験した場合、露光間の任意のフレーム間時間によって、最後のマージされたHDR写真内にモーションブラーが発生し得る。そのようなブラーは、フレーム間時間が増加すると、著しく強調され得る。この問題によって、現在のHDR写真撮影は、非常に静的なシーン以外、如何なる状況においても明確な画像を捕捉するためのソリューションとしては有効でなくなっている。
さらに、HDR写真を生成するための従来の技術は、有意な計算リソースを伴い、かつ、結果得られる画像の画像品質を低減するアーティファクトを作り出していた。したがって、厳密に選択肢として、上記の問題の1つ以上が、本願明細書において開示された技術の1つ以上を利用して、対応されるか、または、対応されなくてもよい。
さらに、さまざまな実施形態において、本願明細書において開示される技術の1つ以上は、さまざまな市場および/または製品に適用されてもよい。たとえば、当該技術は写真捕捉を参照して開示されたが、テレビ、ウェブ会議(またはライブストリーミング機能など)、セキュリティカメラ(たとえば特徴などを決定するためにコントラストを増加)、自動車(たとえば運転支援システム、車内情報娯楽システムなど)、および/または、カメラ入力を含む任意の他の製品に適用されてもよい。
さまざまな実施形態を上記に説明したが、それらは限定としてではなく例として提示されているに過ぎないことを理解すべきである。ゆえに、好ましい実施形態の幅および範囲は上述の例示的な実施形態のいずれによっても限定されるべきなく、添付の特許請求の範囲およびそれらの均等物に従ってのみ定義されるべきである。

Claims (17)

  1. 装置であって、
    画像センサのフォトダイオードからの電気信号に基づいた第1のサンプルを格納し、
    前記第1のサンプルの格納と少なくとも部分的に同時に、前記画像センサの前記フォトダイオードからの前記電気信号に基づいた第2のサンプルを格納し、
    少なくとも1つの画像を生成するために、前記第1のサンプルに基づいた第1の値と、前記第2のサンプルに基づいた第2の値とを出力し、
    2つ以上のゲインを利用して前記第1の値および前記第2の値のうちの少なくとも1つを増幅するための回路を含み、
    前記第1の値は、2つ以上の増幅された第1のアナログ信号を生成するよう前記2つ以上のゲインを利用して増幅される第1のアナログ信号に含まれ、
    前記第2の値は、2つ以上の増幅された第2のアナログ信号を生成するよう前記2つ以上のゲインを利用して増幅される第2のアナログ信号に含まれ、
    前記2つ以上のゲインは、第1のゲインおよび第2のゲインを含み、
    前記装置は、
    前記第1のアナログ信号が前記第1のゲインおよび前記第2のゲインの各々を利用して増幅され、第1のデジタル信号および第2のデジタル信号に変換され、かつ、
    前記第2のアナログ信号が前記第1のゲインおよび前記第2のゲインの各々を利用して増幅され、第3のデジタル信号および第4のデジタル信号に変換されるように、動作可能である、装置。
  2. 前記装置は、前記第2のサンプルの少なくとも一部の格納と同時に前記第1のサンプルの全体が格納されるように動作可能である、請求項1に記載の装置。
  3. 前記装置は、前記電気信号が前記画像センサの前記フォトダイオードから受け取られるフォトダイオード電流を含むように動作可能である、請求項1または2に記載の装置。
  4. 前記第1のサンプルに基づいた前記第1の値を出力するための第1のアナログ値記憶回路と、前記第2のサンプルに基づいた前記第2の値を出力するための第2のアナログ値記憶回路とをさらに含む、請求項1〜3のいずれか1項に記載の装置。
  5. 前記装置は、前記第1のアナログ値記憶回路および前記第2のアナログ値記憶回路が少なくとも1つの共有コンポーネントを共有するように構成される、請求項4に記載の装置。
  6. 前記装置は、前記少なくとも1つの共有コンポーネントが前記画像センサの前記フォトダイオードを含むように構成される、請求項5に記載の装置。
  7. 前記装置は、前記第1のアナログ値記憶回路および前記第2のアナログ値記憶回路がリセット信号を共有するように構成される、請求項6に記載の装置。
  8. 前記装置は、前記第1のアナログ値記憶回路および前記第2のアナログ値記憶回路が、共有された前記リセット信号を利用して同時にリセットされるように動作可能である、請求項7に記載の装置。
  9. 前記第1のデジタル信号、前記第2のデジタル信号、前記第3のデジタル信号、および前記第4のデジタル信号の各々は、異なるデジタル画像に関連付けられる、請求項1〜8のいずれか1項に記載の装置。
  10. 前記装置は、前記デジタル画像のうち少なくとも2つがブレンドされるように動作可能である、請求項9に記載の装置。
  11. 前記装置は、スライディング標識が表示され、ユーザによって前記スライディング標識が操作されることに応答して、前記デジタル画像のうちの少なくとも2つがブレンドされるように、動作可能である、請求項9または10に記載の装置。
  12. 前記装置は、前記第1のサンプルが第1の露光時間に関連付けられ、前記第2のサンプルが前記第1の露光時間と異なる第2の露光時間に関連付けられるように、動作可能である、請求項1〜11のいずれか1項に記載の装置。
  13. 前記第1の露光時間は前記第2の露光時間未満である、請求項12に記載の装置。
  14. 前記第1のサンプルの格納の速度は、前記第2のサンプルの格納の速度と実質的に同一である、請求項13に記載の装置。
  15. 前記装置は、前記少なくとも1つのデジタル信号および前記少なくとも1つの他のデジタル信号をリモートで結合されるためにネットワークを介して移すために動作可能である、請求項1〜14のいずれか1項に記載の装置。
  16. ンピュータプログラムであって、
    画像センサのフォトダイオードからの電気信号に基づいた第1のサンプルの格納を可能にするためのコードと、
    前記第1のサンプルの格納を可能にすることと少なくとも部分的に同時に、前記画像センサの前記フォトダイオードからの前記電気信号に基づいた第2のサンプルの格納を可能にするためのコードと、
    前記第1のサンプルに基づいた第1の値および前記第2のサンプルに基づいた第2の値を利用して少なくとも1つの画像を生成するためのコードとを含み、
    前記コンピュータプログラムは、前記第1の値および前記第2の値のうちの少なくとも1つが2つ以上のゲインを利用して増幅されるように動作可能であ
    前記第1の値は、2つ以上の増幅された第1のアナログ信号を生成するよう前記2つ以上のゲインを利用して増幅される第1のアナログ信号に含まれ、
    前記第2の値は、2つ以上の増幅された第2のアナログ信号を生成するよう前記2つ以上のゲインを利用して増幅される第2のアナログ信号に含まれ、
    前記2つ以上のゲインは、第1のゲインおよび第2のゲインを含み、
    前記コンピュータプログラムは
    前記第1のアナログ信号が前記第1のゲインおよび前記第2のゲインの各々を利用して増幅され、第1のデジタル信号および第2のデジタル信号に変換され、かつ、
    前記第2のアナログ信号が前記第1のゲインおよび前記第2のゲインの各々を利用して増幅され、第3のデジタル信号および第4のデジタル信号に変換されるように、動作可能である、コンピュータプログラ
  17. 方法であって、
    画像センサのフォトダイオードからの電気信号に基づいた第1のサンプルを格納することと、
    前記第1のサンプルの格納と少なくとも部分的に同時に、前記画像センサの前記フォトダイオードからの前記電気信号に基づいた第2のサンプルを格納することと、
    少なくとも1つの画像を生成するために、前記第1のサンプルに基づいた第1の値と、前記第2のサンプルに基づいた第2の値とを出力することと、
    2つ以上のゲインを利用して前記第1の値および前記第2の値のうちの少なくとも1つを増幅することとを含み、
    前記第1の値は、2つ以上の増幅された第1のアナログ信号を生成するよう前記2つ以上のゲインを利用して増幅される第1のアナログ信号に含まれ、
    前記第2の値は、2つ以上の増幅された第2のアナログ信号を生成するよう前記2つ以上のゲインを利用して増幅される第2のアナログ信号に含まれ、
    前記2つ以上のゲインは、第1のゲインおよび第2のゲインを含み、
    前記方法は、さらに、
    前記第1のゲインおよび前記第2のゲインの各々を利用して前記第1のアナログ信号を増幅し、当該増幅した第1のアナログ信号を第1のデジタル信号および第2のデジタル信号に変換することと、
    前記第1のゲインおよび前記第2のゲインの各々を利用して前記第2のアナログ信号を増幅し、当該増幅した第2のアナログ信号を第3のデジタル信号および第4のデジタル信号に変換することとを含む、方法。
JP2017544281A 2014-11-05 2015-11-03 同時に複数の画像を捕捉するための画像センサ装置および方法 Active JP6896638B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021096499A JP2021158674A (ja) 2014-11-05 2021-06-09 同時に複数の画像を捕捉するための画像センサ装置および方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/534,089 2014-11-05
US14/534,089 US9167169B1 (en) 2014-11-05 2014-11-05 Image sensor apparatus and method for simultaneously capturing multiple images
PCT/US2015/058896 WO2016073528A2 (en) 2014-11-05 2015-11-03 Image sensor apparatus and method for simultaneously capturing multiple images

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021096499A Division JP2021158674A (ja) 2014-11-05 2021-06-09 同時に複数の画像を捕捉するための画像センサ装置および方法

Publications (2)

Publication Number Publication Date
JP2017534230A JP2017534230A (ja) 2017-11-16
JP6896638B2 true JP6896638B2 (ja) 2021-06-30

Family

ID=54290521

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2017544281A Active JP6896638B2 (ja) 2014-11-05 2015-11-03 同時に複数の画像を捕捉するための画像センサ装置および方法
JP2021096499A Ceased JP2021158674A (ja) 2014-11-05 2021-06-09 同時に複数の画像を捕捉するための画像センサ装置および方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2021096499A Ceased JP2021158674A (ja) 2014-11-05 2021-06-09 同時に複数の画像を捕捉するための画像センサ装置および方法

Country Status (4)

Country Link
US (1) US9167169B1 (ja)
EP (1) EP3216211B1 (ja)
JP (2) JP6896638B2 (ja)
WO (1) WO2016073528A2 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9918017B2 (en) 2012-09-04 2018-03-13 Duelight Llc Image sensor apparatus and method for obtaining multiple exposures with zero interframe time
US9531961B2 (en) 2015-05-01 2016-12-27 Duelight Llc Systems and methods for generating a digital image using separate color and intensity data
US8976264B2 (en) 2012-09-04 2015-03-10 Duelight Llc Color balance in digital photography
US9819849B1 (en) 2016-07-01 2017-11-14 Duelight Llc Systems and methods for capturing digital images
US10558848B2 (en) 2017-10-05 2020-02-11 Duelight Llc System, method, and computer program for capturing an image with correct skin tone exposure
US10477087B2 (en) 2017-11-16 2019-11-12 Duelight Llc System, method, and computer program for capturing a flash image based on ambient and flash metering
US9807322B2 (en) 2013-03-15 2017-10-31 Duelight Llc Systems and methods for a digital image sensor
US9438812B2 (en) * 2014-07-15 2016-09-06 Himax Imaging Limited Method for controlling exposure level of frame in image sensor, computer readable recording media for performing the method, and image processing system
US10924688B2 (en) 2014-11-06 2021-02-16 Duelight Llc Image sensor apparatus and method for obtaining low-noise, high-speed captures of a photographic scene
US11463630B2 (en) 2014-11-07 2022-10-04 Duelight Llc Systems and methods for generating a high-dynamic range (HDR) pixel stream
CN106899795B (zh) * 2015-12-17 2020-06-09 阿里巴巴集团控股有限公司 一种相机硬件参数调用、设置方法、装置及相机应用系统
TWI646821B (zh) * 2016-01-30 2019-01-01 原相科技股份有限公司 可獲取較高影像亮度動態範圍的影像感測電路及方法
CN106023929B (zh) * 2016-07-20 2018-08-24 深圳市华星光电技术有限公司 显示装置的白平衡调整方法及其系统
US10057521B1 (en) 2016-08-11 2018-08-21 National Technology & Engineering Solutions Of Sandia, Llc High-speed CMOS camera
CN114449163A (zh) 2016-09-01 2022-05-06 迪尤莱特公司 基于焦点目标信息调整焦点的装置和方法
US11330218B2 (en) 2018-08-22 2022-05-10 Gigajot Technology, Inc. Split-readout image sensor
WO2020041584A1 (en) * 2018-08-22 2020-02-27 Gigajot Technology Inc. Split-readout image sensor
JP2022117079A (ja) * 2021-01-29 2022-08-10 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP2023111643A (ja) * 2022-01-31 2023-08-10 キヤノン株式会社 電子機器及びその制御方法

Family Cites Families (56)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2171574C (en) 1996-03-12 2000-10-03 Brian W. Tansley Photometric measurement apparatus
US6498926B1 (en) 1997-12-09 2002-12-24 Qualcomm Incorporated Programmable linear receiver having a variable IIP3 point
US6243430B1 (en) 1998-01-09 2001-06-05 Qualcomm Incorporated Noise cancellation circuit in a quadrature downconverter
US7266150B2 (en) 2001-07-11 2007-09-04 Dolby Laboratories, Inc. Interpolation of video compression frames
US20030015645A1 (en) 2001-07-17 2003-01-23 Brickell Christopher Gavin Optical imager circuit with tolerance of differential ambient illumination
JP2003299067A (ja) * 2002-01-31 2003-10-17 Hitachi Kokusai Electric Inc 映像信号送信方法及び映像信号受信方法並びに映像信号送受信システム
US7296286B2 (en) 2002-01-31 2007-11-13 Hitachi Kokusai Electric Inc. Method and apparatus for transmitting image signals of images having different exposure times via a signal transmission path, method and apparatus for receiving thereof, and method and system for transmitting and receiving thereof
JP2004248061A (ja) * 2003-02-14 2004-09-02 Fuji Photo Film Co Ltd 画像処理装置、方法及びプログラム
JP3933095B2 (ja) 2003-05-30 2007-06-20 ソニー株式会社 撮像装置及び撮像方法
KR100871688B1 (ko) 2004-02-27 2008-12-08 삼성전자주식회사 고체 촬상 장치 및 그 구동 방법
US7760246B2 (en) 2004-07-19 2010-07-20 Hewlett-Packard Development Company, L.P. Method and device for adjusting white balance
JP2006311240A (ja) 2005-04-28 2006-11-09 Olympus Corp 撮像装置
JP2007043248A (ja) 2005-07-29 2007-02-15 Eastman Kodak Co 撮像装置
US8237801B2 (en) 2005-08-05 2012-08-07 The Innovation Science Fund I, LLC Image processing system and communication method
JP4649623B2 (ja) * 2006-01-18 2011-03-16 国立大学法人静岡大学 固体撮像装置及びその画素信号の読みだし方法
US7623683B2 (en) 2006-04-13 2009-11-24 Hewlett-Packard Development Company, L.P. Combining multiple exposure images to increase dynamic range
US8013919B2 (en) 2006-06-27 2011-09-06 Samsung Electronics Co., Ltd. CMOS image sensor with increased dynamic range based on multiple exposure periods of varying lengths
JP2008028678A (ja) * 2006-07-20 2008-02-07 Pentax Corp 撮像素子
US20080030592A1 (en) 2006-08-01 2008-02-07 Eastman Kodak Company Producing digital image with different resolution portions
JP2008187615A (ja) * 2007-01-31 2008-08-14 Canon Inc 撮像素子、撮像装置、制御方法、及びプログラム
US7889207B2 (en) 2007-02-08 2011-02-15 Nikon Corporation Image apparatus with image noise compensation
JP4941285B2 (ja) * 2007-02-20 2012-05-30 セイコーエプソン株式会社 撮像装置、撮像システム、撮像方法及び画像処理装置
US8089522B2 (en) 2007-09-07 2012-01-03 Regents Of The University Of Minnesota Spatial-temporal multi-resolution image sensor with adaptive frame rates for tracking movement in a region of interest
US7688144B2 (en) 2007-12-14 2010-03-30 Industrial Technology Research Institute Variable-gain wide-dynamic-range amplifier
US8115825B2 (en) 2008-02-20 2012-02-14 Apple Inc. Electronic device with two image sensors
JP5083046B2 (ja) 2008-06-03 2012-11-28 ソニー株式会社 撮像装置及び撮像方法
US8730382B2 (en) 2008-06-04 2014-05-20 Honda Motor Co., Ltd. Charge accumulating and splitting imaging device
JP5188292B2 (ja) * 2008-06-30 2013-04-24 キヤノン株式会社 撮像システムおよび撮像システムの駆動方法
JP2010045773A (ja) 2008-07-18 2010-02-25 Panasonic Corp 撮像装置
US8436914B2 (en) 2008-11-07 2013-05-07 Cisco Technology, Inc. Method for automatic exposure control within a video capture device
US20100194851A1 (en) 2009-02-03 2010-08-05 Aricent Inc. Panorama image stitching
JP5187241B2 (ja) 2009-02-16 2013-04-24 株式会社リコー 撮像装置及び撮像方法
BRPI1009443B1 (pt) 2009-03-13 2021-08-24 Dolby Laboratories Licensing Corporation Método de geração de parâmetros de mapeamento de tons inverso, método de compactação de dados de vídeo e método para geração de um fluxo de bits de saída a partir de um fluxo de bits de entrada
KR101094246B1 (ko) 2009-03-16 2011-12-19 이재웅 넓은 동적범위를 갖는 씨모스 이미지 센서
US8537241B2 (en) 2009-05-28 2013-09-17 Pixim, Inc. Image sensor with sensitivity control and sensitivity based wide dynamic range
US8130304B2 (en) 2009-07-24 2012-03-06 Aptina Imaging Corporation Image sensors with pixel charge summing
JP5419659B2 (ja) * 2009-12-04 2014-02-19 キヤノン株式会社 撮像装置
GB2477083A (en) 2010-01-13 2011-07-27 Cmosis Nv Pixel structure with multiple transfer gates to improve dynamic range
US8606042B2 (en) 2010-02-26 2013-12-10 Adobe Systems Incorporated Blending of exposure-bracketed images using weight distribution functions
US9100581B2 (en) 2010-04-02 2015-08-04 Microsoft Technology Licensing, Llc Time interleaved exposures and multiplexed illumination
US20130147979A1 (en) 2010-05-12 2013-06-13 Pelican Imaging Corporation Systems and methods for extending dynamic range of imager arrays by controlling pixel analog gain
KR101052207B1 (ko) 2010-05-12 2011-07-27 엠텍비젼 주식회사 물체의 속도에 따른 카메라 모듈의 영상 녹화 속성 조절 방법 및 장치
WO2012027290A1 (en) 2010-08-23 2012-03-01 Red. Com, Inc. High dynamic range video
US8761245B2 (en) 2010-12-21 2014-06-24 Intel Corporation Content adaptive motion compensation filtering for high efficiency video coding
US8947555B2 (en) 2011-04-18 2015-02-03 Qualcomm Incorporated White balance optimization with high dynamic range images
US9077917B2 (en) 2011-06-09 2015-07-07 Apple Inc. Image sensor having HDR capture capability
JP2013110738A (ja) 2011-10-27 2013-06-06 Panasonic Corp 画像通信装置および撮像装置
WO2013076531A1 (en) 2011-11-23 2013-05-30 Nokia Corporation An apparatus and method comprising a beam splitter
US20130176458A1 (en) 2012-01-11 2013-07-11 Edwin Van Dalen Flexible Burst Image Capture System
WO2013118487A1 (ja) 2012-02-08 2013-08-15 パナソニック株式会社 通信装置
WO2013132828A1 (ja) 2012-03-05 2013-09-12 パナソニック株式会社 通信システムおよび中継装置
JP2013223043A (ja) 2012-04-13 2013-10-28 Toshiba Corp 受光装置および伝送システム
US9083935B2 (en) 2012-06-15 2015-07-14 Microsoft Technology Licensing, Llc Combining multiple images in bracketed photography
US8976264B2 (en) 2012-09-04 2015-03-10 Duelight Llc Color balance in digital photography
FR3002824A1 (fr) 2013-03-04 2014-09-05 St Microelectronics Grenoble 2 Procede et dispositif de generation d'images a grande gamme dynamique
CA2855440A1 (en) 2013-06-28 2014-12-28 Kelly J. Stegman Tissue displacement estimation by ultrasound speckle tracking

Also Published As

Publication number Publication date
US9167169B1 (en) 2015-10-20
EP3216211B1 (en) 2021-01-27
JP2017534230A (ja) 2017-11-16
WO2016073528A3 (en) 2016-10-20
EP3216211A4 (en) 2018-01-24
WO2016073528A2 (en) 2016-05-12
EP3216211A2 (en) 2017-09-13
JP2021158674A (ja) 2021-10-07

Similar Documents

Publication Publication Date Title
JP6896638B2 (ja) 同時に複数の画像を捕捉するための画像センサ装置および方法
JP7253586B2 (ja) 写真撮影シーンの低ノイズ高速捕捉を得るための画像センサ装置および方法
JP2021119701A (ja) フラッシュ照明画像および周囲照明画像を同時に捕捉するための画像センサ装置および方法
US11356647B2 (en) Systems and methods for generating a digital image
JP7000157B2 (ja) ゼロのフレーム間時間で多重露光を得るための画像センサ装置および方法
US11025831B2 (en) Image sensor apparatus and method for obtaining multiple exposures with zero interframe time
JP2020184786A (ja) 高ダイナミックレンジ(hdr)画素ストリームを生成するための装置、コンピュータプログラムおよび方法
US11394894B2 (en) Image sensor apparatus and method for obtaining low-noise, high-speed captures of a photographic scene
US12003864B2 (en) Image sensor apparatus and method for obtaining multiple exposures with zero interframe time

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181016

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191126

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20191204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201027

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20201104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210420

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210511

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210609

R150 Certificate of patent or registration of utility model

Ref document number: 6896638

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150