JP7253586B2 - 写真撮影シーンの低ノイズ高速捕捉を得るための画像センサ装置および方法 - Google Patents

写真撮影シーンの低ノイズ高速捕捉を得るための画像センサ装置および方法 Download PDF

Info

Publication number
JP7253586B2
JP7253586B2 JP2021079285A JP2021079285A JP7253586B2 JP 7253586 B2 JP7253586 B2 JP 7253586B2 JP 2021079285 A JP2021079285 A JP 2021079285A JP 2021079285 A JP2021079285 A JP 2021079285A JP 7253586 B2 JP7253586 B2 JP 7253586B2
Authority
JP
Japan
Prior art keywords
pixel
cell
analog
image
digital
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021079285A
Other languages
English (en)
Other versions
JP2021132390A (ja
Inventor
リバード,ウィリアム
フェーダー,アダム
キンドル,ブライアン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Duelight LLC
Original Assignee
Duelight LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Duelight LLC filed Critical Duelight LLC
Publication of JP2021132390A publication Critical patent/JP2021132390A/ja
Application granted granted Critical
Publication of JP7253586B2 publication Critical patent/JP7253586B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/771Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising storage means other than floating diffusion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

発明の分野
本発明は写真撮影システムに関し、より特定的には、露光の低ノイズ高速捕捉を得るための画像センサ装置および方法に関する。
背景
旧来のデジタル写真撮影システムは、捕捉中の画像センサで測定される光の量によって本質的に制限されている。このような制限に対する1つの解決策は、捕捉された写真に大量のゲインを適用するというものである。別の解決策は、捕捉中のシャッターまたは露光時間を増やすというものである。しかし、これら両方の解決策には、ノイズまたはぼやけの増加などの、結果として生じるいずれの写真の品質も低下させる問題がある。
概要
写真撮影シーンの低ノイズ高速捕捉を得るためのシステム、方法およびコンピュータプログラム製品が提供される。使用時、第1の画素の第1のセルは、第1のサンプルを記憶するための第1のノードと通信する。さらに、第2の画素の第2のセルは、第2のサンプルを記憶するための第2のノードと通信する。さらに、第1のセルおよび第2のセルは、通信可能に結合される。さらなるシステム、方法およびコンピュータプログラム製品も提示される。
一実施形態において、装置は、第1のサンプルを記憶するための第1のノードと通信する第1の画素の第1のセルと、第2のサンプルを記憶するための第2のノードと通信する第2の画素の第2のセルとを備え、上記第1のセルと上記第2のセルとは通信する。
別の実施形態において、上記装置は、第3のサンプルを記憶するための第3のノードと通信する第3の画素の第3のセルと、第4のサンプルを記憶するための第4のノードと通信する第4の画素の第4のセルとを備え、上記第1のセルと上記第2のセルと上記第3のセルと上記第4のセルとは通信する。
別の実施形態において、上記第1の画素の上記第1のセルおよび上記第2の画素の上記第2のセルが同時に上記第1のサンプルを上記第1のノードに記憶するように上記第1のセルと上記第2のセルとは通信し、その結果、上記第1のノードに記憶された上記第1のサンプルは、上記第1のセルにおける第1の光強度および上記第2のセルにおける第2の光強度の両方に基づく。
別の実施形態において、上記第1の画素は、上記第1のセルに加えて、上記第2の画素の上記第2のセルに通信可能に結合されない複数のセルを含み、上記第2の画素は、上記第2のセルに加えて、上記第1の画素の上記第1のセルに通信可能に結合されない複数のセルを含む。別の実施形態において、上記第1のセルは、上記第1のノードの第1のコンデンサに通信可能に結合され、上記第2のセルは、上記第1のノードの上記第1のコンデンサに通信可能に結合される。別の実施形態において、上記第1のセルと上記第2のセルとは、少なくとも1つのトランジスタを含む通信可能な結合を利用して通信する。
さらに、別の実施形態において、上記第1のセルと上記第2のセルとは、上記第1のノードおよび上記第2のノードに通信可能に結合されたドレインとソースとゲートとを有する第1のトランジスタを含む通信可能な結合を利用して通信する。別の実施形態において、上記第1のサンプルは、第1のアナログ信号の状態で出力される。
さらに、別の実施形態において、上記第1のセルの第1のフォトダイオード電流および上記第2のセルの第2のフォトダイオード電流は、上記第1のサンプルを上記第1のノードに記憶するために結合される。別の実施形態において、上記第1のサンプルは、第1のゲインを利用して増幅される第1のアナログ信号の状態で出力され、その結果、第1の増幅されたアナログ信号を生じさせる。
一実施形態において、上記第1の増幅されたアナログ信号は、第1のデジタル画像に関連付けられる第1のデジタル信号の少なくとも一部に変換される。別の実施形態において、スライディング標識が表示され、ユーザが上記スライディング標識を操作したことに応答して、上記第1のデジタル信号は、第2のデジタル画像に関連付けられる第2のデジタル信号とブレンドされる。
別の実施形態において、上記第2のデジタル信号は、少なくとも部分的に第2の増幅されたアナログ信号を利用して生成され、上記第2の増幅されたアナログ信号は、第2のゲインを第2のアナログ信号に加えることから生成され、上記第2のアナログ信号は、上記第2のノードに記憶された上記第2のサンプルに基づくアナログ値を含む。別の実施形態において、上記第1のサンプルおよび上記第2のサンプルは、写真撮影シーンの1回の露光中に記憶される。
さらに、別の実施形態において、上記第1のデジタル信号は、第1の解像度を有する上記第1のデジタル画像を含み、上記第2のデジタル信号は、上記第1の解像度とは異なる第2の解像度を有する上記第2のデジタル画像を含む。別の実施形態において、上記第2のデジタル画像の上記第2の解像度は、上記第1のデジタル画像の上記第1の解像度よりも大きい。別の実施形態において、上記第1のサンプルおよび上記第2のサンプルのうちの少なくとも1つは、複数のデジタル信号に変換される。別の実施形態において、上記デジタル信号は、遠隔で結合されるようにネットワークを介して伝えられる。別の実施形態において、上記デジタル信号は、遠隔で結合されるようにをネットワークを介して伝えられ、その結果、ハイダイナミックレンジ(HDR)画像の少なくとも一部を生じさせる。
一実施形態において、方法は、第1の画素の第1のセルと通信する第1のノードに第1のサンプルを記憶するステップと、第2の画素の第2のセルと通信する第2のノードに第2のサンプルを記憶するステップと、上記第1のノードおよび上記第2のノードを通信可能に結合するステップとを備える。
一実施形態に従う写真撮影シーンの低ノイズ高速捕捉を得るための例示的なシステムを示す図である。 別の実施形態に従う写真撮影シーンの低ノイズ高速捕捉を得るための例示的なシステムを示す図である。 ある実施形態に従う写真撮影シーンの低ノイズ高速捕捉を得るように構成されたデジタル写真撮影システムを示す図である。 一実施形態に係るデジタル写真撮影システム内のプロセッサ複合体を示す図である。 ある実施形態に従うデジタルカメラを示す図である。 別の実施形態に従うワイヤレスモバイルデバイスを示す図である。 一実施形態に係る画像をサンプリングするように構成されたカメラモジュールを示す図である。 別の実施形態に係る画像をサンプリングするように構成されたカメラモジュールを示す図である。 ある実施形態に従うアプリケーションプロセッサと通信しているカメラモジュールを示す図である。 別の実施形態に従うネットワークサービスシステムを示す図である。 他の実施形態に従う光学シーン情報を写真撮影シーンの電子表現に変換するためのシステムを示す図である。 他の実施形態に従う光学シーン情報を写真撮影シーンの電子表現に変換するためのシステムを示す図である。 他の実施形態に従う光学シーン情報を写真撮影シーンの電子表現に変換するためのシステムを示す図である。 他の実施形態に従う光学シーン情報を写真撮影シーンの電子表現に変換するためのシステムを示す図である。 他の実施形態に従う光学シーン情報を写真撮影シーンの電子表現に変換するためのシステムを示す図である。 一実施形態に従う感光性セルのための回路図である。 別の実施形態に従う別の感光性セルのための回路図である。 さらに別の実施形態に従う複数の通信可能に結合された感光性セルのための回路図である。 別の実施形態に従うアナログ信号のアナログ画素データをデジタル画素データに変換するためのシステムを示す図である。 別の実施形態に従うさまざまなアナログ記憶面の実現例を示す図である。 別の実施形態に従うアナログ信号のアナログ画素データをデジタル画素データに変換するためのシステムを示す図である。 ある実施形態に係る結合画像を生成するためのユーザインターフェイスシステムを示す図である。 一実施形態に係る結合画像を生成するための方法ステップのフロー図である。 別の実施形態に係るネットワークを利用して結合画像を生成するためのメッセージシーケンスを示す図である。
詳細な説明
図1は、一実施形態に従う写真撮影シーンの低ノイズ高速捕捉を得るためのシステム100を示す。選択肢として、システム100は本明細書に開示されている図面のうちのいずれかの図面の文脈において実現されてもよい。しかし、当然、システム100は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図1に示されるように、システム100は、第1の画素105と、第2の画素107と、第1のサンプル記憶ノード121と、第2のサンプル記憶ノード123とを含む。さらに、第1の画素105は、第1のセル101を含むとして示され、第2の画素107は、第2のセル103を含むとして示されている。一実施形態において、各画素は、1つ以上のセルを含んでいてもよい。たとえば、いくつかの実施形態では、各画素は、4つのセルを含んでいてもよい。さらに、セルの各々は、フォトダイオード、光センサまたは任意の光検知電気素子を含んでいてもよい。フォトダイオードは、光子吸収に応答して、電位差、電流を生成するかまたはその電気抵抗を変化させる任意の半導体ダイオードを含んでいてもよい。したがって、フォトダイオードは光強度の検出または測定に用いられてもよい
再び図1を参照して、第1のセル101と第1のサンプル記憶ノード121とは、配線111を介して通信し、第2のセル103と第2のサンプル記憶ノード123とは、配線113を介して通信し、第1のセル101と第2のセル103とは、配線112を介して通信する。
配線111~113の各々は、1つ以上のセルからサンプル記憶ノードに電気信号を伝達し得る。たとえば、配線111は、セル101から第1のサンプル記憶ノード121に電気信号を伝達してもよい。配線113は、セル103から第2のサンプル記憶ノード123に電気信号を伝達してもよい。さらに、配線112は、セル103から第1のサンプル記憶ノード121に電気信号を伝達してもよく、またはセル101から第2のサンプル記憶ノード123に電気信号を伝達してもよい。このような実施形態では、配線112は、第1のセル101と第2のセル103との間の通信可能な結合を可能にすることができる。さらに、いくつかの実施形態では、配線112は、選択的に有効または無効にされるように動作可能であってもよい。このような実施形態では、配線112は、1つ以上のトランジスタおよび/または制御信号を用いて選択的に有効または無効にされてもよい。
一実施形態において、配線111~113によって伝達される各電気信号は、フォトダイオード電流を含んでいてもよい。たとえば、セル101および103の各々は、フォトダイオードを含んでいてもよい。セル101および103のフォトダイオードの各々は、配線111~113を介してセル101および103からサンプル記憶ノード121および123のうちの1つ以上に通信されるフォトダイオード電流を生成し得る。配線112が無効にされる構成では、配線113は、セル103から第2のサンプル記憶ノード123にフォトダイオード電流を通信することができ、同様に、配線111は、セル101から第1のサンプル記憶ノード121にフォトダイオード電流を通信することができる。しかし、配線112が有効にされる構成では、セル101もセル103も第1のサンプル記憶ノード121および第2のサンプル記憶ノード123にフォトダイオード電流を通信することができる。
当然、各サンプル記憶ノードは、1つ以上の通信可能に結合されたセルから任意の電気信号を受信し、次いで受信した電気信号に基づいてサンプルを記憶するように動作可能であってもよい。いくつかの実施形態では、各サンプル記憶ノードは、2つ以上のサンプルを記憶するように構成されてもよい。たとえば、第1のサンプル記憶ノード121は、セル101からのフォトダイオード電流に基づいて第1のサンプルを記憶してもよく、少なくとも部分的にセル103からのフォトダイオード電流に基づいて第2のサンプルを別途記憶してもよい。
一実施形態において、各サンプル記憶ノードは、サンプルを記憶するための電荷蓄積装置を含み、所与の記憶ノードに記憶されるサンプルは、1つ以上の関連付けられているフォトダイオードにおいて検出される光強度の関数であってもよい。たとえば、第1のサンプル記憶ノード121は、セル101のフォトダイオードにおいて検出される光強度に基づいて生成される受信したフォトダイオード電流の関数として、サンプルを記憶してもよい。さらに、第2のサンプル記憶ノード123は、セル103のフォトダイオードにおいて検出される光強度に基づいて生成される受信したフォトダイオード電流の関数として、サンプルを記憶してもよい。さらに別の例として、配線112が有効にされると、第1のサンプル記憶ノード121は、セル101および103の各々からフォトダイオード電流を受信することができ、それによって、第1のサンプル記憶ノード121は、セル101のフォトダイオードにおいて検出される光強度およびセル103のフォトダイオードにおいて検出される光強度の両方の関数としてサンプルを記憶することができる。
一実施形態において、各サンプル記憶ノードは、電荷をサンプルとして蓄積するためのコンデンサを含んでいてもよい。このような実施形態では、各コンデンサは、露光時間またはサンプリング時間中に蓄積された露光に対応する電荷を蓄積する。たとえば、1つ以上の関連付けられているフォトダイオードから各コンデンサにおいて受信した電流によって、予め充電されているコンデンサが、1つ以上のフォトダイオードにおいて検出された入射光強度に比例する速度で放電し得る。各コンデンサの残留電荷は、値またはアナログ値と称することができ、その後コンデンサから出力され得る。たとえば、各コンデンサの残留電荷は、コンデンサ上の残留電荷の関数であるアナログ値として出力されてもよい。一実施形態において、配線112を介して、セル101は第1のサンプル記憶ノード121の1つ以上のコンデンサに通信可能に結合されてもよく、セル103も第1のサンプル記憶ノード121の1つ以上のコンデンサに通信可能に結合されてもよい。
いくつかの実施形態において、各サンプル記憶ノードは、1つ以上のフォトダイオードに基づいて入力を受信するように動作可能な回路を含んでいてもよい。たとえば、このような回路は、1つ以上のトランジスタを含んでいてもよい。当該1つ以上のトランジスタは、サンプル記憶ノードを、1つ以上の制御装置または部材から受信されるサンプル信号、リセット信号および行選択信号などのさまざまな制御信号に応答する状態にするように構成されてもよい。他の実施形態では、各サンプル記憶ノードは、1つ以上の関連付けられているフォトダイオードにおいて検出される光強度の関数である任意のサンプルまたは値を記憶するための任意の装置を含んでいてもよい。いくつかの実施形態では、配線112は、1つ以上の関連付けられているトランジスタを用いて選択的に有効または無効にされてもよい。したがって、セル101およびセル103は、少なくとも1つのトランジスタを含む通信可能な結合を利用して通信することができる。画素105および107の各々がさらなるセル(図示せず)を含む実施形態では、当該さらなるセルは、配線112を介してセル101および103に通信可能に結合されなくてもよい。
さまざまな実施形態において、画素105および107は、画像センサの画素の配列のうちの2つの画素であってもよい。サンプル記憶ノードに記憶される各値は、画素105および107を含む画像センサ上に合焦された光学画像の一部の電子表示を含んでいてもよい。このような実施形態では、光学画像は、レンズによって画像センサ上に合焦されてもよい。光学画像の電子表現は空間色強度情報を含んでいてもよく、当該情報は異なる色強度サンプル(たとえば赤色、緑色および青色光等)を含んでいてもよい。他の実施形態では、空間色強度情報は、白色光についてのサンプルをさらに含んでいてもよい。一実施形態において、光学画像は、写真撮影シーンの光学画像であってもよい。このような画像センサは、相補型金属酸化膜半導体(CMOS)画像センサ、または電荷結合素子(CCD)画像センサ、またはその他の技術的に実行可能な形態の画像センサを含んでいてもよい。
図2は、別の実施形態に従う写真撮影シーンの低ノイズ高速捕捉を得るためのシステム200を示す。選択肢として、システム200は本明細書に開示されている図面のうちのいずれかの図面の文脈において実現されてもよい。しかし、当然、システム200は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図2に示されるように、システム200は、複数の画素240を含む。具体的には、システム200は、画素240(0),240(1),240(2)および240(3)を含むとして示されている。画素240の各々は、組成および構成に関して実質的に同一であってもよい。さらに、画素240の各々は、画像センサを構成する画素の配列の単一の画素であってもよい。この目的で、画素240の各々は、ハードウェアを含んでいてもよ
く、当該ハードウェアは、画素を、光のさまざまな波長を検出または測定して、測定した光を1つ以上のデジタル画像のレンダリングまたは生成のための1つ以上の電気信号に変換するように動作可能である状態にする。画素240の各々は、図1の画素105または画素107と実質的に同一であってもよい。
さらに、画素240の各々は、セル242、セル243、セル244およびセル245を含むとして示されている。一実施形態において、セル242~245の各々は、光の1つ以上のピーク波長を検出および測定するように動作可能なフォトダイオードを含む。たとえば、セル242の各々は、赤色光を検出および測定するように動作可能であってもよく、セル243および244の各々は、緑色光を検出および測定するように動作可能であってもよく、セル245の各々は、青色光を検出および測定するように動作可能であってもよい。他の実施形態では、フォトダイオードは、赤色光のみ、緑色光のみまたは青色光のみ以外の光の波長を検出するように構成されてもよい。たとえば、フォトダイオードは、白色、シアン、マゼンタ、黄色、または、赤外光もしくは紫外光などの不可視光を検出するように構成されてもよい。いかなる通信可能に結合されたセルも、光の同一のピーク波長を検出するように構成されてもよい。
さまざまな実施形態において、セル242~245の各々は、光のその関連付けられている1つ以上のピーク波長の検出および測定に応答して電気信号を生成し得る。一実施形態において、各電気信号は、フォトダイオード電流を含んでいてもよい。所与のセルは、選択されたサンプリング時間または露光時間中にサンプル記憶ノードによってサンプリングされるフォトダイオード電流を生成し得て、サンプル記憶ノードは、フォトダイオード電流のサンプリングに基づいてアナログ値を記憶し得る。当然、上記のように、各サンプル記憶ノードは、2つ以上のアナログ値を同時に記憶することができてもよい。
図2に示されるように、セル242の各々は、配線250を介して通信可能に結合される。一実施形態において、配線250は、1つ以上の制御信号を用いて有効または無効にされてもよい。配線250が有効にされると、当該配線は、結合電気信号を伝達することができる。当該結合電気信号は、セル242の各々から出力される電気信号の組合せを含んでいてもよい。たとえば、結合電気信号は、結合フォトダイオード電流を含んでいてもよく、当該結合フォトダイオード電流は、セル242の各々のフォトダイオードから受信されるフォトダイオード電流を含む。したがって、配線250の有効化は、光の1つ以上のピーク波長に基づいて生成される結合フォトダイオード電流を増加させる働きをし得る。いくつかの実施形態では、結合フォトダイオード電流を用いて、一つだけのセルによって生成されるフォトダイオード電流がアナログ値の記憶に使用される場合よりも迅速に、アナログ値をサンプル記憶ノードに記憶してもよい。この目的で、配線250は、画像センサの画素240を入射光に対してさらに敏感な状態にするように有効にされてもよい。画像センサの感度を高めることにより、微光条件でのデジタル画像のさらに迅速な捕捉、ノイズが低減された状態でのデジタル画像の捕捉、および/または、所与の露光時間でのさらに高輝度のもしくはよりよく露光されたデジタル画像の捕捉を可能にすることができる。
本明細書に開示されている実施形態は、有利に、カメラモジュールが、微光条件において従来技術よりもノイズが少なく、ぼやけが少なく、露光が大きくなるように画像をサンプリングすることを可能にすることができる。特定の実施形態では、画像のサンプリングまたは捕捉を効果的に同時に行うことができ、サンプル間時間をゼロまたはゼロに近い状態に減少させることができる。他の実施形態では、カメラモジュールは、ストロボユニットと協調して画像をサンプリングして、ストロボ照明を用いずにサンプリングされた画像とストロボ照明を用いてサンプリングされた画像との間のサンプル間時間を減少させ得る。
上述の方法がユーザの希望に従って実行されてもされなくてもよいさまざまな随意のアーキテクチャおよび使用に関して、より例示的な情報が以下に記載される。以下の情報は例示目的で記載されており、いかなる意味でも限定的であると解釈されるべきでないことに強く留意すべきである。以下の特徴はいずれも、説明される他の特徴を除外してまたは除外せずに随意に組込まれ得る。
図3Aは、一実施形態に従うデジタル写真撮影システム300を示す。選択肢として、デジタル写真撮影システム300は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、デジタル写真撮影システム300は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
示されるように、デジタル写真撮影システム300は、配線334を介してカメラモジュール330に結合されたプロセッサ複合体310を含んでいてもよい。一実施形態において、プロセッサ複合体310はストロボユニット336に結合されている。デジタル写真撮影システム300はさらに、表示ユニット312、1組の入出力デバイス314、不揮発性メモリ316、揮発性メモリ318、ワイヤレスユニット340およびセンサデバイス342を含み得るがこれらに限定されず、これらの各々はプロセッサ複合体310に結合されている。一実施形態において、電力管理サブシステム320が、デジタル写真撮影システム300内の電気負荷要素の各々に適切な電源電圧を生成するように構成される。電池322が、電気エネルギを電力管理サブシステム320に供給するように構成されてもよい。電池322は、一次または二次電池技術を含む任意の技術的に実行可能なエネルギ貯蔵システムを実現し得る。当然、他の実施形態では、より多いもしくは少ない特徴、ユニット、デバイス、センサ、またはサブシステムがシステムに含まれていてもよい。
一実施形態において、ストロボユニット336はデジタル写真撮影システム300に統合され、デジタル写真撮影システム300が実行する画像サンプルイベント時にストロボ照明350を提供するように構成されてもよい。別の実施形態において、ストロボユニット336は、デジタル写真撮影システム300から独立したデバイスとして実現され、デジタル写真撮影システム300が実行する画像サンプルイベント時にストロボ照明350を提供するように構成されてもよい。ストロボユニット336は1つ以上のLED素子、ガス放電照明器(たとえばキセノンストロボデバイス、キセノンフラッシュランプ等)、またはその他の技術的に実行可能な照明デバイスを含んでいてもよい。特定の実施形態において、2つ以上のストロボユニットが画像のサンプリングと共にストロボ照明を同期して生成するように構成される。一実施形態において、ストロボユニット336は、ストロボ照明350を発するようにまたはストロボ照明350を発しないようにストロボ制御信号338を通して制御される。ストロボ制御信号338は、任意の技術的に実行可能な信号伝送プロトコルを用いて実現されてもよい。ストロボ制御信号338は、ストロボユニット336にストロボ照明350の指定強度および/または色を生成するように命じるためのストロボパラメータ(たとえばストロボ強度、ストロボ色、ストロボ時間等)を指示し得る。ストロボ制御信号338は、プロセッサ複合体310、カメラモジュール330によって、またはその他の技術的に実行可能なそれらの組合せによって生成されてもよい。一実施形態において、ストロボ制御信号338は、プロセッサ複合体310内のカメラインターフェイスユニットによって生成され、配線334を介してストロボユニット336およびカメラモジュール330の両方に送信される。別の実施形態において、ストロボ制御信号338は、カメラモジュール330によって生成され、配線334を介してストロボユニット336に送信される。
写真撮影シーン内のオブジェクトから反射したストロボ照明350の少なくとも一部を
含み得る光学シーン情報352が、カメラモジュール330内の画像センサ332上に光学画像として合焦される。画像センサ332は光学画像の電子表現を生成する。電子表現は空間色強度情報を含み、当該情報は異なる色強度サンプル(たとえば赤色、緑色および青色光等)を含んでいてもよい。他の実施形態では、空間色強度情報は、白色光についてのサンプルをさらに含んでいてもよい。電子表現は、任意の技術的に実行可能な信号伝送プロトコルを実現し得る配線334を介してプロセッサ複合体310に送信される。
一実施形態において、入出力デバイス314は、容量性タッチ入力面、抵抗性タブレット入力面、1つ以上のボタン、1つ以上のノブ、発光素子、光検出素子、音放射素子、音検出素子、またはユーザ入力を受信して当該入力を電気信号に変換する、もしくは電気信号を物理的信号に変換するためのその他の技術的に実行可能な素子を含み得るがこれらに限定されない。一実施形態において、入出力デバイス314は、表示ユニット312に結合された容量性タッチ入力面を含む。タッチエントリ表示システムが、表示ユニット312、およびこれもプロセッサ複合体310に結合された容量性タッチ入力面を含んでいてもよい。
また、他の実施形態では、不揮発性(NV)メモリ316は、電力が遮断されるとデータを記憶するように構成される。一実施形態において、NVメモリ316は1つ以上のフラッシュメモリデバイス(たとえばROM、PCM、FeRAM、FRAM(登録商標)、PRAM、MRAM、NRAM等)を含む。NVメモリ316は非一時的なコンピュータ読取可能媒体を含み、当該媒体は、プロセッサ複合体310内の1つ以上の処理装置によって実行されるプログラミング命令を含むように構成されてもよい。プログラミング命令は、オペレーティングシステム(OS)、UIソフトウェアモジュール、画像処理および記憶ソフトウェアモジュール、プロセッサ複合体310に接続された1つ以上の入出力デバイス314、カメラモジュール330を通して画像スタックをサンプリングするための1つ以上のソフトウェアモジュール、画像スタックまたは画像スタックから生成された1つ以上の合成画像を表示ユニット312を通して提示するための1つ以上のソフトウェアモジュールを実現し得るがこれらに限定されない。一例として、一実施形態において、プログラミング命令はさらに、画像スタック内の画像同士もしくは画像の一部同士を併合し、画像スタック内の各画像の少なくとも一部同士を整列させるための、またはそれらの組合せのための1つ以上のソフトウェアモジュールを実現し得る。別の実施形態において、プロセッサ複合体310は、プログラミング命令を実行するように構成されてもよく、当該命令は、高ダイナミックレンジ(HDR)画像を作成するように動作可能な1つ以上のソフトウェアモジュールを実現し得る。
さらに、一実施形態において、NVメモリ316を含む1つ以上のメモリデバイスが、ユーザによってインストールまたは除去されるように構成されたモジュールとしてパッケージ化されてもよい。一実施形態において、揮発性メモリ318は、ダイナミックランダムアクセスメモリ(DRAM)を含み、当該ダイナミックランダムアクセスメモリは、デジタル写真撮影システム300の通常動作中にアクセスされる、プログラミング命令、画像スタックと関連付けられているデータなどの画像データなどを一時的に記憶するように構成される。当然、揮発性メモリは、任意の態様で、プロセッサ複合体310に取付けられたその他の入出力デバイス314またはセンサデバイス342と関連して用いられてもよい。
一実施形態において、センサデバイス342は、動作および/もしくは方向を検出する加速度計、動作および/もしくは方向を検出する電子ジャイロスコープ、方向を検出する磁束検出器、地理的位置を検出する全地球測位システム(GPS)モジュール、の1つ以上、またはそれらのいずれかの組合せを含み得るがこれらに限定されない。当然、動作検出センサ、近接センサ、RGB光センサ、ジェスチャセンサ、3D入力画像センサ、圧力
センサ、および屋内位置センサを含むがこれらに限定されない他のセンサがセンサデバイスとして統合されてもよい。一実施形態において、当該センサデバイスは入出力デバイス314の一例であり得る。
ワイヤレスユニット340は、デジタルデータを送受信するように構成された1つ以上のデジタルラジオを含んでいてもよい。特に、ワイヤレスユニット340は、無線規格(たとえばWiFi、Bluetooth(登録商標)、NFC等)を実現し得、データ通信のためのデジタルセルラー電話規格(たとえばCDMA、3G、4G、LTE、LTEアドバンスト等)を実現し得る。当然、任意の無線規格またはデジタルセルラー電話規格が用いられてもよい。
一実施形態において、デジタル写真撮影システム300は、1つ以上のデジタル写真をワイヤレスユニット340を介してネットワークベースの(オンライン)または「クラウドベースの」写真メディアサービスに送信するように構成される。1つ以上のデジタル写真は、NVメモリ316もしくは揮発性メモリ318のいずれか一方、またはプロセッサ複合体310と関連付けられているその他のメモリデバイスの内部に存在し得る。一実施形態において、ユーザは、オンライン写真メディアサービスにアクセスするための、かつ、1つ以上のデジタル写真を送信してオンライン写真メディアサービスに保存する、オンライン写真メディアサービスから取出す、およびオンライン写真メディアサービスによって提示するためのクレデンシャルを所有していてもよい。クレデンシャルは、デジタル写真を送信する前にデジタル写真撮影システム300内で記憶または生成されてもよい。オンライン写真メディアサービスは、ソーシャルネットワーキングサービス、写真共有サービス、またはデジタル写真の保存、デジタル写真の処理、デジタル写真の送信、デジタル写真の共有、もしくはそれらのいずれかの組合せを提供するその他のネットワークベースのサービスを含んでいてもよい。特定の実施形態において、1つ以上のデジタル写真が、オンライン写真メディアサービスと関連付けられているサーバに送信される画像データ(たとえば画像スタック、HDR画像スタック、画像パッケージ等)に基づいてオンライン写真メディアサービスによって生成される。そのような実施形態では、ユーザは、デジタル写真撮影システム300からの1つ以上のソース画像を、オンライン写真メディアサービスによって処理するためにアップロードしてもよい。
一実施形態において、デジタル写真撮影システム300はカメラモジュール330の少なくとも1つのインスタンスを含む。別の実施形態において、デジタル写真撮影システム300は複数のカメラモジュール330を含む。そのような実施形態はさらに、複数のカメラモジュール330によって多数の視野としてサンプリングされた写真撮影シーンを照明するように構成された少なくとも1つのストロボユニット336を含んでいてもよい。複数のカメラモジュール330は、広角視野(たとえばカメラ間の45度のスイープよりも大きい)をサンプリングしてパノラマ写真を生成するように構成されてもよい。一実施形態において、複数のカメラモジュール330は、2つ以上の狭角視野(たとえばカメラ間の45度のスイープよりも小さい)をサンプリングしてステレオ写真を生成するように構成されてもよい。他の実施形態では、複数のカメラモジュール330は、表示ユニット312もしくはその他の表示デバイス上に示されるような3D画像を生成するように、またはそうでなければ遠近感(たとえばz成分等)を表示するように構成されてもよい。
一実施形態において、表示ユニット312は、画素の二次元配列を表示して表示用の画像を形成するように構成されてもよい。表示ユニット312は、液晶(LCD)ディスプレイ、発光ダイオード(LED)ディスプレイ、有機LEDディスプレイ、またはその他の技術的に実行可能な種類のディスプレイを含んでいてもよい。特定の実施形態において、表示ユニット312は、単一のHDR画像内で、または多重露光もしくはHDR画像スタックを含む1組の2つ以上の画像にわたって、などで、写真撮影シーンからサンプリン
グされた強度値の完全な範囲よりも狭い画像強度値のダイナミックレンジを表示することが可能であり得る。一実施形態において、画像スタックを含む画像は、任意の技術的に実行可能なHDRブレンド技術に従って併合されて、表示ユニット312のダイナミックレンジ制約内で表示用の合成画像を生成してもよい。一実施形態において、制限されるダイナミックレンジは、対応する色強度の8ビット/カラーチャネルバイナリ表現を指定してもよい。他の実施形態では、制限されるダイナミックレンジは、8ビットよりも多いビット(たとえば10ビット、12ビット、または14ビット等)/カラーチャネルバイナリ表現を指定してもよい。
図3Bは、一実施形態に従う図3Aのデジタル写真撮影システム300内のプロセッサ複合体310を示す。選択肢として、プロセッサ複合体310は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、プロセッサ複合体310は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
示されるように、プロセッサ複合体310は、プロセッササブシステム360を含み、メモリサブシステム362を含んでいてもよい。一実施形態において、プロセッサ複合体310は、プロセッササブシステム360を実現するシステムオンチップ(system on a chip:SoC)デバイスを含んでいてもよく、メモリサブシステム362は、プロセッササブシステム360に結合された1つ以上のDRAMデバイスを含む。別の実施形態において、プロセッサ複合体310は、SoCデバイスと、メモリサブシステム362を含む1つ以上のDRAMデバイスとをカプセル化するマルチチップモジュール(multi-chip module:MCM)を含んでいてもよい。
プロセッササブシステム360は、1つ以上の中央処理装置(CPU)コア370、メモリインターフェイス380、入出力インターフェイスユニット384、および表示インターフェイスユニット382を含み得るがこれらに限定されず、これらの各々が配線374に結合されている。1つ以上のCPUコア370は、メモリサブシステム362、揮発性メモリ318、NVメモリ316、またはそれらのいずれかの組合せの内部に存在している命令を実行するように構成されてもよい。1つ以上のCPUコア370の各々は、配線374およびメモリインターフェイス380を通してデータを取出して記憶するように構成されてもよい。一実施形態において、1つ以上のCPUコア370の各々がデータキャッシュおよび命令キャッシュを含んでいてもよい。また、CPUコア370の2つ以上がデータキャッシュ、命令キャッシュ、またはそれらのいずれかの組合せを共有してもよい。一実施形態において、各CPUコア370にプライベートキャッシュ層および共有キャッシュ層を提供するようにキャッシュ階層が実現される。
いくつかの実施形態において、プロセッササブシステム360は1つ以上のグラフィック処理装置(GPU)コア372を含んでいてもよい。各GPUコア372は、グラフィック加速機能を実現するがこれに限定されないようにプログラミングされ得る複数のマルチスレッド実行ユニットを含んでいてもよい。さまざまな実施形態において、GPUコア372は、周知の規格(たとえばOpenGL(商標)、WebGL(商標)、OpenCL(商標)、CUDA(商標)等)、および/またはその他のプログラム可能なレンダリンググラフィック規格に従ってマルチスレッドプログラムを実行するように構成されてもよい。特定の実施形態において、少なくとも1つのGPUコア372が、周知のHarris検出器または周知のHessian-Laplace検出器などの動作推定機能の少なくとも一部を実現する。そのような動作推定機能を用いて、画像スタック内の画像同士または画像の一部同士を少なくとも部分的に整列させることができる。たとえば、一実施形態において、HDR画像が画像スタックに基づいてコンパイルされてもよく、HDR画像をコンパイルする前に2つ以上の画像がまず整列させられる。
示されるように、配線374は、メモリインターフェイス380、表示インターフェイスユニット382、入出力インターフェイスユニット384、CPUコア370、およびGPUコア372の間でデータを伝送するように構成される。さまざまな実施形態において、配線374は、1本以上のバス、1つ以上のリング、クロスバー、メッシュ、またはその他の技術的に実行可能なデータ伝送構造もしくは技術を実現し得る。メモリインターフェイス380は、メモリサブシステム362を配線374に結合するように構成される。メモリインターフェイス380はさらに、NVメモリ316、揮発性メモリ318、またはそれらのいずれかの組合せを配線374に結合してもよい。表示インターフェイスユニット382は、表示ユニット312を配線374に結合するように構成されてもよい。表示インターフェイスユニット382は特定のフレームバッファ機能(たとえばフレームリフレッシュ等)を実現し得る。または、別の実施形態において、表示ユニット312は特定のフレームバッファ機能(たとえばフレームリフレッシュ等)を実現し得る。入出力インターフェイスユニット384は、さまざまな入出力デバイスを配線374に結合するように構成されてもよい。
特定の実施形態において、カメラモジュール330は、画像スタックと関連付けられている各画像をサンプリングするための露光パラメータを記憶するように構成される。たとえば、一実施形態において、カメラモジュール330は、写真撮影シーンをサンプリングするように命じられると、記憶された露光パラメータに従って画像スタックを含む1組の画像をサンプリングし得る。プロセッサ複合体310内で実行されるプログラミング命令を含むソフトウェアモジュールが、カメラモジュール330に画像スタックをサンプリングするように命じる前に露光パラメータを生成して記憶してもよい。他の実施形態では、カメラモジュール330を用いて画像または画像スタックが計測されてもよく、プロセッサ複合体310内で実行されるプログラミング命令を含むソフトウェアモジュールは、カメラモジュール330に画像を捕捉するように命じる前に計測パラメータを生成して記憶してもよい。当然、カメラモジュール330はプロセッサ複合体310と組合されて任意の態様で用いられてもよい。
一実施形態において、画像スタックを含む画像と関連付けられている露光パラメータは、1つ以上の画像についての露光パラメータを含む露光パラメータデータ構造内に記憶されてもよい。別の実施形態において、プロセッサ複合体310内のカメラインターフェイスユニット(図3Bには図示せず)が、露光パラメータデータ構造から露光パラメータを読出し、写真撮影シーンのサンプリングに備えて、関連付けられている露光パラメータをカメラモジュール330に送信するように構成されてもよい。カメラモジュール330が露光パラメータに従って構成された後、カメラインターフェイスはカメラモジュール330に写真撮影シーンをサンプリングするように命じてもよく、カメラモジュール330は次いで、対応する画像スタックを生成してもよい。露光パラメータデータ構造は、カメラインターフェイスユニット、プロセッサ複合体310内のメモリ回路、揮発性メモリ318、NVメモリ316、カメラモジュール330の内部に、またはその他の技術的に実行可能なメモリ回路の内部に記憶されてもよい。さらに、別の実施形態において、プロセッサ複合体310内で実行されるソフトウェアモジュールが露光パラメータデータ構造を生成して記憶してもよい。
図3Cは、一実施形態に従うデジタルカメラ302を示す。選択肢として、デジタルカメラ302は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、デジタルカメラ302は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、デジタルカメラ302は、図3Aのデジタル写真撮影システム3
00などのデジタル写真撮影システムを含むように構成されてもよい。示されるように、デジタルカメラ302はカメラモジュール330を含み、当該カメラモジュールは、写真撮影シーンを表す光学シーン情報を画像センサ上に合焦するように構成された光学素子を含んでいてもよく、当該画像センサは、光学シーン情報を写真撮影シーンの電子表現に変換するように構成されてもよい。
また、デジタルカメラ302は、ストロボユニット336を含んでいてもよく、写真撮影サンプルイベントをトリガするためのシャッターリリースボタン315を含んでいてもよく、これによってデジタルカメラ302は電子表現を含む1つ以上の画像をサンプリングする。他の実施形態では、その他の技術的に実行可能なシャッターリリース機構が写真撮影サンプルイベントをトリガしてもよい(たとえばタイマトリガまたは遠隔制御トリガ等)。
図3Dは、一実施形態に従うワイヤレスモバイルデバイス376を示す。選択肢として、モバイルデバイス376は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、モバイルデバイス376は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、モバイルデバイス376は、写真撮影シーンをサンプリングするように構成されているデジタル写真撮影システム(たとえば図3Aのデジタル写真撮影システム300など)を含むように構成されてもよい。さまざまな実施形態において、カメラモジュール330は、写真撮影シーンを表す光学シーン情報を画像センサ上に合焦するように構成された光学素子を含んでいてもよく、当該画像センサは、光学シーン情報を写真撮影シーンの電子表現に変換するように構成されてもよい。さらに、表示ユニット312を含むタッチエントリ表示システム上のタッチジェスチャによって起動され得る仮想ボタン、または任意の面もしくはモバイルデバイス376の表面上に位置し得る物理ボタンなどの、任意の技術的に実行可能なメカニズムによって、シャッターリリースコマンドが生成されてもよい。当然、他の実施形態では、任意の数の他のボタン、外部入出力、またはデジタル入出力がモバイルデバイス376上に含まれていてもよく、カメラモジュール330と併用されてもよい。
示されるように、一実施形態において、表示ユニット312を含むタッチエントリ表示システムがモバイルデバイス376のカメラモジュール330と反対側に配置されている。特定の実施形態において、モバイルデバイス376は、ユーザの方を向くカメラモジュール331を含み、ユーザの方を向くストロボユニット(図示せず)を含んでいてもよい。当然、他の実施形態では、モバイルデバイス376は、任意の数のユーザの方を向くカメラモジュールまたは後ろ向きのカメラモジュール、および任意の数のユーザの方を向くストロボユニットまたは後ろ向きのストロボユニットを含んでいてもよい。
いくつかの実施形態において、デジタルカメラ302およびモバイルデバイス376の各々は、カメラモジュール330によってサンプリングされた画像スタックに基づいて合成画像を生成して記憶してもよい。画像スタックは、周囲照明条件下でサンプリングされた1つ以上の画像、ストロボユニット336からのストロボ照明下でサンプリングされた1つ以上の画像、またはそれらの組合せを含んでいてもよい。
図3Eは、一実施形態に従うカメラモジュール330を示す。選択肢として、カメラモジュール330は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、カメラモジュール330は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、カメラモジュール330は、ストロボ制御信号338を通してストロボユニット336を制御するように構成されてもよい。示されるように、レンズ390が、光学シーン情報352をサンプリングすべき画像センサ332上に合焦するように構成される。一実施形態において、画像センサ332は、ストロボ制御信号338を通してストロボユニット336の詳細なタイミングを有利に制御して、ストロボユニット336が有効な状態でサンプリングされた画像とストロボユニット336が無効な状態でサンプリングされた画像との間のサンプル間時間を減少させる。たとえば、画像センサ332は、画像センサ332が周囲画像のサンプリングと関連付けられている露光時間を完了した後であってストロボ画像をサンプリングする前に、ストロボユニット336が1マイクロ秒未満(または任意の所望の長さ)にわたってストロボ照明350を発することを可能にし得る。
他の実施形態では、ストロボ照明350は所望の1つ以上のターゲットポイントに基づいて構成されてもよい。たとえば、一実施形態において、ストロボ照明350は、前景内のオブジェクトを照らし出してもよく、露光時間の長さに依存して、画像の背景内のオブジェクトも照らし出してもよい。一実施形態において、ストロボユニット336が有効になると、画像センサ332はその直後にストロボ画像を露光し始めてもよい。ゆえに、画像センサ332はサンプリング動作を直接制御することが可能であり得、当該サンプリング動作は、ストロボユニット336が無効な状態でサンプリングされた少なくとも1つの画像、およびストロボユニット336が有効または無効な状態でサンプリングされた少なくとも1つの画像を含み得る画像スタックの生成と関連付けられているストロボユニット336の有効化および無効化を含む。一実施形態において、画像センサ332によってサンプリングされた画像スタックを含むデータが、配線334を介してプロセッサ複合体310内のカメラインターフェイスユニット386に送信される。いくつかの実施形態において、カメラモジュール330は画像センサコントローラを含んでいてもよく、当該コントローラは画像センサ332の制御動作と共にストロボ制御信号338を生成するように構成されてもよい。
図3Fは、一実施形態に従うカメラモジュール330を示す。選択肢として、カメラモジュール330は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、カメラモジュール330は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、カメラモジュール330は、ストロボユニット336についての状態情報に基づいて画像をサンプリングするように構成されてもよい。状態情報は、ストロボユニット336にストロボ照明350の指定強度および/または色を生成するように命じるための1つ以上のストロボパラメータ(たとえばストロボ強度、ストロボ色、ストロボ時間等)を含み得るがこれらに限定されない。一実施形態において、ストロボユニット336と関連付けられている状態情報を構成するためのコマンドがストロボ制御信号338を通して送信されてもよく、当該信号は、ストロボユニット336が有効になった時を検出するためにカメラモジュール330によって監視され得る。たとえば、一実施形態において、カメラモジュール330は、ストロボユニット336が有効または無効になってから1マイクロ秒以下内にストロボユニット336が有効または無効になった時をストロボ制御信号338によって検出し得る。ストロボ照明を必要とする画像をサンプリングするために、カメラインターフェイスユニット386は、有効化コマンドをストロボ制御信号338を通して送信することによってストロボユニット336を有効にしてもよい。一実施形態において、カメラインターフェイスユニット386は、図3Bのプロセッサ複合体310のプロセッササブシステム360内の入出力インターフェイス384のインターフェイスとして含まれていてもよい。有効化コマンドは、信号レベル遷移、データパケ
ット、レジスタ書込み、またはその他の技術的に実行可能なコマンドの送信を含んでいてもよい。カメラモジュール330は、ストロボユニット336が有効であることを検知し、次いで、ストロボユニット336が有効である間に、画像センサ332にストロボ照明を必要とする1つ以上の画像をサンプリングさせてもよい。そのような実現例では、画像センサ332は、ストロボユニット336宛ての有効化信号を、新たな露光のサンプリングを開始するトリガ信号として待機するように構成されてもよい。
一実施形態において、カメラインターフェイスユニット386は、露光パラメータおよびコマンドを配線334を通してカメラモジュール330に送信してもよい。特定の実施形態において、カメラインターフェイスユニット386は、制御コマンドをストロボ制御信号338を通してストロボユニット336に送信することによってストロボユニット336を直接制御するように構成されてもよい。カメラモジュール330およびストロボユニット336の両方を直接制御することによって、カメラインターフェイスユニット386は、カメラモジュール330およびストロボユニット336に、正確な時間同期でそれぞれの動作を実行させることができる。一実施形態において、正確な時間同期は500マイクロ秒未満のイベントタイミングエラーであってもよい。また、イベントタイミングエラーは、意図されたイベント発生から対応する実際のイベント発生の時間までの時間差であってもよい。
別の実施形態において、カメラインターフェイスユニット386は、カメラモジュール330から画像データを受信している間に統計を蓄積するように構成されてもよい。特に、カメラインターフェイスユニット386は、配線334を通して所与の画像についての画像データを受信している間に当該画像についての露光統計を蓄積してもよい。露光統計は、強度ヒストグラム、露光過多の画素のカウント、露光不足の画素のカウント、画素強度の強度-加重和、の1つ以上、またはそれらのいずれかの組合せを含み得るがこれらに限定されない。カメラインターフェイスユニット386は、プロセッサ複合体310内のCPUコア370の1つ以上などのプロセッサによって規定される物理または仮想アドレス空間内のメモリマップされた記憶場所として、露光統計を提示してもよい。一実施形態において、露光統計は、メモリマップされたレジスタ空間内にマップされる記憶回路内に存在しており、これは配線334を通してアクセス可能である。他の実施形態では、露光統計は、捕捉した画像についての画素データを伝送するのと共に伝送される。たとえば、所与の画像についての露光統計は、捕捉した画像についての画素強度データの送信に引き続いて、インラインデータとして送信されてもよい。露光統計は、カメラインターフェイスユニット386内で計算、記憶、またはキャッシュされてもよい。
一実施形態において、カメラインターフェイスユニット386は、シーンホワイトバランスを推定するための色統計を蓄積してもよい。赤色、緑色および青色カラーチャネルを含む異なるカラーチャネルについての強度の和などの、ホワイトバランスを推定するための任意の技術的に実行可能な色統計が蓄積されてもよい。次いで、カラーチャネル強度の和を用いて、グレーワールドホワイトバランスモデルなどのホワイトバランスモデルに従って、関連画像に対してホワイトバランス色補正が実行されてもよい。他の実施形態では、画像に対してホワイトバランス補正を実現するために用いられる一次または二次曲線適合のための曲線適合統計が蓄積される。
一実施形態において、カメラインターフェイスユニット386は、周囲画像と、ストロボ照明を用いてサンプリングされた1つ以上の画像との間など、画像同士の間でカラーマッチングを実行するための空間色統計を蓄積してもよい。露光統計と同様に、色統計はプロセッサ複合体310内のメモリマップされた記憶場所として提示されてもよい。一実施形態において、色統計はメモリマップされたレジスタ空間内にマップされ、これはプロセッササブシステム360内で配線334を通してアクセス可能である。他の実施形態では
、色統計は、捕捉した画像についての画素データを伝送するのと共に伝送されてもよい。たとえば、一実施形態において、所与の画像についての色統計は、当該画像についての画素強度データの送信に引き続いて、インラインデータとして送信されてもよい。色統計は、カメラインターフェイス386内で計算、記憶、またはキャッシュされてもよい。
一実施形態において、カメラモジュール330は、ストロボ制御信号338をストロボユニット336に送信して、カメラモジュール330が画像をサンプリングしている間にストロボユニット336が照明を生成することを可能にし得る。別の実施形態において、カメラモジュール330は、ストロボユニット336が有効であるという指示信号をカメラインターフェイスユニット386から受信すると、ストロボユニット336が照明している画像をサンプリングしてもよい。さらに別の実施形態において、カメラモジュール330は、シーン照明の急激な増加によって写真撮影シーン内のストロボ照明を検出すると、ストロボユニット336が照明している画像をサンプリングしてもよい。一実施形態において、シーン照明の急激な増加は、ストロボユニット336を有効にする強度と一致した強度の増加率を少なくとも含んでいてもよい。さらに別の実施形態において、カメラモジュール330は、1つの画像をサンプリングしている間にストロボユニット336を有効にしてストロボ照明を生成し、別の画像をサンプリングしている間にストロボユニット336を無効にしてもよい。
図3Gは、一実施形態に従うカメラモジュール330を示す。選択肢として、カメラモジュール330は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、カメラモジュール330は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、カメラモジュール330はアプリケーションプロセッサ335と通信していてもよい。カメラモジュール330は、コントローラ333と通信している画像センサ332を含むとして示されている。さらに、コントローラ333はアプリケーションプロセッサ335と通信しているとして示されている。
一実施形態において、アプリケーションプロセッサ335はカメラモジュール330の外部に存在していてもよい。示されるように、レンズ390は、光学シーン情報をサンプリングすべき画像センサ332上に合焦するように構成されてもよい。次いで、画像センサ332によってサンプリングされた光学シーン情報は、その後の処理およびアプリケーションプロセッサ335への通信の少なくとも一方のために、画像センサ332からコントローラ333に通信されてもよい。別の実施形態において、コントローラ333は、画像センサ332によってサンプリングされた光学シーン情報の記憶、または処理された光学シーン情報の記憶を制御してもよい。
別の実施形態において、コントローラ333は、画像センサ332が周囲画像のサンプリングと関連付けられている露光時間を完了した後に、ストロボユニットが短い期間(たとえば1マイクロ秒未満等)中にストロボ照明を発することを可能にし得る。さらに、コントローラ333は、画像センサ332の制御動作と共にストロボ制御信号338を生成するように構成されてもよい。
一実施形態において、画像センサ332は相補型金属酸化膜半導体(CMOS)センサまたは電荷結合素子(CCD)センサであってもよい。別の実施形態において、コントローラ333および画像センサ332は、集積システムまたは集積回路として共にパッケージ化されてもよい。さらに別の実施形態において、コントローラ333および画像センサ332は別個のパッケージを含んでいてもよい。一実施形態において、コントローラ333は、画像センサ332からの光学シーン情報の受信、光学シーン情報の処理、さまざま
な機能のタイミング、およびアプリケーションプロセッサ335と関連付けられているシグナリングのための回路を提供してもよい。さらに、別の実施形態において、コントローラ333は、露光、シャッタリング、ホワイトバランス、およびゲイン調整の1つ以上を制御するための回路を提供してもよい。コントローラ333の回路による光学シーン情報の処理は、ゲイン適用、増幅、およびアナログ-デジタル変換の1つ以上を含んでいてもよい。光学シーン情報を処理した後、コントローラ333は対応するデジタル画素データをアプリケーションプロセッサ335などに送信してもよい。
一実施形態において、アプリケーションプロセッサ335は、プロセッサ複合体310および揮発性メモリ318とNVメモリ316との少なくとも一方、またはその他のメモリデバイスおよび/もしくはシステム上で実現されてもよい。アプリケーションプロセッサ335は、カメラモジュール330からアプリケーションプロセッサ335に通信される受信した光学シーン情報またはデジタル画素データの処理のために予め構成されてもよい。
図4は、一実施形態に従うネットワークサービスシステム400を示す。選択肢として、ネットワークサービスシステム400は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、ネットワークサービスシステム400は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、ネットワークサービスシステム400は、デジタル写真撮影システムを実現するデバイスにネットワークアクセスを提供するように構成されてもよい。示されるように、ネットワークサービスシステム400は、ワイヤレスモバイルデバイス376、無線アクセスポイント472、データネットワーク474、データセンタ480、およびデータセンタ481を含む。ワイヤレスモバイルデバイス376は、デジタル無線リンク471を介して無線アクセスポイント472と通信して、デジタル画像と関連付けられているデータを含むデジタルデータを送受信してもよい。ワイヤレスモバイルデバイス376および無線アクセスポイント472は、本発明の範囲および精神を逸脱することなく、デジタル無線リンク471を介してデジタルデータを伝送するための任意の技術的に実行可能な伝送技術を実現し得る。特定の実施形態において、データセンタ480,481の1つ以上は、所与のデータセンタ480,481内の各システムおよびサブシステムが、指定されたデータ処理およびネットワークタスクを実行するように構成された仮想マシンを含み得るように、仮想構造を用いて実現されてもよい。他の実現例では、データセンサ480,481の1つ以上は複数の物理的サイトにわたって物理的に分散していてもよい。
ワイヤレスモバイルデバイス376は、デジタルカメラを含むように構成されたスマートフォン、ワイヤレスネットワーク接続性を含むように構成されたデジタルカメラ、現実拡張デバイス、デジタルカメラおよびワイヤレスネットワーク接続性を含むように構成されたラップトップ、またはデジタル写真撮影システムおよびワイヤレスネットワーク接続性を含むように構成されたその他の技術的に実行可能なコンピューティングデバイスを含んでいてもよい。
さまざまな実施形態において、無線アクセスポイント472は、デジタル無線リンク471を介してワイヤレスモバイルデバイス376と通信するように、かつ、電気、光学、または無線伝送媒体などの任意の技術的に実行可能な伝送媒体を介してデータネットワーク474と通信するように構成されてもよい。たとえば、一実施形態において、無線アクセスポイント472は、無線アクセスポイント472に、かつデータネットワーク474内のルータシステムまたはスイッチシステムに結合された光ファイバを通してデータネッ
トワーク474と通信してもよい。広域ネットワーク(WAN)リンクなどのネットワークリンク475がデータネットワーク474とデータセンタ480との間でデータを伝送するように構成されてもよい。
一実施形態において、データネットワーク474は、ルータ、スイッチ、長距離伝送システム、プロビジョニングシステム、認証システム、ならびに、無線アクセスポイント472とデータセンタ480との間など、ネットワーク終点同士の間でデータを伝達するように構成された通信および動作サブシステムの任意の技術的に実行可能な組合せを含んでいてもよい。一実現例において、ワイヤレスモバイルデバイス376は、データネットワーク474に結合された1つ以上の無線アクセスポイントを介してデータセンタ480と通信するように構成された複数のワイヤレスモバイルデバイスのうちの1つを含んでいてもよい。
また、さまざまな実施形態において、データセンタ480はスイッチ/ルータ482および少なくとも1つのデータサービスシステム484を含み得るがこれらに限定されない。スイッチ/ルータ482は、ネットワークリンク475と各データサービスシステム484との間でデータトラフィックを転送するように構成されてもよい。スイッチ/ルータ482は、イーサネット(登録商標)メディア層伝送、レイヤ2スイッチング、レイヤ3ルーティングなどの任意の技術的に実行可能な伝送技術を実現し得る。スイッチ/ルータ482は、データサービスシステム484とデータネットワーク474との間でデータを伝送するように構成された1つ以上の個別のシステムを含んでいてもよい。
一実施形態において、スイッチ/ルータ482は、複数のデータサービスシステム484同士の間でセッションレベルのロードバランシングを実現し得る。各データサービスシステム484は、少なくとも1つの計算システム488を含んでいてもよく、さらに1つ以上の記憶システム486を含んでいてもよい。各計算システム488は、中央処理装置、グラフィック処理装置、またはそれらのいずれかの組合せなどの、1つ以上の処理装置を含んでいてもよい。所与のデータサービスシステム484は、共に動作するように構成された1つ以上の物理的に別個のシステムを含む物理的システムとして実現されてもよい。または、所与のデータサービスシステム484は、任意の物理的システム上で実行される1つ以上の仮想システムを含む仮想システムとして実現されてもよい。特定のシナリオでは、データネットワーク474は、ネットワークリンク476を通すなどしてデータセンタ480と別のデータセンタ481との間でデータを伝送するように構成されてもよい。
別の実施形態において、ネットワークサービスシステム400は、本発明の1つ以上の実施形態を実現するように構成された、任意のネットワーク化されたモバイルデバイスを含んでいてもよい。たとえば、いくつかの実施形態において、アドホック無線ネットワークなどのピアツーピアネットワークが2つの異なるワイヤレスモバイルデバイス同士の間に確立されてもよい。そのような実施形態では、デジタル画像データは、当該デジタル画像データをデータセンタ480に送信しなくても2つのワイヤレスモバイルデバイス同士の間で伝送され得る。
図5Aは、一実施形態に従う光学シーン情報を捕捉して写真撮影シーンの電子表現に変換するためのシステムを示す。選択肢として、図5Aのシステムは図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、図5Aのシステムは任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図5Aに示されるように、画素アレイ510は行ロジック512および列読出回路52
0と通信している。さらに、行ロジック512および列読出回路520の両方が制御ユニット514と通信している。さらに、画素アレイ510は複数の画素540を含むとして示されており、各画素540は4つのセルであるセル542~545を含んでいてもよい。本説明の文脈において、画素アレイ510は、カメラモジュール330の画像センサ332などの画像センサに含まれていてもよい。また、画素540の各々は、図2の画素240として実現されてもよく、それに対応して、セル542,543,544および545の各々は、それぞれ図2のセル242,243,244および245として実現されてもよい。図5Aには図示されていないが、2つ以上の画素540の間の2つ以上の対応するセルは、配線を用いて通信可能に結合されてもよい。たとえば、2つ以上のセル542は配線を用いて通信可能に結合されてもよく、または2つ以上のセル545は配線を用いて通信可能に結合されてもよい。
示されるように、画素アレイ510は画素540の二次元配列を含む。たとえば、一実施形態において、画素アレイ510は、第1の次元における4,000個の画素540および第2の次元における3,000個の画素540を含み、画素アレイ510において合計12,000,000個の画素540を含むように構築されてもよく、これは12メガピクセル画素アレイと称され得る。さらに、上述のように、各画素540は4つのセル542~545を含むとして示されている。一実施形態において、セル542は第1の光の色と関連付けられてもよく(たとえば、第1の光の色に対して選択的に感度が高い、等)、セル543は第2の光の色と関連付けられてもよく、セル544は第3の光の色と関連付けられてもよく、セル545は第4の光の色と関連付けられてもよい。一実施形態において、第1の光の色、第2の光の色、第3の光の色および第4の光の色の各々は、セル542~545の各々が異なる光の色と関連付けられ得るように、異なる光の色である。別の実施形態において、セル542~545の少なくとも2つのセルが同じ光の色と関連付けられてもよい。たとえば、セル543およびセル544が同じ光の色と関連付けられてもよい。
さらに、セル542~545の各々はアナログ値を記憶することが可能であり得る。一実施形態において、セル542~545の各々は、露光時間中に蓄積された露光に対応する電荷を記憶するためのコンデンサと関連付けられてもよい。そのような実施形態では、行選択信号を所与のセルの回路にアサートすると、当該セルは読出動作を実行し得、当該読出動作は、当該セルと関連付けられているコンデンサの記憶電荷の関数である電流を生成して送信することを含み得るがこれらに限定されない。一実施形態において、読出動作の前に、関連付けられているフォトダイオードからコンデンサにおいて受信した電流によって、予め充電されているコンデンサが、フォトダイオードにおいて検出された入射光強度に比例する速度で放電し得る。次いで、セルのコンデンサの残留電荷が行選択信号を用いて読出され得る。セルから送信される電流は、コンデンサ上の残留電荷を反映するアナログ値である。この目的で、読出動作時にセルから受信するアナログ値は、フォトダイオードにおいて検出される光の蓄積強度を反映し得る。所与のコンデンサ上に記憶された電荷、および送信電流などのいずれかの対応する電荷の表示は、本明細書においてアナログ画素データと称され得る。当然、アナログ画素データは1組の空間的に離散した強度サンプルを含んでいてもよく、その各々が連続アナログ値によって表される。
さらに、行ロジック512および列読出回路520は、制御ユニット514の制御下で連携して働いて、複数の画素540の複数のセル542~545を読出してもよい。たとえば、制御ユニット514は、行ロジック512に、画素540の所与の行と関連付けられている行制御信号530を含む行選択信号をアサートさせ、その画素の行と関連付けられているアナログ画素データを読出すことを可能にし得る。図5Aに示されるように、これは、行ロジック512が、画素540(0)および画素540(a)を含む行534(0)と関連付けられている行制御信号530(0)を含む1つ以上の行選択信号をアサー
トすることを含んでいてもよい。行選択信号がアサートされたことに応答して、行534(0)上の各画素540は、画素540のセル542~545内に記憶されている電荷に基づいて少なくとも1つのアナログ値を送信する。特定の実施形態において、セル542およびセル543は第1の行選択信号に応答して対応するアナログ値を送信するように構成されるのに対して、セル544およびセル545は第2の行選択信号に応答して対応するアナログ値を送信するように構成される。
一実施形態において、各行534(0)から534(r)を含む画素540の完全な行についてのアナログ値が、列信号532を通して列読出回路520に連続して送信されてもよい。一実施形態において、完全な行、または画素の完全な行内の画素もしくはセルについてのアナログ値が同時に送信されてもよい。たとえば、行制御信号530(0)を含む行選択信号がアサートされたことに応答して、画素540(0)は、少なくとも1つのアナログ値を、画素540(0)のセル542~545から列信号532(0)を含む1つ以上の信号経路を通って列読出回路520に送信することによって応答してもよく、同時に、画素540(a)も、少なくとも1つのアナログ値を、画素540(a)のセル542~545から列信号532(c)を含む1つ以上の信号経路を通って列読出回路520に送信することになる。当然、画素540(0)から少なくとも1つのアナログ値を受信するのと並行して、かつ画素540(a)から少なくとも1つのアナログ値を受信するのと並行して、1つ以上のアナログ値が1つ以上の他の画素540から列読出回路520において受信されてもよい。行534(0)を含む画素540から受信した1組のアナログ値は合わせてアナログ信号と称され得、このアナログ信号は画素アレイ510上に合焦される光学画像に基づいていてもよい。アナログ信号は1組の空間的に離散した強度サンプルであってもよく、その各々が連続アナログ値によって表される。
さらに、行534(0)を含む画素540を読出した後、行ロジック512は読出すべき画素540の第2の行を選択してもよい。たとえば、行ロジック512は、画素540(b)および画素540(z)を含む画素540の行と関連付けられている行制御信号530(r)を含む1つ以上の行選択信号をアサートしてもよい。この結果、列読出回路520は、行534(r)を含む画素540と関連付けられている対応する1組のアナログ値を受信してもよい。
列読出回路520は、1つ以上の受信したアナログ値を選択して図7のアナログ-デジタルユニット722などのアナログ-デジタル変換回路に転送するマルチプレクサとして作用し得る。列読出回路520は、受信したアナログ値を予め規定された順序または順番で転送してもよい。一実施形態において、行ロジック512が行制御信号530を含む1つ以上の行選択信号をアサートすると、画素の対応する行が列信号532を通してアナログ値を送信する。列読出回路520は、アナログ値を受信し、アナログ値の1つ以上を連続的に選択してアナログ-デジタルユニット622に一度に転送する。行ロジック512による行の選択、および列読出回路620による列の選択は制御ユニット514によって命じられてもよい。一実施形態において、行534は連続的に選択されて読出され、行534(0)で開始して行534(r)で終了し、連続した列と関連付けられているアナログ値がアナログ-デジタルユニット622に送信される。他の実施形態では、画素540に記憶されたアナログ値を読出す他の選択パターンが実現されてもよい。
さらに、列読出回路520によって転送されるアナログ値はアナログ画素データを含んでいてもよく、当該データは、後で増幅され、次いで、画素アレイ510上に合焦される光学画像に基づいて1つ以上のデジタル画像を生成するためのデジタル画素データに変換されてもよい。
図5B~図5Dは、1つ以上の実施形態に係る3つの随意の画素構成を示す。選択肢と
して、これらの画素構成は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、これらの画素構成は任意の所望の環境において実現されてもよい。具体例として、図5B~図5Dの画素540のうちのいずれかは、画素アレイ510の画素540の1つ以上として動作してもよい。
図5Bに示されるように、画素540は、一実施形態に従って、赤色光強度を測定するための第1のセル(R)、緑色光強度を測定するための第2および第3のセル(G)、ならびに青色光強度を測定するための第4のセル(B)を含むとして示されている。図5Cに示されるように、画素540は、別の実施形態に従って、赤色光強度を測定するための第1のセル(R)、緑色光強度を測定するための第2のセル(G)、青色光強度を測定するための第3のセル(B)、および白色光強度を測定するための第4のセル(W)を含むとして示されている。図5Dに示されるように、画素540は、さらに別の実施形態に従って、シアン光強度を測定するための第1のセル(C)、マゼンタ光強度を測定するための第2のセル(M)、黄色光強度を測定するための第3のセル(Y)、および白色光強度を測定するための第4のセル(W)を含むとして示されている。
画素540は各々が4つのセルを含むとして示されているが、当然、画素540は光強度を測定するためのより少ないまたは多いセルを含むように構成されてもよい。さらに、別の実施形態において、画素540の特定のセルは光の単一のピーク波長、または白色光を測定するように構成されるとして示されているが、画素540のセルは任意の波長、光の波長範囲、または複数の光波長を測定するように構成されてもよい。
次に図5Eを参照して、一実施形態に従う画像センサ332上に光学画像として合焦される光学シーン情報を捕捉するためのシステムが示されている。選択肢として、図5Eのシステムは図面のうちのいずれかの画面の詳細の文脈において実現されてもよい。しかし、当然、図5Eのシステムは任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図5Eに示されるように、画像センサ332は第1のセル544、第2のセル545および第3のセル548を含むとして示されている。さらに、セル544~548の各々はフォトダイオード562を含むとして示されている。さらに、フォトダイオード562の各々の上には対応するフィルタ564があり、フィルタ564の各々の上には対応するマイクロレンズ566がある。たとえば、セル544はフォトダイオード562(0)を含むとして示されており、その上にフィルタ564(0)があり、その上にマイクロレンズ566(0)がある。同様に、セル545はフォトダイオード562(1)を含むとして示されており、その上にフィルタ564(1)があり、その上にマイクロレンズ566(1)がある。さらに、図5Eに示されるように、画素540は、セル544および545、フォトダイオード562(0)および562(1)、フィルタ564(0)および564(1)、ならびにマイクロレンズ566(0)および566(1)の各々を含むとして示されている。
一実施形態において、マイクロレンズ566の各々は、直径が50ミクロン未満の任意のレンズであってもよい。しかし、他の実施形態では、マイクロレンズ566の各々の直径は50ミクロン以上であってもよい。一実施形態において、マイクロレンズ566の各々は、受光した光をマイクロレンズ566の下方の支持基板上に合焦および集光するための球状凸面を含んでいてもよい。たとえば、図5Eに示されるように、マイクロレンズ566(0)は受光した光をフィルタ564(0)上に合焦および集光する。一実施形態において、マイクロレンズアレイ567はマイクロレンズ566を含んでいてもよく、当該マイクロレンズの各々は、画像センサ332のセル544内のフォトダイオード562と配置が対応している。
本説明の文脈において、フォトダイオード562は、光子吸収に応答して電位差を生成するかまたはその電気抵抗を変化させる任意の半導体ダイオードを含んでいてもよい。したがって、フォトダイオード562は光強度の検出または測定に用いられてもよい。さらに、フィルタ564の各々は、1つ以上の予め定められた波長の光を選択的に透過させるための光学フィルタであってもよい。たとえば、フィルタ564(0)は対応するマイクロレンズ566(0)から受光した実質的に緑色光のみを選択的に透過させるように構成されてもよく、フィルタ564(1)はマイクロレンズ566(1)から受光した実質的に青色光のみを選択的に透過させるように構成されてもよい。フィルタ564およびマイクロレンズ566はともに、入射光の選択波長を平面上に合焦するように動作可能であり得る。一実施形態において、当該平面は、画像センサ332の表面上のフォトダイオード562の二次元格子であってもよい。さらに、各フォトダイオード562は、その関連付けられているフィルタに依存して、1つ以上の予め定められた光の波長を受信する。一実施形態において、各フォトダイオード562は、フィルタリングされた光の赤色、青色または緑色波長のみを受信する。図5B~図5Dに関して示されるように、フォトダイオードは赤色、緑色または青色以外の光の波長を検出するように構成されてもよいと考えられる。たとえば、具体的には図5C~図5Dの文脈において、フォトダイオードは、白色、シアン、マゼンタ、黄色、または赤外光もしくは紫外光などの不可視光を検出するように構成されてもよい。
この目的で、セル、フォトダイオード、フィルタ、およびマイクロレンズの各結合は、光を受光し、受光した光を集光およびフィルタリングして1つ以上の予め定められた光の波長を分離し、次いで当該1つ以上の予め定められた波長で受光した光の強度を測定する、検出する、またはそうでなければ定量化するように動作可能であり得る。測定または検出された光は次いで、セル内に記憶される1つ以上のアナログ値として表されてもよい。たとえば、一実施形態において、各アナログ値は、コンデンサを利用してセル内に記憶されてもよい。さらに、セル内に記憶される各アナログ値は、行ロジック512から受信され得る行選択信号などの選択信号に基づいてセルから出力されてもよい。さらに、セルから送信される各アナログ値は、アナログ信号の複数のアナログ値のうちの1つのアナログ値を含んでいてもよく、アナログ値の各々は異なるセルによって出力される。したがって、アナログ信号は複数のセルからの複数のアナログ画素データ値を含んでいてもよい。一実施形態において、アナログ信号は、写真撮影シーンの画像全体についてのアナログ画素データ値を含んでいてもよい。別の実施形態において、アナログ信号は、写真撮影シーンの画像全体のサブセットについてのアナログ画素データ値を含んでいてもよい。たとえば、アナログ信号は、写真撮影シーンの画像の画素の1行についてのアナログ画素データ値を含んでいてもよい。図5A~図5Eの文脈において、画素アレイ510の画素540の行534(0)は写真撮影シーンの画像の画素のそのような1行であってもよい。
図6Aは、1つの可能な実施形態に従う感光性セル600のための回路図を示す。選択肢として、セル600は本明細書に開示されている図面のうちのいずれかの図面の文脈において実現されてもよい。しかし、当然、セル600は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図6Aに示されるように、感光性セル600は、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)に結合されたフォトダイオード602を含む。フォトダイオード602は、図1の文脈において説明したセル101のフォトダイオードまたは図5Eのフォトダイオード562のうちのいずれかとして実現されてもよい。一実施形態において、感光性セル600の固有のインスタンスは、図2の文脈におけるセル242~245のうちのいずれかまたは図5A~図5Eの文脈におけるセル542~545のうちのいずれかとして実現されてもよい。さらに、第1のアナログ
サンプリング回路603(0)および第2のアナログサンプリング回路603(1)は、別々にまたは組み合わさって、図1のサンプル記憶ノード121または123のうちの1つなどのサンプル記憶ノードを含んでいてもよい。
示されるように、感光性セル600は、2つのアナログサンプリング回路603とフォトダイオード602とを含む。2つのアナログサンプリング回路603は、第2のアナログサンプリング回路603(1)に結合された第1のアナログサンプリング回路603(0)を含む。図6Aに示されるように、第1のアナログサンプリング回路603(0)は、トランジスタ606(0),610(0),612(0),614(0)と、コンデンサ604(0)とを含み、第2のアナログサンプリング回路603(1)は、トランジスタ606(1),610(1),612(1),614(1)と、コンデンサ604(1)とを含む。一実施形態において、トランジスタ606,610,612および614の各々は、電界効果トランジスタであってもよい。
フォトダイオード602は、写真撮影シーンの入射光601を測定または検出するように動作可能であり得る。一実施形態において、入射光601は、写真撮影シーンの周囲光を含んでいてもよい。別の実施形態では、入射光601は、写真撮影シーンを照明するために利用されるストロボユニットからの光を含んでいてもよい。当然、入射光601は、フォトダイオード602において受信され、フォトダイオード602によって測定されるいかなる光も含んでいてもよい。さらにおよび上記のように、入射光601は、マイクロレンズによってフォトダイオード602上に集光されてもよく、フォトダイオード602は、二次元平面上に配置された複数のフォトダイオードを含むように構成されたフォトダイオードアレイの1つのフォトダイオードであってもよい。
一実施形態において、アナログサンプリング回路603は、実質的に同一であってもよい。たとえば、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)の各々は、実質的に同一の態様で構成された対応するトランジスタ、コンデンサおよび配線を含んでいてもよい。当然、他の実施形態では、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)は、アナログサンプリング回路603のうちの1つだけに固有であり得る回路、トランジスタ、コンデンサ、配線、および/またはその他の構成要素もしくは構成要素パラメータ(たとえば、各コンデンサ604のキャパシタンス値)を含んでいてもよい。
一実施形態において、各コンデンサ604は、トランジスタ610のためのゲートキャパシタンスとトランジスタ606および614のための拡散キャパシタンスとを含むコンデンサの1つのノードを含んでいてもよい。また、コンデンサ604は、さらなる回路素子(図示せず)に結合されてもよく、当該回路素子は、金属酸化物スタック、ポリコンデンサ、トレンチコンデンサなどの特異な容量性構造、またはその他の技術的に実行可能なコンデンサ構造などであるがこれらに限定されない。
セル600は、さらに、アナログサンプリング回路603(0)とアナログサンプリング回路603(1)との間に配線644を含むとして示されている。配線644はトランジスタ641を含み、当該トランジスタ641はゲート640とソース642とを含む。トランジスタ641のドレインは、アナログサンプリング回路603(0)およびアナログサンプリング回路603(1)の各々に結合されている。ゲート640がオフにされると、セル600は単独で動作することができる。単独で動作する場合、セル600は、セル600のアナログサンプリング回路603の一方または両方によってフォトダイオード602がサンプリングされる態様で動作し得る。たとえば、フォトダイオード602は、同時の態様でアナログサンプリング回路603(0)およびアナログサンプリング回路603(1)によってサンプリングされてもよく、またはフォトダイオード602は、シー
ケンシャルな態様でアナログサンプリング回路603(0)およびアナログサンプリング回路603(1)によってサンプリングされてもよい。代替的な実施形態では、トランジスタ641のドレイン端子は配線644に結合され、トランジスタ641のソース端子はサンプリング回路603およびフォトダイオード602に結合されている。
アナログサンプリング回路603(0)に関して、リセット616(0)がアクティブ(ロー)であるとき、トランジスタ614(0)は、電圧源V2からコンデンサ604(0)への経路を提供し、コンデンサ604(0)をV2の電位に充電する。サンプル信号618(0)がアクティブであるとき、トランジスタ606(0)は、入射光601に応答してフォトダイオード602によって生成されるフォトダイオード電流(I_PD)に比例してコンデンサ604(0)を放電させるための経路を提供する。このように、フォトダイオード電流I_PDは、サンプル信号618(0)がアクティブであるときには第1の露光時間中に統合され、その結果、対応する第1の電圧がコンデンサ604(0)上に生じる。コンデンサ604(0)上のこの第1の電圧は、第1のサンプルと称することもできる。行選択634(0)がアクティブであるとき、トランジスタ612(0)は、V1から出力608(0)への第1の出力電流のための経路を提供する。第1の出力電流は、コンデンサ604(0)上の第1の電圧に応答してトランジスタ610(0)によって生成される。したがって、行選択634(0)がアクティブであるときには、出力608(0)における出力電流は、第1の露光時間中の入射光601の統合強度に比例し得る。
アナログサンプリング回路603(1)に関して、リセット616(1)がアクティブ(ロー)であるとき、トランジスタ614(1)は、電圧源V2からコンデンサ604(1)への経路を提供し、コンデンサ604(1)をV2の電位に充電する。サンプル信号618(1)がアクティブであるとき、トランジスタ606(1)は、入射光601に応答してフォトダイオード602によって生成されるフォトダイオード電流(I_PD)に比例してコンデンサ604(1)を放電させるための経路を提供する。このように、フォトダイオード電流I_PDは、サンプル信号618(1)がアクティブであるときには第2の露光時間中に統合され、その結果、対応する第2の電圧がコンデンサ604(1)上に生じる。コンデンサ604(1)上のこの第2の電圧は、第2のサンプルと称することもできる。行選択634(1)がアクティブであるとき、トランジスタ612(1)は、V1から出力608(1)への第2の出力電流のための経路を提供する。第2の出力電流は、コンデンサ604(1)上の第2の電圧に応答してトランジスタ610(1)によって生成される。したがって、行選択634(1)がアクティブであるときには、出力608(1)における出力電流は、第2の露光時間中の入射光601の統合強度に比例し得る。
上記のように、セル600が単独モードで動作している場合、フォトダイオード602のフォトダイオード電流I_PDは、セル600のアナログサンプリング回路603のうちの一方によってサンプリングされてもよく、またはセル600のアナログサンプリング回路603の両方によって同時にまたはシーケンシャルにサンプリングされてもよい。サンプル信号618(0)もサンプル信号618(1)も同時に起動される場合、フォトダイオード602のフォトダイオード電流I_PDは、両方のアナログサンプリング回路603によって同時にサンプリングされ得て、その結果、第1の露光時間および第2の露光時間は少なくとも部分的に重複する。
サンプル信号618(0)およびサンプル信号618(1)がシーケンシャルに起動される場合、フォトダイオード602のフォトダイオード電流I_PDは、アナログサンプリング回路603によってシーケンシャルにサンプリングされ得て、その結果、第1の露光時間および第2の露光時間は重複しない。
さまざまな実施形態において、ゲート640がオンにされると、それによってセル600は配線644を介して他の画素のセル600の1つ以上の他のインスタンスに通信可能に結合できる。一実施形態において、2つ以上のセル600が結合される場合、フォトダイオード602の2つ以上の対応するインスタンスは、集合的に、配線644上に共有フォトダイオード電流を提供してもよい。このような実施形態では、セル600の2つのインスタンスの1つ以上のアナログサンプリング回路603は、当該共有フォトダイオード電流をサンプリングしてもよい。たとえば、一実施形態において、単一のアナログサンプリング回路603が共有フォトダイオード電流をサンプリングするように、単一のサンプル信号618(0)が起動されてもよい。別の実施形態では、各々が異なるセル600に関連付けられているサンプル信号618(0)の2つのインスタンスが起動されて共有フォトダイオード電流をサンプリングしてもよく、その結果、2つの異なるセル600の2つのアナログサンプリング回路603が共有フォトダイオード電流をサンプリングする。さらに別の実施形態では、単一のセル600のサンプル信号618(0)および618(1)が両方とも起動されて共有フォトダイオード電流をサンプリングしてもよく、その結果、一方のセル600の2つのアナログサンプリング回路603(0)および603(1)が共有フォトダイオード電流をサンプリングし、他方のセル600のアナログサンプリング回路603はいずれも共有フォトダイオード電流をサンプリングしない。
特定の例では、セル600の2つのインスタンスは、配線644を介して結合されてもよい。セル600の各インスタンスは、フォトダイオード602と2つのアナログサンプリング回路603とを含んでいてもよい。このような例では、2つのフォトダイオード602は、配線644を介してアナログサンプリング回路603のうちの1つ、2つ、3つまたは4つ全てに共有フォトダイオード電流を提供するように構成されてもよい。2つのフォトダイオード602が実質的に同一の光量を検出する場合、共有フォトダイオード電流の大きさは、任意の単一のフォトダイオード電流が単一のフォトダイオード602に由来するであろう大きさの2倍であってもよい。したがって、この共有フォトダイオード電流は、2倍のフォトダイオード電流と言い換えることができる。アナログサンプリング回路603が1つだけ起動されて2倍のフォトダイオード電流をサンプリングする場合、所与の露光レベルで、アナログサンプリング回路603が単一のフォトダイオード602から受信されたフォトダイオード電流をサンプリングするであろう速度の2倍の速度で、アナログサンプリング回路603は効果的に2倍のフォトダイオード電流をサンプリングすることができる。さらに、アナログサンプリング回路603が1つだけ起動されて2倍のフォトダイオード電流をサンプリングする場合、アナログサンプリング回路603が同一の露光時間中に単一のフォトダイオード602から受信されたフォトダイオード電流をサンプリングすることによって得るであろうサンプルの2倍の輝度のサンプルを得ることが可能であり得る。しかし、このような実施形態では、2つのセル600のアナログサンプリング回路603の一つだけが2倍のフォトダイオード電流をアクティブにサンプリングするので、一方のセル600は、2倍のフォトダイオード電流を表すいかなるアナログ値も記憶しない。したがって、2倍のフォトダイオード電流が対応するアナログサンプリング回路603のサブセットのみによってサンプリングされる場合、サンプリング速度またはサンプリング感度を向上させるために画像解像度が下げられてもよい。
一実施形態において、通信可能に結合されたセル600は、画像センサの同一の画素行に位置していてもよい。このような実施形態では、通信可能に結合されたアナログサンプリング回路603のサブセットのみによるサンプリングは、画像センサの有効水平解像度を1/2だけ下げる可能性がある。別の実施形態では、通信可能に結合されたセル600は、画像センサの同一の画素列に位置していてもよい。このような実施形態では、通信可能に結合されたアナログサンプリング回路603のサブセットのみによるサンプリングは、画像センサの有効垂直解像度を1/2だけ下げる可能性がある。
別の実施形態では、2つのセル600の各々のアナログサンプリング回路603は、同時に起動されて2倍のフォトダイオード電流を同時にサンプリングしてもよい。このような実施形態では、2倍のフォトダイオード電流が2つのアナログサンプリング回路603によって共有されるので、単一のアナログサンプリング回路603が単一のフォトダイオード602のフォトダイオード電流をサンプリングする場合と比較して、サンプリング速度およびサンプリング感度を向上させることができない。しかし、2つのセル600間の配線644上で2倍のフォトダイオード電流を共有し、次いでセル600の各々におけるアナログサンプリング回路603を用いて2倍のフォトダイオード電流をサンプリングすることによって、アナログサンプリング回路603の各々によってサンプリングされるアナログ値は、効果的に平均化することができ、それによって、結合されたフォトダイオード602のどちらか一方によって出力されるフォトダイオード電流に存在するいかなるノイズの影響も減少させる。
さらに別の例では、セル600の2つのインスタンスは、配線644を介して結合されてもよい。セル600の各インスタンスは、フォトダイオード602と2つのアナログサンプリング回路603とを含んでいてもよい。このような例では、2つのフォトダイオード602は、配線644を介してアナログサンプリング回路603のうちの1つ、2つ、3つまたは4つ全てに共有フォトダイオード電流を提供するように構成されてもよい。2つのフォトダイオード602が実質的に同一の光量を検出する場合、共有フォトダイオード電流は、任意の単一のフォトダイオード電流が単一のフォトダイオード602に由来するであろう大きさの2倍であってもよい。したがって、この共有フォトダイオード電流は、2倍のフォトダイオード電流と言い換えることができる。一方のセル600の2つのアナログサンプリング回路603は、アナログサンプリング回路603(0)および603(1)がフォトダイオード602のフォトダイオード電流I_PDを単独でサンプリングする場合に関して上記した態様と同様の態様で、同時に起動されて2倍のフォトダイオード電流を同時にサンプリングしてもよい。このような実施形態では、2つのアナログ記憶面は、アナログサンプリング回路603(0)および603(1)が単一のフォトダイオード602からフォトダイオード電流を受信する場合よりも2倍速い速度で、アナログ値を実装され得る。
2倍のフォトダイオード電流を共有するために配線644を介して結合されたセル600の2つのインスタンスを含む別の実施形態では、1回の露光で4つのアナログサンプリング回路603が同時に起動されてもよい。このような実施形態では、4つのアナログサンプリング回路603は、アナログサンプリング回路603(0)および603(1)がフォトダイオード602のフォトダイオード電流I_PDを単独でサンプリングする場合に関して上記した態様と同様の態様で2倍のフォトダイオード電流を同時にサンプリングしてもよい。このような実施形態では、4つのアナログサンプリング回路603は、シーケンシャルに無効にされてもよく、その結果、4つのアナログサンプリング回路603の各々は、2倍のフォトダイオード電流を表す固有のアナログ値を記憶する。その後、各アナログ値は、異なるアナログ信号の状態で出力されてもよく、各アナログ信号は、デジタル画像を含むデジタル信号に増幅されて変換されてもよい。
したがって、いかなる最終デジタル画像におけるノイズも減少させるのに役立つ2倍のフォトダイオード電流に加えて、1回の露光で4つの異なるデジタル画像を生成することができ、各々は異なる有効露光および光感度を有する。これら4つのデジタル画像は、画像スタックを含んでいてもよく、または画像スタックとして処理されてもよい。他の実施形態では、4つのアナログサンプリング回路603は、2倍のフォトダイオード電流をサンプリングするためにともに起動されたり停止されたりしてもよく、その結果、アナログサンプリング回路603の各々は、実質的に同一のアナログ値を記憶する。さらに他の実
施形態では、4つのアナログサンプリング回路603は、2倍のフォトダイオード電流をサンプリングするためにある順序で起動されたり停止されたりしてもよく、その結果、任意の所与の瞬間に2つのアナログサンプリング回路603がアクティブにサンプリングを行っていることはない。
セル600の2つのインスタンスが配線644を介して通信可能に結合される文脈において話を簡単にするために上記の例および実施形態について説明してきたが、当然、セル600の3つ以上のインスタンスが配線644を介して通信可能に結合されてもよい。たとえば、セル600の4つのインスタンスが配線644を介して通信可能に結合されてもよい。このような例では、セル600の4つのインスタンスの間で共有される4倍のフォトダイオード電流をサンプリングするために、8つの異なるアナログサンプリング回路603が任意の順序または組合せでアドレス可能であってもよい。したがって、選択肢として、単一のアナログサンプリング回路603は、アナログサンプリング回路603が単一のフォトダイオード602から受信されたフォトダイオード電流をサンプリングできるであろう速度よりも4倍速い速度で4倍のフォトダイオード電流をサンプリングすることが可能であり得る。
たとえば、1/120秒の露光時間で4倍のフォトダイオード電流をサンプリングすることによって記憶されるアナログ値は、1/30秒の露光時間で1倍のフォトダイオード電流をサンプリングすることによって記憶されるアナログ値と実質的に同一であってもよい。所与の照明下で所与のアナログ値をサンプリングするのに必要な露光時間を減少させることによって、最終デジタル画像内のぼやけを減少させることができる。したがって、共有フォトダイオード電流をサンプリングすることにより、ISOまたは光感度を効果的に上昇させることができ、当該ISOまたは光感度では、さらに大きなゲインの適用に関連付けられるノイズを増加させることなく所与の写真撮影シーンがサンプリングされる。
別の選択肢として、単一のアナログサンプリング回路603は、所与の露光時間中に、単一のフォトダイオードから受信されたフォトダイオード電流をサンプリングすることによって得られるサンプルよりも4倍高輝度のサンプルを得ることが可能であり得る。4倍のフォトダイオード電流をサンプリングすることにより、写真撮影シーンのサンプリングをはるかに高速で行うことができ、これは、最終デジタル画像に存在するいかなるぼやけも減少させることに役立ち、写真撮影シーンをさらに迅速に(たとえば、1/4露光時間)捕捉することに役立ち、最終デジタル画像の輝度または露光を上昇させることに役立ち、または上記のいずれかの組合せに役立ち得る。当然、単一のアナログサンプリング回路603を用いて4倍のフォトダイオード電流をサンプリングすることにより、アナログ記憶面は、各セル600がサンプルを生成するアナログ記憶面の解像度の1/4の解像度を有し得る。セル600の4つのインスタンスが配線644を介して通信可能に結合され得る別の実施形態では、8つのアナログサンプリング回路603の各々を用いて4倍のフォトダイオード電流をシーケンシャルにサンプリングすることによって、最大8回の別々の露光が捕捉されてもよい。一実施形態では、各セルは、1つ以上のアナログサンプリング回路603を含む。
図6Bは、1つの可能な実施形態に従う感光性セル660のための回路図を示す。選択肢として、セル660は本明細書に開示されている図面のうちのいずれかの図面の文脈において実現されてもよい。しかし、当然、セル660は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
示されるように、感光性セル660は、セル600のフォトダイオード602と実質的に同一であるフォトダイオード602と、セル600の第1のアナログサンプリング回路603(0)と実質的に同一である第1のアナログサンプリング回路603(0)と、セ
ル600の第2のアナログサンプリング回路603(1)と実質的に同一である第2のアナログサンプリング回路603(1)と、配線654とを含む。配線654は、3つのトランジスタ651~653とソース650とを含むとして示されている。トランジスタ651,652および653の各々は、ゲート656,657および658をそれぞれ含む。セル660は、図6Aのセル600と実質的に同一の態様で動作し得るが、セル660は、配線654を介して結合された他のセル660のフォトダイオード602からのパスゲートを2つだけ含んでいる一方、セル600は、配線644を介して結合された他のセル600のフォトダイオード602からのパスゲートを3つ含んでいる。
図6Cは、1つの可能な実施形態に従う複数の通信可能に結合された感光性セル694を含むシステム690のための回路図を示す。選択肢として、システム690は本明細書に開示されている図面のうちのいずれかの図面の文脈において実現されてもよい。しかし、当然、システム690は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図6Cに示されるように、システム690は4つの画素692を含むとして示されており、画素692の各々はそれぞれのセル694を含み、1組の関連するセル694は配線698を介して通信可能に結合されている。画素692の各々は図2の画素240として実現されてもよく、セル694の各々は図2のセル242として実現されてもよく、配線698は図2の配線250として実現されてもよい。さらに、配線698は、ソース696の複数のインスタンスとゲート691の複数のインスタンスとを含むとして示されている。また、各セル694は、入射光601を測定または検出するためにフォトダイオード602に結合されたアナログサンプリング回路603を含んでいてもよい。アナログサンプリング回路603は、図6Aの文脈において開示されているアナログサンプリング回路603(0)および603(1)のどちらか一方と実質的に同一であってもよい。
ゲート691の全てのインスタンスがオンにされると、それによって、セル694の各々は、配線698を介して他の画素692の他のセル694の各々に通信可能に結合されることができる。その結果、共有フォトダイオード電流が生成され得る。図6Cに示されるように、セル694(1),694(2)および694(3)の各々は、配線698上に実質的に同様のフォトダイオード電流I_PDを出力する。セル694(1),694(2)および694(3)の各々によって生成されるフォトダイオード電流I_PDは、それぞれのフォトダイオード602(1),602(2)および602(3)によって生成されてもよい。セル694(1),694(2)および694(3)からのフォトダイオード電流は、配線698上で結合されて、3*I_PDの結合フォトダイオード電流または3倍のフォトダイオード電流を形成してもよい。
アナログサンプリング回路603のサンプル信号618がアサートされると、3倍のフォトダイオードは、フォトダイオード602(0)のフォトダイオード電流I_PDと結合して、4倍のフォトダイオード電流がアナログサンプリング回路603によってサンプリングされ得る。したがって、単一のフォトダイオード602(0)がアナログサンプリング回路603によってサンプリングされるフォトダイオード電流I_PDを生成する場合よりも4倍速い速度で、サンプルがセル694(0)のアナログサンプリング回路603のコンデンサ604に記憶され得る。選択肢として、4倍のフォトダイオード電流は、1倍のフォトダイオード電流がサンプリングされるであろう露光時間と同一の所与の露光時間でサンプリングされてもよく、これは、アナログサンプリング回路603に記憶されるアナログ値の値を大幅に増加または減少させ得る。たとえば、所与の露光時間で4倍のフォトダイオード電流をサンプリングすることにより記憶されるアナログ値は、所与の露光時間で1倍のフォトダイオード電流をサンプリングすることにより記憶されるアナログ値よりも事実上4倍高輝度の最終デジタル画素値に関連付けられてもよい。
ゲート691の全てのインスタンスがオフにされると、セル694の各々は、他の画素692の他のセル694から切離されることができる。セル694が切離されると、セル694の各々は、たとえば図6Aに関して上記したように単独で動作することができる。たとえば、単独で動作する場合、アナログサンプリング回路603は、サンプル信号618の制御下で、それぞれのフォトダイオード602(0)からのフォトダイオード電流I_PDをサンプリングするのみであってもよい。
一実施形態において、画像センサ内の画素692の各々は、赤色光に対して感度が高いように構成されたセル694(「赤色セル」)と、緑色光に対して感度が高いように構成されたセル694(「緑色セル」)と、青色光に対して感度が高いように構成されたセル694(「青色セル」)とを含む。さらに、複数組の2つ以上の画素692は、図6A~図6Cにおいて上記したように、フォトダイオード電流共有モードに切り替わることによって、各組の画素内の赤色セルがフォトダイオード電流を共有し、各組の画素内の緑色セルがフォトダイオード電流を共有し、各組の画素内の青色セルがフォトダイオード電流を共有するように構成されてもよい。特定の実施形態では、画素692の各々は、白色光に対して感度が高いように構成されたセル694(「白色セル」)も含み、それによって、各々の白色セルは、赤色セル、緑色セルおよび青色セルが共有フォトダイオード電流モードで動作している間、フォトダイオード電流に関して独立して動作し得る。他の全ての製造パラメータが等しいとすると、各々の白色セルは、赤色セル、緑色セルまたは青色セルのうちのいずれかよりも入射光に対して感度が高く(たとえば、3倍感度が高く)てもよく、その結果、白色セルは、同等の強度の信号レベルを生成するのに必要な露光時間またはゲインを少なくすることができる。このような実施形態では、(赤色セル、緑色セルおよび青色セルからの)色情報の解像度は、さらに高い感度およびさらに優れたノイズ性能を得るために下げられ得る一方、(白色セルからの)純粋な強度情報の解像度は、強度情報に対して感度またはノイズ性能を大幅に犠牲にすることなく、フルセンサ解像度に維持され得る。たとえば、4K画素画像センサによる4K画素は、色に関して2K画素画像センサによる2K画素として動作するように構成されてもよく、それによって、色感度を4倍向上させ、同時に、4K画素強度面による4K画素を白色セルから同時に捕捉することができる。このような構成では、赤色セル、緑色セルおよび青色セルによって提供される4分の1解像度色情報は、白色セルによって提供されるフル解像度強度情報と融合されてもよい。この目的で、同等の従来の画像センサよりも優れた全体感度およびノイズ性能で、画像センサによって4K解像度カラー画像によるフル4Kが生成され得る。
図7は、ある実施形態に従うアナログ画素データをデジタル画素データに変換するためのシステムを示す。選択肢として、図7のシステムは本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、図7のシステムは任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図7に示されるように、アナログ画素データ721が、制御ユニット514の制御下でアナログ-デジタルユニット722において列読出回路520から受信される。アナログ画素データ721は、上述のようにアナログ信号内で受信されてもよい。さらに、アナログ-デジタルユニット722は、受信したアナログ画素データ721に基づいてデジタル画素データ725を生成する。
一実施形態において、アナログ画素データ721の固有のインスタンスは、順序付けられた1組の個別のアナログ値として、全ての対応するアナログサンプリング回路またはサンプル記憶ノードから出力される全てのアナログ値を含んでいてもよい。たとえば、上記の図面の文脈において、画素アレイ510の複数の画素540のセル542~545の各
セルは、1つ以上のアナログサンプリング回路603を含んでいてもよい。
一実施形態において、画素アレイ510は、複数の第1のアナログサンプリング回路603(0)を含んでいてもよく、複数の第2のアナログサンプリング回路603(1)も含んでいてもよい。このような実施形態では、複数の第1のアナログサンプリング回路603(0)からの別個のアナログ値を含むアナログ画素データ721の第1のインスタンスが受信されてもよく、複数の第2のアナログサンプリング回路603(1)からの別個のアナログ値を含むアナログ画素データ721の第2のインスタンスが受信されてもよい。したがって、画素アレイのセルが2つ以上のアナログサンプリング回路を含む実施形態では、画素アレイは、2つ以上の別個のアナログ信号を出力してもよく、各アナログ信号は、アナログ画素データ721の固有のインスタンスを含む。
いくつかの実施形態において、画素アレイのセルのサブセットのみが2つ以上のアナログサンプリング回路を含んでいてもよい。たとえば、全てのセルが第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)を両方とも含んでいるわけではない。
引き続き図7を参照して、アナログ-デジタルユニット722は増幅器750およびアナログ-デジタル変換器754を含む。一実施形態において、増幅器750は、アナログ画素データ721およびゲイン752のインスタンスを受信し、ゲイン752をアナログ画素データ721に適用して、ゲイン調整されたアナログ画素データ723を生成する。ゲイン調整されたアナログ画素データ723は増幅器750からアナログ-デジタル変換器754に送信される。アナログ-デジタル変換器754は、ゲイン調整されたアナログ画素データ723を受信し、ゲイン調整されたアナログ画素データ723をデジタル画素データ725に変換し、当該データは次いでアナログ-デジタル変換器754から送信される。他の実施形態では、増幅器750はアナログ-デジタルユニット722内ではなく列読出回路520内で実現されてもよい。アナログ-デジタル変換器754は、任意の技術的に実行可能なアナログ-デジタル変換技術を用いて、ゲイン調整されたアナログ画素データ723をデジタル画素データ725に変換してもよい。
ある実施形態において、ゲイン調整されたアナログ画素データ723は、ゲイン752をアナログ画素データ721に適用することによって得られる。一実施形態において、ゲイン752はアナログ-デジタルユニット722によって選択されてもよい。別の実施形態において、ゲイン752は、制御ユニット514によって選択され、次いで、アナログ画素データ721に適用されるために制御ユニット514からアナログ-デジタルユニット722に供給されてもよい。
一実施形態において、増幅器750はトランスインピーダンス増幅器(TIA)であってもよい。さらに、ゲイン752はデジタル値によって指定されてもよい。一実施形態において、ゲイン752を指定するデジタル値は、デジタル写真撮影デバイスを「マニュアル」モードで操作することによってなど、デジタル写真撮影デバイスのユーザによって設定されてもよい。さらに、デジタル値はデジタル写真撮影デバイスのハードウェアまたはソフトウェアによって設定されてもよい。選択肢として、デジタル値は、デジタル写真撮影デバイスのソフトウェアと連携して作業するユーザによって設定されてもよい。
一実施形態において、ゲイン752を指定するために用いられるデジタル値はISOと関連付けられてもよい。写真撮影の分野において、ISOシステムは光感度を指定するための確立された規格である。一実施形態において、増幅器750は、アナログ画素データ721に適用すべきゲイン752を指定するデジタル値を受信する。別の実施形態において、従来のISO値から、ゲイン752として増幅器750に与えられ得るデジタルゲイ
ン値へのマッピングがあってもよい。たとえば、ISO100、ISO200、ISO400、ISO800、ISO1600等の各々が異なるデジタルゲイン値に一意にマップされてもよく、特定のISOを選択すると、マップされたデジタルゲイン値がゲイン752として適用されるために増幅器750に与えられる。一実施形態において、1つ以上のISO値が1のゲインにマップされてもよい。当然、他の実施形態では、1つ以上のISO値がその他のゲイン値にマップされてもよい。
したがって、一実施形態において、各アナログ画素値は特定のISO値を前提として輝度が調整されてもよい。ゆえに、そのような実施形態では、ゲイン調整されたアナログ画素データ723は輝度補正された画素データを含んでいてもよく、輝度は指定されたISOに基づいて補正される。別の実施形態において、ある画像についてゲイン調整されたアナログ画素データ723は、当該画像が特定のISOでサンプリングされたかのような輝度を画像内に有する画素を含んでいてもよい。
ある実施形態に従うと、デジタル画素データ725は、画素アレイ510を用いて捕捉された画像の画素を表す複数のデジタル値を含んでいてもよい。
一実施形態において、デジタル画素データ725のインスタンスは、受信したアナログ画素データ721の各インスタンスについて出力されてもよい。したがって、画素アレイ510が複数の第1のアナログサンプリング回路603(0)を含み、複数の第2のアナログサンプリング回路603(1)も含む場合、第1のアナログサンプリング回路603(0)からの別個のアナログ値を含むアナログ画素データ721の第1のインスタンスが受信されてもよく、第2のアナログサンプリング回路603(1)からの別個のアナログ値を含むアナログ画素データ721の第2のインスタンスが受信されてもよい。このような実施形態では、デジタル画素データ725の第1のインスタンスは、アナログ画素データ721の第1のインスタンスに基づいて出力されてもよく、デジタル画素データ725の第2のインスタンスは、アナログ画素データ721の第2のインスタンスに基づいて出力されてもよい。
さらに、デジタル画素データ725の第1のインスタンスは、画素アレイ510の複数の第1のアナログサンプリング回路603(0)を用いて捕捉される第1の画像の画素を表す複数のデジタル値を含んでいてもよく、デジタル画素データ725の第2のインスタンスは、画素アレイ510の複数の第2のアナログサンプリング回路603(1)を用いて捕捉される第2の画像の画素を表す複数のデジタル値を含んでいてもよい。
いくつかの実施形態において、2つ以上のゲイン752がアナログ画素データ721のインスタンスに適用されてもよく、その結果、アナログ画素データ721の各インスタンスについてデジタル画素データ725の2つ以上のインスタンスが出力されてもよい。
図8は、別の実施形態に従うさまざまなアナログ記憶面の実現例を示す。選択肢として、図8のアナログ記憶面は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、図8のアナログ記憶面は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図8は、第1のアナログ記憶面802と第2のアナログ記憶面842とを含むとして示されている。複数のアナログ値の各々は、アナログ記憶面802および842において「V」として示されている。特定の実施形態の文脈において、各アナログ記憶面は、1つ以上のアナログ値の任意の集合を含んでいてもよい。いくつかの実施形態では、アナログ記憶面は、画素アレイの行または列の各画素について少なくとも1つのアナログ画素値を記
憶することが可能であってもよい。一実施形態において、アナログ記憶面は、画素アレイの複数の画素の各画素の各セルについてアナログ値を記憶することが可能であってもよい。さらに、別の実施形態では、アナログ記憶面は、画素アレイ全体の各画素について少なくとも1つのアナログ画素値を記憶することが可能であってもよく、これはフレームと称することができる。たとえば、アナログ記憶面は、画素アレイの各列または行の各画素の各セルについてアナログ値を記憶することが可能であってもよい。
一実施形態において、アナログ記憶面842は、各セルのアナログサンプリング回路が起動されて対応するフォトダイオード電流をサンプリングした画像センサの部分を表してもよい。言い換えれば、画像センサの所与の領域では、全てのセルが、対応するフォトダイオード電流をサンプリングしてサンプリング動作の結果としてアナログ値を記憶するアナログサンプリング回路を含む。その結果、アナログ記憶面842は、アナログ記憶面802のアナログ値密度806よりも大きなアナログ値密度846を含む。
一実施形態において、アナログ記憶面802は、セルの4分の1のみが、起動されて対応するフォトダイオード電流をサンプリングするアナログサンプリング回路を含む画像センサの部分を表してもよい。言い換えれば、画像センサの所与の領域では、セルの4分の1のみが、対応するフォトダイオード電流をサンプリングしてサンプリング動作の結果としてアナログ値を記憶するアナログサンプリング回路を含む。アナログ記憶面802のアナログ値密度806は、上記のように、以下の構成により生じ得る。すなわち、以下の構成とは、4つの隣接するセルが配線を介して通信可能に結合され、その結果、4倍のフォトダイオード電流が4つのセルのうちの1つのセルの単一のアナログサンプリング回路によってサンプリングされ、他の3つのセルの残りのアナログサンプリング回路はサンプリングのために起動されない構成である。
図9は、別の実施形態に従うアナログ信号のアナログ画素データをデジタル画素データに変換するためのシステム900を示す。選択肢として、システム900は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、システム900は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
システム900は、第1のアナログ記憶面802と、アナログ-デジタルユニット922と、第1のデジタル画像912と、第2のアナログ記憶面842と、第2のデジタル画像952とを含むとして図9に示されている。図9に示されるように、複数のアナログ値の各々は、アナログ記憶面802および842の各々において「V」として示されており、対応するデジタル値の各々は、それぞれデジタル画像912および952において「D」として示されている。
上記のように、各アナログ記憶面802および842は、1つ以上のアナログ値の任意の集合を含んでいてもよい。一実施形態において、所与のアナログ記憶面は、関連付けられている露光時間中にアクティブなサンプル信号618を受信することによってフォトダイオード電流をサンプリングする各アナログ記憶回路603についてアナログ値を含んでいてもよい。
いくつかの実施形態において、アナログ記憶面は、画像センサの全てのアナログ記憶回路603のサブセットのみについてアナログ値を含んでいてもよい。これは、たとえば、画素の奇数または偶数行のみのアナログ記憶回路603が所与の露光時間中に起動されてサンプリングを行う場合に起こり得る。同様に、これは、画素の奇数または偶数列のみのアナログ記憶回路603が所与の露光中に起動されてサンプリングを行う場合に起こり得る。別の例として、これは、通信可能に結合されたセル同士の間で2倍または4倍のフォ
トダイオード電流などの共有フォトダイオード電流を分散させる態様で、2つ以上の感光性セルが配線644などによって通信可能に結合される場合に起こり得る。このような実施形態では、通信可能に結合されたセルのアナログサンプリング回路603のサブセットのみが、所与の露光時間中にサンプル信号618によって起動されて共有フォトダイオード電流をサンプリングしてもよい。所与の露光時間中にサンプル信号618によって起動されるアナログサンプリング回路603はいずれも、共有フォトダイオード電流をサンプリングして、露光時間に関連付けられているアナログ記憶面にアナログ値を記憶してもよい。しかし、露光時間に関連付けられているアナログ記憶面は、露光時間中にサンプル信号618によって起動されないアナログサンプリング回路603に関連付けられているアナログ値を含まないであろう。
したがって、所与のアナログ記憶面のアナログ値密度は、当該アナログ記憶面に関連付けられている所与の露光中に起動されてフォトダイオード電流をサンプリングするアナログサンプリング回路603のサブセットに依存し得る。具体的には、所与の露光時間中に画像センサの複数の隣接するセルの各々におけるアナログサンプリング回路603のためにサンプル信号618が起動されると、密度の高いアナログ記憶面842などでは、高いアナログ値密度を得ることができる。逆に、所与の露光時間中に画像センサの隣接するセルのサブセットのみのためにサンプル信号618が起動されると、密度の低いアナログ記憶面802などでは、低いアナログ値密度を得ることができる。
ここで図9に戻って、密度の低いアナログ記憶面802のアナログ値は、アナログ画素データ904としてアナログ-デジタルユニット922に出力される。さらに、密度の高いアナログ記憶面842のアナログ値は、別途、アナログ画素データ944としてアナログ-デジタルユニット922に出力される。一実施形態において、アナログ-デジタルユニット922は、図7の文脈内で説明したアナログ-デジタルユニット722と実質的に同一であってもよい。たとえば、アナログ-デジタルユニット922は少なくとも1つの増幅器および少なくとも1つのアナログ-デジタル変換器を含んでいてもよく、当該増幅器は、ゲイン値を受信し、当該ゲイン値を利用して、アナログ-デジタルユニット922において受信したアナログ画素データをゲイン調整するように動作可能である。さらに、そのような実施形態では、増幅器はゲイン調整されたアナログ画素データをアナログ-デジタル変換器に送信してもよく、当該変換器は次いで、ゲイン調整されたアナログ画素データからデジタル画素データを生成する。この目的で、アナログ-デジタル変換は、2つ以上の異なるアナログ記憶面802および842の各々のコンテンツに対して実行されてもよい。
一実施形態において、アナログ-デジタルユニット922は、受信したアナログ画素データの各インスタンスに対して少なくとも2つの異なるゲインを適用する。たとえば、アナログ-デジタルユニット922は、アナログ画素データ904を受信し、アナログ画素データ904に対して少なくとも2つの異なるゲインを適用して、アナログ画素データ904に基づいて少なくとも第1のゲイン調整されたアナログ画素データおよび第2のゲイン調整されたアナログ画素データを生成してもよく、アナログ-デジタルユニット922は、アナログ画素データ944を受信し、次いでアナログ画素データ944に対して少なくとも2つの異なるゲインを適用して、アナログ画素データ944に基づいて少なくとも第1のゲイン調整されたアナログ画素データおよび第2のゲイン調整されたアナログ画素データを生成してもよい。
さらに、アナログ-デジタルユニット922は、ゲイン調整されたアナログ画素データの各インスタンスをデジタル画素データに変換し、次いで対応するデジタル信号を出力してもよい。具体的に図9に関して、アナログ-デジタルユニット922は、アナログ画素データ904に対するゲイン1の適用に対応する第1のデジタル画素データ906を含む
第1のデジタル信号と、アナログ画素データ944に対するゲイン1の適用に対応する第2のデジタル画素データ946を含む第2のデジタル信号とを生成するとして示されている。デジタル画素データの各インスタンスは、第1のデジタル画素データ906がデジタル画像912を含み、第2のデジタル画素データ946がデジタル画像952を含むように、デジタル画像を含んでいてもよい。言い換えれば、第1のデジタル画像912は、密度の低いアナログ記憶面802のアナログ値に基づいて生成されてもよく、第2のデジタル画像952は、密度の高いアナログ記憶面842のアナログ値に基づいて生成されてもよい。
当然、他の実施形態では、アナログ-デジタルユニット922は、アナログ画素データの各インスタンスに対して複数のゲインを適用し、それによって、各アナログ記憶面802および842に基づいて画像スタックを生成してもよい。各画像スタックは、それらの適用例において説明したように、または以下で説明するように操作されてもよい。
いくつかの実施形態において、デジタル画像952は、デジタル画像912よりも大きな解像度を有していてもよい。言い換えれば、デジタル画像912を構成する画素の数よりも多い数の画素がデジタル画像952を構成してもよい。これは、一例では密度の高いアナログ記憶面842のサンプリングされたアナログ値の個数の4分の1しか含んでいない密度の低いアナログ記憶面802からデジタル画像912が生成されたからであり得る。他の実施形態では、デジタル画像952は、デジタル画像912と同一の解像度を有していてもよい。このような実施形態では、密度の低いアナログ記憶面802におけるサンプリングされたアナログ値の個数の減少を埋め合わせるために、複数のデジタル画素データ値が生成されてもよい。たとえば、当該複数のデジタル画素データ値は、補間によって生成されてデジタル画像912の解像度を上げてもよい。
一実施形態において、密度の低いアナログ記憶面802から生成されたデジタル画像912を用いて、密度の高いアナログ記憶面842から生成されたデジタル画像952を向上させてもよい。具体的な非限定的な例として、密度の低いアナログ記憶面802および密度の高いアナログ記憶面842の各々は、写真撮影シーンの1回の露光でアナログ値を記憶してもよい。本説明の文脈において、写真撮影シーンの「1回の露光」は、2組以上のアナログサンプリング回路を用いて少なくとも部分的に同時に写真撮影シーンを捕捉することを含んでいてもよく、各組のアナログサンプリング回路は、異なる露光時間で動作するように構成されてもよい。さらに、1回の露光は、複数の別個の露光時間またはサンプリング時間にさらに分割されてもよく、当該露光時間またはサンプリング時間は、シーケンシャルであってもよく、部分的に同時であってもよく、またはシーケンシャルと部分的に同時との何らかの組合せであってもよい。
2組以上のアナログサンプリング回路を用いた写真撮影シーンの1回の露光の捕捉中に、捕捉中の画像センサのいくつかのセルは、1つ以上の他のセルに通信可能に結合されてもよい。たとえば、画像センサのセルは、各セルが同一の光のピーク波長に関連付けられている3つの他のセルに結合されるように、図2に示されるように通信可能に結合されてもよい。したがって、1回の露光中に、通信可能に結合されたセルの各々は、4倍のフォトダイオード電流を受信してもよい。
1回の露光の第1のサンプリング時間中に、4つのセルの各々における第1のアナログサンプリング回路は、アクティブなサンプル信号を受信してもよく、当該サンプル信号は、4つのセルの各々における第1のアナログサンプリング回路が第1のサンプリング時間中に4倍のフォトダイオード電流をサンプリングするようにする。密度の高いアナログ記憶面842は、このようなサンプリング動作中に記憶されるアナログ値を表してもよい。さらに、4つのセルの各々における第2のアナログサンプリング回路は、別途4倍のフォ
トダイオード電流をサンプリングするように制御されてもよい。1つの選択肢として、第1のサンプリング時間後の第2のサンプリング時間中に、4つの結合されたセルの第2のアナログサンプリング回路の1つだけがアクティブなサンプル信号を受信してもよく、当該サンプル信号は、当該単一のアナログサンプリング回路が第2のサンプリング時間中に4倍のフォトダイオード電流をサンプリングするようにする。密度の低いアナログ記憶面802は、このようなサンプリング動作中に記憶されるアナログ値を表してもよい。
その結果、1回の露光の第2のサンプリング時間中に記憶されるアナログ値は、第1のサンプリング時間中に記憶されるアナログ値と比較して、感度が上昇しているが解像度が下がった状態でサンプリングされる。微光写真撮影シーンを伴う状況では、第2のサンプリング時間に関連付けられる光感度の上昇により、デジタル画像912などの、露光が優れたおよび/またはノイズの少ないデジタル画像を生成することができる。しかし、デジタル画像952は所望の最終画像解像度または画像サイズを有し得る。したがって、いくつかの実施形態では、デジタル画像912はデジタル画像952とブレンドまたは混合または結合され、デジタル画像952のノイズを減少させて露光を向上させてもよい。たとえば、2分の1垂直または2分の1水平解像度を有するデジタル画像がフル解像度のデジタル画像とブレンドされてもよい。別の実施形態では、2分の1垂直解像度、2分の1水平解像度およびフル解像度のデジタル画像のいずれかの組合せがブレンドされてもよい。
いくつかの実施形態において、第1の露光時間(または第1のサンプリング時間)および第2の露光時間(または第2のサンプリング時間)の各々は、写真撮影シーンの周囲照明を用いて捕捉される。他の実施形態では、第1の露光時間(または第1のサンプリング時間)および第2の露光時間(または第2のサンプリング時間)の各々は、写真撮影シーンのフラッシュまたはストロボ照明を用いて捕捉される。さらに他の実施形態では、第1の露光時間(または第1のサンプリング時間)は、写真撮影シーンの周囲照明を用いて捕捉されてもよく、第2の露光時間(または第2のサンプリング時間)は、写真撮影シーンのフラッシュまたはストロボ照明を用いて捕捉されてもよい。
第1の露光時間が周囲照明を用いて捕捉され、第2の露光時間がフラッシュまたはストロボ照明を用いて捕捉される実施形態では、第1の露光時間中に記憶されるアナログ値は、第2の露光時間中に記憶されるアナログ値よりも高い密度でアナログ記憶面に記憶されてもよい。これは、周囲照明での写真撮影シーンの捕捉のISOまたは感度を効果的に上昇させることができる。その後、写真撮影シーンは次いで、ストロボまたはフラッシュ照明を用いてフル解像度で捕捉されてもよい。次いで、低解像度の周囲捕捉とフル解像度のストロボまたはフラッシュ捕捉とは併合されて、個別の捕捉のどちらか一方では見られない詳細を含む結合画像を作成してもよい。
露光が向上しかつノイズが少ない結合デジタル画像を得るためにデジタル画像912とデジタル画像952とを結合するためのさまざまな選択肢が、以下に開示されている。
図10は、一実施形態に係る結合画像1020を生成するためのユーザインターフェイス(UI)システム1000を示す。選択肢として、UIシステム1000は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、UIシステム1000は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、結合画像1020は、少なくとも2つの関連するデジタル画像の組合せを含む。たとえば、結合画像1020は、写真撮影シーンの1回の露光の少なくとも2つのデジタル画像の結合レンダリングを含んでいてもよい。具体的には、結合画像1020は、密度の低いアナログ記憶面802から生成されたデジタル画像912と密度の
高いアナログ記憶面842から生成されたデジタル画像952との結合レンダリングを含んでいてもよい。
一実施形態において、UIシステム1000は、結合画像1020と、トラック1032に沿って動くように構成されたスライダコントロール1030と、各々が表示画像1010内に表示される視覚マーカを含み得る2つ以上の表示点1040とを含むがこれらに限定されない表示画像1010を提示する。
一実施形態において、UIシステム1000はデジタル写真撮影システム300のプロセッサ複合体310内で実行される調整ツールによって生成され、表示画像1010は表示ユニット312上に表示される。一実施形態において、少なくとも2つのデジタル画像は、結合画像1020を生成するためのソース画像を含む。少なくとも2つのデジタル画像は、NVメモリ316、揮発性メモリ318、メモリサブシステム362またはそれらのいずれかの組合せの内部に存在してもよい。別の実施形態において、UIシステム1000は、ラップトップコンピュータまたはデスクトップコンピュータなどのコンピュータシステム内で実行される調整ツールによって生成される。少なくとも2つのデジタル画像は、コンピュータシステムに送信されてもよく、または取付けられたカメラデバイスによって生成されてもよい。さらに別の実施形態において、UIシステム1000はクラウドベースのサーバコンピュータシステムによって生成されてもよく、当該サーバコンピュータシステムは少なくとも2つのデジタル画像をクライアントブラウザにダウンロードしてもよく、当該ブラウザは以下に説明する結合動作を実行してもよい。別の実施形態において、UIシステム1000はクラウドベースのサーバコンピュータシステムによって生成され、当該サーバコンピュータシステムは、モバイルデバイス内のデジタル写真撮影システムから少なくとも2つのデジタル画像を受信し、結合画像1020を生成するのと共に、以下に説明する結合動作を実行してもよい。
スライダコントロール1030は、表示点1040-Aおよび1040-Cに対応する2つの終点同士の間を動くように構成されてもよい。表示点1040-Bなどの1つ以上の表示点が2つの終点同士の間に位置決めされてもよい。各表示点1040は、結合画像1020の特定のレンダリング、または2つ以上のデジタル画像の特定の組合せと関連付けられてもよい。たとえば、表示点1040-Aは第1のデジタル画像と関連付けられてもよく、表示点1040-Cは第2のデジタル画像と関連付けられてもよい。第1のデジタル画像および第2のデジタル画像の両方が、上記のように1回の露光によるものであってもよい。別の実施形態において、スライダコントロール1030が表示点1040-Aの真上に位置決めされると、第1のデジタル画像のみが表示画像1010内に結合画像1020として表示されてもよく、同様に、スライダコントロール1030が表示点1040-Cの真上に位置決めされると、第2のデジタル画像のみが表示画像1010内に結合画像1020として表示されてもよい。
一実施形態において、表示点1040-Bは第1のデジタル画像と第2のデジタル画像とのブレンドと関連付けられてもよい。たとえば、スライダコントロール1030が表示点1040-Bに位置決めされると、結合画像1020は第1のデジタル画像と第2のデジタル画像とのブレンドであってもよい。一実施形態において、第1のデジタル画像と第2のデジタル画像とのブレンドは、アルファブレンディング、輝度ブレンディング、ダイナミックレンジブレンディング、ならびに/またはトーンマッピングもしくは他の非線形ブレンディングおよびマッピング動作を含んでいてもよい。別の実施形態において、第1のデジタル画像と第2のデジタル画像とのブレンドはいずれも、第1の画像および第2の画像単独のいずれか一方とは異なるより大きいダイナミックレンジまたは他の視覚的特徴を有する新たな画像を提供し得る。ゆえに、第1のデジタル画像と第2のデジタル画像とのブレンドによって、結合画像1020として表示され得るかまたは結合画像1020を
生成するために用いられ得る、新たに計算されたHDR画像が提供され得る。この目的で、第1のデジタル信号と第2のデジタル信号とが組合されることによって、HDR画像の少なくとも一部が得られてもよい。さらに、第1のデジタル信号および第2のデジタル信号の一方は、別のデジタル画像またはデジタル信号の少なくとも一部とさらに組合されてもよい。一実施形態において、他方のデジタル画像は別のHDR画像を含んでいてもよい。
一実施形態において、スライダコントロール1030が表示点1040-Aに位置決めされると第1のデジタル画像が結合画像1020として表示され、スライダコントロール1030が表示点1040-Cに位置決めされると第2のデジタル画像が結合画像1020として表示され、さらに、スライダコントロール1030が表示点1040-Bに位置決めされるとブレンド画像が結合画像1020として表示される。そのような実施形態では、スライダコントロール1030が表示点1040-Aと表示点1040-Cとの間に位置決めされると、第1のデジタル画像および第2のデジタル画像について混合(たとえばブレンド)重みが計算されてもよい。第1のデジタル画像について、混合重みは、スライダコントロール1030が表示点1040-Cにあるときに0.0の値を有し、スライダコントロール1030が表示点1040-Aにあるときに1.0の値を有するとして計算されてもよく、混合重み値の範囲はそれぞれ表示点1040-Cと1040-Aとの間に位置する0.0から1.0である。第2のデジタル画像について、混合重みは、スライダコントロール1030が表示点1040-Aにあるときに0.0の値を有し、スライダコントロール1030が表示点1040-Cにあるときに1.0の値を有するとして計算されてもよく、混合重み値の範囲はそれぞれ表示点1040-Aと1040-Cとの間に位置する0.0から1.0である。
他の実施形態では、表示点1040-Bに加えて、表示点1040-Aと1040-Cとの間にトラック1032に沿って複数のさらなる表示点が存在してもよい。当該さらなる表示点は、さらなるデジタル画像に関連付けられてもよい。
したがって、スライダコントロール1030の位置決めの結果、2つ以上のデジタル信号がブレンドされてもよく、ブレンドされたデジタル信号は、異なるアナログ記憶面からのアナログ値を利用して生成されてもよい。さらに、当該異なるアナログ記憶面は、異なるアナログ値密度に関連付けられてもよい。上記のように、共有フォトダイオード電流を用いて捕捉されたアナログ記憶面から生成されるデジタル画像は、含まれるノイズが少ないように捕捉されてもよく、および/または、高い光感度または輝度で捕捉されてもよい。このデジタル画像は、ノイズが多くかつ解像度が高いデジタル画像とブレンドされて、ノイズが少なく輝度が高くおよび/または露光が優れた画像を高解像度で生成し得る。したがって、2つ以上のデジタル信号のブレンド動作は、デジタル信号のうちの少なくとも1つに現れるノイズを減少させることに役立ち得る。
当然、スライダコントロール1030の表示点に基づいて任意の2つ以上の有効露光がブレンドされて、UIシステム1000において結合画像1020を生成してもよい。さらに、「高ダイナミックレンジ画像のためのシステムおよび方法(SYSTEMS AND METHODS FOR HIGH-DYNAMIC RANGE IMAGES)」と題されるxx/xx/xxxxに出願された米国
特許出願番号第(DUELP005/DL011)に開示されているシステムおよび方法を利用して、任意の2つ以上の有効露光がブレンドされてもよい。
一実施形態において、第1のデジタル画像および第2のデジタル画像の少なくとも一方と関連付けられている少なくとも1つの混合重み値に基づいて、第1のデジタル画像および第2のデジタル画像に混合動作が適用されてもよい。一実施形態において、1.0の混合重みは、1.0の混合重みと関連付けられているデジタル画像に完全な混合重みを与え
る。このように、ユーザは第1のデジタル画像と第2のデジタル画像とをブレンドしてもよい。この目的で、第1のデジタル信号および第2のデジタル信号はユーザ入力に応じてブレンドされてもよい。たとえば、スライディング標識が表示されてもよく、ユーザがスライディング標識を操作したことに応答して第1のデジタル信号および第2のデジタル信号がブレンドされてもよい。
混合重みおよび混合動作のシステムは、第1のデジタル画像、第2のデジタル画像およびブレンド画像を第1のデジタル画像から第2のデジタル画像への段階的な進行として見るためのUIツールを提供する。一実施形態において、ユーザは、スライダコントロール1030の任意の位置に対応する結合画像1020を保存してもよい。UIシステム1000を実現する調整ツールは、任意の技術的に実行可能なジェスチャまたは技術を介して結合画像1020の保存を指示するコマンドを受信してもよい。たとえば、調整ツールは、結合画像1020によって占められる領域内でユーザがジェスチャを行なうと結合画像1020を保存するように構成されてもよい。または、調整ツールは、ユーザがスライダコントロール1030を押すが他の点では動かさない場合に結合画像1020を保存してもよい。別の実現例では、調整ツールは、ユーザが保存コマンドを受信する専用の保存ボタンなどのUI要素(図示せず)を押すことによってなどでジェスチャを行なうと結合画像1020を保存してもよい。
この目的で、スライダコントロールを用いて2つ以上のデジタル画像の寄与を求め、結合画像1020などの最終計算画像を生成することができる。当業者は、混合重みおよび混合動作の上記のシステムは、2つ以上の関連画像と関連付けられている2つ以上の表示点を含むように一般化され得ることを認識するであろう。そのような関連画像は、2つ以上のアナログ記憶面から生成された、ゼロまたはゼロに近いフレーム間時間を有し得る任意の数のデジタル画像を含み得るがこれらに限定されない。
さらに、回転ノブなどの、異なる連続位置UIコントロールがスライダコントロール1030の代わりに実現されてもよい。
他の実施形態では、UIシステム1000は、さらなるスライダコントロールを含んでいてもよい。たとえば、第1のデジタル画像が周囲画像を含み、第2のデジタル画像がストロボまたはフラッシュ画像を含む場合、2つ以上のスライダコントロールがUIシステム1000上に提供されてもよい。このような例における第1のスライダコントロールは、ユーザがデジタル画像の1つ以上に対するゲインの適用を制御することを可能にしてもよい。たとえば、第1のスライダコントロールは、周囲画像に対するゲインの適用を制御してもよい。同様に、第2のスライダコントロールは、ストロボまたはフラッシュ画像に対するゲインの適用を制御してもよい。選択肢として、このような例における別のスライダコントロールが、ユーザが結合画像に対するフラッシュ画像のフラッシュ寄与を制御することを可能にしてもよい。
図11は、一実施形態に係る結合画像を生成するための方法1100のフロー図である。選択肢として、方法1100は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実行されてもよい。しかし、当然、方法1100は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
方法1100はステップ1110で開始し、プロセッサ複合体310などのプロセッサ複合体内で実行される調整ツールが、図10の文脈において説明した第1のデジタル画像および第2のデジタル画像などの少なくとも2つの関連したソース画像をロードする。ステップ1112において、調整ツールは、図10のスライダコントロール1030などのUIコントロールの位置をデフォルト設定に初期化する。一実施形態において、デフォル
ト設定は、UIコントロールの値の範囲について、表示点1040-Aなどの終点を含む。別の実施形態において、デフォルト設定は、少なくとも2つの関連したソース画像のうちの1つ以上に基づく計算値を含む。特定の実施形態において、デフォルト設定は、少なくとも第1のデジタル画像および第2のデジタル画像を含む画像オブジェクトと関連してユーザによって予め選択された値に初期化される。
ステップ1114において、調整ツールは、UIコントロールの位置および少なくとも2つの関連したソース画像に基づいて、図10の結合画像1020などの結合画像を生成して表示する。一実施形態において、結合画像を生成することは、図10において先に説明したように少なくとも2つの関連したソース画像同士を混合することを含む。ステップ1116において、調整ツールはユーザ入力を受信する。ユーザ入力は、表示画像1010内の選択ジェスチャまたはクリックジェスチャなどのUIジェスチャを含み得るがこれらに限定されない。ステップ1120においてユーザ入力がUIコントロールの位置を変更した場合は、調整ツールはUIコントロールの位置を変更し、方法はステップ1114に戻る。そうでなければ、方法はステップ1130に進む。
ステップ1130においてユーザ入力が終了コマンドを含んでいない場合は、方法はステップ1140に進み、調整ツールはユーザ入力と関連付けられているコマンドを実行する。一実施形態において、当該コマンドは保存コマンドを含み、調整ツールは次いで、UIコントロールの位置に従って生成される結合画像を保存する。方法は次いでステップ1116に戻る。
ステップ1130に戻って、ユーザ入力が終了コマンドを含んでいる場合は、方法はステップ1190において終わり、調整ツールが終了することによって実行を終わらせる。
要約すると、第1のデジタル画像と第2のデジタル画像とを有益にブレンドする新たなデジタル写真を生成するための技術であって、第1のデジタル画像および第2のデジタル画像が、2つの異なるアナログ記憶面からであるが単一の画像センサから受信した異なるアナログ信号に基づいている技術が開示される。第1のデジタル画像は、任意の技術的に実行可能なブレンド技術を実現する機能に基づいて第2のデジタル画像とブレンドされてもよい。調整ツールは、ユーザが関連画像を組合せるためにパラメータの段階的な変化から新たなデジタル写真を選択して保存することを可能にするユーザインターフェイス技術を実現し得る。
本明細書に開示されている実施形態の1つの利点は、デジタル写真が、写真撮影シーンの1回の露光の2つ以上の異なるサンプルを用いてユーザ入力に基づいて選択的に生成され得ることである。したがって、ユーザ入力に基づいて生成されるデジタル写真は、いずれの個別のサンプルよりも大きいダイナミックレンジを有し得る。さらに、ゼロまたはゼロに近いフレーム間時間で2つ以上の異なるサンプルを用いてHDR画像を生成するので、モーションアーティファクトなしでHDR画像の迅速な生成が可能となる。
図12は、一実施形態に係るネットワークを利用して結合画像を生成するためのメッセージシーケンス1200を示す。選択肢として、メッセージシーケンス1200は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実行されてもよい。しかし、当然、メッセージシーケンス1200は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図12に示されるように、ワイヤレスモバイルデバイス376(0)は少なくとも2つのデジタル画像を生成する。一実施形態において、少なくとも2つのデジタル画像は、密度の低いアナログ記憶面802から生成されたデジタル画像912と、密度の高いアナロ
グ記憶面842から生成されたデジタル画像952とを含んでいてもよい。
再び図12を参照して、少なくとも2つのデジタル画像は、データネットワーク474によってワイヤレスモバイルデバイス376(0)からデータセンタ480に送信される。少なくとも2つのデジタル画像は、任意の技術的に実行可能なネットワーク通信方法を用いてワイヤレスモバイルデバイス376(0)によってデータセンタ480に送信されてもよい。
さらに、一実施形態において、データセンタ480は次いで、少なくとも2つのデジタル画像を処理して第1の計算画像を生成してもよい。少なくとも2つのデジタル画像を処理することは、少なくとも2つのデジタル画像の各々の少なくとも一部をブレンドまたは併合して第1の計算画像を生成する、少なくとも2つのデジタル画像のいずれかの処理を含んでいてもよい。この目的で、第1のデジタル画像および第2のデジタル画像はワイヤレスモバイルデバイス376(0)から遠隔で結合されてもよい。たとえば、少なくとも2つのデジタル画像を処理することは、HDR画像結合動作を含むがこれに限定されないいずれかの種類のブレンド動作を含んでいてもよい。一実施形態において、少なくとも2つのデジタル画像を処理することは、データセンタ480において受信したデジタル画像のうちの少なくとも1つよりもノイズが少ない第1の計算画像を生成するいずれかのブレンド計算を含んでいてもよい。別の実施形態において、少なくとも2つのデジタル画像を処理することは、データセンタ408において受信したデジタル画像のうちのいずれか1つよりも大きいダイナミックレンジを有する第1の計算画像を生成するいずれかの計算を含んでいてもよい。したがって、一実施形態において、データセンタ480によって生成される第1の計算画像はHDR画像であってもよい。他の実施形態では、データセンタ480によって生成される第1の計算画像はHDR画像の少なくとも一部であってもよい。
第1の計算画像を生成した後、データセンタ480は次いで第1の計算画像をワイヤレスモバイルデバイス376(0)に送信してもよい。一実施形態において、ワイヤレスモバイルデバイス376(0)からの少なくとも2つのデジタル画像の送信、およびワイヤレスモバイルデバイス376(0)における第1の計算画像の受信は、ワイヤレスモバイルデバイス376(0)のユーザから介入または命令を全く受けずに起こってもよい。たとえば、一実施形態において、ワイヤレスモバイルデバイス376(0)は、写真撮影シーンを捕捉して当該写真撮影シーンを表す1つ以上のアナログ信号を利用して少なくとも2つのデジタル画像を生成した直後に、少なくとも2つのデジタル画像をデータセンタ480に送信してもよい。写真撮影シーンは、ワイヤレスモバイルデバイス376(0)上の、電子シャッターコントロールのユーザ入力もしくは選択、またはマニュアルシャッターボタンの押下に基づいて捕捉されてもよい。
さらに、少なくとも2つのデジタル画像を受信したことに応答して、データセンタ480は、少なくとも2つのデジタル画像に基づいてHDR画像を生成し、HDR画像をワイヤレスモバイルデバイス376(0)に送信してもよい。HDR画像は、デジタル画像のうちの少なくとも1つと比較してHDR画像のノイズを減少させるために少なくとも2つのデジタル画像のブレンドを利用して生成されてもよい。ワイヤレスモバイルデバイス376(0)は次いで、受信したHDR画像を表示してもよい。したがって、ワイヤレスモバイルデバイス376(0)のユーザは、データセンタ480によって計算されたHDR画像をワイヤレスモバイルデバイス376(0)のディスプレイ上で見ることができる。ゆえに、ワイヤレスモバイルデバイス376(0)がHDR画像処理をまったく実行しない場合でも、ユーザは、新たに計算されたHDR画像を、写真撮影シーンを捕捉して当該HDR画像が基づく少なくとも2つのデジタル画像を生成したほぼ直後に、ワイヤレスモバイルデバイス376(0)上で見ることができる。
図12に示されるように、ワイヤレスモバイルデバイス376(0)は、少なくとも2つのデジタル画像の処理の調整を要求する。一実施形態において、データセンタ480から第1の計算画像を受信すると、ワイヤレスモバイルデバイス376(0)は、図10のUIシステム1000などのUIシステムにおいて第1の計算画像を表示してもよい。そのような実施形態では、ユーザは、スライダコントロール1030などのスライダコントロールを制御して、データセンタ480に送信される少なくとも2つのデジタル画像の処理を調整してもよい。たとえば、ユーザがスライダコントロールを操作すると、コマンドがデータセンタ480に送信されてもよい。一実施形態において、データセンタ480に送信されるコマンドは、少なくとも2つのデジタル画像の処理を調整する際に用いられる混合重みを含んでいてもよい。他の実施形態では、少なくとも2つのデジタル画像の処理の調整を求める要求は、データセンタ480が少なくとも2つのデジタル画像を再処理して第2の計算画像を生成するために使用し得る、ワイヤレスモバイルデバイス376(0)からのいずれかの命令を含む。
図12に示されるように、処理の調整を求める要求を受信すると、データセンタ480は少なくとも2つのデジタル画像を再処理して第2の計算画像を生成する。一実施形態において、データセンタ480は、ワイヤレスモバイルデバイス376(0)から受信したパラメータを用いて少なくとも2つのデジタル画像を再処理してもよい。パラメータは、少なくとも2つのデジタル画像を有する入力として、データセンタ480において実行されるHDR処理アルゴリズムに提供されてもよい。パラメータは、少なくとも2つのデジタル画像のブレンドを調整するための入力としてブレンド動作に提供されてもよい。第2の計算画像を生成した後、第2の計算画像は、ユーザに表示するためにデータセンタ480からワイヤレスモバイルデバイス376(0)に送信されてもよい。
再び図12を参照して、ワイヤレスモバイルデバイス376(0)は、第2の計算画像を別のワイヤレスモバイルデバイス376(1)と共有する。一実施形態において、ワイヤレスモバイルデバイス376(0)は、データセンタ480から受信したいずれかの計算画像を他のワイヤレスモバイルデバイス376(1)と共有してもよい。たとえば、ワイヤレスモバイルデバイス376(0)は、データセンタ480から受信した第1の計算画像を共有してもよい。図12に示されるように、データセンタ480は、同じデータネットワーク474上でワイヤレスモバイルデバイス376(0)およびワイヤレスモバイルデバイス376(1)と通信する。当然、他の実施形態では、ワイヤレスモバイルデバイス376(0)は、データセンタ480およびワイヤレスモバイルデバイス376(1)が通信のために利用するネットワークとは異なるネットワークを介してデータセンタ480と通信してもよい。
別の実施形態において、ワイヤレスモバイルデバイス376(0)は、共有要求をデータセンタ480に送信することによって計算画像を他のワイヤレスモバイルデバイス376(1)と共有してもよい。たとえば、ワイヤレスモバイルデバイス376(0)は、データセンタ480が第2の計算を他のワイヤレスモバイルデバイス376(1)に転送することを要求してもよい。共有要求を受信したことに応答して、データセンタ480は次いで第2の計算画像をワイヤレスモバイルデバイス376(1)に送信してもよい。ある実施形態において、第2の計算画像を他のワイヤレスモバイルデバイス376(1)に送信することは、他のワイヤレスモバイルデバイス376(1)が第2の計算画像にアクセス可能となるURLを送信することを含んでいてもよい。
さらに、図12に示されるように、第2の計算画像を受信した後、他のワイヤレスモバイルデバイス376(1)は、少なくとも2つのデジタル画像の処理の調整を求める要求をデータセンタ480に送信してもよい。たとえば、他のワイヤレスモバイルデバイス376(1)は、図10のUIシステム1000などのUIシステムにおいて第2の計算画
像を表示してもよい。他のワイヤレスモバイルデバイス376(1)のユーザは、UIコントロールを操作して、ワイヤレスモバイルデバイス376(0)によってデータセンタ480に送信される少なくとも2つのデジタル画像の処理を調整してもよい。たとえば、他のワイヤレスモバイルデバイス376(1)においてユーザがスライダコントロールを操作すると、コマンドが生成されて処理のためにデータセンタ480に送信されてもよい。ある実施形態において、他のワイヤレスモバイルデバイス376(1)から送信される少なくとも2つのデジタル画像の処理の調整を求める要求は、他のワイヤレスモバイルデバイス376(1)におけるスライダコントロールのユーザ操作に基づいて生成されるコマンドを含む。他の実施形態では、少なくとも2つのデジタル画像の処理の調整を求める要求は、データセンタ480が少なくとも2つのデジタル画像を再処理して第3の計算画像を生成するために使用し得る、ワイヤレスモバイルデバイス376(1)からのいずれかの命令を含む。
図12に示されるように、処理の調整を求める要求を受信すると、データセンタ480は少なくとも2つのデジタル画像を再処理して第3の計算画像を生成する。一実施形態において、データセンタ480は、ワイヤレスモバイルデバイス376(1)から受信した混合重みを用いて少なくとも2つのデジタル画像を再処理してもよい。そのような実施形態では、ワイヤレスモバイルデバイス376(1)から受信した混合重みは、少なくとも2つのデジタル画像を有する入力として、データセンタ480において実行されるHDR処理アルゴリズムに提供されてもよい。別の実施形態において、ワイヤレスモバイルデバイス376(1)から受信した混合重みを用いて、少なくとも2つのデジタル画像のブレンドを調整してもよい。第3の計算画像を生成した後、第3の計算画像は次いで、表示のためにデータセンタ480からワイヤレスモバイルデバイス376(1)に送信される。さらに、第3の計算画像を受信した後、ワイヤレスモバイルデバイス376(1)は、第3の計算画像を記憶することを求める要求をデータセンタ480に送信してもよい。別の実施形態において、データセンタ480と通信している他のワイヤレスモバイルデバイス376が計算画像の記憶を要求してもよい。たとえば、図12の文脈において、ワイヤレスモバイルデバイス376(0)は、第1の計算画像または第2の計算画像の記憶をいつでも要求してもよい。
計算画像の記憶を求める要求を受信したことに応答して、データセンタ480は、後で取出すために計算画像を記憶してもよい。たとえば、記憶される計算画像は、当該計算画像を生成するために適用された処理を再び適用することなく当該計算画像を後で取出すことができるように記憶されてもよい。一実施形態において、データセンタ480は、データセンタ480にローカルな記憶システム486内に計算画像を記憶してもよい。他の実施形態では、データセンタ480は、データセンタ481などの、データセンタ480にローカルでないハードウェアデバイス内に計算画像を記憶してもよい。そのような実施形態では、データセンタ480は計算画像を記憶するためにデータネットワーク474上で送信してもよい。
さらに、いくつかの実施形態において、計算画像は、当該計算画像を生成するために利用された少なくとも2つのデジタル画像に関連して記憶されてもよい。たとえば、計算画像は、データセンタ480または481によって供給されるURLを通すなどして、当該計算画像を生成するために利用された少なくとも2つのデジタル画像と関連付けられてもよい。記憶された計算画像を少なくとも2つのデジタル画像にリンクすることによって、計算画像へのアクセスを有する任意のユーザまたはデバイスには、少なくとも2つのデジタル画像に適用される処理を後で調整し、それによって新たな計算画像を生成する機会も与えられ得る。
この目的で、ワイヤレスモバイルデバイス376のユーザは、データネットワーク47
4を介してアクセス可能なデータセンタ480の処理能力を利用して、他のワイヤレスモバイルデバイス376が捕捉しており、続いてアクセスを提供しているデジタル画像を利用して新たな画像を生成してもよい。たとえば、デジタル画像を含むデジタル信号が遠隔で結合されるようにネットワーク上で転送されてもよく、結合されたデジタル信号によって低ノイズまたはHDR画像の少なくとも一部が得られてもよい。さらに、ユーザは、自身のワイヤレスモバイルデバイス376に依拠して新たな写真を生成するのに必要な処理または計算を実行することなく、2つ以上のデジタル画像のブレンドを調整して新たな低ノイズまたはHDR写真を生成することが可能であり得る。続いて、ユーザのデバイスは、2つ以上のデジタル信号の結合によって得られた画像の少なくとも一部を受信してもよい。したがって、ユーザのワイヤレスモバイルデバイス376は、処理をデータセンタにオフロードすることによって電力を節約することができる。最後に、ユーザは、自身でブレンドまたはHDRアルゴリズムを選択することなく、かつ、そのようなブレンドまたはHDRアルゴリズムを実現するソフトウェアを自身のワイヤレスモバイルデバイス376上にインストールすることなく、写真撮影シーンに最良であると判断されるアルゴリズムを用いて生成される低ノイズまたはHDR写真を得ることが可能であり得る。たとえば、ユーザは、データセンタ480に依拠して特定の写真撮影シーンのための最良のブレンドまたはHDRアルゴリズムを特定して選択することができる。
本発明の1つの利点は、デジタル写真が、写真撮影シーンの1回の露光から生成された2つ以上の異なる画像を用いてユーザ入力に基づいて選択的に生成され得ることである。したがって、ユーザ入力に基づいて生成されるデジタル写真は、いずれの個別の画像よりも大きいダイナミックレンジを有し得る。さらに、ゼロまたはゼロに近いフレーム間時間で2つ以上の異なる画像を用いてHDR画像を生成するので、モーションアーティファクトなしでHDR画像の迅速な生成が可能となる。
写真撮影シーン内にいずれかのモーションがある場合、または捕捉中のデバイスが捕捉中にいずれかのジッターに見舞われる場合、露光同士の間のフレーム間時間はいずれも、最終併合HDR写真内にモーションぼやけを生じさせ得る。このようなぼやけは、フレーム間時間が増加するにつれて大幅に誇張される可能性がある。この問題により、現在のHDR写真技術は、非常に静的なシーン以外のいかなる状況でも鮮明な画像を捕捉することに対して効果のない解決策になる。さらに、HDR写真を生成するための従来の技術は、かなりの計算資源を必要とし、結果として生じる画像の画像品質を低下させるアーティファクトを生成する。したがって、厳密に選択肢として、本明細書に開示されている技術の1つ以上を利用して上記の問題の1つ以上が対処される場合もあれば対処されない場合もある。
さらに、さまざまな実施形態において、本明細書に開示されている技術の1つ以上は、さまざまな市場および/または製品に適用されてもよい。たとえば、写真捕捉に関連して技術が開示されてきたが、当該技術はテレビ、ウェブ会議(またはライブストリーミング機能等)、セキュリティカメラ(たとえば、特徴を判断するためにコントラストを上昇させる等)、自動車(たとえば、運転者支援システム、車内インフォテインメントシステム等)、および/または、カメラ入力を含むその他の製品に適用されてもよい。
さまざまな実施形態を上記に説明したが、それらは限定としてではなく例として提示されているに過ぎないことを理解すべきである。ゆえに、好ましい実施形態の幅および範囲は上述の例示的な実施形態のいずれによっても限定されるべきでなく、添付の特許請求の範囲およびそれらの均等物に従ってのみ定義されるべきである。

Claims (5)

  1. 装置であって、
    第1の画素と、
    第2の画素とを含み、
    前記第1の画素および前記第2の画素の各々は、第1の色の光強度を測定するための第1のセルと、第2の色の光強度を測定するための第2のセルとを含み、
    前記第1のセルは白色セルであり、前記第2のセルは白色ではない単色のセルであり、
    前記第1の画素の前記第2のセルおよび前記第2の画素の前記第2のセルが出力する結合電流により、前記第1の画素および前記第2の画素における前記第2の色の結合サンプルを生成し、
    前記第1の画素の前記第1のセルが出力する電流により、前記第1の画素における前記第1の色のサンプルを生成し、
    前記第2の画素の前記第1のセルが出力する電流により、前記第2の画素における前記第1の色のサンプルを生成し、
    前記第2の色の結合サンプルと、前記第1の画素における前記第1の色のサンプルと、前記第2の画素における前記第1の色のサンプルとを融合し、
    前記第1の画素および前記第2の画素は、前記第1の画素および前記第2の画素に含まれる同色のセルの結合を有効または無効に切り替え可能に構成されており、
    前記第2のセルの結合が有効にされた場合、前記第1の画素の前記第2の色のサンプルと、前記第2の画素の前記第2の色のサンプルとは、結合サンプルになり、
    前記第2のセルの結合が無効にされた場合、前記第1の画素の前記第2の色のサンプルと、前記第2の画素の前記第2の色のサンプルとは、互いに独立したサンプルになる、装置。
  2. 前記第1の画素および前記第2の画素の各々は、さらに、第3の色の光強度を測定するための第3のセルと、第4の色の光強度を測定するための第4のセルとを含み、
    前記第3のセルおよび前記第4のセルは白色ではない単色のセルであり、
    前記第1の画素の前記第3のセルおよび前記第2の画素の前記第3のセルが出力する結合電流により、前記第1の画素および前記第2の画素における前記第3の色の結合サンプルを生成し、
    前記第1の画素の前記第4のセルおよび前記第2の画素の前記第4のセルが出力する結合電流により、前記第1の画素および前記第2の画素における前記第4の色の結合サンプルを生成し、
    前記第2の色の結合サンプルと、前記第1の画素における前記第1の色のサンプルと、前記第2の画素における前記第1の色のサンプルとを融合することは、前記第2の色の結合サンプルと、前記第3の色の結合サンプルと、前記第4の色の結合サンプルと、前記第1の画素における前記第1の色のサンプルと、前記第2の画素における前記第1の色のサンプルとを融合することを含む、請求項1に記載の装置。
  3. 前記第1のセルは、他の色のセルよりも高解像度のサンプルを生成するために、前記第2のセル、前記第3のセルおよび前記第4のセルよりも入射光に対する感度が高くなるように構成される、請求項2に記載の装置。
  4. 前記第1の画素および前記第2の画素内の各セルは、複数のコンデンサの各々に関連付けられ、
    前記複数のコンデンサの各々は、関連付けられたセルが出力する電流に基づいて、サンプルを記憶する、請求項1~3のいずれかに記載の装置。
  5. 同色のセルの結合を有効または無効に切り替える処理は、制御信号に基づいて、各セルを接続する配線の接続を有効または無効に切り替えることを含む、請求項1~4のいずれか1項に記載の装置。
JP2021079285A 2014-11-06 2021-05-07 写真撮影シーンの低ノイズ高速捕捉を得るための画像センサ装置および方法 Active JP7253586B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/535,279 US9179085B1 (en) 2014-11-06 2014-11-06 Image sensor apparatus and method for obtaining low-noise, high-speed captures of a photographic scene
US14/535,279 2014-11-06
JP2017544283A JP6929224B2 (ja) 2014-11-06 2015-11-04 写真撮影シーンの低ノイズ高速捕捉を得るための画像センサ装置および方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2017544283A Division JP6929224B2 (ja) 2014-11-06 2015-11-04 写真撮影シーンの低ノイズ高速捕捉を得るための画像センサ装置および方法

Publications (2)

Publication Number Publication Date
JP2021132390A JP2021132390A (ja) 2021-09-09
JP7253586B2 true JP7253586B2 (ja) 2023-04-06

Family

ID=54352898

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2017544283A Active JP6929224B2 (ja) 2014-11-06 2015-11-04 写真撮影シーンの低ノイズ高速捕捉を得るための画像センサ装置および方法
JP2021079285A Active JP7253586B2 (ja) 2014-11-06 2021-05-07 写真撮影シーンの低ノイズ高速捕捉を得るための画像センサ装置および方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2017544283A Active JP6929224B2 (ja) 2014-11-06 2015-11-04 写真撮影シーンの低ノイズ高速捕捉を得るための画像センサ装置および方法

Country Status (4)

Country Link
US (1) US9179085B1 (ja)
EP (1) EP3216202A4 (ja)
JP (2) JP6929224B2 (ja)
WO (1) WO2016073646A1 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9531961B2 (en) 2015-05-01 2016-12-27 Duelight Llc Systems and methods for generating a digital image using separate color and intensity data
US9918017B2 (en) 2012-09-04 2018-03-13 Duelight Llc Image sensor apparatus and method for obtaining multiple exposures with zero interframe time
US8976264B2 (en) 2012-09-04 2015-03-10 Duelight Llc Color balance in digital photography
US10558848B2 (en) 2017-10-05 2020-02-11 Duelight Llc System, method, and computer program for capturing an image with correct skin tone exposure
US9819849B1 (en) 2016-07-01 2017-11-14 Duelight Llc Systems and methods for capturing digital images
US9807322B2 (en) 2013-03-15 2017-10-31 Duelight Llc Systems and methods for a digital image sensor
US10477087B2 (en) 2017-11-16 2019-11-12 Duelight Llc System, method, and computer program for capturing a flash image based on ambient and flash metering
US10924688B2 (en) 2014-11-06 2021-02-16 Duelight Llc Image sensor apparatus and method for obtaining low-noise, high-speed captures of a photographic scene
US11463630B2 (en) 2014-11-07 2022-10-04 Duelight Llc Systems and methods for generating a high-dynamic range (HDR) pixel stream
CN106023929B (zh) * 2016-07-20 2018-08-24 深圳市华星光电技术有限公司 显示装置的白平衡调整方法及其系统
CN109792478B (zh) 2016-09-01 2021-11-12 迪尤莱特公司 基于焦点目标信息调整焦点的装置和方法
CN108600662B (zh) * 2018-07-24 2023-09-26 思特威(上海)电子科技股份有限公司 图像传感器像素电路及成像系统
US11272118B2 (en) * 2018-10-11 2022-03-08 Stmicroelectronics (Grenoble 2) Sas Method for processing signals from an imaging device, and associated device
US11570384B2 (en) * 2020-09-03 2023-01-31 Samsung Electronics Co., Ltd. Image sensor employing varied intra-frame analog binning
US11924563B2 (en) * 2021-12-22 2024-03-05 Qualcomm Incorporated High dynamic range (HDR) photography with in-sensor zoom

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008177738A (ja) 2007-01-17 2008-07-31 Casio Comput Co Ltd 撮像装置及び撮像素子
JP2010512049A (ja) 2006-11-30 2010-04-15 イーストマン コダック カンパニー カラー画素およびパンクロマティック画素を有する画像の処理

Family Cites Families (55)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2171574C (en) 1996-03-12 2000-10-03 Brian W. Tansley Photometric measurement apparatus
US6498926B1 (en) 1997-12-09 2002-12-24 Qualcomm Incorporated Programmable linear receiver having a variable IIP3 point
US6243430B1 (en) 1998-01-09 2001-06-05 Qualcomm Incorporated Noise cancellation circuit in a quadrature downconverter
JP2002112008A (ja) * 2000-09-29 2002-04-12 Minolta Co Ltd 画像処理システム及び画像処理プログラムが記録された記録媒体
US7266150B2 (en) 2001-07-11 2007-09-04 Dolby Laboratories, Inc. Interpolation of video compression frames
US20030015645A1 (en) 2001-07-17 2003-01-23 Brickell Christopher Gavin Optical imager circuit with tolerance of differential ambient illumination
US7296286B2 (en) 2002-01-31 2007-11-13 Hitachi Kokusai Electric Inc. Method and apparatus for transmitting image signals of images having different exposure times via a signal transmission path, method and apparatus for receiving thereof, and method and system for transmitting and receiving thereof
JP3933095B2 (ja) 2003-05-30 2007-06-20 ソニー株式会社 撮像装置及び撮像方法
KR100871688B1 (ko) * 2004-02-27 2008-12-08 삼성전자주식회사 고체 촬상 장치 및 그 구동 방법
US7760246B2 (en) 2004-07-19 2010-07-20 Hewlett-Packard Development Company, L.P. Method and device for adjusting white balance
JP2006311240A (ja) 2005-04-28 2006-11-09 Olympus Corp 撮像装置
JP2007043248A (ja) 2005-07-29 2007-02-15 Eastman Kodak Co 撮像装置
US8237801B2 (en) 2005-08-05 2012-08-07 The Innovation Science Fund I, LLC Image processing system and communication method
US7623683B2 (en) 2006-04-13 2009-11-24 Hewlett-Packard Development Company, L.P. Combining multiple exposure images to increase dynamic range
US8013919B2 (en) 2006-06-27 2011-09-06 Samsung Electronics Co., Ltd. CMOS image sensor with increased dynamic range based on multiple exposure periods of varying lengths
US20080030592A1 (en) 2006-08-01 2008-02-07 Eastman Kodak Company Producing digital image with different resolution portions
US7889207B2 (en) 2007-02-08 2011-02-15 Nikon Corporation Image apparatus with image noise compensation
US8089522B2 (en) * 2007-09-07 2012-01-03 Regents Of The University Of Minnesota Spatial-temporal multi-resolution image sensor with adaptive frame rates for tracking movement in a region of interest
US7688144B2 (en) 2007-12-14 2010-03-30 Industrial Technology Research Institute Variable-gain wide-dynamic-range amplifier
US8115825B2 (en) 2008-02-20 2012-02-14 Apple Inc. Electronic device with two image sensors
JP5083046B2 (ja) 2008-06-03 2012-11-28 ソニー株式会社 撮像装置及び撮像方法
KR101436673B1 (ko) 2008-06-04 2014-09-01 시즈오카 유니버시티 촬상 장치
JP2010045773A (ja) 2008-07-18 2010-02-25 Panasonic Corp 撮像装置
US8436914B2 (en) 2008-11-07 2013-05-07 Cisco Technology, Inc. Method for automatic exposure control within a video capture device
US8913166B2 (en) * 2009-01-21 2014-12-16 Canon Kabushiki Kaisha Solid-state imaging apparatus
US20100194851A1 (en) 2009-02-03 2010-08-05 Aricent Inc. Panorama image stitching
JP5187241B2 (ja) 2009-02-16 2013-04-24 株式会社リコー 撮像装置及び撮像方法
EP2406959B1 (en) 2009-03-13 2015-01-14 Dolby Laboratories Licensing Corporation Layered compression of high dynamic range, visual dynamic range, and wide color gamut video
KR101094246B1 (ko) 2009-03-16 2011-12-19 이재웅 넓은 동적범위를 갖는 씨모스 이미지 센서
JP2010239317A (ja) * 2009-03-30 2010-10-21 Nikon Corp 固体撮像素子
US8537241B2 (en) 2009-05-28 2013-09-17 Pixim, Inc. Image sensor with sensitivity control and sensitivity based wide dynamic range
US8130304B2 (en) * 2009-07-24 2012-03-06 Aptina Imaging Corporation Image sensors with pixel charge summing
JP5419659B2 (ja) 2009-12-04 2014-02-19 キヤノン株式会社 撮像装置
GB2477083A (en) 2010-01-13 2011-07-27 Cmosis Nv Pixel structure with multiple transfer gates to improve dynamic range
US8606042B2 (en) 2010-02-26 2013-12-10 Adobe Systems Incorporated Blending of exposure-bracketed images using weight distribution functions
US9100581B2 (en) 2010-04-02 2015-08-04 Microsoft Technology Licensing, Llc Time interleaved exposures and multiplexed illumination
KR101052207B1 (ko) 2010-05-12 2011-07-27 엠텍비젼 주식회사 물체의 속도에 따른 카메라 모듈의 영상 녹화 속성 조절 방법 및 장치
US20130147979A1 (en) 2010-05-12 2013-06-13 Pelican Imaging Corporation Systems and methods for extending dynamic range of imager arrays by controlling pixel analog gain
ES2599174T3 (es) 2010-08-23 2017-01-31 Red.Com, Inc. Vídeo de rango dinámico alto
US8761245B2 (en) 2010-12-21 2014-06-24 Intel Corporation Content adaptive motion compensation filtering for high efficiency video coding
JP6041495B2 (ja) * 2011-03-24 2016-12-07 キヤノン株式会社 撮像装置及び欠陥画素の判定方法
US8947555B2 (en) 2011-04-18 2015-02-03 Qualcomm Incorporated White balance optimization with high dynamic range images
US9077917B2 (en) 2011-06-09 2015-07-07 Apple Inc. Image sensor having HDR capture capability
DE102011107844A1 (de) * 2011-07-01 2013-01-03 Heinrich Schemmann CMOS Bildsensor mit festem Pixelbinning durch verschiedenartige Zusammenschaltungen
JP5784426B2 (ja) * 2011-09-06 2015-09-24 オリンパス株式会社 撮像装置
JP2013110738A (ja) 2011-10-27 2013-06-06 Panasonic Corp 画像通信装置および撮像装置
WO2013076531A1 (en) 2011-11-23 2013-05-30 Nokia Corporation An apparatus and method comprising a beam splitter
US20130176458A1 (en) 2012-01-11 2013-07-11 Edwin Van Dalen Flexible Burst Image Capture System
JPWO2013118487A1 (ja) 2012-02-08 2015-05-11 パナソニックIpマネジメント株式会社 通信装置
JPWO2013132828A1 (ja) 2012-03-05 2015-07-30 パナソニックIpマネジメント株式会社 通信システムおよび中継装置
JP2013223043A (ja) 2012-04-13 2013-10-28 Toshiba Corp 受光装置および伝送システム
US9083935B2 (en) 2012-06-15 2015-07-14 Microsoft Technology Licensing, Llc Combining multiple images in bracketed photography
US8976264B2 (en) 2012-09-04 2015-03-10 Duelight Llc Color balance in digital photography
FR3002824A1 (fr) 2013-03-04 2014-09-05 St Microelectronics Grenoble 2 Procede et dispositif de generation d'images a grande gamme dynamique
CA2855440A1 (en) 2013-06-28 2014-12-28 Kelly J. Stegman Tissue displacement estimation by ultrasound speckle tracking

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010512049A (ja) 2006-11-30 2010-04-15 イーストマン コダック カンパニー カラー画素およびパンクロマティック画素を有する画像の処理
JP2008177738A (ja) 2007-01-17 2008-07-31 Casio Comput Co Ltd 撮像装置及び撮像素子

Also Published As

Publication number Publication date
JP2017536786A (ja) 2017-12-07
EP3216202A4 (en) 2018-02-14
WO2016073646A1 (en) 2016-05-12
JP6929224B2 (ja) 2021-09-01
EP3216202A1 (en) 2017-09-13
US9179085B1 (en) 2015-11-03
JP2021132390A (ja) 2021-09-09

Similar Documents

Publication Publication Date Title
JP7253586B2 (ja) 写真撮影シーンの低ノイズ高速捕捉を得るための画像センサ装置および方法
US11356647B2 (en) Systems and methods for generating a digital image
US12003864B2 (en) Image sensor apparatus and method for obtaining multiple exposures with zero interframe time
JP7179461B2 (ja) フラッシュ照明画像および周囲照明画像を同時に捕捉するための画像センサ装置および方法
JP6896638B2 (ja) 同時に複数の画像を捕捉するための画像センサ装置および方法
JP7000157B2 (ja) ゼロのフレーム間時間で多重露光を得るための画像センサ装置および方法
US11394894B2 (en) Image sensor apparatus and method for obtaining low-noise, high-speed captures of a photographic scene

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210602

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210602

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221101

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230228

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230327

R150 Certificate of patent or registration of utility model

Ref document number: 7253586

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150