JP2021119701A - フラッシュ照明画像および周囲照明画像を同時に捕捉するための画像センサ装置および方法 - Google Patents

フラッシュ照明画像および周囲照明画像を同時に捕捉するための画像センサ装置および方法 Download PDF

Info

Publication number
JP2021119701A
JP2021119701A JP2021076679A JP2021076679A JP2021119701A JP 2021119701 A JP2021119701 A JP 2021119701A JP 2021076679 A JP2021076679 A JP 2021076679A JP 2021076679 A JP2021076679 A JP 2021076679A JP 2021119701 A JP2021119701 A JP 2021119701A
Authority
JP
Japan
Prior art keywords
analog
digital
image
flash
ambient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021076679A
Other languages
English (en)
Inventor
リバード,ウィリアム
Rivard William
フェーダー,アダム
Feder Adam
キンドル,ブライアン
Kindle Brian
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Duelight LLC
Original Assignee
Duelight LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Duelight LLC filed Critical Duelight LLC
Publication of JP2021119701A publication Critical patent/JP2021119701A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/59Control of the dynamic range by controlling the amount of charge storable in the pixel, e.g. modification of the charge conversion ratio of the floating node capacitance
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • H01L27/14627Microlenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/771Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising storage means other than floating diffusion

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Stroboscope Apparatuses (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Image Input (AREA)
  • Storing Facsimile Image Data (AREA)

Abstract

【課題】フラッシュ照明画像及び周囲照明画像を同時に捕捉するためのシステム、方法及びコンピュータプログラム製品を提供する。【解決手段】フラッシュ照明画像及び周囲照明画像を同時に捕捉するために実行する方法であって、周囲サンプルを、画像センサのフォトダイオードからの電気信号に基づいて記憶する。また、フラッシュサンプルを、画像センサのフォトダイオードからの電気信号に基づいて記憶する。さらに、少なくとも1つの画像を生成するために、周囲サンプルに基づいて第1の値を出力し、フラッシュサンプルに基づいて第2の値を出力する。最後に、2つ以上のゲインを利用して、第1の値及び第2の値のうちの少なくとも1つを増幅する。【選択図】図2

Description

発明の分野
本発明は写真撮影システムに関し、より特定的には、複数の画像を同時に捕捉するための画像センサ装置および方法に関する。
背景
従来のデジタル写真撮影システムは、捕捉中の画像センサのダイナミックレンジによって本質的に制限されている。そのような制限に対する1つの解決策は、高ダイナミックレンジ(HDR)写真撮影の使用である。HDR写真撮影は、同じシーンの多重露光を捕捉することを伴い、当該露光の各々は異なって計測され、次いで、当該多重捕捉を併合してより大きいダイナミックレンジを有する画像を作成することを伴う。
概要
フラッシュ照明画像および周囲照明画像を同時に捕捉するためのシステム、方法およびコンピュータプログラム製品が提供される。使用時、周囲サンプルが、画像センサのフォトダイオードからの電気信号に基づいて記憶される。また、フラッシュサンプルが、画像センサのフォトダイオードからの電気信号に基づいて記憶される。さらに、少なくとも1つの画像を生成するために、周囲サンプルに基づいて第1の値が出力され、フラッシュサンプルに基づいて第2の値が出力される。最後に、2つ以上のゲインを利用して、第1の値および第2の値のうちの少なくとも1つが増幅される。追加のシステム、方法およびコンピュータプログラム製品も提示される。
一実施形態において、装置は、画像センサのフォトダイオードからの電気信号に基づいて周囲サンプルを記憶し、画像センサのフォトダイオードからの電気信号に基づいてフラッシュサンプルを記憶する回路を含む。加えて、少なくとも1つの画像を生成するために、周囲サンプルに基づいた第1の値と、フラッシュサンプルに基づいた第2の値とを出力するための回路が含まれる。さらに、2つ以上のゲインを利用して第1の値および第2の値のうちの少なくとも1つを増幅するための回路が提供される。
別の実施形態において、電気信号は、画像センサのフォトダイオードから受信されるフォトダイオード電流を含む。別の実施形態において、第1の値は周囲アナログ信号において出力され、第2の値はフラッシュアナログ信号において出力される。
一実施形態において、2つ以上のゲインを利用した第1の値および第2の値のうちの少なくとも1つの増幅は、2つ以上のゲインを利用して周囲アナログ信号およびフラッシュアナログ信号のうちの少なくとも1つを増幅することを含む。加えて、別の実施形態において、第1の増幅周囲アナログ信号および第2の増幅周囲アナログ信号を生成するために、周囲アナログ信号は2つ以上のゲインを利用して増幅される。
別の実施形態において、第1の増幅周囲アナログ信号は第1の光感度を有する第1の周囲デジタル信号に変換され、第2の増幅周囲アナログ信号は第2の光感度を有する第2の周囲デジタル信号に変換される。別の実施形態において、ユーザ入力に応答して、第1の周囲デジタル信号は第2の周囲デジタル信号とブレンドされる。別の実施形態において、
スライディング標識が表示され、ユーザ入力はスライディング標識の操作を含む。
一実施形態において、第1の周囲デジタル信号は第2の周囲デジタル信号とブレンドされて、ブレンドされた周囲光感度を有するブレンドされた周囲デジタル信号をもたらし、少なくとも1つの増幅フラッシュアナログ信号を生成するために、フラッシュアナログ信号は少なくとも1つのゲインを利用して増幅され、少なくとも1つの増幅フラッシュアナログ信号は少なくとも1つのフラッシュデジタル信号に変換され、ユーザ入力に応答して、ブレンドされた周囲デジタル信号は少なくとも1つのフラッシュデジタル信号とブレンドされる。
別の実施形態において、第1の周囲デジタル信号は第2の周囲デジタル信号とブレンドされて、ブレンドされた周囲光感度を有するブレンドされた周囲デジタル信号をもたらし、2つ以上の増幅フラッシュアナログ信号を生成するために、フラッシュアナログ信号は別の2つ以上のゲインを利用して増幅され、2つ以上の増幅フラッシュアナログ信号は2つ以上のフラッシュデジタル信号に変換され、ブレンドされたフラッシュ光感度を有するブレンドされたフラッシュデジタル信号を生成するために、2つ以上のフラッシュデジタル信号はブレンドされ、ブレンドされたフラッシュデジタル信号はブレンドされた周囲デジタル信号とブレンドされる。
別の実施形態において、第1の増幅フラッシュアナログ信号および第2の増幅フラッシュアナログ信号を生成するために、フラッシュアナログ信号は2つ以上のゲインを利用して増幅される。別の実施形態において、第1の増幅フラッシュアナログ信号は第1の光感度を有する第1のフラッシュデジタル信号に変換され、第2の増幅フラッシュアナログ信号は第2の光感度を有する第2のフラッシュデジタル信号に変換される。別の実施形態において、ユーザ入力に応答して、第1のフラッシュデジタル信号は第2のフラッシュデジタル信号とブレンドされる。
さらに、一実施形態において、スライディング標識が表示され、ユーザ入力はスライディング標識の操作を含む。別の実施形態において、第1のフラッシュデジタル信号は第2のフラッシュデジタル信号とブレンドされて、ブレンドされたフラッシュ光感度を有するブレンドされたフラッシュデジタル信号をもたらし、少なくとも1つの増幅周囲アナログ信号を生成するために、周囲アナログ信号は少なくとも1つのゲインを利用して増幅され、少なくとも1つの増幅周囲アナログ信号は少なくとも1つの周囲デジタル信号に変換され、ユーザ入力に応答して、ブレンドされたフラッシュデジタル信号は少なくとも1つの周囲デジタル信号とブレンドされる。
別の実施形態において、第1のフラッシュデジタル信号は第2のフラッシュデジタル信号とブレンドされて、ブレンドされたフラッシュ光感度を有するブレンドされたフラッシュデジタル信号をもたらし、2つ以上の増幅周囲アナログ信号を生成するために、周囲アナログ信号は別の2つ以上のゲインを利用して増幅され、2つ以上の増幅周囲アナログ信号は2つ以上の周囲デジタル信号に変換され、ブレンドされた周囲光感度を有するブレンドされた周囲デジタル信号を生成するために、2つ以上の周囲デジタル信号はブレンドされ、ブレンドされた周囲デジタル信号はブレンドされたフラッシュデジタル信号とブレンドされる。
別の実施形態において、2つ以上のゲインは、別の2つ以上のゲインと同じゲインを含み、ゲインの各々は異なる光感度値と関連付けられている。別の実施形態において、第1の周囲デジタル信号および第2の周囲デジタル信号は、遠隔で結合されるようにネットワーク上で転送され、高ダイナミックレンジ(HDR)画像の少なくとも一部をもたらす。
一実施形態において、非一時的なコンピュータ読取可能媒体上で具現化されるコンピュータプログラム製品は、画像センサのフォトダイオードからの電気信号に基づいた周囲サンプルの記憶を可能にするためのコードと、画像センサのフォトダイオードからの電気信号に基づいたフラッシュサンプルの記憶を可能にするためのコードとを含む。加えて、周囲サンプルに基づいた第1の値とフラッシュサンプルに基づいた第2の値とを利用して少なくとも1つの画像を生成するためのコードが提供され、コンピュータプログラム製品は、第1の値および第2の値のうちの少なくとも1つが2つ以上のゲインを利用して増幅されるように動作可能である。
一実施形態において、方法は、画像センサのフォトダイオードからの電気信号に基づいて周囲サンプルを記憶するステップと、画像センサのフォトダイオードからの電気信号に基づいてフラッシュサンプルを記憶するステップとを含む。加えて、少なくとも1つの画像を生成するために、周囲サンプルに基づいた第1の値と、フラッシュサンプルに基づいた第2の値とが出力される。さらに、2つ以上のゲインを利用して第1の値および第2の値のうちの少なくとも1つが増幅される。
ある実施形態に従う、フラッシュ照明画像および周囲照明画像を同時に捕捉するための例示的なシステムを示す図である。 ある実施形態に従う、フラッシュ照明画像および周囲照明画像を同時に捕捉するために実行される例示的な方法を示す図である。 ある実施形態に従う、フラッシュ照明画像および周囲照明画像を同時に捕捉するように構成されるデジタル写真撮影システムを示す図である。 一実施形態に係る、デジタル写真撮影システム内のプロセッサ複合体を示す図である。 ある実施形態に従うデジタルカメラを示す図である。 別の実施形態に従うワイヤレスモバイルデバイスを示す図である。 一実施形態に係る、画像をサンプリングするように構成されたカメラモジュールを示す図である。 別の実施形態に係る、画像をサンプリングするように構成されたカメラモジュールを示す図である。 ある実施形態に従う、アプリケーションプロセッサと通信しているカメラモジュールを示す図である。 別の実施形態に従うネットワークサービスシステムを示す図である。 他の実施形態に従う、光学シーン情報を写真撮影シーンの電子表現に変換するためのシステムを示す図である。 他の実施形態に従う、光学シーン情報を写真撮影シーンの電子表現に変換するためのシステムを示す図である。 他の実施形態に従う、光学シーン情報を写真撮影シーンの電子表現に変換するためのシステムを示す図である。 他の実施形態に従う、光学シーン情報を写真撮影シーンの電子表現に変換するためのシステムを示す図である。 他の実施形態に従う、光学シーン情報を写真撮影シーンの電子表現に変換するためのシステムを示す図である。 一実施形態に係る感光セルについての回路図を示す図である。 ある実施形態に従う、アナログ画素データをデジタル画素データに変換するためのシステムを示す図である。 別の実施形態に従う、2つ以上のアナログ信号のアナログ画素データをデジタル画素データに変換するためのシステムを示す図である。 他の実施形態に従う、アナログ信号を増幅するためのさまざまなタイミング構成を示す図である。 一実施形態に従う、アナログ画素データをデジタル画素データの複数の信号に並列に変換するためのシステムを示す図である。 ある実施形態に係る、結合画像を生成するためのユーザインターフェイスシステムを示す図である。 一実施形態に係る、結合画像を生成するための別のユーザインターフェイスシステムを示す図である。 ある実施形態に係る、異なるレベルのストロボ露光を有する結合画像を表示するユーザインターフェイス(UI)システムを示す図である。 一実施形態に係る、結合画像を生成するための方法ステップのフロー図である。 別の実施形態に係る、ネットワークを利用して結合画像を生成するためのメッセージシーケンスを示す図である。
詳細な説明
図1は、1つの可能な実施形態に従う、フラッシュ照明画像および周囲照明画像を捕捉するためのシステム100を示す。選択肢として、システム100は本明細書に開示されている図面のうちのいずれかの図面の文脈において実現されてもよい。しかし、当然、システム100は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図1に示されるように、システム100は、フォトダイオード101に基づいて周囲サンプル記憶ノード133(0)に提供される第1の入力102と、フォトダイオード101に基づいてフラッシュサンプル記憶ノード133(1)に提供される第2の入力104とを含む。周囲サンプル記憶ノード133(0)への入力102と、フラッシュサンプル記憶ノード133(1)への入力104とに基づき、周囲サンプルが、フラッシュサンプル記憶ノード133(1)へのフラッシュサンプルの記憶と少なくとも部分的に連続的に、周囲サンプル記憶ノード133(0)に記憶される。一実施形態において、周囲サンプルおよびフラッシュサンプルの同時記憶は、周囲サンプルおよび第2のサンプルを少なくとも部分的に連続的に記憶することを含む。
一実施形態において、入力102が周囲サンプル記憶ノード133(0)に提供された後に、入力104がフラッシュサンプル記憶ノード133(1)に提供されてもよい。そのような実施形態では、周囲サンプルを記憶するプロセスの後に、フラッシュサンプルを記憶するプロセスが起こってもよい。言い換えれば、第1の期間中に周囲サンプルの記憶が起こってもよく、第1の期間の後に始まる第2の期間中にフラッシュサンプルの記憶が起こってもよい。第2の期間は、第1の期間の終結とほぼ同時に始まってもよい。
以下の説明は、画像センサの1つ以上のフォトダイオードを使用して複数の画像を同時に捕捉するための画像センサ装置および方法を記載しているが、任意の光感知電気素子または光センサが使用または実現されてもよい。
一実施形態において、フォトダイオード101は、光子吸収に応答して電位差、電流を生成するかまたはその電気抵抗を変化させる任意の半導体ダイオードを含んでいてもよい。したがって、フォトダイオード101は光強度の検出または測定に使用されてもよい。さらに、サンプル記憶ノード133(0)および133(1)においてそれぞれ受信される入力102および入力104は、フォトダイオード101によって検出または測定される光強度に基づいていてもよい。そのような実施形態では、周囲サンプル記憶ノード133(0)に記憶される周囲サンプルは、フォトダイオード101における光に対する第1
の露光時間に基づいていてもよく、フラッシュサンプル記憶ノード133(1)に記憶される第2のサンプルは、フォトダイオード101における光に対する第2の露光時間に基づいていてもよい。第2の露光時間は、第1の露光時間の終結と並行して、またはほぼ並行して始まってもよい。
一実施形態において、第1の露光時間の完了後、および、フラッシュサンプル記憶ノード133(1)において入力104が受信されている第2の露光時間中に、シーン照明の急激な増加が起こる場合がある。シーン照明の急激な増加は、フラッシュまたはストロボの起動またはその他のほぼ瞬間的な照明に起因する場合がある。第1の露光時間後のシーン照明の急激な増加の結果、第2の露光時間中にフォトダイオード101によって検出または測定される光強度が、第1の露光時間中にフォトダイオード101によって検出または測定される光強度よりも大きくなる場合がある。したがって、第2の露光時間は、予期される光強度に基づいて構成または選択され得る。
一実施形態において、第1の入力102は、周囲サンプル記憶ノード133(0)において受信されるフォトダイオード101からの電気信号を含んでいてもよく、第2の入力104は、フラッシュサンプル記憶ノード133(1)において受信されるフォトダイオード101からの電気信号を含んでいてもよい。たとえば、第1の入力102は、周囲サンプル記憶ノード133(0)において受信される電流を含んでいてもよく、第2の入力104は、フラッシュサンプル記憶ノード133(1)において受信される電流を含んでいてもよい。別の実施形態において、第1の入力102および第2の入力104は、少なくとも部分的に、共有の電気配線上で送信されてもよい。他の実施形態において、第1の入力102および第2の入力104は、異なる電気配線上で送信されてもよい。いくつかの実施形態において、入力102は第1の電流を含んでいてもよく、入力104は、第1の電流とは異なる第2の電流を含んでいてもよい。第1の電流および第2の電流は各々、フォトダイオード101によって測定または検出される入射光強度の関数であってもよい。さらに別の実施形態において、第1の入力102は、周囲サンプル記憶ノード133(0)が周囲サンプルを記憶するように動作し得る元となる任意の入力を含んでいてもよく、第2の入力102は、フラッシュサンプル記憶ノード133(1)がフラッシュサンプルを記憶するように動作し得る元となる任意の入力を含んでいてもよい。
一実施形態において、第1の入力102および第2の入力104は、フォトダイオード101を含む画像センサ上に合焦された光学画像の一部の電子表現を含んでいてもよい。そのような実施形態では、光学画像はレンズによって画像センサ上に合焦されてもよい。光学画像の電子表現は空間色強度情報を含んでいてもよく、当該情報は異なる色強度サンプル(たとえば赤色、緑色および青色光等)を含んでいてもよい。他の実施形態では、空間色強度情報は白色光についてのサンプルをさらに含んでいてもよい。一実施形態において、光学画像は写真撮影シーンの光学画像であってもよい。いくつかの実施形態において、フォトダイオード101は、画像センサのフォトダイオードのアレイのうちの単一のフォトダイオードであってもよい。そのような画像センサは、相補型金属酸化膜半導体(CMOS)画像センサ、または電荷結合素子(CCD)画像センサ、またはその他の技術的に実行可能な形態の画像センサを含んでいてもよい。他の実施形態において、フォトダイオード101は2つ以上のフォトダイオードを含んでいてもよい。
一実施形態において、各サンプル記憶ノード133は、サンプルを記憶するための電荷記憶デバイスを含み、当該記憶されたサンプルは、フォトダイオード101において検出される光強度の関数であってもよい。たとえば、各サンプル記憶ノード133は、サンプルとして電荷を記憶するためのコンデンサを含んでいてもよい。そのような実施形態では、各コンデンサは、露光時間中またはサンプル時間中に蓄積された露光に対応する電荷を記憶する。たとえば、関連付けられているフォトダイオードから各コンデンサにおいて受
信した電流によって、予め充電されているコンデンサが、フォトダイオードにおいて検出された入射光強度に比例する速度で放電し得る。その後、各コンデンサの残留電荷が、コンデンサから値として出力され得る。たとえば、各コンデンサの残留電荷は、コンデンサ上の残留電荷の関数であるアナログ値として出力され得る。
この目的のために、コンデンサから受信されたアナログ値は、関連付けられているフォトダイオードにおいて検出された光の蓄積された強度の関数であってもよい。いくつかの実施形態において、各サンプル記憶ノード133は、フォトダイオードに基づいた入力を受信するために動作可能である回路を含んでいてもよい。たとえば、そのような回路は1つ以上のトランジスタを含んでいてもよい。当該1つ以上のトランジスタは、1つ以上の制御装置またはコンポーネントから受信される、サンプル信号、リセット信号、および行選択信号といったさまざまな制御信号にサンプル記憶ノード133を応答させるために構成されてもよい。他の実施形態において、各サンプル記憶ノード133は、フォトダイオード101において検出される光強度の関数である任意のサンプルまたは値を記憶するための任意のデバイスを含んでいてもよい。
さらに、図1に示されるように、周囲サンプル記憶ノード133(0)は第1の値106を出力し、フラッシュサンプル記憶ノード133(1)は第2の値108を出力する。一実施形態において、周囲サンプル記憶ノード133(0)は、周囲サンプル記憶ノード133(0)において記憶された周囲サンプルに基づいて第1の値106を出力し、フラッシュサンプル記憶ノード133(1)は、フラッシュサンプル記憶ノード133(1)において記憶されたフラッシュサンプルに基づいて第2の値108を出力する。周囲サンプルは、フォトダイオード101が周囲光を測定または検出する露光時間中にフォトダイオード101からの入力102に起因して周囲サンプル記憶ノード133(0)において記憶された任意の値を含んでいてもよい。フラッシュサンプルは、フォトダイオード101がフラッシュまたはストロボ照明を測定または検出する露光時間中にフォトダイオード101からの入力104に起因してフラッシュ記憶ノード133(1)において記憶された任意の値を含んでいてもよい。
いくつかの実施形態において、周囲サンプル記憶ノード133(0)は、周囲サンプル記憶ノード133(0)において記憶される電荷に基づいて第1の値106を出力し、フラッシュサンプル記憶ノード133(1)は、フラッシュサンプル記憶ノード133(1)において記憶される第2の電荷に基づいて第2の値108を出力する。一方の値が他方の値に先立って出力されるように第1の値106は第2の値108に対して連続的に出力されてもよく、または、第1の値106は第2の値108の出力と並列に出力されてもよい。さまざまな実施形態において、第1の値106は第1のアナログ値を含んでいてもよく、第2の値108は第2のアナログ値を含んでいてもよい。これらの値の各々は、フォトダイオードアレイの各フォトダイオードと関連付けられている少なくとも1つのアナログ値を含むアナログ信号への包含のために出力され得る電流を含んでいてもよい。そのような実施形態では、第1のアナログ値106は周囲アナログ信号に含まれてもよく、第2のアナログ値108は、周囲アナログ信号とは異なるフラッシュアナログ信号に含まれてもよい。言い換えれば、周囲アナログ信号はフォトダイオードアレイの各フォトダイオードと関連付けられているアナログ値を含むように生成されてもよく、フラッシュアナログ信号も、フォトダイオードアレイのうちのフォトダイオードの各々と関連付けられている異なるアナログ値を含むように生成されてもよい。そのような実施形態では、周囲アナログ信号のアナログ値は、関連付けられているフォトダイオードが周囲光にさらされた第1の露光時間中にサンプリングされ、フラッシュアナログ信号のアナログ値は、関連付けられているフォトダイオードがストロボまたはフラッシュ照明にさらされた第2の露光時間中にサンプリングされるであろう。
この目的のために、単一のフォトダイオードアレイが、複数のアナログ信号を生成するために利用されてもよい。複数のアナログ信号は、並行してまたは並列に生成されてもよい。さらに、複数のアナログ信号は各々、2つ以上のゲインを利用して増幅されてもよく、増幅された各アナログ信号は、2つ以上のデジタル信号が生成され得るように1つ以上のデジタル信号に変換されてもよく、各デジタル信号はデジタル画像を含んでいてもよい。したがって、周囲サンプルおよびフラッシュサンプルの同時記憶により、単一のフォトダイオードアレイが、複数のデジタル信号またはデジタル画像を並行して生成するために利用されてもよく、デジタル信号の少なくとも1つは周囲露光写真撮影シーンと関連付けられ、デジタル信号の少なくとも1つは同じ写真撮影シーンのフラッシュまたはストロボ照明露光と関連付けられている。そのような実施形態では、周囲照明で捕捉された単一の写真撮影シーンのために、異なる露光特性を有する複数のデジタル信号が実質的に同時に生成されてもよい。そのようなデジタル信号またはデジタル画像の集合は、周囲画像スタックと称され得る。また、ストロボまたはフラッシュ照明で捕捉された当該単一の写真撮影シーンのために、異なる露光特性を有する複数のデジタル信号が実質的に同時に生成され得る。そのようなデジタル信号またはデジタル画像の集合は、フラッシュ画像スタックと称され得る。
特定の実施形態において、アナログ信号は、複数の別個のアナログ信号を含み、信号増幅器は、対応する1組の別個の信号増幅器回路を含む。たとえば、画像センサの画素の行内の各画素は、アナログ信号内に関連付けられる別個のアナログ信号を有していてもよく、各別個のアナログ信号は、対応する別個の信号増幅器回路を有していてもよい。さらに、増幅された2つ以上のアナログ信号は各々、画像センサの少なくとも1つの画素からの共通のアナログ値を表わす、ゲイン調整されたアナログ画素データを含んでいてもよい。たとえば、画像センサの所与の画素について、アナログ信号において所与のアナログ値が出力されてもよく、次いで、信号増幅動作後、第1の増幅アナログ信号における第1の増幅値と、第2の増幅アナログ信号における第2の増幅値とによって、当該所与のアナログ値が表わされる。アナログ画素データは、1つ以上の所与の画素と関連付けられているアナログ信号値であってもよい。
さまざまな実施形態において、周囲画像スタックおよびフラッシュ画像スタックのデジタル画像は、どの個々の画像よりも大きいダイナミックレンジを有する1つ以上の新たなブレンド画像を生成するために結合またはブレンドされてもよい。また、周囲画像スタックおよびフラッシュ画像スタックのデジタル画像は、1つ以上の新たなブレンド画像におけるフラッシュ寄与を制御するために結合またはブレンドされてもよい。
図2は、一実施形態に従う、フラッシュ照明画像および周囲照明画像を捕捉するための方法200を示す。選択肢として、方法200は本明細書に開示されている図面のうちのいずれかの図面の文脈において実行されてもよい。しかし、当然、方法200は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
動作202に示されるように、周囲サンプルが、画像センサのフォトダイオードからの電気信号に基づいて記憶される。さらに、周囲サンプルの記憶と少なくとも部分的に連続的に、動作204において、フラッシュサンプルが、画像センサのフォトダイオードからの電気信号に基づいて記憶される。上述したように、上記画像センサのフォトダイオードは、光子吸収に応答して電位差を生成するかまたはその電気抵抗を変化させる任意の半導体ダイオードを含んでいてもよい。したがって、フォトダイオードは、光強度を検出または測定するために使用されてもよく、フォトダイオードからの電気信号は、光強度の関数として変化するフォトダイオード電流を含んでいてもよい。
いくつかの実施形態において、各サンプルは、フォトダイオードを含む画像センサ上に合焦された光学画像の一部の電子表現を含んでいてもよい。そのような実施形態では、光学画像はレンズによって画像センサ上に合焦されてもよい。光学画像の電子表現は空間色強度情報を含んでいてもよく、当該情報は異なる色強度サンプル(たとえば赤色、緑色および青色光等)を含んでいてもよい。他の実施形態では、空間色強度情報は白色光についてのサンプルをさらに含んでいてもよい。一実施形態において、光学画像は写真撮影シーンの光学画像であってもよい。フォトダイオードは、画像センサのフォトダイオードのアレイのうちの単一のフォトダイオードであってもよい。そのような画像センサは、相補型金属酸化膜半導体(CMOS)画像センサ、または電荷結合素子(CCD)画像センサ、またはその他の技術的に実行可能な形態の画像センサを含んでいてもよい。
一実施形態の文脈において、サンプルの各々は、エネルギーを蓄えることによって記憶されてもよい。たとえば、サンプルの各々は、コンデンサ上に記憶された電荷を含んでいてもよい。そのような実施形態では、周囲サンプルは、第1のコンデンサに記憶される第1の電荷を含んでいてもよく、フラッシュサンプルは、第2のコンデンサに記憶される第2の電荷を含んでいてもよい。一実施形態において、周囲サンプルはフラッシュサンプルとは異なってもよい。たとえば、周囲サンプルは、第1のコンデンサに記憶される第1の電荷を含んでいてもよく、フラッシュサンプルは、第1の電荷とは異なる、第2のコンデンサに記憶される第2の電荷を含んでいてもよい。
一実施形態において、周囲サンプルは、異なるサンプル時間にサンプリングされることに起因して、フラッシュサンプルとは異なっていてもよい。たとえば、周囲サンプルは、第1のサンプル時間中に第1のコンデンサを充電または放電することにより記憶されてもよく、フラッシュサンプルは、第2のサンプル時間中に第2のコンデンサを充電または放電することにより記憶されてもよい。第1のコンデンサおよび第2のコンデンサは実質的に同一であってもよく、所与のフォトダイオード電流について実質的に同一の速度で充電または放電されてもよい。第2のサンプル時間は、第1のコンデンサの充電または放電の完了後に第2のコンデンサが充電または放電され得るように、第1のサンプル時間の終結と同時またはほぼ同時であってもよい。
別の実施形態において、周囲サンプルは、異なる記憶特性に少なくとも部分的に起因して、フラッシュサンプルとは異なっていてもよい。たとえば、周囲サンプルは、ある期間の間、第1のコンデンサを充電または放電することにより記憶されてもよく、フラッシュサンプルは、同じ期間の間、第2のコンデンサを充電または放電することにより記憶されてもよい。第1のコンデンサおよび第2のコンデンサは異なる記憶特性を有していてもよく、および/または、異なる速度で充電または放電されてもよい。より具体的には、第1のコンデンサは、第2のコンデンサとは異なる静電容量を有していてもよい。
別の実施形態において、周囲サンプルは、第2の露光時間中に起こり、第1の露光時間の周囲照明とは異なる照明特性を提供するフラッシュまたはストロボ照明に起因して、フラッシュサンプルとは異なっていてもよい。たとえば、周囲サンプルは、周囲照明の期間の間、第1のコンデンサを充電または放電することにより記憶されてもよく、フラッシュサンプルは、フラッシュ照明の期間の間、第2のコンデンサを充電または放電することにより記憶されてもよい。第1の露光時間と第2の露光時間との照明の違いにより、第2のコンデンサは、第2の露光時間のフラッシュ照明と関連付けられている増加した光強度によって第1のコンデンサよりも速く充電または放電され得る。
さらに、動作206に示されるように、周囲サンプルおよびフラッシュサンプルの記憶の後、少なくとも1つの画像を生成するために、周囲サンプルに基づいて第1の値が出力され、フラッシュサンプルに基づいて第2の値が出力される。一実施形態の文脈において
、第1の値および第2の値は、連続して送信または出力される。たとえば、第1の値は第2の値に先立って送信されてもよい。別の実施形態において、第1の値および第2の値は並列に送信されてもよい。
一実施形態において、各出力値はアナログ値を含んでいてもよい。たとえば、各出力値は、周囲サンプルおよびフラッシュサンプルといった関連付けられる記憶されたサンプルを表わす電流を含んでいてもよい。より具体的には、第1の値は、記憶された周囲サンプルを表わす電流値を含んでいてもよく、第2の値は、記憶されたフラッシュサンプルを表わす電流値を含んでいてもよい。一実施形態において、第1の値は、周囲アナログ信号への包含のために出力され、第2の値は、周囲アナログ信号とは異なるフラッシュアナログ信号への包含のために出力される。さらに、各値は、それが他の記憶されたサンプルに基づいて出力された他の値と結合されるような態様で出力されてもよく、当該他の記憶されたサンプルは、画像センサの他のフォトダイオードから受信された他の電気信号に応答して記憶される。たとえば、第1の値は、周囲アナログ信号において、他の周囲サンプルに基づいて出力された値と結合されてもよく、当該他の周囲サンプルは、周囲サンプルを記憶するために利用された電気信号を送信したフォトダイオードに隣接するフォトダイオードから受信された電気信号に基づいて記憶されたものである。同様に、第2の値は、フラッシュアナログ信号において、他のフラッシュサンプルに基づいて出力される値と結合されてもよく、当該他のフラッシュサンプルは、フラッシュサンプルを記憶するために利用された電気信号を送信したフォトダイオードに隣接する同じフォトダイオードから受信された電気信号に基づいて記憶されたものである。
最後に、動作208において、第1の値および第2の値のうちの少なくとも1つが、2つ以上のゲインを利用して増幅される。一実施形態において、各出力値がアナログ値を含む場合、第1の値および第2の値のうちの少なくとも1つを増幅することにより、少なくとも2つの増幅アナログ値が得られ得る。別の実施形態において、第1の値が周囲アナログ信号への包含のために出力されるとともに第2の値が周囲アナログ信号とは異なるフラッシュアナログ信号への包含のために出力される場合、周囲アナログ信号またはフラッシュアナログ信号のうちの1つが、2つ以上のゲインを各々利用して増幅されてもよい。たとえば、第1の値を含む周囲アナログ信号は、第1の値が第1のゲインおよび第2のゲインで増幅されるように、第1のゲインおよび第2のゲインで増幅されてもよい。周囲アナログ信号を第1のゲインで増幅することにより、第1の増幅周囲アナログ信号が得られてもよく、周囲アナログ信号を第2のゲインで増幅することにより、第2の増幅周囲アナログ信号が得られてもよい。当然、2つ以上のゲインを使用して3つ以上のアナログ信号が増幅されてもよい。一実施形態において、各増幅アナログ信号は、デジタル画像を含むデジタル信号に変換されてもよい。
この目的のために、第1の露光時間またはサンプル時間において捕捉され、周囲光で照明された1組の周囲サンプルに基づいた周囲アナログ信号と、第2の露光時間またはサンプル時間において捕捉され、フラッシュまたはストロボ照明で照明された1組のフラッシュサンプルに基づいたフラッシュアナログ信号とを生成するために、フォトダイオードのアレイが利用されてもよい。1組の周囲サンプルおよび1組のフラッシュサンプルは、同じ写真撮影シーンの2つの異なる組のサンプルであってもよい。さらに、各アナログ信号は、画像センサの各画素の各フォトダイオードに基づいて生成されるアナログ値を含んでいてもよい。各アナログ値は、当該アナログ値と関連付けられているフォトダイオードにおいて測定される光強度を表わしていてもよい。したがって、アナログ信号は、各々が連続アナログ値によって表わされる1組の空間的に離散した強度サンプルであってもよく、アナログ画素データは、1つ以上の所与の画素と関連付けられているアナログ信号値であってもよい。さらに、各アナログ信号には、増幅といったその後の処理が行なわれてもよい。当該処理は、デジタル画像を各々構成し得るデジタル画素データを各々含む1つ以上
のデジタル信号へのアナログ信号の変換を促進してもよい。
本明細書に開示されている実施形態は、カメラモジュールが、従来の技術よりも低い(たとえばゼロの、またはほぼゼロの、等)サンプル間時間(たとえばフレーム間、等)で画像スタックを構成する画像をサンプリングすることを有利に可能にしてもよい。特定の実施形態において、アナログ画像スタックおよびフラッシュ画像スタックを構成する画像は効果的にサンプリングされ、または同時にもしくはほぼ同時に捕捉され、これによってサンプル間時間はゼロに減少し得る。他の実施形態では、カメラモジュールは、ストロボユニットと協調して画像をサンプリングして、ストロボ照明を用いずにサンプリングされた画像とストロボ照明を用いてサンプリングされた画像との間のサンプル間時間を減少させ得る。
上述の方法がユーザの希望に従って実行されてもされなくてもよいさまざまな随意のアーキテクチャおよび使用に関して、より例示的な情報を以下に記載する。以下の情報は例示目的で記載されており、いかなる意味でも限定的であると解釈されるべきでないことに強く留意すべきである。以下の特徴はいずれも、説明される他の特徴を除外してまたは除外せずに随意に組込まれ得る。
図3Aは、一実施形態に従うデジタル写真撮影システム300を示す。選択肢として、デジタル写真撮影システム300は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、デジタル写真撮影システム300は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
示されるように、デジタル写真撮影システム300は、配線334を介してカメラモジュール330に結合されたプロセッサ複合体310を含んでいてもよい。一実施形態において、プロセッサ複合体310はストロボユニット336に結合されている。デジタル写真撮影システム300はさらに、表示ユニット312、1組の入出力デバイス314、不揮発性メモリ316、揮発性メモリ318、ワイヤレスユニット340およびセンサデバイス342を含み得るがこれらに限定されず、これらの各々はプロセッサ複合体310に結合されている。一実施形態において、電力管理サブシステム320が、デジタル写真撮影システム300内の電気負荷要素の各々に適切な電源電圧を生成するように構成される。電池322が、電気エネルギを電力管理サブシステム320に供給するように構成されてもよい。電池322は、一次または二次電池技術を含む任意の技術的に実行可能なエネルギ貯蔵システムを実現し得る。当然、他の実施形態では、より多いもしくは少ない特徴、ユニット、デバイス、センサ、またはサブシステムがシステムに含まれていてもよい。
一実施形態において、ストロボユニット336は、デジタル写真撮影システム300に統合され、デジタル写真撮影システム300が実行する画像サンプルイベント時にストロボ照明350を提供するように構成されてもよい。別の実施形態において、ストロボユニット336は、デジタル写真撮影システム300から独立したデバイスとして実現され、デジタル写真撮影システム300が実行する画像サンプルイベント時にストロボ照明350を提供するように構成されてもよい。ストロボユニット336は、1つ以上のLED素子、ガス放電照明器(たとえばキセノンストロボデバイス、キセノンフラッシュランプ等)、またはその他の技術的に実行可能な照明デバイスを含んでいてもよい。特定の実施形態において、2つ以上のストロボユニットが、画像のサンプリングと共にストロボ照明を同期して生成するように構成される。一実施形態において、ストロボユニット336は、ストロボ制御信号338を通して、ストロボ照明350を発するようにまたはストロボ照明350を発しないように制御される。ストロボ制御信号338は、任意の技術的に実行可能な信号伝送プロトコルを用いて実現されてもよい。ストロボ制御信号338は、スト
ロボユニット336に指定強度および/または色のストロボ照明350を生成するように命じるためのストロボパラメータ(たとえばストロボ強度、ストロボ色、ストロボ時間等)を指示してもよい。ストロボ制御信号338は、プロセッサ複合体310、カメラモジュール330によって、またはその他の技術的に実行可能なそれらの組合せによって生成されてもよい。一実施形態において、ストロボ制御信号338は、プロセッサ複合体310内のカメラインターフェイスユニットによって生成され、配線334を介してストロボユニット336およびカメラモジュール330の両方に送信される。別の実施形態において、ストロボ制御信号338は、カメラモジュール330によって生成され、配線334を介してストロボユニット336に送信される。
写真撮影シーン内のオブジェクトから反射したストロボ照明350の少なくとも一部を含み得る光学シーン情報352が、カメラモジュール330内の画像センサ332上に光学画像として合焦される。画像センサ332は光学画像の電子表現を生成する。電子表現は空間色強度情報を含み、当該情報は異なる色強度サンプル(たとえば赤色、緑色および青色光等)を含んでいてもよい。他の実施形態では、空間色強度情報は白色光についてのサンプルをさらに含んでいてもよい。電子表現は、任意の技術的に実行可能な信号伝送プロトコルを実現し得る配線334を介してプロセッサ複合体310に送信される。
一実施形態において、入出力デバイス314は、容量性タッチ入力表面、抵抗性タブレット入力表面、1つ以上のボタン、1つ以上のノブ、発光素子、光検出素子、音響放射素子、音響検出素子、またはユーザ入力を受信して当該入力を電気信号に変換する、もしくは電気信号を物理的信号に変換するためのその他の技術的に実行可能な素子を含み得るがこれらに限定されない。一実施形態において、入出力デバイス314は、表示ユニット312に結合された容量性タッチ入力表面を含む。タッチエントリ表示システムが、表示ユニット312、およびこれもプロセッサ複合体310に結合された容量性タッチ入力表面を含んでいてもよい。
また、他の実施形態では、不揮発性(NV)メモリ316は、電力が遮断されるとデータを記憶するように構成される。一実施形態において、NVメモリ316は1つ以上のフラッシュメモリデバイス(たとえばROM、PCM、FeRAM、FRAM(登録商標)、PRAM、MRAM、NRAM等)を含む。NVメモリ316は非一時的なコンピュータ読取可能媒体を含み、当該媒体は、プロセッサ複合体310内の1つ以上の処理装置によって実行されるプログラミング命令を含むように構成されてもよい。プログラミング命令は、オペレーティングシステム(OS)、UIソフトウェアモジュール、画像処理および記憶ソフトウェアモジュール、プロセッサ複合体310に接続された1つ以上の入出力デバイス314、カメラモジュール330を通して画像スタックをサンプリングするための1つ以上のソフトウェアモジュール、画像スタックまたは画像スタックから生成された1つ以上の合成画像を表示ユニット312を通して提示するための1つ以上のソフトウェアモジュールを実現し得るがこれらに限定されない。一例として、一実施形態において、プログラミング命令はさらに、画像スタック内の画像同士もしくは画像の一部同士を併合し、画像スタック内の各画像の少なくとも一部同士を整列させるための、またはそれらの組合せのための1つ以上のソフトウェアモジュールを実現し得る。別の実施形態において、プロセッサ複合体310はプログラミング命令を実行するように構成されてもよく、当該命令は、高ダイナミックレンジ(HDR)画像を作成するように動作可能な1つ以上のソフトウェアモジュールを実現し得る。
さらに、一実施形態において、NVメモリ316を含む1つ以上のメモリデバイスが、ユーザによってインストールまたは除去されるように構成されたモジュールとしてパッケージ化されてもよい。一実施形態において、揮発性メモリ318はダイナミックランダムアクセスメモリ(DRAM)を含み、当該ダイナミックランダムアクセスメモリは、デジ
タル写真撮影システム300の通常動作中にアクセスされる、プログラミング命令、画像スタックと関連付けられているデータなどの画像データなどを一時的に記憶するように構成される。当然、揮発性メモリは、任意の態様で、プロセッサ複合体310に取付けられたその他の入出力デバイス314またはセンサデバイス342と関連して使用されてもよい。
一実施形態において、センサデバイス342は、動作および/もしくは方向を検出する加速度計、動作および/もしくは方向を検出する電子ジャイロスコープ、方向を検出する磁束検出器、地理的位置を検出する全地球測位システム(GPS)モジュール、の1つ以上、またはそれらの任意の組合せを含み得るがこれらに限定されない。当然、動作検出センサ、近接センサ、RGB光センサ、ジェスチャセンサ、3D入力画像センサ、圧力センサ、および屋内位置センサを含むがこれらに限定されない他のセンサがセンサデバイスとして統合されてもよい。一実施形態において、当該センサデバイスは入出力デバイス314の一例であり得る。
ワイヤレスユニット340は、デジタルデータを送受信するように構成された1つ以上のデジタルラジオを含んでいてもよい。特に、ワイヤレスユニット340は無線規格(たとえばWiFi、Bluetooth(登録商標)、NFC等)を実現し得、データ通信のためのデジタルセルラー電話規格(たとえばCDMA、3G、4G、LTE、LTEアドバンスト等)を実現し得る。当然、任意の無線規格またはデジタルセルラー電話規格が使用されてもよい。
一実施形態において、デジタル写真撮影システム300は、1つ以上のデジタル写真をワイヤレスユニット340を介してネットワークベースの(オンライン)または「クラウドベースの」写真メディアサービスに送信するように構成される。1つ以上のデジタル写真は、NVメモリ316もしくは揮発性メモリ318のいずれか一方、またはプロセッサ複合体310と関連付けられているその他のメモリデバイスの内部に存在し得る。一実施形態において、ユーザは、オンライン写真メディアサービスにアクセスするための、かつ、1つ以上のデジタル写真を送信してオンライン写真メディアサービスに保存する、オンライン写真メディアサービスから取出す、およびオンライン写真メディアサービスによって提示するためのクレデンシャルを所有していてもよい。クレデンシャルは、デジタル写真を送信する前にデジタル写真撮影システム300内で記憶または生成されてもよい。オンライン写真メディアサービスは、ソーシャルネットワーキングサービス、写真共有サービス、またはデジタル写真の保存、デジタル写真の処理、デジタル写真の送信、デジタル写真の共有、もしくはそれらの任意の組合せを提供するその他のネットワークベースのサービスを含んでいてもよい。特定の実施形態において、1つ以上のデジタル写真が、オンライン写真メディアサービスと関連付けられているサーバに送信される画像データ(たとえば画像スタック、HDR画像スタック、画像パッケージ等)に基づいてオンライン写真メディアサービスによって生成される。そのような実施形態では、ユーザはデジタル写真撮影システム300からの1つ以上のソース画像を、オンライン写真メディアサービスによって処理するためにアップロードしてもよい。
一実施形態において、デジタル写真撮影システム300はカメラモジュール330の少なくとも1つのインスタンスを含む。別の実施形態において、デジタル写真撮影システム300は複数のカメラモジュール330を含む。そのような実施形態はさらに、複数のカメラモジュール330によって複数の視野としてサンプリングされた写真撮影シーンを照明するように構成された少なくとも1つのストロボユニット336を含んでいてもよい。複数のカメラモジュール330は、広角視野(たとえばカメラ間の45度のスイープよりも大きい)をサンプリングしてパノラマ写真を生成するように構成されてもよい。一実施形態において、複数のカメラモジュール330は、2つ以上の狭角視野(たとえばカメラ
間の45度のスイープよりも小さい)をサンプリングしてステレオ写真を生成するように構成されてもよい。他の実施形態では、複数のカメラモジュール330は、表示ユニット312もしくはその他の表示デバイス上に示されるような3D画像を生成するように、または他の態様で遠近感(たとえばz成分等)を表示するように構成されてもよい。
一実施形態において、表示ユニット312は、画素の二次元アレイを表示して表示用の画像を形成するように構成されてもよい。表示ユニット312は、液晶(LCD)ディスプレイ、発光ダイオード(LED)ディスプレイ、有機LEDディスプレイ、またはその他の技術的に実行可能な種類のディスプレイを含んでいてもよい。特定の実施形態において、表示ユニット312は、単一のHDR画像内で、または多重露光もしくはHDR画像スタックを構成する1組の2つ以上の画像にわたって、などで、写真撮影シーンからサンプリングされた強度値の全範囲よりも狭いダイナミックレンジの画像強度値を表示することが可能であり得る。一実施形態において、画像スタックを構成する画像は、任意の技術的に実行可能なHDRブレンド技術に従って併合されて、表示ユニット312のダイナミックレンジ制約内で表示用の合成画像を生成してもよい。一実施形態において、制限されるダイナミックレンジは、対応する色強度の8ビット/カラーチャネルバイナリ表現を指定してもよい。他の実施形態では、制限されるダイナミックレンジは、8ビットよりも多いビット(たとえば10ビット、12ビット、または14ビット等)/カラーチャネルバイナリ表現を指定してもよい。
図3Bは、一実施形態に従う、図3Aのデジタル写真撮影システム300内のプロセッサ複合体310を示す。選択肢として、プロセッサ複合体310は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、プロセッサ複合体310は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
示されるように、プロセッサ複合体310は、プロセッササブシステム360を含み、メモリサブシステム362を含んでいてもよい。一実施形態において、プロセッサ複合体310は、プロセッササブシステム360を実現するシステムオンチップ(system on a chip:SoC)デバイスを含んでいてもよく、メモリサブシステム362は、プロセッササブシステム360に結合された1つ以上のDRAMデバイスを含む。別の実施形態において、プロセッサ複合体310は、SoCデバイスと、メモリサブシステム362を構成する1つ以上のDRAMデバイスとをカプセル化するマルチチップモジュール(multi-chip module:MCM)を含んでいてもよい。
プロセッササブシステム360は、1つ以上の中央処理装置(CPU)コア370、メモリインターフェイス380、入出力インターフェイスユニット384、および表示インターフェイスユニット382を含み得るがこれらに限定されず、これらの各々が配線374に結合されている。1つ以上のCPUコア370は、メモリサブシステム362、揮発性メモリ318、NVメモリ316、またはそれらの任意の組合せの内部に存在している命令を実行するように構成されてもよい。1つ以上のCPUコア370の各々は、配線374およびメモリインターフェイス380を通してデータを取出して記憶するように構成されてもよい。一実施形態において、1つ以上のCPUコア370の各々は、データキャッシュおよび命令キャッシュを含んでいてもよい。また、CPUコア370の2つ以上が、データキャッシュ、命令キャッシュ、またはそれらの任意の組合せを共有してもよい。一実施形態において、各CPUコア370にプライベートキャッシュ層および共有キャッシュ層を提供するようにキャッシュ階層が実現される。
いくつかの実施形態において、プロセッササブシステム360は、1つ以上のグラフィック処理装置(GPU)コア372を含んでいてもよい。各GPUコア372は、たとえ
ばグラフィック加速機能を実現するようにプログラミングされ得る複数のマルチスレッド実行ユニットを含んでいてもよい。さまざまな実施形態において、GPUコア372は、周知の規格(たとえばOpenGL(商標)、WebGL(商標)、OpenCL(商標)、CUDA(商標)等)、および/またはその他のプログラム可能なレンダリンググラフィック規格に従ってマルチスレッドプログラムを実行するように構成されてもよい。特定の実施形態において、少なくとも1つのGPUコア372が、周知のHarris検出器または周知のHessian−Laplace検出器などの動作推定機能の少なくとも一部を実現する。そのような動作推定機能を使用して、画像スタック内の画像同士または画像の一部同士を少なくとも部分的に整列させてもよい。たとえば、一実施形態において、画像スタックに基づいてHDR画像がコンパイルされてもよく、HDR画像をコンパイルする前に2つ以上の画像がまず整列される。
示されるように、配線374は、メモリインターフェイス380、表示インターフェイスユニット382、入出力インターフェイスユニット384、CPUコア370、およびGPUコア372の間でデータを伝送するように構成される。さまざまな実施形態において、配線374は、1本以上のバス、1つ以上のリング、クロスバー、メッシュ、またはその他の技術的に実行可能なデータ伝送構造もしくは技術を実現し得る。メモリインターフェイス380は、メモリサブシステム362を配線374に結合するように構成される。メモリインターフェイス380はさらに、NVメモリ316、揮発性メモリ318、またはそれらの任意の組合せを配線374に結合してもよい。表示インターフェイスユニット382は、表示ユニット312を配線374に結合するように構成されてもよい。表示インターフェイスユニット382は特定のフレームバッファ機能(たとえばフレームリフレッシュ等)を実現し得る。または、別の実施形態において、表示ユニット312は特定のフレームバッファ機能(たとえばフレームリフレッシュ等)を実現し得る。入出力インターフェイスユニット384は、さまざまな入出力デバイスを配線374に結合するように構成されてもよい。
特定の実施形態において、カメラモジュール330は、画像スタックと関連付けられている各画像をサンプリングするための露光パラメータを記憶するように構成される。たとえば、一実施形態において、カメラモジュール330は、写真撮影シーンをサンプリングするように命じられると、記憶された露光パラメータに従って画像スタックを構成する1組の画像をサンプリングしてもよい。カメラモジュール330に画像スタックをサンプリングするように命じる前に、プロセッサ複合体310内で実行されるプログラミング命令を含むソフトウェアモジュールが露光パラメータを生成して記憶してもよい。他の実施形態では、カメラモジュール330を使用して画像または画像スタックが計測されてもよく、カメラモジュール330に画像を捕捉するように命じる前に、プロセッサ複合体310内で実行されるプログラミング命令を含むソフトウェアモジュールは計測パラメータを生成して記憶してもよい。当然、カメラモジュール330はプロセッサ複合体310と組合されて任意の態様で使用されてもよい。
一実施形態において、画像スタックを構成する画像と関連付けられている露光パラメータは、1つ以上の画像についての露光パラメータを含む露光パラメータデータ構造内に記憶されてもよい。別の実施形態において、プロセッサ複合体310内のカメラインターフェイスユニット(図3Bには図示せず)が、露光パラメータデータ構造から露光パラメータを読出し、写真撮影シーンのサンプリングに備えて、関連付けられている露光パラメータをカメラモジュール330に送信するように構成されてもよい。カメラモジュール330が露光パラメータに従って構成された後、カメラインターフェイスはカメラモジュール330に写真撮影シーンをサンプリングするように命じてもよく、カメラモジュール330は次いで、対応する画像スタックを生成してもよい。露光パラメータデータ構造は、カメラインターフェイスユニット、プロセッサ複合体310内のメモリ回路、揮発性メモリ
318、NVメモリ316、カメラモジュール330の内部に、またはその他の技術的に実行可能なメモリ回路の内部に記憶されてもよい。さらに、別の実施形態において、プロセッサ複合体310内で実行されるソフトウェアモジュールが露光パラメータデータ構造を生成して記憶してもよい。
図3Cは、一実施形態に従うデジタルカメラ302を示す。選択肢として、デジタルカメラ302は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、デジタルカメラ302は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、デジタルカメラ302は、図3Aのデジタル写真撮影システム300などのデジタル写真撮影システムを含むように構成されてもよい。示されるように、デジタルカメラ302はカメラモジュール330を含み、当該カメラモジュールは、写真撮影シーンを表わす光学シーン情報を画像センサ上に合焦するように構成された光学素子を含んでいてもよく、当該画像センサは、光学シーン情報を写真撮影シーンの電子表現に変換するように構成されてもよい。
また、デジタルカメラ302はストロボユニット336を含んでいてもよく、写真撮影サンプルイベントをトリガするためのシャッターリリースボタン315を含んでいてもよく、これによってデジタルカメラ302は電子表現を構成する1つ以上の画像をサンプリングする。他の実施形態では、その他の技術的に実行可能なシャッターリリース機構が写真撮影サンプルイベントをトリガしてもよい(たとえばタイマトリガまたは遠隔制御トリガ等)。
図3Dは、一実施形態に従うワイヤレスモバイルデバイス376を示す。選択肢として、モバイルデバイス376は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、モバイルデバイス376は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、モバイルデバイス376は、写真撮影シーンをサンプリングするように構成されているデジタル写真撮影システム(たとえば図3Aのデジタル写真撮影システム300など)を含むように構成されてもよい。さまざまな実施形態において、カメラモジュール330は、写真撮影シーンを表わす光学シーン情報を画像センサ上に合焦するように構成された光学素子を含んでいてもよく、当該画像センサは、光学シーン情報を写真撮影シーンの電子表現に変換するように構成されてもよい。さらに、表示ユニット312を含むタッチエントリ表示システム上のタッチジェスチャによって起動され得る仮想ボタン、またはモバイルデバイス376の任意の面もしくは表面上に位置し得る物理的ボタンなどの、任意の技術的に実行可能な機構を通して、シャッターリリースコマンドが生成されてもよい。当然、他の実施形態では、任意の数の他のボタン、外部入出力、またはデジタル入出力がモバイルデバイス376上に含まれていてもよく、カメラモジュール330と併用されてもよい。
示されるように、一実施形態において、表示ユニット312を含むタッチエントリ表示システムが、モバイルデバイス376のカメラモジュール330とは反対側に配置されている。特定の実施形態において、モバイルデバイス376は、ユーザの方を向くカメラモジュール331を含み、ユーザの方を向くストロボユニット(図示せず)を含んでいてもよい。当然、他の実施形態では、モバイルデバイス376は、任意の数の、ユーザの方を向くカメラモジュールまたは後ろ向きのカメラモジュール、および任意の数の、ユーザの方を向くストロボユニットまたは後ろ向きのストロボユニットを含んでいてもよい。
いくつかの実施形態において、デジタルカメラ302およびモバイルデバイス376は各々、カメラモジュール330によってサンプリングされた画像スタックに基づいて合成画像を生成して記憶してもよい。画像スタックは、周囲照明条件下でサンプリングされた1つ以上の画像、ストロボユニット336からのストロボ照明下でサンプリングされた1つ以上の画像、またはそれらの組合せを含んでいてもよい。
図3Eは、一実施形態に従うカメラモジュール330を示す。選択肢として、カメラモジュール330は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、カメラモジュール330は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、カメラモジュール330は、ストロボ制御信号338を通してストロボユニット336を制御するように構成されてもよい。示されるように、レンズ390が、光学シーン情報352をサンプリングされるために画像センサ332上に合焦するように構成される。一実施形態において、画像センサ332は、ストロボ制御信号338を通してストロボユニット336の詳細なタイミングを有利に制御して、ストロボユニット336が有効な状態でサンプリングされた画像とストロボユニット336が無効な状態でサンプリングされた画像との間のサンプル間時間を減少させる。たとえば、画像センサ332は、画像センサ332が周囲画像のサンプリングと関連付けられている露光時間を完了した後であってストロボ画像をサンプリングする前に、ストロボユニット336が1マイクロ秒未満(または任意の所望の長さ)にわたってストロボ照明350を発することを可能にし得る。
他の実施形態では、ストロボ照明350は所望の1つ以上のターゲットポイントに基づいて構成されてもよい。たとえば、一実施形態において、ストロボ照明350は前景内のオブジェクトを照らし出してもよく、露光時間の長さに依存して、画像の背景内のオブジェクトも照らし出してもよい。一実施形態において、ストロボユニット336がいったん有効になると、画像センサ332はその直後にストロボ画像を露光し始めてもよい。ゆえに、画像センサ332はサンプリング動作を直接制御することが可能であってもよく、当該サンプリング動作は、ストロボユニット336が無効な状態でサンプリングされた少なくとも1つの画像、およびストロボユニット336が有効または無効な状態でサンプリングされた少なくとも1つの画像を含み得る画像スタックの生成と関連付けられているストロボユニット336の有効化および無効化を含む。一実施形態において、画像センサ332によってサンプリングされた画像スタックを構成するデータが、配線334を介してプロセッサ複合体310内のカメラインターフェイスユニット386に送信される。いくつかの実施形態において、カメラモジュール330は画像センサコントローラを含んでいてもよく、当該コントローラは画像センサ332の動作制御と共にストロボ制御信号338を生成するように構成されてもよい。
図3Fは、一実施形態に従うカメラモジュール330を示す。選択肢として、カメラモジュール330は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、カメラモジュール330は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、カメラモジュール330は、ストロボユニット336についての状態情報に基づいて画像をサンプリングするように構成されてもよい。状態情報は、ストロボユニット336に指定強度および/または色のストロボ照明350を生成するように命じるための1つ以上のストロボパラメータ(たとえばストロボ強度、ストロボ色、ストロボ時間等)を含み得るがこれらに限定されない。一実施形態において、ストロボユニッ
ト336と関連付けられている状態情報を構成するためのコマンドがストロボ制御信号338を通して送信されてもよく、当該信号は、ストロボユニット336が有効になった時を検出するためにカメラモジュール330によって監視され得る。たとえば、一実施形態において、カメラモジュール330は、ストロボ制御信号338によってストロボユニット336が有効または無効になってから1マイクロ秒以下内に、ストロボユニット336が有効または無効になった時を検出し得る。ストロボ照明を必要とする画像をサンプリングするために、カメラインターフェイスユニット386は、有効化コマンドをストロボ制御信号338を通して送信することによってストロボユニット336を有効にしてもよい。一実施形態において、カメラインターフェイスユニット386は、図3Bのプロセッサ複合体310のプロセッササブシステム360内の入出力インターフェイス384のインターフェイスとして含まれていてもよい。有効化コマンドは、信号レベル遷移、データパケット、レジスタ書込み、またはその他の技術的に実行可能なコマンドの送信を含んでいてもよい。カメラモジュール330はストロボユニット336が有効であることを検知し、次いで、ストロボユニット336が有効である間に、画像センサ332にストロボ照明を必要とする1つ以上の画像をサンプリングさせてもよい。そのような実現例では、画像センサ332は、ストロボユニット336宛ての有効化信号を、新たな露光のサンプリングを開始するトリガ信号として待つように構成されてもよい。
一実施形態において、カメラインターフェイスユニット386は、露光パラメータおよびコマンドを配線334を通してカメラモジュール330に送信してもよい。特定の実施形態において、カメラインターフェイスユニット386は、制御コマンドをストロボ制御信号338を通してストロボユニット336に送信することによってストロボユニット336を直接制御するように構成されてもよい。カメラモジュール330およびストロボユニット336の両方を直接制御することによって、カメラインターフェイスユニット386は、カメラモジュール330およびストロボユニット336に、正確な時間同期でそれぞれの動作を実行させてもよい。一実施形態において、正確な時間同期は500マイクロ秒未満のイベントタイミングエラーであってもよい。また、イベントタイミングエラーは、意図されたイベント発生から対応する実際のイベント発生の時間までの時間差であってもよい。
別の実施形態において、カメラインターフェイスユニット386は、カメラモジュール330から画像データを受信している間に統計を蓄積するように構成されてもよい。特に、カメラインターフェイスユニット386は、配線334を通して所与の画像についての画像データを受信している間に当該画像についての露光統計を蓄積してもよい。露光統計は、強度ヒストグラム、露光過剰の画素のカウント、露光不足の画素のカウント、画素強度の強度加重和、のうちの1つ以上、またはそれらの任意の組合せを含み得るがこれらに限定されない。カメラインターフェイスユニット386は、プロセッサ複合体310内のCPUコア370のうちの1つ以上などのプロセッサによって規定される物理または仮想アドレス空間内のメモリマップされた記憶場所として、露光統計を提示してもよい。一実施形態において、露光統計は、メモリマップされたレジスタ空間内にマップされる記憶回路内に存在しており、これは配線334を通してアクセスされ得る。他の実施形態では、露光統計は、捕捉した画像についての画素データの送信と共に送信される。たとえば、所与の画像についての露光統計は、捕捉した画像についての画素強度データの送信に続いて、インラインデータとして送信されてもよい。露光統計は、カメラインターフェイスユニット386内で計算、記憶、またはキャッシュされてもよい。
一実施形態において、カメラインターフェイスユニット386は、シーンホワイトバランスを推定するための色統計を蓄積してもよい。赤色、緑色および青色カラーチャネルを含む異なるカラーチャネルについての強度の和などの、ホワイトバランスを推定するための任意の技術的に実行可能な色統計が蓄積されてもよい。次いで、カラーチャネル強度の
和を用いて、グレーワールドホワイトバランスモデルなどのホワイトバランスモデルに従って、関連画像に対してホワイトバランス色補正が実行されてもよい。他の実施形態では、画像に対してホワイトバランス補正を実現するために用いられる一次または二次曲線適合のための曲線適合統計が蓄積される。
一実施形態において、カメラインターフェイスユニット386は、周囲画像と、ストロボ照明を用いてサンプリングされた1つ以上の画像との間など、画像同士の間でカラーマッチングを実行するための空間色統計を蓄積してもよい。露光統計と同様に、色統計はプロセッサ複合体310内のメモリマップされた記憶場所として提示されてもよい。一実施形態において、色統計はメモリマップされたレジスタ空間内にマップされ、これはプロセッササブシステム360内で配線334を通してアクセスされ得る。他の実施形態では、色統計は、捕捉した画像についての画素データの送信と共に送信されてもよい。たとえば、一実施形態において、所与の画像についての色統計は、当該画像についての画素強度データの送信に続いて、インラインデータとして送信されてもよい。色統計は、カメラインターフェイス386内で計算、記憶、またはキャッシュされてもよい。
一実施形態において、カメラモジュール330はストロボ制御信号338をストロボユニット336に送信して、カメラモジュール330が画像をサンプリングしている間にストロボユニット336が照明を生成することを可能にしてもよい。別の実施形態において、カメラモジュール330は、ストロボユニット336が有効であるという指示信号をカメラインターフェイスユニット386から受信すると、ストロボユニット336が照明している画像をサンプリングしてもよい。さらに別の実施形態において、カメラモジュール330は、シーン照明の急激な増加を介して写真撮影シーン内のストロボ照明を検出すると、ストロボユニット336が照明している画像をサンプリングしてもよい。一実施形態において、シーン照明の急激な増加は、ストロボユニット336を有効にする強度の増加率と一致した強度の増加率を少なくとも含んでいてもよい。さらに別の実施形態において、カメラモジュール330は、1つの画像をサンプリングしている間にストロボユニット336を有効にしてストロボ照明を生成し、別の画像をサンプリングしている間にストロボユニット336を無効にしてもよい。
図3Gは、一実施形態に従うカメラモジュール330を示す。選択肢として、カメラモジュール330は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、カメラモジュール330は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、カメラモジュール330はアプリケーションプロセッサ335と通信していてもよい。カメラモジュール330は、コントローラ333と通信している画像センサ332を含むとして示されている。さらに、コントローラ333はアプリケーションプロセッサ335と通信しているとして示されている。
一実施形態において、アプリケーションプロセッサ335はカメラモジュール330の外部に存在していてもよい。示されるように、レンズ390は、光学シーン情報をサンプリングされるために画像センサ332上に合焦するように構成されてもよい。次いで、画像センサ332によってサンプリングされた光学シーン情報は、その後の処理およびアプリケーションプロセッサ335への通信の少なくとも一方のために、画像センサ332からコントローラ333に通信されてもよい。別の実施形態において、コントローラ333は、画像センサ332によってサンプリングされた光学シーン情報の記憶、または処理された光学シーン情報の記憶を制御してもよい。
別の実施形態において、コントローラ333は、画像センサ332が周囲画像のサンプ
リングと関連付けられている露光時間を完了した後に、ストロボユニットが短い期間(たとえば1マイクロ秒未満等)の間ストロボ照明を発することを可能にしてもよい。さらに、コントローラ333は、画像センサ332の動作制御と共にストロボ制御信号338を生成するように構成されてもよい。
一実施形態において、画像センサ332は、相補型金属酸化膜半導体(CMOS)センサまたは電荷結合素子(CCD)センサであってもよい。別の実施形態において、コントローラ333および画像センサ332は、集積システムまたは集積回路として共にパッケージ化されてもよい。さらに別の実施形態において、コントローラ333および画像センサ332は別個のパッケージを含んでいてもよい。一実施形態において、コントローラ333は、画像センサ332からの光学シーン情報の受信、光学シーン情報の処理、さまざまな機能のタイミング、およびアプリケーションプロセッサ335と関連付けられているシグナリングのための回路を提供してもよい。さらに、別の実施形態において、コントローラ333は、露光、シャッタリング、ホワイトバランス、およびゲイン調整のうちの1つ以上を制御するための回路を提供してもよい。コントローラ333の回路による光学シーン情報の処理は、ゲイン適用、増幅、およびアナログ−デジタル変換ののうちの1つ以上を含んでいてもよい。光学シーン情報を処理した後、コントローラ333は対応するデジタル画素データをアプリケーションプロセッサ335などに送信してもよい。
一実施形態において、アプリケーションプロセッサ335は、プロセッサ複合体310および揮発性メモリ318とNVメモリ316との少なくとも一方、またはその他のメモリデバイスおよび/もしくはシステム上で実現されてもよい。アプリケーションプロセッサ335は、カメラモジュール330からアプリケーションプロセッサ335に通信される受信した光学シーン情報またはデジタル画素データの処理のために予め構成されてもよい。
図4は、一実施形態に従うネットワークサービスシステム400を示す。選択肢として、ネットワークサービスシステム400は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、ネットワークサービスシステム400は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、ネットワークサービスシステム400は、デジタル写真撮影システムを実現するデバイスにネットワークアクセスを提供するように構成されてもよい。示されるように、ネットワークサービスシステム400は、ワイヤレスモバイルデバイス376、無線アクセスポイント472、データネットワーク474、データセンタ480、およびデータセンタ481を含む。ワイヤレスモバイルデバイス376は、デジタル無線リンク471を介して無線アクセスポイント472と通信して、デジタル画像と関連付けられているデータを含むデジタルデータを送受信してもよい。ワイヤレスモバイルデバイス376および無線アクセスポイント472は、本発明の範囲および精神から逸脱することなく、デジタル無線リンク471を介してデジタルデータを伝送するための任意の技術的に実行可能な伝送技術を実現し得る。特定の実施形態において、データセンタ480、481のうちの1つ以上は、所与のデータセンタ480、481内の各システムおよびサブシステムが、指定されたデータ処理およびネットワークタスクを実行するように構成された仮想マシンを含み得るように、仮想構造を用いて実現されてもよい。他の実現例では、データセンサ480、481のうちの1つ以上は、複数の物理的サイトにわたって物理的に分散していてもよい。
ワイヤレスモバイルデバイス376は、デジタルカメラを含むように構成されたスマートフォン、ワイヤレスネットワーク接続性を含むように構成されたデジタルカメラ、現実
拡張デバイス、デジタルカメラおよびワイヤレスネットワーク接続性を含むように構成されたラップトップ、またはデジタル写真撮影システムおよびワイヤレスネットワーク接続性を含むように構成されたその他の技術的に実行可能なコンピューティングデバイスを含んでいてもよい。
さまざまな実施形態において、無線アクセスポイント472は、デジタル無線リンク471を介してワイヤレスモバイルデバイス376と通信するように、かつ、電気、光学、または無線伝送媒体などの任意の技術的に実行可能な伝送媒体を介してデータネットワーク474と通信するように構成されてもよい。たとえば、一実施形態において、無線アクセスポイント472は、無線アクセスポイント472に、かつデータネットワーク474内のルータシステムまたはスイッチシステムに結合された光ファイバを通してデータネットワーク474と通信してもよい。広域ネットワーク(WAN)リンクなどのネットワークリンク475が、データネットワーク474とデータセンタ480との間でデータを伝送するように構成されてもよい。
一実施形態において、データネットワーク474は、ルータ、スイッチ、長距離伝送システム、プロビジョニングシステム、認証システム、ならびに、無線アクセスポイント472とデータセンタ480との間など、ネットワーク終点同士の間でデータを伝達するように構成された通信および動作サブシステムの任意の技術的に実行可能な組合せを含んでいてもよい。一実現例において、ワイヤレスモバイルデバイス376は、データネットワーク474に結合された1つ以上の無線アクセスポイントを介してデータセンタ480と通信するように構成された複数のワイヤレスモバイルデバイスのうちの1つを含んでいてもよい。
また、さまざまな実施形態において、データセンタ480はスイッチ/ルータ482および少なくとも1つのデータサービスシステム484を含み得るがこれらに限定されない。スイッチ/ルータ482は、ネットワークリンク475と各データサービスシステム484との間でデータトラフィックを転送するように構成されてもよい。スイッチ/ルータ482は、イーサネット(登録商標)メディアレイヤー伝送、レイヤー2スイッチング、レイヤー3ルーティングなどの任意の技術的に実行可能な伝送技術を実現し得る。スイッチ/ルータ482は、データサービスシステム484とデータネットワーク474との間でデータを伝送するように構成された1つ以上の個別システムを含んでいてもよい。
一実施形態において、スイッチ/ルータ482は、複数のデータサービスシステム484同士の間でセッションレベルのロードバランシングを実現し得る。各データサービスシステム484は少なくとも1つの計算システム488を含んでいてもよく、さらに1つ以上の記憶システム486を含んでいてもよい。各計算システム488は、中央処理装置、グラフィック処理装置、またはそれらの任意の組合せなどの、1つ以上の処理装置を含んでいてもよい。所与のデータサービスシステム484は、共に動作するように構成された1つ以上の物理的に別個のシステムを含む物理的システムとして実現されてもよい。それに代えて、所与のデータサービスシステム484は、任意の物理的システム上で実行される1つ以上の仮想システムを含む仮想システムとして実現されてもよい。特定のシナリオでは、データネットワーク474は、ネットワークリンク476を通すなどしてデータセンタ480と別のデータセンタ481との間でデータを伝送するように構成されてもよい。
別の実施形態において、ネットワークサービスシステム400は、本発明の1つ以上の実施形態を実現するように構成された、任意のネットワーク化されたモバイルデバイスを含んでいてもよい。たとえば、いくつかの実施形態において、アドホック無線ネットワークなどのピアツーピアネットワークが、2つの異なるワイヤレスモバイルデバイス間に確
立されてもよい。そのような実施形態では、デジタル画像データは、当該デジタル画像データをデータセンタ480に送信する必要なく、2つのワイヤレスモバイルデバイス間で伝送されてもよい。
図5Aは、一実施形態に従う、光学シーン情報を捕捉して写真撮影シーンの電子表現に変換するためのシステムを示す。選択肢として、図5Aのシステムは図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、図5Aのシステムは任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図5Aに示されるように、画素アレイ510は行ロジック512および列読出回路520と通信している。さらに、行ロジック512および列読出回路520の両方が制御ユニット514と通信している。さらに、画素アレイ510は複数の画素540を含むとして示されており、各画素540は4つのセルであるセル542〜545を含んでいてもよい。本説明の文脈において、画素アレイ510は、画像センサ132またはカメラモジュール330の画像センサ332などの画像センサに含まれていてもよい。
示されるように、画素アレイ510は画素540の二次元アレイを含む。たとえば、一実施形態において、画素アレイ510は、第1の次元における4,000個の画素540および第2の次元における3,000個の画素540を含み、画素アレイ510において合計12,000,000個の画素540を含むように構築されてもよく、これは12メガピクセル画素アレイと称され得る。さらに、上述のように、各画素540は4つのセル542〜545を含むとして示されている。一実施形態において、セル542は第1の色の光と関連付けられてもよく(たとえば、第1の色の光に対して選択的に感度が高い、等)、セル543は第2の色の光と関連付けられてもよく、セル544は第3の色の光と関連付けられてもよく、セル545は第4の色の光と関連付けられてもよい。一実施形態において、第1の色の光、第2の色の光、第3の色の光および第4の色の光の各々は、セル542〜545の各々が異なる色の光と関連付けられ得るように、異なる色の光である。別の実施形態において、セル542〜545のうちの少なくとも2つのセルが同じ色の光と関連付けられてもよい。たとえば、セル543およびセル544が同じ色の光と関連付けられてもよい。
さらに、セル542〜545の各々は、アナログ値を記憶することが可能であってもよい。一実施形態において、セル542〜545の各々は、露光時間中の蓄積露光に対応する電荷を記憶するためのコンデンサと関連付けられてもよい。そのような実施形態では、所与のセルの回路への行選択信号をアサートすると、当該セルは読出動作を実行してもよく、当該読出動作は、当該セルと関連付けられているコンデンサの記憶電荷の関数である電流を生成して送信することを含み得るがこれに限定されない。一実施形態において、読出動作の前に、関連付けられているフォトダイオードからコンデンサにおいて受信した電流によって、予め充電されているコンデンサが、フォトダイオードにおいて検出された入射光強度に比例する速度で放電し得る。次いで、セルのコンデンサの残留電荷が行選択信号を用いて読出され得る。セルから送信される電流は、コンデンサ上の残留電荷を反映するアナログ値である。この目的のために、読出動作時にセルから受信するアナログ値は、フォトダイオードにおいて検出される光の蓄積強度を反映し得る。所与のコンデンサ上に記憶された電荷、および送信電流などの電荷の任意の対応する表現は、本明細書においてアナログ画素データと称され得る。当然、アナログ画素データは、連続アナログ値によって各々表わされる、1組の空間的に離散した強度サンプルを含んでいてもよい。
さらに、行ロジック512および列読出回路520は、制御ユニット514の制御下で連携して働いて、複数の画素540の複数のセル542〜545を読出してもよい。たと
えば、制御ユニット514は、行ロジック512に、画素540の所与の行と関連付けられている行制御信号530を含む行選択信号をアサートさせ、その画素の行と関連付けられているアナログ画素データが読出されることを可能にし得る。図5Aに示されるように、これは、行ロジック512が、画素540(0)および画素540(a)を含む行534(0)と関連付けられている行制御信号530(0)を含む1つ以上の行選択信号をアサートすることを含んでいてもよい。行選択信号がアサートされたことに応答して、行534(0)上の各画素540は、画素540のセル542〜545内に記憶されている電荷に基づいて少なくとも1つのアナログ値を送信する。特定の実施形態において、セル542およびセル543は第1の行選択信号に応答して対応するアナログ値を送信するように構成されるのに対して、セル544およびセル545は第2の行選択信号に応答して対応するアナログ値を送信するように構成される。
一実施形態において、各行534(0)〜534(r)を含む画素540の完全な1行についてのアナログ値が、列信号532を通して列読出回路520に連続して送信されてもよい。一実施形態において、画素の完全な1行、または完全な1行内の画素もしくはセルについてのアナログ値が同時に送信されてもよい。たとえば、行制御信号530(0)を含む行選択信号がアサートされたことに応答して、画素540(0)は、少なくとも1つのアナログ値を、画素540(0)のセル542〜545から列信号532(0)を含む1つ以上の信号経路を通して列読出回路520に送信することによって応答してもよく、同時に、画素540(a)も、少なくとも1つのアナログ値を、画素540(a)のセル542〜545から列信号532(c)を含む1つ以上の信号経路を通して列読出回路520に送信することになる。当然、画素540(0)から少なくとも1つのアナログ値を受信するのと並行して、かつ画素540(a)から少なくとも1つのアナログ値を受信するのと並行して、1つ以上のアナログ値が1つ以上の他の画素540から列読出回路520において受信されてもよい。行534(0)を構成する画素540から受信した1組のアナログ値は合わせてアナログ信号と称されてもよく、このアナログ信号は画素アレイ510上に合焦される光学画像に基づいていてもよい。
さらに、行534(0)を構成する画素540を読出した後、行ロジック512は読出されるべき画素540の第2の行を選択してもよい。たとえば、行ロジック512は、画素540(b)および画素540(z)を含む画素540の行と関連付けられている行制御信号530(r)を含む1つ以上の行選択信号をアサートしてもよい。この結果、列読出回路520は、行534(r)を構成する画素540と関連付けられている対応する1組のアナログ値を受信してもよい。
列読出回路520は、1つ以上の受信したアナログ値を選択して図6Bのアナログ−デジタルユニット622などのアナログ−デジタル変換回路に転送するマルチプレクサとして作用してもよい。列読出回路520は、受信したアナログ値を予め規定された順序または順番で転送してもよい。一実施形態において、行ロジック512が行制御信号530を含む1つ以上の行選択信号をアサートすると、画素の対応する行が列信号532を通してアナログ値を送信する。列読出回路520はアナログ値を受信し、アナログ値の1つ以上を連続的に選択してアナログ−デジタルユニット622に一度に転送する。行ロジック512による行の選択、および列読出回路620による列の選択は制御ユニット514によって命じられてもよい。一実施形態において、行534は連続的に選択されて読出され、行534(0)で開始して行534(r)で終了し、連続した列と関連付けられているアナログ値がアナログ−デジタルユニット622に送信される。他の実施形態では、画素540に記憶されたアナログ値を読出すために他の選択パターンが実現されてもよい。
さらに、列読出回路520によって転送されるアナログ値はアナログ画素データを構成してもよく、当該データは後で増幅され、次いで、画素アレイ510上に合焦される光学
画像に基づいて1つ以上のデジタル画像を生成するためのデジタル画素データに変換されてもよい。
図5B〜図5Dは、1つ以上の実施形態に係る3つの随意の画素構成を示す。選択肢として、これらの画素構成は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、これらの画素構成は任意の所望の環境において実現されてもよい。具体例として、図5B〜図5Dの画素540のいずれも、画素アレイ510の画素540のうちの1つ以上として動作してもよい。
図5Bに示されるように、画素540は、一実施形態に従って、赤色光強度を測定するための第1のセル(R)、緑色光強度を測定するための第2および第3のセル(G)、ならびに青色光強度を測定するための第4のセル(B)を含むとして示されている。図5Cに示されるように、画素540は、別の実施形態に従って、赤色光強度を測定するための第1のセル(R)、緑色光強度を測定するための第2のセル(G)、青色光強度を測定するための第3のセル(B)、および白色光強度を測定するための第4のセル(W)を含むとして示されている。図5Dに示されるように、画素540は、さらに別の実施形態に従って、シアン光強度を測定するための第1のセル(C)、マゼンタ光強度を測定するための第2のセル(M)、イエロー光強度を測定するための第3のセル(Y)、および白色光強度を測定するための第4のセル(W)を含むとして示されている。
画素540は各々4つのセルを含むとして示されているが、当然、画素540は、光強度を測定するためのより少ないまたは多いセルを含むように構成されてもよい。さらに、別の実施形態において、画素540の特定のセルは、単一のピーク波長の光、または白色光を測定するように構成されるとして示されているが、画素540のセルは、任意の波長、波長範囲の光、または複数の波長の光を測定するように構成されてもよい。
次に図5Eを参照して、一実施形態に従う、画像センサ332上に光学画像として合焦される光学シーン情報を捕捉するためのシステムが示されている。選択肢として、図5Eのシステムは図面のうちのいずれかの画面の詳細の文脈において実現されてもよい。しかし、当然、図5Eのシステムは任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図5Eに示されるように、画像センサ332は、第1のセル544、第2のセル545および第3のセル548を含むとして示されている。さらに、セル544〜548の各々はフォトダイオード562を含むとして示されている。さらに、フォトダイオード562の各々の上には対応するフィルタ564があり、フィルタ564の各々の上には対応するマイクロレンズ566がある。たとえば、セル544はフォトダイオード562(0)を含むとして示されており、その上にフィルタ564(0)があり、その上にマイクロレンズ566(0)がある。同様に、セル545はフォトダイオード562(1)を含むとして示されており、その上にフィルタ564(1)があり、その上にマイクロレンズ566(1)がある。さらに、図5Eに示されるように、画素540は、セル544および545、フォトダイオード562(0)および562(1)、フィルタ564(0)および564(1)、ならびにマイクロレンズ566(0)および566(1)の各々を含むとして示されている。
一実施形態において、マイクロレンズ566の各々は、直径が50ミクロン未満の任意のレンズであってもよい。しかし、他の実施形態では、マイクロレンズ566の各々の直径は50ミクロン以上であってもよい。一実施形態において、マイクロレンズ566の各々は、受光した光をマイクロレンズ566の下方の支持基板上に合焦および集光するための球状凸面を含んでいてもよい。たとえば、図5Eに示されるように、マイクロレンズ5
66(0)は受光した光をフィルタ564(0)上に合焦および集光する。一実施形態において、マイクロレンズアレイ567はマイクロレンズ566を含んでいてもよく、当該マイクロレンズの各々は、画像センサ332のセル544内のフォトダイオード562と配置が対応している。
本説明の文脈において、フォトダイオード562は、光子吸収に応答して電位差を生成するかまたはその電気抵抗を変化させる任意の半導体ダイオードを含んでいてもよい。したがって、フォトダイオード562は光強度の検出または測定に使用されてもよい。さらに、フィルタ564の各々は、1つ以上の予め定められた波長の光を選択的に透過するための光学フィルタであってもよい。たとえば、フィルタ564(0)は対応するマイクロレンズ566(0)から受光した実質的に緑色光のみを選択的に透過するように構成されてもよく、フィルタ564(1)はマイクロレンズ566(1)から受光した実質的に青色光のみを選択的に透過するように構成されてもよい。フィルタ564およびマイクロレンズ566はともに、選択波長の入射光を平面上に合焦するように動作可能であり得る。一実施形態において、当該平面は、画像センサ332の表面上のフォトダイオード562の二次元格子であってもよい。さらに、各フォトダイオード562は、その関連付けられているフィルタに依存して、1つ以上の予め定められた波長の光を受光する。一実施形態において、各フォトダイオード562は、赤色、青色または緑色波長のフィルタリングされた光のうちの1つのみを受光する。図5B〜図5Dに関して示されるように、フォトダイオードは赤色、緑色または青色以外の波長の光を検出するように構成されてもよいと考えられる。たとえば、具体的には図5C〜図5Dの文脈において、フォトダイオードは、白色、シアン、マゼンタ、イエロー、または赤外光もしくは紫外光などの不可視光を検出するように構成されてもよい。
この目的のために、セル、フォトダイオード、フィルタ、およびマイクロレンズの各結合は、光を受光し、受光した光を合焦およびフィルタリングして1つ以上の予め定められた波長の光を分離し、次いで当該1つ以上の予め定められた波長で受光した光の強度を測定する、検出する、または他の態様で定量化するように動作可能であり得る。測定または検出された光は次いで、セル内に記憶される1つ以上のアナログ値として表わされてもよい。たとえば、一実施形態において、各アナログ値は、コンデンサを利用してセル内に記憶されてもよい。さらに、セル内に記憶される各アナログ値は、行ロジック512から受信され得る行選択信号などの選択信号に基づいてセルから出力されてもよい。さらに、セルから送信される各アナログ値は、アナログ信号の複数のアナログ値のうちの1つのアナログ値を含んでいてもよく、アナログ値の各々は異なるセルによって出力される。したがって、アナログ信号は複数のセルからの複数のアナログ画素データ値を含んでいてもよい。一実施形態において、アナログ信号は、写真撮影シーンの画像全体についてのアナログ画素データ値を含んでいてもよい。別の実施形態において、アナログ信号は、写真撮影シーンの画像全体の部分集合についてのアナログ画素データ値を含んでいてもよい。たとえば、アナログ信号は、写真撮影シーンの画像の画素の1行についてのアナログ画素データ値を含んでいてもよい。図5A〜図5Eの文脈において、画素アレイ510の画素540の行534(0)は、写真撮影シーンの画像の画素のそのような1行であってもよい。
図6Aは、1つの可能な実施形態に従う感光セル600についての回路図を示す。選択肢として、セル600は本明細書に開示されている図面のうちのいずれかの図面の文脈において実現されてもよい。しかし、当然、システム600は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図6Aに示されるように、感光セル600は、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)に結合されるフォトダイオード602を含む。フォトダイオード602は、図1の文脈において説明されたフォトダイ
オード101か、または、図5Eのフォトダイオード562のうちのいずれかとして実現されてもよい。さらに、アナログサンプリング回路603は、図1の文脈において説明されたサンプル記憶ノード133として実現されてもよい。一実施形態において、感光セル600の固有インスタンスが、図5A〜図5Eの文脈における画素540を構成するセル542〜545の各々として実現されてもよい。
示されるように、感光セル600は、2つのアナログサンプリング回路603および1つのフォトダイオード602を含む。2つのアナログサンプリング回路603は、第2のアナログサンプリング回路603(1)に結合される第1のアナログサンプリング回路603(0)を含む。図6Aに示されるように、第1のアナログサンプリング回路603(0)は、トランジスタ606(0)、610(0)、612(0)、614(0)、およびコンデンサ604(0)を含み、第2のアナログサンプリング回路603(1)は、トランジスタ606(1)、610(1)、612(1)、614(1)、およびコンデンサ604(1)を含む。一実施形態において、トランジスタ606、610、612および614の各々は、電界効果トランジスタであってもよい。
フォトダイオード602は、写真撮影シーンの入射光601を測定または検出するように動作可能であってもよい。一実施形態において、入射光601は、写真撮影シーンの周囲光を含んでいてもよい。別の実施形態において、入射光601は、写真撮影シーンを照明するために利用されるストロボユニットからの光を含んでいてもよい。さらに別の実施形態において、入射光601は、周囲光および/またはストロボユニットからの光を含んでいてもよく、入射光601の組成は露光時間の関数として変化する。たとえば、入射光601は、第1の露光時間中の周囲光と、第2の露光時間中のストロボユニットからの光とを含んでいてもよい。当然、入射光601は、フォトダイオード602において受光され測定される任意の光を含んでいてもよい。さらに、上述したように、入射光601は、マイクロレンズによってフォトダイオード602上に集光されてもよく、フォトダイオード602は、二次元平面上に配置される複数のフォトダイオードを含むように構成されたフォトダイオードアレイのうちの1つのフォトダイオードであってもよい。
一実施形態において、アナログサンプリング回路603は実質的に同一であってもよい。たとえば、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)は各々、実質的に同一の態様で構成された対応するトランジスタ、コンデンサ、および配線を含んでいてもよい。当然、他の実施形態において、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)は、アナログサンプリング回路603のうちの1つだけに特有であり得る、回路、トランジスタ、コンデンサ、配線および/または任意の他のコンポーネントもしくはコンポーネントパラメータ(たとえば各コンデンサ604の容量値)を含んでいてもよい。
一実施形態において、各コンデンサ604は、トランジスタ610のためのゲート容量とトランジスタ606および614のための拡散容量とを含むコンデンサの1つのノードを含んでいてもよい。コンデンサ604はさらに、金属酸化膜スタック、ポリコンデンサ、トレンチコンデンサといった別個の容量構造、または任意の他の技術的に実現可能なコンデンサ構造といった付加的回路素子(図示せず)に結合されてもよいが、当該付加的回路素子はこれらに限定されない。
アナログサンプリング回路603(0)に関して、リセット616(0)がアクティブ(ロー)である場合、トランジスタ614(0)は電圧源V2からコンデンサ604(0)への経路を提供し、V2の電位までコンデンサ604(0)を充電させる。サンプル信号618(0)がアクティブである場合、トランジスタ606(0)は、入射光601に応答してフォトダイオード602によって生成されるフォトダイオード電流(I_PD)
に比例してコンデンサ604(0)が放電するための経路を提供する。このように、サンプル信号618(0)がアクティブである場合、フォトダイオード電流I_PDは第1の露光時間の間積分され、コンデンサ604(0)上に対応する第1の電圧をもたらす。コンデンサ604(0)上のこの第1の電圧は、第1のサンプルとも称され得る。第1の露光時間中の入射光601が周囲光を含む実施形態では、第1のサンプルは周囲サンプルと称され得る。行選択634(0)がアクティブである場合、トランジスタ612(0)は、V1から出力608(0)への第1の出力電流のための経路を提供する。第1の出力電流は、コンデンサ604(0)上の第1の電圧に応答してトランジスタ610(0)によって生成される。行選択634(0)がアクティブである場合、出力608(0)での出力電流はしたがって、第1の露光時間中の入射光601の積分強度に比例し得る。一実施形態において、サンプル信号618(0)は、画像センサ内ですべての第1のサンプルについてグローバルシャッターを実現するように、画像センサを構成する実質的にすべての感光セル600にわたって実質的に同時にアサートされる。
アナログサンプリング回路603(1)に関して、リセット616(1)がアクティブ(ロー)である場合、トランジスタ614(1)は電圧源V2からコンデンサ604(1)への経路を提供し、V2の電位までコンデンサ604(1)を充電させる。サンプル信号618(1)がアクティブである場合、トランジスタ606(1)は、入射光601に応答してフォトダイオード602によって生成されるフォトダイオード電流(I_PD)に比例してコンデンサ604(1)が放電するための経路を提供する。このように、サンプル信号618(1)がアクティブである場合、フォトダイオード電流I_PDは第2の露光時間の間積分され、コンデンサ604(1)上に対応する第2の電圧をもたらす。コンデンサ604(1)上のこの第2の電圧は、第2のサンプルとも称され得る。第2の露光時間中の入射光601がフラッシュまたはストロボ照明を含む実施形態では、第1のサンプルはフラッシュサンプルと称され得る。行選択634(1)がアクティブである場合、トランジスタ612(1)は、V1から出力608(1)への第2の出力電流のための経路を提供する。第2の出力電流は、コンデンサ604(1)上の第2の電圧に応答してトランジスタ610(1)によって生成される。行選択634(1)がアクティブである場合、出力608(1)での出力電流はしたがって、第2の露光時間中の入射光601の積分強度に比例し得る。一実施形態において、サンプル信号618(1)は、画像センサ内ですべての第2のサンプルについてグローバルシャッターを実現するように、画像センサを構成する実質的にすべての感光セル600にわたって実質的に同時にアサートされる。
この目的のために、第1の露光時間中の第1のサンプルすなわち周囲サンプルの記憶と、第2の露光時間中の第2のサンプルすなわちフラッシュサンプルの記憶とを制御することにより、コンデンサ604(0)は第1の電圧またはサンプルを記憶してもよく、コンデンサ604(1)は第1の電圧またはサンプルとは異なる第2の電圧またはサンプルを記憶してもよい。周囲サンプルおよびフラッシュサンプルの各々は、フォトダイオード電流I_PDがフォトダイオード602によって生成されることに応答して記憶されてもよく、フォトダイオード電流I_PDは、フォトダイオード602において測定される入射光601の関数として変化する。特に、周囲照明を含む第1の露光時間中よりも、ストロボまたはフラッシュ照明を含む第2の露光時間中に、より大量の入射光601がフォトダイオード602によって測定され得る。当然、写真撮影シーンの特性だけでなく、たとえば露光時間およびアパーチャなどのさまざまな露光設定の調整によって、ストロボまたはフラッシュ照明を含む第2の露光時間中よりも、周囲照明を含む第1の露光時間中に、より大量の入射光601がフォトダイオード602によって測定され得る。
一実施形態において、第1の露光時間および第2の露光時間は時間が重なっていない。たとえば、コントローラが、第2の露光時間が第1の露光時間の終結と同時に、またはほ
ぼ同時に始まるように第2の露光時間を制御するように構成されてもよい。そのような実施形態では、サンプル信号618(0)が非活性化されるにつれて、サンプル信号618(1)が活性化されてもよい。
2つの異なる露光条件を有する利点として、フォトダイオード602が十分なしきい値の入射光601にさらされる状況では、第1のコンデンサ604(0)は、デジタル画像を生成するのに好適なアナログ値を提供するかもしれず、同じセル600の第2のコンデンサ604(1)は、過度のフラッシュ照明に起因する白飛び(blown out)または過剰
露光の画像部分を提供するかもしれない。このため、各セル600について、第1のコンデンサ604は、同じセル600の別のコンデンサ604よりも暗い画像コンテンツをより効果的に捕捉してもよい。これはたとえば、ストロボまたはフラッシュ照明が、写真撮影シーンのデジタル画像における前景オブジェクトを過剰露光し、または写真撮影シーンのデジタル画像における背景オブジェクトを過小露光する状況で有用かもしれない。そのような例では、周囲照明を利用する別の露光時間中に捕捉された画像が、過剰露光された、または過小露光されたあらゆるオブジェクトを補正するのに役立ち得る。同様に、周囲光が写真撮影シーンの特定の要素を十分に照明できず、関連付けられているデジタル画像においてこれらの要素が暗く見え、または見にくい状況では、ストロボまたはフラッシュ照明を利用する別の露光時間中に捕捉された画像が、画像の過小露光された部分を補正するのに役立ち得る。
他の実施形態において、3つ以上の電圧またはサンプルを記憶するために3つ以上のアナログサンプリング回路を使用することが望ましい場合がある。たとえば、各アナログサンプリング回路が、異なる露光時間中に、フォトダイオードによって生成されているフォトダイオード電流I_PDをサンプリングするように、3つ以上のアナログサンプリング回路を有する実施形態が実現され得る。そのような実施形態では、3つ以上の電圧またはサンプルが得られ得る。結果、任意の所与の時間においてフォトダイオード602に結合されるアナログサンプリング回路603の数と、各アナログサンプリング回路603と関連付けられている容量の量との関数として、露光感度が変動し得る。そのような変動は、各アナログサンプリング回路603について露光時間またはサンプル時間を決定する際に、考慮される必要があり得る。
さまざまな実施形態において、コンデンサ604(0)はコンデンサ604(1)と実質的に同一であってもよい。たとえば、コンデンサ604(0)および604(1)は実質的に同一の容量値を有してもよい。一実施形態において、アナログサンプリング回路のうちの1つにおけるサンプル信号618は、その他のアナログサンプリング回路603についてサンプル信号618が活性化される期間よりも長いまたは短い期間の間、活性化されてもよい。
上述のように、第1のアナログサンプリング回路603(0)のサンプル信号618(0)は第1の露光時間の間活性化されてもよく、第2のアナログサンプリング回路603(1)のサンプル信号618(1)は第2の露光時間の間活性化されてもよい。一実施形態において、第1の露光時間および/または第2の露光時間は、ユーザによって、ソフトウェアによって、またはユーザとソフトウェアとの何らかの組合せによって選択された露光設定に基づいて決定されてもよい。たとえば、第1の露光時間は、カメラのユーザによって選択された1/60秒シャッター時間に基づいて選択されてもよい。それに応じて、第2の露光時間は、第1の露光時間に基づいて選択されてもよい。一実施形態において、ユーザが選択した1/60秒シャッター時間は、周囲画像のために選択されてもよく、次いで、計測アルゴリズムが写真撮影シーンを評価して、フラッシュまたはストロボ捕捉のための最適な第2の露光時間を決定してもよい。フラッシュまたはストロボ捕捉のための第2の露光時間は、写真撮影シーンの評価中に計測された入射光に基づいて選択されても
よい。当然、他の実施形態では、第2の露光時間を選択するためにユーザ選択が使用されてもよく、次いで、選択された第2の露光時間に従って、周囲捕捉のための第1の露光時間が選択されてもよい。さらに他の実施形態では、第1の露光時間は、第2の露光時間とは独立して選択されてもよい。
他の実施形態において、コンデンサ604(0)および604(1)は異なる容量値を有していてもよい。一実施形態において、コンデンサ604(0)および604(1)は、アナログサンプリング回路603のうちの1つの、フォトダイオード602からの電流I_PDに対する感度を、同じセル600の他のアナログサンプリング回路603よりも高くまたは低くする目的のために、異なる容量値を有していてもよい。たとえば、同じセル600の他のコンデンサ604よりも著しく大きい容量を有するコンデンサ604は、著しい量の入射光601を有する写真撮影シーンを捕捉する際に、十分には放電しにくくなり得る。そのような実施形態では、コンデンサ604(0)とコンデンサ604(1)との間の記憶された電圧またはサンプルのいかなる差も、サンプル信号618の異なる活性化時間およびそれぞれの露光時間中の異なる入射光測定値とともに、異なる容量値の関数であってもよい。
ある実施形態において、サンプル信号618(0)およびサンプル信号618(1)は、独立してアクティブ状態にアサートされてもよい。
一実施形態において、感光セル600は、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)が少なくとも1つの共有コンポーネントを共有するように構成されてもよい。さまざまな実施形態において、少なくとも1つの共有コンポーネントは、画像センサのフォトダイオード602を含んでいてもよい。他の実施形態において、少なくとも1つの共有コンポーネントは、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)が共有リセットを利用して並行してリセットされ得るように、リセットを含んでいてもよい。図6Aの文脈において、感光セル600は、アナログサンプリング回路603(0)とアナログサンプリング回路603(1)との間に共有リセットを含んでいてもよい。たとえば、リセット616(0)はリセット616(1)に結合されてもよく、両者は、リセット616(0)がリセット616(1)と同じ信号であり、それらが第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)の両方を同時にリセットするために使用され得るように、一緒にアサートされてもよい。リセット後、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)は、独立してサンプリングするようにアサートされてもよい。
一実施形態において、第1のアナログサンプリング回路603(0)についてのサンプル信号618(0)は、第2のアナログサンプリング回路603(1)についてのサンプル信号618(1)とは独立していてもよい。一実施形態において、第1のアナログサンプリング回路603(0)についての行選択634(0)は、第2のアナログサンプリング回路603(1)についての行選択634(1)とは独立していてもよい。他の実施形態において、第1のアナログサンプリング回路603(0)についての行選択634(0)は、第2のアナログサンプリング回路603(1)についての行選択634(1)と共有される行選択信号を含んでいてもよい。さらに別の実施形態において、第1のアナログサンプリング回路603(0)の出力608(0)での出力信号は、第2のアナログサンプリング回路603(1)の出力608(1)での出力信号とは独立していてもよい。別の実施形態において、第1のアナログサンプリング回路603(0)の出力信号は、第2のアナログサンプリング回路603(1)の出力信号と共有される出力を利用してもよい。出力を共有する実施形態において、第1のアナログサンプリング回路603(0)の行選択634(0)が、第2のアナログサンプリング回路603(1)の行選択634(1
)とは独立していることが必要であり得る。行選択信号を共有する実施形態において、第1のアナログサンプリング回路603(0)の出力608(0)のラインが、第2のアナログサンプリング回路603(1)の出力608(1)のラインとは独立していることが必要であり得る。
一実施形態において、図5Aの列信号532は、出力608(0)および608(1)の複数の独立した出力信号のうちの1つの出力信号を含んでいてもよい。さらに、図5Aの行制御信号530は、画素の所与の行について共有され得る行選択634(0)および634(1)の独立した行選択信号のうちの1つを含んでいてもよい。共有された行選択信号を実現するセル600の実施形態において、行選択634(0)は行選択634(1)に結合されてもよく、両者は一緒に同時にアサートされてもよい。
ある実施形態において、画素の所与の行は、セルの1つ以上の行を含んでいてもよく、セルの各行は、セルの各行がアナログサンプリング回路603(0)および603(1)の複数の対を含むように、感光セル600の複数のインスタンスを含む。たとえば、セルの所与の行は、複数の第1のアナログサンプリング回路603(0)を含んでいてもよく、第1のアナログサンプリング回路603(0)の各々と対をなす異なる第2のアナログサンプリング回路603(1)をさらに含んでいてもよい。一実施形態において、複数の第1のアナログサンプリング回路603(0)は、複数の第2のアナログサンプリング回路603(1)から独立して駆動されてもよい。別の実施形態において、複数の第1のアナログサンプリング回路603(0)は、複数の第2のアナログサンプリング回路603(1)と並列に駆動されてもよい。たとえば、セルの所与の行の第1のアナログサンプリング回路603(0)の各々の各出力608(0)は、1組の列信号532を通して並列に駆動されてもよい。さらに、セルの所与の行の第2のアナログサンプリング回路603(1)の各々の各出力608(1)は、並列の第2の組の列信号532を通して並列に駆動されてもよい。
この目的のために、入射光601に基づいて周囲サンプルおよびフラッシュサンプルの両方を同時に記憶するために、感光セル600が利用されてもよい。具体的には、周囲サンプルは、第1の露光時間中に捕捉されて第1のコンデンサ上に記憶されてもよく、フラッシュサンプルは、第2の露光時間中に捕捉されて第2のコンデンサ上に記憶されてもよい。さらに、この第2の露光時間中、写真撮影シーンの照明を一時的に増加させ、第2の露光時間中に画像センサの1つ以上のフォトダイオードで測定される入射光を増加させるために、ストロボが起動されてもよい。
さらに、行選択634(0)が活性化されると、2つの異なるサンプルのうちの周囲サンプルに対応する出力電流信号が出力608(0)に結合されてもよく、行選択634(1)が活性化されると、2つの異なるサンプルのうちのフラッシュサンプルに対応する出力電流信号が出力608(1)に結合されてもよい。
一実施形態において、第1の値は、第1の露光時間における複数の画素についての第1のアナログ画素データを含む周囲アナログ信号に含まれてもよく、第2の値は、第2の露光時間における複数の画素についての第2のアナログ画素データを含むフラッシュアナログ信号に含まれてもよい。さらに、周囲アナログ信号は、周囲照明を使用して捕捉された1つ以上のデジタル画像のスタックを生成するために利用されてもよく、フラッシュアナログ信号は、フラッシュ照明を使用して捕捉された1つ以上のデジタル画像のスタックを生成するために利用されてもよい。したがって、感光セル600のアレイは、周囲照明デジタル画像およびストロボ照明デジタル画像のほぼ同時の捕捉のために利用されてもよい。
図6Bは、ある実施形態に従う、アナログ画素データをデジタル画素データに変換するためのシステムを示す。選択肢として、図6Bのシステムは本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、図6Bのシステムは任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図6Bに示されるように、アナログ画素データ621が、制御ユニット514の制御下でアナログ−デジタルユニット622において列読出回路520から受信される。アナログ画素データ621は、上述のようにアナログ信号内で受信されてもよい。さらに、アナログ−デジタルユニット622は、受信したアナログ画素データ621に基づいてデジタル画素データ625を生成する。
一実施形態において、アナログ画素データ621の固有インスタンスは、順序付けられた1組の個々のアナログ値として、すべての対応するアナログサンプリング回路またはサンプル記憶ノードから出力されるすべてのアナログ値を含んでいてもよい。たとえば、前述の図の文脈において、画素アレイ510の複数の画素540のセル542〜545の各セルは、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)の両方を含んでいてもよい。このため、画素アレイ510は複数の第1のアナログサンプリング回路603(0)を含んでいてもよく、さらに複数の第2のアナログサンプリング回路603(1)を含んでいてもよい。言い換えれば、画素アレイ510は、各セルについて第1のアナログサンプリング回路603(0)を含んでいてもよく、さらに各セルについて第2のアナログサンプリング回路603(1)を含んでいてもよい。ある実施形態において、複数の第1のアナログサンプリング回路603(0)の各アナログサンプリング回路から、別個のアナログ値を含むアナログ画素データ621の第1のインスタンスが受信されてもよく、複数の第2のアナログサンプリング回路603(1)の各アナログサンプリング回路から、別個のアナログ値を含むアナログ画素データ621の第2のインスタンスが受信されてもよい。このため、画素アレイのセルが2つ以上のアナログサンプリング回路を含む実施形態において、当該画素アレイは、アナログ画素データ621の固有インスタンスを各々含む2つ以上の別個のアナログ信号を出力してもよい。
さらに、第1のアナログサンプリング回路603(0)の各々は、写真撮影シーンが周囲光で照明される第1の露光時間中にフォトダイオード電流をサンプリングしてもよく、第2のサンプリング回路603(1)の各々は、写真撮影シーンがストロボまたはフラッシュで照明される第2の露光時間中にフォトダイオード電流をサンプリングしてもよい。したがって、第1のアナログ信号、すなわち周囲アナログ信号は、周囲光で照明された場合の写真撮影シーンを表わすアナログ値を含んでいてもよく、第2のアナログ信号、すなわちフラッシュアナログ信号は、ストロボまたはフラッシュで照明された場合の写真撮影シーンを表わすアナログ値を含んでいてもよい。
いくつかの実施形態において、画素アレイのセルの部分集合のみが、2つ以上のアナログサンプリング回路を含んでいてもよい。たとえば、第1のアナログサンプリング回路603(0)および第2のアナログサンプリング回路603(1)の両方をすべてのセルが含み得るわけではない。
図6Bを引き続き参照して、アナログ−デジタルユニット622は増幅器650およびアナログ−デジタル変換器654を含む。一実施形態において、増幅器650はアナログ画素データ621のインスタンスおよびゲイン652の両方を受信し、ゲイン652をアナログ画素データ621に適用して、ゲイン調整されたアナログ画素データ623を生成する。ゲイン調整されたアナログ画素データ623は増幅器650からアナログ−デジタ
ル変換器654に送信される。アナログ−デジタル変換器654はゲイン調整されたアナログ画素データ623を受信し、ゲイン調整されたアナログ画素データ623をデジタル画素データ625に変換し、当該データは次いでアナログ−デジタル変換器654から送信される。他の実施形態では、増幅器650はアナログ−デジタルユニット622内ではなく列読出回路520内で実現されてもよい。アナログ−デジタル変換器654は、任意の技術的に実行可能なアナログ−デジタル変換技術を用いて、ゲイン調整されたアナログ画素データ623をデジタル画素データ625に変換してもよい。
ある実施形態において、ゲイン調整されたアナログ画素データ623は、ゲイン652をアナログ画素データ621に適用することによって得られる。一実施形態において、ゲイン652はアナログ−デジタルユニット622によって選択されてもよい。別の実施形態において、ゲイン652は制御ユニット514によって選択され、次いで、アナログ画素データ621に適用されるために制御ユニット514からアナログ−デジタルユニット622に供給されてもよい。
一実施形態において、ゲイン652をアナログ画素データ621に適用した結果、ゲイン調整されたアナログ画素データ623にアナログノイズが現われ得ることに留意すべきである。画素アレイ510から高感度のデータを得るために、増幅器650が著しく大きいゲインをアナログ画素データ621に付与した場合、ゲイン調整されたアナログ画素データ623内に大量のノイズが予想され得る。一実施形態において、そのようなノイズの悪影響は、全露光時間を減少させて光学シーン情報を捕捉することによって減少し得る。そのような実施形態では、ゲイン652をアナログ画素データ621に適用することによって、露光が適切でノイズが減少した、ゲイン調整されたアナログ画素データを得ることができる。
一実施形態において、増幅器650はトランスインピーダンス増幅器(TIA)であってもよい。さらに、ゲイン652はデジタル値によって指定されてもよい。一実施形態において、ゲイン652を指定するデジタル値は、デジタル写真撮影デバイスを「マニュアル」モードで操作することなどにより、デジタル写真撮影デバイスのユーザによって設定されてもよい。さらに、デジタル値は、デジタル写真撮影デバイスのハードウェアまたはソフトウェアによって設定されてもよい。選択肢として、デジタル値は、デジタル写真撮影デバイスのソフトウェアと連携して作業するユーザによって設定されてもよい。
一実施形態において、ゲイン652を指定するために用いられるデジタル値はISOと関連付けられてもよい。写真撮影の分野において、ISOシステムは光感度を指定するための確立された規格である。一実施形態において、増幅器650は、アナログ画素データ621に適用すべきゲイン652を指定するデジタル値を受信する。別の実施形態において、従来のISO値から、ゲイン652として増幅器650に与えられ得るデジタルゲイン値へのマッピングがあってもよい。たとえば、ISO100、ISO200、ISO400、ISO800、ISO1600等の各々が異なるデジタルゲイン値に一意的にマップされてもよく、特定のISOを選択すると、マップされたデジタルゲイン値がゲイン652として適用されるために増幅器650に与えられる。一実施形態において、1つ以上のISO値が1のゲインにマップされてもよい。当然、他の実施形態において、1つ以上のISO値がその他のゲイン値にマップされてもよい。
したがって、一実施形態において、各アナログ画素値は特定のISO値を前提として輝度が調整されてもよい。このため、そのような実施形態では、ゲイン調整されたアナログ画素データ623は輝度補正された画素データを含んでいてもよく、輝度は指定されたISOに基づいて補正される。別の実施形態において、ある画像についてのゲイン調整されたアナログ画素データ623は、当該画像が特定のISOでサンプリングされたかのよう
な輝度を画像内に有する画素を含んでいてもよい。
ある実施形態に従うと、デジタル画素データ625は、画素アレイ510を用いて捕捉された画像の画素を表わす複数のデジタル値を含んでいてもよい。
一実施形態において、デジタル画素データ625のインスタンスが、受信されたアナログ画素データ621の各インスタンスについて出力されてもよい。このため、画素アレイ510が複数の第1のアナログサンプリング回路603(0)を含み、さらに複数の第2のアナログサンプリング回路603(1)を含む場合、第1のアナログサンプリング回路603(0)の各々から、別個のアナログ値を含むアナログ画素データ621の第1のインスタンスが受信されてもよく、第2のアナログサンプリング回路603(1)の各々から、別個のアナログ値を含むアナログ画素データ621の第2のインスタンスが受信されてもよい。そのような実施形態では、デジタル画素データ625の第1のインスタンスは、アナログ画素データ621の第1のインスタンスに基づいて出力されてもよく、デジタル画素データ625の第2のインスタンスは、アナログ画素データ621の第2のインスタンスに基づいて出力されてもよい。
さらに、デジタル画素データ625の第1のインスタンスは、第1の露光時間中に画素アレイ510の複数の第1のアナログサンプリング回路603(0)を使用して捕捉される第1の画像の画素を表わす複数のデジタル値を含んでいてもよく、デジタル画素データ625の第2のインスタンスは、第2の露光時間中に画素アレイ510の複数の第2のアナログサンプリング回路603(1)を使用して捕捉される第2の画像の画素を表わす複数のデジタル値を含んでいてもよい。デジタル画素データ625の第1のインスタンスおよびデジタル画素データ625の第2のインスタンスが同じゲイン652を利用して生成される場合、デジタル画素データのインスタンス間のいかなる差も、第1の露光時間と第2の露光時間との差の関数であってもよい。
いくつかの実施形態において、デジタル画素データ625の2つ以上のインスタンスがアナログ画素データ621の各インスタンスについて出力され得るように、2つ以上のゲイン652がアナログ画素データ621のインスタンスに適用されてもよい。たとえば、2つ以上のゲインが、アナログ画素データ621の第1のインスタンスおよびアナログ画素データ621の第2のインスタンス両方に適用されてもよい。そのような実施形態では、アナログ画素データ621の第1のインスタンスは、画素アレイ510の複数の第1のアナログサンプリング回路603(0)の各々からの別個のアナログ値を含んでいてもよく、アナログ画素データ621の第2のインスタンスは、画素アレイ510の複数の第2のアナログサンプリング回路603(1)の各々からの別個のアナログ値を含んでいてもよい。このため、4つ以上の対応するデジタル画像と関連付けられているデジタル画素データ625の4つ以上のインスタンスが、写真撮影シーンのために画素アレイ510によって生成されてもよい。
図7は、ある実施形態に従う、アナログ信号のアナログ画素データをデジタル画素データに変換するためのシステム700を示す。選択肢として、システム700は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、システム700は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
システム700は、図7において、第1のアナログ記憶平面702(0)、第1のアナログ−デジタルユニット722(0)、および周囲デジタル画像スタック732(0)を含むとして示されており、さらに、第2のアナログ記憶平面702(1)、第2のアナログ−デジタルユニット722(1)、およびフラッシュデジタル画像スタック732(1
)を含むとして示されている。したがって、システム700は、少なくとも2つのアナログ記憶平面702(0)および702(1)を含むとして示されている。図7に示されるように、各アナログ記憶平面702内において、複数のアナログ値が各々「V」として示されており、各画像スタック732のデジタル画像内において、対応するデジタル値が各々「D」として示されている。一実施形態において、第1のアナログ記憶平面702(0)のアナログ値のすべては、写真撮影シーンが周囲光で照明された第1の露光時間中に捕捉され、第2のアナログ記憶平面702(1)のアナログ値のすべては、写真撮影シーンがストロボまたはフラッシュを使用して照明された第2の露光時間中に捕捉される。
特定の実施形態の文脈において、各アナログ記憶平面702は、1つ以上のアナログ値の任意の集合を含んでいてもよい。いくつかの実施形態において、各アナログ記憶平面702は、画素アレイの行またはラインの画素ごとに少なくとも1つのアナログ画素値を含んでいてもよい。さらに、別の実施形態において、各アナログ記憶平面702は、フレームと称され得る画素アレイの全体の画素ごとに少なくとも1つのアナログ画素値を含んでいてもよい。たとえば、各アナログ記憶平面702はアナログ値を含んでいてもよく、またはより一般的には、画素アレイのすべてのラインまたは行の各画素のセルごとにアナログ値を含んでいてもよい。
さらに、各アナログ記憶平面702のアナログ値は、アナログ画素データ704として、対応するアナログ−デジタルユニット722に出力される。たとえば、アナログ記憶平面702(0)のアナログ値はアナログ画素データ704(0)としてアナログ−デジタルユニット722(0)に出力され、アナログ記憶平面702(1)のアナログ値はアナログ画素データ704(1)としてアナログ−デジタルユニット722(1)に出力される。一実施形態において、各アナログ−デジタルユニット722は、図6Bの文脈において説明されたアナログ−デジタルユニット622と実質的に同一であってもよい。たとえば、各アナログ−デジタルユニット722は、少なくとも1つの増幅器および少なくとも1つのアナログ−デジタル変換器を含んでいてもよく、当該増幅器は、ゲイン値を受信し、当該ゲイン値を利用して、アナログ−デジタルユニット722において受信されたアナログ画素データをゲイン調整するように動作可能である。さらに、そのような実施形態では、増幅器は、ゲイン調整されたアナログ画素データをアナログ−デジタル変換器に送信してもよく、当該変換器は次いで、ゲイン調整されたアナログ画素データからデジタル画素データを生成する。この目的のために、2つ以上の異なるアナログ記憶平面702の各々におけるコンテンツに対して、アナログ−デジタル変換が実行されてもよい。
図7のシステム700の文脈において、各アナログ−デジタルユニット722は、対応するアナログ画素データ704を受信し、受信したアナログ画素データ704に少なくとも2つの異なるゲインを適用して、少なくとも第1のゲイン調整されたアナログ画素データおよび第2のゲイン調整されたアナログ画素データを生成する。たとえば、アナログ−デジタルユニット722(0)は、アナログ画素データ704(0)を受信し、アナログ画素データ704(0)に少なくとも2つの異なるゲインを適用して、アナログ画素データ704(0)に基づいて少なくとも第1のゲイン調整されたアナログ画素データおよび第2のゲイン調整されたアナログ画素データを生成する。アナログ−デジタルユニット722(1)は、アナログ画素データ704(1)を受信し、アナログ画素データ704(1)に少なくとも2つの異なるゲインを適用して、アナログ画素データ704(1)に基づいて少なくとも第1のゲイン調整されたアナログ画素データおよび第2のゲイン調整されたアナログ画素データを生成する。
さらに、各アナログ−デジタルユニット722は、生成したゲイン調整されたアナログ画素データの各々をデジタル画素データに変換してから、少なくとも2つのデジタル出力を出力する。一実施形態において、各アナログ−デジタルユニット722は、受信したア
ナログ画素データ704に適用される各ゲインに対応する異なるデジタル出力を提供する。図7に関して具体的には、アナログ−デジタルユニット722(0)は、第1のゲイン(ゲイン1)に対応する第1のデジタル画素データ723(0)を含む第1のデジタル信号と、第2のゲイン(ゲイン2)に対応する第2のデジタル画素データ724(0)を含む第2のデジタル信号と、第3のゲイン(ゲイン3)に対応する第3のデジタル画素データ725(0)を含む第3のデジタル信号とを生成するとして示されている。同様に、アナログ−デジタルユニット722(1)は、第1のゲイン(ゲイン1)に対応する第1のデジタル画素データ723(1)を含む第1のデジタル信号と、第2のゲイン(ゲイン2)に対応する第2のデジタル画素データ724(1)を含む第2のデジタル信号と、第3のゲイン(ゲイン3)に対応する第3のデジタル画素データ725(1)を含む第3のデジタル信号とを生成するとして示されている。各デジタル画素データのインスタンスは、各デジタル信号がデジタル画像を含むように、各デジタル画像を含んでいてもよい。
したがって、アナログ−デジタルユニット722(0)が、アナログ画素データ704(0)にゲイン1、ゲイン2およびゲイン3の各々を適用することにより、第1のデジタル画素データ723(0)、第2のデジタル画素データ724(0)および第3のデジタル画素データ725(0)を生成した結果、アナログ−デジタルユニット722(0)は、周囲画像スタック732(0)とも称されるデジタル画像のスタックを生成する。同様に、アナログ−デジタルユニット722(1)が、アナログ画素データ704(1)にゲイン1、ゲイン2およびゲイン3の各々を適用することにより、第1のデジタル画素データ723(1)、第2のデジタル画素データ724(1)および第3のデジタル画素データ725(1)を生成した結果、アナログ−デジタルユニット722(1)は、フラッシュ画像スタック732(1)とも称されるデジタル画像の第2のスタックを生成する。周囲画像スタック732(0)のデジタル画像の各々は、第1の露光時間中に周囲照明で捕捉された写真撮影シーンのデジタル画像であってもよい。フラッシュ画像スタック732(1)のデジタル画像の各々は、第2の露光時間中にストロボまたはフラッシュ照明で捕捉された写真撮影シーンのデジタル画像であってもよい。
一実施形態において、各アナログ−デジタルユニット722は、少なくとも2つのゲインをアナログ値に連続して適用する。たとえば、図7の文脈において、アナログ−デジタルユニット722(0)はまず、アナログ画素データ704(0)にゲイン1を適用し、その後、同じアナログ画素データ704(0)にゲイン2を適用し、その後、同じアナログ画素データ704(0)にゲイン3を適用する。他の実施形態では、各アナログ−デジタルユニット722は、少なくとも2つのゲインをアナログ値に並列に適用してもよい。たとえば、アナログ−デジタルユニットは、アナログ画素データに対するゲイン2およびゲイン3の適用と並列に、受信したアナログ画素データにゲイン1を適用してもよい。この目的のために、アナログ画素データ704の各インスタンスは、少なくとも2つのゲインを利用して増幅される。
一実施形態において、アナログ−デジタルユニット722(0)においてアナログ画素データ704(0)に適用されるゲインは、アナログ−デジタルユニット722(1)においてアナログ画素データ704(1)に適用されるゲインと同じであってもよい。具体的な例として、アナログ−デジタルユニット722(0)およびアナログ−デジタルユニット722(1)の両方によって適用されるゲイン1は1.0のゲインであってもよく、アナログ−デジタルユニット722(0)およびアナログ−デジタルユニット722(1)の両方によって適用されるゲイン2は2.0のゲインであってもよく、アナログ−デジタルユニット722(0)およびアナログ−デジタルユニット722(1)の両方によって適用されるゲイン3は4.0のゲインであってもよい。別の実施形態において、アナログ−デジタルユニット722(0)においてアナログ画素データ704(0)に適用されるゲインのうちの1つ以上は、アナログ−デジタルユニット722(1)においてアナロ
グ画素データ704(1)に適用されるゲインとは異なっていてもよい。たとえば、アナログ−デジタルユニット722(0)において適用されるゲイン1は1.0のゲインであってもよく、アナログ−デジタルユニット722(1)において適用されるゲイン1は2.0のゲインであってもよい。したがって、各アナログ−デジタルユニット722において適用されるゲインは、システム700内の他のアナログ−デジタルユニット722において適用されるゲインに依存して、または当該ゲインとは独立して、選択されてもよい。
一実施形態に従うと、少なくとも2つのゲインは、写真撮影シーンの露光、計測データ、ユーザ入力、検出された周囲光、ストロボ制御、または上記の任意の組合せに基づく任意の技術的に実行可能な技術を用いて決定されてもよい。たとえば、少なくとも2つのゲインのうちの第1のゲインは、アナログ記憶平面702からのデジタル値の半分が、「EV0」露光を有すると特徴付けられ得る画像スタック732の第1のデジタル画像を構成するデジタル値と関連付けられているダイナミックレンジについての指定しきい値(たとえば0.0〜1.0の範囲内の0.5のしきい値)よりも高いデジタル値に変換されるように、決定されてもよい。この例を続けると、少なくとも2つのゲインのうちの第2のゲインは、「EV+1」露光を有すると特徴付けられる画像スタック732の第2のデジタル画像を生成するように、第1のゲインの2倍であるとして決定されてもよい。さらに、少なくとも2つのゲインのうちの第3のゲインは、「EV−1」露光を有すると特徴付けられる画像スタック732の第3のデジタル画像を生成するように、第1のゲインの半分であるとして決定されてもよい。
一実施形態において、アナログ−デジタルユニット722は、ゲイン調整されたアナログ画素データの第1のインスタンスを第1のデジタル画素データ723に、ゲイン調整されたアナログ画素データの第2のインスタンスを第2のデジタル画素データ724に、およびゲイン調整されたアナログ画素データの第3のインスタンスを第3のデジタル画素データ725に連続して変換する。たとえば、アナログ−デジタルユニット722はまず、ゲイン調整されたアナログ画素データの第1のインスタンスを第1のデジタル画素データ723に変換し、その後、ゲイン調整されたアナログ画素データの第2のインスタンスを第2のデジタル画素データ724に変換し、その後、ゲイン調整されたアナログ画素データの第3のインスタンスを第3のデジタル画素データ725に変換してもよい。他の実施形態において、アナログ−デジタルユニット722は、第1のデジタル画素データ723、第2のデジタル画素データ724および第3のデジタル画素データ725のうちの1つ以上が並列に生成されるように、そのような変換を並列に実行してもよい。
さらに、図7に示されるように、各第1のデジタル画素データ723は第1のデジタル画像を提供する。同様に、各第2のデジタル画素データ724は第2のデジタル画像を提供し、各第3のデジタル画素データ725は第3のデジタル画像を提供する。単一のアナログ記憶平面702のアナログ値を使用して作り出される各組のデジタル画像はともに、画像スタック732を構成する。たとえば、周囲画像スタック732(0)は、アナログ記憶平面702(0)のアナログ値を使用して作り出されるデジタル画像を含み、フラッシュ画像スタック732(1)は、アナログ記憶平面702(1)のアナログ値を使用して作り出されるデジタル画像を含む。前述のように、周囲画像スタック732(0)のデジタル画像の各々は、第1の露光時間中に周囲照明で捕捉された写真撮影シーンのデジタル画像であってもよい。同様に、フラッシュ画像スタック732(1)のデジタル画像の各々は、第2の露光時間中にストロボまたはフラッシュ照明で捕捉された写真撮影シーンのデジタル画像であってもよい。
図7に示されるように、画像スタック732のすべてのデジタル画像は、同じアナログ画素データ704に基づいていてもよい。しかしながら、画像スタック732の各デジタル画像は、画像スタック732における他のデジタル画像とは、2つのデジタル画像を生
成するために使用されるゲイン間の差の関数として異なっていてもよい。具体的には、少なくとも2つのゲインのうち最大のゲインを使用して生成されたデジタル画像は、画像スタック732のデジタル画像のうち最も明るい、または露光が多いと視覚的に認識され得る。逆に、少なくとも2つのゲインのうち最小のゲインを使用して生成されたデジタル画像は、画像スタック732の他のデジタル画像と比べて最も暗く、露光が少ないと視覚的に認識され得る。この目的のために、第1の光感度値が第1のデジタル画素データ723と関連付けられてもよく、第2の光感度値が第2のデジタル画素データ724と関連付けられてもよく、第3の光感度値が第3のデジタル画素データ725と関連付けられてもよい。さらに、ゲインの各々は異なる光感度値と関連付けられてもよいため、第1のデジタル画像または第1のデジタル信号は第1の光感度値と関連付けられてもよく、第2のデジタル画像または第2のデジタル信号は第2の光感度値と関連付けられてもよく、第3のデジタル画像または第3のデジタル信号は第3の光感度値と関連付けられてもよい。一実施形態において、画像スタックの1つ以上のデジタル画像同士がブレンドされてもよく、ブレンドされた光感度と関連付けられているブレンド画像をもたらす。
アナログ画素データへのゲインの制御された適用はHDR画像生成を大きく助け得るが、適用するゲインが大き過ぎると、ノイズが多い、露光過剰である、および/または白飛びであると視覚的に認識されるデジタル画像が生じ得ることに留意すべきである。一実施形態において、2ストップのゲインをアナログ画素データに適用すると、写真撮影シーンのより暗い部分については視覚的に認識可能なノイズが、および写真撮影シーンのより明るい部分については視覚的に認識不能なノイズが付与され得る。別の実施形態において、デジタル写真撮影デバイスは、捕捉された写真撮影シーンのアナログ画素データのためにアナログ記憶平面を提供し、次いでアナログ−デジタルユニット722を使用して同じアナログ画素データの少なくとも2つのアナログ−デジタルサンプリングを実行するように構成されてもよい。この目的のために、少なくとも2つのサンプリングのうちの各サンプリングについてデジタル画像が生成されてもよく、各デジタル画像は、すべてのデジタル画像が画像センサ上に合焦される単一の光学画像の同じアナログサンプリングから生成されているにもかかわらず、異なる露光で得られる。
一実施形態において、当初の露光パラメータは、ユーザによって、またはデジタル写真撮影デバイスの計測アルゴリズムによって選択されてもよい。当初の露光パラメータは、ユーザ入力、または特定の捕捉変数を選択するソフトウェアに基づいて選択されてもよい。そのような捕捉変数は、たとえば、ISO、アパーチャ、およびシャッター速度を含んでいてもよい。画像センサは次いで、第1の露光時間中に当初の露光パラメータで写真撮影シーンを捕捉し、画像センサ上に合焦される光学画像に対応する第1の複数のアナログ値で第1のアナログ記憶平面をポピュレートしてもよい。次に、第2の露光時間中、第2のアナログ記憶平面が、画像センサ上に合焦される光学画像に対応する第2の複数のアナログ値でポピュレートされてもよい。第2の露光時間中、写真撮影シーンの少なくとも一部を照明するために、ストロボまたはフラッシュユニットが利用されてもよい。前述の図の文脈において、複数の第1のアナログサンプリング回路603(0)を含む第1のアナログ記憶平面702(0)は、周囲捕捉と関連付けられている複数のアナログ値でポピュレートされてもよく、複数の第2のアナログサンプリング回路603(1)を含む第2のアナログ記憶平面702(1)は、フラッシュまたはストロボ捕捉と関連付けられている複数のアナログ値でポピュレートされてもよい。
言い換えれば、各感光セルが2つのアナログサンプリング回路を含む実施形態において、2つのアナログ記憶平面は、アナログ記憶平面のうちの第1のアナログ記憶平面がセルのアナログサンプリング回路のうちの1つから出力される第1のアナログ値出力を記憶し、アナログ記憶平面のうちの第2のアナログ記憶平面が同じセルの他のアナログサンプリング回路から出力される第2のアナログ値を記憶するように、構成されてもよい。
さらに、アナログ記憶平面の各々は、画素アレイまたは画像センサの所与の画素について異なるアナログ値を受信し、記憶してもよい。たとえば、所与の画素について受信され、第1のアナログ記憶平面に記憶されたアナログ値が、第1の露光時間中に捕捉された周囲サンプルに基づいて出力されてもよく、所与の画素について受信され、第2のアナログ記憶平面に記憶された対応するアナログ値が、第1の露光時間とは異なる第2の露光時間中に捕捉されたフラッシュサンプルに基づいて出力されてもよい。したがって、一実施形態において、第1のアナログ記憶平面に記憶された実質的にすべてのアナログ値は、第1の露光時間中に得られたサンプルに基づいていてもよく、第2のアナログ記憶平面に記憶された実質的にすべてのアナログ値は、第1の露光時間と異なる第2の露光時間中に得られたサンプルに基づいていてもよい。
この説明の文脈において、写真撮影シーンの「単一露光」は、少なくとも部分的に同時に、2組以上のアナログサンプリング回路を使用して写真撮影シーンを表わすアナログ値を記憶することを含んでいてもよく、各組のアナログサンプリング回路は異なる露光時間で動作するように構成されてもよい。2組以上のアナログサンプリング回路を使用する写真撮影シーンの捕捉中、写真撮影シーンは、第1の露光時間中に周囲光によって、または、第2の露光時間中にフラッシュまたはストロボユニットによって照明されてもよい。さらに、2組以上のアナログサンプリング回路を使用して写真撮影シーンを捕捉した後、2つ以上のアナログ記憶平面(たとえば各組のアナログサンプリング回路につき1つの記憶平面)が、画像センサ上に合焦される光学画像に対応するアナログ値でポピュレートされてもよい。次に、上記のシステムおよび方法に従って、第1の露光時間中に捕捉された第1のアナログ記憶平面のアナログ値に1つ以上のゲインを適用することによって、周囲画像スタックの1つ以上のデジタル画像が得られ得る。さらに、上記のシステムおよび方法に従って、第2の露光時間中に捕捉された第2のアナログ記憶平面のアナログ値に1つ以上のゲインを適用することによって、フラッシュ画像スタックの1つ以上のデジタル画像が得られ得る。
この目的のために、1つ以上の画像スタック732が、写真撮影シーンの単一露光に基づいて生成されてもよい。
一実施形態において、画像スタック732の第1のデジタル画像が、上述のシステムおよび方法に従って第1のゲインを利用して得られてもよい。たとえば、当初の露光パラメータがISO400の選択を含むようにデジタル写真撮影デバイスが構成されている場合、第1のデジタル画像を得るために利用される第1のゲインはISO400にマップされてもよく、または他の態様でISO400と関連付けられてもよい。この第1のデジタル画像は、露光値0(EV0)で得られる露光または画像と称され得る。さらに、1つ以上のデジタル画像が、上述のシステムおよび方法に従って第2のゲインを利用して得られてもよい。たとえば、第1のデジタル画像を生成するために使用されるのと同じアナログ画素データが第2のゲインを利用して処理されて第2のデジタル画像を生成してもよい。さらに、1つ以上のデジタル画像が、上述のシステムおよび方法に従って第2のアナログ記憶平面を利用して得られてもよい。たとえば、第1のデジタル画像を生成するために使用されるアナログ画素データとは異なる第2のアナログ画素データが、第2のデジタル画像を生成するために使用されてもよい。具体的には、第1のデジタル画像を生成するために使用されるアナログ画素データは、第1の露光時間中に捕捉されたものであってもよく、第2のアナログ画素データは、第1の露光時間とは異なる第2の露光時間中に捕捉されたものであってもよい。
この目的のために、少なくとも2つのデジタル画像が異なるアナログ画素データを利用して生成され、次いでブレンドされてHDR画像を生成してもよい。当該少なくとも2つ
のデジタル画像は、第1のデジタル信号と第2のデジタル信号とをブレンドすることによってブレンドされてもよい。写真撮影シーンの単一露光中に捕捉された異なるアナログ画素データを使用して少なくとも2つのデジタル画像が生成される場合、当該少なくとも2つのデジタル画像の間にはおよそまたはほぼゼロのフレーム間時間が存在し得る。同じ写真撮影シーンの少なくとも2つのデジタル画像の間のフレーム間時間がゼロまたはほぼゼロである結果、1つの可能な実施形態において、HDR画像が、HDR写真に典型的なモーションブラーまたは他のアーティファクトなしで生成可能である。
一実施形態において、画像スタック732の第1のデジタル画像を生成するための第1のゲインを選択した後、第2のゲインが第1のゲインに基づいて選択されてもよい。たとえば、第2のゲインは、第2のゲインが第1のゲインから1ストップ離れていることに基づいて選択されてもよい。より具体的には、第1のゲインがISO400にマップされているか関連付けられている場合、ISO400から1ストップ下がるとISO200と関連付けられているゲインが提供され、ISO400から1ストップ上がるとISO800と関連付けられているゲインが提供される。そのような実施形態では、ISO200と関連付けられているゲインを利用して生成されるデジタル画像は、露光値−1(EV−1)で得られる露光または画像と称され得、ISO800と関連付けられているゲインを利用して生成されるデジタル画像は、露光値+1(EV+1)で得られる露光または画像と称され得る。
さらに、同じアナログ信号を利用して生成されるデジタル画像間により著しい露光差が望まれる場合、第2のゲインは、第2のゲインが第1のゲインから2ストップ離れていることに基づいて選択されてもよい。たとえば、第1のゲインがISO400にマップされているか関連付けられている場合、ISO400から2ストップ下がるとISO100と関連付けられているゲインが提供され、ISO400から2ストップ上がるとISO1600と関連付けられているゲインが提供される。そのような実施形態では、ISO100と関連付けられているゲインを利用して生成されるデジタル画像は、露光値−2(EV−2)で得られる露光または画像と称され得、ISO1600と関連付けられているゲインを利用して生成されるデジタル画像は、露光値+2(EV+2)で得られる露光または画像と称され得る。
一実施形態において、ISOおよびEV0画像の露光は、より暗いデジタル画像が生成されるように好みに従って選択されてもよい。そのような実施形態では、その意図は、最大ゲインを利用して生成されるデジタル画像である、最も明るいデジタル画像となるものの白飛びまたは露光過剰を回避することであり得る。別の実施形態において、EV−1デジタル画像またはEV−2デジタル画像が第1の生成デジタル画像であってもよい。EV−1またはEV−2デジタル画像の生成に続き、アナログ−デジタルユニットにおけるゲインの増加を利用してEV0デジタル画像が生成されてもよく、次いでアナログ−デジタルユニットにおけるゲインの第2の増加を利用してEV+1またはEV+2デジタル画像が生成されてもよい。一実施形態において、当初の露光パラメータはEV−Nデジタル画像に対応し、その後のゲインを用いてEV0デジタル画像、EV+Mデジタル画像、またはそれらの任意の組合せが得られ、NおよびMは0から−10の範囲の値である。
一実施形態において、3つの異なる露光を有する3つのデジタル画像(たとえばEV−2デジタル画像、EV0デジタル画像、およびEV+2デジタル画像)が、3つのアナログ−デジタルユニットを実現することによって並列に生成されてもよい。各アナログ−デジタルユニットは、1つ以上のアナログ信号値を対応するデジタル信号値に変換するように構成されてもよい。そのような実現例によって、EV−1デジタル画像、EV0デジタル画像、およびEV+1デジタル画像のすべてを同時に生成することも可能であってもよい。同様に、他の実施形態において、露光の任意の組合せが、2つ以上のアナログ−デジ
タルユニット、3つ以上のアナログ−デジタルユニット、または任意の数のアナログ−デジタルユニットから並列に生成されてもよい。他の実施形態において、1組のアナログ−デジタルユニットが、2つ以上の異なるアナログ記憶平面のいずれかの上で各々動作するように構成されてもよい。
図8は、さまざまな実施形態に従う、アナログ信号を増幅するためのさまざまなタイミング構成を示す。選択肢として、図8のタイミング構成は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、図8のタイミング構成は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
具体的には、図8に示されるように、画素ごとのタイミング構成801が画素単位でアナログ信号を増幅するとして示されている。さらに、ラインごとのタイミング構成811がライン単位でアナログ信号を増幅するとして示されている。最後に、フレームごとのタイミング構成821がフレーム単位でアナログ信号を増幅するとして示されている。アナログ画素データと関連付けられている各増幅アナログ信号は、対応するデジタル信号値に変換されてもよい。
画素ごとのタイミング構成801を実現するシステムにおいて、アナログ画素データを含むアナログ信号がアナログ−デジタルユニットにおいて受信されてもよい。さらに、アナログ画素データは個々のアナログ画素値を含んでいてもよい。そのような実施形態では、第1の画素と関連付けられている第1のアナログ画素値がアナログ信号内で特定されて選択されてもよい。次に、第1のゲイン803、第2のゲイン805および第3のゲイン807の各々が、同じ第1のアナログ画素値に連続してまたは並行して適用されてもよい。いくつかの実施形態において、3つよりも少ないまたは多い異なるゲインが、選択されたアナログ画素値に適用されてもよい。たとえば、いくつかの実施形態において、満足のいくHDR画像を生成するためには2つの異なるゲインを同じアナログ画素値に適用するのみで十分であり得る。一実施形態において、第1のゲイン803、第2のゲイン805および第3のゲイン807の各々を適用した後、第2の画素と関連付けられている第2のアナログ画素値がアナログ信号内で特定されて選択されてもよい。第2の画素は第1の画素の隣接画素であってもよい。たとえば、第2の画素は第1の画素と同じ行内にあり、画像センサの画素アレイ上で第1の画素に隣接して位置していてもよい。次に、第1のゲイン803、第2のゲイン805および第3のゲイン807の各々は、同じ第2のアナログ画素値に連続してまたは並行して適用されてもよい。この目的のために、画素ごとのタイミング構成801において、複数の連続したアナログ画素値がアナログ信号内で特定されてもよく、1組の少なくとも2つのゲインが画素単位で当該アナログ信号内の各画素に適用される。
さらに、画素ごとのタイミング構成801を実現するシステムにおいて、制御ユニットは、各画素が予め選択されたゲインを用いて増幅された後に適用すべき次のゲインを選択してもよい。別の実施形態において、制御ユニットは、第1の画素と関連付けられている、アナログ画素データ704を含む第1のアナログ画素データ値などの第1のアナログ画素値に適用されることになっている1組の予め定められたゲインの各々を使用して第1のアナログ画素データを増幅してから、その後増幅器に到達する第2のアナログ画素データに当該1組の予め定められたゲインを適用するよう、当該1組の予め定められたゲインを繰返すように増幅器を制御してもよい。一実施形態において、図8の文脈において示されるように、これは、第1のゲインを選択すること、第1のゲインを受信した第1のアナログ画素値に適用すること、第2のゲインを選択すること、第2のゲインを受信した第1のアナログ画素値に適用すること、第3のゲインを選択すること、選択した第3のゲインを受信した第1のアナログ画素値に適用すること、そして次いで、第2のアナログ画素値を
受信し、選択した3つのゲインを、第1の画素値に適用したのと同じ順序で第2の画素値に適用することを含んでいてもよい。一実施形態において、各アナログ画素値は複数回読出されてもよい。概して、アナログ記憶平面が、画素のアナログ画素値を読出用に保持するために利用されてもよい。
ラインごとのタイミング構成811を実現するシステムにおいて、アナログ画素データを含むアナログ信号がアナログ−デジタルユニットにおいて受信されてもよい。さらに、アナログ画素データは個々のアナログ画素値を含んでいてもよい。一実施形態において、画素アレイの画素の第1のラインと関連付けられているアナログ画素値の第1のラインがアナログ信号内で特定されて選択されてもよい。次に、第1のゲイン813、第2のゲイン815および第3のゲイン817の各々が、アナログ画素値の同じ第1のラインに連続してまたは並行して適用されてもよい。いくつかの実施形態において、3つよりも少ないまたは多い異なるゲインが、アナログ画素値の選択されたラインに適用されてもよい。たとえば、いくつかの実施形態において、満足のいくHDR画像を生成するためには2つの異なるゲインをアナログ画素値の同じラインに適用するのみで十分であり得る。一実施形態において、第1のゲイン813、第2のゲイン815および第3のゲイン817の各々を適用した後、画素の第2のラインと関連付けられているアナログ画素値の第2のラインがアナログ信号内で特定されて選択されてもよい。画素の第2のラインは画素の第1のラインの隣接ラインであってもよい。たとえば、画素の第2のラインは、画像センサの画素アレイ内の画素の第1のラインの真上または真下に位置していてもよい。次に、第1のゲイン813、第2のゲイン815および第3のゲイン817の各々は、アナログ画素値の同じ第2のラインに連続してまたは並行して適用されてもよい。この目的のために、ラインごとのタイミング構成811において、アナログ画素値の複数の連続したラインがアナログ信号内で特定され、1組の少なくとも2つのゲインがライン単位で当該アナログ信号内のアナログ画素値の各ラインに適用される。
さらに、ラインごとのタイミング構成811を実現するシステムにおいて、制御ユニットは、各ラインが予め選択されたゲインを用いて増幅された後に適用すべき次のゲインを選択してもよい。別の実施形態において、制御ユニットは、ラインに適用されることになっている1組の予め定められたゲインの各々を使用してアナログ画素値の第1のラインを増幅してから、アナログ画素値の第1のラインの後に増幅器に到着するアナログ画素値の第2のラインに当該1組の予め定められたゲインを適用するよう、当該1組の予め定められたゲインを繰返すように増幅器を制御してもよい。一実施形態において、図8の文脈において示されるように、これは、第1のゲインを選択すること、第1のゲインをアナログ画素値の受信した第1のラインに適用すること、第2のゲインを選択すること、第2のゲインをアナログ画素値の受信した第1のラインに適用すること、第3のゲインを選択すること、選択した第3のゲインをアナログ画素値の受信した第1のラインに適用すること、そして次いで、アナログ画素値の第2のラインを受信し、選択した3つのゲインを、アナログ画素値の第1のラインに適用したのと同じ順序でアナログ画素値の第2のラインに適用することを含んでいてもよい。一実施形態において、アナログ画素値の各ラインは複数回読出されてもよい。別の実施形態において、アナログ記憶平面が、1つ以上のラインのアナログ画素データ値を読出用に保持するために利用されてもよい。
フレームごとのタイミング構成821を実現するシステムにおいて、アナログ画素値を含む複数のアナログ画素データ値を含むアナログ信号がアナログ−デジタルユニットにおいて受信されてもよい。そのような実施形態では、画素の第1のフレームと関連付けられているアナログ画素値の第1のフレームがアナログ信号内で特定されて選択されてもよい。次に、第1のゲイン823、第2のゲイン825および第3のゲイン827の各々が、アナログ画素値の同じ第1のフレームに連続してまたは並行して適用されてもよい。いくつかの実施形態において、3つよりも少ないまたは多い異なるゲインが、アナログ画素値
の選択されたフレームに適用されてもよい。たとえば、いくつかの実施形態において、満足のいくHDR画像を生成するためには2つの異なるゲインをアナログ画素値の同じフレームに適用するのみで十分であり得る。
一実施形態において、第1のゲイン823、第2のゲイン825および第3のゲイン827の各々を適用した後、画素の第2のフレームと関連付けられているアナログ画素値の第2のフレームがアナログ信号内で特定されて選択されてもよい。画素の第2のフレームは、写真撮影シーンと関連付けられているビデオデータを捕捉する一連のフレーム内の次のフレームであってもよい。たとえば、デジタル写真撮影システムは30フレーム/秒のビデオデータを捕捉するように動作可能であってもよい。そのようなデジタル写真撮影システムでは、画素の第1のフレームは上記30個のフレームのうちの1つのフレームであってもよく、画素の第2のフレームは上記30個のフレームのうちの第2のフレームであってもよい。さらに、第1のゲイン823、第2のゲイン825および第3のゲイン827の各々は、第2のフレームのアナログ画素値に連続して適用されてもよい。この目的のために、フレームごとのタイミング構成821において、アナログ画素値の複数の連続したフレームがアナログ信号内で特定されてもよく、1組の少なくとも2つのゲインがフレーム単位でアナログ画素値の各フレームに適用される。
さらに、フレームごとのタイミング構成821を実現するシステムにおいて、制御ユニットは、各フレームが予め選択されたゲインを用いて増幅された後に適用すべき次のゲインを選択してもよい。別の実施形態において、制御ユニットは、フレームに適用されることになっている1組の予め定められたゲインの各々を使用して第1のフレームと関連付けられているアナログ画素値を増幅してから、その後増幅器に到着する第2のフレームと関連付けられているアナログ画素値に当該1組の予め定められたゲインを適用するよう、当該1組の予め定められたゲインを繰返すように増幅器を制御してもよい。一実施形態において、図8の文脈において示されるように、これは、第1のゲインを選択すること、第1のゲインを第1のフレームと関連付けられているアナログ画素値に適用すること、第2のゲインを選択すること、第2のゲインを第1のフレームと関連付けられているアナログ画素値に適用すること、第3のゲインを選択すること、および第3のゲインを第1のフレームと関連付けられているアナログ画素値に適用することを含んでいてもよい。別の実施形態において、第1のフレームと関連付けられているアナログ画素値に選択したすべての3つのゲインを適用することに引き続いて、第2のフレームと関連付けられているアナログ画素値が受信されてもよく、次いで、選択した3つのゲインが、第1のフレームに適用されたのと同じ順序で第2のフレームと関連付けられているアナログ画素値に適用されてもよい。
さらに別の実施形態において、第1のフレームに適用される選択されたゲインは第2のフレームに適用される選択されたゲインとは異なっていてもよく、これは第2のフレームが第1のフレームとは異なる内容および照明を含む場合などに起こり得る。概して、アナログ記憶平面が、1つ以上のフレームのアナログ画素データ値を読出用に保持するために利用されてもよい。
ある実施形態において、アナログ−デジタルユニットが各異なるゲインについて割り当てられ、アナログ−デジタルユニットは並行して動作するように構成される。結果得られるデジタル値は、出力のためにインターリーブされてもよく、または並列で出力されてもよい。たとえば、所与の行についてのアナログ画素データがゲイン803に従って増幅され、第1のアナログ−デジタルユニットによって対応するデジタル値に変換されてもよく、それと並行して、当該行についてのアナログ画素データはゲイン805に従って増幅され、第2のアナログ−デジタルユニットによって対応するデジタル値に変換されてもよい。さらに、並行して、当該行についてのアナログ画素データはゲイン807に従って増幅
され、第3のアナログ−デジタルユニットによって対応するデジタル値に変換されてもよい。第1〜第3のアナログ−デジタルユニットからのデジタル値は、画素の組として出力されてもよく、1組の画素における各画素は、3つのゲイン803、805、807のうちの1つに対応する。同様に、出力データ値は、異なるゲイン値を有するラインとして編成されてもよく、各ラインは、3つのゲイン803、805、807のうちの1つに対応するゲインを有する画素を含む。
図9は、一実施形態に従う、アナログ画素データをデジタル画素データの複数の信号に並列に変換するためのシステム900を示す。選択肢として、システム900は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、システム900は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図9の文脈において、システム900は入力されたアナログ画素データ621を受信するとして示されている。アナログ画素データ621は、上述のようにアナログ信号内で受信されてもよい。さらに、アナログ−デジタルユニット622は、受信したアナログ画素データ621に基づいてデジタル画素データ625を生成するように構成されてもよい。
図9に示されるように、システム900は、アナログ−デジタルユニット622(0)、アナログ−デジタルユニット622(1)およびアナログ−デジタルユニット622(n)の各々がアナログ画素データ621のスケーリングされたコピーを受信するように、アナログ画素データ621の電流をミラーリングするように構成される。一実施形態において、アナログ−デジタルユニット622(0)、アナログ−デジタルユニット622(1)およびアナログ−デジタルユニット622(n)の各々は、固有のゲインをアナログ画素データ621に適用するように構成されてもよい。スケーリングされた各コピーは、電流ミラーとして当該技術において公知の構造を含む、システム900を構成するトランジスタについての物理的寸法に従ってスケーリングされてもよい。示されるように、各電流i1、i2、i3は、当該物理的寸法に基づいて、入力電流Iinに対して任意の比で生成されてもよい。たとえば、電流i1、i2、i3は、Iinに対して1:1:1、1:2:4、0.5:1:2の比で、またはその他の技術的に実行可能な比で生成されてもよい。
ある実施形態において、固有のゲインは、コントローラによってアナログ−デジタルユニット622の各々において構成されてもよい。具体例として、アナログ−デジタルユニット622(0)は1.0のゲインをアナログ画素データ621に適用するように構成されてもよく、アナログ−デジタルユニット622(1)は2.0のゲインをアナログ画素データ621に適用するように構成されてもよく、アナログ−デジタルユニット622(n)は4.0のゲインをアナログ画素データ621に適用するように構成されてもよい。したがって、同じアナログ画素データ621が、アナログ−デジタルユニット622(0)、アナログ−デジタルユニット622(1)およびアナログ−デジタルユニット622(n)の各々に入力送信され得るが、デジタル画素データ625(0)、デジタル画素データ625(1)およびデジタル画素データ625(n)の各々は、アナログ−デジタルユニット622内で適用される異なるゲインに基づいた異なるデジタル値を含み得るため、同じ写真撮影シーンの固有の露光表現を提供する。
アナログ−デジタルユニット622(0)が1.0のゲインを適用するように構成されてもよく、アナログ−デジタルユニット622(1)が2.0のゲインを適用するように構成されてもよく、アナログ−デジタルユニット622(n)が4.0のゲインを適用するように構成されてもよい上述の実施形態において、デジタル画素データ625(0)は最小露光の対応するデジタル画像を提供し得る。逆に、デジタル画素データ625(n)
は最大露光のデジタル画像を提供し得る。別の実施形態において、デジタル画素データ625(0)はEV−1デジタル画像を生成するために利用されてもよく、デジタル画素データ625(1)はEV0デジタル画像を生成するために利用されてもよく、デジタル画素データ625(n)はEV+2画像を生成するために利用されてもよい。別の実施形態において、システム900は2:1:4の比で電流i1、i2およびi3を生成するように構成され、各アナログ−デジタルユニット622は1.0のゲインを適用するように構成されてもよく、この結果、対応するデジタル画像はそれぞれEV−1、EV−0およびEV+1の露光値を有する。そのような実施形態では、露光値のさらなる差が、1つ以上のアナログ−デジタルユニット622内で非ユニットゲイン(non-unit gain)を適用す
ることによって達成され得る。
いくつかの実施形態において、アナログ画素データが周囲捕捉と関連付けられているか、またはフラッシュ捕捉と関連付けられているかに基づいて、1組のゲインが、アナログ画素データ621に対する適用のために選択されてもよい。たとえば、アナログ画素データ621が、周囲サンプル記憶と関連付けられているアナログ記憶平面からの複数の値を含む場合、周囲サンプル記憶と関連付けられているアナログ記憶平面の値を増幅するために、第1の組のゲインが選択されてもよい。さらに、フラッシュサンプル記憶と関連付けられているアナログ記憶平面の値を増幅するために、第2の組のゲインが選択されてもよい。
複数の第1のアナログサンプリング回路603(0)は、周囲サンプル記憶に使用されるアナログ記憶平面を構成してもよく、複数の第2のアナログサンプリング回路603(1)は、フラッシュサンプル記憶に使用されるアナログ記憶平面を構成してもよい。露光設定に基づいて、いずれかの組のゲインが予め選択されてもよい。たとえば、フラッシュ捕捉と関連付けられている露光設定のために、第1の組のゲインが予め選択されてもよく、周囲捕捉と関連付けられている露光設定のために、第2の組のゲインが予め選択されてもよい。各組のゲインは、たとえばISO、アパーチャ、シャッター速度、ホワイトバランスおよび露光などの任意の実行可能な露光設定に基づいて予め選択されてもよい。一方の組のゲインは、他方の組のゲインにおけるゲイン値の各々よりも大きいゲイン値を含んでいてもよい。たとえば、各周囲サンプルに対する適用のために選択される第1の組のゲインは、0.5、1.0および2.0というゲイン値を含んでいてもよく、各フラッシュサンプルに対する適用のために選択される第2の組のゲインは、1.0、2.0および4.0というゲイン値を含んでいてもよい。
システム900は3つのアナログ−デジタルユニット622を含むとして示されているが、3つよりも多いまたは少ないアナログ−デジタルユニット622を有する同様のシステムによって複数のデジタル画像が生成されてもよいと考えられる。たとえば、2つのアナログ−デジタルユニット622を有するシステムが、システム900に関して上述したのと同様の態様で、ゼロまたはほぼゼロのフレーム間時間で写真撮影シーンの2つの露光を同時に生成するために実現されてもよい。一実施形態において、2つのアナログ−デジタルユニット622は、各々2つの露光を生成して、アナログ画素データの1フレームに対して合計4つの異なる露光を生成するように構成されてもよい。
図10Aは、一実施形態に係る、結合画像1020を生成するためのユーザインターフェイス(UI)システム1000を示す。選択肢として、UIシステム1000は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、UIシステム1000は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、結合画像1020は少なくとも2つの関連したデジタル画像の組
合せを含む。たとえば、結合画像1020は、図7の周囲画像スタック732(0)およびフラッシュ画像スタック732(1)のデジタル画像のうちの2つ以上といった少なくとも2つのデジタル画像の結合されたレンダリングを含み得るがこれに限定されない。別の実施形態において、結合画像1020を計算するために使用されるデジタル画像は、周囲アナログ信号およびフラッシュアナログ信号の各々を少なくとも2つの異なるゲインで増幅することによって生成されてもよく、各アナログ信号は、画像センサ上に合焦される光学画像に基づいて捕捉される光学シーン情報を含む。さらに別の実施形態において、各アナログ信号は、画素単位で、ライン単位で、またはフレーム単位で少なくとも2つの異なるゲインを使用して増幅されてもよい。
一実施形態において、UIシステム1000は、結合画像1020と制御領域1025とを何ら限定されることなく含む表示画像1010を提示する。制御領域1025は、図10Aにおいて、トラック1032に沿って動くように構成されたスライダコントロール1030と、表示画像1010内に表示される視覚マーカを各々含み得る2つ以上の表示点1040とを含むとして示されている。
一実施形態において、UIシステム1000はデジタル写真撮影システム300のプロセッサ複合体310内で実行される調整ツールによって生成され、表示画像1010は表示ユニット312上に表示される。一実施形態において、少なくとも2つのデジタル画像は、結合画像1020を生成するためのソース画像を含む。少なくとも2つのデジタル画像は、NVメモリ316、揮発性メモリ318、メモリサブシステム362またはそれらの任意の組合せの内部に存在してもよい。別の実施形態において、UIシステム1000は、ラップトップコンピュータまたはデスクトップコンピュータなどのコンピュータシステム内で実行される調整ツールによって生成される。少なくとも2つのデジタル画像はコンピュータシステムに送信されてもよく、または取付けられたカメラデバイスによって生成されてもよい。さらに別の実施形態において、UIシステム1000はクラウドベースのサーバコンピュータシステムによって生成されてもよく、当該サーバコンピュータシステムは少なくとも2つのデジタル画像をクライアントブラウザにダウンロードしてもよく、当該ブラウザは以下に説明する結合動作を実行してもよい。別の実施形態において、UIシステム1000はクラウドベースのサーバコンピュータシステムによって生成され、当該サーバコンピュータシステムは、モバイルデバイス内のデジタル写真撮影システムから少なくとも2つのデジタル画像を受信し、結合画像1020の生成に関連して、以下に説明する結合動作を実行してもよい。
スライダコントロール1030は、表示点1040−Aおよび1040−Cに対応する2つの終点間を動くように構成されてもよい。表示点1040−Bなどの1つ以上の表示点が2つの終点間に位置付けられてもよい。当然、他の実施形態において、制御領域1025は、2つの終点間の表示点1040の他の構成を含んでいてもよい。たとえば、制御領域1025は、1つよりも多いまたは少ない表示点を含んでいてもよい。
各表示点1040は、結合画像1020の特定のレンダリング、または2つ以上のデジタル画像の特定の組合せと関連付けられてもよい。たとえば、表示点1040−Aは、第1の露光時間中に捕捉され、第1のゲインを利用して増幅された周囲アナログ信号から生成された第1のデジタル画像と関連付けられてもよく、表示点1040−Cは、第2の露光時間中に捕捉され、第2のゲインを利用して増幅されたフラッシュアナログ信号から生成された第2のデジタル画像と関連付けられてもよい。上述されたように、第1のデジタル画像および第2のデジタル画像の両方は、単一露光からのものであってもよい。さらに、第1のデジタル画像は単一露光の周囲捕捉を含んでいてもよく、第2のデジタル画像は単一露光のフラッシュ捕捉を含んでいてもよい。一実施形態において、第1のゲインおよび第2のゲインは同じゲインであってもよい。別の実施形態において、スライダコントロ
ール1030が表示点1040−Aの真上に位置付けられると、第1のデジタル画像のみが表示画像1010内に結合画像1020として表示されてもよく、同様に、スライダコントロール1030が表示点1040−Cの真上に位置付けられると、第2のデジタル画像のみが表示画像1010内に結合画像1020として表示されてもよい。
一実施形態において、表示点1040−Bは、第1のデジタル画像と第2のデジタル画像とのブレンドと関連付けられてもよい。さらに、第1のデジタル画像は周囲デジタル画像であってもよく、第2のデジタル画像はフラッシュデジタル画像であってもよい。このため、スライダコントロール1030が表示点1040−Bに位置付けられると、結合画像1020は周囲デジタル画像とフラッシュデジタル画像とのブレンドであってもよい。一実施形態において、周囲デジタル画像とフラッシュデジタル画像とのブレンドは、アルファブレンディング、輝度ブレンディング、ダイナミックレンジブレンディング、ならびに/またはトーンマッピングもしくは他の非線形ブレンディングおよびマッピング動作を含んでいてもよい。別の実施形態において、第1のデジタル画像と第2のデジタル画像とのブレンドはいずれも、第1の画像および第2の画像単独のいずれか一方とは異なるより大きいダイナミックレンジまたは他の視覚的特徴を有する新たな画像を提供し得る。一実施形態において、第1のデジタル画像と第2のデジタル画像とのブレンドは、結合画像内のフラッシュ寄与の制御を可能にし得る。このため、第1のデジタル画像と第2のデジタル画像とのブレンドによって、結合画像1020として表示され得るかまたは結合画像1020を生成するために使用され得る、新たな計算画像が提供され得る。この目的のために、第1のデジタル信号と第2のデジタル信号とが結合されることによって、結合画像の少なくとも一部が得られてもよい。さらに、第1のデジタル信号および第2のデジタル信号の一方は、別のデジタル画像またはデジタル信号の少なくとも一部とさらに結合されてもよい。一実施形態において、他方のデジタル画像は、HDR画像を含み得る別の結合画像を含んでいてもよい。
一実施形態において、スライダコントロール1030が表示点1040−Aに位置付けられると第1のデジタル画像が結合画像1020として表示され、スライダコントロール1030が表示点1040−Cに位置付けられると第2のデジタル画像が結合画像1020として表示され、さらに、スライダコントロール1030が表示点1040−Bに位置付けられるとブレンド画像が結合画像1020として表示される。そのような実施形態では、スライダコントロール1030が表示点1040−Aと表示点1040−Cとの間に位置付けられると、第1のデジタル画像および第2のデジタル画像について混合(たとえばブレンド)重みが計算されてもよい。第1のデジタル画像について、混合重みは、スライダコントロール1030が表示点1040−Cにあるときに0.0の値を有し、スライダコントロール1030が表示点1040−Aにあるときに1.0の値を有するとして計算されてもよく、0.0〜1.0という混合重み値の範囲がそれぞれ表示点1040−Cと1040−Aとの間に位置する。第2のデジタル画像について、混合重みは、スライダコントロール1030が表示点1040−Aにあるときに0.0の値を有し、スライダコントロール1030が表示点1040−Cにあるときに1.0の値を有するとして計算されてもよく、0.0〜1.0という混合重み値の範囲がそれぞれ表示点1040−Aと1040−Cとの間に位置する。
別の実施形態において、表示点1040−Aは、画像の第1の組合せと関連付けられていてもよく、表示点1040−Cは、画像の第2の組合せと関連付けられていてもよい。画像の各組合せは、画像の独立したブレンドを含んでいてもよい。たとえば、表示点1040−Aは、図7の周囲画像スタック732(0)のデジタル画像のブレンドと関連付けられていてもよく、表示点1040−Cは、フラッシュ画像スタック732(1)のデジタル画像のブレンドと関連付けられていてもよい。言い換えれば、表示点1040−Aは、ブレンドされた周囲デジタル画像またはブレンドされた周囲デジタル信号と関連付けら
れていてもよく、表示点1040−Cは、ブレンドされたフラッシュデジタル画像またはブレンドされたフラッシュデジタル信号と関連付けられていてもよい。そのような実施形態では、スライダコントロール1030が表示点1040−Aに位置付けられると、ブレンドされた周囲デジタル画像が結合画像1020として表示され、スライダコントロール1030が表示点1040Cに位置付けられると、ブレンドされたフラッシュデジタル画像が結合画像1020として表示される。ブレンドされた周囲デジタル画像およびブレンドされたフラッシュデジタル画像の各々は、固有の光感度と関連付けられていてもよい。
さらに、スライダコントロール1030が表示点1040−Bに位置付けられると、ブレンドされた周囲デジタル画像がブレンドされたフラッシュデジタル画像とブレンドされて新たなブレンド画像を生成してもよい。新たなブレンド画像はさらに別の固有の光感度と関連付けられていてもよく、フラッシュ画像のブレンドによる適切に照らされた前景被写体と、周囲画像のブレンドによる適切な背景露光とのバランスを提供してもよい。そのような実施形態では、スライダコントロール1030が表示点1040−Aと表示点1040−Cとの間に位置付けられると、ブレンドされた周囲デジタル画像およびブレンドされたフラッシュデジタル画像について混合(たとえばブレンド)重みが計算されてもよい。ブレンドされた周囲デジタル画像について、混合重みは、スライダコントロール1030が表示点1040−Cにあるときに0.0の値を有し、スライダコントロール1030が表示点1040−Aにあるときに1.0の値を有するとして計算されてもよく、0.0〜1.0という混合重み値の範囲がそれぞれ表示点1040−Cと1040−Aとの間に位置する。ブレンドされたフラッシュデジタル画像について、混合重みは、スライダコントロール1030が表示点1040−Aにあるときに0.0の値を有し、スライダコントロール1030が表示点1040−Cにあるときに1.0の値を有するとして計算されてもよく、0.0〜1.0という混合重み値の範囲がそれぞれ表示点1040−Aと1040−Cとの間に位置する。
図10Bは、一実施形態に係る、結合画像1020を生成するためのユーザインターフェイス(UI)システム1050を示す。選択肢として、UIシステム1050は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、UIシステム1050は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図10Bに示されるように、UIシステム1050は、図10AのUIシステム1000と実質的に同一であってもよいが、UIシステム1000の制御領域1025とUIシステム1050の制御領域1026とが異なっている。UIシステム1050の制御領域1026は、6つの表示点1040−U、1040−V、1040−W、1040−X、1040−Yおよび1040−Zを含むとして示されている。表示点1040−Uおよび1040−Zはそれぞれ、UIシステム1000の表示点1040−Aおよび1040−Cと同様の終点を表わしていてもよい。さらに、UIシステム1050の制御領域1026は、2つの終点間にトラック1032に沿って配置された、表示点1040−V、1040−W、1040−Xおよび1040−Yなどの複数の表示点1040を含むとして示されている。表示点の各々は、画像スタック732の1つ以上のデジタル画像と関連付けられていてもよい。
たとえば、周囲画像スタック732は、EV−1露光での周囲デジタル画像、EV0露光での周囲デジタル画像およびEV+1露光での周囲デジタル画像の各々を含むように生成されてもよい。上記周囲画像スタック732は、図7の周囲画像スタック732(0)のように、第1の露光時間において捕捉された第1のアナログ記憶平面と関連付けられてもよい。このため、周囲画像スタックは、周囲捕捉中の第1の露光時間とすべて関連付けられる複数のデジタル画像を含んでいてもよく、各デジタル画像は異なるISOまたは光
感度と関連付けられる。さらに、フラッシュ画像スタック732は、EV−1露光でのフラッシュデジタル画像、EV0露光でのフラッシュデジタル画像およびEV+1露光でのフラッシュデジタル画像の各々を含むように生成されてもよい。しかしながら、フラッシュ画像スタック732は、図7のフラッシュ画像スタック732(1)のように、ストロボまたはフラッシュが起動された第2の露光時間において捕捉された第2のアナログ記憶平面と関連付けられてもよい。このため、フラッシュ画像スタックは、ストロボまたはフラッシュが起動された第2の露光時間とすべて関連付けられる第2の複数のデジタル画像を含んでいてもよく、各フラッシュデジタル画像は異なるISOまたは光感度と関連付けられる。
アナログ−デジタルユニット722(0)および722(1)がそれぞれの画像スタック732を生成した後、アナログ−デジタルユニット722(0)および722(1)によって出力されるデジタル画素データは、増加または減少する露光のデジタル画像の単一のシーケンスへと一緒に配置されてもよい。一実施形態において、2つの画像スタックのどの2つのデジタル信号も、同じISO+露光時間の組合せと関連付けられないかもしれず、そのため、各デジタル画像またはデジタル画素データのインスタンスは固有の有効露光を有すると考えられ得る。
一実施形態において、および前述の図の文脈において、表示点1040−U、1040−Vおよび1040−Wの各々は、ある画像スタック732のデジタル画像と関連付けられてもよく、表示点1040−X、1040−Yおよび1040−Zの各々は、別の画像スタック732のデジタル画像と関連付けられてもよい。たとえば、表示点1040−U、1040−Vおよび1040−Wの各々は、異なる周囲デジタル画像または周囲デジタル信号と関連付けられてもよい。同様に、表示点1040−X、1040−Yおよび1040−Zの各々は、異なるフラッシュデジタル画像またはフラッシュデジタル信号と関連付けられてもよい。そのような実施形態では、スライダ1030がトラック1032に沿って左から右に動かされるにつれて、結合画像1020の露光およびフラッシュ寄与が調整または変更されるようであってもよい。当然、スライダ1030がトラック1032に沿った2つの表示点の間にある場合、結合画像1032は、2つの画像スタック732の任意の2つ以上の画像の組合せであってもよい。
別の実施形態において、アナログ−デジタルユニット722(0)およびアナログ−デジタルユニット722(1)によって出力されるデジタル画像またはデジタル画素データのインスタンスは、増加または減少する露光のデジタル画像の単一のシーケンスへと配置されてもよい。そのような実施形態では、シーケンスは、周囲デジタル画像とフラッシュデジタル画像とを繰り返してもよい。たとえば、デジタル画像の各々について、当該デジタル画像の有効露光を決定するために、ゲインと露光時間とを組合せてもよい。デジタル画素データは、たとえば723(0)、723(1)、724(0)、724(1)、725(0)および725(1)といったように、増加する有効露光のデジタル画像の単一のシーケンスを得るために迅速に編成されてもよい。そのような編成では、デジタル画像のシーケンスは、フラッシュデジタル画像と周囲デジタル画像とを繰り返してもよい。当然、有効露光レベルに基づいたデジタル画像またはデジタル画素データのいかなるソーティングも、ゲインの適用およびデジタル信号723〜725の生成の順番に依存することになる。
一実施形態において、露光時間およびゲインは、多くの適当に異なる有効露光を生成するために選択され、または予め定められてもよい。たとえば、3つのゲインが適用されることになっている場合、各ゲインは、最も近い選択されたゲインから2つの露光ストップだけ離れるように選択されてもよい。さらに、第1の露光時間は第2の露光時間から1つの露光ストップだけ離れるように選択されてもよい。そのような実施形態では、2つの露
光ストップによって分離される3つのゲインの選択、および1つの露光ストップによって分離される2つの露光時間の選択により、固有の有効露光を各々有する6つのデジタル画像の生成が保証されてもよい。
別の実施形態において、露光時間およびゲインは、周囲画像スタックとフラッシュ画像スタックとの間に同様の露光の対応画像を生成するために選択され、または予め定められてもよい。たとえば、周囲画像スタックの第1のデジタル画像は、フラッシュ画像スタックの第1のデジタル画像を生成するために利用された露光時間とゲインとの組合せに対応する露光時間とゲインとの組合せを利用して生成されてもよい。これは、周囲画像スタックの第1のデジタル画像がフラッシュ画像スタックの第1のデジタル画像と同様の有効露光を有するように行なわれてもよく、それは、2つのデジタル画像をブレンドすることによって生成された結合画像におけるフラッシュ寄与の調整を助けてもよい。
増加する露光のシーケンスにおいてソートされた複数の画像スタックのデジタル画像を引き続き参照して、デジタル画像の各々は次に、UIシステム1050のトラック1032に沿った表示点と関連付けられてもよい。たとえば、デジタル画像は、表示点1040−U、1040−V、1040−W、1040−X、1040−Yおよび1040−Zでそれぞれ、前述の有効露光が増加する順(723(0)、723(1)、724(0)、724(1)、725(0)および725(1))に、トラック1032に沿ってソートまたは配列されてもよい。
そのような実施形態では、スライダコントロール1030は次に、2つの異なるアナログ記憶平面に基づいて生成される2つのデジタル画像間にある、トラック1032に沿った任意の点に位置付けられてもよく、各アナログ記憶平面は異なるシーン照明と関連付けられている。結果として、周囲照明と関連付けられているアナログ記憶平面に基づいて生成されるデジタル画像が次に、フラッシュ照明と関連付けられているアナログ記憶平面に基づいて生成されるデジタル画像とブレンドされて、結合画像1020を生成してもよい。このように、周囲照明で捕捉された1つ以上の画像が、フラッシュ照明で捕捉された1つ以上の画像とブレンドされてもよい。
たとえば、スライダコントロール1030は、デジタル画素データ724(0)およびデジタル画素データ724(1)と等しく関連付けられ得る表示点に位置付けられてもよい。結果として、第1の露光時間中に周囲照明で捕捉され、ゲインを利用して増幅された周囲アナログ信号から生成された第1のデジタル画像を含み得るデジタル画素データ724(0)は、第2の露光時間中にフラッシュ照明で捕捉され、同じゲインを利用して増幅されたフラッシュアナログ信号から生成された第2のデジタル画像を含み得るデジタル画素データ724(1)とブレンドされて、結合画像1020を生成してもよい。
さらに、別の例として、スライダコントロール1030は、デジタル画素データ724(1)およびデジタル画素データ725(0)と等しく関連付けられ得る表示点に位置付けられてもよい。結果として、第1の露光時間中に周囲照明で捕捉され、第1のゲインを利用して増幅された周囲アナログ信号から生成された第1のデジタル画像を含み得るデジタル画素データ724(1)は、第2の露光時間中にフラッシュ照明で捕捉され、異なるゲインを利用して増幅されたフラッシュアナログ信号から生成された第2のデジタル画像を含み得るデジタル画素データ725(0)とブレンドされて、結合画像1020を生成してもよい。
このため、スライダコントロール1030の位置付けの結果、2つ以上のデジタル信号がブレンドされてもよく、ブレンドされたデジタル信号は異なるアナログ記憶平面からのアナログ値を利用して生成されてもよい。スライダに沿って有効露光をソートし、次にス
ライダコントロール位置に基づいてブレンド動作を可能にするさらに別の利点として、隣接するデジタル画像の各対が、より高いノイズのデジタル画像およびより低いノイズのデジタル画像を含み得る。たとえば、2つの隣接するデジタル信号が同じゲインを利用して増幅される場合、より少ない露光時間で捕捉されたアナログ信号から生成されるデジタル信号にはノイズがより少ない。同様に、2つの隣接するデジタル信号が異なるゲインを利用して増幅される場合、より低いゲイン値で増幅されたアナログ信号から生成されるデジタル信号にはノイズがより少ない。このため、スライダに沿って有効露光に基づいてデジタル信号がソートされる場合、2つ以上のデジタル信号のブレンド動作が、デジタル信号の少なくとも1つにおいて明らかなノイズを低減するように機能し得る。
当然、任意の2つ以上の有効露光が、スライダコントロール1030の表示点に基づいてブレンドされて、UIシステム1050において結合画像1020を生成してもよい。
一実施形態において、第1のデジタル画像および第2のデジタル画像の少なくとも一方と関連付けられている少なくとも1つの混合重み値に基づいて、第1のデジタル画像および第2のデジタル画像に混合動作が適用されてもよい。一実施形態において、1.0の混合重みは、1.0の混合重みと関連付けられているデジタル画像に完全な混合重みを与える。このように、ユーザは第1のデジタル画像と第2のデジタル画像とをブレンドしてもよい。この目的のために、第1のデジタル信号および第2のデジタル信号はユーザ入力に応答してブレンドされてもよい。たとえば、スライディング標識(indicia)が表示され
てもよく、ユーザがスライディング標識を操作したことに応答して第1のデジタル信号および第2のデジタル信号がブレンドされてもよい。
混合重みおよび混合動作のシステムは、第1のデジタル画像と、第2のデジタル画像と、第1のデジタル画像から第2のデジタル画像への段階的進行としてのブレンド画像とを見るためのUIツールを提供する。一実施形態において、ユーザは、スライダコントロール1030の任意の位置に対応する結合画像1020を保存してもよい。UIシステム1000を実現する調整ツールは、任意の技術的に実行可能なジェスチャまたは技術を介して結合画像1020の保存を指示するコマンドを受信してもよい。たとえば、調整ツールは、結合画像1020が占める領域内でユーザがジェスチャを行なうと、結合画像1020を保存するように構成されてもよい。それに代えて、調整ツールは、ユーザがスライダコントロール1030を押すものの他のやり方ではそれを動かさない場合に、結合画像1020を保存してもよい。別の実現例では、調整ツールは、ユーザが保存コマンドの受信にあてられる保存ボタンなどのUI要素(図示せず)を押すなどといったジェスチャを行なうと、結合画像1020を保存してもよい。
この目的のために、スライダコントロールを使用して2つ以上のデジタル画像の寄与を求め、結合画像1020などの最終計算画像を生成してもよい。当業者であれば、混合重みおよび混合動作の上記のシステムは、2つ以上の関連画像と関連付けられている2つ以上の表示点を含むように一般化され得ることを認識するであろう。そのような関連画像は、2つ以上のアナログ記憶平面から生成され、ゼロまたはほぼゼロのフレーム間時間を有し得る、任意数のデジタル画像を含み得るがこれに限定されない。
さらに、スライダ1030ではなく、回転ノブのような異なる連続位置UIコントロールが実現されてもよい。
図10Cは、一実施形態に係る、異なるレベルのストロボ露光を有する結合画像1070〜1072を表示するユーザインターフェイス(UI)システムを示す。選択肢として、図10CのUIシステムは本明細書に開示されている図面のうちのいずれかの図面の文脈において実現されてもよい。しかし、当然、UIシステムは任意の所望の環境において
実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図10Cに示されるように、スライダコントロール1030の位置に基づいて、2つ以上の画像からブレンド画像がブレンドされてもよい。示されるように、スライダコントロール1030は、ブレンド動作への入力のために1つ以上のソース画像を選択するように構成され、ソース画像は、スライダコントロール1030が左から右に動くにつれて増加するストロボ強度と関連付けられている。
たとえば、制御領域1074におけるスライダコントロール1030の位置に基づいて、ストロボまたはフラッシュ照明なしで捕捉された1つ以上のソース画像を利用して、第1のブレンド画像1070が生成されてもよい。具体例として、第1のブレンド画像1070は、周囲照明のみを使用して捕捉された1つ以上の画像を利用して生成されてもよい。周囲照明のみを使用して捕捉された1つ以上の画像は、周囲画像スタック732(0)などの画像スタック732を構成してもよい。示されるように、第1のブレンド画像1070は露光不足の被写体1062を含む。さらに、制御領域1076におけるスライダコントロール1030の位置に基づいて、ストロボまたはフラッシュ照明を使用して捕捉された1つ以上のソース画像を利用して、第3のブレンド画像1072が生成されてもよい。制御領域1076におけるスライダコントロール1030の位置と関連付けられた1つ以上のソース画像は、フラッシュ画像スタック732(1)などの画像スタック732を構成してもよい。示されるように、第3のブレンド画像1072は露光過剰の被写体1082を含む。
スライダコントロール1030を操作することにより、ユーザは、ブレンド画像を生成するために使用されるソース画像の寄与を調整できてもよい。または、言い換えれば、ユーザは、1つ以上の画像のブレンドを調整できてもよい。たとえば、ユーザは、ストロボまたはフラッシュ照明を使用して捕捉された1つ以上のソース画像からのフラッシュ寄与を調整するかまたは増加させることができてもよい。図10Cに示されるように、ユーザが制御領域1075に示されるようにトラックに沿ってスライダコントロール1030をトラック終点から離れるように位置付ける場合、ストロボまたはフラッシュ照明を使用して捕捉された1つ以上のソース画像からのフラッシュ寄与が、周囲照明を使用して捕捉された1つ以上のソース画像とブレンドされてもよい。これは、適切に露光された被写体1081を含む第2のブレンド画像1071の生成をもたらし得る。この目的のために、周囲照明条件で捕捉されたデジタル画像を、ストロボまたはフラッシュ照明で捕捉された同じ写真撮影シーンのデジタル画像とブレンドすることにより、新たなデジタル画像が生成されてもよい。さらに、前景被写体および背景オブジェクトの両方が適切に露光されることを保証するために、ストロボまたはフラッシュ照明で捕捉されたデジタル画像のフラッシュ寄与は、ユーザによって調節可能であってもよい。
適切なストロボ強度の判断は主観的であるかもしれず、本明細書に開示されている実施形態は、ユーザが、デジタル画像の捕捉後に所望のストロボ強度を有する最終結合画像を主観的に選択することを有利に可能にする。実際、ユーザは、単一のシャッターリリースをアサートすることにより、見かけ上単一の写真であるものを捕捉することができる。単一のシャッターリリースは、第1の露光時間中の第1のアナログ記憶平面への1組の周囲サンプルの捕捉と、第1の露光時間の直後の第2の露光時間中の第2のアナログ記憶平面への1組の周囲サンプルの捕捉とを引き起こしてもよい。周囲サンプルは周囲アナログ信号を含んでいてもよく、それは次に、周囲画像スタックの複数のデジタル画像を生成するために使用される。さらに、フラッシュサンプルはフラッシュアナログ信号を含んでいてもよく、それは次に、フラッシュ画像スタックの複数のデジタル画像を生成するために使用される。周囲画像スタックおよびフラッシュ画像スタックの2つ以上の画像をブレンドすることにより、ユーザはそれにより、所望のストロボ強度を有する最終結合画像を識別
してもよい。さらに、ユーザが後で最終結合画像を選択できるように、周囲画像スタックおよびフラッシュ画像スタックの両方が記憶されてもよい。
他の実施形態において、2つ以上のスライダコントロールがUIシステムで提示されてもよい。たとえば、一実施形態において、第1のスライダコントロールは、周囲画像スタックのデジタル画像と関連付けられてもよく、第2のスライダコントロールは、フラッシュ画像スタックのデジタル画像と関連付けられてもよい。これらのスライダコントロールを独立して操作することにより、ユーザは、周囲デジタル画像のブレンドを、フラッシュデジタル画像のブレンドから独立して制御し得る。そのような実施形態は、ユーザがまず、背景オブジェクトの好ましい露光を提供する周囲画像スタックからの画像のブレンドを選択することを可能し得る。次に、ユーザはフラッシュ寄与を選択してもよい。たとえば、ユーザは、前景オブジェクトの好ましい露光を提供するフラッシュ画像スタックからの画像のブレンドを選択してもよい。このため、周囲寄与およびフラッシュ寄与の独立した選択を可能にすることにより、最終ブレンドまたは結合画像は、適切に露光された前景オブジェクトと、適切に露光された背景オブジェクトとを含み得る。
別の実施形態において、ブレンド画像の1つ以上の所与の領域のための所望の露光が、ユーザがブレンド画像の別の領域を選択することによって識別されてもよい。たとえば、1つ以上の所与の領域が現在、露光不足または露光過剰である一方、ユーザによって選択された別の領域は現在、UIシステム内で適切な露光で表示されてもよい。ユーザが別の領域を選択したことに応答して、周囲画像スタックおよびフラッシュ画像スタックからのソース画像のブレンドが、ブレンド画像の1つ以上の所与の領域で適切な露光を提供するように識別されてもよい。ブレンド画像は次に、1つ以上の所与の領域で適切な露光を提供するソース画像の識別されたブレンドを反映するように更新されてもよい。
別の実施形態において、所与の画像スタックの画像同士がブレンドされてから、異なる画像スタックの画像とのブレンド動作が行なわれてもよい。たとえば、固有の光感度を各々有する2つ以上の周囲デジタル画像または周囲デジタル信号が、ブレンドされた周囲光感度を有するブレンドされた周囲デジタル画像を生成するために、ブレンドされてもよい。さらに、ブレンドされた周囲デジタル画像は次に、1つ以上のフラッシュデジタル画像またはフラッシュデジタル信号とブレンドされてもよい。1つ以上のフラッシュデジタル画像とのブレンドは、ユーザー入力に応答するものであってもよい。別の実施形態において、ブレンドされたフラッシュ光感度を有するブレンドされたフラッシュデジタル画像を生成するために、2つ以上のフラッシュデジタル画像がブレンドされてもよく、ブレンドされたフラッシュデジタル画像は次に、ブレンドされた周囲デジタル画像とブレンドされてもよい。
別の例として、固有の光感度を各々有する2つ以上のフラッシュデジタル画像またはフラッシュデジタル信号が、ブレンドされたフラッシュ光感度を有するブレンドされたフラッシュデジタル画像を生成するために、ブレンドされてもよい。さらに、ブレンドされたフラッシュデジタル画像は次に、1つ以上の周囲デジタル画像または周囲デジタル信号とブレンドされてもよい。1つ以上の周囲デジタル画像とのブレンドは、ユーザー入力に応答するものであってもよい。別の実施形態において、ブレンドされた周囲光感度を有するブレンドされた周囲デジタル画像を生成するために、2つ以上の周囲デジタル画像がブレンドされてもよく、ブレンドされた周囲デジタル画像は次に、ブレンドされたフラッシュデジタル画像とブレンドされてもよい。
一実施形態において、周囲画像スタックは、フラッシュ画像スタックのデジタル画像とは異なる有効露光でのデジタル画像を含んでいてもよい。これは、周囲画像スタックおよびフラッシュ画像スタックの各々を生成するための異なるゲイン値の適用によるものかも
しれない。たとえば、特定のゲイン値が、対応するフラッシュアナログ信号に対する適用のためではなく、周囲アナログ信号に対する適用のために選択されてもよい。
図11は、一実施形態に係る、結合画像を生成するための方法1100のフロー図である。選択肢として、方法1100は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、方法1100は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
方法1100はステップ1110で開始し、プロセッサ複合体310などのプロセッサ複合体内で実行される調整ツールが、図10の文脈において説明した第1のデジタル画像および第2のデジタル画像などの少なくとも2つの関連したソース画像をロードする。ステップ1112において、調整ツールは、図10Aのスライダコントロール1030などのUIコントロールの位置をデフォルト設定に初期化する。一実施形態において、デフォルト設定は、UIコントロールの値の範囲についての、図10Aの表示点1040−Aなどの終点を含む。別の実施形態において、デフォルト設定は、少なくとも2つの関連したソース画像のうちの1つ以上に基づく計算値を含む。特定の実施形態において、デフォルト設定は、少なくとも第1のデジタル画像および第2のデジタル画像を含む画像オブジェクトと関連してユーザによって予め選択された値に初期化される。
ステップ1114において、調整ツールは、UIコントロールの位置および少なくとも2つの関連したソース画像に基づいて、図10Aの結合画像1020などの結合画像を生成して表示する。一実施形態において、結合画像を生成することは、図10A〜10Cにおいて前述したように、少なくとも2つの関連したソース画像を混合することを含む。ステップ1116において、調整ツールはユーザ入力を受信する。ユーザ入力は、表示画像1010内の選択ジェスチャまたはクリックジェスチャなどのUIジェスチャを含み得るがこれらに限定されない。ステップ1120において、ユーザ入力がUIコントロールの位置を変更すべき場合、調整ツールはUIコントロールの位置を変更し、方法はステップ1114に戻る。そうでなければ、方法はステップ1130に進む。
ステップ1130において、ユーザ入力が終了コマンドを含んでいない場合、方法はステップ1140に進み、調整ツールはユーザ入力と関連付けられているコマンドを実行する。一実施形態において、当該コマンドは保存コマンドを含み、調整ツールは次いで、UIコントロールの位置に従って生成される結合画像を保存する。方法は次いでステップ1116に戻る。
ステップ1130に戻って、ユーザ入力が終了コマンドを含んでいる場合、方法はステップ1190において終わり、調整ツールが終了することによって実行を終わらせる。
要約すると、1つ以上の周囲デジタル画像と1つ以上のフラッシュデジタル画像とを有益にブレンドする新たなデジタル写真を生成するための技術であって、1つ以上の周囲デジタル画像および1つ以上のフラッシュデジタル画像は、単一露光中の単一の画像センサからではなく、2つの異なるアナログ記憶平面から受信した異なるアナログ信号に基づいている、技術が開示される。1つ以上の周囲デジタル画像は、任意の技術的に実行可能なブレンド技術を実現する機能に基づいて、1つ以上のフラッシュデジタル画像とブレンドされてもよい。調整ツールは、ユーザが関連画像同士を結合するためのパラメータの段階的変化から新たなデジタル信号を選択して保存することを可能にするユーザインターフェイス技術を実現してもよい。
本明細書において開示された実施形態の1つの利点は、デジタル写真が、写真撮影シー
ンの単一露光の2つ以上の異なるサンプルを使用してユーザ入力に基づいて選択的に生成され得ることである。したがって、ユーザ入力に基づいて生成されるデジタル写真は、どの個々のサンプルよりも大きいダイナミックレンジを有していてもよい。さらに、ゼロまたはほぼゼロのフレーム間時間で2つ以上の異なるサンプルを使用してHDR画像を生成するので、モーションアーティファクトなしでHDR画像の迅速な生成が可能となる。さらに、本明細書において開示された実施形態は、同じ写真撮影シーンの1つ以上の周囲デジタル画像を1つ以上のフラッシュデジタル画像とブレンドすることによる、理想的な量のフラッシュ寄与でのブレンド画像の生成を可能にし得る。
図12は、一実施形態に係る、ネットワークを利用して結合画像を生成するためのメッセージシーケンス1200を示す。選択肢として、メッセージシーケンス1200は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、メッセージシーケンス1200は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図12に示されるように、ワイヤレスモバイルデバイス376(0)は少なくとも2つのデジタル画像を生成する。一実施形態において、少なくとも2つのデジタル画像は2つ以上のアナログ記憶平面のアナログ値を増幅することによって生成されてもよく、生成される各デジタル画像は適用されるゲインのデジタル出力に対応していてもよい。一実施形態において、第1のデジタル画像は、写真撮影シーンのEV−1露光を含んでいてもよく、第2のデジタル画像は、写真撮影シーンのEV+1露光を含んでいてもよい。別の実施形態において、少なくとも2つのデジタル画像は、写真撮影シーンのEV−2露光、写真撮影シーンのEV0露光、および写真撮影シーンのEV+2露光を含んでいてもよい。さらに別の実施形態において、少なくとも2つのデジタル画像は、1つ以上の画像スタックを構成してもよい。たとえば、少なくとも2つのデジタル画像は、周囲画像スタックおよび/またはフラッシュ画像スタックを構成してもよい。
再び図12を参照して、少なくとも2つのデジタル画像は、データネットワーク474によってワイヤレスモバイルデバイス376(0)からデータセンタ480に送信される。少なくとも2つのデジタル画像は、任意の技術的に実行可能なネットワーク通信方法を使用して、ワイヤレスモバイルデバイス376(0)によってデータセンタ480に送信されてもよい。
さらに、一実施形態において、データセンタ480は次いで、少なくとも2つのデジタル画像を処理して第1の計算画像を生成してもよい。少なくとも2つのデジタル画像の処理は、少なくとも2つのデジタル画像の各々の少なくとも一部をブレンドまたは併合して第1の計算画像を生成する、少なくとも2つのデジタル画像の任意の処理を含んでいてもよい。この目的のために、第1のデジタル画像および第2のデジタル画像はワイヤレスモバイルデバイス376(0)から遠隔で結合されてもよい。たとえば、少なくとも2つのデジタル画像の処理は、HDR画像結合動作を含むがこれに限定されない任意の種類のブレンド動作を含んでいてもよい。一実施形態において、少なくとも2つのデジタル画像の処理は、データセンタ408において受信したデジタル画像のうちのどの1つよりも大きいダイナミックレンジを有する第1の計算画像を生成する任意の計算を含んでいてもよい。したがって、一実施形態において、データセンタ480によって生成される第1の計算画像はHDR画像であってもよい。他の実施形態では、データセンタ480によって生成される第1の計算画像はHDR画像の少なくとも一部であってもよい。
第1の計算画像を生成した後、データセンタ480は次いで第1の計算画像をワイヤレスモバイルデバイス376(0)に送信してもよい。一実施形態において、ワイヤレスモバイルデバイス376(0)からの少なくとも2つのデジタル画像の送信、およびワイヤ
レスモバイルデバイス376(0)における第1の計算画像の受信は、ワイヤレスモバイルデバイス376(0)のユーザから介入または命令を全く受けずに起こってもよい。たとえば、一実施形態において、ワイヤレスモバイルデバイス376(0)は、写真撮影シーンを捕捉して当該写真撮影シーンを表わすアナログ信号を利用して少なくとも2つのデジタル画像を生成した直後に、少なくとも2つのデジタル画像をデータセンタ480に送信してもよい。写真撮影シーンは、ワイヤレスモバイルデバイス376(0)に対する、電子シャッターコントロールのユーザ入力もしくは選択、またはマニュアルシャッターボタンの押下に基づいて捕捉されてもよい。さらに、少なくとも2つのデジタル画像を受信したことに応答して、データセンタ480は少なくとも2つのデジタル画像に基づいてHDR画像を生成し、HDR画像をワイヤレスモバイルデバイス376(0)に送信してもよい。ワイヤレスモバイルデバイス376(0)は次いで、受信したHDR画像を表示してもよい。したがって、ワイヤレスモバイルデバイス376(0)のユーザは、データセンタ480によって計算されたHDR画像をワイヤレスモバイルデバイス376(0)のディスプレイ上で見ることができる。このため、ワイヤレスモバイルデバイス376(0)がHDR画像処理をまったく実行しない場合でも、ユーザは、新たに計算されたHDR画像を、写真撮影シーンを捕捉して当該HDR画像が基づく少なくとも2つのデジタル画像を生成したほぼ直後に、ワイヤレスモバイルデバイス376(0)上で見ることができる。
図12に示されるように、ワイヤレスモバイルデバイス376(0)は、少なくとも2つのデジタル画像の処理の調整を要求する。一実施形態において、データセンタ480から第1の計算画像を受信すると、ワイヤレスモバイルデバイス376(0)は、図10のUIシステム1000などのUIシステムにおいて第1の計算画像を表示してもよい。そのような実施形態では、ユーザは、スライダコントロール1030などのスライダコントロールを制御して、データセンタ480に送信された少なくとも2つのデジタル画像の処理を調整してもよい。たとえば、ユーザがスライダコントロールを操作すると、コマンドがデータセンタ480に送信されてもよい。一実施形態において、データセンタ480に送信されるコマンドは、少なくとも2つのデジタル画像の処理を調整する際に使用される混合重みを含んでいてもよい。他の実施形態では、少なくとも2つのデジタル画像の処理の調整を求める要求は、データセンタ480が少なくとも2つのデジタル画像を再処理して第2の計算画像を生成するために使用し得る、ワイヤレスモバイルデバイス376(0)からの任意の命令を含む。ユーザがスライダコントロールを操作すると、ストロボまたはフラッシュ照明で捕捉された1つ以上のソース画像のフラッシュ寄与が調整されてもよい。
図12に示されるように、処理の調整を求める要求を受信すると、データセンタ480は少なくとも2つのデジタル画像を再処理して第2の計算画像を生成する。一実施形態において、データセンタ480は、ワイヤレスモバイルデバイス376(0)から受信したパラメータを使用して少なくとも2つのデジタル画像を再処理してもよい。そのような実施形態では、パラメータは、少なくとも2つのデジタル画像を有する入力として、データセンタ480において実行されるHDR処理アルゴリズムに提供されてもよい。第2の計算画像を生成した後、第2の計算画像は次いで、ユーザに表示するためにデータセンタ480からワイヤレスモバイルデバイス376(0)に送信されてもよい。
再び図12を参照して、ワイヤレスモバイルデバイス376(0)は、第2の計算画像を別のワイヤレスモバイルデバイス376(1)と共有する。一実施形態において、ワイヤレスモバイルデバイス376(0)は、データセンタ480から受信した任意の計算画像を別のワイヤレスモバイルデバイス376(1)と共有してもよい。たとえば、ワイヤレスモバイルデバイス376(0)は、データセンタ480から受信した第1の計算画像を共有してもよい。図12に示されるように、データセンタ480は、同じデータネット
ワーク474上でワイヤレスモバイルデバイス376(0)およびワイヤレスモバイルデバイス376(1)と通信する。当然、他の実施形態では、ワイヤレスモバイルデバイス376(0)は、データセンタ480およびワイヤレスモバイルデバイス376(1)が通信のために利用するネットワークとは異なるネットワークを介してデータセンタ480と通信してもよい。
別の実施形態において、ワイヤレスモバイルデバイス376(0)は、共有要求をデータセンタ480に送信することによって計算画像を別のワイヤレスモバイルデバイス376(1)と共有してもよい。たとえば、ワイヤレスモバイルデバイス376(0)は、データセンタ480が第2の計算画像を別のワイヤレスモバイルデバイス376(1)に転送することを要求してもよい。共有要求を受信したことに応答して、データセンタ480は次いで第2の計算画像をワイヤレスモバイルデバイス376(1)に送信してもよい。ある実施形態において、第2の計算画像を別のワイヤレスモバイルデバイス376(1)に送信することは、別のワイヤレスモバイルデバイス376(1)が第2の計算画像にアクセスし得るURLを送信することを含んでいてもよい。
さらに、図12に示されるように、第2の計算画像を受信した後、別のワイヤレスモバイルデバイス376(1)は、少なくとも2つのデジタル画像の処理の調整を求める要求をデータセンタ480に送信してもよい。たとえば、別のワイヤレスモバイルデバイス376(1)は、図10のUIシステム1000などのUIシステムにおいて第2の計算画像を表示してもよい。別のワイヤレスモバイルデバイス376(1)のユーザは、UIコントロールを操作して、ワイヤレスモバイルデバイス376(0)によってデータセンタ480に送信された少なくとも2つのデジタル画像の処理を調整してもよい。たとえば、別のワイヤレスモバイルデバイス376(1)においてユーザがスライダコントロールを操作すると、コマンドが生成されて処理のためにデータセンタ480に送信されてもよい。ある実施形態において、別のワイヤレスモバイルデバイス376(1)から送信される少なくとも2つのデジタル画像の処理の調整を求める要求は、別のワイヤレスモバイルデバイス376(1)におけるスライダコントロールのユーザ操作に基づいて生成されるコマンドを含む。他の実施形態では、少なくとも2つのデジタル画像の処理の調整を求める要求は、データセンタ480が少なくとも2つのデジタル画像を再処理して第3の計算画像を生成するために使用し得る、ワイヤレスモバイルデバイス376(1)からの任意の命令を含む。
図12に示されるように、処理の調整を求める要求を受信すると、データセンタ480は少なくとも2つのデジタル画像を再処理して第3の計算画像を生成する。一実施形態において、データセンタ480は、ワイヤレスモバイルデバイス376(1)から受信した混合重みを使用して少なくとも2つのデジタル画像を再処理してもよい。そのような実施形態では、ワイヤレスモバイルデバイス376(1)から受信した混合重みは、少なくとも2つのデジタル画像を有する入力として、データセンタ480において実行されるHDR処理アルゴリズムに提供されてもよい。第3の計算画像を生成した後、第3の計算画像は次いで、表示のためにデータセンタ480からワイヤレスモバイルデバイス376(1)に送信される。さらに、第3の計算画像を受信した後、ワイヤレスモバイルデバイス376(1)は、第3の計算画像を記憶することを求める要求をデータセンタ480に送信してもよい。別の実施形態において、データセンタ480と通信している他のワイヤレスモバイルデバイス376が計算画像の記憶を要求してもよい。たとえば、図12の文脈において、ワイヤレスモバイルデバイス376(0)は、第1の計算画像または第2の計算画像の記憶をいつでも要求してもよい。
計算画像の記憶を求める要求を受信したことに応答して、データセンタ480は、後で取出すために計算画像を記憶してもよい。たとえば、記憶される計算画像は、当該計算画
像を生成するために適用された処理を再び適用することなく当該計算画像を後で取出すことができるように記憶されてもよい。一実施形態において、データセンタ480は、データセンタ480にローカルな記憶システム486内に計算画像を記憶してもよい。他の実施形態では、データセンタ480は、データセンタ481などの、データセンタ480にローカルでないハードウェアデバイス内に計算画像を記憶してもよい。そのような実施形態では、データセンタ480は記憶のために計算画像をデータネットワーク474上で送信してもよい。
さらに、いくつかの実施形態において、計算画像は、当該計算画像を生成するために利用された少なくとも2つのデジタル画像に関連して記憶されてもよい。たとえば、計算画像は、データセンタ480または481によって供給されるURLを通すなどして、当該計算画像を生成するために利用された少なくとも2つのデジタル画像と関連付けられてもよい。記憶された計算画像を少なくとも2つのデジタル画像にリンクすることによって、計算画像へのアクセスを有する任意のユーザまたはデバイスには、少なくとも2つのデジタル画像に適用される処理を後で調整し、それによって新たな計算画像を生成する機会も与えられ得る。
この目的のために、ワイヤレスモバイルデバイス376のユーザは、データネットワーク474を介してアクセス可能なデータセンタ480の処理能力を利用して、他のワイヤレスモバイルデバイス376が捕捉してその後アクセスを提供したデジタル画像を利用してHDR画像を生成してもよい。たとえば、デジタル画像を含むデジタル信号が遠隔で結合されるようにネットワーク上で転送されてもよく、結合されたデジタル信号によってHDR画像の少なくとも一部が得られてもよい。さらに、ユーザは、新たなHDR写真を生成するのに必要な処理または計算を実行するために自身のワイヤレスモバイルデバイス376に依拠することなく、2つ以上のデジタル画像のブレンドまたはフラッシュ寄与を調整して当該新たなHDR写真を生成することが可能であってもよい。続いて、ユーザのデバイスは、2つ以上のデジタル信号の結合によって得られたHDR画像の少なくとも一部を受信してもよい。したがって、ユーザのワイヤレスモバイルデバイス376は、HDR処理をデータセンタにオフロードすることによって電力を節約することができる。さらに、ユーザは、HDR画像生成と関連付けられている高出力処理タスクを実行可能なワイヤレスモバイルデバイス376を有していないにもかかわらず、HDR写真を効果的に捕捉することが可能であってもよい。最後に、ユーザは、自身でHDRアルゴリズムを選択する必要なく、かつ、そのようなHDRアルゴリズムを実現するソフトウェアを自身のワイヤレスモバイルデバイス376上にインストールすることなく、写真撮影シーンにとって最良であると判断されるアルゴリズムを使用して生成されるHDR写真を得ることが可能であってもよい。たとえば、ユーザは、特定の写真撮影シーンにとって最良のHDRアルゴリズムを識別して選択するためにデータセンタ480に依拠してもよい。
本発明の1つの利点は、デジタル写真が、写真撮影シーンの単一露光から生成される2つ以上の異なる画像を使用してユーザ入力に基づいて選択的に生成され得ることである。したがって、ユーザ入力に基づいて生成されるデジタル写真は、どの個々の画像よりも大きいダイナミックレンジを有していてもよい。加えて、ユーザは、生成されたデジタル写真への異なる画像のフラッシュ寄与を選択的に調整してもよい。さらに、ゼロまたはほぼゼロのフレーム間時間で2つ以上の異なる画像を使用してHDR画像を生成するので、モーションアーティファクトなしでHDR画像の迅速な生成が可能となる。
さらに、写真撮影シーン内にモーションが少しでもある場合、または捕捉デバイスが捕捉中にジッタを少しでも経験した場合、露光間のいかなるフレーム間時間によっても、併合された最終HDR写真内にモーションブラーが発生し得る。そのようなブラーは、フレーム間時間が増加するにつれて著しく強調され得る。この問題によって、現在のHDR写
真撮影は、非常に静的なシーン以外、いかなる状況においても明確な画像を捕捉するためのソリューションとして有効ではなくなっている。さらに、HDR写真を生成するための従来の技術は、著しい計算リソースを伴い、かつ、結果得られる画像の画像品質を低減するアーティファクトを作り出す。したがって、厳密に選択肢として、上記の問題の1つ以上が、本明細書において開示された技術の1つ以上を利用して対応されてもよく、または対応されなくてもよい。
さらに、さまざまな実施形態において、本明細書において開示される技術の1つ以上は、さまざまな市場および/または製品に適用されてもよい。たとえば、当該技術は写真捕捉を参照して開示されたが、テレビ、ウェブ会議(またはライブストリーミング機能など)、セキュリティカメラ(たとえば特徴を判断するためにコントラストを増加させるなど)、自動車(たとえば運転支援システム、車内情報娯楽システムなど)、および/または、カメラ入力を含む任意の他の製品に適用されてもよい。
さまざまな実施形態を上に説明してきたが、それらは限定としてではなく単なる例として提示されたことを理解すべきである。このため、好ましい実施形態の幅および範囲は上述の例示的な実施形態のいずれによっても限定されるべきではなく、添付の特許請求の範囲およびそれらの均等物に従ってのみ定義されるべきである。

Claims (20)

  1. 装置であって、
    画像センサのフォトダイオードからの電気信号に基づいて周囲サンプルを記憶し、
    前記画像センサの前記フォトダイオードからの前記電気信号に基づいてフラッシュサンプルを記憶し、
    少なくとも1つの画像を生成するために、前記周囲サンプルに基づいた第1の値と、前記フラッシュサンプルに基づいた第2の値とを出力し、
    2つ以上のゲインを利用して前記第1の値および前記第2の値のうちの少なくとも1つを増幅する
    ための回路を含む、装置。
  2. 前記装置は、前記電気信号が前記画像センサの前記フォトダイオードから受信されるフォトダイオード電流を含むように動作可能である、請求項1に記載の装置。
  3. 前記装置は、前記第1の値が周囲アナログ信号において出力され、前記第2の値がフラッシュアナログ信号において出力されるように動作可能である、請求項2に記載の装置。
  4. 前記装置は、前記2つ以上のゲインを利用した前記第1の値および前記第2の値のうちの前記少なくとも1つの増幅が、前記2つ以上のゲインを利用して前記周囲アナログ信号および前記フラッシュアナログ信号のうちの少なくとも1つを増幅することを含むように動作可能である、請求項3に記載の装置。
  5. 前記装置は、第1の増幅周囲アナログ信号および第2の増幅周囲アナログ信号を生成するために、前記周囲アナログ信号が前記2つ以上のゲインを利用して増幅されるように動作可能である、請求項4に記載の装置。
  6. 前記装置は、前記第1の増幅周囲アナログ信号が第1の光感度を有する第1の周囲デジタル信号に変換され、前記第2の増幅周囲アナログ信号が第2の光感度を有する第2の周囲デジタル信号に変換されるように動作可能である、請求項5に記載の装置。
  7. 前記装置は、ユーザ入力に応答して、前記第1の周囲デジタル信号が前記第2の周囲デジタル信号とブレンドされるように動作可能である、請求項6に記載の装置。
  8. 前記装置は、スライディング標識が表示され、前記ユーザ入力が前記スライディング標識の操作を含むように動作可能である、請求項7に記載の装置。
  9. 前記装置は、
    前記第1の周囲デジタル信号が前記第2の周囲デジタル信号とブレンドされて、ブレンドされた周囲光感度を有するブレンドされた周囲デジタル信号をもたらし、
    少なくとも1つの増幅フラッシュアナログ信号を生成するために、前記フラッシュアナログ信号が少なくとも1つのゲインを利用して増幅され、
    前記少なくとも1つの増幅フラッシュアナログ信号が少なくとも1つのフラッシュデジタル信号に変換され、
    ユーザ入力に応答して、前記ブレンドされた周囲デジタル信号が前記少なくとも1つのフラッシュデジタル信号とブレンドされる、
    ように動作可能である、請求項6に記載の装置。
  10. 前記装置は、
    前記第1の周囲デジタル信号が前記第2の周囲デジタル信号とブレンドされて、ブレン
    ドされた周囲光感度を有するブレンドされた周囲デジタル信号をもたらし、
    2つ以上の増幅フラッシュアナログ信号を生成するために、前記フラッシュアナログ信号が別の2つ以上のゲインを利用して増幅され、
    前記2つ以上の増幅フラッシュアナログ信号が2つ以上のフラッシュデジタル信号に変換され、
    ブレンドされたフラッシュ光感度を有するブレンドされたフラッシュデジタル信号を生成するために、前記2つ以上のフラッシュデジタル信号がブレンドされ、
    前記ブレンドされたフラッシュデジタル信号が前記ブレンドされた周囲デジタル信号とブレンドされる、
    ように動作可能である、請求項6に記載の装置。
  11. 前記装置は、第1の増幅フラッシュアナログ信号および第2の増幅フラッシュアナログ信号を生成するために、前記フラッシュアナログ信号が前記2つ以上のゲインを利用して増幅されるように動作可能である、請求項4に記載の装置。
  12. 前記装置は、前記第1の増幅フラッシュアナログ信号が第1の光感度を有する第1のフラッシュデジタル信号に変換され、前記第2の増幅フラッシュアナログ信号が第2の光感度を有する第2のフラッシュデジタル信号に変換されるように動作可能である、請求項11に記載の装置。
  13. 前記装置は、ユーザ入力に応答して、前記第1のフラッシュデジタル信号が前記第2のフラッシュデジタル信号とブレンドされるように動作可能である、請求項12に記載の装置。
  14. 前記装置は、スライディング標識が表示され、前記ユーザ入力が前記スライディング標識の操作を含むように動作可能である、請求項13に記載の装置。
  15. 前記装置は、
    前記第1のフラッシュデジタル信号が前記第2のフラッシュデジタル信号とブレンドされて、ブレンドされたフラッシュ光感度を有するブレンドされたフラッシュデジタル信号をもたらし、
    少なくとも1つの増幅周囲アナログ信号を生成するために、前記周囲アナログ信号が少なくとも1つのゲインを利用して増幅され、
    前記少なくとも1つの増幅周囲アナログ信号が少なくとも1つの周囲デジタル信号に変換され、
    ユーザ入力に応答して、前記ブレンドされたフラッシュデジタル信号が前記少なくとも1つの周囲デジタル信号とブレンドされる、
    ように動作可能である、請求項12に記載の装置。
  16. 前記装置は、
    前記第1のフラッシュデジタル信号が前記第2のフラッシュデジタル信号とブレンドされて、ブレンドされたフラッシュ光感度を有するブレンドされたフラッシュデジタル信号をもたらし、
    2つ以上の増幅周囲アナログ信号を生成するために、前記周囲アナログ信号が別の2つ以上のゲインを利用して増幅され、
    前記2つ以上の増幅周囲アナログ信号が2つ以上の周囲デジタル信号に変換され、
    ブレンドされた周囲光感度を有するブレンドされた周囲デジタル信号を生成するために、前記2つ以上の周囲デジタル信号がブレンドされ、
    前記ブレンドされた周囲デジタル信号が前記ブレンドされたフラッシュデジタル信号とブレンドされる、
    ように動作可能である、請求項12に記載の装置。
  17. 前記2つ以上のゲインは、前記別の2つ以上のゲインと同じゲインを含み、前記ゲインの各々は異なる光感度値と関連付けられている、請求項16に記載の装置。
  18. 前記装置は、前記第1の周囲デジタル信号および前記第2の周囲デジタル信号を、遠隔で結合されるようにネットワーク上で転送し、高ダイナミックレンジ(HDR)画像の少なくとも一部をもたらすように動作可能である、請求項6に記載の装置。
  19. 非一時的なコンピュータ読取可能媒体上で具現化されるコンピュータプログラム製品であって、
    画像センサのフォトダイオードからの電気信号に基づいた周囲サンプルの記憶を可能にするためのコードと、
    前記画像センサの前記フォトダイオードからの前記電気信号に基づいたフラッシュサンプルの記憶を可能にするためのコードと、
    前記周囲サンプルに基づいた第1の値と前記フラッシュサンプルに基づいた第2の値とを利用して少なくとも1つの画像を生成するためのコードとを含み、
    前記コンピュータプログラム製品は、前記第1の値および前記第2の値のうちの少なくとも1つが2つ以上のゲインを利用して増幅されるように動作可能である、コンピュータプログラム製品。
  20. 画像センサのフォトダイオードからの電気信号に基づいて周囲サンプルを記憶するステップと、
    前記画像センサの前記フォトダイオードからの前記電気信号に基づいてフラッシュサンプルを記憶するステップと、
    少なくとも1つの画像を生成するために、前記周囲サンプルに基づいた第1の値と、前記フラッシュサンプルに基づいた第2の値とを出力するステップと、
    2つ以上のゲインを利用して前記第1の値および前記第2の値のうちの少なくとも1つを増幅するステップとを含む、方法。
JP2021076679A 2014-11-06 2021-04-28 フラッシュ照明画像および周囲照明画像を同時に捕捉するための画像センサ装置および方法 Pending JP2021119701A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/535,274 2014-11-06
US14/535,274 US9154708B1 (en) 2014-11-06 2014-11-06 Image sensor apparatus and method for simultaneously capturing flash and ambient illuminated images
JP2017544282A JP7179461B2 (ja) 2014-11-06 2015-11-04 フラッシュ照明画像および周囲照明画像を同時に捕捉するための画像センサ装置および方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2017544282A Division JP7179461B2 (ja) 2014-11-06 2015-11-04 フラッシュ照明画像および周囲照明画像を同時に捕捉するための画像センサ装置および方法

Publications (1)

Publication Number Publication Date
JP2021119701A true JP2021119701A (ja) 2021-08-12

Family

ID=54203966

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2017544282A Active JP7179461B2 (ja) 2014-11-06 2015-11-04 フラッシュ照明画像および周囲照明画像を同時に捕捉するための画像センサ装置および方法
JP2021076679A Pending JP2021119701A (ja) 2014-11-06 2021-04-28 フラッシュ照明画像および周囲照明画像を同時に捕捉するための画像センサ装置および方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2017544282A Active JP7179461B2 (ja) 2014-11-06 2015-11-04 フラッシュ照明画像および周囲照明画像を同時に捕捉するための画像センサ装置および方法

Country Status (4)

Country Link
US (1) US9154708B1 (ja)
EP (1) EP3216212B1 (ja)
JP (2) JP7179461B2 (ja)
WO (1) WO2016073643A1 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8976264B2 (en) 2012-09-04 2015-03-10 Duelight Llc Color balance in digital photography
US9531961B2 (en) 2015-05-01 2016-12-27 Duelight Llc Systems and methods for generating a digital image using separate color and intensity data
US9918017B2 (en) 2012-09-04 2018-03-13 Duelight Llc Image sensor apparatus and method for obtaining multiple exposures with zero interframe time
US10558848B2 (en) 2017-10-05 2020-02-11 Duelight Llc System, method, and computer program for capturing an image with correct skin tone exposure
US20210001810A1 (en) * 2019-07-02 2021-01-07 Duelight Llc System, method, and computer program for enabling operation based on user authorization
US9819849B1 (en) 2016-07-01 2017-11-14 Duelight Llc Systems and methods for capturing digital images
US9807322B2 (en) 2013-03-15 2017-10-31 Duelight Llc Systems and methods for a digital image sensor
US10477087B2 (en) * 2017-11-16 2019-11-12 Duelight Llc System, method, and computer program for capturing a flash image based on ambient and flash metering
US10924688B2 (en) 2014-11-06 2021-02-16 Duelight Llc Image sensor apparatus and method for obtaining low-noise, high-speed captures of a photographic scene
US11463630B2 (en) 2014-11-07 2022-10-04 Duelight Llc Systems and methods for generating a high-dynamic range (HDR) pixel stream
GB2549696A (en) * 2016-04-13 2017-11-01 Sony Corp Image processing method and apparatus, integrated circuitry and recording medium
CN106023929B (zh) * 2016-07-20 2018-08-24 深圳市华星光电技术有限公司 显示装置的白平衡调整方法及其系统
US10270958B2 (en) 2016-09-01 2019-04-23 Duelight Llc Systems and methods for adjusting focus based on focus target information
CN107205126B (zh) * 2017-06-30 2020-04-24 联想(北京)有限公司 一种控制方法及处理装置
CN110906864B (zh) 2017-08-14 2022-04-29 深圳市汇顶科技股份有限公司 三维影像系统及电子装置
US10992873B2 (en) * 2019-01-18 2021-04-27 Qualcomm Incorporated Systems and methods for color matching for realistic flash images
US10554890B1 (en) * 2019-02-18 2020-02-04 Samsung Electronics Co., Ltd. Apparatus and method for generating low-light images with improved bokeh using mobile electronic device
KR102156431B1 (ko) * 2019-03-06 2020-09-16 한국표준과학연구원 거리 측정 장치 및 거리 측정 장치의 동작 방법
US11062436B2 (en) 2019-05-10 2021-07-13 Samsung Electronics Co., Ltd. Techniques for combining image frames captured using different exposure settings into blended images

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007035028A (ja) * 2005-07-28 2007-02-08 Mitsubishi Electric Research Laboratories Inc 高ダイナミックレンジ画像を生成する方法及び高ダイナミックレンジ出力画像を生成するシステム
JP2008236726A (ja) * 2007-02-20 2008-10-02 Seiko Epson Corp 撮像装置、撮像システム、撮像方法及び画像処理装置
JP2009303010A (ja) * 2008-06-16 2009-12-24 Mitsubishi Electric Corp 撮像装置及び撮像方法
JP2012195660A (ja) * 2011-03-15 2012-10-11 Nikon Corp 画像処理装置および電子カメラ、並びに画像処理プログラム
JP2014057256A (ja) * 2012-09-13 2014-03-27 Canon Inc 撮像装置、制御方法、プログラム及び記憶媒体
JP2014142836A (ja) * 2013-01-24 2014-08-07 Ricoh Co Ltd 処理装置、処理システム、処理方法及びプログラム

Family Cites Families (51)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2171574C (en) 1996-03-12 2000-10-03 Brian W. Tansley Photometric measurement apparatus
US6498926B1 (en) 1997-12-09 2002-12-24 Qualcomm Incorporated Programmable linear receiver having a variable IIP3 point
US6243430B1 (en) 1998-01-09 2001-06-05 Qualcomm Incorporated Noise cancellation circuit in a quadrature downconverter
US7266150B2 (en) 2001-07-11 2007-09-04 Dolby Laboratories, Inc. Interpolation of video compression frames
US20030015645A1 (en) * 2001-07-17 2003-01-23 Brickell Christopher Gavin Optical imager circuit with tolerance of differential ambient illumination
US7296286B2 (en) * 2002-01-31 2007-11-13 Hitachi Kokusai Electric Inc. Method and apparatus for transmitting image signals of images having different exposure times via a signal transmission path, method and apparatus for receiving thereof, and method and system for transmitting and receiving thereof
JP3933095B2 (ja) * 2003-05-30 2007-06-20 ソニー株式会社 撮像装置及び撮像方法
KR100871688B1 (ko) 2004-02-27 2008-12-08 삼성전자주식회사 고체 촬상 장치 및 그 구동 방법
US7760246B2 (en) 2004-07-19 2010-07-20 Hewlett-Packard Development Company, L.P. Method and device for adjusting white balance
JP2006311240A (ja) 2005-04-28 2006-11-09 Olympus Corp 撮像装置
JP2007043248A (ja) 2005-07-29 2007-02-15 Eastman Kodak Co 撮像装置
US8237801B2 (en) 2005-08-05 2012-08-07 The Innovation Science Fund I, LLC Image processing system and communication method
US7623683B2 (en) 2006-04-13 2009-11-24 Hewlett-Packard Development Company, L.P. Combining multiple exposure images to increase dynamic range
US8013919B2 (en) 2006-06-27 2011-09-06 Samsung Electronics Co., Ltd. CMOS image sensor with increased dynamic range based on multiple exposure periods of varying lengths
US20080030592A1 (en) 2006-08-01 2008-02-07 Eastman Kodak Company Producing digital image with different resolution portions
US7889207B2 (en) 2007-02-08 2011-02-15 Nikon Corporation Image apparatus with image noise compensation
US8089522B2 (en) 2007-09-07 2012-01-03 Regents Of The University Of Minnesota Spatial-temporal multi-resolution image sensor with adaptive frame rates for tracking movement in a region of interest
US7688144B2 (en) 2007-12-14 2010-03-30 Industrial Technology Research Institute Variable-gain wide-dynamic-range amplifier
US8115825B2 (en) 2008-02-20 2012-02-14 Apple Inc. Electronic device with two image sensors
JP5083046B2 (ja) 2008-06-03 2012-11-28 ソニー株式会社 撮像装置及び撮像方法
EP2296368B1 (en) * 2008-06-04 2017-01-04 Shizuoka University Imaging device
JP2010045773A (ja) 2008-07-18 2010-02-25 Panasonic Corp 撮像装置
US8436914B2 (en) 2008-11-07 2013-05-07 Cisco Technology, Inc. Method for automatic exposure control within a video capture device
US20100194851A1 (en) 2009-02-03 2010-08-05 Aricent Inc. Panorama image stitching
JP5187241B2 (ja) 2009-02-16 2013-04-24 株式会社リコー 撮像装置及び撮像方法
RU2504011C2 (ru) 2009-03-13 2014-01-10 Долби Лабораторис Лайсэнзин Корпорейшн Многоуровневое сжатие видеоизображения с расширенным динамическим диапазоном, визуальным динамическим диапазоном и широкой цветовой гаммой
KR101094246B1 (ko) 2009-03-16 2011-12-19 이재웅 넓은 동적범위를 갖는 씨모스 이미지 센서
US8537241B2 (en) 2009-05-28 2013-09-17 Pixim, Inc. Image sensor with sensitivity control and sensitivity based wide dynamic range
US8130304B2 (en) 2009-07-24 2012-03-06 Aptina Imaging Corporation Image sensors with pixel charge summing
JP5419659B2 (ja) * 2009-12-04 2014-02-19 キヤノン株式会社 撮像装置
GB2477083A (en) * 2010-01-13 2011-07-27 Cmosis Nv Pixel structure with multiple transfer gates to improve dynamic range
US8606042B2 (en) 2010-02-26 2013-12-10 Adobe Systems Incorporated Blending of exposure-bracketed images using weight distribution functions
US9100581B2 (en) * 2010-04-02 2015-08-04 Microsoft Technology Licensing, Llc Time interleaved exposures and multiplexed illumination
US20130147979A1 (en) 2010-05-12 2013-06-13 Pelican Imaging Corporation Systems and methods for extending dynamic range of imager arrays by controlling pixel analog gain
KR101052207B1 (ko) 2010-05-12 2011-07-27 엠텍비젼 주식회사 물체의 속도에 따른 카메라 모듈의 영상 녹화 속성 조절 방법 및 장치
US8760537B2 (en) * 2010-07-05 2014-06-24 Apple Inc. Capturing and rendering high dynamic range images
US8625013B2 (en) 2010-08-23 2014-01-07 Red.Com, Inc. Multi-exposure imaging
US8761245B2 (en) 2010-12-21 2014-06-24 Intel Corporation Content adaptive motion compensation filtering for high efficiency video coding
GB2487943A (en) * 2011-02-09 2012-08-15 St Microelectronics Res & Dev A CMOS pixel sensor with local analogue storage in each pixel circuit for capturing frames in quick succession
US8947555B2 (en) 2011-04-18 2015-02-03 Qualcomm Incorporated White balance optimization with high dynamic range images
US9077917B2 (en) 2011-06-09 2015-07-07 Apple Inc. Image sensor having HDR capture capability
JP2013110738A (ja) 2011-10-27 2013-06-06 Panasonic Corp 画像通信装置および撮像装置
US9491372B2 (en) 2011-11-23 2016-11-08 Nokia Technologies Oy Apparatus and method comprising a beam splitter
US20130176458A1 (en) 2012-01-11 2013-07-11 Edwin Van Dalen Flexible Burst Image Capture System
WO2013118487A1 (ja) 2012-02-08 2013-08-15 パナソニック株式会社 通信装置
WO2013132828A1 (ja) 2012-03-05 2013-09-12 パナソニック株式会社 通信システムおよび中継装置
JP2013223043A (ja) 2012-04-13 2013-10-28 Toshiba Corp 受光装置および伝送システム
US9083935B2 (en) 2012-06-15 2015-07-14 Microsoft Technology Licensing, Llc Combining multiple images in bracketed photography
US8976264B2 (en) 2012-09-04 2015-03-10 Duelight Llc Color balance in digital photography
FR3002824A1 (fr) 2013-03-04 2014-09-05 St Microelectronics Grenoble 2 Procede et dispositif de generation d'images a grande gamme dynamique
US20150005637A1 (en) 2013-06-28 2015-01-01 Uvic Industry Partnerships Inc. Tissue displacement estimation by ultrasound speckle tracking

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007035028A (ja) * 2005-07-28 2007-02-08 Mitsubishi Electric Research Laboratories Inc 高ダイナミックレンジ画像を生成する方法及び高ダイナミックレンジ出力画像を生成するシステム
JP2008236726A (ja) * 2007-02-20 2008-10-02 Seiko Epson Corp 撮像装置、撮像システム、撮像方法及び画像処理装置
JP2009303010A (ja) * 2008-06-16 2009-12-24 Mitsubishi Electric Corp 撮像装置及び撮像方法
JP2012195660A (ja) * 2011-03-15 2012-10-11 Nikon Corp 画像処理装置および電子カメラ、並びに画像処理プログラム
JP2014057256A (ja) * 2012-09-13 2014-03-27 Canon Inc 撮像装置、制御方法、プログラム及び記憶媒体
JP2014142836A (ja) * 2013-01-24 2014-08-07 Ricoh Co Ltd 処理装置、処理システム、処理方法及びプログラム

Also Published As

Publication number Publication date
JP7179461B2 (ja) 2022-11-29
EP3216212B1 (en) 2022-04-27
US9154708B1 (en) 2015-10-06
EP3216212A1 (en) 2017-09-13
EP3216212A4 (en) 2018-02-07
WO2016073643A1 (en) 2016-05-12
JP2018504071A (ja) 2018-02-08

Similar Documents

Publication Publication Date Title
JP2021119701A (ja) フラッシュ照明画像および周囲照明画像を同時に捕捉するための画像センサ装置および方法
JP6896638B2 (ja) 同時に複数の画像を捕捉するための画像センサ装置および方法
JP7253586B2 (ja) 写真撮影シーンの低ノイズ高速捕捉を得るための画像センサ装置および方法
JP7000157B2 (ja) ゼロのフレーム間時間で多重露光を得るための画像センサ装置および方法
US11356647B2 (en) Systems and methods for generating a digital image
US11025831B2 (en) Image sensor apparatus and method for obtaining multiple exposures with zero interframe time
JP2020184786A (ja) 高ダイナミックレンジ(hdr)画素ストリームを生成するための装置、コンピュータプログラムおよび方法
US11394894B2 (en) Image sensor apparatus and method for obtaining low-noise, high-speed captures of a photographic scene

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210526

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210526

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220802

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220818

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230606