詳細な説明
図1は、1つの可能な実施形態に従うゼロのフレーム間時間で多重露光を得るためのシステム100を示す。選択肢として、システム100は本明細書に開示されている図面のうちのいずれかの図面の文脈において実現されてもよい。しかし、当然、システム100は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
示されるように、信号増幅器133は画像センサ132からアナログ信号104を受信する。アナログ信号104を受信したことに応答して、信号増幅器133は第1のゲインを利用してアナログ信号104を増幅し、第1の増幅アナログ信号106を送信する。さらに、アナログ信号104を受信したことに応答して、信号増幅器133はさらに第2のゲインを利用してアナログ信号104を増幅し、第2の増幅アナログ信号108を送信する。
具体的な一実施形態において、アナログ信号106およびアナログ信号108は共通の電気配線上で送信される。代替の実施形態では、アナログ信号106およびアナログ信号108は異なる電気配線上で送信される。
一実施形態において、画像センサ132によって生成されるアナログ信号104は、画像センサ132上に合焦された光学画像の電子表現を含む。そのような実施形態では、光学画像はレンズによって画像センサ132上に合焦されてもよい。光学画像の電子表現は空間色強度情報を含んでいてもよく、当該情報は異なる色強度サンプル(たとえば赤色、緑色および青色光等)を含んでいてもよい。他の実施形態では、空間色強度情報は白色光についてのサンプルをさらに含んでいてもよい。一実施形態において、光学画像は写真撮影シーンの光学画像であってもよい。
一実施形態において、画像センサ132は、相補型金属酸化膜半導体(CMOS)画像センサ、または電荷結合素子(CCD)画像センサ、またはその他の技術的に実行可能な形態の画像センサを含んでいてもよい。
ある実施形態において、信号増幅器133はトランスインピーダンス増幅器(TIA)を含んでいてもよく、当該増幅器は、デジタルゲイン値によってなどで、選択されたゲインをアナログ信号104に与えるように動的に構成されてもよい。たとえば、TIAは第1のゲインをアナログ信号に適用するように構成され得る。同一のTIAは次いで、第2のゲインをアナログ信号に続いて適用するように構成され得る。他の実施形態では、ゲインはデジタル値として信号増幅器133に対して指定されてもよい。さらに、指定ゲイン値は指定感度またはISOに基づいていてもよい。指定感度は写真撮影システムのユーザによって指定されてもよく、または代わりに、写真撮影システムのソフトウェアもしくはハードウェア、または連携して働く上記の何らかの組合せによって設定されてもよい。
一実施形態において、信号増幅器133は単一の増幅器を含む。そのような実施形態では、増幅アナログ信号106および108は連続して送信または出力される。たとえば、一実施形態において、当該出力は共通の電気配線を通して起こってもよい。たとえば、増幅アナログ信号106がまず送信され、次いで増幅アナログ信号108が続いて送信されてもよい。別の実施形態において、信号増幅器133は複数の増幅器を含んでいてもよい。そのような実施形態では、増幅器133は、増幅アナログ信号108と並列的に増幅アナログ信号106を送信してもよい。この目的で、アナログ信号106は、第2のゲインを利用するアナログ信号108の増幅と直列的に第1のゲインを利用して増幅されてもよく、またはアナログ信号106は、第2のゲインを利用するアナログ信号108の増幅と並列的に第1のゲインを利用して増幅されてもよい。一実施形態において、増幅アナログ信号106および108の各々はゲイン調整されたアナログ画素データを含む。
ゲイン調整されたアナログ画素データの各インスタンスは、その後のプロセスおよび/またはハードウェアによってデジタル画素データに変換されてもよい。たとえば、増幅アナログ信号106は続いて、画像センサ132上に合焦された光学画像を表すデジタル画素データの第1のセットを含む第1のデジタル信号に変換されてもよい。さらに、増幅アナログ信号108は続いてまたは並行して、画像センサ132上に合焦された光学画像を表すデジタル画素データの第2のセットを含む第2のデジタル信号に変換されてもよい。一実施形態において、デジタル画素データの第1のセットとデジタル画素データの第2のセットとの差はいずれも、信号増幅器133によって適用される第1のゲインと第2のゲインとの差の関数である。さらに、デジタル画素データの各セットは写真撮影シーンのデジタル画像を含んでいてもよい。ゆえに、増幅アナログ信号106および108を用いて、写真撮影シーンの2つの異なるデジタル画像を生成することができる。さらに、一実施形態において、2つの異なるデジタル画像の各々は異なる露光レベルを表し得る。
図2は、一実施形態に従うゼロのフレーム間時間で多重露光を得るための方法200を示す。選択肢として、方法200は本明細書に開示されている図面のうちのいずれかの図面の文脈において実行されてもよい。しかし、当然、方法200は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
動作202に示されるように、画像センサの少なくとも1つの画素から、画像と関連付けられているアナログ信号が受信される。本実施形態の文脈において、アナログ信号は、画像センサの少なくとも1つの画素についてのアナログ画素データを含んでいてもよい。一実施形態において、アナログ信号は、画像センサのすべての画素についてのアナログ画素データを含んでいてもよい。別の実施形態において、画像センサの各画素は複数のフォトダイオードを含んでいてもよい。そのような実施形態では、アナログ信号内で受信されるアナログ画素データは、画像センサの各画素の各フォトダイオードについてのアナログ値を含んでいてもよい。各アナログ値は、当該アナログ値と関連付けられているフォトダイオードにおいて測定される光強度を表し得る。したがって、アナログ信号は1組の空間的に離散した強度サンプルであってもよく、その各々が連続アナログ値によって表されており、アナログ画素データは1つ以上の所与の画素と関連付けられているアナログ信号値であってもよい。
また、動作204に示されるように、第1のゲインを利用してアナログ信号を増幅することによって、画像と関連付けられている第1の増幅アナログ信号が生成され、第2のゲインを利用してアナログ信号を増幅することによって、画像と関連付けられている第2の増幅アナログ信号が生成される。したがって、アナログ信号が第1のゲインおよび第2のゲインの両方を利用して増幅されることによって、それぞれ第1の増幅アナログ信号および第2の増幅アナログ信号が得られる。一実施形態において、第1の増幅アナログ信号は第1のゲイン調整されたアナログ画素データを含んでいてもよい。そのような実施形態では、第2の増幅アナログ信号は第2のゲイン調整されたアナログ画素データを含んでいてもよい。一実施形態に従うと、アナログ信号は、第2のゲインを利用するアナログ信号の増幅と同時に第1のゲインを利用して増幅されてもよい。別の実施形態において、アナログ信号は、アナログ信号が第2のゲインを利用して増幅される期間以外の期間中に第1のゲインを利用して増幅されてもよい。たとえば、第1のゲインおよび第2のゲインはアナログ信号に連続して適用されてもよい。一実施形態において、ゲインをアナログ信号に適用するための順番は予め定められていてもよい。
さらに、動作206に示されるように、多数の増幅アナログ信号が画像と関連付けられているアナログ信号に基づいて送信されるように、第1の増幅アナログ信号および第2の増幅アナログ信号の両方が送信される。一実施形態の文脈において、第1の増幅アナログ信号および第2の増幅アナログ信号は連続して送信される。たとえば、第1の増幅アナログ信号は第2の増幅アナログ信号の前に送信されてもよい。別の実施形態において、第1の増幅アナログ信号および第2の増幅アナログ信号は並列的に送信されてもよい。
本明細書に開示されている実施形態は、カメラモジュールが、従来の技術よりも低い(たとえばゼロの、またはゼロに近い、等)サンプル間時間(たとえばフレーム間、等)で画像スタックを含む画像をサンプリングすることを有利に可能にする。特定の実施形態において、画像スタックを含む画像は重複する時間間隔時に効果的にサンプリングされ、これによってサンプル間時間がゼロに減少し得る。他の実施形態では、カメラモジュールはストロボユニットと協調して画像をサンプリングして、ストロボ照明を用いずにサンプリングされた画像とストロボ照明を用いてサンプリングされた画像との間のサンプル間時間を減少させ得る。
上述の方法がユーザの希望に従って実行されてもされなくてもよいさまざまな随意のアーキテクチャおよび使用に関して、より例示的な情報が以下に記載される。以下の情報は例示目的で記載されており、いかなる意味でも限定的であると解釈されるべきでないことに強く留意すべきである。以下の特徴はいずれも、説明される他の特徴を除外してまたは除外せずに随意に組込まれ得る。
図3Aは、一実施形態に従うデジタル写真撮影システム300を示す。選択肢として、デジタル写真撮影システム300は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、デジタル写真撮影システム300は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
示されるように、デジタル写真撮影システム300は、配線334を介してカメラモジュール330に結合されたプロセッサ複合体310を含んでいてもよい。一実施形態において、プロセッサ複合体310はストロボユニット336に結合されている。デジタル写真撮影システム300はさらに、表示ユニット312、1組の入出力デバイス314、不揮発性メモリ316、揮発性メモリ318、ワイヤレスユニット340およびセンサデバイス342を含み得るがこれらに限定されず、これらの各々はプロセッサ複合体310に結合されている。一実施形態において、電力管理サブシステム320が、デジタル写真撮影システム300内の電気負荷要素の各々に適切な電源電圧を生成するように構成される。電池322が、電気エネルギを電力管理サブシステム320に供給するように構成されてもよい。電池322は、一次または二次電池技術を含む任意の技術的に実行可能なエネルギ貯蔵システムを実現し得る。当然、他の実施形態では、より多いもしくは少ない特徴、ユニット、デバイス、センサ、またはサブシステムがシステムに含まれていてもよい。
一実施形態において、ストロボユニット336はデジタル写真撮影システム300に統合され、デジタル写真撮影システム300が実行する画像サンプルイベント時にストロボ照明350を提供するように構成されてもよい。別の実施形態において、ストロボユニット336は、デジタル写真撮影システム300から独立したデバイスとして実現され、デジタル写真撮影システム300が実行する画像サンプルイベント時にストロボ照明350を提供するように構成されてもよい。ストロボユニット336は1つ以上のLED素子、ガス放電照明器(たとえばキセノンストロボデバイス、キセノンフラッシュランプ等)、またはその他の技術的に実行可能な照明デバイスを含んでいてもよい。特定の実施形態において、2つ以上のストロボユニットが画像のサンプリングと共にストロボ照明を同期して生成するように構成される。一実施形態において、ストロボユニット336は、ストロボ照明350を発するようにまたはストロボ照明350を発しないようにストロボ制御信号338を通して制御される。ストロボ制御信号338は、任意の技術的に実行可能な信号伝送プロトコルを用いて実現されてもよい。ストロボ制御信号338は、ストロボユニット336にストロボ照明350の指定強度および/または色を生成するように命じるためのストロボパラメータ(たとえばストロボ強度、ストロボ色、ストロボ時間等)を指示し得る。ストロボ制御信号338は、プロセッサ複合体310、カメラモジュール330によって、またはその他の技術的に実行可能なそれらの組合せによって生成されてもよい。一実施形態において、ストロボ制御信号338は、プロセッサ複合体310内のカメラインターフェイスユニットによって生成され、配線334を介してストロボユニット336およびカメラモジュール330の両方に送信される。別の実施形態において、ストロボ制御信号338はカメラモジュール330によって生成され、配線334を介してストロボユニット336に送信される。
写真撮影シーン内のオブジェクトから反射したストロボ照明350の少なくとも一部を含み得る光学シーン情報352が、カメラモジュール330内の画像センサ332上に光学画像として合焦される。画像センサ332は光学画像の電子表現を生成する。電子表現は空間色強度情報を含み、当該情報は異なる色強度サンプル(たとえば赤色、緑色および青色光等)を含んでいてもよい。他の実施形態では、空間色強度情報は白色光についてのサンプルをさらに含んでいてもよい。電子表現は、任意の技術的に実行可能な信号伝送プロトコルを実現し得る配線334を介してプロセッサ複合体310に送信される。
一実施形態において、入出力デバイス314は、容量性タッチ入力面、抵抗性タブレット入力面、1つ以上のボタン、1つ以上のノブ、発光素子、光検出素子、音放射素子、音検出素子、またはユーザ入力を受信して当該入力を電気信号に変換する、もしくは電気信号を物理的信号に変換するためのその他の技術的に実行可能な素子を含み得るがこれらに限定されない。一実施形態において、入出力デバイス314は、表示ユニット312に結合された容量性タッチ入力面を含む。タッチエントリ表示システムが、表示ユニット312、およびこれもプロセッサ複合体310に結合された容量性タッチ入力面を含んでいてもよい。
また、他の実施形態では、不揮発性(NV)メモリ316は、電力が遮断されるとデータを記憶するように構成される。一実施形態において、NVメモリ316は1つ以上のフラッシュメモリデバイス(たとえばROM、PCM、FeRAM、FRAM(登録商標)、PRAM、MRAM、NRAM等)を含む。NVメモリ316は非一時的なコンピュータ読取可能媒体を含み、当該媒体は、プロセッサ複合体310内の1つ以上の処理装置によって実行されるプログラミング命令を含むように構成されてもよい。プログラミング命令は、オペレーティングシステム(OS)、UIソフトウェアモジュール、画像処理および記憶ソフトウェアモジュール、プロセッサ複合体310に接続された1つ以上の入出力デバイス314、カメラモジュール330を通して画像スタックをサンプリングするための1つ以上のソフトウェアモジュール、画像スタックまたは画像スタックから生成された1つ以上の合成画像を表示ユニット312を通して提示するための1つ以上のソフトウェアモジュールを実現し得るがこれらに限定されない。一例として、一実施形態において、プログラミング命令はさらに、画像スタック内の画像同士もしくは画像の一部同士を併合し、画像スタック内の各画像の少なくとも一部同士を整列させるための、またはそれらの組合せのための1つ以上のソフトウェアモジュールを実現し得る。別の実施形態において、プロセッサ複合体310はプログラミング命令を実行するように構成されてもよく、当該命令は、高ダイナミックレンジ(HDR)画像を作成するように動作可能な1つ以上のソフトウェアモジュールを実現し得る。
さらに、一実施形態において、NVメモリ316を含む1つ以上のメモリデバイスが、ユーザによってインストールまたは除去されるように構成されたモジュールとしてパッケージ化されてもよい。一実施形態において、揮発性メモリ318はダイナミックランダムアクセスメモリ(DRAM)を含み、当該ダイナミックランダムアクセスメモリは、デジタル写真撮影システム300の通常動作中にアクセスされる、プログラミング命令、画像スタックと関連付けられているデータなどの画像データなどを一時的に記憶するように構成される。当然、揮発性メモリは、任意の態様で、プロセッサ複合体310に取付けられたその他の入出力デバイス314またはセンサデバイス342と関連して用いられてもよい。
一実施形態において、センサデバイス342は、動作および/もしくは方向を検出する加速度計、動作および/もしくは方向を検出する電子ジャイロスコープ、方向を検出する磁束検出器、地理的位置を検出する全地球測位システム(GPS)モジュール、の1つ以上、またはそれらのいずれかの組合せを含み得るがこれらに限定されない。当然、動作検出センサ、近接センサ、RGB光センサ、ジェスチャセンサ、3D入力画像センサ、圧力センサ、および屋内位置センサを含むがこれらに限定されない他のセンサがセンサデバイスとして統合されてもよい。一実施形態において、当該センサデバイスは入出力デバイス314の一例であり得る。
ワイヤレスユニット340は、デジタルデータを送受信するように構成された1つ以上のデジタルラジオを含んでいてもよい。特に、ワイヤレスユニット340は無線規格(たとえばWiFi、Bluetooth(登録商標)、NFC等)を実現し得、データ通信のためのデジタルセルラー電話規格(たとえばCDMA、3G、4G、LTE、LTEアドバンスト等)を実現し得る。当然、任意の無線規格またはデジタルセルラー電話規格が用いられてもよい。
一実施形態において、デジタル写真撮影システム300は、1つ以上のデジタル写真をワイヤレスユニット340を介してネットワークベースの(オンライン)または「クラウドベースの」写真メディアサービスに送信するように構成される。1つ以上のデジタル写真は、NVメモリ316もしくは揮発性メモリ318のいずれか一方、またはプロセッサ複合体310と関連付けられているその他のメモリデバイスの内部に存在し得る。一実施形態において、ユーザは、オンライン写真メディアサービスにアクセスするための、かつ、1つ以上のデジタル写真を送信してオンライン写真メディアサービスに保存する、オンライン写真メディアサービスから取出す、およびオンライン写真メディアサービスによって提示するためのクレデンシャルを所有していてもよい。クレデンシャルは、デジタル写真を送信する前にデジタル写真撮影システム300内で記憶または生成されてもよい。オンライン写真メディアサービスは、ソーシャルネットワーキングサービス、写真共有サービス、またはデジタル写真の保存、デジタル写真の処理、デジタル写真の送信、デジタル写真の共有、もしくはそれらのいずれかの組合せを提供するその他のネットワークベースのサービスを含んでいてもよい。特定の実施形態において、1つ以上のデジタル写真が、オンライン写真メディアサービスと関連付けられているサーバに送信される画像データ(たとえば画像スタック、HDR画像スタック、画像パッケージ等)に基づいてオンライン写真メディアサービスによって生成される。そのような実施形態では、ユーザはデジタル写真撮影システム300からの1つ以上のソース画像を、オンライン写真メディアサービスによって処理するためにアップロードしてもよい。
一実施形態において、デジタル写真撮影システム300はカメラモジュール330の少なくとも1つのインスタンスを含む。別の実施形態において、デジタル写真撮影システム300は複数のカメラモジュール330を含む。そのような実施形態はさらに、複数のカメラモジュール330によって多数の視野としてサンプリングされた写真撮影シーンを照明するように構成された少なくとも1つのストロボユニット336を含んでいてもよい。複数のカメラモジュール330は、広角視野(たとえばカメラ間の45度のスイープよりも大きい)をサンプリングしてパノラマ写真を生成するように構成されてもよい。一実施形態において、複数のカメラモジュール330は、2つ以上の狭角視野(たとえばカメラ間の45度のスイープよりも小さい)をサンプリングしてステレオ写真を生成するように構成されてもよい。他の実施形態では、複数のカメラモジュール330は、表示ユニット312もしくはその他の表示デバイス上に示されるような3D画像を生成するように、またはそうでなければ遠近感(たとえばz成分等)を表示するように構成されてもよい。
一実施形態において、表示ユニット312は、画素の二次元配列を表示して表示用の画像を形成するように構成されてもよい。表示ユニット312は、液晶(LCD)ディスプレイ、発光ダイオード(LED)ディスプレイ、有機LEDディスプレイ、またはその他の技術的に実行可能な種類のディスプレイを含んでいてもよい。特定の実施形態において、表示ユニット312は、単一のHDR画像内で、または多重露光もしくはHDR画像スタックを含む1組の2つ以上の画像にわたって、などで、写真撮影シーンからサンプリングされた強度値の完全な範囲よりも狭い画像強度値のダイナミックレンジを表示することが可能であり得る。一実施形態において、画像スタックを含む画像は、任意の技術的に実行可能なHDRブレンド技術に従って併合されて、表示ユニット312のダイナミックレンジ制約内で表示用の合成画像を生成してもよい。一実施形態において、制限されるダイナミックレンジは、対応する色強度の8ビット/カラーチャネルバイナリ表現を指定してもよい。他の実施形態では、制限されるダイナミックレンジは、8ビットよりも多いビット(たとえば10ビット、12ビット、または14ビット等)/カラーチャネルバイナリ表現を指定してもよい。
図3Bは、一実施形態に従う図3Aのデジタル写真撮影システム300内のプロセッサ複合体310を示す。選択肢として、プロセッサ複合体310は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、プロセッサ複合体310は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
示されるように、プロセッサ複合体310はプロセッササブシステム360を含み、メモリサブシステム362を含んでいてもよい。一実施形態において、プロセッサ複合体310はプロセッササブシステム360を実現するシステムオンチップ(system on a chip:SoC)デバイスを含んでいてもよく、メモリサブシステム362はプロセッササブシステム360に結合された1つ以上のDRAMデバイスを含む。別の実施形態において、プロセッサ複合体310は、SoCデバイスと、メモリサブシステム362を含む1つ以上のDRAMデバイスとをカプセル化するマルチチップモジュール(multi-chip module:MCM)を含んでいてもよい。
プロセッササブシステム360は、1つ以上の中央処理装置(CPU)コア370、メモリインターフェイス380、入出力インターフェイスユニット384、および表示インターフェイスユニット382を含み得るがこれらに限定されず、これらの各々が配線374に結合されている。1つ以上のCPUコア370は、メモリサブシステム362、揮発性メモリ318、NVメモリ316、またはそれらのいずれかの組合せの内部に存在している命令を実行するように構成されてもよい。1つ以上のCPUコア370の各々は、配線374およびメモリインターフェイス380を通してデータを取出して記憶するように構成されてもよい。一実施形態において、1つ以上のCPUコア370の各々がデータキャッシュおよび命令キャッシュを含んでいてもよい。また、CPUコア370の2つ以上がデータキャッシュ、命令キャッシュ、またはそれらのいずれかの組合せを共有してもよい。一実施形態において、各CPUコア370にプライベートキャッシュ層および共有キャッシュ層を提供するようにキャッシュ階層が実現される。
いくつかの実施形態において、プロセッササブシステム360は1つ以上のグラフィック処理装置(GPU)コア372を含んでいてもよい。各GPUコア372は、グラフィック加速機能を実現するがこれに限定されないようにプログラミングされ得る複数のマルチスレッド実行ユニットを含んでいてもよい。さまざまな実施形態において、GPUコア372は、周知の規格(たとえばOpenGL(商標)、WebGL(商標)、OpenCL(商標)、CUDA(商標)等)、および/またはその他のプログラム可能なレンダリンググラフィック規格に従ってマルチスレッドプログラムを実行するように構成されてもよい。特定の実施形態において、少なくとも1つのGPUコア372が、周知のHarris検出器または周知のHessian-Laplace検出器などの動作推定機能の少なくとも一部を実現する。そのような動作推定機能を用いて、画像スタック内の画像同士または画像の一部同士を少なくとも部分的に整列させることができる。たとえば、一実施形態において、HDR画像が画像スタックに基づいてコンパイルされてもよく、HDR画像をコンパイルする前に2つ以上の画像がまず整列させられる。
示されるように、配線374は、メモリインターフェイス380、表示インターフェイスユニット382、入出力インターフェイスユニット384、CPUコア370、およびGPUコア372の間でデータを伝送するように構成される。さまざまな実施形態において、配線374は、1本以上のバス、1つ以上のリング、クロスバー、メッシュ、またはその他の技術的に実行可能なデータ伝送構造もしくは技術を実現し得る。メモリインターフェイス380は、メモリサブシステム362を配線374に結合するように構成される。メモリインターフェイス380はさらに、NVメモリ316、揮発性メモリ318、またはそれらのいずれかの組合せを配線374に結合してもよい。表示インターフェイスユニット382は、表示ユニット312を配線374に結合するように構成されてもよい。表示インターフェイスユニット382は特定のフレームバッファ機能(たとえばフレームリフレッシュ等)を実現し得る。または、別の実施形態において、表示ユニット312は特定のフレームバッファ機能(たとえばフレームリフレッシュ等)を実現し得る。入出力インターフェイスユニット384は、さまざまな入出力デバイスを配線374に結合するように構成されてもよい。
特定の実施形態において、カメラモジュール330は、画像スタックと関連付けられている各画像をサンプリングするための露光パラメータを記憶するように構成される。たとえば、一実施形態において、カメラモジュール330は、写真撮影シーンをサンプリングするように命じられると、記憶された露光パラメータに従って画像スタックを含む1組の画像をサンプリングし得る。プロセッサ複合体310内で実行されるプログラミング命令を含むソフトウェアモジュールが、カメラモジュール330に画像スタックをサンプリングするように命じる前に露光パラメータを生成して記憶してもよい。他の実施形態では、カメラモジュール330を用いて画像または画像スタックが計測されてもよく、プロセッサ複合体310内で実行されるプログラミング命令を含むソフトウェアモジュールは、カメラモジュール330に画像を捕捉するように命じる前に計測パラメータを生成して記憶してもよい。当然、カメラモジュール330はプロセッサ複合体310と組合されて任意の態様で用いられてもよい。
一実施形態において、画像スタックを含む画像と関連付けられている露光パラメータは、1つ以上の画像についての露光パラメータを含む露光パラメータデータ構造内に記憶されてもよい。別の実施形態において、プロセッサ複合体310内のカメラインターフェイスユニット(図3Bには図示せず)が、露光パラメータデータ構造から露光パラメータを読出し、写真撮影シーンのサンプリングに備えて、関連付けられている露光パラメータをカメラモジュール330に送信するように構成されてもよい。カメラモジュール330が露光パラメータに従って構成された後、カメラインターフェイスはカメラモジュール330に写真撮影シーンをサンプリングするように命じてもよく、カメラモジュール330は次いで、対応する画像スタックを生成してもよい。露光パラメータデータ構造は、カメラインターフェイスユニット、プロセッサ複合体310内のメモリ回路、揮発性メモリ318、NVメモリ316、カメラモジュール330の内部に、またはその他の技術的に実行可能なメモリ回路の内部に記憶されてもよい。さらに、別の実施形態において、プロセッサ複合体310内で実行されるソフトウェアモジュールが露光パラメータデータ構造を生成して記憶してもよい。
図3Cは、一実施形態に従うデジタルカメラ302を示す。選択肢として、デジタルカメラ302は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、デジタルカメラ302は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、デジタルカメラ302は、図3Aのデジタル写真撮影システム300などのデジタル写真撮影システムを含むように構成されてもよい。示されるように、デジタルカメラ302はカメラモジュール330を含み、当該カメラモジュールは、写真撮影シーンを表す光学シーン情報を画像センサ上に合焦するように構成された光学素子を含んでいてもよく、当該画像センサは、光学シーン情報を写真撮影シーンの電子表現に変換するように構成されてもよい。
また、デジタルカメラ302はストロボユニット336を含んでいてもよく、写真撮影サンプルイベントをトリガするためのシャッターリリースボタン315を含んでいてもよく、これによってデジタルカメラ302は電子表現を含む1つ以上の画像をサンプリングする。他の実施形態では、その他の技術的に実行可能なシャッターリリース機構が写真撮影サンプルイベントをトリガしてもよい(たとえばタイマトリガまたは遠隔制御トリガ等)。
図3Dは、一実施形態に従うワイヤレスモバイルデバイス376を示す。選択肢として、モバイルデバイス376は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、モバイルデバイス376は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、モバイルデバイス376は、写真撮影シーンをサンプリングするように構成されているデジタル写真撮影システム(たとえば図3Aのデジタル写真撮影システム300など)を含むように構成されてもよい。さまざまな実施形態において、カメラモジュール330は、写真撮影シーンを表す光学シーン情報を画像センサ上に合焦するように構成された光学素子を含んでいてもよく、当該画像センサは、光学シーン情報を写真撮影シーンの電子表現に変換するように構成されてもよい。さらに、表示ユニット312を含むタッチエントリ表示システム上のタッチジェスチャによって起動され得る仮想ボタン、または任意の面もしくはモバイルデバイス376の表面上に位置し得る物理ボタンなどの、任意の技術的に実行可能なメカニズムによって、シャッターリリースコマンドが生成されてもよい。当然、他の実施形態では、任意の数の他のボタン、外部入出力、またはデジタル入出力がモバイルデバイス376上に含まれていてもよく、カメラモジュール330と併用されてもよい。
示されるように、一実施形態において、表示ユニット312を含むタッチエントリ表示システムがモバイルデバイス376のカメラモジュール330と反対側に配置されている。特定の実施形態において、モバイルデバイス376は、ユーザの方を向くカメラモジュール331を含み、ユーザの方を向くストロボユニット(図示せず)を含んでいてもよい。当然、他の実施形態では、モバイルデバイス376は、任意の数のユーザの方を向くカメラモジュールまたは後ろ向きのカメラモジュール、および任意の数のユーザの方を向くストロボユニットまたは後ろ向きのストロボユニットを含んでいてもよい。
いくつかの実施形態において、デジタルカメラ302およびモバイルデバイス376の各々は、カメラモジュール330によってサンプリングされた画像スタックに基づいて合成画像を生成して記憶してもよい。画像スタックは、周囲照明条件下でサンプリングされた1つ以上の画像、ストロボユニット336からのストロボ照明下でサンプリングされた1つ以上の画像、またはそれらの組合せを含んでいてもよい。
図3Eは、一実施形態に従うカメラモジュール330を示す。選択肢として、カメラモジュール330は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、カメラモジュール330は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、カメラモジュール330は、ストロボ制御信号338を通してストロボユニット336を制御するように構成されてもよい。示されるように、レンズ390が、光学シーン情報352をサンプリングすべき画像センサ332上に合焦するように構成される。一実施形態において、画像センサ332はストロボ制御信号338を通してストロボユニット336の詳細なタイミングを有利に制御して、ストロボユニット336が有効な状態でサンプリングされた画像とストロボユニット336が無効な状態でサンプリングされた画像との間のサンプル間時間を減少させる。たとえば、画像センサ332は、画像センサ332が周囲画像のサンプリングと関連付けられている露光時間を完了した後であってストロボ画像をサンプリングする前に、ストロボユニット336が1マイクロ秒未満(または任意の所望の長さ)にわたってストロボ照明350を発することを可能にし得る。
他の実施形態では、ストロボ照明350は所望の1つ以上のターゲットポイントに基づいて構成されてもよい。たとえば、一実施形態において、ストロボ照明350は前景内のオブジェクトを照らし出してもよく、露光時間の長さに依存して、画像の背景内のオブジェクトも照らし出してもよい。一実施形態において、ストロボユニット336が有効になると、画像センサ332はその直後にストロボ画像を露光し始めてもよい。ゆえに、画像センサ332はサンプリング動作を直接制御することが可能であり得、当該サンプリング動作は、ストロボユニット336が無効な状態でサンプリングされた少なくとも1つの画像、およびストロボユニット336が有効または無効な状態でサンプリングされた少なくとも1つの画像を含み得る画像スタックの生成と関連付けられているストロボユニット336の有効化および無効化を含む。一実施形態において、画像センサ332によってサンプリングされた画像スタックを含むデータが、配線334を介してプロセッサ複合体310内のカメラインターフェイスユニット386に送信される。いくつかの実施形態において、カメラモジュール330は画像センサコントローラを含んでいてもよく、当該コントローラは画像センサ332の制御動作と共にストロボ制御信号338を生成するように構成されてもよい。
図3Fは、一実施形態に従うカメラモジュール330を示す。選択肢として、カメラモジュール330は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、カメラモジュール330は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、カメラモジュール330は、ストロボユニット336についての状態情報に基づいて画像をサンプリングするように構成されてもよい。状態情報は、ストロボユニット336にストロボ照明350の指定強度および/または色を生成するように命じるための1つ以上のストロボパラメータ(たとえばストロボ強度、ストロボ色、ストロボ時間等)を含み得るがこれらに限定されない。一実施形態において、ストロボユニット336と関連付けられている状態情報を構成するためのコマンドがストロボ制御信号338を通して送信されてもよく、当該信号は、ストロボユニット336が有効になった時を検出するためにカメラモジュール330によって監視され得る。たとえば、一実施形態において、カメラモジュール330は、ストロボユニット336が有効または無効になってから1マイクロ秒以下内にストロボユニット336が有効または無効になった時をストロボ制御信号338によって検出し得る。ストロボ照明を必要とする画像をサンプリングするために、カメラインターフェイスユニット386は、有効化コマンドをストロボ制御信号338を通して送信することによってストロボユニット336を有効にしてもよい。一実施形態において、カメラインターフェイスユニット386は、図3Bのプロセッサ複合体310のプロセッササブシステム360内の入出力インターフェイス384のインターフェイスとして含まれていてもよい。有効化コマンドは、信号レベル遷移、データパケット、レジスタ書込み、またはその他の技術的に実行可能なコマンドの送信を含んでいてもよい。カメラモジュール330はストロボユニット336が有効であることを検知し、次いで、ストロボユニット336が有効である間に、画像センサ332にストロボ照明を必要とする1つ以上の画像をサンプリングさせてもよい。そのような実現例では、画像センサ332は、ストロボユニット336宛ての有効化信号を、新たな露光のサンプリングを開始するトリガ信号として待機するように構成されてもよい。
一実施形態において、カメラインターフェイスユニット386は、露光パラメータおよびコマンドを配線334を通してカメラモジュール330に送信してもよい。特定の実施形態において、カメラインターフェイスユニット386は、制御コマンドをストロボ制御信号338を通してストロボユニット336に送信することによってストロボユニット336を直接制御するように構成されてもよい。カメラモジュール330およびストロボユニット336の両方を直接制御することによって、カメラインターフェイスユニット386は、カメラモジュール330およびストロボユニット336に、正確な時間同期でそれぞれの動作を実行させることができる。一実施形態において、正確な時間同期は500マイクロ秒未満のイベントタイミングエラーであってもよい。また、イベントタイミングエラーは、意図されたイベント発生から対応する実際のイベント発生の時間までの時間差であってもよい。
別の実施形態において、カメラインターフェイスユニット386は、カメラモジュール330から画像データを受信している間に統計を蓄積するよう構成されてもよい。特に、カメラインターフェイスユニット386は、配線334を通して所与の画像についての画像データを受信している間に当該画像についての露光統計を蓄積してもよい。露光統計は、強度ヒストグラム、露光過多の画素のカウント、露光不足の画素のカウント、画素強度の強度-加重和、の1つ以上、またはそれらのいずれかの組合せを含み得るがこれらに限定されない。カメラインターフェイスユニット386は、プロセッサ複合体310内のCPUコア370の1つ以上などのプロセッサによって規定される物理または仮想アドレス空間内のメモリマップされた記憶場所として、露光統計を提示してもよい。一実施形態において、露光統計は、メモリマップされたレジスタ空間内にマップされる記憶回路内に存在しており、これは配線334を通してアクセス可能である。他の実施形態では、露光統計は、捕捉した画像についての画素データを伝送するのと共に伝送される。たとえば、所与の画像についての露光統計は、捕捉した画像についての画素強度データの送信に引き続いて、インラインデータとして送信されてもよい。露光統計は、カメラインターフェイスユニット386内で計算、記憶、またはキャッシュされてもよい。
一実施形態において、カメラインターフェイスユニット386は、シーンホワイトバランスを推定するための色統計を蓄積してもよい。赤色、緑色および青色カラーチャネルを含む異なるカラーチャネルについての強度の和などの、ホワイトバランスを推定するための任意の技術的に実行可能な色統計が蓄積されてもよい。次いで、カラーチャネル強度の和を用いて、グレーワールドホワイトバランスモデルなどのホワイトバランスモデルに従って、関連画像に対してホワイトバランス色補正が実行されてもよい。他の実施形態では、画像に対してホワイトバランス補正を実現するために用いられる一次または二次曲線適合のための曲線適合統計が蓄積される。
一実施形態において、カメラインターフェイスユニット386は、周囲画像と、ストロボ照明を用いてサンプリングされた1つ以上の画像との間など、画像同士の間でカラーマッチングを実行するための空間色統計を蓄積してもよい。露光統計と同様に、色統計はプロセッサ複合体310内のメモリマップされた記憶場所として提示されてもよい。一実施形態において、色統計はメモリマップされたレジスタ空間内にマップされ、これはプロセッササブシステム360内で配線334を通してアクセス可能である。他の実施形態では、色統計は、捕捉した画像についての画素データを伝送するのと共に伝送されてもよい。たとえば、一実施形態において、所与の画像についての色統計は、当該画像についての画素強度データの送信に引き続いて、インラインデータとして送信されてもよい。色統計は、カメラインターフェイス386内で計算、記憶、またはキャッシュされてもよい。
一実施形態において、カメラモジュール330はストロボ制御信号338をストロボユニット336に送信して、カメラモジュール330が画像をサンプリングしている間にストロボユニット336が照明を生成することを可能にし得る。別の実施形態において、カメラモジュール330は、ストロボユニット336が有効であるという指示信号をカメラインターフェイスユニット386から受信すると、ストロボユニット336が照明している画像をサンプリングしてもよい。さらに別の実施形態において、カメラモジュール330は、シーン照明の急激な増加によって写真撮影シーン内のストロボ照明を検出すると、ストロボユニット336が照明している画像をサンプリングしてもよい。一実施形態において、シーン照明の急激な増加は、ストロボユニット336を有効にする強度と一致した強度の増加率を少なくとも含んでいてもよい。さらに別の実施形態において、カメラモジュール330は、1つの画像をサンプリングしている間にストロボユニット336を有効にしてストロボ照明を生成し、別の画像をサンプリングしている間にストロボユニット336を無効にしてもよい。
図3Gは、一実施形態に従うカメラモジュール330を示す。選択肢として、カメラモジュール330は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、カメラモジュール330は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、カメラモジュール330はアプリケーションプロセッサ335と通信していてもよい。カメラモジュール330は、コントローラ333と通信している画像センサ332を含むとして示されている。さらに、コントローラ333はアプリケーションプロセッサ335と通信しているとして示されている。
一実施形態において、アプリケーションプロセッサ335はカメラモジュール330の外部に存在していてもよい。示されるように、レンズ390は、光学シーン情報をサンプリングすべき画像センサ332上に合焦するように構成されてもよい。次いで、画像センサ332によってサンプリングされた光学シーン情報は、その後の処理およびアプリケーションプロセッサ335への通信の少なくとも一方のために、画像センサ332からコントローラ333に通信されてもよい。別の実施形態において、コントローラ333は、画像センサ332によってサンプリングされた光学シーン情報の記憶、または処理された光学シーン情報の記憶を制御してもよい。
別の実施形態において、コントローラ333は、画像センサ332が周囲画像のサンプリングと関連付けられている露光時間を完了した後に、ストロボユニットが短い期間(たとえば1マイクロ秒未満等)中にストロボ照明を発することを可能にし得る。さらに、コントローラ333は、画像センサ332の制御動作と共にストロボ制御信号338を生成するように構成されてもよい。
一実施形態において、画像センサ332は相補型金属酸化膜半導体(CMOS)センサまたは電荷結合素子(CCD)センサであってもよい。別の実施形態において、コントローラ333および画像センサ332は、集積システムまたは集積回路として共にパッケージ化されてもよい。さらに別の実施形態において、コントローラ333および画像センサ332は別個のパッケージを含んでいてもよい。一実施形態において、コントローラ333は、画像センサ332からの光学シーン情報の受信、光学シーン情報の処理、さまざまな機能のタイミング、およびアプリケーションプロセッサ335と関連付けられているシグナリングのための回路を提供してもよい。さらに、別の実施形態において、コントローラ333は、露光、シャッタリング、ホワイトバランス、およびゲイン調整の1つ以上を制御するための回路を提供してもよい。コントローラ333の回路による光学シーン情報の処理は、ゲイン適用、増幅、およびアナログ-デジタル変換の1つ以上を含んでいてもよい。光学シーン情報を処理した後、コントローラ333は対応するデジタル画素データをアプリケーションプロセッサ335などに送信してもよい。
一実施形態において、アプリケーションプロセッサ335は、プロセッサ複合体310および揮発性メモリ318とNVメモリ316との少なくとも一方、またはその他のメモリデバイスおよび/もしくはシステム上で実現されてもよい。アプリケーションプロセッサ335は、カメラモジュール330からアプリケーションプロセッサ335に通信される受信した光学シーン情報またはデジタル画素データの処理のために予め構成されてもよい。
図4は、一実施形態に従うネットワークサービスシステム400を示す。選択肢として、ネットワークサービスシステム400は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、ネットワークサービスシステム400は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、ネットワークサービスシステム400は、デジタル写真撮影システムを実現するデバイスにネットワークアクセスを提供するように構成されてもよい。示されるように、ネットワークサービスシステム400は、ワイヤレスモバイルデバイス376、無線アクセスポイント472、データネットワーク474、データセンタ480、およびデータセンタ481を含む。ワイヤレスモバイルデバイス376は、デジタル無線リンク471を介して無線アクセスポイント472と通信して、デジタル画像と関連付けられているデータを含むデジタルデータを送受信してもよい。ワイヤレスモバイルデバイス376および無線アクセスポイント472は、デジタル無線リンク471を介してデジタルデータを伝送するための任意の技術的に実行可能な伝送技術を実現し得る。特定の実施形態において、データセンタ480,481の1つ以上は、所与のデータセンタ480,481内の各システムおよびサブシステムが、指定されたデータ処理およびネットワークタスクを実行するように構成された仮想マシンを含み得るように、仮想構造を用いて実現されてもよい。他の実現例では、データセンサ480,481の1つ以上は複数の物理的サイトにわたって物理的に分散していてもよい。
ワイヤレスモバイルデバイス376は、デジタルカメラを含むように構成されたスマートフォン、ワイヤレスネットワーク接続性を含むように構成されたデジタルカメラ、現実拡張デバイス、デジタルカメラおよびワイヤレスネットワーク接続性を含むように構成されたラップトップ、またはデジタル写真撮影システムおよびワイヤレスネットワーク接続性を含むように構成されたその他の技術的に実行可能なコンピューティングデバイスを含んでいてもよい。
さまざまな実施形態において、無線アクセスポイント472は、デジタル無線リンク471を介してワイヤレスモバイルデバイス376と通信するように、かつ、電気、光学、または無線伝送媒体などの任意の技術的に実行可能な伝送媒体を介してデータネットワーク474と通信するように構成されてもよい。たとえば、一実施形態において、無線アクセスポイント472は、無線アクセスポイント472に、かつデータネットワーク474内のルータシステムまたはスイッチシステムに結合された光ファイバを通してデータネットワーク474と通信してもよい。広域ネットワーク(WAN)リンクなどのネットワークリンク475がデータネットワーク474とデータセンタ480との間でデータを伝送するように構成されてもよい。
一実施形態において、データネットワーク474は、ルータ、スイッチ、長距離伝送システム、プロビジョニングシステム、認証システム、ならびに、無線アクセスポイント472とデータセンタ480との間など、ネットワーク終点同士の間でデータを伝達するように構成された通信および動作サブシステムの任意の技術的に実行可能な組合せを含んでいてもよい。一実現例において、ワイヤレスモバイルデバイス376は、データネットワーク474に結合された1つ以上の無線アクセスポイントを介してデータセンタ480と通信するように構成された複数のワイヤレスモバイルデバイスのうちの1つを含んでいてもよい。
また、さまざまな実施形態において、データセンタ480はスイッチ/ルータ482および少なくとも1つのデータサービスシステム484を含み得るがこれらに限定されない。スイッチ/ルータ482は、ネットワークリンク475と各データサービスシステム484との間でデータトラフィックを転送するように構成されてもよい。スイッチ/ルータ482は、イーサネット(登録商標)メディア層伝送、レイヤ2スイッチング、レイヤ3ルーティングなどの任意の技術的に実行可能な伝送技術を実現し得る。スイッチ/ルータ482は、データサービスシステム484とデータネットワーク474との間でデータを伝送するように構成された1つ以上の個別のシステムを含んでいてもよい。
一実施形態において、スイッチ/ルータ482は、複数のデータサービスシステム484同士の間でセッションレベルのロードバランシングを実現し得る。各データサービスシステム484は少なくとも1つの計算システム488を含んでいてもよく、さらに1つ以上の記憶システム486を含んでいてもよい。各計算システム488は、中央処理装置、グラフィック処理装置、またはそれらのいずれかの組合せなどの、1つ以上の処理装置を含んでいてもよい。所与のデータサービスシステム484は、共に動作するように構成された1つ以上の物理的に別個のシステムを含む物理的システムとして実現されてもよい。または、所与のデータサービスシステム484は、任意の物理的システム上で実行される1つ以上の仮想システムを含む仮想システムとして実現されてもよい。特定のシナリオでは、データネットワーク474は、ネットワークリンク476を通すなどしてデータセンタ480と別のデータセンタ481との間でデータを伝送するように構成されてもよい。
別の実施形態において、ネットワークサービスシステム400は、本発明の1つ以上の実施形態を実現するように構成された、任意のネットワーク化されたモバイルデバイスを含んでいてもよい。たとえば、いくつかの実施形態において、アドホック無線ネットワークなどのピアツーピアネットワークが2つの異なるワイヤレスモバイルデバイス同士の間に確立されてもよい。そのような実施形態では、デジタル画像データは、当該デジタル画像データをデータセンタ480に送信しなくても2つのワイヤレスモバイルデバイス同士の間で伝送され得る。
図5Aは、一実施形態に従う光学シーン情報を捕捉して写真撮影シーンの電子表現に変換するためのシステムを示す。選択肢として、図5Aのシステムは図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。図5Aに示されるように、画素アレイ510は行ロジック512および列読出回路522と通信している。さらに、行ロジック512および列読出回路522の両方が制御ユニット514と通信している。さらに、画素アレイ510は複数の画素540を含むとして示されており、各画素540は4つのセルであるセル542~545を含んでいてもよい。本説明の文脈において、画素アレイ510は、画像センサ132またはカメラモジュール330の画像センサ332などの画像センサに含まれていてもよい。
示されるように、画素アレイ510は画素540の二次元配列を含む。たとえば、一実施形態において、画素アレイ510は、第1の寸法における4,000個の画素540および第2の寸法における3,000個の画素540を含み、画素アレイ510において合計12,000,000個の画素540を含むように構築されてもよく、これは12メガピクセル画素アレイと称され得る。さらに、上述のように、各画素540は4つのセル542~545を含むとして示されている。一実施形態において、セル542は第1の光の色と関連付けられてもよく(たとえば、第1の光の色に対して選択的に感度が高い、等)、セル543は第2の光の色と関連付けられてもよく、セル544は第3の光の色と関連付けられてもよく、セル545は第4の光の色と関連付けられてもよい。一実施形態において、第1の光の色、第2の光の色、第3の光の色および第4の光の色の各々は、セル542~545の各々が異なる光の色と関連付けられ得るように、異なる光の色である。別の実施形態において、セル542~545の少なくとも2つのセルが同じ光の色と関連付けられてもよい。たとえば、セル543およびセル544が同じ光の色と関連付けられてもよい。
さらに、セル542~545の各々はアナログ値を記憶することが可能であり得る。一実施形態において、セル542~545の各々は、露光時間中に蓄積された露光に対応する電荷を記憶するためのコンデンサと関連付けられてもよい。そのような実施形態では、行選択信号を所与のセルの回路にアサートすると、当該セルは読出動作を実行し得、当該読出動作は、当該セルと関連付けられているコンデンサの記憶電荷の関数である電流を生成して送信することを含み得るがこれらに限定されない。一実施形態において、読出動作の前に、関連付けられているフォトダイオードからコンデンサにおいて受信した電流によって、予め充電されているコンデンサが、フォトダイオードにおいて検出された入射光強度に比例する速度で放電し得る。次いで、セルのコンデンサの残留電荷が行選択信号を用いて読出され得る。セルから送信される電流は、コンデンサ上の残留電荷を反映するアナログ値である。この目的で、読出動作時にセルから受信するアナログ値は、フォトダイオードにおいて検出される光の蓄積強度を反映し得る。所与のコンデンサ上に記憶された電荷、および送信電流などのいずれかの対応する電荷の表示は、本明細書において一種のアナログ画素データと称され得る。当然、アナログ画素データは1組の空間的に離散した強度サンプルを含んでいてもよく、その各々が連続アナログ値によって表される。
さらに、行ロジック512および列読出回路520は制御ユニット514の制御下で連携して働いて、複数の画素540の複数のセル542~545を読出してもよい。たとえば、制御ユニット514は、行ロジック512に、画素540の所与の行と関連付けられている行制御信号530を含む行選択信号をアサートさせ、その画素の行と関連付けられているアナログ画素データを読出すことを可能にし得る。図5Aに示されるように、これは、行ロジック512が、画素540(0)および画素540(a)を含む行534(0)と関連付けられている行制御信号530(0)を含む1つ以上の行選択信号をアサートすることを含んでいてもよい。行選択信号がアサートされたことに応答して、行534(0)上の各画素540は、画素540のセル542~545内に記憶されている電荷に基づいて少なくとも1つのアナログ値を送信する。特定の実施形態において、セル542およびセル543は第1の行選択信号に応答して対応するアナログ値を送信するように構成されるのに対して、セル544およびセル545は第2の行選択信号に応答して対応するアナログ値を送信するように構成される。
一実施形態において、各行534(0)から534(r)を含む画素540の完全な行についてのアナログ値が、列信号532を通して列読出回路520に連続して送信されてもよい。一実施形態において、完全な行、または画素の完全な行内の画素もしくはセルについてのアナログ値が同時に送信されてもよい。たとえば、行制御信号530(0)を含む行選択信号がアサートされたことに応答して、画素540(0)は、少なくとも1つのアナログ値を、画素540(0)のセル542~545から列信号532(0)を含む1つ以上の信号経路を通って列読出回路520送信することによって応答してもよく、同時に、画素540(a)も、少なくとも1つのアナログ値を、画素540(a)のセル542~545から列信号532(c)を含む1つ以上の信号経路を通って列読出回路520に送信することになる。当然、画素540(0)から少なくとも1つのアナログ値を受信するのと並行して、かつ画素540(a)から少なくとも1つのアナログ値を受信するのと並行して、1つ以上のアナログ値が1つ以上の他の画素540から列読出回路520において受信されてもよい。行534(0)を含む画素540から受信した1組のアナログ値は合わせてアナログ信号と称され得、このアナログ信号は画素アレイ510上に合焦される光学画像に基づいていてもよい。
さらに、行534(0)を含む画素540を読出した後、行ロジック512は読出すべき画素540の第2の行を選択してもよい。たとえば、行ロジック512は、画素540(b)および画素540(z)を含む画素540の行と関連付けられている行制御信号530(r)を含む1つ以上の行選択信号をアサートしてもよい。この結果、列読出回路520は、行534(r)を含む画素540と関連付けられている対応する1組のアナログ値を受信してもよい。
列読出回路520は、1つ以上の受信したアナログ値を選択して図6のアナログ-デジタルユニット622などのアナログ-デジタル変換回路に転送するマルチプレクサとして作用し得る。列読出回路520は、受信したアナログ値を予め規定された順序または順番で転送してもよい。一実施形態において、行ロジック512が行制御信号530を含む1つ以上の行選択信号をアサートすると、画素の対応する行が列信号532を通してアナログ値を送信する。列読出回路520はアナログ値を受信し、アナログ値の1つ以上を連続的に選択してアナログ-デジタルユニット622に一度に転送する。行ロジック512による行の選択、および列読出回路620による列の選択は制御ユニット514によって命じられてもよい。一実施形態において、行534は連続的に選択されて読出され、行534(0)で開始して行534(r)で終了し、連続した列と関連付けられているアナログ値がアナログ-デジタルユニット622に送信される。他の実施形態では、画素540に記憶されたアナログ値を読出す他の選択パターンが実現されてもよい。
さらに、列読出回路520によって転送されるアナログ値はアナログ画素データを含んでいてもよく、当該データは後で増幅され、次いで、画素アレイ510上に合焦される光学画像に基づいて1つ以上のデジタル画像を生成するためのデジタル画素データに変換されてもよい。
図5B~図5Dは、1つ以上の実施形態に係る3つの随意の画素構成を示す。選択肢として、これらの画素構成は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、これらの画素構成は任意の所望の環境において実現されてもよい。具体例として、図5B~図5Dの画素540のうちのいずれかは、画素アレイ510の画素540の1つ以上として動作してもよい。
図5Bに示されるように、画素540は、一実施形態に従って、赤色光強度を測定するための第1のセル(R)、緑色光強度を測定するための第2および第3のセル(G)、ならびに青色光強度を測定するための第4のセル(B)を含むとして示されている。図5Cに示されるように、画素540は、一実施形態に従って、赤色光強度を測定するための第1のセル(R)、緑色光強度を測定するための第2のセル(G)、青色光強度を測定するための第3のセル(B)、および白色光強度を測定するための第4のセル(W)を含むとして示されている。図5Dに示されるように、画素540は、さらに別の実施形態に従って、シアン光強度を測定するための第1のセル(C)、マゼンタ光強度を測定するための第2のセル(M)、黄色光強度を測定するための第3のセル(Y)、および白色光強度を測定するための第4のセル(W)を含むとして示されている。
画素540は各々が4つのセルを含むとして示されているが、当然、画素540は光強度を測定するためのより少ないまたは多いセルを含むように構成されてもよい。さらに、別の実施形態において、画素540の特定のセルは光の単一のピーク波長、または白色光を測定するように構成されるとして示されているが、画素540のセルは任意の波長、光の波長範囲、または複数の光波長を測定するように構成されてもよい。
次に図5Eを参照して、一実施形態に従う画像センサ332上に光学画像として合焦される光学シーン情報を捕捉するためのシステムが示されている。選択肢として、図5Eのシステムは図面のうちのいずれかの画面の詳細の文脈において実現されてもよい。しかし、当然、図5Eのシステムは任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図5Eに示されるように、画像センサ332は第1のセル544、第2のセル545および第3のセル548を含むとして示されている。さらに、セル544~548の各々はフォトダイオード562を含むとして示されている。さらに、フォトダイオード562の各々の上には対応するフィルタ564があり、フィルタ564の各々の上には対応するマイクロレンズ566がある。たとえば、セル544はフォトダイオード562(0)を含むとして示されており、その上にフィルタ564(0)があり、その上にマイクロレンズ566(0)がある。同様に、セル545はフォトダイオード562(1)を含むとして示されており、その上にフィルタ564(1)があり、その上にマイクロレンズ566(1)がある。さらに、図5Eに示されるように、画素540は、セル544および545、フォトダイオード562(0)および562(1)、フィルタ564(0)および564(1)、ならびにマイクロレンズ566(0)および566(1)の各々を含むとして示されている。
一実施形態において、マイクロレンズ566の各々は、直径が50ミクロン未満の任意のレンズであってもよい。しかし、他の実施形態では、マイクロレンズ566の各々の直径は50ミクロン以上であってもよい。一実施形態において、マイクロレンズ566の各々は、受光した光をマイクロレンズ566の下方の支持基板上に合焦および集光するための球状凸面を含んでいてもよい。たとえば、図5Eに示されるように、マイクロレンズ566(0)は受光した光をフィルタ564(0)上に合焦および集光する。一実施形態において、マイクロレンズアレイ567はマイクロレンズ566を含んでいてもよく、当該マイクロレンズの各々は、画像センサ332のセル544内のフォトダイオード562と配置が対応している。
本説明の文脈において、フォトダイオード562は、光子吸収に応答して電位差を生成するかまたはその電気抵抗を変化させる任意の半導体ダイオードを含んでいてもよい。したがって、フォトダイオード562は光強度の検出または測定に用いられてもよい。さらに、フィルタ564の各々は、1つ以上の予め定められた波長の光を選択的に透過させるための光学フィルタであってもよい。たとえば、フィルタ564(0)は対応するマイクロレンズ566(0)から受光した実質的に緑色光のみを選択的に透過させるように構成されてもよく、フィルタ564(1)はマイクロレンズ566(1)から受光した実質的に青色光のみを選択的に透過させるように構成されてもよい。フィルタ564およびマイクロレンズ566はともに、入射光の選択波長を平面上に合焦するように動作可能であり得る。一実施形態において、当該平面は、画像センサ332の表面上のフォトダイオード562の二次元格子であってもよい。さらに、各フォトダイオード562は、その関連付けられているフィルタに依存して、1つ以上の予め定められた光の波長を受信する。一実施形態において、各フォトダイオード562は、フィルタリングされた光の赤色、青色または緑色波長のみを受信する。図5B~図5Dに関して示されるように、フォトダイオードは赤色、緑色または青色以外の光の波長を検出するように構成されてもよいと考えられる。たとえば、具体的には図5C~図5Dの文脈において、フォトダイオードは、白色、シアン、マゼンタ、黄色、または赤外光もしくは紫外光などの不可視光を検出するように構成されてもよい。
この目的で、セル、フォトダイオード、フィルタ、およびマイクロレンズの各結合は、光を受光し、受光した光を集光およびフィルタリングして1つ以上の予め定められた光の波長を分離し、次いで当該1つ以上の予め定められた波長で受光した光の強度を測定する、検出する、またはそうでなければ定量化するように動作可能であり得る。測定または検出された光は次いで、セル内に記憶されるアナログ値として表されてもよい。たとえば、一実施形態において、アナログ値は、上記により詳細に述べたように、コンデンサを利用してセル内に記憶されてもよい。さらに、セル内に記憶されるアナログ値は、行ロジック512から受信され得る行選択信号などの選択信号に基づいてセルから出力されてもよい。さらに、単一のセルから送信されるアナログ値は、アナログ信号の複数のアナログ値のうちの1つのアナログ値を含んでいてもよく、アナログ値の各々は異なるセルによって出力される。したがって、アナログ信号は複数のセルからの複数のアナログ画素データ値を含んでいてもよい。一実施形態において、アナログ信号は、写真撮影シーンの画像全体についてのアナログ画素データ値を含んでいてもよい。別の実施形態において、アナログ信号は、写真撮影シーンの画像全体のサブセットについてのアナログ画素データ値を含んでいてもよい。たとえば、アナログ信号は、写真撮影シーンの画像の画素の1行についてのアナログ画素データ値を含んでいてもよい。図5A~図5Eの文脈において、画素アレイ510の画素540の行534(0)は写真撮影シーンの画像の画素のそのような1行であってもよい。
図6は、ある実施形態に従うアナログ画素データをデジタル画素データに変換するためのシステムを示す。選択肢として、図6のシステムは本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、図6のシステムは任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図6に示されるように、アナログ画素データ621が、制御ユニット514の制御下でアナログ-デジタルユニット622において列読出回路520から受信される。アナログ画素データ621は、上述のようにアナログ信号内で受信されてもよい。さらに、アナログ-デジタルユニット622は、受信したアナログ画素データ621に基づいてデジタル画素データ625を生成する。
より具体的には、図6に示されるように、アナログ-デジタルユニット622は増幅器650およびアナログ-デジタル変換器654を含む。一実施形態において、増幅器650はアナログ画素データ621およびゲイン652の両方を受信し、ゲイン652をアナログ画素データ621に適用して、ゲイン調整されたアナログ画素データ623を生成する。ゲイン調整されたアナログ画素データ623は増幅器650からアナログ-デジタル変換器654に送信される。アナログ-デジタル変換器654はゲイン調整されたアナログ画素データ623を受信し、ゲイン調整されたアナログ画素データ623をデジタル画素データ625に変換し、当該データは次いでアナログ-デジタル変換器654から送信される。他の実施形態では、増幅器650はアナログ-デジタルユニット622内ではなく列読出回路520内で実現されてもよい。アナログ-デジタル変換器654は、任意の技術的に実行可能なアナログ-デジタル変換システムを用いて、ゲイン調整されたアナログ画素データ623をデジタル画素データ625に変換してもよい。
ある実施形態において、ゲイン調整されたアナログ画素データ623は、ゲイン652をアナログ画素データ621に適用することによって得られる。一実施形態において、ゲイン652はアナログ-デジタルユニット622によって選択されてもよい。別の実施形態において、ゲイン652は制御ユニット514によって選択され、次いで、アナログ画素データ621に適用されるために制御ユニット514からアナログ-デジタルユニット622に供給されてもよい。
一実施形態において、ゲイン652をアナログ画素データ621に適用した結果、ゲイン調整されたアナログ画素データ623にアナログノイズが現われ得ることに留意すべきである。画素アレイ510から非常に高感度のデータを得るために、増幅器650が著しく大きいゲインをアナログ画素データ621に付与した場合は、ゲイン調整されたアナログ画素データ623内に大量のノイズが予想され得る。一実施形態において、そのようなノイズの悪影響は、全露光時間を減少させて光学シーン情報を捕捉することによって減少し得る。そのような実施形態では、ゲイン652をアナログ画素データ621に適用することによって、露光が適切でノイズが減少した、ゲイン調整されたアナログ画素データを得ることができる。
一実施形態において、増幅器650はトランスインピーダンス増幅器(TIA)であってもよい。さらに、ゲイン652はデジタル値によって指定されてもよい。一実施形態において、ゲイン652を指定するデジタル値は、デジタル写真撮影デバイスを「マニュアル」モードで操作することによってなど、デジタル写真撮影デバイスのユーザによって設定されてもよい。さらに、デジタル値はデジタル写真撮影デバイスのハードウェアまたはソフトウェアによって設定されてもよい。選択肢として、デジタル値は、デジタル写真撮影デバイスのソフトウェアと連携して作業するユーザによって設定されてもよい。
一実施形態において、ゲイン652を指定するために用いられるデジタル値はISOと関連付けられてもよい。写真撮影の分野において、ISOシステムは光感度を指定するための確立された規格である。一実施形態において、増幅器650は、アナログ画素データ621に適用すべきゲイン652を指定するデジタル値を受信する。別の実施形態において、従来のISO値から、ゲイン652として増幅器650に与えられ得るデジタルゲイン値へのマッピングがあってもよい。たとえば、ISO100、ISO200、ISO400、ISO800、ISO1600等の各々が異なるデジタルゲイン値に一意にマップされてもよく、特定のISOを選択すると、マップされたデジタルゲイン値がゲイン652として適用されるために増幅器650に与えられる。一実施形態において、1つ以上のISO値が1のゲインにマップされてもよい。当然、他の実施形態では、1つ以上のISO値がその他のゲイン値にマップされてもよい。
したがって、一実施形態において、各アナログ画素値は特定のISO値を前提として輝度が調整されてもよい。ゆえに、そのような実施形態では、ゲイン調整されたアナログ画素データ623は輝度補正された画素データを含んでいてもよく、輝度は指定されたISOに基づいて補正される。別の実施形態において、ある画像についてゲイン調整されたアナログ画素データ623は、当該画像が特定のISOでサンプリングされたかのような輝度を画像内に有する画素を含んでいてもよい。
ある実施形態に従うと、デジタル画素データ625は、画素アレイ510を用いて捕捉された画像の画素を表す複数のデジタル値を含んでいてもよい。
図7は、ある実施形態に従うアナログ信号のアナログ画素データをデジタル画素データに変換するためのシステム700を示す。選択肢として、システム700は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、システム700は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
システム700は、アナログ記憶面702、アナログ-デジタルユニット722、第1のデジタル画像732、および第2のデジタル画像734を含むとして図7に示されている。また、一実施形態において、アナログ値の各々はアナログ記憶面702内で「V」として表現され得、対応するデジタル値の各々は第1のデジタル画像732および第2のデジタル画像734内で「D」として表現され得る。
本説明の文脈において、アナログ記憶面702は1つ以上のアナログ値の任意の集合を含んでいてもよい。一実施形態において、アナログ記憶面702は1つ以上のアナログ画素値を含んでいてもよい。いくつかの実施形態において、アナログ記憶面702は、画素アレイの行またはラインの画素ごとに少なくとも1つのアナログ画素値を含んでいてもよい。さらに、別の実施形態において、アナログ記憶面702は、フレームと称され得る画素アレイの全体の画素ごとに少なくとも1つのアナログ画素値を含んでいてもよい。一実施形態において、アナログ記憶面702は画素のセルごとにアナログ値を含んでいてもよい。さらに別の実施形態において、アナログ記憶面702は、画素アレイの1本の行またはラインの各画素のセルごとにアナログ値を含んでいてもよい。別の実施形態において、アナログ記憶面702は、画素アレイの複数のラインまたは行の各画素のセルごとにアナログ値を含んでいてもよい。たとえば、アナログ記憶面702は、画素アレイのすべてのラインまたは行の各画素のセルごとにアナログ値を含んでいてもよい。
さらに、アナログ記憶面702のアナログ値は、アナログ画素データ704としてアナログ-デジタルユニット722に出力される。一実施形態において、アナログ-デジタルユニット722は、図6の文脈内で説明したアナログ-デジタルユニット622と実質的に同一であってもよい。たとえば、アナログ-デジタルユニット722は少なくとも1つの増幅器および少なくとも1つのアナログ-デジタル変換器を含んでいてもよく、当該増幅器はゲイン値を受信し、当該ゲイン値を利用して、アナログ-デジタルユニット722において受信したアナログ画素データをゲイン調整するように動作可能である。さらに、そのような実施形態では、増幅器はゲイン調整されたアナログ画素データをアナログ-デジタル変換器に送信してもよく、当該変換器は次いで、ゲイン調整されたアナログ画素データからデジタル画素データを生成する。
図7のシステム700の文脈において、アナログ-デジタルユニット722はアナログ画素データ704を受信し、少なくとも2つの異なるゲインをアナログ画素データ704に適用して、少なくとも第1のゲイン調整されたアナログ画素データおよび第2のゲイン調整されたアナログ画素データを生成する。さらに、アナログ-デジタルユニット722は、生成したゲイン調整されたアナログ画素データの各々をデジタル画素データに変換してから、少なくとも2つのデジタル出力を出力する。この目的で、アナログ-デジタルユニット722は、アナログ画素データ704に適用される各ゲインに対応する異なるデジタル出力を提供する。具体的には図7に関して、アナログ-デジタルユニット722は、第1のゲイン652に対応する第1のデジタル画素データ723を含む第1のデジタル信号、および第2のゲイン752に対応する第2のデジタル画素データ724を含む第2のデジタル信号を生成するとして示されている。
一実施形態において、アナログ-デジタルユニット722は少なくとも2つのゲインをアナログ値に連続して適用する。たとえば、アナログ-デジタルユニット722はまず第1のゲイン652をアナログ画素データ704に適用し、続いて第2のゲイン752を同じアナログ画素データ704に適用する。他の実施形態では、アナログ-デジタルユニット722は少なくとも2つのゲインをアナログ値に並列的に適用してもよい。たとえば、アナログ-デジタルユニット722は、第2のゲイン752をアナログ画素データ704に適用するのと並列的に、第1のゲイン652をアナログ画素データ704に適用してもよい。この目的で、少なくとも2つのゲインを適用する結果として、アナログ画素データ704は少なくとも第1のゲイン652および第2のゲイン752を利用して増幅される。
一実施形態に従うと、少なくとも2つのゲインは、写真撮影シーンの露光、計測データ、ユーザ入力、検出された周囲光、ストロボ制御、または上記のいずれかの組合せに基づく任意の技術的に実行可能な技術を用いて決定されてもよい。たとえば、少なくとも2つのゲインのうちの第1のゲインは、アナログ記憶面702からのデジタル値の半分が、「EV0」露光を有すると特徴付けられ得る第1のデジタル画像732を含むデジタル値と関連付けられているダイナミックレンジについての指定閾値(たとえば0.0から1.0の範囲内の0.5の閾値)よりも高いデジタル値に変換されるように決定されてもよい。この例を続けて、少なくとも2つのゲインのうちの第2のゲインは、「EV+1」露光を有すると特徴付けられる第2のデジタル画像734を生成するように第1のゲインの2倍であるとして決定されてもよい。
一実施形態において、アナログ-デジタルユニット722は、第1のゲイン調整されたアナログ画素データを第1のデジタル画素データ723に、かつ第2のゲイン調整されたアナログ画素データを第2のデジタル画素データ724に連続して変換する。たとえば、アナログ-デジタルユニット722はまず、第1のゲイン調整されたアナログ画素データを第1のデジタル画素データ723に変換し、続いて第2のゲイン調整されたアナログ画素データを第2のデジタル画素データ724に変換する。他の実施形態では、アナログ-デジタルユニット722は、第1のデジタル画素データ723が第2のデジタル画素データ724と並列的に生成されるように、そのような変換を並列的に実行してもよい。
さらに、図7に示されるように、第1のデジタル画素データ723を用いて第1のデジタル画像732が提供される。同様に、第2のデジタル画素データ724を用いて第2のデジタル画像734が提供される。第1のデジタル画像732および第2のデジタル画像734の両方が同じアナログ画素データ704に基づいているが、第1のデジタル画像732は、第1のゲイン652(第1のデジタル画像732を生成するために用いられる)と第2のゲイン752(第2のデジタル画像752を生成するために用いられる)との差の関数として第2のデジタル画像734と異なっていてもよい。具体的には、少なくとも2つのゲインのうちの最大ゲインを用いて生成されたデジタル画像は、最も明るいまたは露光が多いと視覚的に認識され得る。逆に、少なくとも2つのゲインのうちの最小ゲインを用いて生成されたデジタル画像は、最も暗いまたは露光が少ないと視覚的に認識され得る。この目的で、第1の光感度値は第1のデジタル画素データ723と関連付けられてもよく、第2の光感度値は第2のデジタル画素データ724と関連付けられてもよい。さらに、ゲインの各々は異なる光感度値と関連付けられてもよいため、第1のデジタル画像または第1のデジタル信号は第1の光感度値と関連付けられてもよく、第2のデジタル画像または第2のデジタル信号は第2の光感度値と関連付けられてもよい。
アナログ画素データへのゲインの制御された適用はHDR画像生成を大きく助け得るが、適用するゲインが大き過ぎると、ノイズが多い、露光過多である、および/または白飛び(blown-out)であると視覚的に認識されるデジタル画像が生じ得ることに留意すべきである。一実施形態において、2ストップ(stop)のゲインをアナログ画素データに適用すると、写真撮影シーンの暗い部分について視覚的に認識可能なノイズが、および写真撮影シーンの明るい部分について視覚的に認識不可能なノイズが付与され得る。別の実施形態において、デジタル写真撮影デバイスは、捕捉された写真撮影シーンについてアナログ画素データのアナログ記憶面を提供し、次いでアナログ-デジタルユニット722を用いて同じアナログ画素データの少なくとも2つのアナログ-デジタルサンプリングを実行するように構成されてもよい。この目的で、デジタル画像が少なくとも2つのサンプリングのサンプリングごとに生成されてもよく、各デジタル画像は、すべてのデジタル画像が画像センサ上に合焦される単一の光学画像の同じアナログサンプリングから生成されているにもかかわらず、異なる露光で得られる。
一実施形態において、当初の露光パラメータはユーザによって、またはデジタル写真撮影デバイスの計測アルゴリズムによって選択されてもよい。当初の露光パラメータは、ユーザ入力、または特定の捕捉変数を選択するソフトウェアに基づいて選択されてもよい。そのような捕捉変数は、たとえば、ISO、アパーチャ、およびシャッター速度を含んでいてもよい。画像センサは次いで、当初の露光パラメータで写真撮影シーンの単一の露光を捕捉し、画像センサ上に合焦される光学画像に対応するアナログ値でアナログ記憶面をポピュレートしてもよい。次に、第1のデジタル画像が上述のシステムおよび方法に従って第1のゲインを利用して得られてもよい。たとえば、当初の露光パラメータがISO400の選択を含むようにデジタル写真撮影デバイスが構成されている場合、第1のデジタル画像を得るために利用される第1のゲインはISO400にマップされてもよく、またはそうでなければISO400と関連付けられてもよい。この第1のデジタル画像は、露光値0(EV0)で得られる露光または画像と称され得る。さらに、少なくとももう1つのデジタル画像が上述のシステムおよび方法に従って第2のゲインを利用して得られてもよい。たとえば、第1のデジタル画像を生成するために用いられるのと同じアナログ画素データが第2のゲインを利用して処理されて第2のデジタル画像を生成してもよい。
一実施形態において、少なくとも2つのデジタル画像が同じアナログ画素データを用いて生成されてブレンドされ、HDR画像を生成してもよい。同じアナログ信号を用いて生成された少なくとも2つのデジタル画像は、第1のデジタル信号と第2のデジタル信号とをブレンドすることによってブレンドされてもよい。少なくとも2つのデジタル画像は同じアナログ画素データを用いて生成されるため、少なくとも2つのデジタル画像同士の間のフレーム間時間はゼロであり得る。同じ写真撮影シーンの少なくとも2つのデジタル画像同士の間のフレーム間時間がゼロである結果として、HDR画像を、HDR写真に典型的なモーションブラーまたは他のアーティファクトなしで生成することができる。
別の実施形態において、第2のゲインは第1のゲインに基づいて選択されてもよい。たとえば、第2のゲインは、第2のゲインが第1のゲインから1ストップ離れていることに基づいて選択されてもよい。より具体的には、第1のゲインがISO400にマップされているか関連付けられている場合は、ISO400から1ストップ下がるとISO200と関連付けられているゲインが提供され、ISO400から1ストップ上がるとISO800と関連付けられているゲインが提供される。そのような実施形態では、ISO200と関連付けられているゲインを利用して生成されるデジタル画像は露光値-1(EV-1)で得られる露光または画像と称され得、ISO800と関連付けられているゲインを利用して生成されるデジタル画像は露光値+1(EV+1)で得られる露光または画像と称され得る。
さらに、同じアナログ信号を利用して生成されるデジタル画像同士の間により大きい露光差が求められる場合は、第2のゲインは、第2のゲインが第1のゲインから2ストップ離れていることに基づいて選択されてもよい。たとえば、第1のゲインがISO400にマップされているか関連付けられている場合は、ISO400から2ストップ下がるとISO100と関連付けられているゲインが提供され、ISO400から2ストップ上がるとISO1600と関連付けられているゲインが提供される。そのような実施形態では、ISO100と関連付けられているゲインを利用して生成されるデジタル画像は露光値-2(EV-2)で得られる露光または画像と称され得、ISO1600と関連付けられているゲインを利用して生成されるデジタル画像は露光値+2(EV+2)で得られる露光または画像と称され得る。
一実施形態において、ISOおよびEV0画像の露光は、より暗いまたはより飽和したデジタル画像が生成されるように好みに従って選択されてもよい。そのような実施形態では、その意図は、最大ゲインを利用して生成されるデジタル画像である、最も明るいデジタル画像となるものの白飛びまたは露光過多を回避することであり得る。別の実施形態において、EV-1デジタル画像またはEV-2デジタル画像は第1の生成デジタル画像であってもよい。EV-1またはEV-2デジタル画像を生成したのに続いて、アナログ-デジタルユニットにおけるゲインの増加を利用してEV0デジタル画像が生成されてもよく、次いでアナログ-デジタルユニットにおけるゲインの第2の増加を利用してEV+1またはEV+2デジタル画像が生成されてもよい。一実施形態において、当初の露光パラメータはEV-Nデジタル画像に対応し、その後のゲインを用いてEV0デジタル画像、EV+Mデジタル画像、またはそれらのいずれかの組合せが得られ、NおよびMは0から-10の間の値である。
一実施形態において、EV-2デジタル画像、EV0デジタル画像、およびEV+2デジタル画像が、3つのアナログ-デジタルユニットを実現することによって並列的に生成されてもよい。そのような実現によって、EV-1デジタル画像、EV0デジタル画像、およびEV+1デジタル画像のすべてを実質的に生成することもできる。同様に、露光のいずれかの組合せが、2つ以上のアナログ-デジタルユニット、3つ以上のアナログ-デジタルユニット、または任意の数のアナログ-デジタルユニットから並列的に生成されてもよい。
図8は、さまざまな実施形態に従うアナログ信号を増幅するためのさまざまなタイミング構成を示す。選択肢として、図8のタイミング構成は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、図8のタイミング構成は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
具体的には、図8に示されるように、画素ごとのタイミング構成801が画素単位でアナログ信号を増幅するとして示されている。さらに、ラインごとのタイミング構成811がライン単位でアナログ信号を増幅するとして示されている。最後に、フレームごとのタイミング構成821がフレーム単位でアナログ信号を増幅するとして示されている。アナログ画素データと関連付けられている各増幅アナログ信号は、対応するデジタル信号値に変換されてもよい。
画素ごとのタイミング構成801を実現するシステムにおいて、アナログ画素データを含むアナログ信号がアナログ-デジタルユニットにおいて受信されてもよい。さらに、アナログ画素データは個々のアナログ画素値を含んでいてもよい。そのような実施形態では、第1の画素と関連付けられている第1のアナログ画素値がアナログ信号内で特定されて選択されてもよい。次に、第1のゲイン803、第2のゲイン805および第3のゲイン807の各々が、同じ第1のアナログ画素値に連続してまたは並行して適用されてもよい。いくつかの実施形態において、3つよりも少ないまたは多い異なるゲインが、選択されたアナログ画素値に適用されてもよい。たとえば、いくつかの実施形態において、満足のいくHDR画像を生成するためには2つの異なるゲインを同じアナログ画素値に適用するのみで十分であり得る。一実施形態において、第1のゲイン803、第2のゲイン805および第3のゲイン807の各々を適用した後、第2の画素と関連付けられている第2のアナログ画素値がアナログ信号内で特定されて選択されてもよい。第2の画素は第1の画素の隣接画素であってもよい。たとえば、第2の画素は第1の画素と同じ行内にあり、画像センサの画素アレイ上で第1の画素に隣接して位置していてもよい。次に、第1のゲイン803、第2のゲイン805および第3のゲイン807の各々が、同じ第2のアナログ画素値に連続してまたは並行して適用されてもよい。この目的で、画素ごとのタイミング構成801において、複数の連続したアナログ画素値がアナログ信号内で特定されてもよく、1組の少なくとも2つのゲインが画素単位で当該アナログ信号内の各画素に適用される。
さらに、画素ごとのタイミング構成801を実現するシステムにおいて、制御ユニットは、各画素が予め選択されたゲインを用いて増幅された後に適用すべき次のゲインを選択してもよい。別の実施形態において、制御ユニットは、第1のアナログ画素値に適用される予定の1組の予め定められたゲインを繰返すように増幅器を制御してもよく、そのような第1のアナログ画素データ値は、第1の画素と関連付けられているアナログ画素データ704を含んでいるため、当該1組の予め定められたゲインを後で増幅器に到着する第2のアナログ画素データに適用する前に、当該1組の各ゲインを用いて第1のアナログ画素データが増幅され得る。一実施形態において、図8の文脈において示されるように、これは、第1のゲインを選択すること、第1のゲインを受信した第1のアナログ画素値に適用すること、第2のゲインを選択すること、第2のゲインを受信した第1のアナログ画素値に適用すること、第3のゲインを選択すること、選択した第3のゲインを受信した第1のアナログ画素値に適用すること、そして次いで、第2のアナログ画素値を受信し、選択した3つのゲインを、第1の画素値に適用したのと同じ順序で第2の画素値に適用することを含んでいてもよい。一実施形態において、各アナログ画素値は複数回読出されてもよい。概して、アナログ記憶面は、画素のアナログ画素値を読出のために保持するように利用され得る。
ラインごとのタイミング構成811を実現するシステムにおいて、アナログ画素データを含むアナログ信号がアナログ-デジタルユニットにおいて受信されてもよい。さらに、アナログ画素データは個々のアナログ画素値を含んでいてもよい。一実施形態において、画素アレイの画素の第1のラインと関連付けられているアナログ画素値の第1のラインがアナログ信号内で特定されて選択されてもよい。次に、第1のゲイン813、第2のゲイン815および第3のゲイン817の各々がアナログ画素値の同じ第1のラインに連続してまたは並行して適用されてもよい。いくつかの実施形態において、3つよりも少ないまたは多い異なるゲインが、アナログ画素値の選択されたラインに適用されてもよい。たとえば、いくつかの実施形態において、満足のいくHDR画像を生成するためには2つの異なるゲインをアナログ画素値の同じラインに適用するのみで十分であり得る。一実施形態において、第1のゲイン813、第2のゲイン815および第3のゲイン817の各々を適用した後、画素の第2のラインと関連付けられているアナログ画素値の第2のラインがアナログ信号内で特定されて選択されてもよい。画素の第2のラインは画素の第1のラインの隣接ラインであってもよい。たとえば、画素の第2のラインは、画像センサの画素アレイ内の画素の第1のラインの真上または真下に位置していてもよい。次に、第1のゲイン813、第2のゲイン815および第3のゲイン817の各々が、アナログ画素値の同じ第2のラインに連続してまたは並行して適用されてもよい。この目的で、ラインごとのタイミング構成811において、アナログ画素値の複数の連続したラインがアナログ信号内で特定され、1組の少なくとも2つのゲインがライン単位で当該アナログ信号内のアナログ画素値の各ラインに適用される。
さらに、ラインごとのタイミング構成811を実現するシステムにおいて、制御ユニットは、各ラインが予め選択されたゲインを用いて増幅された後に適用すべき次のゲインを選択してもよい。別の実施形態において、制御ユニットは、ラインに適用される予定の1組の予め定められたゲインを、アナログ画素値の第1のラインに続いて増幅器に到着するアナログ画素値の第2のラインに適用する前に、当該1組の各ゲインを用いてアナログ画素値の第1のラインが増幅されるように、当該1組の予め定められたゲインを繰返すように増幅器を制御してもよい。一実施形態において、図8の文脈において示されるように、これは、第1のゲインを選択すること、第1のゲインをアナログ画素値の受信した第1のラインに適用すること、第2のゲインを選択すること、第2のゲインをアナログ画素値の受信した第1のラインに適用すること、第3のゲインを選択すること、選択した第3のゲインをアナログ画素値の受信した第1のラインに適用すること、そして次いで、アナログ画素値の第2のラインを受信し、選択した3つのゲインを、アナログ画素値の第1のラインに適用したのと同じ順序でアナログ画素値の第2のラインに適用することを含んでいてもよい。一実施形態において、アナログ画素値の各ラインは複数回読出されてもよい。別の実施形態において、アナログ記憶面は、1本以上のラインのアナログ画素データ値を読出のために保持するように利用され得る。
フレームごとのタイミング構成821を実現するシステムにおいて、アナログ画素値を含む複数のアナログ画素データ値を含むアナログ信号がアナログ-デジタルユニットにおいて受信されてもよい。そのような実施形態では、画素の第1のフレームと関連付けられているアナログ画素値の第1のフレームがアナログ信号内で特定されて選択されてもよい。次に、第1のゲイン823、第2のゲイン825および第3のゲイン827の各々がアナログ画素値の同じ第1のフレームに連続してまたは並行して適用されてもよい。いくつかの実施形態において、3つよりも少ないまたは多い異なるゲインが、アナログ画素値の選択されたフレームに適用されてもよい。たとえば、いくつかの実施形態において、満足のいくHDR画像を生成するためには2つの異なるゲインをアナログ画素値の同じフレームに適用するのみで十分であり得る。
一実施形態において、第1のゲイン823、第2のゲイン825および第3のゲイン827の各々を適用した後、画素の第2のフレームと関連付けられているアナログ画素値の第2のフレームがアナログ信号内で特定されて選択されてもよい。画素の第2のフレームは、写真撮影シーンと関連付けられているビデオデータを捕捉する一連のフレーム内の次のフレームであってもよい。たとえば、デジタル写真撮影システムは30フレーム/秒のビデオデータを捕捉するように動作可能であり得る。そのようなデジタル写真撮影システムでは、画素の第1のフレームは上記30個のフレームのうちの1つのフレームであってもよく、画素の第2のフレームは上記30個のフレームのうちの第2のフレームであってもよい。さらに、第1のゲイン823、第2のゲイン825および第3のゲイン827の各々は第2のフレームのアナログ画素値に連続して適用されてもよい。この目的で、フレームごとのタイミング構成821において、アナログ画素値の複数の連続したフレームがアナログ信号内で特定されてもよく、1組の少なくとも2つのゲインがフレーム単位でアナログ画素値の各フレームに適用される。
さらに、フレームごとのタイミング構成821を実現するシステムにおいて、制御ユニットは、各フレームが予め選択されたゲインを用いて増幅された後に適用すべき次のゲインを選択してもよい。別の実施形態において、制御ユニットは、フレームに適用される予定の1組の予め定められたゲインを、後で増幅器に到着する第2のフレームと関連付けられているアナログ画素値に適用する前に、各ゲインを用いて第1のフレームと関連付けられているアナログ画素値が増幅されるように、当該1組の予め定められたゲインを繰返すように増幅器を制御してもよい。一実施形態において、図8の文脈において示されるように、これは、第1のゲインを選択すること、第1のゲインを第1のフレームと関連付けられているアナログ画素値に適用すること、第2のゲインを選択すること、第2のゲインを第1のフレームと関連付けられているアナログ画素値に適用すること、第3のゲインを選択すること、および第3のゲインを第1のフレームと関連付けられているアナログ画素値に適用することを含んでいてもよい。別の実施形態において、第1のフレームと関連付けられているアナログ画素値に選択したすべての3つのゲインを適用したのに引き続いて、第2のフレームと関連付けられているアナログ画素値が受信されてもよく、次いで、選択した3つのゲインは、第1のフレームに適用されたのと同じ順序で第2のフレームと関連付けられているアナログ画素値に適用されてもよい。
さらに別の実施形態において、第1のフレームに適用される選択されたゲインは第2のフレームに適用される選択されたゲインとは異なっていてもよく、これは第2のフレームが第1のフレームとは異なる内容および照明を含む場合などに起こり得る。概して、アナログ記憶面は、1つ以上のフレームのアナログ画素データ値を読出のために保持するように利用され得る。
図9は、一実施形態に従うアナログ画素データをデジタル画素データの多数の信号に並列的に変換するためのシステム900を示す。選択肢として、システム900は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、システム900は任意の所望の環境において実現されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図9の文脈において、システム900は入力されたアナログ画素データ621を受信するとして示されている。アナログ画素データ621は、上述のようにアナログ信号内で受信されてもよい。さらに、アナログ-デジタルユニット622は、受信したアナログ画素データ621に基づいてデジタル画素データ625を生成するように構成されてもよい。
図9に示されるように、システム900は、アナログ-デジタルユニット622(0)、アナログ-デジタルユニット622(1)およびアナログ-デジタルユニット622(n)の各々がアナログ画素データ621のスケーリングされたコピーを受信するように、アナログ画素データ621の電流をミラーリングするように構成される。一実施形態において、アナログ-デジタルユニット622(0)、アナログ-デジタルユニット622(1)およびアナログ-デジタルユニット622(n)の各々は一意のゲインをアナログ画素データ621適用するように構成されてもよい。スケーリングされた各コピーは、電流ミラーとして当該技術において公知の構造を含む、システム900を含むトランジスタについての物理的寸法に従ってスケーリングされてもよい。示されるように、各電流i1、i2、i3は、当該物理的寸法に基づいて、入力電流Iinに対して任意の比で生成されてもよい。たとえば、電流i1、i2、i3は、Iinに対して1:1:1、1:2:4、0.5:1:2の比で、またはその他の技術的に実行可能な比で生成されてもよい。
ある実施形態において、一意のゲインは、コントローラによってアナログ-デジタルユニット622の各々において構成されてもよい。具体例として、アナログ-デジタルユニット622(0)は1.0のゲインをアナログ画素データ621に適用するように構成されてもよく、アナログ-デジタルユニット622(1)は2.0のゲインをアナログ画素データ621に適用するように構成されてもよく、アナログ-デジタルユニット622(n)は4.0のゲインをアナログ画素データ621に適用するように構成されてもよい。したがって、同じアナログ画素データ621が、アナログ-デジタルユニット622(0)、アナログ-デジタルユニット622(1)およびアナログ-デジタルユニット622(n)の各々に入力送信され得るが、デジタル画素データ625(0)、デジタル画素データ625(1)およびデジタル画素データ625(n)の各々は、アナログ-デジタルユニット622内に適用される異なるゲインに基づいて異なるデジタル値を含むため、同じ写真撮影シーンの一意の露光表現を提供し得る。
アナログ-デジタルユニット622(0)が1.0のゲインを適用するように構成されてもよく、アナログ-デジタルユニット622(1)が2.0のゲインを適用するように構成されてもよく、アナログ-デジタルユニット622(n)が4.0のゲインを適用するように構成されてもよい上述の実施形態において、デジタル画素データ625(0)は最小露光の対応するデジタル画像を提供し得る。逆に、デジタル画素データ625(n)は最大露光のデジタル画像を提供し得る。別の実施形態において、デジタル画素データ625(0)はEV-1デジタル画像を生成するために利用されてもよく、デジタル画素データ625(1)はEV0デジタル画像を生成するために利用されてもよく、デジタル画素データ625(n)はEV+2画像を生成するために利用されてもよい。別の実施形態において、システム900は2:1:4の比で電流i1、i2およびi3を生成するように構成され、各アナログ-デジタルユニット622は1.0のゲインを適用するように構成されてもよく、この結果、対応するデジタル画像はそれぞれEV-1、EV-0およびEV+1の露光値を有する。そのような実施形態では、露光値のさらなる差は、1つ以上のアナログ-デジタルユニット622内に非ユニットゲイン(non-unit gain)を適用することによって達成され得る。
システム900は3つのアナログ-デジタルユニット622を含むとして示されているが、3つよりも多いまたは少ないアナログ-デジタルユニット622を有する同様のシステムによって多数のデジタル画像が生成されてもよい。たとえば、2つのアナログ-デジタルユニット622を有するシステムが、システム900に関して上述したのと同様の態様でゼロのフレーム間時間で写真撮影シーンの2つの露光を同時に生成するために実現されてもよい。一実施形態において、2つのアナログ-デジタルユニット622の各々が2つの露光を生成して、アナログ画素データの1フレームに対して合計4つの異なる露光を生成するように構成されてもよい。
図10は、一実施形態に係る結合画像1020を生成するためのユーザインターフェイス(UI)システム1000を示す。選択肢として、UIシステム1000は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、UIシステム1000は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
一実施形態において、結合画像1020は少なくとも2つの関連したデジタル画像の組合せを含む。一実施形態において、結合画像1020は、図7の第1のデジタル画像732および第2のデジタル画像734などの第1のデジタル画像および第2のデジタル画像の結合されたレンダリングを含むがこれに限定されない。別の実施形態において、結合画像1020を計算するために用いられるデジタル画像はアナログ信号を少なくとも2つの異なるゲインで増幅することによって生成されてもよく、当該アナログ信号は、画像センサ上に合焦される光学画像に基づいて捕捉される光学シーン情報を含む。さらに別の実施形態において、アナログ信号は、画素単位で、ライン単位で、またはフレーム単位で少なくとも2つの異なるゲインを用いて増幅されてもよい。
一実施形態において、UIシステム1000は、結合画像1020と、トラック1032に沿って動くように構成されたスライダコントロール1030と、各々が表示画像1010内に表示される視覚マーカを含み得る2つ以上の表示点1040とを含むがこれらに限定されない表示画像1010を提示する。
一実施形態において、UIシステム1000はデジタル写真撮影システム300のプロセッサ複合体310内で実行される調整ツールによって生成され、表示画像1010は表示ユニット312上に表示される。一実施形態において、少なくとも2つの関連したデジタル画像などの少なくとも2つのデジタル画像は、結合画像1020を生成するためのソース画像を含む。少なくとも2つのデジタル画像は、NVメモリ316、揮発性メモリ318、メモリサブシステム362またはそれらのいずれかの組合せの内部に存在してもよい。別の実施形態において、UIシステム1000は、ラップトップコンピュータまたはデスクトップコンピュータなどのコンピュータシステム内で実行される調整ツールによって生成される。少なくとも2つのデジタル画像はコンピュータシステムに送信されてもよく、または取付けられたカメラデバイスによって生成されてもよい。さらに別の実施形態において、UIシステム1000はクラウドベースのサーバコンピュータシステムによって生成されてもよく、当該サーバコンピュータシステムは少なくとも2つのデジタル画像をクライアントブラウザにダウンロードしてもよく、当該ブラウザは以下に説明する結合動作を実行してもよい。別の実施形態において、UIシステム1000はクラウドベースのサーバコンピュータシステムによって生成され、当該サーバコンピュータシステムは、モバイルデバイス内のデジタル写真撮影システムから少なくとも2つのデジタル画像を受信し、結合画像1020を生成するのと共に、以下に説明する結合動作を実行してもよい。
スライダコントロール1030は、表示点1040-Aおよび1040-Cに対応する2つの終点同士の間を動くように構成されてもよい。表示点1040-Bなどの1つ以上の表示点が2つの終点同士の間に位置決めされてもよい。各表示点1040は、結合画像1020の特定のバージョン、または少なくとも2つのデジタル画像の特定の組合せと関連付けられてもよい。たとえば、表示点1040-Aは第1のゲインを利用して生成される第1のデジタル画像と関連付けられてもよく、表示点1040-Cは第2のゲインを利用して生成される第2のデジタル画像と関連付けられてもよく、第1のデジタル画像および第2のデジタル画像の両方が、捕捉された単一の写真撮影シーンの同じアナログ信号から生成される。一実施形態において、スライダコントロール1030が表示点1040-Aの真上に位置決めされると、第1のデジタル画像のみが表示画像1010内に結合画像1020として表示されてもよく、同様に、スライダコントロール1030が表示点1040-Cの真上に位置決めされると、第2のデジタル画像のみが表示画像1010内に結合画像1020として表示されてもよい。
一実施形態において、表示点1040-Bは第1のデジタル画像と第2のデジタル画像とのブレンドと関連付けられてもよい。たとえば、スライダコントロール1030が表示点1040-Bに位置決めされると、結合画像1020は第1デジタル画像と第2のデジタル画像とのブレンドであってもよい。一実施形態において、第1のデジタル画像と第2のデジタル画像とのブレンドは、アルファブレンディング、輝度ブレンディング、ダイナミックレンジブレンディング、ならびに/またはトーンマッピングもしくは他の非線形ブレンディングおよびマッピング動作を含んでいてもよい。別の実施形態において、第1のデジタル画像と第2のデジタル画像とのブレンドはいずれも、第1の画像および第2の画像単独のいずれか一方とは異なるより大きいダイナミックレンジまたは他の視覚的特徴を有する新たな画像を提供し得る。ゆえに、第1のデジタル画像と第2のデジタル画像とのブレンドによって、結合画像1020として表示され得るかまたは結合画像1020を生成するために用いられ得る、新たに計算されたHDR画像が提供され得る。この目的で、第1のデジタル信号と第2のデジタル信号とが組合されることによって、HDR画像の少なくとも一部が得られてもよい。さらに、第1のデジタル信号および第2のデジタル信号の一方は、別のデジタル画像またはデジタル信号の少なくとも一部とさらに組合されてもよい。一実施形態において、他方のデジタル画像は別のHDR画像を含んでいてもよい。
一実施形態において、スライダコントロール1030が表示点1040-Aに位置決めされると第1のデジタル画像が結合画像1020として表示され、スライダコントロール1030が表示点1040-Cに位置決めされると第2のデジタル画像が結合画像1020として表示され、さらに、スライダコントロール1030が表示点1040-Bに位置決めされるとブレンド画像が結合画像1020として表示される。そのような実施形態では、スライダコントロール1030が表示点1040-Aと表示点1040-Cとの間に位置決めされると、第1のデジタル画像および第2のデジタル画像について混合(たとえばブレンド)重みが計算されてもよい。第1のデジタル画像について、混合重みは、スライダコントロール1030が表示点1040-Cにあるときに0.0の値を有し、スライダコントロール1030が表示点1040-Aにあるときに1.0の値を有するとして計算されてもよく、混合重み値の範囲はそれぞれ表示点1040-Cと1040-Aとの間に位置する0.0から1.0である。代わりに第2のデジタル画像の混合動作に関して、混合重みは、スライダコントロール1030が表示点1040-Aにあるときに0.0の値を有し、スライダコントロール1030が表示点1040-Cにあるときに1.0の値を有するとして計算されてもよく、混合重み値の範囲はそれぞれ表示点1040-Aと1040-Cとの間に位置する0.0から1.0である。
第1のデジタル画像および第2のデジタル画像の少なくとも一方と関連付けられている少なくとも1つの混合重み値に基づいて、第1のデジタル画像および第2のデジタル画像に混合動作が適用されてもよい。一実施形態において、1.0の混合重みは、1.0の混合重みと関連付けられているデジタル画像に完全な混合重みを与える。このように、ユーザは第1のデジタル画像と第2のデジタル画像とをブレンドしてもよい。この目的で、第1のデジタル信号および第2のデジタル信号はユーザ入力に応じてブレンドされてもよい。たとえば、スライディング標識(indicia)が表示されてもよく、ユーザがスライディング標識を操作したことに応答して第1のデジタル信号および第2のデジタル信号がブレンドされてもよい。
この混合重みおよび混合動作のシステムは、第1のデジタル画像、第2のデジタル画像およびブレンド画像を第1のデジタル画像から第2のデジタル画像への段階的な進行として見るためのUIツールを提供する。一実施形態において、ユーザは、スライダコントロール1030の任意の位置に対応する結合画像1020を保存してもよい。UIシステム1000を実現する調整ツールは、任意の技術的に実行可能なジェスチャまたは技術を介して結合画像1020の保存を指示するコマンドを受信してもよい。たとえば、調整ツールは、結合画像1020によって占められる領域内でユーザがジェスチャを行なうと結合画像1020を保存するように構成されてもよい。または、調整ツールは、ユーザがスライダコントロール1030を押すが他の点では動かさない場合に結合画像1020を保存してもよい。別の実現例では、調整ツールは、ユーザが保存コマンドを受信する専用の保存ボタンなどのUI要素(図示せず)を押すことによってなどでジェスチャを行なうと結合画像1020を保存してもよい。
この目的で、スライダコントロールを用いて2つ以上のデジタル画像の寄与を求め、結合画像1020などの最終計算画像を生成することができる。当業者は、混合重みおよび混合動作の上記のシステムは、2つ以上の関連画像と関連付けられている2つ以上の表示点を含むように一般化され得ることを認識するであろう。そのような関連画像は、ゼロのフレーム時間を有し得る、異なる輝度値を有するように同じアナログ信号を用いて生成された任意の数のデジタル画像を含み得るがこれらに限定されない。
さらに、回転ノブなどの、異なる連続位置UIコントロールがスライダコントロール1030の代わりに実現されて、ユーザから混合重み入力または色調整入力が提供されてもよい。
図11は、一実施形態に係る結合画像を生成するための方法1100のフロー図である。選択肢として、方法1100は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、方法1100は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
方法1100はステップ1110で開始し、プロセッサ複合体310などのプロセッサ複合体内で実行される調整ツールが、図10の文脈において説明した第1のデジタル画像および第2のデジタル画像などの少なくとも2つの関連したソース画像をロードする。ステップ1112において、調整ツールは、図10のスライダコントロール1030などのUIコントロールの位置をデフォルト設定に初期化する。一実施形態において、デフォルト設定は、UIコントロールの値の範囲について、表示点1040-Aなどの終点を含む。別の実施形態において、デフォルト設定は、少なくとも2つの関連したソース画像のうちの1つ以上に基づく計算値を含む。特定の実施形態において、デフォルト設定は、少なくとも第1のデジタル画像および第2のデジタル画像を含む画像オブジェクトと関連してユーザによって予め選択された値に初期化される。
ステップ1114において、調整ツールは、UIコントロールの位置および少なくとも2つの関連したソース画像に基づいて、図10の結合画像1020などの結合画像を生成して表示する。一実施形態において、結合画像を生成することは、図10において先に説明したように少なくとも2つの関連したソース画像同士を混合することを含む。ステップ1116において、調整ツールはユーザ入力を受信する。ユーザ入力は、表示画像1010内の選択ジェスチャまたはクリックジェスチャなどのUIジェスチャを含み得るがこれらに限定されない。ステップ1120においてユーザ入力がUIコントロールの位置を変更した場合は、調整ツールはUIコントロールの位置を変更し、方法はステップ1114に戻る。そうでなければ、方法はステップ1130に進む。
ステップ1130においてユーザ入力が終了コマンドを含んでいない場合は、方法はステップ1140に進み、調整ツールはユーザ入力と関連付けられているコマンドを実行する。一実施形態において、当該コマンドは保存コマンドを含み、調整ツールは次いで、UIコントロールの位置に従って生成される結合画像を保存する。方法は次いでステップ1116に戻る。
ステップ1130に戻って、ユーザ入力が終了コマンドを含んでいる場合は、方法はステップ1190において終わり、調整ツールが終了することによって実行を終わらせる。
要約すると、第1のデジタル画像と第2のデジタル画像とを有益にブレンドする新たなデジタル写真を生成するための技術であって、第1のデジタル画像および第2のデジタル画像の両方が画像センサから受信した単一のアナログ信号に基づいている技術が開示される。第1のデジタル画像は、任意の技術的に実行可能なブレンド技術を実現する機能に基づいて第2のデジタル画像とブレンドされてもよい。調整ツールは、ユーザが関連画像を組合せるためにパラメータの段階的な変化から新たなデジタル信号を選択して保存することを可能にするユーザインターフェイス技術を実現し得る。
本発明の1つの利点は、デジタル写真が、写真撮影シーンの単一の捕捉の2つ以上の異なる露光を用いてユーザ入力に基づいて選択的に生成され得ることである。したがって、ユーザ入力に基づいて生成されるデジタル写真は、いずれの個別の露光よりも大きいダイナミックレンジを有し得る。さらに、ゼロのフレーム間時間で2つ以上の異なる露光を用いてHDR画像を生成するので、モーションアーティファクトなしでHDR画像の迅速な生成が可能となる。
図12は、一実施形態に係るネットワークを利用して結合画像を生成するためのメッセージシーケンス1200を示す。選択肢として、メッセージシーケンス1200は本明細書に開示されている図面のうちのいずれかの図面の詳細の文脈において実現されてもよい。しかし、当然、メッセージシーケンス1200は任意の所望の環境において実行されてもよい。さらに、上述の定義は以下の説明に等しく適用され得る。
図12に示されるように、ワイヤレスモバイルデバイス376(0)は少なくとも2つのデジタル画像を生成する。一実施形態において、少なくとも2つのデジタル画像は少なくとも2つのゲインでアナログ信号を増幅することによって生成されてもよく、生成される各デジタル画像は適用されるゲインのデジタル出力に対応する。上述のように、少なくとも2つの異なるゲインは、ゲイン調整されたアナログ画素データを生成するために、アナログ画素データを含むアナログ信号に1つ以上の増幅器によって適用されてもよい。さらに、ゲイン調整されたアナログ画素データは次いで、少なくとも1つのアナログ-デジタル変換器を利用して少なくとも2つのデジタル画像に変換されてもよく、デジタル画像の各々は同じ写真撮影シーンの異なる露光を提供する。たとえば、一実施形態において、少なくとも2つのデジタル画像は、写真撮影シーンのEV-1露光および写真撮影シーンのEV+1露光を含んでいてもよい。別の実施形態において、少なくとも2つのデジタル画像は、写真撮影シーンのEV-2露光、写真撮影シーンのEV0露光、および写真撮影シーンのEV+2露光を含んでいてもよい。
再び図12を参照して、少なくとも2つのデジタル画像は、データネットワーク474によってワイヤレスモバイルデバイス376(0)からデータセンタ480に送信される。少なくとも2つのデジタル画像は、任意の技術的に実行可能なネットワーク通信方法を用いてワイヤレスモバイルデバイス376(0)によってデータセンタ480に送信されてもよい。
さらに、一実施形態において、データセンタ480は次いで、少なくとも2つのデジタル画像を処理して第1の計算画像を生成してもよい。少なくとも2つのデジタル画像を処理することは、少なくとも2つのデジタル画像の各々の少なくとも一部をブレンドまたは併合して第1の計算画像を生成する、少なくとも2つのデジタル画像のいずれかの処理を含んでいてもよい。この目的で、第1のデジタル画像および第2のデジタル画像はワイヤレスモバイルデバイス376(0)から遠隔で結合されてもよい。たとえば、少なくとも2つのデジタル画像を処理することは、HDR画像結合動作を含むがこれに限定されないいずれかの種類のブレンド動作を含んでいてもよい。一実施形態において、少なくとも2つのデジタル画像を処理することは、データセンタ408において受信したデジタル画像のうちのいずれか1つよりも大きいダイナミックレンジを有する第1の計算画像を生成するいずれかの計算を含んでいてもよい。したがって、一実施形態において、データセンタ480によって生成される第1の計算画像はHDR画像であってもよい。他の実施形態では、データセンタ480によって生成される第1の計算画像はHDR画像の少なくとも一部であってもよい。
第1の計算画像を生成した後、データセンタ480は次いで第1の計算画像をワイヤレスモバイルデバイス376(0)に送信してもよい。一実施形態において、ワイヤレスモバイルデバイス376(0)からの少なくとも2つのデジタル画像の送信、および無線デバイス376(0)における第1の計算画像の受信は、ワイヤレスモバイルデバイス376(0)のユーザから介入または命令を全く受けずに起こってもよい。たとえば、一実施形態において、ワイヤレスモバイルデバイス376(0)は、写真撮影シーンを捕捉して当該写真撮影シーンを表すアナログ信号を利用して少なくとも2つのデジタル画像を生成した直後に、少なくとも2つのデジタル画像をデータセンタ480に送信してもよい。写真撮影シーンは、ワイヤレスモバイルデバイス376(0)上の、電子シャッターコントロールのユーザ入力もしくは選択、またはマニュアルシャッターボタンの押下に基づいて捕捉されてもよい。さらに、少なくとも2つのデジタル画像を受信したことに応答して、データセンタ480は少なくとも2つのデジタル画像に基づいてHDR画像を生成し、HDR画像をワイヤレスモバイルデバイス376(0)に送信してもよい。ワイヤレスモバイルデバイス376(0)は次いで、受信したHDR画像を表示してもよい。したがって、ワイヤレスモバイルデバイス376(0)のユーザは、データセンタ480によって計算されたHDR画像をワイヤレスモバイルデバイス376(0)のディスプレイ上で見ることができる。ゆえに、ワイヤレスモバイルデバイス376(0)がHDR画像処理をまったく実行しない場合でも、ユーザは、新たに計算されたHDR画像を、写真撮影シーンを捕捉して当該HDR画像が基づく少なくとも2つのデジタル画像を生成したほぼ直後に、ワイヤレスモバイルデバイス376(0)上で見ることができる。
図12に示されるように、ワイヤレスモバイルデバイス376(0)は、少なくとも2つのデジタル画像の処理の調整を要求する。一実施形態において、データセンタ480から第1の計算画像を受信すると、ワイヤレスモバイルデバイス376(0)は、図10のUIシステム1000などのUIシステムにおいて第1の計算画像を表示してもよい。そのような実施形態では、ユーザは、スライダコントロール1030などのスライダコントロールを制御して、データセンタ480に送信される少なくとも2つのデジタル画像の処理を調整してもよい。たとえば、ユーザがスライダコントロールを操作すると、コマンドがデータセンタ480に送信されてもよい。一実施形態において、データセンタ480に送信されるコマンドは、少なくとも2つのデジタル画像の処理を調整する際に用いられる混合重みを含んでいてもよい。他の実施形態では、少なくとも2つのデジタル画像の処理の調整を求める要求は、データセンタ480が少なくとも2つのデジタル画像を再処理して第2の計算画像を生成するために使用し得る、ワイヤレスモバイルデバイス376(0)からのいずれかの命令を含む。
図12に示されるように、処理の調整を求める要求を受信すると、データセンタ480は少なくとも2つのデジタル画像を再処理して第2の計算画像を生成する。一実施形態において、データセンタ480は、ワイヤレスモバイルデバイス376(0)から受信したパラメータを用いて少なくとも2つのデジタル画像を再処理してもよい。そのような実施形態では、パラメータは、少なくとも2つのデジタル画像を有する入力として、データセンタ480において実行されるHDR処理アルゴリズムに提供されてもよい。第2の計算画像を生成した後、第2の計算画像は次いで、ユーザに表示するためにデータセンタ480からワイヤレスモバイルデバイス376(0)に送信されてもよい。
再び図12を参照して、ワイヤレスモバイルデバイス376(0)は、第2の計算画像を別のワイヤレスモバイルデバイス376(1)と共有する。一実施形態において、ワイヤレスモバイルデバイス376(0)は、データセンタ480から受信したいずれかの計算画像を他のワイヤレスモバイルデバイス376(1)と共有してもよい。たとえば、ワイヤレスモバイルデバイス376(0)は、データセンタ480から受信した第1の計算画像を共有してもよい。図12に示されるように、データセンタ480は、同じデータネットワーク474上でワイヤレスモバイルデバイス376(0)およびワイヤレスモバイルデバイス376(1)と通信する。当然、他の実施形態では、ワイヤレスモバイルデバイス376(0)は、データセンタ480およびワイヤレスモバイルデバイス376(1)が通信のために利用するネットワークとは異なるネットワークを介してデータセンタ480と通信してもよい。
別の実施形態において、ワイヤレスモバイルデバイス376(0)は、共有要求をデータセンタ480に送信することによって計算画像を他のワイヤレスモバイルデバイス376(1)と共有してもよい。たとえば、ワイヤレスモバイルデバイス376(0)は、データセンタ480が第2の計算画像を他のワイヤレスモバイルデバイス376(1)に転送することを要求してもよい。共有要求を受信したことに応答して、データセンタ480は次いで第2の計算画像をワイヤレスモバイルデバイス376(1)に送信してもよい。ある実施形態において、第2の計算画像を他のワイヤレスモバイルデバイス376(1)に送信することは、他のワイヤレスモバイルデバイス376(1)が第2の計算画像にアクセス可能となるURLを送信することを含んでいてもよい。
さらに、図12に示されるように、第2の計算画像を受信した後、他のワイヤレスモバイルデバイス376(1)は、少なくとも2つのデジタル画像の処理の調整を求める要求をデータセンタ480に送信してもよい。たとえば、他のワイヤレスモバイルデバイス376(1)は、図10のUIシステム1000などのUIシステムにおいて第2の計算画像を表示してもよい。他のワイヤレスモバイルデバイス376(1)のユーザは、UIコントロールを操作して、ワイヤレスモバイルデバイス376(0)によってデータセンタ480に送信される少なくとも2つのデジタル画像の処理を調整してもよい。たとえば、他のワイヤレスモバイルデバイス376(1)においてユーザがスライダコントロールを操作すると、コマンドが生成されて処理のためにデータセンタ480に送信されてもよい。ある実施形態において、他のワイヤレスモバイルデバイス376(1)から送信される少なくとも2つのデジタル画像の処理の調整を求める要求は、他のワイヤレスモバイルデバイス376(1)におけるスライダコントロールのユーザ操作に基づいて生成されるコマンドを含む。他の実施形態では、少なくとも2つのデジタル画像の処理の調整を求める要求は、データセンタ480が少なくとも2つのデジタル画像を再処理して第3の計算画像を生成するために使用し得る、ワイヤレスモバイルデバイス376(1)からのいずれかの命令を含む。
図12に示されるように、処理の調整を求める要求を受信すると、データセンタ480は少なくとも2つのデジタル画像を再処理して第3の計算画像を生成する。一実施形態において、データセンタ480は、ワイヤレスモバイルデバイス376(1)から受信した混合重みを用いて少なくとも2つのデジタル画像を再処理してもよい。そのような実施形態では、ワイヤレスモバイルデバイス376(1)から受信した混合重みは、少なくとも2つのデジタル画像を有する入力として、データセンタ480において実行されるHDR処理アルゴリズムに提供されてもよい。第3の計算画像を生成した後、第3の計算画像は次いで、表示のためにデータセンタ480からワイヤレスモバイルデバイス376(1)に送信される。さらに、第3の計算画像を受信した後、ワイヤレスモバイルデバイス376(1)は、第3の計算画像を記憶することを求める要求をデータセンタ480に送信してもよい。別の実施形態において、データセンタ480と通信している他のワイヤレスモバイルデバイス376が計算画像の記憶を要求してもよい。たとえば、図12の文脈において、ワイヤレスモバイルデバイス376(0)は、第1の計算画像または第2の計算画像の記憶をいつでも要求してもよい。
計算画像の記憶を求める要求を受信したことに応答して、データセンタ480は、後で取出すために計算画像を記憶してもよい。たとえば、記憶される計算画像は、当該計算画像を生成するために適用された処理を再び適用することなく当該計算画像を後で取出すことができるように記憶されてもよい。一実施形態において、データセンタ480は、データセンタ480にローカルな記憶システム486内に計算画像を記憶してもよい。他の実施形態では、データセンタ480は、データセンタ481などの、データセンタ480にローカルでないハードウェアデバイス内に計算画像を記憶してもよい。そのような実施形態では、データセンタ480は計算画像を記憶するためにデータネットワーク474上で送信してもよい。
さらに、いくつかの実施形態において、計算画像は、当該計算画像を生成するために利用された少なくとも2つのデジタル画像に関連して記憶されてもよい。たとえば、計算画像は、データセンタ480または481によって供給されるURLを通すなどして、当該計算画像を生成するために利用された少なくとも2つのデジタル画像と関連付けられてもよい。記憶された計算画像を少なくとも2つのデジタル画像にリンクすることによって、計算画像へのアクセスを有する任意のユーザまたはデバイスには、少なくとも2つのデジタル画像に適用される処理を後で調整し、それによって新たな計算画像を生成する機会も与えられ得る。
この目的で、ワイヤレスモバイルデバイス376のユーザは、データネットワーク474を介してアクセス可能なデータセンタ480の処理能力を利用して、他のワイヤレスモバイルデバイス376が捕捉しており、続いてアクセスを提供しているデジタル画像を利用してHDR画像を生成してもよい。たとえば、デジタル画像を含むデジタル信号が遠隔で結合されるようにネットワーク上で転送されてもよく、結合されたデジタル信号によってHDR画像の少なくとも一部が得られてもよい。さらに、ユーザは、自身のワイヤレスモバイルデバイス376に依拠して新たなHDR写真を生成するのに必要な処理または計算を実行することなく、2つ以上のデジタル画像のブレンドを調整して当該新たなHDR写真を生成することが可能であり得る。続いて、ユーザのデバイスは、2つ以上のデジタル信号の結合によって得られたHDR画像の少なくとも一部を受信してもよい。したがって、ユーザのワイヤレスモバイルデバイス376は、HDR処理をデータセンタにオフロードすることによって電力を節約することができる。さらに、ユーザは、HDR画像生成と関連付けられている高出力処理タスクを実行可能なワイヤレスモバイルデバイス376を有していないにもかかわらず、HDR写真を効果的に捕捉することが可能であり得る。最後に、ユーザは、自身でHDRアルゴリズムを選択することなく、かつ、そのようなHDRアルゴリズムを実現するソフトウェアを自身のワイヤレスモバイルデバイス376上にインストールすることなく、写真撮影シーンに最良であると判断されるアルゴリズムを用いて生成されるHDR写真を得ることが可能であり得る。たとえば、ユーザは、データセンタ480に依拠して特定の写真撮影シーンのための最良のHDRアルゴリズムを特定して選択することができる。
さまざまな実施形態を上記に説明したが、それらは限定としてではなく例として提示されているに過ぎないことを理解すべきである。ゆえに、好ましい実施形態の幅および範囲は上述の例示的な実施形態のいずれによっても限定されるべきなく、添付の特許請求の範囲およびそれらの均等物に従ってのみ定義されるべきである。