JP5507251B2 - カメラの手ぶれ低減システム - Google Patents

カメラの手ぶれ低減システム Download PDF

Info

Publication number
JP5507251B2
JP5507251B2 JP2009530477A JP2009530477A JP5507251B2 JP 5507251 B2 JP5507251 B2 JP 5507251B2 JP 2009530477 A JP2009530477 A JP 2009530477A JP 2009530477 A JP2009530477 A JP 2009530477A JP 5507251 B2 JP5507251 B2 JP 5507251B2
Authority
JP
Japan
Prior art keywords
gain
camera shake
exposure time
normal mode
shake reduction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009530477A
Other languages
English (en)
Other versions
JP2010504718A (ja
Inventor
クアン、シュシェ
チウ、チンチュアン・アンドリュー
ジャング、シャオユン
リ、ジンチアン
ノイェス、イング・シェ
アタナソブ、カリン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US11/534,993 external-priority patent/US8120658B2/en
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2010504718A publication Critical patent/JP2010504718A/ja
Application granted granted Critical
Publication of JP5507251B2 publication Critical patent/JP5507251B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/684Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00Still video cameras

Description

優先権の主張
この出願は、2006年1月19日に出願され、“HAND JITTER REDUCTION SYSTEM DESIGN”と表題された、米国仮出願番号60/760,768の利益を主張する。この開示は、共に2006年9月25日にこの出願と一体となって出願され、“HAND JITTER REDUCTION COMPENSATING FOR ROTATIONAL MOTION”と表題された係属中の特許出願番号11/534,935(整理番号060268)、及び“HAND JITTER REDUCTION FOR COMPENSATING FOR LINEAR DISPLACEMENT”と表題された係属中の特許出願番号11/534,808(整理番号060193)に関連する。
この開示は、デジタル画像処理に関し、特にカメラの手ぶれ低減システムに関する。
移動体通信におけるマルチメディアのアプリケーションについての要求が、驚異的な速度で高まってきている。今日、ユーザは、モバイル機器や携帯電話で閲覧するために、インターネットから画像や映像をダウンロードするのと同様に、静止画を送受信することが出来る。モバイル機器とカメラとの一体化は、移動体通信におけるマルチメディアの機能性のトレンドを強める更なる一因となってきている。
モバイル機器に関連するバッテリ容量、処理パワー、及び伝送速度等の、限られた量のリソースを考慮すれば、効果的なデジタル画像処理技術が、マルチメディア機能をサポートするために必要である。これは、画質を維持しつつ、マルチメディアのアプリケーションについての演算処理の複雑さを低減する、更に高度化されたハードウェア及びソフトウェアの発展を要求する。そのようなハードウェア及びソフトウェアの発展によって、モバイル機器の、低電力消費とより長い待ち受け時間とがもたらされる。
デジタル画像処理の一面には、写真からのぼけの除去が含まれる。ぼけは、手ぶれによって引き起こされ得る。手ぶれは、カメラでデジタル写真を撮影する際に、ユーザの手の動きによって引き起こされる。例えユーザが動きに気づいていなくても、手は頻繁に動き得る。この動きは比較的小さいが、しかし、もし動きが露光時間に比較して大きければ、デジタル写真はぼけるだろう。写真の物体または人は、動いているように見えるだろう。ぼけはまた、写真を撮影しているときに、物体/人が動くことによっても生じ得る。ぼけはまた、写真を取り込むために使用される光学システムの制限によっても生じ得る。
光が少ない条件下では、例えばモバイル機器の一つであるデジタルカメラは、写真を登録(register)するために、より長い時間がかかる。長い露光時間は、手により生じた僅かな動きがぼけを生じ得る可能性を増大させる。同様に、長い露光時間は、露光時間に比して、物体/人の動きが大きくなり得る機会を増大させる。
カメラの動きの補正についての現在の技術は、小型のジャイロスコープまたはその他の機械的なデバイスの使用を必要とする。どの技術も、特に、光の少ない条件下で、カメラの動きをデジタル補正する十分な方法とは言えない。あらゆる条件下でモバイルアプリケーションに適した効率的な処理リソースと共に、デジタル写真のぼけの量を低減することが望ましいだろう。
一つまたはそれ以上の形態の詳細が、添付図面と以下の記述により説明される。その他の特徴、目的、及び効果は、記述、図面、及び請求項から明らかになるであろう。
手ぶれ低減(hjr)モードと通常モードとを備えるカメラシステムは、露光時間とゲインとを乗算して露光時間−ゲインの積を生成することによって動作し得る。通常モードの露光時間−ゲインの積と、hjrモードの露光時間−ゲインの積とがあり得る。通常の露光時間と通常のゲインの通常モードにおける露光時間−ゲインの積は、必要に応じてテーブルに保持され、または使用され得る。hjrモードにおける露光時間−ゲインの積もまた、テーブルに保持され得る。hjrモードにおける露光時間−ゲインの積は、通常モードにおける露光時間の積のテーブルにおけるエントリを修正(加算、減算、乗算、または除算)することによって生成され得る。そのようなものとして、別々のテーブルは必ずしも必要では無いが、hjrモードにおける等価な露光時間−ゲインの積が、通常モードにおける露光時間−ゲインの積と比較するために必要とされ得る。hjrモードで動作する際、パラメータはhjrモードにおける露光時間−ゲインの積と通常モードにおける露光時間−ゲインの積との差分を低減するために変更され得る。カメラシステムのイメージセンサが最小平均光レベルより上にあり得る限りは、差分は低減され得る。hjrモードにおけるいずれかの領域において、イメージセンサが光レベルの最小平均値を満たさない場合には、hjrモードは、通常モードと同じ露光時間−ゲインの積を維持することが出来ないかもしれない。通常モードにおいてカメラは、閾値より上にあるセンスされた光レベルを受けて、動作し得る。hjrモードにおけるカメラの動作は、ユーザによって選択され得る。hjrモードは、閾値よりも低いセンスされた光レベルを受けて、使用され得る。
種々の形態が、これに限定されるものではないが、添付図面に一例として説明される。
図1は、デジタル画像処理の一形態を示すブロック図。 図2は、デジタル画像処理システムの一フロントエンド画像処理モジュールの一形態の機能を示すブロック図。 図3は、デジタル画像処理システムのフロントエンド画像処理モジュールの他の形態の機能を示すブロック図。 図4Aは、通常モードについての光レベルに対する露光時間を示すグラフ。 図4Bは、通常モードについての光レベルに対するゲインを示すグラフ。 図5Aは、手ぶれ低減モードについての光レベルに対する露光時間を示すグラフ。 図5Bは、手ぶれ低減モードについての光レベルに対するゲインを示すグラフ。 図6は、修正された自動露出パラメータを生成する方法を示すフローチャート。 通常モード及び手ぶれ低減モードにおけるカメラシステムの動作を説明するフローチャートが図7である。 図8は、手ぶれ低減モードにおけるカメラシステムの自動露出パラメータの変形例を示すフローチャート。
用語「典型的」は、一例(example)、事例(instance)、または実例(illustration)であることを意味するために、本明細書においては使用される。「典型的」として本明細書で説明されるあらゆる形態、スキーム、図案、及び調整(calibration)は、他の形態、スキーム、図案、及び調整に対して好ましくまた有利であるものとして解釈される必要は無い。全般として本明細書における記載は、手ぶれ、及び/または通常に比べて光の少ない状況の結果としてのデジタル写真におけるぼけを低減する技術である。また記載は、通常モード及び手ぶれ低減モードで動作可能なカメラを調整する技術でもある。
従来のカメラ機器においては、ユーザがスナップ撮影(一般には、ボタンを押すことで行われる)する際、写真を生成するにはひとつのフレームのみが使用される。2つ以上のフレームを使って写真を生成する方法は、質の悪い結果が得られるため、たいてい受け入れられなかった。従来のカメラ機器では、ユーザによるユーザ自身の手の動きによって発生する動きにより写真がぶれることがあり、これらの手の動きは、手ぶれとして知られている。従来のカメラ機器はまた、写真の露光に必要な時間による課題がある。光の少ない状況下では、露光時間は概して長くされる。露光時間が長くなることによって、手ぶれが写真にぼけを生じさせる可能性が高まると共に、光の少ない状況下によりユーザに認識し得るノイズ量も増加する。今日、カメラ機器は、ユーザによって生じた手ぶれを補正するための小型のジャイロスコープを備えていることがある。しかしながら、モバイル機器にジャイロスコープを搭載する際に直面する多くの課題がある。例え、これらの課題が解決されたとしても、デジタル手ぶれ低減技術は、ジャイロスコープを有するデバイスと共に使用されるだろう。今日のカメラ機器はまた、光の少ない状況下では、ゲインを調整し得る。あいにく、単純にゲインを大きくすることは、少ない光レベルの結果として生じるノイズも増幅する。この結果、たいてい低品質の写真となる。同様に、手ぶれのデジタル補正は、いつでも十分な結果を得られるわけでは無い。しかしながら、この開示を通して開示される技術によれば、光の少ない状況下におけるノイズを低減出来ると共に、手ぶれも低減することが可能となる。
図1は、モバイル機器に集積されたカメラ機器に適したデジタル画像処理を説明するブロック図である。モバイル機器は、携帯電話、携帯情報端末(PDA)、ラップトップコンピュータ、またはその他のモバイルワイヤレス機器であって良い。イメージセンサモジュール104においては、イメージセンサ102上に画像の焦点を合わせるために、レンズ(図示せず)が用いられ得る。一構成例では、イメージセンサモジュール104は、ゲインや自動露出パラメータを保持するためのメモリを有しても良い。イメージセンサモジュール104はまた、ゲインや自動露出パラメータを修正する制御ドライバを有し得る。別の構成例では、イメージセンサモジュール104は、Mobile Station Modem(MSMTM)や、ゲインや自動露出パラメータの保持、修正するメモリ及び/または制御ドライバを有するその他のモジュールのような、集積回路に接続され得る。イメージセンサ102は、電荷結合デバイス(CCD)、相補型金属酸化半導体(CMOS)イメージセンサ、またはその他の適切なイメージセンサであって良い。イメージセンサ102の少なくともひとつの構成例において、画像の異なるピクセルにおける光を取り込むために、半導体アレイが使用される。各半導体に一種類の色(例えば、赤、緑、または青)を通過させるため、イメージセンサ102の前面に配置されたカラーフィルタアレイ(CFA)(図示せず)が使用され得る。最も一般的なCFAは、RGBとCMYGパターンである。イメージセンサモジュール104は、イメージセンサ102を駆動または制御して、ゲイン及びまたは露光時間を修正し得る。
ユーザがボタンを押してスナップ撮影してデジタル写真を生成する前に、プレビューモードが、イメージセンサ102により生成された連続したフレームを取り込み得る。フレームの全体または一部が、画像(image)または同義的に写真(picture)と称される。例示的な目的のため、イメージは一連のフレームとして処理されるものとして議論するのが、都合が良い。しかし、フロントエンド画像処理モジュール106を使用する場合、フレームの全体が処理されなければならないわけでは無いことが理解されるべきである。更に、連続するフレームはまたストリームとして知られている。ストリームは、フロントエンド画像処理モジュール106に供給されても良く、そこで、静止画及び動画圧縮部108への入力としてのフルRGB解像度を得るためにデモザイク(de-mosaic)される。ストリームがフロントエンド画像処理モジュール106を通過する際には、プレビューモードにおいては、デジタル写真の生成に役立つ、フレームについての統計データが集められ得る。これらの統計データは、露光量、ホワイトバランス量、及びフォーカス量等であるが、これらに限定されるものでは無い。
フロントエンド画像処理モジュール106は、イメージセンサ102の制御を助ける種々の信号を、イメージセンサモジュール104にフィードバックする。静止画及び動画圧縮部108は、JPEG圧縮、またはその他の適切な圧縮アルゴリズムを使用し得る。自動露出制御モジュール110は、フロントエンド画像処理モジュール106の機能の少なくとも一つを補助するために、画像処理モジュール106で処理される光レベルに比例する値を受け取り、これを、保持された光ターゲットと比較する。フロントエンド画像処理モジュール106内のモジュールを経て処理される画像は、デジタルフレームの一部を成す。ストリームはまた、ディスプレイモジュール112に設けられ得るビューファインダに送られても良い。プレビューモードにおいて、ディスプレイモジュール112からのプレビュー判定が、自動露出の制御に用いられ得る。
デジタルカメラを有するモバイル機器におけるプレビューモードは、通常モードまたは手ぶれ低減(hjr)モードで使用され得る。ユーザは、メニューを介してまたは手動によりユーザインタフェースを通じて、hjrモード(図1においてHJR選択と示す)を選択し得る。ゲイン、自動露光時間、フレームレート、及び処理フレーム数などの自動露出パラメータは、ユーザがスナップ撮影してデジタル画像を生成するためにボタンを押した後の期間内に決定される。収集された統計データが、通常モード及びhjrモードの両方におけるスナップ撮影の期間に使用される自動露出パラメータを決定するために、使用され得る。従って、ユーザがボタンを押した後、画像処理は、hjrモードと通常モードとで異なり得る。ユーザがボタンを押す前では、プレビューモードは、hjrモードが選択されていたとしても、通常モードと同様に、画像を処理する。
図2は、デジタル画像処理システムにおける一フロントエンド画像処理モジュール106aの一構成例の機能を説明するブロック図である。フロントエンド画像処理モジュール106は、人間の視覚体系の応答と、イメージセンサ102で生成されたセンサ信号の応答との間の差分を補償するために用いられ得る。これらの差分は、一例として、黒補正及びレンズロールオフ202、デモザイクモジュール204、ホワイトバランス及び色補正206、ガンマ補正208、及び色変換210を含む種々の手法を用いて補正され得る。これらの処理は、図2において分離された処理モジュールとして示されているが、同一のハードウェアやソフトウェアプラットフォームを用いて処理されても良い。更に、これらのモジュールは、同様の機能を実行する複数の画像処理モジュールを備えていても良く、これにより、当該機能が異なる画像につき並列的に処理されても良い。
色変換モジュールがフレームを処理した後、3つの色画像要素(Y、Cb、Cr)が、手ぶれ制御モジュール212に送られ得る。自動露出制御モジュールからの種々のパラメータは、手ぶれ制御モジュールに送られ得る。手ぶれ制御モジュール212は、複数の目的を果たし得る。手ぶれ制御モジュール212は、スナップ撮影後に行われる画像処理を決定し得る。手ぶれ制御モジュール212は、HJR選択の値を検出し、手ぶれの低減(hjr)の実行が必要かどうかを決定し得る。ユーザがhjrモードを選択していたとしても、手ぶれ制御モジュール212は、通常モードで行われるのと同様の画像処理が行われ得ると決定し得る。手ぶれ補正制御モジュール212は、hjrモードで画像処理を行うように決定することも出来る。デジタル写真の生成において、hjrモードにおける画像処理には、単一のフレームまたは複数のフレームの取り込みが含まれ得る。もし手ぶれ制御モジュール212が複数のフレームの取り込みを決定した場合、何個のフレームがノイズ低減/フレーム登録モジュール214で処理されるかを示すパラメータと共に、フレームはhjr制御モジュールを通過した後、ノイズ低減/フレーム登録モジュール214に送られる。もし、単一フレームが処理される場合、ノイズ低減モジュール215の使用を通じて、単一フレームに対してノイズ低減が行われる。ノイズ低減モジュールは、bayerフィルタや、その他の同様のフィルタであって良い。もし複数のフレームが処理される場合、ノイズ低減/フレーム登録モジュール214は、手ぶれ制御モジュール212で特定されるフレーム数NUMFをバッファリングし、それらにつきフレーム登録を行う。フレームの数と光レベルにより、複数のフレーム登録の目的は、ノイズ低減及び/またはぼけ低減という目的に適い得る。複数のフレーム登録は、フレーム登録モジュール216によって行われ得る。
もし手ぶれ制御モジュール212が画像処理を通常モードで行うと決定した場合、ノイズ低減/フレーム登録モジュール214は使用されず、例えユーザがhjrモードを選択したとしても、例えば色補正モジュール210の出力が使用され得る。手ぶれ制御モジュール212によりどのような画像処理(通常モードにおける画像処理またはhjrモードにおける画像処理)が決定されたかに応じて、信号(SEL)が、マルチプレクサ217がいずれを出力してポストプロセスモジュール218に送るか、を選択するために使用され得る。ポストプロセスモジュール218の出力は、静止画及び動画圧縮モジュール108及び/またはディスプレイモジュール112に送られ得る。
ノイズ低減及び/またはフレーム登録に使用するために選択信号(SEL)とフレーム数を出力することに加えて、手ぶれ制御モジュール212はまた、その他のパラメータ:新自動露出フレームレート(AE FR_NEW)、自動露出ゲイン(AE GAIN_NEW)、新自動露光時間(AE TIME_NEW)、及び処理されるフレーム数(NUMF)を出力し得る。これらのパラメータは、イメージセンサ102を制御するために、イメージセンサモジュール104に送られ得る。デジタルゲインはまた、手ぶれ制御モジュール212によって出力されてもよく、イメージセンサモジュール104の後ろのいずれかのモジュールに供給されても良い。一例として、デジタルゲインがホワイトバランス/色補正モジュール206の段階において供給され得る。
当業者は、ピクセルが一般的に説明されているが、サブピクセル、またはマルチプルピクセル(multiple pixels)もまた、フロントエンド画像処理モジュール106aに入力され得ることを理解するであろう。更に、これらの画像要素のサブセット、またはRGBや空間周波数変換ピクセル等のその他の形態が、手ぶれ制御モジュール212のような手ぶれ制御モジュールに供給されても良い。そのようなものとして、フロントエンド画像処理モジュールの機能性を取り込む別の構成が、図3に示されている。
図3において、手ぶれ制御モジュール212、ノイズ低減/フレーム登録モジュール214、及びマルチプレクサ217は、黒補正及びレンズロールオフモジュール202とデモザイクモジュール204との間に移動、挿入されている。フロントエンド画像処理モジュール106bに組み込まれたこの構成は、手ぶれ制御モジュール212がY、Cb、Crでは無く、R、G、Bの画像要素について動作する様子を示している。一般的に、手ぶれ制御モジュール212は、イメージセンサ102で光が取り込まれた後に続くモジュールであって、ディスプレイモジュール112または静止画及び動画圧縮モジュール108に先行するモジュールにおいて動作する。
通常モード及び手ぶれ低減モードは、少なくとも一つの自動露光時間−ゲインテーブルを生成することにより調整され得る。自動露光時間−ゲインテーブルは、露光時間のカラムとゲインのカラムとを保持し得る。露光時間のカラムのエントリと、ゲインのカラムのエントリとが乗算され、露光時間とゲインとの積が生成され得る。自動露光時間−ゲインテーブルにおける各行のエントリまたはインデックスは、光レベルの値を示し得る。すなわち、各光レベルは、自動露光時間−ゲインテーブルに、自動露出のインデックスとしてマップされる。自動露光時間−ゲインテーブルは、図4A、図4B、図5A、及び図5Bに表されたような種々の動作領域を有し得る。4つの全図面(図4A、図4B、図5A、及び図5B)において、横軸に示されたR1、R2、R3、及びR4の4つの光レベルの領域が存在し得る。各領域の区分は、異なる境界、境界A、境界B、及び境界Cによって規定され得る。光レベルは、横軸の左端において高く、左端から右端に行くに従って小さくなる。各領域における露光時間とゲインの積、すなわち(露光時間)×(ゲイン)は、減少しないように定められるべきである。そのようなものとして、露光時間またはゲインの減少は、ゲインまたは露光時間の増大につながり得る。自動露光時間−ゲインテーブルは、センサのタイプ、セッティング、及びまたはカメラの特性に依存して、調整され得る。テーブルはまた、一を超えるフレームレートを用いて調整され得る。更にテーブルは、フロントエンド画像処理モジュール106並びに静止画及び動画圧縮モジュール108のような、主たる画像処理を行う集積回路上のメモリに保持され得る。テーブルはまた、主たる画像処理を行う集積回路上では無いメモリに保持されても良い。いずれのケースにおいても、主たる画像処理部と同じ集積回路上であろうとなかろうと、テーブルはイメージセンサモジュールと接続され得る。
図4Aは、通常モードにおける(検出された)光レベルに対する露出時間を示すグラフであり、図4Bは、通常モードにおける(検出された)光レベルに対するゲインを示すグラフである。領域R1では光レベルが高いため、露光時間は短く、例えば低い値である。同様に、領域R1ではゲインは僅かな値であり、例えば他の領域に比してより低い。ゆっくりと動く対象物、またはユーザの手の動きが非常に小さい場合、例えば5msのオーダーである場合には、領域R1でのぼけ及び/またはノイズ低減のための補正の効果は僅かであるかもしれない。たとえぼけ及び/またはノイズ低減がなされたとしても、それはユーザの目には見えないだろう。従って境界Aは、ぼけ及び/またはノイズの低減がユーザに明らかであるポイントのあたり、例えば露光時間とゲインとの組み合わせによって、ぼけ及び/またはノイズ低減がユーザに目で見えるようなポイントのあたりに、位置する。領域R1と領域R2とを分離する境界Aは、ユーザによって、及び/またはカメラによって変化し得る。境界Aはまた、通常モードにおける画像処理とhjrモードにおける画像処理との間の閾値と考えることもできる。
領域R1、R2において、カメラはあるフレームレート、例えばfr1で動作し得る。図4Aに示すように、光レベルが低下するに従い、領域R1では露光時間は長くなる。領域R1では、露光時間は長くなる。露光時間がフレームレート1、fr1についての最大値に達するまでは、露光時間は領域R2においても長くなり続け得る。露光時間が最初にフレームレート1、fr1についての最大値になるこの光レベルにおいて、ゲイン(図4Bに示す)は増加し始め得る。ゲインは、許容雑音レベルが存在する所定値(この値は、調整時に設定される)までは上昇を続ける。もしゲインが最大値まで増加すれば、ノイズレベルは当該露光時間においては許容できなくなり得る。通常モードでは、境界Bは、フレームレート1、fr1での露光時間が最大値となり、ゲインが、ノイズレベルが許容可能な所定の値となるポイントに指定され得る。領域R2と領域R3を分離する境界Bは、カメラによって変化し得る。
ある領域から別の領域への遷移は、可能な限り連続的であることが好ましい。従って、領域R2の右端における露光時間とゲインとの積は、領域R3の左端における露光時間とゲインとの積に近いか、または同じであり得る。領域R2の右端に示すように、露光時間が最大値であるので、境界Bにおいてフレームレートは下げられるだろう。フレームレートの引き下げ、例えばフレームレートをfr1からfr2に変えることにより、露光時間を長くできる。露光時間は、新たなフレームレート(フレームレート2)fr2についての最大値に達し得る(図4Bの領域R3に示される)。領域R2と領域R3との間の露光時間とゲインとの積の連続性を維持するために、領域R3におけるゲインは、露光時間の増加を相殺するように低下される。ゲインは、それが最大値に達するまで増加し得る。デジタルゲインを利用することもできるが、通常モードにおいて使用されるゲインは一般的にアナログゲインである。境界Cは、通常モードにおいては、アナログゲインが最大値に達するポイントにある。境界Cでは、通常モードでは、対応する光レベルが、手ぶれ低減モードにおいてチェックされる光ターゲットとして保持され得る。
手ぶれ低減(hjr)モードは、別の自動露光時間−ゲインテーブルを作成することにより調整し得る。通常モードの自動露光時間−ゲインテーブルのエントリに対して減算、加算、除算、または乗算を行うことで、手ぶれ低減モードにおいて望ましい“等価”な自動露光時間−ゲインテーブルが生成され得る。この別の自動露光時間−ゲインテーブル、または“等価”な自動露光時間−ゲインテーブルのカラム(露光時間及びゲイン)の特長は、図5A及び図5Bに図示されている。hjrモードにおいてスナップ撮影する際、等価な自動露光時間−ゲインテーブルを通じた露光時間及びゲインの変化は、プレビューモードではノーマルモードに関連する。プレビューモードは、ノーマルモードの自動露出パラメータと特性を使用する。
図5Aは、手ぶれ低減モードにおける(検出された)光レベルに対する露光時間を示すグラフである。図5Bは、手ぶれ低減モードにおける(検出された)光レベルに対するゲインを示すグラフである。手ぶれ低減(hjr)モードにおいて目指すところは、通常モードと同じ露光時間とゲインとの積を維持することである。そのようなものとして、(hjrモードにおける露光時間)×(hjrモードにおけるゲイン)が、(通常モードにおける露光時間)×(通常モードにおけるゲイン)と等しくなることを目標とすべきである。前述したように、人の目にはほとんど見えないため、領域R1における手ぶれの低減を試みることには、僅かな効果しか無い。領域R1では、hjrモードにおけるゲインと露光時間は、通常モードと同じくされ得る。従って、通常モードにおける領域R1で行われる画像処理が、hjrモードにおける領域R1でも行われる。しかしながら、領域R2、R3、及びR4では、hjrモードにおける画像処理が行われる。手ぶれの低減が求められない画像処理は、修正されない自動露出パラメータを用いて行われる一方、手ぶれを低減するための画像処理は、修正された自動露出パラメータを用いて行われる。
露光時間が長くなるほど、手によって生ずる僅かな動きがぼけを引き起こす可能性が高まる。従って、一度ぼけ及び/またはノイズ低減を目で発見することができたなら、領域R2において露光時間は短くされるべきである。従って、手ぶれがぼけとなり得る可能性を抑えるために、領域R2での露光時間は低減される(図5Aに示す)。露光時間が短くなったことを相殺するために、領域R2のゲインは増大される(図5Bに示す)。領域R2では、通常モードと同じ露光時間とゲインの形状が、hjrモードにおいても維持されていることに注意すべきである。領域R2における通常モードとhjrモードとの違いの一つは、通常モードの露光時間とゲインとが、hjrモードに対してオフセットされている点である。hjrモードでは、露光時間は通常モードよりも小さくなるようオフセットされ、ゲインは通常モードよりも大きくなるようオフセットされる。しかしながら、露光時間とゲインとの積は、通常モードとhjrモードとの間で等価である。
前述したように、通常モードでもhjrモードでも、一連のフレームはプレビューされ得る。プレビューモードは、通常モードにおける特性と(修正されていない)自動露出パラメータを使用する。hjrモードでは、プレビューモードの間、等価な自動露光時間とゲインのテーブルは通常モードに関連する。よって、露光時間、ゲイン、またはフレームレートが増加または低下した際、それはプレビューモードの値に関連する。hjrモードにおいて境界Bは、露光時間とゲインとの積が、通常モードにおける露光時間とゲインとの積と等しい値にいつ達したかをチェックすることにより、決定される。hjrモードでは、もし光レベルが領域R3にあれば、フレームレートはフレームレートfr2よりも大きい量だけ、増大され得る。これは、プレビューモードにおいて、領域R3では、フレームレートがfr2(fr1よりも低いレート)であるために、起こり得る。例えば、もしフレームレートfr1を30フレーム毎秒(fps)、及びフレームレートfr2を15fpsとすれば、hjrモードにおける15fpsのフレームレートは、ある量Lによって、フレームレートfr1まで増大され得る。この例では、Lは15fpsである。従ってhjrモードでは、フレームレートを15fpsから30fpsに増大させることで、例えば露光時間を領域R3において、通常モードにおける領域R2における値まで最大化でき得る。領域R3における露光時間の増大は、領域R3におけるゲインの低下につながり得る。もし、領域R1、R2、及びR3にわたってアナログゲインが使用されていれば、hjrモードにおいてはゲインオフセットが増大(領域R2の左端)されているために、領域R3におけるアナログゲインが飽和し得る。例えば、境界Cに達する前に最大値に達する(領域R3の右端において見られるように)。最大のアナログゲインを超えて動作するために、デジタルゲインがアナログゲインに加算され得る。デジタルゲインは、図5Bにおいて、領域R3と領域R4との間の底部に図示されている。
境界Cにおける通常モードでの光レベルは、hjrモードにおいてチェックされる所定の光ターゲットとして保持され得る。hjrモードにおいて、光レベルが、保持された光ターゲットのそれよりも小さい場合、光は、イメージセンサ102がイメージセンサ102の最小平均光レベルを生成するのに十分でないだろう。最小平均光レベルは、各ピクセルにおける光の値(輝度または/及び色差)を加算し、それを全ピクセル数で除算することによって求めうる。イメージセンサ102の最小平均光レベルを計算する別の方法は、計算においてある閾値よりも低い全てのピクセルを切り捨てることである。例えば、10という値より低いピクセルは使用せず、(ある閾値よりも上の)残りのピクセルにより、最小平均光レベルを計算する。一般的に、光の輝度の値が使用されるが、色差の値もまた使用され得る。ここでは例示のため、輝度を取り上げる。hjrモードでは、もし輝度の値が所定の輝度(光)ターゲットよりも小さい場合、光(輝度)レベルは領域R4になるだろう。
もしhjrモードにおいて光レベルが輝度ターゲットよりも小さいと判定された場合、プレビューモードにおいてfr2であったフレームレートは、変える必要が無い。しかしながら、光量が低下しているため、露光時間は調整され、長くされ得る。露光時間は、フレームレートfr2で許容し得る最大値まで、長くされ得る。露光時間が長くされたことにより、デジタルゲインは境界Cにおいて減少され、領域R4において増大し続け得る。
領域R1、R2、R3にわたって、露光時間とゲインとの積は、通常モードとhjrモードとの間で同じくなることを狙う。すなわち、両者の差が可能な限りゼロに近づくよう、この差は低減されるべきである。領域R4では、イメージセンサ102は光レベルの最小平均値を満たし得ない。従って、領域R4でのゲインレベルを増加させるために、デジタルゲインを利用し得る。
図6は、修正された自動露出パラメータを生成する方法を示すフローチャートである。フローチャートに示すように、フレームは、スナップ撮影の後に取り込まれ得る。プレビューモードで処理された最後のフレームは、メモリに保持され得る。取り込みは、デジタル写真を生成するために、メモリからのフレームの検索が利用され得ることを意味する。現在の、モバイル機器のメモリストレージ能力とフレームレートでは、スナップ撮影の後、メモリ内のフレーム数は10より少ないだろう。しかし、メモリ内の全てのフレームがデジタル写真の生成に必要なわけでは無い。一般的に、デジタル写真の生成に使用され得るフレーム数は、最大でも3つである。スナップ撮影の後に修正された自動露出パラメータを生成するために、カメラはhjrモードになり得る。従って、別の実施形態では、スナップ撮影後のフレームの取り込み前に、hjrモードに入っても良い(602)。ただし図6では、hjrモードへの移行(602)は、スナップ撮影後のフレームの取り込みに引き続くように示されている。いったんhjrモードに入ると、検出された光レベルは、通常モードにおける修正されていない自動露出パラメータに関連付けられる(604)。検出された光レベルについて、修正されていないゲインと露光時間とがメモリから取り出される(606)。通常モードにおける露光時間とゲインとを乗算することによって、通常モードにおける露光時間とゲインとの積の計算が行われ得る(608)。hjrモードにおける露光時間とゲインとの積は、通常モードの自動露出パラメータを修正することによって計算され得る。これらの自動露出パラメータが、ゲイン、露光時間、及び/またはフレームレートとなり得る。自動露出パラメータは、hjrモードにおける露光時間とゲインとの積と、通常モードにおける露光時間とゲインとの積との間の差を小さくするために、修正され得る(610)。従って、hjrモードにおける露光時間とゲインとの積は、通常モードにおける露光時間とゲインとの積に対応する。理想的には、対応関係は同一であるべきである。しかし、hjrモードと通常モードとの間において生じうる光レベルの僅かな差、及び乗算する際に見込まれる計算精度差とにより、この対応関係は同一とならないかもしれない。hjrモードと通常モードとの間の露光時間とゲインとの積の差は、可能な限り小さくされれば十分である。更に、hjrモードにおける上記の領域R4のような領域では、イメージセンサ102は光レベルの最小平均量を満たさないだろう。従って、hjrモードにおける露光時間とゲインとの積を、通常モードと同じに維持することは不可能かもしれない。
通常モード及び手ぶれ低減モードにおいて、カメラシステムがいかにして動作するかを示すフローチャートが図7に示されている。画像を生成するために、最初の動作はスナップ撮影後にフレームを取り込むこと(700)である。いったん取り込まれると、hjrモードが選択されているかどうかを確認するためのチェックが実行される。もしhjrモードが選択されていなければ、イメージセンサ704を制御するために、修正されていない自動露出パラメータが承認(pass)され得る(704)。これらのパラメータは、自動露出フレームレート(AE FR)、自動露出時間(AE TIME)、自動露出ゲイン(AE GAIN)、測定された輝度、及び輝度ターゲットであり得る。もしhjrモードが選択されていれば、自動露出パラメータの修正が、必要に応じて行われる(706)。次の動作では、光レベルが領域R1、例えば通常モードと同じ(またはほぼ同じ)パラメータである領域、にあるかどうかを確認するためのチェックが実行される。もし光レベルが境界Aにおける光レベルより大きければ(例えば光レベルが領域R1にある場合)には、修正されていない自動露出パラメータが、イメージセンサ704を制御するために承認される(704)。hjrモードが選択された場合であっても、通常モードにおける画像処理が行われ得る。引き続く動作において、イメージセンサを制御するために修正されていない自動露出パラメータが承認された後、デジタル写真の処理が継続され得る(710)。もし、(判定ブロック708のチェックを行った際に)光レベルが境界Aにおける光レベルより低ければ、フレーム数(NUMF)と共に、修正された自動露出パラメータと、デジタルゲインとが、イメージセンサを制御するために用いられ得る(711)。修正された自動露出パラメータは、新たな自動露出フレームレート(AE FR_NEW)、新たな自動露光時間(AE TIME_NEW)、新たな自動露出ゲイン(AE GAIN_NEW)、測定された輝度、及び輝度ターゲットであり得る。デジタル写真を生成するために処理するフレーム数NUMFがチェックされ得る(712)。もしNUMFが1より大きければ、複数のフレームが登録され得る(714)。フレーム登録は、フレーム間の動き(水平、垂直、または角度に関する)を補償し得る。これは、フレーム登録後に得られる写真の輝度(intensity)を増加させ得る。もしNUMFが2より大きければ、フレーム登録はまた、ノイズ低減にも寄与しうる。もしNUMFが1でhjrモードが選択されていれば、ノイズの低減がまた行われ得る(716)。1つのフレームにおけるノイズ低減の一つの手法は、イメージコンポーネントに対してbayerフィルタリングを適用することである。ノイズの低減を行った後、デジタル写真の処理が継続され得る(710)。図7におけるブロック702、704、706、711は、手ぶれ制御モジュール212において見いだされることに留意すべきである。
図8は、手ぶれ低減モードにおけるカメラシステムの自動露出パラメータの修正を例示するフローチャートである。hjrモードが選択されたとしても、通常モードにおける画像処理が依然として用いられ得る。判定ブロック800でチェックが行われて、もし光レベルが境界Aにおける光レベルよりも大きければ、デジタル写真を生成するために処理するフレーム数NUMFは1に設定され(802)、通常の画像処理が用いられる。この場合、自動露出パラメータは修正されない。もし光レベルが境界Aにおける光レベルよりも小さい場合、hjrモードにおける画像処理が用いられ得る。デジタル写真を生成するために処理するフレーム数NUMFは1に設定される(804)。図5A及び図5Bに示したように、露光時間はある量Mだけ短くされ得る(806)。Mは幅広いレンジで取り得るが、50%または50%付近の値が、良い結果を示し得る。ゲインもまたある量Kだけ増加され得る(808)。hjrモードにおける露出時間とゲインとの積は通常モードにおける露出時間とゲインとの積を維持することをより狙っているから、値はKの200%または200%付近の値で、手ぶれの低減が見られる。
もし、増加されたゲインがイメージセンサの最大アナログゲインを超えた場合には、Kだけ増加されたゲインと最大(アナログ)ゲインとの間の最小値の選択値が用いられ得る(810)。これは、デジタルゲインがR2のような領域で使用される構成においても使用され得る。Kだけ増加されたゲインと新たなアナログゲイン(AE_GAIN_NEW)との比率(812)は、定数C1と比較され得る。C1はセンサの最大アナログゲインに関わり、一般的には1とされ得る。C1と、Kだけ増加されたゲインと新たなアナログゲインとの比率の間の最小値が選択され(814)、そして最小値においてデジタルゲインが使用され得る。
判定ブロック816は、光レベルが境界Bにおける光レベルよりも大きいかどうか、比較する。もし、光レベルが境界Bにおける光レベルよりも大きければ、必要な自動露出パラメータの修正(706)は終了する。もし、光レベルが境界Bにおける光レベルより小さければ、判定ブロック818は、光レベルが境界Cにおける光レベルよりも大きいかどうか、比較する。もし、光レベルが境界Cにおける光レベルよりも大きければ、フレームレートはある量Lだけ高くされ得る(820)。上記したように、領域R3では、hjrモードにおいてフレームレートfr2は、フレームレートfr1を含む値まで増加され得る。従ってLは、フレームレートをfr1に近い値で、fr1を含む値になるよう調節する値であり得る。デジタル写真を処理するためのフレーム数NUMFは、2にセットされ得る(822)。もし、光レベルが境界Cにおける光レベルよりも小さければ、hjrモードの新たな露光時間(824)と新たなゲイン(826)は、通常モードにおけるそれと等しくなり得る。測定された輝度(イメージセンサにおける平均輝度)に対する輝度ターゲットの比率(828)が、定数C2と比較され得る。定数C2と、測定された輝度に対する輝度ターゲットの比率との間の最小値を選択すること(830)が、デジタルゲインを生成し得る。一般的に2の値が用いられ、この値は、領域R4において測定された輝度が、輝度ターゲットの1/2まで低下した際における比率の代わりに定数を用いることに相当し得る。イメージセンサが輝度ターゲットを満たしていない時、フレーム登録後のノイズを低減し輝度を向上させるため、デジタル写真を生成するために処理する更なるフレーム数NUMFが使用され得る。NUMFとして、最小値の3フレームが、この場合には十分であることが分かった。
複数の異なる構成と方法が説明された。方法は、長時間露出における写真からのぼけの除去を向上し得る。方法と構成はまた、実質的に、写真を撮影するあらゆるデジタル機器についての手ぶれの低減に役立ち得る。この方法と構成は、ハードウェア、ソフトウェア、またはこれらの何らかの組み合わせによって実装され得る。ソフトウェア実装の場合には、写真を撮影する機器において実行される際に、上記説明された一つ以上の方法を行う、コンピュータ読み取り可能なプログラムコード(コンピュータコードとも呼ばれ得る)を備えたコンピュータ読み取り可能な媒体を対象とし得る。
コンピュータ読み取り可能なプログラムコードは、コンピュータ読み取り可能な命令の形で、メモリに保持され得る。この場合、DSPのようなプロセッサは、本明細書で説明された一つ以上の方法を達成するために、メモリに保持された命令を実行し得る。あるケースでは、この方法は、露光時間とゲインとの積を生成するために、露光時間とゲインとの乗算器のような、種々のハードウェア要素を使用するDSPによって実行され得る。開示された露光時間とゲインとの積は、一つ以上のマイクロプロセッサ、一つ以上の特定用途向け集積回路(ASIC)、及び一つ以上のフィールドプログラマブルゲートアレイシグナル(FPGA)、またはその他のハードウェアとソフトウェアとの組み合わせによって実装され得る。これらの方法と構成は、下記の請求項の範囲内のものである。
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
[1]取り込まれた少なくとも一つの画像の光レベルを確認する手段と、手ぶれ低減モードの選択を検出する手段と、前記取り込まれた少なくとも一つの画像を画像処理するための、手ぶれモードの修正された自動露出パラメータを動的に選択する手段であって、前記手ぶれ低減モードの修正されない自動露出パラメータが、通常モードの修正された自動露出パラメータの露光時間とゲインとの積に対応する露光時間とゲインとの積を有する手段と備える装置。
[2]前記修正された自動露出パラメータは、ゲインと露光時間を含む、[1]記載の装置。
[3]前記修正された自動露出パラメータは、更にフレームレートを含む、[1]記載の装置。
[4]命令セットを保持するコンピュータ読み取り可能な媒体であって、前記命令セットは、一つまたは2つ以上のプロセッサによって実行されると、取り込まれた少なくとも一つの画像の光レベルを確認する手段と、手ぶれ低減モードの選択を検出する手段と、前記取り込まれた少なくとも一つの画像を画像処理するための、手ぶれモードの修正された自動露出パラメータを動的に選択する手段であって、前記手ぶれ低減モードの修正されない自動露出パラメータが、通常モードの修正された自動露出パラメータの露光時間とゲインとの積に対応する露光時間とゲインとの積を有する手段と備えるコンピュータ読み取り可能な媒体。
[5]前記修正された自動露出パラメータは、ゲインと露光時間を含む、請求項4記載のコンピュータ読み取り可能な媒体。
[6]前記修正された自動露出パラメータは、更にフレームレートを含む、請求項4記載のコンピュータ読み取り可能な媒体。
[7]画像処理を行う装置であって、光レベルを検出する手段と、前記検出された光レベルに応答して、手ぶれを低減する手段とを有する手ぶれ低減モードを備え、前記手ぶれの低減は、光レベルが第1レンジにある際の単一フレームノイズ低減と、前記光レベルが第2レンジにある際の複数フレームノイズ低減とを含む、装置。
[8]前記手ぶれの低減は、修正された自動露出パラメータを含む、[7]記載の装置。
[9]前記修正された自動露出パラメータは、ゲイン、露光時間、及びフレームレートである、[7]記載の装置。
[10]複数フレームノイズ低減は、複数のフレーム登録を通じてぼけを低減する、[7]記載の装置。
[11]前記単一フレームノイズ低減は、bayerフィルタリングである、[7]記載の装置。
[12]手ぶれ低減モードでの画像処理は、前記検出された光レベルが、デジタル写真のぼけを除去する際に使用される光レベルの最小値より大きい際に行われる、[7]記載の装置。
[13]前記検出された光レベルは、自動露出インデックスにマップされる[11]記載の装置。
[14]第1フレームレートが用いられる前記第1レンジにおいて前記露光時間が最大値に達した際、それに応答して、前記第1フレームレートは第2フレームレートに低下されることにより、露光時間が長くされる、[7]記載の装置。
[15]ゲインは、前記露光時間の増加に応答して、低下される、[14]記載の装置。
[16]前記第2レンジは、第3レンジ及び第4レンジの2つのレンジを備える、[7]記載の装置。
[17]前記第3レンジと第4レンジとの間の第2境界は、輝度ターゲットを満たさない光レベルによって決定される、[16]記載のカメラ装置。
[18]前記第3レンジ及び第4レンジにおいて、デジタルゲインが適用される、[17]記載の装置。
[19]前記第1レンジは、境界Aと境界Bとの間にある、[7]記載の装置。
[20]前記第2レンジは、境界Bを超えて存在する、[7]記載の装置。
[21]イメージセンサに結合可能な集積回路であり、前記イメージセンサが、手ぶれ低減モードにおいて取り込んだデジタル画像の手ぶれを低減するために前記集積回路によって生成された修正された自動露出パラメータに応答する集積回路であって、少なくとも一つの取り込まれた画像を確認する手段と、手ぶれ低減モードの選択を検出する手段と、前記少なくとも一つの取り込まれた画像に関連する光レベルを確認する手段と、前記光レベルを、通常モードにおける対応するゲインと露光時間にマッピングする手段と、前記対応するゲインと露光時間から、第1の露光時間−ゲインの積を計算する手段と、手ぶれを低減するために、前記露光時間−ゲインの積の計算を受けて、修正された自動露出パラメータを生成する手段とを備えた集積回路。
[22]前記露光時間−ゲインの積の計算を受けて、修正された自動露出パラメータを生成する前記手段は、前記ゲインと露光時間を修正することを備える、[21]記載の装置。
[23]前記修正された自動露出パラメータを生成する手段は、第2の露光時間−ゲインの積の計算を備える、[22]記載の装置。
[24]前記集積回路はMSM TM である、[21]記載の装置。
[25]修正された自動露出パラメータを生成する方法であって、スナップ撮影の後、少なくとも一つのフレームを取り込むことと、hjrモードに入ることと、検出された光レベルを、修正されていない自動露出パラメータに関連づけることと、メモリから露光時間とゲインとを取り出すことと、前記取り出された露光時間とゲインから、第1の露光時間−ゲインの積を算出することと、前記第1の露光時間−ゲインの積に基づいて、修正された自動露出パラメータを生成することとを備える方法。
[26]前記第1の露光時間−ゲインの積に基づいて、前記修正された自動露出パラメータを生成することは、前記取り出された露光時間とゲインとを、乗算すること、減算すること、加算すること、及び除算することを含む、[25]記載の方法。
[27]前記修正された自動露出パラメータは、ゲインと露光時間を備える[25]記載の方法。
[28]前記修正された露出パラメータは、フレームレートを更に備える、[27]記載の方法。

Claims (18)

  1. 通常モード自動露出パラメータを有するデバイスであって、
    取り込まれた少なくとも一つの画像の光レベルを検出する手段と、
    前記検出された光レベルが閾値よりも低い場合に、手ぶれ低減モードの選択を検出する手段と、
    前記手ぶれ低減モードの選択が検出された場合に、前記検出された光レベルに基づいて、前記通常モード自動露出パラメータを特定する手段と、
    前記特定された前記通常モード自動露出パラメータに基づいて、前記取り込まれた少なくとも一つの画像を画像処理するための、手ぶれ低減モード自動露出パラメータを生成する手段と
    を備え、
    前記手ぶれ低減モード自動露出パラメータは、前記手ぶれ低減モード自動露出パラメータの手ぶれ低減モードの露光時間とゲインとの積が、前記通常モード自動露出パラメータの通常モードの露光時間とゲインとの積と同一になるように生成され、
    前記手ぶれ低減モード自動露出パラメータは、前記通常モード自動露出パラメータの通常モードのゲインよりも大きい、手ぶれ低減モードのゲインを含む、装置。
  2. 前記手ぶれ低減モード自動露出パラメータは、前記手ぶれ低減モードのゲインと露光時間を含む、請求項1記載の装置。
  3. 前記手ぶれ低減モード自動露出パラメータは、更に前記手ぶれ低減モードのフレームレートを含む、請求項1記載の装置。
  4. 命令セットを保持するコンピュータ読み取り可能な媒体であって、前記命令セットは、一つまたは2つ以上のプロセッサによって実行されると、
    取り込まれた少なくとも一つの画像の光レベルを検出することと、
    前記検出された光レベルが閾値よりも低い場合に、手ぶれ低減モードの選択を検出することと、
    前記手ぶれ低減モードの選択が検出された場合に、前記検出された光レベルに基づいて、通常モード自動露出パラメータを特定することと、
    前記特定された前記通常モード自動露出パラメータに基づいて、前記取り込まれた少なくとも一つの画像を画像処理するための、手ぶれ低減モード自動露出パラメータを生成することと
    を備える方法を実行し、
    前記手ぶれ低減モード自動露出パラメータは、前記手ぶれ低減モード自動露出パラメータの手ぶれ低減モードの露光時間とゲインとの積が、前記通常モード自動露出パラメータの通常モードの露光時間とゲインとの積と同一になるように生成され、
    前記手ぶれ低減モード自動露出パラメータは、前記通常モード自動露出パラメータの通常モードのゲインよりも大きい、手ぶれ低減モードのゲインを含む、コンピュータ読み取り可能な媒体。
  5. 前記手ぶれ低減モード自動露出パラメータは、前記手ぶれ低減モードのゲインと露光時間を含む、請求項4記載のコンピュータ読み取り可能な媒体。
  6. 前記手ぶれ低減モード自動露出パラメータは、更に前記手ぶれ低減モードのフレームレートを含む、請求項4記載のコンピュータ読み取り可能な媒体。
  7. 少なくとも一つの取り込まれた画像の光レベルを検出する手段と、
    前記検出された光レベルが閾値よりも低い場合に、手ぶれ低減モードの選択を検出する手段と、
    前記手ぶれ低減モードの選択が検出された場合に、前記検出された光レベルに基づいて、通常モードのゲインと露光時間を特定する手段と、
    前記特定された通常モードのゲインと露光時間から、前記通常モードの露光時間−ゲインの積を計算する手段と、
    前記少なくとも一つの取り込まれた画像を画像処理するために、前記通常モードの露光時間−ゲインの積の計算を受けて、修正された自動露出パラメータを生成する手段と
    を備えた集積回路。
  8. 前記通常モードの露光時間−ゲインの積の計算を受けて、修正された自動露出パラメータを生成する前記手段は、前記通常モードのゲインと露光時間を修正するように構成されている、請求項7記載の回路。
  9. 前記修正された自動露出パラメータを生成する手段は、前記通常モードのゲインと露光時間を修正した後で、前記修正された露光時間とゲインの積を計算するように構成されている、請求項8記載の回路。
  10. 修正された自動露出パラメータを生成する方法であって、
    スナップ撮影の後、少なくとも一つのフレームを取り込むことと、
    前記取り込まれた少なくとも一つのフレームから検出された光レベルが閾値よりも低い場合に、手ぶれ低減モードに入ることと、
    前記検出された光レベルに基づいて、修正されていない自動露出パラメータをメモリ中で特定することと、
    前記メモリから、前記特定された修正されていない自動露出パラメータに含まれる、修正されていない露光時間とゲインとを取り出すことと、
    前記取り出された修正されていない露光時間とゲインから、修正されていない露光時間−ゲインの積を算出することと、
    前記取り込まれた少なくとも一つのフレームを手ぶれ低減モードで画像処理するために、前記修正されていない露光時間−ゲインの積に基づいて、修正された自動露出パラメータを生成することと
    を備える方法。
  11. 前記修正されていない露光時間−ゲインの積に基づいて、前記修正された自動露出パラメータを生成することは、前記取り出された修正されていない露光時間とゲインを、乗算すること、減算すること、加算すること、または除算することを含む、請求項10記載の方法。
  12. 前記修正された自動露出パラメータは、修正されたゲインと露光時間を備える、請求項10記載の方法。
  13. 前記修正された自動露出パラメータは、修正されたフレームレートを更に備える、請求項12記載の方法。
  14. 通常モード自動露出パラメータを有する装置であって、
    取り込まれた少なくとも一つの画像の光レベルを検出するイメージセンサと、
    前記イメージセンサに結合され、手ぶれ制御モジュールを備えたフロントエンド画像処理モジュールと、
    前記通常モード自動露出パラメータを供給する自動露出制御モジュールと
    を備え、
    前記手ぶれ制御モジュールは、前記検出された光レベルが閾値よりも低い場合に、手ぶれ低減モードに入って、前記取り込まれた少なくとも一つの画像を画像処理するため、手ぶれ低減モード自動露出パラメータを生成し、
    前記手ぶれ低減モード自動露出パラメータは、前記手ぶれ低減モード自動露出パラメータの手ぶれ低減モードの露光時間とゲインとの積が、通常モード自動露出パラメータの通常モードの露光時間とゲインとの積と同一になるように生成され、
    手ぶれ低減モード自動露出パラメータは、前記通常モード自動露出パラメータの通常モードのゲインよりも大きい、手ぶれ低減モードのゲインを含む、装置。
  15. 前記手ぶれ低減モード自動露出パラメータは、前記手ぶれ低減モードのゲインと露光時間を備える、請求項14の装置。
  16. 前記手ぶれ低減モード自動露出パラメータは、更に前記手ぶれ低減モードのフレームレートを備える、請求項14の装置。
  17. 前記通常モード自動露出パラメータは、前記通常モードのゲインと露光時間を含む、請求項14の装置。
  18. 前記通常モード自動露出パラメータは、更に前記通常モードのフレームレートを備える、請求項14の装置。
JP2009530477A 2006-09-25 2007-01-20 カメラの手ぶれ低減システム Active JP5507251B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US11/534,993 2006-09-25
US11/534,993 US8120658B2 (en) 2006-01-19 2006-09-25 Hand jitter reduction system for cameras
PCT/US2007/060809 WO2008039551A1 (en) 2006-09-25 2007-01-20 A hand jitter reduction system for cameras

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2012094648A Division JP5612017B2 (ja) 2006-09-25 2012-04-18 カメラの手ぶれ低減システム

Publications (2)

Publication Number Publication Date
JP2010504718A JP2010504718A (ja) 2010-02-12
JP5507251B2 true JP5507251B2 (ja) 2014-05-28

Family

ID=39230515

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2009530477A Active JP5507251B2 (ja) 2006-09-25 2007-01-20 カメラの手ぶれ低減システム
JP2012094648A Active JP5612017B2 (ja) 2006-09-25 2012-04-18 カメラの手ぶれ低減システム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2012094648A Active JP5612017B2 (ja) 2006-09-25 2012-04-18 カメラの手ぶれ低減システム

Country Status (5)

Country Link
EP (1) EP2070312A1 (ja)
JP (2) JP5507251B2 (ja)
KR (1) KR101120966B1 (ja)
CN (1) CN101518054B (ja)
WO (1) WO2008039551A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8416319B2 (en) 2008-09-22 2013-04-09 Freedom Scientific, Inc. Systems and methods for imaging objects
CN101510960B (zh) * 2009-03-26 2014-06-25 北京中星微电子有限公司 一种手机摄像方法及装置
US8659670B2 (en) * 2009-04-20 2014-02-25 Qualcomm Incorporated Motion information assisted 3A techniques
EP2712174B1 (en) * 2012-09-21 2019-11-20 BlackBerry Limited Methods and devices for controlling camera image capture
KR101933454B1 (ko) * 2012-09-25 2018-12-31 삼성전자주식회사 촬영 이미지 생성 방법 및 장치와 그 방법에 대한 프로그램 소스를 저장한 기록 매체
US9646190B2 (en) * 2013-12-27 2017-05-09 Mitsubishi Electric Corporation Two-dimensional code reading device
US9641759B2 (en) * 2014-07-10 2017-05-02 Lg Electronics Inc. Mobile terminal and controlling method thereof
CN104219448B (zh) * 2014-08-28 2015-12-02 小米科技有限责任公司 拍摄方法和装置
CN105472263B (zh) * 2014-09-12 2018-07-13 聚晶半导体股份有限公司 影像撷取方法及使用此方法的影像撷取设备
FR3027143B1 (fr) * 2014-10-10 2016-11-11 Parrot Appareil mobile, notamment drone a voilure tournante, muni d'une camera video delivrant des sequences d'images corrigees dynamiquement de l'effet "wobble"
KR102176230B1 (ko) * 2017-07-14 2020-11-09 주식회사 엘지화학 고분자 막의 분석 방법

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5745808A (en) * 1995-08-21 1998-04-28 Eastman Kodak Company Camera exposure control system using variable-length exposure tables
JPH1141515A (ja) * 1997-07-24 1999-02-12 Minolta Co Ltd スチルカメラ
JPH11215432A (ja) * 1997-11-19 1999-08-06 Ricoh Co Ltd デジタルカメラ
JPH11215431A (ja) * 1998-01-27 1999-08-06 Hitachi Denshi Ltd テレビジョンカメラ
JP2000047297A (ja) * 1998-07-28 2000-02-18 Minolta Co Ltd デジタルスチルカメラ
JP2000224470A (ja) * 1999-02-02 2000-08-11 Minolta Co Ltd カメラシステム
JP2001045361A (ja) * 1999-07-30 2001-02-16 Hitachi Ltd 撮像装置
JP2003259199A (ja) * 2002-03-05 2003-09-12 Sony Corp カメラ信号処理装置およびその露光範囲拡張方法
JP2003322906A (ja) * 2002-04-30 2003-11-14 Olympus Optical Co Ltd カメラ
JP3934506B2 (ja) * 2002-08-06 2007-06-20 オリンパス株式会社 撮像システムおよび画像処理プログラム
US7295232B2 (en) * 2003-01-15 2007-11-13 Canon Kabushiki Kaisha Camera and program
JP2004221992A (ja) * 2003-01-15 2004-08-05 Canon Inc 撮影装置およびプログラム
JP2004304252A (ja) * 2003-03-28 2004-10-28 Minolta Co Ltd 撮像システム
JP2004357202A (ja) * 2003-05-30 2004-12-16 Canon Inc 撮影装置
JP2005286790A (ja) * 2004-03-30 2005-10-13 Fuji Photo Film Co Ltd 携帯端末装置
JP4677748B2 (ja) * 2004-09-15 2011-04-27 株式会社ニコン 撮像装置
WO2006070046A1 (en) * 2004-12-29 2006-07-06 Nokia Corporation Exposure of digital imaging

Also Published As

Publication number Publication date
CN101518054B (zh) 2012-11-21
JP2010504718A (ja) 2010-02-12
KR20090057461A (ko) 2009-06-05
JP2012182806A (ja) 2012-09-20
KR101120966B1 (ko) 2012-03-05
EP2070312A1 (en) 2009-06-17
WO2008039551A1 (en) 2008-04-03
CN101518054A (zh) 2009-08-26
JP5612017B2 (ja) 2014-10-22

Similar Documents

Publication Publication Date Title
JP5612017B2 (ja) カメラの手ぶれ低減システム
US8111300B2 (en) System and method to selectively combine video frame image data
US8797421B2 (en) System and method to selectively combine images
US8120658B2 (en) Hand jitter reduction system for cameras
US9288392B2 (en) Image capturing device capable of blending images and image processing method for blending images thereof
US8581992B2 (en) Image capturing apparatus and camera shake correction method, and computer-readable medium
US7853134B2 (en) Imaging device with image blurring reduction function
JP2007135182A (ja) 撮像装置および撮像方法
JP3974634B2 (ja) 撮像装置および撮像方法
US8982230B2 (en) Image pickup apparatus including image adjustment processing for improving an appearance of an image, the image adjustment processing to be applied when it is determined that an imaging scene is finalized
JP5861924B2 (ja) 撮像装置
JP2006287814A (ja) 撮像装置及び動きベクトル決定方法
JP2008236739A (ja) 撮像装置および撮像方法
JP6157274B2 (ja) 撮像装置、情報処理方法及びプログラム
JP5482428B2 (ja) 撮像装置、手ブレ補正方法、プログラム
JP5482427B2 (ja) 撮像装置、手ブレ補正方法、プログラム
JP5307572B2 (ja) 撮像システム、映像信号処理プログラム、および撮像方法
JP2022093912A (ja) 撮像装置、撮像方法およびプログラム
JP2011055171A (ja) 撮像装置およびその制御方法
JP2012005011A (ja) 画像処理装置、撮像装置、及び画像処理プログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110908

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111018

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120118

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120125

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120220

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120227

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120319

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120418

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120605

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120905

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120912

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20121105

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20121112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130108

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130408

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130415

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130610

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130617

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130708

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130910

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20131210

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20131217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140319

R150 Certificate of patent or registration of utility model

Ref document number: 5507251

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250