JP2013519301A - 輝度及び動きからの捕捉条件の選択 - Google Patents

輝度及び動きからの捕捉条件の選択 Download PDF

Info

Publication number
JP2013519301A
JP2013519301A JP2012552036A JP2012552036A JP2013519301A JP 2013519301 A JP2013519301 A JP 2013519301A JP 2012552036 A JP2012552036 A JP 2012552036A JP 2012552036 A JP2012552036 A JP 2012552036A JP 2013519301 A JP2013519301 A JP 2013519301A
Authority
JP
Japan
Prior art keywords
image
iso
scene
pixel
selecting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012552036A
Other languages
English (en)
Other versions
JP5897475B2 (ja
Inventor
ハロルド ピルマン,ブルース
ノーヴォルド ボーダー,ジョン
マリー タックカルディ,アン
Original Assignee
イーストマン コダック カンパニー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by イーストマン コダック カンパニー filed Critical イーストマン コダック カンパニー
Publication of JP2013519301A publication Critical patent/JP2013519301A/ja
Application granted granted Critical
Publication of JP5897475B2 publication Critical patent/JP5897475B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Adjustment Of Camera Lenses (AREA)

Abstract

改善されたアーカイバル画像を捕捉するモデルベースの方法は、場面の少なくとも2つのプレビュー画像を捕捉し、その場面において場面輝度及び動作速度に関してそれらのプレビュー画像を解析することを含む。解析されたデータは、アーカイバル画像を捕捉するための捕捉モード、ISO及び露出時間を選択するために使用されるピクセル信号レート対ピクセル速度の比を計算するために使用される。

Description

本発明は、動きが存在する場合に単一の捕捉画像において画像品質の改善を提供する電子式画像捕捉装置及びその制御に関する。
電子式画像形成システムは、視覚画像の電子表現を精製するために画像センサ上に画像を形成するようレンズシステムに依存する。そのような画像センサの例には、電荷結合素子(charge coupled device)(CCD)画像センサ、及びアクティブピクセルセンサ(active pixel sensor)(APS)装置(APS装置は、相補型金属酸化膜半導体(CMOS)プロセスにおいて製造されるために、しばしばCMOSセンサと呼ばれる。)がある。センサは、個別のピクチャ素子センサ、すなわちピクセル、の2次元配列を有する。夫々のピクセルは、例えば、1976年7月20日に公開された同一出願人による米国特許第3971065号(特許文献1)においてBayerによって記載されるように、通常は、赤、緑又は青のいずれかのフィルタを設けられ、それにより、フルカラー画像が生成され得る。用いられる画像センサのタイプ(例えば、CCD又はCMOS)に関わらず、ピクセルは、電子式画像形成システムによる画像の捕捉の間にピクセルにぶつかる光の量に正比例して光生成電荷が蓄積されるバケットとして働く。
画像センサは、画像捕捉の間に適正露出を構成するよう、露出時間又は積分時間と呼ばれる時間のインターバルの間、光を集める。画像形成される場面の輝度測定に基づき、通常は自動露出システムを備える電子式画像形成システムは、有効輝度及び有効信号対ノイズ比を有する画像を生じる適切な露出時間を決定するために使用される。場面が薄暗くなればなるほど、電子式画像形成システムが適正露出を構成するよう光を集めるために使用しなければならない時間はますます増える。画像捕捉装置に対する動きが画像捕捉の間に存在する場合は、動作速度が露出時間に対して増大するにつれて、捕捉画像においてはモーションブラーが存在することとなる。モーションブラーには2つのタイプが存在する。1つは、大域的なモーションブラーであり、もう1つは、局所的なモーションブラーである。大域的なモーションブラーは、画像捕捉装置が捕捉中に場面に対して動いている場合に生成され、そのようなものとして、画像全体が不鮮明となる。大域的なモーションブラーを低減する方法は、当業者によく知られている。1つの方法は、慣性計測装置(通常はジャイロ)を用いて捕捉中の画像捕捉装置の動きを測定し、次いで、横方向に動かされ得るレンズ素子を備えた特別のレンズを用いて、画像センサ上にレンズによって形成される画像を、画像捕捉装置の動きを補償する方向に動かすことである。第2の方法は、大域的なモーションブラーを低減し且つ映像において画像を安定させるために映像捕捉の間のデジタルカメラの動きを補償するよう画像のデジタルシフトに基づく米国特許出願公開第2006/0274156号(特許文献2)において記載されている。しかし、これらの方法のいずれもが、場面内で生成される局所的なモーションブラーに対処していない。
局所的なモーションブラーを低減する1つの方法は、露出時間を短縮することである。この方法は、露出時間を自動露出システムによって選択される露出時間よりも短くする。結果として、信号対ノイズ比が低い暗めの画像が捕捉される。次いで、アナログ又はデジタルゲインが、その暗めの画像を明るくするよう画像におけるピクセル値に適用され得るが、これはよりノイズが多い画像を生じさせることが当業者に認識されるであろう。
局所的なモーションブラーを低減する他の方法は、画像センサにおけるより多くのピクセル及びより大きい開口レンズを用いてより多くの光を集めて、より短い露出時間を可能にすることである。この方法は、局所的なモーションブラーが低減され且つノイズが許容レベルである画像を生成することができる。しかし、電子式画像形成システムにおける目下の産業上のトレンドは、画像捕捉装置をより小さく且つより安価にすることである。従って、より大きくのピクセルを有する画像センサ及びより大きな開口を備えたハイグレードの光学素子は、より多くの光を集めることができるが、実用的ではない。
局所的なモーションブラーを低減する他の方法は、露出時間を短くし且つ撮影用フラッシュにより自然光を補うことである。撮影用フラッシュは、フラッシュ時間を含むよう設定された露出時間を含むほんの一瞬に維持される強烈な光束を生成する。露出時間は、撮影用フラッシュが非常に明るいので、フラッシュがない場合よりも有意に短い時間インターバルに設定され得る。従って、露出の間に局所的な動きによって引き起こされるぶれ(ブラー)は低減される。しかし、フラッシュは、明るい照明においては有効でなく、明るい照明の中で速く動く対象は、依然として局所的なモーションブラーを生じさせうる。更に、フラッシュ撮影は、フラッシュと撮影される場面との間の距離が小さい場合にのみ通常は有用である。また、フラッシュ撮影は、多くの人々が好ましくないと思う赤目及び非常に明るい領域又は暗い領域のようなアーティファクトを生じさせる傾向がある。
露出時間を選択するための従来の解決法は、通常は1又はそれ以上の標準化された設定を使用し、あるいは、露出時間を得るようオペレータモード設定に応答する。図2Aは、自動露出制御システムにおいて通常実行されるような、デジタルカメラのための典型的なカメラ制御システム200のフローチャートを示す。ステップ210で、カメラは、場面輝度センサにより、又はプレビュー画像の解析により、場面輝度を評価する。図2Aに示される典型的なカメラシステムにおいては、動きは測定又は考慮されない。ステップ220で、捕捉モードが、場面輝度及び何らかのオペレータ設定又は標準化された設定に基づき決定される。ステップ230で、ISOが、場面輝度及び捕捉モードに従って決定される。次いで、ステップ240で、露出時間が、場面輝度、捕捉モード及びISOに従って決定される。ステップ250で、最終的なアーカイバル画像が捕捉されて記憶される。しかし、典型的なカメラ制御システムの方法200は、場面における輝度及び動きの程度が極めて変わりやすいので、認知画像品質が悪い画像を捕捉し、そして、動きが考慮されないので、失望させるようなレベルのモーションブラー又はノイズが画像において存在しうる。
米国特許出願公開第2007/0237514号(特許文献3)において、場面における動きは、画像捕捉の前に測定される。ゆっくりとした動きが検出される場合には、更なる解析が、カメラの場面モードを選択するのを助けるために行われる。素早い動きが検出する場合には、標準されたカメラ設定の組が、図2Aにおいて提示されるオペレータ選択可能カメラ設定及び自動露出制御システムによって決定されるように、使用される。そのようなものとして、特許文献3の方法は、ゆっくりとした動きを伴う場面の捕捉のための改善された方法しか提供しない。
米国特許出願公開第2007/0237506号(特許文献4)においては、カメラの動きが検出されない場合に画像がより遅いシャッター速度で捕捉されるところのカメラが記載されている。カメラの動きが検出される場合には、画像はより速いシャッター速度で捕捉される。この方法は画像においてモーションブラーを低減するが、露出時間及びISOを含む捕捉条件を選択する際に、画像の認知される画像品質に対する画像におけるモーションブラー及びノイズの複合的な影響に対処しない。また、特許文献4の方法は、局所的な動きに基づく捕捉条件の選択を含まない。
図2Bは、複数の画像捕捉処理の制御の方法に関し国際公開第2007/017835号(特許文献5)において記載される先行技術のフローチャート290を示す。ステップ270で、第1の画像が、図2Aに提示されるようなカメラ自動出力制御システムによって定義される露出条件を用いて捕捉される。次いで、ステップ275で、第1の画像は、露出過度若しくは露出不足、モーションブラー、ダイナミックレンジ又は被写界深度等の画像品質の特性について、どの特性が満足されており且つどこに欠陥があるのかを決定するよう解析される。この解析に基づき、ステップ280は、画像品質の特性において欠陥が残っているかどうかを確認する。何らかの欠陥が画像品質の特性において残っている場合には、処理はステップ282へ進み、次の露出パラメータが少なくとも1つの更なる画像のために設定される。次いで、処理はステップ272に戻り、少なくとも1つの更なる画像が新しい露出パラメータを用いて捕捉される。次いで、更なる画像は、画像品質の特性についてステップ275で解析される。この処理は、画像品質の特性が捕捉されている複数の画像の間で満足されるまで繰り返す。次いで、最終的な画像が、望ましい画像品質の特性が満足されるように、ステップ285で、結合される複数の画像の部分から構成される。しかし、特許文献5の方法は、複数の画像の部分が改善された画像を生成するために結合されるところの複数の画像捕捉撮影の制御に向けられており、単一の捕捉画像における動きに関連した問題に対処しない。
米国特許第3971065号 米国特許出願公開第2006/0274156号 米国特許出願公開第2007/0237514号 米国特許出願公開第2007/0237506号 国際公開第2007/017835号
従って、大域的な動き又は局所的な動きが撮像される場面に存在する場合に単一の捕捉画像における認知画像品質を改善するよう捕捉条件を選択する自動方法が必要とされる。
ここで記載されるように本発明は、画像捕捉装置によりアーカイバル画像を捕捉し、信号比の形で場面における測定された場面輝度及び測定された動作速度に基づき画像捕捉装置のための設定を自動設定する方法を提供する。本発明は、多次元モジュールに基づき認知される画像品質が改善された画像を捕捉するよう、場面において輝度及び動きを測定し、捕捉モード及び捕捉条件を選択するデータ処理システムにより少なくとも部分的に実施される方法を提供する。
第1の実施形態において、本発明は、場面の少なくとも2つのプレビュー画像を捕捉するための選択可能な捕捉モード、ISO及び露出時間を有する画像捕捉装置を用いるステップと、前記場面において場面輝度及び動きに関して前記プレビュー画像を解析するステップと、前記場面において前記場面輝度に基づきピクセル信号レートを決定するステップと、前記場面において前記動きに基づきピクセル速度を決定するステップと、ピクセル速度に対するピクセル信号レートの比である信号比を決定するステップと、前記信号比に従って前記捕捉モードを選択するステップと、前記捕捉モード及び前記信号比に従って前記ISOを選択するステップと、前記ISO及び前記場面輝度に従って前記露出時間を選択するステップと、前記選択された捕捉モード、ISO及び露出時間によりアーカイバル画像を捕捉し、該アーカイバル画像をメモリに記憶させるステップとを有する。前記捕捉モードの選択は、画像センサについてビニング比(binning ratio)を選択すること、又は単一画像捕捉モード若しくは複数画像捕捉モードを選択することを含んでよい。
本発明の更なる実施形態において、居所的なピクセル速度は、局所的な動きが前記場面に存在する場合に、画像内の異なる範囲ごとに決定される。本発明の一実施形態において、前記信号比は、画像の異なる範囲ごとの局所的なピクセル速度の分布の解析に基づき決定される。本発明の他の実施形態において、前記信号比は、平均の局所的なピクセル速度に基づき決定される。本発明の更なる実施形態において、前記信号比は、ピーク又は最大の局所的なピクセル速度に基づき決定される。
本発明の更なる他の実施形態において、慣性計測装置が前記画像捕捉装置においても受けられ、該慣性計測装置は、前記ピクセル速度を決定するために使用される。この実施形態において、前記ピクセル信号レートを決定するために使用される前記場面輝度は、1又はそれ以上のプレビュー画像の解析から、又は輝度センサから集められるデータから、決定される。このように決定されたピクセル速度及びピクセル信号レートは、上述されたように使用される前記信号比を決定するために使用される。
本発明のなお更なる実施形態において、前記慣性計測装置は、存在する大域的な動きを決定するために使用され、一方、2又はそれ以上のプレビュー画像の解析は、存在する局所的な動きを決定するよう、前記慣性計測装置から決定される大域的な動きとともに使用される。
本発明に従う画像捕捉は、局所的な動きが場面において存在する、あるいは、画像捕捉装置が場面に対して動くことにより大域的な動きが存在する場合に、静止画像及びビデオ画像を捕捉する画像捕捉装置に特に適する。本発明は、画像捕捉装置による幅広い適用を有し、多種多様な画像捕捉装置が、認知される画像品質が改善された画像を捕捉するために、測定された輝度及び測定された動きに基づく捕捉モード、ISO及び露出時間の複合的な選択の方法により、それらの画像捕捉方法を有効に使用することができる。
本発明のこれらの及び他の態様、目的、特徴及び利点は、好ましい実施形態の以下の詳細な説明及び添付の特許請求の範囲の検討から、そして、添付の図面を参照して、より明りょうに理解されて明らかになるであろう。
画像捕捉装置のブロック図である。 典型的な先行技術のカメラ制御システムのフローチャートである。 複数の画像を捕捉するための先行技術の方法のフローチャートである。 本発明の実施形態のフローチャートである。 ブラーが少ない画像のためのISOと認知画像品質との間の関係を示すグラフである。 低ISO画像のための画像内のブラーの量と認知画像品質との間の関係を示すグラフである。 異なる画像モードごとの信号比と認知品質との間の関係を示すグラフである。 フル解像度捕捉モードについての認知画像品質に対するISO及びピクセルブラーの影響を示すグラフである。 認知画像品質の改善のためのフル解像度捕捉モードについての信号比とISOとの間の関係を示すグラフである。 2×ビニング捕捉モードについての認知画像品質に対するISO及びピクセルブラーの影響を示すグラフである。 認知画像品質の改善のための2×ビニング捕捉モードについての信号比とISOとの間の関係を示すグラフである。 複数画像捕捉モードについての認知画像品質に対するISO及びピクセルブラーの影響を示すグラフである。 認知画像品質の改善のための複数画像捕捉モードについての信号比とISOとの間の関係を示すグラフである。 ベイヤー・カラーフィルタアレイの図である。 異なるレベルの場面輝度及び異なるレベルの動きについて本発明の方法によって選択されるISOを示すグラフである。 異なるレベルの場面輝度及び異なるレベルの動きについて本発明の方法によって選択される露出時間を示すグラフである。
図1を参照すると、特定の実施形態において、デジタル画像捕捉装置10の構成要素が示されており、それらの構成要素は、構造上の支持及び保護を提供する本体において配置されている。本体は、特定の使用及びスタイルについて考慮すべき事項の要件を満たすよう変更され得る。電子画像捕捉ユニット14は、デジタル画像捕捉装置の本体において搭載されており、撮影レンズ16と、撮影レンズ16と整列された画像センサ18とを有する。場面からの光は、撮影レンズを通って光学経路20に沿って伝播し、画像センサ18にぶつかってアナログ電子画像を生成する。
画像センサの種類は様々であってよいが、画像センサは、利用可能な複数のソリッドスーテト画像センサの1つであることが大いに好ましい。例えば、画像センサは、電荷結合素子(CCD)、CMOSセンサ(CMOS)、又は電荷注入装置(charge injection device)(CID)であってよい。電子画像捕捉ユニット14は、画像センサ18に付随する他の構成要素を有する。典型的な画像センサ18は、クロックドライバ(ここでは、タイミング発生器とも呼ばれる。)、アナログ信号プロセッサ(analog signal processor)(ASP)及びアナログ−デジタルコンバータ/増幅器(A/Dコンバータ)として機能する別個の構成要素が付随する。かかる構成要素はまた、画像センサ18とともに単一ユニットに組み込まれ得る。例えば、CMOS画像センサは、他の構成要素が同じ半導体ダイ上に集積されることを可能にするプロセスにより製造される。
電子画像捕捉ユニット14は、3又はそれ以上の色チャネルにより画像を捕捉する。カラーフィルタアレイとともに使用される単一画像センサ18、また一方、複数の画像センサ及び異なるタイプのフィルタが使用され得ることが目下好ましい。適切なフィルタが当業者によく知られており、幾つかの場合において、不可欠の構成要素を提供するよう画像センサ18と結合される。
画像センサ18の各ピクセルからの電気信号は、ピクセルに到達する光の強さと、ピクセルが入来する光から信号を累算又は積分することができる時間の長さとに関連する。
積分時間は、開状態と閉状態との間で切替え可能であるシャッター22によって制御される。シャッター22は、機械的又は電気機械的であってよく、あるいは、電子画像捕捉ユニット14のハードウェア及びソフトウェアの論理機能として提供されてよい。例えば、幾つかのタイプの画像センサ18は、積分時間が、画像センサ18をリセットし、次いで少しして画像センサ18を読み出すことによって、電子的に制御されることを可能にする。CCDを用いた場合、画像センサ18の積分時間の電子制御は、非感光性の領域において設けられた光遮蔽レジスタの下で蓄積電荷を移動することによって、提供される。この光遮蔽レジスタは、フレーム転送装置CCDにおいて見られるように全てのピクセルのためであってよく、あるいは、インターライン転送装置CCDにおいて見られるようにピクセル行又は列の間で行又は列の形をとってよい。適切な装置及びプロシージャは当業者によく知られている。よって、タイミング発生器24は、画像センサ18におけるピクセルが画像を捕捉するよういつ積分時間が起こるのかを制御する手段を提供することができる。図1の画像捕捉装置10においては、シャッター22及びタイミング発生器24は合同で積分時間を決定する。
全体的な光の強さ及び積分時間の組み合わせは、露出と呼ばれる。画像センサ18の感度及びノイズ特性と組み合わされた露出は、捕捉画像において与えられる信号対ノイズ比を決定する。同等の露出は、光の強さ及び積分時間の様々な組み合わせによって達成され得る。たとえ露出が同等であっても、光の強さ及び積分時間の特定の露出組み合わせは、場面又は関連する信号対ノイズ比の特性に基づき場面の画像を捕捉するための他の同等の露出よりも好ましい。
図1は幾つかの露出制御要素を示すが、幾つかの実施形態はそれらの要素の1又はそれ以上を有することができず、あるいは、露出を制御するための代替のメカニズムが存在しうる。画像捕捉装置10は、表されているものに代わる特徴を有することができる。例えば、絞り(diaphragms)としても機能するシャッターが当業者によく知られている。
表されている画像捕捉装置10において、フィルタアセンブリ26及び開口28は、画像センサ18での光の強さを変更する。夫々は調整可能であってよい。開口28は、光学経路20において光を遮るよう機械的な絞り又は調整可能な開口(図示せず。)を用いて、画像センサ18に到達する光の強さを制御する。開口のサイズは、連続的に調整可能であっても、段階的であっても、又は別なふうに変更されてもよい。代替案として、開口28は、光学経路20から出し入れ可能であってよい。フィルタアセンブリ26は、同様に変更され得る。例えば、フィルタアセンブリ26は、回転され又は別なふうに光学経路20に入れられ得る異なる減光フィルタ(neutral density filters)の組を有することができる。他の適切なフィルタアセンブリ及び開口は当業者によく知られている。
画像捕捉装置10は、撮影レンズ16を有し、更に、オペレータが捕捉されるべき画像を構成するのを助けるビューファインダの部品(図示せず。)を有することができる光学システム44を備える。光学システム44は、多種多様な形態をとることができる。例えば、撮影レンズ16は、光学ビューファインダとは完全に別個であってよく、あるいは、プレビュー画像が画像捕捉の前後で連続的に示される内部ディスプレイ上に設けられた接眼レンズを有するデジタルビューファインダを有してよい。このとき、プレビュー画像は、通常は、連続的に捕捉される解像度がより低い画像である。ビューファインダレンズユニット及び撮影レンズ16は、1又はそれ以上の部品を共有することもできる。これらの及び他の代替の光学システムの詳細は、当業者によく知られている。便宜上、光学システム44は、デジタルカメラ等の画像捕捉装置による捕捉の前に画像を構成するために一般的に行われるように場面のプレビュー画像を見るために使用され得るデジタルビューファインダディスプレイ76又はカメラディスプレイ48を備えた実施形態に関連して、以下で一般的に論じられる。
撮影レンズ16は、単一焦点距離及び手動焦点合わせ又は固定焦点を有するような簡単なものであってよいが、これは好ましくない。図1に示される画像捕捉装置10において、撮影レンズ16は、レンズ素子がズーム制御部50によって他のレンズ素子に対して駆動される電動式ズームレンズである。これは、レンズの有効焦点距離が変更されることを可能にする。デジタルズーム(デジタルカメラのデジタル拡大)も、光学ズームに代えて、又はそれと組み合わせて、使用され得る。撮影レンズ16は、マクロ(接写)機能を提供するためにマクロ制御ドライバ52によって光学経路に挿入され又は光学経路から取り除かれ得るレンズ素子又はレンズ群(図示せず。)を更に有することができる。
カメラ10の撮影レンズ16は、望ましくは、また、オートフォーカス方式である。例えば、オートフォーカスシステムは、受動的若しくは能動的なオートフォーカス又はそれらの組み合わせにより焦点合わせを提供することができる。図1を参照すると、撮影レンズ16の1又はそれ以上のフォーカス素子(別個に図示せず。)は、場面における特定の距離からの光の焦点を画像センサ20上に合わせるよう、フォーカス制御部54によって駆動される。オートフォーカスシステムは、異なったレンズフォーカス設定によるプレビュー画像により動作することができ、あるいは、オートフォーカスシステムは、画像捕捉装置10から場面までの距離に関連するシステムコントローラ66への信号を送信する1又はそれ以上の検知素子を有する距離計56を有することができる。システムコントローラ66は、プレビュー画像又は距離計56からの信号の焦点分析を行って、フォーカスドライバ54を、撮影レンズ16の焦点合わせ可能なレンズ素子(別個に図示せず。)を動かすよう動作させる。オートフォーカス方式は、当該技術においてよく知られている。
画像捕捉装置10は、場面の輝度の測定器具を有する。輝度測定は、プレビュー画像においてピクセルコード値を分析することによって、又は輝度センサ58の使用により、行われ得る。図1において、輝度センサ58は、1又はそれ以上の別個の部品として示される。輝度センサ58はまた、電子画像捕捉ユニット14のハードウェア及びソフトウェアの論理機能としても設けられ得る。輝度センサ58は、1又はそれ以上の画像センサ18のための露出の選択において使用される場面の場面光度を表す1又はそれ以上の信号を提供するために使用され得る。オプションとして、輝度センサ58からの信号はまた、カラーバランス情報を提供することもできる。場面照度及び色値の一方又は両方を提供するために使用され得且つ電子画像捕捉ユニット14とは別個である適切な輝度センサ58の例は、米国特許第4887121号に開示されている。
露出は、自動露出制御によって決定され得る。自動露出制御は、システムコントローラ66内で実施されてよく、当該技術で知られているものから選択され得る。それらの例は、1994年8月2日に発行された米国特許第5335041号に開示されている。輝度センサ58によって提供される、又はプレビュー画像におけるピクセル値からの測定によって提供される、撮像される場面の輝度測定に基づき、電子画像形成システムは、通常、自動露出制御処理を用いて、有効輝度及び適切な信号対ノイズ比を有する画像をもたらす有効露出時間tを決定する。本発明において、自動露出制御によって決定される露出時間tは、プレビュー画像の捕捉のために使用され、次いで、場面輝度及び予想モーションブラーに基づきアーカイブ画像の捕捉ために変更される。このとき、アーカイブ画像は、捕捉条件(露出時間を含む。)が本発明の方法に基づき定義された後に捕捉される最終の画像である。当業者には明らかなように、露出時間が短ければ短いほど、アーカイブ画像においてモーションブラーは低減されるがノイズが増大する。
図1の画像捕捉装置10はフラッシュユニット60を有する。フラッシュユニット60は、キセノンフラッシュ管61のような電子制御される照明器を有する。フラッシュセンサ62が任意に設けられてよい。フラッシュセンサ62は、アーカイブ画像の捕捉の間に場面から検知される光に応答して、又はアーカイブ画像の捕捉の前に予備フラッシュにより、信号を出力する。フラッシュセンサ信号は、専用のフラッシュコントローラ63によって、又は制御ユニット65の機能として、フラッシュユニットの出力を制御する際に、使用される。代替的に、フラッシュ出力は、焦点距離等の他の情報に基づき固定され又は変更され得る。フラッシュセンサ62及び輝度センサ58の機能は、捕捉ユニット及び制御ユニットの単一の構成要素又は論理機能においてまとめられてよい。
画像センサ18は、レンズ16によって与えられる場面の画像を受け取り、その画像をアナログ電子画像へ変換する。電子画像センサ18は、画像センサドライバによって動作する。画像センサ18は、様々なビニング配置を含む種々の捕捉モードにおいて動作することができる。ビニング配置は、ピクセルが、光電気的に発生した電荷を個々に収集して、捕捉の間フル解像度で動作する、又は隣接するピクセルと電気的に接続されて、捕捉の間より低い解像度で動作する、ために使用されるかどうかを決定する。ビニング比は、捕捉の間電気的に接続されるピクセルの数を決定する。より高いビニング比は、より多くのピクセルが捕捉の間電気的に接続されて、相応にそれらのひとまとめのピクセルの感度を高め且つ画像センサの解像度を下げることを示す。典型的なビニング比は、例えば、2×、3×、6×及び9×である。ビニングパターンにおいてひとまとめにされる隣接するピクセルの分布は同様に様々であってよい。図12は、R、G及びBの文字が夫々赤、緑及び青のピクセルを示す従来のベイヤーカラーフィルタ配列パターンを示す。通常、同じ色の隣接ピクセルは、画像センサによって提供されるように色情報を一貫したままとするようひとまとめにされる。本発明は、他の色カラーフィルタ配列パターン及び他のビニングパターンを有する他のタイプの画像センサを備える画像捕捉装置に同様に適用され得る。
制御ユニット65は、露出調整要素又は他のカメラ部品を制御又は調整し、画像及び他の信号の伝送を助け、画像に関する処理を実行する。図1に示される制御ユニット65は、システムコントローラ66、タイミング発生器24、アナログ信号プロセッサ68、A/Dコンバータ80、デジタル信号プロセッサ70、及びメモリ72a〜72dを有する。制御ユニット65のための適切な構成要素は当業者に知られている。かかる構成要素は、挙げられているように、又は単一の物理的な装置によって、又はより多くの別個の部品によって、設けられ得る。システムコントローラ66は、例えば、データの操作及び汎用プログラムの実行のためのRAMを備えた埋め込み型マイクロプロセッサのような、適切に構成されたマイクロプロセッサの形をとることができる。制御ユニット65の変形は、本願において他の箇所で記載されているものように、実際的である。
タイミング発生器24は、タイミング関係において全ての電子部品に制御信号を供給する。個々の画像捕捉装置10のための較正値は、EEPEOM等の較正メモリ(別個に図示せず。)に記憶されており、システムコントローラ66へ供給される。ユーザインターフェース(後述する。)の構成要素は制御ユニット65へ接続され、システムコントローラ66で実行されるソフトウェアプログラムの組み合わせを用いることによって機能する。制御ユニット65はまた、ズーム制御部50、フォーカス制御部54、マクロ制御部52、ディスプレイコントローラ64、及びシャッター22のための制御部(図示せず。)、開口28、フィルタアセンブリ26、並びにビューファインダ及び状態ディスプレイ76、74を含む様々な制御部並びに関連するドライバ及びメモリを夫々動作させる。
画像捕捉装置10は、捕捉画像情報又は予備捕捉情報を補足する情報を提供するよう他の構成要素を有することができる。そのような補足的情報部の例は、図1に表される方位センサ78である。他の例には、実時間クロック、慣性計測センサ、グローバルポジショニングシステム(GPS)受信器、及びキーパッド又はユーザキャプション若しくは他の情報の入力のための他の入力装置がある。
図示及び記載されている回路は、当業者によく知られている様々な方法において変形され得ることは明らかである。また、物理的な回路に関してここで記載される様々な特徴は、代替的に、ファームウェア若しくはソフトウェア機能又はそれらの組み合わせとして提供され得ることは明らかである。同様に、ここで別個のユニットとして表されている構成要素は、都合よく組み合わされ又は共有され得る。複数の構成要素は、分散配置において設けられ得る。
画像センサ18からの初期電子画像は、アナログ信号プロセッサ68及びアナログ−デジタル(A/D)コンバータ−増幅器80によって増幅されてアナログからデジタルに変換され、次いで、デジタル電子画像は、DSPメモリ72aを用いてデジタル信号プロセッサ70において処理され、システムメモリ72b又はリムーバブルメモリカード72cに記憶される。データバス81として表される信号線は、画像センサ18、システムコントローラ66、デジタル信号プロセッサ70、画像ディスプレイ48、及び他の電子部品を電気的に接続し、アドレス及びデータ信号のための経路を提供する。
「メモリ」は、半導体メモリ又は磁気メモリ等において提供される物理的なメモリの、1又はそれ以上の適切にサイジングされた論理ユニットをいう。メモリ72a〜72dは、夫々、あらゆるタイプのランダムアクセスメモリであってよい。例えば、メモリは、フラッシュEPEOMメモリのような内部メモリ、若しくは代替的にコンパクトフラッシュカードのようなリムーバブルメモリ、又はそれらの組み合わせであってよい。リムーバブルメモリカード72cは、アーカイブ画像の記憶のために設けられ得る。リムーバブルメモリカード72cは、ソケット82に挿入されて、メモリカードインターフェース83を介してシステムコントローラ66へ接続されるコンパクトフラッシュ(CF)又はセキュアデジタル(SD)型カード等、如何なるタイプであってもよい。利用される他のタイプの記憶装置は、制限なしにPCカード又はマルチメディアカード(MMC)を含む。
制御ユニット65、システムコントローラ66及びデジタル信号プロセッサ70は、画像記憶のために使用される同じ物理メモリにおいて記憶されるソフトウェアによって制御され得るが、制御ユニット65、デジタル信号プロセッサ70及びコントローラ66は、専用のプログラムメモリ72dにおいて(例えば、ROM又はEPROMファームウェアメモリにおいて)記憶されるファームウェアによって制御されることが好ましい。別個の専用のメモリユニットがまた、他の機能をサポートするために設けられてよい。捕捉画像が記憶されるメモリは、画像捕捉装置10において固定され、若しくは着脱可能であり、又はそれらの組み合わせであってよい。使用されるメモリの種類及び情報記憶の方法(例えば、光学式又は磁気式又は電子式)は重要ではない。例えば、リムーバブルメモリはフロッピーディスク(登録商標)、CD、DVD、カセットテープ、又はフラッシュメモリカード若しくはスティックであってよい。リムーバブルメモリは、デジタルの形でカメラとの間で画像記録をやり取りするために利用され得、あるいは、かかる画像記録は、電子信号として送信され得る。
デジタル信号プロセッサ70は、システムコントローラ66に加えて、本実施形態における2つのプロセッサ又はコントローラのうちの1つである。複数のコントローラ及びプロセッサの間でのカメラ機能制御のこのような分割は一般的であるが、それらのコントローラ又はプロセッサは、カメラの機能動作及び本発明の適用に影響を及ぼすことなしに様々に組み合わされる。それらのコントローラ又はプロセッサは、1又はそれ以上のデジタル信号プロセッサ装置、マイクロコントローラ、プログラム可能ロジック装置、又は他のデジタルロジック回路を有することができる。そのようなコントローラ又はプロセッサの組み合わせが記載されているが、当然、1つのコントローラ又はプロセッサが必要な機能の全てを実行することができる。かかる変形の全ては同じ機能を実行することができる。
表されている実施形態において、制御ユニット65及びデジタル信号プロセッサ70は、プログラムメモリ72dにおいて恒久的に記憶され且つシステムメモリ72bにコピーされるソフトウェアプログラムに従って、メモリ72aにおけるデジタル画像データを処理する。制御ユニット65及びデジタル信号プロセッサ70は、画像処理を行うために必要なソフトウェアを実行する。また、デジタル画像は、画像の質を高めるよう、他のデジタルカメラにおいて見られるように修正され得る。例えば、画像は、補間及び輪郭強調を提供するようデジタル信号プロセッサ70によって処理され得る。電子アーカイブ画像のデジタル処理は、JPEG圧縮及びファイルフォーマッティングのようなファイル転送に関連する修正を含むことができる。また、メタデータが、当業者によく知られている方法においてデジタル画像データとともに提供され得る。
システムコントローラ66は、プログラムメモリ72dにおいて記憶されているソフトウェアプログラムに基づき画像捕捉装置の全体の動作を制御する。プログラムメモリ72dは、フラッシュEEPROM又は他の不揮発性メモリを有することができる。また、このメモリは、較正データ、ユーザ設定選択、及び画像捕捉装置がオフされる場合に保存されるべき他のデータを記憶するために使用され得る。システムコントローラ66は、先に記載されたようにマクロ制御部52、フラッシュ制御部63、フォーカス制御部54、ズーム制御部50、及び捕捉ユニットの他のドライバを導き、タイミング発生器24に画像センサ18及び関連する素子を動作させるよう指示し、制御ユニット65及びデジタル信号プロセッサ70に捕捉画像データを処理するよう指示することによって、画像捕捉のシーケンスを制御する。画像が捕捉されて処理された後、システムメモリ72b又はDSPメモリ72aに記憶されている最終の画像ファイルは、ホストインターフェース84を介してホストコンピュータへ転送され、リムーバブルメモリカード72c又は他の記憶装置で記憶され、画像ディスプレイ48でユーザに表示される。ホストインターフェース84は、表示、記憶、操作又は印刷のための画像データの転送のためにパーソナルコンピュータ又は他のホストコンピュータへの高速接続を提供する。このインターフェースは、IEEE1394若しくはUSB2.0シリアルインターフェース又は他の何らかの適切なデジタルインターフェースであってよい。当該方法においてはデジタルの形での画像の転送は、物理的な媒体上に、又は伝送される電子信号としてであってよい。
表されている画像捕捉装置10において、処理される画像は、システムメモリ72bにおけるディスプレイバッファにコピーされ、ビデオエンコーダ86を介して連続的に読み出されて、プレビュー画像のためのビデオ信号を生成する。この信号は、ディスプレイコントローラ64又はデジタル信号プロセッサ70によって処理され、カメラに内蔵された画像ディスプレイ48でプレビュー画像として提示され、あるいは、外部モニタでの表示のために画像捕捉装置10から直接出力され得る。ビデオ画像は、画像捕捉装置10がビデオ捕捉のために使用される場合はアーカイバルであり、静止アーカイブ画像捕捉より前のビューファインディング又は画像合成のためのプレビュー画像として使用される場合は非アーカイバルである。
画像捕捉装置10は、オペレータへ出力を与え且つオペレータ入力を受け取るユー太インターフェースを有する。ユーザインターフェースは、1又はそれ以上のユーザ入力制御部93及び画像ディスプレイ48を含む。ユーザ入力制御部93は、ボタン、ロッカースイッチ、ジョイスティック、回転ダイアル、タッチスクリーン等の組み合わせの形で設けられ得る。ユーザ入力制御部93は、シャッター開放、レンズユニットのズームを制御する“ズームイン/アウト”、及び他のユーザ制御を有することができる。
ユーザインターフェースは、露出レベル、撮影可能枚数、バッテリ状態、フラッシュ状態等の、オペレータへのカメラ情報を提供するよう、1又はそれ以上のディスプレイ又はインジケータを有することができる。また、画像ディスプレイ48は、代わりに又は付加的に、カメラ設定等の非画像情報を表示するために使用され得る。例えば、グラフィカルユーザインターフェース(GUI)が設けられてよく、オプション選択肢、及び捕捉画像を確認するためのレビューモードを提示するメニューを含む。画像ディスプレイ48及びデジタルビューファインダディスプレイ76は両方とも同じ機能を提供することができ、一方又は他方は削除されてよい。画像捕捉装置10は、ビデオ捕捉に関連する音声情報を提供するスピーカを有してよく、かかるスピーカは、状態ディスプレイ74、画像ディスプレイ48、又はその両方で示される視覚的な警告の代わりに、又はそれに加えて、音声警告を提供することができる。ユーザインターフェースの構成要素は、制御ユニット65へ接続され、システムコントローラ66で実行されるソフトウェアプログラムの組み合わせを用いることによって機能する。
電子画像は、最終的に、画像ディスプレイ48へ送られる。画像ディスプレイ48は、ディスプレイコントローラ64によって動作する。異なるタイプの画像ディスプレイ48が使用されてよい。例えば、画像ディスプレイ48は液晶ディスプレイ(LCD)、陰極線管ディスプレイ、又は有機エレクトロルミネセンスディスプレイ(OLED)であってよい。画像ディスプレイ48は、望ましくは、容易に撮影者が見ることができるように、カメラ本体に実装される。
画像ディスプレイ48で画像を示す部分として、画像捕捉装置10は、特定のディスプレイに対する較正のために画像を修正することができる。例えば、ディスプレイ48及び画像センサ18並びに電子捕捉ユニット14の他の構成要素のグレースケール、色域、及び白色点に関して異なる機能を適応させるよう夫々の画像を修正する変形が提供され得る。ディスプレイ48は画像全体が示されることを可能にするように選択されることが好ましい。しかし、より制限されたディスプレイが使用されてもよい。後者の場合に、画像の表示は、画像の一部、若しくはコントラストレベル、又は画像における情報の他の何らかの部分を省く較正ステップを含む。
また、ここで記載される画像捕捉装置10は、特許請求の範囲による定義を除いて、特定の特徴の組に制限されないことは明らかである。例えば、画像捕捉装置10は、着脱可能且つ交換可能なレンズ等、ここで詳細に論じられない多種多様な特徴のいずれかを有することができるデジタルカメラであってよい。また、画像捕捉装置10は、持ち運び可能であっても、又は位置を固定されていてもよく、画像形成と関係がある又は無関係である1又はそれ以上の他の機能を提供することができる。例えば、画像捕捉装置10は、携帯電話のカメラであってよく、あるいは、他の何らかの方法において通信機能を提供することができる。同様に、画像捕捉装置10は、コンピュータハードウェア及びコンピュータ制御設備を有することができる。また、画像捕捉装置10は複数の捕捉ユニットを有することもできる。
図3は、図1の制御ユニット65又はデジタルカメラによって提供される本発明の方法の第1実施形態300のフローチャートを示す。ステップ310で、2又はそれ以上のプレビュー画像、GPS位置情報、光源レベル情報、音声情報及びフォーカス情報を含む予備捕捉データが収集される。次いで、予備捕捉データは、ステップ320で場面輝度L及び動きを決定するために解析される。ここで、場面輝度Lは、輝度センサ58(図1参照)から、又はプレビュー画像を捕捉するために使用される露出時間と比較されるプレビュー画像におけるピクセルコード値から、決定され得る。動きは、プレビュー画像において捕捉される場面内の対応する対象の位置の差を特定するよう2又はそれ以上の異なるプレビュー画像を比較することによって、ピクセルシフトに関して決定され得る。ビデオ画像を比較することによって動きを決定する方法は、特許文献2(米国特許公開第2006/0274156号)において記載されている。大域的な動き及び局所的な動きは、このようにしてプレビュー画像から特定され得る。大域的な動き(global motion)は、主として場面に対する画像捕捉装置の動きによって生じる画像にわたる共通の動きをいい、局所的な動き(local motion)は、場面内の対象の動きをいう。ステップ330で、プレビュー画像管のピクセルシフトに関して決定された動きが、動きの速度、すなわちピクセル速度λ(単位:ピクセル毎秒(pixels/sec))を決定するよう、プレビュー画像の捕捉間の時間と比較される。
ステップ340で、プレビュー画像又は予備捕捉光源レベル情報から決定された輝度Lが、プレビュー画像及び信号ゲイン、f/数(number)、並びにセンサ量子効率及びレンズ透過率等の他のデータとともに使用され、画素ごとの全体的なピクセル信号レートS(単位:電子毎秒(electrons/sec))を決定する。カメラ露出決定の技術に精通している者には明らかなように、ピクセル信号レートSは、ピクセル面積、センサ量子効率、レンズf/数及びレンズ透過率、並びに場面輝度等の因子によって影響される。ステップ345で、ピクセル速度に対するピクセル信号レートの比(ピクセル信号レート/ピクセル速度)である信号比(S/λ)が、制御ユニット65又はデジタル信号プロセッサ70によって計算される。信号比は、本発明の実施形態において捕捉モード及び捕捉条件を選択するために信号プロセッサ70によって使用されるパラメータである。
図3において、ステップ330は、ステップ340の前に起こるよう示されている。しかし、それら2つのステップの順序は、それら2つのステップが両方ともステップ310及び320で収集されたデータに基づき値を計算することを伴うので、本発明にとっては重要でないことは明らかである。結果として、ステップ340はステップ330の前に起こってよく、あるいは、それら2つのステップは、デジタル信号プロセッサ70の能力内で同時に行われてよい。
大域的な動き及び局所的な動きの両方が存在する場面において、決定されるピクセル速度は、画像の異なる領域ごとに異なる。この場合に関連する本発明の実施形態において、局所的なピクセル速度は、2又はそれ以上の異なるプレビュー画像間で対応する領域を比較することによって、画像の異なる領域ごとにステップ330で決定され得る。プレビュー画像の比較は、(特許文献2に記載されるように)ブロックごとに行われ得る。例えば、プレビュー画像は、プレビュー画像にわたって局所的なピクセル速度の疎サンプリングを得るよう32×32のピクセルブロックに分割され得る。
本発明の更なる実施形態において、1若しくはそれ以上のジャイロ又は1又はそれ以上の加速度計等の慣性計測装置を有する画像捕捉装置に関し、画像捕捉装置の動きに関するデータは、ステップ310で慣性計測装置から得られる。次いで、慣性計測装置からのデータは、動きに関しプレビュー画像を解析することに代えて、ステップ320で画像捕捉装置の動きに関連する大域的な動きを決定するために使用される。この場合において、1又はそれ以上のプレビュー画像は、場面輝度を決定するために解析される。代替的に、場面輝度は輝度センサにより決定される。その場合において、プレビュー画像は、ステップ310で予備捕捉データとともに捕捉される必要はない。慣性計測装置によって測定されるデータは、ステップ330で、ジャイロ又は加速度計によって夫々計測される回転速度又は直線加速度から、レンズによって提供される画角(angular field of view)に基づき、画像全体にわたるピクセル速度分布へ変換される。更に、慣性計測装置は、一般的に、100Hz超で動きデータを出力するので、慣性計測装置からのデータは、プレビュー画像のための露出時間等の時間期間にわたって複数回サンプリングされ得る。
本発明の更なる実施形態において、2又はそれ以上のプレビュー画像の解析は、存在する大域的な動き及び局所的な動きを区別するよう、慣性計測装置からのデータとともに使用される。この場合において、ステップ310で慣性計測装置から収集されたデータは、ステップ320で、画像捕捉装置の動きにより存在する大域的な動きを決定するために使用される。次いで、2又はそれ以上のプレビュー画像は、存在する大域的及び局所的な動きを決定するために、ステップ320で、先に記載されたように比較される。ステップ330で、プレビュー画像の比較から決定された大域的及び局所的な動きは、局所的なピクセル速度に変換される。慣性計測装置から決定された大域的な動きもステップ330で局所的なピクセル速度分布に変換され、次いで、これは、2又はそれ以上のプレビュー画像の比較から決定された局所的なピクセル速度から減じられる。それにより、異なる領域ごとの残りの局所的なピクセル速度の値は、動いている場面による大域的な動き(画像捕捉装置の動きによって生成されない)と、局所的な動きとに起因する。このようにして、大域的な動き及び局所的な動きの両方がステップ330で決定される。先に述べられたように、本発明の目的のために、慣性計測データは、少なくとも部分的にプレビュー画像の露出時間と重なり合う時間期間の間に収集され、従って、アーカイブ画像のための捕捉モード及び捕捉条件を選択するために使用される動きデータは一貫している。この方法は、画像捕捉装置の動きに起因する大域的な動きと、動いている場面(例えば、列車のような大きな対象)による大域的な動きとを区別するのに有効である。
本発明の実施形態のいずれかにおいて、決定された動きのデータ解析が行われる場合に、それは、平均、中項、最大又は最小を含む、本発明の方法において使用される大域的な動き又は局所的な動きの代表的な測度を選択するよう、あらゆるタイプの統計分析を有することができる。
本発明のなお更なる実施形態において、局所的な動きが場面において存在し、決定される局所的なピクセル速度が画像の異なる領域ごとに異なる場合に、図3の方法は、ステップ330における局所的なピクセル速度の分布の解析を用いて、信号比を決定する際にステップ345で使用されるピクセル速度λを選択するよう行われ得る。この解析は、図1の制御ユニット65又はデジタル信号プロセッサ70によって提供される。本発明の第1実施形態において、局所的なピクセル速度の平均は、ステップ345においてλとして使用される。このアプローチは、ノイズの緩やかな増大をもたらす一方、モーションブラーの緩やかな全体的な低減をもたらす。このアプローチは、幾らかの局所的なモーションブラーを伴う全体的に改善された認知画像品質を有する画像を生成することが望まれる使用に適する。
本発明の代替の実施形態において、画像の全ての領域についての最大又はピークピクセル速度が、ステップ345においてλとして使用される。このアプローチは、より大規模にノイズを増大させる一方、画像の全ての領域においてモーションブラーのより過大な低減をもたらす。このアプローチは、スポーツ画像におけるプレイヤー等の最も速い動きを伴う画像の領域においてモーションブラーが低減された画像を生成することが望まれる使用に適する。
信号プロセッサ70が画像捕捉装置のための捕捉条件(例えば、ISO及び露出時間)を選択する場合に、動きが存在する場合に考慮されるべき画像品質におけるトレードオフが存在する。ISOは、画像が当業者によく知られているように捕捉される場合に、所与の量の光に応答して画像センサによって生成される信号(ピクセル値に換算)並びにピクセル値に適用される関連するアナログ又はデジタルゲインをいう。通常、ISOの選択はまた、より高いISOがより高いレベルのノイズ抑制画像処理によって達成される様々なノイズ抑制画像処理の選択及びゲインを含む画像処理パラメータの更なる選択によっても補足される。長い露出時間が信号対ノイズ比を増大させるので、結果として得られる画像はノイズが低く明るく見えるが、存在するモーションブラーはその場合に画像において更なるぶれをもたらす。この場合において、存在する何らかの局所的な動きは、高速移動する車両が場面に入る場合等、局所的にぶれた領域を生じさせ、加えて、大域的な動きは、画像捕捉装置が画像捕捉中にぶつけられる場合等、画像全体がぶれることを生じさせる。露出時間の短縮はモーションブラーを低減するが、信号対ノイズ比も低減され、それにより、結果として得られる画像は暗く又はノイズがあるように見える。場面における照明条件が暗くなるにつれて、より長い露出時間が、適切に明るく且つノイズがない許容可能な信号対ノイズ比を有して画像を生成するために必要とされる。画像捕捉のためのゲインを増大させることは画像の輝度を増大させるが、ノイズもよりはっきり見えるようになるので、画像はノイズがあるように見える。重要な留意点は、画像におけるモーションブラーとノイズとのトレードオフは知覚の問題である点である。ここで開示されている発明は、信号比によって表される捕捉画像におけるモーションブラー及びノイズの両方によって影響を与えられる画像品質の認知を考慮した補足モード、ISO及び露出時間の可変調整を有するカメラ制御のための方法を提供する。
図4〜11は、20のオブザーバのグループによって観測されて、丁度可知差異(Just Noticeable Difference)(JDN)ユニットに関して、認知される画像品質について評価される、特定のデジタルカメラにより補足される大量の画像のための画像品質の検討によるデータを提示する。JNDは、一般的に、認知される画像品質の変化を記述するためにデジタル画像において使用される。JNDの記載は、次の文献:“ISO 20462, A psychophysical image quality measurement standard”、Image Quality and System Performance、Yoichi Miyake及びD. Rene Rasmussen編、Proceedings of SPIE-IS&T Electronic Imaging、Vol.5294(2004)、pp.181-189において見つけられ得る。JNDユニットは、統計的に識別できる差違レベルであり、単一のJNDは、一貫してオブザーバによって検出可能である最小の品質差である。図4〜11において提示される多次元モデルにおいて、品質は、ゼロのJNDレベルを有する素晴らしい画像品質であると認知される画像と比較されるように、JNDユニットにおいて表される。図4〜11のデータにおいて示される品質値は、本質的に、高品質リファレンスレベルからの画像品質低下のJNDユニットである。JNDは、ブラー及びノイズを含む様々な画像品質特性において定義され得る。
図4A及び4Bは、異なるISO設定によって生成されるノイズ及びブラーの制御された量と、制御された大域的な動きとにより補足された同じ場面の大量の画像について単一オブザーバによって評価される認知画像品質の寄せ集めを示す。図4Aは、デジタルカメラにおいて異なるISO設定により同じ場面を捕捉することによって生じるノイズの量が変化する一連の低ブラー画像についてのデータを示す。このデータから分かるように、認知画像品質は、ISOが大きくなるにつれて漸進的に悪化している。図4Bは、露出時間の間にカメラの制御された動きによって生じる様々な量のブラーと低ISO設定とにより補足される一連の画像についてのデータを示す。大変興味深いことに、データは、ブラーが、一定レベルを上回るまでは、認知画像品質に何ら影響を有さないことを示す。
図5は、幾つかの異なる補足モード、すなわち、ビニングなし(フル解像度)、2×ビニング(半分の解像度)、及び複数画像捕捉について、JNDに関して、信号比(S/λ)と認知画像品質との間の関係を示す。複数画像捕捉モードでは、CMOS画像センサを用いた複数捕捉のための同時係属の米国特許出願第12/258389号と、CCD画像センサによる複数捕捉のための米国特許出願第12/184446号とにおいて記載されるように、複数の画像がより短い露出時間により捕捉され、次いで、捕捉間の動きを補償するよう整列され、信号対ノイズ比を増大させるよう結合される。多数の異なる捕捉モードが可能であることが重要であり、本発明は、異なる時間分解能又は異なる空間分解能を提供する様々なモードを含む。異なる時間分解能は、異なる露出時間によって提供される異なる時間インクリメントにわたって捕捉することによって、又は所望の露出時間を複数捕捉モードにおいて見られるような複数のより短い露出時間に分割することによって、与えられる。異なる空間分解能は、異なるビニング比により捕捉することによって与えられる。
図5のグラフは、異なる捕捉モードが、図4〜11において提示されるデータについて使用された特定のデジタルカメラのための他のモードに比べて、信号比(S/λ)の関数として、より高い認知画像品質を有する画像を提供する写真空間の領域を示す。図5に示される認知画像品質と捕捉モードとの間の関係は一般的に適用可能であるが、その関係は、異なるタイプのデジタルカメラ又は他の画像捕捉装置の間で様々であってよい。高い認知画像品質を提供するよう、本発明は、カメラ又は画像捕捉装置が1つモードから他のモードに変更されるシフト点510を提供する。このシフト点は、測定された信号比に基づいて決定される。図5におけるデータは、JND対Log(S/λ)に関して提示される認知される画像品質レベルとして与えられる。図5によって示されるように、Sの値が低いか、又はλが高い(S/λが低い)場合に、複数捕捉モードはより高い認知画像品質を提供する。S/λの中間値において、ビニング捕捉モードは、より高い認知画像品質を提供する。Sの値が高いか、又はλが低い(S/λが高い)場合に、比ビニング(フル解像度)捕捉モード又は複数捕捉モードはより高い認知画像品質を提供する。
図6は、図4A及び4Bにおいて提示される結合データに基づき、認知される全体の画像品質のISO、ピクセルブラー及びJNDの間の関係を示す。図6のデータは、Log(ピクセルブラー)+5対Log2(ISO)として与えられ、ISOを示す縦の破線610も示されている。ピクセルブラーは、ピクセル速度λと露出時間(t又はtem)との積によって記述される捕捉画像におけるブラーの量である。一定の認知画像品質の等高線620は、JNDに関してラベルを付されて示されている。図6において明らかなように、一定のJNDの等高線620は、ピクセルブラーが低い場合には垂直であり、ピクセルブラーが高い場合には水平である傾向を有する。これは、低レベルのピクセルブラーでは、ピクセルブラーは全く注目に値せず、一方、ISOの増大に関連するノイズは極めて顕著であり、それにより、一定の認知画像品質の線は垂直であることを示す。写真空間のこの低ブラー領域においては、幾らかのブラーを許しながらノイズを低減するために、より低いISO設定を有してより長い露出時間を用いることが重要である(ISOは、この場合に117.2である画像センサの基本ISOを下回ることができない点に留意されたい。)。対照的に、一定のJND線が水平である高レベルのピクセルブラーでは、ピクセルブラーはノイズと比較して極めて顕著である。写真空間のこの高ブラー領域においては、いくらかのノイズを許しながらブラーを低減するために、より高いISO設定を有してより短い露出時間を用いることを重要である。ISO値及び露出時間値の選択は、示される写真空間全体にわたって改善された認知画像品質を提供するよう、図6の傾斜曲線630によって決定される。
参考のために、図6は、一定の信号比の斜線640を更に含む。一定の信号比の線は、所与の信号比について異なるISO値で画像を捕捉することによって得られる品質トレードオフ状況を表す。一定の信号比の線640は、プロットの左及び上に信号比の各自の値を付されている。この図の1つの重要な意味合いは、全体の画像品質は場面輝度のみに依存せず、ピクセル速度のみにも依存しないことである。すなわち、それは、それらの値の両方に依存する。
図6の曲線630は、所与の信号比についてのISOとピクセルブラーとの好ましい組み合わせを示す。捕捉装置内の実時間決定のために、一定品質の等高線によって示される最大品質面は不必要である。図における最も重要な関係は曲線630である。図6を検討すると、特定の信号比に関し、改善された画像品質は、曲線630近くのISOにより画像を捕捉することによって得られることが分かる。信号比とISOとの組み合わせはピクセルブラーを決定するので、データはISO及び信号比に関して同様に与えられ得る。図7は、図6を簡単にしたものであり、曲線630についての信号比及びISOに関してのみ図6において提示されるデータを示す。
図7は、フル解像度捕捉モードにおいて当該検討で用いられたデジタルカメラにより改善された認知画像品質を得るよう信号比(S/λ)とISOとの間の関係を示し、データはLog(ISO)対Log(S/λ)として与えられる。横線710は、図7においても異なるレベルのISOごとに示されている。斜線730によって示されるように、Sが増大する(場面が動作速度に対して明るくなる)につれて、ISOは、認知画像品質の改善のために、より低くなければならない。より明るい場面についてより低いISOを用いるこの関係は、一般に、デジタルカメラのオペレーティングシステムにおいて使用される。なお、図7のX軸はS/λに基づくので、斜線はまた、λが増大し(更なる動き)、S/λが小さくなるにつれて、ISOはより高くなければならないことも示す。斜線730は、当該検討において動作するデジタルカメラについて、以下の式1の形で表され得る:

Log2(ISO)=-0.000445(S/λ)3+0.00526(S/λ)2-0.6855(S/λ)+14.872 式1

当業者には明らかなように、ISOは、画像センサの基本ISO(又は飽和限界ISO)(ISO)までしか下げられ得ない。ISOは、図7に示されるデータの場合について117.2である。結果として、図7に示される斜辺730は、ISO=117.2で突然に横線に変化する。
図8は、当該検討で使用されるがこの場合においては2×ビニング比を有してビニング捕捉モードにおいて動作する同じデジタルカメラについて、ISOとピクセルブラーとの関数として認知画像品質を示す図6と同様のグラフである。図8に示される関係は、幾つかのわずかな相違点はあるが、図6に示される関係と同様である。図8において、ISOを表す線810及び信号比を表す線840は、図6の対応する線と同じ相対位置にある。ビニングによって生じるセンサのより高い基本ISOの効果は、一定の認知画像品質の線820がX軸上でISO200をわずかに上回るところまでしか下がらないことによって、図8においてすぐに分かる。概して、認知画像品質の線820は、図6における認知画像品質の線620と比較して、図8において右にシフトされている。結果として、所与の信号比830についてのISOとピクセルブラーとの好ましい組み合わせを示す曲線830は、図6の対応する曲線630に対してわずかに下方へシフトされる。
図9は、先に記載されたのと同じであるが2×ビニング捕捉モードにおいて動作するデジタルカメラを用いた図8に示される改善された画像品質曲線について、信号比(S/λ)とISOとの間の関係を示すグラフである。その関係は図7に示されるものと同様であるが、幾つかの相違が存在する。一定のISO線910は、図7に示されるISO線710と同じである。認知画像品質の改善を得るよう信号比とISOとの間の関係である斜線930を記述する式は、以下の式2によって与えられる:

Log2(ISO)=-0.0007418(S/λ)3+0.006498(S/λ)2-0.68008(S/λ)+14.983 式2

同様のグラフが、複数画像捕捉モードにおいて動作する当該検討の同じデジタルカメラについて、図10及び11で示されている。図10は、複数画像捕捉モードにおいて動作する同じカメラについてのISOとピクセルブラーとの間の関係のグラフである。図10において、ISOを表す線1010及び信号比を表す線1040は、図6及び8における対応する線と同じ相対位置にある。この動作モードについてのより低い基本ISOの影響は、一定の認知画像品質の線1020がおおよそISO100まで下がっている点から分かる。概して、認知画像品質の線1020は、図6及び8において夫々示されている認知画像品質の線620及び820と比較して、図10において左にシフトされている。結果として、所与の信号比についてISOとピクセルブラーとの好ましい組み合わせを示す曲線1030は、図6及び8において夫々示されている対応する曲線630及び830に対して更に下方へシフトされている。
図11は、図10に示される複数画像捕捉についての認知画像品質の改善のための信号比とISOとの間の関係のグラフである。一定ISOの線1110は、図7及び9におけるそれらの線と同じ相対位置において示されている。このモードにおいては、センサの基本ISOは119.8である。認知画像品質の改善のためのISOである斜線1130を記述する式は、以下の式3として与えられる:

Log2(ISO)=-0.000612(S/λ)3+0.00616(S/λ)2-0.7224(S/λ)+15.336 式3

図3に戻ると、本発明は、図4〜11に示されるデータを用いることによって認知画像品質の改善を提供する捕捉モード及び捕捉条件を選択するよう、決定されたピクセル信号レートS、決定されたピクセル速度λ、及びピクセル速度に対するピクセル信号レートの比である信号比S/λを用いる方法を提供する。ステップ350で、決定された信号比(S/λ)の値は、捕捉モードを選択するために、図5で与えられるデータとともに使用される。ここで、図5のデータは、シフト点を定義するルックアップテーブルの形で与えられる。シフト点は、異なる捕捉モードがより高い認知画像品質を提供する、信号比(S/λ)によって定義される写真空間の領域を決定する。ステップ360で、決定された信号比(S/λ)の値は、画像の捕捉のために使用されるISOを選択するために、式1、すなわち、フル解像度捕捉のための図7のデータ、において用いられる。2×ビニング捕捉モード又は複数画像捕捉モードがステップ350で選択された場合に、ステップ360では、ISOを選択するために用いられるデータは、式2、すなわち図9、又は式3、すなわち図11において夫々見られるデータである。
次いで、ステップ370で、選択されたISO及び場面輝度Lが、動き調整露出時間temの値を選択するために、式4において用いられる:

em=K/(ISO×L) 式4

なお、Lは、ルクスで与えられ、Kは、画像捕捉装置のレンズ及び他の態様に関連する一定値である。
先と同じく、2×ビニング捕捉モード又は複数画像捕捉モードがステップ350で選択された場合に、ステップ370では、動き調整露出時間temを選択するために用いられるISOデータは、式2、すなわち図9、又は式3、すなわち図11において夫々見られるデータである。
最後に、ステップ380で、捕捉モード、ISO及び露出時間を含む選択された捕捉条件が、アーカイブ画像を捕捉するために使用され、次いで、捕捉されたアーカイブ画像は、システムメモリ72b若しくはメモリカード72cのような適切なメモリに記憶され、又は、遠隔地にある他のメモリへ送られる。このように、本発明の方法は、輝度と動きとの間の相対バランスと認知画像品質に対する影響とを反映する捕捉モード、ISO及び露出時間を選択するために、輝度及び動きの測定を用いる。
式1を式2及び式3と比較すると、デジタルカメラの動作モードは、認知画像品質の改善のための信号比とISOとの間の関係に大々的には影響を及ぼさないことが分かる。式1、2及び3によって示される関係は、事実上係数のわずかな変化以外は、ほとんど同じである。検討された3つ全ての動作モードにおいて、ISO次いで露出時間を選択するための信号比の使用は、標準的なモード及び場面輝度のみに基づいて露出時間を選択する典型的な先行技術の自動露出システムと比較して、改善された認知画像品質を提供する。
当業者には明らかなように、図4〜11において与えられ、式1〜2及び図5によって与えられる多次元モデルにおいて特徴付けられる特定のデータセットは、複数の異なる捕捉モードにおいて動作するデジタルカメラのモデルを与える。他のモデルのデジタルカメラ又は他のタイプの画像捕捉装置は、先に記載された関係と同様の、わずかに異なった多次元モデルとともにわずかに異なったデータセットを有することが期待される。特に、画像センサ18及びレンズ16(及び光学画像安定化)又は電子画像捕捉ユニット14及び関連する画像処理技術に対する変更は、ISOと認知画像品質との間の関係においてシフトを引き起こす。なお、ピクセルブラーと認知画像品質との間の関係は、広く適用可能である。いずれの場合においても、捕捉モード、露出時間及びISOがピクセル速度及び信号レート(すなわち、信号比)に基づき選択される本発明の方法は、デジタル画像捕捉装置に広く適用可能である。
[例]
典型的な先行技術のデジタルカメラにおいて、単一の静止画像を捕捉する準備をする場合に、露出時間及びISOは、平均輝度及び捕捉モードに基づき自動露出制御によって選択される。このとき、捕捉モードは、プレビュー画像における輝度分布の解析又は捕捉モードのオペレータ選択に基づき選択される。ビニング比は、ISOとともに選択される。動きは、露出時間、ISO又は捕捉モードを選択するときに測定又は考慮されない。
図13は、本発明の方法を用いる画像捕捉装置について異なるレベルの場面輝度及び異なるレベルの動きに関するISOの選択を示す。用いられる3つのレベルの動き及びそれらの対応するピクセル速度は、低速動作(速さ4ピクセル/秒)、中速動作(速さ40ピクセル/秒)、及び高速動作(速さ160ピクセル/秒)である。輝度及び動きの両方の影響は、低速動作、中速動作及び高速動作の夫々の条件ごとにISO曲線1310、1320及び1330によって示される図13の異なったレベルの動きについて異なったISO曲線によって示されるISOの選択から明らかに分かる。高レベルの場面輝度において、ISOは全ての動作条件について極めて低いままである。ISO曲線1310によって示される低速動作の条件は、ISO曲線1330によって示される高速動作の条件よりも実質的に低いISOの選択をもたらす。留意すべきは、センサのISOはセンサの基本ISOまでしか低下することができず、結果として、ISO曲線は、センサがより低いISOになると、図13の例においては、3つ全てのISO曲線(1310、1320、1330)についておおよそ64で平坦な範囲を形成し、本発明の制御システムはより低いISO設定を利用する。場面が暗くなるにつれて、選択されるISOは徐々に増大し、最終的に高レベルに達する。低速動作が存在する場合に、ISOは、ISOがISO曲線1310によって示されるように増大する前に、50ルクスまで下がって基本ISOに保たれる。対照的に、高速動作が存在する場合に、ISOは、ISO曲線1330によって示される試験範囲全体にわたって連続的に増大する。
図14において、本発明の方法を用いる画像捕捉装置のための露出時間の選択は、異なるレベルの場面輝度及び異なるレベルの動きに関して示されている。露出曲線1440、1450及び1460は、図13においてISO曲線について示された低速動作、中速動作及び高速動作の同じ夫々のレベルについて図14において示される。高レベルの場面輝度において、短い露出時間が、示される全てのレベルの動きについて選択される。場面輝度が低下するにつれて、露出時間は増大する。本発明の方法において与えられるように、露出曲線1460によって示されるより高いレベルの動きは、露出曲線1450及び1440と比較して短い露出時間をもたらす。
図13及び14をひとまとめに考えると、ISO及び露出時間の選択は、本発明の方法においては、結合され、且つ、存在する動きに応答することが分かる。低速動作の場合は、場面輝度が増大するにつれて、最初にISO及び露出時間が両方とも本発明の態様において低減されが、ISOがセンサの基本ISOに達すると、ISOを低減させることはもはや可能でないことを示す。結果として、ISO曲線1310及び露出曲線1440の傾きは、低速動作については、50ルクスを上回る場面輝度で変化する。同様に、中速動作の場合について、ISO曲線1320及び露出曲線1450の傾きは約500ルクスで変化する。本発明の方法は、存在する動きを測定し、次いで、統合的なやり方でISO及び露出時間を選択し、それにより、より高い認知画像品質が捕捉画像において得られる。図13及び14は、異なるレベルの場面輝度ごとのISO及び露出時間の選択値が、異なるレベルの動きについて極めて異なることを示す。
典型的な先行技術のカメラ制御は、捕捉モード、ISO又は露出時間を選択するときに動きを測定し又は動きを考慮することを行わないので、先行技術のカメラは、本発明の方法により捕捉される画像と比較して認知画像品質が低い画像を捕捉する傾向がある。モーションブラーが問題ではない低レベルの動きでは、本発明は、よりノイズが少ない画像を捕捉するために、典型的な先行技術のカメラ制御よりも長い露出時間及び低いISOを選択する。反対に、モーションブラーが大きな問題である高レベルの動きでは、発明は、モーションブラーが低減された画像を捕捉するために、典型的な先行技術のカメラ制御よりも短い露出時間及び高いISOを選択する。捕捉条件を動き及び場面輝度を含む場面の特性に適応させる本発明の方法の能力は、画像が改善された認知画像品質を有して捕捉されることを可能にする本発明の重要な特徴である。

Claims (19)

  1. 改善されたアーカイバル画像を捕捉する方法であって、
    画像捕捉装置により場面の少なくとも2つのプレビュー画像を捕捉し、信号プロセッサを用いてピクセル速度に対するピクセル信号レートの比を与えるよう前記場面において場面輝度及び動作速度に関して前記プレビュー画像を解析するステップと、
    計算された前記比を用いて前記アーカイバル画像を捕捉するための捕捉モード、ISO及び露出時間を選択するステップと
    を有する方法。
  2. 選択可能な捕捉モード、ISO及び露出時間により画像捕捉装置を用いてアーカイバル画像を捕捉する方法であって、
    画像捕捉装置を用いて場面の2又はそれ以上のプレビュー画像を捕捉するステップと、
    信号プロセッサを用いて、
    前記場面において場面輝度及び動きを決定するよう前記プレビュー画像を解析し、
    前記場面において前記場面輝度に基づきピクセル信号レートを決定し、
    前記場面において前記動きに基づきピクセル速度を決定し、
    ピクセル速度に対するピクセル信号レートの比である信号比を決定し、
    前記信号比に従って前記捕捉モードを選択し、
    前記捕捉モード及び前記信号比に従って前記ISOを選択し、
    前記ISO及び前記場面輝度に従って前記露出時間を選択するステップと、
    前記画像捕捉装置を用いて前記選択された捕捉モード、ISO及び露出時間によりアーカイバル画像を捕捉し、該アーカイバル画像をメモリに記憶させるステップと
    を有する方法。
  3. 前記プレビュー画像の解析は、大域的な動き又は局所的な動きを決定するよう前記2又はそれ以上のプレビュー画像を互いと比較することを含む、
    請求項2に記載の方法。
  4. 前記ピクセル速度は、前記大域的な動きから決定される、
    請求項3に記載の方法。
  5. 前記ピクセル速度は、前記局所的な動きの解析から決定される、
    請求項3に記載の方法。
  6. 前記ピクセル速度は、平均の局所的な動きから決定される、
    請求項5に記載の方法。
  7. 前記ピクセル速度は、ピークの局所的な動きから決定される、
    請求項5に記載の方法。
  8. 前記画像捕捉装置は、輝度センサを有し、
    前記場面輝度は、前記輝度センサにより決定される、
    請求項2に記載の方法。
  9. 前記ピクセル信号レートの決定、前記ピクセル速度の決定、及び前記信号比の決定は、捕捉モード、ISO及び露出時間を選択するよう、前記2又はそれ以上のプレビュー画像から決定される大域的又は局所的な動きと、前記決定された場面輝度とを用いることを含む、
    請求項2に記載の方法。
  10. 前記画像捕捉装置は、慣性計測装置を有し、
    前記大域的な動きは、前記慣性計測装置により決定される、
    請求項3に記載の方法。
  11. 前記捕捉モードの選択、前記ISOの選択、及び前記露出時間の選択は、前記信号比及び前記場面輝度に従って前記捕捉モード、前記ISO及び前記露出時間を選択するよう、多次元モデルを用いることを含む、
    請求項2に記載の方法。
  12. 前記捕捉モードの選択は、ビニング比を選択することを含む、
    請求項2に記載の方法。
  13. 前記捕捉モードの選択は、単一捕捉モード又は複数捕捉モードを選択することを含む、
    請求項2に記載の方法。
  14. 選択可能な捕捉モード、ISO及び露出時間により慣性計測装置を備えた画像捕捉装置を用いてアーカイバル画像を捕捉する方法であって、
    前記慣性計測装置により前記画像捕捉装置の大域的な動きを決定するステップと、
    信号プロセッサを用いて、
    前記画像捕捉装置の前記大域的な動きを画像におけるピクセル速度へ変換し、
    場面輝度を決定し、
    前記場面輝度に基づき画像におけるピクセル信号レートを決定し、
    ピクセル速度に対するピクセル信号レートの比である信号比を決定し、
    前記信号比に従って前記捕捉モードを選択し、
    前記信号比に従って前記ISOを選択し、
    前記ISO及び前記場面輝度に従って前記露出時間を選択するステップと、
    前記画像捕捉装置を用いて前記選択された捕捉モード、ISO及び露出時間によりアーカイバル画像を捕捉し、該アーカイバル画像をメモリに記憶させるステップと
    を有する方法。
  15. 前記場面輝度の決定は、1又はそれ以上のプレビュー画像を捕捉し、該1又はそれ以上のプレビュー画像を場面輝度に関して解析することを含む、
    請求項14に記載の方法。
  16. 前記画像捕捉装置は、輝度センサを有し、
    前記場面輝度の決定は、前記輝度センサからデータを収集し、該収集されたデータを場面輝度へ変換することを含む、
    請求項14に記載の方法。
  17. 前記捕捉モードの選択、前記ISOの選択、及び前記露出時間の選択は、前記信号比及び前記場面輝度に従って前記捕捉モード、前記ISO及び前記露出時間を選択するよう、多次元モデルを用いることを含む、
    請求項14に記載の方法。
  18. 前記捕捉モードの選択は、ビニング比を選択することを含む、
    請求項14に記載の方法。
  19. 前記捕捉モードの選択は、単一捕捉モード又は複数捕捉モードを選択することを含む、
    請求項14に記載の方法。
JP2012552036A 2010-02-08 2011-02-01 輝度及び動きからの捕捉条件の選択 Expired - Fee Related JP5897475B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/701,659 US8558913B2 (en) 2010-02-08 2010-02-08 Capture condition selection from brightness and motion
US12/701,659 2010-02-08
PCT/US2011/023360 WO2011097236A1 (en) 2010-02-08 2011-02-01 Capture condition selection from brightness and motion

Publications (2)

Publication Number Publication Date
JP2013519301A true JP2013519301A (ja) 2013-05-23
JP5897475B2 JP5897475B2 (ja) 2016-03-30

Family

ID=43735596

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012552036A Expired - Fee Related JP5897475B2 (ja) 2010-02-08 2011-02-01 輝度及び動きからの捕捉条件の選択

Country Status (5)

Country Link
US (1) US8558913B2 (ja)
EP (1) EP2534826B1 (ja)
JP (1) JP5897475B2 (ja)
CN (1) CN102754426B (ja)
WO (1) WO2011097236A1 (ja)

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8210945B2 (en) * 2007-05-16 2012-07-03 Eyecue Vision Technologies Ltd. System and method for physically interactive board games
US9138636B2 (en) 2007-05-16 2015-09-22 Eyecue Vision Technologies Ltd. System and method for calculating values in tile games
KR20120089452A (ko) 2009-08-04 2012-08-10 아이큐 비젼 테크놀로지즈 리미티드 물체 추출 시스템 및 방법
US9595108B2 (en) 2009-08-04 2017-03-14 Eyecue Vision Technologies Ltd. System and method for object extraction
US8643734B2 (en) 2010-11-10 2014-02-04 Apple Inc. Automatic engagement of image stabilization
US9813632B2 (en) 2011-05-19 2017-11-07 Foveon, Inc. Method of adjusting digital camera image processing parameters
US9402034B2 (en) * 2011-07-29 2016-07-26 Apple Inc. Adaptive auto exposure adjustment
WO2013109261A1 (en) * 2012-01-18 2013-07-25 Intel Corporation Intelligent computational imaging system
US9093047B2 (en) * 2012-04-15 2015-07-28 Trimble Navigation Limited Displaying arrays of image data
EP2912602A4 (en) * 2012-10-23 2016-03-16 Ishay Sivan REAL-TIME IMAGE QUALITY EVALUATION
US9124805B2 (en) 2012-11-16 2015-09-01 Blackberry Limited Adapting an optical image stabilizer on a camera
EP2981932B1 (en) 2013-04-02 2018-11-14 3M Innovative Properties Company Systems and methods for note recognition
US10127196B2 (en) 2013-04-02 2018-11-13 3M Innovative Properties Company Systems and methods for managing notes
EP2981931B1 (en) 2013-04-02 2021-03-03 3M Innovative Properties Company Systems and methods for managing notes
WO2015006275A1 (en) 2013-07-09 2015-01-15 3M Innovative Properties Company Systems and methods for note content extraction and management using segmented notes
GB201312892D0 (en) * 2013-07-18 2013-09-04 Omg Plc Still image capture with exposure control
KR101353052B1 (ko) * 2013-07-31 2014-01-20 주식회사 피엘케이 테크놀로지 교통표지판 인식을 위한 차량용 영상인식시스템
CN104519263B (zh) * 2013-09-27 2018-07-06 联想(北京)有限公司 一种图像获取的方法及电子设备
US9047509B2 (en) 2013-10-16 2015-06-02 3M Innovative Properties Company Note recognition and association based on grouping indicators
EP3058513B1 (en) 2013-10-16 2021-05-19 3M Innovative Properties Company Multi-color channel detection for note recognition and management
TWI653571B (zh) 2013-10-16 2019-03-11 3M新設資產公司 用於處理數位便箋之方法、電腦系統、非暫時性電腦可讀取媒體及計算裝置
EP3058512B1 (en) 2013-10-16 2022-06-01 3M Innovative Properties Company Organizing digital notes on a user interface
EP3058509A4 (en) 2013-10-16 2017-08-09 3M Innovative Properties Company Note recognition for overlapping physical notes
US9274693B2 (en) 2013-10-16 2016-03-01 3M Innovative Properties Company Editing digital notes representing physical notes
WO2015116803A1 (en) 2014-01-31 2015-08-06 3M Innovative Properties Company Note capture and recognition with manual assist
US9686470B2 (en) 2014-05-30 2017-06-20 Apple Inc. Scene stability detection
CN104363381B (zh) 2014-10-15 2018-03-02 北京智谷睿拓技术服务有限公司 图像采集控制方法和装置
CN105827929A (zh) * 2015-01-06 2016-08-03 中兴通讯股份有限公司 一种移动终端相机的拍照方法及装置
CN104853112B (zh) * 2015-05-06 2018-01-09 青岛海信移动通信技术股份有限公司 一种控制长曝光时间的方法及装置
JP6572004B2 (ja) * 2015-06-18 2019-09-04 オリンパス株式会社 露出制御装置および露出制御方法
WO2018156986A1 (en) 2017-02-26 2018-08-30 Ring Inc. Automatic exposure control for audio/video recording and communication devices
JPWO2018168261A1 (ja) * 2017-03-16 2020-01-16 ソニー株式会社 制御装置、制御方法、及びプログラム
DE102017210845A1 (de) * 2017-06-27 2018-12-27 Conti Temic Microelectronic Gmbh Kameravorrichtung sowie Verfahren zur umgebungsangepassten Erfassung eines Umgebungsbereichs eines Fahrzeugs
WO2020006078A1 (en) * 2018-06-26 2020-01-02 Gopro, Inc. Entropy maximization based auto-exposure
CN110290316A (zh) * 2019-06-17 2019-09-27 深圳岚锋创视网络科技有限公司 调整相机的快门上限的方法、计算机可读存储介质及相机
EP4047923A4 (en) * 2020-12-22 2022-11-23 Samsung Electronics Co., Ltd. ELECTRONIC DEVICE COMPRISING A CAMERA AND THEIR METHOD
JP2022138647A (ja) * 2021-03-10 2022-09-26 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置、情報処理システム、および画像取得方法
KR20240007678A (ko) * 2021-05-18 2024-01-16 스냅 인코포레이티드 노출 및 iso 관련 애플리케이션의 동적 조정
US11683585B2 (en) 2021-05-18 2023-06-20 Snap Inc. Direct scale level selection for multilevel feature tracking under motion blur
US11765457B2 (en) 2021-05-18 2023-09-19 Snap Inc. Dynamic adjustment of exposure and iso to limit motion blur

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005117187A (ja) * 2003-10-03 2005-04-28 Matsushita Electric Ind Co Ltd 固体撮像装置
JP2007243250A (ja) * 2006-03-03 2007-09-20 Olympus Imaging Corp 撮像装置および撮像方法
JP2008278444A (ja) * 2007-03-30 2008-11-13 Fujifilm Corp 撮影装置

Family Cites Families (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3971065A (en) * 1975-03-05 1976-07-20 Eastman Kodak Company Color imaging array
US4887121A (en) 1988-12-12 1989-12-12 Eastman Kodak Company Method and apparatus for exposure control based on color balance information
US5325449A (en) * 1992-05-15 1994-06-28 David Sarnoff Research Center, Inc. Method for fusing images and apparatus therefor
US5335041A (en) * 1993-09-13 1994-08-02 Eastman Kodak Company Exposure and focus system for a zoom camera
ATE476496T1 (de) * 1996-03-04 2010-08-15 Calyx Bio Ventures Inc Modifizierte schnellvermehrungsmethode ('modified-rem') zur in vitro vermehrung von t-lymphozyten
US6429895B1 (en) * 1996-12-27 2002-08-06 Canon Kabushiki Kaisha Image sensing apparatus and method capable of merging function for obtaining high-precision image by synthesizing images and image stabilization function
US5983190A (en) * 1997-05-19 1999-11-09 Microsoft Corporation Client server animation system for managing interactive user interface characters
JPH10336511A (ja) * 1997-06-05 1998-12-18 Sanyo Electric Co Ltd カメラ装置
US6667176B1 (en) * 2000-01-11 2003-12-23 Geron Corporation cDNA libraries reflecting gene expression during growth and differentiation of human pluripotent stem cells
JP4284570B2 (ja) * 1999-05-31 2009-06-24 ソニー株式会社 撮像装置及びその方法
US6602711B1 (en) * 2000-02-21 2003-08-05 Wisconsin Alumni Research Foundation Method of making embryoid bodies from primate embryonic stem cells
US6301440B1 (en) * 2000-04-13 2001-10-09 International Business Machines Corp. System and method for automatically setting image acquisition controls
AU2001284695A1 (en) * 2000-07-31 2002-02-13 New York Medical College Methods and compositions for the repair and/or regeneration of damaged myocardium
EP1315835A2 (en) * 2000-08-01 2003-06-04 Yissum Research Development Company of the Hebrew University of Jerusalem Directed differentiation of embryonic cells
US6891570B2 (en) * 2001-01-31 2005-05-10 Itt Manufacturing Enterprises Inc. Method and adaptively deriving exposure time and frame rate from image motion
JP3468231B2 (ja) * 2001-07-02 2003-11-17 ミノルタ株式会社 画像処理装置、画質制御方法、プログラム及び記録媒体
US7084910B2 (en) * 2002-02-08 2006-08-01 Hewlett-Packard Development Company, L.P. System and method for using multiple images in a digital image capture device
US7295232B2 (en) * 2003-01-15 2007-11-13 Canon Kabushiki Kaisha Camera and program
EP1538562A4 (en) 2003-04-17 2005-08-10 Seiko Epson Corp GENERATING A STILL IMAGE FROM MULTIPLE INDIVIDUAL IMAGES
US20040223649A1 (en) * 2003-05-07 2004-11-11 Eastman Kodak Company Composite imaging method and system
JP4136793B2 (ja) * 2003-05-29 2008-08-20 キヤノン株式会社 撮像装置および撮像装置の制御方法
JP2004361486A (ja) * 2003-06-02 2004-12-24 Nikon Corp デジタルスチルカメラ
CN1671124B (zh) * 2004-03-19 2011-10-19 清华大学 通信终端装置、通信终端接收方法、通信系统、网关
JP2006025310A (ja) * 2004-07-09 2006-01-26 Konica Minolta Photo Imaging Inc 撮像装置
US7782384B2 (en) * 2004-11-05 2010-08-24 Kelly Douglas J Digital camera having system for digital image composition and related method
US20060152596A1 (en) * 2005-01-11 2006-07-13 Eastman Kodak Company Noise cleaning sparsely populated color digital images
US20060170816A1 (en) * 2005-01-28 2006-08-03 Silverstein D A Method and system for automatically adjusting exposure parameters of an imaging device
EP1689164B1 (en) 2005-02-03 2007-12-19 Sony Ericsson Mobile Communications AB Method and device for creating enhanced picture by means of several consecutive exposures
US8482618B2 (en) * 2005-02-22 2013-07-09 Hewlett-Packard Development Company, L.P. Reduction of motion-induced blur in images
US7755667B2 (en) 2005-05-17 2010-07-13 Eastman Kodak Company Image sequence stabilization method and camera having dual path image sequence stabilization
WO2007017835A2 (en) 2005-08-08 2007-02-15 Joseph Rubner Adaptive exposure control
US20070046807A1 (en) * 2005-08-23 2007-03-01 Eastman Kodak Company Capturing images under varying lighting conditions
US7546026B2 (en) * 2005-10-25 2009-06-09 Zoran Corporation Camera exposure optimization techniques that take camera and scene motion into account
JP4618100B2 (ja) * 2005-11-04 2011-01-26 ソニー株式会社 撮像装置、撮像方法、およびプログラム
US7468504B2 (en) * 2006-03-09 2008-12-23 Northrop Grumman Corporation Spectral filter for optical sensor
JP4837406B2 (ja) * 2006-03-10 2011-12-14 オリンパスイメージング株式会社 電子的ぶれ補正装置および電子的ぶれ補正方法
US20070216776A1 (en) * 2006-03-14 2007-09-20 Xerox Corporation Color image reproduction
US20070237514A1 (en) * 2006-04-06 2007-10-11 Eastman Kodak Company Varying camera self-determination based on subject motion
US20070248330A1 (en) * 2006-04-06 2007-10-25 Pillman Bruce H Varying camera self-determination based on subject motion
JP2007300595A (ja) * 2006-04-06 2007-11-15 Winbond Electron Corp 静止画像撮影の手ブレ回避方法
US7602418B2 (en) * 2006-10-11 2009-10-13 Eastman Kodak Company Digital image with reduced object motion blur
JP4823179B2 (ja) * 2006-10-24 2011-11-24 三洋電機株式会社 撮像装置及び撮影制御方法
US7697836B2 (en) * 2006-10-25 2010-04-13 Zoran Corporation Control of artificial lighting of a scene to reduce effects of motion in the scene on an image being acquired
US20090244301A1 (en) * 2008-04-01 2009-10-01 Border John N Controlling multiple-image capture
US8194141B2 (en) * 2008-09-11 2012-06-05 Texas Instruments Incorporated Method and apparatus for producing sharp frames with less blur
JP4915424B2 (ja) * 2009-02-19 2012-04-11 ソニー株式会社 画像処理装置、カメラモーション成分算出方法、画像処理プログラム及び記録媒体

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005117187A (ja) * 2003-10-03 2005-04-28 Matsushita Electric Ind Co Ltd 固体撮像装置
JP2007243250A (ja) * 2006-03-03 2007-09-20 Olympus Imaging Corp 撮像装置および撮像方法
JP2008278444A (ja) * 2007-03-30 2008-11-13 Fujifilm Corp 撮影装置

Also Published As

Publication number Publication date
WO2011097236A1 (en) 2011-08-11
US20110193990A1 (en) 2011-08-11
US8558913B2 (en) 2013-10-15
CN102754426B (zh) 2015-04-15
JP5897475B2 (ja) 2016-03-30
CN102754426A (zh) 2012-10-24
EP2534826B1 (en) 2016-04-06
EP2534826A1 (en) 2012-12-19

Similar Documents

Publication Publication Date Title
JP5897475B2 (ja) 輝度及び動きからの捕捉条件の選択
JP5086357B2 (ja) 信号センサからの多重ビデオ信号の供給
JP4305598B2 (ja) カメラの絞り制御方法及び装置、並びにカメラ
US8937677B2 (en) Digital photographing apparatus, method of controlling the same, and computer-readable medium
JP4791331B2 (ja) 撮像装置及び露出制御方法
JP2007264196A (ja) ストロボ制御装置及び方法
JP4843009B2 (ja) カメラのレンズ制御方法及び装置、並びにカメラ
JP2013537728A (ja) 知覚深度を有するビデオを提供するビデオカメラ
JP2017108309A (ja) 撮像装置および撮像方法
JP4834425B2 (ja) 撮像装置及び撮像装置の制御方法
JP2006108759A (ja) 撮像装置
JP6911136B2 (ja) 撮像装置、情報取得方法及び情報取得プログラム
JP5316923B2 (ja) 撮像装置及びそのプログラム
JP2008083243A (ja) 撮影装置及び露出制御方法
JP5528093B2 (ja) 撮像装置および撮像方法
JP6900577B2 (ja) 画像処理装置及びプログラム
US20230217126A1 (en) Imaging apparatus, imaging method
JP2006303755A (ja) 撮像装置及び撮像方法
JP2006279714A (ja) 撮像装置及び撮像方法
JP2009118247A (ja) 撮影装置
KR101448538B1 (ko) 디지털 영상 처리기에서 브라케팅 촬영을 이용한 광 역광보정 장치 및 방법
KR101446941B1 (ko) 고속 촬영 시에 영상을 저장하는 장치 및 방법
JP2017005374A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2010130480A (ja) 撮影装置および画素数調整方法

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20130516

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141201

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20150302

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150601

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160302

R150 Certificate of patent or registration of utility model

Ref document number: 5897475

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees