JP2008245009A - 撮像装置および画像処理方法 - Google Patents
撮像装置および画像処理方法 Download PDFInfo
- Publication number
- JP2008245009A JP2008245009A JP2007084376A JP2007084376A JP2008245009A JP 2008245009 A JP2008245009 A JP 2008245009A JP 2007084376 A JP2007084376 A JP 2007084376A JP 2007084376 A JP2007084376 A JP 2007084376A JP 2008245009 A JP2008245009 A JP 2008245009A
- Authority
- JP
- Japan
- Prior art keywords
- image
- processing
- image data
- unit
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
- Studio Devices (AREA)
Abstract
【課題】撮影画像データに対する画像処理を速やかに開始できる撮像装置の技術を提供する。
【解決手段】カメラシステム1Aにおけるフロントエンジン4では、撮像部15から出力される撮影画像データをDRAM4bに記憶させる記憶処理と並行して行うハードウェア処理として、撮像部15から出力される撮影画像を縮小し縮小画像を生成する処理を画像縮小部410で実行する。そして、フロントエンジン4からバックエンジン5にDRAM4b内の画像データを転送する前に、画像縮小部410で生成された縮小画像をバックエンジン5に転送する。これにより、縮小画像に基づく補正パラメータをパラメータ演算部57で早期に決定できるため、この補正パラメータに基づく撮影画像データへの補正処理(画像処理)を補正部580で速やかに開始できる。
【選択図】図4
【解決手段】カメラシステム1Aにおけるフロントエンジン4では、撮像部15から出力される撮影画像データをDRAM4bに記憶させる記憶処理と並行して行うハードウェア処理として、撮像部15から出力される撮影画像を縮小し縮小画像を生成する処理を画像縮小部410で実行する。そして、フロントエンジン4からバックエンジン5にDRAM4b内の画像データを転送する前に、画像縮小部410で生成された縮小画像をバックエンジン5に転送する。これにより、縮小画像に基づく補正パラメータをパラメータ演算部57で早期に決定できるため、この補正パラメータに基づく撮影画像データへの補正処理(画像処理)を補正部580で速やかに開始できる。
【選択図】図4
Description
本発明は、被写体に係る画像データを出力する撮像手段を有する撮像装置の技術に関する。
デジタルカメラ(撮像装置)においては、撮像センサ(イメージセンサ)で生成された撮影画像データに対してガンマ補正やホワイトバランス補正などの補正処理が施されることにより、適切な撮影画像を得ることができる。(例えば特許文献1)
上記の補正処理においては、例えば撮像センサから出力された撮影画像に対して解像度を低下させた縮小画像をCPUを用いて生成し、この縮小画像に基づき補正処理で用いる最適な補正パラメータが決定されるようになっている。
しかしながら、上記の縮小画像はCPUを用いたソフトウェア処理によって生成されるため、撮像センサからの撮影画像の出力が完了しても暫くの間は縮小画像が得られない。これでは、縮小画像に基づく補正パラメータの決定が遅れてしまい、撮影画像データに対して補正パラメータを用いた補正処理(画像処理)を速やかに開始できないこととなる。
本発明は、上記課題に鑑みてなされたものであり、撮影画像データに対する画像処理を速やかに開始できる撮像装置の技術を提供することを目的とする。
本発明の第1の側面は、撮像装置であって、(a)被写体に係る画像データを出力する撮像手段と、(b)前記撮像手段から出力される画像データを所定の記憶手段に記憶させる記憶処理を実行する第1処理部と、(c)前記所定の記憶手段から読み出された画像データに対して画像処理を実行する第2処理部とを備え、前記第1処理部は、(b-1)前記記憶処理と並行して行うハードウェア処理として、前記撮像手段から出力される画像データを加工し加工データを生成する処理を実行する処理回路を有するとともに、前記第2処理部は、(c-1)前記処理回路で生成された前記加工データに基づき、前記画像データに対する画像処理を実行する画像処理手段を有することを特徴とする。
本発明の第2の側面は、画像処理方法であって、(a)被写体に係る画像データを撮像手段で生成する撮像工程と、(b)前記撮像手段から出力される画像データを所定の記憶手段に記憶させる記憶処理を実行する記憶処理工程と、(c)前記記憶処理と並行して行うハードウェア処理として、前記撮像手段から出力される画像データを加工し加工データを生成する処理を実行するハードウェア処理工程と、(d)前記ハードウェア処理工程で生成された前記加工データに基づき、前記所定の記憶手段から読み出された画像データに対して画像処理を実行する画像処理工程とを備えることを特徴とする。
本発明によれば、撮像手段から出力される画像データを所定の記憶手段に記憶させる記憶処理と並行して行うハードウェア処理として、撮像手段から出力される画像データを加工し加工データを生成する処理を実行する。そして、所定の記憶手段から読み出された画像データに対して加工データに基づく画像処理を実行する。その結果、撮影画像データに対する画像処理を速やかに開始できる。
<第1実施形態>
<カメラシステムの外観構成>
図1および図2は、本発明の第1実施形態に係るカメラシステム1Aの外観構成を示す図である。ここで、図1および図2は、それぞれ正面図および背面図を示している。
<カメラシステムの外観構成>
図1および図2は、本発明の第1実施形態に係るカメラシステム1Aの外観構成を示す図である。ここで、図1および図2は、それぞれ正面図および背面図を示している。
カメラシステム1Aは、例えば一眼レフレックスタイプのデジタルスチルカメラとして構成される撮像装置として機能し、カメラボディ10と、カメラボディ10に着脱自在な交換レンズ2とを備えている。
図1において、カメラボディ10の正面側には、正面略中央に交換レンズ2が装着されるマウント部301と、マウント部301の右横に配置されたレンズ交換ボタン302と、正面左端部(X方向左側)において突設され、ユーザが片手(又は両手)により確実に把持可能とするためのグリップ部303と、正面左上部(Y方向左上側)に配置されたモード設定ダイアル305と、正面右上部に配置された制御値設定ダイアル306と、グリップ部303の上面に配置されたシャッターボタン307とが設けられている。
また、図2において、カメラボディ10の背面側には、LCD(Liquid Crystal Display)311と、LCD311の左方に配置された設定ボタン群312と、LCD311の右方に配置された十字キー314と、十字キー314の中央に配置されたプッシュボタン315と、十字キー314の右下に配置された手振れ補正スイッチ313とが備えられている。また、カメラボディ10の背面側には、LCD311の上方に配設された光学ファインダ316と、光学ファインダ316の右方に配設された露出補正ボタン323およびAEロックボタン324と、光学ファインダ316の上方に配設されたフラッシュ部318および接続端子部319とが備えられている。
マウント部301には、装着された交換レンズ2との電気的接続を行うための複数個の電気的接点や、機械的接続を行うためのカプラ等が設けられている。
レンズ交換ボタン302は、マウント部301に装着された交換レンズ2を取り外す際に押下されるボタンである。
グリップ部303は、ユーザが撮影時にカメラシステム1Aを把持する部分であり、フィッティング性を高めるために指形状に合わせた表面凹凸が設けられている。なお、グリップ部303の内部には電池収納室およびカード収納室(不図示)が設けられている。電池収納室にはカメラの電源として電池107(図3)が収納されており、カード収納室には撮影画像の画像データを記録するための記録媒体9(例えばメモリステック91(図3)やコンパクトフラッシュ(登録商標)(図3)などのメモリカード)が着脱可能に収納されるようになっている。なお、グリップ部303には、当該グリップ部303をユーザが把持したか否かを検出するためのグリップセンサを設けるようにしても良い。
モード設定ダイアル305及び制御値設定ダイアル306は、カメラボディ10の上面と略平行な面内で回転可能な略円盤状の部材からなる。モード設定ダイアル305は、自動露出(AE)制御モードや自動焦点(AF;オートフォーカス)制御モード、或いは1枚の静止画を撮影する静止画撮影モードや連続撮影を行う連写撮影モード等の各種撮影モード、記録済みの画像を再生する再生モード等、カメラシステム1Aに搭載されたモードや機能を択一的に選択するためのものである。一方、制御値設定ダイアル306は、カメラシステム1Aに搭載された各種の機能に対する制御値を設定するためのものである。
シャッターボタン307は、途中まで押し込んだ「半押し状態」の操作と、さらに押し込んだ「全押し状態」の操作とが可能とされた押下スイッチである。静止画撮影モードにおいてシャッターボタン307が半押し(S1)されると、被写体の静止画を撮影するための準備動作(露出制御値の設定や焦点調節等の準備動作)が実行され、シャッターボタン307が全押し(S2)されると、撮影動作(撮像センサを露光し、その露光によって得られた画像信号に所定の画像処理を施してメモリカード等に記録する一連の動作)が実行される。
LCD311は、画像表示が可能なカラー液晶パネルを備えており、撮像センサ(撮像素子)151(図3)により撮像された画像の表示や記録済みの画像の再生表示等を行うとともに、カメラシステム1Aに搭載される機能やモードの設定画面を表示するものである。なお、LCD311に代えて、有機ELやプラズマ表示装置を用いるようにしても良い。
設定ボタン群312は、カメラシステム1Aに搭載された各種の機能に対する操作を行うボタンである。この設定ボタン群312には、例えばLCD311に表示されるメニュー画面で選択された内容を確定するための選択確定スイッチ、選択取り消しスイッチ、メニュー画面の内容を切り替えるメニュー表示スイッチ、表示オン/オフスイッチ、表示拡大スイッチなどが含まれる。
手振れ補正スイッチ313は、手振れ補正動作を実行させるための操作信号を与えるためのボタンである。この手振れ補正スイッチ313は、手持ち撮影、望遠撮影、暗部での撮影、或いは長時間露光が必要な撮影時等、手振れ等の「振れ」の影響が撮影画像に表出する恐れがある場合にユーザにより操作され、当該カメラボディ10の手振れ補正動作が行える状態に設定するものである。
十字キー314は、円周方向に一定間隔で配置された複数の押圧部(図中の三角印の部分)を備える環状の部材を有し、各押圧部に対応して備えられた図示省略の接点(スイッチ)により押圧部の押圧操作が検出されるように構成されている。また、プッシュボタン315は、十字キー314の中央に配置されている。十字キー314及びプッシュボタン315は、撮影倍率の変更(ズームレンズのワイド方向やテレ方向への移動)、LCD311等に再生する記録画像のコマ送り、及び撮影条件(絞り値、シャッタースピード、フラッシュ発光の有無等)の設定等の指示を入力するためのものである。
光学ファインダ316は、被写体が撮影される範囲を光学的に表示するものである。すなわち、光学ファインダ316には、交換レンズ2からの被写体像が導かれており、ユーザは、この光学ファインダ316を覗くことにより、実際に撮像部15の撮像センサ151にて撮影される被写体を視認することができる。
メインスイッチ317は、左右にスライドする2接点のスライドスイッチからなり、左にセットするとカメラシステム1Aの電源がオン(投入)され、右にセットすると電源がオフ(切断)される。
フラッシュ部318は、ポップアップ式の内蔵フラッシュとして構成されている。一方、外部フラッシュ等をカメラボディ10に取り付ける場合には、接続端子部319を使用して接続する。
アイカップ321は、遮光性を有してEVF316への外光の侵入を抑制する「コ」字状の遮光部材である。
露出補正ボタン323は、露出値(絞り値やシャッタースピード)を手動で調整するためのボタンであり、AEロックボタン324は、露出を固定するためのボタンである。
交換レンズ2は、被写体からの光(光像)を取り込むレンズ窓として機能するとともに、当該被写体光をカメラボディ10の内部に配置されている撮像センサに導くための撮影光学系として機能するものである。この交換レンズ2は、上述のレンズ交換ボタン302を押下操作することで、カメラボディ10から取り外すことが可能となっている。
交換レンズ2は、その光軸に沿って直列的に配置された複数のレンズからなるレンズ群を備えている。このレンズ群には、焦点の調節を行うためのフォーカスレンズと、変倍を行うためのズームレンズとが含まれており、それぞれ光軸方向に駆動されることで、変倍や焦点調節が行われる。また、交換レンズ2には、その鏡胴の外周適所に該鏡胴の外周面に沿って回転可能な操作環が備えられており、上記のズームレンズは、マニュアル操作或いはオート操作により、上記操作環の回転方向及び回転量に応じて光軸方向に移動し、その移動先の位置に応じたズーム倍率(撮影倍率)に設定されるようになっている。
<カメラシステム1Aの電気的構成>
図3は、カメラシステム1Aの電気的な構成を示すブロック図である。ここで、図1〜図2と同一の部材等については、同一の符号を付している。
図3は、カメラシステム1Aの電気的な構成を示すブロック図である。ここで、図1〜図2と同一の部材等については、同一の符号を付している。
カメラシステム1Aは、カメラシステム1Aに関するカメラ機構の制御(カメラ制御)を担当するカメラ制御部100と、撮像部15で生成された被写体の画像信号に対して補正等の処理を行うフロントエンジン4と、フロントエンジン4で処理された画像データに画像処理を施す画像処理エンジンとしてのバックエンドエンジン(以下では「バックエンジン」と略称する)5とを備えている。
カメラ制御部100は、CPU(Central Processing Unit)100aを有して、カメラシステム1Aにおいて撮影動作時の制御等を行う部位である。このカメラ制御部100では、I/O部102を介して交換レンズ2内の各部位の制御(例えばフォーカスレンズの駆動制御)が可能であり、位相差AFモジュール103から出力される出力信号に基づき交換レンズ2内のフォーカスレンズを駆動してオートフォーカス(AF)が実施される。また、カメラ制御部100は、測光センサ104からの出力信号に基づき露光制御(AE制御)を行う。
また、カメラ制御部100は、シャッター105の駆動制御、フラッシュ318の発光制御や、ミラー駆動部108を介してカメラボディ10内のミラーを駆動する制御を行うとともに、電源制御部106を用いてグリップ部303の内部の電池収納室に収納される電池107からカメラシステム1Aの各部位に電力を供給する電源制御を行う。
手振れ制御部110は、CPU110aを有し、手振れ補正動作の制御を行う部位である。この手振れ制御部110では、手振れ補正用のジャイロセンサ111からの出力信号に基づき手振れ量を演算し、この演算された手振れ量に基づいて撮像センサ151を交換レンズ2の光軸に対して垂直方向に移動させるアクチュエータ112を駆動させる。
撮像部15は、撮像センサ151と、この撮像センサ151から出力されるアナログ信号をデジタル信号に変換するA/D変換部152とを備えている。この撮像部15では、連続的な一連の撮影、例えば連写撮影により各撮影画像に係るRAW形式の画像データ(以下では、「RAW画像データ」ともいう)を順次に出力することが可能である。
撮像センサ151は、カメラボディ10に交換レンズ2が装着された場合の当該交換レンズ2が備えているレンズ群の光軸上において、その光軸に対して垂直となる方向に配置されている。この撮像センサとしては、例えばフォトダイオードを有して構成される複数の画素がマトリクス状に2次元配置され、各画素の受光面に、それぞれ分光特性の異なる例えばR(赤)、G(緑)、B(青)のカラーフィルタが1:2:1の比率で配設されてなるベイヤー配列のCMOSカラーエリアセンサ(CMOS型のイメージセンサ)が用いられる。このような撮像センサ151では、交換レンズ2を通って結像された被写体光像に関するR(赤)、G(緑)、B(青)各色成分のアナログの電気信号(画像信号)を生成し、R、G、B各色の画像信号が出力される。すなわち、撮像センサ151からは、上記ベイヤー配列で配置されたRGB各色の画素信号からなるRAW形式の画像信号(以下では、単に「RAW画像信号」ともいう)が出力される。
フロントエンジン(第1処理部)4は、マイクロコンピュータとして機能するCPU4a、DRAM4bおよびフラッシュROM4cを有しており、DRAM4bにはRAW画像データ等が記憶されるとともに、フラッシュROM4cには例えば制御用等のプログラムが格納される。そして、フロントエンジン4では、撮像センサ151の駆動をセンサ制御部401によって制御するとともに、撮像部15から出力されたRAW画像データに対して画像の周辺減光補正(シェーディング補正)や各画素の信号レベルに関するばらつき等の補正を行う。なお、フロントエンジン4は、DRAM4bおよびフラッシュROM4cを除く部分(破線内)が各種の処理を行うための処理ユニット4dとして構成されている。
センサ制御部401は、撮像部15から出力されるRAW画像データの解析データとして、RAW画像データの解像度を低減させた縮小画像データを生成する画像縮小部410を有している。この画像縮小部410は、撮像部15から出力されるRAW画像データに対してベイヤー配列を維持したままで画像の縮小処理を行う専用の処理回路として構成されており、RAW画像データに対してデータ量を低減させた例えば20×15画素の縮小画像データが作成される。このように画像縮小部410は縮小画像の生成に特化した専用のハードウェアとして構成されているため、ソフトウェア的な処理で画像の縮小処理を行う従来技術に比べてリアルタイム性が向上し迅速に縮小画像を生成できることとなる。これにより、この縮小画像に基づく補正パラメータの決定を早期に行うことが可能となる。
フロントエンジン4は、タイミングジェネレータ(TG)402と、電力制御部403と、フロントエンジン4の外部との入出力を行うためのインターフェース部404とを備えている。
タイミングジェネレータ402は、撮像センサ151に関する露光動作の開始(及び終了)等のタイミングを計る部位である。
電力制御部403は、バックエンジン5に関する電源の投入・切断(オン・オフ)を制御する。そして、この電力制御部403により、バックエンジン5に対して画像処理(後述のYCC変換およびJPEG変換処理)を開始する際に電源を投入させるとともに、この画像処理を終了する際に電源を切断させるようにする。これにより、消費電力の低減が図れることとなる。
インターフェース(I/F)部404は、フロントエンジン4内で補正処理されたRAW画像データをバックエンジン5に出力するためのRAWI/F405と、バックエンジン5でJPEG圧縮等の画像処理が施された画像データを入力するためのJPGI/F406とを備えている。
また、インターフェース部404は、カメラボディ10に設けられたUSB端子90から外部に画像データ等を出力するためのUSBI/F407と、グリップ部303の内部のカード収納室に収納されたメモリスティック(MS)91やコンパクトフラッシュ(登録商標)(CF)92との間で画像データ等の入出力を行うためのMSI/F408およびCFI/F409とを有している。
バックエンジン(第2処理部)5は、マイクロコンピュータとして機能するCPU50、DRAM51およびフラッシュROM52を備えてフロントエンジン4のDRAM4bから読み出されたRAW画像データに対して画像処理を実行する画像処理回路として構成されており、DRAM51には画像データ等が記憶されるとともに、フラッシュROM52には例えば制御用のプログラム等が格納される。このようにCPU50を備えたバックエンジン5では、画像処理専用の単なるハードウェアエンジンに比べて機能向上が図れることとなる(後で詳述)。なお、バックエンジン5は、DRAM51およびフラッシュROM52を除く部分(破線内)が画像処理等の各種の処理を行う処理ユニット56として構成されている。
バックエンジン5は、フロントエンジン4のRAWI/F405から出力される処理済みのRAW画像データを入力するためのRAWI/F53と、この処理済みのRAW画像データに対して現像処理およびJPEG圧縮処理を施し生成された圧縮画像データをフロントエンジン5のJPGI/F406に出力するためのJPGI/F54とを有している。なお、これらの処理済みのRAW画像データおよび圧縮画像データの伝送は、フロントエンジン4とバックエンジン5との間に設けられる専用バスを通じて行われる。
バックエンジン5は、LCD311を駆動するためのLCDドライバ55を有しており、このLCDドライバ55を介しCPU50を用いてLCD311に撮影画像の画像出力を行わせることが可能となっている。このようにLCD311への画像表示機能を有するバックエンジン5では、現像処理された画像データを、画像表示機能を有する他の部位(例えばフロントエンジン4)に転送して画像表示させる必要がないため、迅速なアフタービュー表示等の画像表示を行えることとなる。これにより、カメラシステム1Aにおいては、画像処理専用の単なるハードウェアエンジンを備えたシステムより高速な画像表示が可能となる。
以上の構成を有するカメラシステム1Aでの撮影時の処理について、以下で説明する。
<撮影時の処理について>
図4は、カメラシステム1Aにおける撮影時の処理を説明するための図である。なお、図4では、データの流れを太線の矢印で示している。以下では、図4を参照し、撮影時における各処理をデータの流れ(フロー)に沿って順に説明する。
図4は、カメラシステム1Aにおける撮影時の処理を説明するための図である。なお、図4では、データの流れを太線の矢印で示している。以下では、図4を参照し、撮影時における各処理をデータの流れ(フロー)に沿って順に説明する。
(1)フローF1〜F2
まず、カメラ制御部100から絞り値やシャッタースピード、撮影日時などの撮影情報がフロントエンジン4のDRAM4bに転送される。同様に、手振れ制御部110から手振れ補正に関する手振れデータがDRAM4bに転送される。なお、DRAM4bに格納される撮影情報および手振れデータを、以降では撮影関連情報とも称する。
まず、カメラ制御部100から絞り値やシャッタースピード、撮影日時などの撮影情報がフロントエンジン4のDRAM4bに転送される。同様に、手振れ制御部110から手振れ補正に関する手振れデータがDRAM4bに転送される。なお、DRAM4bに格納される撮影情報および手振れデータを、以降では撮影関連情報とも称する。
(2)フローF3〜F5
撮像部15から出力されるRAW画像データが、センサ制御部401を経由してフロントエンジン4のDRAM4bに転送される。すなわち、フロントエンジン4によって撮像部15から出力されるRAW画像データをDRAM4bに記憶させる記憶処理が実行される。
撮像部15から出力されるRAW画像データが、センサ制御部401を経由してフロントエンジン4のDRAM4bに転送される。すなわち、フロントエンジン4によって撮像部15から出力されるRAW画像データをDRAM4bに記憶させる記憶処理が実行される。
また、フロントエンジン4は、センサ制御部401へのRAW画像データの入力開始から、画像縮小部410においてRAW画像の縮小処理を開始する。そして、DRAM4bへのRAW画像データの転送が完了した直後には画像縮小部410での縮小処理を完了させるようにして、生成された縮小画像をRAW画像の解析データとしてDRAM4bに保存する。
このように撮像部15からのRAW画像データをDRAM4bに記憶させる記憶処理と並行して行うハードウェア処理として、撮像部15から出力される撮影画像を縮小(加工)し縮小画像データ(加工データ)を生成する処理を画像縮小部41で実行するため、CPUを用いてソフトウェア処理を行っていた従来技術と比べて縮小画像を迅速に作成できることとなる。
(3)フローF6
フロントエンジン4のDRAM4bに格納されている縮小画像および撮影関連情報が、フロントエンジン4のRAWI/F405およびバックエンジン5のRAWI/F53を介してバックエンジン5のDRAM51に転送される。
フロントエンジン4のDRAM4bに格納されている縮小画像および撮影関連情報が、フロントエンジン4のRAWI/F405およびバックエンジン5のRAWI/F53を介してバックエンジン5のDRAM51に転送される。
(4)フローF7〜F8
バックエンジン5のDRAM51に格納されている縮小画像データをパラメータ演算部57に伝送し、この縮小画像データ(加工データ)に基づきYC変換/解像度変換部58の補正部580における補正処理(画像処理)で用いる補正パラメータ(画像処理パラメータ)を演算により決定する。そして、パラメータ演算部57で演算された補正パラメータをYC変換/解像度変換部58の補正部580に伝送して補正パラメータの設定を行う。
バックエンジン5のDRAM51に格納されている縮小画像データをパラメータ演算部57に伝送し、この縮小画像データ(加工データ)に基づきYC変換/解像度変換部58の補正部580における補正処理(画像処理)で用いる補正パラメータ(画像処理パラメータ)を演算により決定する。そして、パラメータ演算部57で演算された補正パラメータをYC変換/解像度変換部58の補正部580に伝送して補正パラメータの設定を行う。
上記のパラメータ演算部57では、例えばCPU50を用いたソフトウェア処理によって、縮小画像および撮影関連情報に基づき例えば次のような各種の補正パラメータ(画像処理パラメータ)が決定される。換言すれば、RAW画像データと比べてデータ量が削減されハンドリング性が向上した縮小画像は、ソフトウェア処理での負荷を軽減させ、次の各補正パラメータの演算において共通して利用できる中間的なデータとしての役割を担っている。
i)γカーブ
シャッタースピードや絞りによる撮影時のAE制御に対して撮影後には画像処理による露出補正が行われるが、この露出補正では、縮小画像等の情報に基づき撮影シーンやカメラの設定に合わせた適切なγカーブが決定される。
シャッタースピードや絞りによる撮影時のAE制御に対して撮影後には画像処理による露出補正が行われるが、この露出補正では、縮小画像等の情報に基づき撮影シーンやカメラの設定に合わせた適切なγカーブが決定される。
ii)ホワイトバランス(WB)ゲイン
縮小画像等の情報に基づき被写体に関する光源の判別を行って、RGB各色に対して適切なWBゲインが決定される。
縮小画像等の情報に基づき被写体に関する光源の判別を行って、RGB各色に対して適切なWBゲインが決定される。
iii)色マトリクス
良好な色再現を実現するために、縮小画像等の情報に基づき、撮影シーンやカメラの設定に合わせた適切な色マトリクスが決定される。
良好な色再現を実現するために、縮小画像等の情報に基づき、撮影シーンやカメラの設定に合わせた適切な色マトリクスが決定される。
iv)黒レベル
縮小画像等の情報に基づき、撮像センサから出力される画像信号のうち黒色に対応する信号レベル(黒レベル)が決定される。
縮小画像等の情報に基づき、撮像センサから出力される画像信号のうち黒色に対応する信号レベル(黒レベル)が決定される。
v)シャープネス
良好なシャープネス処理を施すために、縮小画像等の情報に基づき、撮影シーンやカメラの設定に合わせた適切なエッジ強調レベルが決定される。
良好なシャープネス処理を施すために、縮小画像等の情報に基づき、撮影シーンやカメラの設定に合わせた適切なエッジ強調レベルが決定される。
以上のような補正パラメータがパラメータ演算部57で決定され、YC変換/解像度変換部58の補正部580に伝達されることにより、撮影画像データに対する適切な補正処理が補正部580で行えることとなる。
(5)フローF9
フロントエンジン4のDRAM4bに格納されているRAW画像データが、フロントエンジン4のRAWI/F405およびバックエンジン5のRAWI/F53を介してバックエンジン5のDRAM51に転送される。この際には、フロントエンジン4により、DRAM4b内のRAW画像データに対して後述のYCC変換処理に関する前処理、具体的にはシェーディング補正や欠陥画素補正が行われ、これらの補正が施されたRAW画像データ(以下では「処理済みのRAW画像データ」ともいう)がフロントエンジン4から出力されるとともに、この処理済みのRAW画像データがRAWI/F53を介してバックエンジン5に入力される。
フロントエンジン4のDRAM4bに格納されているRAW画像データが、フロントエンジン4のRAWI/F405およびバックエンジン5のRAWI/F53を介してバックエンジン5のDRAM51に転送される。この際には、フロントエンジン4により、DRAM4b内のRAW画像データに対して後述のYCC変換処理に関する前処理、具体的にはシェーディング補正や欠陥画素補正が行われ、これらの補正が施されたRAW画像データ(以下では「処理済みのRAW画像データ」ともいう)がフロントエンジン4から出力されるとともに、この処理済みのRAW画像データがRAWI/F53を介してバックエンジン5に入力される。
以上のフローF7〜F9においては、フロントエンジン4からDRAM4b内のRAW画像データを読み出してバックエンジン5に出力する前に、画像縮小部410で生成された縮小画像をバックエンジン5に出力するため、縮小画像に基づくパラメータ演算部57での補正パラメータの算出を迅速に行えることとなる。
(6)フローF10
バックエンジン5のDRAM51に格納される処理済みのRAW画像データに対し処理ユニット56内のYC変換/解像度変換部58で、デジタルのRGB信号をデジタルの輝度信号および色差信号に変換する輝度・色差変換処理としてのYCrCb(YCC)変換を行って主画像のYCCデータ(以下では「メインYC画像」ともいう)を生成し、このメインYC画像をDRAM51に保存させる。
バックエンジン5のDRAM51に格納される処理済みのRAW画像データに対し処理ユニット56内のYC変換/解像度変換部58で、デジタルのRGB信号をデジタルの輝度信号および色差信号に変換する輝度・色差変換処理としてのYCrCb(YCC)変換を行って主画像のYCCデータ(以下では「メインYC画像」ともいう)を生成し、このメインYC画像をDRAM51に保存させる。
このYC変換/解像度変換部58では、上記のYCC変換処理とともに、パラメータ演算部57で決定された補正パラメータに基づき上述した露出補正等の補正処理(画像処理)が補正部580で実行される。この補正部580においては、パラメータ演算部57で演算された補正パラメータが既にセットされているため、この補正パラメータに基づく補正処理を速やかに実施できることとなる。
(7)フローF11
バックエンジン5のDRAM51に格納されるメインYC画像に対し処理ユニット56内のYC変換/解像度変換部58で解像度変換を行ってJPEGファイルのExifデータ部で用いるサムネイル画像のYCCデータ(以下では「サムネイルYC画像」とも称する)を生成し、このサムネイルYC画像をDRAM51に保存させる。
バックエンジン5のDRAM51に格納されるメインYC画像に対し処理ユニット56内のYC変換/解像度変換部58で解像度変換を行ってJPEGファイルのExifデータ部で用いるサムネイル画像のYCCデータ(以下では「サムネイルYC画像」とも称する)を生成し、このサムネイルYC画像をDRAM51に保存させる。
(8)フローF12
バックエンジン5のDRAM51に格納されるメインYC画像に対し処理ユニット56内のJPEG変換部59でJPEGデータに変換する処理を行ってデータ圧縮された主画像(メイン画像)を生成し、このデータ圧縮されたメイン画像をDRAM51に保存させる。
バックエンジン5のDRAM51に格納されるメインYC画像に対し処理ユニット56内のJPEG変換部59でJPEGデータに変換する処理を行ってデータ圧縮された主画像(メイン画像)を生成し、このデータ圧縮されたメイン画像をDRAM51に保存させる。
(9)フローF13
バックエンジン5のDRAM51に格納されるサムネイルYC画像に対し処理ユニット56内のJPEG変換部59でJPEGデータに変換する処理を行ってデータ圧縮されたサムネイル画像を生成し、このデータ圧縮されたサムネイル画像をDRAM51に保存させる。
バックエンジン5のDRAM51に格納されるサムネイルYC画像に対し処理ユニット56内のJPEG変換部59でJPEGデータに変換する処理を行ってデータ圧縮されたサムネイル画像を生成し、このデータ圧縮されたサムネイル画像をDRAM51に保存させる。
(10)フローF14
バックエンジン5のDRAM51に格納される撮影関連情報に基づき、処理ユニット56においてJPEGファイルのExifタグのデータを作成する。ここでは、バックエンジン5のCPU50(図3)を用いてExifタグ情報、つまりJPEG形式の圧縮画像データに付されるヘッダ情報が生成されるため、画像処理専用の単なるハードウェアエンジンでは困難であったヘッダ情報の作成がバックエンジン5において適切に行えることとなる。
バックエンジン5のDRAM51に格納される撮影関連情報に基づき、処理ユニット56においてJPEGファイルのExifタグのデータを作成する。ここでは、バックエンジン5のCPU50(図3)を用いてExifタグ情報、つまりJPEG形式の圧縮画像データに付されるヘッダ情報が生成されるため、画像処理専用の単なるハードウェアエンジンでは困難であったヘッダ情報の作成がバックエンジン5において適切に行えることとなる。
以上の処理により、バックエンジン5のDRAM51にはJPEG圧縮処理されたメイン画像およびサムネイル画像とExifタグ情報とが保存されることとなり、JPEGファイルイメージを構成するのに必要なデータ(情報)が揃うこととなる。
(11)フローF15
バックエンジン5のDRAM51に格納されるJPEGファイルイメージ(JPEG変換済みのメイン画像およびサムネイル画像とExifタグ情報)が、バックエンジン5のJPGI/F54およびフロントエンジン4のJPGI/F406を介してフロントエンジン4のDRAM4bに転送される。
バックエンジン5のDRAM51に格納されるJPEGファイルイメージ(JPEG変換済みのメイン画像およびサムネイル画像とExifタグ情報)が、バックエンジン5のJPGI/F54およびフロントエンジン4のJPGI/F406を介してフロントエンジン4のDRAM4bに転送される。
すなわち、バックエンジン5では、YC変換/解像度変換部58によるYCC変換処理、つまり輝度・色差変換処理と、JPEG変換部59によるデータ圧縮処理とを含む画像処理が行われ、JPEG形式の圧縮画像データがフロントエンジン4に出力されることとなる。
(12)フローF16
フロントエンジン4のDRAM4bに格納されるJPEGファイルイメージが、処理ユニット4d内の記録制御部411によって記録媒体9に記録される。すなわち、バックエンジン5から出力されたJPEG形式の圧縮画像データが記録制御部411によって記録媒体9に記録される。
フロントエンジン4のDRAM4bに格納されるJPEGファイルイメージが、処理ユニット4d内の記録制御部411によって記録媒体9に記録される。すなわち、バックエンジン5から出力されたJPEG形式の圧縮画像データが記録制御部411によって記録媒体9に記録される。
以上のカメラシステム1Aにおいては、撮像部15から出力される撮影画像に関する縮小画像をフロントエンジン4の画像縮小部410でハードウェア処理により高速に生成し、この縮小画像を撮影画像データより先にバックエンジン(画像処理エンジン)5に転送することにより、撮影画像データの転送完了を待たずにパラメータ演算部57で縮小画像に基づく補正パラメータを決定できる。その結果、バックエンジン5に転送されてくる撮影画像データに対して即座に補正パラメータに基づく補正処理を行えるため、撮影画像データに対する補正処理(画像処理)を速やかに開始できることとなる。
<第2実施形態>
<カメラシステムの構成>
本発明の第2実施形態に係るカメラシステム1Bについては、図1〜2に示す第1実施形態のカメラシステム1Aと同様の外観構成を有している。
<カメラシステムの構成>
本発明の第2実施形態に係るカメラシステム1Bについては、図1〜2に示す第1実施形態のカメラシステム1Aと同様の外観構成を有している。
図5は、カメラシステム1Bの電気的な構成を示すブロック図である。なお、図5は、図3に示す第1実施形態のブロック図に対応しており、図3と同一の部位等については同一の符号を付している。
カメラシステム1Bは、第1実施形態のカメラシステム1Aと類似の電気的な構成を有しているが、連写撮影時の画像処理を高速化するためにバックエンジン5(5a、5b)を2つ備えている点が主に相違している。
また、2つのバックエンジン5a、5bが設けられることに伴い、フロントエンジン4には、各バックエンジン5a、5bに対する2つのRAWI/F405a、405bおよび2つのJPGI/F406a、406bが設けられている。さらに、カメラシステム1Bには、フロントエンジン4と各バックエンジン5a、5bとに対して通信可能な通信部12と、例えばRAMとして構成され通信部12を介して各バックエンジン5a、5bから伝達される共有データ(後述する補正パラメータの情報など)を保存する共有メモリ13とが付加されている。
以上の構成を有するカメラシステム1Bでの連写撮影時の処理について、以下で説明する。
<連写撮影時の処理について>
図6および図7は、カメラシステム1Bにおける連写撮影時の処理を説明するための図である。ここで、図6は、連写撮影時における1枚目(奇数枚目)の撮影画像を処理する様子を示しており、図7は、2枚目(偶数枚目)の撮影画像を処理する様子を示している。なお、図6〜7では、データの流れを太線の矢印で示している。
図6および図7は、カメラシステム1Bにおける連写撮影時の処理を説明するための図である。ここで、図6は、連写撮影時における1枚目(奇数枚目)の撮影画像を処理する様子を示しており、図7は、2枚目(偶数枚目)の撮影画像を処理する様子を示している。なお、図6〜7では、データの流れを太線の矢印で示している。
まず、図6を参照し、連写撮影での1枚目の撮影時における各処理を、データの流れ(フロー)に沿って順に説明する。
連写撮影における1枚目の撮影では、図4に示す第1実施形態と類似の処理が行われる。具体的には、図4に示す各フローF1〜F16と同様の処理が行われる一方、フローF17が図4に対して追加されている。このフローF17に関する処理について以下で説明する。
・フローF17について
パラメータ演算部57で縮小画像に基づき決定された補正パラメータを、通信部12を介して共有メモリ13に記憶させる。これにより、共有メモリ13を介して補正パラメータの情報をバックエンジン5aから他のバックエンジン5bに伝達できる。
パラメータ演算部57で縮小画像に基づき決定された補正パラメータを、通信部12を介して共有メモリ13に記憶させる。これにより、共有メモリ13を介して補正パラメータの情報をバックエンジン5aから他のバックエンジン5bに伝達できる。
次に、図7を参照し、連写撮影での2枚目(偶数枚目)の撮影時における各処理を説明する。
連写撮影における2枚目の撮影では、1枚目の撮影と類似の処理が行われる。具体的には、各フローG1〜G17において図6に示す各フローF1〜F17と同様の処理が行われる一方、フローG18が図6に対して追加されている。このフローG18に関する処理について以下で説明する。
・フローG18について
バックエンジン5bにおける処理ユニット56内のパラメータ演算部57で補正パラメータを演算する際には、DRAM51に格納される縮小画像および撮影関連情報に加えて、共有メモリ13に記憶されている1枚前の補正パラメータにも基づいて補正パラメータが演算される。このように1枚前の撮影画像から得られた補正パラメータを考慮するのは、連写撮影における露出補正等の補正処理では補正対象の画像が1枚前の画像に対して輝度等において極端に相違するとユーザに違和感等を与えてしまうことから、1枚前の画像から得られた補正パラメータと整合する適切な補正パラメータをパラメータ演算部57で決定する必要があるためである。ここで、カメラシステム1Bでは、1枚前の画像に関する補正パラメータは別のバックエンジン5で算出されるため、双方のバックエンジン5a、5bから参照可能な共有メモリ13に1枚前の画像に係る補正パラメータを記憶させるようにしている。
バックエンジン5bにおける処理ユニット56内のパラメータ演算部57で補正パラメータを演算する際には、DRAM51に格納される縮小画像および撮影関連情報に加えて、共有メモリ13に記憶されている1枚前の補正パラメータにも基づいて補正パラメータが演算される。このように1枚前の撮影画像から得られた補正パラメータを考慮するのは、連写撮影における露出補正等の補正処理では補正対象の画像が1枚前の画像に対して輝度等において極端に相違するとユーザに違和感等を与えてしまうことから、1枚前の画像から得られた補正パラメータと整合する適切な補正パラメータをパラメータ演算部57で決定する必要があるためである。ここで、カメラシステム1Bでは、1枚前の画像に関する補正パラメータは別のバックエンジン5で算出されるため、双方のバックエンジン5a、5bから参照可能な共有メモリ13に1枚前の画像に係る補正パラメータを記憶させるようにしている。
以上のカメラシステム1Bにおいても、第1実施形態と同様に撮影画像に関する縮小画像をフロントエンジン4の画像縮小部410でハードウェア処理により高速に生成し、この縮小画像を撮影画像データより先にバックエンジン5に転送することにより、パラメータ演算部57で縮小画像に基づく補正パラメータを迅速に決定できる。その結果、バックエンジン5に転送されてくる撮影画像データに対して即座に補正パラメータに基づく補正処理を行えるため、撮影画像データに対する補正処理(画像処理)を速やかに開始できることとなる。
さらに、カメラシステム1Bでは、連写撮影における1枚目(奇数枚目)の撮影と2枚目(偶数枚目)の撮影との各画像処理を交互に別個のバックエンジン5a、5bで行うことにより、連写速度の向上を図ることが可能である。すなわち、フロントエンジン4のDRAM4bから連写撮影で得られた各撮影画像に係る画像データを読み出して2つのバックエンジン5a、5bに選択的に出力し、各撮影画像に関する画像処理を各バックエンジン5a、5bで分担させるため、連続的な撮影(連写撮影)で得られる一連の撮影画像に対して迅速な画像処理を行えることとなる。
<変形例>
・上記の第2実施形態においては、2つのバックエンジン(画像処理回路)を備えるのは必須でなく、3以上のバックエンジンを備えても良い。ここで、バックエンジンの個数が増えれば、連写速度をより向上できることとなる。
・上記の第2実施形態においては、2つのバックエンジン(画像処理回路)を備えるのは必須でなく、3以上のバックエンジンを備えても良い。ここで、バックエンジンの個数が増えれば、連写速度をより向上できることとなる。
・上記の第2実施形態においては、バックエンジン5aで奇数枚目の撮影画像に対する画像処理を行い、バックエンジン5bで偶数枚目の撮影画像に対する画像処理を行うのは必須ではなく、バックエンジン5aで偶数枚目を処理しバックエンジン5bで奇数枚目を処理するようにしても良い。
また、奇数枚目と偶数枚目とによる分配をせず、先に画像処理が完了したバックエンジンに補正済みのRAW画像データを優先的に転送するようにしても良い。すなわち、2つのバックエンジン5a、5bのうち画像処理に関する処理中でないバックエンジンをフロントエンジン4で検出し、この検出された空き状態のバックエンジンに、処理済みの画像データを出力するようにする。なお、画像処理中でないバックエンジンの検出については、例えばバックエンジン5から画像処理中に発信されるビジー(busy)信号をフロントエンジン4で監視し、このビジー信号が発信されないバックエンジンを検知するようにすれば良い。以上により、奇数枚目と偶数枚目とで固定的に各バックエンジン5に画像処理を分配する場合より、バックエンジンの効率的な利用が図れることとなる。
1A、1B カメラシステム
4 フロントエンジン
4a、50 CPU
4b、51 DRAM
5、5a、5b バックエンジン
10 カメラボディ
15 撮像部
57 パラメータ演算部
58 YC変換/解像度変換部
151 撮像センサ
401 センサ制御部
410 画像縮小部
580 補正部
4 フロントエンジン
4a、50 CPU
4b、51 DRAM
5、5a、5b バックエンジン
10 カメラボディ
15 撮像部
57 パラメータ演算部
58 YC変換/解像度変換部
151 撮像センサ
401 センサ制御部
410 画像縮小部
580 補正部
Claims (5)
- 撮像装置であって、
(a)被写体に係る画像データを出力する撮像手段と、
(b)前記撮像手段から出力される画像データを所定の記憶手段に記憶させる記憶処理を実行する第1処理部と、
(c)前記所定の記憶手段から読み出された画像データに対して画像処理を実行する第2処理部と、
を備え、
前記第1処理部は、
(b-1)前記記憶処理と並行して行うハードウェア処理として、前記撮像手段から出力される画像データを加工し加工データを生成する処理を実行する処理回路、
を有するとともに、
前記第2処理部は、
(c-1)前記処理回路で生成された前記加工データに基づき、前記画像データに対する画像処理を実行する画像処理手段、
を有することを特徴とする撮像装置。 - 請求項1に記載の撮像装置において、
前記画像処理手段は、
前記加工データに基づき、前記画像処理で用いる画像処理パラメータを決定する決定手段と、
前記決定手段で決定された画像処理パラメータに基づき前記画像処理を実行する手段と、
を有することを特徴とする撮像装置。 - 請求項1に記載の撮像装置において、
前記第1処理部は、
(b-2)前記所定の記憶手段から前記画像データを読み出して前記第2処理部に出力する第1出力手段と、
(b-3)前記第1出力手段による前記画像データの出力前に、前記処理回路で生成された前記加工データを前記第2処理部に出力する第2出力手段と、
を有することを特徴とする撮像装置。 - 請求項1に記載の撮像装置において、
前記画像処理手段は、前記画像処理を実行する複数の画像処理回路を備えており、
前記撮像手段は、
(a-1)連続的な一連の撮影により各撮影画像に係る画像データを順次に出力する手段、
を有するとともに、
前記第1処理部は、
(b-4)前記所定の記憶手段から前記各撮影画像に係る画像データを読み出して前記複数の画像処理回路に選択的に出力し、前記各撮影画像に関する画像処理を前記複数の画像処理回路で分担させる選択出力手段、
を有することを特徴とする撮像装置。 - 画像処理方法であって、
(a)被写体に係る画像データを撮像手段で生成する撮像工程と、
(b)前記撮像手段から出力される画像データを所定の記憶手段に記憶させる記憶処理を実行する記憶処理工程と、
(c)前記記憶処理と並行して行うハードウェア処理として、前記撮像手段から出力される画像データを加工し加工データを生成する処理を実行するハードウェア処理工程と、
(d)前記ハードウェア処理工程で生成された前記加工データに基づき、前記所定の記憶手段から読み出された画像データに対して画像処理を実行する画像処理工程と、
を備えることを特徴とする画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007084376A JP2008245009A (ja) | 2007-03-28 | 2007-03-28 | 撮像装置および画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007084376A JP2008245009A (ja) | 2007-03-28 | 2007-03-28 | 撮像装置および画像処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008245009A true JP2008245009A (ja) | 2008-10-09 |
Family
ID=39915769
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007084376A Pending JP2008245009A (ja) | 2007-03-28 | 2007-03-28 | 撮像装置および画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2008245009A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013029962A (ja) * | 2011-07-28 | 2013-02-07 | Nikon Corp | 電子装置およびプログラム |
JP2013197608A (ja) * | 2012-03-15 | 2013-09-30 | Nikon Corp | 電子カメラ |
JP2015097372A (ja) * | 2013-10-10 | 2015-05-21 | パナソニックIpマネジメント株式会社 | 撮像装置および撮像方法 |
JP2018004689A (ja) * | 2016-06-27 | 2018-01-11 | キヤノン株式会社 | 画像処理装置および方法、および撮像装置 |
-
2007
- 2007-03-28 JP JP2007084376A patent/JP2008245009A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013029962A (ja) * | 2011-07-28 | 2013-02-07 | Nikon Corp | 電子装置およびプログラム |
JP2013197608A (ja) * | 2012-03-15 | 2013-09-30 | Nikon Corp | 電子カメラ |
JP2015097372A (ja) * | 2013-10-10 | 2015-05-21 | パナソニックIpマネジメント株式会社 | 撮像装置および撮像方法 |
JP2018004689A (ja) * | 2016-06-27 | 2018-01-11 | キヤノン株式会社 | 画像処理装置および方法、および撮像装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4301308B2 (ja) | 撮像装置および画像処理方法 | |
JP4478599B2 (ja) | 撮像装置 | |
JP5169144B2 (ja) | 撮像装置 | |
JP2009139795A (ja) | 撮像装置 | |
JP2005198035A (ja) | デジタルカメラ | |
JP2008245009A (ja) | 撮像装置および画像処理方法 | |
JP5216711B2 (ja) | 複眼撮像装置、撮像方法及びプログラム | |
JP2008211843A (ja) | 撮像装置及び撮像制御プログラム | |
JP2005311764A (ja) | デジタルカメラ | |
JP2002207162A (ja) | デジタルカメラ | |
JP2009111587A (ja) | 撮像装置 | |
JP2009109623A (ja) | 撮像装置 | |
JP2008219320A (ja) | 撮像装置および画像処理方法 | |
JP2009267593A (ja) | 撮像装置、欠陥画素検出方法および欠陥画素検出プログラム | |
JP2006197346A (ja) | 撮影装置 | |
JP4335648B2 (ja) | デジタルカメラ及びデジタルカメラの撮像方法 | |
JP2006080960A (ja) | 撮像装置および撮像方法 | |
JP2019029778A (ja) | 撮像装置、および画像処理装置、画像処理方法 | |
JP2008219321A (ja) | 撮像装置および画像処理方法 | |
JP3918985B2 (ja) | デジタルカメラ | |
JP2006173860A (ja) | 電子カメラ | |
JP2012231362A (ja) | デジタルカメラ | |
JP3551158B2 (ja) | デジタルカメラ | |
JP2005221973A (ja) | 撮像装置 | |
JP2008227839A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20090803 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20100215 |