JP2015136072A - 撮像装置およびその制御方法 - Google Patents

撮像装置およびその制御方法 Download PDF

Info

Publication number
JP2015136072A
JP2015136072A JP2014007272A JP2014007272A JP2015136072A JP 2015136072 A JP2015136072 A JP 2015136072A JP 2014007272 A JP2014007272 A JP 2014007272A JP 2014007272 A JP2014007272 A JP 2014007272A JP 2015136072 A JP2015136072 A JP 2015136072A
Authority
JP
Japan
Prior art keywords
image data
unit
recording medium
data
raw
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014007272A
Other languages
English (en)
Other versions
JP2015136072A5 (ja
JP6278712B2 (ja
Inventor
浩二 磨田
Koji Mada
浩二 磨田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014007272A priority Critical patent/JP6278712B2/ja
Priority to US14/596,489 priority patent/US9462182B2/en
Publication of JP2015136072A publication Critical patent/JP2015136072A/ja
Publication of JP2015136072A5 publication Critical patent/JP2015136072A5/ja
Application granted granted Critical
Publication of JP6278712B2 publication Critical patent/JP6278712B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Studio Devices (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

【課題】 高速に現像処理を行う回路を必要とせずに、かつ、必要な際には容易に再生可能にRAW画像を記録することが可能な撮像装置およびその制御方法を提供する。【解決手段】 撮影時には、RAW画像データを簡易現像処理した画像データに基づく第1の符号化画像データをRAW画像とともに記録し、後で、RAW画像データを高画質現像処理した画像データに基づく第2の符号化画像データを生成して記録する。撮影時に第2の符号化画像データのデータ量を見積もり、このデータ量に基づく領域を第2の符号化画像データを記録するための領域として記録媒体の管理情報に反映することで、記録媒体の領域を確保しておく。【選択図】 図1

Description

本発明は、撮像装置およびその制御方法に関する。
従来、単板式カラー撮像センサを用いる撮像装置では、撮像センサによって得られる画像情報(RAW画像)にいわゆる現像処理を適用し、現像処理された輝度信号及び色差信号を圧縮符号化してJPEG形式で記録媒体に記録するのが一般的である。現像処理には、各画素について色補間処理を行って輝度と色差から成る信号を生成するデモザイク処理、信号に対するノイズ低減処理、ホワイトバランス処理、光学的な歪を補正する処理、画像の適正化処理などが含まれるが、これらに限定されない。
一方、RAW画像を記録できる撮像装置も存在する(特許文献1)。RAW画像はJPEG形式などと比較して記録に必要なデータ量が膨大になるが、画質の劣化を最低限に抑えながら柔軟な後編集が可能であるという利点がある。
特開2011−244423号公報
RAW画像はもともと撮像装置内でのみ用いられていたため、撮像装置のメーカ毎の独自形式であり、互換性がない。そのため、一般的な装置で画像を確認できるようにするためには、RAW画像を現像処理し、JPEG等の汎用形式の画像を生成することが必要となる。しかし、近年では、撮像センサの画素数が増大し、現像処理に必要な処理量が相乗的に増大している。そのため、撮影と並行してリアルタイムに現像処理を行うには、高速に処理するための回路が必要となり、回路規模の増大や消費電力の増加につながる。
一方、RAW画像だけを記録しておき、必要になった際に現像処理を実施して再生するようにすることも考えられるが、上述のようにRAW画像は汎用性が無いため、異なるメーカの機器などでは現像処理ができないという問題がある。
本発明の目的は、高速に現像処理を行う回路を必要とせずに、かつ、必要な際には容易に再生可能にRAW画像を記録することが可能な撮像装置およびその制御方法を提供することにある。
上述の目的は、撮影指示に応答して被写体像のRAW画像データを生成する撮像手段と、RAW画像データに対して第1の現像処理または第1の現像処理よりも高画質な画像が得られる第2の現像処理を行って画像データを生成する現像手段と、現像手段により生成された画像データを符号化して符号化画像データを生成する符号化手段と、RAW画像データのデータ量、もしくはRAW画像データに対して第1の現像処理を行って生成された画像データから符号化手段で生成された第1の符号化画像データのデータ量に基づいて、RAW画像データに対して第2の現像処理を行って生成された画像データから符号化手段で生成される第2の符号化画像データのデータ量を見積もる見積もり手段と、記録媒体にデータを読み書きする記録手段と、RAW画像データとRAW画像データに対応する第1の符号化画像データを記録媒体に書き込むように記録手段を制御し、記録媒体に書き込まれたRAW画像データに対応する第2の符号化画像データを生成するように現像手段および符号化手段を制御し、第2の符号化画像データを記録媒体に書き込むように記録手段を制御する制御手段と、を有し、制御手段は、見積もり手段が見積もったデータ量に基づいて、記録媒体に書き込まれたRAW画像データに対応する第2の符号化画像データを書き込むための領域を記録媒体に確保し、確保した領域に第2の符号化画像データを書き込むように、記録手段を制御することを特徴とする撮像装置によって達成される。
本発明によれば、高速に現像処理を行う回路を必要とせずに、かつ、必要な際には容易に再生可能にRAW画像を記録することが可能な撮像装置およびその制御方法を提供することができる。
第1の実施形態に係る撮像装置の構成例を示すブロック図 実施形態に係る撮像装置の静止画撮影モードにおける動作を説明するためのフローチャート 実施形態における静止画ファイルとRAWファイルの構成例を示す図 実施形態に係る撮像装置のアイドル状態における動作を説明するためのフローチャート 実施形態における簡易現像前後の画像データ量の関係例を示す図 第1の実施形態に係る撮像装置における、後現像処理前後の管理情報と記録媒体上のファイルの配置との関係例を示す図 実施形態における静止画圧縮部の動作を説明するためのフローチャート 第2の実施形態に係る撮像装置の構成例を示すブロック図 第3の実施形態の静止画圧縮部の動作を説明するためのフローチャート 第3の実施形態の静止画圧縮部が行う見積もりデータ量の修正方法の例を説明するための図 第4の実施形態に係る撮像装置における、後現像処理前後の管理情報と記録媒体上のファイルの配置との関係例を示す図 第5の実施形態に係る撮像装置の構成例を示すブロック図 第5の実施形態に係る撮像装置における、後現像処理前後の管理情報と記録媒体上のファイルの配置との関係例を示す図 実施形態に係る撮像装置の撮像センサ部における画素配列の例を示す図
●(第1の実施形態)
以下、添付図面を参照しながら、本発明の例示的な実施形態を詳細に説明する。
図1は、本発明の実施形態に係る撮像装置の機能構成例を示すブロック図である。これらの機能ブロックは、ASICなどの専用ハードウェアによって実現されてもよいし、MPU等の汎用プロセッサがプログラムを実行することによりソフトウェア的に実現されてもよい。
図1に示した撮像装置100は、被写体像を撮像して得られた画像データを記録媒体に記録するだけでなく、画像データを記録媒体から再生し、現像処理して表示する機能や、画像データを外部の装置やサーバ(クラウド)等と送受信する機能を有する。従って、本発明の実施形態に係る撮像装置は、画像処理装置、記録装置、再生装置、記録再生装置、通信装置等と表現することもできる。
図1において、制御部161は、CPU、MPUなどのプログラマブルプロセッサと、プログラマブルプロセッサが実行する制御プログラムを格納する不揮発性メモリを含み、撮像装置100の全体の処理を制御する。なお、図1では煩雑さを避けるために一部しか記載していないが、制御や通信を行うための信号線が制御部161から各機能ブロックに接続されている。操作部162は、ユーザが撮像装置100に対して指示を与えるために用いるキーやボタン、タッチパネルなどの入力デバイスを含む。操作部162からの操作信号は、制御部161によって検出され、制御部161は検出した操作に応じた動作が実行されるように他の機能ブロックなどを制御する。表示部123は、表示処理部122を通じて提供される、撮像装置100で撮影もしくは再生された画像や、メニュー画面、各種情報等を表示する。表示部123は例えば液晶ディスプレイ(LCD)等を含む。
撮像対象となる被写体像は、撮像光学部101を介して撮像センサ部102上に結像する。操作部162による撮影開始の指示に応答して制御部161は撮影および記録動作を開始させる。なお、撮影スタンバイ時にライブビュー表示を実現するための動画撮影を行うように構成してもよい。撮像光学部101及び撮像センサ部102の動作は、評価値算出部105により取得される絞り、フォーカス、手ぶれ等の評価値算出結果や、認識部131からの被写体情報に基づいて、制御部161によって制御される。
撮像センサ部102は、画素毎に配置される赤、緑、青(RGB)のカラーフィルターを透過した光を電気信号に変換する、例えばCCDイメージセンサやCMOSイメージセンサであってよい。図14は、撮像センサ部102に配置されるカラーフィルターの一例であり、撮像装置100が扱う画像の画素配列を表している。図14に示すように、赤(R)1603、緑(G)1601、青(B)1602が画素毎にモザイク状に配置されていて、2×2の4画素につき赤1画素、青1画素、緑2画素を1セットにして規則的に並べられた構造となっている。このようなカラーフィルタの配列は、一般に原色ベイヤー配列と呼ばれる。本実施形態の撮像センサ部102は、横8000画素×横4000画素の画像データを60フレーム毎秒で出力する能力を有するものとする。なお、カラーフィルターを構成する色や配列は原色ベイヤー配列に限定されず、他の任意の配列を採用することができる。
撮像センサ部102によって変換された電気信号は、センサ信号処理部103によって画素の修復処理が施される。修復処理には、撮像センサ部102における欠落画素や信頼性の低い画素の値に対し、周辺画素値を用いて修復対象の画素を補間したり、所定のオフセット値を減算したりする処理が含まれる。本実施形態では、センサ信号処理部103から出力される画像データを、未現像の画像を意味するRAW画像データという。
センサ信号処理部103から出力されたRAW画像データは、現像部110で現像処理される。現像部110は、複数(本実施形態では2つ)の異なる現像処理部を有し、それぞれ、処理精度と処理負荷の優先度が異なっている。本実施形態では、第1の現像処理を行う簡易現像部111と、第2の現像処理を行う高画質現像部112とから成り、それらの出力を選択するスイッチ部121を含んで構成される。簡易現像部111、高画質現像部112は共に、RAW画像データに対してデベイヤー処理(デモザイク処理もしくは色補間処理とも呼ばれる)、ホワイトバランス調整、RGB→YUV変換、ノイズ低減、光学歪の補正などの現像処理を行う。なお、これらは現像処理に含まれる処理の例示であり、これらの全てが現像処理に必須であることを意味しない。他の処理が含まれてもよいし、一部が含まれなくてもよい。
高画質現像部112は、簡易現像部111よりも各々の処理を高精度に行う。高精度であるため、簡易現像部111よりも高画質な現像画像が得られるが、一方で、処理負荷が大きい。他方、簡易現像部111は、RAW画像データの1画面の画素数を、横2000画素×縦1000画素に縮小する。更に、簡易現像部111は、高画質現像部112よりも処理の精度が低いため、得られる画質は高画質現像部112よりも低いものの、撮影中に高速に現像処理を行うことができる。例えば、簡易現像部111は、デベイヤー処理やその他の補正処理のために用いるフィルタのタップ数が、高画質現像部112よりも少ない。このように、簡易現像部111は、RAW画像データよりも画素数が少ない画像データを処理し、更に、処理自体も簡易的に行うことで、処理量が少なくなるように構成されている。簡易現像部111の処理負荷は小さいので、撮影動作と並行したリアルタイムの現像の際には簡易現像部111を用いるようにする。スイッチ部121は、操作部162によりユーザから指示された操作内容や実行中の動作モードに応じた制御に従って、制御部161によって切り替えられる。
なお、本実施形態では、現像部110の中に簡易現像部111と高画質現像部112が独立に存在する構成を示しているが、一つの現像部が動作モードを切り替えて、簡易現像と高画質現像の処理を排他的に行う構成としてもよい。また、複数の現像部は互いに処理負荷が異なればよく、処理する画像のサイズと処理精度の両方を下げることは必須ではない。例えば、処理する画素数は同一であるが、処理精度が異なっている現像部や、処理精度は同一であるが処理する画素数が異なっている現像部が含まれていてもよい。ただし、撮影された画像の現像処理が、次の画像の撮影開始までに完了できる現像部が少なくとも1つ含まれるようにする。
なお、図1ではセンサ信号処理部103からのRAW画像データが現像部110の中の簡易現像部111と高画質現像部112に入力されるように図示しているが、これは同一のRAW画像データに対して両方の現像部で現像処理を行うことを意味していない。処理負荷の観点から、基本的には1つの現像部だけが現像処理を実行する。従って、RAW画像データが入力される現像部を切り替えるようにスイッチ部121が設けられても良い。
現像部110によって現像処理された画像データは、表示処理部122によって所定の処理がなされた後、表示部123にて表示される。また、現像処理された画像データは、映像出力端子124により、外部に接続された表示機器に出力してもよい。映像出力端子124は、例えばHDMI(登録商標)やSDIのような汎用インタフェースを含む。
現像部110によって現像処理された画像データは、評価値算出部105にも供給される。評価値算出部105は、画像データから例えばフォーカス状態や露出状態などの評価値を算出する。これらの評価値は例えば制御部161による自動焦点検出や自動露出制御に用いられる。
現像部110によって現像処理された画像データは、認識部131にも供給される。認識部131は、画像データ中の被写体情報を検出及び認識する機能を有する。認識部131は例えば、画像データによって表される画像に含まれる人物の顔を検出し、検出された場合は顔の位置や大きさなどを示す情報を出力する。認識部131はさらに顔などの特徴情報に基づいて特定の人物の認証などを行ってもよい。
現像部110によって現像処理された画像データは、静止画圧縮部141及び動画圧縮部142にも供給される。画像データを静止画として圧縮する場合は、静止画圧縮部141を用いる。符号化手段としての静止画圧縮部141は、JPEG等の公知の符号化方式に従い静止画データを符号化する。画像データを動画として圧縮する場合は、動画圧縮部142を用いる。動画圧縮部142は、H.264、H.265等の公知の符号化方式に従って動画データを符号化する。静止画圧縮部141及び動画圧縮部142は、それぞれ対象となる画像データを高能率符号化(圧縮符号化)し、情報量が圧縮された画像データを生成して、記録再生部151に送る。また、静止画圧縮部141及び動画圧縮部142は、符号化された静止画データ、或いは動画データのデータ量を記録媒体管理部172へと通知する。
また、静止画圧縮部141は、簡易現像部111からの静止画データを圧縮した場合、圧縮後の静止画データ量をデータ量見積もり部171に通知する。データ量見積もり部171は、同じRAW画像データを、記録時よりも品質よく現像処理(ここでは高画質現像部112を用いて現像処理)して静止画圧縮部141で圧縮した場合のデータ量を推定する。データ量見積もり部171の動作の詳細については後述する。
データ量見積もり部171は、見積もったデータ量を記録媒体管理部172と静止画圧縮部141へと通知する。また、データ量見積もり部171は、データ量を見積もったRAW画像データが高画質現像部112で現像処理され、静止画圧縮部141で符号化されるまで、見積ったデータ量を例えばバッファ部115に保持しておくことができる。静止画圧縮部141は、高画質現像部112からの出力を符号化する際に、データ量見積もり部171から通知されたデータ量に応じた符号化を行うことができる。詳細は後述する。
RAW圧縮部113は、センサ信号処理部103から出力されたRAW画像データにウエーブレット変換や、差分符号化等を適用し、データ量を削減した圧縮RAWデータを生成する。RAW圧縮部113は、圧縮RAWデータをバッファ部115に格納する。バッファ部115はメモリやHDDなど、任意の記憶装置であってよい。また、RAW圧縮部113は、圧縮RAWデータのデータ量を記録媒体管理部172へと通知する。圧縮RAWデータは、バッファ部115に保存しておいてもよいし、格納後にさらに別の記録媒体に移動させてバッファ部115から削除してもよい。
記録再生部151は、静止画圧縮部141からの静止画データや、動画圧縮部142からの動画データを記録媒体152に記録する。また記録再生部151は、バッファ部115から読み出したRAWデータの状態の静止画および動画データを、圧縮後の静止画並びに動画データとは別個のRAWファイルとして記録媒体152に記録する。また記録再生部151は、記録媒体152に記録されたデータを、FAT等の公知のファイルシステムに従いファイルとして管理する。記録媒体152は、例えば内蔵式の大容量メモリやハードディスク、又は、着脱式のメモリカード等である。また、記録再生部151は、記録媒体152から静止画ファイル、動画ファイル、RAWファイル(静止画、動画)を読み出すこともできる。また、記録再生部151は、通信部153を介して、外部のストレージやサーバに、各種データファイルを書き込んだり、読み出したりすることができる。通信部153は通信端子154を通じ、無線通信や有線通信によりコンピュータネットワークや外部機器へのアクセスを撮像装置100に提供する。
管理手段としての記録媒体管理部172は、記録再生部151により記録媒体152に記録されるファイルの記録領域を管理する管理情報を生成する。また、記録媒体管理部172は、静止画圧縮部141や動画圧縮部142から通知されたRAW画像データ、静止画データ、又は動画データのデータ量と、データ量見積もり部171からの見積データ量とを用いて管理情報を更新し、記録媒体152の記録領域を管理する。そして、記録媒体152における、各ファイルの記録アドレスを記録再生部151へと通知する。
記録再生部151は、記録媒体152から、又は、通信部153を介して、所望のファイルを取得して再生する。再生対象のファイルがRAWファイルであれば、記録再生部151は、取得されたRAWファイルをバッファ部115に格納する。再生対象のファイルが静止画ファイルであれば、記録再生部151は、取得された静止画ファイルを静止画伸張部143に供給する。再生対象のファイルが動画ファイルであれば、記録再生部151は、取得された動画ファイルを動画伸張部144に供給する。
RAW伸張部114は、バッファ部115に格納されているRAWファイルを読みだして、圧縮RAWデータを復号して伸張する。RAW伸張部114によって伸張されたRAWデータは、現像部110の簡易現像部111、高画質現像部112に供給される。
静止画伸張部143は、入力された静止画ファイルを復号して伸張し、静止画の再生画像として表示処理部122に供給する。動画伸張部144は、入力された動画ファイルを復号して伸張し、動画の再生画像として表示処理部122に供給する。表示処理部122で処理された静止画や動画は、表示部123で表示される。
次に、図2に示すフローチャートを用いて、撮像装置100の撮影モードにおける動作について説明する。図2のフローチャートは、特に明示されている場合を除き、図1に示した機能ブロックを制御部161が制御することで実現される処理の手順を示す。具体的には制御部161が有する不揮発性メモリに格納されたプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される処理である。
制御部161は撮像装置100の処理負荷状況が低いか否かを判定し(S301)、負荷状況に応じてアイドル状態(S320)へ遷移し、そうでなければS302へ進む。負荷状態は制御部161が有するCPUの稼働率や、予め定められた高負荷の動作、例えば高速連写動作が行われているかどうかなどに応じて判別することができるが、これらに限定されない。アイドル状態に遷移する程度に処理負荷が低くない場合、制御部161は処理をS302へ進める。なお、アイドル状態へ遷移するかどうかの判定処理については後述する。
S302において制御部161は、撮像光学部101や撮像センサ部102の動作を制御する。例えば、制御部161は、操作部162を通じたユーザのズーム指示や撮影準備指示に従って、撮像光学部101に含まれるズームレンズやフォーカスレンズを移動させたり、撮影画素数の指示に従って撮像センサ部102の読み出し領域を設定したりする。また、制御部161は、評価値算出部105からの評価値の情報や認識部131からの被写体情報に基づいて、特定被写体に対する合焦や追尾などの制御を実現する。S302では、所定のフレーム周期に応じた撮影条件で撮影が実施される。
S303では、撮像センサ部102によって変換された電気信号に対して、センサ信号処理部103が画素の修復のための信号処理を施す。例えば、センサ信号処理部103は、撮像素子の欠落画素に対応する電気信号や、信頼性の低い画素の電気信号に対し、周辺画素値を用いて補間したり、所定のオフセット値を減算したりする。
S304において、簡易現像部111がRAW画像データを現像処理する。なお、制御部161は、遅くともS304の開始時までに、現像部110から簡易現像部111で現像処理された画像データが出力されるようにスイッチ部121の状態を制御する。
簡易現像部111は、RAW画像データの画素数を前述のように削減し、画像を縮小する。そして、簡易現像部111は、縮小RAW画像データに対してデベイヤー処理(デモザイク処理)して各画素に不足している色信号を生成したのち、輝度と色差から成る信号へ変換する(RGB→YUV変換)。さらに簡易現像部111は、各信号に含まれるノイズを除去したり、撮影光学系の光学歪(収差)を補正したり、ホワイトバランスを調整したりする。上述の通り簡易現像部111は、画素数を削減してから現像処理したり、ノイズ除去や光学歪補正を処理速度を優先した処理で行ったり省いたりすることで、現像処理の負荷(処理速度や消費電力)が撮像装置100の撮影能力に与える制限を軽減または除去する。簡易現像部111を用いることで、例えば、高画質現像部112を用いた場合には不可能な高速連写速度や連続撮影枚数などを実現することができる。
簡易現像部111で現像処理された画像データは、スイッチ部121を通じて評価値算出部105に供給される。評価値算出部105は、画像データに含まれる輝度値やコントラスト値などから撮像光学部101の合焦状態や、画像の露出状態などの評価値を所定の方法で算出する(S305)。なお、評価値算出部105は、現像処理前のRAW画像データに対してこれらの評価値を算出しても良い。
また、簡易現像部111で現像処理された画像データは、認識部131に供給される。認識部131は、画像データに対し、予め定められた特定の特徴を有する被写体(例えば人物の顔)の検出処理を適用し、被写体情報を生成する。例えば、画像データ内における顔の有無や、顔の位置や大きさ、顔に基づいて認識された個人の情報などを被写体情報として出力する(S306)。
また、簡易現像部111で現像処理された画像データは、表示処理部122に供給される。表示処理部122は、取得した画像データから表示画像を形成し、表示部123又は外部の表示装置に出力して、表示する(S307)。表示部123による表示画像は例えば、撮影待機状態において、ユーザが被写体を適切にフレーミングするためのライブビュー表示(撮影スルー画像表示)のために用いられる。さらに、表示処理部122は、評価値算出部105や認識部131から供給される評価値や被写体情報を活用して、例えば、表示画像に合焦領域や認識された顔の位置を示す枠状のマークを重畳表示したりしてもよい。
S308において、制御部161は、操作部162を通じてユーザから撮影指示が入力されたか判定し、撮影指示が入力された場合は処理をS310へ進め、撮影指示の入力が無かった場合はS301からの処理を繰り返す。
S310で制御部161は、撮影指示に応答して、撮像光学部101、撮像センサ部102を制御して所定の撮影条件での撮影を開始させる。ここでは、静止画撮影時の動作を説明する。撮像センサ部102で得られた1画面分の画像データは現像部110に供給されて簡易現像部111で現像処理されたのち、静止画圧縮部141に供給される。静止画圧縮部141は、供給された画像データに対してJPEG符号化処理など所定の符号化処理(静止画圧縮)を施し(S310)、静止画データを生成する。本実施形態では、このように、撮影時において、簡易現像部111により現像され、静止画圧縮部141で符号化された静止画データを簡易静止画データ(第1の符号化画像データ)と呼ぶ。なお、符号化方法はJPEG方式に限らず、任意のものが使用可能である。
S311において記録再生部151は、簡易静止画データを含む静止画ファイル(簡易静止画ファイル)を記録媒体152に記録する。
撮像センサ部102で得られた1画面分のRAW画像データは、さらにRAW圧縮部113に供給される。RAW圧縮部113は、RAW画像データにデータ量を削減するための符号化(RAW圧縮)処理を適用して圧縮RAW画像データに変換する(S312)。圧縮RAW画像データはバッファ部115に格納される。なお、RAW画像データの符号化は可逆および不可逆符号化のいずれであってもよい。
S313において、記録再生部151は、バッファ部115から画像データを読み出し、(圧縮)RAW画像データが格納されたデータファイル(RAWファイル)を記録媒体152に記録する。
なお、簡易静止画データの生成および記録処理(S310〜S311)と、RAW画像データの圧縮および記録処理(S312〜S313)の少なくとも一部は並列処理されてよい。また、S311及びS313において、記録再生部151は、静止画ファイル及び/又はRAWファイルを、通信部153を介して、通信端子154から外部のストレージに送って、外部のストレージによって記録するようにしても良い。
なお、ここでは、S308で静止画の撮影指示がなされた場合について説明したが、動画の撮影指示がなされた場合も基本的には同様に処理できる。まず、S301〜S307までの処理は共通である。そして、S310〜S311で簡易動画データの生成および記録処理を、S312〜S313でRAWデータの圧縮および記録処理を実施すればよい。
簡易動画データは、撮像センサ部102から得られるRAW画像データから構成される動画データについて、S310で各フレーム画像を簡易現像部111で現像処理し、動画圧縮部142で符号化して生成する。そして、S311で記録再生部151が簡易動画データを記録する。また、RAWデータについては、S312で各RAW画像フレームを圧縮したデータを、S313でバッファ部115を通じて記録再生部151が記録する。
次に、本実施形態における静止画ファイルおよびRAWファイルの構造について説明する。図3は、静止画ファイル及びRAWファイルの構成例を示す図である。
図3(a)は静止画ファイルの構造例を示す。静止画ファイル400は、ヘッダ部401、メタデータ部402、圧縮データ部403から成る。ヘッダ部401には、このファイルが静止画ファイルであることを示す識別コードなどが含まれている。圧縮データ部403には、高能率符号化された静止画の圧縮データが含まれている。
メタデータ部402には、この静止画ファイルと同時に生成された(対応する)RAWファイル(圧縮データ部403に格納される静止画データの元になっているRAWデータが格納されたファイル)を特定する情報(例えばファイル名)404が含まれる。また、メタデータ部402には、現像ステータス405と、撮影メタデータ406が含まれる。現像ステータス405は、この静止画ファイルに格納されている圧縮データが簡易現像されたものかどうかを判別するための情報である。また、撮影メタデータ406は、評価値算出部105や認識部131が求めた評価値や被写体情報や、撮像光学部101や撮像センサ部102からの撮影時情報(例えば、絞り値、シャッタ速度、感度、レンズ種別識別情報、センサ種別識別情報など)を含む。また、図示していないが、メタデータ部402は、同時に生成された(対応する)RAWファイルが記録されている記録媒体の識別コードや、記録先のパス情報、データ量見積もり部171から通知された見積データ量などをさらに含んでも良い。これらのメタデータは、記録媒体管理部172から記録再生部151に送られて記録される。
以上説明したように、本実施形態に係る撮像装置100は、ライブビュー表示や、撮影開始指示に応答して生成される静止画ファイルのための現像処理を、簡易現像部111によって行う。また、本実施形態に係る撮像装置100は、撮影開始指示に応答して、RAWファイルを記録する。RAWファイルを記録するために、現像処理は必要としない。
図3(b)は、RAWファイル410の構造例を示す。RAWファイル410は、記録再生部151によって、例えば記録媒体152の所定の記録エリアに記録されている。RAWファイル410は、ヘッダ部411、メタデータ部412、圧縮データ部413から成る。ヘッダ部411には、このファイルがRAWファイルの形式であることを示す識別コードなどが含まれている。圧縮データ部413には、高能率符号化された静止画のRAW圧縮データが含まれている(非圧縮のRAW画像データであっても良い)。
メタデータ部412には、このRAWファイルと同時に生成された(対応する)静止画ファイルを特定する情報(例えばファイル名)414が含まれる。また、対応する静止画ファイルが格納する画像データが簡易現像されたことを示す現像ステータス415も含まれる。また、撮影メタデータ406と同様の撮影メタデータ416が含まれる。
また、図示していないが、同時に生成された静止画ファイルが記録されている記録媒体の識別コードや、記録されているフォルダのパス情報などを更に含んでも良い。或いはまた、同時に生成された静止画ファイルそのものをメタデータ化して、メタデータ部412に格納しても良い。これらのメタデータは、記録媒体管理部172から記録再生部151に送られて記録される。
なお、図3に示しここで説明したファイル構造は一例であり、EXIFなど他の標準規格に準じた構成であっても良い。また、記録媒体152へのファイル記録は例えばDCFに従ったファイルシステムで行うことができる。
次に、本実施形態における後現像処理の処理について説明する。後現像処理は、撮影時におけるRAW画像データと簡易静止画/動画データの記録動作を終えた後、RAW画像データから高画質静止画/動画データを生成し、記録する処理である。具体的には、まず、バッファ部115又は記録媒体152等に記録されたRAW画像データを読み出して高画質現像部112で現像処理する。そして、静止画圧縮部141または動画圧縮部142において高画質な符号化画像データ(第2の符号化画像データ)を生成し、記録媒体152に記録する。本実施形態では、静止画および動画のRAW画像データに対して後現像処理が可能であるが、以下では静止画を例に説明する。
前述のように、撮影時に記録される簡易静止画データは、簡易現像部111で現像処理した後に圧縮されたものである。そのため、高画質現像部112で現像処理した場合と比較して画素数が少なかったり、画質が劣る。簡易静止画データは撮影内容を撮影直後に大まかに確認したり、撮像装置100の表示部123のように画素数の低い表示装置に表示したりするには十分な品質であっても、画像の細部を確認したり、プリントアウトしたりするには品質が十分でない場合がある。
もちろん、ユーザがRAW画像データの高画質な現像処理を必要に応じて都度行ってもよいが、手間や時間がかかる。そのため本実施形態では撮像装置100がアイドル状態である際に、後現像処理を自動的に実行するものとする。アイドル状態とは、撮影スタンバイ時、静止画再生時の待機状態、スリープ状態など、撮像装置100の処理負荷が小さいと判定される状態である。なお、自動的に実施するだけでなく、ユーザからの指示によって後現像処理を開始してもよい。
撮像装置100がアイドル状態かどうかの判定方法に特に制限は無く、一般的な処理負荷の測定方法をはじめとした任意の判定方法を用いることができる。例えば、制御部161が有するCPUの稼働率が予め定めた閾値未満かどうかや、予め定められた高負荷の動作、例えば高速連写動作、記録・再生処理が行われているかどうかなどに応じて判別することができる。あるいは、基本的に負荷の低い処理しか発生しない動作モードが選択されていれば、無条件にアイドル状態とみなしてもよい。
続いて、図2のS320で実施するアイドル処理について、図4のフローチャートを用いて説明する。なお、アイドル処理は静止画撮影モードだけでなく、他の動作モードにおいてアイドル状態と判定された場合にも実行される。
図4のフローチャートは、制御部161によって、各処理ブロックを制御し実行される処理手順を図示したものであり、制御部161が有するメモリ(ROM)に格納されているプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。
図4においてアイドル状態の処理が開始されると、制御部161が、ユーザの設定に基づいて、後現像処理を行うか否かを判定し(S501)、後現像処理を行わない場合はアイドル処理を終了して元の処理に復帰し、後現像処理を行う場合はS520に遷移する。
後現像処理を行う場合、制御部161は、記録媒体152に記録されている各RAWファイルについて、後現像処理により高画質静止画ファイルが記録されているか(後現像処理済みかどうか)判定する(S520)。例えば制御部161は、RAWファイル410の中の現像ステータス415を参照し、対応する静止画ファイルが簡易現像部111で処理されたことを示す情報が含まれていればRAWファイルの後現像処理が行われていないと判定する。あるいは、制御部161は、RAWファイルのメタデータ部412に含まれる静止画ファイル名414を有する静止画ファイルを記録媒体152内で探索する。これは、静止画撮影モードで撮影されていれば、記録媒体152には、1回の撮影開始指示に対して静止画ファイルとRAWファイルが互いに関連付けられて1つずつ記録されていることに基づく。そして、見つかった静止画ファイル400のメタデータ部402に格納されている現像ステータス405を参照し、簡易現像部111で処理されたことを示す情報が含まれていればRAWファイルに後現像処理が行われていないと判定する。あるいは、一連の静止画に対し、後現像処理の実行有無を示すテーブルを別に用意しておき、このテーブルを参照して判定するようにしても良い。
記録媒体152に記録されたRAWファイルの全てが後現像処理済みである場合(S520,NO)、制御部161は後現像処理を行わない場合と同様、アイドル処理を終了して元の処理に復帰する。一方、記録媒体152に記録されているRAWファイルに後現像処理が行われていないものが存在した場合、制御部161は処理をS521に遷移させる。
制御部161は、記録媒体152に記録されている、後現像処理が行われていないRAWファイルに対応するRAW画像データが、バッファ部115にも記憶されているかどうか調べる(S521)。そして、制御部161は、RAWファイルがバッファ部115に残っていれば直接、バッファ部115に残っていなければS522で記録媒体152からRAWファイルを読み出した後、処理をS523に進める。バッファ部115には直近に撮影されたものから予め定められた数のRAWファイルが保持されている。そのため、制御部161は後現像処理を行うRAWファイルが、記録媒体152に記録されているRAWファイルのうち、直近に撮影されたものから予め定められた数に含まれていれば、バッファ部115に記憶されていることが分かる。なお、記録再生部151から記録時のRAWファイルの情報を取得し、バッファ部115に記憶されているRAWファイルと、記録媒体152に記録されているRAWファイルとの対応関係を保存しておいてもよい。
なお、後現像処理が行われておらず、バッファ部115にないRAWファイルが複数ある場合、制御部161はこれらのRAWファイルを1つずつ読み出して後現像処理を行ってよい。あるいは、制御部161はバッファ部115に記憶可能な範囲で任意の数のRAWファイルをまとめて読み出してもよい。
制御部161は、記録媒体152からRAWファイルを読み出す場合、古いものから順に読みだしてバッファ部115に記憶する。そして、バッファ部115の記憶領域が一杯になった場合、最も古いRAW画像データをバッファ部115から削除し、新たに撮影、あるいは、記録媒体152から読み出されたRAW画像データをバッファ部115に格納する。こうすることにより、直前に撮影されたRAW画像データは常にバッファに保持されているので、S522をスキップし、高速に処理できる。さらに、直前に撮影された画像から時刻を遡って、後現像処理を実行するようにすれば、バッファ部115に保持されている画像から優先的に処理が完了できるため、処理の効率化ができる。
S523において、制御部161は後現像処理するRAW画像データをRAW伸張部114に供給する。RAW伸張部114はRAW画像データが圧縮処理されたものであれば伸張処理してRAW画像データを復元してから、一方、圧縮処理されていなければそのまま出力する。RAW画像データが圧縮されているものかどうかは、圧縮時に例えばRAW画像データの先頭に識別可能な情報を記録しておくことなどによって判別可能である。
RAW伸張部114が出力したRAW画像データは、現像部110に供給される。後現像処理時には高画質現像部112で現像処理を行い、簡易現像部111では現像処理しないように制御部161が動作を制御する。RAW画像データに対して高画質現像部112は簡易現像部111よりも高画質の画像が得られる現像処理を適用する(S524)。本実施形態では高画質現像部112はRAW画像データの画素数を削減しないほか、適用する現像処理の品質(精度や工程の数など)も簡易現像部111より高くする。しかし、高画質現像部112は簡易現像部111よりも高品質の画像が得られる画像処理を行いさえすれば、その具体的な現像処理の内容に制限は無い。例えば現像処理の内容は簡易現像部111と同等とし、画像の画素数を多くしてもよいし、画像の画素数は同様に削減するが、現像処理の品質を高くしてもよい。
高画質現像部112は、RAW画像をデベイヤー処理(デモザイク処理)し、輝度と色差から成る信号へ変換して、各信号に含まれるノイズを除去、光学的な歪を補正し、画像を適正化するなどの所謂現像処理を行う。高画質現像部112によって生成される現像処理済みの画像の画素数は、撮像センサ部102から読出された画素数のまま、あるいはユーザから設定された画素数となる。そのため、高画質現像部112からの画像データの画素数は、簡易現像部111から出力される画像データよりも多い。
高画質現像部112は簡易現像部111よりも各々の処理が高精度であるため、より高画質な現像画像が得られるが、一方で、処理負荷が大きくなってしまう。本実施形態の高画質現像部112は、撮影と並行したリアルタイムの現像処理を行わないことで、消費電力やコストの大きな回路の利用を回避している。
高画質現像部112で現像処理された画像データは、静止画圧縮部141に供給され、静止画圧縮部141は、取得した画像データに対して高能率符号化処理(静止画圧縮)を施し(S525)、高画質静止画データを生成する。
S526において、記録再生部151が高画質静止画データを含む静止画ファイルを記録媒体152に記録する。
S527は、アイドル状態でなくなったかどうかの判断処理であり、例えば予め定められた、アイドル状態を脱するイベントが発生したかどうかの判断処理であってよい。イベントは例えば、撮影準備指示や撮影開始指示の入力、再生処理の実行指示の入力、CPUの稼働率が閾値を超えるなどであってよい。なお、これらのイベント発生は、実際にはS527で示されるタイミングで実施するのではなく、アイドル処理中に制御部161がバックグラウンドで監視している。イベントの発生を検知した時点で実施中の動作を中断もしくは中止するか、静止画記録が終了するまでは実行を継続するかは予め定めておくことができる。例えば、S522〜S526のどの処理を実行中かに応じて処理を継続するか中断もしくは中止するかが異なってもよい。また、発生したイベントに応じて対応が異なってもよい。例えば撮影開始指示のようにタイムラグが問題になるイベントが発生した場合は直ちに撮影処理に移行し、再生開始指示のように緊急性がさほど高くないイベントの場合には静止画記録が終了してから再生処理に移行するようにしてもよい。
処理を中断する場合、制御部161は、中断した処理を次にアイドル状態になった際に再開できるように必要な情報を記憶する中断処理を行う(S528)。中断処理は例えば途中まで処理が終わったデータの保存や、どこまで処理が終わっているのかを示す情報の保存などを含む。一方、処理を中止する場合には、次回の処理において未処理のRAWファイルの処理を行えば良いため、中断処理を実施しなくてもよい。
アイドル状態でなくなった場合、制御部161はアイドル処理を実行する前に実施していた動作モードとイベントに応じた処理に移行する。例えば静止画撮影モードからアイドル処理に遷移していた場合に撮影指示が入力された場合、制御部161は静止画撮影モードの処理をS310の撮影処理から復帰させる。
S526で記録処理が終了した後、アイドル状態が継続していれば、処理をS520に戻し、後現像処理が未処理のRAW画像データが残っている場合には、上述した処理を繰り返して実行する。
S526で記録される高画質静止画ファイルは、現像ステータス405が高画質現像部112で処理されたことを示す情報であることを除き、簡易現像部111で処理された画像データの静止画ファイルと同様の構成を有する。
なお、S526で記録される高画質静止画ファイルは、RAWファイルと同時に記録された簡易静止画ファイルと同じファイル名で記録する。これは、読み出したRAWファイルのメタデータ部に含まれる静止画ファイル名を記録媒体管理部172から記録再生部151に通知することで実現できる。バッファ部115に残っているRAW画像データを用いる場合には、記録媒体152に記録された対応するRAWファイルのメタデータを参照すればよい。あるいは、記録再生部151が簡易静止画ファイルを記録する際にファイル名を制御部161に通知し、制御部161がバッファ部115内のRAW画像データと対応付けて保存するようにしてもよい。このようなファイル名とすることで、記録媒体152内の簡易静止画ファイルを高画質静止画ファイルで置き換えることができる。
また、記録媒体管理部172は、高画質静止画ファイルを記録する際に、記録再生部151を通じて、対応するRAWファイルにおけるメタデータ部412内の現像ステータス415を高画質現像済(又は後現像処理済)を示す情報で更新する。
このように、本実施形態の撮像装置100は、撮影と撮影の合間や、再生モードやスリープ状態などユーザ操作待ちの、比較的、装置の処理負荷が小さい状態のときに後現像処理を実行する。そして、撮影時の簡易現像による静止画ファイルを、RAWファイルを用いた高画質現像による静止画ファイルに置き換えて行く。これにより、細部の確認表示やプリントアウトなど、高画質な画像が要求された場合であっても、その都度な現像処理を実行する必要がなく、また、従来の静止画ファイルと同様の一般的な環境における活用が可能となる。
なお、撮影時の簡易現像による動画ファイルについても、同様にして後現像処理を実施し、高画質現像による動画ファイルに置き換えて行く。RAW動画データは各フレームがRAW画像データで構成されているため、各フレームを静止画ファイルと同様にして現像処理することができる。そして、現像後のフレーム画像を動画の符号化方式に応じて符号化することで、高画質な動画ファイルを順次生成する。なお、符号化処理の効率を向上させるため、記録媒体152から未処理のRAWファイルを読み出す場合に、動画の符号化方式に応じたフレーム数(例えばGOPを構成するフレーム数)を単位とすることができる。
動画ファイルの後現像処理を中断する場合、S528の中断処理では、例えば、動画圧縮部142が所定フレーム数を単位とした符号化を行う場合、記録媒体152に符合化単位で高画質動画ファイルが書き込まれるまで待つ。そして、高画質動画ファイルを書き込む(簡易動画ファイルに上書きする)際に、後現像処理中のRAW動画データのファイル名と、何フレーム目まで処理が終わっているかの情報を記録媒体管理部172が保存しておく。そして、次回アイドル状態になったらこの情報を用いて後現像処理を再開する。なお、動画の後現像処理時には、符合化単位で高画質動画ファイルを書き込む毎にファイルをクローズして記録媒体152の管理情報を更新してもよいし、中断時にこれらの書き込み終了処理を実施してもよい。前者の方が処理が煩雑であるが、後現像処理から他の処理に移行するまでに要する時間が短いほか、ファイルが破損したりする危険性は小さくできる。なお、イベントによっては直ちに処理を中止してもよいことは静止画の後現像処理と同様であるが、この場合でも記録媒体152における処理中の動画ファイルをクローズする点で異なる。
(見積処理)
続いて、データ量見積もり部171が行う見積処理について、図5を用いて説明する。本実施形態では、RAW画像データから後現像処理により生成される高画質静止画データのデータ量を、RAW画像データの記録時に見積もる。図5(a)は、センサ信号処理部103から出力された画像データの画素数と、簡易現像された画像データの画素数の大小関係を示す図である。601は、簡易現像された画像データである。602は、センサ信号処理部103から出力された画像データである。
本実施形態では、図5(a)に示すように、簡易現像部111によって、センサ信号処理部103からの画像データの画素数を水平方向に1/N倍、垂直方向に1/M倍に縮小する。そのため、簡易現像処理された画像データの画素数は、センサ信号処理部103からの画像データの1/(N×M)となる。
図5(b)は、簡易現像部111からの出力を静止画圧縮部141にて高能率符号化処理(静止画圧縮)を施し、生成された簡易静止画データのデータ量と、データ量見積もり部171が算出する見積もりデータ量の関係を示す図である。
611は、簡易静止画データのデータ量である。612は、算出された見積もりデータ量である。613は、所定のオフセットである。データ量見積もり部171は、例えば以下のような式で、高画質静止画データのデータ量を算出する。
見積もりデータ量=(SIZE/RED_RATIO)+OFS ・・・(式1)
あるいは
見積もりデータ量=(SIZE×N×M)+OFS ・・・(式1’)
ここで、
SIZE :簡易静止画データのデータ量
RED_RATIO:縮小率(=1/(N×M))
OFS :オフセット
である。
図5の例では、見積もりデータ量612は、簡易静止画データのデータ量611を(N×M)倍し、オフセット613だけ加算した値となる。オフセット613の大きさは、符号化画像データから画像ファイルを生成する際に付加される領域(ヘッダなど)の容量を考慮して決定することができる。
続いて、記録媒体管理部172による処理について、図6を用いて説明する。
本実施形態では、後現像処理によって生成された高画質静止画データが記録媒体152に記録されると、対応する簡易静止画データを記録媒体152から削除する(高画質静止画データで簡易静止画データを上書きすることも削除に含む)。記録媒体管理部172は、記録媒体152における記録領域を管理すると共に、記録媒体152に記録された各ファイルのアドレスやデータ量を示す管理情報を生成し、内部のメモリに保持する。
図6(a)は、後現像処理が行われる前の、記録媒体152に記録されている各ファイルの記録領域(アドレス)及びデータ量を示す管理情報700である。図6(b)は、後現像処理が行われる前の記録媒体152上の各ファイルの配置を示す図である。図6(c)は、後現像処理後の、記録媒体152に記録されている各ファイルの記録領域(アドレス)及びデータ量を示す管理情報710である。図6(d)は、後現像処理後の記録媒体152上の各ファイルの配置を示す図である。
後現像処理の前の管理情報生成処理について、図6(a)を用いて説明する。管理情報700において、701はRAWファイルの記録領域及びデータ量に関する情報、702は簡易静止画ファイルの記録領域及びデータ量に関する情報、703は予約領域に関する情報である。
撮影指示に応答して、RAW圧縮部113が、撮影された静止画に対応するセンサ信号処理部103から出力されたRAW画像を取得し、RAW画像を高能率符号化(RAW圧縮)する。記録媒体管理部172は、RAW画像データのデータ量が通知されると、記録媒体152におけるRAW画像ファイルの記録アドレスを決定する。そして、決定されたアドレスにRAWファイルを記録するように記録再生部151に指示すると共に、このRAWファイルに関する情報(アドレス、データ量)701を生成し、内部のメモリに保持する。
静止画圧縮部141は、簡易現像部111で現像処理された画像データを取得し、高能率符号化処理(静止画圧縮)を施し、簡易静止画データを生成する。記録媒体管理部172は、簡易静止画データのデータ量が通知されると、記録媒体152における静止画ファイルの記録アドレスを決定する。そして、決定されたアドレスに静止画ファイルを記録するように記録再生部151に指示すると共に、簡易静止画ファイルに関する情報(アドレス、データ量)702を生成し、内部のメモリに保持する。
さらに、記録媒体管理部172は、データ量見積り部171より通知された見積もりデータ量から、簡易静止画ファイルのデータ量を差し引いたデータ量の予約領域を設定する。そして、この予約領域の情報(記録アドレス及びデータ量の情報)703を内部のメモリに保持すると共に、この予約領域に対するデータの書き込みを禁止するように記録再生部151を制御する。予約領域703は1つの領域として扱われ、撮影により見積もりデータ量が通知された場合は、通知されたデータ量に基づいて予約領域の情報703の内容を変更する。なお、予約領域の情報703を複数(例えば、簡易静止画ファイルごとに)設けてもよい。
記録媒体管理部172は以上のような記録領域の管理情報を生成、更新を通じて、記録再生部151における記録媒体152へのファイル記録を管理並びに制御しながら、記録媒体152に予約領域を確保する。
後現像処理時の記録媒体管理部172の処理について、図6(c)を用いて説明する。後現像処理の後の管理情報710において、711はRAWファイルに関する情報、712は後現像処理によって生成された高画質静止画ファイルに関する情報、713は予約領域に関する情報である。
上述の通り、後現像処理時には、記録媒体152に記録されているRAWファイルを復号した後、高画質現像部112で現像処理を行い、静止画圧縮部141で高能率符号化処理(静止画圧縮)をすることで高画質静止画データを生成する。記録媒体管理部172は、静止画圧縮部141から高画質静止画データのデータ量を通知されると、予約領域の一部を高画質静止画ファイルの記録領域に割り当て、記録アドレスを決定する。そして、記録媒体管理部172は、決定した記録アドレスに高画質静止画ファイルを記録するとともに、この高画質静止画ファイルの生成に用いたRAWファイルに対応した簡易静止画ファイルを削除するように、記録再生部151に指示する。また、記録媒体管理部172は、高画質静止画ファイルに関する情報(アドレス、データ量)712を管理情報710に登録すると共に、記録媒体152から削除された簡易静止画ファイルに関する情報を管理情報710から削除して、管理情報710を更新する。さらに記録媒体管理部172は、記録媒体152における予約領域を変更し、予約領域の情報713を更新する。
RAWファイルに関する情報(アドレス、データ量)711は、後現像処理の前後で変化しない。一方、予約領域713の内容は、見積もりデータ量と、後現像処理で生成された高画質静止画ファイルのデータ量の差分に応じて予約領域の情報703から変化する。
記録媒体管理部172は以上のようにして、後現像処理後の記録再生部151における記録媒体152へのファイル記録を管理並びに制御する。図6(d)は、図6(c)の管理情報710に対応する記録媒体152のファイル記録状態を示している。
なお、記録媒体管理部172は、動画データについても同様にして管理情報の生成、更新を行う。
(後現像処理時の符号化処理)
次に、後現像処理における静止画データの符号化処理について説明する。図7は、後現像処理における静止画圧縮部141の処理を示すフローチャートである。
静止画圧縮部141は、高画質現像部112から画像データを取得する(S801)とともに、見積もりデータ量を例えば制御部161を通じて取得(S802)する。静止画圧縮部141は符号化パラメータを設定する(S803)し、設定に基づく符号化処理を実施(S804)し、静止画ファイルを生成する。なお、S803において静止画圧縮部141は、見積データ量を考慮して符号化パラメータを設定してもよい。例えば、見積データ量の範囲に応じて設定する符号化パラメータを予め設定しておくことで、見積データ量を考慮した符号化パラメータを設定できる。なお、符号化パラメータは量子化テーブルを含んでよい。
静止画圧縮部141は、生成された静止画データのデータ量が見積もりデータ量以下であるか否かを判定する(S805)。生成された静止画データのデータ量が、通知された見積もりデータ量以下であれば処理を終了し、そうでなければ、S803へ進み、データ量がより小さくなるように符号化パラメータの設定を変更して符号化処理を再実施する。
以上のようにすることで、後現像処理の際に静止画圧縮部141により生成される静止画データのデータ量が、必ずデータ量見積もり部171が見積もったデータ量以下となる。そのため、後現像処理により生成された高画質静止画ファイルを書き込む場合に、予約領域が不足することがない。
以上説明したように本実施形態によれば、撮影時にはRAW画像を簡易現像処理した画像とともに記録しておく。その後、記録済みのRAW画像に対して簡易現像処理よりも高画質な画像が得られる現像処理を適用して高画質な画像を生成し、簡易現像処理で得られた画像と置き換える後現像処理を行う。このような構成により、高速に現像処理を行う回路が無くても高速連写などが可能になるほか、他の装置で内容を確認したい場合などにもRAW画像の内容を容易に確認できる。
また、後現像処理を撮像装置の負荷が低い状態に自動的に行うようにすることで、ユーザに後現像処理を意識させることなく高画質な画像が得られるため、再生時に後現像処理を実施する手間なく、直ちに高画質な画像を再生することができる。
さらに、簡易現像結果に基づく、後現像処理で得られる画像の見積データ量に基づいて記録媒体の容量を予約するともに、後現像処理時には見積データ量に基づいて符号化処理を実施することで、後現像処理時に記録媒体の容量が不足することを防止できる。
●(第2の実施形態)
図8は、本発明の第2の実施形態に係る撮像装置100’の構成例を示すブロック図である。本実施形態の撮像装置100’は、以下の点で第1の実施形態の構成と異なっている。
静止画圧縮部141が静止画データ量をデータ量見積もり部181へと通知せず、RAW圧縮部113が圧縮後のデータ量を記録媒体管理部182へと通知する。
データ量見積もり部181は、RAW圧縮部113から通知されたRAWデータ量を用い、静止画圧縮部141が高画質現像部112からの出力を符号化する際のデータ量を見積もり、記録媒体管理部182と静止画圧縮部141へと通知する。
以下、第1の実施形態と異なる部分について説明する。
<データ量見積もり処理>
現像部110によって現像処理された画像データは、静止画圧縮部141及び動画圧縮部142に供給される。画像データを静止画として圧縮する場合は、静止画圧縮部141を用いる。画像データを動画として圧縮する場合は、動画圧縮部142を用いる。静止画圧縮部141及び動画圧縮部142は、対象となる画像データを符号化して情報量が圧縮された画像データを生成し、画像ファイル(静止画ファイル又は動画ファイル)に変換し、符号化後のデータ量を記録媒体管理部182に通知する。なお、通知するデータ量はファイルサイズであっても、画像データの量であってもよい。
RAW圧縮部113は、センサ信号処理部103から出力されたRAW画像データにウエーブレット変換や差分符号化等を適用してデータ量を削減した圧縮RAWデータを生成し、バッファ部115に格納する。またRAW圧縮部113は、圧縮RAWデータ量をデータ量見積もり部181と記録媒体管理部182へと通知する。
データ量見積もり部181は、通知されたRAWデータ量から、静止画データ量を見積もる。例えばデータ量見積もり部181は、予め実験的に求めたRAWデータ量と静止画データ量との関係を用いて、RAWデータ量に対応する静止画データ量を見積もることができる。一般に、RAWデータの圧縮率は単純な画像ほど高く、複雑な画像ほど低くなるため、圧縮RAWデータ量が大きければ複雑な画像、小さければ単純な画像であると考えられる。静止画データ量も画像の複雑さが高いほど大きくなる傾向にあるため、予め圧縮RAWデータ量と静止画データ量との関係を測定しておくことで、圧縮RAWデータ量から静止画データ量を見積もることができる。なお、静止画データ量と静止画ファイルの大きさが大きく異なる場合や、より正確にデータ量を見積もる場合には、第1の実施形態で説明したオフセット613のように、ファイルヘッダ等の容量を考慮した静止画データ量を見積もることができる。
このように、本実施形態では圧縮RAWデータ量から静止画データ量を見積もることができるため、簡易現像部111から出力された画像データを圧縮符号化しない場合でも、後現像処理で生成した静止画ファイルを確実に記録媒体に記録可能とすることができる。
●(第3の実施形態)
次に、本発明の第3の実施形態に係る撮像装置について説明する。本実施形態の撮像装置は、以下の点で第1の実施形態の構成と異なる。
静止画圧縮部141が、後現像処理時に複数の静止画データを生成する場合、
所定枚数までは、生成した静止画データの量が見積もりデータ量を超えてもデータ量を見積もりデータ量以下とするための再符号化を行わず、見積もりデータ量を変更する。
所定枚数を超えてからは、生成した静止画データの量が見積もりデータ量を超えた場合には第1の実施形態と同様に、見積もりデータ量以下になるように再符号化する。
他の構成および動作については第1の実施形態と同様であるため、説明を省略する。
以下、5枚分の静止画データを生成する場合に、上述の所定枚数が4枚の場合、つまり、最後の1枚についてのみ、生成した静止画データの量が見積もりデータ量を超えた場合に再符号化を行うように制御する場合について説明する。しかし、これは一例であり、最後の複数枚分の静止画データが再符号化制御の対象となってもよい。
<静止画符号化処理>
静止画圧縮部141の処理のうち、後現像処理時に高画質現像部112から出力された画像データに対する処理の詳細を、図9に示すフローチャートを用いて説明する。
静止画圧縮部141は、高画質現像部112から出力された画像データを取得する(S1101)。また、静止画圧縮部141は、データ量見積もり部171から通知された見積もりデータ量を、前回(1枚前)の符号化で生成したデータ量を用いて修正(S1103)する。
S1103における見積もりデータ量の修正方法の一例を、図10を用いて説明する。
図10は、符号化を行う5枚分の静止画データについて、見積もりデータ量、修正後の見積もりデータ量、生成された静止画データ量、修正後の見積もりデータ量と生成された静止画データ量との差分(差分データ量)の例を示している。図10において、データ量は16進数で記載されている。
1201は、データ量見積もり部171から通知された見積もりデータ量である。
1202は、修正後の見積もりデータ量である。静止画圧縮部141は、データ量見積もり部171から通知された見積もりデータ量に、前回(1枚前)の符号化処理時に算出された前回差分データ量1205を加算して、見積もりデータ量を修正する。1枚目の画像データを符号化する際に用いる前回差分データ量1205は0である。
S1104で静止画圧縮部141は、見積もりデータ量を踏まえた符号化パラメータ(量子化パラメータなど)を設定し、S1105で符号化処理を実施する。
S1105で生成された符号化データの量が、図10における静止画データ量(生成データ量)1203である。
S1106で静止画圧縮部141は、最後の画像データの符号化処理が終了したと判定されればS1107に、未処理の画像データがあると判定されれば処理をS1108にそれぞれ移行させる。
S1108で静止画圧縮部141は、修正後の見積もりデータ量1202と生成データ量1203との差分データ量1204(図10)を算出する。生成データ量1203の方が修正後の見積もりデータ量1202より小さければ正の値、大きければ負の値となる。
S1107で静止画圧縮部141は、最後の画像データに対する生成データ量が修正後の見積もりデータ量以下であれば符号化処理を終了する。一方、最後の画像データに対する生成データ量が修正後の見積もりデータ量を超えていれば、静止画圧縮部141は処理をS1104に戻し、再符号化処理を行う。なお、静止画圧縮部141は、再符号化時にはS1104で前回よりも生成データ量が少なくなる符号化パラメータを設定する。
以上の処理について、図10を用いて具体的に説明する。
例えば、1枚目(JPEG_0_1)については、
見積もりデータ量1201が0x300、前回差分データ量1205は0(1枚目のため)であるため、修正後の見積もりデータ量は0x300となる。生成データ量1203が0x280のため、差分データ量は0x80となる。
同様に、2枚目(JPEG_0_2)については、
見積もりデータ量1201が0x300、前回差分データ量1205は0x80となるため、修正後の見積もりデータ量1202は0x380となる。生成データ量1203が0x400のため、差分データ量1204は−0x80となる。
静止画圧縮部141は、3枚目、4枚目についても同様に処理を行う。
このようにして得られる最新の差分データ量1204は、これまで符号化処理された画像データの、見積もりデータ量1201の合計と生成データ量の合計との差を示す。従って、最後の1枚について、生成データ量1203が修正後の見積もりデータ量1202以下となるように符号化処理を行えば、記録媒体152に予約された領域に収めることができる。
図10の例では、4枚目まで符号化処理が終わった時点での差分データ量1204が0x40であり、見積もりデータ量1201の合計>生成データ量の合計であったが、5枚目の生成データ量1203が修正後の見積もりデータ量1202を0x40だけ超えた。そのため、静止画圧縮部141は5枚目に対して再符号化処理を実行する。
再符号化時には、修正後の見積もりデータ量を再修正することなく、当初の値を継続して用いる。従って、図10の例では、5枚目に対する最初の符号化処理後の差分データ量1204は−0x40だが、再符号化時の前回差分データ量1205は4枚目の差分データ量1204の0x40であり、修正後の見積もりデータ量1202は0x340である。図10の例では1回の再符号化で修正後の見積もりデータ量以下の生成データ量が実現できたため、再符号化が1回で終わっているが、依然として生成データ量が修正後の見積もりデータ量を超える場合には、再符号化をさらに実施する。
なお、再符号化を行うのが最後の画像データだけでない場合、S1106では再符号化対象の画像データかどうかを判定し、再符号化対象の画像データで無ければS1108へ、再符号化対象の画像データであればS1107へ処理を移行させるようにする。また、S1107で生成データ量が修正後の見積もりデータ量以下である場合には、未処理の画像データが残っていればS1108へ、残っていなければ符号化処理を終了するようにする。
このように、本実施形態では、静止画圧縮部141が一連の画像データのうち少なくとも最後の画像データを除く画像データについては再符号化制御を行わないようにすることで、再符号化処理に伴う処理時間や処理負荷を省くことができる。一方で、一連の画像データの符号化処理で生成されるデータ量の合計が見積もりデータ量の合計以下に収まるよう、必要に応じて再符号化処理を実施するので、記録媒体152には後現像処理で得られた高画質の画像を確実に記録することができる。
●(第4の実施形態)
次に、本発明の第4の実施形態に係る撮像装置について説明する。本実施形態の撮像装置は、以下の点で第1の実施形態の構成と異なる。
後現像処理で生成された高画質画像ファイルを記録媒体へ記録する際に、記録再生部151が、対応する簡易画像ファイルを破棄せずに保持する。すなわち、高画質画像ファイルを簡易画像ファイルと異なるファイル名で記録する。
記録媒体管理部172では、データ量見積もり部171より通知された見積もりデータ量を、予約領域へと追記する。
その他の構成及び動作は第1の実施形態と同様であるため、説明を省略する。
<管理情報生成処理>
図11を参照して、本実施形態に係る記録媒体管理部172の処理について説明する。
図11(a)は、後現像処理が行われる前の、記録媒体152に記録されている各ファイルの記録領域(アドレス)及びデータ量を示す管理情報1300である。図11(b)は、後現像処理が行われる前の記録媒体152上の各ファイルの配置を示す図である。図11(c)は、後現像処理後の、記録媒体152に記録されている各ファイルの記録領域(アドレス)及びデータ量を示す管理情報1310である。図11(d)は、後現像処理後の記録媒体152上の各ファイルの配置を示す図である。
後現像処理の前の管理情報生成処理について、図11(a)を用いて説明する。管理情報1300において、1301はRAWファイルの記録領域及びデータ量に関する情報、1302は簡易静止画ファイルの記録領域及びデータ量に関する情報、1303は予約領域に関する情報である。
撮影指示に応答して、RAW圧縮部113が、撮影された静止画に対応するセンサ信号処理部103から出力されたRAW画像を取得し、RAW画像を高能率符号化(RAW圧縮)する。記録媒体管理部172は、RAW画像データのデータ量が通知されると、記録媒体152におけるRAW画像ファイルの記録アドレスを決定する。そして、決定されたアドレスにRAWファイルを記録するように記録再生部151に指示すると共に、RAW画像ファイルに関する情報(アドレス、データ量)1301を生成し、内部のメモリに保持する。
静止画圧縮部141は、簡易現像部111で現像処理された画像データを取得し、高能率符号化処理(静止画圧縮)を施し、簡易静止画データを生成する。記録媒体管理部172は、簡易静止画データのデータ量が通知されると、記録媒体152における静止画ファイルの記録アドレスを決定する。そして、決定されたアドレスに静止画ファイルを記録するように記録再生部151に指示すると共に、簡易静止画ファイルに関する情報(アドレス、データ量)1302を生成し、内部のメモリに保持する。
さらに、記録媒体管理部172は、データ量見積り部171より通知された見積もりデータ量から予約領域を設定する。そして、この予約領域の情報1303(記録アドレス及びデータ量の情報)を内部のメモリに保持すると共に、この予約領域に対するデータの書き込みを禁止するように記録再生部151を制御する。予約領域の情報1303は予約情報を1つの領域として取り扱い、見積もりデータ量が通知されると、通知されたデータ量に基づいて予約領域の情報1303を変更する。
記録媒体管理部172は以上のような記録領域の管理情報を生成、更新を通じて、記録再生部151における記録媒体152へのファイル記録を管理並びに制御しながら、記録媒体152に予約領域を確保する。
後現像処理時の記録媒体管理部172の処理について、図11(c)を用いて説明する。後現像処理の後の管理情報1310において、1311はRAWファイルに関する情報、1312は簡易静止画ファイルに関する情報、1313は後現像処理によって生成された高画質静止画ファイルに関する情報、1314は予約領域に関する情報である。
上述の通り、後現像処理時には、記録媒体152に記録されているRAWファイルについて、高画質現像部112で現像処理を行い、静止画圧縮部141で高能率符号化処理(静止画圧縮)をすることで高画質静止画データを生成する。この際、生成データ量が見積もりデータ量を超えた場合は符号化パラメータを変更して、生成データ量が見積もりデータ量以下となるまで再符号化する。
記録媒体管理部172は、静止画圧縮部141から高画質静止画データ量を通知されると、予約領域の一部を高画質静止画ファイルの記録領域に割り当て、記録アドレスを決定する。そして、記録媒体管理部172は、決定した記録アドレスに高画質静止画ファイルを記録する。また、記録媒体管理部172は、高画質静止画ファイルに関する情報(アドレス、データ量)1313を登録して、管理情報1310を更新する。さらに記録媒体管理部172は、記録媒体152における予約領域を変更し、予約領域の情報1314を更新する。
RAWファイルに関する情報(アドレス、サイズ)1311および簡易静止画ファイルに関する管理情報1312(アドレス、サイズ)は、後現像処理の前後で変化しない。一方、予約領域に関する情報1314は、見積もりデータ量に相当する量、予約領域の情報703の内容から変化する。
記録媒体管理部172は以上のようにして、後現像処理後の記録再生部151における記録媒体152へのファイル記録を管理並びに制御する。図11(d)は、図11(c)の管理情報1310に対応する記録媒体152のファイル記録状態を示している。
なお、記録媒体管理部172は、動画データについても同様にして管理情報の生成、更新を行う。
このようにして管理情報を生成、更新することにより、簡易現像処理で生成した画像データから生成された静止画ファイルを後現像処理後も記録媒体に残す場合でも、後現像処理で生成した静止画ファイルを記録媒体に確実に記録可能とすることができる。
●(第5の実施形態)
図12は、本発明の第5の実施形態に係る撮像装置100”の機能構成例を示すブロック図である。本実施形態の撮像装置は、以下の点で第4の実施形態の構成と異なる。
データ量見積もり部191は、見積もりデータ量を記録媒体管理部192へと通知せず、ダミーデータ生成部193へと通知する。
ダミーデータ生成部193は、通知された見積もりデータ量だけ、ダミーデータを発生し、記録再生部194は、ダミーデータを記録媒体152へ記録する。
また、ダミーデータ生成部193は、発生したダミーデータ量を記録媒体管理部192へと通知し、記録媒体管理部192は、通知されたダミーデータ量を管理情報に登録する。
その他の構成及び動作は第1の実施形態と同様であるため、説明を省略する。
<管理情報生成処理>
図13を参照して、本実施形態に係る記録媒体管理部192の処理について説明する。
図13(a)は、後現像処理が行われる前の、記録媒体152に記録されている各ファイルの記録領域(アドレス)及びデータ量を示す管理情報1500である。図13(b)は、後現像処理が行われる前の記録媒体152上の各ファイルの配置を示す図である。図13(c)は、後現像処理後の、記録媒体152に記録されている各ファイルの記録領域(アドレス)及びデータ量を示す管理情報1510である。図13(d)は、後現像処理後の記録媒体152上の各ファイルの配置を示す図である。
後現像処理の前の管理情報生成処理について、図13(a)を用いて説明する。管理情報1500において、1501はRAWファイルの記録領域及びデータ量に関する情報、1502は簡易静止画ファイルの記録領域及びデータ量に関する情報、1503はダミーデータの記録領域に関する情報である。
撮影指示に応答して、RAW圧縮部113が、撮影された静止画に対応するセンサ信号処理部103から出力されたRAW画像を取得し、RAW画像を高能率符号化(RAW圧縮)する。記録媒体管理部192は、RAW画像データのデータ量が通知されると、記録媒体152におけるRAW画像ファイルの記録アドレスを決定する。そして、決定されたアドレスにRAWファイルを記録するように記録再生部194に指示すると共に、RAW画像ファイルに関する情報(アドレス、データ量)1501を生成し、内部のメモリに保持する。
静止画圧縮部141は、簡易現像部111で現像処理された画像データを取得し、高能率符号化処理(静止画圧縮)を施し、簡易静止画データを生成する。記録媒体管理部192は、簡易静止画データのデータ量が通知されると、記録媒体152における静止画ファイルの記録アドレスを決定する。そして、決定されたアドレスに静止画ファイルを記録するように記録再生部194に指示すると共に、簡易静止画ファイルに関する情報(アドレス、データ量)1502を生成し、内部のメモリに保持する。
さらに、記録媒体管理部192は、ダミーデータ生成部193からダミーデータ量を通知されると、記録媒体152におけるダミーデータの記録アドレスを決定する。そして、決定されたアドレスにダミーデータを記録するように記録再生部194に指示するとともに、ダミーデータ領域に関する情報(アドレス、データ量)1503を生成し、メモリに保持する。ダミーデータ領域は1つの領域として扱われる。
記録媒体管理部192は以上のような記録領域の管理情報を生成、更新を通じて、記録再生部194における記録媒体152へのファイル記録を管理並びに制御しながら、記録媒体152にダミーデータを記録し、予約領域として確保する。
後現像処理時の記録媒体管理部192の処理について、図13(c)を用いて説明する。後現像処理の後の管理情報1510において、1511はRAWファイルに関する情報、1512は簡易静止画ファイルに関する情報、1513は後現像処理によって生成された高画質静止画ファイルに関する情報である。また、1514はダミーデータ領域(ダミーデータファイル)に関する情報である。
上述の通り、後現像処理時には、記録媒体152に記録されているRAWファイルについて、高画質現像部112で現像処理を行い、静止画圧縮部141で高能率符号化処理(静止画圧縮)をすることで高画質静止画データを生成する。この際、生成データ量が見積もりデータ量を超えた場合は符号化パラメータを変更して、生成データ量が見積もりデータ量以下となるまで再符号化する。
記録媒体管理部192は、静止画圧縮部141から高画質静止画データ量を通知されると、ダミーデータ領域の一部を高画質静止画ファイルの記録領域に割り当て、記録アドレスを決定する。そして、記録媒体管理部192は、決定した記録アドレスに高画質静止画ファイルを記録する。即ち、元々ダミーデータが記録されている領域からダミーデータを消去し、同じ領域に、高画質静止画ファイルを上書きする。また、記録媒体管理部192は、高画質静止画ファイルに関する情報(アドレス、データ量)1513を登録して、管理情報1510を更新する。さらに記録媒体管理部192は、記録媒体152におけるダミーデータ領域の情報1514を更新する。
RAWファイルに関する情報(アドレス、サイズ)1511および簡易静止画ファイルに関する管理情報1512(アドレス、サイズ)は、後現像処理の前後で変化しない。一方、ダミーデータ領域の情報1514は、対応するダミーデータ量(見積もりデータ量)に相当する量、ダミーデータ領域に関する情報1503から変化する。
記録媒体管理部192は以上のようにして、後現像処理後の記録再生部194における記録媒体152へのファイル記録を管理並びに制御する。図13(d)は、図13(c)の管理情報1510に対応する記録媒体152のファイル記録状態を示している。
なお、記録媒体管理部192は、動画データについても同様にして管理情報の生成、更新を行う。
このように、見積もりデータ量に相当するダミーデータを実際に記録媒体に記録することで、記録媒体152内に記録される管理情報にダミーデータ領域の情報が反映され、データ記録済みの領域として取り扱われる。そのため、仮に後現像処理前に記録媒体152が他の装置で使用されたりする場合でも、ダミーデータ領域が確保され、後現像処理で生成される高画質画像ファイルが確実に記録できる。また、ダミーデータ領域は1つのファイルとして管理できるため、撮像装置において予約情報を管理する手間が省け、管理情報の生成、更新処理が容易である。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (14)

  1. 撮影指示に応答して被写体像のRAW画像データを生成する撮像手段と、
    前記RAW画像データに対して第1の現像処理または該第1の現像処理よりも高画質な画像が得られる第2の現像処理を行って画像データを生成する現像手段と、
    前記現像手段により生成された前記画像データを符号化して符号化画像データを生成する符号化手段と、
    前記RAW画像データのデータ量、もしくは該RAW画像データに対して前記第1の現像処理を行って生成された画像データから前記符号化手段で生成された第1の符号化画像データのデータ量に基づいて、該RAW画像データに対して前記第2の現像処理を行って生成された画像データから前記符号化手段で生成される第2の符号化画像データのデータ量を見積もる見積もり手段と、
    記録媒体にデータを読み書きする記録手段と、
    前記RAW画像データと該RAW画像データに対応する前記第1の符号化画像データを前記記録媒体に書き込むように前記記録手段を制御し、前記記録媒体に書き込まれた前記RAW画像データに対応する前記第2の符号化画像データを生成するように前記現像手段および前記符号化手段を制御し、前記第2の符号化画像データを前記記録媒体に書き込むように前記記録手段を制御する制御手段と、を有し、
    前記制御手段は、前記見積もり手段が見積もったデータ量に基づいて、前記記録媒体に書き込まれたRAW画像データに対応する前記第2の符号化画像データを書き込むための領域を前記記録媒体に確保し、前記確保した領域に前記第2の符号化画像データを書き込むように、前記記録手段を制御することを特徴とする撮像装置。
  2. 前記制御手段は、前記撮像装置が予め定められたアイドル状態にあると判定された場合に、前記記録媒体に書き込まれた前記RAW画像データに対応する前記第2の符号化画像データを生成するように前記現像手段および前記符号化手段を制御し、前記第2の符号化画像データを前記記録媒体に書き込むように前記記録媒体を制御することを特徴とする請求項1記載の撮像装置。
  3. 前記制御手段は、前記第2の符号化画像データを書き込んだ後、対応する前記第1の符号化画像データを削除するように前記記録媒体を制御することを特徴とする請求項1または2に記載の撮像装置。
  4. 前記制御手段は、前記記録媒体における、前記見積もり手段が見積もったデータ量に相当する領域を予約領域として確保することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 前記制御手段は、前記第2の符号化画像データで、対応する前記第1の符号化画像データを置き換えるように前記記録媒体を制御することを特徴とする請求項1または2に記載の撮像装置。
  6. 前記制御手段は、前記第1の符号化画像データのデータ量と、前記見積もり手段が見積もったデータ量との差に応じた領域を予約領域として前記記録媒体に確保することを特徴とする請求項5記載の撮像装置。
  7. 前記制御手段は、前記RAW画像データと該RAW画像データに対応する前記第1の符号化画像データに加え、前記見積もり手段が見積もったデータ量に相当するダミーデータを前記記録媒体に書き込むように前記記録手段を制御し、前記ダミーデータが書き込まれた領域に、前記第2の符号化画像データを記録するように前記記録手段を制御することを特徴とする請求項1または2に記載の撮像装置。
  8. 前記符号化手段が、生成した前記第2の符号化画像データのデータ量が前記見積もり手段が見積もったデータ量を超える場合、前記第2の符号化画像データのデータ量が前記見積もり手段が見積もったデータ量以下になるように再符号化を行うことを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。
  9. 前記符号化手段が、複数枚分のRAW画像データに対応する複数の前記第2の符号化画像データを生成する場合、少なくとも最後のRAW画像データに対応する第2の符号化画像データを除き、データ量が前記見積もり手段が見積もったデータ量を超えても前記再符号化を行わないことを特徴とする請求項8記載の撮像装置。
  10. 前記第1の現像処理は、前記第2の現像処理よりも処理負荷が低いことを特徴とする請求項1乃至9のいずれか1項に記載の撮像装置。
  11. 前記第1の現像処理で得られる画像データは、前記第2の現像処理で得られる画像データよりも画素数が少ないことを特徴とする請求項1乃至10のいずれか1項に記載の撮像装置。
  12. 前記第1の現像処理は、前記第2の現像処理よりも工程の数が少ないか、前記第2の現像処理よりも精度が低いか、の少なくとも一方であることを特徴とする請求項1乃至11のいずれか1項に記載の撮像装置。
  13. 撮影指示に応答して被写体像のRAW画像データを生成する撮像手段と、
    前記RAW画像データに対して第1の現像処理または該第1の現像処理よりも高画質な画像が得られる第2の現像処理を行って画像データを生成する現像手段と、
    前記現像手段により生成された前記画像データを符号化して符号化画像データを生成する符号化手段と、
    記録媒体にデータを読み書きする記録手段と、を有する撮像装置の制御方法であって、
    見積もり手段が、前記RAW画像データのデータ量、もしくは該RAW画像データに対して前記第1の現像処理を行って生成された画像データから前記符号化手段で生成された第1の符号化画像データのデータ量に基づいて、該RAW画像データに対して前記第2の現像処理を行って生成された画像データから前記符号化手段で生成される第2の符号化画像データのデータ量を見積もる見積もり工程と、
    制御手段が、前記RAW画像データと該RAW画像データに対応する前記第1の符号化画像データを前記記録媒体に書き込むように前記記録手段を制御する工程と、
    前記制御手段が、前記記録媒体に書き込まれた前記RAW画像データに対応する前記第2の符号化画像データを生成するように前記現像手段および前記符号化手段を制御する工程と、
    前記制御手段が、前記見積もり手段が見積もったデータ量に基づいて、前記記録媒体に書き込まれたRAW画像データに対応する前記第2の符号化画像データを書き込むための領域を前記記録媒体に確保し、前記確保した領域に前記第2の符号化画像データを書き込むように前記記録手段を制御する工程と、を有することを特徴とする制御方法。
  14. 撮影指示に応答して被写体像のRAW画像データを生成する撮像手段と、
    記録媒体にデータを読み書きする記録手段と、を有する撮像装置のコンピュータを、請求項1から12のいずれか1項に記載の各手段として機能させるためのプログラム。
JP2014007272A 2014-01-17 2014-01-17 撮像装置およびその制御方法 Expired - Fee Related JP6278712B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014007272A JP6278712B2 (ja) 2014-01-17 2014-01-17 撮像装置およびその制御方法
US14/596,489 US9462182B2 (en) 2014-01-17 2015-01-14 Imaging apparatus and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014007272A JP6278712B2 (ja) 2014-01-17 2014-01-17 撮像装置およびその制御方法

Publications (3)

Publication Number Publication Date
JP2015136072A true JP2015136072A (ja) 2015-07-27
JP2015136072A5 JP2015136072A5 (ja) 2017-02-16
JP6278712B2 JP6278712B2 (ja) 2018-02-14

Family

ID=53545932

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014007272A Expired - Fee Related JP6278712B2 (ja) 2014-01-17 2014-01-17 撮像装置およびその制御方法

Country Status (2)

Country Link
US (1) US9462182B2 (ja)
JP (1) JP6278712B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6929044B2 (ja) * 2016-11-14 2021-09-01 キヤノン株式会社 撮像装置、撮像装置の制御方法、及び、プログラム
JP6871727B2 (ja) 2016-11-29 2021-05-12 キヤノン株式会社 撮像装置、画像処理方法、及び、プログラム
US11445200B2 (en) * 2020-05-12 2022-09-13 Alibaba Group Holding Limited Method and system for processing video content
JP2021182733A (ja) * 2020-05-19 2021-11-25 キヤノン株式会社 撮像装置およびその制御方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006229474A (ja) * 2005-02-16 2006-08-31 Canon Inc 撮像装置及びその制御方法
JP2007221724A (ja) * 2006-02-20 2007-08-30 Canon Inc 画像処理装置及びその制御方法
US20080151076A1 (en) * 2006-12-26 2008-06-26 Fujifilm Corporation Photographing apparatus, method and program
JP2008306651A (ja) * 2007-06-11 2008-12-18 Olympus Corp 撮像システムおよびプログラム
US20090087176A1 (en) * 2007-07-13 2009-04-02 Nikon Corporation Data recording apparatus and camera
JP2010081025A (ja) * 2008-09-24 2010-04-08 Fujifilm Corp 撮影装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7139102B2 (en) * 2000-05-02 2006-11-21 Ricoh Company, Ltd. Image processing device, image processing method and remote-scan image processing system using the same
JP4440051B2 (ja) * 2004-09-08 2010-03-24 キヤノン株式会社 画像符号化装置及び方法、並びに、コンピュータプログラム及びコンピュータ可読記憶媒体
TW201018209A (en) * 2008-10-29 2010-05-01 Altek Corp Method and electronic device for adjusting compression ratio of JPEG image
JP4987129B2 (ja) 2010-04-23 2012-07-25 キヤノン株式会社 画像処理装置及びその制御方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006229474A (ja) * 2005-02-16 2006-08-31 Canon Inc 撮像装置及びその制御方法
JP2007221724A (ja) * 2006-02-20 2007-08-30 Canon Inc 画像処理装置及びその制御方法
US20080151076A1 (en) * 2006-12-26 2008-06-26 Fujifilm Corporation Photographing apparatus, method and program
JP2008306651A (ja) * 2007-06-11 2008-12-18 Olympus Corp 撮像システムおよびプログラム
US20090087176A1 (en) * 2007-07-13 2009-04-02 Nikon Corporation Data recording apparatus and camera
JP2010081025A (ja) * 2008-09-24 2010-04-08 Fujifilm Corp 撮影装置

Also Published As

Publication number Publication date
JP6278712B2 (ja) 2018-02-14
US20150208045A1 (en) 2015-07-23
US9462182B2 (en) 2016-10-04

Similar Documents

Publication Publication Date Title
JP6472253B2 (ja) 画像処理装置及びその制御方法
JP6335563B2 (ja) 撮像装置及びその制御方法
EP2974285B1 (en) Image processing apparatus and image processing method
US9723169B2 (en) Imaging apparatus and imaging apparatus control method
JP5883052B2 (ja) 画像処理装置及びその制御方法
JP6406949B2 (ja) 画像処理装置及び画像処理方法
JP2015076782A (ja) 画像処理装置、その制御方法、および制御プログラム
JP6278712B2 (ja) 撮像装置およびその制御方法
JP2016005103A (ja) 撮像装置およびその制御方法
JP6245819B2 (ja) 画像処理装置及び画像処理方法
JP6741532B2 (ja) 撮像装置および記録方法
US9955135B2 (en) Image processing apparatus, image processing method, and program wherein a RAW image to be subjected to special processing is preferentially subjected to development
JP6327939B2 (ja) 撮像装置及び撮像装置の制御方法
JP6452362B2 (ja) 撮像装置及び撮像方法
JP6245818B2 (ja) 撮像装置及び撮像装置の制御方法
JP2015119403A (ja) 画像記録装置、画像記録方法およびプログラム並びに撮像装置
JP6192319B2 (ja) 画像処理装置及び画像処理方法
JP6282136B2 (ja) 撮像装置及びその制御方法
JP2020010244A (ja) 撮像装置および撮像装置の制御方法
JP2016063252A (ja) 画像処理装置及び画像処理方法
JP2014179851A (ja) 撮像装置及び撮像装置の制御方法
JP2019110367A (ja) 撮像装置
JP6280402B2 (ja) 画像記録装置および画像記録方法、プログラム、並びに記憶媒体
JP2016063254A (ja) 撮像装置及び撮像方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170113

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170926

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171005

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180116

R151 Written notification of patent or utility model registration

Ref document number: 6278712

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees