JP2015179909A - 撮像装置及びその制御方法 - Google Patents

撮像装置及びその制御方法 Download PDF

Info

Publication number
JP2015179909A
JP2015179909A JP2014055619A JP2014055619A JP2015179909A JP 2015179909 A JP2015179909 A JP 2015179909A JP 2014055619 A JP2014055619 A JP 2014055619A JP 2014055619 A JP2014055619 A JP 2014055619A JP 2015179909 A JP2015179909 A JP 2015179909A
Authority
JP
Japan
Prior art keywords
image data
development
unit
raw
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014055619A
Other languages
English (en)
Other versions
JP6335563B2 (ja
JP2015179909A5 (ja
Inventor
清紀 松本
Kiyonori Matsumoto
清紀 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014055619A priority Critical patent/JP6335563B2/ja
Priority to US14/645,962 priority patent/US9413921B2/en
Publication of JP2015179909A publication Critical patent/JP2015179909A/ja
Priority to US15/191,762 priority patent/US9769377B2/en
Publication of JP2015179909A5 publication Critical patent/JP2015179909A5/ja
Application granted granted Critical
Publication of JP6335563B2 publication Critical patent/JP6335563B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/21Intermediate information storage
    • H04N1/2104Intermediate information storage for one or a few pictures
    • H04N1/2112Intermediate information storage for one or a few pictures using still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/21Intermediate information storage
    • H04N1/2104Intermediate information storage for one or a few pictures
    • H04N1/2112Intermediate information storage for one or a few pictures using still video cameras
    • H04N1/215Recording a sequence of still pictures, e.g. burst mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Color Television Image Signal Generators (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

【課題】 高速に現像処理を行う回路を必要とせずに、かつ、必要な際には容易に再生可能にRAW画像を記録することが可能な画像処理装置及びその制御方法において、RAW画像の現像パラメータの設定を容易にする。
【解決手段】 撮影時には、RAW画像データを簡易現像処理した画像データをRAW画像とともに記録し、その後、RAW画像データを高画質現像処理した画像データを生成して簡易現像した画像データを置き換える。撮影時に、RAW画像データに対して複数の異なる現像パラメータを用いて複数の画像データを生成し、RAW画像データと関連付けて記録する。ユーザが選択した画像データに対応する現像パラメータを、その後RAW画像データの高画質現像処理に用いる現像パラメータとする。
【選択図】 図1

Description

本発明は、撮像装置及びその制御方法に関し、特に、動画又は静止画のRAW画像を扱う技術に関する。
従来、撮像センサを用いる撮像装置では、撮像センサによって得られる画像情報(RAW画像)にいわゆる現像処理を適用し、現像処理された輝度信号及び色差信号を圧縮符号化してJPEG形式で記録媒体に記録するのが一般的である。現像処理には、各画素について色補間処理を行って輝度と色差からなる信号を生成するデモザイク処理、信号に対するノイズ低減処理、ホワイトバランス処理、光学的な歪を補正する処理、画像の適正化処理などが含まれるが、これらに限定されない。
一方、RAW画像を記録できる撮像装置も存在する(特許文献1)。RAW画像はJPEG形式などと比較して記録に必要なデータ量が膨大になるが、画質の劣化を最低限に抑えながら柔軟な後編集が可能であるという利点がある。また、特許文献1には、RAW画像の現像処理に用いるための現像パラメータをRAW画像と共に記録することが記載されている。
特開2011−244423号公報
近年、撮像センサの進歩により、画像1枚あたりの画素数が大幅に増加している。そのため、RAW画像の現像処理に必要な処理量も増大し、撮影と並行したリアルタイムの現像処理を実現するには処理能力の高いハードウェアが必要となる。一般に、処理能力が高いハードウェアは回路規模と消費電力の少なくとも一方が増加する傾向にあるが、実装可能なハードウェアは実装可能面積、消費電力、コストなどの制約を受ける。その結果、撮像装置の性能(例えば連写性能)が現像処理能力に左右されることも起こりうる。
RAW画像を現像せずに記録する構成とすれば、リアルタイムで現像処理が可能かどうかは問題にならないが、記録するデータ量が大きくなるため、バッファ量を増やす必要があるかもしれない。また、撮影結果を確認するには現像処理が必要であるが、RAW画像のデータ形式はメーカ固有であるため、撮影した撮像装置とは異なる機器では適切な現像処理ができない場合があり、ユーザの利便性を損なうおそれがある。
このように、従来、高い撮影能力と撮影画像の高速な再生とを可能にするには、処理能力の高い、高コストかつ高消費電力の回路を搭載して高出力で駆動できるようにするか、記録されたRAW画像を高速に再生できるようにしなければならなかった。
また、RAW画像を記録する事により、ユーザは後から様々な現像パラメータを設定して現像処理を行う事が可能となる。しかし、所望の現像結果を得るための現像パラメータの設定は一般的なユーザにとって必ずしも容易でない。
本発明はこのような従来技術の課題の少なくとも1つを改善するためになされたものである。本発明の目的は、高速に現像処理を行う回路を必要とせずに、かつ、必要な際には容易に再生可能にRAW画像を記録することが可能な画像処理装置及びその制御方法において、RAW画像の現像パラメータの設定を容易にすることにある。
上述の目的は、撮影指示に応答して被写体像のRAW画像データを生成する撮像手段と、RAW画像データに対して第1の現像処理または第1の現像処理よりも高画質な画像が得られる第2の現像処理を行って画像データを生成する現像手段と、記録媒体にデータを読み書きする記録手段と、RAW画像データとRAW画像データに第1の現像処理を行って得られた第1の画像データを記録媒体に書き込むように記録手段を制御し、その後、記録媒体に書き込まれたRAW画像データに第2の現像処理を行って第2の画像データを生成して記録媒体に書き込むように現像手段および記録手段を制御する制御手段と、を有し、制御手段はさらに、複数の異なる現像パラメータを用いてRAW画像データから複数の第3の画像データを生成するように第1の現像手段もしくは第2の現像手段を制御し、複数の第3の画像データのうち、ユーザが選択した画像データに対応する現像パラメータを、RAW画像データが記録媒体に書き込まれた後に行われるRAW画像データの現像処理で用いる現像パラメータとして決定する、ことを特徴とする撮像装置によって達成される。
本発明によれば、高速に現像処理を行う回路を必要とせずに、かつ、必要な際には容易に再生可能にRAW画像を記録することが可能な画像処理装置及びその制御方法において、RAW画像の現像パラメータの設定を容易にすることができる。
本発明の実施形態に係る撮像装置の構成例を示すブロック図 実施形態に係る撮像装置の、パラメータ静止画撮影モードおよびパラメータ動画撮影モードにおける動作の概要を模式的に示した図 実施形態に係る撮像装置のパラメータ静止画撮影モードにおける動作を説明するためのフローチャート 実施形態に係る撮像装置がパラメータ静止画撮影モードで記録する情報の例を示す図 実施形態に係る撮像装置のパラメータ動画撮影モードにおける動作を説明するためのフローチャート 実施形態に係る撮像装置がパラメータ動画撮影モードで記録する情報の例を示す図 実施形態に係る撮像装置の静止画再生モードにおける動作を説明するためのフローチャート 実施形態に係る撮像装置が表示する現像パラメータ選択画面の例を示す図 実施形態に係る撮像装置の動画再生モードにおける動作を説明するためのフローチャート 実施形態に係る撮像装置のアイドル状態における動作を説明するためのフローチャート 実施形態に係る撮像装置の後現像処理後の情報の例を示す図
以下、添付図面を参照しながら、本発明の例示的な実施形態を詳細に説明する。
図1は、本発明の実施形態に係る画像処理装置の一例としての撮像装置の機能構成例を示すブロック図である。これらの機能ブロックは、ASICなどの専用ハードウェアによって実現されてもよいし、MPU等の汎用プロセッサがプログラムを実行することによりソフトウェア的に実現されてもよい。
図1に示した撮像装置100は、被写体像を撮像して得られた画像データを記録媒体に記録するだけでなく、画像データを記録媒体から再生し、現像処理して表示する機能や、画像データを外部の装置やサーバ(クラウド)等と送受信する機能を有する。従って、本発明の実施形態に係る撮像装置は、画像処理装置、記録装置、再生装置、記録再生装置、通信装置等と表現することもできる。
図1において、制御部161は、CPU、MPUなどのプログラマブルプロセッサと、プログラマブルプロセッサが実行する制御プログラムを格納する不揮発性メモリを含み、撮像装置100の全体の処理を制御する。なお、図1では煩雑さを避けるために一部しか記載していないが、制御や通信を行うための信号線が制御部161から各機能ブロックに接続されている。操作部162は、ユーザが撮像装置100に対して指示を与えるために用いるキーやボタン、タッチパネルなどの入力デバイスを含む。操作部162からの操作信号は、制御部161によって検出され、制御部161は検出した操作に応じた動作が実行されるように他の機能ブロックなどを制御する。表示部123は、表示処理部122を通じて提供される、撮像装置100で撮影もしくは再生された画像や、メニュー画面、各種情報等を表示する。表示部123は例えば液晶ディスプレイ(LCD)等を含む。
撮像対象となる被写体像は、撮像光学部101を介して撮像センサ部102上に結像する。操作部162による撮影開始の指示に応答して制御部161は撮影および記録動作を開始させる。なお、撮影スタンバイ時にライブビュー表示を実現するための動画撮影を行うように構成してもよい。撮像光学部101及び撮像センサ部102の動作は、評価値算出部105により取得される絞り、フォーカス、手ぶれ等の評価値算出結果や、認識部131からの被写体情報に基づいて、制御部161によって制御される。
撮像センサ部102は、画素毎に配置される赤、緑、青(RGB)のカラーフィルターを透過した光を電気信号に変換する、例えばCCDイメージセンサやCMOSイメージセンサであってよい。本実施形態の撮像センサ部102は、例えば横8000画素×横4000画素の画像データを60フレーム毎秒で出力する能力を有するものとする。なお、カラーフィルターを構成する色や配列は例えば原色ベイヤー配列であってよいが、他の任意の配列を採用することができる。
撮像センサ部102によって変換された電気信号は、センサ信号処理部103によって画素の修復処理が施される。修復処理には、撮像センサ部102における欠落画素や信頼性の低い画素の値に対し、周辺画素値を用いて修復対象の画素を補間したり、所定のオフセット値を減算したりする処理が含まれる。本実施形態では、センサ信号処理部103から出力される画像データを、未現像の画像を意味するRAW画像データという。
センサ信号処理部103から出力されたRAW画像データは、現像部110で現像処理される。現像部110は、複数(本実施形態では2つ)の異なる現像処理部を有し、それぞれ、処理精度と処理負荷の優先度が異なっている。本実施形態では、第1の現像処理を行う簡易現像部111と、第2の現像処理を行う高画質現像部112とから構成される。簡易現像部111、高画質現像部112は共に、RAW画像データに対してデベイヤー処理(デモザイク処理もしくは色補間処理とも呼ばれる)、ホワイトバランス調整、RGB→YUV変換、ノイズ低減、光学歪の補正などの現像処理を行う。なお、これらは現像処理に含まれる処理の例示であり、これらの全てが現像処理に必須であることを意味しない。他の処理が含まれてもよいし、一部が含まれなくてもよい。
高画質現像部112は、簡易現像部111よりも各々の処理を高精度に行う。高精度であるため、簡易現像部111よりも高画質な現像画像が得られるが、一方で、処理負荷が大きい。他方、簡易現像部111は、RAW画像データの1画面の画素数を、例えば横2000画素×縦1000画素に縮小する。更に、簡易現像部111は、高画質現像部112よりも処理の精度が低いため、得られる画質は高画質現像部112よりも低いものの、撮影中に高速に現像処理を行うことができる。このように、簡易現像部111は、RAW画像データよりも画素数が少ない画像データを処理し、更に、処理自体も簡易的に行うことで、処理量が少なくなるように構成されている。簡易現像部111の処理負荷は小さいので、撮影動作と並行したリアルタイムの現像の際には簡易現像部111を用いるようにする。スイッチ部121は、操作部162によりユーザから指示された操作内容や実行中の動作モードに応じた制御に従って、制御部161によって切り替えられ、簡易現像部111または高画質現像部112の一方の出力を後段のブロックに供給する。
なお、本実施形態では、現像部110の中に簡易現像部111と高画質現像部112が独立に存在する構成を示しているが、一つの現像部が動作モードを切り替えて、簡易現像と高画質現像の処理を排他的に行う構成としてもよい。また、複数の現像部は互いに処理負荷が異なればよく、処理する画像のサイズと処理精度の両方を下げることは必須ではない。例えば、処理する画素数は同一であるが、処理精度が異なっている現像部や、処理精度は同一であるが処理する画素数が異なっている現像部が含まれていてもよい。ただし、撮影された画像の現像処理が、次の画像の撮影開始までに完了できる現像部が少なくとも1つ含まれるようにする。
なお、図1ではセンサ信号処理部103からのRAW画像データが現像部110の中の簡易現像部111と高画質現像部112に入力されるように図示しているが、これは同一のRAW画像データに対して両方の現像部で現像処理を行うことを意味していない。処理負荷の観点から、基本的には1つの現像部だけが現像処理を実行する。従って、RAW画像データが入力される現像部を切り替えるようなスイッチ部121がさらに設けられても良い。
現像部110によって現像処理された画像データは、表示処理部122によって所定の処理がなされた後、表示部123にて表示される。また、現像処理された画像データは、映像出力端子124により、外部に接続された表示機器に出力してもよい。映像出力端子124は、例えばHDMI(登録商標)やSDIのような汎用インタフェースを含む。
現像部110によって現像処理された画像データは、評価値算出部105にも供給される。評価値算出部105は、画像データから例えばフォーカス状態や露出状態などの評価値を算出する。これらの評価値は例えば制御部161による自動焦点検出や自動露出制御に用いられる。
現像部110によって現像処理された画像データは、認識部131にも供給される。認識部131は、画像データ中の被写体情報を検出及び認識する機能を有する。認識部131は例えば、画像データによって表される画像に含まれる人物の顔を検出し、検出された場合は顔の位置や大きさなどを示す情報を出力する。認識部131はさらに顔などの特徴情報に基づいて特定の人物の認証などを行ってもよい。
現像部110によって現像処理された画像データは、静止画圧縮部141及び動画圧縮部142にも供給される。画像データを静止画として圧縮する場合は、静止画圧縮部141を用いる。符号化手段としての静止画圧縮部141は、JPEG等の公知の符号化方式に従い静止画データを符号化する。画像データを動画として圧縮する場合は、動画圧縮部142を用いる。動画圧縮部142は、H.264、H.265等の公知の符号化方式に従って動画データを符号化する。静止画圧縮部141及び動画圧縮部142は、それぞれ対象となる画像データを高能率符号化(圧縮符号化)し、情報量が圧縮された画像データを生成して、記録再生部151に送る。
現像パラメータ生成部117は、現像部110によって現像処理された画像データや、認識部131の認識結果に基づき、現像パラメータを生成する。具体的には、現像パラメータ生成部117は、画像データから撮影時の光源(の色温度)を推定し、ホワイトバランス値を決定したり、認識部131により認識された被写体の領域に対する補正の要否や補正範囲などを決定したりする。例えば認識部131が被写体として人物や動物の顔を検出および認識する場合、現像パラメータ生成部117は、顔領域について赤目の発生有無を判定し、判定結果に応じて赤目補正処理の要否や補正を行う目領域などを決定することができる。
また、現像パラメータ生成部117は、簡易現像部111用の現像パラメータと、高画質現像部112用の現像パラメータを生成する。上述の通り、簡易現像部111はその構造上、処理量が非常に多い現像処理(例えばノイズリダクション処理等)を実行することが困難である。そのため、現像パラメータ生成部117は、高画質現像部112と簡易現像部111のそれぞれに適した現像パラメータを生成する。また、操作部162により、後述するパラメータ撮影モードが設定されていた場合、現像パラメータ生成部117は、1つの画像データに対して複数種類の現像パラメータを自動的に生成する。
パラメータ撮影モードにおいて、現像パラメータ生成部117は、現像処理された画像データから例えば逆光状態を判定した場合には、ブラケット撮影のように露出量を異ならせた現像結果が得られるような複数の現像パラメータを生成することができる。また、現像パラメータ生成部117は、画像内の合焦位置を評価値算出部105の評価結果から判定し、合焦位置付近を拡大するような現像パラメータを生成することができる。これらは単なる例示であり、現像パラメータ生成部117は他の条件に基づく現像パラメータを生成可能であるが、撮影された画像データに基づいた現像パラメータを自動的に行うことができる。
RAW圧縮部113は、センサ信号処理部103から出力されたRAW画像データにウエーブレット変換や、差分符号化等を適用し、データ量を削減した圧縮RAWデータを生成する。RAW圧縮部113は、圧縮RAWデータをバッファ部115に格納する。バッファ部115はメモリやHDDなど、任意の記憶装置であってよい。圧縮RAWデータは、バッファ部115に保存しておいてもよいし、格納後にさらに別の記録媒体に移動させてバッファ部115から削除してもよい。
記録再生部151は、静止画圧縮部141からの静止画データや、動画圧縮部142からの動画データを記録媒体152に記録する。また記録再生部151は、バッファ部115から読み出したRAWデータの状態の静止画および動画データを、圧縮後の静止画並びに動画データとは別個のRAWファイルとして記録媒体152に記録する。また記録再生部151は、記録媒体152に記録されたデータを、FAT等の公知のファイルシステムに従いファイルとして管理する。記録媒体152は、例えば内蔵式の大容量メモリやハードディスク、又は、着脱式のメモリカード等である。また、記録再生部151は、記録媒体152から静止画ファイル、動画ファイル、RAWファイル(静止画、動画)を読み出すこともできる。また、記録再生部151は、通信部153を介して、外部のストレージやサーバに、各種データファイルを書き込んだり、読み出したりすることができる。通信部153は通信端子154を通じ、無線通信や有線通信によりコンピュータネットワークや外部機器へのアクセスを撮像装置100に提供する。通信端子154として、Ethernet(登録商標)やUSB等の有線端子の他、IEEE802.11xやBluetooth(登録商標)等の無線端子を用いることができる。
記録再生部151は、記録媒体152から、又は、通信部153を介して、所望のファイルを取得して再生する。再生対象のファイルがRAWファイルであれば、記録再生部151は、取得されたRAWファイルをバッファ部115に格納する。再生対象のファイルが静止画ファイルであれば、記録再生部151は、取得された静止画ファイルを静止画伸張部143に供給する。再生対象のファイルが動画ファイルであれば、記録再生部151は、取得された動画ファイルを動画伸張部144に供給する。
RAW伸張部114は、バッファ部115に格納されているRAWファイルを読みだして、圧縮RAWデータを復号して伸張する。RAW伸張部114によって伸張されたRAWデータは、現像部110の簡易現像部111、高画質現像部112に供給される。
静止画RAW抽出部116は、後述するパラメータ動画撮影モードでの動画撮影時に、動画データから所定のフレーム画像を抽出し(切り出し)、現像部110の簡易現像部111、高画質現像部112に供給する。
静止画伸張部143は、入力された静止画ファイルを復号して伸張し、静止画の再生画像として表示処理部122に供給する。動画伸張部144は、入力された動画ファイルを復号して伸張し、動画の再生画像として表示処理部122に供給する。表示処理部122で処理された静止画や動画は、表示部123で表示される。
次に、パラメータ撮影モードにおける撮像装置100の動作について詳細に説明する。 図2(a)および(b)は、パラメータ静止画撮影モードおよびパラメータ動画撮影モードにおける撮像装置100動作の概要を、データと処理との関係を用いて模式的に示した図である。
パラメータ静止画撮影モードでは、1つのRAW静止画ファイル301に対し、デフォルト現像パラメータを用いるデフォルト現像処理311と、デフォルト現像パラメータとは異なる現像パラメータを用いるパラメータ現像処理312とを実行する。デフォルト現像処理311によって1つのデフォルト静止画ファイル321(第1の画像データ)が生成される。一方、互いに異なる現像パラメータを用いたパラメータ現像処理312が複数回実行され、対応するパラメータ静止画ファイル322(第3の画像データ)が生成される。
パラメータ静止画撮影モードにより、様々な現像パラメータで現像された静止画像を撮影終了直後に入手する事が可能となる。そのため、RAWデータの現像処理に対する理解の浅いユーザにおいても、現像された画像を比較しながら好みに応じた現像画像を入手するための現像パラメータ設定が可能となる。
パラメータ動画撮影モードでは、1つのRAW動画ファイル401に対し、デフォルト現像パラメータを用いるデフォルト現像処理411を行い、デフォルト動画ファイル421(第1の画像データ)を作成する。また、フレーム切り出し処理402によりRAW動画ファイル401中の所定のフレームからRAW静止画ファイル403(代表フレーム画像)を生成する。この処理は静止画RAW抽出部116が行う。そして、このRAW静止画ファイル403に対してデフォルト現像処理412とパラメータ現像処理413とを実行して、1つのデフォルト静止画ファイル422および複数のパラメータ静止画ファイル423(第3の画像データ)を生成する。
動画データは静止画データよりデータ量が遙かに大きいため、異なる現像処理を動画データ全体に対して実施することは撮像装置100に搭載する集積回路の規模や消費電力の観点から現実的ではない。そのため、パラメータ動画撮影モードにおけるパラメータ現像処理は、動画ファイルから切り出したフレーム画像(静止画)について実施するようにしている。なお、パラメータ現像処理を適用するフレーム画像は、先頭フレーム、シーンチェンジ直後のフレームなどの特徴的なフレーム画像や、所定時間またはフレーム数ごとに抽出するなど、様々な条件で抽出することができる。また、所定数のフレーム画像を連続的に取得して、短い動画の様な形式で抽出してもよい。
また、デフォルト現像処理についてもパラメータ現像処理と同じフレーム画像について実施する。このように、動画撮影時においても静止画に対する現像結果を生成することで、様々な現像パラメータによる現像結果を撮影後すぐに比較でき、ユーザの好みに応じた現像結果を得るための現像パラメータ設定が可能となる。
なお、パラメータ撮影モードが設定されていない場合(通常撮影モード)では、静止画撮影時も動画撮影時もデフォルト現像処理のみを実施し、デフォルト静止画ファイル321およびデフォルト動画ファイル421を生成する。
次に、上述したパラメータ静止画撮影モードにおける撮像装置100の具体的な動作について、図3のフローチャートを用いて説明する。図3のフローチャートは、特に明示されている場合を除き、図1に示した機能ブロックを制御部161が制御することで実現される処理の手順を示す。具体的には制御部161が有する不揮発性メモリに格納されたプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される処理である。
制御部161は撮像装置100の処理負荷状況が低いか否かを判定し(S501)、負荷状況に応じてアイドル状態(S520)へ遷移させ、そうでなければS502へ処理を進める。負荷状態は制御部161が有するCPUの稼働率や、予め定められた高負荷の動作、例えば高速連写動作が行われているかどうかなどに応じて判別することができるが、これらに限定されない。アイドル状態に遷移する程度に処理負荷が低くない場合、制御部161は処理をS502へ進める。なお、アイドル状態へ移行するかどうかの判定処理については後述する。
S502において制御部161は、撮像光学部101や撮像センサ部102の動作を制御する。例えば、制御部161は、操作部162を通じたユーザのズーム指示や撮影準備指示に従って、撮像光学部101に含まれるズームレンズやフォーカスレンズを移動させたり、撮影画素数の指示に従って撮像センサ部102の読み出し領域を設定したりする。また、制御部161は、評価値算出部105からの評価値の情報や認識部131からの被写体情報に基づいて、特定被写体に対する合焦や追尾などの制御を実現する。S502では、所定のフレーム周期に応じた撮影条件で撮影が実施される。
S503では、撮像センサ部102によって変換された電気信号に対して、センサ信号処理部103が画素の修復のための信号処理を施す。例えば、センサ信号処理部103は、撮像素子の欠落画素に対応する電気信号や、信頼性の低い画素の電気信号に対し、周辺画素値を用いて補間したり、所定のオフセット値を減算したりする。本実施形態では、S503の処理を終えて、センサ信号処理部103から出力される画像情報を、生(未現像)の画像を意味するRAW画像と呼ぶ。
S504において、簡易現像部111がRAW画像データを現像処理する。このときに用いられる現像パラメータは、現像パラメータ生成部117により生成されるデフォルトパラメータであり、一般的な撮像装置で算出されるような自動ホワイトバランス処理や自動露出処理等を行った結果に基づく現像パラメータである。なお、制御部161は、遅くともS504の開始時までに、現像部110から簡易現像部111で現像処理された画像データが出力されるようにスイッチ部121の状態を制御する。
簡易現像部111は、RAW画像データの画素数を前述のように削減し、画像を縮小する。そして、簡易現像部111は、縮小RAW画像データに対してデベイヤー処理(デモザイク処理)して各画素に不足している色信号を生成したのち、輝度と色差から成る信号へ変換する(RGB→YUV変換)。さらに簡易現像部111は、各信号に含まれるノイズを除去したり、撮影光学系の光学歪(収差)を補正したり、ホワイトバランスを調整したりする。上述の通り簡易現像部111は、画素数を削減してから現像処理したり、ノイズ除去や光学歪補正を処理速度を優先した処理で行ったり省いたりすることで、現像処理の負荷(処理速度や消費電力)が撮像装置100の撮影能力に与える制限を軽減または除去する。簡易現像部111を用いることで、例えば、高画質現像部112を用いた場合には不可能な高速連写速度や連続撮影枚数などを実現することができる。
簡易現像部111で現像処理された画像データは、スイッチ部121を通じて評価値算出部105に供給される。評価値算出部105は、画像データに含まれる輝度値やコントラスト値などから撮像光学部101の合焦状態や、画像の露出状態などの評価値を所定の方法で算出する(S505)。なお、評価値算出部105は、現像処理前のRAW画像データに対してこれらの評価値を算出しても良い。
また、簡易現像部111で現像処理された画像データは、スイッチ部121を経由して認識部131に供給される。認識部131は、画像データに対し、予め定められた特定の特徴を有する被写体(例えば人物の顔)の検出処理を適用し、被写体情報を生成する。例えば、画像データ内における顔の有無や、顔の位置や大きさ、顔に基づいて認識された個人の情報などを被写体情報として出力する(S506)。
また、簡易現像部111で現像処理された画像データは、スイッチ部121を経由して表示処理部122に供給される。表示処理部122は、取得した画像データから表示画像を形成し、表示部123又は外部の表示装置に出力して、表示する(S507)。表示部123による表示画像は例えば、撮影待機状態において、ユーザが被写体を適切にフレーミングするためのライブビュー表示(撮影スルー画像表示)のために用いられる。さらに、表示処理部122は、評価値算出部105や認識部131から供給される評価値や被写体情報を活用して、例えば、表示画像に合焦領域や認識された顔の位置を示す枠状のマークを重畳表示したりしてもよい。
S508において、制御部161は、操作部162を通じてユーザから撮影指示が入力されたか判定し、撮影指示の入力が無かった場合はS501からの処理を繰り返す。
S508で撮影指示が入力された場合、制御部161は撮影指示に応答して、撮像光学部101、撮像センサ部102を制御して所定の撮影条件での撮影を開始させる。撮像センサ部102で得られた1画面分の画像データはセンサ信号処理部103を通じて現像部110に供給されて簡易現像部111で現像処理されたのち、静止画圧縮部141に供給される。また、撮像センサ部102で得られた1画面分の画像データはRAW圧縮部113にも供給される。そして、制御部161は、処理をS610へ進める。
S610において制御部161は、ブラケット撮影を追加で行う必要性の有無を判定する。ブラケット撮影が必要と判定されるのは、1つの撮影条件では適切な画像が得られにくいと考えられる場合であり、例えば以下の様な場合である。(1)シーンの明暗差が閾値より大きく、黒つぶれや白とびが発生すると判断される場合。(2)認識部131が認識した複数の被写体が近くと遠くに存在する場合。(1)の場合は露出のブラケット撮影、(2)の場合は合焦距離のブラケット撮影が必要と判定される。もちろん、他の条件に基づいて、他のブラケット撮影の必要性が判定されてもよい。
ブラケット撮影が必要であると判定された場合、制御部161は判定結果に従ったブラケットモードを選択し(S611)、ブラケット撮影処理を行う(S612)。ブラケット撮影で得られた1画面分の画像データも、センサ信号処理部103を通じて現像部110およびRAW圧縮部113に供給される。
S613において、簡易現像部111により現像された現像画像と、評価値算出部105の評価値、認識部131の認識結果から、現像パラメータ生成部117で所定数(本実施形態においては6種類とする)の現像パラメータを作成する。また、6種類のうち、第1の現像パラメータについてはS504で生成された現像パラメータを利用し(デフォルト現像パラメータ)、第2から第6の現像パラメータについては現像パラメータ生成部117で新規に生成するものとする。第2から第6の現像パラメータについては、第1の現像パラメータのような、実際の被写体の情報を忠実に再現することを目的としたものでなくても良い。例えば、モノクロ画像を得るための現像パラメータや、特定の色情報を残すような現像パラメータや、撮影画像の一部分をクロップするような現像パラメータであっても良い。
S613で生成された第1から第6の現像パラメータを用い、S614では簡易現像部111が簡易静止画データを生成する。なお第1の現像パラメータにおける簡易現像静止画像については、S504で生成したものを利用しても良い。静止画圧縮部141は、簡易現像部111により現像した画像データに対して高能率符号化処理を施し、静止画ファイルを生成する(S615)。なお、静止画圧縮部141は、JPEG等の公知の静止画圧縮技術を用いて圧縮を行う。本実施形態では、このように、撮影時において、簡易現像部111により現像され、静止画圧縮部141で符号化された静止画データを簡易静止画データ(第1の画像データ)、簡易静止画データを含んだデータファイルを簡易静止画ファイルと呼ぶ。なお、符号化方法はJPEG方式に限らず、任意のものが使用可能である。
次にS616において、記録再生部151が第1〜第6の簡易静止画ファイルと、現像パラメータを関連付けて記録媒体152に記録する。
上述の通り、撮像センサ部102で得られた1画面分のRAW画像データは、さらにRAW圧縮部113に供給される。RAW圧縮部113は、RAW画像データにデータ量を削減するための符号化(RAW圧縮)処理を適用して圧縮RAW画像データに変換する(S617)。圧縮RAW画像データはバッファ部115に格納される。なお、RAW圧縮部113が行う高能率符号化はウェーブレット変換や、差分符号化などの公知の技術により処理されるものとするが、非可逆符号化でも可逆符号化でもよい。更に、RAW圧縮部113のRAW圧縮を省略して、RAW画像が非圧縮状態のまま出力されてもよい。RAW圧縮の有無にかかわらず、本実施形態では、センサ信号処理部103から供給される画像情報を大きく損なわない、高画質な画像を生成可能なRAW画像データを生成する。
S618において、記録再生部151は、バッファ部115から画像データを読み出し、(圧縮)RAW画像データが格納されたデータファイル(RAWファイル)を記録媒体152に記録する。
なお、簡易静止画データの生成および記録処理(S613〜S616)と、RAW画像データの圧縮および記録処理(S617〜S618)の少なくとも一部は並列処理されてよい。また、S615及びS618において、記録再生部151は、静止画ファイル及び/又はRAWファイルを、通信部153を介して、通信端子154から外部のストレージに送って、外部のストレージによって記録するようにしても良い。
S619において制御部161は、記録した画像の確認表示時に、ユーザから現像パラメータの選択を受け付け、画像ファイルを特定する情報(例えばファイル名)と関連付けて選択情報をバッファ部115に記憶したのちに処理をS501へ戻す。S619においては後述する再生モードと同様に、6つの現像パラメータを用いて簡易現像した結果を一覧表示し、操作部162を通じてユーザに画像を選択させることで現像パラメータの選択を受け付けることができる。なお、選択情報は記録媒体152に記録してもよい。連写時等、現像パラメータを選択する時間が無い場合は、デフォルト現像パラメータが選択される。ここで選択された現像パラメータは、再生時や後述する後現像時に用いられる。
また、ブラケット撮影を行った場合には、得られた複数枚の画像データを用いた処理、例えば露出ブラケット撮影により取得された複数枚の画像を用いたHDR画像の生成といった処理を行うこともできる。しかし、簡易現像部111でHDR画像を生成するのは実行時間的に望ましくない。そこで、現像パラメータ生成部117は、露出ブラケット撮影がなされた場合、単一のRAW静止画像に対して適用する、コントラスト値を変更(低減)した現像パラメータを簡易現像部111用に生成する。また、適正露出で撮影された画像と露出ブラケット撮影で得られた画像を合成してHDR画像を生成する現像パラメータを高画質現像部112用に生成する。HDR画像は元の画像よりもコントラストが低くなるので、ユーザは、高画質現像部112により生成される画像を、簡易現像部111での現像結果から推測することができる。
図4は、パラメータ静止画撮影モードで記録される情報の例を示す図である。
本実施形態の撮像装置100は、撮影動作毎に静止画情報ISを生成する。静止画情報には、1つのRAW静止画ファイルRI1と選択現像パラメータ情報SEに加え、N(≧2)種類の簡易現像用パラメータLP1〜LPN、高画質現像用パラメータHP1〜HPN、簡易静止画ファイルLI1〜LINが含まれる。簡易現像用パラメータLPN、高画質現像用パラメータHPN、簡易静止画ファイルLINはそれぞれ関連付けられており、簡易画像ファイルから対応する現像パラメータ(LPN、HPN)を容易に特定可能である。
選択現像パラメータ情報SEは再生時や後述する後現像時に用いられる現像パラメータを特定する情報である。選択現像パラメータ情報SEは例えば撮影直後にS619でユーザによって指定されたり、制御部161により自動的に決定されたりする。
なお、パラメータ静止画撮影モードでない、通常の静止画撮影モードにおいては、現像パラメータLPN、HPN、簡易静止画ファイルLINはそれぞれ1種類ずつしか記録されない。そのため、選択現像パラメータ情報SEは常に第1の現像パラメータを特定する情報となる。
次に、パラメータ動画撮影モードにおける撮像装置100の具体的な動作について、図5のフローチャートを用いて説明する。図5のフローチャートは、特に明示されている場合を除き、図1に示した機能ブロックを制御部161が制御することで実現される処理の手順を示す。具体的には制御部161が有する不揮発性メモリに格納されたプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される処理である。
図5において、パラメータ静止画撮影モードと同じ動作を行うS501からS507については、説明を省略する。
S908において、制御部161は、ユーザからの記録の開始指示を受けて撮影された動画を記録中(REC中)であるか否かを判定し、REC中の場合は処理をS1010へ進める。S908でREC中でない場合(すなわちスタンバイ中である場合)、制御部161は処理をS501へ戻して、動画の記録開始前の撮影動作とライブビュー表示を繰り返す。
S908においてREC中であると判断された場合、制御部161は、後現像時に用いる現像パラメータをユーザに選択させるための代表フレーム画像の高画質現像を高画質現像部112が実行中か否かを判断する(S1010)。代表フレーム画像の高画質現像を実行中である場合、制御部161は高画質現像部112で実行中の高画質現像を継続させる(S1015)が、高画質現像処理を実行中で無い場合は、処理をS1011へ進める。
S1011において制御部161は、同一の代表フレーム画像に対し、デフォルト現像パラメータを含む、全種類の現像パラメータに対応する現像処理が完了しているかどうかを判断する。未適用の現像パラメータがあれば、制御部161はその現像パラメータを選択し(S1012)、対応する高画質現像処理を高画質現像部112に行わせる(S1015)。
一方、未適用の現像パラメータがなければ、1つのフレーム画像に対する現像パラメータ選択用の静止画ファイルの作成が完了しているため、制御部161はS1013で、静止画RAW抽出部116により新たな代表フレーム画像を抽出させる。なお、ここでは順次代表フレーム画像を抽出するものとしているが、上述の通り、代表フレーム画像の抽出条件は予め設定しておくことが可能であり、この条件を満たす場合にS1013へ処理を移行するようにしてもよい。
新たな代表フレーム画像を抽出した場合、制御部161は適用する複数の現像パラメータを現像パラメータ生成部117により決定し(S1014)、決定した現像パラメータの中から一つを選択して高画質現像部112に現像処理を実行させる(S1015)。
録画開始直後は現像パラメータが決定されていないため、S1011で制御部161は未適用の現像パラメータがないと判定する。そのため、代表フレーム画像の抽出と代表フレーム画像を現像するための現像パラメータ複数種類を、現像パラメータ生成部117により決定し、決定した現像パラメータの中から一つを選択して高画質現像部112に現像処理を実行させる。
なお、現像パラメータ生成部117は、新たな代表フレーム画像が抽出されるたびに現像パラメータを決定する。ただし、同一シーン内で現像パラメータが急激に変化しないよう、同一シーンから抽出された代表フレーム画像に対しては、直前に決定した現像パラメータと同一もしくはほぼ同一の現像パラメータを生成する。また、現像パラメータ生成部117は、前回の代表フレーム画像からシーンが急激に変化している場合は、変化に合わせて急激に現像パラメータを変化させてもよい。シーンの変化有無は、前回の代表フレーム画像と今回の代表フレーム画像との相関や平均輝度の変化によって判別することができるが、公知かつ任意の方法を用いることができる。
高画質現像部112による現像処理は簡易現像部111による現像処理よりも時間を要するので、1フレーム時間(例えば1/30秒)内に完了しない可能性がある。そのため、制御部161は、S1016において高画質現像処理の実行状態を判別する。そして、高画質現像処理が完了していれば、高画質現像部112により現像処理された代表フレーム画像に対し、静止画圧縮部141での静止画圧縮処理(S1017)、記録再生部151での記録処理を実行する(S1018)。記録処理では、符号化静止画ファイルと、使用した現像パラメータの情報が関連付けられて記録される。
一方、動画記録のための処理が、S1019以降で実施される。簡易現像部111で簡易現像処理したフレーム画像が動画圧縮部142によって圧縮される(S1019)。なお、不図示のマイクロフォンによって入力された音声情報についても動画圧縮部142で圧縮処理を適用する。すなわち、動画圧縮部142は、取得した簡易現像済みの動画の画像情報及び音声情報に対して高能率符号化処理(動画圧縮)を施し、動画ファイルを生成する。なお、動画圧縮部142は、MPEG−2、H.264、H.265等の公知の動画圧縮技術を用いて圧縮処理を行う。S1020において、記録再生部151が動画圧縮部142の生成した動画ファイルを記録媒体152に記録する。
また、記録期間に撮影されたRAW画像(RAW動画)が、センサ信号処理部103からRAW圧縮部113に供給される。RAW圧縮部113は、RAW画像を高能率符号化(RAW圧縮)してRAWファイルに変換し、バッファ部115に格納する(S1021)。RAW圧縮部113が行う高能率符号化は、ウェーブレット変換や、差分符号化などの公知の技術により処理されるものとするが、非可逆符号化でも可逆符号化でもよい。あるいは、RAW圧縮部113のRAW圧縮を省略して、RAW画像が非圧縮状態のままバッファ部115に格納されてもよい。RAW圧縮の有無にかかわらず、本実施形態では、センサ信号処理部103から供給される画像情報を大きく損なわない、高画質ファイルとして復元可能なRAWファイルを生成する。
S1022において、記録再生部151がバッファ部115に格納されたRAWファイルを記録媒体152に記録すると、制御部161は処理をS501に戻す。
代表フレーム画像の現像及び記録処理(S1010〜S1018)、簡易現像画像を用いた動画データの圧縮及び記録処理(S1019〜S1020)、及びRAW画像データの圧縮及び記録処理(S1020〜S1022)の少なくとも一部は並列処理されてよい。また、S1018、S1020及びS1022において、記録再生部151は、動画ファイル及び/又はRAWファイルを、通信部153を介して、通信端子154から外部のストレージに送って、外部のストレージによって記録するようにしても良い。
なお、本実施形態では、代表フレーム画像の現像処理に、動画撮影時には使用されない高画質現像部112を用いる例を説明した。しかし、簡易現像部111の負荷が十分に少ない場合は、簡易現像部111を用いてもよい。また、高画質現像部112で代表フレーム画像の現像処理を行う場合でも、簡易現像部111と同様の品質での現像処理を行うような現像パラメータを供給してもよい。このようにすることで、現像パラメータを選択するための静止画を生成するための現像処理に要する処理を削減でき、撮像装置100の消費電力を削減可能となる。
図6は、パラメータ動画撮影モードで記録される情報の例を示す図である。
本実施形態の撮像装置100は、1回の動画撮影毎に静止画情報MSを生成する。動画情報には、1つのRAW動画ファイルRMと選択現像パラメータ情報SEに加え、N(≧2)種類の簡易現像用パラメータLP1〜LPN、高画質現像用パラメータHP1〜HPN、高画質静止画ファイルLI1〜LINが含まれる。簡易現像用パラメータLPN、高画質現像用パラメータHPN、高画質静止画ファイルLINはそれぞれ関連付けられており、高画質画像ファイルから対応する現像パラメータ(LPN、HPN)を容易に特定可能である。
選択現像パラメータ情報SEは再生時や後述する後現像時に用いられる現像パラメータを特定する情報である。選択現像パラメータ情報SEは例えばS908でREC中からREC中で無くなった際(撮影直後)にユーザによって指定されたり、制御部161により自動的に決定されたりする。
なお、パラメータ動画撮影モードでない、通常の動画撮影モードにおいては、RAW動画像RM、現像パラメータLPN、HPN、簡易動画ファイルLINがそれぞれ1種類記録され、高画質静止画ファイルは記録されない。そのため、選択現像パラメータ情報SEは常に第1の現像パラメータを特定する情報となる。
図7は、本実施形態の撮像装置100における、静止画再生モードの動作を示すフローチャートである。図7のフローチャートは、特に明示されている場合を除き、図1に示した機能ブロックを制御部161が制御することで実現される処理の手順を示す。具体的には制御部161が有する不揮発性メモリに格納されたプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される処理である。
静止画再生モードの処理が開始されると、制御部161は撮像装置100の処理負荷状況が低いか否かを判定し(S801)、負荷状況に応じてアイドル状態(S820)へ遷移させ、そうでなければS802へ処理を進める。負荷状態は制御部161が有するCPUの稼働率や、予め定められた高負荷の動作、例えば高速連写動作が行われているかどうかなどに応じて判別することができるが、これらに限定されない。アイドル状態に遷移する程度に処理負荷が低くない場合、制御部161は処理をS802へ進める。なお、アイドル状態へ移行するかどうかの判定処理については後述する。
なお、表示対象の静止画の決定方法に特に制限は無く、予め定められた条件で決定すれば良い。例えば一覧表示画面などからユーザに選択させてもよいし、記録媒体152に直近に記録された静止画であってもよい。ここでは、何らかの方法で再生対象の静止画ファイルが1つ特定されたものとする。
S802において制御部161は、表示対象の静止画ファイルについて、再生用の現像パラメータを決定する。再生用の現像パラメータの決定は様々な方法で行うことができるが、記録時に生成した簡易静止画ファイルを用いてユーザに選択させることができる。
図8は、現像パラメータ選択画面の例を示す図である。S802において制御部161は、ユーザに現像パラメータを選択させる場合、記録再生部151を通じて、撮像時に保存した簡易静止画ファイルを記録媒体152から読み出し、表示処理部122に供給する。表示処理部122は、表示部123に、予め定められたレイアウトで、簡易静止画ファイルの縮小画像1301〜1306を選択可能に一覧表示させる。
制御部161は操作部162を通じて縮小画像1301〜1306のいずれかの選択を検出すると、選択された画像に用いられた現像パラメータを再生用の現像パラメータとして決定する。このように、ユーザは、表示部123に表示された、同一画像に対して異なる現像パラメータを用いて得られた画像の中から、好みの画像を選択することで、現像パラメータを設定することができる。そのため、細かいパラメータの設定を行うことなく、希望の現像結果を得るための現像パラメータを設定することができる。また、本実施形態の特徴として、予め生成済みの静止画ファイルを用いて図8の選択画面を表示可能なため、記録後に個々の現像パラメータを用いて現像処理を行う構成よりも選択画面の表示に要する時間を大幅に短縮できる。
なお、S619等で現像パラメータの選択が既に完了している静止画ファイルにおいては、現像パラメータの選択処理を省略してもよい。また、現像パラメータの選択処理を行わずに、選択現像パラメータ情報SEで特定される現像パラメータの使用を決定してS803へ処理を進めてもよい。ただし、再生時にユーザが現像パラメータを選択できるように、図8に示す選択画面の表示をユーザが指示するためのメニューなどを用意しておく。
なお、図8に示す選択画面を通じた現像パラメータの選択は、S619においてユーザに現像パラメータを選択させる場合にも行うことができる。なお、現像パラメータを選択させる場合には、選択画面において複数の画像の選択を許してもよく、この場合、選択された画像に対応する複数の現像パラメータを特定する情報が選択現像パラメータ情報SEに記録される。複数の現像パラメータが選択されている場合、再生処理においても複数の画像を表示してもよいし、いずれか1つに対応した画像のみを表示してもよい。
S803において制御部161は、再生を行う静止画について、高画質な画像が必要か判定し、必要であればS804へ、必要で無ければS820へ処理を進める。本実施形態において、高画質な画像が必要な場合とは、画像の拡大表示が設定されている場合や、簡易静止画ファイルの画素数よりも表示領域の画素数が多い場合などが例示できるが、これらに限定されない。
S804において制御部161は、表示する静止画ファイルが高画質現像済みのものであるか否かを判定し、後述する後現像が適用されて既に高画質現像処理が適用されている場合はS820へ、そうでない場合はS805へ処理を進める。
S805において制御部161は、再生対象の静止画ファイルに対応するRAWファイルが、バッファ部115に存在するか確認する。そして、制御部161は、バッファ部115にRAWファイルが存在すれば処理をS807に進め、存在しなければ記録再生部151を通じて記録媒体152から読み出してバッファ部115に格納(S806)してから処理をS807に進める。バッファ部115には直近に撮影されたものから予め定められた数のRAWファイルが保持されている。そのため、制御部161は再生対象の静止画ファイルに対応するRAWファイルが、記録媒体152に記録されているRAWファイルのうち、直近に撮影されたものから予め定められた数に含まれていれば、バッファ部115に記憶されていることが分かる。なお、記録再生部151から記録時のRAWファイルの情報を取得し、バッファ部115に記憶されているRAWファイルと、記録媒体152に記録されているRAWファイルとの対応関係を保存しておいてもよい。
制御部161は、記録媒体152からRAWファイルを読み出す場合、古いものから順に読みだしてバッファ部115に記憶する。そして、バッファ部115の記憶領域が一杯になった場合、最も古いRAW画像データをバッファ部115から削除し、新たに撮影、あるいは、記録媒体152から読み出されたRAW画像データをバッファ部115に格納する。こうすることにより、直前に撮影されたRAW画像データは常にバッファに保持されているので、S806をスキップし、高速に処理できる。
S807において、制御部161はRAW画像データをバッファ部115からRAW伸張部114に供給する。RAW伸張部114はRAW画像データが圧縮処理されたものであれば伸張処理してRAW画像データを復元してから、一方、圧縮処理されていなければそのまま出力する。RAW画像データが圧縮されているものかどうかは、圧縮時に例えばRAW画像データの先頭に識別可能な情報を記録しておくことなどによって判別可能である。
S808において制御部161は、S802で決定された現像パラメータのうち、高画質現像パラメータを、記録再生部151を通じて記録媒体152から読み出し、現像パラメータ生成部117によって高画質現像部112に設定させる。高画質現像部112は、RAW伸張部114からのRAW画像データを、現像パラメータ生成部117から設定される現像パラメータを用いて現像処理する(S809)。
高画質現像部112は、RAW画像をデベイヤー処理(デモザイク処理)し、輝度と色差から成る信号へ変換して、各信号に含まれるノイズを除去、光学的な歪を補正し、画像を適正化するなどの所謂現像処理を行う。また、高画質現像部112は、画像のリサイズ、拡大・縮小処理、部分的なぼかし処理等の簡易な画像補正処理を行う。高画質現像部112によって生成される現像処理済みの画像の画素数は、撮像センサ部102から読出された画素数のまま、あるいはユーザから設定された画素数となる。そのため、高画質現像部112からの画像データの画素数は、簡易現像部111から出力される画像データよりも多い。したがって、高画質現像部112で得られる画像は簡易現像部111で得られる画像とより品質が高く、拡大表示の要求などに対しても十分な画質で対応可能である。
高画質現像部112で得られた画像は、スイッチ部121を経由して表示処理部122に入力される。
S804において既に高画質現像済みの静止画ファイルがあると判断された場合、制御部161は記録再生部151を通じて記録媒体152から該当する静止画ファイルを読み出し(S810)、静止画伸張部143に供給する。静止画伸張部143は静止画ファイルを伸張(S811)し、表示処理部122に出力する。
S812において表示処理部122は、高画質現像部112または静止画伸張部143から入力された静止画像を表示部123等に出力する。表示が完了すると、制御部161は処理をS801に戻す。
図7のS805以降で行う高画質現像処理は、撮影直後など、後述する後現像が適用されていないタイミングで実施されることが想定される。本実施形態では、撮影と撮影の合間や、撮影モードやスリープ状態などユーザ操作待ちの、比較的装置の処理負荷が小さい状態の時に後述する静止画の後現像が逐次実行され、簡易現像による静止画ファイルが自然と高画質現像による静止画ファイルに置き換わる。そうして置き換えが進むに従って、S805以降の高画質現像は発生するケースが減少し、速やかに高画質現像を出力できるようになり、操作性が一層高まっていく。
図9は、本実施形態の撮像装置100における、動画再生モードの動作を示すフローチャートである。図9のフローチャートは、特に明示されている場合を除き、図1に示した機能ブロックを制御部161が制御することで実現される処理の手順を示す。具体的には制御部161が有する不揮発性メモリに格納されたプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される処理である。
動画再生モードの処理が開始されると、制御部161が撮像装置100の処理負荷状況が低いか否かを判定し(S1201)、負荷状況に応じてアイドル状態(S1220)へ遷移させ、そうでなければS1202へ進む。例えば、再生指示などのユーザ操作を待っている間は、処理負荷が低いため、S1220へ遷移する。アイドル状態に遷移する程度に処理負荷が低くない場合、制御部161は処理をS1202へ進める。
なお、再生対象の動画の決定方法に特に制限は無く、予め定められた条件で決定すれば良い。例えば一覧表示画面などからユーザに選択させてもよいし、記録媒体152に直近に記録された動画であってもよい。ここでは、何らかの方法で再生対象の動画ファイルが1つ特定されたものとする。
S1202において制御部161は、再生対象の動画ファイルの再生用の現像パラメータを決定する。再生用の現像パラメータの決定は様々な方法で行うことができるが、図8を用いて説明したようにして、記録時に生成した静止画ファイルを用いてユーザに選択させることができる。ただし、再生対象が動画であるため、選択画面に表示する縮小画像は高画質静止画ファイルHF1〜HFNから生成される。なお、代表フレーム画像が複数存在する場合、デフォルト現像パラメータで現像された代表フレーム画像の一覧を表示させて、ユーザに代表フレーム画像を1つ選択させた後、対応する高画質静止画ファイルHF1〜HFNを用いて図8の選択画面を表示する。
なお、現像パラメータの選択処理を行わずに、選択現像パラメータ情報SEで特定される現像パラメータを用いるものと決定してS1203へ処理を進めてもよい。ただし、再生時にユーザが現像パラメータを選択できるように、図8に示す選択画面の表示をユーザが指示するためのメニューなどを用意しておく。なお、現像パラメータを選択させる場合には、選択画面において複数の画像の選択を許してもよく、この場合、選択された画像に対応する複数の現像パラメータを特定する情報が選択現像パラメータ情報SEに記録される。複数の現像パラメータが選択されている場合、動画の再生処理においてはいずれか1つに対応した動画のみを表示する。例えば高画質現像済みのものを優先的に表示してもよい。
S1203で制御部161は決定した現像パラメータを用いて現像された動画が存在するかどうか判別し、存在する場合はS1207へ、存在しない場合はS1204へ処理を進める。
S1204において制御部161は、記録再生部151を通じて、RAW動画ファイルRMと、S1202において決定した現像パラメータのうち、簡易現像パラメータを記録媒体152から読み出す。そして、制御部161は、RAW動画ファイルRMはRAW伸張部114に、現像パラメータは現像パラメータ生成部117にそれぞれ供給する。なお、S1204におけるRAW動画ファイルの読み出しは、例えば1〜符号化単位(例えばGOP)に対応する数のフレームごとに行うものとする。また、現像パラメータの読み出しは、現像パラメータが変更されない限り、1度行えば良い。
S1205において、RAW伸張部114はRAW動画データが圧縮処理されたものであれば伸張処理してRAW動画データを復元してから、一方、圧縮処理されていなければそのまま出力する。
現像パラメータ生成部117は、簡易現像パラメータを簡易現像部111に設定する。簡易現像部111は、RAW伸張部114からのRAW動画データを、現像パラメータ生成部117から設定される現像パラメータを用いて現像処理する(S1206)。
S1203において既に現像済みの動画ファイルがあると判断された場合、制御部161は記録再生部151を通じて記録媒体152から該当する動画ファイルを読み出し(S1207)、動画伸張部144に供給する。動画伸張部144は動画ファイルを1フレームずつ伸張(S1208)し、表示処理部122に出力する。
S1209において表示処理部122は、簡易現像部111または動画伸張部144から入力されたフレーム画像を表示部123等に出力する。表示が完了すると、制御部161は処理をS1201に戻し、動画ファイルの再生を継続する。動画ファイルの再生中は、ユーザから選択画面の表示指示がないかぎり、S1202における現像パラメータの決定処理はスキップしてよい。
このように、本実施形態の撮像装置100は、撮影時に簡易現像された動画ファイルを用いて、遅延なく容易に動画を再生することができる。また、簡易現像に用いられた現像パラメータと異なる現像パラメータを用いて再生を行うことも容易である。
なお、本実施形態では、再生時に現像を行う場合、再生待ち時間を短くするために、S1206において簡易現像部111を用いて現像を行った。しかし、待ち時間よりも画質を優先する場合には、高画質現像パラメータを用いて高画質現像部112で現像処理を行って、より高画質な動画を再生してもよい。例えば、S1202で現像パラメータをユーザに選択させる場合に、画質も選択させるように構成したり、画質を変更するための選択画面を動画再生中にユーザ指示に応じて表示可能に構成したりすることができる。
なお、静止画と同様、動画についても、後述する後現像処理によって順次高画質化されていく。そのため、撮影後の時間経過に従って、S1204〜S1206における高画質現像処理が再生時に実施される可能性が低下し、速やかに高画質現像を出力できる確率が高まるので、操作性が一層高まっていく。
次に、本実施形態における後現像の処理について説明する。後現像処理は、撮影時におけるRAW画像データと簡易静止画/動画データの記録動作を終えた後、RAW画像データから高画質静止画/動画データを生成し、記録する処理である。具体的には、まず、バッファ部115又は記録媒体152等に記録されたRAW静止画/動画データを読み出して高画質現像部112で現像処理する。そして、静止画圧縮部141または動画圧縮部142において高画質な符号化画像データ(第2の画像データ)を生成し、記録媒体152に記録する。本実施形態では、静止画および動画のRAW画像データに対して後現像処理が可能であるが、まず静止画を例に説明する。
前述のように、撮影時に記録される簡易静止画データは、簡易現像部111で現像処理した後に圧縮されたものである。そのため、高画質現像部112で現像処理した場合と比較して画素数が少なかったり、画質が劣る。簡易静止画データは撮影内容を撮影直後に大まかに確認したり、撮像装置100の表示部123のように画素数の低い表示装置に表示したりするには十分な品質であっても、画像の細部を確認したり、プリントアウトしたりするには品質が十分でない場合がある。
もちろん、ユーザがRAW画像データの高画質な現像処理を必要に応じて都度行ってもよいが、手間や時間がかかる。そのため本実施形態では撮像装置100がアイドル状態である際に、後現像処理を自動的に実行するものとする。アイドル状態とは、撮影スタンバイ時、静止画再生時の待機状態、スリープ状態など、撮像装置100の処理負荷が小さいと判定される状態である。なお、自動的に実施するだけでなく、ユーザからの指示によって後現像処理を開始してもよい。
撮像装置100がアイドル状態かどうかの判定方法に特に制限は無く、一般的な処理負荷の測定方法をはじめとした任意の判定方法を用いることができる。例えば、制御部161が有するCPUの稼働率が予め定めた閾値未満かどうかや、予め定められた高負荷の動作、例えば高速連写動作、記録・再生処理が行われているかどうかなどに応じて判別することができる。あるいは、基本的に負荷の低い処理しか発生しない動作モードが選択されていれば、無条件にアイドル状態とみなしてもよい。
続いて、図3のS520、図7のS820で実施するアイドル処理について、図10のフローチャートを用いて説明する。
図10のフローチャートは、制御部161によって、各処理ブロックを制御し実行される処理手順を図示したものである。図10のフローチャートにより示される処理は、制御部161が有するメモリ(ROM)に格納されているプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。
図10においてアイドル状態の処理が開始されると、制御部161が、ユーザの設定に基づいて、後現像を行うか否かを判定し(S501)、後現像を行わない場合はアイドル処理を終了して元の処理に復帰し、後現像を行う場合はS520に遷移する。
後現像を行う場合、制御部161は、記録媒体152に記録されている各RAWファイルについて、後現像処理により高画質静止画ファイルが記録されているか(後現像済みかどうか)判定する(S520)。例えば制御部161は、RAWファイルのヘッダに含まれる現像ステータスを参照し、対応する静止画ファイルが簡易現像部111で処理されたことを示す情報が含まれていればRAWファイルの後現像が行われていないと判定する。あるいは、制御部161は、RAWファイルのメタデータに含まれる静止画ファイル名を有する静止画ファイルを記録媒体152内で探索する。これは、静止画撮影モードで撮影されていれば、記録媒体152には、1回の撮影開始指示に対して1つ以上の静止画ファイルとRAWファイルが互いに関連付けられて記録されていることに基づく。そして、見つかった静止画ファイルのメタデータ部に格納されている現像ステータスを参照し、簡易現像部111で処理されたことを示す情報が含まれていればRAWファイルに後現像が行われていないと判定する。あるいは、一連の静止画に対し、後現像処理の実行有無を示すテーブルを別に用意しておき、このテーブルを参照して判定するようにしても良い。なお、複数の現像パラメータが選択されている可能性がある場合、制御部161は、選択パラメータ情報SEで特定される現像パラメータに対応する静止画ファイルが全て高画質現像されたものかどうかで判定する。
記録媒体152に記録されたRAWファイルの全てが後現像処理済みである場合(S520,NO)、制御部161は後現像処理を行わない場合と同様、アイドル処理を終了して元の処理に復帰する。一方、記録媒体152に記録されているRAWファイルに後現像処理が行われていないものが存在した場合、制御部161は処理をS521に遷移させる。
制御部161は、記録媒体152に記録されている、後現像処理が行われていないRAWファイルに対応するRAW画像データが、バッファ部115にも記憶されているかどうか調べる(S521)。そして、制御部161は、RAWファイルがバッファ部115に残っていれば直接、バッファ部115に残っていなければS522で記録媒体152からRAWファイルを読み出した後、処理をS523に進める。バッファ部115には直近に撮影されたものから予め定められた数のRAWファイルが保持されている。そのため、制御部161は後処理を行うRAWファイルが、記録媒体152に記録されているRAWファイルのうち、直近に撮影されたものから予め定められた数に含まれていれば、バッファ部115に記憶されていることが分かる。なお、記録再生部151から記録時のRAWファイルの情報を取得し、バッファ部115に記憶されているRAWファイルと、記録媒体152に記録されているRAWファイルとの対応関係を保存しておいてもよい。
なお、後現像処理が行われておらず、バッファ部115にないRAWファイルが複数ある場合、制御部161は1つずつ読み出して後現像処理を行ってもよいし、バッファ部115に記憶可能な範囲で任意の数のRAWファイルをまとめて読み出してもよい。
制御部161は、記録媒体152からRAWファイルを読み出す場合、古いものから順に読みだしてバッファ部115に記憶する。そして、バッファ部115の記憶領域が一杯になった場合、最も古いRAW画像データをバッファ部115から削除し、新たに撮影、あるいは、記録媒体152から読み出されたRAW画像データをバッファ部115に格納する。こうすることにより、直前に撮影されたRAW画像データは常にバッファに保持されているので、S522をスキップし、高速に処理できる。さらに、直前に撮影された画像から時刻を遡って、後現像を実行するようにすれば、バッファ部115に保持されている画像から優先的に処理が完了できるため、処理の効率化ができる。
S523において、制御部161は後現像処理するRAW画像データをRAW伸張部114に供給する。RAW伸張部114はRAW画像データが圧縮処理されたものであれば伸張処理してRAW画像データを復元してから、一方、圧縮処理されていなければそのまま出力する。RAW画像データが圧縮されているものかどうかは、圧縮時に例えばRAW画像データの先頭に識別可能な情報を記録しておくことなどによって判別可能である。
RAW伸張部114が出力したRAW画像データは、現像部110に供給される。後現像処理時には高画質現像部112で現像処理を行い、簡易現像部111では現像処理しないように制御部161が動作を制御する。S524で制御部161は、記録再生部151を制御し、選択現像パラメータ情報SEで特定される現像パラメータのうち、高画質現像パラメータを記録媒体152から読み出し、現像パラメータ生成部117に供給する。現像パラメータ生成部117は、この現像パラメータを高画質現像部112に設定する。なお、高画質現像パラメータは、S522で読み出してもよい。
高画質現像部112はRAW伸張部114から供給されるRAW画像データに対し、現像パラメータ生成部117から設定された高画質現像パラメータを用いて現像処理を適用する。高画質現像部112は、簡易現像部111よりも質の高い画像が得られる現像処理を実施する。本実施形態では高画質現像部112はRAW画像データの画素数を削減しないほか、適用する現像処理の品質(精度や工程の数など)も簡易現像部111より高くする。しかし、高画質現像部112は簡易現像部111よりも高品質の画像が得られる画像処理を行いさえすれば、その具体的な現像処理の内容に制限は無い。例えば現像処理の内容は簡易現像部111と同等とし、画像の画素数を多くしてもよいし、画像の画素数は同様に削減するが、現像処理の品質を高くしてもよい。
高画質現像部112は、RAW画像をデベイヤー処理(デモザイク処理)し、輝度と色差から成る信号へ変換して、各信号に含まれるノイズを除去、光学的な歪を補正し、画像を適正化するなどの所謂現像処理を行う。高画質現像部112によって生成される現像処理済みの画像の画素数は、撮像センサ部102から読出された画素数のまま、あるいはユーザから設定された画素数となる。そのため、高画質現像部112からの画像データの画素数は、簡易現像部111から出力される画像データよりも多い。
高画質現像部112は簡易現像部111よりも各々の処理が高精度であるため、より高画質な現像画像が得られるが、一方で、処理負荷が大きくなってしまう。本実施形態の高画質現像部112は、撮影と並行したリアルタイムの現像処理を行わないことで、消費電力やコストの大きな回路の利用を回避している。
高画質現像部112で現像処理された画像データは、静止画圧縮部141に供給され、静止画圧縮部141は、取得した画像データに対して高能率符号化処理(静止画圧縮)を施し(S525)、高画質静止画データを生成する。
S526において、記録再生部151が高画質静止画データを含む静止画ファイルを記録媒体152に記録する。
S527は、アイドル状態でなくなったかどうかの判断処理であり、例えば予め定められた、アイドル状態を脱するイベントが発生したかどうかの判断処理であってよい。イベントは例えば、撮影準備指示や撮影開始指示の入力、再生処理の実行指示の入力、CPUの稼働率が閾値を超えるなどであってよい。なお、これらのイベント発生は、実際にはS527で示されるタイミングで実施するのではなく、アイドル処理中に制御部161がバックグラウンドで監視している。イベントの発生を検知した時点で実施中の動作を中断もしくは中止するか、静止画記録が終了するまでは実行を継続するかは予め定めておくことができる。例えば、S522〜S526のどの処理を実行中かに応じて処理を継続するか中断もしくは中止するかが異なってもよい。また、発生したイベントに応じて対応が異なってもよい。例えば撮影開始指示のようにタイムラグが問題になるイベントが発生した場合は直ちに撮影処理に移行し、再生開始指示のように緊急性がさほど高くないイベントの場合には静止画記録が終了してから再生処理に移行するようにしてもよい。
処理を中断する場合、制御部161は、中断した処理を次にアイドル状態になった際に再開できるように必要な情報を記憶する中断処理を行う(S528)。中断処理は例えば途中まで処理が終わったデータの保存や、どこまで処理が終わっているのかを示す情報の保存などを含む。一方、処理を中止する場合には、次回の処理において未処理のRAWファイルの処理を行えば良いため、中断処理を実施しなくてもよい。
アイドル状態でなくなった場合、制御部161はアイドル処理を実行する前に実施していた動作モードとイベントに応じた処理に移行する。例えば静止画撮影モードからアイドル処理に移行していた場合に撮影指示が入力された場合、制御部161は静止画撮影モードの処理をS502の処理から復帰させる。
S526で記録処理が終了した後、アイドル状態が継続していれば、処理をS520に戻し、後現像が未処理のRAW画像データが残っている場合には、上述した処理を繰り返して実行する。
なお、S526で記録される高画質静止画ファイルは、RAWファイルと同時に記録された簡易静止画ファイルと同じファイル名で記録する。これは、読み出したRAWファイルのメタデータ部に含まれる静止画ファイル名を記録媒体管理部172から記録再生部151に通知することで実現できる。バッファ部115に残っているRAW画像データを用いる場合には、記録媒体152に記録された対応するRAWファイルのメタデータを参照すればよい。あるいは、記録再生部151が簡易静止画ファイルを記録する際にファイル名を制御部161に通知し、制御部161がバッファ部115内のRAW画像データと対応付けて保存するようにしてもよい。このようなファイル名とすることで、記録媒体152内の簡易静止画ファイルを高画質静止画ファイルで置き換えることができる。
また、記録媒体管理部172は、高画質静止画ファイルを記録する際に、記録再生部151を通じて、対応するRAWファイルにおけるメタデータ内の現像ステータスを高画質現像済(又は後現像済)を示す情報で更新する。
このように、本実施形態の撮像装置100は、撮影と撮影の合間や、再生モードやスリープ状態などユーザ操作待ちの、比較的、装置の処理負荷が小さい状態のときに後現像を実行する。そして、撮影時の簡易現像による静止画ファイルを、RAWファイルを用いた高画質現像による静止画ファイルに置き換えて行く。これにより、細部の確認表示やプリントアウトなど、高画質な画像が要求された場合であっても、その都度な現像処理を実行する必要がなく、また、従来の静止画ファイルと同様の一般的な環境における活用が可能となる。
なお、撮影時の簡易現像による動画ファイルについても、同様にして後現像処理を実施し、高画質現像による動画ファイルに置き換えて行く(図5のS930、図9のS1220)。RAW動画データは各フレームがRAW画像データで構成されているため、各フレームを静止画ファイルと同様にして現像処理することができる。そして、現像後のフレーム画像を動画の符号化方式に応じて符号化することで、高画質な動画ファイルを順次生成する。なお、符号化処理の効率を向上させるため、記録媒体152から未処理のRAWファイルを読み出す場合に、動画の符号化方式に応じたフレーム数(例えばGOPを構成するフレーム数)を単位とすることができる。
動画ファイルの後現像処理を中断する場合、S528の中断処理では、例えば、動画圧縮部142が所定フレーム数を単位とした符号化を行う場合、記録媒体152に符合化単位で高画質動画ファイルが書き込まれるまで待つ。そして、高画質動画ファイルを書き込む(簡易動画ファイルに上書きする)際に、後現像中のRAW動画データのファイル名と、何フレーム目まで処理が終わっているかの情報を記録媒体管理部172が保存しておく。そして、次回アイドル状態になったらこの情報を用いて後現像処理を再開する。なお、動画の後現像処理時には、符合化単位で高画質動画ファイルを書き込む毎にファイルをクローズして記録媒体152の管理情報を更新してもよいし、中断時にこれらの書き込み終了処理を実施してもよい。前者の方が処理が煩雑であるが、後現像処理から他の処理に移行するまでに要する時間が短いほか、ファイルが破損する可能性は小さくできる。なお、イベントによっては直ちに処理を中止してもよいことは静止画の後現像処理と同様であるが、この場合でも記録媒体152における処理中の動画ファイルをクローズする点で異なる。
図11は、記録媒体152に記録された情報の後現像後の状態を示す図である。図11(a)は静止画像ファイル、図11(b)は動画像ファイルについて、後現像後の状態例を示し、それぞれ図4および図6に対応している。
静止画像ファイルにおいては、後現像により、簡易現像静止画像LINのうち、選択現像パラメータ情報SEで特定される現像パラメータに対応したものが置き換えられる。図11(a)では、例として選択現像パラメータ情報SEで特定される現像パラメータが「2」であるため、簡易現像静止画像LI2が高画質現像パラメータHP2を用いた後現像で生成される高画質現像静止画像HI2に置き換えられる。後現像により生成された高画質現像画像HINは、簡易現像静止画像LINと同様、対応する簡易現像パラメータLPNと高画質現像パラメータHPNに関連付けて記録される。従って、高画質現像静止画像HINから、現像に用いられた現像パラメータを容易に特定することができる。
動画像ファイルにおいては、後現像により簡易動画像LMNが置き換えられる。図11(b)では、例として選択現像パラメータ情報SEで特定される現像パラメータが「1」と「2」の2つの場合を示す。この場合、簡易動画像LM1が後現像により生成される高画質動画像HM1で置き換えられるほか、新たに高画質動画像HM2が生成されて記録される。高画質動画像HMNは対応する現像パラメータLPNおよびLPHと関連付けて記録される。
以上説明したように本実施形態によれば、撮影時にはRAW画像を簡易現像処理した画像とともに記録しておく。その後、記録済みのRAW画像に対して簡易現像処理よりも高画質な画像が得られる現像処理を適用して高画質な画像を生成し、簡易現像処理で得られた画像と置き換える後現像処理を行う。このような構成により、高速に現像処理を行う回路が無くても高速連写などが可能になるほか、他の装置で内容を確認したい場合などにもRAW画像の内容を容易に確認できる。
また、後現像処理を撮像装置の負荷が低い状態に自動的に行うようにすることで、ユーザに後現像処理を意識させることなく高画質な画像が得られるため、再生時に後現像処理を実施する手間なく、直ちに高画質な画像を再生することができる。
さらに、後現像処理の進捗状況を示す情報を提示するので、進捗状況に応じて再生する動画像を選択したり、高画質現像処理の実行を指示したりすることが可能になり、ユーザの使い勝手を向上させることが可能になる。
さらに本実施形態によれば、撮影時に、RAW画像データに異なる現像パラメータを適用して生成した複数の静止画データを、適用した現像パラメータおよびRAW画像データに関連付けて記録するようにした。そして、ユーザに、RAW画像データに関連付けて記録された静止画データの中から所望の現像結果を表すものを選択させ、選択された静止画データに対応する現像パラメータを、再生時や後現像処理に用いる現像パラメータとして設定するようにした。そのため、現像パラメータを調整するための知識がないユーザであっても、希望の現像結果を得るために適切な現像パラメータを容易に設定することが可能になる。
(その他の実施形態)
なお、本実施形態では、撮影時に現像パラメータを生成する構成を説明したが、現像パラメータの生成は撮影後に行ってもよい。撮影後に現像パラメータを生成することで、様々な現像パラメータによる現像処理結果を比較するための静止画データの生成も撮影後に行われることになるため、画像撮影時の処理負荷を軽減することができる。反面、撮影直後に現像パラメータごとの現像処理結果を比較できなくなるほか、ブラケット撮影ができなくなるため、生成可能な現像済み静止画像の種類が制約される。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (11)

  1. 撮影指示に応答して被写体像のRAW画像データを生成する撮像手段と、
    前記RAW画像データに対して第1の現像処理または該第1の現像処理よりも高画質な画像が得られる第2の現像処理を行って画像データを生成する現像手段と、
    記録媒体にデータを読み書きする記録手段と、
    前記RAW画像データと該RAW画像データに前記第1の現像処理を行って得られた第1の画像データを前記記録媒体に書き込むように前記記録手段を制御し、その後、前記記録媒体に書き込まれた前記RAW画像データに前記第2の現像処理を行って第2の画像データを生成して前記記録媒体に書き込むように前記現像手段および前記記録手段を制御する制御手段と、を有し、
    前記制御手段はさらに、複数の異なる現像パラメータを用いて前記RAW画像データから複数の第3の画像データを生成するように前記第1の現像手段もしくは前記第2の現像手段を制御し、前記複数の第3の画像データのうち、ユーザが選択した画像データに対応する現像パラメータを、前記RAW画像データが前記記録媒体に書き込まれた後に行われる前記RAW画像データの現像処理で用いる現像パラメータとして決定する、
    ことを特徴とする撮像装置。
  2. 前記RAW画像データが前記記録媒体に書き込まれた後に行われる前記RAW画像データの現像処理が、前記第2の画像データの生成のための前記第2の現像処理であることを特徴とする請求項1記載の撮像装置。
  3. 前記RAW画像データが前記記録媒体に書き込まれた後に行われる前記RAW画像データの現像処理が、前記RAW画像データの再生のための前記第2の現像処理であることを特徴とする請求項1または2に記載の撮像装置。
  4. 前記制御手段は、前記RAW画像データが静止画データであれば、前記複数の第3の画像データを前記第1の現像手段に生成させ、前記RAW画像データが動画データであれば、前記複数の第3の画像データを前記第2の現像手段に生成させることを特徴とする請求項1から3のいずれか1項に記載の撮像装置。
  5. 前記制御手段は、前記RAW画像データが動画データの場合、前記RAW画像データの代表フレーム画像から前記複数の第3の画像データを生成するように前記第2の現像手段を制御することを特徴とする請求項1から4のいずれか1項に記載の撮像装置。
  6. 前記複数の第3の画像データを選択可能に表示する表示手段と、
    前記表示された前記複数の第3の画像データの選択を受け付ける入力手段と、
    をさらに有することを特徴とする請求項1から5のいずれか1項に記載の撮像装置。
  7. 前記第1の現像処理は、前記第2の現像処理よりも処理負荷が低いことを特徴とする請求項1から6のいずれか1項に記載の撮像装置。
  8. 前記第1の現像処理で得られる画像データは、前記第2の現像処理で得られる画像データよりも画素数が少ないことを特徴とする請求項1から7のいずれか1項に記載の撮像装置。
  9. 前記第1の現像処理は、前記第2の現像処理よりも工程の数が少ないか、前記第2の現像処理よりも精度が低いか、の少なくとも一方であることを特徴とする請求項1から8のいずれか1項に記載の撮像装置。
  10. 撮影指示に応答して被写体像のRAW画像データを生成する撮像手段と、
    前記RAW画像データに対して第1の現像処理または該第1の現像処理よりも高画質な画像が得られる第2の現像処理を行って画像データを生成する現像手段と、
    記録媒体にデータを読み書きする記録手段と、を有する撮像装置の制御方法であって、
    制御手段が、前記RAW画像データと該RAW画像データに前記第1の現像処理を行って得られた第1の画像データを前記記録媒体に書き込むように前記記録手段を制御する工程と、
    前記制御手段が、前記記録媒体に書き込まれた前記RAW画像データに前記第2の現像処理を行って第2の画像データを生成して前記記録媒体に書き込むように前記現像手段および前記記録手段を制御する工程と、
    前記制御手段が、複数の異なる現像パラメータを用いて前記RAW画像データから複数の第3の画像データを生成するように前記第1の現像手段もしくは前記第2の現像手段を制御する工程と、
    前記制御手段が、前記複数の第3の画像データのうち、ユーザが選択した画像データに対応する現像パラメータを、前記RAW画像データが前記記録媒体に書き込まれた後に行われる前記RAW画像データの現像処理で用いる現像パラメータとして決定する工程と、
    を有することを特徴とする撮像装置の制御方法。
  11. 撮影指示に応答して被写体像のRAW画像データを生成する撮像手段を有する撮像装置のコンピュータを、請求項1から9のいずれか1項に記載の各手段として機能させるためのプログラム。
JP2014055619A 2014-03-18 2014-03-18 撮像装置及びその制御方法 Active JP6335563B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014055619A JP6335563B2 (ja) 2014-03-18 2014-03-18 撮像装置及びその制御方法
US14/645,962 US9413921B2 (en) 2014-03-18 2015-03-12 Imaging apparatus and control method thereof
US15/191,762 US9769377B2 (en) 2014-03-18 2016-06-24 Imaging apparatus and control method for handling a raw image of a moving image or a still image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014055619A JP6335563B2 (ja) 2014-03-18 2014-03-18 撮像装置及びその制御方法

Publications (3)

Publication Number Publication Date
JP2015179909A true JP2015179909A (ja) 2015-10-08
JP2015179909A5 JP2015179909A5 (ja) 2017-03-30
JP6335563B2 JP6335563B2 (ja) 2018-05-30

Family

ID=54143265

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014055619A Active JP6335563B2 (ja) 2014-03-18 2014-03-18 撮像装置及びその制御方法

Country Status (2)

Country Link
US (2) US9413921B2 (ja)
JP (1) JP6335563B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018056969A (ja) * 2016-09-30 2018-04-05 キヤノン株式会社 画像処理装置
JP2019032654A (ja) * 2017-08-07 2019-02-28 キヤノン株式会社 画像処理装置、及び、画像処理方法、コンピュータプログラム
JP2020021998A (ja) * 2018-07-30 2020-02-06 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP2020092302A (ja) * 2018-12-03 2020-06-11 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、及びプログラム
JP2020141297A (ja) * 2019-02-28 2020-09-03 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
WO2020175231A1 (ja) * 2019-02-28 2020-09-03 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
JP2020182186A (ja) * 2019-04-26 2020-11-05 キヤノン株式会社 撮像装置及び記録制御方法及びプログラム
JP2021072527A (ja) * 2019-10-30 2021-05-06 キヤノン株式会社 画像処理装置、その制御方法及びプログラム

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3017590B1 (en) * 2013-07-04 2021-03-31 Sony Corporation A method, apparatus and system for image processing
EP3192250B1 (en) * 2014-09-12 2019-05-29 Canon Kabushiki Kaisha Image processing apparatus and image processing method
US9516197B2 (en) * 2014-10-21 2016-12-06 Pixspan, Inc. Apparatus and method for lossless compression of raw color sensor data from a color array filtered image sensor
KR102591581B1 (ko) * 2016-01-07 2023-10-20 삼성전자주식회사 촬영 디바이스 및 그 제어 방법
EP3522527B1 (en) * 2016-09-29 2023-09-06 Panasonic Intellectual Property Management Co., Ltd. Reproduction method, creation method, reproduction device, and creation device
JP7410620B2 (ja) * 2019-10-31 2024-01-10 キヤノン株式会社 撮像装置、画像処理装置、及び、その制御方法
US11350063B2 (en) * 2020-04-14 2022-05-31 Apple Inc. Circuit for correcting lateral chromatic abberation
JP2021182733A (ja) * 2020-05-19 2021-11-25 キヤノン株式会社 撮像装置およびその制御方法
US11763421B2 (en) 2021-01-07 2023-09-19 Apple Inc. Circuit for combined down sampling and correction of image data

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008075745A1 (ja) * 2006-12-21 2008-06-26 Panasonic Corporation 現像サーバ、現像クライアント、現像システム、および現像方法
JP2009055335A (ja) * 2007-08-27 2009-03-12 Sony Corp 画像処理装置、現像装置、画像処理方法、現像方法、画像処理プログラム、現像プログラムおよびRaw動画フォーマット
JP2009171060A (ja) * 2008-01-11 2009-07-30 Canon Inc 画像処理装置およびその制御方法

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7453498B2 (en) * 1998-03-26 2008-11-18 Eastman Kodak Company Electronic image capture device and image file format providing raw and processed image data
US7019778B1 (en) * 1999-06-02 2006-03-28 Eastman Kodak Company Customizing a digital camera
JP3838243B2 (ja) * 2003-09-04 2006-10-25 ソニー株式会社 画像処理方法、および画像処理装置、並びにコンピュータ・プログラム
US20060093309A1 (en) * 2004-10-05 2006-05-04 Magix Ag System and method for creating a photo movie
US20060221223A1 (en) * 2005-04-05 2006-10-05 Hiroshi Terada Digital camera capable of continuous shooting and control method for the digital camera
JP4720387B2 (ja) 2005-09-07 2011-07-13 ソニー株式会社 撮像装置、画像処理装置、および方法、並びにコンピュータ・プログラム
JP4441882B2 (ja) 2005-11-18 2010-03-31 ソニー株式会社 撮影装置、表示制御方法、プログラム
JP5022105B2 (ja) * 2007-05-29 2012-09-12 富士フイルム株式会社 カメラの表示制御装置及び方法
US7961983B2 (en) * 2007-07-18 2011-06-14 Microsoft Corporation Generating gigapixel images
JP5256725B2 (ja) * 2007-12-25 2013-08-07 株式会社ニコン 撮像装置
US8259208B2 (en) * 2008-04-15 2012-09-04 Sony Corporation Method and apparatus for performing touch-based adjustments within imaging devices
KR101476650B1 (ko) * 2008-07-07 2014-12-26 삼성전자주식회사 디지털 영상 처리기에서 연속 촬영된 영상 데이터 처리장치 및 방법
US9378685B2 (en) * 2009-03-13 2016-06-28 Dolby Laboratories Licensing Corporation Artifact mitigation method and apparatus for images generated using three dimensional color synthesis
US8837576B2 (en) * 2009-11-06 2014-09-16 Qualcomm Incorporated Camera parameter-assisted video encoding
JP4987129B2 (ja) 2010-04-23 2012-07-25 キヤノン株式会社 画像処理装置及びその制御方法
WO2011142157A1 (ja) 2010-05-12 2011-11-17 コニカミノルタエムジー株式会社 放射線画像撮影システム
US8655085B2 (en) * 2010-10-28 2014-02-18 Microsoft Corporation Burst mode image compression and decompression
US8823726B2 (en) * 2011-02-16 2014-09-02 Apple Inc. Color balance
US8854370B2 (en) * 2011-02-16 2014-10-07 Apple Inc. Color waveform
JP5917258B2 (ja) * 2012-04-20 2016-05-11 キヤノン株式会社 画像処理装置及び画像処理方法
JP6331414B2 (ja) * 2014-01-22 2018-05-30 ブラザー工業株式会社 情報処理プログラムと情報処理装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008075745A1 (ja) * 2006-12-21 2008-06-26 Panasonic Corporation 現像サーバ、現像クライアント、現像システム、および現像方法
JP2009055335A (ja) * 2007-08-27 2009-03-12 Sony Corp 画像処理装置、現像装置、画像処理方法、現像方法、画像処理プログラム、現像プログラムおよびRaw動画フォーマット
JP2009171060A (ja) * 2008-01-11 2009-07-30 Canon Inc 画像処理装置およびその制御方法

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018056969A (ja) * 2016-09-30 2018-04-05 キヤノン株式会社 画像処理装置
JP7005215B2 (ja) 2017-08-07 2022-01-21 キヤノン株式会社 画像処理装置、及び、画像処理方法、コンピュータプログラム
JP2019032654A (ja) * 2017-08-07 2019-02-28 キヤノン株式会社 画像処理装置、及び、画像処理方法、コンピュータプログラム
JP2020021998A (ja) * 2018-07-30 2020-02-06 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP7222627B2 (ja) 2018-07-30 2023-02-15 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP2020092302A (ja) * 2018-12-03 2020-06-11 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、及びプログラム
JP7289642B2 (ja) 2018-12-03 2023-06-12 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、及びプログラム
JP2020141297A (ja) * 2019-02-28 2020-09-03 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
GB2597141A (en) * 2019-02-28 2022-01-19 Canon Kk Image capturing apparatus, method of controlling the same, and program
GB2597141B (en) * 2019-02-28 2022-10-26 Canon Kk Image capturing apparatus, method of controlling the same, and program
JP7185563B2 (ja) 2019-02-28 2022-12-07 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
WO2020175231A1 (ja) * 2019-02-28 2020-09-03 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
US11871124B2 (en) 2019-02-28 2024-01-09 Canon Kabushiki Kaisha Image capturing apparatus, method of controlling the same, and non-transitory computer-readable storage medium
JP2020182186A (ja) * 2019-04-26 2020-11-05 キヤノン株式会社 撮像装置及び記録制御方法及びプログラム
JP7313893B2 (ja) 2019-04-26 2023-07-25 キヤノン株式会社 撮像装置及び記録制御方法及びプログラム
JP2021072527A (ja) * 2019-10-30 2021-05-06 キヤノン株式会社 画像処理装置、その制御方法及びプログラム
JP7370814B2 (ja) 2019-10-30 2023-10-30 キヤノン株式会社 画像処理装置、その制御方法及びプログラム

Also Published As

Publication number Publication date
JP6335563B2 (ja) 2018-05-30
US20160309077A1 (en) 2016-10-20
US20150271355A1 (en) 2015-09-24
US9769377B2 (en) 2017-09-19
US9413921B2 (en) 2016-08-09

Similar Documents

Publication Publication Date Title
JP6335563B2 (ja) 撮像装置及びその制御方法
JP6472253B2 (ja) 画像処理装置及びその制御方法
EP3490250B1 (en) Image processing apparatus and image processing method
US9918062B2 (en) Image capturing apparatus, control method of image capturing apparatus, and image processing method
EP2974265B1 (en) Imaging apparatus and imaging apparatus control method
US9972355B2 (en) Image processing apparatus, method for controlling image processing apparatus, and non-transitory computer readable storage medium
JP5883052B2 (ja) 画像処理装置及びその制御方法
JP6406949B2 (ja) 画像処理装置及び画像処理方法
JP2015195582A (ja) 画像処理装置及びその制御方法、撮像装置及びその制御方法、並びに、記録媒体
JP6278712B2 (ja) 撮像装置およびその制御方法
JP2016005103A (ja) 撮像装置およびその制御方法
JP6245819B2 (ja) 画像処理装置及び画像処理方法
JP6366268B2 (ja) 撮像装置及びその制御方法
JP2017103753A (ja) 撮像装置および記録方法
JP6327939B2 (ja) 撮像装置及び撮像装置の制御方法
JP6452362B2 (ja) 撮像装置及び撮像方法
JP6192319B2 (ja) 画像処理装置及び画像処理方法
JP6245818B2 (ja) 撮像装置及び撮像装置の制御方法
JP2016063252A (ja) 画像処理装置及び画像処理方法
JP6376813B2 (ja) 画像処理装置、画像処理方法およびプログラム、並びに撮像装置
JP2014179851A (ja) 撮像装置及び撮像装置の制御方法
JP2019110367A (ja) 撮像装置
JP2016063254A (ja) 撮像装置及び撮像方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170222

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180501

R151 Written notification of patent or utility model registration

Ref document number: 6335563

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151