JP2020010244A - Imaging apparatus and control method for imaging apparatus - Google Patents

Imaging apparatus and control method for imaging apparatus Download PDF

Info

Publication number
JP2020010244A
JP2020010244A JP2018131467A JP2018131467A JP2020010244A JP 2020010244 A JP2020010244 A JP 2020010244A JP 2018131467 A JP2018131467 A JP 2018131467A JP 2018131467 A JP2018131467 A JP 2018131467A JP 2020010244 A JP2020010244 A JP 2020010244A
Authority
JP
Japan
Prior art keywords
unit
image data
raw image
resolution
raw
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018131467A
Other languages
Japanese (ja)
Inventor
與一郎 今井
Yoichiro Imai
與一郎 今井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018131467A priority Critical patent/JP2020010244A/en
Publication of JP2020010244A publication Critical patent/JP2020010244A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Abstract

To provide an imaging apparatus capable of estimating the number or time of high-resolution RAW image data recordable to a recording medium on the basis of low-resolution RAW image data.SOLUTION: An imaging apparatus includes imaging means, compression means for compressing first-resolution RAW image data obtained by photographing by the imaging means or second-resolution RAW image data whose resolution is lower than first resolution obtained by photographing by the imaging means, and first remaining amount estimation means for estimating a data size after the compression of the first-resolution RAW image data by the compression means on the basis of a compression result of the second-resolution RAW image data by the compression means and estimating the number or recording time of the first-resolution RAW image data which can be recorded to the recording medium and are compressed on the basis of an available capacity of the recording medium and an estimated data size.SELECTED DRAWING: Figure 6

Description

本発明は、撮像装置および撮像装置の制御方法に関する。   The present invention relates to an imaging device and a control method of the imaging device.

撮像装置は、撮像素子の画素数が増加し、画像1枚あたりのデータ量が大幅に増加してきている。そのため、あらかじめ画像サイズに応じた固定サイズを用いて記憶媒体の空き容量を見積もる方法が知られている。また、読み出し動作の高速化などにより、1秒間に連写できる画像の枚数も増える傾向にある。そのため、デモザイク処理や、ノイズ除去、光学歪補正など、RAW画像に対する現像処理を構成する個々の処理量が相乗的に増大し、撮影と並行したリアルタイムの現像処理を行うには、回路規模や消費電力の大きなプロセッサが必要になっている。そして、処理能力や消費電力に占める現像処理の割合が高くなることで、撮影を含めた他の処理が制限を受ける場合も起こり得る。   2. Description of the Related Art In an imaging apparatus, the number of pixels of an imaging element has increased, and the data amount per image has greatly increased. Therefore, a method of estimating the free space of a storage medium using a fixed size according to an image size in advance is known. In addition, the number of images that can be continuously shot in one second tends to increase due to an increase in the speed of a reading operation or the like. As a result, the amount of individual processing constituting the development processing for a RAW image, such as demosaic processing, noise removal, and optical distortion correction, increases in a synergistic manner. High power processors are needed. Then, as the ratio of the development processing to the processing capacity and power consumption increases, other processing including photographing may be restricted.

特許文献1には、RAW画像を現像せずに記録する構成が開示されている。このような構成であれば、撮影時の現像に係る処理量を軽減することができる。しかし、未現像状態で記録されるため、画像を速やかに再生表示することが困難である。また、RAW画像のデータ形式は、メーカや機種によって異なるため、撮影した機器と別の機器では現像や再生ができるとは限らず、ユーザの利便性を損なうことがある。   Patent Document 1 discloses a configuration in which a RAW image is recorded without being developed. With such a configuration, it is possible to reduce the processing amount related to the development at the time of photographing. However, since the image is recorded in an undeveloped state, it is difficult to quickly reproduce and display the image. Further, since the data format of the RAW image differs depending on the manufacturer and the model, it is not always possible to perform development and reproduction on a device different from the device that has taken the image, which may impair the user's convenience.

このような課題を緩和する方法として、撮影時にはリアルタイムの現像処理を行わずにRAW画像を記録しておき、記録後、処理負荷に余裕のある際に現像処理を行い、現像処理された輝度信号および色差信号を圧縮符号化する方法が考えられる。しかし、記録媒体の残量が少なくなっている場合、圧縮符号化したデータを記録媒体に書き込むことができなくなる懸念がある。   As a method of alleviating such a problem, a RAW image is recorded without performing real-time development processing at the time of shooting, and after recording, the development processing is performed when there is a margin for the processing load, and the developed luminance signal is processed. And a method of compressing and encoding the color difference signal. However, when the remaining amount of the recording medium is small, there is a concern that compression-encoded data cannot be written to the recording medium.

特許文献2には、RAW画像を現像して圧縮符号化したデータのサイズが分からない場合であっても、高速に現像処理を行う回路を必要とせずに、かつ、必要な際には容易に再生可能にRAW画像を記録することが可能な撮像装置が開示されている。   Patent Document 2 discloses that even if the size of data obtained by developing and compressing and encoding a RAW image is not known, a circuit for performing high-speed development processing is not required, and when necessary, it can be easily obtained. An imaging device capable of recording a RAW image in a reproducible manner is disclosed.

特開2011−244423号公報JP 2011-244423 A 特開2016−005103号公報JP-A-2006-005103

近年の信号処理技術の向上により、RAW画像を高速に連写可能となっている。このような高速連写は、無限に継続するものではなく、バッファにため込んだ分が上限であるため、一度の連写時間は2〜5秒といった状況にある。このような状況において、特許文献2は、RAW画像を取得してから残容量を推測するため、バッファに蓄積したRAW画像を記録媒体に書き込むことができなくなる懸念がある。   Recent improvements in signal processing technology allow continuous shooting of RAW images at high speed. Such high-speed continuous shooting does not continue indefinitely, but the amount stored in the buffer is the upper limit, so that the continuous shooting time at one time is 2 to 5 seconds. In such a situation, in Patent Literature 2, since the remaining capacity is estimated after acquiring the RAW image, there is a concern that the RAW image accumulated in the buffer cannot be written to the recording medium.

一方で、ミラーレス1眼カメラに代表される撮像装置では、ライブビュー(LV)画像を常に取得し続けて電子ビューファインダ(EVF)画面に表示し続ける構成となっている。1眼レフカメラにおいても、LV画像をEVF画面に表示し続ける機能を備えた撮像装置が一般的である。これらの撮像装置で得られるLV画像は、RAW画像よりも低解像度であり、ISO値もRAW画像と異なる。特許文献2では、撮影で取得するRAW画像をもとに空き容量を計算するため、実際に撮影動作をしなければ正確な記憶媒体の空き容量を見積もることができない。   On the other hand, an imaging device typified by a mirrorless single-lens camera has a configuration in which a live view (LV) image is continuously obtained and displayed on an electronic viewfinder (EVF) screen. An imaging device having a function of continuously displaying an LV image on an EVF screen is also common in a single-lens reflex camera. LV images obtained by these imaging devices have lower resolution than RAW images, and have different ISO values from RAW images. In Patent Literature 2, since the free space is calculated based on the RAW image acquired by shooting, it is impossible to accurately estimate the free space of the storage medium without actually performing the shooting operation.

本発明の目的は、低解像度のRAW画像データを基に、高解像度のRAW画像データを記録媒体に記録可能な枚数または時間を推定することができる撮像装置および撮像装置の制御方法を提供することである。   An object of the present invention is to provide an imaging apparatus and a control method of the imaging apparatus, which can estimate the number or time of high-resolution RAW image data that can be recorded on a recording medium based on low-resolution RAW image data. It is.

本発明の撮像装置は、撮像手段と、前記撮像手段により撮影して得られた第一の解像度のRAW画像データ、または、前記撮像手段により撮影して得られた前記第一の解像度より低解像度の第二の解像度のRAW画像データを圧縮する圧縮手段と、前記圧縮手段による前記第二の解像度のRAW画像データの圧縮結果に基づいて、前記圧縮手段による前記第一の解像度のRAW画像データの圧縮後のデータサイズを推定し、記録媒体の空き容量と前記推定されたデータサイズとに基づいて、前記記録媒体に記録可能な圧縮された前記第一の解像度のRAW画像データの枚数または記録時間を推定する第一の残量推定手段と、を有する。   An imaging apparatus according to the present invention includes: an imaging unit; RAW image data of a first resolution obtained by imaging by the imaging unit; or a lower resolution than the first resolution obtained by imaging by the imaging unit. Compression means for compressing the RAW image data of the second resolution, and compression of the RAW image data of the first resolution by the compression means based on a compression result of the RAW image data of the second resolution by the compression means. Estimating the data size after compression, and based on the free space of the recording medium and the estimated data size, the number or recording time of the compressed first-resolution RAW image data recordable on the recording medium. And a first remaining amount estimating means for estimating the remaining amount.

本発明によれば、低解像度のRAW画像データを基に、高解像度のRAW画像データを記録媒体に記録可能な枚数または時間を推定することができる。   According to the present invention, it is possible to estimate the number or the number of times that high-resolution RAW image data can be recorded on a recording medium, based on low-resolution RAW image data.

撮像装置の構成例を示すブロック図である。FIG. 3 is a block diagram illustrating a configuration example of an imaging device. 撮像センサ部における画素配列の例を示す図である。FIG. 3 is a diagram illustrating an example of a pixel array in an imaging sensor unit. 静止画撮影モードの動作を説明するためのフローチャートである。6 is a flowchart for explaining an operation in a still image shooting mode. 静止画ファイルとRAWファイルの構成例を示す図である。FIG. 3 is a diagram illustrating a configuration example of a still image file and a RAW file. アイドル状態の動作を説明するためのフローチャートである。6 is a flowchart for explaining an operation in an idle state. 待機状態の動作を説明するためのフローチャートである。6 is a flowchart for explaining an operation in a standby state. 画像データサイズの関係例を示す図である。FIG. 4 is a diagram illustrating an example of a relationship between image data sizes. ISO感度とオフセットの関係例を示す図である。FIG. 4 is a diagram illustrating an example of the relationship between ISO sensitivity and offset. 待機状態の動作を説明するためのフローチャートである。6 is a flowchart for explaining an operation in a standby state. 画像サイズとデータサイズの関係例を示す図である。FIG. 4 is a diagram illustrating an example of a relationship between an image size and a data size.

(第1の実施形態)
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。
図1は、本発明の第1の実施形態に係る撮像装置100の機能構成例を示すブロック図である。これらの機能ブロックは、ASICなどの専用ハードウェアによって実現されてもよいし、MPU等の汎用プロセッサがプログラムを実行することによりソフトウェア的に実現されてもよい。
(1st Embodiment)
Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings.
FIG. 1 is a block diagram illustrating an example of a functional configuration of an imaging device 100 according to the first embodiment of the present invention. These functional blocks may be realized by dedicated hardware such as an ASIC, or may be realized by software by a general-purpose processor such as an MPU executing a program.

撮像装置100は、被写体像を撮像して得られた画像データを記録媒体に記録するだけでなく、画像データを記録媒体から再生し、現像処理して表示する機能や、画像データを外部の装置やサーバ(クラウド)等と送受信する機能を有する。従って、本実施形態に係る撮像装置100は、画像処理装置、記録装置、再生装置、記録再生装置、通信装置等と表現することもできる。また、撮像装置100は、デジタルカメラ、ビデオカメラの他、スマートフォン、タブレット、工業用カメラ、医療用カメラ等に適用可能である。   The image capturing apparatus 100 not only records image data obtained by capturing an image of a subject on a recording medium, but also reproduces the image data from the recording medium, develops the image data, and displays the image data. It has a function of transmitting and receiving to and from a server (cloud). Therefore, the imaging device 100 according to the present embodiment can also be expressed as an image processing device, a recording device, a reproducing device, a recording and reproducing device, a communication device, and the like. The imaging device 100 is applicable to a smartphone, a tablet, an industrial camera, a medical camera, and the like, in addition to a digital camera and a video camera.

制御部161は、CPU、MPUなどのプログラマブルプロセッサと、プログラマブルプロセッサが実行する制御プログラムを格納する不揮発性メモリを含み、撮像装置100の全体の処理を制御する。なお、図1では、煩雑さを避けるために一部しか記載していないが、制御や通信を行うための信号線が制御部161から各機能ブロックに接続されている。操作部162は、ユーザが撮像装置100に対して指示を与えるために用いるキーやボタン、タッチパネルなどの入力デバイスを含む。操作部162は、操作信号を出力する。制御部161は、操作部162の操作信号を検出し、その検出した操作信号に応じた動作が実行されるように、他の機能ブロックなどを制御する。表示部123は、表示処理部122を通じて提供される、撮像装置100で撮影もしくは再生された画像や、メニュー画面、各種情報等を表示する。表示部123は、例えば液晶ディスプレイ(LCD)等を含む。   The control unit 161 includes a programmable processor such as a CPU and an MPU, and a non-volatile memory that stores a control program executed by the programmable processor, and controls overall processing of the imaging device 100. In FIG. 1, only a part is described to avoid complexity, but a signal line for performing control and communication is connected from the control unit 161 to each functional block. The operation unit 162 includes input devices such as keys, buttons, and a touch panel that are used by a user to give an instruction to the imaging apparatus 100. The operation unit 162 outputs an operation signal. The control unit 161 detects an operation signal of the operation unit 162, and controls other function blocks and the like so that an operation according to the detected operation signal is executed. The display unit 123 displays an image photographed or reproduced by the imaging device 100, a menu screen, various information, and the like provided through the display processing unit 122. The display unit 123 includes, for example, a liquid crystal display (LCD).

撮像対象となる被写体像は、撮像光学部101を介して撮像センサ部102上に結像する。制御部161は、操作部162による撮影開始の指示に応答して、撮影および記録動作を開始させる。なお、制御部161は、撮影スタンバイ時にライブビュー表示を実現するための動画撮影を行うように制御してもよい。カメラ制御部104は、評価値算出部105により取得される絞り、フォーカス、手ぶれ等の評価値算出結果や、認識部131からの被写体情報に基づいて、撮像光学部101と撮像センサ部102の動作を制御する。   A subject image to be imaged is formed on an imaging sensor unit 102 via an imaging optical unit 101. The control unit 161 starts shooting and recording operations in response to an instruction to start shooting from the operation unit 162. Note that the control unit 161 may perform control so as to perform moving image shooting for realizing live view display during shooting standby. The camera control unit 104 operates the imaging optical unit 101 and the imaging sensor unit 102 based on the evaluation value calculation results such as the aperture, focus, and camera shake acquired by the evaluation value calculation unit 105 and the subject information from the recognition unit 131. Control.

撮像センサ部102は、例えばCCDイメージセンサやCMOSイメージセンサであり、画素毎に配置される赤、緑、青(RGB)のカラーフィルタを透過した光を電気信号に変換する。図2は、撮像センサ部102に配置されるカラーフィルタの一例であり、撮像装置100が扱う画像の画素配列を表している。図2に示すように、赤(R)203、緑(G)201、青(B)202が画素毎にモザイク状に配置されていて、2×2の4画素につき赤1画素、青1画素、緑2画素を1セットにして規則的に並べられた構造となっている。このようなカラーフィルタの配列は、一般に原色ベイヤ配列と呼ばれる。撮像センサ部102は、横8000画素×縦4000画素の画像データを60フレーム毎秒で出力する能力を有する。なお、カラーフィルタを構成する色や配列は、原色ベイヤ配列に限定されず、他の任意の配列を採用することができる。   The imaging sensor unit 102 is, for example, a CCD image sensor or a CMOS image sensor, and converts light transmitted through red, green, and blue (RGB) color filters arranged for each pixel into an electric signal. FIG. 2 is an example of a color filter arranged in the imaging sensor unit 102, and illustrates a pixel array of an image handled by the imaging device 100. As shown in FIG. 2, a red (R) 203, a green (G) 201, and a blue (B) 202 are arranged in a mosaic pattern for each pixel. , Two green pixels as one set. Such an array of color filters is generally called a primary color Bayer array. The imaging sensor unit 102 has an ability to output image data of 8000 pixels horizontally × 4000 pixels vertically at 60 frames per second. The colors and the arrangement of the color filters are not limited to the primary color Bayer arrangement, and any other arrangement can be adopted.

センサ信号処理部103は、撮像センサ部102によって変換された電気信号に対して、画素の修復処理を施す。修復処理には、撮像センサ部102における欠落画素や信頼性の低い画素の値に対し、周辺画素値を用いて修復対象の画素を補間したり、所定のオフセット値を減算したりする処理が含まれる。本実施形態では、センサ信号処理部103から出力される画像データを、未現像の画像を意味するRAW画像データという。   The sensor signal processing unit 103 performs a pixel restoration process on the electric signal converted by the imaging sensor unit 102. The repair process includes a process of interpolating a pixel to be repaired using a peripheral pixel value or subtracting a predetermined offset value from a value of a missing pixel or a pixel having low reliability in the image sensor unit 102. It is. In the present embodiment, the image data output from the sensor signal processing unit 103 is referred to as RAW image data meaning an undeveloped image.

現像部110は、センサ信号処理部103から出力されたRAW画像データに対して、現像処理する。現像部110は、複数(本実施形態では2つ)の異なる現像部111および112を有する。現像部111および112は、それぞれ、処理精度と処理負荷の優先度が異なっている。現像部110は、第1の現像処理を行う簡易現像部111と、第2の現像処理を行う高画質現像部112と、それらの出力を選択するスイッチ部121とを有する。簡易現像部111と高画質現像部112は共に、RAW画像データに対して、デベイヤ処理(デモザイク処理もしくは色補間処理とも呼ばれる)、ホワイトバランス調整、RGB→YUV変換、ノイズ低減、光学歪の補正などの現像処理を行う。なお、これらは現像処理に含まれる処理の例示であり、これらの全てが現像処理に必須であることを意味しない。他の処理が含まれてもよいし、一部が含まれなくてもよい。   The developing unit 110 performs a developing process on the RAW image data output from the sensor signal processing unit 103. The developing unit 110 has a plurality (two in the present embodiment) of different developing units 111 and 112. The developing units 111 and 112 have different processing accuracy and processing load priority. The developing unit 110 includes a simple developing unit 111 for performing a first developing process, a high-quality developing unit 112 for performing a second developing process, and a switch unit 121 for selecting an output of the developing unit. Both the simple developing unit 111 and the high-quality developing unit 112 perform debayer processing (also called demosaic processing or color interpolation processing), white balance adjustment, RGB → YUV conversion, noise reduction, optical distortion correction, and the like on RAW image data. Is performed. Note that these are examples of the processing included in the development processing, and do not mean that all of them are essential for the development processing. Other processing may be included, or a part may not be included.

高画質現像部112は、簡易現像部111よりも各々の処理を高精度に行う。高画質現像部112は、高精度であるため、簡易現像部111よりも高画質な現像画像が得られるが、一方で、処理負荷が大きくなってしまう。そこで、本実施形態の高画質現像部112は、撮影と並行したリアルタイムの現像に特化したものではなく、撮影後に時間をかけて分散処理を行うことが可能な構成になっている。このように高画質現像部112の高画質現像を撮影時ではなく、時間をかけて後から行うようにすることで、回路規模や消費電力の増大(ピーク)を低く抑えることができる。   The high image quality developing unit 112 performs each process with higher precision than the simple developing unit 111. The high image quality developing unit 112 has high accuracy, and thus can obtain a developed image with higher image quality than the simple developing unit 111, but on the other hand, increases the processing load. Therefore, the high image quality developing unit 112 of the present embodiment is not specialized for real-time development in parallel with photographing, but has a configuration capable of performing distributed processing over time after photographing. As described above, by performing the high-quality development of the high-quality development unit 112 not after photographing but after taking a long time, it is possible to suppress an increase (peak) in the circuit scale and power consumption to a low level.

簡易現像部111は、高画質現像部112よりも処理の精度が低いため、得られる画質が高画質現像部112よりも低いものの、撮影中に高速に現像処理を行うことができる。例えば、簡易現像部111は、デベイヤ処理やその他の補正処理のために用いるフィルタのタップ数が、高画質現像部112よりも少ない。このように、簡易現像部111は、RAW画像データよりも画素数が少ない画像データを処理し、更に、処理自体も簡易的に行うことで、処理量が少なくなるように構成されている。簡易現像部111の処理負荷は小さいので、撮影動作と並行したリアルタイムの現像の際には簡易現像部111を用いるようにする。スイッチ部121は、操作部162によりユーザから指示された操作内容や実行中の動作モードに応じた制御に従って、制御部161によって切り替えられる。   The simple developing unit 111 has a lower processing accuracy than the high image quality developing unit 112, and thus can perform the developing process at high speed during shooting, although the obtained image quality is lower than that of the high image quality developing unit 112. For example, the simple developing unit 111 has a smaller number of taps of a filter used for debayer processing and other correction processing than the high-quality developing unit 112. As described above, the simple developing unit 111 is configured to process image data having a smaller number of pixels than the RAW image data, and to further simplify the processing itself, thereby reducing the processing amount. Since the processing load of the simple developing unit 111 is small, the simple developing unit 111 is used for real-time development in parallel with the photographing operation. The switch unit 121 is switched by the control unit 161 in accordance with the control according to the operation content instructed by the user via the operation unit 162 or the operation mode being executed.

なお、本実施形態では、現像部110の中に簡易現像部111と高画質現像部112が独立に存在する構成を示しているが、一つの現像部が動作モードを切り替えて、簡易現像と高画質現像の処理を排他的に行う構成としてもよい。また、複数の現像部は、互いに処理負荷が異なればよく、処理する画像のサイズと処理精度の両方を下げることは必須ではない。例えば、処理する画素数は同一であるが、処理精度が異なっている現像部や、処理精度は同一であるが処理する画素数が異なっている現像部が含まれていてもよい。ただし、撮影された画像の現像処理が、次の画像の撮影開始までに完了できる現像部が少なくとも1つ含まれるようにする。   In this embodiment, the simple developing unit 111 and the high-quality developing unit 112 are independently provided in the developing unit 110. However, one developing unit switches the operation mode to perform the simple developing and the high developing. The image quality development processing may be exclusively performed. Further, the plurality of developing units may have different processing loads, and it is not essential to reduce both the size of the image to be processed and the processing accuracy. For example, a developing unit having the same number of pixels to be processed but different processing accuracy, or a developing unit having the same processing accuracy but different number of pixels to be processed may be included. However, at least one developing unit that can complete the development processing of the captured image before the start of capturing the next image is included.

なお、図1では、センサ信号処理部103からのRAW画像データが現像部110の中の簡易現像部111と高画質現像部112に入力されるように図示しているが、これは同一のRAW画像データに対して両方の現像部で現像処理を行うことを意味していない。処理負荷の観点から、基本的には1つの現像部だけが現像処理を実行する。従って、RAW画像データが入力される現像部を切り替えるようにスイッチ部121が設けられても良い。   Although FIG. 1 illustrates that the RAW image data from the sensor signal processing unit 103 is input to the simple developing unit 111 and the high-quality developing unit 112 in the developing unit 110, this is the same as the RAW image data. It does not mean that the development processing is performed on the image data in both the development units. Basically, only one developing unit executes the developing process from the viewpoint of the processing load. Therefore, the switch unit 121 may be provided so as to switch the developing unit to which the RAW image data is input.

表示処理部122は、表示制御部であり、現像部110によって現像処理された画像データに対して、所定の処理を行った後、表示部123に表示する。また、映像出力端子124は、現像部110によって現像処理された画像データを、外部に接続された表示機器に出力してもよい。映像出力端子124は、例えばHDMI(登録商標)やSDIのような汎用インタフェースを含む。   The display processing unit 122 is a display control unit that performs predetermined processing on the image data that has been developed by the developing unit 110 and then displays the image data on the display unit 123. The video output terminal 124 may output the image data developed by the developing unit 110 to a display device connected to the outside. The video output terminal 124 includes a general-purpose interface such as HDMI (registered trademark) or SDI.

現像部110によって現像処理された画像データは、評価値算出部105にも供給される。評価値算出部105は、画像データから例えばフォーカス状態や露出状態などの評価値を算出する。これらの評価値は、例えばカメラ制御部104による自動焦点検出や自動露出制御に用いられる。   The image data developed by the developing unit 110 is also supplied to the evaluation value calculating unit 105. The evaluation value calculation unit 105 calculates an evaluation value such as a focus state and an exposure state from the image data. These evaluation values are used for automatic focus detection and automatic exposure control by the camera control unit 104, for example.

現像部110によって現像処理された画像データは、認識部131にも供給される。認識部131は、画像データ中の被写体情報を検出および認識する機能を有する。認識部131は、例えば、画像データによって表される画像に含まれる人物の顔を検出し、検出された場合は顔の位置や大きさなどを示す情報を出力する。認識部131は、さらに顔などの特徴情報に基づいて特定の人物の認証などを行ってもよい。   The image data developed by the developing unit 110 is also supplied to the recognition unit 131. The recognition unit 131 has a function of detecting and recognizing subject information in image data. The recognition unit 131 detects, for example, the face of a person included in the image represented by the image data, and outputs information indicating the position and size of the face when the face is detected. The recognition unit 131 may further perform authentication of a specific person based on feature information such as a face.

現像部110によって現像処理された画像データは、静止画圧縮部141および動画圧縮部142にも供給される。画像データを静止画として圧縮する場合は、静止画圧縮部141を用いる。符号化手段としての静止画圧縮部141は、JPEG等の公知の符号化方式に従い静止画データを符号化する。画像データを動画として圧縮する場合は、動画圧縮部142を用いる。動画圧縮部142は、H.264、H.265等の公知の符号化方式に従って動画データを符号化する。静止画圧縮部141と動画圧縮部142は、それぞれ、対象となる画像データを高能率符号化(圧縮符号化)し、情報量が圧縮された画像データを生成する。また、静止画圧縮部141と動画圧縮部142は、符号化された静止画データ、或いは動画データのデータサイズを記録媒体管理部172へと通知する。   The image data developed by the developing unit 110 is also supplied to the still image compression unit 141 and the moving image compression unit 142. When compressing image data as a still image, the still image compression unit 141 is used. The still image compression unit 141 as an encoding unit encodes still image data according to a known encoding method such as JPEG. When compressing image data as a moving image, the moving image compression unit 142 is used. The moving image compression unit 142 is a 264, H .; The moving image data is encoded according to a known encoding method such as H.265. Each of the still image compression unit 141 and the moving image compression unit 142 performs high-efficiency encoding (compression encoding) on target image data, and generates image data with a reduced amount of information. Further, the still image compression unit 141 and the moving image compression unit 142 notify the recording medium management unit 172 of the data size of the encoded still image data or moving image data.

RAW圧縮部113は、センサ信号処理部103から出力されたRAW画像データに対して、ウエーブレット変換や、差分符号化等を適用し、データ量を削減した圧縮RAW画像データを生成する。RAW圧縮部113は、圧縮RAW画像データをバッファ部115に格納する。バッファ部115は、メモリやHDDなど、任意の記憶装置であってよい。また、RAW圧縮部113は、圧縮RAW画像データのデータサイズを記録媒体管理部172へと通知する。圧縮RAW画像データは、バッファ部115に保存しておいてもよいし、格納後にさらに別の記録媒体に移動させてバッファ部115から削除してもよい。   The RAW compression unit 113 generates a compressed RAW image data with a reduced data amount by applying a wavelet transform, a difference encoding, or the like to the RAW image data output from the sensor signal processing unit 103. The RAW compression unit 113 stores the compressed RAW image data in the buffer unit 115. The buffer unit 115 may be any storage device such as a memory and an HDD. Further, the RAW compression unit 113 notifies the recording medium management unit 172 of the data size of the compressed RAW image data. The compressed RAW image data may be stored in the buffer unit 115, or may be moved to another recording medium after storage and deleted from the buffer unit 115.

また、RAW圧縮部113は、低解像度のライブビュー画像データを圧縮することにより、圧縮ライブビュー画像データを生成し、圧縮ライブビュー画像データサイズをサイズ見積もり部171に通知する。サイズ見積もり部171は、高解像度の圧縮RAW画像データのデータサイズを推定する。サイズ見積もり部171は、推定したデータサイズを記録媒体管理部172へと通知する。また、サイズ見積もり部171は、推定したデータサイズを例えばバッファ部115に保持させておくことができる。サイズ見積もり部171の動作の詳細については後述する。   Further, the RAW compression unit 113 generates the compressed live view image data by compressing the low resolution live view image data, and notifies the size estimation unit 171 of the compressed live view image data size. The size estimating unit 171 estimates the data size of the high-resolution compressed RAW image data. The size estimation unit 171 notifies the recording medium management unit 172 of the estimated data size. Further, the size estimating unit 171 can cause the buffer unit 115 to hold the estimated data size, for example. Details of the operation of the size estimating unit 171 will be described later.

記録再生部151は、静止画圧縮部141からの圧縮された静止画データまたは動画圧縮部142からの圧縮された動画データを静止画ファイルまたは動画ファイルとして記録媒体152に記録する。また、記録再生部151は、バッファ部115から読み出した圧縮RAW画像データの状態の静止画および動画を、RAWファイルとして記録媒体152に記録する。また、記録再生部151は、記録媒体152に記録されたデータを、FAT等の公知のファイルシステムに従いファイルとして管理する。記録媒体152は、例えば内蔵式の大容量メモリやハードディスク、または、着脱式のメモリカード等である。また、記録再生部151は、記録媒体152から静止画ファイル、動画ファイル、RAWファイル(静止画、動画)を読み出すこともできる。また、記録再生部151は、通信部153を介して、外部のストレージやサーバに対して、各種データファイルを書き込んだり、読み出したりすることができる。通信部153は、通信端子154を通じ、無線通信や有線通信によりコンピュータネットワークや外部機器へのアクセスを撮像装置100に提供する。   The recording / reproducing unit 151 records the compressed still image data from the still image compressing unit 141 or the compressed moving image data from the moving image compressing unit 142 on the recording medium 152 as a still image file or a moving image file. Further, the recording / reproducing unit 151 records the still image and the moving image in the state of the compressed RAW image data read from the buffer unit 115 on the recording medium 152 as a RAW file. The recording / reproducing unit 151 manages data recorded on the recording medium 152 as a file according to a known file system such as FAT. The recording medium 152 is, for example, a built-in large-capacity memory, a hard disk, or a removable memory card. The recording / reproducing unit 151 can also read out a still image file, a moving image file, and a RAW file (still image, moving image) from the recording medium 152. Further, the recording / reproducing unit 151 can write and read various data files to and from an external storage or server via the communication unit 153. The communication unit 153 provides the imaging device 100 with access to a computer network or an external device through wireless communication or wired communication through the communication terminal 154.

記録媒体管理部172は、記録再生部151により記録媒体152に記録されるファイルの記録領域を管理する管理情報を生成する。記録媒体管理部172は、RAW圧縮部113からの圧縮RAW画像データのデータサイズ、静止画圧縮部141からの符号化された静止画データのデータサイズ、または動画圧縮部142からの符号化された動画データのデータサイズを入力する。さらに、記録媒体管理部172は、サイズ見積もり部171からの推定データサイズを入力し、それらを用いて管理情報を更新し、記録媒体152の記録領域を管理する。そして、記録媒体管理部172は、記録媒体152における、各ファイルの記録アドレスを記録再生部151へと通知する。   The recording medium management unit 172 generates management information for managing a recording area of a file recorded on the recording medium 152 by the recording / reproducing unit 151. The recording medium management unit 172 determines the data size of the compressed RAW image data from the RAW compression unit 113, the data size of the encoded still image data from the still image compression unit 141, or the encoded data from the moving image compression unit 142. Enter the data size of the video data. Further, the recording medium management unit 172 inputs the estimated data size from the size estimation unit 171, updates the management information using the data, and manages the recording area of the recording medium 152. Then, the recording medium management unit 172 notifies the recording / reproducing unit 151 of the recording address of each file on the recording medium 152.

残量算出部181は、残量推定部であり、記録媒体管理部172によって管理情報が更新されると、記録再生部151を通じて記録媒体152の管理情報を読み出し、記録媒体152の空き容量を用いて、記録可能枚数または記録可能時間を推定する。そして、残量算出部181は、推定した記録可能枚数または記録可能時間を表示処理部122へ通知する。残量算出部の処理の詳細については後述する。表示処理部122は、残量算出部181より通知された記録可能枚数または記録可能時間を表す画像を、ライブビュー画像等に重畳し、表示部123に表示させる。   The remaining amount calculating unit 181 is a remaining amount estimating unit. When the management information is updated by the recording medium managing unit 172, the remaining amount calculating unit 181 reads the management information of the recording medium 152 through the recording / reproducing unit 151 and uses the free space of the recording medium 152. To estimate the recordable number or recordable time. Then, the remaining amount calculation unit 181 notifies the display processing unit 122 of the estimated recordable number or recordable time. The details of the processing of the remaining amount calculation unit will be described later. The display processing unit 122 superimposes the image indicating the recordable number or recordable time notified from the remaining amount calculation unit 181 on a live view image or the like and causes the display unit 123 to display the image.

記録再生部151は、記録媒体152から、または、通信部153を介して、所望のファイルを取得して再生する。再生対象のファイルがRAWファイルであれば、記録再生部151は、取得されたRAWファイルをバッファ部115に格納する。再生対象のファイルが静止画ファイルであれば、記録再生部151は、取得された静止画ファイルを静止画伸張部143に供給する。再生対象のファイルが動画ファイルであれば、記録再生部151は、取得された動画ファイルを動画伸張部144に供給する。   The recording / reproducing unit 151 acquires and reproduces a desired file from the recording medium 152 or via the communication unit 153. If the file to be played is a RAW file, the recording / playback unit 151 stores the acquired RAW file in the buffer unit 115. If the file to be played is a still image file, the recording / playback unit 151 supplies the obtained still image file to the still image decompression unit 143. If the file to be reproduced is a moving image file, the recording / reproducing unit 151 supplies the obtained moving image file to the moving image expanding unit 144.

RAW伸張部114は、バッファ部115に格納されているRAWファイルを読み出して、圧縮RAW画像データを復号して伸張する。RAW伸張部114によって伸張されたRAW画像データは、現像部110の簡易現像部111と高画質現像部112に供給される。   The RAW decompression unit 114 reads a RAW file stored in the buffer unit 115, and decodes and decompresses compressed RAW image data. The RAW image data expanded by the RAW expansion unit 114 is supplied to the simple developing unit 111 and the high image quality developing unit 112 of the developing unit 110.

静止画伸張部143は、入力された静止画ファイルを復号して伸張し、静止画の再生画像として表示処理部122に供給する。動画伸張部144は、入力された動画ファイルを復号して伸張し、動画の再生画像として表示処理部122に供給する。表示処理部122は、静止画や動画を処理し、表示部123に表示する。   The still image decompression unit 143 decodes and decompresses the input still image file, and supplies the decoded still image file to the display processing unit 122 as a reproduced still image. The moving image decompressing unit 144 decodes and decompresses the input moving image file, and supplies it to the display processing unit 122 as a reproduced image of the moving image. The display processing unit 122 processes a still image or a moving image and displays it on the display unit 123.

図3は、撮像装置100の静止画撮影モードの動作を説明するためのフローチャートである。図3のフローチャートは、特に明示されている場合を除き、図1に示した機能ブロックを制御部161が制御することで実現される処理の手順を示す。具体的には、制御部161が有する不揮発性メモリに格納されたプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される処理である。   FIG. 3 is a flowchart for explaining the operation of the imaging device 100 in the still image shooting mode. The flowchart of FIG. 3 shows a procedure of processing realized by the control unit 161 controlling the functional blocks shown in FIG. 1 unless otherwise specified. Specifically, the processing is realized by expanding a program stored in a nonvolatile memory included in the control unit 161 into a memory (RAM) and executing the program by a CPU.

ステップS301では、制御部161は、アイドル条件として、撮像装置100の処理負荷が閾値より低いか否かを判定する。制御部161は、撮像装置100の処理負荷が閾値より低い場合には、ステップS320に進み、アイドル状態に遷移する。また、制御部161は、撮像装置100の処理負荷が閾値より低くない場合には、ステップS302に進む。処理負荷は、制御部161が有するCPUの稼働率や、予め定められた高負荷の動作、例えば高速連写動作が行われているかどうかなどに応じて判別することができるが、これらに限定されない。アイドル状態に遷移する程度に処理負荷が低くない場合、制御部161は処理をステップS302へ進める。なお、アイドル状態へ遷移するかどうかの判定処理については後述する。   In step S301, the control unit 161 determines whether the processing load of the imaging device 100 is lower than a threshold as an idle condition. When the processing load of the imaging device 100 is lower than the threshold, the control unit 161 proceeds to step S320 and transitions to the idle state. If the processing load on the imaging device 100 is not lower than the threshold, the control unit 161 proceeds to step S302. The processing load can be determined according to the operation rate of the CPU included in the control unit 161 or whether a predetermined high-load operation such as a high-speed continuous shooting operation is being performed, but is not limited thereto. . If the processing load is not low enough to make a transition to the idle state, control unit 161 advances the process to step S302. The process of determining whether to transition to the idle state will be described later.

ステップS302では、カメラ制御部104は、撮像光学部101や撮像センサ部102の動作を制御する。例えば、カメラ制御部104は、操作部162を通じたユーザのズーム指示や撮影準備指示に従って、撮像光学部101に含まれるズームレンズやフォーカスレンズを移動させたり、撮影画素数の指示に従って撮像センサ部102の読み出し領域を設定したりする。また、カメラ制御部104は、評価値算出部105からの評価値の情報や認識部131からの被写体情報に基づいて、特定被写体に対する合焦や追尾などの制御を実現する。ステップS302では、所定のフレーム周期に応じた撮影条件で撮影が実施される。   In step S302, the camera control unit 104 controls operations of the imaging optical unit 101 and the imaging sensor unit 102. For example, the camera control unit 104 moves a zoom lens or a focus lens included in the imaging optical unit 101 in accordance with a user's zoom instruction or a shooting preparation instruction through the operation unit 162, or the imaging sensor unit 102 in accordance with an instruction of the number of imaging pixels. Or setting a read area. Further, the camera control unit 104 implements control such as focusing and tracking for a specific subject based on information on the evaluation value from the evaluation value calculation unit 105 and subject information from the recognition unit 131. In step S302, shooting is performed under shooting conditions corresponding to a predetermined frame cycle.

ステップS303では、センサ信号処理部103は、撮像センサ部102によって変換された電気信号に対して、画素の修復のための信号処理を施す。例えば、センサ信号処理部103は、撮像センサ部102の撮像素子の欠落画素に対応する電気信号や、信頼性の低い画素の電気信号に対し、周辺画素値を用いて補間したり、所定のオフセット値を減算したりする。本実施形態では、ステップS303の処理を終えて、センサ信号処理部103から出力される画像データを、RAW画像データと呼ぶ。   In step S303, the sensor signal processing unit 103 performs signal processing for pixel restoration on the electric signal converted by the imaging sensor unit 102. For example, the sensor signal processing unit 103 interpolates the electric signal corresponding to the missing pixel of the image sensor of the image sensor unit 102 or the electric signal of the unreliable pixel using the peripheral pixel value, or performs a predetermined offset. Or subtract a value. In the present embodiment, the image data output from the sensor signal processing unit 103 after the processing of step S303 is referred to as RAW image data.

ステップS304では、カメラ制御部104は、撮像センサ部102からライブビュー用の間引き読み出しを行い、撮像センサ部102は、センサ信号処理部103を介して、ライブビュー画像データを簡易現像部111に出力する。ライブビュー画像データは、低解像度のRAW画像データである。簡易現像部111は、ライブビュー画像データを現像処理する。なお、制御部161は、遅くともステップS304の開始時までに、現像部110から簡易現像部111で現像処理された画像データが出力されるように、スイッチ部121の状態を制御する。   In step S304, the camera control unit 104 performs thinning-out reading for live view from the imaging sensor unit 102, and the imaging sensor unit 102 outputs the live view image data to the simple developing unit 111 via the sensor signal processing unit 103. I do. The live view image data is low-resolution RAW image data. The simple developing unit 111 develops live view image data. The control unit 161 controls the state of the switch unit 121 so that the image data developed by the simple development unit 111 is output from the development unit 110 at the latest until the start of step S304.

簡易現像部111は、ライブビュー画像データに対して、デベイヤ処理(デモザイク処理)して各画素に不足している色信号を生成した後、輝度と色差から成る信号へ変換する(RGB→YUV変換)。さらに、簡易現像部111は、各信号に含まれるノイズを除去したり、撮影光学部101の光学歪(収差)を補正したり、ホワイトバランスを調整したりする。上述の通り、簡易現像部111は、画素数を削減してから現像処理したり、ノイズ除去や光学歪補正を処理速度を優先した処理で行ったり省いたりすることで、現像処理の負荷(処理速度や消費電力)が撮像装置100の撮影能力に与える制限を軽減または除去する。簡易現像部111を用いることで、例えば、高画質現像部112を用いた場合には不可能な高速連写速度や連続撮影枚数などを実現することができる。   The simple development unit 111 performs debayer processing (demosaic processing) on the live view image data to generate a color signal that is insufficient for each pixel, and then converts the color signal into a signal including luminance and color difference (RGB → YUV conversion). ). Further, the simple developing unit 111 removes noise included in each signal, corrects optical distortion (aberration) of the photographing optical unit 101, and adjusts white balance. As described above, the simple development unit 111 performs the development processing after reducing the number of pixels, and performs or eliminates noise removal and optical distortion correction in processing that prioritizes the processing speed, thereby reducing the load (processing) of the development processing. The restriction imposed by the speed and power consumption on the imaging performance of the imaging device 100 is reduced or eliminated. By using the simple developing unit 111, for example, a high-speed continuous shooting speed, a continuous shooting number, and the like, which are impossible when the high-quality developing unit 112 is used, can be realized.

ステップS305では、評価値算出部105は、スイッチ部121を通じて、簡易現像部111で現像処理された画像データを入力する。評価値算出部105は、画像データに含まれる輝度値やコントラスト値などから撮像光学部101の合焦状態や、画像の露出状態などの評価値を所定の方法で算出する。なお、評価値算出部105は、現像処理前のRAW画像データに対してこれらの評価値を算出しても良い。   In step S305, the evaluation value calculation unit 105 inputs the image data developed by the simple development unit 111 via the switch unit 121. The evaluation value calculation unit 105 calculates an evaluation value such as a focus state of the imaging optical unit 101 and an image exposure state from a luminance value, a contrast value, and the like included in the image data by a predetermined method. Note that the evaluation value calculation unit 105 may calculate these evaluation values for the RAW image data before the development processing.

ステップS306では、認識部131は、スイッチ部121を通じて、簡易現像部111で現像処理された画像データを入力する。認識部131は、画像データに対し、予め定められた特定の特徴を有する被写体(例えば人物の顔)の検出処理を適用し、被写体情報を生成する。例えば、認識部131は、画像データ内における顔の有無や、顔の位置や大きさ、顔に基づいて認識された個人の情報などを被写体情報として出力する。   In step S <b> 306, the recognition unit 131 inputs the image data developed by the simple development unit 111 through the switch unit 121. The recognizing unit 131 generates subject information by applying a process of detecting a subject (for example, a human face) having a predetermined specific characteristic to the image data. For example, the recognition unit 131 outputs the presence or absence of a face in the image data, the position and size of the face, information of an individual recognized based on the face, and the like as subject information.

ステップS307では、表示処理部122は、スイッチ部121を通じて、簡易現像部111で現像処理されたライブビュー画像データを入力する。表示処理部122は、取得したライブビュー画像データから表示画像を形成し、表示部123または映像出力端子124を通じて外部の表示装置に出力して、表示する。表示処理部122は、ライブビュー表示制御部である。表示部123による表示画像は、例えば、撮影待機状態において、ユーザが被写体を適切にフレーミングするためのライブビュー表示(撮影スルー画像表示)のために用いられるライブビュー画像である。さらに、表示処理部122は、評価値算出部105や認識部131から供給される評価値や被写体情報を活用して、例えば、表示画像に合焦領域や認識された顔の位置を示す枠状のマークを重畳表示したりしてもよい。   In step S307, the display processing unit 122 inputs the live view image data developed by the simple developing unit 111 via the switch unit 121. The display processing unit 122 forms a display image from the acquired live view image data, outputs the display image to an external display device through the display unit 123 or the video output terminal 124, and displays the display image. The display processing unit 122 is a live view display control unit. The display image displayed by the display unit 123 is, for example, a live view image used for a live view display (capturing through image display) for a user to appropriately frame a subject in a shooting standby state. Further, the display processing unit 122 utilizes the evaluation values and the subject information supplied from the evaluation value calculation unit 105 and the recognition unit 131 to form, for example, a frame shape indicating the in-focus area and the position of the recognized face on the display image. May be superimposed.

ステップS308では、制御部161は、操作部162を通じて、ユーザから撮影指示が入力されたか否かを判定する。制御部161は、撮影指示が入力された場合には、ステップS312に進み、撮影指示が入力されていない場合には、ステップS330に進み、待機状態へ遷移する。   In step S308, the control unit 161 determines whether a shooting instruction has been input from the user via the operation unit 162. If a shooting instruction has been input, the control unit 161 proceeds to step S312. If a shooting instruction has not been input, the control unit 161 proceeds to step S330 to transition to a standby state.

ステップS312では、カメラ制御部104は、撮影指示に応答して、撮像光学部101と撮像センサ部102を制御して所定の撮影条件での撮影を開始させる。ここでは、静止画撮影時の動作を説明する。カメラ制御部104は、撮像センサ部102から通常読み出しを行い、撮像センサ部102は、センサ信号処理部103を介して、高解像度のRAW画像データ702(図7(a))をRAW圧縮部113に出力する。RAW圧縮部113は、センサ信号処理部103を通じて、撮像センサ部102により撮影して得られた1画面分のRAW画像データを入力する。RAW圧縮部113は、RAW画像データに対して、データ量を削減するための符号化(RAW圧縮)処理を適用して圧縮RAW画像データに変換する。圧縮RAW画像データは、バッファ部115に格納される。なお、RAW画像データの符号化は、可逆および不可逆符号化のいずれであってもよい。本実施形態では、センサ信号処理部103から供給される画像情報を大きく損なわない、高画質ファイルとして復元可能なRAWファイルを生成する。   In step S312, the camera control unit 104 controls the imaging optical unit 101 and the imaging sensor unit 102 in response to the shooting instruction to start shooting under predetermined shooting conditions. Here, the operation at the time of shooting a still image will be described. The camera control unit 104 performs normal reading from the imaging sensor unit 102, and the imaging sensor unit 102 converts the high-resolution RAW image data 702 (FIG. 7A) into the RAW compression unit 113 via the sensor signal processing unit 103. Output to The RAW compression unit 113 inputs one screen of RAW image data obtained by photographing by the imaging sensor unit 102 through the sensor signal processing unit 103. The RAW compression unit 113 converts the RAW image data into compressed RAW image data by applying an encoding (RAW compression) process for reducing the data amount. The compressed RAW image data is stored in the buffer unit 115. The encoding of the RAW image data may be any of lossless and irreversible encoding. In the present embodiment, a RAW file that can be restored as a high-quality file is generated without significantly impairing the image information supplied from the sensor signal processing unit 103.

ステップS313では、記録再生部151は、バッファ部115から圧縮RAW画像データを読み出し、圧縮RAW画像データが格納されたRAWファイルを記録媒体152に記録する。以降、撮像装置100は、ステップS301からの処理を繰り返す。   In step S313, the recording / reproducing unit 151 reads out the compressed RAW image data from the buffer unit 115, and records the RAW file storing the compressed RAW image data on the recording medium 152. Thereafter, the imaging device 100 repeats the processing from step S301.

なお、ステップS313において、記録再生部151は、RAWファイルを、通信部153を介して、通信端子154から外部のストレージに送って、外部のストレージによって記録するようにしても良い。制御部161は、撮影制御部として、ステップS312およびS312の処理を制御する。   In step S313, the recording / reproducing unit 151 may send the RAW file from the communication terminal 154 to the external storage via the communication unit 153, and record the RAW file using the external storage. The control unit 161 controls the processes of steps S312 and S312 as a photographing control unit.

なお、ここでは、ステップS308で、静止画の撮影指示がなされた場合について説明したが、動画の撮影指示がなされた場合も基本的には同様に処理できる。まず、ステップS301〜S307の処理は、共通である。そして、ステップS312〜S313では、撮像装置100は、RAW動画像データの圧縮および記録処理を実施する。RAW動画像データについては、ステップS312で各RAW画像フレームを圧縮したデータを、ステップS313でバッファ部115を通じて記録再生部151が記録する。   Here, the case where an instruction to shoot a still image has been given in step S308 has been described, but the same processing can be performed basically when an instruction to take a moving image has been given. First, the processes of steps S301 to S307 are common. Then, in steps S312 to S313, the imaging device 100 performs compression and recording of the RAW moving image data. As for the RAW moving image data, the recording / reproducing unit 151 records data obtained by compressing each RAW image frame in step S312 via the buffer unit 115 in step S313.

図4(a)は、静止画ファイル400の構造例を示す図である。静止画ファイル400は、静止画圧縮部141により圧縮された静止画データのファイルである。静止画ファイル400は、ヘッダ部401と、メタデータ部402と、圧縮データ部403とを有する。ヘッダ部401には、このファイルが静止画ファイルであることを示す識別コードなどが含まれている。圧縮データ部403には、高能率符号化された静止画の圧縮データが含まれている。   FIG. 4A is a diagram showing an example of the structure of a still image file 400. The still image file 400 is a file of still image data compressed by the still image compression unit 141. The still image file 400 has a header section 401, a metadata section 402, and a compressed data section 403. The header section 401 includes an identification code indicating that the file is a still image file. The compressed data section 403 contains compressed data of a still image which has been highly efficient coded.

メタデータ部402には、この静止画ファイル400に対応するRAWファイル(圧縮データ部403に格納される静止画データの元になっているRAWデータが格納されたファイル)を特定する情報(例えばファイル名)404が含まれる。また、メタデータ部402には、現像ステータス405と、撮影メタデータ406が含まれる。現像ステータス405は、この静止画ファイル400に格納されている圧縮データが簡易現像されたものかどうかを判別するための情報である。また、撮影メタデータ406は、評価値算出部105や認識部131が求めた評価値や被写体情報や、撮像光学部101や撮像センサ部102の撮影時情報(例えば、絞り値、シャッタ速度、感度、レンズ種別識別情報、センサ種別識別情報など)を含む。また、図示していないが、メタデータ部402は、静止画ファイル400に対応するRAWファイルが記録されている記録媒体の識別コードや、記録先のパス情報などをさらに含んでも良い。メタデータ部402は、記録媒体管理部172から記録再生部151に送られて記録される。   The metadata unit 402 includes information (for example, a file in which RAW data that is a source of still image data stored in the compressed data unit 403 is stored) corresponding to the still image file 400. Name) 404 is included. The metadata section 402 includes a development status 405 and shooting metadata 406. The development status 405 is information for determining whether the compressed data stored in the still image file 400 has been simply developed. The shooting metadata 406 includes the evaluation values and subject information obtained by the evaluation value calculation unit 105 and the recognition unit 131, and shooting information (for example, the aperture value, shutter speed, and sensitivity) of the imaging optical unit 101 and the imaging sensor unit 102. , Lens type identification information, sensor type identification information, etc.). Although not shown, the metadata section 402 may further include an identification code of a recording medium on which a RAW file corresponding to the still image file 400 is recorded, path information of a recording destination, and the like. The metadata section 402 is sent from the recording medium management section 172 to the recording / reproduction section 151 and recorded.

以上説明したように、本実施形態に係る撮像装置100は、ライブビュー表示や、撮影開始指示に応答して生成される静止画ファイルのための現像処理を、簡易現像部111によって行う。また、本実施形態に係る撮像装置100は、撮影開始指示に応答して、RAWファイルを記録する。RAWファイルを記録するために、現像処理は必要としない。   As described above, the imaging device 100 according to the present embodiment uses the simple development unit 111 to perform live view display and development processing for a still image file generated in response to a shooting start instruction. Further, the imaging device 100 according to the present embodiment records a RAW file in response to a shooting start instruction. No development processing is required to record a RAW file.

図4(b)は、RAWファイル410の構造例を示す図である。RAWファイル410は、記録再生部151によって、例えば記録媒体152の所定の記録エリアに記録されている。RAWファイル410は、ヘッダ部411と、メタデータ部412と、圧縮データ部413とを有する。ヘッダ部411には、このファイルがRAWファイルの形式であることを示す識別コードなどが含まれている。圧縮データ部413には、高能率符号化された静止画の圧縮RAW画像データが含まれている。   FIG. 4B is a diagram showing an example of the structure of the RAW file 410. The RAW file 410 is recorded by the recording / reproducing unit 151, for example, in a predetermined recording area of the recording medium 152. The RAW file 410 has a header section 411, a metadata section 412, and a compressed data section 413. The header section 411 includes an identification code indicating that the file is in a RAW file format. The compressed data section 413 contains compressed RAW image data of a still image that has been encoded with high efficiency.

メタデータ部412には、このRAWファイル410に対応する静止画ファイルを特定する情報(例えばファイル名)414が含まれる。また、メタデータ部412には、このRAWファイル410に対応する静止画ファイルに格納されている圧縮データが簡易現像されたものかどうかを判別するための現像ステータス415も含まれる。また、メタデータ部412には、撮影メタデータ406と同様の撮影メタデータ416が含まれる。   The metadata section 412 includes information (for example, a file name) 414 that specifies a still image file corresponding to the RAW file 410. The metadata section 412 also includes a development status 415 for determining whether the compressed data stored in the still image file corresponding to the RAW file 410 has been simply developed. The metadata section 412 includes shooting metadata 416 similar to the shooting metadata 406.

また、メタデータ部412は、図示していないが、このRAWファイル410に対応する静止画ファイルが記録されている記録媒体の識別コードや、記録されているフォルダのパス情報などを更に含んでも良い。或いは、このRAWファイル410に対応する静止画ファイルそのものをメタデータ化して、メタデータ部412に格納しても良い。メタデータ部412は、記録媒体管理部172から記録再生部151に送られて記録される。   Although not shown, the metadata unit 412 may further include an identification code of a recording medium on which a still image file corresponding to the RAW file 410 is recorded, path information of a recorded folder, and the like. . Alternatively, the still image file itself corresponding to the RAW file 410 may be converted into metadata and stored in the metadata unit 412. The metadata section 412 is sent from the recording medium management section 172 to the recording / reproduction section 151 and recorded.

なお、図4(a)および(b)に示し、ここで説明したファイル構造は一例であり、EXIFなど他の標準規格に準じた構成であっても良い。また、記録媒体152へのファイル記録は例えばDCFに従ったファイルシステムで行うことができる。   It should be noted that the file structure shown in FIGS. 4A and 4B and described here is merely an example, and may have a configuration conforming to another standard such as EXIF. Further, the file recording on the recording medium 152 can be performed by a file system according to DCF, for example.

次に、本実施形態における後現像処理の処理について説明する。後現像処理は、撮影時におけるRAW画像データと簡易静止画/動画データの記録動作を終えた後、RAW画像データから高画質静止画/動画データを生成する処理である。具体的には、まず、高画質現像部112は、記録再生部151等を通じて、バッファ部115または記録媒体152等に記録されたRAW画像データを読み出して、現像処理する。そして、静止画圧縮部141または動画圧縮部142は、高画質現像部112により現像処理された画像データに対して、高画質な符号化を行い、高画質な符号化画像データ(第2の符号化画像データ)を生成する。本実施形態では、静止画および動画のRAW画像データに対して後現像処理が可能であるが、以下では静止画を例に説明する。   Next, the post-development process in the present embodiment will be described. The post-development process is a process of generating high-quality still image / moving image data from the RAW image data after completing the recording operation of the RAW image data and the simple still image / moving image data at the time of shooting. Specifically, first, the high image quality developing unit 112 reads the RAW image data recorded in the buffer unit 115 or the recording medium 152 or the like through the recording / reproducing unit 151 or the like, and develops the RAW image data. Then, the still image compression unit 141 or the moving image compression unit 142 performs high-quality encoding on the image data that has been developed by the high-quality developing unit 112, and performs high-quality encoded image data (second encoding). Image data). In the present embodiment, post-development processing can be performed on still image and moving image RAW image data, but a still image will be described below as an example.

前述のように、簡易静止画データは、簡易現像部111で現像処理した後に圧縮されたものであるため、高画質現像部112で現像処理した場合と比較して画素数が少なかったり、画質が劣る。簡易静止画データは、撮影内容を撮影直後に大まかに確認したり、撮像装置100の表示部123のように画素数の少ない表示装置に表示したりするには十分な品質であっても、画像の細部を確認したり、プリントアウトしたりするには品質が十分でない場合がある。   As described above, since the simple still image data is developed after being processed by the simple developing unit 111, the number of pixels is small or the image quality is lower than when the high-quality developing unit 112 performs the developing process. Inferior. Even if the simple still image data is of sufficient quality to roughly confirm the shooting content immediately after shooting or to display it on a display device with a small number of pixels such as the display unit 123 of the imaging device 100, The quality may not be sufficient to confirm details or print out.

もちろん、ユーザがRAW画像データの高画質な現像処理を必要に応じて指示してもよいが、手間や時間がかかる。そのため、本実施形態では、撮像装置100がアイドル状態である際に、後現像処理を自動的に実行するものとする。アイドル状態とは、ステップS301のように、撮影スタンバイ時、静止画再生時の待機状態、スリープ状態など、撮像装置100の処理負荷が閾値より低いと判定される状態である。なお、自動的に実施するだけでなく、ユーザからの指示によって後現像処理を開始してもよい。   Of course, the user may instruct the high-quality development processing of the RAW image data as necessary, but it takes time and effort. Therefore, in the present embodiment, it is assumed that the post-development process is automatically executed when the imaging device 100 is in the idle state. The idle state is a state in which the processing load of the image capturing apparatus 100 is determined to be lower than the threshold, such as a standby state for shooting, a standby state for reproducing a still image, and a sleep state, as in step S301. The post-development process may be started not only automatically but also in accordance with an instruction from the user.

撮像装置100がアイドル状態かどうかの判定方法に特に制限は無く、一般的な処理負荷の測定方法をはじめとした任意の判定方法を用いることができる。例えば、制御部161が有するCPUの稼働率が予め定めた閾値未満かどうかや、予め定められた高負荷の動作、例えば高速連写動作、記録・再生処理が行われているかどうかなどに応じて判別することができる。あるいは、基本的に負荷の低い処理しか発生しない動作モードが選択されていれば、無条件にアイドル状態とみなしてもよい。   There is no particular limitation on the method of determining whether the imaging apparatus 100 is in the idle state, and any method such as a general processing load measurement method can be used. For example, depending on whether the operation rate of the CPU included in the control unit 161 is less than a predetermined threshold, or whether a predetermined high-load operation such as a high-speed continuous shooting operation or a recording / reproducing process is performed. Can be determined. Alternatively, if an operation mode that basically generates only a low-load process is selected, the operation mode may be unconditionally regarded as an idle state.

図5は、撮像装置100のアイドル状態の動作を説明するためのフローチャートであり、図3のステップS320で実施するアイドル処理を示す。なお、アイドル処理は、静止画撮影モードだけでなく、他の動作モードにおいてアイドル状態と判定された場合にも実行される。   FIG. 5 is a flowchart for explaining an operation of the imaging apparatus 100 in an idle state, and shows an idle process performed in step S320 of FIG. Note that the idle process is executed not only in the still image shooting mode but also in the case where it is determined to be in the idle state in another operation mode.

ステップS501では、制御部161は、ユーザの設定に基づいて、後現像処理を行うか否かを判定する。制御部161は、後現像処理を行わない場合には、アイドル処理を終了して元の処理に復帰し、後現像処理を行う場合には、ステップS520に進む。   In step S501, the control unit 161 determines whether or not to perform the post-development processing based on the setting of the user. When the post-developing process is not to be performed, the control unit 161 ends the idle process and returns to the original process, and when performing the post-developing process, the process proceeds to step S520.

ステップS520では、制御部161は、記録媒体152に記録されている各RAWファイルについて、後現像処理により高画質静止画ファイルが記録されているか否か(後現像処理済みか否か)を判定する。例えば、制御部161は、RAWファイル410の中の現像ステータス415を参照し、RAWファイル410に対応する静止画ファイルが簡易現像部111で処理されたことを示す情報が含まれていればRAWファイルの後現像処理が行われていないと判定する。あるいは、制御部161は、RAWファイル410のメタデータ部412に含まれる静止画ファイル名414を有する静止画ファイルを記録媒体152内で探索する。これは、静止画撮影モードで撮影されていれば、記録媒体152には、1回の撮影開始指示に対して静止画ファイルとRAWファイルが互いに関連付けられて1つずつ記録されていることに基づく。そして、制御部161は、見つかった静止画ファイル400のメタデータ部402に格納されている現像ステータス405を参照し、簡易現像部111で処理されたことを示す情報が含まれていればRAWファイル410の後現像処理が行われていないと判定する。あるいは、制御部161は、一連の静止画に対し、後現像処理の実行有無を示すテーブルを別に用意しておき、このテーブルを参照して判定するようにしても良い。   In step S520, the control unit 161 determines whether a high-quality still image file has been recorded by post-development processing (whether or not post-development processing has been performed) for each RAW file recorded on the recording medium 152. . For example, the control unit 161 refers to the development status 415 in the RAW file 410, and if the control unit 161 includes information indicating that the still image file corresponding to the RAW file 410 has been processed by the simple development unit 111, the RAW file It is determined that the post-development process has not been performed. Alternatively, the control unit 161 searches the recording medium 152 for a still image file having the still image file name 414 included in the metadata unit 412 of the RAW file 410. This is based on the fact that, when the image is shot in the still image shooting mode, the still image file and the RAW file are recorded one by one in the recording medium 152 in association with one shooting start instruction. . Then, the control unit 161 refers to the development status 405 stored in the metadata unit 402 of the found still image file 400 and, if the information indicating that the processing has been performed by the simple development unit 111 is included, the RAW file 410, it is determined that the post-development process has not been performed. Alternatively, the control unit 161 may separately prepare a table indicating whether or not post-development processing is to be performed for a series of still images, and make a determination with reference to this table.

制御部161は、記録媒体152に記録されたRAWファイル410の全てが後現像処理済みである場合には、アイドル処理を終了して元の処理に復帰する。一方、制御部161は、記録媒体152に記録されているRAWファイル410の中に後現像処理が行われていないものが存在した場合には、ステップS521に進む。   If all of the RAW files 410 recorded on the recording medium 152 have been post-developed, the control unit 161 ends the idle processing and returns to the original processing. On the other hand, when the RAW file 410 recorded on the recording medium 152 has not been subjected to post-development processing, the control unit 161 proceeds to step S521.

ステップS521では、制御部161は、記録媒体152に記録されている、後現像処理が行われていないRAWファイルに対応する圧縮RAW画像データが、バッファ部115にも記憶されているか否かを判定する。制御部161は、RAWファイルがバッファ部115に記憶されていない場合には、ステップS522に進み、RAWファイルがバッファ部115に記憶されている場合には、ステップS523に進む。   In step S521, the control unit 161 determines whether or not the compressed RAW image data corresponding to the RAW file that has not been subjected to post-development processing and that is recorded on the recording medium 152 is also stored in the buffer unit 115. I do. When the RAW file is not stored in the buffer unit 115, the control unit 161 proceeds to step S522. When the RAW file is stored in the buffer unit 115, the control unit 161 proceeds to step S523.

バッファ部115には、直近に撮影されたものから予め定められた数のRAWファイルが保持されている。そのため、制御部161は、後現像処理を行うRAWファイルが、記録媒体152に記録されているRAWファイルのうち、直近に撮影されたものから予め定められた数に含まれていれば、バッファ部115に記憶されていることが分かる。なお、制御部161は、記録再生部151から記録時のRAWファイルの情報を取得し、バッファ部115に記憶されているRAWファイルと、記録媒体152に記録されているRAWファイルとの対応関係を保存しておいてもよい。   The buffer unit 115 holds a predetermined number of RAW files from the most recently shot. Therefore, if the RAW file to be subjected to the post-development process is included in a predetermined number of the RAW files recorded on the recording medium 152 from the most recently photographed, the buffer unit It can be seen that it is stored in 115. The control unit 161 acquires the information of the RAW file at the time of recording from the recording / reproducing unit 151, and determines the correspondence between the RAW file stored in the buffer unit 115 and the RAW file recorded on the recording medium 152. You may save it.

なお、制御部161は、後現像処理が行われておらず、バッファ部115にないRAWファイルが複数ある場合、これらのRAWファイルを1つずつ読み出して後現像処理を行ってもよい。あるいは、制御部161は、バッファ部115に記憶可能な範囲で任意の数のRAWファイルをまとめて読み出してもよい。   When the post-developing process is not performed and there are a plurality of RAW files not in the buffer unit 115, the control unit 161 may read out the RAW files one by one and perform the post-developing process. Alternatively, the control unit 161 may collectively read an arbitrary number of RAW files within a range that can be stored in the buffer unit 115.

制御部161は、記録媒体152からRAWファイルを読み出す場合、古いものから順に読み出してバッファ部115に格納する。そして、制御部161は、バッファ部115の記憶領域が一杯になった場合、最も古い圧縮RAW画像データをバッファ部115から削除し、新たに撮影、あるいは、記録媒体152から読み出された圧縮RAW画像データをバッファ部115に格納する。こうすることにより、直前に撮影された圧縮RAW画像データは、常にバッファ部115に保持されているので、ステップS522をスキップし、高速に処理できる。さらに、直前に撮影された画像から時刻を遡って、後現像処理を実行するようにすれば、バッファ部115に保持されている画像から優先的に処理が完了できるため、処理の効率化ができる。   When reading the RAW file from the recording medium 152, the control unit 161 reads the RAW file from the oldest one and stores it in the buffer unit 115. Then, when the storage area of the buffer unit 115 is full, the control unit 161 deletes the oldest compressed RAW image data from the buffer unit 115 and newly shoots the compressed RAW image data or reads the compressed RAW image data read from the recording medium 152. The image data is stored in the buffer unit 115. By doing so, the compressed RAW image data shot immediately before is always stored in the buffer unit 115, so that step S522 can be skipped and high-speed processing can be performed. Furthermore, if the post-development processing is executed with the time taken backward from the image shot immediately before, the processing can be preferentially completed from the image held in the buffer unit 115, so that the processing efficiency can be improved. .

ステップS522では、制御部161は、記録媒体152からRAWファイルを読み出してバッファ部115に格納し、ステップS523に進む。ステップS523では、制御部161は、バッファ部115に格納されている後現像処理する圧縮RAW画像データをRAW伸張部114に供給する。RAW伸張部114は、バッファ部115に圧縮RAW画像データが格納されている場合には、その圧縮RAW画像データを伸張処理してRAW画像データを復元して出力する。一方、RAW伸張部114は、バッファ部115にRAW画像データが格納されている場合には、そのRAW画像データをそのまま出力する。RAW圧縮部113が、圧縮時に例えば圧縮RAW画像データの先頭に識別可能な情報を記録しておくことなどによって、RAW伸張部114は、圧縮RAW画像データおよびRAW画像データのいずれであるのかを判定することができる。   In step S522, the control unit 161 reads the RAW file from the recording medium 152, stores the RAW file in the buffer unit 115, and proceeds to step S523. In step S523, the control unit 161 supplies the compressed RAW image data to be subjected to the post-development processing stored in the buffer unit 115 to the RAW decompression unit 114. When the compressed RAW image data is stored in the buffer unit 115, the RAW decompression unit 114 decompresses the compressed RAW image data to restore and output the RAW image data. On the other hand, when the RAW image data is stored in the buffer unit 115, the RAW decompression unit 114 outputs the RAW image data as it is. When the RAW compression unit 113 records identifiable information, for example, at the beginning of the compressed RAW image data at the time of compression, the RAW decompression unit 114 determines whether the data is compressed RAW image data or RAW image data. can do.

ステップS524では、現像部110は、RAW伸張部114が出力したRAW画像データを入力する。制御部161は、後現像処理時には、高画質現像部112で現像処理を行い、簡易現像部111では現像処理しないように、現像部110を制御する。高画質現像部112は、RAW画像データに対して、簡易現像部111よりも高画質の画像が得られる現像処理を適用する。本実施形態では、高画質現像部112は、RAW画像データの画素数を削減せず、適用する現像処理の品質(精度や工程の数など)も簡易現像部111より高くする。なお、高画質現像部112は、簡易現像部111よりも高品質の画像が得られる画像処理を行いさえすれば、その具体的な現像処理の内容に制限は無い。例えば、高画質現像部112は、簡易現像部111に対して、現像処理の内容を同等とし、画像の画素数を多くしてもよいし、画像の画素数を同様に削減するが、現像処理の品質を高くしてもよい。   In step S524, the developing unit 110 inputs the RAW image data output from the RAW decompression unit 114. The control unit 161 controls the developing unit 110 so that the high-quality developing unit 112 performs the developing process and the simple developing unit 111 does not perform the developing process during the post-developing process. The high-quality developing unit 112 applies a developing process to the RAW image data to obtain a higher-quality image than the simple developing unit 111. In the present embodiment, the high image quality developing unit 112 does not reduce the number of pixels of the RAW image data, and also increases the quality (accuracy, number of processes, and the like) of the developing process to be applied, as compared with the simple developing unit 111. It should be noted that the high-quality developing unit 112 is not limited to specific contents of the developing process as long as it performs image processing capable of obtaining a higher-quality image than the simple developing unit 111. For example, the high image quality developing unit 112 may make the content of the developing process equal to the simple developing unit 111 and increase the number of pixels of the image, or similarly reduce the number of pixels of the image. Quality may be increased.

高画質現像部112は、RAW画像データをデベイヤ処理(デモザイク処理)し、輝度と色差から成る信号へ変換して、各信号に含まれるノイズを除去し、光学的な歪を補正し、画像を適正化するなどの所謂現像処理を行う。高画質現像部112によって生成される現像処理済みの画像の画素数は、撮像センサ部102から読み出された画素数のまま、あるいはユーザから設定された画素数となる。そのため、高画質現像部112から出力される画像データの画素数は、簡易現像部111から出力される画像データの画素数よりも多い。   The high image quality developing unit 112 performs a debayer process (demosaicing process) on the RAW image data, converts the RAW image data into a signal including luminance and color difference, removes noise included in each signal, corrects optical distortion, and processes the image. A so-called development process such as optimization is performed. The number of pixels of the developed image generated by the high image quality developing unit 112 remains the number of pixels read from the imaging sensor unit 102 or the number of pixels set by the user. Therefore, the number of pixels of the image data output from the high-quality developing unit 112 is larger than the number of pixels of the image data output from the simple developing unit 111.

高画質現像部112は、簡易現像部111よりも各々の処理が高精度であるため、より高画質な現像画像が得られるが、一方で、処理負荷が高くなってしまう。本実施形態の高画質現像部112は、撮影と並行したリアルタイムの現像処理を行わないことで、消費電力やコストの大きな回路の利用を回避している。   The high-quality developing unit 112 can obtain a higher-quality developed image because each process has higher precision than the simple developing unit 111, but on the other hand, the processing load increases. The high image quality developing unit 112 of the present embodiment does not perform a real-time developing process in parallel with shooting, thereby avoiding the use of a circuit with high power consumption and cost.

ステップS525では、静止画圧縮部141は、高画質現像部112で現像処理された画像データを入力する。静止画圧縮部141は、入力した画像データに対して高能率符号化処理(静止画圧縮)を施し、高画質静止画データを生成する。   In step S525, the still image compression unit 141 inputs the image data developed by the high image quality development unit 112. The still image compression unit 141 performs high-efficiency encoding processing (still image compression) on the input image data to generate high-quality still image data.

ステップS527では、制御部161は、アイドル状態でなくなったか否かを判定する。なお、制御部161は、例えば予め定められたアイドル状態を脱するイベントが発生した場合には、アイドル状態でなくなったと判定してもよい。イベントは、例えば、撮影準備指示や撮影開始指示の入力、再生処理の実行指示の入力、CPUの稼働率が閾値を超えるなどであってよい。なお、これらのイベント発生は、実際にはステップS527で示されるタイミングで実施するのではなく、アイドル処理中に制御部161がバックグラウンドで監視している。イベントの発生を検知した時点で実施中の動作を中断もしくは中止するか、静止画記録が終了するまでは実行を継続するかは予め定めておくことができる。例えば、ステップS522〜S525のどの処理を実行中かに応じて処理を継続するか中断もしくは中止するかが異なってもよい。また、発生したイベントに応じて対応が異なってもよい。例えば、撮影開始指示のようにタイムラグが問題になるイベントが発生した場合は直ちに撮影処理に移行し、再生開始指示のように緊急性がさほど高くないイベントの場合には静止画記録が終了してから再生処理に移行するようにしてもよい。   In step S527, control unit 161 determines whether or not it is no longer in the idle state. Note that, for example, when an event that exits a predetermined idle state occurs, the control unit 161 may determine that the state is no longer the idle state. The event may be, for example, an input of a shooting preparation instruction or a shooting start instruction, an input of a playback processing execution instruction, or an operation rate of a CPU exceeding a threshold. The occurrence of these events is not actually performed at the timing shown in step S527, but is monitored by the control unit 161 in the background during the idle process. Whether the operation being performed is interrupted or stopped when the occurrence of the event is detected, or whether the operation is continued until the recording of the still image is completed can be determined in advance. For example, whether the processing is continued, interrupted or stopped may be different depending on which processing of steps S522 to S525 is being executed. Further, the correspondence may be different depending on the event that has occurred. For example, if an event that causes a time lag such as a shooting start instruction occurs, the process immediately shifts to shooting processing, and if the event is not so urgent, such as a playback start instruction, the still image recording ends. May be shifted to the reproduction process.

ステップS527において、制御部161は、アイドル状態が継続している場合には、ステップS520に戻り、後現像処理が未処理のRAW画像データが残っている場合には、上述した処理を繰り返して実行する。また、制御部161は、アイドル状態でなくなった場合には、ステップS528に進む。   In step S527, the control unit 161 returns to step S520 if the idle state continues, and repeats the above-described processing if unprocessed RAW image data remains. I do. When the control unit 161 is not in the idle state, the process proceeds to step S528.

ステップS528では、制御部161は、上記の中断した処理に対し、次にアイドル状態になった際に再開できるように必要な情報を記憶する中断処理を行う。中断処理は、例えば途中まで処理が終わったデータの保存や、どこまで処理が終わっているのかを示す情報の保存などを含む。一方、処理を中止する場合には、次回の処理において未処理のRAWファイルの処理を行えば良いため、中断処理を実施しなくてもよい。   In step S528, the control unit 161 performs a suspending process for storing the necessary information so that the process can be resumed when the device enters the idle state next to the suspended process. The interruption process includes, for example, saving data that has been partially processed, saving information indicating how far the process has been completed, and the like. On the other hand, when the processing is to be stopped, the processing of the unprocessed RAW file may be performed in the next processing, so that the interruption processing need not be performed.

アイドル状態でなくなった場合、制御部161は、アイドル処理を実行する前に実施していた動作モードとイベントに応じた処理に移行する。例えば、静止画撮影モードからアイドル処理に遷移していた場合に撮影指示が入力された場合、制御部161は、静止画撮影モードの処理をステップS312の撮影処理から復帰させる。   When it is no longer in the idle state, the control unit 161 shifts to a process according to the operation mode and the event that has been performed before executing the idle process. For example, when a shooting instruction is input when the mode has transitioned from the still image shooting mode to the idle process, the control unit 161 returns the process in the still image shooting mode from the shooting process in step S312.

このように、本実施形態の撮像装置100は、撮影と撮影の合間や、再生モードやスリープ状態などのユーザ操作待ちの、比較的、撮像装置100の処理負荷が低い状態のときに後現像処理を実行する。これにより、画像の細部の確認表示やプリントアウトなど、高画質な画像が要求された場合であっても、その度に現像処理を実行する必要がなく、また、一般的な環境における活用が可能となる。   As described above, the image capturing apparatus 100 according to the present embodiment performs the post-development processing when the processing load of the image capturing apparatus 100 is relatively low while waiting for a user operation such as a shooting mode or a sleep mode. Execute This eliminates the need to execute development processing every time a high-quality image is required, such as confirmation display of image details or printout, and can be used in a general environment. Becomes

なお、RAW動画データは、各フレームがRAW画像データで構成されているため、各フレームを静止画データと同様にして現像処理することができる。そして、動画圧縮部142は、現像後のフレーム画像を動画の符号化方式に応じて符号化することで、高画質な動画ファイルを順次生成する。なお、符号化処理の効率を向上させるため、記録媒体152から未処理のRAWファイルを読み出す場合に、動画の符号化方式に応じたフレーム数(例えばGOPを構成するフレーム数)を単位とすることができる。   Since each frame of the RAW moving image data is composed of RAW image data, each frame can be developed in the same manner as the still image data. Then, the moving image compression unit 142 sequentially generates high-quality moving image files by encoding the developed frame images in accordance with the encoding method of the moving image. In order to improve the efficiency of the encoding process, when reading an unprocessed RAW file from the recording medium 152, the number of frames (for example, the number of frames forming a GOP) according to the encoding scheme of the moving image is used as a unit. Can be.

図6は、撮像装置100の待機状態の動作を説明するためのフローチャートであり、図3のステップS330の待機状態で実施する待機表示処理を示す。なお、待機表示処理は、静止画撮影モードだけでなく、他の動作モードにおいて待機状態と判定された場合にも実行される。図6のフローチャートは、制御部161によって各処理ブロックを制御し実行される処理手順を図示したものであり、制御部161が有するメモリ(ROM)に格納されているプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。   FIG. 6 is a flowchart for explaining the operation of the imaging apparatus 100 in the standby state, and shows a standby display process performed in the standby state in step S330 of FIG. The standby display process is executed not only in the still image shooting mode, but also when it is determined that the standby state is established in another operation mode. The flowchart in FIG. 6 illustrates a processing procedure executed by controlling each processing block by the control unit 161. The program stored in the memory (ROM) of the control unit 161 is expanded in the memory (RAM). It is realized by execution by the CPU.

ステップS601では、残量算出部181は、記録媒体152の空き容量を取得する。空き容量の取得方法に制限は無く、例えば記録媒体管理部172から取得してもよいし、記録再生部151を通じて記録媒体152から読み出してもよい。   In step S601, the remaining amount calculation unit 181 acquires the free space of the recording medium 152. There is no limitation on the method of acquiring the free space. For example, the free space may be acquired from the recording medium management unit 172 or may be read from the recording medium 152 through the recording / reproducing unit 151.

ステップS602では、カメラ制御部104は、撮像センサ部102からライブビュー用の間引き読み出しを行い、撮像センサ部102は、センサ信号処理部103を介して低解像度のライブビュー画像データ701(図7(a))をRAW圧縮部113に出力する。RAW圧縮部113は、センサ信号処理部103を介して撮像センサ部102により撮影して得られた低解像度のライブビュー画像データ701を圧縮する。このとき、RAW圧縮部113は、サイズ見積もり部171に圧縮後のライブビュー画像データのデータサイズ(圧縮結果)を伝達する。ステップS602では、RAW圧縮部113は、図3のステップS312と同じ圧縮方式により圧縮する。例えば、RAW圧縮部113は、ウエーブレット変換等のフレーム間圧縮方式ではない圧縮方式を用いて圧縮する。   In step S602, the camera control unit 104 performs thinning-out reading for live view from the imaging sensor unit 102, and the imaging sensor unit 102 transmits the low-resolution live view image data 701 (see FIG. a)) is output to the RAW compression unit 113. The RAW compression unit 113 compresses the low-resolution live view image data 701 obtained by the imaging sensor unit 102 via the sensor signal processing unit 103. At this time, the RAW compression unit 113 transmits the data size (compression result) of the compressed live view image data to the size estimation unit 171. In step S602, the RAW compression unit 113 performs compression using the same compression method as in step S312 in FIG. For example, the RAW compression unit 113 performs compression using a compression method other than the inter-frame compression method such as wavelet transform.

ステップS603では、サイズ見積もり部171は、圧縮後のライブビュー画像データのデータサイズに基づいて、圧縮RAW画像データサイズを推定する。圧縮RAW画像データサイズは、図3のステップS312で生成される圧縮後のRAW画像データのデータサイズである。圧縮RAW画像データサイズの推定については、図7(a)および(b)を用いて後述する。   In step S603, the size estimating unit 171 estimates the compressed RAW image data size based on the data size of the compressed live view image data. The compressed RAW image data size is the data size of the compressed RAW image data generated in step S312 of FIG. The estimation of the compressed RAW image data size will be described later with reference to FIGS. 7 (a) and 7 (b).

ステップS604では、残量算出部181は、ステップS601の空き容量およびステップS603で推定された圧縮RAW画像データサイズを用いて、次式により、記録媒体152に対する記録可能枚数を推定し、記録可能枚数を表示処理部122へ通知する。ここで、floor(x)は、床関数であり、xを超えない最大の整数を表す。記録媒体152に対する記録可能枚数は、記録媒体152に記録可能な圧縮RAW画像データの枚数である。
記録可能枚数=floor(空き容量/推定された圧縮RAW画像データサイズ)
In step S604, using the free space in step S601 and the compressed RAW image data size estimated in step S603, the remaining amount calculation unit 181 estimates the number of recordable images on the recording medium 152 by the following equation, and To the display processing unit 122. Here, floor (x) is a floor function and represents the largest integer not exceeding x. The number of recordable images on the recording medium 152 is the number of compressed RAW image data that can be recorded on the recording medium 152.
Recordable number = floor (free space / estimated compressed RAW image data size)

ここで、記録可能枚数は、静止画の場合である。動画のRAW画像データの撮影モードである場合には、残量算出部181は、ステップS601の空き容量およびステップS603で推定された圧縮RAW画像データサイズを用いて、記録媒体152に対する記録可能時間を推定する。記録媒体152に対する記録可能時間は、記録媒体152に記録可能な動画の圧縮RAW画像データの記録時間である。   Here, the recordable number is for a still image. In the case of the shooting mode of the moving image RAW image data, the remaining amount calculation unit 181 calculates the recordable time on the recording medium 152 by using the free space in step S601 and the compressed RAW image data size estimated in step S603. presume. The recordable time on the recording medium 152 is the recording time of the compressed RAW image data of the moving image recordable on the recording medium 152.

ステップS605では、表示処理部122は、残量算出部181より通知された記録可能枚数または記録可能時間を表す画像を、ライブビュー画像等に重畳し、表示部123に表示させる。   In step S605, the display processing unit 122 superimposes the image indicating the recordable number or recordable time notified from the remaining amount calculation unit 181 on a live view image or the like and displays the image on the display unit 123.

図7(a)および(b)は、図6のステップS603の圧縮RAW画像データサイズの推定方法を説明するための図である。サイズ見積もり部171は、図3のステップS312でRAW圧縮部113によって生成される圧縮RAW画像データのデータサイズを推定する。   FIGS. 7A and 7B are diagrams for explaining the method of estimating the compressed RAW image data size in step S603 in FIG. The size estimation unit 171 estimates the data size of the compressed RAW image data generated by the RAW compression unit 113 in step S312 of FIG.

図7(a)は、センサ信号処理部103から出力されるライブビュー画像データ701の画素数と、センサ信号処理部103から出力されるRAW画像データ702の画素数の大小関係を示す図である。ライブビュー画像データ701は、図6のステップS602で、RAW圧縮部113がセンサ信号処理部103から入力する低解像度のRAW画像データである。RAW画像データ702は、図3のステップS312で、RAW圧縮部113がセンサ信号処理部103から入力する高解像度のRAW画像データである。図7(a)に示すように、ライブビュー画像データ701は、RAW画像データ702に対して、水平方向に1/N倍、垂直方向に1/M倍に縮小されている。ライブビュー画像データ701の画素数は、RAW画像データ702の画素数の1/(N×M)である。ライブビュー画像データ701は、RAW画像データ702より低解像度のRAW画像データである。   FIG. 7A is a diagram illustrating a magnitude relationship between the number of pixels of the live view image data 701 output from the sensor signal processing unit 103 and the number of pixels of the RAW image data 702 output from the sensor signal processing unit 103. . The live view image data 701 is low-resolution RAW image data input from the sensor signal processing unit 103 by the RAW compression unit 113 in step S602 in FIG. The RAW image data 702 is high-resolution RAW image data input from the sensor signal processing unit 103 by the RAW compression unit 113 in step S312 of FIG. As shown in FIG. 7A, the live view image data 701 is reduced by a factor of 1 / N in the horizontal direction and 1 / M in the vertical direction with respect to the RAW image data 702. The number of pixels of the live view image data 701 is 1 / (N × M) of the number of pixels of the RAW image data 702. The live view image data 701 is RAW image data having a lower resolution than the RAW image data 702.

図7(b)は、圧縮ライブビュー画像データのデータサイズ711と、推定される圧縮RAW画像データのデータサイズ714を示す図である。データサイズ711は、図6のステップS602で、RAW圧縮部113により生成される圧縮後のライブビュー画像データのデータサイズである。データサイズ714は、図3のステップS312で、RAW圧縮部113により生成される圧縮後のRAW画像データのデータサイズの推定値である。データサイズ712は、圧縮ライブビュー画像データのデータサイズ711に対してN×M倍したデータサイズである。データサイズ713は、オフセットである。   FIG. 7B is a diagram showing a data size 711 of the compressed live view image data and a data size 714 of the estimated compressed RAW image data. The data size 711 is the data size of the live view image data after compression generated by the RAW compression unit 113 in step S602 in FIG. The data size 714 is an estimated value of the data size of the compressed RAW image data generated by the RAW compression unit 113 in step S312 of FIG. The data size 712 is a data size obtained by multiplying the data size 711 of the compressed live view image data by N × M. The data size 713 is an offset.

サイズ見積もり部171は、例えば、次式により、圧縮RAW画像データのデータサイズESTを推定する。
EST=SIZE2+OFS
=(SIZE1/RED_RATIO)+OFS
=(SIZE1×N×M)+OFS
The size estimating unit 171 estimates the data size EST of the compressed RAW image data by, for example, the following equation.
EST = SIZE2 + OFS
= (SIZE1 / RED_RATIO) + OFS
= (SIZE1 × N × M) + OFS

ここで、データサイズESTは、圧縮RAW画像データのデータサイズ714である。データサイズSIZE2は、圧縮ライブビュー画像データのデータサイズ711に対してN×M倍したデータサイズ712である。オフセットOFSは、オフセット713である。縮小率RED_RATIOは、図7(a)に示すように、RAW画像データ702に対するライブビュー画像データ701の縮小率である。縮小率RED_RATIOは、1/(N×M))で表される。データサイズSIZE1は、圧縮ライブビュー画像データのデータサイズ711である。   Here, the data size EST is the data size 714 of the compressed RAW image data. The data size SIZE2 is a data size 712 obtained by multiplying the data size 711 of the compressed live view image data by N × M. The offset OFS is the offset 713. The reduction ratio RED_RATIO is a reduction ratio of the live view image data 701 with respect to the RAW image data 702, as shown in FIG. The reduction ratio RED_RATIO is represented by 1 / (N × M). The data size SIZE1 is the data size 711 of the compressed live view image data.

以上のように、推定されるデータサイズ714は、圧縮ライブビュー画像データのデータサイズ711を(N×M)倍し、オフセット713だけ加算した値となる。オフセット713の大きさは、可変である。具体的なオフセット713の決定方法については後述する。   As described above, the estimated data size 714 is a value obtained by multiplying the data size 711 of the compressed live view image data by (N × M) and adding the offset 713. The size of the offset 713 is variable. A specific method for determining the offset 713 will be described later.

図8(a)および(b)は、図7(b)のオフセット713の決定方法を説明するための図である。図8(a)は、ISO感度803とオフセット802の相関関係を示すグラフである。図8(b)は、ISO感度803とオフセット804との対応関係を示すテーブルの図である。   FIGS. 8A and 8B are diagrams for explaining a method of determining the offset 713 in FIG. 7B. FIG. 8A is a graph showing a correlation between the ISO sensitivity 803 and the offset 802. FIG. 8B is a table showing a correspondence between the ISO sensitivity 803 and the offset 804.

RAW圧縮部113の圧縮効率は、高周波成分であるノイズの量がデータサイズに対して大きく影響を与える。そのため、サイズ見積もり部171は、図8(b)のテーブルを参照し、ユーザが操作部162により設定したISO感度803に応じて、オフセット804を決定する。オフセット801は、ISO感度803が下限値であった場合のオフセット804である。オフセット802は、ISO感度804が上限値であった場合のオフセット804である。   As for the compression efficiency of the RAW compression unit 113, the amount of noise, which is a high frequency component, greatly affects the data size. Therefore, the size estimation unit 171 refers to the table in FIG. 8B and determines the offset 804 according to the ISO sensitivity 803 set by the user using the operation unit 162. The offset 801 is an offset 804 when the ISO sensitivity 803 is at the lower limit. The offset 802 is the offset 804 when the ISO sensitivity 804 is at the upper limit.

以上のように、図6の待機状態において、サイズ見積もり部171は、圧縮RAW画像データのデータサイズ714を正確に推定することにより、記録媒体152に対する記録可能枚数を正確に推定することができる。   As described above, in the standby state shown in FIG. 6, the size estimating unit 171 can accurately estimate the number of recordable images on the recording medium 152 by accurately estimating the data size 714 of the compressed RAW image data.

次に、撮像装置100が、撮像センサ部102によりRAW画像データを連写撮影するRAW連写撮影モードと、撮像センサ部102によりRAW画像データを1枚撮影するRAW撮影モードとを有する場合を説明する。RAW連写撮影モードの場合は、図6に示したように、表示処理部122は、残量算出部181により推定された記録可能枚数または記録可能時間を表示部123に表示するように制御する。これに対し、RAW撮影モードの場合は、残量算出部181は、記録可能枚数または記録可能時間の推定を行わない、または、表示処理部122は、残量算出部181により推定された記録可能枚数または記録可能時間を表示部123に表示しないように制御する。   Next, a case where the imaging apparatus 100 has a RAW continuous shooting mode in which the imaging sensor unit 102 continuously shoots RAW image data and a RAW imaging mode in which the imaging sensor unit 102 shoots one RAW image data will be described. I do. In the case of the RAW continuous shooting mode, the display processing unit 122 controls the display unit 123 to display the recordable number or recordable time estimated by the remaining amount calculation unit 181 as shown in FIG. . On the other hand, in the case of the RAW shooting mode, the remaining amount calculation unit 181 does not estimate the number of recordable images or the recordable time, or the display processing unit 122 determines that the remaining record amount estimated by the remaining amount The number of sheets or the recordable time is controlled so as not to be displayed on the display unit 123.

次に、撮像装置100が、撮像センサ部102によりRAW画像データを連写撮影するRAW連写撮影モードと、そのRAW連写撮影モードよりも高速でRAW画像データを連続撮影するRAW高速連写撮影モードとを有する場合を説明する。RAW高速連写撮影モードの場合は、表示処理部122は、残量算出部181により推定された記録可能枚数または記録可能時間を表示部123に表示するように制御する。これに対し、RAW連写撮影モードの場合、残量算出部181は、記録可能枚数または記録可能時間の推定を行わない、または、表示処理部122は、残量算出部181により推定された記録可能枚数または記録可能時間を表示部123に表示しないように制御する。   Next, the RAW continuous shooting mode in which the imaging device 100 continuously shoots RAW image data by the imaging sensor unit 102, and RAW high-speed continuous shooting in which RAW image data is continuously shot at a higher speed than in the RAW continuous shooting mode The mode will be described. In the case of the RAW high-speed continuous shooting mode, the display processing unit 122 controls the display unit 123 to display the recordable number or recordable time estimated by the remaining amount calculation unit 181. On the other hand, in the case of the RAW continuous shooting mode, the remaining amount calculation unit 181 does not estimate the recordable number or the recordable time, or the display processing unit 122 performs the recording estimated by the remaining amount calculation unit 181. Control is performed so that the possible number or the recordable time is not displayed on the display unit 123.

(第2の実施形態)
本発明の第2の実施形態は、第1の実施形態に対して、サイズ見積もり部171の処理が異なる。サイズ見積もり部171は、データサイズの推定を簡略化するために、撮影パラメータに応じて圧縮RAW画像データのデータサイズを推定する。また、サイズ見積もり部171は、記録媒体152の空き容量が閾値未満になった場合には、第1の実施形態と同様の方法により、圧縮RAW画像データのデータサイズを推定する。
(Second embodiment)
The second embodiment of the present invention differs from the first embodiment in the processing of the size estimating unit 171. The size estimating unit 171 estimates the data size of the compressed RAW image data according to the shooting parameters in order to simplify the estimation of the data size. Further, when the free space of the recording medium 152 becomes smaller than the threshold, the size estimating unit 171 estimates the data size of the compressed RAW image data by the same method as in the first embodiment.

図9は、撮像装置100の待機状態の動作を説明するためのフローチャートであり、図3のステップS330の待機状態で実施する待機表示処理を示す。図9のフローチャートは、図6のフローチャートの代わりに行われる。図9のフローチャートは、図6のフローチャートに対して、ステップS901〜S903を追加したものである。以下、本実施形態が第1の実施形態と異なる点を説明する。   FIG. 9 is a flowchart for explaining the operation of the imaging apparatus 100 in the standby state, and shows the standby display processing performed in the standby state in step S330 of FIG. The flowchart of FIG. 9 is performed instead of the flowchart of FIG. The flowchart of FIG. 9 is obtained by adding steps S901 to S903 to the flowchart of FIG. Hereinafter, the points of this embodiment different from the first embodiment will be described.

ステップS601では、残量算出部181は、記録媒体152の空き容量を取得する。ステップS901では、残量算出部181は、記録媒体152の空き容量が閾値未満であるか否かを判定する。閾値は、所定の容量であり、例えば、記録媒体152の容量の5%である。残量算出部181は、記録媒体152の空き容量が閾値未満である場合には、ステップS602に進み、記録媒体152の空き容量が閾値未満でない場合には、ステップS902に進む。   In step S601, the remaining amount calculation unit 181 acquires the free space of the recording medium 152. In step S901, the remaining amount calculation unit 181 determines whether the free space of the recording medium 152 is less than a threshold. The threshold is a predetermined capacity, for example, 5% of the capacity of the recording medium 152. The remaining amount calculation unit 181 proceeds to step S602 when the free space of the recording medium 152 is less than the threshold, and proceeds to step S902 when the free space of the recording medium 152 is not less than the threshold.

ステップS602では、カメラ制御部104は、撮像センサ部102からライブビュー用の間引き読み出しを行い、撮像センサ部102は、センサ信号処理部103を介して低解像度のライブビュー画像データ701(図7(a))をRAW圧縮部113に出力する。RAW圧縮部113は、センサ信号処理部103より得られる低解像度のライブビュー画像データ701を圧縮する。このとき、RAW圧縮部113は、サイズ見積もり部171に圧縮後のライブビュー画像データのデータサイズを伝達する。   In step S602, the camera control unit 104 performs thinning-out reading for live view from the imaging sensor unit 102, and the imaging sensor unit 102 transmits the low-resolution live view image data 701 (see FIG. a)) is output to the RAW compression unit 113. The RAW compression unit 113 compresses the low-resolution live view image data 701 obtained from the sensor signal processing unit 103. At this time, the RAW compression unit 113 transmits the data size of the live view image data after compression to the size estimation unit 171.

ステップS603では、サイズ見積もり部171は、圧縮後のライブビュー画像データのデータサイズに基づいて、第1の実施形態と同様に、図7(b)に示す方法により、圧縮RAW画像データサイズを推定し、ステップS604に進む。   In step S603, the size estimating unit 171 estimates the compressed RAW image data size by the method shown in FIG. 7B based on the data size of the live view image data after compression, as in the first embodiment. Then, the process proceeds to step S604.

ステップS902では、サイズ見積もり部171は、操作部162によりユーザが設定した撮影パラメータを取得する。撮影パラメータは、例えば、RAW画像データの画像サイズである。ステップS903では、サイズ見積もり部171は、撮影パラメータに基づいて、圧縮RAW画像データサイズを推定し、ステップS604に進む。圧縮RAW画像データサイズの推定方法については後述する。   In step S902, the size estimating unit 171 acquires the shooting parameters set by the user using the operation unit 162. The shooting parameter is, for example, the image size of the RAW image data. In step S903, the size estimating unit 171 estimates the compressed RAW image data size based on the shooting parameters, and proceeds to step S604. A method for estimating the compressed RAW image data size will be described later.

ステップS604では、残量算出部181は、ステップS601の空き容量とステップS603またはS903で推定された圧縮RAW画像データサイズを用いて、次式により、記録媒体152に対する記録可能枚数を推定する。そして、残量算出部181は、記録可能枚数を記録媒体152の残量として表示処理部122へ出力する。
記録可能枚数=floor(空き容量/推定された圧縮RAW画像データサイズ)
In step S604, the remaining amount calculation unit 181 estimates the number of recordable images on the recording medium 152 by the following equation using the free space in step S601 and the compressed RAW image data size estimated in step S603 or S903. Then, the remaining amount calculating unit 181 outputs the recordable number to the display processing unit 122 as the remaining amount of the recording medium 152.
Recordable number = floor (free space / estimated compressed RAW image data size)

ここで、記録可能枚数は、静止画の場合である。動画のRAW画像データの撮影モードである場合には、残量算出部181は、ステップS601の空き容量とステップS603またはS903で推定された圧縮RAW画像データサイズを用いて、記録媒体152に対する記録可能時間を推定する。そして、残量算出部181は、記録可能時間を記録媒体152の残量として表示処理部122へ出力する。   Here, the recordable number is for a still image. In the case of the shooting mode of moving image RAW image data, the remaining amount calculation unit 181 can record on the recording medium 152 using the free space in step S601 and the compressed raw image data size estimated in step S603 or S903. Estimate time. Then, the remaining amount calculation unit 181 outputs the recordable time to the display processing unit 122 as the remaining amount of the recording medium 152.

ステップS605では、表示処理部122は、残量算出部181より通知された記録可能枚数または記録可能時間を表す画像を、ライブビュー画像等に重畳し、表示部123に表示させる。   In step S605, the display processing unit 122 superimposes the image indicating the recordable number or recordable time notified from the remaining amount calculation unit 181 on a live view image or the like and displays the image on the display unit 123.

なお、サイズ見積もり部171は、上記の処理に限定されず、ステップS603の圧縮RAW画像データサイズと、ステップS903の圧縮RAW画像データサイズとの両方を推定してもよい。その場合、ステップS604では、残量算出部181は、ステップS601の空き容量とステップS603で推定された圧縮RAW画像データサイズを用いて、第1の記録可能枚数または第1の記録可能時間を推定する。さらに、残量算出部181は、ステップS601の空き容量とステップS903で推定された圧縮RAW画像データサイズを用いて、第2の記録可能枚数または第2の記録可能時間を推定する。第2の記録可能枚数または第2の記録可能時間よりも、第1の記録可能枚数または第1の記録可能時間の方が大きい場合は、残量算出部181は、以下の処理を行う。その場合、残量算出部181は、記録媒体152の空き容量が閾値未満の場合であっても、第2の記録可能枚数または第2の記録可能時間を記録媒体152の残量として表示処理部122に出力する。表示処理部122は、第2の記録可能枚数または第2の記録可能時間を表示部123に表示する。   Note that the size estimation unit 171 is not limited to the above processing, and may estimate both the compressed RAW image data size in step S603 and the compressed RAW image data size in step S903. In this case, in step S604, the remaining amount calculation unit 181 estimates the first recordable number or the first recordable time using the free space in step S601 and the compressed RAW image data size estimated in step S603. I do. Further, the remaining amount calculation unit 181 estimates the second recordable number or the second recordable time using the free space in step S601 and the compressed RAW image data size estimated in step S903. When the first recordable number or the first recordable time is larger than the second recordable number or the second recordable time, the remaining amount calculation unit 181 performs the following processing. In this case, even when the free space of the recording medium 152 is less than the threshold, the remaining amount calculating unit 181 sets the second recordable number or the second recordable time as the remaining amount of the recording medium 152 as the remaining amount of the recording medium 152. 122. The display processing unit 122 displays the second recordable number or the second recordable time on the display unit 123.

図10は、図9のステップS903の圧縮RAW画像データサイズの推定方法を説明するための図である。サイズ見積もり部171は、撮影パラメータに基づいて、圧縮RAW画像データサイズを推定する。撮影パラメータが画像サイズである例を説明する。画像サイズ1001は、ユーザが設定しうる画像サイズである。画像サイズ1001によって、圧縮RAW画像データサイズ1002が予め決められている。サイズ見積もり部171は、図10のテーブルを参照し、画像サイズ1001に応じて、圧縮RAW画像データサイズ1002を推定する。   FIG. 10 is a diagram for explaining the method of estimating the compressed RAW image data size in step S903 in FIG. The size estimating unit 171 estimates the compressed RAW image data size based on the shooting parameters. An example in which the shooting parameter is the image size will be described. The image size 1001 is an image size that can be set by the user. The compressed raw image data size 1002 is determined in advance by the image size 1001. The size estimating unit 171 estimates the compressed RAW image data size 1002 according to the image size 1001 with reference to the table in FIG.

以上のように、本実施形態では、待機状態において、サイズ見積もり部171は、記録媒体152の空き容量が多い場合には、撮影パラメータを基に圧縮RAW画像データサイズを推定することにより、消費電力を抑えることができる。また、サイズ見積もり部171は、記録媒体152の空き容量が少なくなった場合には、ライブビュー画像データの圧縮結果を基に、圧縮RAW画像データサイズを正確に推定することができる。   As described above, in the present embodiment, in the standby state, when the free space of the recording medium 152 is large, the size estimating unit 171 estimates the compressed RAW image data size based on the shooting parameters, thereby reducing the power consumption. Can be suppressed. Further, when the free space of the recording medium 152 is reduced, the size estimating unit 171 can accurately estimate the compressed RAW image data size based on the compression result of the live view image data.

なお、上記実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。   It should be noted that each of the above-described embodiments is merely an example of a concrete example for carrying out the present invention, and the technical scope of the present invention should not be interpreted in a limited manner. That is, the present invention can be implemented in various forms without departing from the technical idea or the main features.

100…撮像装置、101…撮像光学部、102…撮像センサ部、103…センサ信号処理部、104…カメラ制御部、105…評価値算出部、110…現像部、111…簡易現像部、112…高画質現像部、113…RAW圧縮部、114…RAW伸張部、115…バッファ部、122…表示処理部、123…表示部、141…静止画圧縮部、142…動画圧縮部、143…静止画伸張部、144…動画伸張部、151…記録再生部、152…記録媒体、153…通信部、161…制御部、162…操作部、171…サイズ見積もり部、172…記録媒体管理部、181…残量算出部 Reference Signs List 100 imaging device, 101 imaging optical unit, 102 imaging sensor unit, 103 sensor signal processing unit, 104 camera control unit, 105 evaluation value calculation unit, 110 development unit, 111 simple development unit, 112 High image quality developing unit, 113 RAW compression unit, 114 RAW decompression unit, 115 buffer unit, 122 display processing unit, 123 display unit, 141 still image compression unit, 142 moving image compression unit, 143 still image Decompression unit, 144: moving image decompression unit, 151: recording / reproducing unit, 152: recording medium, 153: communication unit, 161: control unit, 162: operation unit, 171: size estimation unit, 172: recording medium management unit, 181 Remaining amount calculator

Claims (15)

撮像手段と、
前記撮像手段により撮影して得られた第一の解像度のRAW画像データ、または、前記撮像手段により撮影して得られた前記第一の解像度より低解像度の第二の解像度のRAW画像データを圧縮する圧縮手段と、
前記圧縮手段による前記第二の解像度のRAW画像データの圧縮結果に基づいて、前記圧縮手段による前記第一の解像度のRAW画像データの圧縮後のデータサイズを推定し、記録媒体の空き容量と前記推定されたデータサイズとに基づいて、前記記録媒体に記録可能な圧縮された前記第一の解像度のRAW画像データの枚数または記録時間を推定する第一の残量推定手段と、
を有することを特徴とする撮像装置。
Imaging means;
RAW image data of a first resolution obtained by imaging by the imaging unit or RAW image data of a second resolution lower than the first resolution obtained by imaging by the imaging unit is compressed. Compression means,
Based on the result of compression of the RAW image data of the second resolution by the compression unit, the data size of the RAW image data of the first resolution after compression by the compression unit is estimated. First remaining amount estimating means for estimating the number or recording time of the compressed first resolution RAW image data recordable on the recording medium based on the estimated data size,
An imaging device comprising:
前記第一の残量推定手段により推定された前記記録媒体に記録可能な圧縮された前記第一の解像度のRAW画像データの枚数または記録時間を、表示手段に表示させる表示制御手段を有することを特徴とする請求項1に記載の撮像装置。   Display means for displaying the number or recording time of the compressed RAW image data of the first resolution recordable on the recording medium estimated by the first remaining amount estimating means on a display means. The imaging device according to claim 1, wherein: 前記圧縮手段により圧縮された前記第一の解像度のRAW画像データを、前記記録媒体に記録する記録手段を有することを特徴とする請求項1または2に記載の撮像装置。   The imaging apparatus according to claim 1, further comprising a recording unit that records the first resolution RAW image data compressed by the compression unit on the recording medium. 前記第二の解像度のRAW画像データに基づいて、表示手段にライブビュー画像を表示するように制御するライブビュー表示制御手段を有することを特徴とする請求項1〜3のいずれか1項に記載の撮像装置。   4. A live view display control unit that controls a display unit to display a live view image based on the RAW image data of the second resolution. Imaging device. 前記第二の解像度のRAW画像データに基づいて、表示手段にライブビュー画像を表示するように制御するライブビュー表示制御手段と、
撮影指示に応じて、前記撮像手段により撮影して得られた前記第一の解像度のRAW画像データを前記圧縮手段により圧縮し、前記圧縮された前記第一の解像度のRAW画像データを前記記録手段により前記記録媒体に記録するように制御する撮影制御手段とを有し、
前記第一の残量推定手段は、前記撮影指示を受け付ける前に、前記表示手段にライブビュー画像を表示するために生成された前記第二の解像度のRAW画像データを、前記圧縮手段により圧縮された圧縮結果に基づいて、前記記録媒体に記録可能な圧縮された前記第一の解像度のRAW画像データの枚数または記録時間を推定することを特徴とする請求項3に記載の撮像装置。
A live view display control unit that controls a display unit to display a live view image based on the RAW image data of the second resolution;
In response to a shooting instruction, the first resolution raw image data obtained by shooting by the imaging means is compressed by the compression means, and the compressed raw image data of the first resolution is stored in the recording means. Imaging control means for controlling to record on the recording medium by,
The first remaining amount estimating unit compresses the RAW image data of the second resolution generated for displaying a live view image on the display unit by the compression unit before accepting the shooting instruction. 4. The imaging apparatus according to claim 3, wherein a number or a recording time of the compressed RAW image data of the first resolution that can be recorded on the recording medium is estimated based on the compression result.
前記圧縮手段は、同じ圧縮方式により、前記第一の解像度のRAW画像データ、または、前記第二の解像度のRAW画像データを圧縮することを特徴とする請求項1〜5のいずれか1項に記載の撮像装置。   The method according to claim 1, wherein the compression unit compresses the RAW image data of the first resolution or the RAW image data of the second resolution by the same compression method. An imaging device according to any one of the preceding claims. 前記圧縮手段は、フレーム間圧縮方式ではない圧縮方式を用いて、前記第一の解像度のRAW画像データ、または、前記第二の解像度のRAW画像データを圧縮することを特徴とする請求項1〜6のいずれか1項に記載の撮像装置。   The said compression means compresses the RAW image data of the first resolution or the RAW image data of the second resolution using a compression method other than the inter-frame compression method. 7. The imaging device according to any one of 6. 前記撮像手段によりRAW画像データを連写撮影するRAW連写撮影モードと、前記撮像手段によりRAW画像データを1枚撮影するRAW撮影モードとを有し、
前記RAW連写撮影モードの場合は、前記第一の残量推定手段により推定された枚数または記録時間を表示手段に表示するように制御し、前記RAW撮影モードの場合は、前記第一の残量推定手段による推定は行わない、または、前記第一の残量推定手段により推定された枚数または記録時間を前記表示手段に表示しないように制御する制御手段を有することを特徴とする請求項1〜7のいずれか1項に記載の撮像装置。
A RAW continuous shooting mode for continuously shooting RAW image data by the imaging unit; and a RAW shooting mode for shooting one RAW image data by the imaging unit.
In the case of the RAW continuous shooting mode, control is performed so that the number of sheets or the recording time estimated by the first remaining amount estimating means is displayed on the display means. 2. The control device according to claim 1, further comprising control means for not performing estimation by the quantity estimating means, or controlling not to display the number of sheets or the recording time estimated by the first remaining amount estimating means on the display means. The imaging device according to any one of claims 1 to 7.
前記撮像手段によりRAW画像データを連写撮影するRAW連写撮影モードと、前記RAW連写撮影モードよりも高速でRAW画像データを連続撮影するRAW高速連写撮影モードとを有し、
前記RAW高速連写撮影モードの場合は、前記第一の残量推定手段により推定された枚数または記録時間を表示手段に表示するように制御し、前記RAW連写撮影モードの場合は、前記第一の残量推定手段による推定は行わない、または、記第一の残量推定手段により推定された枚数または記録時間を前記表示手段に表示しないように制御する制御手段を有することを特徴とする請求項1〜7のいずれか1項に記載の撮像装置。
A RAW continuous shooting mode for continuously shooting RAW image data by the imaging unit; and a RAW high-speed continuous shooting mode for continuously shooting RAW image data at a higher speed than the RAW continuous shooting mode.
In the case of the RAW high-speed continuous shooting mode, control is performed so that the number of images or the recording time estimated by the first remaining amount estimating means is displayed on the display means. It is characterized by having control means for controlling not to perform the estimation by the remaining amount estimating means, or not to display the number of sheets or the recording time estimated by the first remaining amount estimating means on the display means. The imaging device according to claim 1.
前記記録媒体の空き容量と予め決められたデータサイズとに基づいて、前記記録媒体に記録可能な圧縮された前記第一の解像度のRAW画像データの枚数または記録時間を推定する第二の残量推定手段と、
前記記録媒体の空き容量に応じて、前記第一の残量推定手段と第二の残量推定手段のうち、どちらかで推定された前記記録媒体に記録可能な圧縮された前記第一の解像度のRAW画像データの枚数または記録時間を、前記記録媒体の残量として出力するかを切り替える制御手段と、を有することを特徴とする請求項1〜9のいずれか1項に記載の撮像装置。
A second remaining amount for estimating the number or recording time of the compressed first-resolution RAW image data recordable on the recording medium based on the free space of the recording medium and a predetermined data size; Estimating means;
The compressed first resolution recordable on the recording medium estimated by one of the first remaining amount estimating unit and the second remaining amount estimating unit according to the free space of the recording medium. 10. The imaging apparatus according to claim 1, further comprising: control means for switching whether to output the number or recording time of the RAW image data as the remaining amount of the recording medium.
前記記録媒体の空き容量と撮影パラメータとに基づいて、前記記録媒体に記録可能な圧縮された前記第一の解像度のRAW画像データの枚数または記録時間を推定する第二の残量推定手段と、
前記記録媒体の空き容量に応じて、前記第一の残量推定手段と第二の残量推定手段のうち、どちらかで推定された前記記録媒体に記録可能な圧縮された前記第一の解像度のRAW画像データの枚数または記録時間を、前記記録媒体の残量として出力するかを切り替える制御手段と、を有することを特徴とする請求項1〜9のいずれか1項に記載の撮像装置。
Second remaining amount estimating means for estimating the number or recording time of the compressed first resolution RAW image data recordable on the recording medium, based on the free space of the recording medium and the shooting parameters;
The compressed first resolution recordable on the recording medium estimated by one of the first remaining amount estimating unit and the second remaining amount estimating unit according to the free space of the recording medium. 10. The imaging apparatus according to claim 1, further comprising: control means for switching whether to output the number or recording time of the RAW image data as the remaining amount of the recording medium.
前記撮影パラメータは、画像サイズであることを特徴とする請求項11に記載の撮像装置。   The imaging apparatus according to claim 11, wherein the shooting parameter is an image size. 前記制御手段は、前記記録媒体の空き容量が所定の容量よりも大きい場合には、前記第二の推定手段により推定された枚数または記録時間を前記記録媒体の残量として出力し、前記記録媒体の空き容量が前記所定の容量より小さい場合は、前記第一の推定手段により推定された枚数または記録時間を前記記録媒体の残量として出力するように制御することを特徴とする請求項10〜12のいずれか1項に記載の撮像装置。   When the free space of the recording medium is larger than a predetermined capacity, the control unit outputs the number of sheets or the recording time estimated by the second estimating unit as the remaining amount of the recording medium. 11. If the free space of the recording medium is smaller than the predetermined capacity, control is performed so as to output the number of sheets or the recording time estimated by the first estimating means as the remaining amount of the recording medium. The imaging device according to any one of claims 12 to 12. 前記制御手段は、前記第二の推定手段により推定された枚数または記録時間よりも、前記第一の推定手段により推定された枚数または記録時間の方が大きい場合は、前記記録媒体の空き容量が前記所定の容量より小さい場合であっても、記第二の推定手段により推定された枚数または記録時間を前記記録媒体の残量として出力するように制御することを特徴とする請求項13に記載の撮像装置。   When the number of sheets or the recording time estimated by the first estimating means is larger than the number of sheets or the recording time estimated by the second estimating means, the free space of the recording medium is reduced. 14. The apparatus according to claim 13, wherein even if the capacity is smaller than the predetermined capacity, the number of sheets or the recording time estimated by the second estimating means is controlled to be output as the remaining amount of the recording medium. Imaging device. 撮像手段により撮影して得られた第一の解像度のRAW画像データ、または、前記撮像手段により撮影して得られた前記第一の解像度より低解像度の第二の解像度のRAW画像データを圧縮する圧縮ステップと、
前記圧縮ステップによる前記第二の解像度のRAW画像データの圧縮結果に基づいて、前記圧縮ステップによる前記第一の解像度のRAW画像データの圧縮後のデータサイズを推定し、記録媒体の空き容量と前記推定されたデータサイズとに基づいて、前記記録媒体に記録可能な圧縮された前記第一の解像度のRAW画像データの枚数または記録時間を推定する第一の残量推定ステップと、を有することを特徴とする撮像装置の制御方法。
RAW image data of the first resolution obtained by imaging by the imaging unit or RAW image data of the second resolution lower than the first resolution obtained by imaging by the imaging unit is compressed. A compression step;
Estimating the compressed data size of the first resolution RAW image data by the compression step based on the compression result of the second resolution RAW image data by the compression step, A first remaining amount estimating step of estimating the number or recording time of the compressed first-resolution RAW image data recordable on the recording medium based on the estimated data size. A method for controlling an imaging device, which is a feature of the present invention.
JP2018131467A 2018-07-11 2018-07-11 Imaging apparatus and control method for imaging apparatus Pending JP2020010244A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018131467A JP2020010244A (en) 2018-07-11 2018-07-11 Imaging apparatus and control method for imaging apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018131467A JP2020010244A (en) 2018-07-11 2018-07-11 Imaging apparatus and control method for imaging apparatus

Publications (1)

Publication Number Publication Date
JP2020010244A true JP2020010244A (en) 2020-01-16

Family

ID=69152366

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018131467A Pending JP2020010244A (en) 2018-07-11 2018-07-11 Imaging apparatus and control method for imaging apparatus

Country Status (1)

Country Link
JP (1) JP2020010244A (en)

Similar Documents

Publication Publication Date Title
JP6472253B2 (en) Image processing apparatus and control method thereof
EP2974285B1 (en) Image processing apparatus and image processing method
US9723169B2 (en) Imaging apparatus and imaging apparatus control method
US20150334296A1 (en) Image capturing apparatus, control method of image capturing apparatus, and image processing method
US9396756B2 (en) Image processing apparatus and control method thereof
JP2016063251A (en) Image processing device and image processing method
JP6278712B2 (en) Imaging apparatus and control method thereof
JP2017224939A (en) Imaging apparatus
JP6741532B2 (en) Imaging device and recording method
JP6245819B2 (en) Image processing apparatus and image processing method
US9955135B2 (en) Image processing apparatus, image processing method, and program wherein a RAW image to be subjected to special processing is preferentially subjected to development
JP2016005103A (en) Imaging apparatus and control method therefor
JP2020010244A (en) Imaging apparatus and control method for imaging apparatus
JP6327939B2 (en) IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
JP2015119403A (en) Image recording apparatus, image recording method, program, and imaging apparatus
JP6452362B2 (en) Imaging apparatus and imaging method
JP6192319B2 (en) Image processing apparatus and image processing method
JP2018207424A (en) Information transfer device
JP6245818B2 (en) IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
JP2017135681A (en) Imaging apparatus and method of controlling the same
JP2016063252A (en) Image processing device and image processing method
JP2019110367A (en) Imaging device
JP2014179851A (en) Imaging apparatus and control method of the same
JP2016063254A (en) Imaging apparatus an imaging method