JP2010062905A - Imaging device and program - Google Patents

Imaging device and program Download PDF

Info

Publication number
JP2010062905A
JP2010062905A JP2008226890A JP2008226890A JP2010062905A JP 2010062905 A JP2010062905 A JP 2010062905A JP 2008226890 A JP2008226890 A JP 2008226890A JP 2008226890 A JP2008226890 A JP 2008226890A JP 2010062905 A JP2010062905 A JP 2010062905A
Authority
JP
Japan
Prior art keywords
image
unit
still image
recording
resolution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008226890A
Other languages
Japanese (ja)
Other versions
JP2010062905A5 (en
JP5211947B2 (en
Inventor
Atsushi Muraki
淳 村木
Kimiyasu Mizuno
公靖 水野
Koki Dobashi
孝基 土橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2008226890A priority Critical patent/JP5211947B2/en
Publication of JP2010062905A publication Critical patent/JP2010062905A/en
Publication of JP2010062905A5 publication Critical patent/JP2010062905A5/ja
Application granted granted Critical
Publication of JP5211947B2 publication Critical patent/JP5211947B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To acquire a still image with less blurring when recording a moving image. <P>SOLUTION: The imaging device 100 includes: a resolution conversion part 8 configured to sequentially generate image frames of low resolution relative to resolution of a still image by being related to each of a plurality of image frames generated by an electronic imaging part 2; a control part 16 configured to detect an image blurring amount in each of the plurality of image frames constituting a moving image, and identifying an image frame having the smallest image blurring amount among the plurality of image frames based on the detection result; and a recording medium 13 for recording a moving image comprising the generated low-resolution image frames, and the identified image frame as a still image. <P>COPYRIGHT: (C)2010,JPO&INPIT

Description

本発明は、動画像及び静止画像を撮影する撮像装置及びプログラムに関する。   The present invention relates to an imaging apparatus and a program for capturing a moving image and a still image.

従来、一のシーンに係る動画像や静止画像を撮影するデジタルカメラが知られている(例えば、特許文献1参照)。このデジタルカメラは、低解像度の動画の中に一定間隔ごとに高解像度の画像が混在した一つのストリームを記録しておき、一の静止画像を表示する際に、当該静止画像のフレームが高解像度のものであれば、その高解像度の画像を表示し、低解像度のものであれば、前後の画像から高解像度の画像を生成して表示する。   Conventionally, a digital camera that captures a moving image or a still image related to one scene is known (see, for example, Patent Document 1). This digital camera records one stream in which high resolution images are mixed at regular intervals in a low resolution video, and when displaying a single still image, the frame of the still image has a high resolution. If it is, the high-resolution image is displayed, and if it is low-resolution, a high-resolution image is generated from the previous and subsequent images and displayed.

ところで、動画像の撮影の際には、動画再生時のなめらかさを実現するため、露光時間をできる限り長くする一方で、静止画の撮影の際には、画像ぶれの発生を防ぐために露光時間を短めに設定するのが好ましい。そこで、「ぶれ軽減」機能を具備するカメラにあっては、動画像の記録中に静止画像として記録される画像フレームだけ露光時間を短くして記録するという方法が開発されている。
特開2006−2114261号公報
By the way, when shooting moving images, the exposure time is set to be as long as possible in order to achieve smoothness during video playback, while when shooting still images, the exposure time is set to prevent image blurring. Is preferably set shorter. Therefore, in a camera having a “blur reduction” function, a method has been developed in which an exposure time is shortened for an image frame recorded as a still image during recording of a moving image.
JP 2006-214261 A

しかしながら、静止画像として記録される画像フレームだけ露光時問を短めにして記録すると、動画再生の際に、当該静止画像に係る画像フレームだけ露光時間が異なるため、動画品質としての連続性が損なわれるという問題があった。   However, if only the image frame recorded as a still image is recorded with a shorter exposure time, the exposure time is different for the image frame related to the still image at the time of moving image reproduction, so the continuity as the moving image quality is impaired. There was a problem.

そこで、本発明の課題は、動画像の記録の際に、ぶれの少ない静止画像を取得することができる撮像装置及びプログラムを提供することである。   Accordingly, an object of the present invention is to provide an imaging apparatus and a program that can acquire a still image with less blurring when recording a moving image.

上記課題を解決するため、請求項1に記載の発明の撮像装置は、
被写体を所定のフレームレートで撮像して第1解像度の複数の画像フレームを逐次生成する撮像制御手段と、前記撮像制御手段により生成された前記複数の画像フレームの各々に対応させて前記第1解像度よりも低解像度の第2解像度の画像フレームを逐次生成する低解像度画像生成手段と、前記低解像度画像生成手段により生成された前記第2解像度の画像フレームからなる動画像を記録する動画記録手段と、前記動画記録手段による動画像の記録動作中に前記撮像制御手段により生成された前記複数の画像フレームの各々における画像ぶれ量を検出するぶれ量検出手段と、前記ぶれ量検出手段の検出結果に基づいて、前記撮像制御手段により生成された前記複数の画像フレームのうち、前記画像ぶれ量が最も少ない画像フレームを特定する特定手段と、前記特定手段により特定された前記画像フレームを前記第2解像度よりも高解像度の静止画像として記録する静止画記録手段と、を備えることを特徴としている。
In order to solve the above problem, an imaging apparatus according to claim 1 is provided.
An imaging control unit that sequentially captures a subject at a predetermined frame rate and sequentially generates a plurality of first resolution image frames, and the first resolution corresponding to each of the plurality of image frames generated by the imaging control unit. A low-resolution image generating unit that sequentially generates a second-resolution image frame having a lower resolution than the moving-image recording unit that records a moving image including the second-resolution image frame generated by the low-resolution image generating unit; The blur amount detecting means for detecting the amount of image blur in each of the plurality of image frames generated by the imaging control means during the moving image recording operation by the moving image recording means, and the detection result of the blur amount detecting means Based on the image frame, the image frame having the smallest image blur amount is identified from the plurality of image frames generated by the imaging control unit. A specifying unit, it is characterized by and a still image recording means for recording a high-resolution still images than the image frame specified the second resolution by the specifying means.

請求項2に記載の発明は、請求項1に記載の撮像装置において、
前記撮像制御手段は、前記動画記録手段による動画像の記録動作中において、撮像素子による露光時間を所定の第1露光時間に設定し、前記動画記録手段と前記静止画記録手段の両方が、前記第1露光時間で撮像して得られた画像フレームを記録することを特徴としている。
The invention according to claim 2 is the imaging apparatus according to claim 1,
The imaging control unit sets an exposure time by the imaging element to a predetermined first exposure time during a moving image recording operation by the moving image recording unit, and both the moving image recording unit and the still image recording unit An image frame obtained by imaging in the first exposure time is recorded.

請求項3に記載の発明は、請求項2に記載の撮像装置において、
前記静止画記録手段は、前記動画記録手段による動画像の記録動作中に静止画像の記録が指示された場合は、前記特定手段により特定された画像ぶれ量が最も少ない画像フレームを静止画像として記録し、一方、前記動画記録手段による動画像の記録動作中ではないときに静止画像の記録が指示された場合は、画像ぶれ量とは関係無く、この静止画像記録の指示タイミングに基づいて決定された画像フレームを静止画像として記録することを特徴としている。
The invention according to claim 3 is the imaging apparatus according to claim 2,
When still image recording is instructed during the moving image recording operation by the moving image recording unit, the still image recording unit records an image frame with the smallest image blur amount specified by the specifying unit as a still image. On the other hand, if recording of a still image is instructed when the moving image recording unit is not recording a moving image, it is determined based on this still image recording instruction timing regardless of the amount of image blurring. The image frame is recorded as a still image.

請求項4に記載の発明は、請求項3に記載の撮像装置において、
前記撮像制御手段は、前記動画記録手段による動画像の記録動作中ではないときに静止画像の記録が指示された場合は、撮像素子による露光時間を前記第1露光時間よりも短い第2露光時間に設定し、前記静止画記録手段は、前記動画記録手段による動画像の記録動作中ではないときに静止画像の記録が指示された場合は、前記第2露光時間で撮像して得られた画像フレームを記録することを特徴としている。
The invention according to claim 4 is the imaging apparatus according to claim 3,
When the recording control unit is instructed to record a still image when the moving image recording unit is not recording a moving image, the imaging control unit sets a second exposure time shorter than the first exposure time. The still image recording means is an image obtained by taking an image during the second exposure time when the recording of a still image is instructed when the moving image recording means is not recording a moving image. It is characterized by recording a frame.

請求項5に記載の発明は、請求項1〜4の何れか一項に記載の撮像装置において、
前記撮像制御手段は、撮像素子を露光させることにより被写体の撮像を行い、前記撮像素子が露光される露光時間を、前記動画記録手段により動画像を記録する場合には所定の第1露光時間に設定し、且つ、前記静止画記録手段により静止画像を記録する場合には前記第1露光時間よりも短い第2露光時間に設定し、且つ、前記動画記録手段により動画像を記録中に前記静止画記録手段により静止画像を記録する場合には前記第1露光時間に設定する露光時間設定手段を備えることを特徴としている。
Invention of Claim 5 is an imaging device as described in any one of Claims 1-4,
The imaging control unit images the subject by exposing the imaging device, and sets an exposure time during which the imaging device is exposed to a predetermined first exposure time when a moving image is recorded by the moving image recording unit. When a still image is recorded by the still image recording means, a second exposure time shorter than the first exposure time is set, and the moving image recording means records the still image while recording a moving image. When a still image is recorded by the image recording means, an exposure time setting means for setting the first exposure time is provided.

請求項6に記載の発明は、請求項1〜5の何れか一項に記載の撮像装置において、
前記ぶれ量検出手段は、撮像装置本体の角速度を検出して所定の検出信号を出力する角速度検出手段を備え、前記角速度検出手段から出力された前記所定の検出信号に基づいて、前記撮像制御手段により生成された前記複数の画像フレームの各々における画像ぶれ量を検出することを特徴としている。
Invention of Claim 6 is an imaging device as described in any one of Claims 1-5,
The shake amount detection means includes angular velocity detection means for detecting an angular velocity of the imaging apparatus main body and outputting a predetermined detection signal, and based on the predetermined detection signal output from the angular velocity detection means, the imaging control means The amount of image blur in each of the plurality of image frames generated by the above is detected.

請求項7に記載の発明は、請求項1〜5の何れか一項に記載の撮像装置において、
前記ぶれ量検出手段は、前記撮像制御手段により生成された前記複数の画像フレームの各々における高周波成分を算出する高周波成分算出手段を備え、前記高周波成分算出手段により算出された前記高周波成分に基づいて、前記複数の画像フレームの各々における画像ぶれ量を検出することを特徴としている。
The invention according to claim 7 is the imaging apparatus according to any one of claims 1 to 5,
The blur amount detecting means includes high frequency component calculating means for calculating a high frequency component in each of the plurality of image frames generated by the imaging control means, and based on the high frequency component calculated by the high frequency component calculating means. The image blur amount in each of the plurality of image frames is detected.

請求項8に記載の発明は、請求項1〜5の何れか一項に記載の撮像装置において、
前記ぶれ量検出手段は、撮像装置本体の角速度を検出して所定の検出信号を出力する角速度検出手段と、前記撮像制御手段により生成された前記複数の画像フレームの各々における高周波成分を算出する高周波成分算出手段と、を備え、前記角速度検出手段から出力された前記所定の検出信号及び前記高周波成分算出手段により算出された前記高周波成分に基づいて、前記複数の画像フレームの各々における画像ぶれ量を検出することを特徴としている。
The invention according to claim 8 is the imaging apparatus according to any one of claims 1 to 5,
The blur amount detecting means detects an angular velocity of the imaging apparatus main body and outputs a predetermined detection signal, and a high frequency component that calculates a high frequency component in each of the plurality of image frames generated by the imaging control means. Component calculation means, and based on the predetermined detection signal output from the angular velocity detection means and the high frequency component calculated by the high frequency component calculation means, an image blur amount in each of the plurality of image frames is calculated. It is characterized by detecting.

請求項9に記載の発明は、請求項1〜8の何れか一項に記載の撮像装置において、
前記動画記録手段による前記動画像の記録動作中に、前記静止画記録手段による前記静止画像の記録を指示する静止画記録指示手段を備え、前記ぶれ量検出手段は、前記静止画記録指示手段による前記静止画像の記録の指示に基づいて、前記撮像制御手段により生成された前記複数の画像フレームの各々における画像ぶれ量を検出することを特徴としている。
The invention according to claim 9 is the imaging apparatus according to any one of claims 1 to 8,
During the moving image recording operation by the moving image recording unit, the moving image recording unit includes a still image recording instruction unit for instructing recording of the still image by the still image recording unit, and the blur amount detecting unit is configured by the still image recording instruction unit. The image blur amount in each of the plurality of image frames generated by the imaging control unit is detected based on an instruction to record the still image.

請求項10に記載の発明は、請求項9に記載の撮像装置において、
前記撮像制御手段は、前記静止画記録指示手段による前記静止画像の記録の指示に応じて、当該指示前よりも高速のフレームレートで被写体を撮像して前記複数の画像フレームを生成することを特徴としている。
The invention according to claim 10 is the imaging apparatus according to claim 9,
The imaging control unit is configured to generate the plurality of image frames by imaging a subject at a higher frame rate than before the instruction in response to an instruction to record the still image by the still image recording instruction unit. It is said.

請求項11に記載の発明は、請求項1〜10の何れか一項に記載の撮像装置において、
前記撮像制御手段により生成された前記複数の画像フレームを一時的に記憶する一時記憶手段を備え、前記ぶれ量検出手段および前記特定手段は、前記一時記憶手段により記憶されている複数の画像フレームに基づいて前記画像ぶれ量の検出および前記画像ぶれ量が最も少ない画像フレームの特定を行うことを特徴としている。
The invention according to claim 11 is the imaging apparatus according to any one of claims 1 to 10,
Temporary storage means for temporarily storing the plurality of image frames generated by the imaging control means, and the blur amount detection means and the specifying means are connected to the plurality of image frames stored by the temporary storage means. Based on this, the image blur amount is detected and the image frame with the smallest image blur amount is identified.

請求項12に記載の発明は、請求項11に記載の撮像装置において、
前記一時記憶手段は、前記静止画記録手段による前記静止画像の記録が行われない場合、又は、前記静止画記録手段による前記静止画像の記録後に、一時的に記憶されている当該静止画像に係る前記画像フレーム以外の画像フレームを破棄することを特徴としている。
The invention according to claim 12 is the imaging apparatus according to claim 11,
The temporary storage unit relates to the still image temporarily stored when the still image recording unit does not record the still image or after the still image recording unit records the still image. An image frame other than the image frame is discarded.

請求項13に記載の発明は、請求項1〜12の何れか一項に記載の撮像装置において、
前記撮像制御手段により生成された前記複数の画像フレームに基づいて、被写体画像を表示する表示手段と、前記撮像制御手段により生成された前記複数の画像フレームの各々に対応させて前記第1解像度よりも低解像度、且つ、前記第2解像度よりも高解像度である第3解像度の画像フレームを逐次生成する中解像度画像生成手段と、前記中解像度画像生成手段により生成された前記第3解像度の画像フレームの各々に対応させて前記表示部による前記被写体画像の表示用の第4解像度の画像フレームを生成する表示解像度画像生成手段と、を備え、前記低解像度画像生成手段は、前記中解像度画像生成手段により生成された前記第3解像度の画像フレームの各々に対応させて前記第2解像度の画像フレームを生成することを特徴としている。
Invention of Claim 13 in the imaging device as described in any one of Claims 1-12,
Based on the plurality of image frames generated by the imaging control unit, display means for displaying a subject image, and the first resolution corresponding to each of the plurality of image frames generated by the imaging control unit. Medium resolution image generation means for sequentially generating a third resolution image frame having a lower resolution and higher resolution than the second resolution, and the third resolution image frame generated by the medium resolution image generation means Display resolution image generation means for generating a fourth resolution image frame for displaying the subject image by the display unit in correspondence with each of the display resolution image generation means, the low resolution image generation means, the medium resolution image generation means Generating the second resolution image frame in correspondence with each of the third resolution image frames generated by .

請求項14に記載の発明のプログラムは、
被写体を所定のフレームレートで撮像して第1解像度の複数の画像フレームを逐次生成する撮像制御手段を備える撮像装置のコンピュータを、前記撮像制御手段により生成された前記複数の画像フレームの各々に対応させて前記第1解像度よりも低解像度の第2解像度の画像フレームを逐次生成する低解像度画像生成手段、前記低解像度画像生成手段により生成された前記第2解像度の画像フレームからなる動画像を記録する動画記録手段、前記動画記録手段による動画像の記録動作中に前記撮像制御手段により生成された前記複数の画像フレームの各々における画像ぶれ量を検出するぶれ量検出手段、前記ぶれ量検出手段の検出結果に基づいて、前記撮像制御手段により生成された前記複数の画像フレームのうち、前記画像ぶれ量が最も少ない画像フレームを特定する特定手段、前記特定手段により特定された前記画像フレームを前記第2解像度よりも高解像度の静止画像として記録する静止画記録手段、として機能させることを特徴としている。
The program of the invention according to claim 14 is:
A computer of an imaging apparatus including an imaging control unit that sequentially captures a subject at a predetermined frame rate and sequentially generates a plurality of first-resolution image frames corresponds to each of the plurality of image frames generated by the imaging control unit. A low-resolution image generation unit that sequentially generates a second-resolution image frame having a lower resolution than the first resolution, and a moving image including the second-resolution image frame generated by the low-resolution image generation unit is recorded. Moving image recording means, a blur amount detecting means for detecting an image blur amount in each of the plurality of image frames generated by the imaging control means during a moving image recording operation by the moving image recording means, and a blur amount detecting means Based on the detection result, the image blur amount is the smallest among the plurality of image frames generated by the imaging control means. Specifying means for specifying the image frame have, is characterized in that to function the image frame specified as a still image recording means, for recording a high-resolution still images than the second resolution by the specifying means.

本発明によれば、滑らかな動画像を取得することができるとともに、ぶれの少ない静止画像を取得することができる。   According to the present invention, a smooth moving image can be acquired, and a still image with less blur can be acquired.

以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。   Hereinafter, specific embodiments of the present invention will be described with reference to the drawings. However, the scope of the invention is not limited to the illustrated examples.

[実施形態1]
図1は、本発明を適用した実施形態1の撮像装置100の概略構成を示すブロック図である。
実施形態1の撮像装置100は、ジャイロモジュールから出力されたジャイロデータに基づいて画像ぶれ量を検出して、ぶれの少ない静止画像を取得する。
具体的には、図1に示すように、撮像装置100は、撮像レンズ1、電子撮像部2、前処理部3、ベイヤ縮小部4、AF検波部5、ジャイロモジュール6、画像生成部7、解像度変換部8、CODEC9、表示制御部10、表示部11、記録媒体制御部12、記録媒体13、操作入力部14、メモリ15、制御部16を備えて構成されている。
[Embodiment 1]
FIG. 1 is a block diagram illustrating a schematic configuration of an imaging apparatus 100 according to the first embodiment to which the present invention is applied.
The imaging apparatus 100 according to the first embodiment detects an image blur amount based on the gyro data output from the gyro module, and acquires a still image with less blur.
Specifically, as illustrated in FIG. 1, the imaging device 100 includes an imaging lens 1, an electronic imaging unit 2, a preprocessing unit 3, a Bayer reduction unit 4, an AF detection unit 5, a gyro module 6, an image generation unit 7, A resolution conversion unit 8, a CODEC 9, a display control unit 10, a display unit 11, a recording medium control unit 12, a recording medium 13, an operation input unit 14, a memory 15, and a control unit 16 are provided.

電子撮像部2は、撮像レンズ1を通過した被写体像を二次元の画像信号に変換するCCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等の撮像素子を備えている。具体的には、電子撮像部2は、撮像制御部(撮像制御手段;図示略)の制御下にて、所定のフレームレート(例えば、30fps)に応じた露光時間で被写体を撮像して、例えば、77Mpix(3200×2400画素)の撮像領域から所定解像度の画像信号を所定のフレームレートで逐次読み出して、前処理部3に出力する。
ここで、撮像レンズ1及び電子撮像部2は、撮像手段として、被写体を所定のフレームレートで連続して撮像して所定解像度(第1解像度)の複数の画像フレームを逐次生成する。
The electronic imaging unit 2 includes an imaging element such as a CCD (Charge Coupled Device) or a CMOS (Complementary Metal-oxide Semiconductor) that converts a subject image that has passed through the imaging lens 1 into a two-dimensional image signal. Specifically, the electronic imaging unit 2 images a subject with an exposure time corresponding to a predetermined frame rate (for example, 30 fps) under the control of an imaging control unit (imaging control unit; not shown). , 77 Mpix (3200 × 2400 pixels) image signals of a predetermined resolution are sequentially read out at a predetermined frame rate and output to the preprocessing unit 3.
Here, the imaging lens 1 and the electronic imaging unit 2 sequentially generate a plurality of image frames with a predetermined resolution (first resolution) by continuously imaging a subject at a predetermined frame rate as an imaging unit.

また、電子撮像部2の撮像制御部は、制御部16の制御下にて、撮像素子が露光される露光時間を、動画像を記録する場合及び動画像を記録中に静止画像を記録する場合には、所定の第1露光時間に設定する一方で、動画像の記録中ではないときに静止画像を記録する場合には、第1露光時間よりも短い第2露光時間に設定する。また、動画像を記録する場合には、第1フレームレートに設定し、この動画像の記録中に静止画像を記録する場合には、一時的に第1フレームレートよりも高速の第2フレームレートに設定する動作も行う。
ここで、電子撮像部2の撮像制御部及び制御部16は、露光時間設定手段として機能する。
The imaging control unit of the electronic imaging unit 2 records the exposure time during which the imaging element is exposed under the control of the control unit 16 when recording a moving image and when recording a still image while recording a moving image. When a still image is recorded when a moving image is not being recorded, the second exposure time is set shorter than the first exposure time. When recording a moving image, the first frame rate is set. When a still image is recorded during recording of the moving image, the second frame rate is temporarily higher than the first frame rate. The operation set to is also performed.
Here, the imaging control unit and the control unit 16 of the electronic imaging unit 2 function as an exposure time setting unit.

前処理部3は、電子撮像部2と同期して動作するものであり、電子撮像部2から出力されて入力された電気信号に対して基本的な信号処理を行い、補間処理前の最終データとなるベイヤデータを生成してメモリ15に出力する。
また、前処理部3は、モニタリング処理の際に、ベイヤデータを直接メモリ15に出力しないようになっている。具体的には、前処理部3は、電子撮像部2から出力されて入力された電気信号に対して各種処理を行ってベイヤデータをベイヤ縮小部4に出力する。また、前処理部3は、電子撮像部2から出力されて入力された電気信号に対して各種処理を行って、輝度信号に相当するAF検波用信号を生成して、AF検波部5に出力する。
なお、前処理部3は、黒レベル調整、キズ補正を行っても良い。
The preprocessing unit 3 operates in synchronism with the electronic imaging unit 2, performs basic signal processing on the electric signal output from the electronic imaging unit 2 and inputs the final data before interpolation processing. Is generated and output to the memory 15.
Further, the preprocessing unit 3 is configured not to output the Bayer data directly to the memory 15 during the monitoring process. Specifically, the preprocessing unit 3 performs various processes on the electrical signal output from the electronic imaging unit 2 and outputs the Bayer data to the Bayer reduction unit 4. In addition, the preprocessing unit 3 performs various processes on the electric signal output from the electronic imaging unit 2 and generates an AF detection signal corresponding to the luminance signal and outputs the AF detection signal to the AF detection unit 5. To do.
Note that the preprocessing unit 3 may perform black level adjustment and defect correction.

ベイヤ縮小部4は、前処理部3にて生成されたベイヤデータを所定の比率で縮小したベイヤデータを生成し、メモリ15に出力する。例えば、ベイヤ縮小部4は、モニタリング処理の際に、3200×2400画素のベイヤデータに対して、水平及び垂直ともに1/4になるような縮小処理を行って、800×600画素の中間解像度の縮小ベイヤデータを生成して、メモリ15に出力する。
ここで、ベイヤ縮小部4は、電子撮像部2により生成された複数の画像フレームの各々に対応させて、静止画記録用の第1解像度よりも低解像度、且つ、動画記録用の第2解像度よりも高解像度である中間解像度(第3解像度)の画像フレームを逐次生成する中解像度画像生成手段を構成している。
The Bayer reduction unit 4 generates Bayer data obtained by reducing the Bayer data generated by the preprocessing unit 3 at a predetermined ratio, and outputs the Bayer data to the memory 15. For example, during the monitoring process, the Bayer reduction unit 4 reduces the intermediate resolution of 800 × 600 pixels by performing a reduction process that reduces the horizontal and vertical to 1/4 for 3200 × 2400 pixel Bayer data. Bayer data is generated and output to the memory 15.
Here, the Bayer reduction unit 4 corresponds to each of the plurality of image frames generated by the electronic imaging unit 2 and has a lower resolution than the first resolution for still image recording and the second resolution for moving image recording. The intermediate-resolution image generating means for sequentially generating image frames of intermediate resolution (third resolution), which is higher resolution than that, is configured.

AF検波部5は、前処理部3とフレーム単位に同期して動作するものであり、前処理部3から出力されて入力されたAF検波用信号を用いてAF検波を行う。具体的には、AF検波部5は、AF検波用信号に対して水平方向にハイパスフィルタ及びバンドパスフィルタをかけ、そのフィルタ出力の絶対値を所定の画像領域ごとに積分したものをAF検波データとしてメモリ15に出力する。   The AF detection unit 5 operates in synchronism with the preprocessing unit 3 in units of frames, and performs AF detection using the AF detection signal output from the preprocessing unit 3 and input. Specifically, the AF detection unit 5 applies a high-pass filter and a band-pass filter to the AF detection signal in the horizontal direction, and integrates the absolute value of the filter output for each predetermined image area to generate AF detection data. To the memory 15.

ジャイロモジュール6は、電子撮像部2、前処理部3とフレーム単位で同期して動作する。また、ジャイロモジュール6は、角速度検出手段として、被写体の撮影の際に、撮像装置本体の上下方向及び左右方向の軸周りの回転の角速度を検出するものである。具体的には、ジャイロモジュール6は、ジャイロ検出部61から出力された電気信号をA/D変換部62にてA/D変換した後、積分処理部63にて所定の期間(例えば、フレーム期間の1/8)毎に積分して、その結果をジャイロデータとしてメモリ15に出力する。即ち、ジャイロモジュール6は、被写体の撮影の際に、撮像装置本体の回転方向及び回転量を画像ぶれ量として検出する。   The gyro module 6 operates in synchronization with the electronic imaging unit 2 and the preprocessing unit 3 in units of frames. The gyro module 6 serves as an angular velocity detection means for detecting angular velocities of rotation about the vertical and horizontal axes of the imaging apparatus body when photographing a subject. Specifically, the gyro module 6 performs A / D conversion on the electrical signal output from the gyro detection unit 61 by the A / D conversion unit 62, and then performs a predetermined period (for example, a frame period) in the integration processing unit 63. Are integrated every 1/8), and the result is output to the memory 15 as gyro data. In other words, the gyro module 6 detects the rotation direction and the rotation amount of the image pickup apparatus main body as the image blur amount when photographing the subject.

画像生成部7は、メモリ15に格納されたベイヤデータを取得して、当該ベイヤデータに対して補間処理や画質調整処理等を行って、画像データ(以下、YUVデータ)を生成した後、メモリ15に格納する。   The image generation unit 7 acquires Bayer data stored in the memory 15, performs interpolation processing, image quality adjustment processing, and the like on the Bayer data to generate image data (hereinafter, YUV data), and then stores the data in the memory 15. Store.

解像度変換部8は、メモリ15に格納されたYUVデータや画像生成部7から出力されたYUVデータを取得して、当該YUVデータに対して解像度変換処理を行う。
また、解像度変換部8は、例えば、一の画像入力に対して、最大2つの異なる解像度の画像出力を得ることができるようになっている。例えば、解像度変換部8は、一の画像が入力される毎に、モニタリング用の320×240画素のYUVデータ(表示YUVデータ)と、動画記録用の640×480画素のYUVデータ(動画YUVデータ)を逐次生成して出力する。
ここで、解像度変換部8は、ベイヤ縮小部4により生成された中間解像度の縮小ベイヤデータの画像フレームの各々に対応させて、表示部11による被写体画像のモニタリング用の第4解像度の画像フレームを生成する表示解像度画像生成手段を構成している。
また、解像度変換部8は、電子撮像部2により生成された複数の画像フレームの各々に対応させて、静止画記録用の第1解像度よりも低解像度の第2解像度の画像フレームを逐次生成する低解像度画像生成手段を構成している。具体的には、解像度変換部8は、低解像度画像生成手段として、ベイヤ縮小部4により生成された中間解像度の縮小ベイヤデータの画像フレームの各々に対応させて低解像度の第2解像度の画像フレームを生成する。
The resolution conversion unit 8 acquires YUV data stored in the memory 15 and YUV data output from the image generation unit 7, and performs resolution conversion processing on the YUV data.
In addition, the resolution conversion unit 8 can obtain, for example, image outputs with a maximum of two different resolutions for one image input. For example, every time one image is input, the resolution conversion unit 8 performs 320 × 240 pixel YUV data (display YUV data) for monitoring and 640 × 480 pixel YUV data (moving image YUV data) for moving image recording. ) Is generated and output sequentially.
Here, the resolution conversion unit 8 generates a fourth resolution image frame for monitoring the subject image by the display unit 11 in correspondence with each image frame of the reduced resolution Bayer data having the intermediate resolution generated by the Bayer reduction unit 4. The display resolution image generation means is configured.
Further, the resolution conversion unit 8 sequentially generates second resolution image frames having a lower resolution than the first resolution for still image recording in correspondence with each of the plurality of image frames generated by the electronic imaging unit 2. Low-resolution image generation means is configured. Specifically, the resolution conversion unit 8 serves as a low resolution image generation unit that generates a low resolution second resolution image frame corresponding to each of the intermediate resolution reduced Bayer data image frames generated by the Bayer reduction unit 4. Generate.

CODEC9は、画像の記録の際には、YUVデータをJPEG方式により符号化する一方で、画像の再生時には、メモリ15に格納された符号化データを読み出し、再生画像データを復号する。   The CODEC 9 encodes the YUV data by the JPEG method when recording an image, and reads the encoded data stored in the memory 15 and decodes the reproduced image data when reproducing the image.

表示制御部10は、表示部11への画像フレームの表示を制御するものである。具体的には、表示制御部10は、画像の記録の際には、画像生成部7、解像度変換部8によって生成され、メモリ15に格納された画像データを順次に読み出して、表示部11に出力する一方で、画像の再生の際には、CODEC9によってメモリ15に格納された再生画像データや、これを解像度変換したYUVデータを所定の順序で表示部11に出力する。   The display control unit 10 controls display of image frames on the display unit 11. Specifically, when recording an image, the display control unit 10 sequentially reads out the image data generated by the image generation unit 7 and the resolution conversion unit 8 and stored in the memory 15, and displays it in the display unit 11. On the other hand, at the time of image reproduction, reproduced image data stored in the memory 15 by the CODEC 9 and YUV data obtained by converting the resolution thereof are output to the display unit 11 in a predetermined order.

表示部11は、例えば、液晶などから構成され、表示手段として、電子撮像部2により生成された複数の画像フレームに基づいて、被写体画像を表示する。具体的には、表示部11は、表示制御部10から出力されて入力された表示用映像信号を、320×240×RGB、アスペクト比4:3、表示フレームレート60fpsで逐次更新しながら表示する。   The display unit 11 is composed of, for example, liquid crystal, and displays a subject image based on a plurality of image frames generated by the electronic imaging unit 2 as display means. Specifically, the display unit 11 displays the display video signal output and input from the display control unit 10 while sequentially updating at 320 × 240 × RGB, an aspect ratio of 4: 3, and a display frame rate of 60 fps. .

記録媒体制御部12は、制御部16の制御下にて、生成されたファイルの記録媒体13への記録、および記録媒体13からのファイル読み出しを行う。即ち、記録媒体制御部12は、CODEC9により符号化された画像フレームの符号化データを記録媒体13に記録させたり、記録媒体13に記録されている符号化データを読み出しを制御する。   The recording medium control unit 12 records the generated file on the recording medium 13 and reads the file from the recording medium 13 under the control of the control unit 16. In other words, the recording medium control unit 12 controls to record the encoded data of the image frame encoded by the CODEC 9 on the recording medium 13 and to read out the encoded data recorded on the recording medium 13.

記録媒体13は、例えば、カード型の不揮発性メモリ(フラッシュメモリ)やハードディスク等により構成されている。
また、記録媒体13は、動画記録手段として、解像度変換部8により生成されCODEC9により符号化された第2解像度の画像フレームからなる動画像を記録する。
The recording medium 13 is configured by, for example, a card-type nonvolatile memory (flash memory), a hard disk, or the like.
In addition, the recording medium 13 records a moving image including a second resolution image frame generated by the resolution conversion unit 8 and encoded by the CODEC 9 as a moving image recording unit.

また、記録媒体13は、静止画記録手段として、特定処理にて特定された画像フレーム、即ち、複数の画像フレームのうち、ジャイロモジュール6の検出結果から画像ぶれ量が最も少ないと評価された第2解像度よりも高解像度の画像フレームの符号化データを静止画像として記録する。   In addition, the recording medium 13 is evaluated as the still image recording unit with the smallest image blur amount from the detection result of the gyro module 6 among the image frames specified by the specifying process, that is, the plurality of image frames. Coded data of an image frame having a resolution higher than 2 resolution is recorded as a still image.

操作入力部14は、当該撮像装置100の所定操作を行うためのものである。具体的には、図示は省略するが、操作入力部14は、撮像部により撮像された被写体の動画像の記録開始及び終了を指示するRECキーや、撮像部により撮像された被写体の静止画像の記録を指示するシャッターキーや、各種動作モードや各種項目の選択を行う上下左右のカーソルキーや、これらカーソルキーにより選択された動作モードや項目の決定を指示する決定キー等を備えている。
そして、ユーザにより操作入力部14の所定のキーが操作されると、当該キーに対応する制御指示を入力回路(図示略)を介してCPUに出力する。CPUは、制御指示が入力されると、操作されたキーに応じて各部を制御する処理を行う。
The operation input unit 14 is for performing a predetermined operation of the imaging apparatus 100. Specifically, although not shown in the figure, the operation input unit 14 includes a REC key that instructs recording start and end of a moving image of the subject imaged by the imaging unit, and a still image of the subject imaged by the imaging unit. A shutter key for instructing recording, up / down / left / right cursor keys for selecting various operation modes and various items, a determination key for instructing determination of an operation mode and items selected by these cursor keys, and the like are provided.
When a predetermined key of the operation input unit 14 is operated by the user, a control instruction corresponding to the key is output to the CPU via an input circuit (not shown). When a control instruction is input, the CPU performs a process of controlling each unit in accordance with the operated key.

また、シャッターキーは、撮像指示手段として、記録媒体13に動画像が記録されている際に、ユーザにより所定操作されると、電子撮像部2による静止画像の撮像指示をCPUに出力する。   The shutter key serves as an imaging instruction unit, and outputs a still image imaging instruction from the electronic imaging unit 2 to the CPU when a predetermined operation is performed by the user while a moving image is recorded on the recording medium 13.

メモリ15は、例えば、フラッシュメモリ等により構成され、CPUによって処理されるデータや、画像データ、符号化データ等を一時記憶する。   The memory 15 is composed of, for example, a flash memory, and temporarily stores data processed by the CPU, image data, encoded data, and the like.

制御部16は、撮像装置100の各部を制御するものである。具体的には、図示は省略するが、制御部16は、CPUと、プログラムメモリを備えている。   The control unit 16 controls each unit of the imaging apparatus 100. Specifically, although not shown, the control unit 16 includes a CPU and a program memory.

CPUは、プログラムメモリに記憶された撮像装置100用の各種プログラムに従って各種の制御動作を行うものである。   The CPU performs various control operations according to various programs for the imaging apparatus 100 stored in the program memory.

プログラムメモリは、CPUの動作に必要な各種プログラムやデータを記憶するものである。ここで、プログラムは、後述する露光時間設定制御ルーチン、動画記録制御ルーチン、第1ぶれ量検出ルーチン、第1画像フレーム特定ルーチン、静止画記録制御ルーチンを含む。
なお、ここでいうルーチンとは、コンピュータのプログラムの部分をなし、ある機能をもった一連の命令群のことである。
The program memory stores various programs and data necessary for the operation of the CPU. Here, the program includes an exposure time setting control routine, a moving image recording control routine, a first blur amount detection routine, a first image frame specifying routine, and a still image recording control routine which will be described later.
Note that the term “routine” here refers to a series of instructions having a certain function and constituting a part of a computer program.

露光時間設定制御ルーチンは、CPUを露光時間設定手段として機能させるためのプログラム部分である。即ち、露光時間設定制御ルーチンは、電子撮像部2の撮像制御部に、撮像素子が露光される露光時間を、動画像を記録する場合及び動画像を記録中に静止画像を記録する場合には、所定の第1露光時間に設定させる一方で、静止画像を記録する場合には、第1露光時間よりも短い第2露光時間に設定させる処理に係る機能をCPUに実現させるための命令群を含む。   The exposure time setting control routine is a program part for causing the CPU to function as exposure time setting means. That is, the exposure time setting control routine sets the exposure time during which the image sensor is exposed to the imaging control unit of the electronic imaging unit 2 when recording a moving image and when recording a still image while recording a moving image. In order to set a predetermined first exposure time while recording a still image, a command group for causing the CPU to realize a function related to a process for setting a second exposure time shorter than the first exposure time. Including.

動画記録制御ルーチンは、電子撮像部2により生成された複数の画像フレームの各々に対応させて、解像度変換部8により逐次生成された低解像度の第2解像度の画像フレームからなる動画像を記録媒体13に記録させる処理に係る機能をCPUに実現させるための命令群を含む。
具体的には、この動画記録制御ルーチンにより、CPUは、解像度変換部8により逐次生成され、CODEC9によりM―JPEG形式で符号化されたVGAサイズの画像フレームの符号化データを動画像として記録媒体13に記録させる。
The moving image recording control routine records a moving image composed of low resolution second resolution image frames sequentially generated by the resolution conversion unit 8 in correspondence with each of the plurality of image frames generated by the electronic imaging unit 2. 13 includes a group of instructions for causing the CPU to realize a function related to the processing to be recorded in the CPU 13.
Specifically, according to this moving image recording control routine, the CPU sequentially records the encoded data of the VGA size image frame generated in the M-JPEG format by the CODEC 9 as a moving image. 13 to record.

第1ぶれ量検出ルーチンは、CPUをぶれ量検出手段として機能させるためのプログラム部分である。即ち、第1ぶれ量検出ルーチンは、電子撮像部2により撮像された複数の画像フレームの各々における画像ぶれ量を検出するぶれ量検出処理に係る機能をCPUに実現させるための命令群を含む。
具体的には、この第1ぶれ量検出ルーチンにより、CPUは、電子撮像部2により撮像された複数の画像フレームの各々に対応するジャイロモジュール6の検出結果に基づいて、当該複数の画像フレームの各々におけるジャイロ最大変位(ジャイロデータ最大値と最小値の差分)を画像ぶれ量として算出する。
The first shake amount detection routine is a program part for causing the CPU to function as a shake amount detection means. That is, the first blur amount detection routine includes a command group for causing the CPU to implement a function related to the blur amount detection process for detecting the amount of image blur in each of the plurality of image frames captured by the electronic imaging unit 2.
Specifically, according to the first blur amount detection routine, the CPU is configured to detect the plurality of image frames based on the detection result of the gyro module 6 corresponding to each of the plurality of image frames captured by the electronic imaging unit 2. The maximum gyro displacement (difference between the maximum value and the minimum value of the gyro data) in each is calculated as the image blur amount.

第1画像フレーム特定ルーチンは、CPUを特定手段として機能させるためのプログラム部分である。即ち、第1画像フレーム特定ルーチンは、ぶれ量検出処理の検出結果に基づいて、電子撮像部2により撮像された複数の画像フレームのうち、画像ぶれ量が最も少ない画像フレームを特定する画像フレーム特定処理に係る機能をCPUに実現させるための命令群を含む。
具体的には、この第1画像フレーム特定ルーチンにより、CPUは、電子撮像部2により撮像された複数の画像フレームの各々のジャイロ最大変位を比較して、最もジャイロ最大変位の小さいフレームを画像ぶれ量が最も少ない画像フレームとして特定する。
The first image frame specifying routine is a program part for causing the CPU to function as specifying means. That is, the first image frame specifying routine specifies an image frame specifying the image frame having the smallest image blur amount among the plurality of image frames captured by the electronic imaging unit 2 based on the detection result of the blur amount detecting process. It includes a group of instructions for causing the CPU to realize functions related to processing.
Specifically, according to the first image frame specifying routine, the CPU compares the maximum gyro displacement of each of the plurality of image frames captured by the electronic imaging unit 2, and the image with the smallest gyro maximum displacement is blurred. The image frame with the smallest amount is specified.

静止画記録制御ルーチンは、画像フレーム特定処理にて特定された画像フレームを静止画像として記録媒体13に記録させる処理に係る機能をCPUに実現させるための命令群を含む。
具体的には、この静止画記録制御ルーチンにより、CPUは、画像フレーム特定処理にて特定され、CODEC9によりJPEG形式で符号化された3200×2400画素の画像フレーム(静止画YUVデータ)の符号化データを静止画像として記録媒体13に記録させる。
The still image recording control routine includes a command group for causing the CPU to realize a function related to the process of recording the image frame specified by the image frame specifying process on the recording medium 13 as a still image.
Specifically, according to this still image recording control routine, the CPU encodes an image frame (still image YUV data) of 3200 × 2400 pixels specified by the image frame specifying process and encoded by the CODEC 9 in the JPEG format. Data is recorded on the recording medium 13 as a still image.

次に、撮像装置100の動作について図2〜図9を参照して説明する。
図2、図3、図5、図8は、撮像装置100の全体の動作を説明するためのフローチャートであるとともに、プログラムメモリに記憶されたプログラムのアルゴリズム構造を示すフローチャートである。実際に使用するCPUに対応した具体的なプログラムコードの記載は省略するが、このフローチャート(アルゴリズム構造)に基づいて適宜設計すればよい。
Next, the operation of the imaging apparatus 100 will be described with reference to FIGS.
2, 3, 5, and 8 are flowcharts for explaining the overall operation of the imaging apparatus 100 and a flowchart showing the algorithm structure of the program stored in the program memory. Description of specific program code corresponding to the CPU to be actually used is omitted, but it may be designed as appropriate based on this flowchart (algorithm structure).

図2は、撮像処理のメイン動作の一例を示すフローチャートである。
図2に示すように、電源投入後、CPUは、実行中の所定の前処理が終了するまで待機した後(ステップS1)、ユーザによる操作入力部14のRECキーの所定操作に基づいて動画像の記録開始が指示されているか否かを判定する(ステップS2)。
ここで、動画像の記録開始が指示されたと判定されると(ステップS2;YES)、CPUは、当該撮像装置100の各部を制御して動画記録処理(後述)を実行する(ステップS3)。その後、CPUは、ユーザによる操作入力部14のRECキーの所定操作に基づいて動画像の記録終了が指示されているか否かを判定し(ステップS4)、動画像の記録終了が指示されていない場合には(ステップS4;NO)、ステップS1に戻り、それ以降の処理を繰り返し実行する。
FIG. 2 is a flowchart illustrating an example of the main operation of the imaging process.
As shown in FIG. 2, after the power is turned on, the CPU waits until the predetermined pre-processing being executed is completed (step S1), and then the moving image is based on a predetermined operation of the REC key of the operation input unit 14 by the user. It is determined whether or not an instruction to start recording is instructed (step S2).
Here, if it is determined that the start of moving image recording has been instructed (step S2; YES), the CPU controls each part of the imaging apparatus 100 to execute a moving image recording process (described later) (step S3). Thereafter, the CPU determines whether or not the recording end of the moving image is instructed based on a predetermined operation of the REC key of the operation input unit 14 by the user (step S4), and the recording end of the moving image is not instructed. In the case (step S4; NO), the process returns to step S1 and the subsequent processing is repeatedly executed.

一方、ステップS4にて、動画像の記録終了が指示された場合には(ステップS4;YES)、CPUは、動画記録処理にて撮影された静止画像があるか否かを判定する(ステップS5)。
ここで、静止画があると判定されると(ステップS5;YES)、CPUは、当該撮像装置100の各部を制御して静止画記録処理(後述)を実行した後(ステップS6)、ステップS1に戻り、それ以降の処理を繰り返し実行する。
また、ステップS5にて、静止画がないと判定されると(ステップS6;NO)、ステップS1に戻り、それ以降の処理を繰り返し実行する。
On the other hand, if an instruction to end the recording of the moving image is given in step S4 (step S4; YES), the CPU determines whether there is a still image taken in the moving image recording process (step S5). ).
If it is determined that there is a still image (step S5; YES), the CPU controls each part of the imaging apparatus 100 to execute a still image recording process (described later) (step S6), and then step S1. Return to, and repeat the subsequent processing.
If it is determined in step S5 that there is no still image (step S6; NO), the process returns to step S1, and the subsequent processing is repeatedly executed.

一方、ステップS2にて、動画像の記録開始が指示されていないと判定されると(ステップS2;NO)、CPUは、ユーザによる操作入力部14のシャッターキーの所定操作に基づいて静止画像の撮影が指示されているか否かを判定する(ステップS7)。
ここで、静止画像の撮影が指示された場合には(ステップS7;YES)CPUは、当該撮像装置100の各部を制御して静止画撮影処理(後述)を実行した後(ステップS8)、ステップS1に戻り、それ以降の処理を繰り返し実行する。
On the other hand, if it is determined in step S2 that the start of moving image recording has not been instructed (step S2; NO), the CPU determines the still image based on a predetermined operation of the shutter key of the operation input unit 14 by the user. It is determined whether shooting is instructed (step S7).
Here, when an instruction to shoot a still image is given (step S7; YES), the CPU controls each part of the imaging device 100 to execute a still image shooting process (described later) (step S8), and then step. Returning to S1, the subsequent processing is repeatedly executed.

ステップS3の動画記録処理の中でも静止画記録が行われるが、ステップS8で行われる静止画撮影処理は、露光時間の設定や記録する画像フレームを特定する処理などが異なるものである。
即ち、ステップS8における静止画撮影処理は、画像ぶれ量とは関係無く、静止画像の撮影(記録)の指示タイミングに基づいて決定された画像フレームを静止画像として記録媒体13に記録させる。具体的には、ステップS2にて、動画像の記録開始が指示されていない場合にはステップS2;NO)、撮像制御部は、撮像素子による露光時間を第1露光時間よりも短い第2露光時間に設定する。そして、ユーザによる操作入力部14のシャッターキーの所定操作に基づいて静止画像の撮影が指示されると、当該指示タイミングで電子撮像部2から出力され入力された画像データに対して基本的な信号処理を行って3200×2400画素の静止画ベイヤデータを生成して画像生成部7に出力する。
画像生成部7は、静止画ベイヤデータから3200×2400画素の静止画YUVデータを生成した後、解像度変換部8により最大3200×2400画素の静止画YUVデータに変換してメモリ15に出力する。
その後、CODEC9は、メモリ15に格納された静止画YUVデータを取得して、当該静止画YUVデータをJPEG形式により符号化して3200×2400画素のJPEGデータを生成する符号化処理を行う。
次に、記録媒体制御部12は、CODEC9によりJPEG形式で符号化されたJPEGデータを取得して静止画像として記録媒体13に記録させる。
このように、記録媒体13は、静止画記録手段として、第2露光時間で撮像して得られた画像フレームの符号化データを静止画像として記録する。
Still image recording is performed in the moving image recording processing in step S3. However, the still image shooting processing performed in step S8 is different in the setting of the exposure time and the processing for specifying the image frame to be recorded.
That is, in the still image shooting process in step S8, an image frame determined based on a still image shooting (recording) instruction timing is recorded on the recording medium 13 as a still image regardless of the image blur amount. Specifically, if the start of moving image recording is not instructed in step S2, step S2; NO), the imaging control unit performs the second exposure in which the exposure time by the image sensor is shorter than the first exposure time. Set to time. When an instruction to capture a still image is instructed based on a predetermined operation of the shutter key of the operation input unit 14 by the user, a basic signal is output with respect to the image data output and input from the electronic imaging unit 2 at the instruction timing. Processing is performed to generate 3200 × 2400 pixel still image Bayer data, which is output to the image generation unit 7.
The image generation unit 7 generates 3200 × 2400 pixel still image YUV data from the still image Bayer data, converts the still image YUV data to a maximum of 3200 × 2400 pixels by the resolution conversion unit 8, and outputs the still image YUV data to the memory 15.
After that, the CODEC 9 performs a coding process of acquiring still image YUV data stored in the memory 15 and encoding the still image YUV data in the JPEG format to generate JPEG data of 3200 × 2400 pixels.
Next, the recording medium control unit 12 acquires JPEG data encoded in JPEG format by the CODEC 9 and records it on the recording medium 13 as a still image.
As described above, the recording medium 13 records, as a still image, encoded data of an image frame obtained by imaging with the second exposure time as a still image recording unit.

一方、ステップS7にて、静止画像の撮影が指示されていないと判定されると(ステップS7;NO)、CPUは、当該撮像装置100の各部を制御して撮像部により撮像されている画像を表示部11に表示させるモニタリング処理(後述)を実行した後(ステップS9)、ステップS1に戻り、それ以降の処理を繰り返し実行する。   On the other hand, if it is determined in step S7 that an instruction to capture a still image has not been given (step S7; NO), the CPU controls each unit of the imaging device 100 to display an image captured by the imaging unit. After executing a monitoring process (described later) to be displayed on the display unit 11 (step S9), the process returns to step S1, and the subsequent processes are repeatedly executed.

次に、動画記録処理について図3及び図4を参照して説明する。
図3は、動画記録処理に係る動作の一例を示すフローチャートである。また、図4は、動画記録処理におけるデータの流れを模式的に示す図である。
Next, the moving image recording process will be described with reference to FIGS.
FIG. 3 is a flowchart illustrating an example of an operation related to the moving image recording process. FIG. 4 is a diagram schematically showing a data flow in the moving image recording process.

動画記録処理は、モニタリング処理を実行中に、ユーザによりRECキーが所定操作されて動画像の記録開始が指示された場合に実行される処理である。
なお、モニタリング処理におけるデータの流れは、図4において破線で囲まれた領域に対応している。
The moving image recording process is a process that is executed when the user has instructed the recording start of the moving image by performing a predetermined operation of the REC key during the monitoring process.
The data flow in the monitoring process corresponds to the area surrounded by the broken line in FIG.

図3及び図4に示すように、先ず、露光時間設定制御ルーチンにより、電子撮像部2の撮像制御部に、撮像素子による撮像を繰り返し実行するフレームレートを30fpsに設定するとともに、撮像素子が露光される露光時間をこの設定されたフレームレートによる撮像間隔よりも短い所定の第1露光時間に設定させる。これにより、電子撮像部2は、動画像を撮影して1フレーム当たり77Mpix(3200×2400画素)の複数の画像フレームを30fpsで生成して、生成された画像データを前処理部3に出力する(ステップS31)。
前処理部3は、入力された画像データに対して基本的な信号処理を行って3200×2400画素のベイヤデータを生成して、ベイヤ縮小部4に出力するとともに、画像データに対して各種処理を行って、輝度信号に相当するAF検波用信号を生成して、AF検波部5に出力する(ステップS32)。
As shown in FIG. 3 and FIG. 4, first, the exposure control setting routine sets the frame rate for repeatedly performing imaging with the imaging device to 30 fps in the imaging control unit of the electronic imaging unit 2, and the imaging device is exposed. The exposure time to be set is set to a predetermined first exposure time shorter than the imaging interval at the set frame rate. Thereby, the electronic imaging unit 2 captures a moving image, generates a plurality of image frames of 77 Mpix (3200 × 2400 pixels) per frame at 30 fps, and outputs the generated image data to the preprocessing unit 3. (Step S31).
The preprocessing unit 3 performs basic signal processing on the input image data to generate 3200 × 2400 pixel Bayer data, outputs the Bayer data to the Bayer reduction unit 4, and performs various processes on the image data. Then, an AF detection signal corresponding to the luminance signal is generated and output to the AF detection unit 5 (step S32).

AF検波部5は、前処理部3から出力されて入力されたAF検波用信号を用いてAF検波処理を行って、その処理結果をAF検波データとしてメモリ15に出力する(ステップS33)。
ベイヤ縮小部4は、前処理部3から出力されて入力された3200×2400画素のベイヤデータに対して、水平及び垂直ともに1/4になるような縮小処理を行って、800×600画素の縮小ベイヤデータを生成して、メモリ15に出力する(ステップS34)。
なお、AF検波部5によるAF検波処理(ステップS33)と、ベイヤ縮小部4による縮小ベイヤデータの生成(ステップS34)は、順序を入れ替えて実行しても良い。
The AF detection unit 5 performs AF detection processing using the AF detection signal output and input from the preprocessing unit 3, and outputs the processing result to the memory 15 as AF detection data (step S33).
The Bayer reduction unit 4 performs a reduction process so that the horizontal and vertical 1/4 of the 3200 × 2400 pixel Bayer data output from the preprocessing unit 3 and input is reduced to 800 × 600 pixels. Bayer data is generated and output to the memory 15 (step S34).
Note that the AF detection processing (step S33) by the AF detection unit 5 and the generation of reduced Bayer data (step S34) by the Bayer reduction unit 4 may be executed in a reversed order.

ここまでの一連の処理が、電子撮像部2による被写体の撮像と同期して行われ、例えば、信号入力から各生成データのメモリ15格納まで、1フレームあたり1/30秒未満で完了するようになっている(図6参照)。   The series of processes so far are performed in synchronization with the imaging of the subject by the electronic imaging unit 2, and for example, from the signal input to the storage of each generated data in the memory 15 is completed in less than 1/30 second per frame. (See FIG. 6).

次に、画像生成部7は、メモリ15に格納された縮小ベイヤデータを取得して、当該縮小ベイヤデータからYUVデータを生成した後、メモリ15に格納し、続けて、解像度変換部8は、メモリ15に格納されたYUVデータを取得して、モニタリング用の320×240画素の表示YUVデータと、動画記録用の640×480画素の動画YUVデータを生成して、メモリ15に出力する(ステップS35)。
ここで、表示YUVデータ及び動画YUVデータの生成は、撮像順に逐次処理され、例えば、1/30秒未満で完了するようになっている(図6参照)。
Next, the image generation unit 7 acquires the reduced Bayer data stored in the memory 15, generates YUV data from the reduced Bayer data, and then stores the YUV data in the memory 15. Subsequently, the resolution conversion unit 8 continues the memory 15 YUV data stored in the image data is acquired, 320 × 240 pixel display YUV data for monitoring and 640 × 480 pixel moving image YUV data for moving image recording are generated and output to the memory 15 (step S35). .
Here, the generation of the display YUV data and the moving image YUV data is sequentially processed in the order of imaging, and is completed in, for example, less than 1/30 seconds (see FIG. 6).

次に、表示制御部10は、メモリ15に格納された表示YUVデータを格納順に逐次読み出して、表示部11に出力していくことで表示画面を更新する(ステップS36)。
ここで、表示YUVデータは、1/30秒毎に更新されるようになっているため、表示部11の表示フレームレート(60fps)に合わせるように、表示制御部10は、1フレームの表示YUVデータを2回ずつ表示出力することになる。
なお、表示YUVデータを表示部11の表示フレームレート(60fps)に合わせて、1/60秒毎に更新するようにしても良い。
Next, the display control unit 10 updates the display screen by sequentially reading the display YUV data stored in the memory 15 in the order of storage and outputting the data to the display unit 11 (step S36).
Here, since the display YUV data is updated every 1/30 seconds, the display control unit 10 displays the 1-frame display YUV so as to match the display frame rate (60 fps) of the display unit 11. Data will be displayed and output twice.
The display YUV data may be updated every 1/60 seconds in accordance with the display frame rate (60 fps) of the display unit 11.

次に、CPUは、画像生成部7及び解像度変換部8を経て生成された動画YUVデータがメモリ15に格納されているか否かを判定する(ステップS37)。
ここで、動画YUVデータが格納されていると判定されると(ステップS37;YES)、CODEC9は、メモリ15に格納された動画YUVデータを取得して、当該動画YUVデータをM−JPEG形式により符号化して640×480画素のM−JPEGデータを生成する符号化処理を行う(ステップS38)。
Next, the CPU determines whether or not the moving image YUV data generated through the image generation unit 7 and the resolution conversion unit 8 is stored in the memory 15 (step S37).
Here, if it is determined that moving image YUV data is stored (step S37; YES), the CODEC 9 acquires the moving image YUV data stored in the memory 15, and stores the moving image YUV data in the M-JPEG format. Encoding processing for encoding and generating M-JPEG data of 640 × 480 pixels is performed (step S38).

次に、CPUは、符号化処理にて生成されたM−JPEGデータがあるか否かを判定する(ステップS39)。
ここで、M−JPEGデータがあると判定されると(ステップS39;YES)、動画記録制御ルーチンにより、記録媒体制御部12は、CODEC9によりM―JPEG形式で符号化されたM−JPEGデータを取得して記録媒体13に記録させる(ステップS3A)。
Next, the CPU determines whether or not there is M-JPEG data generated by the encoding process (step S39).
If it is determined that there is M-JPEG data (step S39; YES), the moving image recording control routine causes the recording medium control unit 12 to store the M-JPEG data encoded in the M-JPEG format by the CODEC 9. Obtained and recorded on the recording medium 13 (step S3A).

上記の処理を、ユーザによりRECキーが再度操作されて動画記録処理の終了が指示されるまで実行する(図2におけるステップS4)。   The above process is executed until the user operates the REC key again to instruct the end of the moving image recording process (step S4 in FIG. 2).

次に、動画撮影動作中の静止画撮影処理について図5〜図7を参照して説明する。
図5は、静止画撮影処理に係る動作の一例を示すフローチャートである。また、図6は、静止画撮影処理における各画像フレームの処理のタイミングチャートを示す図であり、図7は、静止画撮影処理におけるデータの流れを模式的に示す図である。
なお、図7にあっては、図4と同様に、モニタリング処理におけるデータの流れが、破線で囲まれた領域に対応している。
Next, still image shooting processing during the moving image shooting operation will be described with reference to FIGS.
FIG. 5 is a flowchart illustrating an example of an operation related to the still image shooting process. FIG. 6 is a diagram showing a timing chart of each image frame process in the still image shooting process, and FIG. 7 is a diagram schematically showing a data flow in the still image shooting process.
In FIG. 7, as in FIG. 4, the data flow in the monitoring process corresponds to a region surrounded by a broken line.

図5で示すフローチャートにおける静止画撮影処理は、動画記録処理を実行中に、静止画像の撮影が指示された場合に実行される処理である。従って、静止画撮影処理のうち、下記に詳細に説明する処理以外の処理は、静止画像の撮影が指示されていない状態の通常の動画記録処理における処理と略同様となっている。   The still image shooting process in the flowchart shown in FIG. 5 is a process executed when a still image shooting instruction is given during the moving image recording process. Accordingly, processing other than the processing described in detail below in the still image shooting processing is substantially the same as the processing in the normal moving image recording processing in a state where shooting of a still image is not instructed.

具体的には、図5〜図7に示すように、ユーザによる操作入力部14のシャッターキーの所定操作に基づいて静止画像の撮影が指示されると(ステップS41;YES)、CPUは、当該撮像装置100の各部を制御して動作モードを「静止画撮影」に設定する(ステップS42)。
続けて、前処理部3は、動画記録処理と同様に、電子撮像部2から出力され入力された画像データに対して基本的な信号処理を行って3200×2400画素のベイヤデータを生成して、ベイヤ縮小部4及びメモリ15に出力するとともに、画像データに対して各種処理を行って、輝度信号に相当するAF検波用信号を生成して、AF検波部5に出力する。さらに、ベイヤデータ及びAF検波用信号の生成・出力に同期して、ジャイロモジュール6は、撮像装置本体の回転を検出して、ジャイロデータをメモリ15に出力する(ステップS43)。
続けて、CPUは、メモリ15に格納された静止画ベイヤデータとジャイロデータとを対応付ける処理を行う(ステップS44)。
Specifically, as shown in FIGS. 5 to 7, when an instruction to capture a still image is given based on a predetermined operation of the shutter key of the operation input unit 14 by the user (step S <b>41; YES), the CPU The respective modes of the imaging apparatus 100 are controlled to set the operation mode to “still image shooting” (step S42).
Subsequently, the pre-processing unit 3 performs basic signal processing on the image data output and input from the electronic imaging unit 2 to generate 3200 × 2400 pixel Bayer data, similarly to the moving image recording processing, While outputting to the Bayer reduction part 4 and the memory 15, various processes are performed with respect to image data, the AF detection signal equivalent to a luminance signal is produced | generated, and it outputs to the AF detection part 5. Further, in synchronization with the generation and output of the Bayer data and the AF detection signal, the gyro module 6 detects the rotation of the imaging device main body and outputs the gyro data to the memory 15 (step S43).
Subsequently, the CPU performs a process of associating the still image Bayer data and the gyro data stored in the memory 15 (step S44).

AF検波部5は、動画記録処理と同様に、AF検波用信号を用いてAF検波処理を行って、AF検波データをメモリ15に出力する(ステップS45)。
ベイヤ縮小部4は、動画記録処理と同様に、3200×2400画素のベイヤデータに対して縮小処理を行って、800×600画素の縮小ベイヤデータを生成して、メモリ15に出力する(ステップS46)。
As in the moving image recording process, the AF detection unit 5 performs the AF detection process using the AF detection signal, and outputs the AF detection data to the memory 15 (step S45).
Similarly to the moving image recording process, the Bayer reduction unit 4 performs the reduction process on the 3200 × 2400 pixel Bayer data, generates 800 × 600 pixel reduced Bayer data, and outputs it to the memory 15 (step S46).

ここまでの一連の処理が、動画記録処理と同様に、電子撮像部2による被写体の撮像と同期して行われ、例えば、信号入力から各生成データのメモリ15格納まで、1フレームあたり1/30秒未満で完了するようになっている(図6参照)。   The series of processes so far are performed in synchronization with the imaging of the subject by the electronic imaging unit 2 as in the moving image recording process. For example, 1/30 per frame from signal input to storage of each generated data in the memory 15. It is completed in less than a second (see FIG. 6).

次に、画像生成部7は、動画記録処理と同様に、縮小ベイヤデータからYUVデータを生成した後、続けて、解像度変換部8は、モニタリング用の320×240画素の表示YUVデータと、動画記録用の640×480画素の動画YUVデータを生成して、メモリ15に出力する(ステップS47)。   Next, the image generation unit 7 generates YUV data from the reduced Bayer data in the same manner as the moving image recording process, and then the resolution conversion unit 8 continues to display 320 × 240 pixel display YUV data for monitoring and moving image recording. 640 × 480 pixel moving image YUV data is generated and output to the memory 15 (step S47).

次に、表示制御部10は、動画記録処理と同様に、表示YUVデータをメモリ15格納順に逐次読み出して、表示部11に出力していくことで表示画面を更新する(ステップS48)。
次に、CPUは、動画記録処理と同様に、画像生成部7及び解像度変換部8を経て生成された動画YUVデータがメモリ15に格納されているか否かを判定して(ステップS49)、動画YUVデータが格納されていると判定されると(ステップS49;YES)、CODEC9は、動画YUVデータをM−JPEG形式により符号化して640×480画素のM−JPEGデータを生成する符号化処理を行う(ステップS4A)。
Next, similarly to the moving image recording process, the display control unit 10 sequentially reads the display YUV data in the storage order of the memory 15 and outputs it to the display unit 11 to update the display screen (step S48).
Next, similarly to the moving image recording process, the CPU determines whether or not the moving image YUV data generated through the image generation unit 7 and the resolution conversion unit 8 is stored in the memory 15 (step S49). If it is determined that the YUV data is stored (step S49; YES), the CODEC 9 performs an encoding process for encoding the moving image YUV data in the M-JPEG format to generate 640 × 480 pixel M-JPEG data. Perform (step S4A).

次に、CPUは、動画記録処理と同様に、符号化処理にて生成されたM−JPEGデータがあるか否かを判定して(ステップS4B)、M−JPEGデータがあると判定されると(ステップS4B;YES)、動画記録制御ルーチンにより、記録媒体制御部12は、CODEC9によりM―JPEG形式で符号化されたM−JPEGデータを取得して記録媒体13に記録させる(ステップS4C)。   Next, the CPU determines whether or not there is M-JPEG data generated by the encoding process (step S4B), as in the moving image recording process, and determines that there is M-JPEG data. (Step S4B; YES), according to the moving image recording control routine, the recording medium control unit 12 acquires the M-JPEG data encoded in the M-JPEG format by the CODEC 9 and records it on the recording medium 13 (Step S4C).

次に、CPUは、一の画像フレームに対応する動作毎に、メモリ15の静止画撮影カウンタ(図示略)を1減算する処理を行う(ステップS4D)。
次に、CPUは、メモリ15の静止画撮影カウンタが0であるか否かを判定する(ステップS4E)。ここで、静止画撮影カウンタが0でないと判定されると(ステップS4E;NO)、ステップS43に戻り、それ以降の処理を繰り返し実行する。
一方、ステップS4Eにて、静止画撮影カウンタが0であると判定されると(ステップS4E;YES)、CPUは、当該撮像装置100の各部を制御して動作モードを「動画記録」に設定して、静止画撮影動作を終了する(ステップS4F)。
Next, the CPU performs a process of subtracting 1 from a still image shooting counter (not shown) of the memory 15 for each operation corresponding to one image frame (step S4D).
Next, the CPU determines whether or not the still image shooting counter in the memory 15 is 0 (step S4E). If it is determined that the still image shooting counter is not 0 (step S4E; NO), the process returns to step S43, and the subsequent processing is repeatedly executed.
On the other hand, when it is determined in step S4E that the still image shooting counter is 0 (step S4E; YES), the CPU controls each part of the imaging apparatus 100 and sets the operation mode to “movie recording”. Then, the still image shooting operation is finished (step S4F).

このように、ユーザによるシャッターキーの一操作に基づいて10フレーム分の静止画ベイヤデータと各々に対応するジャイロデータからなる静止画データセットを得ることができる。
その後、図示は省略するが、CPUは、メモリ15の静止画撮影回数カウンタ(図示略)を1加算した後、メモリ15に十分な空き容量がある場合は、次の静止画撮影動作を許可するように制御する。
In this manner, a still image data set including 10 frames of still image Bayer data and gyro data corresponding to each frame can be obtained based on one operation of the shutter key by the user.
After that, although not shown in the figure, the CPU adds 1 to the still image shooting number counter (not shown) in the memory 15 and then permits the next still image shooting operation if the memory 15 has sufficient free space. To control.

次に、静止画記録処理について図8及び図9を参照して説明する。
図8は、静止画記録処理に係る動作の一例を示すフローチャートである。また、図9は、静止画記録処理におけるデータの流れを模式的に示す図である。
Next, the still image recording process will be described with reference to FIGS.
FIG. 8 is a flowchart illustrating an example of an operation related to the still image recording process. FIG. 9 is a diagram schematically showing the flow of data in the still image recording process.

静止画記録処理は、動画記録処理の終了後、静止画撮影回数カウンタが1以上である、即ち、静止画を撮影済みと判定された場合に実行される処理である。
なお、静止画記録処理は、静止画撮影回数カウンタの回数分実行されるが、本実施形態では、静止画撮影回数カウンタが1である場合について下記に説明する。
The still image recording process is a process executed when the still image shooting number counter is 1 or more after the moving image recording process ends, that is, when it is determined that a still image has been shot.
The still image recording process is executed for the number of times of the still image shooting number counter. In the present embodiment, a case where the still image shooting number counter is 1 will be described below.

具体的には、図8及び図9に示すように、先ず、CPUは、第1ぶれ量検出ルーチンにより、メモリ15の静止画データセット内の各静止画ベイヤデータに対応するジャイロデータを評価して、ジャイロデータ最大値と最小値の差分であるジャイロ最大変位を画像ぶれ量として算出するぶれ量検出処理を行う(ステップS61)。
次に、CPUは、第1画像フレーム特定ルーチンにより、ぶれ量検出処理にて算出された静止画データセットの複数のジャイロ最大変位どうしを比較して、最もジャイロ最大変位の小さい静止画ベイヤデータを画像ぶれ量が最も少ない画像フレームとして特定する画像フレーム特定処理を行う(ステップS62)。
Specifically, as shown in FIGS. 8 and 9, first, the CPU evaluates the gyro data corresponding to each still image Bayer data in the still image data set in the memory 15 by the first blur detection routine. Then, blur amount detection processing is performed to calculate the maximum gyro displacement, which is the difference between the maximum value and the minimum value of the gyro data, as the image blur amount (step S61).
Next, the CPU compares the plurality of maximum gyro displacements of the still image data set calculated in the blur amount detection process by the first image frame specifying routine, and images the still image Bayer data having the smallest maximum gyro displacement. An image frame specifying process for specifying the image frame with the least amount of blur is performed (step S62).

続けて、画像生成部7は、画像フレーム特定処理にて特定された静止画ベイヤデータを取得して、画像生成部7により当該静止画ベイヤデータから3200×2400画素の静止画YUVデータを生成した後、解像度変換部8により最大3200×2400画素の静止画YUVデータに変換してメモリ15に出力する(ステップS63)。
その後、CODEC9は、メモリ15に格納された静止画YUVデータを取得して、当該静止画YUVデータをJPEG形式により符号化して3200×2400画素のJPEGデータを生成する符号化処理を行う(ステップS64)。
なお、解像度変換部8およびCODEC9は、最大で3200×2400画素の静止画を処理するが、ユーザ設定により、これよりも小さい画素の静止画を処理することも可能である。
次に、静止画記録制御ルーチンにより、記録媒体制御部12は、CODEC9によりJPEG形式で符号化されたJPEGデータを取得して静止画像として記録媒体13に記録させる(ステップS65)。
Subsequently, the image generation unit 7 acquires the still image Bayer data specified by the image frame specifying process, and after the image generation unit 7 generates the still image YUV data of 3200 × 2400 pixels from the still image Bayer data, The resolution converter 8 converts the still image YUV data of a maximum of 3200 × 2400 pixels and outputs it to the memory 15 (step S63).
Thereafter, the CODEC 9 acquires the still image YUV data stored in the memory 15, and performs an encoding process for encoding the still image YUV data in the JPEG format to generate JPEG data of 3200 × 2400 pixels (step S64). ).
Note that the resolution conversion unit 8 and the CODEC 9 process a still image with a maximum of 3200 × 2400 pixels, but it is also possible to process a still image with a smaller pixel depending on user settings.
Next, according to the still image recording control routine, the recording medium control unit 12 acquires JPEG data encoded in the JPEG format by the CODEC 9 and records it on the recording medium 13 as a still image (step S65).

以上のように、実施形態1の撮像装置100によれば、動画記録処理にて、ユーザによるシャッターキーの操作に基づいて静止画像の撮影が指示されると、電子撮像部2が複数の画像フレームを30fpsで撮像して生成した複数の画像フレームの各々における画像ぶれ量を検出する。具体的には、電子撮像部2により撮像された複数の画像フレームの各々に対応するジャイロモジュール6の検出結果に基づいて、当該複数の画像フレームの各々におけるジャイロ最大変位を画像ぶれ量として算出する。
そして、画像ぶれ量の検出結果に基づいて、電子撮像部2により生成された複数の画像フレームのうち、最もジャイロ最大変位の小さいフレームを画像ぶれ量が最も少ない画像フレームとして特定して、特定された画像フレームを静止画像として記録媒体13に記録するので、撮像装置本体の動きをぶれ量として評価して、撮影環境が暗いなど撮影条件が厳しい場合であっても、ぶれの少ない画像を取得することができる。
このように、ユーザにより静止画像の撮影が指示された際に、全ての画像フレームの取得にかかる時間(10フレーム×1/30秒=1/3秒)を手ぶれ周期(例えば、1/10秒)よりも十分に長くして被写体を撮影することで、手ぶれの少ない瞬間を含める可能性を高くすることができる。
従って、動画記録時に、露光条件を変更することなく静止画像を取得することができるので、画質に影響を与えることなく滑らかな動画像を取得することができるとともに、ぶれの少ない静止画像を取得することができる。
As described above, according to the imaging apparatus 100 of the first embodiment, in the moving image recording process, when an instruction to capture a still image is issued based on the operation of the shutter key by the user, the electronic imaging unit 2 has a plurality of image frames. The amount of image blur in each of a plurality of image frames generated by imaging at 30 fps is detected. Specifically, based on the detection result of the gyro module 6 corresponding to each of the plurality of image frames captured by the electronic imaging unit 2, the maximum gyro displacement in each of the plurality of image frames is calculated as the image blur amount. .
Then, based on the detection result of the image blur amount, among the plurality of image frames generated by the electronic imaging unit 2, the frame having the smallest gyro maximum displacement is identified and identified as the image frame having the smallest image blur amount. Since the captured image frame is recorded on the recording medium 13 as a still image, the movement of the imaging apparatus body is evaluated as the amount of blur, and an image with less blur is obtained even when shooting conditions are severe such as a dark shooting environment. be able to.
As described above, when the user instructs to shoot a still image, the time taken to acquire all the image frames (10 frames × 1/30 seconds = 1/3 seconds) is the camera shake period (for example, 1/10 seconds). ), The possibility of including a moment with less camera shake can be increased.
Therefore, since a still image can be acquired without changing the exposure conditions during moving image recording, a smooth moving image can be acquired without affecting the image quality, and a still image with less blur can be acquired. be able to.

また、動画像を記録する場合及び動画像を記録中に静止画像を記録する場合には、撮像素子が露光される露光時間を、所定の第1露光時間に設定することで滑らかな動画像を取得することができる。一方、動画像の記録中ではないときに静止画像を記録する場合には、撮像素子が露光される露光時間を、第1露光時間よりも短い第2露光時間に設定することで、ぶれの少ない静止画像を取得することができる。   In addition, when recording a moving image and when recording a still image while recording a moving image, a smooth moving image can be obtained by setting the exposure time during which the image sensor is exposed to a predetermined first exposure time. Can be acquired. On the other hand, when a still image is recorded when a moving image is not being recorded, the exposure time during which the image sensor is exposed is set to a second exposure time that is shorter than the first exposure time, thereby reducing blurring. A still image can be acquired.

さらに、解像度変換部8は、ベイヤ縮小部4によって生成された縮小ベイヤデータから、モニタリング用の320×240画素のYUVデータ(表示YUVデータ)と、動画記録用の640×480画素のYUVデータ(動画YUVデータ)を生成するので、3200×2400画素のベイヤデータから直接モニタリング用や動画記録用のデータを生成する場合に比べて処理の負担を低減させて処理効率を向上させることができる。   Further, the resolution converting unit 8 uses the reduced Bayer data generated by the Bayer reducing unit 4 to monitor 320 × 240 pixel YUV data (display YUV data) and 640 × 480 pixel YUV data (moving image data) for moving image recording. YUV data) is generated, the processing load can be reduced and the processing efficiency can be improved compared to the case of generating monitoring data or moving image recording data directly from Bayer data of 3200 × 2400 pixels.

<変形例1>
以下に、実施形態1の撮像装置100の変形例1について図10〜図12を参照して説明する。
図10は、変形例1の撮像装置200の概略構成を示すブロック図である。
<Modification 1>
Below, the modification 1 of the imaging device 100 of Embodiment 1 is demonstrated with reference to FIGS.
FIG. 10 is a block diagram illustrating a schematic configuration of the imaging apparatus 200 according to the first modification.

図10に示すように、変形例1の撮像装置200は、ジャイロモジュール6を備えずに、AF検波部5によるAF検波処理の結果に基づいて画像ぶれ量を検出する。
なお、変形例1の撮像装置200は、ジャイロモジュール6を備えず、ぶれ量検出処理の内容以外の点で上記実施形態1の撮像装置100と略同様の構成をなし、その説明は省略する。
As illustrated in FIG. 10, the imaging apparatus 200 according to the first modification detects the amount of image blur based on the result of the AF detection processing by the AF detection unit 5 without including the gyro module 6.
Note that the imaging apparatus 200 according to the first modification does not include the gyro module 6 and has substantially the same configuration as the imaging apparatus 100 according to the first embodiment except for the content of the shake amount detection process, and the description thereof is omitted.

AF検波部5は、高周波成分算出手段として、電子撮像部2により生成された複数の画像フレームの各々のAF検波データ(高周波成分)を算出する。   The AF detection unit 5 calculates AF detection data (high frequency component) of each of a plurality of image frames generated by the electronic imaging unit 2 as high frequency component calculation means.

また、プログラムメモリに記憶されているプログラムは、図示は省略するが、露光時間設定制御ルーチン、動画記録制御ルーチン、静止画記録制御ルーチンに加えて、第2ぶれ量検出ルーチン、第2画像フレーム特定ルーチンを含む。   The program stored in the program memory is not shown, but in addition to the exposure time setting control routine, the moving image recording control routine, and the still image recording control routine, the second blur amount detection routine and the second image frame specification Includes routines.

第2ぶれ量検出ルーチンは、CPUをぶれ量検出手段として機能させるプログラム部分である。即ち、第2ぶれ量検出ルーチンは、電子撮像部2により撮像された複数の画像フレームの各々における画像ぶれ量を検出するぶれ量検出処理に係る機能をCPUに実現させるための命令群を含む。
具体的には、この第2ぶれ量検出ルーチンにより、CPUは、AF検波部5により算出された複数の画像フレームの各々に対応するAF検波データを画像ぶれ量として検出する。
The second shake amount detection routine is a program portion that causes the CPU to function as a shake amount detection means. That is, the second blur amount detection routine includes a command group for causing the CPU to realize a function related to the blur amount detection process for detecting the image blur amount in each of the plurality of image frames captured by the electronic imaging unit 2.
Specifically, the CPU detects the AF detection data corresponding to each of the plurality of image frames calculated by the AF detection unit 5 as the image blur amount by the second blur amount detection routine.

第2画像フレーム特定ルーチンは、ぶれ量検出処理の検出結果に基づいて、電子撮像部2により撮像された複数の画像フレームのうち、画像ぶれ量が最も少ない画像フレームを特定する画像フレーム特定処理に係る機能をCPUに実現させるための命令群を含む。
具体的には、この第2画像フレーム特定ルーチンにより、CPUは、電子撮像部2により撮像された複数の画像フレームの各々のAF検波データを比較して、最もAF検波データの大きいフレームを画像ぶれ量が最も少ない画像フレームとして特定する。
The second image frame specifying routine is an image frame specifying process for specifying an image frame with the smallest image blur amount among a plurality of image frames captured by the electronic imaging unit 2 based on the detection result of the blur amount detecting process. A group of instructions for causing the CPU to realize such a function is included.
Specifically, according to the second image frame specifying routine, the CPU compares the AF detection data of each of the plurality of image frames captured by the electronic image capturing unit 2 and image blurring the frame having the largest AF detection data. The image frame with the smallest amount is specified.

図11、図12は、撮像装置200の全体の動作を説明するためのフローチャートであるとともに、プログラムメモリに記憶されたプログラムのアルゴリズム構造を示すフローチャートである。実際に使用するCPUに対応した具体的なプログラムコードの記載は省略するが、このフローチャート(アルゴリズム構造)に基づいて適宜設計すればよい。   11 and 12 are flowcharts for explaining the overall operation of the imaging apparatus 200, and are flowcharts showing the algorithm structure of the program stored in the program memory. Description of specific program code corresponding to the CPU to be actually used is omitted, but it may be designed as appropriate based on this flowchart (algorithm structure).

次に、静止画撮影処理について図11を参照して説明する。
図11は、変形例1の撮像装置200による静止画撮影処理に係る動作の一例を示すフローチャートである。
Next, the still image shooting process will be described with reference to FIG.
FIG. 11 is a flowchart illustrating an example of an operation related to a still image shooting process performed by the imaging apparatus 200 according to the first modification.

変形例1の撮像装置200による静止画撮影処理は、実施形態1の撮像装置100による静止画撮影処理と同様に、動画記録処理を実行中に、静止画像の撮影が指示された場合に実行される処理である。   Similar to the still image shooting process performed by the imaging apparatus 100 according to the first embodiment, the still image shooting process performed by the imaging apparatus 200 according to the first modification is executed when a still image shooting instruction is issued during the moving image recording process. Process.

具体的には、図11に示すように、実施形態1の静止画撮影処理と同様に、ユーザによる操作入力部14のシャッターキーの所定操作に基づいて静止画像の撮影が指示されると(ステップS101;YES)、CPUは、当該撮像装置100の各部を制御して動作モードを「静止画撮影」に設定する(ステップS102)。
続けて、前処理部3は、実施形態1の動画記録処理と同様に、電子撮像部2から出力され入力された画像データに対して基本的な信号処理を行って3200×2400画素のベイヤデータを生成して、ベイヤ縮小部4及びメモリ15に出力するとともに、画像データに対して各種処理を行って、輝度信号に相当するAF検波用信号を生成して、AF検波部5に出力する(ステップS103)。
Specifically, as shown in FIG. 11, as in the still image shooting process of the first embodiment, when a user is instructed to take a still image based on a predetermined operation of the shutter key of the operation input unit 14 (step 1). S101; YES), the CPU controls each part of the imaging apparatus 100 to set the operation mode to “still image shooting” (step S102).
Subsequently, the preprocessing unit 3 performs basic signal processing on the image data output from the electronic imaging unit 2 and inputs Bayer data of 3200 × 2400 pixels, similarly to the moving image recording processing of the first embodiment. Generate and output to the Bayer reduction unit 4 and the memory 15, perform various processing on the image data, generate an AF detection signal corresponding to the luminance signal, and output to the AF detection unit 5 (step) S103).

AF検波部5は、実施形態1の静止画撮影処理と同様に、AF検波用信号を用いてAF検波処理を行って、AF検波データをメモリ15に出力する(ステップS104)。
続けて、CPUは、メモリ15に格納された静止画ベイヤデータとAF検波データとを対応付ける処理を行う(ステップS105)。
The AF detection unit 5 performs AF detection processing using the AF detection signal, and outputs AF detection data to the memory 15 as in the still image shooting processing of the first embodiment (step S104).
Subsequently, the CPU performs processing for associating the still image Bayer data stored in the memory 15 with the AF detection data (step S105).

ステップS105以降の処理は、図5に示す実施形態1の静止画撮影処理と略同様である。
即ち、ベイヤ縮小部4は、静止画撮影処理と同様に、3200×2400画素のベイヤデータに対して縮小処理を行って、800×600画素の縮小ベイヤデータを生成して、メモリ15に出力する(ステップS106)。
The processing after step S105 is substantially the same as the still image shooting processing of the first embodiment shown in FIG.
That is, the Bayer reduction unit 4 performs the reduction process on the 3200 × 2400 pixel Bayer data, generates 800 × 600 pixel reduced Bayer data, and outputs it to the memory 15 as in the still image shooting process (Step S1). S106).

次に、画像生成部7は、静止画撮影処理と同様に、縮小ベイヤデータからYUVデータを生成した後、続けて、解像度変換部8は、モニタリング用の320×240画素の表示YUVデータと、動画記録用の640×480画素の動画YUVデータを生成して、メモリ15に出力する(ステップS107)。   Next, the image generation unit 7 generates YUV data from the reduced Bayer data in the same manner as the still image shooting process, and then the resolution conversion unit 8 continues to display 320 × 240 pixel display YUV data for monitoring, The moving image YUV data of 640 × 480 pixels for recording is generated and output to the memory 15 (step S107).

次に、表示制御部10は、静止画撮影処理と同様に、表示YUVデータをメモリ15格納順に逐次読み出して、表示部11に出力していくことで表示画面を更新する(ステップS108)。
次に、CPUは、静止画撮影処理と同様に、画像生成部7及び解像度変換部8を経て生成された動画YUVデータがメモリ15に格納されているか否かを判定して(ステップS109)、動画YUVデータが格納されていると判定されると(ステップS109;YES)、CODEC9は、動画YUVデータをM−JPEG形式により符号化して640×480画素のM−JPEGデータを生成する符号化処理を行う(ステップS10A)。
Next, the display control unit 10 updates the display screen by sequentially reading the display YUV data in the storage order of the memory 15 and outputting it to the display unit 11 as in the still image shooting process (step S108).
Next, the CPU determines whether the moving image YUV data generated through the image generation unit 7 and the resolution conversion unit 8 is stored in the memory 15 as in the still image shooting process (step S109). When it is determined that moving image YUV data is stored (step S109; YES), the CODEC 9 encodes the moving image YUV data in the M-JPEG format to generate M-JPEG data of 640 × 480 pixels. (Step S10A).

次に、CPUは、静止画撮影処理と同様に、符号化処理にて生成されたM−JPEGデータがあるか否かを判定して(ステップS10B)、M−JPEGデータがあると判定されると(ステップS10B;YES)、動画記録制御ルーチンにより、記録媒体制御部12は、CODEC9によりM―JPEG形式で符号化されたM−JPEGデータを取得して記録媒体13に記録させる(ステップS10C)。   Next, the CPU determines whether there is M-JPEG data generated by the encoding process (step S10B), as in the still image shooting process, and determines that there is M-JPEG data. (Step S10B; YES), according to the moving image recording control routine, the recording medium control unit 12 acquires the M-JPEG data encoded in the M-JPEG format by the CODEC 9 and records it on the recording medium 13 (Step S10C). .

次に、CPUは、一の画像フレームに対応する動作毎に、メモリ15の静止画撮影カウンタ(図示略)を1減算する処理を行う(ステップS10D)。
次に、CPUは、メモリ15の静止画撮影カウンタが0であるか否かを判定する(ステップS10E)。ここで、静止画撮影カウンタが0でないと判定されると(ステップS10E;NO)、ステップS103に戻り、それ以降の処理を繰り返し実行する。
一方、ステップS10Eにて、静止画撮影カウンタが0であると判定されると(ステップS10E;YES)、CPUは、当該撮像装置100の各部を制御して動作モードを「動画記録」に設定して、静止画撮影動作を終了する(ステップS10F)。
Next, the CPU performs a process of subtracting 1 from a still image shooting counter (not shown) in the memory 15 for each operation corresponding to one image frame (step S10D).
Next, the CPU determines whether or not the still image shooting counter in the memory 15 is 0 (step S10E). If it is determined that the still image shooting counter is not 0 (step S10E; NO), the process returns to step S103, and the subsequent processing is repeatedly executed.
On the other hand, if it is determined in step S10E that the still image shooting counter is 0 (step S10E; YES), the CPU controls each part of the imaging apparatus 100 and sets the operation mode to “movie recording”. Then, the still image shooting operation is finished (step S10F).

このように、ユーザによるシャッターキーの一操作に基づいて10フレーム分の静止画ベイヤデータと各々に対応するAF検波データからなる静止画データセットを得ることができる。   As described above, a still image data set including 10 frames of still image Bayer data and AF detection data corresponding to each frame can be obtained based on one operation of the shutter key by the user.

次に、静止画記録処理について図12を参照して説明する。
図12は、変形例1の撮像装置200による静止画記録処理に係る動作の一例を示すフローチャートである。
Next, the still image recording process will be described with reference to FIG.
FIG. 12 is a flowchart illustrating an example of an operation related to a still image recording process performed by the imaging apparatus 200 according to the first modification.

変形例1の撮像装置200による静止画記録処理は、実施形態1の撮像装置100による静止画記録処理と同様に、動画記録処理の終了後、静止画撮影回数カウンタが1以上である、即ち、静止画を撮影済みと判定された場合に実行される処理である。   In the still image recording process performed by the imaging apparatus 200 according to the first modification, the still image shooting number counter is 1 or more after the moving image recording process is completed, as in the still image recording process performed by the imaging apparatus 100 according to the first embodiment. This process is executed when it is determined that a still image has been taken.

具体的には、図12に示すように、先ず、CPUは、第2ぶれ量検出ルーチンにより、メモリ15の静止画データセット内の各静止画ベイヤデータに対応するAF検波データを画像ぶれ量として検出するぶれ量検出処理を行う(ステップS111)。
次に、CPUは、第2画像フレーム特定ルーチンにより、ぶれ量検出処理にて算出された静止画データセットの複数のAF検波データどうしを比較して、最もAF検波データの大きい静止画ベイヤデータを画像ぶれ量が最も少ない画像フレームとして特定する画像フレーム特定処理を行う(ステップS112)。
Specifically, as shown in FIG. 12, first, the CPU detects AF detection data corresponding to each still image Bayer data in the still image data set in the memory 15 as an image blur amount by the second blur amount detection routine. A blur amount detection process is performed (step S111).
Next, the CPU compares a plurality of AF detection data of the still image data set calculated in the shake amount detection process by the second image frame specifying routine, and images the still image Bayer data having the largest AF detection data. An image frame specifying process for specifying the image frame with the least amount of blur is performed (step S112).

ステップS112以降の処理は、図8に示す実施形態1の静止画記録処理と略同様である。
即ち、画像生成部7は、画像フレーム特定処理にて特定された静止画ベイヤデータを取得して、画像生成部7により当該静止画ベイヤデータから3200×2400画素の静止画YUVデータを生成した後、解像度変換部8により最大3200×2400画素の静止画YUVデータに変換してメモリ15に出力する(ステップS113)。
その後、CODEC9は、メモリ15に格納された静止画YUVデータを取得して、当該静止画YUVデータをJPEG形式により符号化して3200×2400画素のJPEGデータを生成する符号化処理を行う(ステップS114)。
次に、静止画記録制御ルーチンにより、記録媒体制御部12は、CODEC9によりJPEG形式で符号化されたJPEGデータを取得して静止画像として記録媒体13に記録させる(ステップS115)。
The processing after step S112 is substantially the same as the still image recording processing of the first embodiment shown in FIG.
That is, the image generation unit 7 acquires the still image Bayer data specified by the image frame specifying process, generates 3200 × 2400 pixel still image YUV data from the still image Bayer data, and then generates the resolution. The conversion unit 8 converts the still image YUV data of a maximum of 3200 × 2400 pixels and outputs it to the memory 15 (step S113).
Thereafter, the CODEC 9 acquires the still image YUV data stored in the memory 15, and performs an encoding process for encoding the still image YUV data in the JPEG format to generate JPEG data of 3200 × 2400 pixels (step S114). ).
Next, according to the still image recording control routine, the recording medium control unit 12 acquires JPEG data encoded in the JPEG format by the CODEC 9 and records it as a still image on the recording medium 13 (step S115).

従って、変形例1の撮像装置200によれば、電子撮像部2により撮像された複数の画像フレームの各々に対応するAF検波データを画像ぶれ量として検出して、複数の画像フレームのAF検波データどうしを比較して最もAF検波データの大きい画像フレームを画像ぶれ量が最も少ない画像フレームとして特定し、特定された画像フレームを静止画像として記録媒体13に記録するので、移動する被写体を追うようにして撮影する場合であっても、ジャイロデータの評価値に左右されることなくぶれの少ない画像を取得することができる。
従って、実施形態1と同様に、動画記録時に、露光条件を変更することなく静止画像を取得することができるので、動画の画質に影響を与えることなく滑らかな動画像を取得することができるとともに、ぶれの少ない静止画像を取得することができる。
また、ジャイロモジュール6が不要となるため、撮像装置200のコストの低減を図ることができる。
Therefore, according to the imaging apparatus 200 of the first modification, AF detection data corresponding to each of a plurality of image frames captured by the electronic imaging unit 2 is detected as an image blur amount, and AF detection data of the plurality of image frames is detected. The image frames having the largest AF detection data are compared with each other and specified as the image frame with the smallest image blur amount, and the specified image frame is recorded on the recording medium 13 as a still image, so that the moving subject is followed. Even in the case of shooting, an image with less blur can be acquired without being influenced by the evaluation value of the gyro data.
Therefore, as in the first embodiment, when recording a moving image, a still image can be acquired without changing the exposure condition, so that a smooth moving image can be acquired without affecting the image quality of the moving image. A still image with less blur can be acquired.
Further, since the gyro module 6 is not necessary, the cost of the imaging device 200 can be reduced.

なお、変形例1にあっては、静止画像の撮影の際に、画像ぶれ量の検出用のAF検波データを生成するようにしたが、画像ぶれ量の検出用のAF検波データの生成タイミングはこれに限られるものではなく、例えば、メモリ15に画像データを一時的に記憶しておき、複数の静止画像の撮影後に行うようにしても良い。   In the first modification, AF detection data for detecting the amount of image blur is generated when a still image is captured. The generation timing of AF detection data for detecting the amount of image blur is as follows. For example, the image data may be temporarily stored in the memory 15 and may be performed after shooting a plurality of still images.

また、実施形態1及び変形例1にあっては、ユーザによるシャッターキーの一操作に基づいて10フレーム分の画像フレームを取得するようにしたが、画像フレームの取得数はこれに限られるものではない。即ち、全ての画像フレームの取得にかかる時間が手ぶれ周期よりも長くなれば、画像フレームの取得数は適宜任意に変更することができる。   In Embodiment 1 and Modification 1, image frames for 10 frames are acquired based on one operation of the shutter key by the user. However, the number of image frames acquired is not limited to this. Absent. That is, if the time taken to acquire all image frames is longer than the camera shake period, the number of image frames acquired can be arbitrarily changed as appropriate.

[実施形態2]
以下に、実施形態2の撮像装置について、図13及び図14を参照して説明する。
実施形態2の撮像装置は、図13及び図14に示すように、動画像を記録する際に、電子撮像部2により生成された複数の画像フレームのうち、画像ぶれが最も少ない画像フレームを取得する静止画取得動画記録処理を行う。
なお、実施形態2の撮像装置は、静止画取得動画記録処理を行う以外の点で上記変形例1の撮像装置200と略同様の構成をなし、その説明は省略する。
[Embodiment 2]
Hereinafter, the imaging apparatus according to the second embodiment will be described with reference to FIGS. 13 and 14.
As illustrated in FIGS. 13 and 14, the imaging apparatus according to the second embodiment acquires an image frame with the least image blur among a plurality of image frames generated by the electronic imaging unit 2 when recording a moving image. Perform the still image acquisition video recording process.
Note that the imaging apparatus of Embodiment 2 has substantially the same configuration as the imaging apparatus 200 of Modification 1 above, except for performing still image acquisition moving image recording processing, and a description thereof will be omitted.

プログラムメモリに記憶されているプログラムは、図示は省略するが、露光時間設定制御ルーチン、動画記録制御ルーチン、静止画記録制御ルーチン、第2ぶれ量検出ルーチンに加えて、第1メモリ制御ルーチン、第3画像フレーム特定ルーチンを含む。   The program stored in the program memory is not shown, but in addition to the exposure time setting control routine, the moving image recording control routine, the still image recording control routine, and the second blur amount detection routine, the first memory control routine, Includes a three image frame identification routine.

第1メモリ制御ルーチンは、メモリ15に対するデータの記録や消去を制御する処理に係る機能をCPUに実現させるための命令群を含む。
ここで、メモリ15は、例えば、5フレーム分の画像フレームを一時記憶することができるリングバッファを備え、電子撮像部2により生成された複数の画像フレームを一時的に記憶する一時記憶手段を構成している。
そして、この第1メモリ制御ルーチンにより、CPUは、メモリ15のリングバッファに画像フレームの静止画ベイヤデータ及びAF検波データを撮像順に記憶していき、記憶容量が一杯になった時点から最も古いデータに順次上書きするように制御する。
また、第1メモリ制御ルーチンにより、CPUは、記録媒体13に静止画像のJPEGデータの記録を行わない場合や、記録媒体13に静止画像のJPEGデータの記録後に、メモリ15に一時的に記憶されている当該静止画像以外の画像フレームに係る静止画ベイヤデータやAF検波データをメモリ15から消去させる。
The first memory control routine includes a group of instructions for causing the CPU to realize a function related to processing for controlling recording and erasing of data with respect to the memory 15.
Here, the memory 15 includes, for example, a ring buffer that can temporarily store image frames for five frames, and constitutes a temporary storage unit that temporarily stores a plurality of image frames generated by the electronic imaging unit 2. is doing.
Then, by this first memory control routine, the CPU stores the still image Bayer data and AF detection data of the image frames in the ring buffer of the memory 15 in the order of imaging, and the oldest data from the time when the storage capacity becomes full is stored. Control overwriting sequentially.
Further, according to the first memory control routine, the CPU is temporarily stored in the memory 15 when the JPEG data of the still image is not recorded on the recording medium 13 or after the JPEG data of the still image is recorded on the recording medium 13. The still image Bayer data and the AF detection data related to the image frame other than the still image are deleted from the memory 15.

第3画像フレーム特定ルーチンは、ぶれ量検出処理の検出結果に基づいて、電子撮像部2により撮像された複数の画像フレームのうち、画像ぶれ量が最も少ない画像フレームを特定する画像フレーム特定処理に係る機能をCPUに実現させるための命令群を含む。
具体的には、この第3画像フレーム特定ルーチンにより、CPUは、ユーザによるシャッターキーの操作時にメモリ15に一時的に記憶されている複数の静止画ベイヤデータのAF検波データを比較して、最もAF検波データの大きいフレームを画像ぶれ量が最も少ない最有力画像フレームとして特定する。そして、シャッターキーの操作後に順次撮像される画像フレームのAF検波データと最有力画像フレームのAF検波データを比較して、AF検波データのより大きいフレームを最有力画像フレームとして特定する。
The third image frame specifying routine is an image frame specifying process for specifying an image frame with the smallest image blur amount among a plurality of image frames captured by the electronic imaging unit 2 based on the detection result of the blur amount detecting process. A group of instructions for causing the CPU to realize such a function is included.
Specifically, the third image frame specifying routine allows the CPU to compare the AF detection data of a plurality of still image Bayer data temporarily stored in the memory 15 when the user operates the shutter key, A frame with a large detection data is identified as the most prominent image frame with the smallest image blur amount. Then, the AF detection data of the image frames sequentially captured after the operation of the shutter key is compared with the AF detection data of the most prominent image frame, and a frame having a larger AF detection data is specified as the most prominent image frame.

図13〜図15は、撮像装置の全体の動作を説明するためのフローチャートであるとともに、プログラムメモリに記憶されたプログラムのアルゴリズム構造を示すフローチャートである。実際に使用するCPUに対応した具体的なプログラムコードの記載は省略するが、このフローチャート(アルゴリズム構造)に基づいて適宜設計すればよい。   FIGS. 13 to 15 are flowcharts for explaining the overall operation of the imaging apparatus, and are flowcharts showing the algorithm structure of the program stored in the program memory. Description of specific program code corresponding to the CPU to be actually used is omitted, but it may be designed as appropriate based on this flowchart (algorithm structure).

次に、静止画取得動画記録処理について図13及び図14を参照して説明する。
図13及び図14は、実施形態2の撮像装置による静止画取得動画記録処理に係る動作の一例を示すフローチャートである。
Next, still image acquisition moving image recording processing will be described with reference to FIGS.
13 and 14 are flowcharts illustrating an example of an operation related to a still image acquisition moving image recording process performed by the imaging apparatus according to the second embodiment.

静止画取得動画記録処理は、変形例1の撮像装置200による静止画撮影処理と同様に、動画記録処理を実行中に、静止画像の撮影が指示された場合に実行される処理である。   The still image acquisition moving image recording process is a process that is executed when a still image shooting is instructed during the moving image recording process, as in the still image shooting process performed by the imaging apparatus 200 of the first modification.

具体的には、図13に示すように、変形例1の静止画撮影処理と同様に、ユーザによる操作入力部14のシャッターキーの所定操作に基づいて静止画像の撮影が指示されると(ステップS201;YES)、CPUは、当該撮像装置の各部を制御して動作モードを「静止画取得」に設定する(ステップS202)。
続けて、前処理部3は、変形例1の動画記録処理と同様に、電子撮像部2から出力され入力された画像データに対して基本的な信号処理を行って3200×2400画素のベイヤデータを生成して、ベイヤ縮小部4及びメモリ15に出力するとともに、画像データに対して各種処理を行って、輝度信号に相当するAF検波用信号を生成して、AF検波部5に出力する(ステップS203)。
Specifically, as shown in FIG. 13, as in the still image shooting process of the first modification, when the user gives an instruction to take a still image based on a predetermined operation of the shutter key of the operation input unit 14 (step 1). (S201; YES), the CPU controls each part of the imaging apparatus to set the operation mode to “still image acquisition” (step S202).
Subsequently, the pre-processing unit 3 performs basic signal processing on the image data output from the electronic imaging unit 2 and inputs Bayer data of 3200 × 2400 pixels, similarly to the moving image recording processing of the first modification. Generate and output to the Bayer reduction unit 4 and the memory 15, perform various processing on the image data, generate an AF detection signal corresponding to the luminance signal, and output to the AF detection unit 5 (step) S203).

AF検波部5は、変形例1の静止画撮影処理と同様に、AF検波用信号を用いてAF検波処理を行って、AF検波データをメモリ15に出力する(ステップS204)。
続けて、CPUは、第1メモリ制御ルーチンにより、メモリ15のリングバッファに画像フレームの静止画ベイヤデータ及びAF検波データを撮像順に対応付けて記憶させる処理を行う(ステップS205)。このとき、CPUは、メモリ15のリンクバッファの記憶容量が一杯になった時点から最も古いデータに順次上書きするように制御する。
The AF detection unit 5 performs AF detection processing using the AF detection signal and outputs AF detection data to the memory 15 in the same manner as in the still image shooting processing of Modification 1 (step S204).
Subsequently, the CPU performs a process of storing still image Bayer data and AF detection data of an image frame in association with the imaging order in the ring buffer of the memory 15 by the first memory control routine (step S205). At this time, the CPU performs control so that the oldest data is sequentially overwritten from when the storage capacity of the link buffer of the memory 15 becomes full.

ステップS205以降の処理は、図5に示す実施形態1の静止画撮影処理と略同様である。
即ち、ベイヤ縮小部4は、静止画撮影処理と同様に、3200×2400画素のベイヤデータに対して縮小処理を行って、800×600画素の縮小ベイヤデータを生成して、メモリ15に出力する(ステップS206)。
The processing after step S205 is substantially the same as the still image shooting processing of the first embodiment shown in FIG.
That is, the Bayer reduction unit 4 performs the reduction process on the 3200 × 2400 pixel Bayer data, generates 800 × 600 pixel reduced Bayer data, and outputs it to the memory 15 as in the still image shooting process (Step S1). S206).

次に、画像生成部7は、静止画撮影処理と同様に、縮小ベイヤデータからYUVデータを生成した後、続けて、解像度変換部8は、モニタリング用の320×240画素の表示YUVデータと、動画記録用の640×480画素の動画YUVデータを生成して、メモリ15に出力する(ステップS207)。   Next, the image generation unit 7 generates YUV data from the reduced Bayer data in the same manner as the still image shooting process, and then the resolution conversion unit 8 continues to display 320 × 240 pixel display YUV data for monitoring, The moving image YUV data of 640 × 480 pixels for recording is generated and output to the memory 15 (step S207).

次に、表示制御部10は、静止画撮影処理と同様に、表示YUVデータをメモリ15格納順に逐次読み出して、表示部11に出力していくことで表示画面を更新する(ステップS208)。
次に、CPUは、静止画撮影処理と同様に、画像生成部7及び解像度変換部8を経て生成された動画YUVデータがメモリ15に格納されているか否かを判定して(ステップS209)、動画YUVデータが格納されていると判定されると(ステップS209;YES)、CODEC9は、動画YUVデータをM−JPEG形式により符号化して640×480画素のM−JPEGデータを生成する符号化処理を行う(ステップS20A)。
Next, similarly to the still image shooting process, the display control unit 10 sequentially reads the display YUV data in the storage order of the memory 15 and outputs the data to the display unit 11 to update the display screen (step S208).
Next, the CPU determines whether the moving image YUV data generated through the image generation unit 7 and the resolution conversion unit 8 is stored in the memory 15 as in the still image shooting process (step S209). When it is determined that moving image YUV data is stored (step S209; YES), the CODEC 9 encodes the moving image YUV data in the M-JPEG format to generate M-JPEG data of 640 × 480 pixels. Is performed (step S20A).

次に、CPUは、静止画撮影処理と同様に、符号化処理にて生成されたM−JPEGデータがあるか否かを判定して(ステップS20B)、M−JPEGデータがあると判定されると(ステップS20B;YES)、動画記録制御ルーチンにより、記録媒体制御部12は、CODEC9によりM―JPEG形式で符号化されたM−JPEGデータを取得して記録媒体13に記録させる(ステップS20C)。   Next, the CPU determines whether there is M-JPEG data generated by the encoding process (step S20B), as in the still image shooting process, and determines that there is M-JPEG data. (Step S20B; YES), according to the moving image recording control routine, the recording medium control unit 12 acquires the M-JPEG data encoded in the M-JPEG format by the CODEC 9 and records it on the recording medium 13 (Step S20C). .

そして、図14に示すように、CPUは、メモリ15の静止画撮影カウンタが10であるか否かを判定する(ステップS20D)。ここで、静止画撮影カウンタが10であると判定されると(ステップS20D;YES)、CPUは、第2ぶれ量検出ルーチンにより、ユーザによるシャッターキーの操作時にメモリ15に一時的に記憶されている5フレーム分の静止画データセットのAF検波データを画像ぶれ量として検出するぶれ量検出処理を行う。続けて、CPUは、第3画像フレーム特定ルーチンにより、5フレーム分の静止画データセットのAF検波データを比較して、最もAF検波データの大きいフレームを画像ぶれ量が最も少ない最有力画像フレームとして特定する。そして、CPUは、最有力画像フレームに係る静止画データセットを最有力データセットとして上書き禁止フラグを設定する(ステップS20E)。
その後、CPUは、メモリ15の静止画撮影カウンタ(図示略)を5減算する処理を行って(ステップS20F)、ステップS203に戻り、それ以降の処理を繰り返し実行する。
Then, as shown in FIG. 14, the CPU determines whether or not the still image shooting counter in the memory 15 is 10 (step S20D). If it is determined that the still image shooting counter is 10 (step S20D; YES), the CPU is temporarily stored in the memory 15 when the user operates the shutter key by the second shake amount detection routine. A blur amount detection process for detecting the AF detection data of the still image data set for five frames as the image blur amount is performed. Subsequently, the CPU compares the AF detection data of the still image data set for five frames by the third image frame specifying routine, and sets the frame with the largest AF detection data as the most prominent image frame with the smallest image blur amount. Identify. Then, the CPU sets an overwrite prohibition flag with the still image data set relating to the most prominent image frame as the most prominent data set (step S20E).
Thereafter, the CPU performs a process of subtracting 5 from a still image shooting counter (not shown) in the memory 15 (step S20F), returns to step S203, and repeatedly executes the subsequent processes.

一方、ステップS20Dにて、静止画撮影カウンタが10ではないと判定されると(ステップS20D;NO)、CPUは、第2ぶれ量検出ルーチンにより、シャッターキーの操作後に順次メモリ15に一時的に記憶される静止画データセットのうち、直前の静止画データセットのAF検波データを画像ぶれ量として検出するぶれ量検出処理を行う。続けて、CPUは、第3画像フレーム特定ルーチンにより、直前の静止画データセットのAF検波データと、最有力画像フレームのAF検波データを比較して、AF検波データのより大きいフレームを最有力画像フレームとして特定する。そして、CPUは、最有力画像フレームに係る静止画データセットを最有力データセットとして上書き禁止フラグを設定する(ステップS20G)。
その後、CPUは、メモリ15の静止画撮影カウンタ(図示略)を1減算する処理を行った後(ステップS20H)、実施形態1の静止画撮影処理と同様に、メモリ15の静止画撮影カウンタが0であるか否かを判定する(ステップS20I)。ここで、静止画撮影カウンタが0でないと判定されると(ステップS20I;NO)、ステップS203に戻り、それ以降の処理を繰り返し実行する。
一方、ステップS20Iにて、静止画撮影カウンタが0であると判定されると(ステップS20I;YES)、CPUは、実施形態1の静止画撮影処理と同様に、当該撮像装置の各部を制御して動作モードを「録画記録」に設定して、静止画取得動画記録動作を終了する(ステップS20J)。
On the other hand, if it is determined in step S20D that the still image shooting counter is not 10 (step S20D; NO), the CPU temporarily stores data in the memory 15 sequentially after the operation of the shutter key by the second blur detection routine. Among the stored still image data sets, blur amount detection processing is performed for detecting AF detection data of the immediately preceding still image data set as an image blur amount. Subsequently, the CPU compares the AF detection data of the immediately preceding still image data set with the AF detection data of the most prominent image frame by the third image frame specifying routine, and determines a frame having a larger AF detection data as the dominant image. Identifies as a frame. Then, the CPU sets an overwriting prohibition flag with the still image data set relating to the most prominent image frame as the most prominent data set (step S20G).
After that, the CPU performs a process of subtracting 1 from a still image shooting counter (not shown) in the memory 15 (step S20H), and then the still image shooting counter in the memory 15 stores the same as the still image shooting process in the first embodiment. It is determined whether it is 0 (step S20I). If it is determined that the still image shooting counter is not 0 (step S20I; NO), the process returns to step S203, and the subsequent processing is repeatedly executed.
On the other hand, if it is determined in step S20I that the still image shooting counter is 0 (step S20I; YES), the CPU controls each unit of the imaging apparatus, similarly to the still image shooting process of the first embodiment. Then, the operation mode is set to “recording recording”, and the still image acquisition moving image recording operation is ended (step S20J).

次に、静止画記録処理について図15を参照して説明する。
図15は、実施形態2の撮像装置による静止画記録処理に係る動作の一例を示すフローチャートである。
Next, the still image recording process will be described with reference to FIG.
FIG. 15 is a flowchart illustrating an example of an operation related to a still image recording process performed by the imaging apparatus according to the second embodiment.

実施形態2の撮像装置による静止画記録処理は、実施形態1の撮像装置100による静止画記録処理と同様に、静止画取得動画記録処理の終了後、静止画撮影回数カウンタが1以上である、即ち、静止画を撮影済みと判定された場合に実行される処理である。   In the still image recording process performed by the imaging apparatus according to the second embodiment, the still image capturing number counter is 1 or more after the still image acquisition moving image recording process is completed, similarly to the still image recording process performed by the imaging apparatus 100 according to the first embodiment. That is, this process is executed when it is determined that a still image has been taken.

具体的には、図15に示すように、先ず、画像生成部7は、最後に残った最有力データセットの静止画ベイヤデータを取得した後(ステップS211)、当該静止画ベイヤデータから3200×2400画素の静止画YUVデータを生成した後、解像度変換部8により最大3200×2400画素の静止画YUVデータに変換してメモリ15に出力する(ステップS212)。   Specifically, as illustrated in FIG. 15, first, the image generation unit 7 acquires the still image Bayer data of the most significant remaining data set (step S211), and then 3200 × 2400 pixels from the still image Bayer data. After the still image YUV data is generated, the resolution conversion unit 8 converts the still image YUV data into still image YUV data having a maximum of 3200 × 2400 pixels and outputs the still image YUV data to the memory 15 (step S212).

ステップS212以降の処理は、図12に示す変形例1の静止画記録処理と略同様である。
即ち、CODEC9は、メモリ15に格納された静止画YUVデータを取得して、当該静止画YUVデータをJPEG形式により符号化して3200×2400画素のJPEGデータを生成する符号化処理を行う(ステップS213)。
次に、静止画記録制御ルーチンにより、記録媒体制御部12は、CODEC9によりJPEG形式で符号化されたJPEGデータを取得して静止画像として記録媒体13に記録させる(ステップS214)。
The processing after step S212 is substantially the same as the still image recording processing of the first modification shown in FIG.
That is, the CODEC 9 performs the encoding process of acquiring the still image YUV data stored in the memory 15 and encoding the still image YUV data in the JPEG format to generate JPEG data of 3200 × 2400 pixels (step S213). ).
Next, according to the still image recording control routine, the recording medium control unit 12 acquires JPEG data encoded in the JPEG format by the CODEC 9 and records it on the recording medium 13 as a still image (step S214).

以上のように、実施形態2の撮像装置によれば、実施形態1と同様の効果を得ることができるのは無論のこと、動画像を記録する際に、電子撮像部2により生成された複数の画像フレームの中で、各画像フレームのAF検波データに基づいて画像ぶれが最も少ない画像フレームを取得することができる。具体的には、シャッターキーの操作前から静止画記録動作を続けるので、シャッターキー操作前を含めた期間から当該シャッターキーの操作タイミングに最も近く、且つ、最もぶれの少ない静止画像を取得することができる。   As described above, according to the imaging apparatus of the second embodiment, it is needless to say that the same effect as that of the first embodiment can be obtained, and a plurality of images generated by the electronic imaging unit 2 when recording a moving image. Among the image frames, an image frame with the least image blur can be acquired based on the AF detection data of each image frame. Specifically, since the still image recording operation is continued before the operation of the shutter key, the still image that is closest to the operation timing of the shutter key and has the least blur is acquired from the period including the time before the operation of the shutter key. Can do.

また、記録媒体13に静止画像のJPEGデータの記録後に、メモリ15に一時的に記憶されている当該静止画像以外の画像フレームに係る静止画ベイヤデータやAF検波データをメモリ15から消去させる。即ち、静止画撮影動作中に画像ぶれの評価を行ってシャッターキーの一操作に対して1フレーム分のみの静止画ベイヤデータをメモリ15上に残すようにしたので、同じメモリ15容量で動画記録中により多くの静止画撮影を行うことができる。   Further, after the JPEG data of the still image is recorded on the recording medium 13, the still image Bayer data and the AF detection data related to the image frames other than the still image temporarily stored in the memory 15 are deleted from the memory 15. That is, image blur is evaluated during still image shooting operation, and still image Bayer data for only one frame is left in the memory 15 for one operation of the shutter key. More still image shooting can be performed.

<変形例2>
以下に、変形例2の撮像装置について、図16及び図17を参照して説明する。
変形例2の撮像装置は、図16及び図17に示すように、静止画取得動画記録処理にて、AF検波データに加えてジャイロデータを用いて画像ぶれが最も少ない画像フレームを特定する。
なお、変形例2の撮像装置は、静止画取得動画記録処理の際にAF検波データ及びジャイロデータを用いる以外の点で上記実施形態2の撮像装置と略同様の構成をなし、その説明は省略する。
<Modification 2>
Hereinafter, an imaging apparatus according to Modification 2 will be described with reference to FIGS. 16 and 17.
As illustrated in FIGS. 16 and 17, the imaging apparatus according to the second modification uses the gyro data in addition to the AF detection data to identify the image frame with the least image blur in the still image acquisition moving image recording process.
Note that the imaging apparatus according to the second modification has substantially the same configuration as the imaging apparatus according to the second embodiment except that AF detection data and gyro data are used in the still image acquisition moving image recording process, and the description thereof is omitted. To do.

プログラムメモリに記憶されているプログラムは、図示は省略するが、露光時間設定制御ルーチン、動画記録制御ルーチン、静止画記録制御ルーチンに加えて、第3ぶれ量検出ルーチン、第2メモリ制御ルーチン、第4画像フレーム特定ルーチンを含む。   Although not shown, the program stored in the program memory includes a third blur detection routine, a second memory control routine, a second memory control routine, an exposure time setting control routine, a moving image recording control routine, and a still image recording control routine. 4 image frame identification routine is included.

第3ぶれ量検出ルーチンは、CPUをぶれ量検出手段として機能させるプログラム部分である。即ち、第3ぶれ量検出ルーチンは、電子撮像部2により撮像された複数の画像フレームの各々における画像ぶれ量を検出するぶれ量検出処理に係る機能をCPUに実現させるための命令群を含む。
具体的には、この第3ぶれ量検出ルーチンにより、CPUは、複数の画像フレームの各々に対応するジャイロモジュール6の検出結果に基づいて、当該複数の画像フレームの各々におけるジャイロ最大変位(ジャイロデータ最大値と最小値の差分)を画像ぶれ量として算出したり、AF検波部5により算出された複数の画像フレームの各々に対応するAF検波データを画像ぶれ量として検出する。
The third shake amount detection routine is a program portion that causes the CPU to function as a shake amount detection means. That is, the third blur amount detection routine includes a command group for causing the CPU to realize a function related to the blur amount detection process for detecting the amount of image blur in each of a plurality of image frames captured by the electronic imaging unit 2.
Specifically, in the third blur amount detection routine, the CPU determines the maximum gyro displacement (gyro data in each of the plurality of image frames) based on the detection result of the gyro module 6 corresponding to each of the plurality of image frames. The difference between the maximum value and the minimum value) is calculated as an image blur amount, or AF detection data corresponding to each of a plurality of image frames calculated by the AF detection unit 5 is detected as an image blur amount.

第2メモリ制御ルーチンは、メモリ15に対するデータの記録や消去を制御する処理に係る機能をCPUに実現させるための命令群を含む。
ここで、メモリ15は、例えば、5フレーム分の画像フレームを一時記憶することができるリングバッファを備え、電子撮像部2により生成された複数の画像フレームを一時的に記憶する一時記憶手段を構成している。
そして、第2メモリ制御ルーチンにより、CPUは、メモリ15のリングバッファに画像フレームの静止画ベイヤデータ、ジャイロデータ及びAF検波データを撮像順に記憶していき、記憶容量が一杯になった時点から最も古いデータに順次上書きするように制御する。
また、第2メモリ制御ルーチンにより、CPUは、記録媒体13に静止画像のJPEGデータの記録を行わない場合や、記録媒体13に静止画像のJPEGデータの記録後に、メモリ15に一時的に記憶されている当該静止画像以外の画像フレームに係る静止画ベイヤデータやジャイロデータやAF検波データをメモリ15から消去させる。
The second memory control routine includes a group of instructions for causing the CPU to realize a function related to processing for controlling recording and erasing of data with respect to the memory 15.
Here, the memory 15 includes, for example, a ring buffer that can temporarily store image frames for five frames, and constitutes a temporary storage unit that temporarily stores a plurality of image frames generated by the electronic imaging unit 2. is doing.
Then, according to the second memory control routine, the CPU stores still image Bayer data, gyro data, and AF detection data of the image frame in the ring buffer of the memory 15 in the order of imaging, and is the oldest when the storage capacity becomes full. Control to overwrite data sequentially.
Further, according to the second memory control routine, the CPU temporarily stores the JPEG data of the still image on the recording medium 13 or temporarily stores it in the memory 15 after recording the JPEG data of the still image on the recording medium 13. Still image Bayer data, gyro data, and AF detection data relating to image frames other than the still image are deleted from the memory 15.

第4画像フレーム特定ルーチンは、ぶれ量検出処理の検出結果に基づいて、電子撮像部2により撮像された複数の画像フレームのうち、画像ぶれ量が最も少ない画像フレームを特定する画像フレーム特定処理に係る機能をCPUに実現させるための命令群を含む。
具体的には、第4画像フレーム特定ルーチンにより、CPUは、ユーザによるシャッターキーの操作時にメモリ15に一時的に記憶されている複数の静止画ベイヤデータのAF検波データが異なる場合には、最もAF検波データの大きいフレームを画像ぶれ量が最も少ない最有力画像フレームとして特定する一方で、AF検波データが略等しい場合には、複数の画像フレームの各々のジャイロ最大変位を比較して、最もジャイロ最大変位の小さいフレームを画像ぶれ量が最も少ない画像フレームとして特定する。そして、シャッターキーの操作後に順次撮像される画像フレームのAF検波データと最有力画像フレームのAF検波データを比較して、AF検波データのより大きいフレームを最有力画像フレームとして特定する一方で、順次撮像される画像フレームのAF検波データと最有力画像フレームのAF検波データが略等しい場合には、順次撮像される画像フレームのジャイロ最大変位と最有力画像フレームのジャイロ最大変位を比較して、ジャイロ最大変位のより小さいフレームを最有力画像フレームとして特定する。
The fourth image frame specifying routine is an image frame specifying process for specifying an image frame with the smallest image blur amount among a plurality of image frames captured by the electronic imaging unit 2 based on the detection result of the blur amount detecting process. A group of instructions for causing the CPU to realize such a function is included.
Specifically, according to the fourth image frame specifying routine, when the AF detection data of the plurality of still image Bayer data temporarily stored in the memory 15 is different when the user operates the shutter key, the most AF is performed. While the frame having the largest detection data is identified as the most prominent image frame with the smallest image blur amount, and the AF detection data is substantially equal, the maximum gyro displacement of each of the plurality of image frames is compared, and the largest gyro maximum A frame with a small displacement is specified as an image frame with the smallest image blur amount. Then, the AF detection data of the image frame sequentially captured after the operation of the shutter key is compared with the AF detection data of the most prominent image frame, and a frame having a larger AF detection data is identified as the most prominent image frame, while sequentially When the AF detection data of the captured image frame and the AF detection data of the most prominent image frame are substantially equal, the maximum gyro displacement of the sequentially captured image frame is compared with the maximum gyro displacement of the most prominent image frame. A frame having a smaller maximum displacement is identified as the most prominent image frame.

図16、図17は、撮像装置の全体の動作を説明するためのフローチャートであるとともに、プログラムメモリに記憶されたプログラムのアルゴリズム構造を示すフローチャートである。実際に使用するCPUに対応した具体的なプログラムコードの記載は省略するが、このフローチャート(アルゴリズム構造)に基づいて適宜設計すればよい。   FIGS. 16 and 17 are flowcharts for explaining the overall operation of the imaging apparatus, and are flowcharts showing the algorithm structure of the program stored in the program memory. Description of specific program code corresponding to the CPU to be actually used is omitted, but it may be designed as appropriate based on this flowchart (algorithm structure).

次に、静止画取得動画記録処理について図16及び図17を参照して説明する。
図16及び図17は、変形例2の撮像装置による静止画取得動画記録処理に係る動作の一例を示すフローチャートである。
Next, still image acquisition moving image recording processing will be described with reference to FIGS.
16 and 17 are flowcharts illustrating an example of an operation related to a still image acquisition moving image recording process performed by the imaging apparatus according to the second modification.

静止画取得動画記録処理は、実施形態2の撮像装置による静止画撮影処理と同様に、動画記録処理を実行中に、静止画像の撮影が指示された場合に実行される処理である。
また、静止画取得動画記録処理のうち、下記に詳細に説明する処理以外の処理は、実施形態2の撮像装置による静止画取得動画記録処理と略同様となっている。
The still image acquisition moving image recording process is a process that is executed when shooting of a still image is instructed during the moving image recording process, similarly to the still image shooting process performed by the imaging apparatus of the second embodiment.
Also, among the still image acquisition moving image recording processing, processing other than the processing described in detail below is substantially the same as the still image acquisition moving image recording processing by the imaging apparatus of the second embodiment.

具体的には、図16に示すように、変形例1の静止画撮影処理と同様に、ユーザによる操作入力部14のシャッターキーの所定操作に基づいて静止画像の撮影が指示されると(ステップS301;YES)、CPUは、当該撮像装置100の各部を制御して動作モードを「静止画取得」に設定する(ステップS302)。
続けて、前処理部3は、実施形態1の静止画撮影処理と同様に、電子撮像部2から出力され入力された画像データに対して基本的な信号処理を行って3200×2400画素のベイヤデータを生成して、ベイヤ縮小部4及びメモリ15に出力するとともに、画像データに対して各種処理を行って、輝度信号に相当するAF検波用信号を生成して、AF検波部5に出力する。さらに、ベイヤデータ及びAF検波用信号の生成・出力に同期して、ジャイロモジュール6は、撮像装置本体の回転を検出して、ジャイロデータをメモリ15に出力する(ステップS303)。
Specifically, as shown in FIG. 16, as in the still image shooting process of the first modification, when the user gives an instruction to take a still image based on a predetermined operation of the shutter key of the operation input unit 14 (step 1). (S301; YES), the CPU controls each part of the imaging apparatus 100 to set the operation mode to “still image acquisition” (step S302).
Subsequently, the pre-processing unit 3 performs basic signal processing on the input image data output from the electronic imaging unit 2 and performs Bayer data of 3200 × 2400 pixels, as in the still image shooting process of the first embodiment. Is generated and output to the Bayer reduction unit 4 and the memory 15, and various processes are performed on the image data to generate an AF detection signal corresponding to the luminance signal and output to the AF detection unit 5. Further, in synchronization with the generation and output of the Bayer data and the AF detection signal, the gyro module 6 detects the rotation of the imaging device main body and outputs the gyro data to the memory 15 (step S303).

AF検波部5は、変形例1の静止画撮影処理と同様に、AF検波用信号を用いてAF検波処理を行って、AF検波データをメモリ15に出力する(ステップS304)。
続けて、CPUは、第2メモリ制御ルーチンにより、メモリ15のリングバッファに画像フレームの静止画ベイヤデータ、AF検波データ及びジャイロデータを撮像順に対応付けて記憶させる処理を行う(ステップS305)。
The AF detection unit 5 performs AF detection processing using the AF detection signal and outputs AF detection data to the memory 15 as in the still image shooting processing of the first modification (step S304).
Subsequently, the CPU performs a process of storing the still image Bayer data, AF detection data, and gyro data of the image frame in the ring buffer of the memory 15 in association with each other in the imaging order by the second memory control routine (step S305).

図16に示すステップS305以降の処理は、図5に示す実施形態1の静止画撮影処理と略同様である。
即ち、ベイヤ縮小部4は、静止画撮影処理と同様に、3200×2400画素のベイヤデータに対して縮小処理を行って、800×600画素の縮小ベイヤデータを生成して、メモリ15に出力する(ステップS306)。
The processing after step S305 shown in FIG. 16 is substantially the same as the still image shooting processing of the first embodiment shown in FIG.
That is, the Bayer reduction unit 4 performs the reduction process on the 3200 × 2400 pixel Bayer data, generates 800 × 600 pixel reduced Bayer data, and outputs it to the memory 15 as in the still image shooting process (Step S1). S306).

次に、画像生成部7は、静止画撮影処理と同様に、縮小ベイヤデータからYUVデータを生成した後、続けて、解像度変換部8は、モニタリング用の320×240画素の表示YUVデータと、動画記録用の640×480画素の動画YUVデータを生成して、メモリ15に出力する(ステップS307)。   Next, the image generation unit 7 generates YUV data from the reduced Bayer data in the same manner as the still image shooting process, and then the resolution conversion unit 8 continues to display 320 × 240 pixel display YUV data for monitoring, The moving image YUV data of 640 × 480 pixels for recording is generated and output to the memory 15 (step S307).

次に、表示制御部10は、静止画撮影処理と同様に、表示YUVデータをメモリ15格納順に逐次読み出して、表示部11に出力していくことで表示画面を更新する(ステップS308)。
次に、CPUは、静止画撮影処理と同様に、画像生成部7及び解像度変換部8を経て生成された動画YUVデータがメモリ15に格納されているか否かを判定して(ステップS309)、動画YUVデータが格納されていると判定されると(ステップS309;YES)、CODEC9は、動画YUVデータをM−JPEG形式により符号化して640×480画素のM−JPEGデータを生成する符号化処理を行う(ステップS310)。
Next, the display control unit 10 updates the display screen by sequentially reading the display YUV data in the order of storage in the memory 15 and outputting it to the display unit 11 as in the still image shooting process (step S308).
Next, the CPU determines whether the moving image YUV data generated through the image generation unit 7 and the resolution conversion unit 8 is stored in the memory 15 as in the still image shooting process (step S309). If it is determined that moving image YUV data is stored (step S309; YES), the CODEC 9 encodes the moving image YUV data in the M-JPEG format to generate 640 × 480 pixel M-JPEG data. Is performed (step S310).

次に、CPUは、静止画撮影処理と同様に、符号化処理にて生成されたM−JPEGデータがあるか否かを判定して(ステップS311)、M−JPEGデータがあると判定されると(ステップS311;YES)、動画記録制御ルーチンにより、記録媒体制御部12は、CODEC9によりM―JPEG形式で符号化されたM−JPEGデータを取得して記録媒体13に記録させる(ステップS312)。   Next, as in the still image shooting process, the CPU determines whether there is M-JPEG data generated by the encoding process (step S311), and determines that there is M-JPEG data. (Step S311; YES), according to the moving image recording control routine, the recording medium control unit 12 acquires the M-JPEG data encoded in the M-JPEG format by the CODEC 9 and records it on the recording medium 13 (Step S312). .

そして、図17に示すように、CPUは、実施形態2の静止画取得動画記録処理と同様に、メモリ15の静止画撮影カウンタが10であるか否かを判定する(ステップS313)。ここで、静止画撮影カウンタが10であると判定されると(ステップS313;YES)、CPUは、第3ぶれ量検出ルーチンにより、ユーザによるシャッターキーの操作時にメモリ15に一時的に記憶されている5フレーム分の静止画データセットのAF検波データが所定のしきい値以下であるか否かを判定して(ステップS314)、しきい値以下であると判定された場合には(ステップS314;YES)、AF検波データ=0とする一方で(ステップS315)、しきい値以下ではないと判定された場合には(ステップS314;NO)、AF検波データの値をそのままの状態とする。
続けて、CPUは、第4画像フレーム特定ルーチンにより、5フレーム分の静止画データセットのAF検波データを比較して、これらのAF検波データが全て同じであるか否かを判定し(ステップS316)、全て同じではないと判定されると(ステップS316;NO)、5フレーム分の静止画データセットのAF検波データのうち、最もAF検波データの大きいフレームを画像ぶれ量が最も少ない最有力画像フレームとして特定する。そして、CPUは、最有力画像フレームに係る静止画データセットを最有力データセットとして上書き禁止フラグを設定する(ステップS317)。一方、ステップS316にて、AF検波データが全て同じであると判定されると(ステップS316;YES)、5フレーム分の静止画データセットの各々のジャイロデータを評価してジャイロ最大変位を画像ぶれ量として算出して、最もジャイロ最大変位の小さいフレームを画像ぶれ量が最も少ない最有力画像フレームとして特定する。そして、CPUは、最有力画像フレームに係る静止画データセットを最有力データセットとして上書き禁止フラグを設定する(ステップS318)。
その後、CPUは、実施形態2の静止画取得動画記録処理と同様に、メモリ15の静止画撮影カウンタ(図示略)を5減算する処理を行って(ステップS319)、ステップS303に戻り、それ以降の処理を繰り返し実行する。
Then, as shown in FIG. 17, the CPU determines whether or not the still image shooting counter in the memory 15 is 10 as in the still image acquisition moving image recording process of the second embodiment (step S313). If it is determined that the still image shooting counter is 10 (step S313; YES), the CPU is temporarily stored in the memory 15 when the user operates the shutter key by the third blur amount detection routine. It is determined whether or not the AF detection data of the still image data set for five frames is below a predetermined threshold value (step S314). If it is determined that the AF detection data is below the threshold value (step S314) ; YES), while AF detection data = 0 (step S315), if it is determined that it is not below the threshold (step S314; NO), the value of the AF detection data is left as it is.
Subsequently, the CPU compares the AF detection data of the still image data set for five frames by the fourth image frame specifying routine, and determines whether or not these AF detection data are all the same (step S316). ), It is determined that they are not all the same (step S316; NO), among the AF detection data of the still image data set for five frames, the most probable image with the smallest image blurring amount in the frame with the largest AF detection data. Identifies as a frame. Then, the CPU sets an overwrite prohibition flag with the still image data set relating to the most prominent image frame as the most prominent data set (step S317). On the other hand, if it is determined in step S316 that the AF detection data are all the same (step S316; YES), each gyro data of the still image data set for five frames is evaluated, and the maximum gyro displacement is detected. As a quantity, the frame with the smallest gyro maximum displacement is specified as the most prominent image frame with the smallest image blur amount. Then, the CPU sets the overwrite prohibition flag with the still image data set relating to the most prominent image frame as the most prominent data set (step S318).
After that, the CPU performs a process of subtracting 5 from a still image shooting counter (not shown) in the memory 15 (step S319), and returns to step S303, as in the still image acquisition moving image recording process of the second embodiment. Repeat the process.

一方、ステップS313にて、静止画撮影カウンタが10ではないと判定されると(ステップS313;NO)、CPUは、第3ぶれ量検出ルーチンにより、シャッターキーの操作後に順次メモリ15に一時的に記憶される静止画データセットのうち、直前の静止画データセットのAF検波データが所定のしきい値以下であるか否かを判定して(ステップS320)、しきい値以下であると判定された場合には(ステップS320;YES)、AF検波データ=0とする一方で(ステップS321)、しきい値以下ではないと判定された場合には(ステップS320;NO)、AF検波データの値をそのままの状態とする。
続けて、CPUは、第4画像フレーム特定ルーチンにより、5フレーム分の静止画データセットのAF検波データを比較して、直前の静止画データセットのAF検波データと、最有力画像フレームのAF検波データを比較して、これらのAF検波データが同じであるか否かを判定し(ステップS322)、同じではないと判定されると(ステップS322;NO)、AF検波データのより大きいフレームを最有力画像フレームとして特定する。そして、CPUは、最有力画像フレームに係る静止画データセットを最有力データセットとして上書き禁止フラグを設定する(ステップS323)。一方、ステップS322にて、AF検波データが同じであると判定されると(ステップS322;YES)、直前の画像フレームの静止画データセットのジャイロデータを評価してジャイロ最大変位を画像ぶれ量として算出して、最有力画像フレームのジャイロ最大変位と比較して、ジャイロ最大変位のより小さいフレームを最有力画像フレームとして特定する。そして、CPUは、最有力画像フレームに係る静止画データセットを最有力データセットとして上書き禁止フラグを設定する(ステップS324)。
その後、CPUは、メモリ15の静止画撮影カウンタ(図示略)を1減算する処理を行った後(ステップS325)、実施形態1の静止画撮影処理と同様に、メモリ15の静止画撮影カウンタが0であるか否かを判定する(ステップS326)。ここで、静止画撮影カウンタが0でないと判定されると(ステップS326;NO)、ステップS303に戻り、それ以降の処理を繰り返し実行する。
一方、ステップS326にて、静止画撮影カウンタが0であると判定されると(ステップS326;YES)、CPUは、実施形態1の静止画撮影処理と同様に、当該撮像装置100の各部を制御して動作モードを「録画記録」に設定して、静止画取得動画記録動作を終了する(ステップS327)。
On the other hand, if it is determined in step S313 that the still image shooting counter is not 10 (step S313; NO), the CPU temporarily stores the memory 15 sequentially after the operation of the shutter key by the third blur amount detection routine. Of the stored still image data sets, it is determined whether or not the AF detection data of the immediately preceding still image data set is equal to or less than a predetermined threshold value (step S320), and is determined to be equal to or less than the threshold value. If it is determined (step S320; YES), the AF detection data is set to 0 (step S321). If it is determined that it is not less than the threshold value (step S320; NO), the value of the AF detection data is determined. Is as it is.
Subsequently, the CPU compares the AF detection data of the still image data set for five frames with the fourth image frame specifying routine, and the AF detection data of the most recent still image data set and the AF detection of the most prominent image frame. The data are compared to determine whether or not these AF detection data are the same (step S322). If it is determined that they are not the same (step S322; NO), the larger frame of the AF detection data is selected. It is specified as a leading image frame. Then, the CPU sets the overwrite prohibition flag with the still image data set relating to the most prominent image frame as the most prominent data set (step S323). On the other hand, if it is determined in step S322 that the AF detection data is the same (step S322; YES), the gyro data of the still image data set of the immediately preceding image frame is evaluated, and the maximum gyro displacement is used as the image blur amount. The frame having the smaller gyro maximum displacement is identified as the most powerful image frame by calculating and comparing with the maximum gyro displacement of the most powerful image frame. Then, the CPU sets an overwrite prohibition flag with the still image data set relating to the most prominent image frame as the most prominent data set (step S324).
After that, the CPU performs a process of subtracting 1 from a still image shooting counter (not shown) in the memory 15 (step S325), and then the still image shooting counter in the memory 15 performs a process similar to the still image shooting process of the first embodiment. It is determined whether it is 0 (step S326). If it is determined that the still image shooting counter is not 0 (step S326; NO), the process returns to step S303, and the subsequent processing is repeatedly executed.
On the other hand, if it is determined in step S326 that the still image shooting counter is 0 (step S326; YES), the CPU controls each unit of the imaging apparatus 100 as in the still image shooting process of the first embodiment. Then, the operation mode is set to “recording recording”, and the still image acquisition moving image recording operation is ended (step S327).

変形例2の撮像装置による静止画記録処理は、実施形態2の撮像装置による静止画記録処理と同様に、静止画取得動画記録処理の終了後、静止画撮影回数カウンタが1以上である、即ち、静止画を撮影済みと判定された場合に実行される処理である。
また、変形例2の撮像装置による静止画記録処理は、実施形態2の撮像装置による静止画記録処理と略同様となっており、その詳細な説明は省略する。
In the still image recording process by the imaging apparatus of the second modification, the still image shooting number counter is 1 or more after the still image acquisition moving image recording process is completed, as in the still image recording process by the imaging apparatus of the second embodiment. This process is executed when it is determined that a still image has been taken.
The still image recording process performed by the imaging apparatus according to the second modification is substantially the same as the still image recording process performed by the imaging apparatus according to the second embodiment, and a detailed description thereof is omitted.

従って、変形例2の撮像装置によれば、実施形態1と同様の効果を得ることができるのは無論のこと、静止画取得動画記録処理にて、AF検波データが所定のしきい値より小さい場合は、ジャイロデータを画像ぶれ量の評価に用いることにより、撮影環境が明るいなど撮影条件の良い場合には被写体ぶれの少ない画像を取得することができ、撮影環境が暗いなど撮影条件が厳しい場合であっても、手ぶれの少ない画像を取得することができる。
また、シャッターキーの操作前から静止画記録動作を続けるので、シャッターキー操作前を含めた期間から当該シャッターキーの操作タイミングに最も近く、且つ、最もぶれの少ない静止画像を取得することができる。
Therefore, according to the imaging apparatus of the second modification, it is needless to say that the same effect as in the first embodiment can be obtained, and AF detection data is smaller than a predetermined threshold value in the still image acquisition moving image recording process. If the shooting conditions are severe, such as when the shooting environment is dark, the gyro data can be used to evaluate the amount of image blur so that images with less subject blur can be obtained when the shooting conditions are good, such as a bright shooting environment. Even so, it is possible to obtain an image with little camera shake.
Further, since the still image recording operation is continued before the shutter key is operated, it is possible to acquire a still image that is closest to the operation timing of the shutter key and has the least blur from the period including the time before the shutter key is operated.

<変形例3>
変形例3の撮像装置は、静止画取得動画記録処理にて、ユーザによりシャッターキーが半押し操作されると、前処理部3からの静止画ベイヤデータの出力、AF検波データやジャイロデータの出力を開始して、当該静止画ベイヤデータとAF検波データ及びジャイロデータの対応付けを行う。
なお、変形例3の撮像装置は、シャッターキーの半押し操作に基づいて前処理部3からの静止画ベイヤデータの出力、AF検波データやジャイロデータの出力を開始して、これらデータの対応付けを行う以外の点で上記変形例2の撮像装置と略同様の構成をなし、その説明は省略する。
<Modification 3>
In the still image acquisition moving image recording process, the imaging apparatus of Modification 3 outputs still image Bayer data from the preprocessing unit 3, AF detection data, and gyro data when the user presses the shutter key halfway. First, the still image Bayer data is associated with AF detection data and gyro data.
Note that the imaging apparatus according to the third modification starts outputting still image Bayer data, AF detection data, and gyro data from the preprocessing unit 3 based on a half-press operation of the shutter key, and associates these data with each other. Except for this point, the configuration is substantially the same as that of the imaging device of Modification 2 described above, and a description thereof is omitted.

即ち、シャッターキーは、例えば、半押し操作及び全押し操作の2段階の押圧操作が可能に構成され、各操作段階に応じた所定の操作信号を出力する。具体的には、シャッターキーは、ユーザにより半押し操作された場合に、静止画取得動画記録処理にて、前処理部3からの静止画ベイヤデータの出力開始やAF検波部5からのAF検波データの出力開始やジャイロモジュール6からのジャイロデータの出力開始の実行指示を出力する一方で、ユーザにより全押し操作された場合に、静止画取得動画記録処理にて、電子撮像部2により撮像される被写体の静止画像の記録指示を出力する。   That is, the shutter key is configured to be capable of two-stage pressing operation, for example, a half-pressing operation and a full-pressing operation, and outputs a predetermined operation signal corresponding to each operation step. Specifically, when the shutter key is pressed halfway by the user, in the still image acquisition moving image recording process, the output start of the still image Bayer data from the preprocessing unit 3 or the AF detection data from the AF detection unit 5 is performed. In response to a full-press operation by the user, the electronic imaging unit 2 captures an image in the still image acquisition moving image recording process. An instruction to record a still image of the subject is output.

また、プログラムメモリに記憶されているプログラムは、図示は省略するが、露光時間設定制御ルーチン、動画記録制御ルーチン、静止画記録制御ルーチン、第3ぶれ量検出ルーチン、第2メモリ制御ルーチン、第4画像フレーム特定ルーチンに加えて、第1制御ルーチンを含む。   The program stored in the program memory is not shown, but the exposure time setting control routine, moving image recording control routine, still image recording control routine, third blur amount detection routine, second memory control routine, fourth In addition to the image frame specifying routine, a first control routine is included.

第1制御ルーチンは、静止画取得動画記録処理にて、ユーザによりシャッターキーが操作される前は、前処理部3からの静止画ベイヤデータの出力やAF検波部5からのAF検波データの出力やジャイロモジュール6からのジャイロデータの出力を停止させ、ユーザによるシャッターキーの半押し操作に基づいて、前処理部3に対して静止画ベイヤデータの出力開始や、AF検波部5に対してAF検波データの出力開始やジャイロモジュール6に対してジャイロデータの出力開始の実行指示を出力する処理に係る機能をCPUに実現させるための命令群を含む。   In the first control routine, before the shutter key is operated by the user in the still image acquisition moving image recording process, the output of still image Bayer data from the preprocessing unit 3 or the output of AF detection data from the AF detection unit 5 The output of the gyro data from the gyro module 6 is stopped, and based on the half-pressing operation of the shutter key by the user, the output of the still image Bayer data to the preprocessing unit 3 is started, or the AF detection data to the AF detection unit 5 is started. And a group of instructions for causing the CPU to realize a function related to a process of outputting a gyro data output start instruction to the gyro module 6.

従って、変形例3の撮像装置によれば、ユーザによるシャッターキーの半押し操作に基づいて、前処理部3からの静止画ベイヤデータの出力、AF検波データやジャイロデータの出力が開始されるので、これらデータの出力や対応付けを行う期間を短くして、消費電力の低減を図ることができる。
即ち、実施形態2や変形例2の撮像装置にあっては、静止画取得動画記録処理にて、ユーザによるシャッターキーの操作の有無に関わらず、前処理部3からの静止画ベイヤデータの出力を開始して、当該静止画ベイヤデータとAF検波データやジャイロデータとの対応付けを行うようになっているため、静止画取得の観点は有効であるが、消費電力が増加してしまうといった問題が生じる。しかしながら、本変形例3のように、シャッターキーの半押し操作に基づいて、前処理部3からの静止画ベイヤデータの出力、AF検波データやジャイロデータの出力を開始させることで、シャッターキーの全押し操作前の画像フレームも静止画取得の対象とすることができるとともに、消費電力の増加を抑制することができる。
Therefore, according to the imaging apparatus of the third modification, the output of the still image Bayer data, the AF detection data, and the gyro data from the preprocessing unit 3 is started based on the half-pressing operation of the shutter key by the user. The period during which these data are output and associated can be shortened to reduce power consumption.
That is, in the imaging device of the second embodiment and the second modification, the still image acquisition moving image recording process outputs the still image Bayer data from the preprocessing unit 3 regardless of whether the user operates the shutter key. Since the still image Bayer data and AF detection data and gyro data are associated with each other, the viewpoint of still image acquisition is effective, but there is a problem that power consumption increases. . However, as in the third modification, the output of the still image Bayer data, the AF detection data, and the gyro data from the pre-processing unit 3 is started based on the half-press operation of the shutter key, so that all of the shutter keys can be operated. The image frame before the push operation can be set as a still image acquisition target, and an increase in power consumption can be suppressed.

<変形例4>
変形例4の撮像装置は、静止画取得動画記録処理にて、ユーザによるシャッターキーの半押し操作前には、前処理部3からの静止画ベイヤデータの出力を電子撮像部2による2フレームの出力毎に行う一方で、シャッターキーの半押し操作後には、前処理部3からの静止画ベイヤデータの出力を電子撮像部2による各フレームの出力毎に行う。
なお、変形例4の撮像装置は、静止画取得動画記録処理にて、シャッターキーの半押し操作前後で、所定フレーム数当たりの前処理部3からの静止画ベイヤデータの出力回数を変更する以外の点で上記変形例2の撮像装置と略同様の構成をなし、その説明は省略する。
<Modification 4>
In the image pickup apparatus of the modification example 4, in the still image acquisition moving image recording process, the output of the still image Bayer data from the preprocessing unit 3 is output by the electronic image pickup unit 2 before the half pressing operation of the shutter key by the user. On the other hand, after halfway pressing of the shutter key, still image Bayer data is output from the preprocessing unit 3 for each frame output by the electronic imaging unit 2.
Note that the imaging apparatus according to the modified example 4 changes the number of output times of still image Bayer data from the preprocessing unit 3 per predetermined number of frames before and after the shutter key is half-pressed in the still image acquisition moving image recording process. In this respect, the configuration is substantially the same as that of the imaging device of Modification 2 described above, and a description thereof is omitted.

即ち、プログラムメモリに記憶されているプログラムは、図示は省略するが、露光時間設定制御ルーチン、動画記録制御ルーチン、静止画記録制御ルーチン、第3ぶれ量検出ルーチン、第2メモリ制御ルーチン、第4画像フレーム特定ルーチンに加えて、第2制御ルーチンを含む。   That is, the program stored in the program memory is not shown, but the exposure time setting control routine, the moving image recording control routine, the still image recording control routine, the third blur amount detection routine, the second memory control routine, the fourth In addition to the image frame specifying routine, a second control routine is included.

第2制御ルーチンは、静止画取得動画記録処理にて、ユーザによるシャッターキーの半押し操作前には、前処理部3からの静止画ベイヤデータの出力を電子撮像部2による2フレームの出力毎に行わせる一方で、シャッターキーの半押し操作後には、前処理部3からの静止画ベイヤデータの出力を電子撮像部2による各フレームの出力毎に行わせる処理に係る機能をCPUに実現させるための命令群を含む。
即ち、第2制御ルーチンにより、電子撮像部2は、撮像制御部の制御下にて、シャッターキーによる静止画像の撮像の指示に基づいて、当該指示前よりも高速のフレームレートで被写体を撮像して複数の画像フレームを生成するのと同等の処理を行っている。
なお、ユーザによるシャッターキーの半押し操作前には、前処理部3からの静止画ベイヤデータの出力を電子撮像部2による3フレーム以上の出力毎に行わせるようにしても良いが、ぶれの少ない静止画像取得の観点からは、2フレーム以上でより少ないフレームの出力毎に行うのが好ましい。
In the second control routine, in the still image acquisition moving image recording process, before the user half-presses the shutter key, the output of the still image Bayer data from the preprocessing unit 3 is output for every two frames output by the electronic imaging unit 2. On the other hand, after the shutter key is half-pressed, the CPU performs a function related to processing for outputting the still image Bayer data from the preprocessing unit 3 for each frame output by the electronic imaging unit 2. Includes instructions.
That is, according to the second control routine, under the control of the imaging control unit, the electronic imaging unit 2 images the subject at a frame rate that is higher than that before the instruction based on an instruction to capture a still image using the shutter key. The same processing as that for generating a plurality of image frames is performed.
Before the user presses the shutter key halfway, the output of the still image Bayer data from the preprocessing unit 3 may be performed every three frames or more output by the electronic imaging unit 2, but there is little blurring. From the viewpoint of obtaining a still image, it is preferable to perform the output every two frames or more and fewer frames.

従って、変形例4の撮像装置によれば、変形例3と同様に、シャッターキーの半押し操作に基づいて、前処理部3からの静止画ベイヤデータの出力、AF検波データやジャイロデータの出力を開始させることで、シャッターキーの全押し操作前の画像フレームも静止画取得の対象とすることができるとともに、消費電力の増加を抑制することができる。特に、電子撮像部2は、ユーザによるシャッターキーの所定操作に基づいて静止画像の撮像が指示されると、当該指示前よりも高速のフレームレートで被写体を撮像して複数の画像フレームを生成するので、消費電力の増加抑制をより適正に行うことができる。
さらに、ユーザがシャッターキーを半押し操作せずに一気に全押しまで操作した場合であっても、シャッターキーの操作前から静止画記録動作を続けるので、シャッターキー操作前を含めた期間から当該シャッターキーの操作タイミングに最も近く、且つ、よりぶれの少ない静止画像を取得することができる。
Therefore, according to the imaging apparatus of the modification 4, as in the modification 3, the output of the still image Bayer data, the AF detection data, and the gyro data from the preprocessing unit 3 is performed based on the half-press operation of the shutter key. By starting the image frame, the image frame before the full pressing operation of the shutter key can be set as a still image acquisition target, and an increase in power consumption can be suppressed. In particular, when the user is instructed to capture a still image based on a predetermined operation of the shutter key by the user, the electronic imaging unit 2 captures the subject at a higher frame rate than before the instruction and generates a plurality of image frames. Therefore, it is possible to more appropriately suppress the increase in power consumption.
Furthermore, even if the user does not press the shutter key halfway and operates it all at once, the still image recording operation continues from before the shutter key operation. It is possible to obtain a still image that is closest to the key operation timing and has less blur.

なお、本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
例えば、撮像装置の構成は、上記実施形態に例示したものは一例であり、これに限られるものではない。
The present invention is not limited to the above-described embodiment, and various improvements and design changes may be made without departing from the spirit of the present invention.
For example, the configuration of the imaging apparatus illustrated in the above embodiment is an example, and is not limited thereto.

加えて、上記実施形態では、ぶれ量検出手段、特定手段、露光時間設定手段としての機能を、CPUによって所定のプログラム等が実行されることにより実現される構成としたが、これに限られるものではなく、例えば、各種機能を実現するためのロジック回路等から構成しても良い。   In addition, in the above-described embodiment, the functions as the shake amount detection unit, the identification unit, and the exposure time setting unit are realized by executing a predetermined program or the like by the CPU. However, the present invention is not limited to this. Instead, for example, it may be configured by a logic circuit for realizing various functions.

本発明を適用した実施形態1の撮像装置の概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the imaging device of Embodiment 1 to which this invention is applied. 図1の撮像装置のメイン動作の一例を示すフローチャートである。3 is a flowchart illustrating an example of a main operation of the imaging apparatus in FIG. 1. 図1の撮像装置による動画記録処理に係る動作の一例を示すフローチャートである。3 is a flowchart illustrating an example of an operation related to a moving image recording process by the imaging apparatus of FIG. 1. 図3の動画記録処理におけるデータの流れを模式的に示す図である。It is a figure which shows typically the data flow in the moving image recording process of FIG. 図1の撮像装置による静止画撮影処理に係る動作の一例を示すフローチャートである。3 is a flowchart illustrating an example of an operation related to a still image shooting process performed by the imaging apparatus of FIG. 1. 図5の静止画撮影処理における各画像フレームの処理のタイミングチャートを示す図である。It is a figure which shows the timing chart of the process of each image frame in the still image shooting process of FIG. 図5の静止画撮影処理におけるデータの流れを模式的に示す図である。FIG. 6 is a diagram schematically illustrating a data flow in the still image shooting process of FIG. 5. 図1の撮像装置による静止画記録処理に係る動作の一例を示すフローチャートである。3 is a flowchart illustrating an example of an operation related to a still image recording process performed by the imaging apparatus of FIG. 1. 図8の静止画記録処理におけるデータの流れを模式的に示す図である。It is a figure which shows typically the flow of the data in the still image recording process of FIG. 変形例1の撮像装置の概略構成を示すブロック図である。FIG. 11 is a block diagram illustrating a schematic configuration of an imaging apparatus according to a first modification. 図10の撮像装置による静止画撮影処理に係る動作の一例を示すフローチャートである。11 is a flowchart illustrating an example of an operation related to a still image shooting process performed by the imaging apparatus of FIG. 10. 図10の撮像装置による静止画記録処理に係る動作の一例を示すフローチャートである。11 is a flowchart illustrating an example of an operation related to a still image recording process performed by the imaging apparatus in FIG. 10. 本発明を適用した実施形態2の撮像装置による静止画取得動画記録処理に係る動作の一例を示すフローチャートである。It is a flowchart which shows an example of the operation | movement which concerns on the still image acquisition moving image recording process by the imaging device of Embodiment 2 to which this invention is applied. 図13の静止画取得動画記録処理の続きを示す図である。It is a figure which shows the continuation of the still image acquisition moving image recording process of FIG. 図13の撮像装置による静止画記録処理に係る動作の一例を示すフローチャートである。14 is a flowchart illustrating an example of an operation related to a still image recording process performed by the imaging apparatus in FIG. 13. 変形例2の撮像装置による静止画取得動画記録処理に係る動作の一例を示すフローチャートである。12 is a flowchart illustrating an example of an operation related to a still image acquisition moving image recording process performed by the imaging apparatus according to the second modification. 図16の静止画取得動画記録処理の続きを示す図である。It is a figure which shows the continuation of the still image acquisition moving image recording process of FIG.

符号の説明Explanation of symbols

100 撮像装置
2 電子撮像部
4 ベイヤ縮小部
7 画像生成部
8 解像度変換部
13 記録媒体
16 制御部
DESCRIPTION OF SYMBOLS 100 Imaging device 2 Electronic imaging part 4 Bayer reduction part 7 Image generation part 8 Resolution conversion part 13 Recording medium 16 Control part

Claims (14)

被写体を所定のフレームレートで撮像して第1解像度の複数の画像フレームを逐次生成する撮像制御手段と、
前記撮像制御手段により生成された前記複数の画像フレームの各々に対応させて前記第1解像度よりも低解像度の第2解像度の画像フレームを逐次生成する低解像度画像生成手段と、
前記低解像度画像生成手段により生成された前記第2解像度の画像フレームからなる動画像を記録する動画記録手段と、
前記動画記録手段による動画像の記録動作中に前記撮像制御手段により生成された前記複数の画像フレームの各々における画像ぶれ量を検出するぶれ量検出手段と、
前記ぶれ量検出手段の検出結果に基づいて、前記撮像制御手段により生成された前記複数の画像フレームのうち、前記画像ぶれ量が最も少ない画像フレームを特定する特定手段と、
前記特定手段により特定された前記画像フレームを前記第2解像度よりも高解像度の静止画像として記録する静止画記録手段と、
を備えることを特徴とする撮像装置。
Imaging control means for imaging a subject at a predetermined frame rate and sequentially generating a plurality of first resolution image frames;
Low resolution image generation means for sequentially generating second resolution image frames lower than the first resolution in correspondence with each of the plurality of image frames generated by the imaging control means;
Moving image recording means for recording a moving image composed of the image frames of the second resolution generated by the low resolution image generating means;
A blur amount detecting means for detecting an image blur amount in each of the plurality of image frames generated by the imaging control means during a moving image recording operation by the moving image recording means;
Based on the detection result of the blur amount detection unit, a specifying unit that specifies an image frame with the smallest image blur amount among the plurality of image frames generated by the imaging control unit;
Still image recording means for recording the image frame specified by the specifying means as a still image having a resolution higher than the second resolution;
An imaging apparatus comprising:
前記撮像制御手段は、前記動画記録手段による動画像の記録動作中において、撮像素子による露光時間を所定の第1露光時間に設定し、
前記動画記録手段と前記静止画記録手段の両方が、前記第1露光時間で撮像して得られた画像フレームを記録することを特徴とする請求項1に記載の撮像装置。
The imaging control means sets an exposure time by the imaging element to a predetermined first exposure time during a moving image recording operation by the moving image recording means,
2. The imaging apparatus according to claim 1, wherein both the moving image recording unit and the still image recording unit record an image frame obtained by imaging with the first exposure time.
前記静止画記録手段は、前記動画記録手段による動画像の記録動作中に静止画像の記録が指示された場合は、前記特定手段により特定された画像ぶれ量が最も少ない画像フレームを静止画像として記録し、一方、前記動画記録手段による動画像の記録動作中ではないときに静止画像の記録が指示された場合は、画像ぶれ量とは関係無く、この静止画像記録の指示タイミングに基づいて決定された画像フレームを静止画像として記録することを特徴とする請求項2に記載の撮像装置。   When still image recording is instructed during the moving image recording operation by the moving image recording unit, the still image recording unit records an image frame with the smallest image blur amount specified by the specifying unit as a still image. On the other hand, if recording of a still image is instructed when the moving image recording unit is not recording a moving image, it is determined based on this still image recording instruction timing regardless of the amount of image blurring. The imaging apparatus according to claim 2, wherein the recorded image frame is recorded as a still image. 前記撮像制御手段は、前記動画記録手段による動画像の記録動作中ではないときに静止画像の記録が指示された場合は、撮像素子による露光時間を前記第1露光時間よりも短い第2露光時間に設定し、
前記静止画記録手段は、前記動画記録手段による動画像の記録動作中ではないときに静止画像の記録が指示された場合は、前記第2露光時間で撮像して得られた画像フレームを記録することを特徴とする請求項3に記載の撮像装置。
When the recording control unit is instructed to record a still image when the moving image recording unit is not recording a moving image, the imaging control unit sets a second exposure time shorter than the first exposure time. Set to
The still image recording unit records an image frame obtained by imaging in the second exposure time when an instruction to record a still image is given when the moving image recording unit is not recording a moving image. The imaging apparatus according to claim 3.
前記撮像制御手段は、撮像素子を露光させることにより被写体の撮像を行い、
前記撮像素子が露光される露光時間を、前記動画記録手段により動画像を記録する場合には所定の第1露光時間に設定し、且つ、前記静止画記録手段により静止画像を記録する場合には前記第1露光時間よりも短い第2露光時間に設定し、且つ、前記動画記録手段により動画像を記録中に前記静止画記録手段により静止画像を記録する場合には前記第1露光時間に設定する露光時間設定手段を備えることを特徴とする請求項1〜4の何れか一項に記載の撮像装置。
The imaging control means performs imaging of a subject by exposing an imaging element,
When recording a moving image by the moving image recording unit, the exposure time during which the image sensor is exposed is set to a predetermined first exposure time, and when recording a still image by the still image recording unit The second exposure time is set shorter than the first exposure time, and the first exposure time is set when the still image recording unit records a still image while the moving image recording unit records the moving image. The imaging apparatus according to claim 1, further comprising an exposure time setting unit that performs the exposure time setting.
前記ぶれ量検出手段は、
撮像装置本体の角速度を検出して所定の検出信号を出力する角速度検出手段を備え、前記角速度検出手段から出力された前記所定の検出信号に基づいて、前記撮像制御手段により生成された前記複数の画像フレームの各々における画像ぶれ量を検出することを特徴とする請求項1〜5の何れか一項に記載の撮像装置。
The shake amount detecting means includes
An angular velocity detection unit that detects an angular velocity of the imaging apparatus main body and outputs a predetermined detection signal, and based on the predetermined detection signal output from the angular velocity detection unit, the plurality of the plurality of image generated by the imaging control unit The image pickup apparatus according to claim 1, wherein an image blur amount in each of the image frames is detected.
前記ぶれ量検出手段は、
前記撮像制御手段により生成された前記複数の画像フレームの各々における高周波成分を算出する高周波成分算出手段を備え、前記高周波成分算出手段により算出された前記高周波成分に基づいて、前記複数の画像フレームの各々における画像ぶれ量を検出することを特徴とする請求項1〜5の何れか一項に記載の撮像装置。
The shake amount detecting means includes
High-frequency component calculating means for calculating a high-frequency component in each of the plurality of image frames generated by the imaging control means, and based on the high-frequency component calculated by the high-frequency component calculating means, The image pickup apparatus according to claim 1, wherein an image blur amount in each is detected.
前記ぶれ量検出手段は、
撮像装置本体の角速度を検出して所定の検出信号を出力する角速度検出手段と、前記撮像制御手段により生成された前記複数の画像フレームの各々における高周波成分を算出する高周波成分算出手段と、を備え、前記角速度検出手段から出力された前記所定の検出信号及び前記高周波成分算出手段により算出された前記高周波成分に基づいて、前記複数の画像フレームの各々における画像ぶれ量を検出することを特徴とする請求項1〜5の何れか一項に記載の撮像装置。
The shake amount detecting means includes
An angular velocity detection unit that detects an angular velocity of the imaging apparatus body and outputs a predetermined detection signal; and a high-frequency component calculation unit that calculates a high-frequency component in each of the plurality of image frames generated by the imaging control unit. The image blur amount in each of the plurality of image frames is detected based on the predetermined detection signal output from the angular velocity detection means and the high frequency component calculated by the high frequency component calculation means. The imaging device according to any one of claims 1 to 5.
前記動画記録手段による前記動画像の記録動作中に、前記静止画記録手段による前記静止画像の記録を指示する静止画記録指示手段を備え、
前記ぶれ量検出手段は、前記静止画記録指示手段による前記静止画像の記録の指示に基づいて、前記撮像制御手段により生成された前記複数の画像フレームの各々における画像ぶれ量を検出することを特徴とする請求項1〜8の何れか一項に記載の撮像装置。
Still image recording instruction means for instructing recording of the still image by the still image recording means during the moving image recording operation by the moving image recording means,
The blur amount detection unit detects an image blur amount in each of the plurality of image frames generated by the imaging control unit based on an instruction to record the still image by the still image recording instruction unit. The imaging device according to any one of claims 1 to 8.
前記撮像制御手段は、前記静止画記録指示手段による前記静止画像の記録の指示に応じて、当該指示前よりも高速のフレームレートで被写体を撮像して前記複数の画像フレームを生成することを特徴とする請求項9に記載の撮像装置。   The imaging control unit is configured to generate the plurality of image frames by imaging a subject at a higher frame rate than before the instruction in response to an instruction to record the still image by the still image recording instruction unit. The imaging device according to claim 9. 前記撮像制御手段により生成された前記複数の画像フレームを一時的に記憶する一時記憶手段を備え、
前記ぶれ量検出手段および前記特定手段は、前記一時記憶手段により記憶されている複数の画像フレームに基づいて前記画像ぶれ量の検出および前記画像ぶれ量が最も少ない画像フレームの特定を行うことを特徴とする請求項1〜10の何れか一項に記載の撮像装置。
Temporary storage means for temporarily storing the plurality of image frames generated by the imaging control means;
The blur amount detecting unit and the specifying unit are configured to detect the image blur amount and identify an image frame with the smallest image blur amount based on a plurality of image frames stored in the temporary storage unit. The imaging device according to any one of claims 1 to 10.
前記一時記憶手段は、前記静止画記録手段による前記静止画像の記録が行われない場合、又は、前記静止画記録手段による前記静止画像の記録後に、一時的に記憶されている当該静止画像に係る前記画像フレーム以外の画像フレームを破棄することを特徴とする請求項11に記載の撮像装置。   The temporary storage unit relates to the still image temporarily stored when the still image recording unit does not record the still image or after the still image recording unit records the still image. The image pickup apparatus according to claim 11, wherein an image frame other than the image frame is discarded. 前記撮像制御手段により生成された前記複数の画像フレームに基づいて、被写体画像を表示する表示手段と、
前記撮像制御手段により生成された前記複数の画像フレームの各々に対応させて前記第1解像度よりも低解像度、且つ、前記第2解像度よりも高解像度である第3解像度の画像フレームを逐次生成する中解像度画像生成手段と、
前記中解像度画像生成手段により生成された前記第3解像度の画像フレームの各々に対応させて前記表示部による前記被写体画像の表示用の第4解像度の画像フレームを生成する表示解像度画像生成手段と、を備え、
前記低解像度画像生成手段は、前記中解像度画像生成手段により生成された前記第3解像度の画像フレームの各々に対応させて前記第2解像度の画像フレームを生成することを特徴とする請求項1〜12の何れか一項に記載の撮像装置。
Display means for displaying a subject image based on the plurality of image frames generated by the imaging control means;
Corresponding to each of the plurality of image frames generated by the imaging control means, image frames having a third resolution that is lower than the first resolution and higher than the second resolution are sequentially generated. Medium resolution image generating means;
Display resolution image generation means for generating a fourth resolution image frame for displaying the subject image by the display unit in correspondence with each of the third resolution image frames generated by the medium resolution image generation means; With
The low-resolution image generation unit generates the second-resolution image frame corresponding to each of the third-resolution image frames generated by the medium-resolution image generation unit. The imaging device according to any one of 12.
被写体を所定のフレームレートで撮像して第1解像度の複数の画像フレームを逐次生成する撮像制御手段を備える撮像装置のコンピュータを、
前記撮像制御手段により生成された前記複数の画像フレームの各々に対応させて前記第1解像度よりも低解像度の第2解像度の画像フレームを逐次生成する低解像度画像生成手段、
前記低解像度画像生成手段により生成された前記第2解像度の画像フレームからなる動画像を記録する動画記録手段、
前記動画記録手段による動画像の記録動作中に前記撮像制御手段により生成された前記複数の画像フレームの各々における画像ぶれ量を検出するぶれ量検出手段、
前記ぶれ量検出手段の検出結果に基づいて、前記撮像制御手段により生成された前記複数の画像フレームのうち、前記画像ぶれ量が最も少ない画像フレームを特定する特定手段、
前記特定手段により特定された前記画像フレームを前記第2解像度よりも高解像度の静止画像として記録する静止画記録手段、
として機能させることを特徴とするプログラム。
A computer of an imaging apparatus comprising imaging control means for imaging a subject at a predetermined frame rate and sequentially generating a plurality of first resolution image frames;
Low-resolution image generation means for sequentially generating a second resolution image frame having a lower resolution than the first resolution in correspondence with each of the plurality of image frames generated by the imaging control means;
Moving image recording means for recording a moving image composed of the image frames of the second resolution generated by the low resolution image generating means;
A blur amount detecting unit that detects an image blur amount in each of the plurality of image frames generated by the imaging control unit during a moving image recording operation by the moving image recording unit;
A specifying unit for specifying an image frame having the smallest image blur amount among the plurality of image frames generated by the imaging control unit based on a detection result of the blur amount detecting unit;
A still image recording means for recording the image frame specified by the specifying means as a still image having a resolution higher than the second resolution;
A program characterized by functioning as
JP2008226890A 2008-09-04 2008-09-04 Imaging apparatus and program Expired - Fee Related JP5211947B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008226890A JP5211947B2 (en) 2008-09-04 2008-09-04 Imaging apparatus and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008226890A JP5211947B2 (en) 2008-09-04 2008-09-04 Imaging apparatus and program

Publications (3)

Publication Number Publication Date
JP2010062905A true JP2010062905A (en) 2010-03-18
JP2010062905A5 JP2010062905A5 (en) 2011-10-13
JP5211947B2 JP5211947B2 (en) 2013-06-12

Family

ID=42189207

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008226890A Expired - Fee Related JP5211947B2 (en) 2008-09-04 2008-09-04 Imaging apparatus and program

Country Status (1)

Country Link
JP (1) JP5211947B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015188136A (en) * 2014-03-26 2015-10-29 京セラ株式会社 Apparatus with image-capturing function, image-capturing control method, and program
JP2016541177A (en) * 2013-11-18 2016-12-28 アップル インコーポレイテッド Modeless video and still image frame capture

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11136557A (en) * 1997-08-26 1999-05-21 Nikon Corp Electronic camera
JP2004072550A (en) * 2002-08-08 2004-03-04 Minolta Co Ltd Imaging device and picture reproducing device

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11136557A (en) * 1997-08-26 1999-05-21 Nikon Corp Electronic camera
JP2004072550A (en) * 2002-08-08 2004-03-04 Minolta Co Ltd Imaging device and picture reproducing device

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016541177A (en) * 2013-11-18 2016-12-28 アップル インコーポレイテッド Modeless video and still image frame capture
KR101789976B1 (en) 2013-11-18 2017-10-25 애플 인크. Modeless video and still frame capture
US10038845B2 (en) 2013-11-18 2018-07-31 Apple Inc. Modeless video and still frame capture
US10498960B2 (en) 2013-11-18 2019-12-03 Apple Inc. Modeless video and still frame capture
US10911673B2 (en) 2013-11-18 2021-02-02 Apple Inc. Modeless video and still frame capture
JP2015188136A (en) * 2014-03-26 2015-10-29 京セラ株式会社 Apparatus with image-capturing function, image-capturing control method, and program

Also Published As

Publication number Publication date
JP5211947B2 (en) 2013-06-12

Similar Documents

Publication Publication Date Title
JP4441882B2 (en) Imaging device, display control method, program
US7705904B2 (en) Moving-image recording device for recording moving image
TWI326553B (en) Imaging apparatus, data extraction method, and data extraction program
JP4525561B2 (en) Imaging apparatus, image processing method, and program
JP4569389B2 (en) Imaging apparatus, image processing method, and program
JP2012151705A (en) Moving image processing system, moving image processing method, and program
JP4605217B2 (en) Imaging apparatus and program thereof
JP4556195B2 (en) Imaging device, moving image playback device, and program
JP2012213041A (en) Imaging apparatus, image synthesizing method and program
JP2015053741A (en) Image reproduction device
JP2006339784A (en) Imaging apparatus, image processing method, and program
JP2006067452A (en) Video recording apparatus, and electronic camera
JP2007134788A (en) Image processing apparatus and program
JP5211947B2 (en) Imaging apparatus and program
JP2010021710A (en) Imaging device, image processor, and program
JP6103481B2 (en) Imaging apparatus, and control method and program thereof
JP6775386B2 (en) Imaging device, its control method, program and recording medium
JP2010171491A (en) Imaging device, imaging method, and program
JP2011040945A (en) Image processing apparatus and image processing method
KR101480407B1 (en) Digital image processing apparatus, method for controlling the same and medium of recording the method
JP2008245146A (en) Imaging apparatus, and control method of same
JP2006238041A (en) Video camera
JP4786452B2 (en) camera
JP2004032713A (en) Imaging apparatus, imaging method, program, and storage medium
JP4956341B2 (en) IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110831

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110831

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20110831

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120828

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121024

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130211

R150 Certificate of patent or registration of utility model

Ref document number: 5211947

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160308

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees