JP2011015092A - Imaging device - Google Patents

Imaging device Download PDF

Info

Publication number
JP2011015092A
JP2011015092A JP2009156326A JP2009156326A JP2011015092A JP 2011015092 A JP2011015092 A JP 2011015092A JP 2009156326 A JP2009156326 A JP 2009156326A JP 2009156326 A JP2009156326 A JP 2009156326A JP 2011015092 A JP2011015092 A JP 2011015092A
Authority
JP
Japan
Prior art keywords
image
region
encoding
local decoded
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009156326A
Other languages
Japanese (ja)
Other versions
JP2011015092A5 (en
Inventor
Masashi Kawakami
雅司 川上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2009156326A priority Critical patent/JP2011015092A/en
Publication of JP2011015092A publication Critical patent/JP2011015092A/en
Publication of JP2011015092A5 publication Critical patent/JP2011015092A5/ja
Pending legal-status Critical Current

Links

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)

Abstract

PROBLEM TO BE SOLVED: To allow users to easily check the image quality difference between various recording rates prior to photographing and to set recording rates.SOLUTION: An imaging device includes an imaging means for photographing an object and generating image data for encoding; a quantized image generation means for performing orthogonal transformation and quantization for the encoding image data to generate a quantized image; a local decoded image generation means for performing reverse quantization and reverse orthogonal transformation for the quantized image to generate a local decoded image; a configuration means for configuring parameters to control quantization steps for quantized image generation; and a display means. The configuration means divides an image to be encoded into a plurality of areas, and configures parameters so that quantization steps are different for each area. The display means displays a local decoded image generated from a quantized image that is generated by using the parameters configured for each area.

Description

本発明は撮像装置に関する。   The present invention relates to an imaging apparatus.

被写体を撮影し、それにより得られた動画像を圧縮符号化して記録するカメラ一体型動画像記録装置として、デジタルビデオカメラがよく知られている。一般的にデジタルビデオカメラは、撮影前に記録レートをユーザが選択できるようになっている。記録レートを選択することでユーザは、動画像を圧縮符号化する際の圧縮率を設定できる。圧縮率が高い記録レートを選択すると、記録される動画像は低画質になり、圧縮率が低い記録レートを選択すると、記録される動画像は高画質になる。圧縮率が低いと高画質の動画像を得られるが、圧縮後のデータ量が多くなるため、低画質の動画像と比べると、記録できる時間は短くなる。   2. Description of the Related Art A digital video camera is well known as a camera-integrated moving image recording apparatus that captures a subject and compresses and records a moving image obtained thereby. In general, a digital video camera allows a user to select a recording rate before shooting. By selecting the recording rate, the user can set the compression rate when the moving image is compression-encoded. When a recording rate with a high compression rate is selected, the recorded moving image has low image quality, and when a recording rate with a low compression rate is selected, the recorded moving image has high image quality. If the compression rate is low, a high-quality moving image can be obtained. However, since the amount of data after compression increases, the time that can be recorded is shorter than that of a low-quality moving image.

記録レートを選択できるが、記録レートの違いによる画質の違いは、記録した画像を再生するまで判断できず、記録時に予めユーザが知ることができないという問題があった。この問題に対して、圧縮符号化した画像を表示し、選択した記録レートで得られる画像を示す技術が提案されている(特許文献1を参照)。   Although the recording rate can be selected, there is a problem that the difference in image quality due to the difference in recording rate cannot be determined until the recorded image is reproduced, and the user cannot know in advance at the time of recording. In order to solve this problem, a technique has been proposed in which a compression-coded image is displayed and an image obtained at a selected recording rate is displayed (see Patent Document 1).

特開2006−311366号公報JP 2006-311366 A

しかしながら、提案技術では、選択された記録レートで符号化した際の圧縮後の画像を1つだけ表示していたので、選択された記録レートでの画質は確認できるものの、記録レートを変えたときの画質の違いを確認することはできなかった。即ち、提案技術では、記録レートごとの画質の違いをユーザが識別するためには、別の記録レートを選択しなおしてから改めて表示させるという操作を繰り返す必要があり、煩雑な操作が必要であった。また、提案技術では複数の記録レートで符号化した際の圧縮後の画像を同時出力できないため、同一画面上での比較表示が行えず、ユーザは記録レートによる画質の違いを直観的に把握するのが困難であった。   However, in the proposed technique, only one compressed image when encoded at the selected recording rate is displayed, so the image quality at the selected recording rate can be confirmed, but the recording rate is changed. It was not possible to confirm the difference in image quality. In other words, in the proposed technique, in order for the user to identify the difference in image quality for each recording rate, it is necessary to repeat the operation of re-selecting a different recording rate and displaying it again, which requires a complicated operation. It was. In addition, since the proposed technology cannot simultaneously output compressed images when encoded at multiple recording rates, comparison display on the same screen cannot be performed, and the user intuitively grasps the difference in image quality depending on the recording rate. It was difficult.

本発明は、このような問題点を鑑みたものであり、複数の記録レートにおける画質の違いを撮影前にユーザが容易に確認でき、また容易に記録レートを設定できるようにすることを目的とする。   The present invention has been made in view of such problems, and it is an object of the present invention to enable a user to easily check a difference in image quality at a plurality of recording rates before shooting and to easily set a recording rate. To do.

上述の課題を解決する本発明の撮像装置は、
被写体を撮影して符号化用の画像を生成する撮像手段と、
前記符号化用の画像に直交変換と量子化とを施して量子化画像を生成する量子化画像生成手段と、
前記量子化画像に逆量子化と逆直交変換とを施して、ローカルデコード画像を生成するローカルデコード画像生成手段と、
前記量子化画像を生成する際の量子化ステップを制御するパラメータを設定する設定手段と、
表示手段とを備え、
前記設定手段は、前記符号化用の画像を複数の領域に分割して、前記量子化ステップが領域毎に異なるように前記パラメータを設定し、
前記表示手段は、領域毎に設定されたパラメータを用いて生成された量子化画像から生成された前記ローカルデコード画像を表示する
ことを特徴とする。
The imaging device of the present invention that solves the above-described problems is
Imaging means for photographing a subject and generating an image for encoding;
A quantized image generating means for generating a quantized image by performing orthogonal transformation and quantization on the image for encoding;
Local decoded image generation means for generating a local decoded image by performing inverse quantization and inverse orthogonal transformation on the quantized image;
A setting means for setting a parameter for controlling a quantization step when generating the quantized image;
Display means,
The setting means divides the image for encoding into a plurality of regions, sets the parameters so that the quantization step is different for each region,
The display means displays the local decoded image generated from a quantized image generated using a parameter set for each region.

本発明によれば、撮像装置において、複数の記録レートにおける画質の違いを撮影前にユーザが容易に確認でき、また容易に記録レートを設定できる。   According to the present invention, in the imaging apparatus, the user can easily confirm the difference in image quality at a plurality of recording rates before shooting, and the recording rate can be easily set.

実施形態に対応する撮像装置の構成例を示すブロック図。1 is a block diagram illustrating a configuration example of an imaging device corresponding to an embodiment. 実施形態に対応する撮像装置の動作例のフローチャート。6 is a flowchart of an operation example of the imaging apparatus corresponding to the embodiment. 記録レート設定時に表示されるローカルデコード画像の例を示す図。The figure which shows the example of the local decoding image displayed at the time of a recording rate setting. 実施形態2に対応する撮像装置の動作例のフローチャート。10 is a flowchart of an operation example of the imaging apparatus corresponding to the second embodiment. 実施形態2に対応するローカルデコード画像の例を示す図。FIG. 10 is a diagram illustrating an example of a local decoded image corresponding to the second embodiment. 実施形態3に対応する撮像装置の動作例のフローチャート。10 is a flowchart of an operation example of an imaging apparatus corresponding to the third embodiment. 実施形態3に対応するローカルデコード画像の例を示す図。FIG. 10 is a diagram illustrating an example of a local decoded image corresponding to the third embodiment.

以下、図面を参照しながら本発明の好適な実施の形態を説明する。   Hereinafter, preferred embodiments of the present invention will be described with reference to the drawings.

[実施形態1]
図1は、本発明の実施形態1に係る撮像装置を示している。図1の撮像装置100は撮像部10で被写体を撮影して得られた入力画像をH.264/AVC(Advanced Video Coding)方式により符号化し、符号化した画像を記録媒体118や伝送路などに出力する装置である。
[Embodiment 1]
FIG. 1 shows an imaging apparatus according to Embodiment 1 of the present invention. 1 captures an input image obtained by photographing a subject with the imaging unit 10 as an H.264 image. This is an apparatus that encodes by an H.264 / AVC (Advanced Video Coding) system and outputs the encoded image to a recording medium 118 or a transmission path.

撮像装置100において、撮像部10は、CCDやCMOS等の撮像素子を用いて被写体の撮像を行う。撮像により得られた符号化用の画像は、加算器101に後述するマクロブロック単位に入力される。制御部116は、CPUなどであり、制御プログラムを実行することにより撮像装置100全体の動作を司る。操作部115はユーザからの操作入力を受け付け、受け付けた操作入力に従って撮像装置100の設定が行われる。操作部115は、撮影開始ボタン、記録レート設定モード選択ボタン、表示部114に表示されたローカルデコード画像から所望の撮影モードに対応する領域を選択するためのカーソル移動用ボタンなどを含む。例えば、ユーザが操作部115を用いて選択、決定した記録レートは、制御部116に入力され、制御部116が、選択された記録レートで符号化するように符号量制御部105の符号化パラメータ(量子化パラメータ)を設定する。また、イントラ予測、インター予測に応じて選択部113の出力する信号を決めるための制御信号を出力する。   In the imaging apparatus 100, the imaging unit 10 captures an object using an imaging element such as a CCD or a CMOS. An image for encoding obtained by imaging is input to the adder 101 in units of macro blocks described later. The control unit 116 is a CPU or the like, and governs the overall operation of the imaging apparatus 100 by executing a control program. The operation unit 115 receives an operation input from the user, and the setting of the imaging apparatus 100 is performed according to the received operation input. The operation unit 115 includes a shooting start button, a recording rate setting mode selection button, a cursor movement button for selecting an area corresponding to a desired shooting mode from the local decoded image displayed on the display unit 114, and the like. For example, the recording rate selected and determined by the user using the operation unit 115 is input to the control unit 116, and the encoding parameter of the code amount control unit 105 is encoded so that the control unit 116 performs encoding at the selected recording rate. (Quantization parameter) is set. In addition, a control signal for determining a signal output from the selection unit 113 according to intra prediction and inter prediction is output.

撮像装置100を用いて符号化する際の動作を説明する。撮像装置100では、マクロブロック(以下MB)を構成する水平16画素、垂直16画素のデータを符号化単位として符号化を行う。入力されたMBデータは、加算器101に入力される。ここで、H.264方式の符号化には、大きく2つの符号化方式に分かれる。第一に、同一フレーム内の画像データのみを用いて符号化するイントラ符号化である。第二に、他のフレームとの相関を利用して符号化を行うインター符号化である。イントラ符号化の場合は、加算器101には、入力されたMBデータと、イントラ予測部112で生成された予測画像が入力される。一方インター予測の場合は、動き補償部111で生成された予測画像が入力される。加算器101は、入力されたMBデータと予測画像の差分をとり、直交変換部102に出力する。   An operation at the time of encoding using the imaging apparatus 100 will be described. In the imaging apparatus 100, encoding is performed using data of horizontal 16 pixels and vertical 16 pixels constituting a macroblock (hereinafter referred to as MB) as encoding units. The input MB data is input to the adder 101. Here, H. The H.264 encoding is roughly divided into two encoding schemes. First, intra coding is performed using only image data in the same frame. The second is inter coding that performs coding using correlation with other frames. In the case of intra coding, the adder 101 receives the input MB data and the prediction image generated by the intra prediction unit 112. On the other hand, in the case of inter prediction, a prediction image generated by the motion compensation unit 111 is input. The adder 101 takes the difference between the input MB data and the predicted image and outputs the difference to the orthogonal transform unit 102.

直交変換部102において、直交変換された画像は、量子化部103に入力され、符号量制御部105から入力される量子化ステップを制御するための量子化パラメータに基づき量子化画像生成が行われる。生成された量子化画像は、エントロピー符号化部104、及び逆量子化部106にそれぞれ入力される。エントロピー符号化部104は、入力された量子化画像を可変長符号化して記録媒体118もしくは他の伝送路に出力する。また同時に、符号量制御部105に発生した符号量を出力する。符号量制御部105は、入力した発生符号量をもとに次の画像の量子化パラメータを決定し、量子化部103に出力する。記録媒体118は、フラッシュメモリ(登録商標)等の不揮発性の記録媒体であって、撮像装置100に着脱可能に装着される。   In the orthogonal transform unit 102, the orthogonally transformed image is input to the quantization unit 103, and a quantized image is generated based on the quantization parameter for controlling the quantization step input from the code amount control unit 105. . The generated quantized image is input to the entropy encoding unit 104 and the inverse quantization unit 106, respectively. The entropy encoding unit 104 performs variable length encoding on the input quantized image and outputs the result to the recording medium 118 or another transmission path. At the same time, the generated code amount is output to the code amount control unit 105. The code amount control unit 105 determines the quantization parameter of the next image based on the input generated code amount, and outputs it to the quantization unit 103. The recording medium 118 is a non-volatile recording medium such as a flash memory (registered trademark), and is detachably attached to the imaging apparatus 100.

逆量子化部106は、量子化部103が出力する量子化画像を逆量子化して量子化前の画像データ(直交変換後の画像データ)を復元し、逆直交変換部107に出力する。逆直交変換部107では、逆直交変換を施し、直交変換前の画像データ(予測画像)を復元する。この画像データは、インター符号化時の参照画像となる画像データで、局部復号画像もしくはローカルデコード画像と呼ばれる。本実施形態では、逆量子化部106、逆直交変換部107とでローカルデコード画像生成を行っている。このローカルデコード画像をループフィルタ109に入力する。ループフィルタ109は、ローカルデコード画像に対して、ブロック歪みを除去するデブロッキング処理を施し、フレームメモリ110に入力する。ただし、イントラ予測の場合は、デブロッキング処理を施さずにフレームメモリ110に入力する。   The inverse quantization unit 106 inversely quantizes the quantized image output from the quantization unit 103 to restore image data before quantization (image data after orthogonal transformation), and outputs the restored image data to the inverse orthogonal transformation unit 107. The inverse orthogonal transform unit 107 performs inverse orthogonal transform to restore image data (predicted image) before orthogonal transform. This image data is image data to be a reference image at the time of inter coding, and is called a locally decoded image or a local decoded image. In the present embodiment, local decoding image generation is performed by the inverse quantization unit 106 and the inverse orthogonal transform unit 107. This local decoded image is input to the loop filter 109. The loop filter 109 performs deblocking processing to remove block distortion on the local decoded image, and inputs it to the frame memory 110. However, in the case of intra prediction, it is input to the frame memory 110 without performing the deblocking process.

動き補償部111は、インター予測の場合に使用される。入力画像と、フレームメモリ110から読み出した参照画像とを用いて、参照画像に対する動きベクトルを検出する。検出した動きベクトルと参照画像を用いてインター予測画像を生成し、選択部113に出力する。イントラ予測部112は、フレームメモリ110に記録された画像データを用いてフレーム内予測処理を行い、イントラ予測画像を生成し、選択部113に出力する。選択部113は、制御部116からの選択信号によって出力する予測画像を選択する。イントラ予測の場合は、イントラ予測部で生成されたイントラ予測画像を、インター予測の場合は、動き補償部111で生成されたインター予測画像を加算器101に出力する。   The motion compensation unit 111 is used in the case of inter prediction. A motion vector for the reference image is detected using the input image and the reference image read from the frame memory 110. An inter prediction image is generated using the detected motion vector and the reference image, and is output to the selection unit 113. The intra prediction unit 112 performs an intra-frame prediction process using the image data recorded in the frame memory 110, generates an intra prediction image, and outputs the intra prediction image to the selection unit 113. The selection unit 113 selects a predicted image to be output based on a selection signal from the control unit 116. In the case of intra prediction, the intra prediction image generated by the intra prediction unit is output to the adder 101. In the case of inter prediction, the inter prediction image generated by the motion compensation unit 111 is output to the adder 101.

続いて、記録レート設定時の動作を説明する。記録レート設定時とは、撮像前にユーザが記録レートを設定する場合をいう。撮像装置100が有している記録レートは、高画質モード(圧縮率が最も低い記録レート)、標準モード(圧縮率が高画質モードと低画質モードの間である記録レート)、低画質モード(圧縮率が最も高い記録レート)の3つである。なお、ここでは画像全体の解像度、フルHD(1920×1080画素)であるとする。   Next, the operation when setting the recording rate will be described. When the recording rate is set, it means that the user sets the recording rate before imaging. The image capturing apparatus 100 has a recording rate of high image quality mode (recording rate with the lowest compression rate), standard mode (recording rate between the high image quality mode and low image quality mode), and low image quality mode ( The recording rate with the highest compression rate). Here, it is assumed that the resolution of the entire image is full HD (1920 × 1080 pixels).

操作部115を用いて記録レートを設定するモード(以下、記録レート設定モードと呼ぶ)に移ると、撮像装置100は、前述したように符号化処理を始める。その際、制御部116は、エントロピー符号化部104の記録媒体118もしくは他の伝送路への出力を行わないように設定する。また、記録レート設定モードに移ったことを検知した後、領域計算部117を起動させる。領域計算部117は、入力されるMB数をカウントする。記録レート数が3つで、水平MB数が120MB、垂直MB数が68MB(符号化時の画像の大きさは1920×1088とする)であるので、記録開始から入力されたMB数が39MBの時は、高画質モードで符号化するように符号量制御部105に指示を出す。MB数が40から79の時は、標準モードで符号化するように符号量制御部105に指示を出す。MB数が80から119の時は、低画質モードで符号化するように符号量制御部105に指示を出す。もちろんMB数が0から39までを低画質モード、40から79までを高画質モード、80から119までを標準モードのようにしても良い。   When moving to a mode for setting a recording rate using the operation unit 115 (hereinafter referred to as a recording rate setting mode), the imaging apparatus 100 starts an encoding process as described above. At that time, the control unit 116 is set so as not to output the recording medium 118 of the entropy encoding unit 104 or another transmission path. In addition, after detecting the shift to the recording rate setting mode, the area calculation unit 117 is activated. The area calculation unit 117 counts the number of input MBs. Since the number of recording rates is 3, the number of horizontal MBs is 120 MB, and the number of vertical MBs is 68 MB (the size of the image at the time of encoding is 1920 × 1088), the number of MBs input from the start of recording is 39 MB. At that time, the code amount control unit 105 is instructed to perform encoding in the high image quality mode. When the number of MBs is 40 to 79, the code amount control unit 105 is instructed to perform encoding in the standard mode. When the number of MBs is 80 to 119, the code amount control unit 105 is instructed to perform encoding in the low image quality mode. Of course, the number of MBs from 0 to 39 may be the low image quality mode, the image quality from 40 to 79 may be the high image quality mode, and the image quality from 80 to 119 may be the standard mode.

領域計算部117は、MB数を119までカウントした後、カウント数を0にリセットし、垂直走査方向に1段進んだ次のMBラインを0からカウントしていく。つまり、水平走査方向のMB数が0から39まで、かつ垂直走査方向のMB数が0から67までの画像領域を高画質モードで符号化するように符号量制御部105に指示を出す。また同様に、水平走査方向のMB数が40から79まで、かつ垂直走査方向のMB数が0から67までの画像領域を標準モードで符号化するように符号量制御部105に指示を出す。さらに水平走査方向のMB数が80から119まで、かつ垂直走査方向のMB数が0から67までの画像領域を低画質モードで符号化するように符号量制御部105に指示を出す。   The area calculation unit 117 counts the number of MBs up to 119, resets the number of counts to 0, and counts from 0 the next MB line that has advanced one step in the vertical scanning direction. That is, the code amount control unit 105 is instructed to encode an image area in which the number of MBs in the horizontal scanning direction is 0 to 39 and the number of MBs in the vertical scanning direction is 0 to 67 in the high image quality mode. Similarly, the code amount control unit 105 is instructed to encode, in the standard mode, an image area in which the number of MBs in the horizontal scanning direction is 40 to 79 and the number of MBs in the vertical scanning direction is 0 to 67. Further, the code amount control unit 105 is instructed to encode an image area having the number of MBs in the horizontal scanning direction from 80 to 119 and the number of MBs in the vertical scanning direction from 0 to 67 in the low image quality mode.

領域計算部117から指示を受けた符号量制御部105は、高画質モードの領域では、量子化部103に出力する量子化パラメータを低くし(量子化ステップを小さくし)、量子化部103による画質劣化を低減させる。逆に低画質モードの領域では、量子化部103に出力する量子化パラメータを高く(量子化ステップを大きく)し、量子化部103によって多くの情報を削減できるようにする。標準モードの領域では、高画質モードと低画質モードの間の値を持つ量子化パラメータを量子化部103に出力する。   In response to the instruction from the area calculation unit 117, the code amount control unit 105 reduces the quantization parameter output to the quantization unit 103 (decreases the quantization step) in the high-quality mode region, and the quantization unit 103 Reduce image quality degradation. On the other hand, in the low image quality mode region, the quantization parameter output to the quantization unit 103 is increased (the quantization step is increased) so that the quantization unit 103 can reduce much information. In the standard mode area, a quantization parameter having a value between the high image quality mode and the low image quality mode is output to the quantization unit 103.

量子化部103において量子化された画像データは、逆量子化部106に入力される。記録レート設定モードではエントロピー符号化部104には出力されない。不図示のスイッチを切り替えてエントロピー符号化部104には量子化後の画像データが入力されないように制御部116が制御する。逆量子化部106に入力された後の処理は符号化時と同様の処理を行いフレームメモリ110にローカルデコード画像が保持される。   The image data quantized by the quantization unit 103 is input to the inverse quantization unit 106. In the recording rate setting mode, it is not output to the entropy encoding unit 104. The control unit 116 controls the entropy encoding unit 104 so that the quantized image data is not input by switching a switch (not shown). The processing after being input to the inverse quantization unit 106 is the same as that at the time of encoding, and the local decoded image is held in the frame memory 110.

このように記録レート設定モードにおいては、記録媒体118には符号化された画像は記録されず、フレームメモリ110のローカルデコード画像が表示部114に表示される。   As described above, in the recording rate setting mode, the encoded image is not recorded on the recording medium 118, and the local decoded image of the frame memory 110 is displayed on the display unit 114.

図2は撮像装置の電源ONから電源OFFまでの動作を説明した図であり、特に記録レート設定モードの動作を詳細に説明する図であり、図1の各ブロックの動作タイミングを図2を用いて説明する。   FIG. 2 is a diagram for explaining the operation from the power-on to the power-off of the image pickup apparatus. In particular, FIG. 2 is a diagram for explaining in detail the operation in the recording rate setting mode. The operation timing of each block in FIG. I will explain.

S201では、制御部116が記録レート設定モードに入るか否かを判定する。この判定は、ユーザが操作部115からの操作入力に基づいて行う。記録レート設定モードONの場合は、S202に移る。記録レート設定モードOFFの場合は、S208に移る。S202では、記録レート設定モードがONになったことをうけ、制御部116が領域計算部117を起動させる。また不図示のスイッチを切り替えて、エントロピー符号化部104に量子化部103の出力データが入力されないように設定する。   In S201, the control unit 116 determines whether or not to enter the recording rate setting mode. This determination is made by the user based on an operation input from the operation unit 115. If the recording rate setting mode is ON, the process proceeds to S202. If the recording rate setting mode is OFF, the process proceeds to S208. In S202, the control unit 116 activates the area calculation unit 117 in response to the recording rate setting mode being turned on. Further, a switch (not shown) is switched so that the output data of the quantization unit 103 is not input to the entropy encoding unit 104.

S203では、各ブロックが動作して符号化処理を行い、表示部114にローカルデコード画像を表示する。S203の符号化処理では、エントロピー符号化部104には、データが入力されない。よって符号化が行われても記録媒体118には何も記録されない。符号化を開始すると、ローカルデコード画像がフレームメモリ110に保持され、表示部114がローカルデコードを表示する。該ローカルデコード画像は、上述したように領域毎に量子化パラメータが異なった画像であり、表示画像は領域によって画質が異なる。表示部114はまた、該ローカルデコード画像を量子化パラメータの異なる領域毎に選択可能に表示する。   In S203, each block operates to perform an encoding process, and a local decoded image is displayed on the display unit 114. In the encoding process of S203, no data is input to the entropy encoding unit 104. Therefore, nothing is recorded on the recording medium 118 even if encoding is performed. When encoding is started, a local decoded image is held in the frame memory 110, and the display unit 114 displays the local decoding. As described above, the local decoded image is an image having different quantization parameters for each region, and the display image has a different image quality depending on the region. The display unit 114 also displays the local decoded image so as to be selectable for each region having a different quantization parameter.

S204では、操作部115がユーザから画質モードの選択を受け付ける。ユーザは、領域毎に画質が異なるローカルデコード画像を見ながら画質モードを選択する。ユーザが「高画質モード」を選択した場合は、S205に進み、「標準モード」の場合はS206、「低画質モード」の場合はS207に進む。S205では、符号量制御部105から量子化部103に入力する量子化パラメータの値(QP1)を小さく設定して、高画質モードにて符号化処理を行う。ここで制御部116は、符号量制御部105に対して「高画質モード」が選択されたことを通知する。   In S204, the operation unit 115 accepts selection of an image quality mode from the user. The user selects an image quality mode while viewing local decoded images having different image quality for each region. If the user selects “high image quality mode”, the process proceeds to S205, if “standard mode”, the process proceeds to S206, and if “low image quality mode”, the process proceeds to S207. In S205, the quantization parameter value (QP1) input from the code amount control unit 105 to the quantization unit 103 is set small, and the encoding process is performed in the high image quality mode. Here, the control unit 116 notifies the code amount control unit 105 that the “high image quality mode” has been selected.

S206では、符号量制御部105から量子化部103に入力する量子化パラメータの値(QP2)を標準モードに対応する値に設定して、標準モードにて符号化処理を行う。ここで制御部116は、符号量制御部105に対して「標準モード」が選択されたことを通知する。S207では、符号量制御部105から量子化部103に入力する量子化パラメータの値(QP3)を低画質モードに対応する大きい値に設定して、低画質モードにて符号化処理を行う。ここで制御部116は、符号量制御部105に対して「低画質モード」が選択されたことを通知する。なお、符号量制御部105において、量子化パラメータQP1、QP2、QP3の関係は、QP3>QP2>QP1となる。   In S206, the quantization parameter value (QP2) input from the code amount control unit 105 to the quantization unit 103 is set to a value corresponding to the standard mode, and the encoding process is performed in the standard mode. Here, the control unit 116 notifies the code amount control unit 105 that “standard mode” has been selected. In S207, the quantization parameter value (QP3) input from the code amount control unit 105 to the quantization unit 103 is set to a large value corresponding to the low image quality mode, and the encoding process is performed in the low image quality mode. Here, the control unit 116 notifies the code amount control unit 105 that the “low image quality mode” has been selected. In the code amount control unit 105, the relationship between the quantization parameters QP1, QP2, and QP3 is QP3> QP2> QP1.

次にS208では、制御部116は撮影開始の指示を受け付けたか否かを判定する。ユーザが操作部115の撮影開始ボタンを操作して撮影開始指示を行うと(S208で「YES」)、S209に移行する。S209では、S205からS207のいずれかにおいて設定された画質モードにおいて撮影を開始し、符号化処理及び記録媒体118への記録を行う。このとき行われる符号化処理では、エントロピー符号化部104に量子化データが供給され、かつ、記録媒体118にもエントロピー符号化結果が保存される。S210において撮影終了の操作が行われるまで符号化及び記録を続ける。   In step S208, the control unit 116 determines whether an instruction to start shooting is received. When the user operates the shooting start button of the operation unit 115 to give a shooting start instruction (“YES” in S208), the process proceeds to S209. In S209, shooting is started in the image quality mode set in any of S205 to S207, and encoding processing and recording on the recording medium 118 are performed. In the encoding process performed at this time, quantized data is supplied to the entropy encoding unit 104, and the entropy encoding result is also stored in the recording medium 118. Encoding and recording are continued until a photographing end operation is performed in S210.

S210において撮影終了が選択された場合は、S211に遷移する。撮影終了が選択されなかった場合はS209の符号化及び記録を続ける。S211は、撮像装置100の電源が切られた場合は、撮像装置100の電源を切り処理を終了する。電源が切られない場合はS201に戻る。   If the photographing end is selected in S210, the process proceeds to S211. If the photographing end is not selected, the encoding and recording in S209 are continued. In S211, when the imaging apparatus 100 is powered off, the imaging apparatus 100 is powered off and the process is terminated. If the power cannot be turned off, the process returns to S201.

次に図3を参照して、S203において表示部114に表示されるローカルデコード画像の一例を説明する。図3(a)は撮像装置100が有する撮像素子から出力される符号化前の画像(RAW画像データ)の例を示している。図3(b)はS202で表示部114に表示されるローカルデコード画像の例を示している。   Next, an example of a local decoded image displayed on the display unit 114 in S203 will be described with reference to FIG. FIG. 3A illustrates an example of a pre-encoding image (RAW image data) output from the image sensor included in the image capturing apparatus 100. FIG. 3B shows an example of a local decoded image displayed on the display unit 114 in S202.

図3(b)において、領域301は高画質モードで符号化された画像領域を示している。また領域302は、標準モードで符号化された画像領域を示している。領域303は、低画質モードで符号化された画像領域を示している。このように撮像装置100が備える画質モード(記録レート)の数に応じて画像を領域分割し、各領域を画質モードに応じたパラメータで符号化して表示することで、記録レートの違いをユーザに容易に伝えることができる。   In FIG. 3B, an area 301 indicates an image area encoded in the high image quality mode. An area 302 indicates an image area encoded in the standard mode. An area 303 indicates an image area encoded in the low image quality mode. As described above, the image is divided into regions according to the number of image quality modes (recording rates) included in the image capturing apparatus 100, and each region is encoded and displayed with a parameter corresponding to the image quality mode. Can be easily communicated.

枠304は、撮影モードの選択をユーザから受け付けるための選択受付用カーソルとして機能する。ユーザは操作部115により枠304を左右に移動させることができる。枠304は、領域301、領域302もしくは領域303に重ねて表示される。操作部115で左右に操作すると枠304が左右に動く。ユーザが操作部115を用いて領域を選択すると、そのときに枠304が重なっている画像領域に対応する撮影モードが設定される。例えば図3の場合、枠304が高画質レートの領域301に重なっているので、高画質レートが設定される。次にユーザが撮影ボタンを操作するなどして記録開始操作を行えば、上記で設定した記録レートで符号化及び記録が開始される。   The frame 304 functions as a selection acceptance cursor for accepting selection of the shooting mode from the user. The user can move the frame 304 left and right using the operation unit 115. The frame 304 is displayed so as to overlap the region 301, the region 302, or the region 303. When the operation unit 115 is operated left and right, the frame 304 moves to the left and right. When the user selects an area using the operation unit 115, a shooting mode corresponding to the image area where the frame 304 overlaps is set. For example, in the case of FIG. 3, since the frame 304 overlaps the area 301 of the high image quality rate, the high image quality rate is set. Next, when the user performs a recording start operation by operating the photographing button or the like, encoding and recording are started at the recording rate set above.

以上の実施形態では、領域計算部117が画像を水平走査方向に3分割する場合を記載した。しかしながら、領域分割数は、2分割以上であれば3分割に限定されるものではない。また、分割は厳密に均等である必要はなく、ほぼ同等の面積を有する領域が確保できれば足りる。分割数は、記録レートの種類数に一致していればよい。また、分割方向も水平走査方向に限定されるものではなく、垂直走査方向に分割しても良い。その場合、領域計算部117は、水平走査方向のMB数が0から119まで、かつ垂直走査方向のMB数が0から22までの画像領域を高画質モードで符号化するように符号量制御部105に指示を出す。また同様に、水平走査方向のMB数が0から119まで、かつ垂直走査方向のMB数が23から44までの画像領域を標準モードで符号化するように符号量制御部105に指示を出す。さらに水平走査方向のMB数が0から119まで、かつ垂直走査方向のMB数が45から67までの画像領域を低画質モードで符号化するように符号量制御部105に指示を出す。   In the above embodiment, the case where the area calculation unit 117 divides the image into three in the horizontal scanning direction has been described. However, the number of area divisions is not limited to three as long as it is two or more. Further, the division does not need to be strictly equal, and it is sufficient if a region having substantially the same area can be secured. The number of divisions only needs to match the number of types of recording rates. Further, the dividing direction is not limited to the horizontal scanning direction, and the dividing direction may be divided in the vertical scanning direction. In this case, the area calculation unit 117 encodes an image area in which the number of MBs in the horizontal scanning direction is 0 to 119 and the number of MBs in the vertical scanning direction is 0 to 22 in the high image quality mode. An instruction is issued to 105. Similarly, the code amount control unit 105 is instructed to encode an image area in which the number of MBs in the horizontal scanning direction is 0 to 119 and the number of MBs in the vertical scanning direction is 23 to 44 in the standard mode. Further, the code amount control unit 105 is instructed to encode an image area in which the number of MBs in the horizontal scanning direction is 0 to 119 and the number of MBs in the vertical scanning direction is 45 to 67 in the low image quality mode.

このように本実施形態では、複数の撮影モードで動画撮影が可能な撮像装置100において、撮影モード毎のローカルデコード画像を1枚の画像に含めてユーザに提供することができる。よって、ユーザは1枚の画像を見ながら、撮影モードに対応する記録レートの違いを容易に判断できるので、煩雑な操作を行わずに撮影モードを選択できる。   As described above, in the present embodiment, in the imaging apparatus 100 capable of moving image shooting in a plurality of shooting modes, a local decoded image for each shooting mode can be included in one image and provided to the user. Therefore, the user can easily determine the difference in recording rate corresponding to the shooting mode while viewing one image, so that the shooting mode can be selected without performing a complicated operation.

[実施形態2]
本実施形態では、一旦ローカルデコード画像の全体を表示し、その後にユーザから拡大操作を受け付けることを可能とする。拡大操作を受け付けると、指定領域のサイズ及び位置に基づいて撮影モード毎の領域を再計算してローカルデコード画像を改めて生成する。
[Embodiment 2]
In the present embodiment, the entire local decoded image is once displayed, and thereafter an enlargement operation can be received from the user. When the enlargement operation is accepted, the local decoding image is newly generated by recalculating the area for each photographing mode based on the size and position of the designated area.

図4を参照して、実施形態2に係る撮像装置100の動作を説明する。図4は、図2のフローチャートに対して追加される本実施形態に対応する処理を示す。本実施形態ではS203とS204との間にS401からS403までが実行される。   With reference to FIG. 4, the operation of the imaging apparatus 100 according to the second embodiment will be described. FIG. 4 shows processing corresponding to this embodiment added to the flowchart of FIG. In this embodiment, S401 to S403 are executed between S203 and S204.

S401では、制御部116が、ユーザ操作によって表示部114に表示されたローカルデコード画像から所定の拡大領域の指定を受け付けたか否かを判定する。もし、受け付けた場合は(S401で「YES」)、S402に遷移し、領域を再計算する。一方、拡大機能が起動されない場合は(S401で「NO」)、S204に移行する。   In step S <b> 401, the control unit 116 determines whether designation of a predetermined enlargement area has been received from the local decoded image displayed on the display unit 114 by a user operation. If it is accepted (“YES” in S401), the process proceeds to S402, and the area is recalculated. On the other hand, when the enlargement function is not activated (“NO” in S401), the process proceeds to S204.

S402では、制御部116が領域計算部117を起動すると共に、領域の再計算を行う。この領域の再計算は、S401で受け付けた拡大領域のサイズと位置に基づいて行う。例えば、図5(a)に示すように、水平走査方向においてMB数が45から74までの30MBを含む領域が、拡大領域として指定されたとする。このとき、30MBを3分割して、10MBずつが各撮影モードのローカルデコード画像に割り当てられる。従って、領域計算部117は、一水平走査期間について、0から54番目までの入力MBを「高画質モード」とし、55から64までを「標準モード」とし、65から119までを「低画質モード」とする。このように領域計算部117は、拡大領域において各モードのローカルデコード画像が均等に含まれるように、領域を再計算する。ただし、分割には厳密な均等性が求められているわけではない。   In S402, the control unit 116 activates the region calculation unit 117 and recalculates the region. The recalculation of this area is performed based on the size and position of the enlarged area received in S401. For example, as shown in FIG. 5A, it is assumed that an area including 30 MB having 45 to 74 MBs is designated as an enlarged area in the horizontal scanning direction. At this time, 30 MB is divided into three, and 10 MB is assigned to each locally decoded image in each shooting mode. Accordingly, the area calculation unit 117 sets the 0 to 54th input MBs as the “high quality mode”, the 55 to 64 as the “standard mode”, and the 65 to 119 as the “low quality mode” for one horizontal scanning period. " In this way, the area calculation unit 117 recalculates the area so that the local decoded images of each mode are uniformly included in the enlarged area. However, strict equality is not required for the division.

S403では、再計算により再分割された領域に従って記録レートを制御して符号化処理を行い、拡大ローカルデコード画像を表示部114に表示する。このとき、領域計算部117は、S402で再分割された領域に基づいて、符号量制御部105へ記録レートの指示を出す。例えば上記の例では、符号化開始から入力されたMB数が0から54の時は、高画質モードで符号化するように符号量制御部105に指示を出す。MB数が55から64の時は、標準モードで符号化するように符号量制御部105に指示を出す。MB数が65から119の時は、低画質モードで符号化するように符号量制御部105に指示を出す。これにより、高画質モードと低画質モードで符号化された領域はそれぞれ画像の左右45%を占める。残り画像中央の10%は標準モードで符号化する。符号量制御部105では、当該指示に応じて量子化パラメータを再設定する。   In S403, the recording rate is controlled in accordance with the area subdivided by recalculation, encoding processing is performed, and the enlarged local decoded image is displayed on the display unit 114. At this time, the area calculation unit 117 issues a recording rate instruction to the code amount control unit 105 based on the area subdivided in S402. For example, in the above example, when the number of MBs input from the start of encoding is 0 to 54, the code amount control unit 105 is instructed to perform encoding in the high image quality mode. When the number of MBs is 55 to 64, the code amount control unit 105 is instructed to perform encoding in the standard mode. When the number of MBs is 65 to 119, the code amount control unit 105 is instructed to perform encoding in the low image quality mode. Thus, the areas encoded in the high image quality mode and the low image quality mode occupy 45% of the left and right of the image, respectively. 10% of the center of the remaining image is encoded in the standard mode. The code amount control unit 105 resets the quantization parameter in accordance with the instruction.

表示部114は、新たに生成されたローカルデコード画像のうち、指定領域に対応した画像を拡大ローカルデコード画像として表示する。表示部114はフレームメモリ110からローカルデコード画像全体を読み出すのではなく、指定領域のみを読み出す。フレームメモリ110に保持されているローカルデコード画像のアドレスの管理は制御部116が行い、拡大画像の読み出し位置も制御部116が計算して読み出しを行う。このとき高画質モードと標準モードと低画質モードが表示される割合が等しくなる。表示部114は、読み出したローカルデコード画像を拡大して表示することで、撮影する画像の一部が拡大され、かつ記録レートの違いが分かるように表示される。これにより、より詳細な部分の記録レートの違いをユーザに提示できる。   The display unit 114 displays an image corresponding to the designated area among the newly generated local decoded images as an enlarged local decoded image. The display unit 114 does not read the entire local decoded image from the frame memory 110 but reads only the designated area. The control unit 116 manages the addresses of the local decoded images held in the frame memory 110, and the control unit 116 calculates and reads out the enlarged image reading position. At this time, the ratios at which the high image quality mode, the standard mode, and the low image quality mode are displayed are equal. The display unit 114 displays the read local decoded image in an enlarged manner so that a part of the image to be captured is enlarged and the difference in recording rate can be seen. Thereby, the difference of the recording rate of a more detailed part can be shown to a user.

図5は、拡大機能をONにした場合の表示部114に表示される画像を説明する図である。図5(a)の画像510は符号化用の画像において、記録レートが異なる領域を示している。図3(b)と比較すると、図5(a)では領域の再分割により、記録レートが割当てられている領域が異なっていることが分かる。画像は水平走査方向に120個のMBで構成されているが、0から54番目までの領域501は高画質モード、55から64番目までの領域502は標準モード、65から119番目までの領域503は低画質モードでそれぞれ符号化されている。拡大領域504は、45から74番目までのMBが指定されている。   FIG. 5 is a diagram illustrating an image displayed on the display unit 114 when the enlargement function is turned on. An image 510 in FIG. 5A shows areas with different recording rates in the image for encoding. Compared with FIG. 3B, it can be seen that in FIG. 5A, the areas to which the recording rate is assigned differ due to the re-division of the areas. The image is composed of 120 MBs in the horizontal scanning direction. The 0th to 54th areas 501 are the high image quality mode, the 55th to 64th areas 502 are the standard mode, and the 65th to 119th areas 503. Are encoded in the low image quality mode. In the enlarged area 504, 45th to 74th MBs are designated.

図5(b)の画像520は、拡大領域504を表示部114で拡大表示した場合の、拡大ローカルデコード画像を示している。領域506は高画質モードで符号化された領域、領域507は、標準モードで符号化された領域、領域508は、低画質モードで符号化された領域である。枠505は記録レートを選択するためのカーソルである。   An image 520 in FIG. 5B shows an enlarged local decoded image when the enlarged area 504 is enlarged and displayed on the display unit 114. An area 506 is an area encoded in the high image quality mode, an area 507 is an area encoded in the standard mode, and an area 508 is an area encoded in the low image quality mode. A frame 505 is a cursor for selecting a recording rate.

以上の本実施形態によれば、画像の一部を拡大して表示させて画質を確認したい場合に、ユーザが任意に指定した領域について均等に分割された記録レート毎のローカル画像を表示することができる。これにより記録レートの違いをより詳細かつ容易に判断できるので、煩雑な操作を行わずに記録レートを決定することができる。但し、指定領域の分割は厳密に均等である必要はなく、ほぼ同等の面積を有する領域が確保できれば足りる。   According to the above embodiment, when it is desired to enlarge and display a part of an image to check the image quality, the local image for each recording rate divided evenly for the area arbitrarily designated by the user is displayed. Can do. Thereby, the difference in recording rate can be determined in more detail and easily, so that the recording rate can be determined without performing a complicated operation. However, the division of the designated area does not have to be strictly equal, and it is sufficient if a region having an almost equal area can be secured.

なお、以上の実施形態2の説明では、ユーザが任意に拡大領域を指定できることにしたが、拡大領域を予め所定の領域に固定しておき、拡大の有無のみをユーザが選択するようにしても良い。あるいは、画像から特徴抽出処理を行い、特徴領域を含む所定サイズの領域を拡大領域に指定しても良い。特徴抽出処理では、色検出を行い色の変化の大きい領域、或いは、含まれる色数が多い領域を特徴領域としてもよい。また、ハイパスフィルタ処理を行って、広域成分の多く含まれる領域を特徴量域として抽出しても良い。   In the above description of the second embodiment, the user can arbitrarily designate the enlargement area. However, the enlargement area is fixed to a predetermined area in advance, and only the presence / absence of enlargement may be selected by the user. good. Alternatively, a feature extraction process may be performed from the image, and an area of a predetermined size including the feature area may be designated as the enlarged area. In the feature extraction process, an area having a large color change by color detection or an area having a large number of colors may be used as the feature area. Further, high-pass filter processing may be performed to extract a region containing many wide-area components as a feature amount region.

[実施形態3]
本実施形態では、画像における人間の顔の存在を検出し、顔の位置情報に基づいて、顔が包含されるような拡大領域を設定する。その後、拡大領域のサイズ及び位置に基づいて撮影モード毎の領域を再計算してローカルデコード画像を改めて生成する。
[Embodiment 3]
In the present embodiment, the presence of a human face in an image is detected, and an enlarged region that includes the face is set based on the position information of the face. After that, based on the size and position of the enlarged area, the area for each photographing mode is recalculated to generate a local decoded image again.

本実施形態に係る撮像装置は、図1に示した構成において点線で示した顔検出部120を構成要素として備える点に特徴を有する。顔検出部120は、撮像部10から入力される画像、或いは、いずれかの撮像モードで符号化された画像を用いて顔検出を行い、検出した顔の画像における位置情報を出力する。顔検出アルゴリズムはテンプレートを用いても良いし、或いは、エッジ検出により顔、目尻、目頭、鼻、口の輪郭を検出して顔判定を行って検出しても良い。顔検出自体は公知のアルゴリズムを利用することができるので、詳細な説明は省略する。   The imaging apparatus according to the present embodiment is characterized in that the face detection unit 120 indicated by a dotted line in the configuration illustrated in FIG. The face detection unit 120 performs face detection using an image input from the imaging unit 10 or an image encoded in any imaging mode, and outputs position information in the detected face image. The face detection algorithm may use a template, or may be detected by detecting the contours of the face, the corner of the eye, the eyes, the nose and the mouth by edge detection. Since face detection itself can use a known algorithm, detailed description is omitted.

顔検出部120は、検出した顔の位置情報を領域計算部117に出力する。領域計算部117は顔の位置情報に基づいて領域計算を行い、MB数をカウントし、高画質モード、標準モード、低画質モードで符号化する領域を符号量制御部105に通知する。ここでは、拡大ローカルデコード画像に顔全体が表示されるように領域を計算する。例えば顔検出部120から入力される顔の位置情報を用いて、顔の左端、右端の中に含まれるMB数をまず計算する。つまり顔領域の水平走査方向のMB数をカウントする。該MB数を記録レート数で分割し、各記録レートで符号化する領域の境界を計算する。計算して得られたMB数をカウントし、上述した領域計算部117と同様に、境界までMB数をカウントすれば、符号量制御部105に指示を出す。制御部116は、顔が拡大して表示されるようにアドレスを計算し、フレームメモリからローカルデコード画像を読み出し、表示部114に表示させる。   The face detection unit 120 outputs the detected face position information to the region calculation unit 117. The region calculation unit 117 performs region calculation based on the face position information, counts the number of MBs, and notifies the code amount control unit 105 of regions to be encoded in the high image quality mode, the standard mode, and the low image quality mode. Here, the area is calculated so that the entire face is displayed in the enlarged local decoded image. For example, first, the number of MBs included in the left and right ends of the face is calculated using the face position information input from the face detection unit 120. That is, the number of MBs in the horizontal scanning direction of the face area is counted. The MB number is divided by the recording rate number, and the boundary of the area to be encoded at each recording rate is calculated. When the number of MBs obtained by the calculation is counted and the number of MBs is counted up to the boundary in the same manner as the area calculation unit 117 described above, an instruction is issued to the code amount control unit 105. The control unit 116 calculates an address so that the face is displayed in an enlarged manner, reads a local decoded image from the frame memory, and causes the display unit 114 to display it.

図6を参照して、実施形態3に係る撮像装置100の動作を説明する。図6は、図2のフローチャートに対して追加される本実施形態に対応する処理を示す。本実施形態ではS203とS204との間にS601からS604までが実行される。   With reference to FIG. 6, the operation of the imaging apparatus 100 according to the third embodiment will be described. FIG. 6 shows processing corresponding to this embodiment added to the flowchart of FIG. In this embodiment, S601 to S604 are executed between S203 and S204.

S601では、顔検出部120が撮影画像から顔領域を検出する。もし、顔が検出された場合には(S601で「YES」)、S602に移行する。S602では、顔検出部120が画像における顔位置を計算して顔位置情報を生成する。顔位置情報は、水平走査方向のMB番号により特定される。例えば、顔が40番目から87番目までのMB内に含まれる場合は、顔位置情報は(40,87)となる。   In step S601, the face detection unit 120 detects a face area from the captured image. If a face is detected (“YES” in S601), the process proceeds to S602. In step S602, the face detection unit 120 calculates the face position in the image and generates face position information. The face position information is specified by the MB number in the horizontal scanning direction. For example, when the face is included in the 40th to 87th MBs, the face position information is (40, 87).

次にS603では、制御部116が領域計算部117を起動すると共に、領域の再計算を行う。この領域の再計算は、S502で生成された顔位置情報に基づいて行う。例えば、図7に示すように、水平走査方向においてMB数が40から87までの48MBを含む領域が、顔領域として指定されたとする。このとき、48MBを均等に3分割して、16MBずつが各撮影モードのローカルデコード画像に割り当てられる。ここでは、3分割が可能なMBサイズを例に説明しているが、領域の分割は厳密に均等である必要はなく、ほぼ同等の面積を有する領域が確保できれば足りる。領域計算部117は、一水平走査期間について、0から55番目までの入力MBを「高画質モード」とし、56から71までを「標準モード」とし、72から119までを「低画質モード」とする。このように領域計算部117は、拡大領域において各モードのローカルデコード画像が均等に含まれるように、領域を再計算する。   In step S <b> 603, the control unit 116 activates the region calculation unit 117 and recalculates the region. The recalculation of this area is performed based on the face position information generated in S502. For example, as shown in FIG. 7, it is assumed that an area including 48 MB with the number of MBs ranging from 40 to 87 in the horizontal scanning direction is designated as a face area. At this time, 48 MB is equally divided into three, and 16 MB is assigned to each locally decoded image in each shooting mode. Here, the MB size that can be divided into three is described as an example, but the division of the region does not have to be strictly equal, and it is sufficient if a region having substantially the same area can be secured. The area calculation unit 117 sets the 0 to 55th input MBs as the “high quality mode”, the 56 to 71 as the “standard mode”, and the 72 to 119 as the “low quality mode” for one horizontal scanning period. To do. In this way, the area calculation unit 117 recalculates the area so that the local decoded images of each mode are uniformly included in the enlarged area.

なお、顔領域が均等に分割できない場合には、領域を拡張しても良い。   If the face area cannot be divided equally, the area may be expanded.

S604では、再計算された領域に従って記録レートを制御して符号化処理を行い、拡大ローカルデコード画像を表示部114に表示する。このとき、領域計算部117は、S603で再計算した領域に基づいて、符号量制御部105へ記録レートの指示を出す。例えば上記の例では、符号化開始から入力されたMB数が0から55の時は、高画質モードで符号化するように符号量制御部105に指示を出す。MB数が56から71の時は、標準モードで符号化するように符号量制御部105に指示を出す。MB数が72から119の時は、低画質モードで符号化するように符号量制御部105に指示を出す。   In S604, the encoding process is performed by controlling the recording rate according to the recalculated area, and the enlarged local decoded image is displayed on the display unit 114. At this time, the area calculation unit 117 issues a recording rate instruction to the code amount control unit 105 based on the area recalculated in S603. For example, in the above example, when the number of MBs input from the start of encoding is 0 to 55, the code amount control unit 105 is instructed to perform encoding in the high image quality mode. When the number of MBs is 56 to 71, the code amount control unit 105 is instructed to perform encoding in the standard mode. When the number of MBs is 72 to 119, the code amount control unit 105 is instructed to perform encoding in the low image quality mode.

図7は、顔領域が表示部114に拡大表示された場合を示す図である。画像710は符号化用の画像において、記録レートが異なる領域を示している。画像は水平走査方向に120個のMBで構成されているが、0から55番目までの領域701は高画質モード、56から71番目までの領域702は標準モード、72から119番目までの領域703は低画質モードでそれぞれ符号化されている。顔検出領域704は、40から87番目までのMBが指定されている。   FIG. 7 is a diagram illustrating a case where the face area is enlarged and displayed on the display unit 114. An image 710 shows areas with different recording rates in the image for encoding. The image is composed of 120 MBs in the horizontal scanning direction. The 0 to 55th area 701 is the high image quality mode, the 56th to 71st area 702 is the standard mode, and the 72th to 119th area 703. Are encoded in the low image quality mode. In the face detection area 704, 40th to 87th MBs are designated.

画像720は、顔検出領域704を表示部114で拡大表示した場合の、拡大ローカルデコード画像を示している。領域706は高画質モードで符号化された領域、領域707は、標準モードで符号化された領域、領域708は、低画質モードで符号化された領域である。枠705は記録レートを選択するためのカーソルである。   An image 720 shows an enlarged local decoded image when the face detection area 704 is enlarged and displayed on the display unit 114. An area 706 is an area encoded in the high image quality mode, an area 707 is an area encoded in the standard mode, and an area 708 is an area encoded in the low image quality mode. A frame 705 is a cursor for selecting a recording rate.

なお、図7では顔が画像中に1つしか存在しない場合を示したが、仮に画像中に複数の顔がある場合は、顔の大きさ、合焦具合などに基づいていずれか1つ検出して表示する。即ち、検出された顔領域が最も大きいもの、或いは、顔領域において合焦度合いの最も高いものを検出する。合焦度合いの判定方法は公知であるので個々では省略する。なお、ユーザが拡大すべき顔を選択しても良い。例えば、撮影画像において顔が検出された領域を枠で囲んで表示し、ユーザが操作部115を用いていずれかの枠を選択して拡大表示を希望する顔を指定することもできる。別の顔について拡大表示を行いたい場合は、同様の選択動作を繰り返して同じように拡大ローカルデコード画像を表示すればよい。また、顔検出部120によらず、ユーザ自身が操作部115を利用して画像中の顔の位置を指定しても良い。その場合は、ユーザが指定した領域について上記と同様の処理を行えばよい。   FIG. 7 shows the case where only one face exists in the image. However, if there are a plurality of faces in the image, one of them is detected based on the size of the face, the degree of focus, and the like. And display. That is, the detected face area is the largest, or the face area having the highest degree of focus is detected. Since the method for determining the degree of focus is well known, it will be omitted individually. Note that the user may select a face to be enlarged. For example, a region in which a face is detected in the photographed image is displayed by surrounding it with a frame, and the user can select one of the frames using the operation unit 115 and specify a face for which enlargement display is desired. If it is desired to perform an enlarged display for another face, the same local selection image may be repeated to display the enlarged local decoded image in the same manner. In addition, the user himself / herself may designate the position of the face in the image using the operation unit 115 without using the face detection unit 120. In that case, the same process as described above may be performed for the area designated by the user.

本実施形態によれば、記録レートの違い及び画質の劣化を抑えたい顔領域の符号化後の画像をより詳細に容易に判断でき、煩雑な操作を行わずに記録レートを設定することができる。   According to the present embodiment, it is possible to easily determine in detail the image after encoding of the face area for which it is desired to suppress the difference in the recording rate and the deterioration of the image quality, and the recording rate can be set without performing a complicated operation. .

[その他の実施形態]
実施形態2では、それぞれユーザが拡大領域を指定して拡大ローカルデコード画像を表示する場合、実施形態3では顔検出部120により検出された顔領域について拡大ローカルデコード画像を表示する場合を個別に説明した。しかし、これらの拡大ローカルデコード画像の表示処理は統合されても良い。即ち、顔検出部120が顔検出を行って顔が検出された場合には顔検出領域を包含する拡大ローカルデコード画像を表示する。その一方で、顔が検出されない場合にはユーザが拡大領域を指定して、拡大ローカルデコード画像を表示することができる。また、顔検出を行うか、ユーザが任意に拡大領域を指定するかをユーザが選択可能とし、ユーザの選択結果に応じて処理を行ってもよい。また実施形態の統合においては、拡大領域をユーザが選択する代わりに、予め決定された領域や特徴抽出処理により決定された特徴領域を拡大領域とする実施形態を統合しても良い。
[Other Embodiments]
In the second embodiment, a case where the user designates an enlarged area and displays an enlarged local decoded image, respectively, and in the third embodiment, a case where an enlarged local decoded image is displayed for the face area detected by the face detection unit 120 is individually described. did. However, the display processing of these enlarged local decoded images may be integrated. That is, when the face detection unit 120 detects a face and detects a face, an enlarged local decoded image including the face detection area is displayed. On the other hand, when a face is not detected, the user can specify an enlarged area and display an enlarged local decoded image. In addition, the user may be able to select whether to perform face detection or the user arbitrarily specifies an enlarged region, and processing may be performed according to the user's selection result. In the integration of the embodiments, instead of the user selecting an enlarged region, an embodiment in which a predetermined region or a feature region determined by feature extraction processing is used as an enlarged region may be integrated.

また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。   The present invention can also be realized by executing the following processing. That is, software (program) that realizes the functions of the above-described embodiments is supplied to a system or apparatus via a network or various storage media, and a computer (or CPU, MPU, or the like) of the system or apparatus reads the program. It is a process to be executed.

Claims (10)

被写体を撮影して符号化用の画像を生成する撮像手段と、
前記符号化用の画像に直交変換と量子化とを施して量子化画像を生成する量子化画像生成手段と、
前記量子化画像に逆量子化と逆直交変換とを施して、ローカルデコード画像を生成するローカルデコード画像生成手段と、
前記量子化画像を生成する際の量子化ステップを制御するパラメータを設定する設定手段と、
表示手段とを備え、
前記設定手段は、前記符号化用の画像を複数の領域に分割して、前記量子化ステップが領域毎に異なるように前記パラメータを設定し、
前記表示手段は、領域毎に設定されたパラメータを用いて生成された量子化画像から生成された前記ローカルデコード画像を表示する
ことを特徴とする撮像装置。
Imaging means for photographing a subject and generating an image for encoding;
A quantized image generating means for generating a quantized image by performing orthogonal transformation and quantization on the image for encoding;
Local decoded image generation means for generating a local decoded image by performing inverse quantization and inverse orthogonal transformation on the quantized image;
A setting means for setting a parameter for controlling a quantization step when generating the quantized image;
Display means,
The setting means divides the image for encoding into a plurality of regions, sets the parameters so that the quantization step is different for each region,
The image display apparatus, wherein the display unit displays the local decoded image generated from a quantized image generated using a parameter set for each region.
前記表示手段は、前記ローカルデコード画像を前記パラメータの異なる領域毎に選択可能に表示し、
前記撮像装置は、ユーザから前記ローカルデコード画像におけるいずれかの領域の選択を受け付ける選択受付手段をさらに備え、
前記設定手段は、前記選択受付手段が選択を受け付けた領域に対応する前記パラメータを設定し、
前記量子化画像生成手段は、設定された前記パラメータを用いて前記量子化画像を生成する
ことを特徴とする請求項1に記載の撮像装置。
The display means displays the local decoded image so as to be selectable for each different area of the parameter,
The imaging apparatus further includes selection accepting means for accepting selection of any region in the local decoded image from a user,
The setting unit sets the parameter corresponding to the area in which the selection receiving unit has received a selection,
The imaging apparatus according to claim 1, wherein the quantized image generating unit generates the quantized image using the set parameter.
前記量子化画像をエントロピー符号化する符号化手段をさらに備え、
前記選択を受け付けた領域に対応して設定された前記パラメータを利用して前記量子化画像生成手段が生成した前記量子化画像は、前記符号化手段によりエントロピー符号化されて、前記撮像装置に着脱可能に装着される記録媒体に格納され、
前記選択受付手段により領域の選択を受け付けるために、領域毎に異なるパラメータを用いて前記量子化画像生成手段が生成した前記量子化画像は、前記符号化手段によるエントロピー符号化はされず、かつ、前記記録媒体にも格納されない
ことを特徴とする請求項2に記載の撮像装置。
Encoding means for entropy encoding the quantized image;
The quantized image generated by the quantized image generating unit using the parameter set corresponding to the region for which the selection has been received is entropy-encoded by the encoding unit, and is attached to or detached from the imaging device. Stored in a recording medium that can be mounted,
The quantized image generated by the quantized image generating unit using different parameters for each region in order to receive the selection of the region by the selection receiving unit is not entropy encoded by the encoding unit, and The imaging apparatus according to claim 2, wherein the imaging apparatus is not stored in the recording medium.
ユーザからの操作を受け付ける操作手段をさらに備え、
前記操作手段は、前記表示手段が表示する前記ローカルデコード画像において、拡大する領域の指定を受け付け、
前記設定手段は、前記拡大する領域として指定された領域が、ほぼ均等に分割されるように前記符号化用の画像を複数の領域に再分割して、前記量子化ステップが領域毎に異なるように前記パラメータを再設定し、
前記表示手段は、領域毎に再設定されたパラメータを用いて生成された量子化画像から生成された前記ローカルデコード画像のうち、前記拡大する領域として指定された領域の画像を拡大して表示する
ことを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
It further comprises an operation means for accepting an operation from the user,
The operation means accepts designation of an area to be enlarged in the local decoded image displayed by the display means,
The setting means subdivides the image for encoding into a plurality of regions so that the region designated as the region to be enlarged is divided approximately evenly, and the quantization step is different for each region. Reset the parameter to
The display means enlarges and displays an image of a region designated as the region to be enlarged among the local decoded images generated from the quantized image generated using the parameters reset for each region. The image pickup apparatus according to claim 1, wherein the image pickup apparatus is an image pickup apparatus.
ユーザからの操作を受け付ける操作手段をさらに備え、
前記操作手段は、前記表示手段が表示する前記ローカルデコード画像を拡大表示する指示を受け付け、
前記設定手段は、拡大表示のための前記ローカルデコード画像における所定の領域が、ほぼ均等に分割されるように前記符号化用の画像を複数の領域に再分割して、前記量子化ステップが領域毎に異なるように前記パラメータを再設定し、
前記表示手段は、領域毎に再設定されたパラメータを用いて生成された量子化から生成された前記ローカルデコード画像のうち、前記所定の領域の画像を拡大して表示する
ことを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
It further comprises an operation means for accepting an operation from the user,
The operation means receives an instruction to enlarge and display the local decoded image displayed by the display means;
The setting means subdivides the encoding image into a plurality of regions so that a predetermined region in the local decoded image for enlarged display is divided approximately evenly, and the quantization step includes regions. Reset the parameters to be different for each
The display means enlarges and displays an image of the predetermined region among the local decoded images generated from quantization generated using parameters reset for each region. Item 4. The imaging device according to any one of Items 1 to 3.
前記符号化用の画像に含まれる人間の顔の位置を検出する顔検出手段をさらに備え、
前記顔検出手段が前記顔の位置を検出した場合に、前記設定手段は、前記顔の位置に従い前記顔を包含する領域がほぼ均等に分割されるように前記符号化用の画像を複数の領域に再分割して、前記量子化ステップが領域毎に異なるように前記パラメータを再設定し、
前記表示手段は、領域毎に再設定されたパラメータを用いて生成された量子化画像から生成された前記ローカルデコード画像のうち、前記顔を包含する領域の画像を拡大して表示する
ことを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
Further comprising face detection means for detecting the position of a human face included in the encoding image;
When the face detection unit detects the position of the face, the setting unit converts the image for encoding into a plurality of regions so that the region including the face is divided approximately evenly according to the position of the face. And re-set the parameters so that the quantization step is different for each region,
The display means enlarges and displays an image of a region including the face among the local decoded images generated from a quantized image generated using parameters reset for each region. The imaging device according to any one of claims 1 to 5.
前記符号化用の画像に含まれる人間の顔の位置を指定する指定手段をさらに備え、
前記指定手段により前記顔の位置が指定された場合に、前記設定手段は、前記顔の位置に従い前記顔を包含する領域がほぼ均等に分割されるように前記符号化用の画像を複数の領域に再分割して、前記量子化ステップが領域毎に異なるように前記パラメータを再設定し、
前記表示手段は、領域毎に再設定されたパラメータを用いて生成された量子化画像から生成された前記ローカルデコード画像のうち、前記顔を包含する領域の画像を拡大して表示する
ことを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
Further comprising designation means for designating a position of a human face included in the image for encoding,
When the position of the face is specified by the specifying unit, the setting unit sets the image for encoding to a plurality of regions so that a region including the face is divided approximately evenly according to the position of the face. And re-set the parameters so that the quantization step is different for each region,
The display means enlarges and displays an image of a region including the face among the local decoded images generated from a quantized image generated using parameters reset for each region. The imaging device according to any one of claims 1 to 5.
前記設定手段は、前記符号化用の画像を水平走査方向、又は、垂直走査方向に分割することを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。   The imaging apparatus according to claim 1, wherein the setting unit divides the image for encoding in a horizontal scanning direction or a vertical scanning direction. 被写体を撮影して符号化用の画像を生成する撮像手段と、
前記符号化用の画像に直交変換と量子化とを施して量子化画像を生成する量子化画像生成手段と、
前記量子化画像に逆量子化と逆直交変換とを施して、ローカルデコード画像を生成するローカルデコード画像生成手段と、
前記量子化画像を生成する際の量子化ステップを制御するパラメータを設定する設定手段と、
表示手段とを備える撮像装置の制御方法であって、
前記設定手段が、前記符号化用の画像を複数の領域に分割して、前記量子化ステップが領域毎に異なるように前記パラメータを設定する工程と、
前記表示手段が、領域毎に設定されたパラメータを用いて生成された量子化画像から生成された前記ローカルデコード画像を表示する工程と
を備えることを特徴とする撮像装置の制御方法。
Imaging means for photographing a subject and generating an image for encoding;
A quantized image generating means for generating a quantized image by performing orthogonal transformation and quantization on the image for encoding;
Local decoded image generation means for generating a local decoded image by performing inverse quantization and inverse orthogonal transformation on the quantized image;
A setting means for setting a parameter for controlling a quantization step when generating the quantized image;
An image pickup apparatus control method comprising display means,
The setting means dividing the image for encoding into a plurality of regions, and setting the parameters such that the quantization step is different for each region;
And a step of displaying the local decoded image generated from a quantized image generated using a parameter set for each region.
コンピュータを請求項1乃至8のいずれか1項に記載の撮像装置の各手段として機能させることを特徴とするコンピュータプログラム。   A computer program for causing a computer to function as each unit of the imaging apparatus according to any one of claims 1 to 8.
JP2009156326A 2009-06-30 2009-06-30 Imaging device Pending JP2011015092A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009156326A JP2011015092A (en) 2009-06-30 2009-06-30 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009156326A JP2011015092A (en) 2009-06-30 2009-06-30 Imaging device

Publications (2)

Publication Number Publication Date
JP2011015092A true JP2011015092A (en) 2011-01-20
JP2011015092A5 JP2011015092A5 (en) 2012-08-16

Family

ID=43593566

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009156326A Pending JP2011015092A (en) 2009-06-30 2009-06-30 Imaging device

Country Status (1)

Country Link
JP (1) JP2011015092A (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USD768643S1 (en) 2013-11-21 2016-10-11 Nikon Corporation Display screen with transitional graphical user interface
USD768644S1 (en) 2013-11-21 2016-10-11 Nikon Corporation Display screen with transitional graphical user interface
US9774778B2 (en) 2012-05-22 2017-09-26 Nikon Corporation Electronic camera, image display device, and storage medium storing image display program, including filter processing
WO2018235382A1 (en) * 2017-06-21 2018-12-27 富士フイルム株式会社 Imaging device, control method for imaging device, and control program for imaging device

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009040918A1 (en) * 2007-09-27 2009-04-02 Panasonic Corporation Moving image coding apparatus, moving image coding method, and program
JP2009124644A (en) * 2007-11-19 2009-06-04 Sanyo Electric Co Ltd Image processing device, imaging device, and image reproduction device

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009040918A1 (en) * 2007-09-27 2009-04-02 Panasonic Corporation Moving image coding apparatus, moving image coding method, and program
JP2009124644A (en) * 2007-11-19 2009-06-04 Sanyo Electric Co Ltd Image processing device, imaging device, and image reproduction device

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9774778B2 (en) 2012-05-22 2017-09-26 Nikon Corporation Electronic camera, image display device, and storage medium storing image display program, including filter processing
US10057482B2 (en) 2012-05-22 2018-08-21 Nikon Corporation Electronic camera, image display device, and storage medium storing image display program
US10547778B2 (en) 2012-05-22 2020-01-28 Nikon Corporation Image display device for displaying an image in an image display area, and storage medium storing image display program for displaying an image in an image display area
USD768643S1 (en) 2013-11-21 2016-10-11 Nikon Corporation Display screen with transitional graphical user interface
USD768644S1 (en) 2013-11-21 2016-10-11 Nikon Corporation Display screen with transitional graphical user interface
WO2018235382A1 (en) * 2017-06-21 2018-12-27 富士フイルム株式会社 Imaging device, control method for imaging device, and control program for imaging device
US11140331B2 (en) 2017-06-21 2021-10-05 Fujifilm Corporation Image capturing apparatus, control method for image capturing apparatus, and control program for image capturing apparatus

Similar Documents

Publication Publication Date Title
US7986345B2 (en) Image pickup apparatus, image processing method, and program
WO2011013349A1 (en) Video data processing device and video data processing system
JP4641892B2 (en) Moving picture encoding apparatus, method, and program
JP2014236264A (en) Image processing apparatus, image processing method and program
JP5520122B2 (en) Data converter
JP5265910B2 (en) Video input device having high-speed and high-quality continuous shooting function and continuous shooting method using the same
JP5156704B2 (en) Image coding apparatus, image coding method, integrated circuit, and camera
JP2023065581A (en) video encoding and decoding
JP2010035133A (en) Moving image encoding apparatus and moving image encoding method
JP2004015501A (en) Apparatus and method for encoding moving picture
JP2011015092A (en) Imaging device
JP2015115903A (en) Imaging apparatus, control method of imaging apparatus, and computer program
US10244199B2 (en) Imaging apparatus
JP6871727B2 (en) Imaging equipment, image processing methods, and programs
JP6929044B2 (en) Imaging device, control method of imaging device, and program
JP2009027493A (en) Image coder and image coding method
JP5869839B2 (en) Image processing apparatus and control method thereof
US8953055B2 (en) Image pickup apparatus
JP4335779B2 (en) Encoding apparatus, recording apparatus using the same, encoding method, and recording method
JPH09261530A (en) Video recorder
JP2015159405A (en) image processing apparatus, imaging device, control method, program, and storage medium
JP4164268B2 (en) Encoding device, encoding method, program, storage medium
JP7463114B2 (en) IMAGE PROCESSING APPARATUS, CONTROL METHOD FOR IMAGE PROCESSING APPARATUS, PROGRAM, AND STORAGE MEDIUM
JP5167385B2 (en) Digital camera
JP5419560B2 (en) Imaging device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120629

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120629

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130513

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130711

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130924