JP4771986B2 - Image encoding apparatus and imaging apparatus using the same - Google Patents

Image encoding apparatus and imaging apparatus using the same Download PDF

Info

Publication number
JP4771986B2
JP4771986B2 JP2007093424A JP2007093424A JP4771986B2 JP 4771986 B2 JP4771986 B2 JP 4771986B2 JP 2007093424 A JP2007093424 A JP 2007093424A JP 2007093424 A JP2007093424 A JP 2007093424A JP 4771986 B2 JP4771986 B2 JP 4771986B2
Authority
JP
Japan
Prior art keywords
frame
frames
imaging
unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007093424A
Other languages
Japanese (ja)
Other versions
JP2008252685A (en
Inventor
裕夫 石井
茂之 岡田
伸一郎 岡田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP2007093424A priority Critical patent/JP4771986B2/en
Publication of JP2008252685A publication Critical patent/JP2008252685A/en
Application granted granted Critical
Publication of JP4771986B2 publication Critical patent/JP4771986B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、連続撮像された画像を符合化する画像符号化装置およびそれを用いた撮像装置に関する。   The present invention relates to an image encoding apparatus that encodes continuously captured images and an imaging apparatus using the same.

デジタルスチルカメラやデジタルビデオカメラが広く普及してきており、今まで以上に、一般ユーザが写真を手軽に撮影できるようになってきている。カメラの取り扱いに不慣れなユーザは、一回のシャッターでベストショットを撮影することが難しい。   Digital still cameras and digital video cameras have become widespread, and it has become easier for ordinary users to take pictures than ever before. Users who are unfamiliar with camera handling have difficulty in taking the best shot with a single shutter.

そこで、ユーザの単純な操作により、撮像条件を変化させながら自動的に連続撮像し、後に、連続撮像によって生成された複数の画像の中からユーザがお気に入りの画像を選択することができるブラケット連写機能を搭載したカメラが実用化されている。   Therefore, bracket continuous shooting that allows the user to select a favorite image from a plurality of images generated by continuous imaging automatically by continuously capturing images while changing the imaging conditions by a simple operation of the user. Cameras equipped with functions have been put into practical use.

特許文献1は、動画ファイルから不要なフレームを削除する編集技術について開示する。
特開2005−5916号公報
Patent Document 1 discloses an editing technique for deleting unnecessary frames from a moving image file.
JP 2005-5916 A

しかしながら、ブラケット連写で撮像された画像を記憶するための容量が必要となる。とくに、高速に連写するほど画像の枚数が多くなり、記憶容量を圧迫してしまう。また、一枚の画像ごとにファイルを生成するとファイルの数が多くなり、ファイルの管理が煩雑になる。   However, a capacity for storing an image captured by bracket continuous shooting is required. In particular, the higher the speed of continuous shooting, the larger the number of images and the more the storage capacity is pressed. In addition, if a file is generated for each image, the number of files increases, and file management becomes complicated.

本発明はこうした状況に鑑みなされたものであり、その目的は、ブラケット連写で生成された画像を効率よく管理することができる画像符号化装置およびそれを用いた撮像装置を提供することにある。   The present invention has been made in view of such circumstances, and an object thereof is to provide an image encoding device capable of efficiently managing images generated by bracket continuous shooting and an imaging device using the same. .

本発明のある態様の画像符号化装置は、撮像条件が変化しながら連続撮像されたピクチャをピクチャ間予測符号化するとき、それぞれの符号化対象ピクチャが予測符号化すべき参照ピクチャが固定されている。「ピクチャ」は、フレーム、フィールド、VOP(Video Object Plane)などを含む符号化の単位である。「撮像条件が変化しながら連続撮像されたピクチャをピクチャ間予測符号化するとき」には、複数の撮像条件が繰り返し切り換えられながらピクチャをピクチャ間予測符号化するとき、が含まれてもよい。「対応する撮像条件」は同じ撮像条件であってもよいし、隣接する撮像条件であってもよい。   In an image encoding device according to an aspect of the present invention, when pictures that are continuously captured while image capturing conditions are changed are inter-picture predictive-encoded, reference pictures to be predictively encoded by the respective encoding target pictures are fixed. . A “picture” is an encoding unit including a frame, a field, a VOP (Video Object Plane), and the like. “When inter-picture predictive encoding is performed for pictures that are continuously captured while the imaging conditions are changed” may include inter-picture predictive encoding while a plurality of imaging conditions are repeatedly switched. The “corresponding imaging conditions” may be the same imaging conditions or adjacent imaging conditions.

この態様によると、参照ピクチャが固定されていることにより、連続撮像された画像の管理が容易となり、記録や編集を効率化することができる。たとえば、撮像条件を選択することにより、ユーザの好みに合った画像の抽出や、好みに合わない画像の消去を容易に行うことができる。   According to this aspect, since the reference picture is fixed, management of continuously captured images can be facilitated, and recording and editing can be made more efficient. For example, by selecting an imaging condition, it is possible to easily extract an image that suits the user's preference and erase an image that does not suit the preference.

それぞれの符号化対象ピクチャから、それぞれの参照ピクチャまでの距離が固定されていてもよい。これによると、参照ピクチャまでの距離が固定されているため、画像の検索や再構築などが容易となる。「距離」はピクチャ数であってもよい。   The distance from each encoding target picture to each reference picture may be fixed. According to this, since the distance to the reference picture is fixed, it is easy to search or reconstruct an image. “Distance” may be the number of pictures.

本発明のある態様の画像符号化装置は、撮像条件が変化しながら連続撮像されたピクチャをピクチャ間予測符号化するとき、それぞれの符号化対象ピクチャが予測符号化すべき参照ピクチャが固定されており、連続撮像されたピクチャを複数のグループに分類し、それぞれのグループごとに参照ピクチャの位置が固定されている。   In an image encoding device according to an aspect of the present invention, when pictures that are continuously captured while the imaging conditions are changed are inter-picture predictive-encoded, reference pictures to be predictively encoded by the respective encoding target pictures are fixed. The continuously captured pictures are classified into a plurality of groups, and the position of the reference picture is fixed for each group.

この態様によると、特定のピクチャの復号に必要な参照ピクチャがあらかじめ特定されるため、復号処理が容易になる。   According to this aspect, since a reference picture necessary for decoding a specific picture is specified in advance, the decoding process is facilitated.

連続撮像されたピクチャは、複数の撮像条件が繰り返し切り換えられながら撮像されたピクチャであり、それらピクチャを複数の撮像条件の単位サイクルごとに、複数のグループに分類してもよい。これによると、サイクル単位を基準に符号化するため、連続撮像された画像の管理が容易となり、記録や編集を効率化することができる。   The continuously captured pictures are pictures that are captured while a plurality of imaging conditions are repeatedly switched, and these pictures may be classified into a plurality of groups for each unit cycle of the plurality of imaging conditions. According to this, since encoding is performed based on the cycle unit, it is easy to manage continuously captured images, and recording and editing can be made efficient.

それぞれのグルーブは、自己以外のグループに参照ピクチャを持つ第1ピクチャと、グループ内に参照ピクチャを持つ第2ピクチャを含んでもよい。それぞれのグルーブの第1ピクチャは、自己以外のグループの第1ピクチャを参照ピクチャとしてもよい。それぞれの第1ピクチャから、それぞれの参照ピクチャまでの距離が固定されていてもよい。   Each groove may include a first picture having a reference picture in a group other than itself and a second picture having a reference picture in the group. For the first picture of each groove, the first picture of a group other than itself may be used as a reference picture. The distance from each first picture to each reference picture may be fixed.

本発明の別の態様は、撮像装置である。この装置は、撮像条件を変化させながら連続撮像する撮像部と、撮像部で連続撮像されたピクチャを符号化する画像符号化装置と、を備える。   Another aspect of the present invention is an imaging apparatus. This apparatus includes an imaging unit that continuously captures images while changing imaging conditions, and an image encoding device that encodes pictures continuously captured by the imaging unit.

この態様によると、連続撮像された画像の管理が容易な撮像装置を実現することができる。   According to this aspect, it is possible to realize an imaging device that can easily manage continuously captured images.

なお、以上の構成要素の任意の組み合わせ、本発明の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。   It should be noted that any combination of the above-described constituent elements and a conversion of the expression of the present invention between a method, an apparatus, a system, a recording medium, a computer program, and the like are also effective as an aspect of the present invention.

本発明によれば、ブラケット連写で生成された画像を効率よく管理することができる。   According to the present invention, it is possible to efficiently manage images generated by bracket continuous shooting.

まず、本発明の実施の形態を説明する前に、本発明の実施に適した連続撮像手法の一例について説明する。
図1は、連続撮像手法の一例を説明するための図である。この連続撮像手法は、撮像条件を変化させながら連続撮像するブラケット連写を拡張したものであり、設定された複数の撮像条件の内、最後の撮像条件まで到達すると最初の撮像条件に戻って連続撮像を継続するものである(以下、本明細書中では拡張ブラケット連写という)。たとえば、露出、フォーカスおよびホワイトバランスなどの設定値を変化させながら連続撮像することにより、同一シーンで明るさ、色、焦点などの異なる複数の画像を撮像することができる。
First, before describing an embodiment of the present invention, an example of a continuous imaging method suitable for implementing the present invention will be described.
FIG. 1 is a diagram for explaining an example of a continuous imaging method. This continuous imaging method is an extension of bracket continuous shooting that continuously captures images while changing the imaging conditions. When the last imaging condition is reached among the set imaging conditions, the first imaging condition is restored and continuous. Imaging is continued (hereinafter referred to as extended bracket continuous shooting in this specification). For example, by continuously capturing images while changing set values such as exposure, focus, and white balance, it is possible to capture a plurality of images having different brightness, color, focus, and the like in the same scene.

図1では、三種類の撮像条件が設定された場合を示している。たとえば、三種類の撮像条件として、明るさが普通、明るい、暗いが設定される。図1では、三種類の撮像条件にそれぞれ対応した三枚の画像が撮像されることを一サイクルとして、複数サイクル繰り返される。この手法によると、カメラの扱いに不慣れなユーザでも、明るさ、色、焦点などの異なる複数の画像から好みの画像を選択することにより、ベストショット写真を得ることができる。また、パラメータの設定ミスにより意図した写真が撮影できなかったという事態を回避することができる。   FIG. 1 shows a case where three types of imaging conditions are set. For example, the brightness is set to normal, bright, and dark as three types of imaging conditions. In FIG. 1, a plurality of cycles are repeated, assuming that three images respectively corresponding to three types of imaging conditions are captured. According to this method, even a user unfamiliar with camera handling can obtain a best shot photograph by selecting a favorite image from a plurality of images having different brightness, color, focus, and the like. In addition, it is possible to avoid a situation in which an intended photograph cannot be taken due to a parameter setting error.

図2は、本発明の実施の形態に係る撮像装置100の構成図である。実施の形態に係る撮像装置100は、制御部10、撮像部20、撮像条件設定部30、符号化部40、操作部50、表示部60および記録部70を備える。これらの構成は、ハードウェア的には、任意のコンピュータのCPU、メモリ、その他のLSIで実現でき、ソフトウェア的にはメモリにロードされたプログラムなどによって実現されるが、ここではそれらの連携によって実現される機能ブロックを描いている。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組み合わせによっていろいろな形で実現できることは、当業者には理解されるところである。   FIG. 2 is a configuration diagram of the imaging apparatus 100 according to the embodiment of the present invention. The imaging apparatus 100 according to the embodiment includes a control unit 10, an imaging unit 20, an imaging condition setting unit 30, an encoding unit 40, an operation unit 50, a display unit 60, and a recording unit 70. These configurations can be realized in hardware by any computer's CPU, memory, and other LSIs, and in software, they are realized by programs loaded into the memory. Draw functional blocks. Therefore, those skilled in the art will understand that these functional blocks can be realized in various forms by hardware only, software only, or a combination thereof.

撮像部20は、CCD(Charge Coupled Devices)センサやCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサなどの撮像素子、レンズ、光学系、ズーム機構および絞り機構などを備え、撮像素子で撮像した画像を電気信号に変換し、制御部10に出力する。撮像部20は、制御部10の指示に応じて、撮像素子とレンズとの間の焦点距離や、絞りや、シャッタースピードなどを制御しながら、連続撮像する。   The imaging unit 20 includes an imaging device such as a CCD (Charge Coupled Devices) sensor and a CMOS (Complementary Metal-Oxide Semiconductor) image sensor, a lens, an optical system, a zoom mechanism, a diaphragm mechanism, and the like, and electrically captures an image captured by the imaging device. The signal is converted into a signal and output to the control unit 10. The imaging unit 20 continuously captures images while controlling the focal length, the aperture, the shutter speed, and the like between the imaging element and the lens in accordance with an instruction from the control unit 10.

撮像条件設定部30は、一つのパラメータの変化させた複数の撮像条件、または複数のパラメータを組み合わせたプロファイルを変化させた複数の撮像条件を制御部10に設定する。たとえば、パラメータとして、焦点距離、ピント位置、絞り、シャッタースピード、フラッシュのオン/オフ、画像信号を量子化する際のビット数、色調、ホワイトバランス、コントラスト、彩度およびシャープネスなどの操作対象の内、少なくとも一つを操作対象にすることができる。   The imaging condition setting unit 30 sets a plurality of imaging conditions in which one parameter is changed or a plurality of imaging conditions in which a profile in which a plurality of parameters are combined is changed in the control unit 10. For example, parameters such as focal length, focus position, aperture, shutter speed, flash on / off, number of bits when quantizing the image signal, tone, white balance, contrast, saturation, sharpness, etc. , At least one can be set as an operation target.

撮像条件は、ユーザが操作対象の値を設定することにより、生成されてもよいし、デフォルトで設定されていてもよい。また、デフォルトでプロファイルされている複数の撮像条件からユーザが選択していくことにより、設定されてもよい。   The imaging condition may be generated by the user setting a value to be operated, or may be set by default. Alternatively, it may be set by the user selecting from a plurality of imaging conditions profiled by default.

符号化部40は、撮像部20により撮像された画像を所定の方式で圧縮符号化する。主に静止画を撮像するデジタルスチルカメラであれば、JPEG(Joint Photographic Experts Group)形式で圧縮符号化してもよい。デジタルビデオカメラであれば、MPEG(Moving Picture Experts Group)形式で圧縮符号化してもよい。本実施の形態では、フレーム間符号化技術を利用するため、MPEG形式で圧縮符号化するハードウェアエンジンを搭載していれば、そのエンジンを利用することができる。符号化部40の詳細については後述する。   The encoding unit 40 compresses and encodes the image captured by the imaging unit 20 using a predetermined method. In the case of a digital still camera that mainly captures still images, compression encoding may be performed in JPEG (Joint Photographic Experts Group) format. In the case of a digital video camera, compression encoding may be performed in the MPEG (Moving Picture Experts Group) format. In this embodiment, since an inter-frame coding technique is used, if a hardware engine that performs compression coding in the MPEG format is installed, the engine can be used. Details of the encoding unit 40 will be described later.

操作部50は、シャッターボタンなどの各種ボタンを含む。表示部60は、撮像された画像、撮像条件の設定画面、各種のパラメータ値やメッセージなどを表示する。記録部70は、メモリーカードスロット、光ディスク、またはHDDを備え、撮像された画像などを記録媒体に記録する。   The operation unit 50 includes various buttons such as a shutter button. The display unit 60 displays a captured image, an imaging condition setting screen, various parameter values, messages, and the like. The recording unit 70 includes a memory card slot, an optical disk, or an HDD, and records captured images on a recording medium.

制御部10は、撮像装置100全体を制御する。本実施の形態では、主に、撮像条件設定部30により設定された撮像条件にしたがい上述したパラメータを変化させるため、撮像部20、符号化部40などに制御信号を出力する。たとえば、撮像部20に、レンズの位置、絞り、シャッタースピードなどを指定したり、符号化部40に、撮像された画像を補正および加工するためのパラメータを指定する。   The control unit 10 controls the entire imaging apparatus 100. In the present embodiment, a control signal is mainly output to the imaging unit 20, the encoding unit 40, etc. in order to change the parameters described above according to the imaging conditions set by the imaging condition setting unit 30. For example, the lens position, aperture, shutter speed, and the like are designated in the imaging unit 20, and parameters for correcting and processing the captured image are designated in the encoding unit 40.

図3は、実施の形態に係る符号化部40の構成図である。本実施の形態に係る符号化部40は、連続撮像された複数の画像をフレーム間符号化技術を利用して、圧縮符号化する。国際標準化機関であるISO(International Organization for Standardization)/IEC(International Electrotechnical Commission)によって標準化されたMPEGシリーズの規格(MPEG−1、MPEG−2およびMPEG−4)、電気通信に関する国際標準機関であるITU−T(International Telecommunication Union-Telecommunication Standardization Sector)によって標準化されたH.26xシリーズの規格(H.261、H.262およびH.263)、もしくは両方の標準化機関によって合同で標準化された最新の動画像圧縮符号化標準規格であるH.264/AVC(両機関における正式勧告名はそれぞれMPEG-4 Part 10: Advanced Video CodingとH.264)に準拠した動画像の符号化エンジンを搭載している場合、それを転用することができる。   FIG. 3 is a configuration diagram of the encoding unit 40 according to the embodiment. The encoding unit 40 according to the present embodiment compresses and encodes a plurality of continuously captured images using an inter-frame encoding technique. MPEG series standards (MPEG-1, MPEG-2 and MPEG-4) standardized by ISO (International Organization for Standardization) / IEC (International Electrotechnical Commission), ITU, an international standard organization for telecommunications -Standardized by T (International Telecommunication Union-Telecommunication Standardization Sector). 26x series standards (H.261, H.262 and H.263), or H.264, the latest video compression coding standard standardized jointly by both standards organizations. If a video encoding engine compliant with H.264 / AVC (the official recommendation names of both organizations are MPEG-4 Part 10: Advanced Video Coding and H.264, respectively) can be used.

MPEGシリーズの規格では、フレーム内符号化を行う画像フレームをI(Intra)フレーム、過去のフレームを参照画像として順方向のフレーム間予測符号化を行う画像フレームをP(Predictive)フレーム、過去と未来のフレームを参照画像として双方向のフレーム間予測符号化を行う画像フレームをBフレームという。   In the MPEG series standard, an image frame for intra-frame encoding is an I (Intra) frame, an image frame for forward inter-frame predictive encoding with a past frame as a reference image, a P (Predictive) frame, and past and future An image frame that performs bidirectional inter-frame predictive coding using this frame as a reference image is called a B frame.

本実施の形態では、参照画像が固定されるため、MPEGシリーズの規格でいうBフレームに相当する概念はなく、Iフレームと、Pフレームを用いる。ただし、本明細書で使用するIフレーム、Pフレームという用語は、MPEGシリーズの規格で圧縮符号化されたフレームに限る趣旨ではなく、フレーム内符号化されたフレームをIフレーム、フレーム間予測符号化されたフレームをPフレームと便宜上、定義したにすぎない。なお、Pフレームという用語は、過去のフレームのみを参照画像とする趣旨ではなく、過去および未来を問わず、固定されたフレームを参照画像としてフレーム間予測符号化されたフレームという趣旨で用いる。   In this embodiment, since the reference image is fixed, there is no concept corresponding to the B frame in the MPEG series standard, and an I frame and a P frame are used. However, the terms “I frame” and “P frame” used in this specification are not limited to frames that have been compression-encoded in accordance with the MPEG series standard, but intra-frame encoded frames are referred to as I-frame and inter-frame predictive encoding. The frame is simply defined as a P frame for convenience. Note that the term “P frame” is not used to refer to only past frames as reference images, but is used to refer to frames that have been interframe predictively encoded using fixed frames as reference images regardless of the past or future.

なお、本願明細書では、フレームとピクチャを同じ意味で用いており、Iフレーム、Pフレームは、それぞれIピクチャ、Pピクチャとも呼ばれている。また、本願明細書では、符号化の単位としてフレームを例に挙げて説明するが、符号化の単位はフィールドであってもよい。また、符号化の単位はMPEG−4におけるVOPであってもよい。   In this specification, a frame and a picture are used in the same meaning, and an I frame and a P frame are also called an I picture and a P picture, respectively. In this specification, a frame is used as an example of the encoding unit. However, the encoding unit may be a field. The unit of encoding may be a VOP in MPEG-4.

ブロック生成部80は、入力された画像フレームIFをマクロブロックに分割する。画像フレームの左上から右下方向の順にマクロブロックが形成される。ブロック生成部80は生成したマクロブロックを差分器82、動き補償部94に供給する。   The block generation unit 80 divides the input image frame IF into macro blocks. Macroblocks are formed in order from the upper left to the lower right of the image frame. The block generation unit 80 supplies the generated macroblock to the differentiator 82 and the motion compensation unit 94.

差分器82は、ブロック生成部80から供給される画像フレームがIフレームであれば、そのままDCT部84に出力するが、Pフレームであれば、動き補償部94から供給される予測画像との差分を計算してDCT部84に供給する。   If the image frame supplied from the block generation unit 80 is an I frame, the differentiator 82 outputs the difference to the predicted image supplied from the motion compensation unit 94 if it is a P frame. Is calculated and supplied to the DCT unit 84.

動き補償部94は、フレームバッファ96に格納されている主に過去の画像フレームを参照画像として利用し、ブロック生成部80から入力されたPフレームの各マクロブロックについて、誤差の最も小さい予測領域を参照画像から探索し、マクロブロックから予測領域へのずれを示す動きベクトルを求める。また、動き補償部94は、動きベクトルを用いてマクロブロック毎に動き補償を行い、予測画像を生成する。動き補償部94は、生成した動きベクトルを可変長符号化部98に供給し、予測画像を差分器82と加算器92に供給する。   The motion compensation unit 94 mainly uses a past image frame stored in the frame buffer 96 as a reference image, and for each macroblock of the P frame input from the block generation unit 80, a prediction region with the smallest error is selected. A search is performed from the reference image, and a motion vector indicating a shift from the macroblock to the prediction region is obtained. In addition, the motion compensation unit 94 performs motion compensation for each macroblock using the motion vector, and generates a predicted image. The motion compensation unit 94 supplies the generated motion vector to the variable length encoding unit 98, and supplies the prediction image to the difference unit 82 and the adder 92.

差分器82は、ブロック生成部80から出力される現在の画像、すなわち符号化対象の画像と、動き補償部94から出力される予測画像との差分を求め、DCT部84に出力する。DCT部84は、差分器82から与えられた差分画像を離散コサイン変換(DCT)し、DCT係数を量子化部86に与える。   The differentiator 82 calculates a difference between the current image output from the block generation unit 80, that is, the image to be encoded, and the predicted image output from the motion compensation unit 94, and outputs the difference to the DCT unit 84. The DCT unit 84 performs a discrete cosine transform (DCT) on the difference image given from the differentiator 82 and gives a DCT coefficient to the quantization unit 86.

量子化部86は、DCT係数を量子化し、可変長符号化部98に与える。可変長符号化部98は、動き補償部94から与えられた動きベクトルとともに差分画像の量子化されたDCT係数を可変長符号化し、符号化ストリームCSを生成する。可変長符号化部98は、符号化ストリームCSを生成する際、符号化されたフレームを時間順序に並べ替える処理を行う。ヘッダ生成部99は、符号化ストリームCSにヘッダ情報を付与する。付与するヘッダ情報の詳細は後述する。   The quantization unit 86 quantizes the DCT coefficient and supplies the quantized DCT coefficient to the variable length coding unit 98. The variable length coding unit 98 performs variable length coding on the quantized DCT coefficient of the difference image together with the motion vector supplied from the motion compensation unit 94, and generates a coded stream CS. When generating the encoded stream CS, the variable length encoding unit 98 performs processing of rearranging the encoded frames in time order. The header generation unit 99 adds header information to the encoded stream CS. Details of the header information to be added will be described later.

量子化部86は、画像フレームの量子化されたDCT係数を逆量子化部88に供給する。逆量子化部88は、与えられた量子化データを逆量子化し、逆DCT部90に与え、逆DCT部90は、与えられた逆量子化データを逆離散コサイン変換する。これにより、符号化された画像フレームが復元される。復元された画像フレームは加算器92に入力される。   The quantization unit 86 supplies the quantized DCT coefficient of the image frame to the inverse quantization unit 88. The inverse quantization unit 88 inversely quantizes the supplied quantized data and supplies the quantized data to the inverse DCT unit 90. The inverse DCT unit 90 performs inverse discrete cosine transform on the supplied inverse quantized data. Thereby, the encoded image frame is restored. The restored image frame is input to the adder 92.

加算器92は、逆DCT部90から供給される画像フレームがIフレームであれば、そのままフレームバッファ96に格納する。加算器92は、逆DCT部90から供給される画像フレームがPフレームであれば、それは差分画像であるため、逆DCT部90から供給された差分画像と動き補償部94から供給される予測画像とを加算することにより、元の画像フレームを再構成し、フレームバッファ96に格納する。   If the image frame supplied from the inverse DCT unit 90 is an I frame, the adder 92 stores it in the frame buffer 96 as it is. If the image frame supplied from the inverse DCT unit 90 is a P frame, the adder 92 is a difference image, so the difference image supplied from the inverse DCT unit 90 and the prediction image supplied from the motion compensation unit 94 Are reconstructed and stored in the frame buffer 96.

Pフレームの符号化処理の場合は、上述のように動き補償部94が動作するが、Iフレームの符号化処理の場合は、動き補償部94は動作せず、ここでは図示しないが、Iフレームはフレーム内予測が行われた後、DCT部84に供給される。   In the case of the P frame encoding process, the motion compensation unit 94 operates as described above. However, in the case of the I frame encoding process, the motion compensation unit 94 does not operate. Is supplied to the DCT unit 84 after intra-frame prediction is performed.

このような構成にて、IフレームとPフレームの比率は、あらかじめ固定されている。たとえば、一枚のIフレームに対して十四枚のPフレームが生成されてもよい。また、符号化対象のPフレームが参照画像とすべきPフレームもあらかじめ固定されている。したがって、逆DCT部90は、参照画像とならないPフレームの場合、加算器92に与えなくてもよい。   With such a configuration, the ratio between the I frame and the P frame is fixed in advance. For example, 14 P frames may be generated for one I frame. Also, the P frame that the P frame to be encoded should be a reference image is fixed in advance. Therefore, the inverse DCT unit 90 may not give the adder 92 in the case of a P frame that does not become a reference image.

図2に示した制御部10は、撮像条件を変化させるため、DCT部84に高周波成分の取り扱いを指示したり、量子化部86に量子化ステップを指示したりする。DCT部84や量子化部86などは、制御部10の指示に応じて、各種のパラメータを変化させる。   The control unit 10 illustrated in FIG. 2 instructs the DCT unit 84 to handle a high-frequency component or instructs the quantization unit 86 to perform a quantization step in order to change the imaging condition. The DCT unit 84, the quantization unit 86, and the like change various parameters in accordance with instructions from the control unit 10.

制御部10は、通常のMPEG圧縮技術における符号化方式(以下、このパラグラフでは符号化方式Aという)と、以下に説明する符号化方式(以下、このパラグラフでは符号化方式Bという)を使い分けることができる。たとえば、上述したブラケット連写で撮像されたフレームを符号化するとき、符号化方式Bで符号化するよう符号化部40を制御し、ブラケット連写で撮像された以外のフレームを符号化するとき、符号化方式Aで符号化するよう符号化部40を制御する。すなわち、符号化方式Bは、ブラケット連写モードで撮像されたフレームに対してのみ使用されてもよい。フレーム間予測技術を用いた符号化方式の間でも、符号化方式Aと符号化方式Bは異なる観点から設計されたものであるため、符号化すべき対象フレームの参照フレームは、符号化方式Aと符号化方式Bとでは基本的に異なることになる。当然のことながら、両者の観点が重なる箇所や偶然の一致により、両者の参照フレームが一致する場合もあり得る。   The control unit 10 uses the encoding method in the normal MPEG compression technology (hereinafter referred to as encoding method A in this paragraph) and the encoding method described below (hereinafter referred to as encoding method B in this paragraph). Can do. For example, when encoding a frame captured by bracket continuous shooting described above, the encoding unit 40 is controlled to encode by encoding method B, and a frame other than that captured by bracket continuous shooting is encoded. Then, the encoding unit 40 is controlled to perform encoding using the encoding method A. That is, the encoding method B may be used only for a frame imaged in the bracket continuous shooting mode. Since coding scheme A and coding scheme B are designed from different viewpoints even among coding schemes using interframe prediction technology, the reference frame of the target frame to be coded is encoded scheme A and This is basically different from the encoding method B. As a matter of course, there may be a case where the reference frames of the both coincide with each other due to a place where the viewpoints of the both overlap or a coincidence.

以下、本実施の形態に係るフレーム間予測技術を用いた符号化方式について説明する。まず、符号化方式の実施例1について説明する。実施例1は、時間方向に連続するフレームを所定の枚数ごとにグループ化し、符号化すべき対象フレームが参照フレームとすべきフレームの位置を固定する。たとえば、それぞれのグループにおいて、先頭フレームなど一枚の特定フレームは、他のグループの特定フレームを参照フレームとする。特定フレーム以外のフレームは、グループ内の特定フレームを参照フレームとする。   Hereinafter, a coding method using the inter-frame prediction technique according to the present embodiment will be described. First, a first embodiment of the encoding method will be described. In the first embodiment, frames that are continuous in the time direction are grouped into a predetermined number of frames, and the position of a frame in which a target frame to be encoded is a reference frame is fixed. For example, in each group, one specific frame such as the top frame is set as a reference frame in a specific frame of another group. For frames other than the specific frame, the specific frame in the group is used as a reference frame.

図4は、本発明の実施の形態に係る実施例1の一般概念を説明するための図である。図4では、各フレームグループFG1〜FGM(Mは自然数)は、N(Nは自然数)枚のフレームの集合で構成される。一つのフレームグループは、上記拡張ブラケット連写の一サイクルに撮像されたフレームの集合であってもよい。各フレームグループFG1〜FGMにおいて、各フレーム(1、・・・、N−X(XはN−1未満の自然数)、・・・、N)が参照すべきフレームは、各フレームグループFG1〜FGM内の位置によってあらかじめ固定化されている。図4では、各フレームグループ内の先頭フレーム1は、一つ前のフレームグループの先頭フレーム1を参照フレームとする。各フレームグループFG1〜FGM内の先頭フレーム1以外のフレーム2〜Nは、自己が属しているフレームグループの先頭フレーム1を参照フレームとする。   FIG. 4 is a diagram for explaining the general concept of Example 1 according to the embodiment of the present invention. In FIG. 4, each frame group FG1 to FGM (M is a natural number) is composed of a set of N (N is a natural number) frames. One frame group may be a set of frames captured in one cycle of the extended bracket continuous shooting. In each frame group FG1 to FGM, the frame to be referred to by each frame (1,..., NX (X is a natural number less than N-1),..., N) is the frame group FG1 to FGM. It is fixed in advance by the position in the inside. In FIG. 4, for the first frame 1 in each frame group, the first frame 1 of the previous frame group is used as a reference frame. Frames 2 to N other than the first frame 1 in each frame group FG1 to FGM use the first frame 1 of the frame group to which they belong as a reference frame.

図5は、本発明の実施の形態に係る実施例1の具体例(N=3)を説明するための図である。図5は、十五枚のフレームを一枚のIフレームと、十四枚のPフレームで生成した例を示す。これらのフレームを三枚のフレームごとにグループ化する。よって、五つのフレームグループFG1〜FG5が形成される。先頭のフレームグループG1の先頭フレームは、Iフレームであるため、参照フレームがない。他のフレームグループFG2〜FG5の先頭フレームP3、P6、P9、P12は、一つ前のフレームグループFG1〜FG4の先頭フレームを参照フレームとする。その他のフレームは、属しているフレームグループの先頭フレームを参照フレームとする。   FIG. 5 is a diagram for explaining a specific example (N = 3) of Example 1 according to the embodiment of the present invention. FIG. 5 shows an example in which fifteen frames are generated by one I frame and 14 P frames. These frames are grouped into three frames. Therefore, five frame groups FG1 to FG5 are formed. Since the first frame of the first frame group G1 is an I frame, there is no reference frame. For the first frames P3, P6, P9, and P12 of the other frame groups FG2 to FG5, the first frame of the previous frame group FG1 to FG4 is used as a reference frame. For other frames, the first frame of the frame group to which the frame belongs is used as a reference frame.

図6は、本発明の実施の形態に係る実施例1の具体例(N=5)を説明するための図である。図6も、十五枚のフレームを一枚のIフレームと、十四枚のPフレームで生成した例を示す。これらのフレームを五枚のフレームごとにグループ化する。よって、三つのフレームグループFG1〜FG3が形成される。先頭のフレームグループG1の先頭フレームは、Iフレームであるため、参照フレームがない。他のフレームグループFG2、FG3の先頭フレームP5、P10は、一つ前のフレームグループFG1、FG2の先頭フレームを参照フレームとする。その他のフレームは、属しているフレームグループの先頭フレームを参照フレームとする。   FIG. 6 is a diagram for explaining a specific example (N = 5) of Example 1 according to the embodiment of the present invention. FIG. 6 also shows an example in which fifteen frames are generated by one I frame and 14 P frames. These frames are grouped into five frames. Therefore, three frame groups FG1 to FG3 are formed. Since the first frame of the first frame group G1 is an I frame, there is no reference frame. For the first frames P5 and P10 of the other frame groups FG2 and FG3, the first frame of the previous frame group FG1 and FG2 is used as a reference frame. For other frames, the first frame of the frame group to which the frame belongs is used as a reference frame.

次に、符号化方式の実施例2について説明する。実施例2は、対象フレームと参照フレームとの距離をあらかじめ固定する。   Next, a second embodiment of the encoding method will be described. In the second embodiment, the distance between the target frame and the reference frame is fixed in advance.

図7は、本発明の実施の形態に係る実施例2の一般概念を説明するための図である。図7では、対象フレームと参照フレームとの距離(以下、参照距離という)L(Lは自然数)があらかじめ固定されている。参照距離をL未満(1、・・・、Y(YはL−2未満の自然数)、・・・、L−1)しかとれない対象フレームは、先頭フレーム1を参照フレームとする。フレームL以降のフレームは、L枚分、過去のフレームを参照フレームとする。参照距離Lが等しいフレーム同士で参照グループRG1〜RGL−1を形成する。各参照グループは、同じ撮像条件で撮像されたフレーム群であってもよい。たとえば、上述した拡張ブラケット連写で撮像される場合の撮像条件の数と、参照グループの数とを対応させてもよい。   FIG. 7 is a diagram for explaining a general concept of Example 2 according to the embodiment of the present invention. In FIG. 7, a distance between the target frame and the reference frame (hereinafter referred to as a reference distance) L (L is a natural number) is fixed in advance. For a target frame whose reference distance is less than L (1,..., Y (Y is a natural number less than L-2),..., L−1), the first frame 1 is the reference frame. For the frames after the frame L, L frames in the past are used as reference frames. Reference groups RG1 to RGL-1 are formed by frames having the same reference distance L. Each reference group may be a frame group imaged under the same imaging condition. For example, the number of imaging conditions when the above-described extended bracket continuous shooting is used may be associated with the number of reference groups.

図8は、本発明の実施の形態に係る実施例2の具体例(L=3)を説明するための図である。図8も、十五枚のフレームを一枚のIフレームと、十四枚のPフレームで生成した例を示す。各フレームP3〜P14は三枚前のフレームを参照フレームとする。PフレームP1およびPフレームP2は、先頭のIフレームを参照フレームとする。三つの参照グループGR1〜GR3が形成される。   FIG. 8 is a diagram for explaining a specific example (L = 3) of Example 2 according to the embodiment of the present invention. FIG. 8 also shows an example in which fifteen frames are generated by one I frame and 14 P frames. In each of the frames P3 to P14, the frame three frames before is used as a reference frame. In the P frame P1 and the P frame P2, the first I frame is a reference frame. Three reference groups GR1 to GR3 are formed.

図9は、本発明の実施の形態に係る実施例1の具体例(L=5)を説明するための図である。図9も、十五枚のフレームを一枚のIフレームと、十四枚のPフレームで生成した例を示す。各フレームP5〜P14は三枚前のフレームを参照フレームとする。PフレームP1〜PフレームP4は、先頭のIフレームを参照フレームとする。五つの参照グループGR1〜GR5が形成される。   FIG. 9 is a diagram for explaining a specific example (L = 5) of Example 1 according to the embodiment of the present invention. FIG. 9 also shows an example in which fifteen frames are generated with one I frame and 14 P frames. In each of the frames P5 to P14, the frame three frames before is used as a reference frame. In the P frame P1 to P frame P4, the first I frame is used as a reference frame. Five reference groups GR1 to GR5 are formed.

次に、符号化方式の実施例3について説明する。実施例3は、実施例1と実施例2を組み合わせたものである。すなわち、グループ内のフレームを参照フレームとする対象フレームについては、参照フレームの位置を固定し、かつグループを跨いたフレームを参照フレームとする対象フレームについては、参照距離を固定する。実施例3では、参照距離Lは各フレームグループの特定フレームのみのパラメータとなる。その他のフレームは参照距離ではなく、参照位置がパラメータとなる。   Next, a third embodiment of the encoding method will be described. Example 3 is a combination of Example 1 and Example 2. That is, the position of the reference frame is fixed for a target frame that uses a frame in the group as a reference frame, and the reference distance is fixed for a target frame that uses a frame across the group as a reference frame. In the third embodiment, the reference distance L is a parameter for only a specific frame of each frame group. For other frames, the reference position is a parameter, not the reference distance.

図10は、本発明の実施の形態に係る実施例3の一般概念を説明するための図である。実施例1と同様に、M個のフレームグループ(FG1、・・・、FGY、・・・、FGM)は、それぞれN枚のフレームの集合で構成される。各フレームグループFG1〜FGMにおいて、各フレーム(1、・・・、N−X、・・・、N)が参照すべきフレームは、各フレームグループFG1〜FGM内の位置によってあらかじめ固定化されている。各フレームグループ内の先頭フレームは、L枚分、過去のフレームを参照フレームとする。各フレームグループ内の先頭フレーム以外のフレームは、自己が属しているフレームグループの先頭フレームを参照フレームとする。   FIG. 10 is a diagram for explaining the general concept of Example 3 according to the embodiment of the present invention. Similar to the first embodiment, each of the M frame groups (FG1,..., FFG,..., FGM) includes a set of N frames. In each frame group FG1 to FGM, the frame to be referred to by each frame (1,..., NX,..., N) is fixed in advance by the position in each frame group FG1 to FGM. . For the first frame in each frame group, the past frames for L frames are used as reference frames. For frames other than the first frame in each frame group, the first frame of the frame group to which the frame belongs belongs to the reference frame.

図10では、各フレームグループ内の先頭フレームは、過去のフレームグループ内の先頭フレームを参照フレームとするため、参照距離Lは、フレームグループ内のフレーム数Nの倍数となる。先頭のフレームグループG1の先頭フレーム1までの参照距離がL未満の場合、その先頭フレーム1を参照フレームとする。   In FIG. 10, since the first frame in each frame group uses the first frame in the past frame group as a reference frame, the reference distance L is a multiple of the number N of frames in the frame group. When the reference distance to the first frame 1 of the first frame group G1 is less than L, the first frame 1 is set as a reference frame.

図11は、本発明の実施の形態に係る実施例3の具体例(N=3、L=6)を説明するための図である。図11は、十五枚のフレームを一枚のIフレームと、十四枚のPフレームで生成した例を示す。これらのフレームを三枚のフレームごとにグループ化する。よって、五つのフレームグループFG1〜FG5が形成される。各フレームグループFG1〜FG5の先頭フレーム以外のフレームは、先頭フレームを参照フレームとする。各フレームグループFG3〜FG5の先頭フレームは六枚分、時間的に前のフレームを参照フレームとする。フレームグループFG2の先頭フレームは、先頭のフレームグループFG1の先頭フレーム、すなわちIフレームを参照フレームとする。   FIG. 11 is a diagram for explaining a specific example (N = 3, L = 6) of Example 3 according to the embodiment of the present invention. FIG. 11 shows an example in which fifteen frames are generated with one I frame and 14 P frames. These frames are grouped into three frames. Therefore, five frame groups FG1 to FG5 are formed. For the frames other than the first frame of each frame group FG1 to FG5, the first frame is used as a reference frame. The first frame of each frame group FG3 to FG5 is six frames, and the previous frame in time is the reference frame. For the first frame of the frame group FG2, the first frame of the first frame group FG1, that is, the I frame is used as a reference frame.

図3に示したヘッダ生成部99は、各フレームグループに含まれるフレーム数Nおよび参照距離Lの少なくとも一方を、符号化ストリームCS、GOPおよびフレームのいずれかにヘッダとして記述する。なお、ヘッダ生成部99は、量子化ステップなど復号に必要な情報もヘッダに記述する。   The header generation unit 99 illustrated in FIG. 3 describes at least one of the number of frames N and the reference distance L included in each frame group as a header in one of the encoded streams CS, GOP, and frames. The header generation unit 99 also describes information necessary for decoding such as a quantization step in the header.

設計者は、フレーム数N、参照距離L、およびIフレームとPフレームとの比率を、撮像装置100の仕様に適合するように設定することができる。また、以下に示す知見をもとに最適な値を設定することもできる。Iフレームを少なくしPフレームを多くすると、圧縮効率がよくなる確率が高い(知見1)。参照距離Lが短いと予測誤差が小さくなり、圧縮効率がよくなる確率が高い(知見2)。フレーム数Nを多くすると、復号対象のPフレームが、アンカーフレームのIフレームに到達するまでに参照する必要があるフレームの数が少なくなる(知見3)。その復号に必要なフレームの数が少なくなると、復号時間が短くなる(知見4)。参照距離Lが長くなると復号時間が長くなる(知見5)。設計者は、これらの知見を参酌して、圧縮効率と復号時間のバランスを任意に設計することができる。また、後述する検索性や編集容易性の程度も、任意に設計することができる。   The designer can set the number of frames N, the reference distance L, and the ratio of the I frame and the P frame so as to conform to the specifications of the imaging apparatus 100. Moreover, an optimal value can also be set based on the knowledge shown below. When the number of I frames is decreased and the number of P frames is increased, the probability that the compression efficiency is improved is high (Knowledge 1). When the reference distance L is short, the prediction error is small, and the probability that the compression efficiency is improved is high (Knowledge 2). When the number N of frames is increased, the number of frames that need to be referred to before the P frame to be decoded reaches the I frame of the anchor frame decreases (Knowledge 3). When the number of frames necessary for the decoding decreases, the decoding time decreases (Knowledge 4). As the reference distance L increases, the decoding time increases (Knowledge 5). The designer can arbitrarily design a balance between compression efficiency and decoding time in consideration of these findings. In addition, the degree of searchability and ease of editing described later can be arbitrarily designed.

以上説明したように本実施の形態に係る符号化方式によれば、連続撮像された画像を効率よく管理することができる。とくに、検索性や編集容易性を向上させることができる。すなわち、対象フレームを復号するために必要な参照フレームをあらかじめ固定することにより、Iフレームに到達するまでに復号しなければならないフレーム数を削減することができる。よって、対象フレームを復号および再生するまでの時間を短縮することができる。これに対し、一般的なフレーム間符号化方式は、参照フレームがランダムに設定されるため、本実施の形態に係る符号化方式より復号および再生までの時間が長くなりやすい。   As described above, according to the encoding method according to the present embodiment, it is possible to efficiently manage continuously captured images. In particular, searchability and editability can be improved. That is, by fixing in advance the reference frame necessary for decoding the target frame, the number of frames that must be decoded before reaching the I frame can be reduced. Therefore, it is possible to shorten the time until the target frame is decoded and reproduced. On the other hand, in a general inter-frame coding scheme, since reference frames are set at random, the time until decoding and reproduction tends to be longer than in the coding scheme according to the present embodiment.

また、符号化ストリーム内から所定のフレームを抽出して、再構築することが容易に可能である。たとえば、実施例2において撮像条件の数と参照グループ数とを対応させ、参照グループごとに同一撮像条件で画像を撮像するように設定すれば、同一撮像条件のフレームを参照フレームに設定することができる。この状態で特定の撮像条件を選択すれば、その撮像条件で撮像されたフレーム群を抽出して、容易に再構築することができる。その際、一度復号した後に得られた画像を再び符号化する処理を経なくてもよいため、他の撮像条件で撮像されたフレーム群を即座に消去することができる。よって、処理量を非常に小さくすることができる。また、同一撮像条件のフレーム同士でフレーム間符号化するため、予測誤差が小さくなりやすく、圧縮符号化効率も高くなりやすい。   It is also possible to easily extract a predetermined frame from the encoded stream and reconstruct it. For example, if the number of imaging conditions is associated with the number of reference groups in the second embodiment and an image is set to be captured under the same imaging condition for each reference group, a frame with the same imaging condition can be set as a reference frame. it can. If a specific imaging condition is selected in this state, a group of frames imaged under the imaging condition can be extracted and easily reconstructed. At this time, since it is not necessary to re-encode the image obtained after decoding once, a group of frames imaged under other imaging conditions can be immediately erased. Therefore, the processing amount can be made very small. In addition, since inter-frame coding is performed between frames under the same imaging condition, the prediction error tends to be small, and the compression coding efficiency tends to be high.

次に、本実施の形態に係る表示方法について説明する。本実施の形態に係る表示方法は、ブラケット連写により撮像されたファイルに含まれる画像を表示するものである。なお、上述した拡張ブラケット連写にも適用可能である。   Next, a display method according to the present embodiment will be described. The display method according to the present embodiment displays an image included in a file imaged by bracket continuous shooting. Note that the present invention can also be applied to the above-described extended bracket continuous shooting.

図12は、ブラケット連写により生成されたフレーム群を示す図である。図12では、四つの撮像条件A〜Dが設定されたブラケット連写により生成されたフレーム群F1〜F3が三つ存在することを示している。各フレーム群は、実施例1から3で示したフレーム間符号化方式または一般的なフレーム間符号化方式により生成された一つのファイルとして存在してもよいし、すべてのフレームが単独の静止画ファイルとして存在してもよい。また、各フレーム群は、異なるシーンを撮像したものであってもよいし、上述した拡張ブラケット連写で撮像されたワンサイクルのフレーム群であってもよい。これらのフレーム群は記録部70に記録されているものでもよいし、符号化部40内のフレームバッファ96などに一時記憶されているものであってもよい。   FIG. 12 is a diagram illustrating a frame group generated by bracket continuous shooting. FIG. 12 shows that there are three frame groups F1 to F3 generated by bracket continuous shooting in which four imaging conditions A to D are set. Each frame group may exist as one file generated by the inter-frame coding method or the general inter-frame coding method described in the first to third embodiments, or all the frames may be a single still image. It may exist as a file. Further, each frame group may be an image of a different scene, or may be a one-cycle frame group captured by the above-described extended bracket continuous shooting. These frame groups may be recorded in the recording unit 70, or may be temporarily stored in the frame buffer 96 or the like in the encoding unit 40.

以上を前提に、本表示方法に係る実施例4について説明する。実施例4は、同一撮像条件で撮像された複数のフレームを画面上に一覧表示する。   Based on the above, Example 4 according to the present display method will be described. In the fourth embodiment, a plurality of frames imaged under the same imaging condition are displayed as a list on the screen.

図13は、本発明の実施の形態に係る実施例4の表示例を説明するための図である。図13は、図2に示した表示部60に設けられたファインダなどに表示される画面を示す。図13(a)は撮像条件の選択画面62を示す。ユーザは、操作部50を操作することにより、選択画面62内に表示された撮像条件A〜Dの中から表示させたい撮像条件Aを選択する。図13(b)はサムネイル画像の表示画面64を示す。制御部10は、ユーザにより選択された撮像条件Aのフレームを、上記三つのフレーム群F1〜F3の中からそれぞれ抽出する。制御部10は、表示部60に各フレーム群F1〜F3から抽出した三枚のフレームF1A、F2A、F3Aを同一画面上にサムネイル表示する。   FIG. 13 is a diagram for explaining a display example of Example 4 according to the embodiment of the present invention. FIG. 13 shows a screen displayed on a finder or the like provided in the display unit 60 shown in FIG. FIG. 13A shows an imaging condition selection screen 62. The user operates the operation unit 50 to select the imaging condition A to be displayed from the imaging conditions A to D displayed in the selection screen 62. FIG. 13B shows a thumbnail image display screen 64. The control unit 10 extracts the frame of the imaging condition A selected by the user from each of the three frame groups F1 to F3. The control unit 10 displays the three frames F1A, F2A, and F3A extracted from each of the frame groups F1 to F3 on the display unit 60 as thumbnails on the same screen.

なお、撮像装置100とTVをケーブルで接続して、または記録媒体を介してTV画面上にフレームF1A、F2A、F3Aを表示させてもよい。TV画面が大きい場合、縮小させずに表示させることができる。   Note that the frames F1A, F2A, and F3A may be displayed on the TV screen by connecting the imaging apparatus 100 and the TV with a cable or via a recording medium. When the TV screen is large, it can be displayed without being reduced.

ユーザは、選択画面62に戻り、異なる撮像条件を選択することができる。制御部10は、同様に、ユーザにより選択された撮像条件のフレームを、上記三つのフレーム群F1〜F3の中からそれぞれ抽出し、画面上に一覧表示させる。   The user can return to the selection screen 62 and select different imaging conditions. Similarly, the control unit 10 extracts the frames of the imaging conditions selected by the user from the three frame groups F1 to F3, respectively, and displays the list on the screen.

また、ユーザに撮像条件を選択してもらうのではなく、制御部10は、最初の撮像条件Aのフレームをそれぞれ抽出して表示し、次に撮像条件Bのフレームをそれぞれ抽出して表示するといったように、最初の撮像条件Aから最後の撮像条件Dまで、スライドショーのように所定の時間ずつ同一撮像条件のフレームを一覧表示していってもよい。   In addition, instead of having the user select an imaging condition, the control unit 10 extracts and displays the first frame of the imaging condition A, and then extracts and displays the frame of the imaging condition B. In this way, frames from the first imaging condition A to the last imaging condition D may be displayed as a list of frames having the same imaging condition for a predetermined time period as in a slide show.

次に、本表示方法に係る実施例5について説明する。実施例5は、一つのフレーム群に含まれる複数のフレームを一覧表示し、選択されたフレームの撮像条件を登録し、以降、他のフレーム群の表示において、選択された撮像条件のフレームを優先的に表示する。   Next, a fifth embodiment according to the present display method will be described. The fifth embodiment displays a list of a plurality of frames included in one frame group, registers the imaging conditions of the selected frame, and thereafter prioritizes the frames of the selected imaging condition in the display of other frame groups. Display.

図14は、本発明の実施の形態に係る実施例5の表示例を説明するための図である。図14(a)は、一つのフレーム群F1に含まれるフレームF1A〜F1Dの一覧表示画面66を示す。ユーザは、操作部50を操作することにより、一覧表示画面66内に表示された、それぞれ撮像条件が異なる四枚のフレームF1A〜F1Dの中から一つを選択する。制御部10は、ユーザにより選択されたフレームF1Bの撮像条件Bを登録する。   FIG. 14 is a diagram for explaining a display example of Example 5 according to the embodiment of the present invention. FIG. 14A shows a list display screen 66 of frames F1A to F1D included in one frame group F1. The user operates the operation unit 50 to select one of the four frames F1A to F1D displayed in the list display screen 66 and having different imaging conditions. The control unit 10 registers the imaging condition B of the frame F1B selected by the user.

図14(b)は、第2フレーム群F2から抽出されたフレームF2Bの表示画面68を示す。図14(c)は、第3フレーム群F3から抽出されたフレームF3Bの表示画面69を示す。制御部10は、優先的に表示すべき撮像条件が登録されている場合、各フレーム群の中から、その撮像条件のフレームを抽出して表示する。なお、図14(b)、(c)では、登録された撮像条件のフレームのみを表示しているが、そのフレームを大きく表示し、他の撮像条件、たとえば類似する撮像条件のフレームを小さく表示してもよい。   FIG. 14B shows a display screen 68 of the frame F2B extracted from the second frame group F2. FIG. 14C shows a display screen 69 of the frame F3B extracted from the third frame group F3. When the imaging condition to be displayed with priority is registered, the control unit 10 extracts and displays the frame of the imaging condition from each frame group. In FIGS. 14B and 14C, only the frame of the registered imaging condition is displayed, but the frame is displayed in a large size, and other imaging conditions, for example, a frame of a similar imaging condition is displayed in a small size. May be.

以上説明したように本実施の形態に係る表示方法によれば、ユーザの画像検索効率を向上させることができる。とくに、実施例4によれば同一撮像条件のフレームを複数表示することにより、その撮像条件の傾向をユーザに把握および実感させることができる。実施例5によれば、様々な撮像条件を画像としてユーザに実感させた後、ユーザに撮像条件を選択してもらうことができる。よって、ユーザが真にお気に入りの撮像条件を容易に登録することができる。これに対し、パラメータを数値やゲージで表示して撮像条件を指定してもらう手法では、ユーザは撮像条件の画像を実感することが難しい。ユーザのお気に入りの撮像条件が登録されると、以後、ユーザの好みに合った画像を優先的に表示させることができる。また、その登録以後、ブラケット連写ではなく、登録された撮像条件でのみ撮像する処理も可能となる。この場合、演算量および符号量の増大を伴わずに、ユーザの好みに合った画像を撮像することが可能である。   As described above, according to the display method according to the present embodiment, the image search efficiency of the user can be improved. In particular, according to the fourth embodiment, by displaying a plurality of frames with the same imaging condition, the user can grasp and feel the tendency of the imaging condition. According to the fifth embodiment, after making the user feel various imaging conditions as images, the user can select an imaging condition. Therefore, the user can easily register the truly favorite imaging condition. On the other hand, it is difficult for the user to actually feel the image of the imaging condition by the method in which the parameter is displayed with a numerical value or a gauge to specify the imaging condition. When the user's favorite imaging condition is registered, an image that matches the user's preference can be preferentially displayed thereafter. In addition, after the registration, it is possible to perform image capturing only under registered image capturing conditions instead of bracket continuous shooting. In this case, it is possible to capture an image that suits the user's preference without increasing the calculation amount and the code amount.

以上、本発明をいくつかの実施形態をもとに説明した。これらの実施形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。   The present invention has been described based on some embodiments. It should be understood by those skilled in the art that these embodiments are exemplifications, and that various modifications can be made to combinations of the respective components and processing processes, and such modifications are within the scope of the present invention. is there.

実施例4および実施例5に係る表示方法を利用した撮像条件を選択するプロセスは、上記拡張ブラケット連写により撮像された複数のフレームから記録部70に記録すべきフレームと消去すべきフレームを選択する処理に利用することができる。たとえば、図12で説明した第1フレーム群F1、第2フレーム群F2および第3フレーム群F3を、図8に示した第1参照グループRG1、第2参照グループRG2および第3参照グループRG3にそれぞれ対応させる。制御部10は、ユーザに選択されたフレーム群に対応した参照グループのフレームを記録部70に記録し、選択されなかったフレーム群に対応した参照グループのフレームを破棄する。これによれば、拡張ブラケット連写により撮像された複数のフレームのうち、ユーザの好みに合った撮像条件のフレームを記録し、他のフレームを破棄することにより、記録容量を抑制しながらユーザの好みに合った画像を記録することができる。   In the process of selecting the imaging condition using the display method according to the fourth and fifth embodiments, the frame to be recorded and the frame to be erased are selected from the plurality of frames captured by the extended bracket continuous shooting. It can be used for processing. For example, the first frame group F1, the second frame group F2, and the third frame group F3 described in FIG. 12 are changed to the first reference group RG1, the second reference group RG2, and the third reference group RG3 shown in FIG. Make it correspond. The control unit 10 records the frames of the reference group corresponding to the frame group selected by the user in the recording unit 70, and discards the frames of the reference group corresponding to the frame group not selected. According to this, among the plurality of frames imaged by the extended bracket continuous shooting, the frame of the imaging condition that suits the user's preference is recorded, and the other frames are discarded, thereby suppressing the recording capacity of the user. You can record images that suit your taste.

連続撮像手法の一例を説明するための図である。It is a figure for demonstrating an example of the continuous imaging method. 本発明の実施の形態に係る撮像装置の構成図である。It is a block diagram of the imaging device which concerns on embodiment of this invention. 本発明の実施の形態に係る符号化部の構成図である。It is a block diagram of the encoding part which concerns on embodiment of this invention. 本発明の実施の形態に係る実施例1の一般概念を説明するための図である。It is a figure for demonstrating the general concept of Example 1 which concerns on embodiment of this invention. 本発明の実施の形態に係る実施例1の具体例(N=3)を説明するための図である。It is a figure for demonstrating the specific example (N = 3) of Example 1 which concerns on embodiment of this invention. 本発明の実施の形態に係る実施例1の具体例(N=5)を説明するための図である。It is a figure for demonstrating the specific example (N = 5) of Example 1 which concerns on embodiment of this invention. 本発明の実施の形態に係る実施例2の一般概念を説明するための図である。It is a figure for demonstrating the general concept of Example 2 which concerns on embodiment of this invention. 本発明の実施の形態に係る実施例2の具体例(L=3)を説明するための図である。It is a figure for demonstrating the specific example (L = 3) of Example 2 which concerns on embodiment of this invention. 本発明の実施の形態に係る実施例1の具体例(L=5)を説明するための図である。It is a figure for demonstrating the specific example (L = 5) of Example 1 which concerns on embodiment of this invention. 本発明の実施の形態に係る実施例3の一般概念を説明するための図である。It is a figure for demonstrating the general concept of Example 3 which concerns on embodiment of this invention. 本発明の実施の形態に係る実施例3の具体例(N=3、L=6)を説明するための図である。It is a figure for demonstrating the specific example (N = 3, L = 6) of Example 3 which concerns on embodiment of this invention. ブラケット連写により生成されたフレーム群を示す図である。It is a figure which shows the flame | frame group produced | generated by bracket continuous shooting. 図13(a)は撮像条件の選択画面を示す。図13(b)はサムネイル画像の表示画面を示す。FIG. 13A shows an imaging condition selection screen. FIG. 13B shows a thumbnail image display screen. 図14(a)は、一つのフレーム群に含まれるフレームの一覧表示画面を示す。図14(b)は、第2フレーム群から抽出されたフレームの表示画面を示す。図14(c)は、第3フレーム群から抽出されたフレームの表示画面を示す。FIG. 14A shows a list display screen of frames included in one frame group. FIG. 14B shows a display screen of frames extracted from the second frame group. FIG. 14C shows a display screen of frames extracted from the third frame group.

符号の説明Explanation of symbols

10 制御部、 20 撮像部、 30 撮像条件設定部、 40 符号化部、 50 操作部、 60 表示部、 70 記録部、 80 ブロック生成部、 82 差分器、 84 DCT部、 86 量子化部、 88 逆量子化部、 90 逆DCT部、 92 加算器、 94 動き補償部、 96 フレームバッファ、 98 可変長符号化部、 99 ヘッダ生成部、 100 撮像装置。   DESCRIPTION OF SYMBOLS 10 Control part, 20 Imaging part, 30 Imaging condition setting part, 40 Coding part, 50 Operation part, 60 Display part, 70 Recording part, 80 Block generation part, 82 Differentiator, 84 DCT part, 86 Quantization part, 88 Inverse quantization unit, 90 inverse DCT unit, 92 adder, 94 motion compensation unit, 96 frame buffer, 98 variable length coding unit, 99 header generation unit, 100 imaging device.

Claims (3)

撮像条件が変化しながら連続撮像されたピクチャをピクチャ間予測符号化するとき、
それぞれの符号化対象ピクチャが予測符号化すべき参照ピクチャが固定されており、
それぞれの符号化対象ピクチャと、それぞれの参照ピクチャは、対応する撮像条件で撮像されたピクチャであることを特徴とする画像符号化装置。
When inter-picture predictive coding is performed for continuously captured pictures while the imaging conditions change,
The reference picture to be predictively encoded by each encoding target picture is fixed,
Each encoding target picture and each reference picture are pictures captured under corresponding imaging conditions.
それぞれの符号化対象ピクチャから、それぞれの参照ピクチャまでの距離が固定されていることを特徴とする請求項1に記載の画像符号化装置。   The image encoding apparatus according to claim 1, wherein the distance from each encoding target picture to each reference picture is fixed. 撮像条件を変化させながら連続撮像する撮像部と、An imaging unit for continuously imaging while changing imaging conditions;
前記撮像部で連続撮像されたピクチャを符号化する請求項1又は2に記載の画像符号化装置と、The image encoding device according to claim 1 or 2, wherein the images continuously captured by the imaging unit are encoded.
を備えることを特徴とする撮像装置。An imaging apparatus comprising:
JP2007093424A 2007-03-30 2007-03-30 Image encoding apparatus and imaging apparatus using the same Expired - Fee Related JP4771986B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007093424A JP4771986B2 (en) 2007-03-30 2007-03-30 Image encoding apparatus and imaging apparatus using the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007093424A JP4771986B2 (en) 2007-03-30 2007-03-30 Image encoding apparatus and imaging apparatus using the same

Publications (2)

Publication Number Publication Date
JP2008252685A JP2008252685A (en) 2008-10-16
JP4771986B2 true JP4771986B2 (en) 2011-09-14

Family

ID=39977080

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007093424A Expired - Fee Related JP4771986B2 (en) 2007-03-30 2007-03-30 Image encoding apparatus and imaging apparatus using the same

Country Status (1)

Country Link
JP (1) JP4771986B2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4850111B2 (en) * 2007-03-30 2012-01-11 三洋電機株式会社 Image display device and imaging device equipped with the same
JP2016005244A (en) * 2014-06-19 2016-01-12 株式会社ニコン Image encoding device, image decoding device, image encoding method and image decoding method
JP5866674B1 (en) 2014-07-29 2016-02-17 パナソニックIpマネジメント株式会社 Imaging device
EP3182693B1 (en) * 2014-08-12 2022-11-30 Sony Group Corporation Information-processing device, information processing method, and program
JP6347056B2 (en) * 2015-07-07 2018-06-27 パナソニックIpマネジメント株式会社 Imaging apparatus and still image generation method
JP6103416B2 (en) * 2016-09-27 2017-03-29 パナソニックIpマネジメント株式会社 Imaging device

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4123352B2 (en) * 2002-08-19 2008-07-23 富士フイルム株式会社 Movie imaging device and movie playback device
JP4645228B2 (en) * 2005-02-28 2011-03-09 カシオ計算機株式会社 Imaging apparatus and program
JP4561475B2 (en) * 2005-05-24 2010-10-13 カシオ計算機株式会社 Digital camera device and program thereof

Also Published As

Publication number Publication date
JP2008252685A (en) 2008-10-16

Similar Documents

Publication Publication Date Title
US8120671B2 (en) Digital camera for recording a still image while shooting a moving image
JP4687807B2 (en) Movie recording apparatus, moving image tilt correction method, and program
JP2006253768A (en) Digital camera
JP4794386B2 (en) Imaging device
KR101323733B1 (en) Image input apparatus with high-speed high-quality still image successive capturing capability and still image successive capturing method using the same
JP4771986B2 (en) Image encoding apparatus and imaging apparatus using the same
US9042447B2 (en) Image coding apparatus and image coding method
US20130236161A1 (en) Image processing device and image processing method
JP4850111B2 (en) Image display device and imaging device equipped with the same
JP4574444B2 (en) Image decoding apparatus and method, image encoding apparatus and method, computer program, and storage medium
US8363128B2 (en) Image processing apparatus and image processing method
JP2008035281A (en) Image coding method
JP2008141354A (en) Image coding apparatus and imaging apparatus
US8948573B2 (en) Image processing apparatus
JP2005341382A (en) Image processing apparatus, imaging apparatus, computer program and image processing method
JP2007142809A (en) Video recording apparatus
US8953055B2 (en) Image pickup apparatus
JPH11308618A (en) Image signal processor and method therefor, and image signal reproducing device
JP2011049927A (en) Image processing device, and imaging apparatus with the same mounted thereon
JP4594163B2 (en) Image coding method and image coding apparatus
JP2008300953A (en) Image processor and imaging device mounted with the same
JP4596975B2 (en) Image encoding method and image processing apparatus
KR101332299B1 (en) Image recording apparatus and method thereof
JP2004104193A (en) Imaging apparatus and recorder
JP2007158712A (en) Image coder and image coding method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100301

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110308

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110428

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110524

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110621

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140701

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140701

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140701

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140701

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees