JP5118465B2 - Recording apparatus, reproducing apparatus, recording method, reproducing method, and program - Google Patents

Recording apparatus, reproducing apparatus, recording method, reproducing method, and program Download PDF

Info

Publication number
JP5118465B2
JP5118465B2 JP2007323931A JP2007323931A JP5118465B2 JP 5118465 B2 JP5118465 B2 JP 5118465B2 JP 2007323931 A JP2007323931 A JP 2007323931A JP 2007323931 A JP2007323931 A JP 2007323931A JP 5118465 B2 JP5118465 B2 JP 5118465B2
Authority
JP
Japan
Prior art keywords
image data
frame
data
shooting
raw
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007323931A
Other languages
Japanese (ja)
Other versions
JP2009147745A (en
Inventor
峰樹 田岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Priority to JP2007323931A priority Critical patent/JP5118465B2/en
Priority to KR20080058059A priority patent/KR101480406B1/en
Publication of JP2009147745A publication Critical patent/JP2009147745A/en
Application granted granted Critical
Publication of JP5118465B2 publication Critical patent/JP5118465B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules

Description

本発明は、記録装置、再生装置、記録方法、再生方法及びプログラムに関する。   The present invention relates to a recording apparatus, a reproducing apparatus, a recording method, a reproducing method, and a program.

動画を記録可能なビデオカメラ、カムコーダなどの撮像装置は、一般にCCD等の撮像素子の各画素から出力された信号に所定の画像処理(現像処理)を行った後、MPEG−2、Motion JPEG等の圧縮処理を施し、フラッシュメモリやHDD、DVD等の記録媒体に画像データの記録を行っている。   Imaging devices such as video cameras and camcorders capable of recording moving images generally perform predetermined image processing (development processing) on signals output from each pixel of an image sensor such as a CCD, and then MPEG-2, Motion JPEG, etc. The image data is recorded on a recording medium such as a flash memory, an HDD, or a DVD.

ここで、上記の画像処理とは、例えばホワイトバランス制御、露出制御などである。また、動画撮影時に静止画撮影を同時に行なう場合、静止画撮影が行なわれたフレームについて、動画再生用にフレームの一部を切り出す処理を行い、動画再生における解像度などに関して連続性を確保する。また、特許文献1では、動画撮影時には、撮像素子からの出力を間引き処理して動画像データを生成、記録し、動画撮影時に静止画撮影指示があったとき、間引き処理を行わない画像を圧縮符号化し、動画用画像データと静止画用画像データとを関連付けて記録する技術が開示されている。更に、特許文献2では、動画撮影時に静止画画像の撮影があったとき、静止画の圧縮符号化と並行して、動画用画像データからフレームを間引き処理して、間引き処理されたフレーム前後の画像データとのインターフレーム圧縮処理を行い、再生時に、この圧縮処理がされた動画用画像データを用いて、静止画データを補強する技術が開示されている。   Here, the image processing is, for example, white balance control, exposure control, and the like. In addition, when still image shooting is performed simultaneously with moving image shooting, processing for cutting out a part of the frame for moving image reproduction is performed on the frame for which still image shooting has been performed, and continuity is ensured with respect to resolution and the like in moving image reproduction. Also, in Japanese Patent Application Laid-Open No. 2004-151867, when shooting a moving image, the output from the image sensor is thinned out to generate and record moving image data. When a still image shooting instruction is given during moving image shooting, an image not subjected to the thinning process is compressed. A technique for encoding and recording moving image data and still image data in association with each other is disclosed. Further, in Patent Document 2, when a still image is shot during moving image shooting, the frame is thinned out from the moving image image data in parallel with the still image compression encoding, and before and after the thinned frame. A technique is disclosed in which interframe compression processing with image data is performed, and still image data is reinforced using moving image image data that has been subjected to the compression processing during reproduction.

特許3881168号明細書Japanese Patent No. 3881168 特開2006−41861号公報JP 2006-41861 A

通常、画像処理をした後、圧縮処理が施されることによって、画像の記録再生品質は、圧縮処理が施される前のデータに比べて低下する。そのため、静止画を記録するデジタルカメラ等の撮像装置には、圧縮処理を行わずに撮像素子から出力された信号をRAW形式として直接記録するものがある。しかしながら、動画像を記録するカムコーダ等の撮像装置では、RAW形式として記録する際に処理量が大きくなるため、縮小画像を保存して、縮小画像を現像作業などの作業時や撮像装置での再生時に利用する場合が多かった。   Usually, after the image processing is performed, the compression processing is performed, so that the recording / reproduction quality of the image is lower than the data before the compression processing is performed. For this reason, some image capturing apparatuses such as digital cameras that record still images directly record signals output from the image sensor without performing compression processing in the RAW format. However, in an imaging device such as a camcorder that records moving images, the amount of processing becomes large when recording in the RAW format. Therefore, a reduced image is saved, and the reduced image is reproduced at the time of work such as development work or on the imaging device. It was often used at times.

動画撮影時に静止画を記録する場合、通常、撮像素子からの読出しは、静止画の場合と動画の場合と異なるため、上述したとおり、静止画撮影が行なわれたフレームについて、動画再生用にフレームの一部を切り出す処理を行う。そして、この切り出し処理は、撮像素子の種類に応じて、静止画のうちのどの部分が動画と一致するかが異なり、更に、撮像装置の読出しモードによっても異なってくる。   When a still image is recorded during movie shooting, reading from the image sensor is usually different from that for a still image and a movie. Therefore, as described above, a frame for movie playback is used for a frame for which still image shooting has been performed. Process to cut out a part of. This cut-out process differs depending on the type of the image sensor, which part of the still image matches the moving image, and also differs depending on the readout mode of the imaging device.

そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、動画撮影時に静止画として記録したRAW画像データを用いて、動画再生をスムーズに行なうことが可能な、新規かつ改良された記録装置、再生装置、記録方法、再生方法及びプログラムを提供することにある。   Accordingly, the present invention has been made in view of the above problems, and an object of the present invention is to enable smooth reproduction of moving images using RAW image data recorded as a still image at the time of moving image shooting. Another object of the present invention is to provide a new and improved recording apparatus, reproducing apparatus, recording method, reproducing method and program.

上記課題を解決するために、本発明のある観点によれば、撮像素子からフレーム単位で順次出力されるRAW画像データを再生可能な画像データに画像処理してフレーム単位の処理済画像データを生成する画像処理部と、RAW画像データをフレーム毎に順次再生するために必要な、処理済画像データを記録する際に静止画撮影が行なわれたときの撮影条件をフレーム毎に取得する撮影条件取得部と、フレーム単位のRAW画像データと、フレーム単位の処理済画像データと、静止画撮影が行なわれたフレームの撮影条件とをフレーム毎に順次記録媒体に記録する媒体記録部とを備えることを特徴とする記録装置が提供される。   In order to solve the above-described problems, according to an aspect of the present invention, RAW image data sequentially output from an image sensor in units of frames is processed into reproducible image data to generate processed image data in units of frames. An image processing unit for acquiring a shooting condition for each frame to acquire a shooting condition when a still image is shot when recording processed image data necessary for sequentially reproducing RAW image data for each frame A medium recording unit that sequentially records, on a frame-by-frame basis, frame-by-frame RAW image data, frame-by-frame processed image data, and shooting conditions of frames for which still image shooting has been performed. A characteristic recording device is provided.

上記撮影条件は、静止画撮影時の解像度、RAW画像データのフレーム内の一部の領域を切り出すための切り出し位置データ又は動画像再生用フレームとの位置関係データであってもよい。   The shooting conditions may be resolution at the time of still image shooting, cut-out position data for cutting out a partial area in a frame of RAW image data, or positional relationship data with a moving image playback frame.

また、上記課題を解決するために、本発明の別の観点によれば、フレーム単位のRAW画像データと、RAW画像データを再生可能な画像データに画像処理したフレーム単位の処理済画像データと、処理済画像データを記録する際に静止画撮影が行なわれたときの撮影条件とがフレーム毎に順次記録された記録媒体から、各RAW画像データ、各画像処理データ及び各撮影条件のうち少なくともいずれかを読み出すデータ読出部と、RAW画像データをフレーム毎に順次再生する際、読み出した撮影条件に基づいて、静止画撮影が行なわれたときのRAW画像データを動画再生として画像処理をする画像処理部とを備えることを特徴とする再生装置が提供される。   In order to solve the above-described problem, according to another aspect of the present invention, RAW image data in units of frames, processed image data in units of frames in which RAW image data is processed into reproducible image data, At least one of each RAW image data, each image processing data, and each shooting condition from a recording medium in which shooting conditions when still image shooting is performed when recording processed image data are recorded sequentially for each frame A data reading unit for reading the image data, and image processing for processing the RAW image data when the still image shooting is performed as a moving image reproduction based on the read shooting conditions when sequentially reproducing the RAW image data for each frame And a playback device.

上記撮影条件は、静止画撮影時の解像度、RAW画像データのフレーム内の一部の領域を切り出すための切り出し位置データ又は動画像再生用フレームとの位置関係データであってもよい。   The shooting conditions may be resolution at the time of still image shooting, cut-out position data for cutting out a partial area in a frame of RAW image data, or positional relationship data with a moving image playback frame.

また、上記課題を解決するために、本発明の別の観点によれば、撮像素子からフレーム単位で順次出力されるRAW画像データを再生可能な画像データに画像処理してフレーム単位の処理済画像データを生成するステップと、RAW画像データをフレーム毎に順次再生するために必要な、処理済画像データを記録する際に静止画撮影が行なわれたときの撮影条件をフレーム毎に取得するステップと、フレーム単位のRAW画像データと、フレーム単位の処理済画像データと、フレーム単位の撮影条件とをフレーム毎に順次記録媒体に記録するステップとを備えることを特徴とする記録方法が提供される。   In order to solve the above-described problem, according to another aspect of the present invention, RAW image data sequentially output from the image sensor in units of frames is subjected to image processing to reproducible image data, and processed images in units of frames. A step of generating data, and a step of acquiring, for each frame, shooting conditions when still image shooting is performed when recording processed image data necessary for sequentially reproducing RAW image data for each frame. There is provided a recording method comprising the step of sequentially recording RAW image data in frame units, processed image data in frame units, and imaging conditions in frame units on a recording medium for each frame.

また、上記課題を解決するために、本発明の別の観点によれば、フレーム単位のRAW画像データと、RAW画像データを再生可能な画像データに画像処理したフレーム単位の処理済画像データと、処理済画像データを記録する際に静止画撮影が行なわれたときの撮影条件とがフレーム毎に順次記録された記録媒体から、各RAW画像データ、各画像処理データ及び各撮影条件のうち少なくともいずれかを読み出すステップと、RAW画像データをフレーム毎に順次再生する際、読み出した撮影条件に基づいて、静止画撮影が行なわれたときのRAW画像データを動画再生として画像処理をするステップとを備えることを特徴とする再生方法が提供される。   In order to solve the above-described problem, according to another aspect of the present invention, RAW image data in units of frames, processed image data in units of frames in which RAW image data is processed into reproducible image data, At least one of each RAW image data, each image processing data, and each shooting condition from a recording medium in which shooting conditions when still image shooting is performed when recording processed image data are recorded sequentially for each frame And a step of performing image processing on the RAW image data when still image shooting is performed as a moving image reproduction based on the read shooting conditions when sequentially reproducing the RAW image data for each frame. A reproduction method characterized by the above is provided.

また、上記課題を解決するために、本発明の別の観点によれば、撮像素子からフレーム単位で順次出力されるRAW画像データを再生可能な画像データに画像処理してフレーム単位の処理済画像データを生成する手段、RAW画像データをフレーム毎に順次再生するために必要な、処理済画像データを記録する際に静止画撮影が行なわれたときの撮影条件をフレーム毎に取得する手段、フレーム単位のRAW画像データと、フレーム単位の処理済画像データと、フレーム単位の撮影条件とをフレーム毎に順次記録媒体に記録する手段をコンピュータに実行させるためのプログラムが提供される。   In order to solve the above-described problem, according to another aspect of the present invention, RAW image data sequentially output from the image sensor in units of frames is subjected to image processing to reproducible image data, and processed images in units of frames. Means for generating data, means for acquiring, for each frame, shooting conditions when still image shooting is performed when recording processed image data necessary for sequentially reproducing RAW image data for each frame; A program is provided for causing a computer to execute means for sequentially recording RAW image data in units, processed image data in units of frames, and imaging conditions in units of frames on a recording medium for each frame.

また、上記課題を解決するために、本発明の別の観点によれば、フレーム単位のRAW画像データと、RAW画像データを再生可能な画像データに画像処理したフレーム単位の処理済画像データと、処理済画像データを記録する際に静止画撮影が行なわれたときの撮影条件とがフレーム毎に順次記録された記録媒体から、各RAW画像データ、各画像処理データ及び各撮影条件のうち少なくともいずれかを読み出す手段、RAW画像データをフレーム毎に順次再生する際、読み出した撮影条件に基づいて、静止画撮影が行なわれたときのRAW画像データを動画再生として画像処理をする手段をコンピュータに実行させるためのプログラムが提供される。   In order to solve the above-described problem, according to another aspect of the present invention, RAW image data in units of frames, processed image data in units of frames in which RAW image data is processed into reproducible image data, At least one of each RAW image data, each image processing data, and each shooting condition from a recording medium in which shooting conditions when still image shooting is performed when recording processed image data are recorded sequentially for each frame When the RAW image data is sequentially reproduced for each frame, the computer executes a means for performing image processing on the RAW image data when the still image shooting is performed as a moving image reproduction based on the read shooting conditions. A program is provided.

本発明によれば、動画撮影時に静止画として記録したRAW画像データを用いて、動画再生をスムーズに行なうことができる。   According to the present invention, moving image reproduction can be performed smoothly using RAW image data recorded as a still image at the time of moving image shooting.

以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。   Exemplary embodiments of the present invention will be described below in detail with reference to the accompanying drawings. In addition, in this specification and drawing, about the component which has the substantially same function structure, duplication description is abbreviate | omitted by attaching | subjecting the same code | symbol.

まず、図1を参照して、本発明の一実施形態に係る動画像記録装置100について説明する。図1は、本実施形態に係る動画像記録装置100の構成を示すブロック図である。   First, a moving image recording apparatus 100 according to an embodiment of the present invention will be described with reference to FIG. FIG. 1 is a block diagram illustrating a configuration of a moving image recording apparatus 100 according to the present embodiment.

動画像記録装置100は、図1に示すように、カメラ102、カメラ信号処理部104、フォーマット処理部110、現像処理部120、サイズ処理部122、JPEGエンコーダ124、撮影条件制御部130、フォーマット処理部136、ファイル化処理部140、メディア記録部150、マイクロフォン160、音声信号処理部162、フォーマット処理部164を有して構成されている。   As illustrated in FIG. 1, the moving image recording apparatus 100 includes a camera 102, a camera signal processing unit 104, a format processing unit 110, a development processing unit 120, a size processing unit 122, a JPEG encoder 124, a shooting condition control unit 130, and format processing. A unit 136, a file processing unit 140, a media recording unit 150, a microphone 160, an audio signal processing unit 162, and a format processing unit 164.

カメラ信号処理部104は、カメラ102の撮像素子(CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)等のセンサー)から出力された1フレーム毎の動画像データが入力される。カメラ信号処理部104は、入力された信号をAD変換するADコンバータを含んでいる。カメラ信号処理部104から出力されたデジタル映像信号は、フォーマット処理部110と現像処理部120との双方へ送られる。   The camera signal processing unit 104 receives moving image data for each frame output from an image pickup device (a sensor such as a charge coupled device (CCD) or a complementary metal oxide semiconductor (CMOS)) of the camera 102. The camera signal processing unit 104 includes an AD converter that AD converts an input signal. The digital video signal output from the camera signal processing unit 104 is sent to both the format processing unit 110 and the development processing unit 120.

フォーマット処理部110では、撮像素子の画素配列(例えばベイヤー配列、3板CCDなど)に応じて、デジタル変換されたR,G,Bの各信号を並び換える処理をする。また、フォーマット処理部110では、フレーム内で可逆的な圧縮処理を動画像データに対して施す。可逆な圧縮方式による圧縮処理によって、画質などを低下させずに画像データを記録、再生することができる。可逆な圧縮方式には、例えば、ハフマン符号を用いたエントロピー符号化等がある。なお、可逆な圧縮方式は、厳密な「可逆」に限定されない。このように、フォーマット処理部110によるフォーマット処理では、RAW画像データとしての画質を維持するため、画質を損なうような圧縮処理は施されない。一方、RAW画像データは非常に大きなファイルサイズとなるため、冗長度の少ないデータに処理する。フォーマット処理部110でフォーマット処理された動画像データは、そのままRAW画像データとしてファイル化処理部140へ入力される。   The format processing unit 110 performs processing for rearranging the digitally converted R, G, and B signals in accordance with the pixel array (for example, Bayer array, three-plate CCD) of the image sensor. Also, the format processing unit 110 performs reversible compression processing on the moving image data within the frame. Image data can be recorded and reproduced without degrading image quality or the like by compression processing using a reversible compression method. A reversible compression method includes, for example, entropy coding using a Huffman code. The reversible compression method is not limited to strict “reversible”. As described above, in the formatting process by the format processing unit 110, the image quality as the RAW image data is maintained, so that the compression process that impairs the image quality is not performed. On the other hand, since RAW image data has a very large file size, it is processed into data with less redundancy. The moving image data formatted by the format processing unit 110 is input to the file processing unit 140 as RAW image data as it is.

現像処理部120では、入力された映像データに対して、ホワイトバランス処理、ベイヤー配列からの補間処理、ノイズ除去、輝度及び色補正等の一連の現像処理が行われる。現像処理部120で現像処理が行われたデータは、サイズ処理部122へ送られる。   In the development processing unit 120, a series of development processing such as white balance processing, interpolation processing from a Bayer array, noise removal, luminance and color correction is performed on the input video data. Data that has undergone development processing in the development processing unit 120 is sent to the size processing unit 122.

サイズ処理部122は、動画像データのサイズを縮小又は拡大する処理を行う。また、サイズ処理部122は、動画撮影時に静止画撮影が行なわれたとき、動画用の解像度から静止画用の解像度に変更する処理を行う。サイズ処理部122から出力されたデータは、JPEGエンコーダ124へ送られる。   The size processing unit 122 performs processing for reducing or enlarging the size of moving image data. Further, the size processing unit 122 performs processing for changing from the resolution for moving images to the resolution for still images when still image shooting is performed during moving image shooting. The data output from the size processing unit 122 is sent to the JPEG encoder 124.

また、サイズ処理部122では、必要に応じて、EVF(Electronic View Finder)(図示せず。)、LCD(Liquid Crystal Display)(図示せず。)などの表示装置の画面サイズに合わせて、動画像データのサイズを縮小する処理を行う。サイズ処理部122から出力されたデータは、EVF、LCDに送られて、画面上に表示される。これにより、ユーザは、カメラ102で撮影された映像をリアルタイムで認識することができる。   In addition, the size processing unit 122 adds a moving image according to the screen size of a display device such as an EVF (Electronic View Finder) (not shown) or an LCD (Liquid Crystal Display) (not shown) as necessary. A process for reducing the size of the image data is performed. The data output from the size processing unit 122 is sent to the EVF and LCD and displayed on the screen. Thereby, the user can recognize the video image | photographed with the camera 102 in real time.

JPEGエンコーダ124は、入力されたデータに対してJPEGの圧縮符号化処理を施し、ファイル化処理部140へ圧縮画像データ(処理済画像データ)を送る。   The JPEG encoder 124 performs JPEG compression encoding processing on the input data, and sends compressed image data (processed image data) to the file processing unit 140.

撮影条件制御部130は、動画像記録装置100がどのような撮影条件で撮影するかを制御する。例えば、撮影条件制御部130は、静止画撮影と動画撮影の切換え、動画撮影時における解像度の切換えである。撮影条件制御部130は、カメラ102、カメラ信号処理部104、フォーマット処理部110、現像処理部120、サイズ処理部122、JPEGエンコーダ124、フォーマット処理部164に撮影条件を指示する。これらの各機能ブロックは、指示に応じて撮影条件を設定する。   The shooting condition control unit 130 controls under which shooting conditions the moving image recording apparatus 100 performs shooting. For example, the shooting condition control unit 130 is switching between still image shooting and moving image shooting, and switching of resolution during moving image shooting. The shooting condition control unit 130 instructs the camera 102, the camera signal processing unit 104, the format processing unit 110, the development processing unit 120, the size processing unit 122, the JPEG encoder 124, and the format processing unit 164 to set shooting conditions. Each of these functional blocks sets shooting conditions according to an instruction.

そして、撮影条件制御部130は、撮影条件データをフォーマット処理部136に送る。フォーマット処理部136は、撮影条件データをフォーマット処理し、データをファイル化処理部140に送る。フォーマット処理部136は、撮影条件取得部の一例であり、RAW画像データをフレーム毎に順次再生するために必要な、処理済画像データを記録する際に静止画撮影が行なわれたときの撮影条件制御部130が設定した撮影条件をフレーム毎に取得する。撮影条件は、静止画撮影時の解像度、RAW画像データのフレーム内の一部の領域を切り出すための切り出し位置データ又は動画像再生用フレームとの位置関係データなどである。   Then, the shooting condition control unit 130 sends the shooting condition data to the format processing unit 136. The format processing unit 136 formats the shooting condition data and sends the data to the file processing unit 140. The format processing unit 136 is an example of a shooting condition acquisition unit, and is a shooting condition when still image shooting is performed when processing processed image data necessary for sequentially reproducing RAW image data for each frame. The imaging conditions set by the control unit 130 are acquired for each frame. The shooting conditions include resolution at the time of still image shooting, cut-out position data for cutting out a partial area in a frame of RAW image data, or positional relationship data with a moving image playback frame.

ファイル化処理部140は、フォーマット処理部110から送られたRAW画像データや、JPEGエンコーダ124で圧縮処理された圧縮画像データや、フォーマット処理部136から送られた撮影条件データを一時的に蓄積する。ファイル化処理部140に蓄積された圧縮画像データ、RAW画像データ及び撮影条件データは、メディア記録部150へ送られ、記録メディアの記録フォーマットに従い記録メディアに記録される。記録メディアとしては、例えば、光学式記録媒体(CD、DVD等)、光磁気ディスク、磁気ディスク、半導体記憶媒体などが挙げられる。   The file processing unit 140 temporarily stores the RAW image data sent from the format processing unit 110, the compressed image data compressed by the JPEG encoder 124, and the shooting condition data sent from the format processing unit 136. . The compressed image data, RAW image data, and shooting condition data stored in the file processing unit 140 are sent to the media recording unit 150 and recorded on the recording medium according to the recording format of the recording medium. Examples of the recording medium include an optical recording medium (CD, DVD, etc.), a magneto-optical disk, a magnetic disk, and a semiconductor storage medium.

また、マイクロフォン160は、カメラ102による動画撮影と同時に被写体の音声を取得し、音声信号処理部162へ送る。音声信号処理部162は、入力された音声のアナログ信号をAD変換するADコンバータを含んでいる。音声信号処理部162から出力されたデジタル音声信号は、フォーマット処理部164へ送られる。フォーマット処理部164では、非圧縮のPCM方式、またはADPCM方式、AAC方式、AC3方式、MP3方式などの圧縮処理により、音声データをフォーマットする。フォーマット処理部164でフォーマットされた音声データは、ファイル化処理部140へ入力される。ファイル化処理部140は、音声データを一時的に蓄積する。   In addition, the microphone 160 acquires the sound of the subject simultaneously with the moving image shooting by the camera 102 and sends it to the sound signal processing unit 162. The audio signal processing unit 162 includes an AD converter that AD converts an analog audio signal. The digital audio signal output from the audio signal processing unit 162 is sent to the format processing unit 164. The format processing unit 164 formats the audio data by a compression process such as an uncompressed PCM system, or ADPCM system, AAC system, AC3 system, MP3 system, or the like. The audio data formatted by the format processing unit 164 is input to the file processing unit 140. The file processing unit 140 temporarily stores audio data.

なお、図示しないが、動画像記録装置100は、ホストCPUが設けられる。ホストCPUは、ファイル化処理部140からメディア記録部150へのデータ送信、及びメディア記録部150による記録メディアへのデータの記録を制御する。ホストCPUは、ファイル化処理部140に蓄積されている圧縮画像データ、RAW画像データ、音声データ及び撮影条件データを所定量毎(例えば、1フレームのデータ量毎)にメディア記録部150へ送り、記録メディアに順次に記録するように、ファイル化処理部140及びメディア記録部150を制御する。ホストCPUは、圧縮画像データ、RAW画像データ、音声データ及び撮影条件データを所定の順番で記録メディアに記録する。   Although not shown, the moving image recording apparatus 100 is provided with a host CPU. The host CPU controls data transmission from the file processing unit 140 to the media recording unit 150 and recording of data on the recording medium by the media recording unit 150. The host CPU sends the compressed image data, RAW image data, audio data, and shooting condition data stored in the file processing unit 140 to the media recording unit 150 every predetermined amount (for example, every one frame data amount), The filing processing unit 140 and the media recording unit 150 are controlled so as to sequentially record on the recording medium. The host CPU records the compressed image data, RAW image data, audio data, and shooting condition data on a recording medium in a predetermined order.

なお、動画像記録装置100における一連の処理は、ハードウェアで処理してもよいし、コンピュータ上のプログラムによるソフトウェア処理で実現してもよい。   The series of processing in the moving image recording apparatus 100 may be performed by hardware or may be realized by software processing using a program on a computer.

以上のように構成された本実施形態の動画像記録装置100では、カメラ102の撮像素子から出力されてAD変換された映像デジタルデータが、フォーマット処理部110に送られ、RAW画像データのまま記録メディアに記録される。従って、記録メディアには、高画質のRAW画像データが記録され、RAW画像データを読み出して表示することで、圧縮された映像データに比べて、高画質の映像を再生することが可能となる。   In the moving image recording apparatus 100 of the present embodiment configured as described above, video digital data output from the image sensor of the camera 102 and AD-converted is sent to the format processing unit 110 and recorded as RAW image data. Recorded on media. Accordingly, high-quality RAW image data is recorded on the recording medium, and by reading and displaying the RAW image data, it is possible to reproduce high-quality video compared to compressed video data.

一方、RAW画像データはデータ量が多いため、RAW画像データのままではEVF、LCDへのリアルタイム画面表示を行うことはできず、またJPEG等の圧縮処理を直接行うことができない。本実施形態の動画像記録装置100では、RAW画像データの記録とともに、動画像データの現像処理、縮小処理、圧縮処理を行うため、撮影と同時にEVF、LCDへのリアルタイム表示を行うことができ、表示画面をモニタしながら撮影を行うことができる。また、記録メディアにはRAW画像データとともに圧縮処理された圧縮画像データが記録されるため、再生時には、圧縮画像データにより映像の検索、サムネイル表示等を行うことが可能である。これにより、映像中の重要な部分についてはRAW画像データによる高画質再生が可能となり、映像中で比較的重要度の低い部分については、圧縮画像データを高速に読み出すことで簡易的な再生が可能となる。   On the other hand, since RAW image data has a large amount of data, real-time screen display on EVF and LCD cannot be performed with RAW image data as it is, and compression processing such as JPEG cannot be directly performed. The moving image recording apparatus 100 according to the present embodiment performs the development processing, the reduction processing, and the compression processing of the moving image data together with the recording of the RAW image data, so that real-time display on the EVF and the LCD can be performed at the same time as shooting. Shooting can be performed while monitoring the display screen. In addition, since the compressed image data that has been compressed together with the RAW image data is recorded on the recording medium, it is possible to perform video search, thumbnail display, and the like using the compressed image data during playback. As a result, high-quality playback using RAW image data is possible for important parts in the video, and simple playback is possible by reading compressed image data at high speed for relatively low-importance parts in the video. It becomes.

また、本実施形態の動画像記録装置100は、RAW画像データはそのまま保存し、RAW画像データをフレーム毎に順次再生するために必要な、圧縮画像を記録する際、静止画撮影が行なわれたときの撮影条件と一緒にファイル化する。記録メディアにはRAW画像データとともに撮影条件データが記録されるため、再生時、RAW画像データを現像処理する際、撮影条件データを読み出して現像処理することができる。その結果、静止画用フレームとして記録されたRAW画像データについても、動画再生用のフレームとして画像処理することができる。   Further, the moving image recording apparatus 100 according to the present embodiment stores the RAW image data as it is, and the still image shooting is performed when recording the compressed image necessary for sequentially reproducing the RAW image data for each frame. Create a file with the shooting conditions. Since the shooting condition data is recorded together with the RAW image data on the recording medium, the shooting condition data can be read and developed when developing the RAW image data during reproduction. As a result, RAW image data recorded as a still image frame can also be subjected to image processing as a moving image playback frame.

次に、記録メディアにおける記録フォーマットについて説明する。図2は、動画像記録装置100による、記録メディアへの記録のフォーマットを示す模式図である。撮像素子が例えばベイヤー配列の単板の場合には、出力されるデータはR:G:B=1:2:1のベイヤー配列された画素の順番で出力される。動画像記録装置100は、このベイヤー配列データについて画質を損なうことなく記録するため、フォーマット処理部110によりRGBの順に並び替え、画質を損なうような圧縮処理を施すことなく記録する。   Next, a recording format in the recording medium will be described. FIG. 2 is a schematic diagram showing a format of recording on a recording medium by the moving image recording apparatus 100. For example, when the image sensor is a single plate with a Bayer array, the output data is output in the order of the pixels with the Bayer array of R: G: B = 1: 2: 1. Since the moving image recording apparatus 100 records the Bayer array data without losing image quality, the moving image recording apparatus 100 rearranges them in the order of RGB by the format processing unit 110 and records without performing compression processing that impairs image quality.

図2(A)は、映像の記録開始(録画スタート)から記録停止(録画停止)までの間の1つの動画ファイルを示している。また、図2(B)は、図2(A)の記録データのうち、1フレーム分のデータを示している。   FIG. 2A shows one moving image file from video recording start (recording start) to recording stop (recording stop). FIG. 2B shows data for one frame in the recording data of FIG.

ベイヤー配列のRGBデータは、フォーマット処理部110により並べ替えられ、記録メディアのデータ領域に記録される。また、JPEGエンコーダ124によりエンコードされた圧縮画像データ、及びフォーマット処理部164でフォーマットされた音声データも記録メディアのデータ領域に記録される。図2(A)に示すように、記録フォーマットの先頭には、ヘッダー(Header)が記録される。ヘッダーには、撮影日時、カメラ102の撮像素子の情報、動画像記録装置100のセット名称、オーディオのチャンネル数、ビット数、記録メディアの記録フォーマット情報、カメラ102のレンズの仕様データ等の全体的な情報が記録される。ヘッダーに続いて、映像の1フレーム毎にデータが記録される。   The Bayer array RGB data is rearranged by the format processing unit 110 and recorded in the data area of the recording medium. The compressed image data encoded by the JPEG encoder 124 and the audio data formatted by the format processing unit 164 are also recorded in the data area of the recording medium. As shown in FIG. 2A, a header is recorded at the head of the recording format. The header includes the entire date and time, information on the image sensor of the camera 102, set name of the moving image recording apparatus 100, the number of audio channels, the number of bits, recording format information of the recording medium, lens 102 specification data, etc. Information is recorded. Following the header, data is recorded for each frame of the video.

1フレーム毎のデータは、フレームヘッダー(Frame Header 0,1,・・・,n)とフレーム毎のデータ(F0, F1,・・・,Fn)から構成される。図2(B)に示すように、フレーム毎のデータは、音声データ(Audio)、圧縮画像データ(Compressed Image)、RAW画像データ(G,B,R)の順で、フレーム単位で繰り返し記録される。そして、最後のフレームFnのデータに続いて、フッター(Footer)が記録される。   The data for each frame is composed of a frame header (Frame Header 0, 1,..., N) and data for each frame (F0, F1,..., Fn). As shown in FIG. 2B, the data for each frame is repeatedly recorded in units of frames in the order of audio data (Audio), compressed image data (Compressed Image), and RAW image data (G, B, R). The Then, following the data of the last frame Fn, a footer is recorded.

各フレームのフレームヘッダーには、例えば、各フレームの音声データ、圧縮画像データ、RAW画像データのデータサイズが記録される。また、各フレームのフレームヘッダーには、フレーム毎の撮影条件データが記録される。   In the frame header of each frame, for example, the data size of each frame of audio data, compressed image data, and RAW image data is recorded. In addition, shooting condition data for each frame is recorded in the frame header of each frame.

次に、図3を参照して、静止画用に撮影されたRAW画像データを動画再生用にデータを切り出す例について説明する。図3は、本実施形態に係る撮像素子の撮像面を示す模式図である。   Next, with reference to FIG. 3, an example will be described in which RAW image data taken for a still image is cut out for moving image reproduction. FIG. 3 is a schematic diagram illustrating an imaging surface of the imaging device according to the present embodiment.

動画像記録装置100を用いた動画の撮影では、撮像素子からフレーム単位で順次RAW画像データが出力される。そして、動画撮影中に静止画像を撮影すると、動画用フレームの間に静止画用フレームが挿入される形式となる。例えば、図3(A)は、順次出力されるフレームを示しており、I0〜I4,I6,I7が動画用フレームであり、I5が静止画用フレームである。また、静止画用フレームのサイズは、通常、動画用フレームのサイズよりも大きい。更に、静止画撮影にかかる時間は動画撮影の1フレーム間の時間よりも長いことが多く、静止画用フレームと動画用フレームとの間の時間は、動画撮影の2フレーム以上となる場合がある。   In moving image shooting using the moving image recording apparatus 100, RAW image data is sequentially output from the image sensor in units of frames. When a still image is shot during moving image shooting, the still image frame is inserted between the moving image frames. For example, FIG. 3A shows sequentially output frames, where I0 to I4, I6, and I7 are moving image frames, and I5 is a still image frame. Also, the size of the still image frame is usually larger than the size of the moving image frame. Furthermore, the time taken for still image shooting is often longer than the time between one frame for moving image shooting, and the time between the still image frame and the moving image frame may be two or more frames for moving image shooting. .

上記のように、静止画用フレームと動画用フレームのサイズは異なり、図3(B)に示すように、撮影時における撮像素子からのデータの読出し位置が異なる。即ち、静止画撮影では、動画像撮影時の領域よりも広い領域で撮影を行なっており、動画像撮影時の領域より外側の領域の撮像素子のデータも取り込む必要がある。従って、静止画撮影時の解像度、RAW画像データのフレーム内の一部の領域を切り出すための切り出し位置データ又は動画像再生用フレームとの位置関係データ等を撮影条件として記録しておくことで、RAW画像データを現像処理して再生する際スムーズな動画再生を行うことができる。   As described above, the still image frame and the moving image frame have different sizes, and as shown in FIG. 3B, the data reading position from the image sensor at the time of shooting is different. That is, in still image shooting, shooting is performed in an area wider than the area at the time of moving image shooting, and it is necessary to capture data of the image sensor in the area outside the area at the time of moving image shooting. Therefore, by recording the resolution at the time of still image shooting, the cut-out position data for cutting out a partial area in the frame of the RAW image data, the positional relationship data with the moving image playback frame, etc. as shooting conditions, Smooth playback of moving images can be performed when RAW image data is developed and played back.

図3(B)に示す例では、動画撮影時のフレームの左上端を基準として座標を取り、静止画撮影時のフレームの左上端の座標を、画素位置を使用して例えば(X,Y)で表現し、これを切り出し位置として記録する。また、動画用フレームと静止画用フレームとの違いを撮影条件として記録してもよく、例えば、フレームレートや解像度、画素領域の広さ、動画像再生用フレームとの位置関係に関するデータを撮影条件として記録してもよい。   In the example shown in FIG. 3B, coordinates are taken with reference to the upper left corner of the frame during moving image shooting, and the coordinates of the upper left corner of the frame during still image shooting are, for example, (X, Y) using the pixel position. And this is recorded as a cutout position. In addition, the difference between a moving image frame and a still image frame may be recorded as a shooting condition. For example, data on a frame rate, a resolution, a size of a pixel area, and a positional relationship with a moving image playback frame may be recorded. May be recorded as

次に、図4を参照して、図1の動画像記録装置100で記録された動画像データを再生する動画像再生装置200について説明する。図4は、本発明の一実施形態に係る動画像再生装置200の構成を示すブロック図である。図4に示すように、動画像再生装置200は、ホストCPU202、メディア読出部210、De-Multiplex212、画像位置情報抽出部220、音声信号処理部230、オーディオ出力部232、JPEGデコード部240、領域切出部250、現像処理部252、サイズ処理部254、フレームレート変換部256、MUX260、ビデオ出力部262を有して構成されている。   Next, with reference to FIG. 4, a moving image reproducing apparatus 200 for reproducing moving image data recorded by the moving image recording apparatus 100 of FIG. 1 will be described. FIG. 4 is a block diagram showing the configuration of the moving image playback apparatus 200 according to an embodiment of the present invention. As shown in FIG. 4, the moving image playback apparatus 200 includes a host CPU 202, a media reading unit 210, a De-Multiplex 212, an image position information extraction unit 220, an audio signal processing unit 230, an audio output unit 232, a JPEG decoding unit 240, an area A cutout unit 250, a development processing unit 252, a size processing unit 254, a frame rate conversion unit 256, a MUX 260, and a video output unit 262 are included.

メディア読出部210は、ホストCPU202からの指令により、記録メディアからデータを読み出す。De-Multiplex212は、メディア読出部210から読み出したデータを一時的に溜め、音声信号処理部230、JPEGデコード部240、領域切出部250のそれぞれに送る。   The media reading unit 210 reads data from the recording medium according to a command from the host CPU 202. The De-Multiplex 212 temporarily stores the data read from the media reading unit 210 and sends the data to the audio signal processing unit 230, the JPEG decoding unit 240, and the region extraction unit 250, respectively.

画像位置情報抽出部220は、フレームヘッダーに記録された撮影条件データを抽出し、ホストCPU202に送る。   The image position information extraction unit 220 extracts shooting condition data recorded in the frame header and sends it to the host CPU 202.

ホストCPU202は、画像位置情報抽出部220から送られた撮影条件データに基づいて、現像処理部252、サイズ処理部254又はフレームレート変換部256における画像処理を制御する。これにより、記録メディアから撮影条件データが読み出された場合、そのデータに従って、現像処理、サイズ処理、フレームレート変換処理が行われるため、動画撮影中に静止画撮影が行われた場合でも、静止画用フレームを動画再生用フレームとして変換することができ、RAW画像データに基づいた動画再生時もスムーズな動画再生を行うことができる。   The host CPU 202 controls image processing in the development processing unit 252, the size processing unit 254, or the frame rate conversion unit 256 based on the shooting condition data sent from the image position information extraction unit 220. As a result, when shooting condition data is read from the recording medium, development processing, size processing, and frame rate conversion processing are performed according to the data, so even if still image shooting is performed during movie shooting, The image frame can be converted as a moving image reproduction frame, and smooth moving image reproduction can be performed even during moving image reproduction based on RAW image data.

音声信号処理部230は、音声データをデフォーマットし、デフォーマットされた信号をDA変換し、オーディオ出力部232に送る。オーディオ出力部232は、アナログ変換されたオーディオ信号を外部に出力する。   The audio signal processing unit 230 deformats the audio data, DA-converts the deformatted signal, and sends it to the audio output unit 232. The audio output unit 232 outputs the audio signal subjected to analog conversion to the outside.

また、JPEGデコード部240は、圧縮画像データをデコードし、デコードされた映像データを縮小または拡大し、MUX260へ送る。   Also, the JPEG decoding unit 240 decodes the compressed image data, reduces or enlarges the decoded video data, and sends it to the MUX 260.

また、領域切出部250は、RAW画像データをベイヤーデフォーマットし、ベイヤー配列に並べ替えて現像処理部252へ送る。また、領域切出部250は、ホストCPU202を介して画像位置情報抽出部220から送られた撮影条件データに基づいて、動画再生のための切り出し量を算出し、静止画用フレームの一部の領域を切り出すクロップ処理をする。   Further, the area extraction unit 250 performs Bayer deformatting on the RAW image data, rearranges the raw image data into a Bayer array, and sends the data to the development processing unit 252. Further, the area cutout unit 250 calculates a cutout amount for moving image reproduction based on the shooting condition data sent from the image position information extraction unit 220 via the host CPU 202, and a part of the still image frame. Crop processing to cut out the area.

現像処理部252は、デフォーマットされたRAW画像データに対して、ホワイトバランス処理、ベイヤー配列からの補間処理、ノイズ除去、輝度及び色補正等の一連の現像処理を行う。サイズ処理部254は、現像処理が行われたRAW画像データのサイズを縮小する処理を行う。フレームレート変換部256は、静止画撮影にかかる時間が動画撮影の1フレーム間の時間よりも長いとき、静止画用フレームを動画撮影のフレームレートに合わせて2以上のフレームを複製したりするなどの処理を行い、MUX260へ送る。   The development processing unit 252 performs a series of development processing such as white balance processing, interpolation processing from the Bayer array, noise removal, luminance, and color correction on the deformatted RAW image data. The size processing unit 254 performs a process of reducing the size of the RAW image data that has been subjected to the development process. When the time taken for still image shooting is longer than the time between one frame for moving image shooting, the frame rate conversion unit 256 duplicates two or more frames in accordance with the frame rate for moving image shooting. Is sent to the MUX 260.

MUX260は、JPEGデコード部240又はサイズ処理部254から送られた映像データを、ビデオ出力部262へ送る。ビデオ出力部262では、送られたデータをDA変換し、アナログ信号データを外部に出力する。   The MUX 260 sends the video data sent from the JPEG decoding unit 240 or the size processing unit 254 to the video output unit 262. The video output unit 262 performs D / A conversion on the transmitted data and outputs analog signal data to the outside.

なお、動画像再生装置200における一連の処理は、ハードウェアで処理してもよいし、コンピュータ上のプログラムによるソフトウェア処理で実現してもよい。   Note that a series of processing in the moving image reproduction apparatus 200 may be performed by hardware or may be realized by software processing by a program on a computer.

以上のように構成された本実施形態の動画像再生装置200では、メディア読出部210から読み出したファイルの中の各フレームヘッダーに記録された撮影条件データを用いて現像処理、サイズ処理を行う。そして、通常、動画像記録装置100の撮像素子の違いや読出しモードの違いによって、静止画用フレームのどの位置が動画用フレームと一致するかが異なるが、動画像再生装置200によれば、撮影条件をもとに静止画用フレームを動画用フレームに切り出すなどの処理を行うことができ、スムーズな再生を行なうことができる。   In the moving image playback apparatus 200 of the present embodiment configured as described above, development processing and size processing are performed using the shooting condition data recorded in each frame header in the file read from the media reading unit 210. Normally, the position of the still image frame coincides with the moving image frame differs depending on the difference in the image sensor and the reading mode of the moving image recording apparatus 100. Processing such as cutting a still image frame into a moving image frame based on the conditions can be performed, and smooth reproduction can be performed.

RAW画像データの再生時には、記録メディアからG、B、Rの各RAW画像データを読み出し、そのデータを現像処理することによって、RAW画像データが映像信号化される。この信号は、所定の画像サイズに縮小処理されて、ビデオ出力部262にビデオ出力される。これにより、動画像再生装置200によって、高画質な再生が可能となる。   When the RAW image data is reproduced, the RAW image data is converted into a video signal by reading out the RAW image data of G, B, and R from the recording medium and developing the data. This signal is reduced to a predetermined image size and is output to the video output unit 262 as a video. As a result, the moving image reproducing apparatus 200 can reproduce images with high image quality.

圧縮画像データを再生する場合は、記録メディアからフレーム単位に圧縮画像データを順次に読み出すことで、圧縮画像データを再生することができる。この場合、読み出されるデータサイズはRAW画像データに比べて極めて小さい。JPEGデコードされた映像信号を所定の画像サイズに縮小処理、または拡大処理して出力することで、RAW画像データの再生に比べて軽い処理で再生を行うことが可能となる。このように、圧縮画像データによる簡易再生モードを活用することにより、動画像再生装置200のハードウェア構成を大幅に削減できるとともに、消費電力を大幅に低減できる。   When the compressed image data is reproduced, the compressed image data can be reproduced by sequentially reading the compressed image data in units of frames from the recording medium. In this case, the read data size is extremely small compared to the RAW image data. By reducing and enlarging the JPEG-decoded video signal to a predetermined image size and outputting it, reproduction can be performed with lighter processing compared to RAW image data reproduction. As described above, by utilizing the simple reproduction mode based on the compressed image data, the hardware configuration of the moving image reproduction apparatus 200 can be greatly reduced, and the power consumption can be greatly reduced.

また、特殊再生モードとして、高速再生モードについても、JPEGデータを用いることで、負荷の少ない処理が可能となる。この場合、再生の倍速率に合わせてフレームヘッダーのみをサーチしながら、音声データ、圧縮画像データ、RAW画像データのデータサイズ情報から必要なフレームだけを飛び越し走査して圧縮画像データを読み出し、JPEGデコードして読み出せばよい。逆転方向の再生も同様の方法を用いることで容易に実現可能である。   Further, even in the high-speed playback mode as the special playback mode, processing with less load can be performed by using JPEG data. In this case, while searching only the frame header according to the playback speed, only the necessary frames are scanned and scanned from the data size information of audio data, compressed image data, and RAW image data, and the compressed image data is read out. And read it out. Reproduction in the reverse direction can be easily realized by using a similar method.

また、圧縮画像データを用いて、ファイルの中の撮影画像の一覧をサムネイル表示することも可能である。この場合、例えば複数の動画ファイルのそれぞれについて、1フレームの画像をサムネイル表示してもよいし、各動画ファイルを動画としてサムネイル表示してもよい。   It is also possible to display a list of photographed images in the file as thumbnails using the compressed image data. In this case, for example, one frame image may be displayed as a thumbnail for each of a plurality of video files, or each video file may be displayed as a thumbnail as a video.

以上説明したように本実施形態によれば、RAW画像データと圧縮画像データの双方を関連付けて記録することができるため、高画質再生を行う場合はRAW画像データを使用し、リアルタイム表示、画像検索等では、データ量の少ない圧縮画像データを用いることができる。これにより、高画質かつ操作性の優れた動画像記録装置100、および動画像再生装置200を提供することが可能となる。   As described above, according to the present embodiment, since both RAW image data and compressed image data can be recorded in association with each other, RAW image data is used for high-quality playback, real-time display, and image search. For example, compressed image data with a small data amount can be used. Thereby, it is possible to provide the moving image recording apparatus 100 and the moving image reproducing apparatus 200 with high image quality and excellent operability.

以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。   The preferred embodiments of the present invention have been described in detail above with reference to the accompanying drawings, but the present invention is not limited to such examples. It is obvious that a person having ordinary knowledge in the technical field to which the present invention pertains can come up with various changes or modifications within the scope of the technical idea described in the claims. Of course, it is understood that these also belong to the technical scope of the present invention.

本発明の一実施形態に係る動画像記録装置の構成を示すブロック図である。It is a block diagram which shows the structure of the moving image recording device which concerns on one Embodiment of this invention. 動画像記録装置による、記録メディアへの記録のフォーマットを示す模式図である。It is a schematic diagram which shows the format of recording on a recording medium by a moving image recording device. 同実施形態に係る撮像素子の撮像面を示す模式図である。It is a schematic diagram which shows the imaging surface of the image pick-up element which concerns on the same embodiment. 同実施形態に係る動画像再生装置の構成を示すブロック図である。It is a block diagram which shows the structure of the moving image reproduction apparatus which concerns on the same embodiment.

符号の説明Explanation of symbols

100 動画像記録装置
102 カメラ
104 カメラ信号処理部
110、136、164 フォーマット処理部
120 現像処理部
122 サイズ処理部
124 JPEGエンコーダ
130 撮影条件制御部
140 ファイル化処理部
150 メディア記録部
160 マイクロフォン
162 音声信号処理部
200 動画像再生装置
202 ホストCPU
210 メディア読出部
212 De-Multiplex
220 画像位置情報抽出部
230 音声信号処理部
232 オーディオ出力部
240 JPEGデコード部
250 領域切出部
252 現像処理部
254 サイズ処理部
256 フレームレート変換部
260 MUX
262 ビデオ出力部
DESCRIPTION OF SYMBOLS 100 Moving image recording device 102 Camera 104 Camera signal processing part 110, 136, 164 Format processing part 120 Development processing part 122 Size processing part 124 JPEG encoder 130 Imaging condition control part 140 File processing part 150 Media recording part 160 Microphone 162 Audio signal Processing unit 200 Moving image playback device 202 Host CPU
210 Media reader 212 De-Multiplex
220 Image position information extraction unit 230 Audio signal processing unit 232 Audio output unit 240 JPEG decoding unit 250 Area extraction unit 252 Development processing unit 254 Size processing unit 256 Frame rate conversion unit 260 MUX
262 Video output section

Claims (8)

撮像素子からフレーム単位で順次出力されるRAW画像データを再生可能な画像データに画像処理してフレーム単位の処理済画像データを生成する画像処理部と、
前記RAW画像データをフレーム毎に順次再生するために必要な、前記処理済画像データを記録する際に静止画撮影が行なわれたときの撮影条件をフレーム毎に取得する撮影条件取得部と、
フレーム単位の前記RAW画像データと、フレーム単位の前記処理済画像データと、前記静止画撮影が行なわれたフレームの前記撮影条件とを順次記録媒体に記録する媒体記録部と
を備え
前記撮影条件は、前記撮像素子からのデータの読出し領域における、前記処理済画像データに対する前記RAW画像データの差分情報を含むことを特徴とする、記録装置。
An image processing unit that processes the raw image data sequentially output from the image sensor in units of frames into reproducible image data to generate processed image data in units of frames;
A shooting condition acquisition unit that acquires, for each frame, shooting conditions when still image shooting is performed when recording the processed image data, which is necessary for sequentially reproducing the RAW image data for each frame;
A RAW image data in units of frames, the processed image data in units of frames, and a medium recording unit that sequentially records the imaging conditions of the frames on which the still image was captured, on a recording medium ;
The recording apparatus according to claim 1, wherein the photographing condition includes difference information of the RAW image data with respect to the processed image data in a data reading area from the image sensor .
前記撮影条件は、静止画撮影時の解像度、前記RAW画像データのフレーム内の一部の領域を切り出すための切り出し位置データ又は動画像再生用フレームとの位置関係データをさらに含むことを特徴とする、請求項1に記載の記録装置。 The photographing conditions, the resolution of the still image shooting, the feature that you further comprising a positional relationship data between the cut-out position data or moving image reproduction frame for cutting out a partial area of the frame of the RAW image data The recording apparatus according to claim 1. フレーム単位のRAW画像データと、前記RAW画像データを再生可能な画像データに画像処理したフレーム単位の処理済画像データと、前記処理済画像データを記録する際に静止画撮影が行なわれたときの撮影条件とがフレーム毎に順次記録された記録媒体から、各前記RAW画像データ、各画像処理データ及び各前記撮影条件のうち少なくともいずれかを読み出すデータ読出部と、
前記RAW画像データをフレーム毎に順次再生する際、前記読み出した撮影条件に基づいて、前記静止画撮影が行なわれたときの前記RAW画像データを動画再生として画像処理をする画像処理部と
を備え
前記撮影条件は、撮像素子からのデータの読出し領域における、前記処理済画像データに対する前記RAW画像データの差分情報を含むことを特徴とする、再生装置。
RAW image data in frame units, processed image data in frame units in which the RAW image data is reproducible image data, and when still image shooting is performed when the processed image data is recorded A data reading unit that reads out at least one of each of the RAW image data, each image processing data, and each of the imaging conditions from a recording medium in which the imaging conditions are sequentially recorded for each frame;
An image processing unit that performs image processing on the RAW image data when the still image shooting is performed based on the read shooting conditions as a moving image playback when sequentially reproducing the RAW image data for each frame. ,
The reproduction apparatus according to claim 1, wherein the photographing condition includes difference information of the RAW image data with respect to the processed image data in a data reading area from the image sensor .
前記撮影条件は、静止画撮影時の解像度、前記RAW画像データのフレーム内の一部の領域を切り出すための切り出し位置データ又は動画像再生用フレームとの位置関係データをさらに含むことを特徴とする、請求項3に記載の再生装置。 The photographing conditions, the resolution of the still image shooting, the feature that you further comprising a positional relationship data between the cut-out position data or moving image reproduction frame for cutting out a partial area of the frame of the RAW image data The playback apparatus according to claim 3. 撮像素子からフレーム単位で順次出力されるRAW画像データを再生可能な画像データに画像処理してフレーム単位の処理済画像データを生成するステップと、
前記RAW画像データをフレーム毎に順次再生するために必要な、前記処理済画像データを記録する際に静止画撮影が行なわれたときの撮影条件をフレーム毎に取得するステップと、
フレーム単位の前記RAW画像データと、フレーム単位の前記処理済画像データと、前記静止画撮影が行なわれたフレームの前記撮影条件とをフレーム毎に順次記録媒体に記録するステップと
を備え
前記撮影条件は、前記撮像素子からのデータの読出し領域における、前記処理済画像データに対する前記RAW画像データの差分情報を含むことを特徴とする、記録方法。
Processing the raw image data sequentially output from the image sensor in frame units into reproducible image data to generate processed image data in frame units;
Obtaining, for each frame, shooting conditions required when still image shooting is performed when recording the processed image data, which is necessary for sequentially reproducing the RAW image data for each frame;
Recording the RAW image data in units of frames, the processed image data in units of frames, and the imaging conditions of the frames on which the still image was captured, sequentially on a recording medium for each frame ,
The recording method according to claim 1, wherein the photographing condition includes difference information of the RAW image data with respect to the processed image data in a data reading area from the image sensor .
フレーム単位のRAW画像データと、前記RAW画像データを再生可能な画像データに画像処理したフレーム単位の処理済画像データと、前記処理済画像データを記録する際に静止画撮影が行なわれたときの撮影条件とがフレーム毎に順次記録された記録媒体から、各前記RAW画像データ、各画像処理データ及び各前記撮影条件のうち少なくともいずれかを読み出すステップと、
前記RAW画像データをフレーム毎に順次再生する際、前記読み出した撮影条件に基づいて、前記静止画撮影が行なわれたときの前記RAW画像データを動画再生として画像処理をするステップと
を備え
前記撮影条件は、撮像素子からのデータの読出し領域における、前記処理済画像データに対する前記RAW画像データの差分情報を含むことを特徴とする、再生方法。
RAW image data in frame units, processed image data in frame units in which the RAW image data is reproducible image data, and when still image shooting is performed when the processed image data is recorded Reading at least one of each of the RAW image data, each image processing data, and each of the imaging conditions from a recording medium in which the imaging conditions are sequentially recorded for each frame;
When the RAW image data is sequentially reproduced for each frame, the RAW image data when the still image shooting is performed based on the read shooting conditions is subjected to image processing as a moving image reproduction , and
The reproduction method according to claim 1, wherein the photographing condition includes difference information of the RAW image data with respect to the processed image data in a data reading area from the image sensor .
撮像素子からフレーム単位で順次出力されるRAW画像データを再生可能な画像データに画像処理してフレーム単位の処理済画像データを生成する手段、
前記RAW画像データをフレーム毎に順次再生するために必要な、前記処理済画像データを記録する際に静止画撮影が行なわれたときの撮影条件をフレーム毎に取得する手段、
フレーム単位の前記RAW画像データと、フレーム単位の前記処理済画像データと、前記静止画撮影が行なわれたフレームの前記撮影条件とをフレーム毎に順次記録媒体に記録する手段
をコンピュータに実行させるためのプログラムであって、
前記撮影条件は、前記撮像素子からのデータの読出し領域における、前記処理済画像データに対する前記RAW画像データの差分情報を含むことを特徴とする、プログラム。
Means for processing the raw image data sequentially output from the image sensor in frame units into reproducible image data to generate processed image data in frame units;
Means for acquiring, for each frame, a shooting condition required for still image shooting when recording the processed image data, which is necessary for sequentially reproducing the RAW image data for each frame;
In order to cause a computer to execute means for sequentially recording the RAW image data in frame units, the processed image data in frame units, and the shooting conditions of the frames on which the still image was shot on a recording medium for each frame. The program of
The program according to claim 1, wherein the photographing condition includes difference information of the RAW image data with respect to the processed image data in a data reading area from the image sensor .
フレーム単位のRAW画像データと、前記RAW画像データを再生可能な画像データに画像処理したフレーム単位の処理済画像データと、前記処理済画像データを記録する際に静止画撮影が行なわれたときの撮影条件とがフレーム毎に順次記録された記録媒体から、各前記RAW画像データ、各画像処理データ及び各前記撮影条件のうち少なくともいずれかを読み出す手段、
前記RAW画像データをフレーム毎に順次再生する際、前記読み出した撮影条件に基づいて、前記静止画撮影が行なわれたときの前記RAW画像データを動画再生として画像処理をする手段
をコンピュータに実行させるためのプログラムであって、
前記撮影条件は、撮像素子からのデータの読出し領域における、前記処理済画像データに対する前記RAW画像データの差分情報を含むことを特徴とする、プログラム。
RAW image data in frame units, processed image data in frame units in which the RAW image data is reproducible image data, and when still image shooting is performed when the processed image data is recorded Means for reading at least one of the RAW image data, the image processing data, and the imaging conditions from a recording medium in which the imaging conditions are sequentially recorded for each frame;
When the RAW image data is sequentially reproduced for each frame, the computer executes means for processing the RAW image data as moving image reproduction when the still image shooting is performed based on the read shooting conditions. A program for
The program according to claim 1, wherein the photographing condition includes difference information of the RAW image data with respect to the processed image data in a data reading area from the image sensor .
JP2007323931A 2007-12-14 2007-12-14 Recording apparatus, reproducing apparatus, recording method, reproducing method, and program Expired - Fee Related JP5118465B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007323931A JP5118465B2 (en) 2007-12-14 2007-12-14 Recording apparatus, reproducing apparatus, recording method, reproducing method, and program
KR20080058059A KR101480406B1 (en) 2007-12-14 2008-06-19 Recording apparatus, replaying apparatus, recording method, replaying method and program recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007323931A JP5118465B2 (en) 2007-12-14 2007-12-14 Recording apparatus, reproducing apparatus, recording method, reproducing method, and program

Publications (2)

Publication Number Publication Date
JP2009147745A JP2009147745A (en) 2009-07-02
JP5118465B2 true JP5118465B2 (en) 2013-01-16

Family

ID=40917821

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007323931A Expired - Fee Related JP5118465B2 (en) 2007-12-14 2007-12-14 Recording apparatus, reproducing apparatus, recording method, reproducing method, and program

Country Status (2)

Country Link
JP (1) JP5118465B2 (en)
KR (1) KR101480406B1 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4987129B2 (en) 2010-04-23 2012-07-25 キヤノン株式会社 Image processing apparatus and control method thereof
JP5603641B2 (en) 2010-04-23 2014-10-08 キヤノン株式会社 Imaging apparatus, image processing apparatus, control method, and program
JP5843525B2 (en) * 2010-11-10 2016-01-13 キヤノン株式会社 Imaging apparatus and control method thereof
JP2013146001A (en) * 2012-01-16 2013-07-25 Olympus Imaging Corp Image pickup device

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3809629B2 (en) * 1998-01-20 2006-08-16 株式会社熊平製作所 Image capturing and recording device
JP2001111934A (en) * 1999-10-04 2001-04-20 Olympus Optical Co Ltd Electronic camera system
JP2007166193A (en) * 2005-12-13 2007-06-28 Fujifilm Corp Camera system

Also Published As

Publication number Publication date
KR20090064278A (en) 2009-06-18
KR101480406B1 (en) 2015-01-12
JP2009147745A (en) 2009-07-02

Similar Documents

Publication Publication Date Title
JP4958758B2 (en) Recording apparatus, reproducing apparatus, recording method, reproducing method, and program
JP2009147549A (en) Moving image recording apparatus, moving image reproducing apparatus and program
JP2009147743A (en) Recording apparatus, reproduction apparatus, recording method, reproduction method, and program
JP5118465B2 (en) Recording apparatus, reproducing apparatus, recording method, reproducing method, and program
US8379093B2 (en) Recording and reproduction apparatus and methods, and a recording medium storing a computer program for executing the methods
JP3814565B2 (en) Recording device
JP4901673B2 (en) Imaging apparatus, recording apparatus, reproducing apparatus, imaging method, recording method, reproducing method, and program
JP4973497B2 (en) Captured image recording apparatus, captured image recording method, captured image playback apparatus, captured image playback method, and captured image recording / playback system
JP5290568B2 (en) Moving picture recording apparatus, moving picture reproducing apparatus, and program
US20100195989A1 (en) Image reproducing apparatus and image reproducing method
KR101480407B1 (en) Digital image processing apparatus, method for controlling the same and medium of recording the method
JP5118466B2 (en) Recording apparatus, reproducing apparatus, recording method, reproducing method, and program
JP4177081B2 (en) Image reproducing apparatus and method
US20090040382A1 (en) Camera apparatus and still image generating method of camera apparatus
KR20090071317A (en) Recording apparatus, reproducing apparatus, recoding method, reproducing method and storing medium having program to perform the method
US20100149375A1 (en) Apparatus and method for faster recording and reproduction of digital video images
JP4234662B2 (en) Electronic device and data recording method thereof
US20090041431A1 (en) Imaging Apparatus and Method for Controlling the Same
JP2008092503A (en) Imaging apparatus
JP2007328353A (en) Decoder, and decoding method
JP2009130903A (en) Image recording apparatus, image recording method and program
JP2004241942A (en) Device and method for thumbnail image generation
JP2012147129A (en) Imaging device and control method thereof
JP2010199781A (en) Device and method for editing moving image
JP2004248318A (en) Image data recording system and image data recording method

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20090811

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20101005

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120417

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120717

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120925

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121019

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151026

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees