JP5532561B2 - Imaging device, image reproduction device, image conversion device, and image reproduction program - Google Patents

Imaging device, image reproduction device, image conversion device, and image reproduction program Download PDF

Info

Publication number
JP5532561B2
JP5532561B2 JP2008215082A JP2008215082A JP5532561B2 JP 5532561 B2 JP5532561 B2 JP 5532561B2 JP 2008215082 A JP2008215082 A JP 2008215082A JP 2008215082 A JP2008215082 A JP 2008215082A JP 5532561 B2 JP5532561 B2 JP 5532561B2
Authority
JP
Japan
Prior art keywords
frame rate
moving image
image
reading
reproduction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008215082A
Other languages
Japanese (ja)
Other versions
JP2010050877A (en
Inventor
浩二 尾崎
武司 河野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2008215082A priority Critical patent/JP5532561B2/en
Publication of JP2010050877A publication Critical patent/JP2010050877A/en
Application granted granted Critical
Publication of JP5532561B2 publication Critical patent/JP5532561B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Television Signal Processing For Recording (AREA)

Description

本発明は、動画像の生成、再生表示および変換に関する。   The present invention relates to moving image generation, reproduction display, and conversion.

従来、所定のフレームレートで記録された動画像の再生において、通常再生時はフレームを間引いて再生し、スロー再生時はフレームを間引かずに再生することで、通常再生とスロー再生のいずれであってもスムースな動画像を再生するようにした画像処理装置が知られている(特許文献1参照)。   Conventionally, in playback of moving images recorded at a predetermined frame rate, normal playback or slow playback is performed by skipping frames during normal playback and playback without skipping frames during slow playback. There is known an image processing apparatus that reproduces a smooth moving image even if it exists (see Patent Document 1).

特開2004−129217号公報JP 2004-129217 A

特許文献1に開示される従来の画像処理装置において再生対象とされる動画像は、スロー再生時にもスムースに再生できるように比較的高いフレームレートで記録されたものである。被写体の動きが大きい場合は、動画像の品質を確保するために、このように高いフレームレートで動画像を記録する必要がある。しかし、被写体の動きが小さい場合は、必ずしも高いフレームレートで動画像を記録する必要がないことから、動画像の情報量を減らすためにフレームレートを下げることが好ましい。このように従来は、被写体の動きに応じて動画像のフレームレートを最適化することができなかった。   A moving image to be reproduced in the conventional image processing apparatus disclosed in Patent Document 1 is recorded at a relatively high frame rate so that it can be smoothly reproduced even during slow reproduction. When the movement of the subject is large, it is necessary to record the moving image at such a high frame rate in order to ensure the quality of the moving image. However, when the movement of the subject is small, it is not always necessary to record a moving image at a high frame rate. Therefore, it is preferable to reduce the frame rate in order to reduce the information amount of the moving image. As described above, conventionally, the frame rate of the moving image cannot be optimized according to the movement of the subject.

本発明による撮像装置は、被写体を撮像した複数の画像信号を第1フレームレートにより読み出す撮像手段と、第1フレームレートにより読み出された画像信号に基づいて被写体の動きを検出する検出手段と、第1フレームレート以下の複数のフレームレート値の中から、検出手段により検出された被写体の動きが大きいほど高い第2フレームレートを設定する設定手段と、撮像手段から出力される画像信号に基づいて、ユーザからの撮影指示が行われると、その撮影指示の前に設定手段により設定された第2フレームレート動画像の生成を開始する生成手段とを備え、生成手段は、ユーザからの撮影指示が行われた後に設定手段により第2フレームレートの設定が変更された場合に、動画像のフレームレートを変更された第2フレームレートに途中で変化させることを特徴とする。
本発明による画像変換装置は、第1フレームレートで記録された動画像を読み込む読み込み手段と、読み込み手段により読み込まれた動画像における被写体の動きを検出する検出手段と、第1フレームレート以下の複数の値の中から、検出手段により検出された被写体の動きが大きいほど高い第2フレームレートを設定する設定手段と、設定手段により設定された第2フレームレートに基づいて動画像のフレームレートを変換する変換手段とを備え、変換手段は、設定手段による第2フレームレートの設定の変更に応じて、動画像の第2フレームレートを途中で変化させることを特徴とする。
本発明による画像再生装置は、撮画像変換装置によって第2フレームレートを変換された動画像を読み込む読み込み手段と、読み込み手段により読み込まれた動画像を再生表示する再生表示手段とを備える。
本発明による画像再生プログラムは、制御部と表示部を有する画像再生装置において実行され、画像変換装置によってフレームレートを変換された動画像を読み込む読み込みステップと、読み込みステップで読み込まれた動画像を表示部に再生表示する再生表示ステップとを制御部に実行させる。
An imaging apparatus according to the present invention includes an imaging unit that reads a plurality of image signals obtained by imaging a subject at a first frame rate, a detection unit that detects a movement of the subject based on the image signals read at the first frame rate , Based on the setting means for setting the second frame rate that is higher as the movement of the subject detected by the detection means is larger among the plurality of frame rate values equal to or lower than the first frame rate, and the image signal output from the imaging means. , the photographing instruction from the user is performed, and a generation means starts generating the moving image in the second frame rate set by the setting means immediately prior to its shooting instruction, generating means, shooting from a user The second frame in which the frame rate of the moving image is changed when the setting of the second frame rate is changed by the setting means after the instruction is made And wherein the changing the way in over and.
An image conversion apparatus according to the present invention includes a reading unit that reads a moving image recorded at a first frame rate, a detecting unit that detects a motion of a subject in the moving image read by the reading unit, and a plurality of frames equal to or lower than the first frame rate. The setting means for setting a higher second frame rate as the movement of the subject detected by the detection means increases, and the frame rate of the moving image is converted based on the second frame rate set by the setting means. Converting means for changing the second frame rate of the moving image in response to a change in the setting of the second frame rate by the setting means .
An image reproduction apparatus according to the present invention includes a reading unit that reads a moving image whose second frame rate has been converted by a captured image conversion device, and a reproduction display unit that reproduces and displays the moving image read by the reading unit.
An image reproduction program according to the present invention is executed in an image reproduction apparatus having a control unit and a display unit, and reads a moving image whose frame rate has been converted by the image conversion device, and displays the moving image read in the reading step. The control unit is caused to execute a reproduction display step for reproduction display on the unit.

本発明によれば、被写体の動きに応じて動画像のフレームレートを最適化することができる。   According to the present invention, it is possible to optimize the frame rate of a moving image according to the movement of a subject.

−第1の実施の形態−
図面を用いて、本発明の一実施の形態によるデジタルカメラについて説明する。図1は本実施の形態によるデジタルカメラの構成を示すブロック図である。デジタルカメラ1は、撮影レンズ10、入力装置13、焦点調節装置14、撮像素子15、制御回路16、DRAM17、フラッシュメモリ18、LCD駆動回路19、液晶モニタ20およびメモリカードインタフェース(I/F)21を備える。
-First embodiment-
A digital camera according to an embodiment of the present invention will be described with reference to the drawings. FIG. 1 is a block diagram showing the configuration of a digital camera according to this embodiment. The digital camera 1 includes a photographing lens 10, an input device 13, a focus adjustment device 14, an image sensor 15, a control circuit 16, a DRAM 17, a flash memory 18, an LCD drive circuit 19, a liquid crystal monitor 20, and a memory card interface (I / F) 21. Is provided.

撮像素子15は、画素に対応する複数の光電変換素子を備えたCCDやCMOSイメージセンサによって構成される。撮像素子15は、撮像面上に結像されている被写体像を撮像し、被写体像の明るさに応じた光電変換信号(画像信号)を出力する。撮像素子15の撮像面には、それぞれR(赤)、G(緑)およびB(青)のカラーフィルタが画素位置に対応するように設けられている。撮像素子15がカラーフィルタを通して被写体像を撮像するため、各撮像素子から出力される画像信号は、それぞれRGB表色系の色情報を有する。   The imaging element 15 is configured by a CCD or CMOS image sensor including a plurality of photoelectric conversion elements corresponding to pixels. The imaging element 15 captures a subject image formed on the imaging surface and outputs a photoelectric conversion signal (image signal) corresponding to the brightness of the subject image. R (red), G (green), and B (blue) color filters are provided on the imaging surface of the imaging element 15 so as to correspond to the pixel positions, respectively. Since the image pickup device 15 picks up a subject image through the color filter, the image signal output from each image pickup device has RGB color system color information.

撮像素子15から出力された画像信号は制御回路16に入力される。制御回路16は、画像信号に対して種々の画像処理を行い、静止画像または動画像のデータを生成する。そして、制御回路16は生成されたこれらの画像データに対して、JPEG(静止画像の場合)、MotionJPEG(動画像の場合)などの所定の方式により圧縮処理を行い、メモリカードインタフェース21を介して記録媒体22へ記録する。これにより、デジタルカメラ1が被写体を撮影して得られた静止画像または動画像が記録媒体22に記録される。制御回路16は、たとえばRISCなどで構成され、図1に示す各回路を制御する。   The image signal output from the image sensor 15 is input to the control circuit 16. The control circuit 16 performs various image processing on the image signal to generate still image data or moving image data. Then, the control circuit 16 performs compression processing on the generated image data by a predetermined method such as JPEG (in the case of a still image), Motion JPEG (in the case of a moving image), and the like via the memory card interface 21. Recording is performed on the recording medium 22. Accordingly, a still image or a moving image obtained by photographing the subject with the digital camera 1 is recorded on the recording medium 22. The control circuit 16 is composed of, for example, a RISC and controls each circuit shown in FIG.

焦点調節装置14は、撮像素子15から出力される撮像信号に基づいて周知の焦点評価値演算を行い、演算結果を制御回路16へ出力する。制御回路16は、上記演算結果に基づいて、焦点評価値が最大となる位置へ撮影レンズ10を移動する。   The focus adjustment device 14 performs a known focus evaluation value calculation based on the imaging signal output from the imaging element 15, and outputs the calculation result to the control circuit 16. Based on the calculation result, the control circuit 16 moves the photographing lens 10 to a position where the focus evaluation value is maximized.

DRAM17は、画像処理、画像圧縮処理および表示用画像データ作成処理の途中や処理後のデータを一時的に格納するために使用される。表示用画像データは、制御回路16が撮像素子15からの出力に基づいて生成した画像データ、もしくは記録媒体22に記録されている画像データに基づいて、制御回路16により生成される。生成された表示用画像データは、制御回路16によりDRAM17に格納される。フラッシュメモリ18は、たとえば制御回路16が演算を行なうための各種の処理プログラムが記憶された不揮発性メモリである。   The DRAM 17 is used to temporarily store data during or after image processing, image compression processing, and display image data creation processing. The display image data is generated by the control circuit 16 based on the image data generated by the control circuit 16 based on the output from the image sensor 15 or the image data recorded on the recording medium 22. The generated display image data is stored in the DRAM 17 by the control circuit 16. The flash memory 18 is a non-volatile memory in which various processing programs for the control circuit 16 to perform operations are stored, for example.

LCD駆動回路19は、制御回路16の命令に基づいて液晶モニタ20を駆動し、液晶モニタ20に各種の画像を表示させる。制御回路16がLCD駆動回路19を制御することにより、液晶モニタ20は、たとえば、記録媒体22に記録された撮影画像を再生表示したり、デジタルカメラ1の各種設定メニュー画面を表示したりする。   The LCD drive circuit 19 drives the liquid crystal monitor 20 based on a command from the control circuit 16 and causes the liquid crystal monitor 20 to display various images. When the control circuit 16 controls the LCD drive circuit 19, the liquid crystal monitor 20 reproduces and displays a captured image recorded on the recording medium 22, or displays various setting menu screens of the digital camera 1, for example.

入力装置13は、ユーザがデジタルカメラ1を操作する際に用いられる複数のボタンである。入力装置13は、電源ボタンやレリーズボタンに加えて、後で説明する各種の操作ボタンを含む。   The input device 13 is a plurality of buttons used when the user operates the digital camera 1. The input device 13 includes various operation buttons described later in addition to the power button and the release button.

次に、デジタルカメラ1において動画像を記録する際の処理について説明する。デジタルカメラ1は、動画像を記録する際に、制御回路16において図2に示すフローチャートを実行する。   Next, a process for recording a moving image in the digital camera 1 will be described. When the digital camera 1 records a moving image, the control circuit 16 executes the flowchart shown in FIG.

ステップS100において、制御回路16は、撮像素子15から出力される画像信号に基づいて、被写体の輝度を測定する。そして、測定した被写体の輝度に基づいて、撮影に最適なISO感度を選択する。こうして選択されたISO感度に応じて、制御回路16は撮像素子15に対する電荷の蓄積制御を行う。   In step S <b> 100, the control circuit 16 measures the luminance of the subject based on the image signal output from the image sensor 15. Then, based on the measured luminance of the subject, an ISO sensitivity optimum for photographing is selected. In accordance with the ISO sensitivity thus selected, the control circuit 16 performs charge accumulation control on the image sensor 15.

ステップS110において、制御回路16は、被写体の動きを検出する。たとえば、撮像素子15から出力される画像信号に基づいて、フレーム間における画像の差分を求め、その差分から被写体の動きを検出する。このとき、画像中で最も動きの大きい部分を被写体と判断し、それ以外の部分を背景と判断してもよい。あるいは、他の方法により被写体の動きを検出してもよい。たとえば、人物の顔の特徴を示す部分や、予め定められた対象の特徴に合致する部分などをパターンマッチングにより検出し、その部分の動きを追跡してもよい。   In step S110, the control circuit 16 detects the movement of the subject. For example, an image difference between frames is obtained based on an image signal output from the image sensor 15, and the movement of the subject is detected from the difference. At this time, the part with the largest movement in the image may be determined as the subject, and the other part may be determined as the background. Alternatively, the movement of the subject may be detected by other methods. For example, it is possible to detect a part showing the feature of a person's face or a part matching a predetermined target feature by pattern matching and track the movement of that part.

ステップS120において、制御回路16は、ステップS110の処理による被写体の動きの検出結果に基づいて、最適なフレームレートを設定する。ここでは、所定の複数のフレームレート値の中からいずれかのフレームレート値を選択することにより、フレームレートの設定を行う。たとえば、60fps(フレーム毎秒)、30fps、15fps、5fpsまたは1fpsの各フレームレート値の中から、被写体の動きに応じていずれかを選択する。このとき、被写体の動きが大きいほどフレームレートが高くなるように、フレームレート値を選択する。   In step S120, the control circuit 16 sets an optimal frame rate based on the detection result of the subject movement by the process in step S110. Here, the frame rate is set by selecting any one of a plurality of predetermined frame rate values. For example, one of the frame rate values of 60 fps (frames per second), 30 fps, 15 fps, 5 fps, or 1 fps is selected according to the movement of the subject. At this time, the frame rate value is selected such that the greater the movement of the subject, the higher the frame rate.

なお、上記で例示したフレームレート値の各々は、いずれも上位のフレームレート値の約数となっている。ここでいう上位のフレームレート値とは、いずれかのフレームレート値に注目したときに、それよりも高いフレームレート値のことである。すなわち上記の例では、30fpsのフレームレート値に対しては、60fpsが上位のフレームレート値であり、15fpsのフレームレート値に対しては、60fpsおよび30fpsが上位のフレームレート値である。また、5fpsのフレームレート値に対しては、60fps、30fpsおよび15fpsが上位のフレームレート値であり、1fpsのフレームレート値に対しては、60fps、30fps、15fpsおよび5fpsが上位のフレームレート値である。なお、60fpsは最上位のフレームレート値であるため、これより上位のフレームレート値は存在しない。   Note that each of the frame rate values exemplified above is a divisor of the upper frame rate value. The upper frame rate value here is a frame rate value higher than that when any one of the frame rate values is noted. That is, in the above example, 60 fps is an upper frame rate value for a frame rate value of 30 fps, and 60 fps and 30 fps are upper frame rate values for a frame rate value of 15 fps. For frame rates of 5 fps, 60 fps, 30 fps and 15 fps are upper frame rate values, and for 1 fps frame rates, 60 fps, 30 fps, 15 fps and 5 fps are upper frame rate values. is there. Since 60 fps is the highest frame rate value, there is no higher frame rate value.

ユーザからの撮影指示が行われる前であってまだ動画像を撮影していない場合には、上記のステップS120でフレームレートが設定されることにより、後で説明するステップS140で動画像の撮影を開始する際のフレームレートが決定される。また、既にユーザからの撮影指示が行われた後であって動画像を撮影中である場合には、ステップS120でフレームレートが設定されることにより、動画像の途中でフレームレートの設定が変更される。   If a moving image has not yet been shot before the user gives a shooting instruction, the frame rate is set in step S120, and the moving image is shot in step S140, which will be described later. The frame rate at which to start is determined. In addition, if a moving image is being shot after a shooting instruction has been given from the user, the frame rate setting is changed in the middle of the moving image by setting the frame rate in step S120. Is done.

ステップS130において、制御回路16は、動画像を撮影中であるか否かを判定する。ユーザが入力装置13を用いて所定の操作を行うことにより撮影指示を入力すると、デジタルカメラ1において動画像の撮影が開始される。動画像を撮影中である場合、制御回路16はステップS140へ進む。一方、動画像を撮影中でない場合、制御回路16はステップS140を実行せずにステップS150へ進む。   In step S130, the control circuit 16 determines whether a moving image is being captured. When the user inputs a shooting instruction by performing a predetermined operation using the input device 13, the digital camera 1 starts shooting a moving image. If a moving image is being captured, the control circuit 16 proceeds to step S140. On the other hand, when the moving image is not being photographed, the control circuit 16 proceeds to step S150 without executing step S140.

ステップS140において、制御部16は、動画像の撮影を行う。このとき制御回路16は、撮像素子15から出力される画像信号に基づいて、直前に実行したステップS120において設定したフレームレートの動画像を生成する。すなわち、ユーザからの撮影指示が行われた直後であれば、当該フレームレートで動画像の生成を開始する。また、ユーザからの撮影指示が行われた後にステップS120の処理によってフレームレートの設定が変更された場合は、それに応じて動画像のフレームレートを途中で変化させる。なお、ステップS140で動画像を生成する際には、そのフレームレートにしたがって、撮像素子15から出力される画像信号が必要に応じて間引かれる。すなわち、撮像素子15からの画像信号の出力レートは、デジタルカメラ1において設定可能な動画像のフレームレートの最大値以上である。あるいは、撮像素子15からの画像信号の出力レートを動画像のフレームレートに応じて変化させてもよい。ステップS140を実行したら、ステップS150へ進む。   In step S140, the control unit 16 captures a moving image. At this time, based on the image signal output from the image sensor 15, the control circuit 16 generates a moving image having the frame rate set in step S120 executed immediately before. That is, generation of a moving image is started at the frame rate immediately after a shooting instruction is given from the user. Further, when the setting of the frame rate is changed by the process of step S120 after the user gives a shooting instruction, the frame rate of the moving image is changed in the middle accordingly. Note that when generating a moving image in step S140, the image signal output from the image sensor 15 is thinned out as necessary according to the frame rate. That is, the output rate of the image signal from the image sensor 15 is equal to or higher than the maximum value of the frame rate of the moving image that can be set in the digital camera 1. Or you may change the output rate of the image signal from the image pick-up element 15 according to the frame rate of a moving image. If step S140 is performed, it will progress to step S150.

ステップS150において、制御回路16は、動画像の撮影を終了するか否かを判定する。ユーザが入力装置13を用いて所定の撮影停止操作をデジタルカメラ1に対して入力した場合や、記録媒体22の記録容量が残り少ない場合、撮影開始から所定の時間が経過した場合などに、制御回路16は動画像の撮影を終了すると判定してステップS160へ進む。一方、このような撮影終了条件を満たさない場合、制御回路16は動画像の撮影を終了しないと判定してステップS110へ戻り、上述したステップS110〜S140の処理を繰り返す。これにより、撮影開始前や動画像の途中において、ステップS110の処理により被写体の動きを検出し、その検出結果に応じて、ステップS120の処理によりフレームレートの設定を変更できるようにする。   In step S150, the control circuit 16 determines whether or not to finish moving image shooting. The control circuit when the user inputs a predetermined shooting stop operation to the digital camera 1 using the input device 13, when the recording capacity of the recording medium 22 is low, or when a predetermined time has elapsed since the start of shooting. In step S160, it is determined that shooting of the moving image is to be ended, and the process proceeds to step S160. On the other hand, when the shooting end condition is not satisfied, the control circuit 16 determines that the shooting of the moving image is not ended, returns to step S110, and repeats the processes of steps S110 to S140. Thus, the movement of the subject is detected by the process of step S110 before the start of shooting or in the middle of the moving image, and the frame rate setting can be changed by the process of step S120 according to the detection result.

ステップS160において、制御回路16は、それまでに実行したステップS140の処理によって生成された動画像に基づいて、記録用の動画像ファイルを作成する。このとき制御回路16は、ステップS140で生成した動画像に対して、そのフレームレートを表すフレームレート情報を付加する。フレームレート情報は動画像のヘッダファイルに対して付加され、各フレームの画像が記録されているフレームレートをフレーム毎に表す。または、動画像の各フレームの画像に対してそれぞれフレームレート情報を付加してもよい。この場合、画像のメタ情報の一部としてフレームレート情報を付加することができる。ステップS160で作成された動画像ファイルは、記録媒体22に記録される。   In step S160, the control circuit 16 creates a moving image file for recording based on the moving image generated by the process of step S140 executed so far. At this time, the control circuit 16 adds frame rate information representing the frame rate to the moving image generated in step S140. The frame rate information is added to the header file of the moving image and represents the frame rate at which the image of each frame is recorded for each frame. Alternatively, frame rate information may be added to each frame image of the moving image. In this case, frame rate information can be added as part of the meta information of the image. The moving image file created in step S160 is recorded on the recording medium 22.

なお、ステップS160で動画像ファイルを作成する際に用いられる撮影中に生成された動画像の情報は、DRAM17または記録媒体22によって一時的に記憶される。この動画像は、前述のようにステップS120で設定されたフレームレートで記録されている。したがって、動画像の撮影中に被写体の動きが変化した場合は、その変化に応じて動画像の途中でフレームレートが変更されている。   Note that the information of the moving image generated during shooting used when creating the moving image file in step S160 is temporarily stored in the DRAM 17 or the recording medium 22. This moving image is recorded at the frame rate set in step S120 as described above. Therefore, when the movement of the subject changes during shooting of the moving image, the frame rate is changed in the middle of the moving image in accordance with the change.

ステップS160を実行したら、制御回路16は図2のフローチャートを終了する。以上説明したようにして動画像の記録処理が実行される。   If step S160 is performed, the control circuit 16 will complete | finish the flowchart of FIG. The moving image recording process is executed as described above.

次に、デジタルカメラ1において記録された動画像を再生する際の処理について説明する。デジタルカメラ1は、動画像を再生する際に、制御回路16において図3に示すフローチャートを実行する。   Next, a process for reproducing a moving image recorded in the digital camera 1 will be described. When the digital camera 1 reproduces a moving image, the control circuit 16 executes the flowchart shown in FIG.

ステップS200において、制御回路16は、図2の動画像記録処理によって記録された動画像ファイルを記録媒体22から読み込む。この際、記録媒体22に記録されている動画像ファイルの中から、読み込み対象とする動画像ファイルをユーザに指定させるようにしてもよい。   In step S200, the control circuit 16 reads the moving image file recorded by the moving image recording process of FIG. At this time, the user may be allowed to specify a moving image file to be read from moving image files recorded on the recording medium 22.

ステップS210において、制御回路16は、ステップS200で読み込んだ動画像ファイルに対して付加されているフレームレート情報に基づいて、動画像を再生する際の再生フレームレートを決定する。具体的には、当該フレームレート情報が表すフレームレートのうちで最大のものを再生フレームレートとする。たとえば、60fps、30fps、15fps、5fpsの各フレームレート値で動画像ファイルが記録されている場合は、60fpsを再生フレームレートとする。   In step S210, the control circuit 16 determines a reproduction frame rate for reproducing the moving image, based on the frame rate information added to the moving image file read in step S200. Specifically, the maximum frame rate represented by the frame rate information is set as the playback frame rate. For example, when a moving image file is recorded at frame rate values of 60 fps, 30 fps, 15 fps, and 5 fps, 60 fps is set as the playback frame rate.

ステップS220において、制御回路16は、ステップS210で決定した再生フレームレートに基づいて、ステップS200で読み込んだ動画像ファイルの各フレームの画像を再生フレームレートに合わせて複製する。すなわち、再生フレームレートよりも低いフレームレートで記録されている部分について、その部分の各フレームの画像を再生フレームレートに足りない分だけ複製する。これにより、フレームレートが低い部分について画像を補間し、再生フレームレートで再生表示できるようにする。   In step S220, the control circuit 16 duplicates the image of each frame of the moving image file read in step S200 according to the reproduction frame rate based on the reproduction frame rate determined in step S210. That is, for a portion recorded at a frame rate lower than the playback frame rate, the image of each frame in that portion is duplicated as much as the playback frame rate is insufficient. As a result, an image is interpolated for a portion having a low frame rate so that it can be reproduced and displayed at the reproduction frame rate.

ステップS220で各フレームの画像を再生フレームレートに合わせて複製する様子を図4により説明する。図4において、左側には読み込んだ動画像ファイルの構成を示し、右側には画像複製後の動画像ファイルの構成を示している。ここでは、読み込んだ動画像ファイルがa〜zの各部分に分かれており、その各部分のフレームレートが60fps、30fps、15fpsまたは5fpsである場合を例に説明を行う。   The manner in which the image of each frame is duplicated in accordance with the playback frame rate in step S220 will be described with reference to FIG. In FIG. 4, the configuration of the read moving image file is shown on the left side, and the configuration of the moving image file after image duplication is shown on the right side. Here, a case where the read moving image file is divided into parts a to z and the frame rate of each part is 60 fps, 30 fps, 15 fps, or 5 fps will be described as an example.

図4に示す動画像ファイルにおいてフレームレート情報が表す最大のフレームレートは60fpsであるため、この60fpsが再生フレームレートとして設定される。その後、再生フレームレートを各部分のフレームレートで除算することにより、部分ごとに複製後の画像の枚数を求め、その枚数に応じて画像を複製する。   Since the maximum frame rate represented by the frame rate information in the moving image file shown in FIG. 4 is 60 fps, this 60 fps is set as the playback frame rate. Thereafter, the reproduction frame rate is divided by the frame rate of each part to obtain the number of duplicated images for each part, and the image is duplicated according to the number.

たとえば、aの部分のフレームレートは5fpsであるため、aの部分に対する複製後の画像枚数は60/5=12と求められる。この計算結果に基づいて、aの部分に含まれる各フレームの画像を11枚ずつ複製し、元の画像と合わせて12枚となるようにする。一方、bの部分のフレームレートは再生フレームレートと同じ60fpsであるため、画像の複製は行わない。   For example, since the frame rate of the part a is 5 fps, the number of copied images for the part a is obtained as 60/5 = 12. Based on the calculation result, 11 images of each frame included in the portion a are duplicated so that the original image is combined with 12 images. On the other hand, since the frame rate of the portion b is 60 fps which is the same as the playback frame rate, the image is not duplicated.

また、xの部分のフレームレートは30fpsであるため、xの部分に対する複製後の画像枚数は60/30=2と求められる。この計算結果に基づいて、xの部分に含まれる各フレームの画像を1枚ずつ複製し、元の画像と合わせて2枚となるようにする。さらに、yの部分のフレームレートは15fpsであるため、yの部分に対する複製後の画像枚数は60/15=4と求められる。この計算結果に基づいて、yの部分に含まれる各フレームの画像を3枚ずつ複製し、元の画像と合わせて4枚となるようにする。なお、zの部分はフレームレートがaの部分と同じ5fpsであるため、aの部分と同様にして画像を複製する。   Also, since the frame rate of the x portion is 30 fps, the number of images after duplication for the x portion is obtained as 60/30 = 2. Based on the calculation result, the image of each frame included in the portion x is duplicated one by one so that there are two images together with the original image. Further, since the frame rate of the y portion is 15 fps, the number of images after duplication for the y portion is obtained as 60/15 = 4. Based on this calculation result, three images of each frame included in the portion y are duplicated so that there are four images together with the original image. Since the z portion has the same frame rate as the portion a, 5 fps, the image is duplicated in the same manner as the portion a.

上記で説明した以外の各部分についても、同様の方法により再生フレームレートに合わせて画像の複製を行う。こうして画像を複製することで、読み込んだ動画像ファイルにおいてフレームレートが低い部分の画像が補間される。なお、動画像ファイルのフレームレートが途中で変化せずに一定の場合には、ステップS220の処理を行う必要はない。   For each part other than those described above, the image is duplicated in accordance with the reproduction frame rate by the same method. By duplicating the image in this way, an image of a portion having a low frame rate is interpolated in the read moving image file. Note that when the frame rate of the moving image file does not change in the middle and is constant, it is not necessary to perform the process of step S220.

ところで、前述のステップS120で動画像のフレームレートを設定する際には、選択可能なフレームレート値の各々がいずれも上位のフレームレート値の約数となるようにしていた。こうすることにより、いずれのフレームレート値が再生フレームレートに設定されても、その再生フレームレートを動画像の各部分のフレームレートで除算して得られる値を常に整数値とすることができる。したがって、再生フレームレートに合わせて画像を複製し、補間することができる。   By the way, when the frame rate of the moving image is set in step S120 described above, each of the selectable frame rate values is a divisor of the higher frame rate value. In this way, regardless of which frame rate value is set as the playback frame rate, a value obtained by dividing the playback frame rate by the frame rate of each part of the moving image can always be an integer value. Therefore, an image can be duplicated and interpolated according to the reproduction frame rate.

あるいは、図5のような動画像ファイルの構成としてもよい。この動画像ファイルでは、各部分の画像の複製枚数がヘッダファイル内に記録されている。したがって、上記のように再生フレームレートを各部分のフレームレートで除算しなくても、各部分の画像の複製枚数を求めることができる。   Alternatively, a moving image file configuration as shown in FIG. 5 may be used. In this moving image file, the number of copies of the image of each part is recorded in the header file. Therefore, the number of copies of the image of each part can be obtained without dividing the reproduction frame rate by the frame rate of each part as described above.

ステップS230において、制御回路16は、ステップS220で各フレームの画像を複製した後の動画像ファイルに基づいて、各フレームの画像をステップS210で決定した再生フレームレートで液晶モニタ20に順次再生表示する。これにより、ステップS200で読み込んだ動画像ファイルにおいて動画像の途中でフレームレートが変化している場合、最大のフレームレートで動画像が再生表示される。   In step S230, the control circuit 16 sequentially reproduces and displays the image of each frame on the liquid crystal monitor 20 at the reproduction frame rate determined in step S210 based on the moving image file after the image of each frame is duplicated in step S220. . As a result, when the frame rate changes in the middle of the moving image in the moving image file read in step S200, the moving image is reproduced and displayed at the maximum frame rate.

ステップS240において、制御回路16は、動画像の再生を終了するか否かを判定する。ユーザが入力装置13を用いて所定の再生終了操作をデジタルカメラ1に対して入力した場合や、動画像ファイルに含まれる全てのフレームの再生を完了した場合などに、制御回路16は動画像の再生を終了すると判定して図3のフローチャートを終了する。一方、このような再生終了条件を満たさない場合、制御回路16は動画像の撮影を終了しないと判定してステップS230へ戻り、上述したステップS230の処理を繰り返す。以上説明したようにして動画像の再生処理が実行される。   In step S240, the control circuit 16 determines whether or not to end the reproduction of the moving image. When the user inputs a predetermined playback end operation to the digital camera 1 using the input device 13 or when the playback of all the frames included in the moving image file is completed, the control circuit 16 selects the moving image. It is determined that the reproduction is finished, and the flowchart of FIG. 3 is finished. On the other hand, when the reproduction end condition is not satisfied, the control circuit 16 determines that the moving image shooting is not ended, returns to step S230, and repeats the process of step S230 described above. As described above, the moving image reproduction process is executed.

以上説明した第1の実施の形態によれば、次の作用効果が得られる。
(1)デジタルカメラ1は、撮像素子15により、被写体を撮像して画像信号を出力する。また、制御回路16の処理により、被写体の動きを検出し(ステップS110)、検出した被写体の動きに基づいてフレームレートを設定する(ステップS120)。そして、撮像素子15から出力される画像信号に基づいて、ステップS120で設定したフレームレートの動画像を生成する(ステップS140)。このようにしたので、被写体の動きに応じて動画像のフレームレートを最適化することができる。
According to the first embodiment described above, the following operational effects can be obtained.
(1) The digital camera 1 captures an image of an object with the image sensor 15 and outputs an image signal. Further, the movement of the subject is detected by the processing of the control circuit 16 (step S110), and the frame rate is set based on the detected movement of the subject (step S120). And based on the image signal output from the image pick-up element 15, the moving image of the frame rate set by step S120 is produced | generated (step S140). Since it did in this way, the frame rate of a moving image can be optimized according to a motion of a subject.

(2)入力装置13を用いてユーザからの撮影指示が行われると、制御回路16はステップS140において、その直前にステップS120で設定されたフレームレートで動画像の生成を開始する。このようにしたので、最適なフレームレートで動画像の生成を開始することができる。 (2) When a shooting instruction is given from the user using the input device 13, in step S140, the control circuit 16 starts generating a moving image at the frame rate set in step S120 immediately before that. Since it did in this way, the production | generation of a moving image can be started with an optimal frame rate.

(3)また、ユーザからの撮影指示が行われた後に被写体の動きが変化することにより、ステップS120でフレームレートの設定が変更された場合、制御回路16はステップS140において、動画像のフレームレートを途中で変化させる。このようにしたので、動画像の撮影中に被写体の動きが変化した場合でも、動画像のフレームレートを最適化することができる。 (3) If the setting of the frame rate is changed in step S120 due to a change in the movement of the subject after the shooting instruction is issued from the user, the control circuit 16 in step S140 determines the frame rate of the moving image. Is changed on the way. Since this is done, the frame rate of the moving image can be optimized even when the movement of the subject changes during shooting of the moving image.

(4)制御回路16は、ステップS120でフレームレートを設定する際に、60fps、30fps、15fps、5fps、1fpsなどの所定の複数のフレームレート値の中からいずれかのフレームレート値を選択する。ここで選択される複数のフレームレート値の各々は、いずれも上位のフレームレート値の約数である。このようにしたので、動画像を再生表示する際に、決定された再生フレームレートに合わせて画像を複製し、補間することができる。 (4) When setting the frame rate in step S120, the control circuit 16 selects any one of a plurality of predetermined frame rate values such as 60 fps, 30 fps, 15 fps, 5 fps, and 1 fps. Each of the plurality of frame rate values selected here is a divisor of the higher frame rate value. Thus, when a moving image is reproduced and displayed, the image can be duplicated and interpolated in accordance with the determined reproduction frame rate.

(5)動画像の撮影が終了すると、デジタルカメラ1は、制御回路16の処理により動画像のファイルを作成する(ステップS160)。この際、ステップS140で生成した動画像のヘッダファイル、またはステップS140で生成した動画像の各フレームの画像に対して、フレームレート情報を付加する。このようにしたので、動画像を再生表示する際に再生フレームレートを決定することができる。 (5) When shooting of the moving image is completed, the digital camera 1 creates a moving image file by the processing of the control circuit 16 (step S160). At this time, frame rate information is added to the header file of the moving image generated in step S140 or the image of each frame of the moving image generated in step S140. Since this is done, the playback frame rate can be determined when a moving image is played back and displayed.

(6)デジタルカメラ1は、制御回路16の処理により、動画像生成処理によって生成された動画像を記録媒体22から読み込み(ステップS200)、読み込んだ動画像を再生表示する(ステップS230)。このようにしたので、デジタルカメラ1において生成した動画像を再生表示することができる。 (6) The digital camera 1 reads the moving image generated by the moving image generation process from the recording medium 22 by the process of the control circuit 16 (step S200), and reproduces and displays the read moving image (step S230). Since it did in this way, the moving image produced | generated in the digital camera 1 can be reproduced | regenerated and displayed.

(7)動画像の途中でフレームレートが変化している場合、制御回路16は、ステップS230において、その動画像において最大のフレームレートで動画像を再生表示する。このようにしたので、フレームレートが途中で変化する動画像を、その画質を損なうことなく再生表示することができる。 (7) When the frame rate is changing in the middle of the moving image, the control circuit 16 reproduces and displays the moving image at the maximum frame rate in the moving image in step S230. Since it did in this way, the moving image from which a frame rate changes in the middle can be reproduced and displayed, without impairing the image quality.

−第2の実施の形態−
次に、本発明の第2の実施の形態について説明する。本実施の形態では、デジタルカメラ1において記録された動画像をデジタルカメラ1以外の他の装置において再生する場合について説明する。図2は、本実施の形態の構成を示しており、デジタルカメラ1とコンピュータ3を有している。デジタルカメラ1の回路構成は、図1に示す第1の実施の形態のものと同一である。
-Second Embodiment-
Next, a second embodiment of the present invention will be described. In the present embodiment, a case will be described in which a moving image recorded in the digital camera 1 is reproduced on a device other than the digital camera 1. FIG. 2 shows a configuration of the present embodiment, which includes a digital camera 1 and a computer 3. The circuit configuration of the digital camera 1 is the same as that of the first embodiment shown in FIG.

コンピュータ3は、操作部31、制御部32、表示部33、記録部34およびメモリカードインタフェース35を備える。操作部31は、ユーザの操作を検出するための部分であり、たとえばキーボードやマウス等によって構成される。制御部32は、CPUやメモリなどによって構成され、各種の処理を実行する。表示部33は、制御部32の制御により様々な画像を表示するための部分であり、たとえば液晶ディスプレイ等によって構成される。記録部34は、各種のプログラムやデータを記録するための部分であり、たとえばハードディスクやフラッシュメモリ等によって構成される。   The computer 3 includes an operation unit 31, a control unit 32, a display unit 33, a recording unit 34, and a memory card interface 35. The operation unit 31 is a part for detecting a user operation, and is configured by, for example, a keyboard or a mouse. The control unit 32 includes a CPU, a memory, and the like, and executes various processes. The display unit 33 is a part for displaying various images under the control of the control unit 32, and is configured by, for example, a liquid crystal display. The recording unit 34 is a part for recording various programs and data, and is configured by, for example, a hard disk or a flash memory.

メモリカードインタフェース35は、デジタルカメラ1のメモリカードインタフェース21と同様に、制御部32と記録媒体22の間で送受信されるデータのインタフェース処理を行う。メモリカードインタフェース35には、デジタルカメラ1から取り外された記録媒体22が装着される。   Similar to the memory card interface 21 of the digital camera 1, the memory card interface 35 performs interface processing of data transmitted and received between the control unit 32 and the recording medium 22. The recording medium 22 removed from the digital camera 1 is attached to the memory card interface 35.

次に、本実施形態においてデジタルカメラ1が動画像を記録する際に実行する処理について説明する。デジタルカメラ1は、動画像を記録する際に、制御回路16において図7に示すフローチャートを実行する。なお、図7のフローチャートにおいて、図2に示す第1の実施の形態のフローチャートと同一の処理には同じステップ番号を付している。この同一の処理を行う部分については説明を省略する。   Next, a process executed when the digital camera 1 records a moving image in the present embodiment will be described. When the digital camera 1 records a moving image, the control circuit 16 executes the flowchart shown in FIG. In the flowchart of FIG. 7, the same steps as those in the flowchart of the first embodiment shown in FIG. A description of the same processing is omitted.

ステップS171において、制御回路16は、ステップS160で作成した動画像ファイルに対する解凍プログラムを作成する。この解凍プログラムは、当該動画像ファイルを読み込んだコンピュータ3に対して、その動画像のフレームレートを一定にするための指令を行うプログラムである。すなわち、コンピュータ3に対して、第1の実施の形態において説明したようにして再生フレームレートを設定させ、その再生フレームレートに合わせて画像を複製させる処理を行わせるためのプログラムを作成する。   In step S171, the control circuit 16 creates a decompression program for the moving image file created in step S160. This decompression program is a program that instructs the computer 3 that has read the moving image file to make the frame rate of the moving image constant. That is, a program is generated for causing the computer 3 to set a playback frame rate as described in the first embodiment and to perform a process of copying an image in accordance with the playback frame rate.

ステップS181において、制御回路16は、ステップS160で作成した動画像ファイルに対して、ステップS171で作成した解凍プログラムを付加する。これにより、図8に示すような構成の動画像ファイルが作成される。この動画像ファイルは記録媒体22に記録される。ステップS181を実行したら、制御回路16は図7のフローチャートを終了する。以上説明したようにして動画像の記録処理が実行される。   In step S181, the control circuit 16 adds the decompression program created in step S171 to the moving image file created in step S160. Thereby, a moving image file having a configuration as shown in FIG. 8 is created. This moving image file is recorded on the recording medium 22. If step S181 is performed, the control circuit 16 will complete | finish the flowchart of FIG. The moving image recording process is executed as described above.

なお、本実施の形態では、上記のようにして動画像ファイルに解凍プログラムが付加されるため、フレームレート情報がなくても所望のフレームレートで動画像を再生することができる。したがって、ステップS160において動画像ファイルを作成する際にはフレームレート情報を付加しなくてもよい。   In the present embodiment, since the decompression program is added to the moving image file as described above, it is possible to reproduce the moving image at a desired frame rate without the frame rate information. Therefore, it is not necessary to add frame rate information when creating a moving image file in step S160.

次に、上記のようにして生成された動画像が記録された記録媒体22がコンピュータ3のメモリカードインタフェース35に装着されたときに、コンピュータ3においてその動画像を再生する際の処理について説明する。コンピュータ3は、動画像を再生する際に、制御部32において図9に示すフローチャートを実行する。   Next, when the recording medium 22 on which the moving image generated as described above is recorded is inserted into the memory card interface 35 of the computer 3, processing when the computer 3 reproduces the moving image will be described. . The computer 3 executes the flowchart shown in FIG. 9 in the control unit 32 when reproducing a moving image.

ステップS300において、制御部32は、デジタルカメラ1が図7の動画像生成処理を実行することで生成された動画像ファイルを記録媒体22から読み込む。この際、記録媒体22に記録されている動画像ファイルの中から、読み込み対象とする動画像ファイルをユーザに指定させるようにしてもよい。   In step S300, the control unit 32 reads from the recording medium 22 a moving image file generated by the digital camera 1 executing the moving image generation process of FIG. At this time, the user may be allowed to specify a moving image file to be read from moving image files recorded on the recording medium 22.

ステップS310において、制御部32は、ステップS300で読み込んだ動画像ファイルに対して付加されている解凍プログラムを実行する。この解凍プログラムを実行することにより、図3のステップS210およびS220と同様の処理が制御部32において実行される。その結果、当該動画像ファイルにおけるフレームレートのうちで最大のフレームレートが再生フレームレートに設定されると共に、それよりもフレームレートが低い部分について複製した画像が補間される。   In step S310, the control unit 32 executes the decompression program added to the moving image file read in step S300. By executing this decompression program, processing similar to steps S210 and S220 in FIG. As a result, the maximum frame rate among the frame rates in the moving image file is set as the reproduction frame rate, and the duplicated image is interpolated for a portion having a lower frame rate.

ステップS320において、制御部32は、図3のステップS230と同様に、ステップS310で解凍プログラムを実行することにより各フレームの画像を補間した後の動画像ファイルに基づいて、各フレームの画像を再生フレームレートで液晶モニタ20に順次再生表示する。次のステップS330において、制御部32は、図3のステップS240と同様に、動画像の再生を終了するか否かを判定する。前述のような再生終了条件を満たす場合は図9のフローチャートを終了し、満たさない場合はステップS320へ戻る。以上説明したようにして動画像の再生処理が実行される。   In step S320, similarly to step S230 of FIG. 3, the control unit 32 reproduces the image of each frame based on the moving image file after interpolating the image of each frame by executing the decompression program in step S310. The images are sequentially reproduced and displayed on the liquid crystal monitor 20 at the frame rate. In the next step S330, the control unit 32 determines whether or not to end the reproduction of the moving image, similarly to step S240 in FIG. If the reproduction end condition as described above is satisfied, the flowchart of FIG. 9 is ended. If not satisfied, the process returns to step S320. As described above, the moving image reproduction process is executed.

以上説明した第2の実施の形態によれば、第1の実施の形態による作用効果に加えて、さらに次の作用効果も得られる。
(1)デジタルカメラ1は、制御回路16の処理により、解凍プログラムを動画像に付加する(ステップS181)。この解凍プログラムにより、当該動画像を読み込んだコンピュータ3に対して、その動画像のフレームレートを一定にするための指令を行う。このようにしたので、コンピュータ3に特別なプログラムが予めインストールされていなくても、デジタルカメラ1により生成された動画像をコンピュータ3において再生表示することができる。
According to the second embodiment described above, the following functions and effects can be obtained in addition to the functions and effects of the first embodiment.
(1) The digital camera 1 adds the decompression program to the moving image by the processing of the control circuit 16 (step S181). This decompression program instructs the computer 3 that has read the moving image to make the frame rate of the moving image constant. Since it did in this way, even if a special program is not installed in the computer 3 in advance, the moving image generated by the digital camera 1 can be reproduced and displayed on the computer 3.

−第3の実施の形態−
次に、本発明の第3の実施の形態について説明する。本実施の形態では、図6のコンピュータ3において、一定のフレームレートで記録された通常の動画像を被写体の動きに応じたフレームレートの動画像に変換する場合について説明する。
-Third embodiment-
Next, a third embodiment of the present invention will be described. In the present embodiment, a case will be described in which the computer 3 in FIG. 6 converts a normal moving image recorded at a constant frame rate into a moving image having a frame rate corresponding to the movement of the subject.

本実施形態において、通常の動画像が記録された記録媒体22がコンピュータ3のメモリカードインタフェース35に装着されたときに、コンピュータ3において実行される処理について説明する。コンピュータ3は、動画像を変換する際に、制御部32において図10に示すフローチャートを実行する。なお、図10のフローチャートにおいて、図9に示す第2の実施の形態のフローチャートと同一の処理には同じステップ番号を付している。この同一の処理を行う部分については説明を省略する。   In the present embodiment, processing executed in the computer 3 when the recording medium 22 on which a normal moving image is recorded is loaded in the memory card interface 35 of the computer 3 will be described. When the computer 3 converts the moving image, the control unit 32 executes the flowchart shown in FIG. In the flowchart of FIG. 10, the same steps as those in the flowchart of the second embodiment shown in FIG. A description of the same processing is omitted.

ステップS301において、制御部32は、ステップS300で読み込んだ動画像ファイルにおける被写体の動きを検出する。たとえば、フレーム間における画像の差分を求め、その差分から被写体の動きを検出する。なお、このとき図2のステップS110と同様に、画像中で最も動きの大きい部分を被写体と判断し、それ以外の部分を背景と判断してもよい。   In step S301, the control unit 32 detects the movement of the subject in the moving image file read in step S300. For example, an image difference between frames is obtained, and the movement of the subject is detected from the difference. At this time, similarly to step S110 in FIG. 2, the portion with the largest movement in the image may be determined as the subject, and the other portion may be determined as the background.

ステップS302において、制御部32は、ステップS301の処理による被写体の動きの検出結果に基づいて、図2のステップS120と同様に最適なフレームレートを設定する。すなわち、所定の複数のフレームレート値の中からいずれかのフレームレート値を選択することにより、フレームレートの設定を行う。なお、被写体の動きが変化した場合は、動画像の途中でフレームレートの設定が変更される。   In step S302, the control unit 32 sets an optimum frame rate, similar to step S120 in FIG. 2, on the basis of the detection result of the subject movement by the process in step S301. That is, the frame rate is set by selecting any one of a plurality of predetermined frame rate values. When the movement of the subject changes, the frame rate setting is changed in the middle of the moving image.

ステップS303において、制御部32は、ステップS302で設定したフレームレートが元のフレームレートと一致しているか否かを判定する。一致している場合はステップS305へ進み、一致していなければステップS304へ進む。   In step S303, the control unit 32 determines whether or not the frame rate set in step S302 matches the original frame rate. If they match, the process proceeds to step S305, and if they do not match, the process proceeds to step S304.

ステップS304において、制御部32は、ステップS300で読み込んだ動画像ファイルのフレームレートを、ステップS302で設定したフレームレートに変換する。ここでは、動画像ファイルの全体ではなく一部分についてのみフレームレートを変換する。具体的には、ステップS302で被写体の動きを検出したフレームに対して、フレームレートを変換する。   In step S304, the control unit 32 converts the frame rate of the moving image file read in step S300 to the frame rate set in step S302. Here, the frame rate is converted only for a part of the moving image file, not for the whole. Specifically, the frame rate is converted for the frame in which the movement of the subject is detected in step S302.

なお、ステップS304でフレームレートを変換する際には、元のフレームレートとの差に応じて、画像を補間または削除する。すなわち、元のフレームレートよりも高いフレームレートが設定された場合、制御部32は、前後いずれかの画像を複製したり、あるいは前後の画像に基づいて新たな画像を生成したりすることにより、不足している画像を補間する。反対に、元のフレームレートよりも低いフレームレートが設定された場合、制御部32は、不要な画像を削除する。このようにして、変換後のフレームレートに応じた枚数の画像を動画像ファイルに対して設定する。   Note that when the frame rate is converted in step S304, the image is interpolated or deleted according to the difference from the original frame rate. That is, when a frame rate higher than the original frame rate is set, the control unit 32 duplicates either the previous or next image, or generates a new image based on the previous or next image, Interpolate missing images. On the other hand, when a frame rate lower than the original frame rate is set, the control unit 32 deletes unnecessary images. In this way, the number of images corresponding to the converted frame rate is set for the moving image file.

ステップS305において、制御部32は、ステップS300で読み込んだ動画像ファイルの全フレームに対して、ステップS302の処理によるフレームレートの設定が完了したか否かを判定する。まだ完了していない場合はステップS302へ戻り、前述のような処理を繰り返す。全フレームに対してフレームレートの設定が完了した場合は、ステップS306へ進む。   In step S305, the control unit 32 determines whether or not the frame rate setting by the processing in step S302 has been completed for all frames of the moving image file read in step S300. If it has not been completed, the process returns to step S302, and the above-described processing is repeated. If the frame rate has been set for all frames, the process proceeds to step S306.

ステップS306において、制御部32は、フレームレート変換後の動画像ファイルに対する解凍プログラムを作成する。ここでは、図7のステップS171と同様の解凍プログラムを作成する。次のステップS307において、制御部32は、フレームレート変換後の動画像ファイルに対して、ステップS306で作成した解凍プログラムを付加する。ステップS306を実行したら、制御回路16は図10のフローチャートを終了する。以上説明したようにして動画像の変換処理が実行される。   In step S306, the control unit 32 creates a decompression program for the moving image file after the frame rate conversion. Here, a decompression program similar to step S171 in FIG. 7 is created. In the next step S307, the control unit 32 adds the decompression program created in step S306 to the moving image file after the frame rate conversion. When step S306 is executed, the control circuit 16 ends the flowchart of FIG. As described above, the moving image conversion process is executed.

なお、図10のフローチャートに示す動画像の変換処理によってフレームレートを変換された動画像は、コンピュータ3において図9のフローチャートが実行されることにより再生表示される。すなわち、ステップS300でフレームレート変換後の動画像ファイルを読み込み、ステップS310で解凍プログラムを実行して各フレームの画像を補間した後、ステップS320でその動画像ファイルを再生表示する。あるいは、他のコンピュータにおいて図9のフローチャートを実行し、動画像を再生表示するようにしてもよい。   The moving image whose frame rate has been converted by the moving image conversion process shown in the flowchart of FIG. 10 is reproduced and displayed by the computer 3 executing the flowchart of FIG. That is, the moving image file after frame rate conversion is read in step S300, the decompression program is executed in step S310 to interpolate the image of each frame, and the moving image file is reproduced and displayed in step S320. Alternatively, the flowchart of FIG. 9 may be executed on another computer to reproduce and display a moving image.

以上説明した第3の実施の形態によれば、次の作用効果が得られる。
(1)コンピュータ3は、制御部32の処理により、動画像を記録媒体22から読み込み(ステップS300)、読み込んだ動画像における被写体の動きを検出する(ステップS301)。そして、検出した被写体の動きに基づいてフレームレートを設定し(ステップS302)、設定したフレームレートに基づいて動画像のフレームレートを変換する(ステップS304)。このようにしたので、フレームレートが一定の動画像に対して、その動画像の被写体の動きに応じてフレームレートを最適化することができる。
According to the third embodiment described above, the following operational effects can be obtained.
(1) The computer 3 reads the moving image from the recording medium 22 by the processing of the control unit 32 (step S300), and detects the movement of the subject in the read moving image (step S301). Then, the frame rate is set based on the detected movement of the subject (step S302), and the frame rate of the moving image is converted based on the set frame rate (step S304). Since it did in this way, with respect to a moving image with a constant frame rate, a frame rate can be optimized according to the motion of the subject of the moving image.

(2)被写体の動きが変化することによりステップS302でフレームレートの設定が変更された場合、制御部32は、そのフレームレートの設定の変更に応じて、動画像のフレームレートを途中で変化させる。このようにしたので、被写体の動きが変化した場合でも、動画像のフレームレートを最適化することができる。 (2) When the frame rate setting is changed in step S302 due to a change in the movement of the subject, the control unit 32 changes the frame rate of the moving image halfway according to the change in the frame rate setting. . Since it did in this way, even when a subject's motion changes, the frame rate of a moving image can be optimized.

なお、図3および9のフローチャートで説明したような動画像再生処理をコンピュータ3の制御部32に実行させるプログラムや、図10のフローチャートで説明したような動画像変換処理をコンピュータ3の制御部32に実行させるプログラムを、コンピュータ3に対して供給してもよい。これらのプログラムは、CD−ROMやDVD−ROM、メモリカードなどの記録媒体に記録された状態で供給してもよいし、ネットワーク上で送受信される搬送波に重畳された信号波により供給してもよい。   It should be noted that a program for causing the control unit 32 of the computer 3 to execute the moving image reproduction process as described in the flowcharts of FIGS. 3 and 9 and a moving image conversion process as described in the flowchart of FIG. A program to be executed may be supplied to the computer 3. These programs may be supplied in a state of being recorded on a recording medium such as a CD-ROM, a DVD-ROM, or a memory card, or may be supplied by a signal wave superimposed on a carrier wave transmitted and received over a network. Good.

本発明の特徴を損なわない限り、本発明は上記の各実施の形態に限定されるものではなく、本発明の技術的思想の範囲内で考えられるその他の形態についても、本発明の範囲内に含まれる。   The present invention is not limited to the above embodiments as long as the characteristics of the present invention are not impaired, and other forms conceivable within the scope of the technical idea of the present invention are also within the scope of the present invention. included.

なお、以上の対応関係の説明は一例であり、権利解釈に際して何ら拘束されるものではない。   Note that the above description of the correspondence relationship is merely an example, and is not constrained when interpreting rights.

第1の実施の形態によるデジタルカメラの構成を示すブロック図である。It is a block diagram which shows the structure of the digital camera by 1st Embodiment. 第1の実施の形態によるデジタルカメラが動画像を記録する際に実行する処理のフローチャートである。It is a flowchart of the process performed when the digital camera by 1st Embodiment records a moving image. 第1の実施の形態によるデジタルカメラが動画像を再生する際に実行する処理のフローチャートである。It is a flowchart of the process performed when the digital camera by 1st Embodiment reproduces | regenerates a moving image. 各フレームの画像を再生フレームレートに合わせて複製する様子を説明するための図である。It is a figure for demonstrating a mode that the image of each frame is replicated according to a reproduction | regeneration frame rate. 第1の実施の形態によるデジタルカメラが生成する動画像ファイルの別の構成を示す図である。It is a figure which shows another structure of the moving image file which the digital camera by 1st Embodiment produces | generates. 第2および第3の実施の形態の構成を示す図である。It is a figure which shows the structure of 2nd and 3rd Embodiment. 第2の実施の形態によるデジタルカメラが動画像を記録する際に実行する処理のフローチャートである。It is a flowchart of the process performed when the digital camera by 2nd Embodiment records a moving image. 第2の実施の形態によるデジタルカメラが生成する動画像ファイルの構成を示す図である。It is a figure which shows the structure of the moving image file which the digital camera by 2nd Embodiment produces | generates. 第2の実施の形態によるコンピュータが動画像を再生する際に実行する処理のフローチャートである。It is a flowchart of the process performed when the computer by 2nd Embodiment reproduces | regenerates a moving image. 第3の実施の形態によるコンピュータが動画像を変換する際に実行する処理のフローチャートである。It is a flowchart of the process performed when the computer by 3rd Embodiment converts a moving image.

符号の説明Explanation of symbols

1 デジタルカメラ
3 コンピュータ
15 撮像素子
16 制御回路
20 液晶モニタ
22 記録媒体
32 制御部
33 表示部
DESCRIPTION OF SYMBOLS 1 Digital camera 3 Computer 15 Image pick-up element 16 Control circuit 20 Liquid crystal monitor 22 Recording medium 32 Control part 33 Display part

Claims (11)

被写体を撮像した複数の画像信号を第1フレームレートにより読み出す撮像手段と、
前記第1フレームレートにより読み出された画像信号に基づいて前記被写体の動きを検出する検出手段と、
前記第1フレームレート以下の複数のフレームレート値の中から、前記検出手段により検出された前記被写体の動きが大きいほど高い第2フレームレートを設定する設定手段と、
前記撮像手段から出力される画像信号に基づいて、ユーザからの撮影指示が行われると、その撮影指示の前に前記設定手段により設定された前記第2フレームレート動画像の生成を開始する生成手段とを備え
前記生成手段は、ユーザからの撮影指示が行われた後に前記設定手段により前記第2フレームレートの設定が変更された場合に、前記動画像のフレームレートを前記変更された第2フレームレートに途中で変化させることを特徴とする撮像装置。
Imaging means for reading out a plurality of image signals obtained by imaging a subject at a first frame rate;
Detecting means for detecting movement of the subject based on an image signal read at the first frame rate ;
Setting means for setting a second frame rate that is higher as the movement of the subject detected by the detection means is larger among a plurality of frame rate values equal to or lower than the first frame rate;
Based on the image signal output from the imaging means, the imaging instruction from the user is performed, starts generating the video image in the second frame rate set by said setting means immediately prior to its imaging instruction Generating means ,
The generation unit may change the frame rate of the moving image to the changed second frame rate when the setting unit changes the setting of the second frame rate after a shooting instruction is given from a user. An imaging device characterized by being changed by the above.
請求項に記載の撮像装置において、
前記生成手段は、ユーザからの撮影指示が行われた後に前記設定手段により前記第2フレームレートの設定が変更された場合、前記動画像のフレームレートをより低いフレームレートに変更することを特徴とする撮像装置。
The imaging device according to claim 1 ,
The generating unit changes the frame rate of the moving image to a lower frame rate when the setting of the second frame rate is changed by the setting unit after a shooting instruction is given from a user. An imaging device.
請求項1または2に記載の撮像装置において、
前記複数のフレームレート値の各々は、いずれも前記第1フレームレートのフレームレート値の約数であることを特徴とする撮像装置。
The imaging device according to claim 1 or 2 ,
Each of the plurality of frame rate values is a divisor of the frame rate value of the first frame rate.
請求項1〜のいずれか一項に記載の撮像装置において、
前記動画像のヘッダファイルまたは前記動画像の各フレームの画像に対して、前記動画像の前記第2フレームレートの情報を付加するフレームレート情報付加手段をさらに備えることを特徴とする撮像装置。
In the imaging device according to any one of claims 1 to 3 ,
An image pickup apparatus, further comprising: frame rate information adding means for adding information on the second frame rate of the moving image to a header file of the moving image or an image of each frame of the moving image.
請求項1〜のいずれか一項に記載の撮像装置において、
前記動画像を読み込んだ情報処理装置に対して前記動画像の前記第2フレームレートを一定にするための指令を行う解凍プログラムを前記動画像に付加する解凍プログラム付加手段をさらに備えることを特徴とする撮像装置。
In the imaging device according to any one of claims 1 to 4 ,
The image processing apparatus further comprises decompression program adding means for adding to the moving image a decompression program for instructing the information processing apparatus that has read the moving image to make the second frame rate of the moving image constant. An imaging device.
請求項1〜のいずれか一項に記載の撮像装置によって生成された動画像を読み込む読み込み手段と、
前記読み込み手段により読み込まれた動画像を再生表示する再生表示手段とを備えることを特徴とする画像再生装置。
Reading means for reading a moving image generated by the imaging device according to any one of claims 1 to 5 ,
An image reproduction apparatus comprising: a reproduction display unit that reproduces and displays the moving image read by the reading unit.
請求項に記載の画像再生装置において、
前記動画像の途中で前記第2フレームレートが変化している場合、前記再生表示手段は、前記動画像において前記第2フレームレートの内、最大のフレームレート値で前記動画像を再生表示することを特徴とする画像再生装置。
The image reproduction apparatus according to claim 6 , wherein
When the second frame rate is changing in the middle of the moving image, the reproduction display means reproduces and displays the moving image at the maximum frame rate value of the second frame rate in the moving image. An image reproducing apparatus characterized by the above.
制御部と表示部を有する画像再生装置において実行される画像再生プログラムであって、
請求項1〜のいずれか一項に記載の撮像装置によって生成された動画像を読み込む読み込みステップと、
前記読み込みステップで読み込まれた動画像を前記表示部に再生表示する再生表示ステップとを前記制御部に実行させることを特徴とする画像再生プログラム。
An image reproduction program executed in an image reproduction apparatus having a control unit and a display unit,
A reading step of reading a moving image generated by the imaging apparatus according to any one of claims 1 to 5 ;
An image reproduction program that causes the control unit to execute a reproduction display step of reproducing and displaying the moving image read in the reading step on the display unit.
第1フレームレートで記録された動画像を読み込む読み込み手段と、
前記読み込み手段により読み込まれた動画像における被写体の動きを検出する検出手段と、
前記第1フレームレート以下の複数の値の中から、前記検出手段により検出された前記被写体の動きが大きいほど高い第2フレームレートを設定する設定手段と、
前記設定手段により設定された前記第2フレームレートに基づいて前記動画像のフレームレートを変換する変換手段とを備え
前記変換手段は、前記設定手段による前記第2フレームレートの設定の変更に応じて、前記動画像の前記第2フレームレートを途中で変化させることを特徴とする画像変換装置。
Reading means for reading a moving image recorded at the first frame rate;
Detecting means for detecting movement of a subject in the moving image read by the reading means;
Setting means for setting a second frame rate that is higher as the movement of the subject detected by the detecting means is larger from a plurality of values equal to or lower than the first frame rate;
Conversion means for converting the frame rate of the moving image based on the second frame rate set by the setting means ,
The image conversion apparatus characterized in that the conversion means changes the second frame rate of the moving image halfway in response to a change in the setting of the second frame rate by the setting means .
請求項に記載の画像変換装置によって前記第2フレームレートを変換された動画像を読み込む読み込み手段と、
前記読み込み手段により読み込まれた動画像を再生表示する再生表示手段とを備えることを特徴とする画像再生装置。
Reading means for reading a moving image whose second frame rate has been converted by the image conversion device according to claim 9 ;
An image reproduction apparatus comprising: a reproduction display unit that reproduces and displays the moving image read by the reading unit.
制御部と表示部を有する画像再生装置において実行される画像再生プログラムであって、
請求項に記載の画像変換装置によってフレームレートを変換された動画像を読み込む読み込みステップと、
前記読み込みステップで読み込まれた動画像を前記表示部に再生表示する再生表示ステップとを前記制御部に実行させることを特徴とする画像再生プログラム。
An image reproduction program executed in an image reproduction apparatus having a control unit and a display unit,
A reading step of reading a moving image whose frame rate has been converted by the image conversion device according to claim 9 ;
An image reproduction program that causes the control unit to execute a reproduction display step of reproducing and displaying the moving image read in the reading step on the display unit.
JP2008215082A 2008-08-25 2008-08-25 Imaging device, image reproduction device, image conversion device, and image reproduction program Expired - Fee Related JP5532561B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008215082A JP5532561B2 (en) 2008-08-25 2008-08-25 Imaging device, image reproduction device, image conversion device, and image reproduction program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008215082A JP5532561B2 (en) 2008-08-25 2008-08-25 Imaging device, image reproduction device, image conversion device, and image reproduction program

Publications (2)

Publication Number Publication Date
JP2010050877A JP2010050877A (en) 2010-03-04
JP5532561B2 true JP5532561B2 (en) 2014-06-25

Family

ID=42067571

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008215082A Expired - Fee Related JP5532561B2 (en) 2008-08-25 2008-08-25 Imaging device, image reproduction device, image conversion device, and image reproduction program

Country Status (1)

Country Link
JP (1) JP5532561B2 (en)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6518452B2 (en) * 2015-02-05 2019-05-22 オリンパス株式会社 Imaging apparatus and imaging method
US10101572B2 (en) * 2016-11-23 2018-10-16 Mitutoyo Corporation Variable focal length lens system with multi-level extended depth of field image processing
JP6705533B2 (en) * 2018-10-19 2020-06-03 ソニー株式会社 Sensor device, parameter setting method
WO2020080139A1 (en) * 2018-10-19 2020-04-23 ソニー株式会社 Sensor device and parameter setting method
EP3869783B1 (en) * 2018-10-19 2024-09-04 Sony Group Corporation Sensor device and signal processing method
JP6705534B2 (en) * 2018-10-19 2020-06-03 ソニー株式会社 Sensor device and signal processing method
JP7279533B2 (en) 2019-06-14 2023-05-23 ソニーグループ株式会社 Sensor device, signal processing method

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11298890A (en) * 1998-04-13 1999-10-29 Hitachi Ltd Method and system for compression or expansion of image data, image transmission system and monitor system using the same
JP2005086499A (en) * 2003-09-09 2005-03-31 Minolta Co Ltd Imaging apparatus
JP4687404B2 (en) * 2005-11-10 2011-05-25 ソニー株式会社 Image signal processing apparatus, imaging apparatus, and image signal processing method
US20090231464A1 (en) * 2005-11-21 2009-09-17 Matsushita Electric Industrial Co., Ltd. Digital camera, electronic device equipped with digital camera, imaging method for digital camera and storage medium provided with program of digital camera
TW200828991A (en) * 2006-10-24 2008-07-01 Sony Corp Imaging device and reproduction control device
JP2008172507A (en) * 2007-01-11 2008-07-24 Nikon Corp Imaging apparatus

Also Published As

Publication number Publication date
JP2010050877A (en) 2010-03-04

Similar Documents

Publication Publication Date Title
KR101797041B1 (en) Digital imaging processing apparatus and controlling method thereof
JP5532561B2 (en) Imaging device, image reproduction device, image conversion device, and image reproduction program
JP4204509B2 (en) Data division recording method for electronic camera and electronic camera
JP5107806B2 (en) Image processing device
JP2009038649A (en) Signal processing circuit and imaging apparatus
JP4992860B2 (en) Imaging apparatus and program
US20160119576A1 (en) Image processing apparatus and image processing method
US20020140827A1 (en) Image processing apparatus and image reproducing apparatus
JP2009118215A (en) Imaging apparatus
JP6304293B2 (en) Image processing apparatus, image processing method, and program
JP5883052B2 (en) Image processing apparatus and control method thereof
JP5241559B2 (en) Image recording / playback device
JP5213503B2 (en) Memory playback device
JP2006211324A (en) Digital camera apparatus, method and program for reproducing image, and data structure
WO2011111708A1 (en) Display control device, display control program product, and display control system
WO2009136469A1 (en) Apparatus for recording and reproducing video images
JP5003438B2 (en) Imaging apparatus and image recording program
JP2010114857A (en) Imaging apparatus and imaging method
JP2007166539A (en) Imaging apparatus, imaging method, program and storage medium
JP2006217060A (en) Recording apparatus, recording and reproducing apparatus, recording method, and recording and reproducing method
JP5414844B2 (en) Imaging device
KR101063405B1 (en) Portable image recording/reproducing apparatus for displaying multiple special effect processed images and method thereof
JP5916984B2 (en) Image processing apparatus, image processing method, and program
JP5159473B2 (en) Imaging device
JP5136517B2 (en) File generation apparatus, file generation method, and file generation program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110825

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120116

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120814

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120911

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130618

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130819

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140401

R150 Certificate of patent or registration of utility model

Ref document number: 5532561

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140414

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees