JP2014110437A - Device, method and program for image reproduction - Google Patents

Device, method and program for image reproduction Download PDF

Info

Publication number
JP2014110437A
JP2014110437A JP2012262202A JP2012262202A JP2014110437A JP 2014110437 A JP2014110437 A JP 2014110437A JP 2012262202 A JP2012262202 A JP 2012262202A JP 2012262202 A JP2012262202 A JP 2012262202A JP 2014110437 A JP2014110437 A JP 2014110437A
Authority
JP
Japan
Prior art keywords
frame
picture
actual
frame rate
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012262202A
Other languages
Japanese (ja)
Other versions
JP6028544B2 (en
Inventor
Hideki Aiba
英樹 相羽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2012262202A priority Critical patent/JP6028544B2/en
Publication of JP2014110437A publication Critical patent/JP2014110437A/en
Application granted granted Critical
Publication of JP6028544B2 publication Critical patent/JP6028544B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide an image reproduction device capable of reproducing an image signal before frame rate conversion.SOLUTION: A recording unit 40 has a recorded coded stream in which a frame rate is converted by the interpolation of a motion-compensation-interpolated interpolation frame between real frames, and only a real frame is dynamic image coded as an I picture frame or a P picture (B picture) reference frame referred to by another P picture (B picture). From the coded stream reproduced by the recording unit, a real frame extraction unit 50 extracts only a frame generated based on the real frame to output a real frame extraction stream. A dynamic image decoding unit 70 decodes the real frame extraction stream to output decoded data.

Description

本発明は、第1のフレームレートを有する第1の画像信号に対して動き補償型フレームレート変換を施して、第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換し、第2の画像信号を動画像符号化した符号化データを記録した記録部より符号化データを再生する画像再生装置、画像再生方法、画像再生プログラムに関する。   The present invention performs a motion compensation type frame rate conversion on a first image signal having a first frame rate, and has a second frame rate having a frame rate higher than the first frame rate. The present invention relates to an image reproduction apparatus, an image reproduction method, and an image reproduction program for reproducing encoded data from a recording unit that records encoded data obtained by converting a second image signal into moving image encoding.

近年、静止画像を撮影するためのデジタルスチルカメラは、動画像を撮影する機能を搭載するのが一般的となっている。動画像撮影機能を搭載したデジタルスチルカメラにおいては、15〜30fps(フレーム/秒)程度の低フレームレートのイメージセンサで撮像した画像信号を繰り返し出力して60fpsに変換する仕様のものが多い。   In recent years, digital still cameras for capturing still images are generally equipped with a function for capturing moving images. Many digital still cameras equipped with a moving image shooting function are designed to repeatedly output an image signal captured by an image sensor having a low frame rate of about 15 to 30 fps (frame / second) and convert it to 60 fps.

また、画像信号を60フィールドのインターレース(いわゆる60i)で出力する場合には、30fpsの画像信号のフレームを2−2プルダウンによって2フィールドに分割する仕様のものが多い。このような仕様となっている理由の1つは、デジタルスチルカメラ用のイメージセンサにおける最大フレームレートが制限されているからである。   In addition, when an image signal is output in 60-field interlace (so-called 60i), there are many specifications that divide a frame of a 30 fps image signal into two fields by 2-2 pull-down. One of the reasons for this specification is that the maximum frame rate in an image sensor for a digital still camera is limited.

デジタルスチルカメラは、撮影した画像信号を、イメージセンサによる撮像時のフレームレートが30fpsである場合には、30フレームのプログレッシブ(いわゆる30p)または60iのフォーマットの符号化データ(符号化ストリーム)として記録媒体に記録する。   The digital still camera records the captured image signal as 30 frame progressive (so-called 30p) or 60i format encoded data (encoded stream) when the frame rate at the time of imaging by the image sensor is 30 fps. Record on media.

特開平9−299362号公報Japanese Patent Laid-Open No. 9-299362

動きの比較的速い被写体を例えば30fpsで撮影し、30fpsの画像信号を繰り返し出力して60fpsに変換した動画像を鑑賞すると、モーションジャダと称されるカクカクした動きが視認されてしまう。モーションジャダを低減させる解決策の1つは、動き補償型フレームレート変換を用いることである。具体的には、動き補償型フレームレート変換装置は、30fpsの画像信号に基づいて被写体の動きベクトルを検出し、予測補間した補間フレームを生成する。動き補償型フレームレート変換装置は、30fpsの画像信号の隣接する実フレーム間に補間フレームを内挿して60fpsにフレームレート変換する。   When a subject with relatively fast motion is photographed at, for example, 30 fps, and a moving image obtained by repeatedly outputting a 30 fps image signal and converting it to 60 fps is viewed, a jerky motion called motion judder is visually recognized. One solution to reduce motion judder is to use motion compensated frame rate conversion. Specifically, the motion-compensated frame rate conversion apparatus detects a motion vector of a subject based on an image signal of 30 fps, and generates an interpolation frame obtained by predictive interpolation. The motion compensation frame rate conversion apparatus interpolates an interpolation frame between adjacent real frames of a 30 fps image signal and converts the frame rate to 60 fps.

動き補償型フレームレート変換によって60fpsに変換した動画像では、モーションジャダが低減され、あたかも60fpsで撮像したような滑らかな動きとなる。動き補償型フレームレート変換によって60fpsに変換した画像信号を動画像符号化した符号化ストリームを記録媒体に記録しておけば、モーションジャダの少ない滑らかな再生画像を鑑賞することができる。   In the moving image converted to 60 fps by the motion compensation type frame rate conversion, the motion judder is reduced, and the movement is as smooth as if captured at 60 fps. If a coded stream obtained by moving-picture-coding an image signal converted to 60 fps by motion compensation frame rate conversion is recorded on a recording medium, a smooth reproduced image with little motion judder can be viewed.

ところが、60fpsに変換した画像信号を動画像符号化した符号化データを記録媒体に記録すると、モーションジャダを低減させる前の30fpsの画像信号を再生することができない。動き補償型フレームレート変換装置によって生成した補間フレームは30fpsの画像信号の実フレームと比較すると画像が劣化している場合がある。そこで、動き補償型フレームレート変換によってフレームレート変換する前の画像信号を再生できることが望まれる。   However, if the encoded data obtained by moving image encoding the image signal converted to 60 fps is recorded on a recording medium, the 30 fps image signal before the motion judder reduction cannot be reproduced. The interpolated frame generated by the motion-compensated frame rate conversion apparatus may have a degraded image as compared with the actual frame of the 30 fps image signal. Therefore, it is desired that the image signal before the frame rate conversion can be reproduced by the motion compensation type frame rate conversion.

本発明はこのような要望に対応するため、第1のフレームレートを有する第1の画像信号に対して動き補償型フレームレート変換を施して、第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換し、第2の画像信号を動画像符号化した符号化データを記録した記録部より、フレームレート変換する前の画像信号を再生することができる画像再生装置、画像再生方法、画像再生プログラムを提供することを目的とする。   In order to meet such a demand, the present invention performs motion compensated frame rate conversion on the first image signal having the first frame rate, so that the second frame rate is higher than the first frame rate. An image that can be reproduced from an image signal before frame rate conversion from a recording unit that records the encoded data obtained by converting the second image signal into a second image signal having a frame rate of It is an object to provide a playback device, an image playback method, and an image playback program.

本発明は、上述した従来の技術の課題を解決するため、第1のフレームレートを有する第1の画像信号を構成する実フレームより動き補償補間した補間フレームが生成され、前記実フレーム間に前記補間フレームを内挿することにより、前記第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換され、前記第2の画像信号を構成する前記実フレームのみがIピクチャのフレーム、または、他のPピクチャもしくはBピクチャより参照されるPピクチャもしくはBピクチャの参照フレームとして動画像符号化された符号化ストリームを記録する記録部(40)と、前記記録部より再生された符号化ストリームより、前記実フレームに基づいて生成されたフレームのみを抽出して実フレーム抽出ストリームを出力する実フレーム抽出部(50)と、前記実フレーム抽出ストリームを復号して復号データを出力する動画像復号部(70)とを備えることを特徴とする画像再生装置を提供する。   In order to solve the above-described problems of the related art, the present invention generates an interpolated frame subjected to motion compensation interpolation from an actual frame constituting the first image signal having the first frame rate. By interpolating an interpolated frame, only the actual frame constituting the second image signal is converted into a second image signal having a second frame rate higher than the first frame rate. A recording unit (40) for recording a coded stream encoded as a moving picture as a frame of an I picture or a reference frame of a P picture or B picture referenced by another P picture or B picture; Extract actual frames by extracting only the frames generated based on the actual frames from the reproduced stream. Actual frame extraction unit for outputting a stream (50), said to provide an image reproducing apparatus characterized by comprising a video decoding unit for outputting the decoded data by decoding the actual frame extraction stream (70).

また、本発明は、上述した従来の技術の課題を解決するため、第1のフレームレートを有する第1の画像信号を構成する実フレームより動き補償補間した補間フレームが生成され、前記実フレーム間に前記補間フレームを内挿することにより、前記第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換され、前記第2の画像信号を構成する前記実フレームのみがIピクチャのフレーム、または、他のPピクチャもしくはBピクチャより参照されるPピクチャもしくはBピクチャの参照フレームとして動画像符号化された符号化ストリームが記録された記録部(40)より、前記符号化ストリームを再生し、再生された符号化ストリームより、前記実フレームに基づいて生成されたフレームのみを抽出して実フレーム抽出ストリームを生成し、前記実フレーム抽出ストリームを復号して復号データを生成することを特徴とする画像再生方法を提供する。   In addition, in order to solve the above-described problems of the conventional technique, the present invention generates an interpolated frame subjected to motion compensation interpolation from an actual frame that constitutes the first image signal having the first frame rate. The interpolation frame is interpolated into a second image signal having a second frame rate that is higher than the first frame rate, and the actual image constituting the second image signal is converted into the second image signal. From a recording unit (40) in which a coded stream in which only a frame is an I picture frame or a moving picture coded as a reference frame of a P picture or B picture referenced by another P picture or B picture is recorded, The encoded stream is reproduced, and a frame generated based on the actual frame from the reproduced encoded stream is reproduced. It generates a real frame extraction stream by extracting said to provide an image reproducing method and generating a decoded data by decoding the actual frame extraction stream.

さらに、本発明は、上述した従来の技術の課題を解決するため、コンピュータに、第1のフレームレートを有する第1の画像信号を構成する実フレームより動き補償補間した補間フレームが生成され、前記実フレーム間に前記補間フレームを内挿することにより、前記第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換され、前記第2の画像信号を構成する前記実フレームのみがIピクチャのフレーム、または、他のPピクチャもしくはBピクチャより参照されるPピクチャもしくはBピクチャの参照フレームとして動画像符号化された符号化ストリームが記録された記録部(40)より、前記符号化ストリームを再生させる機能と、再生された符号化ストリームより、前記実フレームに基づいて生成されたフレームのみを抽出して実フレーム抽出ストリームを生成させる機能と、前記実フレーム抽出ストリームを復号して復号データを生成させる機能とを実現させることを特徴とする画像再生プログラムを提供する。   Furthermore, in order to solve the above-described problems of the related art, the present invention generates an interpolated frame in which motion compensation interpolation is performed from an actual frame constituting a first image signal having a first frame rate in a computer. By interpolating the interpolated frame between actual frames, the second image signal is converted into a second image signal having a second frame rate higher than the first frame rate, thereby forming the second image signal. A recording unit (40) in which an encoded stream in which a moving image is encoded as an I picture frame or a reference frame of a P picture or B picture referred to by another P picture or B picture is recorded ) To reproduce the encoded stream and the actual frame from the reproduced encoded stream. Provided is an image reproduction program that realizes a function of generating only a frame generated according to the above and generating a real frame extraction stream and a function of decoding the real frame extraction stream and generating decoded data To do.

本発明の画像再生装置、画像再生方法、画像再生プログラムによれば、第1のフレームレートを有する第1の画像信号に対して動き補償型フレームレート変換を施して、第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換し、第2の画像信号を動画像符号化した符号化データを記録した記録部より、フレームレート変換する前の画像信号を再生することができる。   According to the image reproduction device, the image reproduction method, and the image reproduction program of the present invention, the motion compensation type frame rate conversion is performed on the first image signal having the first frame rate, so that the first frame rate is higher than the first frame rate. The image signal before the frame rate conversion is converted from the recording unit that records the encoded data obtained by converting the second image signal into the second image signal having a high frame rate and the moving image encoding of the second image signal. Can be played.

撮像記録装置を示すブロック図である。It is a block diagram which shows an imaging recording device. 図1中のフレームレート変換部20の第1の具体的構成例を示すブロック図である。It is a block diagram which shows the 1st specific structural example of the frame rate conversion part 20 in FIG. フレームレート変換部20が第1の具体的構成例の場合の撮像記録装置の動作を説明するためのタイミングチャートである。6 is a timing chart for explaining the operation of the imaging and recording apparatus when the frame rate conversion unit 20 is the first specific configuration example. 図1中のフレームレート変換部20の第2の具体的構成例を示すブロック図である。It is a block diagram which shows the 2nd specific structural example of the frame rate conversion part 20 in FIG. フレームレート変換部20が第2の具体的構成例の場合の撮像記録装置の動作を説明するためのタイミングチャートである。12 is a timing chart for explaining the operation of the imaging / recording apparatus when the frame rate conversion unit 20 is in the second specific configuration example. 一実施形態の画像再生装置を示すブロック図である。It is a block diagram which shows the image reproduction apparatus of one Embodiment. 一実施形態の画像再生装置の動作を説明するためのタイミングチャートである。6 is a timing chart for explaining the operation of the image reproduction apparatus according to the embodiment.

以下、一実施形態の画像再生装置、画像再生方法、画像再生プログラムについて、添付図面を参照して説明する。まず、イメージセンサより出力された画像信号をフレームレート変換して動画像符号化し、記録部に記録する撮像記録装置の構成及び動作について説明する。   Hereinafter, an image reproduction apparatus, an image reproduction method, and an image reproduction program according to an embodiment will be described with reference to the accompanying drawings. First, the configuration and operation of an imaging recording apparatus that converts an image signal output from an image sensor into a moving image code by converting the frame rate and records it in a recording unit will be described.

<撮像記録装置の第1構成例>
図1において、イメージセンサ10は、被写体を30fpsのフレームレートで撮像した画像信号S10を出力する。画像信号S10は、動き補償型フレームレート変換装置であるフレームレート変換部20に入力される。第1構成例におけるフレームレート変換部20はいわゆる倍速変換回路である。
<First Configuration Example of Imaging Recording Apparatus>
In FIG. 1, an image sensor 10 outputs an image signal S10 obtained by imaging a subject at a frame rate of 30 fps. The image signal S10 is input to a frame rate conversion unit 20 which is a motion compensated frame rate conversion device. The frame rate conversion unit 20 in the first configuration example is a so-called double speed conversion circuit.

フレームレート変換部20は、画像信号S10におけるフレーム間の動きベクトルを検出し、動きベクトルに基づいて予測補間(動き補償補間)した補間フレームを生成する。フレームレート変換部20は、画像信号S10における隣接するフレーム間に補間フレームを内挿して60fpsにフレームレート変換した画像信号S20を出力する。   The frame rate conversion unit 20 detects a motion vector between frames in the image signal S10, and generates an interpolation frame obtained by predictive interpolation (motion compensation interpolation) based on the motion vector. The frame rate conversion unit 20 outputs an image signal S20 obtained by interpolating an interpolation frame between adjacent frames in the image signal S10 and converting the frame rate to 60 fps.

フレームレート変換部20は、画像信号S20におけるそれぞれのフレームが、画像信号S10のフレームである実フレームであるか、補間フレームであるかを示すフラグ信号Sfgを生成して出力する。   The frame rate conversion unit 20 generates and outputs a flag signal Sfg indicating whether each frame in the image signal S20 is an actual frame that is a frame of the image signal S10 or an interpolation frame.

図2を用いて、フレームレート変換部20の第1の具体的構成例及びその動作について説明する。第1の具体的構成例におけるフレームレート変換部20をフレームレート変換部20とする。図2において、画像信号S10を構成するそれぞれの画素データは、メモリ201,動きベクトル検出部202,補間部203,メモリ204に順次入力される。メモリ201は、入力された画素データを1フレーム期間遅延させる。1フレーム遅延の画素データは、動きベクトル検出部202及び補間部203に入力される。 A first specific configuration example and operation of the frame rate conversion unit 20 will be described with reference to FIG. The frame rate conversion unit 20 in the first specific example configuration and frame rate conversion unit 20 1. In FIG. 2, each pixel data constituting the image signal S 10 is sequentially input to the memory 201, the motion vector detection unit 202, the interpolation unit 203, and the memory 204. The memory 201 delays the input pixel data for one frame period. The one-frame delayed pixel data is input to the motion vector detection unit 202 and the interpolation unit 203.

動きベクトル検出部202は、公知の手法によって、それぞれの画素単位または複数の画素よりなるブロック単位で、フレーム間の動きベクトルMVを検出する。補間部203は、動きベクトルMVを参照し、画像信号S10の画素データとメモリ201より出力された1フレーム遅延の画素データとに基づいて、画像信号S10における隣接するフレーム間に内挿する補間フレームを構成する補間画素データを生成する。補間部203によって生成された補間画素データは、メモリ204に入力される。   The motion vector detection unit 202 detects a motion vector MV between frames in a pixel unit or a block unit including a plurality of pixels by a known method. The interpolation unit 203 refers to the motion vector MV and interpolates between adjacent frames in the image signal S10 based on the pixel data of the image signal S10 and the one-frame delayed pixel data output from the memory 201. Is generated. Interpolated pixel data generated by the interpolation unit 203 is input to the memory 204.

メモリ204は、タイミング制御部25による制御に基づいて、画像信号S10の画素データと、補間部203からの補間画素データとを、1/60秒毎に交互に読み出して、60fpsのフレームレートを有する画像信号S20を出力する。タイミング制御部25は、メモリ204より出力される画像信号S20のフレームが実フレームであるタイミングでは例えば“0”(ロー)、補間フレームであるタイミングでは例えば“1”(ハイ)のフラグ信号Sfgを生成して出力する。   Based on the control by the timing control unit 25, the memory 204 alternately reads out the pixel data of the image signal S10 and the interpolation pixel data from the interpolation unit 203 every 1/60 seconds, and has a frame rate of 60 fps. An image signal S20 is output. The timing control unit 25 outputs a flag signal Sfg of “0” (low), for example, when the frame of the image signal S20 output from the memory 204 is a real frame, and “1” (high), for example, when the frame is an interpolated frame. Generate and output.

タイミング制御部25は、実フレームを出力するタイミングと補間フレームを出力するタイミングとを識別するためのフラグ信号Sfgを発生するフラグ発生部として動作している。   The timing control unit 25 operates as a flag generation unit that generates a flag signal Sfg for identifying a timing for outputting an actual frame and a timing for outputting an interpolation frame.

図1に戻り、フレームレート変換部20(20)より出力された画像信号S20とフラグ信号Sfgは、動画像符号化部30に入力される。動画像符号化部30は、入力された画像信号S20を符号化する。この際、動画像符号化部30は、フラグ信号Sfgを参照して、画像信号S20を符号化する方法を決定する。 Returning to FIG. 1, the image signal S20 and the flag signal Sfg output from the frame rate conversion unit 20 (20 1 ) are input to the moving image encoding unit 30. The moving image encoding unit 30 encodes the input image signal S20. At this time, the moving image encoder 30 refers to the flag signal Sfg to determine a method for encoding the image signal S20.

動画像符号化部30には、画像信号S20及びフラグ信号Sfgが入力される。動画像符号化部30は、画像信号S20を符号化する。動画像符号化部30は、画像信号S20を符号化する際の画像フレームのタイプとして、Iピクチャ(Intra Coded Picture)、Pピクチャ(Predictive Coded Picture)、Bピクチャ(Bidirectional Predictive Coded Picture)のいずれかのタイプを用いる。   The moving image encoding unit 30 receives the image signal S20 and the flag signal Sfg. The moving image encoding unit 30 encodes the image signal S20. The moving image encoding unit 30 selects any one of an I picture (Intra Coded Picture), a P picture (Predictive Coded Picture), and a B picture (Bidirectional Predictive Coded Picture) as the type of an image frame when the image signal S20 is encoded. The type is used.

Iピクチャは、フレーム内予測符号化のみを用いたフレームである。Pピクチャは、フレーム内予測符号化だけでなく、過去のフレームを参照する前方向フレーム間予測符号化を用いることができるフレームである。Bピクチャは、フレーム内予測符号化だけでなく、過去と未来のそれぞれのフレームを参照する双方向フレーム間予測符号化を用いることができるフレームである。   An I picture is a frame that uses only intraframe predictive coding. The P picture is a frame that can use not only intra-frame prediction encoding but also forward inter-frame prediction encoding that refers to a past frame. A B picture is a frame that can use not only intraframe predictive coding but also bidirectional interframe predictive coding that refers to past and future frames.

Iピクチャは、GOP(Group of Picture)と称されるピクチャの集合体の先頭フレームとして割り当てられる。Iピクチャは、GOP内の参照フレームの基本となる。Iピクチャは他のフレームを参照しないため、サーチ等の特殊再生の際に用いるのに好適である。Pピクチャ及びBピクチャを用いると、自身のフレームと参照フレームとの差分だけを符号化するため圧縮効率のよい符号化を行うことができる。   The I picture is assigned as the first frame of a group of pictures called GOP (Group of Picture). The I picture is the basis of the reference frame in the GOP. Since the I picture does not refer to other frames, it is suitable for use in special reproduction such as search. When the P picture and the B picture are used, only the difference between the own frame and the reference frame is encoded, so that encoding with high compression efficiency can be performed.

図3を用いて、フレームレート変換部20及び動画像符号化部30を備える第1構成例の撮像記録装置がピクチャタイプをどのように決定して画像信号S20を符号化するかについて説明する。図3の(a)は、イメージセンサ10から出力される画像信号S10のフレームf0,f2,f4,…を示している。ここでは、画像信号S10のフレームレートは30fpsである。 With reference to FIG. 3 will be described how the frame rate conversion unit 20 1 and the first example of structure imaging and recording apparatus comprising a video encoding unit 30 encodes how determined by the image signal S20 to picture type . 3A shows frames f0, f2, f4,... Of the image signal S10 output from the image sensor 10. FIG. Here, the frame rate of the image signal S10 is 30 fps.

図3の(b)は、フレームレート変換部20(20)より出力される画像信号S20のフレームf0,f1,f2,f3,f4,…を示している。図3の(a),(b)を比較すれば分かるように、フレームf0,f2,f4,f6,…は実フレームであり、フレームf1,f3,f5,f7,…は補間フレームである。 FIG. 3B shows frames f0, f1, f2, f3, f4,... Of the image signal S20 output from the frame rate conversion unit 20 (20 1 ). As can be seen by comparing (a) and (b) of FIG. 3, the frames f0, f2, f4, f6,... Are real frames, and the frames f1, f3, f5, f7,.

図3の(b)における例えばフレームf1は、図3の(a)におけるフレームf2が入力された後に得られる。従って、実際には、図3の(b)に示す画像信号S20は、図3の(b)のフレームf1の位置が図3の(a)のフレームf2よりも後ろ側へとタイミングがずれることになる。図3では、理解を容易にするため、フレームレート変換部20における遅延時間を無視して、画像信号S10のフレームと画像信号S20のフレームとのタイミングを合わせるように図示している。   For example, the frame f1 in FIG. 3B is obtained after the frame f2 in FIG. 3A is input. Accordingly, in practice, the image signal S20 shown in FIG. 3B is shifted in timing from the position of the frame f1 in FIG. 3B to the rear side of the frame f2 in FIG. become. In FIG. 3, for the sake of easy understanding, the delay time in the frame rate conversion unit 20 is ignored, and the timing of the frame of the image signal S10 and the frame of the image signal S20 is illustrated.

タイミング制御部205は、図3の(c)に示すように、フレームレート変換部20が、画像信号S20のフレームとして実フレームf0,f2,f4,f6,…を出力する場合にはハイ、補間フレームf1,f3,f5,f7,…を出力する場合にはローのフラグ信号Sfgを出力する。   As shown in FIG. 3 (c), the timing control unit 205 is high when the frame rate conversion unit 20 outputs real frames f0, f2, f4, f6,... As the frame of the image signal S20. When outputting the frames f1, f3, f5, f7,..., A low flag signal Sfg is output.

動画像符号化部30は、一例として、図3の(d)に示すように、フレームf0,f4,…をIピクチャI0,I4,…のフレームとして符号化し、フレームf1〜f3,f5〜f7,…を、PピクチャP1〜P3,P5〜P7,…のフレームとして符号化した符号化ストリームS30を生成する。ここでは簡略化のためBピクチャを用いていないが、Bピクチャのフレームを含むように符号化ストリームS30を生成してもよい。   As an example, the moving image encoding unit 30 encodes frames f0, f4,... As frames of I pictures I0, I4,. ,... Are encoded as frames of P pictures P1 to P3, P5 to P7,. Here, for simplification, the B picture is not used, but the encoded stream S30 may be generated so as to include the frame of the B picture.

動画像符号化部30は、図3の(c),(d)より分かるように、フラグ信号Sfgがローである実フレームのみにIピクチャを割り当てる。また、動画像符号化部30は、PピクチャまたはBピクチャが参照する参照フレームを、フラグ信号Sfgがローである実フレームに基づいて生成したIピクチャ,Pピクチャ,Bピクチャのフレームのみとして符号化する。さらに、動画像符号化部30は、フラグ信号Sfgがハイである補間フレームに対しては、参照フレームとはならないPピクチャ,Bピクチャのフレームのみとして符号化する。   As can be seen from FIGS. 3C and 3D, the moving image encoding unit 30 assigns an I picture only to an actual frame in which the flag signal Sfg is low. In addition, the moving image encoding unit 30 encodes the reference frame referred to by the P picture or B picture as only the frame of the I picture, the P picture, and the B picture generated based on the actual frame in which the flag signal Sfg is low. To do. Furthermore, the moving image encoding unit 30 encodes only the P picture and B picture frames that are not the reference frames for the interpolated frames in which the flag signal Sfg is high.

図3の(d)の場合には、フレームf2(PピクチャP2)がフレームf3(PピクチャP3)の参照フレーム、フレームf6(PピクチャP6)がフレームf7(PピクチャP7)の参照フレームとなっている。フレームf1,f2(PピクチャP1,P2)はフレームf0(IピクチャI0)を参照し、フレームf5,f6はフレームf4(IピクチャI4)を参照している。   In the case of FIG. 3D, the frame f2 (P picture P2) is the reference frame of the frame f3 (P picture P3), and the frame f6 (P picture P6) is the reference frame of the frame f7 (P picture P7). ing. Frames f1 and f2 (P pictures P1 and P2) refer to frame f0 (I picture I0), and frames f5 and f6 refer to frame f4 (I picture I4).

通常の撮像記録装置においては、画像信号の性質等に基づいてIピクチャ,Pピクチャ,Bピクチャのピクチャタイプを割り当て、Iピクチャ,Pピクチャ,Bピクチャを一定のシーケンスで順に割り当てていくのが一般的である。本実施形態においては、フラグ信号Sfgを参照して、符号化しようとするフレームが実フレームであるか補間フレームであるかによって、ピクチャタイプを決定し、参照フレームとするか否かを決定して、符号化ストリームS30を生成する。   In an ordinary imaging / recording apparatus, it is common to assign picture types of I picture, P picture, and B picture on the basis of the characteristics of the image signal and so on, and assign I picture, P picture, and B picture in order in a certain sequence. Is. In the present embodiment, referring to the flag signal Sfg, the picture type is determined depending on whether the frame to be encoded is an actual frame or an interpolated frame, and whether or not to be a reference frame is determined. The encoded stream S30 is generated.

補間フレームはフレームレート変換部20(20)において動きベクトル推定して生成したフレームであるため、変換誤差を含む場合がある。補間フレームを、符号化ストリームS30を生成する際の参照フレームとして用いると、複数のフレームに変換誤差が蓄積していき、画像劣化を招いてしまう。第1構成例において、動画像符号化部30は、補間フレームをIピクチャのフレーム及び他のフレームから参照される参照フレームとして用いないように符号化して符号化ストリームS30を生成する。従って、第1構成例の撮像記録装置によれば、フレームレート変換部20における変換誤差の影響による画像劣化を極力少なくすることができる。 Since the interpolation frame is a frame generated by estimating the motion vector in the frame rate conversion unit 20 (20 1 ), it may include a conversion error. When the interpolation frame is used as a reference frame when generating the encoded stream S30, conversion errors accumulate in a plurality of frames, leading to image degradation. In the first configuration example, the moving image encoding unit 30 encodes the interpolated frame so as not to be used as a reference frame referenced from an I picture frame and other frames, and generates an encoded stream S30. Therefore, according to the imaging and recording apparatus of the first configuration example, it is possible to minimize image degradation due to the influence of the conversion error in the frame rate conversion unit 20.

動画像符号化部30より出力された符号化ストリームS30は、記録部40に入力されて記録される。記録部40は、記録媒体と、記録媒体に符号化ストリームS30を記録させ、記録媒体に記録した符号化ストリームS30を再生させる記録再生駆動部とを含む。記録媒体は、光ディスク,半導体メモリ,ハードディスク・ドライブ等のいずれでもよく、任意の記録媒体である。   The encoded stream S30 output from the moving image encoding unit 30 is input to the recording unit 40 and recorded. The recording unit 40 includes a recording medium and a recording / reproducing drive unit that records the encoded stream S30 on the recording medium and reproduces the encoded stream S30 recorded on the recording medium. The recording medium may be an optical disk, a semiconductor memory, a hard disk drive, or the like, and is an arbitrary recording medium.

<撮像記録装置の第2構成例>
第2構成例においては、図1におけるイメージセンサ10は、被写体を15fpsのフレームレートで撮像した画像信号S10を出力する。第2構成例におけるフレームレート変換部20は15fpsを60fpsに変換するいわゆる4倍速変換回路である。
<Second Configuration Example of Imaging Recording Apparatus>
In the second configuration example, the image sensor 10 in FIG. 1 outputs an image signal S10 obtained by imaging a subject at a frame rate of 15 fps. The frame rate conversion unit 20 in the second configuration example is a so-called quadruple speed conversion circuit that converts 15 fps to 60 fps.

図4を用いて、第2構成例におけるフレームレート変換部20の具体的構成及び動作について説明する。第2構成例におけるフレームレート変換部20をフレームレート変換部20とする。図2に示す第1構成例のフレームレート変換部20と実質的に同一部分には同一符号を付し、その説明を省略する。 A specific configuration and operation of the frame rate conversion unit 20 in the second configuration example will be described with reference to FIG. The frame rate conversion unit 20 in the second configuration example and the frame rate conversion unit 20 2. The same reference numerals are given to substantially same parts and the frame rate conversion unit 20 1 of the first configuration example shown in FIG. 2, the description thereof is omitted.

図4において、動きベクトル検出部202は、補間部2031,2032,2033にそれぞれ動きベクトルMV1,MV2,MV3を供給する。15fpsを60fpsに変換するには、フレームレート変換部20は、画像信号S10における隣接するフレーム間に3フレーム分の補間フレームを内挿する必要がある。従って、3つの補間部2031,2032,2033が必要となる。 In FIG. 4, the motion vector detection unit 202 supplies motion vectors MV1, MV2, and MV3 to the interpolation units 2031, 2032, and 2033, respectively. To convert 15fps to 60fps, the frame rate converting unit 20 2, it is necessary to interpolate the three frames of the interpolated frame between adjacent frames in the image signal S10. Therefore, three interpolation units 2031, 2032, and 2033 are required.

図5を用いて、フレームレート変換部20及び動画像符号化部30を備える第2構成例の撮像記録装置がピクチャタイプをどのように決定して画像信号S20を符号化するかについて説明する。図5の(a)は、イメージセンサ10から出力される画像信号S10のフレームf0,f4,f8,…を示している。ここでは、画像信号S10のフレームレートは15fpsである。 With reference to FIG. 5, a description will be given if the frame rate conversion unit 20 2 and the second configuration example imaging and recording apparatus comprising a video encoding unit 30 encodes how determined by the image signal S20 to picture type . 5A shows frames f0, f4, f8,... Of the image signal S10 output from the image sensor 10. FIG. Here, the frame rate of the image signal S10 is 15 fps.

図5の(b)は、フレームレート変換部20より出力される画像信号S20のフレームf0,f1,f2,f3,f4,…を示している。図5の(a),(b)を比較すれば分かるように、フレームf0,f4,f8,f12,…は実フレームであり、フレームf1〜f3,f5〜f7,f9〜f11,f13〜f15,…は補間フレームである。ここでも、フレームレート変換部20における遅延時間を無視して、画像信号S10のフレームと画像信号S20のフレームとを合わせるように図示している。   FIG. 5B shows frames f0, f1, f2, f3, f4,... Of the image signal S20 output from the frame rate conversion unit 20. As can be seen by comparing FIGS. 5A and 5B, the frames f0, f4, f8, f12,... Are real frames, and the frames f1 to f3, f5 to f7, f9 to f11, and f13 to f15. ,... Are interpolation frames. Here, the delay time in the frame rate conversion unit 20 is ignored, and the frame of the image signal S10 and the frame of the image signal S20 are shown to be matched.

フラグ発生部であるタイミング制御部205は、図5の(c)に示すように、フレームレート変換部20が、画像信号S20のフレームとして実フレームf0,f4,f8,f12,…を出力するタイミングではロー、補間フレームf1〜f3,f5〜f7,f9〜f11,f13〜f15,…を出力するタイミングではハイのフラグ信号Sfgを出力する。   As shown in FIG. 5C, the timing control unit 205, which is a flag generation unit, outputs the actual frames f0, f4, f8, f12,... As the frame of the image signal S20. Then, the high flag signal Sfg is output at the timing of outputting the low, interpolated frames f1 to f3, f5 to f7, f9 to f11, f13 to f15,.

動画像符号化部30は、一例として、図5の(d)に示すように、フレームf0,f8,…をIピクチャI0,I8,…のフレームとして符号化し、フレームf1〜f7,f9〜f15,…を、PピクチャP1〜P7,P9〜P15,…のフレームとして符号化した符号化ストリームS30を生成する。ここでも、Bピクチャのフレームを含むように符号化ストリームS30を生成してもよい。   As an example, the moving image encoding unit 30 encodes frames f0, f8,... As frames of I pictures I0, I8,... And frames f1 to f7, f9 to f15, as shown in FIG. ,... Are encoded as frames of P pictures P1 to P7, P9 to P15,. Again, the encoded stream S30 may be generated so as to include a B picture frame.

第2構成例においても、動画像符号化部30は、フラグ信号Sfgがローである実フレームのみにIピクチャを割り当てる。また、動画像符号化部30は、Pピクチャ及びBピクチャが参照する参照フレームを、フラグ信号Sfgがローである実フレームに基づいて生成したIピクチャ,Pピクチャ,Bピクチャのフレームのみとして符号化する。さらに、動画像符号化部30は、フラグ信号Sfgがハイである補間フレームに対しては、参照フレームとはならないPピクチャ,Bピクチャのフレームのみとして符号化する。   Also in the second configuration example, the moving image encoding unit 30 assigns an I picture only to an actual frame whose flag signal Sfg is low. In addition, the moving image encoding unit 30 encodes the reference frame referred to by the P picture and the B picture as only the frame of the I picture, the P picture, and the B picture generated based on the actual frame in which the flag signal Sfg is low. To do. Furthermore, the moving image encoding unit 30 encodes only the P picture and B picture frames that are not the reference frames for the interpolated frames in which the flag signal Sfg is high.

図5の(d)の場合には、フレームf4(PピクチャP4)がフレームf5〜f7(PピクチャP5〜P7)の参照フレーム、フレームf12(PピクチャP12)がフレームf13〜f15(PピクチャP13〜P15)の参照フレームとなっている。フレームf1〜f4(PピクチャP1〜P4)はフレームf0(IピクチャI0)を参照し、フレームf9〜f12(PピクチャP9〜P12)はフレームf8(IピクチャI8)を参照している。   In the case of FIG. 5D, the frame f4 (P picture P4) is the reference frame of the frames f5 to f7 (P pictures P5 to P7), and the frame f12 (P picture P12) is the frames f13 to f15 (P picture P13). To P15). Frames f1 to f4 (P pictures P1 to P4) refer to frame f0 (I picture I0), and frames f9 to f12 (P pictures P9 to P12) refer to frame f8 (I picture I8).

動画像符号化部30より出力された符号化ストリームS30は、記録部40に入力されて記録される。   The encoded stream S30 output from the moving image encoding unit 30 is input to the recording unit 40 and recorded.

<一実施形態の画像再生装置>
図6及び図7を用いて、第1または第2構成例の撮像記録装置によって記録部40に記録された符号化ストリームS30を再生する一実施形態の画像再生装置の具体的構成及び動作について説明する。図7は、第1構成例の撮像記録装置によって生成された符号化ストリームS30が記録部40に記録されている場合のタイミングチャートを示している。
<Image Reproducing Apparatus of One Embodiment>
A specific configuration and operation of an image reproduction apparatus according to an embodiment for reproducing the encoded stream S30 recorded in the recording unit 40 by the imaging recording apparatus of the first or second configuration example will be described with reference to FIGS. 6 and 7. To do. FIG. 7 shows a timing chart in the case where the encoded stream S30 generated by the imaging recording apparatus of the first configuration example is recorded in the recording unit 40.

図6に示すように、一実施形態の画像再生装置は、記録部40,実フレーム抽出部50,モード選択部60,動画像復号部70,フレームレート変換部80,モード選択部90を備える。一実施形態の画像再生装置は、記録部40に記録された符号化ストリームS30を再生するモードとして、通常再生モードと原画再生モードとの2つのモードを有する。   As shown in FIG. 6, the image reproduction device of one embodiment includes a recording unit 40, an actual frame extraction unit 50, a mode selection unit 60, a moving image decoding unit 70, a frame rate conversion unit 80, and a mode selection unit 90. The image reproduction apparatus of one embodiment has two modes, a normal reproduction mode and an original image reproduction mode, as modes for reproducing the encoded stream S30 recorded in the recording unit 40.

まず、通常再生モードにおける動作について説明する。図6において、記録部40より再生された符号化ストリームS40は、実フレーム抽出部50及びモード選択部60に入力される。通常再生モードでは、モード選択部60は、記録部40より再生された符号化ストリームS40を選択して、動画像復号部70に供給する。   First, the operation in the normal playback mode will be described. In FIG. 6, the encoded stream S40 reproduced from the recording unit 40 is input to the real frame extraction unit 50 and the mode selection unit 60. In the normal reproduction mode, the mode selection unit 60 selects the encoded stream S40 reproduced from the recording unit 40 and supplies it to the moving image decoding unit 70.

動画像復号部70は入力された符号化ストリームS40を復号し、復号データS70をフレームレート変換部80及びモード選択部90に供給する。モード選択部90は、動画像復号部70より出力された復号データS70を選択して出力する。   The video decoding unit 70 decodes the input encoded stream S40 and supplies the decoded data S70 to the frame rate conversion unit 80 and the mode selection unit 90. The mode selection unit 90 selects and outputs the decoded data S70 output from the video decoding unit 70.

通常再生モードによれば、記録部40に記録された符号化ストリームS30を再生して復号するという通常の動作を行うことにより、モーションジャダが少なくて滑らかで、変換誤差の影響による画像劣化の少ない高画質な再生画像を鑑賞することができる。   According to the normal reproduction mode, the normal operation of reproducing and decoding the encoded stream S30 recorded in the recording unit 40 is performed, so that there is less motion judder and smoothness, and there is little image deterioration due to the influence of the conversion error. High-quality playback images can be viewed.

次に、原画再生モードにおける動作について説明する。図7の(a)は、記録部40より再生された符号化ストリームS40を示している。図7の(a)に示す符号化ストリームS40は、図3の(d)に示す符号化ストリームS30と同じである。図3で説明したように、IピクチャI0,I4,…及びPピクチャP2,P6,…が実フレームに基づいて生成したフレームである。   Next, the operation in the original image reproduction mode will be described. FIG. 7A shows an encoded stream S40 reproduced from the recording unit 40. The encoded stream S40 shown in (a) of FIG. 7 is the same as the encoded stream S30 shown in (d) of FIG. As described with reference to FIG. 3, I pictures I0, I4,... And P pictures P2, P6,.

実フレーム抽出部50は、図7の(b)に示すように、符号化ストリームS40から、実フレームに基づいて生成したIピクチャI0,PピクチャP2,IピクチャI4,PピクチャP6,…のみを抽出して、実フレーム抽出ストリームS50を出力する。原画再生モードでは、モード選択部60は、実フレーム抽出部50より出力された実フレーム抽出ストリームS50を選択して、動画像復号部70に供給する。   As shown in FIG. 7B, the actual frame extraction unit 50 extracts only the I picture I0, P picture P2, I picture I4, P picture P6,... Generated from the encoded stream S40 based on the actual frame. The actual frame extraction stream S50 is output by extraction. In the original image reproduction mode, the mode selection unit 60 selects the actual frame extraction stream S50 output from the actual frame extraction unit 50 and supplies the selected frame to the moving image decoding unit 70.

動画像復号部70は入力された実フレーム抽出ストリームS50を復号する。動画像復号部70は、図7の(c)に示すように、フレームf0,f2,f4,f6,…よりなる復号データS70をフレームレート変換部80及びモード選択部90に供給する。復号データS70のフレームレートは30fpsである。原画再生モードにおける復号データS70は、通常再生モードにおける復号データS70とは異なるが、便宜上、同じ符号で示している。   The moving picture decoding unit 70 decodes the input real frame extraction stream S50. The moving picture decoding unit 70 supplies the decoded data S70 composed of the frames f0, f2, f4, f6,... To the frame rate conversion unit 80 and the mode selection unit 90, as shown in FIG. The frame rate of the decoded data S70 is 30 fps. The decoded data S70 in the original image reproduction mode is different from the decoded data S70 in the normal reproduction mode, but is denoted by the same reference symbol for convenience.

実フレーム抽出部50で抽出したPピクチャP2,P6,…は、補間フレームのピクチャを参照しない。従って、符号化ストリームS40から補間フレームに基づいて生成したPピクチャ(またはBピクチャ)を取り除いても、動画像復号部70は実フレーム抽出ストリームS50を復号することができる。   The P pictures P2, P6,... Extracted by the real frame extraction unit 50 do not refer to the picture of the interpolation frame. Therefore, even if the P picture (or B picture) generated based on the interpolation frame is removed from the encoded stream S40, the moving picture decoding unit 70 can decode the actual frame extraction stream S50.

フレームレート変換部80は、入力された復号データS70を単純に2倍して、60fpsになるように変換する。図6におけるフレームレート変換部80は、図1における動き補償補間した補間フレームを生成するフレームレート変換部20とは異なり、復号データS70を単純に倍速変換する単純倍速変換部である。具体的には、フレームレート変換部80は、図7の(d)に示すように、フレームf0,f2,f4,f6,…をそれぞれ2回ずつ繰り返して出力することにより、60fpsのフレームレートを有する倍速復号データS80を生成する。   The frame rate conversion unit 80 simply doubles the input decoded data S70 and converts it to 60 fps. The frame rate conversion unit 80 in FIG. 6 is a simple double speed conversion unit that simply performs double speed conversion on the decoded data S70, unlike the frame rate conversion unit 20 that generates an interpolation frame subjected to motion compensation interpolation in FIG. Specifically, as shown in FIG. 7D, the frame rate conversion unit 80 outputs the frame rate of 60 fps by repeatedly outputting the frames f0, f2, f4, f6,... Twice each. The double-speed decoded data S80 is generated.

原画再生モードでは、モード選択部90は、フレームレート変換部80より出力された倍速復号データS80を選択して出力する。   In the original image playback mode, the mode selection unit 90 selects and outputs the double-speed decoded data S80 output from the frame rate conversion unit 80.

原画再生モードにおいてモード選択部90より出力される倍速復号データS80は、記録部40に記録された符号化ストリームS30を生成する過程で、フレームレート変換部20において実フレーム間に内挿した動き補償補間による補間フレームの影響は全くない。   The double-speed decoded data S80 output from the mode selection unit 90 in the original picture reproduction mode is motion compensated by the frame rate conversion unit 20 interpolated between actual frames in the process of generating the encoded stream S30 recorded in the recording unit 40. There is no influence of the interpolation frame by interpolation.

倍速復号データS80は、フレームレートは異なるものの、イメージセンサ10より出力された画像信号S10と同等の画質である。本実施形態によれば、動き補償型フレームレート変換によってフレームレート変換する前の画像信号を再生することができる。なお、厳密には、倍速復号データS80は符号化によるロスを含むが、無視してよい。   The double-speed decoded data S80 has an image quality equivalent to that of the image signal S10 output from the image sensor 10 although the frame rate is different. According to the present embodiment, it is possible to reproduce an image signal before frame rate conversion by motion compensation frame rate conversion. Strictly speaking, the double-speed decoded data S80 includes a loss due to encoding, but may be ignored.

第2構成例の撮像記録装置によって生成された符号化ストリームS30が記録部40に記録されている場合には、フレームレート変換部80は、入力された復号データS70を単純に4倍して、60fpsになるように変換すればよい。   When the encoded stream S30 generated by the imaging recording apparatus of the second configuration example is recorded in the recording unit 40, the frame rate conversion unit 80 simply quadruples the input decoded data S70, What is necessary is just to convert so that it may become 60 fps.

なお、フレームレート変換部80を省略した構成としてもよい。   The frame rate conversion unit 80 may be omitted.

図1において、フレームレート変換部20及び動画像符号化部30の部分をマイクロコンピュータによって構成してもよい。図6において、記録部40より符号化ストリームS40を再生させる部分、実フレーム抽出部50,モード選択部60,動画像復号部70,フレームレート変換部80,モード選択部90の部分をマイクロコンピュータによって構成してもよい。マイクロコンピュータに本実施形態のように動作させる画像再生プログラムを搭載して、マイクロコンピュータによって本実施形態の画像再生装置と同等の機能を実現させてもよい。   In FIG. 1, the frame rate conversion unit 20 and the moving image encoding unit 30 may be configured by a microcomputer. In FIG. 6, the part for reproducing the encoded stream S40 from the recording unit 40, the real frame extracting unit 50, the mode selecting unit 60, the moving image decoding unit 70, the frame rate converting unit 80, and the mode selecting unit 90 are processed by a microcomputer. It may be configured. An image reproduction program that operates as in the present embodiment may be installed in a microcomputer, and functions equivalent to those of the image reproduction apparatus of the present embodiment may be realized by the microcomputer.

本発明は以上説明した各実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。   The present invention is not limited to the embodiments described above, and various modifications can be made without departing from the scope of the present invention.

40 記録部
50 実フレーム抽出部
60,90 モード選択部
70 動画像復号部
80 フレームレート変換部
40 recording unit 50 real frame extraction unit 60, 90 mode selection unit 70 moving image decoding unit 80 frame rate conversion unit

Claims (5)

第1のフレームレートを有する第1の画像信号を構成する実フレームより動き補償補間した補間フレームが生成され、前記実フレーム間に前記補間フレームを内挿することにより、前記第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換され、前記第2の画像信号を構成する前記実フレームのみがIピクチャのフレーム、または、他のPピクチャもしくはBピクチャより参照されるPピクチャもしくはBピクチャの参照フレームとして動画像符号化された符号化ストリームを記録する記録部と、
前記記録部より再生された符号化ストリームより、前記実フレームに基づいて生成されたフレームのみを抽出して実フレーム抽出ストリームを出力する実フレーム抽出部と、
前記実フレーム抽出ストリームを復号して復号データを出力する動画像復号部と、
を備えることを特徴とする画像再生装置。
An interpolation frame obtained by motion compensation interpolation is generated from an actual frame constituting the first image signal having the first frame rate. By interpolating the interpolation frame between the actual frames, the interpolation frame is calculated from the first frame rate. Is converted into a second image signal having a second frame rate with a higher frame rate, and only the actual frame constituting the second image signal is a frame of an I picture, or another P picture or B picture. A recording unit that records an encoded stream that has been encoded as a reference frame of a P picture or B picture that is referred to;
An actual frame extraction unit that extracts only a frame generated based on the actual frame from the encoded stream reproduced from the recording unit and outputs an actual frame extraction stream;
A video decoding unit that decodes the real frame extraction stream and outputs decoded data;
An image reproducing apparatus comprising:
前記復号データのそれぞれのフレームを繰り返し出力して前記第2のフレームレートに変換して出力するフレームレート変換部をさらに備えることを特徴とする請求項1記載の画像再生装置。   2. The image reproducing apparatus according to claim 1, further comprising a frame rate conversion unit that repeatedly outputs each frame of the decoded data, converts the frame to the second frame rate, and outputs the second frame rate. 前記記録部より再生された符号化ストリームと、前記実フレーム抽出部より出力された実フレーム抽出ストリームとを選択する第1の選択部と、
前記動画像復号部より出力された復号データと、前記フレームレート変換部より出力された前記第2のフレームレートに変換された復号データとを選択する第2の選択部と、
をさらに備えることを特徴とする請求項2記載の画像再生装置。
A first selection unit that selects an encoded stream reproduced from the recording unit and an actual frame extraction stream output from the actual frame extraction unit;
A second selection unit that selects the decoded data output from the moving image decoding unit and the decoded data converted to the second frame rate output from the frame rate conversion unit;
The image reproducing apparatus according to claim 2, further comprising:
第1のフレームレートを有する第1の画像信号を構成する実フレームより動き補償補間した補間フレームが生成され、前記実フレーム間に前記補間フレームを内挿することにより、前記第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換され、前記第2の画像信号を構成する前記実フレームのみがIピクチャのフレーム、または、他のPピクチャもしくはBピクチャより参照されるPピクチャもしくはBピクチャの参照フレームとして動画像符号化された符号化ストリームが記録された記録部より、前記符号化ストリームを再生し、
再生された符号化ストリームより、前記実フレームに基づいて生成されたフレームのみを抽出して実フレーム抽出ストリームを生成し、
前記実フレーム抽出ストリームを復号して復号データを生成する
ことを特徴とする画像再生方法。
An interpolation frame obtained by motion compensation interpolation is generated from an actual frame constituting the first image signal having the first frame rate. By interpolating the interpolation frame between the actual frames, the interpolation frame is calculated from the first frame rate. Is converted into a second image signal having a second frame rate with a higher frame rate, and only the actual frame constituting the second image signal is a frame of an I picture, or another P picture or B picture. Playing back the encoded stream from the recording unit in which the encoded stream encoded as a moving picture is recorded as a reference frame of the P picture or B picture to be referenced,
From the reproduced encoded stream, only a frame generated based on the actual frame is extracted to generate an actual frame extraction stream,
An image reproduction method, comprising: decoding the actual frame extraction stream to generate decoded data.
コンピュータに、
第1のフレームレートを有する第1の画像信号を構成する実フレームより動き補償補間した補間フレームが生成され、前記実フレーム間に前記補間フレームを内挿することにより、前記第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換され、前記第2の画像信号を構成する前記実フレームのみがIピクチャのフレーム、または、他のPピクチャもしくはBピクチャより参照されるPピクチャもしくはBピクチャの参照フレームとして動画像符号化された符号化ストリームが記録された記録部より、前記符号化ストリームを再生させる機能と、
再生された符号化ストリームより、前記実フレームに基づいて生成されたフレームのみを抽出して実フレーム抽出ストリームを生成させる機能と、
前記実フレーム抽出ストリームを復号して復号データを生成させる機能と、
を実現させることを特徴とする画像再生プログラム。
On the computer,
An interpolation frame obtained by motion compensation interpolation is generated from an actual frame constituting the first image signal having the first frame rate. By interpolating the interpolation frame between the actual frames, the interpolation frame is calculated from the first frame rate. Is converted into a second image signal having a second frame rate with a higher frame rate, and only the actual frame constituting the second image signal is a frame of an I picture, or another P picture or B picture. A function of reproducing the encoded stream from a recording unit in which an encoded stream encoded as a moving picture is recorded as a reference frame of a P picture or B picture to be referred to;
A function of extracting only frames generated based on the actual frame from the reproduced encoded stream and generating an actual frame extraction stream;
A function of decoding the actual frame extraction stream to generate decoded data;
An image reproduction program characterized by realizing the above.
JP2012262202A 2012-11-30 2012-11-30 Image reproduction apparatus, image reproduction method, and image reproduction program Active JP6028544B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012262202A JP6028544B2 (en) 2012-11-30 2012-11-30 Image reproduction apparatus, image reproduction method, and image reproduction program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012262202A JP6028544B2 (en) 2012-11-30 2012-11-30 Image reproduction apparatus, image reproduction method, and image reproduction program

Publications (2)

Publication Number Publication Date
JP2014110437A true JP2014110437A (en) 2014-06-12
JP6028544B2 JP6028544B2 (en) 2016-11-16

Family

ID=51030861

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012262202A Active JP6028544B2 (en) 2012-11-30 2012-11-30 Image reproduction apparatus, image reproduction method, and image reproduction program

Country Status (1)

Country Link
JP (1) JP6028544B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003333540A (en) * 2002-05-13 2003-11-21 Hitachi Ltd Frame rate converting apparatus, video display apparatus using the same, and a television broadcast receiving apparatus
JP2007089137A (en) * 2005-09-19 2007-04-05 Sharp Corp Adaptive media play-out by server media processing for performing robust streaming
JP2007274679A (en) * 2006-03-09 2007-10-18 Sony Corp Frame rate conversion system, frame rate conversion method, transmitter, receiver equipment
JP2011139211A (en) * 2009-12-28 2011-07-14 Renesas Electronics Corp Image processing device, and image processing method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003333540A (en) * 2002-05-13 2003-11-21 Hitachi Ltd Frame rate converting apparatus, video display apparatus using the same, and a television broadcast receiving apparatus
JP2007089137A (en) * 2005-09-19 2007-04-05 Sharp Corp Adaptive media play-out by server media processing for performing robust streaming
JP2007274679A (en) * 2006-03-09 2007-10-18 Sony Corp Frame rate conversion system, frame rate conversion method, transmitter, receiver equipment
JP2011139211A (en) * 2009-12-28 2011-07-14 Renesas Electronics Corp Image processing device, and image processing method

Also Published As

Publication number Publication date
JP6028544B2 (en) 2016-11-16

Similar Documents

Publication Publication Date Title
KR100906957B1 (en) Adaptive video processing using sub-frame metadata
JP4849130B2 (en) Image processing apparatus, image processing method, and program
US20100092151A1 (en) Image reproducing apparatus, image reproducing method, image capturing apparatus, and control method therefor
JP4887750B2 (en) Image processing apparatus, control method, and program
JP2008228282A (en) Image processing device
KR19990072968A (en) Picture signal processing system, decoder, picture signal processing method, and decoding method
WO2014010224A1 (en) Video compression device, video decoding device, image compression device, image decoding device, imaging device, and program
US20100277613A1 (en) Image recording device and image reproduction device
US20080181314A1 (en) Image coding apparatus and image coding method
JP5159927B2 (en) Moving picture decoding apparatus and moving picture decoding method
JP6028544B2 (en) Image reproduction apparatus, image reproduction method, and image reproduction program
JP2008072182A (en) Moving picture decoding device, moving picture decoding method, moving picture decoding program, moving picture encoding device, moving picture encoding method, moving picture encoding program, and moving picture encoding and decoding device
JP4289055B2 (en) Transcoder and recording / reproducing apparatus using the same
JP5248583B2 (en) Moving picture decoding apparatus and moving picture decoding method
JP2014103613A (en) Image processing apparatus, image processing method, image processing program
JP3821714B2 (en) Moving picture encoding apparatus and moving picture recording / reproducing apparatus
JP3663559B2 (en) Video coding method for real-time backward playback
JP2018074215A (en) Image processing apparatus
JP2011091592A (en) Image encoder, code converter, image recorder, image reproduction device, image encoding method, and integrated circuit
JP4765961B2 (en) Digital video recording device
JP5859100B2 (en) Image recording device
JP2005094800A (en) Moving picture re-encoding apparatus
JP2006319645A (en) Picture reproducer, method, program, and storage medium
JP2005159832A (en) Signal processor
JPH11220702A (en) Video recording and reproducing device, video display device and video transmission system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150331

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160308

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160408

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160920

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161003

R150 Certificate of patent or registration of utility model

Ref document number: 6028544

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150