JP2014110437A - Device, method and program for image reproduction - Google Patents
Device, method and program for image reproduction Download PDFInfo
- Publication number
- JP2014110437A JP2014110437A JP2012262202A JP2012262202A JP2014110437A JP 2014110437 A JP2014110437 A JP 2014110437A JP 2012262202 A JP2012262202 A JP 2012262202A JP 2012262202 A JP2012262202 A JP 2012262202A JP 2014110437 A JP2014110437 A JP 2014110437A
- Authority
- JP
- Japan
- Prior art keywords
- frame
- picture
- actual
- frame rate
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
本発明は、第1のフレームレートを有する第1の画像信号に対して動き補償型フレームレート変換を施して、第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換し、第2の画像信号を動画像符号化した符号化データを記録した記録部より符号化データを再生する画像再生装置、画像再生方法、画像再生プログラムに関する。 The present invention performs a motion compensation type frame rate conversion on a first image signal having a first frame rate, and has a second frame rate having a frame rate higher than the first frame rate. The present invention relates to an image reproduction apparatus, an image reproduction method, and an image reproduction program for reproducing encoded data from a recording unit that records encoded data obtained by converting a second image signal into moving image encoding.
近年、静止画像を撮影するためのデジタルスチルカメラは、動画像を撮影する機能を搭載するのが一般的となっている。動画像撮影機能を搭載したデジタルスチルカメラにおいては、15〜30fps(フレーム/秒)程度の低フレームレートのイメージセンサで撮像した画像信号を繰り返し出力して60fpsに変換する仕様のものが多い。 In recent years, digital still cameras for capturing still images are generally equipped with a function for capturing moving images. Many digital still cameras equipped with a moving image shooting function are designed to repeatedly output an image signal captured by an image sensor having a low frame rate of about 15 to 30 fps (frame / second) and convert it to 60 fps.
また、画像信号を60フィールドのインターレース(いわゆる60i)で出力する場合には、30fpsの画像信号のフレームを2−2プルダウンによって2フィールドに分割する仕様のものが多い。このような仕様となっている理由の1つは、デジタルスチルカメラ用のイメージセンサにおける最大フレームレートが制限されているからである。 In addition, when an image signal is output in 60-field interlace (so-called 60i), there are many specifications that divide a frame of a 30 fps image signal into two fields by 2-2 pull-down. One of the reasons for this specification is that the maximum frame rate in an image sensor for a digital still camera is limited.
デジタルスチルカメラは、撮影した画像信号を、イメージセンサによる撮像時のフレームレートが30fpsである場合には、30フレームのプログレッシブ(いわゆる30p)または60iのフォーマットの符号化データ(符号化ストリーム)として記録媒体に記録する。 The digital still camera records the captured image signal as 30 frame progressive (so-called 30p) or 60i format encoded data (encoded stream) when the frame rate at the time of imaging by the image sensor is 30 fps. Record on media.
動きの比較的速い被写体を例えば30fpsで撮影し、30fpsの画像信号を繰り返し出力して60fpsに変換した動画像を鑑賞すると、モーションジャダと称されるカクカクした動きが視認されてしまう。モーションジャダを低減させる解決策の1つは、動き補償型フレームレート変換を用いることである。具体的には、動き補償型フレームレート変換装置は、30fpsの画像信号に基づいて被写体の動きベクトルを検出し、予測補間した補間フレームを生成する。動き補償型フレームレート変換装置は、30fpsの画像信号の隣接する実フレーム間に補間フレームを内挿して60fpsにフレームレート変換する。 When a subject with relatively fast motion is photographed at, for example, 30 fps, and a moving image obtained by repeatedly outputting a 30 fps image signal and converting it to 60 fps is viewed, a jerky motion called motion judder is visually recognized. One solution to reduce motion judder is to use motion compensated frame rate conversion. Specifically, the motion-compensated frame rate conversion apparatus detects a motion vector of a subject based on an image signal of 30 fps, and generates an interpolation frame obtained by predictive interpolation. The motion compensation frame rate conversion apparatus interpolates an interpolation frame between adjacent real frames of a 30 fps image signal and converts the frame rate to 60 fps.
動き補償型フレームレート変換によって60fpsに変換した動画像では、モーションジャダが低減され、あたかも60fpsで撮像したような滑らかな動きとなる。動き補償型フレームレート変換によって60fpsに変換した画像信号を動画像符号化した符号化ストリームを記録媒体に記録しておけば、モーションジャダの少ない滑らかな再生画像を鑑賞することができる。 In the moving image converted to 60 fps by the motion compensation type frame rate conversion, the motion judder is reduced, and the movement is as smooth as if captured at 60 fps. If a coded stream obtained by moving-picture-coding an image signal converted to 60 fps by motion compensation frame rate conversion is recorded on a recording medium, a smooth reproduced image with little motion judder can be viewed.
ところが、60fpsに変換した画像信号を動画像符号化した符号化データを記録媒体に記録すると、モーションジャダを低減させる前の30fpsの画像信号を再生することができない。動き補償型フレームレート変換装置によって生成した補間フレームは30fpsの画像信号の実フレームと比較すると画像が劣化している場合がある。そこで、動き補償型フレームレート変換によってフレームレート変換する前の画像信号を再生できることが望まれる。 However, if the encoded data obtained by moving image encoding the image signal converted to 60 fps is recorded on a recording medium, the 30 fps image signal before the motion judder reduction cannot be reproduced. The interpolated frame generated by the motion-compensated frame rate conversion apparatus may have a degraded image as compared with the actual frame of the 30 fps image signal. Therefore, it is desired that the image signal before the frame rate conversion can be reproduced by the motion compensation type frame rate conversion.
本発明はこのような要望に対応するため、第1のフレームレートを有する第1の画像信号に対して動き補償型フレームレート変換を施して、第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換し、第2の画像信号を動画像符号化した符号化データを記録した記録部より、フレームレート変換する前の画像信号を再生することができる画像再生装置、画像再生方法、画像再生プログラムを提供することを目的とする。 In order to meet such a demand, the present invention performs motion compensated frame rate conversion on the first image signal having the first frame rate, so that the second frame rate is higher than the first frame rate. An image that can be reproduced from an image signal before frame rate conversion from a recording unit that records the encoded data obtained by converting the second image signal into a second image signal having a frame rate of It is an object to provide a playback device, an image playback method, and an image playback program.
本発明は、上述した従来の技術の課題を解決するため、第1のフレームレートを有する第1の画像信号を構成する実フレームより動き補償補間した補間フレームが生成され、前記実フレーム間に前記補間フレームを内挿することにより、前記第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換され、前記第2の画像信号を構成する前記実フレームのみがIピクチャのフレーム、または、他のPピクチャもしくはBピクチャより参照されるPピクチャもしくはBピクチャの参照フレームとして動画像符号化された符号化ストリームを記録する記録部(40)と、前記記録部より再生された符号化ストリームより、前記実フレームに基づいて生成されたフレームのみを抽出して実フレーム抽出ストリームを出力する実フレーム抽出部(50)と、前記実フレーム抽出ストリームを復号して復号データを出力する動画像復号部(70)とを備えることを特徴とする画像再生装置を提供する。 In order to solve the above-described problems of the related art, the present invention generates an interpolated frame subjected to motion compensation interpolation from an actual frame constituting the first image signal having the first frame rate. By interpolating an interpolated frame, only the actual frame constituting the second image signal is converted into a second image signal having a second frame rate higher than the first frame rate. A recording unit (40) for recording a coded stream encoded as a moving picture as a frame of an I picture or a reference frame of a P picture or B picture referenced by another P picture or B picture; Extract actual frames by extracting only the frames generated based on the actual frames from the reproduced stream. Actual frame extraction unit for outputting a stream (50), said to provide an image reproducing apparatus characterized by comprising a video decoding unit for outputting the decoded data by decoding the actual frame extraction stream (70).
また、本発明は、上述した従来の技術の課題を解決するため、第1のフレームレートを有する第1の画像信号を構成する実フレームより動き補償補間した補間フレームが生成され、前記実フレーム間に前記補間フレームを内挿することにより、前記第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換され、前記第2の画像信号を構成する前記実フレームのみがIピクチャのフレーム、または、他のPピクチャもしくはBピクチャより参照されるPピクチャもしくはBピクチャの参照フレームとして動画像符号化された符号化ストリームが記録された記録部(40)より、前記符号化ストリームを再生し、再生された符号化ストリームより、前記実フレームに基づいて生成されたフレームのみを抽出して実フレーム抽出ストリームを生成し、前記実フレーム抽出ストリームを復号して復号データを生成することを特徴とする画像再生方法を提供する。 In addition, in order to solve the above-described problems of the conventional technique, the present invention generates an interpolated frame subjected to motion compensation interpolation from an actual frame that constitutes the first image signal having the first frame rate. The interpolation frame is interpolated into a second image signal having a second frame rate that is higher than the first frame rate, and the actual image constituting the second image signal is converted into the second image signal. From a recording unit (40) in which a coded stream in which only a frame is an I picture frame or a moving picture coded as a reference frame of a P picture or B picture referenced by another P picture or B picture is recorded, The encoded stream is reproduced, and a frame generated based on the actual frame from the reproduced encoded stream is reproduced. It generates a real frame extraction stream by extracting said to provide an image reproducing method and generating a decoded data by decoding the actual frame extraction stream.
さらに、本発明は、上述した従来の技術の課題を解決するため、コンピュータに、第1のフレームレートを有する第1の画像信号を構成する実フレームより動き補償補間した補間フレームが生成され、前記実フレーム間に前記補間フレームを内挿することにより、前記第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換され、前記第2の画像信号を構成する前記実フレームのみがIピクチャのフレーム、または、他のPピクチャもしくはBピクチャより参照されるPピクチャもしくはBピクチャの参照フレームとして動画像符号化された符号化ストリームが記録された記録部(40)より、前記符号化ストリームを再生させる機能と、再生された符号化ストリームより、前記実フレームに基づいて生成されたフレームのみを抽出して実フレーム抽出ストリームを生成させる機能と、前記実フレーム抽出ストリームを復号して復号データを生成させる機能とを実現させることを特徴とする画像再生プログラムを提供する。 Furthermore, in order to solve the above-described problems of the related art, the present invention generates an interpolated frame in which motion compensation interpolation is performed from an actual frame constituting a first image signal having a first frame rate in a computer. By interpolating the interpolated frame between actual frames, the second image signal is converted into a second image signal having a second frame rate higher than the first frame rate, thereby forming the second image signal. A recording unit (40) in which an encoded stream in which a moving image is encoded as an I picture frame or a reference frame of a P picture or B picture referred to by another P picture or B picture is recorded ) To reproduce the encoded stream and the actual frame from the reproduced encoded stream. Provided is an image reproduction program that realizes a function of generating only a frame generated according to the above and generating a real frame extraction stream and a function of decoding the real frame extraction stream and generating decoded data To do.
本発明の画像再生装置、画像再生方法、画像再生プログラムによれば、第1のフレームレートを有する第1の画像信号に対して動き補償型フレームレート変換を施して、第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換し、第2の画像信号を動画像符号化した符号化データを記録した記録部より、フレームレート変換する前の画像信号を再生することができる。 According to the image reproduction device, the image reproduction method, and the image reproduction program of the present invention, the motion compensation type frame rate conversion is performed on the first image signal having the first frame rate, so that the first frame rate is higher than the first frame rate. The image signal before the frame rate conversion is converted from the recording unit that records the encoded data obtained by converting the second image signal into the second image signal having a high frame rate and the moving image encoding of the second image signal. Can be played.
以下、一実施形態の画像再生装置、画像再生方法、画像再生プログラムについて、添付図面を参照して説明する。まず、イメージセンサより出力された画像信号をフレームレート変換して動画像符号化し、記録部に記録する撮像記録装置の構成及び動作について説明する。 Hereinafter, an image reproduction apparatus, an image reproduction method, and an image reproduction program according to an embodiment will be described with reference to the accompanying drawings. First, the configuration and operation of an imaging recording apparatus that converts an image signal output from an image sensor into a moving image code by converting the frame rate and records it in a recording unit will be described.
<撮像記録装置の第1構成例>
図1において、イメージセンサ10は、被写体を30fpsのフレームレートで撮像した画像信号S10を出力する。画像信号S10は、動き補償型フレームレート変換装置であるフレームレート変換部20に入力される。第1構成例におけるフレームレート変換部20はいわゆる倍速変換回路である。
<First Configuration Example of Imaging Recording Apparatus>
In FIG. 1, an
フレームレート変換部20は、画像信号S10におけるフレーム間の動きベクトルを検出し、動きベクトルに基づいて予測補間(動き補償補間)した補間フレームを生成する。フレームレート変換部20は、画像信号S10における隣接するフレーム間に補間フレームを内挿して60fpsにフレームレート変換した画像信号S20を出力する。
The frame
フレームレート変換部20は、画像信号S20におけるそれぞれのフレームが、画像信号S10のフレームである実フレームであるか、補間フレームであるかを示すフラグ信号Sfgを生成して出力する。
The frame
図2を用いて、フレームレート変換部20の第1の具体的構成例及びその動作について説明する。第1の具体的構成例におけるフレームレート変換部20をフレームレート変換部201とする。図2において、画像信号S10を構成するそれぞれの画素データは、メモリ201,動きベクトル検出部202,補間部203,メモリ204に順次入力される。メモリ201は、入力された画素データを1フレーム期間遅延させる。1フレーム遅延の画素データは、動きベクトル検出部202及び補間部203に入力される。
A first specific configuration example and operation of the frame
動きベクトル検出部202は、公知の手法によって、それぞれの画素単位または複数の画素よりなるブロック単位で、フレーム間の動きベクトルMVを検出する。補間部203は、動きベクトルMVを参照し、画像信号S10の画素データとメモリ201より出力された1フレーム遅延の画素データとに基づいて、画像信号S10における隣接するフレーム間に内挿する補間フレームを構成する補間画素データを生成する。補間部203によって生成された補間画素データは、メモリ204に入力される。
The motion
メモリ204は、タイミング制御部25による制御に基づいて、画像信号S10の画素データと、補間部203からの補間画素データとを、1/60秒毎に交互に読み出して、60fpsのフレームレートを有する画像信号S20を出力する。タイミング制御部25は、メモリ204より出力される画像信号S20のフレームが実フレームであるタイミングでは例えば“0”(ロー)、補間フレームであるタイミングでは例えば“1”(ハイ)のフラグ信号Sfgを生成して出力する。
Based on the control by the timing control unit 25, the
タイミング制御部25は、実フレームを出力するタイミングと補間フレームを出力するタイミングとを識別するためのフラグ信号Sfgを発生するフラグ発生部として動作している。 The timing control unit 25 operates as a flag generation unit that generates a flag signal Sfg for identifying a timing for outputting an actual frame and a timing for outputting an interpolation frame.
図1に戻り、フレームレート変換部20(201)より出力された画像信号S20とフラグ信号Sfgは、動画像符号化部30に入力される。動画像符号化部30は、入力された画像信号S20を符号化する。この際、動画像符号化部30は、フラグ信号Sfgを参照して、画像信号S20を符号化する方法を決定する。
Returning to FIG. 1, the image signal S20 and the flag signal Sfg output from the frame rate conversion unit 20 (20 1 ) are input to the moving
動画像符号化部30には、画像信号S20及びフラグ信号Sfgが入力される。動画像符号化部30は、画像信号S20を符号化する。動画像符号化部30は、画像信号S20を符号化する際の画像フレームのタイプとして、Iピクチャ(Intra Coded Picture)、Pピクチャ(Predictive Coded Picture)、Bピクチャ(Bidirectional Predictive Coded Picture)のいずれかのタイプを用いる。
The moving
Iピクチャは、フレーム内予測符号化のみを用いたフレームである。Pピクチャは、フレーム内予測符号化だけでなく、過去のフレームを参照する前方向フレーム間予測符号化を用いることができるフレームである。Bピクチャは、フレーム内予測符号化だけでなく、過去と未来のそれぞれのフレームを参照する双方向フレーム間予測符号化を用いることができるフレームである。 An I picture is a frame that uses only intraframe predictive coding. The P picture is a frame that can use not only intra-frame prediction encoding but also forward inter-frame prediction encoding that refers to a past frame. A B picture is a frame that can use not only intraframe predictive coding but also bidirectional interframe predictive coding that refers to past and future frames.
Iピクチャは、GOP(Group of Picture)と称されるピクチャの集合体の先頭フレームとして割り当てられる。Iピクチャは、GOP内の参照フレームの基本となる。Iピクチャは他のフレームを参照しないため、サーチ等の特殊再生の際に用いるのに好適である。Pピクチャ及びBピクチャを用いると、自身のフレームと参照フレームとの差分だけを符号化するため圧縮効率のよい符号化を行うことができる。 The I picture is assigned as the first frame of a group of pictures called GOP (Group of Picture). The I picture is the basis of the reference frame in the GOP. Since the I picture does not refer to other frames, it is suitable for use in special reproduction such as search. When the P picture and the B picture are used, only the difference between the own frame and the reference frame is encoded, so that encoding with high compression efficiency can be performed.
図3を用いて、フレームレート変換部201及び動画像符号化部30を備える第1構成例の撮像記録装置がピクチャタイプをどのように決定して画像信号S20を符号化するかについて説明する。図3の(a)は、イメージセンサ10から出力される画像信号S10のフレームf0,f2,f4,…を示している。ここでは、画像信号S10のフレームレートは30fpsである。
With reference to FIG. 3 will be described how the frame
図3の(b)は、フレームレート変換部20(201)より出力される画像信号S20のフレームf0,f1,f2,f3,f4,…を示している。図3の(a),(b)を比較すれば分かるように、フレームf0,f2,f4,f6,…は実フレームであり、フレームf1,f3,f5,f7,…は補間フレームである。 FIG. 3B shows frames f0, f1, f2, f3, f4,... Of the image signal S20 output from the frame rate conversion unit 20 (20 1 ). As can be seen by comparing (a) and (b) of FIG. 3, the frames f0, f2, f4, f6,... Are real frames, and the frames f1, f3, f5, f7,.
図3の(b)における例えばフレームf1は、図3の(a)におけるフレームf2が入力された後に得られる。従って、実際には、図3の(b)に示す画像信号S20は、図3の(b)のフレームf1の位置が図3の(a)のフレームf2よりも後ろ側へとタイミングがずれることになる。図3では、理解を容易にするため、フレームレート変換部20における遅延時間を無視して、画像信号S10のフレームと画像信号S20のフレームとのタイミングを合わせるように図示している。
For example, the frame f1 in FIG. 3B is obtained after the frame f2 in FIG. 3A is input. Accordingly, in practice, the image signal S20 shown in FIG. 3B is shifted in timing from the position of the frame f1 in FIG. 3B to the rear side of the frame f2 in FIG. become. In FIG. 3, for the sake of easy understanding, the delay time in the frame
タイミング制御部205は、図3の(c)に示すように、フレームレート変換部20が、画像信号S20のフレームとして実フレームf0,f2,f4,f6,…を出力する場合にはハイ、補間フレームf1,f3,f5,f7,…を出力する場合にはローのフラグ信号Sfgを出力する。
As shown in FIG. 3 (c), the
動画像符号化部30は、一例として、図3の(d)に示すように、フレームf0,f4,…をIピクチャI0,I4,…のフレームとして符号化し、フレームf1〜f3,f5〜f7,…を、PピクチャP1〜P3,P5〜P7,…のフレームとして符号化した符号化ストリームS30を生成する。ここでは簡略化のためBピクチャを用いていないが、Bピクチャのフレームを含むように符号化ストリームS30を生成してもよい。
As an example, the moving
動画像符号化部30は、図3の(c),(d)より分かるように、フラグ信号Sfgがローである実フレームのみにIピクチャを割り当てる。また、動画像符号化部30は、PピクチャまたはBピクチャが参照する参照フレームを、フラグ信号Sfgがローである実フレームに基づいて生成したIピクチャ,Pピクチャ,Bピクチャのフレームのみとして符号化する。さらに、動画像符号化部30は、フラグ信号Sfgがハイである補間フレームに対しては、参照フレームとはならないPピクチャ,Bピクチャのフレームのみとして符号化する。
As can be seen from FIGS. 3C and 3D, the moving
図3の(d)の場合には、フレームf2(PピクチャP2)がフレームf3(PピクチャP3)の参照フレーム、フレームf6(PピクチャP6)がフレームf7(PピクチャP7)の参照フレームとなっている。フレームf1,f2(PピクチャP1,P2)はフレームf0(IピクチャI0)を参照し、フレームf5,f6はフレームf4(IピクチャI4)を参照している。 In the case of FIG. 3D, the frame f2 (P picture P2) is the reference frame of the frame f3 (P picture P3), and the frame f6 (P picture P6) is the reference frame of the frame f7 (P picture P7). ing. Frames f1 and f2 (P pictures P1 and P2) refer to frame f0 (I picture I0), and frames f5 and f6 refer to frame f4 (I picture I4).
通常の撮像記録装置においては、画像信号の性質等に基づいてIピクチャ,Pピクチャ,Bピクチャのピクチャタイプを割り当て、Iピクチャ,Pピクチャ,Bピクチャを一定のシーケンスで順に割り当てていくのが一般的である。本実施形態においては、フラグ信号Sfgを参照して、符号化しようとするフレームが実フレームであるか補間フレームであるかによって、ピクチャタイプを決定し、参照フレームとするか否かを決定して、符号化ストリームS30を生成する。 In an ordinary imaging / recording apparatus, it is common to assign picture types of I picture, P picture, and B picture on the basis of the characteristics of the image signal and so on, and assign I picture, P picture, and B picture in order in a certain sequence. Is. In the present embodiment, referring to the flag signal Sfg, the picture type is determined depending on whether the frame to be encoded is an actual frame or an interpolated frame, and whether or not to be a reference frame is determined. The encoded stream S30 is generated.
補間フレームはフレームレート変換部20(201)において動きベクトル推定して生成したフレームであるため、変換誤差を含む場合がある。補間フレームを、符号化ストリームS30を生成する際の参照フレームとして用いると、複数のフレームに変換誤差が蓄積していき、画像劣化を招いてしまう。第1構成例において、動画像符号化部30は、補間フレームをIピクチャのフレーム及び他のフレームから参照される参照フレームとして用いないように符号化して符号化ストリームS30を生成する。従って、第1構成例の撮像記録装置によれば、フレームレート変換部20における変換誤差の影響による画像劣化を極力少なくすることができる。
Since the interpolation frame is a frame generated by estimating the motion vector in the frame rate conversion unit 20 (20 1 ), it may include a conversion error. When the interpolation frame is used as a reference frame when generating the encoded stream S30, conversion errors accumulate in a plurality of frames, leading to image degradation. In the first configuration example, the moving
動画像符号化部30より出力された符号化ストリームS30は、記録部40に入力されて記録される。記録部40は、記録媒体と、記録媒体に符号化ストリームS30を記録させ、記録媒体に記録した符号化ストリームS30を再生させる記録再生駆動部とを含む。記録媒体は、光ディスク,半導体メモリ,ハードディスク・ドライブ等のいずれでもよく、任意の記録媒体である。
The encoded stream S30 output from the moving
<撮像記録装置の第2構成例>
第2構成例においては、図1におけるイメージセンサ10は、被写体を15fpsのフレームレートで撮像した画像信号S10を出力する。第2構成例におけるフレームレート変換部20は15fpsを60fpsに変換するいわゆる4倍速変換回路である。
<Second Configuration Example of Imaging Recording Apparatus>
In the second configuration example, the
図4を用いて、第2構成例におけるフレームレート変換部20の具体的構成及び動作について説明する。第2構成例におけるフレームレート変換部20をフレームレート変換部202とする。図2に示す第1構成例のフレームレート変換部201と実質的に同一部分には同一符号を付し、その説明を省略する。
A specific configuration and operation of the frame
図4において、動きベクトル検出部202は、補間部2031,2032,2033にそれぞれ動きベクトルMV1,MV2,MV3を供給する。15fpsを60fpsに変換するには、フレームレート変換部202は、画像信号S10における隣接するフレーム間に3フレーム分の補間フレームを内挿する必要がある。従って、3つの補間部2031,2032,2033が必要となる。
In FIG. 4, the motion
図5を用いて、フレームレート変換部202及び動画像符号化部30を備える第2構成例の撮像記録装置がピクチャタイプをどのように決定して画像信号S20を符号化するかについて説明する。図5の(a)は、イメージセンサ10から出力される画像信号S10のフレームf0,f4,f8,…を示している。ここでは、画像信号S10のフレームレートは15fpsである。
With reference to FIG. 5, a description will be given if the frame
図5の(b)は、フレームレート変換部20より出力される画像信号S20のフレームf0,f1,f2,f3,f4,…を示している。図5の(a),(b)を比較すれば分かるように、フレームf0,f4,f8,f12,…は実フレームであり、フレームf1〜f3,f5〜f7,f9〜f11,f13〜f15,…は補間フレームである。ここでも、フレームレート変換部20における遅延時間を無視して、画像信号S10のフレームと画像信号S20のフレームとを合わせるように図示している。
FIG. 5B shows frames f0, f1, f2, f3, f4,... Of the image signal S20 output from the frame
フラグ発生部であるタイミング制御部205は、図5の(c)に示すように、フレームレート変換部20が、画像信号S20のフレームとして実フレームf0,f4,f8,f12,…を出力するタイミングではロー、補間フレームf1〜f3,f5〜f7,f9〜f11,f13〜f15,…を出力するタイミングではハイのフラグ信号Sfgを出力する。
As shown in FIG. 5C, the
動画像符号化部30は、一例として、図5の(d)に示すように、フレームf0,f8,…をIピクチャI0,I8,…のフレームとして符号化し、フレームf1〜f7,f9〜f15,…を、PピクチャP1〜P7,P9〜P15,…のフレームとして符号化した符号化ストリームS30を生成する。ここでも、Bピクチャのフレームを含むように符号化ストリームS30を生成してもよい。
As an example, the moving
第2構成例においても、動画像符号化部30は、フラグ信号Sfgがローである実フレームのみにIピクチャを割り当てる。また、動画像符号化部30は、Pピクチャ及びBピクチャが参照する参照フレームを、フラグ信号Sfgがローである実フレームに基づいて生成したIピクチャ,Pピクチャ,Bピクチャのフレームのみとして符号化する。さらに、動画像符号化部30は、フラグ信号Sfgがハイである補間フレームに対しては、参照フレームとはならないPピクチャ,Bピクチャのフレームのみとして符号化する。
Also in the second configuration example, the moving
図5の(d)の場合には、フレームf4(PピクチャP4)がフレームf5〜f7(PピクチャP5〜P7)の参照フレーム、フレームf12(PピクチャP12)がフレームf13〜f15(PピクチャP13〜P15)の参照フレームとなっている。フレームf1〜f4(PピクチャP1〜P4)はフレームf0(IピクチャI0)を参照し、フレームf9〜f12(PピクチャP9〜P12)はフレームf8(IピクチャI8)を参照している。 In the case of FIG. 5D, the frame f4 (P picture P4) is the reference frame of the frames f5 to f7 (P pictures P5 to P7), and the frame f12 (P picture P12) is the frames f13 to f15 (P picture P13). To P15). Frames f1 to f4 (P pictures P1 to P4) refer to frame f0 (I picture I0), and frames f9 to f12 (P pictures P9 to P12) refer to frame f8 (I picture I8).
動画像符号化部30より出力された符号化ストリームS30は、記録部40に入力されて記録される。
The encoded stream S30 output from the moving
<一実施形態の画像再生装置>
図6及び図7を用いて、第1または第2構成例の撮像記録装置によって記録部40に記録された符号化ストリームS30を再生する一実施形態の画像再生装置の具体的構成及び動作について説明する。図7は、第1構成例の撮像記録装置によって生成された符号化ストリームS30が記録部40に記録されている場合のタイミングチャートを示している。
<Image Reproducing Apparatus of One Embodiment>
A specific configuration and operation of an image reproduction apparatus according to an embodiment for reproducing the encoded stream S30 recorded in the
図6に示すように、一実施形態の画像再生装置は、記録部40,実フレーム抽出部50,モード選択部60,動画像復号部70,フレームレート変換部80,モード選択部90を備える。一実施形態の画像再生装置は、記録部40に記録された符号化ストリームS30を再生するモードとして、通常再生モードと原画再生モードとの2つのモードを有する。
As shown in FIG. 6, the image reproduction device of one embodiment includes a
まず、通常再生モードにおける動作について説明する。図6において、記録部40より再生された符号化ストリームS40は、実フレーム抽出部50及びモード選択部60に入力される。通常再生モードでは、モード選択部60は、記録部40より再生された符号化ストリームS40を選択して、動画像復号部70に供給する。
First, the operation in the normal playback mode will be described. In FIG. 6, the encoded stream S40 reproduced from the
動画像復号部70は入力された符号化ストリームS40を復号し、復号データS70をフレームレート変換部80及びモード選択部90に供給する。モード選択部90は、動画像復号部70より出力された復号データS70を選択して出力する。
The
通常再生モードによれば、記録部40に記録された符号化ストリームS30を再生して復号するという通常の動作を行うことにより、モーションジャダが少なくて滑らかで、変換誤差の影響による画像劣化の少ない高画質な再生画像を鑑賞することができる。
According to the normal reproduction mode, the normal operation of reproducing and decoding the encoded stream S30 recorded in the
次に、原画再生モードにおける動作について説明する。図7の(a)は、記録部40より再生された符号化ストリームS40を示している。図7の(a)に示す符号化ストリームS40は、図3の(d)に示す符号化ストリームS30と同じである。図3で説明したように、IピクチャI0,I4,…及びPピクチャP2,P6,…が実フレームに基づいて生成したフレームである。
Next, the operation in the original image reproduction mode will be described. FIG. 7A shows an encoded stream S40 reproduced from the
実フレーム抽出部50は、図7の(b)に示すように、符号化ストリームS40から、実フレームに基づいて生成したIピクチャI0,PピクチャP2,IピクチャI4,PピクチャP6,…のみを抽出して、実フレーム抽出ストリームS50を出力する。原画再生モードでは、モード選択部60は、実フレーム抽出部50より出力された実フレーム抽出ストリームS50を選択して、動画像復号部70に供給する。
As shown in FIG. 7B, the actual
動画像復号部70は入力された実フレーム抽出ストリームS50を復号する。動画像復号部70は、図7の(c)に示すように、フレームf0,f2,f4,f6,…よりなる復号データS70をフレームレート変換部80及びモード選択部90に供給する。復号データS70のフレームレートは30fpsである。原画再生モードにおける復号データS70は、通常再生モードにおける復号データS70とは異なるが、便宜上、同じ符号で示している。
The moving
実フレーム抽出部50で抽出したPピクチャP2,P6,…は、補間フレームのピクチャを参照しない。従って、符号化ストリームS40から補間フレームに基づいて生成したPピクチャ(またはBピクチャ)を取り除いても、動画像復号部70は実フレーム抽出ストリームS50を復号することができる。
The P pictures P2, P6,... Extracted by the real
フレームレート変換部80は、入力された復号データS70を単純に2倍して、60fpsになるように変換する。図6におけるフレームレート変換部80は、図1における動き補償補間した補間フレームを生成するフレームレート変換部20とは異なり、復号データS70を単純に倍速変換する単純倍速変換部である。具体的には、フレームレート変換部80は、図7の(d)に示すように、フレームf0,f2,f4,f6,…をそれぞれ2回ずつ繰り返して出力することにより、60fpsのフレームレートを有する倍速復号データS80を生成する。
The frame
原画再生モードでは、モード選択部90は、フレームレート変換部80より出力された倍速復号データS80を選択して出力する。
In the original image playback mode, the
原画再生モードにおいてモード選択部90より出力される倍速復号データS80は、記録部40に記録された符号化ストリームS30を生成する過程で、フレームレート変換部20において実フレーム間に内挿した動き補償補間による補間フレームの影響は全くない。
The double-speed decoded data S80 output from the
倍速復号データS80は、フレームレートは異なるものの、イメージセンサ10より出力された画像信号S10と同等の画質である。本実施形態によれば、動き補償型フレームレート変換によってフレームレート変換する前の画像信号を再生することができる。なお、厳密には、倍速復号データS80は符号化によるロスを含むが、無視してよい。
The double-speed decoded data S80 has an image quality equivalent to that of the image signal S10 output from the
第2構成例の撮像記録装置によって生成された符号化ストリームS30が記録部40に記録されている場合には、フレームレート変換部80は、入力された復号データS70を単純に4倍して、60fpsになるように変換すればよい。
When the encoded stream S30 generated by the imaging recording apparatus of the second configuration example is recorded in the
なお、フレームレート変換部80を省略した構成としてもよい。
The frame
図1において、フレームレート変換部20及び動画像符号化部30の部分をマイクロコンピュータによって構成してもよい。図6において、記録部40より符号化ストリームS40を再生させる部分、実フレーム抽出部50,モード選択部60,動画像復号部70,フレームレート変換部80,モード選択部90の部分をマイクロコンピュータによって構成してもよい。マイクロコンピュータに本実施形態のように動作させる画像再生プログラムを搭載して、マイクロコンピュータによって本実施形態の画像再生装置と同等の機能を実現させてもよい。
In FIG. 1, the frame
本発明は以上説明した各実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。 The present invention is not limited to the embodiments described above, and various modifications can be made without departing from the scope of the present invention.
40 記録部
50 実フレーム抽出部
60,90 モード選択部
70 動画像復号部
80 フレームレート変換部
40
Claims (5)
前記記録部より再生された符号化ストリームより、前記実フレームに基づいて生成されたフレームのみを抽出して実フレーム抽出ストリームを出力する実フレーム抽出部と、
前記実フレーム抽出ストリームを復号して復号データを出力する動画像復号部と、
を備えることを特徴とする画像再生装置。 An interpolation frame obtained by motion compensation interpolation is generated from an actual frame constituting the first image signal having the first frame rate. By interpolating the interpolation frame between the actual frames, the interpolation frame is calculated from the first frame rate. Is converted into a second image signal having a second frame rate with a higher frame rate, and only the actual frame constituting the second image signal is a frame of an I picture, or another P picture or B picture. A recording unit that records an encoded stream that has been encoded as a reference frame of a P picture or B picture that is referred to;
An actual frame extraction unit that extracts only a frame generated based on the actual frame from the encoded stream reproduced from the recording unit and outputs an actual frame extraction stream;
A video decoding unit that decodes the real frame extraction stream and outputs decoded data;
An image reproducing apparatus comprising:
前記動画像復号部より出力された復号データと、前記フレームレート変換部より出力された前記第2のフレームレートに変換された復号データとを選択する第2の選択部と、
をさらに備えることを特徴とする請求項2記載の画像再生装置。 A first selection unit that selects an encoded stream reproduced from the recording unit and an actual frame extraction stream output from the actual frame extraction unit;
A second selection unit that selects the decoded data output from the moving image decoding unit and the decoded data converted to the second frame rate output from the frame rate conversion unit;
The image reproducing apparatus according to claim 2, further comprising:
再生された符号化ストリームより、前記実フレームに基づいて生成されたフレームのみを抽出して実フレーム抽出ストリームを生成し、
前記実フレーム抽出ストリームを復号して復号データを生成する
ことを特徴とする画像再生方法。 An interpolation frame obtained by motion compensation interpolation is generated from an actual frame constituting the first image signal having the first frame rate. By interpolating the interpolation frame between the actual frames, the interpolation frame is calculated from the first frame rate. Is converted into a second image signal having a second frame rate with a higher frame rate, and only the actual frame constituting the second image signal is a frame of an I picture, or another P picture or B picture. Playing back the encoded stream from the recording unit in which the encoded stream encoded as a moving picture is recorded as a reference frame of the P picture or B picture to be referenced,
From the reproduced encoded stream, only a frame generated based on the actual frame is extracted to generate an actual frame extraction stream,
An image reproduction method, comprising: decoding the actual frame extraction stream to generate decoded data.
第1のフレームレートを有する第1の画像信号を構成する実フレームより動き補償補間した補間フレームが生成され、前記実フレーム間に前記補間フレームを内挿することにより、前記第1のフレームレートよりもフレームレートの高い第2のフレームレートを有する第2の画像信号に変換され、前記第2の画像信号を構成する前記実フレームのみがIピクチャのフレーム、または、他のPピクチャもしくはBピクチャより参照されるPピクチャもしくはBピクチャの参照フレームとして動画像符号化された符号化ストリームが記録された記録部より、前記符号化ストリームを再生させる機能と、
再生された符号化ストリームより、前記実フレームに基づいて生成されたフレームのみを抽出して実フレーム抽出ストリームを生成させる機能と、
前記実フレーム抽出ストリームを復号して復号データを生成させる機能と、
を実現させることを特徴とする画像再生プログラム。 On the computer,
An interpolation frame obtained by motion compensation interpolation is generated from an actual frame constituting the first image signal having the first frame rate. By interpolating the interpolation frame between the actual frames, the interpolation frame is calculated from the first frame rate. Is converted into a second image signal having a second frame rate with a higher frame rate, and only the actual frame constituting the second image signal is a frame of an I picture, or another P picture or B picture. A function of reproducing the encoded stream from a recording unit in which an encoded stream encoded as a moving picture is recorded as a reference frame of a P picture or B picture to be referred to;
A function of extracting only frames generated based on the actual frame from the reproduced encoded stream and generating an actual frame extraction stream;
A function of decoding the actual frame extraction stream to generate decoded data;
An image reproduction program characterized by realizing the above.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012262202A JP6028544B2 (en) | 2012-11-30 | 2012-11-30 | Image reproduction apparatus, image reproduction method, and image reproduction program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012262202A JP6028544B2 (en) | 2012-11-30 | 2012-11-30 | Image reproduction apparatus, image reproduction method, and image reproduction program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014110437A true JP2014110437A (en) | 2014-06-12 |
JP6028544B2 JP6028544B2 (en) | 2016-11-16 |
Family
ID=51030861
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012262202A Active JP6028544B2 (en) | 2012-11-30 | 2012-11-30 | Image reproduction apparatus, image reproduction method, and image reproduction program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6028544B2 (en) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003333540A (en) * | 2002-05-13 | 2003-11-21 | Hitachi Ltd | Frame rate converting apparatus, video display apparatus using the same, and a television broadcast receiving apparatus |
JP2007089137A (en) * | 2005-09-19 | 2007-04-05 | Sharp Corp | Adaptive media play-out by server media processing for performing robust streaming |
JP2007274679A (en) * | 2006-03-09 | 2007-10-18 | Sony Corp | Frame rate conversion system, frame rate conversion method, transmitter, receiver equipment |
JP2011139211A (en) * | 2009-12-28 | 2011-07-14 | Renesas Electronics Corp | Image processing device, and image processing method |
-
2012
- 2012-11-30 JP JP2012262202A patent/JP6028544B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003333540A (en) * | 2002-05-13 | 2003-11-21 | Hitachi Ltd | Frame rate converting apparatus, video display apparatus using the same, and a television broadcast receiving apparatus |
JP2007089137A (en) * | 2005-09-19 | 2007-04-05 | Sharp Corp | Adaptive media play-out by server media processing for performing robust streaming |
JP2007274679A (en) * | 2006-03-09 | 2007-10-18 | Sony Corp | Frame rate conversion system, frame rate conversion method, transmitter, receiver equipment |
JP2011139211A (en) * | 2009-12-28 | 2011-07-14 | Renesas Electronics Corp | Image processing device, and image processing method |
Also Published As
Publication number | Publication date |
---|---|
JP6028544B2 (en) | 2016-11-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100906957B1 (en) | Adaptive video processing using sub-frame metadata | |
JP4849130B2 (en) | Image processing apparatus, image processing method, and program | |
US20100092151A1 (en) | Image reproducing apparatus, image reproducing method, image capturing apparatus, and control method therefor | |
JP4887750B2 (en) | Image processing apparatus, control method, and program | |
JP2008228282A (en) | Image processing device | |
KR19990072968A (en) | Picture signal processing system, decoder, picture signal processing method, and decoding method | |
WO2014010224A1 (en) | Video compression device, video decoding device, image compression device, image decoding device, imaging device, and program | |
US20100277613A1 (en) | Image recording device and image reproduction device | |
US20080181314A1 (en) | Image coding apparatus and image coding method | |
JP5159927B2 (en) | Moving picture decoding apparatus and moving picture decoding method | |
JP6028544B2 (en) | Image reproduction apparatus, image reproduction method, and image reproduction program | |
JP2008072182A (en) | Moving picture decoding device, moving picture decoding method, moving picture decoding program, moving picture encoding device, moving picture encoding method, moving picture encoding program, and moving picture encoding and decoding device | |
JP4289055B2 (en) | Transcoder and recording / reproducing apparatus using the same | |
JP5248583B2 (en) | Moving picture decoding apparatus and moving picture decoding method | |
JP2014103613A (en) | Image processing apparatus, image processing method, image processing program | |
JP3821714B2 (en) | Moving picture encoding apparatus and moving picture recording / reproducing apparatus | |
JP3663559B2 (en) | Video coding method for real-time backward playback | |
JP2018074215A (en) | Image processing apparatus | |
JP2011091592A (en) | Image encoder, code converter, image recorder, image reproduction device, image encoding method, and integrated circuit | |
JP4765961B2 (en) | Digital video recording device | |
JP5859100B2 (en) | Image recording device | |
JP2005094800A (en) | Moving picture re-encoding apparatus | |
JP2006319645A (en) | Picture reproducer, method, program, and storage medium | |
JP2005159832A (en) | Signal processor | |
JPH11220702A (en) | Video recording and reproducing device, video display device and video transmission system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150331 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160215 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160308 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160408 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160920 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20161003 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6028544 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |