JP4674535B2 - Recording / reproducing apparatus and recording / reproducing method, recording apparatus and recording method, and reproducing apparatus and reproducing method - Google Patents
Recording / reproducing apparatus and recording / reproducing method, recording apparatus and recording method, and reproducing apparatus and reproducing method Download PDFInfo
- Publication number
- JP4674535B2 JP4674535B2 JP2005352204A JP2005352204A JP4674535B2 JP 4674535 B2 JP4674535 B2 JP 4674535B2 JP 2005352204 A JP2005352204 A JP 2005352204A JP 2005352204 A JP2005352204 A JP 2005352204A JP 4674535 B2 JP4674535 B2 JP 4674535B2
- Authority
- JP
- Japan
- Prior art keywords
- encoding
- picture
- predictive
- scene
- decoding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
本発明は、記録再生装置および記録再生方法、記録装置および記録方法、並びに、再生装置および再生方法に関し、特に、例えば、動画像データの画像の劣化を抑えつつ、圧縮率を向上させることができるようにする記録再生装置および記録再生方法、記録装置および記録方法、並びに、再生装置および再生方法に関する。 The present invention relates to a recording and reproducing apparatus and a recording and reproducing method, a recording apparatus and a recording method, and relates to playback apparatus and how, in particular, for example, while suppressing the deterioration of the image of the moving image data, is possible to improve the compression ratio recording and reproducing apparatus and a recording and reproducing method to be, recording apparatus and recording method, and to a playback apparatus and how.
例えば、動画データを記録し、記録した動画像データを再生するハードディスクレコーダ等の記録再生装置によれば、ハードディスクの記録容量を節約するために、記録する動画像データに対して、例えば、MPEG(Moving Picture Expert Group)方式による予測符号化等の符号化(圧縮)処理を施すことで、動画データのデータ量が少なくされる。 For example, according to a recording / reproducing apparatus such as a hard disk recorder that records moving image data and reproduces the recorded moving image data, in order to save the recording capacity of the hard disk, for example, MPEG ( By performing encoding (compression) processing such as predictive encoding by the Moving Picture Expert Group) method, the data amount of moving image data is reduced.
なお、フレームレートを低くして、1ピクチャ(フレームまたはフィールド)あたりの情報量を多くすることにより、ピクチャの画質の劣化を抑えるモードと、1ピクチャあたりの情報量を減らすことにより、ピクチャの画質は劣化するが、通常のフレームレートで動画像を符号化するモードとを有する記録再生装置が、例えば、特許文献1に記載されている。
ところで、例えばMPEGでは、表示順に連続する、例えば、15枚等のピクチャをGOP(Group Of Pictures)として、GOP単位で予測符号化が行われる。従って、GOPを構成する(表示順で)隣接するピクチャ同士が類似していない場合には、一方のピクチャから予測画像を得て、その予測画像を用いて、他方のピクチャを符号化するとき、符号量が増加する(圧縮率が低下する)。一方、符号量を抑えようとすれば、復号時に得られる画質が劣化する。 By the way, in MPEG, for example, predictive coding is performed in units of GOPs using, for example, 15 pictures or the like consecutive in the display order as GOPs (Group Of Pictures). Therefore, when adjacent pictures that make up the GOP are not similar (in display order), when obtaining a predicted image from one picture and using the predicted image to encode the other picture, The code amount increases (compression rate decreases). On the other hand, if the code amount is suppressed, the image quality obtained at the time of decoding deteriorates.
本発明は、このような状況に鑑みてなされたものであり、画質の劣化を抑えつつ、圧縮率を向上させる(符号量を低減する)ことができるようにするものである。 The present invention has been made in view of such a situation, and is capable of improving the compression rate (reducing the code amount) while suppressing deterioration in image quality.
本発明の第1の側面の記録再生装置は、動画像データを記録媒体に記録し、前記記録媒体から前記動画像データを再生する記録再生装置において、複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出する検出手段と、前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択する選択手段と、前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報を取得する取得手段と、前記画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをするグループ分け手段と、前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化を行う第1の符号化手段と、前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化を行う第2の符号化手段と、前記予測符号化により得られた第1の符号化データ、および前記非予測符号化により得られた第2の符号化データを、前記記録媒体に記録する記録制御手段と、前記第1および第2の符号化データを復号する復号順に、前記記録媒体から前記第1および第2の符号化データを読み出す読み出し制御手段と、前記グループ毎に、前記記録媒体から読み出された前記第1の符号化データに対して、前記予測符号化に対応する予測復号を行う第1の復号手段と、前記記録媒体から読み出された前記第2の符号化データに対して、前記非予測符号化に対応する非予測復号を行う第2の復号手段と、前記予測復号および前記非予測復号によって得られるピクチャを表示順に出力させる出力制御手段とを備え、前記第1の符号化手段は、前記予測符号化として、MPEG(Moving Picture Expert Group)符号化を行い、前記第2の符号化手段は、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行い、前記第1の復号手段は、前記予測復号として、前記MPEG符号化に対応するMPEG復号を行い、前記MPEG復号の途中で得られるDCT(Discrete Cosine Transform)係数を記録する記録手段を有し、前記第2の復号手段は、前記非予測復号として、前記ウェーブレット変換の逆変換を用いたイントラ復号を行い、前記出力制御手段は、前記MPEG復号により得られるピクチャを出力する場合、前記記録手段に記録された前記DCT係数を、表示順に、前記ピクチャに復号させて出力させる。
前記選択手段は、前記ピクチャ間差値が所定値以上のピクチャが、所定数以上存在するか否かを判断し、前記ピクチャ間差値が前記所定値以上のピクチャが、前記所定数以上存在すると判断した場合、前記非予測符号化を選択し、前記ピクチャ間差値が前記所定値以上のピクチャが、前記所定数以上存在しないと判断した場合、前記予測符号化を選択することができる。
前記シーンを構成する各ピクチャのうち、所定のピクチャの前記ピクチャ間差値は、前記シーンを構成する、表示順に並ぶ各ピクチャのうち、前記所定のピクチャと、前記所定のピクチャに隣接する隣接ピクチャとの、同一位置の画素の画素値どうしの差の2乗和、前記所定のピクチャと前記隣接ピクチャとを、それぞれブロック単位に区切った場合の、前記ブロック毎の画素値の平均値どうしの差の2乗和、前記ブロック毎の各画素の動きベクトルどうしの差の2乗和、又は、前記所定のピクチャの画素値のヒストグラムおよび前記隣接ピクチャの画素値のヒストグラムを作成した場合の、前記ヒストグラムの各画素値の画素数どうしの差の2乗和であるようにすることができる。
The recording / reproducing apparatus according to the first aspect of the present invention is a recording / reproducing apparatus that records moving image data on a recording medium and reproduces the moving image data from the recording medium. From the detection means for detecting a scene which is a set of similar series of pictures, and the prediction encoding or the prediction encoding for each scene based on the inter-picture difference value of each picture constituting the scene Selection means for selecting one of the non-predictive encodings representing different encodings as an encoding scheme for encoding a picture included in the scene, and for grouping the scene into similar groups of pictures An acquisition means for acquiring image information to be used, and the scene in which the predictive encoding is selected as the encoding method of the picture based on the image information; Then, grouping means for grouping one or more similar scenes into one group, and first coding means for performing the predictive coding for the pictures constituting the group for each group And a second encoding means for performing the non-predictive encoding on a picture included in the scene for which the non-predictive encoding is selected as the picture encoding method, and obtained by the predictive encoding. Recording control means for recording the first encoded data and the second encoded data obtained by the non-predictive encoding on the recording medium, and decoding the first and second encoded data Read control means for reading the first and second encoded data from the recording medium in decoding order, and the first encoded data read from the recording medium for each group. And first decoding means for performing predictive decoding corresponding to the predictive encoding, and non-predictive corresponding to the non-predictive encoding with respect to the second encoded data read from the recording medium. Second decoding means for performing decoding, and output control means for outputting pictures obtained by the predictive decoding and the non-predictive decoding in display order , wherein the first encoding means uses MPEG as the predictive encoding (Moving Picture Expert Group) encoding, the second encoding means performs intra encoding using wavelet transform as the non-predictive encoding, and the first decoding means as the predictive decoding , MPEG decoding corresponding to the MPEG encoding, and recording means for recording DCT (Discrete Cosine Transform) coefficient obtained in the middle of the MPEG decoding, the second decoding means as the non-predictive decoding , Intra decoding using inverse transform of bullet transform, and when the output control means outputs a picture obtained by the MPEG decoding, the DCT coefficients recorded in the recording means are decoded into the pictures in display order. To output.
The selection means determines whether or not there are a predetermined number or more of pictures having a difference value between pictures equal to or greater than a predetermined value. If it is determined, the non-predictive encoding is selected, and if it is determined that there are no more than the predetermined number of pictures having the inter-picture difference value equal to or greater than the predetermined value, the predictive encoding can be selected.
Among the pictures constituting the scene, the inter-picture difference value of a predetermined picture is the neighboring picture adjacent to the predetermined picture among the pictures constituting the scene and arranged in the display order. Between the pixel values of the pixels at the same position, and the difference between the average values of the pixel values for each block when the predetermined picture and the adjacent picture are divided into blocks. The histogram in the case where the sum of squares of squares, the sum of squares of differences between motion vectors of each pixel in each block, or the histogram of pixel values of the predetermined picture and the histogram of pixel values of the adjacent pictures are created. The sum of squares of the difference between the number of pixels of each pixel value can be made.
第1の側面の記録再生装置には、前記ピクチャを縮小した縮小画像を作成する作成手段をさらに設けることができ、前記取得手段には、前記縮小画像を用いて、前記画像情報を取得させることができる。 The recording / reproducing apparatus according to the first aspect may further include a creation unit that creates a reduced image obtained by reducing the picture, and the acquisition unit acquires the image information using the reduced image. Can do.
第1の側面の記録再生装置には、複数の前記第1の復号手段を設けることができる。 The recording / reproducing apparatus according to the first aspect can be provided with a plurality of the first decoding means.
本発明の第1の側面の記録再生方法は、動画像データを記録媒体に記録し、前記記録媒体から前記動画像データを再生する記録再生装置の記録再生方法において、複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出する検出ステップと、前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択する選択ステップと、前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報を取得する取得ステップと、前記画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをするグループ分けステップと、前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化を行う第1の符号化ステップと、前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化を行う第2の符号化ステップと、前記予測符号化により得られた第1の符号化データ、および前記非予測符号化により得られた第2の符号化データを、前記記録媒体に記録する記録制御ステップと、前記第1および第2の符号化データを復号する復号順に、前記記録媒体から前記第1および第2の符号化データを読み出す読み出し制御ステップと、前記グループ毎に、前記記録媒体から読み出された前記第1の符号化データに対して、前記予測符号化に対応する予測復号を行う第1の復号ステップと、前記記録媒体から読み出された前記第2の符号化データに対して、前記非予測符号化に対応する非予測復号を行う第2の復号ステップと、前記予測復号および前記非予測復号によって得られるピクチャを表示順に出力させる出力制御ステップとを含み、前記第1の符号化ステップは、前記予測符号化として、MPEG(Moving Picture Expert Group)符号化を行い、前記第2の符号化ステップは、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行い、前記第1の復号ステップは、前記予測復号として、前記MPEG符号化に対応するMPEG復号を行い、前記記録再生装置は、前記MPEG復号の途中で得られるDCT(Discrete Cosine Transform)係数を記録する記録手段を有し、前記第2の復号ステップは、前記非予測復号として、前記ウェーブレット変換の逆変換を用いたイントラ復号を行い、前記出力制御ステップは、前記MPEG復号により得られるピクチャを出力する場合、前記記録手段に記録された前記DCT係数を、表示順に、前記ピクチャに復号させて出力させる。 A recording / reproducing method according to a first aspect of the present invention includes a plurality of pictures in a recording / reproducing method of a recording / reproducing apparatus that records moving image data on a recording medium and reproduces the moving image data from the recording medium. A detection step for detecting a scene which is a set of similar series of pictures from the moving image data, and predictive coding or prediction for each scene based on a difference value between pictures of each picture constituting the scene. A selection step of selecting one of the non-predictive encodings representing encodings different from encoding as an encoding method for encoding a picture included in the scene, and grouping the scenes into similar groups of pictures An acquisition step of acquiring image information used for performing the prediction, and the prediction code as an encoding method of the picture based on the image information A grouping step of grouping one or more similar scenes into one group, and for each group, the predictive coding is performed on the pictures constituting the group. A first encoding step for performing, and a second encoding step for performing the non-predictive encoding on a picture included in the scene for which the non-predictive encoding is selected as the picture encoding method; A recording control step of recording the first encoded data obtained by the predictive encoding and the second encoded data obtained by the non-predictive encoding on the recording medium; and the first and second A read control step of reading out the first and second encoded data from the recording medium in a decoding order for decoding the encoded data, and for each group, the recording A first decoding step for performing predictive decoding corresponding to the predictive encoding for the first encoded data read from the medium, and the second encoded data read from the recording medium respect, the second decoding step of performing a non-prediction decoding corresponding to the non-predictive coding, see contains an output control step of outputting a picture obtained by said prediction decoding and the non-predictive decoding in the display order, the The first encoding step performs MPEG (Moving Picture Expert Group) encoding as the predictive encoding, and the second encoding step performs intra encoding using wavelet transform as the non-predictive encoding. The first decoding step performs MPEG decoding corresponding to the MPEG encoding as the predictive decoding, and the recording / reproducing apparatus performs DCT (Discrete Cosin) obtained in the middle of the MPEG decoding. e Transform) recording means for recording coefficients, wherein the second decoding step performs intra decoding using inverse transformation of the wavelet transform as the non-predictive decoding, and the output control step includes the MPEG decoding When the picture obtained by the above is output, the DCT coefficients recorded in the recording means are decoded into the picture and output in the display order.
以上のような第1の側面の記録再生装置、または記録再生方法においては、複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンが検出され、検出された前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方が、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択され、前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報が取得され、前記画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンが1のグループにグループ分けをされ、前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化が行われ、前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化が行われ、前記予測符号化により得られた第1の符号化データ、および前記非予測符号化により得られた第2の符号化データが、前記記録媒体に記録され、前記第1および第2の符号化データを復号する復号順に、前記記録媒体から前記第1および第2の符号化データが読み出され、前記グループ毎に、前記記録媒体から読み出された前記第1の符号化データに対して、前記予測符号化に対応する予測復号が行われ、前記記録媒体から読み出された前記第2の符号化データに対して、前記非予測符号化に対応する非予測復号が行われ、前記予測復号および前記非予測復号によって得られるピクチャが表示順に出力される。なお、前記予測符号化として、MPEG(Moving Picture Expert Group)符号化が行われ、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化が行われ、前記予測復号として、前記MPEG符号化に対応するMPEG復号が行われ、前記非予測復号として、前記ウェーブレット変換の逆変換を用いたイントラ復号が行われ、前記MPEG復号により得られるピクチャを出力する場合、前記MPEG復号の途中で得られる前記DCT係数を、表示順に、前記ピクチャに復号させて出力させる。 In the recording / playback apparatus or recording / playback method according to the first aspect as described above, a scene that is a set of similar pictures is detected from the moving image data including a plurality of pictures. A picture in which one of predictive coding and non-predictive coding representing coding different from the predictive coding is included in the scene for each scene based on an inter-picture difference value of each picture constituting the scene Is selected as an encoding method when encoding the image, and image information used to group the scene into similar groups of pictures is acquired, and based on the image information, the encoding method of the picture is The scenes for which predictive coding is selected, wherein one or more similar scenes are grouped into one group, The predictive coding is performed on the pictures constituting the group, and the non-predictive coding is performed on the pictures included in the scene in which the non-predictive coding is selected as the picture coding method. The first encoded data obtained by the predictive encoding and the second encoded data obtained by the non-predictive encoding are recorded on the recording medium, and the first and second The first and second encoded data are read from the recording medium in a decoding order for decoding the encoded data, and the first encoded data read from the recording medium is read for each group. Predictive decoding corresponding to the predictive encoding is performed, and non-predictive decoding corresponding to the non-predictive encoding is performed on the second encoded data read from the recording medium, prediction No. and the a picture obtained by the non-predictive decoding is output to the display order. As the predictive coding, MPEG (Moving Picture Expert Group) coding is performed, as the non-predictive coding, intra coding using wavelet transform is performed, and as the predictive decoding, the MPEG coding is performed. When the corresponding MPEG decoding is performed, intra decoding using inverse wavelet transform is performed as the non-predictive decoding, and the picture obtained by the MPEG decoding is output, the obtained in the middle of the MPEG decoding DCT coefficients are decoded into the picture in the display order and output.
本発明の第2の側面の記録装置は、動画像データを記録媒体に記録する記録装置において、複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出する検出手段と、前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択する選択手段と、前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報を取得する取得手段と、前記画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをするグループ分け手段と、前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化を行う第1の符号化手段と、前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化を行う第2の符号化手段と、前記予測符号化により得られた第1の符号化データ、および前記非予測符号化により得られた第2の符号化データを、前記記録媒体に記録する記録制御手段とを備え、前記第1の符号化手段は、前記予測符号化として、MPEG符号化を行い、前記第2の符号化手段は、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行う。 A recording apparatus according to a second aspect of the present invention is a recording apparatus that records moving image data on a recording medium, and detects a scene that is a set of similar pictures from the moving image data including a plurality of pictures. And detecting means that performs predictive coding or non-predictive coding representing coding different from the predictive coding for each scene based on the inter-picture difference value of each picture constituting the scene, Selection means for selecting a coding method for coding a picture included in a scene; acquisition means for obtaining image information used for grouping the scene into similar groups of pictures; and Based on the scene, the predictive coding is selected as the picture coding method, and one or more similar scenes are grouped into one group. A grouping means for dividing a loop; a first encoding means for performing the predictive encoding on the pictures constituting the group for each group; and the non-predictive encoding as the picture encoding method. A second coding means for performing the non-predictive coding on the picture included in the selected scene, the first coded data obtained by the predictive coding, and the non-predictive coding; Recording control means for recording the obtained second encoded data on the recording medium , wherein the first encoding means performs MPEG encoding as the predictive encoding, and the second code The converting means performs intra encoding using wavelet transform as the non-predictive encoding.
第2の側面の記録装置には、前記記録媒体に記録された前記第1および第2の符号化データを、前記動画像データを再生する他の装置に送信する送信制御手段をさらに設けることができる。 The recording apparatus of the second aspect, the first and second encoded data recorded on the recording medium, be further provided a transmission control means for transmitting to another device for reproducing the moving image data it can.
第2の側面の記録方法は、動画像データを記録媒体に記録する記録装置の記録方法において、複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出する検出ステップと、前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択する選択ステップと、前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報を取得する取得ステップと、前記画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをするグループ分けステップと、前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化を行う第1の符号化ステップと、前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化を行う第2の符号化ステップと、前記予測符号化により得られた第1の符号化データ、および前記非予測符号化により得られた第2の符号化データを、前記記録媒体に記録する記録制御ステップとを含み、前記第1の符号化ステップは、前記予測符号化として、MPEG符号化を行い、前記第2の符号化ステップは、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行う。 A recording method according to a second aspect is a recording method of a recording apparatus that records moving image data on a recording medium, and detects a scene that is a set of similar pictures from the moving image data including a plurality of pictures. And performing one of predictive coding and non-predictive coding representing coding different from the predictive coding, for each scene, based on the inter-picture difference value of each picture constituting the scene. A selection step of selecting a picture included in a scene as an encoding method for encoding, an acquisition step of acquiring image information used to group the scene into similar groups of pictures, and the image information Based on the scene in which the predictive coding is selected as the picture coding method, and the one or more similar scenes are A grouping step for grouping into groups, a first coding step for performing the predictive coding on the pictures constituting the group for each group, and the non-prediction as a coding method for the pictures A second encoding step for performing the non-predictive encoding on a picture included in the scene for which encoding has been selected, first encoded data obtained by the predictive encoding, and the non-predictive the second encoded data obtained by encoding, see contains a recording control step of recording on the recording medium, wherein the first encoding step, as the predictive coding, performs MPEG encoding, wherein In the second encoding step, intra encoding using wavelet transform is performed as the non-predictive encoding.
以上のような第2の側面の記録装置、または記録方法においては、複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンが検出され、検出された前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方が、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択され、前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報が取得され、前記画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンが1のグループにグループ分けをされ、前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化が行われ、前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化が行なわれ、前記予測符号化により得られた第1の符号化データ、および前記非予測符号化により得られた第2の符号化データが、前記記録媒体に記録される。なお、前記予測符号化として、MPEG符号化が行われ、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化が行われる。 In the recording apparatus or recording method according to the second aspect as described above, a scene that is a set of similar series of pictures is detected from the moving image data including a plurality of pictures, and the detected scene is detected. For each scene, one of predictive coding or non-predictive coding representing coding different from the predictive coding codes a picture included in the scene based on the inter-picture difference value of each picture constituting Image information used for grouping the scenes into similar groups of pictures is acquired, and based on the image information, the prediction code is selected as the picture encoding method. One or more similar scenes are grouped into one group, and for each group, the scene The predictive coding is performed on the pictures constituting the loop, and the non-predictive coding is performed on the pictures included in the scene for which the non-predictive coding is selected as the picture coding method. First encoded data obtained by the predictive encoding and second encoded data obtained by the non-predictive encoding are recorded on the recording medium. Note that MPEG encoding is performed as the predictive encoding, and intra encoding using wavelet transform is performed as the non-predictive encoding.
本発明の第3の側面の再生装置は、動画像データを再生する再生装置において、複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出し、前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択し、前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをし、前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化として、MPEG符号化を行うことにより得られた第1の符号化データ、および前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行うことにより得られた第2の符号化データが記録されている記録媒体から、前記第1および第2の符号化データを復号する復号順に、前記第1および第2の符号化データを読み出す読み出し制御手段と、前記グループ毎に、前記記録媒体から読み出された前記第1の符号化データに対して、前記予測符号化に対応する予測復号を行う第1の復号手段と、前記記録媒体から読み出された前記第2の符号化データに対して、前記非予測符号化に対応する非予測復号を行う第2の復号手段と、前記予測復号および前記非予測復号によって得られるピクチャを表示順に出力させる出力制御手段とを備え、前記第1の復号手段は、前記予測復号として、前記MPEG符号化に対応するMPEG復号を行い、前記MPEG復号の途中で得られるDCT係数を記録する記録手段を有し、前記第2の復号手段は、前記非予測復号として、前記ウェーブレット変換の逆変換を用いたイントラ復号を行い、前記出力制御手段は、前記MPEG復号により得られるピクチャを出力する場合、前記記録手段に記録された前記DCT係数を、表示順に、前記ピクチャに復号させて出力させる。 According to a third aspect of the present invention, there is provided a playback device that plays back moving image data, detects a scene that is a set of similar pictures from the moving image data including a plurality of pictures, and Based on the inter-picture difference value of each picture constituting a scene, for each of the scenes, one of predictive coding or non-predictive coding representing coding different from the predictive coding is converted into a picture included in the scene. Selected as an encoding method for encoding, and based on image information used to group the scene into similar groups of pictures, the predictive encoding is selected as the encoding method of the picture One or more scenes that are similar to each other are grouped into one group, and for each group, a picture constituting the group As the predictive coding with respect to the picture included in the scene where the first encoded data, and the non-prediction coding as the coding method of the picture obtained by performing MPEG encoding is selected As the non-predictive encoding, the first and second encoded data are recorded from the recording medium on which the second encoded data obtained by performing intra encoding using wavelet transform is recorded. Read control means for reading out the first and second encoded data in the decoding order for decoding, and the predictive encoding for the first encoded data read from the recording medium for each group A first decoding means for performing predictive decoding corresponding to the non-predictive encoding for the second encoded data read from the recording medium. And second decoding means, said an output control means for outputting a picture obtained by the prediction decoding and the non-predictive decoding in the display order, the first decoding means, as the prediction decoding, corresponding to the MPEG encoding Recording means for recording the DCT coefficient obtained in the middle of the MPEG decoding, and the second decoding means uses intra-decoding using inverse transform of the wavelet transform as the non-predictive decoding The output control means, when outputting a picture obtained by the MPEG decoding, causes the DCT coefficients recorded in the recording means to be decoded and output to the picture in the display order.
第3の側面の再生装置には、他の装置から送信されてくる前記第1および第2の符号化データを受信する受信制御手段をさらに設けることができ、前記記録媒体には、前記受信制御手段で受信された前記第1および第2の符号化データを記録することができる。 The playback device according to the third aspect may further include reception control means for receiving the first and second encoded data transmitted from another device, and the recording medium includes the reception control. The first and second encoded data received by the means can be recorded.
本発明の第3の側面の再生方法は、動画像データを再生する再生装置の再生方法において、複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出し、前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択し、前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをし、前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化として、MPEG符号化を行うことにより得られた第1の符号化データ、および前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行うことにより得られた第2の符号化データが記録されている記録媒体から、前記第1および第2の符号化データを復号する復号順に、前記第1および第2の符号化データを読み出す読み出し制御ステップと、前記グループ毎に、前記記録媒体から読み出された前記第1の符号化データに対して、前記予測符号化に対応する予測復号を行う第1の復号ステップと、前記記録媒体から読み出された前記第2の符号化データに対して、前記非予測符号化に対応する非予測復号を行う第2の復号ステップと、前記予測復号および前記非予測復号によって得られるピクチャを表示順に出力させる出力制御ステップとを含み、前記第1の復号ステップは、前記予測復号として、前記MPEG符号化に対応するMPEG復号を行い、前記再生装置は、前記MPEG復号の途中で得られるDCT係数を記録する記録手段を有し、前記第2の復号ステップは、前記非予測復号として、前記ウェーブレット変換の逆変換を用いたイントラ復号を行い、前記出力制御ステップは、前記MPEG復号により得られるピクチャを出力する場合、前記記録手段に記録された前記DCT係数を、表示順に、前記ピクチャに復号させて出力させる。 A playback method according to a third aspect of the present invention is a playback method for a playback device that plays back moving image data, and detects a scene that is a set of similar series of pictures from the moving image data composed of a plurality of pictures. Then, based on the inter-picture difference value of each picture constituting the scene, the scene includes one of predictive coding and non-predictive coding representing coding different from the predictive coding for each scene. Selected as the encoding method when encoding the picture to be encoded, and the predictive encoding is selected as the encoding method for the picture based on the image information used to group the scenes into similar groups of pictures The one or more similar scenes are grouped into one group, and the group is configured for each group. As the prediction encoding on puncturing, pictures included in the scene where the first encoded data obtained, and the non-prediction coding as the coding method of the picture is selected by performing MPEG encoding On the other hand, as the non-predictive encoding, the first and second encodings are performed from the recording medium on which the second encoded data obtained by performing intra encoding using wavelet transform is recorded. A read control step of reading out the first and second encoded data in decoding order for decoding data, and the prediction for the first encoded data read from the recording medium for each group A first decoding step that performs predictive decoding corresponding to encoding, and the non-predictive encoding corresponding to the second encoded data read from the recording medium A second decoding step of performing a non-predictive decoding that, the saw including an output control step of outputting the picture in the display order obtained by the prediction decoding and the non-predictive decoding, the first decoding step, as the prediction decoding The MPEG decoding corresponding to the MPEG encoding is performed, and the playback device has recording means for recording a DCT coefficient obtained in the middle of the MPEG decoding, and the second decoding step is performed as the non-predictive decoding. Performing the intra decoding using the inverse of the wavelet transform, and the output control step outputs the DCT coefficients recorded in the recording means in the display order when the picture obtained by the MPEG decoding is output. To decrypt and output.
以上のような第3の側面の再生装置、または再生方法においては、複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出し、前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択し、前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをし、前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化として、MPEG符号化を行うことにより得られた第1の符号化データ、および前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行うことにより得られた第2の符号化データが記録されている記録媒体から、前記第1および第2の符号化データを復号する復号順に、前記第1および第2の符号化データが読み出され、前記グループ毎に、前記記録媒体から読み出された前記第1の符号化データに対して、前記予測符号化に対応する予測復号が行われ、前記記録媒体から読み出された前記第2の符号化データに対して、前記非予測符号化に対応する非予測復号が行われ、前記予測復号および前記非予測復号によって得られるピクチャが表示順に出力される。なお、前記予測復号として、前記MPEG符号化に対応するMPEG復号が行われ、前記非予測復号として、前記ウェーブレット変換の逆変換を用いたイントラ復号が行われ、前記MPEG復号により得られるピクチャを出力する場合、前記MPEG復号の途中で得られるDCT係数を、表示順に、前記ピクチャに復号させて出力させる。 In the playback device or the playback method according to the third aspect as described above, a scene that is a set of similar series of pictures is detected from the moving image data including a plurality of pictures, and the scene is configured. When encoding a picture included in the scene with one of predictive coding and non-predictive coding representing coding different from the predictive coding for each scene based on an inter-picture difference value of each picture And the scene for which the predictive coding is selected as the coding method of the picture based on image information used to group the scenes into similar groups of pictures. One or more similar scenes are grouped into one group, and for each of the groups, the pre-set for the pictures constituting the group. As coded, for the picture included in the scene where the first encoded data obtained, and the non-prediction coding as the coding method of the picture is selected by performing MPEG encoding, the non As the predictive encoding, the first and second encoded data are decoded in the decoding order from the recording medium on which the second encoded data obtained by performing the intra encoding using the wavelet transform is recorded. The first encoded data and the second encoded data are read out, and for each group, the predictive decoding corresponding to the predictive encoding is performed on the first encoded data read from the recording medium. Non-predictive decoding corresponding to the non-predictive encoding is performed on the second encoded data read from the recording medium, and the prediction decoding and the non-predictive decoding are performed. Picture obtained Te is output to the display order. Note that, as the predictive decoding, MPEG decoding corresponding to the MPEG encoding is performed, and as the non-predictive decoding, intra decoding using inverse transformation of the wavelet transform is performed, and a picture obtained by the MPEG decoding is output. In this case, DCT coefficients obtained in the middle of the MPEG decoding are decoded into the picture and output in the display order.
本発明によれば、動画像データの画像の劣化を抑えつつ、圧縮率を向上させることができる。 According to the present invention, it is possible to improve the compression rate while suppressing deterioration of the image of the moving image data.
以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書又は図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書又は図面に記載されていることを確認するためのものである。従って、明細書又は図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。 Embodiments of the present invention will be described below. Correspondences between the constituent elements of the present invention and the embodiments described in the specification or the drawings are exemplified as follows. This description is intended to confirm that the embodiments supporting the present invention are described in the specification or the drawings. Therefore, even if there is an embodiment which is described in the specification or the drawings but is not described here as an embodiment corresponding to the constituent elements of the present invention, that is not the case. It does not mean that the form does not correspond to the constituent requirements. Conversely, even if an embodiment is described here as corresponding to a configuration requirement, that means that the embodiment does not correspond to a configuration requirement other than the configuration requirement. It's not something to do.
本発明の第1の側面の記録再生装置(例えば、図1の記録再生装置11)は、動画像データを記録媒体に記録し、前記記録媒体から前記動画像データを再生する記録再生装置において、複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出する検出手段(例えば、図4の画像情報作成部32におけるシーン検出部41)と、前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択する選択手段(例えば、図24のエンコーダ選択部181)と、前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報を取得する取得手段(例えば、図24の画像情報作成部32)と、前記画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをするグループ分け手段(例えば、図24のグルーピング部33)と、前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化を行う第1の符号化手段(例えば、図24の圧縮部34)と、前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化を行う第2の符号化手段(例えば、図24の圧縮部182)と、前記予測符号化により得られた第1の符号化データ、および前記非予測符号化により得られた第2の符号化データを、前記記録媒体に記録する記録制御手段(例えば、図24の入出力インタフェース21)と、前記第1および第2の符号化データを復号する復号順に、前記記録媒体から前記第1および第2の符号化データを読み出す読み出し制御手段(例えば、図28の入出力インタフェース201)と、前記グループ毎に、前記記録媒体から読み出された前記第1の符号化データに対して、前記予測符号化に対応する予測復号を行う第1の復号手段(例えば、図28の解凍部112)と、前記記録媒体から読み出された前記第2の符号化データに対して、前記非予測符号化に対応する非予測復号を行う第2の復号手段(例えば、図28の解凍部202)と、前記予測復号および前記非予測復号によって得られるピクチャを表示順に出力させる出力制御手段(例えば、図28の出力制御部114)とを備え、前記第1の符号化手段は、前記予測符号化として、MPEG(Moving Picture Expert Group)符号化を行い、前記第2の符号化手段は、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行い、前記第1の復号手段は、前記予測復号として、前記MPEG符号化に対応するMPEG復号を行い、前記MPEG復号の途中で得られるDCT(Discrete Cosine Transform)係数を記録する記録手段(例えば、図20のバッファ134)を有し、前記第2の復号手段は、前記非予測復号として、前記ウェーブレット変換の逆変換を用いたイントラ復号を行い、前記出力制御手段は、前記MPEG復号により得られるピクチャを出力する場合、前記記録手段に記録された前記DCT係数を、表示順に、前記ピクチャに復号させて出力させる。
The recording / reproducing apparatus according to the first aspect of the present invention (for example, the recording / reproducing
第1の側面の記録再生装置は、前記ピクチャを縮小した縮小画像を作成する作成手段(例えば、図22の縮小画像作成部163)をさらに備え、前記取得手段は、前記縮小画像を用いて、前記画像情報を取得することができる。
The recording / reproducing apparatus according to the first aspect further includes a creating unit (for example, a reduced
第1の側面の記録再生装置は、複数の前記第1の復号手段(例えば、図18の解凍部1121乃至112n)を備えることができる。
The recording / reproducing apparatus of the first aspect can include a plurality of the first decoding means (for example, the
本発明の第1の側面の記録再生方法は、動画像データを記録媒体に記録し、前記記録媒体から前記動画像データを再生する記録再生装置の記録再生方法において、複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出する検出ステップ(例えば、図27のステップS92における、図12のステップS21)と、前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択する選択ステップ(例えば、図27のステップS93)と、前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報を取得する取得ステップ(例えば、図27のステップS92)と、前記画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをするグループ分けステップ(例えば、図27のステップS95)と、前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化を行う第1の符号化ステップ(例えば、図27のステップS96)と、前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化を行う第2の符号化ステップ(例えば、図27のステップS97)と、前記予測符号化により得られた第1の符号化データ、および前記非予測符号化により得られた第2の符号化データを、前記記録媒体に記録する記録制御ステップ(例えば、図27のステップS98)と、前記第1および第2の符号化データを復号する復号順に、前記記録媒体から前記第1および第2の符号化データを読み出す読み出し制御ステップ(例えば、図30のステップS111)と、前記グループ毎に、前記記録媒体から読み出された前記第1の符号化データに対して、前記予測符号化に対応する予測復号を行う第1の復号ステップ(例えば、図30のステップS113)と、前記記録媒体から読み出された前記第2の符号化データに対して、前記非予測符号化に対応する非予測復号を行う第2の復号ステップ(例えば、図30のステップS114)と、前記予測復号および前記非予測復号によって得られるピクチャを表示順に出力させる出力制御ステップ(例えば、図30のステップS116)とを含み、前記第1の符号化ステップは、前記予測符号化として、MPEG(Moving Picture Expert Group)符号化を行い、前記第2の符号化ステップは、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行い、前記第1の復号ステップは、前記予測復号として、前記MPEG符号化に対応するMPEG復号を行い、前記記録再生装置は、前記MPEG復号の途中で得られるDCT(Discrete Cosine Transform)係数を記録する記録手段(例えば、図20のバッファ134)を有し、前記第2の復号ステップは、前記非予測復号として、前記ウェーブレット変換の逆変換を用いたイントラ復号を行い、前記出力制御ステップは、前記MPEG復号により得られるピクチャを出力する場合、前記記録手段に記録された前記DCT係数を、表示順に、前記ピクチャに復号させて出力させる。
A recording / reproducing method according to a first aspect of the present invention includes a plurality of pictures in a recording / reproducing method of a recording / reproducing apparatus that records moving image data on a recording medium and reproduces the moving image data from the recording medium. A detection step (for example, step S21 in FIG. 12 in step S92 in FIG. 27) for detecting a scene that is a set of similar series of pictures from the moving image data, and a difference between pictures of each picture constituting the scene Based on the value, for each scene, one of predictive coding or non-predictive coding representing coding different from the predictive coding is selected as a coding method for coding a picture included in the scene. Selection step (eg, step S93 in FIG. 27) and the scene is used to group similar groups of pictures. An acquisition step (e.g., step S92 of FIG. 27) for acquiring image information, and one or more similar scenes in which the predictive encoding is selected as the encoding method of the picture based on the image information A grouping step (for example, step S95 in FIG. 27) for grouping the scenes into one group, and a first code for performing the predictive coding for the pictures constituting the group for each group And a second code for performing the non-predictive coding on a picture included in the scene for which the non-predictive coding is selected as the picture coding method. Step (for example, step S97 in FIG. 27), the first encoded data obtained by the predictive encoding, and the non-predictive encoding The recording control step for recording the second encoded data obtained on the recording medium (for example, step S98 in FIG. 27) and the recording order in the decoding order for decoding the first and second encoded data. A read control step for reading the first and second encoded data from the medium (for example, step S111 in FIG. 30), and the first encoded data read from the recording medium for each group The first decoding step (for example, step S113 in FIG. 30) for performing predictive decoding corresponding to the predictive encoding, and the second encoded data read from the recording medium A second decoding step (for example, step S114 in FIG. 30) for performing non-predictive decoding corresponding to predictive coding, and a pixel obtained by the predictive decoding and the non-predictive decoding. Output control step of outputting the feature in the display order (for example, step S116 in FIG. 30) and saw including a first encoding step, as the predictive coding, performs MPEG (Moving Picture Expert Group) encoding, The second encoding step performs intra encoding using wavelet transform as the non-predictive encoding, and the first decoding step performs MPEG decoding corresponding to the MPEG encoding as the predictive decoding. The recording / reproducing apparatus includes recording means (for example, a
本発明の第2の側面の記録装置(例えば、図32の記録装置221)は、複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出する検出手段(例えば、図4の画像情報作成部32におけるシーン検出部41)と、前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択する選択手段(例えば、図24のエンコーダ選択部181)と、前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報を取得する取得手段(例えば、図24の画像情報作成部32)と、前記画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをするグループ分け手段(例えば、図24のグルーピング部33)と、前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化を行う第1の符号化手段(例えば、図24の圧縮部34)と、前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化を行う第2の符号化手段(例えば、図24の圧縮部182)と、前記予測符号化により得られた第1の符号化データ、および前記非予測符号化により得られた第2の符号化データを、前記記録媒体に記録する記録制御手段(例えば、図24の入出力インタフェース21)とを備え、前記第1の符号化手段は、前記予測符号化として、MPEG符号化を行い、前記第2の符号化手段は、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行う。
The recording apparatus according to the second aspect of the present invention (for example, the
第2の側面の記録装置は、前記記録媒体に記録された前記第1および第2の符号化データを、前記動画像データを再生する他の装置(例えば、図32の再生装置231)に送信する送信制御手段(例えば、図32の送信制御部225)をさらに備えることができる。
Recording apparatus of the second aspect, transmitting the first and second encoded data recorded on the recording medium, in addition to the apparatus for reproducing the moving image data (e.g., the reproducing
第2の側面の記録方法は、動画像データを記録媒体に記録する記録装置の記録方法において、複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出する検出ステップ(例えば、図27のステップS92における、図12のステップS21)と、前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択する選択ステップ(例えば、図27のステップS93)と、前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報を取得する取得ステップ(例えば、図27のステップS92)と、前記画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをするグループ分けステップ(例えば、図27のステップS95)と、前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化を行う第1の符号化ステップ(例えば、図27のステップS96)と、前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化を行う第2の符号化ステップ(例えば、図27のステップS97)と、前記予測符号化により得られた第1の符号化データ、および前記非予測符号化により得られた第2の符号化データを、前記記録媒体に記録する記録制御ステップ(例えば、図27のステップS98)とを含み、前記第1の符号化ステップは、前記予測符号化として、MPEG符号化を行い、前記第2の符号化ステップは、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行う。 A recording method according to a second aspect is a recording method of a recording apparatus that records moving image data on a recording medium, and detects a scene that is a set of similar pictures from the moving image data including a plurality of pictures. Predictive coding or predictive coding for each scene based on the detection step (for example, step S21 in FIG. 12 in step S92 in FIG. 27) and the inter-picture difference value of each picture constituting the scene. A selection step (for example, step S93 in FIG. 27) for selecting one of the non-predictive encodings representing different encodings as a coding method for encoding a picture included in the scene; Acquisition step (for example, step S92 in FIG. 27) for acquiring image information used for grouping into similar groups A grouping step of grouping one or more similar scenes into one group, wherein the prediction coding is selected as the picture coding method based on the image information. For example, step S95 in FIG. 27, a first encoding step (for example, step S96 in FIG. 27) for performing the predictive encoding on the pictures constituting the group, for each group, A second encoding step (for example, step S97 in FIG. 27) for performing the non-predictive encoding on a picture included in the scene for which the non-predictive encoding is selected as an encoding method; Recording the first encoded data obtained by the encoding and the second encoded data obtained by the non-predictive encoding on the recording medium Please step (e.g., step S98 of FIG. 27) and saw including a first encoding step, as the predictive coding, performs MPEG encoding, the second coding step, the non-prediction coding As an example, intra coding using wavelet transform is performed.
本発明の第3の側面の再生装置(例えば、図32の再生装置231)は、複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出し、前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択し、前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをし、前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化として、MPEG符号化を行うことにより得られた第1の符号化データ、および前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行うことにより得られた第2の符号化データが記録されている記録媒体から、前記第1および第2の符号化データを復号する復号順に、前記第1および第2の符号化データを読み出す読み出し制御手段(例えば、図28の入出力インタフェース201)と、前記グループ毎に、前記記録媒体から読み出された前記第1の符号化データに対して、前記予測符号化に対応する予測復号を行う第1の復号手段(例えば、図28の解凍部112)と、前記記録媒体から読み出された前記第2の符号化データに対して、前記非予測符号化に対応する非予測復号を行う第2の復号手段(例えば、図28の解凍部202)と、前記予測復号および前記非予測復号によって得られるピクチャを表示順に出力させる出力制御手段(例えば、図28の出力制御部114)とを備え、前記第1の復号手段は、前記予測復号として、前記MPEG符号化に対応するMPEG復号を行い、前記MPEG復号の途中で得られるDCT係数を記録する記録手段(例えば、図20のバッファ134)を有し、前記第2の復号手段は、前記非予測復号として、前記ウェーブレット変換の逆変換を用いたイントラ復号を行い、前記出力制御手段は、前記MPEG復号により得られるピクチャを出力する場合、前記記録手段に記録された前記DCT係数を、表示順に、前記ピクチャに復号させて出力させる。
The playback device according to the third aspect of the present invention (for example, the
第3の側面の再生装置は、他の装置(例えば、図32の記録装置221)から送信されてくる前記第1および第2の符号化データを受信する受信制御手段(例えば、図32の受信制御部232)をさらに備え、前記記録媒体には、前記受信制御手段で受信された前記第1および第2の符号化データが記録されている。
The reproduction apparatus of the third aspect is a reception control means (for example, the reception of FIG. 32) that receives the first and second encoded data transmitted from another apparatus (for example, the
本発明の第3の側面の再生方法は、動画像データを再生する再生装置の再生方法において、複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出し、前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択し、前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをし、前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化として、MPEG符号化を行うことにより得られた第1の符号化データ、および前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行うことにより得られた第2の符号化データが記録されている記録媒体から、前記第1および第2の符号化データを復号する復号順に、前記第1および第2の符号化データを読み出す読み出し制御ステップ(例えば、図30のステップS111)と、前記グループ毎に、前記記録媒体から読み出された前記第1の符号化データに対して、前記予測符号化に対応する予測復号を行う第1の復号ステップ(例えば、図30のステップS113)と、前記記録媒体から読み出された前記第2の符号化データに対して、前記非予測符号化に対応する非予測復号を行う第2の復号ステップ(例えば、図30のステップS114)と、前記予測復号および前記非予測復号によって得られるピクチャを表示順に出力させる出力制御ステップ(例えば、図30のステップS116)とを含み、前記第1の復号ステップは、前記予測復号として、前記MPEG符号化に対応するMPEG復号を行い、前記再生装置は、前記MPEG復号の途中で得られるDCT係数を記録する記録手段(例えば、図20のバッファ134)を有し、前記第2の復号ステップは、前記非予測復号として、前記ウェーブレット変換の逆変換を用いたイントラ復号を行い、前記出力制御ステップは、前記MPEG復号により得られるピクチャを出力する場合、前記記録手段に記録された前記DCT係数を、表示順に、前記ピクチャに復号させて出力させる。
A playback method according to a third aspect of the present invention is a playback method for a playback device that plays back moving image data, and detects a scene that is a set of similar series of pictures from the moving image data composed of a plurality of pictures. Then, based on the inter-picture difference value of each picture constituting the scene, the scene includes one of predictive coding and non-predictive coding representing coding different from the predictive coding for each scene. Selected as the encoding method when encoding the picture to be encoded, and the predictive encoding is selected as the encoding method for the picture based on the image information used to group the scenes into similar groups of pictures The one or more similar scenes are grouped into one group, and the group is configured for each group. As the prediction encoding on puncturing, pictures included in the scene where the first encoded data obtained, and the non-prediction coding as the coding method of the picture is selected by performing MPEG encoding On the other hand, as the non-predictive encoding, the first and second encodings are performed from the recording medium on which the second encoded data obtained by performing intra encoding using wavelet transform is recorded. A read control step (for example, step S111 in FIG. 30) for reading out the first and second encoded data in a decoding order for decoding data, and the first read out from the recording medium for each group. A first decoding step (for example, step S113 in FIG. 30) for performing predictive decoding corresponding to the predictive encoding on the encoded data; and the recording medium A second decoding step (for example, step S114 of FIG. 30) for performing non-predictive decoding corresponding to the non-predictive encoding on the second encoded data read from output control step of outputting the picture obtained by the non-predictive decoding in the display order (for example, step S116 in FIG. 30) and saw including a first decoding step, as the prediction decoding, MPEG corresponding to the MPEG encoding The playback apparatus has recording means (for example, a
次に、図面を参照して、本発明の実施の形態について説明する。 Next, embodiments of the present invention will be described with reference to the drawings.
図1は、本発明を適用した記録再生システムの一実施の形態の構成例を示すブロック図である。 FIG. 1 is a block diagram showing a configuration example of an embodiment of a recording / reproducing system to which the present invention is applied.
記録再生システムは、記録再生装置11、HDTV(High Definition TeleVision)カメラ12、およびモニタ16から構成され、記録再生装置11は、記録制御部13、HDD(Hard Disk Drive)14、および再生制御部15により構成される。なお、記録再生装置11は、ハードディスクレコーダや、いわゆるホームネットワークに接続されるファイルサーバ等に適用することができる。
The recording / reproducing system includes a recording / reproducing
HDTVカメラ12は、HDTV信号によるHD(高解像度)動画像を撮像し、記録制御部13に供給する。
The
記録制御部13は、HDTVカメラ12から供給されるHD動画像を、HDD14に供給し、記録させる。また、記録制御部13は、HDD14に記録されたHD動画像を読み出して、HD動画像を構成する各ピクチャ(フレームまたはフィールド)を、類似するピクチャのグループにグループ分けをし、そのグループ毎に、グループを構成するピクチャの予測符号化を行い、その結果得られる符号化データを、HDD14に供給して記録させる。
The
ここで、上述したようなピクチャの予測符号化を行う場合は、グループを構成する各ピクチャはそれぞれ類似することとなるため、HDD14からのHD動画像そのままのピクチャの並び順(表示順)で予測符号化をする場合と比較して、圧縮率を向上させることができる。また、予測符号化の方式としては、例えば、MPEG方式がある。但し、MPEG方式では、例えば、15枚等のピクチャで構成されるGOP単位で予測符号化がされるが、記録制御部13では、後述するグループ分けによって得られるグループ単位で予測符号化が行われる。
Here, when predictive coding of pictures as described above is performed, since the pictures constituting the group are similar to each other, prediction is performed in the arrangement order (display order) of pictures as they are as HD moving images from the
HDD14は、内蔵するハードディスクに、記録制御部13から供給されるHD動画像や、そのHD動画像を符号化することにより得られる符号化データを記録する。なお、予測符号化されるHD動画像を記録する記録媒体としては、ハードディスク以外のディスク状記録媒体や、半導体メモリ等を採用することができる。
The
再生制御部15は、HDD14から符号化データを読み出して、復号し、その結果得られるピクチャを、表示順に並び替えて、モニタ16に供給する。
The
モニタ16は、再生制御部15から供給されるピクチャ、即ち、HD動画像を表示する。
The
また、記録制御部13は、HDTVカメラ12から供給されるHD動画像を一旦HDD14に記録してから、そのHD動画像の符号化を行うことも出来るし、HDD14に記録せずに、直接、HDTVカメラ12から供給されるHD動画像を、リアルタイムで符号化することもできる。
The
ここで、記録再生装置11では、上述したように、HD動画像のピクチャが、類似するピクチャのグループにグループ分けされ、グループ単位での予測符号化が行われる。従って、予測符号化の単位であるグループについては、例えば、MPEGのGOPと異なり、ピクチャが表示順に並んでいるとは限らないし、グループを構成するピクチャの数が一定であるとも限らない。このため、予測符号化として、例えば、動き補償とDCT変換を行うMPEGと同様の符号化を採用したとしても、記録再生装置11でのグループ単位での予測符号化が行われることにより得られる符号化データを再生するには、ピクチャが表示順に並んでいるとは限らず、ピクチャの数も一定であるとは限らないため、グループ単位のピクチャの符号化データを復号する専用の仕組みが必要となる。
Here, in the recording / reproducing
従って、記録再生装置11で得られた符号化データを、例えば、光ディスクその他のリムーバブルな記録媒体に記録し、その記録媒体に記録された符号化データを、記録再生装置11とは別の装置で再生するには、その別の装置が、上述したようなグループ単位のピクチャの符号化データを復号する専用の仕組みを有している必要がある。
Therefore, the encoded data obtained by the recording / reproducing
また、MPEGでは、編集や頭出し(ジャンプ)を行うことを考慮して、GOPは、例えば、15枚等のピクチャの、あまり多くない枚数のピクチャで構成されることが多いが、記録再生装置11において、そのような編集や頭出しを行うことを考慮しなければ、グループは、ある程度多くの枚数のピクチャで構成することができる。 In MPEG, considering that editing and cueing (jump) are performed, a GOP is often composed of a small number of pictures such as 15 pictures. In FIG. 11, a group can be composed of a certain number of pictures without considering such editing and cueing.
図2は、図1の記録制御部13の構成例を示すブロック図である。
FIG. 2 is a block diagram illustrating a configuration example of the
入出力インタフェース21は、HDTVカメラ12から供給されるHD動画像(データ)を受信し、HDD14または並び替え圧縮部22に供給する。また、入出力インタフェース21は、HDD14からHD動画像を読み出し、並び替え圧縮部22に供給する。さらに、入出力インタフェース21は、並び替え圧縮部22から供給されるHD動画像の符号化データを受信し、HDD14に供給して記録させる。
The input /
並び替え圧縮部22は、HDTVカメラ12またはHDD14から、入出力インタフェース21を介して供給されるHD動画像を構成するピクチャを類似するピクチャのグループにグループ分けをし、そのグループ毎に、グループを構成するピクチャの予測符号化を行う。
The
以上のように構成される記録制御部13では、HDTVカメラ12から供給されるHD動画像が、入出力インタフェース21に供給され、入出力インタフェース21は、HDTVカメラ12からのHD動画像を、HDD14に供給し、記録させる。
In the
その後、入出力インタフェース21は、HDD14から、HD動画像を読み出し、並び替え圧縮部22に供給する。
Thereafter, the input /
並び替え圧縮部22は、入出力インタフェース21を介して供給されるHD動画像を対象に処理を行うことにより、画像情報を取得し、その画像情報に基づき、HD動画像の各ピクチャのグループ分けを行う。そして、並び替え圧縮部22は、そのグループ分けによって得られるグループ単位で、HD動画像のピクチャの予測符号化を行い、その結果得られる符号化データを、入出力インタフェース21を介して、HDD14に供給して記録させる。
The
なお、HDTVカメラ12から、入出力インタフェース21を介して、HDD14に記録されたHD動画像(データ)は、並び替え圧縮部22で得られた符号化データがHDD14に記録された後に、必要に応じて削除される。
Note that HD video (data) recorded on the
図3は、図2の並び替え圧縮部22の構成例を示すブロック図である。
FIG. 3 is a block diagram illustrating a configuration example of the
ピクチャ表示番号付加部31は、HDTVカメラ12またはHDD14から、入出力インタフェース21を介して供給されるHD動画像を構成する各ピクチャに、ピクチャの表示順を表すピクチャ表示番号を付加する。また、ピクチャ表示番号付加部31は、ピクチャ表示番号を付加したHD動画像を構成する各ピクチャを、画像情報作成部32に供給する。
The picture display
画像情報作成部32は、ピクチャ表示番号付加部31から供給されたHD動画像の各ピクチャを用いて、HD動画像を構成する各ピクチャを類似するピクチャのグループにグループ分けをするのに用いる画像情報を作成(取得)する。また、画像情報作成部32は、画像情報と、ピクチャ表示番号を付加したHD動画像を構成する各ピクチャとを、グルーピング部33に供給する。
The image
グルーピング部33は、画像情報作成部32から供給された画像情報を用いて、同じく、画像情報作成部32から供給されたHD動画像を構成する各ピクチャを類似するピクチャのグループにグループ分けをし、HD動画像を構成する各ピクチャを、グループ単位で、圧縮部34に供給する。
Using the image information supplied from the image
圧縮部34は、グルーピング部33からグループ単位で供給されるピクチャを、1GOPとみなして、MPEG方式で予測符号化し、その結果得られるグループ単位の符号化データを、入出力インタフェース21を介してHDD14に供給し、記録させる。
The
図4は、図3の画像情報作成部32の構成例を示すブロック図である。
FIG. 4 is a block diagram illustrating a configuration example of the image
画像情報作成部32は、シーン検出部41およびヒストグラム作成部42により構成される。
The image
シーン検出部41は、ピクチャ表示番号付加部31(図3)から供給されるHD動画像から、類似する一連のピクチャの集合であるシーンを検出し、ヒストグラム作成部42に供給する。
The
ヒストグラム作成部42は、シーン検出部41からの各シーンについて、そのシーンを構成する各ピクチャの画素値のヒストグラムを作成する。さらに、ヒストグラム作成部42は、各シーンについて、そのシーンを構成する各ピクチャの画素値のヒストグラムの、画素値毎の平均をとることでシーンのヒストグラムを求め、画像情報として、グルーピング部33に供給する。
For each scene from the
なお、ヒストグラム作成部42は、シーン検出部41からの各シーンについて、そのシーンを構成する各ピクチャの画素値のヒストグラムを、画素値毎にそれぞれ加算することにより得られるシーンのヒストグラムを、画像情報とすることもできる。
For each scene from the
ここで、画素値のヒストグラムを作成するにあたり、画素値としては、輝度値や色信号を用いることができる。 Here, in creating a histogram of pixel values, a luminance value or a color signal can be used as the pixel value.
また、画像情報としては、画素値のヒストグラムの他、ブロック単位で検出された動きベクトル等、画像同士が類似するかどうかを判定するのに用いることができる情報を採用することができる。 As the image information, information that can be used to determine whether the images are similar, such as a motion vector detected in units of blocks, in addition to a histogram of pixel values, can be employed.
図5は、図4のシーン検出部41の構成例を示すブロック図である。
FIG. 5 is a block diagram illustrating a configuration example of the
シーン検出部41は、ピクチャ間差部51およびシーン分割部52により構成される。
The
ピクチャ間差部51は、ピクチャ表示番号付加部31(図3)から供給されるHD動画像を構成する表示順に並ぶピクチャのうちの隣接する2つのピクチャの、同一位置の画素の画素値同士の差の2乗和を、ピクチャ間差値として求め、シーン分割部52に供給する。
The
具体的には、例えば、HD動画像の先頭から第N番(ピクチャ表示番号)目のピクチャを、第Nピクチャとし、第Nピクチャの画素値をラスタスキャン順にA1,A2,…,Amと表すときに、第(N+1)ピクチャの画素値をラスタスキャン順にB1,B2,…,Bmと表すこととした場合、まず、ピクチャ間差部51は、第Nピクチャと第(N+1)ピクチャとで、対応する画素毎に画素値の差A1−B1、A2−B2、…、Am―Bmをとる。次に、ピクチャ間差部51は、画素値の差を、それぞれ2乗し、その結果得られる値を加算(サメーション)することにより、第(N+1)ピクチャのピクチャ間差値(A1−B1)2 +(A2−B2)2+…+(Am―Bm)2を取得し、シーン分割部52に供給する。
Specifically, for example, the Nth picture (picture display number) from the top of the HD moving image is the Nth picture, and the pixel values of the Nth picture are A 1 , A 2 ,. when expressed as m, B 1, B 2 pixel value of the (N + 1) picture in the raster scan order, ..., if it was decided to represent a B m, first,
なお、第0ピクチャは、実際には存在しないが、便宜的に、画素値がすべて0であるピクチャを第0ピクチャとし、第0ピクチャと第1ピクチャとから求められるピクチャ間差値を、第1ピクチャのピクチャ間差値とすることとする。 Note that the 0th picture does not actually exist, but for convenience, a picture having all pixel values of 0 is designated as the 0th picture, and the inter-picture difference value obtained from the 0th picture and the 1st picture is designated as the 0th picture. The difference value between pictures of one picture is assumed.
また、ピクチャ間差部51では、各ピクチャをブロック単位に区切って、ブロック毎の画素値の平均値(または動きベクトル)を求め、隣接するピクチャの同一位置にあるブロック毎の平均値(または動きベクトル)同士の差の2乗和を、ピクチャ間差値としてもよい。
Further, the
さらに、ピクチャ間差部51では、各ピクチャの画素値のヒストグラムを作成し、隣接するピクチャのヒストグラムの各画素値の画素数(度数)同士の差の絶対値や2乗和等を、ピクチャ間差値とすることもできる。
Further, the
シーン分割部52は、ピクチャ間差部51から供給される各ピクチャのピクチャ間差値を用いて、各ピクチャを、類似する一連のピクチャの集合であるシーンに分割する。
The scene dividing unit 52 uses the inter-picture difference value of each picture supplied from the
即ち、例えば、第Nピクチャのピクチャ間差値が、所定の閾値未満の場合に、次のピクチャである第(N+1)ピクチャのピクチャ間差値が閾値を超えているときには、シーン分割部52は、第Nピクチャと第(N+1)ピクチャとの間をシーンの区切りとして検出し、第Nピクチャを、シーンの最後のピクチャとすると共に、第(N+1)ピクチャを、次のシーンの先頭のピクチャとする。また、第Nピクチャのピクチャ間差値が閾値を超えている場合に、次の第(N+1)ピクチャのピクチャ間差値が閾値未満のときには、シーン分割部52は、第Nピクチャと第(N-1)ピクチャとの間をシーンの区切りとして検出し、第(N-1)ピクチャを、シーンの最後のピクチャとするとすると共に、第Nピクチャを、次のシーンの先頭のピクチャとする。そして、シーン分割部52は、HD動画像を表示順に探索し、シーンの先頭のピクチャから、次に現れるシーンの最後のピクチャまでの一連のピクチャを、1シーンとして検出する。 That is, for example, when the inter-picture difference value of the Nth picture is less than a predetermined threshold, and the inter-picture difference value of the (N + 1) th picture that is the next picture exceeds the threshold, the scene dividing unit 52 detects the interval between the Nth picture and the (N + 1) th picture as a scene delimiter, and makes the Nth picture the last picture of the scene and the (N + 1) th picture as the next picture This is the first picture in the scene. Further, when the inter-picture difference value of the Nth picture exceeds the threshold value, and the inter-picture difference value of the next (N + 1) th picture is less than the threshold value, the scene dividing unit 52 The (N-1) picture is detected as a scene break, and the (N-1) th picture is the last picture of the scene, and the Nth picture is the first picture of the next scene. . Then, the scene dividing unit 52 searches the HD moving image in the display order, and detects a series of pictures from the first picture of the scene to the last picture of the next appearing scene as one scene.
次に、図6を参照して、図5のシーン分割部52の処理について、さらに説明する。 Next, the process of the scene dividing unit 52 in FIG. 5 will be further described with reference to FIG.
図6によって■印は、先頭から第1番目のシーン(以下、第1シーンという)、第2シーン、第3シーン、第4シーン、第5シーン、第6シーン、および第7シーンからなるHD動画像の各ピクチャのピクチャ間差値を示している。 In FIG. 6, the ■ marks indicate the HD composed of the first scene from the beginning (hereinafter referred to as the first scene), the second scene, the third scene, the fourth scene, the fifth scene, the sixth scene, and the seventh scene. The inter-picture difference value of each picture of the moving image is shown.
ここで、第1シーン、第3シーン、第5シーン、および第7シーンは、例えば、スタジオでアナウンサが喋っているシーンであり、第2シーンは、例えば、グラフィックスの静止画像によるシーンである。また、第4シーンは、例えば、動きの激しい中継シーンであり、第6シーンは、例えば、スタジオで第1シーン、第3シーン、第5シーン、第7シーンとは異なるカメラで撮影されたシーンである。 Here, the first scene, the third scene, the fifth scene, and the seventh scene are, for example, scenes where an announcer is speaking in a studio, and the second scene is, for example, a scene based on a still image of graphics. . The fourth scene is, for example, a relay scene with intense movement, and the sixth scene is a scene shot with a camera different from the first scene, the third scene, the fifth scene, and the seventh scene in a studio, for example. It is.
ここで、図6において、第1ピクチャ、第10ピクチャ、第15ピクチャ、第25ピクチャ、第36ピクチャ、第40ピクチャ、および第49ピクチャは、シーンの先頭のピクチャである。 Here, in FIG. 6, the first picture, the tenth picture, the fifteenth picture, the twenty-fifth picture, the thirty-sixth picture, the forty-fourth picture, and the forty-ninth picture are the first pictures in the scene.
図5のシーン分割部52は、ピクチャ間差部51から、図6のピクチャ間差値が供給されると、そのピクチャ間差値を用いて、第1ピクチャ、第10ピクチャ、第15ピクチャ、第25ピクチャ、第36ピクチャ、第40ピクチャ、および第49ピクチャをシーンの先頭として検出し、第1シーン乃至第7シーンの7つのシーンに分割する。
When the inter-picture difference value in FIG. 6 is supplied from the
図7は、図4のヒストグラム作成部42における処理の一例を説明する図である。
FIG. 7 is a diagram illustrating an example of processing in the
図7は、シーン検出部41(図4)から供給されるシーンのうちの、第mシーンを構成するピクチャ611乃至61n(nは、第mシーンを構成するピクチャ数)、ピクチャ611乃至61nそれぞれのヒストグラム621乃至62n、および第mシーンの画像情報としてのヒストグラム63mを示している。 FIG. 7 shows pictures 61 1 to 61 n (n is the number of pictures constituting the m-th scene) and pictures 61 1 constituting the m-th scene among the scenes supplied from the scene detection unit 41 (FIG. 4). to show the histogram 63 m as 61 n each histogram 62 1 to 62 n and the image information of the m scene.
ヒストグラム作成部42(図4)は、例えば、ピクチャ611のヒストグラム621の画素値xにおける画素数A1(x)乃至ヒストグラム62nの画素値xにおける画素数An(x)の平均値Bm(x)=(A1(x)+A2(x)+…+ An-1(x)+An(x))/nを求め、ヒストグラム63mの画素値xの画素数(度数)とすることを、すべての画素値について行うことにより、第mシーンの画像情報としてのヒストグラム63mを作成する。 The histogram creation unit 42 (FIG. 4), for example, calculates the average value of the number of pixels A 1 (x) in the pixel value x of the histogram 62 1 of the picture 61 1 to the number of pixels A n (x) in the pixel value x of the histogram 62 n. B m (x) = (A 1 (x) + A 2 (x) +... + A n-1 (x) + A n (x)) / n is obtained, and the number of pixels of the pixel value x of the histogram 63 m A histogram 63 m as image information of the m-th scene is created by performing (frequency) for all pixel values.
次に、図8を参照して、図3のグルーピング部33における処理の一例を説明する。 Next, an example of processing in the grouping unit 33 in FIG. 3 will be described with reference to FIG.
グルーピング部33は、画像情報作成部32からのシーンの画像情報としてのヒストグラムを用いて、シーン同士が類似している度合いを表す類似値を求める。即ち、グルーピング部33は、HD動画像を構成するシーンのうちの、任意の2つのシーンについて、画像情報作成部32からのシーンのヒストグラムの各画素値の画素数(度数)同士の差の2乗和を、その2つのシーンの類似値として求める。
The grouping unit 33 uses the histogram as the image information of the scene from the image
ここで、第1シーンのヒストグラムについての画素値xにおける画素数をB1(x)とし、第2シーンのヒストグラムについての画素値xにおける画素数をB2(x)とする。また、画素値xは、1以上100以下の整数であるとすれば、第1シーンと第2シーンとの類似値は、(B1(1)−B2(1))2+(B1(2)−B2(2))2+…+(B1(99)−B2(99))2+ (B1(100)−B2(100))2と表すことができる。 Here, the number of pixels at the pixel value x for the histogram of the first scene is B 1 (x), and the number of pixels at the pixel value x for the histogram of the second scene is B 2 (x). If the pixel value x is an integer between 1 and 100, the similarity value between the first scene and the second scene is (B 1 (1) −B 2 (1)) 2 + (B 1 (2) −B 2 (2)) 2 +... + (B 1 (99) −B 2 (99)) 2 + (B 1 (100) −B 2 (100)) 2
図8は、グルーピング部33(図3)によるグループ分けの対象となるHD動画像が、例えば、図6で説明したような第1シーン乃至第7シーンの7つのシーンで構成されるとした場合の、任意の2つのシーンの類似値を、表形式で示している。 FIG. 8 shows a case where the HD moving image to be grouped by the grouping unit 33 (FIG. 3) is composed of, for example, seven scenes from the first scene to the seventh scene as described in FIG. The similarity values of any two scenes are shown in tabular form.
例えば、類似値が10以下であるシーン同士を、類似するシーンであるとして、同一のグループにグループ分けをすることとすれば、図8において、第1シーンは、第3シーン、第5シーン、第7シーンとの類似値が10以下であるため、グルーピング部33では、第3シーン、第5シーン、および第7シーンとともに、1つのグループにグループ分けされる。 For example, assuming that scenes having a similarity value of 10 or less are similar scenes and are grouped into the same group, in FIG. 8, the first scene is the third scene, the fifth scene, Since the similarity value with the seventh scene is 10 or less, the grouping unit 33 is grouped into one group together with the third scene, the fifth scene, and the seventh scene.
次に、グルーピング部33は、グループ分けされていない第2シーンについて、同じくグループ分けされていない第4シーン、および第6シーンとの類似値を比較してグループ分けをする。具体的には、第2シーンと第4シーンとの類似値は130であり、第2シーンと第6シーンとの類似値は100であり、いずれも10以下でないので、グルーピング部33は、第2シーンのみを、1つのグループにグループ分けをする。 Next, the grouping unit 33 groups the second scenes that are not grouped by comparing similar values of the fourth scene and the sixth scene that are also not grouped. Specifically, the similarity value between the second scene and the fourth scene is 130, and the similarity value between the second scene and the sixth scene is 100, and none of them is 10 or less. Only two scenes are grouped into one group.
同様にして、第4シーン、および第6シーンについても、グループ分けをする。 Similarly, the fourth scene and the sixth scene are also grouped.
以上のように、グルーピング部33は、グループ分けされていない任意のシーンを選択し、その任意のシーンとの類似値があらかじめ定められた閾値以下の、グループ分けされていないシーンを検出し、その任意のシーンと、その任意のシーンについて検出されたシーンとを、1つのグループとする。グルーピング部33は、HD動画像を構成するすべてのシーンが、いずれかのグループにグループ分けされるまで、同様の処理を繰り返す。 As described above, the grouping unit 33 selects an arbitrary scene that is not grouped, detects an ungrouped scene whose similarity value with the arbitrary scene is equal to or less than a predetermined threshold, Arbitrary scenes and scenes detected for the arbitrary scenes are set as one group. The grouping unit 33 repeats the same processing until all scenes constituting the HD moving image are grouped into any group.
次に、図9を参照して、図3のグルーピング部33および圧縮部34における処理をさらに説明する。
Next, processing in the grouping unit 33 and the
図9は、第1シーン乃至第7シーンにより構成されるHD動画像データ(図9上側)と、各シーンがグルーピング部33によりグループ分けされた後のHD動画像データ(図9下側)とを示している。 9 shows HD moving image data (upper side of FIG. 9) composed of the first to seventh scenes, and HD moving image data (lower side of FIG. 9) after the scenes are grouped by the grouping unit 33. Is shown.
図9では、第1シーン、第3シーン、第5シーン、および第7シーンが1つのグループG1に、第2シーン、および第4シーンが他の1つのグループG2に、第6シーンのみがさらに他の1つのグループG3に、それぞれグループ分けされている。 In FIG. 9, the first scene, the third scene, the fifth scene, and the seventh scene are in one group G1, the second scene and the fourth scene are in another group G2, and only the sixth scene is further added. Each of the other groups G3 is grouped.
グルーピング部33(図3)は、グループ分け後のシーンを、グループ単位で、圧縮部34に供給するが、そのグループ単位でのシーンの供給は、表示順、即ち、ピクチャ表示番号がより小さいピクチャを含むシーンが属するグループの順に行われる。図9においては、グループG1に属する第1シーンに含まれるピクチャのピクチャ表示番号が最も小さく、グループG2に属する第2シーンに含まれるピクチャのピクチャ表示番号が次に小さく、グループG3に属する第6シーンに含まれるピクチャのピクチャ表示番号が最も大きいため、グループG1に属する第1シーン、第3シーン、第5シーン、および第7シーン、グループG2に属する第2シーンおよび第4シーン、グループG3に属する第6シーンが、その順番で、グルーピング部33から圧縮部34に供給される。
The grouping unit 33 (FIG. 3) supplies the grouped scenes to the
そして、圧縮部34では、1つのグループを、1GOPとみなして、各グループに属するシーンを構成するピクチャがMPEG符号化される。
Then, the
以上のように、圧縮部34は、グループをGOPとみなして符号化を行い、各グループは、類似するシーン(ピクチャ)で構成されるため、例えば、MPEGのように、表示順の15枚等のピクチャをGOPとして符号化を行う場合と比較して、画質の劣化を抑えつつ、圧縮率を向上させることができる。
As described above, the
図10は、図3の圧縮部34が出力する、ピクチャの符号化データのフォーマットを示している。
FIG. 10 shows a format of encoded picture data output from the
ピクチャの符号化データのフォーマットは、そのピクチャを予測符号化することにより得られるピクチャの符号化データに、そのピクチャの表示順を表すピクチャ表示番号が付加されて構成される。 The encoded data format of a picture is configured by adding a picture display number indicating the display order of the picture to the encoded data of the picture obtained by predictively encoding the picture.
次に、図11のフローチャートを参照して、図3の並び替え圧縮部22における処理を説明する。
Next, processing in the
並び替え圧縮部22は、例えば、ユーザが図示せぬ操作部を操作した場合に、あるいは、特に行うべき処理が(ほとんど)ない場合に、図11のフローチャートにしたがった処理を行う。
For example, the
即ち、入出力インタフェース21は、HDD14からHD動画像を読み出し、ピクチャ表示番号付加部31に供給する。ステップS11において、ピクチャ表示番号付加部31は、入出力インタフェース21から供給されたHD動画像の各ピクチャに、そのピクチャの表示順を表すピクチャ表示番号を付加し、画像情報作成部32に供給して、ステップS12に進む。
That is, the input /
ステップS12において、画像情報作成部32は、ピクチャ表示番号付加部31から供給されるHD動画像を用いて、HD動画像を構成するピクチャを類似するピクチャのグループにグループ分けをするのに用いる画像情報を作成する。また、画像情報作成部32は、HD動画像と画像情報とを、グルーピング部33に供給し、ステップS12から、ステップS13に進む。
In step S12, the image
ステップS13において、グルーピング部33は、画像情報作成部32から供給される画像情報を用いて、同じく、画像情報作成部32から供給されるHD動画像を構成する各ピクチャを、類似するピクチャのグループにグループ分けをし、その結果得られるグループ分けされたピクチャを、グループ単位で圧縮部34に供給して、ステップS14に進む。
In step S <b> 13, the grouping unit 33 uses the image information supplied from the image
ステップS14において、圧縮部34は、グルーピング部33から供給されるグループ分けされたピクチャを、グループ毎に予測符号化し、その結果得られる符号化データを、入出力インタフェース21に供給して、ステップS15に進む。
In step S14, the
ステップS15において、入出力インタフェース21は、圧縮部34から供給される符号化データを、HDD14に供給し記録させて、処理を終了する。
In step S <b> 15, the input /
次に、図12のフローチャートを参照して、図11のステップS12における画像情報作成処理の詳細について説明する。 Next, details of the image information creation processing in step S12 of FIG. 11 will be described with reference to the flowchart of FIG.
ステップS21において、シーン検出部41(図4)は、ピクチャ表示番号付加部31(図3)から供給されるHD画像により、シーンを検出(算出)し、ヒストグラム作成部42(図4)に供給して、ステップS22に進む。 In step S21, the scene detection unit 41 (FIG. 4) detects (calculates) a scene from the HD image supplied from the picture display number adding unit 31 (FIG. 3), and supplies it to the histogram creation unit 42 (FIG. 4). Then, the process proceeds to step S22.
ステップS22において、ヒストグラム作成部42は、シーン検出部41から供給される各シーンのヒストグラム(図7)を作成し、画像情報としてグルーピング部33に供給し、処理を終了する。
In step S22, the
次に、図13のフローチャートを参照して、図12のステップS21のシーン検出処理の詳細を説明する。 Next, details of the scene detection process in step S21 in FIG. 12 will be described with reference to the flowchart in FIG.
ステップS31において、ピクチャ間差部51(図5)は、ピクチャ表示番号付加部31(図3)から供給されるHD動画像を構成する各ピクチャより、ピクチャ間差値を求め、ピクチャ表示番号付加部31から供給されるHD動画像とともに、シーン分割部52(図5)に供給し、ステップS32に進む。
In step S31, the inter-picture difference unit 51 (FIG. 5) obtains an inter-picture difference value from each picture constituting the HD moving image supplied from the picture display number adding unit 31 (FIG. 3), and adds the picture display number. The HD moving image supplied from the
ステップS32において、シーン分割部52は、ピクチャ間差部51から供給されるHD動画像を、同じく、ピクチャ間差部51から供給されるピクチャ間差値を用いて、シーンに分割し、そのシーンに分割後のHD動画像を、ヒストグラム作成部42(図4)に供給して、処理を終了する。
In step S32, the scene dividing unit 52 divides the HD moving image supplied from the
次に、図14のフローチャートを参照して、図11のステップS13のグルーピング処理の詳細を説明する。 Next, details of the grouping process in step S13 in FIG. 11 will be described with reference to the flowchart in FIG.
ステップS41において、グルーピング部33(図3)は、HD動画像を構成するシーンの中から、例えば、ピクチャ表示番号が1番小さなピクチャを含み、かつ、いずれのグループにも属していないシーンの1つを、比較シーンとして選択し、ステップS42に進む。 In step S41, the grouping unit 33 (FIG. 3) selects, for example, one of the scenes that include the picture with the smallest picture display number and does not belong to any group from among the scenes constituting the HD moving image. Are selected as comparison scenes, and the process proceeds to step S42.
ステップS42において、グルーピング部33は、グループ分けされていない(グループに属していない)比較シーンとは別のシーン(以下、単に別のシーンという)が存在しているかを判断し、別のシーンが存在しないと判断した場合、ステップS43に進む。ステップS43では、グルーピング部33は、比較シーンのみを、1つのグループにグループ分けをする。 In step S42, the grouping unit 33 determines whether there is a scene (hereinafter simply referred to as another scene) that is different from the comparison scene that is not grouped (does not belong to the group). If it is determined that it does not exist, the process proceeds to step S43. In step S43, the grouping unit 33 groups only the comparison scenes into one group.
一方、ステップS42において、グルーピング部33が、別のシーンが存在すると判断した場合、ステップS44に進み、グルーピング部33は、別のシーンのうちの1つを注目シーンとして選択し、画像情報作成部32からの比較シーンのヒストグラムと、同じく、画像情報作成部32からの注目シーンのヒストグラムとの類似値を求め、ステップS45に進む。
On the other hand, when the grouping unit 33 determines in step S42 that another scene exists, the process proceeds to step S44, where the grouping unit 33 selects one of the other scenes as a target scene, and the image information creation unit Similarly, the histogram of the comparison scene from 32 and the histogram of the scene of interest from the image
ステップS45において、グルーピング部33は、比較シーンのヒストグラムと、注目シーンのヒストグラムとの類似値が、所定の閾値以下であるかどうかを判断する。 In step S45, the grouping unit 33 determines whether or not the similarity value between the histogram of the comparison scene and the histogram of the target scene is equal to or less than a predetermined threshold value.
ステップS45において、類似値が所定の閾値以下であると判断された場合、ステップS46に進み、グルーピング部33は、注目シーンを、比較シーンと同じグループにグループ分けされるグループ分け対象とし、ステップS47に進む。 If it is determined in step S45 that the similarity value is equal to or smaller than the predetermined threshold value, the process proceeds to step S46, and the grouping unit 33 sets the target scene as a grouping target that is grouped into the same group as the comparison scene, and step S47. Proceed to
また、ステップS45において、類似値が所定の閾値以下でないと判断された場合、ステップS46をスキップして、ステップS47に進み、グルーピング部33は、比較シーンと類似性の比較をしていない別のシーンが存在するかを判断し、そのような別のシーンが存在すると判断した場合、ステップS44に戻り、以下、同様の処理を繰り返す。 If it is determined in step S45 that the similarity value is not less than or equal to the predetermined threshold value, step S46 is skipped and the process proceeds to step S47, where the grouping unit 33 does not compare the similarity with the comparison scene. It is determined whether or not a scene exists, and when it is determined that such another scene exists, the process returns to step S44, and thereafter the same processing is repeated.
一方、ステップS47において、比較シーンと類似性の比較をしていない別のシーンが存在しないと判断された場合、ステップS48に進み、グルーピング部33は、比較シーンと同じグループにグループ分けされるグループ分け対象となったすべての別のシーンと、比較シーンとを、1つのグループにグループ分けをし、ステップS49に進む。 On the other hand, if it is determined in step S47 that there is no other scene that has not been compared with the comparison scene, the process proceeds to step S48, and the grouping unit 33 is grouped into the same group as the comparison scene. All other scenes to be divided and comparison scenes are grouped into one group, and the process proceeds to step S49.
ステップS49において、グルーピング部33は、すべてのシーンがグループ分けされたか判断し、まだグループ分けされていないシーンがあると判断した場合には、ステップS41に戻り、以下、同様の処理を繰り返すが、すべてのシーンがグループ分けされていると判断した場合には、処理を終了する。 In step S49, the grouping unit 33 determines whether all scenes are grouped. If it is determined that there is a scene that has not been grouped yet, the grouping unit 33 returns to step S41 and repeats the same processing. If it is determined that all scenes are grouped, the process ends.
なお、ステップS45で類似値と比較する所定の閾値は、例えば、ユーザにより決められた任意の値であってもよいし、あらかじめ記録制御部13に設定されている値であってもよい。
Note that the predetermined threshold value to be compared with the similar value in step S45 may be, for example, an arbitrary value determined by the user, or may be a value set in the
図15は、図1の再生制御部15の構成例を示すブロック図である。
FIG. 15 is a block diagram illustrating a configuration example of the
再生制御部15は、入出力インタフェース111、解凍部112、バッファ113、および出力制御部114から構成される。
The
入出力インタフェース111は、HDD14からピクチャ(を含むシーン)の符号化データを、グループ単位で、復号すべき順に読み出し、解凍部112に供給する。なお、入出力インタフェース111は、ピクチャ表示番号がより小さいピクチャ(の符号化データ)を含むグループの符号化データを、より先に復号すべきグループの符号化データとして、HDD14から読み出す。
The input /
解凍部112は、入出力インタフェース111から供給される、グループ単位の符号化データを、1GOPとして、MPEG方式により復号し、その結果得られるHD動画像を構成する各ピクチャを、順次、バッファ113に供給する。
The
バッファ113は、解凍部112から供給されるHD動画像を構成するピクチャを一旦保存する。
The
出力制御部114は、バッファ113に保存されたピクチャを、そのピクチャ表示番号の小さい順に読み出すことにより、ピクチャの並びを表示順に並び替え、モニタ16に出力して表示させる。
The
図16は、入出力インタフェース111によるHDD14からのシーン(を構成するピクチャ)の符号化データの読み出しの順番と、出力制御部114によるバッファ113からのピクチャの読み出しの順番を説明する図である。
FIG. 16 is a diagram for explaining the order of reading the encoded data of the scene (the picture constituting it) from the
なお、図16において、横軸は、時間軸を表す。また、HD動画像は、例えば、図6で説明したように、第1シーン乃至第7シーンの7つのシーンから構成され、また、第1シーン乃至第7シーンは、例えば、図9で説明したように、グループG1、グループG2、およびグループG3の3つのグループにグループ分けされていることとする。即ち、第1シーン、第3シーン、第5シーン、および第7シーンはグループG1に属し、第2シーンおよび第4シーンはグループG2に属し、第6シーンはグループG3に属することとする。 In FIG. 16, the horizontal axis represents the time axis. Further, as described in FIG. 6, for example, the HD moving image is composed of seven scenes of the first scene to the seventh scene, and the first scene to the seventh scene are described in FIG. 9, for example. Thus, it is assumed that the group is divided into three groups, group G1, group G2, and group G3. That is, the first scene, the third scene, the fifth scene, and the seventh scene belong to the group G1, the second scene and the fourth scene belong to the group G2, and the sixth scene belongs to the group G3.
符号化データの復号は、表示順がより先(時間的に前)のピクチャほど、先に行う必要がある。そこで、入出力インタフェース111は、上述したように、ピクチャ表示番号がより小さいピクチャ(の符号化データ)を含むグループを、先に、HDD14から読み出し、解凍部112に供給する。
Decoding of the encoded data needs to be performed first for pictures that are earlier in display order (temporally earlier). Therefore, as described above, the input /
従って、グループG1、グループG2、およびグループG3については、図9で説明したように、グループG1に属する第1シーンに含まれるピクチャのピクチャ表示番号が最も小さく、グループG2に属する第2シーンに含まれるピクチャのピクチャ表示番号が次に小さく、グループG3に属する第6シーンに含まれるピクチャのピクチャ表示番号が最も大きいため、入出力インタフェース111は、図16上側に示すように、グループG1、グループG2、グループG3の順番で、HDD14から符号化データを読み出し、解凍部112に供給する。
Therefore, as described with reference to FIG. 9, the group G1, the group G2, and the group G3 have the smallest picture display number of the picture included in the first scene belonging to the group G1, and are included in the second scene belonging to the group G2. Since the picture display number of the picture to be displayed is the next smallest and the picture display number of the picture included in the sixth scene belonging to the group G3 is the largest, the input /
解凍部112は、入出力インタフェース111から供給される符号化データを、グループ単位で、順次、復号して、バッファ113に供給して保存させる。そして、出力制御部114は、バッファ113に保存されたピクチャを、図16下側に示すように、ピクチャ表示番号が小さい順、即ち、表示順に読み出し、モニタ16に供給する。
The decompressing
次に、図17のフローチャートを参照して、図15の再生制御部15における処理について説明する。
Next, the processing in the
例えば、ユーザが図示せぬ操作部を操作することにより、画像の再生が、入出力インタフェース111に指令されると、ステップS81において、入出力インタフェース111は、HDD14からピクチャ(を含むシーン)の符号化データを、グループ単位で復号すべき順に読み出し、解凍部112に供給して、ステップS82に進む。なお、入出力インタフェース111は、ピクチャ表示番号がより小さいピクチャ(の符号化データ)を含むグループの符号化データを、より先に復号すべきグループの符号化データとして、HDD14から読み出す。
For example, when the user operates the operation unit (not shown) and the reproduction of the image is instructed to the input /
ステップS82において、解凍部112は、入出力インタフェース111から供給される、グループ単位の符号化データを、1GOPとして、MPEG方式により復号し、その結果得られるHD動画像を構成する各ピクチャを、順次、バッファ113に供給して、ステップS83に進む。
In step S82, the
ステップS83において、バッファ113は、解凍部112から供給されるHD動画像を構成するピクチャを一旦保存して、ステップS84に進む。
In step S83, the
ステップS84において、出力制御部114は、バッファ113に保存されたピクチャを、そのピクチャ表示番号の小さい順に読み出すことにより、ピクチャの並びを表示順に並び替え、モニタ16に出力して表示させ、処理を終了する。
In step S84, the
次に、図15の再生制御部15では、1つの解凍部112によって符号化データを復号するが、1つの解凍部112がピクチャを復号する処理速度によっては、ピクチャを表示する時刻までに、そのピクチャの復号が間に合わないことがある。そこで、再生制御部15は、解凍部112と同様に構成される複数の解凍部を用いて構成することができる。
Next, in the
図18は、複数の解凍部を用いて構成された再生制御部15の構成例を示すブロック図である。
FIG. 18 is a block diagram illustrating a configuration example of the
なお、図中、図15の場合に対応する部分については同一の符号を付してあり、以下、その説明は、適宜省略する。 In the figure, portions corresponding to those in FIG. 15 are denoted by the same reference numerals, and description thereof will be omitted as appropriate.
即ち、図18の再生制御部15は、入出力インタフェース111に代えて、入出力インタフェース121が設けられており、解凍部112に代えて、解凍部112と同じ構成をとる複数の解凍部1121乃至112nが設けられているほかは、図15の場合と同様に構成されている。
18 includes an input /
入出力インタフェース121は、図15の入出力インタフェース111と同様に、HDD14から、グループ単位で、符号化データを読み出す。そして、入出力インタフェース121は、解凍部1121乃至112nのうちの、復号を行っていない(空いている)ものの1つを選択し、その選択した解凍部に、HDD14から読み出したグループ単位の符号化データを供給して復号させる。
The input /
解凍部1121乃至112nは、入出力インタフェース121から供給されるグループ単位の符号化データを、1GOPの符号化データとしてMPEG方式により復号し、その結果得られるピクチャを、バッファ113に供給する。
The
出力制御部114は、バッファ113に保存されたピクチャを、図15で説明したように表示順に読み出し、モニタ16に供給する。これにより、モニタ16において、HD動画像が表示される。
The
なお、図15の解凍部112において、HDD14に記録された符号化データの復号を、表示に間に合うようにすることができる場合、複数の解凍部1121乃至112nそれぞれとしては、解凍部112により低速なものを用いることができる。逆にいえば、図15の解凍部112は、複数の解凍部1121乃至112nそれぞれよりも、高速なデコーダ機能を有する必要がある。
In the
図19は、図1の再生制御部15の他の構成例を示すブロック図である。
FIG. 19 is a block diagram illustrating another configuration example of the
なお、図中、図15に対応する部分については同一の符号を付してあり、以下、その説明は、適宜省略する。 In the figure, portions corresponding to those in FIG. 15 are denoted by the same reference numerals, and description thereof will be omitted as appropriate.
即ち、図19の再生制御部15は、図15の解凍部112、バッファ113、および出力制御部114に代えて、解凍部122が設けられているほかは、図15の場合と同様に構成されている。
That is, the
解凍部122は、入出力インタフェース111から、MPEG方式による予測符号化された符号化データが供給されるようになっている。また、解凍部122は、入出力インタフェース111から供給される符号化データを、DCT(Discrete Cosine Transform)係数まで復号し、その結果得られるDCT係数を一旦保存して、適切な時期に、保存されたDCT係数を表示順にピクチャに復号し、モニタ16に供給する。
The
図20は、図19の解凍部122の構成を示すブロック図である。
FIG. 20 is a block diagram showing a configuration of the
バッファ131は、入出力インタフェース111から供給される符号化データ(可変長符号)を、一旦保存し、随時、可変長復号部132に供給する。
The
可変長復号部132は、バッファ131から供給される可変長符号を復号して、量子化係数(DCT係数を量子化して得られる値)や動きベクトルを求め、逆量子化部133に供給する。
The variable
逆量子化部133は、可変長復号部132から供給される量子化係数を逆量子化し、DCT係数に変換する。また、逆量子化部133は、そのDCT係数と、可変長復号部132から供給された動きベクトルとをバッファ134に供給し、保存させる。
The
バッファ134は、逆量子化部133から供給されるDCT係数と動きベクトルとを、一旦保存する。なお、逆量子化部133から供給されるDCT係数と動きベクトルとを、一旦保存するバッファ134としての記録媒体としては、例えば、半導体メモリや、HDD14に内蔵されるハードディスク等を採用することができる。
The
出力制御部135は、ピクチャの表示順に、バッファ134に保存された、ピクチャの復号に必要なDCT係数と動きベクトルとを読み出し、DCT係数を、逆DCT部136に供給するとともに、動きベクトルを動き補償部139に供給する。
The
逆DCT部136は、出力制御部135から供給されるDCT係数に、逆DCT処理を施し、その結果得られる画素値を、演算部137に供給する。
The
演算部137は、逆DCT部136からの画素値がI(Intra)ピクチャの画素値である場合、その画素値をそのままピクチャの復号結果として出力し、逆DCT部136からの画素値がP(Predictive)ピクチャ、またはB(Bidirectionally)ピクチャの画素値である場合、動き補償部139から供給される予測画像の画素値と加算し、その結果得られる加算値を、ピクチャの復号結果として出力する。
When the pixel value from the
バッファ138は、演算部137が出力する復号結果(ピクチャ)のうちの、Pピクチャ、またはBピクチャを復号するために用いる予測画像を生成するのに参照するIピクチャ、およびPピクチャを保存する。
The
動き補償部139は、バッファ138に保存されるピクチャを参照して、出力制御部135から供給される動きベクトルを用いて動き補償を施し、その結果得られる予測画像を演算部137に供給する。
The
以上のように構成される解凍部122では、入出力インタフェース111からブロック単位で供給されるピクチャの符号化データが、バッファ131、可変長復号部132、および逆量子化部133で処理されることにより得られる各ピクチャのDCT係数と動きベクトルとが、そのピクチャのピクチャ表示番号とともに、バッファ134に供給されて保存される。
In the
そして、出力制御部135は、バッファ134に保存された各ピクチャのDCT係数と動きベクトルとを、ピクチャ表示番号の小さい順、即ち、ピクチャの表示順に読み出し、DCT係数を逆DCT部136に、動きベクトルを動き補償部139に、それぞれ供給する。これにより、逆DCT部136、演算部137、バッファ138、および動き補償部139では、各ピクチャのDCT係数と動きベクトルとを用いて、各ピクチャ(の画素値)が、表示順に復号されて出力される。
Then, the
なお、解凍部122は、入出力インタフェース111から供給される符号化データを、復号の途中で得られるDCT係数の状態でバッファ134に保存しておくため、復号後のHD動画像の状態でバッファ(例えば、図15のバッファ113)に保存する場合と比較して、バッファの記憶容量をより節約することができる。
Note that the
次に、図19の再生制御部15では、1つの解凍部122によって符号化データを復号するが、1つの解凍部122がピクチャを復号する処理速度によっては、ピクチャを表示する時刻までに、そのピクチャの復号が間に合わないことがある。そこで、再生制御部15は、解凍部122と同様に構成される複数の解凍部を用いて構成することができる。
Next, in the
図21は、複数の解凍部を用いて構成された再生制御部15の他の構成例を示すブロック図である。
FIG. 21 is a block diagram illustrating another configuration example of the
図21の再生制御部15は、図18で説明した入出力インタフェース121と、図19および図20で説明した解凍部122と同じ構成をとる複数の解凍部1221乃至122nとから構成されている。
The
図21の再生制御部15では、入出力インタフェース121が、HDD14からグループ単位の符号化データを読み出す。そして、入出力インタフェース121は、複数の解凍部1221乃至122nのうちの、復号を行っていないものの1つを選択し、その選択した解凍部に、グループ単位の符号化データを供給して復号させる。
In the
解凍部1221乃至122nそれぞれは、図19の解凍部122と同様に、入出力インタフェース121から供給される符号化データを、DCT係数まで復号し、その結果得られるDCT係数をバッファ(図20のバッファ134に対応するバッファ)に一旦保存する。さらに、それぞれの解凍部1221乃至122nは、適切な時期に、バッファに保存された各ピクチャのDCT係数を、そのピクチャの表示タイミングの直前に、ピクチャに復号し、モニタ16に出力する。
Similarly to the
図22は、図1の記録制御部13の他の構成例を示すブロック図である。
FIG. 22 is a block diagram showing another configuration example of the
なお、図中、図2の場合に対応する部分については同一の符号を付してあり、以下、その説明は、適宜省略する。 In the figure, portions corresponding to those in FIG. 2 are denoted by the same reference numerals, and description thereof will be omitted as appropriate.
即ち、図22の記録制御部13は、圧縮部161、解凍部162、縮小画像作成部163、イントラ圧縮部164、およびイントラ解凍部165が新たに設けられているほかは、図2の場合と同様に構成されている。
That is, the
圧縮部161は、HDTVカメラ12から、入出力インタフェース21を介して供給されるHD動画像を、例えば、可逆の符号化方式(圧縮方式)で符号化する。即ち、図2では、HDTVカメラ12からのHD動画像を符号化せずに、HDD14に記録させるようにしたが、図22では、HDTVカメラ12からのHD動画像を、圧縮部161で符号化し、データ量を少なくしてから、HDD14に記録させることができるようになっている。
The
解凍部162は、HDD14に記録されている、圧縮部161により符号化された符号化データを、入出力インタフェース21を介してHDD14から読み出し、圧縮部161による符号化方式に従った復号方式により復号して、その結果得られるHD動画像を、入出力インタフェース21に供給する。
The
縮小画像作成部163は、HDTVカメラ12から入出力インタフェース21を介して供給されるHD動画像の各ピクチャの画素数を間引くことにより縮小画像を作成し、入出力インタフェース21に供給する。
The reduced
イントラ圧縮部164は、入出力インタフェース21から供給される縮小画像を、イントラ符号化し、HDD14に供給して、記録させる。
The
イントラ解凍部165は、入出力インタフェース21から供給される、各ピクチャの縮小画像をイントラ符号化したイントラ符号化データを復号して、その結果得られる縮小画像を、入出力インタフェース21に供給する。
The
以上のように構成される記録制御部13では、HDTVカメラ12から供給されるHD動画像が、入出力インタフェース21に供給され、入出力インタフェース21は、HDTVカメラ12からのHD動画像を、圧縮部161と縮小画像作成部163とに供給する。圧縮部161は、入出力インタフェース21からのHD動画像を符号化し、その結果得られる符号化データを、入出力インタフェース21に供給する。入出力インタフェース21は、圧縮部161からの符号化データを、HDD14に供給し、これにより、HD動画像の符号化データは、HDD14により記録される。
In the
また、縮小画像作成部163は、入出力インタフェース21からのHD動画像の各ピクチャの縮小画像を作成し、入出力インタフェース21を介して、イントラ圧縮部164に供給する。イントラ圧縮部164は、入出力インタフェース21を介して供給される縮小画像をイントラ符号化し、その結果得られるイントラ符号化データを、入出力インタフェース21に供給する。入出力インタフェース21は、イントラ圧縮部164からのイントラ符号化データをHDD14に供給し、これにより、縮小画像のイントラ符号化データは、HDD14により記録される。
The reduced
その後、入出力インタフェース21は、HDD14から、HD動画像の符号化データと、縮小画像のイントラ符号化データとを読み出し、HD動画像の符号化データを解凍部162に供給するとともに、縮小画像のイントラ符号化データをイントラ解凍部165に供給する。
Thereafter, the input /
解凍部162は、入出力インタフェース21からの符号化データを、元のHD動画像の各ピクチャに復号し、入出力インタフェース21を介して、並び替え圧縮部22に供給する。また、イントラ解凍部165は、入出力インタフェース21からのイントラ符号化データを、元の縮小画像に復号し、入出力インタフェース21を介して、並び替え圧縮部22に供給する。
The
並び替え圧縮部22は、入出力インタフェース21を介して供給される縮小画像を対象に処理を行うことにより、画像情報を取得し、その画像情報に基づき、入出力インタフェース21を介して供給されるHD動画像の各ピクチャのグループ分けを行う。そして、並び替え圧縮部22は、そのグループ分けによって得られるグループ単位で、HD動画像のピクチャの予測符号化を行い、その結果得られる符号化データを、入出力インタフェース21を介して、HDD14に供給して記録させる。
The
なお、HDD14に記録された、圧縮部161で得られた符号化データは、並び替え圧縮部22で得られた符号化データがHDD14に記録された後に、必要に応じて削除される。
The encoded data obtained by the
図23は、図22の縮小画像作成部163の構成例を示すブロック図である。
FIG. 23 is a block diagram illustrating a configuration example of the reduced
縮小画像作成部163は、LPF(Low-Pass Filter)171およびダウンサンプリング部172により構成される。縮小画像作成部163は、LPF171において、HDTVカメラ12から入出力インタフェース21を介して供給されるHD動画像の高周波数帯域成分を除去し、さらに、ダウンサンプリング部172において、HD動画像の各ピクチャの画素を間引くことにより、各ピクチャを縮小した縮小画像を、入出力インタフェース21に供給する。
The reduced
図24は、図2の並び替え圧縮部22の他の構成例を示すブロック図である。
FIG. 24 is a block diagram illustrating another configuration example of the
なお、図中、図3の場合に対応する部分については同一の符号を付してあり、以下、その説明は、適宜省略する。 In the figure, parts corresponding to those in FIG. 3 are denoted by the same reference numerals, and description thereof will be omitted as appropriate.
即ち、図24の並び替え圧縮部22は、エンコーダ選択部181、および圧縮部182が新たに設けられているほかは、図3の場合と同様に構成されている。但し、図3では、画像情報作成部32は、HD動画像を構成するピクチャと、シーンの画像情報(ヒストグラム)を出力するようになっていたが、図24では、画像情報作成部32は、HD動画像を構成するピクチャと、シーンの画像情報の他、各ピクチャのピクチャ間差値も出力するようになっている。
That is, the
エンコーダ選択部181には、画像情報作成部32が出力する、HD動画像を構成する各ピクチャ、HD動画像を構成する各ピクチャのピクチャ間差値、および画像情報が供給されるようになっている。エンコーダ選択部181は、画像情報作成部32から供給されるHD動画像を構成する各ピクチャのピクチャ間差値を用いて、同じく、画像情報作成部32から供給されるHD動画像を構成する各ピクチャの符号化方式を、シーンごとに選択し、そのシーンに含まれる各ピクチャに、選択された符号化方式に関する情報を付加して、その符号化方式に従って、ピクチャを、シーンごとにグルーピング部33、または、圧縮部182に供給する。
The
即ち、エンコーダ選択部181は、HD動画像を構成する各シーンについて、例えば、そのシーンを構成するピクチャのピクチャ間差値がある値以上のピクチャが所定数以上存在するかどうかを判断し、ピクチャ間差値がある値以上のピクチャが所定数以上存在すると判断されたシーンを、動きの激しいシーン(類似しないピクチャが多いシーン)に分類する。さらに、エンコーダ選択部181は、動きの激しいシーンに分類されたシーンについては、後段の圧縮部182での符号化を行うことを選択し、動きの激しいシーンに分類されなかったシーン、つまり、動きの(ほとんど)ないシーン(類似しないピクチャがほとんどないシーン)については、圧縮部34(図3)での予測符号化を行うことを選択する。そして、エンコーダ選択部181は、圧縮部34での符号化を選択したシーンを構成するピクチャには、例えば、MPEG符号化方式で予測符号化するという情報を付加し、そのシーンの画像情報と共に、グルーピング部33に供給する。また、エンコーダ選択部181は、圧縮部182での符号化を選択したシーンを構成するピクチャには、例えば、ウェーブレット変換により符号化するという情報を付加し、そのシーン(を構成するピクチャ)を、圧縮部182に供給する。
That is, the
圧縮部182は、エンコーダ選択部181から供給されるシーンのピクチャ、即ち、ある程度以上の動きがあるシーンのピクチャを、ウェーブレット変換し、その結果得られる符号化データを、入出力インタフェース21に供給する。
The
なお、図24の並び替え圧縮部22では、エンコーダ選択部181の処理の前に、グルーピング部33の処理をする構成を適用することができる。
Note that the
即ち、図24では、エンコーダ選択部181と圧縮部34との間に、グルーピング部33が設けられているが、グルーピング部33は、エンコーダ選択部181と圧縮部34との間ではなく、画像情報作成部32とエンコーダ選択部181との間に設けることができる。この場合、エンコーダ選択部181では、シーン単位ではなく、グループ単位で、ピクチャを、圧縮部34と圧縮部182とのうちのいずれで符号化するかが選択される。
That is, in FIG. 24, the grouping unit 33 is provided between the
また、圧縮部182では、圧縮部34が行う予測符号化と異なる符号化の1つであるウェーブレット変換を行うようにしたが、圧縮部182で行う符号化は、ウェーブレット変換に限定されるものではない。即ち、圧縮部182では、ピクチャをイントラ符号化する符号化であれば、どのような符号化でも採用することができる。但し、特に、画質の劣化が低く、かつ高圧縮率のイントラ符号化であることが望ましい。
The
なお、圧縮部34と圧縮部182において、HDD14に既に記録されているHD動画像を対象に符号化を行う場合、HDTVカメラ12からリアルタイムで供給されるHD動画像を対象に符号化を行う場合と異なり、圧縮部34と圧縮部182とのうちの一方の符号化処理の終了後に、他方の符号化処理を行うこともできるし、両方の符号化処理を並列して行うこともできる。
In the case where the
次に、図25を参照して、図24のグルーピング部33、圧縮部34、エンコーダ選択部181、および圧縮部182における処理をさらに説明する。
Next, processing in the grouping unit 33, the
いま、例えば、HD動画像が、図25の上から1番目に示すように、第1シーン乃至第7シーンから構成され、第1シーン、第3シーン、第5シーン、および第7シーンは互いに類似するが、第2シーン、第4シーン、および第6シーンは、いずれも、他のシーンと類似していないとする。さらに、第4シーンは、動きの激しいシーンであるが、他のシーン、即ち、第1シーン乃至第3シーンおよび第5シーン乃至第7シーンは、いずれも、動きの(ほとんど)ない類似しているシーンであるとする。 Now, for example, as shown first in FIG. 25 from the top in FIG. 25, the HD moving image is composed of the first scene to the seventh scene, and the first scene, the third scene, the fifth scene, and the seventh scene are mutually connected. Although similar, it is assumed that the second scene, the fourth scene, and the sixth scene are not similar to other scenes. Furthermore, the fourth scene is a scene with a lot of movement, but the other scenes, that is, the first scene to the third scene and the fifth scene to the seventh scene are all similar in that there is (almost) no movement. Suppose that it is a scene.
この場合、エンコーダ選択部181では、動きの激しいシーンである第4シーンについては、圧縮部182での符号化が選択され、第4シーンは、エンコーダ選択部181から圧縮部182に供給される。また、エンコーダ選択部181では、動きのないシーンである第1シーン乃至第3シーンおよび第5シーン乃至第7シーンについては、圧縮部34での符号化が選択され、第1シーン乃至第3シーンおよび第5シーン乃至第7シーンは、エンコーダ選択部181からグルーピング部33に供給される。
In this case, the
そして、グルーピング部33では、図25の上から2番目に示すように、エンコーダ選択部181からの第1シーン乃至第3シーンおよび第5シーン乃至第7シーンが、互いに類似している第1シーン、第3シーン、第5シーン、および第7シーンからなるグループG1、第2シーンのみからなるグループG2、第6シーンのみからなるグループG3にグループ分けされ、グループ単位で、圧縮部34に供給される。
Then, in the grouping unit 33, as shown second from the top in FIG. 25, the first scene to the third scene and the fifth scene to the seventh scene from the
圧縮部34は、グループG1、グループG2、グループG3のそれぞれを1GOPとみなして、MPEG方式による予測符号化を行う。
The
一方、圧縮部182では、図25の上から3番目に示す第4のシーンの各ピクチャがウェーブレット変換される。
On the other hand, in the
ここで、動きが激しいシーンのピクチャについては、ウェーブレット変換を行うことにより、MPEG方式等の予測符号化を行う場合と比較して、画質の劣化を低減し、或いは、圧縮率の向上を図ることができる。 Here, for pictures of scenes with intense motion, by performing wavelet transform, the degradation of image quality is reduced or the compression rate is improved compared to the case of performing predictive coding such as MPEG. Can do.
図26は、図24の圧縮部34、または圧縮部182が出力する、ピクチャの符号化データのフォーマットを示している。
FIG. 26 illustrates a format of encoded data of a picture output from the
ピクチャの符号化データのフォーマットは、そのピクチャを予測符号化することにより得られるピクチャの符号化データまたはウェーブレット変換することにより得られるウェーブレット変換により符号化されたピクチャデータ、そのピクチャの表示順を表すピクチャ表示番号、およびそのピクチャの符号化方式を表す情報が付加されて構成される。 The format of the encoded data of the picture represents the encoded data of the picture obtained by predictively encoding the picture or the picture data encoded by the wavelet transform obtained by wavelet transform, and the display order of the picture. A picture display number and information indicating the coding scheme of the picture are added to the picture display number.
次に、図27のフローチャートを参照して、図24の並び替え圧縮部22における処理を説明する。
Next, processing in the
並び替え圧縮部22は、例えば、ユーザが図示せぬ操作部を操作した場合に、あるいは、特に行うべき処理が(ほとんど)ない場合に、図27のフローチャートにしたがった処理を行う。
The
即ち、入出力インタフェース21は、HDD14からHD動画像を読み出し、ピクチャ表示番号付加部31に供給する。ステップS91において、ピクチャ表示番号付加部31は、入出力インタフェース21から供給されたHD動画像の各ピクチャに、そのピクチャの表示順を表すピクチャ表示番号を付加し、画像情報作成部32に供給して、ステップS92に進む。
That is, the input /
ステップS92において、画像情報作成部32は、図11のステップS12と同様に、ピクチャ表示番号付加部31から供給されるHD動画像の各ピクチャのピクチャ間差値を求め、そのピクチャ間差値に基づき、HD動画像のシーンを検出する。さらに、画像情報作成部32は、各シーンについて、HD動画像を構成するピクチャを類似するピクチャのグループにグループ分けをするのに用いる画像情報を作成する。そして、画像情報作成部32は、HD動画像を構成する各ピクチャ、シーンの画像情報、およびピクチャ間差値を、エンコーダ選択部181に供給し、ステップS92からステップS93に進む。
In step S92, the image
ステップS93において、エンコーダ選択部181は、画像情報作成部32から供給されるピクチャ間差値を用いて、同じく、画像情報作成部32から供給されるHD動画像を構成する各ピクチャの符号化方式をシーンごとに選択し、そのシーンに含まれるピクチャに、選択された符号化方式に関する情報を付加する。エンコーダ選択部181は、圧縮部34での符号化を選択されたシーン(を構成するピクチャ)を、画像情報作成部32から供給されたシーンの画像情報と共に、グルーピング部33に供給し、圧縮部182での符号化を選択されたシーン(を構成するピクチャ)を、圧縮部182に供給して、ステップS94に進む。
In step S93, the
ステップS94では、エンコーダ選択部181から供給されたシーンを構成するピクチャを対象とした処理が行われる。即ち、ステップS94では、グルーピング部33が、ステップS95において、図11のステップS13と同様に、エンコーダ選択部181から供給されるシーンの画像情報を用いて、同じく、エンコーダ選択部181から供給されるシーンを構成する各ピクチャを、シーン単位で、グループ分けをし、その結果得られるグループ分けされたシーン(を構成するピクチャ)を、グループ単位で圧縮部34に供給して、ステップS96に進む。
In step S94, processing for the pictures constituting the scene supplied from the
ステップS96において、圧縮部34は、グルーピング部33から供給されるピクチャを、グループ単位で、MPEG方式により予測符号化し、その結果得られる符号化データを、入出力インタフェース21に供給する。
In step S <b> 96, the
一方、圧縮部182は、ステップS97において、エンコーダ選択部181から供給されたシーンを構成する各ピクチャを、ウェーブレット変換し、その結果得られる符号化データを、入出力インタフェース21に供給する。
On the other hand, in step S97, the
ステップS94の処理後、ステップS98に進み、入出力インタフェース21は、圧縮部34、または圧縮部182から供給される符号化データを、HDD14に供給し記録させて、処理を終了する。
After the process of step S94, the process proceeds to step S98, and the input /
なお、ステップS92において、画像情報作成部32は、縮小画像作成部163(図22)で作成されるHD動画像の縮小画像を用いて、HD動画像を構成するピクチャを類似するピクチャのグループにグループ分けをするのに用いる画像情報を作成してもよい。
In step S92, the image
図28は、図1の記録制御部13が図24に示したように構成される場合の、図1の再生制御部15の構成例を示すブロック図である。
FIG. 28 is a block diagram showing a configuration example of the
なお、図中、図15の場合に対応する部分については同一の符号を付してあり、以下、その説明は、適宜省略する。 In the figure, portions corresponding to those in FIG. 15 are denoted by the same reference numerals, and description thereof will be omitted as appropriate.
即ち、図28の再生制御部15は、図15の入出力インタフェース111に代えて、入出力インタフェース201が設けられており、さらに、解凍部202が新たに設けられているほかは、図15の場合と同様に構成されている。
That is, the
入出力インタフェース201は、HDD14からピクチャ(を含むシーン)の符号化データを、復号すべき順に読み出し、その符号化データに付与された符号化方式に関する情報に基づいて、解凍部112または解凍部202に供給する。即ち、入出力インタフェース201は、MPEG符号化によって得られた符号化データを解凍部112に供給し、ウェーブレット変換によって得られた符号化データを解凍部202に供給する。なお、入出力インタフェース201は、ピクチャ表示番号がより小さいピクチャを含む符号化データを、より先に復号すべき符号化データとして、HDD14から読み出す。
The input /
解凍部202は、入出力インタフェース201から供給されるウェーブレット変換された符号化データを逆変換することにより復号し、その結果得られるHD動画像を構成する各ピクチャを、バッファ113に供給する。
The decompressing
図29は、図28の入出力インタフェース201によるHDD14からのシーン(を構成するピクチャ)の符号化データの読み出しの順番と、出力制御部114によるバッファ113からのピクチャの読み出しの順番を説明する図である。
FIG. 29 is a diagram for explaining the order of reading encoded data of a scene (pictures constituting the scene) from the
なお、図29において、横軸は、時間軸を表す。また、HD動画像は、例えば、図25で説明したように、第1シーン乃至第7シーンから構成され、第1シーン、第3シーン、第5シーン、および第7シーンは互いに類似するが、第2シーン、第4シーン、および第6シーンは、いずれも、他のシーンと類似していないとする。さらに、第4シーンは、動きの激しいシーンであるが、他のシーン、即ち、第1シーン乃至第3シーンおよび第5シーン乃至第7シーンは、いずれも、動きの(ほとんど)ないシーンであるとする。また、第1シーン乃至第3シーン、第5シーン、および第7シーンが、互いに類似している第1シーン、第3シーン、第5シーン、および第7シーンからなるグループG1、第2シーンのみからなるグループG2、第6シーンのみからなるグループG3にグループ分けされているとする。 In FIG. 29, the horizontal axis represents the time axis. Also, as described in FIG. 25, for example, the HD moving image is composed of the first scene to the seventh scene, and the first scene, the third scene, the fifth scene, and the seventh scene are similar to each other, Assume that the second scene, the fourth scene, and the sixth scene are not similar to other scenes. Furthermore, the fourth scene is a scene with a lot of movement, but the other scenes, that is, the first scene to the third scene and the fifth scene to the seventh scene are all scenes with (almost) no movement. And In addition, only the group G1 and the second scene including the first scene, the third scene, the fifth scene, and the seventh scene in which the first to third scenes, the fifth scene, and the seventh scene are similar to each other. It is assumed that the group G2 is divided into a group G3 including only the sixth scene.
また、グループG1、グループG2、グループG3それぞれは、それぞれのグループを1GOPとみなして、MPEG方式による予測符号化がされており、その結果得られる符号化データが、HDD14に記録されていることとする。さらに、第4シーンの各ピクチャは、ウェーブレット変換されており、その結果得られる符号化データも、HDD14に記録されていることとする。
Further, each of the group G1, the group G2, and the group G3 is regarded as 1 GOP, and is predicted-encoded by the MPEG method, and the encoded data obtained as a result is recorded in the
ここで、符号化データの復号は、表示順がより先(時間的に前)のピクチャほど、先に行う必要がある。そこで、入出力インタフェース201は、上述したように、ピクチャ表示番号がより小さいピクチャの(符号化データ)を含むシーンまたはグループを、先に、HDD14から読み出し、符号化方式に関する情報に基づいて、解凍部112または解凍部202に供給する。
Here, the decoding of the encoded data needs to be performed first for pictures that are earlier in display order (temporally earlier). Therefore, as described above, the input /
具体的には、まず、グループG1、グループG2、グループG3、および第4シーンについては、グループG1に属する第1シーンに含まれるピクチャのピクチャ表示番号が最も小さく、グループG2に属する第2シーンに含まれるピクチャのピクチャ表示番号が次に小さく、第4シーンに含まれるピクチャのピクチャ表示番号がその次に小さく、グループG3に属する第6シーンに含まれるピクチャのピクチャ表示番号が最も大きいため、入出力インタフェース201は、グループG1、グループG2、第4シーン、グループG3の順番で、HDD14から読み出し、図29の上から1番目および2番目に示すように、グループG1、グループG1、およびグループG1については解凍部112に、第4シーンについては解凍部202に、それぞれ供給する。
Specifically, first, for the group G1, the group G2, the group G3, and the fourth scene, the picture display number of the picture included in the first scene belonging to the group G1 is the smallest, and the second scene belonging to the group G2 Since the picture display number of the picture included is the next smallest, the picture display number of the picture contained in the fourth scene is the next smallest, and the picture display number of the picture contained in the sixth scene belonging to the group G3 is the largest. The
解凍部112は、入出力インタフェース201から供給される符号化データを、グループ単位で、順次、復号して、バッファ113に供給して保存させる。また、解凍部202は、入出力インタフェース201から供給される符号化データを、復号して、バッファ113に供給して保存させる。
The
そして、出力制御部114は、バッファ113に保存されたピクチャを、図29の上から3番目(下から1番目)に示すように、ピクチャ表示番号が小さい順、即ち、表示順に読み出し、モニタ16に供給する。
Then, the
次に、図30のフローチャートを参照して、図28の再生制御部15における処理について説明する。
Next, processing in the
例えば、ユーザが図示せぬ操作部を操作することにより、画像の再生が、入出力インタフェース201に指令されると、ステップS111において、入出力インタフェース201は、HDD14からピクチャ(を含むシーン)の符号化データを、グループ単位またはシーン単位で復号すべき順に読み出し、解凍部112または解凍部202に供給して、ステップS112に進む。
For example, when the user operates the operation unit (not shown) and the reproduction of the image is instructed to the input /
ステップS112において、解凍部112または解凍部202は、入出力インタフェース201から供給される符号化データを復号する。即ち、ステップS112では、解凍部112が、ステップS113において、入出力インタフェース201から、グループ単位で供給された符号化データを、MPEG方式により復号し、その結果得られるHD動画像を構成する各ピクチャを、バッファ113に供給する。
In step S112, the
また、解凍部202は、ステップS114において、入出力インタフェース201から、シーン単位で供給された符号化データを、ウェーブレット逆変換することにより復号し、その結果得られるHD動画像を構成する各ピクチャを、バッファ113に供給する。
In step S114, the decompressing
その後、ステップS112からステップS115に進み、バッファ113は、解凍部112、および解凍部202から供給されるHD動画像を構成する各ピクチャを一旦保存し、ステップS116に進む。
Thereafter, the process proceeds from step S112 to step S115, and the
ステップS116において、出力制御部114は、バッファ113に保存されたピクチャを、ピクチャ表示番号の小さい順に読み出すことにより、ピクチャの並びを表示順に並び替え、モニタ16に出力し、表示させて、処理を終了する。
In step S116, the
図31は、図1の再生制御部15のさらに他の構成例を示すブロック図である。
FIG. 31 is a block diagram showing still another configuration example of the
なお、図中、図21の場合に対応する部分については同一の符号を付してあり、以下、その説明は、適宜省略する。 In the figure, portions corresponding to those in FIG. 21 are denoted by the same reference numerals, and description thereof will be omitted as appropriate.
即ち、図31の再生制御部15は、図21の入出力インタフェース121に代えて、入出力インタフェース211が設けられており、さらに、解凍部202、バッファ213、および出力制御部214が新たに設けられているほかは、図21の場合と同様に構成されている。
31 is provided with an input /
入出力インタフェース211は、グループ単位または(グループ分けされていない)シーン単位の符号化データをHDD14から読み出す。そして、入出力インタフェース211は、符号化データに付加された符号化方式に基づいて、符号化データを、解凍部1221乃至122n、または解凍部202に供給する。即ち、入出力インタフェース211は、複数の解凍部1221乃至122nのうちの、復号を行っていないものの1つを選択し、その選択した解凍部に、グループ単位の符号化データを供給して復号させる。また、入出力インタフェース211は、解凍部202に、シーン単位の(グループ分けされていない)符号化データを供給して復号させる。
The input /
解凍部202は、図28の解凍部202と同様に、入出力インタフェース211から供給されるウェーブレット変換された符号化データを、逆変換することにより復号し、その結果得られるピクチャを、バッファ213に供給する。
Similarly to the
バッファ213は、解凍部202から供給されたピクチャを、一旦保存する。
The
出力制御部214は、バッファ213に保存されているピクチャを、適当な時期に、モニタ16に出力して表示させる。
The
なお、図31では、1つの解凍部202しか設けていないが、再生制御部15は、解凍部202と同様に構成される解凍部を複数設けて構成することが可能となる。
In FIG. 31, only one
図32は、本発明を適用した記録再生システムの他の一実施の形態の構成例を示す図である。なお、図中、図1の場合と対応する部分については、同一の符号を付してある。 FIG. 32 is a diagram showing a configuration example of another embodiment of a recording / reproducing system to which the present invention is applied. In the figure, portions corresponding to those in FIG. 1 are denoted by the same reference numerals.
記録再生システムは、HDTVカメラ12、モニタ16、記録装置221、および再生装置231により構成されている。
The recording / playback system includes an
記録装置221は、記録制御部223、HDD224、および送信制御部225から構成されている。記録制御部223は、図1の記録制御部13と同様に構成されている。
The
HDD224は、図1のHDD14と同様に、記録制御部223から供給される符号化データの記録等を行う。
The
送信制御部225は、HDD224から読み出された符号化データを、例えば、インターネットやLAN(Local Area Network)、IEEE(Institute of Electrical and Electronic Engineers)1394やUSB(Universal Serial Bus)の規格に準拠したネットワーク等を介して、再生装置231に送信することを制御する。
The
再生装置231は、受信制御部232、HDD233、および再生制御部234から構成される。
The
受信制御部232は、例えば、記録装置221から送信される符号化データを受信することを制御し、その符号化データを、HDD233に供給し、記録させる。
For example, the
HDD233は、受信制御部232から供給される符号化データを記録する。
The
再生制御部234は、図1の再生制御部15と同様に構成され、HDD233に記録されている符号化データを、HDD233から読み出して復号し、その結果得られるHD動画像を、モニタ16に供給する。
The
以上のように構成される図32の記録再生システムでは、例えば、記録装置221の記録制御部223に、HDTVカメラ12からHD動画像が供給される。記録制御部223は、HDTVカメラ12からのHD動画像を対象に、図1の記録制御部13と同様の処理を行い、その結果得られた符号化データを、HDD224に供給し記録させる。送信制御部225は、HDD224に記録されている符号化データを読み出し、ネットワーク等を介して、再生装置231の受信制御部232に送信する。
32 configured as described above, for example, an HD moving image is supplied from the
再生装置231の受信制御部232は、記録装置221からの符号化データを受信してHDD233に供給し、記録させる。再生制御部234は、必要に応じてHDD233に記録されている符号化データを読み出し、図1の再生制御部15と同様の処理を行い、その結果得られるHD動画像をモニタ16に供給する。
The
図33は、上述した一連の処理をプログラムにより実行するコンピュータの構成例を示すブロック図である。 FIG. 33 is a block diagram illustrating a configuration example of a computer that executes the series of processes described above by a program.
CPU(Central Processing Unit)251は、ROM(Read Only Memory)252、または記憶部258に記憶されているプログラムに従って各種の処理を実行する。RAM(Random Access Memory)253には、CPU251が実行するプログラムやデータなどが適宜記憶される。これらのCPU251、ROM252、およびRAM253は、バス254により相互に接続されている。
A CPU (Central Processing Unit) 251 executes various processes according to a program stored in a ROM (Read Only Memory) 252 or a
なお、CPU251として、”Cell誕生”、日経エレクトロニクス、日経BP社、2005年2月28日、89頁乃至117頁に記載されているCellを採用することができる。
As the
CPU251にはまた、バス254を介して入出力インタフェース255が接続されている。入出力インタフェース255には、キーボード、マウス、マイクロホンなどよりなる入力部256、ディスプレイ、スピーカなどよりなる出力部257が接続されている。CPU251は、入力部256から入力される指令に対応して各種の処理を実行する。そして、CPU251は、処理の結果を出力部257に出力する。
An input /
入出力インタフェース255に接続されている記憶部258は、例えばハードディスクからなり、CPU251が実行するプログラムや各種のデータを記憶する。通信部259は、インターネットやローカルエリアネットワークなどのネットワークを介して外部の装置と通信する。
The
また、通信部259を介してプログラムを取得し、記憶部258に記憶してもよい。
Further, a program may be acquired via the
入出力インタフェース255に接続されているドライブ260は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア261が装着されたとき、それらを駆動し、そこに記録されているプログラムやデータなどを取得する。取得されたプログラムやデータは、必要に応じて記憶部258に転送され、記憶される。
The
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。 The series of processes described above can be executed by hardware or can be executed by software. When a series of processing is executed by software, a program constituting the software executes various functions by installing a computer incorporated in dedicated hardware or various programs. For example, it is installed from a program recording medium in a general-purpose personal computer or the like.
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを格納するプログラム記録媒体は、図35に示すように、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスクを含む)、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア261、または、プログラムが一時的もしくは永続的に格納されるROM252や、記憶部258を構成するハードディスクなどにより構成される。プログラム記録媒体へのプログラムの格納は、必要に応じてルータ、モデムなどのインタフェースである通信部259を介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の通信媒体を利用して行われる。
As shown in FIG. 35, a program recording medium for storing a program that is installed in a computer and is ready to be executed by the computer is a magnetic disk (including a flexible disk), an optical disk (CD-ROM (Compact Disc-Read Only). Memory), DVD (including Digital Versatile Disc), magneto-optical disk), or
なお、本明細書において、プログラム記録媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。 In the present specification, the step of describing the program stored in the program recording medium is not limited to the processing performed in time series in the order described, but is not necessarily performed in time series. Or the process performed separately is also included.
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。 Further, in this specification, the system represents the entire apparatus constituted by a plurality of apparatuses.
ここで、本発明の実施の形態では、グループ分けの対象を、シーンとしたが、グループ分けは、ピクチャを対象として行うこともできる。即ち、例えば、上述したHD動画像を構成する各ピクチャのヒストグラム(例えば、図7のヒストグラム621乃至62n)を用いて、ピクチャ同士が類似している度合いを表す類似値を、シーンのヒストグラムから求められる類似値と同様にして求め、その類似値がある閾値以下のピクチャ同士を1つのグループにグループ分けし、或いは、類似値がある閾値以下のピクチャ同士であり、かつ、ピクチャ全体の動きベクトルの総和のベクトルの大きさが、他の閾値以下のピクチャを1つのグループにグループ分けすること等が可能である。また、例えば、ピクチャを対象としたグループ分けは、ヒストグラムの代わりに、ピクチャ間差値を用いることもできる。 Here, in the embodiment of the present invention, the grouping target is a scene, but the grouping can also be performed on a picture. That is, for example, using the histogram of each picture constituting the above-described HD moving image (for example, the histograms 62 1 to 62 n in FIG. 7), a similarity value indicating the degree of similarity between pictures is represented as a scene histogram. The similar values obtained from the above are obtained in the same manner, and the pictures whose similarity values are equal to or less than the threshold value are grouped into one group, or the pictures whose similarity values are equal to or less than the threshold value, and the motion of the entire picture It is possible to group pictures whose vector sum is less than another threshold into one group. Further, for example, grouping for pictures can use inter-picture difference values instead of histograms.
ピクチャを対象にグループ分けをすることにより、周期的な動きをしている物体が写っているシーンを構成するピクチャや、カメラのフラッシュ等によって輝度が大きく変化しているシーンを構成するピクチャを、より類似するピクチャ同士のグループにグループ分けすることが可能となる。 By grouping the pictures, the pictures that make up the scene that contains the object that is moving periodically, and the pictures that make up the scene where the brightness changes greatly due to the camera flash, etc. It becomes possible to divide into groups of more similar pictures.
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。 The embodiment of the present invention is not limited to the above-described embodiment, and various modifications can be made without departing from the gist of the present invention.
11 記録再生装置, 12 HDTVカメラ, 13 記録制御部, 14 HDD, 15 再生制御部, 16 モニタ, 21 入出力インタフェース, 22 並び替え圧縮部, 31 ピクチャ表示番号付加部, 32 画像情報作成部, 33 グルーピング部, 34 圧縮部, 41 シーン検出部, 42 ヒストグラム作成部, 51 ピクチャ間差部, 52 シーン分割部, 611乃至61n ピクチャ, 621乃至62n ヒストグラム, 63m ヒストグラム, 111 入出力インタフェース, 112 解凍部, 1121乃至112n 解凍部, 113 バッファ, 114 出力制御部, 121 入出力インタフェース, 122 解凍部, 1221乃至122n 解凍部, 131 バッファ, 132 可変長復号部, 133 逆量子化部, 134 バッファ, 135 出力制御部, 136 逆DCT部, 137 演算部, 138 バッファ, 139 動き補償部, 161 圧縮部, 162 解凍部, 163 縮小画像作成部, 164 イントラ圧縮部, 165 イントラ解凍部, 171 LPF, 172 ダウンサンプリング部, 181 エンコーダ選択部, 182 圧縮部, 201 入出力インタフェース, 202 解凍部, 211 入出力インタフェース, 213 バッファ, 214 出力制御部, 221 記録装置, 223 記録制御部, 224 HDD, 225 送信制御部, 231 再生装置, 232 受信制御部,233 HDD, 234 再生制御部, 251 CPU, 252 ROM, 253 RAM, 254 バス, 255 入出力インタフェース, 256 入力部, 257 出力部, 258 記録部, 259 通信部, 260 ドライブ, 261 リムーバブルメディア DESCRIPTION OF SYMBOLS 11 Recording / reproducing apparatus, 12 HDTV camera, 13 Recording control part, 14 HDD, 15 Playback control part, 16 Monitor, 21 Input / output interface, 22 Rearrangement compression part, 31 Picture display number addition part, 32 Image information creation part, 33 Grouping unit, 34 compression unit, 41 scene detection unit, 42 histogram creation unit, 51 inter-picture difference unit, 52 scene division unit, 61 1 to 61 n picture, 62 1 to 62 n histogram, 63 m histogram, 111 input / output interface 112 decompression unit, 112 1 to 112 n decompression unit, 113 buffer, 114 output control unit, 121 input / output interface, 122 decompression unit, 122 1 to 122 n decompression unit, 131 buffer, 132 variable length decoding unit, 133 inverse quantum Conversion unit, 134 buffer, 135 output control unit, 13 Inverse DCT unit, 137 calculation unit, 138 buffer, 139 motion compensation unit, 161 compression unit, 162 decompression unit, 163 reduced image creation unit, 164 intra compression unit, 165 intra decompression unit, 171 LPF, 172 downsampling unit, 181 encoder Selection unit, 182 compression unit, 201 input / output interface, 202 decompression unit, 211 input / output interface, 213 buffer, 214 output control unit, 221 recording device, 223 recording control unit, 224 HDD, 225 transmission control unit, 231 playback device, 232 reception control unit, 233 HDD, 234 playback control unit, 251 CPU, 252 ROM, 253 RAM, 254 bus, 255 I / O interface, 256 input unit, 257 output unit, 258 recording unit, 259 communication unit, 260 drive, 261 Removable Bed and breakfasts
Claims (12)
複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出する検出手段と、
前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択する選択手段と、
前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報を取得する取得手段と、
前記画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをするグループ分け手段と、
前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化を行う第1の符号化手段と、
前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化を行う第2の符号化手段と、
前記予測符号化により得られた第1の符号化データ、および前記非予測符号化により得られた第2の符号化データを、前記記録媒体に記録する記録制御手段と、
前記第1および第2の符号化データを復号する復号順に、前記記録媒体から前記第1および第2の符号化データを読み出す読み出し制御手段と、
前記グループ毎に、前記記録媒体から読み出された前記第1の符号化データに対して、前記予測符号化に対応する予測復号を行う第1の復号手段と、
前記記録媒体から読み出された前記第2の符号化データに対して、前記非予測符号化に対応する非予測復号を行う第2の復号手段と、
前記予測復号および前記非予測復号によって得られるピクチャを表示順に出力させる出力制御手段と
を備え、
前記第1の符号化手段は、前記予測符号化として、MPEG(Moving Picture Expert Group)符号化を行い、
前記第2の符号化手段は、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行い、
前記第1の復号手段は、
前記予測復号として、前記MPEG符号化に対応するMPEG復号を行い、
前記MPEG復号の途中で得られるDCT(Discrete Cosine Transform)係数を記録する記録手段を有し、
前記第2の復号手段は、前記非予測復号として、前記ウェーブレット変換の逆変換を用いたイントラ復号を行い、
前記出力制御手段は、前記MPEG復号により得られるピクチャを出力する場合、前記記録手段に記録された前記DCT係数を、表示順に、前記ピクチャに復号させて出力させる
記録再生装置。 In a recording / reproducing apparatus for recording moving image data on a recording medium and reproducing the moving image data from the recording medium,
Detecting means for detecting a scene that is a set of similar series of pictures from the moving image data composed of a plurality of pictures;
Based on the inter-picture difference value of each picture constituting the scene, for each scene, one of predictive coding or non-predictive coding representing coding different from the predictive coding is included in the scene Selecting means for selecting as an encoding method when encoding
Acquisition means for acquiring image information used to group the scenes into similar groups of pictures;
Grouping means for grouping one or more similar scenes into one group, the scenes having the predictive coding selected as the picture coding method based on the image information;
First encoding means for performing the predictive encoding on the pictures constituting the group for each group;
Second encoding means for performing the non-predictive encoding on a picture included in the scene for which the non-predictive encoding is selected as the picture encoding method;
Recording control means for recording the first encoded data obtained by the predictive encoding and the second encoded data obtained by the non-predictive encoding on the recording medium;
Read control means for reading the first and second encoded data from the recording medium in a decoding order for decoding the first and second encoded data;
First decoding means for performing predictive decoding corresponding to the predictive encoding for the first encoded data read from the recording medium for each group;
Second decoding means for performing non-predictive decoding corresponding to the non-predictive encoding on the second encoded data read from the recording medium;
Output control means for outputting pictures obtained by the predictive decoding and the non-predictive decoding in the order of display ;
The first encoding means performs MPEG (Moving Picture Expert Group) encoding as the predictive encoding,
The second encoding means performs intra encoding using wavelet transform as the non-predictive encoding,
The first decoding means includes
As the predictive decoding, MPEG decoding corresponding to the MPEG encoding is performed,
Recording means for recording DCT (Discrete Cosine Transform) coefficient obtained in the middle of the MPEG decoding,
The second decoding means performs intra decoding using inverse wavelet transform as the non-predictive decoding,
When outputting the picture obtained by the MPEG decoding, the output control means causes the DCT coefficients recorded in the recording means to be decoded and output to the pictures in display order.
Record reproducing apparatus.
前記ピクチャ間差値が所定値以上のピクチャが、所定数以上存在するか否かを判断し、
前記ピクチャ間差値が前記所定値以上のピクチャが、前記所定数以上存在すると判断した場合、前記非予測符号化を選択し、
前記ピクチャ間差値が前記所定値以上のピクチャが、前記所定数以上存在しないと判断した場合、前記予測符号化を選択する
請求項1に記載の記録再生装置。 The selection means includes
Determining whether or not there are a predetermined number of pictures having a difference value between pictures equal to or greater than a predetermined value;
If it is determined that there are more than the predetermined number of pictures having the inter-picture difference value equal to or greater than the predetermined value, the non-predictive encoding is selected.
The recording / reproducing apparatus according to claim 1, wherein when it is determined that there are no more than the predetermined number of pictures having the inter-picture difference value equal to or greater than the predetermined value, the predictive coding is selected.
前記シーンを構成する、表示順に並ぶ各ピクチャのうち、前記所定のピクチャと、前記所定のピクチャに隣接する隣接ピクチャとの、同一位置の画素の画素値どうしの差の2乗和、
前記所定のピクチャと前記隣接ピクチャとを、それぞれブロック単位に区切った場合の、前記ブロック毎の画素値の平均値どうしの差の2乗和、
前記ブロック毎の各画素の動きベクトルどうしの差の2乗和、
又は、前記所定のピクチャの画素値のヒストグラムおよび前記隣接ピクチャの画素値のヒストグラムを作成した場合の、前記ヒストグラムの各画素値の画素数どうしの差の2乗和である
請求項2に記載の記録再生装置。 Among the pictures constituting the scene, the inter-picture difference value of a predetermined picture is:
The sum of squares of the difference between pixel values of pixels at the same position between the predetermined picture and the adjacent picture adjacent to the predetermined picture among the pictures arranged in the display order constituting the scene,
The sum of squares of the difference between the average values of the pixel values for each block when the predetermined picture and the adjacent picture are divided into blocks,
The sum of squares of the difference between the motion vectors of each pixel for each block,
The square sum of the difference between the number of pixels of each pixel value of the histogram when the histogram of the pixel value of the predetermined picture and the histogram of the pixel value of the adjacent picture are created. Recording / playback device.
前記取得手段は、前記縮小画像を用いて、前記画像情報を取得する
請求項1に記載の記録再生装置。 A creation unit for creating a reduced image obtained by reducing the picture;
The recording / reproducing apparatus according to claim 1, wherein the acquisition unit acquires the image information using the reduced image.
請求項1に記載の記録再生装置。 The recording / reproducing apparatus according to claim 1, comprising a plurality of the first decoding means.
複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出する検出ステップと、
前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択する選択ステップと、
前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報を取得する取得ステップと、
前記画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをするグループ分けステップと、
前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化を行う第1の符号化ステップと、
前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化を行う第2の符号化ステップと、
前記予測符号化により得られた第1の符号化データ、および前記非予測符号化により得られた第2の符号化データを、前記記録媒体に記録する記録制御ステップと、
前記第1および第2の符号化データを復号する復号順に、前記記録媒体から前記第1および第2の符号化データを読み出す読み出し制御ステップと、
前記グループ毎に、前記記録媒体から読み出された前記第1の符号化データに対して、前記予測符号化に対応する予測復号を行う第1の復号ステップと、
前記記録媒体から読み出された前記第2の符号化データに対して、前記非予測符号化に対応する非予測復号を行う第2の復号ステップと、
前記予測復号および前記非予測復号によって得られるピクチャを表示順に出力させる出力制御ステップと
を含み、
前記第1の符号化ステップは、前記予測符号化として、MPEG(Moving Picture Expert Group)符号化を行い、
前記第2の符号化ステップは、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行い、
前記第1の復号ステップは、前記予測復号として、前記MPEG符号化に対応するMPEG復号を行い、
前記記録再生装置は、前記MPEG復号の途中で得られるDCT(Discrete Cosine Transform)係数を記録する記録手段を有し、
前記第2の復号ステップは、前記非予測復号として、前記ウェーブレット変換の逆変換を用いたイントラ復号を行い、
前記出力制御ステップは、前記MPEG復号により得られるピクチャを出力する場合、前記記録手段に記録された前記DCT係数を、表示順に、前記ピクチャに復号させて出力させる
記録再生方法。 In a recording / reproducing method of a recording / reproducing apparatus for recording moving image data on a recording medium and reproducing the moving image data from the recording medium,
A detection step of detecting a scene which is a set of similar series of pictures from the moving image data constituted by a plurality of pictures;
Based on the inter-picture difference value of each picture constituting the scene, for each scene, one of predictive coding or non-predictive coding representing coding different from the predictive coding is included in the scene A selection step of selecting as an encoding method when encoding
Obtaining image information used to group the scenes into similar groups of pictures;
A grouping step of grouping one or more similar scenes into one group, the scenes having the predictive encoding selected as the picture encoding method based on the image information;
For each group, a first encoding step for performing the predictive encoding on pictures constituting the group;
A second encoding step for performing the non-predictive encoding on a picture included in the scene for which the non-predictive encoding is selected as the picture encoding method;
A recording control step of recording the first encoded data obtained by the predictive encoding and the second encoded data obtained by the non-predictive encoding on the recording medium;
A read control step of reading the first and second encoded data from the recording medium in a decoding order for decoding the first and second encoded data;
A first decoding step for performing predictive decoding corresponding to the predictive encoding on the first encoded data read from the recording medium for each group;
A second decoding step of performing non-predictive decoding corresponding to the non-predictive encoding on the second encoded data read from the recording medium;
Look including an output control step of outputting a picture obtained by said prediction decoding and the non-predictive decoding in the display order,
The first encoding step performs MPEG (Moving Picture Expert Group) encoding as the predictive encoding,
The second encoding step performs an intra encoding using a wavelet transform as the non-predictive encoding,
The first decoding step performs MPEG decoding corresponding to the MPEG encoding as the predictive decoding,
The recording / reproducing apparatus has recording means for recording a DCT (Discrete Cosine Transform) coefficient obtained in the middle of the MPEG decoding,
The second decoding step performs intra decoding using inverse wavelet transform as the non-predictive decoding,
In the output control step, when a picture obtained by the MPEG decoding is output, the DCT coefficients recorded in the recording unit are decoded into the picture in the display order and output.
Record reproduction method.
複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出する検出手段と、
前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択する選択手段と、
前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報を取得する取得手段と、
前記画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをするグループ分け手段と、
前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化を行う第1の符号化手段と、
前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化を行う第2の符号化手段と、
前記予測符号化により得られた第1の符号化データ、および前記非予測符号化により得られた第2の符号化データを、前記記録媒体に記録する記録制御手段と
を備え、
前記第1の符号化手段は、前記予測符号化として、MPEG符号化を行い、
前記第2の符号化手段は、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行う
記録装置。 In a recording apparatus for recording moving image data on a recording medium,
Detecting means for detecting a scene that is a set of similar series of pictures from the moving image data composed of a plurality of pictures;
Based on the inter-picture difference value of each picture constituting the scene, for each scene, one of predictive coding or non-predictive coding representing coding different from the predictive coding is included in the scene Selecting means for selecting as an encoding method when encoding
Acquisition means for acquiring image information used to group the scenes into similar groups of pictures;
Grouping means for grouping one or more similar scenes into one group, the scenes having the predictive coding selected as the picture coding method based on the image information;
First encoding means for performing the predictive encoding on the pictures constituting the group for each group;
Second encoding means for performing the non-predictive encoding on a picture included in the scene for which the non-predictive encoding is selected as the picture encoding method;
Recording control means for recording the first encoded data obtained by the predictive encoding and the second encoded data obtained by the non-predictive encoding on the recording medium ,
The first encoding means performs MPEG encoding as the predictive encoding,
The second encoding means performs intra encoding using wavelet transform as the non-predictive encoding.
Record apparatus.
請求項7に記載の記録装置。 The recording apparatus according to claim 7 , further comprising transmission control means for transmitting the first and second encoded data recorded on the recording medium to another apparatus that reproduces the moving image data.
複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出する検出ステップと、
前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択する選択ステップと、
前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報を取得する取得ステップと、
前記画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをするグループ分けステップと、
前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化を行う第1の符号化ステップと、
前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化を行う第2の符号化ステップと、
前記予測符号化により得られた第1の符号化データ、および前記非予測符号化により得られた第2の符号化データを、前記記録媒体に記録する記録制御ステップと
を含み、
前記第1の符号化ステップは、前記予測符号化として、MPEG符号化を行い、
前記第2の符号化ステップは、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行う
記録方法。 In a recording method of a recording apparatus for recording moving image data on a recording medium,
A detection step of detecting a scene which is a set of similar series of pictures from the moving image data constituted by a plurality of pictures;
Based on the inter-picture difference value of each picture constituting the scene, for each scene, one of predictive coding or non-predictive coding representing coding different from the predictive coding is included in the scene A selection step of selecting as an encoding method when encoding
Obtaining image information used to group the scenes into similar groups of pictures;
A grouping step of grouping one or more similar scenes into one group, the scenes having the predictive encoding selected as the picture encoding method based on the image information;
For each group, a first encoding step for performing the predictive encoding on pictures constituting the group;
A second encoding step for performing the non-predictive encoding on a picture included in the scene for which the non-predictive encoding is selected as the picture encoding method;
The first encoded data obtained by predictive coding, and said second encoded data obtained by the non-predictive coding, see contains a recording control step of recording on the recording medium,
The first encoding step performs MPEG encoding as the predictive encoding,
The second encoding step performs intra encoding using wavelet transform as the non-predictive encoding.
Record method.
複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出し、
前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択し、
前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをし、
前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化として、MPEG符号化を行うことにより得られた第1の符号化データ、および前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行うことにより得られた第2の符号化データが記録されている記録媒体から、前記第1および第2の符号化データを復号する復号順に、前記第1および第2の符号化データを読み出す読み出し制御手段と、
前記グループ毎に、前記記録媒体から読み出された前記第1の符号化データに対して、前記予測符号化に対応する予測復号を行う第1の復号手段と、
前記記録媒体から読み出された前記第2の符号化データに対して、前記非予測符号化に対応する非予測復号を行う第2の復号手段と、
前記予測復号および前記非予測復号によって得られるピクチャを表示順に出力させる出力制御手段と
を備え、
前記第1の復号手段は、
前記予測復号として、前記MPEG符号化に対応するMPEG復号を行い、
前記MPEG復号の途中で得られるDCT係数を記録する記録手段を有し、
前記第2の復号手段は、前記非予測復号として、前記ウェーブレット変換の逆変換を用いたイントラ復号を行い、
前記出力制御手段は、前記MPEG復号により得られるピクチャを出力する場合、前記記録手段に記録された前記DCT係数を、表示順に、前記ピクチャに復号させて出力させる
再生装置。 In a playback device for playing back moving image data,
Detecting a scene which is a set of similar pictures from the moving image data composed of a plurality of pictures;
Based on the inter-picture difference value of each picture constituting the scene, for each scene, one of predictive coding or non-predictive coding representing coding different from the predictive coding is included in the scene Is selected as the encoding method when encoding
One or more similar scenes in which the predictive coding is selected as the picture coding method based on image information used to group the scenes into similar groups of pictures Group them into one group,
For each group, the first encoded data obtained by performing MPEG encoding as the predictive encoding for the pictures constituting the group, and the non-predictive encoding as the encoding method of the picture From the recording medium on which the second encoded data obtained by performing intra encoding using wavelet transform as the non-predictive encoding for the picture included in the scene for which is selected Read control means for reading out the first and second encoded data in decoding order for decoding the first and second encoded data;
First decoding means for performing predictive decoding corresponding to the predictive encoding for the first encoded data read from the recording medium for each group;
Second decoding means for performing non-predictive decoding corresponding to the non-predictive encoding on the second encoded data read from the recording medium;
Output control means for outputting pictures obtained by the predictive decoding and the non-predictive decoding in the order of display ;
The first decoding means includes
As the predictive decoding, MPEG decoding corresponding to the MPEG encoding is performed,
Recording means for recording DCT coefficients obtained in the middle of the MPEG decoding;
The second decoding means performs intra decoding using inverse wavelet transform as the non-predictive decoding,
When outputting the picture obtained by the MPEG decoding, the output control means causes the DCT coefficients recorded in the recording means to be decoded and output to the pictures in display order.
Playback apparatus.
前記記録媒体には、前記受信制御手段で受信された前記第1および第2の符号化データが記録されている
請求項10に記載の再生装置。 Receiving control means for receiving the first and second encoded data transmitted from another device;
The reproducing apparatus according to claim 10 , wherein the first and second encoded data received by the reception control unit are recorded on the recording medium.
複数のピクチャにより構成される前記動画像データから、類似する一連のピクチャの集合であるシーンを検出し、
前記シーンを構成する各ピクチャのピクチャ間差値に基づいて、前記シーン毎に、予測符号化または前記予測符号化とは異なる符号化を表す非予測符号化の一方を、前記シーンに含まれるピクチャを符号化する際の符号化方式として選択し、
前記シーンをピクチャの類似するグループにグループ分けをするために用いる画像情報に基づいて、前記ピクチャの符号化方式として前記予測符号化が選択された前記シーンであって、類似する1以上の前記シーンを1のグループにグループ分けをし、
前記グループ毎に、前記グループを構成するピクチャに対して前記予測符号化として、MPEG符号化を行うことにより得られた第1の符号化データ、および前記ピクチャの符号化方式として前記非予測符号化が選択された前記シーンに含まれるピクチャに対して、前記非予測符号化として、ウェーブレット変換を用いたイントラ符号化を行うことにより得られた第2の符号化データが記録されている記録媒体から、前記第1および第2の符号化データを復号する復号順に、前記第1および第2の符号化データを読み出す読み出し制御ステップと、
前記グループ毎に、前記記録媒体から読み出された前記第1の符号化データに対して、前記予測符号化に対応する予測復号を行う第1の復号ステップと、
前記記録媒体から読み出された前記第2の符号化データに対して、前記非予測符号化に対応する非予測復号を行う第2の復号ステップと、
前記予測復号および前記非予測復号によって得られるピクチャを表示順に出力させる出力制御ステップと
を含み、
前記第1の復号ステップは、前記予測復号として、前記MPEG符号化に対応するMPEG復号を行い、
前記再生装置は、前記MPEG復号の途中で得られるDCT係数を記録する記録手段を有し、
前記第2の復号ステップは、前記非予測復号として、前記ウェーブレット変換の逆変換を用いたイントラ復号を行い、
前記出力制御ステップは、前記MPEG復号により得られるピクチャを出力する場合、前記記録手段に記録された前記DCT係数を、表示順に、前記ピクチャに復号させて出力させる
再生方法。 In a playback method of a playback device for playing back moving image data,
Detecting a scene which is a set of similar pictures from the moving image data composed of a plurality of pictures;
Based on the inter-picture difference value of each picture constituting the scene, for each scene, one of predictive coding or non-predictive coding representing coding different from the predictive coding is included in the scene Is selected as the encoding method when encoding
One or more similar scenes in which the predictive coding is selected as the picture coding method based on image information used to group the scenes into similar groups of pictures Group them into one group,
For each group, the first encoded data obtained by performing MPEG encoding as the predictive encoding for the pictures constituting the group, and the non-predictive encoding as the encoding method of the picture From the recording medium on which the second encoded data obtained by performing intra encoding using wavelet transform as the non-predictive encoding for the picture included in the scene for which is selected A read control step of reading out the first and second encoded data in a decoding order for decoding the first and second encoded data;
A first decoding step for performing predictive decoding corresponding to the predictive encoding on the first encoded data read from the recording medium for each group;
A second decoding step of performing non-predictive decoding corresponding to the non-predictive encoding on the second encoded data read from the recording medium;
Look including an output control step of outputting a picture obtained by said prediction decoding and the non-predictive decoding in the display order,
The first decoding step performs MPEG decoding corresponding to the MPEG encoding as the predictive decoding,
The playback device has recording means for recording DCT coefficients obtained during the MPEG decoding,
The second decoding step performs intra decoding using inverse wavelet transform as the non-predictive decoding,
In the output control step, when a picture obtained by the MPEG decoding is output, the DCT coefficients recorded in the recording unit are decoded into the picture in the display order and output.
Playback method.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005352204A JP4674535B2 (en) | 2005-12-06 | 2005-12-06 | Recording / reproducing apparatus and recording / reproducing method, recording apparatus and recording method, and reproducing apparatus and reproducing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005352204A JP4674535B2 (en) | 2005-12-06 | 2005-12-06 | Recording / reproducing apparatus and recording / reproducing method, recording apparatus and recording method, and reproducing apparatus and reproducing method |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2007158807A JP2007158807A (en) | 2007-06-21 |
JP2007158807A5 JP2007158807A5 (en) | 2009-01-29 |
JP4674535B2 true JP4674535B2 (en) | 2011-04-20 |
Family
ID=38242578
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005352204A Expired - Fee Related JP4674535B2 (en) | 2005-12-06 | 2005-12-06 | Recording / reproducing apparatus and recording / reproducing method, recording apparatus and recording method, and reproducing apparatus and reproducing method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4674535B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009080572A (en) * | 2007-09-25 | 2009-04-16 | Toshiba Corp | Apparatus and method for detecting moving body |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0759108A (en) * | 1993-08-10 | 1995-03-03 | Kokusai Denshin Denwa Co Ltd <Kdd> | Cut pattern detection method for motion picture |
JPH1023408A (en) * | 1996-06-28 | 1998-01-23 | Nippon Telegr & Teleph Corp <Ntt> | Method for encoding picture signal |
JP2000092493A (en) * | 1998-09-11 | 2000-03-31 | Matsushita Electric Ind Co Ltd | Video decoding device and method therefor |
JP2004147112A (en) * | 2002-10-24 | 2004-05-20 | Victor Co Of Japan Ltd | Method and device for encoding image |
-
2005
- 2005-12-06 JP JP2005352204A patent/JP4674535B2/en not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0759108A (en) * | 1993-08-10 | 1995-03-03 | Kokusai Denshin Denwa Co Ltd <Kdd> | Cut pattern detection method for motion picture |
JPH1023408A (en) * | 1996-06-28 | 1998-01-23 | Nippon Telegr & Teleph Corp <Ntt> | Method for encoding picture signal |
JP2000092493A (en) * | 1998-09-11 | 2000-03-31 | Matsushita Electric Ind Co Ltd | Video decoding device and method therefor |
JP2004147112A (en) * | 2002-10-24 | 2004-05-20 | Victor Co Of Japan Ltd | Method and device for encoding image |
Also Published As
Publication number | Publication date |
---|---|
JP2007158807A (en) | 2007-06-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7280708B2 (en) | Method for adaptively encoding motion image based on temporal and spatial complexity and apparatus therefor | |
EP2733703B1 (en) | Video editing and reformatting for digital video recorder | |
JP3856262B2 (en) | Motion compensation encoding apparatus, motion compensation encoding method, and motion compensation code recording medium | |
JP4656912B2 (en) | Image encoding device | |
JPWO2006098226A1 (en) | Encoding device and moving image recording system provided with encoding device | |
US8165217B2 (en) | Image decoding apparatus and method for decoding prediction encoded image data | |
US20060104350A1 (en) | Multimedia encoder | |
US7502414B2 (en) | Image processing device, image processing method, image processing program and recording medium | |
KR20040094441A (en) | Editing of encoded a/v sequences | |
JP5256496B2 (en) | Image processing system, image processing method, and program | |
WO2006046550A1 (en) | Image encoding method and device, image decoding method, and device | |
US20040264790A1 (en) | Method of and apparatus for adaptively encoding motion image according to characteristics of input image | |
US8300692B2 (en) | Moving picture coding method, moving picture decoding method, moving picture coding device, and moving picture decoding device | |
JP4674535B2 (en) | Recording / reproducing apparatus and recording / reproducing method, recording apparatus and recording method, and reproducing apparatus and reproducing method | |
US20080181314A1 (en) | Image coding apparatus and image coding method | |
US20030231865A1 (en) | Image playback apparatus and method | |
JP4749508B2 (en) | Image decoding method | |
JP4573511B2 (en) | Transcoder, transcoding method, data recording apparatus and method, and broadcast data receiving / recording apparatus | |
JP4667424B2 (en) | Image decoding device | |
JP4667423B2 (en) | Image decoding device | |
JP2004241879A (en) | Apparatus and method for image processing, recording medium, and program | |
JP4979355B2 (en) | Image coding apparatus and image coding method | |
JP4850683B2 (en) | Video signal processing apparatus, video signal processing method, program, and storage medium | |
JPH11164303A (en) | Reversible compression coder and reversible expansion decoder for moving image | |
WO2005091643A1 (en) | Image encoding system and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081204 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20081204 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100727 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100803 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100927 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20101019 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20101209 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20101228 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110110 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140204 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140204 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |