JP5130245B2 - Imaging resolution prediction type moving picture encoding apparatus and decoding apparatus - Google Patents
Imaging resolution prediction type moving picture encoding apparatus and decoding apparatus Download PDFInfo
- Publication number
- JP5130245B2 JP5130245B2 JP2009085661A JP2009085661A JP5130245B2 JP 5130245 B2 JP5130245 B2 JP 5130245B2 JP 2009085661 A JP2009085661 A JP 2009085661A JP 2009085661 A JP2009085661 A JP 2009085661A JP 5130245 B2 JP5130245 B2 JP 5130245B2
- Authority
- JP
- Japan
- Prior art keywords
- resolution
- channel
- prediction
- type moving
- inter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Description
本発明は撮影解像度予測型動画像符号化装置および復号装置に関し、特に高精細映像を対象とした高能率圧縮符号化のための前処理装置を備えた符号化装置および復号装置に関するものである。 The present invention relates to an imaging resolution prediction type moving image encoding apparatus and decoding apparatus, and more particularly to an encoding apparatus and decoding apparatus provided with a preprocessing device for high-efficiency compression encoding for high-definition video.
ハードディスクレコーダやVTRなどにおける蓄積用途での圧縮符号化方式は、RGBなど4:4:4の色空間をサポートする必然性が高い。特許文献1および非特許文献1では、4:4:4の映像入力を対象として、符号化に先立ってチャネル間での予測参照を行い、残差信号のみを後段の符号化処理にて扱うことで、符号化性能の改善を導いている。
A compression coding method for storage use in a hard disk recorder or VTR is highly likely to support a 4: 4: 4 color space such as RGB. In
しかしながら、上記の背景技術によれば、解像度や色空間など、撮影条件については特段の考慮をせず、入力時の形態を保持する前提での検討が行われている。このため、チャネル間の冗長度削減がある程度は可能となるものの、解像度については、入力信号フォーマットに合わせる前提を置いているため、その効果には限界があった。 However, according to the above-described background art, examination is performed on the premise that the form at the time of input is maintained without taking special considerations on imaging conditions such as resolution and color space. For this reason, the redundancy between channels can be reduced to some extent, but the resolution is premised on the input signal format, so the effect is limited.
本発明の目的は、前記背景技術の課題を解決し、入力信号をもとに撮影時の信号形態を正確に推定した上で、同結果をもとにチャネルごとの符号化解像度および復号解像度を決定し、高精度に符号化および復号できるようにした撮影解像度予測型動画像符号化装置および復号装置を提供することにある。 The object of the present invention is to solve the problems of the background art described above, accurately estimate the signal form at the time of shooting based on the input signal, and then determine the encoding resolution and decoding resolution for each channel based on the result. It is an object of the present invention to provide an imaging resolution prediction type moving image encoding apparatus and decoding apparatus that can determine and encode and decode with high accuracy.
前記した目的を達成するために、本発明は、符号化解像度およびチャネル間予測の基準信号のうちの少なくとも1つを適応的に設定可能であり、画面内予測とチャネル間予測により画像を符号化する撮影解像度予測型動画像符号化装置において、入力画像信号の前処理解析を行う前処理解析部を具備し、前記前処理解析部は撮影解像度推定部を含み、該撮影解像度推定部において得られたチャネルごとの撮影時の解像度を基に、前記符号化解像度およびチャネル間予測の基準信号のうちの少なくとも1つを決定するようにした点に特徴がある。 In order to achieve the above-described object, the present invention can adaptively set at least one of a coding resolution and a reference signal for inter-channel prediction, and encodes an image by intra-screen prediction and inter-channel prediction. The imaging resolution prediction type moving image encoding apparatus includes a preprocessing analysis unit that performs preprocessing analysis of an input image signal, and the preprocessing analysis unit includes an imaging resolution estimation unit, and is obtained in the imaging resolution estimation unit. It is characterized in that at least one of the encoding resolution and the inter-channel prediction reference signal is determined based on the resolution at the time of photographing for each channel.
また、前記前処理解析部から出力されたサイド情報の更新情報を符号化する更新情報符号化手段を具備し、前記サイド情報は、入力映像信号の解像度に対するサイズ比率、チャネル間の空間的位相差および解像度変換フィルタ特性のうち少なくとも一つである点に他の特徴がある。 Further, update information encoding means for encoding the update information of the side information output from the preprocessing analysis unit is provided, and the side information includes a size ratio with respect to the resolution of the input video signal and a spatial phase difference between channels. Another characteristic is that it is at least one of the resolution conversion filter characteristics.
また、前記更新情報符号化手段は、更新情報の符号化を、近傍符号化フレームで適用された入力映像の解像度に対するサイズ比率、チャネル間の空間的位相差および解像度変換フィルタ特性のうち少なくとも一つを予測値とした際の残差信号に対して行う点に他の特徴がある。 The update information encoding means may encode the update information at least one of a size ratio with respect to the resolution of the input video applied in the neighborhood encoded frame, a spatial phase difference between channels, and a resolution conversion filter characteristic. There is another feature in that it is performed on the residual signal when is used as a predicted value.
また、出力解像度およびチャネル間予測の基準信号のうちの少なくとも1つを適応的に設定可能な動画像復号装置において、受信データに含まれるサイド情報を復号するサイド情報復号手段を具備し、前記出力解像度およびチャネル間予測の基準信号のうちの少なくとも1つを前記サイド情報復号手段で復号されたサイド情報を基に決定する点に他の特徴がある。 Further, in the video decoding apparatus capable of adaptively setting at least one of the output resolution and the inter-channel prediction reference signal, the video decoding apparatus includes side information decoding means for decoding side information included in received data, and the output Another feature is that at least one of the resolution and inter-channel prediction reference signals is determined based on the side information decoded by the side information decoding means.
また、前記サイド情報復号手段は、入力映像の解像度に対するサイズ比率、チャネル間の空間的位相差、解像度変換フィルタ特性のうちの少なくとも一つのデータを復号し、該復号したデータを、復号側で行うべき解像度変換を決定する情報として、復号画像の最終出力形式に反映する点に他の特徴がある。 The side information decoding means decodes at least one of the size ratio with respect to the resolution of the input video, the spatial phase difference between channels, and the resolution conversion filter characteristics, and performs the decoded data on the decoding side. There is another feature in that the information for determining power resolution conversion is reflected in the final output format of the decoded image.
さらに、前記サイド情報復号手段は、受信データの復号により残差信号を取得し、近傍符号化フレームで適用されたサイド情報データより予測値を取得し、これらの加算によりサイド情報の復号を行う点に他の特徴がある。 Further, the side information decoding means acquires a residual signal by decoding received data, acquires a predicted value from the side information data applied in the neighborhood encoded frame, and decodes the side information by adding them. Has other features.
本発明の撮影解像度予測型動画像符号化装置によれば、入力画像信号を前処理解析し、動画像符号化処理に先立って、入力映像に対応する撮影時の解像度を高精度に推定し、同結果をもとに符号化解像度を決定するようにしたことにより、符号化性能の向上を期待できるようになる。 According to the imaging resolution prediction type moving image encoding apparatus of the present invention, the input image signal is preprocessed and analyzed, and prior to the moving image encoding process, the resolution at the time of shooting corresponding to the input video is estimated with high accuracy, By determining the encoding resolution based on the result, it is possible to expect improvement in encoding performance.
また、本発明の撮影解像度予測型動画像復号装置によれば、受信データに含まれるサイド情報を復号し、同結果をもとに復号側での後処理方法の詳細を決定するようにしたことにより、復号装置の出力信号フォーマットを符号化装置の入力信号に忠実に合わせることができるようになる。 Also, according to the imaging resolution prediction type moving picture decoding apparatus of the present invention, the side information included in the received data is decoded, and the details of the post-processing method on the decoding side are determined based on the result. As a result, the output signal format of the decoding apparatus can be faithfully matched to the input signal of the encoding apparatus.
また、前記前処理解析により得られたサイド情報を符号化して伝送するようにしたので、小さな符号量でサイド情報を伝送できるようになる。 Further, since the side information obtained by the preprocessing analysis is encoded and transmitted, the side information can be transmitted with a small code amount.
RGBなどの4:4:4の色空間を有する映像信号の圧縮符号化は、R、G、Bといったチャネル(色コンポーネント)間での相関除去が高い圧縮率を実現する上で有効である。一方で、高精細映像の撮像手法として、画素のサンプル点を色空間ごとに隣接させる、いわゆる画素ずらし処理を導入する例が多い。本発明は、高精細映像用の圧縮符号化装置において、符号化の前段で、入力された映像信号の解析を行い、撮影時の信号形態を特定する前処理解析部を備えた適応符号化装置およびその復号装置に関わるものである。 Compression encoding of a video signal having a 4: 4: 4 color space such as RGB is effective in realizing a compression rate with high correlation removal between channels (color components) such as R, G, and B. On the other hand, as a high-definition image capturing technique, there are many examples of introducing a so-called pixel shift process in which pixel sample points are adjacent to each other for each color space. The present invention relates to a compression encoding device for high-definition video, and an adaptive encoding device including a preprocessing analysis unit that analyzes an input video signal and identifies a signal form at the time of shooting in an upstream stage of encoding. And the decoding device.
以下に、図面を参照して、本発明を詳細に説明する。図1は、本発明の一実施形態の構成を示すブロック図である。 Hereinafter, the present invention will be described in detail with reference to the drawings. FIG. 1 is a block diagram showing a configuration of an embodiment of the present invention.
動画像符号化装置への入力画像信号aは、一旦、前処理解析のためのフレームメモリ1に蓄積される。ここに、入力画像信号aは、R,G,Bなどの4:4:4の色空間を有する映像信号であり、撮影側で任意に変換された所定の撮影解像度を有し、また色(以下、チャネルと呼ぶ)毎にサンプル点がずらされている、換言すれば、空間的に位相差のある画像である。
The input image signal a to the moving image encoding device is temporarily stored in the
前処理解析部2は、撮影時の信号形態を特定する働きをする。前処理解析部2の一具体例を、図2を参照して説明する。該前処理解析部2は、周波数解析部2b、画素ずらし推定部2c、撮影解像度推定部2d、逆変換フィルタ係数算出部2eおよび基準信号選択部2fからなる。
The
周波数解析部2bは、フレームメモリ1からの入力画像信号bを例えばFFTなどにより周波数解析を行う。画素ずらし推定部2cは、周波数解析の結果に基づいてチャネル間の画素ずらし、つまりチャネル間位相差cを推定する。撮影解像度推定部2dは、撮影時の解像度を推定し、解像度変換比率dを出力する。逆変換フィルタ係数算出部2eは、撮影時の解像度に戻すための、逆変換フィルタ係数eを算出して出力する。この逆変換フィルタ係数eは、受信側で映像を元に戻すのに使用される。基準信号選択部2fは、R,G,Bなどのチャネル間の相関の基準となる信号を選択または決定するものであり、基準信号と非基準信号間の相関係数最大化の規範で行うのが望ましい。具体的には、解像度の最も高いチャネルを基準信号と選択するのが望ましい。また、チャネルごとに推定される撮影解像度が互いに異なる場合には、チャネル間予測の基準信号の選択を、チャネルごとの撮影解像度のみから一意に決定するようにしてもよい。該基準信号選択部2fはチャネル間予測用に設けられている。
The
前処理解析部2の出力、すなわちチャネル間位相差c、解像度変換比率d(撮影時の解像度に対応する変換比率または入力映像の解像度に対するサイズ比率)、逆変換フィルタ係数eおよび基準信号は、更新情報決定部3に送られる。なお、前記チャネル間位相差c、解像度変換比率dおよび逆変換フィルタ係数eを、以降では「サイド情報」と呼ぶことがある。
The output of the
更新情報決定部3では、前処理解析部2から送られてくるサイド情報に関して、前のデータと変わっている場合には更新サイド情報とし、変わっていない場合には更新サイド情報とはしない。なお、前記基準信号の選択は、解像度を基に一意に決められるとすることで、例えば、最大解像度を有する信号を基準信号とすることで、基準信号を受信側で独自に再生することができる。このため、基準信号の選択結果自体をサイド情報として記述することを省略することが可能である。
The update information determination unit 3 sets the side information sent from the
図1に示されているように、更新情報決定部3から出力された更新サイド情報は更新情報符号化部4に送られ、該更新情報符号化部4にて直接符号化される。この場合、例えば、更新情報の符号量がある閾値を上回る場合には、入力時の映像フォーマットを保持して符号化処理を適用しないようにしてもよい。 As shown in FIG. 1, the update side information output from the update information determination unit 3 is sent to the update information encoding unit 4 and directly encoded by the update information encoding unit 4. In this case, for example, when the code amount of the update information exceeds a certain threshold value, the video format at the time of input may be retained and the encoding process may not be applied.
以上の処理を映像フレームの単位で繰り返す。入力映像において撮影条件の変更がないことが既知である場合には、以上の処理の適用は初回の映像フレームに限定できる。 The above processing is repeated for each video frame. When it is known that there is no change in shooting conditions in the input video, the application of the above processing can be limited to the first video frame.
図10は、前記前処理解析部2、更新情報決定部3および更新情報符号化部4の処理をフローチャートで表したものである。
FIG. 10 is a flowchart showing the processes of the
ステップS1では、撮影条件に変化があったか否かの判断がなされる。変換がない場合は前処理解析をすることなく終了するが、変化があるとステップS2に進む。ステップS2〜S5の処理は前処理解析部2でなされる。ステップS2では、画面内の周波数解析がなされ、ステップS3ではチャネル間画素ずらしの推定がなされ、ステップS4では撮影解像度の推定がなされ、ステップS5では基準信号選択部2fにて基準信号が決定される。ステップS6、S7の処理は、更新情報符号化部4でなされる。ステップS6では、更新サイド情報を符号化した場合の符号量が予め定められた閾値より小さいかどうかの判断がなされ、この判断が肯定の場合にはステップS7に進んで更新サイド情報の符号化が行われる。一方、ステップS6の判断が否定の時には、符号化をせずに終了する。
In step S1, it is determined whether or not the shooting conditions have changed. If there is no conversion, the process ends without performing preprocessing analysis. If there is a change, the process proceeds to step S2. Steps S2 to S5 are performed by the
次に、図1の解像度変換部6は、更新情報決定部3からの解像度変換比率により、入力画像信号bを撮影時と同じ解像度に変換する。その後、画面内予測→チャネル間予測の処理順序の符号化処理を受ける。この符号化処理は周知であるので、簡単に説明すると、まず基準信号に対しては、切替部SW1、SW2は端子aに接続され、非基準信号に対しては、端子bに接続される。なお、SW2の端子aには、"0"が入力する。
Next, the
基準信号は、減算器7、DCT部8、量子化部9、可変長符号化部10、局所復号部12、加算器13、局所復号画像部14、加算器15、局所復号画像部16、解像度変換部17、動き検出部18および予測画像部19により画面内予測符号化される。一方、非基準信号は、前記の回路で画面内予測された後に、チャネル間予測部20、予測画像部21、減算器22でチャネル間予測されてデータ量の削減がなされる。なお、このチャネル間予測の処理は、解像度変換直後の映像信号に対して適用されるのが好ましい。
The reference signal includes a
符号化された基準信号と非基準信号とからなる符号化画像信号は、バッファメモリ11に一時蓄積され、符号化された更新情報またはサイド情報と多重化部23で多重化されて、符号化データとして出力される。
The encoded image signal composed of the encoded reference signal and the non-reference signal is temporarily stored in the
前記画面内符号化処理は、フレーム内予測符号化に限定されず、動き補償予測符号化を適用しても良い。 The intra-frame encoding process is not limited to intra-frame prediction encoding, and motion compensation prediction encoding may be applied.
次に、前記符号化装置に対応する復号装置の構成を、図3を参照して説明する。 Next, the configuration of a decoding apparatus corresponding to the encoding apparatus will be described with reference to FIG.
受信された符号化データから分離された画像データはバッファメモリ31に一時蓄積され、またサイド情報はバッファメモリ32に蓄積される。バッファメモリ32に蓄積されたサイド情報は、更新情報復号部33にて復号される。復号されるサイド情報は、具体的には、解像度変換比率(撮影時の解像度に対応する変換比率または入力映像の解像度に対するサイズ比率)、チャネル間の空間的位相差および逆変換フィルタ係数である。
The image data separated from the received encoded data is temporarily stored in the
基準信号の選択、すなわちR,G,B信号のうちのどの信号を基準信号とするかは、チャネルごとの符号化解像度をもとに一意に決められる(例えば最大解像度を有する信号を基準信号とするなど)。この基準信号は、チャネル間予測部38に送られ、チャネル間予測の復号処理に供される。
The selection of the reference signal, that is, which of the R, G, and B signals is used as the reference signal is uniquely determined based on the encoding resolution for each channel (for example, the signal having the maximum resolution is used as the reference signal). Etc.) This reference signal is sent to the
前記更新情報復号部33の動作を図11のフローチャートに示す。ステップS11では、バッファメモリ32にサイド情報があるか否かの判断がなされ、不存在の場合にはそのまま終了する。一方、存在する場合には、ステップS12に進んで、更新情報復号部33はサイド情報を復号する。ステップS13では、解像度変換比率、逆変換フィルタ係数、チャネル間位相差の設定が更新される。そして、ステップS14で、基準信号の更新がされる。
The operation of the update
前記更新情報復号部33で復号された解像度変換比率は解像度変換部42に送られ画像サイズの補正に用いられる。また、チャネル間の空間的位相差および逆変換フィルタ係数は解像度変換部46に送られて、R,G,Bの画素ずらしを元(符号化装置への入力時)に戻すと共に、画像拡大がなされる。
The resolution conversion ratio decoded by the update
上記以外は周知の復号装置であるので復号装置の動作は簡単な説明で済ませる。切替部SW3は、基準信号の時に端子aに、非基準信号の時に端子bに接続される。 Since the decoding apparatus other than the above is a known decoding apparatus, the operation of the decoding apparatus can be simply described. The switching unit SW3 is connected to the terminal a at the time of the reference signal and to the terminal b at the time of the non-reference signal.
基準信号は、可変長復号部34、逆量子化器35、逆DCT部36、および加算器37で第1の復号画像40に復号され、次いで、動き補償部41、解像度変換部42、予測画像部43および加算器44による画面内復号処理により第2の復号画像45が得られ、最後に解像度変換部46で解像度変換されて入力画像信号と同じ信号フォーマットに再構成される。
The reference signal is decoded into the first decoded
一方、非基準信号は、可変長復号部34、逆量子化器35、逆DCT部36で復号された残差信号に、チャネル間予測部38、予測画像部39でチャネル間予測された画像が加算されて第1の復号画像40に復号され、次いで、動き補償部41、解像度変換部42、予測画像43および加算器44による画面内復号処理によりチャネル毎に画面内復号処理が適用されて第2の復号画像45が得られる。最後に、解像度変換部46で解像度変換されて入力画像信号と同じ信号フォーマットに再構成される。
On the other hand, the non-reference signal includes the residual signal decoded by the variable
以上の処理が映像フレームの単位で繰り返される。なお、画面内復号処理は、フレーム内予測復号に限定されず、動き補償予測復号を適用しても良い。 The above processing is repeated for each video frame. Note that the intra-screen decoding process is not limited to intra-frame prediction decoding, and motion compensated prediction decoding may be applied.
次に本発明の第2実施形態の符号化装置を図4を参照して説明する。図4において、図1と同じ符号は同一または同等物を示す。 Next, an encoding apparatus according to a second embodiment of the present invention will be described with reference to FIG. 4, the same reference numerals as those in FIG. 1 denote the same or equivalent parts.
この実施形態が第1実施形態と異なる所は、更新情報決定部3から出力された更新サイド情報について、近傍の符号化済み画面で使用した値を予測値として、残差信号を符号化するようにした点、つまり更新サイド情報を予測符号化するようにした点にある。 The difference between this embodiment and the first embodiment is that the update side information output from the update information determination unit 3 is encoded using a value used in a nearby encoded screen as a predicted value. In other words, the updated side information is predictively encoded.
動作を説明すると、バッファメモリ5に蓄積された近傍の符号化済み画面で使用したサイド情報が局所復号部26で局所復号され、加算器27で予測値28と加算されて予測値28を更新する。減算器24は、更新情報決定部3からのサイド情報から前記予測値28を減算して残差信号を生成し、該残差信号は符号化部25で符号化されてバッファメモリ5に一時蓄積される。そして、多重化部23に送られる。
Explaining the operation, the side information used in the neighboring encoded screen accumulated in the
図12は、前記更新サイド情報を予測符号化する動作を示すフローチャートである。ステップS21では、撮影条件に変化があったか否かの判断がなされ、変化がない場合は前処理解析をすることなく終了する。一方、変化があると、ステップS22に進んで、前処理解析部2は、ステップS22〜S25において、図10のステップS2〜S5と同じ動作をする。ステップS26では、予測値の算出がなされ、減算器24で得られた残差信号を符号化部25で符号化した時の符号量が予め定められた閾値より小さいか否かの判断がなされる。この判断が否定の場合には符号化することなく終了するが、肯定の場合にはステップS28に進んで符号化部25は残差信号を符号化して出力する。
FIG. 12 is a flowchart showing an operation for predictively encoding the updated side information. In step S21, it is determined whether or not the shooting conditions have changed. If there is no change, the process ends without performing preprocessing analysis. On the other hand, if there is a change, the process proceeds to step S22, and the
なお、前記更新サイド情報を予測符号化する以外の動作、すなわち画像情報を符号化する符号化器の構成と動作は図1と同じであるので、説明を省略する。 The operation other than the predictive encoding of the updated side information, that is, the configuration and operation of the encoder that encodes the image information are the same as those in FIG.
次に、前記符号化装置に対応する復号装置の構成を、図5を参照して説明する。図5において、図3と同じ符号は同一または同等物を示す。 Next, the configuration of a decoding apparatus corresponding to the encoding apparatus will be described with reference to FIG. In FIG. 5, the same reference numerals as those in FIG. 3 denote the same or equivalent parts.
この実施形態が第1実施形態と異なる所は、バッファメモリ32の後段に、局所復号部47、加算器48、更新情報蓄積部49および予測値蓄積部50を設けた点である。よって、第1実施形態と異なる構成の動作を、以下で説明する。
This embodiment differs from the first embodiment in that a
バッファメモリ32には、受信された符号化データから抽出されたサイド情報の残差信号が一時蓄積される。該バッファメモリ32に一時蓄積されたサイド情報の残差信号は、局所復号部47で局所復号される。局所復号された残差信号は、予測値蓄積部50に蓄積されている近傍の符号化済み画面で使用した値である予測値と加算器48で加算されることで、撮影時の解像度に対応する変換比率(入力映像の解像度に対するサイズ比率)、チャネル間の空間的位相差および逆変換フィルタ係数に復号され、更新情報蓄積部49に蓄積される。
In the
図13は、前記サイド情報の復号部の動作を示すフローチャートである。ステップS31では、バッファメモリ32にサイド情報が存在するか否かの判断がなされ、存在しない場合には終了する。一方、存在する場合には、ステップS32に進んで残差信号を復号し、ステップS33では予測値を算出し、ステップS34では前記残差信号に前記予測値を加算して、解像度変換比率、逆フィルタ係数およびチャネル間位相差の設定更新がなされる。次いで、ステップS35では、基準信号の更新がなされる。
FIG. 13 is a flowchart showing the operation of the side information decoding unit. In step S31, it is determined whether or not side information exists in the
前記復号部で復号された解像度変換比率は解像度変換部42に送られ画像サイズの補正に用いられる。また、チャネル間の空間的位相差および逆変換フィルタ係数は解像度変換部46に送られて、R,G,Bの画素ずらしを元に戻すと共に、画像拡大がなされる。
The resolution conversion ratio decoded by the decoding unit is sent to the
なお、上記のサイド情報の復号以外の動作は図3と同じであるので、説明を省略する。 The operations other than the decoding of the side information are the same as those in FIG.
次に、本発明の第3実施形態を図6を参照して説明する。図6において、図1と同じ符号は、同一または同等物を示す。この実施形態は、第1実施形態と同じサイド情報の符号化装置を、周知のチャネル間予測→画面内予測の処理手順の符号化装置に適用したものである。 Next, a third embodiment of the present invention will be described with reference to FIG. In FIG. 6, the same reference numerals as those in FIG. 1 denote the same or equivalent components. In this embodiment, the same side information encoding apparatus as that of the first embodiment is applied to an encoding apparatus of a well-known inter-channel prediction → intra-screen prediction processing procedure.
そこで、前処理解析部2およびサイド情報の符号化装置の説明(フローチャートは図10と同じ)は省略し、画像信号の符号化装置についてのみ簡単に説明する。
Therefore, description of the
基準信号は、切替部SW1の端子aに送られ、減算器54で予測画像64を減算される。減算器54から出力された残差信号は、DCT部55、量子化部56、可変長符号化部57、局所復号部59、加算器60、局所復号画像61、解像度変換部62、動き検出部63により、画面内予測処理をされる。一方、非基準信号の符号化時には、切替部SW1は端子bに接続される。非基準信号は、減算器53で、チャネル間予測部51と局所復号画像61から得られた予測画像52を減算されてチャネル間予測される。次いで、基準信号の画面内予測処理に用いた回路構成により画面内予測される。
The reference signal is sent to the terminal a of the switching unit SW1, and the predicted
以上のようにして符号化された基準信号と非基準信号とからなる符号化画像信号は、バッファメモリ58に一時蓄積され、符号化された更新情報またはサイド情報と多重化部23で多重化されて、符号化データとして出力される。
The encoded image signal composed of the reference signal and the non-reference signal encoded as described above is temporarily stored in the
次に、前記符号化装置に対応する復号装置の構成を、図7を参照して説明する。図7において、図3と同じ符号は同一または同等物を示す。 Next, the configuration of a decoding apparatus corresponding to the encoding apparatus will be described with reference to FIG. 7, the same reference numerals as those in FIG. 3 denote the same or equivalent parts.
サイド情報の復号装置は、第1実施形態の図3と同じである(フローチャートは図11と同じ)ので、説明を省略するが、前記復号されたサイド情報の解像度変換比率は解像度変換部77に送られ画像サイズの補正に用いられる。また、チャネル間の空間的位相差および逆変換フィルタ係数は解像度変換部82に送られて、R,G,Bの画素ずらしを元(符号化装置への入力時)に戻すと共に、画像拡大がなされる。
Since the side information decoding apparatus is the same as that of FIG. 3 of the first embodiment (the flowchart is the same as FIG. 11), the description is omitted, but the resolution conversion ratio of the decoded side information is given to Sent and used for image size correction. In addition, the spatial phase difference between channels and the inverse transform filter coefficient are sent to the
画像信号の復号装置は周知であるので簡単に説明すると、受信された符号化データから分離された画像データはバッファメモリ31に一時蓄積され、可変長復号部71、逆量子化部72、逆DCT部73、動き補償部74、予測画像75、加算器76および解像度変換部77により、チャネル毎に画面内復号処理が行われ、チャネル毎の残差信号が復号画像78として得られる。次いで、非基準信号は、チャネル間予測部79、予測画像80および加算器81により、チャネル間予測の復号処理がなされる。最後に解像度変換部82で解像度変換されて入力画像信号と同じ信号フォーマットに再構成される。
Since a decoding apparatus for an image signal is well known, a brief description will be given. Image data separated from received encoded data is temporarily stored in a
次に、本発明の第4実施形態を図8を参照して説明する。図8において、図4、図6と同じ符号は、同一または同等物を示す。この実施形態は、第2実施形態と同じサイド情報の符号化装置を、周知のチャネル間予測→画面内予測の処理手順の符号化装置に適用したものである。 Next, a fourth embodiment of the present invention will be described with reference to FIG. 8, the same reference numerals as those in FIGS. 4 and 6 denote the same or equivalent components. In this embodiment, the same side information encoding apparatus as that of the second embodiment is applied to an encoding apparatus of a well-known inter-channel prediction → intra-screen prediction processing procedure.
サイド情報の符号化は、第2実施形態の符号化装置(図4)のものと同じ(フローチャートは図12と同じ)であり、画像情報の符号化は、第3実施形態の符号化装置(図6)のものと同じであるので、図8の動作説明は省略する。 The encoding of the side information is the same as that of the encoding device (FIG. 4) of the second embodiment (the flowchart is the same as that of FIG. 12), and the encoding of the image information is the encoding device of the third embodiment ( Since this is the same as that of FIG. 6), the description of the operation of FIG. 8 is omitted.
次に、前記符号化装置に対応する復号装置の構成を図9に示す。図9において、図5、図7と同じ符号は、同一または同等物を示す。 Next, FIG. 9 shows a configuration of a decoding apparatus corresponding to the encoding apparatus. 9, the same reference numerals as those in FIGS. 5 and 7 denote the same or equivalent components.
この実施形態のサイド情報の復号装置は、第2実施形態の復号装置(図5)のものと同じ(フローチャートは図13と同じ)であり、画像情報の復号装置は、第3実施形態の復号装置(図7)のものと同じである。したがって、本実施形態の動作説明は省略する。 The side information decoding device of this embodiment is the same as that of the decoding device (FIG. 5) of the second embodiment (the flowchart is the same as FIG. 13), and the image information decoding device is the decoding device of the third embodiment. It is the same as that of the device (FIG. 7). Therefore, the description of the operation of this embodiment is omitted.
以上のように、本発明の第1〜4実施形態によれば、前処理解析部によりチャネルごとの撮影時の解像度を推定するようにしている。よって、動画像符号化処理に先立って、入力映像に対応する撮影時の解像度を高精度に推定でき、同結果をもとに符号化解像度、ならびに復号側での後処理方法の詳細を決定することにより、符号化性能の向上が期待できる。 As described above, according to the first to fourth embodiments of the present invention, the pre-processing analysis unit estimates the resolution at the time of shooting for each channel. Therefore, prior to moving image encoding processing, the resolution at the time of shooting corresponding to the input video can be estimated with high accuracy, and the details of the encoding resolution and the post-processing method on the decoding side are determined based on the result. As a result, an improvement in encoding performance can be expected.
2・・・前処理解析部、3・・・更新情報決定部、4・・・更新情報符号化部、6、17・・・解像度変換部、20・・・チャネル間予測部、2b・・・周波数解析部、2c・・・画素ずらし推定部、2d・・・撮影解像度推定部、2e・・・逆変換フィルタ係数算出部、2f・・・基準信号選択部、24・・・減算器、25・・・符号化部、26・・・局所復号部、27・・・加算器、28・・・予測値、33・・・更新情報復号部、38・・・チャネル間予測部、42、46・・・解像度変換部、51・・・チャネル間予測部、62・・・解像度変換部、77、82・・・解像度変換部、79・・・チャネル間予測部。 2 ... Pre-processing analysis unit, 3 ... Update information determination unit, 4 ... Update information encoding unit, 6, 17 ... Resolution conversion unit, 20 ... Inter-channel prediction unit, 2b ... Frequency analysis unit, 2c: pixel shift estimation unit, 2d: imaging resolution estimation unit, 2e: inverse transform filter coefficient calculation unit, 2f: reference signal selection unit, 24: subtractor, 25 ... Coding section, 26 ... Local decoding section, 27 ... Adder, 28 ... Predicted value, 33 ... Update information decoding section, 38 ... Inter-channel prediction section, 42, 46... Resolution conversion unit, 51... Inter channel prediction unit, 62... Resolution conversion unit, 77 and 82... Resolution conversion unit, 79.
Claims (15)
入力画像信号の前処理解析を行う前処理解析部を具備し、
前記前処理解析部は、画素ずらし推定部、撮影解像度推定部、逆変換フィルタ係数算出部および基準信号選択部を含み、
前記画素ずらし推定部は、チャネル間位相差を推定し、
前記撮影解像度推定部は、撮影時の解像度を推定し、
前記逆変換フィルタ係数算出部は、撮影時の解像度に戻すための逆変換フィルタ係数を算出し、
前記基準信号選択部は、前記撮影解像度推定部において得られたチャネルごとの撮影時の解像度を基に、前記符号化解像度およびチャネル間予測の基準信号のうちの少なくとも1つを決定することを特徴とする撮影解像度予測型動画像符号化装置。 In an imaging resolution prediction type moving image encoding device that can adaptively set at least one of a reference signal for encoding resolution and inter-channel prediction, and encodes an image by intra-screen prediction and inter-channel prediction,
A preprocessing analysis unit for performing preprocessing analysis of the input image signal;
The preprocessing analysis unit includes a pixel shift estimation unit, an imaging resolution estimation unit , an inverse transform filter coefficient calculation unit, and a reference signal selection unit ,
The pixel shift estimation unit estimates an inter-channel phase difference,
The shooting resolution estimation unit estimates the resolution at the time of shooting,
The inverse transform filter coefficient calculation unit calculates an inverse transform filter coefficient for returning to the resolution at the time of shooting ,
The reference signal selection unit determines at least one of the encoding resolution and the inter-channel prediction reference signal based on the resolution at the time of shooting for each channel obtained by the shooting resolution estimation unit. An imaging resolution prediction type moving image encoding device.
前記基準信号選択部は、チャネル間予測の基準信号の選択を、チャネル間相関最大化の規範で行うことを特徴とする撮影解像度予測型動画像符号化装置。 The imaging resolution prediction type moving image encoding device according to claim 1,
The reference signal selection unit selects a reference signal for inter-channel prediction based on a norm of inter-channel correlation maximization, and is an imaging resolution prediction type moving image encoding device.
前記基準信号選択部は、チャネルごとに推定される撮影解像度が互いに異なる場合には、チャネル間予測の基準信号の選択を、チャネルごとの撮影解像度のみから一意に決定することを特徴とする撮影解像度予測型動画像符号化装置。 The imaging resolution prediction type moving image encoding device according to claim 2,
The reference signal selection unit uniquely determines the selection of a reference signal for inter-channel prediction from only the imaging resolution for each channel when the imaging resolutions estimated for each channel are different from each other. Predictive video encoding device.
前記画素ずらし推定部は空間的な位相差を推定することを特徴とする撮影解像度予測型動画像符号化装置。 The imaging resolution prediction type moving image encoding device according to claim 1,
The imaging shift prediction type moving image encoding apparatus, wherein the pixel shift estimation unit estimates a spatial phase difference.
前記入力画像信号の前処理解析処理は、チャネルごとの周波数スペクトラム解析から始まることを特徴とする撮影解像度予測型動画像符号化装置。 The imaging resolution prediction type moving image encoding device according to any one of claims 1 to 4,
The imaging resolution prediction type moving image encoding device, wherein the preprocessing analysis processing of the input image signal starts with frequency spectrum analysis for each channel.
前記チャネル間予測の処理は、解像度変換直後の映像信号に対して適用されることを特徴とする撮影解像度予測型動画像符号化装置。 The imaging resolution prediction type moving image encoding device according to any one of claims 1 to 5,
The imaging resolution prediction type moving image encoding apparatus, wherein the inter-channel prediction processing is applied to a video signal immediately after resolution conversion.
前記チャネル間予測の処理は、解像度変換直後の映像信号に対して動き補償予測またはフレーム内予測のいずれかを適用した際に発生する残差信号に対して適用されることを特徴とする撮影解像度予測型動画像符号化装置。 The imaging resolution prediction type moving image encoding device according to any one of claims 1 to 5,
The inter-channel prediction process is applied to a residual signal generated when either motion compensation prediction or intra-frame prediction is applied to a video signal immediately after resolution conversion. Predictive video encoding device.
前記前処理解析部から出力されたサイド情報の更新情報を符号化する更新情報符号化手段を具備し、
前記サイド情報は、入力映像信号の解像度に対するサイズ比率、チャネル間の空間的位相差および解像度変換フィルタ特性を含むことを特徴とする撮影解像度予測型動画像符号化装置。 The imaging resolution prediction type moving image encoding device according to claim 1,
Update information encoding means for encoding the update information of the side information output from the preprocessing analysis unit,
The side information size ratio resolution of the input video signal, imaging resolution predictive video coding apparatus which comprises a spatial phase difference and the resolution conversion filter characteristics between channels.
前記更新情報符号化手段は、更新情報の符号化を、近傍符号化フレームで適用された入力映像の解像度に対するサイズ比率、チャネル間の空間的位相差および解像度変換フィルタ特性のうち少なくとも一つを予測値とした際の残差信号に対して行うことを特徴とする撮影解像度予測型動画像符号化装置。 The imaging resolution prediction type moving image encoding device according to claim 8,
The update information encoding means predicts at least one of update information encoding among a size ratio with respect to the resolution of an input video applied in a neighboring encoded frame, a spatial phase difference between channels, and a resolution conversion filter characteristic. An imaging resolution prediction type moving image encoding apparatus, which is performed on a residual signal when a value is used.
前記更新情報符号化手段は、更新情報の符号化を前記更新情報の符号量が予め定められた閾値を下回る場合にのみ行うようにしたことを特徴とする撮影解像度予測型動画像符号化装置。 The imaging resolution prediction type moving image encoding device according to claim 8 or 9,
The update information encoding unit is configured to perform update information encoding only when the code amount of the update information falls below a predetermined threshold.
受信データに含まれるサイド情報を復号するサイド情報復号手段を具備し、
前記復号されるサイド情報は、解像度変換比率、チャネル間位相差、および逆変換フィルタ係数を含み、
前記復号されたサイド情報を基に前記出力解像度およびチャネル間予測の基準信号のうちの少なくとも1つを決定し、
前記解像度変換比率は画像サイズの補正に用いられ、
前記チャネル間位相差および逆変換フィルタ係数は色信号の画素ずらしを元に戻すと共に画像拡大することに用いられることを特徴とする撮影解像度予測型動画像復号装置。 In the imaging resolution prediction type moving picture decoding apparatus capable of adaptively setting at least one of the output resolution and the inter-channel prediction reference signal,
Comprising side information decoding means for decoding side information included in the received data;
The decoded side information includes a resolution conversion ratio, an inter-channel phase difference, and an inverse conversion filter coefficient,
Determining at least one of the output resolution and inter-channel prediction reference signal based on the decoded side information ;
The resolution conversion ratio is used for image size correction,
The inter-channel phase difference and the inverse transform filter coefficient are used for restoring the pixel shift of the color signal and enlarging the image, and a photographic resolution prediction type moving picture decoding apparatus.
前記サイド情報復号手段はチャネルごとの符号化解像度を復号し、
チャネルごとの符号化解像度が互いに異なる場合には、チャネル間予測の基準信号の選択を、チャネルごとの解像度のみから一意に決定できるようにしたことを特徴とする撮影解像度予測型動画像復号装置。 The imaging resolution prediction type moving picture decoding apparatus according to claim 11,
The side information decoding means decodes the encoding resolution for each channel;
An imaging resolution prediction type moving picture decoding apparatus characterized in that, when the encoding resolution for each channel is different from each other, selection of a reference signal for inter-channel prediction can be uniquely determined only from the resolution for each channel.
受信データに対して、画面内復号処理によりチャネル間予測の残差信号を取得する手段と、
該残差信号に対するチャネル間予測の復号処理により、チャネルごとの復号画像を取得する手段とを具備したことを特徴とする撮影解像度予測型動画像復号装置。 The imaging resolution prediction type moving picture decoding device according to claim 11 or 12 ,
Means for obtaining a residual signal of inter-channel prediction by intra-screen decoding for received data;
An imaging resolution prediction type moving picture decoding apparatus comprising: means for acquiring a decoded picture for each channel by decoding processing of inter-channel prediction for the residual signal.
受信データに対して、チャネル間予測の復号処理により画面内符号化の残差信号を取得する手段と、
該残差信号に対して動き補償予測またはフレーム内予測のいずれかを適用した復号処理により、チャネルごとの復号画像を取得する手段とを具備したことを特徴とする撮影解像度予測型動画像復号装置。 The imaging resolution prediction type moving picture decoding device according to claim 11 or 12 ,
Means for obtaining a residual signal of intra-picture encoding by decoding processing of inter-channel prediction for received data;
An imaging resolution prediction type moving image decoding apparatus comprising: means for acquiring a decoded image for each channel by decoding processing applying either motion compensation prediction or intraframe prediction to the residual signal .
前記サイド情報復号手段は、受信データの復号により残差信号を取得し、近傍符号化フレームで適用されたサイド情報データより予測値を取得し、これらの加算によりサイド情報の復号を行うことを特徴とする撮影解像度予測型動画像復号装置。 The imaging resolution prediction type moving picture decoding device according to claim 11 or 12 ,
The side information decoding means acquires a residual signal by decoding received data, acquires a prediction value from side information data applied in a neighborhood encoded frame, and decodes side information by adding these. An imaging resolution prediction type moving picture decoding apparatus.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009085661A JP5130245B2 (en) | 2009-03-31 | 2009-03-31 | Imaging resolution prediction type moving picture encoding apparatus and decoding apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009085661A JP5130245B2 (en) | 2009-03-31 | 2009-03-31 | Imaging resolution prediction type moving picture encoding apparatus and decoding apparatus |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010239423A JP2010239423A (en) | 2010-10-21 |
JP5130245B2 true JP5130245B2 (en) | 2013-01-30 |
Family
ID=43093369
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009085661A Active JP5130245B2 (en) | 2009-03-31 | 2009-03-31 | Imaging resolution prediction type moving picture encoding apparatus and decoding apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5130245B2 (en) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5586061B2 (en) * | 2010-10-27 | 2014-09-10 | Kddi株式会社 | Color component prediction type image encoding apparatus and decoding apparatus |
JP5753062B2 (en) * | 2011-11-16 | 2015-07-22 | Kddi株式会社 | Color component prediction type image encoding apparatus and decoding apparatus |
JP5872929B2 (en) * | 2012-03-06 | 2016-03-01 | Kddi株式会社 | Moving picture encoding apparatus, moving picture decoding apparatus, moving picture encoding method, moving picture decoding method, and program |
JP6265705B2 (en) * | 2013-11-25 | 2018-01-24 | キヤノン株式会社 | Image coding apparatus and image coding method |
KR102301232B1 (en) * | 2017-05-31 | 2021-09-10 | 삼성전자주식회사 | Method and apparatus for processing multiple-channel feature map images |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1075463A (en) * | 1996-08-29 | 1998-03-17 | Asahi Optical Co Ltd | Image compressor and image expander |
JP2003274188A (en) * | 2002-03-12 | 2003-09-26 | Canon Inc | System for encoding still image |
KR100624429B1 (en) * | 2003-07-16 | 2006-09-19 | 삼성전자주식회사 | A video encoding/ decoding apparatus and method for color image |
JP4726047B2 (en) * | 2005-04-26 | 2011-07-20 | Kddi株式会社 | Image encoding device |
-
2009
- 2009-03-31 JP JP2009085661A patent/JP5130245B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2010239423A (en) | 2010-10-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10721480B2 (en) | Image processing apparatus and method | |
JP4373702B2 (en) | Moving picture encoding apparatus, moving picture decoding apparatus, moving picture encoding method, moving picture decoding method, moving picture encoding program, and moving picture decoding program | |
US8718138B2 (en) | Image encoding apparatus and image encoding method that determine an encoding method, to be used for a block to be encoded, on the basis of an intra-frame-prediction evaluation value calculated using prediction errors between selected reference pixels and an input image | |
RU2668056C1 (en) | Image processing device and image processing method | |
JP2005506815A (en) | Method and apparatus for spatially extensible compression | |
WO2011086964A1 (en) | Image processing device, method, and program | |
JP4875007B2 (en) | Moving picture coding apparatus, moving picture coding method, and moving picture decoding apparatus | |
US20080095239A1 (en) | Method for video frame rate conversion | |
US20110122953A1 (en) | Image processing apparatus and method | |
JP5130245B2 (en) | Imaging resolution prediction type moving picture encoding apparatus and decoding apparatus | |
JP2007013298A (en) | Image coding apparatus | |
JP2005318297A (en) | Method and device for encoding/decoding dynamic image | |
JP2007134755A (en) | Moving picture encoder and image recording and reproducing device | |
JP2004215275A (en) | Motion compensation based improved noise prediction method and apparatus, and moving image encoding method and apparatus using the same | |
JP5092558B2 (en) | Image encoding method, image encoding device, image decoding method, and image decoding device | |
US20090060039A1 (en) | Method and apparatus for compression-encoding moving image | |
WO2016171006A1 (en) | Encoding device and encoding method, and decoding device and decoding method | |
JP2005295215A (en) | Moving image encoding device | |
JP4359184B2 (en) | Prediction information / quantized value control compression encoding apparatus, prediction information / quantization value control compression encoding program | |
JP3164056B2 (en) | Moving image encoding / decoding device, moving image encoding / decoding method, and moving image code recording medium | |
US20070297517A1 (en) | Entropy encoding and decoding apparatuses, and entropy encoding and decoding methods | |
JP4164903B2 (en) | Video code string conversion apparatus and method | |
JP2009278473A (en) | Image processing device, imaging apparatus mounting the same, and image reproducing device | |
JP4857152B2 (en) | Orthogonal transformation / quantization equipment | |
JP2017200199A (en) | Video compression device, video decoding device, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110907 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120605 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120613 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120803 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121017 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121105 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5130245 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151109 Year of fee payment: 3 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |