JPH10224227A - Adaptive quantization system for orthogonal transformation coding - Google Patents

Adaptive quantization system for orthogonal transformation coding

Info

Publication number
JPH10224227A
JPH10224227A JP2700797A JP2700797A JPH10224227A JP H10224227 A JPH10224227 A JP H10224227A JP 2700797 A JP2700797 A JP 2700797A JP 2700797 A JP2700797 A JP 2700797A JP H10224227 A JPH10224227 A JP H10224227A
Authority
JP
Japan
Prior art keywords
signal
quantization
output
temporary
dynamic range
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2700797A
Other languages
Japanese (ja)
Other versions
JP3427659B2 (en
Inventor
Norio Suzuki
典生 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Engineering Ltd
Original Assignee
NEC Engineering Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Engineering Ltd filed Critical NEC Engineering Ltd
Priority to JP02700797A priority Critical patent/JP3427659B2/en
Publication of JPH10224227A publication Critical patent/JPH10224227A/en
Application granted granted Critical
Publication of JP3427659B2 publication Critical patent/JP3427659B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

PROBLEM TO BE SOLVED: To attain good coding with a quantization characteristic having a small dynamic range, without increasing a device scale and without deterioration in overload noise. SOLUTION: In the case that a transformation coefficient obtained by applying orthogonal transformation to a prediction error signal with a same dynamic range as that of an input signal for each block is quantized and coded, an adaptive quantization device 3 obtains a tentative local decoding signal from a quantized prediction error signal that is obtained by applying inverse orthogonal transformation to a tentative quantization output and compares the tentative local decoding signal with the input signal. In the case that the tentative local decoding signal exceeds a dynamic range, control is conducted by using a conversion signal applying orthogonal transformation to the signal exceeding the dynamic range, and the conversion signal is adaptively quantized and is outputted so that the tentative local decoding signal does not exceed the dynamic range of the input signal.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明はテレビ信号をディジ
タル化し予測誤差信号を量子化してデータ圧縮符号化し
て伝送する予測符号化方式と画像信号を直交変換して符
号化する直交変換方式とに関し、特に、予測誤差信号を
直交変換してから量子化を行って符号化伝送する際に用
いられる量子化方式に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a prediction encoding system for digitizing a television signal, quantizing a prediction error signal, compressing and transmitting the data, and an orthogonal transformation system for orthogonally transforming and encoding an image signal. In particular, the present invention relates to a quantization method used when encoding and transmitting a prediction error signal after performing orthogonal transformation and then performing quantization.

【0002】[0002]

【従来の技術】従来、差分符号化(予測符号化)と直交
変換符号化をと組み合わせた符号化方式(予測誤差直交
変換符号化方式)として図5に示すものが知られてい
る。そして、予測誤差信号を直交変換し変換信号を量子
化して符号化伝送する代表的な方式の一例として、例え
ば、TTC標準JT−H261(社団法人電信電話技術
委員会発行、以下引例1と呼ぶ)がある。
2. Description of the Related Art Conventionally, a coding system (prediction error orthogonal transform coding system) shown in FIG. 5 is known which combines differential coding (prediction coding) and orthogonal transform coding. As an example of a typical method for orthogonally transforming a prediction error signal, quantizing a transformed signal, and encoding and transmitting the same, for example, TTC standard JT-H261 (published by the Telegraph and Telephone Technical Committee, hereinafter referred to as Reference 1) There is.

【0003】図5を参照して、この方式では、減算器4
1で8ビットの画像信号と8ビットの動き補償フレーム
間予測信号との減算を行い、9ビットの差分信号(予測
誤差信号)を求め、直交変換器42で差分信号を8×8
のブロックでDCT(離散コサイン変換)による直交変
換を行って、64種の12ビットの変換係数を求める。
そして、変換係数を予め定められた量子化特性(最大1
2ビットのダイナミックレンジで範囲は−2048〜2
047)を有する量子化器43で量子化を行って、この
量子化された変換係数を符号変換器44で符号変換して
伝送する。
Referring to FIG. 5, in this system, a subtractor 4
In step 1, the 8-bit image signal and the 8-bit motion-compensated inter-frame prediction signal are subtracted to obtain a 9-bit difference signal (prediction error signal).
, And performs orthogonal transform by DCT (discrete cosine transform) to obtain 64 types of 12-bit transform coefficients.
Then, the transform coefficient is set to a predetermined quantization characteristic (maximum 1
2-bit dynamic range, range from -2048 to 2
047) is quantized, and the quantized transform coefficients are code-converted by the code converter 44 and transmitted.

【0004】量子化変換係数は逆直交変換器45にも与
えられ、ここで逆直交変換されて加算器46に与えられ
る。加算器46では逆直交変換器45と予測信号とを加
算しして、予測器47に与える。そして、予測器47で
は加算器46の出力に応じて動き補償フレーム間予測信
号を生成する。
[0004] The quantized transform coefficients are also provided to an inverse orthogonal transformer 45, where they are subjected to inverse orthogonal transform and then provided to an adder 46. The adder 46 adds the inverse orthogonal transformer 45 and the prediction signal, and supplies the result to the predictor 47. Then, the predictor 47 generates a motion-compensated inter-frame prediction signal according to the output of the adder 46.

【0005】一方、従来、予測符号化用適応量子化方式
として図6に示すものが知られており、この方式は、例
えば、特開平6−343047号公報に記載されてい
る。
On the other hand, conventionally, an adaptive quantization system for predictive coding is shown in FIG. 6, and this system is described in, for example, JP-A-6-343047.

【0006】図6を参照して、この方式では、8ビット
の入力信号Xは減算器51と加算器52に供給される。
減算器51は8ビットのモジュロー演算を行って、入力
信号Xから予測信号Pを減算して8ビットの予測誤差信
号Eを求め、量子化器53に送る。
Referring to FIG. 6, in this system, an 8-bit input signal X is supplied to a subtractor 51 and an adder 52.
The subtracter 51 performs an 8-bit modulo operation, subtracts the prediction signal P from the input signal X to obtain an 8-bit prediction error signal E, and sends the prediction error signal E to the quantizer 53.

【0007】量子化器53は、8ビットのダイナミック
レンジの量子化特性を有し、予測誤差信号Eを量子化し
て仮の量子化出力Qを出力するとともに仮の量子化出力
Qより1つ上の量子化レベルQ及び仮の量子化出力Q
より1つ下の量子化レベルQを出力する。
[0007] The quantizer 53 has a quantization characteristic of an 8-bit dynamic range, quantizes the prediction error signal E, outputs a temporary quantized output Q, and is one level higher than the temporary quantized output Q. Quantization level Q + and temporary quantization output Q
More One lower quantization level Q - outputs a.

【0008】減算器24では仮の量子化出力Qと予測誤
差信号Eとの減算を行って量子化雑音qnを得て、加算
器52によってこの量子化雑音qnと入力信号Xとを加
算して仮の局部復号信号Ytを求める。そして、切替器
54は局部復号信号Ytが8ビットのダイナミックレン
ジを上又は下に越えるかを判定し、範囲内であれば、仮
の量子化出力Qを量子化出力Qsとして出力する。ま
た、範囲を上に越えると、量子化レベルQを量子化出
力Qsとして出力し、範囲を下に越えると、量子化レベ
ルQを量子化出力Qsとして出力する。そして、量子
化出力Qsは符号変換器55で符号化されて伝送され
る。
The subtracter 24 subtracts the provisional quantized output Q and the prediction error signal E to obtain quantization noise qn, and the adder 52 adds the quantization noise qn to the input signal X to add it. A temporary local decoded signal Yt is obtained. Then, the switch 54 determines whether the local decoded signal Yt exceeds or falls below the 8-bit dynamic range, and if it is within the range, outputs the temporary quantized output Q as the quantized output Qs. Further, if it exceeds the range above, the quantization level Q - outputs as a quantization output Qs, exceeds the range below, and outputs the quantized level Q + as the quantization output Qs. Then, the quantized output Qs is encoded by the code converter 55 and transmitted.

【0009】加算器56は量子化出力Qsと予測信号P
とをモジュロ加算して局部復号信号Yを求める。そし
て、予測器57は局部復号信号Yに応じて次の予測信号
Pを生成する。
The adder 56 has a quantized output Qs and a prediction signal P
And modulo addition to obtain a local decoded signal Y. Then, the predictor 57 generates the next prediction signal P according to the local decoded signal Y.

【0010】なお、受信側では、符号逆変換器58で逆
変換を行って、量子化出力Qsと同一の量子化レベルの
信号を再生する。この量子化信号は加算器59で予測信
号とモジュロ加算され、局部復号信号とされる。予測器
60はこの局部復号信号に応じて予測信号を生成する。
On the receiving side, an inverse transform is performed by the code inverse transformer 58 to reproduce a signal having the same quantization level as the quantized output Qs. The quantized signal is modulo-added to the prediction signal by an adder 59 to obtain a locally decoded signal. The predictor 60 generates a prediction signal according to the local decoded signal.

【0011】[0011]

【発明が解決しようとする課題】ところで、画像品質を
同等に保ちつつ、量子化特性のダイナミックレンジを1
ビット小さくした量子化器を用いて符号化伝送ビットレ
ートを少なくできるようにするためには、前述の予測誤
差直交変換符号化方式の量子化器に予測符号化用適応量
子化器を適用することが考えられるが、この場合、予測
誤差直交変換符号化方式においては、8×8のブロック
ごとに予測誤差の変換符号化が行われ、量子化器の前/
後で直交変換/逆直交変換が行われている。従って、ブ
ロック毎に復号される64の画素の仮の局部復号信号は
各々1画素がそれぞれ64の変換係数の量子化雑音の影
響を受けることになる。このため、量子化誤差と画素信
号とが1対1に対応せず、予測符号化用適応量子化手法
における判定方法をそのまま予測誤差直交変換符号化の
判定方法に適用することはできない。
By the way, while maintaining the image quality at the same level, the dynamic range of the quantization characteristic is reduced by one.
In order to be able to reduce the coded transmission bit rate by using a quantizer with smaller bits, it is necessary to apply an adaptive quantizer for predictive coding to the quantizer of the above-mentioned prediction error orthogonal transform coding method. In this case, in the prediction error orthogonal transform coding scheme, the transform coding of the prediction error is performed for each 8 × 8 block, and the coding before the quantization is performed.
Later, orthogonal transform / inverse orthogonal transform is performed. Therefore, the temporary local decoded signal of 64 pixels decoded for each block is affected by the quantization noise of 64 transform coefficients for each pixel. For this reason, the quantization error and the pixel signal do not correspond one-to-one, and the determination method in the adaptive quantization method for predictive coding cannot be directly applied to the determination method for prediction error orthogonal transform coding.

【0012】そして、1ブロックで画素信号がダイナミ
ックレンジを越えた際、どの変換係数の量子化雑音の影
響でダイナミックレンジを越えているかを判定するた
め、例えば、単純な総当たり手法を用いるとすると、6
4種の変換係数の組み合わせについて量子化雑音の影響
を求める必要が有り、最悪の場合には、総当たりの計算
量が膨大となってリアルタイムで行うには、判定回路を
実質的に実現できないという問題点がある。
When a pixel signal exceeds a dynamic range in one block, it is assumed that a simple brute force method is used to determine which transform coefficient exceeds the dynamic range due to the influence of quantization noise. , 6
It is necessary to find the effect of quantization noise on a combination of four types of transform coefficients. In the worst case, the amount of calculation for brute force is enormous, and it is not practical to implement a decision circuit to perform in real time. There is a problem.

【0013】本発明の目的は、装置規模を大きくするこ
となくダイナミックレンジが従来より1ビット小さい量
子化特性で過負荷雑音の劣化が無く従来の量子化と同等
の画質の画像を符号化できる量子化方式を提供すること
にある。
SUMMARY OF THE INVENTION It is an object of the present invention to provide a quantization characteristic capable of encoding an image having an image quality equivalent to that of the conventional quantization without deterioration of overload noise with a quantization characteristic having a smaller dynamic range by one bit than the conventional one without increasing the apparatus scale. It is to provide a generalization method.

【0014】本発明の他の目的は従来に比べて少ない量
子化レベル数(割り当てビット数)で、つまり、少ない
符号化伝送ビット数で伝送を行うことのできる量子化方
式を提供することにある。
Another object of the present invention is to provide a quantization system capable of performing transmission with a smaller number of quantization levels (number of allocated bits), that is, a smaller number of coded transmission bits, as compared with the related art. .

【0015】[0015]

【課題を解決するための手段】予測誤差直交変換符号化
の方式に予測符号化用適応量子化器を直接適用したとき
に、ダイナミックレンジを越えた画素信号に大きく影響
を与える変換係数を求め、その変換係数の仮量子化出力
レベルを1つ小さくする事によって、仮の局部復号信号
がダイナミックレンジを越えないようにできるかを調べ
る方法により、適応量子化の判定を行う。
When the adaptive quantizer for predictive coding is directly applied to the predictive error orthogonal transform coding method, a transform coefficient which greatly affects a pixel signal exceeding a dynamic range is obtained. The adaptive quantization is determined by a method of checking whether the provisional quantized output level of the transform coefficient can be reduced by one so as to prevent the provisional local decoded signal from exceeding the dynamic range.

【0016】復号信号のダイナミックレンジオーバに大
きく影響を与える変換係数は、レンジ外信号の変換係数
の振幅値と量子化出力の量子化雑音の大きさから推定で
きる。
The transform coefficient that greatly affects the dynamic range over of the decoded signal can be estimated from the amplitude value of the transform coefficient of the out-of-range signal and the magnitude of the quantization noise of the quantized output.

【0017】ここで、レンジ外信号としては、ダイナミ
ックレンジ内の画素点は0、上に越えた画素は、越えた
部分の正の振幅値をその画素点の振幅値とし、下に越え
た場合は、越えた部分の負の振幅値をその画素点の振幅
値として、1ブロックの信号値が得られる。
Here, as the out-of-range signal, a pixel point within the dynamic range is 0, and a pixel exceeding the upper limit is defined as a positive amplitude value of the exceeded portion as an amplitude value of the pixel point, , The signal value of one block is obtained by using the negative amplitude value of the excess portion as the amplitude value of the pixel point.

【0018】次に、このレンジ外信号を逆直交変換し
て、変換信号の振幅値を求め、振幅が大きい変換係数
が、量子化雑音の影響が大きいとして、その量子化ステ
ップを1つ小さくまたは大きくして、仮の局部復号信号
がダイナミックレンジを越えないか判定する。ダイナミ
ックレンジを越える場合は、再度判定を繰り返す。この
手順により、影響の大きい変換係数の量子化レベルを強
制的に変える事により、量子化雑音がレンジオーバの画
素信号に対して反対の方向に補正する働きをすることに
なり、仮の局部復号信号がダイナミックレンジを越えな
いようになり、この判定方法により、速やかにダイナミ
ックレンジを越えないように判定することができる。
Next, the out-of-range signal is subjected to inverse orthogonal transform to determine the amplitude value of the converted signal. Assuming that a transform coefficient having a large amplitude is greatly affected by quantization noise, the quantization step is reduced by one or By increasing the value, it is determined whether the temporary local decoded signal does not exceed the dynamic range. If the dynamic range is exceeded, the determination is repeated again. By this procedure, by forcibly changing the quantization level of the transform coefficient having a large influence, the quantization noise serves to correct the pixel signal having an overrange in the opposite direction. The signal does not exceed the dynamic range, and by this determination method, it can be quickly determined not to exceed the dynamic range.

【0019】本発明の構成によれば、従来より1ビット
少ないダイナミックレンジの量子化特性で予測誤差信号
の直交変換信号を量子化して符号化伝送でき、再生画像
は過負荷が起こらず従来と同等の画像を復号できること
になる。
According to the configuration of the present invention, the orthogonal transform signal of the prediction error signal can be quantized and coded and transmitted with the quantization characteristic of the dynamic range smaller by one bit than the conventional one, and the reproduced image is equivalent to the conventional one without overload. Can be decoded.

【0020】[0020]

【発明の実施の形態】以下本発明について図面を参照し
て説明する。
DESCRIPTION OF THE PREFERRED EMBODIMENTS The present invention will be described below with reference to the drawings.

【0021】図1を参照して、8ビットのディジタル入
力信号X(−128〜127)は、8ビットのダイナミ
ックレンジの減算器1に供給され、減算器1では予測器
7からの予測信号Pと入力信号Xとのモジュロー演算の
減算を行い、8ビットの予測誤差信号Eを求めて直交変
換器2に供給する。
Referring to FIG. 1, an 8-bit digital input signal X (−128 to 127) is supplied to an 8-bit dynamic range subtracter 1, and the subtractor 1 outputs a prediction signal P from a predictor 7. And an input signal X are subtracted by a modulo operation to obtain an 8-bit prediction error signal E, which is supplied to the orthogonal transformer 2.

【0022】直交変換器2では、「8サンプル」×「8
ライン」の64画素(Eij=E11〜E88)を1ブロ
ックとして予測誤差信号Eをブロック毎に直交変換し
て、64種類の変換係数(Et 11〜Et 88)を1ブ
ロックとして出力する。64種の変換係数は11ビット
のダイナミックレンジを有し、適応量子化器3に供給さ
れる。
In the orthogonal transformer 2, “8 samples” × “8
The prediction error signal E is orthogonally transformed for each block using 64 pixels (Eij = E11 to E88) of the "line" as one block, and 64 types of transform coefficients (Et11 to Et88) are output as one block. The 64 types of transform coefficients have a dynamic range of 11 bits and are supplied to the adaptive quantizer 3.

【0023】適応量子化器3は量子化器10、選択器1
1、逆直交変換器12、加算器13、レンジ判定器1
5、直交変換器16、制御判定器17、及び出力スイッ
チ(SW)18を備えている。量子化器10は11ビッ
トのダイナミックレンジを有し、各変換係数に対応した
量子化特性で各変換係数をブロック毎に量子化して各仮
の量子化出力Qを選択器11へ供給する。さらに、量子
化器10は各仮の量子化出力Qijより1つ上(Q+ )お
よび1つ下(Q- )のレベルの量子化出力も併せて出力
して選択器11へ供給する。
The adaptive quantizer 3 includes a quantizer 10 and a selector 1
1, inverse orthogonal transformer 12, adder 13, range determiner 1
5, an orthogonal transformer 16, a control determiner 17, and an output switch (SW) 18. The quantizer 10 has an 11-bit dynamic range, quantizes each transform coefficient for each block with quantization characteristics corresponding to each transform coefficient, and supplies each temporary quantized output Q to the selector 11. Further, the quantizer 10 is one above quantization output Qij of the temporary (Q +) and one lower - supplying level quantized output even together and output to the selector 11 of the (Q).

【0024】選択器11は制御判定器17からの制御信
号に応じて仮の量子化出力をQij,Q+ ,及びQ- の内
から1つを選択してブロック毎に仮の量子化出力Qtを
得て逆直交変換器12及び出力SW18へ供給する。
The selector 11 is controlled determiner provisional in response to the control signal from 17 Qij a quantized output, Q +, and Q - provisionally for each block to select one of the quantization output Qt And supplies it to the inverse orthogonal transformer 12 and the output SW 18.

【0025】逆直交変換器12は直交変換器2の逆変換
特性を有し、仮の量子化出力Qtをブロック毎に逆直交
変換して8ビットのダイナミックレンジの仮に量子化さ
れた予測誤差信号Eq を再生して加算器13へ供給す
る。
The inverse orthogonal transformer 12 has an inverse transform characteristic of the orthogonal transformer 2, and performs an inverse orthogonal transform of the temporary quantized output Qt for each block to thereby temporarily quantize a prediction error signal having a dynamic range of 8 bits. Eq is reproduced and supplied to the adder 13.

【0026】加算器13は8ビットのモジュロー演算で
予測器7から供給される予測信号Pと仮の量子化予測誤
差信号Eq を加算して8ビットの仮の局部復号信号Yを
求め、これをレンジ判定器15へ供給する。
The adder 13 adds the prediction signal P supplied from the predictor 7 and the provisional quantized prediction error signal Eq by an 8-bit modulo operation to determine a provisional 8-bit local decoded signal Y. It is supplied to the range determiner 15.

【0027】レンジ判定器15では先ず、入力信号Xと
仮の局部復号信号Yとを比較して、局部復号信号Yがダ
イナミックレンジを越えているか判定する。比較するた
め、9ビットの減算器(図示せず)で入力信号Xから仮
の局部復号信号Yを減算して雑音信号を求める。そし
て、雑音信号Nがダイナミックレンジの半分より大きい
時には、仮の局部復号信号Yは量子化雑音の影響によっ
て8ビットのダイナミックレンジをオーバフロー又はア
ンダーフローしており、正しい局部復号信号が得られて
いないと判定して、レンジ外信号として各画素のレンジ
境界から越えた値をブロック毎に求める。このレンジ外
信号はオーバフローの時には正の値、アンダーフローの
場合には負の値となる。そして、レンジ内にあると判定
される画素の場合には、レンジ外信号は0の値とする。
このようにして求められた1ブロック64画素からなる
レンジ外信号は直交変換器16と制御判定器17とに供
給される。
The range determiner 15 first compares the input signal X with the temporary local decoded signal Y to determine whether the local decoded signal Y exceeds the dynamic range. For comparison, a noise signal is obtained by subtracting the temporary local decoded signal Y from the input signal X by a 9-bit subtractor (not shown). When the noise signal N is larger than half of the dynamic range, the provisional local decoded signal Y overflows or underflows the 8-bit dynamic range due to the influence of quantization noise, and a correct local decoded signal is not obtained. And a value exceeding the range boundary of each pixel as an out-of-range signal is obtained for each block. The out-of-range signal has a positive value in the case of an overflow and a negative value in the case of an underflow. If the pixel is determined to be within the range, the out-of-range signal has a value of 0.
The thus-obtained out-of-range signal composed of 64 pixels is supplied to the orthogonal transformer 16 and the control determiner 17.

【0028】直交変換器16は、直交変換器2と同一の
変換特性を有し、レンジ外信号をブロック毎に直交変換
して変換係数を求めて制御判定器17へ供給する。制御
判定器17では、まず、量子化器10から出力された仮
の量子化出力Qが選択されるように制御を行う。始めの
比較判定において、制御判定器17に供給されるレンジ
外信号が1ブロック全て0の場合には、制御判定器17
は出力SW18へ制御信号を送り、選択器11から出力
されている仮の量子化出力Qを最終選択された量子化出
力として出力するようにする。
The orthogonal transformer 16 has the same conversion characteristics as the orthogonal transformer 2, and performs orthogonal transform on the out-of-range signal for each block to obtain a transform coefficient and supplies it to the control decision unit 17. First, the control determiner 17 performs control so that the temporary quantized output Q output from the quantizer 10 is selected. If the out-of-range signals supplied to the control determiner 17 are all 0 in the first comparison determination, the control determiner 17
Sends a control signal to the output SW 18 so that the provisional quantized output Q output from the selector 11 is output as the finally selected quantized output.

【0029】レンジ外信号が0ではない場合には、レン
ジ外信号の変換係数が一番大きい変換係数に対応する仮
量子化出力のレベルとして量子化出力Q+ 又はQ- を選
択するように選択器11に制御信号を送る。この結果、
新たに出力された仮の量子化出力に対して上述の比較判
定制御の処理を繰り返す。
If the out-of-range signal is not 0, the quantization output Q + or Q - is selected as the level of the provisional quantization output corresponding to the largest conversion coefficient of the out-of-range signal. A control signal is sent to the device 11. As a result,
The above-described comparison determination control process is repeated for the newly output temporary quantized output.

【0030】第2回目以降は、レンジ信号が1ブロック
全て0になるまで、この比較・判定・制御処理が繰り返
される。
After the second time, this comparison, determination and control process is repeated until the range signal becomes 0 for all blocks.

【0031】変換係数に器づく量子化出力の制御手法と
して、直流成分の変換係数のみによって量子化適応制御
を行う手法について説明する。
As a method of controlling the quantized output based on the transform coefficient, a method of performing the quantization adaptive control using only the transform coefficient of the DC component will be described.

【0032】変換係数の量子化雑音Nt を逆直交変換し
た量子化雑音N(f(x,y))は、後述する数1によって与
えられ、変換係数量子化雑音Nt (F(u,v))に1/8の
係数が掛かった値となる。これよって、オーバフローす
る時には、変換係数の直流成分の量子化レベルを1つ下
げ、アンダーフローする時には、量子化レベルを1つ上
げる制御を行う。
The quantization noise N (f (x, y)) obtained by inversely transforming the quantization noise Nt of the transform coefficient is given by the following equation (1), and the transform coefficient quantization noise Nt (F (u, v)) ) Is multiplied by a factor of 1/8. As a result, when the overflow occurs, the quantization level of the DC component of the transform coefficient is decreased by one, and when the underflow occurs, the quantization level is increased by one.

【0033】レンジ外信号の大きさが小さい時には、直
流成分の補正のみで複雑な判定をおこなって簡単にレン
ジを越えないように補正することもできる。振幅が大き
い時には、1/8の係数が掛かっているため、1つのレ
ベルの変動では補正が効かなくなり、2つ以上のレベル
の補正が必要になる場合もある。しかし、直流分の量子
化雑音はブロック歪みとして目に付きやすくなるため、
振幅が大きい場合には、交流成分の変換係数も含めた仮
の量子化出力の量子化レベルの選択制御が必要である。
When the magnitude of the out-of-range signal is small, a complicated judgment can be made only by correcting the DC component, and correction can be easily made so as not to exceed the range. When the amplitude is large, a factor of 1/8 is applied, so that a change of one level does not make the correction effective, and correction of two or more levels may be required. However, the DC quantization noise becomes more noticeable as block distortion,
When the amplitude is large, it is necessary to control the selection of the quantization level of the temporary quantization output including the transform coefficient of the AC component.

【0034】出力SW18は選択器11から供給される
量子化出力を出力し、符号変換器4と逆直交変換器5と
に供給する。符号変換器4は量子化出力の各レベルを伝
送用符号にブロック毎に符号変換して他の情報とともに
多重して伝送路に送り出す。逆直交変換器5は直交変換
器2の逆変換特性を有し、量子化出力を逆変換して量子
化された予測誤差信号Eq を得て加算器6へ供給する。
The output SW 18 outputs the quantized output supplied from the selector 11 and supplies it to the code converter 4 and the inverse orthogonal transformer 5. The code converter 4 codes-converts each level of the quantized output into a transmission code for each block, multiplexes it with other information, and sends it to the transmission path. The inverse orthogonal transformer 5 has the inverse transform characteristic of the orthogonal transformer 2, inversely transforms the quantized output, obtains a quantized prediction error signal Eq, and supplies it to the adder 6.

【0035】加算器6は8ビットのダイナミックレンジ
を有し、量子化された予測誤差信号Eq と予測変換係数
Pとをモジュロー加算して8ビットの局部復号信号Yを
得て予測器7へ供給する。予測器7は予測特性に従って
局部復号信号Yから次の予測信号Pをブロック毎に求め
て出力し、減算器1、加算器6、及び加算器13に供給
する。
The adder 6 has an 8-bit dynamic range, modulo-adds the quantized prediction error signal Eq and the prediction conversion coefficient P to obtain an 8-bit local decoded signal Y, and supplies it to the predictor 7. I do. The predictor 7 calculates and outputs the next predicted signal P from the local decoded signal Y for each block according to the prediction characteristics, and supplies the same to the subtractor 1, the adder 6, and the adder 13.

【0036】予測器7は動き補償予測を行う機能を有
し、ブロック毎に次の入力ブロックに対してマッチング
法で最適な動きベクトルを求めて、動き補正した予測信
号Pを出力する。動きベクトルは量子化出力信号ととと
もに符号化されて受信側に送られる。
The predictor 7 has a function of performing motion compensation prediction, finds an optimal motion vector for the next input block for each block by a matching method, and outputs a motion-corrected prediction signal P. The motion vector is encoded together with the quantized output signal and sent to the receiving side.

【0037】次に直交変換器1及び16と逆直交変換器
5及び12の特性について説明する。
Next, the characteristics of the orthogonal transformers 1 and 16 and the inverse orthogonal transformers 5 and 12 will be described.

【0038】直交変換器における8行8列のDCT変換
では、8×8の1次元の変換に分離可能な2次元離散コ
サイン変換を行う。8行8列の1ブロックの信号をf
(x,y)(X11〜X88に相当)、8行8列の変換出力
係数をF(u,v) (Xt 11〜Xt 88に相当)とする
と、変換出力F(u,v) はTTC標準JT−H261に示
される数1で与えられるものを用いる。
In the DCT transform of 8 rows and 8 columns in the orthogonal transformer, a two-dimensional discrete cosine transform that can be separated into an 8 × 8 one-dimensional transform is performed. The signal of one block of 8 rows and 8 columns is represented by f
(x, y) (corresponding to X11 to X88) and the conversion output coefficient of 8 rows and 8 columns as F (u, v) (corresponding to Xt11 to Xt88), the conversion output F (u, v) becomes TTC The one given by Equation 1 shown in Recommendation H.261 is used.

【0039】[0039]

【数1】 なお、変換されるブロックに対して、x=0はブロック
の左端、y=0はブロックの上端にそれぞれ対応する。
(Equation 1) Note that for the block to be converted, x = 0 corresponds to the left end of the block, and y = 0 corresponds to the upper end of the block.

【0040】一方、逆直交変換器が有する逆変換特性は
数2の様になる。
On the other hand, the inverse transform characteristic of the inverse orthogonal transformer is as shown in Equation 2.

【0041】[0041]

【数2】 この変換を行うと、変換係数Fは3ビット分ダイナミッ
クレンジが広がった信号となる。つまり、信号fが8ビ
ットの場合、変換係数Fは11ビットのダイナミックレ
ンジとなる。
(Equation 2) When this conversion is performed, the conversion coefficient F becomes a signal whose dynamic range is widened by 3 bits. That is, when the signal f has 8 bits, the conversion coefficient F has a dynamic range of 11 bits.

【0042】従来の差分符号化では、8ビットの入力信
号Xから8ビットの予測信号Pを減算して求めた差分信
号Eは9ビットであるので、9ビットの差分信号を直交
変換した変換係数は12ビットのダイナミックレンジと
なる。言い替えると、従来例では、差分変換係数は12
ビットのダイナミックレンジとなり、この変換係数を量
子化するには量子化特性は12ビットのダイナミックレ
ンジが必要である。
In the conventional difference coding, the difference signal E obtained by subtracting the 8-bit prediction signal P from the 8-bit input signal X is 9 bits. Is a 12-bit dynamic range. In other words, in the conventional example, the difference conversion coefficient is 12
It becomes a dynamic range of bits. To quantize this transform coefficient, a quantization characteristic requires a dynamic range of 12 bits.

【0043】一方、本発明では、8ビットの入力信号X
から8ビットの予測信号Pをビットのモジュロー演算で
減算して8ビットの差分信号(予測誤差信号)を求め
る。8ビットの差分信号を直交変換した変換係数は11
ビットの変換係数となり、量子化器10は11ビットの
ダイナミックレンジの変換係数の信号を量子化すればよ
く、量子化特性のダイナミックレンジは従来に比べて半
分の(1ビット少ない)11ビットのレンジですむこと
になる。
On the other hand, in the present invention, the 8-bit input signal X
, The 8-bit prediction signal P is subtracted by a bit modulo operation to obtain an 8-bit difference signal (prediction error signal). The transform coefficient obtained by orthogonally transforming the 8-bit difference signal is 11
It is sufficient that the quantizer 10 quantizes the signal of the conversion coefficient of the 11-bit dynamic range, and the dynamic range of the quantization characteristic is a half (1 bit less) 11-bit range as compared with the conventional one. That would be fine.

【0044】次に、レンジ判定器の動作に付いて説明す
る。
Next, the operation of the range determiner will be described.

【0045】予測符号化においては、入力信号をX、局
部復号信号をY、量子化雑音をNとすると、Y=X×N
の関係がある。本発明では、予測誤差信号を入力信号
(n=8ビット)と同一のダイナミックレンジのモジュ
ロー演算器で求め、局部復号信号も同一のダイナミック
レンジのモジュロー加算で求めている。このため、局部
復号信号はYm =MOD(X+N,n(nビットを法と
する値)で表され、−2**(n−1)〜2**(n−
1)−1の範囲の値となる。
In the predictive coding, if the input signal is X, the local decoded signal is Y, and the quantization noise is N, Y = X × N
There is a relationship. In the present invention, the prediction error signal is obtained by a modulo arithmetic unit having the same dynamic range as the input signal (n = 8 bits), and the local decoded signal is also obtained by modulo addition of the same dynamic range. For this reason, the locally decoded signal is represented by Ym = MOD (X + N, n (value modulo n bits), from -2 ** (n-1) to 2 ** (n-
1) The value is in the range of -1.

【0046】従って、例えば、Xがレンジの上限値T=
2**(n−1)−1に近い値の場合、量子化雑音Nが
XT−Xより大きいと、局部復号信号Y=X+Nはオー
バフローしてダイナミックレンジを越えてしまい、実際
の局部復号信号の値Ym はYm =MOD(X+N,n)
=X+N−2**nとなって、下限B=−2**(n−
1)に近い負の値となる。
Therefore, for example, X is the upper limit value of the range T =
When the quantization noise N is larger than XT-X when the value is close to 2 ** (n-1) -1, the local decoded signal Y = X + N overflows and exceeds the dynamic range, and the actual local decoded signal Is Ym = MOD (X + N, n).
= X + N-2 ** n, and the lower limit B = -2 ** (n-
This is a negative value close to 1).

【0047】量子化雑音Nによってアンダーフローが生
じた場合も、同様にして下限に近い入力信号に対して量
子化雑音の影響によってオーバフローした局部復号信号
は上限に近い値をとることになる。
Similarly, when an underflow occurs due to the quantization noise N, a locally decoded signal that overflows due to the influence of the quantization noise on an input signal near the lower limit similarly takes a value near the upper limit.

【0048】オーバフローかアンダーフローかの判定
は、入力信号Xから局部復号信号Ymを減算した雑音N
から判定できる。量子化器の量子化雑音は通常2**
(n−1)の半分より小さく設定されるので、 X−Ym > 2**(n−1)の場合オーバフロー X−Ym <−2**(n−1)の場合アンダーフロー その他の場合はレンジ内で正しい局部復号信号が得られ
ている。
Whether the overflow or underflow has occurred is determined by the noise N obtained by subtracting the local decoded signal Ym from the input signal X.
Can be determined from The quantization noise of the quantizer is usually 2 **
Since it is set smaller than half of (n-1), overflow occurs when X-Ym> 2 ** (n-1). Underflow occurs when X-Ym <-2 ** (n-1). The correct local decoded signal is obtained within the range.

【0049】簡単な判定は、n+1ビットの減算値(X
−Ym )の上位2ビットをみて判定する。上位2ビット
が“01”ならばオーバフロー、“10”ならばアンダ
ーフロー、その他の“11”又は“00”の場合には正
しい局部復号信号となる。
A simple determination is made by subtracting the (n + 1) -bit subtraction value (X
-Ym) is determined by looking at the upper two bits. If the upper two bits are "01", an overflow occurs, if "10", an underflow occurs, and if "11" or "00", a correct local decoded signal is obtained.

【0050】前述のように、レンジ判定器15は信号の
レンジを比較判定し、レンジ外信号を求めて出力する。
量子化雑音の影響によりダイナミックレンジを越えた局
部復号信号について、レンジを越える信号に影響を与え
ている変換係数を求める。そして、その変換係数の量子
化出力が有する量子化雑音の影響によって局部復号信号
がダイナミックレンジを越えないようにするため、選択
された量子化レベルの替わりにそのレベルより1つ上又
は1つ下の量子化レベルを選んで出力するようにする。
As described above, the range determiner 15 compares and determines the range of the signal, and obtains and outputs the out-of-range signal.
With respect to the local decoded signal exceeding the dynamic range due to the influence of quantization noise, a transform coefficient affecting the signal exceeding the range is obtained. Then, in order to prevent the local decoded signal from exceeding the dynamic range due to the influence of the quantization noise of the quantization output of the transform coefficient, the selected quantization level is replaced by one level above or one level below the selected level. Is selected and output.

【0051】レンジを越えない信号は0、レンジを越え
る信号は越えた値を信号値として、レンジ外の信号を示
すレンジ外信号をブロック毎に求める。レンジ外信号は
オーバフローの場合はに正の値、アンダーフローの場合
には負の値となる。
The out-of-range signal indicating the out-of-range signal is obtained for each block, with the signal value not exceeding the range being 0 and the signal exceeding the range being the exceeded value. The out-of-range signal has a positive value in the case of overflow and a negative value in the case of underflow.

【0052】次に、制御判定器の動作の一例について説
明する。
Next, an example of the operation of the control determiner will be described.

【0053】1ブロックの局部復号信号の中で、ダイナ
ミックを越える場合、どの変換係数の量子化雑音の影響
が大きいかを判定する。ダイナミックレンジを越えた部
分の信号を示すレンジ外信号をブロックごとに直交変換
して変換係数を求める。求められた変換係数のうち振幅
の一番大きいものを求める。
In the case where the local decoded signal of one block exceeds dynamic, it is determined which transform coefficient has a large influence of quantization noise. An out-of-range signal indicating a part of the signal exceeding the dynamic range is orthogonally transformed for each block to obtain a transform coefficient. Among the obtained conversion coefficients, the one having the largest amplitude is obtained.

【0054】オーバフローの場合、振幅の一番大きい変
換係数が正の値の時には、その変換係数に対応する仮の
量子化出力の替わりに1つ下の量子化レベルを選択出力
するに制御し、負の値の時には、その変換係数に対応す
る仮の量子化出力の替わりに1つ上の量子化レベルを選
択するように制御する。
In the case of overflow, when the transform coefficient having the largest amplitude is a positive value, control is performed so that the next lower quantization level is selected and output instead of the temporary quantized output corresponding to the transform coefficient. When the value is a negative value, control is performed so as to select the next higher quantization level instead of the provisional quantization output corresponding to the transform coefficient.

【0055】アンダーフローの場合、振幅の一番大きい
変換係数が正の値の時には、その変換係数に対応する仮
の量子化出力の替わりに1つ上の量子化レベルを選択出
力するように制御し、負の値の時には、その変換係数に
対応する仮の量子化出力の替わりに1つ下の量子化レベ
ルを選択するように制御する。
In the case of underflow, when the transform coefficient having the largest amplitude is a positive value, control is performed so as to select and output the next higher quantization level instead of the provisional quantized output corresponding to the transform coefficient. When the value is a negative value, control is performed so as to select the next lower quantization level instead of the provisional quantization output corresponding to the transform coefficient.

【0056】制御判定器の動作の他の例について説明す
る。
Another example of the operation of the control determiner will be described.

【0057】1ブロックの局部復号信号の中でダイナミ
ックレンジを越える場合、どの変換係数の量子化雑音の
影響が大きいかを判定する。ダイナミックレンジを越え
た部分の信号を示すレンジ外信号をブロックごとに直交
変換して変換係数を求める。求められた変換係数のう
ち、振幅の一番大きいものを求める。
If the dynamic range of the local decoded signal of one block exceeds the dynamic range, it is determined which transform coefficient has a large influence of quantization noise. An out-of-range signal indicating a part of the signal exceeding the dynamic range is orthogonally transformed for each block to obtain a transform coefficient. Among the obtained conversion coefficients, the one having the largest amplitude is obtained.

【0058】オーバフローが生じている場合、正の変換
係数で振幅が一番大きい変換係数を探す。その変換係数
に対応する仮の量子化出力の替わりに1つ下の量子化レ
ベルを選択出力するように制御する。
If an overflow has occurred, a positive conversion coefficient having the largest amplitude is searched for. Control is performed so as to select and output the next lower quantization level instead of the provisional quantization output corresponding to the transform coefficient.

【0059】正の変換係数に限定したのは、変換係数が
負の値の時に、その変換係数に対応する仮の量子化出力
の替わりに1つ上のレベルを選択するように制御する
と、変換係数の量子化雑音は正の値が加算されることに
なり、直流に近い成分については、画素に対して量子化
雑音がさらに正の方向に加算されることになり、場合に
よってはオーバフローを防ぐことができなくなるためで
ある。
The reason why the conversion coefficient is limited to the positive conversion coefficient is that, when the conversion coefficient is a negative value, the control is performed so as to select the next higher level instead of the temporary quantization output corresponding to the conversion coefficient. Coefficient quantization noise will have a positive value added, and for components close to DC, quantization noise will be added in a more positive direction for pixels, possibly preventing overflow. This is because they can no longer do it.

【0060】アンダーフローが生じている場合、正の変
換係数で振幅が一番大きい変換係数を探す。その変換係
数に対応する仮の量子化出力の替わりに1つ上の量子化
レベルを選択出力するように制御する。正の変換係数に
限定したのは、変換係数が負の値の時に、その変換係数
に対応する仮の量子化出力の替わりに1つ下のレベルを
選択するように制御すると、変換係数の量子化雑音は負
の値が加算されることになり、直流に近い成分について
は、画素に対して量子化雑音がさらに負の方向に加算さ
れるなって、場合によってはアンダーフローを防ぐこと
ができなくなるためである。
When an underflow has occurred, a conversion coefficient having the largest amplitude among positive conversion coefficients is searched for. Control is performed such that the next higher quantization level is selected and output instead of the temporary quantization output corresponding to the transform coefficient. The reason why the conversion coefficient is limited to the positive conversion coefficient is that when the conversion coefficient is a negative value, if the control is performed so that the next lower level is selected instead of the temporary quantization output corresponding to the conversion coefficient, the quantization of the conversion coefficient becomes Negative values will be added to the quantization noise, and for components close to DC, quantization noise will be added more negatively to the pixel, and in some cases, underflow can be prevented. It is because it disappears.

【0061】図2を参照して、本発明による第2の例に
ついて説明する。
With reference to FIG. 2, a second example according to the present invention will be described.

【0062】図1に示す例では、適応量子化器3で仮の
局部復号信号を求めるのに対して、この例では、予測誤
差信号から量子化された予測誤差信号Eq を減算して量
子化雑音Nを求める構成となっている(図示の例におい
て、図1に示す例と同一の構成要素については同一の参
照番号を付す)。
In the example shown in FIG. 1, a temporary local decoded signal is obtained by the adaptive quantizer 3. In this example, the quantized prediction error signal Eq is subtracted from the prediction error signal to perform quantization. The noise N is obtained (in the illustrated example, the same components as those in the example illustrated in FIG. 1 are denoted by the same reference numerals).

【0063】減算器21は予測誤差信号から量子化され
た予測誤差信号を減算して量子化雑音Nを求め、レンジ
判定器22へ供給する。レンジ判定器22では、8ビッ
トの加算器で入力信号Xと量子化雑音Nを加算すると、
仮の局部復号信号Yが求められる。
The subtracter 21 subtracts the quantized prediction error signal from the prediction error signal to obtain quantization noise N, and supplies it to the range determiner 22. In the range determiner 22, when the input signal X and the quantization noise N are added by an 8-bit adder,
A temporary local decoded signal Y is obtained.

【0064】ダイナミックレンジを越えたか否かの比較
判定は、9ビットの加算器で入力信号Xと量子化雑音N
とを加算して9ビットの出力の上位2ビットを見ると、
仮の局部復号信号がダイナミックレンジを越えているか
否かの判定が行える。つまり、入力信号X(−128〜
127)に量子化雑音Nが加算されて、8ビットのダイ
ナミックレンジを越えると、オーバフロー又はアンダー
フローが発生することなり、上位の2ビットが“01”
の場合(128以上)はオーバフローを生じており、
“10”の場合(−129以下)はアンダーフローが発
生していることになる。
The comparison of whether or not the dynamic range has been exceeded is performed by a 9-bit adder using the input signal X and the quantization noise N.
And looking at the upper 2 bits of the 9-bit output,
It can be determined whether or not the temporary local decoded signal exceeds the dynamic range. That is, the input signal X (−128 to
127), when the quantization noise N is added to exceed the dynamic range of 8 bits, an overflow or an underflow occurs, and the upper 2 bits are “01”.
In the case of (128 or more), overflow has occurred,
In the case of “10” (−129 or less), it means that an underflow has occurred.

【0065】図3を参照して、適応量子化器の別の具体
例について説明する。
Referring to FIG. 3, another specific example of the adaptive quantizer will be described.

【0066】図示の例において、図1に示す適応量子化
器と同一の構成要素については同一の参照番号を付す。
図示の例では、判定制御器32は、レンジ外信号の変換
係数の他に、量子化器10で変換係数に加えられる量子
化雑音Nt の大きさを考慮して制御を行う。
In the illustrated example, the same components as those of the adaptive quantizer shown in FIG. 1 are denoted by the same reference numerals.
In the illustrated example, the decision controller 32 performs control in consideration of the magnitude of the quantization noise Nt added to the transform coefficient by the quantizer 10 in addition to the transform coefficient of the out-of-range signal.

【0067】減算器31は直交変換器2から供給される
変換係数から量子化された変換係数を減算して量子化雑
音を求め判定制御器32へ供給する。判定制御器32
は、レンジ外信号の変換係数と変換係数の量子化雑音N
t との情報に基づいて量子化ステップの選択制御を行
う。64種類の変換係数について、両者の積の値が大き
いものの係数による量子化雑音が仮の局部復号信号のオ
ーバフロー又はアンダーフローに大きく影響していると
判定して、該当する変換係数の仮の量子化出力の変わり
に1つ上又は1つ下の量子化レベルを選択するように制
御する。
The subtractor 31 subtracts the quantized transform coefficient from the transform coefficient supplied from the orthogonal transformer 2 to obtain quantization noise, and supplies it to the decision controller 32. Judgment controller 32
Is the transform coefficient of the out-of-range signal and the quantization noise N of the transform coefficient.
Based on the information of t, selection control of the quantization step is performed. For 64 types of transform coefficients, it is determined that the quantization noise due to the coefficient whose product value is large has a large effect on the overflow or underflow of the temporary local decoded signal, and the provisional quantum of the corresponding transform coefficient is determined. Control to select the next higher or lower quantization level instead of the quantization output.

【0068】なお、ROM(読み出し専用メモリ)に予
め該当する量子化雑音を書き込んで置けば、ROMだけ
で減算器は不要で、量子化器のROMと共用すれば、H
/W構成が簡単になる。
If the corresponding quantization noise is written and stored in a ROM (read-only memory) in advance, a subtractor is unnecessary only with the ROM, and if shared with the ROM of the quantizer, H
/ W configuration is simplified.

【0069】図4を参照して、適応量子化器のさらに別
の具体例について説明する。
Referring to FIG. 4, another specific example of the adaptive quantizer will be described.

【0070】図示の例は、図3に示す構成とほぼ同様で
あるがせ、この例では、減算器31において、直交変換
器2から供給される変換係数から選択器11から出力さ
れた仮の量子化出力を減算して量子化雑音を求める。選
択器11で、制御信号によって替わりの仮の量子化レベ
ルが選択された時には、仮の量子化出力が変わってく
る。図示の例の構成にすれば、選択された仮の量子化出
力が得られて正確な変換係数量子化雑音が得られる。
Although the illustrated example is substantially the same as the configuration shown in FIG. 3, in this example, in the subtractor 31, the temporary coefficient output from the selector 11 is output from the transform coefficient supplied from the orthogonal transformer 2. The quantization noise is obtained by subtracting the quantization output. When the alternative provisional quantization level is selected by the selector 11 by the control signal, the provisional quantization output changes. According to the configuration of the illustrated example, the selected provisional quantization output is obtained, and accurate transform coefficient quantization noise is obtained.

【0071】量子化特性は、各変換係数で別々のものを
準備しても良いが、制御が複雑になる。例えば、フレー
ム内符号化用の直流成分用量子化特性とそれ以外の変換
係数に分ける手法もある。そして、所定の範囲(マクロ
ブロック)においては同一の量子化特性を適用する。
The quantization characteristics may be prepared separately for each transform coefficient, but the control becomes complicated. For example, there is a method of dividing the quantization characteristic for DC component for intra-frame encoding and the other transform coefficients. Then, the same quantization characteristic is applied in a predetermined range (macroblock).

【0072】その他の手法として次の手法が用いられ
る。高域成分は、変換係数の成分が小さくなり、視覚的
に粗くして量子化して目立たなくして、変換係数に応じ
て予めビットシフト等でゲインを上げてから同一の量子
化特性で量子化する。これによって、等価的に高域成分
の変換係数は粗く量子化する。
The following method is used as another method. The high-frequency component, in which the component of the transform coefficient is small, is visually coarsened and quantized to make it inconspicuous, and the gain is increased by a bit shift or the like in advance according to the transform coefficient, and then quantized with the same quantization characteristic. . Thereby, the transform coefficient of the high frequency component is roughly quantized equivalently.

【0073】各量子化レベル可変長符号化(エントロピ
ー符号化)する場合には、各レベルの発生頻度に応じた
可変長符号が用いられると、レベル数が多くなっても効
率的な符号化が可能であるが、量子化レベル数の制限
は、シーンチェインジで情報が多く発生して情報の発生
が多すぎる時に効率的な符号化を行うのに必要となる。
In the case of performing each quantization level variable length coding (entropy coding), if a variable length code corresponding to the frequency of occurrence of each level is used, efficient coding can be performed even if the number of levels increases. Although possible, the limitation on the number of quantization levels is necessary for efficient coding when a large amount of information is generated in a scene change and the amount of generated information is too large.

【0074】[0074]

【発明の効果】以上説明したように、本発明によれば、
量子化器のダイナミックレンジが従来に比べて1ビット
少ない半分の量子化特性を用いて直交変換の変換係数を
量子化することができるため、量子化出力を符号化する
ビット数が少なくでき、効率的な符号化伝送が行えると
いう効果がある。
As described above, according to the present invention,
Since the transform coefficient of the orthogonal transform can be quantized using half the quantization characteristic in which the dynamic range of the quantizer is one bit smaller than the conventional one, the number of bits for coding the quantized output can be reduced, and the efficiency can be reduced. There is an effect that efficient encoded transmission can be performed.

【0075】さらに、本発明では、予測符号化方式の予
測差分信号を直交変換して変換係数を量子化し符号化伝
送する際、少ないビット数で量子化特性のダイナミック
レンジを改善でき、過渡応答特性を良好にすることがで
きる。
Further, according to the present invention, when orthogonally transforming the prediction difference signal of the predictive coding method to quantize the transform coefficient and transmit the coded signal, the dynamic range of the quantization characteristic can be improved with a small number of bits, and the transient response characteristic can be improved. Can be improved.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明による直交変換符号化用適応量子化方式
の第1の例を説明するためのブロック図である。
FIG. 1 is a block diagram for explaining a first example of an adaptive quantization scheme for orthogonal transform encoding according to the present invention.

【図2】本発明による直交変換符号化用適応量子化方式
の第2の例を説明するためのブロック図である。
FIG. 2 is a block diagram for explaining a second example of the adaptive quantization scheme for orthogonal transform coding according to the present invention.

【図3】図1に示す適応量子化器の別の例を示すブロッ
ク図である。
FIG. 3 is a block diagram showing another example of the adaptive quantizer shown in FIG. 1;

【図4】図1に示す適応量子化器のさらに別の例を示す
ブロック図である。
FIG. 4 is a block diagram showing still another example of the adaptive quantizer shown in FIG. 1;

【図5】従来のフレーム間予測直交変換符号化を説明す
るためのブロック図である。
FIG. 5 is a block diagram for explaining conventional inter-frame prediction orthogonal transform coding.

【図6】従来の適応量子化を用いたDPCM(予測符号
化)を説明するためのブロック図である。
FIG. 6 is a block diagram for explaining DPCM (prediction coding) using conventional adaptive quantization.

【符号の説明】[Explanation of symbols]

1,21 減算器 2 直交変換器 3 適応量子化器 4 符号変換器 7 予測器 10 量子化器 11 選択器 12,5 逆直交変換器 13,6 加算器 15,22 レンジ判定器 16 直交変換器 17,32 制御判定器 18 出力SW 1,21 subtractor 2 orthogonal transformer 3 adaptive quantizer 4 code transformer 7 predictor 10 quantizer 11 selector 12,5 inverse orthogonal transformer 13,6 adder 15,22 range determiner 16 orthogonal transformer 17, 32 control decision unit 18 output SW

Claims (7)

【特許請求の範囲】[Claims] 【請求項1】 入力信号と同一のダイナミックレンジの
予測誤差信号をブロック毎に直交変換して得られた変換
係数を量子化して符号化する際、前記変換係数をブロッ
ク毎に量子化して仮の量子化出力を得て該仮の量子化出
力を逆直交変換して得られる量子化予測誤差信号に応じ
て仮の局部復号信号を求め該仮の局部復号信号と前記入
力信号と比較して前記仮の局部復号信号が前記ダイナミ
ックレンジを越えていると前記ダイナミックレンジを越
えた信号を直交変換した変換信号に応じて前記変換係数
を適合的に量子化して量子化出力として出力する出力手
段を有することを特徴とする直交変換符号化用適応量子
化方式。
1. When quantizing and encoding a transform coefficient obtained by orthogonally transforming a prediction error signal having the same dynamic range as an input signal for each block, the transform coefficient is quantized for each block and a temporary Obtaining a quantized output, obtaining a temporary local decoded signal in accordance with a quantization prediction error signal obtained by performing an inverse orthogonal transform on the temporary quantized output, comparing the temporary local decoded signal with the input signal, Output means for adaptively quantizing the transform coefficient according to a transform signal obtained by orthogonally transforming the signal exceeding the dynamic range when the temporary local decoded signal exceeds the dynamic range, and outputting the quantized output as a quantized output; An adaptive quantization method for orthogonal transform coding, characterized in that:
【請求項2】 請求項1に記載された直交変換符号化用
適応量子化方式において、前記出力手段は前記量子化予
測誤差信号と前記仮の量子化出力に基づいて得られた予
測信号と前記ダイナミックレンジでモジュロー加算して
前記仮の局部復号信号を得るようにしたことを特徴とす
る直交変換符号化用適応量子化方式。
2. The adaptive quantization scheme for orthogonal transform coding according to claim 1, wherein said output means includes a prediction signal obtained based on said quantization prediction error signal and said provisional quantization output, and An adaptive quantization method for orthogonal transform coding, wherein the provisional local decoded signal is obtained by modulo addition in a dynamic range.
【請求項3】 請求項1に記載された直交変換符号化用
適応量子化方式において、前記出力手段は前記予測誤差
信号から前記量子化予測誤差信号を減算して量子化雑音
を求め該量子化雑音に前記入力信号を加算して前記仮の
局部復号信号を得るようにしたことを特徴とする直交変
換符号化用適応量子化方式。
3. The adaptive quantization method for orthogonal transform coding according to claim 1, wherein said output means obtains quantization noise by subtracting said quantization prediction error signal from said prediction error signal. An adaptive quantization scheme for orthogonal transform coding, wherein the temporary local decoded signal is obtained by adding the input signal to noise.
【請求項4】 請求項1に記載された直交変換符号化用
適応量子化方式において、前記出力手段は、前記量子化
予測誤差信号に応じて前記仮の局部復号信号を得て前記
入力信号と前記仮の局部復号信号とを比較して前記仮の
局部復号信号が前記ダイナミックレンジを越えている場
合には該仮の量子化出力の代わりに該仮の量子化出力の
隣の量子化レベルを替わりの仮量子化出力として出力す
る第1の手段と、該第1の手段を繰り返し実行して前記
仮の局部復号信号が前記ダイナミックレンジを越えない
仮の量子化出力を得る第2の手段とを有することを特徴
とする直交変換符号化用適応量子化方式。
4. The adaptive quantization scheme for orthogonal transform coding according to claim 1, wherein said output means obtains said temporary local decoded signal in accordance with said quantized prediction error signal, and outputs said temporary local decoded signal and said input signal. Comparing with the temporary local decoded signal, if the temporary local decoded signal exceeds the dynamic range, the quantization level next to the temporary quantized output is changed instead of the temporary quantized output. First means for outputting as an alternative temporary quantized output, and second means for repeatedly executing the first means to obtain a temporary quantized output in which the temporary local decoded signal does not exceed the dynamic range. An adaptive quantization scheme for orthogonal transform coding, characterized by having:
【請求項5】 請求項1に記載された直交変換符号化用
適応量子化方式において、前記仮の量子化出力を逆直交
変換した信号から前記仮の局部復号信号を得て前記入力
信号と前記仮の局部復号信号とを比較して仮の局部復号
信号がダイナミックレンジを越えている場合には前記ダ
イナミックレンジを越えた信号を直交変換した変換係信
号と及び前記仮の量子化出力が発生する量子化雑音に応
じて前記仮の量子化出力の替わりに該仮の量子化出力の
隣の量子化レベルを替わりの仮量子化出力として出力す
る第1の手段と、該第1の手段を繰り返し行って前記仮
の局部復号信号が前記ダイナミックレンジを越えない仮
の量子化出力を得る第2の手段とを有することを特徴と
する直交変換符号化用適応量子化方式。
5. The adaptive quantization method for orthogonal transform encoding according to claim 1, wherein the temporary local decoded signal is obtained from a signal obtained by performing an inverse orthogonal transform on the temporary quantized output, and the input signal and the temporary signal are obtained. If the provisional local decoded signal exceeds the dynamic range as compared with the provisional local decoded signal, a transforming signal obtained by orthogonally transforming the signal exceeding the dynamic range and the provisional quantized output are generated. A first means for outputting a quantization level adjacent to the provisional quantization output as a replacement provisional quantization output in place of the provisional quantization output in accordance with quantization noise; and A second means for repeatedly obtaining a temporary quantized output in which the temporary local decoded signal does not exceed the dynamic range, wherein an adaptive quantization scheme for orthogonal transform coding is provided.
【請求項6】 入力信号と同一のダイナミックレンジの
予測誤差信号をブロック毎に直交変換して得られた変換
係数を量子化して符号化する際、前記ダイナミックレン
ジで前記入力信号から予測信号をモジュロー減算して前
記予測誤差信号を得る第1の手段と、前記予測誤差信号
をブロック毎に直交変換して前記変換係数を出力する第
2の手段と、予め定められた量子化特性に応じて前記変
換係数をブロック毎に量子化して仮の量子化出力を得る
とともに前記仮の量子化出力を逆直交変換して得られる
変換信号を用いて仮の局部復号信号を得て前記入力信号
と前記仮の局部復号信号と比較して前記仮の局部復号信
号が前記ダイナミックレンジを越えていると前記ダイナ
ミックレンジを越えた部分の信号を直交変換して得られ
た変換信号に応じて選択制御を行った結果選択された変
換係数に対応する仮の量子化出力の替わりに1つ上又は
1つ下の量子化レベルを替わりの仮量子化出力として出
力し前記仮の局部復号信号が前記ダイナミックレンジ内
に納まるまで前記選択制御を行って量子化出力を得る第
3の手段と、前記量子化出力を伝送路符号に変換する符
号変換手段と、前記量子化出力を逆直交変換して量子化
予測誤差信号を得る第4の手段と、前記予測信号と前記
量子化予測誤差信号とをモジュロー演算で加算して局部
復号信号を得る第5の手段と、前記局部復号信号に応じ
て前記予測信号を得る第5の手段とを備えることを特徴
とする直交変換符号化用適応量子化方式。
6. When quantizing and encoding a transform coefficient obtained by orthogonally transforming a prediction error signal having the same dynamic range as an input signal for each block, the prediction signal is modulo-modulated from the input signal in the dynamic range. First means for subtracting to obtain the prediction error signal, second means for orthogonally transforming the prediction error signal for each block and outputting the transform coefficient, and The transform coefficients are quantized for each block to obtain a temporary quantized output, and a temporary local decoded signal is obtained by using a transform signal obtained by performing an inverse orthogonal transform on the temporary quantized output to obtain the input signal and the temporary signal. If the provisional local decoded signal exceeds the dynamic range as compared with the local decoded signal of the above, according to the converted signal obtained by orthogonally transforming the signal of the portion exceeding the dynamic range. As a result of performing the selection control, instead of the provisional quantization output corresponding to the selected transform coefficient, the next higher or lower quantization level is output as a replacement provisional quantization output, and the provisional local decoded signal is output. Third means for performing the selection control to obtain a quantized output until it falls within the dynamic range, code converting means for converting the quantized output into a transmission line code, and performing inverse orthogonal transform on the quantized output. A fourth means for obtaining a quantized prediction error signal; a fifth means for adding the prediction signal and the quantized prediction error signal by a modulo operation to obtain a local decoded signal; 5. An adaptive quantization scheme for orthogonal transform coding, comprising: a fifth means for obtaining a prediction signal.
【請求項7】 請求項6に記載された直交変換符号化用
適応量子化方式において、前記第3の手段は前記選択制
御の際前記変換信号に加えて該変換信号の量子化雑音の
大きさを表す情報を用いるようにしたことを特徴とする
直交変換符号化用適応量子化方式。
7. The adaptive quantization method for orthogonal transform coding according to claim 6, wherein said third means performs the selection control and further includes a magnitude of quantization noise of said transform signal in addition to said transform signal. An adaptive quantization scheme for orthogonal transform coding, characterized by using information representing
JP02700797A 1997-02-10 1997-02-10 Adaptive quantization for orthogonal transform coding Expired - Fee Related JP3427659B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP02700797A JP3427659B2 (en) 1997-02-10 1997-02-10 Adaptive quantization for orthogonal transform coding

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP02700797A JP3427659B2 (en) 1997-02-10 1997-02-10 Adaptive quantization for orthogonal transform coding

Publications (2)

Publication Number Publication Date
JPH10224227A true JPH10224227A (en) 1998-08-21
JP3427659B2 JP3427659B2 (en) 2003-07-22

Family

ID=12209068

Family Applications (1)

Application Number Title Priority Date Filing Date
JP02700797A Expired - Fee Related JP3427659B2 (en) 1997-02-10 1997-02-10 Adaptive quantization for orthogonal transform coding

Country Status (1)

Country Link
JP (1) JP3427659B2 (en)

Also Published As

Publication number Publication date
JP3427659B2 (en) 2003-07-22

Similar Documents

Publication Publication Date Title
KR960010196B1 (en) Dct coefficient quantizer utilizing human vision characteristics
JP2520306B2 (en) Transform coding device
JP3025610B2 (en) Encoding method and apparatus
JP2963416B2 (en) Video encoding method and apparatus for controlling bit generation amount using quantization activity
EP0422404A2 (en) Transform coding using coefficient prediction techniques
JP2006054902A (en) Image coding method
KR101282193B1 (en) Method for Rate Control of Video Encoder using Kalman Filter and FIR Filter
JPH10107644A (en) Quantization device and method, and coder and method
JPH05183888A (en) Information source encoder
KR0162203B1 (en) Adaptive encoding method and device using quantization step size
KR19980017213A (en) Image Decoding System with Compensation Function for Degraded Image
KR101345294B1 (en) Method and apparatus for quantizing image
JPH07288804A (en) Re-coding device for picture signal
JP2824222B2 (en) Video data compensation method and compensation device
KR0157465B1 (en) Quantization level decision method and device according to image characteristic
JP3427659B2 (en) Adaptive quantization for orthogonal transform coding
JP3738511B2 (en) Video coding system
JP3576807B2 (en) Adaptive quantization apparatus and method for orthogonal transform coding
JP3667481B2 (en) Adaptive quantization scheme for orthogonal transform coding
JP3013602B2 (en) Video signal encoding device
JPH0595542A (en) Dynamic picture coder-decoder
KR100774455B1 (en) Bit rate operation apparatus for realtime video transmit application
KR0148150B1 (en) Adaptive quantization step size decision method and apparatus with image data complexity
JPH06217296A (en) Image signal coding device based on adaptive intramode/intermode compression
JP3623609B2 (en) Adaptive quantization orthogonal transform coding system

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20030408

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080516

Year of fee payment: 5

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080516

Year of fee payment: 5

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090516

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100516

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees