JP4608801B2 - 画像情報変換装置及び方法 - Google Patents

画像情報変換装置及び方法 Download PDF

Info

Publication number
JP4608801B2
JP4608801B2 JP2001123543A JP2001123543A JP4608801B2 JP 4608801 B2 JP4608801 B2 JP 4608801B2 JP 2001123543 A JP2001123543 A JP 2001123543A JP 2001123543 A JP2001123543 A JP 2001123543A JP 4608801 B2 JP4608801 B2 JP 4608801B2
Authority
JP
Japan
Prior art keywords
information
image compression
activity
pixel block
input image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001123543A
Other languages
English (en)
Other versions
JP2002051345A (ja
Inventor
数史 佐藤
邦明 高橋
輝彦 鈴木
陽一 矢ヶ崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2001123543A priority Critical patent/JP4608801B2/ja
Publication of JP2002051345A publication Critical patent/JP2002051345A/ja
Application granted granted Critical
Publication of JP4608801B2 publication Critical patent/JP4608801B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、画像情報を変換する画像情報変換装置及び方法に関し、詳しくは、離散コサイン変換等の直交変換と動き補償によって圧縮されたMPEG等の画像情報(ビットストリーム)を衛星放送、ケーブルTV、インターネット等のネットワークメディアを介して受信する際に、若しくは光、磁気ディスクのような記憶メディア上で処理する際に用いられる画像情報を変換する画像情報変換装置及び方法に関する。
【0002】
【従来の技術】
近年、画像情報をディジタルとして取り扱い、効率の高い情報の伝送、蓄積を目的とし、画像情報特有の冗長性を利用して、離散コサイン変換等の直交変換と動き補償により圧縮するMPEGなどの画像情報圧縮方式が提供されている。そして、このような画像情報圧縮方法に準拠した装置は、放送局などの情報配信、及び一般家庭における情報受信の双方において普及しつつある。
【0003】
特に、MPEG2(ISO/IEC 13818−2)は、飛び越し走査画像及び順次走査画像の双方、並びに標準解像度画像及び高精細画像を網羅する、汎用画像符号化方式として定義されている。
【0004】
すなわち、MPEG2符号化圧縮方式によれば、例えば、720×480画素を持つ標準解像度の飛び越し走査画像に4〜8Mbpsの符号量(ビットレート)を割り当て、1920×1088画素を持つ高解像度の飛び越し走査画像に対して18〜22Mbpsの符号量(ビットレート)を割り当てることにより、高い圧縮率と良好な画質の実現が可能となる。
【0005】
このようなことから、MPEG2は、プロフェッショナル用途及びコンシューマー用途の広範なアプリケーションに今後とも用いられるものと予想される。
【0006】
しかし、MPEG2は、主として放送用に適合する高画質符号化を対象としており、例えばMPEG1より低い符号量(ビットレート)、つまりより高い圧縮率の符号化方式には対応していなかった。
【0007】
一方で、近年の携帯端末の普及により、今後とも高い圧縮率の符号化方式のニーズは高まると思われ、これに対応して、高い圧縮率を有するMPEG4符号化方式の標準化が行われている。この画像符号化方式に関しては、1998年12月にISO/IEC 14496−2として国際標準の規格が承認された。
【0008】
ところで、ディジタル放送用に一度符号化されたMPEG2画像圧縮情報(ビットストリーム)を、携帯端末上等で処理するのにより適した、より低い符号量(ビットレート)の画像圧縮情報(ビットストリーム)に変換したいというニーズがある。
【0009】
かかる目的を達成するために、“Field-to-Frame Transcoding with Spatialand Temporal Downsampling”(Susie L Wee,John G.Apostolopoulos, and Nick Feamster, ICIP 99、以下これを文献1と呼ぶ)において画像情報変換装置(トランスコーダ)が提供されている。
【0010】
この文献1において提供された画像情報変換装置(トランスコーダ)は、図5に示すように、ピクチャタイプ判別部1と、MPEG2画像情報復号化部(I/Pピクチャ)2と、間引き部3と、MPEG4画像情報符号化部(I/P−VOP)4と、動きベクトル合成部5と、動きベクトル検出部6とから構成されている。
【0011】
この画像情報変換装置には、フレーム内で符号化されたイントラ符号化画像(Iピクチャ;I)、表示順序で順方向を参照して予測符号化された順方向予測符号化画像(Pピクチャ;P)及び表示順序で順方向及び逆方向を参照して予測符号化された双方向予測符号化画像(Bピクチャ;B)から構成される飛び越し走査のMPEG2画像圧縮情報(ビットストリーム)が入力される。
【0012】
このMPEG2画像圧縮情報(ビットストリーム)は、ピクチャタイプ判別部1において、I/Pピクチャに関するものか、Bピクチャに関するものであるかを判別され、I/Pピクチャのみ後続のMPEG2画像情報復号化部(I/Pピクチャ)2に出力され、Bピクチャは破棄される。
【0013】
MPEG2画像情報復号化部(I/Pピクチャ)2における処理は通常のMPEG2画像情報復号化装置と同様に、MPEG2画像圧縮情報(ビットストリーム)を画像信号に復号するものである。
【0014】
MPEG2画像情報復号化部(I/Pピクチャ)2の出力となる画素値は、間引き部3に入力される。間引き部3は、水平方向には1/2の間引き処理を施し、垂直方向には、第一フィールド若しくは第二フィールドのどちらか一方のデータのみを残し、もう一方を廃棄する。このような間引きによって、入力となる画像情報の1/4の大きさを持つ順次走査画像を生成する。
【0015】
間引き部3によって生成された順次走査画像はMPEG4画像情報符号化部(I/P−VOP)4によってフレーム内で符号化されたI−VOP及び表示順序で順方向を参照して予測符号化されたP−VOPに符号化され、MPEG4画像圧縮情報(ビットストリーム)として出力される。尚、VOPはVideo object Planeを意味し、MPEG2におけるフレームに相当するものである。
【0016】
その際、入力となるMPEG2画像圧縮情報(ビットストリーム)中の動きベクトル情報は、動きベクトル合成部5において間引き後の画像情報に対する動きベクトルにマッピングされ、動きベクトル検出部6においては、動きベクトル合成部5において合成された動きベクトル値を元に高精度の動きベクトルを検出する。
【0017】
文献1は、入力となるMPEG2画像圧縮情報(ビットストリーム)の1/2×1/2の大きさを持つ順次走査画像のMPEG4画像圧縮情報(ビットストリーム)を生成する画像情報変換装置に関して記述している。すなわち、例えば入力となるMPEG2画圧縮情報(ビットストリーム)がNTSC(National Television System Committee)の規格に準拠したものであった場合、出力となるMPEG4画像圧縮情報はSIFサイズ(352×240画素)ということになる。
【0018】
ところで、図5に示した画像情報変換装置においては、MPEG4画像情報符号化部(I/P−VOP)4における符号量制御が、出力となるMPEG4画像圧縮情報(ビットストリーム)における画質を決定する大きな要因となる。ISO/IEC 14496−2においては、符号量制御の方式に関しては特に規定されておらず、各ベンダが、アプリケーションに応じて、演算量及び出力画質の観点から最適と考えられる方式を用いることが出来る。以下では、代表的な符号量制御方式として、MPEG2 Test Model 5(ISO/IEC JTC1/SC29/WG11 N0400)で述べられている方式について述べる。
【0019】
この符号量制御のフローを図6に示すフローを用いて説明する。最初のステップS11において、画像情報符号化部(I/P−VOP)4は、目標符号量(ターゲットビットレート)、及び、GOP(group of pictures)構成を入力変数として、各ピクチャヘのビット配分を行う。ここで、GOPとは、ランダムアクセス可能なピクチャの組である。
【0020】
すなわち、ステップS11において、画像情報符号化部(I/P−VOP)4は、GOP内の各ピクチャに対する割り当てビット量を、割り当て対象ピクチャを含めGOP内でまだ復号化されていないピクチャに対して割り当てられるビット量(以下、これをRとする)を基に配分する。この配分をGOP内の符号化ピクチャ順に繰り返す。その際、以下に述べる2つの仮定を用いて各ピクチャヘの符号量割り当てを行う。
【0021】
まず、第一に、各ピクチャを符号化する際に用いる平均量子化スケールコードと発生符号量の積は、画面が変化しない限り、ピクチャタイプ毎に一定値となると仮定する。そこで、各ピクチャを符号化した後、各ピクチャタイプ毎に、画面の複雑さを示す変数X,X,X (grobal complelxity measure)を次の式(1)によって更新する。
【0022】
【数3】
Figure 0004608801
【0023】
ここでS,S,S はピクチャ符号化時の発生符号ビット量であり、Q,Q,Q は、ピクチャ符号化時の平均量子化スケールコードである。また、初期値は、目標符号量(ターゲットビットレート)bit_rate[bits/sec]を用いて、式(2)で示される値とする。
【0024】
【数4】
Figure 0004608801
【0025】
第二に、Iピクチャの量子化スケールコードを基準としたP,Bピクチャの量子化スケールコードの比率K,Kが式(3)に定めた値となる場合に常に全体の画質が最適化されると仮定する。
【0026】
【数5】
Figure 0004608801
【0027】
すなわち、Bピクチャの量子化スケールコードは、I,Pピクチャの量子化スケールコードの常に1.4倍としている。これは、BピクチャをI,Pピクチャに比較して多少粗めに符号化することにより、Bピクチャで節約できる符号量をI,Pピクチャに加えると、I,Pピクチャの画質が改善され、これを参照するBピクチャの画質も改善されることを想定している。
【0028】
上記2つの仮定より、GOPの各ピクチャに対する割り当てビット量(T,T,T) は式(4)に示す値とする。
【0029】
【数6】
Figure 0004608801
【0030】
ここでN,NはGOP内でまだ符号化されていないP,Bピクチャの枚数である。
【0031】
このようにして求めた割当符号量を基にして、各ピクチャをステップS11,S12に従って符号化する毎に、GOP内の未符号化ピクチャに対して割り当てられるビット量Rを式(5)で更新する。
【0032】
【数7】
Figure 0004608801
【0033】
また、GOPの最初のピクチャを符号化する際には、式(6)によりRを更新する。
【0034】
【数8】
Figure 0004608801
【0035】
NはGOP内のピクチャ数である。また、シーケンスの最初でのRの初期値は0とする。
【0036】
次に、ステップS12において、画像情報符号化装置(I/P−VOP)4は、仮想バッファを用いたレート制御を行う。すなわち、ステップS12において、画像情報符号化装置(I/P−VOP)4は、ステップS11で式(4)により求められた各ピクチャに対する割当ビット量(T,T,T)と、実際の発生符号量を一致させるため、各ピクチャ毎に独立に設定した3種類の仮想バッファの容量を基に、量子化スケールコードを、マクロブロック単位のフィードバック制御で求める。
【0037】
まず、j番目のマクロブロック符号化に先立ち、仮想バッファの占有量を式(7)によって求める。
【0038】
【数9】
Figure 0004608801
【0039】
ここで、d ,d ,d は各仮想バッファの初期占有量、B はピクチャの先頭からj番目のマクロブロックまでの発生ビット量、MB_cntは1ピクチャ内のマクロブロック数である。各ピクチャ符号化終了時の仮想バッファ占有量(dMB_cnt ,dMB_cnt ,dMB_cnt ) は、それぞれ同一のピクチャタイプで、次のピクチャに対する仮想バッファ占有量の初期値(d ,d ,d )として用いられる。
【0040】
次に、j番目のマクロブロックに対する量子化スケールコードを式(8)により計算する。
【0041】
【数10】
Figure 0004608801
【0042】
ここで、rはリアクションパラメーターと呼ばれるフィードバックループの応答を制御する変数であり、式(9)により与えられる。
【0043】
【数11】
Figure 0004608801
【0044】
尚、符号化開始時における仮想バッファの初期値は式(10)で与えられる。
【0045】
【数12】
Figure 0004608801
【0046】
最後に、ステップS13において、画像情報符号化装置(I/P−VOP)4は、視覚特性を考慮したマクロブロック毎の適応量子化を行う。すなわち、ステップS13において、画像情報符号化部(I/P−VOP)4は、ステップS12で求められた量子化スケールコードを、視覚的に劣化の目立ちやすい平坦部でより細かく量子化し、劣化の比較的目立ちにくい絵柄の複雑な部分で粗く量子化するように、各マクロブロック毎のアクティビティと呼ばれる変数によって変化させている。
【0047】
アクティビティは、原画の輝度信号画素値を用い、フレーム離散コサイン変換モードにおける4個のブロックと、フィールド離散コサイン変換モードにおける4個のブロックとの、合計8ブロックの画素値を用いて式(11)で与えられる。
【0048】
【数13】
Figure 0004608801
【0049】
ここで、P は原画の輝度信号ブロック内画素値である。式(11)において最小値を採るのは、マクロブロック内の一部だけでも平坦部分のある場合には量子化を細かくするためである。
【0050】
更に、式(12)によりその値が0.5〜2の範囲を取る正規化アクティビティNact を求める。
【0051】
【数14】
Figure 0004608801
【0052】
ここで、avg_actは、直前に符号化したピクチャでのact の平均値である。
【0053】
視覚特性を考慮した量子化スケールコードmquant はステップS12で得られた量子化スケールコードQ を基に式(13)で与えられる。
【0054】
【数15】
Figure 0004608801
【0055】
MPEG2 Test Model 5において定められた上記符号量制御方式には以下の制限のあることが知られており、実際の制御を行う場合には、これらの制限に対する対策が必要となる。すなわち、第一の制限は、第一ステップS11はシーンチェンジに対応出来ず、また、シーンチェンジ後には第三ステップS13で用いる媒介変数avg_actが間違った値となるということである。第二の制限は、MPEG2及びMPEG4において規定されているVBV(VideoBuffer Verifier)の拘束条件を満たす保証がないことである。
【0056】
【発明が解決しようとする課題】
ところで、式(11)の実行には各マクロブロックに対する画素値の平均値と分散を全て計算する必要があるため多くの処理量を要する。また、式(12)におけるavg_actは当該フレームにおける平均値ではなく、直前のフレームに対する平均値であることが、安定した符号量制御を行う妨げとなる場合もある。
【0057】
本発明は、上述の実情に鑑みて提案されるものであって、画像情報を変換する画像情報変換装置及び方法であって、アクティビティを算出するための処理量を低減し、安定した符号量制御を行うような画像情報変換装置及び方法を提供することを目的とする。
【0058】
【課題を解決するための手段】
上述の課題を解決するために、本発明は、第1の圧縮符号化方式で圧縮された飛び越し走査の入力画像圧縮情報を、第2の圧縮符号化方式で圧縮された順次走査の出力画像圧縮情報に変換する画像情報変換装置において、上記入力画像圧縮情報のフレームを構成する画素ブロックの第1のアクティビティ情報を用いて上記出力画像圧縮情報のフレームを構成する画素ブロックの第2のアクティビティ情報を合成する際に、上記出力画像圧縮情報の画素ブロックに対応する上記入力画像圧縮情報の複数の画素ブロックの上記第1のアクティビティ情報を上記入力画像圧縮情報から抽出して合成する合成手段と、上記第2の圧縮符号化方式の圧縮の際に、上記第2のアクティビティ情報により量子化スケールを制御する適応量子化を用いて上記入力画像圧縮情報を上記出力画像圧縮情報に符号化する符号化手段とを有する。
【0059】
本発明は、飛び越し走査のMPEG2画像圧縮情報(ビットストリーム)を入力画像圧縮情報とし、順次操作のMPEG4画像圧縮情報(ビットストリーム)を出力画像圧縮情報とする。これらMPEG2画像圧縮情報(ビットストリーム)及びMPEG4画像圧縮情報は、複数の画素から構成される画素ブロックすなわちマクロブロックから構成されている。
【0060】
すなわち、本発明は、飛び越し走査のMPEG2画像情報圧縮部(ビットストリーム)を入力とし、ピクチャタイプ判別部、MPEG2画像情報復号化部(I/Pピクチヤ)、間引き部、遅延バッファ、MPEG4画像情報符号化部(I/P−VOP)、動きベクトル合成部、動きベクトル検出部、情報バッファ、アクティビティ合成部を兼ね備え、入力画像圧縮情報となるMPEG2画像圧縮情報(ビットストリーム)から抽出される、画素ブロック、すなわちマクロブロック毎のアクティビティ情報を利用して、MPEG4画像情報符号化(I/P−VOP)を行うことで、より少ない処理量により、マクロブロック毎の符号量配分が最適化された状態で、順次走査の出力画像圧縮情報となるMPEG4画像圧縮情報(ビットストリーム)を出力する手段を提供するものである。なお、遅延バッファを持たず、圧縮情報解析部を兼ね備えた装置構成も可能である。
【0061】
上記構成において、ピクチャタイプ判別部は、入力となるMPEG2画像圧縮情報(ビットストリーム)内で、I/Pピクチャに関するものだけ残してBピクチャに関するものは廃棄する。MPEG2画像情報復号化部(I/Pピクチャ)は、ピクチャタイプ判別部の出力となる、I/Pピクチャに関する圧縮情報(ビットストリーム)を、水平方向垂直方向ともに、8次の離散コサイン係数全てを用いた、若しくはその低域成分のみを用いた復号処理を行う。間引き部は、MPEG2画像情報復号化部(I/Pピクチャ)の出力である画像情報の第一フィールド若しくは第二フイールドのみを取り出して順次走査画像への変換を行うと同時に、所望の画枠サイズに変換するためのダウンサンプリングを行う。遅延バッファは、1フレーム分の画像情報の蓄積を行う。MPEG4画像情報符号化部(I/P−VOP)は、遅延バッファの出力となる画像情報をMPEG4符号化方式により符号化する。動きベクトル合成部は、MPEG2画像情報復号化部(I/Pピクチャ)で検出された、入力となる画像圧縮情報(ビットストリーム)内の動きベクトル値を元に、走査変換後の画像データに対する動きベクトル値にマッピングする。動きベクトル検出部ては、動きベクトル合成部から出力される動きベクトル値を元に、高精度の動きベクトル検出を行う。情報バッファは、MPEG2画像情報復号化部(I/Pピクチャ)において復号処理を行う際に得られる、各マクロブロック毎のアクティビティ情報を抽出してこれを格納する。アクティビティ合成部は、情報バッファに格納された、入力となるMPEG2画像圧縮情報(ビットストリーム)におけるマクロブロック毎のアクティビティ情報から、出力となるMPEG4画像圧縮情報(ビットストリーム)におけるマクロブロック毎のアクティビティ情報を合成してこれをMPEG4画像情報符号化部(I/P−VOP)に伝送する。
【0062】
【発明の実施の形態】
以下、図面を参照し、本発明の実施の形態について説明する。
【0063】
まず、本発明による第一の実施の形態となる画像情報変換装置について説明する。
【0064】
この画像情報変換装置は、図1に示すように、ピクチャタイプ判別部7と、MPEG2画像情報復号化部(I/Pピクチャ)8と、間引き部9と、遅延バッファ10と、MPEG4画像情報符号化部(I/P−VOP)11と、動きベクトル合成部12と、動きベクトル検出部13と、情報バッファ14と、アクティビティ合成部14とを有している。
【0065】
この画像情報変換装置には、フレーム内で符号化されたイントラ符号化画像(Iピクチャ;I)、表示順序で順方向を参照して予測符号化された順方向予測符号化画像(Pピクチャ;P)及び表示順序で順方向及び逆方向を参照して予測符号化された双方向予測符号化画像(Bピクチャ;B)から構成される飛び越し走査のMPEG2画像圧縮情報(ビットストリーム)が入力される。
【0066】
このMPEG2画像圧縮情報(ビットストリーム)は、ピクチャタイプ判別部7において、I/Pピクチャに関するものか、Bピクチャに関するものであるかを判別され、I/Pピクチャのみ後続のMPEG2画像情報復号化部(I/Pピクチャ)8に出力され、Bピクチャは破棄される。
【0067】
MPEG2画像情報復号化部(I/Pピクチャ)8は、MPEG2画像圧縮情報(ビットストリーム)を画像信号に復号するとともに、アクティビティ情報を抽出して情報バッファ14へ送る。ここで、Bピクチャに関するデータはピクチャタイプ判別部7において廃棄されているので、MPEG2画像情報復号化部(I/Pピクチャ)8は、I/Pピクチャのみを復号化出来る機能を有すればよい。
【0068】
MPEG2画像情報復号化部(I/Pピクチャ)8の出力となる画素値は、間引き部9に入力される。間引き部9は、水平方向には1/2の間引き処理を施し、垂直方向には、第一フィールド若しくは第二フィールドのどちらか一方のデータのみを残し、もう一方を廃棄する。このような間引きによって、入力となる画像情報の1/4の大きさを持つ順次走査画像を生成する。
【0069】
ところで、間引き部9から出力された画像をMPEG4画像情報符号化部(I/P−VOP)11において16×16画素で構成されるマクロブロック単位で符号化するためには、水平方向、垂直方向ともに、その画素数が16の倍数である必要が有る。間引き部9においては、このための画素の補填若しくは廃棄を、間引きと同時に行う。
【0070】
例えば、入力となるMPEG2画像圧縮情報(ビットストリーム)がNTSC(National Television System Committee)の規格に準拠したもの、つまり720×480画素、30Hzの飛び越し走査画像であった場合、間引き後の画枠はSIF(360×240画素)サイズということになる。この画像に対して、間引き部9において、例えば水平方向の右端若しくは左端の8ラインを廃棄して352×240画素とする。
【0071】
なお、間引き部9における動作の変更を行うことで、これ以外の画枠、例えば上記の例で、約1/4×1/4の画枠であるQSIF(176×112画素)サイズの画像に変換することも可能である。
【0072】
更に、上述した文献1は、MPEG2画像情報復号化部(I/Pピクチャ)8における処理として、水平方向、垂直方向それぞれについて、入力となるMPEG2画像圧縮情報(ビットストリーム)内の、8次の離散コサイン変換係数すべてを用いた復号処理を行う画像情報変換装置について述べられているが、図1に示した装置に関してはその限りではなく、水平方向のみ、或いは水平方向、垂直方向ともに、8次の離散コサイン変換係数のうちの低域成分のみを用いた復号処理を行い、画質劣化を最小限に抑えながら、復号処理に伴う演算量とビデオメモリ容量を削減することが可能である。
【0073】
間引き部9によって生成された順次走査画像は遅延バッファ10によって1フレーム遅延された後、MPEG4画像情報符号化部(I/P−VOP)11によってフレーム内で符号化されたI−VOP及び表示順序で順方向を参照して予測符号化されたP−VOPに符号化され、MPEG4画像圧縮情報(ビットストリーム)として出力される。
【0074】
その際、入力となるMPEG2画像圧縮情報(ビットストリーム)中の動きベクトル情報は、動きベクトル合成部12において間引き後の画像情報に対する動きベクトルにマッピングされ、動きベクトル検出部13においては、動きベクトル合成部12において合成された動きベクトル値を元に高精度の動きベクトルを検出する。
【0075】
尚、VOPはVideo object Planeを意味し、MPEG2におけるフレームに相当するものである。また、I−VOPはIピクチャに対応するイントラ符号化VOP、P−VOPはPピクチャに対応する順方向予測符号化VOP、B−VOPはBピクチャに対応する双方向予測符号化VOPである。
【0076】
この画像情報変換装置において、情報バッファ14には、入力となるMPEG2画像圧縮情報(ビットストリーム)における、マクロブロック毎のアクティビティ情報がMPEG2画像情報復号化部(I/Pピクチャ)8から送られ、1フレーム分格納される。ここで用いられるアクティビティ情報としては、以下のような6通りの方法で求められたものが考えられる。
【0077】
第一の方法は、入力となるMPEG2画像圧縮情報(ビットストリーム)におけるマクロブロック毎の量子化スケールQを用いる方法である。第二の方法は、入力となるMPEG2画像圧縮情報(ビットストリーム)におけるマクロブロック毎の輝度成分離散コサイン変換係数に対して割り当てられた符号量(ビット数)を用いる方法である。第三の方法は、入力となるMPEG2画像圧縮情報(ビットストリーム)におけるマクロブロック毎の離散コサイン変換係数に対して割り当てられた符号量(ビット数)を用いる方法である。第四の方法は、入力となるMPEG2画像圧縮情報(ビットストリーム)におけるマクロブロック毎に割り当てられた符号量(ビット数)を用いる方法である。第五の方法は、入力となるMPEG2画像圧縮情報(ビットストリーム)におけるマクロブロック毎に割り当てられた符号量(ビット数)をBとして、次の式(14)によって与えられるXを用いる方法である。
【0078】
【数16】
Figure 0004608801
【0079】
ここでBはマクロブロックに割り当てられた符号量(ビット数)全体であっても、離散コサイン変換係数係数に対して割り当てられた符号量(ビット数)でもあっても、輝度成分離散コサイン変換係数に対して割り当てられた符号量(ビット数)であっても良い。また、Qは量子化スケールである。第六の方法は、入力となるMPEG2画像圧縮情報(ビットストリーム)内で、各マクロブロックの輝度成分、若しくは輝度成分と色差成分の両方に対する非零の離散コサイン変換係数を用いる方法である。
【0080】
以下では、入力となる飛び越し走査画像のMPEG2画像圧縮情報(ビットストリーム)の、1/4の画枠を持つ、順次走査画像のMPEG4画像圧縮情報(ビットストリーム)を出力する場合を考える。
【0081】
この時、アクティビティ合成部15を用いて、図2のAに示すような入力となるMPEG2画像圧縮情報(ビットストリーム)内での4つのマクロブロックに対するアクティビティ情報Actj,n (n=1,…4)から、図2のBに示すような出力となるMPEG4画像圧縮情報(ビットストリーム)内での1つのマクロブロックに対するアクティビティ情報Act を次の式(15)のように生成する。
【0082】
【数17】
Figure 0004608801
【0083】
ここで関数fとしては、入力サンプルの平均値、若しくは最小値を出力する関数が考えられる。
【0084】
アクティビティ合成部15においては、上述の、出力となるMPEG4画像圧縮情報(ビットストリーム)に対するマクロブロック毎の情報Act 及び、Act のVOP全体に渡る平均値Avg_actが算出され、MPEG4画像情報符号化部(I/P−VOP)11に出力される。Avg_actの算出には、画面全体に渡るAct を知る必要があり、このため遅延バッファ10が必要となる。
【0085】
MPEG4画像情報符号化部(I/P−VOP)11においては、アクティビティ合成部15において算出された媒介変数Act 及びAvg_actを用い、式(12)に対応して、次の式(16)のように、各マクロブロックに対する正規化アクテイビテイNact が算出され、マクロブロック毎の適応量子化処理が実行される。
【0086】
【数18】
Figure 0004608801
【0087】
この適応量子化に至る一連の処理手順を、図3を参照して説明する。
【0088】
最初のステップS21において、MPEG2画像情報復号化部(I/Pピクチャ)8から出力された、入力となるMPEG2画像圧縮情報(ビットストリーム)における、マクロブロックごとのアクティビティ情報Actj,n は、情報バッファ14に格納される。
【0089】
ステップS22において、アクティビティ合成部15は、情報バッファ14に格納されているアクティビティ情報Act からMPEG4画像圧縮情報(ビットストリーム)内でのマクロブロックに対するアクティビティ情報Act を生成する。
【0090】
ステップS23において、アクティビティ合成部15は、アクティビティ情報Act の平均値Avg_actを算出する。そして、ステップS24において、アクティビティ合成部15は、正規化アクティビティNact を算出する。
【0091】
ステップS25において、MPEG4画像情報符号化部11は、アクティビティ合成部15から供給された正規化アクティビティNact に基づいて、適応量子化を用いて画像情報符号化を実行する。
【0092】
上記処理を行うことにより、式(11)の実行が不要となるため、処理量の削減が可能となる。また、式(11)において、avg_actは直前のVOPに対する平均値であるのに対し、式(16)において、Avg_actは当該VOPに対する平均値であるため、より安定した符号量制御を行うことが可能である。
【0093】
次に、本発明の第2の実施の形態である画像情報処理装置について説明する。
【0094】
この画像情報変換装置は、図4に示すように、ピクチャタイプ判別部16と、圧縮情報解析部17と、MPEG2画像情報復号化部(I/Pピクチャ)18と、間引き部19と、MPEG4画像情報符号化部(I/P−VOP)20と、動きベクトル合成部21と、動きベクトル検出部22と、情報バッファ23と、アクティビティ合成部24とを有している。
【0095】
図1に示した第1の実施の形態の画像情報変換装置においては、MPEG2画像情報復号化部(I/Pピクチャ)8において、入力となるMPEG2画像圧縮情報(ビットストリーム)における、各マクロブロック毎のアクティビティ情報が抽出され、遅延バッファ10によって1フレーム分の遅延が実現されるのに対し、この画像情報変換装置においては、圧縮情報解析部17において、入力となるMPEG2画像圧縮情報(ビットストリーム)における、各マクロブロック毎のアクティビティ情報が抽出されると同時に1フレーム分の遅延が実現される点が異なっている。
【0096】
他の部分については、上述した第1の実施の形態の画像情報変換装置と同様であるので、説明を省略する。
【0097】
このように、上述の実施の形態においては、MPEG2画像情報復号化部(I/Pピクチャ)において抽出される、入力となるMPEG2画像圧縮情報(ビットストリーム)内におけるマクロブロックごとの情報を利用することにより、処理量を低減すると共に安定した符号量制御を達成している。
【0098】
以上、入力としてMPEG2画像圧縮情報(ビットストリーム)を、出力としてMPEG4画像圧縮情報(ビットストリーム)を対象としてきたが、入力、出力ともこれに限らず、例えばMPEG−1やH.263などの画像圧縮情報(ビットストリーム)でも良い。
【0099】
【発明の効果】
以上述べてきた様に、本発明は、飛び越し走査のMPEG2画像圧縮情報(ビットストリーム)を入力とし、入力となるMPEG2画像圧縮情報(ビットストリーム)内での各マクロブロックに対するアクティビティ情報から、出力となるMPEG4画像圧縮情報(ビットストリーム)内での各マクロブロックに対するアクティビティ情報を合成してこれを適応量子化に用いることで、より少ない処理量により、マクロブロック毎の符号量配分が最適化された状態で、順次走査のMPEG4画像圧縮情報(ビットストリーム)に変換して出力する手段を提供するものである。
【図面の簡単な説明】
【図1】第1の実施の形態の画像情報変換装置の構成を示すブロック図である。
【図2】アクティビティ情報Act を生成する方法を示す図である。
【図3】適用量子化処理の動作原理を示すフローチャートである。
【図4】第2の実施の形態の画像情報変換装置の構成を示すブロック図である。
【図5】従来の画像情報変換装置の構成を示すブロック図である。
【図6】従来の符号化制御方式の動作原理を示すフローチャートである。
【符号の説明】
7 ピクチャタイプ判別部、 8 MPEG2画像情報復号化部(I/Pピクチャ)、 9 間引き部、 10 遅延バッファ、 11 MPEG4画像情報符号化部(I/P−VOP)、 12 動きベクトル合成部、 13 動きベクトル検出部、 14 情報バッファ、 15 アクティビティ合成部

Claims (19)

  1. 第1の圧縮符号化方式で圧縮された飛び越し走査の入力画像圧縮情報を、第2の圧縮符号化方式で圧縮された順次走査の出力画像圧縮情報に変換する画像情報変換装置において、
    上記入力画像圧縮情報のフレームを構成する画素ブロックの第1のアクティビティ情報を用いて上記出力画像圧縮情報のフレームを構成する画素ブロックの第2のアクティビティ情報を合成する際に、上記出力画像圧縮情報の画素ブロックに対応する上記入力画像圧縮情報の複数の画素ブロックの上記第1のアクティビティ情報を上記入力画像圧縮情報から抽出して合成する合成手段と、
    上記第2の圧縮符号化方式の圧縮の際に、上記第2のアクティビティ情報により量子化スケールを制御する適応量子化を用いて上記入力画像圧縮情報を上記出力画像圧縮情報に符号化する符号化手段とを有する
    画像情報変換装置。
  2. 上記第1のアクティビティ情報は、上記入力画像圧縮情報の各画素ブロックに割り当てられた量子化スケール情報である請求項1記載の画像情報変換装置。
  3. 上記第1のアクティビティ情報は、上記入力画像圧縮情報の各画素ブロックに割り当てられた符号量である請求項1記載の画像情報変換装置。
  4. 上記第1のアクティビティ情報は、上記入力画像圧縮情報の各画素ブロックの離散コサイン変換係数に割り当てられた符号量である請求項1記載の画像情報変換装置。
  5. 上記第1のアクティビティ情報は、上記入力画像圧縮情報の各画素ブロックの輝度成分の離散コサイン変換係数に割り当てられた符号量である請求項1記載の画像情報変換装置。
  6. 上記第1のアクティビティ情報は、上記入力画像圧縮情報の各画素ブロックに対して次の式で与えられる媒介変数である請求項1記載の画像情報変換装置。
    Figure 0004608801
    ただし、各ブロックに対して割り当てられた量子化スケールをQ、割当符号量をB、媒介変数をXとする。
  7. 上記割当符号量は、上記入力画像圧縮情報の各画素ブロックに対して割り当てられた符号量である請求項6記載の画像情報変換装置。
  8. 上記割当符号量は、上記入力画像圧縮情報の各画素ブロックの離散コサイン変換係数に割り当てられた符号量である請求項6記載の画像情報変換装置。
  9. 上記割当符号量は、上記入力画像圧縮情報の各画素ブロックの輝度成分の離散コサイン変換係数に割り当てられた符号量である請求項6記載の画像情報変換装置。
  10. 上記合成手段は、上記入力画像圧縮情報内における各画素ブロックごとの第1のアクティビティ情報について、上記出力画像圧縮情報の画素ブロックに対応する上記入力画像圧縮情報の複数の画素ブロックの第1のアクティビティ情報の平均値を用いて上記出力画像圧縮情報内における各画素ブロックごとの第2のアクティビティ情報を合成する請求項1記載の画像情報変換装置。
  11. 上記合成手段は、上記入力画像圧縮情報内における各画素ブロックごとの第1のアクティビティ情報について、上記出力画像圧縮情報の画素ブロックに対応する上記入力画像圧縮情報の複数の画素ブロックの第1のアクティビティ情報の最小値を用いて上記出力画像圧縮情報内における各画素ブロックごとの第2のアクティビティ情報を合成する請求項1記載の画像情報変換装置。
  12. 上記第1の圧縮符号化方式はMPEG2、上記第2の圧縮符号化方式はMPEG4であり、上記合成手段は、各画素ブロックごとの第2のアクティビティ情報を算出すると共に、上記出力画像圧縮情報の画像に相当するVOP全体にわたる上記第2のアクティビティ情報の平均値を算出し、算出された第2のアクティビティ情報の平均値を用いて上記各画像ブロックごとの第2のアクティビティ情報の正規化アクティビティを算出し、算出された正規化アクティビティにより上記適応量子化における量子化スケールの制御を行う請求項1記載の画像情報変換装置。
  13. 次の式により正規化アクティビティを算出し、算出された正規化アクティビティにより上記適応量子化における量子化スケールの制御を行う請求項12記載の画像情報変換装置。
    Figure 0004608801
    ただし、第j画素ブロックの第2のアクティビティ情報をActj と、VOP全体にわたる上記第2のアクティビティ情報の平均値をAvg_actと、第j画素ブロックの正規化アクティビティをNactj とする。
  14. 上記第1の圧縮符号化方式はMPEG2、上記第2の圧縮符号化方式はMPEG4であり、上記入力画像圧縮情報を、上記出力画像圧縮情報の画像に相当するVOPに相当する期間に亘って遅延させる遅延バッファを有する請求項1記載の画像情報変換装置。
  15. 上記入力画像圧縮情報における1フレーム分の第1のアクティビティ情報を抽出すると共に、上記入力画像圧縮情報を1フレーム期間遅延させる画像解析手段を有する請求項1記載の画像情報変換装置。
  16. 第1の圧縮符号化方式で圧縮された飛び越し走査の入力画像圧縮情報を、第2の圧縮符号化方式で圧縮された順次走査の出力画像圧縮情報に変換する画像情報変換方法において、
    上記入力画像圧縮情報のフレームを構成する画素ブロックの第1のアクティビティ情報を用いて上記出力画像圧縮情報のフレームを構成する画素ブロックの第2のアクティビティ情報を合成する際に、上記出力画像圧縮情報の画素ブロックに対応する上記入力画像圧縮情報の複数の画素ブロックの上記第1のアクティビティ情報を上記入力画像圧縮情報から抽出して合成するステップと、
    上記第2の圧縮符号化方式の圧縮の際に、上記第2のアクティビティ情報により量子化スケールを制御する適応量子化を用いて上記入力画像圧縮情報を上記出力画像圧縮情報に符号化するステップとを有する
    画像情報変換方法。
  17. 上記入力画像圧縮情報内における各画素ブロックごとの第1のアクティビティ情報について、上記出力画像圧縮情報の画素ブロックに対応する上記入力画像圧縮情報の複数の画素ブロックの第1のアクティビティ情報の平均値を用いて上記出力画像圧縮情報内における各画素ブロックごとの第2のアクティビティ情報を合成する請求項16記載の画像情報変換方法。
  18. 上記入力画像圧縮情報内における各画素ブロックごとの第1のアクティビティ情報について、上記出力画像圧縮情報の画素ブロックに対応する上記入力画像圧縮情報の複数の画素ブロックの第1のアクティビティ情報の最小値を用いて上記出力画像圧縮情報内における各画素ブロックごとの第2のアクティビティ情報を合成する請求項16記載の画像情報変換方法。
  19. 上記入力画像圧縮情報における1フレーム分の第1のアクティビティ情報を抽出すると共に、上記入力画像圧縮情報を1フレーム期間遅延させるステップを有する請求項16記載の画像情報変換方法。
JP2001123543A 2000-05-25 2001-04-20 画像情報変換装置及び方法 Expired - Fee Related JP4608801B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001123543A JP4608801B2 (ja) 2000-05-25 2001-04-20 画像情報変換装置及び方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2000-155400 2000-05-25
JP2000155400 2000-05-25
JP2001123543A JP4608801B2 (ja) 2000-05-25 2001-04-20 画像情報変換装置及び方法

Publications (2)

Publication Number Publication Date
JP2002051345A JP2002051345A (ja) 2002-02-15
JP4608801B2 true JP4608801B2 (ja) 2011-01-12

Family

ID=26592633

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001123543A Expired - Fee Related JP4608801B2 (ja) 2000-05-25 2001-04-20 画像情報変換装置及び方法

Country Status (1)

Country Link
JP (1) JP4608801B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7436890B2 (en) 2002-06-05 2008-10-14 Kddi R&D Laboratories, Inc. Quantization control system for video coding
JP4681341B2 (ja) * 2005-04-22 2011-05-11 日本放送協会 順次走査変換装置
JP2010187337A (ja) * 2009-02-13 2010-08-26 Toshiba Corp 動画像変換装置及び動画像変換方法
JP5363302B2 (ja) 2009-12-24 2013-12-11 株式会社メガチップス 画像符号化装置及び画像変換装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08251587A (ja) * 1995-03-09 1996-09-27 Kokusai Denshin Denwa Co Ltd <Kdd> 画像符号化データのレート変換方法および装置
JPH09294263A (ja) * 1996-04-24 1997-11-11 Victor Co Of Japan Ltd 画像情報圧縮装置
JPH09512410A (ja) * 1995-02-15 1997-12-09 フィリップス エレクトロニクス ネムローゼ フェンノートシャップ ビデオ信号の符号変換方法および装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09512410A (ja) * 1995-02-15 1997-12-09 フィリップス エレクトロニクス ネムローゼ フェンノートシャップ ビデオ信号の符号変換方法および装置
JPH08251587A (ja) * 1995-03-09 1996-09-27 Kokusai Denshin Denwa Co Ltd <Kdd> 画像符号化データのレート変換方法および装置
JPH09294263A (ja) * 1996-04-24 1997-11-11 Victor Co Of Japan Ltd 画像情報圧縮装置

Also Published As

Publication number Publication date
JP2002051345A (ja) 2002-02-15

Similar Documents

Publication Publication Date Title
JP4517495B2 (ja) 画像情報変換装置及び画像情報変換方法並びに符号化装置及び符号化方法
JP3979897B2 (ja) 映像圧縮ビットストリームのトランスコーディング方法
KR100323489B1 (ko) 비디오데이타를가지는비트스트림의트랜스코딩방법및장치
US6870886B2 (en) Method and apparatus for transcoding a digitally compressed high definition television bitstream to a standard definition television bitstream
JP2005526457A (ja) ビデオ・トランスコーダ
JP2003527005A (ja) 縮小されたトランスコードヒントメタデータを生成する装置及び方法
JPH07264580A (ja) 映像信号伝送方法並びに映像信号送信装置及び映像信号受信装置
JP2002152759A (ja) 画像情報変換装置および画像情報変換方法
JP4517453B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP4517475B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP4608801B2 (ja) 画像情報変換装置及び方法
JP2000236547A (ja) 画像情報変換装置及び画像情報変換方法
JP2003061091A (ja) 圧縮ビットストリームをアップサンプリングする方法および装置
JP2002125227A (ja) 画像情報変換装置及び方法
JP4517465B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP3263901B2 (ja) 画像信号符号化方法及び装置、画像信号復号化方法及び装置
JP4517468B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP2001346214A (ja) 画像情報変換装置及び方法
US7012959B2 (en) Picture information conversion method and apparatus
JPH09214965A (ja) 動画像符号化方法および装置
JP2004056616A (ja) 符号化信号復号装置、符号化信号復号方法および符号化信号復号プログラム
JP2001148852A (ja) 画像情報変換装置及び画像情報変換方法
JP2001339720A (ja) 画像情報変換装置及び方法
JP4505992B2 (ja) 画像情報変換装置及び方法
JP4507418B2 (ja) 画像情報変換装置及び画像情報変換方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080317

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100223

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100629

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100817

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100914

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100927

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131022

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131022

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees