JP2002125227A - 画像情報変換装置及び方法 - Google Patents

画像情報変換装置及び方法

Info

Publication number
JP2002125227A
JP2002125227A JP2000311317A JP2000311317A JP2002125227A JP 2002125227 A JP2002125227 A JP 2002125227A JP 2000311317 A JP2000311317 A JP 2000311317A JP 2000311317 A JP2000311317 A JP 2000311317A JP 2002125227 A JP2002125227 A JP 2002125227A
Authority
JP
Japan
Prior art keywords
image
intra
information
switching
predetermined period
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2000311317A
Other languages
English (en)
Inventor
Kazufumi Sato
数史 佐藤
Kuniaki Takahashi
邦明 高橋
Teruhiko Suzuki
輝彦 鈴木
Yoichi Yagasaki
陽一 矢ケ崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2000311317A priority Critical patent/JP2002125227A/ja
Publication of JP2002125227A publication Critical patent/JP2002125227A/ja
Withdrawn legal-status Critical Current

Links

Landscapes

  • Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

(57)【要約】 【課題】 シーンチェンジに起因する画質劣化を引き起
こすことなく、画像圧縮情報の変換を可能とする。 【解決手段】 コンプレキシティ算出部17では、MP
EG2画像圧縮情報からコンプレキシティを求める。シ
ーンチェンジ検出部18では、コンプレキシティなどに
基づいてシーンチェンジを検出する。GOV構造決定部
29では、シーンチェンジの検出出力に応じて、MPE
G4のGOV構造を再構成する。MPEG4画像情報符
号化部13では、コンプレキシティから求めた目標符号
量と、GOV構造決定部29により決定されたGOV構
造とに基づいて、MPEG2画像圧縮情報が復号され、
間引きされ、さらにビデオメモリ12に一旦蓄えられた
画像情報を、MPEG4画像圧縮情報に符号化する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、MPEG(Moving
Picture image coding Experts Group)などのよう
に、離散コサイン変換等の直交変換と動き補償によって
圧縮された画像情報(ビットストリーム)を、例えば衛
星放送、ケーブルテレビジョン、インターネットなどの
ネットワークを介して受信する際、若しくは光、磁気デ
ィスクのような記憶メディア上で処理する際に好適な画
像情報変換装置及び方法に関する。
【0002】
【従来の技術】近年、画像情報をディジタル情報として
取り扱い、その際に、効率の高い情報の伝送、蓄積を目
的とし、画像情報特有の冗長性を利用して、離散コサイ
ン変換等の直交変換と動き補償により当該画像情報を圧
縮するMPEGなどの方式に準拠した装置が、放送局な
どの情報配信、及び一般家庭における情報受信の双方に
おいて普及しつつある。
【0003】特に、MPEG2(ISO/IEC 13
818−2)は、汎用画像符号化方式として定義されて
おり、飛び越し走査画像及び順次走査画像の双方、並び
に標準解像度画像及び高精細画像を網羅する標準とし
て、プロフェッショナル用途及びコンシューマー用途の
広範なアプリケーションに今後とも用いられるものと予
想される。このMPEG2圧縮方式を用いることによ
り、例えば720×480画素を持つ標準解像度の飛び
越し走査画像であれば4M〜8Mbps、1920×1
088画素を持つ高解像度の飛び越し走査画像であれば
18M〜22Mbpsの符号量(ビットレート)を割り
当てることで、高い圧縮率と良好な画質の実現が可能で
ある。
【0004】ここで、上述のMPEG2は、主として放
送用に適合する高画質符号化を対象としていたが、MP
EG1より低い符号量(ビットレート)、つまりより高
い圧縮率の符号化方式には対応していなかった。一方、
近年の携帯端末の普及により、今後そのような高い圧縮
率の符号化方式のニーズは高まると思われ、これに対応
してMPEG4符号化方式の標準化が行われた。MPE
G4の画像符号化方式に関しては、1998年12月に
ISO/IEC 14496−2としてその規格が国際
標準に承認されている。
【0005】ところで、ディジタル放送用に一度符号化
されたMPEG2画像圧縮情報(ビットストリーム)
を、携帯端末上などで処理するのにより適した、より低
い符号量(ビットレート)のMPEG4画像圧縮情報
(ビットストリーム)に変換したいというニーズがあ
る。
【0006】かかる目的を達成する画像情報変換装置
(トランスコーダ)として、“Field-to-Frame Transco
ding with Spatial and Temporal Downsampling”(Sus
ie J.Wee, John G. Apostolopoulos, and Nick Feamste
r, ICIP '99、以下これを文献1と呼ぶ)では、図7に
示すような装置が提案されている。
【0007】この図7において、入力端子110に供給
された飛び越し走査のMPEG2画像圧縮情報(ビット
ストリーム)における各フレームのデータは、先ず、ピ
クチャタイプ判別部111に入力する。
【0008】当該ピクチャタイプ判別部111では、各
フレームの入力データがIピクチャ(画像内符号化画
像)/Pピクチャ(前方予測符号化画像)に関するもの
か、Bピクチャ(両方向予測符号化画像)に関するもの
であるかを判別し、前者のときのみ、そのI/Pピクチ
ャに関する情報を後続のMPEG2画像情報復号化部
(I/Pピクチャ)112に出力する。
【0009】MPEG2画像情報復号化部(I/Pピク
チャ)112における処理は通常のMPEG2画像情報
復号化装置と同様である。但し、Bピクチャに関するデ
ータはピクチャタイプ判別部111において廃棄される
ため、MPEG2画像情報復号化部(I/Pピクチャ)
112における機能としてはI / P ピクチャのみを
復号化出来ればよい。MPEG2画像情報復号化部(I
/Pピクチャ)112の出力となる画素値は、間引き部
113に入力される。
【0010】当該間引き部113は、水平方向について
は1/2の間引き処理を施し、垂直方向については第一
フィールド若しくは第二フィールドのどちらか一方のデ
ータのみを残し、もう一方を廃棄することにより、入力
となる画像情報の1/4の大きさを持つ順次走査画像を
生成する。間引き部113によって生成された順次走査
画像は、一旦、ビデオメモリ114に蓄積された後に読
み出され、MPEG4画像情報符号化部(I/P−VO
P)115に入力する。
【0011】ここで、例えば、入力となるMPEG2画
圧縮情報(ビットストリーム)がNTSC(National T
elevision System Committee)の規格に準拠したもの、
つまり720×480画素、30Hzの飛び越し走査画
像であった場合、上記間引き後の画枠は360×240
画素ということになるが、後続のMPEG4画像情報符
号化部(I/P−VOP)115において符号化を行う
際、マクロブロック単位の処理を行うには、水平方向、
垂直方向ともに、その画素数が16の倍数である必要が
ある。したがって、このための画素の補填若しくは廃棄
を上記間引き部113において同時に行う。すなわちこ
のときの間引き部113は、上記画素の補填若しくは廃
棄として、例えば水平方向の右端若しくは左端の8ライ
ンを廃棄して352×240画素とする。
【0012】上記MPEG4画像情報符号化部(I/P
−VOP)115では、入力した順次走査画像の信号を
符号化してMPEG4画像圧縮情報(ビットストリー
ム)を生成し、そのMPEG4画像圧縮情報が出力端子
118から後段へ出力される。その際、入力となるMP
EG2画像圧縮情報(ビットストリーム)中の動きベク
トル情報は、動きベクトル合成部116において間引き
後の画像情報に対する動きベクトルにマッピングされ、
また、動きベクトル検出部117では、動きベクトル合
成部116において合成された動きベクトル値を元に高
精度の動きベクトルを検出する。なお、MPEG4にお
いて、VOP(Video Object Plane)とは、オブジェク
トを囲む1つまたは複数のマクロブロックから構成され
る領域を表し、MPEG2におけるフレームに相当する
ものである。このVOPの領域は、符号化される方式に
したがって、Iピクチャ、Pピクチャ、およびBピクチ
ャのうちのいずれかに分類される。I−VOP(Iピク
チャのVOP)は、動き補償を行うことなく、画像(領
域)そのものが符号化(イントラ符号化)されるもので
ある。P−VOP(PピクチャのVOP)は、基本的に
は、自身より時間的に前に位置する画像(IまたはP−
VOP)に基づいて、前方予測符号化される。B−VO
P(BピクチャのVOP)は、基本的には、自身より時
間的に前と後ろに位置する2つの画像(IまたはP−V
OP)に基づいて両方向予測符号化されるものである。
【0013】上述のように、文献1には、入力となるM
PEG2画像圧縮情報(ビットストリーム)の1/2×
1/2の大きさを持つ順次走査画像のMPEG4画像圧
縮情報(ビットストリーム)を生成する装置に関する技
術が述べられている。すなわち、入力となるMPEG2
画圧縮情報(ビットストリーム)が例えばNTSCの規
格に準拠したものであった場合、出力となるMPEG4
画像圧縮情報はSIFサイズ(352×240)という
ことになるが、上記図5の構成によれば、上記間引き部
113における動作の変更を行うことにより、それ以外
の画枠、例えば上記の例では約1/4×1/4の画枠で
あるQSIF(176×112画素)サイズの画像に変
換することも可能となっている。
【0014】また、文献1には、MPEG2画像情報復
号化部(I/Pピクチャ)112における処理として、
水平方向、垂直方向それぞれについて、入力となるMP
EG2画像圧縮情報(ビットストリーム)内の、8次の
離散コサイン変換係数すべてを用いた復号処理を行う装
置について述べられているが、図7に示した装置に関し
てはその限りではなく、水平方向のみ、或いは水平方
向、垂直方向ともに、8次の離散コサイン変換係数のう
ちの低域成分のみを用いた復号処理を行い、画質劣化を
最小限に抑えながら、復号処理に伴う演算量とビデオメ
モリ容量を削減することが可能となされている。
【0015】ところで、図7に示した画像情報変換装置
においては、MPEG4画像情報符号化部(I/P−V
OP)115における符号量制御が、出力となるMPE
G4画像圧縮情報(ビットストリーム)における画質を
決定する大きな要因となっている。
【0016】一方、ISO/IEC 14496−2に
は、符号量制御の方式に関して特に規定されておらず、
したがって、各ベンダは、アプリケーションに応じて、
演算量及び出力画質の観点から最適と考えられる方式を
用いることが出来る。以下では、代表的な符号量制御方
式として、MPEG2 Test Model5(ISO/IE
C JTC1/SC29/WG11 NO400)で述べられている方式を例に
挙げ、図8を用いて、その符号量制御の流れを説明す
る。
【0017】図8において、当該符号量制御の際には、
先ず、ステップS100として、日標符号量(ターゲッ
トビットレート)、及びGOP(Group Of Picture)構
成が入カ変数として指定され、次に、ステップS101
として、各ピクチャヘのビット配分(符号量割当)を行
い、さらにステップS102として、仮想バッファを用
いたレート制御を行い、最後に、ステップS103とし
て、視覚特性を考慮したマクロブロック毎の適応量子化
を行う。
【0018】より詳細に説明すると、ステップS101
の処理では、GOP内の各ピクチャに対する割り当て符
号量を、割り当て対象ピクチャを含めGOP内でまだ符
号化されていないピクチャに対して割り当てられる総符
号量(以下、これをRとする)を基に配分する。この配
分処理は、GOP内の符号化ピクチャの順に繰り返され
る。また、その際には、以下に述べる2つの仮定を用い
て各ピクチャヘの符号量割り当てが行われる。
【0019】先ず、第一の仮定として、I,P,Bの各
ピクチャを符号化する際に用いる平均量子化スケールコ
ードと発生符号量の積は、画面が変化しない限り、ピク
チャタイプ毎に一定値となると仮定する。この第一の仮
定のもと、I,P,Bの各ピクチャを符号化した場合
は、それらI,P,Bの各ピクチャタイプ毎に、画面の
複雑さを示す変数(grobal complelxity measure、以
下、コンプレキシティと呼ぶ)Xi,Xp,Xbを、下記
式(1)〜式(3)により更新することとする。
【0020】 Xi=Si・Qi (1) Xp=Sp・Qp (2) Xb=Sb・Qb (3) ここで、上記式中のSi,Sp,SbはI,P,Bの各ピ
クチャ符号化時の発生符号符号量であり、Qi,Qp,Q
bはI,P,Bの各ピクチャ符号化時の平均量子化スケ
ールコードである。また、コンプレキシティXi,Xp
bの初期値は、目標符号量(ターゲットビットレー
ト)bit_rate[ビット/秒]を用いて、下記式(4)〜
式(6)で示される値とする。
【0021】 Xi=160×bit_rate/115 (4) Xp=60×bit_rate/115 (5) Xb=42×bit_rate/115 (6) 次に、第二の仮定として、Iピクチャの量子化スケール
コードQiを基準としたP,Bピクチャの量子化スケー
ルコードQp,Qbの比率Kp,Kbが、下記式(7)に定
めた値となる場合に、常に全体の画質が最適化されると
仮定する。
【0022】 Kp=1.0 ; Kb=1.4 (7) すなわち、Bピクチャの量子化スケールコードQbは、
I,Pピクチャの量子化スケールコードQi,Qpの常に
1.4倍としている。これは、BピクチャをI,Pピク
チャに比較して多少粗めに符号化することにより当該B
ピクチャへ配分される符号量を節約し、そのBピクチャ
の符号化時に節約できる符号量をI,Pピクチャに加え
ることによってそれらI,Pピクチャの画質を改善し、
さらにこれら画質が改善されたI,Pピクチャを参照す
るBピクチャの画質をも改善することを想定している。
【0023】上記第一、第二の2つの仮定より、GOP
の各ピクチャに対する割り当て符号量(Ti,Tp
b)は次式(8)〜式(10)に示す値となる。
【0024】
【数1】
【0025】なお、式中のNp,Nbは、GOP内でまだ
符号化されていないP,Bピクチャの枚数であり、Pict
ure_rateは画像の表示周期である。
【0026】次に、上記のようにして求めた割り当て符
号量Ti,Tp,Tbを基にして、各ピクチャをステップ
S101、ステップS102に従って符号化する毎に、
GOP内のI,P,Bの各未符号化ピクチャに対して割
り当てられる符号量Rを式(11)で更新する。
【0027】 R=R−Si,p,b (11) 但し、GOPの最初のピクチャを符号化する際には、次
式(12)により上記符号量のRを更新する。
【0028】 R=bit_rate×N/picture_rate+R (12) なお、式中のNはGOP内のピクチャ数である。また、
シーケンスの最初での符号量Rの初期値は0とする。
【0029】次に、ステップS102では、ステップS
101で式(8)〜式(10)により求められた各ピク
チャに対する割り当て符号量(Ti,Tp,Tb)と、実
際の発生符号量を一致させるため、I,P,Bの各ピク
チャ毎に独立に設定した3種類の仮想バッファの容量を
基に、量子化スケールコードを、マクロブロック単位の
フィードバック制御で求める。
【0030】先ず、j番目のマクロブロック符号化に先
立ち、仮想バッファの占有量を式(13)〜式(15)
によって求める。
【0031】 dj i=d0 i+Rj-1−Ti×(j-1)/MB_cnt (13) dj p=d0 p+Rj-1−Tp×(j-1)/MB_cnt (14) dj b=d0 b+Rj-1−Tb×(j-1)/MB_cnt (15) なお、式中のd0 i,d0 p,d0 bはI,P,Bのピクチャ
毎に独立した各仮想バッファの初期占有量、Rjはピク
チャの先頭からj番目のマクロブロックまでの発生符号
量、MB_cntは1ピクチャ内のマクロブロック数であ
る。I,P,Bの各ピクチャ符号化終了時の仮想バッフ
ァ占有量(dMB_cnt i,dMB_cnt p,dMB_c nt b)は、そ
れぞれ同一のピクチャタイプにおいて次のピクチャに対
する仮想バッファ占有量の初期値(d0 i,d0 p,d0 b
として用いられる。
【0032】次に、j番目のマクロブロックに対する量
子化スケールコードQjを、次式(16)により計算す
る。
【0033】 Qj=dj×31/r (16) 式(16)中のrはリアクションパラメータと呼ばれる
フィードバックループの応答を制御する変数であり、次
式(17)により与えられる。
【0034】 r=2×bit_rate/picture_rate (17) なお、符号化開始時におけるI,P,Bの各ピクチャに
対する仮想バッファの初期値は、式(18)〜式(2
0)で与えられる。
【0035】 d0 i=10×r/31 (18) d0 p=Kp・d0 i (19) d0 b=Kb・d0 i (20) 次に、ステップS103において、ステップ102で求
められた量子化スケールコードを、視覚的に劣化の目立
ち易い平坦部でより細かく量子化し、劣化の比較的目立
ち難い絵柄の複雑な部分で粗く量子化するように、各マ
クロブロック毎のアクティビィティと呼ばれる変数によ
って変化させる。
【0036】ここで、j番目のマクロブロックのアクテ
ィビティactjは、原画の輝度信号画素値を用い、フ
レーム離散コサイン変換モードにおける4個のブロック
と、フィールド離散コサイン変換モードにおける4個の
ブロックとの、合計8ブロックの画素値を用いて、次式
(21)〜式(23)で与えられる。
【0037】
【数2】
【0038】なお、式(22)及び式(23)中のCk
は、原画の輝度信号ブロック内画素値である。また、式
(21)において最小値を採るのは、マクロブロック内
の一部だけでも平坦部分のある場合には量子化を細かく
するためである。
【0039】更に、次式(24)により、その値が0.
5〜2の範囲を取る正規化アクティビティNactjを求め
る。
【0040】 Nactj=(2×actj+avg_act)/(actj+2×avg_act) (24) なお、式中のavg_actは、直前に符号化したピクチャで
のアクティビティactjの平均値である。
【0041】また、j番目のマクロブロックにおける視
覚特性を考慮した量子化スケールコードmquantjは、ス
テップS102で得られた量子化スケールコードQj
基に次式(25)で与えられる。
【0042】 mquantj=Qj×Nactj (25) MPEG2 Test Model5における符号量制御
は、以上説明したような流れで行われる。
【0043】ところで、MPEG2 Test Mod
el5において定められた上記符号量制御方式には、以
下の制限のあることが知られており、実際の符号量制御
を行う場合には、これらの制限に対する対策が必要とな
る。すなわち、第一の制限は、前記ステップS101で
はシーンチェンジに対応出来ず、また、シーンチェンジ
後には前記ステップS103で用いる媒介変数avg_act
が間違った値となるということである。第二の制限は、
MPEG2及びMPEG4において規定されているVB
V(Video Buffer Verifier)の拘束条件を満たす保証
がないことである。
【0044】また、文献”MPEG圧縮効率の理論解析
とその符号量制御への応用”(信学技報、IE−95,
DSP95−10,1995年5月、以下これを文献2
と呼ぶ)でも述べられている通り、上記MPEG2 T
est Model5で定められている符号量制御方式
は、MPEG2画像符号化の際に、必ずしも良好な画質
を与えるものではない。
【0045】したがって、同文献では、特に、良好な画
質を与えるための、GOP内における各フレーム毎の最
適な符号量配分を与える手法として、以下の方式を提案
している。すなわち、NI,NP,NBを、GOP内にお
いてまだ符号化されていないI,P,Bピクチャの枚数
とし、これらに割り当てられる符号量をRI,RP,R B
とし、さらに、下記式(26)に示す固定レート条件の
元に、それぞれにおける量子化ステップサイズをQI
P,QBとし、mを量子化ステップサイズと再生誤差分
散を関係付ける次数(すなわち、量子化ステップサイズ
をm乗したものの平均値の最小化が再生誤差分散を最低
にすると仮定する)としたとき、下記式(27)を最小
にすることが、上記文献2に記載されている。
【0046】 R=NI・RI+NP・RP+NB・RB (26) (NI・QI m+NP・QP m+NB・QB m)/(NI+NP+NB) (27) なお、それぞれのフレームにおける平均量子化スケール
Q及び符号量Rは、上記MPEG2 Test Mod
el5でも用いられる媒体変数である各フレームのコン
プレキシティXとの間で次式(28)のように関係付け
られる。
【0047】 Q・Ra=X (28) また、上記式(28)の関係も考慮しつつ、式(26)
の拘束条件の元に、式(27)を最小にするRI,RP
Bを、ラグランジェの未定乗数法を用いて算出する
と、最適なRI,RP,RBとして下記式(29)〜式
(31)のような値が求められる。
【0048】 RI=R/{1+NP(XP/XI)m/(1+ma)+NB(XB/XI)m/(1+ma)} (29) RP=R/{NP+NB(XB/XP)m/(1+ma)} (30) RB=R/{NB+NP(XP/XB)m/(1+ma)} (31) ここで、a=1として、上記式(29)〜式(31)
と、MPEG2 Test Model5で定められた
符号量制御方式における前記式(8)〜式(10)との
関係は、以下の通りであると言える。すなわち、式(2
9)〜式(31)は、符号量制御の媒介変数である
p,Kbを、各フレームのコンプレキシティX I,XP
Bに応じて、次式(32)のように適応的に算出して
いることに他ならない。
【0049】 Kp={XI/XP}1/(1+m);Kb={XI/XB}1/(1+m) (32) なお、文献2では、1/(1+m)の値として、0.6
〜1.2程度に設定することで良好な画質が得られるこ
とが示されている。
【0050】
【発明が解決しようとする課題】しかしながら、図7の
画像情報変換装置のMPEG4画像情報符号化部(I/
P−VOP)115において、MPEG2 Test
Model5にて定められたのと同様な手法を用いて符
号量制御を行った場合は、例えばいわゆるシーンチェン
ジ等に起因するGOP内でのコンプレキシティの変化に
対応することが不可能であるため、安定した符号量制御
が困難となり、画質劣化を引き起こすことが考えられ
る。
【0051】そこで、本発明は、このような実情に鑑み
てなされたものであり、シーンチェンジに起因する画質
劣化を引き起こすことなく、画像圧縮情報の変換を可能
とする、画像情報変換装置及び方法を提供することを目
的とする。
【0052】
【課題を解決するための手段】本発明の画像情報変換装
置は、画像内符号化画像と画像間予測符号化画像からな
る第1の画像符号化情報を、第2の画像符号化情報へ変
換する画像情報変換装置であり、上記第1の画像符号化
情報を構成する画像の複雑さを示す変数を抽出する情報
抽出手段と、上記抽出された変数に基づいて上記第1の
画像符号化情報を構成する画像の切り替わりを検出する
切り替わり検出手段と、上記切り替わり検出手段からの
検出出力に基づいて上記第2の画像符号化情報の画像内
符号化画像と画像間予測符号化画像の所定期間内におけ
る構成を決定する構成決定手段と、上記第2の画像符号
化情報を構成する各画像に対する目標符号量を上記抽出
された変数に基づいて算出し、上記構成決定手段により
決定された所定期間内の画像の構成と上記目標符号量と
に基づいて、上記第1の画像符号化情報が復号された画
像を符号化して上記第2の画像符号化情報を生成する符
号化手段とを有し、上記第1の画像符号化情報を構成し
ていた上記画像内符号化画像が上記第2の画像符号化情
報を構成する画像へ変換される際に、上記切り替わり検
出手段は、当該画像内符号化画像が上記切り替わりの画
像であるか、或いは、当該画像内符号化画像が含まれる
第1の所定期間の直前の第2の所定期間内に上記切り替
わりの画像が存在するかを検出することにより、上述し
た課題を解決する。
【0053】また、本発明の画像情報変換方法は、画像
内符号化画像と画像間予測符号化画像からなる第1の画
像符号化情報を、第2の画像符号化情報へ変換する画像
情報変換方法であり、上記第1の画像符号化情報を構成
する画像の複雑さを示す変数を抽出し、上記抽出された
変数に基づいて上記第1の画像符号化情報を構成する画
像の切り替わりを検出し、上記画像の切り替わりの検出
出力に基づいて上記第2の画像符号化情報の画像内符号
化画像と画像間予測符号化画像の所定期間内における構
成を決定し、上記第2の画像符号化情報を構成する各画
像に対する目標符号量を上記抽出された変数に基づいて
算出し、上記決定された所定期間内の画像の構成と上記
目標符号量とに基づいて、上記第1の画像符号化情報が
復号された画像を符号化して上記第2の画像符号化情報
を生成し、上記第1の画像符号化情報を構成していた上
記画像内符号化画像が上記第2の画像符号化情報を構成
する画像へ変換されるとき、上記切り替わり検出の際に
は、当該画像内符号化画像が上記切り替わりの画像であ
るか、或いは、当該画像内符号化画像が含まれる第1の
所定期間の直前の第2の所定期間内に上記切り替わりの
画像が存在するかを検出することにより、上述した課題
を解決する。
【0054】すなわち、本発明によれば、例えば、入力
となるMPEG2画像圧縮情報(ビットストリーム)に
おけるI/Pピクチャでの発生符号量(ビット数)及び
平均量子化スケールから、出力となるMPEG4画像圧
縮情報(ビットストリーム)の各VOPに対するコンプ
レキシティの推定値を算出し、また、IピクチャからP
−VOPに変換されるVOP及びその直前のGOVに含
まれるVOPのコンプレキシティやIピクチャの画素値
の平均値を用いて、当該IピクチャからP−VOPに変
換されるVOP及びその直前のGOVにシーンチェンジ
が含まれているかどうかを検出し、そのシーンチェンジ
の検出結果に応じてGOV構造の再構成を行うようにし
ている。
【0055】
【発明の実施の形態】以下、本発明の好ましい実施の形
態について、図面を参照しながら説明する。
【0056】図1には、本発明の第1の実施の形態の画
像情報変換装置の概略構成を示す。
【0057】この図1において、入力端子1に供給され
た飛び越し走査のMPEG2画像圧縮情報(ビットスト
リーム)は、先ずピクチャタイプ判別部8に入力する。
【0058】当該ピクチャタイプ判別部8は、I/Pピ
クチャに関する情報については出力して圧縮情報解析部
9へ送るが、Bピクチャに関する情報については破棄す
る。これによりフレームレートの変換が行われる。
【0059】圧縮情報解析部9では、ピクチャタイプ判
別部8から送られてきた画像圧縮情報の構文解析を行う
ことにより、当該MPEG2画像圧縮情報の符号化に関
連する情報を抽出し、その符号化に関連する情報を情報
バッファ16へ送り、また、当該MPEG2動きベクト
ル情報を動きベクトル合成部14へ送り、画像圧縮情報
についてはMPEG2画像情報復号化部(I/Pピクチ
ャ)10へ送る。
【0060】MPEG2画像情報復号化部(I/Pピク
チャ)10は、図7に示した装置のものと同等である。
Bピクチャに関する情報は前段のピクチャタイプ判別部
8において既に破棄されているため、当該MPEG2画
像情報復号化部10の機能としては、I/Pピクチャに
関する情報のみの復号化処理を行えるものであれば良
い。MPEG2画像情報復号化部(I/Pピクチャ)1
0の出力となる画素値は、間引き部11に入力される。
【0061】当該間引き部11は、水平方向については
1/2の間引き処理を施し、垂直方向については第一フ
ィールド若しくは第二フィールドのどちらか一方のデー
タのみを残し、もう一方を廃棄することにより、入力と
なる画像情報の1/4の大きさを持つ順次走査画像を生
成する。ここで例えば、入力端子1へ供給されたMPE
G2画圧縮情報(ビットストリーム)がNTSC(Nati
onal Television System Committee)の規格に準拠した
もの、つまり720×480画素、30Hzの飛び越し
走査画像であった場合、上記間引き後の画枠は360×
240画素ということになる。但し、後続のMPEG4
画像情報符号化部(I/P−VOP)115において符
号化を行う際、マクロブロック単位の処理を行うには、
水平方向、垂直方向ともに、その画素数が16の倍数で
ある必要がある。したがって、当該間引き部11は、上
記間引きと同時に、上記画素数を16の倍数にするため
の画素の補填若しくは廃棄を同時に行う。すなわち、こ
の例の場合の間引き部11は、例えば上記360×24
0画素に対して、例えば水平方向の右端若しくは左端の
8ラインを廃棄することで、上記16の倍数である35
2×240画素の画枠を構成する。当該間引き部11に
よって生成された順次走査画像は、一旦、ビデオメモリ
12に蓄積された後、後段のMPEG4画像情報符号化
部(I/P−VOP)13の要求に応じて読み出され
る。
【0062】また、動きベクトル合成部14では、MP
EG2画像圧縮情報(ビットストリーム)から取り出さ
れたMPEG2動きベクトル情報を、上記間引き後の画
像情報に対する動きベクトルにマッピングし、さらに次
段の動きベクトル検出部15では、動きベクトル合成部
14において合成された動きベクトル値と、ビデオメモ
リ12に記憶された画像情報とを元に、高精度の動きベ
クトルを検出する。この検出された動きベクトルは、M
PEG4画像情報符号化部(I/P−VOP)13に送
られる。
【0063】上記MPEG4画像情報符号化部(I/P
−VOP)13では、情報バッファ16に保持された前
記MPEG2画像圧縮情報の符号化に関連する情報に基
づいて後述するコンプレキシティ算出部17が算出した
コンプレキシティと、上記動きベクトル検出部15から
の動きベクトル情報とを用い、上記ビデオメモリ12か
ら供給された順次走査画像の信号を符号化してMPEG
4画像圧縮情報(ビットストリーム)を生成する。当該
MPEG4画像圧縮情報は、出力端子2から後段へ出力
される。
【0064】ここで、この図1の構成のうち、ピクチャ
タイプ判別部8、MPEG2画像情報復号化部10から
MPEG4画像情報符号化部13までの主系列の構成
と、動きベクトル合成及び検出のための各構成要素は、
図7に示した画像情報変換装置の対応する各構成要素と
略々同様であるが、図1に示す第1の実施の形態の画像
情報変換装置は、さらに圧縮情報解析部9と情報バッフ
ァ16及びコンプレキシティ算出部17を備え、圧縮情
報解析部9が入力MPEG2画像圧縮情報から抽出した
MPEG2画像圧縮情報の符号化に関連する情報を、情
報バッファ16に蓄積し、さらにコンプレキシティ算出
部17でコンプレキシティを算出し、MPEG4画像情
報符号化部13での符号化の際の符号量制御に当該コン
プレキシティを利用することにより、シーンチェンジが
発生した場合でも安定した符号量制御を実現し、画質劣
化の発生を回避可能としている。
【0065】以下、図1の圧縮情報解析部9、情報バッ
ファ16及びコンプレキシティ算出部17の動作と、コ
ンプレキシティ算出部17で得られたコンプレキシティ
に基づいて、MPEG4画像情報符号化部13で符号量
制御を行う際の動作について、図2を用いて説明する。
【0066】図1の圧縮情報解析部9は、先ずステップ
S1の処理として、上記MPEG2画像圧縮情報の符号
化に関連する情報を抽出する。すなわち、圧縮情報解析
部9は、MPEG2画像情報の復号処理において用いら
れる、GOP内の各フレームに対する量子化スケールの
当該フレーム全体に渡る平均値Qと、入力となるMPE
G2画像圧縮情報(ビットストリーム)のフレームに割
り当てられた総符号量(ビット数)RFとを、MPEG
2画像圧縮情報から抽出して情報バッファ16に送る。
当該情報バッファ16に格納された上記量子化スケール
の平均値Q及び上記総符号量RFは、コンプレキシティ
算出部15からの要求により読み出される。
【0067】コンプレキシティ算出部15では、ステッ
プS2の処理として、情報バッファ16から読み出され
た上記フレーム毎の量子化スケールの平均値Q及び上記
総符号量RFを用い、当該フレームに対するコンプレキ
シティXを式(33)により算出する。
【0068】 X=Q・RF (33) 上記式(33)により算出された、当該フレームに対す
るコンプレキシティXは、1GOV(Group of Video Ob
ject plane)分バッファリングされた後、MPEG4画
像情報符号化部(I/P−VOP)13に符号量制御の
ための媒介変数として伝送される。なお、このように、
コンプレキシティ算出の際には1GOV分のバッファリ
ングが行われるため、それに対応して主系列の画像信号
も1GOV分遅延させる必要があり、当該1GOV分の
画像信号の遅延は、上記ビデオメモリ12により実現さ
れている。
【0069】MPEG4画像情報符号化部(I/P−V
OP)13では、ステップS3の処理として、上記コン
プレキシティXを用いて目標符号量(ターゲットビット
量)を算出する。以下、式(33)において算出され
た、GOV内の各フレームに対するコンプレキシティX
が、MPEG4画像情報符号化部(I/P−VOP)1
3においてどのように用いられるかについて述べる。な
お、以下の説明では、例えばピクチャタイプ判別部8が
装置内に存在せず、フレームレートの変換を行わない場
合をも考慮することにする。
【0070】先ず、前記式(32)によって求められた
p,Kbの意味するところは、I−VOPに対する理想
的な平均量子化スケールQi_idealと、P−VOP又は
B−VOPに対する理想的な平均量子化スケールQ
p_ideal又はQb_idealとの比が、次式(34)の関係を
有するということである。
【0071】 Qp_ideal/Qi_ideal=Kp;Qb_ideal/Qi_ideal=Kb (34) また、前記MPEG2 Test Model5では、
式(32)のように適応的にKp,Kbを算出することを
行わず、前記式(7)に示したような固定値を用いてい
る。
【0072】これら式(32)及び式(34)から、或
るVOP1と或るVOP2に対するコンプレキシティを
それぞれX1,X2とし、理想的な量子化スケールをQ
1_idea l,Q2_idealとすれば、次式(35)となる。
【0073】 Q2_ideal/Q1_ideal=(X1/X2)1/(1+m)≡K(X1,X2) (35) 或いはまた、MPEG2 Test Model5のよ
うに、前記式(7)に示した固定値を用いたい場合に
は、式(35)に代えて、次式(36)とすれば良い。
【0074】
【数3】
【0075】ここで、GOV内の未符号化VOPに対し
て割り当てられる総符号量(ビット数)をRとし、この
総符号量Rが各VOPに対してR1,R2,…,Rnとい
ったように割り当てられる(配分される)時、当該GO
Vに対する画質が最適化されるものとする。なお、Rと
1,R2,…,Rnの間には、次式(37)の関係が成
り立つ。
【0076】 R=R1+R2+,…,+Rn (37) また、或るVOPkに対する平均量子化スケールQk
割当符号量Rk,コンプレキシティXkの間には、下記式
(38)の関係があることにも注意して、上記式(3
7)を変形すれば下記式(39)のようになる。
【0077】 Xk=Qk・Rk (38) R=R/{(R1+R2+…+Rn)/R1} =R/(1+R2/R1+…+Rn/R1) =R/{1+(Q1/Q2)(X2/X1)+…+(Q1/Qn)(Xn/X1)} =R/[1+{1/K(X1,X2)}(X2/X1)+…+{1/K(X1,Xn)}(Xn/X1)] (39) なお、この式(39)において、K(X1,X2)に関し
ては、前記式(35)に示した値を用いても、式(3
6)に示した値を用いても良いが、前者の方が、画像に
応じた、より最適な符号量配分を実現することが可能で
ある。その際、1/(1+m)の値を1.0と設定する
ことで、指数演算を行うことが不要となり、高速な実行
が可能となる。また、1/(1+m)の値を1.0以外
に設定する場合にも、予めテーブルを持ち、これを参照
して指数演算を行うことで高速な実行が可能となる。
【0078】上記式(39)における各VOPに対する
コンプレキシティXkは、MPEG4画像符号化による
ものであるが、MPEG2画像符号化による各フレーム
に対するコンプレキシティと、MPEG4画像符号化に
よる各フレームに対するコンプレキシティが等しいと仮
定すれば、コンプレキシティ算出部17に格納されたX
kを用いることで、式(39)から当該VOPに対する
目標符号量を算出することが可能である。
【0079】前記MPEG2 Test Model5
では、GOP内におけるI,P,Bピクチャに対するコ
ンプレキシティXi,Xp,Xbは一定であると仮定して
いるが、実際には、シーンチェンジをGOP内に含む場
合や、GOP内で背景が著しく変化する場合等ではこの
仮定が成り立たず、安定した符号量制御の妨げとなり、
画質劣化の要因ともなる。これに対し、図1に示した第
1の実施の形態の画像情報変換装置においては、そのよ
うな場合にも、入力となるMPEG2画像圧縮情報(ビ
ットストリーム)における、各フレームに対するコンプ
レキシティに基づいた符号量制御を行うため、画質劣化
を引き起こすことなく、安定した符号量制御を行うこと
が可能となっている。
【0080】ところで、図1に示した画像情報変換装置
を用いて、GOP構造が例えばn=15;m=3のMP
EG2画像圧縮情報(ビットストリーム)の変換を行っ
た場合、出力として得られるのはGOV構造がn=5;
m=1のMPEG4画像圧縮情報(ビットストリーム)
である。しかしながら、この場合のMPEG4画像圧縮
情報(ビットストリーム)は、単位時間当たりのI−V
OPの数が多くなるため、符号化効率が低くなり、ま
た、伝送ビットレートを高く取れればよいが、そうでな
い場合は良好な画質が得られなくなる虞がある。
【0081】このような場合、例えば、入力となるMP
EG2画像圧縮情報(ビットストリーム)においてIピ
クチャであった画像をP−VOPに変換し、GOVの伸
展を行うような手法を用いれば、単位時間当たりのI−
VOPの数を減らすことができ、上記符号化効率の低下
を避けつつ、画質劣化の問題をも解決することができる
と考えられる。
【0082】但し、当該手法は2つの問題点を有する。
第1の問題点は、元々Iピクチャであった画像には動き
ベクトル情報が存在しないということである。また、第
2の問題点は、前記式(39)を用いた符号量制御を行
う場合、各VOPに対するコンプレキシティ情報が必要
となるが、IピクチャをP−VOPに変換した場合、元
々のコンプレキシティはIピクチャに関するものである
から変換後のコンプレキシティとして適切な値ではない
ことである。
【0083】一方、上記第1の問題点は、例えば、直前
のPピクチャで用いられていた動きベクトルを元に、一
定のサーチレンジ内で動き検出を行って当該VOPに対
する高精度の動きベクトルを算出することで回避可能で
あると考えられる。また、第2の問題点は、例えば、直
前のPピクチャで用いられていた動きベクトルを元に、
一定のサーチレンジ内で動き検出を行って当該VOPに
対する高精度の動きベクトルを算出することで回避可能
であると考えられる。
【0084】さらに、例えば図3に示すように、入力と
なるMPEG2画像圧縮情報(ビットストリーム)のI
ピクチャが、出力となるMPEG4画像圧縮情報(ビッ
トストリーム)においてP−VOPに変換される場合を
考えてみる。なお、図3中のI0,I1等はそれぞれIピ
クチャを、P0,P1,P2,P3等はそれぞれPピクチャ
を、XI0、XP0、XP1等はIピクチャやPピクチャ
に対応する各コンプレキシティを示し、これら各ピクチ
ャが表示順に並べられた状態を表している。
【0085】この図3において、MPEG2画像圧縮情
報のうち2番目のIピクチャであるI1が、MPEG4
画像圧縮情報のP−VOPに変換されるとする。この
時、符号量制御のためのパラメータであるコンプレキシ
ティとして、上記I1に対しては、直前のPピクチャで
あるP3のコンプレキシティXp3が適用されることにな
る。
【0086】次に、I1が例えばシーンチェンジを含む
画像である場合を考えてみる。この時、I1には多くの
符号量が割り当てられなければならない。しかしなが
ら、上述の通り、I1に対するコンプレキシティとし
て、直前のフレームであるP3のコンプレキシティXp3
が用いられた場合、I1には十分な符号量が割り当てら
れず、画質劣化の原因となる。すなわち、I1のIピク
チャにシーンチェンジが含まれる時には、I1をIピク
チャからP−VOPに変換することで後続のVOPに画
質劣化が伝播するという問題が生じる。
【0087】一方、図3と同様に示される図4におい
て、例えばP2のPピクチャにシーンチェンジが存在し
たとする。この時、P2に対するコンプレキシティXP2
は前後のP−VOPに比較して大きな値を取り、前記式
(39)に基づいた符号量割り当てを行う場合には、特
別な処理を行わなくても、P2により多くの符号量が割
り当てられ、その結果、画質劣化を最小限に抑えること
が可能となり、また、後続のP−VOPに劣化が伝播す
ることもない。したがって、この場合、I1をIピクチ
ャからP−VOPに変換することに問題はないと言え
る。
【0088】以上のことを鑑み、本発明の第2の実施の
形態の画像情報変換装置においては、図5に示すよう
に、新たにシーンチェンジ検出部28及びGOV構造決
定部29を設け、入力となるMPEG2画像圧縮情報
(ビットストリーム)から抽出された各フレームに対す
るコンプレキシティ情報を用い、IピクチャからP−V
OPに変換される予定のフレーム、及びその直前のGO
Vにシーンチェンジが含まれるかどうかを検出し、その
検出結果に応じてIピクチャからP−VOPへの変換を
行うかどうかを決定することにより、IピクチャからP
−VOPに伴う画質劣化を引き起こすことなく、飛び越
し走査のMPEG2画像圧縮情報(ビットストリーム)
を順次走査のMPEG4画像圧縮情報(ビットストリー
ム)に変換して出力可能としている。なお、図5におい
て、図1の各構成要素と同じ動作をする構成要素につい
ては、図1と同じ指示符号を付してそれらの説明を省略
する。すなわち、図5に示す第2の画像情報変換装置に
おいて、シーンチェンジ検出部28及びGOV構造決定
部29以外の各構成要素における動作原理は、図1に示
した第1の実施の形態の画像情報変換装置と同様である
ため、以下では、シーンチェンジ検出部28及びGOV
構造決定部29における動作原理について、前記図3及
び図4と、図6のフローチャートを参照しながら説明す
ることとする。
【0089】すなわち、図5に示す第2の実施の形態の
画像情報変換装置では、図6のフローチャートに示すよ
うに、先ず、画像情報解析部9において、前記図2のス
テップS1と同様に、ステップS11の処理として、入
力となるMPEG2画像圧縮情報(ビットストリーム)
から、各フレームに対する量子化スケールQと符号量R
Fを抽出し、さらに、情報バッファ16及びコンプレキ
シティ算出部17において、図2のステップS2と同様
に、ステップS12の処理として、前記式(33)によ
り各フレームに対するコンプレキシティXを求める。
【0090】次に、本実施の形態の画像情報変換装置の
シーンチェンジ検出部28では、図4で説明したようう
なシーンチェンジが存在(すなわちPピクチャにシーン
チェンジが存在)するかどうかの検出を行い、そのよう
なシーンチェンジが検出されなかった時には、図3で説
明したようなシーンチェンジが存在(すなわちIピクチ
ャにシーンチェンジが存在)するかどうかの検出を行
う。ここで、図4で説明したようなシーンチェンジは存
在しないが、図3で説明したようなシーンチェンジが存
在する場合、GOV構造決定部29では、当該I1のI
ピクチャをP−VOPに変換しないと決定する。或い
は、図3において、IピクチャからP−VOPへの変換
は行うが、I1に対する符号量制御のための変数である
コンプレキシティの値として、XP2ではなく、当該I1
に対応したコンプレキシティXI1の値を用いることにす
る。
【0091】以上のことを実現するため、シーンチェン
ジ検出部28は、図4で説明したようなシーンチェンジ
を検出するためのパラメータであるθ1と、図3で説明
したようなシーンチェンジを検出するためのパラメータ
であるθ2を予め格納しており、先ず、Ii(i=0,
…,3)として、I0のIピクチャに対応するコンプレ
キシティXI0及びP0〜P3の各Pピクチャに対応するコ
ンプレキシティXP0〜X P3について、図6のステップS
13のように式(40)がどれかのiに対して成り立つ
か否か判定し、式(40)が成り立つと判定した時、シ
ーンチェンジ検出部28は、図4で説明したようなシー
ンチェンジが存在すると検出する。
【0092】 XPi/XI0>θ1 (40) なお、図4に示したようなシーンチェンジの検出は、式
(40)に述べたようにコンプレキシティを用いた方法
に限らない。例えば、画面の複雑さを示す変数として、
ビデオメモリ22に格納された、I0に対応する画素値
のVOP全体に渡る平均MeanI0と、P0〜P3に対す
る画素値のVOP全体に渡る平均MeanPiとを用い、
次式(41)がどれかのiに対して成り立つ時、図4に
示したようなシーンチェンジが存在すると検出するよう
にしても良い。
【0093】 |MeanPi−MeanI0|>θ1 (41) 上記MeanI0及びMeanPiは、ビデオメモリ22に
格納された間引き後の画素値ではなく、入力となるMP
EG2画像庄縮情報(ビットストリーム)を復号して得
られた画素値を用いても良い。
【0094】次に、ステップS13において、式(4
0)が成り立たないと判定した時、シーンチェンジ検出
部28は、図3に示したシーンチェンジが存在するかど
うかの検出を行う。すなわち、シーンチェンジ検出部2
8は、θ2及びI0,I1に対するコンプレキシティ
I0,XI1を用い、ステップS14の処理として、次式
(42)が成り立つか否か判定し、式(42)が成り立
つと判定した時、図3に示したようなシーンチェンジが
存在すると検出する。
【0095】 |XI1−XI0|>θ2 (42) なお、図3に示したようなシーンチェンジの検出は、式
(42)に述べたようにコンプレキシティを用いた方法
に限らない。例えば、画面の複雑さを示す変数として、
ビデオメモリ22に格納された、I0に対応する画素値
のVOP全体に渡る平均MeanI0と、I1に対応する
画素値のVOP全体に渡る平均MeanI 1とを用い、次
式(43)が成り立つ時、図3に示すようなシーンチェ
ンジが存在するとしても良い。
【0096】 |MeanIi−MeanI0|>θ2 (43) 以上述べてきた方法により、シーンチェンジ検出部28
において、図3又は図4に示すようなシーンチェンジが
存在するかどうかの検出を行い、図4に示したようなシ
ーンチェンジが存在することの検出がなされた場合、G
OV構造決定部29では、ステップS15の処理とし
て、I1に対してIピクチャからP−VOPへの変換を
行うようにする。一方、図4に示したようなシーンチェ
ンジは存在しないが、図3に示したようなシーンチェン
ジが検出される場合、GOV構造決定部29では、ステ
ップS16の処理として、I1に対してIピクチャから
P−VOPへの変換を行わない。或いは、Iピクチャか
らP−VOPへの変換は行うが、I1に対する符号量制
御のための変数であるコンプレキシティの値として、X
P2ではなく、当該I1に対応したコンプレキシティXI1
の値を用いてMPEG4符号化処理の符号量制御が行わ
れるようにする。
【0097】なお、以上説明した実施の形態では、入力
としてMPEG2画像圧縮情報(ビットストリーム)
を、出力としてMPEG4画像圧縮情報(ビットストリ
ーム)を対象としてきたが、入力、出力ともこれに限ら
ず、例えばMPEG−1やH.263などの画像圧縮情
報(ビットストリーム)でも良い。
【0098】
【発明の効果】以上の説明からも明らかなように、本発
明においては、第1の画像符号化情報を構成する画像の
複雑さを示す変数に基づいて画像の切り替わりを検出
し、その画像の切り替わりの検出出力に基づいて第2の
画像符号化情報の画像内符号化画像と画像間予測符号化
画像の所定期間内における構成を決定し、その構成と第
2の画像符号化情報を構成する各画像に対する目標符号
量とに基づいて、第2の画像符号化情報を生成する場合
において、第1の画像符号化情報を構成していた画像内
符号化画像が第2の画像符号化情報を構成する画像へ変
換されるとき、当該画像内符号化画像が切り替わりの画
像であるか、或いは、当該画像内符号化画像が含まれる
第1の所定期間の直前の第2の所定期間内に切り替わり
の画像が存在するかを検出することにより、シーンチェ
ンジに起因する画質劣化を引き起こすことなく、安定し
た符号量制御により、画像圧縮情報の変換を実現可能で
ある。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態の画像情報変換装置
の概略構成を示すブロック回路図である。
【図2】第1の実施の形態の画像情報変換装置における
符号量制御の流れを示すフローチャートである。
【図3】Iピクチャにシーンチェンジが存在する場合の
問題点の説明に用いる図である。
【図4】Iピクチャにシーンチェンジが存在しない場合
の説明に用いる図である。
【図5】本発明の第2の実施の形態の画像情報変換装置
の概略構成を示すブロック回路図である。
【図6】第2の実施の形態の画像情報変換装置における
符号量制御の流れを示すフローチャートである。
【図7】従来の画像情報変換装置の概略構成を示すブロ
ック回路図である。
【図8】MPEG2 Test Model5に述べら
れている符号量制御方式の動作原理の説明に用いるフロ
ーチャートである。
【符号の説明】
8 ピクチャタイプ判別部、 9 画像情報解析部、
10 MPEG2画像情報復号化部(I/Pピクチ
ャ)、 11 間引き部、 12 ビデオメモリ、13
MPEG4画像情報符号化部(I/P−VOP)、
14 動きベクトル合成部、 15 動きベクトル検出
部、 16 情報バッファ、 17 コンプレキシティ
算出部、 28 シーンチェンジ検出部、 29 GO
V構造決定部
───────────────────────────────────────────────────── フロントページの続き (72)発明者 鈴木 輝彦 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 (72)発明者 矢ケ崎 陽一 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 Fターム(参考) 5C059 KK41 MA00 PP05 PP06 TA50 TC10 TC12 TC14 TC19 TD03 TD06 UA05 UA38 5C063 AB03 BA01 BA04 CA23 5J064 AA02 BA01 BA16 BB03 BC01 BC21 BD02

Claims (28)

    【特許請求の範囲】
  1. 【請求項1】 画像内符号化画像と画像間予測符号化画
    像からなる第1の画像符号化情報を、第2の画像符号化
    情報へ変換する画像情報変換装置において、 上記第1の画像符号化情報を構成する画像の複雑さを示
    す変数を抽出する情報抽出手段と、 上記抽出された変数に基づいて、上記第1の画像符号化
    情報を構成する画像の切り替わりを検出する切り替わり
    検出手段と、 上記切り替わり検出手段からの検出出力に基づいて、上
    記第2の画像符号化情報の画像内符号化画像と画像間予
    測符号化画像の所定期間内における構成を決定する構成
    決定手段と、 上記第2の画像符号化情報を構成する各画像に対する目
    標符号量を上記抽出された変数に基づいて算出し、上記
    構成決定手段により決定された所定期間内の画像の構成
    と上記目標符号量とに基づいて、上記第1の画像符号化
    情報が復号された画像を符号化して上記第2の画像符号
    化情報を生成する符号化手段とを有し、 上記第1の画像符号化情報を構成していた上記画像内符
    号化画像が上記第2の画像符号化情報を構成する画像へ
    変換される際に、上記切り替わり検出手段は、当該画像
    内符号化画像が上記切り替わりの画像であるか、或い
    は、当該画像内符号化画像が含まれる第1の所定期間の
    直前の第2の所定期間内に上記切り替わりの画像が存在
    するかを検出することを特徴とする画像情報変換装置。
  2. 【請求項2】 上記切り替わり検出手段は、上記第2の
    所定期間内に上記切り替わりの画像があるかを検出する
    ための第1のパラメータと、上記第1の所定期間内の当
    該画像内符号化画像が上記切り替わりの画像であるかを
    検出するための第2のパラメータとを予め有し、上記第
    1,第2のパラメータと上記変数とを用いて上記画像の
    切り替わりを検出することを特徴とする請求項1記載の
    画像情報変換装置。
  3. 【請求項3】 上記変数は、上記第1の画像符号化情報
    を構成する画像に対する平均量子化スケールを表す値
    と、当該画像に割り当てられた符号量を表す値との積に
    より表されるコンプレキシティであることを特徴とする
    請求項2記載の画像情報変換装置。
  4. 【請求項4】 上記第1の画像符号化情報を構成してい
    た上記画像内符号化画像が上記第2の画像符号化情報を
    構成する画像へ変換される際、上記切り替わり検出手段
    は、上記第2の所定期間内に含まれる複数の画像間予測
    符号化画像についての上記コンプレキシティの何れか
    と、上記第2の所定期間内に含まれる画像内符号化画像
    についての上記コンプレキシティとの比の値が、上記第
    1のパラメータより大きいとき、上記第2の所定期間内
    に上記画像の切り替わりが含まれると検出することを特
    徴とする請求項3記載の画像情報変換装置。
  5. 【請求項5】 上記切り替わり検出手段は、上記第2の
    所定期間内に上記切り替わりの画像が含まれないと判定
    したとき、上記第1の所定期間内の当該画像内符号化画
    像が上記切り替わりの画像であるかを判定することを特
    徴とする請求項4記載の画像情報変換装置。
  6. 【請求項6】 上記切り替わり検出手段は、上記第1の
    所定期間内の当該画像内符号化画像についての上記コン
    プレキシティと、上記第2の所定期間内に含まれる画像
    内符号化画像についての上記コンプレキシティとの差の
    絶対値が、上記第2のパラメータより大きいとき、上記
    第1の所定期間内の当該画像内符号化画像が上記切り替
    わり画像であると検出することを特徴とする請求項5記
    載の画像情報変換装置。
  7. 【請求項7】 上記第1の所定期間内の画像内符号化画
    像が上記切り替わり画像であると検出されたとき、上記
    構成決定手段は、当該切り替わり画像であると検出され
    た画像内符号化画像を、上記第2の画像符号化情報を構
    成する画像内符号化情報とすることを特徴とする請求項
    6記載の画像情報変換装置。
  8. 【請求項8】 上記第1の所定期間内の画像内符号化画
    像が上記切り替わり画像であると検出されたとき、上記
    構成決定手段は、当該切り替わり画像であると検出され
    た画像内符号化画像を、上記第2の画像符号化情報を構
    成する画像間予測符号化画像にすると共に、当該切り替
    わり画像であると検出された画像内符号化画像に対応し
    て算出された目標符号量を用いて符号化を行うことを特
    徴とする請求項7記載の画像情報変換装置。
  9. 【請求項9】 上記変数は、第1の画像符号化情報を復
    号して上記第2の画像符号化情報へ符号化する前の復号
    画像の画素値の平均値であることを特徴とする請求項2
    記載の画像情報変換装置。
  10. 【請求項10】 上記第1の画像符号化情報を構成して
    いた上記画像内符号化画像が上記第2の画像符号化情報
    を構成する画像へ変換される際、上記切り替わり検出手
    段は、上記第2の所定期間内に含まれる複数の画像間予
    測符号化画像についての上記平均値の何れかと、上記第
    2の所定期間内に含まれる画像内符号化画像についての
    上記平均値との差の絶対値が、上記第1のパラメータよ
    り大きいとき、上記第2の所定期間内に上記画像の切り
    替わりが含まれると検出することを特徴とする請求項9
    記載の画像情報変換装置。
  11. 【請求項11】 上記切り替わり検出手段は、上記第2
    の所定期間内に上記切り替わりの画像が含まれないと判
    定したとき、上記第1の所定期間内の当該画像内符号化
    画像が上記切り替わりの画像であるかを判定することを
    特徴とする請求項10記載の画像情報変換装置。
  12. 【請求項12】 上記切り替わり検出手段は、上記第1
    の所定期間内の当該画像内符号化画像についての上記平
    均値と、上記第2の所定期間内に含まれる画像内符号化
    画像についての上記平均値との差の絶対値が、上記第2
    のパラメータより大きいとき、上記第1の所定期間内の
    当該画像内符号化画像が上記切り替わり画像であると検
    出することを特徴とする請求項11記載の画像情報変換
    装置。
  13. 【請求項13】 上記第1の所定期間内の画像内符号化
    画像が上記切り替わり画像であると検出されたとき、上
    記構成決定手段は、当該切り替わり画像であると検出さ
    れた画像内符号化画像を、上記第2の画像符号化情報を
    構成する画像内符号化情報とすることを特徴とする請求
    項12記載の画像情報変換装置。
  14. 【請求項14】 上記第1の所定期間内の画像内符号化
    画像が上記切り替わり画像であると検出されたとき、上
    記構成決定手段は、当該切り替わり画像であると検出さ
    れた画像内符号化画像を、上記第2の画像符号化情報を
    構成する画像間予測符号化画像にすると共に、当該切り
    替わり画像であると検出された画像内符号化画像に対応
    して算出された目標符号量を用いて符号化を行うことを
    特徴とする請求項13記載の画像情報変換装置。
  15. 【請求項15】 画像内符号化画像と画像間予測符号化
    画像からなる第1の画像符号化情報を、第2の画像符号
    化情報へ変換する画像情報変換方法において、 上記第1の画像符号化情報を構成する画像の複雑さを示
    す変数を抽出し、 上記抽出された変数に基づいて、上記第1の画像符号化
    情報を構成する画像の切り替わりを検出し、 上記画像の切り替わりの検出出力に基づいて、上記第2
    の画像符号化情報の画像内符号化画像と画像間予測符号
    化画像の所定期間内における構成を決定し、 上記第2の画像符号化情報を構成する各画像に対する目
    標符号量を上記抽出された変数に基づいて算出し、上記
    決定された所定期間内の画像の構成と上記目標符号量と
    に基づいて、上記第1の画像符号化情報が復号された画
    像を符号化して上記第2の画像符号化情報を生成し、 上記第1の画像符号化情報を構成していた上記画像内符
    号化画像が上記第2の画像符号化情報を構成する画像へ
    変換されるとき、上記切り替わり検出の際には、当該画
    像内符号化画像が上記切り替わりの画像であるか、或い
    は、当該画像内符号化画像が含まれる第1の所定期間の
    直前の第2の所定期間内に上記切り替わりの画像が存在
    するかを検出することを特徴とする画像情報変換方法。
  16. 【請求項16】 上記切り替わり検出の際には、上記第
    2の所定期間内に上記切り替わりの画像があるかを検出
    するための第1のパラメータと、上記第1の所定期間内
    の当該画像内符号化画像が上記切り替わりの画像である
    かを検出するための第2のパラメータと、上記変数とを
    用いて、上記画像の切り替わりを検出することを特徴と
    する請求項15記載の画像情報変換方法。
  17. 【請求項17】 上記変数は、上記第1の画像符号化情
    報を構成する画像に対する平均量子化スケールを表す値
    と、当該画像に割り当てられた符号量を表す値との積に
    より表されるコンプレキシティであることを特徴とする
    請求項16記載の画像情報変換方法。
  18. 【請求項18】 上記第1の画像符号化情報を構成して
    いた上記画像内符号化画像が上記第2の画像符号化情報
    を構成する画像へ変換されるとき、上記切り替わり検出
    の際には、上記第2の所定期間内に含まれる複数の画像
    間予測符号化画像についての上記コンプレキシティの何
    れかと、上記第2の所定期間内に含まれる画像内符号化
    画像についての上記コンプレキシティとの比の値が、上
    記第1のパラメータより大きいならば、上記第2の所定
    期間内に上記画像の切り替わりが含まれると検出するこ
    とを特徴とする請求項17記載の画像情報変換方法。
  19. 【請求項19】 上記切り替わり検出の際には、上記第
    2の所定期間内に上記切り替わりの画像が含まれないと
    判定したならば、上記第1の所定期間内の当該画像内符
    号化画像が上記切り替わりの画像であるかを判定するこ
    とを特徴とする請求項18記載の画像情報変換方法。
  20. 【請求項20】 上記切り替わり検出の際には、上記第
    1の所定期間内の当該画像内符号化画像についての上記
    コンプレキシティと、上記第2の所定期間内に含まれる
    画像内符号化画像についての上記コンプレキシティとの
    差の絶対値が、上記第2のパラメータより大きいなら
    ば、上記第1の所定期間内の当該画像内符号化画像が上
    記切り替わり画像であると検出することを特徴とする請
    求項19記載の画像情報変換方法。
  21. 【請求項21】 上記第1の所定期間内の画像内符号化
    画像が上記切り替わり画像であると検出されたとき、当
    該切り替わり画像であると検出された画像内符号化画像
    を、上記第2の画像符号化情報を構成する画像内符号化
    情報とすることを特徴とする請求項20記載の画像情報
    変換方法。
  22. 【請求項22】 上記第1の所定期間内の画像内符号化
    画像が上記切り替わり画像であると検出されたとき、当
    該切り替わり画像であると検出された画像内符号化画像
    を、上記第2の画像符号化情報を構成する画像間予測符
    号化画像にすると共に、当該切り替わり画像であると検
    出された画像内符号化画像に対応して算出された目標符
    号量を用いて符号化を行うことを特徴とする請求項21
    記載の画像情報変換方法。
  23. 【請求項23】 上記変数は、第1の画像符号化情報を
    復号して上記第2の画像符号化情報へ符号化する前の復
    号画像の画素値の平均値であることを特徴とする請求項
    16記載の画像情報変換方法。
  24. 【請求項24】 上記第1の画像符号化情報を構成して
    いた上記画像内符号化画像が上記第2の画像符号化情報
    を構成する画像へ変換されるとき、上記切り替わり検出
    の際には、上記第2の所定期間内に含まれる複数の画像
    間予測符号化画像についての上記平均値の何れかと、上
    記第2の所定期間内に含まれる画像内符号化画像につい
    ての上記平均値との差の絶対値が、上記第1のパラメー
    タより大きいならば、上記第2の所定期間内に上記画像
    の切り替わりが含まれると検出することを特徴とする請
    求項22記載の画像情報変換方法。
  25. 【請求項25】 上記切り替わり検出の際には、上記第
    2の所定期間内に上記切り替わりの画像が含まれないと
    判定したならば、上記第1の所定期間内の当該画像内符
    号化画像が上記切り替わりの画像であるかを判定するこ
    とを特徴とする請求項23記載の画像情報変換方法。
  26. 【請求項26】 上記切り替わり検出の際には、上記第
    1の所定期間内の当該画像内符号化画像についての上記
    平均値と、上記第2の所定期間内に含まれる画像内符号
    化画像についての上記平均値との差の絶対値が、上記第
    2のパラメータより大きいならば、上記第1の所定期間
    内の当該画像内符号化画像が上記切り替わり画像である
    と検出することを特徴とする請求項24記載の画像情報
    変換方法。
  27. 【請求項27】 上記第1の所定期間内の画像内符号化
    画像が上記切り替わり画像であると検出されたとき、当
    該切り替わり画像であると検出された画像内符号化画像
    を、上記第2の画像符号化情報を構成する画像内符号化
    情報とすることを特徴とする請求項25記載の画像情報
    変換方法。
  28. 【請求項28】 上記第1の所定期間内の画像内符号化
    画像が上記切り替わり画像であると検出されたとき、当
    該切り替わり画像であると検出された画像内符号化画像
    を、上記第2の画像符号化情報を構成する画像間予測符
    号化画像にすると共に、当該切り替わり画像であると検
    出された画像内符号化画像に対応して算出された目標符
    号量を用いて符号化を行うことを特徴とする請求項26
    記載の画像情報変換方法。
JP2000311317A 2000-10-11 2000-10-11 画像情報変換装置及び方法 Withdrawn JP2002125227A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000311317A JP2002125227A (ja) 2000-10-11 2000-10-11 画像情報変換装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000311317A JP2002125227A (ja) 2000-10-11 2000-10-11 画像情報変換装置及び方法

Publications (1)

Publication Number Publication Date
JP2002125227A true JP2002125227A (ja) 2002-04-26

Family

ID=18791104

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000311317A Withdrawn JP2002125227A (ja) 2000-10-11 2000-10-11 画像情報変換装置及び方法

Country Status (1)

Country Link
JP (1) JP2002125227A (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006033014A (ja) * 2004-07-12 2006-02-02 Hitachi Ltd 映像信号変換装置、変換方法及びこれを用いた映像信号記録装置
US7457471B2 (en) 2002-05-22 2008-11-25 Samsung Electronics Co.. Ltd. Method of adaptively encoding and decoding motion image and apparatus therefor
JP2012199961A (ja) * 2005-09-27 2012-10-18 Qualcomm Inc コンテンツ情報を使用してマルチメディアトランスコーディングを調整するコンテンツ駆動トランスコーダ
US8654848B2 (en) 2005-10-17 2014-02-18 Qualcomm Incorporated Method and apparatus for shot detection in video streaming
US8780957B2 (en) 2005-01-14 2014-07-15 Qualcomm Incorporated Optimal weights for MMSE space-time equalizer of multicode CDMA system
US8948260B2 (en) 2005-10-17 2015-02-03 Qualcomm Incorporated Adaptive GOP structure in video streaming
US9131164B2 (en) 2006-04-04 2015-09-08 Qualcomm Incorporated Preprocessor method and apparatus
US9197912B2 (en) 2005-03-10 2015-11-24 Qualcomm Incorporated Content classification for multimedia processing

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7457471B2 (en) 2002-05-22 2008-11-25 Samsung Electronics Co.. Ltd. Method of adaptively encoding and decoding motion image and apparatus therefor
JP4528043B2 (ja) * 2004-07-12 2010-08-18 株式会社日立製作所 映像信号変換装置、変換方法及びこれを用いた映像信号記録装置
JP2006033014A (ja) * 2004-07-12 2006-02-02 Hitachi Ltd 映像信号変換装置、変換方法及びこれを用いた映像信号記録装置
US8780957B2 (en) 2005-01-14 2014-07-15 Qualcomm Incorporated Optimal weights for MMSE space-time equalizer of multicode CDMA system
US9197912B2 (en) 2005-03-10 2015-11-24 Qualcomm Incorporated Content classification for multimedia processing
US8879857B2 (en) 2005-09-27 2014-11-04 Qualcomm Incorporated Redundant data encoding methods and device
US8879635B2 (en) 2005-09-27 2014-11-04 Qualcomm Incorporated Methods and device for data alignment with time domain boundary
US8879856B2 (en) 2005-09-27 2014-11-04 Qualcomm Incorporated Content driven transcoder that orchestrates multimedia transcoding using content information
US9071822B2 (en) 2005-09-27 2015-06-30 Qualcomm Incorporated Methods and device for data alignment with time domain boundary
US9088776B2 (en) 2005-09-27 2015-07-21 Qualcomm Incorporated Scalability techniques based on content information
US9113147B2 (en) 2005-09-27 2015-08-18 Qualcomm Incorporated Scalability techniques based on content information
JP2012199961A (ja) * 2005-09-27 2012-10-18 Qualcomm Inc コンテンツ情報を使用してマルチメディアトランスコーディングを調整するコンテンツ駆動トランスコーダ
US8654848B2 (en) 2005-10-17 2014-02-18 Qualcomm Incorporated Method and apparatus for shot detection in video streaming
US8948260B2 (en) 2005-10-17 2015-02-03 Qualcomm Incorporated Adaptive GOP structure in video streaming
US9131164B2 (en) 2006-04-04 2015-09-08 Qualcomm Incorporated Preprocessor method and apparatus

Similar Documents

Publication Publication Date Title
JP4517495B2 (ja) 画像情報変換装置及び画像情報変換方法並びに符号化装置及び符号化方法
US11115671B2 (en) System and method for video coding
US9357222B2 (en) Video device finishing encoding within the desired length of time
US9197903B2 (en) Method and system for determining a macroblock partition for data transcoding
JP2002152759A (ja) 画像情報変換装置および画像情報変換方法
JPH0998429A (ja) ディジタル映像信号符号化装置および復号化装置
US20220201306A1 (en) Encoder, decoder, encoding method, and decoding method
US20220329785A1 (en) Encoder, decoder, encoding method, decoding method, and medium
EP1838108A1 (en) Processing video data at a target rate
JP2002125227A (ja) 画像情報変換装置及び方法
JP2002152752A (ja) 画像情報変換装置及び方法
JPH10271494A (ja) 動画符号変換装置
JP4517453B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP4517475B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP4608801B2 (ja) 画像情報変換装置及び方法
JP4517465B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP4264811B2 (ja) 画像復号化装置及び画像復号化方法
JPH10224799A (ja) 画像信号符号化方法及び装置、画像信号復号方法及び装置、並びに画像信号記録媒体
JP4517468B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP2001346214A (ja) 画像情報変換装置及び方法
JP2002010267A (ja) 動きベクトル変換装置及び方法
US7012959B2 (en) Picture information conversion method and apparatus
JP4505992B2 (ja) 画像情報変換装置及び方法
US20220166995A1 (en) Encoder, decoder, encoding method, decoding method, and medium
US20220174305A1 (en) Encoder, decoder, encoding method, and decoding method

Legal Events

Date Code Title Description
A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20080108