JP2002125234A - 画像情報変換装置及び方法 - Google Patents

画像情報変換装置及び方法

Info

Publication number
JP2002125234A
JP2002125234A JP2000311316A JP2000311316A JP2002125234A JP 2002125234 A JP2002125234 A JP 2002125234A JP 2000311316 A JP2000311316 A JP 2000311316A JP 2000311316 A JP2000311316 A JP 2000311316A JP 2002125234 A JP2002125234 A JP 2002125234A
Authority
JP
Japan
Prior art keywords
information
coding
image
motion vector
inter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2000311316A
Other languages
English (en)
Inventor
Kazufumi Sato
数史 佐藤
Kuniaki Takahashi
邦明 高橋
Teruhiko Suzuki
輝彦 鈴木
Takefumi Nagumo
武文 名雲
Yoichi Yagasaki
陽一 矢ケ崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2000311316A priority Critical patent/JP2002125234A/ja
Publication of JP2002125234A publication Critical patent/JP2002125234A/ja
Withdrawn legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

(57)【要約】 【課題】 マクロブロックモード判別を少ない演算量で
実現可能とし、画質劣化を最小限に抑える。 【解決手段】 圧縮情報解析部9はMPEG2画像圧縮
情報を解析して、MPEG2マクロブロックの動きベク
トルを取り出し、動きベクトル合成部14と動きベクト
ル検出部15では、MPEG4画像符号化に必要な動き
ベクトルを合成して高精度化する。また、MPEG2画
像情報復号化部10ではMPEG2画像圧縮情報を復号
化する。インター/インター4V判定部16では、合成
及び高精度化された動きベクトルより求めた分散値Di
stと予め設定した第1,第2の閾値θ1,θ2との比較
に基づいて、MPEG4マクロブロックのインター/イ
ンター4Vモード判定を行う。MPEG4画像情報符号
化部13では、そのマクロブロックモードを用いて画像
情報をMPEG4画像圧縮情報に符号化する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、MPEG(Moving
Picture image coding Experts Group)などのよう
に、離散コサイン変換等の直交変換と動き補償によって
圧縮された画像情報(ビットストリーム)を、例えば衛
星放送、ケーブルテレビジョン、インターネットなどの
ネットワークを介して受信する際、若しくは光、磁気デ
ィスクのような記憶メディア上で処理する際に好適な画
像情報変換装置及び方法に関する。
【0002】
【従来の技術】近年、画像情報をディジタル情報として
取り扱い、その際に、効率の高い情報の伝送、蓄積を目
的とし、画像情報特有の冗長性を利用して、離散コサイ
ン変換等の直交変換と動き補償により当該画像情報を圧
縮するMPEGなどの方式に準拠した装置が、放送局な
どの情報配信、及び一般家庭における情報受信の双方に
おいて普及しつつある。
【0003】特に、MPEG2(ISO/IEC 13
818−2)は、汎用画像符号化方式として定義されて
おり、飛び越し走査画像及び順次走査画像の双方、並び
に標準解像度画像及び高精細画像を網羅する標準とし
て、プロフェッショナル用途及びコンシューマー用途の
広範なアプリケーションに今後とも用いられるものと予
想される。このMPEG2圧縮方式を用いることによ
り、例えば720×480画素を持つ標準解像度の飛び
越し走査画像であれば4M〜8Mbps、1920×1
088画素を持つ高解像度の飛び越し走査画像であれば
18〜22Mbpsの符号量(ビットレート)を割り当
てることで、高い圧縮率と良好な画質の実現が可能であ
る。
【0004】ここで、上述のMPEG2は、主として放
送用に適合する高画質符号化を対象としていたが、MP
EG1より低い符号量(ビットレート)、つまりより高
い圧縮率の符号化方式には対応していなかった。一方、
近年の携帯端末の普及により、今後そのような高い圧縮
率の符号化方式のニーズは高まると思われ、これに対応
してMPEG4符号化方式の標準化が行われた。MPE
G4の画像符号化方式に関しては、1998年12月に
ISO/IEC 14496−2としてその規格が国際
標準に承認されている。
【0005】ところで、ディジタル放送用に一度符号化
されたMPEG2画像圧縮情報(ビットストリーム)
を、携帯端末上などで処理するのにより適した、より低
い符号量(ビットレート)のMPEG4画像圧縮情報
(ビットストリーム)に変換したいというニーズがあ
る。
【0006】かかる目的を達成する画像情報変換装置
(トランスコーダ)として、“Field-to-Frame Transco
ding with Spatial and Temporal Downsampling”(Sus
ie J.Wee, John G. Apostolopoulos, and Nick Feamste
r, ICIP '99、以下これを文献1と呼ぶ)では、図5に
示すような装置が提案されている。
【0007】この図5において、入力端子110に供給
された飛び越し走査のMPEG2画像圧縮情報(ビット
ストリーム)における各フレームのデータは、先ず、ピ
クチャタイプ判別部111に入力する。
【0008】当該ピクチャタイプ判別部111では、各
フレームの入力データがIピクチャ(画像内符号化画
像)/Pピクチャ(前方予測符号化画像)に関するもの
か、Bピクチャ(両方向予測符号化画像)に関するもの
であるかを判別し、前者のときのみ、そのI/Pピクチ
ャに関する情報を後続のMPEG2画像情報復号化部
(I/Pピクチャ)112に出力する。
【0009】MPEG2画像情報復号化部(I/Pピク
チャ)112における処理は通常のMPEG2画像情報
復号化装置と同様である。但し、Bピクチャに関するデ
ータはピクチャタイプ判別部111において廃棄される
ため、MPEG2画像情報復号化部(I/Pピクチャ)
112における機能としてはI / P ピクチャのみを
復号化出来ればよい。MPEG2画像情報復号化部(I
/Pピクチャ)112の出力となる画素値は、間引き部
113に入力される。
【0010】当該間引き部113は、水平方向について
は1/2の間引き処理を施し、垂直方向については第一
フィールド若しくは第二フィールドのどちらか一方のデ
ータのみを残し、もう一方を廃棄することにより、入力
となる画像情報の1/4の大きさを持つ順次走査画像を
生成する。間引き部113によって生成された順次走査
画像は、一旦、ビデオメモリ114に蓄積された後に読
み出され、MPEG4画像情報符号化部(I/P−VO
P)115に入力する。
【0011】ここで、例えば、入力となるMPEG2画
圧縮情報(ビットストリーム)がNTSC(National T
elevision System Committee)の規格に準拠したもの、
つまり720×480画素、30Hzの飛び越し走査画
像であった場合、上記間引き後の画枠は360×240
画素ということになるが、後続のMPEG4画像情報符
号化部(I/P−VOP)115において符号化を行う
際、マクロブロック単位の処理を行うには、水平方向、
垂直方向ともに、その画素数が16の倍数である必要が
ある。したがって、このための画素の補填若しくは廃棄
を上記間引き部113において同時に行う。すなわちこ
のときの間引き部113は、上記画素の補填若しくは廃
棄として、例えば水平方向の右端若しくは左端の8ライ
ンを廃棄して352×240画素とする。
【0012】上記MPEG4画像情報符号化部(I/P
−VOP)115では、入力した順次走査画像の信号を
符号化してMPEG4画像圧縮情報(ビットストリー
ム)を生成し、そのMPEG4画像圧縮情報が出力端子
118から後段へ出力される。その際、入力となるMP
EG2画像圧縮情報(ビットストリーム)中の動きベク
トル情報は、動きベクトル合成部116において間引き
後の画像情報に対する動きベクトルにマッピングされ、
また、動きベクトル検出部117では、動きベクトル合
成部116において合成された動きベクトル値を元に高
精度の動きベクトルを検出する。なお、MPEG4にお
いて、VOP(Video Object Plane)とは、オブジェク
トを囲む1つまたは複数のマクロブロックから構成され
る領域を表し、MPEG2におけるフレームに相当する
ものである。このVOPの領域は、符号化される方式に
したがって、Iピクチャ、Pピクチャ、およびBピクチ
ャのうちのいずれかに分類される。I−VOP(Iピク
チャのVOP)は、動き補償を行うことなく、画像(領
域)そのものが符号化(イントラ符号化)されるもので
ある。P−VOP(PピクチャのVOP)は、基本的に
は、自身より時間的に前に位置する画像(IまたはP−
VOP)に基づいて、前方予測符号化される。B−VO
P(BピクチャのVOP)は、基本的には、自身より時
間的に前と後ろに位置する2つの画像(IまたはP−V
OP)に基づいて両方向予測符号化されるものである。
【0013】上述のように、文献1には、入力となるM
PEG2画像圧縮情報(ビットストリーム)の1/2×
1/2の大きさを持つ順次走査画像のMPEG4画像圧
縮情報(ビットストリーム)を生成する装置に関する技
術が述べられている。すなわち、入力となるMPEG2
画圧縮情報(ビットストリーム)が例えばNTSCの規
格に準拠したものであった場合、出力となるMPEG4
画像圧縮情報はSIFサイズ(352×240)という
ことになるが、上記図5の構成によれば、上記間引き部
113における動作の変更を行うことにより、それ以外
の画枠、例えば上記の例では約1/4×1/4の画枠で
あるQSIF(176×112画素)サイズの画像に変
換することも可能となっている。
【0014】また、文献1には、MPEG2画像情報復
号化(I/Pピクチャ)112における処理として、水
平方向、垂直方向それぞれについて、入力となるMPE
G2画像圧縮情報(ビットストリーム)内の、8次の離
散コサイン変換係数すべてを用いた復号処理を行う装置
について述べられているが、図5に示した装置に関して
はその限りではなく、水平方向のみ、或いは水平方向、
垂直方向ともに、8次の離散コサイン変換係数のうちの
低域成分のみを用いた復号処理を行い、画質劣化を最小
限に抑えながら、復号処理に伴う演算量とビデオメモリ
容量を削減することが可能となされている。
【0015】ところで、図5に示した画像情報変換装置
では、MPEG4画像情報符号化部(I/P−VOP)
115においてP−VOPの符号化を行う際に、各マク
ロブロックを、MPEG4に規定されるイントラ(INTR
A)マクロブロックとして符号化するか、16×16画
素のインター(INTER)マクロブロックとして符号化す
るか、或いは、8×8画素のインター4V(INTER4V)
マクロブロックとして符号化するかの符号化モードのタ
イプ判定を行う必要がある。
【0016】ここで、モード判定の一般的な手法として
は、MPEG−4 Video Verificati
on Model(ISO/IEC JTC1/SC29/WG11 N2932、以
下これを文献2とする)において定められた手法を用い
ることが考えられる。
【0017】以下、図6を参照しながら、文献2におい
て述べられているモード判定(図5のMPEG4画像情
報符号化部(I/P−VOP)115で行われるモード
判定)の手法について述べる。
【0018】先ず、ステップS101として、動きベク
トル検出により、インター動きベクトル及びインター4
V動きベクトルを求める。
【0019】次に、ステップS102において、インタ
ー動きベクトル及びインター4V動きベクトルにより生
成される予測画をそれぞれRefINTER, Ref
INTER4Vで表し、原画をOrgで表すとし、さらに、ス
テップS103において、当該マクロブロックをインタ
ーマクロブロック、及びインター4Vマクロブロックと
して符号化した場合の予測誤差ERRINTER,ERR
INTER4Vをそれぞれ式(1)及び式(2)によって算出
し、また、当該マクロブロックに含まれる画素の平均値
をMean_MBとして、当該マクロブロックをイント
ラマクロブロックとして符号化した場合の予測誤差ER
INTRAを、式(3)のように定義する。
【0020】 ERRINTER =SAD(Org−RefINTER) (1) ERRINTER4v=SAD(Org−RefINTER4v) (2) ERRINTRA =SAD(Org−Mean_MB) (3) なお式中のSADは絶対値誤差和(Sum of Absolute Di
fference)を表す。
【0021】次に、ステップS104として、上記式
(1)及び式(2)で求められた予測誤差ER
INTER,ERRINTER4Vから、インターマクロブロック
として符号化するのと、インター4Vマクロブロックと
して符号化するのと、どちらの符号化効率が良いかの判
定を行う。すなわち、式(4)が成立すれば、インター
マクロブロックとして符号化した方が符号化効率が良い
とし、成立しなければインター4Vマクロブロックとし
て符号化した方が符号化効率が良いと判定する。
【0022】 ERRINTER−Offset<ERRINTER4v (4) なおこの式(4)において、Offsetはインターマ
クロブロックを選ばれ易くするためのパラメータで、文
献2においては129と定められている。
【0023】次に、式(4)によってインターマクロブ
ロックが選ばれた場合、パラメータERRを式(5)の
ように定義し、一方、インター4Vマクロブロックが選
ばれた場合、パラメータERRを式(6)のように定義
する。
【0024】 ERR=ERRINTER (5) ERR=ERRINTER4V (6) 次に、上記パラメータERR及び前記式(3)により定
義される予測誤差ERRINTRAから、当該マクロブロッ
クをイントラマクロブロックとして符号化するのと、式
(4)によって選択されたマクロブロックモードで符号
化するのとではどちらが符号化効率が高いかの判定を行
う。すなわち式(7)が成立すれば、イントラマクロブ
ロックとして符号化する方が効率が良いとし、成立しな
ければ式(3)によって選択されたマクロブロックモー
ドで符号化する方が効率が良いとする。
【0025】 ERRINTRA<ERR (7) つまり、図6のステップS105において、ERR
INTER<ERRINTRAが成立しないときにはステップS1
08としてイントラマクロブロックモードで符号化する
方が効率が良いとし、成立したときにはステップS10
7としてインターマクロブロックモードで符号化する方
が効率が良いとする。また、ステップS106におい
て、ERRINTER4V<ERRINTRAが成立しないときには
ステップS108としてイントラマクロブロックモード
で符号化する方が効率が良いとし、成立したときにはス
テップS109としてインター4Vマクロブロックモー
ドで符号化する方が効率が良いとする。
【0026】上述のように、図5のMPEG4画像情報
符号化部(I/P−VOP)115では、図6に示した
ようなモード判定手法を用いて、最も符号化効率が高い
マクロブロックモードのタイプを選択し、その選択した
タイプのマクロブロックモードを使用して画像情報の符
号化処理を行うようになされている。
【0027】なお、前述の動きベクトル合成部116及
び動きベクトル検出部117における動作原理に関して
は様々な方法が考えられるが、図5に示した画像情報変
換装置のように、入力端子110に供給されたMPEG
2画像圧縮情報(ビットストリーム)の1/2×1/2
の画枠を持つMPEG4画像圧縮情報(ビットストリー
ム)を出力する場合には、例えば図7に示すような流れ
で動きベクトルの合成及び検出を行うことが考えられ
る。
【0028】すなわち、動きベクトル合成部116で
は、先ずステップS111として、入力されたMPEG
2画像圧縮情報(ビットストリーム)から動きベクトル
情報を抽出し、次に、ステップS112として、当該抽
出されたMPEG2画像圧縮情報に対する動きベクトル
情報のスケーリング及び時間補正を行うことで、出力と
なるMPEG4画像圧縮情報(ビットストリーム)に対
するインター4V動きベクトル情報を合成する。さら
に、動きベクトル合成部116では、ステップS113
として、上記生成されたインター4V動きベクトルの平
均値若しくは代表値をインター動きベクトルとする。
【0029】次に、動きベクトル検出部107では、ス
テップS114として、上記動きベクトル合成部106
で生成されたインター動きベクトル及びインター4V動
きベクトルについて、その周辺の数画素をサーチし、そ
れらインター動きベクトル及びインター4V動きベクト
ルの高精度化を行う。このようにして高精度化された動
きベクトルが前記図5のMPEG4画像情報符号化部1
15に送られる。
【0030】
【発明が解決しようとする課題】ところで、図5に示し
た画像情報変換装置を用いて、CCIR(Comite Consu
ltatif International des Redio communications(仏),
International Redio Consultative Commitee(英):国
際無線通信諮問委員会)に規定されているテストシーケ
ンスの一つであるいわゆる“Mobile&Calen
dar”を例えば4Mbps(ビット/秒)に圧縮した
MPEG2画像圧縮情報(ビットストリーム)を、40
0kbpsのMPEG4画像圧縮情報(ビットストリー
ム)に変換した場合を考えてみる。この例の場合、上記
動きベクトル合成部106で合成された動きベクトルの
マクロブロック内の下記式(8)に示す分散値(Distri
bution)Distと、MPEG4画像符号化部115に
おいてインターマクロブロック若しくはインター4Vマ
クロブロックのどちらが選択されたかの相関は、図8に
示すようになる。
【0031】
【数1】
【0032】なお、式(8)において、動きベクトル合
成部106により合成されたインター動きベクトルのx
方向、y方向成分をそれぞれmv16X16_x,mv16X16_y
とし、インター4V動きベクトルのx方向、y方向成分
をそれぞれmv8X8_x,i,mv8X8_y.i(i=1,2,
3,4)としている。
【0033】この図8からも分かる通り、インター動き
ベクトルとインター4V動きベクトルのばらつき具合が
比較的小さいマクロブロックにおいては、インターマク
ロブロックが選択され易く、インター動きベクトルとイ
ンター4V動きベクトルのばらつき具合が比較的大きい
マクロブロックにおいてはインター4Vマクロブロック
が選択され易いと言える。すなわち、インター動きベク
トルとインター4V動きベクトルのばらつき具合が大き
いマクロブロックについて、図6に示したフローチャー
トに基づいたモード判定を行うと、前述のようにインタ
ー4Vマクロブロックが選択され易くなる。
【0034】しかしながら、符号化効率の観点から言え
ば、インター4Vマクロブロックには、より多くの符号
(ビット)が動きベクトル情報に割り当てられるため、
離散コサイン変換係数に対する符号(ビット)が十分に
割り当てられなくなり、符号化効率の低減を招くという
問題点が生じる。
【0035】また、図6に示したマクロブロックモード
判別法では、動き補償及び絶対値誤差和(SAD)の算
出を行うため、多くの演算量を必要とする。
【0036】そこで、本発明は、このような実情に鑑み
てなされたものであり、マクロブロックモード判定に伴
う際の演算量を削減しつつ、画質劣化を最小限に抑える
ことを可能とする、画像情報変換装置及び方法を提供す
ることを目的とする。
【0037】
【課題を解決するための手段】本発明の画像情報変換装
置は、複数画素からなる符号化単位毎に、少なくとも動
き予測を使用する符号化モードを含む複数タイプの符号
化モードの中から各々適応的に選択された符号化モード
を使用して符号化が行われて生成された第1の画像符号
化情報を、第2の画像符号化情報へ変換する画像情報変
換装置であり、上記第1の画像符号化情報を構成する各
符号化単位の動きベクトル情報を抽出する情報抽出手段
と、上記第2の画像符号化情報を構成する所望の符号化
単位に対応する上記第1の画像符号化情報の符号化単位
の上記動きベクトル情報から、上記第2の画像符号化情
報を構成する上記所望の符号化単位の動きベクトル情報
を生成する動きベクトル生成手段と、上記動きベクトル
生成手段により生成された上記所望の符号化単位の動き
ベクトル情報と、予め設定した第1,第2の閾値との比
較に基づいて、上記第2の画像符号化情報を構成する上
記所望の符号化単位についての符号化モードを判定する
符号化モード判定手段とを有し、上記第2の画像符号化
情報を構成する各符号化単位の符号化の際に、上記符号
化モード判定手段により判定された符号化モードを使用
することにより、上述した課題を解決する。
【0038】また、本発明の画像情報変換方法は、複数
画素からなる符号化単位毎に、少なくとも動き予測を使
用する符号化モードを含む複数タイプの符号化モードの
中から各々適応的に選択された符号化モードを使用して
符号化が行われて生成された第1の画像符号化情報を、
第2の画像符号化情報へ変換する画像情報変換方法であ
り、上記第1の画像符号化情報を構成する各符号化単位
の動きベクトル情報を抽出し、上記第2の画像符号化情
報を構成する所望の符号化単位に対応する上記第1の画
像符号化情報の符号化単位の上記動きベクトル情報か
ら、上記第2の画像符号化情報を構成する上記所望の符
号化単位の動きベクトル情報を生成し、上記生成された
上記所望の符号化単位の動きベクトル情報と、予め設定
した第1,第2の閾値との比較に基づいて、上記第2の
画像符号化情報を構成する上記所望の符号化単位につい
ての符号化モードを判定し、上記第2の画像符号化情報
を構成する各符号化単位の符号化の際に、上記判定され
た符号化モードを使用することにより、上述した課題を
解決する。
【0039】すなわち、本発明によれば、入力となる例
えばMPEG2画像圧縮情報(ビットストリーム)に含
まれる動きベクトル情報から、例えばMPEG4符号化
に必要な動きベクトル情報の合成を行い、さらに、上記
合成された動きベクトル情報を元に更に高精度の動きベ
クトル検出を行い、出力となるMPEG4画像圧縮情報
(ビットストリーム)におけるマクロブロックのモード
判定を行う際には、当該出力となるMPEG4画像圧縮
情報(ビットストリーム)に対するインター動きベクト
ル及びインター4V動きベクトル、並びに予め設定され
た2つの閾値を用いて、出力となるMPEG4画像圧縮
情報(ビットストリーム)における当該マクロブロック
がインターモードであるかインター4Vモードであるか
の判定を行い、その判定されたモードを使用してMPE
G4画像符号化処理を行うようになされている。
【0040】
【発明の実施の形態】以下、本発明の好ましい実施の形
態について、図面を参照しながら説明する。
【0041】図1には、本発明実施の形態の画像情報変
換装置の概略構成を示す。
【0042】この図1において、入力端子1に供給され
た飛び越し走査のMPEG2画像圧縮情報(ビットスト
リーム)は、先ずピクチャタイプ判別部8に入力する。
【0043】当該ピクチャタイプ判別部8は、I/Pピ
クチャに関する情報については出力して圧縮情報解析部
9へ送るが、Bピクチャに関する情報については破棄す
る。これによりフレームレートの変換が行われる。
【0044】圧縮情報解析部9では、ピクチャタイプ判
別部8から送られてきた画像圧縮情報の構文解析を行う
ことにより、当該MPEG2画像圧縮情報の符号化に関
連する情報を抽出し、その符号化に関連する情報を情報
バッファ14へ送り、また、当該MPEG2動きベクト
ル情報を動きベクトル合成部15へ送り、画像圧縮情報
についてはMPEG2画像情報復号化部(I/Pピクチ
ャ)10へ送る。なお、上記圧縮情報解析部9により抽
出される情報の詳細については後述する。
【0045】MPEG2画像情報復号化部(I/Pピク
チャ)10は、図5に示した装置のものと同等である。
Bピクチャに関する情報は前段のピクチャタイプ判別部
8において既に破棄されているため、当該MPEG2画
像情報復号化部10の機能としては、I/Pピクチャに
関する情報のみの復号化処理を行えるものであれば良
い。MPEG2画像情報復号化部(I/Pピクチャ)1
0の出力となる画素値は、間引き部11に入力される。
【0046】当該間引き部11は、水平方向については
1/2の間引き処理を施し、垂直方向については第一フ
ィールド若しくは第二フィールドのどちらか一方のデー
タのみを残し、もう一方を廃棄することにより、入力と
なる画像情報の1/4の大きさを持つ順次走査画像を生
成する。ここで例えば、入力端子1へ供給されたMPE
G2画圧縮情報(ビットストリーム)がNTSC(Nati
onal Television System Committee)の規格に準拠した
もの、つまり720×480画素、30Hzの飛び越し
走査画像であった場合、上記間引き後の画枠は360×
240画素ということになる。但し、後続のMPEG4
画像情報符号化部(I/P−VOP)115において符
号化を行う際、マクロブロック単位の処理を行うには、
水平方向、垂直方向ともに、その画素数が16の倍数で
ある必要がある。したがって、当該間引き部11は、上
記間引きと同時に、上記画素数を16の倍数にするため
の画素の補填若しくは廃棄を同時に行う。すなわち、こ
の例の場合の間引き部11は、例えば上記360×24
0画素に対して、例えば水平方向の右端若しくは左端の
8ラインを廃棄することで、上記16の倍数である35
2×240画素の画枠を構成する。当該間引き部11に
よって生成された順次走査画像は、一旦、ビデオメモリ
12に蓄積された後、後段のMPEG4画像情報符号化
部(I/P−VOP)13の要求に応じて読み出され
る。
【0047】また、動きベクトル合成部15では、MP
EG2画像圧縮情報(ビットストリーム)から取り出さ
れたMPEG2動きベクトル情報を、上記間引き後の画
像情報に対する動きベクトルにマッピングし、さらに次
段の動きベクトル検出部16では、動きベクトル合成部
15において合成された動きベクトル値と、ビデオメモ
リ12に記憶された画像情報とを元に、高精度の動きベ
クトルを検出する。この検出された動きベクトルは、M
PEG4画像情報符号化部(I/P−VOP)13とイ
ンター/インター4V判定部16に送られる。
【0048】上記MPEG4画像情報符号化部(I/P
−VOP)13では、情報バッファ14に保持された前
記MPEG2画像圧縮情報の符号化に関連する情報と、
上記動きベクトル検出部16からの動きベクトル情報
と、後述するインター/インター4V判定部16での判
定処理により得られたマクロブロックモード情報とを用
い、上記ビデオメモリ12から供給された順次走査画像
の信号を符号化してMPEG4画像圧縮情報(ビットス
トリーム)を生成する。当該MPEG4画像圧縮情報
は、出力端子2から後段へ出力される。
【0049】なお、図1に示した本実施の形態の画像情
報変換装置において、イントラ/インター判定部17及
びインター/インター4V判定部16におけるマクロブ
ロックモード判定以外の各構成要素は、図5に示した画
像情報変換装置と同様である。
【0050】以下、本発明の第1の実施の形態の画像情
報変換装置のイントラ/インター判定部17及びインタ
ー/インター4V判定部16におけるマクロブロックモ
ード判定動作について、以下の図2,図3を用いて説明
する。
【0051】イントラ/インター判定部17は、出力と
なるMPEG4画像圧縮情報(ビットストリーム)のP
−VOPに含まれる当該マクロブロックについて、先
ず、イントラ/インターのモード判定を行う。ここで、
イントラ/インターのモード判定については、前記式
(7)のように、予測残差の比較によるモード判定を行
ってもよいが、本実施の形態では、ステップS1の処理
として、以下に述べるように、情報バッファ18に格納
されたMPEG2画像圧縮情報(ビットストリーム)の
符号化に関連する情報のうち、出力となるMPEG4画
像圧縮情報のP−VOPに対応するマクロブロックに関
する情報を抽出し、さらにステップS2として、その抽
出した情報を利用してイントラ/インターのモード判定
を行う。
【0052】ここで、上記飛び越し走査のMPEG2画
像圧縮情報(ビットストリーム)の約1/2×1/2の
画枠を持つ順次走査のMPEG4画像圧縮情報(ビット
ストリーム)を出力する場合において、例えば図3に示
すように、入力端子1に供給されたMPEG2画像圧縮
情報を構成する画像STR2に含まれる4つのマクロブ
ロックMBMPEG2,i(i=1,2,3,4)が、MPE
G4画像圧縮情報を構成する画像STR4におけるマク
ロブロックMBMPEG4,1に対応している場合を例に挙げ
て考えることとする。
【0053】この例において、イントラ/インター判定
部17では、入力MPEG2画像圧縮情報を構成する画
像STR2のMBMPEG2,iのうち、マクロブロックのタ
イプがイントラマクロブロックであるものの個数をN
INTRA、インターマクロブロックであるものの個数をN
INTERとして、下記式(9)が成立する時、ステップS
2においてイントラマクロブロックと判定し、ステップ
S6にて上記出力となるMPEG4画像圧縮情報を構成
する画像STR4のマクロブロックをイントラマクロブ
ロックに決定する。
【0054】 NINTRA>NINTER (9) 一方、下記式(10)が成立する時、イントラ/インタ
ー判定部17は、ステップS2においてインターマクロ
ブロック若しくはインター4Vマクロブロックと判定
し、次のステップS3に処理を渡す。
【0055】 NINTRA<NINTER (10) なお、下記式(11)が成立する時には、イントラマク
ロブロックとしても良いし、インターマクロブロック若
しくはインター4Vマクロブロックとしても良い。
【0056】 NINTRA=NINTER (11) また、前述の式(7)のように、残差を用いたモード判
定を行っても良い。或いは、マクロブロックMB
MPEG2,iにそれぞれ対する量子化スケールをQ
MPEG2,i(i=1,2,3,4)とし、それぞれ割り当
てられた符号量(ビット数)をB MPEG2,i(i=1,
2,3,4)としたとき、下記式(12)のように、そ
れらマクロブロックMBMPEG2,iに対するコンプレキシ
ティXMPEG2,i(i=1,2,3,4)を、式(11)
により計算し、このコンプレキシティを用いて符号化効
率が良いと思われるモードを選択するようにしても良
い。
【0057】 XMPEG2,i=QMPEG2,i・BMPEG2,i (12) 次に、上記イントラ/インター判定部17において、イ
ンターマクロブロック若しくはインター4Vマクロブロ
ックであると判定されたマクロブロックに関しては、以
下に述べる方法により、インター/インター4V判定部
16において、インターマクロブロック若しくはインタ
ー4Vマクロブロックのいずれであるかのモード判定が
行われる。
【0058】ここで、インター/インター4V判定部1
6には、予め定められた第1の閾値θ1及び第2の閾値
θ2(θ1<θ2)に関する情報が格納されている。イン
ター/インター4V判定部16は、ステップS3とし
て、動きベクトル検出部15から供給されたインター動
きベクトル及びインター4V動きベクトルを用いて、前
記式(8)若しくは下記式(13)により、当該マクロ
ブロックにおける動きベクトルの分散値Distを算出
する。
【0059】
【数2】
【0060】なお、式(12)において、動きベクトル
合成部14により合成されたインター動きベクトルのx
方向、y方向成分をそれぞれmv16X16_x,mv16X16_y
とし、インター4V動きベクトルのx方向、y方向成分
をそれぞれmv8X8_x,i,mv8X8_y.i(i=1,2,
3,4)としている。
【0061】次に、インター/インター4V判定部16
は、ステップS4として、上記式(8)若しくは式(1
3)で計算された分散値Distと、上記予め定められ
ている第1の閾値θ1を用いて、下記式(14)が成り
立つか否か判断する。
【0062】 Dist<θ1 (14) この式(14)が成り立つとき、インター/インター4
V判定部16は、当該マクロブロックにおけるインター
動きベクトル及びインター4V動きベクトルのばらつき
が小さいと判断し、この場合はステップS7において当
該マクロブロックはインターマクロブロックであると判
定する。
【0063】また、式(14)が成り立たないとき、イ
ンター/インター4V判定部16は、ステップS5とし
て、上記式(8)若しくは式(13)で計算された分散
値Distと上記予め定められている第2の閾値θ2
用いて、下記式(15)が成り立つか否か判断する。
【0064】 Dist>θ2 (15) この式(15)が成り立つとき、インター/インター4
V判定部16は、当該マクロブロックをインター4Vマ
クロブロックとすると、動きベクトルが必要とする符号
量(ビット数)が増大し、符号化効率の低下に繋がるた
め、ステップS7においてインターマクロブロックであ
ると判定する。
【0065】一方、式(14)、式(15)が共に成り
立たないとき、すなわち、分散地Distと第1,第2
の閾値θ1,θ2の関係が式(16)であるとき、インタ
ー/インター4V判定部16は、ステップS8として、
当該マクロブロックをインター4Vマクロブロックであ
ると判定する。
【0066】 θ1≦Dist≦θ2 (16) 以上の一連のモード判定処理により求められたマクロブ
ロックのモード判定結果はMPEG4画像情報符号化部
13に送られる。上記MPEG4画像情報符号化部13
では、上記ビデオメモリ12から供給された順次走査画
像の信号を、上記モード判定結果に応じて符号化してM
PEG4画像圧縮情報(ビットストリーム)を生成す
る。
【0067】以上述べてきた様に、本発明の第1の実施
の形態の画像情報変換装置は、MPEG2画像圧縮情報
(ビットストリーム)を入力とし、MPEG4画像符号
化におけるP−VOPでの各マクロブロック毎のイント
ラ/インター判定の際に、入力となるMPEG2画像圧
縮情報から抽出したマクロブロックタイプの個数に応じ
てイントラ/インターモード判定を行うようにし、ま
た、MPEG4画像符号化におけるP−VOPでの各マ
クロブロック毎のインター/インター4V判定の際に、
入力となるMPEG2画像圧縮情報から抽出された動き
ベクトルより生成されたインター動きベクトル及びイン
ター4V動きベクトルと、予め設定された2つの閾値と
の比較によりモード判定を行うことにより、図6に示し
た従来例のように動き補償及び絶対値誤差和(SAD)
の算出を行う場合に比べて、インター/インター4V判
定に伴う演算量を削減可能となっている。また、本実施
の形態では、上記判定されたモードに応じてMPEG4
画像符号化を行うことにより、動きベクトルのばらつき
が大きいマクロブロックについてインター4V動きベク
トルが選択され易くなるようなことが少なくなり、当該
マクロブロックの動きベクトルに多くの符号ビットが割
り当てられて離散コサイン変換係数に対する符号ビット
が十分に割り当てられなくなる事態の発生を避けること
ができ、その結果、符号化効率が良く且つ画質劣化が最
小限に抑えられたMPEG4画像圧縮処理が実現される
ことになる。
【0068】次に、図4を用い、本発明の第2の実施の
形態の画像情報変換装置のイントラ/インター判定部1
7及びインター/インター4V判定部27におけるマク
ロブロックモード判定動作について述べる。
【0069】図4に示す第2の実施の形態の画像情報変
換装置において、図1の各構成要素と同じ動作をする構
成要素については、図1と同じ指示符号を付してそれら
の説明を省略し、以下、図1に示した画像情報変換装置
と図4に示した画像情報変換装置と相違する部分のみ説
明する。
【0070】図1に示した画像情報変換装置では、入力
となるMPEG2画像圧縮情報(ビットストリーム)に
含まれる動きベクトル情報を元に、動きベクトル合成部
14が合成し、さらに動きベクトル検出部15が高精度
化したインター動きベクトル情報及びインター4V動き
ベクトル情報を用いて、インター/インター4V判定部
16がインター/インター4Vモード判定を行うように
なされている。
【0071】これに対し、図4に示した第1の実施の形
態の画像情報変換装置の場合は、入力となるMPEG2
画像圧縮情報(ビットストリーム)に含まれる動きベク
トル情報を元に、動きベクトル合成部25が合成したイ
ンター動きベクトル情報及びインター4V動きベクトル
情報を、直接インター/インター4V判定部27に送
り、当該インター/インター4V判定部27において上
記動きベクトル合成部25が合成したインター動きベク
トル情報及びインター4V動きベクトル情報を用いてイ
ンター/インター4Vモード判定を行うようになされて
いる。
【0072】なお、この第2の実施の形態の画像情報変
換装置において、動きベクトル合成部25にて合成され
たインター動きベクトル情報及びインター4V動きベク
トル情報は、動きベクトル検出部26にて高精度化さ
れ、また、当該動きベクトル検出部26にて高精度化さ
れたインター動きベクトル情報及びインター4V動きベ
クトル情報がMPEG4画像情報符号化部13に送られ
ることは、第1の実施の形態の場合と同様である。
【0073】この第2の実施の形態の画像情報変換装置
においても第1の実施の形態と同様に、インター/イン
ター4V判定に伴う演算量を削減可能であり、また、符
号化効率が良く且つ画質劣化が最小限に抑えられたMP
EG4画像圧縮処理を実現可能である。
【0074】なお、図1、図4に示した第1、第2の実
施の形態の画像情報変換装置によれば、先にイントラ/
インターの判定を行った後、インター/インター4V判
定を行っているが、その逆に、先にインター/インター
4V判定を行った後、イントラ/インター判定を行うよ
うにしてもよい。
【0075】また、第1、第2の実施の形態では、入力
としてMPEG2画像圧縮情報(ビットストリーム)を
例に挙げ、出力としてMPEG4画像圧縮情報(ビット
ストリーム)を対象とした例を挙げたが、入力、出力と
もこれに限らず、例えばMPEG1やH.263などの
画像圧縮情報(ビットストリーム)でも良い。
【0076】
【発明の効果】以上の説明からも明らかなように、本発
明においては、第1の画像符号化情報を構成する各符号
化単位の動きベクトル情報を抽出し、第2の画像符号化
情報を構成する所望の符号化単位に対応する第1の画像
符号化情報の符号化単位の動きベクトル情報から、上記
所望の符号化単位の動きベクトル情報を生成し、当該所
望の符号化単位の動きベクトル情報と、予め設定した第
1,第2の閾値との比較に基づいて、上記所望の符号化
単位についての符号化モードを判定することにより、モ
ード判定に伴う際の演算量を削減可能であり、また、第
2の画像符号化情報を構成する各符号化単位の符号化の
際に、上記判定された符号化モードを使用することによ
り、画質劣化を最小限に抑えることを実現可能である。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態の画像情報変換装置
の概略構成を示すブロック回路図である。
【図2】本発明実施の形態の画像情報変換装置における
モード判定処理の流れを示すフローチャートである。
【図3】MPEG2画像圧縮情報のマクロブロックとM
PEG4画像圧縮情報のマクロブロックの対応例を示す
図である。
【図4】本発明の第2の実施の形態の画像情報変換装置
の概略構成を示すブロック回路図である。
【図5】従来の画像情報変換装置の概略構成を示すブロ
ック回路図である。
【図6】従来の画像情報変換装置におけるモード判定処
理の流れを示すフローチャートである。
【図7】動きベクトルの合成と高精度化の流れを示すフ
ローチャートである。
【図8】インターマクロブロック若しくはインター4V
マクロブロックの選択時の相関を説明するための図であ
る。
【符号の説明】
8 ピクチャタイプ判別部、 9 画像情報解析部、
10 MPEG2画像情報復号化部(I/Pピクチ
ャ)、 11 間引き部、 12 ビデオメモリ、13
MPEG4画像情報符号化部(I/P−VOP)、
14,25 動きベクトル合成部、 15,26 動き
ベクトル検出部、 16,27 インター/インター4
V判定部、 17 イントラ/インター判定部、 18
情報バッファ、 22 MPEG2マクロブロックモ
ード情報バッファ、 23 MPEG2マクロブロック
アクティビティ情報バッファ、 24 MPEG4イン
トラ/インター判定部、 25 MPEG4 インター
/インター4V判定部、 25 動き補償予測部
───────────────────────────────────────────────────── フロントページの続き (72)発明者 鈴木 輝彦 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 (72)発明者 名雲 武文 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 (72)発明者 矢ケ崎 陽一 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 Fターム(参考) 5C059 KK01 LB05 MA00 NN21 PP05 PP06 TA17 TB07 TC12 TD02 TD04 TD12 5J064 AA02 BA13 BB06 BC01 BC14 BD03

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】 複数画素からなる符号化単位毎に、少な
    くとも動き予測を使用する符号化モードを含む複数タイ
    プの符号化モードの中から各々適応的に選択された符号
    化モードを使用して符号化が行われて生成された第1の
    画像符号化情報を、第2の画像符号化情報へ変換する画
    像情報変換装置において、 上記第1の画像符号化情報を構成する各符号化単位の動
    きベクトル情報を抽出する情報抽出手段と、 上記第2の画像符号化情報を構成する所望の符号化単位
    に対応する上記第1の画像符号化情報の符号化単位の上
    記動きベクトル情報から、上記第2の画像符号化情報を
    構成する上記所望の符号化単位の動きベクトル情報を生
    成する動きベクトル生成手段と、 上記動きベクトル生成手段により生成された上記所望の
    符号化単位の動きベクトル情報と、予め設定した第1,
    第2の閾値との比較に基づいて、上記第2の画像符号化
    情報を構成する上記所望の符号化単位についての符号化
    モードを判定する符号化モード判定手段とを有し、 上記第2の画像符号化情報を構成する各符号化単位の符
    号化の際に、上記符号化モード判定手段により判定され
    た符号化モードを使用することを特徴とする画像情報変
    換装置。
  2. 【請求項2】 上記符号化モード判定手段は、上記動き
    ベクトル生成手段により生成された上記所望の符号化単
    位の動きベクトルの分散値を求め、上記分散値と上記第
    1,第2の閾値との比較に基づいて、上記第2の画像符
    号化情報を構成する上記所望の符号化単位についての符
    号化モードを判定することを特徴とする請求項1記載の
    画像情報変換装置。
  3. 【請求項3】 上記符号化モード判定手段は、上記動き
    ベクトル生成手段により生成された上記所望の符号化単
    位の動きベクトルの最大値の分散値を求め、上記最大値
    の分散値と上記第1,第2の閾値との比較に基づいて、
    上記第2の画像符号化情報を構成する上記所望の符号化
    単位についての符号化モードを判定することを特徴とす
    る請求項1記載の画像情報変換装置。
  4. 【請求項4】 上記符号化モード判定手段は、上記第1
    の閾値よりも第2の閾値が大きいとき、上記分散値より
    第1の閾値が大きい条件、或いは上記第2の閾値より上
    記分散値が大きい条件が成り立つならば、上記第2の画
    像符号化情報を構成する上記所望の符号化単位の符号化
    モードを第1のタイプの符号化モードと判定し、上記分
    散値が上記第1の閾値以上で且つ第2の閾値以下である
    条件が成り立つならば、上記第2の画像符号化情報を構
    成する上記所望の符号化単位の符号化モードを第2のタ
    イプの符号化モードと判定することを特徴とする請求項
    2記載の画像情報変換装置。
  5. 【請求項5】 上記符号化モード判定手段は、上記第1
    の閾値よりも第2の閾値が大きいとき、上記分散値より
    第1の閾値が大きい条件、或いは上記第2の閾値より上
    記分散値が大きい条件が成り立つならば、上記第2の画
    像符号化情報を構成する上記所望の符号化単位の符号化
    モードを第1のタイプの符号化モードと判定し、上記分
    散値が上記第1の閾値以上で且つ第2の閾値以下である
    条件が成り立つならば、上記第2の画像符号化情報を構
    成する上記所望の符号化単位の符号化モードを第2のタ
    イプの符号化モードと判定することを特徴とする請求項
    3記載の画像情報変換装置。
  6. 【請求項6】 複数画素からなる符号化単位毎に、少な
    くとも動き予測を使用する符号化モードを含む複数タイ
    プの符号化モードの中から各々適応的に選択された符号
    化モードを使用して符号化が行われて生成された第1の
    画像符号化情報を、第2の画像符号化情報へ変換する画
    像情報変換方法において、 上記第1の画像符号化情報を構成する各符号化単位の動
    きベクトル情報を抽出し、 上記第2の画像符号化情報を構成する所望の符号化単位
    に対応する上記第1の画像符号化情報の符号化単位の上
    記動きベクトル情報から、上記第2の画像符号化情報を
    構成する上記所望の符号化単位の動きベクトル情報を生
    成し、 上記生成された上記所望の符号化単位の動きベクトル情
    報と、予め設定した第1,第2の閾値との比較に基づい
    て、上記第2の画像符号化情報を構成する上記所望の符
    号化単位についての符号化モードを判定し、 上記第2の画像符号化情報を構成する各符号化単位の符
    号化の際に、上記判定された符号化モードを使用するこ
    とを特徴とする画像情報変換方法。
  7. 【請求項7】 上記生成された上記所望の符号化単位の
    動きベクトルの分散値を求め、上記分散値と上記第1,
    第2の閾値との比較に基づいて、上記第2の画像符号化
    情報を構成する上記所望の符号化単位についての符号化
    モードを判定することを特徴とする請求項6記載の画像
    情報変換方法。
  8. 【請求項8】 上記生成された上記所望の符号化単位の
    動きベクトルの最大値の分散値を求め、上記分散値と上
    記第1,第2の閾値との比較に基づいて、上記第2の画
    像符号化情報を構成する上記所望の符号化単位について
    の符号化モードを判定することを特徴とする請求項6記
    載の画像情報変換方法。
  9. 【請求項9】 上記第1の閾値よりも第2の閾値が大き
    いとき、上記分散値より第1の閾値が大きい条件、或い
    は上記第2の閾値より上記分散値が大きい条件が成り立
    つならば、上記第2の画像符号化情報を構成する上記所
    望の符号化単位の符号化モードを第1のタイプの符号化
    モードと判定し、上記分散値が上記第1の閾値以上で且
    つ第2の閾値以下である条件が成り立つならば、上記第
    2の画像符号化情報を構成する上記所望の符号化単位の
    符号化モードを第2のタイプの符号化モードと判定する
    ことを特徴とする請求項7記載の画像情報変換方法。
  10. 【請求項10】 上記第1の閾値よりも第2の閾値が大
    きいとき、上記分散値より第1の閾値が大きい条件、或
    いは上記第2の閾値より上記分散値が大きい条件が成り
    立つならば、上記第2の画像符号化情報を構成する上記
    所望の符号化単位の符号化モードを第1のタイプの符号
    化モードと判定し、上記分散値が上記第1の閾値以上で
    且つ第2の閾値以下である条件が成り立つならば、上記
    第2の画像符号化情報を構成する上記所望の符号化単位
    の符号化モードを第2のタイプの符号化モードと判定す
    ることを特徴とする請求項8記載の画像情報変換方法。
JP2000311316A 2000-10-11 2000-10-11 画像情報変換装置及び方法 Withdrawn JP2002125234A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000311316A JP2002125234A (ja) 2000-10-11 2000-10-11 画像情報変換装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000311316A JP2002125234A (ja) 2000-10-11 2000-10-11 画像情報変換装置及び方法

Publications (1)

Publication Number Publication Date
JP2002125234A true JP2002125234A (ja) 2002-04-26

Family

ID=18791103

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000311316A Withdrawn JP2002125234A (ja) 2000-10-11 2000-10-11 画像情報変換装置及び方法

Country Status (1)

Country Link
JP (1) JP2002125234A (ja)

Similar Documents

Publication Publication Date Title
JP4517495B2 (ja) 画像情報変換装置及び画像情報変換方法並びに符号化装置及び符号化方法
US9197903B2 (en) Method and system for determining a macroblock partition for data transcoding
EP1618744B1 (en) Video transcoding
JP4682410B2 (ja) 画像処理装置及び画像処理方法
US6870886B2 (en) Method and apparatus for transcoding a digitally compressed high definition television bitstream to a standard definition television bitstream
US6816617B2 (en) Motion vector searcher and motion vector search method as well as moving picture coding apparatus
JP3855522B2 (ja) 動画変換装置
JP2005260912A (ja) 映像通信装置および映像通信方法
US20080137741A1 (en) Video transcoding
JP2002152759A (ja) 画像情報変換装置および画像情報変換方法
JP4470431B2 (ja) データ処理装置およびその方法
JP5560009B2 (ja) 動画像符号化装置
GB2329783A (en) Encoding video signal search block motion vectors based on the number of valid reference block motion vectors
JP4622077B2 (ja) 画像処理装置及び画像処理方法
JP2002152752A (ja) 画像情報変換装置及び方法
JPH10336672A (ja) 符号化方式変換装置およびその動きベクトル検出方法
JP2002125227A (ja) 画像情報変換装置及び方法
JP4517453B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP4517475B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP4507418B2 (ja) 画像情報変換装置及び画像情報変換方法
JP2002125234A (ja) 画像情報変換装置及び方法
JP4608801B2 (ja) 画像情報変換装置及び方法
JP4517465B2 (ja) 画像情報変換装置及び方法並びに符号化装置及び方法
JP4505992B2 (ja) 画像情報変換装置及び方法
JP2002152728A (ja) 画像情報変換装置及び方法

Legal Events

Date Code Title Description
A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20080108