JP2002218468A - 動きベクトル変換装置及び動きベクトル変換方法 - Google Patents

動きベクトル変換装置及び動きベクトル変換方法

Info

Publication number
JP2002218468A
JP2002218468A JP2001009301A JP2001009301A JP2002218468A JP 2002218468 A JP2002218468 A JP 2002218468A JP 2001009301 A JP2001009301 A JP 2001009301A JP 2001009301 A JP2001009301 A JP 2001009301A JP 2002218468 A JP2002218468 A JP 2002218468A
Authority
JP
Japan
Prior art keywords
motion vector
image
conversion
resolution
motion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001009301A
Other languages
English (en)
Other versions
JP4779207B2 (ja
Inventor
Kuniaki Takahashi
邦明 高橋
Kazufumi Sato
数史 佐藤
Teruhiko Suzuki
輝彦 鈴木
Takefumi Nagumo
武文 名雲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2001009301A priority Critical patent/JP4779207B2/ja
Publication of JP2002218468A publication Critical patent/JP2002218468A/ja
Application granted granted Critical
Publication of JP4779207B2 publication Critical patent/JP4779207B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】 【課題】 符号化処理工程における符号化効率の低下を
軽減する。 【解決手段】 画像情報変換装置1において、MPEG
2ビットストリームを入力し、MPEG4における8×
8動きベクトル及び16×16動きベクトルを求める際
に、動きベクトル変換部13によりスケーリングされた
動きベクトルに対して、動きベクトル補正部14におい
て再検索し、動きベクトルの精度を補正し、精度が補正
された動きベクトルをMPEG4画像符号化部15に供
給する。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、動きベクトル変換装置
及び動きベクトル変換方法に関し、特に、離散コサイン
変換等の直交変換と動き補償によって圧縮された画像情
報(ビットストリーム)を、衛星放送、ケーブルTV、
インターネット等のネットワークを介して受信する際、
或いは、光ディスク、磁気ディスク、フラッシュメモリ
等の記憶媒体上で処理する際に用いられる動きベクトル
変換装置及び動きベクトル変換方法に関する。
【0002】
【従来の技術】近年、画像情報をディジタルデータとし
て取り扱う際、画像情報特有の冗長性を利用し、効率の
高い情報の伝送及び蓄積を目的とした、例えば離散コサ
イン変換(Discrete Cosine Transform、以下、DCT
と記す。)等の直交変換と動き補償により圧縮する方式
に準拠した装置が、放送局などの情報配信及び一般家庭
における情報受信の双方において普及しつつある。
【0003】特に、MPEG(Moving Picture Experts
Group)によって標準化されているMPEG2は、汎用
画像符号化方式としてISO/IEC 13818−2
に定義されており、飛び越し走査画像及び順次走査画像
の双方、並びに標準解像度画像及び高精細画像を網羅し
ている。そのためMPEG2は、プロフェッショナル用
途からコンシューマ用途まで、広範なアプリケーション
に今後とも用いられるものと予想される。
【0004】このようなMPEG2圧縮方式を用いるこ
とにより、例えば720×480画素をもつ標準解像度
の飛び越し走査画像であれば4〜8Mbpsの符号量
(以下、ビットレートと記す。)を、1920×108
8画素をもつ高解像度の飛び越し走査画像であれば18
〜22Mbpsのビットレートを割り当てることで、高
い圧縮率と良好な画質の実現が可能である。
【0005】MPEG2は、主として放送用に適合する
高画質符号化を対象としていたが、MPEG1よりも低
いビットレート、つまり、より高い圧縮率の符号化方式
には対応していなかった。ところが携帯端末の普及とと
もに、今後より高圧縮率の符号化方式のニーズが高まる
と予想されたことからMPEG4符号化方式の標準化が
行われ、画像符号化方式に関しては、1998年12月
にISO/IEC 14496−2として国際標準に承
認されている。
【0006】ところで、ディジタル放送に対応するよう
に一旦符号化されたMPEG2画像圧縮情報(以下、M
PEG2ビットストリームと記す。)を携帯端末等で処
理するためには、より低いビットレートのMPEG4画
像圧縮情報(以下、MPEG4ビットストリームと記
す。)に変換することが要求される。
【0007】MPEG2ビットストリームをMPEG4
ビットストリームに変換する従来の画像情報変換装置と
して、例えば、図18に示す画像情報変換装置100が
あげられる。画像情報変換装置100は、MPEG2画
像情報復号化部101と、解像度/フレームレート変換
部102と、MPEG4画像情報符号化部103とを少
なくとも備えている。画像情報変換装置100に入力さ
れたMPEG2ビットストリームは、MPEG2画像情
報復号化部101により復号される。
【0008】ここで、画像情報変換装置100に入力さ
れるMPEG2ビットストリームは、水平方向及び垂直
方向に8成分(以下、8×8という。他も同様とす
る。)の離散コサイン変換(Discrete Cosine Transfor
mation; DCT)係数からなるブロックを単位として構成
される。MPEG2画像情報復号化部101は、8×8
DCT係数のすべてを用いて復号処理を行うことができ
るが、水平方向に低域4成分及び垂直方向に8成分(以
下、4×8という。)のDCT係数や、水平方向及び垂
直方向ともに低域4成分(以下、4×4という。)のD
CT係数のみを用いた復号処理を行うこともできる。
【0009】なお、このような4×8DCT係数を用い
た復号処理を4×8ダウンデコードと記し、4×4DC
T係数を用いた復号処理を4×4ダウンデコードと記
す。MPEG2画像情報復号化部101は、4×8ダウ
ンデコードや4×4ダウンデコードによる処理を採用す
ることにより、ダウンデコードによる画質劣化を最小限
に抑えながら、演算量とビデオメモリ容量を削減すると
ともに、後段のダウンサンプリング処理を簡略化するこ
とができる。
【0010】MPEG2画像情報復号化部101により
復号された画像は、解像度/フレームレート変換部10
2へ伝送され、任意の異なる解像度及びフレームレート
を持つ画像に変換され、さらに、MPEG4画像情報符
号化部103により、MPEG4ビットストリームへ符
号化される。
【0011】従来の画像情報変換装置100は、MPE
G4画像符号化部103において画像信号を符号化する
際、動きベクトルを検出する演算処理量が全演算処理量
の約60〜70パーセントを占めるため、画像のリアル
タイム処理が困難となり時間遅延が発生する場合があっ
た。また、処理時間の遅延を解消しようとすると処理回
路の部品点数が増加し、装置自体の構成が大規模になる
等の問題点があった。
【0012】しかし、上述の問題点は、MPEG画像符
号化回路103における演算処理量を減らすことで解消
されている。図19に示す画像情報変換装置200で
は、MPEG2ビットストリームの動きベクトルをMP
EG4ビットストリームの動きベクトルに変換すること
により、処理の高速化が図られている。すなわち、上述
した画像情報変換装置100のMPEG4画像情報符号
化部103では、動きベクトルの検出に大きな演算処理
量を要していたが、画像情報変換装置200のMPEG
4画像情報符号化部204では、MPEG4の符号化の
際に動きベクトルを検出する必要がないので、演算量が
低減されて処理が高速化されている。
【0013】画像情報変換装置200は、図19に示す
ように、入力されたMPEG2ビットストリームを復号
するとともに、MPEG2の動きベクトル、画像サイズ
等のパラメータを取り出すMPEG2画像情報復号化部
201と、MPEG2画像情報復号化部201で取り出
されたパラメータ及び外部から入力された画像サイズ調
整フラグに基づいて、MPEG2画像情報復号化部20
1で復号された画像の解像度及びフレームレートを変換
する解像度/フレームレート変換部202とを有してい
る。
【0014】解像度/フレームレート変換部202は、
MPEG2画像情報復号化部201で取り出されたMP
EG2動きベクトル、画像サイズ等のパラメータに基づ
いてMPEG2画像情報復号化部201で復号された画
像の解像度及びフレームレートを変換する解像度フレー
ム変換部205と、外部から入力された画像サイズ調整
フラグに基づいて、解像度フレーム変換部205にて解
像度及びフレームレートを変換された画像に対して画素
の補填又は除去を行う画素補填/除去部206とを有し
ている。
【0015】また、画像情報変換装置200は、MPE
G2画像情報復号化部201から送られたMPEG2の
動きベクトルをMPEG4の動きベクトルに変換する動
きベクトル変換部203と、解像度/フレームレート変
換部202にて解像度及びフレームレートを変換された
画像を動きベクトル変換部203から送られたMPEG
4動きベクトルに基づいてMPEG4ビットストリーム
に符号化して出力するMPEG4画像情報符号化部20
4とを有している。
【0016】動きベクトル変換部203は、解像度/フ
レームレート変換部202における解像度変換の際に、
MPEG2画像情報復号化部201から送られたMPE
G2動きベクトル、画像サイズ等のパラメータや外部か
ら供給された画像サイズ調整フラグに基づいて、MPE
G4動きベクトルを生成する。
【0017】MPEG4ビットストリームにおける被写
体の動きベクトルの水平成分は、解像度変換前の動きベ
クトルの水平成分と画像の横方向の解像度変換レートに
よって求めることができる。同様にして、解像度変換後
の垂直成分は、解像度変換前の動きベクトルの垂直成分
と画像の縦方向の解像度変換レートによって求められ
る。このように、変換後のMPEG4ビットストリーム
における動きベクトルと解像度変換前のMPEG2ビッ
トストリームにおける動きベクトルとの間には、相関関
係がある。
【0018】したがって、画像情報変換装置200は、
このような相関関係に基づいて、MPEG2のマクロブ
ロック動きベクトルやマクロブロックタイプ等のパラメ
ータを利用することで、入力されたMPEG2ビットス
トリームをMPEG4ビットストリームの動きベクトル
へ変換している。
【0019】これら解像度変換の前後の動きベクトルの
相関について説明する。解像度/フレームレート変換部
202が画像の解像度を縦・横ともに1/2にするダウ
ンサンプリング処理について説明する。縦方向のダウン
サンプリング処理は、入力した飛び越し走査画像の第一
フィールド(top field:トップフィールド)、第二フ
ィールド(bottom field:ボトムフィールド)を抽出
し、順次走査画像に変換する。一方、横方向のダウンサ
ンプリング処理は、ダウンサンプリングフィルタを用い
て、1/2の解像度に変換する。また、低ビットレート
化を実現するために、解像度変換による圧縮だけではな
く、画像内符号化画像(以下、Iピクチャと記す。)及
び画像間予測符号化画像(以下、Pピクチャと記す。)
のみで構成される第一フィールド又は第二フィールドを
抜き出すことによって、時間軸方向のフレームレートを
低下させている。
【0020】解像度・フレーム変換を行った画像は、M
PEG4画像符号化方式で符号化できるように、外部か
ら入力される画像サイズ調整フラグに基づいて画素補填
又は画素除去が施され、縦・横の画素数が16の倍数と
される。
【0021】次に、解像度/フレームレート変換部20
2が画像サイズ調整フラグを用いて画像の解像度を変更
する処理について説明する。
【0022】MPEG画像復号化部201から解像度/
フレームレート変換部202へと送出される画像の解像
度がm画素×n画素であるとする。m、nは、ともに1
6の倍数である。したがって、縦横両方向に対して1/
2にダウンサンプリングされたm/2画素画像及びn/
2画素画像は、16の整数倍であるか、16で割ったと
きに8画素の余りを生じるか、8画素の不足を生じる画
素数となっている。
【0023】m/2画素画像及びn/2画素画像が16
の倍数の場合、MPEG4符号化方式に適応しているた
め画像処理は行わない。解像度・フレーム変換部202
は、縦横の画素数がm/2及びn/2である画像をその
まま出力する。
【0024】m/2画素画像及びn/2画素画像が16
の倍数でない場合は、MPEG4符号化方式に適用して
いないため、画像サイズ調整フラグに基づいた画像処理
が必要となる。画像サイズ調整フラグは、画素の補填、
又は画素の除去を行うためのフラグである。
【0025】解像度/フレームレート変換部202は、
m/2画素画像及びn/2画素画像が16で割って8画
素が余る画素数である場合、余った8画素分の画像を除
去する。すなわち、解像度/フレームレート変換部20
2からの出力画像は、(m/2−8)画素又は(n/2
−8)画素となる。
【0026】一方、解像度/フレームレート変換部20
2は、m/2画素画像及びn/2が画素画像16で割っ
て8画素不足する場合、8画素を補填する。すなわち、
解像度/フレームレート変換部202は、8画素分の画
像を新たに作成した8画素、もとの画像から複製した8
画素、又は画像に適した8画素で補填して、行又は列の
先頭、或いは、行又は列の後部から付け加える。すなわ
ち、解像度/フレームレート変換部202からの出力画
像は、(m/2+8)画素又は(n/2+8)画素とな
る。
【0027】結果として、解像度/フレームレート変換
部202は、変換後の画像解像度の縦と横の画素数が1
6の倍数であるMPEG4符号化方式に適した画像サイ
ズを有した画像を出力している。
【0028】解像度変換前と変換後のベクトルの相関が
大きいため、動きベクトル変換部203において、変換
後の8×8ブロックの動きベクトルは、変換前の16×
16マクロブロックの動きベクトルより求めることがで
きる。更に、動きベクトル変換部203では、MPEG
4画像符号化方式により符号化するのに用いる動きベク
トルのうち、4つの8×8動きベクトルと16×16動
きベクトルが生成されてる。
【0029】次いで、動きベクトル変換部203がMP
EG2復号化方式により復号された画像における動きベ
クトルをMPEG4符号化方式により符号化する処理を
図20に示す動きベクトル変換部203の詳細な構造図
を用いて説明する。
【0030】動きベクトル変換部203は、具体的に
は、入力されたMPEG2ビットストリーム内の動きベ
クトルをMPEG2ビットストリームにおける16×1
6動きベクトルからMPEG4ビットストリームにおけ
る8×8動きベクトルへと変換する動きベクトル変換部
207と、動きベクトル変換部207において変換され
た動きベクトルを画像サイズ調整フラグに基づいて調整
する動きベクトル調整部208と、MPEG4ビットス
トリームにおける8×8動きベクトルからMPEG41
6×16動きベクトルへと変換する動きベクトル変換部
209と、MPEG2イントラマクロブロックに対して
動きベクトルを補正する補正部210とから構成されて
いる。
【0031】動きベクトル変換部207は、入力された
MPEG2のマクロブロックの動きベクトルとマクロブ
ロックタイプを変換している。この変換動作が図21に
示されている。飛び越し走査のMPEG2ビットストリ
ームでは、一般的にフレーム構造が用いられてるため、
ここではフレーム構造の場合の処理のみを説明する。
【0032】ステップS100において、動きベクトル
変換部207は、MPEG2画像情報復号化部201か
ら入力した動きベクトルがイントラ(画像内)マクロブ
ロックであるか、インター(画像間)スキップマクロブ
ロックであるかを判別する。
【0033】動きベクトル変換部207は、入力した動
きベクトルがイントラマクロブロックであった場合、ス
テップS101において、8×8マクロブロックの動き
ベクトルを0に設定し、更に、イントラであることを示
すイントラモードフラグを設ける。
【0034】一方、入力した動きベクトルがインタース
キップマクロブロックであった場合、ステップS102
において、動きベクトルを0に設定し、MPEG4の8
×8動きベクトルへ変換する。
【0035】ステップS100において、入力した動き
ベクトルがインターマクロブロックであった場合、動き
ベクトル変換部207は、ステップS103において、
動き補償された動きベクトルを含む画像がフレーム予測
に基づくものであるか、フィールド予測に基づくもので
あるかを判別する。
【0036】動きベクトル変換部207は、入力した動
きベクトルを含む画像がフレーム予測に基づくものであ
った場合、ステップS103において、フレーム予測に
適した動きベクトルへと変換する。
【0037】一方、入力した動きベクトルを含む画像が
フィールド予測であった場合、動きベクトル変換部20
7は、ステップS105において、更に、第一フィール
ド予測であるか、第二フィールド予測であるかを判別す
る。
【0038】入力した動きベクトルを含む画像が第一フ
ィールド予測に基づく場合、動きベクトル変換部207
は、ステップS106において、第一フィールド予測に
適した動きベクトルへ変換する。
【0039】一方、入力した動きベクトルを含む画像が
第二フィールド予測に基づく場合、動きベクトル変換部
207は、ステップS107において、第二フィールド
予測に適した動きベクトルへと変換する。
【0040】ここで、入力した動きベクトルを含む画像
がフレーム予測に基づく場合の変換処理であるステップ
S104における動きベクトル変換の概念を図22に示
す。
【0041】変換後の動きベクトルの水平成分は、変換
前の動きベクトルの水平成分と画像の横方向の解像度変
換レートから求められ、垂直成分は、変換前の動きベク
トルの垂直成分と画像の縦方向の解像度変換レートから
求められる。すなわち、横方向の解像度及び縦方向の解
像度を1/2に変換すると変換後の動きベクトルの水平
成分及び垂直成分も変換前の1/2になる。
【0042】例えば、図22(a)及び図22(b)に
示すように、変換前に(8,12)であった動きベクト
ルMVは、変換された後、(4,6)成分の動きベクト
ルMV’となる。ただし、この場合は、整数画素の中間
値(半画素)の間隔を1としている。解像度変換前の動
きベクトルを示した図22(a)では、整数画素の位置
が黒丸で示され、半画素の位置がひし形で示されてい
る。また、解像度変換後の動きベクトルを示した図22
(b)では、半画素の位置は、白丸で示されている。
【0043】変換前の整数画素の位置に示されている動
きベクトルは、変換後は、整数画素、又は半画素の位置
に示される。ところが、変換前に半画素の位置に示され
ていた動きベクトルは、変換した後は、参照する画素が
なくなる。そこで、変換前の動きベクトルが半画素の位
置を示している場合、変換後の動きベクトルも予測画像
の半画素の位置を示すようにしている。
【0044】復号された画像信号には、量子化による歪
みが含まれているため、そのまま予測画像として使用す
ると予測効率が低下し、画質劣化を引き起こす場合があ
る。これを低減するために、低減通過フィルタに相当す
る参照画面での各画素間を1:1で直線補間した半画素
精度を選択することで画質劣化を回避している。従来の
画像情報変換装置100におけるMPEG4画像符号化
方式による符号化においても、予測効率を向上し画質劣
化を防ぐために、MPEG2で動きベクトルが半画素の
位置に示されている場合は、MPEG4のフォーマット
に変換した際も半画素の位置に示すように変換してい
る。
【0045】このときの変換前と変換後の動きベクトル
の対応関係が図23に示されている。図23において、
[MV/2]は、MVを2で割った整数部を示してい
る。すなわち、返還前の動きベクトルMVを4で割った
余りが1のときは、変換後の動きベクトルの半画素位置
に示し、それ以外の場合は、整数画素位置に示してい
る。
【0046】次に、入力した動きベクトルを含む画像が
フィールド予測に基づく場合の変換処理であるステップ
S106及びステップS107における動きベクトル変
換について示す。まず、入力した動きベクトルを含む画
像が第一フィールド予測に基づく場合における動きベク
トル変換の概念について示す。動きベクトルの水平成分
は、動きベクトルを含む画像がフレーム予測に基づく場
合と同様の処理で行われる。動きベクトルの垂直成分
は、第一フィールドを抽出することにより、解像度を1
/2に変換することが可能である。また、第一フィール
ド予測を行っているため、変換前の動きベクトルは、そ
のまま変換後の動きベクトルになる。
【0047】これに対し、入力した動きベクトルを含む
画像が第二フィールド予測である場合の動きベクトル変
換を図24に示す。動きベクトルは、解像度変換される
と、第一フィールドのみが抽出されるため、変換後の動
きベクトルは、第一フィールドの画素値が参照画像とし
て用いられる。そのため、MPEG2で予測画像として
用いた第二フィールドの画素値に基づく動きベクトルを
解像度変換後の第一フィールドの画素値に変換するよう
に動きベクトルの時空間補正が行われている。
【0048】図24には、第二フィールドから予測され
た動きベクトルMVbottomから近似的に第一フィ
ールドから予測された動きベクトルMVtopに変換す
るための空間的な補正を行う手法が模式的に示されてい
る。すなわち、第二フィールド予測された動きベクトル
MVbottomの場合、動きベクトルMVbott
omの垂直成分に1を加える。第二フィールド予測で求
めた動きベクトルMV ottomの垂直成分に1を足
すことで1行繰り上げられ、第二フィールドが第一フィ
ールドと同様の空間位置に達する。その結果、第二フィ
ールド予測で求めた動きベクトルMVbottomは、
空間上において、第一フィールド予測で求めた動きベク
トルMVtopに相当する位置に近似される。
【0049】空間補正が施された後、第一フィールドに
相当する空間位置に近似された第二フィールド予測動き
ベクトルMVbottomの垂直成分、すなわち、近似
第一フィールド予測を予測動きベクトルとしたときの垂
直成分MVtop,vは、以下に示す式(1)で表され
る。
【0050】
【数1】
【0051】また、飛び越し走査のMPEG2画像圧縮
情報には第一フィールドと第二フィールドとの間に時間
ずれがあるため、第二フィールドから近似された第一フ
ィールドと実際の第一フィールドと間の時間ずれを補正
する必要がある。第一フィールドと第二フィールドの時
間的位置関係が図25に示されている。
【0052】図25において、第一フィールドと第二フ
ィールドの間隔を1とし、aをIピクチャの第二フィー
ルドとPピクチャの第一フィールドとの間隔であるとす
ると、aは、1、3、5、7・・・のような奇数にな
る。なお、aが1の場合は、画像の構成がIPPP・・
・の場合である。時間補正を施した後の動きベクトルM
V’の垂直成分を、式(2)に示す。
【0053】
【数2】
【0054】式(1)を式(2)に代入することによっ
て、入力した動きベクトルを含む画像が第二フィールド
予測である場合、第一フィールドに近似するための時間
空間補正を施した後の動きベクトルの垂直成分MV
は、以下に示される式(3)として表される。一方、変
換後の動きベクトルの水平成分は、変換前の動きベクト
ルに(a+1)/aをかけて時間補正を行った後、図2
3に示した対応関係に基づいて求められる。
【0055】
【数3】
【0056】MPEG2で予測画像として用いた第二フ
ィールドの画素値を解像度変換後の第一フィールドの画
素値に変換するための時空間補正は、動きベクトルの垂
直成分に対して時間的補正を行った後、空間的な補正を
行う方法でもよい。その場合、変換後の動きベクトルM
’の垂直成分を式(4)に示す。なお、水平成分
は、空間補正を行ってから時間補正を行う場合(空間・
時間補正)と時間補正を行ってから空間補正を行う場合
(時間・空間補正)とでは、同様の値となる。
【0057】
【数4】
【0058】空間・時間補正を行った場合と、時間・空
間補正を行った場合の変換後の動きベクトルの垂直成分
の差、すなわち、式(3)と式(4)との差は、1/a
となっている。したがって、aの値に応じて変換後の動
きベクトルの垂直成分の差による影響が異なる。そのた
め、aが1の場合と、3、5、7・・・の場合とで補正
方法を変えている。
【0059】a=1の場合について示す。式(3)にa
=1を代入すると、変換後の動きベクトルの垂直成分M
’は、以下に示す式(5)として表され、式(4)
にa=1を代入すると、変換後の動きベクトルの垂直成
分MV’は、以下に示す式(6)として表される。
【0060】
【数5】
【0061】その結果、変換前の動きベクトルMV
bottomに、0、1、2・・・を代入すると、式
(5)による値は2、4、6・・・のような偶数にな
る。すなわち、空間・時間補正を行うと、変換前の動き
ベクトルは、整数画素の位置に示しても、半画素の位置
に示しても、変換後は、全て整数画素の位置に示される
ことになる。
【0062】また、式(6)による値は、1、3、5の
ような奇数になる。すなわち、時間・空間補正を行う
と、変換前の動きベクトルは、整数画素の位置に示して
も、半画素の位置に示しても、変換後は、全て半画素の
位置に示されることになる。
【0063】したがって、変換前に整数画素の位置を示
す動きベクトルが変換後も整数画素の位置を示すように
するためには、空間・時間補正が用いられ、変換前に半
画素の位置を示す動きベクトルが変換後も半画素の位置
を示すようにするためには、時間・空間補正が用いられ
ている。
【0064】このように、変換前の動きベクトルに対し
て、空間補正及び時間補正を交互に施す、又は、これら
の補正の両方を施している。
【0065】動きベクトル変換部207において、以上
の動きベクトル変換処理が終了すると、動きベクトル変
換部207は、補正前のMPEG4に基づく8×8動き
ベクトルを動きベクトル調整部208に対して送出す
る。
【0066】動きベクトル調整部208は、動きベクト
ル変換部207からのMPEG4の8×8動きベクトル
を外部から入力された画像サイズ調整フラグに基づいて
画像サイズに適した動きベクトルに調整し、出力してい
る。このとき、動きベクトル調整部208が画像サイズ
調整フラグに基づいて、画像サイズに適した動きベクト
ルを出力する処理を図26に示す。
【0067】動きベクトル調整部208は、ステップS
110において、m画素×n画素で入力される画像サイ
ズに対するm/ 2画素画像及びn/ 2画素画像が16
の倍数であるか否かを判別する。
【0068】動きベクトル調整部208は、m/2画素
画像及びn/2画素画像がともに16の倍数であった場
合、動きベクトル変換部203からのMPEG4の8×
8動きベクトルを処理することなくそのまま出力してい
る。
【0069】一方、動きベクトル調整部208は、m画
素×n画素で入力される画像に対するm/2画素画像、
n/2画素画像のいずれかが16の倍数でない場合、ス
テップS111において、外部から入力された画像サイ
ズ調整フラグに応じて、画素を除去するか否かを判別す
る。画像を除去する場合、除去された8画素分の8×8
動きベクトルを出力しないで、他の8×8動きベクトル
を出力している。
【0070】画素を除去しない場合、動きベクトル調整
部208は、画素を補填する。動きベクトル調整部20
8は、画素補填の場合、補填された8画素の8×8動き
ベクトルをゼロとして設定し、受け取った他の8×8動
きベクトルと併せて送出している。
【0071】動きベクトル変換部203がMPEG2復
号化方式により復号された画像の動きベクトルをMPE
G4符号化方式により符号化する処理を図27に示す構
成図を用いて説明する。図27に示す動きベクトル変換
部203は、図20に示された動きベクトル変換部20
3に、マクロブロック情報バッファ211が加えられた
構造である。
【0072】動きベクトル変換部209は、マクロブロ
ックを構成する4つのブロックのうち、イントラでない
マクロブロックから変換されたブロックの動きベクトル
の和をイントラでないマクロブロックから変換されたブ
ロックの数で割った平均を16×16動きベクトルとし
て送出する。
【0073】第1の方法として、MPEG4の8×8動
きベクトルをMPEG4の16×16動きベクトルへ変
換する動きベクトル変換部209は、MPEG2の16
×16動きベクトルをMPEG4の8×8動きベクトル
へ変換する動きベクトル変換部207において変換され
たMPEG4の8×8動きベクトルのうち、最も符号化
効率が高いと考えられるマクロブロックより生成された
動きベクトルを選択し、MPEG4の16×16動きベ
クトルとして出力している。符号化効率の判定は、マク
ロブロック情報バッファ211に格納された画像情報変
換装置200に入力されるMPEG2ビットストリーム
におけるマクロブロックごとの情報に基づいて行われて
いる。すなわち、第1の方法は、4つのマクロブロック
のうち、最も非ゼロDCT(離散コサイン変換)係数の
少ないマクロブロックを符号化効率が高いとする方法で
ある。
【0074】第2の方法は、4つのマクロブロックのう
ち、輝度成分のDCT係数に割り当てられたビット数が
最も少ないマクロブロックを符号化効率が高いとする方
法である。
【0075】第3の方法は、4つのマクロブロックのう
ち、DCT係数に割り当てられたビット数が最も少ない
マクロブロックを符号化効率が高いとする方法である。
第4の方法は、4つのマクロブロックのうち、動きベ
クトル等を含めたマクロブロックに割り当てられた全ビ
ット数が最も少ないマクロブロックを符号化効率が高い
とする方法である。
【0076】第5の方法は、4つのマクロブロックのう
ち、割り当てられた量子化スケールが最も小さいマクロ
ブロックを符号化効率が高いとする方法である。
【0077】第6の方法は、4つのマクロブロックのう
ち、コンプレクシティXとして定められる変数が最も低
いマクロブロックを符号化効率が高いとする方法であ
る。コンプレクシティとは、各マクロブロックに割り当
てられた量子化スケールQ、及びビット数Bを用いて以
下に示す式(7)として計算される変数である。ここ
で、ビット数Bは、マクロブロック全体に割り当てられ
たビット数でもよいし、DCT係数に割り当てられたビ
ット数でもよいし、輝度成分に割り当てられたDCT係
数に割り当てられたビット数でもよい。
【0078】
【数6】
【0079】図27に示された動きベクトル変換部20
3では、第2の方法を採用して、動きベクトル変換部2
09においては、動きベクトル変換部207において生
成された当該マクロブロックに対するMPEG4の8×
8動きベクトルのうち、最も重み付けが高いと考えられ
るマクロブロックより生成された動きベクトルを2回重
複して数え、合計5つの8×8動きベクトルのうち、中
間の長さをもつ動きベクトルを最も符号化効率が高い動
きベクトルとして選択し、MPEG4の16×16動き
ベクトルとして出力している。ここで、動きベクトルの
長さの比較は、水平方向、垂直方向のそれぞれの長さの
2乗根の和を用いている。
【0080】重み付け判定は、マクロブロック情報バッ
ファ211に格納された画像情報変換装置200に入力
されたMPEG2ビットストリームにおけるマクロブロ
ックごとの情報に基づいて行う。
【0081】すなわち、第1の方法では、4つのマクロ
ブロックのうち、非ゼロDCT係数が最も少ないマクロ
ブロックを重み付けが高いとしている。
【0082】第2の方法では、4つのマクロブロックの
うち、輝度成分のDCT係数に割り当てられたビット数
が最も少ないマクロブロックを重み付けが高いとしてい
る。
【0083】第3の方法では、4つのマクロブロックの
うち、DCT係数に割り当てられたビット数が最も少な
いマクロブロックを重み付けが高いとしている。
【0084】第4の方法は、4つのマクロブロックのう
ち、動きベクトル等を含めたマクロブロックに割り当て
られた全ビット数が最も少ないマクロブロックを重み付
けが高いとしている。
【0085】第5の方法は、4つのマクロブロックのう
ち、割り当てられた量子化スケールが最も小さいマクロ
ブロックを重み付けが高いとしている。
【0086】第6の方法は、4つのマクロブロックのう
ち、上述のコンプレクシティXが最も低いマクロブロッ
クを重み付けが高いとしている。
【0087】一方、画像サイズ調整フラグによる動きベ
クトル調整部208より出力された画像サイズに適した
8×8動きベクトルは、MPEG2のイントラマクロブ
ロックに対する補正部210に入力される。補正部21
0において、MPEG2ビットストリームにおけるイン
トラマクロブロックから変換されたの8×8動きベクト
ルは、動きベクトル変換部209によって変換された1
6×16動きベクトルに置き換え、補正される。補正後
の8×8動きベクトルと、動きベクトル変換部209で
求めた16×16動きベクトルとが合わされて、MPE
G4の動きベクトルとして送出されている。
【0088】図28に示すように、MPEG2のイント
ラマクロブロックに対する補正部210は、そのブロッ
クがイントラマクロブロックに対応する場合に立つイン
トラモードフラグの状態に応じて、スイッチ221を切
り換えて補正を行う。すなわち、補正部210は、イン
トラモードフラグが立っている場合には、スイッチ22
1をAに倒して処理を補正処理部221に進める。補正
処理部221は、イントラマクロブロックに対応する0
に設定されたMPEG4の8×8ブロックの動きベクト
ルを、動きベクトル変換部209で変換されたMPEG
4の16×16動きベクトルに置き換える。
【0089】なお、このような置き換え処理の代わり
に、補正処理部221は、イントラマクロブロックに対
応するMPEG4の8×8ブロックの動きベクトルを、
そのイントラマクロブロックの周辺に存在するインター
マクロブロックの動きベクトルから変換された動きベク
トルに置き換えることもできる。
【0090】また、補正処理部221は、イントラマク
ロブロックに対応するMPEG4の8×8ブロックの動
きベクトルを、そのイントラマクロブロックに一番近い
インターマクロブロックの動きベクトルから変換された
動きベクトルに置き換えることもできる。
【0091】なお、4つのブロックともイントラマクロ
ブロックから変換された場合は、4つともに動きベクト
ルが0となり、動きベクトル変換部209によって求め
られる16×16動きベクトルも0となるため、MPE
G4画像符号化に用いる動きベクトルは0となり、マク
ロブロックタイプがイントラモードとなる。また、イン
トラモードフラグが立たない場合、すなわち、MPEG
2ではイントラマクロブロックがない場合、スイッチが
B方向に倒れ、入力された8×8動きベクトルがそのま
ま出力されている。
【0092】図29には、MPEG4の8×8動きベク
トル及びMPEG4の16×16動きベクトルを格納す
る動きベクトルバッファ223と、画像内符号化画像の
VOP(Video Object Plane)(以下、I−VOPと記
す。)から画像間予測符号化画像(以下、Pピクチャと
記す。)(以下、P−VOPと記す。)へと変換するI
/P変換部224とを備えた補正部210の一例が示さ
れている。
【0093】I/P変換部224は、イントラマクロブ
ロックに対する動きベクトルを補正する補正部210に
おいて生成された当該マクロブロックに対するMPEG
4の8×8動きベクトル及びMPEG4の16×16動
きベクトルを入力し、指定されたMPEG4における8
×8動きベクトル及びMPEG4の16×16動きベク
トルを送出する。送出する動きベクトルの指定は、I−
VOPからP−VOPへと変換するきベクトル変換フラ
グの情報に基づいて行う。
【0094】すなわち、MPEG2の変換フレームのフ
レームタイプがイントラフレームモードであり、変換後
のMPEG4のVOPタイプがP−VOPであるとき、
I−VOPからP−VOPへと変換する動きベクトル変
換フラグが作動し、直前に入力されたMPEG4のP−
VOPの動きベクトル情報が動きベクトル情報バッファ
223に保存される。動きベクトル変換フラグが作動し
ないときは、入力された動きベクトルが直接出力され
る。
【0095】MPEG2の16×16動きベクトル情報
のないイントラフレームより変換するMPEG4動きベ
クトルの場合、直前のMPEG4のP−VOPフレーム
に該当するMPEG2の16×16動きベクトルから生
成されたMPEG4の8×8動きベクトル及びMPEG
4の16×16動きベクトルを出力とすることによっ
て、MPEG4画像情報符号化部204における符号化
効率の低減を最小にすることが可能である。
【0096】MPEG4のI−VOPからP−VOPへ
とI/P変換部224は、変換フレームがMPEG2イ
ントラフレームからMPEG4のP−VOPへ変換され
るフレームの場合、動きベクトル情報バッファ223に
保存された直前に変換されたP−VOPのVOP内にお
ける同座標値を有する当該ブロックの8×8動きベクト
ルを入力する。I/P変換部224は、入力された動き
ベクトル情報に基づいて、動きベクトルが0である場合
の予測画素値と入力画像画素値との残差比較をブロック
単位及びマクロブロック単位で行い、動きベクトル0の
予測に基づいてする残差が直前のP−VOPの動きベク
トルを用いた残差より少ない場合、8×8動きベクトル
情報又は16×16動きベクトル情報を0に置き換えて
いる。
【0097】例示した従来の画像情報変換装置200で
は、上述のようにして、MPEG2のIピクチャからM
PEG4のP−VOPへ変換する工程で、直前のMPE
G4のP−VOPに使用された動きベクトル及び動きベ
クトルが0のときの予測残差の少ない動きベクトルをM
PEG4の8×8動きベクトル及び16×16動きベク
トルとすることによって、MPEG4のP−VOPの動
きベクトルを生成し、画像情報変換装置の構成要素であ
るMPEG4画像符号化部204における符号化効率の
低減を最小にしている。
【0098】更に、MPEG4画像情報符号化部204
は、動きベクトルの検出を行わず、変換された動きベク
トルを用いて画像信号を符号化するのみである。この場
合、結果として、MPEG4画像情報符号化部204で
は動きベクトル検出を行わないことになるため、MPE
G4画像情報符号化部204における演算処理量を削減
している。
【0099】上述のように、画像情報変換装置200
は、MPEG2ビットストリームの動きベクトルからM
PEG4ビットストリームの動きベクトルへの変換を行
うこと、或いは、動きベクトル以外にもMPEG2方式
での復号に用いたパラメータ又はMPEG4形式への変
換後のパラメータを採用することによって、MPEG4
画像情報符号化部204における演算処理量を削減し、
時間遅延を低減している。
【0100】
【発明が解決しようとする課題】従来の画像情報変換装
置200では、動きベクトル変換部209において、動
きベクトル変換部207の出力となるMPEG4の8×
8動きベクトルの平均値を算出している。画像情報変換
装置200は、MPEG4における8×8動きベクトル
の代表値を選択することで、MPEG4における16×
16動きベクトルを生成している。
【0101】しかしながら、従来の画像情報変換装置2
00では、MPEG2に基づく動きベクトルをMPEG
4に基づく動きベクトルに変換する際、画素数(空間解
像度)、SNR(画素値の量子化精度)、フレーム数等
を拡大、縮小、増加、減少する等のスケーリング処理に
より、動きベクトルの精度に誤差が発生し、符号化効率
が低下するという問題点があった。
【0102】そこで本発明は、上述した従来の実情に鑑
みてなされたものであり、符号化処理工程における符号
化効率の低下を軽減する動きベクトル変換装置及び動き
ベクトル変換方法を提供することを目的とする。
【0103】
【課題を解決するための手段】本発明は、水平方向及び
垂直方向ともに16成分の離散コサイン変換係数からな
るマクロブロックから構成される飛び越し走査の画像を
符号化した入力画像圧縮情報を、水平方向及び垂直方向
ともに16成分の離散コサイン変換係数からなるマクロ
ブロックから構成され、飛び越し走査の画像に対して水
平方向及び垂直方向ともに1/2のサイズを有する順次
走査の画像を符号化した出力画像圧縮情報へと変換する
際、動きベクトルを変換する動きベクトル変換装置にお
いて、入力画像圧縮情報のマクロブロックは、変換によ
り水平方向及び垂直方向ともに8成分のブロックに変換
され、入力画像圧縮情報のマクロブロックを動き補償す
る第1の動きベクトルに基づいて、出力画像圧縮情報の
マクロブロックを構成し、ブロックの各々を動き補償す
る第2の動きベクトルを生成し、この第2の動きベクト
ルのうち、符号化効率の最も高い動きベクトルを出力画
像圧縮情報のマクロブロックを動き補償する第3の動き
ベクトルとする変換手段と、第1の動きベクトルに基づ
いて生成された第2の動きベクトルを再度入力し、当該
第2の動きベクトルの値の近傍で第2の動きベクトルを
再検索し補正する動きベクトル補正手段とを有すること
により、上述した課題を達成する。
【0104】また、本発明は、水平方向及び垂直方向と
もに16成分の離散コサイン変換係数からなるマクロブ
ロックから構成される飛び越し走査の画像を符号化した
入力画像圧縮情報を、水平方向及び垂直方向ともに16
成分の離散コサイン変換係数からなるマクロブロックか
ら構成され、飛び越し走査の画像に対して水平方向及び
垂直方向ともに1/2のサイズを有する順次走査の画像
を符号化した出力画像圧縮情報へと変換する際、動きベ
クトルを変換する動きベクトル変換方法において、入力
画像圧縮情報のマクロブロックは、変換により水平方向
及び垂直方向ともに8成分のブロックに変換され、入力
画像圧縮情報のマクロブロックを動き補償する第1の動
きベクトルに基づいて、出力画像圧縮情報のマクロブロ
ックを構成し、ブロックの各々を動き補償する第2の動
きベクトルを生成し、この第2の動きベクトルのうち、
符号化効率の最も高い動きベクトルを出力画像圧縮情報
のマクロブロックを動き補償する第3の動きベクトルと
し、第1の動きベクトルに基づいて生成された第2の動
きベクトルを再度入力し、当該第2の動きベクトルの値
の近傍で第2の動きベクトルを再検索し補正することに
より、上述した課題を達成する。
【0105】
【発明の実施の形態】以下、図面を参照し、本発明の実
施例について説明する。本発明の実施の形態として示す
画像情報変換装置は、MPEG(Moving Picture Exper
ts Group)によって標準化されたMPEG2画像圧縮情
報に基づく水平方向及び垂直方向ともに16成分の離散
コサイン変換係数からなるマクロブロック(以下、16
×16マクロブロックと記す。)を補正して、MPEG
4画像圧縮情報に基づく水平方向及び垂直方向ともに8
成分のブロック(以下、8×8ブロックと記す。)を生
成し、更に、このMPEG2画像圧縮情報に基づく8×
8ブロックをMPEG4画像圧縮情報に基づく16×1
6マクロブロックへと変換する画像情報変換装置であっ
て、MPEG4の8×8ブロックのうち、最も符号化効
率が高い8×8ブロックを選択し、これをMPEG4の
16×16マクロブロックとする動きベクトル変換部を
備え、更に、動きベクトル変換部において変換された動
きベクトルを受け取り、当該動きベクトルの値に基づい
て動きベクトルを再検索し、補正する動きベクトル検索
補正部を備えることにより、動きベクトル変換時におけ
る動きベクトル精度の誤差を抑え、符号化効率の低下を
防ぐものである。
【0106】画像情報変換装置1は、図1に示すよう
に、MPEG2画像情報復号化部11と、解像度/フレ
ームレート変換部12と、動きベクトル変換部13と、
動きベクトル補正部14と、MPEG4画像情報符号化
部15とを備えている。更に、解像度/フレームレート
変換部12は、解像度フレーム変換部16と、画像補填
・除去部17とを有する。動きベクトル補正部14は、
具体的には、図2に示すように、動きベクトル整数画素
検索部18と、動きベクトル半画素検索部19とを有し
ている。
【0107】画像情報変換装置1において入力されたM
PEG2ビットストリームとしての画像を図3(a)
に、画像情報変換装置1から出力されるMPEG4ビッ
トストリームとしての画像を図3(b)に示す。
【0108】図3(a)に示す解像度変換前の現フレー
ム50の左下には、太陽51及び山52が表示されてい
るものとする。また、現フレーム50の太陽51は、前
フレームでは領域53に位置していたものとする。そし
て、図中のMVは、前フレームの太陽54の位置を始点
として現フレーム50の太陽51に向かう動きベクトル
を表している。なお、この動きベクトルMVは、フレー
ムの水平成分及び垂直成分にそれぞれ分解することがで
きる。
【0109】一方、図3(b)に示す解像度変換後の現
フレーム55に左下には、太陽56及び山57が表示さ
れているとする。また、現フレーム55の太陽56は、
前フレームでは図中の領域58に位置していたものとす
る。そして、図中の動きベクトルMV’は、前フレーム
の太陽59の位置を始点として現フレーム55の太陽5
6に向かう動きベクトルを表している。なお、この動き
ベクトルMV’も、フレームの水平成分及び垂直成分に
それぞれ分解することができる。
【0110】解像度変換後の動きベクトルMV’は、解
像度変換前の動きベクトルMVから解像度変換レートに
基づいて求めることができる。すなわち、解像度変換後
の動きベクトルMV’の水平成分は、解像度変換前の動
きベクトルMVの水平成分MVと、水平方向(横方
向)の解像度変換レートとを用いることによって求めら
れる。同様に解像度変換後の動きベクトルMV’の垂直
成分は、解像度変換前の動きベクトルMVの垂直成分
と、垂直方向(縦方向)の解像度変換レートとを用いる
ことによって求められる。このように、解像度変換前の
MPEG2ビットストリームにおける動きベクトルと変
換後のMPEG4ビットストリームにおける動きベクト
ルとの間には、相関関係がある。
【0111】したがって、画像情報変換装置1は、この
ような相関関係に基づいて、MPEG2のマクロブロッ
ク動きベクトルやマクロブロックタイプ等のパラメータ
を利用することで、入力されたMPEG2ビットストリ
ームをMPEG4ビットストリームの動きベクトルへ簡
潔に変換している。
【0112】続いて、画像情報変換装置1の各部におけ
る処理を具体的に説明する。MPEG2画像情報復号化
部11は、MPEG2ビットストリームを入力し、復号
化処理を施して解像度/フレームレート変換部12へと
送出する。MPEG2画像情報復号化部11は、水平及
び垂直方向成分に対して、入力されたMPEG2ビット
ストリームの8次のDCT(離散コサイン変換)係数の
全てを用いた復号処理を行う。
【0113】解像度/フレームレート変換部12は、M
PEG2画像情報復号化部11からのMPEG2ビット
ストリームに解像度・フレームレート変換を施し、外部
から入力された画像サイズ調整フラグに基づいて、MP
EG4画像符号化に適した解像度とされた画像を出力す
る。画像サイズ調整フラグとは、解像度/フレームレー
ト変換部12に入力される画像のうち、縦・横の画素数
が16の倍数でない画像に対して、16の整数倍になる
ように画素を補填するか、画素を除去するかを判別する
ためのフラグである。
【0114】解像度/フレームレート変換部12が画像
の解像度を縦・横ともに1/2にする画素間引き処理
(以下、ダウンサンプリング処理と記す。)を図4に例
示する。縦方向のダウンサンプリング処理は、入力した
飛び越し走査画像の第一フィールド(top field:トッ
プフィールド)、第二フィールド(bottom field:ボト
ムフィールド)を抽出し、順次走査画像に変換する。一
方、横方向のダウンサンプリング処理は、ダウンサンプ
リングフィルタを用いて、1/2の解像度に変換する。
また、低ビットレート化を実現するために、解像度変換
による圧縮だけではなく、画像内符号化画像(以下、I
ピクチャと記す。)及び画像間予測符号化画像(以下、
Pピクチャと記す。)のみで構成される第一フィールド
又は第二フィールドを抜き出すことによって、時間軸方
向のフレームレートを低下させている。
【0115】例えば、図4(a)に示されるIピクチャ
と双方向予測符号化画像(以下、Bピクチャと記す。)
とを含むMPEG2の第一フィールドのIBBPBBの
画像は、解像度・フレーム変換の際にBピクチャを抜き
出すことによって、図4(b)に示されたIPPPの第
一フィールドの構成になる。解像度・フレーム変換を行
った画像は、MPEG4画像符号化方式で符号化できる
ように、外部から入力される画像サイズ調整フラグに基
づいて画素補填又は画素除去が施され、縦・横の画素数
が16の倍数とされる。
【0116】画像の垂直方向のダウンサンプリングは、
図4(a)の第一フィールド(topfield:トップフィー
ルド)及び図4(b)の第二フィールド(bottom fiel
d:ボトムフィールド)から第一フィールドを抽出し
て、飛び越し走査の画像を図4(c)に示す順次走査の
画像に変換することにより行う。この変換により、画像
の垂直方向の解像度は1/2になる。なお、垂直方向の
ダウンサンプリングは、図4(a)及び(b)に示すフ
レームから図4(b)に示す第二フィールドを抽出する
ことによって行ってもよい。
【0117】実際には、垂直方向のダウンサンプリング
は、ビットレートを低下させるためのフレームレート変
換と同時に行われる。すなわち、図4(c)に示す順次
走査の画像は、IBBPのピクチャのうちでIピクチャ
及びPピクチャから抽出された第一フィールドから構成
される。
【0118】これにより、図4(a)及び(b)に示さ
れたIBBPのフレームから構成される飛び越し走査の
画像は、解像度・フレーム変換後、図4(c)に示すよ
うにIPの第一フィールドから構成される順次走査の画
像になる。解像度/フレーム変換を行った画像は、MP
EG4画像符号化方式により符号化できるように、縦・
横の画素数がともに16の倍数にする。そのため、外部
から入力される画像サイズ調整フラグにより、画素の補
填、或いは、画素の除去を行う。画像サイズ調整フラグ
は、解像度/フレームレート変換部12の外部から入力
され、画像の縦・横の画素数が16の倍数でない場合に
対し、画像への画素補填若しくは、除去を判別するため
のフラグである。
【0119】次に、解像度/フレームレート変換部12
が画像サイズ調整フラグを用いて画像の解像度を変更す
る処理について、図5を用いて説明する。具体的には、
解像度/フレームレート変換部12において、画像補填
・除去部17は、外部から入力される画像サイズ調整フ
ラグに基づいて、画素の補填又は除去を行うことにより
画像の水平方向及び垂直方向の画素数がともに16の倍
数になるようにする。これによって、画像のサイズは、
MPEG4画像情報符号化部15で行われる16×16
マクロブロックの符号化に適合するようになる。
【0120】画像補填・除去部17における処理は、図
5に示すような手順によって行われる。
【0121】図5(a)に示すように、解像度/フレー
ムレート変換部12には、MPEG2画像情報復号化部
11で水平方向及び垂直方向ともに16成分のDCT係
数からなるマクロブロックごとに復号され、16×16
マクロブロックを構成要素とした画像が入力される。し
たがって、入力された画像を水平方向にm画素及び垂直
方向にn画素とすると、m及びnはともに16の倍数で
ある。
【0122】この画像は、解像度/フレームレート変換
部12の解像度フレーム変換部16によって、水平方向
及び垂直方向ともに1/2に解像度変換され、水平方向
にm/2画素及び垂直方向にn/2画素から構成される
ようになる。このように解像度変換により水平方向にm
/2画素及び垂直方向にn/2画素から構成されるよう
になった画像が画像補填・除去部17に入力されるが、
これらm/2及びn/2は、16で割り切れる場合と、
16で割ると8余る場合とがある。
【0123】そこで、画像補填・除去部17において
は、図5のS1に示すように、m/2及びn/2が16
の倍数である場合とそうでない場合によって処理を分岐
させている。
【0124】すなわち、図5(b)に示すように、m/
2及びn/2がともに16の倍数の場合には、画像のサ
イズはMPEG4の画像圧縮符号化に適合する。したが
って、この場合には、画像補填・除去部17は、画素の
補填又は除去を行うことなく水平方向にm/2及び垂直
方向にn/2画素の画像をそのまま出力する。
【0125】m/2又はn/2の少なくとも一方が16
で割ると8余る場合には、画像のサイズは、MPEG4
の画像圧縮符号化に適合していない。したがって、この
場合には、画像補填/除去部5bは、画像のサイズをM
PEG4の画像圧縮符号化に適合させるために、画素の
補填又は除去を行うことにより画像のサイズを変更す
る。
【0126】なお、以下では便宜上、水平方向のm/2
画素が16で割り切れない場合について例示するが、垂
直方向のn/2画素が16で割り切れない場合や、水平
方向のm/2画素及び垂直方向のn/2画素がともに1
6で割り切れない場合についても同様である。
【0127】画像補填・除去部17は、外部から入力さ
れた画像サイズ調整フラグに応じて、画像へ8画素を補
填する処理と、画像から8画素を除去する処理をスイッ
チS2で切り換える。
【0128】すなわち、画像サイズ調整フラグに応じて
8画素を除去する場合には、スイッチS2で画素の除去
を選択する。この場合には、図5(c)に示すように、
水平方向にm/2画素の画像の例えば後部から水平方向
に8画素が除去される。これによって、画像は水平方向
にはm/2−8画素(すなわち、16で割り切れる画素
数)から構成されるようになる。同様に、画像の水平方
向に先頭から画素を除去することもできる。
【0129】一方、画像調整フラグに応じて8画素を補
填する場合には、スイッチS2で画素の補填を選択す
る。この場合には、図5(d)に示すように、水平方向
にm/2画素の画像の例えば後部に8画素が補填され
る。これによって、画素は水平方向にはm/2+8画素
(すなわち、16で割り切れる画素数)から構成される
ようになる。同様に、画像の水平方向に先頭に画素を補
填することもできる。なお、画像に補填する画素は、新
たに作成したり、補填前の画像から複製したり、画像に
適した画素を選択したものを使用することができる。
【0130】このような画像補填・除去部17における
画素の補填又は除去により、画像の水平方向及び垂直方
向の画素数はともに16の倍数になり、MPEG4画像
情報符号化部15におけるMPEG4ビットストリーム
への符号化に適合するようになる。結果として、解像度
/フレームレート変換部12は、変換後の画像解像度の
縦と横の画素数が16の倍数であるMPEG4符号化方
式に適した画像サイズを有した画像を出力する。
【0131】続いて、動きベクトル変換部13が動きベ
クトルを変換する処理について、図6を用いて説明す
る。
【0132】図6(a)はMPEG2画像情報復号化部
201より出力された画像を表している。図6(b)
は、図6(a)に示す画像を解像度/フレームレート変
換部12で水平方向及び垂直方向ともに1/2の解像度
に変換された画像を表している。
【0133】例えば、図6(a)に示した解像度変換前
の画像における左上の16×16マクロブロック61
は、解像度/フレームレート変換部12によって、図6
(b)に示した変換後の画像における左上の8×8ブロ
ック62に変換される。同様に、図6(a)に示した解
像度変換前の画像における4つの16×16マクロブロ
ック63は、解像度/フレームレート変換部12による
解像度変換後の画像における4つの8×8ブロック64
に対応している。これら4つの8×8ブロック64によ
って、1つの16×16マクロブロックが構成される。
【0134】解像度変換前の画像における4つの16×
16マクロブロック63の各マクロブロックの動きベク
トルMV1,MV2,MV3,MV4は、解像度変換後
の画像における4つの8×8ブロック64の動きベクト
ルmv1、mv2、mv3、mv4にそれぞれ対応して
いる。
【0135】なお、16×16マクロブロックの動きベ
クトルを16×16動きベクトル、8×8ブロックの動
きベクトルを8×8動きベクトルと称する。
【0136】解像度/フレームレート変換部12による
解像度変換の前後の画像に対応する動きベクトルの相関
により、解像度変換後の8×8ブロックの動きベクトル
は、解像度変換前の16×16マクロブロックの動きベ
クトルより求めることができる。したがって、解像度変
換前の4つの16×16マクロブロック63の動きベク
トルMV1,MV2,MV3,MV4から、解像度変換
後の4つのブロック64の動きベクトルmv1,mv
2,mv3,mv4をそれぞれ求めることができる。
【0137】次いで、動きベクトル変換部13がMPE
G2復号化方式により復号された画像における動きベク
トルをMPEG4符号化方式により符号化する処理を図
7に示す構成図を用いて説明する。
【0138】動きベクトル変換部13は、具体的には、
入力されたMPEG2ビットストリーム内の動きベクト
ルをMPEG2ビットストリームにおける16×16動
きベクトルからMPEG4ビットストリームにおける8
×8動きベクトルへと変換するMPEG2_16×16
MV→MPEG4_8×8MV動きベクトル変換部20
と、MPEG2_16×16MV→MPEG4_8×8
MV動きベクトル変換部20において変換された動きベ
クトルを画像サイズ調整フラグに基づいて調整する動き
ベクトル調整部21と、MPEG4ビットストリームに
おける8×8動きベクトルからMPEG4の16×16
動きベクトルへと変換するMPEG4_8×8MV→M
PEG4_16×16MV動きベクトル変換部22と、
MPEG2イントラマクロブロックに対して動きベクト
ルを補正する動きベクトル補正部23とから構成されて
いる。
【0139】MPEG2_16×16MV→MPEG4
_8×8MVMPEG4_8×8MV→MPEG4_1
6×16MV動きベクトル変換部22は、MPEG2画
像情報復号化部11から入力されたMPEG2のマクロ
ブロックの動きベクトルとマクロブロックタイプとを変
換する。このときの変換動作を図8に示す。飛び越し走
査のMPEG2ビットストリームでは、一般的にフレー
ム構造が用いられてるため、ここではフレーム構造の場
合の処理のみを説明する。
【0140】ステップS11において、MPEG2_1
6×16MV→MPEG4_8×8MV動きベクトル変
換部20は、MPEG2画像情報復号化部11からの動
きベクトルがイントラマクロブロックであるか、インタ
ースキップマクロブロックであるかを判別する。
【0141】MPEG2_16×16MV→MPEG4
_8×8MV動きベクトル変換部20は、入力した動き
ベクトルがイントラマクロブロックであった場合、ステ
ップS12において、8×8マクロブロックの動きベク
トルを0に設定し、更に、イントラであることを示すイ
ントラモードフラグを設ける。
【0142】一方、入力した動きベクトルがインタース
キップマクロブロックであった場合、ステップS13に
おいて、動きベクトルを0に設定し、MPEG4の8×
8動きベクトルへ変換する。
【0143】ステップS11において、入力した動きベ
クトルがインターマクロブロックであった場合、MPE
G2_16×16MV→MPEG4_8×8MV動きベ
クトル変換部20は、ステップS14において、動き補
償された動きベクトルを含む画像がフレーム予測に基づ
くものであるか、フィールド予測に基づくものであるか
を判別する。
【0144】MPEG2_16×16MV→MPEG4
_8×8MV動きベクトル変換部20は、入力した動き
ベクトルを含む画像がフレーム予測に基づくものであっ
た場合、ステップS15において、フレーム予測に適し
た動きベクトルへと変換する。
【0145】一方、入力した動きベクトルを含む画像が
フィールド予測であった場合、MPEG4_8×8MV
→MPEG4_16×16MV動きベクトル変換部22
は、ステップS16において、更に、第一フィールド予
測であるか、第二フィールド予測であるかを判別する。
【0146】入力した動きベクトルを含む画像が第一フ
ィールド予測に基づく場合、MPEG2_16×16M
V→MPEG4_8×8MV動きベクトル変換部20
は、ステップS17において、第一フィールド予測に適
した動きベクトルへ変換する。
【0147】一方、入力した動きベクトルを含む画像が
第二フィールド予測に基づく場合、MPEG2_16×
16MV→MPEG4_8×8MV動きベクトル変換部
20は、ステップS18において、第二フィールド予測
に適した動きベクトルへと変換する。
【0148】ここで、入力した動きベクトルを含む画像
がフレーム予測に基づく場合の変換処理としてのステッ
プS15における動きベクトル変換の概念を図9に示
す。
【0149】図3で説明したように、変換後の動きベク
トルの水平成分は、変換前の動きベクトルの水平成分と
画像の横方向の解像度変換レートから求められ、垂直成
分は、変換前の動きベクトルの垂直成分と画像の縦方向
の解像度変換レートから求められる。すなわち、横方向
の解像度及び縦方向の解像度を1/2に変換すると変換
後の動きベクトルの水平成分及び垂直成分も変換前の1
/2になる。
【0150】図3(a)に示す解像度変換前の画像に
は、現フレームにおける太陽51及び山52が表示され
ている。解像度変換前の動きベクトルMVは、前フレー
ムの太陽54の位置を始点とし、現フレームの太陽51
の位置に向かっている。すなわち、解像度変換前の16
×16動きベクトルであるこの動きベクトルMVは、
(0,0)から(8,12)に向かっている。
【0151】ここで、動きベクトルMVは、水平方向及
び垂直方向のそれぞれについて、画像を構成する整数画
素a1に相当する位置0,2,4,・・・と、隣接する
整数画素a1の間の位置1,3,5,・・・に想定され
た仮想的な半画素a2とを用いて表されている。なお、
この半画素a2は、動きベクトルMVを整数画素a1に
相当する位置の1/2の精度で表すために想定された実
在しない画素である。
【0152】一方、図3(b)に示す解像度変換後の画
像は、図3(a)に示した画像の解像度を1/2に変換
したものである。
【0153】この解像度変換により、水平方向及び垂直
方向について、図3(a)に示した位置0,4,8,・
・・に相当する整数画素a1が残り、図3(b)に示し
た整数画素b1の位置0’,2’,4’,・・・に相当
するようになる。図3(a)に示した位置2,6,1
0,・・・に相当する整数画素a1は捨てられる。な
お、図3(b)においては、動きベクトルMV’を整数
画素b1に相当する位置0’,2’,4’,・・・の1
/2の精度で表すために、隣接する整数画素b1の間の
位置1’,3’,5’,・・・に仮想的な半画素b2が
想定されている。
【0154】解像度変換後の動きベクトルMV’も、前
フレームの太陽59の位置を始点とし、現フレームの太
陽56の位置に向かっている。すなわち、解像度変換後
の8×8動きベクトルであるこの動きベクトルMV’
は、(0,0)から(4’,6’)に向かっている。
【0155】このような画像の解像度変換に応じて、解
像度変換前の動きベクトルMVから解像度変換後の動き
ベクトルMV’への変換を行うものとする。すなわち、
解像度変換後の動きベクトルMV’の水平成分MV
は、画像の水平方向の解像度変換レートに応じて1/2
倍に変換される。同様に、解像度変換後の動きベクトル
MV’の垂直成分MV’も、画像の垂直成分の解像度
変換レートに応じて1/2倍に変換される。
【0156】例えば、図3(a)に示した(0,0)か
ら(8,12)に向かう解像度変換前の動きベクトルM
Vは、水平成分8及び垂直成分12であるので、解像度
変換レートに応じて1/2倍されて水平成分4及び垂直
成分6となる。したがって、図3(b)に示す(0,
0)から(4,6)に向かう解像度変換後の動きベクト
ルMV’が得られる。
【0157】ところで、解像度変換後の動きベクトルM
V’は、水平成分及び垂直成分に相当する整数画素b1
又は半画素b2が存在しないことがある。なお、以下の
説明では便宜上動きベクトルの水平成分についてのみ言
及するが、垂直成分についても同様である。
【0158】すなわち、図3(a)の上部に対応関係を
示すように、解像度変換前の画像において、解像度変換
前の動きベクトルMVの水平成分MVが整数画素a1
に相当する0,4,8,・・・のとき、すなわち水平成
分MVを4で割った余りが0となるときには、解像度
変換レートに応じて1/2倍して得た解像度変換後の動
きベクトルMV’の水平成分MV’は、0’,2’,
4’,・・・となり、解像度変換後の画像における整数
画素b1に相当する。同様に、解像度変換前の動きベク
トルMVの水平成分MVが整数画素a1に相当する
2,6,10,・・・のとき、すなわち水平成分MV
を4で割った余りが2となるときには、解像度変換レー
トに応じて1/2倍して得た解像度変換後の動きベクト
ルMV’の水平成分MV’は、1’,3’,5’,・
・・となり、解像度変換後の画像における半画素b2に
相当する。また、解像度変換前の動きベクトルMVの水
平成分MVが半画素a2に相当する1,3,5,7,
・・・のときには、解像度変換前の動きベクトルMVの
水平成分MVを解像度変換レートに応じて1/2倍し
た値1/2,3/2,5/2,7/2,・・・に相当す
る画素が存在しない。
【0159】しかし、従来のように半画素動きベクトル
を生成し、これを中心に再検索を行う場合、半画素値を
サーチウィンドウ内で予め求める工程を必要とするた
め、処理工程が増えることになる。
【0160】そこで、本実施の形態においては、かかる
場合には、解像度変換後の動きベクトルMV’の水平成
分MV’は、サーチウィンドウ内で最も予測差が少な
い整数画素の動きベクトルを求め、次にその整数画素周
辺の9半画素値を検索するようにしている。
【0161】したがって、解像度変換前の動きベクトル
MVの水平成分MVが整数画素a1に相当する2,
6,10,・・・のとき解像度変換レートに応じて1/
2倍して得た解像度変換後の動きベクトルMV’の水平
成分MV’が1’,3’,5’,・・・となり、解像
度変換後の画像における半画素値b2に相当する場合、
すなわち水平成分MVを4で割った余りが2となる場
合、及び解像度変換前の動きベクトルMVの水平成分M
を解像度変換レートに応じて1/2倍した値1/
2,3/2,5/2,7/2,・・・等に相当する画素
が存在しない場合は、整数画素b2に相当する0’,
2’,2’,4’,・・・に変換する。
【0162】これら解像度変換前の動きベクトルMVの
水平成分MVと、解像度変換後の動きベクトルMV’
の関係を図10に示す。なお、この図10においては、
解像度変換前の動きベクトルMVの水平成分又は垂直成
分の値をMVと表記している。
【0163】すなわち、解像度変換前の動きベクトルM
Vの水平成分を4で割った余りが0の場合には、解像度
変換後の動きベクトルMV’の水平成分[MV/2]は
整数画素b1に相当する。したがって、解像度変換後の
動きベクトルMV’の水平成分を[MV/2]とする。
【0164】解像度変換前の動きベクトルMVの水平成
分を4で割った余りが1の場合には、解像度変換前の動
きベクトルMVの水平成分を解像度変換レートに応じて
1/2倍した値[MV/2]とする。
【0165】解像度変換前の動きベクトルMVの水平成
分を4で割った余りが2の場合には、解像度変換後の動
きベクトルMV’の水平成分は、[MV/2]+1とす
る。
【0166】解像度変換前の動きベクトルMVの水平成
分を4で割った余りが3の場合には、解像度変換前の動
きベクトルMVの水平成分を解像度変換レートに応じて
1/2倍した値[MV/2]に対応させる。
【0167】このように、本実施の形態では、まずサー
チウィンドウ内で最も予測誤差が少ない整数画素の動き
ベクトルを求め、次に、その整数画素周辺の9半画素値
を検索することにより、半画素値をサーチウィンドウ内
で予め求める工程を削減している。
【0168】次に、入力した動きベクトルを含む画像が
フィールド予測に基づく場合の変換処理であるステップ
S17及びステップS18における動きベクトル変換の
概念について図11に示す。
【0169】まず、ステップS17における入力した動
きベクトルを含む画像が第一フィールド予測に基づく場
合の動きベクトル変換の概念について示す。動きベクト
ルの水平成分は、動きベクトルを含む画像がフレーム予
測に基づく図9に示した場合と同様の処理で行われる。
すなわち、変換前の動きベクトルが半画素の位置を示し
ている場合、変換後の動きベクトルも予測画像の最も近
接した整数画素の位置を示すようにする。
【0170】動きベクトルの垂直成分は、図11(a)
に示すように、第一フィールドのラインa3及び第二フ
ィールドのラインa4のうち、第一フィールドのライン
a3を取り出す間引き処理を行うことにより、解像度を
1/2にする解像度変換が行われる。図11(b)に
は、第一フィールドのラインb3を取り出すことで、垂
直方向に解像度が1/2になった画像が示されている。
また、第一フィールド予測を行っているため、解像度変
換前の動きベクトルMVは、そのまま解像度変換後の動
きベクトルMV’になる。
【0171】続いて、ステップS18における動きベク
トルを含む画像が第二フィールド予測に基づく場合の動
きベクトル変換の概念図を図12に示す。図12(a)
において、第一フィールドのラインa3及び第二フィー
ルドのラインa4のうち、第一フィールドのラインa3
を取り出す間引きを行うことにより、解像度を1/2に
する解像度変換が行われる。このため、この第二フィー
ルド予測の場合においても、解像度変換後には第一フィ
ールドの画素値を参照画像として用いる。
【0172】図12(b)には、参照画像として用いら
れる第一フィールドのラインb3のみから構成される解
像度変換後の画像が示されている。しかし、飛び越し走
査のMPEG2画像圧縮情報では第一フィールドの画像
と第二フィールドの画像には、時間的及び空間的なずれ
がある。このため、MPEG2で予測画像として用いた
第二フィールドの画素値を解像度変換後の第一フィール
ド予測に変換するように、動きベクトルの時間的及び空
間的な補正を行う。
【0173】まず、第二フィールド予測から近似的に第
一フィールド予測に変換するための空間的補正として、
動きベクトルの垂直成分に1を加える。これによって、
図12(a)に示すように、第二フィールド予測で求め
た動きベクトルMVbott omは、垂直成分に1を加
えることにより垂直方向に一行を繰り上げられ、第二フ
ィールドが第一フィールドと同様の位置に達し、第一フ
ィールド予測の近似動きベクトルMVtopが得られ
る。このような空間的な補正によって、第二フィールド
予測で求めた動きベクトルMVbottomの空間的な
位置は、第一フィールド予測で求めた動きベクトルと同
様になる。
【0174】式(8)は、近似第一フィールド、すなわ
ち第一フィールドと同様な空間位置にある第二フィール
ドを空間的な補正によって予測したときの動きベクトル
MV topの垂直成分を表している。
【0175】
【数7】
【0176】次に、第二フィールドから近似された第一
フィールドと実際の第一フィールドとの時間ずれの補正
を行う。
【0177】図13は、時間ずれの補正を説明する図で
ある。すなわち、図13(a)における各フレームは、
第一フィールド及び第二フィールドから構成されるが、
第一フィールドと第二フィールドの時間間隔を1とする
と、Iピクチャの第二フィールドとPピクチャの第一フ
ィールドの時間間隔をaは1,3,5,・・・の値を取
り得る。
【0178】図中には、Iピクチャの第一フィールドを
参照してPピクチャの第一フィールドを予測する動きベ
クトルMVtopと、Iピクチャの第二フィールドを参
照してPピクチャの第一フィールドを予測する動きベク
トルMVbottomとが示されている。
【0179】図13(b)には、図13(a)に示した
画像に解像度変換及びフレームレート変換により変換さ
れたIピクチャの第一フィールド及びPピクチャの第一
フィールドと、解像度変換後の動きベクトルMV’が示
されている。
【0180】これらの時間間隔の比率により、第二フィ
ールドを参照する動きベクトルMV bottomから近
似した近似MVtopを用いて、時間のずれを補正して
解像度変換後の動きベクトルMV’を得るためには式
(9)を適用する。
【0181】
【数8】
【0182】式(8)を式(9)に代入すると、解像度
変換後の動きベクトルMV’の垂直成分は、式(10)
のようになる。
【0183】
【数9】
【0184】なお、解像度変換後の動きベクトルの水平
成分に対しては、解像度変換前の動きベクトルMV
bottomに(a+1)/aを乗じ、時間的な補正を
行った後、先に図10に示したように変換される。すな
わち、解像度変換前に半画素に相当する動きベクトル
は、解像度変換後にも半画素に相当する動きベクトルに
変換される。
【0185】場合によっては、動きベクトルの垂直成分
に対して時間的補正を行った後、空間的な補正を行って
もよい。その場合、動きベクトルMV’の垂直成分は、
式(11)で与えられる。
【0186】
【数10】
【0187】なお、解像度変換後の動きベクトルMV’
の水平成分は、空間補正を行ってから時間補正を行う空
間・時間補正と時間補正を行ってから空間補正を行う時
間・空間補正のいずれでも同様な値となる。
【0188】式(10)と式(11)の差、すなわち、
空間・時間補正を行った場合と、時間・空間補正を行っ
た場合の動きベクトルの垂直成分の差は1/aになる。
したがって、aの値によって、空間・時間補正と時間・
空間補正との差による影響が異なる。そこで、aが1の
場合と、1より大きい、すなわち3,5,7,・・・の
2つの場合における補正方法を説明する。
【0189】まず、aが1の場合について、式(10)
のaに1を代入すると、動きベクトルの垂直成分は式
(12)になる。
【0190】
【数11】
【0191】式(12)のaに1を代入し、動きベクト
ルの垂直成分は式(13)になる。
【0192】
【数12】
【0193】その結果、解像度変換前の動きベクトルM
bottomに0,1,2,・・・を代入すると、式
(12)による値は2,4,6,・・・のような偶数に
なる。すなわち、空間・時間補正を行うと、解像度変換
前の動きベクトルMVbot tomは整数画素又は半画
素に位置しても、解像度変換後の動きベクトルMV’
は、全て整数画素に位置する。
【0194】また、式(13)による値は、1,3,
5,・・・のような奇数になる。すなわち、時間・空間
補正を行うと、解像度変換前の動きベクトルMVは整数
画素又は半画素に位置しても、解像度変換後の動きベク
トルMV’は、全て半画素に位置する。
【0195】したがって、解像度変換前に整数画素に位
置する動きベクトルMVbotto に対して、解像度
変換後の動きベクトルMV’を整数画素に位置するよう
にする場合、空間・時間補正を行う。また、解像度変換
前に半画素に位置する動きベクトルMVbottom
対して、解像度変換後の動きベクトルMV’を半画素に
位置するようにする場合、時間・空間補正を行う。
【0196】すなわち、解像度変換後の動きベクトルM
V’の垂直成分を求めるために、解像度変換前の動きベ
クトルMVbottomに対し、空間補正、時間補正を
交互に使用して解像度変換後の動きベクトルMV’に変
換する。若しくは、解像度変換前の動きベクトルMV
bottomの全てに対して時間・空間補正を行う。
【0197】以上の動きベクトル変換処理が終了した
後、動きベクトル変換部12から、MPEG4の8×8
動きベクトルが出力される。
【0198】次に、画像情報変換装置1における動きベ
クトル補正部14について説明する。動きベクトル補正
部14は、動きベクトル変換部13においてMPEG2
に基づく動きベクトルをMPEG4に基づく動きベクト
ルに変換する際、画素数(空間解像度)、SNR(画素
値の量子化精度)、フレーム数等を拡大、縮小、増加、
減少するスケーリング処理により発生した動きベクトル
の誤差を補正し、より精度の高い動きベクトルを求める
処理を行う。
【0199】具体的には、動きベクトル補正部14は、
入力されたMPEG4の8×8動きベクトルの周辺画素
に対して、水平方向に+−2整数画素、垂直方向に+−
1画素の動きベクトル検索を行う。すなわち、動きベク
トル補正部14は、再検索の際のサーチウィンドウを動
きベクトル変換部13によって求められた動きベクトル
を中心に水平方向に5画素、垂直方向に3画素の領域に
抑えている。これにより、動きベクトル検索の処理数を
大幅に減少させて、符号化効率の低下を防ぐことを可能
としている。
【0200】また、図2に示した動きベクトル整数画素
検索部18は、指定されたサーチウィンドウ内で最も予
測画素値が少ない整数画素動きベクトルを選択する。動
きベクトル半画素検索部19は、整数画素値で選択され
た最小予測誤差の動きベクトルの周辺9半画素値を検索
し、最も予測誤差が少ない最適な動きベクトル値を送出
する。
【0201】動きベクトル補正部14は、サーチウィン
ドウの再検索画素数を設定するための動きベクトル補正
方向情報フラグに基づいて、サーチウィンドウのサイズ
を設定している。図14及び図15を用いて、動きベク
トル補正方向情報フラグについて説明する。
【0202】図14(a)及び(b)では、MPEG2
の動きベクトルにおける整数画素がc1で表され、MP
EG4の8×8動きベクトルにおける整数画素がc1’
で表されている。また、MPEG2の半画素位置は、d
1で表されている。また、図14(a)には、変換前の
MPEG2の動きベクトルが整数画素であり、変換後の
MPEG4の8×8動きベクトルも整数画素である場合
が示され、図14(b)には、変換前のMPEG2の動
きベクトルが整数画素値であり、変換後のMPEG4の
8×8動きベクトルが半画素精度である場合が示されて
いる。
【0203】図14(a)に示されるように、変換前の
MPEG2の動きベクトルが整数画素であり、変換後の
MPEG4の8×8動きベクトルも整数画素である場
合、同位相の画素が存在し、変換前と変換後とで動きベ
クトルの画素値に歪みが生じないため、動きベクトルの
サーチウィンドウは、動きベクトルの進行方向に対して
対称に設定される。
【0204】一方、図14(b)に示されるように、変
換前のMPEG2の動きベクトルが整数画素値であり、
変換後のMPEG4の8×8動きベクトルが半画素精度
である場合、動きベクトルの進行方向に対して、繰り上
げにより近似のMPEG4の整数画素に修正されるた
め、サーチウィンドウは、動きベクトルの進行方向に対
して逆方向に大きくなるように設定することにより、検
索処理工程を削減することが可能となる。例えば、動き
ベクトルと逆方向に2整数画素値分、順方向に1整数画
素値分検索するようにする。このとき、動きベクトル変
換時に、MPEG4動きベクトルを繰り下げることによ
って、これを近似のMPEG4の整数画素値とした場
合、サーチウィンドウの設定は、動きベクトルの進行方
向に対して順方向に大きくなるように設定される。
【0205】図15(a)には、変換前のMPEG2の
動きベクトルが半画素位置であり、変換後のMPEG4
の8×8動きベクトルが整数画素である場合が示され、
図15(b)には、変換前のMPEG2の動きベクトル
が半画素位置であり、変換後のMPEG4の8×8動き
ベクトルも半画素精度である場合が示されている。
【0206】図15(a)及び(b)に示されるよう
に、変換前のMPEG2の動きベクトルが半画素位置で
あり、変換後のMPEG4の8×8動きベクトルが整数
画素である場合、変換前のMPEG2動きベクトルが半
画素精度を示し、MPEG4動きベクトルに変換する際
に、最も近接したMPEG4整数画素値に修正するた
め、図14(b)に示した場合と同様に、歪みが生じる
方向に応じて、サーチウィンドウは、動きベクトルの進
行方向に対して順方向又は逆方向に大きくなるように設
定される。
【0207】これにより、動きベクトル補正部14は、
動きベクトル再検索の際の処理工程数を減少させるた
め、動きベクトル変換部13から送出された動きベクト
ルの歪み方向を受け取って、動きベクトルの補正検索を
行う際の最適なサーチウィンドウの大きさを設定するこ
とが可能となる。
【0208】このように、画像情報変換装置1は、MP
EG2ビットストリームを入力し、MPEG4における
8×8動きベクトル及び16×16動きベクトルを求め
る際に、動きベクトル変換部13によりスケーリングさ
れた動きベクトルに対して、動きベクトル補正部14に
おいて最適なサーチウィンドウの大きさを設定して再検
索し、補正することによって、MPEG4画像符号化部
15における符号化効率の低減を最小とすることを可能
としている。
【0209】以上説明したように、本発明の実施の形態
においては、MPEG2ビットストリームを入力して、
MPEG4ビットストリームを出力する場合について説
明したが、入力、出力ともこれに限らず、例えば、MP
EG−1やH.263等の画像圧縮情報(ビットストリ
ーム)に対応した画像情報変換装置に適用してもよい。
【0210】なお、図1、2に示す画像情報変換装置1
は、MPEG4における16×16動きベクトルも8×
8動きベクトルと同様に処理を行うようにしているが、
これを、最適なMPEG4における8×8動きベクトル
を動きベクトル整数画素検索部により整数画素値として
求め、当該整数画素値を再度動きベクトル変換部に入力
し、MPEG4における16×16動きベクトルを求め
てもよい。このような画像情報変換装置を図16及び図
17に示す。画像情報変換装置2において、画像情報変
換装置1と同様の構成は、同番号を付して示し、詳細な
説明を省略する。
【0211】画像情報変換装置2における動きベクトル
変換部24は、整数画素精度で補正されたMPEG4の
8×8動きベクトルを受け取り、この動きベクトルに基
づいて、MPEG4の16×16動きベクトルを算出し
て送出する。
【0212】図17に詳細を示す動きベクトル補正部2
5は、動きベクトル整数画素検索部26と動きベクトル
半画素検索部27とを有する。動きベクトル整数画素検
索部26は、動きベクトル変換部24からのMPEG4
の16×16動きベクトルを受け取り、MPEG4の8
×8動きベクトルを補正するのと同様に、入力されたM
PEG4の16×16動きベクトルを中心としたサーチ
ウィンドウ内を水平5画素、垂直3画素で再検索する。
動きベクトル半画素検索部27は、整数画素値で選択さ
れた最小予測誤差の動きベクトルの周辺9半画素値を検
索する。
【0213】このような画像情報変換装置2は、最も予
測誤差が少ない最適なMPEG4の16×16動きベク
トル値を送出することが可能である。
【0214】なお、画像情報変換装置1において、MP
EG2画像情報復号化部11は、4×8ダウンデコー
ド、若しくは、4×4ダウンデコードを行うことによっ
て、画質劣化を最小限に抑えながら演算量とビデオメモ
リ容量とを削減してもよい。特に、ダウンサンプリング
処理を簡略化することによって演算量とビデオメモリ容
量とを削減してもよい。
【0215】以上、画像情報変換装置1では、サーチウ
ィンドウを水平5画素、垂直3画素と設定して説明した
が、これに限らず、水平、垂直方向のサーチウィンドウ
の検索画素数は、任意に選択可能としてもよい。
【0216】
【発明の効果】以上詳細に説明したように、本発明にか
かる動きベクトル変換装置によれば、入力画像圧縮情報
のマクロブロックは、変換により水平方向及び垂直方向
ともに8成分のブロックに変換され、入力画像圧縮情報
のマクロブロックを動き補償する第1の動きベクトルに
基づいて、出力画像圧縮情報のマクロブロックを構成
し、ブロックの各々を動き補償する第2の動きベクトル
を生成し、この第2の動きベクトルのうち、符号化効率
の最も高い動きベクトルを出力画像圧縮情報のマクロブ
ロックを動き補償する第3の動きベクトルとする変換手
段と、第1の動きベクトルに基づいて生成された第2の
動きベクトルを再度入力し、当該第2の動きベクトルの
値の近傍で第2の動きベクトルを再検索し補正する動き
ベクトル補正手段とを有することによって、動きベクト
ル変換手段により補正処理された動きベクトルに対し
て、動きベクトル検索補正手段において再検索して動き
ベクトルの精度の誤差を補正することで、符号化処理に
おける符号化効率の低減を最小とすることが可能であ
る。
【0217】また、本発明にかかる動きベクトル変換方
法によれば、水平方向及び垂直方向ともに16成分の離
散コサイン変換係数からなるマクロブロックから構成さ
れる飛び越し走査の画像を符号化した入力画像圧縮情報
を、水平方向及び垂直方向ともに16成分の離散コサイ
ン変換係数からなるマクロブロックから構成され、飛び
越し走査の画像に対して水平方向及び垂直方向ともに1
/2のサイズを有する順次走査の画像を符号化した出力
画像圧縮情報へと変換する際、動きベクトルを変換する
動きベクトル変換方法において、入力画像圧縮情報のマ
クロブロックは、変換により水平方向及び垂直方向とも
に8成分のブロックに変換され、入力画像圧縮情報のマ
クロブロックを動き補償する第1の動きベクトルに基づ
いて、出力画像圧縮情報のマクロブロックを構成し、ブ
ロックの各々を動き補償する第2の動きベクトルを生成
し、この第2の動きベクトルのうち、符号化効率の最も
高い動きベクトルを出力画像圧縮情報のマクロブロック
を動き補償する第3の動きベクトルとし、第1の動きベ
クトルに基づいて生成された第2の動きベクトルを再度
入力し、当該第2の動きベクトルの値の近傍で第2の動
きベクトルを再検索し補正することにより、動きベクト
ル変換手段により補正処理された動きベクトルに対し
て、動きベクトルを再検索して動きベクトルの精度の誤
差を補正することで、符号化処理における符号化効率の
低減を最小とすることが可能となる。
【図面の簡単な説明】
【図1】本発明の実施の形態の一例として示す画像情報
変換装置の構成を説明するブロック図である。
【図2】本発明の実施の形態の一例として示す画像情報
変換装置の動きベクトル補正部の構成を説明するブロッ
ク図である。
【図3】MPEG2ビットストリームにおける動きベク
トルとMPEG4ビットストリームにおける動きベクト
ルとの間の相関関係を説明する図である。
【図4】本発明の実施の形態の一例として示す画像情報
変換装置の解像度/フレームレート変換部における変換
動作を説明する図である。
【図5】本発明の実施の形態の一例として示す画像情報
変換装置の解像度/フレームレート変換部が画像サイズ
調整フラグを用いて画像の解像度を変更する処理を説明
する図である。
【図6】本発明の実施の形態の一例として示す画像情報
変換装置の動きベクトル変換部が動きベクトルを変換す
る処理を説明する図である。
【図7】本発明の実施の形態の一例として示す画像情報
変換装置の動きベクトル変換部の構成を説明するブロッ
ク図である。
【図8】本発明の実施の形態の一例として示す画像情報
変換装置の動きベクトル変換部における動きベクトル変
換部がMPEG2の16×16動きベクトルをMPEG
4の8×8動きベクトルへと変換する動作を説明する図
である。
【図9】MPEG2の16×16動きベクトルからMP
EG4の8×8動きベクトルへ変換する際、画像がフレ
ーム構造かつフレーム予測の場合の変換動作を模式的に
説明する図である。
【図10】本発明の実施の形態の一例として示す画像情
報変換装置がMPEG2画像圧縮情報における半画素精
度の動きベクトルをMPEG4画像圧縮情報の8×8動
きベクトルへと変換するときの動きベクトルの対応関係
を示す図である。
【図11】本発明の実施の形態の一例として示す画像情
報変換装置がMPEG2の16×16動きベクトルから
MPEG4の8×8動きベクトルへ変換する際、画像が
フレーム構造かつ第一フィールド予測の場合の変換動作
を模式的に説明する図である。
【図12】本発明の実施の形態の一例として示す画像情
報変換装置がMPEG2の16×16動きベクトルから
MPEG4の8×8動きベクトルへ変換する際、画像が
フレーム構造かつ第二フィールド予測の場合の変換動作
を模式的に説明する図である。
【図13】本発明の実施の形態の一例として示す画像情
報変換装置の解像度/フレームレート変換部における変
換動作を説明する図である。
【図14】本発明の実施の形態の一例として示す画像情
報変換装置が動きベクトル補正方向情報フラグに基づい
た画素補正を説明する図である。
【図15】本発明の実施の形態の一例として示す画像情
報変換装置が動きベクトル補正方向情報フラグに基づい
た画素補正を説明する図である。
【図16】本発明の実施の形態の一例として示す画像情
報変換装置の構成を説明するブロック図である。
【図17】本発明の実施の形態の一例として示す画像情
報変換装置の動きベクトル補正部の構成を説明するブロ
ック図である。
【図18】従来の画像情報変換装置の構成を説明するブ
ロック図である。
【図19】従来の画像情報変換装置の構成を説明するブ
ロック図である。
【図20】従来の画像情報変換装置における動きベクト
ル変換部の構成を説明するブロック図である。
【図21】従来の画像情報変換装置の動きベクトル変換
部における動きベクトル変換部がMPEG2の16×1
6動きベクトルをMPEG4の8×8動きベクトルへと
変換する動作を説明する図である。
【図22】従来の画像情報変換装置がMPEG2の16
×16動きベクトルからMPEG4の8×8動きベクト
ルへ変換する際、画像がフレーム構造かつフレーム予測
の場合の変換動作を模式的に説明する図である。
【図23】従来の画像情報変換装置がMPEG2画像圧
縮情報における半画素精度の動きベクトルをMPEG4
画像圧縮情報の8×8動きベクトルへと変換するときの
動きベクトルの対応関係を示す図である。
【図24】従来の画像情報変換装置がMPEG2の16
×16動きベクトルからMPEG4の8×8動きベクト
ルへ変換する際、画像がフレーム構造かつフィールド予
測の場合の変換動作を模式的に説明する図である。
【図25】従来の画像情報変換装置の解像度/フレーム
レート変換部における変換動作を説明する図である。
【図26】従来の画像情報変換装置が画素サイズ調整フ
ラグに基づいて画像サイズに適した動きベクトルを出力
する処理を示すフローチャートである。
【図27】従来の画像情報変換装置における動きベクト
ル変換部の構成を説明するブロック図である。
【図28】従来の画像情報変換装置における補正部の構
成を説明するブロック図である。
【図29】従来の画像情報変換装置における動きベクト
ル変換部の構成を説明するブロック図である。
【符号の説明】
1,2 画像情報変換装置、11 MPEG2画像情報
復号化部、12 解像度/フレームレート変換部、1
3,24 動きベクトル変換部、14,25 動きベク
トル補正部、15 MPEG4画像情報符号化部、16
解像度フレーム変換部、17 画像補填・除去部、1
8,26 動きベクトル整数画素検索部、19,27
動きベクトル半画素検索部、20 動きベクトル変換
部、21 動きベクトル調整部、22 動きベクトル変
換部、23 動きベクトル補正部
───────────────────────────────────────────────────── フロントページの続き (72)発明者 鈴木 輝彦 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 (72)発明者 名雲 武文 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 Fターム(参考) 5C059 LB05 LB07 MA00 MA23 NN15 NN21 NN28 PP05 PP06 PP07 PP30 SS01 SS08 SS10 SS11 TA62 TB07 TB08 TC12 TD02 UA02 UA11 5C063 AA01 AB03 AC01 BA01 BA12 CA05 CA07 CA11

Claims (8)

    【特許請求の範囲】
  1. 【請求項1】 水平方向及び垂直方向ともに16成分の
    離散コサイン変換係数からなるマクロブロックから構成
    される飛び越し走査の画像を符号化した入力画像圧縮情
    報を、水平方向及び垂直方向ともに16成分の離散コサ
    イン変換係数からなるマクロブロックから構成され、上
    記飛び越し走査の画像に対して水平方向及び垂直方向と
    もに1/2のサイズを有する順次走査の画像を符号化し
    た出力画像圧縮情報へと変換する際、動きベクトルを変
    換する動きベクトル変換装置において、 上記入力画像圧縮情報のマクロブロックは、上記変換に
    より水平方向及び垂直方向ともに8成分のブロックに変
    換され、上記入力画像圧縮情報のマクロブロックを動き
    補償する第1の動きベクトルに基づいて、上記出力画像
    圧縮情報のマクロブロックを構成し、上記ブロックの各
    々を動き補償する第2の動きベクトルを生成し、この第
    2の動きベクトルのうち、符号化効率の最も高い動きベ
    クトルを上記出力画像圧縮情報のマクロブロックを動き
    補償する第3の動きベクトルとする変換手段と、 上記第1の動きベクトルに基づいて生成された上記第2
    の動きベクトルを再度入力し、当該第2の動きベクトル
    の値の近傍で第2の動きベクトルを再検索し補正する動
    きベクトル補正手段とを有することを特徴とする動きベ
    クトル変換装置。
  2. 【請求項2】 上記動きベクトル補正手段は、最も予測
    誤差が少ない整数画素の動きベクトルを求め、この整数
    画素に隣接する9つの半画素値を検索することを特徴と
    する請求項1記載の動きベクトル変換装置。
  3. 【請求項3】 上記再検索を行うための最適な画像領域
    を設定する設定手段を備えることを特徴とする請求項1
    記載の動きベクトル変換装置。
  4. 【請求項4】 上記入力画像圧縮情報は、MPEG(Mo
    ving Picture ExpertsGroup)によって標準化されたM
    PEG2規格に基づくものであり、上記出力画像圧縮情
    報は、MPEG4規格に基づくものであることを特徴と
    する請求項1記載の動きベクトル変換装置。
  5. 【請求項5】 水平方向及び垂直方向ともに16成分の
    離散コサイン変換係数からなるマクロブロックから構成
    される飛び越し走査の画像を符号化した入力画像圧縮情
    報を、水平方向及び垂直方向ともに16成分の離散コサ
    イン変換係数からなるマクロブロックから構成され、上
    記飛び越し走査の画像に対して水平方向及び垂直方向と
    もに1/2のサイズを有する順次走査の画像を符号化し
    た出力画像圧縮情報へと変換する際、動きベクトルを変
    換する動きベクトル変換方法において、 上記入力画像圧縮情報のマクロブロックは、上記変換に
    より水平方向及び垂直方向ともに8成分のブロックに変
    換され、上記入力画像圧縮情報のマクロブロックを動き
    補償する第1の動きベクトルに基づいて、上記出力画像
    圧縮情報のマクロブロックを構成し、上記ブロックの各
    々を動き補償する第2の動きベクトルを生成し、この第
    2の動きベクトルのうち、符号化効率の最も高い動きベ
    クトルを上記出力画像圧縮情報のマクロブロックを動き
    補償する第3の動きベクトルとし、 上記第1の動きベクトルに基づいて生成された上記第2
    の動きベクトルを再度入力し、当該第2の動きベクトル
    の値の近傍で第2の動きベクトルを再検索し補正するこ
    とを特徴とする動きベクトル変換方法。
  6. 【請求項6】 上記再検索では、最も予測誤差が少ない
    整数画素の動きベクトルを求め、この整数画素に隣接す
    る9つの半画素値を検索することを特徴とする請求項5
    記載の動きベクトル変換方法。
  7. 【請求項7】 上記再検索を行うための最適な画像領域
    を設定することを特徴とする請求項5記載の動きベクト
    ル変換方法。
  8. 【請求項8】 上記入力画像圧縮情報は、MPEG(Mo
    ving Picture ExpertsGroup)によって標準化されたM
    PEG2規格に基づくものであり、上記出力画像圧縮情
    報は、MPEG4規格に基づくものであることを特徴と
    する請求項5記載の動きベクトル変換方法。
JP2001009301A 2001-01-17 2001-01-17 動きベクトル変換装置及び動きベクトル変換方法 Expired - Fee Related JP4779207B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001009301A JP4779207B2 (ja) 2001-01-17 2001-01-17 動きベクトル変換装置及び動きベクトル変換方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001009301A JP4779207B2 (ja) 2001-01-17 2001-01-17 動きベクトル変換装置及び動きベクトル変換方法

Publications (2)

Publication Number Publication Date
JP2002218468A true JP2002218468A (ja) 2002-08-02
JP4779207B2 JP4779207B2 (ja) 2011-09-28

Family

ID=18876806

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001009301A Expired - Fee Related JP4779207B2 (ja) 2001-01-17 2001-01-17 動きベクトル変換装置及び動きベクトル変換方法

Country Status (1)

Country Link
JP (1) JP4779207B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009076972A (ja) * 2007-09-18 2009-04-09 Canon Inc 画像符号化装置及び画像符号化方法
JP2011131017A (ja) * 2009-12-25 2011-07-07 Sanyo Product Co Ltd 遊技機

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1066088A (ja) * 1996-08-16 1998-03-06 Ricoh Co Ltd 多地点テレビ会議制御装置
JPH10271494A (ja) * 1997-03-26 1998-10-09 Nec Commun Syst Ltd 動画符号変換装置
JPH10336672A (ja) * 1997-05-30 1998-12-18 Oki Electric Ind Co Ltd 符号化方式変換装置およびその動きベクトル検出方法
JP2000059789A (ja) * 1998-08-04 2000-02-25 Victor Co Of Japan Ltd 動画像符号列変換装置及びその方法
JP2000165883A (ja) * 1998-11-27 2000-06-16 Matsushita Electric Ind Co Ltd 動きベクトル検出装置
JP2000244927A (ja) * 1999-02-23 2000-09-08 Matsushita Electric Ind Co Ltd 動画変換装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1066088A (ja) * 1996-08-16 1998-03-06 Ricoh Co Ltd 多地点テレビ会議制御装置
JPH10271494A (ja) * 1997-03-26 1998-10-09 Nec Commun Syst Ltd 動画符号変換装置
JPH10336672A (ja) * 1997-05-30 1998-12-18 Oki Electric Ind Co Ltd 符号化方式変換装置およびその動きベクトル検出方法
JP2000059789A (ja) * 1998-08-04 2000-02-25 Victor Co Of Japan Ltd 動画像符号列変換装置及びその方法
JP2000165883A (ja) * 1998-11-27 2000-06-16 Matsushita Electric Ind Co Ltd 動きベクトル検出装置
JP2000244927A (ja) * 1999-02-23 2000-09-08 Matsushita Electric Ind Co Ltd 動画変換装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009076972A (ja) * 2007-09-18 2009-04-09 Canon Inc 画像符号化装置及び画像符号化方法
JP2011131017A (ja) * 2009-12-25 2011-07-07 Sanyo Product Co Ltd 遊技機

Also Published As

Publication number Publication date
JP4779207B2 (ja) 2011-09-28

Similar Documents

Publication Publication Date Title
JP4682410B2 (ja) 画像処理装置及び画像処理方法
EP2290991B1 (en) Predicting motion vectors for fields of forward-predicted interlaced video frames
US9197903B2 (en) Method and system for determining a macroblock partition for data transcoding
US8514939B2 (en) Method and system for motion compensated picture rate up-conversion of digital video using picture boundary processing
JP5325638B2 (ja) 画像復号化方法
JP2001238218A (ja) 信号変換装置及び方法
JP3797209B2 (ja) 画像情報符号化方法及び装置、画像情報復号方法及び装置、並びにプログラム
JP2001285863A (ja) 画像情報変換装置及び方法
JP4622077B2 (ja) 画像処理装置及び画像処理方法
JP2009027446A (ja) 画像処理方法および画像処理装置
JP2002010267A (ja) 動きベクトル変換装置及び方法
JP2002125227A (ja) 画像情報変換装置及び方法
JP4779207B2 (ja) 動きベクトル変換装置及び動きベクトル変換方法
JP4264811B2 (ja) 画像復号化装置及び画像復号化方法
JP2002044669A (ja) 画像情報変換装置及び方法
JP4556286B2 (ja) 動きベクトル変換装置及び方法
JP2001086508A (ja) 動画像復号方法及び動画像復号装置
JP2001309389A (ja) 動きベクトル変換装置及び方法
JP4529295B2 (ja) 動きベクトル変換方法及び変換装置
JPH10126749A (ja) 順次走査変換装置
JP2002199399A (ja) 動きベクトル変換方法及び変換装置
JP4505992B2 (ja) 画像情報変換装置及び方法
JP2002247588A (ja) 動きベクトル変換方法及び変換装置
JP2002135785A (ja) 動きベクトル変換方法及び変換装置
JPH11252561A (ja) 動画像復号化方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080111

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091001

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091006

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100413

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100607

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101005

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110607

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110620

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140715

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140715

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees