JPH09322163A - 画像信号の符号化方法、伝送方法及び復号方法、符号化装置、伝送装置及び復号装置並びに記録媒体 - Google Patents

画像信号の符号化方法、伝送方法及び復号方法、符号化装置、伝送装置及び復号装置並びに記録媒体

Info

Publication number
JPH09322163A
JPH09322163A JP6707297A JP6707297A JPH09322163A JP H09322163 A JPH09322163 A JP H09322163A JP 6707297 A JP6707297 A JP 6707297A JP 6707297 A JP6707297 A JP 6707297A JP H09322163 A JPH09322163 A JP H09322163A
Authority
JP
Japan
Prior art keywords
image signal
signal
image
key
encoded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP6707297A
Other languages
English (en)
Other versions
JP3371191B2 (ja
Inventor
Teruhiko Suzuki
輝彦 鈴木
Yoichi Yagasaki
陽一 矢ヶ崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP06707297A priority Critical patent/JP3371191B2/ja
Publication of JPH09322163A publication Critical patent/JPH09322163A/ja
Application granted granted Critical
Publication of JP3371191B2 publication Critical patent/JP3371191B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

(57)【要約】 【課題】 合成された合成画像に対して効果的な画像編
集を行うことができる画像信号の符号化方法、伝送方法
及び復号方法、符号化装置、伝送装置及び復号装置並び
に復号装置によって復号可能な記録信号が記録された記
録媒体を提供する。 【解決手段】 分離された第1の画像信号及び第2の画
像信号と上記第1の画像信号と第2の画像信号を合成す
るためのキー信号を符号化する画像信号の符号化装置に
おいて、上記第1の画像信号及び第2の画像信号をスケ
ーラブル符号化する画像信号符号化部62と、上記キー
信号を画像信号に用いたスケーラブル符号化方法と同様
の方法でスケーラブル符号化するキー信号符号化部61
とを備える。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、入力画像信号を例
えば光磁気ディスクや磁気テープなどの記録媒体に記録
し、これを再生してディスプレイなどに表示したり、テ
レビ会議システム、テレビ電話システム、放送用機器、
マルチメディアデータベース検索システムなど、動画像
信号を伝送路を介して送信側から受信側に伝送し、受信
側において、この動画像信号を受信し、表示する場合や
動画像信号を編集し記録する場合などに用いて好適な画
像信号の符号化方法、伝送方法及び復号方法、符号化装
置、伝送装置及び復号装置並びに記録媒体に関する。
【0002】
【従来の技術】例えば、テレビ会議システム、テレビ電
話システムなどのように、動画像信号を遠隔地に伝送す
るシステムにおいては、伝送路を効率良く利用するた
め、映像信号のライン相関やフレーム間相関を利用し
て、画像信号を圧縮符号化するようになされている。
【0003】動画像の高能率符号化方式として代表的な
ものとして 蓄積用動画像符号化(MPEG:Movi
ng Picture Experts Group)
方式がある。これは、ISO−IEC/JTC1/SC
2/WG11にて議論され、標準案として提案されたも
のであり、MPEG方式においては、動き補償予測符号
化と離散余弦変換(DCT:Discrete Cos
ine Transform)符号化を組み合わせたハ
イブリッド方式が採用されている。例えば、MPEGに
関する1つの技術として、本出願人による米国出願US
P5,155,593(DATE OF PATEN
T: October 13, 1992)の明細書及
び図面において提案されている。
【0004】MPEG方式では様々なアプリケーション
や機能に対応するために、幾つかのプロファイル及びレ
ベルが定義されている。最も基本となるのが、メインプ
ロファイル・メインレベル(MP@ML)である。ここ
で、図39を参照して、MPEG方式のMP@MLのエ
ンコーダの構成例について説明する。
【0005】入力画像信号は、フレームメモリ1に供給
され、所定の順番で符号化される。符号化されるべき画
像データは、マクロブロック単位で動きベクトル検出回
路2に入力される。動きベクトル検出回路2は、予め設
定されている所定のシーケンスに従って、各フレームの
画像データをIピクチャ,Pピクチャ又はBピクチャと
して処理する。シーケンシャルに入力される各フレーム
の画像を、I,P,Bのいずれのピクチャとして処理す
るかは、予め定められている(例えば、入力画像の各フ
レームがI,B,P,B,P,・・・B,Pの順で処理
される)。
【0006】動きベクトル検出回路2は、予め定められ
た所定の参照フレームを参照し、動き補償を行うための
その動きベクトルを検出する。動き補償(フレーム間予
測)には前方予測,後方予測,両方向予測の3種類のモ
ードがある。Pピクチャの予測モードは前方予測のみで
ありBピクチャの予測モードは前方予測,後方予測,両
方向予測の3種類である。動きベクトル検出回路2は予
測誤差を最小にする予測モードを選択しその際の予測モ
ードに対応する予測ベクトルを発生する。この際、予測
誤差は、例えば符号化するマクロブロックの分散と比較
され、マクロブロックの分散の方が小さい場合、そのマ
クロブロックでは予測は行わず、フレーム内符号化が行
われる。この場合予測モードは画像内符号化(イント
ラ)となる。動きベクトル及び上記予測モードは、可変
長符号化回路6及び動き補償回路12に供給される。
【0007】動き補償回路12は、動きベクトル検出回
路2から供給された所定の動きベクトルに基づいて予測
参照画像を生成し、予測参照画像信号として演算回路3
に入力する。演算回路3は、符号化するマクロブロック
の値と予測参照画像の値の差分値を予測残差信号として
DCT回路4に供給する。なお、イントラマクロブロッ
クの場合、演算回路3は、符号化するマクロブロックの
値をそのまま、つまり、入力画像信号をDCT回路4に
供給する。
【0008】DCT回路4は、入力されたマクロブロッ
ク単位の予測残差信号(若しくは、入力画像信号)をD
CT(離散コサイン変換)処理することにより、DCT
係数に変換する。このDCT係数は、マクロブロック単
位で量子化回路5に供給され、送信バッファ7のデータ
蓄積量(バッファ蓄積量)に対応した量子化スケールで
量子化された後、可変長符号化回路6に供給される。
【0009】可変長符号化回路6は、量子化回路5より
供給される量子化スケールに対応して、量子化回路5よ
り供給される量子化された量子化データを、例えばハフ
マン符号などの可変長符号に変換し、送信バッファ7に
供給する。可変長符号化回路6には、また、量子化回路
5より量子化スケール、動きベクトル検出回路2より予
測モード(画像内予測,前方予測,後方予測又は両方向
予測のいずれが設定されたかを示すモード)及び動きベ
クトルが供給される。可変長符号化回路6は、これらも
可変長符号化する。
【0010】送信バッファ7は、入力されたデータを一
時蓄積し、蓄積量に対応するデータを量子化回路5に供
給する。送信バッファ7は、そのデータ残量が許容上限
値まで増量すると、量子化制御信号によって量子化回路
5の量子化スケールを大きくすることにより、量子化デ
ータのデータ量を低下させる。また、これとは逆に、デ
ータ残量が許容下限値まで減少すると、送信バッファ7
は、量子化制御信号によって量子化回路5の量子化スケ
ールを小さくすることにより、量子化データのデータ量
を増大させる。このようにして、送信バッファ7のオー
バフロー又はアンダフローが防止される。
【0011】そして、送信バッファ7に蓄積された符号
化データは、所定のタイミングで読み出され、符号化さ
れたビットストリームとして図示しない伝送路に出力さ
れるか、記録媒体に記録される。
【0012】一方、量子化回路5より出力された量子化
データは、逆量子化回路8に供給され、量子化回路5よ
り供給される量子化スケールに対応して逆量子化され、
DCT回路4の出力信号に対応するDCT係数を生成す
る。逆量子化回路8からのDCT係数は、IDCT(逆
DCT)回路9に供給され、逆DCT処理された後、演
算器3の出力信号に対応する予測残差信号(イントラ予
測符号化の場合は、入力画像信号)を生成する。そし
て、この予測残差信号は、演算器10に供給される。演
算器10は、動き補償回路12からの予測参照画像信号
と予測残差信号を加算する。この演算器10による加算
出力は、予測画像信号としてフレームメモリ11に記憶
される。
【0013】次に、図40を用いて、MPEG方式のM
P@MLのデコーダの構成例を説明する。伝送路を介し
て伝送された符号化されたビットストリームは、図示せ
ぬ受信回路で受信されたり、再生装置で再生された符号
化されたビットストリームは、受信バッファ21に一時
記憶された後、可変長復号回路22に供給される。可変
長復号回路22は、受信バッファ21より供給された符
号化データを可変長復号し、動きベクトルと予測モード
を動き補償回路27に、また、量子化スケールを逆量子
化回路23に、それぞれ供給するとともに、可変長復号
されたエンコーダの量子化器5に対応する量子化データ
を逆量子化回路23に出力する。
【0014】逆量子化回路23は、可変長復号回路22
より供給され量子化データを、同じく可変長復号化回路
22より供給された量子化スケールに従って逆量子化
し、エンコーダのDCT回路4の出力信号に対応するD
CT係数をIDCT回路24に供給する。逆量子化回路
23より供給されたDCT係数は、IDCT回路24に
供給される。そして、IDCT回路24は、供給された
DCT係数を逆DCT処理し、エンコーダの演算器4の
出力信号に対応する入力画像信号(イントラ予測符号化
の場合)を演算器25に供給する。
【0015】IDCT回路24より得られた画像信号
は、演算器25に供給される。演算器25は、そのまま
入力された画像信号を復号画像信号として出力する。そ
して、演算器25からの復号画像信号がIピクチャのデ
ータである場合、その復号画像信号は、後に処理される
画像(Pピクチャ又はBピクチャ)の予測参照画像信号
を生成するために、フレームメモリ26に供給されて記
憶される。また、この復号画像信号は、そのまま再生画
像として外部に出力される。
【0016】入力された符号化されたビットストリーム
がPピクチャ又はBピクチャの場合、IDCT回路24
からの出力信号がエンコーダの演算器4の入力画像信号
(イントラ予測符号化の場合)のとき、IDCT回路2
4より供給された画像信号は、演算器25に供給され
る。演算器25は、そのまま入力された画像信号を復号
画像信号として出力する。また、IDCT回路24から
の出力信号がエンコーダの演算器4の予測残差信号(イ
ンター予測符号化の場合)のとき、IDCT回路24よ
り供給された予測残差信号は、演算器25に供給され
る。演算器25は、動き補償回路27からの予測参照画
像信号と予測残差信号を加算して、復号画像信号として
出力する。動き補償回路27は、可変長復号回路22よ
り供給される動きベクトル及び予測モードに従って、予
測画像を生成し、予測参照画像信号として演算器25に
供給する。また、Pピクチャの場合、演算器5からの復
号画像信号は、フレームメモリ6に入力され記憶され、
次に復号する画像信号の参照画像として使用される。
【0017】また、MPEG方式では、MP@MLの他
に様々なプロファイル及びレベルが定義され、また各種
ツールが用意されている。そのうち、スケーラビリティ
もMPEG方式の中のツールの1つである。MPEGで
は、異なる画像サイズやフレームレートに対応する、ス
ケーラビリティを実現するスケーラブル符号化方式が導
入されている。例えば、空間スケーラビリティにおい
て、下位レイヤのビットストリームのみを復号する場
合、画像サイズの小さい画像信号を復号し、下位レイヤ
及び上位レイヤのビットストリームを復号する場合、画
像サイズの大きい画像信号を復号する。
【0018】図41を用いて空間スケーラビリティのエ
ンコーダを説明する。空間スケーラビリティの場合、下
位レイヤは画像サイズの小さい画像信号、また上位レイ
ヤは画像サイズの大きい画像信号に対応する。下位レイ
ヤの入力画像信号は、まず、フレームメモリ101に供
給され、MP@MLと同様に符号化される。ただし、演
算器110の出力(つまり、予測画像信号)は、フレー
ムメモリ111に供給され、下位レイヤの予測参照画像
として用いられるだけでなく、画像信号拡大回路113
にも供給される。画像信号拡大回路113は、供給され
た演算器110からの予測画像信号を上位レイヤの画像
サイズと同一の画像サイズに拡大した後、その下位レイ
ヤ予測参照画像信号は、上位レイヤの予測参照画像とし
て使用される。他の各部は、図39に示したエンコーダ
の各部と同一なので、その説明を省略する。
【0019】上位レイヤの入力画像信号は、まず、フレ
ームメモリ115に供給される。動きベクトル検出回路
116は、MP@MLと同様に、上位レイヤ動きベクト
ル及び予測モードを決定する。動き補償回路126は、
動きベクトル検出回路116によって決定された上位レ
イヤ動きベクトル及び予測モードに従って、予測参照画
像を生成し、上位レイヤ予測参照画像信号として重み付
加回路127に供給する。重み付加回路127は、上位
レイヤ予測参照画像信号に対して重みWを乗算し、重み
付けされた上位レイヤ予測参照画像信号を演算器128
に供給する。
【0020】下位レイヤの演算器110からの予測画像
信号は、上記のとおり、フレームメモリ111及び画像
信号拡大回路113に供給される。画像信号拡大回路1
13は、演算器110によって生成された予測画像信号
を拡大して上位レイヤの画像サイズと同一の大きさにし
て、下位レイヤ予測画像信号として重み付加回路114
に供給する。重み付加回路114は、下位レイヤ予測参
照画像信号に対して重みWを乗算し、重み付けされた下
位レイヤ予測参照画像信号を演算器128に供給する。
演算器128は、重み付けされた上位レイヤ予測参照画
像信号と重み付けされた下位レイヤ予測参照画像信号を
加算して予測参照画像信号を生成し、演算器117に供
給する。したがって、この予測参照画像信号が、上位レ
イヤの画像信号の予測参照フレームとして用いられる。
演算器117は、符号化する画像信号と演算器128か
らの予測参照画像信号との差分を計算し、予測残差信号
を出力する。ただし、フレーム内符号化(イントラ予測
符号化)の行うマクロブロックの場合、演算器117
は、符号化する画像信号をそのままDCT回路118に
供給する。
【0021】DCT回路118は、演算器117の出力
信号(インター予測符号化の場合は、予測残差信号、イ
ントラ予測符号化の場合は、入力画像信号)をマクロブ
ロック単位でDCT(離散コサイン変換)処理してDC
T係数を生成し、DCT係数を量子化回路119に供給
する。量子化回路119は、MP@MLの場合と同様
に、送信バッファ121のデータ蓄積量などから決定さ
れた量子化スケールに従って、DCT係数を量子化し
て、量子化されたDCT係数を可変長符号化回路120
に供給する。可変長符号化回路120は、量子化された
DCT係数を可変長符号化した後、符号化データを送信
バッファ121を介して上位レイヤのビットストリーム
として出力する。
【0022】量子化回路119からの量子化されたDC
T係数は、逆量子化回路122に供給される。逆量子化
回路122は、量子化回路119で用いた量子化スケー
ルで逆量子化し、DCT回路118の出力信号に対応す
るDCT係数を逆DCT回路123に供給する。逆DC
T回路123は、DCT係数を逆DCTして、演算器1
17の出力信号に対応する画像信号(イントラ予測符号
化)若しくは予測残差信号(インター予測符号化)を演
算器124に供給する。演算器124は、演算器128
からの予測参照画像信号と逆DCT回路123からの予
測残差信号を加算して、予測画像信号としてフレームメ
モリ25に供給する。なお、演算器123からの信号
が、画像信号(つまり、イントラ予測符号化の場合)、
演算器123からの画像信号が演算器124を介してそ
のまま予測画像信号としてフレームメモリ125に供給
される。
【0023】可変長符号化回路120には、また動きベ
クトル検出回路116で検出された上記レイヤ動きベク
トル及び予測モード、量子化回路119で用いた量子化
スケール、重み付加回路114及び127で用いた重み
Wが供給され、それぞれ可変長符号化されて、符号化デ
ータして出力される。
【0024】次に、図42を用いて空間スケーラビリテ
ィのデコーダの一例を説明する。下位レイヤのビットス
トリームは、受信バッファ201に入力された後、MP
@MLと同様に復号される。ただし、演算器205の出
力信号、つまり、下位レイヤの復号画像信号は、外部に
出力されるとともに、フレームメモリ206に蓄えられ
てこれ以後復号する画像信号の予測参照画像として用い
られる(Iピクチャ及びPピクチャの場合)だけでな
く、画像信号拡大回路208にも供給される。
【0025】上位レイヤのビットストリームは、受信バ
ッファ209に入力された後、符号化データとして可変
長復号回路210に供給される。可変長復号回路210
は、符号化データを可変長復号して、量子化されたDC
T係数とともに、量子化スケール、上位レイヤ動きベク
トル及び予測モード及び重み係数Wを発生する。可変長
復号回路210により復号された量子化されたDCT係
数及び量子化スケールは、逆量子化回路211に供給さ
れる。逆量子化回路211は、量子化スケールを用いて
量子化されたDCT係数を逆量子化して、エンコーダの
DCT回路118の出力信号に対応するDCT係数を生
成し、逆DCT回路212に供給する。逆DCT回路2
12は、供給されたDCT係数を逆DCT処理し、エン
コーダの演算器117の出力信号(イントラ予測符号化
の場合は画像信号、インター予測符号化の場合は予測残
差信号)に対応する画像信号若しくは予測残差信号を生
成し、演算器213に供給する。
【0026】動き補償回路215には、可変長復号回路
210からの復号された上位レイヤ動きベクトル及び予
測モードが供給される。動き補償回路215は、その上
位レイヤ動きベクトル及び予測モードに従って、フレー
ムメモリ214に記憶されている予測画像信号を動き補
償して予測参照画像を生成し、上位レイヤ予測参照画像
信号を重み付加回路216に供給する。重み付加回路2
16には、可変長復号回路210からの復号された重み
Wが供給され、動き補償回路215からの上位レイヤ予
測参照画像信号にその重みWを乗算し、重み付けされた
上位レイヤ予測参照画像信号を演算器217に供給す
る。
【0027】演算器205からの復号画像信号は、下位
レイヤ再生画像として出力され、またフレームメモリ2
06に供給されると同時に、画像信号拡大回路218に
供給される。そして、画像信号拡大回路218は、下位
レイヤから供給された復号画像信号を上位レイヤの画像
信号と同一の画像サイズに拡大して、拡大された画像信
号を上位レイヤ画像信号の予測参照画像として使用する
ために、重み付加回路218に供給する。重み付加回路
208には、可変長復号回路210からの復号された重
みWが供給される。重み付加回路208は、画像信号拡
大回路218からの拡大された画像信号に重み(1−
W)を乗算し、重み付けされた下位レイヤ予測参照画像
信号として演算器217に供給する。
【0028】演算器217は、重み付けされた上位レイ
ヤ予測参照画像信号と重み付けされた下位レイヤ予測参
照画像信号を加算して、予測参照画像信号を演算器21
3に供給する。演算器213は、逆DCT回路212か
らの予測残差信号と演算器217からの予測参照画像信
号を加算して、上位レイヤの再生画像として上位レイヤ
復元画像信号を出力し、またフレームメモリ214に供
給する。そして、フレームメモリにこの上位レイヤ復元
画像信号が記憶され、その後復号される画像信号の予測
参照画像として使用される。なお、逆DCT回路212
からの出力信号が画像信号(イントラ予測符号化)の場
合、その画像信号が、上位レイヤ復元画像信号として演
算器213からそのまま出力される。
【0029】また、以上においては、輝度信号の処理に
ついて説明したが、色差信号の処理も同様に行われる。
ただし、この場合、動きベクトルは、輝度信号用のもの
を、垂直方向及び水平方向に1/2にしたものが用いら
れる。
【0030】以上、MPEG方式について説明したが、
この他にも様々な動画像の高能率符号化方式が標準化さ
れている。例えば、ITU−Tでは主に通信用の符号化
方式として、H.261やH.263という方式を規定
している。このH.261やH.263も基本的にはM
PEG方式と同様に動き補償予測符号化とDCT変換符
号化を組み合わせたものであり、ヘッダ情報などの詳細
は異なるが、符号化装置や復号装置はほとんど同様に構
成される。
【0031】次に、従来から知られている画像合成シス
テムについて説明する。複数の画像を合成して1つの画
像を構成する画像合成システムには、例えばクロマキー
という方法が用いられる。これは、ある物体(例えば、
人物)を青などのある特定の一様な色の背景の前で撮影
し、青以外の領域(人物画像)をそこから抽出し、この
抽出された人部画像を別の画像(例えば背景画像)に合
成する方法である。このとき、抽出した領域を示す信号
をキー信号と呼ぶ。
【0032】図43にこのような画像合成方法によって
合成された合成画像を符号化する方法の原理を示す。画
像F1’は背景画像であり、また画像F2は前景画像で
ある。前景画像F2’はある特定の色の背景の前で撮影
され、その色以外の領域を抽出することによって生成し
た画像である。その際、抽出した領域を示す信号がキー
信号K1である。合成画像F3’は、これら背景画像F
1’、前景画像F2’及びキー信号K1を用いて合成し
たものである。この合成画像を符号化する場合、通常合
成画像F3’をMPEGなどの符号化方式で符号化する
ことになる。このような合成画像を符号化する場合、キ
ー信号などの情報は既に失われている。したがって、こ
の合成画像を復号して、その復号された合成画像を編集
する際、つまり、前景画像F2’はそのままで、背景画
像F1’のみを変更するといった編集を行う場合、再び
合成画像からクロマキーによって前景画像を抽出して、
他の背景画像と合成するといった画像の再編集、再合成
が必要となり、このような画像の再編集及び再合成は困
難となるといった問題が発生する。
【0033】また、上述したように、スケーラブル符号
化を行う際に、このような画像合成された合成画像に対
して符号化を行い、再度復号して画像の編集を行う場合
においても同様の問題が発生する。
【0034】
【発明が解決しようとする課題】本発明は、上述した問
題点を鑑みてなされたものであり、本発明の目的は、合
成された合成画像に対して効果的な画像編集を行うこと
ができる画像信号の符号化方法、伝送方法及び復号方
法、符号化装置、伝送装置及び復号装置並びに復号装置
によって復号可能な記録信号が記録された記録媒体を提
供することにある。
【0035】
【課題を解決するための手段】本発明は、分離された第
1の画像信号及び第2の画像信号と上記第1の画像信号
と第2の画像信号を合成するためのキー信号を符号化す
る画像信号の符号化方法において、上記第1の画像信号
及び第2の画像信号をスケーラブル符号化する画像信号
スケーラブル符号化ステップと、上記キー信号を画像信
号に用いたスケーラブル符号化方法と同様の方法でスケ
ーラブル符号化するキー信号スケーラブル符号化ステッ
プとを有することを特徴とする。
【0036】また、本発明は、上位レイヤ画像信号及び
下位レイヤ画像信号からなる画像信号を符号化する画像
信号の符号化方法において、予測方法を用いて下位レイ
ヤ画像信号を符号化して、符号化された下位レイヤ画像
信号を生成する下位レイヤ画像信号生成ステップと、上
位レイヤ画像信号を符号化して、符号化された上位レイ
ヤ画像信号を生成する上位レイヤ画像信号生成ステップ
とを有し、上記上位レイヤ画像信号生成ステップは、上
記上位レイヤ画像信号に対応する下位レイヤ画像信号を
符号化する際に用いた予測方法とその予測方法で発生さ
れたデータから予測画像信号を生成し、上記上位レイヤ
画像信号と予測画像信号の差分を演算し、差分画像信号
を生成するステップと、上記差分画像信号を符号化し
て、符号化された差分画像信号を生成するステップとを
有することを特徴とする。
【0037】また、本発明は、上位レイヤ画像信号及び
下位レイヤ画像信号からなる画像信号を符号化する画像
信号の符号化方法において、下位レイヤ画像信号を符号
化して、符号化された下位レイヤ画像信号を生成するス
テップと、上記下位レイヤ画像信号を符号化した際に、
符号化された下位レイヤ画像信号が発生しない下位レイ
ヤ画像信号の部分に対応する上位レイヤ画像信号の部分
以外の上位レイヤ画像信号を符号化して、符号化された
上位レイヤ画像信号を生成するステップとを有すること
を特徴とする。
【0038】さらに、本発明は、上位レイヤ画像信号及
び下位レイヤ画像信号からなる画像信号を符号化する画
像信号の符号化方法において、予測符号化方法を用いて
下位レイヤ画像信号を符号化して、符号化された下位レ
イヤ画像信号及び符号化モードを生成するステップと、
上位レイヤ画像信号を符号化して、符号化された上位レ
イヤ画像信号を生成するステップとを有し、上記上位レ
イヤ画像信号生成ステップは、上記下位レイヤの符号化
モードを用いて上記上位レイヤ画像信号を符号化するこ
とを特徴とする。
【0039】本発明は、上位レイヤ画像信号及び下位レ
イヤ画像信号からなる画像信号を符号化して伝送する画
像信号の伝送方法において、下位レイヤ画像信号を量子
化して、符号化された下位レイヤ画像信号及び量子化ス
ケールを発生するステップと、上位レイヤ画像信号を量
子化して、符号化された上位レイヤ画像信号及び量子化
スケールを発生するステップと、上記符号化された下位
レイヤ画像信号及び上位レイヤ画像信号を伝送する伝送
ステップを有し、上記伝送ステップは、下位レイヤの量
子化スケールを伝送しない場合、上位レイヤの量子化ス
ケールを伝送せず、また、下位レイヤの量子化スケール
を伝送する場合、上位レイヤの量子化スケールを伝送す
ることを特徴とする。
【0040】また、本発明は、分離された複数の画像信
号をそれぞれ符号化して、符号化された複数の画像信号
を多重化して1つのビットストリームとして伝送する画
像信号の伝送方法において、上記複数の画像信号をそれ
ぞれ符号化して、符号化された複数の画像信号を生成す
るステップと、上記符号化された複数の画像信号を多重
化して、上記1つのビットストリームを生成する多重化
ステップと、上記1つのビットストリームを伝送するス
テップからなり、上記多重化ステップにより上記複数の
画像で各画像の表示順で最初のフレームのビットストリ
ームが隣接又は近傍となるように多重化することを特徴
とする。
【0041】また、本発明は、分離された複数の画像信
号をそれぞれ符号化して、符号化された複数の画像信号
を多重化して1つのビットストリームとして伝送する画
像信号の伝送方法において、上記複数の画像信号をそれ
ぞれ符号化して、符号化された複数の画像信号を生成す
るステップと、上記符号化された複数の画像信号を多重
化して、上記1つのビットストリームを生成する多重化
ステップと上記1つのビットストリームを伝送するステ
ップからなり、上記多重化ステップでは、上記符号化さ
れた複数の画像信号と、上記複数の画像で各画像の表示
順で最初のフレームのビットストリームにおいて、その
フレームを表示する以前に表示される別の画像を参照
し、その参照された画像の表示時刻からの遅延時間を示
すフラグと、その参照された画像を示すフラグを多重化
することを特徴とする。
【0042】さらに、本発明は、分離された複数の画像
信号をそれぞれ符号化して、符号化された複数の画像信
号を多重化して1つのビットストリームとして伝送する
画像信号の伝送方法において、上記複数の画像信号をそ
れぞれ符号化して、符号化された複数の画像信号を生成
するステップと、上記符号化された複数の画像信号を多
重化して、上記1つのビットストリームを生成する多重
化ステップと上記1つのビットストリームを伝送するス
テップからなり、上記多重化ステップにより、所定の画
像を以後表示されないようにするために、最後に表示す
るフレームであることを示すフラグと最後に表示された
フレームの表示時間を示すフラグを多重化することを特
徴とする。
【0043】本発明は、分離された第1の画像信号及び
第2の画像信号と上記第1の画像信号と第2の画像信号
を合成するためのキー信号を符号化することによって得
られた信号からなる画像信号の復号方法において、符号
化された第1の画像信号及び第2の画像信号をスケーラ
ブル復号して、復号された第1及び第2の画像信号を生
成する画像信号スケーラブル復号ステップと、符号化さ
れたキー信号を画像信号に用いたスケーラブル復号方法
と同様の方法でスケーラブル復号して、復号されたキー
信号を生成するキー信号スケーラブル復号ステップとを
有することを特徴とする。
【0044】また、本発明は、予測方法を用いて符号化
された下位レイヤ画像信号と、上位レイヤ画像信号に対
応する下位レイヤ画像信号を符号化する際に用いた予測
方法とその予測方法で発生されたデータから予測画像信
号を生成し、上記上位レイヤ画像信号と予測画像信号の
差分を演算した差分画像信号を符号化することにより符
号化された上位レイヤ画像信号とからなる符号化された
画像信号を復号する画像信号の復号方法において、上記
予測方法を用いて符号化された画像信号を復号して、復
号された下位レイヤ画像信号を生成するステップと、上
記上位レイヤ画像信号に対応する下位レイヤ画像信号を
符号化する際に用いた予測方法とその予測方法で発生さ
れたデータから予測画像信号を生成するステップと、上
記符号化された差分画像信号を復号して、復号された差
分画像信号を生成するステップと、上記予測画像信号と
上記復号された差分画像信号を加算して、上位レイヤ画
像信号を生成するステップとを有することを特徴とす
る。
【0045】また、本発明は、符号化された下位レイヤ
画像信号と上記符号化された下位レイヤ画像信号が発生
しない下位レイヤ画像信号の部分に対応する上位レイヤ
画像信号の部分以外の上位レイヤ画像信号を符号化する
ことにより得られた符号化された上位レイヤ画像信号か
らなる符号化された画像信号を復号する画像信号の復号
方法において、上記符号化された下位レイヤ画像信号を
復号して、復号された下位レイヤ画像信号を生成するス
テップと、上記符号化された上位レイヤ画像信号を復号
して、符号化された下位レイヤ画像信号が発生しない下
位レイヤ画像信号の部分に対応する上位レイヤ画像信号
の部分の上位レイヤ画像信号を生成するステップとを有
することを特徴とする。
【0046】また、本発明は、符号化された下位レイヤ
画像信号と上記下位レイヤの符号化モードを用いて符号
化された上位レイヤ画像信号からなる符号化された画像
信号を復号する画像信号の復号方法において、上記符号
化された下位レイヤ画像信号を復号して、復号された下
位レイヤ画像信号を生成するステップと、上記下位レイ
ヤの符号化モードを用いて、符号化された上位レイヤ画
像信号を復号して、復号された上位レイヤ画像信号を生
成するステップとを有することを特徴とする。
【0047】また、本発明は、量子化された下位レイヤ
画像信号と量子化された上位レイヤ画像信号からなり、
下位レイヤの量子化スケールを含んでいない場合、上位
レイヤの量子化スケールを含んでおらず、また、下位レ
イヤの量子化スケールを含んでいる場合、上位レイヤの
量子化スケールを含んでいる符号化された画像信号を復
号する画像信号の復号方法において、符号化された下位
レイヤ画像信号を逆量子化して、復元された下位レイヤ
画像信号を発生するステップと、符号化された上位レイ
ヤ画像信号を逆量子化して、復元された上位レイヤ画像
信号を発生するステップとを有することを特徴とする。
【0048】また、本発明は、分離された複数の画像信
号がそれぞれ符号化され、符号化された複数の画像信号
を多重化して得られた1つのビットストリームを受信し
て、その符号化されたビットストリームを復号する画像
信号の復号方法において、上記符号化されたビットスト
リームから符号化された複数の画像信号を分離するステ
ップと、上記複数の画像信号をそれぞれ復号して、復号
された複数の画像信号を生成するステップとを有するこ
とを特徴とする。
【0049】また、本発明は、分離された複数の画像信
号がそれぞれ符号化され、符号化された複数の画像信号
と、上記複数の画像信号で各画像の表示順で最初のフレ
ームのビットストリームにおいて、そのフレームを表示
する以前に表示される別の画像を参照し、その参照され
た画像の表示時刻からの遅延時間を示すフラグと、その
参照された画像を示すフラグを多重化して得られた1つ
のビットストリームを受信して、その符号化されたビッ
トストリームを復号する画像信号の復号方法において、
上記フラグを用いて、上記符号化されたビットストリー
ムから符号化された複数の画像信号を分離するステップ
と、上記複数の画像信号をそれぞれ復号して、復号され
た複数の画像信号を生成するステップとを有することを
特徴とする。
【0050】さらに、本発明は、分離された複数の画像
信号がそれぞれ符号化され、符号化された複数の画像信
号と、所定の画像を以後表示されないようにするため
に、最後に表示するフレームであることを示すフラグと
最後に表示されたフレームの表示時間を示すフラグを多
重化して得られた1つのビットストリームを受信して、
その符号化されたビットストリームを復号する画像信号
の復号方法において、上記フラグを用いて、上記符号化
されたビットストリームから符号化された複数の画像信
号を分離するステップと、上記複数の画像信号をそれぞ
れ復号して、復号された複数の画像信号を生成するステ
ップとを有することを特徴とする。
【0051】本発明は、分離された第1の画像信号、第
2の画像信号と上記第1の画像信号と第2の画像信号を
合成するためのキー信号を符号化する画像信号の符号化
装置において、上記第1の画像信号及び第2の画像信号
をスケーラブル符号化する画像信号スケーラブル符号化
手段と、上記キー信号を画像信号に用いたスケーラブル
符号化方法と同様の方法でスケーラブル符号化するキー
信号スケーラブル符号化手段とを備えることを特徴とす
る。
【0052】また、本発明は、上位レイヤ画像信号及び
下位レイヤ画像信号からなる画像信号を符号化する画像
信号の符号化装置において、予測方法を用いて下位レイ
ヤ画像信号を符号化して、符号化された下位レイヤ画像
信号を生成する上位レイヤ画像信号生成手段と、上位レ
イヤ画像信号を符号化して、符号化された上位レイヤ画
像信号を生成する上位レイヤ画像信号生成手段とからな
り、上記上位レイヤ画像信号生成手段は、上記上位レイ
ヤ画像信号に対応する下位レイヤ画像信号を符号化する
際に用いた予測方法とその予測方法で発生されたデータ
から予測画像信号を生成し、上記上位レイヤ画像信号と
予測画像信号の差分を演算し、差分画像信号を生成する
手段と、上記差分画像信号を符号化して、符号化された
差分画像信号を生成する手段からなることを特徴とす
る。
【0053】また、本発明は、上位レイヤ画像信号及び
下位レイヤ画像信号からなる画像信号を符号化する画像
信号の符号化装置において、下位レイヤ画像信号を符号
化して、符号化された下位レイヤ画像信号を生成する手
段と、上記下位レイヤ画像信号を符号化した際に、符号
化された下位レイヤ画像信号が発生しない下位レイヤ画
像信号の部分に対応する上位レイヤ画像信号の部分以外
の上位レイヤ画像信号を符号化して、符号化された上位
レイヤ画像信号を生成する手段とからなることを特徴と
する。
【0054】また、本発明は、上位レイヤ画像信号及び
下位レイヤ画像信号からなる画像信号を符号化する画像
信号の符号化装置において、予測符号化方法を用いて下
位レイヤ画像信号を符号化して、符号化された下位レイ
ヤ画像信号及び符号化モードを生成する手段と、上位レ
イヤ画像信号を符号化して、符号化された上位レイヤ画
像信号を生成する手段とからなり、上記上位レイヤ画像
信号生成手段は、上記下位レイヤの符号化モードを用い
て上記上位レイヤ画像信号を符号化することを特徴とす
る。
【0055】さらに、本発明は、上位レイヤ画像信号及
び下位レイヤ画像信号からなる画像信号を符号化する画
像信号の符号化装置において、下位レイヤ画像信号を量
子化して、符号化された下位レイヤ画像信号及び量子化
スケールを発生する手段と上位レイヤ画像信号を量子化
して、符号化された上位レイヤ画像信号及び量子化スケ
ールを発生する手段と、上記符号化された下位レイヤ画
像信号及び上位レイヤ画像信号を伝送する伝送手段から
なり、上記伝送手段は、下位レイヤの量子化スケールを
伝送しない場合、上位レイヤの量子化スケールを伝送せ
ず、また、下位レイヤの量子化スケールを伝送する場
合、上位レイヤの量子化スケールを伝送することを特徴
とする。
【0056】本発明は、分離された複数の画像信号をそ
れぞれ符号化して、符号化された複数の画像信号を多重
化して1つのビットストリームとして伝送する画像信号
の伝送装置において、上記複数の画像信号をそれぞれ符
号化して、符号化された複数の画像信号を生成する手段
と、上記符号化された複数の画像信号を多重化して、上
記1つのビットストリームを生成する多重化手段と、上
記1つのビットストリームを伝送する手段からなり、上
記多重化手段は、上記複数の画像で各画像の表示順で最
初のフレームのビットストリームが隣接又は近傍となる
ように多重化することを特徴とする。
【0057】また、本発明は、分離された複数の画像信
号をそれぞれ符号化して、符号化された複数の画像信号
を多重化して1つのビットストリームとして伝送する画
像信号の伝送装置において、上記複数の画像信号をそれ
ぞれ符号化して、符号化された複数の画像信号を生成す
る手段と、上記符号化された複数の画像信号を多重化し
て、上記1つのビットストリームを生成する多重化手段
と、上記1つのビットストリームを伝送する手段からな
り、上記多重化手段は、上記符号化された複数の画像信
号と、上記複数の画像で各画像の表示順で最初のフレー
ムのビットストリームにおいて、そのフレームを表示す
る以前に表示される別の画像を参照し、その参照された
画像の表示時刻からの遅延時間を示すフラグと、その参
照された画像を示すフラグを多重化することを特徴とす
る。
【0058】さらに、本発明は、分離された複数の画像
信号をそれぞれ符号化して、符号化された複数の画像信
号を多重化して1つのビットストリームとして伝送する
画像信号の伝送装置において、上記複数の画像信号をそ
れぞれ符号化して、符号化された複数の画像信号を生成
する手段と、上記符号化された複数の画像信号を多重化
して、上記1つのビットストリームを生成する多重化手
段と、上記1つのビットストリームを伝送する手段から
なり、上記多重化手段は、所定の画像を以後表示されな
いようにするために、最後に表示するフレームであるこ
とを示すフラグと最後に表示されたフレームの表示時間
を示すフラグを多重化することを特徴とする。
【0059】本発明は、分離された第1の画像信号、第
2の画像信号と上記第1の画像信号と第2の画像信号を
合成するためのキー信号を符号化することによって得ら
れた信号からなる符号化された信号を復号する画像信号
の復号装置において、符号化された第1の画像信号及び
第2の画像信号をスケーラブル復号して、復号された第
1及び第2の画像信号を生成する画像信号スケーラブル
復号手段と、符号化されたキー信号を画像信号に用いた
スケーラブル復号方法と同様の方法でスケーラブル復号
して、復号されたキー信号を生成するキー信号スケーラ
ブル復号手段とを備えることを特徴とする。
【0060】また、本発明は、予測方法を用いて符号化
された下位レイヤ画像信号と、上位レイヤ画像信号に対
応する下位レイヤ画像信号を符号化する際に用いた予測
方法とその予測方法で発生されたデータから予測画像信
号を生成し、上記上位レイヤ画像信号と予測画像信号の
差分を演算した差分画像信号を符号化することにより符
号化された上位レイヤ画像信号とからなる符号化された
画像信号を復号する画像信号の復号装置において、上記
予測方法を用いて符号化された画像信号を復号して、復
号された下位レイヤ画像信号を生成する手段と、上記上
位レイヤ画像信号に対応する下位レイヤ画像信号を符号
化する際に用いた予測方法とその予測方法で発生された
データから予測画像信号を生成する手段と、上記符号化
された差分画像信号を復号して、復号された差分画像信
号を生成する手段と、上記予測画像信号と上記復号され
た差分画像信号を加算して、上位レイヤ画像信号を生成
する手段とを有することを特徴とする。
【0061】また、本発明は、符号化された下位レイヤ
画像信号と上記符号化された下位レイヤ画像信号が発生
しない下位レイヤ画像信号の部分に対応する上位レイヤ
画像信号の部分以外の上位レイヤ画像信号を符号化する
ことにより得られた符号化された上位レイヤ画像信号か
らなる符号化された画像信号を復号する画像信号の復号
装置において、上記符号化された下位レイヤ画像信号を
復号して、復号された下位レイヤ画像信号を生成する手
段と、上記符号化された上位レイヤ画像信号を復号し
て、符号化された下位レイヤ画像信号が発生しない下位
レイヤ画像信号の部分に対応する上位レイヤ画像信号の
部分の上位レイヤ画像信号を生成する手段とを有するこ
とを特徴とする。
【0062】また、本発明は、符号化された下位レイヤ
画像信号と上記下位レイヤの符号化モードを用いて符号
化された上位レイヤ画像信号からなる符号化された画像
信号を復号する画像信号の復号装置において、上記符号
化された下位レイヤ画像信号を復号して、復号された下
位レイヤ画像信号を生成する手段と、上記下位レイヤの
符号化モードを用いて、符号化された上位レイヤ画像信
号を復号して、復号された上位レイヤ画像信号を生成す
る手段とを有することを特徴とする。
【0063】また、本発明は、量子化された下位レイヤ
画像信号と量子化された上位レイヤ画像信号からなり、
下位レイヤの量子化スケールを含んでいない場合、上位
レイヤの量子化スケールを含んでおらず、また、下位レ
イヤの量子化スケールを含んでいる場合、上位レイヤの
量子化スケールを含んでいる符号化された画像信号を復
号する画像信号の復号装置において、符号化された下位
レイヤ画像信号を逆量子化して、復元された下位レイヤ
画像信号を発生する手段と、符号化された上位レイヤ画
像信号を逆量子化して、復元された上位レイヤ画像信号
を発生する手段とを有することを特徴とする。
【0064】また、本発明は、分離された複数の画像信
号をそれぞれ符号化して、符号化された複数の画像信号
を多重化して得られた1つのビットストリームを受信し
て、その符号化されたビットストリームを復号する画像
信号の復号装置において、上記符号化されたビットスト
リームから符号化された複数の画像信号を分離する手段
と、上記複数の画像信号をそれぞれ復号して、復号され
た複数の画像信号を生成する手段とを有することを特徴
とする。
【0065】また、本発明は、分離された複数の画像信
号をそれぞれ符号化して、符号化された複数の画像信号
と、上記複数の画像で各画像の表示順で最初のフレーム
のビットストリームにおいて、そのフレームを表示する
以前に表示される別の画像を参照し、その参照された画
像の表示時刻からの遅延時間を示すフラグと、その参照
された画像を示すフラグを多重化して得られた1つのビ
ットストリームを受信して、その符号化されたビットス
トリームを復号する画像信号の復号装置において、上記
フラグを用いて、上記符号化されたビットストリームか
ら符号化された複数の画像信号を分離する手段と、上記
複数の画像信号をそれぞれ復号して、復号された複数の
画像信号を生成する手段とを有することを特徴とする。
【0066】また、本発明は、分離された複数の画像信
号をそれぞれ符号化して、符号化された複数の画像信号
と、所定の画像を以後表示されないようにするために、
最後に表示するフレームであることを示すフラグと最後
に表示されたフレームの表示時間を示すフラグを多重化
して得られた1つのビットストリームを受信して、その
符号化されたビットストリームを復号する画像信号の復
号装置において、上記フラグを用いて、上記符号化され
たビットストリームから符号化された複数の画像信号を
分離する手段と、上記複数の画像信号をそれぞれ復号し
て、復号された複数の画像信号を生成する手段とを有す
ることを特徴とする。
【0067】本発明は、分離された第1の画像信号及び
第2の画像信号をスケーラブル符号化するとともに、上
記第1の画像信号と第2の画像信号を合成するためのキ
ー信号を画像信号に用いたスケーラブル符号化方法と同
様の方法でスケーラブル符号化して得られた符号化した
画像信号を記録してなることを特徴とする。
【0068】
【発明の実施の形態】以下、本発明の好ましい実施の形
態について、図面を参照しながら説明する。
【0069】まず、本発明の実施例を説明する前に、本
発明を適用する画像の符号化/多重化及び画像合成の原
理について説明する。図1は、本発明を適用する画像の
符号化及び多重化の原理を示している。画像F1は背景
画像であり、また画像F2は前景画像である。前景画像
F2はある特定の色の背景の前で撮影され、その色以外
の領域を抽出することによって生成した画像である。そ
の際、抽出した領域を示す信号がキー信号K1である。
そして、背景画像F1、前景画像F2及びキー信号K1
は、それぞれ別々に符号化され、その符号化された背景
画像F1、符号化された前景画像F2及び符号化された
キー信号K1のそれぞれのビットストリームを多重化す
ることにより、この3つの信号に対応するビットストリ
ームを構成する。
【0070】図2は、図1に示したようなビットストリ
ームを復号して合成画像F3を得るための原理を示して
いる。ビットストリームは、逆多重化により、符号化さ
れた背景画像F1、符号化された前景画像F2及び符号
化されたキー信号K1のビットストリームに分解され、
それぞれ復号される。そして、復号背景画像F1’、復
号前景画像F2’及び復号キー信号K1’が得られる。
このとき、復号背景画像F1’と復号前景画像F2’を
復号キー信号K1’によって合成することより、復号合
成画像F3’を得ることができる。この場合、ビットス
トリームのままで、前景F2をそのままにして、背景F
1のみを変更するといった再編集及び再合成が容易に可
能となる。
【0071】次に、このような複数の画像を符号化/多
重化するエンコーダ及びそのエンコーダに対応する符号
化された複数の画像を復号するデコーダの図3及び図4
を用いて説明する。なお、以下に説明するエンコーダ及
びデコーダは、複数の画像の符号化/復号する場合に適
用できるとともに、複数の画像のそれぞれをスケーラブ
ル符号化する場合にも適用できる。したがって、まず、
複数の画像の符号化/復号する場合について説明し、そ
の後、複数の画像のそれぞれをスケーラブル符号化する
場合について説明する。
【0072】1. 符号化を適用した実施例 背景画像F1、前景画像F2といった合成画像を構成す
る各画像をVOP(Video Object Pla
ne)と呼ぶ。各VOPは輝度及び色差成分からなる画
像信号とキー信号から構成される。ただし、この画像信
号が背景画像である場合、キー信号は存在しない。つま
り、この画像信号が前景画像である場合は、各VOPは
画像信号とキー信号から構成され、画像信号が背景画像
である場合、背景信号である画像信号のみからなる。V
OP構成部31は、ある合成画像を各VOPに分解す
る。例えば、図1に示されるように入力信号がクロマキ
ーで生成された画像信号の場合、VOP構成部31は、
背景画像、前景画像及びそのキー信号に分割し、背景画
像信号をVOP0符号化部32に供給し、前景画像信号
及びそのキー信号をVOP1符号化部33に供給する。
また、入力信号の中にキー信号が存在しない場合、若し
くはキー信号が失われた画像信号の場合、VOP構成部
31は、画像信号を画像領域分割し、所定の領域を抽出
してキー信号を生成する。その結果、各VOPが構成さ
れる。なお、その他、他の前景画像又は他の背景画像が
存在する場合には、この他の前景画像若しくは他の背景
画像は、対応するVOPn符号化部35に供給される
(以下、この符号化部及び対応する復号部の動作は説明
が重複するため、説明を省略する)。
【0073】そして、VOP0符号化部32は、背景画
像信号を符号化して、背景画像ビットストリームを多重
化部36に供給する。また、VOP1符号化部33は、
前景画像信号及びそのキー信号を符号化して、前景画像
ビットストリーム及びキービットストリームを多重化部
36に供給する。そして、多重化部36は、供給された
背景画像ビットストリーム、前景画像ビットストリーム
及びキービットストリームを多重化して、1つの符号化
ビットストリームとして、放送系もしくネットワーク系
の伝送路37に供給され、若しくは、テープ、ディスク
若しくは半導体メモリ等の記録媒体38に記録される。
【0074】伝送路37から供給された符号化ビットス
トリーム、若しくは記録媒体から再生された符号化ビッ
トストリームは、逆多重化部39に供給される。逆多重
化部は、背景画像ビットストリーム、前景画像ビットス
トリーム及びキービットストリームに分割する。そし
て、背景画像ビットストリームは、VOP0復号部40
に供給される。VOP0復号部40は、背景画像ビット
ストリームを復号し、エンコーダのVOP0符号化部の
入力信号に対応する背景画像信号を再構成して合成部4
4に供給する。また、前景画像ビットストリーム及びキ
ービットストリームは、VOP1復号部41に供給され
る。VOP1復号部41は、前景画像ビットストリーム
及びキービットストリームを復号し、エンコーダのVO
P1符号化部の入力信号に対応する前景画像信号及びそ
のキー信号を再構成して合成部44に供給する。合成部
44は、供給されたキー信号を使用して、背景画像信号
及び前景画像信号を合成して、再生画像を出力する。
【0075】次に図5及び図6を用いてVOP符号化部
の符号化方法及び復号方法の一例を説明する。なお、以
下に説明する符号化方法及び復号方法は、前景画像信号
及びそのキー信号を符号化し、その符号化された前景画
像信号及びそのキー信号を復号する場合の符号化方法及
び復号方法である。背景画像信号を符号化し、その符号
化された背景画像信号を復号する場合の符号化方法及び
復号方法は、従来の方法(図39及び図40)を適用す
ることによって符号化及び復号できるため、その説明は
ここでは省略する。
【0076】前景画像信号は、画像信号符号化部51に
供給され、キー信号は、キー信号符号化部52に供給さ
れる。画像信号符号化部51は、例えばMPEG方式や
H.263といった方式(図39)で前景画像信号を符
号化する。キー信号符号化部52は、例えばDPCM
(Deferential Pulse Code M
odulation )などにより、キー信号を符号化
する。さらに、キー信号符号化部52は、画像信号符号
化部51によって検出された動きベクトルを用いて、キ
ー信号に対して動き補償を行い、キー信号の差分を符号
化してもよい。また、キー信号符号化部52は、発生さ
れたビット量の情報を画像信号符号化部51に供給し、
画像信号符号化部51は、そのビット量の情報を用い
て、符号化された画像が所定のビットレートになるよう
に、符号化処理を制御する。
【0077】そして、画像信号符号化部51は、符号化
された画像信号(動きベクトル及びテクスチャ情報)の
ビットストリームを多重化部53に供給し、キー信号符
号化部52は、符号化されたキー信号(キー情報)のビ
ットストリームを多重化部53に供給する。多重化部5
3は、符号化された画像信号のビットストリームと符号
化されたキー信号のビットストリームを多重化して、1
つの符号化ビットストリームとして送信バッファ54を
介して出力される。なお、この符号化ビットストリーム
が、上述したVOP1符号化部33からの前景画像ビッ
トストリーム及びキービットストリームに対応する。
【0078】デコーダにおいては、供給された符号化ビ
ットストリームは、逆多重化部55に供給される。逆多
重化部55は、符号化された画像信号(動きベクトル及
びテクスチャ情報)のビットストリーム及び符号化され
たキー信号(キー情報)のビットストリームに分解し、
符号化された画像信号のビットストリームを画像信号復
号部56に供給し、符号化されたキー信号のビットスト
リームをキー信号復号部57に供給する。画像信号復号
部56(図40)は、符号化された画像信号を復号し、
エンコーダの画像信号符号化部51の入力信号に対応す
る画像信号を生成し、再生画像として出力する。また、
キー信号復号部57は、符号化されたキー信号を復号
し、エンコーダのキー信号符号化部52の入力信号に対
応するキー信号を生成して出力する。なお、キー信号符
号化部52において、キー信号が動きベクトルを用いて
動き補償されて符号化されている場合、キー信号復号部
57は、画像信号復号部56からの動きベクトルを用い
てキー信号を動き補償することにより、キー信号が復号
される。
【0079】2.スケーラブル符号化を適用した実施例 次に、上述したような画像信号に対してスケーラブル符
号化を行う場合についてのエンコーダ及びデコーダの構
成を図3及び図4を用いて説明する。
【0080】VOP構成部31は、入力画像信号から背
景画像の上位レイヤ画像信号、前景画像の上位レイヤ画
像信号及びその上位レイヤキー信号、背景画像の下位レ
イヤ画像信号、前景画像の下位レイヤ画像信号及びその
下位レイヤキー信号を生成する。上位レイヤ画像信号か
ら下位レイヤ画像信号を生成する際には、上位レイヤ画
像信号をダウンサンプリングすることにより、下位レイ
ヤ画像信号が生成される。そして、VOP構成部31
は、背景画像の上位レイヤ画像信号及び背景画像の下位
レイヤ画像信号をVOP0符号化部32に、前景画像の
上位レイヤ画像信号及びその上位レイヤキー信号、前景
画像の下位レイヤ画像信号及びその下位レイヤキー信号
をVOP1符号化部33にそれぞれ供給する。なお、他
の前景画像若しくは背景画像信号が存在する場合には、
その前景画像若しくは背景画像がVOPn符号化部35
に供給される(以下、この符号化部及び対応する復号部
の動作は説明が重複するため、説明を省略する)。
【0081】VOP0符号化部32は、背景画像の上位
レイヤ画像信号及び下位レイヤ画像信号を上述したスケ
ーラブル符号化方法(図41)を用いて符号化し、背景
画像上位レイヤビットストリーム背景画像下位レイヤビ
ットストリームを多重化部36に供給する。さらに、V
OP1符号化部33は、前景画像の上位レイヤ画像信号
及び下位レイヤ画像信号をスケーラブル符号化方法(図
41)を用いて符号化し、上位レイヤキー信号及び下位
レイヤキー信号を後述する符号化方法を用いて符号化し
て、上位レイヤキー情報ビットストリーム及び下位レイ
ヤキー信号ビットストリームを多重化部36に供給す
る。
【0082】そして、多重化部36は、供給された背景
画像上位レイヤビットストリーム、背景画像下位レイヤ
ビットストリーム、前景画像上位レイヤビットストリー
ム、前景画像下位レイヤビットストリーム、上位レイヤ
キー信号ビットストリーム、下位レイヤキー信号ビット
ストリームを多重化して、1つの符号化ビットストリー
ムとして、放送系もしくネットワーク系の伝送路37に
供給され、若しくは、テープ、ディスク若しくは半導体
メモリ等の記録媒体38に記録される。
【0083】伝送路37から供給された符号化ビットス
トリーム、若しくは記録媒体から再生された符号化ビッ
トストリームは、逆多重化部39に供給される。逆多重
化部39は、背景画像上位レイヤビットストリーム、背
景画像下位レイヤビットストリーム、前景画像上位レイ
ヤビットストリーム及び上位レイヤキー信号ビットスト
リーム、前景画像下位レイヤビットストリーム及び下位
レイヤキー信号ビットストリームに分割する。そして、
背景画像上位レイヤビットストリーム及び背景画像下位
レイヤビットストリームは、VOP0復号部40に供給
される。VOP0復号部40は、背景画像上位レイヤビ
ットストリーム及び背景画像下位レイヤビットストリー
ムを上述したスケーラブル復号方法(図42)を用いて
復号し、エンコーダのVOP0符号化部32の入力信号
に対応する背景画像の上位レイヤ画像信号及び下位レイ
ヤ画像信号を生成して合成部44に供給する。
【0084】さらに、前景画像上位レイヤビットストリ
ーム及び及び上位レイヤキー信号ビットストリームは、
VOP1復号部41に供給される。VOP1復号部41
は、前景画像上位レイヤビットストリーム及び前景画像
下位レイヤビットストリームを上述したスケーラブル復
号方法(図42)を用いて復号し、上位レイヤキー信号
ビットストリーム及び下位レイヤキー信号ビットストリ
ームを後述する復号方法を用いて復号し、エンコーダの
VOP1符号化部33の入力信号に対応する前景画像の
上位レイヤ画像信号及びその上位レイヤキー信号、前景
画像の下位レイヤ画像信号及びその下位レイヤキー信号
を生成して合成部44に供給する。合成部44は、供給
された上位レイヤキー信号を使用して、背景画像の上位
レイヤ画像信号及び前景画像の上位レイヤ画像信号を合
成して、上位レイヤの再生画像を出力する。さらに、合
成部44は、供給された下位レイヤキー信号を使用し
て、背景画像の下位レイヤ画像信号及び前景画像の下位
レイヤ画像信号を合成して、下位レイヤの再生画像を出
力する。
【0085】次に、各VOP符号化部における第1の実
施例の画像信号符号化及び画像信号復号装置について説
明する。なお、以下に説明する符号化方法及び復号方法
は、スケーラブル符号化によって上位レイヤ前景画像信
号の上位レイヤキー信号と下位レイヤ前景画像信号の下
位レイヤキー信号を符号化し、そのスケーラブル符号化
された上位レイヤ前景画像信号の上位レイヤキー信号と
スケーラブル符号化された下位レイヤ前景画像信号の下
位レイヤキー信号を復号する場合の符号化方法及び復号
方法である。上位レイヤ背景画像信号及び下位レイヤ背
景画像信号を符号化し、その符号化された上位レイヤ背
景画像信号及び下位レイヤ背景画像信号を復号する場合
の符号化方法及び復号方法は、従来の方法(図41及び
図42)を適用することによって符号化及び復号できる
ため、その説明はここでは省略する。また、上位レイヤ
前景画像信号及び下位レイヤ前景画像信号を符号化し、
その符号化された上位レイヤ前景画像信号及び下位レイ
ヤ前景画像信号を復号する場合の符号化方法及び復号方
法もまた、従来の方法(図41及び図42)を適用する
ことによって符号化及び復号できるため、その説明はこ
こでは省略する。つまり、ここでは、スケーラブル符号
化におけるVOP1符号化部33の上位レイヤ及び下位
レイヤの画像信号と上位レイヤキー信号及び下位レイヤ
キー信号を符号化する符号化装置と、VOP1復号部4
1の符号化された上位レイヤキー信号及び符号化された
下位レイヤキー信号を復号する復号装置の詳細について
説明する。
【0086】まず、図7及び図8を用いて、スケーラビ
リティ符号化におけるVOP1符号化部33の上位レイ
ヤ及び下位レイヤの画像信号と上位レイヤキー信号及び
下位レイヤキー信号を符号化する符号化装置について説
明する。
【0087】前景画像の上位レイヤ画像信号及び下位レ
イヤ画像信号は、画像信号符号化部61に供給され、上
位レイヤキー信号及び下位レイヤキー信号は、キー信号
符号化部62に供給される。画像信号符号化部61は、
例えばMPEG方式やH.263方式を用いたスケーラ
ブル符号化(図41)で前景画像の上位レイヤ画像信号
及び下位レイヤ画像信号を符号化する。キー信号符号化
部62は、画像信号符号化部61からの動きベクトル及
び予測モードに基づいて、後述するスケーラブル符号化
により、上位レイヤキー信号及び下位レイヤキー信号を
符号化する。つまり、キー信号符号化部62は、画像信
号符号化部61によって検出された動きベクトルを用い
て、上位レイヤキー信号及び下位レイヤキー信号に対し
てそれぞれ動き補償を行い、上位レイヤキー信号及び下
位レイヤキー信号の差分を符号化する。また、キー信号
符号化部62は、発生されたビット量の情報を画像信号
符号化部61に供給し、画像信号符号化部61は、その
ビット量の情報を用いて、符号化された画像が所定のビ
ットレートになるように、符号化処理を制御するように
してもよい。
【0088】そして、画像信号符号化部61は、符号化
された上位レイヤ画像信号及び下位レイヤ画像信号(動
きベクトル及びテクスチャ情報)のビットストリームを
多重化部63に供給し、キー信号符号化部62は、符号
化された上位レイヤキー信号と下位レイヤキー信号(キ
ー情報)のビットストリームを多重化部63に供給す
る。多重化部63は、符号化された上位レイヤ画像信号
と下位レイヤ画像信号のビットストリームと符号化され
た上位レイヤキー信号と下位レイヤキー信号のビットス
トリームを多重化して、1つの符号化ビットストリーム
として送信バッファ64を介して出力される。なお、こ
の符号化ビットストリームが、上述したVOP1符号化
部33からの前景画像上位レイヤビットストリーム、前
景画像下位レイヤビットストリーム、上位レイヤキー信
号ビットストリーム及び下位レイヤキー信号ビットスト
リームに対応する。
【0089】デコーダにおいては、供給された符号化ビ
ットストリームは、逆多重化部65に供給される。逆多
重化部65は、符号化された上位レイヤ画像信号と下位
レイヤ画像信号(動きベクトル及びテクスチャ情報)の
ビットストリーム及び符号化された上位レイヤキー信号
と下位レイヤキー信号のビットストリームに分解し、符
号化された上位レイヤ画像信号と下位レイヤ画像信号の
ビットストリームを画像信号復号部66に供給し、符号
化された上位レイヤキー信号と下位レイヤキー信号(キ
ー情報)のビットストリームをキー信号復号部67に供
給する。画像信号復号部66は、符号化された上位レイ
ヤ画像信号と下位レイヤ画像信号を図42に示されるス
ケーラブル復号方法により復号し、エンコーダの画像信
号符号化部61の入力信号に対応する上位レイヤ画像信
号と下位レイヤ画像信号を生成し、再生画像として出力
する。また、キー信号復号部67は、符号化された上位
レイヤキー信号及び下位レイヤキー信号を後述するスケ
ーラブル復号方法により復号し、エンコーダのキー信号
符号化部62の入力信号に対応する上位レイヤキー信号
及び下位レイヤキー信号を生成して出力する。なお、キ
ー信号符号化部62において、上位レイヤキー信号と下
位レイヤキー信号が動きベクトルを用いて動き補償され
て符号化されている場合、キー信号復号部67は、画像
信号復号部66からの動きベクトルを用いて上位レイヤ
キー信号と下位レイヤキー信号を動き補償することによ
り、上位レイヤキー信号と下位レイヤキー信号が復号さ
れる。
【0090】次に、VOP1符号化部33のキー信号ス
ケーラブル符号化装置を図9を用いて説明する。図9は
空間スケーラビリティの場合の符号化装置である。スケ
ーラビリティにも空間スケーラビリティの他にもテンポ
ラルスケーラビリティや SNRスケーラビリティなどがあ
るが、ここでは空間スケーラビリティについて説明す
る。
【0091】下位レイヤキー信号は小さい画像サイズに
対応するキー信号であり、上位レイヤのキー信号は画像
サイズの大きい上位レイヤの画像に対応するキー信号で
ある。
【0092】ここで、キー信号のフォーマットについて
説明しておく。キー信号は画像サイズの各画素(輝度信
号)ごとに1つの値を持つ。したがって、キー信号の大
きさは対応する画像の輝度信号の大きさと同じである。
また、キー信号には、ソフトキーとハードキーの2種類
が存在する。ハードキーの場合、物体を抽出した領域は
1であり、その他の背景領域は0の値をとる。よって、
ハードキーは上記の通り2値の信号である。これに対し
て、ソフトキーは連続値を取りうる。例えば、8ビット
のソフトキーの場合、物体を抽出した領域は255の値
であり、また物体の存在しない領域(背景領域)は0の
値となり、その中間のエッジ領域ではその中間の値を取
る。
【0093】本実施例の場合において、キー信号は8ビ
ットである場合について説明する。ハードキーの場合、
まず、2値のハードキーを8ビットのキー信号に拡張す
る。これは、ハードキーの1の値は255の値となり、
0の値はそのままの0の値となる。以後、本発明は、ソ
フトキー及びハードキーのいずれの場合にも適用可能で
ある。
【0094】図9を用いて、キー信号のスケーラブル符
号化について説明する。下位レイヤキー信号は、下位レ
イヤキー信号のためのキー信号符号化部70に供給され
る。キー信号符号化部70は、後述する符号化方法によ
り、下位レイヤキー信号を符号化する。
【0095】そして、下位レイヤキービットストリーム
は符号化データとして出力される。また、キー信号符号
化部70は、ローカルデコードされた下位レイヤキー信
号をキー信号拡大部74に供給し、キー信号拡大部74
は、後述する方法を用いて、下位レイヤキー信号を上位
レイヤキー信号の大きさに拡大する。
【0096】また、上位レイヤキー信号は、遅延部71
を介して演算器72に供給される。この遅延部71は、
下位レイヤキー信号の符号化処理に対応する時間だけ上
位レイヤキー信号を遅延する。演算器72は、上位レイ
ヤキー信号とキー信号拡大部74からの予測参照キー信
号との差分を演算し、キー差分信号を上位レイヤキー信
号のためのキー信号符号化部(キー差分信号符号化部)
73に供給する。ただし、演算器72は、上述したよう
に、インター予測符号化の場合、キー差分信号を生成す
るが、イントラ予測符号化の場合には、演算器72の入
力キー信号がそのまま出力される。
【0097】キー差分信号符号化部73は、供給された
キー差分信号(イントラ予測符号化の場合、入力キー信
号になる)を後述する符号化方法を用いて符号化する。
そして、上位レイヤキー信号ビットストリームが、符号
化データとして出力される。また、キー信号符号化部7
3は、ローカルデコードされた上位レイヤキー信号をキ
ー信号拡大部74に供給し、キー信号拡大部74は、後
述する方法を用いて、上位レイヤキー信号と拡大された
下位レイヤキー信号から予測参照キー信号を生成して、
演算器72に供給する。
【0098】次に、キー信号のスケーラブル復号につい
て図10を用いて説明する。下位レイヤキービットスト
リームは、キー信号復号部75に供給される。キー信号
復号部75は、下位レイヤキービットストリームを後述
する方法によって復号し、復号された下位レイヤキー信
号を出力する。また、この復元された下位レイヤキー信
号は、キー信号拡大部78に供給される。キー信号拡大
部78は、下位レイヤキー信号を上位レイヤキー信号の
大きさに拡大する。さらに、この復元された下位レイヤ
キー信号は、予測キー信号としてキー信号符号化装置7
5にも供給される。
【0099】一方、上位レイヤキービットストリーム
は、キー差分信号復号部76に供給される。キー差分信
号復号部76は、後述する復号方法によって上位レイヤ
キービットストリームを復号し、キー差分信号を演算部
77に供給する。演算部77は、キー差分信号とキー信
号拡大部からの予測参照キー信号を加算し、上位レイヤ
キー信号を出力する。ただし、キー差分信号復号部76
からの出力信号が、イントラ予測符号化されていたキー
信号の場合は、そのキー信号が演算部77からそのまま
上位レイヤキー信号として出力される。
【0100】また、その上位レイヤキー信号は、キー信
号拡大部78に供給される。キー信号拡大部78は、上
位レイヤキー信号と拡大された下位レイヤキー信号とか
ら上位レイヤキー信号のための予測参照キー信号を生成
して、演算部77に供給する。
【0101】(1)キー信号のスケーラブル符号化にお
ける第1の実施例 次に、キー信号のスケーラブル符号化の詳細について第
1の実施例について図11を用いて説明する。第1の実
施例は、キー信号を画像信号の場合と同様のスケーラブ
ル符号化方式により符号化する。まず、入力された下位
レイヤキー信号は、フレームメモリ301を介して演算
器303に供給される。動き補償回路312は、図5の
画像信号符号化部51より供給される下位レイヤ画像信
号の動きベクトル及び予測モードに従って予測参照キー
信号を生成し、演算器303及び演算器310に供給す
る。下位レイヤキー信号はこの場合画像信号の場合と同
様にマクロブロック単位で符号化が行われる。なお、こ
の第1の実施例の場合、背景画像信号及び前景画像信号
と同一のスケーラブル符号化及び復号方法が用いられて
いる。
【0102】演算器303は、予測モードがフレーム内
マクロブロック(イントラマクロブロック、つまり、イ
ントラ予測符号化を行うマクロブロックである)の場
合、入力される下位レイヤキー信号をそのまま DCT
回路304に供給する。その他(インターマクロブロッ
ク、つまり、インター予測符号化を行うマクロブロッ
ク)の場合、演算器303は、入力下位レイヤキー信号
と動き補償回路312から供給される予測参照キー信号
との差分を演算し、DCT回路304に供給する。DC
T回路304は、キー信号差分信号(イントラ予測符号
化の場合は入力キー信号)をDCT処理し、DCT係数
を生成し、そのDCT係数を量子化回路305に供給す
る。量子化回路305は、送信バッファ307からのバ
ッファフィードバック情報により決定される量子化スケ
ールに従って、マクロブロック単位でDCT係数を量子
化して、量子化されたDCT係数を可変長符号化回路3
06に供給する。可変長符号化回路306は、供給され
た量子化されたDCT係数を可変長符号化し、送信バッ
ファ307に供給する。送信バッファ307は、可変長
符号化された下位レイヤキー信号を一時的に蓄積し、下
位レイヤキー信号ビットストリームとして出力する。ま
た、可変長符号化回路306には、量子化回路305よ
り量子化スケールが供給され、この量子化ステップも可
変長符号化される。
【0103】量子化回路305からの量子化されたDC
T係数は、逆量子化回路308にも供給される。逆量子
化回路308は、量子化回路305で用いた量子化スケ
ールを用いて逆量子化し、DCT回路304の出力信号
に対応するDCT係数を逆DCT回路309に供給す
る。逆DCT回路309は、供給されたDCT係数を逆
DCT処理し、演算器303の出力信号に対応するキー
差分信号を演算器310に供給する。演算器310は、
動き補償回路312からの予測参照キー信号と逆DCT
回路309からのキー差分信号を加算してフレームメモ
リ311に、予測キー信号(Iピクチャ及びPピクチャ
の場合)として供給する。なお、逆DCT回路309の
出力信号が、イントラ予測符号化されたキー信号である
場合は、そのキー信号が演算器310からそのまま出力
される。フレームメモリ311は、演算器310からの
予測キー信号を所定の領域に記憶し、この後符号化する
キー信号の予測参照キー信号として使用される。
【0104】また、演算器310からの下位レイヤ予測
キー信号は、キー信号拡大回路313に供給される。キ
ー信号拡大回路313は、下位レイヤ予測キー信号を上
位レイヤキー信号と同一の大きさに拡大した後、上位レ
イヤキー信号の予測参照キー信号に用いられる。画像信
号拡大回路313からの拡大された下位レイヤの予測キ
ー信号は、重み付加回路314に供給される。重み付加
回路314は、拡大された下位レイヤの予測キー信号に
重み(1−W)を乗算し、重み付けされた下位レイヤ予
測参照キー信号を演算器328に供給する。
【0105】一方、上位レイヤキー信号は、メモリから
なる遅延回路315を介して演算器317に供給され
る。なお、この遅延回路315は、上位レイヤキー信号
に対する下位レイヤキー信号の符号化処理の時間分だけ
上位レイヤキー信号を遅延する。動き補償回路326
は、図7に示される画像信号符号化装置より供給される
上位レイヤ画像信号の動きベクトル及び予測モードに従
って、上位レイヤキー信号の予測参照キー信号を生成
し、重み付加回路327に供給する。重み付加回路32
7では上位レイヤキー信号の予測参照キー信号に対して
重みWを乗算し、演算器328に供給する。
【0106】演算器328は、重み付加回路314から
の重み付けされた下位レイヤ予測参照キー信号と演算器
327からの重み付けされた上位レイヤ予測参照キー信
号を加算し、上位レイヤキー信号のための予測参照キー
信号として演算器317に供給する。演算器328から
の予測参照キー信号は、演算器324にも供給される。
演算器324は、逆DCT回路323からのキー差分信
号と予測参照キー信号を加算し、予測キー信号としてフ
レームメモリ325に供給され、この後符号化される上
位レイヤキー信号の予測参照キー信号として用いられ
る。
【0107】演算器317は、符号化する上位レイヤキ
ー信号と演算器328からの予測参照キー信号との差分
を演算し、上位レイヤキー差分信号をDCT回路318
に供給する。ただし、入力される上位レイヤキー信号が
フレーム内符号化マクロブロック(イントラ予測符化さ
れるマクロブロック)の場合、演算器317は符号化す
る上位レイヤキー信号をそのままDCT回路318に供
給する。DCT回路318は、演算器317からの上位
レイヤキー差分信号(イントラ予測符号化の場合は、入
力された上位レイヤキー信号)をDCT(離散コサイン
変換)処理し、DCT係数を生成して、量子化回路31
9に供給する。量子化回路319は、送信バッファ21
のデータ蓄積量などから決定された量子化スケールに従
って、DCT係数を量子化し、量子化されたDCT係数
を可変長符号化回路320に供給する。可変長符号化回
路320は、量子化されたDCT係数を可変長符号化し
た後、可変長符号化された信号を送信バッファ321に
供給し、送信バッファ321は、その信号を一時的に蓄
積して、上位レイヤキー信号ビットストリームとして出
力する。また、可変長符号化回路320には、量子化回
路319で用いた量子化スケール、重み付加回路314
及び327で用いた重み Wが供給され、それぞれ可変長
符号化される。
【0108】量子化回路319からの量子化されたDC
T係数は、逆量子化回路322に供給される。逆量子化
回路322は、量子化されたDCT係数を量子化回路3
19で用いた量子化スケールで逆量子化し、DCT回路
318の出力信号に対応するDCT係数を生成し、その
DCT係数を逆DCT回路323に供給する。逆DCT
回路323は、供給されたDCT係数を逆DCT処理し
て、演算器317の出力信号に対応するキー差分信号を
生成し、演算器324に供給する。演算器324は、演
算器328からのキー差分信号と逆DCT回路323か
らの予測参照キー信号を加算し、上位レイヤキー信号の
ための予測キー信号としてフレームメモリ325に供給
する。なお、逆DCT回路323からの出力信号が、イ
ントラ予測符号化されたキー信号である場合は、そのキ
ー信号が演算器324からそのまま出力される。
【0109】次に図12を用いてキー信号スケーラブル
復号装置の一例を説明する。図12は、空間スケーラビ
リティの復号装置である。
【0110】下位レイヤキー信号ビットストリームは、
受信バッファ401に一時記憶された後、可変長復号回
路402に供給される。可変長復号回路402は、受信
バッファ401より供給された可変長符号化された下位
レイヤキー信号を可変長復号し、量子化スケールを逆量
子化回路403に供給し、可変長復号された下位レイヤ
キー信号のための量子化されたDCT係数を逆量子化回
路403に供給する。この可変長復号された下位レイヤ
キー信号のための量子化されたDCT係数は、図11の
スケーラブル符号化装置の量子化回路305の出力信号
に対応する。
【0111】逆量子化回路403は、可変長復号回路4
02より供給された量子化されたDCT係数を、同じく
可変長復号化回路402より供給された量子化スケール
に従って逆量子化し、図11に示されるスケーラブル符
号化装置のDCT回路304の出力信号に対応するDC
T係数を逆DCT回路404に供給する。IDCT回路
404は、供給されたDCT係数を逆DCT処理し、キ
ー差分信号を演算器405に供給する。演算器405
は、供給されたキー差分信号と動き補償回路407から
の予測参照キー信号を加算し、下位レイヤキー信号を再
生キー信号として出力する。ただし、逆DCT回路40
4からの出力信号がイントラ予測符号化されているキー
信号の場合は、そのキー信号が演算器405からそのま
ま再生キー信号(下位レイヤキー信号)として出力され
る。
【0112】さらに、逆DCT回路404より供給され
たキー信号がIピクチャの場合、そのキー信号は、上述
したように演算器405よりそのまま出力され、この後
に復号されるキー信号(Pピクチャ又はBピクチャの信
号)の予測参照キー信号を生成するために、フレームメ
モリ406に供給されて、記憶される。
【0113】また、キー信号がPピクチャ又はBピクチ
ャの場合、つまり、上述したように、逆DCT回路40
4からのキー信号がキー差分信号である場合、動き補償
回路407は、図8に示されるように画像信号復号部5
6から供給される下位レイヤ画像信号の動きベクトル及
び予測モードに従って、下位レイヤのための予測参照キ
ー信号を生成し、演算器405に供給する。演算器40
5は、上述したように、IDCT回路404からのキー
差分信号と動き補償回路407からの予測参照キー信号
を加算して、下位レイヤキー信号を生成し、再生キー信
号として出力する。また、キー差分信号がPピクチャの
場合、演算器405からの下位レイヤキー信号は、フレ
ームメモリ406に供給されて、フレームメモリ406
はその下位レイヤキー信号を記憶し、次に復号されるキ
ー信号の予測参照キー信号として使用される。
【0114】演算器405からの下位レイヤキー信号
は、外部に出力され、またフレームメモリ406に蓄え
られてこれ以後に復号するキー信号の予測参照キー信号
として用いられるだけでなく、キー信号拡大回路408
により上位レイヤキー信号と同一のサイズに拡大された
後、上位レイヤキー信号の予測参照キー信号としても使
用される。
【0115】上位レイヤキー信号ビットストリームは、
受信バッファ409を介して可変長復号回路410に供
給される。可変長復号回路410は、可変長符号化され
た上位レイヤキー信号を可変長復号し、量子化されたD
CT係数とともに、量子化スケール及び重み係数を復号
する。可変長復号回路410からの量子化されたDCT
係数は、逆量子化回路411に供給される。逆量子化回
路411は、同じく可変長復号回路から供給された量子
化スケールを用いて、量子化されたDCT係数を逆量子
化し、図11に示されるスケーラブル符号化装置のDC
T回路318の出力信号に対応するDCT係数を逆DC
T回路412に供給する。逆DCT回路412は、供給
されたDCT係数を逆DCT処理し、図11に示される
スケーラブル符号化装置の演算器317の出力信号に対
応するキー差分信号(イントラ予測符号化された場合
は、キー信号)を演算器413に供給する。
【0116】動き補償回路415は、図8に示される画
像信号復号部から供給された上位レイヤ画像信号の動き
ベクトル及び予測モードに従って、上位レイヤキー信号
のための予測参照キー信号を生成し、重み付加回路41
6に供給する。重み付加回路416は、その予測参照キ
ー信号を可変長復号回路410から供給された重みWに
乗算し、重み付けされた上位レイヤ予測参照キー信号を
演算器418に供給する。また、キー信号拡大回路40
8からの拡大された下位レイヤの予測参照キー信号は、
重み付加回路417に供給される。重み付加回路417
は、可変長復号回路410からの重みWを用いて、その
拡大された下位レイヤの予測参照キー信号に(1−W)
を乗算し、重み付けされた下位レイヤ予測参照キー信号
を演算器418に供給する。
【0117】演算器418は、重み付加回路417から
重み付けされた下位レイヤ予測参照キー信号と重み付加
回路416からの重み付けされた上位レイヤ予測参照キ
ー信号を加算し、上記レイヤキー信号のための予測参照
キー信号を演算器413に供給する。演算器413は、
逆DCT回路412からのキー差分信号(インター予測
符号化の場合)と演算器417の予測参照キー信号を加
算して、上位レイヤキー信号として出力される。ただ
し、逆DCT回路412からの出力信号がイントラ予測
符号化された場合のキー信号である場合は、そのキー信
号が演算器412からそのまま上位レイヤキー信号とし
て出力される。また、演算器413からの上位レイヤキ
ー信号がIピクチャ若しくはPピクチャの場合は、この
上位レイヤキー信号は、フレームメモリ414に供給さ
れる。フレームメモリ414は、上位レイヤキー信号を
記憶してこの後に復号する上位レイヤキー信号の予測参
照キー信号として使用する。
【0118】また、以上においては、輝度信号に係るキ
ー信号の処理について説明したが、色差信号に係るキー
信号の処理も同様に行われる。ただし、この場合、動き
ベクトルは、輝度信号用のものを、垂直方向及び水平方
向に1/2にしたものが用いられる。
【0119】以上は、空間スケーラビリティを例にとり
説明したが、テンポラルスケーラビリティやSNRスケ
ーラビリティにも適用可能である。その場合、同様に復
号された下位レイヤキー信号を用いて、上位レイヤキー
信号の予測参照キー信号を生成し、上位レイヤキー信号
と下位レイヤキー信号とのキー差分信号を符号化するこ
とになる。
【0120】(2)キー信号のスケーラブル符号化にお
ける第2の実施例 第2の実施例は、第1の実施例の変形例である。つま
り、第1の実施例においては、上位レイヤキー信号に対
して動き補償を行っていたが、第2の実施例において
は、上位レイヤキー信号に対して動き補償を行わない。
なお、この第2の実施例の場合、上述した背景画像信号
及び前景画像信号のスケーラブル符号化及び復号方法と
異なるが、第2の実施例のキー信号スケーラブル符号化
及び復号方法と同様の方法を背景画像信号及び前景画像
信号に適用する。
【0121】図13は、第2の実施例におけるキー信号
のスケーラブル符号化装置の一例を示している。なお、
下位レイヤキー信号の符号化処理は、第1の実施例の符
号化処理と同一であるため、同一参照番号を付してその
説明を省略する。また、上位レイヤキー信号の符号化処
理についても、同一部分については同一番号を付して、
適宜その説明を省略する。つまり、本実施例の特徴部分
のみ以下に説明する。
【0122】下位レイヤキー信号の符号化処理における
ローカルデコーダ内の演算器310からの下位レイヤ予
測キー信号は、キー信号拡大回路313に供給される。
キー信号拡大回路313は、下位レイヤ予測キー信号を
上位レイヤキー信号と同一の大きさに拡大し、演算器3
50に上位レイヤキー信号の予測参照キー信号として供
給する。上位レイヤキー信号は、下位レイヤキー信号の
符号化処理時間だけ遅延された後、演算器350に供給
される。演算器350は、入力された上位レイヤキー信
号とキー信号拡大回路313からの予測参照キー信号と
の差分を演算し、キー差分信号をDCT回路318に供
給する。ただし、入力された上位レイヤキー信号がイン
トラ予測符号化される場合、その入力された上位レイヤ
キー信号が演算器350からそのまま出力されることに
なる。DCT回路318は、供給されたキー差分信号
(インター予測符号化の場合)若しくはキー信号(イント
ラ予測符号化の場合)をDCT処理し、DCT係数を量
子化回路319に供給する。量子化回路319は、送信
バッファ321のデータ蓄積量によって決定された量子
化スケールで量子化され、量子化されたDCT係数が可
変長符号化回路320に供給される。可変長符号化回路
320は、量子化された DCT係数、量子化スケールを可
変長符号化し、送信バッファ21を介して上位レイヤキ
ー信号ビットストリームとして出力する。
【0123】図14は、第2の実施例におけるキー信号
のスケーラブル復号装置の一例を示している。なお、下
位レイヤキー信号の復号処理は、第1の実施例の符号化
処理と同一であるため、同一参照番号を付してその説明
を省略する。また、上位レイヤキー信号の復号処理につ
いても、同一部分については同一番号を付して、適宜そ
の説明を省略する。つまり、本実施例の特徴部分のみ以
下に説明する。
【0124】上位レイヤキー信号ビットストリームは、
受信バッファ409を介して可変長復号回路410に供
給される。可変長復号回路410は、可変長復号された
量子化されたDCT係数及び量子化スケールを可変長符
号し、量子化されたDCT係数と量子化スケールを逆量
子化回路411に供給する。逆量子化回路411は、供
給された量子化スケールを用いて、量子化されたDCT
係数を逆量子化し、DCT係数を逆DCT回路412に
供給する。逆DCT回路412は、供給されたDCT係
数を逆DCT処理し、キー差分信号(インター予測符号
化)若しくはキー信号(イントラ予測符号化)を演算器
450に供給する。
【0125】演算器450からの復元された下位レイヤ
キー信号は、外部に再生キー信号として出力されるとと
もに、キー信号拡大回路408に供給される。また、復
号された下位レイヤキー信号がIピクチャ若しくはPピ
クチャの場合、この下位レイヤキー信号がフレームメモ
リ406に供給されて記憶され、この後に復号する下位
レイヤキー信号の予測参照キー信号として使用される。
キー信号拡大回路408は、供給された下位レイヤキー
信号を上位レイヤキー信号と同一の大きさに拡大し、上
位レイヤキー信号のための予測参照キー信号として演算
器450に供給する。
【0126】演算器450は、逆DCT回路412から
のキー差分信号(インター予測符号化)とキー信号拡大
回路408からの予測参照キー信号を加算して、上位レ
イヤキー信号を生成して、上位レイヤキー信号を外部に
出力する。ただし、逆DCT回路412からの出力信号
が、イントラ予測符号化されたキー信号の場合、演算器
450は、逆DCT回路412からのキー信号を上位レ
イヤキー信号としてそのまま出力する。
【0127】(3)キー信号のスケーラブル符号化にお
ける第3の実施例 第3の実施例は、第1の実施例の変形例である。つま
り、第1の実施例においては、上位レイヤキー信号及び
下位レイヤキー信号に対してDCT処理及び量子化処理
による圧縮符号化を行っていたが、第3の実施例におい
ては、上位レイヤキー信号及び下位レイヤキー信号に対
して量子化処理及びDPCM処理による圧縮符号化を行
う。
【0128】図15は、第3の実施例におけるキー信号
のスケーラブル符号化装置の一例を示している。なお、
上位レイヤキー信号及び下位レイヤキー信号のDCT処
理及び量子化処理以外の処理は、第1の実施例の符号化
処理と同一であるため、同一参照番号を付して、適宜そ
の説明を省略する。つまり、本実施例の特徴部分のみ以
下に説明する。
【0129】下位レイヤキー信号は、第1の実施例の場
合と同様に、フレームメモリ301を介して演算器30
3に供給される。演算器303は、第1の実施例と同様
にして生成されたキー差分信号(インター予測符号化の
場合)若しくはキー信号(イントラ予測符号化の場合)
を量子化回路360に供給する。量子化回路360は、
送信バッファ307のデータ残量などから決定された量
子化スケールを用いて、演算器303からのキー差分信
号(インター予測符号化の場合)若しくはキー信号(イ
ントラ予測符号化の場合)を量子化し、量子化された信
号をDPCM回路361に供給する。DPCM回路36
1は、量子化された信号をDPCM処理し、DPCMさ
れた信号を可変長符号化回路406に供給する。そし
て、可変長符号化回路306は、供給されたDPCMさ
れた信号を可変長符号し、送信バッファ307を介して
下位レイヤキービットストリームとして出力する。ま
た、量子化回路360からの量子化スケールは、可変長
符号化回路306に供給され、量子化スケールも可変長
符号化され、下位レイヤキービットストリームの一部と
して出力される。
【0130】DPCM回路361からのDPCMされた
信号は、逆DPCM回路362にも供給される。逆DP
CM回路362は、供給されたDPCMされた信号を逆
DPCM処理し、量子化回路360の出力信号に対応す
る量子化された信号を逆量子化回路363に供給する。
逆量子化回路363は、量子化回路360によって用い
られた量子化スケールを用いて逆量子化を行い、演算器
303の出力信号に対応するキー差分信号(インター予
測符号化の場合)若しくはキー信号(イントラ予測符号
化の場合)を演算器310に供給する。
【0131】演算器310は、逆量子化回路371から
のキー差分信号と動き補償回路312からの予測参照キ
ー信号とを加算して予測キー信号を生成し、予測キー信
号(Iピクチャ及びPピクチャの場合)をフレームメモ
リ311に供給するとともにキー信号拡大回路313に
供給して、第1の実施例と同様に上位レイヤキー信号の
予測参照キー信号として使用される。キー信号拡大回路
313からの拡大された下位レイヤ予測参照キー信号
は、重み付加回路314に供給される。重み付加回路3
14は、拡大された下位レイヤ予測参照キー信号に重み
(1−W)を乗算し、演算器328に供給する。また、
動き補償回路326は、第1の実施例と同様に、フレー
ムメモリ311に記憶された予測キー信号を用いて、図
7に示される画像信号符号化部61から供給される上位
レイヤ動きベクトル及び予測モードに従って、下位レイ
ヤ予測参照キー信号を生成して、演算器303に予測参
照キー信号を供給する。
【0132】一方、上位レイヤキー信号は、メモリから
なる遅延回路315を介して下位レイヤキー信号符号化
に要する時間だけ遅延された後、演算貴317に入力さ
れ、演算器317は、演算器328からの上位レイヤキ
ー信号のための予測参照キー信号と入力された上位階層
キー信号の差分を演算し、キー差分信号を量子化器36
4に供給する。ただし、入力された上位レイヤキー信号
がイントラ予測符号化される場合、その上位レイヤキー
信号は、演算器317からそのままキー信号として量子
化回路364に供給される。量子化回路364は、送信
バッファ321のデータ残量などから決定された量子化
スケールを用いて、供給されたキー差分信号(インター
予測符号化)若しくはキー信号(イントラ予測符号化)
を量子化し、量子化された信号をDPCM回路365に
供給する。DPCM回路365は、量子化された信号を
DPCM処理し、DPCMされた信号を可変長符号化回
路320に供給する。そして、可変長符号化回路320
は、供給されたDPCMされた信号を可変長符号化し、
送信バッファ321を介して上位レイヤキー信号ビット
ストリームとして出力する。また、量子化回路364か
らの量子化スケールは、可変長符号化回路320に供給
され、量子化スケールも可変長符号化され、上位レイヤ
キービットストリームの一部として出力される。
【0133】DPCM回路365からのDPCMされた
信号は、逆DPCM回路366にも供給される。逆DP
CM回路366は、供給されたDPCMされた信号を逆
DPCM処理し、量子化回路364の出力信号に対応す
る量子化された信号を逆量子化回路367に供給する。
逆量子化回路366は、量子化回路364によって用い
られた量子化スケールを用いて逆量子化を行い、演算器
317の出力信号に対応するキー差分信号(インター予
測符号化の場合)若しくはキー信号(イントラ予測符号
化の場合)を演算器324に供給する。演算器324は
逆量子化回路367からのキー差分信号及び演算器32
8からの予測参照キー信号を加算し、予測キー信号をフ
レームメモリ325に供給する。フレームメモリ325
は、予測キー信号を記憶して、この後に符号化される上
位レイヤキー信号のために使用される。
【0134】動き補償回路326は、第1の実施例と同
様に、図7に示される画像信号符号化部61から供給さ
れる上位レイヤ動きベクトル及び予測モードに従って、
上位レイヤ予測参照キー信号を生成し、重み付加回路3
27に供給する。重み付加回路327は、動き補償回路
326からの上位レイヤ予測参照キー信号に重みWを乗
算して、重み付けされた上位レイヤ予測参照キー信号を
演算器328に供給する。演算器328は、重み付加回
路314からの重み付けされた下位レイヤ予測参照キー
信号及び重み付加回路327からの重み付けされた上位
レイヤ予測参照キー信号を加算して、上位レイヤ予測参
照キー信号を演算器317に供給する。なお、重み付加
回路327からの重みWも可変長符号化回路320に供
給され、この重みも可変長符号化されて、上位レイヤキ
ー信号ビットストリームの一部として出力される。
【0135】次に、図16は、第3の実施例におけるキ
ー信号のスケーラブル復号装置の一例を示している。な
お、上位レイヤキー信号及び下位レイヤキー信号の逆D
CT処理及び逆量子化処理以外の処理は、第1の実施例
の復号処理と同一であるため、同一参照番号を付して、
適宜その説明を省略する。つまり、本実施例の特徴部分
のみ以下に説明する。
【0136】下位レイヤキー信号ビットストリームは、
受信バッファ401を介して可変長復号回路402に供
給される。可変長復号回路402は、可変長復号された
下位レイヤキー信号を可変長復号し、DPCMされた信
号、量子化スケールを生成する。DPCMされた信号
は、逆DPCM回路460に供給される。逆DPCM回
路460は、DPCMされた信号を逆DPCM処理し、
量子化された信号を逆量子化回路461に供給する。逆
量子化回路461は、可変長復号回路402からの復号
された量子化スケールを用いて、量子化された信号を逆
量子化し、キー差分信号(インター予測符号化の場合)
若しくはキー信号(イントラ予測符号化の場合)を演算
器405に供給する。また、動き補償回路407は、図
8に示される画像信号復号部66からの下位レイヤ動き
ベクトル及び予測モードに従って下位レイヤ予測参照キ
ー信号を生成し、下位レイヤ予測参照信号を演算器40
5に供給する。
【0137】演算器405は、逆量子化回路461から
のキー差分信号及び動き補償回路407からの下位レイ
ヤ予測参照キー信号を加算し、復号された下位レイヤキ
ー信号を外部に出力する。ただし、逆量子化回路461
からの出力信号がイントラ予測符号化されたキー信号で
ある場合には、そのキー信号が、演算器405から下位
レイヤキー信号としてそのまま出力される。また、復号
された下位レイヤキー信号がIピクチャ若しくはPピク
チャの場合、演算器405からの下位レイヤキー信号
は、フレームメモリ406に記憶され、その後復号する
下位レイヤ号の予測参照キー信号として使用される。演
算器405からの下位レイヤキー信号は、キー信号拡大
回路408に供給される。キー信号拡大回路408は、
下位レイヤキー信号を上位レイヤキー信号と同一の大き
さに拡大して後、上位レイヤキー信号の予測参照キー信
号として用いられる。
【0138】一方、上位レイヤキービットストリーム
は、受信バッファ409を介して可変長復号回路410
に供給される。可変長復号回路410は、可変長復号さ
れた上位レイヤキー信号を可変長復号し、DPCMされ
た信号、量子化スケール及び重みWが生成される。可変
長復号回路410からのDPCMされた信号は、逆DP
CM回路462に供給される。逆DPCM回路462は
DPCMされた信号を逆 DPCM 処理した後、量
子化された信号を逆量子化回路412に供給する。逆量
子化回路412は、可変長復号回路410からの量子化
スケールを用いて、量子化された信号を逆量子化し、キ
ー差分信号(インター予測符号化の場合)若しくはキー
信号(イントラ予測符号化の場合)を演算器413に供
給する。また、動き補償回路415は、図8に示される
画像信号復号部66からの上位レイヤ動きベクトル及び
予測モードに従って上位レイヤ予測参照キー信号を生成
し、上位レイヤ予測参照キー信号を重み付加回路416
に供給する。重み付加回路416は、可変長復号回路4
10からの復号された重みWを用い、上位レイヤ予測参
照キー信号に重みWを乗算して、重み付けされた上位レ
イヤキー予測参照キー信号を演算器418に供給する。
また、キー信号拡大回路408からの拡大された下位レ
イヤキー信号は、重み付加回路417に供給される。重
み付加回路417は、可変長復号回路410からの復号
された重みWを用い、拡大された下位レイヤキー信号に
(1−W)を乗算して、重み付けされた下位レイヤ予測
参照キー信号を演算器418に供給する。
【0139】演算器418は、重み付加回路416から
の重み付けされた上位レイヤキー予測参照キー信号及び
重み付加回路417からの重み付けされた下位レイヤ予
測参照キー信号を加算し、上位レイヤキー信号の予測参
照キー信号を演算器413に供給する。
【0140】演算器413は、逆量子化回路412から
のキー差分信号(インター予測符号化の場合)と演算器
418からの上位レイヤキー信号の予測参照キー信号を
加算して、復号された上位レイヤキー信号を外部に出力
する。ただし、逆量子化回路463からの出力信号がイ
ントラ予測符号化されたキー信号である場合には、その
キー信号が、演算器413から下位レイヤキー信号とし
てそのまま出力される。また、演算器413からの下位
レイヤキー信号は、フレームメモリ414に記憶され、
その後復号する下位レイヤ号の予測参照キー信号として
使用される。
【0141】(4)キー信号のスケーラブル符号化にお
ける第4の実施例 第4の実施例は、第3の実施例の変形例である。つま
り、第3の実施例においては、上位レイヤキー信号に対
して動き補償を行っていたが、第4の実施例において
は、上位レイヤキー信号に対して動き補償を行わない。
【0142】図17は、第4の実施例におけるキー信号
のスケーラブル符号化装置の一例を示している。なお、
下位レイヤキー信号の符号化処理は、第3の実施例の符
号化処理と同一であるため、同一参照番号を付してその
説明を省略する。また、上位レイヤキー信号の符号化処
理についても、同一部分については同一番号を付して、
適宜その説明を省略する。つまり、本実施例の特徴部分
のみ以下に説明する。
【0143】下位レイヤキー信号の符号化処理における
ローカルデコーダ内の演算器310からの下位レイヤ予
測キー信号は、キー信号拡大回路313に供給される。
キー信号拡大回路313は、下位レイヤ予測キー信号を
上位レイヤキー信号と同一の大きさに拡大し、演算器3
50に上位レイヤキー信号の予測参照キー信号として供
給する。上位レイヤキー信号は、下位レイヤキー信号の
符号化処理時間だけ遅延された後、演算器350に供給
される。演算器350は、入力された上位レイヤキー信
号とキー信号拡大回路313からの予測参照キー信号と
の差分を演算し、キー差分信号を量子化回路360に供
給する。ただし、入力された上位レイヤキー信号がイン
トラ予測符号化される場合、その入力された上位レイヤ
キー信号が演算器350からそのまま出力されることに
なる。量子化回路360は、供給されたキー差分信号
(インター予測符号化の場合)若しくはキー信号(イント
ラ予測符号化の場合)を送信バッファ321のデータ蓄
積量によって決定された量子化スケールで量子化し、量
子化された信号をDPCM回路361に供給する。DP
CM回路361は、供給された量子化された信号をDP
CM処理し、DPCMされた信号を可変長符号化回路3
20に供給される。可変長符号化回路320は、DPC
Mされた信号、量子化スケールを可変長符号化し、送信
バッファ321を介して上位レイヤキービットストリー
ムとして出力する。
【0144】図18は、第4の実施例におけるキー信号
のスケーラブル復号装置の一例を示している。なお、下
位レイヤキー信号の復号処理は、第3の実施例の符号化
処理と同一であるため、同一参照番号を付してその説明
を省略する。また、上位レイヤキー信号の復号処理につ
いても、同一部分については同一番号を付して、適宜そ
の説明を省略する。つまり、本実施例の特徴部分のみ以
下に説明する。
【0145】上位レイヤキービットストリームは、受信
バッファ409を介して可変長復号回路410に供給さ
れる。可変長復号回路410は、DPCMされた信号及
び量子化スケールを可変長復号し、DPCMされた信号
を逆DPCM回路462に供給する。逆DPCM回路4
62は、DPCMされた信号を逆DPCM処理し、量子
化された信号を逆量子化回路463に供給する。逆量子
化回路463は、可変長復号回路410から供給された
量子化スケールを用いて、供給された量子化された信号
を逆量子化し、キー差分信号(インター予測符号化)若
しくはキー信号(イントラ予測符号化)を演算器470
に供給する。
【0146】演算器405からの復号された下位レイヤ
キー信号は、外部に再生キー信号として出力されるとと
もに、キー信号拡大回路408に供給される。また、復
号された下位レイヤキー信号がIピクチャ若しくはPピ
クチャの場合、この下位レイヤキー信号がフレームメモ
リ406に供給されて記憶され、この後に復号する下位
レイヤキー信号の予測参照キー信号として使用される。
キー信号拡大回路408は、供給された下位レイヤキー
信号を上位レイヤキー信号と同一の大きさに拡大し、上
位レイヤキー信号のための予測参照キー信号として演算
器470に供給する。
【0147】演算器470は、逆量子化回路463から
のキー差分信号(インター予測符号化)とキー信号拡大
回路418からの予測参照キー信号を加算して、上位レ
イヤキー信号を生成して、上位レイヤキー信号を外部に
出力する。ただし、逆量子化回路463からの出力信号
が、イントラ予測符号化されたキー信号の場合、演算器
470は、逆量子化回路463からのキー信号を上位レ
イヤキー信号としてそのまま出力する。
【0148】(5)キー信号のスケーラブル符号化にお
ける第5の実施例 第5の実施例は、第1の実施例の変形例である。つま
り、第1の実施例においては、上位レイヤキー信号及び
下位レイヤキー信号に対してDCT処理及び量子化処理
による圧縮符号化を行っていたが、第5の実施例におい
ては、上位レイヤキー信号及び下位レイヤキー信号に対
してQuad Tree符号化による圧縮符号化を行
う。
【0149】図19は、第5の実施例におけるキー信号
のスケーラブル符号化装置の一例を示している。なお、
上位レイヤキー信号及び下位レイヤキー信号のDCT処
理及び量子化処理以外の処理は、第1の実施例の符号化
処理と同一であるため、同一参照番号を付して、適宜そ
の説明を省略する。つまり、本実施例の特徴部分のみ以
下に説明する。
【0150】下位レイヤキー信号は、第1の実施例の場
合と同様に、フレームメモリ301を介して演算器30
3に供給される。演算器303は、第1の実施例と同様
にして生成されたキー差分信号(インター予測符号化の
場合)若しくはキー信号(イントラ予測符号化の場合)
を送信バッファ307のデータ蓄積量に従ってQuad
Tree符号化回路370に供給する。Quad T
ree符号化回路370は、キー信号若しくはキー差分
信号をマクロブロック単位で階層化して符号化する。例
えば、16×16のマクロブロックに対して、2×2の
データをまとめて一つ上位のレベルを構成する。また、
さらにその上位のレベルで2×2のデータをまとめてさ
らに上位のレベルを形成する。これを繰り返し、ツリー
状のデータ構成にする。この場合、上位レベルの値は下
位レベルの値に依存することになる。図23は、このQ
uad Treeの構造を示している。Quad Tr
ee符号化回路370からのQuad Tree符号化
された信号は、符号化回路372に供給される。そし
て、符号化回路372は、ハードキーの場合、そのQu
ad Tree符号化された信号を可変長符号化を行
い、ソフトキーの場合、そのQuad Tree符号化
された信号をベクトル量子化する。この手順の詳細は、
ISO−IEC/JTC1/SC29/WG11におい
て文章N1172の3章Shape Coding中に
詳細が述べられている。
【0151】そして、符号化回路372は、符号化され
た信号を送信バッファ307を介して下位レイヤキー信
号ビットストリームとして出力する。
【0152】一方、Quad Tree符号化回路37
0からのQuad Tree符号化された信号は、逆Q
uad Tree符号化回路371にも供給される。逆
Quad Tree符号化回路371は、供給されたQ
uadTree符号化された信号を逆Quad Tre
e符号化し、演算器303の出力信号に対応するキー差
分信号(インター予測符号化の場合)若しくはキー信号
(イントラ予測符号化の場合)を演算器310に供給す
る。
【0153】演算器310は、逆量子化回路310から
のキー差分信号と動き補償回路312からの予測参照キ
ー信号とを加算して予測キー信号(Iピクチャ及びPピ
クチャの場合)を生成し、予測キー信号をフレームメモ
リ311に供給するとともにキー信号拡大回路313に
供給して、第1の実施例と同様に上位レイヤキー信号の
予測参照キー信号として使用される。キー信号拡大回路
313からの拡大された下位レイヤ予測参照キー信号
は、重み付加回路314に供給される。重み付加回路3
14は、拡大された下位レイヤ予測参照キー信号に重み
(1-W)を乗算し、演算器328に供給する。また、動き
補償回路326は、第1の実施例と同様に、フレームメ
モリ311に記憶された予測キー信号を用いて、図7に
示される画像信号符号化部61から供給される上位レイ
ヤ動きベクトル及び予測モードに従って、下位レイヤ予
測参照キー信号を生成して、演算器303に予測参照キ
ー信号を供給する。
【0154】一方、上位レイヤキー信号は、メモリから
なる遅延回路315を介して下位レイヤキー信号符号化
に要する時間だけ遅延された後、演算回路317に入力
され、演算器317は、演算器328からの上位レイヤ
キー信号のための予測参照キー信号と入力された上位階
層キー信号の差分を演算し、キー差分信号を量子化器3
64に供給する。ただし、入力された上位レイヤキー信
号がイントラ予測符号化される場合、その上位レイヤキ
ー信号は、演算器317からそのままキー信号としてQ
uad Tree符号化回路373に供給される。Qu
ad Tree符号化回路373は、送信バッファ32
1のデータ蓄積量に従ってキー信号若しくはキー差分信
号をマクロブロック単位で階層化して符号化する。Qu
ad Tree符号化回路373からのQuad Tr
ee符号化された信号は、符号化回路375に供給され
る。そして、符号化回路375は、ハードキーの場合、
そのQuadTree符号化された信号を可変長符号化
を行い、ソフトキーの場合、そのQuadTree符号
化された信号をベクトル量子化する。そして、符号化回
路375は、符号化された信号を送信バッファ321を
介して上位レイヤキー信号ビットストリームとして出力
する。
【0155】一方、Quad Tree符号化回路37
3からのQuad Tree符号化された信号は、逆Q
uad Tree符号化回路374にも供給される。逆
Quad Tree符号化回路374は、供給された符
号化された下位レイヤキー信号を逆Quad Tree
符号化し、演算器317の出力信号に対応するキー差分
信号(インター予測符号化の場合)若しくはキー信号
(イントラ予測符号化の場合)を演算器324に供給す
る。演算器324は、逆Quad Tree符号化回路
374からのキー差分信号及び演算器328からの予測
参照キー信号を加算し、予測キー信号をフレームメモリ
325に供給する。フレームメモリ325は、予測キー
信号を記憶して、この後に符号化される上位レイヤキー
信号の予測参照キー信号として使用される。
【0156】動き補償回路326は、第1の実施例と同
様に、図7に示される画像信号符号化部61から供給さ
れる上位レイヤ動きベクトル及び予測モードに従って、
上位レイヤ予測参照キー信号を生成し、重み付加回路3
27に供給する。重み付加回路327は、動き補償回路
326からの上位レイヤ予測参照キー信号に重みWを乗
算して、重み付けされた上位レイヤ予測参照キー信号を
演算器328に供給する。演算器328は、重み付加回
路314からの重み付けされた下位レイヤ予測参照キー
信号及び重み付加回路327からの重み付けされた上位
レイヤ予測参照キー信号を加算して、上位レイヤ予測参
照キー信号を演算器317に供給する。なお、重み付加
回路327からの重みWも可変長符号化回路320に供
給され、この重みも可変長符号化されて、上位レイヤキ
ービットストリームの一部として出力される。
【0157】次に、図20は、第5の実施例におけるキ
ー信号のスケーラブル復号装置の一例を示している。な
お、上位レイヤキー信号及び下位レイヤキー信号の逆D
CT処理及び逆量子化処理以外の処理は、第1の実施例
の復号処理と同一であるため、同一参照番号を付して、
適宜その説明を省略する。つまり、本実施例の特徴部分
のみ以下に説明する。
【0158】下位レイヤキー信号ビットストリームは、
受信バッファ401を介して復号回路470に供給され
る。復号回路470は、符号化された下位レイヤキー信
号を復号する。つまり、下位レイヤキー信号がハードキ
ーである場合は、下位レイヤキー信号は可変長符号化さ
れているため、この復号回路470は、符号化された下
位レイヤキー信号を可変長復号し、Quad Tree
符号化された下位レイヤキー信号を生成する。また、下
位レイヤキー信号がソフトキーである場合は、下位レイ
ヤキー信号はベクトル量子化されているため、この復号
回路470は、符号化された下位レイヤキー信号を逆ベ
クトル量子化し、Quad Tree符号化された下位
レイヤキー信号を生成する。Quad Tree符号化
された信号は、逆Quad Tree符号化回路471
に供給される。逆Quad Tree符号化回路471
は、Quad Tree符号化された信号を逆Quad
Tree符号化し、キー差分信号(インター予測符号化
の場合)若しくはキー信号(イントラ予測符号化の場
合)を演算器405に供給する。また、動き補償回路4
07は、図8に示される画像信号復号部66からの下位
レイヤ動きベクトル及び予測モードに従って下位レイヤ
予測参照キー信号を生成し、下位レイヤ予測参照信号を
演算器405に供給する。
【0159】演算器405は、逆Quad Tree符
号化回路471からのキー差分信号及び動き補償回路4
07からの下位レイヤ予測参照キー信号を加算し、復号
された下位レイヤキー信号を外部に出力する。ただし、
逆Quad Tree符号化回路471からの出力信号
がイントラ予測符号化されたキー信号である場合には、
そのキー信号が、演算器405から下位レイヤキー信号
としてそのまま出力される。また、復号された下位レイ
ヤキー信号がIピクチャ若しくはPピクチャの場合、演
算器405からの下位レイヤキー信号は、フレームメモ
リ406に記憶され、その後復号する下位レイヤ号の予
測参照キー信号として使用される。演算器405からの
下位レイヤキー信号は、キー信号拡大回路408に供給
される。キー信号拡大回路408は、下位レイヤキー信
号を上位レイヤキー信号と同一の大きさに拡大して後、
上位レイヤキー信号の予測参照キー信号として用いられ
る。
【0160】一方、上位レイヤキービットストリーム
は、受信バッファ409を介して復号回路472に供給
される。復号回路472は、符号化された上位レイヤキ
ー信号を復号する。つまり、上位レイヤキー信号がハー
ドキーである場合は、上位レイヤキー信号は可変長符号
化されているため、この復号回路472は、符号化され
た上位レイヤキー信号を可変長復号し、Quad Tr
ee符号化された上位レイヤキー信号を生成する。ま
た、上位レイヤキー信号がソフトキーである場合は、上
位レイヤキー信号はベクトル量子化されているため、こ
の復号回路472は、符号化された上記レイヤキー信号
を逆ベクトル量子化し、Quad Tree符号化され
た上位レイヤキー信号を生成する。Quad Tree
符号化された信号は、逆Quad Tree符号化回路
473に供給される。逆Quad Tree符号化回路
473は、Quad Tree符号化された信号を逆Q
uadTree符号化し、キー差分信号(インター予測
符号化の場合)若しくはキー信号(イントラ予測符号化
の場合)を演算器413に供給する。また、動き補償回
路415は、図8に示される画像信号復号部66からの
上位レイヤ動きベクトル及び予測モードに従って上位レ
イヤ予測参照キー信号を生成し、上位レイヤ予測参照キ
ー信号を重み付加回路416に供給する。重み付加回路
416は、可変長復号回路410からの復号された重み
Wを用い、上位レイヤ予測参照キー信号に重みWを乗算
して、重み付けされた上位レイヤキー予測参照キー信号
を演算器418に供給する。また、キー信号拡大回路4
08からの拡大された下位レイヤキー信号は、重み付加
回路417に供給される。重み付加回路417は、可変
長復号回路410からの復号された重みWを用い、拡大
された下位レイヤキー信号に(1−W)を乗算して、重
み付けされた下位レイヤ予測参照キー信号を演算器41
8に供給する。
【0161】演算器418は、重み付加回路416から
の重み付けされた上位レイヤキー予測参照キー信号及び
重み付加回路417からの重み付けされた下位レイヤ予
測参照キー信号を加算し、上位レイヤキー信号の予測参
照キー信号を演算器413に供給する。
【0162】演算器413は、逆Quad Tree符
号化回路473からのキー差分信号(インター予測符号
化の場合)と演算器418からの上位レイヤキー信号の
予測参照キー信号を加算して、復号された上位レイヤキ
ー信号を外部に出力する。だたし、逆Quad Tre
e符号化回路473からの出力信号がイントラ予測符号
化されたキー信号である場合には、そのキー信号が、演
算器413から下位レイヤキー信号としてそのまま出力
される。また、演算器413からの下位レイヤキー信号
は、フレームメモリ414に記憶され、その後復号する
下位レイヤ号の予測参照キー信号として使用される。
【0163】(6)キー信号のスケーラブル符号化にお
ける第6の実施例 第6の実施例は、第5の実施例の変形例である。つま
り、第5の実施例においては、上位レイヤキー信号に対
して動き補償を行っていたが、第6の実施例において
は、上位レイヤキー信号に対して動き補償を行わない。
【0164】図21は、第6の実施例におけるキー信号
のスケーラブル符号化装置の一例を示している。なお、
下位レイヤキー信号の符号化処理は、第5の実施例の符
号化処理と同一であるため、同一参照番号を付してその
説明を省略する。また、上位レイヤキー信号の符号化処
理についても、同一部分については同一番号を付して、
適宜その説明を省略する。つまり、本実施例の特徴部分
のみ以下に説明する。
【0165】下位レイヤキー信号の符号化処理における
ローカルデコーダ内の演算器310からの下位レイヤ予
測キー信号は、キー信号拡大回路313に供給される。
キー信号拡大回路313は、下位レイヤ予測キー信号を
上位レイヤキー信号と同一の大きさに拡大し、演算器3
50に上位レイヤキー信号の予測参照キー信号として供
給する。上位レイヤキー信号は、下位レイヤキー信号の
符号化処理時間だけ遅延された後、演算器380に供給
される。演算器380は、入力された上位レイヤキー信
号とキー信号拡大回路313からの予測参照キー信号と
の差分を演算し、キー差分信号を量子化回路360に供
給する。ただし、入力された上位レイヤキー信号がイン
トラ予測符号化される場合、その入力された上位レイヤ
キー信号が演算器350からそのまま出力されることに
なる。Quad Tree符号化回路370は、供給さ
れたキー差分信号(インター予測符号化の場合)若しく
はキー信号(イントラ予測符号化の場合)を送信バッフ
ァ307のデータ蓄積量に従ってQuad Tree符
号化し、Quad Tree符号化された信号を符号化
回路372に供給される。符号化回路372は、ハード
キーの場合は、Quad Tree符号化された信号を
可変長符号化し、ソフトキーの場合は、Quad Tr
ee符号化された信号をベクトル量子化して、送信バッ
ファ321を介して上位レイヤキービットストリームと
して出力する。
【0166】図22は、第6の実施例におけるキー信号
のスケーラブル復号装置の一例を示している。なお、下
位レイヤキー信号の復号処理は、第3の実施例の符号化
処理と同一であるため、同一参照番号を付してその説明
を省略する。また、上位レイヤキー信号の復号処理につ
いても、同一部分については同一番号を付して、適宜そ
の説明を省略する。つまり、本実施例の特徴部分のみ以
下に説明する。
【0167】上位レイヤキービットストリームは、受信
バッファ409を介して復号回路472に供給される。
復号回路472は、符号化された上位レイヤキー信号を
復号する。つまり、上位レイヤキー信号がハードキーで
ある場合は、上位レイヤキー信号は可変長符号化されて
いるため、この復号回路472は、符号化された上位レ
イヤキー信号を可変長復号し、Quad Tree符号
化された上位レイヤキー信号を生成する。また、上位レ
イヤキー信号がソフトキーである場合は、上位レイヤキ
ー信号はベクトル量子化されているため、この復号回路
472は、符号化された上記レイヤキー信号を逆ベクト
ル量子化し、Quad Tree符号化された上位レイ
ヤキー信号を生成する。Quad Tree符号化され
た信号は、逆Quad Tree符号化回路473に供
給される。逆Quad Tree符号化回路473は、
Quad Tree符号化された信号を逆Quad T
ree符号化し、キー差分信号(インター予測符号化の
場合)若しくはキー信号(イントラ予測符号化の場合)
を演算器480に供給する。
【0168】演算器480は、逆Quad Tree符
号化回路473からのキー差分信号(インター予測符号
化)とキー信号拡大回路408からの予測参照キー信号
を加算して、上位レイヤキー信号を生成して、上位レイ
ヤキー信号を外部に出力する。ただし、逆Quad T
ree符号化回路473からの出力信号が、イントラ予
測符号化されたキー信号の場合、演算器480は、逆Q
uad Tree符号化回路473からのキー信号を上
位レイヤキー信号としてそのまま出力する。
【0169】上記第1の実施例から第6の実施例まで空
間スケーラビリティを例にとってキー信号スケーラビリ
ティ符号化方法を述べたが、これは、テンポラルスケー
ラビリティやSNRスケーラビリティにも同様に適用で
きる。いずれの場合においても、画像信号の符号化と同
様の符号化をキー信号においても適用すればよい(すな
わち、キー信号を輝度信号と同じ大きさの画像信号とし
て扱う)。また、上記実施例以外のキー信号符号化方法
及びキー信号の差分符号化方法においても同様に本発明
を適用することが可能である。
【0170】3. 空間スケーラビリティにおける符号
化効率の改善方法及びシンタクス ここでは、スケーラブル画像信号符号化方法における符
号化効率の改善方法について述べる。MPEG2方式で
は各種スケーラビリティが標準化されているが、これら
のスケーラビリティは、比較的高いビットレートにおい
て最適化されたものである。したがって、これらのスケ
ーラビリティは、低ビットレートの場合には冗長であ
り、これらのスケーラビリティから不必要な符号化モー
ドなどを削減することにより、符号化効率を改善するこ
とができる。
【0171】本実施の形態においては上位レイヤの符号
化モードは下位レイヤの符号化モードに依存する。本実
施例におけるシンタクスについて説明する。
【0172】スケーラビリティを実現する方法として
は、各レイヤのビットストリームが一つのsessio
nから構成される方法とVOP layerにscal
able layerを導入する方法とがある。前者
は、下位レイヤ及び上位レイヤのビットストリームにそ
れぞれsession headerをつけて異なるS
essionにする表記方法であり、後者は、Sess
ion headerは1つしか用いず、下位レイヤと
上位レイヤを識別するためのシンタックスレイヤVOP
layer headerを導入する表記方法であ
る。本実施例においては、そのどちらにも適用可能であ
る。本実施例では、後者の場合を例にとり説明するが前
者の場合でも同様である。
【0173】ビットストリームのシンタクスはISO−
IEC/JTC1/SC29/WG11 N1172の
文書に記載のシンタクスをもとに同様の表記で示す。な
お、以下に、各シンタックスについて説明するが、本発
明に係る部分のみ説明し、その他は説明を省略する。
【0174】図24は、session layerの
シンタクスを示している。
【0175】session layerはMPEG2
などのsequence layerに相当する。nu
mber_of_scalable_layersは、
スケーラブルレイヤの数である。また、このnumbe
r_of_scalable_layersのそれぞれ
のスケーラブルレイヤに、scalable_mod
e,scalable_layer_dependen
cy,more_than_one_VOP,sess
ion_width,session_heightが
定義される。
【0176】scalable_modeは、スケーラ
ビリティの種類をあらわすフラグである。’01’の場
合、空間スケーラビリティを、また’11’の場合、テ
ンポラルスケーラビリティであることを示す。
【0177】scalable_layer_depe
ndencyは、上位レイヤの符号化モードが下位レイ
ヤに依存するかどうかを示すフラグである。これが’
1’である場合、上位レイヤのモードは下位レイヤに依
存することになる。
【0178】session_width,sessi
on_heightは、そのsessionの大きさを
示すが、ここでは、各スケーラブルレイヤの画枠の大き
さを示す。
【0179】more_than_one_VOPは、
1ビットのフラグであり、そのsessionが1より
多いVOPから構成されているかどうかを示すフラグで
ある。これが’1’の場合、複数のVOPから構成され
る sessionである。また’0’である場合、こ
れまでのMPEGやH.263といった方式と同様にV
OPが1つ、すなわちフレーム単位の符号化となる。
【0180】次に、VOP layerのシンタクスを
図25に示す。VOP layerはMPEG2方式な
どのPicture layerに相当する。N117
2に記載のVOP layerのシンタクスに追加され
るシンタクスのみここで説明する。
【0181】VOP_scl_layer_IDは、ス
ケーラビリティのレイヤを示すフラグである。base
layerは’0’である。
【0182】次に、Macroblock layer
のシンタクスを図26に示す。図26は、scalab
le_layer_dependencyが’0’の場
合である。
【0183】CODは、そのマクロブロックにそれ以上
データが含まれているかどうかを示すフラグである。’
0’の場合それ以上のデータはそのマクロブロックには
存在しないことを示す(スキップマクロブロック)。
【0184】MCBPCは、macroblock_t
ype及びCBPCを示し、可変長のフラグである。下
位レイヤのmacroblock_type(N117
2に記載)を図27に、enhancementlay
erのmacroblock_typeを図28に示
す。図28中でcompatibleは、上位レイヤの
当該マクロブロックが空間予測(下位レイヤからの予
測)のみ行われるマクロブロックであり、このマクロブ
ロックは量子化スケールを有していない。また、com
patible+Qは、compatibleに対して
量子化スケールを有しているものである。
【0185】macroblock layerでは、
spatial_temporal_weight_c
ode_flagが ’1’の場合、すなわち、mac
roblock_typeが INTER(INTER
は量子化スケールなしのインター予測符号化マクロブロ
ック)、INTER+Q(量子化スケールありのインタ
ー予測符号化マクロブロック)、INTER4V(8x
8動き補償を行うマクロブロック)のいずれかの場合、
spatial_temporal_weight_c
odeが伝送される。これは1ビットのフラグであり、
上記 macroblock_typeの場合に予測が
テンポラル予測のみかまたは、空間予測との組合せであ
るかを示すフラグである。CBPCは色差信号の各ブロ
ックにデータが存在するかどうかを示すフラグである。
【0186】ここで、macroblock_type
に応じてenhancementlayerの予測モー
ドがどのように決定されるかを説明する。enhanc
ement_layerの予測には以下の3つのクラス
(spatial_temporal_weight_
class)が存在する。
【0187】 Class0: テンポラル予測(時間方向予測)のみ Class1: テンポラル予測及び空間予測の組み合
わせ Class2: 空間予測(下位レイヤからの予測)の
み macroblock_type がIntra(量子
化スケールなしのイントラ予測符号化マクロブロッ
ク)、Intra+Q(量子化スケールありのイントラ
予測符号化マクロブロック)の場合には、spatia
l_temporal_weight_classは
0、すなわち、class0,Compatible,
Compatible+Qの場合には、spatial
_temporal_weight_classは2、
すなわち、class2である。しかし、それ以外の場
合、すなわち、macroblock_typeがIn
ter,Inter+Q,Inter4Vの場合には、
macroblock_typeからだけではspat
ial_temporal_weight_class
は一意に決定されない。この場合、spatial_t
emporal_weight_code_flagが
1となり(図30)、macroblock_laye
rにおいてspatial_temporal_wei
ght_codeが伝送される。
【0188】伝送されるspatial_tempor
al_weight_codeとspatial_te
mporal_weight_classの関係は、図
29に示す通りである。scalable_layer
_dependencyが0の場合、上記のとおりマク
ロブロック単位で予測モードが決定される。
【0189】次にscalable_layer_de
pendencyが1の場合について説明する。この場
合、上位レイヤでmacroblock_typeの情
報は伝送されない。上位レイヤのmacroblock
_typeは下位レイヤのmacroblock_ty
pe などから決定される。上位レイヤの画枠が下位レ
イヤの2倍である場合について考える。下位レイヤの各
マクロブロックに対しては上位レイヤでは4つのマクロ
ブロックが対応する。
【0190】以下に上位レイヤの macrobloc
k_typeの決定方法を示す。
【0191】A.下位レイヤのCODが0である場合、
下位レイヤのマクロブロックはスキップマクロブロック
であり、下位レイヤの参照フレームから対応する位置の
データがコピーされる。この時、上位のマクロブロック
も同様にスキップマクロブロックとなり、上位レイヤの
参照フレームから対応する位置のデータがコピーされ
る。このとき、上位レイヤでの対応するマクロブロック
ではCODも含めて何も伝送しない。
【0192】B.下位レイヤのCODが1である場合、
下位レイヤのマクロブロックにはデータが存在すること
を示す。またCBPYは下位レイヤのマクロブロック中
の各輝度ブロックに対してデータが存在するかどうかを
示すフラグである。下位レイヤがINTRA又はINT
RA+Qの場合、上位レイヤはCompatible又
はcompatible+Qとなり、空間予測を行う
(この変形として上位レイヤも下位レイヤと同様にIN
TRA,INTRA+Qとする方法もある)。
【0193】C.下位レイヤが、INTER,INTE
R+Q,INTER4Vの場合、上位レイヤはテンポラ
ル予測又は空間予測マクロブロックとなる。下位レイヤ
のCBPは下位レイヤの各ブロックにデータが存在する
かどうかを示すフラグである。下位レイヤのブロックに
対しては上位レイヤのマクロブロック一つが対応する。
下位レイヤのブロックにデータが伝送されていないマク
ロブロックに対しては上位レイヤのマクロブロックはテ
ンポラル予測のみを行い、上位レイヤの参照フレームか
ら予測する。すなわち、macroblock_typ
eは下位レイヤと同様に、INTER,INTER+
Q,INTER4Vとなり、また、そのときspati
al_temporal_weight_classは
0となる。
【0194】D.下位レイヤが、INTER,INTE
R+Q,INTER4Vであり、下位レイヤのブロック
においてデータが伝送されているマクロブロックに対し
ては上位レイヤのマクロブロックは空間予測のみを行
い、下位レイヤからの予測のみを行う。この場合、IN
TER,INTER4VはCompatibleに、I
NTER+QはCompatible+Qとする(また
この変形として、上記マクロブロックの場合、空間予測
とテンポラル予測の混合にすることも可能である。この
場合、macroblock_typeは下位レイヤと
同様に、INTER,INTER+Q,INTER4V
であり、spatial_temporal_weig
ht_classは1となる。)。
【0195】以上、上位レイヤのマクロブロックタイプ
決定方法を示した。このように上位レイヤのマクロブロ
ックタイプは決定される。またこの時、上位レイヤでは
マクロブロックタイプは伝送されない。上位レイヤで伝
送されるフラグはCOD,CBPC,CBPC,DQU
ANT(前のマクロブロックの量子化スケールと現マク
ロブロックの量子化スケールの差分),MVD(動きベ
クトル:(予測値からの差分)),MVD2−4(IN
TRA4Vのマクロブロックの残りの動きベクトル(予
測値からの差分))となる。
【0196】各フラグが伝送されるかどうかは上位レイ
ヤのマクロブロックタイプに依存する。
【0197】以上、上位レイヤのモードが下位レイヤに
依存する場合について述べたが、これは本明細書中のい
ずれの実施例にも適用可能である。
【0198】4.VOP間の同期 ここでは、VOPごとに画像を符号化する方法におい
て、各VOPを同期させる方法について述べる。これに
より、ランダムアクセスなどを行った場合や、スケーラ
ビリティにおいても同期を保証することが可能となる。
この同期を取る方法は、スケーラブル符号化に限らず、
VOP単位で画像を符号化する符号化方式に適用可能で
あり、また、本明細書中のどの実施例と組み合わせるこ
とも可能である。
【0199】本実施例に適用可能な各VOP間の同期に
ついて以下に説明する。図31は、VOP layer
のヘッダ情報を示している。各VOPの表示のタイミン
グを示すフラグとして、VOP_temp_refがあ
る。これは、そのVOPが前回表示された時刻からの時
間を示すフラグである。これにより、各VOPではそれ
ぞれ順次デコード及び表示を繰り返していくことによ
り、表示タイミングを知ることができるが、これだけで
はVOP間で同期をとることができない。
【0200】まず、フレームレートが固定である場合を
考える。図32に示されるように、4つのVOPから構
成されるsessionを考える。図32(A)から明
らかなように、最初の2フレーム(t1,t2)におい
てVOP4のみが表示され、3フレーム目(t3)にお
いてVOP1,VOP3及びVOP4が表示される。ま
た、説明を簡単にするために、各VOPはPピクチャ又
はIピクチャのみであるとする。
【0201】図32に示されるように表示されるために
は、表示のタイミングで必要なVOPの画像がすべて復
号されている必要がある。したがって、表示時刻が等し
いVOP(固定フレームレートでない場合は、表示時間
が近いVOP)をまとめて伝送する必要がある。例え
ば、図32の場合、時刻t1及びt2のビットストリー
ムはVOP4のデータのみであり、時刻t3のビットス
トリームはVOP1,VOP3及びVOP4のデータで
ある。この場合、ビットストリームは図32(B)のよ
うに伝送される。ある時刻において、VOP_IDの小
さいVOPから順次伝送することにしておけば、各VO
Pのデータの時刻を確定できる。例えば、時刻t2から
時刻t3のデータに移ることはVOPのIDが4から1
になることで確定できる。
【0202】ここで、固定フレームレートの場合の各V
OPのビットストリームの伝送順序を決定して各VOP
のビットストリームを伝送する方法を、図33に示され
るフローチャートを用いて説明する。なお、これは、図
3に示される多重化部において決定され、順次各VOP
のビットストリームが伝送される。
【0203】ステップS1において、VOP_IDを初
期化して、ステップS2に進む。ステップS2におい
て、ある時刻において、まず最初のVOPが伝送される
タイミングでどうかチェックされる。もし、伝送される
タイミングであるならば、ステップS3に進み、そのV
OPのビットストリーム(フレーム)及びそのフレーム
の表示のタイミングを示すフラグ、VOP_temp_
ref及びVOP_IDを伝送し、ステップS4に進
む。一方、もし、伝送されるタイミングでないならば、
ステップS4に進む。ステップS4において、チェック
されていないVOPがあるかどうかチェックする。つま
り、次にチェックするVOPがあるかどうかをチェック
する。もし、チェックされていないVOPがあるなら
ば、ステップS5に進み、次のVOPをチェックするた
めに、VOP_IDをインクリメント若しくは、次のV
OPのVOP_IDに変えて、ステップS2に戻り、次
のVOPのビットストリーム(フレーム)を伝送するか
どうかチェックする。また、もし、その時刻におけるV
OPがすべてチェックされているならば、ステップS6
に進む。ステップS6において、シーケンスの終わりか
どうかがチェックされ、もし、シーケンスの途中である
ならば、ステップS7に進む。ステップS7において、
次に時刻の各VOPのビットストリーム(フレーム)の
伝送タイミングのチェックを行うために、VOP_ID
が0に設定され、ステップS2に戻り、次の時刻におけ
る各VOPのビットストリーム(フレーム)の伝送タイ
ミングのチェックが繰り返し行われる。一方、ステップ
S6において、シーケンスの終わりであるならば、各V
OPの伝送を終了する。
【0204】このような伝送順序で伝送された各VOP
のビットストリームが逆多重化部39に供給され流。逆
多重化部39は、後段の各VOP復号部にビットストリ
ームを供給する。
【0205】固定フレームレートの場合は、上記の方法
で各VOP間の同期を取ることが可能である。次にフレ
ームレートが可変である場合について説明する。可変フ
レームレートの場合、表示時刻が近いVOPのデータを
まとめて伝送する必要がある。さらに、各VOPの先頭
のフレームの表示のタイミングを伝送する必要がある。
各VOPについて一番最初に表示するフレームの時刻を
確定できれば、それ以後は、既に表示されたフレームの
時刻からの遅れ分を示すフラグ(VOP_temp_r
ef)を伝送すれば、各VOPにおける表示時刻を順次
確定できる。また、各VOPの先頭のフレームを場合に
は、VOP_temp_refの他に、後述するref
_VOP_idを伝送する。
【0206】異なるフレームレートの2つのVOPを図
34に示されるように表示する場合を考える。図34の
(A)の時刻の目盛りは時間の最小単位であるとする。
図34に示される表示例の場合、まずVOP2が表示さ
れる。この時、VOP2の最初の表示フレームであるた
め、図34の(B)に示されるように、VOP_tem
p_refは、0となる。また、このVOP2の表示以
前に表示された他のVOP(この場合、VOP1)がな
いため、ref_VOP_id は、2となる。次に、
時間3だけ遅れたタイミングでVOP2の2フレーム目
のフレームが表示される。VOP_temp_ref
は、3となる。以降、VOP2のVOP_temp_r
efは、図34の(B)に示されるように、0、3、2
・・・となる。
【0207】一方、VOP1は、VOP2の2フレーム
目より時間1だけ遅れて表示される。この場合、VOP
1の最初のフレームは、別のVOP(この場合、VOP
2)の既に表示されたフレーム(この場合、2フレーム
目)の表示時刻からの時間を記録すればよい。また、こ
の時、VOP1のVOP_temp_ref の参照先
となるVOPのIDを示すフラグref_VOP_id
を伝送する。つまり、VOP1の先頭のフレームを伝
送する場合、VOP_temp_refは1となり、r
ef_VOP_idは2となる。つまり、上述したよう
に、ref_VOP_idは、表示順で最初のフレーム
のみ伝送するものとする。そして、VOP1において最
初に表示されるフレームは、ref_VOP_id が
示すVOP_IDのVOPのフレームの最後に表示した
時刻からの時間を記録することになる。図34の場合で
は、VOP1の最初のフレームでref_VOP_id
は2となり、VOP_temp_refは1、2、4・
・・となる。この場合のシンタクスを図35に示す。
【0208】また、この場合のビットストリームの伝送
順は図34の(C)のようになる。VOP1の先頭のデ
ータはVOP2の2フレーム目の後でなければならな
い。以後、表示時刻が近いものが連続するような順番で
各VOPのデータが多重化される。
【0209】ここで、可変フレームレートの場合の各V
OPのビットストリームの伝送順序を決定して各VOP
のビットストリームを伝送する方法を、図36に示され
るフローチャートを用いて説明する。なお、これは、図
3に示される多重化部において決定され、順次各VOP
のビットストリームが伝送される。
【0210】ステップS11において、VOP_IDを
初期化して、ステップS12に進む。ステップS12に
おいて、ある時刻において、まず最初のVOPが伝送さ
れるタイミングでどうかチェックされる。もし、伝送さ
れるタイミングであるならば、ステップS13に進み、
そのVOPのビットストリーム(フレーム)を伝送する
とともに、ref_VOP_id(各VOPの先頭フレ
ームのみ)、VOP_temp_ref 及びVOP_
IDをフラグとして伝送し、ステップS14に進む。一
方、もし、伝送されるタイミングでないならば、ステッ
プS14に進む。ステップS14において、チェックさ
れていないVOPがあるかどうかチェックする。つま
り、次にチェックするVOPがあるかどうかをチェック
する。もし、チェックされていないVOPがあるなら
ば、ステップS15に進み、次のVOPをチェックする
ために、VOP_IDをインクリメント若しくは、次の
VOPのVOP_IDに変えて、ステップS12に戻
り、次のVOPのビットストリーム(フレーム)を伝送
するかどうかチェックする。また、もし、その時刻にお
けるVOPがすべてチェックされているならば、ステッ
プS16に進む。ステップS16において、シーケンス
の終わりかどうかがチェックされ、もし、シーケンスの
途中であるならば、ステップS17に進む。ステップS
17において、次に時刻の各VOPのビットストリーム
(フレーム)の伝送タイミングのチェックを行うため
に、VOP_IDが0に設定され、ステップS12に戻
り、次の時刻における各VOPのビットストリーム(フ
レーム)の伝送タイミングのチェックが繰り返し行われ
る。一方、ステップS16において、シーケンスの終わ
りであるならば、各VOPの伝送を終了する。
【0211】このような伝送順序で伝送された各VOP
のビットストリーム及び各フラグ(ref_VOP_i
d、VOP_temp_ref)が、図35の(B)に
示される逆多重化部39に供給されて、逆多重化部39
は、このフラグによって後段の各VOP復号部にビット
ストリームを供給する。
【0212】次にBピクチャが存在する場合について説
明する。この場合、表示順とビットストリームの順番が
異なる。簡単のため、固定フレームレートの場合につい
て考える。図37の(A)に示されるように、2つのV
OPから構成されるsession を考える。時刻t
4において、各VOPにおいて、それぞれB3及びb0
が表示される。ここで、B及びbはBピクチャ、IはI
ピクチャ、PはPピクチャを示している。
【0213】VOP1及びVOP2の表示順及びそれに
対するビットストリームの順番は、図37の(B)の通
りである。
【0214】次に、VOP1及びVOP2のビットスト
リームを多重化して伝送する方法について説明する。V
OP1のB3及びVOP2の最初に表示するフレームb
0は同時に表示されるため、表示時刻には両方の画像の
復号が終了していなければならない。したがって、B3
及びb0を連続して伝送することになる。したがって、
図37の(C)のように、P5及びi3を連続してま
た、B4及びb1を連続して伝送することになる。多重
化されたビットストリームを図37の(D)に示す。
【0215】すなわち、上記の通り、あるVOPにおい
て最初に表示するフレームを基準としてそのビットスト
リームが隣接するように、VOP間のビットストリーム
の位置関係を決定し、多重化すればよい。
【0216】次に、図37においてフレームレートが可
変である場合を考える。これは、前記の通り、ref_
VOP_idを導入することにより実現できる。この場
合、各VOPにおいて最初に表示するフレームの表示時
刻を確定することにより実現できる。
【0217】例えば、図37において、b0がB3より
時間2だけ遅れて表示されるものとする。この場合、b
0においてref_VOP_id =1が伝送され、そ
の際のVOP_temp_refは2となる。以後、同
様に、前に表示したフレームの表示時刻からの時間がV
OP_temp_refに記録される。
【0218】以上、VOP間の同期を取る方法を示した
が、この場合のVOP layerのシンタクスは、上
述したように図35に示されている。各VOPで表示順
が一番最初のフレームのみref_VOP_idがVO
P_temp_refの前に伝送される。
【0219】上記は主に2つのVOPからsessio
n が構成される場合について述べたが、これは任意の
数のVOPをもつsessionに適用可能である。
【0220】5.VOPの消去 あるVOPがsession の途中で消滅する場合を
考える。可変フレームレートの場合、あるVOPが途中
でなくなる場合、そのVOPの最後のフレームを消す時
刻を明確にする必要がある。これを可能にするために、
VOPを消す時刻を示した消去フレームをそのVOPの
最後に伝送する。この消去フレームのシンタクス(ただ
し、フラグのみのシンタックス)を図38に示す。消去
フレームは消去フレームであることを示すフラグVOP
_end及びそのVOP_temp_refが伝送され
る。この場合、そのVOP最後のフレームは表示した
後、消去フレームに示される VOP_temp_re
fだけ表示した後、表示が以後とりやめられる。
【0221】
【発明の効果】本発明によれば、画像をVOPごとに画
像信号とキー信号に分けてそれぞれ符号化する符号化方
法及び装置において、効率のよいキー信号の符号化を実
現し、また、スケーラビリティを実現することが可能と
なる。
【0222】また、本発明によれば、上位レイヤの符号
化モードを制限することにより、効率のよいスケーラブ
ル符号化を実現できる。
【0223】さらに、VOPごとに画像信号を符号化す
る方法及び装置において、表示時刻の近いデータを隣接
して伝送し、また各VOPで最初に表示するフレームに
おいては他のVOPで最後に表示されたフレームの表示
時刻をもとに表示時刻(VOP_temp_ref)を
計算し、その参照するVOPのidを示すフラグref
_idを伝送する。これにより、フレームレートが異な
る場合や、Bピクチャが存在する場合においてもVOP
間の同期をとることが可能となる。
【0224】さらに、VOPごとに画像信号を符号化し
て伝送する方法及び装置において、あるVOPが途中で
消滅する場合、消滅したことを示すフラグと最後のフレ
ームの表示時間を伝送する。これにより、任意のVOP
を所定の時間で消去し、以後表示を取りやめることが可
能となる。
【0225】さらに、本発明の実施例は、ブロック図を
用いてハードウェアをして実現しているが、本発明はこ
れに限らず、CPUやメモリなどを用いてソフトウェア
で実現することも可能である。したがって、本発明の画
像符号化及び/又は画像復号アルゴリズムは、コンピュ
ータプログラム、つまり、画像符号化プログラム及び/
又は画像復号プログラムとして実現されてもよい。この
場合、コンピュータプログラムは、半導体メモリやディ
スク等の記録媒体に記録されて使用される。また、その
場合、さらに、画像符号化プログラム及び/又は画像復
号プログラムはネットワークを介して端末等に供給され
てもよい。なお、本発明の主旨を逸脱しない範囲におい
て、さまざまな変形や応用例が考えうる。
【図面の簡単な説明】
【図1】本発明に関係する複数の画像を符号化して多重
化する方法を説明するための図である。
【図2】本発明に関係する符号化されたビットストリー
ムを復号して合成画像を得る方法を説明するための図で
ある。
【図3】本発明における符号化装置の構成を示すブロッ
ク図である。
【図4】本発明における復号装置の構成を示すブロック
図である。
【図5】本発明の各VOP符号化部及びVOP復号部の
構成例を示すブロック図である。
【図6】本発明の各VOP符号化部及びVOP復号部の
構成例を示すブロック図である。
【図7】本発明のスケーラブル符号化におけるVOP符
号化部の構成例を示すブロック図である。
【図8】本発明のスケーラブル符号化におけるVOP復
号部の構成例を示すブロック図である。
【図9】本発明におけるキー信号のスケーラブル符号化
装置の構成例を示すブロック図である。
【図10】本発明におけるキー信号のスケーラブル復号
装置の構成例を示すブロック図である。
【図11】本発明の第1の実施例におけるキー信号のス
ケーラブル符号化装置の構成例を示すブロック図であ
る。
【図12】本発明の第1の実施例におけるキー信号のス
ケーラブル復号装置の構成例を示すブロック図である。
【図13】本発明の第2の実施例におけるキー信号のス
ケーラブル符号化装置の構成例を示すブロック図であ
る。
【図14】本発明の第2の実施例におけるキー信号のス
ケーラブル復号装置の構成例を示すブロック図である。
【図15】本発明の第3の実施例におけるキー信号のス
ケーラブル符号化装置の構成例を示すブロック図であ
る。
【図16】本発明の第3の実施例におけるキー信号のス
ケーラブル復号装置の構成例を示すブロック図である。
【図17】本発明の第4の実施例におけるキー信号のス
ケーラブル符号化装置の構成例を示すブロック図であ
る。
【図18】本発明の第4の実施例におけるキー信号のス
ケーラブル復号装置の構成例を示すブロック図である。
【図19】本発明の第5の実施例におけるキー信号のス
ケーラブル符号化装置の構成例を示すブロック図であ
る。
【図20】本発明の第5の実施例におけるキー信号のス
ケーラブル復号装置の構成例を示すブロック図である。
【図21】本発明の第6の実施例におけるキー信号のス
ケーラブル符号化装置の構成例を示すブロック図であ
る。
【図22】本発明の第6の実施例におけるキー信号のス
ケーラブル復号装置の構成例を示すブロック図である。
【図23】Quad Tree符号化におけるのQua
d Tree構造を示す図である。
【図24】本発明におけるSession layer
のシンタックスを示す図である。
【図25】本発明におけるVOP layerのシンタ
ックスを示す図である。
【図26】本発明におけるMacroblock la
yerのシンタックスを示す図である。
【図27】本発明におけるEnhancement l
ayerのシンタックスを示す図である。
【図28】本発明におけるmacroblock ty
peのシンタックスを示す図である。
【図29】本発明におけるSpatial_tempo
ral_weight_codeとspatial_t
emporal_weight_classとの関係を
示す図である。
【図30】本発明におけるmacroblock_ty
peとenhancement_layerの予測モー
ドとの関係を示す図である。
【図31】本発明におけるVOP layerのシンタ
ックスのヘッダ情報を示す図である。
【図32】本発明における固定フレームレートの4つの
VOPのビットストリームを伝送する方法を説明するた
めの図である。
【図33】本発明における固定フレームレートの複数の
VOPのビットストリームの伝送順序の決定及び各ビッ
トストリームの伝送に係るフローチャートである。
【図34】本発明における可変フレームレートの異なる
2つのVOPのビットストリームを伝送する方法を説明
するための図である。
【図35】本発明における可変フレームレートのVop
layerのシンタックスを示す図である。
【図36】本発明における可変フレームレートの複数の
VOPのビットストリームの伝送順序の決定及び各ビッ
トストリームの伝送に係るフローチャートである。
【図37】本発明におけるBピクチャを含む各VOPの
ビットストリームを伝送するための方法を説明するため
の図である。
【図38】本発明における消去フレームのVop la
yerのシンタックスを示す図である。
【図39】MPEG方式のメインプロファイル・メイン
レベルのエンコーダの構成例を示すブロック図である。
【図40】MPEG方式のメインプロファイル・メイン
レベルのデコーダの構成例を示すブロック図である。
【図41】空間スケーラビリティのエンコーダの構成例
を示すブロック図である。
【図42】空間スケーラビリティのデコーダの構成を示
すブロック図である。
【図43】合成画像及びその合成画像を符号化する方法
を説明するための図である。
【符号の説明】
61 画像信号スケーラブル符号化部、62 キー信号
スケーラブル符号化部、63 多重化部、64 送信バ
ッファ、65 逆多重化部、66 画像信号スケーラブ
ル復号部、67 キー信号スケーラブル復号部、70
キー信号符号化部70、71 遅延部、72 演算器、
73 キー差分信号符号化部、74 キー信号拡大部、
75 キー信号復号部、76キー差分信号復号部、77
演算部
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.6 識別記号 庁内整理番号 FI 技術表示箇所 H04N 7/32 H04N 7/137 Z

Claims (67)

    【特許請求の範囲】
  1. 【請求項1】 分離された第1の画像信号及び第2の画
    像信号と上記第1の画像信号と第2の画像信号を合成す
    るためのキー信号を符号化する画像信号の符号化方法に
    おいて、 上記第1の画像信号及び第2の画像信号をスケーラブル
    符号化する画像信号スケーラブル符号化ステップと、 上記キー信号を画像信号に用いたスケーラブル符号化方
    法と同様の方法でスケーラブル符号化するキー信号スケ
    ーラブル符号化ステップとを有することを特徴とする画
    像信号の符号化方法。
  2. 【請求項2】 上記第1の画像信号は背景画像からな
    り、上記第2の画像信号は前景画像からなり、 上記スケーラブル符号化ステップは、上記第1の画像信
    号をスケーラブル符号化する第1の画像信号スケーラブ
    ル符号化ステップと、上記第2の画像信号をスケーラブ
    ル符号化する第2の画像信号スケーラブル符号化ステッ
    プとを有し、 上記キー信号スケーラブル符号化ステップは、上記第2
    の画像信号に用いたスケーラブル符号化方法と同様の方
    法でキー信号をスケーラブル符号化することを特徴とす
    る請求項1記載の画像信号の符号化方法。
  3. 【請求項3】 上記キー信号スケーラブル符号化ステッ
    プは、上位レイヤキー信号と下位レイヤキー信号を受信
    するステップと、上記下位レイヤキー信号を符号化して
    符号化された下位レイヤキー信号を生成するステップ
    と、上記符号化された下位レイヤキー信号を局所復号し
    て局所復号下位レイヤキー信号を生成するステップと、
    上記局所復号下位レイヤキー信号を用いて、上位レイヤ
    キー信号のための第1の予測キー信号を生成するステッ
    プと、上記上位レイヤキー信号と上記第1の予測キー信
    号との差分を演算し、キー差分信号を生成するキー差分
    信号生成ステップと、上記キー差分信号を符号化して符
    号化されたキー差分信号を生成する符号化キー差分信号
    生成ステップとを有することを特徴とする請求項2記載
    の画像信号の符号化方法。
  4. 【請求項4】 上記第1の画像信号スケーラブル符号化
    ステップ、上記第2の画像信号スケーラブル符号化ステ
    ップ及び上記キー信号スケーラブル符号化ステップは、
    それぞれ空間スケーラビリティ符号化を実行することを
    特徴とする請求項2記載の画像信号の符号化方法。
  5. 【請求項5】 上記第1の画像信号スケーラブル符号化
    ステップ、上記第2の画像信号スケーラブル符号化ステ
    ップ及び上記キー信号スケーラブル符号化ステップは、
    それぞれテンポラリルスケーラビリティ符号化を実行す
    ることを特徴とする請求項2記載の画像信号の符号化方
    法。
  6. 【請求項6】 上記第1の画像信号スケーラブル符号化
    ステップ、上記第2の画像信号スケーラブル符号化ステ
    ップ及び上記キー信号スケーラブル符号化ステップは、
    それぞれSNRスケーラビリティ符号化を実行すること
    を特徴とする請求項2記載の画像信号の符号化方法。
  7. 【請求項7】 下位レイヤキー信号は、画枠の小さな画
    像に対するキー信号であり、上位レイヤキー信号は、画
    枠の大きな画像に対する信号であり、 上記第1の予測キー信号生成ステップは、上記第1の予
    測キー信号をアップサンプルし、上位レイヤの画枠と等
    しい大きさの拡大された第1の予測キー信号を生成する
    ステップを有し、 上記キー差分信号生成ステップは、上記上位レイヤキー
    信号と上記拡大された第1の予測キー信号との差分を演
    算することを特徴とする請求項3記載の画像信号の符号
    化方法。
  8. 【請求項8】 上記符号化されたキー差分信号を局所復
    号して局所復号キー差分信号を生成するステップと、 上記局所復号キー差分信号から第2の予測キー信号を生
    成するステップと、 上記第1の予測キー信号と上記第2の予測キー信号から
    予測参照キー信号を生成するステップとを有し、 上記キー差分信号生成ステップは、上記上位レイヤキー
    信号と上記予測参照キー信号との差分を演算することを
    特徴とする請求項3記載の画像信号の符号化方法。
  9. 【請求項9】 上記画像信号スケーラブル符号化ステッ
    プは、動きベクトルを検出するステップと、上記動きベ
    クトルを用いて、上記第1及び第2の画像信号に対して
    動き補償予測符号化を実行するステップとを有し、 上記キー信号スケーラブル符号化ステップは、上記動き
    ベクトルを用いて上記上位レイヤキー信号及び上記下位
    レイヤキー信号に対して動き補償予測符号化を実行する
    ステップを有することを特徴とする請求項1記載の画像
    信号の符号化方法。
  10. 【請求項10】 上記キー信号スケーラブル符号化ステ
    ップは、上記上位レイヤキー信号及び上記下位レイヤキ
    ー信号をDPCMによって符号化することを特徴とする請求
    項1記載の画像信号の符号化方法。
  11. 【請求項11】 上位レイヤ画像信号及び下位レイヤ画
    像信号からなる画像信号を符号化する画像信号の符号化
    方法において、 予測方法を用いて下位レイヤ画像信号を符号化して、符
    号化された下位レイヤ画像信号を生成する下位レイヤ画
    像信号生成ステップと、 上位レイヤ画像信号を符号化して、符号化された上位レ
    イヤ画像信号を生成する上位レイヤ画像信号生成ステッ
    プとを有し、 上記上位レイヤ画像信号生成ステップは、上記上位レイ
    ヤ画像信号に対応する下位レイヤ画像信号を符号化する
    際に用いた予測方法とその予測方法で発生されたデータ
    から予測画像信号を生成し、上記上位レイヤ画像信号と
    予測画像信号の差分を演算し、差分画像信号を生成する
    ステップと、上記差分画像信号を符号化して、符号化さ
    れた差分画像信号を生成するステップとを有することを
    特徴とする画像信号の符号化方法。
  12. 【請求項12】 上位レイヤ画像信号及び下位レイヤ画
    像信号からなる画像信号を符号化する画像信号の符号化
    方法において、 下位レイヤ画像信号を符号化して、符号化された下位レ
    イヤ画像信号を生成するステップと、 上記下位レイヤ画像信号を符号化した際に、符号化され
    た下位レイヤ画像信号が発生しない下位レイヤ画像信号
    の部分に対応する上位レイヤ画像信号の部分以外の上位
    レイヤ画像信号を符号化して、符号化された上位レイヤ
    画像信号を生成するステップとを有することを特徴とす
    る画像信号の符号化方法。
  13. 【請求項13】 上位レイヤ画像信号及び下位レイヤ画
    像信号からなる画像信号を符号化する画像信号の符号化
    方法において、 予測符号化方法を用いて下位レイヤ画像信号を符号化し
    て、符号化された下位レイヤ画像信号及び符号化モード
    を生成するステップと、 上位レイヤ画像信号を符号化して、符号化された上位レ
    イヤ画像信号を生成するステップとを有し、 上記上位レイヤ画像信号生成ステップは、上記下位レイ
    ヤの符号化モードを用いて上記上位レイヤ画像信号を符
    号化することを特徴とする画像信号の符号化方法。
  14. 【請求項14】 上位レイヤ画像信号及び下位レイヤ画
    像信号からなる画像信号を符号化して伝送する画像信号
    の伝送方法において、 下位レイヤ画像信号を量子化して、符号化された下位レ
    イヤ画像信号及び量子化スケールを発生するステップ
    と、 上位レイヤ画像信号を量子化して、符号化された上位レ
    イヤ画像信号及び量子化スケールを発生するステップ
    と、 上記符号化された下位レイヤ画像信号及び上位レイヤ画
    像信号を伝送する伝送ステップを有し、 上記伝送ステップは、下位レイヤの量子化スケールを伝
    送しない場合、上位レイヤの量子化スケールを伝送せ
    ず、また、下位レイヤの量子化スケールを伝送する場
    合、上位レイヤの量子化スケールを伝送することを特徴
    とする画像信号の伝送方法。
  15. 【請求項15】 分離された複数の画像信号をそれぞれ
    符号化して、符号化された複数の画像信号を多重化して
    1つのビットストリームとして伝送する画像信号の伝送
    方法において、 上記複数の画像信号をそれぞれ符号化して、符号化され
    た複数の画像信号を生成するステップと、 上記符号化された複数の画像信号を多重化して、上記1
    つのビットストリームを生成する多重化ステップと上記
    1つのビットストリームを伝送するステップからなり、 上記多重化ステップは、上記複数の画像で各画像の表示
    順で最初のフレームのビットストリームが隣接又は近傍
    となるように多重化することを特徴とする画像信号の伝
    送方法。
  16. 【請求項16】 分離された複数の画像信号をそれぞれ
    符号化して、符号化された複数の画像信号を多重化して
    1つのビットストリームとして伝送する画像信号の伝送
    方法において、 上記複数の画像信号をそれぞれ符号化して、符号化され
    た複数の画像信号を生成するステップと、 上記符号化された複数の画像信号を多重化して、上記1
    つのビットストリームを生成する多重化ステップと、 上記1つのビットストリームを伝送するステップからな
    り、 上記多重化ステップでは、上記符号化された複数の画像
    信号と、上記複数の画像で各画像の表示順で最初のフレ
    ームのビットストリームにおいて、そのフレームを表示
    する以前に表示される別の画像を参照し、その参照され
    た画像の表示時刻からの遅延時間を示すフラグと、その
    参照された画像を示すフラグを多重化することを特徴と
    する画像信号の伝送方法。
  17. 【請求項17】 分離された複数の画像信号をそれぞれ
    符号化して、符号化された複数の画像信号を多重化して
    1つのビットストリームとして伝送する画像信号の伝送
    方法において、 上記複数の画像信号をそれぞれ符号化して、符号化され
    た複数の画像信号を生成するステップと、 上記符号化された複数の画像信号を多重化して、上記1
    つのビットストリームを生成する多重化ステップと、 上記1つのビットストリームを伝送するステップからな
    り、 上記多重化ステップは、所定の画像を以後表示されない
    ようにするために、最後に表示するフレームであること
    を示すフラグと最後に表示されたフレームの表示時間を
    示すフラグを多重化することを特徴とする画像信号の伝
    送方法。
  18. 【請求項18】 分離された第1の画像信号及び第2の
    画像信号と上記第1の画像信号と第2の画像信号を合成
    するためのキー信号を符号化することによって得られた
    信号からなる画像信号の復号方法において、 符号化された第1の画像信号及び第2の画像信号をスケ
    ーラブル復号して、復号された第1及び第2の画像信号
    を生成する画像信号スケーラブル復号ステップと、 符号化されたキー信号を画像信号に用いたスケーラブル
    復号方法と同様の方法でスケーラブル復号して、復号さ
    れたキー信号を生成するキー信号スケーラブル復号ステ
    ップとを有することを特徴とする画像信号の復号方法。
  19. 【請求項19】 上記第1の画像信号は背景画像からな
    り、上記第2の画像信号は前景画像からなり、 上記画像信号スケーラブル復号ステップは、上記第1の
    画像信号をスケーラブル復号する第1の画像信号スケー
    ラブル復号ステップと、上記第2の画像信号をスケーラ
    ブル復号する第2の画像信号スケーラブル復号ステップ
    とを有し、 上記キー信号スケーラブル復号ステップは、第2の画像
    信号に用いたスケーラブル復号方法と同様の方法でスケ
    ーラブル復号することを特徴とする請求項18記載の画
    像信号の復号方法。
  20. 【請求項20】 上記キー信号スケーラブル復号ステッ
    プは、符号化されたキー差分信号と下位レイヤキー信号
    を受信するステップと、 上記符号化された下位レイヤキー信号を復号して、復号
    された下位レイヤキー信号を生成するステップと、 上記符号化されたキー差分信号を復号して、復号された
    キー差分信号を生成するステップと、 上記復号された下位レイヤキー信号を用いて、上位レイ
    ヤキー信号のための第1の予測キー信号を生成するステ
    ップと、 上記復号されたキー差分信号と上記第1の予測キー信号
    とを加算し、復号された上位レイヤキー信号を生成する
    ステップとを有することを特徴とする請求項18記載の
    画像信号の復号方法。
  21. 【請求項21】 上記第1の画像信号スケーラブル復号
    ステップ、上記第2の画像信号スケーラブル復号ステッ
    プ及び上記キー信号スケーラブル復号ステップは、それ
    ぞれ空間スケーラビリティ復号を実行することを特徴と
    する請求項19記載の画像信号の復号方法。
  22. 【請求項22】 上記第1の画像信号スケーラブル復号
    ステップ、上記第2の画像信号スケーラブル復号ステッ
    プ及び上記キー信号スケーラブル復号ステップは、それ
    ぞれテンポラリルスケーラビリティ復号を実行すること
    を特徴とする請求項19記載の画像信号の復号方法。
  23. 【請求項23】 上記第1の画像信号スケーラブル復号
    ステップ、上記第2の画像信号スケーラブル復号ステッ
    プ及び上記キー信号スケーラブル復号ステップは、それ
    ぞれSNRスケーラビリティ復号を実行することを特徴
    とする請求項19記載の画像信号の復号方法。
  24. 【請求項24】 下位レイヤキー信号は画枠の小さな画
    像に対するキー信号であり、上位レイヤキー信号は画枠
    の大きな画像に対する信号であり、 上記第1の予測キー信号生成ステップは、上記第1の予
    測キー信号をアップサンプルし、上位レイヤの画枠と等
    しい大きさの拡大された第1の予測キー信号を生成する
    ステップを有し、 上記上位レイヤキー信号生成ステップは、上記上位レイ
    ヤキー信号と上記拡大された第1の予測キー信号との差
    分を演算することを特徴とする請求項20記載の画像信
    号の復号方法。
  25. 【請求項25】 上記符号化された信号は、動きベクト
    ルを含んでおり、 上記画像スケーラブル復号ステップは、上記動きベクト
    ルを用いて、上記第1及び第2の画像信号に対して動き
    補償予測復号を実行するステップからなり、 上記キー信号スケーラブル復号ステップは、上記動きベ
    クトルを用いて、上記上位レイヤキー信号及び上記下位
    レイヤキー信号に対して動き補償予測復号を実行するス
    テップを有することを特徴とする請求項18記載の画像
    信号の復号方法。
  26. 【請求項26】 上記キー信号スケーラブル復号ステッ
    プは、上記上位レイヤキー信号及び上記下位レイヤキー
    信号をDPCMを用いて復号することを特徴とする請求項1
    8記載の画像信号の復号方法。
  27. 【請求項27】 予測方法を用いて符号化された下位レ
    イヤ画像信号と、上位レイヤ画像信号に対応する下位レ
    イヤ画像信号を符号化する際に用いた予測方法とその予
    測方法で発生されたデータから予測画像信号を生成し、
    上記上位レイヤ画像信号と予測画像信号の差分を演算し
    た差分画像信号を符号化することにより符号化された上
    位レイヤ画像信号とからなる符号化された画像信号を復
    号する画像信号の復号方法において、 上記予測方法を用いて符号化された画像信号を復号し
    て、復号された下位レイヤ画像信号を生成するステップ
    と、 上記上位レイヤ画像信号に対応する下位レイヤ画像信号
    を符号化する際に用いた予測方法とその予測方法で発生
    されたデータから予測画像信号を生成するステップと、 上記符号化された差分画像信号を復号して、復号された
    差分画像信号を生成するステップと、 上記予測画像信号と上記復号された差分画像信号を加算
    して、上位レイヤ画像信号を生成するステップとを有す
    ることを特徴とする画像信号の復号方法。
  28. 【請求項28】 符号化された下位レイヤ画像信号と上
    記符号化された下位レイヤ画像信号が発生しない下位レ
    イヤ画像信号の部分に対応する上位レイヤ画像信号の部
    分以外の上位レイヤ画像信号を符号化することにより得
    られた符号化された上位レイヤ画像信号からなる符号化
    された画像信号を復号する画像信号の復号方法におい
    て、 上記符号化された下位レイヤ画像信号を復号して、復号
    された下位レイヤ画像信号を生成するステップと、 上記符号化された上位レイヤ画像信号を復号して、符号
    化された下位レイヤ画像信号が発生しない下位レイヤ画
    像信号の部分に対応する上位レイヤ画像信号の部分の上
    位レイヤ画像信号を生成するステップとを有することを
    特徴とする画像信号の復号方法。
  29. 【請求項29】 符号化された下位レイヤ画像信号と上
    記下位レイヤの符号化モードを用いて符号化された上位
    レイヤ画像信号からなる符号化された画像信号を復号す
    る画像信号の復号方法において、 上記符号化された下位レイヤ画像信号を復号して、復号
    された下位レイヤ画像信号を生成するステップと、 上記下位レイヤの符号化モードを用いて、符号化された
    上位レイヤ画像信号を復号して、復号された上位レイヤ
    画像信号を生成するステップとを有することを特徴とす
    る画像信号の復号方法。
  30. 【請求項30】 量子化された下位レイヤ画像信号と量
    子化された上位レイヤ画像信号からなり、下位レイヤの
    量子化スケールを含んでいない場合、上位レイヤの量子
    化スケールを含んでおらず、また、下位レイヤの量子化
    スケールを含んでいる場合、上位レイヤの量子化スケー
    ルを含んでいる符号化された画像信号を復号する画像信
    号の復号方法において、 符号化された下位レイヤ画像信号を逆量子化して、復元
    された下位レイヤ画像信号を発生するステップと、 符号化された上位レイヤ画像信号を逆量子化して、復元
    された上位レイヤ画像信号を発生するステップとを有す
    ることを特徴とする画像信号の復号方法。
  31. 【請求項31】 分離された複数の画像信号がそれぞれ
    符号化され、符号化された複数の画像信号を多重化して
    得られた1つのビットストリームを受信して、その符号
    化されたビットストリームを復号する画像信号の復号方
    法において、 上記符号化されたビットストリームから符号化された複
    数の画像信号を分離するステップと、 上記複数の画像信号をそれぞれ復号して、復号された複
    数の画像信号を生成するステップとを有することを特徴
    とする画像信号の復号方法。
  32. 【請求項32】 分離された複数の画像信号がそれぞれ
    符号化され、符号化された複数の画像信号と、上記複数
    の画像信号で各画像の表示順で最初のフレームのビット
    ストリームにおいて、そのフレームを表示する以前に表
    示される別の画像を参照し、その参照された画像の表示
    時刻からの遅延時間を示すフラグと、その参照された画
    像を示すフラグを多重化して得られた1つのビットスト
    リームを受信して、その符号化されたビットストリーム
    を復号する画像信号の復号方法において、 上記フラグを用いて、上記符号化されたビットストリー
    ムから符号化された複数の画像信号を分離するステップ
    と、 上記複数の画像信号をそれぞれ復号して、復号された複
    数の画像信号を生成するステップとを有することを特徴
    とする画像信号の復号方法。
  33. 【請求項33】 分離された複数の画像信号がそれぞれ
    符号化され、符号化された複数の画像信号と、所定の画
    像を以後表示されないようにするために、最後に表示す
    るフレームであることを示すフラグと最後に表示された
    フレームの表示時間を示すフラグを多重化して得られた
    1つのビットストリームを受信して、その符号化された
    ビットストリームを復号する画像信号の復号方法におい
    て、 上記フラグを用いて、上記符号化されたビットストリー
    ムから符号化された複数の画像信号を分離するステップ
    と、 上記複数の画像信号をそれぞれ復号して、復号された複
    数の画像信号を生成するステップとを有することを特徴
    とする画像信号の復号方法。
  34. 【請求項34】 分離された第1の画像信号、第2の画
    像信号と上記第1の画像信号と第2の画像信号を合成す
    るためのキー信号を符号化する画像信号の符号化装置に
    おいて、 上記第1の画像信号及び第2の画像信号をスケーラブル
    符号化する画像信号スケーラブル符号化手段と、 上記キー信号を画像信号に用いたスケーラブル符号化方
    法と同様の方法でスケーラブル符号化するキー信号スケ
    ーラブル符号化手段とを備えることを特徴とする画像信
    号の符号化装置。
  35. 【請求項35】 上記第1の画像信号は背景画像からな
    り、上記第2の画像信号は前景画像からなり、 上記画像信号スケーラブル符号化手段は、上記第1の画
    像信号をスケーラブル符号化する第1の画像信号スケー
    ラブル符号化手段と、上記第2の画像信号をスケーラブ
    ル符号化する第2の画像信号スケーラブル符号化手段か
    らなり、 上記キー信号スケーラブル符号化手段は、第2の画像信
    号に用いたスケーラブル符号化方法と同様の方法でスケ
    ーラブル符号化することを特徴とする請求項34記載の
    画像信号の符号化装置。
  36. 【請求項36】 上記キー信号スケーラブル符号化手段
    は、上位レイヤキー信号と下位レイヤキー信号を受信す
    る受信手段と、上記下位レイヤキー信号を符号化して符
    号化された下位レイヤキー信号を生成する手段と、上記
    符号化された下位レイヤキー信号を局所復号して局所復
    号下位レイヤキー信号を生成する手段と、上記局所復号
    下位レイヤキー信号を用いて、上位レイヤキー信号のた
    めの第1の予測キー信号を生成する第1の予測キー信号
    生成手段と、上記上位レイヤキー信号と上記第1の予測
    キー信号との差分を演算し、キー差分信号を生成する手
    段と、上記キー差分信号を符号化して符号化されたキー
    差分信号を生成する手段からなることを特徴とする請求
    項35記載の画像信号の符号化装置。
  37. 【請求項37】 上記第1の画像信号スケーラブル符号
    化手段、上記第2の画像信号スケーラブル符号化手段及
    び上記キー信号スケーラブル符号化手段は、それぞれ空
    間スケーラビリティ符号化を実行することを特徴とする
    請求項35記載の画像信号の符号化装置。
  38. 【請求項38】 上記第1の画像信号スケーラブル符号
    化手段、上記第2の画像信号スケーラブル符号化手段及
    び上記キー信号スケーラブル符号化手段は、それぞれテ
    ンポラリルスケーラビリティ符号化を実行することを特
    徴とする請求項35記載の画像信号の符号化装置。
  39. 【請求項39】 上記第1の画像信号スケーラブル符号
    化手段、上記第2の画像信号スケーラブル符号化手段及
    び上記キー信号スケーラブル符号化手段は、それぞれS
    NRスケーラビリティ符号化を実行することを特徴とす
    る請求項35記載の画像信号の符号化装置。
  40. 【請求項40】 下位レイヤキー信号は画枠の小さな画
    像に対するキー信号であり、上位レイヤキー信号は画枠
    の大きな画像に対する信号であり、 上記第1の予測キー信号生成手段は、上記第1の予測キ
    ー信号をアップサンプルし、上位レイヤの画枠と等しい
    大きさの拡大された第1の予測キー信号を生成する手段
    を有し、 上記キー差分信号生成手段は、上記上位レイヤキー信号
    と上記拡大された第1の予測キー信号との差分を演算す
    ることを特徴とする請求項36記載の画像信号の符号化
    装置。
  41. 【請求項41】 上記符号化されたキー差分信号を局所
    復号して局所復号キー差分信号を生成する手段と、 上記局所復号キー差分信号から第2の予測キー信号を生
    成する手段と、 上記第1の予測キー信号と上記第2の予測キー信号から
    予測参照キー信号を生成する手段とを有し、 上記キー差分信号生成手段は、上記上位レイヤキー信号
    と上記予測参照キー信号との差分を演算することを特徴
    とする請求項36記載の画像信号の符号化装置。
  42. 【請求項42】 上記画像スケーラブル符号化手段は、
    動きベクトルを検出する手段と、上記動きベクトルを用
    いて、上記第1及び第2の画像信号に対して動き補償予
    測符号化を実行する手段からなり、 上記キー信号スケーラブル符号手段は、上記動きベクト
    ルを用いて上記上位レイヤキー信号及び上記下位レイヤ
    キー信号に対して動き補償予測符号化を実行する手段を
    有することを特徴とする請求項35記載の画像信号の符
    号化装置。
  43. 【請求項43】 上記キー信号スケーラブル符号化手段
    は、上記上位レイヤキー信号及び上記下位レイヤキー信
    号をDPCMによって符号化することを特徴とする請求項3
    4記載の画像信号の符号化装置。
  44. 【請求項44】 上位レイヤ画像信号及び下位レイヤ画
    像信号からなる画像信号を符号化する画像信号の符号化
    装置において、 予測方法を用いて下位レイヤ画像信号を符号化して、符
    号化された下位レイヤ画像信号を生成する上位レイヤ画
    像信号生成手段と、 上位レイヤ画像信号を符号化して、符号化された上位レ
    イヤ画像信号を生成する上位レイヤ画像信号生成手段と
    からなり、 上記上位レイヤ画像信号生成手段は、 上記上位レイヤ画像信号に対応する下位レイヤ画像信号
    を符号化する際に用いた予測方法とその予測方法で発生
    されたデータから予測画像信号を生成し、上記上位レイ
    ヤ画像信号と予測画像信号の差分を演算し、差分画像信
    号を生成する手段と、 上記差分画像信号を符号化して、符号化された差分画像
    信号を生成する手段からなることを特徴とする画像信号
    の符号化装置。
  45. 【請求項45】 上位レイヤ画像信号及び下位レイヤ画
    像信号からなる画像信号を符号化する画像信号の符号化
    装置において、 下位レイヤ画像信号を符号化して、符号化された下位レ
    イヤ画像信号を生成する手段と、 上記下位レイヤ画像信号を符号化した際に、符号化され
    た下位レイヤ画像信号が発生しない下位レイヤ画像信号
    の部分に対応する上位レイヤ画像信号の部分以外の上位
    レイヤ画像信号を符号化して、符号化された上位レイヤ
    画像信号を生成する手段とからなることを特徴とする画
    像信号の符号化装置。
  46. 【請求項46】 上位レイヤ画像信号及び下位レイヤ画
    像信号からなる画像信号を符号化する画像信号の符号化
    装置において、 予測符号化方法を用いて下位レイヤ画像信号を符号化し
    て、符号化された下位レイヤ画像信号及び符号化モード
    を生成する手段と、 上位レイヤ画像信号を符号化して、符号化された上位レ
    イヤ画像信号を生成する手段とからなり、 上記上位レイヤ画像信号生成手段は、上記下位レイヤの
    符号化モードを用いて上記上位レイヤ画像信号を符号化
    することを特徴とする画像信号の符号化装置。
  47. 【請求項47】 上位レイヤ画像信号及び下位レイヤ画
    像信号からなる画像信号を符号化する画像信号の符号化
    装置において、 下位レイヤ画像信号を量子化して、符号化された下位レ
    イヤ画像信号及び量子化スケールを発生する手段と、 上位レイヤ画像信号を量子化して、符号化された上位レ
    イヤ画像信号及び量子化スケールを発生する手段と、 上記符号化された下位レイヤ画像信号及び上位レイヤ画
    像信号を伝送する伝送手段からなり、 上記伝送手段は、下位レイヤの量子化スケールを伝送し
    ない場合、上位レイヤの量子化スケールを伝送せず、ま
    た、下位レイヤの量子化スケールを伝送する場合、上位
    レイヤの量子化スケールを伝送することを特徴とする画
    像信号の符号化装置。
  48. 【請求項48】 分離された複数の画像信号をそれぞれ
    符号化して、符号化された複数の画像信号を多重化して
    1つのビットストリームとして伝送する画像信号の伝送
    装置において、 上記複数の画像信号をそれぞれ符号化して、符号化され
    た複数の画像信号を生成する手段と、 上記符号化された複数の画像信号を多重化して、上記1
    つのビットストリームを生成する多重化手段と、 上記1つのビットストリームを伝送する手段からなり、 上記多重化手段は、上記複数の画像で各画像の表示順で
    最初のフレームのビットストリームが隣接又は近傍とな
    るように多重化することを特徴とする画像信号の伝送装
    置。
  49. 【請求項49】 分離された複数の画像信号をそれぞれ
    符号化して、符号化された複数の画像信号を多重化して
    1つのビットストリームとして伝送する画像信号の伝送
    装置において、 上記複数の画像信号をそれぞれ符号化して、符号化され
    た複数の画像信号を生成する手段と、 上記符号化された複数の画像信号を多重化して、上記1
    つのビットストリームを生成する多重化手段と、 上記1つのビットストリームを伝送する手段からなり、 上記多重化手段は、上記符号化された複数の画像信号
    と、上記複数の画像で各画像の表示順で最初のフレーム
    のビットストリームにおいて、そのフレームを表示する
    以前に表示される別の画像を参照し、その参照された画
    像の表示時刻からの遅延時間を示すフラグと、その参照
    された画像を示すフラグを多重化することを特徴とする
    画像信号の伝送装置。
  50. 【請求項50】 分離された複数の画像信号をそれぞれ
    符号化して、符号化された複数の画像信号を多重化して
    1つのビットストリームとして伝送する画像信号の伝送
    装置において、 上記複数の画像信号をそれぞれ符号化して、符号化され
    た複数の画像信号を生成する手段と、 上記符号化された複数の画像信号を多重化して、上記1
    つのビットストリームを生成する多重化手段と、 上記1つのビットストリームを伝送する手段からなり、 上記多重化手段は、所定の画像を以後表示されないよう
    にするために、最後に表示するフレームであることを示
    すフラグと最後に表示されたフレームの表示時間を示す
    フラグを多重化することを特徴とする画像信号の伝送装
    置。
  51. 【請求項51】 分離された第1の画像信号、第2の画
    像信号と上記第1の画像信号と第2の画像信号を合成す
    るためのキー信号を符号化することによって得られた信
    号からなる符号化された信号を復号する画像信号の復号
    装置において、 符号化された第1の画像信号及び第2の画像信号をスケ
    ーラブル復号して、復号された第1及び第2の画像信号
    を生成する画像信号スケーラブル復号手段と、 符号化されたキー信号を画像信号に用いたスケーラブル
    復号方法と同様の方法でスケーラブル復号して、復号さ
    れたキー信号を生成するキー信号スケーラブル復号手段
    とを備えることを特徴とする画像信号の復号装置。
  52. 【請求項52】 上記第1の画像信号は背景画像からな
    り、上記第2の画像信号は前景画像からなり、 上記画像信号スケーラブル復号手段は、上記第1の画像
    信号をスケーラブル復号する第1の画像信号スケーラブ
    ル復手段と、上記第2の画像信号をスケーラブル復号す
    る第2の画像信号スケーラブル復号手段からなり、 上記キー信号スケーラブル復号手段は、第2の画像信号
    に用いたスケーラブル復号方法と同様の方法でスケーラ
    ブル復号することを特徴とする請求項51記載の画像信
    号の復号装置。
  53. 【請求項53】 上記キー信号スケーラブル符号化手段
    は、符号化されたキー差分信号と下位レイヤキー信号を
    受信する受信手段と、上記符号化された下位レイヤキー
    信号を復号して、復号された下位レイヤキー信号を生成
    する下位レイヤキー信号生成手段と、上記符号化された
    キー差分信号を復号して、復号されたキー差分信号を生
    成する手段と、上記復号された下位レイヤキー信号を用
    いて、上位レイヤキー信号のための第1の予測キー信号
    を生成する第1の予測キー信号生成手段と、上記復号さ
    れたキー差分信号と上記第1の予測キー信号とを加算
    し、復号された上位レイヤキー信号を生成する上位レイ
    ヤキー信号生成手段とを備えることを請求項52記載の
    画像信号の復号装置。
  54. 【請求項54】 上記第1の画像信号スケーラブル復号
    手段、上記第2の画像信号スケーラブル復号手段及び上
    記キー信号スケーラブル復号手段は、それぞれ空間スケ
    ーラビリティ復号を実行することを請求項52記載の画
    像信号の復号装置。
  55. 【請求項55】 上記第1の画像信号スケーラブル復号
    手段、上記第2の画像信号スケーラブル復号手段及び上
    記キー信号スケーラブル復号手段は、それぞれテンポラ
    リルスケーラビリティ符号化を実行することを請求項5
    2記載の画像信号の復号装置。
  56. 【請求項56】 上記第1の画像信号スケーラブル復号
    手段、上記第2の画像信号スケーラブル復号手段及び上
    記キー信号スケーラブル復号手段は、それぞれSNRス
    ケーラビリティ復号を実行することを請求項52記載の
    画像信号の復号装置。
  57. 【請求項57】 下位レイヤキー信号は画枠の小さな画
    像に対するキー信号であり、上位レイヤキー信号は画枠
    の大きな画像に対する信号であり、 上記第1の予測キー信号生成手段は、上記第1の予測キ
    ー信号をアップサンプルし、上位レイヤの画枠と等しい
    大きさの拡大された第1の予測キー信号を生成する手段
    を有し、 上記上位レイヤキー信号生成手段は、上記上位レイヤキ
    ー信号と上記拡大された第1の予測キー信号との差分を
    演算することを請求項53記載の画像信号の復号装置。
  58. 【請求項58】 上記符号化された信号は動きベクトル
    を含んでおり、 上記画像スケーラブル復号手段は、上記動きベクトルを
    用いて、上記第1及び第2の画像信号に対して動き補償
    予測復号を実行する手段からなり、 上記キー信号スケーラブル復号手段は、上記動きベクト
    ルを用いて、上記上位レイヤキー信号及び上記下位レイ
    ヤキー信号に対して動き補償予測復号を実行する手段を
    有することを請求項51記載の画像信号の復号装置。
  59. 【請求項59】 上記キー信号スケーラブル復号手段
    は、上記上位レイヤキー信号及び上記下位レイヤキー信
    号をDPCMを用いて復号することを請求項51記載の画像
    信号の復号装置。
  60. 【請求項60】 予測方法を用いて符号化された下位レ
    イヤ画像信号と、上位レイヤ画像信号に対応する下位レ
    イヤ画像信号を符号化する際に用いた予測方法とその予
    測方法で発生されたデータから予測画像信号を生成し、
    上記上位レイヤ画像信号と予測画像信号の差分を演算し
    た差分画像信号を符号化することにより符号化された上
    位レイヤ画像信号とからなる符号化された画像信号を復
    号する画像信号の復号装置において、 上記予測方法を用いて符号化された画像信号を復号し
    て、復号された下位レイヤ画像信号を生成する手段と、 上記上位レイヤ画像信号に対応する下位レイヤ画像信号
    を符号化する際に用いた予測方法とその予測方法で発生
    されたデータから予測画像信号を生成する手段と、 上記符号化された差分画像信号を復号して、復号された
    差分画像信号を生成する手段と、 上記予測画像信号と上記復号された差分画像信号を加算
    して、上位レイヤ画像信号を生成する手段とを有するこ
    とを特徴とする画像信号の復号装置。
  61. 【請求項61】 符号化された下位レイヤ画像信号と上
    記符号化された下位レイヤ画像信号が発生しない下位レ
    イヤ画像信号の部分に対応する上位レイヤ画像信号の部
    分以外の上位レイヤ画像信号を符号化することにより得
    られた符号化された上位レイヤ画像信号からなる符号化
    された画像信号を復号する画像信号の復号装置におい
    て、 上記符号化された下位レイヤ画像信号を復号して、復号
    された下位レイヤ画像信号を生成する手段と、 上記符号化された上位レイヤ画像信号を復号して、符号
    化された下位レイヤ画像信号が発生しない下位レイヤ画
    像信号の部分に対応する上位レイヤ画像信号の部分の上
    位レイヤ画像信号を生成する手段とを有することを特徴
    とする画像信号の復号装置。
  62. 【請求項62】 符号化された下位レイヤ画像信号と上
    記下位レイヤの符号化モードを用いて符号化された上位
    レイヤ画像信号からなる符号化された画像信号を復号す
    る画像信号の復号装置において、 上記符号化された下位レイヤ画像信号を復号して、復号
    された下位レイヤ画像信号を生成する手段と、 上記下位レイヤの符号化モードを用いて、符号化された
    上位レイヤ画像信号を復号して、復号された上位レイヤ
    画像信号を生成する手段とを有することを特徴とする画
    像信号の復号装置。
  63. 【請求項63】 量子化された下位レイヤ画像信号と量
    子化された上位レイヤ画像信号からなり、下位レイヤの
    量子化スケールを含んでいない場合、上位レイヤの量子
    化スケールを含んでおらず、また、下位レイヤの量子化
    スケールを含んでいる場合、上位レイヤの量子化スケー
    ルを含んでいる符号化された画像信号を復号する画像信
    号の復号装置において、 符号化された下位レイヤ画像信号を逆量子化して、復元
    された下位レイヤ画像信号を発生する手段と、 符号化された上位レイヤ画像信号を逆量子化して、復元
    された上位レイヤ画像信号を発生する手段とを有するこ
    とを特徴とする画像信号の復号装置。
  64. 【請求項64】 分離された複数の画像信号をそれぞれ
    符号化して、符号化された複数の画像信号を多重化して
    得られた1つのビットストリームを受信して、その符号
    化されたビットストリームを復号する画像信号の復号装
    置において、 上記符号化されたビットストリームから符号化された複
    数の画像信号を分離する手段と、 上記複数の画像信号をそれぞれ復号して、復号された複
    数の画像信号を生成する手段とを有することを特徴とす
    る画像信号の復号装置。
  65. 【請求項65】 分離された複数の画像信号をそれぞれ
    符号化して、符号化された複数の画像信号と、上記複数
    の画像で各画像の表示順で最初のフレームのビットスト
    リームにおいて、そのフレームを表示する以前に表示さ
    れる別の画像を参照し、その参照された画像の表示時刻
    からの遅延時間を示すフラグと、その参照された画像を
    示すフラグを多重化して得られた1つのビットストリー
    ムを受信して、その符号化されたビットストリームを復
    号する画像信号の復号装置において、 上記フラグを用いて、上記符号化されたビットストリー
    ムから符号化された複数の画像信号を分離する手段と、 上記複数の画像信号をそれぞれ復号して、復号された複
    数の画像信号を生成する手段とを有することを特徴とす
    る画像信号の復号装置。
  66. 【請求項66】 分離された複数の画像信号をそれぞれ
    符号化して、符号化された複数の画像信号と、所定の画
    像を以後表示されないようにするために、最後に表示す
    るフレームであることを示すフラグと最後に表示された
    フレームの表示時間を示すフラグを多重化して得られた
    1つのビットストリームを受信して、その符号化された
    ビットストリームを復号する画像信号の復号装置におい
    て、 上記フラグを用いて、上記符号化されたビットストリー
    ムから符号化された複数の画像信号を分離する手段と、 上記複数の画像信号をそれぞれ復号して、復号された複
    数の画像信号を生成する手段とを有することを特徴とす
    る画像信号の復号装置。
  67. 【請求項67】 分離された第1の画像信号及び第2の
    画像信号をスケーラブル符号化するとともに、上記第1
    の画像信号と第2の画像信号を合成するためのキー信号
    を画像信号に用いたスケーラブル符号化方法と同様の方
    法でスケーラブル符号化して得られた符号化した画像信
    号を記録してなることを特徴とする画像信号の記録媒
    体。
JP06707297A 1996-03-22 1997-03-19 画像信号の符号化方法及び復号方法、並びに、符号化装置及び復号装置 Expired - Fee Related JP3371191B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP06707297A JP3371191B2 (ja) 1996-03-22 1997-03-19 画像信号の符号化方法及び復号方法、並びに、符号化装置及び復号装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP6664096 1996-03-22
JP8-66640 1996-03-22
JP06707297A JP3371191B2 (ja) 1996-03-22 1997-03-19 画像信号の符号化方法及び復号方法、並びに、符号化装置及び復号装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2000183781A Division JP2001028757A (ja) 1996-03-22 2000-06-19 画像信号の符号化方法、伝送方法及び復号方法、符号化装置、伝送装置及び復号装置

Publications (2)

Publication Number Publication Date
JPH09322163A true JPH09322163A (ja) 1997-12-12
JP3371191B2 JP3371191B2 (ja) 2003-01-27

Family

ID=26407839

Family Applications (1)

Application Number Title Priority Date Filing Date
JP06707297A Expired - Fee Related JP3371191B2 (ja) 1996-03-22 1997-03-19 画像信号の符号化方法及び復号方法、並びに、符号化装置及び復号装置

Country Status (1)

Country Link
JP (1) JP3371191B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11261966A (ja) * 1998-03-12 1999-09-24 Toshiba Corp 映像符号化装置および映像符号化方法
GB2348560A (en) * 1998-12-11 2000-10-04 Hitachi Ltd Transmitting foreground object signals and background image signals separately
US7054494B2 (en) 1998-11-30 2006-05-30 Microsoft Corporation Coded block pattern decoding with spatial prediction
WO2008107943A1 (ja) * 2007-03-01 2008-09-12 Nippon Telegraph And Telephone Corporation スケーラブル符号化方法および装置、スケーラブル復号方法および装置、並びにそれらのプログラムおよび記録媒体
WO2010047099A1 (ja) * 2008-10-22 2010-04-29 日本電信電話株式会社 スケーラブル動画像符号化方法、スケーラブル動画像符号化装置、スケーラブル動画像符号化プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体
US8873630B2 (en) 2002-06-03 2014-10-28 Microsoft Corporation Spatiotemporal prediction for bidirectionally predictive (B) pictures and motion vector prediction for multi-picture reference motion compensation
US8917768B2 (en) 2003-07-18 2014-12-23 Microsoft Corporation Coding of motion vector information
US9077960B2 (en) 2005-08-12 2015-07-07 Microsoft Corporation Non-zero coefficient block pattern coding
US9088785B2 (en) 2001-12-17 2015-07-21 Microsoft Technology Licensing, Llc Skip macroblock coding
US9888237B2 (en) 2002-01-25 2018-02-06 Microsoft Technology Licensing, Llc Video coding

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11261966A (ja) * 1998-03-12 1999-09-24 Toshiba Corp 映像符号化装置および映像符号化方法
US7054494B2 (en) 1998-11-30 2006-05-30 Microsoft Corporation Coded block pattern decoding with spatial prediction
US7127114B2 (en) 1998-11-30 2006-10-24 Microsoft Corporation Coded block pattern encoding with spatial prediction
GB2348560A (en) * 1998-12-11 2000-10-04 Hitachi Ltd Transmitting foreground object signals and background image signals separately
US6473136B1 (en) 1998-12-11 2002-10-29 Hitachi, Ltd. Television broadcast transmitter/receiver and method of transmitting/receiving a television broadcast
GB2348560B (en) * 1998-12-11 2003-01-15 Hitachi Ltd Television broadcast transmitter/receiver and method of transmitting/receiving a television broadcast
US9088785B2 (en) 2001-12-17 2015-07-21 Microsoft Technology Licensing, Llc Skip macroblock coding
US10368065B2 (en) 2001-12-17 2019-07-30 Microsoft Technology Licensing, Llc Skip macroblock coding
US9774852B2 (en) 2001-12-17 2017-09-26 Microsoft Technology Licensing, Llc Skip macroblock coding
US9538189B2 (en) 2001-12-17 2017-01-03 Microsoft Technology Licensing, Llc Skip macroblock coding
US10284843B2 (en) 2002-01-25 2019-05-07 Microsoft Technology Licensing, Llc Video coding
US9888237B2 (en) 2002-01-25 2018-02-06 Microsoft Technology Licensing, Llc Video coding
US8873630B2 (en) 2002-06-03 2014-10-28 Microsoft Corporation Spatiotemporal prediction for bidirectionally predictive (B) pictures and motion vector prediction for multi-picture reference motion compensation
US9185427B2 (en) 2002-06-03 2015-11-10 Microsoft Technology Licensing, Llc Spatiotemporal prediction for bidirectionally predictive (B) pictures and motion vector prediction for multi-picture reference motion compensation
US9571854B2 (en) 2002-06-03 2017-02-14 Microsoft Technology Licensing, Llc Spatiotemporal prediction for bidirectionally predictive (B) pictures and motion vector prediction for multi-picture reference motion compensation
US10116959B2 (en) 2002-06-03 2018-10-30 Microsoft Technology Licesning, LLC Spatiotemporal prediction for bidirectionally predictive (B) pictures and motion vector prediction for multi-picture reference motion compensation
US9148668B2 (en) 2003-07-18 2015-09-29 Microsoft Technology Licensing, Llc Coding of motion vector information
US8917768B2 (en) 2003-07-18 2014-12-23 Microsoft Corporation Coding of motion vector information
US9077960B2 (en) 2005-08-12 2015-07-07 Microsoft Corporation Non-zero coefficient block pattern coding
WO2008107943A1 (ja) * 2007-03-01 2008-09-12 Nippon Telegraph And Telephone Corporation スケーラブル符号化方法および装置、スケーラブル復号方法および装置、並びにそれらのプログラムおよび記録媒体
US8509302B2 (en) 2008-10-22 2013-08-13 Nippon Telegraph And Telephone Corporation Scalable video encoding method, scalable video encoding apparatus, scalable video encoding program, and computer readable recording medium storing the program
RU2488235C2 (ru) * 2008-10-22 2013-07-20 Ниппон Телеграф Энд Телефон Корпорейшн Способ масштабируемого кодирования видео, устройство масштабируемого кодирования видео, программа масштабируемого кодирования видео и машиночитаемый носитель записи, сохраняющий программу
WO2010047099A1 (ja) * 2008-10-22 2010-04-29 日本電信電話株式会社 スケーラブル動画像符号化方法、スケーラブル動画像符号化装置、スケーラブル動画像符号化プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体

Also Published As

Publication number Publication date
JP3371191B2 (ja) 2003-01-27

Similar Documents

Publication Publication Date Title
US6031575A (en) Method and apparatus for encoding an image signal, method and apparatus for decoding an image signal, and recording medium
US6427027B1 (en) Picture encoding and/or decoding apparatus and method for providing scalability of a video object whose position changes with time and a recording medium having the same recorded thereon
KR100418141B1 (ko) 화상부호화장치,화상부호화방법,화상복호화장치및화상복호화방법
KR100563754B1 (ko) 이미지 신호를 다중화하는 방법 및 시스템, 이미지 신호를 역다중화하는 방법 및 시스템 및, 전송 매체
US6330280B1 (en) Method and apparatus for decoding enhancement and base layer image signals using a predicted image signal
US6400768B1 (en) Picture encoding apparatus, picture encoding method, picture decoding apparatus, picture decoding method and presentation medium
JP3413721B2 (ja) 画像符号化方法及び装置、並びに画像復号方法及び装置
KR20080104060A (ko) 비디오 부호화 시스템에서 양자화 변수들을 표시하는 방법 및 장치
JP3371191B2 (ja) 画像信号の符号化方法及び復号方法、並びに、符号化装置及び復号装置
JP3344577B2 (ja) 画像符号化装置および画像符号化方法、画像復号化装置および画像復号化方法、並びに記録方法
JP3263901B2 (ja) 画像信号符号化方法及び装置、画像信号復号化方法及び装置
JP4499204B2 (ja) 画像信号多重化装置および方法、並びに伝送媒体
JP3344576B2 (ja) 画像符号化装置および画像符号化方法、画像復号化装置および画像復号化方法
JPH1141558A (ja) 画像信号復号化装置および画像信号復号化方法、並びに伝送媒体
AU731425B2 (en) Picture encoding and decoding
JP3263812B2 (ja) 画像符号化装置および画像符号化方法、並びに画像復号化装置および画像復号化方法
AU759435B2 (en) Picture encoding and decoding

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20021008

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071122

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081122

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091122

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091122

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101122

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101122

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111122

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111122

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121122

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121122

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131122

Year of fee payment: 11

LAPS Cancellation because of no payment of annual fees