JPH11341496A - 画像処理方法,画像処理装置,及びデータ記憶媒体 - Google Patents

画像処理方法,画像処理装置,及びデータ記憶媒体

Info

Publication number
JPH11341496A
JPH11341496A JP14783598A JP14783598A JPH11341496A JP H11341496 A JPH11341496 A JP H11341496A JP 14783598 A JP14783598 A JP 14783598A JP 14783598 A JP14783598 A JP 14783598A JP H11341496 A JPH11341496 A JP H11341496A
Authority
JP
Japan
Prior art keywords
block
image data
data
image
reproduction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP14783598A
Other languages
English (en)
Inventor
Chun Sen Bun
チュン セン ブン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP14783598A priority Critical patent/JPH11341496A/ja
Priority to US09/321,552 priority patent/US6233279B1/en
Publication of JPH11341496A publication Critical patent/JPH11341496A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/20Contour coding, e.g. using detection of edges
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
    • H04N19/29Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding involving scalability at the object level, e.g. video object layer [VOL]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain

Abstract

(57)【要約】 【課題】 符号化効率及び画質の劣化を招くことなく、
受信側での再生時の復号化処理における補填処理を大幅
に削減することがてきる画像符号化装置を得る。 【解決手段】 現処理フレームにおける対象ブロックの
データに対して、対応する予測ブロックを用いて予測符
号化処理を行う画像符号化装置において、次処理フレー
ムに対する予測データPgの生成のための参照画像デー
タMgを格納するフレームメモリ113と、再生ブロッ
クのうちの無効ブロックに対しては補填処理を施し、か
つ再生ブロックのうち有効ブロックに対しては補填処理
を行わずに、上記再生ブロックのデータRgを参照画像
データMgとして上記フレームメモリ113に格納する
再生補填器112とを備えた。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像処理方法,画
像処理装置,及びデータ記憶媒体に関し、特に、任意形
状を有する物体に対応する画像信号に対する予測符号化
処理及び予測復号化処理を、物体を含む領域を分割する
ブロック毎に行う際に、予測画像データを生成するため
の再生画像データに対して行う補填処理に関するもので
ある。
【0002】
【従来の技術】デジタル画像情報を効率よく蓄積もしく
は伝送するには、デジタル画像情報を圧縮符号化する必
要があり、現状では、デジタル画像情報を圧縮符号化す
るための方法として、JPEG(Joint Photographic Co
ding Experts Group)やMPEG(Moving Picture Expe
rts Group)に代表される離散コサイン変換(DCT:Di
screte Cosine Transform )の他に、サブバンド、ウェ
ーブレット、フラクタル等の波形符号化方法がある。
【0003】また、隣接するフレーム等の画面間におけ
る冗長な画像情報を取り除く方法としては、動き補償を
用いた画面間予測を行い、つまり現画面を構成する画素
の画素値を、これと前画面を構成する画素の画素値との
差分値を用いて表し、この差分値からなる差分画像信号
を波形符号化する方法がある。
【0004】ところで、最近、画像信号の圧縮効率を向
上させると同時に、1画面(フレーム)の画像を構成す
る個々の物体を単位として画像信号の再生を行うことが
できるよう、該物体に対応する画像信号を物体毎に別々
に圧縮符号化して伝送する符号化方式が考えられてい
る。この符号化方式により符号化された画像符号化信号
に対しては、再生側にて上記符号化方式に対応した復号
化処理が施される。つまり、この復号化処理では、それ
ぞれの物体に対応する画像符号化信号が復号化され、該
復号化により得られた各物体に対応する画像再生信号が
合成されて、合成画像再生信号が生成される。そして、
この合成画像再生信号に基づいて、個々の物体からなる
1画面に対応する画像が表示される。
【0005】上記のように物体単位で画像信号の符号化
を行う符号化方式を用いることにより、再生側では、個
々の物体を自由に組み合わせて合成画像を生成すること
が可能となり、これにより動画像を簡単に再編集でき
る。また、通信路の混み具合や再生装置の性能、あるい
は視聴者の好みによって、比較的重要でない物体を再生
せずに、重要度の高い物体のみからなる動画像を表示す
ることもできる。
【0006】ここで、物体(つまり任意の形状をもつ画
像)に対応する画像信号を符号化するには、その物体の
形状に応じた信号処理を行う波形変換、たとえば形状適
応離散コサイン変換を用いるか、あるいは画像信号に対
する補填処理を行った後に波形変換を行う方法を用い
る。
【0007】この補填処理を用いる符号化方法では、具
体的には、個々の物体に対応した画像空間(オブジェク
ト領域)を形成する画像信号に対して、その無効領域の
画素の画素値を、所定の方法により得られる補填値でも
って置き換える補填処理を施し、該補填処理を施した画
像信号に対して、従来の8×8コサイン変換処理を施
す。ここで、上記無効領域は、オブジェクト領域におけ
る物体外の領域であって、物体を表示するための画素値
を有しない画素からなる領域である。つまり無効領域に
対応する画像信号は、いわゆる有意でないサンプル値の
みからなる。また、上記8×8コサイン変換は、オブジ
ェクト領域に対応する画像信号を、8×8画素からなる
画像空間を単位としてコサイン変換する波形変換処理で
ある。
【0008】また、隣接するフレーム等の画面における
冗長な信号を取り除く具体的な方法としては、16×1
6画素からなる画像空間(ブロック)を単位領域とし
て、符号化処理の対象となる画像信号( 対象ブロックに
対応する画像データ)と、これに対応する予測信号(対
象ブロックに対応する予測ブロックの画像データ)との
差分データを予測誤差信号(差分ブロックの画像デー
タ)として求める方法がある。ここで、上記予測信号
は、動き補償により得られる予測領域(予測ブロック)
に対応する画像信号である。なお、動き補償は、既に符
号化処理あるいは復号化処理が施された画面内におけ
る、対象ブロックの画像データとの差分ができるだけ小
さくなるような画像データを与える16×16画素から
なる領域を、予測領域(予測ブロック)として検出する
処理である。
【0009】ところが、この予測領域(予測ブロック)
にも有意でないサンプル値を有する画素(非有意画素)
が含まれる場合がある。この場合には、非有意画素を含
む予測ブロックの画像データと、符号化処理の対象とな
る対象ブロックの画像データとの差分をとると、非有意
画素のサンプル値が、該差分が小さくなるという意味で
最適な予測値であるとは限らないため、差分値が非常に
大きくなることがよく生じる。
【0010】そこで、上記予測ブロックの画像データに
対して、その有意でないサンプル値を所定の補填値で置
換する補填処理を施した後、補填処理を施した予測ブロ
ックの画像データと対象ブロックの画像データとの差分
データを差分ブロックの画像データ(予測誤差信号)と
して求め、該差分ブロックの画像データに対する符号化
のための変換処理を施す方法が考えられている。このよ
うに予測ブロックの画像データに対して補填処理を施す
ことにより、差分ブロックの画像データを抑圧すること
ができる。
【0011】また、その他の符号化,復号化方法とし
て、画像表示用データに対して、画像の解像度に応じて
複数の階層に分けて符号化処理及び復号化処理を施すス
ケーラビリティ処理という方法がある。
【0012】このスケーラビリティ処理(階層符号化及
び階層復号化処理)を用いることにより、ビットストリ
ームとして伝送される画像符号化信号(符号化データ)
は、低解像度画像に対応する符号化データと高解像度画
像に対応する符号化データとを含むこととなる。このた
め、伝送される符号化データの一部を取り出して復号化
することにより、低解像度画像(物体)が再生でき、ま
た、伝送される符号化データのすべてを取り出して復号
化することにより、高解像度画像(物体)を再生するこ
とができる。
【0013】このような階層符号化処理では、具体的に
は、低解像度画像のデータを用いて、高解像度画像のデ
ータ(対象ブロックのデータ)に対応する予測データ
(予測ブロックのデータ)を生成し、上記高解像度画像
のデータから低解像度画像のデータに基づく上記予測デ
ータを引き算して差分データ(差分ブロックのデータ)
を生成し、この差分データのみを符号化するという処理
を行っている。
【0014】このような階層符号化処理を物体単位で行
う場合、つまり任意形状を有する画像(物体)に対応す
る画像データを、該物体の解像度に応じて複数の階層に
分けて符号化する場合は、物体の任意の形状を示す形状
情報を含む信号に対する階層符号化も、物体を階層カラ
ー表示するためのテキスチャー信号(輝度信号及び色差
信号)に対する階層符号化とともに行う必要がある。言
い換えると、物体単位のスケーラビリティ符号化を行う
際には、物体のテキスチャー信号に加えて、上記形状情
報を含む信号(形状信号あるいは透過度信号)も、高解
像度信号と低解像度信号に分けて符号化する必要があ
る。ここで、上記形状信号は、その値として、画素が物
体外に位置することを示す画像値「0」と、画素が物体
内に位置することを示す画像値「1」を持つ2値信号で
ある。また、上記透過度信号は、物体外の画素に対応す
る画像値として「0」、物体内の画素に対応する画像値
として「0」以外の値(非0値)を有する多値信号であ
り、物体内の画素については、0以外の画素値により、
該物体を構成する各画素の透明度を示すものである。
【0015】また、上記のようなスケーラビリティ処理
における予測符号化処理においても、有意でないサンプ
ル値(非有意サンプル値)を含む予測ブロックに対し
て、差分値(差分データの値)が小さくなるような補填
値で非有意サンプル値を置き換える補填処理を一旦施し
てから、対象ブロックと予測ブロックとの間でサンプル
値の差分をとり、対象ブロックに対する予測誤差信号
(差分ブロックの画像データ)を生成し、この予測誤差
信号の符号化を行うといったことが行われているが、こ
のように予測ブロックに対する補填処理を行うことによ
り予測誤差信号を抑圧することができる。
【0016】
【発明が解決しようとする課題】ところで、従来の予測
符号化処理では、予測ブロックに対する画像データを生
成するための、被処理画面(現処理フレーム)より以前
に処理された参照画面(参照フレーム)に対応する参照
画像データに対しても、補填処理を行っており、この補
填処理では、参照画面を構成するブロックのうちの、物
体の境界を含む境界ブロックに対しても補填処理が行わ
れている。このような境界ブロックには有意なサンプル
値を有する画素と有意でないサンプル値を有する画素と
が含まれるため、境界ブロックに対する補填処理では、
境界ブロックに非有意画素が含まれないように、物体の
境界にある有意なサンプル値を用いて、有意でないサン
プル値を置き換えている。
【0017】なお、この補填処理では、あるサンプル点
(特定画素)に対して、該特定画素を含む水平方向の画
素列の画素の補填処理に繰り返し用いた補填値と、該特
定画素を含む垂直方向の画素列の画素の補填処理に繰り
返し用いた補填値とが存在する場合には、その両方の補
填値を平均化したものを、該特定画素に対する補填値と
している。上記のように参照画面における境界ブロック
を補填してから予測ブロックの画像データを生成するこ
とにより、境界部が多少ずれても予測誤差を小さく抑圧
することができる。
【0018】このようなことから、同様に、物体単位の
スケーラビリティ符号化処理においても、低解像度画像
から効率よく高解像度画像を予測するためには、参照画
面となる低解像度画面における境界ブロックを補填しな
ければならない。簡単に説明すると、特に、スケーラビ
リティ符号化では、形状信号を複数の解像度階層に分け
るために、形状信号による低解像度画像と高解像度画像
とでは、物体の内部と外部の境界がずれてしまう。つま
り、高解像度画面では、符号化の対象となる対象ブロッ
クが物体の内部を含まれているにも拘わらず、対応する
低解像度画面では、対象ブロックが完全に物体の外部に
位置するといったことが生じる。このような境界のずれ
が生ずる原因としては、高解像度形状信号から低解像度
形状信号を生成する変換処理に形状の変形を招く信号の
変化を伴うこと、また形状信号の圧縮処理によっても物
体の形状を表す情報が変化することなどが挙げられる。
そこで、符号化側では、低解像度参照画面上の境界ブロ
ックによる予測の効率を高めるために、この境界ブロッ
クに対して補填処理を施すようにしている。
【0019】しかしながら、上記のように符号化側で参
照画面を構成する境界ブロックに対する補填処理を行う
ようにすると、再生側においても参照画面を構成する境
界ブロックに対する補填処理を行う必要が生じ、この結
果、再生時の補填処理が増加する。とりわけ、任意形状
の境界を検索するための処理が多いという問題がある。
このような再生時の補填処理に要する時間は、境界ブロ
ックが多くなればなるほど、境界ブロック数に比例して
増加することとなる。また、上述した物体単位のスケー
ラビリティ符号化においても、このような再生側での低
解像度参照画面上の境界ブロックに対する補填処理によ
って復号化処理に要する時間が増大するといった問題が
ある。
【0020】本発明は、上記のような問題点を解決する
ためになされたもので、符号化効率と再生画像の画質の
劣化を招くことなく、再生側で任意形状を有する参照画
像に対する補填処理を削減する、特に、境界ブロックが
多くなるときに処理量が比例して増えることを回避する
ことができる画像処理方法及び画像処理装置、並びに該
画像処理方法による画像処理をコンピュータに行わせる
ためのプログラムを格納したデータ記憶媒体を得ること
を目的とする。
【0021】
【課題を解決するための手段】この発明(請求項1)に
係る画像処理方法は、任意形状を有する物体を含む画像
空間を形成する各フレームに対応する画像信号を、該画
像空間を分割するブロック毎に符号化する方法であっ
て、現処理フレームにおける符号化の対象となる対象ブ
ロックの画像データと、該対象ブロックに対応する予測
ブロックの画像データとの差分データを、差分ブロック
の画像データとして出力し、該差分ブロックの画像デー
タの情報圧縮による圧縮差分ブロックの画像データの生
成、及び該圧縮差分ブロックの画像データの符号化によ
る画像符号化信号の生成を行うとともに、該圧縮差分ブ
ロックの画像データの情報伸長により上記差分データを
伸長差分ブロックの画像データとして復元し、上記伸長
差分ブロックの画像データと上記予測ブロックの画像デ
ータとの加算により再生ブロックの画像データを生成
し、該再生ブロックが有意でない画素のみからなる無効
ブロックであるとき、該再生ブロックの画像データを、
これを構成する有意でない画素値を所定の補填値と置き
換えて出力し、一方、上記再生ブロックが少なくとも1
つ有意な画素を含む有効ブロックであるとき、該再生ブ
ロックの画像データをそのまま出力し、上記有効ブロッ
ク及び補填処理が施された無効ブロックの画像データに
基づいて、次処理フレームの対象ブロックに対応する予
測ブロックの画像データを生成するものである。
【0022】この発明(請求項2)に係る画像処理方法
は、任意形状を有する物体を含む画像空間を形成する各
フレームに対応する画像信号を、該画像空間を分割する
ブロック毎に符号化して得られる画像符号化信号を、該
ブロック毎に復号化する方法であって、上記画像符号化
信号のデータ解析により、符号化の対象となる対象ブロ
ックの画像データと該対象ブロックに対応する予測ブロ
ックの画像データとの差分データの情報圧縮により得ら
れる圧縮データを、圧縮差分ブロックの画像データとし
て抽出し、上記圧縮差分ブロックの画像データの情報伸
長により、上記差分データを現処理フレームにおける伸
長差分ブロックの画像データとして復元し、上記伸長差
分ブロックの画像データと、該伸長差分ブロックに対応
する予測ブロックの画像データとの加算により、再生ブ
ロックの画像データを生成し、該再生ブロックが有意で
ない画素のみからなる無効ブロックであるとき、該再生
ブロックの画像データを、これを構成する有意でない画
素値を所定の補填値と置き換えて出力し、一方、上記再
生ブロックが少なくとも1つ有意な画素を含む有効ブロ
ックであるとき、該再生ブロックの画像データをそのま
ま出力し、上記有効ブロック及び補填処理が施された無
効ブロックの画像データに基づいて、次処理フレームの
伸長差分ブロックに対応する予測ブロックの画像データ
を生成するものである。
【0023】この発明(請求項3)に係る画像処理方法
は、任意形状を有する物体を含む画像空間を形成する各
フレームに対応する画像信号を、該画像空間を分割する
ブロック毎に符号化する方法であって、現処理フレーム
における符号化の対象となる対象ブロックの画像データ
と、該対象ブロックに対応する予測ブロックの画像デー
タとの差分データを、差分ブロックの画像データとして
出力し、該差分ブロックの画像データの情報圧縮による
圧縮差分ブロックの画像データの生成、及び該圧縮差分
ブロックの画像データの符号化による画像符号化信号の
生成を行うとともに、該圧縮差分ブロックの画像データ
の情報伸長により上記差分データを伸長差分ブロックの
画像データとして復元し、上記伸長差分ブロックの画像
データと上記予測ブロックの画像データとの加算により
再生ブロックの画像データを生成し、上記再生ブロック
のうちの、少なくとも1つ有意な画素を含む有効ブロッ
クの画像データのみ、所定のタイミングで初期化される
フレームメモリに参照画像データとして上書きして格納
し、上記フレームメモリに格納された参照画像データに
基づいて、次処理フレームの対象ブロックに対応する予
測ブロックの画像データを生成するものである。
【0024】この発明(請求項4)に係る画像処理方法
は、任意形状を有する物体を含む画像空間を形成する各
フレームに対応する画像信号を、該画像空間を分割する
ブロック毎に符号化して得られる画像符号化信号を、該
ブロック毎に復号化する方法であって、上記画像符号化
信号のデータ解析により、符号化の対象となる対象ブロ
ックの画像データと該対象ブロックに対応する予測ブロ
ックの画像データとの差分データである差分ブロックの
画像データの情報圧縮により得られる圧縮データを、圧
縮差分ブロックの画像データとして生成し、上記圧縮差
分ブロックの画像データの情報伸長により、上記差分デ
ータを現処理フレームにおける伸長差分ブロックの画像
データとして復元し、上記伸長差分ブロックの画像デー
タと該伸長差分ブロックに対応する予測ブロックの画像
データとの加算により、再生ブロックの画像データを生
成し、上記再生ブロックのうちの、少なくとも1つ有意
な画素を含む有効ブロックの画像データのみ、所定タイ
ミングで初期化されるフレームメモリに参照画像データ
として上書きして格納し、上記フレームメモリに格納さ
れた参照画像データから、次処理フレームの伸長差分ブ
ロックに対応する予測ブロックの画像データとして出力
するものである。
【0025】この発明(請求項5)に係る画像処理方法
は、任意形状を有する物体を含む画像空間を形成する各
フレームに対応する画像信号に対して、該画像空間を分
割するブロック毎に階層符号化処理を施す方法であっ
て、符号化の対象となる対象ブロックの画像データとし
て、第1,第2の異なる解像度を有する第1,第2の対
象ブロックの画像データを生成する前処理、及び、該第
1,第2の各対象ブロックの画像データに対する第1,
第2の符号化処理を含み、上記第1の符号化処理では、
現処理フレームにおける第1の対象ブロックの画像デー
タと、該第1の対象ブロックに対応する第1の予測ブロ
ックの画像データとの第1の差分データを、第1の差分
ブロックの画像データとして出力し、該第1の差分ブロ
ックの画像データの情報圧縮による第1の圧縮差分ブロ
ックの画像データの生成、及び該第1の圧縮差分ブロッ
クの画像データの符号化による第1の画像符号化信号の
生成を行うとともに、該第1の圧縮差分ブロックの画像
データの情報伸長により上記第1の差分データを第1の
伸長差分ブロックの画像データとして復元し、上記第1
の伸長差分ブロックの画像データと上記第1の予測ブロ
ックの画像データとの加算により第1の再生ブロックの
画像データを生成し、該第1の再生ブロックが有意でな
い画素のみからなる無効ブロックであるとき、該第1の
再生ブロックの画像データを、これを構成する有意でな
い画素値を所定の補填値と置き換えて出力し、一方、上
記第1の再生ブロックが少なくとも1つ有意な画素を含
む有効ブロックであるとき、該第1の再生ブロックの画
像データをそのまま出力し、上記有効ブロック及び補填
処理が施された無効ブロックの画像データに基づいて、
次処理フレームの第1の対象ブロックに対応する第1の
予測ブロックの画像信号を生成するとともに、第1の解
像度を第2の解像度に変換する解像度変換処理により上
記第1の再生ブロックに対応する解像度変換データを生
成し、上記第2の符号化処理では、上記解像度変換デー
タと、上記現処理フレームにおける第2の対象ブロック
に対応する第2の予測ブロックの画像データとの重付き
平均化処理により重付き平均予測データを生成し、上記
第2の対象ブロックの画像データと該重付き平均予測デ
ータとの第2の差分データを、第2の差分ブロックの画
像データとして出力し、該第2の差分ブロックの画像デ
ータの情報圧縮による第2の圧縮差分ブロックの画像デ
ータの生成、及び該第2の圧縮差分ブロックの画像デー
タの符号化による第2の画像符号化信号の生成を行うと
ともに、該第2の圧縮差分ブロックの画像データの情報
伸長により上記第2の差分データを第2の伸長差分ブロ
ックの画像データとして復元し、上記第2の伸長差分ブ
ロックの画像データと上記第2の予測ブロックの画像デ
ータとの加算により第2の再生ブロックの画像データを
生成し、該第2の再生ブロックが有意でない画素のみか
らなる無効ブロックであるとき、該第2の再生ブロック
の画像データを、これを構成する有意でない画素値を所
定の補填値と置き換えて出力し、一方、上記第2の再生
ブロックが少なくとも1つ有意な画素を含む有効ブロッ
クであるとき、該第2の再生ブロックの画像データをそ
のまま出力し、これらの有効ブロック及び補填処理が施
された無効ブロックの画像データに基づいて、上記次処
理フレームの第2の対象ブロックに対応する第2の予測
ブロックの画像データを生成するものである。
【0026】この発明(請求項6)に係る画像処理方法
は、任意形状を有する物体を含む画像空間を形成する各
フレームに対応する画像信号を、該画像空間を分割する
ブロック毎に階層符号化して得られる第1,第2の異な
る解像度を有する第1,第2の画像符号化信号に対し
て、該ブロック毎に階層復号化処理を施す方法であっ
て、上記第1,第2の画像符号化信号に対する第1,第
2の復号化処理を含み、上記第1の復号化処理では、上
記第1の画像符号化信号のデータ解析により、符号化の
対象となる第1の解像度を有する対象ブロックの画像デ
ータと、該対象ブロックに対応する予測ブロックの画像
データとの第1の差分データを情報圧縮して得られる圧
縮データを、第1の圧縮差分ブロックの画像データとし
て生成し、上記第1の圧縮差分ブロックの画像データの
情報伸長により、上記第1の差分データを、現処理フレ
ームにおける第1の伸長差分ブロックの画像データとし
て復元し、上記第1の伸長差分ブロックの画像データ
と、該第1の伸長差分ブロックに対応する予測ブロック
の画像データとの加算により、第1の再生ブロックの画
像データを生成し、該第1の再生ブロックが有意でない
画素のみからなる無効ブロックであるとき、該第1の再
生ブロックの画像データを、これを構成する有意でない
画素値を所定の補填値と置き換えて出力し、一方、上記
第1の再生ブロックが少なくとも1つ有意な画素を含む
有効ブロックであるとき、該第1の再生ブロックの画像
データをそのまま出力し、上記有効ブロック及び補填処
理が施された無効ブロックの画像データに基づいて、次
処理フレームの第1の伸長差分ブロックに対する予測ブ
ロックの画像データを生成するとともに、第1の解像度
を第2の解像度に変換する解像度変換処理により上記第
1の再生ブロックに対応する解像度変換データを生成
し、上記第2の復号化処理では、上記第2の画像符号化
信号のデータ解析により、符号化の対象となる第2の解
像度を有する対象ブロックの画像データと該対象ブロッ
クに対応する予測ブロックの画像データとの第2の差分
データを情報圧縮して得られる圧縮データを、第2の圧
縮差分ブロックの画像データとして生成し、上記第2の
圧縮差分ブロックの画像データの情報伸長により、上記
第2の差分データを、上記現処理フレームにおける第2
の伸長差分ブロックの画像データとして復元し、上記第
2の伸長差分ブロックに対応する予測ブロックの画像デ
ータと上記解像度変換データとの重付き平均化により重
付き平均予測データを生成し、上記第2の伸長差分ブロ
ックの画像データと上記重付き平均予測データとの加算
により第2の再生ブロックの画像データを生成し、上記
第2の再生ブロックが有意でない画素のみからなる無効
ブロックであるとき、該第2の再生ブロックの画像デー
タを、これを構成する有意でない画素値を所定の補填値
と置き換えて出力し、一方、上記第2の再生ブロックが
少なくとも1つ有意な画素を含む有効ブロックであると
き、第2の再生ブロックの画像データをそのまま出力
し、これらの有効ブロック及び補填処理が施された無効
ブロックの画像データに基づいて、上記次処理フレーム
の第2の伸長差分ブロックに対する予測ブロックの画像
データを生成するものである。
【0027】この発明(請求項7)に係る画像処理装置
は、任意形状を有する物体を含む画像空間を形成する各
フレームに対応する画像信号を、該画像空間を分割する
ブロック毎に符号化する装置であって、現処理フレーム
における符号化処理の対象となる対象ブロックの画像デ
ータと、該対象ブロックに対応する予測ブロックの画像
データとの差分データを差分ブロックの画像データとし
て出力する減算手段と、上記差分ブロックの画像データ
に対して所定の情報圧縮処理を施して、圧縮差分ブロッ
クの画像データを出力する情報圧縮器と、該圧縮差分ブ
ロックの画像データに対して所定の情報伸長処理を施し
て、上記差分データを伸長差分ブロックの画像データと
して復元する情報伸長器と、上記伸長差分ブロックの画
像データと上記予測ブロックの画像データとを加算し
て、再生ブロックの画像データを生成する加算手段と、
該再生ブロックが有意でない画素のみからなる無効ブロ
ックであるとき、該再生ブロックの画像データを、これ
を構成する有意でない画素値を所定の補填値と置き換え
て出力し、上記再生ブロックが少なくとも1つ有意な画
素を含む有効ブロックであるとき、該再生ブロックの画
像データをそのまま出力する補填手段と、上記補填手段
から出力される、有効ブロック及び補填処理が施された
再生ブロックの画像データを参照画像データとして格納
するフレームメモリと、該フレームメモリに格納された
参照画像データから、次処理フレームの対象ブロックに
対応する予測ブロックの画像データを生成する予測デー
タ生成手段とを備えたものである。
【0028】この発明(請求項8)は、請求項7記載の
画像処理装置において、上記画像信号を構成する、上記
画像空間における各画素が有意な画素であるか否かの情
報を含む有意信号に基づいて、上記差分ブロックの画像
データに対して、該ブロックに含まれる有意でない画素
に対応する画素値を所定の補填値と置き換える補填処理
を施し、該補填処理を施した差分ブロックの画像データ
を上記情報圧縮器に出力する差分ブロック補填手段を備
えたものである。
【0029】この発明(請求項9)は、上記請求項7記
載の画像符号化装置において、上記画像信号を構成す
る、上記画像空間における各画素が有意な画素であるか
否かの情報を含む有意信号に基づいて、上記対象ブロッ
クの画像データに対して、該対象ブロックに含まれる有
意でない画素に対応する画素値を所定の補填値と置き換
える補填処理を施し、該補填処理を施した対象ブロック
の画像データを上記減算手段に出力する対象ブロック補
填手段を備えたものである。
【0030】この発明(請求項10)は、請求項8また
は9記載の画像処理装置において、上記有意信号を、上
記画像空間に含まれる物体を構成する各画素に対応す
る、該物体の画像の透明度を示す透過度信号としたもの
である。
【0031】この発明(請求項11)は、請求項7記載
の画像処理装置において、上記補填手段を、上記画像信
号に含まれる、上記再生ブロックを構成する画素が物体
内に位置する有意な画素であるか物体外に位置する有意
でない画素であるかを示す有意信号に基づいて、上記再
生ブロックの画像データを構成する画素値を上記所定の
補填値と置き換える補填処理を行うよう構成し、上記有
意信号を、上記画像空間に含まれる物体を構成する各画
素に対応する、該物体の画像の透明度を示す透過度信号
としたものである。
【0032】この発明(請求項12)に係る画像処理装
置は、任意形状を有する物体を含む画像空間を形成する
各フレームに対応する画像信号を、該画像空間を分割す
るブロック毎に符号化して得られる画像符号化信号を、
該ブロック毎に復号化する装置であって、上記画像符号
化信号のデータ解析により、符号化の対象となる対象ブ
ロックの画像データと該対象ブロックに対応する予測ブ
ロックの画像データとの差分データに情報圧縮処理を施
して得られる圧縮データを、圧縮差分ブロックの画像デ
ータとして生成するデータ解析器と、上記圧縮差分ブロ
ックの画像データに情報伸長処理を施して、上記差分デ
ータを、現処理フレームにおける伸長差分ブロックの画
像データとして復元する情報伸長器と、上記伸長差分ブ
ロックの画像データと、上記予測ブロックの画像データ
とを加算して、再生ブロックの画像データを生成する加
算手段と、上記再生ブロックが有意でない画素のみから
なる無効ブロックであるとき、該再生ブロックの画像デ
ータを、これを構成する有意でない画素値を所定の補填
値と置き換えて出力し、一方、上記再生ブロックが少な
くとも1つ有意な画素を含む有効ブロックであるとき、
該再生ブロックの画像データをそのまま出力する補填手
段と、該有効ブロック及び補填処理が施された再生ブロ
ックの画像データを参照画像データとして格納するフレ
ームメモリと、該フレームメモリに格納された参照画像
データから、次処理フレームの伸長差分ブロックに対応
する予測ブロックの画像データを生成する予測データ生
成手段とを備えたものである。
【0033】この発明(請求項13)は、請求項12記
載の画像処理装置において、上記補填手段を、上記画像
符号化信号に含まれる、上記再生ブロックを構成する画
素が物体内に位置する有意な画素であるか物体外に位置
する有意でない画素であるかを示す有意画素情報に基づ
いて、上記再生ブロックの画像データを構成する画素値
を上記所定の補填値と置き換える補填処理を行うよう構
成し、上記有意画素情報を、上記画像空間に含まれる物
体を構成する各画素に対応する、該物体の画像の透明度
を示す透過度信号を符号化して得られる透過度符号化信
号に含まれるものとしたものである。
【0034】この発明(請求項14)に係る画像処理装
置は、任意形状を有する物体を含む画像空間を形成する
各フレームに対応する画像信号を、該画像空間を分割す
るブロック毎に符号化する装置であって、現処理フレー
ムにおける符号化処理の対象となる対象ブロックの画像
データと、該対象ブロックに対応する予測ブロックの画
像データとの差分データを差分ブロックの画像データと
して出力する減算手段と、上記差分ブロックの画像デー
タに対して情報圧縮処理を施して、圧縮差分ブロックの
画像データを出力する情報圧縮器と、該圧縮差分ブロッ
クの画像データに対して情報伸長処理を施して、上記差
分データを伸長差分ブロックの画像データとして復元す
る情報伸長器と、上記伸長差分ブロックの画像データと
上記予測ブロックの画像データとを加算して、再生ブロ
ックの画像データを生成する加算手段と、上記再生ブロ
ックの画像データを参照画像データとして格納するフレ
ームメモリと、上記フレームメモリを所定のタイミング
で初期化する初期化手段と、上記加算手段とフレームメ
モリの間に設けられ、該加算手段からフレームメモリへ
の再生ブロックの画像データの供給を制御するデータ供
給制御手段と、該フレームメモリに格納された参照画像
データから、次処理フレームの対象ブロックに対応する
予測ブロックの画像データを生成する予測データ生成手
段とを備え、上記データ供給制御手段を、再生ブロック
を構成する画素が物体内に位置する有意な画素であるか
物体外に位置する有意でない画素であるかを示す、上記
画像信号を構成する有意画素情報に基づいて、上記再生
ブロックが少なくとも1つ有意な画素を含む有効ブロッ
クであるときのみ、上記再生ブロックの画像データを、
上記初期化されたフレームメモリに上書きされるよう出
力する構成としたものである。
【0035】この発明(請求項15)に係る画像処理装
置は、任意形状を有する物体を含む画像空間を形成する
各フレームに対応する画像信号を、該画像空間を分割す
るブロック毎に符号化して得られる画像符号化信号を、
該ブロック毎に復号化する装置であって、上記画像符号
化信号のデータ解析により、符号化の対象となる対象ブ
ロックの画像データと該対象ブロックに対応する予測ブ
ロックの画像データとの差分データに情報圧縮処理を施
して得られる圧縮データを、圧縮差分ブロックの画像デ
ータとして生成するデータ解析器と、上記圧縮差分ブロ
ックの画像データに情報伸長処理を施して、上記差分デ
ータを、現処理フレームにおける伸長差分ブロックの画
像データとして復元する情報伸長器と、上記伸長差分ブ
ロックの画像データと、上記予測ブロックの画像データ
とを加算して、再生ブロックの画像データを生成する加
算手段と、上記再生ブロックの画像データを参照画像デ
ータとして格納するフレームメモリと、上記フレームメ
モリを所定のタイミングで初期化する初期化手段と、上
記加算手段とフレームメモリの間に設けられ、該加算手
段からフレームメモリへの再生ブロックの画像データの
供給を制御するデータ供給制御手段と、該フレームメモ
リに格納された参照画像データから、次処理フレームの
対象ブロックに対応する予測ブロックの画像データを生
成する予測データ生成手段とを備え、上記データ供給制
御手段を、再生ブロックを構成する画素が物体内に位置
する有意な画素であるか物体外に位置する有意でない画
素であるかを示す、上記画像符号化信号に含まれる有意
画素情報に基づいて、上記再生ブロックが少なくとも1
つ有意な画素を含む有効ブロックであるときのみ、上記
再生ブロックの画像データを、上記初期化されたフレー
ムメモリに上書きされるよう出力する構成としたもので
ある。
【0036】この発明(請求項16)に係る画像処理装
置は、任意形状を有する物体を含む画像空間を形成する
各フレームに対応する画像信号に対して、該画像空間を
分割するブロック毎に階層符号化処理を施す画像符号化
装置であって、符号化処理の対象となる対象ブロックの
画像データとして、第1,第2の異なる解像度を有する
第1,第2の対象ブロックの画像データを生成するデー
タ前処理器と、該第1,第2の対象ブロックの画像デー
タに情報圧縮処理及び符号化処理を施す第1,第2の符
号化部とを備え、上記第1の符号化部を、現処理フレー
ムにおける第1の対象ブロックの画像データと、該対象
ブロックに対応する第1の予測ブロックの画像データと
の第1の差分データを、第1の差分ブロックの画像デー
タとして出力する第1の減算手段と、上記第1の差分ブ
ロックの画像データに対して情報圧縮処理を施して、第
1の圧縮差分ブロックの画像データを出力する第1の情
報圧縮器と、該第1の圧縮差分ブロックの画像データに
対して情報伸長処理を施して、上記第1の差分データを
第1の伸長差分ブロックの画像データとして復元する第
1の情報伸長器と、上記第1の伸長差分ブロックの画像
データと上記第1の予測ブロックの画像データとを加算
して、第1の再生ブロックの画像データを生成する第1
の加算手段と、該第1の再生ブロックが有意でない画素
のみからなる無効ブロックであるとき、該第1の再生ブ
ロックの画像データを、これを構成する有意でない画素
値を所定の補填値と置き換えて出力し、一方、上記第1
の再生ブロックが少なくとも1つ有意な画素を含む有効
ブロックであるとき、該第1の再生ブロックの画像デー
タをそのまま出力する第1の補填手段と、上記第1の補
填手段から出力される、有効ブロック及び補填処理が施
された無効ブロックの画像データを参照画像データとし
て格納する第1のフレームメモリと、該第1のフレーム
メモリに格納された参照画像データから、次処理フレー
ムの第1の対象ブロックに対応する第1の予測ブロック
の画像データを生成する第1の予測データ生成手段と、
上記第1のフレームメモリの出力あるいは第1の補填手
段の出力である画像データに対して、その解像度が第2
の解像度と等しくなるよう解像度変換処理を施して、解
像度変換画像データを生成する解像度変換手段とを有す
る構成とし、上記第2の符号化部を、上記解像度変換画
像データと、上記現処理フレームにおける第2の対象ブ
ロックに対応する第2の予測ブロックの画像データとの
重付け平均化により重付け平均予測データを生成する重
付け平均化手段と、上記第2の対象ブロックの画像デー
タと上記重付け平均予測データとの第2の差分データを
第2の差分ブロックの画像データとして出力する第2の
減算手段と、上記第2の差分ブロックの画像データに対
して情報圧縮処理を施して、第2の圧縮差分ブロックの
画像データを出力する第2の情報圧縮器と、該第2の圧
縮差分ブロックの画像データに対して情報伸長処理を施
して、上記第2の差分データを第2の伸長差分ブロック
の画像データとして復元する第2の情報伸長器と、上記
第2の伸長差分ブロックの画像データと上記第2の予測
ブロックの画像データとを加算して、第2の再生ブロッ
クの画像データを生成する第2の加算手段と、該第2の
再生ブロックが有意でない画素のみからなる無効ブロッ
クであるとき、該第2の再生ブロックの画像データを、
これを構成する有意でない画素値を所定の補填値と置き
換えて出力し、一方、上記第2の再生ブロックが少なく
とも1つ有意な画素を含む有効ブロックであるとき、該
第2の再生ブロックの画像データをそのまま出力する第
2の補填手段と、上記第2の補填手段から出力される、
有効ブロック及び補填処理が施された無効ブロックの画
像データを参照画像データとして格納する第2のフレー
ムメモリと、該第2のフレームメモリに格納された参照
画像データから、上記次処理フレームの第2の対象ブロ
ックに対応する第2の予測ブロックの画像データを生成
する第2の予測データ生成手段とを有する構成としたも
のである。
【0037】この発明(請求項17)に係る画像処理装
置は、任意形状を有する物体を含む画像空間を形成する
各フレームに対応する画像信号を、該画像空間を分割す
るブロック毎に階層符号化処理を施して得られる、第
1,第2の異なる解像度を有する第1,第2の画像符号
化信号に対して、該ブロック毎に階層復号化処理を施す
装置であって、上記第1,第2の画像符号化信号に対す
る復号化処理を行う第1,第2の復号化部を備え、上記
第1の復号化部を、上記第1の画像符号化信号のデータ
解析により、符号化の対象となる第1の解像度を有する
対象ブロックの画像データと該対象ブロックに対応する
予測ブロックの画像データとの第1の差分データに情報
圧縮処理を施して得られる圧縮データを、第1の圧縮差
分ブロックの画像データとして生成する第1のデータ解
析器と、上記第1の圧縮差分ブロックの画像データに情
報伸長処理を施して、上記第1の差分データを、現処理
フレームにおける第1の伸長差分ブロックの画像データ
として復元する第1の情報伸長器と、上記第1の伸長差
分ブロックの画像データと、該第1の伸長差分ブロック
に対応する予測ブロックの画像データとを加算して、第
1の再生ブロックの画像データを生成する第1の加算手
段と、上記第1の再生ブロックが有意でない画素のみか
らなる無効ブロックであるとき、該第1の再生ブロック
の画像データを、これを構成する有意でない画素値を所
定の補填値と置き換えて出力し、一方、上記第1の再生
ブロックが少なくとも1つ有意な画素を含む有効ブロッ
クであるとき、該第1の再生ブロックの画像データをそ
のまま出力する第1の補填手段と、該有効ブロック及び
補填処理が施された無効ブロックの画像データを参照画
像データとして格納する第1のフレームメモリと、該第
1のフレームメモリに格納された参照画像データから、
次処理フレームの第1の伸長差分ブロックに対応する第
1の予測ブロックの画像データを生成する第1の予測デ
ータ生成手段と、上記第1のフレームメモリの出力ある
いは上記第1の補填手段の出力である画像データに対し
て、その解像度が第2の解像度と等しくなるよう解像度
変換処理を施して、解像度変換データを生成する解像度
変換手段とを有する構成とし、上記第2の復号化部を、
上記第2の画像符号化信号のデータ解析により、符号化
の対象となる第2の解像度を有する対象ブロックの画像
データと該対象ブロックに対応する予測ブロックの画像
データとの第2の差分データに情報圧縮処理を施して得
られる圧縮データを、第2の圧縮差分ブロックの画像デ
ータとして生成する第2のデータ解析器と、上記第2の
圧縮差分ブロックの画像データに情報伸長処理を施し
て、上記第2の差分データを、上記現処理フレームにお
ける第2の伸長差分ブロックの画像データとして復元す
る第2の情報伸長器と、上記第2の伸長差分ブロックに
対応する第2の予測ブロックの画像データと上記解像度
変換手段からの解像度変換データとの重付き平均化によ
り重付き平均予測データを生成する重付き平均化手段
と、上記第2の伸長差分ブロックの画像データと、上記
重付き平均予測データとを加算して、第2の再生ブロッ
クの画像データを生成する第2の加算手段と、上記第2
の再生ブロックが有意でない画素のみからなる無効ブロ
ックであるとき、該第2の再生ブロックの画像データ
を、これを構成する有意でない画素値を所定の補填値と
置き換えて出力し、一方、上記第2の再生ブロックが少
なくとも1つ有意な画素を含む有効ブロックであると
き、該第2の再生ブロックの画像データをそのまま出力
する第2の補填手段と、該有効ブロック及び補填処理が
施された無効ブロックの画像データを参照画像データと
して格納する第2のフレームメモリと、該第2のフレー
ムメモリに格納された参照画像データから、上記次処理
フレームにの第2の伸長差分ブロックに対応する予測ブ
ロックの画像データを生成する第2の予測データ生成手
段とを有する構成としたものである。
【0038】この発明(請求項18)に係るデータ記憶
媒体は、任意形状を有する物体に対応する画像信号の処
理を、コンピュータに行わせるためのプログラムを格納
したデータ記憶媒体であって、上記プログラムを、コン
ピュータに、請求項1ないし6のいずれかに記載の画像
処理方法による画像符号化処理あるいは画像復号化処理
を行わせるよう構成したものである。
【0039】
【発明の実態の形態】以下、本発明の実施の形態につい
て説明する。 (実施の形態1)図1は本発明の実施の形態1による画
像処理装置として任意形状符号化装置を説明するための
ブロック図であり、図1(a) はその全体構成を示し、図
1(b) は該装置を構成するテキスチャー符号化部の構成
を示している。
【0040】本実施の形態1の任意形状符号化装置(画
像符号化装置)1000は、表示画面を構成する個々の
物体(任意形状の画像)に対応する各フレームのデジタ
ル画像信号(任意形状画像信号)を、該物体を含む領域
(オブジェクト領域)を分割するブロック毎に符号化す
る構成となっている。
【0041】ここで上記任意形状画像信号は、任意形状
の画像(物体)を階調カラー表示するためのテキスチャ
ー信号Sgと、任意形状の画像(物体)の形状を表す形
状信号(有意信号ともいう。)Skを含んでいる。ここ
でテキスチャー信号は、物体の絵柄を表すための輝度信
号及び色差信号からなる。また形状信号は、テキスチャ
ー信号により形成される画像空間における各サンプル
(画素)が物体内部に位置するか否かを示す信号であ
る。例えば、画像空間を構成する画素が物体内部に位置
する場合、この画素は有意な画素(有意画素)であり、
画像空間を構成する画素が物体外部に位置する場合は、
この画素は有意でない画素(非有意画素)である。
【0042】本実施の形態1では、テキスチャー信号を
構成するサンプル値が有意画素に対応するものでない場
合、対応する形状信号のサンプル値は0値を有し、テキ
スチャー信号を構成するサンプル値が有意画素に対応す
る場合は、対応する形状信号のサンプル値はそれ以外の
値を有する。
【0043】また、本実施の形態では、1つのオブジェ
クト領域の1フレームに対応する入力画像信号を、8×
8または16×16のサンプルからなる複数のブロック
に対応するよう分割するが、ブロックの形状及びサンプ
ル数はこれに限るものではない。さらに、有意でないサ
ンプルのみからなるブロックを無効ブロックまたは完全
透過なブロックといい、それ以外のブロックを有効ブロ
ックという。有効ブロックには、すべての画素が有意で
あるものと、一部の画素のみが有意であるものがある。
前者を非透過ブロック、後者を境界ブロックと呼ぶ。す
なわち非透過ブロックでは、オブジェクト領域における
物体のテキスチャー(絵柄)が前景として表示される。
また、境界ブロックでは、物体の境界がブロック内に表
れる。
【0044】図2は、任意形状の画像(物体)に対応す
るオブジェクト領域を示す模式図であり、各枡目が、M
×N画素からなるブロックに対応している。図中、80
1は任意形状の画像である楕円形状を有する画像(物
体)Obを含むオブジェクト領域であり、該オブジェク
ト領域801内の斜線で示す領域は、物体の内部領域で
あり、該オブジェクト領域801内の、斜線で示す領域
以外の領域は、物体の外部領域となる。また、上記オブ
ジェクト領域801に含まれるブロック803〜812
は境界ブロック、上記オブジェクト領域801における
ブロック802は非透過ブロックであり、上記オブジェ
クト領域801に含まれる該ブロック802〜812以
外のブロックは無効ブロックである。
【0045】以下、上記任意形状符号化装置1000に
ついて詳述する。上記任意形状符号化装置1000は、
上記デジタル画像信号に含まれる、物体の形状を示す形
状信号Skを入力端子11aに受け、これに対して算術
符号化処理及び可変長符号化処理をフレーム毎に施して
形状符号化信号Ekを出力端子11bに出力する形状符
号化部10と、上記デジタル画像信号に含まれる、該物
体を階調カラー表示するための、輝度信号及び色差信号
からなるテキスチャー信号Sgを入力端子101aに受
け、これに対して情報圧縮処理及び可変長符号化処理を
フレーム毎に施してテキスチャー符号化信号Egを出力
端子101bに出力するテキスチャー符号化部100
と、各符号化部での符号化処理を制御する制御部10a
とを有している。
【0046】本実施の形態1の任意形状符号化装置10
00を構成するテキスチャー符号化部100は、入力端
子101aに供給された各フレームに対応するテキスチ
ャー信号Sgを、符号化処理の単位としての16×16
画素からなるブロック(画像空間)に対応するよう分割
して各ブロックに対応する画像データを出力するブロッ
ク化器101と、該ブロック化器101からの現処理フ
レームにおける対象ブロック(符号化の対象となるブロ
ック)のデータBgに対応する予測データ(予測ブロッ
クのデータ)Pgを生成する予測データ生成部100c
とを有している。
【0047】また、上記テキスチャー符号化部100
は、上記対象ブロックのデータBgとその予測ブロック
のデータPgとの差分データを残差ブロックのデータ
(予測誤差信号)Dgとして出力する第1の加算器10
2と、該第1の加算器102の出力Dgに情報圧縮処理
を施して圧縮残差ブロックのデータQgを出力する情報
圧縮器100aと、該情報圧縮器100aの出力Qgに
対して可変長符号化処理を施してテキスチャー符号化信
号Egを出力端子101bに出力する可変長符号化器
(VLC)111とを有している。
【0048】ここで、上記情報圧縮器100aは、上記
残差ブロックのデータDgに対して、このデータDgに
より形成される画像空間を構成する画素のうち、有意で
ない画素(非有意画素)の画素値を、所定の補填値
「0」と置き換える補填処理を、上記対象ブロックに対
応する形状信号Skに基づいて行う残差補填器103
と、この補填器103の出力(補填残差ブロックのデー
タ)PDgに対して離散コサイン変換処理を施すDCT
器104と、該DCT器104の出力Tgを量子化して
量子化係数を上記圧縮差分ブロックのデータQgとして
出力する量子化器105とから構成されている。なお、
上記離散コサイン変換処理は、上記16×16画素から
なるブロックを4分割して得られる8×8画素からなる
小ブロックを単位として行われる。
【0049】また、上記テキスチャー符号化部100
は、上記情報圧縮器100aの出力Qgに情報伸長処理
を施して伸長差分ブロックのデータITgを出力する情
報伸長器100bと、該伸長差分ブロックのデータIT
gを上記予測ブロックのデータPgと加算して再生ブロ
ックのデータRgを出力する第2の加算器110と、該
第2の加算器110の出力Rgに対して補填処理を施す
再生補填器112とを有している。ここで、上記情報伸
長器100bは、上記情報圧縮器100aの出力Qgを
逆量子化する逆量子化器108と、該逆量子化器108
の出力IQgに対して、周波数領域のデータを空間領域
のデータに変換する逆DCT処理を施して上記伸長差分
ブロックのデータITgを出力するIDCT器109と
から構成されている。
【0050】そして、上記再生補填器112は、上記再
生ブロックのうち、全ての画素が非有意画素である無効
ブロックについてのみ、非有意画素の画素値を補填値で
置き換える補填処理を行い、再生ブロックのうち、少な
くとも1つの画素が有意画素である有効ブロックに対し
ては、補填処理を行わず、補填処理を行うか否かの判定
は、上記形状符号化部10にて生成された、再生ブロッ
クの形状データRkに基づいて行う構成となっている。
ここで、有効ブロックは、上述したように物体に境界を
含む境界ブロックと、全ての画素が物体内に位置する非
透過ブロックを含むものである。
【0051】さらに、上記予測データ生成部100c
は、上記再生補填器112の出力(再生ブロックの補填
データ)PRgを、次処理フレームに対する参照画像デ
ータとして格納するフレームメモリ113と、上記フレ
ームメモリ113に格納されている現処理フレームに対
する参照画像データMg及び対象ブロックのデータBg
に基づいて、現処理フレームの対象ブロックに対応する
動きベクトルMVを求めて出力する動き検出器114
と、該動き検出器114からの動きベクトルMVに基づ
いて上記フレームメモリ113のアドレスを発生し、上
記現処理フレームに対する参照画像データMgから該ア
ドレスに対応するメモリ領域の画像データを上記予測ブ
ロックのデータPgとして出力する動き補償器115と
を有している。
【0052】なお、ここでは、テキスチャー符号化部1
00の構成についてのみ詳しく説明しているが、本実施
の形態の任意形状符号化装置1000における形状符号
化部10も、上記テキスチャー符号化部100とほぼ同
様な構成を有している。つまり、形状符号化部10は、
上記テキスチャー符号化部100における残差,再生補
填器を有しておらず、DCT器104及び量子化器10
5に代えて、各形状のブロック四分木の方法で形状信号
の圧縮符号化を行う算術符号化器を有し、逆量子化器1
05及び逆DCT器104からなる情報伸長器100b
に代えて、上記算術符号化器に対応する算術復号化器を
備えている。
【0053】次に動作について説明する。任意形状画像
信号が本任意形状符号化装置に入力されると、該任意形
状画像信号を構成する形状信号Skは形状符号化部10
にて算術符号化処理及び可変長符号化処理によりフレー
ム毎に順次符号化され、該任意形状画像信号を構成する
テキスチャー信号Sgはテキスチャー符号化部100に
て情報圧縮処理及び可変長符号化処理によりフレーム毎
に順次符号化される。
【0054】以下、テキスチャー符号化部100におけ
るテキスチャー信号の符号化処理について詳しく説明す
る。任意形状画像に対応するテキスチャー信号Sgが入
力画像信号としてテキスチャー符号化部100の入力端
子101aに供給されると、テキスチャー信号Sgはブ
ロック化器101にて、オブジェクト領域を分割する複
数のブロックの各々に対応するよう分割されて、各ブロ
ックに対応するデータBgとして出力される。
【0055】そして符号化処理の対象となる対象ブロッ
クのデータBgは動き検出器114に入力される。この
ときフレームメモリ113に格納してある過去の再生画
像(参照画像)のデータMgも動き検出器114に入力
される。すると、動き検出器114では、ブロックマッ
チングなどの方法で、現処理フレームに対する参照画像
データMgに基づいて、対象ブロックの画像データBg
に対し誤差の最も小さい画像データを有する予測ブロッ
クを与える動き変位情報が求められ、動きベクトルMV
が出力される。
【0056】この動きベクトルMVが動き補償器115
に供給されると、動き補償器115では、現処理フレー
ムに対応する参照画像データから、上記対象ブロックに
対する予測ブロックのデータPgが生成される。このと
き動きベクトルMVはまた可変長符号化器(VLC)1
11に送られ、可変長符号に変換されて出力端子101
bに出力される。
【0057】上記対象ブロックのデータBgと予測ブロ
ックのデータPgは、第1の加算器102での演算処理
により、これらの画像データの差分データが残差ブロッ
クのデータDgとして求められ、この残差ブロックのデ
ータDgは残差補填器103にて所定の方法で補填処理
が施され、該残差補填器103からは補填残差ブロック
のデータPDgが出力される。この残差補填器103に
よる補填処理では、残差ブロックに含まれる有意でない
画素(非有意画素)の画素値を所定の補填値「0」で置
換する。
【0058】なお、上記加算器102の前段に、ブロッ
ク化器101の出力(対象ブロックのデータ)Bgに対
する補填処理を形状信号Skに基づいて行う対象補填器
を設けてもよく、この場合は、この対象補填器では、対
象ブロックにおける境界部に位置する画素の画素値を平
滑化する。またこの対象補填器は、無効ブロックと境界
ブロックのうちの少なくとも境界ブロックに対する補填
処理を行う構成となっている。なお、この対象補填器で
の補填処理はこれに限るものではなく、物体の境界にあ
る有意なサンプル値を非有意画素の画素値と置き換える
処理を、物体外の非有意画素に対して繰り返し行っても
よい。
【0059】次に、上記補填残差ブロックのデータPD
gに対する情報圧縮処理が行われる。つまり、本実施の
形態では、上記データPDgはDCT器104にて離散
コサイン変換処理により周波数成分Tgに変換され、さ
らにこの周波数成分Tgは、量子化器105にて量子化
によって量子化係数Qgに変換され、圧縮ブロックのデ
ータとして出力される。この圧縮ブロックのデータQg
は、可変長符号化器(VLC)111にて可変長符号に
変換され、上記動きベクトルを含むその他のサイド情報
の符号化データと共に出力端子101bから、画像符号
化信号Egとして出力される。
【0060】本実施の形態では、対象ブロックの中で、
有意でないサンプルのみを含む無効ブロックについて
は、輝度信号と色差信号からなるテキスチャー信号を一
切受信側に送らない。つまり、テキスチャー符号化部1
00は、テキスチャー信号のうちの、無効ブロックに対
応する画像符号化信号は受信側に送信しないよう構成さ
れている。これにより送信側から受信側に伝送される符
号量を大幅に削減できる。
【0061】一方、上記圧縮ブロックのデータQgは、
情報伸長器100bにて情報伸長処理が施される。本実
施の形態では上記圧縮ブロックのデータQgは逆量子化
器108により逆量子化により周波数成分IQgに変換
され、さらにこの周波数成分IQgは、IDCT器10
9にて空間領域のデータITgに復元される。この空間
領域のデータITgが、上記補填残差ブロックのデータ
Dgに対する復元信号(伸長ブロックのデータ)であ
る。この伸長ブロックのデータITgは、第2の加算器
110にて上記予測ブロックのデータPgと加算され
て、再生ブロックのデータRgとして再生補填器112
に供給される。
【0062】この再生補填器112では、順次入力され
る再生ブロックのデータRgに対して、有意でないサン
プルのみからなる無効ブロックのデータに対して補填処
理を施して、該無効ブロックの各サンプルの値を定義す
る。一方、境界ブロックを含む有効な再生ブロックに対
しては補填処理を行わない。このとき再生補填器112
では、上記形状符号化部10からの再生ブロックの形状
データSk,つまり各再生ブロックのデータを構成する
サンプル値が有意か否かを示す情報に基づいて、各再生
ブロックに対する無効ブロックか否かの判定を行ってい
る。また本実施の形態では、無効ブロックを構成する各
画素の画素値,つまり輝度成分と色差成分の値を所定の
補填値「128」で置き換える。
【0063】なお、置換に用いる補填値は、フレーム毎
に変更してもよい。この場合、各フレームの補填値(輝
度信号の値のみあるいは輝度信号と色差信号の両方の
値)を可変長符号化器111によって符号化し受信側に
送る必要がある。また、上記無効ブロックに対する補填
処理は、無効ブロックに隣接する有効ブロックにおける
有意なサンプルの値を、有意でないサンプルの値と置き
換える処理を繰り返し行うものでもよい。
【0064】そして、再生補填器112からの出力(再
生ブロックの補填データ)PRgは、制御部10aから
のメモリ制御信号Cmに基づいてフレームメモリ113
に次処理フレームに対する参照画像データとして格納さ
れる。
【0065】このように本実施の形態1では、再生ブロ
ックの画像データRgに対する補填処理は、輝度と色差
信号に該当するデータをもたない無効ブロックについて
のみ行って、参照画像データとしてフレームメモリ11
3に格納するようにしたので、受信側では、再生時の復
号化処理における補填処理を大幅に削減できる。特に補
填処理が境界部分の画素値を補填値として用いるもので
ある場合には、任意形状の境界部を検索する必要がなく
なる。
【0066】なお、本実施の形態1では、情報圧縮処理
としては離散コサイン変換を用いるものを示したが、こ
れは、形状適応離散コサイン変換やサブバンドやウェー
ブレット等を用いるものでもよい。また、上記実施の形
態1では、上記残差補填器103は、補填処理の際に参
照する形状信号として、圧縮されていない形状信号Sk
を用いているが、これは形状符号化部10にて、圧縮さ
れた形状信号の伸長処理により得られた伸長形状信号
(再生ブロックのデータ)Rkを用いてもよい。
【0067】また、上記実施の形態1では、上記第1補
填器103は、第1加算器102の出力側に配置されて
いるが、これは第1加算器102の前段に設けてもよ
く、この場合、残差ブロックのうちの境界ブロックの画
像信号については常に補填処理を施した後に、情報源圧
縮処理が施されることとなる。このため、復号化側で
は、境界ブロックのデータを構成するすべてのサンプル
値が定義されたものとなっており、境界ブロックに対す
る補填処理を行う必要がなくなる。また、この場合も、
補填処理の際に参照する形状信号としては、圧縮されて
いない形状信号を用いているが、これは形状符号化部に
て、圧縮された形状信号の伸長処理により得られた伸長
形状信号を用いてもよい。
【0068】(実施の形態2)図3は本発明の実施の形
態2による画像処理装置として任意形状復号化装置を説
明するためのブロック図であり、図3(a) はその全体構
成を示し、図3(b) は該装置を構成するテキスチャー復
号化部の構成を示している。本実施の形態2の任意形状
復号化装置(画像復号化装置)2000は、上記実施の
形態1の任意形状符号化装置1000から出力される、
各フレームに対応する形状符号化信号Ek及びテキスチ
ャー符号化信号Egを、オブジェクト領域を分割する各
ブロック毎に復号化する構成となっている。
【0069】この任意形状復号化装置2000は、上記
任意形状符号化装置1000からの形状符号化信号Ek
を入力端子21aに受け、これに対してデータ解析処理
及び算術復号化処理をフレーム毎に施して形状再生信号
Rkを出力端子21bに出力する形状復号化部20と、
上記任意形状符号化装置1000からのテキスチャー符
号化信号Egを入力端子201aに受け、これに対し
て、データ解析処理及び情報伸長処理をフレーム毎に施
してテキスチャー再生信号を出力端子201bに出力す
るテキスチャー復号化部200と、該各復号化部20,
200での復号化処理を制御する制御部20aとを有し
ている。
【0070】このテキスチャー復号化部200は、復号
化処理の対象となる対象領域(対象ブロック)に対応す
るテキスチャー符号化信号Egを受け、該テキスチャー
符号化信号Egを解析して可変長復号化するデータ解析
器202と、該データ解析器202の出力Qgに対して
伸長処理を施して現処理フレームの伸長ブロックのデー
タITgを出力する情報伸長器200aと、該情報伸長
器200aからの伸長残差ブロックのデータITgと、
該伸長残差ブロックに対応する予測ブロックのデータP
gとを加算する加算器206とを有し、該加算器の出力
Rgをテキスチャー再生信号として出力する構成となっ
ている。
【0071】ここで、上記情報伸長器200aは、上記
データ解析器202の出力Qgに逆量子化処理を施す逆
量子化器204と、該逆量子化器204の出力IQgに
対して逆周波数変換処理の一種であるIDCT(逆離散
コサイン変換)処理を施して伸長ブロックのデータIT
gを出力するIDCT変換器205とから構成されてい
る。
【0072】また、上記テキスチャー復号化部200
は、上記加算器206から出力される再生ブロックのデ
ータRgに対して、形状符号化部20からの形状再生信
号Rkに基づいて補填処理を施して、補填再生ブロック
のデータPRgを出力する補填器208と、該補填再生
ブロックのデータPRg及びデータ解析器202からの
動きベクトルMVに基づいて、上記予測ブロックのデー
タPgを生成する予測信号生成部200bとを有してい
る。
【0073】ここで、上記形状再生信号Rkは、再生ブ
ロックを構成する画素が物体内に位置するか物体外に位
置するかを示す情報であり、上記補填器208は、この
形状再生信号Rkを制御信号として受け、再生ブロック
のうち、全ての画素が非有意画素である無効ブロックに
ついては非有意画素の画素値を所定の補填値で置き換え
る補填処理を行い、再生ブロックのうち、少なくとも1
つの画素が有意画素である有効ブロックに対しては上記
補填処理を行わない構成となっている。なお、上記、有
効ブロックは、物体の境界を含む境界ブロックと、全て
の画素が物体内に位置する物体内ブロックを含むもので
ある。
【0074】また、上記予測信号生成部200bは、制
御部20aからのメモリ制御信号Cmにより、上記補填
器208からの補填再生ブロックのデータPBgを次処
理フレームの参照画面の画像データ(参照画像データ)
として各ブロックに対応する記憶領域に格納するフレー
ムメモリ209と、該フレームメモリ209に格納され
ている現処理フレームの参照画像データである格納デー
タMgと、上記データ解析器202にて復号化された対
象ブロックに対応する動きベクトルMVとに基づいて、
該フレームメモリ209のアドレスを発生し、このアド
レスにより、上記フレームメモリ209内の格納データ
Mgから現処理フレームの伸長差分ブロックに対応する
予測ブロックのデータPgを生成する動き補償器210
とを有している。
【0075】なお、ここでは、テキスチャー復号化部2
00の構成についてのみ詳しく説明しているが、本実施
の形態2の任意形状復号化装置2000における形状復
号化部20も、上記テキスチャー復号化部200とほぼ
同様な構成を有している。つまり、形状復号化部20
は、上記テキスチャー復号化部200における補填器を
有しておらず、逆DCT器205及び逆量子化器204
に代えて、各形状のブロック四分木の方法で形状符号化
信号の圧縮復号化を行う算術復号化器を有している点の
み異なる。
【0076】次に動作について説明する。上記形状符号
化信号Ek及びテキスチャー符号化信号Egが本任意形
状復号化装置2000に入力されると、該形状符号化信
号Ekは形状復号化部20にてデータ解析処理及び算術
符号化処理によりフレーム毎に順次復号化され、上記テ
キスチャー符号化信号Egはテキスチャー復号化部20
0にてデータ解析処理及び情報伸長処理によりフレーム
毎に順次復号化される。
【0077】以下、テキスチャー復号化部200におけ
るテキスチャー符号化信号Egの復号化処理について詳
しく説明する。上記テキスチャー符号化信号Egが入力
端子201aに入力されると、データ解析器202での
解析により、図1に示すテキスチャー符号化部100に
おける圧縮残差ブロックのデータQg及び動きベクトル
MV等が生成される。このデータ解析器202からの圧
縮残差ブロックのデータQgは、情報伸長器200aに
出力され、上記データ解析器202からの動きベクトル
MVは動き補償器210に出力される。
【0078】上記情報伸長器200aでは、圧縮残差ブ
ロックのデータQgに情報伸長処理を施して、上記テキ
スチャー符号化部100における残差ブロックの補填デ
ータPDgを伸長残差ブロックのデータITgとして復
元する。本実施の形態では、上記圧縮残差ブロックのデ
ータQgは、逆量子化器204にて逆量子化処理により
周波数領域のデータIQgに変換され、このデータIQ
gが逆離散コサイン変換(IDCT)器205にて空間
領域のデータに変換されて、上記伸長残差ブロックのデ
ータITgとして出力される。
【0079】また、動き補償器210では、上記データ
解析器202からの動きベクトルMVに基づいて、フレ
ームメモリ209をアクセスするためのアドレスが生成
され、このアドレスに基づいて、フレームメモリ209
における現処理フレームに対する参照画像データである
格納データMgから予測ブロックのデータPgが生成さ
れる。そして加算器206では、この予測ブロックのデ
ータPgと伸長残差ブロックのデータITgとの加算処
理が行われ、この加算処理により再生ブロックのデータ
Rgがテキスチャー再生信号として出力端子201bに
出力される。
【0080】またこのとき補填器208では、順次入力
される再生ブロックのデータのうちの、有意でないサン
プルのみからなる無効再生ブロックのデータについての
み補填処理が行われて、該無効再生ブロックの各サンプ
ルの値が定義される。一方、上記補填器208では、境
界ブロック及び物体内ブロックとしての有効な再生ブロ
ックに対しては上記補填処理は行われない。なお、この
とき上記補填器208では、各再生ブロックのサンプル
値が有意か否かを示す、形状復号化部20からの再生形
状信号Rkに基づいて、再生ブロックが無効ブロックで
あるか有効ブロックであるかの判定を行っている。また
本実施の形態では、無効ブロックを構成する各画素に対
応する補填値(つまり輝度成分と色差成分の補填値)
は、所定の補填値「128」としている。なお、上記補
填処理に用いる補填値は、フレーム毎に変更してもよ
い。この場合、各フレームの補填値(輝度信号の値のみ
あるいは輝度信号と色差信号の両方の値)は、上記テキ
スチャー符号化信号Egに含まれ、データ解析器202
によって該符号化信号Egから抽出されて補填器208
に送られることとなる。
【0081】また、上記無効ブロックに対する補填処理
は、無効ブロックに隣接する有意ブロックにおける有意
なサンプルの値を、有意でないサンプルの値と置き換え
る処理を繰り返し行うものでもよい。そしてこのように
補填処理を施した再生ブロックのデータPRgが次処理
フレームの参照画像データとしてフレームメモリ209
に格納される。
【0082】このように本実施の形態2の画像復号化装
置では、再生ブロックのデータRgに対する補填処理
を、輝度信号と色差信号としてのデータをもたない無効
ブロックについて行い、少なくとも1つの有意画素を含
む有効ブロックについては行わないので、復号化処理に
おける補填処理を大幅に削減できる。
【0083】(実施の形態3)図4は本発明の実施の形
態3による画像処理装置として任意形状符号化装置を説
明するための図であり、図4(a) はその全体構成を示
し、図4(b) は該装置を構成するテキスチャー符号化部
の構成を示している。この実施の形態3の任意形状符号
化装置(画像符号化装置)3000は、上記実施の形態
1の任意形状符号化装置1000と同様、上記デジタル
画像信号に含まれる、物体の形状を示す形状信号Skを
入力端子31aに受け、これに対して算術符号化処理及
び可変長符号化処理を各フレーム毎に順次施して形状符
号化信号Ekを出力端子31bに出力する形状符号化部
30と、上記デジタル画像信号に含まれる、該物体を階
調カラー表示するための、輝度信号及び色差信号からな
るテキスチャー信号Sgを入力端子301aに受け、こ
れに対して情報圧縮処理及び可変長符号化処理を各フレ
ーム毎に順次施してテキスチャー符号化信号Egを出力
端子301bに出力するテキスチャー符号化部300
と、上記各符号化部での符号化処理を制御する制御部3
0aとを有している。
【0084】ここで、上記形状符号化部30及び制御部
30aは上記実施の形態1の形状符号化部10及び制御
部10aと全く同一の構成となっている。また、上記テ
キスチャー符号化部300は、上記実施の形態1の再生
補填器112に代えて、フレームメモリ313への再生
ブロックのデータRgの供給を、形状符号化部30から
の形状再生信号Rkに基づいて制御するスイッチ33
1、及び制御部30aからの初期化制御信号Ciに基づ
いて、フレームメモリ313に格納されている前処理フ
レームに対する参照画像データを初期化する初期化器3
30を有している点のみ、上記実施の形態1のテキスチ
ャー符号化部100と異なっている。
【0085】つまり、この実施の形態3のテキスチャー
符号化部300を構成するブロック化器301,情報圧
縮器300a,情報伸長器300b,予測信号生成部3
00c,第1,第2の加算器302,310,及び可変
長符号化器(VLC)311は、上記実施の形態1の画
像符号化装置100の対応する構成要素101,100
a,100b,100c,102,110,及び111
と全く同一の構成となっている。ここで、上記情報圧縮
器300aを構成する補填器303,DCT器304,
量子化器305も、実施の形態1の情報圧縮器100a
を構成する残差補填器103,DCT器104,量子化
器105と同一構成であり、上記情報伸長器300bを
構成する逆量子化器308及びIDCT器309も、上
記実施の形態1の情報伸長器100bを構成する逆量子
化器108及びIDCT器109と同一構成である。さ
らに、上記予測信号生成部300cを構成する動き検出
器314,動き補償器315,フレームメモリ313
も、上記実施の形態1の予測信号生成部100cを構成
する動き検出器114,動き補償器115,フレームメ
モリ113と同一構成となっている。
【0086】次に動作について説明する。この実施の形
態3の任意形状符号化装置3000の基本的動作は、上
記実施の形態1の任意形状符号化装置1000と同一で
あるので、実施の形態1の装置とは異なる動作について
のみ説明する。
【0087】本実施の形態3では、任意形状(物体)の
画像に対応する1フレーム分の画像信号Sgを符号化す
る際に、まず、初期化器330により、制御部30aか
らの初期化制御信号Ciに応じたタイミングでフレーム
メモリ313の初期化が行われる。例えば、フレームメ
モリの初期化は1フレームに対応するテキスチャー信号
Sgの符号化処理が終了した時点で行う。また、初期化
によりフレームメモリに1画面の輝度信号及び色差信号
として書き込まれる画素値は、すべて所定値「128」
としている。
【0088】次に、第2加算器310からの再生ブロッ
クのデータRgのうちで、少なくとも一つ有意なサンプ
ルを含む有効ブロックのデータのみが、初期化されたフ
レームメモリ313に上書きされる。つまり、フレーム
メモリ313に対する上書きの制御は、スイッチ制御信
号に基づいたスイッチ311の開閉により行われ、上書
きを行わないときは、上記スイッチ331が非導通状態
とされ、上書き行うときには、上記スイッチ331が導
通状態とされる。ここで、上記スイッチ制御信号は、上
記加算器310から出力される再生ブロックのデータが
有効ブロックのデータであるかどうかを示す、形状符号
化部30からの再生形状信号Rkである。
【0089】このような構成の実施の形態3では、各フ
レームに対応する画像信号を符号化する際に、まずフレ
ームメモリ313に初期値を書き込み、その後、再生ブ
ロックのデータのうちの、少なくとも一つ有意なサンプ
ルを含める有効ブロックのデータのみを、初期化された
フレームメモリ313に上書きするようにしたので、境
界ブロックだけでなく無効ブロックに対しても補填処理
を行う必要がなくなり、再生時の復号化処理における補
填処理を省略できる。なお、上記実施の形態3では、上
記初期化によりフレームメモリ313に書き込まれる初
期値としては、固定値「128」を用いたが、固定値は
この値に限るものではない。
【0090】また、テキスチャー符号化部300は、初
期値として上記のような固定値を用いるものに限らず、
上記初期値として、過去に再生されたフレームにおける
有意なサンプル値の平均値を用いるものでもよい。さら
に、テキスチャー符号化部300では、各フレーム毎に
初期値(輝度信号のみまはた輝度信号と色差信号の両
方)を所定の方法で決定し、各フレームに対応する初期
値を可変長符号化器311によって符号化して受信側に
送るようにしてもよい。
【0091】(実施の形態4)図5は本発明の実施の形
態4による画像処理装置として任意形状復号化装置を説
明するための図である。図5(a) はその全体構成を示
し、図5(b) は該装置を構成するテキスチャー復号化部
の構成を示している。この実施の形態4の任意形状復号
化装置(画像復号化装置)4000は、上記実施の形態
3の任意形状符号化装置3000から出力される、各フ
レームに対応する形状符号化信号Sk及びテキスチャー
符号化信号Ekを、オブジェクト領域を分割する各ブロ
ック毎に復号化する構成となっている。
【0092】つまり、この実施の形態4の任意形状復号
化装置4000は、上記実施の形態2と同様、上記形状
符号化信号Skを入力端子41aに受け、これに対して
データ解析処理及び算術復号化処理を各フレーム毎に施
して形状再生信号Rkを出力端子41bに出力する形状
復号化部30と、上記テキスチャー符号化信号Ekを入
力端子401aに受け、これに対してデータ解析処理及
び情報伸長処理を各フレーム毎に施してテキスチャー再
生信号Rgを出力端子401bに出力するテキスチャー
復号化部400と、上記各復号化部での復号化処理を制
御する制御部40aとを有している。
【0093】ここで、上記形状復号化部40及び制御部
40aは、上記実施の形態2の形状復号化部20及び制
御部20aと全く同一の構成となっており、また、上記
テキスチャー復号化部400は、上記実施の形態2の補
填器208に代えて、再生ブロックのデータRgのフレ
ームメモリ409への供給を、形状符号化部40からの
再生形状信号Rkに基づいて制御するスイッチ422、
及び上記制御部40aからの初期化制御信号Ciに基づ
いてフレームメモリ409に格納されている前処理フレ
ームに対する参照画像データを初期化する初期化器42
0を有している点のみ、上記実施の形態2のテキスチャ
ー復号化部200と異なっている。
【0094】つまり、この実施の形態4のテキスチャー
復号化部400を構成するデータ解析器402,情報伸
長器400a,加算器406,予測信号生成部400b
は、上記実施の形態2のテキスチャー復号化部210に
おける対応する構成要素202,200a,206,及
び200bと全く同一の構成となっている。ここで、上
記情報伸長器400aを構成する逆量子化器404及び
逆DCT器405は、実施の形態2の情報伸長器200
aを構成する逆量子化器204,逆DCT器205と同
一構成であり、また上記予測信号生成部400bを構成
する動き補償器410及びフレームメモリ409は、上
記実施の形態2の予測信号生成部200bを構成する動
き補償器210及びフレームメモリ209と同一構成と
なっている。
【0095】次に動作について説明する。この実施の形
態4の任意形状符号化装置4000の基本的動作は、上
記実施の形態2の任意形状符号化装置2000と同一で
あるので、実施の形態2の装置とは異なる動作について
のみ説明する。本実施の形態4では、任意形状(物体)
の画像に対応する1フレーム分の画像符号化信号Egを
復号化する際に、まず、初期化器420により、制御部
40aからの初期化制御信号Ciに応じたタイミングで
フレームメモリ409の初期化が行われる。例えば、フ
レームメモリの初期化は1フレームに対応する画像符号
化信号の復号化処理が終了した時点で行う。また、初期
化によりフレームメモリに1画面の輝度信号及び色差信
号として書き込まれる画素値は、すべて所定値「12
8」としている。
【0096】次に、加算器406からの再生ブロックの
画像信号のデータRgのうちで、少なくとも一つ有意な
サンプルを含む有効ブロックのデータのみが、初期化さ
れたフレームメモリ409に上書きされる。つまり、フ
レームメモリ409に対する上書きの制御は、スイッチ
制御信号に基づいたスイッチ422の開閉により行わ
れ、上書きを行わないときには、上記スイッチ422が
非導通状態とされ、上書きを行うときには、上記スイッ
チ422が導通状態とされる。ここで、上記スイッチ制
御信号は、上記加算器406から出力される再生ブロッ
クのデータが有効ブロックのデータであるかどうかを示
す、形状復号化部40からの再生形状信号Rkである。
【0097】このような構成の実施の形態4では、フレ
ームメモリ409をあらかじめ所定の値で初期化したの
ち、再生ブロックのうちの、少なくとも一つ有意なサン
プルを含める有効ブロックのデータのみを初期化された
フレームメモリ409に上書きして格納するので、境界
ブロックだけでなく無効ブロックに対しても補填処理を
施す必要がなくなり、再生ブロックのデータに対する補
填処理を省略できるという効果がある。
【0098】なお、上記実施の形態4では、上記初期化
によりフレームメモリに書き込まれる初期値としては、
固定値「128」を用いたが、固定値はこの値に限るも
のではない。また、テキスチャー復号化部400は、初
期値として上記のような固定値を用いるものに限らず、
上記初期値として、過去に再生されたフレームにおける
有意なサンプル値の平均値を用いるものでもよい。さら
に、テキスチャー復号化部400では、画像符号化信号
に含まれる、各フレームに対応する初期値(輝度信号の
みまはた輝度信号と色差信号の両方)を抽出し、各フレ
ーム毎に初期値を切り換えるようにしてもよい。
【0099】(実施の形態5)図6(a) 及び図7は、本
発明の実施の形態5による画像処理装置として任意形状
階層符号化装置を説明するためのブロック図であり、図
6(a) は、その全体構成を示し、図7は該装置を構成す
るテキスチャー階層符号化部の構成を示している。本実
施の形態5の画像符号化装置(任意形状階層符号化装
置)5000は、表示画面を構成する個々の物体(任意
形状の画像)に対応する各フレームのデジタル画像信号
(任意形状画像信号)に対して、該物体を含む領域(オ
ブジェクト領域)を分割するブロック毎に階層符号化処
理を施す構成となっている。
【0100】上記画像符号化装置5000は、上記デジ
タル画像信号に含まれる、物体の形状を示す形状信号S
kを入力端子51aに受け、これに対して算術符号化処
理及び可変長符号化処理をフレーム毎に階層的に施して
高解像度形状符号化信号HEk及び低解像度形状符号化
信号LEkを出力端子55及び53に出力する形状階層
符号化部50と、上記デジタル画像信号に含まれる、該
物体を階調カラー表示するための、輝度信号及び色差信
号からなるテキスチャー信号Sgを入力端子501aに
受け、これに対して情報圧縮処理及び可変長符号化処理
をフレーム毎に階層的に施して高解像度テキスチャー符
号化信号HEg及び低解像度テキスチャー符号化信号L
Egを出力端子505,535に出力するテキスチャー
階層符号化部500と、上記各符号化部での階層符号化
処理を制御する制御部50aとを有している。
【0101】ここで、上記テキスチャー階層符号化部5
00は、上記テキスチャー信号Sgである高解像度テキ
スチャー信号HSgに対して、情報圧縮処理及び可変長
符号化処理を施して、高解像度符号化信号HEgを生成
する高解像度符号化部550aと、上記テキスチャー信
号Sgをダウンサンプルして低解像度テキスチャー信号
LSgを生成する第1の解像度変換器520と、該低解
像度テキスチャー信号LSgに対して情報圧縮処理及び
可変長符号化処理を行って低解像度符号化信号LEgを
生成する低解像度符号化部550bとを有している。
【0102】この低解像度符号化部550bは、上記実
施の形態1のテキスチャー符号化部100と同様、低解
像度テキスチャー信号LSgをブロック化するブロック
化器531,現処理フレームにおける対象ブロックに対
応する予測ブロックのデータLPgを生成する予測信号
生成部500f,対象ブロックのデータLBgと予測ブ
ロックのデータLPgの差分データを残差ブロックのデ
ータLDgとして求める第1の加算器532,該残差ブ
ロックのデータLDgに情報圧縮処理を施して圧縮残差
ブロックのデータLQgを出力する第1の情報圧縮器
(ENC1)500d,及び該圧縮残差ブロックのデー
タLQgを可変長符号化して低解像度符号化信号LEg
を出力する第1の可変長符号化器(VLC1)534を
有している。ここで、上記第1の情報圧縮器500d
は、実施の形態1の情報圧縮器100aと同様、残差補
填器,DCT器,及び量子化器からなり、この残差補填
器は、形状階層符号化部50からの低解像度形状信号L
Skに基づいて、残差ブロックに対する補填処理を行う
構成となっている。
【0103】また、上記低解像度符号化部550bは、
上記圧縮残差ブロックのデータLQgを伸長して伸長残
差ブロックのデータLITgを復元する第1の情報伸長
器(DEC1)500e,伸長残差ブロックのデータL
ITgと予測ブロックのデータLPgとの加算処理によ
り再生ブロックのデータLPRgを出力する第2の加算
器537,該再生ブロックのデータLPRgに、形状階
層符号化部50からの低解像度再生形状信号LRkに基
づいて補填処理を施して、再生ブロックの補填データL
PRgを上記予測信号生成部500fに出力する第1の
再生補填器(PAD1)538とを有している。ここで
第1の情報伸長器500eは実施の形態1のものと同一
構成となっている。
【0104】そしてさらに、上記低解像度符号化部55
0bは、上記再生ブロックの補填データLPRgの解像
度をアップサンプル処理により変換して、その解像度が
高解像度テキスチャー信号HSgの解像度と等しい解像
度変換画像データTPRgを生成する第2の解像度変換
器525を有している。
【0105】なお、上記低解像度符号化部550bにお
ける上記予測信号生成部500fは、上記実施の形態1
の予測信号生成部100cを構成する動き検出器11
4,動き補償器115,及びフレームメモリ113と同
一構成の、第1の動き検出器(ME1)541,第1の
動き補償器(MC1)540,及び第1のフレームメモ
リ(FM1)539を有している。
【0106】一方、上記高解像度符号化部550aは、
上記実施の形態1のテキスチャー符号化部100と同
様、高解像度テキスチャー信号HSgをブロック化する
第2のブロック化器501,現処理フレームにおける対
象ブロックに対応する予測ブロックのデータAPgを生
成する予測信号生成部500c,対象ブロックのデータ
HBgと予測ブロックのデータAPgの差分データを残
差ブロックのデータHDgとして求める第3の加算器5
02,該残差ブロックのデータHDgに情報圧縮処理を
施して圧縮残差ブロックのデータHQgを出力する第2
の情報圧縮器(ENC2)500a,及び圧縮残差ブロ
ックのデータHQgを可変長符号化して高解像度符号化
信号HEgを出力する第2の可変長符号化器(VLC
2)504を有している。ここで、上記第2の情報圧縮
器500aは、実施の形態1の情報圧縮器100aと同
様、残差補填器,DCT器,及び量子化器からなり、こ
の残差補填器は、形状階層符号化部50からの高解像度
形状信号HSkに基づいて、残差ブロックに対する補填
処理を行う構成となっている。
【0107】また、上記高解像度符号化部550aは、
上記圧縮残差ブロックのデータHQgを伸長して伸長残
差ブロックのデータHITgを出力する第2の情報伸長
器(DEC2)500b,伸長残差ブロックのデータH
ITgと上記予測ブロックのデータAPgの加算により
再生ブロックのデータHRgを出力する第4の加算器5
07,該再生ブロックのデータHRgに、上記形状階層
符号化部50からの高解像度再生形状信号HRkに基づ
いて補填処理を施して、再生ブロックの補填データHP
Rgを上記予測信号生成部500cに出力する第2の再
生補填器(PAD2)508とを有している。ここで、
第2の情報伸長器は、上記実施の形態1のものと同一構
成となっている。
【0108】そして、この予測信号生成部500cは、
上記実施の形態1の予測信号生成部100cの動き検出
器114,動き補償器115,及びフレームメモリ11
3と同一構成の、動き検出器511,動き補償器51
0,及びフレームメモリ509を有するとともに、低解
像度符号化部550bにおける第2の解像度変換器52
5からの解像度変換画像データTPRgと第2の動き補
償器510からの予測ブロックのデータHPgとの重付
き平均化処理を行って、上記予測ブロックの重付き平均
化データAPgを出力する重付き平均化器524を有し
ている。
【0109】なお、ここでは、テキスチャー階層符号化
部500の構成についてのみ詳しく説明しているが、本
実施の形態の任意形状階層符号化装置5000における
形状階層符号化部50も、上記テキスチャー階層符号化
部500とほぼ同様な構成を有している。つまり、上記
形状階層符号化部50は、上記テキスチャー階層符号化
部500における第1,第2の再生補填器を有しておら
ず、また該符号化部500における高解像度及び低解像
度テキスチャー信号に対して、補填処理,DCT処理及
び量子化処理を行う高解像度側及び低解像度側の情報圧
縮器500a,500bに代えて、高解像度及び低解像
度形状信号に対して、各形状のブロック四分木の方法
で、高解像度及び低解像度形状信号の圧縮符号化処理を
行う高解像度側及び低解像度側の算術符号化器を有し、
さらに上記符号化部500における逆量子化処理及び逆
DCT処理を行う高解像度及び低解像度側の情報伸長器
500b,500eに代えて、上記各算術符号化器に対
応する高解像度及び低解像度側の算術復号化器を備えて
いる。
【0110】次に動作について説明する。表示画面を構
成する所定の物体を表示するためのデジタル画像信号が
任意形状階層符号化装置5000に入力されると、該デ
ジタル画像信号に含まれる形状信号Sk及びテキスチャ
ー信号Sgは、それぞれ形状階層符号化部50及びテキ
スチャー階層符号化部500にてフレーム毎に階層符号
化処理が施される。
【0111】すなわち、上記テキスチャー符号化部50
0では、その入力端子501aに上記テキスチャー信号
Sgが入力されると、このテキスチャー信号Sgは第1
の解像度変換器520にてダウンサンプル処理により低
解像度テキスチャー信号LSgに変換される。
【0112】一般に入力画像信号に対するダウンサンプ
ル処理は、入力画像信号に対応する、K×L個のサンプ
ル(画素)からなる画像空間(1フレーム)における所
定画素が間引かれて、K/2×L/2の画素からなる間
引き画像空間が生成されるよう行われる。本実施の形態
では、テキスチャー信号Sgの高周波成分をローパスフ
ィルタにより除去した後、該テキスチャー信号Sgを構
成するサンプル値を、1サンプルおきに間引く処理を行
って、間引き画像空間を形成する低解像度テキスチャー
信号LSgを生成するようにしている。また、このよう
なテキスチャー信号Sgに対する間引き処理は、上記形
状信号Skに対しても上記形状階層符号化部50にて同
様に行われる。なお、ここでは、ダウンサンプル処理を
1/2の比率で行う場合を示しているが、ダウンサンプ
ル処理は1/2以外の比率で行ってもよい。
【0113】次に、上記低解像度符号化部550bには
上記低解像度テキスチャー信号LSgが入力され、上記
高解像度符号化部550aには、テキスチャー信号Sg
が間引き処理が施されずにそのまま高解像度テキスチャ
ー信号HSgとして入力される。
【0114】上記低解像度符号化部550bでは、低解
像度テキスチャー信号LSgは、第1のブロック化器5
31にて、物体を含むオブジェクト領域を分割する複数
のブロックの各々に対応するよう分割されて、ブロック
化画像データLBgとして出力される。ここでは、上記
ブロックは8×8画素からなる領域としている。
【0115】続いて、現処理フレームにおける符号化処
理の対象となる対象ブロックの画像データLBgは、第
1の動き検出器(ME1)541に入力される。このと
き第1のフレームメモリ(FM1)539に参照画像デ
ータとして格納してある過去の再生画像(すでに符号化
処理が施された前処理フレームの画像)LMgも上記第
1の動き検出器541に入力される。すると、第1の動
き検出器(MC1)541では、ブロックマッチングな
どの方法で、上記参照画像データLMgに基づいて、対
象ブロックのデータLBgに対して誤差の最も小さい画
像データを有する予測ブロックを与える動き変位情報が
求められ、第1の動きベクトルLMVとして出力され
る。
【0116】この第1の動きベクトルLMVが第1の動
き補償器540に供給されると、動き補償器540で
は、参照画像データLMgから、上記対象ブロックに対
する予測ブロックのデータLPgが生成される。このと
き動きベクトルLMVは第1の可変長符号化器(VLC
1)534に送られ、可変長符号に変換されて出力され
る。
【0117】上記対象ブロックのデータLBgと予測ブ
ロックのデータLPgは、第1の加算器532での演算
処理により、これらの画像データの差分データが残差ブ
ロックのデータLDgとして求められ、この残差ブロッ
クのデータLDgは、第1の情報圧縮器500dにて、
上記実施の形態1と同様に、低解像度形状符号化信号L
Skを用いた補填処理,DCT処理,及び量子化処理が
施され、圧縮残差ブロックのデータLQgが出力され
る。この圧縮残差ブロックのデータLQgは、第1の可
変長符号化器(VLC1)111にて可変長符号に変換
され、上記動きベクトルLMVを含むその他のサイド情
報の符号化データと共に出力端子535から、低解像度
符号化信号LEgとして出力される。
【0118】このとき、上記圧縮残差ブロックのデータ
LQgは、情報伸長器500eにて実施の形態1の情報
伸長器100bと同様な情報伸長処理により伸長残差ブ
ロックのデータLITgに復元される。さらに、この伸
長残差ブロックのデータLITgは、第1の加算器53
7にて上記予測ブロックのデータLPgと加算されて、
再生ブロックのデータLRgとして第1の再生補填器5
38に供給される。
【0119】この第1の再生補填器538では、順次入
力される再生ブロックのデータのうちの、有意でないサ
ンプルのみからなる無効ブロックのデータに対して補填
処理を施して、該無効ブロックの各サンプルの値を定義
する。一方、上記再生ブロックのうちの、境界ブロック
を含む有効な再生ブロックのデータに対しては補填処理
を行わない。このとき上記第1の再生補填器538で
は、各再生ブロックが無効ブロックであるか有効ブロッ
クであるかの判定を、形状階層符号化部50からの低解
像度再生形状信号LRkに基づいて行っている。また本
実施の形態5では、無効ブロックを構成する各画素に対
応する画素値,つまり輝度成分と色差成分の値を所定の
補填値「128」で置き換えるようにしている。
【0120】なお、置換に用いる補填値は、フレーム毎
に変更してもよい。この場合、各フレームに対応する補
填値(輝度信号の値のみあるいは輝度信号と色差信号の
両方の値)を第1の可変長符号化器535によって符号
化し受信側に送る必要がある。また、上記無効ブロック
に対する補填処理は、無効ブロックに隣接する有意ブロ
ックにおける有意なサンプルの値を、有意でないサンプ
ルの値と置き換える処理を繰り返し行うものでもよい。
【0121】そして、上記第1の再生補填器538から
の再生ブロックの補填データLPRgは第1のフレーム
メモリ539に、次処理フレームに対する参照画像デー
タとして格納されるとともに、上記第2の解像度変換器
525に供給される。この解像度変換器525では、上
記再生ブロックの補填データLPRgは、そのアップサ
ンプル処理によりその解像度が高解像度テキスチャー信
号HSgの解像度と等しくなるよう変換されて、解像度
変換データTPRgとして出力される。
【0122】一方、上記高解像度テキスチャー信号HS
gは上記高解像度符号化部550aにて、上記低解像度
テキスチャー信号LSgと同様な階層符号化処理が施さ
れる。この高解像度テキスチャー信号HSgに対する符
号化処理は、現処理フレームにおける対象ブロックに対
応する予測ブロックのデータを生成する処理のみ異なっ
ている。
【0123】つまり、上記予測ブロックのデータの生成
処理は、第2の動き補償器510にて動き補償により得
られた時間予測信号(つまり高解像度符号化部550a
にて生成された予測ブロックのデータ)HPgに加え
て、低解像度符号化部550bにて生成された再生ブロ
ックの補填データLPRgを空間予測信号として用いて
行われる。
【0124】ここでは、上記空間予測信号LPRgとし
ての再生ブロックの補填データは、テキスチャー信号S
gをダウンサンプルして得られる低解像度テキスチャー
信号LSgに基づいて生成したものであるため、時間予
測信号HPgとの間での演算処理を行うには、空間予測
信号を画素値の補間によりアップサンプリングする必要
がある。従って、図7に示す第2の解像度変換器525
では、第1の再生補填器538の出力である再生ブロッ
クの補填データ(空間予測信号)LPRgに補間処理を
施している。この変換器525では、偶数タップのフィ
ルタを用いて補間値を生成し、空間予測信号を構成する
画素を補間している。
【0125】このように低解像度符号化部550bで生
成された再生ブロックの補填データ(空間予測信号)に
アップサンプリングを施して得られる解像度変換データ
TPRgは、時間予測信号HPgとともに重付き平均化
器524に入力され、該重付き平均化器524では、時
間予測信号と解像度変換データTPRgとが重付き平均
化処理により、重付き平均予測データAPgに変換され
て上記第3及び第4の加算器502及び507に出力さ
れる。
【0126】本実施の形態では、空間予測信号に対する
時間予測信号の重付け比率として1:0、0:1、1/
2:1/2のいずれかをフレーム毎に選択して用いてい
るが、これ以外の比率で重付け平均化処理を行ってもよ
い。なお、この実施の形態5では、高解像度符号化部5
50aにおける第3の加算器502には、対象ブロック
に対応する予測ブロックのデータAPgとして、上記の
ように重付け平均化器524での時間予測信号と解像度
変換データとの重み付け平均により得られる重付け平均
予測データを供給しているが、上記重付け平化器524
の代わりに、時間予測信号と解像度変換データのいずれ
かを選択する選択スイッチを設け、上記第3の加算器に
は、この選択スイッチの出力を供給するようにしてもよ
い。
【0127】また、この実施の形態5では、空間予測信
号としては、第1の補填器538の出力LPRgを用い
ているが、空間予測信号には、第1のフレームメモリ5
39から第1の補償器540に出力される、該フレーム
メモリの格納データLMgを用いてもよい。
【0128】図8は、低解像度符号化部550bにて生
成された再生ブロックの補填データLPRgから、高解
像度符号化部550bにて利用する解像度変換データT
PRgを生成する処理を模式的に示す図である。
【0129】図中、901は、高解像度対象ブロックの
データHBgにより形成される画像空間(高解像度オブ
ジェクト領域)、902は低解像度再生ブロックの補填
データLPRgにより形成される画像空間(低解像度オ
ブジェクト領域)である。各画像空間901,902に
て、ドット表示により示した領域は物体の内部領域(物
体内領域)であり、この物体内領域は、有意な画素から
構成され、各画像空間901,902における物体内領
域(ドット表示領域)以外の領域は、物体の外部領域
(物体外領域)であり、有意でない画素から構成されて
いる。
【0130】そして、各画像空間901,902は、マ
トリクス状に配列された複数のブロック(ここでは、横
12列,縦8列のブロック)から構成されている。上記
低解像度画像空間902を構成する各ブロックは、上記
高解像度画像空間901を構成する符号化処理が施され
る各被符号化ブロックに対応する空間予測ブロックとな
っており、上記各被符号化ブロックと、これに対応する
空間予測ブロックとは、それぞれの画像空間において同
じ位置にある。たとえば、被符号化ブロック904とこ
れに対応する空間予測ブロック909は、それぞれ画像
空間901と画像空間902において、左から6列目で
かつ上から4行目に位置している。
【0131】ところで、画像空間901における被符号
化ブロック905,906,907と、該各ブロックに
対応する空間予測ブロック910,911,912とを
比較すると、被符号化ブロック905,906,907
は物体の境界に位置しているのに対し、これらに対応す
る空間予測ブロック910,911,912は完全に物
体の外部に位置している。
【0132】これは、低解像度再生ブロックのデータ
が、入力画像信号である高解像度テキスチャー信号に対
するダウンサンプリングや圧縮符号化処理によって生成
されたものであるために、上記低解像度再生ブロックの
データにより形成される画像空間上での物体の形状が変
形してしまったからである。
【0133】この場合、たとえば被符号化ブロック90
7に対応する空間予測ブロック912は、無定義な画素
からなる無効ブロックであり、この空間予測ブロック9
12のデータをそのまま高解像度符号化部550aにて
予測処理に用いると、対象ブロックのデータと予測ブロ
ックのデータとの差分値である残差ブロックのデータが
大きくなる。
【0134】本発明の実施の形態5では、このような無
定義な画素からなる空間予測ブロックに対してのみ、上
記第1の補填器538により補填処理を行うようにして
いる。具体的には、有意でない画素のみからなるブロッ
ク,つまり無効ブロックの画素を、所定の画素値を有す
る補填画素と置き換える。なお、この補填値としては、
所定の画素値を用いる場合に限らず、例えば、隣接する
ブロックの有意な画素のサンプル値を用いてもよい。
【0135】このように本実施の形態5では、低解像度
再生ブロックのうちの、有意でないサンプルのみからな
る無効ブロックに対してのみ補填処理を行うので、低解
像度画像空間における空間予測ブロックが完全に物体外
部に位置する場合でも、該空間予測ブロックの各サンプ
ル値が所定のサンプル値や物体内画素のサンプル値で置
き換えられることとなり、高解像度対象ブロックのデー
タと空間予測ブロックのデータを解像度変換して得られ
る低解像度との差分値である予測誤差信号を抑圧するこ
とができる。
【0136】なお、上記実施の形態5では、画像符号化
装置500として、低解像度テキスチャー信号を、入力
されるテキスチャー信号(高解像度テキスチャー信号)
に対する空間的なダウンサンプリングにより生成するも
のを示したが、低解像度テキスチャー信号は、入力され
るテキスチャー信号の時間的なダウンサンプリングによ
り生成するようにしてもよい。
【0137】つまり、時刻t,t+N,t+2N,…に
おけるフレームに対応するテキスチャー信号を、低解像
度テキスチャー信号として、図7に示すテキスチャー符
号化部500の低解像度符号化部550bに入力し、す
べてのフレームに対応するテキスチャー信号を高解像度
テキスチャー信号として、テキスチャー符号化部500
を構成する高解像度符号化部550aに入力するように
してもよい。
【0138】ここでNは任意の整数であるが、例えば、
実用的な値としては、N=3である。この場合、上記テ
キスチャー符号化部500における第2の解像度変換器
525では、アップサンプリングによる補間処理を行う
代わりに、動きベクトルLMVを用いて、第1のフレー
ムメモリ539から、動き補償により特定される予測ブ
ロックのデータ、つまり時刻t,t+N,t+2N,…
におけるフレームの間のフレームにおける予測ブロック
のデータを、解像度変換データとしてアクセスして出力
する動き補償処理を行う構成とする。この場合、動きベ
クトルLMVを上記変換器525へ供給する必要があ
る。
【0139】また、上記実施の形態5の低解像度及び高
解像度符号化部550b、550aでは、低解像度及び
高解像度再生ブロックのデータの補填処理を、第1,第
2の再生補填器を用いて行っているが、各符号化部での
再生ブロックの補填処理は、上記実施の形態3と同様
に、フレームメモリを初期化する初期化器と、再生補填
器からフレームメモリへの再生ブロックのデータの供給
する制御するスイッチとを備え、各フレーム毎に、フレ
ームメモリを初期化したのちに、少なくとも一つ有意な
サンプルを含む有効な再生ブロックのデータのみを初期
化されたフレームメモリに上書きするようにしてもよ
い。
【0140】(実施の形態6)図6(b) 及び図9は、本
発明の実施の形態6による画像処理装置として任意形状
階層復号化装置を説明するためのブロック図であり、図
6(b) は、その全体構成を示し、図9は該装置を構成す
るテキスチャー階層符号化部の構成を示している。本実
施の形態6の任意形状階層符号化装置(画像復号化装
置)6000は、上記任意形状階層符号化装置5000
からの各フレームに対応する高解像度,低解像度テキス
チャー符号化信号HEg,LEg、及び高解像度,低解
像度形状符号化信号HEk,LEkに対して、該物体を
含む領域(オブジェクト領域)を分割するブロック毎に
階層復号化処理を施す構成となっている。
【0141】上記任意形状階層復号化装置6000は、
上記高解像度,低解像度形状符号化信号HEk,LEk
に対してデータ解析処理及び算術復号化処理を施して高
解像度,低解像度形状再生信号HRk,LRkを出力す
る形状階層符号化部60と、上記高解像度,低解像度テ
キスチャー符号化信号HEg,LEgに対してデータ解
析処理及び情報伸長処理を施して高解像度,低解像度テ
キスチャー再生信号HRg,LRgを出力するテキスチ
ャー階層符号化部600と、上記各復号化部での処理を
制御する制御部60aとを有している。
【0142】ここで、上記テキスチャー復号化部600
は、上記高解像度符号化信号HEgに復号化処理を施し
て高解像度再生信号HEgを生成する高解像度復号化部
660aと、上記低解像度符号化信号LEgに対して復
号化処理を施して低解像度再生信号LEgを生成する低
解像度符号化部660bとを有している。
【0143】この低解像度復号化部660aは、上記実
施の形態2の画像復号化装置200と同様、低解像度符
号化信号LEgを解析して可変長復号化する第1のデー
タ解析器622,該データ解析器622の出力LQEg
に対して伸長処理を施して、現処理フレームにおける伸
長ブロックのデータLITgを出力する第1の情報伸長
器(DEC1)600b,該伸長ブロックのデータLI
DTgと、これに対応する予測ブロックのデータLPg
とを加算して再生ブロックのデータLRgを出力する第
1の加算器624を有している。また、上記低解像度復
号化部660aは、該加算器の出力LRgに対する補填
処理を、上記形状階層復号化部60からの低解像度形状
再生信号LRgに基づいて施す第1の補填器626,上
記予測ブロックのデーLPgを生成する第1の予測信号
生成部600d,及び該第1の補填器626の出力LP
Rgの解像度をアップサンプルにより変換して、高解像
度テキスチャー信号HSgの解像度と等しい解像度変換
データTPRgを生成する解像度変換器637とを有し
ている。
【0144】ここで、上記第1の予測信号生成部600
dは、上記実施の形態2の予測信号生成部200cの動
き補償器210,及びフレームメモリ209と同一構成
の、動き補償器628,及び第1のフレームメモリ62
7を有している。
【0145】一方、上記高解像度復号化部660aは、
上記実施の形態2の画像復号化装置100と同様、高解
像度符号化信号HEgを解析して可変長復号化する第2
のデータ解析器602,該データ解析器602の出力H
Qgに対して伸長処理を施して、現処理フレームにおけ
る伸長ブロックのデータHITgを出力する第2の情報
伸長器(DEC2)600a,上記伸長ブロックのデー
タHITgとこれに対応する予測ブロックの重付け平均
予測データTPRgとを加算して再生ブロックのデータ
HRgを出力する第2の加算器604を有している。ま
た、上記高解像度復号化部660aは、該第2の加算器
604からのデータHRgを、上記形状階層復号化部6
0からの高解像度形状再生信号HRkに基づいて補填し
て再生ブロックの補填データHPRgを出力する第2の
補填器606,現処理フレームの伸長ブロックに対応す
る予測ブロックのデータLPgを生成する第2の予測信
号生成部600cを有している。
【0146】そして、上記第2の予測信号生成部600
cは、上記実施の形態2の予測信号生成部200bの動
き補償器210,及びフレームメモリ209と同一構成
の、第2の動き補償器608,及び第2のフレームメモ
リ607を有するとともに、解像度変換器637からの
解像度変換データTPRgと、第2の動き補償器608
からの予測ブロックのデータとの重付け平均化により、
上記重付け平均予測データAPgを上記第2の加算器6
04に出力する重付け平均化器618とを有している。
【0147】なお、ここでは、テキスチャー階層復号化
部600の構成についてのみ詳しく説明しているが、本
実施の形態6の任意形状復号化装置6000における形
状階層復号化部60も、上記テキスチャー階層復号化部
600とほぼ同様な構成を有している。つまり、上記形
状階層復号化部60は、上記テキスチャー階層復号化部
600における第1,第2補填器626,606を有し
ていない点、上記テキスチャー階層復号化部600にお
ける逆DCT処理及び逆量子化処理を行う高解像度側及
び低解像度側の情報伸長器600c,600dに代え
て、各形状のブロック四分木の方法で、高解像度,低解
像度形状符号化信号HEk,LEkの圧縮復号化処理を
行う高解像度側及び低解像度側の算術復号化器を有して
いる点で、テキスチャー階層復号化部600と異なる。
【0148】次に動作について説明する。上記任意形状
階層符号化装置5000からの低解像度,高解像度形状
符号化信号LEk,HEkが入力端子62,61に入力
されると、これらの符号化信号はそれぞれ、形状階層復
号化部60にて階層復号化されて、低解像度,高解像度
形状再生信号LRk,HRkが出力端子65,63に出
力される。
【0149】また、上記任意形状階層符号化装置500
0からの低解像度符号化信号LEgが、低解像度復号化
部660bの入力端子621に入力されると、第1のデ
ータ解析器622にて低解像度テキスチャー符号化信号
LEgがその解析により可変長復号化される。このとき
データ解析器622の出力である圧縮残差ブロックのデ
ータLQgは、第1の情報伸長器600bに出力され、
上記データ解析器622にて抽出された動きベクトルL
MVは第1の動き補償器628に出力される。
【0150】上記第1の情報伸長器600bでは、圧縮
残差ブロックのデータLQgに情報伸長処理が施され
て、上記符号化部550bにおける残差ブロックのデー
タが伸長残差ブロックのデータLITgとして復元され
る。上記第1の情報伸長器600bでは、実施の形態2
の画像復号化装置200と同様、上記伸長残差ブロック
のデータLQgに逆DCT処理及び逆量子化処理が施さ
れる。
【0151】このとき第1の動き補償器628では、上
記第1のデータ解析器622からの動きベクトルLMV
に基づいて、第1のフレームメモリ627をアクセスす
るためのアドレスが生成され、第1のフレームメモリ6
27に格納されている前処理フレームに対応する格納デ
ータLMgから低解像度予測ブロックのデータLPgが
生成される。この低解像度予測ブロックのデータLPg
と伸長残差ブロックのデータLITgが第1の加算器6
24にて加算され、低解像度再生ブロックのデータLR
gが生成される。
【0152】この再生ブロックのデータLRgは低解像
度テキスチャー再生信号として第1の出力端子625に
出力されると同時に、第1の補填器626に供給され
る。この補填器626では、再生ブロックの中で、有意
でないサンプルのみからなる無効再生ブロックに対して
のみ補填処理を行って、該無効再生ブロックを構成する
各画素の画素値を定義する。また、境界ブロックを含む
有効な再生ブロックに対しては補填処理は行わない。
【0153】このとき、上記第1の補填器626では、
各再生ブロックのサンプル値が有意か否かを示す、上記
形状階層復号化部60からの低解像度再生形状信号LR
kに基づいて、再生ブロックが有効ブロックか無効ブロ
ックかの判定を行っている。
【0154】本実施の形態では、輝度成分と色差成分の
各サンプル値を所定の補填値「128」で置き換える。
なお、置換に用いる補填値は、フレーム毎に変更しても
よい。この場合、各フレームに対応する補填値(輝度信
号の値のみあるいは輝度信号と色差信号の両方の値)
は、上記低解像度符号化信号LEgに含まれ、上記第1
のデータ解析器622によって抽出されて第1の補填器
628に送られる。
【0155】また、上記無効ブロックに対する補填処理
は、無効ブロックに隣接する有意ブロックにおける有意
なサンプル値を、有意でないサンプル値と置き換える処
理を繰り返し行うものでもよい。
【0156】そしてこのように補填処理を施した低解像
度再生ブロックの補填データLPRgは、次処理フレー
ムに対応する参照画像データとして第1のフレームメモ
リ627に格納される。
【0157】一方、高解像度符号化信号HEgは上記高
解像度復号化部660aにて、上記低解像度符号化信号
LEgと同様な復号化処理が施される。この高解像度符
号化信号HEgに対する復号化処理は、対象ブロックに
対応する予測ブロックのデータの生成処理のみ異なって
いる。
【0158】つまり、上記予測ブロックのデータの生成
処理は、第2の動き補償器608にて動き補償により得
られた時間予測信号(高解像度予測ブロックのデータ)
HPgに加えて、第1の補填器626からの低解像度再
生ブロックの補填データ(空間予測信号)LPRgを用
いて行われる。この低解像度再生ブロックのデータLP
Rgは、変換器637にてアップサンプルにより補間さ
れて、解像度変換データTPRgとして出力される。
【0159】このように空間予測信号LPRgにアップ
サンプリングを施して得られる解像度変換データTPR
gは、時間予測信号HPgとともに重付き平均化器61
8に入力され、該重付き平均化器618では、時間予測
信号HPgと解像度変換データTPRgとが重付き平均
化処理により、重み付き平均予測データAPgとして上
記高解像度復号化部660bにおける第1の加算器60
4に出力される。
【0160】なお、上記重み付けの比率は送受信側であ
らかじめに決めてもよいが、重み付けの情報を高解像度
符号化信号HEgとともに受信側に伝送し、高解像度復
号化部660aの第2のデータ解析器602にて重み付
け情報を抽出して重付け平均化器618に供給するよう
にしてもよい。
【0161】このように本実施の形態6では、低解像度
再生ブロックのうちの、有意でないサンプルのみからな
る無効ブロックに対してのみ補填処理を行うので、低解
像度画像空間における空間予測ブロックが完全に物体外
部に位置する場合でも、該空間予測ブロックの各サンプ
ル値が所定のサンプル値や物体内画素のサンプル値で置
き換えられることとなり、高解像度対象ブロックのデー
タと空間予測ブロックのデータを解像度変換して得られ
るデータとの差分値である予測誤差信号を抑圧すること
ができる。
【0162】なお、上記実施の形態6では、空間予測信
号としては、第1の補填器626の出力データを用いた
が、これは、第1のフレームメモリ927から第1の動
き補償器628へ読み出されるデータLMgを用いても
よい。
【0163】また、低解像度符号化信号と高解像度符号
化信号とが、同一サイズの画像空間に対応し、かつ時間
的にずれている場合には、上記変換器637としては、
補間処理を行うものに代えて、動きベクトルLMVに基
づいて、第1のフレームメモリ627から動き補償によ
り予測ブロックのデータを読み出す処理を行うものを用
いる。
【0164】また、上記実施の形態6の低解像度及び高
解像度復号化部660b、660aでは、低解像度及び
高解像度再生ブロックのデータの補填処理を、第1,第
2の補填器を用いて行っているが、各復号化部での再生
ブロックの補填処理は、上記実施の形態4と同様に、フ
レームメモリを初期化する初期化器と、補填器からフレ
ームメモリへの再生ブロックのデータの供給する制御す
るスイッチとを備え、各フレーム毎に、フレームメモリ
を初期化したのちに、少なくとも一つ有意なサンプルを
含む有効な再生ブロックのデータのみを初期化されたフ
レームメモリに上書きするようにしてもよい。
【0165】なお、上記実施の形態1,3,5では、任
意形状符号化装置として、任意形状画像(物体)に対応
する、形状信号とテキスチャー信号を含む画像信号を受
け、テキスチャー符号化部における対象,残差,再生補
填器では、形状符号化部からの形状信号あるいは再生形
状信号に基づいて、対象,残差,再生ブロックが有効ブ
ロックか無効ブロックかの判定を行うものを示したが、
任意形状符号化装置は、テキスチャー信号と透過度信号
を含む画像信号を入力信号として受けるものであっても
よい。
【0166】この場合、透過度信号の符号化処理は、透
過度信号に含まれる、各画素が物体内と物体外のいずれ
に位置するかを示す2値データからなる形状情報につい
ては、形状符号化部にて符号化処理が行われ、透過度信
号に含まれる、物体内の画素の透明度を示す多値データ
からなる透明度情報については、テキスチャー符号化部
にて、テキスチャー信号と同様な符号化処理が行われる
こととなる。
【0167】また、この場合、テキスチャー符号化部に
おける対象,残差,再生補填器では、対象,残差,再生
ブロックが有効ブロックか無効ブロックかの判定は、上
記透過度信号あるいは再生透過度信号に含まれる、画素
が物体外であることを示す値「0」と、画素が物体内に
位置することを示す「0」以下の値(非0値)に基づい
て行われることとなる。
【0168】また、上記実施の形態2,4,6では、任
意形状復号化装置として、任意形状画像(物体)に対応
する、形状符号化信号とテキスチャー符号化信号を含む
画像符号化信号を受け、テキスチャー復号化部における
再生補填器では、形状復号化部からの再生形状信号に基
づいて、再生ブロックが有効ブロックか無効ブロックか
の判定を行うものを示したが、任意形状復号化装置は、
テキスチャー符号化信号と透過度符号化信号を含む画像
符号化信号を入力信号として受けるものであってもよ
い。
【0169】この場合、透過度符号化信号の復号化処理
は、透過度符号化信号に含まれる、各画素が物体内と物
体外のいずれに位置するかを示す2値データに対する符
号化データについては、形状復号化部にて復号化処理が
行われ、透過度符号化信号に含まれる、物体内の画素の
透明度を示す多値データからなる透明度情報の符号化デ
ータについては、テキスチャー復号化部にて、テキスチ
ャー符号化信号と同様な復号化処理が行われることとな
る。
【0170】また、この場合、テキスチャー復号化部に
おける再生補填器では、再生ブロックが有効ブロックか
無効ブロックかの判定は、上記透過度符号化信号を復号
化して得られる再生透過度信号における、画素が物体外
であることを示す値「0」と画素が物体内に位置するこ
とを示す「0」以下の値(非0値)に基づいて行われる
こととなる。
【0171】さらに、上記各実施の形態で示した任意形
状符号化装置あるいは任意形状復号化装置の構成を実現
するための符号化あるいは復号化プログラムを、フロッ
ピーディスク等のデータ記憶媒体に記録するようにする
ことにより、上記各実施の形態で示した処理を、独立し
たコンピュータシステムにおいて簡単に実施することが
可能となる。
【0172】図10は、上記実施の形態1ないし6の符
号化あるいは復号化処理を、上記符号化あるいは復号化
プログラムを格納したフロッピーディスクを用いて、コ
ンピュータシステムにより実施する場合を説明するため
の図である。図10(a) は、フロッピーディスクの正面
からみた外観、断面構造、及びフロッピーディスク本体
を示し、図10(b) は、該フロッピーディスク本体の物
理フォーマットの例を示している。
【0173】上記フロッピーディスクFDは、上記フロ
ッピーディスク本体DをフロッピーディスクケースFC
内に収容した構造となっており、該フロッピーディスク
本体Dの表面には、同心円状に外周からは内周に向かっ
て複数のトラックTrが形成され、各トラックTrは角
度方向に16のセクタSeに分割されている。従って、
上記プログラムを格納したフロッピーディスクFDで
は、上記フロッピーディスク本体Dは、その上に割り当
てられた領域(セクタ)Seに、上記プログラムとして
のデータが記録されたものとなっている。
【0174】また、図10(c) は、フロッピーディスク
FDに対する上記プログラムの記録、及びフロッピーデ
ィスクFDに格納したプログラムを用いた画像処理を行
うための構成を示している。
【0175】上記プログラムをフロッピーディスクFD
に記録する場合は、コンピュータシステムCsから上記
プログラムとしてのデータを、フロッピーディスクドラ
イブFDDを介してフロッピーディスクFDに書き込む。
また、フロッピーディスクFDに記録されたプログラム
により、上記任意形状符号化装置あるいは任意形状復号
化装置をコンピュータシステムCs中に構築する場合
は、フロッピーディスクドライブFDDによりプログラム
をフロッピーディスクFDから読み出し、コンピュータ
システムCsにロードする。
【0176】なお、上記説明では、データ記録媒体とし
てフロッピーディスクを用いて説明を行ったが、光ディ
スクを用いても上記フロッピーディスクの場合と同様に
ソフトウェアによる符号化処理あるいは復号化処理を行
うことができる。また、記録媒体は上記光ディスクやフ
ロッピーディスクに限るものではなく、ICカード、R
OMカセット等、プログラムを記録できるものであれば
よく、これらの記録媒体を用いる場合でも、上記フロッ
ピーディスク等を用いる場合と同様にソフトウェアによ
る符号化処理あるいは復号化処理を実施することができ
る。
【0177】
【発明の効果】以上のようにこの発明(請求項1,7〜
11,18)によれば、現処理フレームにおける対象ブ
ロックのデータに対して、対応する予測ブロックを用い
て予測符号化処理を行う際、次処理フレームに対応する
予測データの生成のための再生ブロックの画像データに
対して、該再生ブロックが無効ブロックである場合のみ
補填処理を施すようにしたので、符号化効率及び画質の
劣化を招くことなく、受信側での再生時の復号化処理に
おける補填処理を大幅に削減できる。
【0178】この発明(請求項2,12,13,18)
によれば、現処理フレームにおける対象ブロックのデー
タに対して、対応する予測ブロックを用いて予測復号化
処理を行う際、次処理フレームに対応する予測データの
生成のための再生ブロックの画像データに対して、該再
生ブロックが無効ブロックである場合のみ補填処理を施
すようにしたので、符号化効率及び画質の劣化を招くこ
となく、復号化処理における補填処理を大幅に削減でき
る。
【0179】この発明(請求項3,14,18)によれ
ば、現処理フレームにおける対象ブロックのデータに対
して、対応する予測ブロックのデータを用いた予測符号
化処理を行う際、次処理フレームに対応する予測ブロッ
クのデータの生成のための参照画像データを格納するフ
レームメモリを所定のタイミングで初期化し、初期化し
たフレームメモリに再生ブロックのうちの、少なくとも
1つの有効画素を含む有効ブロックのデータのみを上書
きして格納するようにしたので、受信側では、再生ブロ
ックのうちの境界ブロックだけでなく無効ブロックに対
しても補填処理を行う必要がなくなり、符号化効率及び
画質の劣化を招くことなく、再生時の復号化処理におけ
る補填処理を省略できる。
【0180】この発明(請求項4,15,18)によれ
ば、現処理フレームにおける対象ブロックのデータに対
して、対応する予測ブロックのデータを用いた予測復号
化処理を行う際、次処理フレームに対する予測ブロック
のデータの生成のための参照画像データを格納するフレ
ームメモリを所定のタイミングで初期化し、初期化した
フレームメモリに再生ブロックのうちの、少なくとも1
つの有効画素を含む有効ブロックのデータのみを上書き
して格納するようにしたので、再生ブロックのうちの境
界ブロックだけでなく無効ブロックに対しても補填処理
を行う必要がなくなり、符号化効率及び画質の劣化を招
くことなく、再生時の復号化処理における補填処理を省
略できる。
【0181】この発明(請求項5,16,18)によれ
ば、現処理フレームにおける高解像度対象ブロックのデ
ータに対して、対応する低解像度予測ブロックのデータ
を用いて予測符号化処理を行う際、次処理フレームに対
応する予測データの生成のための再生ブロックの画像デ
ータに対して、該再生ブロックが無効ブロックである場
合のみ補填処理を施すようにしたので、符号化効率及び
画質の劣化を招くことなく、受信側での階層符号化信号
に対する階層復号化処理における補填処理を大幅に削減
できる。
【0182】この発明(請求項6,17,18)によれ
ば、現処理フレームにおける高解像度対象ブロックのデ
ータに対して、対応する低解像度予測ブロックのデータ
を用いて予測復号化処理を行う際、次処理フレームに対
応する予測データの生成のための再生ブロックの画像デ
ータに対して、該再生ブロックが無効ブロックである場
合のみ補填処理を施すようにしたので、符号化効率及び
画質の劣化を招くことなく、階層符号化信号に対する階
層復号化処理における補填処理を大幅に削減できる。
【図面の簡単な説明】
【図1】本発明の実施の形態1による画像符号化装置を
説明するための図であり、図(a) はその概略構成を示す
ブロック図、図(b) は該装置を構成するテキスチャー符
号化部の具体的な構成を示すブロック図である。
【図2】上記実施の形態1のテキスチャー符号化部の処
理を説明するための図であり、任意形状画像を含む、複
数のブロックに分割された画像空間を示している。
【図3】本発明の実施の形態2による画像復号化装置を
説明するための図であり、図(a) はその概略構成を示す
ブロック図、図(b) は該装置を構成するテキスチャー復
号化部の具体的な構成を示すブロック図である。
【図4】本発明の実施の形態3による画像符号化装置を
説明するための図であり、図(a) はその概略構成を示す
ブロック図、図(b) は該装置を構成するテキスチャー符
号化部の具体的な構成を示すブロック図である。
【図5】本発明の実施の形態4による画像復号化装置を
説明するための図であり、図(a) はその概略構成を示す
ブロック図、図(b) は該装置を構成するテキスチャー復
号化部の具体的な構成を示すブロック図である。
【図6】本発明の実施の形態5による画像符号化装置
(図(a) )、及び実施の形態6の画像復号化装置(図
(b) )の概略構成を示すブロック図である。
【図7】上記実施の形態5の画像符号化装置を構成する
テキスチャー符号化部の具体的な構成を示すブロックで
ある。
【図8】上記実施の形態5,6の装置における、対象ブ
ロックに対する予測ブロックのデータを生成する処理を
説明するための図である。
【図9】上記実施の形態6の画像復号化装置を構成する
テキスチャー復号化部の具体的な構成を示すブロック図
である。
【図10】図10(a) ,(b) は、上記各実施の形態の符
号化及び復号化処理をコンピュータシステムにより行う
ためのプログラムを格納したデータ記憶媒体を説明する
ための図、図10(c) は、上記コンピュータシステムを
示す図である。
【符号の説明】
10,30,50 形状符号化部 10a,20a,30a,40a,50a,60a 制
御部 20,40,60 形状復号化部 100,300,500 テキスチャー符号化部 100a,300a,500a,500d 情報圧縮器 100b,200a,300b,400a,500b,
500e,600a,600b 情報伸長器 100c,200b,300c,400b,500c,
500f,600c,600d 予測信号生成部 101,301,501,531 ブロック化器 102,302,532 第1の加算器 103,303 残差補填器 104,304 離散コサイン変換器 105,305 量子化器 108,308 逆量子化器 109,309 逆離散コサイン変換器 110,310,537 第2の加算器 111,311,504,534 可変長符号化器 112,508,538 再生補填器 113,209,313,409,509,539,6
07,627 フレームメモリ 114,314,510,540 動き検出器 115,210,315,410,509,539,6
08,628 動き補償器 200,400,600 テキスチャー復号化部 202,402,602,622 データ解析器 204,404 逆量子化器 205,405 逆離散コサイン変換器 206,406,604,624 加算器 208,606,626 補填器 330,420 初期化器 331,422 スイッチ 502,507 第3,第4の加算器 520,525 第1,第2の解像度変換器 524,618 平均化器 637 変換器 1000,3000,5000 画像符号化装置 2000,4000,6000 画像復号化装置 Sk,HSk,LSk 形状信号 Sg,HSg,LSg テキスチャー信号 Bg,HBg,LBg 対象ブロックのデータ Ek,HEk,LEk 形状符号化信号 Eg,HEg,LEg テキスチャー符号化信号 Cm メモリ制御信号 Ci 初期化制御信号 Dg,HDg,LDg 残差データ(残差ブロックのデ
ータ) PDg 補填残差データ(補填残差ブロックのデータ) Tg DCT係数 Qg,HQg,LQg 圧縮データ(圧縮ブロックのデ
ータ) IQg 復元DCT係数 ITg,HITg,LITg 伸長データ(伸長ブロッ
クのデータ) Rk,HRk,LRk 再生形状信号 Rg,HRg,LRg 再生テキスチャー信号(再生ブ
ロックのデータ) PRg,HPRg,LPRg 補填テキスチャー信号
(補填再生ブロックのデータ) Mg,HMg,LMg 参照データ Pg,HPg,LPg 予測テキスチャー信号(予測ブ
ロックのデータ) APg 平均予測テキスチャー信号 TPg 変換予測テキスチャー信号 MV,HMV,LMV 動きベクトル

Claims (18)

    【特許請求の範囲】
  1. 【請求項1】 任意形状を有する物体を含む画像空間を
    形成する各フレームに対応する画像信号を、該画像空間
    を分割するブロック毎に符号化する方法であって、 現処理フレームにおける符号化の対象となる対象ブロッ
    クの画像データと、該対象ブロックに対応する予測ブロ
    ックの画像データとの差分データを、差分ブロックの画
    像データとして出力し、 該差分ブロックの画像データの情報圧縮による圧縮差分
    ブロックの画像データの生成、及び該圧縮差分ブロック
    の画像データの符号化による画像符号化信号の生成を行
    うとともに、該圧縮差分ブロックの画像データの情報伸
    長により上記差分データを伸長差分ブロックの画像デー
    タとして復元し、 上記伸長差分ブロックの画像データと上記予測ブロック
    の画像データとの加算により再生ブロックの画像データ
    を生成し、 該再生ブロックが有意でない画素のみからなる無効ブロ
    ックであるとき、該再生ブロックの画像データを、これ
    を構成する有意でない画素値を所定の補填値と置き換え
    て出力し、一方、上記再生ブロックが少なくとも1つ有
    意な画素を含む有効ブロックであるとき、該再生ブロッ
    クの画像データをそのまま出力し、 上記有効ブロック及び補填処理が施された無効ブロック
    の画像データに基づいて、次処理フレームの対象ブロッ
    クに対応する予測ブロックの画像データを生成すること
    を特徴とする画像処理方法。
  2. 【請求項2】 任意形状を有する物体を含む画像空間を
    形成する各フレームに対応する画像信号を、該画像空間
    を分割するブロック毎に符号化して得られる画像符号化
    信号を、該ブロック毎に復号化する方法であって、 上記画像符号化信号のデータ解析により、符号化の対象
    となる対象ブロックの画像データと該対象ブロックに対
    応する予測ブロックの画像データとの差分データの情報
    圧縮により得られる圧縮データを、圧縮差分ブロックの
    画像データとして抽出し、 上記圧縮差分ブロックの画像データの情報伸長により、
    上記差分データを現処理フレームにおける伸長差分ブロ
    ックの画像データとして復元し、 上記伸長差分ブロックの画像データと、該伸長差分ブロ
    ックに対応する予測ブロックの画像データとの加算によ
    り、再生ブロックの画像データを生成し、 該再生ブロックが有意でない画素のみからなる無効ブロ
    ックであるとき、該再生ブロックの画像データを、これ
    を構成する有意でない画素値を所定の補填値と置き換え
    て出力し、一方、上記再生ブロックが少なくとも1つ有
    意な画素を含む有効ブロックであるとき、該再生ブロッ
    クの画像データをそのまま出力し、 上記有効ブロック及び補填処理が施された無効ブロック
    の画像データに基づいて、次処理フレームの伸長差分ブ
    ロックに対応する予測ブロックの画像データを生成する
    ことを特徴とする画像処理方法。
  3. 【請求項3】 任意形状を有する物体を含む画像空間を
    形成する各フレームに対応する画像信号を、該画像空間
    を分割するブロック毎に符号化する方法であって、 現処理フレームにおける符号化の対象となる対象ブロッ
    クの画像データと、該対象ブロックに対応する予測ブロ
    ックの画像データとの差分データを、差分ブロックの画
    像データとして出力し、 該差分ブロックの画像データの情報圧縮による圧縮差分
    ブロックの画像データの生成、及び該圧縮差分ブロック
    の画像データの符号化による画像符号化信号の生成を行
    うとともに、該圧縮差分ブロックの画像データの情報伸
    長により上記差分データを伸長差分ブロックの画像デー
    タとして復元し、 上記伸長差分ブロックの画像データと上記予測ブロック
    の画像データとの加算により再生ブロックの画像データ
    を生成し、 上記再生ブロックのうちの、少なくとも1つ有意な画素
    を含む有効ブロックの画像データのみ、所定のタイミン
    グで初期化されるフレームメモリに参照画像データとし
    て上書きして格納し、 上記フレームメモリに格納された参照画像データに基づ
    いて、次処理フレームの対象ブロックに対応する予測ブ
    ロックの画像データを生成することを特徴とする画像処
    理方法。
  4. 【請求項4】 任意形状を有する物体を含む画像空間を
    形成する各フレームに対応する画像信号を、該画像空間
    を分割するブロック毎に符号化して得られる画像符号化
    信号を、該ブロック毎に復号化する方法であって、 上記画像符号化信号のデータ解析により、符号化の対象
    となる対象ブロックの画像データと該対象ブロックに対
    応する予測ブロックの画像データとの差分データである
    差分ブロックの画像データの情報圧縮により得られる圧
    縮データを、圧縮差分ブロックの画像データとして生成
    し、 上記圧縮差分ブロックの画像データの情報伸長により、
    上記差分データを現処理フレームにおける伸長差分ブロ
    ックの画像データとして復元し、 上記伸長差分ブロックの画像データと該伸長差分ブロッ
    クに対応する予測ブロックの画像データとの加算によ
    り、再生ブロックの画像データを生成し、 上記再生ブロックのうちの、少なくとも1つ有意な画素
    を含む有効ブロックの画像データのみ、所定タイミング
    で初期化されるフレームメモリに参照画像データとして
    上書きして格納し、 上記フレームメモリに格納された参照画像データから、
    次処理フレームの伸長差分ブロックに対応する予測ブロ
    ックの画像データとして出力することを特徴とする画像
    処理方法。
  5. 【請求項5】 任意形状を有する物体を含む画像空間を
    形成する各フレームに対応する画像信号に対して、該画
    像空間を分割するブロック毎に階層符号化処理を施す方
    法であって、 符号化の対象となる対象ブロックの画像データとして、
    第1,第2の異なる解像度を有する第1,第2の対象ブ
    ロックの画像データを生成する前処理、 及び、該第1,第2の各対象ブロックの画像データに対
    する第1,第2の符号化処理を含み、 上記第1の符号化処理では、 現処理フレームにおける第1の対象ブロックの画像デー
    タと、該第1の対象ブロックに対応する第1の予測ブロ
    ックの画像データとの第1の差分データを、第1の差分
    ブロックの画像データとして出力し、 該第1の差分ブロックの画像データの情報圧縮による第
    1の圧縮差分ブロックの画像データの生成、及び該第1
    の圧縮差分ブロックの画像データの符号化による第1の
    画像符号化信号の生成を行うとともに、該第1の圧縮差
    分ブロックの画像データの情報伸長により上記第1の差
    分データを第1の伸長差分ブロックの画像データとして
    復元し、 上記第1の伸長差分ブロックの画像データと上記第1の
    予測ブロックの画像データとの加算により第1の再生ブ
    ロックの画像データを生成し、 該第1の再生ブロックが有意でない画素のみからなる無
    効ブロックであるとき、該第1の再生ブロックの画像デ
    ータを、これを構成する有意でない画素値を所定の補填
    値と置き換えて出力し、一方、上記第1の再生ブロック
    が少なくとも1つ有意な画素を含む有効ブロックである
    とき、該第1の再生ブロックの画像データをそのまま出
    力し、 上記有効ブロック及び補填処理が施された無効ブロック
    の画像データに基づいて、次処理フレームの第1の対象
    ブロックに対応する第1の予測ブロックの画像信号を生
    成するとともに、第1の解像度を第2の解像度に変換す
    る解像度変換処理により上記第1の再生ブロックに対応
    する解像度変換データを生成し、 上記第2の符号化処理では、 上記解像度変換データと、上記現処理フレームにおける
    第2の対象ブロックに対応する第2の予測ブロックの画
    像データとの重付き平均化処理により重付き平均予測デ
    ータを生成し、 上記第2の対象ブロックの画像データと該重付き平均予
    測データとの第2の差分データを、第2の差分ブロック
    の画像データとして出力し、 該第2の差分ブロックの画像データの情報圧縮による第
    2の圧縮差分ブロックの画像データの生成、及び該第2
    の圧縮差分ブロックの画像データの符号化による第2の
    画像符号化信号の生成を行うとともに、該第2の圧縮差
    分ブロックの画像データの情報伸長により上記第2の差
    分データを第2の伸長差分ブロックの画像データとして
    復元し、 上記第2の伸長差分ブロックの画像データと上記第2の
    予測ブロックの画像データとの加算により第2の再生ブ
    ロックの画像データを生成し、 該第2の再生ブロックが有意でない画素のみからなる無
    効ブロックであるとき、該第2の再生ブロックの画像デ
    ータを、これを構成する有意でない画素値を所定の補填
    値と置き換えて出力し、一方、上記第2の再生ブロック
    が少なくとも1つ有意な画素を含む有効ブロックである
    とき、該第2の再生ブロックの画像データをそのまま出
    力し、 これらの有効ブロック及び補填処理が施された無効ブロ
    ックの画像データに基づいて、上記次処理フレームの第
    2の対象ブロックに対応する第2の予測ブロックの画像
    データを生成することを特徴とする画像処理方法。
  6. 【請求項6】 任意形状を有する物体を含む画像空間を
    形成する各フレームに対応する画像信号を、該画像空間
    を分割するブロック毎に階層符号化して得られる第1,
    第2の異なる解像度を有する第1,第2の画像符号化信
    号に対して、該ブロック毎に階層復号化処理を施す方法
    であって、 上記第1,第2の画像符号化信号に対する第1,第2の
    復号化処理を含み、 上記第1の復号化処理では、 上記第1の画像符号化信号のデータ解析により、符号化
    の対象となる第1の解像度を有する対象ブロックの画像
    データと、該対象ブロックに対応する予測ブロックの画
    像データとの第1の差分データを情報圧縮して得られる
    圧縮データを、第1の圧縮差分ブロックの画像データと
    して生成し、 上記第1の圧縮差分ブロックの画像データの情報伸長に
    より、上記第1の差分データを、現処理フレームにおけ
    る第1の伸長差分ブロックの画像データとして復元し、 上記第1の伸長差分ブロックの画像データと、該第1の
    伸長差分ブロックに対応する予測ブロックの画像データ
    との加算により、第1の再生ブロックの画像データを生
    成し、 該第1の再生ブロックが有意でない画素のみからなる無
    効ブロックであるとき、該第1の再生ブロックの画像デ
    ータを、これを構成する有意でない画素値を所定の補填
    値と置き換えて出力し、一方、上記第1の再生ブロック
    が少なくとも1つ有意な画素を含む有効ブロックである
    とき、該第1の再生ブロックの画像データをそのまま出
    力し、 上記有効ブロック及び補填処理が施された無効ブロック
    の画像データに基づいて、次処理フレームの第1の伸長
    差分ブロックに対する予測ブロックの画像データを生成
    するとともに、第1の解像度を第2の解像度に変換する
    解像度変換処理により上記第1の再生ブロックに対応す
    る解像度変換データを生成し、 上記第2の復号化処理では、 上記第2の画像符号化信号のデータ解析により、符号化
    の対象となる第2の解像度を有する対象ブロックの画像
    データと該対象ブロックに対応する予測ブロックの画像
    データとの第2の差分データを情報圧縮して得られる圧
    縮データを、第2の圧縮差分ブロックの画像データとし
    て生成し、 上記第2の圧縮差分ブロックの画像データの情報伸長に
    より、上記第2の差分データを、上記現処理フレームに
    おける第2の伸長差分ブロックの画像データとして復元
    し、 上記第2の伸長差分ブロックに対応する予測ブロックの
    画像データと上記解像度変換データとの重付き平均化に
    より重付き平均予測データを生成し、 上記第2の伸長差分ブロックの画像データと上記重付き
    平均予測データとの加算により第2の再生ブロックの画
    像データを生成し、 上記第2の再生ブロックが有意でない画素のみからなる
    無効ブロックであるとき、該第2の再生ブロックの画像
    データを、これを構成する有意でない画素値を所定の補
    填値と置き換えて出力し、一方、上記第2の再生ブロッ
    クが少なくとも1つ有意な画素を含む有効ブロックであ
    るとき、第2の再生ブロックの画像データをそのまま出
    力し、 これらの有効ブロック及び補填処理が施された無効ブロ
    ックの画像データに基づいて、上記次処理フレームの第
    2の伸長差分ブロックに対する予測ブロックの画像デー
    タを生成することを特徴とする画像処理方法。
  7. 【請求項7】 任意形状を有する物体を含む画像空間を
    形成する各フレームに対応する画像信号を、該画像空間
    を分割するブロック毎に符号化する装置であって、 現処理フレームにおける符号化処理の対象となる対象ブ
    ロックの画像データと、該対象ブロックに対応する予測
    ブロックの画像データとの差分データを差分ブロックの
    画像データとして出力する減算手段と、 上記差分ブロックの画像データに対して所定の情報圧縮
    処理を施して、圧縮差分ブロックの画像データを出力す
    る情報圧縮器と、 該圧縮差分ブロックの画像データに対して所定の情報伸
    長処理を施して、上記差分データを伸長差分ブロックの
    画像データとして復元する情報伸長器と、 上記伸長差分ブロックの画像データと上記予測ブロック
    の画像データとを加算して、再生ブロックの画像データ
    を生成する加算手段と、 該再生ブロックが有意でない画素のみからなる無効ブロ
    ックであるとき、該再生ブロックの画像データを、これ
    を構成する有意でない画素値を所定の補填値と置き換え
    て出力し、上記再生ブロックが少なくとも1つ有意な画
    素を含む有効ブロックであるとき、該再生ブロックの画
    像データをそのまま出力する補填手段と、 上記補填手段から出力される、有効ブロック及び補填処
    理が施された再生ブロックの画像データを参照画像デー
    タとして格納するフレームメモリと、 該フレームメモリに格納された参照画像データから、次
    処理フレームの対象ブロックに対応する予測ブロックの
    画像データを生成する予測データ生成手段とを備えたこ
    とを特徴とする画像処理装置。
  8. 【請求項8】 請求項7記載の画像処理装置において、 上記画像信号を構成する、上記画像空間における各画素
    が有意な画素であるか否かの情報を含む有意信号に基づ
    いて、上記差分ブロックの画像データに対して、該ブロ
    ックに含まれる有意でない画素に対応する画素値を所定
    の補填値と置き換える補填処理を施し、該補填処理を施
    した差分ブロックの画像データを上記情報圧縮器に出力
    する差分ブロック補填手段を備えたことを特徴とする画
    像処理装置。
  9. 【請求項9】 請求項7記載の画像処理装置において、 上記画像信号を構成する、上記画像空間における各画素
    が有意な画素であるか否かの情報を含む有意信号に基づ
    いて、上記対象ブロックの画像データに対して、該対象
    ブロックに含まれる有意でない画素に対応する画素値を
    所定の補填値と置き換える補填処理を施し、該補填処理
    を施した対象ブロックの画像データを上記減算手段に出
    力する対象ブロック補填手段を備えたことを特徴とする
    画像処理装置。
  10. 【請求項10】 請求項8または9記載の画像処理装置
    において、 上記有意信号は、上記画像空間に含まれる物体を構成す
    る各画素に対応する、該物体の画像の透明度を示す透過
    度信号であることを特徴とする画像処理装置。
  11. 【請求項11】 請求項7記載の画像処理装置におい
    て、 上記補填手段は、上記画像信号に含まれる、上記再生ブ
    ロックを構成する画素が物体内に位置する有意な画素で
    あるか物体外に位置する有意でない画素であるかを示す
    有意信号に基づいて、上記再生ブロックの画像データを
    構成する画素値を上記所定の補填値と置き換える補填処
    理を行うよう構成されており、 上記有意信号は、上記画像空間に含まれる物体を構成す
    る各画素に対応する、該物体の画像の透明度を示す透過
    度信号であることを特徴とする画像処理装置。
  12. 【請求項12】 任意形状を有する物体を含む画像空間
    を形成する各フレームに対応する画像信号を、該画像空
    間を分割するブロック毎に符号化して得られる画像符号
    化信号を、該ブロック毎に復号化する装置であって、 上記画像符号化信号のデータ解析により、符号化の対象
    となる対象ブロックの画像データと該対象ブロックに対
    応する予測ブロックの画像データとの差分データに情報
    圧縮処理を施して得られる圧縮データを、圧縮差分ブロ
    ックの画像データとして生成するデータ解析器と、 上記圧縮差分ブロックの画像データに情報伸長処理を施
    して、上記差分データを、現処理フレームにおける伸長
    差分ブロックの画像データとして復元する情報伸長器
    と、 上記伸長差分ブロックの画像データと、上記予測ブロッ
    クの画像データとを加算して、再生ブロックの画像デー
    タを生成する加算手段と、 上記再生ブロックが有意でない画素のみからなる無効ブ
    ロックであるとき、該再生ブロックの画像データを、こ
    れを構成する有意でない画素値を所定の補填値と置き換
    えて出力し、一方、上記再生ブロックが少なくとも1つ
    有意な画素を含む有効ブロックであるとき、該再生ブロ
    ックの画像データをそのまま出力する補填手段と、 該有効ブロック及び補填処理が施された再生ブロックの
    画像データを参照画像データとして格納するフレームメ
    モリと、 該フレームメモリに格納された参照画像データから、次
    処理フレームの伸長差分ブロックに対応する予測ブロッ
    クの画像データを生成する予測データ生成手段とを備え
    たことを特徴とする画像処理装置。
  13. 【請求項13】 請求項12記載の画像処理装置におい
    て、 上記補填手段は、上記画像符号化信号に含まれる、上記
    再生ブロックを構成する画素が物体内に位置する有意な
    画素であるか物体外に位置する有意でない画素であるか
    を示す有意画素情報に基づいて、上記再生ブロックの画
    像データを構成する画素値を上記所定の補填値と置き換
    える補填処理を行うよう構成されており、 上記有意画素情報は、上記画像空間に含まれる物体を構
    成する各画素に対応する、該物体の画像の透明度を示す
    透過度信号を符号化して得られる透過度符号化信号に含
    まれるものであることを特徴とする画像処理装置。
  14. 【請求項14】 任意形状を有する物体を含む画像空間
    を形成する各フレームに対応する画像信号を、該画像空
    間を分割するブロック毎に符号化する装置であって、 現処理フレームにおける符号化処理の対象となる対象ブ
    ロックの画像データと、該対象ブロックに対応する予測
    ブロックの画像データとの差分データを差分ブロックの
    画像データとして出力する減算手段と、 上記差分ブロックの画像データに対して情報圧縮処理を
    施して、圧縮差分ブロックの画像データを出力する情報
    圧縮器と、 該圧縮差分ブロックの画像データに対して情報伸長処理
    を施して、上記差分データを伸長差分ブロックの画像デ
    ータとして復元する情報伸長器と、 上記伸長差分ブロックの画像データと上記予測ブロック
    の画像データとを加算して、再生ブロックの画像データ
    を生成する加算手段と、 上記再生ブロックの画像データを参照画像データとして
    格納するフレームメモリと、 上記フレームメモリを所定のタイミングで初期化する初
    期化手段と、 上記加算手段とフレームメモリの間に設けられ、該加算
    手段からフレームメモリへの再生ブロックの画像データ
    の供給を制御するデータ供給制御手段と、 該フレームメモリに格納された参照画像データから、次
    処理フレームの対象ブロックに対応する予測ブロックの
    画像データを生成する予測データ生成手段とを備え、 上記データ供給制御手段は、再生ブロックを構成する画
    素が物体内に位置する有意な画素であるか物体外に位置
    する有意でない画素であるかを示す、上記画像信号を構
    成する有意画素情報に基づいて、上記再生ブロックが少
    なくとも1つ有意な画素を含む有効ブロックであるとき
    のみ、上記再生ブロックの画像データを、上記初期化さ
    れたフレームメモリに上書きされるよう出力する構成と
    なっていることを特徴とする画像処理装置。
  15. 【請求項15】 任意形状を有する物体を含む画像空間
    を形成する各フレームに対応する画像信号を、該画像空
    間を分割するブロック毎に符号化して得られる画像符号
    化信号を、該ブロック毎に復号化する装置であって、 上記画像符号化信号のデータ解析により、符号化の対象
    となる対象ブロックの画像データと該対象ブロックに対
    応する予測ブロックの画像データとの差分データに情報
    圧縮処理を施して得られる圧縮データを、圧縮差分ブロ
    ックの画像データとして生成するデータ解析器と、 上記圧縮差分ブロックの画像データに情報伸長処理を施
    して、上記差分データを、現処理フレームにおける伸長
    差分ブロックの画像データとして復元する情報伸長器
    と、 上記伸長差分ブロックの画像データと、上記予測ブロッ
    クの画像データとを加算して、再生ブロックの画像デー
    タを生成する加算手段と、 上記再生ブロックの画像データを参照画像データとして
    格納するフレームメモリと、 上記フレームメモリを所定のタイミングで初期化する初
    期化手段と、 上記加算手段とフレームメモリの間に設けられ、該加算
    手段からフレームメモリへの再生ブロックの画像データ
    の供給を制御するデータ供給制御手段と、 該フレームメモリに格納された参照画像データから、次
    処理フレームの対象ブロックに対応する予測ブロックの
    画像データを生成する予測データ生成手段とを備え、 上記データ供給制御手段は、再生ブロックを構成する画
    素が物体内に位置する有意な画素であるか物体外に位置
    する有意でない画素であるかを示す、上記画像符号化信
    号に含まれる有意画素情報に基づいて、上記再生ブロッ
    クが少なくとも1つ有意な画素を含む有効ブロックであ
    るときのみ、上記再生ブロックの画像データを、上記初
    期化されたフレームメモリに上書きされるよう出力する
    構成となっていることを特徴とする画像処理装置。
  16. 【請求項16】 任意形状を有する物体を含む画像空間
    を形成する各フレームに対応する画像信号に対して、該
    画像空間を分割するブロック毎に階層符号化処理を施す
    画像符号化装置であって、 符号化処理の対象となる対象ブロックの画像データとし
    て、第1,第2の異なる解像度を有する第1,第2の対
    象ブロックの画像データを生成するデータ前処理器と、 該第1,第2の対象ブロックの画像データに情報圧縮処
    理及び符号化処理を施す第1,第2の符号化部とを備
    え、 上記第1の符号化部は、 現処理フレームにおける第1の対象ブロックの画像デー
    タと、該対象ブロックに対応する第1の予測ブロックの
    画像データとの第1の差分データを、第1の差分ブロッ
    クの画像データとして出力する第1の減算手段と、 上記第1の差分ブロックの画像データに対して情報圧縮
    処理を施して、第1の圧縮差分ブロックの画像データを
    出力する第1の情報圧縮器と、 該第1の圧縮差分ブロックの画像データに対して情報伸
    長処理を施して、上記第1の差分データを第1の伸長差
    分ブロックの画像データとして復元する第1の情報伸長
    器と、 上記第1の伸長差分ブロックの画像データと上記第1の
    予測ブロックの画像データとを加算して、第1の再生ブ
    ロックの画像データを生成する第1の加算手段と、 該第1の再生ブロックが有意でない画素のみからなる無
    効ブロックであるとき、該第1の再生ブロックの画像デ
    ータを、これを構成する有意でない画素値を所定の補填
    値と置き換えて出力し、一方、上記第1の再生ブロック
    が少なくとも1つ有意な画素を含む有効ブロックである
    とき、該第1の再生ブロックの画像データをそのまま出
    力する第1の補填手段と、 上記第1の補填手段から出力される、有効ブロック及び
    補填処理が施された無効ブロックの画像データを参照画
    像データとして格納する第1のフレームメモリと、 該第1のフレームメモリに格納された参照画像データか
    ら、次処理フレームの第1の対象ブロックに対応する第
    1の予測ブロックの画像データを生成する第1の予測デ
    ータ生成手段と、 上記第1のフレームメモリの出力あるいは第1の補填手
    段の出力である画像データに対して、その解像度が第2
    の解像度と等しくなるよう解像度変換処理を施して、解
    像度変換画像データを生成する解像度変換手段とを有
    し、 上記第2の符号化部は、 上記解像度変換画像データと、上記現処理フレームにお
    ける第2の対象ブロックに対応する第2の予測ブロック
    の画像データとの重付け平均化により重付け平均予測デ
    ータを生成する重付け平均化手段と、 上記第2の対象ブロックの画像データと上記重付け平均
    予測データとの第2の差分データを第2の差分ブロック
    の画像データとして出力する第2の減算手段と、 上記第2の差分ブロックの画像データに対して情報圧縮
    処理を施して、第2の圧縮差分ブロックの画像データを
    出力する第2の情報圧縮器と、 該第2の圧縮差分ブロックの画像データに対して情報伸
    長処理を施して、上記第2の差分データを第2の伸長差
    分ブロックの画像データとして復元する第2の情報伸長
    器と、 上記第2の伸長差分ブロックの画像データと上記第2の
    予測ブロックの画像データとを加算して、第2の再生ブ
    ロックの画像データを生成する第2の加算手段と、 該第2の再生ブロックが有意でない画素のみからなる無
    効ブロックであるとき、該第2の再生ブロックの画像デ
    ータを、これを構成する有意でない画素値を所定の補填
    値と置き換えて出力し、一方、上記第2の再生ブロック
    が少なくとも1つ有意な画素を含む有効ブロックである
    とき、該第2の再生ブロックの画像データをそのまま出
    力する第2の補填手段と、 上記第2の補填手段から出力される、有効ブロック及び
    補填処理が施された無効ブロックの画像データを参照画
    像データとして格納する第2のフレームメモリと、 該第2のフレームメモリに格納された参照画像データか
    ら、上記次処理フレームの第2の対象ブロックに対応す
    る第2の予測ブロックの画像データを生成する第2の予
    測データ生成手段とを有していることを特徴とする画像
    処理装置。
  17. 【請求項17】 任意形状を有する物体を含む画像空間
    を形成する各フレームに対応する画像信号を、該画像空
    間を分割するブロック毎に階層符号化処理を施して得ら
    れる、第1,第2の異なる解像度を有する第1,第2の
    画像符号化信号に対して、該ブロック毎に階層復号化処
    理を施す装置であって、 上記第1,第2の画像符号化信号に対する復号化処理を
    行う第1,第2の復号化部を備え、 上記第1の復号化部は、 上記第1の画像符号化信号のデータ解析により、符号化
    の対象となる第1の解像度を有する対象ブロックの画像
    データと該対象ブロックに対応する予測ブロックの画像
    データとの第1の差分データに情報圧縮処理を施して得
    られる圧縮データを、第1の圧縮差分ブロックの画像デ
    ータとして生成する第1のデータ解析器と、 上記第1の圧縮差分ブロックの画像データに情報伸長処
    理を施して、上記第1の差分データを、現処理フレーム
    における第1の伸長差分ブロックの画像データとして復
    元する第1の情報伸長器と、 上記第1の伸長差分ブロックの画像データと、該第1の
    伸長差分ブロックに対応する予測ブロックの画像データ
    とを加算して、第1の再生ブロックの画像データを生成
    する第1の加算手段と、 上記第1の再生ブロックが有意でない画素のみからなる
    無効ブロックであるとき、該第1の再生ブロックの画像
    データを、これを構成する有意でない画素値を所定の補
    填値と置き換えて出力し、一方、上記第1の再生ブロッ
    クが少なくとも1つ有意な画素を含む有効ブロックであ
    るとき、該第1の再生ブロックの画像データをそのまま
    出力する第1の補填手段と、 該有効ブロック及び補填処理が施された無効ブロックの
    画像データを参照画像データとして格納する第1のフレ
    ームメモリと、 該第1のフレームメモリに格納された参照画像データか
    ら、次処理フレームの第1の伸長差分ブロックに対応す
    る第1の予測ブロックの画像データを生成する第1の予
    測データ生成手段と、 上記第1のフレームメモリの出力あるいは上記第1の補
    填手段の出力である画像データに対して、その解像度が
    第2の解像度と等しくなるよう解像度変換処理を施し
    て、解像度変換データを生成する解像度変換手段とを有
    し、 上記第2の復号化部は、 上記第2の画像符号化信号のデータ解析により、符号化
    の対象となる第2の解像度を有する対象ブロックの画像
    データと該対象ブロックに対応する予測ブロックの画像
    データとの第2の差分データに情報圧縮処理を施して得
    られる圧縮データを、第2の圧縮差分ブロックの画像デ
    ータとして生成する第2のデータ解析器と、 上記第2の圧縮差分ブロックの画像データに情報伸長処
    理を施して、上記第2の差分データを、上記現処理フレ
    ームにおける第2の伸長差分ブロックの画像データとし
    て復元する第2の情報伸長器と、 上記第2の伸長差分ブロックに対応する第2の予測ブロ
    ックの画像データと上記解像度変換手段からの解像度変
    換データとの重付き平均化により重付き平均予測データ
    を生成する重付き平均化手段と、 上記第2の伸長差分ブロックの画像データと、上記重付
    き平均予測データとを加算して、第2の再生ブロックの
    画像データを生成する第2の加算手段と、 上記第2の再生ブロックが有意でない画素のみからなる
    無効ブロックであるとき、該第2の再生ブロックの画像
    データを、これを構成する有意でない画素値を所定の補
    填値と置き換えて出力し、一方、上記第2の再生ブロッ
    クが少なくとも1つ有意な画素を含む有効ブロックであ
    るとき、該第2の再生ブロックの画像データをそのまま
    出力する第2の補填手段と、 該有効ブロック及び補填処理が施された無効ブロックの
    画像データを参照画像データとして格納する第2のフレ
    ームメモリと、 該第2のフレームメモリに格納された参照画像データか
    ら、上記次処理フレームにの第2の伸長差分ブロックに
    対応する予測ブロックの画像データを生成する第2の予
    測データ生成手段とを有していることを特徴とする画像
    処理装置。
  18. 【請求項18】 任意形状を有する物体に対応する画像
    信号の処理を、コンピュータに行わせるためのプログラ
    ムを格納したデータ記憶媒体であって、 上記プログラムは、コンピュータに、請求項1ないし6
    のいずれかに記載の画像処理方法による画像符号化処理
    あるいは画像復号化処理を行わせるよう構成されている
    ことを特徴とするデータ記憶媒体。
JP14783598A 1998-05-28 1998-05-28 画像処理方法,画像処理装置,及びデータ記憶媒体 Pending JPH11341496A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP14783598A JPH11341496A (ja) 1998-05-28 1998-05-28 画像処理方法,画像処理装置,及びデータ記憶媒体
US09/321,552 US6233279B1 (en) 1998-05-28 1999-05-28 Image processing method, image processing apparatus, and data storage media

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP14783598A JPH11341496A (ja) 1998-05-28 1998-05-28 画像処理方法,画像処理装置,及びデータ記憶媒体

Publications (1)

Publication Number Publication Date
JPH11341496A true JPH11341496A (ja) 1999-12-10

Family

ID=15439335

Family Applications (1)

Application Number Title Priority Date Filing Date
JP14783598A Pending JPH11341496A (ja) 1998-05-28 1998-05-28 画像処理方法,画像処理装置,及びデータ記憶媒体

Country Status (2)

Country Link
US (1) US6233279B1 (ja)
JP (1) JPH11341496A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1113671A2 (en) * 1999-12-28 2001-07-04 Matsushita Electric Industrial Co., Ltd. Image decoding apparatus and image coding apparatus
JP2001251625A (ja) * 1999-12-28 2001-09-14 Matsushita Electric Ind Co Ltd 画像復号化装置及び画像符号化装置
WO2003092169A1 (en) * 2002-04-26 2003-11-06 Ntt Docomo, Inc. Signal encoding method, signal decoding method, signal encoding device, signal decoding device, signal encoding program, and signal decoding program

Families Citing this family (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6483874B1 (en) * 1999-01-27 2002-11-19 General Instrument Corporation Efficient motion estimation for an arbitrarily-shaped object
JP4639441B2 (ja) * 1999-09-01 2011-02-23 ソニー株式会社 ディジタル信号処理装置および処理方法、並びにディジタル信号記録装置および記録方法
FR2802735B1 (fr) * 1999-12-20 2002-03-29 Canon Kk Procede et dispositif de codage, procede et dispositif de decodage, et systemes les mettant en oeuvre
US6597811B1 (en) * 2000-03-27 2003-07-22 Eduard Batkilim Method and device for image digitized data compression and decompression
US6718066B1 (en) * 2000-08-14 2004-04-06 The Hong Kong University Of Science And Technology Method and apparatus for coding an image object of arbitrary shape
JP2004523931A (ja) * 2000-09-02 2004-08-05 エマジェオン、インコーポレイテッド データ要素の発信元と受信側を通じてdicom画像をストリーミングする方法と装置
US7792390B2 (en) * 2000-12-19 2010-09-07 Altera Corporation Adaptive transforms
KR100799412B1 (ko) 2001-10-17 2008-01-30 마쯔시다덴기산교 가부시키가이샤 동화상 부호화 방법 및 동화상 복호화 방법
KR100450939B1 (ko) * 2001-10-23 2004-10-02 삼성전자주식회사 이미지 축소를 위한 스케일-다운 기능을 가지는 압축비디오 복호화기 및 방법
US7239414B2 (en) * 2001-11-08 2007-07-03 Matsushita Electric Industrial Co., Ltd. Data processing control apparatus, data processing control method and system thereof
US7844697B1 (en) * 2002-01-25 2010-11-30 Juniper Networks, Inc. Measuring network traffic based on predicted amount of padding
US8824553B2 (en) 2003-05-12 2014-09-02 Google Inc. Video compression method
US7953152B1 (en) 2004-06-28 2011-05-31 Google Inc. Video compression and encoding method
JP4476065B2 (ja) * 2004-07-29 2010-06-09 富士通マイクロエレクトロニクス株式会社 画像処理システム
KR100670495B1 (ko) * 2004-12-20 2007-01-16 엘지전자 주식회사 동영상 압축 부호화 장치 및 방법
JP2007043651A (ja) * 2005-07-05 2007-02-15 Ntt Docomo Inc 動画像符号化装置、動画像符号化方法、動画像符号化プログラム、動画像復号装置、動画像復号方法及び動画像復号プログラム
US7925120B2 (en) * 2005-11-14 2011-04-12 Mediatek Inc. Methods of image processing with reduced memory requirements for video encoder and decoder
US7839422B2 (en) * 2006-12-13 2010-11-23 Adobe Systems Incorporated Gradient-domain compositing
US7881511B2 (en) * 2007-01-19 2011-02-01 Korea Advanced Institute Of Science And Technology Method for super-resolution reconstruction using focal underdetermined system solver algorithm
KR101370286B1 (ko) * 2007-04-06 2014-03-06 삼성전자주식회사 레지듀얼 블록의 변형을 이용한 영상 부호화, 복호화 방법및 장치
JP4793339B2 (ja) * 2007-07-09 2011-10-12 ソニー株式会社 動画像変換装置、動画像復元装置、および方法、並びにコンピュータ・プログラム
KR101365444B1 (ko) * 2007-11-19 2014-02-21 삼성전자주식회사 영상의 해상도의 조정을 통하여 동영상을 효율적으로부호화/복호화하는 방법 및 장치
US20090265661A1 (en) * 2008-04-14 2009-10-22 Gary Stephen Shuster Multi-resolution three-dimensional environment display
US8326075B2 (en) 2008-09-11 2012-12-04 Google Inc. System and method for video encoding using adaptive loop filter
KR101709822B1 (ko) * 2009-11-24 2017-02-23 텔레폰악티에볼라겟엘엠에릭슨(펍) 부호화된 텍셀 블록에서 동작할 수 있는 복호 시스템 및 방법
JP2011244210A (ja) * 2010-05-18 2011-12-01 Sony Corp 画像処理装置および方法
WO2012069187A1 (en) * 2010-11-23 2012-05-31 Lantiq Deutschland Gmbh Padding after channel encoding (repetition) and interleaving
US8781004B1 (en) 2011-04-07 2014-07-15 Google Inc. System and method for encoding video using variable loop filter
US8780996B2 (en) 2011-04-07 2014-07-15 Google, Inc. System and method for encoding and decoding video data
US8780971B1 (en) 2011-04-07 2014-07-15 Google, Inc. System and method of encoding using selectable loop filters
US8885706B2 (en) 2011-09-16 2014-11-11 Google Inc. Apparatus and methodology for a video codec system with noise reduction capability
US9131073B1 (en) 2012-03-02 2015-09-08 Google Inc. Motion estimation aided noise reduction
US9344729B1 (en) 2012-07-11 2016-05-17 Google Inc. Selective prediction signal filtering
US8824812B2 (en) * 2012-10-02 2014-09-02 Mediatek Inc Method and apparatus for data compression using error plane coding
JP5921469B2 (ja) * 2013-03-11 2016-05-24 株式会社東芝 情報処理装置、クラウドプラットフォーム、情報処理方法およびそのプログラム
US10249029B2 (en) 2013-07-30 2019-04-02 Apple Inc. Reconstruction of missing regions of images
KR102216656B1 (ko) * 2014-09-02 2021-02-17 삼성전자주식회사 이미지 처리 방법 및 그 전자 장치
US10102613B2 (en) 2014-09-25 2018-10-16 Google Llc Frequency-domain denoising
US9846919B2 (en) * 2015-02-16 2017-12-19 Samsung Electronics Co., Ltd. Data processing device for processing multiple sensor data and system including the same
US10284810B1 (en) * 2017-11-08 2019-05-07 Qualcomm Incorporated Using low-resolution frames to increase frame rate of high-resolution frames
US11580687B2 (en) * 2018-12-04 2023-02-14 Ottopia Technologies Ltd. Transferring data from autonomous vehicles

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69732865T2 (de) 1996-01-29 2006-04-13 Matsushita Electric Industrial Co., Ltd., Kadoma Kodierer mit Mitteln zur Ergänzung eines digitalen Bildes mit Bildelementen
US5748240A (en) * 1996-03-15 1998-05-05 International Business Machines Corporation Optimal array addressing control structure comprising an I-frame only video encoder and a frame difference unit which includes an address counter for addressing memory addresses
US6005980A (en) * 1997-03-07 1999-12-21 General Instrument Corporation Motion estimation and compensation of video object planes for interlaced digital video

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1113671A2 (en) * 1999-12-28 2001-07-04 Matsushita Electric Industrial Co., Ltd. Image decoding apparatus and image coding apparatus
JP2001251625A (ja) * 1999-12-28 2001-09-14 Matsushita Electric Ind Co Ltd 画像復号化装置及び画像符号化装置
EP1113671A3 (en) * 1999-12-28 2007-04-11 Matsushita Electric Industrial Co., Ltd. Image decoding apparatus and image coding apparatus
WO2003092169A1 (en) * 2002-04-26 2003-11-06 Ntt Docomo, Inc. Signal encoding method, signal decoding method, signal encoding device, signal decoding device, signal encoding program, and signal decoding program
US7190289B2 (en) 2002-04-26 2007-03-13 Ntt Docomo, Inc. Signal encoding method, signal decoding method, signal encoding apparatus, signal decoding apparatus, signal encoding program, and signal decoding program
US7298303B2 (en) 2002-04-26 2007-11-20 Ntt Docomo, Inc. Signal encoding method, signal decoding method, signal encoding apparatus, signal decoding apparatus, signal encoding program, and signal decoding program

Also Published As

Publication number Publication date
US6233279B1 (en) 2001-05-15

Similar Documents

Publication Publication Date Title
JPH11341496A (ja) 画像処理方法,画像処理装置,及びデータ記憶媒体
KR100306337B1 (ko) 디지털화상부호화방법및디지털화상부호화장치,디지털화상복호화방법및디지털화상복호화장치
US7643690B2 (en) Image decoding and encoding apparatus, method and computer readable storage medium
US6353684B1 (en) Video coding and video decoding apparatus
KR101359490B1 (ko) 컬러 영상 부호화/복호화 방법 및 장치
US6078694A (en) Image signal padding method, image signal coding apparatus, image signal decoding apparatus
JPH03136595A (ja) デイジタル動画像の記憶または伝送に用いるビデオ画像データの処理方法
KR20060105408A (ko) 영상 신호의 스케일러블 인코딩 및 디코딩 방법
US7177356B2 (en) Spatially transcoding a video stream
JPH07147681A (ja) ディジタル画像信号の階層符号化および復号装置
US6307967B1 (en) Video coding and video decoding apparatus
WO1997028650A1 (en) Method for supplementing digital image with picture element, and digital image encoder and decoder using the same
WO2000001155A1 (en) Method and apparatus for scalable shape coding
JPH08294125A (ja) 動画像符号化装置および動画像復号化装置
KR100574732B1 (ko) 영상코딩장치,영상코딩방법,영상디코딩방법,영상디코딩장치,영상데이터전송방법및기록매체
US20060120459A1 (en) Method for coding vector refinement information required to use motion vectors in base layer pictures when encoding video signal and method for decoding video data using such coded vector refinement information
JPH11346368A (ja) 画像処理方法,画像処理装置,及びデ―タ記憶媒体
JP2001160971A (ja) デジタル画像符号化方法及びデジタル画像符号化装置,デジタル画像復号化方法及びデジタル画像復号化装置,並びにデータ記憶媒体
JP3334384B2 (ja) 画像予測符号化方法
Plataniotis et al. Color Image Compression
JPH10191339A (ja) 画像信号の補填方法及び画像信号復号化装置
Wu et al. Lossless Compression Using Joint Predictor for Astronomical Images
JPH1169352A (ja) 形状符号化方法および形状復号化方法
JPH088499B2 (ja) 静止画像の符号化方式
KR19990003316A (ko) 개선된 윤곽선 움직임 벡터 부호화 장치