JP3596728B2 - スケーラブル二進映像符号化/復号化方法及び装置 - Google Patents

スケーラブル二進映像符号化/復号化方法及び装置 Download PDF

Info

Publication number
JP3596728B2
JP3596728B2 JP19480998A JP19480998A JP3596728B2 JP 3596728 B2 JP3596728 B2 JP 3596728B2 JP 19480998 A JP19480998 A JP 19480998A JP 19480998 A JP19480998 A JP 19480998A JP 3596728 B2 JP3596728 B2 JP 3596728B2
Authority
JP
Japan
Prior art keywords
mode
coded
block
intra
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP19480998A
Other languages
English (en)
Other versions
JPH11150730A (ja
Inventor
震 鶴 李
柱 ▲ヒ▼ 文
勝 文 千
海 光 金
在 均 金
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SK Hynix Inc
Original Assignee
Hynix Semiconductor Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1019970038946A external-priority patent/KR19990016416A/ko
Priority claimed from KR1019980009479A external-priority patent/KR19990075333A/ko
Application filed by Hynix Semiconductor Inc filed Critical Hynix Semiconductor Inc
Publication of JPH11150730A publication Critical patent/JPH11150730A/ja
Application granted granted Critical
Publication of JP3596728B2 publication Critical patent/JP3596728B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/112Selection of coding mode or of prediction mode according to a given display mode, e.g. for interlaced or progressive display mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
    • H04N19/29Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding involving scalability at the object level, e.g. video object layer [VOL]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/39Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability involving multiple description coding [MDC], i.e. with separate layers being structured as independently decodable descriptions of input picture data

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、二進映像の符号化/復号化に関するもので、特に下層と現在層の相関性を考慮して二進映像の符号化モードを減らし、その相関性に従ってモード符号化ビットを割り当てて符号化ビット量を減らす下層と現在層のモードを利用したスケーラブル二進映像符号化/復号化方法及び装置に関する。
【0002】
【従来の技術】
伸縮型(Scalable:スケーラブルとも称す)符号化は、解像度が異なる複数個の層(基本層(base layer)、高位層)を伝送し復号化することができる機能である。複数個の異なる解像度を有する情報を伝送するためには、一般的な符号化方法よりさらに多い情報を伝送しなければならない。伝送する情報量を減らすために、図15に図示のように低解像度の基本層(base layer)を利用し、高解像度の高位層(enhancement layer:エンハンスメント階層とも称す)を推定する方法を適用する。
【0003】
二進映像情報を複数個の層(layer)を用いて伸縮型(Scalable)符号化する方法においても、前記のように基本層を利用するか、または複数層により構成された場合、高位層では下層を用いて効果的に符号化する。
【0004】
図15は、一般的な映像情報の伸縮型符号化方法を示す。
ここでは、高位層の1段階のみ表示したが、一般的に多段階の高位層が含まれる。従って、現在階層(current layer)のすぐ下の下位階層(lower layer)は最下位階層(基本層)であることもあり、高位層中の一階層であることもある。二進映像(binary image)情報に対する伸縮型符号化方法も、一般的な伸縮型符号化方法と同じ構造を有する。
【0005】
二進映像に対する高位層を符号化するために、イントラ映像(“Intra‐Picture)の高位層の場合は、図15に図示のようにすぐ下層(lower layer)から予測して符号化する。高位層の予測映像(Predicted‐Picture)の場合には、すぐ下層の映像と以前映像の両方から予測して符号化する。
【0006】
映像情報を符号化する過程においては、ブロック単位(16×16の大きさ)の符号化を遂行する。二進映像情報に対するブロック(Macro Block:以下、MBと称す)を符号化する際に、高位層のI−ピクチャ(I‐Picture)または高位層のP−ピクチャ(P‐Picture)において、Intra MB、すなわち、二進映像から予測せずに、自分の下層のみを使用して符号化しなければならないMBは、ISO/IEC WG11のVM(verification Model)7.0に提示されたスキャンインターリーブ(scan Interleaving)方法を使用して符号化しなければならない。そして、その以外のMBは、基本層の符号化方法であるCAE方法を使用して符号化する。
【0007】
スキャンインターリーブ方法が図16に図示されている。基本層で高位層を符号化するために、下と上の二つの隣接する画素値を利用する。もし、二つの隣接画素値が同一な場合、現在位置の画素値も同一値を有する可能性が高い。従って、二つの隣接画素値が同一で現在位置の画素値も二つの隣接画素値と同一な場合は符号化しなくてもよい。
【0008】
二つの隣接画素値が異なる場合は、現在位置の画素値を符号化しなければならない。この場合をトランジショナルサンプルデータ(TSD:Transitional Sample Data)という。そして、二つの隣接画素値は同一であるが、現在位置の画素値が異なる場合も符号化しなければならない。この場合をエクセプショナルサンプルデータ(ESD:Exceptional Sample Data)という。従って、高位層をスキャンインターリーブ方法を用いて符号化するためには、2種類のデータ(TSD、ESD)を符号化しなければならない。
【0009】
スキャンインターリーブ方法を用いて符号化する場合、TSDとESDを符号化するために、まず、ESDの存在有無に対する情報が伝送され、ESDが存在するMBと存在しないMBに対してスキャンインターリーブの適用範囲を異なるようにする。
【0010】
図17(a)及び(b)は、CAE(Context‐based Arithmetic EnCode)方法に使用されるコンテキストを示す。図17(a)に図示のように、符号化対象画素Yを囲む周辺画素により構成されるコンテキストの位置によってコンテキストインデックス(Context_ID)が決定される。X、Y位置の情報を伝送するためにC0−C6から構成されるコンテキストインデックス(Context_ID)形態の発生頻度数によって既に決定されているArithmetic符号化テーブルにより符号化される。
【0011】
【発明が解決しようとする課題】
このように、スキャンインターリーブ方法により符号化しないMBは、基本層(base layer)の符号化方法と同じ方法(例えば、CAE方法)を使用して符号化する。その中の高位層のP−ピクチャにおいて、Inter MBは、動きベクトル(motion vector)を用いて二進映像から予測して符号化する。
【0012】
また、他の場合は、MB内の全ての画素が‘0’値を有するか、または全ての画素が‘255’の値を有する場合は符号化する必要がなく、“全ての画素が‘0’である”または“全ての画素画‘255’である”という付加情報(Mode情報)のみを伝送する。ここで、符号化しようとする映像は二進映像であるので、各画素は‘0’または‘255’の2つの値のみを有することができる。一般的に‘0’は背景(background)を表し、‘255’は物体(object)を示す。
【0013】
このように二進映像を符号化するためには、各MBによって符号化方法が異なるように決定され、各MBがどのような符号化方法を使用したかに対する付加情報(Mode)を伝送しなければならない。この場合、付加情報(Mode)に対する種類と付加情報の符号(first shape Code)に対するテーブルが必要である。
【0014】
I−ピクチャとP−ピクチャ、そしてB−ピクチャの高位層に対する既存の付加情報(Mode)の構成は下記のとおりである。
【0015】
<I−ピクチャの高位層のモード>
1)all_0:MB内の全ての画素が背景(“0”)
2)all_255:MB内の全ての画素が物体(“255”)
3)Intra coded:ESD(Exceptional Sample Data)が存在すれば、MB内の全ての画素に対してスキャンインターリーブ方法を使用して符号化する。ESDが存在しなければTSD(Transitional Sample Data)のみスキャンインターリーブ方法を使用して符号化する。
【0016】
<P−ピクチャまたはB−ピクチャの高位層のモード>
1)all_0:前記の説明と同一
2)all_255:前記の説明と同一
3)Intra coded:前記の説明と同一
4)Intra not coded:下位階層の領域を補間(Interpolation)して作ったMBが現在階層のMBとの差が基準値以下
5)Inter coded && MVD=0:動きベクトルを使用して以前映像から持ってきたMBと現在MBを使用しCAE(Context based Arithmetic Encoding)で符号化する。動きベクトルは“0”。
【0017】
6)Inter not coded && MVD=0:動きベクトルを使用して以前映像から持ってきたMBと現在MBの差が基準値以下であり、動きベクトルは“0”。
7)Inter coded && MVD!=0:動きベクトルを使用して以前映像から持ってきたMBと現在MBを使用してCAE符号化。
8)Inter not coded && MVD!=0:動きベクトルを使用して以前映像から持ってきたMBと現在MBとの差が基準値以下。
【0018】
前記のように符号化されたデータは下記のように復号化される。二進映像の各MBに対するビットストリーム(bit stream)の最初にモードを表示する付加情報が入っている。各MBを復号化するために、まずビットストリームからモード情報を読む。
【0019】
P−ピクチャとB−ピクチャの高位層に対する既存の付加情報(Mode)を伝送するための符号化テーブルが構成されている。この時、伝送されるビット数を減らすために、下の階層または以前映像から予測して構成する。構成方法は、すぐ下の階層の該当MBが“all_0”または“all_255”の場合とその以外の場合とに対する符号化テーブルが構成される。
【0020】
すぐ下の階層の該当MBモードのすべてが“all_0”でもなく“all_255”でもない場合は、すぐ以前の映像の同じ階層の該当MBのモードによって符号化テーブルが構成される。
【0021】
<すぐ下の階層の該当MBモードのすべてが“all_0”の場合>
Mode Code
(1) 0111
(2) 0110001
(3) 0110000
(4) 010
(5) 00
(6) 01101
(7) 011001
(8) 1
【0022】
<すぐ下の階層の該当MBモードのすべてが“all_255”の場合>
Mode Code
(1) 1
(2) 0010100
(3) 000
(4) 0010101
(5) 0011
(6) 001011
(7) 00100
(8) 01
【0023】
各MB当たり高位層に対する既存の付加情報(Mode)は、I−ピクチャの場合に3種類(all_0、all_255、Intra coded)であり、P−ピクチャの場合に8種類(all_0、all_255、Intra coded、Intra not coded、Inter coded && MVD=0、Inter not coded && MVD=0、Inter coded && MVD!=0、Inter not coded && MVD!=0)である。付加情報の種類が多ければ各モードを表現するためのビット数が多くなり、従って、伝送されるビット量が多いことを意味する。
【0024】
図18は現在層(current layer)と下層(lower layer)間の関係を説明する。現在層と下層の映像は互いに大きさが同一な場合もあり、異なる場合もある。大きさが互いに異なる場合、垂直、水平に共に異なることもあり、一方向のみ異なる場合もある。図18は、水平のみ異なる場合を説明する。映像の大きさが異なっても、全層の各MBの大きさ(16×16)は一定である。従って、現在層の映像が下層の映像より大きい場合は、現在層のMBは下層のMB内に含まれる(現在層のMB多数個が下層の1個のMBに該当する)。即ち、現在層の映像がダウンサンプリングされ、下層の映像を構成するからである。図18に図示のように、現在層が下層の2倍の大きさであり、この場合は現在層のMBが下層MBの半分(下層の斜線領域)に該当する。
【0025】
本発明は前記のような従来の問題点を解消するためのもので、本発明の目的は、符号化方法を表示する付加情報の種類と、付加情報の種類を減らして符号化効率を向上させる、下層と現在層のモードを利用したスケーラブル二進映像符号化/復号化方法及び装置を提供するものである。
【0026】
【課題を解決するための手段】
前記のような目的を達成するために、本発明に係るスケーラブル二進映像符号化方法は、下層映像より高い解像度を有する少なくとも一つのエンハンスメント階層映像を含むスケーラブル二進映像を、エンハンスメント階層の符号化モードを利用して符号化するためのスケーラブル二進映像符号化方法において、エンハンスメント階層の映像を所定大きさのブロックに分割する第1ステップと、前記エンハンスメント階層の現在ブロックと該当領域の下層ブロックを利用して予測されたブロックまたは下層の動きベクトルを利用してエンハンスメント階層の以前ブロックから予測されたブロックを比較する第2ステップと、前記第2ステップでの比較結果、前記エンハンスメント階層にあるブロックがP−VOPである場合、「intra not coded」モードまたは「intra coded」モードのいずれか一つを前記P−VOPに対する符号化モードを表す付加情報として伝送する第3ステップと、前記第2ステップでの比較結果、前記エンハンスメント階層にあるブロックがB−VOPである場合、「intra not coded」モード、「intra coded」モード、「inter not coded」モードまたは「inter coded」モードのいずれか一つを前記−VOPに対する符号化モードを表す付加情報として伝送する第4ステップとを含み、前記「 intra not coded 」モードは、各エンハンスメント階層ブロックにある画素の中で、該当領域の下層ブロックを利用して予測されたブロックの画素と異なる値を有する画素数が基準値より少ない場合を表し、前記「 intra coded 」モードは、各エンハンスメント階層ブロックにある画素の中で該当領域の下層ブロックを利用して予測されたブロックの画素と異なる値を有する画素の数が基準値より大きい場合を表し、前記「 inter not coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のブロックから予測されたエンハンスメント階層ブロックの画素と異なる値を有する画素数が基準値より少ない場合を表し、前記「 inter coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のブロックから予測されたエンハンスメント階層ブロックの画素と異なる値を有する画素数が基準値より大きい場合を表すことを特徴とするものである。
また、本発明に係るスケーラブル二進映像復号化方法は、下層映像より高い解像度を有する少なくとも一つのエンハンスメント階層映像を含むスケーラブル二進映像(scalable shape binary image)を、エンハンスメント階層ブロックの符号化モードを利用して復号化するためのスケーラブル二進映像復号化方法において、(1)「intra not coded」モード、(2)「intra coded」モード、(3)「inter not coded」モードまたは(4)「inter coded」モードのいずれか一つである前記エンハンスメント階層の符号化モードを表す付加情報を受信して、符号化モードを決定する第1ステップと、前記エンハンスメント階層にあるブロックがP−VOPである場合、P−VOPに対する符号化モードとして「intra not coded」モードまたは「intra coded」モードのいずれか一つを受信して、前記符号化モードに応じて該当領域の下層ブロックを利用して前記エンハンスメントの現在階層ブロックに存在する画素を再生する第2ステップと、前記エンハンスメント階層にあるブロックが−VOPである場合、B−VOPに対する符号化モードとして「intra not coded」モード、「intra coded」モード、「inter not coded」モードまたは「inter coded」モードのいずれか一つを受信して、前記符号化モードに応じて下層ブロックの動きベクトルとエンハンスメント階層の以前ブロックを利用して前記エンハンスメント階層の現在ブロックを再生する第3ステップとを含み、前記「 intra not coded 」モードは、各エンハンスメント階層ブロックにある画素の中で、該当領域の下層ブロックを利用して予測されたブロックの画素と異なる値を有する画素数が基準値より少ない場合を表し、前記「 intra coded 」モードは、各エンハンスメント階層ブロックにある画素の中で該当領域下層の部ブロックを利用して予測された画素と異なる画素を有する画素の数が基準値より大きい場合を表し、前記「 inter not coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のブロックから予測されたエンハンスメント階層ブロックの画素と異なる値を有する画素数が基準値より少ない場合を表し、前記「 inter coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のブロックか ら予測されたエンハンスメント階層ブロックの画素と異なる値を有する画素数が基準値より大きい場合を表し、前記第2ステップは、前記符号化モードが「 intra not coded 」であり、前記エンハンスメント階層ブロックに相応する下層ブロックの全画素が「0」である場合、前記エンハンスメント階層ブロック内の全画素を「0」に置き換えるステップと、前記符号化モードが「 intra not coded 」であり、前記エンハンスメント階層ブロックに相応する下層ブロックの全画素が「255」である場合、前記エンハンスメント階層ブロック内の全画素を「255」に置き換えるステップと、前記符号化モードが「 intra not coded 」であり、前記エンハンスメント階層ブロックに相応する下層ブロックの全画素が「0」でもなく「255」でもない場合、前記下層ブロックから予測されて構成されたブロックをエンハンスメント階層ブロックで用いるステップとを備えることを特徴とする。
また、本発明に係るスケーラブル二進映像符号化装置は、下層映像より高い解像度を有する少なくとも一つのエンハンスメント階層映像を含むスケーラブル二進映像を、エンハンスメント階層の符号化モードを利用して符号化するためのスケーラブル二進映像符号化装置において、前記エンハンスメント階層の映像を所定大きさのブロックに分割するための分割手段と、前記エンハンスメント階層の現在ブロックと該当領域の下層ブロックを利用して予測されたブロックまたは下層の動きベクトルを利用してエンハンスメント階層の以前ブロックから予測されたブロックを比較する比較手段と、前記比較手段での比較結果、前記エンハンスメント階層にあるブロックがP−VOPである場合、「intra not coded」モード及び「intra coded」モードのいずれか一つを、前記P−VOPに対する符号化モードを表す付加情報として伝送するための第1符号化手段と、前記比較手段での比較結果、前記エンハンスメント階層にあるブロックがB−VOPである場合、「intra not coded」モード、「intra coded」モード、「inter not coded」モード及び「inter coded」モードのいずれか一つを、前記−VOPに対する符号化モードを表す付加情報として伝送するための第2符号化手段とを含み、前記「 intra not coded 」モードは、各エンハンスメント階層ブロックにある画素の中で、該当領域の下層ブロックを利用して予測されたブロックの画素と異なる値を有する画素数が基準値より少ない場合を表し、前記「 intra coded 」モードは、各エンハンスメント階層ブロックにある画素の中で該当領域の下層ブロックを利用して予測されたブロックの画素と異なる値を有する画素の数が基準値より大きい場合を表し、前記「 inter not coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のVOPブロックから予測されたエンハンスメント階層ブロックの画素と異なる値を有する画素数が基準値より少ない場合を表し、「 inter coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のブロックから予想されたエンハンスメント階層ブロックの画素と異なる値を有する画素数が基準値より大きい場合を表すことを特徴とする。
また、本発明に係るスケーラブル二進映像復号化装置は、下層映像より高い解像度を有する少なくとも一つのエンハンスメント階層映像を含むスケーラブル二進映像を、エンハンスメント階層の符号化モードを利用して復号化するためのスケーラブル二進映像復号化装置において、(1)「intra not coded」モード、(2)「intra coded」モード、(3)「inter not coded」モードまたは(4)「inter coded」モードのいずれか一つである前記エンハンスメント階層の符号化モードを表す付加情報を受信して、符号化モードを決定するための符号化モード決定手段と、前記エンハンスメント階層にあるブロックがP−VOPである場合、P−VOPに対する符号化モードに「intra not coded」モード及び「intra coded」モードのいずれか一つを受信して、前記符号化モードに応じて該当領域の下層ブロックを利用して前記エンハンスメント階層の現在ブロックに存在する画素を再生するための第1復号化手段と、前記エンハンスメント階層にあるブロックがB−VOPである場合、B−VOPに対する符号化モードに「intra not coded」モード、「intra coded」モード、「inter not coded」モードまたは「inter coded」モードのいずれか一つを受信して、前記符号化モードに応じて下層ブロックの動きベクトルとエンハンスメント階層の以前ブロックを利用して前記エンハンスメント階層の現在ブロックを再生するための第2復号化手段とを含み、前記「 intra not coded 」モードは、各エンハンスメント階層ブロックにある画素の中で該当領域の下層ブロックを利用して予測されたブロックの画素と異なる値を有する画素数が基準値より少ない場合を表し、前記「 intra coded 」モードは、各エンハンスメント階層ブロックにある画素の中で該当領域の下層ブロックを利用して予測されたブロックの画素と異なる値を有する画素の数が基準値より大きい場合を表し、前記「 inter not coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のブロックから予測されたエンハンスメント階層ブロックの画素と異なる値を有する画素数が基準値より少ない場合を表し、前記「 inter coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のブロックから予測されたエンハンスメント階層ブロックの画素と異なる値を有する画素の数が基準値より大きい場合を表し、前記第1復号化手段は、前記符号化モードが「 intra not coded 」であり、前記エンハンスメント階層ブロックに相応する下層ブロックの全画素が「0」である場合、前記エンハンスメント階層ブロック内の全画素を「0」に置き換える手段と、前記符号化モードが「 intra not coded 」であり、前記エンハンスメント階層ブロックに相応する下層ブロックの全画素が「255」である場合、前記エンハンスメント階層ブロック内の全画素を「255」に置き換える手段と、前記符号化モードが「 intra not coded 」であり、前記エンハンスメント階層ブロックに相応する下層ブロックの全画素が「0」でもなく「255」でもない場合、前記下層ブロックから予測されて構成されたブロックをエンハンスメント階層ブロックで用いる手段とを備えることを特徴とする。
【0057】
【発明の実施の形態】
本発明においては、“all_0”、“all_255”、“Intra not coded”の3種類のモードの代わりに1つのモード“Intra not coded”のみを使用する。送信端で“all_0”、“all_255”または“Intra predicted”に決定されたMBは全て“Intra not coded”モードに伝送される。受信端では下階層の画素等を参照し、“Intra not coded”モードから再び“all_0”、“all_255”、“Intra predicted”とを区別する。
【0058】
“Inter coded && MVD=0”と“Inter coded && MVD!=0”は、“Inter coded”で表現し、“Inter not coded && MVD=0”と“Inter not coded && MVD!=0”は、“Inter not coded”で表現する。その結果、I−ピクチャは符号化モードを2種類のモードに減らすことができ、P−ピクチャ(またはB−ピクチャ)は符号化モードを4種類に減らすことができる。このようなモードを使用して符号化テーブルを作る。符号化テーブルは下層と高位層の相関性を考慮して下層モードに対し発生する高位層のモードを符号化する。各下層モードに対し発生確率が高い高位層のモードであるほど少ないビット量を割り当てて符号化する。
以下、本発明の技術的思想に従う一実施の形態をあげて、その構成及び動作を添付図面に基づいて詳細に説明する。
【0059】
I−ピクチャ(例えば、VOP、フレーム、16×16マクロブロック等)の高位層に対する符号化モードは、従来方式のモード中“all_0”、“all_255”、“Intra predicted”(下層からアップサンプリングして構成されたMBと現在のMBとの間の差が基準値以下である場合に該当し、既存方式における“Intra not coded”を意味する。以後、本発明において新たに定義された“Intra not coded”と従来の“Intra not coded”を区別するために、従来の“Intra not coded”は、“Intra predicted”と表示する)の3種類のモードを1つのモード“Intra not coded”のみを使用して表示することにより、I−ピクチャの高位層に対する符号化モードを、下記のように2種類のモードにする。
【0060】
(1)“Intra not coded”
(2)“Intra coded”
1.符号化モードが“Intra coded”の場合
1)ESDの存在有無に対する情報を送る。
2)ESDが存在するとMB全体をCAE遂行し、ESDが存在しなければTSDのみCAEを遂行する。
【0061】
2.符号化モードが“Intra not coded”の場合は、下記に説明する3つの場合を含む。
1)下層のMBが“all_0”の場合であり、高位層のMBも“all_0”の場合または高位層のMBを“all_0”とする場合、1MB内で高位層MBと差異があるピクセル(pixel)個数の和が基準値以下の場合。
2)下層のMBが“all_255”の場合であり、高位層のMBも“all_255”の場合、または高位層のMBを“all_255とする場合、1MB内で高位層MBと差異があるピクセル個数の和が基準値以下の場合。
【0062】
3)下層のMBが“all_0”でもなく“all_255”でもない場合、下層のMBからアップサンプリング(up sampling)したとき、1MB内で高位層のMBと差がでるピクセル個数の和が基準値以下の場合(即ち、下階層からアップサンプリングして構成されたMBと現在のMBとを比較して決定するが、MBを4×4ブロックに分割しアップサンプリングして構成されたMBと現在のMBと間のエラーが臨界値より小さい場合または同一な場合)。
【0063】
従って、復号化時には、“Intra not coded”を表示する付加情報を受信し、下層を参照し、下層が“all_0”の場合、高位層のMBの全てを“0”に詰める。下層が“all_255”の場合、高位層のMBの全てを“255”に詰める。また下層が“all_0”や“all_255”でない場合、下層のMBからアップサンプリングして高位層のMBをつくる。
【0064】
図1は本発明によるI−ピクチャの高位層を符号化する方法を示すフローチャートである。
段階ST501で現在のマクロブロックが“Intra not coded”であるかを判断する。本発明では“Intra not coded”が“all_0”、“all_255”、“Intra predicted”(従来の“Intra not coded”である)の3種類のモードを含むので、図2に説明される過程により“Intra not coded”モードであるかを判断する。
【0065】
現在マクロブロックが“Intra not coded”モードでない場合、段階ST502で“Intra coded”モードを表示する付加情報を復号器側に伝送し、現在マクロブロックをスキャンインターリーブ(Scan Interleaving)方法により符号化して復号器側に伝送する。即ち、ESDの存在有無に対する情報を送り、ESDが存在するとMBの全体をCAE遂行し、ESDが存在しなければTSDのみCAEを遂行する。
【0066】
現在マクロブロックが“Intra not coded”モードの場合、段階ST503で“Intra not coded”モードを表示する付加情報を復号化側に伝送する。
本発明では“Intra not coded”が“all_0”、“all_255”、“Intra predicted”(従来の“Intra not coded”である)を意味するので、図2において説明するように前記3種類の場合に該当するかを判断する。
【0067】
図2は本発明による高位層映像が“Intra not coded”モードであるかを判断する方法を示すフローチャートである。
段階ST601で、現在マクロブロックに該当する下層MBが“all_0モードであるかを判断する。前記下層MBが“all_0”の場合、段階ST602で、現在のマクロブロックが“all_0”モードであるかを判断する。現在マクロブロックと対応する下層領域が同時に“all_0”モードの場合、“Intra not coded”モードを表示する付加情報を復号器側に伝送する。
【0068】
現在マクロブロックまたは対応する下層MBが“all_0”モードでない場合、段階ST603で、現在マクロブロックに対応する下層MBが“all_255”モードであるかを判断する。前記の下層MBが“all_255”モードの場合、段階ST504で、現在のマクロブロックが“all_255”モードであるかを判断する。現在マクロブロックと対応する下層MBが同時に“all_255”モードの場合、“Intra not coded”モードを表示する付加情報を復号器側に伝送する。現在マクロブロックまたは対応する下層MBが“all_255”モードでない場合、段階ST605で、現在マクロブロックが“Intra predicted”モードであるかを判断する。現在マクロブロックが “Intra predicted”モードの場合、“Intra not coded”モードを表示する付加情報を復号器側に伝送する段階に進行する。現在マクロブロックが“Intra predicted”モードでない場合、“Intra coded”または“Inter coded”モードを符号化する段階に進行する。
【0069】
復号化受信端では、図3及び図4に図示のように、“Intra not coded”モードから復号化し、“all_0”、“all_255”と“Intra predicted”とを分離し、それぞれに該当する動作を行う。ビットストリームから復号したモード情報が“Intra not coded”である場合、図3に図示されたように復号化する。
【0070】
段階ST701で、下層のMBが“all_0”であるか、または現在マクロブロックのMBに該当する下層領域内の全ての画素(sample)が0の場合、現在層のMBは“all_0”に該当し、段階ST702で現在層MB内の全ての画素は0に置換される。
【0071】
段階ST703で、下層のMBが“all_255であるか、または現在層MBに該当する下層領域内の全ての画素が255の場合、現在層MBは“all_255”に該当し、段階ST704で、現在層MB内の全ての画素は255に置換される。
【0072】
下層のMBが“all_0”でもなく“all_255”でもない場合は、現在層MBに該当する下層の領域内に‘0’と‘255’を有する画素が共に存在する場合である。既存の方法での“Intra not coded”に該当する。この場合、段階ST705で、下層から予測されて構成されたMBを現在層のMBとして使用する。
【0073】
従来の方式でP−ピクチャとB−ピクチャの高位層モードは、前述したように8種類から構成されるが、本発明による符号化方法では、3種類のモード“all_0”、“all_255”、“Intra predicted”(従来の“Intra not coded”)は、“Intra not coded”モードに符号化され復号化装置に伝送される。これはI−ピクチャの高位層モードと同じ方法である。
【0074】
また、本発明では、動きベクトルを伝送しないことにより、動きベクトルを探すための複雑度を減らす。従って、従来の“Inter coded && MVD=0”と“Inter coded && MVD!=0”は“Inter coded”として表現し、“Inter not coded && MVD=0”と“Inter not coded && MVD!=0”は“Inter not coded”として表現する。その結果、P−ピクチャ(またはB−ピクチャ)の高位層に対する符号化モードを、下記のように4種類のモードにする。
【0075】
(1)“Intra not coded”(“all_0”、“all_255”、“Intra not coded”)
(2)“Intra coded”
(3)“Inter not coded”(“Inter not coded && MVD=0”、“Inter not coded && MVD!=0”)
(4)“Inter coded”(“Inter coded && MVD=0”、“Inter coded && MVD!=0”)
符号化モードが“Intra not coded”と“Intra coded”の場合、I−VOPの高位層の“Intra not coded”と“Intra coded”の意味と同一である。
【0076】
“Inter coded”と“Inter not coded”の場合、以前のVOPから動き補償してマクロブロックを持ってくるために動きベクトルが必要である。動きベクトルは基本層(base layer)の動きベクトルをVOP大きさの比率に調整して使用する。現在層の映像がダウンサンプリングされ下層の映像を構成するためである。図18に示されたように、現在層が下層の水平方向に2倍である場合、現在層のMBが下層MBの比率に従って下層の動きベクトルを水平成分を2倍して現在層の動きベクトルとする。
【0077】
下層が“MVDs==0 && No Update”または“MVDs!=0 && No Update”の場合は動きベクトルが0である。“Inter not coded”は下層の動きベクトルを利用して、以前映像から持ってきたMBと比較して、差がでる画素のMB内の和が基準値以下の場合を意味する。従って、符号化モードが“Inter not coded”の場合は、下層の動きベクトルを用いて以前映像から持ってきて、追加の符号化または復号化をしない。
【0078】
下層が“MVDs==0 && No Update”または“MVDs!=0 && No Update”の場合は動きベクトルが0である。“Inter coded”は下層の動きベクトルを利用して、以前のVOPから持ってきたMBと比較して、差がある画素のMB内の和が基準値以上の場合を意味する。従って、符号化モードが“Inter coded”の場合は、下層の動きベクトルを用いて以前映像から持ってきたMBを使用してCAEを遂行することによって高位層MBを得る。
【0079】
本発明では、P−ピクチャとB−ピクチャの高位層(enhancement layer)のモードは、既存方式の8種類モードから4種類モードに減らすことができる。
【0080】
図5は、本発明のよる高位層P−ピクチャとB−ピクチャを符号化するフローチャートである。段階ST901で、現在マクロブロックが“Intra not coded”であるかが、前記の図2で説明した方法により判断される。“Intranot coded”の場合は符号化せず、段階ST902で“Intra not coded”モードを表示する付加情報のみ伝送される。“Intra not coded”でなければ,段階ST903で前述した方式のとおりに“Inter coded”及び“Inter not coded”の動きベクトルは基本層(base layer)の動きベクトルを現在層の映像と下層の映像の大きさの比率に調整して動きベクトルを再生する。段階ST904で、現在マクロブロックが“Inter not coded”であるかを判断する。“Inter not coded”の場合、段階ST905で、現在マクロブロックを符号化せずに、“Inter not coded”モードを表示する付加情報のみ伝送される。
【0081】
現在マクロブロックが“Inter not coded”でない場合、段階ST906で、現在マクロブロックが“Intra coded”であるかを判断する。現在マクロブロックが“Intra coded”である場合、段階ST908で、“Intra coded”モードを表示する付加情報と現在マクロブロックをスキャンインターリーブ方法により符号化したデータを復号化装置に伝送する。“Intra coded”でない場合、段階ST907で“Inter coded”モードを表示する付加情報を伝送し、現在マクロブロックをCAE(CAE:Contexed‐based Arithmetic EnCode)符号化して復号化装置に伝送する。
【0082】
“Inter coded”と“Inter not coded”の場合、以前の映像から動き補償してMBを持ってくるために動きベクトルが必要である。動きベクトルは最下位階層(base layer)の動きベクトルを映像の大きさの比率で調整した後に使用する。
最下位階層から動きベクトルを得る方法は下記のとおりである。
【0083】
1.最下位階層の該当MBのモードが“all_0”、“all_255”または“IntraCAE”の場合、現在階層のMBの動きベクトルは0である。
2.最下位階層の該当MBのモードが“MVDs==0 && No Update”、“MVDs!=0 && No Update”、“InterCAE && MVDs==0”または“InterCAE && MVDs!=0”の場合、最下位階層で再生された動きベクトルを使用する。
【0084】
このとき、最下位階層の映像と現在階層映像の大きさの比率によって、最下位階層の動きベクトルを調整する。x軸の動きベクトルは、映像のx軸大きさの比率によって調整され、y軸の動きベクトルは映像のy軸大きさの比率によって調整される。例えば図6において、現在階層の映像101が最下位階層の映像102よりx軸にn倍大きいとすれば、現在階層の動きベクトルVは、基本層の動きベクトルvをn倍掛ける。即ちV=n*vとなる。また、y軸にm倍大きいとすれば、現在MBの動きベクトルは、最下位階層の動きベクトルでy軸動きベクトルにm倍掛けて得る。
【0085】
図7は、本発明による高位層P−ピクチャまたはB−ピクチャを復号化するフローチャートである。まず、段階ST110でビットストリーム(Bit stream)からモードが復号される。段階ST111で“Intra not coded”の場合、段階ST112で、下層の該当マクロブロックのモードによって復号化せず画素を選択する。
【0086】
“Intra not coded”でない場合、段階ST113で、前記において説明した方式のとおり、“Inter not coded”、“Inter coded”及び“Inter not coded”の動きベクトルは、下層の動きベクトルをそのまま使用して動きベクトルを再生する。段階ST114で、現在マクロブロックが“Inter not coded”モードであるかを判断する。モードが“Inter not coded”の場合は、段階ST115で復号化せず以前の映像で動き補償して現在MBの画素を詰める。“Inter not coded”でない場合、段階ST116で、現在マクロブロックが“Intra coded”であるかを判断する。“Intra coded”の場合、段階ST118で、現在マクロブロックをスキャンインターリーブ方法により復号化する。“Intra coded”でない場合、段階ST117で現在マクロブロックをCAE復号化する。
【0087】
図8に本発明による伸縮型符号化装置の構成を示すブロック図が図示される。多数のサブサンプリング手段(1210、1211、...、121N−2、121N−1)は、その前端のサブサンプリング手段等(1210、1211、...、121N−2)から映像が入力されサブサンプリングする。多数のスキャン順序変換手段(1220、1221、...、122N−1、122N)は、前記サブサンプリング手段(1210、1211、...、121N−2、121N−1)でサブサンプリングされた各層の映像が入力され、所定大きさのマクロブロック単位に分割して出力する。
【0088】
多数の伸縮型符号化手段(1230、1231、...、123N−1、123N)は、前記のスキャン順序変換手段(1220、1221、...、122N−1、122N)から各層の映像マクロブロック及び下層の映像ブロックと各層の以前の映像が入力され、“all_0”、“all_255”、“Intra not coded”の3種類のモードを1つのモードに符号化し、“Inter not coded && MVD=0”と“Inter not coded && MVD!=0”とを“Inter not coded”モードに、そして“Inter coded &&MVD=0”と“Inter coded && MVD!=0”を“Inter coded”に置いて伸縮型符号化する。
【0089】
入力された映像(Picture)は、N−1層サブサンプリング手段(121N−1)とN層スキャン順序変換手段(122N)に入力される。N層スキャン順序変換手段(122N)は、N層の映像を所定大きさのマクロブロック(例え、16×16マクロブロック等)に分割して出力する。このマクロブロックは、N層の伸縮型符号化手段(123N)で伸縮型符号化され、ビットストリームで復号器側に伝送される。N層の伸縮型符号化手段(123N)は、N層の以前の映像、前記N層映像のマクロブロックとN−1層映像のマクロブロック及び基本層符号化手段(1230)の動きベクトルが入力されて伸縮型符号化する。
【0090】
N−1層サブサンプリング手段(121N−1層)は、入力された映像をサブサンプリングしてN−1層映像に変換して出力する。例えば、映像を2×2マクロブロックに分割し、2×2マクロブロック当たり1つの画素を抽出して、サブサンプリングされた映像をつくる。このようにサブサンプリングされたN−1層映像は、N−1層スキャン順序変換手段(122N−1)で所定大きさのマクロブロックに分割され、N−1層伸縮型符号化手段(123N−1)に入力される。N−1層伸縮型符号化手段(123N−1)は、前記N−1層以前映像、N−1層映像のマクロブロックとN−1層映像のマクロブロック及び基本層符号化手段(1230)の動きベクトルが入力されて伸縮型符号化する。
【0091】
このようにN層はN−1層に、N−1層はN−2層に、...数回サブサンプリングされ、このようにサブサンプリングされた各層の映像マクロブロック及びその下層の映像マクロブロックと各層の以前映像等が、多数の伸縮型符号化手段(1230、1231、...、123N−1、123N)に入力され、“all_0”、“all_255”、“Intra not coded”の3種類のモードは“Intra not coded”のモードに符号化され、“Inter not coded && MVD=0”と“Inter not coded && MVD!=0”は“Inter not coded”モードに、そして“Inter coded && MVD=0”と“Inter coded && MVD!=0”を“Inter coded”モードに伸縮型符号化される。従って、N+1個階層の解像度を有する多数の映像層に伸縮型符号化される。
【0092】
図9に本発明による伸縮型符号化手段の一実施の形態を示すブロック図が図示されている。各層の伸縮型符号化手段(1230、1231、...123N−1、123N)は同一な構造を有し、説明の便宜上、N層の伸縮型符号化手段(123N)に関して説明する。
【0093】
動きベクトル調整手段131には、前記の基本層伸縮型符号化手段1230から動きベクトルが入力され、現在層と基本層の比率に拡大して出力する。動き補償手段132は、現在層(N層)の以前の映像と前記動きベクトル調整手段131から出力される調整された動きベクトルとが入力され、現在層の以前の映像から現在のマクロブロックに該当する部分を探して出力する。CAE符号化手段133は、現在層映像のマクロブロックと動き補償された現在層の以前の映像が入力されてCAE符号化する。
【0094】
スキャンインターリーブ符号化手段134には、現在層映像と下層(N−1層)映像のマクロブロックが入力され、スキャンインターリーブ方法により符号化する。“Intra not coded”モード決定手段135には、現在層映像と下層映像のマクロブロックが入力され、そのマクロブロックが“Intra not coded”モードであるかを表示する信号を出力する。
【0095】
“Inter not coded”モード決定手段136には、現在層映像のマクロブロックと前記の動き補償手段132から出力される動き補償された現在層の以前の二進映像が入力され、現在層マクロブロックが“Inter not coded”モードであるかに対する信号を出力する。比較手段137は、前記のスキャンインターリーブ符号化手段134とCAE符号化手段133から出力されるビットストリームの大きさを比較して小さいものを選択する信号を出力する。
【0096】
モードテーブル貯蔵手段138は、前記の“Intra not coded”モード決定手段135、“Inter not coded”モード決定手段136及び比較手段137から信号が入力され、その信号の組合によって選択されたモードに該当するデータを出力する。選択手段139には、前記の“Intra not coded”モード決定信号、“Inter not coded”モード決定信号及び比較手段137の比較結果信号が入力され、前記のスキャンインターリーブ符号化手段134とCAE符号化手段133から出力される信号中のいずれか1つを選択して出力する。
【0097】
“Intra not coded”モード決定手段135には、現在層(例えば、N層)映像のマクロブロックと下層(例えば、N−1層)映像のマクロブロックが入力され、前記現在層映像のマクロブロックが“Intra not coded”モードであるかを決定し、その結果信号を出力する(図2参照)。
【0098】
図10に、本発明による“Intra not coded”モード決定手段の構成を示すブロック図が図示される。物体/背景非符号判断手段141は、現在マクロブロックに対応する下層のマクロブロックをアップサンプリングし、現在マクロブロックとの差分絶対値を抽出し、その差が臨界値より小さい値であるかを判断する。下層物体モード判断手段142は、現在マクロブロックに対応する下層のマクロブロックが入力されて物体モードであるかを判断する。
【0099】
下層の背景モード判断手段143は、現在マクロブロックに対応する下層のマクロブロックが入力されて背景モードであるかを判断する。現在層の物体モード判断手段144は、現在マクロブロックが入力されて背景モードであるかを判断する。現在層背景エラー判断手段145は、現在マクロブロックが入力されて物体モードであるかを判断する。論理演算手段146は、前記の物体/背景非符号判断手段141、下層物体モード判断手段142、下層背景モード判断手段143、現在層の物体モード判断手段144及び現在層背景エラー判断手段145から出力される信号等を論理演算し、“all_0”と“all_255”、“Intra predicted”中のいずれ1つが発生したかを表示する信号を出力する。
【0100】
物体/背景非符号判断手段141は、現在マクロブロックに対応する下層のマクロブロックをアップサンプリングするアップサンプリング手段141aと、前記のアップサンプリングされた下層マクロブロックと現在マクロブロックとの差分絶対値を抽出する差分絶対値抽出手段141bと、前記の抽出された差分絶対値が臨界値より小さい値であるかを判断するエラー比較手段141cとから構成される。
【0101】
アップサンプリング手段141aは、現在マクロブロックに対応する下層のマクロブロックを水平、垂直に反復させる補間(Interpolation)法等により、現在マクロブロックと同一な大きさのマクロブロックに変換させる。このアップサンプリングされた下層マクロブロックは、差分絶対値抽出手段141bで、現在マクロブロックとそれぞれ対応する画素同士の差分が計算され、その差分は絶対値が取られる。
【0102】
この場合、現在マクロブロックとアップサンプリングされた下層マクロブロックの各画素は、“0”または“255”であるので、差分に対する絶対値も“0”または“255”の値を有する。すなわち、互いに異なる値を引く場合のみ“255”値が出るので“255”を有する位置の画素は、現在マクロブロックとアップサンプリングされた下層マクロブロックが相互に異なるということを意味する。
【0103】
このように、差分の絶対値からなるマクロブロックがエラー比較手段141cに入力され、エラーが基準値以下であるかが検査される。即ち、差分の絶対値からなるマクロブロックが4×4大きさのマクロブロックに分割され、全てのマクロブロックのエラーが臨界値より小さい場合や同一な場合、エラーが基準値以下に判断する。エラーが基準値以下であれば“Intra predicted”となり、前記エラー比較手段141cは“1”を出力する。
【0104】
下層の物体モード判断手段142は、現在マクロブロックに対応する下層の領域が全て物体値(例えば“255”)を有するかを判断して、全てが物体値の場合“1”を出力し、全てが物体値でない場合、“0”を出力する物体判断手段142aと、下層の以前映像のMBモードと、前記物体判断手段142aの出力をオア演算するオアゲート142bから構成される。
【0105】
現在マクロブロックに対応する下層のマクロブロックが、下層物体モード判断手段142に入力され、現在マクロブロックに対応する下層の領域を構成する全ての画素が物体値“255”値を有すると、“1”を出力して“all_255”モードであることを表示する。そうでなければ、“0”信号を出力する。下層の以前映像のMBのモードと物体判断手段142a中いずれか1つでも“1”を出力すれば、すなわち現在マクロブロックに対応する下層マクロブロックの全ての画素が“255”であったり、“255”でない画素があってもその数が臨界値よりも小さい“all_255”モードを表示して、オアゲート142bの出力は“1”になる。
【0106】
下層背景モード判断手段143は、現在マクロブロックに対応する下層の領域がすべて背景値(例えば“0”)を有するのかを判断し、すべて背景値である場合、“1”を出力し、すべて背景値でない場合、“0”を出力する背景判断手段143aと、下層の以前映像のMBモードと上記背景判断手段143aの出力をオア演算するオアゲート143bで構成される。
【0107】
現在マクロブロックに対応する下層のマクロブロックが下層背景モード判断手段143に入力され、現在マクロブロックに対応する下層の領域を構成するすべての画素が物体値“0”を有すれば、“1”を出力して“all_0”モードであることを表示する。そうでない場合は“0”を出力する。下層の以前映像のMBのモードと背景判断手段143a中いずれか1つでも“1”を出力すれば、すなわち、現在マクロブロックに対応する下層マクロブロックの全ての画素が“0”であったり、“0”でない画素があってもその数が臨界値よりも小さい“all_0”モードを表示して、オアゲート143bの出力は “1”となる。
【0108】
現在層の物体モード判断手段144は、入力される現在マクロブロックと全て“0”値を有するマクロブロックとの差分を求め、その絶対値を取る物体差分絶対値抽出手段144aと、前記抽出された差分絶対値が臨界値より小さいかを判断するエラー比較手段144bから構成される。
【0109】
現在層のマクロブロックMBは、現在層の物体モード判断手段144に入力され、全て“0”値を有するマクロブロックと差分の絶対値が取られる。前記の差分絶対値は、エラー比較手段144bで臨界値より小さいかが判断される。臨界値より小さければ“all_255”モードとなり、エラー比較手段144bは“1”を出力する。
【0110】
現在層背景エラー比較手段145には、現在マクロブロックが入力されて前記の現在マクロブロックを4×4ブロックに分割し、そのマクロブロック等のエラーが臨界値(16×Alpha)より小さい場合や同一な場合にエラーが基準値以下であると判断する。エラーが基準値以下であると判断されると、“1”を出力し、現在マクロブロックが“all_0”モードであることを表示する。
【0111】
前記の下層物体モード判断手段142と、前記の現在層物体判断手段144から同時に“1”が出力されなければアンドゲート(U1)が“1”を出力しない。即ち、現在層のマクロブロックとそれに対応する下層マクロブロックの両方が物体値を有する場合、アンドゲート(U1)は“1”を出力する。それと同様に、前記の下層背景モード判断手段143と前記の現在層背景モード判断手段145から同時に“1”が出力されなければ、アンドゲート(U2)が“1”を出力しない。即ち、現在層マクロブロックとそれに対応する下層マクロブロックの両方が背景値を有する場合、アンドゲート(U2)は“1”を出力する。従って、“all_0”と“all_255”、“Intra predicted”の中のいずれか1つでも該当すると、アンドゲート(U4)は“1”を出力する。即ち、“all_0”と“all_255”、“Intra predicted”の中のいずれか1つが発生したことを意味する。
【0112】
図11に本発明による“Inter not coded”モード決定手段の構成を示すブロック図が図示されている。現在マクロブロックと動き補償された以前の映像の対応マクロブロックが入力されて、差分絶対値を取る差分絶対値抽出手段151と、前記の差分絶対値が臨界値より小さいかを判断するエラー比較手段152と、前記のエラー比較手段152の出力と、現在入力される映像がイントラモード(I)であるか、予測モード(P)または両方向予測モード(B)であるかに間する情報(I/P、B)をアンド演算するアンドゲート153とから構成される。
【0113】
現在マクロブロックと動き補償された以前の映像の対応マクロブロックが入力されて差分絶対値を取ると、互いに異なる値を有する位置の画素のみ“255”値を有する。前記のエラー比較手段152は、前記の差分絶対値が臨界値より小さいかを判断する。現在映像がイントラモードである場合はI/P、B信号は“0”であるので、アンドゲート153は、現在映像が予測モード(P)または両方向予測モード(B)である場合のみエラー比較手段152の比較結果を出力する。
【0114】
図12は、本発明による伸縮型復号化装置の構成を示すブロック図である。図8に図示された伸縮型符号化装置と対応するようにN+1個の階層を表示する。多数の伸縮型復号化手段(1610、1611、...、161N−1、161N)は各層のビットストリーム、基本層の動きベクトル、以前の映像及び下層復号化映像とをそれぞれ受信して伸縮型復号化する。映像貯蔵手段162は、前記のN層伸縮型符号化手段(161N)から入力される現在層の映像マクロブロックを貯蔵する。
【0115】
図13は、本発明による伸縮型復号化手段の構成を示すブロック図である。
各層の伸縮型復号化手段(1610、1611、...、161N−1、161N)は同一構造を有し、説明の便宜上、N層の伸縮型復号化手段(161N)に関して説明する。
【0116】
動きベクトル調整手段171には、前記の基本層伸縮型復号化手段(1610)から動きベクトルが入力され、現在層と基本層の比率に拡大して出力する。動き補償手段172には、現在層(N層)の以前の映像と前記の動きベクトル調整手段171から出力される調整された動きベクトルが入力され、現在層の以前映像から現在マクロブロックに該当するマクロブロック(B)を動き補償して出力する。モード復号手段173には、現在層ビットストリームとI/P、B信号が入力されてモード情報を復号化する。“Intra not coded”ブロック構成手段174には、下層映像のマクロブロックとそのモードが入力されて、前もって決定された規則によって処理し、現在映像マクロブロック(A)を出力する。
【0117】
CAE符号化手段176は、現在層映像のビットストリームと動き補償された現在層の以前の映像が入力され、CAE符号化した信号(D)を出力する。スキャンインターリーブ復号化手段175には、現在層映像のビットストリームと下層(N−1層)映像のマクロブロック等が入力され、スキャンインターリーブ方法により復号化した信号(C)を出力する。多重化手段177は、前記のモード復号手段173で復号されたモードによってA、B、C、Dの中のいずれか1つを出力する。
【0118】
図14は、本発明による伸縮型復号化手段の“Intra not coded”マクロブロック構成手段の構成を示すブロック図である。物体モード判断手段181は、現在マクロブロックに対応する下層マクロブロックの画素の全てが255であれば1を出力し、そうでなければ0を出力する。オアゲート(U1)は下階層のMBモードがall_255であるか、または前記の物体モード判断手段181の出力が1であればその出力は1となる。
【0119】
背景モード判断手段182は、下階層のMB内の画素の中、現在階層のMBに該当する領域内の画素等の全てが0であれば1を出力し、そうでなければ0を出力する。オアゲート(U2)は下階層のMBモードがall_0であるか、背景モード判断手段182の出力が1であればその出力は1となる。“all_0”ブロック発生手段183は、全ての画素が0であるMBを発生させる。“all_255”ブロック発生手段184は、全ての画素が“255”であるMBを発生させる。
【0120】
アップサンプリング手段185は、下階層の領域をアップサンプリング(up sampling)して現在MBを構成する。第1マルチプレクサ(以下、マルチプレクサをMUXと称す)186は、オアゲート(U1)の出力信号に従って、“all_255”ブロック発生手段184または前記アップサンプリング手段185の出力を選択する。第2マルチプレクサ187は、オアゲート(U2)の出力信号に従って、“all_0”ブロック発生手段183または、前記第1マルチプレクサ186の出力を選択する。
【0121】
物体モード判断手段181は、下階層のMB内の画素等の中の、現在階層のMBに該当する領域内の画素等の全てが“255”であれば1を出力し、そうでなければ0を出力する。下階層のMBのモードが“all_255”であるか物体モード判断手段181の出力が1であれば、オアゲート(U1)の出力は1となる。ここで、all_0、all_255モードを伝送したりまたは符号化、復号化することには使用しないが、オアゲート(U1)、(U2)の出力をall_0、all_255モードとしてMB毎に貯蔵して置いてここで使用する。
【0122】
背景モード判断手段182は、下階層のMB内の画素の中で現在階層のMBに該当する領域内の画素の全てが0であれば1を出力し、そうでなければ0を出力する。下階層のMBのモードがall_0であるか背景モード判断手段182の出力が1であれば、オアゲート(U2)の出力は1となる。“all_0”ブロック発生手段183は、全ての画素が0であるMBを構成するブロックである。出力されるMBの全ての画素は0である。“all_255”ブロック発生手段184は、全ての画素が255のMBを構成するブロックである。出力されるMBの全ての画素は255である。
【0123】
アップサンプリング手段185は、下階層の領域をアップサンプリング(up sampling)して現在MBを構成する。第1MUX186の出力は、オアゲート(U1)の出力all_255が1であれば“all_255”ブロック発生手段184の出力即ち、全ての画素が255であるMBが選択され、0であればアップサンプリング手段185の出力即ち、アップサンプリングされたMBが選択される。第2MUX187の出力はオアゲート(U2)の出力all_0が1であれば“all_0”ブロック発生手段183の出力即ち、全ての画素が0であるMBが選択され、0であれば、第1MUX186の出力が選択される。即ち、全ての画素が255のMBが選択され、0であればアップサンプリング手段185の出力即ち、アップサンプリングされたMBが選択される。第2MUX187の出力はオアゲート(U2)の出力all_0が1であれば、“all_0”ブロック発生手段183の出力即ち全ての画素が0であるMBが選択され、0であれば第1MUX186の出力が選択される。
【0124】
映像を多数の階層に符号化する時、高位層とそれをダウンサンプリングした下層との間には相関性が高い。即ち、高位層が“Intra not coded”であれば、その下層も“Intra not coded”である確率が高い。この相関性を考えてI−ピクチャ、P−ピクチャの高位層(またはB−ピクチャ)の符号化モードに対するビットを割り当てることが符号化ビット量を減らすことができる。次に、I−ピクチャ及びP−ピクチャ(またはB−ピクチャ)の高位層の符号化モードに対するビット割当方法を説明する。
【0125】
下層の符号化モードを知っている場合、高位層の符号化モードに対する発生ビット数を、ホフマン(Hufman)符号化方式を用いて発生確率が多ければ小さいビット数を割り当て、発生確率が小さければ長いビットを割り当てる。例えば、下層が“Intra not coded”の場合、現在層も“Intra not coded”である確率が最も大きいので、最も小さい長さのビットを割り当て、その次に発生確率が大きい符号化モードに2、3、...ビットを割り当てる。また、MBの符号化モードは“Intra coded”が最も多く発生するので、全体符号化モードに関係なく、大部分の“Intra coded”は1ビットまたは2ビットと比較的に少ないビット数を割り当てる。
【0126】
次に本発明による符号化ビットの割当方法により割り当てた例を示す。
Figure 0003596728
【0127】
次に、実際に前記の方法のとおり、下層モードを知っている場合、高位層モードに対するコードの実施の形態を示す。ここで、それぞれ高位層の各割り当てられたビットに対するコードは次の2種類を使用する。
(1)1bit:0、2bit:10、3bit:110、他の3bit:111
(2)1bit:1、2bit:01、3bit:001、他の3bit:000
I−ピクチャとP−ピクチャそしてB−ピクチャの高位層で、本発明の付加情報の構成方法と符号テーブルは下記のとおりである。
【0128】
I−ピクチャの高位層の場合は、下記のようにの2種類のモードを使用する。
(1)“Intra not coded”
(2)“Intra coded”
【0129】
従来の方式では、I−ピクチャの高位層の場合、3種類のモード“all_0”、“all_255”、“Intra coded”を使用した。本発明では、既存方式における“all_0”、“all_255”モードと、既存方式のP−ピクチャまたはB−ピクチャの高位層における“Intra not coded”を1つのモード“Intra not coded”として伝送し、受信端では下層の情報を利用して受信された“Intra not coded”が“all_0”であるかまたは“all_255”であるかを探し出す方法を使用する。従って、本発明では2種類のモードのみを使用することによって、3種類のモードを使用する従来の方法に比して、モードを伝送することによるbit量を減らすことができる。
【0130】
各MBに対するモードの符号(Code)を、下記のようなコードテーブルを使用して符号化する。各モードは固定長さとして1ビットが伝送される。
【0131】
【表1】
Figure 0003596728
【0132】
ISO/IEC WG11で現在標準化が進行中のMPEG−4ではビットストリームで映像を区別するために、映像を始まる時23個の連続する‘0’を表示する。映像内で23個の連続する‘0’が発生する場合、映像のスタートに判断するようになる。従って映像のスタートでない場合、23個の連続する‘0’が発生しないようにする必要がある。または、伝送エラーによって一部の‘1’が‘0’に変わって、23個の連続する‘0’が容易に発生しないように、できるだけ‘1’が多く発生するようにすることが有利である。従って、前記のテーブルにおいて“Intra coded”のモードに‘1’が含まれるように下記のように変更する。
【0133】
【表2】
Figure 0003596728
【0134】
P−ピクチャの下層を符号化する第1番目の方法は下記のとおりである。
(1)“all_0”または“all_255”または“Intra predicted”(従来の“Intra not coded”)
(2)“Intra CAEまたは“Intra coded”
(3)“MVDs==0 && No Update”または“MVDs!=0 && No Update”または“inter not coded”
(4)“Inter CAE && MVDs==0”または“Inter CAE && MVDs!=0”または“Inter coded”
【0135】
P−ピクチャの高位層の符号化モードは、下記のように区分することができる。
(1)“Intra Not Coded”
(2)“Intra Coded”
(3)“Inter Not Coded”
(4)“Inter Coded”
【0136】
既存方式でP−ピクチャとB−ピクチャの高位層モードは8種類から構成される。ここで、3種類のモード“all_0”、“all_255”、“Intra not coded”は、1つのモード“Intra not coded”モードで復号化装置に伝送する。これは高位層I−ピクチャのモードと同じ方法である。また、本発明では、動きベクトルを伝送しないことによって、動きベクトルを探すための複雑度を減らす。従って、既存方式のモードで“Inter coded && MVD=0”と“Inter coded && MVD!=0”とは、1つのモード“Inter coded”で表現し、“Inter not coded && MVD=0”と“Inter not coded && MVD!=0”は“Inter not coded”として表現する。“Inter coded”と“Inter not coded”の場合、以前映像から動き補償してMBを持ってくるために動きベクトルが必要である。動きベクトルは、最下位階層(base層)の動きベクトルを映像の大きさの比率で調整した後に使用する。
【0137】
最下位階層(基本層)から動きベクトルを得る方法は下記のとおりである。
1.最下位階層の該当MBのモードが“all_0”、“all_255”または“Intra CAE”の場合、現在階層のMBの動きベクトルは0である。
2.最下位階層の該当MBのモードが“MVDs==0 && No Update”、“MVDs!=0 && No Update”、“InterCAE && MVDs==0”または“InterCAE && MVDs!=0”の場合、最下位階層で再生された動きベクトルを使用する。
【0138】
このとき、最下位階層の映像と現在階層の映像の大きさの比率によって、最下位階層の動きベクトルを調整する。x軸動きベクトルは、映像のx軸大きさの比率によって調整され、y軸動きベクトルは映像のy軸大きさの比率によって調整される。例えば、現在階層の映像が最下位階層の映像よりx軸にn倍、y軸にm倍大きいとすれば、現在MBの動きベクトルは、最下位階層の動きベクトルでX軸動きベクトルにn倍、y軸動きベクトルにm倍掛けて得る。
【0139】
本発明において、P−ピクチャとB−ピクチャの高位層のモードは、既存方式の8種類モードから4種類モードに減る。
各MBに対するモードの符号(Code)を下記のような符号化テーブルを使用して符号化する。この場合発生されるビットを減らすために、下記のようにすぐ下階層(lower層)のモードと画素値等を利用して符号化テーブルを構成する。
【0140】
ここで、すぐ下階層のモード符号化方法は2番目の方法は下記のとおりである。
(1)“all_0”、“all_255”、“Intra not coded”または現在層のMBに該当する下層マクロブロック領域内の全ての画素(sample)が0であったり、または全ての画素(sample)が255である場合
(2)“Intra CAE”または“Intra coded”
(3)“MVDs==0 && No Update”、“MVDs!=0 && No Update”または“Inter not coded”
(4)“Inter CAE && MVDs==0”、“Inter CAE && MVDs!=0”または“Inter coded”
すぐ下階層(lower層)が最下位階層(base層)の場合とそうでない場合とを分けて説明すると下記のとおりである。
【0141】
まず、すぐ下階層(lower層)が最下位階層(base層)の場合:
(1)“all_0”または“all_255”または現在層のMBに該当する下層の領域内の全ての画素(sample)が0の場合または全ての画素(sample)が255の場合
(2)“Intra CAE”
(3)“MVDs==0 && NoUpdate”または“MVDs!=0 && No Update”
(4)“InterCAE && MVDs==0”または“InterCAE && MVDs!=0”
【0142】
すぐ下階層(lower層)が最下位層(base層)でない場合:
(1)“Intra not coded”または現在層MBに該当する下層の領域内の全ての画素(sample)が0の場合、または全ての画素(sample)が255の場合
(2)“Intra coded”
(3)“Inter not coded”
(4)“Inter coded”
下層モードを知っている場合、高位層モードに対するコード(first shape code)を下記のように定める。
【0143】
【表3】
Figure 0003596728
【0144】
ISO/IEC WG11で現在標準化が進行中のMPEG−4ではビットストリームから映像を区別するために、映像が始まる時、23個の連続する‘0’を表示する。映像内で23個の連続した‘0’が発生する場合、映像のスタートに判断するようになる。従って、映像のスタートでない場合、23個の連続する‘0’が発生しないようにする必要がある。<コードテーブル1>は23個の連続する‘0’が発生することができるので、下記のような表を使用する。
【0145】
【表4】
Figure 0003596728
【0146】
すぐ下階層(lower層)が(2)の場合、現在階層(高位層)が(1)の場合より(3)の場合がより多く発生することができるが、その時は次のテーブルを使用する。
【0147】
【表5】
Figure 0003596728
【0148】
伝送エラーにより一部の‘1’が‘0’に変わって、23個の連続する‘0’が容易に発生しないように、できるだけ‘1’が多く発生するようにすることが有利である。従って、前記のテーブルにおいて全てのモードに‘1’が必ず含まれるように下記のように変更する。
【0149】
<コードテーブル2>を修正して下記のようなテーブルを構成する。
【0150】
【表6】
Figure 0003596728
【0151】
また前記のような理由により<コードテーブル3>を修正して下記のようなテーブルを構成する。
【0152】
【表7】
Figure 0003596728
【0153】
本発明においてモードを決定する順序は、既存の方法を改善して下記のように決定する。データベースから願う映像または二進映像を迅速に探すために、MB単位で“all_0”、“all_255”または“all_0”や“all_255”でないMB(即ちedgeに該当するMB)を区分する必要がある。このように区分すると、MBを1個の画素で表示する小さい大きさの二進映像が作られ、小さい大きさの二進映像から全体の映像のおおむねを判断することができ、全体映像が探そうとする映像であるか否かが分かる。
【0154】
即ち、“all_0”MBは0値の画素で表示し、“all_255”MBは255の値で表示し、“all_0”や“all_255”でないMB(即ちedgeに該当するMB)は、128値に表示することにより、小さい大きさの映像が得られる。このように、“all_0”、“all_255”または“all_0”や“all_255”でないMBを正確に区分するために、“all_0”または“all_255”が先に決定されなければならない。従って、下記のような順序によりモードを決定する。
【0155】
最下位階層では下記のような順序で決定する。
(1)“all_0”または“all_255”
(2)“MVDs==0 && No Update¨または“MVDs!=0 && No Update¨
(3)“Intra CAE”と“Inter CAE && MVDs==0”または“Inter CAE && MVDs!=0”の中でビットが少なく発生するモード。
【0156】
高位層では前記の理由だけでなく、“all_0”または“all_255”が先だって決定される場合が発生されるビット数が少なくなるので、下記のように高位層I−ピクチャとP−ピクチャに対するモード決定方法を使用する。
【0157】
I−ピクチャの高位層に対するモード決定順序は下記のとおりである。
(1)“all_0”または“all_255”の場合“Intra not coded¨に決定
(2)下層(lower層)から予測されて構成されたMBと現在のMBとを比較して、エラーが基準値以下の場合“Intra not coded¨に決定
(3)“Intra coded¨
【0158】
P−ピクチャまたはB−ピクチャの高位層に対するモード決定順序は、図5のような順序により決定されるが、“Intra predicted”より“Internot coded”を先に決定することがビット発生を少なくすることができるが、これを考えて下記のような順序でモードを決定する。
【0159】
(1)“all_0”または“all_255”の場合“Intra not coded¨に決定
(2)“Inter not coded¨に決定
(3)下層から予測されて構成されたMBと現在のMBとを比較して、エラーが基準値以下の場合“Intra not coded¨に決定
(4)“Intra coded¨と“Inter coded¨によって符号化をそれぞれ遂行し、その中で発生ビットが少ないモードに決定
各MB毎に前記の順序によりモードが決定され、前記の順序で1つが決定されるとモード決定を終え、次のMBモードを決定する。
【0160】
【発明の効果】
以上のように、二進映像のモードに従って下層を参照して符号化し、下層と高位層との間の相関性を考慮して符号化ビットを割り当てることによって、符号化ビット量を減らして符号化効率を向上させ得るようになる。
【図面の簡単な説明】
【図1】本発明によるI−ピクチャの高位層を符号化する方法を示すフローチャートである。
【図2】本発明による高位層映像が“Intra not coded”モードであるかを判断する方法を示すフローチャートである。
【図3】ビットストリームで復号したモード情報が“Intra not coded”である場合、復号化する方法を示すフローチャートである。
【図4】図3と同様な復号化する方法を示すフローチャートである。
【図5】本発明による高位層P−ピクチャとB−ピクチャを符号化するフローチャートである。
【図6】最下位階層の映像と現在階層の映像の大きさの比率によって、最下位階層の動きベクトルを調整する方法を示す。
【図7】本発明による高位層P−ピクチャまたはB−ピクチャを復号化するフローチャートである。
【図8】本発明による伸縮型符号化装置の構成を示すブロック図である。
【図9】本発明による伸縮型符号化手段の一実施の形態を示すブロック図である。
【図10】本発明による“Intra not coded”モード決定手段の構成を示すブロック図である。
【図11】本発明による“Inter not coded”モード決定手段の構成を示すブロック図である。
【図12】本発明による伸縮型復号化装置の構成を示すブロック図である。
【図13】本発明による伸縮型復号化手段の構成を示すブロック図である。
【図14】本発明による伸縮型復号化手段の“Intra not coded”マクロブロック構成手段の構成を示すブロック図である。
【図15】一般的な映像情報の伸縮型符号化方法である。
【図16】スキャンインターリーブ方法である。
【図17】CAE(Context‐based Arithmetic EnCode)方法に使用されるコンテキストの説明図である。
【図18】空間的伸縮型符号化で、現在層(current layer)と下層(lower layer)間の関係を説明する説明図である。
【符号の説明】
131、171:調整手段、132:動き補償手段、133、134:符号化手段、135、136:モード決定手段、138:貯蔵手段、
141、143、144、145:判断手段、146:論理演算手段、
151:抽出手段、152:エラー比較手段、162:映像貯蔵手段。

Claims (20)

  1. 下層映像より高い解像度を有する少なくとも一つのエンハンスメント階層映像を含むスケーラブル二進映像を、エンハンスメント階層の符号化モードを利用して符号化するためのスケーラブル二進映像符号化方法において、
    エンハンスメント階層の映像を所定大きさのブロックに分割する第1ステップと、
    前記エンハンスメント階層の現在ブロックと該当領域の下層ブロックを利用して予測されたブロックまたは下層の動きベクトルを利用してエンハンスメント階層の以前ブロックから予測されたブロックを比較する第2ステップと、
    前記第2ステップでの比較結果、前記エンハンスメント階層にあるブロックがP−VOPである場合、「intra not coded」モードまたは「intra coded」モードのいずれか一つを前記P−VOPに対する符号化モードを表す付加情報として伝送する第3ステップと、
    前記第2ステップでの比較結果、前記エンハンスメント階層にあるブロックがB−VOPである場合、「intra not coded」モード、「intra coded」モード、「inter not coded」モードまたは「inter coded」モードのいずれか一つを前記−VOPに対する符号化モードを表す付加情報として伝送する第4ステップと
    を含み、
    前記「 intra not coded 」モードは、各エンハンスメント階層ブロックにある画素の中で、該当領域の下層ブロックを利用して予測されたブロックの画素と異なる値を有する画素数が基準値より少ない場合を表し、
    前記「 intra coded 」モードは、各エンハンスメント階層ブロックにある画素の中で該当領域の下層ブロックを利用して予測されたブロックの画素と異なる値を有する画素の数が基準値より大きい場合を表し、
    前記「 inter not coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のブロックから予測されたエンハンスメント階層ブロックの画素と異なる値を有する画素数が基準値より少ない場合を表し、
    前記「 inter coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のブロックから予測されたエンハンスメント階層ブロックの画素と異なる値を有する画素数が基準値より大きい場合を表す
    ことを特徴とするスケーラブル二進映像符号化方法。
  2. 前記第3ステップは、
    前記符号化モードが「intra not coded」モードである場合、「intra not coded」モードを表す付加情報を伝送するステップと、
    前記符号化モードが「intra coded」モードである場合、エンハンスメント階層ブロックをイントラモード(intra mode)CAE(context-based encoding)方式により符号化して第1符号化データを生成し、「intra coded」モードを表す付加情報及び第1符号化データを伝送するステップと
    を含む
    ことを特徴とする請求項1に記載のスケーラブル二進映像符号化方法。
  3. 前記第1符号化データを生成するステップは、ESDが存在するか否かに関する情報を伝送し、ESDが存在すると、前記エンハンスメント階層ブロック全体を符号化し、ESDが存在しないと、TSD(Transitional Sample Data)のみを符号化する
    ことを特徴とする請求項に記載のスケーラブル二進映像符号化方法。
  4. 前記第4ステップは、
    前記符号化モードが「inter coded」モードである場合、エンハンスメント階層ブロックをインターモード(inter mode)CAE方式により符号化して第2符号化データを生成し、「inter coded」モードを表す付加情報及び第2符号化データを伝送するステップを含む
    ことを特徴とする請求項に記載のスケーラブル二進映像符号化方法。
  5. 前記エンハンスメント階層において、B−VOPのための前記付加情報は、次の表に記載の値を有し、
    Figure 0003596728
    (1)は「intra not coded」モード、(2)は「intra coded」モード、(3)は「inter not coded」モード、(4)は「inter coded」モードを表す
    ことを特徴とする請求項1に記載のスケーラブル二進映像符号化方法。
  6. 前記下層の符号化モード(1)、(2)、(3)及び(4)が基本階層(base layer)の符号化モードである場合、各々次のようにマッピングされる
    (1) all_0 or all_255
    (2) intraCAE
    (3) MVDs==0 && No Update or MVDs!=0 && No Update
    (4) interCAE && MVDs==O or interCAE && MvDs!=0
    ことを特徴とする請求項に記載のスケーラブル二進映像符号化方法。
  7. 前記エンハンスメント階層において、P−VOPのための前記付加情報は、次の表に記載の値を有する
    Figure 0003596728
    ことを特徴とする請求項1に記載のスケーラブル二進映像符号化方法。
  8. 下層映像より高い解像度を有する少なくとも一つのエンハンスメント階層映像を含むスケーラブル二進映像(scalable shape binary image)を、エンハンスメント階層ブロックの符号化モードを利用して復号化するためのスケーラブル二進映像復号化方法において、
    (1)「intra not coded」モード、(2)「intra coded」モード、(3)「inter not coded」モードまたは(4)「inter coded」モードのいずれか一つである前記エンハンスメント階層の符号化モードを表す付加情報を受信して、符号化モードを決定する第1ステップと、
    前記エンハンスメント階層にあるブロックがP−VOPである場合、P−VOPに対する符号化モードとして「intra not coded」モードまたは「intra coded」モードのいずれか一つを受信して、前記符号化モードに応じて該当領域の下層ブロックを利用して前記エンハンスメントの現在階層ブロックに存在する画素を再生する第2ステップと、
    前記エンハンスメント階層にあるブロックが−VOPである場合、B−VOPに対する符号化モードとして「intra not coded」モード、「intra coded」モード、「inter not coded」モードまたは「inter coded」モードのいずれか一つを受信して、前記符号化モードに応じて下層ブロックの動きベクトルとエンハンスメント階層の以前ブロックを利用して前記エンハンスメント階層の現在ブロックを再生する第3ステップと、
    を含み、
    前記「 intra not coded 」モードは、各エンハンスメント階層ブロックにある画素の中で、該当領域の下層ブロックを利用して予測されたブロックの画素と異なる値を有する画素数が基準値より少ない場合を表し、
    前記「 intra coded 」モードは、各エンハンスメント階層ブロックにある画素の中で該当領域下層の部ブロックを利用して予測された画素と異なる画素を有する画素の数が基準値より大きい場合を表し、
    前記「 inter not coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のブロックから予測されたエンハンスメント階層ブロックの画素と異なる値を有する画素数が基準値より少ない場合を表し、
    前記「 inter coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のブロックから予測されたエンハンスメント階層ブロックの画素と異なる値を有する画素数が基準値より大きい場合を表し、
    前記第2ステップは、
    前記符号化モードが「 intra not coded 」であり、前記エンハンスメント階層ブロックに相応する下層ブロックの全画素が「0」である場合、前記エンハンスメント階層ブロック内の全画素を「0」に置き換えるステップと、
    前記符号化モードが「 intra not coded 」であり、前記エンハンスメント階層ブロックに相応する下層ブロックの全画素が「255」である場合、前記エンハンスメント階層ブロック内の全画素を「255」に置き換えるステップと、
    前記符号化モードが「 intra not coded 」であり、前記エンハンスメント階層ブロックに相応する下層ブロックの全画素が「0」でもなく「255」でもない場合、前記下層ブロックから予測されて構成されたブロックをエンハンスメント階層ブロックで用いるステップと
    を備えるスケーラブル二進映像復号化方法。
  9. 前記エンハンスメント階層において、B−VOPのための前記付加情報は、次の表に記載の値を有し、
    Figure 0003596728
    (1)は「intra not coded」モード、(2)は「intra coded」モード、(3)「inter not coded」モード、(4)「inter coded」モードを表す
    ことを特徴とする請求項に記載のスケーラブル二進映像復号化方法。
  10. 前記下層の符号化モード、すなわち(1)、(2)、(3)及び(4)が基本階層(base layer)の符号化モードである場合、各々次のようにマッピングされる
    (1) all_0 or all_255
    (2) intraCAE
    (3) MVDs==0 && No Update or MVDs!=0 && No Update
    (4) interCAE && MVDs==O or interCAE && MvDs!=0
    ことを特徴とする請求項に記載のスケーラブル二進映像復号化方法。
  11. 前記エンハンスメント階層において、P−VOPのための前記付加情報は、次の表に記載の値を有する
    Figure 0003596728
    ことを特徴とする請求項に記載のスケーラブル二進映像復号化方法。
  12. 下層映像より高い解像度を有する少なくとも一つのエンハンスメント階層映像を含むスケーラブル二進映像を、エンハンスメント階層の符号化モードを利用して符号化するためのスケーラブル二進映像符号化装置において、
    前記エンハンスメント階層の映像を所定大きさのブロックに分割するための分割手段と、
    前記エンハンスメント階層の現在ブロックと該当領域の下層ブロックを利用して予測されたブロックまたは下層の動きベクトルを利用してエンハンスメント階層の以前ブロックから予測されたブロックを比較する比較手段と、
    前記比較手段での比較結果、前記エンハンスメント階層にあるブロックがP−VOPである場合、「intra not coded」モード及び「intra coded」モードのいずれか一つを、前記P−VOPに対する符号化モードを表す付加情報として伝送するための第1符号化手段と、
    前記比較手段での比較結果、前記エンハンスメント階層にあるブロックがB−VOPである場合、「intra not coded」モード、「intra coded」モード、「inter not coded」モード及び「inter coded」モードのいずれか一つを、前記−VOPに対する符号化モードを表す付加情報として伝送するための第2符号化手段と
    を含み、
    前記「 intra not coded 」モードは、各エンハンスメント階層ブロックにある画素の中で、該当領域の下層ブロックを利用して予測されたブロックの画素と異なる値を有する画素数が基準値より少ない場合を表し、
    前記「 intra coded 」モードは、各エンハンスメント階層ブロックにある画素の中で該当領域の下層ブロックを利用して予測されたブロックの画素と異なる値を有する画素の数が基準値より大きい場合を表し、
    前記「 inter not coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のVOPブロックから予測されたエンハンスメント階層ブロックの画素と異なる値を有する画素数が基準値より少ない場合を表し、
    inter coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のブロックから予想されたエンハンスメント階層ブロックの画素と異なる値を有する画素数が基準値より大きい場合を表す
    ことを特徴とするスケーラブル二進映像符号化装置。
  13. 前記第1符号化手段は、
    前記符号化モードが「intra coded」モードである場合、エンハンスメント階層ブロックを符号化してイントラ(intra)モードCAE(context-based encoding)方式により第1符号化データを生成し、「intra coded」モードを表す付加情報と第1符号化データを伝送するための手段を含み、
    前記第2符号化手段は、
    前記符号化モードが「inter coded」モードである場合、エンハンスメント階層ブロックを符号化して、インター(inter)モードCAE方式により第2符号化データを生成し、「inter coded」モードを表す付加情報と第2符号化データとを伝送するための手段と
    を含むことを特徴とする請求項12に記載のスケーラブル二進映像符号化装置。
  14. 前記エンハンスメント階層において、B−VOPのための前記付加情報は、次の表に記載の値を有し、
    Figure 0003596728
    (1)は「intra not coded」モード、(2)は「intra coded」モード、(3)「inter not coded」モード、(4)「inter coded」モードを表す
    ことを特徴とする請求項12に記載のスケーラブル二進映像符号化装置。
  15. 前記下層の符号化モード、すなわち、(1)、(2)、(3)及び(4)が基本階層(base layer)の符号化モードである場合、各々次のようにマッピングされる
    (1) all_0 or all_255
    (2) intraCAE
    (3) MVDs==0 && No Update or MVDs!=0 && No Update
    (4) interCAE && MVDs==O or interCAE && MvDs!=0
    ことを特徴とする請求項14に記載のスケーラブル二進映像符号化装置。
  16. 前記エンハンスメント階層において、P−VOPのための前記付加情報は、次の表に記載の値を有する
    Figure 0003596728
    ことを特徴とする請求項12に記載のスケーラブル二進映像符号化方法。
  17. 下層映像より高い解像度を有する少なくとも一つのエンハンスメント階層映像を含むスケーラブル二進映像を、エンハンスメント階層の符号化モードを利用して復号化するためのスケーラブル二進映像復号化装置において、
    (1)「intra not coded」モード、(2)「intra coded」モード、(3)「inter not coded」モードまたは(4)「inter coded」モードのいずれか一つである前記エンハンスメント階層の符号化モードを表す付加情報を受信して、符号化モードを決定するための符号化モード決定手段と、
    前記エンハンスメント階層にあるブロックがP−VOPである場合、P−VOPに対する符号化モードに「intra not coded」モード及び「intra coded」モードのいずれか一つを受信して、前記符号化モードに応じて該当領域の下層ブロックを利用して前記エンハンスメント階層の現在ブロックに存在する画素を再生するための第1復号化手段と、
    前記エンハンスメント階層にあるブロックがB−VOPである場合、B−VOPに対する符号化モードに「intra not coded」モード、「intra coded」モード、「inter not coded」モードまたは「inter coded」モードのいずれか一つを受信して、前記符号化モードに応じて下層ブロックの動きベクトルとエンハンスメント階層の以前ブロックを利用して前記エンハンスメント階層の現在ブロックを再生するための第2復号化手段と
    を含み、
    前記「 intra not coded 」モードは、各エンハンスメント階層ブロックにある画素の中で該当領域の下層ブロックを利用して予測されたブロックの画素と異なる値を有する画素 数が基準値より少ない場合を表し、
    前記「 intra coded 」モードは、各エンハンスメント階層ブロックにある画素の中で該当領域の下層ブロックを利用して予測されたブロックの画素と異なる値を有する画素の数が基準値より大きい場合を表し、
    前記「 inter not coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のブロックから予測されたエンハンスメント階層ブロックの画素と異なる値を有する画素数が基準値より少ない場合を表し、
    前記「 inter coded 」モードは、現在ブロックの画素の中で下層の動きベクトルを利用して以前のブロックから予測されたエンハンスメント階層ブロックの画素と異なる値を有する画素の数が基準値より大きい場合を表し、
    前記第1復号化手段は、
    前記符号化モードが「 intra not coded 」であり、前記エンハンスメント階層ブロックに相応する下層ブロックの全画素が「0」である場合、前記エンハンスメント階層ブロック内の全画素を「0」に置き換える手段と、
    前記符号化モードが「 intra not coded 」であり、前記エンハンスメント階層ブロックに相応する下層ブロックの全画素が「255」である場合、前記エンハンスメント階層ブロック内の全画素を「255」に置き換える手段と、
    前記符号化モードが「 intra not coded 」であり、前記エンハンスメント階層ブロックに相応する下層ブロックの全画素が「0」でもなく「255」でもない場合、前記下層ブロックから予測されて構成されたブロックをエンハンスメント階層ブロックで用いる手段と
    を備えることを特徴とするスケーラブル二進映像復号化装置。
  18. 前記エンハンスメント階層において、B−VOPのための前記付加情報は、次の表に記載の値を有し、
    Figure 0003596728
    (1)「intra not coded」モード、(2)「intra coded」モード、(3)「inter not coded」モード、(4)「inter coded」モードを表す
    ことを特徴とする請求項17に記載のスケーラブル二進映像復号化装置。
  19. 前記下層の符号化モード(1)、(2)、(3)及び(4)が基本階層(base layer)の符号化モードである場合、各々次のようにマッピングされる
    (1) all_0 or all_255
    (2) intraCAE
    (3) MVDs==0 && No Update or MVDs!=0 && No Update
    (4) interCAE && MVDs==O or interCAE && MvDs!=0
    ことを特徴とする請求項18に記載のスケーラブル二進映像復号化装置。
  20. 前記エンハンスメント階層において、P−VOPのための前記付加情報は、次の表に記載の値を有する
    Figure 0003596728
    ことを特徴とする請求項17に記載のスケーラブル二進映像復号化装置。
JP19480998A 1997-07-09 1998-07-09 スケーラブル二進映像符号化/復号化方法及び装置 Expired - Lifetime JP3596728B2 (ja)

Applications Claiming Priority (8)

Application Number Priority Date Filing Date Title
KR19970031815 1997-07-09
KR19970032644 1997-07-14
KR1019970038946A KR19990016416A (ko) 1997-08-14 1997-08-14 이진 모양정보의 신축형 모양정보 부호화시 부가정보 부호화방법
KR1997-32644 1998-03-19
KR1998-9479 1998-03-19
KR1019980009479A KR19990075333A (ko) 1998-03-19 1998-03-19 모양정보의 신축형 부호화시에 부호화모드를 결정하는 부가정보부호화방법
KR1997-31815 1998-03-19
KR1997-38946 1998-03-19

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2004058266A Division JP2004242341A (ja) 1997-07-09 2004-03-02 スケーラブル二進映像符号化/復号化装置

Publications (2)

Publication Number Publication Date
JPH11150730A JPH11150730A (ja) 1999-06-02
JP3596728B2 true JP3596728B2 (ja) 2004-12-02

Family

ID=27483217

Family Applications (2)

Application Number Title Priority Date Filing Date
JP19480998A Expired - Lifetime JP3596728B2 (ja) 1997-07-09 1998-07-09 スケーラブル二進映像符号化/復号化方法及び装置
JP2004058266A Pending JP2004242341A (ja) 1997-07-09 2004-03-02 スケーラブル二進映像符号化/復号化装置

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2004058266A Pending JP2004242341A (ja) 1997-07-09 2004-03-02 スケーラブル二進映像符号化/復号化装置

Country Status (3)

Country Link
EP (1) EP0890923A3 (ja)
JP (2) JP3596728B2 (ja)
KR (1) KR100392379B1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007116695A (ja) * 2005-10-19 2007-05-10 Samsung Electronics Co Ltd ある階層のフラグを階層間の連関性を用いて符号化する方法、前記符号化されたフラグを復号化する方法、及び装置

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2813001B1 (fr) * 2000-08-11 2002-12-20 Thomson Multimedia Sa Procede de conversion de format couleur d'une sequence d'images
FI120125B (fi) * 2000-08-21 2009-06-30 Nokia Corp Kuvankoodaus
KR100472457B1 (ko) * 2002-06-21 2005-03-10 삼성전자주식회사 차등 영상 압축 방법 및 그 장치
KR100679025B1 (ko) * 2004-11-12 2007-02-05 삼성전자주식회사 다 계층 기반의 인트라 예측 방법, 및 그 방법을 이용한비디오 코딩 방법 및 장치
KR100896279B1 (ko) 2005-04-15 2009-05-07 엘지전자 주식회사 영상 신호의 스케일러블 인코딩 및 디코딩 방법
KR100703776B1 (ko) * 2005-04-19 2007-04-06 삼성전자주식회사 향상된 코딩 효율을 갖는 컨텍스트 기반 적응적 산술 코딩및 디코딩 방법과 이를 위한 장치, 이를 포함하는 비디오코딩 및 디코딩 방법과 이를 위한 장치
BRPI0616619B1 (pt) * 2005-10-12 2019-09-10 Interdigital Madison Patent Holdings método e aparelho para prognóstico ponderal na codificação e decodificação de vídeo com abordagem de escala
KR102696949B1 (ko) 2010-12-08 2024-08-20 엘지전자 주식회사 인트라 예측 방법과 이를 이용한 부호화 장치 및 복호화 장치
US9743097B2 (en) * 2013-03-01 2017-08-22 Qualcomm Incorporated Spatial motion vector scaling for scalable video coding
KR20220108227A (ko) 2021-01-25 2022-08-03 삼성디스플레이 주식회사 표시 장치

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
NL8700565A (nl) * 1987-03-10 1988-10-03 Philips Nv Televisiesysteem waarin aan een transformatiekodering onderworpen gedigitaliseerde beeldsignalen worden overgebracht van een kodeerstation naar een dekodeerstation.
US5414469A (en) * 1991-10-31 1995-05-09 International Business Machines Corporation Motion video compression system with multiresolution features
KR0134342B1 (ko) * 1993-04-13 1998-04-29 김광호 동작추정에 의한 부호화방법 및 그 장치
US5388341A (en) * 1993-08-04 1995-02-14 Data Measurement Corporation Virtual two gauge profile system
KR970004924B1 (ko) * 1994-02-28 1997-04-08 대우전자 주식회사 계층적 부호화를 이용한 개선된 상위계층의 움직임 벡터 전송 장치 및 방법

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007116695A (ja) * 2005-10-19 2007-05-10 Samsung Electronics Co Ltd ある階層のフラグを階層間の連関性を用いて符号化する方法、前記符号化されたフラグを復号化する方法、及び装置
JP4589290B2 (ja) * 2005-10-19 2010-12-01 三星電子株式会社 ある階層のフラグを階層間の連関性を用いて符号化する方法、前記符号化されたフラグを復号化する方法、及び装置

Also Published As

Publication number Publication date
EP0890923A3 (en) 2005-06-15
KR100392379B1 (ko) 2003-11-28
EP0890923A2 (en) 1999-01-13
KR19990013733A (ko) 1999-02-25
JPH11150730A (ja) 1999-06-02
JP2004242341A (ja) 2004-08-26

Similar Documents

Publication Publication Date Title
US6580832B1 (en) Apparatus and method for coding/decoding scalable shape binary image, using mode of lower and current layers
US6983018B1 (en) Efficient motion vector coding for video compression
US6690724B1 (en) Image processing method, image processing device, and data recording medium
JP3895431B2 (ja) 物体境界ブロック合併/分割を利用した映像情報符号化方法
US10397567B2 (en) Motion vector coding apparatus, method and program for coding motion vector, motion vector decoding apparatus, and method and program for decoding motion vector
US7046730B2 (en) Digital image coding/decoding method and data recording medium for padding interlace and progressive images
US20030108099A1 (en) Picture encoding method and apparatus, picture decoding method and apparatus and furnishing medium
JP3596728B2 (ja) スケーラブル二進映像符号化/復号化方法及び装置
EP2023637A1 (en) Image decoding device
US20130064457A1 (en) Dynamic image encoding device, dynamic image decoding device, dynamic image encoding method, dynamic image decoding method, dynamic image encoding program, and dynamic image decoding program
US6133955A (en) Method for encoding a binary shape signal
JP2000217103A (ja) 物体単位映像信号符号化/復号化装置及び方法
US6741748B1 (en) Scan interleaving method based on context values of neighboring pixels, improved encoding/decoding method of binary shape data and encoding/decoding apparatus suitable for the same
US7426311B1 (en) Object-based coding and decoding apparatuses and methods for image signals
KR100535632B1 (ko) 적응적으로 보더링하는 모양정보 부호화/복호화 장치 및 방법
MXPA05001204A (es) Metodo para comprimir datos digitales de una secuencia de video que comprende planos alternados.
KR100482282B1 (ko) 신축형(스케일러블)부호화시고위계층(EnhancementLayer)부호화방법
CN116491116B (zh) 用于视频编解码的方法、装置和存储介质
KR100476386B1 (ko) 신축형대상물영상의스캔인터리빙방법및이를이용한mpeg-4의신축형모양정보부호화방법
JPH09224252A (ja) 動画像の動き補償予測符号化方法・復号方法および符号化装置・復号装置
JP3464660B2 (ja) 画像符号化方法および画像符号化装置並びに画像復号化方法および画像復号化装置
KR100476387B1 (ko) 신축형대상물영상의스캔인터리빙방법및이를이용한mpeg-4의신축형모양정보부호화방법
JP2001086447A (ja) 画像処理装置
JP4661992B2 (ja) 動画像符号化装置および動画像復号装置
KR100483674B1 (ko) 신축형모양정보부호화시손실부호화방법

Legal Events

Date Code Title Description
A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20031202

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20031208

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040302

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040406

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040706

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040803

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040902

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080917

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080917

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090917

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100917

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100917

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110917

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110917

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120917

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120917

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130917

Year of fee payment: 9

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term