JPH09182084A - 動画像符号化装置および動画像復号化装置 - Google Patents
動画像符号化装置および動画像復号化装置Info
- Publication number
- JPH09182084A JPH09182084A JP15429696A JP15429696A JPH09182084A JP H09182084 A JPH09182084 A JP H09182084A JP 15429696 A JP15429696 A JP 15429696A JP 15429696 A JP15429696 A JP 15429696A JP H09182084 A JPH09182084 A JP H09182084A
- Authority
- JP
- Japan
- Prior art keywords
- image
- circuit
- layer
- motion compensation
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000033001 locomotion Effects 0.000 claims abstract description 332
- 238000013139 quantization Methods 0.000 claims abstract description 132
- 238000006243 chemical reaction Methods 0.000 claims abstract description 55
- 230000009467 reduction Effects 0.000 claims abstract description 14
- 239000013598 vector Substances 0.000 claims description 72
- 230000015654 memory Effects 0.000 claims description 49
- 230000009466 transformation Effects 0.000 claims description 35
- 238000012545 processing Methods 0.000 claims description 32
- 238000001514 detection method Methods 0.000 claims description 25
- 239000011159 matrix material Substances 0.000 claims description 20
- 230000001131 transforming effect Effects 0.000 claims description 13
- 239000000872 buffer Substances 0.000 abstract description 50
- 238000000034 method Methods 0.000 abstract description 44
- 238000010586 diagram Methods 0.000 description 44
- 238000000926 separation method Methods 0.000 description 17
- 230000005540 biological transmission Effects 0.000 description 12
- 230000006870 function Effects 0.000 description 9
- 230000007423 decrease Effects 0.000 description 5
- 239000003638 chemical reducing agent Substances 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 101000969688 Homo sapiens Macrophage-expressed gene 1 protein Proteins 0.000 description 3
- 102100021285 Macrophage-expressed gene 1 protein Human genes 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 238000012937 correction Methods 0.000 description 3
- 230000006866 deterioration Effects 0.000 description 3
- 230000002441 reversible effect Effects 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 230000001174 ascending effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 230000008707 rearrangement Effects 0.000 description 2
- 230000009978 visual deterioration Effects 0.000 description 2
- CXENHBSYCFFKJS-OXYODPPFSA-N (Z,E)-alpha-farnesene Chemical compound CC(C)=CCC\C(C)=C\C\C=C(\C)C=C CXENHBSYCFFKJS-OXYODPPFSA-N 0.000 description 1
- 239000008186 active pharmaceutical agent Substances 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000011426 transformation method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4084—Transform-based scaling, e.g. FFT domain scaling
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/124—Quantisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/129—Scanning of coding units, e.g. zig-zag scan of transform coefficients or flexible macroblock ordering [FMO]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
- H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/18—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/187—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/189—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
- H04N19/196—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding being specially adapted for the computation of encoding parameters, e.g. by averaging previously computed encoding parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
- H04N19/36—Scalability techniques involving formatting the layers as a function of picture distortion after decoding, e.g. signal-to-noise [SNR] scalability
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/48—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using compressed domain processing techniques other than decoding, e.g. modification of transform coefficients, variable length coding [VLC] data or run-length data
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
- H04N19/619—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding the transform being operated outside the prediction loop
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/146—Data rate or code amount at the encoder output
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/146—Data rate or code amount at the encoder output
- H04N19/152—Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
Abstract
ル符号化法に於て符号化効率低下を抑制した任意形状画
像(Pf)の動画像符号化・復号化装置を得る。 【解決手段】N×N個の変換係数(n) 毎に n領域での動
き補償予測(MV)が用られるMV+変換符号化に於て入力画
像の背景/オブジェクト識別用のアルファマップ信号(A
M)を符号化する手段155 、AMに従いPfを nに変換する手
段101 、AMに従いnを逆変換しPfを再生する手段、M階
層の SNRスケーラビリティを実現する符号化装置であっ
て第m階層(m=2〜M)の動き補償予測値(p) と第 m-1階層
の pとを n毎に切換える事により第m階層の pを求める
ための第 m-1階層における量子化器の出力(Q) が0の n
は第m階層の pを、Q=1 以上の nは第m-1 階層の pを選
択する手段300 、第m階層の予測誤差信号と第 m-1階層
の逆量子化器の出力との差分dfを得る手段121 、dfの量
子化信号を符号化し出力する手段155,161 を持つ。
Description
に符号化し伝送・蓄積する、画像符号化・復号化装置、
特に、多階層に解像度や画質を可変可能なスケーラブル
符号化の可能なスケーラビリティ機能を有する動画像符
号化・復号化装置に関する。
送や蓄積に供する場合には圧縮符号化するのが一般的で
ある。画像信号を高能率に符号化するには、フレーム単
位の画像を、所要画素数単位でブロック分けし、その各
ブロック毎に直交変換して画像の持つ空間周波数を各周
波数成分に分離し、変換係数として取得してこれを符号
化する。
トストリームを部分的に復号することで、画質(SN
R; Signal to Noise Ratio)、空間解像度、時間解像
度を段階的に可変とすることを可能にするスケーラビリ
ティの機能が要求されている。
ィア統合系動画像符号化標準であるMPEG2のビデオ
パート(IS13818‐2)にも、スケーラビリティ
の機能が取り入れられている。
に示されるような階層的な符号化法により実現される。
図16は、SNRスケーラビリティの場合でのエンコー
ダ(符号化装置)の構成例とデコーダ(復号化装置)の
構成例を、また、図17は、空間スケーラビリティの場
合でのエンコーダの構成例とデコーダの構成例をそれぞ
れ示したものである。
あって、ベースレイヤ(下位階層)からの予測値が得ら
れるまでの遅延を与えるためのものであり、DCTは離
散コサイン変換(直交変換)を行う手段、Qは量子化を
行う量子化器、IQは逆量子化を行う逆量子化器、ID
CTは逆DCTを行う手段、FMはフレームメモリ、M
Cは動き補償予測を行う手段、VLCは可変長符号化を
行う手段、VLDは可変長復号化を行う手段、DSはダ
ウンサンプリングする手段、USはアップサンプリング
を行う手段、wは重み付けパラメータ(0,0.5,
1)をそれぞれ示している。
ダを、そして、図16の(b)はデコーダの構成例を示
している。エンコーダにおいては、画質の低いレイヤで
あるベースレイヤ(下位階層)と、画質の高いレイヤで
あるエンハンスメントレイヤ(上位階層)に別れてい
る。
いはMPEG2で符号化され、エンハンスメントレイヤ
では、ベースレイヤで符号化されたデータを再現し、元
のデ−タからこの再現されたものを引き、その結果得ら
れる誤差分だけをベースレイヤの量子化ステップ・サイ
ズよりも小さな量子化ステップ・サイズで量子化して符
号化する。すなわち、より細かく量子化して符号化す
る。そして、ベースレイヤ情報にエンハンスメントレイ
ヤの情報を加えることで、精細さを向上させることがで
き、高画質の画像の伝送・蓄積が可能になる。
スメントレイヤに分け、ベースレイヤで符号化されたデ
ータを再現し、元のデ−タからこの再現されたものを引
き、その結果得られる誤差分だけをベースレイヤの量子
化ステップ・サイズよりも小さな量子化ステップ・サイ
ズで量子化して符号化することで、高精細な画像の符号
化/復号化できるようにする技術をSNRスケーラビリ
ティという。
像をベースレイヤとエンハンスメントレイヤにそれぞれ
入力し、ベースレイヤではこれを前フレームの画像から
得た動き補償予測値との誤差分を得る処理をした後に直
交変換(DCT)し、その変換係数を量子化して可変長
復号化し、ベースレイヤ出力とする。また、量子化出力
は、逆量子化した後、逆DCTし、これに前フレームの
動き補償予測値を加えてフレーム画像を得、このフレー
ム画像から動き補償予測を行い、前フレームの動き補償
予測値とする。
像を、ベースレイヤからの予測値が得られるまでの遅延
を与えたのちに、前フレームの画像から得たエンハンス
メントレイヤでの動き補償予測値との誤差分を得る処理
をし、その後に直交変換し(DCT)、その変換係数に
ベースレイヤの逆量子化出力分の補正を加えてからこれ
を量子化して可変長復号化し、エンハンスメントレイヤ
出力とする。また、量子化出力は、逆量子化した後、ベ
ースレイヤにて得た前フレームの動き補償予測値を加え
て逆DCTし、これにエンハンスメントレイヤで得た前
フレームの動き補償予測値を加えてフレーム画像を得、
このフレーム画像から動き補償予測を行い、エンハンス
メントレイヤでの前フレームの動き補償予測値とする。
用した動画像の符号化を行うことができる。
は2階層で表現しているが、更に階層数を増やすこと
で、様々なSNRの再生画像が得られる。
ぞれ別個に与えられるエンハンスメントレイヤとベース
レイヤの可変長復号化データを、それぞれ別個に可変長
復号化し、逆量子化してから両者を加え、これを逆DC
Tした後、前フレームの動き補償予測値を加えて画像信
号を復元すると共に、復元した画像信号から得た1フレ
ーム前の画像から動き補償予測を行い、前フレームの動
き補償予測値とする。
た符号化と復号化の例である。
度からみたものであり、空間解像度の低いベースレイヤ
と空間解像度の高いエンハンスレイヤに分けて符号化す
る。ベースレイヤは通常のMPEG2の符号化方法を使
用して符号化し、エンハンスレイヤではベースレイヤの
画像をアップサンプリング(低解像度画像の画素間に平
均値等の画素を付加し、高解像度画像を作成すること)
してエンハンスレイヤと同じサイズの画像を作成し、エ
ンハンスレイヤの画像からの動き補償予測と、このアッ
プサンプリングされた画像からの動き補償予測とから適
応的に予測をすることで、効率の良い符号化をすること
ができるようにするものであり、エンコーダの構成例は
図17の(a)の如きであり、デコーダの構成例は図1
7の(b)の如きで実現できるものである。
ば、MPEG2のビットストリームの一部を取り出すと
MPEG1でデコードすることができるという後方互換
性を実現するために存在しており、様々な解像度の画像
を再生することができるようにする機能ではない(参考
文献:”特集 MPEG”テレビ誌,Vol.49,No.4,pp.4
58-463,1995 )。
号化技術においては、高画質の画像の高能率符号化と高
画質再生を目指しており、符号化した画像に忠実な画像
が再現できるようにしている。
い、再生側のシステムでは、高能率符号化された高画質
画像のデータをフルデコードすることができる再生装置
の要求の他、携帯用のシステムなどのように、画質はと
もかくとして画面が再生できれば良いような用途や、シ
ステム価格を抑制するために、簡易型とするシステムの
要求などがある。
ば、画像を8×8画素のマトリックスにブロック分け
し、各ブロック単位でDCTを行った場合に、8×8の
変換係数が得られるわけであるから、本来ならば第1低
周波項から第8低周波項までの分を復号化しなければな
らないところを、第1低周波項から第4低周波項までの
分を復号化したり、第1低周波項から第6低周波項まで
の分を復号化したりといった具合に、再生は8×8では
なく、4×4とか、6×6の情報で復元するといったよ
うに簡素化することで対応できることになる。
とか、6×6の情報で復元すると、動き補償予測値都の
ミスマッチが生じ、誤差が累積するため、画像が著しく
劣化する。このような符号化側と復号化側とのミスマッ
チを如何に克服するかが大きな課題となる。
側と復号化側との空間解像度の違いに対処すべく、空間
解像度を変換する方法として直交変換(例えばDCT
(離散コサイン変換))係数の一部を、元の次数よりも
小さな次数で逆変換することにより、空間解像度を可変
にする方法もある。
予測を行う際に、動き補償予測に起因したドリフトと呼
ばれる画質劣化が再生画像に発生してしまう(参考文
献:岩橋他、“スケーラブル・デコーダにおけるドリフ
ト低減のための動き補償”、信学技報IE94−97,
1994)。
チ克服のための技術としては問題がある。
例えば、MPEG2のビットストリームの一部を取り出
すとMPEG1でデコードすることができるという後方
互換性を実現するために存在しており、様々な解像度の
画像を再生する機能ではない(参考文献:”特集 MP
EG”テレビ誌,Vol.49,No.4,pp.458-463,1995 )。こ
のように、スケーラビリティ機能を実現するために階層
的な符号化が行なわれるため、情報が分割されて符号化
され、符号化効率の低下が発生する。
evel Vision Techniques for VideoData Compression a
nd Manipulation",M.I.T.MediaLab.Tech.Report No.26
3,Feb.1994,において、ミッドレベル符号化と呼ばれる
範疇に属する画像符号化法が提案されている。
体(以後、オブジェクトと呼ぶ)を分けて符号化してい
る。このように、背景(c)やオブジェクト(b)を別
々に符号化するために、オブジェクトの形状や画面内の
位置を表すアルファマップ信号(図18(d)白画素が
オブジェクトの画素を示す)が必要となる。なお、背景
のアルファマップ信号(e)は、オブジェクトのアルフ
ァマップ信号から一意に求められる。
を符号化する必要がある。任意形状画像の符号化法とし
ては、先に出願した特願平7‐97073号に記載の任
意形状画像信号の直交変換法がある。図19は、任意形
状画像を正方ブロックで等分割した際に、形状の境界部
を含むエッジブロックに対する変換手段を図示したもの
である。
ロック信号の中で、まず、斜線で示されるコンテントの
内部に含まれる画素の値を分離回路(SEP)で分離
し、その平均値aを平均値計算回路(AVE)にて求め
る。
ファマップ(alpha-map )が斜線部の画素を示す場合に
は、ブロックメモリ(MEM)に蓄積された斜線部の画
素値を、その他の画素を示す場合には、平均値aを出力
する。このように処理されたブロックの信号を2次元D
CTすることで、斜線部の画素に対する変換係数を求め
る。
して得られるブロック内の画素値の中から、斜線部の画
素値を分離することで実現される。
符号化において、多階層に分割することが可能なスケー
ラブル符号化法では、符号化効率が大幅に低下するおそ
れがあった。また、背景とオブジェクトを分離して符号
化する任意形状画像の符号化装置においても解像度と画
質を可変とすることが可能なスケーラブル符号化が必要
となる。また、任意形状画像の動き補償予測符号化の効
率を改善する必要がある。
図19に示したように、単純に、オブジェクトの内部の
平均値を背景部に均一に配置する方法は、少ない演算で
実現できるというメリットがある。しかし、反面、オブ
ジェクトと背景の境界に画素値の段差が生じることがあ
り、その場合に、DCTを施すと、高周波数成分が多く
発生するため、符号量が少なくならないという不具合が
ある。
第1には、動画像の符号化において、多階層に分割する
ことが可能なスケーラブル符号化法での符号化効率の向
上を図ることができるようにした符号化装置および復号
化装置を提供することにある。
2には、背景とオブジェクトを分離して符号化する任意
形状画像の符号化装置において、解像度と画質を可変と
することを可能に、しかも、符号化効率の良いスケーラ
ブル符号化装置および復号化装置を提供することにあ
る。するスケーラブル符号化装置および復号化装置を提
供することにある。
3には、任意形状画像の動き補償予測符号化の効率を改
善することにある。
4には、オブジェクトの内部の平均値を背景部に均一に
配置する方法を採用した場合において、オブジェクトと
背景の境界に画素値の段差が生じても、DCTを施した
際に、高周波数成分が多く発生することによる符号量が
少なくならないという欠点を改善することにある。
的を達成するため、第1には、変換係数領域での動き補
償予測が用られる動き補償予測+変換符号化装置におい
て、M階層のSNRスケーラビリティを実現する符号化
装置であって、第m階層(m=2〜M)の動き補償予測
値と第m−1階層の動き補償予測値とを変換係数毎に切
り換えることにより、第m階層の予測値を求めるため
の、第m−1階層における量子化器の出力が0である場
合には第m階層の動き補償予測値を第m−1階層におけ
る量子化器の出力が1以上である場合には第m−1階層
の動き補償予測値を変換係数毎に出力する切り換え手段
と、第m階層の動き補償予測誤差信号と第m−1階層の
逆量子化器の出力との差分信号を求める手段と、前記差
分信号を量子化した信号を符号化した後、蓄積および伝
送する手段とを設けて動画像符号化装置を構成する。
を達成するため、前記第1の構成の符号化装置で符号化
された符号化ビットストリームから、第m階層(m=2
〜M)までの符号を取り出す手段と、第m階層までの各
階層の符号を復号化する手段と、前記手段により復号さ
れた量子化値を各階層において逆量子化する手段と、第
m階層(m=2〜M)の動き補償予測値と第m−1階層
の動き補償予測値とを変換係数毎に切り換えることによ
り、第m階層の予測値を求めるための、第m−1階層に
おける量子化器の出力が0である場合には第m階層の動
き補償予測値を第m−1階層における量子化器の出力が
1以上である場合には第m−1階層の動き補償予測値を
変換係数毎に出力する切り換え手段と、第m階層の逆量
子化器の出力と第m−1階層の逆量子化器の出力とを加
算することで第m階層の動き補償予測誤差信号を再生す
る手段を設けて動画像復号化装置を構成する。
を達成するため、前記第1の構成の動画像符号化装置で
あって、第m階層(m=2〜M)の量子化マトリクス
を、第m−1階層における量子化器の出力が0となる変
換係数と、第m−1階層における量子化器の出力が1以
上となる変換係数とで切り換える手段を有する構成とす
ることを特徴とする。
を達成するため、前記第2の構成の画像復号化装置であ
って、第m階層(m=2〜M)の量子化マトリクスを、
第m−1階層における量子化値が0となる変換係数と、
第m−1階層における量子化値が1以上となる変換係数
とで切り換える手段を有する構成とすることを特徴とす
る。
を達成するため、前記第1あるいは前記第3の構成の動
画像符号化装置であって、第m階層(m=2〜M)にお
ける2次元直交変換係数の量子化値を1次元系列に並べ
変える際に、第m−1階層における量子化器の出力が0
となる変換係数よりも、第m−1階層における量子化器
の出力が1以上となる変換係数を先に並べる並べ換え手
段を有する構成とする。
を達成するため、前記第2あるいは前記第4の構成の動
画像復号化装置であって、前記第5の構成における並べ
換え手段により1次元系列に並べ換えられた第m階層
(m=2〜M)における2次元直交変換係数の量子化値
を、もとの2次元系列に並べ換える第2の並べ換え手段
を設けて構成する。
を達成するため、前記第1または前記第3または前記第
5の構成の動画像符号化装置において、入力画像の背景
とオブジェクトを識別するためのアルファマップ信号を
用い、このアルファマップ信号を符号化する手段と、前
記アルファマップ信号にしたがって任意形状画像を変換
係数に変換する手段と、前記アルファマップ信号にした
がって前記変換係数を逆変換することにより、任意形状
画像を再生する手段を設けた構成とする。
を達成するため、前記第2または前記第4または前記第
6の構成の画像復号化装置において、入力画像の背景と
オブジェクトを識別するためのアルファマップ信号を用
い、このアルファマップ信号にしたがって変換係数に変
換された任意形状画像を逆変換することにより、任意形
状画像を再生する手段を設ける構成とする。
を達成するため、入力画像の背景と1つ以上のオブジェ
クトを識別するためのアルファマップ信号を用い、この
アルファマップ信号を符号化する手段と、アルファマッ
プにしたがって任意形状画像を変換係数に変換する手段
と、アルファマップにしたがって前記変換係数を逆変換
することにより、任意形状画像を再生する手段を有す
る、動き補償予測を用いた動画像符号化装置において、
背景および各オブジェクトに対して、各々に対応するフ
レームメモリを有する構成とする。
的を達成するため、符号化されて与えられた入力画像の
背景と1つ以上のオブジェクトを識別するためのアルフ
ァマップ信号を復号化する手段と、再生されたアルファ
マップにしたがって任意形状画像を変換係数に変換する
手段と、再生されたアルファマップにしたがって変換係
数に変換された任意形状画像を逆変換することにより、
任意形状画像を再生する手段を有する、動き補償予測を
用いた動画像復号化装置において、背景および各オブジ
ェクトに対して、各々に対応するフレームメモリを有す
る構成とする。
的を達成するため、入力画像の背景と1つ以上のオブジ
ェクトを識別するためのアルファマップ信号を用い、こ
のアルファマップ信号にしたがって、任意形状画像を動
き補償予測を用いて符号化する動画像符号化装置におい
て、複数のオブジェクトあるいは背景を含むブロックで
は、各オブジェクトおよび背景毎に動きベクトルを検出
する手段を有し、複数のオブジェクトあるいは背景を含
むブロックにおいては、1つのオブジェクトあるいは背
景を含むブロックよりも、動きベクトルの検出範囲を狭
くすることを特徴とする動きベクトル検出回路を設けて
動画像符号化装置を構成する。
的を達成するため、画像の背景とオブジェクトを識別す
るためのアルファマップの符号と、画像を所要画素数単
位で区分して構成されるブロックの直交変換係数を入力
とする動画像復号装置において、上記アルファマップ信
号を符号化して出力する手段と、上記ブロック毎に上記
アルファマップを用いてオブジェクト部分の平均値を求
める手段と、上記ブロックの背景部分に上記平均値を配
置する手段と、オブジェクト内の画素について背景の近
くか否かを上記アルファマップ信号を用いて判定する手
段と、背景の近くであると判定されたオブジェクト内の
画素については、上記平均値を中心に縮小処理する手段
と、各ブロックを直交変換して直交変換係数を出力する
手段とを設けて動画像符号化装置を構成する。
別するためのアルファマップの符号と、画像を所要画素
数単位で区分して構成されるブロックの直交変換係数を
入力とする動画像復号装置において、上記アルファマッ
プの符号からアルファマップ信号を復号する手段と、上
記直交変換係数からブロックを復号する手段と、オブジ
ェクト部分の平均値を求める手段と、オブジェクト内の
画素について背景の近くか否かを上記アルファマップ信
号を用いて判定する手段と、この判定手段により背景の
近くであると判定されたオブジェクト内の画素について
は、上記平均値を中心に拡大する手段とを設けて動画像
復号装置を構成する。
毎に変換係数の領域で、動き補償を行う際に、既に復号
済みの下位階層(ベースレイヤ)の量子化値に基づいて
上位階層(エンハンスメントレイヤ)の符号化を行うよ
うにし、これにより、符号化効率の低下の少ない符号化
を可能にする符号化方式を実現するようにする。
て、任意形状の画像領域を示すアルファマップ信号にし
たがって、その任意形状の画像領域に対して直交変換を
施すことができるようにしたことにより、任意形状画像
について、画質を可変とした再生画像が得られるように
する。
ェクトに対して、各々フレームメモリを用意し、背景あ
るいは各オブジェクト毎に動き補償予測を行うようにす
ることで、オブジェクトの重なりにより隠ぺいされる部
分の予測効率を改善することができるようにする。
ル検出の範囲を小さくすることで、動き補償予測符号化
の効率を向上させることを可能にする。
明する。
ける送受信装置(図15のA,B)内の、画像符号化・
復号化装置に関するものである。
図4を用いて、本発明の第1の具体例を説明する。本具
体例は、全体でM階層のSNRスケーラビリティを実現
する符号化装置および復号化装置であり、第m階層での
動き補償予測信号を、第m−1階層の動き補償予測信号
と第m階層の動き補償予測信号とを変換係数毎に適応的
に切り換えることで、第m階層の符号化効率を向上させ
るものである。図面では、ベースレイヤが第m−1階層
に対応し、エンハンスメントレイヤが第m階層に対応し
ている。
ら説明する。図1は、本発明の符号化装置のブロック図
である。
および111は差分回路、120は差分回路、130は
量子化回路、140は可変長符号化回路、150は多重
化回路、160は出力バッファである。
び190は加算回路、200は動き補償予測装置、30
0はセレクタ、400は符号化制御回路である。
は量子化回路、141は可変長符号化回路、171は逆
量子化回路、200はエンハンスメントレイヤの動き補
償予測装置、410は符号化制御回路、500は動きベ
クトル検出回路、151は多重化回路、161は出力バ
ッファ、191は加算回路である。
信号10を直交変換(DCT)して周波数成分別の変換
係数を得るものであり、差分回路110はこのDCT回
路100からの変換係数とセレクタ300を介して選択
的に与えられるエンハンスレイヤの動き補償予測装置2
00の出力(EMC)またはベースレイヤの動き補償予測
装置201の出力(BMC)との差を求めるものであり、
差分回路120はこの差分回路110の出力と、逆量子
化回路171の出力との差を求めるものである。
20の出力を、符号化制御回路400から与えられる量
子化スケールに従って量子化するものであり、可変長符
号化回路140はこの量子化回路130の量子化出力と
符号化制御回路400から与えられる量子化スケールな
どのサイド情報を、可変長符号化する回路である。
化回路140から与えられる量子化出力の可変長符号と
サイド情報の可変長符号とを多重化する回路であり、出
力バッファ160はこの多重化回路150で多重化され
たデータストリームを一時保持して出力するものであ
る。
ら与えられるバッファ空き情報に基づいて、最適な量子
化スケールQ*scaleの情報を出力すると共に、この量子
化スケールQ*scaleの情報はサイドインフォメーション
として可変長符号化回路140にも与えて量子化回路1
30による量子化の実施と可変長符号化回路140によ
る可変長符号化処理の実施制御をするものである。
らの量子化出力を受けてこれを逆量子化して出力するも
のであり、加算回路180はこの逆量子化回路170の
出力と逆量子化回路171からの出力とを加算する回路
であり、加算回路190は加算回路180の出力とセレ
クタ300により選択されて出力される補償予測値を加
算する回路である。
0の出力と動きベクトル検出回路500にて検出された
動きベクトルとから、エンハンスメントレイヤでの動き
補償予測値を求める回路であり、セレクタ300はこの
動き補償予測装置200の求めた動き補償予測値と、動
き補償予測装置201の求めた動き補償予測値とを受
け、2値化回路310の出力対応にこれら両動き補償予
測値の一方を選択して出力するものである。
回路120、量子化回路130、可変長符号化回路14
0、多重化回路150、出力バッファ160、逆量子化
回路170、加算回路180、加算回路190、動き補
償予測装置200、セレクタ300、符号化制御回路4
00によりエンハンスメントレイヤが構成される。
DCT回路100に入力される画像信号10と同じ画像
信号を入力として受け、この画像信号より動きベクトル
を検出する回路であり、動き補償予測装置201は動き
ベクトル検出回路500より供給される動きベクトルと
加算回路191からの加算出力とを元に、動き補償予測
を行ってDCT係数に変換された動き補償予測値
(BMC)を得る装置である。
ら出力される変換係数と動き補償予測装置201から出
力される動き補償予測値(BMC)との差を求める回路で
あり、量子化回路131はこの差分回路111の出力
を、符号化制御回路410の指示する量子化スケールで
量子化する回路である。
回路131の出力する量子化値が“0”であるか否かを
判定して、“0”ならば“0”を、“0”でなければ
“1”を出力する回路であり、逆量子化回路171は符
号化制御回路410の指示する量子化スケールで逆量子
化する回路であり、加算回路191はこの逆量子化回路
171の出力と動き補償予測装置201の出力とを加算
して動き補償予測装置201に与える回路である。
路131の量子化出力と符号化制御回路401から与え
られる量子化スケールなどのサイド情報を、可変長符号
化する回路であり、多重化回路151はこの可変長符号
化回路141から与えられる量子化出力の可変長符号と
サイド情報の可変長符号とを多重化する回路であり、出
力バッファ161はこの多重化回路151で多重化され
たデータストリームを一時保持して出力するものであ
る。
ら与えられるバッファ空き情報に基づいて、最適な量子
化スケールQ*scaleの情報を出力すると共に、この量子
化スケールQ*scaleの情報はサイドインフォメーション
として可変長符号化回路141にも与えて量子化回路1
31による量子化の実施と可変長符号化回路141によ
る可変長符号化処理の実施を制御するものである。
131、可変長符号化回路141、多重化回路151、
出力バッファ161、逆量子化回路171、加算回路1
91、動き補償予測装置201、2値化回路310、符
号化制御回路410、動きベクトル検出回路500によ
り、ベースレイヤが構成される。
作する。
0と動きベクトル検出回路500とに供給される。動き
ベクトル検出回路500ではこの画像信号10より動き
ベクトルを検出して動き補償予測装置200,201お
よび可変長符号化回路141に与える。
信号10は、このDCT回路100において、N×N画
素のサイズのブロックに分割されて、N×N画素毎に直
交変換処理されることにより、それぞれのブロックにつ
いて、N×N個の変換係数が求められる。この変換係数
は画像の空間周波数成分を直流成分から各交流成分まで
の各成分別に分離したN×N個の変換係数である。
N個の変換係数は、エンハンスメントレイヤの差分回路
110およびベースレイヤの差分回路111に供給され
る。
路111において、動き補償予測装置201より供給さ
れる、DCT係数に変換された動き補償予測値(BMC)
との差が求められることにより、予測誤差信号を得る。
そして、この予測誤差信号は量子化回路131に供給さ
れる量子化回路131では、この予測誤差信号は、符号
化制御回路410より供給される量子化スケール(Q*s
cale)で量子化された後、可変長符号化回路141およ
び逆量子化回路171に供給される。
された予測誤差信号を、符号化制御回路410より供給
される量子化サイズ等のサイドインフォメーション情報
や動きベクトル検出回路500より供給される動きベク
トルの情報をそれぞれ可変長符号化する。そして、この
可変長符号化した出力は多重化回路151に与えてここ
で多重化した後、出力バッファ161に供給する。出力
バッファ161では、この多重化された信号を符号化ビ
ットストリーム21として伝送路あるいは蓄積媒体に出
力する。また、出力バッファ161はバッファの内容量
を符号化制御回路410にフィードバックする。
容量情報に応じて、量子化回路131の出力を制御する
と共に、量子化スケールQ*scaleを出力して量子化回路
131に与える。また、この量子化スケールQ*scaleの
情報はサイドインフォメーションとして可変長符号化回
路141にも与える。
内容量情報に応じて、量子化回路131の出力を制御す
ることにより、出力バッファ161が溢れないように、
量子化スケールを制御しながら量子化を進めることがで
きるようになる。
サイドインフォメーションとして可変長符号化回路14
1において可変長符号化され、多重化回路151で多重
化して画像符号化装置出力とすることで、画像復号化装
置側で復号化回路する際の逆量子化に使用する量子化ス
ケールを得ることができるようにしている。
測誤差信号の量子化値は、逆量子化された後、加算回路
191に送られ、この加算回路191において動き補償
予測値BMCと加算され、変換係数領域での再生値が求め
られた後、動き補償予測装置201に供給される。
レイヤの動き補償予測装置200の出力EMCと、ベース
レイヤの動き補償予測装置201の出力BMCとを、変換
係数毎に適応的に切り換えて出力する。すなわち、これ
はセレクタ300が、ベースレイヤでの量子化回路13
1の出力BQ の値に基づいて、エンハンスレイヤの動き
補償予測装置200の出力(EMC)と、ベースレイヤの
動き補償予測装置201の出力BMCとを後述する方法で
変換係数毎に適応的に切り換えることによって出力す
る。
路100より供給される入力画像の変換係数と、セレク
タ300の出力Ep との予測誤差信号が計算され、その
結果が差分回路120に供給される。差分回路120で
は、逆量子化回路171より供給される逆量子化値BQ
の信号30と、差分回路110の出力との差分が計算さ
れて差分値出力信号EC として量子化回路130に供給
される。この差分値出力信号EC はすなわち動き補償予
測誤差信号である。
号EC を、符号化制御回路400より供給される量子化
スケールQ*scaleで量子化した後、可変長符号化回路1
40および逆量子化回路170に供給する。
の量子化された動き補償予測誤差信号を、サイドインフ
ォメーション情報と共に可変長符号化して多重化回路1
50に送り、多重化回路150ではこれらの信号を多重
化した後、出力バッファ160に供給する。
をエンハンスメントレイヤ用の符号化ビットストリーム
20として伝送路あるいは蓄積媒体に出力すると共に、
バッファの内容量を符号化制御回路400にフィードバ
ックする。
子化値は、ここで逆量子化された後、加算回路180に
おいて、ベースレイヤの逆量子化回路171から供給さ
れる出力30と加算されことにより、予測誤差信号が再
生される。
予測誤差信号は加算回路190において動き補償予測値
EMCと加算されることにより、変換係数領域での再生値
が求められる。そして、この再生値は動き補償予測装置
200に供給される。
cy Scalable Coding SchemeEmploying Pyramid and Sub
band Techniques",IEEE Trans. CAS for VideoTechnolo
gy,Vol.4,No.2,Apr. 1994)に記載されている前記セレ
クタ300に適用して最適な切り換え手段の例である。
化回路131の出力BQ の値が“0”であるか否かを、
2値化回路310において判定する。この判定結果はセ
レクタ300に与えられる。そして、セレクタ300
は、量子化回路131の出力BQ の値が“0”であれ
ば、エンハンスメントレイヤ用動き補償予測装置200
の変換係数出力EMCを選択し、“1”であればベースレ
イヤ用動き補償予測装置201の変換係数出力BMCを選
択する。
ヤにおける量子化回路131の出力BQ の値が“0”で
ある場合には“0”を、“0”でなければ“1”を出力
するので、この2値化回路310の出力が“0”である
ときにEMCを、そして、“1”である時にBMCを、セレ
クタ300に選択させることにより、量子化回路131
の出力BQ が“0”である位置の変換係数には、エンハ
ンスレイヤ側の動き補償予測装置200の変換係数出力
EMCを、そして、量子化回路131の出力BQが“0”
でない位置の変換係数には、ベースレイヤ側の動き補償
予測装置201の変換係数出力BMCを当て嵌めるといっ
た処理がなされることになる。
131には差分回路111からの出力が与えられて、こ
の差分回路111の出力を量子化するように構成してあ
り、差分回路111にはDCT回路100の出力と、そ
れより1画面前の時点の画像から動き補償予測装置20
1が得た動き補償予測値とが与えられて、両者の差を得
るように構成してあるから、求めた動き補償予測値が当
っていれば、差分回路111の出力する両者の差はない
ことになるから、“0”となる筈である。
131の出力BQ である量子化値の中で“0”でない係
数(図の白丸印で囲んだ部分の値)は、動き補償予測が
当たらなかった係数ということになる。
て、動きベクトル検出回路500より供給される、ベー
スレイヤと同じ動きベクトルを用いて動き補償予測を行
なうと、エンハンスメントレイヤにおいても同じ位置の
係数(白丸印で囲んだ部分の値)の動き補償予測は外れ
たと推定される。
00においてBMCを選択する。
いると推定されるため、セレクタ300において、より
符号化歪の少ないエンハンスメントレイヤの予測値を選
択する。これにより、エンハンスメントレイヤで符号化
される信号EC は、動き補償予測が外れた場合にはベー
スレイヤの量子化誤差信号となり、動き補償予測が当た
った場合にはエンハンスメントレイヤの動き補償予測誤
差信号となり、動き補償予測の外れた係数に対する符号
化効率が改善されることになる。
ては、ベースレイヤでは解像度の低い画像を再生するこ
とを前提としているため、DCT回路100で求められ
た変換係数の中で低域の1/4の係数を分離してベース
レイヤに供給している。このため、解像度変換に伴う誤
差により、変換係数毎に予測を切り換えるための推定の
信頼性が低下する。
ンスメントレイヤの解像度が等しいため、推定の精度が
高くなる点が上記文献開示の技術と異なるものであり、
画像の品位と云う点で大きな差となる。
例》ここで、本発明装置に用いる動き補償予測装置20
0、201の構成例を説明しておく。
の構成例を示すブロック図である。動き補償予測装置2
00,201は、IDCT回路210、フレームメモリ
220、動き補償回路230、DCT回路240で構成
される。
たは191の出力を逆直交変換(IDCT)して再生画
像信号に戻す回路であり、フレームメモリ220はこの
逆直交変換されて得られた再生画像信号を参照画像とし
てフレーム単位で保持するメモリであり、動き補償回路
230は、フレームメモリ220に蓄積されている画像
信号(参照画像)の中から、動きベクトルで指し示され
た位置の画像をブロック単位で切り出すものであり、D
CT回路240はこの切り出した画像を直交変換(DC
T)して出力するものである。なお、動きベクトルは、
動きベクトル検出回路500から与えられる。
の再生値はIDCT回路210において再生画像信号に
逆変換され、フレームメモリ220に蓄積される。動き
補償回路230では、このフレームメモリ220に蓄積
されている参照画像の中から、動きベクトルで指し示さ
れた位置の画像をブロック単位で切り出して、DCT回
路240に供給する。そして、DCT回路240では、
これをDCTすることで、DCT係数領域での動き補償
予測値として出力する。
補償予測値を求めることができる。
復号化装置について説明する。
1の具体例における復号化装置のブロック図である。
可変長復号化回路143、分離化回路152,153、
入力バッファ162,163、逆量子化回路172,1
73、加算回路193、動き補償予測装置203、可変
長復号化回路142、入力バッファ162、加算回路1
81,192、セレクタ300、動き補償予測装置20
2、2値化回路310、逆量子化回路173とから構成
される。
化回路152、可変長復号化回路142、逆量子化回路
172、加算回路181,192、セレクタ300、動
き補償予測装置202によりエンハンスメントレイヤを
構成しており、入力バッファ163、分離化回路15
3、可変長復号化回路143、逆量子化回路173、加
算回路193、2値化回路310、動き補償予測装置2
03によりベースレイヤを構成している。
ファ162は、符号化され多重化されたエンハンスメン
トレイヤにおけるビットストリーム22を受けてこれを
一時保持するものであり、分離化回路152はこの入力
バッファ162を介して得られるビットストリーム22
を分離化して、多重化されていた信号を元のかたちに分
離してサイドインフォメーションの情報の符号化情報と
画像の差分値出力信号EC の符号化情報に戻す回路であ
る。
152で分離された符号化信号を可変長復号化して元の
サイドインフォメーションの情報と画像の差分値出力信
号EC に復元するものである。また、逆量子化回路17
2はこの復元されたサイドインフォメーションの情報に
おける量子化スケールQ*scaleの情報を元に、この可変
長復号化回路142からの画像の差分値出力信号EC を
逆量子化して出力するものであり、加算回路181はこ
の逆量子化された信号と、ベースレイヤ用の逆量子化回
路173からの逆量子化出力を加算するものである。
1の出力とセレクタ300からの出力Ep を加算して出
力するものであり、動き補償予測装置202はこの加算
回路192出力とベースレイヤ用の可変長復号化回路1
43からの出力である復号化された画像の差分値出力信
号EC を受けて動き補償予測値EMCを得るものである。
この動き補償予測装置202の出力する動き補償予測値
EMCは、エンハンスメントレイヤの出力40となる他、
セレクタ300の一方の入力として利用される。
ヤ用の動き補償予測装置202の出力(動き補償予測値
EMC)とベースレイヤ用の動き補償予測装置203の出
力を入力とし、2値化回路310の出力に応じてこれら
のうちの一方を選択して出力する回路である。
されて入力されたベースレイヤ用のビットストリーム2
3を受けてこれを一時保持するものであり、分離化回路
153はこの入力バッファ163を介して得られるビッ
トストリーム23を分離化して、多重化されていた信号
を元のかたちに分離してサイドインフォメーションの情
報の符号化情報と画像の差分値出力信号EC の符号化情
報に戻す回路である。
153で分離された符号化信号を可変長復号化して元の
サイドインフォメーションの情報と画像の差分値出力信
号EC に復元するものである。また、逆量子化回路17
3はこの復元されたサイドインフォメーションの情報に
おける量子化スケールQ*scaleの情報を元に、この可変
長復号化回路143からの画像の差分値出力信号EC を
逆量子化して加算回路181と193に与えるものであ
り、加算回路193はこの逆量子化された信号と、ベー
スレイヤ用の動き補償予測装置203からの動き補償予
測値EMCを受けて、両者を加算するものである。
93の出力と1画面前の自己の出力である動き補償予測
値EMCを受けて現在の画面の動き補償予測値EMCを得る
ものである。この動き補償予測装置203の出力する動
き補償予測値EMCは、ベースレイヤの出力41となる
他、セレクタ300の他方の入力として利用される。
を説明する。この装置においては、ベースレイヤのビッ
トストリーム23が、入力バッファ163に与えられ、
エンハンスメントレイヤのビットストリーム22が、入
力バッファ162に与えられる。
ストリーム23は、入力バッファ163に蓄積された
後、分離化回路153に供給される。そして、分離化回
路153で元の信号種別対応に信号分離される。すなわ
ち、ビットストリーム23は変換係数の量子化値や動き
ベクトル、量子化スケール等のサイドインフォメーショ
ン情報の信号が多重化されており、この分離化回路15
3に与えることによって変換係数の量子化値や動きベク
トル、そして、サイドインフォメーションの情報におけ
る量子化スケールQ*scale等といった元の符号に分離す
る。
々、可変長復号化回路143に供給され、変換係数の量
子化値、動きベクトル、量子化スケールQ*scale等の信
号に復号される。そして、復号された信号のうち、動き
ベクトルは動き補償予測装置203に与えられ、また、
変換係数の量子化値と量子化スケールQ*scaleは、逆量
子化回路173に与えられ、当該逆量子化回路173に
おいて変換係数の量子化値は量子化スケールQ*scale対
応に逆量子化された後、加算回路193に供給される。
変換係数と、動き補償予測装置203より供給される変
換係数領域での動き補償予測値とが加算され、変換係数
領域での再生値が求められる。
供給される。動き補償予測装置203の構成は図3に示
す如きの構成であり、加算回路193から与えられた再
生値は動き補償予測装置203内のIDCT回路210
において逆直交変換されて再生画像信号41として出力
されると共に、動き補償予測装置203内のフレームメ
モリ220に蓄積される。
路230がこのフレームメモリ220に蓄積されている
画像信号(参照画像)の中から、前記与えられた動きベ
クトルを元に、当該動きベクトルで指し示された位置の
画像をブロック単位で切り出す。そして、DCT回路2
40はこの切り出した画像を直交変換(DCT)して変
換係数出力BMCとして加算回路193およびセレクタ3
00に出力する。
ンスメントレイヤ用のビットストリーム22が供給さ
れ、このビットストリーム22は、エンハンスメントレ
イヤ用の入力バッファ162に蓄積された後、分離化回
路152に供給される。
すなわち、ビットストリーム22は変換係数の量子化値
や動きベクトル、量子化スケールQ*scaleの情報等の信
号が多重化されており、この分離化回路152に与える
ことによって変換係数の量子化値や動きベクトル、量子
化スケールQ*scaleの情報等の元の符号に分離する。
量子化値や動きベクトル等の符号は、各々、可変長復号
化回路142に供給され、変換係数の量子化値、動きベ
クトル等の信号に復号される。そして、復号された信号
のうち、動きベクトルは動き補償予測装置202に与え
られ、また、変換係数の量子化値は量子化スケールQ*s
caleと共に、逆量子化回路172に与えられ、ここで当
該量子化スケールQ*scale対応に前記変換係数の量子化
値は逆量子化された後、加算回路181に供給され、逆
量子化回路173から供給されるベースレイヤの逆量子
化値31と加算されてから、加算回路192に供給され
る。
力とセレクタ300より供給される信号EP とが加算さ
れ、変換係数領域での再生値が求められる。この再生値
は、動き補償予測装置202に供給される。動き補償予
測装置202は図3に示す如きの構成であり、前記再生
値はこの動き補償予測装置202内のIDCT回路21
0にて逆直交変換されて再生画像信号40として出力さ
れると共に、動き補償予測装置202内のフレームメモ
リ220に蓄積される。
路230がこのフレームメモリ220に蓄積されている
画像信号(参照画像)の中から、前記与えられた動きベ
クトルを元に、当該動きベクトルで指し示された位置の
画像をブロック単位で切り出す。そして、DCT回路2
40はこの切り出した画像を直交変換(DCT)して変
換係数出力BMCとしてセレクタ300に出力する。
10の判定結果が与えられて前記BMCとEMCのうちの一
方を選択する。
イヤにおける可変長復号化回路143の出力BQ が与え
られ、当該2値化回路310はその値が“0”であるか
否かを、判定する。この判定結果はセレクタ300に与
えられる。
回路143の出力BQ の値が“0”であれば、動き補償
予測装置202の変換係数出力EMCを選択し、“1”で
あれば動き補償予測装置203の変換係数出力BMCを選
択する。
ヤにおける可変長復号化回路143の出力BQ の値が
“0”である場合には“0”を、“0”でなければ
“1”を出力するので、この2値化回路310の出力が
“0”であるときにEMCを、そして、“1”である時に
BMCを、セレクタ300に選択させることにより、可変
長復号化回路143の出力BQ が“0”である位置の変
換係数には、エンハンスレイヤ側の動き補償予測装置2
02の変換係数出力EMCを、そして、可変長復号化回路
143の出力BQ が“0”でない位置の変換係数には、
ベースレイヤ側の動き補償予測装置203の変換係数出
力BMCを当て嵌めるといった処理がなされることにな
る。
化回路143の出力は、符号化側において求めた動き補
償予測誤差信号と動きベクトルとを含んでいる。
203に与えられることにより、動き補償予測装置20
3では、1画面前の画像と現在の画像との動き補償予測
誤差分を得る。
復号化回路143からの復号されたベースレイヤ用動き
補償予測値信号が与えられ、2値化回路310は、この
信号の値が“0”ならば“0”を、そして、“0”以外
であれば“1”を出力してセレクタ300に与える。
10の出力が“0”ならばより符号化歪の少ないエンハ
ンスメントレイヤ用動き補償予測装置203の出力EMC
を選択し、“1”であればそれよりも符号化歪みの大き
いベースレイヤ用動き補償予測装置202の変換係数出
力BMCを選択する。
動き補償予測で得たDCT係数の誤差が零であれば、エ
ンハンスメントレイヤ用動き補償予測装置200の変換
係数出力EMCの再生値である動き補償予測装置202の
出力を選択し、“1”であればベースレイヤ用動き補償
予測装置201の変換係数出力BMCの再生値である動き
補償予測装置203の出力を選択する。
となる。
動き補償予測の変換係数出力は、符号化側での選択同様
に、動き補償予測が外れている部分ではベースレイヤ用
のものを、当たっている部分では符号化歪みの少ないエ
ンハンスメントレイヤ用のものを使用することになり、
符号化装置側でのこのような切り替えに追従して、画像
再生を支障なく行えるようになる。
定画素数(N×N)のマトリックスに分割して直交変換
することにより、空間周波数の帯域別に分けた変換係数
を得、この得たN×N個の変換係数毎に変換係数の領域
で、上位および下位の階層別に動き補償を行う動画像の
符号化において、動き補償を行う際に、下位階層(ベー
スレイヤ)についての既に復号済みの量子化値に基づい
て動き補償予測の当り外れを判定し、動き補償予測が当
っている場合は上位階層(エンハンスメントレイヤ)用
に求めた符号化歪みの少ない動き補償予測値を用い、動
き補償予測が外れている場合は下位階層(ベースレイ
ヤ)用に求めたエンハンスメントレイヤ用より符号化歪
みの多い動き補償予測値を用いて上位階層の符号化を行
うようにしたものであり、これにより、動き補償予測の
外れた係数に対する符号化効率を改善して符号化効率の
低下の少ない符号化を可能にする符号化方式を実現する
ことができるようになる。
号化法での動画像全体の符号化を効率良く行う例であっ
たが、動画像における背景とオブジェクトを分離して符
号化する任意形状の画像の符号化に適用する例をつぎに
説明する。図5、図6および図7を用いて、本発明の第
2の具体例を説明をする。本具体例は、前記第1の具体
例の技術を、アルファマップ信号で示された任意形状の
画像に適用するものである。
化装置のブロック図である。
置と基本構成は変わらない。従って、図1と図4に示す
構成と同一の要素については、同一符号を付してその説
明は省略する。
成》初めに符号化装置から説明する。図5は、本発明の
符号化装置のブロック図である。この構成で図1と異な
る部分は、DCT回路100に代えて任意形状直交変換
回路101を設けたこと、入力はフレームメモリ700
を介して受けるようにしたこと、符号化制御回路400
に代えて420の符号化制御回路を設けたこと、符号化
制御回路410に代えて430の符号化制御回路を設け
たこと、エンハンスメントレイヤの動き補償予測装置2
00に代えて600の動き補償予測装置を設けたこと、
動き補償予測装置201に代えて601の動き補償予測
装置を設けたこと、動きベクトル検出回路500に代え
て510の動きベクトル検出回路を設けたこと、多重化
回路151に代えて155の多重化回路を設けたこと、
の8点である。
レーム単位で一時保持するメモリであり、任意形状直交
変換回路101は別途与えられるアルファマップを参照
して、このフレームメモリ700の画像のうちの注目領
域部分を取り出し、この注目領域部分を所要の画素サイ
ズのブロックに分割して、各ブロックについてDCTを
行う回路である。
マップを参照し、出力バッファ160の出力するバッフ
ァ内容量情報対応にエンハンスメントスレイヤ用の最適
な量子化スケールを与える量子化スケールQ*scaleとサ
イドインフォメーション情報を発生するものであり、符
号化制御回路430は、アルファマップを参照し、出力
バッファ161の出力するバッファ内容量情報対応にベ
ースレイヤ用の最適な量子化スケールを与える量子化ス
ケールQ*scaleとサイドインフォメーション情報を発生
するものである。
ァマップを参照し、加算回路190から供給される変換
係数領域での再生値と1画面前の同再生値とから注目領
域部分の画像の動き補償予測を行うものであり、動き補
償予測装置601は、アルファマップを参照し、加算回
路191から供給される変換係数領域での再生値と1画
面前の同再生値とから注目領域部分の画像の動き補償予
測を行うものである。
ルファマップを参照して、フレームメモリ700の画像
のうちの注目領域部分の画像の動きベクトルを検出する
ものである。
のであり、可変長符号化回路141から受ける予測誤差
信号の可変長符号化した符号、量子化スケール情報を含
むモード情報等のサイドインフォメーション情報の可変
長符号化した符号、および、動きベクトルの可変長符号
化した符号と、別途与えられるアルファマップのコード
(alpha-code)を多重化して出力バッファ161に供給
する構成である。
を入力すると、この画像信号10は一旦、フレームメモ
リ700に蓄積され、読み出されて任意形状直交変換回
路101と動きベクトル検出回路510に与えられる。
任意形状直交変換回路101には、この画像信号10の
他に、画像の背景部分と目的部分とを区別するためのマ
ップ情報の信号であるアルファマップ信号50が入力さ
れる。
ロマキィ技術等の応用により、取得することができるも
ので、例えば人物(オブジェクト)と背景(バックグラ
ウンド)とを区別するアルファマップの場合、人物像を
クロマキィ技術でとらえて、そのとらえた画像を2値化
することにより、人物像領域が“1”、背景領域が
“0”のビットマップ形式の画像が得られるので、それ
を用いれば良い。
ファマップ信号を参照して、画像の注目領域がどこであ
るかを知り、その注目領域について、N×N画素構成の
正方形ブロックに画像を分割し、その分割ブロック毎に
直交変換してN×N個の変換係数にする。アルファマッ
プを利用した画像の任意形状領域の直交変換技術として
は、本件発明者らが既に技術を確立させて特許出願済み
の前述の特願平7‐97073号に開示した手法を用い
れば良い。
作の説明の途中であるが、ここで変形例として段差を小
さくするための処理例に触れておく。
背景にはオブジェクトの平均値が配置されるのである
が、この処理に加えて、オブジェクトの画素値をその平
均値を中心にして所定のスケーリング係数で縮小する
と、オブジェクトと背景の境界の画素値の段差を小さく
することができる。その詳細を説明する。
トと背景の境界の画素値の段差を小さくするために、オ
ブジェクトの画素値をその平均値を中心にして所定のス
ケーリング係数で縮小する例を図20と図21に示す。
実際の画像は2次元の信号であるが、ここでは簡単のた
め、1次元の信号とした。これらの図においては縦軸に
は画素値を、横軸には画素列をとっており、画素列eの
位置よりも左側がオブジェクトの領域、右側が背景の領
域であるものとする。図20は背景部分にオブジェクト
の画素値平均値aを配置した状態を示す。
小した結果を図21に示す。これを式で表すと縮小前の
輝度値をx、縮小後の輝度値をyとした場合、縮小後の
輝度値yは、 y=c×(x−a)+a と表すことができる。ここで、cは“0”と“1”の間
の定数である。
したオブジェクト内の全ての画素x1 〜x23に対して行
う方法もあるが、オブジェクトのうち、背景部分との境
界に近い面素x1 〜x8 に対してのみ、縮小を行うよう
にしても段差は小さくなる。このようにすると、境界に
近いか否かの判定の演算が必要になるが、オブジェクト
のうちの背景との境界に接しないx9 〜x23の画素は元
のままに保たれるというメリットがある。
上下左右のいずれかで背景と接しているものを境界に近
い画素と判定した。
値の段差を小さくするために、オブジェクトの画素値を
その平均値を中心にして所定のスケーリング係数で縮小
する例を説明したが、背景部分に処理を加えることによ
り、オブジェクトと背景の境界の画素値の段差を小さく
することもできる。その例を次に説明する。
具体例を図23に示す。これは、背景の画素のうち、オ
ブジェクトの領域に近いものの面素値を、段差がを小さ
くする方向に修正するものである。具体例を図24に示
す。ここで、xn(n=1〜23)がオブジェクトの画
素値であり、an (n =1〜41)が背景の面素値であ
る。処理前においては、背景の面素値an は全て、画素
値平均値aに等しい。
の領域の画素に接している背景画素a1 〜a9 の値をそ
の接しているオブジェクトの画素xn と自身の両素値の
平均値で置き換える。例えば、背景画素a1 は“(a1
+x1 )/2”で置き換え、背景画素a3 は“(a3 +
x2 +x3 )/3”で置き換える。
17の背景画素を、同様に例えばa10を“(a10+a1 )
/2”で置き換える。ここで、背景画素a1 は先に置き
換えた後の値を用いる。
換え等を順次行っていく。これにより、オブジェクトと
背景との境界部分の画素値の段差は小さくなる。
ックの平均値が変化してしまうので、それがもとのブロ
ック平均値になるように背景部分の面素値に補正を加え
てもよい。ここで補正とは、例えば背景の全ての画素に
一定の値を加減算したり、あるいは、境界から離れた背
景め画素値を境界に近い部分で修正した輝度値方向とは
反対の方向に修正するといったようなことを指す。
場合は、画像を復号した後に修正分を元に戻すことで入
力画像に近いものを得ることができる。例えば、平均値
を中心に縮小する前述した例では、符号化時に縮小した
画素の複号値をyd とし、修正後の画素値をxd とする
と、 xd =(yd −ad )/c+ad のように修正する。ここで、ad は復号画像のオブジェ
クトの平均値あるいは背景の平均値、あるいはブロック
全体の平均値である。符号化・復号化歪により、yd は
yと多少異なる値になる場合が多いが、このように修正
することで、xに近いxd を得ることができる。
装置のブロック図を、図25に示す。2003は切り替
え器、2004は判定器、2005は切り替え器、20
06は符号化器、2009は切り替え器、2010は縮
小器、2011は平均器、2017はDCT回路であ
る。
ら入力されるアルファマップ信号2001を符号化する
ものであり、切り替え器2003は、アルファマップ信
号2001と画像信号2002を入力とし、アルファマ
ップ信号2001をもとに、画像信号2002をオブジ
ェクト画像2007と背景画像2008に分別すると共
に、背景画像2008を廃棄するものである。ここで廃
棄とは必ずしもどこか別のところへ送るという意味では
なく、そのまま放置するなりして、その後は用いないと
いう意味である。
信号2001をもとに、切り替え器2003を介して与
えられたオブジェクト画像2007のうち、現在処理中
の画素である注目画素が、背景に接しているか否かを判
定し、その判定結果2013を切り替え器2009に与
えるといった機能を有するものである。
介して与えられるオブジェクト画像2007から、オブ
ジェクト画像の平均値2012を計算して縮小器201
0と切り替え器2005に出力するものであり、縮小器
2010はこの平均値2012を中心にしてオブジェク
ト画像2007の振幅を縮小処理して縮小画像2014
を得ると共に、この得られた縮小画像2014を切り替
え器2009に出力するものである。
14と切り替え器2003からのオブジェクト画像20
07を受け、判定器2004の判定結果2013を用い
て、注目画素が背景に接する部分の画素である場合には
前記縮小画像2014をオブジェクトの符号化画像20
15として選択して出力し、接しない場合は前記オブジ
ェクト画像2007をオブジェクトの符号化画像201
5として選択して出力するものである。
号2001と切り替え器2009の出力するオブジェク
トの符号化画像2015および平均器2011の求めた
平均値2012を入力とし、前記入力されたアルファマ
ップ信号2001に基づき、現在処理している画素であ
る注目画素がオブジェクトであればオブジェクトの符号
化面像2015を選択してこれを符号化画像2016と
して出力し、背景であれば、平均値2012を選択して
これを符号化画像2016として出力するといった機能
を有する。
5の出力する符号化画像2016をDCT処理し、変換
係数2018として出力するものである。
外部からアルファマップ信号2001と画像信号200
2と画像信号2002とが入力される。そして、これら
のうち、アルファマップ信号2001は切り替え器20
03と判定器2004、切り替え器2005および符号
化器2006にそれぞれ送られ、また、画像信号200
2は切り替え器2003に送られる。
ファマップ信号2001をもとに、画像信号2002を
オブジェクト画像2007と背景画像2008に分別
し、背景画像2008は廃棄する。上述したように、廃
棄とは必ずしもどこか別のところへ送るという意味では
なく、そのまま放置するなりして、その後は用いないと
いう意味である。
ト画像2007は切り替え器2009と縮小器201
0、平均器2011に送られる。そして、平均器201
1ではオブジェクト画像の平均値2012が計算され、
その平均値2012は縮小器2010と切り替え器20
05に送られる。縮小器2010では平均値2012を
中心にしてオブジェクト画像2007の振幅を縮小処理
し、この縮小処理によって得た縮小画像2014を切り
替え器2009に送る。
た判定器2004ではオブジェクト画像のうち、現在処
理中の画素である注目画素が背景に接しているか否かを
判定し、その判定結果2013が切り替え器2009に
送られる。切り替え器2009では、判定器2004か
らの判定結果2013により、注目画素が背景に接する
場合には縮小画像2014をオブジェクトの符号化画像
2015として選択し、接しない場合はオブジェク卜画
像2007をオブジェクトの符号化画像2015として
選択して出力する。
ェクトの符号化画像2015は切り替え器2005に送
られ、切り替え器2005ではアルファマップ信号20
01を参照して、注目画素がオブジェクトであればオブ
ジェクトの符号化面像2015を符号化画像2016と
し、背景であれば、平均値2012を符号化画像201
6として選択して出力する。
画像2016はDCT回路2017に送られてここでD
CTが施されて、変換係数2018が求められ、この変
換係数2018が外部に出力される。また、アルファマ
ップ信号2001は符号化器2006で符号化され、ア
ルファマップの符号2019として外部に出力される。
に符号化を行い、その復号信号を切り替え器2003、
2005、判定器2004に入力する方法もある。こう
するとアルファマップの符号化・復号に歪がある場合
に、アルファマップ信号を符号化側と復号側で一致させ
ることができる。
の構成例を図26に示す。図中、2020は復号器、2
021は逆DCT回路、2023,2025は切り替え
器、2024は判定器、2029は切り替え器、203
0は拡大器、2031は平均器である。
ら入力されるアルファマップの符号2019を受けてこ
れを複号すると共に、この複号して得たアルファマップ
信号2022を切り替え器2023、判定器2024、
切り替え器2025に与えるものである。また、逆DC
T回路2021は外部から入力された変換係数2018
を逆DCT処理し、画像を復号すると共に、その復号さ
れて得られた画像である復号画像2026を切り替え器
2023に与える構成である。
されたアルファマップ信号2022をもとに、オブジェ
クト画像2027のうち注目画素が背景に接しているか
否かを判定するものであり、その判定結果2034を切
り替え器2029に出力するものである。
複号されたアルファマップ信号2022をもとに、逆D
CT回路2021から与えられる復号画像2026のう
ち、オブジェクト画像2027と背景画像2028に分
別すると共に、オブジェクト画像2027は切り替え器
2029,拡大器2030および平均器2031に出力
し、背景画像2028は廃棄するものである。
ら与えられるオブジェクト画像2027の平均値203
2を計算し、その求めた平均値2032を拡大器203
0に出力するものであり、拡大器2030は、この平均
値2032を中心にしてオブジェクト画像2027の振
幅を拡大して、拡大画像2033を得ると共に、この拡
大画像2033を切り替え器2029に出力するもので
ある。
ェクト画像2027と拡大画像2033のうち、判定器
2024の出力する判定結果2034により、注目画素
が背景に接する場合には拡大画像2033をオブジェク
トの復号画像2035として選択して切り替え器202
5に出力し、接しない場合はオブジェクト画像2027
をオブジェクトの復号画像2035として選択して切り
替え器2025に出力するものである。
号画像2035と、背景としての別に入力される信号2
037とを受け、アルファマップ信号2022をもと
に、注目画素がオブジェクトであれば、これらのうち、
オブジェクトの復号画像2035を再生画像2036と
して選択して外部に出力し、背景であれば、前記信号2
037を再生画像2036として選択して外部に出力す
るものである。
部からアルファマップの符号2019と変換係数201
8とが入力される。そして、アルファマップの符号20
19は復号器2020に、また、変換係数2018は逆
DCT回路2021に送られる。
022が復号され、切り替え器2023、判定器202
4、切り替え器2025に送られる。逆DCT回路20
21において画像が復号され、その復号画像2026は
切り替え器2023に送られる。
で複号されたアルファマップ信号2022をもとに、復
号画像2026がオブジェクト画像2027と背景画像
2028に分別され、背景画像2028は廃棄される。
切り替え器2023により分別されたオブジェクト画像
2027は、切り替え器2029と拡大器2030、平
均器2031に送られる。
画像2027の平均値2032が計算され、その平均値
2032は拡大器2030に送られる。
にしてオブジェクト画像2027の振幅が拡大処理さ
れ、これによって得られた拡大画像2033は切り替え
器2029に送られる。
像2027のうち注目画素が背景に接しているか否かを
判定し、その判定結果2034が切り替え器2029に
送られる。切り替え器2029では、判定結果2034
により、注目画素が背景に接する場合には拡大画像20
33が選択されてオブジェクトの復号画像2035とし
て出力され、接しない場合はオブジェクト画像2027
が選択されてオブジェクトの復号画像2035として出
力される。
ェクトの復号画像2035は切り替え器2025に送ら
れ、切り替え器2025ではアルファマップ信号202
2を参照して、現在処理中の画素である注目画素がオブ
ジェクトであれば、オブジェクトの復号画像2035を
再生画像2036して外部に出力し、また、背景であれ
ば、背景用として別に入力されている信号2037が再
生画像2036として選択されて出力される。なお、こ
の背景の信号2037としては、別途符号化した背景画
像を再生したものや、予め定めた模様などが用いられ
る。以上が、段差を小さくするための処理例である。
明を挟んだが、再び、第2の具体例における本論に戻
る。
マップ信号を参照して、画像の注目領域がどこであるか
を知り、その注目領域について、N×N画素構成の正方
形ブロックに画像を分割し、その分割ブロック毎に直交
変換してN×N個の変換係数にする段までは既に説明し
た。
ブロックでは、オブジェクト用の変換係数と背景用の変
換係数とが求められる。この変換係数は、エンハンスメ
ントレイヤおよびベースレイヤの差分回路110および
111に供給される。
回路111においては、動き補償予測装置601より供
給される、直交変換係数に変換された動き補償予測値
(BMC)との予測誤差信号が計算され、その結果が量子
化回路131に供給される。そして、量子化回路131
では、この予測誤差信号を、符号化制御回路430より
供給される量子化スケールQ*scaleで量子化した後、可
変長符号化回路141および逆量子化回路171に供給
する。
された予測誤差信号は可変長符号化される。また、符号
化制御回路430から与えられる量子化スケール情報を
含むモード情報等のサイドインフォメーション情報、お
よび、動きベクトル検出回路510より供給される動き
ベクトルも可変長符号化回路141でそれぞれ可変長符
号化される。
れ可変長符号化されたこれら符号は多重化回路155に
与えられ、また、符号化されてこの多重化回路155に
与えられたアルファマップコードの符号55と共に、こ
の多重化回路155にて多重化された後、出力バッファ
161に供給される。
た信号を符号化ビットストリーム21として伝送路ある
いは蓄積媒体に出力すると共に、バッファの内容量を符
号化制御回路430にフィードバックする。そして、符
号化制御回路430はこのバッファの内容量対応に最適
な量子化スケールQ*scaleを発生することになる。
測誤差信号の量子化値は、逆量子化された後、加算回路
191において動き補償予測値(BMC)と加算され、変
換係数領域での再生値が求められた後、動き補償予測装
置601に供給される。
00がベースレイヤでの量子化回路131の出力
(BQ )の値に基づいて選択動作することにより、エン
ハンスレイヤの動き補償予測装置600の出力(EMC)
と、ベースレイヤの動き補償予測装置601の出力(B
MC)とを、後述する方法で変換係数毎に適応的に切り換
えてこれをEp として出力する。
31の出力(BQ )を2値化回路310に与えることに
より、当該2値化回路310はBQ の値が“0”であれ
ば“0”を出力し、“0”以外の値であれば“1”を出
力してセレクタ300に与える。
が“0”であればEMCを、そして、“1”である時にB
MCを選択してEp として出力することにより、量子化回
路131の出力BQ が“0”である位置の変換係数に
は、エンハンスレイヤ側の動き補償予測装置600の変
換係数出力EMCを、そして、量子化回路131の出力B
Q が“0”でない位置の変換係数には、ベースレイヤ側
の動き補償予測装置601の変換係数出力BMCを当て嵌
めるといった処理をすることになる。
131には差分回路111からの出力が与えられて、当
該出力を量子化するように構成してあり、差分回路11
1には任意形状直交変換回路101の出力と、それより
1画面前の時点の画像から動き補償予測装置601が得
た動き補償予測値とが与えられて、両者の差を得るよう
に構成してあるから、求めた動き補償予測値が当ってい
れば、差分回路111の出力する両者の差はないことに
なるから、“0”となる筈である。
131の出力BQ である量子化値の中で“0”でない係
数は、動き補償予測が当たらなかった係数ということに
なる。
て、動きベクトル検出回路510より供給される、ベー
スレイヤと同じ動きベクトルを用いて動き補償予測を行
なうと、エンハンスメントレイヤにおいても同じ位置の
係数の動き補償予測は外れたと推定される。
00においてベースレイヤ用の動き補償予測装置601
の出力であるBMCを選択する。
いると推定されるため、セレクタ300において、より
符号化歪の少ないエンハンスメントレイヤの予測値を選
択する。これにより、エンハンスメントレイヤで符号化
される信号EC は、動き補償予測が外れた場合にはベー
スレイヤの量子化誤差信号となり、動き補償予測が当た
った場合にはエンハンスメントレイヤの動き補償予測誤
差信号となり、動き補償予測の外れた係数に対する符号
化効率が改善されることになる。
差分回路110では、任意形状直交変換回路101より
供給される入力画像の変換係数と、セレクタ300の出
力(Ep )との予測誤差信号が計算され、その結果が差
分回路121に供給される。
171より供給されるBQ の逆量子化値30が供給さ
れ、従って差分回路121はこれと差分回路110の出
力との差分EC を計算して予測誤差信号として量子化回
路130に供給する。
C を、符号化制御回路420からバッファ内容量対応に
与えられる量子化スケールQ*scaleで量子化する。そし
て、この量子化出力を可変長符号化回路140および逆
量子化回路170に供給する。可変長符号化回路140
では、この量子化された予測誤差信号は、符号化制御回
路420から与えられるモード情報等のサイドインフォ
メーション情報と共にそれぞれ別に可変長符号化して、
多重化回路150に与える。
多重化した後に出力バッファ160に供給する。出力バ
ッファ160では、これを一旦保持し、符号化ビットス
トリーム20として伝送路あるいは蓄積媒体に出力する
と共に、バッファの内容量を符号化制御回路420にフ
ィードバックする。これを受けて符号化制御回路420
は内容量対応の最適な量子化スケールQ*scaleを発生
し、量子化回路130と可変長符号化回路140に与え
ることになる。
170に供給された量子化値はここで逆量子化された
後、加算回路180においてベースレイヤの逆量子化回
路171から供給される出力30が加えられ、予測誤差
信号が再生される。
測誤差信号は加算回路190においてセレクタ300か
ら与えられる動き補償予測値(Ep )と加算され、変換
係数領域での再生値が求められた後、動き補償予測装置
600に供給される。
のブロック図である。動き補償予測装置600,601
は、任意形状逆直交変換回路610、フレームメモリ6
20、動き補償回路630、任意形状直交変換回路64
0より構成されている。任意形状逆直交変換回路610
は、入力信号である再生画像信号をアルファマップ信号
にしたがって逆直交変換する回路であり、フレームメモ
リ620はこの逆直交変換されたものをフレーム単位で
一時保持するためのメモリである。動き補償回路630
は動きベクトルの情報を受けて、フレームメモリ620
の画像における前記動きベクトルで指し示された位置の
画像をブロック単位で切り出して、任意形状直交変換回
路640に供給するものであり、任意形状直交変換回路
640はこの供給された画像に対して、アルファマップ
信号に従って直交変換することにより、任意形状の動き
補償予測値を直交変換することで、変換係数領域での動
き補償予測値を求めるものである。
の再生値が動き補償予測装置600,601に与えられ
ると、この再生値は当該動き補償予測装置内の任意形状
逆直交変換回路610において、別途供給されるアルフ
ァマップ信号50にしたがって再生画像信号に逆変換さ
れた後、フレームメモリ620に蓄積される。
では、フレームメモリ620に蓄積されている参照画像
の中から、動きベクトルで指し示された位置の画像をブ
ロック単位で切り出して、動き補償予測装置内の任意形
状直交変換回路640に供給する。当該画像のブロック
を受けた任意形状直交変換回路640では、外部から与
えられるアルファマップ信号50に従って直交変換する
ことにより、任意形状の動き補償予測値を直交変換する
ことができ、変換係数領域での動き補償予測値を求めて
出力することができる。ここで、オブジェクトと背景の
境界を含むブロックでは、オブジェクトと背景の変換係
数を各々求める。
き補償予測装置600,601は変換係数領域での動き
補償予測値EMC,BMCを求めてこれをセレクタ300に
与えることになる。
説明であった。つぎに第2の具体例における復号化装置
について説明する。
例》図7は、本発明の復号化装置のブロック図である。
予測装置201に代えて602の動き補償予測装置を設
けたこと、動き補償予測装置203に代えて603の動
き補償予測装置を設けたこと、分離化回路153に代え
て157の分離化回路を設けたこと、の3点である。
もアルファマップ信号(alpha-map)を参照して動き補
償予測を行うものであり、分離化回路157は、分離化
回路153が変換係数の量子化値や動きベクトル、量子
化スケール等のサイドインフォメーション情報の各信号
に分離して143に渡す構成であったのに対して、さら
にアルファコードの符号を分離して、図示しないアルフ
ァマップ復号化装置に渡す機能を追加した点が異なる。
化値や動きベクトル、量子化スケール等のサイドインフ
ォメーション情報そして、アルファコードなどが符号化
され多重化されているベースレイヤ用のビットストリー
ム23がベースレイヤの入力段に入力されると、このビ
ットストリーム23は、入力バッファ167に蓄積され
た後、分離化回路157に供給される。
の量子化値、動きベクトル、サイドインフォメーション
情報、アルファマップコード等に分離される。分離され
た符号のうち、変換係数の量子化値、動きベクトル、サ
イドインフォメーション情報は、各々、可変長復号化回
路143に供給され、変換係数の量子化値、動きベクト
ル、量子化スケール等の信号に復号される。なお、アル
ファマップ信号の符号(アルファコード)56は、図示
しないアルファマップ復号化装置に供給され、アルファ
マップ信号に変換されて動き補償予測装置602,60
3に与えられることになる。
のうち、変換係数の量子化値は、逆量子化回路173に
おいて逆量子化された後、加算回路193に供給され
る。加算回路193では、この逆量子化された変換係数
と、動き補償予測装置603より供給される変換係数領
域での動き補償予測値とが加算され、変換係数領域での
再生値が求められる。
供給され、任意形状逆直交変換回路610にて再生画像
信号に逆変換され、出力再生画像信号41として出力さ
れると共に、フレームメモリ620に蓄積される。
ル等のサイドインフォメーション情報の信号が符号化さ
れ、多重化されたエンハンスメントレイヤのビットスト
リーム22がエンハンスメントレイヤの入力段に入力さ
れると、入力バッファ162に蓄積された後、分離化回
路152に供給される。そして、分離化回路152で変
換係数の量子化値の符号、サイドインフォメーション情
報の符号等に分離される。
々、可変長復号化回路142に供給され、符号から変換
係数の量子化値、量子化スケール等の信号に復号され
る。そして、変換係数の量子化値は、逆量子化回路17
2において逆量子化された後、加算回路181に供給さ
れ、ここでベースレイヤの逆量子化回路173から供給
される逆量子化値31と加算されて、加算回路192に
供給される。
力とセレクタ300より供給される信号EP とが加算さ
れて変換係数領域での再生値が求められる。この再生値
は、動き補償予測装置602に供給され、この動き補償
予測装置602内に設けてある任意形状逆直交変換回路
610(図6参照)にて再生画像信号に逆変換されて、
出力再生画像信号40として出力されると共に、動き補
償予測装置602内に設けてあるフレームメモリ620
(図6参照)に蓄積される。
(図6参照)では、フレームメモリ620に蓄積されて
いる参照画像の中から、動きベクトルで指し示された位
置の画像をブロック単位で切り出して、動き補償予測装
置内の任意形状直交変換回路640に供給する。任意形
状直交変換回路640では、外部から与えられるアルフ
ァマップ信号50に従って任意形状の動き補償予測値を
直交変換することで、変換係数領域での動き補償予測値
を求めて出力する。ここで、オブジェクトと背景の境界
を含むブロックでは、オブジェクトと背景の変換係数を
各々求める。
1は、変換係数領域での再生値から変換係数領域での動
き補償予測値EMC,BMCを求めてこれをセレクタ300
に与えることになる。
2、603の構成》図8を用いて、第2の具体例におけ
る動き補償予測装置600、601、602、603の
別の実施形態を説明する。この例は、従来よりオブジェ
クトの移動により隠ぺいされる背景領域の符号化効率を
改善するために用いられている背景予測方式(例えば、
宮本他:”背景予測を用いた適応予測符号化方式”PCSJ
88,7-4,pp.93〜94、渡邊他:”適応4種差分−DCT符
号化方式”PCSJ88,8-2,pp.117 〜118 )をオブジェクト
同士の重なりに対しても使用可能なように拡張したもの
である。
任意形状逆直交変換回路610、SW回路650、フレ
ームメモリ621,622,623、SW回路651、
動き補償回路630、任意形状直交変換回路640とか
ら構成される。
ァマップ信号にしたがって再生画像信号を逆変換するも
のであり、変換係数領域での再生値が動き補償予測装置
に与えられると、この再生値が当該動き補償予測装置の
構成要素である任意形状逆直交変換回路610に与えら
れ、これによって、当該任意形状逆直交変換回路610
は、再生値をアルファマップ信号(alpha-map )に従っ
て再生画像信号に逆変換するものである。このアルファ
マップ信号(alpha-map )は復号化系に設けてある図示
しないアルファマップ復号化装置から与えられる構成で
ある。
変換された再生画像信号は、複数あるフレームメモリ6
21,622,623に蓄積されるが、フレームメモリ
621,622,623のうち、どのフレームメモリに
蓄積するか選択するのがSW回路650である。フレー
ムメモリ621,622,623のうち、例えば、フレ
ームメモリ621と622はオブジェクト用、フレーム
メモリ623は背景用とする。オブジェクト用のフレー
ムメモリが2画面分用意されているのは、画面に現われ
るオブジェクトが2種類ある場合に、それぞれオブジェ
クト別に画像を保持するためであり、オブジェクトが2
種類以上ある場合に対処するためにはオブジェクト用の
フレームメモリはその数分、用意してSW回路650で
選択できるようにすれば良い。
pha-map )に従ってスイッチを切り替えることにより、
任意形状逆直交変換回路610からの再生画像信号をア
ルファマップ信号(alpha-map )対応にフレームメモリ
621,622,623に振り分けて蓄積させることが
できる。
pha-map )に従ってスイッチを切り替えることにより、
アルファマップ信号(alpha-map )対応にフレームメモ
リ621,622,623を選択してそのメモリに蓄積
されている再生画像信号を読出すものであり、動き補償
回路630は、SW回路651を介してフレームメモリ
621,622,623から読み出された再生画像信号
(参照画像)の中から、動きベクトルで指し示された位
置の画像をブロック単位で切り出して、任意形状直交変
換回路640に供給するものである。
メモリ621,622,623からSW回路651を介
して読み出された動きベクトル指示位置の画像の再生画
像信号をアルファマップ信号(alpha-map )に基づいて
直交変換することにより、アルファマップ信号(alpha-
map )で示される任意形状の画像の動き補償予測値を直
交変換することができるもので、変換係数領域での動き
補償予測値を求めて出力するものである。
交変換回路610に与えられるアルファマップは、複数
のオブジェクトおよび背景に対して、該画素がいずれの
オブジェクトに属しているかを特定することが可能であ
るとする。
の再生値が動き補償予測装置に与えられると、この再生
値はアルファマップ信号(alpha-map )で示される任意
形状の画像部分が任意形状逆直交変換回路610にて逆
直交変換され、再生画像信号となる。この再生画像信号
は、アルファマップ信号にしたがって、SW回路650
により各々のオブジェクトおよび背景のフレームメモリ
621,622,623に蓄積する。
にしたがって、SW回路651により順次選択されて読
み出され、動き補償回路630に与えられ、動き補償予
測値が求められる。
動き補償予測値を求める際には、アルファマップ信号に
したがって、SW回路651により各々のフレームメモ
リに蓄積されている参照画像より動き補償予測値を作成
する。これにより、オブジェクト同士の重なりにより隠
ぺいされた領域の符号化効率が向上する。
き補償予測値は、任意形状直交変換回路640に送ら
れ、ここでアルファマップ信号(alpha-map )に基づい
て直交変換することにより、アルファマップ信号(alph
a-map )で示される任意形状の画像の動き補償予測値の
直交変換係数が得られることになる。
回路630において動き補償予測値を求める際に、アル
ファマップ信号にしたがってオブジェクトと背景別に画
像を蓄積したフレームメモリに蓄積された画像より、そ
れぞれの動き補償予測値を作成するようにした。これに
より、オブジェクト同士の重なりにより隠ぺいされた領
域の符号化効率が向上する。
に、図2および、図9乃至図11を用いて、第1の具体
例および第2の具体例における量子化器130,131
および逆量子化器170,171,172,173の別
の構成例を説明する。
MPEG2のテストモデルであるTM5に記載されてい
るものである。ここでは、8×8個の変換係数に対して
水平方向(h)と垂直方向(v)の2次元マトリクスで
表記している。
を用いた量子化および逆量子化の例である。
(v,h): 変換係数(再生値) w(v,h):量子化マトリクス, Q_scale:量子化スケールで
ある。
ズの重みを変えるための量子化マトリクスに関するもの
である。SNRスケーラビリティでは、ベースレイヤに
比べてエンハンスメントレイヤの量子化が細かく行われ
る。
のような量子化マトリクスを用い、低域の変換係数を細
かく量子化し、高域の係数を粗く量子化することで、量
子化ステップサイズを一定にして符号化した場合と同じ
符号化レートで符号化した場合に主観的な評価が高くな
うことが多い。また、量子化回路において、センターデ
ッドゾーンを大きくすることで、0の発生確率を高くし
た方が符号化効率が高くなり、低いレートでの再生画質
が向上する。
の変換係数を粗く量子化すると、細かなテクスチャが再
現されず、視覚的な劣化が生じ、高域の変換係数での帰
還量子化雑音の影響も増加する。
スレイヤの量子化値BQ が“0”でない変換係数にのみ
量子化マトリクスを用いる。図11は、図2の例に対し
て得られた量子化マトリクスの例である。これにより、
エンハンスメントレイヤでは、動き補償予測誤差の大き
な変換係数の量子化誤差が大きくなるが、変化の大きな
所での量子化誤差は視覚特性のマスキング効果により、
目だたないため、視覚的な劣化は少ない。
1の具体例および第2の具体例において、量子化された
変換係数を可変長符号化する際に行われる、1次元系列
への変換の例を説明する。この1次元系列への変換は、
一般に図12に示されるジグザグスキャンと呼ばれる変
換法が用いられる。
各々8個に分けた2次元マトリクスであるが、図12で
は、8×8個の変換係数を、升目内に付された番号が若
い順に並べることで低域の変換係数が先に、高域の変換
係数が後に並ぶことになる。従って、量子化値は順序が
後になるほど“0”になる確率が高くなり、0ランの数
と0ランの後の量子化値との組み合わせ事象を可変長符
号化する際に符号化効率が高くなる。これは、低域の変
換係数の方が電力が大きいという性質を利用したもので
ある。
けるスキャン順序を、ベースレイヤの量子化値BQ が
“0”でない位置の変換係数を、BQ が“0”となる位
置の変換係数よりも先に並べ、各々をジグザグスキャン
の順序の若い順に並べている。
数は、エンハンスメントレイヤの動き補償予測誤差信号
であり、BQ が“0”でない位置の変換係数は、ベース
レイヤの量子化誤差であるため、両者の統計的性質が異
なるものとの仮定に基づいている。図13は、図2で示
した例に対するスキャン順序である。図13における升
目内に振られた番号の順がスキャン順序である。
ーバラップしていない例を示した。一方、文献:“如澤
他,動き補償フィルタバンク構造を用いた画像符号化,
PCSJ92,8-5,1992 ”では、基底がオーバラップしている
場合でも変換後差分構成を取ることで符号化効率の低下
の少ない動き補償フィルタバンク構造を用いた符号化法
を提案している。
符号化装置(変換後差分構成)には、上記文献の考え方
が適用できるので、動き補償フィルタバンク構造を、上
記の例に適用しても良い。
定画素数(N×N)のマトリックスに分割して直交変換
することにより、空間周波数の帯域別に分けた変換係数
を得、この得たN×N個の変換係数毎に変換係数の領域
で、上位および下位の階層別に動き補償を行う動画像の
符号化において、アルファマップ情報を用いて注目領域
の画像についての動き補償を行うと共に、当該動き補償
を行う際に、下位階層(ベースレイヤ)についての既に
復号済みの量子化値に基づいて動き補償予測の当り外れ
を判定し、動き補償予測が当っている場合は上位階層
(エンハンスメントレイヤ)用に求めた符号化歪みの少
ない動き補償予測値を用い、動き補償予測が外れている
場合は下位階層(ベースレイヤ)用に求めたエンハンス
メントレイヤ用より符号化歪みの多い動き補償予測値を
用いて上位階層の符号化を行うようにしたものであり、
これにより、動き補償予測の外れた係数に対する符号化
効率を改善して符号化効率の低下の少ない符号化を可能
にする符号化方式を実現することができるようになる。
号化する任意形状画像の符号化装置において、解像度と
画質を可変とすることが可能であり、しかも、符号化効
率の良いスケーラブルな符号化装置および復号化装置を
提供できる。
3の具体例を説明する。
含むブロック(実線で囲んだブロック)では、オブジェ
クトと背景とで別々に動きベクトルが検出される。この
際、オブジェクトあるいは背景のいずれかの画素数が少
なくなるために、ノイズの影響が大きくなり動きベクト
ルの信頼性が低下する。
ック(破線のブロック)よりも動きベクトルの検出範囲
を狭めるようにする。
フレームのやはりオブジェクトの部分から動いてきたも
のであるので、オブジェクトの部分の動きベクトルの探
索範囲を参照フレームのオブジェクトの内部に限定した
方が、動きベクトルの誤検出を削減できる。さらには、
探索範囲を限定することで動きベクトルの探索演算量を
少なくする効果もある。背景についても同様に、背景部
分から動きベクトルを求めるようにする。
ブロック(破線のブロック)よりも動きベクトルの検出
範囲を狭めることで、大きな誤差が発生しにくくするこ
とができるようになる。
本発明の動画像符号化/復号化装置を適用した動画像伝
送システムの実施形態を図15を用いて説明する。
は、パーソナルコンピュータ(PC)1001に備え付
けられたカメラ1002より入力された動画像信号は、
PC1001に組み込まれた動画像符号化装置によって
符号化される。この動画像符号化装置から出力される符
号化データは、他の音声やデータの情報と多重化された
後、無線機1003により無線で送信され、他の無線機
1004によって受信される。
像信号の符号化データおよび音声やデータの情報に分解
される。これらのうち、動画像信号の符号化データはワ
ークステーション(EWS)1005に組み込まれた動
画像復号化装置によって復号され、EWS1005のデ
ィスプレイに表示される。
メラ1006より入力された動画像信号は、EWS10
06に組み込まれた動画像符号化装置を用いて上記と同
様に符号化される。動画像信号の符号化データは、他の
音声やデータの情報と多重化され、無線機1004によ
り無線で送信され、無線機1003によって受信され
る。無線機1003によって受信された信号は、動画像
信号の符号化データおよび音声やデータの情報に分解さ
れる。これらのうち、動画像信号の符号化データはPC
1001に組み込まれた動画像復号化装置によって復号
され、PC1001のディスプレイに表示される。
C1001およびEWS1005に組み込まれた動画像
符号化装置の、そして、図15(c)は、図15(a)
におけるPC1001およびEWS1005に組み込ま
れた動画像復号化装置の構成を概略的に示すブロック図
である。
カメラなどの画像入力部1101からの画像信号を入力
して誤り耐性処理部1103を有する情報源符号化部1
102と、伝送路符号化部1104を有し、情報源符号
化部1101においては予測残差信号の離散コサイン変
換(DCT)と生成されたDCT係数の量子化などが行
われ、伝送路符号化部1104においては可変長符号化
や符号化データの誤り検出および誤り訂正符号化などが
行われる。伝送路符号化部1104から出力される符号
化データは無線機1105に送られ、送信される。情報
源符号化部1101における処理や、伝送路符号化部1
104における可変長符号化処理は、本発明の各具体例
で説明した如きの処理手法を適用する。
置は、無線機1201によって受信された符号化データ
を入力して伝送路符号化部1104と逆の処理を行う伝
送路復号化部1202と、伝送路復号化部1201の出
力信号を入力して情報源符号化部1102と逆の処理を
行う誤り耐性処理部1204を有する情報源復号化部1
203を有し、情報源復号化部1203で復号化された
画像はディスプレイなどの画像出力部1025によって
出力される。
例で説明した如きの処理手法を適用する。
率の低下無しに、任意形状画像の画質を多段階に可変と
した、スケーラブル符号化が実現される。また、本発明
によれば、任意形状の画像をDCT処理した際の発生符
号量を少なくすることが可能となる。
第1の具体例における符号化装置の構成例を示すブロッ
ク図。
適用する予測値切り換え法を説明する図。
第1の具体例における動き補償予測装置の構成例を示す
ブロック図。
第1の具体例における復号化装置の構成例を示すブロッ
ク図。
第2の具体例における符号化装置の構成例を示すブロッ
ク図。
第2の具体例における動き補償予測装置の構成例を示す
ブロック図。
第2の具体例における復号化装置の構成例を示すブロッ
ク図。
第3の具体例における動き補償予測装置の構成例を示す
ブロック図。
用いる量子化マトリクスの例を示す図。
に用いる量子化マトリクスの例を示す図。
の例。
分けた2次元マトリクスの例。
図。
の第4の具体例を説明する図。
化装置が適用される画像伝送システムの一例を説明する
ための図。
ック図。
ク図。
するための図であって、背景に平均値を配した例を示す
図。
するための図であって、段差を小さくした例を説明する
ための図。
するための図であって、ブロック画素値の例を示す図。
するための図であって、段差を小さくした別の例を説明
するための図。
するための図であって、ブロック画素値の例を示す図。
の符号化装置の例を示すブロック図。
の復号化装置の例を示すブロック図。
CT回路) 101,640…任意形状直交変換回路 110,111,120,121…差分回路 130,131…量子化回路 140,141…可変長符号化回路 142,143…可変長復号化回路 150,151,155…多重化回路 152,153,157…分離化回路 160,161…出力バッファ 162,163…入力バッファ 170,171,172,173…逆量子化回路 180〜182,190〜193…加算回路 200〜203,600〜603…動き補償予測装置。 210,2021…逆離散コサイン変換回路(IDCT
回路) 220,620,621〜623,700…フレームメ
モリ 230,630…動き補償回路 300…セレクタ 310…2値化回路 400,410,420,430…符号化制御回路 500,510…動きベクトル検出回路 610…任意形状逆直交変換回路 650,651…SW回路 2003,2005,2009,2023,2025,
2029…切り替え器 2004,2024…判定器 2006…符号化器 2010…縮小器 2011,2031…平均器 2020…復号器 2030…拡大器。
Claims (15)
- 【請求項1】 動画像の画面を所定画素数(N×N)の
マトリックスに分割して直交変換することにより、空間
周波数の帯域別に分けた変換係数を得、この得たN×N
個の変換係数毎に変換係数の領域で、高い画像品位が得
られるようデータ数を保った上位の階層およびデータ数
を間引いた下位の階層別に動き補償を行い、この動き補
償値を符号化することにより動画像の符号化を行うよう
にした画像符号化装置において、 動き補償を行う際に、下位階層についての復号済みの量
子化値に基づいて動き補償予測の当り外れを判定し、動
き補償予測が当っている場合は上位階層用に求めた符号
化歪みの少ない動き補償予測値を用い、動き補償予測が
外れている場合は下位階層用に求めた動き補償予測値を
用いて上位階層の符号化を行う構成としたことを特徴と
する画像符号化装置。 - 【請求項2】 動画像について複数のブロックに分割
し、この分割したブロックについて直交変換すると共
に、この直交変換により得られた変換係数領域での動き
補償予測を行って得た動き補償予測値を符号化すること
により動画像の符号化を行うようにした動き補償予測+
変換符号化装置において、 M階層のSNRスケーラビリティを実現する符号化装置
であって、 第m階層(m=2〜M)の動き補償予測値と第m−1階
層の動き補償予測値とを変換係数毎に切り換えることに
より、第m階層の予測値を求めるための、第m−1階層
における量子化器の出力が0である場合には第m階層の
動き補償予測値を第m−1階層における量子化器の出力
が1以上である場合には第m−1階層の動き補償予測値
を変換係数毎に出力する、切り換え手段と、 第m階層の動き補償予測誤差信号と第m−1階層の逆量
子化器の出力との差分信号を求める手段と、 上記差分信号を量子化した信号を符号化する手段とを具
備することを特徴とする動画像符号化装置。 - 【請求項3】 請求項2記載の画像符号化装置で符号化
された符号化ビットストリームから、第m階層(m=2
〜M)までの符号を取り出す手段と、 第m階層までの各階層の符号を復号化する手段と、 前記復号化手段により復号された量子化値を各階層にお
いて逆量子化する手段と、 第m階層(m=2〜M)の動き補償予測値と第m−1階
層の動き補償予測値とを変換係数毎に切り換えることに
より、第m階層の予測値を求めるための、第m−1階層
における量子化器の出力が0である場合には第m階層の
動き補償予測値を第m−1階層における量子化器の出力
が1以上である場合には第m−1階層の動き補償予測値
を変換係数毎に出力する切り換え手段と、 第m階層での動き補償予測値と第m−1階層での動き補
償予測値とを加算することで第m階層の動き補償予測誤
差信号を再生する手段を有する動画像復号化装置。 - 【請求項4】 請求項2に記載の動画像符号化装置であ
って、 第m階層(m=2〜M)の量子化マトリクスを、第m−
1階層における量子化器の出力が0となる変換係数と、
第m−1階層における量子化器の出力が1以上となる変
換係数とで切り換える手段を有することを特徴とする。 - 【請求項5】 請求項3に記載の動画像復号化装置であ
って、 第m階層(m=2〜M)の量子化マトリクスを、第m−
1階層における量子化値が0となる変換係数と、第m−
1階層における量子化値が1以上となる変換係数とで切
り換える手段を有することを特徴とする。 - 【請求項6】 請求項2あるいは請求項4に記載の動画
像符号化装置であって、 第m階層(m=2〜M)における2次元直交変換係数の
量子化値を1次元系列に並べ変える際に、第m−1階層
における量子化器の出力が0となる変換係数よりも、第
m−1階層における量子化器の出力が1以上となる変換
係数を先に並べる手段を有することを特徴とする動画像
符号化装置。 - 【請求項7】 入力画像の背景とオブジェクトを識別す
るためのアルファマップ信号を符号化する手段と、 このアルファマップにしたがって任意形状画像を変換係
数に変換する手段と、 再生されたアルファマップにしたがって上記変換係数を
逆変換することにより、任意形状画像を再生する手段を
有することを特徴とする請求項2あるいは請求項4ある
いは請求項6記載の動画像符号化装置。 - 【請求項8】 入力画像の背景とオブジェクトを識別す
るためのアルファマップ信号を復号化する手段と、 前記アルファマップ信号にしたがって変換係数に変換さ
れた任意形状画像を逆変換することにより、任意形状画
像を再生する手段を有することを特徴とする請求項3あ
るいは請求項5記載の動画像復号化装置。 - 【請求項9】 入力画像の背景と1つ以上のオブジェク
トを識別するためのアルファマップ信号を符号化する手
段と、 前記アルファマップにしたがって任意形状画像を変換係
数に変換する手段と、 前記アルファマップにしたがって前記変換係数を逆変換
することにより、任意形状画像を再生する手段を有す
る、動き補償予測を用いた動画像符号化装置において、 背景および各オブジェクトに対して、各々に対応するフ
レームメモリを有することを特徴とする動画像符号化装
置。 - 【請求項10】 入力画像の背景と1つ以上のオブジェ
クトを識別するためのアルファマップ信号を用いて、こ
のアルファマップ信号にしたがって任意形状画像を変換
係数に変換する手段と、前記アルファマップ信号にした
がって変換係数に変換された任意形状画像を逆変換する
ことにより、任意形状画像を再生する手段を有する、動
き補償予測を用いた動画像復号化装置において、 背景および各オブジェクトに対して、各々に対応するフ
レームメモリを有することを特徴とする動画像復号化装
置。 - 【請求項11】 入力画像の背景と1つ以上のオブジェ
クトを識別するためのアルファマップ信号を用い、動画
像の画面を所定画素数(N×N)構成のブロックのマト
リックスに分割して直交変換することにより、空間周波
数の帯域別に分けた変換係数を得ると共に、この変換係
数は上記アルファマップにしたがった任意形状画像の動
き補償予測を用いて符号化する動画像符号化装置におい
て、 複数のオブジェクトあるいは背景を含むブロックでは、
各オブジェクトおよび背景毎に動きベクトルを検出する
手段を有し、 複数のオブジェクトあるいは背景を含むブロックにおい
ては、1つのオブジェクトあるいは背景を含むブロック
よりも、動きベクトルの検出範囲を狭くすることを特徴
とする動画像符号化装置。 - 【請求項12】 入力画像の背景と1つ以上のオブジェ
クトとを識別するためのアルファマップ信号を用い、上
記アルファマップ信号にしたがって、任意形状画像を動
き補償予測を用いて符号化する動画像符号化装置におい
て、 オブジェクト毎に動きベクトルを検出すると共に、動き
ベクトルの探索は、同じオブジェクト内で行う動きベク
トル検出手段を備えたことを特徴とする動画像符号化装
置。 - 【請求項13】 画像の背景とオブジェクトを識別する
ためのアルファマップの符号と、画像を所要画素数単位
で区分して構成されるブロックの直交変換係数を出力と
する動画像符号化装置において、 上記アルファマップ信号を符号化して出力する手段と、 上記ブロック毎に上記アルファマップを用いてオブジェ
クト部分の画素値の平均値を求める手段と、 上記ブロックの背景部分に上記平均値を配置する手段
と、 オブジェクト内の画素について背景の近くか否かを上記
アルファマップ信号を用いて判定する手段と、 背景の近くであると判定されたオブジェクト内の画素に
ついては、上記平均値を中心に縮小処理する手段と、 各ブロックを直交変換して直交変換係数を出力する手段
と、を有することを特徴とする動画像符号化装置。 - 【請求項14】 画像の背景とオブジェクトを識別する
ためのアルファマップの符号と、画像を所要画素数単位
で区分して構成されるブロックの直交変換係数を入力と
する動画像復号装置において、 上記アルファマップの符号からアルファマップ信号を復
号する手段と、 上記直交変換係数からブロックを復号する手段と、 オブジェクト部分あるいは背景部分あるいはブロック全
体の平均値を求める手段と、 オブジェクト内の画素について背景の近くか否かを上記
アルファマップ信号を用いて判定する手段と、 この判定手段により背景の近くであると判定されたオブ
ジェクト内の画素については、上記平均値を中心に拡大
する手段と、を有することを特徴とする動画像復号装
置。 - 【請求項15】 入力された画像を所要画素数単位で区
分して構成されるブロックの直交変換係数に変換すると
共に、画像中の背景とオブジェクトを識別するためのア
ルファマップ信号を入力とし、これらを符号化して出力
する動画像符号化装置において、 上記アルファマップ信号を符号化して出力する手段と、 入力される上記アルファマップ信号を用い、上記画像に
ついてブロック毎にオブジェクト部分の平均値を求める
手段と、 上記ブロックの背景部分に上記平均値を求める手段にて
求められた上記平均値を配置する手段と、 背景内の面素についてオブジェクトの近くか否かを上記
アルファマップ信号を用いて判定する手段と、 この判定の結果、オブジェクトの近くであると判定され
た背景内の画素については、その近くのオブジェクトの
画素値に近づくように画素値を修正処理する手段と、 上記ブロックを直交変換して得られた直交変換係数を出
力する手段と、を有することを特徴とする動画像符号化
装置。
Priority Applications (9)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP15429696A JP3788823B2 (ja) | 1995-10-27 | 1996-06-14 | 動画像符号化装置および動画像復号化装置 |
US08/738,934 US5818531A (en) | 1995-10-27 | 1996-10-24 | Video encoding and decoding apparatus |
EP19960307720 EP0771119A3 (en) | 1995-10-27 | 1996-10-25 | Video encoding and decoding apparatus |
EP20070010441 EP1821545A2 (en) | 1995-10-27 | 1996-10-25 | Video encoding and decoding apparatus |
EP20020003685 EP1215911A3 (en) | 1995-10-27 | 1996-10-25 | Video encoding and decoding apparatus |
US09/111,751 US6028634A (en) | 1995-10-27 | 1998-07-08 | Video encoding and decoding apparatus |
US09/334,769 US6256346B1 (en) | 1995-10-27 | 1999-06-16 | Video encoding and decoding apparatus |
US09/783,549 US6519285B2 (en) | 1995-10-27 | 2001-02-15 | Video encoding and decoding apparatus |
US10/986,574 USRE40079E1 (en) | 1995-10-27 | 2004-11-12 | Video encoding and decoding apparatus |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP7-281029 | 1995-10-27 | ||
JP28102995 | 1995-10-27 | ||
JP15429696A JP3788823B2 (ja) | 1995-10-27 | 1996-06-14 | 動画像符号化装置および動画像復号化装置 |
Related Child Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001002847A Division JP2001231049A (ja) | 1995-10-27 | 2001-01-10 | 動画像復号化装置および動画像復号化方法 |
JP2001002846A Division JP2001238220A (ja) | 1995-10-27 | 2001-01-10 | 動画像符号化装置および動画像符号化方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH09182084A true JPH09182084A (ja) | 1997-07-11 |
JP3788823B2 JP3788823B2 (ja) | 2006-06-21 |
Family
ID=26482618
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP15429696A Expired - Fee Related JP3788823B2 (ja) | 1995-10-27 | 1996-06-14 | 動画像符号化装置および動画像復号化装置 |
Country Status (3)
Country | Link |
---|---|
US (5) | US5818531A (ja) |
EP (3) | EP1821545A2 (ja) |
JP (1) | JP3788823B2 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003533067A (ja) * | 1999-07-06 | 2003-11-05 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 基準レイヤ符号化情報の使用による改良された精細スケーラブル・ビデオに関するシステム及び方法 |
KR100480751B1 (ko) * | 1998-10-10 | 2005-05-16 | 삼성전자주식회사 | 동영상부호화/복호화방법및장치 |
USRE40079E1 (en) | 1995-10-27 | 2008-02-19 | Kabushiki Kaisha Toshiba | Video encoding and decoding apparatus |
JP2008533850A (ja) * | 2005-03-10 | 2008-08-21 | クゥアルコム・インコーポレイテッド | 二層符号化及び単層復号化による階層的ビデオ符号化 |
JP2011120281A (ja) * | 2005-05-03 | 2011-06-16 | Qualcomm Inc | 複数層を使用するマルチメディア・データのスケーリング可能なエンコーディング及びデコーディングのためのシステム及び方法 |
CN110855994A (zh) * | 2013-04-05 | 2020-02-28 | Vid拓展公司 | 针对多层视频编码的层间参考图片增强的设备 |
Families Citing this family (132)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0687112B1 (en) * | 1994-06-08 | 2006-09-20 | Matsushita Electric Industrial Co., Ltd. | Image conversion apparatus |
KR100381061B1 (ko) * | 1995-10-20 | 2003-08-19 | 노키아 모빌 폰즈 리미티드 | 모션벡터필드코딩 |
US6957350B1 (en) | 1996-01-30 | 2005-10-18 | Dolby Laboratories Licensing Corporation | Encrypted and watermarked temporal and resolution layering in advanced television |
US6031575A (en) * | 1996-03-22 | 2000-02-29 | Sony Corporation | Method and apparatus for encoding an image signal, method and apparatus for decoding an image signal, and recording medium |
JP3263807B2 (ja) * | 1996-09-09 | 2002-03-11 | ソニー株式会社 | 画像符号化装置および画像符号化方法 |
IL119523A0 (en) * | 1996-10-30 | 1997-01-10 | Algotec Systems Ltd | Data distribution system |
TW358296B (en) | 1996-11-12 | 1999-05-11 | Matsushita Electric Ind Co Ltd | Digital picture encoding method and digital picture encoding apparatus, digital picture decoding method and digital picture decoding apparatus, and data storage medium |
DE69835388T2 (de) * | 1997-03-17 | 2007-07-19 | Sony Corp. | Bildkodiergerät und Bilddekodiergerät |
ID20680A (id) | 1997-04-01 | 1999-02-11 | Sony Corp | Alat dan metode pemberian kode bayangan, alat dan metode penguraian kode bayangan, dan media pendistribusinya |
JP3844844B2 (ja) * | 1997-06-06 | 2006-11-15 | 富士通株式会社 | 動画像符号化装置及び動画像符号化方法 |
KR100373331B1 (ko) * | 1997-07-02 | 2003-04-21 | 주식회사 팬택앤큐리텔 | 스캔 인터리빙 방법을 이용한 신축형 모양정보 부호화/복호화장치 및 방법 |
KR100240770B1 (ko) * | 1997-07-11 | 2000-01-15 | 이형도 | 에너지보상/역보상기능을개선한스케러블부호화기및그방법 |
JP4573366B2 (ja) * | 1997-09-25 | 2010-11-04 | 株式会社大宇エレクトロニクス | 動きベクトル符号化方法及び符号化装置 |
JP3667105B2 (ja) * | 1997-10-01 | 2005-07-06 | 松下電器産業株式会社 | 動きベクトル検出方法及びその方法を実施する装置 |
US6795501B1 (en) * | 1997-11-05 | 2004-09-21 | Intel Corporation | Multi-layer coder/decoder for producing quantization error signal samples |
US5973743A (en) * | 1997-12-02 | 1999-10-26 | Daewoo Electronics Co., Ltd. | Mode coding method and apparatus for use in an interlaced shape coder |
WO1999033274A1 (en) * | 1997-12-19 | 1999-07-01 | Kenneth Rose | Scalable predictive coding method and apparatus |
US6731811B1 (en) | 1997-12-19 | 2004-05-04 | Voicecraft, Inc. | Scalable predictive coding method and apparatus |
US5995150A (en) * | 1998-02-20 | 1999-11-30 | Winbond Electronics Corporation America | Dual compressed video bitstream camera for universal serial bus connection |
KR100328417B1 (ko) * | 1998-03-05 | 2002-03-16 | 마츠시타 덴끼 산교 가부시키가이샤 | 화상부호화장치및화상복호화장치, 화상부보화방법 및 화상복호화방법, 및 데이터기억매체 |
JP3898347B2 (ja) * | 1998-06-30 | 2007-03-28 | 富士通株式会社 | 動画データ制御装置、動画データ制御方法、及び動画データ制御プログラムを記録したコンピュータ読みとり可能な記録媒体 |
US6275531B1 (en) | 1998-07-23 | 2001-08-14 | Optivision, Inc. | Scalable video coding method and apparatus |
US6603883B1 (en) * | 1998-09-08 | 2003-08-05 | Canon Kabushiki Kaisha | Image processing apparatus including an image data encoder having at least two scalability modes and method therefor |
US6546049B1 (en) * | 1998-10-05 | 2003-04-08 | Sarnoff Corporation | Parameterized quantization matrix adaptation for video encoding |
US6499060B1 (en) | 1999-03-12 | 2002-12-24 | Microsoft Corporation | Media coding for loss recovery with remotely predicted data units |
US6879634B1 (en) * | 1999-05-26 | 2005-04-12 | Bigband Networks Inc. | Method and system for transmitting media streams over a variable bandwidth network |
US6480547B1 (en) * | 1999-10-15 | 2002-11-12 | Koninklijke Philips Electronics N.V. | System and method for encoding and decoding the residual signal for fine granular scalable video |
US6639943B1 (en) | 1999-11-23 | 2003-10-28 | Koninklijke Philips Electronics N.V. | Hybrid temporal-SNR fine granular scalability video coding |
US6931060B1 (en) * | 1999-12-07 | 2005-08-16 | Intel Corporation | Video processing of a quantized base layer and one or more enhancement layers |
US6826232B2 (en) * | 1999-12-20 | 2004-11-30 | Koninklijke Philips Electronics N.V. | Fine granular scalable video with embedded DCT coding of the enhancement layer |
KR100359821B1 (ko) * | 2000-01-20 | 2002-11-07 | 엘지전자 주식회사 | 움직임 보상 적응형 영상 압축과 복원방법 및 그 장치와디코더 |
FR2806570B1 (fr) * | 2000-03-15 | 2002-05-17 | Thomson Multimedia Sa | Procede et dispositif de codage d'images video |
WO2001077871A1 (en) * | 2000-04-07 | 2001-10-18 | Demografx | Enhanced temporal and resolution layering in advanced television |
US6493387B1 (en) * | 2000-04-10 | 2002-12-10 | Samsung Electronics Co., Ltd. | Moving picture coding/decoding method and apparatus having spatially scalable architecture and signal-to-noise ratio scalable architecture together |
US7751473B2 (en) * | 2000-05-15 | 2010-07-06 | Nokia Corporation | Video coding |
GB2362532B (en) * | 2000-05-15 | 2004-05-05 | Nokia Mobile Phones Ltd | Video coding |
JP2002010251A (ja) * | 2000-06-19 | 2002-01-11 | Matsushita Electric Ind Co Ltd | 映像信号符号化装置および映像信号復号化装置 |
FI109393B (fi) | 2000-07-14 | 2002-07-15 | Nokia Corp | Menetelmä mediavirran enkoodaamiseksi skaalautuvasti, skaalautuva enkooderi ja päätelaite |
US6621865B1 (en) | 2000-09-18 | 2003-09-16 | Powerlayer Microsystems, Inc. | Method and system for encoding and decoding moving and still pictures |
US6940905B2 (en) * | 2000-09-22 | 2005-09-06 | Koninklijke Philips Electronics N.V. | Double-loop motion-compensation fine granular scalability |
AU2002220558A1 (en) | 2000-09-22 | 2002-04-02 | Koninklijke Philips Electronics N.V. | Double-loop motion-compensation fine granular scalability |
US20020080878A1 (en) * | 2000-10-12 | 2002-06-27 | Webcast Technologies, Inc. | Video apparatus and method for digital video enhancement |
US6961383B1 (en) * | 2000-11-22 | 2005-11-01 | At&T Corp. | Scalable video encoder/decoder with drift control |
KR100386639B1 (ko) * | 2000-12-04 | 2003-06-02 | 주식회사 오픈비주얼 | 정규화된 역양자화기를 이용한 영상 및 동영상의 복원 방법 |
KR100952892B1 (ko) * | 2000-12-06 | 2010-04-16 | 리얼네트웍스 인코포레이티드 | 비디오 데이타의 인트라코딩 방법 및 장치 |
DE10121259C2 (de) * | 2001-01-08 | 2003-07-24 | Siemens Ag | Optimale SNR-skalierbare Videocodierung |
JP2002315004A (ja) * | 2001-04-09 | 2002-10-25 | Ntt Docomo Inc | 画像符号化方法及び装置、画像復号方法及び装置、並びに画像処理システム |
US7512189B2 (en) * | 2001-04-27 | 2009-03-31 | The Directv Group, Inc. | Lower complexity layered modulation signal processor |
US7778365B2 (en) | 2001-04-27 | 2010-08-17 | The Directv Group, Inc. | Satellite TWTA on-line non-linearity measurement |
US7423987B2 (en) * | 2001-04-27 | 2008-09-09 | The Directv Group, Inc. | Feeder link configurations to support layered modulation for digital signals |
US7209524B2 (en) * | 2001-04-27 | 2007-04-24 | The Directv Group, Inc. | Layered modulation for digital signals |
US7471735B2 (en) * | 2001-04-27 | 2008-12-30 | The Directv Group, Inc. | Maximizing power and spectral efficiencies for layered and conventional modulations |
US7583728B2 (en) * | 2002-10-25 | 2009-09-01 | The Directv Group, Inc. | Equalizers for layered modulated and other signals |
US7822154B2 (en) | 2001-04-27 | 2010-10-26 | The Directv Group, Inc. | Signal, interference and noise power measurement |
US8005035B2 (en) * | 2001-04-27 | 2011-08-23 | The Directv Group, Inc. | Online output multiplexer filter measurement |
US7136418B2 (en) * | 2001-05-03 | 2006-11-14 | University Of Washington | Scalable and perceptually ranked signal coding and decoding |
US7184548B2 (en) * | 2001-05-04 | 2007-02-27 | Hewlett-Packard Development Company, L.P. | Encoding and decoding methods for secure scalable streaming and related systems |
US7010043B2 (en) * | 2001-07-05 | 2006-03-07 | Sharp Laboratories Of America, Inc. | Resolution scalable video coder for low latency |
US7266150B2 (en) | 2001-07-11 | 2007-09-04 | Dolby Laboratories, Inc. | Interpolation of video compression frames |
JP4347687B2 (ja) * | 2001-07-26 | 2009-10-21 | アイピージー・エレクトロニクス・503・リミテッド | スケーラブルでないコード化された映像信号からスケーラブルなコード化された映像信号を生成するための方法とデバイス |
EP2099228B1 (en) | 2001-09-14 | 2014-11-12 | NTT DoCoMo, Inc. | Coding method, decoding method, coding apparatus, decoding apparatus, image processing system, coding program, and decoding program |
JP2003116004A (ja) * | 2001-10-04 | 2003-04-18 | Seiko Epson Corp | 透明部分を含む画像ファイル |
EP1320216A1 (en) * | 2001-12-11 | 2003-06-18 | BRITISH TELECOMMUNICATIONS public limited company | Method and device for multicast transmission |
FR2834178A1 (fr) * | 2001-12-20 | 2003-06-27 | Koninkl Philips Electronics Nv | Procede de decodage de signaux video codes |
US20030118099A1 (en) * | 2001-12-20 | 2003-06-26 | Comer Mary Lafuze | Fine-grain scalable video encoder with conditional replacement |
US20030118113A1 (en) * | 2001-12-20 | 2003-06-26 | Comer Mary Lafuze | Fine-grain scalable video decoder with conditional replacement |
JP4150951B2 (ja) * | 2002-02-19 | 2008-09-17 | ソニー株式会社 | 動画配信システム、動画配信装置および方法、並びにプログラム |
US7391807B2 (en) * | 2002-04-24 | 2008-06-24 | Mitsubishi Electric Research Laboratories, Inc. | Video transcoding of scalable multi-layer videos to single layer video |
US6917713B2 (en) * | 2002-05-29 | 2005-07-12 | Koninklijke Philips Electronics N.V. | System and method for enhancing videos from drift-free scalable bitstream |
TWI324463B (en) * | 2002-07-01 | 2010-05-01 | Hughes Electronics Corp | Improving hierarchical 8psk performance |
AU2003281452A1 (en) | 2002-07-03 | 2004-01-23 | The Directv Group, Inc. | Method and apparatus for layered modulation |
US7529312B2 (en) * | 2002-10-25 | 2009-05-05 | The Directv Group, Inc. | Layered modulation for terrestrial ATSC applications |
US6954501B2 (en) * | 2003-02-17 | 2005-10-11 | Xvd Corporation | Method and apparatus for object based motion compensation |
JP4113044B2 (ja) * | 2003-05-23 | 2008-07-02 | 松下電器産業株式会社 | 画像符号化装置 |
DE502004008221D1 (de) * | 2003-07-25 | 2008-11-20 | Sennheiser Electronic | Verfahren und vorrichtung zur digitalisierung sowie zur datenkomprimierung analoger signale |
JP4409897B2 (ja) * | 2003-09-19 | 2010-02-03 | 株式会社リコー | 画像処理装置、画像処理方法、プログラム及び情報記録媒体 |
US7627184B2 (en) * | 2003-11-21 | 2009-12-01 | Nec Corporation | Content distribution/reception device, content transmission/reception method, and content distribution/reception program |
US7305031B2 (en) * | 2004-01-29 | 2007-12-04 | International Business Machines Corporation | Method and system for the error resilient transmission of predictively encoded signals |
WO2005081540A1 (ja) * | 2004-02-20 | 2005-09-01 | Nec Corporation | 画像符号化方法、その装置及びその制御プログラム |
US20080144716A1 (en) * | 2004-03-11 | 2008-06-19 | Gerard De Haan | Method For Motion Vector Determination |
JP2005286472A (ja) * | 2004-03-29 | 2005-10-13 | Sanyo Electric Co Ltd | 画像処理装置および画像処理方法 |
US20060012719A1 (en) * | 2004-07-12 | 2006-01-19 | Nokia Corporation | System and method for motion prediction in scalable video coding |
JP2008507194A (ja) * | 2004-07-15 | 2008-03-06 | サムスン エレクトロニクス カンパニー リミテッド | 動き情報符号化装置及び方法、動き情報復号化装置及び方法、これを採用したスケーラブル映像符号化装置及び方法とスケーラブル映像復号化装置及び方法 |
KR100679018B1 (ko) * | 2004-09-07 | 2007-02-05 | 삼성전자주식회사 | 다계층 비디오 코딩 및 디코딩 방법, 비디오 인코더 및디코더 |
US20060062308A1 (en) * | 2004-09-22 | 2006-03-23 | Carl Staelin | Processing video frames |
US8428116B2 (en) * | 2004-10-07 | 2013-04-23 | Nec Corporation | Moving picture encoding device, method, program, and moving picture decoding device, method, and program |
US20060078049A1 (en) * | 2004-10-13 | 2006-04-13 | Nokia Corporation | Method and system for entropy coding/decoding of a video bit stream for fine granularity scalability |
DE102004059978B4 (de) * | 2004-10-15 | 2006-09-07 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Vorrichtung und Verfahren zum Erzeugen einer codierten Videosequenz und zum Decodieren einer codierten Videosequenz unter Verwendung einer Zwischen-Schicht-Restwerte-Prädiktion sowie ein Computerprogramm und ein computerlesbares Medium |
KR100664929B1 (ko) | 2004-10-21 | 2007-01-04 | 삼성전자주식회사 | 다 계층 기반의 비디오 코더에서 모션 벡터를 효율적으로압축하는 방법 및 장치 |
US8363714B2 (en) * | 2004-12-22 | 2013-01-29 | Entropic Communications, Inc. | Video stream modifier |
US8634413B2 (en) | 2004-12-30 | 2014-01-21 | Microsoft Corporation | Use of frame caching to improve packet loss recovery |
KR100913088B1 (ko) * | 2005-01-21 | 2009-08-21 | 엘지전자 주식회사 | 베이스 레이어의 내부모드 블록의 예측정보를 이용하여영상신호를 엔코딩/디코딩하는 방법 및 장치 |
EP1900222A4 (en) * | 2005-01-21 | 2009-10-28 | Lg Electronics Inc | METHOD AND APPARATUS FOR ENCODING / DECODING VIDEO SIGNALS USING BLOCK PREDICTION INFORMATION |
KR101233854B1 (ko) * | 2005-02-18 | 2013-02-15 | 톰슨 라이센싱 | 저해상도 픽처로부터 고해상도 픽처에 대한 코딩 정보를도출하기 위한 방법 및 이 방법을 구현하는 코딩 및 디코딩장치 |
US7725799B2 (en) * | 2005-03-31 | 2010-05-25 | Qualcomm Incorporated | Power savings in hierarchically coded modulation |
EP1711018A1 (en) * | 2005-04-08 | 2006-10-11 | Thomson Licensing | Method and apparatus for encoding video pictures, and method and apparatus for decoding video pictures |
JP4618676B2 (ja) | 2005-04-28 | 2011-01-26 | 株式会社リコー | 構造化文書符号の転送方法、画像処理システム、サーバ装置、プログラム及び情報記録媒体 |
AU2006346224A1 (en) * | 2005-07-20 | 2008-05-02 | Vidyo, Inc. | System and method for jitter buffer reduction in scalable coding |
WO2007014216A2 (en) * | 2005-07-22 | 2007-02-01 | Cernium Corporation | Directed attention digital video recordation |
US7924914B2 (en) * | 2005-09-20 | 2011-04-12 | Intel Corporation | Dynamically configuring a video decoder cache for motion compensation |
KR100891662B1 (ko) * | 2005-10-05 | 2009-04-02 | 엘지전자 주식회사 | 비디오 신호 디코딩 및 인코딩 방법 |
KR20070096751A (ko) * | 2006-03-24 | 2007-10-02 | 엘지전자 주식회사 | 영상 데이터를 코딩/디코딩하는 방법 및 장치 |
EP1932363B1 (en) * | 2005-10-05 | 2016-05-18 | LG Electronics Inc. | Method and apparatus for reconstructing image blocks |
KR20070038396A (ko) * | 2005-10-05 | 2007-04-10 | 엘지전자 주식회사 | 영상 신호의 인코딩 및 디코딩 방법 |
EP1977391A2 (en) | 2006-01-03 | 2008-10-08 | ATI Technologies Inc. | Image analyser and adaptive image scaling circuit and methods |
CN101356820B (zh) * | 2006-01-05 | 2011-01-26 | 汤姆森许可贸易公司 | 层间运动预测方法 |
US20090304091A1 (en) * | 2006-04-03 | 2009-12-10 | Seung Wook Park | Method and Apparatus for Decoding/Encoding of a Scalable Video Signal |
EP1879399A1 (en) | 2006-07-12 | 2008-01-16 | THOMSON Licensing | Method for deriving motion data for high resolution pictures from motion data of low resolution pictures and coding and decoding devices implementing said method |
JP4787100B2 (ja) * | 2006-07-27 | 2011-10-05 | パナソニック株式会社 | 画像符号化装置 |
US20080095228A1 (en) * | 2006-10-20 | 2008-04-24 | Nokia Corporation | System and method for providing picture output indications in video coding |
JP4525692B2 (ja) * | 2007-03-27 | 2010-08-18 | 株式会社日立製作所 | 画像処理装置、画像処理方法、画像表示装置 |
KR101365596B1 (ko) * | 2007-09-14 | 2014-03-12 | 삼성전자주식회사 | 영상 부호화장치 및 방법과 그 영상 복호화장치 및 방법 |
US20090096927A1 (en) * | 2007-10-15 | 2009-04-16 | Camp Jr William O | System and method for video coding using variable compression and object motion tracking |
KR101375663B1 (ko) * | 2007-12-06 | 2014-04-03 | 삼성전자주식회사 | 영상을 계층적으로 부호화/복호화하는 방법 및 장치 |
KR101446771B1 (ko) * | 2008-01-30 | 2014-10-06 | 삼성전자주식회사 | 영상 부호화장치 및 영상 복호화장치 |
KR101426271B1 (ko) * | 2008-03-04 | 2014-08-06 | 삼성전자주식회사 | 영상의 부호화, 복호화 방법 및 장치 |
US9215467B2 (en) | 2008-11-17 | 2015-12-15 | Checkvideo Llc | Analytics-modulated coding of surveillance video |
US20100278232A1 (en) * | 2009-05-04 | 2010-11-04 | Sehoon Yea | Method Coding Multi-Layered Depth Images |
WO2011005303A1 (en) * | 2009-07-06 | 2011-01-13 | Thomson Licensing | Methods and apparatus for spatially varying residue coding |
US9247247B2 (en) | 2010-04-13 | 2016-01-26 | Samsung Electronics Co., Ltd. | Video-encoding method and video-encoding apparatus using prediction units based on encoding units determined in accordance with a tree structure, and video-decoding method and video-decoding apparatus using prediction units based on encoding units determined in accordance with a tree structure |
JP5707745B2 (ja) * | 2010-06-08 | 2015-04-30 | ソニー株式会社 | 画像安定化装置、画像安定化方法、及びプログラム |
JP2011259205A (ja) | 2010-06-09 | 2011-12-22 | Sony Corp | 画像復号化装置と画像符号化装置およびその方法とプログラム |
GB2481856A (en) * | 2010-07-09 | 2012-01-11 | British Broadcasting Corp | Picture coding using weighted predictions in the transform domain |
GB2501517A (en) * | 2012-04-27 | 2013-10-30 | Canon Kk | Scalable Encoding and Decoding of a Digital Image |
US20140086346A1 (en) * | 2012-09-21 | 2014-03-27 | Samsung Electronics Co., Ltd. | Method and system for removal of baseline wander and power-line interference |
CA2908853C (en) | 2013-04-08 | 2019-01-15 | Arris Technology, Inc. | Signaling for addition or removal of layers in video coding |
US9667988B2 (en) * | 2014-04-23 | 2017-05-30 | Samsung Electronics Co., Ltd. | Method and apparatus for reducing redundancy in residue signel in video data compression |
US10034002B2 (en) | 2014-05-21 | 2018-07-24 | Arris Enterprises Llc | Signaling and selection for the enhancement of layers in scalable video |
MX360655B (es) * | 2014-05-21 | 2018-11-12 | Arris Entpr Llc | Gestión individual de memorias intermedias en transporte de video escalable. |
US10136194B2 (en) * | 2016-07-06 | 2018-11-20 | Cisco Technology, Inc. | Streaming piracy detection method and system |
US11399180B1 (en) * | 2019-04-09 | 2022-07-26 | Apple Inc. | Video encoder with quantization control |
US11915432B2 (en) | 2020-01-16 | 2024-02-27 | Samsung Electronics Co., Ltd. | Method and apparatus for tracking target |
Family Cites Families (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4833535A (en) * | 1987-02-04 | 1989-05-23 | Kabushiki Kaisha Toshiba | Image transmission apparatus |
US4969039A (en) * | 1987-07-01 | 1990-11-06 | Nec Corporation | Image processing system operable in cooperation with a recording medium |
JPH07109990B2 (ja) * | 1989-04-27 | 1995-11-22 | 日本ビクター株式会社 | 適応型フレーム間予測符号化方法及び復号方法 |
US5001561A (en) * | 1990-05-02 | 1991-03-19 | At&T Bell Laboratories | Embedded coding system for video signals |
JP3037383B2 (ja) * | 1990-09-03 | 2000-04-24 | キヤノン株式会社 | 画像処理システム及びその方法 |
DE69116128T2 (de) * | 1990-10-09 | 1996-08-01 | Philips Electronics Nv | Gerät zur kodierung von fernsehbildern mit entsprechenden digitalen signalen und entsprechende dekodierungseinrichtung |
US5528299A (en) * | 1990-10-09 | 1996-06-18 | U.S. Philips Corporation | Coding system for digital signals corresponding to television pictures and corresponding decoding system |
JPH0595536A (ja) * | 1991-10-01 | 1993-04-16 | Toshiba Corp | 高能率符号化信号処理装置 |
US5420638A (en) * | 1992-04-14 | 1995-05-30 | U.S. Philips Corporation | Subassembly for coding images with refresh correction of the data to be coded, and subassembly for decording signals representing these images and previously coded by means of a subassembly of the former kind |
NL9201640A (nl) * | 1992-09-22 | 1994-04-18 | Nederland Ptt | Systeem omvattende ten minste één encoder voor het coderen van een digitaal signaal en ten minste één decoder voor het decoderen van een digitaal signaal, en encoder en decoder voor toepassing in het systeem volgens de uitvinding. |
FR2697393A1 (fr) * | 1992-10-28 | 1994-04-29 | Philips Electronique Lab | Dispositif de codage de signaux numériques représentatifs d'images, et dispositif de décodage correspondant. |
US5592228A (en) * | 1993-03-04 | 1997-01-07 | Kabushiki Kaisha Toshiba | Video encoder using global motion estimation and polygonal patch motion estimation |
KR100292138B1 (ko) * | 1993-07-12 | 2002-06-20 | 이데이 노부유끼 | 디지탈비디오신호용송신기및수신기 |
JP3716866B2 (ja) | 1993-07-12 | 2005-11-16 | ソニー株式会社 | デジタル画像信号の伝送装置及び受信装置 |
DE69428308T2 (de) * | 1993-07-12 | 2002-05-08 | Sony Corp | Verarbeitung von digitalen Bilddaten |
JP3271634B2 (ja) | 1993-08-10 | 2002-04-02 | ソニー株式会社 | デジタル画像信号の伝送装置及び受信装置 |
CA2126467A1 (en) * | 1993-07-13 | 1995-01-14 | Barin Geoffry Haskell | Scalable encoding and decoding of high-resolution progressive video |
US5521628A (en) | 1993-08-30 | 1996-05-28 | Lumonics Corporation | Laser system for simultaneously marking multiple parts |
CA2127151A1 (en) * | 1993-09-21 | 1995-03-22 | Atul Puri | Spatially scalable video encoding and decoding |
US5537440A (en) * | 1994-01-07 | 1996-07-16 | Motorola, Inc. | Efficient transcoding device and method |
KR0159575B1 (ko) * | 1994-10-31 | 1999-01-15 | 배순훈 | 영역 분할 부호화 방식의 인접 영역간 불연속 처리 장치 |
US5978514A (en) * | 1994-11-10 | 1999-11-02 | Kabushiki Kaisha Toshiba | Image data coding and decoding system for efficiently compressing information using the shape and position of the image content |
EP1271957B1 (en) * | 1994-12-20 | 2006-05-24 | Matsushita Electric Industrial Co., Ltd. | Object-based digital image predictive coding and transfer method and apparatus, and decoding apparatus |
KR100186979B1 (ko) * | 1994-12-28 | 1999-05-01 | 김주용 | 영상데이터의 물체별 배경 정보 부호화 방법 및 장치 |
US5812787A (en) * | 1995-06-30 | 1998-09-22 | Intel Corporation | Video coding scheme with foreground/background separation |
US5883678A (en) * | 1995-09-29 | 1999-03-16 | Kabushiki Kaisha Toshiba | Video coding and video decoding apparatus for reducing an alpha-map signal at a controlled reduction ratio |
JP3788823B2 (ja) | 1995-10-27 | 2006-06-21 | 株式会社東芝 | 動画像符号化装置および動画像復号化装置 |
US5870146A (en) * | 1997-01-21 | 1999-02-09 | Multilink, Incorporated | Device and method for digital video transcoding |
-
1996
- 1996-06-14 JP JP15429696A patent/JP3788823B2/ja not_active Expired - Fee Related
- 1996-10-24 US US08/738,934 patent/US5818531A/en not_active Expired - Lifetime
- 1996-10-25 EP EP20070010441 patent/EP1821545A2/en not_active Withdrawn
- 1996-10-25 EP EP19960307720 patent/EP0771119A3/en not_active Withdrawn
- 1996-10-25 EP EP20020003685 patent/EP1215911A3/en not_active Withdrawn
-
1998
- 1998-07-08 US US09/111,751 patent/US6028634A/en not_active Expired - Fee Related
-
1999
- 1999-06-16 US US09/334,769 patent/US6256346B1/en not_active Expired - Fee Related
-
2001
- 2001-02-15 US US09/783,549 patent/US6519285B2/en not_active Ceased
-
2004
- 2004-11-12 US US10/986,574 patent/USRE40079E1/en not_active Expired - Fee Related
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
USRE40079E1 (en) | 1995-10-27 | 2008-02-19 | Kabushiki Kaisha Toshiba | Video encoding and decoding apparatus |
KR100480751B1 (ko) * | 1998-10-10 | 2005-05-16 | 삼성전자주식회사 | 동영상부호화/복호화방법및장치 |
JP2003533067A (ja) * | 1999-07-06 | 2003-11-05 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 基準レイヤ符号化情報の使用による改良された精細スケーラブル・ビデオに関するシステム及び方法 |
JP2011254500A (ja) * | 2005-03-10 | 2011-12-15 | Qualcomm Incorporated | 二層符号化及び単層復号化による階層的ビデオ符号化 |
US7995656B2 (en) | 2005-03-10 | 2011-08-09 | Qualcomm Incorporated | Scalable video coding with two layer encoding and single layer decoding |
JP2008533850A (ja) * | 2005-03-10 | 2008-08-21 | クゥアルコム・インコーポレイテッド | 二層符号化及び単層復号化による階層的ビデオ符号化 |
JP2012120211A (ja) * | 2005-03-10 | 2012-06-21 | Qualcomm Inc | 二層符号化及び単層復号化による階層的ビデオ符号化 |
JP2011120281A (ja) * | 2005-05-03 | 2011-06-16 | Qualcomm Inc | 複数層を使用するマルチメディア・データのスケーリング可能なエンコーディング及びデコーディングのためのシステム及び方法 |
CN102724496A (zh) * | 2005-05-03 | 2012-10-10 | 高通股份有限公司 | 用于对使用多个层的多媒体数据进行可缩放编码及解码的系统及方法 |
US8619860B2 (en) | 2005-05-03 | 2013-12-31 | Qualcomm Incorporated | System and method for scalable encoding and decoding of multimedia data using multiple layers |
CN102724496B (zh) * | 2005-05-03 | 2017-04-12 | 高通股份有限公司 | 用于对使用多个层的多媒体数据进行可缩放编码及解码的系统及方法 |
CN110855994A (zh) * | 2013-04-05 | 2020-02-28 | Vid拓展公司 | 针对多层视频编码的层间参考图片增强的设备 |
CN110855994B (zh) * | 2013-04-05 | 2023-09-19 | 交互数字麦迪逊专利控股公司 | 针对多层视频编码的层间参考图片增强的设备 |
Also Published As
Publication number | Publication date |
---|---|
EP0771119A2 (en) | 1997-05-02 |
USRE40079E1 (en) | 2008-02-19 |
EP1821545A2 (en) | 2007-08-22 |
US6519285B2 (en) | 2003-02-11 |
EP0771119A3 (en) | 1999-07-14 |
EP1215911A2 (en) | 2002-06-19 |
JP3788823B2 (ja) | 2006-06-21 |
US6028634A (en) | 2000-02-22 |
US6256346B1 (en) | 2001-07-03 |
US20020009141A1 (en) | 2002-01-24 |
EP1215911A3 (en) | 2006-05-10 |
US5818531A (en) | 1998-10-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3788823B2 (ja) | 動画像符号化装置および動画像復号化装置 | |
US9420279B2 (en) | Rate control method for multi-layered video coding, and video encoding apparatus and video signal processing apparatus using the rate control method | |
JP2744871B2 (ja) | 画像信号符号化方法および画像信号符号化装置 | |
EP1528813B1 (en) | Improved video coding using adaptive coding of block parameters for coded/uncoded blocks | |
EP1649697B1 (en) | Intra coding video data apparatuses | |
US20040136457A1 (en) | Method and system for supercompression of compressed digital video | |
EP0782342A2 (en) | Video coding and decoding system and method | |
KR20200023500A (ko) | 화상 처리 장치 및 방법 | |
US20020122481A1 (en) | Transcoding method and transcoding apparatus | |
EP1134981A1 (en) | Automatic setting of optimal search window dimensions for motion estimation | |
US9264736B2 (en) | Encoding method, decoding method, encoding device, and decoding device | |
JPH08294119A (ja) | 画像符号化/復号化装置 | |
CN114402605A (zh) | 图像编码系统中使用残差编码方法的标志的图像解码方法以及用于其的装置 | |
US6556714B2 (en) | Signal processing apparatus and method | |
JP3576660B2 (ja) | 画像符号化装置および画像復号化装置 | |
JPH10276437A (ja) | 階層的動画像信号符号化/復号化方法及び装置 | |
US7426311B1 (en) | Object-based coding and decoding apparatuses and methods for image signals | |
JP2001238220A (ja) | 動画像符号化装置および動画像符号化方法 | |
JP3914214B2 (ja) | 画像符号化装置および画像復号化装置 | |
KR20030010983A (ko) | 운동객체기반에서의 움직임 예측 웨이브렛 동영상 압축 및복원장치 | |
JPH07107464A (ja) | 画像符号化装置および復号化装置 | |
JP2001231049A (ja) | 動画像復号化装置および動画像復号化方法 | |
JP2008512023A (ja) | 動き予測のための方法及び装置 | |
JP3869303B2 (ja) | 画像復号化方法及び装置 | |
JPH07336681A (ja) | 画像変換装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040907 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041108 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20050118 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050322 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20050510 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050614 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050620 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060322 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060324 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100407 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |