JP3624655B2 - 画像符号化装置および画像復号装置 - Google Patents

画像符号化装置および画像復号装置 Download PDF

Info

Publication number
JP3624655B2
JP3624655B2 JP28823797A JP28823797A JP3624655B2 JP 3624655 B2 JP3624655 B2 JP 3624655B2 JP 28823797 A JP28823797 A JP 28823797A JP 28823797 A JP28823797 A JP 28823797A JP 3624655 B2 JP3624655 B2 JP 3624655B2
Authority
JP
Japan
Prior art keywords
image
frequency
frequency component
coefficient
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP28823797A
Other languages
English (en)
Other versions
JPH10191338A (ja
Inventor
太郎 横瀬
一憲 宋
俊一 木村
裕 越
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP28823797A priority Critical patent/JP3624655B2/ja
Publication of JPH10191338A publication Critical patent/JPH10191338A/ja
Application granted granted Critical
Publication of JP3624655B2 publication Critical patent/JP3624655B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は画像符号化復号装置に関するものであり、特に多値の入力画像に対する非可逆符号化に関するものである。
【0002】
【従来の技術】
画像は一般に非常に大量のデータとなるので、蓄積や伝送の際には符号化によって圧縮するのが一般的である。このとき画像符号化の対象となる画像データを2つに大別すると、例えば自然画像と人工画像に分けられる。
【0003】
前者は実在する画像を何らかの手段でデジタルデータに変換したもので、例えば写真をスキャナで読み取ったり、風景をデジタルカメラで取り込んだものがこれに相当する。後者は実在しない画像を何らかの手段でデジタルデータとして作成したもので、例えばコンピュータ・グラフィックスやワードプロセッサによって作られた原稿等がこれに相当する。以降、自然画像、人工画像という言葉はこの定義で用いる。
【0004】
一般的に自然画像はデジタル変換時にノイズが重畳され、高域成分が劣化する傾向がある。この結果として、得られるデジタルデータは下位ビットの情報量が多く、使われる色数も多い。また周波数分析すると成分が低域に集中しやすく、高域は減衰する。
【0005】
逆に人工画像は故意にノイズを加えた場合を除いて下位ビットの情報量は多くなく、使われる色も特定色に集中しやすい。またエッジや細線等がシャープに出るため、高域にも重要な情報が多く含まれる。
【0006】
以上の事実を確認する2つの実験例を図30から図32に示す。第1の実験としてDCT(離散コサイン変換:Discrete CosineTransform) 処理によって得られる係数に対して、個別に2乗平均して平方根をとった値をいくつかの画像について調べた。この平方根を図30に示す8つのエリア別に加算した結果を同図b)に示す。DCT係数は左上から右下にいくにつれ周波数が高くなるように表記するので、図30ではx軸で右側が高い周波数にあたる。同図から明らかなように自然画像は高域になるに従って成分が減少するのに対し、人工画像は周波数にかかわらず成分が分布する。
【0007】
第2の実験は画像から隣り合った画素値を取り出し、左側の画素値を右側の画素値から減算した結果の統計をとった。これは一般には前値差分等と呼ばれる値である。図32は第2の実験結果である。同図から明らかなように人工画像では自然画像に比較して前値差分が0に集中する。これは左側の画素値から右側の画素値を予測する前値予測の予測精度が高くなることを示す。
【0008】
以下、自然画像と人工画像のそれぞれに対して有効な画像符号化手法をそれぞれ第1、第2の従来例として述べる。
【0009】
まず第1の従来例として自然画像に対する従来の符号化技術について説明する。もともと自然画像は情報量が非常に多いので、何らかの手法で情報を量子化することが必要になる。そこで量子化の効率について考えた場合、自然画像は周波数成分が低域に集中するので、低域を細かく、高域を粗く量子化することにより、平均誤差を小さくした量子化が実現できる。すなわち、画質への影響を極力少なくし、かつ効率的に情報量を削減することができる。
【0010】
画像符号化の一手法である周波数変換符号化はこの特性を利用し、入力画像を周波数変換し高域成分の情報を特に粗く量子化する。周波数変換符号化の代表例としては、例えば国際標準であるJPEG(Joint Photographic Experts Group)のDCT方式があげれられる。以下、第1の従来例としてJPEG−DCT方式について説明する。
【0011】
第1の従来例の説明に入る前にDCTについて説明する。画像符号化で用いられるDCTは正確には二次元DCTと呼ばれるもので、横方向と縦方向の2つの一次元DCTを独立に処理することによって求められる。”カラー静止画像の国際標準符号化方式−JPEGアルゴリズム−”(遠藤、インターフェース、1991.12、pp160−182)によれば、変換する画像ブロックをx(m,n)、変換された係数ブロックをy(u,v)と表記すると、8bit画像に対する8×8のDCTの変換式と逆変換式は次のようにかける。
【0012】
【数1】
Figure 0003624655
図33および図34はそれぞれ第1の従来例の画像非可逆符号化装置および復号装置の構成例である。同図は前出”カラー静止画像の国際標準符号化方式−JPEGアルゴリズム−”p.163の図3を部分的に抜き出し、用語を修正したものである。図33および図34において、10は画像入力部、20はDCT部、35は係数量子化部、45は係数出力部、110は入力画像データ、120は係数データ、170は量子化係数データ、225は係数入力部、240は逆DCT部、250は復号画像出力部、260は係数逆量子化部、320は復号画像データ、330は逆量子化係数データである。
【0013】
図33および図34の各部について説明する。図33の符号化装置は以下の構成よりなる。画像入力部10は外部より画像を入力し、入力画像データ110としてDCT部20へ送出する。DCT部20は入力画像データ110にDCT処理を行い、その結果を係数データ120として係数量子化部30へ送出する。係数量子化部30は係数データ120に対して予め定められた方法で量子化処理を行い、量子化係数データ170として係数出力部90へ送出する。係数出力部90は量子化係数データ170を外部へ出力する。
【0014】
次に図34の復号装置は以下の構成よりなる。係数入力部220は外部より係数を入力し、量子化係数データ170として係数逆量子化部260へ送出する。係数逆量子化部260は量子化係数データ170に対して係数量子化部30で行われた量子化の逆変換となるような逆量子化を行い、逆量子化係数データ330として逆DCT部240へ送出する。逆DCT部240は逆量子化係数データ330に対してDCT部20で行われたDCT処理の逆変換となる逆DCT処理を行い、その結果を復号画像データ320として復号画像出力部250へ送出する。復号画像出力部250は復号画像データ320を外部へ出力する。
【0015】
以上の構成は第1の従来例の一部であり、通常は符号化装置では量子化係数データ170にHuffman符号やQM符号等の可変長符号化処理を行い、復号装置では可変長符号化処理に対応する復号を行って量子化係数データ170を得るのが一般的な構成である。これらの部分は本発明の本質とは関係がなく、またこの部分の省略が第1の従来例の本質を損なうものでもないので、ここでは説明を省略する。
【0016】
以上の構成に基づいて第1の従来例の動作について説明する。図35および図36は従来例の動作を示すフローチャートである。
【0017】
まず図35を用いて第1の従来例の符号化手順について説明する。S10では画像入力部10において外部より画像の入力を行い、入力画像データ110を得る。S20ではDCT部20においてDCT処理を行い、係数データ120を得る。S35では係数量子化部30において係数データ120に対して予め定められた方法で量子化処理を行い、量子化係数データ170を得る。S75では係数出力部90において量子化係数データ170を外部へ出力する。S80では入力された入力画像データ110の処理が全て終了したかどうかを判定し、終了していなければS10へ戻り、終了していれば符号化手順を終了する。
【0018】
次に図36を用いて第1の従来例の復号手順について説明する。S115では係数入力部220において外部より係数の入力を行い、量子化係数データ170を得る。S125では係数逆量子化部260において逆量子化処理を行い、逆量子化係数データ330を得る。S130では逆DCT部240において逆量子化係数データに対して逆DCT処理を行い、復号画像データ320を得る。S140では復号画像出力部250において復号画像データ320を外部へ出力する。S150では入力された量子化係数データ170の処理が全て終了したかどうかを判定し、終了していなければS115へ戻り、終了していれば復号手順を終了する。
【0019】
以上の動作の中で係数量子化部35で行われる量子化処理について説明する。前述したように一般の周波数変換符号化では、低域成分に比較して高域成分を粗く量子化する。JPEG−DCT方式では次の式の線形量子化を用いる。ここでroundは引数に最も近い整数を返す関数である。
【0020】
【数2】
Figure 0003624655
図37はJPEG−DCT方式の推奨量子化テーブルである(前出”カラー静止画像の国際標準符号化方式−JPEGアルゴリズム−”p.167図9による)。同図中の数字が量子化ステップを表し、数値が大きいほど粗く量子化することに相当する。量子化テーブルは(1)式のDCT係数同様に左上から右下に向かって周波数が高くなるよう表記されるので、高域成分が特に粗く量子化されていることになる。
【0021】
次に第2の従来例として、人工画像に対する従来の符号化技術について説明する。人工画像では図32で示したように同じ色が空間的に局在して出現することが多いので、周辺画素による画素値予測と予測誤差の符号化を組み合せる予測符号化が有効である。以下、予測符号化の代表例として前述の国際標準JPEGで定められた可逆符号化方式であるSpatial方式を第2の従来例として説明する。
【0022】
第2の従来例の具体的な説明に入る前に予測符号化について説明する。予測符号化は次に符号化しようとする画素の画素値を予測し、次の式で得られる予測誤差を符号化する手法である。
【0023】
【数3】
(予測誤差)=(実際の画素値)−(予測値) (4)
図31に示したように人工画像では予測誤差が0に集中するから、一般には自然画像よりも符号量を削減することができる。また特に可逆の予測符号化は、符号量制御ができない反面、画質が劣化する可能性はない。
【0024】
以下、第2の従来例の具体的な説明を行う。図38および図39はそれぞれ第2の従来例の画像可逆符号化装置、復号装置の構成図である。同図は前出”カラー静止画像の国際標準符号化方式−JPEGアルゴリズム−”p.173の図17を部分的に抜き出し、復号装置を加え、用語を修正したものである。図中、図33および図34と同様の部分は同じ符号を付して説明を省略する。25は予測部、46は予測誤差出力部、226は予測誤差入力部、171は予測誤差データである。
【0025】
図38および図39の各部について説明する。図38の符号化装置は以下の構成よりなる。予測部25は入力画像データ110を用いて次に符号化する画素値を予測し、実際の画素値との差分を予測誤差データ171として予測誤差出力部46へ送出する。
【0026】
図39の復号装置は以下の構成よりなる。予測誤差入力部226は予測誤差を外部より入力し、予測誤差データ171として予測部25へ送出する。予測部25は符号化装置の予測部25と同一であるが、次の画素を予測のために復号した画像を参照する点が異なる。
【0027】
以上の構成に基づいて第2の従来例の動作について説明する。図40および図41は従来例の動作を示すフローチャートである。
【0028】
まず図40を用いて第1の従来例の符号化手順について説明する。図35と同様の部分は同一の符号を付し、説明を省略する。S25では予測部25において(4)式より予測誤差を算出する。S76では予測誤差出力部46においてS25で算出した予測誤差データ171を外部へ出力する。
【0029】
次に図41を用いて第1の従来例の復号手順について説明する。図36と同様の部分は同一の符号を付し、説明を省略する。S116では予測誤差入力部226において外部より予測誤差を入力する。S135では予測部25において予測値と予測誤差の加算によって画素値を算出する。
【0030】
動作説明中、予測誤差算出処理について説明する。JPEG−Spatial方式では図42に示した7つの予測器のうち、どれか1つを使うように定められている。例えば予測式をaとした場合、これから符号化する画素xの左隣りの画素値を予測値とすればよい。
【0031】
以上第1、第2の従来例を説明したが、以下ではいずれか単独では自然画像と人工画像の区別なく効率的に符号化するのは難しいことを示す。
【0032】
人工画像では高域成分にも重要な情報が含まれるので、図37のように高域が粗い量子化を行うと画質劣化、例えばモスキート・ノイズが発生する。図37a)に示した量子化テーブルによって発生したモスキート・ノイズの例を図43a)およびb)に示す。同図a)が入力画像、同図b)が復号画像である。このようなノイズのためにJPEG−DCT方式のような周波数変換符号化では、人工画像に対して画質を維持したまま符号量を削減することが難しい。この様子を図44に示す。
【0033】
一方、自然画像はノイズの影響で近隣画素同士でも画素値が異なるため、JPEG−Spatial方式のような可逆の予測符号化では符号量が小さくならない。この様子を図45に示す。また可逆符号化は画質と符号量をトレード・オフにできないので、符号量制御ができない。これは蓄積媒体の容量や通信帯域等に直接影響するので、システムの構築を難しくする。
【0034】
このように第1、第2の従来例では有効に符号化できない画像が存在する。この問題を解決するために非可逆符号化と可逆符号化とを部分毎に使い分ける手法が考えられる。そのような例として特開平6−113145号公報がある。以下、第3の従来例として該公報に記載された発明について説明する。
【0035】
図46は第3の従来例の画像処理装置の構成図である。同図は特開平6−113145号公報の主旨を損なわないよう、該公報の図1の一部を省略し、用語を修正したものである。図中、15は人工画像入力部、16は自然画像入力部、90は人工画像符号化部、91は自然画像符号化部、92は人工画像記憶部、93は自然画像記憶部、94は人工画像復号部、95は自然画像復号部、96は画像合成部、112は入力人工画像データ、113は入力自然画像データ、114は人工画像符号データ、115は自然画像符号データ、116は復号人工画像データ、117は復号自然画像データである。
【0036】
図46の各部について説明する。人工画像入力部15および自然画像入力部16はそれぞれ外部より人工画像、自然画像を入力し、入力人工画像データ112、入力自然画像データ113として人工画像符号化部90、自然画像符号化部91へ送出する。人工画像符号化部90および自然画像符号化部91はそれぞれ入力人工画像データ112、入力自然画像データ113にそれぞれに予め定められた手法で符号化を行い、人工画像符号データ114、自然画像符号データ115として、人工画像記憶部92、自然画像記憶部93へ送出する。人工画像記憶部92および自然画像記憶部93はそれぞれ人工画像符号データ114、自然画像符号データ115を一時的に記憶し、それぞれ人工画像復号部94、自然画像復号部95へ送出する。人工画像復号部94および自然画像復号部95はそれぞれ人工画像符号化部90、自然画像符号化部91で行われた符号化に対応する復号処理を人工画像符号データ114、自然画像符号データ115に対して行い、復号人工画像データ116、復号自然画像データ117として画像合成部96へ送出する。画像合成部96は復号人工画像データ116と復号自然画像データ117の合成を行う。
【0037】
以上の説明の中で人工画像符号化部90で行われる符号化は、該特許の第1実施例において「ランレングス符号化方式等の可逆方式の機能を持つ」という記述がされている。また自然画像符号化部91で行われる符号化は、やはり該特許の第1実施例において「JPEG等の画像圧縮方式」という記述がされている。なお該特許でいうJPEGとは本説明でいうJPEG−DCT方式のことを指す。
【0038】
【発明が解決しようとする課題】
第1、第2の従来例についてはそれぞれ自然画像、人工画像に特化して設計されているため、いずれか単独の手法で両方の画像を効率的に扱うのが困難であることは既に指摘した。
【0039】
第3の従来例においては自然画像と人工画像が全く異なる方式で並列に符号化復号されるため、一般には両処理の処理時間が一致しない。このため符号化時は全ての符号データが、復号時は全ての画像データが出揃うまで外部に出力することができなくなり、符号化装置には最低1画像分の符号バッファが、また復号装置にも最低1画像分の画像バッファが必要となる。これらは1系統の方式しか持たない画像符号化復号装置であれば不要な構成である。
【0040】
また符号化装置、復号装置共に2系統以上持つので、装置規模の増大を招く。さらに全く異なる複数の符号で画像を表現するため、伝送や蓄積の際などに符号の取扱いが複雑になる。さらに復号画像の画質についても、符号化手法の切替え部分でノイズが発生することがある。
【0041】
本発明は上述した事情に鑑みてなされたもので、自然画像と人工画像の区別なく、効率的な圧縮が可能な単一の符号化装置および復号装置を提供することを目的とする。
【0042】
【課題を解決するための手段】
本発明は以上の目的を達成するためにつぎのよな構成を採用している。まず画像符号化装置の発明について説明する。
【0043】
請求項1の発明によれば、画像符号化装置において、画像を入力する画像入力手段と、前記画像入力手段により入力された画像の周波数成分を求める周波数変換を行う周波数変換手段と、前記周波数変換手段により求められた周波数成分を閾値処理する閾値処理手段と、前記閾値処理手段により閾値処理された結果に応じて、前記画像入力手段により入力された画像の低域周波数成分の画像を出力する低域周波数画像出力手段と、前記閾値処理手段により閾値処理された結果に応じて、前記低域周波数画像出力手段により出力された画像に対して所定の間引き処理を行う画素間引き手段と、前記閾値処理手段により閾値処理された結果を出力する係数情報出力手段と、前記画素間引き手段により間引き処理された画像を出力する間引き画像出力手段とを具備することを特徴とする。
【0044】
この構成においては、画像を最適な解像度で表現することにより、冗長成分を抑圧し符号量を削減する。最適な解像度を求めるために周波数分析を行い、この分析結果に基づいて画素の間引き処理を行っている。
【0045】
また、請求項2の発明によれば、画像復号装置において、画像を入力する画像入力手段と、前記画像入力手段により入力された画像の周波数成分を求める周波数変換を行う周波数変換手段と、前記周波数変換手段により求められた周波数成分を閾値処理する閾値処理手段と、前記閾値処理手段により閾値処理された結果に応じて前記周波数変換手段により求められた周波数成分のうち高域周波数成分を0で置き換える高域係数マスク手段と、前記高域係数マスク手段により高域周波数成分を0で置き換えた周波数成分を画像に変換する逆周波数変換を行う逆変換手段と、前記閾値処理手段により閾値処理された結果に応じて、前記逆変換手段により変換された画像に対して所定の間引き処理を行う画素間引き手段と、前記閾値処理手段により閾値処理された結果を出力する係数情報出力手段と、前記画素間引き手段により間引き処理された画像を出力する間引き画像出力手段とを具備することを特徴とする。
【0046】
この構成においても、画像を最適な解像度で表現することにより、冗長成分を抑圧し符号量を削減することができる。
【0047】
また、請求項3の発明によれば、画像符号化装置において、画像を入力する画像入力手段と、前記画像入力手段により入力された画像の周波数成分を求める周波数変換を行う周波数変換手段と、前記周波数変換手段により求められた周波数成分を閾値処理する閾値処理手段と、前記閾値処理手段により閾値処理された結果に応じて、前記画像入力手段により入力された画像に対して所定の間引き処理を行う画素間引き手段と、前記閾値処理手段により閾値処理された結果を出力する係数情報出力手段と、前記画素間引き手段により間引き処理された画像を出力する間引き画像出力手段とを具備することを特徴とする。
【0048】
この構成においても、画像を最適な解像度で表現することにより、冗長成分を抑圧し符号量を削減することができる。
【0049】
また、請求項4の発明によれば、画像符号化装置において、画像を入力する画像入力手段と、前記画像入力手段により入力された画像を、所定の間引き処理及び所定の補間処理により疑似復号画像を生成する疑似復号画像生成手段と、前記疑似復号画像生成手段により生成された疑似復号画像と前記画像入力手段により入力された画像との誤差により間引き率を求める係数分析手段と、前記係数分析手段により求められた間引き率に応じて、前記画像入力手段により入力された画像に対して所定の間引き処理を行う画素間引き手段と、前記係数分析手段により求められた間引き率を出力する係数情報出力手段と、前記画素間引き手段により間引き処理された画像を出力する間引き画像出力手段とを具備することを特徴とする。
【0050】
この構成においても、画像を最適な解像度で表現することにより、冗長成分を抑圧し符号量を削減することができる。
【0051】
また、請求項5の発明によれば、請求項4の画像符号化装置において、前記係数分析手段で用いられる誤差は、画素値誤差、誤差の絶対値、誤差の二乗値のうちいずれかの最大値、またはダイナミックレンジ、分散、SN比のいずれかであることを特徴とする。
【0052】
また、請求項6の発明によれば、請求項4の画像符号化装置において、前記疑似復号画像生成手段の所定の補間処理とは、最近傍補間、4点線形補間、9点2次補間、またはローパスフィルタ処理のいずれかであることを特徴とする。
【0053】
また、請求項7の発明によれば、画像符号化装置において、画像に対して周波数変換しエントロピー符号化を行った符号を入力する符号入力手段と、前記符号入力手段により入力された符号に対して該符号に行われたエントロピー符号化の逆変換にあたる復号を行うことにより周波数成分を得るエントロピー復号手段と、前記エントロピー復号手段で得られた周波数成分を閾値処理する閾値処理手段と、前記閾値処理手段により閾値処理された結果に応じて、前記エントロピー復号手段で得られた周波数成分のうち高域周波数成分を0で置き換える高域係数マスク手段と、前記高域係数マスク手段により高域周波数成分を0で置き換えた周波数成分を画像に変換する逆周波数変換を行う逆変換手段と、前記閾値処理手段により閾値処理された結果に応じて、前記逆変換手段により変換された画像に対して所定の間引き処理を行う画素間引き手段と、前記閾値処理手段により閾値処理された結果を出力する係数情報出力手段と、前記画素間引き手段により間引き処理された画像を出力する間引き画像出力手段とを具備することを特徴とする。
【0054】
また、請求項8の発明によれば、請求項7に記載の画像符号化装置において、前記エントロピー復号手段の復号とは、ハフマン符号化、算術符号化またはQM符号化のいずれかであることを特徴とする。
【0055】
また、請求項9の発明によれば、画像符号化装置において、画像を入力する画像入力手段と、前記画像入力手段により入力された画像の周波数成分を求める周波数変換を行う周波数変換手段と、前記周波数変換手段により求められた周波数成分を閾値処理する閾値処理手段と、前記閾値処理手段により閾値処理された結果に応じて、前記周波数変換手段で得られた周波数成分のうち高域周波数成分を0で置き換える高域係数マスク手段と、前記高域係数マスク手段により高域周波数成分を0で置き換えた周波数成分を画像に変換する逆周波数変換を行う逆変換手段と、前記閾値処理手段により閾値処理された結果に応じて、前記逆変換手段により変換された画像に対して所定の間引き処理を行う画素間引き手段と、前記画素間引き手段で得られた間引き画像と前記閾値処理手段により閾値処理された結果とを合成するデータ合成手段と、前記データ合成手段で合成された合成データを出力する合成データ出力手段とを具備することを特徴とする。
【0056】
この構成においても、画像を最適な解像度で表現することにより、冗長成分を抑圧し符号量を削減することができる。
【0057】
また、請求項10の発明によれば、画像符号化装置において、画像を入力する画像入力手段と、係数情報を入力する係数情報入力手段と、前記画像入力手段により入力された画像の周波数成分を求める周波数変換を行う周波数変換手段と、前記係数情報入力手段により入力された係数情報に応じて、前記周波数変換手段により求められた周波数成分のうち高域周波数成分を0で置き換える高域係数マスク手段と、前記高域係数マスク手段により高域周波数成分を0で置き換えた周波数成分を画像に変換する逆周波数変換を行う逆変換手段と、前記係数情報入力手段により入力された係数情報に応じて、前記逆変換手段により変換された画像に対して所定の間引き処理を行う画素間引き手段と、前記係数情報入力手段により入力された係数情報を出力する係数情報出力手段と、前記画素間引き手段により間引き処理された画像を出力する間引き画像出力手段とを具備することを特徴とする。
【0058】
この構成においても、画像を最適な解像度で表現することにより、冗長成分を抑圧し符号量を削減することができる。
【0059】
また、請求項11の発明によれば、請求項1ないし8または10に記載の画像符号化装置において、さらに、前記間引き画像出力手段により出力される間引き画像に対して画像符号化を行う画像符号化手段を有することを特徴とする。
【0060】
また、請求項12の発明によれば、請求項11に記載の画像符号化装置において、前記画像符号化手段で行われる画像符号化は、可逆符号化または予測符号化のいずれか若しくは両方であることを特徴とする。
【0061】
また、請求項13の発明によれば、請求項1ないし8または10に記載の画像符号化装置において、さらに、前記係数情報出力手段により出力される係数情報に対して情報源符号化を行う係数情報符号化手段を有することを特徴とする。
【0062】
また、請求項14の発明によれば、請求項2、9、10に記載の画像符号化装置において、前記周波数変換手段および前記逆変換手段で行われる周波数変換は、離散コサイン変換、フーリエ変換、離散サイン変換、サブバンド変換またはウェーブレット変換であることを特徴とする。
【0063】
また、請求項15の発明によれば、請求項1ないし3、7ないし9に記載の画像符号化装置において、前記閾値処理手段の閾値処理は、所定の量子化テーブルを閾値とした閾値処理であることを特徴とする。
【0064】
また、請求項16の発明によれば、請求項15に記載の画像符号化装置において、前記閾値処理手段で用いられる量子化テーブルは、外部から設定できることを特徴とする。
【0065】
また、請求項17の発明によれば、請求項2、7ないし10に記載の画像符号化装置において、前記高域係数マスク手段は、前記閾値処理手段により最高周波数成分より大きい成分を0に置換することを特徴とする。
【0066】
また、請求項18の発明によれば、請求項1ないし17に記載の画像符号化装置において、前記画素間引き手段の間引き処理は、ブロック内の最高周波数成分若しくは0でない周波数成分の分布から導かれる割合に応じて行われることを特徴とする。
【0067】
また、請求項19の発明によれば、請求項1ないし18に記載の画像符号化装置において、前記画素間引き手段で行われる間引き処理の間引きの割合は、予め定められた所定の値に量子化されることであることを特徴とする。
【0068】
また、請求項20の発明によれば、請求項1ないし18に記載の画像符号化装置において、前記画素間引き手段の所定の間引き処理は、格子状に画素が残すこと、縦方向と横方向に同じ割合で行うこと、残る画素がほぼ等間隔になるように行うこと、周辺画素中のピーク値を優先的に残すことであることを特徴とする。
【0069】
また、請求項21の発明によれば、請求項1ないし20に記載の画像符号化装置において、前記画素間引き手段の間引き処理は、前記画像入力手段により入力された画像がすでに画像符号化装置により符号化されたことがある場合には前回間引かれた画素と同じ画素を間引くことであることを特徴とする。
【0070】
また、請求項22の発明によれば、請求項1ないし21に記載の画像符号化装置において、さらに、前記画素間引き手段により間引き処理された画像の画素値を量子化する画素値量子化手段を有することを特徴とする。
【0071】
また、請求項23の発明によれば、請求項22に記載の画像符号化装置において、前記画素値量子化手段は、前記閾値処理手段により閾値処理された結果に応じて量子化ステップを変更すること、または前記閾値処理手段で使用される閾値の大きさに応じて量子化ステップを変更することであることを特徴とする。
【0072】
また、請求項24の発明によれば、請求項1ないし23に記載の画像符号化装置において、さらに、前記画像入力手段により入力された画像に対して所定の分析を行い前記閾値処理手段で使用する閾値を決定する画像判定手段を有することを特徴とする。
【0073】
また、請求項25の発明によれば、請求項24に記載の画像符号化装置において、前記画像判定手段は、自然画像と人工画像の違いを判定し、人工画像の場合は閾値を0として前記閾値処理手段における閾値処理で0にされる周波数成分が発生しないように制御することを特徴とする。
【0074】
また、請求項26の発明によれば、請求項24に記載の画像符号化装置前記画像判定手段の所定の分析処理は、画素値のダイナミックレンジの測定、画素値のヒストグラムの測定、画素値の下位ビットのエントロピーの測定、エッジの急峻さの測定、線の太さの測定、周波数成分の測定、外部から指定されること、またはエッジ、パターン、グラデーション、線のうち少なくとも1つ以上の成分を検出することを特徴とする。
【0075】
つぎに画像復号装置について説明する。
【0076】
請求項27の発明によれば、画像復号装置において、係数情報を入力する係数情報入力手段と、間引き画像を入力する間引き画像入力手段と、前記間引き画像入力手段により入力された間引き画像と前記係数情報入力手段により入力された係数情報に応じて、所定の手法で周波数成分を算出する係数補間手段と、前記係数補間手段により算出された周波数成分を画像に変換する逆周波数変換を行う逆変換手段と、前記逆変換手段により変換された画像を出力する復号画像出力手段とを具備することを特徴とする。
【0077】
この構成においては、周波数分析に応じて適応的に間引きを行って圧縮した画像データを復号することができる。
【0078】
また、請求項28の発明によれば、画像復号装置において、画像の一定領域であるブロック毎の係数情報を入力する係数情報入力手段と、ブロック毎の間引き画像を入力する間引き画像入力手段と、前記間引き画像入力手段により入力された間引き画像と前記係数情報入力手段により入力された係数情報とに応じて所定の手法で画素値を補間する画素値補間手段と、前記画素値補間手段により補間された画像を出力する復号画像出力手段とを具備することを特徴とする。
【0079】
この構成においても、周波数分析に応じて適応的に間引きを行って圧縮した画像データを復号することができる。
【0080】
また、請求項29の発明によれば、請求項28に記載の画像復号装置において、前記画素値補間手段の所定の手法は、最近傍補間、4点線形補間、9点2次補間、ローパスフィルタ処理であることを特徴とする。
【0081】
また、請求項30の発明によれば、画像復号装置において、係数情報と間引き画像の合成されたデータである合成データを入力する合成データ入力手段と、前記合成データ入力手段により入力された合成データを間引き画像と係数情報に分解するデータ分解手段と、前記データ分解手段により分解された間引き画像と係数情報とに応じて、所定の手法で周波数成分を算出する係数補間手段と、前記係数補間手段により算出された周波数成分を画像に変換する逆周波数変換する逆変換手段と、前記逆変換手段により変換された画像を出力する復号画像出力手段とを具備することを特徴とする。
【0082】
この構成においても、周波数分析に応じて適応的に間引きを行って圧縮した画像データを復号することができる。
【0083】
また、請求項31の発明によれば、請求項27ないし30に記載の画像復号装置において、さらに、間引き画像に対して画像符号化した符号を、画像に復号する画像復号手段を有し、前記間引き画像入力手段は、前記画像復号手段により復号された画像を間引き画像として入力することを特徴とする。
【0084】
また、請求項32の発明によれば、請求項31に記載の画像復号装置において、前記画像復号手段で行われる復号は、可逆符号化の逆処理、予測符号化の逆処理であることを特徴とする。
【0085】
また、請求項33の発明によれば、請求項27ないし32に記載の画像復号装置において、さらに、前記逆変換手段により変換された画像のうち前記間引き画像入力手段により入力された間引き画像に含まれる画素については、前記間引き画像の画素値で置き換える画素値補正手段を有し、前記復号画像出力手段は、前記画素値補正手段により補正された画像を出力することを特徴とする。
【0086】
また、請求項34の発明によれば、請求項27、30に記載の画像復号装置において、前記逆変換手段の周波数変換は、離散コサイン変換、フーリエ変換、離散サイン変換、サブバンド変換またはウェーブレット変換であることを特徴とする。
【0087】
また、請求項35の発明によれば、請求項27、30に記載の画像復号装置において、前記係数補間手段で行われる係数補間は、周波数係数と画素値に関する線形の連立方程式を解くこと、周波数係数と画素値に関する線形の連立方程式に対して事前に求められた逆行列の演算、または間引き画像に対するローパスフィルタ処理もしくはその近似処理であることを特徴とする。
【0088】
また、請求項36の発明によれば、画像符号化復号装置おいて、画像を入力する画像入力手段と、前記画像入力手段により入力された画像の周波数成分を求める周波数変換を行う周波数変換手段と、前記周波数変換手段により求められた周波数成分を閾値処理する閾値処理手段と、前記閾値処理手段により閾値処理された結果に応じて前記周波数変換手段により求められた周波数成分のうち高域周波数成分を0で置き換える高域係数マスク手段と、前記高域係数マスク手段により高域周波数成分を0で置き換えた周波数成分を画像に変換する逆周波数変換を行う第1の逆変換手段と、前記閾値処理手段により閾値処理された結果に応じて、前記第1の逆変換手段により変換された画像に対して所定の間引き処理を行う画素間引き手段と、前記閾値処理手段により閾値処理された結果を出力する係数情報出力手段と、前記画素間引き手段により間引き処理された画像を出力する間引き画像出力手段前記係数情報出力手段により出力された閾値処理された結果である係数情報を入力する係数情報入力手段と、前記間引き画像出力手段により出力された間引き画像を入力する間引き画像入力手段と、前記間引き画像入力手段により入力された間引き画像と前記係数情報入力手段により入力された係数情報に応じて、所定の手法で周波数成分を算出する係数補間手段と、前記係数補間手段により算出された周波数成分を画像に変換する逆周波数変換を行う第2の逆変換手段と、前記第2の逆変換手段により変換された画像を出力する復号画像出力手段を具備することを特徴とする。
【0089】
この構成においては、画像を最適な解像度で表現することにより、冗長成分を抑圧し符号量を削減する。最適な解像度を求めるために周波数分析を行い、この分析結果に基づいて画素の間引き処理を行っている。そして、周波数分析に応じて適応的に間引きを行って圧縮した画像データを復号することができる。
【0090】
また、請求項37の発明によれば、画像符号方法において、画像を入力するステップ1と、前記ステップ1により入力された画像の周波数成分を求める周波数変換を行うステップ2と、前記ステップ2により求められた周波数成分を閾値処理するステップ3と、前記ステップ3により閾値処理された結果に応じて前記ステップ2により求められた周波数成分のうち高域周波数成分を0で置き換えるステップ4と、前記ステップ4により高域周波数成分を0で置き換えた周波数成分を画像に変換する逆周波数変換を行うステップ5と、前記ステップ3により閾値処理された結果に応じて、前記ステップ5により変換された画像に対して所定の間引き処理を行うステップ6と、前記ステップ3により閾値処理された結果を出力するステップ7と、前記ステップ6により間引き処理された画像を出力するステップ8を具備することを特徴とする。
【0091】
この構成においても、画像を最適な解像度で表現することにより、冗長成分を抑圧し符号量を削減することができる。
【0092】
また、請求項38の発明によれば、画像復号方法において、係数情報を入力するステップ1と、間引き画像を入力するステップ2と、前記ステップ2により入力された間引き画像と前記ステップ1により入力された係数情報に応じて、所定の手法で周波数成分を算出するステップ3と、前記ステップ3により貸出された周波数成分を画像に変換する逆周波数変換を行うステップ4と、前記ステップ4により変換された画像を出力するステップ5を具備することを特徴とする。
【0093】
この構成においても、周波数分析に応じて適応的に間引きを行って圧縮した画像データを復号することができる。
【0094】
また本発明はマルチプレーン画像の符号化に適用できる。
【0095】
【発明の実施の形態】
以下、本発明の実施例について説明する。まず、DCTを用いた第1の実施例を説明し、つぎにDCT以外の周波数変換手法を用いた第2の実施例を説明する。最後に、本発明を画像処理に応用した例を第3の実施例として説明する。
【0096】
[実施例1]
本発明の第1の実施例の具体的な説明の前に、本発明の基本的な考え方について述べる。デジタル画像のデータ量は解像度と画素あたりのビット数によって決まる。そして画像フォーマットは解像度、ビット数いずれも定数で固定するのが一般的である。
【0097】
しかし画像の情報量は局所的に変化する。例えば画素値の変化が全くないところでは最高解像度の必要はないし、ビット数も制限できる。これはすなわち、固定の画像フォーマットは冗長な情報を含むことを意味する。
【0098】
特に自然画像についてはデジタル変換する機器の周波数特性や解像度によって、その画像の最高解像度が制限される。例えば解像度sのスキャナで入力したデジタル画像を解像度2sの画像フォーマットで管理する場合、本来意味のある画素はs/(2s)=1/4に過ぎない。この現象は出力機器の高解像度化や画像の拡大処理等で顕著になる。
【0099】
そこで画像を最適な解像度で表現することを考える。デジタル画像で必要な解像度はその画像が持つ最高周波数に依存する。例えば解像度のピッチpは、その画像が持つ最高周波数の周期Tの半分の長さT/2より短くできない。これを逆に考えれば、その解像度が許す最高周波数まで使っていない画像は冗長な画素を含んでいるといえる。そのような冗長な画素は間引いても、最高周波数さえわかっていれば後で周辺画素から補間することが可能である。
【0100】
以上の原理に基づき、本発明は画像を最適な解像度で表現することにより、冗長成分を抑圧し符号量を削減する。上述の最適な解像度への解像度変換は画素の間引き処理によって実現する。また最適な解像度を求めるための分析処理は周波数分析によって行う。符号化復号処理は間引いた画像に対して行う。
【0101】
式で表すと以上で示した本発明の原理は次のようにかける。いま符号化しようとする画像の周波数成分v(f)がある周波数fより上では全て0になるとする。
【0102】
【数4】
Figure 0003624655
周波数fsは周波数分析によって求めることができる。一方、画像フォーマットのピッチをpとすると表現可能な最高周波数fmaxは前述の通り次のようになる。
【0103】
【数5】
Figure 0003624655
当然f≦fmaxである。さてfを表現するのに必要な解像度のピッチpは(6)式同様、次式で求められる。
【0104】
【数6】
Figure 0003624655
このときf≦fmaxであるからp≧pとなる。このピッチpこそ本発明でいうところの最適な解像度を示している。
【0105】
本発明の効果は定性的には次のように説明される。入力が人工画像の場合は図31からもわかるように高域成分に情報が多く含まれるのでほとんどの画素は間引けない。しかし第2の従来例の説明で述べたように予測符号化等で十分可逆圧縮できるため、間引けなくても問題ない。また入力が自然画像の場合は第1の従来例で述べたように高域成分はある程度量子化しても構わない。従ってある程度小さい高域成分は無視してもよく、最高周波数を下げることができるから、結局必要な解像度すなわち画素数も少なくてすむ。
【0106】
従来例の問題点を本発明の観点から述べると次のように表現できる。第1の従来例は画像が持つべき本来の解像度に無関係に周波数成分の量子化を行う。上述したように周波数成分の量子化は高域についてみれば小成分を無視する行為であるから、解像度を強制的に低くすることに等しい。従って部分的に最大の解像度が必要な人工画像に対して画質劣化を生じるか、量子化を細かくして符号量が増加するかのいずれかとなる。
【0107】
一方、第2の従来例は自然画像について本来必要のない高い解像度で符号化を行うため、符号量を削減することができない。
【0108】
また、第3の従来例は非可逆符号化と可逆符号化を、全く異なる空間である周波数空間と画素値空間で別々に行うため課題で指摘したような歪みが発生する。この点、本発明は全ての画像を解像度という共通の観点で処理するので、そのような歪みを生じない。
【0109】
本発明の概略構成は以下のようになる。本発明は可逆の予測符号化を基本とし、量子化が必要な自然画像についてはその前段で画素を間引くことにより非可逆化を実現する。画素の間引き処理は周波数分析と量子化により、与えられた画像が最適な解像度であるかどうかを判定しつつ行う。一方、人工画像については間引き処理が無効なので、量子化を厳しく行い可逆符号化に不要な画素のみを間引く。
【0110】
次に本実施例の動作原理を具体的に説明する。本実施例では簡易な周波数分析としてDCTを用いる。DCTとその逆変換は前掲の(1)、(2)式で表される。すなわち、DCT係数y(u,v)は画素値x(m,n)の線形和であり、8×8のDCTであれば64個の式を書き並べることによって1つのDCT処理が表現される。
【0111】
ここでDCT係数はブロック内の周波数成分に相当する。従ってあるブロックが高域成分を持たないことを式で表現すると、いまu、v方向の最高周波数をそれぞれf、fとすれば(8)式のようになる(ただし0≦f、f≦7)。
【0112】
【数7】
Figure 0003624655
さて(8)式を満たすDCT係数y(u,v)は(64−(f+1)×(f+1))個あるので、8×8DCTの64個の式のうち(64−(f+1)×(f+1))個の式は左辺が0になる。これはDCT処理を、引数が画素値で未知数がDCT係数である線形連立方程式と考えれば、未知数が64個から(f+1)×(f+1)個に減ることに相当する。すなわち(64−(f+1)×(f+1))個の式が冗長となるから、引数となる画素値のうち(64−(f+1)×(f+1))個は式の操作によって除去できる。結局(f+1)×(f+1)個の画素値さえわかっていれば、DCT処理という連立方程式を解くことにより後から64個のDCT係数、ひいては画素値を再構成することが可能であることがわかる。
【0113】
ただしここでは計算精度は考慮していない。また簡単のため64個の連立式として説明したが、2次元DCTの性質から2次元独立の8個の連立式の組合せと考えて処理してもよい。また以上の事実は8×8以外のDCTでも、定数以外は何ら違いがない。
【0114】
以上の理論により8×8ブロックのうちny個の画素が間引けるわけだが、間引き方に制限が加わる。2次元DCTは1次元DCTの組合せで行われるため、最終的に(f+1)×(f+1)個の画素が残るように間引かれなければならない。ただし2次元独立で例えばu方向の補間を先に行うような構成であれば、u方向の補間が終わった時にv方向に(f+1)個の画素が残るようになっていればよい。このとき画素の間隔に制限はないが、画素値は整数精度しか持てないため、空間的に近い画素を残すと補間される画素値精度が低下することがある。
【0115】
簡単のため8画素の1次元DCTの例を用いて、以上の論理を式で示す。まず1次元DCTの変換式は(1)式から容易に(9)式が導ける。
【0116】
【数8】
Figure 0003624655
(9)式は単なる積和の形になっているから行列表現できる。cosの項をd(u,m)と表現すれば(10)式を得る。
【0117】
【数9】
Figure 0003624655
ここでf=2とすればy(u)=0 (u>2)だから、(10)式は
【0118】
【数10】
Figure 0003624655
となる。(11)式の下側の5つの式は左辺が0で固定されるので、これを上側の3つの式に代入することで右辺の変数が消去できる。例えばx(3)からx(7)を消去すれば、結局(12)式を得る。
【0119】
【数11】
Figure 0003624655
(12)式からx(0)、x(1)、x(2)の3つの画素値がわかればy(0)、y(1)、y(2)が求められる。y(3)からy(7)は0であることがわかっているから、後は(9)式の逆変換によってx(3)からx(7)が補間できる。(11)式で消去する変数の選び方に制限はないので、(12)式の右辺に選ばれる画素値は個数さえ合えばどのような組合せでもよい。ただし前述のように間隔を広くとったほうが補間の精度が良い、といった性質はある。
【0120】
間引き方の例を図5に示す。同図a)は明らかに上述の条件を満たす。同図b)はまずu方向の補間を行い、次にv方向の補間を行うことで復号が可能である。同図c)d)はいずれも制限を満たさない。
【0121】
間引き方の拡張について述べる。以上では簡単のために(8)式に基づいた間引きについて説明した。実際、(8)式は本実施例の始めに説明した本発明の概念をよく表現している。しかし本実施例においては補間処理は連立方程式に帰着できるから、(8)式を拡張することができる。すなわちf以下であってもその成分がv成分によらず0となる周波数fsが存在する場合、周波数fsに関する8つの式は連立方程式から削除できる。従ってu方向に残す画素数はf個に減らせる。fsは複数であってもよい。またv方向についても同じように考えられる。
【0122】
また以上ではf、fに独立に基づいた間引き処理を行ったが、両軸ともf、fのいずれか高い方の周波数に合わせてもよい。これにより間引ける画素数は減少するが、間引くパターンも減少するので係数分析処理や補間処理等の処理を単純化できる。もちろん画質劣化を許容すればf、fの平均値や最低値等の値でもよい。あるいはf、fの値を例えば0、1、3、7のいずれか、といったふうに適当に量子化しても同様の効果を得る。
【0123】
ちなみに(8)式はu、v方向の最高周波数に依存して書かれるので、有効な周波数成分のエリアはDCT係数ブロック上では長方形を形成する。これは2次元DCTが1次元DCTの組合せによって実現されることに起因する。もし、2次元の変換基底が互いに完全に独立であれば長方形以外の自由形状に拡張することができる。例えば周波数成分上で左上三角成分だけ残すように制限してもよい。この場合、間引き方の制限もなくなる。
【0124】
DCT係数の量子化について述べる。JPEG−DCT方式の説明で述べたように周波数変換符号化では、高域成分を粗く量子化することにより画質の劣化を抑えたまま符号量を削減できる。本実施例においても例えば図37の量子化テーブルを用いた量子化処理の適用が可能である。量子化により0になる周波数成分が増えるが、上で述べた原理はほぼそのまま適用できる。
【0125】
そこで量子化の具体的な適用手順について述べる。本発明では周波数変換は画像の分析だけに用い、実際の量子化は画素の間引きで実現する。従って周波数成分の量子化は厳密には絶対値に対する閾値処理で実現される。すなわち、各周波数成分を対応する量子化ステップと比較し、より小さければその周波数成分を0とする処理を行う。量子化テーブルが適切に設定されていれば、閾値処理された係数データを逆DCT処理することにより画質劣化がなく、かつ高域成分が制限された画像を得ることができる。これ以降は上で述べた原理をそのまま適用すればよい。まとめると次の手順になる。
[係数データを量子化する場合のアルゴリズム]
ステップ1:DCT処理を行う。
ステップ2:係数データを閾値処理し、量子化ステップより小さい成分は0とする。このときの最高周波数成分をf、fとする。
ステップ3:逆DCT処理を行う。
ステップ4:ステップ2で求めたf、fに基づいて間引き処理を行う。画像が残っていればステップ1へ。
【0126】
さてステップ2ではf、f以下の周波数でもたまたま0に閾値処理される成分が発生する。このアルゴリズムではステップ4の間引き処理はステップ2で求まるf、fに基づくから、このような成分は無理に0にしなくても間引き/補間処理ともに処理量は変わらない。したがってステップ2とステップ3の間に次のような処理が入ってもよい。
【0127】
ステップ2.5:f、f以下の周波数成分で0に閾値処理されたものがあれば、閾値処理前のデータに戻す。
【0128】
さて本発明では後段に予測符号化等の圧縮手段を想定している。以上で述べた原理によって後段に送出する画素数を削減することができるので、本発明の副次的な効果として後段の処理軽減が可能である。これは後段で色変換、拡縮、回転、クリッピング等の画像処理を行う場合でも有効なので、本発明を画像処理のアクセラレータとして応用することもできる。
【0129】
以上で原理については説明したので、本実施例の具体的な説明に移る。以下、上述した後段部分を除き、自然画像に対する画素間引き処理を行う部分について説明する。
【0130】
図1および図2は本発明の第1の実施例を示すブロック図である。図中、図33および図34と同様の部分には同一の符号を付して説明を省略する。図1および図2において、30は係数分析部、40は係数分析出力部、50は高域係数マスク部、60は逆DCT部、70は画素間引き部、80は間引き画像出力部、130は係数分析データ、140は低域係数データ、150は低域画像データ、160は間引き画像データ、210は間引き画像入力部、220は係数分析入力部、230は係数補間部、310は補間係数データである。
【0131】
図1および図2の各部について説明する。図1の符号化装置は以下の構成よりなる。係数分析部30は予め定められた定数と係数データ120の比較を行い、その比較結果を係数分析データ130として係数分析出力部40、高域係数マスク部50および画素間引き部70のそれぞれへ送出する。係数分析出力部40は係数分析データ130を外部へ出力する。高域係数マスク部50は係数分析データ130に基づき係数データ120の高域係数の一部を0で置き換え、低域係数データ140として逆DCT部60へ送出する。逆DCT部60は低域係数データ140に対してDCT部20で行われたDCT処理の逆変換にあたる逆DCT処理を行い、低域画像データ150として画素間引き部70へ送出する。画素間引き部70は予め設定された間引き方法と係数分析データ130に基づき低域画像データ150に対して間引き処理を行い、間引き画像データ160として間引き画像出力部80へ送出する。間引き画像出力部80は間引き画像データ160を外部へ送出する。
【0132】
次に図2の復号装置は以下の構成よりなる。間引き画像入力部210は外部より間引き画像の入力を行い、間引き画像データ160として係数補間部230へ送出する。係数分析入力部220は外部より係数分析データの入力を行い、係数分析データ130として係数補間部230へ送出する。係数補間部230は係数分析データ130に基づいて間引き画像データ160に対してDCT係数の補間処理を施し、その結果を補間係数データ310として逆DCT部240へ送出する。逆DCT部240は補間係数データ310に逆DCT処理を施し、復号画像データ320として復号画像出力部250へ送出する。
【0133】
以上の構成に基づいて第1の実施例の動作について説明する。図3および図4は本発明の第1の実施例の動作を示すフローチャートである。
【0134】
まず図3を用いて本実施例の符号化手順について説明する。S10では画像入力部10において外部より画像の入力を行い、入力画像データ110を得る。S20ではDCT部20においてDCT処理を行い、係数データ120を得る。S30では係数分析部30において係数データ120と予め定められた定数との比較を行い、その結果を係数分析データ130として得る。S40では高域係数マスク部50において係数分析データ130に基づき係数データ120の高域成分の一部を0で置き換え、低域係数データ140とする。S50では逆DCT部60において低域係数データ140に逆DCT処理を行い、低域画像データ150を得る。S60では画素間引き部70において係数分析データ130に基づいて画素の間引き処理を行い、間引き画像データ160を得る。S70では係数分析出力部40および間引き画像出力部80において、それぞれ係数分析データ130および間引き画像データ160を外部に出力する。S80ではS10で入力された入力画像データ110が全て処理されたかどうかを判断し、未処理データがあればS10へ戻り、すべて処理されていれば符号化手順を終了する。
【0135】
次に図4を用いて本実施例の復号手順について説明する。S110では間引き画像入力部210および係数分析入力部220において、それぞれ間引き画像データ160および係数分析データ130を外部より入力する。S120では係数補間部230において間引き画像データ160と係数分析データ130に基づいて補間係数データ310を得る。S130では逆DCT部240において補間係数データ310に逆DCT処理を施し、復号画像データ320を得る。S140では復号画像出力部250において復号画像データ320を外部へ出力する。S150ではS110で入力された間引き画像データ160および係数分析データ130が全て処理されたかどうかを判断し、未処理データがあればS110へ戻り、すべて処理されていれば復号手順を終了する。
【0136】
以上の動作中の係数分析処理について説明する。係数分析処理はJPEG−DCT方式で用いる量子化テーブルのように高域係数に対して粗い定数を使用する。ただし前述したように量子化ではなく、単なる閾値処理によってDCT係数の有効性を判断する。
【0137】
JPEG−DCT方式の推奨テーブルを用いた場合の係数分析処理の流れを図6を用いて説明する。同図a)はDCT処理で得られる係数データ120の例である。これに対してJPEG−DCT方式の量子化を行うと、同図b)の量子化係数データを得る。本実施例では閾値処理を行うので、例えば有効係数を1、無効係数を0で表すと同図c)のような係数分析データ130を得る。
【0138】
本実施例の説明の始めに述べたように、間引ける画素数はu、v各方向の最高周波数に応じて決まるから、この情報は同図d)としても必要な情報は失われない。またフォーマットとしては(4,4)といったふうに略記してもよい。この係数分析データ130に基づいて高域係数マスク部50で作成される低域係数データ140は同図e)のようになる。
【0139】
また動作中、S120で係数補間部230において行われる係数補間処理は、本実施例の説明の始めに述べたように連立方程式を解くことによって行われる。なお選択される連立方程式は例えば8×8ブロックで高々64通りの組合せしかないから、前もって逆行列を求めておけば簡単に処理が可能である。
【0140】
また動作中、S70において出力される間引き画像データ160が後段の符号化装置で符号化されることを前提としていることは既に述べたが、これと同様に係数分析データ130が何らかの情報源符号化によって符号化されてもよい。
【0141】
以上のように本実施例によれば、後段に可逆符号化を用いることで、自然画像を効果的に非可逆符号化することが可能である。人工画像を符号化する場合には、図1の符号化装置の係数分析部30で行う閾値処理に用いる量子化テーブルの値を全て0にすればよい。これにより係数データの量子化が行われなくなるので、計算誤差がなければ図1の符号化装置は可逆符号化装置として動作する。もちろん人工画像が入力される際には図1の構成をバイパスするようなデータパスを別に設けても構わない。
【0142】
また、図1の符号化装置の広域係数マスク部50と逆DCT部60とにおける処理は、結局は画像入力部10により入力された画像の高周波領域をカットすること、すなわちローパスフィルタ処理と同じ処理となる。したがって、広域係数マスク部50と逆DCT部60とをローパスフィルタとすることも可能である。
【0143】
[第1の拡張例]
本実施例の拡張について述べる。JPEG−DCT方式と本実施例を復号画像で比較したときに異なる点として、JPEG−DCT方式では全ての画素値が入力画像のそれと微妙に異なる可能性があるのに対し、本実施例では間引かれなかった画素はそのまま復号側に送られることがあげられる。一例としてJPEG−DCT方式による復号画像と入力画像の画素値の差分の絶対値の平均を、いくつかの自然画像についてとった。これを係数データの分析結果で層別した結果を図7に示す。横軸の係数分析結果は次式で算出した。
【0144】
【数12】
Figure 0003624655
前述の例では逆DCT処理した画像を復号画像としてそのまま出力するので、間引かれなかった画素でも計算誤差等によって画素値がずれることがある。本実施例ではこの復号画像を出力する前に、間引かれなかった画素を改めて本来の画素値に戻してやることが可能である。このような処理を入れておいた場合、再符号化した際に同じように間引くことで全く同一の間引き画像が得られる。従って符号化復号を繰り返しても画質劣化が重ならない非可逆符号化を実現できる。これが本実施例の第1の拡張例である。
【0145】
再符号化の際に最初の符号化と同じ画素を間引くためには、係数情報データ130および間引き画像データ160に間引き方の情報を含めればよい。図8はそのようなデータ形式の例である。この例ではヘッダとして間引き手法に関するデータを含めている。この間引き手法データは図9のように係数情報データ130に応じた間引き方を列挙したものでもよいし、単に予めつけたIDを示すようなものでもよい。もちろん間引き方が係数情報データ130以外の条件に依存しない符号化装置で符号化復号を繰り返す場合は、このような仕組みは必要ない。
【0146】
図10は本実施例の第1の拡張例における復号装置の構成図である。図中、図1と同様の部分には同一の符号を付して説明を省略する。241は画素値補正部、321は補正復号画像データである。
【0147】
図10の各部について説明する。画素値補正部241は復号画像データ320のうち、間引き画像データ160によって与えられる画素については、間引き画像データ160の画素値に置き換える。その結果を補正復号画像データ321として復号画像出力部250へ送出する。他の部分の説明と動作の説明は前述の説明と大差ないため省略する。
【0148】
[第2の拡張例]
本実施例の拡張に戻る。前出の図7で見たようにJPEG−DCT方式にならって考えれば、本実施例の後段で予測符号化する際に画素値を量子化してもそれほど画質に影響を与えないことが期待される。ここで許される量子化は周波数成分に対して行う閾値処理に依存すると考えられるから、両者を連携して制御すれば効率的な量子化が可能である。前出の図7の例は図37a)の量子化テーブルで固定的に閾値処理した結果だが、係数データの分析結果によって復号誤差の絶対値の傾向が掴める。これを参考に画素値量子化処理を行ってもよい。例えば誤差は一様分布で発生すると仮定して量子化ステップを誤差値の平均の2倍と見積もれば、(14)式が分析タイプ毎に成立する。
【0149】
【数13】
(量子化ステップ)=(復号誤差絶対値平均)×2 (14)
誤差分布が例えば0を中心にした偏りがあるのであれば、(14)式の2はもう少し小さい値でもよい。いずれにしてもこの値は統計処理によって実験的に算出できる。もちろんもっと複雑な仮定をいれて(14)式を非線形演算で算出してもよい。以上が本実施例の第2の拡張例である。
【0150】
図11は本実施例の第2の拡張例における符号化装置の構成図である。図中、図1と同様の部分には同一の符号を付して説明を省略する。71は画素値量子化部、161は量子化間引き画像データである。
【0151】
図11の各部について説明する。画素値量子化部71は係数分析部30で用いられる閾値と係数分析データ130とに基づき、復号画像データ160に対して予め定められた手法で画素値を量子化し、量子化復号画像データ161として間引き画像出力部80へ送出する。他の部分の説明と動作の説明は前述の説明と大差ないため省略する。
【0152】
以上の例で、もちろん画素値量子化部71における量子化が閾値や係数分析データ130に関連しない、固定的なものでも構わない。
【0153】
[第3の拡張例]
本実施例の第3の拡張例について述べる。係数分析処理に用いられる閾値を制御することで非可逆符号化と可逆符号化のいずれも実行可能であることはすでに述べた。以下、このような閾値制御がダイナミックに行われる変形例を第3の拡張例として述べる。
【0154】
図12は本実施例の第3の拡張例の構成図である。図中、31は画像判定部、131は閾値制御データである。
【0155】
図12の各部について説明する。画像判定部31は入力画像データ110に対して予め定められた手法で画像の判定を行い、その結果を閾値制御データ131として係数分析部30へ送出する。他の部分の説明と動作の説明は前述の説明と大差ないため省略する。
【0156】
画像判定部31は自然画像と人工画像の判定を行う。具体的には画素値の分布の広がり方、下位ビットのエントロピー、エッジの急峻さ等からノイズの有無が推定されるので、これに基づいて判定を行う。図は省略するが、外部から自然画像と人工画像の区別がサイド情報として送られるような構成でもよい。この場合画像判定部31はサイド情報から閾値制御データ131への変換を行う。
【0157】
このような閾値制御は画像毎に行われるものでも、画像の局所毎に行われるものでもよい。また自然画像と人工画像という区別にとらわれず、画像の局所的な性質に基づいて制御されるものでもよい。例えば画素値や周波数成分の分布、エッジの鋭さ、パターンの有無、細線の有無、グラデーションの有無等が指標となり得る。
【0158】
[第1の簡易化]
次に本実施例の簡易化について述べる。図2の復号装置において係数補間部230と逆DCT部240の代わりに直接画素値を補間する手段を設けてもよい。ここでいう画素値を補間する手段というのは、画像処理で行われるような最近傍補間、4点線形補間、9点2次補間など、画素値を補間するものであれば何でもよい。この場合、やはり本実施例の原理が成立しないので画質劣化は避けられない。しかし原理的には本実施例で行う係数補間処理はDCT係数上でのローパスフィルタ的な効果があり、上で列挙した画素値補間処理もまたローパスフィルタ的な効果があることから、非常に簡単な近似とみなすことが可能である。以上が本実施例の第1の簡易化例である。
【0159】
図13は本実施例の第1の簡易化例の構成図である。図中、図2と同様の部分には同一の符号を付して説明を省略する。231は画素値補間部である。
【0160】
図13の各部について説明する。画素値補間部231は間引き画像データ160に対して予め定められた手法で間引かれた画素を補間し、復号画像データ320として復号画像出力部250へ送出する。他の部分の説明と動作の説明は前述の説明と大差ないため省略する。
【0161】
上述のように第1の簡易化例における画素値補間はローパスフィルタの効果があるため、同数の画素を間引いても選択する画素に依存して画質に差を生じる可能性がある。また制限を守れば画素選択はある程度自由に行えることは既に述べた。そこで例えば残す画素を選択する際にブロック内のピーク値を選択するように調整すればブロックのダイナミックレンジを損なわずにすむ。
【0162】
また画素値補間を行う場合は(8)式が成立する必要はないので、折り返し歪みの問題を除けば間引き処理の対象となる画像は高域を制限されていなくてもよい。従って例えば図1の符号化装置において高域係数マスク部50と逆DCT部60を設ける代わりに直接入力画像データ110を画素間引き部70へ送出してもよい。この場合、大幅に処理を簡易化することができる。この構成図を図14に示す。各部および動作の説明は省略する。なお図1の係数分析部30で高域成分に対していかなる量子化も行わない場合は、入力画像が既に(8)式を満たす。従って画質や符号量への影響なくやはり図14の構成で符号化装置が実現できる。
【0163】
さらに復号装置で画素値補間を行う場合でも、符号化装置で復号画像をシミュレートすることが可能である。従って図1の係数分析部30の代わりに画素値補間された復号画像データ320をシミュレートし、入力画像データ110との誤差を評価しつつ係数情報データ130を決定するような手段を設けてもよい。誤差の評価はSN比でもよいし、誤差の最大値、分散、ダイナミックレンジ等でもよい。この場合、係数情報データ130は単に画素の間引き率を意味する。この場合周波数分析を行わないので、明らかにDCT部20は省略できる。構成は類推が可能なので構成図以下の説明は省略する。
【0164】
[第2の簡易化]
次に入力として画像の代わりにDCT係数を受け取る場合を考える。例えばJPEG−DCT方式で符号化された画像を受け取る場合、対応するエントロピー復号によって得られるデータは画素値ではなくてDCT係数になる。このような場合は図1の符号化装置の係数分析部30および高域係数マスク部50に、DCT係数を直接入力すればよい。こうすればDCT部20とその処理を省略することができる。これが本実施例の第2の簡易化例である。
【0165】
図15は本実施例の第2の簡易化例の構成図である。図中、図1と同様の部分には同一の符号を付して説明を省略する。11は符号入力部、21はエントロピー復号部、111は符号データである。
【0166】
図15の各部について説明する。符号入力部11は外部より符号を入力し、符号データ111としてエントロピー復号部21へ送出する。エントロピー復号部21は符号データ111を復号し、係数データ120として係数分析部30および高域係数マスク部50へ送出する。他の部分の説明と動作の説明は前述の説明と大差ないため省略する。
【0167】
このようにDCT係数が入力となる場合には、すでにDCT係数に量子化がかかっている場合も想定される。この場合エントロピー復号部21で逆量子化処理を行う必要がある。
【0168】
さらに入力される符号の量子化ステップが係数分析部30に予め定められた量子化ステップよりも粗い場合、各部の処理が簡略化できる。ひとつは係数分析部30における係数分析処理に関し、0でない係数が閾値処理の結果0になることはないので、閾値処理でなく単に周波数成分が0か0以外かを判断すればよい。また同様の理由で高域係数マスク部50と逆DCT部60で行われる処理は画像劣化なしに省略できる。図15の復号装置はこのような場合に、上述の部分をバイパスできるような構成でも構わない。
【0169】
[第3の簡易化]
次に第3の簡易化例を説明する。図1および図2の構成によれば係数分析データ130と間引き画像データ160については独立に入出力が行われるが、両方のデータをまとめてて入出力しても構わない。これが第3の簡易化例である。
【0170】
図16は本実施例の第3の簡易化例の構成図である。図中、図1と同様の部分には同一の符号を付して説明を省略する。72はデータ合成部、81は合成データ出力部、162は合成データである。
【0171】
図16の各部について説明する。データ合成部72は係数分析データ130と間引き画像データ160を合成し、合成データ162として合成データ出力部81へ送出する。合成データ出力部81は合成データ162を外部へ出力する。他の部分の説明と動作の説明は前述の説明と大差ないため省略する。また第3の簡易化例の符号化装置に対応する復号装置に関しても類推が容易なため説明を省略する。
【0172】
データ合成部72で行われるデータ合成処理について説明する。合成データ162は復号装置で係数分析データ130と間引き画像データ160に分解できるように合成する必要がある。そのような例としては図17のように単純に2つをまとめる方式や、図18のようにブロック毎にまとめる方式等、いくつかの例が考えられる。もちろんこれ以外の単位でまとめてもよい。
【0173】
[第4の簡易化]
次に第4の簡易化例を説明する。前もって入力画像の有効な周波数成分がわかっているような場合には、外部から係数情報を指定してもよい。これが第4の簡易化例である。
【0174】
図19は本実施例の第4の簡易化例の構成図である。図中、図1と同様の部分には同一の符号を付し、各部および動作の説明は省略する。
【0175】
このような構成をとると、例えば高域成分が明らかにノイズだと分かっているような場合に、直接0にする成分を指定できるので符号量が減少する。そのような画像の例としては例えば低解像度のスキャナで入力された後に拡大された自然画像があげられる。このような拡大画像は拡大によるぼけを抑制するために、エッジ強調等の処理がかけられることがある。このような処理によって生成される高周波成分はノイズとはいえない。しかし復号後に再現することも可能なので、本発明でいうところの最適な解像度で再現する必要はない。一方、第1の従来例ではこのような画像でも高域まで再現するので、符号量が削減できない。この現象は出力機器の解像度が向上するにつれ顕著になる。この様子を示すのが図27である。
【0176】
最後に本実施例の一形態に基づいて自然画像と人工画像を符号化した実験結果例を図20に示す。またある自然画像について本実施例の一形態と第1の従来例に基づいて作成した復号画像と入力画像の差分画像を図28および図29に示す。
【0177】
[実施例2]
本発明の基本的な発想は自然画像においていわばオーバーサンプリングされていると見なせる画素を間引き、画素空間上で非可逆の符号化処理を実現することにある。この考え方はDCT以外の周波数変換手法へも拡張することが可能である。以下、本発明の第2の実施例として一般的な周波数変換手法を用いた実施例について述べる。
【0178】
図21および図22はそれぞれ本発明の第2の実施例の画像符号化装置、復号装置の構成図である。図中、図1と同様の部分には同じ符号を付して説明を省略する。22は周波数変換部、61は逆変換部、242は逆変換部である。
【0179】
図21および図22の各部について説明する。周波数変換部22は何らかの手法で入力画像データ110を周波数変換し、得られる周波数成分を係数データ120として係数分析部30および高域係数マスク部50へ送出する。逆変換部61および逆変換部242はそれぞれ係数データ140、310に対し、周波数変換部22で行われる周波数変換の逆変換を施し、その結果をそれぞれ低域画像データ150、復号画像データ320として出力する。他の部分の説明と動作の説明は本発明の第1の実施例の説明と大差ないため省略する。
【0180】
以上の説明の中で、周波数変換処理は周波数変換できるものであれば何でもよい。例えば高速フーリエ変換、離散サイン変換、サブバンド分割等がこれにあたる。
【0181】
係数補間部230における補間処理は使用する周波数変換処理に依存する。第1の実施例ではDCTに対して線形連立方程式を解くことで補間が実現できることを説明した。高速フーリエ変換で画像をブロック化する場合や、離散サイン変換に対しては同様の手法が応用できる。
【0182】
サブバンド分割の場合は例えばバンド毎に有効性を判定し、無効とみなしたバンドの成分を0とすることで高域係数をマスクできる。補間時は間引き画像から低域バンドの成分を再構成し、高域バンドを0で補えば係数補間が実現できる。
【0183】
また全ての周波数変換手法にいえることだが、係数補間部230で行う補間を図13の構成のように画素値補間で置き換えれば、簡易的にではあるが補間処理が実現できる。
【0184】
[実施例3]
以上では本発明を画像符号化装置、復号装置として説明してきたが、見方を変えることで一部の画像処理装置に応用することができる。以下、本発明の第3の実施例として、マルチプレーン画像を扱う画像符号化装置に本発明を応用した実施例について述べる。 詳細の説明に入る前に、マルチプレーン画像を定義する。ここでいうマルチプレーン画像とは、異なる素材画像を重ね合わせてつくる画像で、それぞれの素材画像を別個に扱っておいて出力時に1枚に重ね合わせるものを指す。ただし別個に扱うのは素材画像毎ではなくて、第3の従来例で述べたように自然画像と人工画像といった画像種別に応じて分類してもよい。別個に扱う素材画像、すなわちプレーンの個数はいくつでも構わないが、以下の説明では簡単のために自然画像と人工画像および切換情報の3プレーンからなるものとする。図23はこのような画像の説明図である。
【0185】
図23では人工画像を自然画像に上書きして出力画像を得ている。ここで自然画像を符号化することを考えると、上書きされる部分は出力画像の生成には必要ないので、この部分を符号化に都合の良い画素値に置き換えてやれば圧縮率を向上することができる。図24はそのような画素値置換の説明図である。図24d)に斜線でハッチングした部分が、画素値を置換できる部分である。
【0186】
しかし実際には周波数を使った符号化に都合のよい画素値を求めるのは簡単ではない。画素値置換で最も単純なのは、白または黒などの固定値で埋めてしまう手法である。これだと処理は簡単だが、画素値置換部分と元画像部分との境界でエッジが発生する可能性があり、周波数変換符号化では高圧縮率は望めない。これに対して置換に使う固定値を残った画素値の平均値などで置き換えてやれば、エッジは発生しにくくなるが、最適な画素値である保証はない。しかも平均値を求めなければならず、処理負荷が大きい。
【0187】
ところで図24d)をよく見ると、第1の実施例および図5で説明した間引き方の条件を満たしていることがわかる。そこでこれを間引き画像と考えて、本発明の係数補間処理を応用して周波数変換することを考える。本発明によれば間引き画像を表現する周波数成分の組合せのうち、なるべく高域を0とするような組合せを求めることができる。例えば前出のJPEG−DCT方式の場合、低域から符号化していくので、高域を0にするということは符号量を小さくすることと同義である。しかも本発明の場合、置き換え部分の画素を埋める必要がないので、付加的な処理も発生しない。これが本実施例の基本アイディアである。
【0188】
図25は本発明の第3の実施例の画像処理装置の構成図である。図中、図1、29、42と同様の部分には同一の符号を付して説明を省略する。17は切換情報入力部、118は入力切換データである。
【0189】
図25の各部について説明する。切換情報入力部17は入力切換データ118を外部より入力し、画素間引き部70へ送出する。画素間引き部70については説明を補足する。画素間引き部70は入力自然画像データ113に対して、入力切換データ118が人工画像を選択する部分に間引き処理を行い、間引き画像データ160として出力する。
【0190】
動作については他の実施例などの説明から類推が可能なので、説明を省略する。
【0191】
画素間引き部70で行われる間引き処理は本発明の第1の実施例で説明した、間引き方の条件を満たすように間引く。この例を図26に示す。図26a)のような切換情報が与えられたとき、図26b)のような間引き方をすれば、本発明の係数補間処理を適用することができる。人工画像を選択するにもかかわらず、画素値を保存する画素が残るが、この部分は固定値や平均値で置き換えてもよい。
【0192】
なお、本実施例は第2の実施例と同様、DCT以外の周波数変換へも容易に拡張可能である。また、係数出力部45の後にエントロピー符号化を行うのが普通だが、本発明の本質に影響しないのでここでは説明を省略する。また、本実施例によって作成された符号は、例えば第1の従来例で述べた復号器によって復号が可能であるので、復号に関する説明は省略する。
【0193】
【発明の効果】
以上の説明から明らかなように本発明によれば自然画像、人工画像の区別なく、単一の装置で効率的な符号化復号処理を実現できる。従って2つの符号化方式を組み合せる場合に比較してページメモリを除去できる等の効果がある。さらに、本発明の後段で画像処理を行うことにより画像処理の高速化を実現できる。さらに、符号化/復号処理の繰り返して画質の劣化しない符号化復号処理を実現できる。さらに、実際の高解像度入力画像は一般的に低解像度の画像を拡大したものが多い。このような場合、拡大前の実効解像度に対するのと同様の符号量で符号化できる。さらに本発明をマルチプレーン画像の符号化処理に適用することにより、上書きされる画素を含む画像を効率的に符号化することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施例の画像符号化装置を示す構成図である。
【図2】本発明の第1の実施例の画像復号装置を示す構成図である。
【図3】本発明の第1の実施例の画像符号化装置の符号化処理の動作の一例を示すフローチャートである。
【図4】本発明の第1の実施例の画像復号装置の復号処理の動作の一例を示すフローチャートである。
【図5】本発明の第1の実施例における間引き処理の説明図である。
【図6】本発明の第1の実施例における係数データの処理の説明図である。
【図7】JPEG−DCT方式の復号画像における画素値の誤差に関する説明図である。
【図8】再符号化の間引きのための情報を説明する図である。
【図9】再符号化の間引きのための情報を説明する図である。
【図10】本発明の第1の実施例における拡張例を示す構成図である。
【図11】本発明の第1の実施例における拡張例を示す構成図である。
【図12】本発明の第1の実施例における拡張例を示す構成図である。
【図13】本発明の第1の実施例における簡易化例を示す構成図である。
【図14】本発明の第1の実施例における簡易化例を示す構成図である。
【図15】本発明の第1の実施例における簡易化例を示す構成図である。
【図16】本発明の第1の実施例における簡易化例を示す構成図である。
【図17】本発明の第1の実施例における簡易化例を示す図である。
【図18】本発明の第1の実施例における簡易化例を示す図である。
【図19】本発明の第1の実施例における簡易化例を示す構成図である。
【図20】本発明の第1の実施例の実験結果例を示す説明図である。
【図21】本発明の第2の実施例の画像符号化装置を示す構成図である。
【図22】本発明の第2の実施例の画像復号装置を示す構成図である。
【図23】本発明の第3の実施例のマルチプレーン画像を説明する図である。
【図24】本発明の第の実施例における画素値の置換を説明する図である。
【図25】本発明の第3の実施例の画像処理装置を示す構成図である。
【図26】本発明の第3の実施例の動作を説明するである。
【図27】第1の実施例と第1の従来例の符号量の比較を模式的に示した説明図である。
【図28】第1の実施例と第1の従来例の画質劣化の比較を示した説明図である。
【図29】第1の実施例と第1の従来例の画質劣化の比較を示した説明図である。
【図30】画像の特性を示す実験例の説明図である。
【図31】画像の特性を示す実験例の説明図である。
【図32】画像の特性を示す実験例の説明図である。
【図33】第1の従来例の画像符号化装置を示す構成図である。
【図34】第1の従来例の画像復号装置を示す構成図である。
【図35】第1の従来例における符号化処理の動作の一例を示すフローチャートである。
【図36】第1の従来例における復号処理の動作の一例を示すフローチャートである。
【図37】第1の従来例で使用する量子化テーブル例の説明図である。
【図38】第2の従来例の画像符号化装置を示す構成図である。
【図39】第2の従来例の画像復号装置を示す構成図である。
【図40】第2の従来例における符号化処理の動作の一例を示すフローチャートである。
【図41】第2の従来例における復号処理の動作の一例を示すフローチャートである。
【図42】第2の従来例で使用する予測器の説明図である。
【図43】モスキートノイズの説明図である。
【図44】第1の従来例による実験例の説明図である。
【図45】第2の従来例による実験例の説明図である。
【図46】第3の従来例を示す構成図である。
【符号の説明】
10 画像入力部
11 符号入力部
15 人工画像入力部
16 自然画像入力部
20 DCT部
21 エントロピー復号部
22 周波数変換部
25 予測部
30 係数分析部
31 画像判定部
35 係数量子化部
40 係数情報出力部
45 係数出力部
46 予測誤差出力部
50 高域係数マスク部
60 逆DCT部
61 逆変換部
70 画素間引き部
71 画素値量子化部
72 データ合成部
80 間引き画像出力部
81 合成データ出力部
90 人工画像符号化部
91 自然画像符号化部
92 人工画像記憶部
93 自然画像記憶部
94 人工画像復号部
95 自然画像復号部
96 画像合成部
110 入力画像データ
111 符号データ
112 入力人工画像データ
113 入力自然画像データ
114 人工画像符号データ
115 自然画像符号データ
116 復号人工画像データ
117 復号自然画像データ
120 係数データ
130 係数分析データ
131 閾値制御データ
140 低域係数データ
150 低域画像データ
160 間引き画像データ
161 量子化間引き画像データ
162 合成データ
170 量子化係数データ
171 予測誤差データ
210 間引き画像入力部
220 係数情報入力部
225 係数入力部
226 予測誤差入力部
230 係数補間部
231 画素値補間部
240 逆DCT部
241 画素値補正部
242 逆変換部
250 復号画像出力部
310 補間係数データ
320 復号画像データ
321 補正復号画像データ
330 逆量子化係数データ

Claims (34)

  1. 画像を入力する画像入力手段と、
    前記画像入力手段により入力された画像の周波数成分を求める周波数変換を行う周波数変換手段と、
    前記周波数変換手段により求められた周波数成分の大きさが所定の閾値を基準にして大きな値を持つかどうかを判別する閾値処理手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に応じて、前記画像入力手段により入力された画像の前記最高周波数成分を含む低域周波数成分の画像を出力する低域周波数画像出力手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に応じて決定される画素間引き態様で、前記低域周波数画像出力手段により出力された画像に対して所定の画素間引き処理を行う画素間引き手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に関する情報を出力する係数情報出力手段と、
    前記画素間引き手段により画素間引き処理された画像を出力する間引き画像出力手段とを具備することを特徴とする画像符号化装置。
  2. 画像を入力する画像入力手段と、
    前記画像入力手段により入力された画像の周波数成分を求める周波数変換を行う周波数変換手段と、
    前記周波数変換手段により求められた周波数成分の大きさが所定の閾値を基準にして大きな値を持つかどうかを判別する閾値処理手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に応じて前記周波数変換手段により求められた周波数成分のうち前記最高周波数成分以下の周波数成分を含まない周波数領域の高域周波数成分を0で置き換える高域係数マスク手段と、
    前記高域係数マスク手段により高域周波数成分を0で置き換えた周波数成分を画像に変換する逆周波数変換を行う逆変換手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に応じて決定される画素間引き態様で、前記逆変換手段により変換された画像に対して所定の画素間引き処理を行う画素間引き手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に関する情報を出力する係数情報出力手段と、
    前記画素間引き手段により画素間引き処理された画像を出力する間引き画像出力手段とを具備することを特徴とする画像符号化装置。
  3. 画像を入力する画像入力手段と、
    前記画像入力手段により入力された画像の周波数成分を求める周波数変換を行う周波数変換手段と、
    前記周波数変換手段により求められた周波数成分の大きさが所定の閾値を基準にして大きな値を持つかどうかを判別する閾値処理手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に応じて決定される画素間引き態様で、前記画像入力手段により入力された画像に対して所定の画素間引き処理を行う画素間引き手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に関する情報を出力する係数情報出力手段と、
    前記画素間引き手段により画素間引き処理された画像を出力する間引き画像出力手段とを具備することを特徴とする画像符号化装置。
  4. 画像に対して周波数変換しエントロピー符号化を行った符号を入力する符号入力手段と、
    前記符号入力手段により入力された符号に対して該符号に行われたエントロピー符号化の逆変換にあたる復号を行うことにより周波数成分を得るエントロピー復号手段と、
    前記エントロピー復号手段で得られた周波数成分の大きさが所定の閾値を基準にして大きな値を持つかどうかを判別する閾値処理手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に応じて、前記エントロピー復号手段で得られた周波数成分のうち前記最高周波数成分以下の周波数成分を含まない周波数領域の高域周波数成分を0で置き換える高域係数マスク手段と、
    前記高域係数マスク手段により高域周波数成分を0で置き換えた周波数成分を画像に変換する逆周波数変換を行う逆変換手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に応じて決定される画素間引き態様で、前記逆変換手段により変換された画像に対して所定の画素間引き処理を行う画素間引き手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に関する情報を出力する係数情報出力手段と、
    前記画素間引き手段により画素間引き処理された画像を出力する間引き画像出力手段とを具備することを特徴とする画像符号化装置。
  5. 前記エントロピー復号手段の復号とは、ハフマン符号化、算術符号化またはQM符号化のいずれかであることを特徴とする請求項4に記載の画像符号化装置。
  6. 画像を入力する画像入力手段と、
    前記画像入力手段により入力された画像の周波数成分を求める周波数変換を行う周波数変換手段と、
    前記周波数変換手段により求められた周波数成分の大きさが所定の閾値を基準にして大きな値を持つかどうかを判別する閾値処理手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に応じて、前記周波数変換手段で得られた周波数成分のうち前記最高周波数成分以下の周波数成分を含まない周波数領域の高域周波数成分を0で置き換える高域係数マスク手段と、
    前記高域係数マスク手段により高域周波数成分を0で置き換えた周波数成分を画像に変換する逆周波数変換を行う逆変換手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に応じて決定される画素間引き態様で、前記逆変換手段により変換された画像に対して所定の画素間引き処理を行う画素間引き手段と、
    前記画素間引き手段で得られた間引き画像と前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に関する情報とを合成するデータ合成手段と、
    前記データ合成手段で合成された合成データを出力する合成データ出力手段とを具備することを特徴とする画像符号化装置。
  7. 画像を入力する画像入力手段と、
    画像を周波数変換して得た周波数成分のうち所定の閾値を基準にして大きな値を持つ周波数成分の分布の最高周波数成分を表す係数情報を入力する係数情報入力手段と、
    前記画像入力手段により入力された画像の周波数成分を求める周波数変換を行う周波数変換手段と、
    前記係数情報入力手段により入力された係数情報に応じて、前記周波数変換手段により求められた周波数成分のうち上記最高周波数成分以下の周波数成分を含まない領域の高域周波数成分を0で置き換える高域係数マスク手段と、
    前記高域係数マスク手段により高域周波数成分を0で置き換えた周波数成分を画像に変換する逆周波数変換を行う逆変換手段と、
    前記係数情報入力手段により入力された係数情報に応じて決定される画素間引き態様で、前記逆変換手段により変換された画像に対して所定の画素間引き処理を行う画素間引き手段と、
    前記係数情報入力手段により入力された係数情報を出力する係数情報出力手段と、
    前記画素間引き手段により間引き処理された画像を出力する間引き画像出力手段とを具備することを特徴とする画像符号化装置。
  8. さらに、前記間引き画像出力手段により出力される間引き画像に対して画像符号化を行う画像符号化手段を有することを特徴とする請求項1ないし5または7に記載の画像符号化装置。
  9. 前記画像符号化手段で行われる画像符号化は、可逆符号化または予測符号化のいずれか若しくは両方であることを特徴とする請求項8に記載の画像符号化装置。
  10. さらに、前記係数情報出力手段により出力される係数情報に対して情報源符号化を行う係数情報符号化手段を有することを特徴とする請求項1ないし5または7に記載の画像符号化装置。
  11. 前記周波数変換手段および前記逆変換手段で行われる周波数変換は、離散コサイン変換、フーリエ変換、離散サイン変換、サブバンド変換またはウェーブレット変換であることを特徴とする請求項2、6、7に記載の画像符号化装置。
  12. 前記閾値処理手段の閾値処理は、所定の量子化テーブルを閾値とした閾値処理であることを特徴とする請求項1ないし3、4ないし6に記載の画像符号化装置。
  13. 前記閾値処理手段で用いられる量子化テーブルは、外部から設定できることを特徴とする請求項12に記載の画像符号化装置。
  14. 前記高域係数マスク手段は、前記閾値処理手段により最高周波数成分より大きい成分を0に置換することを特徴とする請求項2、4ないし7に記載の画像符号化装置。
  15. 前記画素間引き手段で行われる画素間引き処理の間引きの割合は、予め定められた所定の値に量子化されることであることを特徴とする請求項1ないし14に記載の画像符号化装置。
  16. 前記画素間引き手段の所定の画素間引き処理は、格子状に画素を残すこと、縦方向と横方向に同じ割合で行うこと、残る画素がほぼ等間隔になるように行うこと、周辺画素中のピーク値を優先的に残すことであることを特徴とする請求項1ないし14に記載の画像符号化装置。
  17. 前記画素間引き手段の画素間引き処理は、前記画像入力手段により入力された画像がすでに画像符号化装置により符号化されたことがある場合には前回間引かれた画素と同じ画素を間引くことであることを特徴とする請求項1ないし16に記載の画像符号化装置。
  18. さらに、前記画素間引き手段により画素間引き処理された画像の画素値を量子化する画素値量子化手段を有することを特徴とする請求項1ないし17に記載の画像符号化装置。
  19. 前記画素値量子化手段は、前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に応じて量子化ステップを変更すること、または前記閾値処理手段で使用される閾値の大きさに応じて量子化ステップを変更することであることを特徴とする請求項18に記載の画像符号化装置。
  20. さらに、前記画像入力手段により入力された画像に対して所定の分析を行い前記閾値処理手段で使用する閾値を決定する画像判定手段を有することを特徴とする請求項1ないし19に記載の画像符号化装置。
  21. 前記画像判定手段は、自然画像と人工画像の違いを判定し、人工画像の場合は閾値を0として前記閾値処理手段における閾値処理で0にされる周波数成分が発生しないように制御することを特徴とする請求項20に記載の画像符号化装置。
  22. 前記画像判定手段の所定の分析処理は、画素値のダイナミックレンジの測定、画素値のヒストグラムの測定、画素値の下位ビットのエントロピーの測定、エッジの急峻さの測定、線の太さの測定、周波数成分の測定、外部から指定されること、またはエッジ、パターン、グラデーション、線のうち少なくとも1つ以上の成分を検出することを特徴とする請求項20に記載の画像符号化装置。
  23. 画像を周波数変換して得た周波数成分のうち所定の閾値を基準にして大 きな値を持つ周波数成分の分布の最高周波数成分を表す係数情報を入力する係数情報入力手段と、
    間引き画像を入力する間引き画像入力手段と、
    前記間引き画像入力手段により入力された間引き画像に対して、前記係数情報入力手段により入力された係数情報に応じて決定される補間演算を適用して画素間引きまえの画像の周波数成分を算出する係数補間手段と、
    前記係数補間手段により算出された周波数成分を画像に変換する逆周波数変換を行う逆変換手段と、
    前記逆変換手段により変換された画像を出力する復号画像出力手段とを具備することを特徴とする画像復号装置。
  24. 画像の一定領域であるブロック毎に周波数変換して得た周波数成分のうち所定の閾値を基準にして大きな値を持つ周波数成分の分布の最高周波数成分を表す係数情報を入力する係数情報入力手段と、
    ブロック毎の間引き画像を入力する間引き画像入力手段と、
    前記間引き画像入力手段により入力された間引き画像に対して前記係数情報入力手段により入力された係数情報に応じて決定される画素補間態様で間引き画素の画素値を補間する画素値補間手段と、
    前記画素値補間手段により補間された画像を出力する復号画像出力手段とを具備することを特徴とする画像復号装置。
  25. 前記画素値補間手段の所定の手法は、最近傍補間、4点線形補間、9点2次補間、またはローパスフィルタ処理であることを特徴とする請求項24に記載の画像復号装置。
  26. 画像を周波数変換して得た周波数成分のうち所定の閾値を基準にして大きな値を持つ周波数成分の分布の最高周波数成分を表す係数情報と間引き画像の合成されたデータである合成データを入力する合成データ入力手段と、
    前記合成データ入力手段により入力された合成データを間引き画像と係数情報に分解するデータ分解手段と、
    前記データ分解手段により分解された間引き画像に対して、係数情報に応じて決定される補間演算を適用して画素間引きまえの画像の周波数成分を算出する係数補間手段と、
    前記係数補間手段により算出された周波数成分を画像に変換する逆周波数変換する逆変換手段と、
    前記逆変換手段により変換された画像を出力する復号画像出力手段とを具備することを特徴とする画像復号装置。
  27. さらに、間引き画像に対して画像符号化した符号を、画像に復号する画像復号手段を有し、前記間引き画像入力手段は、前記画像復号手段により復号された画像を間引き画像として入力することを特徴とする請求項23ないし26に記載の画像復号装置。
  28. 前記画像復号手段で行われる復号は、可逆符号化の逆処理、または予測符号化の逆処理であることを特徴とする請求項27に記載の画像復号装置。
  29. さらに、前記逆変換手段により変換された画像のうち前記間引き画像入力手段により入力された間引き画像に含まれる画素については、前記間引き画像の画素値で置き換える画素値補正手段を有し、前記復号画像出力手段は、前記画素値補正手段により補正された画像を出力することを特徴とする請求項23ないし28に記載の画像復号装置。
  30. 前記逆変換手段の周波数変換は、離散コサイン変換、フーリエ変換、離散サイン変換、サブバンド変換またはウェーブレット変換であることを特徴とする請求項2326に記載の画像復号装置。
  31. 前記係数補間手段で行われる係数補間は、周波数係数と画素値に関する線形の連立方程式を解くこと、周波数係数と画素値に関する線形の連立方程式に対して事前に求められた逆行列の演算、または間引き画像に対するローパスフィルタ処理もしくはその近似処理であることを特徴とする請求項2326に記載の画像復号装置。
  32. 画像を入力する画像入力手段と、
    前記画像入力手段により入力された画像の周波数成分を求める周波数変換を行う周波数変換手段と、
    前記周波数変換手段により求められた周波数成分の大きさが所定の閾値を基準にして大きな値を持つかどうかを判別する閾値処理手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に応じて前記周波数変換手段により求められた周波数成分のうち前記最高周波数成分以下の周波数成分を含まない高域周波数成分を0で置き換える高域係数マスク手段と、
    前記高域係数マスク手段により高域周波数成分を0で置き換えた周波数成分を画像に変換する逆周波数変換を行う第1の逆変換手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に応じて決定される画素間引き態様で、前記第1の逆変換手段により変換された画像に対して所定の画素間引き処理を行う画素間引き手段と、
    前記閾値処理手段により前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に関する情報を出力する係数情報出力手段と、
    前記画素間引き手段により間引き処理された画像を出力する間引き画像出力手段前記係数情報出力手段により出力された、前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に関する情報である係数情報を入力する係数情報入力手段と、
    前記間引き画像出力手段により出力された間引き画像を入力する間引き画像入力手段と、
    前記間引き画像入力手段により入力された間引き画像に対して、前記係数情報入力手段により入力された係数情報に応じて決定される補間演算を適用して周波数成分を算出する係数補間手段と、
    前記係数補間手段により算出された周波数成分を画像に変換する逆周波数変換を行う第2の逆変換手段と、
    前記第2の逆変換手段により変換された画像を出力する復号画像出力手段とを具備することを特徴とする画像符号化復号装置。
  33. 画像を入力する画像入力ステップと、
    前記画像入力ステップにより入力された画像の周波数成分を求める周波数変換を行う周波数変換ステップと、
    前記周波数変換ステップにより求められた周波数成分の大きさが所定の閾値を基準にして大きな値を持つかどうかを判別する閾値処理ステップと、
    前記閾値処理ステップにより前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に応じて前記周波数変換ステップにより求められた周波数成分のうち前記最高周波数成分以下の周波数成分を含まない周波数領域の高域周波数成分を0で置き換える高域係数マスクステップと、
    前記高域係数マスクステップにより高域周波数成分を0で置き換えた周波数成分を画像に変換する逆周波数変換を行う逆変換ステップと、
    前記閾値処理ステップにより前記大きな値を持つと判別された周波数成分の分布の最高周波数成分に応じて決定される画素間引き態様で、前記逆変換ステップにより変換された画像に対して所定の画素間引き処理を行う画素間引きステップと、
    前記閾値処理ステップにより前記大きな値を持つと判別された周波数成分の分布に関する情報を出力する係数情報出力ステップと、
    前記画素間引きステップにより間引き処理された画像を出力する間引き画像出力ステップとを具備することを特徴とする画像符号化方法。
  34. 画像を周波数変換して得た周波数成分のうち所定の閾値を基準にして大きな値を持つ周波数成分の分布の最高周波数成分を表す係数情報を入力する係数情報入力ステップと、
    間引き画像を入力する間引き画像入力ステップと、
    前記間引き画像入力ステップにより入力された間引き画像に対して、前記係数情報入力ステップにより入力された係数情報に応じて決定される補間演算を適用して画素間引きまえの画像の周波数成分を算出する係数補間ステップと、
    前記係数補間ステップにより算出された周波数成分を画像に変換する逆周波数変換を行う逆変換ステップと、
    前記逆変換ステップにより変換された画像を出力する画像出力ステップとを具備することを特徴とする画像復号方法。
JP28823797A 1996-10-25 1997-10-21 画像符号化装置および画像復号装置 Expired - Fee Related JP3624655B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP28823797A JP3624655B2 (ja) 1996-10-25 1997-10-21 画像符号化装置および画像復号装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP28358196 1996-10-25
JP8-283581 1996-10-25
JP28823797A JP3624655B2 (ja) 1996-10-25 1997-10-21 画像符号化装置および画像復号装置

Publications (2)

Publication Number Publication Date
JPH10191338A JPH10191338A (ja) 1998-07-21
JP3624655B2 true JP3624655B2 (ja) 2005-03-02

Family

ID=26555101

Family Applications (1)

Application Number Title Priority Date Filing Date
JP28823797A Expired - Fee Related JP3624655B2 (ja) 1996-10-25 1997-10-21 画像符号化装置および画像復号装置

Country Status (1)

Country Link
JP (1) JP3624655B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001359096A (ja) * 1999-06-08 2001-12-26 Matsushita Electric Ind Co Ltd 画像符号化装置
JP2002305746A (ja) 2001-04-05 2002-10-18 Nec Corp 画像復号処理装置および画像復号処理方法
JP4882843B2 (ja) * 2007-04-10 2012-02-22 富士ゼロックス株式会社 画像処理システム及び画像処理プログラム
CN114812790B (zh) * 2022-03-30 2023-09-12 江南工业集团有限公司 一种声信号处理抗干扰的方法及装置
CN117409299B (zh) * 2023-12-15 2024-03-05 武汉纺织大学 一种基于多尺度池化Transformer的图像内部遮挡关系预测方法

Also Published As

Publication number Publication date
JPH10191338A (ja) 1998-07-21

Similar Documents

Publication Publication Date Title
US6516096B2 (en) Image encoding apparatus and image decoding apparatus
US6650786B2 (en) Image encoding apparatus and image decoding apparatus
JP3461821B2 (ja) メモリ管理システム及びメモリ管理方法
US4849810A (en) Hierarchial encoding method and apparatus for efficiently communicating image sequences
US7492955B2 (en) Method and apparatus for compression using reversible wavelet transforms and an embedded codestream
JP4025847B2 (ja) 符号化装置
US7167592B2 (en) Method and apparatus for compression using reversible wavelet transforms and an embedded codestream
US5881176A (en) Compression and decompression with wavelet style and binary style including quantization by device-dependent parser
KR100351654B1 (ko) 현상 표시 변환 데이터의 디지털 처리 방법 및 시스템
KR100360013B1 (ko) 현상 표시 변환 데이터의 디지털 처리 방법 및 시스템
JPH06139351A (ja) 標準adct方式で圧縮された画像の改良復元方法
US10867412B2 (en) Data compression by means of adaptive subsampling
JP3195142B2 (ja) 画像処理方法及び装置
JP3624655B2 (ja) 画像符号化装置および画像復号装置
KR20000034993A (ko) 현상 표시 변환 데이터의 디지털 처리 방법 및 시스템
JP4328727B2 (ja) 画像圧縮伸張法、画像圧縮装置及び画像伸張装置
JP2002010085A (ja) 画像処理方法
JP3299073B2 (ja) 量子化装置及び量子化方法
JP4250553B2 (ja) 画像データ処理方法及び装置
JPH09205552A (ja) 画像符号化方法とその装置
KR101087108B1 (ko) 양자화된 정지 영상의 복원 방법
JP2006024222A (ja) 画像処理装置及び画像処理方法
JPH08237468A (ja) 画像処理方法
JPH08307869A (ja) 画像信号符号化装置及び画像信号復号化装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041005

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041014

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041122

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071210

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081210

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091210

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101210

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees