JP2004056786A - 画像情報符号化装置および復号装置 - Google Patents
画像情報符号化装置および復号装置 Download PDFInfo
- Publication number
- JP2004056786A JP2004056786A JP2003171296A JP2003171296A JP2004056786A JP 2004056786 A JP2004056786 A JP 2004056786A JP 2003171296 A JP2003171296 A JP 2003171296A JP 2003171296 A JP2003171296 A JP 2003171296A JP 2004056786 A JP2004056786 A JP 2004056786A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- information
- feature point
- decoding
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Abandoned
Links
Images
Abstract
【構成】信号分析部101は、輝度信号Yから低周波成分を除いた成分をいくつかの解像度スケールsを有するフィルターで分析し、この分析結果から特徴点を検出して連結し、線情報を生成する。さらに線情報に基づいて分析結果の値を抽出する。信号分析部102は同様な処理を色差信号Uに、信号分析部103は同様な処理を色差信号Vについて行う。演算回路104は、線情報をチェイン符号化などの方法で圧縮する。分析結果圧縮部105〜107は、予測符号化等により入力される信号を圧縮する。信号分析部101〜103は、輝度信号Y、色差信号U,Vの低周波成分を生成する。低周波成分圧縮部108は、各低周波成分を圧縮する。変調部109は、上記処理により得られた信号を多重化および変調等して符号化装置10に接続される伝送媒体等に入力する。
【選択図】 図1
Description
【産業上の利用分野】
本発明は画像情報の特徴点の情報を抽出し、該特徴点の情報に基づいて画像情報を圧縮および伸長する画像情報符号化装置および復号装置に関する。
【0002】
【従来の技術】
従来から動画像情報を圧縮して符号化する方法として、例えばMPEG(Moving Picture Coding Experts Group)方式等が用いられている。
MPEG方式によりカラー(色)動画像情報を符号化する場合、まず輝度信号(Y)および色差信号(U,V)の内、輝度信号Yを用いて動き補償処理が行われる。
さらに輝度信号Yおよび色差信号U,Vの残差信号に対して独立に離散コサイン変換(DCT)処理が行われる。
【0003】
【発明が解決しようとする課題】
上述した、例えばMPEG方式等の通常の動画像情報のトランスフォーム符号化方式においては、動画像情報を構成する輝度信号(Y)要素と色差信号(U,V)要素、あるいは、赤色信号(R)要素、緑色信号(G)要素、および青色信号(B)要素は相互に密接な相関性を有するにもかかわらず、この相関性を積極的に利用することは行われていなかった。
また、映像における物体と物体との境界(エッジ)等の特徴点においては、一般に動画像情報の輝度信号要素(Y)要素と色差信号(U,V)要素、あるいは、各色信号(R,G,B)要素は、相互に非常に深い関係を有する。
しかし、動画像情報の上記特徴点の位置情報などを用いた動画像情報の符号化方式、例えばウエーブレットを用いた符号化方式においても、輝度信号要素と色差信号要素、あるいは、各色信号間の相互の相関性を積極的に用いた方式の例はまだ知られていない。
【0004】
本発明は上述した従来技術の問題点に鑑みてなされたものであり、色動画像情報の特徴点の位置情報を用いた符号化方式において、輝度信号要素(Y)と色差信号(U,V)要素、あるいは、各色信号(R,G,B)要素それぞれの特徴点の位置情報の類似性を積極的に使う画像情報符号化装置および復号装置を提供することを目的とする。
【0005】
【課題を解決するための手段】
上記目的を達成するために本発明の画像情報符号化装置は、複数の信号要素を含む対象信号の内、1つ以上の信号要素の特徴点を検出する検出手段と、
前記特徴点の一部または全てにおける前記各信号要素を分析し、該分析結果および対応する特徴点の位置情報を符号化する分析符号化手段とを有する。
また、前記対象信号は色動画像信号であり、前記信号要素は輝度信号と色差信号であることを特徴とする。
また、前記対象信号は色動画像信号であり、前記信号要素は3原色に対応する色信号であることを特徴とする。
また、前記特徴点は、前記色動画像信号のエッジであることを特徴とする。
また、前記各信号要素の分析は、前記対象信号を1次微分型の分析フィルタによりフィルタリングすることにより行われることを特徴とする。
【0006】
本発明の画像情報復号装置は、複数の信号要素を含む対象信号の内、1つ以上の信号要素の特徴点の一部または全てにおける前記各信号要素の分析結果および対応する特徴点の位置情報を符号化した符号化信号を復号する装置であって、
前記符号化信号に基づいて、前記各分析結果および対応する前記特徴点の位置情報を求め、該分析結果および位置情報に基づいて前記対象信号を復号する。
また、前記対象信号と前記特徴点は、上述と同様であり、前記分析結果は上述と同様の方法により求められる。
【0007】
本発明の画像情報処理システムは、上述の画像情報符号化装置により前記対象信号の符号化を行い、上述の画像情報復号装置により前記符号化された前記対象信号を復号する。
【0008】
本発明の画像情報符号化方法は、複数の信号要素を含む対象信号の内、1つ以上の信号要素の特徴点を検出し、前記特徴点の一部または全てにおける前記各信号要素を分析し、該分析結果および対応する特徴点の位置情報を符号化する。
【0009】
本発明の画像情報復号方法は、複数の信号要素を含む対象信号の内、1つ以上の信号要素の特徴点の一部または全てにおける前記各信号要素の分析結果および対応する特徴点の位置情報を符号化した符号化信号に基づいて、前記各分析結果および対応する前記特徴点の位置情報を求め、該分析結果および位置情報に基づいて前記対象信号を復号する。
【作用】
色動画像情報の複数の信号要素、例えば輝度信号Y要素と色差信号U,V要素の内の11つ以上の信号要素を分析して特徴点を求める。
上記求められた特徴点の位置情報を符号化し、その特徴点の位置にある各信号要素の分析値を符号化して色動画像情報の圧縮符号化を行う。
また、上記符号化された動画像情報の特徴点、およびその位置における1つ以上の信号要素の分析値に関する信号を用いて特徴点の位置を復号し、復号された特徴点の位置における各信号要素の分析値を復号し、その特徴点のみに存在する各信号要素の分析値から元の色動画像情報を合成して色動画像情報の伸長復号を行う。
【0010】
【実施例】
本発明の画像情報符号化装置および復号装置の実施例の説明に先立ち、画像情報の特徴点を検出し、この特徴点の位置情報等に基づいて画像情報の圧縮符号化を行い、またこのように圧縮符号化された動画像情報を伸長複合化する方法の原理を説明する。
【0011】
近年、画像信号等の分析合成の手法として、例えば画像信号における物体と背景の境界といった信号のエッジに注目し、信号のエッジにおける情報から元の信号を合成する方法が報告されている。
例えば、Jacques FromentとStephane MalletによるSecond generation compact image coding with wavelet.(Wavelets−Tutorial in Theory and Applications,II:655〜678,1991)に開示される信号分析と合成方法が上記の方法の一つであり、この方法について以下に説明する。
【0012】
まず、一次元的な信号f(x)を想定する。
この例では、最初に信号f(x)の多重解像度法を用いた分析を行う。
ここで、多重解像度法とは、複数の異なる解像度を有するフィルターを使用して信号の分析を行う方法をいう。
この多重解像度法を用いた分析に用いる分析フィルターの特性を関数φa (x)で表す。
関数φa (x)は周波数領域ωでは次式で表される。
【0013】
【数1】
【0014】
ただし、関数φa (x)のaは多重解像度におけるスケールを表す。
また、式1中のiは虚数を表す。また、^は、この記号を付したその関数のフーリエ変換を表す(以下同じ)。
これは、同じく周波数領域ωで次式で表される関数の元の領域xでの関数θ(x)の微分結果である。
【0015】
【数2】
【0016】
このフィルターφa (x)と信号f(x)を畳み込んだ結果を関数Wa f(x)と表す。
参考文献1には、この振幅|Wa f(x)|の極大値を与える位置( axn )(ただしnは自然数)のフィルター出力Wa f( axn )だけを用いて元の信号を近似できることが示されている。
極大値からの信号の復元の説明の前に、Wa f(x)から元の信号f(x)を復元することに関して説明する。
【0017】
ここで述べる方法はウェーブレットと呼ばれるものであり、近年盛んに研究されている方法である。
分析関数が次式で表される場合、
【0018】
【数3】
【0019】
合成に用いるフィルターφj * (x)は、次式で表される。
【0020】
【数4】
【0021】
ここで、関数の上に付した線は複素共役を表す。また、スケールaに関してはa=2j となるように選んでいる。ただし、j=j1 ,...,jJ を用いている。
ここで、分析合成に関してまとめて元の信号をfo (x)とすると、
【0022】
【数5】
【0023】
【数6】
【0024】
として、
【0025】
【数7】
【0026】
ただし、j= j1,... ,jJ 、が分析され、
【0027】
【数8】
【0028】
【数9】
【0029】
で合成される。このようにして、Wj f(x)とs(jJ)(x)から元の信号fo (x)を復元することができる。
【0030】
したがって、先に述べたWj f( jxn )からWj f(x)を補関することによりW jf(x)を近似し上述した逆変換でfの近似を得ることができる。
補関する方法を以下に述べる。
補関して得られた関数をWj f(x)とすると、
【0031】
【数10】
【0032】
という関数を、
【0033】
【数11】
【0034】
という形式に変形することができる。
さらにこの関数は2点 jxn 、 jx(n+1) を通るので、この事実を利用して式12および式13を得る。
【0035】
【数12】
【0036】
【数13】
【0037】
式12および式13より未知数v1、u1を求めて式11に代入し、次式に示すように補完関数を更新する。
【0038】
【数14】
【0039】
この更新された補完関数および式8を用いて信号f(x)の推定値f’ (x)を求め、再び式7を用いてWj f(x)を再定義する。
以上の処理を繰り返すことによりf’ (x)を更新し、f(x)を復元することができる。
最後に、式9を用いて、fo (x)を得る。
【0040】
以下、第1の実施例として本発明の符号化装置10を図1〜図3を参照して説明する。
符号化装置10は、例えば信号要素として輝度信号Y、および、2種類の色差信号U,Vの3種類の信号を含むカラー動画像情報の特徴点を検出し、該特徴点におけるそれぞれの信号要素を分析し、該分析結果を特徴点の位置情報とともに圧縮符号化する装置である。
【0041】
図1は、本発明の符号化装置10の構成を示す図である。
以下、輝度信号Yおよび色差信号U,Vを画像情報の2次元の座標(x,y)に対応付けてそれぞれ輝度信号Y(x,y)、色差信号U(x,y)、色差信号V(x,y)と表す。
図1において、信号分析部101は、入力される2次元形式の画像情報の輝度信号Y(x,y)の低周波成分を除去して信号Y0(k;s)を生成する。
次に、信号Y0(x,y)をいくつかの解像度スケールsを有するフィルタで分析して特徴点を抽出する。
さらに、抽出された特徴点を連結して線情報LY(k;s)を生成し、線情報LY(k;s)を線情報圧縮部104、および、信号分析部102、103に入力する。
また、線情報LY(k;s)で示される各特徴点における輝度信号Y(x,y)の分析結果として信号AmY(k;s)を分析結果圧縮部105に入力する。ただし、kは各線情報LY(k;s)それぞれにユニークに付される番号であり、特徴点とは画像情報中の物体と背景の境界等に存在するエッジ等の画像情報中の特徴的な点をいう。
【0042】
信号分析部102は、入力される色差信号U(x,y)の低周波成分を除去して信号U0(x,y)とし、信号分析部101から入力される線情報LY(k;s)によって示される画像情報の特徴点において、信号U0(x,y)をいくつかの解像度スケールsを有するフィルタにより分析し、その分析結果として信号AmU(k;s)を分析結果圧縮部106に入力する。
信号分析部103は、入力される色差信号V(x,y)の低周波成分を除去して信号V0(x,y)とし、信号分析部101から入力される線情報LY(k;s)によって示される画像情報の特徴点において、信号V0(x,y)をいくつかの解像度スケールsを有するフィルタにより分析し、その分析結果として信号AmV(k;s)を分析結果圧縮部107に入力する。
信号分析部101〜103それぞれの構成は、図2を参照して後述する。
【0043】
線情報圧縮部104は、信号分析部101から入力される線情報LY(k;s)を、以下に述べるチェイン符号化等の方法により1点当たり3ビットの情報に圧縮し、圧縮結果を信号CLY(k;s)として変調部109に入力する。
以下、演算回路104の圧縮動作を説明する。
まず、線情報LY(k;s)の端の点の座標を圧縮せずに記憶する。
この線情報LY(k;s)の始点の座標は後述する記憶領域line〔k〕〔1〕.x,line〔k〕〔1〕.yに記憶される。
例えば画面の画素数として256×256を想定した場合、座標を表すためにはx軸情報およびY軸情報がそれぞれ8ビットを必要とする。
この情報量を圧縮するために、始点以外の特徴点の位置を、特徴点の列が隣接する画素のいずれに連結するかにより示す。
従って、この例においては8×8ビット必要であった情報量を3ビットに圧縮可能である。
従って、信号CLY(k;s)は次のようなデータ列となる。
まず、ある解像度スケールsにおける線の本数k(s)を変調部109に送り、次に、線の長さ、始点の座標(x,y)、を変調部109に送り、以下3ビットずつ端点がつながる方向を示す情報が連続して送られる。
【0044】
分析結果圧縮部105は、信号分析部101から入力される信号AmY(k;s)を予測符号化方式等により圧縮し、圧縮結果を信号CAmY(k;s)として変調部109に入力する。
分析結果圧縮部106は、信号分析部102から入力される信号AmU(k;s)を予測符号化方式等により圧縮し、圧縮結果を信号CAmU(k;s)として変調部109に入力する。
分析結果圧縮部107は、信号分析部103から入力される信号AmV(k;s)を予測符号化方式等により圧縮し、圧縮結果を信号CAmV(k;s)として変調部109に入力する。
第1の実施例においては、分析結果圧縮部105〜107における圧縮は、例えば最も簡単なDPCM方式による。
すなわち、各線において前の特徴点における分析値との差を取ってその差を適切に量子化する。
低周波成分圧縮部108は、信号YL(i,j),UL(i,j),VL(i,j)を圧縮する。
信号分析部101〜103から低周波成分圧縮部108に入力される信号は、いわゆるローパスフィルタ出力であるので、間引いてサンプリング数を落とすことができる。
第1の実施例においては、式18で定義されるローパスフィルタの特性を考えて、もとのサンプル列の2s サンプルごとのデータがあれば十分である。
従って、(i,j)を画面の座標を表すパラメータとして、間引き処理は次式のように表される。
【0045】
【数15】
【0046】
【数16】
【0047】
【数17】
【0048】
上記各式の間引き結果を信号YL’(i,j),UL’(i,j),VL’(i,j)とする。
ここで、数値i,jは、i・2s <x,j・2s <yを与える0以上の整数である。
低周波成分圧縮部108はさらに、この信号YL’(i,j),UL’(i,j),VL’(i,j)にDCT処理等の2次元的圧縮処理を行って信号CLOWとして変調部109に入力する。
【0049】
変調部109は、線情報圧縮部104、分析結果圧縮部105〜107、および、低周波成分圧縮部108において画像情報の各信号要素を処理して得られた信号CLY(k;s)、信号CAmY(k;s)、信号CAmU(k;s)、信号CAmV(k;s)、および、信号CLOWを多重化し、誤り訂正符号を付加し、さらに所定の変調を行って信号CDataとして出力する。
信号CDataは、符号化装置10に接続される例えば光ディスク記録装置(図示せず)に供給される。
【0050】
図2は、図1に示した信号分析部101〜103の構成を示す図である。
図2において、低周波成分処理部203は、入力される輝度信号Y(x,y)から低周波成分を分離して信号Y0(x,y)としてフィルタ201、202に入力し、分離された低周波成分を圧縮して信号YL(k;s)として出力する。輝度信号Y(x,y)の低周波成分の分離おより該低周波成分の圧縮方法を以下に説明する。
低周波成分処理部203は、輝度信号Y(x,y)のインパルス応答W0(x,y)を算出する。
インパルス応答W0(x,y)を算出する演算は次式で表される。
【0051】
【数18】
【0052】
低周波成分処理部203は、インパルス応答W0(x,y)を用いて輝度信号Y(x,y)に畳み込み演算を行って圧縮し、信号YL(k;s)として出力する。
さらに、低周波成分処理部203は、輝度信号Y(x,y)から信号YL(k;s)を減算し、信号Y0(x,y)を生成する。
低周波成分処理部203における畳み込み演算および信号Y0(x,y)算出のための演算は、次式で表される。
【0053】
【数19】
【0054】
【数20】
【0055】
フィルタ201は、スムージング関数の1次微分型の多重解像度フィルタであって、低周波成分処理回路203により輝度信号Y(x,y)から低周波成分が除去された後の信号Y0(x,y)をいくつかの解像度スケールsで分析し、分析結果をフィルタ201のインパルス応答W1Y(x,y;s)として演算回路204に入力する。
フィルタ202は、スムージング関数の1次微分型の多重解像度フィルタであって、輝度信号Y(x,y)をいくつかの解像度スケールsで分析し、分析結果をフィルタ202のインパルス応答W2Y(x,y;s)として演算回路204に入力する。
フィルタ201、202における処理は、次式で表される。
【0056】
【数21】
【0057】
【数22】
【0058】
式18および式19において、関数G(x,y;s)は所定のスムージング関数であり、例えば次式のガウス関数が用いられる。
【0059】
【数23】
【0060】
式20において、N(s)は正規化のための所定の定数であり、次式で表される。
【0061】
【数24】
【0062】
つまり、フィルタ201、202においては、式18および式19に式16および式17を代入して次式の演算が行われる。
【0063】
【数25】
【0064】
【数26】
【0065】
演算回路204は、インパルス応答W1Y(x,y;s)およびインパルス応答W2Y(x,y;s)をそれぞれ2乗して加算し、さらに加算結果の平方根を算出して信号AY(x,y;s)を生成する。
つまり、演算回路204における演算は次式で表される。
【0066】
【数27】
【0067】
ここで、第2の実施例において後述する復号装置30の処理において必要になるもう1つの信号PhY(x,y;s)について述べる。
信号PhY(x,y;s)は、第1の実施例における符号化装置10においては符号化を行わない。
信号PhY(x,y;s)は、次式で定義される。
【0068】
【数28】
【0069】
ただし、atan〔y,x〕は、y=sin(ph)、x=cos(ph)を与える位相情報ph(−π≦ph≦π)を求める関数である。
従って、信号Ay(x,y;s)と信号PhY(x,y;s)を用いてインパルス応答W1Y(x,y;s)およびインパルス応答W2Y(x,y;s)を求めることができる。
【0070】
【数29】
【0071】
【数30】
ただし、第1の実施例においては、復号装置30において線情報LY(k;s)接線方向を利用することにより、信号PhY(x,y;s)に関する情報は符号化していない。
【0072】
特徴点検出部206は、演算回路204において算出された信号AY(x,y;s)に基づいて、その特徴点の位置情報PY(x,y;s)を検出して情報抽出部205および線情報算出部207に入力する。
信号AY(x,y;s)の特徴点は、信号AY(x,y;s)の極大点を与える点として定義される。
信号AY(x,y;s)の極大点を検出する方法は、信号AY(x,y;s)の微分値が0となる点を検出する等、種々の方法が考えられる。
第1の実施例の符号化装置10においては、信号AY(x,y;s)の極大点の簡易な検出方法として、例えば以下のような方法を採用する。
まず、信号AY(x,y;s)のx軸方向の隣接するサンプル間の差分を算出し、この差分の符号が正から負に変化した点を極大点として検出する。
同様に、信号AY(x,y;s)の隣接するサンプル間の差分の算出をy軸方向にも行い、差分の符号が正から負に変化した点を極大点として検出する。
上述のように求められた極大点の位置情報PY(x,y;s)は、次式に示す形式の信号である。
【0073】
【数31】
【0074】
線情報算出部207は、特徴点検出部206において求められた信号AY(x,y;s)の極大点の位置情報PY(x,y;s)に基づいて極大点を連結し、線情報LY(k;s)を算出して演算回路104および情報抽出部205に入力する。
以下、図3〜図6を参照して線情報算出部207における線情報LY(k;s)算出処理を説明する。
図3は、図2に示した線情報算出部207における特徴点の連結処理を示すフローチャートである。
図4は、図3に示したS100の処理を示すフローチャートである。
図5は、図3に示したS300の処理を示すフローチャートである。
図6は、画像情報の近傍画素を説明する図である。
【0075】
まず、信号PY(x,y;s)の左上隅の座標(x,y)=(0,0)の画素から順次右へ信号PY(x,y;s)=1となる画素を探し、その画素が端点かどうかをチェックする。
つまり図6に示すように、信号PY(x,y;s)=1となる画素を中心に、その画素に隣接する8つの画素0〜7を考える。
端点は、図6に示す画素0〜7の内の1つ以下の画素にしか信号PY(x,y;s)=1の画素がない場合の中心の画素として定義される。
線情報算出部207は、上記定義に従って信号PY(x,y;s)から端点を検出する。
なお、線情報算出部207は、画面の端の画像情報おいては、画面からはみ出る画素についてPY(x,y;s)=0として端点の検出を行う。
【0076】
端点として検出された画素の座標(x,y)のx座標およびy座標をそれぞれ、特徴点検出部206内のline〔k〕〔l〕.xとline〔k〕〔l〕.y(図示せず)という記憶領域に記憶する。
記憶領域line〔k〕〔l〕.x、line〔k〕〔l〕.yに記憶された端点の座標(x,y)における信号PY(x,y;s)を0にセットし、その後の端点検出処理において連結候補から外す。
ここで、数値kは線の番号に相当する数であり、数値lは連結していった点に順番に1,2・・・と付された自然数である。
なお、後述するように記憶領域line〔k〕〔l〕.xにはk番目の線として連結した点の数が記憶される。
【0077】
端点を見つけた後、同じく図6の画素0〜7の内の1つの画素の座標(x’,y’)を考え,初めに見つかった信号PY(x’,y’;s)=1の点を連結する。
このとき連結した点においてPY(x’,Y’;s)=0とセットすることにより、その後の端点検出処理において連結候補から外す。
また、lをインクリメントし(l=l+1とし)、line〔k〕〔l〕.x=x’、line〔k〕〔l〕.y=y’として、この特徴点をk番目の線情報のl番目の点として登録する。
上記の処理を画像情報の全画素について行い、図6の画素0〜7に特徴点がなくなるまで続ける。
最後に、連結した点の数をline〔k〕〔l〕.xに記憶し、このスケールsにおける線の数をline〔0〕〔0〕.xに記憶する。
line〔k〕〔l〕.xおよびline〔k〕〔l〕.yに記憶された情報を線情報LY(k;s)としてスケールの小さい順に、例えば次表の形式で線情報LY(k;s)として出力する。
【0078】
【表1】
line〔0〕〔0〕.x(線の数=k(s))
line〔1〕〔0〕.x(1番目の線を構成する点の数)
line〔1〕〔1〕.x,line〔1〕〔1〕.y(一番目の線の一番目の点の(x,y)座標)
line〔1〕〔2〕.x,line〔1〕〔2〕.y(一番目の線の2番目の点の(x,y)座標)
・
・
・
line〔2〕〔0〕.x (2番目の線を構成するための点の数)
line〔k〕〔l〕.x,line〔k〕〔l〕.y(2番目の線の一番目の点の(x,y)座標)
・
・
【0079】
情報抽出部205は、線情報算出部207から入力される線情報LY(k;s)に基づいて、信号AY(x,y;s)から線情報LY(k;s)に示される各特徴点に対応する値を抽出して信号Am(k;s)として出力する。
以下、情報抽出部205における処理を説明する。
情報抽出部205は、信号AY(x,y;s)と線情報LY(k;s)を用いて、信号AY(x,y;s)のうち必要な情報である特徴点の位置における信号AY(x,y;s)を抽出する。
線情報算出部207が検出した各線に沿って、信号Y0(x,y)の分析値をトレースすると1次元の信号が得られる。
この1次元信号を信号AmY’(k;s)と記す。
【0080】
後述の復号装置30においては、式29および式30に示す演算を行って、インパルス応答W1Y(x,y;s)およびインパルス応答W2Y(x,y;s)を復元する。
この際に用いられる位相情報信号PhY(x,y;s)は、線情報LY(k;s)の接線方向を求め、その角度のcos,sin成分で近似することができる。
この近似は、角度については連結した点の進行方向に接線ベクトルを想定し、そのベクトルとx軸の正の方向の単位ベクトルが構成する角度として、〔0,2π)の区間で一意に決めることができる。
ここで、〔または、〕は閉区間を示し、(または)は開区間を示す。
しかし、信号PhY(x,y;s)を近似する場合、線情報LY(k;s)について上記と逆向きに接ベクトルを与えた方が式29および式30をよく近似する場合がある。
1つの線において常にこの方向が進行方向あるいは逆方向に決まっていれば、線の連結の方向を信号PhY(x,y;s)に合うように始点と終点を入れ替えればよい。
しかし、この方向が途中で変わるという問題が起きることが考えられる。
したがって、常に進行方向に対しての接線ベクトルの方向を考え、x軸との角度を信号PhY(x,y;s)とし、振幅情報信号AmY(x,y;s)に1ビット付加し、信号AmY(x,y;s)の値の正負を示すことができるようにすることによりこの問題に対処する。
このプラスマイナスを考慮した振幅情報をあらためて信号AmY(k;s)と定義する。
したがって、信号AmY(k;s)には振幅情報としてはマイナスの値も入ることになる。
【0081】
上述した情報抽出部205の処理を示した図3〜図5を説明する。
図3において、
ステップ01(S01)において、数値kを0クリアする。
ステップ02(S02)において、画像情報の画素の座標を(x,y)=(0,0)とする。
ステップ03(S03)において、信号PY(x,y;s)の値が1であるか否かを判断する。
1である場合、図4に示すS100の処理に進み、1でない(0である)場合S04の処理に進む。
ステップ04(S04)において、xの値をインクリメント(x=x+1)する。
ステップ05(S05)において、xの値が画像情報のX軸の最大値Xであるか否かを判断する。
Xである場合S03の処理に進み、Xでない場合S06の処理に進む。
ステップ06(S06)において、xの値を0クリア(x=0)し、yの値をインクリメント(y=y+1)する。
ステップ07(S07)において、yの値が画像情報のy軸の最大値Yであるか否かを判断する。
Yである場合S03の処理に進み、Yでない場合S07の処理に進む。
ステップ200(S200)において、S100の処理の返り値である数値edを判断する。
数値edが2以下である場合S300の処理に進み、2以上である場合S04の処理に進む。
【0082】
図4において、
ステップ101(S101)において、数値dx,dyを−1にセットし、数値edを0クリアする。
ここで、数値dx,dyは、図6に示した中心画素に対する近傍の画素0〜7を示し、例えばdx=−1,dy=−1とした場合、図6の画素0を示す。
また数値edは、処理の対象となっている画素の信号PY(x,y;s)が1であると検出された回数を示す。
ステップ102(S102)において、x’=x+dx、y’=y+dyの演算を行う。
ステップ103(S103)において、信号PY(x,y;s)が1であるか否かを判断する。
1である場合S104の処理に進み、1でない(0である)場合S105の処理に進む。
ステップ104(S104)において、数値edをインクリメント(ed=ed+1)する。
ステップ105(S105)において、dxをインクリメントする。
ステップ106(S106)において、dxを−1にセットし、dyをインクリメント(dy=dy+1)する。
ステップ107(S107)において、dyが2であるか否かを判断する。
2である場合S102の処理に進に、2でない場合、図3のS200の処理に進む。
【0083】
図5において、
ステップ301(S301)において、数値kをインクリメント(k=k+1)し、数値lを0にセットする。
ステップ302(S302)において、処理の対象となる画素の信号PY(x,y;s)を0にセットし、dx,dyを−1にセットし、記憶領域line〔k〕〔l〕.xにxをセットし、記憶領域line〔k〕〔l〕.yにyをセットする。
ステップ303(S303)において、x’=x+dx、y’=y+dyの演算を行う。
ステップ304(S304)において、信号PY(x,y;s)が1であるか否かを判断する。
1である場合S310の処理に進み、1でない(0である)場合S305の処理に進む。
ステップ305(S305)において、dxをインクリメント(dx=dx+1)する。
ステップ306(S306)において、dyが1であるか否かを判断する。
1である場合S307の処理に進み、1でない場合(0である場合)S303の処理に進む。
ステップ307(S307)において、dxを−1にセットし、dyをインクリメント(dy=dy+1)する。
ステップ308(S308)において、dyが2であるか否かを判断する。
2である場合S309の処理に進み、2でない場合S303の処理に進む。
ステップ309(S309)において、記憶領域line〔k〕〔0〕に1をセットする。
ステップ310(S310)において、xにx’をセットし、yにy’をセットし、数値lをインクリメント(l=l+1)する。
【0084】
再び図2を参照して説明を行う。
信号分析部102、103は、信号分析部101と同様な構成を有する。
信号分析部101と信号分析部102、103の異なる点は、信号分析部102、103には、特徴点検出部206、線情報算出部207に対応する部分がないことである。
信号分析部102、103においては、信号分析部101で生成された線情報LY(k;s)に含まれる特徴点の位置情報を用いて処理を行う。
【0085】
低周波成分処理部213は、低周波成分処理部203と同じ動作を行う。
つまり低周波成分処理部213は、信号分析部101の低周波成分処理部203が輝度信号Y(x,y)に対して行った処理と同様の処理を色差信号U(x,y)に対して行う。
つまり低周波成分処理部213は、色差信号U(x,y)の低周波成分を分離して信号UL(x,y)として出力し、色差信号U(x,y)から信号UL(x,y)を減算して信号U0(x,y)としてフィルタ211、212に入力する。
【0086】
フィルタ211、212は、フィルタ201、202と同じインパルス応答特性を有するフィルタバンクである。
フィルタ211は、符号化装置10のフィルタ201が信号Y0(x,y)に対して行った処理と同様な処理を信号U0(x,y)に対して行う。
つまり、低周波成分処理部213から入力された信号U0(x,y)について式18に示した演算を行い、インパルス応答W1U(x,y;s)を算出して演算回路214に入力する。
フィルタ212は、符号化装置10のフィルタ202が信号Y0(x,y)に対して行った処理と同様な処理を信号U0(x,y)に対して行う。
つまり、低周波成分処理部213から入力された信号U0(x,y)について式19に示した演算を行い、インパルス応答W1U(x,y;s)を算出して演算回路214に入力する。
【0087】
演算回路214は、符号化装置10の演算回路204がインパルス応答W1Y(x,y;s)およびインパルス応答W2Y(x,y;s)に対して行った処理と同様な処理を、フィルタ211、212から入力されるインパルス応答W1U(x,y;s)およびインパルス応答W1U(x,y;s)に対して行う。
つまり、インパルス応答W1U(x,y;s)およびインパルス応答W1U(x,y;s)をそれぞれ2乗して加算し、この加算結果の平方根を算出して信号AU(x,y;s)として情報抽出部215に入力する。
情報抽出部215は、情報抽出部205が線情報LY(k;s)に基づいて信号AY(x,y;s)に対して行った処理と同様な処理を信号AU(x,y;s)に対して行う。
つまり、信号分析部101から入力される線情報LY(k;s)に基づいて信号AU(x,y;s)から特徴点に対応するものを抽出して信号AmU(k;s)として出力する。
【0088】
以下、信号分析部102における処理を数式により定義する。
【0089】
【数32】
【0090】
【数33】
【0091】
【数34】
【0092】
【数35】
【0093】
【数36】
【0094】
ここで、信号AmU(k;s)は、特徴点を与える線情報LY(k;s)に沿ってトレースした信号AU(x,y;s)の1次元信号である。
【0095】
信号分析部103における処理は、信号分析部102における処理と同じである。
低周波成分処理部223は、信号分析部101の低周波成分処理部203が輝度信号Y(x,y)に対して行った処理と同様の処理を色差信号V(x,y)に対して行う。
つまり低周波成分処理部223は、色差信号V(x,y)の低周波成分を分離して信号VL(x,y)として出力し、色差信号V(x,y)から信号VL(x,y)を減算して信号V0(x,y)としてフィルタ221、222に入力する。
フィルタ221は、符号化装置10のフィルタ201が信号Y0(x,y)に対して行った処理と同様な処理を信号V0(x,y)に対して行う。
つまり、低周波成分処理部223から入力された信号V0(x,y)について式18に示した演算を行い、インパルス応答W1V(x,y;s)を算出して演算回路224に入力する。
フィルタ222は、符号化装置10のフィルタ202が信号Y0(x,y)に対して行った処理と同様な処理を信号V0(x,y)に対して行う。
つまり、低周波成分処理部223から入力された信号V0(x,y)について式19に示した演算を行い、インパルス応答W1V(x,y;s)を算出して演算回路224に入力する。
【0096】
演算回路224は、符号化装置10の演算回路204がインパルス応答W1Y(x,y;s)およびインパルス応答W2Y(x,y;s)に対して行った処理と同様な処理をフィルタ221、222から入力されるインパルス応答W1V(x,y;s)およびインパルス応答W1V(x,y;s)に対して行う。
つまり、インパルス応答W1V(x,y;s)およびインパルス応答W1V(x,y;s)をそれぞれ2乗して加算し、この加算結果の平方根を算出して信号AV(x,y;s)として情報抽出部225に入力する。
情報抽出部225は、情報抽出部205が線情報LY(k;s)に基づいて信号AY(x,y;s)に対して行った処理と同様な処理を信号AV(x,y;s)に対して行う。
つまり、信号分析部101から入力される線情報LY(k;s)に基づいて信号AV(x,y;s)から特徴点に対応するものを抽出して信号AmV(k;s)として出力する。
【0097】
以下、信号分析部103における処理を数式により定義する。
【0098】
【数37】
【0099】
【数38】
【0100】
【数39】
【0101】
【数40】
【0102】
【数41】
ここで、信号AmV(k;s)は、特徴点を与える線情報LY(k;s)に沿ってトレースした信号AV0(x,y;s)の1次元信号である。
【0103】
以下、再び図1を参照して符号化装置10の動作を説明する。
ここで、入力される輝度信号Y(x,y)、色差信号U(x,y),V(x,y)は同じ強さであると仮定する。
通常、各信号Y(x,y),U(x,y),V(x,y)の強度比は4:2:2程度となるが、符号化装置10に入力される前に色動画情報に適切な補間、あるいは、間引き等の変換が行なわれることが多く、このような変換が行われる場合、各信号の強度はほぼ同じであると考えることができる。
【0104】
信号分析部101は、輝度信号Y(x,y)から低周波成分を除いた成分Y0(x,y)をいくつかの解像度スケールsを持つフィルターで分析する。
さらに信号分析部101は、各スケールの分析結果から特徴点を検出し、検出された特徴点の位置を連結して線情報LY(k;s)を生成する。
また、その線情報LY(k;s)に基づき、線情報LY(k;s)の各特徴点の位置の分析結果の値を抽出して信号AmY(k;s)を生成する。
線情報LY(k;s)は、演算回路104、信号分析部102、および、信号分析部103に入力される。
また、信号AmY(k;s)は、分析結果圧縮部105に入力される。
【0105】
信号分析部102は、色差信号U(x,y)から低周波成分を除いた信号U0(x,y)をいくつかの解像度スケールsを持つフィルターで分析し、線情報LY(k;s)に基づいて特徴点に対応する信号AmU(k;s)を抽出する。
信号AmU(k;s)は、分析結果圧縮部106に入力される。
信号分析部103は、色差信号V(x,y)から低周波成分を除いた信号V0(x,y)をいくつかの解像度スケールsを持つフィルターで分析し、線情報LY(k;s)に基づいて特徴点に対応する信号AmV(k;s)を抽出する。
信号AmV(k;s)は、分析結果圧縮部107に入力される。
【0106】
演算回路104は、線情報LY(k;s)をチェイン符号化などの方法で圧縮し、信号CLY(k;s)として出力する。
分析結果圧縮部105〜107は、それぞれ信号AmY(k;s)、信号AmU(k;s)、および、信号AmV(k;s)を予測符号化等により圧縮し、分析結果CAmY(k;s)、分析結果CAmU(k;s)、および、分析結果CAmV(k;s)を生成し、変調部109に入力する。
一方、信号分析部101〜103は、輝度信号Y(x,y)、色差信号U(x,y)、および、色差信号V(x,y)の低周波成分YL(x,y)、低周波成分UL(x,y)、および、低周波成分VL(x,y)を生成し、低周波成分圧縮部108に入力する。
【0107】
低周波成分圧縮部108は、低周波成分YL(x,y)、低周波成分UL(x,y)、および、低周波成分VL(x,y)に間引処理等を行い、さらにDCT(離散的コサイン変換)およびウェーブレット変換等のトランスフォーム符号化を行って圧縮し、信号CLOWとして変調部109に入力する。
変調部109は、信号CLY(k;s)、分析結果CAmY(k;s)、分析結果CAmU(k;s)、分析結果CAmV(k;s)、および、信号CLOWを多重化し、誤り訂正符号等の付加を行って変調をかけ、信号CDataを生成し、符号化装置10に接続される伝送媒体等に入力する。
【0108】
第1の実施例の符号化装置10は、特徴点の検出が輝度信号Y(x,y)に基づいて行われるように構成されているが、特徴点の検出が色差信号U(x,y)あるいは色差信号U(x,y)に基づいて行われるように構成してもよい。
また、符号化装置10の各部分は、それぞれ独立したハードウェアにより構成されているか、あるいは、全てあるいは一部を計算機上にソフトウェア的に実現されているかを問わない。
また、符号化装置10と同様な構成の装置は、輝度信号Y(x,y)、色差信号U(x,y),V(x,y)に対してだけでなく、光の3原色に対応する色信号(R,G,B)に対しても同等の処理を行うことができる。
【0109】
以下、本発明の第2の実施例として、第1の実施例に示した符号化装置10により符号化された画像情報を復号する復号装置30を、図7〜11を参照して説明する。
図7〜図10を参照して復号装置30の構成を説明する。
図7は、本発明の復号装置30の構成を示す図である。
図7と図1を比較してわかるように、復号装置30は、第1の実施例に示した符号化装置10における信号処理および信号の流れを逆にした構成となっている。
図7において、復調部309は、例えば符号化装置10によって符号化され、記録あるいは伝送されてきた符号化信号を復調し、誤り訂正を行い、さらに信号CLY2(k;s)、信号AmY2(k;s)、信号AmU2(k;s)、信号AmV2(k;s)、および、信号CLOWの各信号に分離して、演算回路304、伸長部305〜307、および、低周波成分伸長部308に入力する。
ここで、信号CLY2(k;s)、信号AmY2(k;s)、信号AmU2(k;s)、信号AmV2(k;s)、および、信号CLOWは、それぞれ図1に示した信号CLY(k;s)、信号AmY(k;s)、信号AmU(k;s)、信号AmV(k;s)、および、信号CLOWに対応する。
図7に示す各信号は、それぞれ図1に示した各信号の名称に2を付したものとなっており、符号化装置10と復号装置30との間の記録媒体あるいは伝送路上で、復号装置309において訂正不可能な誤りが発生しない限り、対応する信号と変換誤差および量子化誤差の範囲で同じである。
【0110】
低周波成分伸長部308は、受信した符号化信号について符号化装置10の低周波成分圧縮部108と逆の変換を行い、伸長して2次元信号を得る。
すなわち、式15〜式17の左辺に相当する信号を得る。
さらに、低周波成分圧縮部108で行なわれた間引きの逆である補間を行なう。
この補完処理は、例えば次式で表される。
【0111】
【数42】
【0112】
【数43】
【0113】
【数44】
【0114】
【数45】
【0115】
【数46】
【0116】
【数47】
【0117】
ただし、x=0,・・・,X−1、y=0,・・・,Y−1を示し、〔x/2s 〕は、数値x/2s の小数点部を切り捨てた整数を示す。
また、L0(x,y)は適切なローパスフィルタのインパルス応答である。
低周波成分伸長部308によって生成された信号YL2(k;s)、信号UL2(k;s)、および、信号VL2(k;s)は、それぞれ信号逆変換部301〜303に入力される。
【0118】
演算回路304は、圧縮された線情報信号CLY(k;s)を処理して、符号化装置10における線情報LY(k;s)に相当する特徴点の線情報LY2(k;s)を求める。
演算回路304における処理は、演算回路104の処理の逆変換に相当する。すなわち、演算回路104においては、線情報LY(k;s)は、線情報LY(k;s)の座標、および、図6に示した画素0〜7の内の1つを指定する3ビットの情報系列に圧縮されるので、始点の座標(x,y)をよんだ後、それに続く信号系列の3ビットずつを順次用い、図6で指定された方向に座標を進めて線情報を線情報LY2(k;s)を復元する。
伸長部305〜307は、それぞれ分析結果圧縮部105〜107の逆変換処理、すなわち第1の実施例に説明したDPCMの逆変換を行う。
DPCMの逆変換は、1つ前の系列の値に差分を累積加算していくことで実現される。
DPCMの逆変換により得られた信号系列を、信号AmY2(k;s),AmU2(k;s),AmV2(k;s)として、それぞれ信号逆変換部301〜303に入力する。
【0119】
信号逆変換部301は、特徴点の位置に関する情報として線情報LY2(k;s)、および、線情報LY2(k;s)に含まれる各特徴点における信号AmY2(k;s)を用いて凸射影法により、元の輝度信号Y(x,y)に対応する2次元信号Y2(x,y)を復元する。
信号逆変換部301の処理は、信号逆変換部302、303においても、それぞれ色差信号U2(x,y),V2(x,y)について同様である。
【0120】
信号逆変換部301〜302の構成および動作を図8〜11を参照してさらに説明する。
図8は、図7に示した第1の信号逆変換部301の構成を示す図である。
図9は、図7に示した第2の信号逆変換部302の構成を示す図である。
図10は、図7に示した第3の信号逆変換部303の構成を示す図である。
信号逆変換部301〜303それぞれは、符号化装置10における輝度信号Y(x,y)、色差信号U(x,y),V(x,y)に対応する輝度信号Y2(x,y)、色差信号U2(x,y),V2(x,y)の復元を行う。
図8〜図10を参照してわかるように、信号逆変換部301〜303を構成する各部分は処理ループを構成しており、信号逆変換部301〜303それぞれにおける処理は、それぞれ入力信号が異なるだけで同一である。
また、図8〜図10の各部の接続に付した信号に付されたY,U,Vは、それぞれ処理の対象が輝度信号Y、色差信号U,Vであることを示す。
以下、信号逆変換部301についてのみ説明する。
【0121】
変換部401は、線情報LY2(k;s)により指定される特徴点の座標に、対応する信号AmY2(k;s)を当てはめて2次元情報AY2P(x,y;s)に変換する。
2次元情報AY2P(x,y;s)は、線情報LY2(k;s)により指定される特徴点の座標においてのみ有意な値を有し、それ以外の座標においては0の値をとる2次元情報である。
変換部401の処理においては、さらに移相情報として第1の実施例で説明した信号PhY(x,y)に相当する信号PhY2(x,y)が必要となる。
【0122】
演算部402において、この信号PhY2(x,y)は、線情報LY2(k;s)に含まれる連結した特徴点の座標系列(x,y)から、以下に説明する方法により接線方向を求めたのちに算出される。
【0123】
第1の実施例の符号化装置10においては、線情報LY(k;s)をチェイン符号化をもちいて符号化したため、LY2(k;s)に含まれている(x,y)の系列は格子状に標本化されており、そのままでは接線方向を求めにくい。
そこでまず、ある解像度スケールsのある線の点の系列(xq ,yq )を考える。
ここで、添字qは、順序づけられた点につけられたインデックスであり、q=1,・・・,Q(k)である。
また、Q(k)は,k番目の線に含まれる点の数を表す。
【0124】
以下、特定の特徴点の線に対応する線情報LY2(k;s)に着目して説明を行うので、Q(k)をQと記す。
ここで、関数px(t)という関数を定義する。
関数px(t)は、ある連結された特徴点の系列(xp )の始点からの長さtをパラメータとし、xp を表した関数である。
長さtはインデックスqに対して一意に決まる。
同様に関数py(t)を、ある連結された特徴点の系列(yq )の始点からの長さtおよび座標yq で定義する。
この関数px(q)と関数py(q)を、関数G0(t)の特性を有するローパスフィルタでフィルタリングする。
【0125】
【数48】
【0126】
【数49】
【0127】
この関数lpx(t),lpy(t)は、格子状の標本化の影響がとれた曲線を与える。
関数lpx(t),lpy(t)をtに関して1回微分したものをdpx(t),dpy(t)とする。
実際には,関数G0(t)を予め1階微分した関数G1(t) =∂G0(t)/ ∂tを求めて、次式の関数G1(t)を関数px(q)と関数py(q)に畳み込み演算を行ってフィルタリングを行う。
【0128】
【数50】
【0129】
【数51】
【0130】
上式のベクトル〔dpx〔t〕,dpx〔t〕〕が接線ベクトルになる。
従って、解像度スケールsのこの線より求めた角度は次式で表される。
【0131】
【数52】
【0132】
前述したようにqとtは1対1対応で一意に決まる。
全ての線と解像度スケールでこれらを求める。
特徴点以外での座標において信号PY2(x,y;s)=0として演算部402の出力とする。
信号PhY2(x,y)は、変換部401に入力される。
【0133】
変換部401は、信号PhY2(x,y)および信号AY2(x,y;s)を用いてインパルス応答W2YP(x,y;s),W2YP(x,y;s)を求める。
この演算は次式で表される。
【0134】
【数53】
【0135】
【数54】
【0136】
一方、演算部409、410は、初期状態においてW1YP”(x,y;s)=W1YP’(x,y;s)=0とセットして出力する。
信号W1YP”(x,y;s),W1YP’(x,y;s)は、演算部405、406に入力され、演算部405、406は、線情報LY2(k;s)に含まれる特徴点に対応する信号W1YP”(x,y;s),W1YP’(x,y;s)の値のみをサンプルして信号W1YP’(x,y;s),W2YP’(x,y;s)として出力する。
すなわち、次式の演算が行われる。
【0137】
【数55】
【0138】
【数56】
【0139】
信号W1YP’(x,y;s),W2YP’(x,y;s)は、減算回路411、412において、変換部401および演算部402の出力信号から減算され、信号DW1YP(x,y;s),DW2YP(x,y;s)として演算部403、404に入力される。
【0140】
【数57】
【0141】
【数58】
【0142】
ここで、信号DW1YP(x,y;s)、DW2YP(x,y;s)は、特徴点のみで有意な値を有し、その他の点では0である信号である。
従って、演算部403、404は、信号DW1YP(x,y;s)、DW2YP(x,y;s)に補完処理を行う。
補間の方法は種々考えられるが、ここでは振動が少ないという条件から導かれた関数による補間をかける。
まず、信号DW1YP(x,y;s)はx方向への偏微分の極大点か極小点だったので、yを固定して、x方向に補間をかける。
いま、xi ,x(i+1) がx方向にスキャンしても続く特徴点とする。
その間を、
【0143】
【数59】
【0144】
で定義される関数で補間する。
ただし、k(s)は解像度スケールsに依存した適当な正の数である。
未知数a,bは次式の2つの境界条件で求めることができる。
【0145】
【数60】
【0146】
【数61】
【0147】
y方向の補間も同様に行なう。
その補間関数を関数e2(y)とする。
次に関数e1(x),e2(y)を演算部409、410の出力に加える。
すなわち、次式により各sとyを固定した状態で各区間の関数e1(x)を求め、
【0148】
【数62】
【0149】
同じく、各sとxを固定した状態で各区間でe2(y)を求め、
【0150】
【数63】
【0151】
として、信号W1Y’(x,y;s),W2Y’(x,y;s)を演算部407、408に入力する。
演算部407、408は、式64および式65で与えられる特性を有するフィルターバンクの逆フィルターである。
この逆フィルタ特性を関数IW1(x,y;s),IW2(x,y;s)とし、x,yに関する2次元フーリエ変換をFIW1(wx,wy;s),FIW2(wx,wy;s)とすると、逆フィルターはフーリエ空間で次式のように与えられる。
【0152】
【数64】
【0153】
【数65】
【0154】
ただし、FW1(wx,wy;s),FW2(wx,wy;s)はそれぞれW1(x,y;s),W2(x,y;s)のフーリエ変換を表し、”* ”は複素共役をとることを意味する。
また、関数C(wx,wy)を次式で定義する。
【0155】
【数66】
【0156】
ここで、上式のSUM(s=1,...,S) は、すべての解像度スケールsに関する和を意味する。
【0157】
上式で定義されるフィルターを通って信号YY1(x,y;s),YY2(x,y;s)を出力する。
【0158】
【数67】
【0159】
【数68】
【0160】
これらの信号YY1(x,y;s),YY2(x,y;s)は、すべての解像度スケールsに関して足し合わされ、信号Y0’(x,y)が得られる。
【0161】
【数69】
【0162】
信号Y0’(x,y)は、演算部409、410に入力される。
演算部409、410においては、図2に示したフィルタ201、202と同じ分析が行われる。
【0163】
【数70】
【0164】
【数71】
【0165】
以上で処理ループが完成する。
最初の初期値においては W1Y”(x,y;s)=W2Y”(x,y;s)=0だったが、このループで適当な信号となり,再び演算部403〜408を介して信号Y0’(x,y)が得られる。
以上の処理を適当な条件を満たすまで繰り返す。
この例では構成の簡略化のために、例えば10回上述の処理を繰り返して終了する。
最後に求められた信号Y0’(x,y)に低周波成分YL2(x,y)を加えて最終的な輝度信号Y(x,y)を得る。
色差信号U(x,y),V(x,y)についても、復号装置302、303の各部分において、対応する信号逆変換部301の各部分と同じ処理が行われる。
【0166】
以下、各実施例に述べた本発明の画像情報符号化装置および復号装置の変形例を説明する。
第2の実施例の復号装置30においても、第1の実施例の符号化装置10と同様に、信号要素として色信号R,G,Bを含む動画像情報を復号することが可能である。
信号要素として色信号R,G,Bを含む動画像情報も通常、信号要素として輝度信号Y、および、色差信号U,Vを含む動画像情報と同様に、各信号要素間で特徴点が深い相関関係を有する、あるいは、共通であると考えられるからである。
この場合、例えば色信号Gを輝度信号Yの代わりに、色信号Rを色差信号Uの代わりに、また、色信号Bを色差信号Vの代わりに符号化装置10に入力して符号化を行い、符号化装置10により符号化された符号化信号を復号装置30により復調することができる。
【0167】
また、符号化装置10において、輝度信号Yに基づいて特徴点の線情報LY(k;s)を求め、同一の画面の色信号R,G,Bに対して線情報LY(k;s)を用いて符号化、復号化することも考えられる。
また、符号化装置10のフィルタ201、202の特性は、上述したガウス関数を一回微分した形式のものに限らず、例えばスムーシング関数として3次のBスプラインなどを用てもよい。
また、処理の対象となる動画像信号のサンプル(標本)数は、輝度信号Yおよび色差信号U,Vにおいて同数としたが、異なっていてもよい。
この場合、各信号について適切な間引きや補間を行い、標本数変換して標本数をそろえれば本発明の符号化処理等を容易に行うことができる。
また、輝度信号Yおよび色差信号U,V相互の標本位置がずれている場合、補正して正確に特徴点を対応付けることも容易である。
【0168】
また、標本数あるいは標本点の補正は入力信号にでなく、線情報の状態で行なうことも可能である。
すなわち、線情報LY(k;s)の系列を式48および式49で行なったように、長さtのパラメータ表現にしてから、長さを変換して再標本することにより大きさの異なる線情報LY(k;s)と相似な特徴点からなる曲線を作ることができる。
あるいは、式48および式49に示した関数lpx(t),lpy(t)をそれぞれ違う値で定数倍すれば、縦横比の異なる幾何学的変換を行なった曲線を作ることができる。
また、関数lpx(t),lpy(t)に適当な値を加えることは標本点をその値だけずらすことに相当する。
このようにして、標本数、標本点の補正を線情報の段階で行なうことも可能である。
【0169】
上述の実施例においては、輝度信号Y(x,y)の特徴点情報である線情報LY(k;s)のみをもちいて符号化、復号化を行なったが、色差信号U,V信号においても特徴点検出を行ない、線情報LY(k;s)に存在しない特徴点を符号化することにより画質を向上させるとことが可能である。
また、逆に輝度信号Y(x,y)では特徴点として存在し、色差信号U,Vにおいては対応する位置に特徴点が存在しない場合、この事実を示すための情報を符号化し復号するように構成してもよい。
また、復号装置30も符号化装置10と同様に、各部分をハードウェア的に構成しても、あるいは、計算機上でソフトウェア的に構成してもよい。
上述の各実施例に示したほか、例えば上述の各変形例に示したように、本発明の画像情報符号化装置および復号装置は種々の構成をとることができる。
【0170】
【発明の効果】
以上述べたように本発明は、例えば動画像情報に含まれる複数の信号要素間の相関を積極的に利用した、従来になかった画像情報符号化装置および復号装置を提供する。
また本発明によれば、カラー動画像情報を構成する複数の信号の特徴点のすべてあるいは一部を共通化することによりカラー動画像情報の圧縮効率を非常に高めることができ、情報量を少なく符号化可能であり、また、この符号化信号を適切に復号化できる。
【図面の簡単な説明】
【図1】第1の実施例における本発明の符号化装置の構成を示す図である。
【図2】図1に示した各信号分析部の構成を示す図である。
【図3】図2に示した線情報算出部における特徴点の連結処理を示すフローチャートである。
【図4】図3に示したS100の処理を示すフローチャートである。
【図5】図3に示したS300の処理を示すフローチャートである。
【図6】画像情報の近傍画素を説明する図である。
【図7】第2の実施例における本発明の復号装置の構成を示す図である。
【図8】図7に示した第1の信号逆変換部の構成を示す図である。
【図9】図7に示した第2の信号逆変換部の構成を示す図である。
【図10】図7に示した第3の信号逆変換部の構成を示す図である。
【符号の説明】
10・・・符号化装置、101〜103・・・信号分析部、104・・・演算回路、105〜107・・・分析結果圧縮部、108・・・低周波成分圧縮部、109・・・変調部、201,202,211,212,221,222・・・フィルタ、203,213,223・・・低周波成分処理部、204,214,224・・・演算回路、205,215,225・・・情報抽出部、206・・・特徴点検出部、207・・・線情報算出部、30・・・復号装置、301〜303・・・信号逆変換部、304・・・演算回路、305〜307・・・伸長部、308・・・低周波成分伸長部、401・・・変換部、402〜410・・・演算部、411,412・・・減算回路
Claims (19)
- 複数の信号要素を含む対象信号の内、1つ以上の信号要素の特徴点を検出する検出手段と、
前記特徴点の一部または全てにおける前記各信号要素を分析し、該分析結果および対応する特徴点の位置情報を符号化する分析符号化手段と
を有する画像情報符号化装置。 - 前記対象信号は色動画像信号であり、
前記信号要素は輝度信号と色差信号であること
を特徴とする請求項1に記載の画像情報符号化装置。 - 前記対象信号は色動画像信号であり、
前記信号要素は3原色に対応する色信号であること
を特徴とする請求項1に記載の画像情報符号化装置。 - 前記特徴点は、前記色動画像信号のエッジであること
を特徴とする請求項2または3に記載の画像情報符号化装置。 - 前記各信号要素の分析は、前記対象信号を1次微分型の分析フィルタによりフィルタリングすることにより行われること
を特徴とする請求項1〜4のいずれかに記載の画像情報符号化装置。 - 複数の信号要素を含む対象信号の内、1つ以上の信号要素の特徴点の一部または全てにおける前記各信号要素の分析結果および対応する特徴点の位置情報を符号化した復号信号を復号する装置であって、
前記符号化信号に基づいて、前記各分析結果および対応する前記特徴点の位置情報を求め、該分析結果および位置情報に基づいて前記対象信号を復号する
画像情報復号装置。 - 前記対象信号は色動画像信号であり、前記信号要素は輝度信号と色差信号であること
を特徴とする請求項6に記載の画像情報復号装置。 - 前記対象信号は色動画像信号であり、前記信号要素は3原色に対応する色信号であること
を特徴とする請求項6に記載の画像情報復号装置。 - 前記特徴点は、前記色動画像信号のエッジであること
を特徴とする請求項7または8に記載の画像情報復号装置。 - 前記各信号要素の分析は、前記符号化信号を1次微分型の分析フィルタによりフィルタリングすることにより行われること
を特徴とする請求項6〜9のいずれかに記載の画像情報復号装置。 - 請求項1〜5のいずれかに記載の画像情報符号化装置により前記対象信号の符号化を行い、
請求項6〜10のいずれかに記載の画像情報復号装置により前記符号化された対象信号を復号する
画像情報処理システム。 - 複数の信号要素を含む対象信号の内、1つ以上の信号要素の特徴点を検出し、前記特徴点の一部または全てにおける前記各信号要素を分析し、該分析結果および対応する特徴点の位置情報を符号化する
画像情報符号化方法。 - 複数の信号要素を含む対象信号の内、1つ以上の信号要素の特徴点の一部または全てにおける前記各信号要素の分析結果および対応する特徴点の位置情報を符号化した符号化信号に基づいて、前記各分析結果および対応する前記特徴点の位置情報を求め、該分析結果および位置情報に基づいて前記対象信号を復号する
画像情報復号方法。 - カラー動画像情報に含まれる輝度信号と色差信号とを符号化する画像情報符号化装置であって、
前記輝度信号内の特徴点の位置を検出する第1の検出手段と、
前記輝度信号および前記色差信号のそれぞれについて、前記第1の検出手段が検出した前記特徴点の位置の値を検出する第2の検出手段と、
前記第1の検出手段が検出した前記特徴点の位置を示す位置情報と、前記第2の検出手段が検出した前記輝度信号の前記特徴点の位置の値を示す第1の特徴量情報と、前記第2の工程で検出した前記色差信号の前記特徴点の位置の値を示す第2の特徴量情報とを符号化する符号化手段と
を有する画像情報符号化装置。 - 前記第1の検出手段は、前記輝度信号内の前記検出した特徴点の位置を連結した線情報を生成し、
前記符号化手段は、前記第1の検出手段が生成した前記線情報を符号化する
請求項14記載の画像情報符号化装置。 - カラー動画像情報に含まれる輝度信号Yと色差信号U,Vとを符号化する画像情報符号化装置であって、
前記輝度信号Yに畳み込み演算を行って第1の信号YLを生成し、前記輝度信号Yから前記第1の信号YLを減算して第2の信号Y0を生成する第1の処理手段と、
前記第1の処理手段が生成した前記第2の信号Y0にスムージング関数の1次微分型の多重解像度フィルタ処理を施して2つのインパルス応答を出力する第1のフィルタ回路と、
前記第1のフィルタ回路から出力された前記2つのインパルス応答の2乗和平方根を算出する第1の演算回路と、
前記第1の演算回路の算出結果の極大点を与える特徴点を検出する特徴点検出手段と、
前記特徴点検出手段が検出した特徴点を連結して線情報を算出する線情報算出手段と、
前記第1の演算回路の算出結果から、前記線情報算出手段が算出した前記線情報が示す前記特徴点に対応する値を抽出する第1の情報抽出手段と、
色差信号Uに畳み込み演算を行って第3の信号ULを生成し、前記色差信号Uから前記第3の信号ULを減算して第4の信号U0を生成する第2の処理手段と、
前記第2の処理手段が生成した第4の信号U0にスムージング関数の1次微分型の多重解像度フィルタ処理を施して2つのインパルス応答を出力する第2のフィルタ回路と、
前記第2のフィルタ回路から出力された前記2つのインパルス応答の2乗和平方根を算出する第2の演算回路と、
前記第2の演算回路の算出結果から、前記線情報算出手段が算出した前記線情報が示す前記特徴点に対応する値を抽出する第2の情報抽出手段と、
色差信号Vに畳み込み演算を行って第5の信号VLを生成し、前記色差信号Vから前記第5の信号VLを減算して第6の信号V0を生成する第3の処理手段と、
前記第3の処理手段が生成した前記第6の信号VLにスムージング関数の1次微分型の多重解像度フィルタ処理を施して2つのインパルス応答を出力する第3のフィルタ回路と、
前記第3のフィルタ回路から出力された前記2つのインパルス応答の2乗和平方根を算出する第3の演算回路と、
前記第3の演算回路の算出結果から、前記線情報算出手段が算出した前記線情報が示す前記特徴点に対応する値を抽出する第3の情報抽出手段と、
前記線情報算出手段が算出した前記線情報を圧縮する第1の圧縮手段と、
前記第1の情報抽出手段が抽出した値を圧縮する第2の圧縮手段と、
前記第2の情報抽出手段が抽出した値を圧縮する第3の圧縮手段と、
前記第3の情報抽出手段が抽出した値を圧縮する第4の圧縮手段と、
前記第1の処理手段が生成した前記第1の信号YLと、前記第2の処理手段が生成した前記第3の信号ULと、前記第3の処理手段が生成した前記第5の信号VLとを圧縮する第5の圧縮手段と
を有する画像情報符号化装置。 - カラー動画像情報に含まれる輝度信号と色差信号とを符号化する符号化方法であって、
前記輝度信号内の特徴点の位置を検出する第1の工程と、
前記輝度信号および前記色差信号のそれぞれについて、前記第1の工程で検出した前記特徴点の位置の値を検出する第2の工程と、
前記第1の工程で検出した前記特徴点の位置を示す位置情報と、前記第2の工程で検出した前記輝度信号の前記特徴点の位置の値を示す第1の特徴量情報と、前記第2の工程で検出した前記色差信号の前記特徴点の位置の値を示す第2の特徴量情報とを符号化する第3の工程と
を有する画像情報符号化方法。 - カラー画像情報を構成する輝度信号内の特徴点の位置を示す位置情報と、前記輝度信号内の前記特徴点の位置における値を示す第1の特徴量情報と、前記輝度信号と共に前記カラー画像情報を構成する色差信号内の前記特徴点の位置における値を示す第2の特徴量情報とを復号する画像情報復号装置であって、
前記位置情報を復号する第1の復号手段と、
前記輝度信号についての前記特徴点の位置における前記第1の特徴量情報を復号し、前記色差信号についての前記特徴点の位置における前記第2の特徴量情報を復号する第2の復号手段と、
前記第2の復号手段で復号された前記第1の特徴量情報を変換して前記第1の復号手段で復号された位置情報が示す前記特徴点の位置においてのみ当該第1の特徴量情報が有意な値を示す第1の2次元情報を生成し、前記第2の復号手段で復号された前記第2の特徴量情報を変換して前記第1の復号手段で復号された位置情報が示す前記特徴点の位置においてのみ当該第2の特徴量情報が有意な値を示す第2の2次元情報を生成する変換手段と、
前記変換手段で得られた前記第1の2次元情報を補間して前記輝度信号を生成し、前記変換手段で得られた前記第2の2次元情報を補間して前記色差信号を生成する補間手段と
を有する画像情報復号装置。 - カラー画像情報を構成する輝度信号内の特徴点の位置を示す位置情報と、前記輝度信号内の前記特徴点の位置における値を示す第1の特徴量情報と、前記輝度信号と共に前記カラー画像情報を構成する色差信号内の前記特徴点の位置における値を示す第2の特徴量情報とを復号する画像情報復号方法であって、
前記位置情報を復号する第1の工程と、
前記輝度信号についての前記特徴点の位置における前記第1の特徴量情報を復号し、前記色差信号についての前記特徴点の位置における前記第2の特徴量情報を復号する第2の工程と、
前記第2の工程で復号された前記第1の特徴量情報を変換して前記第1の復号手段で復号された位置情報が示す前記特徴点の位置においてのみ当該第1の特徴量情報が有意な値を示す第1の2次元情報を生成し、前記第2の工程で復号された前記第2の特徴量情報を変換して前記第1の復号手段で復号された位置情報が示す前記特徴点の位置においてのみ当該第2の特徴量情報が有意な値を示す第2の2次元情報を生成する第3の工程と、
前記第3の工程で得られた前記第1の2次元情報を補間して前記輝度信号を生成し、前記変換手段で得られた前記第2の2次元情報を補間して前記色差信号を生成する第4の工程と
を有する画像情報復号方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003171296A JP2004056786A (ja) | 2003-06-16 | 2003-06-16 | 画像情報符号化装置および復号装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003171296A JP2004056786A (ja) | 2003-06-16 | 2003-06-16 | 画像情報符号化装置および復号装置 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP22166193A Division JP3640405B2 (ja) | 1993-09-07 | 1993-09-07 | 画像情報符号化装置および復号装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004056786A true JP2004056786A (ja) | 2004-02-19 |
Family
ID=31944692
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003171296A Abandoned JP2004056786A (ja) | 2003-06-16 | 2003-06-16 | 画像情報符号化装置および復号装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004056786A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011022952A1 (zh) * | 2009-08-28 | 2011-03-03 | 深圳市蓝可迪科技有限公司 | 一种基于比特能量链式编码及信道参量的自适应通信方法 |
WO2013002589A3 (ko) * | 2011-06-28 | 2013-03-14 | 삼성전자 주식회사 | 휘도 성분 영상을 이용한 색차 성분 영상의 예측 방법 및 예측 장치 |
WO2017203679A1 (ja) * | 2016-05-27 | 2017-11-30 | 株式会社日立ハイテクノロジーズ | 発光画像符号化装置、発光画像復号化装置、及び発光画像解析システム |
-
2003
- 2003-06-16 JP JP2003171296A patent/JP2004056786A/ja not_active Abandoned
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011022952A1 (zh) * | 2009-08-28 | 2011-03-03 | 深圳市蓝可迪科技有限公司 | 一种基于比特能量链式编码及信道参量的自适应通信方法 |
WO2013002589A3 (ko) * | 2011-06-28 | 2013-03-14 | 삼성전자 주식회사 | 휘도 성분 영상을 이용한 색차 성분 영상의 예측 방법 및 예측 장치 |
US9674521B2 (en) | 2011-06-28 | 2017-06-06 | Samsung Electronics Co., Ltd. | Prediction method and apparatus for chroma component of image using luma component of image |
WO2017203679A1 (ja) * | 2016-05-27 | 2017-11-30 | 株式会社日立ハイテクノロジーズ | 発光画像符号化装置、発光画像復号化装置、及び発光画像解析システム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20040233991A1 (en) | Video encoding apparatus, video encoding method, video encoding program, video decoding apparatus, video decoding method and video decoding program | |
US6996593B2 (en) | Filter processing apparatus and its control method, program, and storage medium | |
CN114598886B (zh) | 一种图像编码的方法、解码的方法及相关装置 | |
JPH06245082A (ja) | 画像符号化装置および復号装置 | |
JP3640405B2 (ja) | 画像情報符号化装置および復号装置 | |
JP2004056786A (ja) | 画像情報符号化装置および復号装置 | |
JP3375539B2 (ja) | 画像圧縮装置および画像伸張装置 | |
JP3735876B2 (ja) | 画像符号化装置および画像復号化装置 | |
JP3536318B2 (ja) | 画像符号化方法と装置および画像復号化装置 | |
JP5011138B2 (ja) | 画像符号化装置、画像符号化方法、画像復号化装置、画像復号化方法 | |
US7289678B2 (en) | Image transformation method and apparatus, and storage medium | |
JPH08274996A (ja) | 画像処理装置 | |
JP3709106B2 (ja) | 画像圧縮および伸張装置 | |
JPH08147480A (ja) | 画像符号化装置および画像復号化装置 | |
JP6557483B2 (ja) | 符号化装置、符号化システム、及びプログラム | |
JP3090236B2 (ja) | 画像信号の符号化/復号化装置 | |
JP3584327B2 (ja) | 画像信号分析方法と装置および画像信号合成方法と装置 | |
Montajabi | Deep Learning Methods for Codecs | |
JP2004080815A (ja) | 画像処理装置、画像処理方法および記録媒体 | |
JPH07240921A (ja) | 画像データの圧縮および伸張 | |
Luo et al. | An efficient framework for lossless color image compression | |
CN117376576A (zh) | 多级超分的jpeg无损转码方法、系统、设备及存储介质 | |
JP2006191485A (ja) | 画像信号変換方法、画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム | |
JP2010154577A (ja) | 画像信号変換方法、画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム | |
JPH06197325A (ja) | 動画像分析と合成方法およびその装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20041124 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050124 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050308 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050506 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050712 |
|
A762 | Written abandonment of application |
Free format text: JAPANESE INTERMEDIATE CODE: A762 Effective date: 20050826 |