JP4001629B2 - コンピュータにより画像セグメントのピクセルを処理する方法および装置 - Google Patents
コンピュータにより画像セグメントのピクセルを処理する方法および装置 Download PDFInfo
- Publication number
- JP4001629B2 JP4001629B2 JP50207698A JP50207698A JP4001629B2 JP 4001629 B2 JP4001629 B2 JP 4001629B2 JP 50207698 A JP50207698 A JP 50207698A JP 50207698 A JP50207698 A JP 50207698A JP 4001629 B2 JP4001629 B2 JP 4001629B2
- Authority
- JP
- Japan
- Prior art keywords
- image segment
- pixel
- value
- bps2
- luminance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/649—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding the transform being applied to non rectangular image segments
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
画像情報が送信側から受信側へ伝送された後、画像の個々のオブジェクトが伝送されたモデリングパラメータに基づき受信側で再構築される。
オブジェクトをモデリングするための可能なやり方として挙げられるのは、適切に選択された一群の基底関数に従って画像関数を級数展開することである。この場合、モデリングパラメータはそれらの画像関数の展開係数に対応する。画像のこのようなモデリングは、変換符号化の基礎である。画像において任意の境界をもつ個々のオブジェクトを符号化しようとする場合、通常は凸状でない境界を有するセグメントのための変換が必要となる。
これまで、このような変換のために2つの基本的な手法が存在する。
文献[1]に記載されているやり方の場合、所定の画像セグメントがまずはじめに、できるかぎり小さいサイズの外接する矩形に埋め込まれる。この矩形に対し離散コサイン変換(DCT)を指定することができ、これは完全に変換の基底関数により表されている。この変換をセグメントの形状に整合させる目的で、矩形において規定された各基底関数をセグメントの形状に関して順次、直交化する。そして結果として生じる形状に依存する直交基底関数により、求められているセグメント適合化された変換が形成される。
この解決手法の欠点は、この手法を実行するために計算能力やメモリスペースについて高い要求が課されることである。さらにこの公知の手法の欠点とは、得られた変換のデータ圧縮に対する適性に関して確実性が保証されないことである。なぜならば、変換は基本的に直交化の順序に依存し、つまりはこの手法の特定のインプリメンテーションに依存するからである。
文献[2]には、所定の画像セグメントを行と列に従って別個に変換するようにした手法が開示されている。この目的でまずはじめに、画像セグメントのすべての行が左側に整列され、それらに対し順次、一次元の水平方向の変換が施され、ここでそれらの変換長は対応する行におけるピクセルの個数にそれぞれ相応する。次に、結果として生じた係数がさらにもう1回、垂直方向で変換される。
この手法に潜む欠点とは、ピクセルがソートしなおされてしまうため各ピクセルの輝度値の相関(各ピクセルの類似度)を完全には利用できないことである。
文献[2]から公知のこの手法を改善するため、文献[3]に記載のやり方によれば、簡単な画像モデルのために整合された凸状の画像セグメント形状のための変換が実行される。しかしこの場合、行または列の動きにおいて途切れ(ホール、空所)をもたないような画像セグメント形状だけしか許容されない。
さらに上述の公知の方法のもつ欠点とは、可変の変換長ゆえに標準変換方式ないしは変換実行用の標準モジュールをもはや使用できないことである。
さらに文献[4]によれば、8×8のピクセルをもつ正方形の1つの画像セグメントにおいて、その正方形の画像セグメントに少なくとも部分的に含まれている第1の画像セグメントには属していないすべてのピクセルに対し、まえもって定められた一定の輝度値を割り当てることが知られている。
この方法には、なんといっても2つの欠点がある。
まず、第1の画像セグメントと正方形の画像セグメントの境界領域において、各ピクセル間で輝度値の信号経過に跳躍個所の発生する可能性があり、このことで高い周波数のスペクトル成分が引き起こされ、その結果、不所望かつ不必要な符号化の手間がかかるようになり、ひいては伝送容量に対する不所望かつ不必要な要求が課されるようになってしまう。
第2にこの方法は、正方形の画像セグメントによるブロックベースの方式に制約されてしまう。
標準画像変換方式をもはや適用できないことから、文献[1],[2],[3]から公知の手法の場合、上述の公知の手法を利用する符号化ユニットのためにかなりのコストがかかる。
標準変換方式は文献[5]から公知である。
文献[6]から画像信号符号化装置が知られており、これによれば第1の画像領域から第2の画像領域への信号経過において信号の外挿が行われる。この信号外挿は、第1の画像領域周縁部における信号経過のミラーリングによって行われる。
文献[7]には信号外挿の異なる実現手法が開示されており、これによれば信号経過特性の周期的な継続、対称的な継続ならびに値を一定にした継続が行われる。
文献[6]と[7]により公知の手法すべてについて欠点となるのは、信号経過特性および外挿された信号経過特性から生じる信号全体に対するスペクトル変換により、不所望なことに高いスペクトル成分が多数発生することであり、つまりは高い方のスペクトル領域に、付加的に符号化して伝送しなければならない多くのスペクトル係数が生じることである。
したがって本発明の課題は、結果として画像セグメント目標形状の画像セグメントをもつことになる任意の形状の画像セグメントにおけるピクセルを処理するための方法において、画像セグメント目標形状の画像セグメント内で輝度値および/または色値の信号経過特性が、もとの画像セグメント内には位置しない領域内では滑らかな経過特性をもつようにするとともに、もとの画像セグメントともとの画像セグメント内には位置しない領域との境界領域では、信号経過にできるかぎり跳躍個所が生じないようにすることである。
この課題は、請求項1記載の方法により解決される。
本発明の方法によれば、第1の画像セグメントのピクセルに輝度値および/または色値が割り当てられ、その際、第1の画像セグメントは任意の形状を有するものとすることができる。これらの輝度値および/または色値は、やはり任意の形状をもつ第2の画像セグメントのピクセルに対し外挿される。外挿にあたり留意されることは、第2の画像セグメントにおけるピクセルの輝度値および/または色値に関する信号経過が滑らかになるようにする点である。さらにこの外挿は、第1の画像セグメントのピクセルと第2の画像セグメントのピクセルの移行領域において、輝度値および/または色値の信号経過にできるかぎり跳躍個所が生じないように実行される。つまり外挿にあたり、第1の画像セグメントと第2の画像セグメントの間の境界領域も同様に滑らかにされる。
本発明による方法により、第1の画像セグメントにおけるピクセルの輝度値および/または色値に関する信号経過を、第2の画像セグメントのピクセルに対し外挿することができるようになり、その際、信号経過における高い空間周波数つまりは高いスペクトル成分したがってかなり高い周波数に対するスペクトル係数ができるかぎり回避される。その結果、一般に量子化し符号化し伝送しなければならないスペクトル係数が削減されることになる。したがって画像符号化において、スペクトル係数の量子化、符号化ならびに伝送にあたり著しい節約が実現される。
従属請求項には本発明の有利な実施形態が示されている。
信号経過の外挿のために、平滑特性をもつディジタルフィルタを使用するのが有利であり、これによって信号経過の平滑化に関する要求が保証される。本発明のこの実施形態によれば、信号経過の外挿が完全に空間領域(space domain)において実行される。
さらに、ディジタルフィルタとして局所平均値フィルタを用いるのが有利である。それというのも、このような平均値フィルタを用いることで平滑化規準について最適な外挿が達成されるからである。
さらに有利であるのは、方法開始にあたり第2の画像セグメントにおける各ピクセルの輝度値および/または色値を所定値で初期化することであり、たとえば第1の画像セグメントにおける各ピクセルの輝度値および/または色値に関する平均値によって初期化する。このようにすることで、この方法の結果がいっそう改善される。
また、この方法を何回も繰り返して実行するのが有利であって、このことで平滑特性がさらにいっそう改善される。
しかし本発明による方法は必ずしも空間領域だけで実行されなくてもよく、変形実施形態も可能である。この場合、第1の関数が形成され、これは少なくとも第1の項と第2の項から成り、これらによって第1の画像セグメントにおいてオリジナルに対する忠実性の規準が保証されるとともに、輝度値および/または色値の外挿における平滑規準も保証される。
また、本発明の1つの実施形態によれば、第2の画像セグメントにおける補われる信号経過を記述する一般的に受け入れられる関数に基づき、本発明による方法においてこの関数をスペクトル領域に変換し、変換された関数を第1の関数に代入し、第1の関数を最小化するのが有利である。結果として生じる線形の等式がスペクトル係数について解かれ、対応するスペクトル係数が量子化され、符号化され、伝送される。
整数計算の用いられる本発明の方法の実施形態によれば、この方法を実施するための計算時間やハードウェアコストの著しい節約が実現される。
さらに有利であるのは、第1の画像セグメントと第2の画像セグメントがいっしょになって1つの正方形を成すようにすることである。このことにより、標準化されているブロックベースの画像符号方式たとえばDCTおよびそのために存在する最適なハードウェアモジュールならびにソフトウェアによる実現手法を利用できるようになる。つまり、任意の第1の画像セグメントに対しこの方法の枠内で、方法実行後にブロックベースの変換符号化のための標準モジュールを使用することができる。これによって、いわゆるオブジェクトベースの画像符号化においても著しくコストが節約されるようになる。
次に、図面を参照しながら本発明の2つの実施例について詳細に説明する。
図面
図1は、個々のピクセルと第1の画像セグメントと第2の画像セグメントを有する画像を示す図である。
図2は、本発明による方法の個々のステップを示すフローチャートである。
図3は、本発明による方法の第1の実施例における個々のステップを示すフローチャートである。
図4は、本発明による方法の第2の実施例における個々のステップを示すフローチャートである。
図5a〜図5cは、外挿前と外挿後の画像セグメントにおけるピクセルならびに所属の輝度値または色値を示す図である。
図6は、実例として本発明を実行するカメラと2つのコンピュータと2つのディスプレイから成る装置構成を示す図である。
図1には、任意の個数のピクセルBPを有するディジタル画像Bが示されている。いわゆるオブジェクトベースの画像符号化方式の場合、1つの画像BのピクセルBPはそのセマンティクスに従って画像オブジェクトBOにセグメント化される。オブジェクトベースの画像符号化方式の場合、画像オブジェクトBOの少なくとも一部分をその画像オブジェクトBOには属さないピクセルBPとともに符号化して伝送するのが有利であるし、あるいはそのことが必要である。この種の実例は図1の場合、画像オブジェクトBOにおけるピクセルの少なくとも一部分を有する第1の画像セグメントBS1におけるピクセルBPによって描かれている。さらに図1には第2の画像セグメントBS2が描かれており、このセグメントは第1の画像セグメントBS1には属さない別のピクセルBPを有している。第1の画像セグメントBS1内に存在するピクセルBPのことを、以下では第1セグメントBS1のピクセルBS1と称する。また、第2のピクセルBS2内に存在するピクセルのことを、以下では第2セグメントBS2のピクセルBPS2と称する。
第1の画像セグメントBS1も第2の画像セグメントBS2も、個々で述べる方法の範囲内において任意の形状をもつことができる。
第1の画像セグメントBS1と第2の画像セグメントBS2がいっしょになって合成画像セグメントSBSが形成され、これには第1のセグメントBS1におけるすべてのピクセルBPS1と第2の画像セグメントBS2におけるすべてのピクセルBPS2が含まれている。
実例として描いた図面では合成画像セグメントSBSは正方形であるが、これは本発明による方法をこの方法の有利な実施形態としてみやすく表しただけのものである。しかしながら、第1の画像セグメントBS1と第2の画像セグメントBS2の形状について、さらには合成画像セグメントSBSの形状について、いかなる制約もないことは、当業者にとって自明である。
画像BのピクセルBPには通常、輝度値(ルミナンス値)および/または色値が割り当てられている。言葉で簡単に表現できるようにするため、以下ではこの方法についてピクセルBPに対応づけられた輝度値だけに基づいて説明する。しかしこの方法は何の変更もなく、ピクセルBPに割り当てられた色値だけに対しても実行できるし、あるいは輝度値と色値についても実行可能である。
輝度値(および/または色値)は一般に画像符号化方式においてスペクトル領域に変換され、それによって各ピクセルBPに割り当てられたスペクトル係数が形成される。一般的な画像符号化方式では、ピクセルBPのスペクトル係数および/またはスペクトル係数の差分情報が量子化され、伝送される。
合成画像セグメントSBSの特殊な形状に特化された画像符号化方式も利用できるようにするためには、たとえば第1の画像セグメントBS1がその画像符号化方式において処理可能な特別な画像セグメント形状とは異なる形状をもっているにもかかわらず、正方形の合成画像セグメントSBSに特化されているような画像符号化方式も利用できるようにするためには、信号の外挿を実行する必要がある。
信号の外挿は信号の補間とも呼ばれる。信号の外挿は、第1の画像セグメントBS1から第2の画像セグメントBS2に対して行われる。第1の画像セグメントBS1と第2の画像セグメントBS2がいっしょになって合成セグメント画像SBSが形成される。この特別な実施例では、合成画像セグメントSBSは正方形であるものの、合成画像セグメントSBSの形状はまったく任意である。
画像BのピクセルBPの輝度値により、ピクセルBPに関する輝度値の信号経過が生じる。相応に、第1の画像セグメントBS1における各ピクセルBPS1の輝度値によって、第1の画像セグメントBS1の各ピクセルBPS1に関する輝度値の信号経過が形成される。さらに、第2の画像セグメントBS2のピクセルBPS2の輝度値によって、第2の画像セグメントBS2におけるピクセルBPS2に関する輝度値の信号経過が形成される。
この方法により、輝度値からスペクトル領域への変換が、後で述べる信号外挿により不必要な高いスペクトル成分つまりはスペクトル係数ができるかぎり生じないように行われるようになる。
信号外挿にあたり、第1の画像セグメントBS1における各ピクセルBPS1の輝度値の信号経過が、第2の画像セグメントBS2における各ピクセルBPS2の輝度値に対し外挿される。
信号外挿において、第2の画像セグメントBS2のピクセルBPS2に対し一定の輝度値を割り当てることは公知である[4]。しかし、第2の画像セグメントBS2のすべてのピクセルBPS2に対し一定の均一な値を割り当てることで、第1の画像セグメントBS1と第2の画像セグメントBS2との間の境界領域GBに跳躍個所が発生してしまう。そして境界領域GBにおける輝度値の信号経過における跳躍個所によって、高い周波数のスペクトル係数が生じることになり、その結果、符号化や量子化が煩雑になり、ひいてはディジタル画像Bの符号化と伝送における伝送コストが高まってしまう。
この場合、第1の画像セグメントBS1と第2の画像セグメントBS2におけるピクセルBPS1,BPS2が隣り合う領域を、境界領域GBと称する。境界領域GBを、第1の画像セグメントBS1と第2の画像セグメントBS2におけるじかに隣り合うピクセルBPS1を越えて広がっていてもよいし、個々の画像セグメントBS1,BS2における他のピクセルBPS1,BPS2まで広がっていてもよい。
公知の手法における欠点である境界領域GBの跳躍個所を回避する目的で、画像BのピクセルBPに輝度値(および/または色値)を割り当てる本発明の方法によれば、第1の画像セグメントBS1のピクセルBPS1の輝度値が第2の画像セグメントBS2のピクセルBPS2の輝度値に対し外挿される(図2のステップ201,202参照)。
信号の外挿は、補われるブロックの符号化つまり第2の画像セグメントBS2のピクセルBPS2の符号化に必要な手間ないしはコストが、できるかぎり抑えられるように実行される。
この目的で、信号の外挿は次のようにして行われる。すなわち、
−第2の画像セグメントBS2のピクセルBPS2の輝度値は、できるかぎり滑らかな経過をもつようにする。
−これと同時に、第1の画像セグメントBS1と第2の画像セグメントBS2との間の境界領域GBにおいて、輝度値の信号経過に跳躍個所が生じないようにする。
これら両方の要求は以下のことにより満たされる。すなわち、信号の外挿にあたり第2の画像セグメントBS2におけるピクセルBPS2の輝度値の信号経過を滑らかにするとともに(ステップ203)、第2の画像セグメントBS2のピクセルBPS2の輝度値の信号経過を、第1の画像セグメントBS1と第2の画像セグメントBS2との間の境界領域GBにおける第1の画像セグメントBS1のピクセルBPS1の輝度値に整合させる(ステップ204)。
次に、実例として上述のステップを実現可能な2つの実施形態について説明する。
実施例1:空間領域における解決手段
図3には、”平滑化”信号外挿実現に関する第1の実施例のフローチャートが描かれている。
この実施例では信号補間のために、平滑特性をもつディジタルフィルタが使用される。この方法において利用可能なディジタルフィルタは、たとえば局所平均値フィルタまたはメジアンフィルタあるいはローパス特性を持つ任意のディジタルフィルタである。
以下、第1の実施例について局所平均値フィルタを用いて説明するが、これが唯一の解決手段ではないことを理解されたい。
図面に示されているようにこの実施形態の場合、ディジタルフィルタのフィルタマスクが、第2のセグメントBS2におけるピクセルBPS2の少なくとも一部分の上に”置かれ”(ステップ301)、このことにより第2の画像セグメントBS2におけるピクセルBPS2の少なくとも一部分についてディジタルフィルタの演算子に応じて、隣り合うピクセルから新たな輝度値たとえば輝度値の平均値が、第2の画像セグメントBS2の個々のピクセルBPS2について求められる(ステップ302)。”平均値”は、第2の画像セグメントBS2の個々のピクセルBPS2に割り当てられる(ステップ303)。
局所平均値フィルタの特別な事例としてたとえば、第2の画像セグメントBS2の個々のピクセルBPS2に関して、第2の画像セグメントBS2の個々のピクセルXijに割り当てられる新たな輝度値を求めるためには、以下の規則ようになる。ここで第1の添字iは、ピクセルXijの存在する個々の行を表し、列の添字jは、個々のピクセルXijの存在する列を表す。
本発明による方法の1つの実施形態によれば、第2の画像セグメントBS2のピクセルBPS2が平均値演算子により処理され、これは第1の画像セグメントBS1のピクセルBPS1と隣接する第2の画像セグメントのピクセルXijから始まる順序で行われる。このようにして、第1の画像セグメントBS1における各ピクセルBPS1の輝度値の信号経過に関するできるかぎり多くの情報が、第2の画像セグメントへ移される。
式(1)の場合、新たな輝度値を求める際にそれぞれ4つのダイレクトに隣り合うピクセルが含まれているにしても(これは個々のピクセルXijの上に置かれる十字形のフィルタマスクに相応する)、フィルタマスクの形状は任意であり、つまり個々のピクセルXijのための新たな輝度値を求めるために、任意の場所を利用できる。
第2の画像セグメントBS2におけるピクセルBPS2の新たな輝度値を求めるための上述の規則は、第2の画像セグメントBS2における任意の個数のピクセルBPS2に対して実行され、有利にはすべてのピクセルについて実行される。
なお、第2の画像セグメントBS2における各ピクセルBPS2の輝度値を方法開始にあたり所定の値によって初期化するのが有利であると判明しており、たとえば第1の画像セグメントBS1におけるピクセルBPS1の少なくとも一部分の輝度値に関する平均値によって初期化するのが有利であると判明した。
このようにすることでこの方法の結果がさらに改善され、このことで必要とされる伝送容量をさらに低減できるようになる。
また、この実施形態によれば、本発明による方法の1つの実施形態である後述の反復手法が加速される。なぜならば、適切な初期化を行えばその実施形態における所要反復回数が著しく僅かになるからである。
さらに本発明による方法の1つの実施形態によれば、この方法を合成セグメントSBSのために反復してつまり何度も実行される。この場合、本発明による方法の枠内でラプラス演算子を利用するならば、たとえば以下の反復規則が用いられる:
ここでkは、個々の反復ステップを一義的に表す。
本発明による方法を何度も実行すれば、つまり何度も反復すれば、境界領域GBにおいても第2の画像セグメントBS2においても平滑特性が著しく改善される。
しかし反復回数が増えているにつれ、反復ステップごとに改善具合が低減するので、本発明による方法の実施形態として反復を終了させるための中止規準を設けるのが有利である。
本発明の枠内で、中止規準の種々の実施形態が設けられている。
この方法の開始にあたり、個々の合成セグメントSBSに対しこの方法が何回実行されるべきかをまえもって設定することができる。
さらに、反復が行われるたびに、第2の画像セグメントBS2における各ピクセルBPS2の輝度値の少なくとも一部分の変化の和を求め、それを少なくとも先行の反復において形成された変化の和と比較することができる。両方の和の間における差が所定の第1の閾値SW1よりも小さければ、それ以上反復を実行する必要はない。
また、変化の和をそれまで行われた反復の和について任意に形成された平均値と比較することもできる。
さらに、中止規準として以下の規則を適用するように構成することもできる。すなわち、1回反復が行われた後、第2の画像セグメントBS2におけるピクセルBPS2の輝度値の少なくとも一部分の変化に関する平均値が求められ、この平均値が少なくとも1回前の反復における輝度値の変化に関する平均値と比較される。これら両方の平均値の差が所定の第2の閾値SW2よりも小さければ、もはや反復を行う必要はない。
本発明の1つの実施形態によれば、合成画像セグメントSBS外に位置するピクセルBPは、第2の画像セグメントBS2におけるピクセルBPS2の輝度値の形成にあたり考慮されないように構成されている。
したがって局所平均値演算子の特別な事例として、たとえば式(1)、(2)中の係数
が考慮されないピクセルの個数だけ低減される。
図5aには、合成画像セグメントSBSが実例として描かれた輝度値とともに示されている。この場合、”+”によって、方法開始時の第2の画像セグメントBS2におけるピクセルBPS2の輝度値がシンボリックに描かれている。
図5bには、局所平均値フィルタを使用してこの方法を実行した後の合成画像セグメントSBSが描かれている。この場合、この方法を何回か反復した後の第1の画像領域BS1におけるピクセルBPS1の平均値120によって、第2の画像セグメントBS2におけるピクセルBPS2が初期化されている。
この図によれば、境界領域GBではたいして大きな跳躍個所がないことが示されているとともに、第2の画像セグメントBS2におけるピクセルの輝度値に関する信号経過は平滑化された経過を有していることも示されている。
実施例2:周波数領域における解決手段
以下では、上述の規準の別の可能な構成について示す。
この目的で、次に第1の関数F1について説明し、これはたとえば次式によって形成される:
この第1の関数F1は2つの被加数を有しており、すなわち第1の項と第2の項を有している(ステップ401)。
ここでf(xij)により所定の元の関数が表され、つまり画像Bにおける各ピクセルBPの輝度値(および/または色値)に関する信号経過が表される。
また、g(xij)により補われる関数が表され、これは第2の画像セグメントBS2へのもとの関数f(xij)の信号外挿により形成される。この補われる関数を以下では補われる信号経過g(xij)と称する。
補われる信号経過g(xij)は、方法の最初ではまだ未知である。
第1の項は、補われる信号経過g(xij)を方法が実行されたあとでも第1の画像セグメントBS1におけるもとの関数f(xij)と一致させる役割を果たす。
第2の項は通常、第2の画像セグメントBS2における各ピクセルBPS2の信号経過のための平滑化規準を有する。
平滑化規準により、第2の画像セグメントBS2における各ピクセルBPS2の輝度値についてできるかぎり滑らかな信号経過が得られるようにするとともに、境界領域GBにおいて跳躍個所ができるかぎり僅かになるようにする。
補われる信号経過g(xij)は、スペクトル領域において数学的な級数として表すことができ、つまり以下の構造を成す積の和である。
ここでcklはスペクトル係数を表し、φkl(xij)はそのつど使用される変換符号化たとえば離散コサイン変換(DCT)の基底関数を表す。そして式(4)に第1の関数F1を代入することにより、たとえば以下のような構造を成す中間関数ZF1が形成される(ステップ402)。
ここで中間関数ZF1中の未知のものとして、スペクトル係数cklが存在する。
スペクトル係数cklを求める目的で、そしてその際、第2の画像セグメントBS2においてできるかぎり滑らかな信号経過が得られ、かつ境界領域においてできるかぎり滑らかな信号経過が得られるようにする目的で、中間関数ZF1が最小化される。
これは個々のスペクトル係数cklについて中間関数ZF1を微分することにより行われ(ステップ403)、”最適な”スペクトル係数cklを求めるために、生じた線形の等式がゼロと等しくなるようにされる。
これにより、上述の規準に関して”最適な”スペクトル係数cklを求めるための一義的に解くことのできる線形の等式が得られる。
この線形の等式が解かれた後、上述の規準に関して最適なスペクトル係数cklが求められる(ステップ404)。
図5cには、例として選ばれたパラメータ値λ=100に関して周波数範囲で本発明による方法を実行した後の図5aの実例が描かれている。パラメータ値λは、達成可能な結果に関してかなりノンクリティカルであることから、実質的に任意に選定できる。
第2の項において、有利には平滑化規準として補われる信号経過g(xij)の任意の導関数を用いることができる。
しかし本発明の1つの実施形態によれば、2次導関数を用いるのが有利である。それというのも、そのような場合であれば、生じる線形の等式をいっそう容易に解くことができるようになるからである。
また、第1の関数F1の第2の項は、必ずしも上述の構造を成していなくてもよい。
本発明による方法全体つまり上述の2つの実施例両方についての1つの実施形態によれば、方法実行にあたり整数計算が用いられる。
この実施形態により、本発明による方法を実行するのに必要とされるハードウェアが著しく簡単になる。さらに、コンピュータによって本発明による方法を実装した場合に、著しく加速が実現される。
本発明による方法は、たとえば離散コサイン変換などの変換符号化の枠内でも適用できるし、Wavelet変換またはサブバンド変換の枠内でも適用できる。なお、このコンテキストで”〜の変換の枠内で”という表現は、実施例1の場合には、求められた信号経過が対応する変換に送られることを意味し、実施例2では基底関数が採用された変換に応じて選ばれることを意味する。
図6には殊に、本発明による方法を実行する第1のコンピュータR1が描かれている。
さらに図6にはカメラKAが描かれており、このカメラによって画像シーケンスが撮影され、これは第1のコンピュータR1においてディジタル画像Bのシーケンスに変換される。ディジタル画像Bは、第1のコンピュータR1のメモリSP1に格納される。さらに第1のコンピュータR1のための構成として、ディスプレイB1が設けられている。
ディジタル化された画像Bの伝送にあたり、ディジタル画像Bの伝送前に個々の画像セグメントBS1,BS2に対し、本発明による方法が実行される。そして結果として生じたスペクトル係数が、チャネルKを介して第2のコンピュータR2へ伝送され、そこにおいてそれらの係数は第2のメモリSP2に格納される。逆の変換符号化および逆のコンフォーマルマッピング(等角写像)の実行後、ディジタル画像Bが第2のコンピュータR2において再構成され、第2のディスプレイB2上でユーザに対し表示される。
本明細書では以下の文献を引用した。
[1] M. Gilge, T. Engelhardt und R. Mehian, Coding of 5 arbitrarily shaped image segments based on a generalized orthogonal transform, Singnal Processing:
Image Communication 1, p.153-180, Oktober 1989
[2] T. Sikora und Bela Makai, Shape-adaptive DCT for generic coding of video, IEEE Trans. Circuits and Systems for Video Technology 5, p.59-62, Februar 1995
[3] T. Sikora, S. Bauer und Bela Makai, Efficiency of shape-adaptive 2-D transforms for coding of arbitrary shaped image segments, IEEE Trans.Circuits and Systems for Video Technology 5, p.254-258, Juni 1995
[4] I. Donescu et al, A Comparison of Efficient Methods for the Coding of Arbitrarily Shaped Image Segments, Proceedings of Picture Coding Symposium, Melbourne, p.13.-15. 3. 1996, p.181-186, 1996
[5] R. J. Clarke:Transform Coding of Images, Academic Press, London, p.72-134, 1985
[6] DE 41 36 636 Al
[7] J. -R. Ohm, Digitale Bildcodierung, Springer, Berlin, ISBN 3-540-58579-6S. 32-49, 1995
Claims (36)
- 任意の形状をもつ第1の画像セグメント(BS1)におけるピクセル(BPS1)をコンピュータにより処理する方法において、
第1の画像セグメント(BS1)における各ピクセル(BPS1)に対し輝度値および/または色値を割り当て(ステップ201)、
該輝度値および/または色値を、任意の形状をもつ第2の画像セグメント(BS2)のピクセルに対して外挿し(ステップ202)、
該外挿により、前記第2の画像セグメント(BS2)における各ピクセル(BPS2)の輝度値および/または色値に関する信号経過を平滑化し(ステップ203)、
該外挿により、前記第2の画像セグメント(BS2)における各ピクセル(BPS2)の輝度値および/または色値に関する信号経過を、前記の第1の画像セグメント(BS1)と第2の画像セグメント(BS2)との間の境界領域(GB)における前記第1の画像セグメント(BS1)のピクセル(BPS1)に関する輝度値および/または色値に整合させ(ステップ204)、
前記外挿のために平滑特性をもつフィルタを用い、
前記第2の画像セグメント(BS2)におけるピクセル(BPS2)の輝度値および/または色値を、方法開始にあたり所定値によって初期化し、
該所定値を、第1の画像セグメント(BS1)における各ピクセル(BPS1)の輝度値および/または色値に関する平均値とすることを特徴とする、
画像セグメントにおけるピクセルをコンピュータにより処理する方法。 - 前記の外挿のために平滑特性をもつディジタルフィルタを用いる、請求項1記載の方法。
- 第2の画像セグメント(BS2)における各ピクセル(BPS2)の輝度値および/または色値の外挿を、第1の画像セグメント(BS1)のピクセル(BPS1)に隣り合っている第2の画像セグメント(BS2)におけるピクセル(BPS2)に基づき行う、請求項1または2記載の方法。
- ディジタルフィルタとして局所平均値フィルタを用いる、請求項2または3記載の方法。
- ディジタルフィルタとしてメジアンフィルタを用いる、請求項2または3記載の方法。
- 方法実行を何回も繰り返す、請求項1〜5のいずれか1項記載の方法。
- 反復を行った後、第2の画像セグメント(BS2)における各ピクセル(BPS2)の輝度値および/または色値の少なくとも一部分に関して、少なくとも1回前の反復と比較した変化の和が、所定の第1の閾値(SW1)よりも小さくなるまで、方法実行を繰り返す、請求項6記載の方法。
- 反復を行った後、第2の画像セグメント(BS2)における各ピクセル(BPS2)の輝度値および/または色値の少なくとも一部分に関して、少なくとも1回前の反復と比較した変化の平均値が、所定の第2の閾値(SW2)よりも小さくなるまで、方法実行を繰り返す、請求項6記載の方法。
- 反復を行った後、第2の画像セグメント(BS2)における各ピクセル(BPS2)の輝度値および/または色値の少なくとも一部分に関して、少なくとも1回前の反復と比較した変化が、所定の第3の閾値(SW3)よりも小さくなるまで、方法実行を繰り返す、請求項6記載の方法。
- 外挿のため、少なくとも第1の項と第2の項を有する第1の関数(F1)を形成し、
前記第1の項により、第1の画像セグメント(BS1)におけるピクセル(BPS1)の輝度値および/または色値に関する信号経過をできるかぎり維持し、
前記第2の項により、第2画像セグメント(BS2)におけるピクセル(BPS2)の輝度値および/または色値に関する信号経過を滑らかにし、
前記第2の項により、第2画像セグメント(BS2)におけるピクセル(BPS2)の輝度値および/または色値に関する信号経過を、第1の画像セグメント(BS1)と第2の画像セグメント(BS2)との間の境界領域(GB)における第1の画像セグメント(BS1)のピクセル(BPS1)の輝度値および/または色値に適合調整させる、
請求項1記載の方法。 - 前記第1の項を、第1の画像セグメント(BS1)におけるピクセル(BPS1)の輝度値および/または色値に関する信号経過(f(xij))と、第2の画像セグメント(BS2)におけるピクセル(BPS2)の輝度値および/または色値に対し補われる信号経過(g(xij))の差から求める、請求項10記載の方法。
- 前記第2の項を少なくとも、第2の画像セグメント(BS2)におけるピクセル(BPS2)の輝度値および/または色値に対し補われる信号経過(g(xij))の任意の微分により生成する、請求項10または11記載の方法。
- 前記第2の項を少なくとも、第2の画像セグメント(BS2)におけるピクセル(BPS2)の輝度値および/または色値に対し補われる信号経過(g(xij))の2次導関数により生成する、請求項12記載の方法。
- 補われる信号経過(g(xij))をスペクトル領域に変換し、変換された捕われる信号経過(g(xij))はスペクトル係数を有し、
変換された補われる信号経過(g(xij))を第1の関数(F1)に代入することで中間関数を形成し、
個々のスペクトル係数について中間関数を微分してゼロと等しくなるようにすることで線形の等式を形成し、
スペクトル係数について該線形の等式を解くことで、スペクトル係数の値を求める、
請求項10〜13のいずれか1項記載の方法。 - 整数計算を使用する、請求項1〜14のいずれか1項記載の方法。
- 第1の画像セグメント(BS1)と第2の画像セグメント(BS2)がいっしょになって正方形を成す、請求項1〜15のいずれか1項記載の方法。
- 変換符号化において使用する、請求項1〜16のいずれか1項記載の方法。
- 離散コサイン変換(DCT)において使用する、請求項1〜16のいずれか1項記載の方法。
- Wavelet変換において使用する、請求項1〜16のいずれか1項記載の方法。
- サブバンド変換において使用する、請求項1〜16のいずれか1項記載の方法。
- 任意の形状をもつ第1の画像セグメント(BS1)におけるピクセル(BPS1)を処理する装置において、
計算ユニットが設けられており、該計算ユニットによれば、
第1の画像セグメント(BS1)における各ピクセル(BPS1)に対し輝度値および/または色値が割り当てられ、
該輝度値および/または色値が、任意の形状をもつ第2の画像セグメント(BS2)のピクセルに対して外挿され、
該外挿により、前記第2の画像セグメント(BS2)における各ピクセル(BPS2)の輝度値および/または色値に関する信号経過が平滑化され、
該外挿により、前記第2の画像セグメント(BS2)における各ピクセル(BPS2)の輝度値および/または色値に関する信号経過が、前記の第1の画像セグメント(BS1)と第2の画像セグメント(BS2)との間の境界領域(GB)における前記第1の画像セグメント(BS1)のピクセル(BPS1)に関する輝度値および/または色値に整合され、
前記計算ユニットにおいて、外挿のために平滑特性をもつフィルタが設けられており、
前記第2の画像セグメント(BS2)におけるピクセル(BPS2)の輝度値および/または色値を、最初に所定値によって初期化し、該所定値を、第1の画像セグメント(BS1)における各ピクセル(BPS1)の輝度値および/または色値に関する平均値とする手段が設けられていることを特徴とする、画像セグメントにおけるピクセルを処理する装置。 - 前記計算ユニットにおいて、外挿のために平滑特性をもつディジタルフィルタが使用される、請求項21記載の装置。
- 前記計算ユニットにおいて、第2の画像セグメント(BS2)における各ピクセル(BPS2)の輝度値および/または色値の外挿は、第1の画像セグメント(BS1)のピクセル(BPS1)に隣り合っている第2の画像セグメント(BS2)におけるピクセル(BPS2)に基づき行われる、請求項21または22記載の装置。
- 前記計算ユニットにおいて、ディジタルフィルタとして局所平均値フィルタが使用される、請求項22または23記載の装置。
- 前記計算ユニットにおいて、ディジタルフィルタとしてメジアンフィルタが使用される、請求項22または23記載の装置。
- 前記計算ユニットにおいて、外挿のため、少なくとも第1の項と第2の項を有する第1の関数(F1)が形成され、
前記第1の項により、第1の画像セグメント(BS1)におけるピクセル(BPS1)の輝度値および/または色値に関する信号経過ができるかぎり維持され、
前記第2の項により、第2画像セグメント(BS2)におけるピクセル(BPS2)の輝度値および/または色値に関する信号経過が滑らかにされ、
前記第2の項により、第2画像セグメント(BS2)におけるピクセル(BPS2)の輝度値および/または色値に関する信号経過が、第1の画像セグメント(BS1)と第2の画像セグメント(BS2)との間の境界領域(GB)における第1の画像セグメント(BS1)のピクセル(BPS1)の輝度値および/または色値に適合調整される、
請求項21記載の装置。 - 前記計算ユニットにおいて、前記第1の項は、第1の画像セグメント(BS1)におけるピクセル(BPS1)の輝度値および/または色値に関する信号経過(f(xij))と、第2の画像セグメント(BS2)におけるピクセル(BPS2)の輝度値および/または色値に対し補われる信号経過(g(xij))の差から求められる、請求項26記載の装置。
- 前記計算ユニットにおいて、前記第2の項は少なくとも、第2の画像セグメント(BS2)におけるピクセル(BPS2)の輝度値および/または色値に対し補われる信号経過(g(xij))の任意の微分により生成される、
請求項26または27記載の装置。 - 前記計算ユニットにおいて、前記第2の項は少なくとも、第2の画像セグメント(BS2)におけるピクセル(BPS2)の輝度値および/または色値に対し補われる信号経過(g(xij))の2次導関数により生成される、請求項28記載の装置。
- 前記計算ユニットにおいて、補われる信号経過(g(xij))がスペクトル領域に変換され、変換された補われる信号経過(g(xij))はスペクトル係数を有しており、
変換された補われる信号経過(g(xij))が第1の関数(F1)に代入されることにより中間関数が形成され、
個々のスペクトル係数について中間関数が微分されてゼロと等しくなるようにされることで線形の等式が形成され、
スペクトル係数について該線形の等式が解かれることによりスペクトル係数の値が求められる、
請求項26〜29のいずれか1項記載の装置。 - 前記計算ユニットにおいて整数計算が使用される、請求項21〜30のいずれか1項記載の装置。
- 前記計算ユニットにおいて、第1の画像セグメント(BS1)と第2の画像セグメント(BS2)がいっしょになって正方形を成す、請求項21〜31のいずれか1項記載の装置。
- 変換符号化において使用される、請求項21〜32のいずれか1項記載の装置。
- 離散コサイン変換(DCT)において使用される、請求項21〜32のいずれか1項記載の装置。
- Wavelet変換において使用される、請求項21〜32のいずれか1項記載の装置。
- サブバンド変換において使用される、請求項21〜32のいずれか1項記載の装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE19625402A DE19625402A1 (de) | 1996-06-25 | 1996-06-25 | Verfahren zur Bearbeitung von Bildpunkten eines Bildsegments durch einen Rechner |
DE19625402.7 | 1996-06-25 | ||
PCT/DE1997/001209 WO1997050254A1 (de) | 1996-06-25 | 1997-06-13 | Verfahren und vorrichtung zur bearbeitung von bildpunkten eines bildsegments durch einen rechner |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000512821A JP2000512821A (ja) | 2000-09-26 |
JP4001629B2 true JP4001629B2 (ja) | 2007-10-31 |
Family
ID=7797963
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP50207698A Expired - Fee Related JP4001629B2 (ja) | 1996-06-25 | 1997-06-13 | コンピュータにより画像セグメントのピクセルを処理する方法および装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US6553139B1 (ja) |
EP (1) | EP0908056B1 (ja) |
JP (1) | JP4001629B2 (ja) |
DE (2) | DE19625402A1 (ja) |
WO (1) | WO1997050254A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6721446B1 (en) | 1999-04-26 | 2004-04-13 | Adobe Systems Incorporated | Identifying intrinsic pixel colors in a region of uncertain pixels |
US7136525B1 (en) * | 1999-09-20 | 2006-11-14 | Microsoft Corporation | System and method for background maintenance of an image sequence |
US6894704B1 (en) * | 1999-11-22 | 2005-05-17 | Adobe Systems Incorporated | Processing complex regions of illustration artwork |
US6859553B1 (en) * | 2001-03-23 | 2005-02-22 | Adobe Systems Incorporated | Flattening images with abstracted objects |
US7181687B2 (en) * | 2002-06-27 | 2007-02-20 | Adobe Systems Incorporated | Previewing the effects of flattening transparency |
US8229193B2 (en) * | 2008-09-03 | 2012-07-24 | General Electric Company | System and methods for applying image presentation context functions to image sub-regions |
CN117649420A (zh) * | 2023-11-14 | 2024-03-05 | 北京医百科技有限公司 | 确定图像中目标区域的膨胀域的方法、装置及电子设备 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE4136636A1 (de) * | 1991-11-07 | 1993-07-01 | Bosch Gmbh Robert | Einrichtung zur codierung von bildsignalen |
FR2708166A1 (fr) * | 1993-07-22 | 1995-01-27 | Philips Laboratoire Electroniq | Procédé de traitement d'images numérisées pour la détection automatique de sténoses. |
US5422963A (en) * | 1993-10-15 | 1995-06-06 | At&T Corp. | Block transform coder for arbitrarily shaped image segments |
US5613013A (en) * | 1994-05-13 | 1997-03-18 | Reticula Corporation | Glass patterns in image alignment and analysis |
US5867602A (en) * | 1994-09-21 | 1999-02-02 | Ricoh Corporation | Reversible wavelet transform and embedded codestream manipulation |
US6044165A (en) * | 1995-06-15 | 2000-03-28 | California Institute Of Technology | Apparatus and method for tracking handwriting from visual input |
-
1996
- 1996-06-25 DE DE19625402A patent/DE19625402A1/de not_active Withdrawn
-
1997
- 1997-06-13 EP EP97930319A patent/EP0908056B1/de not_active Expired - Lifetime
- 1997-06-13 US US09/202,992 patent/US6553139B1/en not_active Expired - Fee Related
- 1997-06-13 JP JP50207698A patent/JP4001629B2/ja not_active Expired - Fee Related
- 1997-06-13 WO PCT/DE1997/001209 patent/WO1997050254A1/de active IP Right Grant
- 1997-06-13 DE DE59711857T patent/DE59711857D1/de not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
EP0908056A1 (de) | 1999-04-14 |
EP0908056B1 (de) | 2004-08-18 |
DE59711857D1 (de) | 2004-09-23 |
JP2000512821A (ja) | 2000-09-26 |
DE19625402A1 (de) | 1998-01-02 |
US6553139B1 (en) | 2003-04-22 |
WO1997050254A1 (de) | 1997-12-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US5598216A (en) | Method and apparatus for encoding/decoding a video signal | |
JP4920599B2 (ja) | ハイブリッドビデオ圧縮の量子化雑音除去用の非線形ループ内デノイズフィルタ | |
JP5107495B2 (ja) | 品質ベースのイメージ圧縮 | |
US6983079B2 (en) | Reducing blocking and ringing artifacts in low-bit-rate coding | |
CA1333501C (en) | Hierarchical encoding method and apparatus for efficiently communicating image sequences | |
US5699121A (en) | Method and apparatus for compression of low bit rate video signals | |
JP2933457B2 (ja) | ウェーブレット変換符号化方法 | |
US5751362A (en) | Apparatus for encoding a video signal using feature point based motion estimation | |
US5689306A (en) | Method and apparatus for encoding a video signal using pixel-by-pixel motion prediction | |
Kaup | Object-based texture coding of moving video in MPEG-4 | |
US5661524A (en) | Method and apparatus for motion estimation using trajectory in a digital video encoder | |
KR20010033797A (ko) | 스케일 가능한 계층적 움직임 추정을 실행하는 장치 및방법 | |
JP2008011552A (ja) | オブジェクトベースのビデオ圧縮プロセス | |
JP2005515727A (ja) | 複合文書の圧縮のためのコーダに整合したレイヤ分離および補間 | |
JP2002506585A (ja) | マスクおよび丸め平均値を使用したオブジェクトベースの符号化システムのためのスプライト生成に関する方法 | |
JPH08265761A (ja) | 映像データ後処理方法 | |
EP2104918A2 (en) | System and method for reducing artifacts in images | |
AU2004223358A1 (en) | Overcomplete basis transform-based motion residual frame coding method and apparatus for video compression | |
EP2145476A1 (en) | Image compression and decompression using the pixon method | |
JP4001629B2 (ja) | コンピュータにより画像セグメントのピクセルを処理する方法および装置 | |
JPH0955943A (ja) | 映像信号符号化装置 | |
KR20050085368A (ko) | 블록화 아티팩트들을 측정하는 방법 | |
KR100481498B1 (ko) | 컴퓨터를이용하여이미지세그먼트의이미지포인트를처리하는방법및장치 | |
KR0174455B1 (ko) | 화소단위 움직임예측을 이용하는 영상신호 부호화 방법 및 장치 | |
JPH0993585A (ja) | 動きベクトル検出装置及び動きベクトル検出方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040402 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070306 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070601 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070717 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070815 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100824 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100824 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110824 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110824 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120824 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120824 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130824 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |