JP2000507726A - 画像ストリームを局所的コントラストの単位に分解する方法及び装置 - Google Patents

画像ストリームを局所的コントラストの単位に分解する方法及び装置

Info

Publication number
JP2000507726A
JP2000507726A JP9535503A JP53550397A JP2000507726A JP 2000507726 A JP2000507726 A JP 2000507726A JP 9535503 A JP9535503 A JP 9535503A JP 53550397 A JP53550397 A JP 53550397A JP 2000507726 A JP2000507726 A JP 2000507726A
Authority
JP
Japan
Prior art keywords
time
image
temporal
contrast
signals
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP9535503A
Other languages
English (en)
Inventor
ルビン,ジェフリー
Original Assignee
サーノフ コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by サーノフ コーポレイション filed Critical サーノフ コーポレイション
Publication of JP2000507726A publication Critical patent/JP2000507726A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 画像ストリームを複数の単位の局所的コントラストに分解する装置(400)および付随方法である。時間コントラスト変換器(ピラミッド)は、空間フィルタ(410)と、複数の縦続接続されたローパス時間フィルタ(420)と、複数の減算器(430)および除算器(440)とを備えている。空間フィルタ(410)には縦続接続されたローパス時間フィルタ(420)が続き、一組の時間ローパス・空間ローパス画像を生成する。この後、相隣るフィルタの出力同士が減算され、一組の時間バンドパス(ラプラシアン)画像が生成される。最後に、各ラプラシアン画像がより低いレベルの時間ローパス画像で除算され、一組の時間バンドパスコントラスト画像が生成される。

Description

【発明の詳細な説明】 画像ストリームを局所的コントラストの単位に分解する方法及び装置 本出願は、1996年3月29日出願の米国特許仮出願第60/014,324号および1996年3 月29日出願の米国特許仮出願第60/014,332号の利益を主張するものである。 本発明は、画像システムの能力を評価および改善する装置および付随方法に関 する。本発明は、特に、画像ストリームを複数の単位の局所的コントラストに分 解するアーキテクチャおよび付随方法に関する。 発明の背景 画像システムの設計者は、圧縮/伸張(コーデック)プロセスにおいてコント ラスト解像度、ビットレート効率などの物理パラメータによって彼らの設計の能 力を評価することが多い。これらのパラメータは容易に測定することができるが 、それらは能力を評価するための正確な基準ではない可能性がある。その理由は 、画像システムのエンドユーザは、一般に、主観的な視覚能力に対する関心の方 が大きいからである。このような視覚能力としては、例えば、アーチファクトや 歪みの視認性が挙げられるし、場合によっては、これらの画像特徴の強調も含ま れる。このような画像特徴の強調は、MRI(磁気共鳴画像法)画像やCAT( コンピュータ断層撮影)走査画像などの画像における腫瘍の存在などの情報を明 らかにする可能性がある。 画像システム設計を改善するために、長い年月にわたって種々の人間視覚能力 方法(知覚距離発生器(perceptual metric generator)または視覚識別計測装 置(visual discrimination measure))が使用されてきた。これらの視覚識別 計測装置は、「空間的(spatial)」または「時空間的(spatiotemporal)」と して大きく分類することができる。空間的な視覚識別計測装置の例としては、カ ールソソ−コーエン発生器や平方根積分(SQRI)発生器がある。時空間的な 視覚識別計測装置(VDM)の例は、米国特許第08/668,015号(出願日1996年6 月17日)や整理番号DSRC12146を有する出願「二つの画像シーケンス間の差異の 視認性を評価する方法および装置(Method And Apparatus For Assessing The V isibilit y of Differences Between Two Image Sequences)」(出願日1997年3月28日) に開示されている。 しかしながら、視覚識別計測装置は、後で他のプロセス(例えば、符号化アプ リケーション)を視覚的に最適化するために使用される知覚距離(perceptual m etric)(忠実度距離(fidelity metric))を素早く(例えば、リアルタイムに )生成することがしばしば要求される。 したがって、この技術分野では、知覚距離発生器に要求される計算を素早く実 行して、例えば画像ストリームを空間および時間周波数において局在した複数の 単位のコントラストに分解するアーキテクチャおよび付随方法が必要とされてい る。 発明の概要 本発明は、画像ストリームを複数の単位の局所的コントラストに分解する装置 および付随方法である。本発明、すなわち時間コントラスト変換器(ピラミッド )は、空間前置フィルタと、縦続接続された複数のローパス時間フィルタと、複 数の減算器および除算器と、を備えている。空間前置フィルタには、縦続接続さ れたローパス時間フィルタが続いており、一組の時間的ローパス画像が生成され るようになっている。この後、隣り合ったフィルタの出力が減算され、一組の時 間的バンドパス(ラプラシアン)画像が生成される。最後に、各ラプラシアン画 像がより低レベルの時間ローパス画像で除算され、一組の時間的バンドパスコン トラスト画像が生成される。 図面の簡単な説明 本発明の開示内容は、添付の図面とともに以下の詳細な説明を検討することに よって容易に理解することができる。ここで、 図1は、本発明の信号処理システムのブロック図を示している。 図2は、視覚識別計測装置の構造の簡単なブロック図を示している。 図3は、空間コントラストピラミッドの構造の詳細なブロック図を示している 。 図4は、時間コントラストピラミッドの構造の詳細なブロック図を示している 。 図5は、時間コントラストピラミッドを生成する方法のフローチャートを示し ている。 理解を容易にするため、図面に共通の同一要素には可能な限り同一の参照番号 を使用している。 詳細な説明 図1は、本発明を用いた信号処理システム100を示している。この信号処理 システムは、信号受信部130,信号処理部110および入出力装置120から 構成されている。 信号受信部130は、入力データ信号を受信するように機能する。この入力デ ータ信号としては、例えば、画像装置からの画像のシーケンスや他の時間変化信 号(例えば、マイクロフォンや記録媒体からのオーディオ信号や、毎日の株価な どの金融信号)が挙げられる。したがって、本発明は以下で画像に関して説明す るが、上述のような他の入力信号にも適用できることが分かる。 信号受信部130は、データ受信部132およびデータ記憶部134を含んで いる。データ受信部130は、モデムやアナログ−ディジタル変換器など、複数 の装置を含んでいてもよい。モデムは、電話回線や他の通信チャネルを介してバ イナリデータを送受信する変調器および復調器を備えた周知の装置であり、アナ ログ−ディジタル変換器は、アナログ信号をディジタル形式に変換する。したが って、信号受信部130は、「オンライン」または「リアルタイム」で入力信号 を受信することができ、必要であれば、それらの信号をディジタル形式に変換す ることができる。このため、信号受信部130は、コンピュータ、カメラ、ビデ オレコーダ、種々の医療画像装置などといった一つ以上の装置から信号を受信す ることができる。 データ記憶部134は、データ受信部132によって受信された入力信号を記 憶するように機能する。データ記憶部134は、ディスクドライブ、半導体メモ リ、その他の記憶媒体など、一つ以上の装置を含んでいる。これらの記憶装置は 、入力信号に遅延を与える手段、または後続の処理のために入力信号を単に記憶 する手段を提供する。 好適な実施形態では、信号処理部110は、視覚識別計測装置(visual discr imination measure:VDM)112、中央処理装置(CPU)114および画 像処理を容易にするメモリ116を有する汎用コンピュータを備えている。視覚 識別計測装置112は、通信チャネルを介してCPUに結合された種々のフィル タまたはプロセッサから構成される物理装置とすることができる。あるいは、視 覚識別計測装置112は、メモリ116から呼び戻されて信号処理部のCPUに よって実行されるソフトウェアアプリケーションとして実現してもよい。 信号処理部110は、キーボード、マウス、ビデオモニタ、あるいはハードデ ィスクドライブやコンパクトディスクドライブ(但し、これらに限定されるわけ ではない)を含む記憶装置など、複数の入出力装置120にも結合されている。 この入力装置は、入力画像を処理するために信号処理部に入力(制御信号および データ)を与えるように機能し、出力装置は、その結果を表示または記録するよ うに機能する。 視覚識別計測装置112は、入力画像の二つのシーケンスまたはストリーム間 の差の視認性を評価し、客観的な「識別限界差」(just-noticeable difference :JND)画像距離を生成する。この距離は、JND値、入力画像の各対に対す るJNDマップ、または確率予測として表現することができる。その結果、CP Uは、JND画像距離を利用することで、ディジタル画像圧縮、画像品質測定お よび目標検出(但し、これらに限定されるわけではない)を含む様々なプロセス を最適化することができる。 図2は、視覚識別計測装置112の構造を示す簡単なブロック図である。ここ では、二つの入力画像シーケンス210および220が処理されて画像距離27 0が生成される。視覚識別計測装置は、前処理部230,空間フィルタおよび/ または時間フィルタ240、コントラスト変換器250および後処理部260を 備えている。 好適な実施形態では、二つのディジタル化された画像シーケンス、すなわち入 力画像シーヶンスA210および入力画像シーケンスB220が刺激である。例 えば、シーケンスAがオリジナル画像(例えば、基準画像シーケンス)を含んで おり、シーケンスBがシーケンスAのコーデック処理された画像(例えば、テス ト画像シーケンス)を含んでいてもよい。これらの入力シーケンスは、平面上で サンプリングされた輝度分布の時間フレーム、すなわち表示装置の表面上で近接 させて配置された複数の点からなる一様な格子をサンプリングする光度計(phot ometer)から戻ってくるようなものを表している。 しかしながら、本発明は、二つの入力画像シーケンス間のクロミナンスの差を 説明するように設計されてもいるので、刺激がクロミナンス成分も含んでいても よい。したがって、本発明を入力画像シーケンスの輝度成分に関連して以下で説 明するが、本発明は、クロミナンス成分単独か、あるいはクロミナンス成分と輝 度成分との組み合わせに適用できることが分かる。 これらの入力画像シーケンスは、空間および時間フィルタリングを行う前に入 力画像シーケンスを前処理するため、オプションの前処理部230によって受信 される。この前処理は、視覚識別計測装置の予測精度(人間の能力に対するもの )を高めるように設計されている。 一般に、前処理部230は、最適なディジタル画像処理に画像を適合させなが ら人間の目のサンプリングプロセス(網膜サンプリング)に近づけるように機能 する。網膜サンプリングは、人間の目のサンプリングプロセスをシミュレートす るように刺激を再サンプリングするプロセスである。 より具体的に述べると、前処理部230は、フレームレート調整器、ボーダー 挿入器(border inserter)、画素対レセプタ比(pixels-to-receptors ratio) を考慮する平滑器/補間器(smoother/interpolator)、コンボルバ(convolver )、画像/固定深度一致装置(image/fixation depth matcher)、および「画素 形状(pixel geometry)」を「レセプタ形状(receptor geometry)」に相関さ せる種々のサンプラーを含んでいてもよい(図示せず)。このような前処理装置 および方法の例は、整理番号DSRC12146を有する「二つの画像シーケンス間の差の 視認度を評価する方法および装置」(出願日1997年3月28日)という特許出願に見 いだすことができる。なお、この出願は参照文献として本明細書に組み込まれる 。 計算上のオーバヘッドを低減するため、前処理部230内の種々の構成要素は オプションとして実施してもよく、あるいは異なるアプリケーションの要求を取 り扱う同様の処理と取り替えてもよいことが当業者には分かるであろう。したが って、空間フィルタおよび/または時間フィルタ240への入力シーケンスは、 オリジナルの未処理入力画像を単に表現するものであってもよいし、あるいは前 処理部230の様々な画像処理ステップの一つ以上を通過した画像を表現するも のであってもよい。 図2に戻ると、視覚識別計測装置112は、画像の各入力シーケンスの輝度成 分を複数のチャネルに分離するために、一つ以上の空間フィルタおよび/または 時間フィルタ240を含んでいてもよい。これらのチャネルとしては、例えば、 ローパス時間応答およびバンドパス空間応答を有する一組のチャンネル(持続チ ャンネル)ならびにローパス空間応答およびバンドパス時間応答を有する別の一 組のチャンネル(過渡チャンネル)が挙げられる。異なる解析形態を備えた空間 フィルタおよび時間フィルタの様々な組み合わせを用いることで、これらの持続 チャンネル応答および過渡チャンネル応答を生成することができる。 持続チャンネルおよび過渡チャンネルへの分離は、整理番号DSRC12146に開示 される視覚生理学のシミュレーションによって教示されている。事実上、持続チ ャンネルは、入力ストリーム(画像シーケンス)を時間的にぼやけさせるが、比 較的良好な空間解像度をもたらす。したがって、このチャンネルの出力は、細部 および色距離(color metric)を調べるのには理想的である。逆に、過渡チャネ ルは、入力ストリームを空間的にぼやけさせるが、良好な時間解像度をもたらす ので、入力画像シーケンスにおける動きまたは色の変化を検出するのに理想的で ある。 この他に、視覚識別計測装置112は、分離可能ガウシアンフィルタなどの空 間前置フィルタを含んでいても良い。例えば、ガウシアンフィルタは、重み(例 えば、(1,4,6,4,1)/16)付き5タップローパスフィルタを画像の 各方向において順次にオリジナル入力画像に適用してぼやけた画像を作成するこ とができる。 図2に戻ると、時間フィルタおよび/または空間フィルタ240からの出力は 、この後、コントラスト変換器250に転送され、複数の単位の局所的コントラ ストが生成される。それぞれ前のものから生成された数個の異なる空間周波数帯 域または時間周波数帯域にコントラスト変換器が適用される場合、コントラスト 変換器の動作はコントラストピラミッド動作と呼ばれる。入力画像の帯域制限さ れたものは、時間周波数だけでなく空間周波数においても得ることができるので 、コントラストピラミッドは、空間コントラストピラミッドおよび時間コントラ ストピラミッドという二つの形態で実現することができる。これらのコントラス トピラミッドをそれぞれ図3および図4に示す。 これら二つの異なるコントラストピラミッドは単独で実施しても良いし、ロー パス時間−バンドパス空間応答およびローパス空間−バンドパス時間応答を視覚 識別計測装置112に提供するために組み合わせて実施してもよい。すなわち、 各入力画像シーケンスは、空間コントラスト変換器および時間コントラスト変換 器の双方に受信される。 図2に戻ると、コントラスト変換器250からの複数単位の局所的コントラス トは、後処理部260に転送される。一般に、後処理部260は、人間のコント ラスト感度を説明するように動作する。 より具体的には、後処理部260は、方位調整(orientation tuning)を行う 一つ以上の方向付きフィルタ(oriented filter)、正規化を行う正規化装置、 視覚しきい値の相互周波数マスキング(cross-frequency masking)および/ま たは相互方位マスキング(cross-orientation masking)を行う利得制御装置、 S字非線形性を適用するトランスジューサ、人の中心感度(foveal human sensi tivity)を扱うプーラー(pooler)、および画像距離270を生成するディスタ ンサー(distancer)(図示せず)を含んでいてもよい。ディスタンサーの出力 は、画像距離として機能する。 より具体的に述べると、この出力は、複数の距離値または「JND」値からな る空間配列であり、これは、この後、対応する一対の入力画像(すなわち、一つ は入力シーケンスAからの画像であり、一つは入力シーケンスBからの画像)に 対する「JNDマップ」を作成するために使用することができる。これらの後処 理装置および方法の例は、整理番号DSRC12146を有する特許出願「二つの画像シ ーケンス間の差の視認性を評価する方法および装置」(出願日1997年3月28日) に見いだすことができる。 図3は、空間コントラストピラミッド300を示している。この空間コントラ ストピラミッドでは、縦続接続された一組のガウシアン空間フィルタ320がロ ーパス時間フィルタ310に続いており、一組の逐次空間ローパス(ガウシアン )画像を生成する。この後、相隣るフィルタ出力が減算器330を介して減算さ れ、一組の空間バンドパス(ラプラシアン)画像が生成される。最後に、各ラプ ラシアン画像が除算器340を介してより低いレベルのガウシアンで除算され、 一組のバンドパスコントラスト画像がパス350〜352上に生成される。時間 フィルタ310は、空間コントラストピラミッド300の一部であるように図示 されているが、時間フィルタ310は、図2に示されるように、独立した時間フ ィルタ240としてコントラストピラミッドの外側に実装してもよい。 好適な実施形態では、時間フィルタ310は、ローパス時間フィルタの形をと る。より具体的には、この時間フィルタは、I(x,t)によって表される各入力画像 シーケンスに時間フィルタリングを施して、次の式 J(x,t)=I(x,t)*h(t), (1) で表されるフィルタリング済シーケンスJ(x,t)を生成することができる。ここで 、“*"は、時間畳込み(temporal convolution)を示している。好適な実施形態 では、ローパス時間フィルタを次のように表すことができる。 h(t)=a exp(-at)u(t) (2) ここで、u(t)は単位ステップ関数〔t<0の場合はu(t)=0,それ以外の場 合はu(t)=1〕であり、“a”は、フィッティング済パラメータである。好適 な実施形態における“a”および他のパラメータのフィッティングは、時空間コ ントラスト−感度データを用いて達成することができる。このようなデータとし ては、例えば、Koenderinkおよびvan Doornによる「Spatiotemporal Contrast D etection Threshold Surface Is Bimodal」(Optics Letters 4,32〜34頁,1979 年)のデータが挙げられる。 時間フィルタの一つの実施形態は、信号s(i)の離散時間サンプルに対する再 帰操作を含んでおり、ここで、iは時間サンプルにインデックスを付けている。 つまり、ここでは、 h(i)=αh(i-1)+(1-α)s(i) (3) である。ローパス時間フィルタのこの実施形態は、時間フィルタ310および4 20の双方に使用することができる。 図3に戻ると、時間フィルタリングの後、時間フィルタ310から生じた生の 輝度信号の各々が受信され、複数の単位の局所的コントラストに変換される。す なわち、画像をガウシアンピラミッドおよびラプラシアンピラミッドに分解する ことによって、「コントラストピラミッド」が生成される。IEEE Transactions on Communications(1983年)の「The Laplacian Pyramid As A Compact Image Code」においてP.J.BurtとE.H.Adelsonによって開示されるように、各画像は、 最初にラプラシアンピラミッドに分解される。 好適な実施形態では、入力画像の輝度成分は、32〜0.5サイクル/度の範 囲のピーク周波数を有するガウシアン空間フィルタ320を介して、7個で一組 の空間周波数チャネルまたはバンドパス(ピラミッド)レベルに分解される。各 レベルは、その隣接レベルから1オクターブ、すなわち32、16、8、4、2 、1および0.5だけ離される。この後、各レベルの各ポイントにおいて、ラプ ラシアン値は、解像度が2レベル下のガウシアンピラミッドレベルからアップサ ンプリングされた対応するポイントで除算される。すなわち、ピラミッドの各レ ベルで局所的コントラストを計算するため、減算器330によって各ガウシアン レベルから自身の1レベルぼやけたコピーを減算することによりラプラシアン( バンドパス)ピラミッドが生成される。減算の結果は、除算器340によって2 レベルぼやけたコピーで除算される。好適な実施形態では入力画像を7個で一組 の周波数チャネルまたはバンドパス(ピラミッド)レベルに分解するが、入力画 像は任意の数の周波数チャネルに分解することができる。 図4は、時間コントラストピラミッド400を示している。空間コントラスト ピラミッド300と時間コントラストピラミッド400との重要な差異は、縦続 接続された複数の時間フィルタを後に伴う空間フィルタを逆に用いることである 。要するに、空間コントラストピラミッド300は、ローパス時間−バンドパス 空間応答を生成するが、時間コントラストピラミッド400は、ローパス空間− バンドパス時間応答を生成する。 より具体的に述べると、空問フィルタ410(ローパス)には縦続接続された 複数のローパス時間フィルタ420が続き(上述の通り)、一組の時間ローパス ・空間ローパス画像を生成する。この後、相隣るフィルタの出力同士が減算器4 30によって減算され、一組の時間バンドパス(ラプラシアン)画像が生成され る。最後に、除算器440によって各ラプラシアン画像がより低いレベルの時間 ローパス画像で除算され、一組の時間バンドパスコントラスト画像がパス450 〜452に生成される。空間フィルタ410は、時問コントラストピラミッド4 00の一部であるように図示されているが、空間フィルタ410は、図2に示さ れるように、独立した空間フィルタ240としてコントラストピラミッドの外側 に実装することもできる。 好適な実施形態では、時間コントラストピラミッド400は、縦続接続形ロー パス時間フィルタを用いているが、本発明は、この特定の実施形態に限定される ものではない。他の形態のローパス時間フィルタ、例えば、すべてのタップが負 でない時間FIR(有限インパルス応答)フィルタ、を本発明に組み込んでも同 様の結果を得ることができる。 図5は、時間コントラストピラミッドを構築する方法500を示している。方 法500は、ステップ510から開始してステップ520に進む。ステップ52 0では、時間ローパスピラミッドが構築される。空間ローパスされたオリジナル 入力画像G1はピラミッドの第1レベルと呼ばれる。より低い解像度の後続のレ ベルは、「縮小(Reduce)」と呼ばれる操作によって得られる。 この縮小操作は、空間ローパスされたオリジナル入力画像に対して画像の各方 向に順次にダウンサンプリングを施して、ぼやけた画像を生成する。この後、得 られたぼやけた画像は、係数2でサブサンプリングされ、次のレベルG2が作成 される。方法500は、新しいレベルの各々に縮小操作を再帰的に行い、最上レ ベルに達すると停止する。最上レベルのデフォルト値は7である。 図5を参照すると、方法500は、ステップ530で時間ラプラシアンピラミ ッドを生成する。この時間ラプラシアンピラミッドは、ステップ520の時間ロ ーパスピラミッドから生成される。時間ラプラシアンピラミッドのk番目のレベ ルLkは、Lk=Gk−Gk+1から計算される。相隣る時間ローパスピラミッドレベ ルのポイントごとの減算は、「拡大(Expand)」と呼ばれる操作を通じてGkレ ベルの解像度に合わせるためにGk+1レベルの事前のアップサンプリングを必要 とする。 この拡大操作は、ガウシアンピラミッドレベルkにおける画像Gkを係数2で アップサンプリングし(すなわち、オリジナルサンプルは、間に0を入れて間隔 をあけられる)、その結果得られる、より大きな画像は、重み(1,4,6,4 ,1)/16を用いてxおよびy方向の双方において畳み込まれる。時間ラプラ シアンピラミッドのk番目のレベルLkを計算する際、拡大操作は、ポイントご との減算と交互になされる。すなわち、Lk=Gk−Expand(Gk+1)であ る。このプロセスは、最も粗い時間ローパスレベル(k=7)から最も細かいレ ベル(k=1)まで続けられる。 ステップ540において、方法500は、時間コントラストピラミッドを計算 する。この局所的コントラストピラミッドは、時間ラプラシアンピラミッドの各 レベルにおける各画素値を、現在の時間ラプラシアンピラミッドレベルサイズに (拡大操作によって)内挿された二つ上のレベルからの対応するガウシアン値で 除算することによって計算される。ゼロ除算エラーは、小さな定数を除数(例え ば、1e−10)に加算することによって回避される。時間コントラストピラミ ッドが構築されると、ステップ550で方法500は終了する。 このように、画像忠実度および視覚タスクアプリケーションを改善するために 画像ストリームを複数の単位の局所的コントラストに分解する新規な時間コント ラストピラミッドアーキテクチャおよび付随方法を提示して説明してきた。しか しながら、本発明の実施形態を開示する本明細書および添付図面を検討すれば、 本発明の多くの変更、修正、変形、並びにその他の利用および応用が当業者にと って明らかとなるであろう。このような変更、修正、変形、並びにその他の利用 および応用のすべては、本発明の趣旨と範囲を逸脱するものではなく、本発明に 含まれると考えられる。本発明は、添付の請求の範囲によってしか限定すること ができない。
───────────────────────────────────────────────────── フロントページの続き (81)指定国 EP(AT,BE,CH,DE, DK,ES,FI,FR,GB,GR,IE,IT,L U,MC,NL,PT,SE),CA,JP,KR,M X

Claims (1)

  1. 【特許請求の範囲】 1. 複数の信号を有する入力シーケンスから複数の単位の局所的コントラスト を計算する装置(400)であって、 前記入力シーケンスの信号の各々から複数の時間フィルタリング済信号を生成 する複数の縦続接続された時間フィルタ(420)と、 前記時間フィルタのうちの少なくとも二つに結合され、時間バンドパス信号を 生成する少なくとも一つの減算器(430)と、 前記減算器の一つと前記時間フィルタの一つとに結合され、時間バンドパスコ ントラスト信号を生成する少なくとも一つの除算器(440)と、 を備える装置。 2. 前記複数の信号が画像である請求項1記載の装置。 3. 前記時間フィルタの一つに結合され、前記入力シーケンスの画像に空間フ ィルタリングを施して空間フィルタリング済画像を生成する空間フィルタ(41 0)をさらに備え、前記空間フィルタリング済画像が前記時間フィルタリング済 信号を生成するために使用される請求項1記載の装置。 4. 前記複数の縦続接続時間フィルタ(420)、前記減算器(430)、お よび前記除算器(440)が時間コントラストピラミッドを形成するようになっ ている請求項1記載の装置。 5. 複数の信号を有する入力シーケンスから複数の単位の局所的コントラスト を計算する方法であって、 (a)複数の縦続接続された時間フィルタを用いて前記入力シーケンスの信号 の各々から複数の時間フィルタリング済信号を生成するステップと、 (b)相隣る前記時間フィルタリング済信号の組から時間バンドパス信号を生 成するステップと、 (c)前記時間バンドパス信号を前記時間フィルタリング済信号の一つで除算 して時間バンドパスコントラスト信号を生成するステップと、 を備える方法。 6. 前記複数の信号が画像である請求項5記載の方法。 7. (a’)前記入力シーケンスの画像を空間フィルタリングして空間フィル タリング済画像を生成するステップをさらに備え、前記空間フィルタリング済画 像が前記ステップ(a)における前記入力シーケンスの信号である請求項5記載 の方法。 8. 前記時間フィルタがローパスフィルタである請求項5記載の方法。 9. 前記時間フィルタがFIRフィルタである請求項5記載の方法。 10. 複数の信号を有する入力シーケンスから複数の単位の局所的コントラス トを計算する方法であって、 (a)前記入力シーケンスの信号の各々から複数の時間フィルタリング済信号 を生成するステップと、 (b)相隣る前記時間フィルタリング済信号の組から時間バンドパス信号を生 成するステップと、 (c)前記時間バンドパス信号および前記時間フィルタリング済信号から時間 バンドパスコントラスト信号を生成するステップと、 を備える方法。
JP9535503A 1996-03-29 1997-03-31 画像ストリームを局所的コントラストの単位に分解する方法及び装置 Pending JP2000507726A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US1432496P 1996-03-29 1996-03-29
US1433296P 1996-03-29 1996-03-29
US60/014,332 1996-03-29
US60/014,324 1996-03-29
PCT/US1997/005225 WO1997037326A1 (en) 1996-03-29 1997-03-31 Method and apparatus for decomposing an image stream into units of local contrast

Publications (1)

Publication Number Publication Date
JP2000507726A true JP2000507726A (ja) 2000-06-20

Family

ID=26685953

Family Applications (1)

Application Number Title Priority Date Filing Date
JP9535503A Pending JP2000507726A (ja) 1996-03-29 1997-03-31 画像ストリームを局所的コントラストの単位に分解する方法及び装置

Country Status (5)

Country Link
US (1) US5909516A (ja)
EP (1) EP0891604A4 (ja)
JP (1) JP2000507726A (ja)
KR (1) KR100347202B1 (ja)
WO (1) WO1997037326A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005199061A (ja) * 2003-12-22 2005-07-28 Ge Medical Systems Global Technology Co Llc 最小誤差時空間再帰フィルタを使用する画像ノイズ低減のためのシステム及び方法
US7369686B2 (en) 2001-08-23 2008-05-06 Sony Corporation Robot apparatus, face recognition method, and face recognition apparatus

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6360022B1 (en) 1997-04-04 2002-03-19 Sarnoff Corporation Method and apparatus for assessing the visibility of differences between two signal sequences
US6137904A (en) * 1997-04-04 2000-10-24 Sarnoff Corporation Method and apparatus for assessing the visibility of differences between two signal sequences
US6236742B1 (en) * 1997-07-09 2001-05-22 Peter H. Handel Coherent superscan early cancer detection
GB9803580D0 (en) * 1998-02-21 1998-04-15 Nds Ltd Determining visually noticeable differences between two images
US6421097B1 (en) * 1998-07-31 2002-07-16 Intel Corporation Method and apparatus for reducing flicker in a video image sequence
US6285797B1 (en) 1999-04-13 2001-09-04 Sarnoff Corporation Method and apparatus for estimating digital video quality without using a reference video
JP2002224982A (ja) * 2000-12-01 2002-08-13 Yaskawa Electric Corp 薄型基板搬送用ロボットおよび薄型基板検出方法
CA2430591C (en) * 2000-12-01 2011-04-19 Imax Corporation Techniques and systems for developing high-resolution imagery
US6556009B2 (en) * 2000-12-11 2003-04-29 The United States Of America As Represented By The Department Of Health And Human Services Accelerated magnetic resonance imaging using a parallel spatial filter
US7155569B2 (en) * 2001-02-28 2006-12-26 Lsi Logic Corporation Method for raid striped I/O request generation using a shared scatter gather list
US6748338B2 (en) * 2001-11-21 2004-06-08 Winbond Electronics Corporation Method and apparatus for testing eye diagram characteristics
US7098927B2 (en) * 2002-02-01 2006-08-29 Sharp Laboratories Of America, Inc Methods and systems for adaptive dither structures
CN1650622B (zh) * 2002-03-13 2012-09-05 图象公司 用于数字重新灌录或修改电影或其他图像序列数据的系统和方法
KR100434162B1 (ko) * 2002-03-13 2004-06-04 학교법인연세대학교 객관적 비디오 화질 평가 장치 및 방법
US20080175513A1 (en) * 2005-04-19 2008-07-24 Ming-Jun Lai Image Edge Detection Systems and Methods
CA2636858C (en) * 2006-01-27 2015-11-24 Imax Corporation Methods and systems for digitally re-mastering of 2d and 3d motion pictures for exhibition with enhanced visual quality
WO2007148219A2 (en) 2006-06-23 2007-12-27 Imax Corporation Methods and systems for converting 2d motion pictures for stereoscopic 3d exhibition
KR100925419B1 (ko) * 2006-12-19 2009-11-06 삼성전자주식회사 라플라시안 피라미드를 이용한 컬러 영상의 화질 개선 장치및 그 방법
US8824831B2 (en) * 2007-05-25 2014-09-02 Qualcomm Technologies, Inc. Advanced noise reduction in digital cameras
US8731318B2 (en) * 2007-07-31 2014-05-20 Hewlett-Packard Development Company, L.P. Unified spatial image processing
US8687913B2 (en) * 2012-07-17 2014-04-01 Adobe Systems Incorporated Methods and apparatus for image deblurring and sharpening using local patch self-similarity

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4551753A (en) * 1981-12-17 1985-11-05 Nippon Hoso Kyokai Picture signal processing system including spatio-temporal filter
US4675532A (en) * 1985-11-06 1987-06-23 Irvine Sensors Corporation Combined staring and scanning photodetector sensing system having both temporal and spatial filtering
JP2536024B2 (ja) * 1988-02-29 1996-09-18 株式会社島津製作所 X線画像処理装置
US5109425A (en) * 1988-09-30 1992-04-28 The United States Of America As Represented By The United States National Aeronautics And Space Administration Method and apparatus for predicting the direction of movement in machine vision
US5119195A (en) * 1991-01-31 1992-06-02 Thomson Consumer Electronics, Inc. Video noise reduction system employing plural frequency bands
DE69214229T2 (de) * 1991-08-14 1997-04-30 Agfa Gevaert Nv Verfahren und Vorrichtung zur Kontrastverbesserung von Bildern
US5260791A (en) * 1992-06-04 1993-11-09 David Sarnoff Research Center, Inc. Method and apparatus for the spatio-temporal coring of images
US5694491A (en) * 1996-03-29 1997-12-02 David Sarnoff Research Center, Inc. Methods and apparatus for assessing the visibility of differences between two image sequences
US5719966A (en) * 1996-03-29 1998-02-17 David Sarnoff Research Center, Inc. Apparatus for assessing the visiblity of differences between two image sequences

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7369686B2 (en) 2001-08-23 2008-05-06 Sony Corporation Robot apparatus, face recognition method, and face recognition apparatus
JP2005199061A (ja) * 2003-12-22 2005-07-28 Ge Medical Systems Global Technology Co Llc 最小誤差時空間再帰フィルタを使用する画像ノイズ低減のためのシステム及び方法
JP4598507B2 (ja) * 2003-12-22 2010-12-15 ジーイー・メディカル・システムズ・グローバル・テクノロジー・カンパニー・エルエルシー 最小誤差時空間再帰フィルタを使用する画像ノイズ低減のためのシステム及び方法

Also Published As

Publication number Publication date
KR100347202B1 (ko) 2002-09-18
EP0891604A1 (en) 1999-01-20
KR19990087654A (ko) 1999-12-27
US5909516A (en) 1999-06-01
WO1997037326A1 (en) 1997-10-09
EP0891604A4 (en) 2000-04-26

Similar Documents

Publication Publication Date Title
JP2000507726A (ja) 画像ストリームを局所的コントラストの単位に分解する方法及び装置
JP4047385B2 (ja) 2つの画像系列の差の可視性を評価する方法および装置
US5719966A (en) Apparatus for assessing the visiblity of differences between two image sequences
Hill et al. Perceptual image fusion using wavelets
US5694491A (en) Methods and apparatus for assessing the visibility of differences between two image sequences
Sheikh et al. Image information and visual quality
JP4219552B2 (ja) 画像及び信号処理のための装置及び方法
Ramamurthi et al. Nonlinear space-variant postprocessing of block coded images
US6360021B1 (en) Apparatus and methods of image and signal processing
US8908989B2 (en) Recursive conditional means image denoising
US20020150302A1 (en) Apparatus and methods for image and signal processing
Okarma Combined full-reference image quality metric linearly correlated with subjective assessment
US20040264799A1 (en) Method of processing an image to form an image pyramid
Hill et al. Contrast sensitivity of the wavelet, dual tree complex wavelet, curvelet, and steerable pyramid transforms
Wang et al. Image representation using block pattern models and its image processing applications
Yu et al. Human visual system based objective digital video quality metrics
JP4004561B2 (ja) 画像処理方法および装置
Eriksson et al. Modeling the perception of digital images: A performance study
Linares et al. JPEG estimated spectrum adaptive postfilter using image-adaptive Q-tables and canny edge detectors
Stark et al. Model-based adaptive histogram equalization
JP3508250B2 (ja) 動画像処理装置
Peterson Image segmentation using human visual system properties with applications in image compression
JP2581136B2 (ja) 画質評価装置
JP2004348293A (ja) 画像品質計算装置および方法、そのプログラム並びに記録媒体
KR100574595B1 (ko) 두개의 신호 시퀀스들 사이의 가시성 차이들을 평가하기 위한 방법 및 장치