JP2003501850A - 基準映像を用いることなくデジタル映像の品質を推定する方法と装置 - Google Patents

基準映像を用いることなくデジタル映像の品質を推定する方法と装置

Info

Publication number
JP2003501850A
JP2003501850A JP2000611508A JP2000611508A JP2003501850A JP 2003501850 A JP2003501850 A JP 2003501850A JP 2000611508 A JP2000611508 A JP 2000611508A JP 2000611508 A JP2000611508 A JP 2000611508A JP 2003501850 A JP2003501850 A JP 2003501850A
Authority
JP
Japan
Prior art keywords
distortion
signal
vision
virtual
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000611508A
Other languages
English (en)
Other versions
JP4494649B2 (ja
Inventor
ジェフリー ラビン,
マイケル, ヘンリー ブリル,
アルバート, ピー. パイカ,
Original Assignee
サーノフ コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by サーノフ コーポレイション filed Critical サーノフ コーポレイション
Publication of JP2003501850A publication Critical patent/JP2003501850A/ja
Application granted granted Critical
Publication of JP4494649B2 publication Critical patent/JP4494649B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/004Diagnosis, testing or measuring for television systems or their details for digital television systems

Abstract

(57)【要約】 基準画像を用いる必要がない、もしくは、その利用可能性がない画像品質評価を実行する方法と装置。装置(100)は、ビジョンプリプロセッサ(300)と仮想基準生成部(304)と仮想歪み生成部(306)と画像品質測定基準生成部(308)を備える。ビジョンプリプロセッサ(300)は、ビジョンに適した変換を入力画像シーケンスに施してビジョンエネルギーマップを生成する。仮想基準生成部(304)は、ビジョンエネルギーマップに関する処理を行って仮想基準を生成し、仮想歪み生成部(306)は、仮想基準生成部によって利用される歪み推定値を生成して仮想基準を生成する。画像品質測定基準生成部(308)によって仮想歪みと仮想基準が用いられて、基準映像シーケンスを用いることなく入力映像シーケンスに対する画像品質測定基準が生成される。

Description

【発明の詳細な説明】
【0001】 本出願は、1999年4月13日に出願された米国仮出願60/129,13
2の利益を主張することを請求するものであり、その出願の内容は本明細書に援
用されている。
【0002】 本発明は映像処理システムに関し、特に、本発明はデジタル映像の品質を推定
する方法と装置に関する。
【0003】 開示の背景 デジタル映像業界では、知覚できる映像信号の生成とエンコーディングと転送
と記憶と表示を行う様々な場面でその信号の品質を確実に維持することが強く要
求されている。映像品質を維持することによって、この品質を確実に素早く繰返
し測定する必要がある。エンドユーザに対する品質を確実に維持し、エラー源を
識別するための品質推定が必要であって、現実には人間の観察者が表示される映
像の品質を評価しているが、人間が映像処理や転送を行うために利用する複雑な
ネットワークの中心を調査することは現実的ではない。従って、映像処理/転送
システムのどの場面でも映像品質を自動的に推定する必要がある。
【0004】 1998年4月3日に出願された米国特許出願09/055,076は、オー
トメーション化された映像品質推定の1つのアプローチを開示している。このア
プローチでは、検査中の信号(映像シーケンス)が同じ信号の基準と比較されて
、顕著な差(Just Noticeable Differences(JN
Ds))の心理物理学的単位でこれらの2つの信号を区別する可能性が求められ
る。
【0005】 広範囲の種類の歪みと意図する信号に対する人間の主観的な映像品質の格付け
を予測する際に映像品質を評価するための基準に基づくアプローチは正確でロバ
ストであることがわかっている。しかしながら、直接放送衛星(DBS)とケー
ブルとインターネット伝送等のアプリケーション用デジタル映像ネットワークで
は、処理/送信された信号と比較するために意図される信号(「基準」)は決し
て利用されないか、もしくは、ほとんど利用されない。そのため、これらのアプ
リケーションで本技術を使用することは実践的でない。
【0006】 従って、基準信号が得られない状況でデジタル映像ピクチャ品質値を信頼して
アクセスできる技術が必要である。
【0007】 発明の概要 映像信号の品質を評価する本技術のデメリットは、基準映像信号の利用、もし
くは、その利用可能性のない画像品質評価方法と装置によって克服される。本装
置は、ビジョンプリプロセッサと仮想基準生成部と仮想歪み生成部と画像品質測
定基準生成部を備える。ビジョンプリプロセッサは、入力映像シーケンスに対し
てビジョンに適した変換を施して、ビジョンエネルギーマップを生成する。仮想
基準生成部はビジョンエネルギーマップに関する処理を行って仮想基準を生成す
るが、仮想歪み生成部は、仮想基準を生成する仮想基準生成部で用いられる歪み
推定値を生成する。画像品質測定基準生成部では仮想歪みと仮想基準を用いて、
基準画像シーケンスを用いることなく入力映像シーケンスに対する画像品質測定
基準を生成する。
【0008】 添付の図面と共に以下の詳細な説明を検討することによって、本発明の教唆す
るところを理解することができる。
【0009】 理解を容易にするために、できる限り複数の図面で共通の同要素を示すために
同じ参照番号を用いている。
【0010】 詳細な説明 本発明は、以下の3つの対話的処理を必要とするロバストなアプローチを基準
無映像品質推定部に提供する。
【0011】 1.(映像ストリームとも呼ばれる)映像シーケンス内のもっともらしい
(likely)信号成分の特徴づけ 2.もっともらしい歪みの位置と物理的大きさの推定 3.各信号に対する歪みの主観的な大きさの予測 一般的に、基準を用いないシステムはシングルエンドと呼ばれる。即ち、画像品
質監視システムは、シングルエンド画像品質監視システムである。対照的に、基
準を用いるシステムは、ダブルエンドシステムと一般的に呼ばれる。
【0012】 図1は、前述の3つのプロセスを備える基準無映像品質推定プロセス100(
即ち、シングルエンドプロセス)を示す高レベルのフロー図を示す。工程102
では、もっともらしい信号を特徴づけることによって、画像が乱れているかどう
かを人間が確認する支援を行う「内部基準」と同様の仮想基準が提供される。工
程104では、入力映像データに関して処理する歪み推定部は、「ノイズ」、即
ち、エンコードや転送やその他の原因で発生する映像ストリーム歪みの物理的な
大きさとその位置の量的な推定値を提供する。加算器108によって仮想歪み(
ノイズ)は仮想基準に追加され、「信号+ノイズ」が生成される。次に、その信
号単独(仮想基準)と信号+ノイズの推定値は、既知のJNDビジョンモデルの
オペレーションを一般化して、信号単独のシーケンスと信号+ノイズシーケンス
間で画素に基づく比較を行うのではなく、領域に基づく比較ができる工程106
の顕著な差(JND)プロセスに与えられる。既知のJNDビジョンモデルは1
998年4月3日に出願された米国特許出願09/055,076に開示されて
いる。「局所領域JNDモデル」によって、信号やノイズの正確な知識が不要で
視覚的歪みの主観的な大きさを推定することができる。
【0013】 仮想基準の特徴付けプロセスの1つの特徴は、特定の信号成分を示すために求
められる映像特徴(例えば、移動エッジ)を複数の映像フレームに渡って追跡す
る光フロー計算にある。映像シーケンスで同じ特徴をもつノイズを含む多数のサ
ンプルを追跡することによって、それらのサンプルからもっともらしい一定の信
号を統計的に抽出することができる。次に、この仮想基準の1つを同じ映像領域
内で検出された歪み(例えば、DCT量子化によるアーチファクト(artif
acts)とエッジリンギング)と比較することができる。
【0014】 また、局所領域JNDモデルは、現在のやり方から著しく進歩したものである
。信号単独と信号+ノイズを画素毎に比較する代りに、局所領域JNDモデルで
は、映像ストリームのマルチフレーム領域とマルチ画素領域に蓄積された信号と
ノイズの領域に基づくローカルエリア統計量が用いられる。ここでは局所領域J
NDモデルが必要である。何故ならば、基準無しのアプリケーションでは、基準
の画素解像度情報を確実に利用できないからである。しかしながら、以下で議論
されるが、局所領域JNDアーキテクチャでは、映像ストリームの重いテクスチ
ャ領域の歪みの可視性を正確に予測する等の際に一般的に複数の重要なメリット
がある。
【0015】 また、基準/歪み推定プロセスの確実性を改善するために、本発明は、(矢印
110で示される)歪み推定部のオペレーションと仮想基準生成部のオペレーシ
ョン間の緩和的相互作用と、注入された既知の歪みを含む既知の基準シーケンス
を用いて、検査済みの基準に基づくモデルに関して基準無推定部のパラメータを
調整する校正手続を提供する。
【0016】 図2に示されるように、図1の推定部100は、一般的に、汎用コンピュータ
202で実行されるソフトウエアルーチン、即ち、ルーチン200で実現される
。汎用コンピュータ202は、中央処理装置(CPU)204とメモリ206と
入力/出力回路208と、各種の周知の支援回路210、例えば、クロックとキ
ャッシュと電源等を備える。汎用コンピュータ202は、複数のルーチンを実行
するまで、それらのルーチンをメモリ206、例えば、ランダムアクセスメモリ
とリードオンリーメモリとディスクドライブ等に記憶させる。ルーチン200の
実行によって、汎用コンピュータ202は、基準無品質推定部100として動作
する特定用途向コンピュータに変わる。推定部100の機能は、ハードウエアや
ソフトウエアやハードウエアとソフトウエアの組み合わせで実現可能である。そ
の上、推定部の機能は、特定用途向集積回路(ASIC)で実現可能である。
【0017】 図3は、推定部100の機能ブロック図を示す。推定部100は、ビジョンプ
リプロセッサ300と仮想基準生成部302と映像品質測定基準生成部308を
備える。推定部100の各要素については以下で議論される。
【0018】 入力映像ストリームは、画素毎にビジョンと同様な変換を映像に対して施すビ
ジョンプリプロセッサ300(VPP)に入力される。この変換によって、様々
な時空間周波数と時空間の方向に対してヒューマンビジュアルシステムの基礎感
度が得られる。特に、この変換によって、固定エッジとフリッカーフィールドに
対する応答だけでなく移動エッジに対する応答も得られる。また、それはこれら
の画素のビジョンチャネル形式への一から多への変換である。
【0019】 VPPは、1998年4月3日に出願された米国特許出願09/055,07
6の既存の基準に基づくJNDモデルに基づくものであるが、(動きに対して敏
感なフィルタを含む)一般化された時空間チャネルを用いている。公開された既
知の心理物理学的検出データを用いてVPPの校正が実行される。そのモデルの
出力、即ち、局所的/心理物理学的に重み付けられた空間−時間コントラストは
、基準に基づくモデルと同じJND単位をもつ。特定の時点でのVPPの出力は
ビジョンエネルギーマップ(VEM)であって、これらのマップの時間シーケン
スによってVEMストリームが形成される。マップの個々の値は、ビジョンエネ
ルギー(VE)、即ち、一つの空間位置で方向付けられた応答を示す。この値の
マップ内の位置(チャネルと空間的位置)はビジョンマップロケーション(VM
L)である。
【0020】 各VEMは、仮想基準生成部302内の信号推定生成部304と歪み推定生成
部306に同時に与えられる。これらの生成部の各々によって実行されたプロセ
スは、VEM内の様々な信号の特徴をもつ態様と歪みの特徴をもつ態様を独立に
探索するための少数(〜10)のオペレータからなる。この各オペレータの出力
は、各VMLの重み値セットである。各重み値(0と1の間の数)は、その位置
での一部エネルギーのオペレータによる推定値を示し、それはオペレータが検出
するように設計された信号源や歪み源に基づくものである。各オペレータでは重
み値のほとんどがゼロであり、VEMストリームの比較的小さな時空間領域では
非ゼロの重み値が与えられる。従って、全てのVML上のオペレータの出力は、
自然なセグメンテーション、即ち、入力されたVEMストリームがそのオペレー
タの特徴を含みそうな領域にクラスタリングされると考えられる。「信号セグメ
ントk」(SSk)は、信号オペレータkがVEMストリームに割り当てる複数
の値のアレイである。同様に、「歪みセグメントk」(DSk)は、歪みオペレ
ータkがVEMストリームに割り当てる複数の値のアレイである。
【0021】 (仮想基準に寄与する)信号推定プロセス310では、オペレータの出力は、
ビジュアルシーンの同じ種類のオブジェクト、即ち、特徴に起因すると予測され
る低レベル特徴のクラスタを示す。これらのオペレータのうちの幾つかには、光
フロー分析と固定エッジ検出とテクスチャ検出と平滑領域検出が含まれる。例え
ば、光フロー分析によって時間に対するクラスタが生成される。尚、各クラスタ
は、連続するVEMの個々の画像特徴の予測時空間パスに対応する。他方、テク
スチャセグメンテーションから得られるクラスタの比較的広い空間領域内には多
数のVMLが含まれる。尚、この各クラスタは、知覚的に密集した局所テクスチ
ャに対応する。これらの例が示すように、移動エッジと重いテクスチャ領域と、
広く均一に、即ち、ゆっくり変化する背景等の様々な種類の知覚的に目立つ特徴
からおそらく得られた複数の部分に映像ストリームをセグメント化するように信
号推定プロセス310が設計される。この計算の重要な面は、セグメンテーショ
ンが必ずしも完璧ではないことである。即ち、信号の種類が確実に推定されない
VMLを考慮に入れると、分類を決定する試みはなされない。このことは、信号
と歪み特性を確実に推定できる映像ストリーム領域内だけで知覚できる歪みの大
きさを以下で説明されるJND処理で推定できることを確実にする。
【0022】 信号推定プロセス310は、現実の世界でもっともらしい信号の知識を当てに
している。例えば、複数のオブジェクトが密集して、時間と空間中を滑らかに動
く傾向があるという事実は、光フロー、即ち、時間の点間の対応の計算に対して
かなりの拘束条件となる。周知のピラミッドベース(マルチ解像度)の光フロー
計算を行って、時間と空間上のVMLをクラスタリングすることができる。この
クラスタリングによって、クラスタ内の複数のVMLの平均を取ることによって
、もっともらしい信号を抽出することができる。この平均化プロセスを使って仮
想基準を抽出することができ、それに対する様々な歪みの知覚可能性をアクセス
することができる。
【0023】 信号推定プロセスと共に、複数のVEMに歪み推定プロセス318の処理を施
す。この中で、オペレータは様々なエンコーダと転送システムから予想される歪
み(例えば、MPEG−2の濃淡ムラやウェーブレットのエッジリンギング)と
一般的な種類の歪み(例えば、ノイズとぼけ)に対応する。もっともらしい信号
特性(例えば、光フロー分析を行う際での、密集したオブジェクトに関する滑ら
かな動きに対する拘束条件)を考慮に入れて信号オペレータを設計でき、また、
設計すべきである一方で、歪みオペレータは既知の歪み態様にフィルタを合わせ
る単純な標準画像処理技術に基づくと期待できることに注目されたい。また、信
号オペレータと同じように、VEMストリームを完全にカバーするためには歪み
オペレータは必要ない。例えば、非常に高品質の映像では、非ゼロの歪みオペレ
ータの重み値がないVMLがたくさんあるはずである。
【0024】 歪み推定プロセス306には、もっともらしい歪みに一致するフィルタに適し
たオペレータが含まれる。特定の技術には以下のものが含まれる。
【0025】 ・(追加されたJPEG準拠の濃淡ムラをもつ広く均一な領域があるかど
うかを決定するために役立つ)コードブロックの周期性のあるアマダール変換で
の低振幅ピークの抽出 ・移動エッジの近傍にありそうなアーチファクトを決定するために役立つ
シンチレーション検出 ・マクロブロックのアーチファクト(MPEG−2)とウェーブレットの
リンギング(MPEG−4)を明らかにするための信号のピラミッド/フーリエ
分析
【0026】 信号と歪み推定生成部304、306では、様々なオペレータの出力が互いに
独立に得られ、信号分類部312と歪み分類部320に与えられる。歪み分類部
320と信号分類部310では、独立な推定値には緩和プロセスの処理が施され
て、強い信号の重み値によって歪みの重み値が変調され、また、互いに変調され
、同様に、強い歪みの重み値によって信号の重み値が変調され、また、互いに変
調される。もし信号オペレータによってシンチレーティング領域が移動エッジと
して識別されると、例えば、画像のシンチレーションには、大きな歪みオペレー
タの重み値が与えられる。歪み分類部320の出力は、(修正された歪みセグメ
ントk、即ち、RDSKを備える)歪みオペレータ出力上で修正された重み値の
セットである。同様に、初期歪みの重み値DSKによって、信号オペレータ出力
を修正する(修正された信号セグメントRSSKを生成する)信号分類部312
を制御するための信号オペレータの重み値SSKが変調される。例えば、(信号
オペレータによって決定される)均一な映像領域で検出された濃淡ムラには追加
の重み値が与えられる。そして、修正された信号とノイズの重み値には再重み付
けプロセスの処理が再び施される。この緩和プロセスは、信号と歪みに対する不
変の重み値のセットが得られるまで、即ち、別の停止基準に達するまで続く(パ
ス313、321によって表される)。計算速度を保障するために、一般的に2
,3回以下の緩和処理が可能である。
【0027】 また、この段階では、得られた信号や歪み領域内のVEMストリームの個別の
種類、即ち、チャネル(例えば、特定の時空間周波数で方向づけられたエッジ)
に対する重み値を各チャネルに対する領域平均値と取りかえることができる。特
に、テクスチャ領域では、特定の時空間位置の特定エネルギーによるのではなく
、その領域内のチャネルのエネルギーの全統計値によって知覚対象の大部分が決
定される。従って、領域の平均値によって、各領域内で知覚可能な歪みの推定値
が確実に生成される。
【0028】 各VMLでは、分類部の出力RSSK、RDSKはそれぞれ、信号重み値正規化
部314と歪み重み値正規化部322に与えられる。(信号や歪みが確実に検出
されない所を除いて)これらの重み値の合計が単位元となるように分類部の出力
が正規化されて、全ての信号と歪みオペレータに対する一連の重み値が構成され
る。これらの重み値には、信号/歪みプロセス310、318が敏感に反応する
信号と歪みの各々が原因である各VEM内のエネルギーの一部の推定値が含まれ
る。
【0029】 次に、各VEMに対して信号重み値RSSKの全てがkに関して合計されて、
信号重み値アレイRSSが生成され、推定された各VMLのエネルギーの一部は
ある種の信号によるものであることが示される。同様に、全歪み重み値RDSK
がkに関して合計されて、歪みによる各VMLのエネルギーの一部のアレイRD
Sが生成される。次に、(マルチプライヤ316を用いて)重み値RSSに、全
VMLS上の成分に関するVEMが乗算されて、信号(信号エネルギー、即ち、
SE)によるVEMのエネルギーを表すアレイが生成される。このアレイは仮想
基準と呼ばれる。仮想基準は、実際の基準画像シーケンスを置き換えるものであ
る。同様に、マルチプライヤ324でRDSとVEMを乗算することによって、
歪みエネルギーDEを表す個別アレイが計算される。加算器326で2つのアレ
イ5E、DEを単純に加算することによって、信号+歪みによるVEMエネルギ
ーの推定値が生成される。この信号は仮想テスト値と呼ばれる。多くの場合(即
ち、信号も歪みも確実に推定されなかった領域を除いて)、どのVMLでのSE
+DEの値もVMLの総エネルギーに等しいことに注意されたい。
【0030】 図4は、特有な信号と歪みの推定部では入力映像ストリームから仮想基準と仮
想テスト値を抽出するプロセスの一例を模式的に示す。この例では、信号推定プ
ロセスでの光フロー分析では、映像400の3つのフレームから移動する立方体
を追跡し、源映像400の3フレームから意図する信号402を抽出する。同時
に、濃淡ムラ歪み推定部は、1フレームの映像(フレームt)内のブロック状歪
み404を識別する。次に、図の乗算ポイント406で示されるように、信号推
定部と歪み推定部では独立に、ビジョンプリプロセッサ300によって生成され
るVEMストリームから個々のVMLSのエネルギーに重み付けし、加算器40
0で仮想基準に加算される歪み成分と仮想基準を生成して仮想テスト値を生成す
る。
【0031】 この図では1つの信号推定部と1つの歪み推定部だけのオペレーションが示さ
れていることに注意されたい。実際に実行するには、多数の信号/歪み推定部が
同時に動作し、それらの推定値は図3に示され上述された信号/歪み分類部によ
って改善される。また、図4のダッシュ線は映像ストリームを直接処理する信号
/歪み推定部を示すが、これは図示する目的だけのものであって、実際に実行す
る場合は、これらのオペレータは映像から直接ではなく、VEMストリームから
入力することに注意されたい。
【0032】 図3に戻って、映像ストリームの各領域から信号と歪みエネルギーを抽出した
後で、推定部100は、映像品質測定基準生成部308を利用して信号エネルギ
ーと信号+歪みエネルギーを比較することによって、視覚的品質の測定基準を計
算する。前ビジョンのモデリング後にその比較自体での測定基準がパターン化さ
れ、ビジョンプリプロセッサ300は人間の時空間周波数の感度等の低レベルの
視覚的拘束条件を獲得する。実際には、2つのビジョンモデル要素、即ち、その
アルゴリズムを単純な心理物理学的実験と一貫性のあるものにする低レベルビジ
ョン(例えば、VEMの計算)と、特徴ベクトル要素を合成して信号品質の判定
を行うための高レベルの視覚的な比較との間に、信号/歪み推定計算がサンドイ
ッチされる。
【0033】 その処理でのこの観点から、1998年4月3日に出願された米国特許出願0
9/055,076で開示されたJNDアーキテクチャを利用することができる
。各VMLに対する信号単独と信号+歪みエネルギーの個々の値は、基準ベース
のJNDモデルの各フロントエンド部で計算された基準と基準+テストの個々の
値に対応する。基準に基づくモデルでは、これらの2つのエネルギーには成分毎
にインチャネルマスキング328A、328Bと呼ばれる非線形変換が施される
。このマスキングによって、エネルギーの中程度の変化量を強調し、エネルギー
値が非常に大きいときにはエネルギーの変化をあまり強調しないように各エネル
ギーに測定基準が課される。この変換では、信号(もしくは、ノイズ)成分の変
化が特定の強度に達したときにはあまり強調しない。
【0034】 インチャネルマスキングの次にはクロスマスキング330A、333Bがある
ので、異なるVMLからのエネルギーは互いに打ち消される。本オペレーション
の1つの目的は、にぎやかな背景中での変化はほとんど知覚できないという知覚
現象をシミュレートすることである。
【0035】 最後に、変換されたVEMSは知覚の歪み測定基準332と比較されて、その
結果は品質格付けの推定値となる。抽出された信号と信号+歪みを比較すること
は、入力映像ストリームと仮想基準を比較することと等価である。しかしながら
、それは厳密にはノイズ消去プロセスではない。何故ならば、信号推定プロセス
と分類プロセスから得られる不完全な信号の統計量からノイズが消去された映像
を検索できないからである。
【0036】 実験データの代わりに基準ベースのビジョンモデルを用いることで、基準無モ
デル(実映像の基礎的で心理物理学的な格付けと主観的な格付けの両方)を校正
するために必要とされる実験の多くをなくすことができる。この努力を合理的に
することは可能である。何故ならば、実データの信頼できる代わりとなるもので
基準ベースのモデルが検査されているからである。このモデルベースの校正を行
うことによって、歪みのある一連の映像を選択し、基準ベースのモデルを用いて
歪みのない対応物と比較し、歪みのある映像だけを基準無モデルに対する入力情
報として用い、そのモデルのパラメータを設定して基準無の出力と基準ベースの
出力の間で最高の相関関係を作ることができる。この校正によって、基準無モデ
ルは基準ベースのモデルの基礎的ビジョン属性を継承したものになる。従って、
基準無モデルのロバスト性が改善される。
【0037】 4つのポイントで、推定部l00は、現実の格付けデータと比較して、もしく
は、信頼できる基準ベースのビジョンモデルを用いてその代わりとなるものと比
較することによって検査される。 1.)基準ベースのビジョンモデルで対応する要素と比較することによって、ビ
ジョンプリプロセッサ300が検査されて、基準モデルが校正されたことが確か
められる。また、正確さについてさらに保証するために、心理物理学的検出デー
タと比較してVPPを校正する。 2.)テスト映像の信号と歪みへの分離(信号と歪み)については以下のように
検査される。 (a)歪みの大きい映像を基準ベースのビジョンモデルに与えて、歪みの特徴
成分が大きくて信号成分が小さいことを検査し、 (b)歪みのない映像をモデルに与え、歪み成分が小さく信号成分が大きいこ
とを検査する。また、そのモデルを用いて、特定の信号と歪みを割り当てる映像
の複数の場所を検査することによってきめ細かい評価が行われる。 3.)2つの測定基準を比較することによって、信号と歪みの特徴が計算された
後に行われるマスキングが検査される。即ち、歪みのある映像単独から出力され
た基準無モデルと、歪みのある映像とそれに対応する歪みのない映像の両方から
出力された基準ベースのモデルである。同じ映像のシングルスティミュラス格付
けとダブルスティミュラス継続的品質スケール(DSCQS)を比較することに
よって、十分な一致が得られるための評価基準が指示される。 4.)モデル全体の出力と新しい基準無し格付けデータを比較することによって
、基準の無いアルゴリズムの最終検査が行われる。選ばれた歪みモードと代表的
な種類の画像を含む歪みのある映像のデータベースを利用して格付けデータが得
られる。その映像には、草とカーペットと、移動エッジと固定エッジと、幅広く
均一な領域等の一般的なテクスチャが含まれる。歪みには、点のようなノイズを
追加したり、MPEG−2やMPEG−4を用いて映像を圧縮したり、かすみや
フリッカーを起こすものがある。格付けスケールは、ITU資料500−Bで記
録されているDSCQSのシングルスティミュラスと同等のものである。シング
ル歪みのある映像(評価実験で用いられるものと同じもの)は推定部を経て、ま
た、推定された品質格付けは報告された主観的な格付けと比較される。
【0038】 一旦校正されると、基準無推定部100を用いて基準映像が利用できないアプ
リケーションでの画像品質を推定することができる。そのため、映像転送システ
ムやデジタル映像スタジオの内部映像処理要素が映像品質に与える影響を検査す
ることができる。
【0039】 本発明の教唆を取り入れた様々な実施形態を示してその詳細を説明してきたが
、当業者であれば、それらの教唆を取り入れたその他の多くの変更された実施形
態を簡単に考案することができる。
【図面の簡単な説明】
【図1】 図1は、本発明の基準無視覚的品質推定部の処理を示す高レベルのフロー図を
示す。
【図2】 図2は、本発明を実施するために利用できる汎用コンピュータのブロック図で
ある。
【図3】 図3は、本発明の基準無視覚的品質推定部の詳細な機能ブロック図である。
【図4】 図4は、図1の推定部で用いられる仮想的基準を生成する処理のフロー図を示
す。
【符号の説明】
300 ビジョンプリプロセッサ 310 信号推定プロセス 312 信号分類部 314 信号重み値正規化部 304 仮想基準 318 歪み推定プロセス 320 歪み分類部 322 歪み重み値正規化部 306 仮想歪み 328A インチャネルマスキング 330A クロスチャネルマスキング 328B インチャネルマスキング 330B クロスチャネルマスキング 332 歪み測定基準
───────────────────────────────────────────────────── フロントページの続き (81)指定国 EP(AT,BE,CH,CY, DE,DK,ES,FI,FR,GB,GR,IE,I T,LU,MC,NL,PT,SE),BR,CA,J P,KR (72)発明者 パイカ, アルバート, ピー. アメリカ合衆国, ニュージャージー州, イースト ウィンザー, ポプラ− ラ ン 2 Fターム(参考) 5C061 BB07 BB13

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】 画像のピクチャ品質の人間の主観的評価値を推定する装置で
    あって、シングルエンドの画像品質監視システム(100)を備える装置。
  2. 【請求項2】 前記シングルエンド画像品質監視システムは、 ビジョンプリプロセッサ(300)と、 前記ビジョンプリプロセッサに接続された仮想基準生成部(304)と、 前記仮想基準生成部に接続された画像品質測定基準生成部(308)を備える
    請求項1記載の装置。
  3. 【請求項3】 前記ビジョンプリプロセッサ(300)は、画像に対してビ
    ジョンに適した変換を行ってビジョンエネルギーマップを生成する請求項2記載
    の装置。
  4. 【請求項4】 前記仮想基準生成部は、 信号推定プロセッサ(310)と、 信号分類部(312)と、 信号重み値正規化部(314)を備える請求項2記載の装置。
  5. 【請求項5】 仮想歪み生成部(306)をさらに備える請求項2記載の装
    置。
  6. 【請求項6】 前記歪み生成部は、 歪み推定プロセッサ(318)と、 歪み分類部(320)と、 歪み重み値正規化部(322)を備える請求項5記載の装置。
  7. 【請求項7】 画像シーケンスの画像品質を推定する方法であって、 ビジョンに適した変換を用いて前記画像シーケンスを前処理してビジョンエネ
    ルギーマップを生成する工程と、 前記ビジョンエネルギーマップから仮想基準を生成する工程と、 前記仮想基準から画像品質測定基準を生成する工程を備える方法。
  8. 【請求項8】 前記仮想基準生成工程は、 信号推定工程と、 信号分類工程と、 信号重み値正規化工程をさらに備える請求項7記載の方法。
  9. 【請求項9】 仮想歪みを生成する工程をさらに備える請求項7記載の方法
  10. 【請求項10】 前記歪み生成工程は、 歪み推定工程と、 歪み分類工程と、 歪み重み値正規化工程を備える請求項9記載の方法。
JP2000611508A 1999-04-13 2000-04-13 基準映像を用いることなくデジタル映像の品質を推定する方法と装置 Expired - Lifetime JP4494649B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US12913299P 1999-04-13 1999-04-13
US60/129,132 1999-04-13
US09/543,753 US6285797B1 (en) 1999-04-13 2000-04-05 Method and apparatus for estimating digital video quality without using a reference video
US09/543,753 2000-04-05
PCT/US2000/009895 WO2000062556A1 (en) 1999-04-13 2000-04-13 Method and apparatus for estimating digital video quality without using a reference video

Publications (2)

Publication Number Publication Date
JP2003501850A true JP2003501850A (ja) 2003-01-14
JP4494649B2 JP4494649B2 (ja) 2010-06-30

Family

ID=26827249

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000611508A Expired - Lifetime JP4494649B2 (ja) 1999-04-13 2000-04-13 基準映像を用いることなくデジタル映像の品質を推定する方法と装置

Country Status (6)

Country Link
US (1) US6285797B1 (ja)
EP (1) EP1169869B1 (ja)
JP (1) JP4494649B2 (ja)
KR (1) KR20020000797A (ja)
DE (1) DE60041639D1 (ja)
WO (1) WO2000062556A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008533937A (ja) * 2005-03-25 2008-08-21 アルゴリス インコーポレイテッド Dctコード化されたビデオの品質を、オリジナルビデオシーケンスを用いて、もしくは用いずに客観評価する装置及び方法
JP2008535349A (ja) * 2005-03-29 2008-08-28 フランス テレコム 受け手によって認識される情報を含む信号の品質を評価するための方法及びデバイス

Families Citing this family (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6693962B1 (en) * 1999-02-01 2004-02-17 Thomson Licensing S.A. Process to extract regions of homogeneous texture in a digital picture
US6678424B1 (en) * 1999-11-11 2004-01-13 Tektronix, Inc. Real time human vision system behavioral modeling
US6798919B2 (en) * 2000-12-12 2004-09-28 Koninklijke Philips Electronics, N.V. System and method for providing a scalable dynamic objective metric for automatic video quality evaluation
US6968006B1 (en) 2001-06-05 2005-11-22 At&T Corp. Method of content adaptive video decoding
US6909745B1 (en) 2001-06-05 2005-06-21 At&T Corp. Content adaptive video encoder
US6970513B1 (en) 2001-06-05 2005-11-29 At&T Corp. System for content adaptive video decoding
US6810086B1 (en) 2001-06-05 2004-10-26 At&T Corp. System and method of filtering noise
US7773670B1 (en) 2001-06-05 2010-08-10 At+T Intellectual Property Ii, L.P. Method of content adaptive video encoding
FR2830402A1 (fr) * 2001-10-02 2003-04-04 Thomson Licensing Sa Systeme et procede pour tester la conformite d'un dispositif de decodage numerique
US7139017B2 (en) * 2002-01-29 2006-11-21 Koninklijke Philips Electronics N.V. Method and system for obtaining the best picture quality in a scarce-power device
KR100434162B1 (ko) * 2002-03-13 2004-06-04 학교법인연세대학교 객관적 비디오 화질 평가 장치 및 방법
US7102667B2 (en) * 2002-03-18 2006-09-05 Tektronix, Inc. Picture quality diagnostics for revealing cause of perceptible impairments
US6992697B2 (en) * 2002-06-19 2006-01-31 Koninklijke Philips Electronics N.V. Method and apparatus to measure video quality on any display device with any image size starting from a know display type and size
FR2847412B1 (fr) * 2002-11-15 2005-01-14 Telediffusion De France Tdf Procede et systeme de mesure des degradations d'une image video introduites par les systemes de diffusion numerique
JP2006507775A (ja) * 2002-11-25 2006-03-02 サーノフ・コーポレーション 基準なしで圧縮ビデオシーケンスの品質を測定する方法及び装置
JP4257333B2 (ja) * 2003-08-22 2009-04-22 日本電信電話株式会社 映像品質評価装置、映像品質評価方法及び映像品質評価プログラム、並びに映像整合装置、映像整合方法及び映像整合プログラム
US7512286B2 (en) * 2003-10-27 2009-03-31 Hewlett-Packard Development Company, L.P. Assessing image quality
US7733372B2 (en) * 2003-12-02 2010-06-08 Agency For Science, Technology And Research Method and system for video quality measurements
EP1700491A4 (en) * 2003-12-16 2009-01-21 Agency Science Tech & Res MEASURE THE IMAGE AND VIDEO QUALITY
US7558428B2 (en) * 2004-09-13 2009-07-07 Microsoft Corporation Accelerated video encoding using a graphics processing unit
WO2006041991A2 (en) * 2004-10-04 2006-04-20 Cine-Tal Systems, Llc. Video monitoring system
US7715645B2 (en) * 2004-11-17 2010-05-11 Samsung Electronics Co., Ltd. Methods to estimate noise variance from a video sequence
CN100588271C (zh) * 2006-08-08 2010-02-03 安捷伦科技有限公司 基于分组度量和图像度量两者测量视频质量的系统和方法
US20080195977A1 (en) * 2007-02-12 2008-08-14 Carroll Robert C Color management system
US20090046595A1 (en) * 2007-07-16 2009-02-19 Alan Clark Method and system for content estimation of packet video streams
US8457193B2 (en) * 2007-09-28 2013-06-04 Intel Corporation No-reference video quality model
US8086007B2 (en) * 2007-10-18 2011-12-27 Siemens Aktiengesellschaft Method and system for human vision model guided medical image quality assessment
EP2061004A1 (en) * 2007-11-14 2009-05-20 Sony Corporation Object boundary accurate motion detection using hierarchical block splitting and motion segmentation
WO2009065151A2 (en) * 2007-11-15 2009-05-22 Certifi Media Inc. Method for image quality assessment using quality vectors
US8126197B2 (en) 2007-11-29 2012-02-28 Certifi-Media Inc. Method for image quality assessment using quality vectors
EP2114080A1 (en) * 2008-04-30 2009-11-04 Thomson Licensing Method for assessing the quality of a distorted version of a frame sequence
US20090309977A1 (en) * 2008-06-12 2009-12-17 Microsoft Corporation Benchmarking and calibrating video quality assessment tools
US8422795B2 (en) 2009-02-12 2013-04-16 Dolby Laboratories Licensing Corporation Quality evaluation of sequences of images
TWI407776B (zh) * 2009-06-30 2013-09-01 Silicon Integrated Sys Corp 影像產生裝置、靜態文字偵測裝置及相關方法
US20110158309A1 (en) * 2009-12-28 2011-06-30 Motorola, Inc. Method and apparatus for determining reproduction accuracy of decompressed video
CN102547363B (zh) * 2010-12-07 2015-06-24 江南大学 基于轮廓波变换域图像特征的无参考图像质量评测方法
CN102572499B (zh) * 2010-12-07 2015-11-25 江南大学 基于小波变换多分辨率预测的无参考图像质量评价方法
US8767076B2 (en) * 2011-06-03 2014-07-01 Echostar Technologies L.L.C. Systems and methods for testing video hardware by evaluating output video frames containing embedded reference characteristics
US8525883B2 (en) 2011-09-02 2013-09-03 Sharp Laboratories Of America, Inc. Methods, systems and apparatus for automatic video quality assessment
US9203708B2 (en) 2011-09-26 2015-12-01 Telefonaktiebolaget L M Ericsson (Publ) Estimating user-perceived quality of an encoded stream
EP2745518B1 (en) * 2011-09-26 2017-06-14 Telefonaktiebolaget LM Ericsson (publ) Estimating user-perceived quality of an encoded video stream
FR2982449A1 (fr) * 2011-11-07 2013-05-10 France Telecom Procede d'evaluation d'au moins un defaut de qualite dans un signal de donnees, dispositif et programme d'ordinateurs associes
GB2529446A (en) * 2014-07-17 2016-02-24 British Academy Of Film And Television Arts The Measurement of video quality
CN104361574B (zh) * 2014-10-14 2017-02-15 南京信息工程大学 一种基于稀疏表示的无参考彩色图像质量评价方法
US10085015B1 (en) * 2017-02-14 2018-09-25 Zpeg, Inc. Method and system for measuring visual quality of a video sequence
US11310475B2 (en) * 2019-08-05 2022-04-19 City University Of Hong Kong Video quality determination system and method
CN111539909B (zh) * 2020-03-12 2023-04-28 上海交通大学 一种相似场景图像组的图像质量评估方法、系统及终端

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04302272A (ja) * 1991-03-29 1992-10-26 Canon Inc 画像処理方法
JPH06348840A (ja) * 1993-06-03 1994-12-22 Konica Corp 画像復元方法
JPH10285594A (ja) * 1997-04-04 1998-10-23 Hewlett Packard Co <Hp> ビットストリーム品質解析システム
JPH11187273A (ja) * 1997-12-22 1999-07-09 Fuji Xerox Co Ltd 画像分析装置および方法
JP2000102041A (ja) * 1998-09-10 2000-04-07 Tektronix Inc 画像品質測定方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4058828A (en) 1975-05-27 1977-11-15 Eastman Kodak Company Document copying apparatus
US4494838A (en) * 1982-07-14 1985-01-22 The United States Of America As Represented By The Secretary Of The Air Force Retinal information mapping system
GB8614877D0 (en) 1986-06-18 1986-07-23 Rca Corp Display processors
US5155594A (en) 1990-05-11 1992-10-13 Picturetel Corporation Hierarchical encoding method and apparatus employing background references for efficiently communicating image sequences
CA2091068A1 (en) * 1990-09-26 1992-03-27 Yingduo Feng Means for measuring picture quality
US5221967A (en) * 1991-05-08 1993-06-22 The University Of British Columbia Signal quality monitoring system
US5394483A (en) 1992-06-30 1995-02-28 Eastman Kodak Co Method and apparatus for determining visually perceptible differences between images
US5974159A (en) 1996-03-29 1999-10-26 Sarnoff Corporation Method and apparatus for assessing the visibility of differences between two image sequences
US6075884A (en) * 1996-03-29 2000-06-13 Sarnoff Corporation Method and apparatus for training a neural network to learn and use fidelity metric as a control mechanism
US5694491A (en) * 1996-03-29 1997-12-02 David Sarnoff Research Center, Inc. Methods and apparatus for assessing the visibility of differences between two image sequences
US5909516A (en) 1996-03-29 1999-06-01 Sarnoff Corporation Method and apparatus for decomposing an image stream into units of local contrast
US6137904A (en) * 1997-04-04 2000-10-24 Sarnoff Corporation Method and apparatus for assessing the visibility of differences between two signal sequences

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04302272A (ja) * 1991-03-29 1992-10-26 Canon Inc 画像処理方法
JPH06348840A (ja) * 1993-06-03 1994-12-22 Konica Corp 画像復元方法
JPH10285594A (ja) * 1997-04-04 1998-10-23 Hewlett Packard Co <Hp> ビットストリーム品質解析システム
JPH11187273A (ja) * 1997-12-22 1999-07-09 Fuji Xerox Co Ltd 画像分析装置および方法
JP2000102041A (ja) * 1998-09-10 2000-04-07 Tektronix Inc 画像品質測定方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008533937A (ja) * 2005-03-25 2008-08-21 アルゴリス インコーポレイテッド Dctコード化されたビデオの品質を、オリジナルビデオシーケンスを用いて、もしくは用いずに客観評価する装置及び方法
JP2008535349A (ja) * 2005-03-29 2008-08-28 フランス テレコム 受け手によって認識される情報を含む信号の品質を評価するための方法及びデバイス

Also Published As

Publication number Publication date
WO2000062556A9 (en) 2001-11-29
KR20020000797A (ko) 2002-01-05
DE60041639D1 (de) 2009-04-09
EP1169869B1 (en) 2009-02-25
US6285797B1 (en) 2001-09-04
JP4494649B2 (ja) 2010-06-30
WO2000062556A1 (en) 2000-10-19
EP1169869A1 (en) 2002-01-09

Similar Documents

Publication Publication Date Title
JP4494649B2 (ja) 基準映像を用いることなくデジタル映像の品質を推定する方法と装置
Ciancio et al. No-reference blur assessment of digital pictures based on multifeature classifiers
Min et al. Blind quality assessment based on pseudo-reference image
Ong et al. A no-reference quality metric for measuring image blur
US6888564B2 (en) Method and system for estimating sharpness metrics based on local edge kurtosis
Lin et al. Perceptual visual quality metrics: A survey
Liang et al. No-reference perceptual image quality metric using gradient profiles for JPEG2000
Sheikh et al. No-reference quality assessment using natural scene statistics: JPEG2000
Tan et al. A multi-metric objective picture-quality measurement model for MPEG video
Liu et al. A perceptually relevant no-reference blockiness metric based on local image characteristics
Freitas et al. Using multiple spatio-temporal features to estimate video quality
Joy et al. RECENT DEVELOPMENTS IN IMAGE QUALITY ASSESSMENT ALGORITHMS: A REVIEW.
Xu et al. Features based spatial and temporal blotch detection for archive video restoration
Li et al. Gradient-weighted structural similarity for image quality assessments
Singh et al. A distortion-agnostic video quality metric based on multi-scale spatio-temporal structural information
Regis et al. Video quality assessment based on the effect of the estimation of the spatial perceptual information
Izadi et al. Mutual noise estimation algorithm for video denoising
Liu et al. Issues in the design of a no-reference metric for perceived blur
Katajamäki et al. Objective quality potential measures of natural color images
Schallauer et al. Rapid and reliable detection of film grain noise
AKINTOYE et al. COMPOSITE MEDIAN WIENER FILTER BASED TECHNIQUE FOR IMAGE ENHANCEMENT.
Roja et al. Saliency based assessment of videos from frame-wise quality measures
Shrotre et al. Visual quality assessment of reconstructed background images
Kumar et al. No-reference image quality assessment using gradient-based structural integrity and latent noise estimation
Hanumantharaju et al. An Efficient Metric for Evaluating the Quality of Color Image Enhancement.

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070319

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090428

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090727

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100330

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100408

R150 Certificate of patent or registration of utility model

Ref document number: 4494649

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130416

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130416

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140416

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term