JP4494649B2 - 基準映像を用いることなくデジタル映像の品質を推定する方法と装置 - Google Patents
基準映像を用いることなくデジタル映像の品質を推定する方法と装置 Download PDFInfo
- Publication number
- JP4494649B2 JP4494649B2 JP2000611508A JP2000611508A JP4494649B2 JP 4494649 B2 JP4494649 B2 JP 4494649B2 JP 2000611508 A JP2000611508 A JP 2000611508A JP 2000611508 A JP2000611508 A JP 2000611508A JP 4494649 B2 JP4494649 B2 JP 4494649B2
- Authority
- JP
- Japan
- Prior art keywords
- distortion
- weight value
- vision
- signal
- energy map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/004—Diagnosis, testing or measuring for television systems or their details for digital television systems
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Description
本出願は、1999年4月13日に出願された米国仮出願60/129,132の利益を主張することを請求するものであり、その出願の内容は本明細書に援用されている。
【0002】
本発明は映像処理システムに関し、特に、本発明はデジタル映像の品質を推定する方法と装置に関する。
【0003】
開示の背景
デジタル映像業界では、知覚できる映像信号の生成とエンコーディングと転送と記憶と表示を行う様々な場面でその信号の品質を確実に維持することが強く要求されている。映像品質を維持することによって、この品質を確実に素早く繰返し測定する必要がある。エンドユーザに対する品質を確実に維持し、エラー源を識別するための品質推定が必要であって、現実には人間の観察者が表示される映像の品質を評価しているが、人間が映像処理や転送を行うために利用する複雑なネットワークの中心を調査することは現実的ではない。従って、映像処理/転送システムのどの場面でも映像品質を自動的に推定する必要がある。
【0004】
1998年4月3日に出願された米国特許出願09/055,076は、オートメーション化された映像品質推定の1つのアプローチを開示している。このアプローチでは、検査中の信号(映像シーケンス)が同じ信号の基準と比較されて、顕著な差(Just Noticeable Differences(JNDs))の心理物理学的単位でこれらの2つの信号を区別する可能性が求められる。
【0005】
広範囲の種類の歪みと意図する信号に対する人間の主観的な映像品質の格付けを予測する際に映像品質を評価するための基準に基づくアプローチは正確でロバストであることがわかっている。しかしながら、直接放送衛星(DBS)とケーブルとインターネット伝送等のアプリケーション用デジタル映像ネットワークでは、処理/送信された信号と比較するために意図される信号(「基準」)は決して利用されないか、もしくは、ほとんど利用されない。そのため、これらのアプリケーションで本技術を使用することは実践的でない。
【0006】
従って、基準信号が得られない状況でデジタル映像ピクチャ品質値を信頼してアクセスできる技術が必要である。
【0007】
発明の概要
映像信号の品質を評価する本技術のデメリットは、基準映像信号の利用、もしくは、その利用可能性のない画像品質評価方法と装置によって克服される。本装置は、ビジョンプリプロセッサと仮想基準生成部と仮想歪み生成部と画像品質測定基準生成部を備える。ビジョンプリプロセッサは、入力映像シーケンスに対してビジョンに適した変換を施して、ビジョンエネルギーマップを生成する。仮想基準生成部はビジョンエネルギーマップに関する処理を行って仮想基準を生成するが、仮想歪み生成部は、仮想基準を生成する仮想基準生成部で用いられる歪み推定値を生成する。画像品質測定基準生成部では仮想歪みと仮想基準を用いて、基準画像シーケンスを用いることなく入力映像シーケンスに対する画像品質測定基準を生成する。
【0008】
添付の図面と共に以下の詳細な説明を検討することによって、本発明の教唆するところを理解することができる。
【0009】
理解を容易にするために、できる限り複数の図面で共通の同要素を示すために同じ参照番号を用いている。
【0010】
詳細な説明
本発明は、以下の3つの対話的処理を必要とするロバストなアプローチを基準無映像品質推定部に提供する。
【0011】
1.(映像ストリームとも呼ばれる)映像シーケンス内のもっともらしい(likely)信号成分の特徴づけ
2.もっともらしい歪みの位置と物理的大きさの推定
3.各信号に対する歪みの主観的な大きさの予測
一般的に、基準を用いないシステムはシングルエンドと呼ばれる。即ち、画像品質監視システムは、シングルエンド画像品質監視システムである。対照的に、基準を用いるシステムは、ダブルエンドシステムと一般的に呼ばれる。
【0012】
図1は、前述の3つのプロセスを備える基準無映像品質推定プロセス100(即ち、シングルエンドプロセス)を示す高レベルのフロー図を示す。工程102では、もっともらしい信号を特徴づけることによって、画像が乱れているかどうかを人間が確認する支援を行う「内部基準」と同様の仮想基準が提供される。工程104では、入力映像データに関して処理する歪み推定部は、「ノイズ」、即ち、エンコードや転送やその他の原因で発生する映像ストリーム歪みの物理的な大きさとその位置の量的な推定値を提供する。加算器108によって仮想歪み(ノイズ)は仮想基準に追加され、「信号+ノイズ」が生成される。次に、その信号単独(仮想基準)と信号+ノイズの推定値は、既知のJNDビジョンモデルのオペレーションを一般化して、信号単独のシーケンスと信号+ノイズシーケンス間で画素に基づく比較を行うのではなく、領域に基づく比較ができる工程106の顕著な差(JND)プロセスに与えられる。既知のJNDビジョンモデルは1998年4月3日に出願された米国特許出願09/055,076に開示されている。「局所領域JNDモデル」によって、信号やノイズの正確な知識が不要で視覚的歪みの主観的な大きさを推定することができる。
【0013】
仮想基準の特徴付けプロセスの1つの特徴は、特定の信号成分を示すために求められる映像特徴(例えば、移動エッジ)を複数の映像フレームに渡って追跡する光フロー計算にある。映像シーケンスで同じ特徴をもつノイズを含む多数のサンプルを追跡することによって、それらのサンプルからもっともらしい一定の信号を統計的に抽出することができる。次に、この仮想基準の1つを同じ映像領域内で検出された歪み(例えば、DCT量子化によるアーチファクト(artifacts)とエッジリンギング)と比較することができる。
【0014】
また、局所領域JNDモデルは、現在のやり方から著しく進歩したものである。信号単独と信号+ノイズを画素毎に比較する代りに、局所領域JNDモデルでは、映像ストリームのマルチフレーム領域とマルチ画素領域に蓄積された信号とノイズの領域に基づくローカルエリア統計量が用いられる。ここでは局所領域JNDモデルが必要である。何故ならば、基準無しのアプリケーションでは、基準の画素解像度情報を確実に利用できないからである。しかしながら、以下で議論されるが、局所領域JNDアーキテクチャでは、映像ストリームの重いテクスチャ領域の歪みの可視性を正確に予測する等の際に一般的に複数の重要なメリットがある。
【0015】
また、基準/歪み推定プロセスの確実性を改善するために、本発明は、(矢印110で示される)歪み推定部のオペレーションと仮想基準生成部のオペレーション間の緩和的相互作用と、注入された既知の歪みを含む既知の基準シーケンスを用いて、検査済みの基準に基づくモデルに関して基準無推定部のパラメータを調整する校正手続を提供する。
【0016】
図2に示されるように、図1の推定部100は、一般的に、汎用コンピュータ202で実行されるソフトウエアルーチン、即ち、ルーチン200で実現される。汎用コンピュータ202は、中央処理装置(CPU)204とメモリ206と入力/出力回路208と、各種の周知の支援回路210、例えば、クロックとキャッシュと電源等を備える。汎用コンピュータ202は、複数のルーチンを実行するまで、それらのルーチンをメモリ206、例えば、ランダムアクセスメモリとリードオンリーメモリとディスクドライブ等に記憶させる。ルーチン200の実行によって、汎用コンピュータ202は、基準無品質推定部100として動作する特定用途向コンピュータに変わる。推定部100の機能は、ハードウエアやソフトウエアやハードウエアとソフトウエアの組み合わせで実現可能である。その上、推定部の機能は、特定用途向集積回路(ASIC)で実現可能である。
【0017】
図3は、推定部100の機能ブロック図を示す。推定部100は、ビジョンプリプロセッサ300と仮想基準生成部302と映像品質測定基準生成部308を備える。推定部100の各要素については以下で議論される。
【0018】
入力映像ストリームは、画素毎にビジョンと同様な変換を映像に対して施すビジョンプリプロセッサ300(VPP)に入力される。この変換によって、様々な時空間周波数と時空間の方向に対してヒューマンビジュアルシステムの基礎感度が得られる。特に、この変換によって、固定エッジとフリッカーフィールドに対する応答だけでなく移動エッジに対する応答も得られる。また、それはこれらの画素のビジョンチャネル形式への一から多への変換である。
【0019】
VPPは、1998年4月3日に出願された米国特許出願09/055,076の既存の基準に基づくJNDモデルに基づくものであるが、(動きに対して敏感なフィルタを含む)一般化された時空間チャネルを用いている。公開された既知の心理物理学的検出データを用いてVPPの校正が実行される。そのモデルの出力、即ち、局所的/心理物理学的に重み付けられた空間−時間コントラストは、基準に基づくモデルと同じJND単位をもつ。特定の時点でのVPPの出力はビジョンエネルギーマップ(VEM)であって、これらのマップの時間シーケンスによってVEMストリームが形成される。マップの個々の値は、ビジョンエネルギー(VE)、即ち、一つの空間位置で方向付けられた応答を示す。この値のマップ内の位置(チャネルと空間的位置)はビジョンマップロケーション(VML)である。
【0020】
各VEMは、仮想基準生成部302内の信号推定生成部304と歪み推定生成部306に同時に与えられる。これらの生成部の各々によって実行されたプロセスは、VEM内の様々な信号の特徴をもつ態様と歪みの特徴をもつ態様を独立に探索するための少数(〜10)のオペレータからなる。この各オペレータの出力は、各VMLの重み値セットである。各重み値(0と1の間の数)は、その位置での一部エネルギーのオペレータによる推定値を示し、それはオペレータが検出するように設計された信号源や歪み源に基づくものである。各オペレータでは重み値のほとんどがゼロであり、VEMストリームの比較的小さな時空間領域では非ゼロの重み値が与えられる。従って、全てのVML上のオペレータの出力は、自然なセグメンテーション、即ち、入力されたVEMストリームがそのオペレータの特徴を含みそうな領域にクラスタリングされると考えられる。「信号セグメントk」(SSk)は、信号オペレータkがVEMストリームに割り当てる複数の値のアレイである。同様に、「歪みセグメントk」(DSk)は、歪みオペレータkがVEMストリームに割り当てる複数の値のアレイである。
【0021】
(仮想基準に寄与する)信号推定プロセス310では、オペレータの出力は、ビジュアルシーンの同じ種類のオブジェクト、即ち、特徴に起因すると予測される低レベル特徴のクラスタを示す。これらのオペレータのうちの幾つかには、光フロー分析と固定エッジ検出とテクスチャ検出と平滑領域検出が含まれる。例えば、光フロー分析によって時間に対するクラスタが生成される。尚、各クラスタは、連続するVEMの個々の画像特徴の予測時空間パスに対応する。他方、テクスチャセグメンテーションから得られるクラスタの比較的広い空間領域内には多数のVMLが含まれる。尚、この各クラスタは、知覚的に密集した局所テクスチャに対応する。これらの例が示すように、移動エッジと重いテクスチャ領域と、広く均一に、即ち、ゆっくり変化する背景等の様々な種類の知覚的に目立つ特徴からおそらく得られた複数の部分に映像ストリームをセグメント化するように信号推定プロセス310が設計される。この計算の重要な面は、セグメンテーションが必ずしも完璧ではないことである。即ち、信号の種類が確実に推定されないVMLを考慮に入れると、分類を決定する試みはなされない。このことは、信号と歪み特性を確実に推定できる映像ストリーム領域内だけで知覚できる歪みの大きさを以下で説明されるJND処理で推定できることを確実にする。
【0022】
信号推定プロセス310は、現実の世界でもっともらしい信号の知識を当てにしている。例えば、複数のオブジェクトが密集して、時間と空間中を滑らかに動く傾向があるという事実は、光フロー、即ち、時間の点間の対応の計算に対してかなりの拘束条件となる。周知のピラミッドベース(マルチ解像度)の光フロー計算を行って、時間と空間上のVMLをクラスタリングすることができる。このクラスタリングによって、クラスタ内の複数のVMLの平均を取ることによって、もっともらしい信号を抽出することができる。この平均化プロセスを使って仮想基準を抽出することができ、それに対する様々な歪みの知覚可能性をアクセスすることができる。
【0023】
信号推定プロセスと共に、複数のVEMに歪み推定プロセス318の処理を施す。この中で、オペレータは様々なエンコーダと転送システムから予想される歪み(例えば、MPEG−2の濃淡ムラやウェーブレットのエッジリンギング)と一般的な種類の歪み(例えば、ノイズとぼけ)に対応する。もっともらしい信号特性(例えば、光フロー分析を行う際での、密集したオブジェクトに関する滑らかな動きに対する拘束条件)を考慮に入れて信号オペレータを設計でき、また、設計すべきである一方で、歪みオペレータは既知の歪み態様にフィルタを合わせる単純な標準画像処理技術に基づくと期待できることに注目されたい。また、信号オペレータと同じように、VEMストリームを完全にカバーするためには歪みオペレータは必要ない。例えば、非常に高品質の映像では、非ゼロの歪みオペレータの重み値がないVMLがたくさんあるはずである。
【0024】
歪み推定プロセス306には、もっともらしい歪みに一致するフィルタに適したオペレータが含まれる。特定の技術には以下のものが含まれる。
【0025】
・(追加されたJPEG準拠の濃淡ムラをもつ広く均一な領域があるかどうかを決定するために役立つ)コードブロックの周期性のあるアマダール変換での低振幅ピークの抽出
・移動エッジの近傍にありそうなアーチファクトを決定するために役立つシンチレーション検出
・マクロブロックのアーチファクト(MPEG−2)とウェーブレットのリンギング(MPEG−4)を明らかにするための信号のピラミッド/フーリエ分析
【0026】
信号と歪み推定生成部304、306では、様々なオペレータの出力が互いに独立に得られ、信号分類部312と歪み分類部320に与えられる。歪み分類部320と信号分類部310では、独立な推定値には緩和プロセスの処理が施されて、強い信号の重み値によって歪みの重み値が変調され、また、互いに変調され、同様に、強い歪みの重み値によって信号の重み値が変調され、また、互いに変調される。もし信号オペレータによってシンチレーティング領域が移動エッジとして識別されると、例えば、画像のシンチレーションには、大きな歪みオペレータの重み値が与えられる。歪み分類部320の出力は、(修正された歪みセグメントk、即ち、RDSKを備える)歪みオペレータ出力上で修正された重み値のセットである。同様に、初期歪みの重み値DSKによって、信号オペレータ出力を修正する(修正された信号セグメントRSSKを生成する)信号分類部312を制御するための信号オペレータの重み値SSKが変調される。例えば、(信号オペレータによって決定される)均一な映像領域で検出された濃淡ムラには追加の重み値が与えられる。そして、修正された信号とノイズの重み値には再重み付けプロセスの処理が再び施される。この緩和プロセスは、信号と歪みに対する不変の重み値のセットが得られるまで、即ち、別の停止基準に達するまで続く(パス313、321によって表される)。計算速度を保障するために、一般的に2,3回以下の緩和処理が可能である。
【0027】
また、この段階では、得られた信号や歪み領域内のVEMストリームの個別の種類、即ち、チャネル(例えば、特定の時空間周波数で方向づけられたエッジ)に対する重み値を各チャネルに対する領域平均値と取りかえることができる。特に、テクスチャ領域では、特定の時空間位置の特定エネルギーによるのではなく、その領域内のチャネルのエネルギーの全統計値によって知覚対象の大部分が決定される。従って、領域の平均値によって、各領域内で知覚可能な歪みの推定値が確実に生成される。
【0028】
各VMLでは、分類部の出力RSSK、RDSKはそれぞれ、信号重み値正規化部314と歪み重み値正規化部322に与えられる。(信号や歪みが確実に検出されない所を除いて)これらの重み値の合計が単位元となるように分類部の出力が正規化されて、全ての信号と歪みオペレータに対する一連の重み値が構成される。これらの重み値には、信号/歪みプロセス310、318が敏感に反応する信号と歪みの各々が原因である各VEM内のエネルギーの一部の推定値が含まれる。
【0029】
次に、各VEMに対して信号重み値RSSKの全てがkに関して合計されて、信号重み値アレイRSSが生成され、推定された各VMLのエネルギーの一部はある種の信号によるものであることが示される。同様に、全歪み重み値RDSKがkに関して合計されて、歪みによる各VMLのエネルギーの一部のアレイRDSが生成される。次に、(マルチプライヤ316を用いて)重み値RSSに、全VMLS上の成分に関するVEMが乗算されて、信号(信号エネルギー、即ち、SE)によるVEMのエネルギーを表すアレイが生成される。このアレイは仮想基準と呼ばれる。仮想基準は、実際の基準画像シーケンスを置き換えるものである。同様に、マルチプライヤ324でRDSとVEMを乗算することによって、歪みエネルギーDEを表す個別アレイが計算される。加算器326で2つのアレイ5E、DEを単純に加算することによって、信号+歪みによるVEMエネルギーの推定値が生成される。この信号は仮想テスト値と呼ばれる。多くの場合(即ち、信号も歪みも確実に推定されなかった領域を除いて)、どのVMLでのSE+DEの値もVMLの総エネルギーに等しいことに注意されたい。
【0030】
図4は、特有な信号と歪みの推定部では入力映像ストリームから仮想基準と仮想テスト値を抽出するプロセスの一例を模式的に示す。この例では、信号推定プロセスでの光フロー分析では、映像400の3つのフレームから移動する立方体を追跡し、源映像400の3フレームから意図する信号402を抽出する。同時に、濃淡ムラ歪み推定部は、1フレームの映像(フレームt)内のブロック状歪み404を識別する。次に、図の乗算ポイント406で示されるように、信号推定部と歪み推定部では独立に、ビジョンプリプロセッサ300によって生成されるVEMストリームから個々のVMLSのエネルギーに重み付けし、加算器400で仮想基準に加算される歪み成分と仮想基準を生成して仮想テスト値を生成する。
【0031】
この図では1つの信号推定部と1つの歪み推定部だけのオペレーションが示されていることに注意されたい。実際に実行するには、多数の信号/歪み推定部が同時に動作し、それらの推定値は図3に示され上述された信号/歪み分類部によって改善される。また、図4のダッシュ線は映像ストリームを直接処理する信号/歪み推定部を示すが、これは図示する目的だけのものであって、実際に実行する場合は、これらのオペレータは映像から直接ではなく、VEMストリームから入力することに注意されたい。
【0032】
図3に戻って、映像ストリームの各領域から信号と歪みエネルギーを抽出した後で、推定部100は、映像品質測定基準生成部308を利用して信号エネルギーと信号+歪みエネルギーを比較することによって、視覚的品質の測定基準を計算する。前ビジョンのモデリング後にその比較自体での測定基準がパターン化され、ビジョンプリプロセッサ300は人間の時空間周波数の感度等の低レベルの視覚的拘束条件を獲得する。実際には、2つのビジョンモデル要素、即ち、そのアルゴリズムを単純な心理物理学的実験と一貫性のあるものにする低レベルビジョン(例えば、VEMの計算)と、特徴ベクトル要素を合成して信号品質の判定を行うための高レベルの視覚的な比較との間に、信号/歪み推定計算がサンドイッチされる。
【0033】
その処理でのこの観点から、1998年4月3日に出願された米国特許出願09/055,076で開示されたJNDアーキテクチャを利用することができる。各VMLに対する信号単独と信号+歪みエネルギーの個々の値は、基準ベースのJNDモデルの各フロントエンド部で計算された基準と基準+テストの個々の値に対応する。基準に基づくモデルでは、これらの2つのエネルギーには成分毎にインチャネルマスキング328A、328Bと呼ばれる非線形変換が施される。このマスキングによって、エネルギーの中程度の変化量を強調し、エネルギー値が非常に大きいときにはエネルギーの変化をあまり強調しないように各エネルギーに測定基準が課される。この変換では、信号(もしくは、ノイズ)成分の変化が特定の強度に達したときにはあまり強調しない。
【0034】
インチャネルマスキングの次にはクロスマスキング330A、333Bがあるので、異なるVMLからのエネルギーは互いに打ち消される。本オペレーションの1つの目的は、にぎやかな背景中での変化はほとんど知覚できないという知覚現象をシミュレートすることである。
【0035】
最後に、変換されたVEMSは知覚の歪み測定基準332と比較されて、その結果は品質格付けの推定値となる。抽出された信号と信号+歪みを比較することは、入力映像ストリームと仮想基準を比較することと等価である。しかしながら、それは厳密にはノイズ消去プロセスではない。何故ならば、信号推定プロセスと分類プロセスから得られる不完全な信号の統計量からノイズが消去された映像を検索できないからである。
【0036】
実験データの代わりに基準ベースのビジョンモデルを用いることで、基準無モデル(実映像の基礎的で心理物理学的な格付けと主観的な格付けの両方)を校正するために必要とされる実験の多くをなくすことができる。この努力を合理的にすることは可能である。何故ならば、実データの信頼できる代わりとなるもので基準ベースのモデルが検査されているからである。このモデルベースの校正を行うことによって、歪みのある一連の映像を選択し、基準ベースのモデルを用いて歪みのない対応物と比較し、歪みのある映像だけを基準無モデルに対する入力情報として用い、そのモデルのパラメータを設定して基準無の出力と基準ベースの出力の間で最高の相関関係を作ることができる。この校正によって、基準無モデルは基準ベースのモデルの基礎的ビジョン属性を継承したものになる。従って、基準無モデルのロバスト性が改善される。
【0037】
4つのポイントで、推定部l00は、現実の格付けデータと比較して、もしくは、信頼できる基準ベースのビジョンモデルを用いてその代わりとなるものと比較することによって検査される。
1.)基準ベースのビジョンモデルで対応する要素と比較することによって、ビジョンプリプロセッサ300が検査されて、基準モデルが校正されたことが確かめられる。また、正確さについてさらに保証するために、心理物理学的検出データと比較してVPPを校正する。
2.)テスト映像の信号と歪みへの分離(信号と歪み)については以下のように検査される。
(a)歪みの大きい映像を基準ベースのビジョンモデルに与えて、歪みの特徴成分が大きくて信号成分が小さいことを検査し、
(b)歪みのない映像をモデルに与え、歪み成分が小さく信号成分が大きいことを検査する。また、そのモデルを用いて、特定の信号と歪みを割り当てる映像の複数の場所を検査することによってきめ細かい評価が行われる。
3.)2つの測定基準を比較することによって、信号と歪みの特徴が計算された後に行われるマスキングが検査される。即ち、歪みのある映像単独から出力された基準無モデルと、歪みのある映像とそれに対応する歪みのない映像の両方から出力された基準ベースのモデルである。同じ映像のシングルスティミュラス格付けとダブルスティミュラス継続的品質スケール(DSCQS)を比較することによって、十分な一致が得られるための評価基準が指示される。
4.)モデル全体の出力と新しい基準無し格付けデータを比較することによって、基準の無いアルゴリズムの最終検査が行われる。選ばれた歪みモードと代表的な種類の画像を含む歪みのある映像のデータベースを利用して格付けデータが得られる。その映像には、草とカーペットと、移動エッジと固定エッジと、幅広く均一な領域等の一般的なテクスチャが含まれる。歪みには、点のようなノイズを追加したり、MPEG−2やMPEG−4を用いて映像を圧縮したり、かすみやフリッカーを起こすものがある。格付けスケールは、ITU資料500−Bで記録されているDSCQSのシングルスティミュラスと同等のものである。シングル歪みのある映像(評価実験で用いられるものと同じもの)は推定部を経て、また、推定された品質格付けは報告された主観的な格付けと比較される。
【0038】
一旦校正されると、基準無推定部100を用いて基準映像が利用できないアプリケーションでの画像品質を推定することができる。そのため、映像転送システムやデジタル映像スタジオの内部映像処理要素が映像品質に与える影響を検査することができる。
【0039】
本発明の教唆を取り入れた様々な実施形態を示してその詳細を説明してきたが、当業者であれば、それらの教唆を取り入れたその他の多くの変更された実施形態を簡単に考案することができる。
【図面の簡単な説明】
【図1】 図1は、本発明の基準無視覚的品質推定部の処理を示す高レベルのフロー図を示す。
【図2】 図2は、本発明を実施するために利用できる汎用コンピュータのブロック図である。
【図3】 図3は、本発明の基準無視覚的品質推定部の詳細な機能ブロック図である。
【図4】 図4は、図1の推定部で用いられる仮想的基準を生成する処理のフロー図を示す。
【符号の説明】
300 ビジョンプリプロセッサ
310 信号推定プロセス
312 信号分類部
314 信号重み値正規化部
304 仮想基準
318 歪み推定プロセス
320 歪み分類部
322 歪み重み値正規化部
306 仮想歪み
328A インチャネルマスキング
330A クロスチャネルマスキング
328B インチャネルマスキング
330B クロスチャネルマスキング
332 歪み測定基準
Claims (19)
- シングルエンドの入力画像映像ストリームにおいてピクチャ品質の人間の主観的評価の推定値を提供する装置であって、シングルエンドの画像品質監視システム(100)を備え、
前記シングルエンドの画像品質監視システムは、
ビジョンプリプロセッサ(300)と、
前記ビジョンプリプロセッサに接続された仮想基準生成部(304)と、
前記仮想基準生成部に接続された画像品質測定基準生成部(308)と、
を有する装置。 - 前記ビジョンプリプロセッサ(300)は、前記入力映像ストリームを受け、前記入力映像ストリームに対してビジョンに適した変換を行ってビジョンエネルギーマップ出力ストリームを生成する、請求項1に記載の装置。
- 前記仮想基準生成部(304)は、前記ビジョンプリプロセッサ(300)から前記ビジョンエネルギーマップ出力ストリームを受け、
(a)複数の特徴オペレータを使用して(310、312、314)、前記ビジョンエネルギーマップにおいて所定の様々な種類の知覚的に目立つ特徴を探索し、前記歪みオペレータの各々に関連する前記歪みに基づいて前記エネルギーの前記オペレータ推定値を示す特徴重み値(DS k 、RDS k )を生成し、
(b)前記ビジョンエネルギーマップを前記歪み重み値によって重みづけを行う(324)、
請求項1に記載の装置。 - 前記シングルエンドの画像品質監視システム(100)は、歪み推定生成部(306)を備える、請求項1に記載の装置。
- 前記歪み推定生成部(306)は、前記ビジョンプリプロセッサ(306)から前記ビジョンエネルギーマップ出力ストリームを受け、
(a)複数の歪みオペレータを使用して(318、320、322)、所定の様々な種類の歪みを探索し、前記歪みオペレータの各々に関連する前記歪みに基づいて前記エネルギーの前記オペレータの推定値を示す歪み重み値(DS k 、RDS k )を生成し、
(b)前記ビジョンエネルギーマップを前記歪み重み値によって重みづけする(324)、
請求項4に記載の装置。 - 前記画像品質測定基準生成部(308)は、実際の基準画像を使用する代わりに、前記仮想基準生成部(302)からの出力を使用することによって推定された前記シングルエンドの画像品質を提供し、
前記信号推定生成部(304)の前記出力は、前記画像品質測定基準生成部(308)に直接加えられており、
前記歪み推定生成部(306)の前記出力は、前記信号推定生成部(304)の前記出力が加えられる加算器(326)を通して前記画像品質測定基準生成部(308)に加えられており、
前記画像品質測定基準生成部(308)は、前記信号推定生成部(304)の前記出力と前記加算器(326)の前記出力とを比較し(322)、前記画像品質の推定値を提供する、請求項1に記載の装置。 - 前記ビジョンプリプロセッサによって実行される前記ビジョンに適した変換によって、様々な時空間周波数と時空間の方向とに対して前記ヒューマンビジュアルシステムの前記基礎感度を得る、請求項1に記載の装置。
- 前記仮想基準生成部(304)は、
前記ビジョンプリプロセッサ(300)の前記出力に接続されており、前記オペレータを使用して、前記知覚的に目立つ特徴を探索し、前記特徴重み値(SS k )を生成する信号推定プロセッサ(310)と、
前記信号推定プロセッサ(310)の出力に接続されており、前記特徴重み値(SS k )を変調する信号分類部(312)と、
前記変調された特徴重み値(RS k )を正規化する信号重み値正規化部と、
を備える請求項1又は7に記載の装置。 - 前記仮想基準生成部は、前記ビジョンエネルギーマップを前記正規化された重み値によって重み付けを行い前記仮想基準を生成するマルチプライヤ(316)を更に備える、請求項8に記載の装置。
- 前記歪み推定生成部(306)は、
前記ビジョンプリプロセッサ(300)の前記出力の前記出力に接続されており、前記歪みオペレータを使用して、前記様々な種類の歪みを探索し前記歪み重み値(DS k )を生成する歪み推定プロセッサ(318)と、
前記歪み推定プロセッサ(318)の前記出力に接続され、前記歪み重み値(DS k )を変調する歪み分類部(320)と、
前記変調された歪み重み値を正規化する歪み重み値正規化部と、
を備える請求項1及び7〜9のいずれか一項に記載の装置。 - 前記歪み推定生成部は、前記ビジョンエネルギーマップを前記正規化された歪み重み値によって重み付けを行うマルチプライヤ(324)を更に備える、請求項10に記載の装置。
- 前記歪みは、エンコーダ及び転送システムからの歪みに対応する、請求項1〜11のいずれか一項に記載の装置。
- 前記特徴重み値は前記歪み重み値を変調し、前記歪み重み値は前記特徴重み値を変調する、前記請求項8又は9に従属する請求項10又は請求項11に記載の装置。
- 画像シーケンスの画像品質の人間の主観的評価を推定する方法であって、
前記画像シーケンスをビジョンに適した変換を用いて前処理し、ビジョンエネルギーマップを生成するステップと、
前記ビジョンエネルギーマップ出力ストリームを受けるステップと、
(a)複数のオペレータを使用して、前記ビジョンエネルギーマップにおいて所定の種類の知覚的に目立つ特徴を探索し、前記オペレータの各々に関連する前記特徴に基づいて前記エネルギーの前記オペレータ推定値を示す特徴重み値を生成する、ステップと、
(b)前記ビジョンエネルギーマップを前記特徴重み値によって重み付けを行って仮想基準を生成し、複数の歪みオペレータを使用して所定の種類の歪みを探索するとともに前記歪みオペレータの各々に関連する前記歪みに基づいて前記エネルギーの前記オペレータ推定値を示す歪み重み値を生成する、ステップと、
前記ビジョンエネルギーマップを前記歪み重み値によって重み付けを行うステップと、
前記仮想基準から画像品質測定基準を生成するステップであって、該画像品質測定基準は実際の基準画像の代わりに前記仮想基準を用いることによってシングルエンド化されているステップと、
を備え、
前記画像品質測定基準を生成するステップは、前記歪み重み値によって重み付けされた前記ビジョンエネルギーマップと前記仮想基準との前記合計と、前記仮想基準と比較する工程を含む方法。 - 前記仮想基準を生成するステップは、
前記特徴オペレータを使用して、前記知覚的に目立つ特徴を探索するとともに前記重み値(SS k )を生成する工程と、
信号分類ステップにおいて前記特徴重み値を変調する工程と、
信号重み値正規化ステップにおいて前記変調された重み値を正規化する工程と、
を含む、請求項14に記載の方法。 - 前記ビジョンエネルギーマップを前記特徴重み値によって重み付けを行って前記仮想基準を生成するステップは、前記ビジョンエネルギーマップを前記正規化された重み値によって重み付けする工程を含む、請求項15に記載の方法。
- 前記歪みを推定するステップは、
前記歪みオペレータを使用して、前記様々な種類の歪みを探索するとともに前記歪み重み値を生成する推定工程と、
前記歪み重み値を変調する歪み分類工程と、
前記変調された歪み重み値を正規化する歪み重み値正規化工程と、
を備える、請求項14〜16のいずれか一項に記載の方法。 - 前記ビジョンエネルギーマップを前記歪み重み値によって重み付けを行うステップは、前記ビジョンエネルギーマップを前記正規化された歪み重み値によって乗算する工程を含む、請求項17に記載の方法。
- 前記信号分類ステップ及び前記歪み分類工程は、前記特徴重み値を前記歪み重み値によって変調し、前記歪み重み値を前記特徴重み値によって変調する、請求項5又は6に従属する請求項17又は18に記載の方法。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US12913299P | 1999-04-13 | 1999-04-13 | |
US60/129,132 | 1999-04-13 | ||
US09/543,753 US6285797B1 (en) | 1999-04-13 | 2000-04-05 | Method and apparatus for estimating digital video quality without using a reference video |
US09/543,753 | 2000-04-05 | ||
PCT/US2000/009895 WO2000062556A1 (en) | 1999-04-13 | 2000-04-13 | Method and apparatus for estimating digital video quality without using a reference video |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003501850A JP2003501850A (ja) | 2003-01-14 |
JP4494649B2 true JP4494649B2 (ja) | 2010-06-30 |
Family
ID=26827249
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000611508A Expired - Lifetime JP4494649B2 (ja) | 1999-04-13 | 2000-04-13 | 基準映像を用いることなくデジタル映像の品質を推定する方法と装置 |
Country Status (6)
Country | Link |
---|---|
US (1) | US6285797B1 (ja) |
EP (1) | EP1169869B1 (ja) |
JP (1) | JP4494649B2 (ja) |
KR (1) | KR20020000797A (ja) |
DE (1) | DE60041639D1 (ja) |
WO (1) | WO2000062556A1 (ja) |
Families Citing this family (49)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6693962B1 (en) * | 1999-02-01 | 2004-02-17 | Thomson Licensing S.A. | Process to extract regions of homogeneous texture in a digital picture |
US6678424B1 (en) * | 1999-11-11 | 2004-01-13 | Tektronix, Inc. | Real time human vision system behavioral modeling |
US6798919B2 (en) * | 2000-12-12 | 2004-09-28 | Koninklijke Philips Electronics, N.V. | System and method for providing a scalable dynamic objective metric for automatic video quality evaluation |
US7773670B1 (en) | 2001-06-05 | 2010-08-10 | At+T Intellectual Property Ii, L.P. | Method of content adaptive video encoding |
US6909745B1 (en) | 2001-06-05 | 2005-06-21 | At&T Corp. | Content adaptive video encoder |
US6968006B1 (en) | 2001-06-05 | 2005-11-22 | At&T Corp. | Method of content adaptive video decoding |
US6970513B1 (en) | 2001-06-05 | 2005-11-29 | At&T Corp. | System for content adaptive video decoding |
US6810086B1 (en) * | 2001-06-05 | 2004-10-26 | At&T Corp. | System and method of filtering noise |
FR2830402A1 (fr) * | 2001-10-02 | 2003-04-04 | Thomson Licensing Sa | Systeme et procede pour tester la conformite d'un dispositif de decodage numerique |
US7139017B2 (en) * | 2002-01-29 | 2006-11-21 | Koninklijke Philips Electronics N.V. | Method and system for obtaining the best picture quality in a scarce-power device |
KR100434162B1 (ko) * | 2002-03-13 | 2004-06-04 | 학교법인연세대학교 | 객관적 비디오 화질 평가 장치 및 방법 |
US7102667B2 (en) * | 2002-03-18 | 2006-09-05 | Tektronix, Inc. | Picture quality diagnostics for revealing cause of perceptible impairments |
US6992697B2 (en) * | 2002-06-19 | 2006-01-31 | Koninklijke Philips Electronics N.V. | Method and apparatus to measure video quality on any display device with any image size starting from a know display type and size |
FR2847412B1 (fr) * | 2002-11-15 | 2005-01-14 | Telediffusion De France Tdf | Procede et systeme de mesure des degradations d'une image video introduites par les systemes de diffusion numerique |
US20040156559A1 (en) * | 2002-11-25 | 2004-08-12 | Sarnoff Corporation | Method and apparatus for measuring quality of compressed video sequences without references |
KR100798834B1 (ko) * | 2003-08-22 | 2008-01-28 | 니뽄 덴신 덴와 가부시키가이샤 | 영상품질 평가장치, 영상품질 평가방법, 영상품질 평가프로그램을 기록한 기록매체 |
US7512286B2 (en) * | 2003-10-27 | 2009-03-31 | Hewlett-Packard Development Company, L.P. | Assessing image quality |
US7733372B2 (en) * | 2003-12-02 | 2010-06-08 | Agency For Science, Technology And Research | Method and system for video quality measurements |
SG147459A1 (en) * | 2003-12-16 | 2008-11-28 | Agency Science Tech & Res | Image and video quality measurement |
US7558428B2 (en) * | 2004-09-13 | 2009-07-07 | Microsoft Corporation | Accelerated video encoding using a graphics processing unit |
WO2006041991A2 (en) * | 2004-10-04 | 2006-04-20 | Cine-Tal Systems, Llc. | Video monitoring system |
US7715645B2 (en) * | 2004-11-17 | 2010-05-11 | Samsung Electronics Co., Ltd. | Methods to estimate noise variance from a video sequence |
JP2008533937A (ja) * | 2005-03-25 | 2008-08-21 | アルゴリス インコーポレイテッド | Dctコード化されたビデオの品質を、オリジナルビデオシーケンスを用いて、もしくは用いずに客観評価する装置及び方法 |
US7908120B2 (en) | 2005-03-29 | 2011-03-15 | France Telecom | Method and device for the evaluation of a quality of a signal |
CN100588271C (zh) * | 2006-08-08 | 2010-02-03 | 安捷伦科技有限公司 | 基于分组度量和图像度量两者测量视频质量的系统和方法 |
US20080195977A1 (en) * | 2007-02-12 | 2008-08-14 | Carroll Robert C | Color management system |
EP2213000B1 (en) * | 2007-07-16 | 2014-04-02 | Telchemy, Incorporated | Method and system for content estimation of packet video streams |
US8457193B2 (en) * | 2007-09-28 | 2013-06-04 | Intel Corporation | No-reference video quality model |
US8086007B2 (en) * | 2007-10-18 | 2011-12-27 | Siemens Aktiengesellschaft | Method and system for human vision model guided medical image quality assessment |
EP2061004A1 (en) * | 2007-11-14 | 2009-05-20 | Sony Corporation | Object boundary accurate motion detection using hierarchical block splitting and motion segmentation |
US8126197B2 (en) | 2007-11-29 | 2012-02-28 | Certifi-Media Inc. | Method for image quality assessment using quality vectors |
WO2009065151A2 (en) * | 2007-11-15 | 2009-05-22 | Certifi Media Inc. | Method for image quality assessment using quality vectors |
EP2114080A1 (en) * | 2008-04-30 | 2009-11-04 | Thomson Licensing | Method for assessing the quality of a distorted version of a frame sequence |
US20090309977A1 (en) * | 2008-06-12 | 2009-12-17 | Microsoft Corporation | Benchmarking and calibrating video quality assessment tools |
EP2396768B1 (en) | 2009-02-12 | 2013-04-17 | Dolby Laboratories Licensing Corporation | Quality evaluation of sequences of images |
TWI407776B (zh) * | 2009-06-30 | 2013-09-01 | Silicon Integrated Sys Corp | 影像產生裝置、靜態文字偵測裝置及相關方法 |
US20110158309A1 (en) * | 2009-12-28 | 2011-06-30 | Motorola, Inc. | Method and apparatus for determining reproduction accuracy of decompressed video |
CN102572499B (zh) * | 2010-12-07 | 2015-11-25 | 江南大学 | 基于小波变换多分辨率预测的无参考图像质量评价方法 |
CN102547363B (zh) * | 2010-12-07 | 2015-06-24 | 江南大学 | 基于轮廓波变换域图像特征的无参考图像质量评测方法 |
MX2013013874A (es) * | 2011-06-03 | 2014-01-23 | Echostar Technologies Llc | Sistema y metodos para probar hardware de video al evaluar tramas de video de salida que contienen caracteristicas de referencia integradas. |
US8525883B2 (en) | 2011-09-02 | 2013-09-03 | Sharp Laboratories Of America, Inc. | Methods, systems and apparatus for automatic video quality assessment |
EP2745518B1 (en) * | 2011-09-26 | 2017-06-14 | Telefonaktiebolaget LM Ericsson (publ) | Estimating user-perceived quality of an encoded video stream |
US9203708B2 (en) | 2011-09-26 | 2015-12-01 | Telefonaktiebolaget L M Ericsson (Publ) | Estimating user-perceived quality of an encoded stream |
FR2982449A1 (fr) * | 2011-11-07 | 2013-05-10 | France Telecom | Procede d'evaluation d'au moins un defaut de qualite dans un signal de donnees, dispositif et programme d'ordinateurs associes |
GB2529446A (en) * | 2014-07-17 | 2016-02-24 | British Academy Of Film And Television Arts The | Measurement of video quality |
CN104361574B (zh) * | 2014-10-14 | 2017-02-15 | 南京信息工程大学 | 一种基于稀疏表示的无参考彩色图像质量评价方法 |
US10085015B1 (en) * | 2017-02-14 | 2018-09-25 | Zpeg, Inc. | Method and system for measuring visual quality of a video sequence |
US11310475B2 (en) * | 2019-08-05 | 2022-04-19 | City University Of Hong Kong | Video quality determination system and method |
CN111539909B (zh) * | 2020-03-12 | 2023-04-28 | 上海交通大学 | 一种相似场景图像组的图像质量评估方法、系统及终端 |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4058828A (en) | 1975-05-27 | 1977-11-15 | Eastman Kodak Company | Document copying apparatus |
US4494838A (en) * | 1982-07-14 | 1985-01-22 | The United States Of America As Represented By The Secretary Of The Air Force | Retinal information mapping system |
GB8614877D0 (en) | 1986-06-18 | 1986-07-23 | Rca Corp | Display processors |
US5155594A (en) | 1990-05-11 | 1992-10-13 | Picturetel Corporation | Hierarchical encoding method and apparatus employing background references for efficiently communicating image sequences |
WO1992005669A1 (en) * | 1990-09-26 | 1992-04-02 | Televerket | Means for measuring picture quality |
JP3119371B2 (ja) * | 1991-03-29 | 2000-12-18 | キヤノン株式会社 | 画像処理方法 |
US5221967A (en) * | 1991-05-08 | 1993-06-22 | The University Of British Columbia | Signal quality monitoring system |
US5394483A (en) | 1992-06-30 | 1995-02-28 | Eastman Kodak Co | Method and apparatus for determining visually perceptible differences between images |
JPH06348840A (ja) * | 1993-06-03 | 1994-12-22 | Konica Corp | 画像復元方法 |
US5909516A (en) | 1996-03-29 | 1999-06-01 | Sarnoff Corporation | Method and apparatus for decomposing an image stream into units of local contrast |
US5694491A (en) * | 1996-03-29 | 1997-12-02 | David Sarnoff Research Center, Inc. | Methods and apparatus for assessing the visibility of differences between two image sequences |
US6075884A (en) * | 1996-03-29 | 2000-06-13 | Sarnoff Corporation | Method and apparatus for training a neural network to learn and use fidelity metric as a control mechanism |
US5974159A (en) | 1996-03-29 | 1999-10-26 | Sarnoff Corporation | Method and apparatus for assessing the visibility of differences between two image sequences |
US6137904A (en) * | 1997-04-04 | 2000-10-24 | Sarnoff Corporation | Method and apparatus for assessing the visibility of differences between two signal sequences |
US6011868A (en) * | 1997-04-04 | 2000-01-04 | Hewlett-Packard Company | Bitstream quality analyzer |
JPH11187273A (ja) * | 1997-12-22 | 1999-07-09 | Fuji Xerox Co Ltd | 画像分析装置および方法 |
US6795580B1 (en) * | 1998-09-10 | 2004-09-21 | Tektronix, Inc. | Picture quality measurement using blockiness |
-
2000
- 2000-04-05 US US09/543,753 patent/US6285797B1/en not_active Expired - Lifetime
- 2000-04-13 DE DE60041639T patent/DE60041639D1/de not_active Expired - Lifetime
- 2000-04-13 WO PCT/US2000/009895 patent/WO2000062556A1/en not_active Application Discontinuation
- 2000-04-13 EP EP00925962A patent/EP1169869B1/en not_active Expired - Lifetime
- 2000-04-13 KR KR1020017013023A patent/KR20020000797A/ko not_active Application Discontinuation
- 2000-04-13 JP JP2000611508A patent/JP4494649B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2003501850A (ja) | 2003-01-14 |
WO2000062556A9 (en) | 2001-11-29 |
DE60041639D1 (de) | 2009-04-09 |
KR20020000797A (ko) | 2002-01-05 |
EP1169869A1 (en) | 2002-01-09 |
US6285797B1 (en) | 2001-09-04 |
WO2000062556A1 (en) | 2000-10-19 |
EP1169869B1 (en) | 2009-02-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4494649B2 (ja) | 基準映像を用いることなくデジタル映像の品質を推定する方法と装置 | |
Ciancio et al. | No-reference blur assessment of digital pictures based on multifeature classifiers | |
CN111193923B (zh) | 视频质量评估方法、装置、电子设备及计算机存储介质 | |
Ong et al. | A no-reference quality metric for measuring image blur | |
Tan et al. | A multi-metric objective picture-quality measurement model for MPEG video | |
Lin et al. | Perceptual visual quality metrics: A survey | |
JP4763721B2 (ja) | マルチメディアビデオ通信品質を測定する方法 | |
US7170933B2 (en) | Method and system for objective quality assessment of image and video streams | |
US6888564B2 (en) | Method and system for estimating sharpness metrics based on local edge kurtosis | |
Liu et al. | A perceptually relevant no-reference blockiness metric based on local image characteristics | |
Ma et al. | Reduced-reference video quality assessment of compressed video sequences | |
Gunawan et al. | Reduced-reference video quality assessment using discriminative local harmonic strength with motion consideration | |
Freitas et al. | Using multiple spatio-temporal features to estimate video quality | |
US20080266427A1 (en) | Systems and methods for measuring loss of detail in a video codec block | |
Kottayil et al. | Blind quality estimation by disentangling perceptual and noisy features in high dynamic range images | |
Zhou et al. | Deep local and global spatiotemporal feature aggregation for blind video quality assessment | |
Bohr et al. | A no reference image blur detection using cumulative probability blur detection (cpbd) metric | |
WO2010103112A1 (en) | Method and apparatus for video quality measurement without reference | |
Joy et al. | RECENT DEVELOPMENTS IN IMAGE QUALITY ASSESSMENT ALGORITHMS: A REVIEW. | |
Dosselmann et al. | A prototype no-reference video quality system | |
Singh et al. | A distortion-agnostic video quality metric based on multi-scale spatio-temporal structural information | |
Regis et al. | Video quality assessment based on the effect of the estimation of the spatial perceptual information | |
Izadi et al. | Mutual noise estimation algorithm for video denoising | |
Liu et al. | Issues in the design of a no-reference metric for perceived blur | |
Qadri et al. | Frequency domain blockiness measurement for image quality assessment |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070319 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090428 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090727 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100330 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100408 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4494649 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130416 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130416 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140416 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |