JP5758405B2 - 映像品質推定技術 - Google Patents

映像品質推定技術 Download PDF

Info

Publication number
JP5758405B2
JP5758405B2 JP2012547448A JP2012547448A JP5758405B2 JP 5758405 B2 JP5758405 B2 JP 5758405B2 JP 2012547448 A JP2012547448 A JP 2012547448A JP 2012547448 A JP2012547448 A JP 2012547448A JP 5758405 B2 JP5758405 B2 JP 5758405B2
Authority
JP
Japan
Prior art keywords
error
video
picture
value
propagation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012547448A
Other languages
English (en)
Other versions
JP2013516870A (ja
Inventor
マルティン ペテション,
マルティン ペテション,
アンドレアス ロスホルム,
アンドレアス ロスホルム,
Original Assignee
テレフオンアクチーボラゲット エル エム エリクソン(パブル)
テレフオンアクチーボラゲット エル エム エリクソン(パブル)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by テレフオンアクチーボラゲット エル エム エリクソン(パブル), テレフオンアクチーボラゲット エル エム エリクソン(パブル) filed Critical テレフオンアクチーボラゲット エル エム エリクソン(パブル)
Publication of JP2013516870A publication Critical patent/JP2013516870A/ja
Application granted granted Critical
Publication of JP5758405B2 publication Critical patent/JP5758405B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/004Diagnosis, testing or measuring for television systems or their details for digital television systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

本開示は、概して映像品質を推定する技術に関し、特にビットストリーム基準における映像品質推定技術に関する。
今日、映像は一般的なメディアサービスの1つであり、エンドユーザにおいて急速に人気を得ている。ビットストリームとして通信ネットワークを介して配信された映像は、データ損失やデータ遅延等のエラーを引き起こしうる通信制限や問題を生じうる。このようなエラーは、エンドユーザにより体験される視覚的な品質低下を引き起こしうる。このような視覚的な品質低下は、大抵、画像のフリーズや歪みとして現れる。
品質モニタリングは、映像サービスの十分な体験品質(QoE:Quality of Experience)を維持するための、サービスプロバイダにおける重要な動作スキームである。この目的のために、平凡なタスクではなく、正確にタイムリーに映像品質を評価する好適な技術が要求される。
恐らく、多くの精細な映像品質評価技術は、多数のエンドユーザの意見が収集され、それに基づいて品質の一般的意見が形成される主観的な検査である。しかしながら、主観的な検査は、高価で、手動で、時間を要し、そして例えば通信ネットワークやセットトップボックスにおいて映像品質モニタリングの主観的検査を行うことができない等、多くの場合簡単に実行できない。故に、客観的な測定に基づく、映像の主観的な品質を推定するための手段が提供される必要がある。この要求は、客観的な映像品質評価技術の開発を推進している。客観的な映像品質推定は、映像品質の評価において主観的な検査に取って代わりうるだけでなく、主観的な品質のリアルタイムかつ自動的な評価を可能としうる。
本開示のコンテキストにおいて、「推定する(estimate)」、「assess(評価する)」、「測定する(measure)」は、交換可能に用いられる。
近年、主観的な映像品質技術の異なるモデルが提案及び開発されてきている。使用される入力パラメータに基づけば、これらは知覚モデル及びパラメトリックモデルとしてカテゴライズされる。パラメトリックモデルは、ネットワークレイヤモデルとも知られている。
知覚モデルは、復号された映像やリファレンス映像をモデルへの入力として用いる。例えば、所謂フルリファレンス(FR)モデルには、ソース映像のピクセルデータ、及びこれらの復号された映像が入力パラメータである。知覚モデルは、通常映像品質の推定において高い精度を特徴としているが、とても複雑であり、時間を要し、かつリアルタイムモニタリング等の多くの状況において不適切となりうる計算パワーを必要とする。さらに、リファレンス映像が知覚モデルにおいて用いられる場合、モデルはリファレンス映像と復号された映像の同期についての決定的な問題を解決する努力が必要となる。
軽量映像品質モデル(light-weight video quality model)における利益は、パラメトリックモデルの近年の発展を導いている。パラメトリックモデルは、パケットヘッダ情報を入力として用い、情報に基づいて品質スコアを算出する。ネットワークプロトコルヘッダ情報は通常、Internet Protocol(IP)、User Datagram Protocol(UDP)、Real-time Transport Protocol(RTP)、及びMoving Picture Experts Group 2 Transport Stream(MPEG2TS)レイヤの1以上から用いられる。パラメトリックモデルは知覚モデルに比べて比較的単純であるが、その推定精度についてはネットワークプロトコルヘッダから取得されうる限定的な情報に起因してむしろ低い。例えば復号された映像におけるデータ損失の出現についての有用な推定を行うことは非常に難しい。
従って、映像品質を客観的に推定あるいは評価する改良技術が求められる。以下に示されるように、ここに示される技術は、他に比べて映像品質推定の十分な精度を達成し、同時に複雑性が少なく、かつ計算リソースの消費を少なくすることを達成する。
第1の態様によれば、映像品質推定方法が提供される。方法は、一連のピクチャフレームを有する映像ビットストリームを受信する工程と、ピクチャフレームにおけるエラー発生を判定する工程(例えばピクチャフレームにおいてエラーが発生したことの他、ピクチャフレームにおけるエラーの位置を判定する工程)と、エラーの時間的伝播及び空間的伝播の少なくともいずれかを考慮するエラー伝播を判定する工程(例えばエラーの時間的伝播及び空間的伝播の少なくともいずれかを判定する工程)と、及び上述の判定結果(例えば判定されたエラー伝播)に基づいて、映像ビットストリームの品質を推定する工程と、を有する。エラーは情報の遅延あるいは損失によって(例えばパケット、ピクチャフレーム、ピクチャフレームパーティション等の遅延あるいは損失によって)生じうる。さらに、品質推定工程は、採点方式に基づいてもよい。
方法はさらに、エラーによって生じた視覚的な品質低下を判定(例えば推定あるいは測定)する工程を有してもよい。換言すれば、本工程はエラーの視認性あるいは該エラーによって引き起こされる映像品質への影響を判定するものであり、視覚的な品質低下を判定する工程は、エラーによって引き起こされる視覚的な品質低下を示すペナルティ値を判定する工程を有する。
ピクチャフレームは、複数のパーティション(ピクセル、マクロブロック等、しかしこれに限定されない)を有するものであってもよい。エラーは、ピクチャフレームの1以上のパーティションにおいて発生する、あるいは1以上のパーティションに影響を及ぼしてもよい。また、拡がる効果を考慮し、1つのピクチャフレームにおいて発生したエラーは、1以上の他のピクチャフレームにおける1以上のパーティションに影響を及ぼしてもよい。故に、エラーによって引き起こされた視覚的な品質低下を判定する工程は、エラーの影響を受けたパーティションあるいはピクチャフレームの各々について分ペナルティ値を算出する工程を有してもよい。ペナルティ値は、エラーによって映像に引き起こされた視覚的な品質低下の量あるいは範囲を示す値である。
ペナルティ値は、ルールのセットに従って算出あるいは割り当てられてよい。ルールは予め設定可能であって、かつ適用可能であってよい。以下は、ペナルティ値を算出するためのルールの限定的なリストである。
・エラーがシーン変化において発生する場合に、エラーに対して(エラーがシーン変化
に関連しないエラーである場合よりも)高いペナルティ値が割り当てられる。
・ピクチャフレームのモーションあるいはピクチャフレームにおけるモーションが、エ
ラーによって引き起こされた視覚的な品質低下の判定に用いられてもよい。映像ビッ
トストリームが、エラーの影響を受けたピクチャフレームの直後のモーションデータ
を有する場合に、特にエラー直後にモーションが多い場合に、さらに特別には該モー
ションの相対的な大きさが大きい場合に、より高いペナルティ値が割り当てられる。
例えば、他にモーションが存在しないシーンにおける小規模のモーションエラーは、
動き率が高いシーンにおける中規模のモーションエラーよりも認識されやすい、即ち
視認可能であろう。
・パーティションがスキップあるいは推定スキップである場合に、エラーによる影響を
受けたパーティションに対してはペナルティ値を割り当てない。シーン変化や推定シ
ーン変化が存在する場合は、場合によっては本ルールは除外されてもよい。
・後続のピクチャフレームの少なくとも1つについてのエラーに割り当てられたペナル
ティ値を、所定量あるいは所定係数分減らす。例えば、ペナルティ値は後続するピク
チャフレームの各々で所定量あるいは所定係数分減らされてよい。
・ペナルティ値は、イントラ符号化ピクチャフレームあるいはイントラ符号化パーティ
ション(例えばイントラ符号化マクロブロック)を受信した際にリセットされる。
上述のルールの各々及び他のルールは、映像品質推定方法において選択的に実行されてよい。換言すれば、エラーによって引き起こされた視覚的な品質低下を判定するために、上記ルールのいかなる組み合わせを適用してもよい。
一連のピクチャフレームは、少なくとも1つの参照ピクチャ、及び参照ピクチャにおける位置を示す少なくとも1つのモーションベクトルを有する少なくとも1つの予測ピクチャを有し、エラーの時間的伝播及び/または空間的伝播は、予測ピクチャに含まれるモーションベクトルに基づいて判定されてもよい。一例において、エラー伝播は、モーションベクトル及び該モーションベクトルが示す参照ピクチャを追跡し続けることにより判定されてもよい。
パーティション情報及び判定された視覚的な品質低下を含む判定の結果は、損失ペナルティマップに配置、例えば格納されてもよい。損失ペナルティマップはテーブルのような2次元データ構造の形式をとってもよい。
損失ペナルティマップは、関連ピクチャ(即ち、符号化映像のピクセルマップ)と同一の解像度を有していてもよい。このことは、完全な忠実性で視覚的な品質低下を示すことの利点を提供する。しかしながら、技術の複雑性をより低くする傾向にある場合、損失ペネルティマップは関連ピクチャフレームあるいはピクセルマップよりも少ない解像度を有していてもよい。この目的のため、ペナルティ値はより低い解像度において算出されてもよい。例えば、ピクチャフレームは、各々が複数のピクセルを有する複数のパーティションを有していてもよい。パーティションは、(例えばパーティションマップのような)2次元データ構造の形式で構成されてもよい。この場合、損失ペナルティマップの解像度は、パーティションマップと同一に構成されてもよい。
技術の複雑性をさらに低下させるために、エラー伝播の判定、即ちエラーの時間的伝播及び空間的伝播の少なくともいずれかの判定は、以前のエラーについて判定された1以上の視覚的な品質低下値(例えばペナルティ値)に重みづけを行う工程をさらに有していてもよい。
エラー伝播及び該エラーによって引き起こされる視覚的な品質低下の判定に加えて、ここに示される映像品質推定方法は、視覚的な品質低下を合算し、合算結果に基づいて(品質)スコアを算出してもよい。エラーによって引き起こされる視覚的な品質低下は、時間及び空間の少なくともいずれかについて合算されてよい。故に、算出されたスコアは、映像ビットストリームの全体的な品質を示す働きをする。
視覚的な品質低下を合算する工程において、重みづけアルゴリズムが用いられてもよい。一実施形態において、影響を受けたパーティションあるいはピクチャフレームは、一様な方法で合算される。別の実施形態において、小さい値の視覚的な品質低下は、大きい視覚的な品質低下値よりも高い係数で重みづけがなされてよい。
合算は、時間において段階的に実行されてもよい。例えば、視覚的な品質低下値は、秒(例えば25ピクチャフレームに対応)ごとに一様に加算されてもよいし、このとき他の関数がこれらの小さな加算を考慮するために用いられてもよい。
品質スコアは、定期的に、あるいはスライドウィンドウアプローチを用いて算出されてもよい。スライドウィンドウアプローチの一実施形態では、特定のウィンドウサイド、即ち所定期間についての新たなスコアが所定のレートで算出される。
上述した映像品質推定方法は、映像ビットストリーム品質推定モデルに基づくものであってもよい。映像ビットストリームは、1以上のパラメータを有する映像符号化レイヤ(VCL)の少なくとも一部を有し、エラー発生を判定する工程、エラー伝播を判定する工程、及び映像品質を推定する工程の少なくとも1つは、映像ビットストリームの復号なしで少なくとも1以上のパラメータに基づくものであってもよい。VCLパラメータは、パーティション(例えばマクロブロック)パラメータ、イントラ符号化パラメータ、モーション関連パラメータ等を含んでいてもよい。
第2の態様によれば、コンピュータプログラムが複数のピクチャフレームを有する映像ビットストリームの品質を推定するために提供される。コンピュータプログラムは、コンピュータにおいて実行された場合に、コンピュータにここに説明される方法の工程を実行させるプログラムコード部を有する。コンピュータプログラムは、コンピュータ読み取り可能な記録媒体に格納されていてもよく、ハードディスク、ROM、RAM、EEPROMやフラッシュメモリの形であるメモリ等のコンピュータプログラム製品に含まれていてもよい。
第3の態様によれば、映像品質を推定する装置が提供される。装置は、一連のピクチャフレームを有する映像ビットストリームを受信する受信機と、ピクチャフレームにおけるエラー発生を判定する第1の判定器と、エラーの時間的伝播及び空間的伝播の少なくともいずれかを考慮するエラー伝播を判定する第2の判定器と、例えば判定されたエラー伝播等の判定結果に基づいて映像ビットストリームの品質を推定する推定器とを有する。
装置はさらに、エラーの視認性あるいはエラーにより引き起こされる視覚的な品質低下を判定する第3の判定器を有してもよい。特に第3の判定器は、エラーにより引き起こされる視覚的な品質低下を示すペナルティ値を判定することにより視覚的な品質低下を判定するように構成されてもよい。
エラーは、1以上のピクチャフレームの1以上のパーティションに影響を及ぼしてもよい。故に、第3の判定器はさらに、映像のエラーの影響を受けたパーティションの各々について、エラーによって引き起こされた視覚的な品質低下の量あるいは範囲の目安としてペナルティ値を算出することにより、視覚的な品質低下を判定するように構成されてもよい。
さらに第3の判定器は、以下のような、しかしながらこれに限定されない1以上のルールに従ってペナルティ値を算出するように構成されてもよい。
・エラーがシーン変化において発生した場合に、エラーに対してより高いペナルティ値
を割り当てる。
・ピクチャフレームのモーションが、エラーによって引き起こされた視覚的な品質低下
を判定(例えば推定あるいは測定)するために用いられてもよい。故に、映像ビット
ストリームがエラーの影響を受けたピクチャフレームの直後のモーションデータを含
む場合、特に該モーションの相対的な大きさが大きい場合に、エラーに対してより高
いペナルティ値を割り当てる。
・エラーの影響を受けたパーティションがスキップあるいは推定スキップである場合に
、該パーティションにペナルティ値を割り当てない。シーン変化や推定シーン変化が
存在する場合には、場合によっては本ルールは除外されてよい。
・後続のピクチャフレームの少なくとも1つについてのエラーに割り当てられたペナル
ティ値を、所定量あるいは所定係数分減らす。
・イントラ符号化パーティションあるいはイントラ符号化ピクチャフレームを受信した
際にペナルティ値をリセットする。
第3の判定器は、該ルールのいかなる組み合わせを適用してもよい。
一連のピクチャフレームは少なくとも1つの参照ピクチャ、及び該参照ピクチャにおける位置を示す少なくとも1つのモーションベクトルを有する少なくとも1つの予測ピクチャを有する。装置の第3の判定器は、モーションベクトル及び該モーションベクトルが示すサンショウピクチャを追跡し続けることにより、視覚的な品質低下の時間的伝播及び空間的伝播の少なくともいずれかを判定するように構成されてもよい。
エラーの影響を受けたピクチャフレームのモーションは、該エラーによって引き起こされた視覚的な品質低下を判定するために用いられてもよい。故に、第2の判定器はさらに、モーションベクトルに基づいて視覚的な品質低下を判定するように構成されてもよい。
装置はさらに、ピクチャフレームから抽出された2次元データ構造(例えば損失ペナルティマップ)において視覚的な品質低下を収集する収集器を有してもよい。
また装置は、時間及び空間の少なくともいずれかにおいてエラーによって引き起こされた視覚的な品質低下を合算する合算器を有してもよい。装置はさらに、合算結果に基づいて映像ビットストリームの品質を示すスコアを算出する算出器を有してもよい。
装置の上述した構成要素、及びいかなる他の追加の構成要素は、分離物理ユニットに実装されてもよい。また構成要素のいくつかあるいは全ては、1つのハウジング内に配置されてもよいが、映像サービス全体に加わる異なるノードあるいは端末内に分離することも可能である。受信機、第1の判定器、第2の判定器、第3の判定器、合算器、計算機、及び推定器の各々は、ASIC(Application Specific Integrated Circuit)及び/またはDSP(Digital Signal Processor)や、マイクロプロセッサのような少なくとも1つのプロセッサの組み合わせ等の特定のハードウェア回路、及びプロセッサにおいて実行される場合は上述のコンピュータプログラムとして実現されてもよい。故に、コンピュータプログラムは、プロセッサで実行された際に、上述の対応する工程の実行を装置に生成させる、受信モジュール、第1の判定モジュール、第2の判定モジュール、第3の判定モジュール、合算モジュール、算出モジュール、及び推定モジュールを有していてもよい。
第4の態様によれば、映像ビットストリームを提供するサーバノードが提供される。サーバノードは、上述の客観的な映像品質推定装置を有する。
第5の態様によれば、上述の客観的な映像品質推定装置を有し、映像ビットストリームを復号するクライアント端末が提供される。
第6の態様によれば、映像サーバノード及び映像クライアント端末間の通信用のネットワークノードが提供される。ネットワークノードは、上述の映像品質推定装置を有する。
ここでは映像品質推定技術は、H.264、H.263、MPEG−2、MPEG4等を含む、最も幅広く用いられている今日の映像符号化標準のような、あらゆる種類の技術において符号化された映像の品質を推定することに適している。ここに示される客観的な映像品質推定技術は、将来のいずれの映像符号化標準あるいは技術に適応されてもよい。
ここに示される映像品質推定技術は、いずれかの特定のサービスに限定されない。例えば、映像ストリーミング、モバイルテレビジョン、映像通話、IPTVのようなインターネットマルチメディア、映像会議、及びリニアテレビジョン等の幅広いサービスに展開されうる。
以下、本開示は図に示される実施形態を参照して記述される。
映像品質推定技術のシステム実施形態を示したブロック図 例示的な映像符号化レイヤの構造を示した図 別の例示的な映像符号化レイヤの構造を示した図 例示的なインター符号化ピクチャフレームの構造を示した図 16×16パーティションについてのモーションベクトル予測の例を示した図 映像品質推定技術の方法実施形態を示した図 映像品質推定技術の機器実施形態を描いたブロック図 映像品質推定技術のコンピュータプログラム実施形態を示したブロック図 映像品質推定技術の別の方法実施形態を示したフローチャート 映像におけるパケット損失の例を示した映像スクリーンショット 損失ペナルティマップがオーバーレイされた、図8と同様の例を示した映像スクリーンショット 映像品質推定技術の別の機器実施形態を描いたブロック図 映像品質推定技術の別のコンピュータプログラム実施形態を示したブロック図 映像品質推定技術の更なる機器実施形態を描いたブロック図 映像品質推定技術の更なるコンピュータプログラム実施形態を示したブロック図 映像品質推定技術の一実施形態に係るペナルティ値集合のモデリングに用いられる、様々な値dについての有界ログ関数を示した図
以下において、限定ではなく説明の目的で、ここに示される客観的な映像品質推定技術の詳細な理解を提供するために具体的な詳細が説明される。これらの具体的な詳細から逸脱した実施形態において技術が実施されてもよいことは、同一の技術分野に属する当業者にとって明らかであろう。例えば、例示的な実施形態は図1の特有のネットワークレイアウトに関連して開示されるが、他のタイプのネットワークレイアウトに技術が容易に適用可能であることは、当業者によって容易に理解されよう。また例えば、例示的な実施形態はH.264、MPEG−2、MPEG−4、あるいはH.263標準に従った映像を参照して説明されるが、ここに示される客観的な映像品質推定技術は、H.264、MPEG−2、MPEG−4、及びH.263を含むほか、今日及び将来の映像符号化技術のその他の映像符号化技術や標準を含む、全てのタイプの符号化技術や標準を用いて符号化された映像の品質を推定するために用いられうる。さらに、ここに示される技術は、いずれかの特定のサービスに限定されず、映像ストリーミング、モバイルTV、映像電話、IPTV、映像会議、リニアTV等の幅広いサービスについて展開されてもよい。
当業者はさらに、ここに説明される技術がハードウェア回路、ソフトウェア、あるいはこれらの組み合わせにより実現されてもよいことを理解するだろう。ソフトウェアは、プログラムされたマイクロプロセッサや特定用途向け集積回路(ASIC)及びデジタル信号プロセッサ(DSP)を用いる汎用コンピュータと連動してもよい。技術が方法として開示される場合、技術はコンピュータプロセッサ及びプロセッサと連結したメモリにおいて実現されてもよく、該メモリがプロセッサにより実行された際に方法を実現する1以上のプログラムにより符号化されていてもよいことは理解されるだろう。
上述の目的を実現するために、即ち低複雑性及び十分な推定精度の両方を担保するために、映像品質推定技術は、(パラメトリックモデルで使用されるような)ネットワークプロトコルヘッダ情報だけでなく、映像ビットストリームの映像符号化レイヤから得られた特定のパラメータに基づいて品質推定が実行されることによって示される。従って、技術はビットストリームモデルに基づくと言える。本技術は、従来のパラメトリックモデルよりも高い精度を有する映像品質推定の可能性を有すると同時に、特にリアルタイムモニタリングのような、あらゆる種類の映像品質モニタリングに適しているほどに軽量である。
図1は、ここに示される映像品質推定技術のシステム実施形態を示したブロック図である。図1に示されるように、映像ビットストリームは通信ネットワーク6を介して、映像サーバ2から映像クライアント端末4に送信される。少なくとも1つのネットワークノード8、あるいは「中間」ノードは通信ネットワーク上に存在し、映像送信に加わる。クライアント端末4に到達すると、映像はエンドユーザに提示するために復号される。
映像品質推定技術は、様々なノードあるいはターミナルにおいて実行されうる。例えば、技術は映像ビットストリームを提供するサーバノードにおいて実行されてもよい。サーバノードは、図1における映像サーバ2のような、通信ネットワーク6条の1以上のクライアント端末4や中間ノード8に対して映像ビットストリームを送信するノードである。特定の実施形態ではサーバノードは、映像ストリームを送信可能な、移動端末、TV放送サーバ、ビデオオンデマンドサーバ、あるいは汎用コンピュータであってよい。映像品質推定技術は、図1におけるクライアント端末4のような、映像ストリームを復号可能なクライアント端末において実行されてもよい。クライアント端末は、移動端末、コンピュータ、セットトップボックス、ゲーム機、TVセット等であってよい。さらに、技術は図1におけるネットワークノード8のような、映像サーバノード2と映像クライアント端末4との間で通信するためのネットワークノードにおいて実行されてもよい。さらに、技術の構成昨日は、1以上のサーバノード、1以上のネットワークノード、及び1以上のクライアント端末におけるいずれの組み合わせ等、いくつかのノードや端末に渡って分けられてもよい。特定の実施形態で、技術はビットストリームパラメータがサーバ、ネットワークノード、クライアント端末の少なくとも1つから抽出され、該パラメータの処理がさらなるノードあるいは端末において実行されるように実行されてもよい。大事なことを言い忘れていたが、技術はコンテンツ制作のような少ない時間に制限される実施形態においても用いられてよい。
上述したように、ビットストリームモデルへの入力は、映像符号化レイヤから抽出されたパラメータを含む。これらのパラメータの更に理解するために、まず映像符号化レイヤの構成についての簡単な説明が、H.264、MPEG−2、及びH.263等の今日の特定の映像コーデック標準に従って構成された例示的な映像符号化レイヤを示す図2乃至5を参照して示される。
H.264、MPEG−2、及びH.263等の今日最も幅広く用いられている映像符号化標準は全て、パーティション基準のアプローチを用いている。パーティション基準映像コーデックにおいて、各映像ピクチャ(「映像フレーム」、「ピクチャフレーム」、あるいは単純に「ピクチャ」としても言及される)は、マクロブロック(MB)等のブロックとしても称される、より小さいパーティションに分割される。上述したコーデック標準について、マクロブロックのサイズは通常16×16ピクセルとして定義される。もちろん、パーティションは他の適切なサイズを採用してもよい。
上述した映像コーデック標準におけるピクチャは、イントラ符号化ピクチャ(Iピクチャ)、予測符号化ピクチャ(Pピクチャ)、あるいは双方向予測符号化ピクチャ(Bピクチャ)の3つの異なるタイプを有し得る。Iピクチャは、データ圧縮に現在のピクチャからの情報のみを用い、映像におけるランダムアクセスポイントとして用いられることが可能であり、Iピクチャ以前の潜在的なエラーがリフレッシュされることを保証する(H.264では完全なリフレッシュを保証するために、予測するPピクチャ及びBピクチャに用いられる1つの参照ピクチャのみはバッファに保持されるべきである。またIDRピクチャがIピクチャの代わりに用いられてもよい。)。Pピクチャは各予測について、1つの参照ピクチャから予測を行ってよい。Bピクチャは各予測について、2つの異なる参照ピクチャを用いてよい。ピクチャは、通常Iピクチャで開始して次のIピクチャに先行するピクチャで終了するピクチャの集合(GOP:groups of pictures)において順序づけられる。
図2は、Iピクチャ、Pピクチャ、及びBピクチャを含むGOP構造の例を示している。
図3は、Iピクチャ及びPピクチャのみを含むGOP構造の例を示している。
図4は、11×9のマクロブロックを有するQCIF映像(176×144画素)についてのPピクチャの例を示している。図4に見られるように、Pピクチャは現在のピクチャからの情報のみを用いることが可能なイントラマクロブロック(I MB)と、予測により他のピクチャからの情報を用いる予測マクロブロック(P MB)とを含んでよい。マクロブロックは、より小さいパーティションに分割されうる。図4では、P MBのパーティションのサイズは、16×16ピクセル、16×8ピクセル、8×16ピクセル、及び8×8ピクセルが示されている。H.264標準は、サブブロックとも呼ばれる、最小4×4ピクセルまでのサイズを有するこのようなパーティションを許容している。各P MBのパーティションは、予測を行うために、既に復号された参照ピクチャにおける位置を指し示すモーションベクトル(MV)を用いる。図5には、16×16パーティションについてのMV予測の例が示されている。映像符号化器は、既に復号されたピクチャから該当部分を復号器に単純コピーさせるマクロブロックをスキップすることによって、ビットの節約を選択してもよい。
映像符号化レイヤからは、様々なパラメータが映像品質を推定するためのビットストリーム品質モデルにより抽出され(あるいは抽出されたパラメータから生成され)、使用されうる。このようなパラメータの例は、
フレームタイプ、
GOPタイプ、
GOP長、
受信/損失/破棄されたIフレーム、Pフレーム、及びBフレームパケットの数、
良好な/損傷したIフレーム、Pフレーム、及びBフレームの数、
モーション、及び
マクロブロック情報
が挙げられるが、これに限定はされない。パラメータは、ビットストリーム解析器により抽出されてよい。
上述したパラメータは別として、映像ビットストリームからの他の情報が、映像品質を推定するために用いられてもよい。本開示において示される映像品質推定技術の重要な態様は、ビットストリームの映像符号化レイヤにおいて発見される特性から、エラー伝播及び映像におけるエラーの視認性を推定することである。このようにすることで、より正確な映像品質推定スコアが算出されうる。
本開示のコンテキストにおいてエラーは、映像ビットストリームのパケットの損失や遅延のような、映像データの損失や遅延を含んでおり、映像データの損失や遅延の結果生じるものである。しかしながら、映像ビットストリームのデータ損失やデータ遅延の全てが、映像の品質において人間が知覚し得る影響を与えるとは限らないだろう。換言すれば、エラーの全てがエンド視聴者に主観的な視覚効果を有するとは限らないし、視覚的な品質低下として知覚されるとも限らないだろう。例えば、1つのBフレームの損失は、該フレームにおいては他のフレームには依存しておらず、従って該1つのBフレームに対応するごくわずかな瞬間についてのみ画像は歪められるため、わずかな影響をとなるだろう。しかしながら、参照フレーム(IフレームあるいはPフレーム)の損失は、該参照フレームを参照するどのPフレームあるいはBフレームにも影響を及ぼすだろう。特に参照フレームを含む、一連のパケット損失は、映像イメージ品質において人間が知覚可能な品質低下を引き起こし始めるだろう。さらに、シーン変化の開始時、あるいは動き率の高い映像シーケンス中における参照フレームの損失は、静的な映像シーケンスにおける参照フレームの損失時に比べて、より人間に知覚されやすい品質低下を引き起こすと思われる。逆に、シーン変化中あるいは動き率の高い映像シーケンス中における非参照フレームの損失は、視聴者に提示される画像における高速な変化により視覚的な副作用が分かりにくいため、知覚されうる品質低下の発生は少ないと思われる。
故に、映像ビットストリームにおけるエラー発生を単純に検出ことだけでは十分ではなく、人間の視聴者にエラーがどのように「見えている」かを評価あるいは推定することも必要である。エラーの視認性(あるいは手短に視認性)は、この視覚的影響あるいは効果を測定するために用いられる用語である。エラーの視認性の大きさは、エラーが人間に知覚可能な映像の品質に与えるであろう影響がどれくらいの量であるか、あるいはどれくらいの重度であるかを示す。エラー視認性を定量化する1つの特有の方法は、エラーにより引き起こされる映像の視覚的な品質低下の量である。
本開示において提案される映像品質推定技術の主要特性は、エラーの時間的伝播及び空間的伝播の少なくとも1つを追跡し続けることである。この目的のために技術は、時間的及び/または空間的に、映像内のどこにエラーが発生するかを追跡し続け、エラーがどれくらいの長さ持続するか、及び/またはエラーが空間にどれくらい拡がるか(即ち、時間及び空間の少なくともいずれかにおいてエラー伝播を推定する)、及びエラーがどれくらい視認されるかを推定する。例えば、動きが多い場合はエラーは空間的に広がる傾向があり、またエラーはイントラピクチャが現れた際には消失するだろう。
上述した映像品質推定技術の本質的な態様を具現する方法実施形態が図6に示される。具体的には図6は、一連のピクチャフレームを有する映像ビットストリームを受信する初期ステップ12、次に技術が映像ビットストリームのピクチャフレームにおけるエラー発生を判定するステップ14、そしてエラーの時間的伝播及び空間的伝播の少なくとも1つを判定するステップ16、最後に判定結果に基づいて映像ビットストリームの品質を推定するステップ18を有する客観的な映像品質推定方法10を示している。
図7は、本開示において示される映像品質推定技術を実施する装置実施形態を示している。20で示される装置は、映像品質を客観的に推定するように構成される。装置20は、一連のピクチャフレームを有する映像ビットストリームを受信するように構成された受信機22、映像ビットストリームのピクチャフレームにおけるエラー発生を判定するように構成された第1の判定器24、視覚的な品質低下の時間的伝播及び空間的伝播の少なくともいずれかを判定するように構成された第2の判定器26、及び判定結果に基づいて映像ビットストリームの品質を推定するように構成された推定器28を有する。
構成要素22、24、26、及び28は1つのハウジング20内に分離されたブロックとして示されているが、装置の実際の実装とは異なって示されていてもよい。例えば、構成要素のいくつか又は全ての機能は、1つの単独物理ユニットに組み合わされてもよい。また別の例では、構成要素のいくつか又は全ては、映像サービス全体に関わる異なるノードに分離されてもよい。
図8は、映像品質推定技術のコンピュータプログラム実施形態を示したブロック図である。図8において20’で示されるコンピュータプログラムは、コンピュータにおいて実行された際に、映像品質を推定するための複数の機能をコンピュータに実行させるためのプログラムコード部を有する。これらの機能は、図6において示された方法実施形態10が有するステップ12、14、16、及び18の他に、図7に示されたような装置実施形態の構成要素22、24、26、及び28に対応している。図8に具体的に示されるように、コンピュータプログラム実施形態20’は、受信機モジュール22’、第1の判定モジュール24’、第2の判定モジュール26’、及び推定モジュール28’を有する。
図9は、映像品質推定技術の別の方法実施形態を示したフローチャートである。フローチャートに示されたステップは、単純である。ステップに関連する機能は、4つのパートに分けることが可能である。
・エラーのエラー伝播を追跡する。即ち、エラーの時間的伝播及び空間的伝播の少なく
ともいずれかを追跡する
・エラーが発生した位置の各々について、例えば映像内のエラーが発生したピクセルや
パーティション(マクロブロック等)について、エラーのエラー視認性を推定する
・映像の誤りのある部分の全てについて算出されたペナルティを合算する
・映像ビットストリームについての品質スコアを生成するために、合算されたペナルテ
ィ値と、場合によっては他のパラメータについての評価を組み合わせる
該4つのパートは、以下に詳細が示される。
《エラー伝播の追跡》
映像ビットストリームにおけるデータ損失等のエラーを評価する単純な方法は、損失比率を算出することである。例えば損失比率は、全ブロック数に対する損失マクロブロックの量として算出されてよい。しかしながらこの測定基準は、エラーの視認性を適切に表すものではない。
時間及び空間の少なくともいずれかにおけるエラーの伝播や拡散をより適切に推定するために、ここに示される技術はモーションベクトルの情報を用いる。例えば、一連のピクチャフレームを有する映像ビットストリームは、少なくとも1つの参照ピクチャ及び少なくとも1つの予測ピクチャを有してよい。予測ピクチャは、参照ピクチャにおける位置を示す少なくとも1つモーションベクトルを有してよく、従って技術はモーションベクトルを追跡し続ける。技術は、モーションベクトル及び該モーションベクトルが示す参照ピクチャを追跡し続けてもよい。
またエラーに続くスキップパーティションやスキップフレームがあるときは以前のパーティションやフレームのエラーが現在のパーティションやフレームにコピーされるため、エラーは時間において伝播されるだろう。さらに、イントラ予測(例えばイントラフレームやイントラパーティション予測)の特定の場合に、空間において伝播されうる。イントラ予測はモーションベクトルを用いるだけでなく、直前のパーティションにおける周囲の画素(例えば周囲のマクロブロック)からの予測を行う。コーデックは通常、周囲の画素からのイントラ予測を行う、複数の異なる方法を含む。H.264において、イントラマクロブロック(即ち、イントラ符号化マクロブロック)は現在のフレーム内の非イントラマクロブロックから予測されてもよい。エラーが非イントラマクロブロックに伝播され、イントラマクロブロックが該非イントラマクロブロックから予測される場合、エラーは該イントラマクロブロックに伝播しうる。H264において非イントラマクロブロックからのイントラ予測を回避するためには、constrained_intr_pred_flagが符号化効率のコストに設定されうる。
エラーの伝播は、損失ペナルティマップにおいて示されうる。一実施形態において、エラーの伝播は損失ペナルティマップに格納されうる。
《エラー視認性の推定》
拡散効果を考慮すると、1つのピクチャフレームで発生するエラーは、1以上のピクチャフレームにおける1以上のパーティションに影響を及ぼし得る。故に技術は、エラーによって引き起こされるエラー視認性や視覚的な品質低下が判定された際に、影響が及ぼされるピクチャフレームあるいはパーティションの全てを考慮する必要がある。技術の位置実施形態は、映像内のエラーによる影響が及ぼされるパーティションの各々についてペナルティ値を算出することにより、視覚的な品質低下を判定する。ペナルティ値は、エラーにより引き起こされる視覚的な品質低下の量を示す値である。
エラーが視認可能かを判定するために、様々なルールが展開可能である。
・データ損失のようなシーン変化の間に発生するエラーは、一般的に通常のエラーより
も程度がひどく見えるため、より高いペナルティ値が割り当てられるべきである。ラ
ンダムアクセスポイントとしてどこでも挿入されうるようなイントラフレームのみを
検出するだけでは十分ではない。シーン変化時ではないイントラフレームにおける損
失は、シーン変化における損失よりも悪化しては見えないだろう。
・データ損失のようなエラーは、エラーの直後に動きが多く存在する場合、程度がひど
く見られる傾向にある。具体的には、モーションの相対的な大きさが注意をひきつけ
る。例えば、他のモーションがないシーンにおける小さなモーションの損失は、モー
ションの多いシーンにおける中規模なモーションの損失よりも分かりやすい。
・損失パーティション(例えばマクロブロック)後のピクチャ内のパーティション(例
えばマクロブロック)がスキップである場合、損失マクロブロックもスキップされう
る可能性は高い。従って、これらのタイプのマクロブロックは損失ペナルティを与え
られない。しかしながら、シーン変化がある場合には損失マクロブロックが大抵スキ
ップされないので、このことは適用されない。
・エラーは時間とともに消失する傾向にある。従って、ペナルティ値はエラーが発生し
たフレームに続くピクチャフレームの少なくとも1つにおいて、特定の量あるいは係
数分減らされる。特定の実装では、ペナルティ値は後続のフレームの各々において、
特定の量あるいは係数分減らされる。
・ペナルティ値は、イントラ符号化ピクチャフレームまたはパーティションである場合
にリセットされる。しかしながら、イントラ符号化パーティションに続くイントラ符
号化パーティションがイントラ符号化パーティションよりも前の参照ピクチャを指す
モーションベクトルを有する場合、エラーは再度発生するだろう。
上述のルールの各々及び他のルールが、本開示に示される映像品質推定技術において用いられうる。
ピクチャフレームのモーションは、エラーのペナルティ値を判定するために用いられてよい。
このようにする場合、使用されるモーションベクトルは、実際のモーションを示し、良好な予測においてただ「ランダムに」示されないことが重要である。ランダムに示すモーションベクトルは、ペナルティ値の大きさを判定する際に考慮されるべきではない。ある位置、例えばマクロブロックにおけるモーションベクトルが「ランダム」であるか否かを判定するために、周囲のパーティションの全てのモーションベクトルがチェックされる。それらが周囲のモーションベクトルの少なくとも1つと同一ではない、あるいは実質的に同一でない(即ち、定数のプラスマイナスがある)場合、対象のモーションベクトルはランダムであるとみなされる。
エラーの位置(例えば、ピクチャフレームにおけるエラーのxy座標)及び視認性の両方は、損失ペナルティマップにおいて示されうる。エラー伝播の完全な忠実性のために、損失ペナルティマップは復号されるピクセルマップと同数の解像度、例えば176×144を有する必要がある。映像におけるパケット損失の例が図10に示される。一般的に、損失ペナルティマップは個々のデータフィールドを定義する2次元のデータ構造であって、各データフィールドがペナルティ値を格納可能に構成される形式をとり得る。一例では、データ構造はテーブルの形式で構成されうる。
図12は、ここに示される映像品質推定技術の装置実施形態30を示している。図7に示された装置実施形態20に比べると、装置30は、収集器32と名付けられた追加の構成要素を有する。収集器32は、損失ペナルティマップにおいて視覚的な品質低下を収集するように構成される。
類似して、映像品質推定技術のコンピュータプログラム実施形態30’が図13に示されるように提供される。図8に示されるコンピュータプログラム実施形態20’に比べると、コンピュータプログラム30’は、損失ペナルティマップにおいて視覚的な品質低下を収集するための、収集モジュール32’と名付けられた追加のモジュールを有する。
技術の低複雑性を保持するために、特定の実施形態におけるペナルティ値は、復号されたピクセルマップよりも低い解像度で算出される。例えば、損失ペナルティマップの解像度は、マクロブロックの解像度、例えばQCIFの11×9と同一であってもよい。より低い解像度の場合におけるペナルティ値の広がりを推定する1つの方法は、以前のペナルティ値に従って重みづけを行うことである。モーションベクトル(x, y) = (-5, 7)を有する図5の例では、現在のピクチャにおける4つのブロックのうちの右下のブロックについてのペナルティ値は次のように算出される。
(ペナルティ値)=(5×7) / (16×16)×(以前の左上ブロックのペナルティ値)
+(11×7) / (16×16)×(以前の右上ブロックのペナルティ値)
+(5×9) / (16×16)×(以前の左下ブロックのペナルティ値)
+(11×9) / (16×16)×(以前の右下ブロックのペナルティ値)
復号器において用いられるであろう隠蔽形式のある知見は、より正確なエラー視認性の推定を行うだろう。予測ピクチャについて適用可能な隠蔽方法は、以下を含む。
・以前の復号ピクチャから失われた部分をコピーする
・モーションに基づいて、以前の復号ピクチャから失われた部分をコピーする
・次のランダムアクセスポイント(イントラフレーム)まで、映像全体をフリーズする
ここに示される映像品質推定技術は、少なくとも上述の上位2つの隠蔽方法及び類似する方法を適用可能に設計されうる。
フリーズする方法を用いる場合、エラー視認性の影響は、エラーの各々と次のランダムアクセスポイント間の時間から算出されうる。シーンのモーションの量も、フリーズの視認性に影響を及ぼし得るパラメータである。
Iピクチャについての適用可能な隠蔽方法は、上述した3つの隠蔽方法の他に、同一のIピクチャにおいて正しく受信されたマクロブロックから損失マクロブロックを内挿/外挿する方法を含む。Iピクチャがシーン変化に配置される場合、「内挿/外挿」方法は復号器による以前のシーンからのピクセルのコピーを行わないため、上述した上位2つの隠蔽方法よりも良好な結果を生み出しうる。しかしながら、この隠蔽方法がシーン変化ではないIピクチャに用いられた場合は、上位2つの隠蔽方法ほど良好な結果は得られないだろう。
いくつかの例において、隠蔽方法の情報が復号器において既知である、あるいはクライアント端末から映像品質推定モデルへの信号が送信されるようにすることが可能である。
《ペナルティ値の合算》
エラーがどこに発生して影響を及ぼすか、及びその度合いが如何ほどかのみを推定するだけでは十分ではない。映像ビットストリーム全体についての総合的な品質スコアを提供(即ち品質推定)するために、ペナルティ値は時間及び空間の少なくともいずれかについて合算される必要がある。
図14は、ここに示す映像品質推定技術の第3の装置実施形態40を示している。図7に示された装置実施形態20に比べると、装置40は合算器42及び算出器44と名付けられた2つの追加の構成要素を有する。合算器42は、時間及び空間の少なくともいずれかにおけるエラーによって引き起こされた視覚的な品質低下を合算するように構成される。算出器44は、合算結果に基づいて、映像ビットストリームの品質を示すスコアを算出するように構成される。
第3の装置実施形態40に対応する、映像品質推定技術のコンピュータプログラム実施形態40’は、図15に示されるように提供される。図8に示されたコンピュータプログラム実施形態20’に比べると、コンピュータプログラム40’は、合算モジュール42’及び算出モジュール44’と名付けられた2つの追加モジュールを有する。合算モジュール42’は、時間及び空間の少なくともいずれかにおけるエラーによって引き起こされた視覚的な品質低下を合算するよう動作し、算出モジュール44’は、合算結果に基づいて、映像ビットストリームの品質を示すスコアを算出するように機能する。
一様な方法での、影響を受けたパーティション及びピクチャへの重みづけは、合算の1つのアプローチであるが、特に小規模のエラーが品質を著しく損なう場合等の特定のケースでは最適ではないかもしれない。このような場合、大きいペナルティ値についての係数よりも、小さいペナルティ値について高い係数でペナルティ値あるいは視覚的な品質低下に重みづけを行うことがより好適であるかもしれない。本アプローチの特有の実施形態は、大きいペナルティ値よりも小さいペナルティ値について、領域/期間に対するペナルティ値に高い重みづけを行う。
後者の合算アプローチモデルについて、様々な関数が用いられうる。この目的で使用される簡単に適合された関数の例は、次のような形式の有界ログ関数である。
dについて様々な値をとった該関数は、図16にプロットされる。
また、サンプルされたデータセットに適合された多項式関数(例えば3次多項式)や離散閾値関数が合算のモデリングに用いられうる。
上に列挙された例示的な関数の全ては、十分な結果を生むことができる。重要な点は、上述の有界ログ関数でd>0の場合のように微分係数の減少を有する関数がおおよそ用いられることである。
合算は、時間において段階的に実行されてよい。例えば、ペナルティ値は「サブリザルト(sub-result)」が与えられるように、秒(例えば25ピクチャフレームに対応)ごとに一様に加算されてよく、このとき他の関数がこれらのサブリザルトを考慮するために用いられる。
《品質スコアの生成》
合算されたペナルティは、主観的に知覚される映像ビットストリームの品質を推定するビットストリーム品質モデルスコアに寄与するいくつかのパラメータうちの1つであってよい。関与する他のパラメータのいくつかは、
・無線ブロックエラーレート(BLER)、
・パケット損失、データスループット、パケットジッタデータ、パケットジッタバッフ
ァストラテジ、IPパケットサイズ、及びCRCエラーレートの信号を(H.223
デマルチプレクサから)送信するRTP/RTCP、CRCエラーの数、映像ビット
レート、映像フレームに対するビット数等の、ネットワークパラメータの送信に用い
られるビットエラーレート(BER)及び無線ベアラ、
・ターゲット映像フレームレート、映像解像度、映像コーデック、映像コーデックプロ
ファイル、映像コーデックレベル、量子化パラメータ、実際の映像フレームレート、
フレームに対する映像セグメント(GOB、スライス、映像パケット)の数、ピクチ
ャタイプ(イントラあるいはインターピクチャ)、ピクチャに対するイントラマクロ
ブロック数、(知識に基づく推測から)イントラリフレッシュストラテジ、ピクチャ
に対する平均/最大/最小量子化、セグメントに対するマクロブロック数、平均/最
大/最小絶対モーションベクトル、イントラパーティションの存在及び分布、インタ
ーパーティションの存在及び分布、スキップマクロブロックの存在及び分布、モーシ
ョンベクトル解像度の存在及び分布、使用された参照ピクチャの数の情報等の、映像
レイヤから抽出あるいは生成されたパラメータ
のような無線ネットワークパラメータを含んでいてもよい。
ビットストリームモデルは、例えば線形モデルの形式
あるいは幾何モデルの形式
あるいは2つの組み合わせであってもよい。モデルは、他の非線形形状であってもよい。
品質スコアは、例えば10秒等、所定期間で周期的に算出されてもよい。スコアは、所定の時間分の新たなスコアが所定レートで算出されるスライドウィンドウアプローチを用いて算出されてもよい。例えば、10秒に対応するような特定のウィンドウサイズについての新たなスコアは、ピクチャについて1つ、あるいは2秒について1つ等の特定のレートで算出される。ペナルティ値に関して、これは合算ペナルティが各ピクチャについて保持されることを要求してもよい。
上に示された映像品質推定技術は、映像のエラーの視覚的な影響をパラメトリックモデルよりも適切にモデル化し得る。同様にこのことは、映像品質推定の精度を向上する。また、本開示に示された技術は特に、映像を復号し、復号された映像のピクセルデータにおける視認可能なエラーを探索しなければならない知覚モデルよりも、複雑性が少なく、時間及びリソースの消費を少なくする。
上述した実施形態を参照して技術が説明されたが、開示は説明目的のみであることは理解されよう。故に、発明は文書に添付された特許請求の範囲によってのみ限定されることを意味する。

Claims (23)

  1. 一連のピクチャフレームを有する映像ビットストリームを受信する工程と、
    1つのピクチャフレームにおけるエラー発生を判定する工程と、
    前記発生したエラーの空間的伝播を含むエラー伝播を判定する工程と、
    前記エラー伝播の判定結果に基づいて、前記映像ビットストリームの品質を推定する工程と、
    前記発生したエラーにより引き起こされる視覚的な品質低下を示す値を決定する工程と、
    時間及び空間の少なくとも1つにおける、決定された前記発生したエラーにより引き起こされた視覚的な品質低下を示す値を、前記一連のピクチャフレームについて合算する工程と、
    前記合算結果に基づいて前記映像ビットストリームの品質についてのスコアを算出する工程と、を有し、
    前記視覚的な品質低下を示す値を合算する工程は、大きい視覚的な品質低下を示す値よりも、小さい視覚的な品質低下を示す値に対して、より高い係数で重みづけを行う工程を有する
    ことを特徴とする映像品質推定方法。
  2. 前記エラー伝播を判定する工程はさらに、前記発生したエラーの時間的伝播を含むエラー伝播を判定することを特徴とする請求項1に記載の方法。
  3. 前記発生したエラーは1以上のピクチャフレームパーティションにおいて発生する、あるいは1以上のピクチャフレームパーティションに影響を及ぼし、
    前記視覚的な品質低下を示す値を決定する工程は、前記1以上のパーティションの各々について別々の値を、前記発生したエラーにより引き起こされた視覚的な品質低下を示す値として算出する工程を有する
    ことを特徴とする請求項1または2に記載の方法。
  4. 前記値は、以下のルール
    前記発生したエラーがシーン変化において発生する場合に、前記発生したエラーに対してより高い値を割り当てる
    前記映像ビットストリームがエラーの影響を受けたピクチャフレームの直後にモーションデータを有する場合、特に該モーションの相対的な大きさが大きい場合に、前記発生したエラーに対してより高い値を割り当てる
    前記パーティションがスキップあるいは推定スキップである場合であって、場合によってはシーン変化や推定シーン変化が存在しない場合に、前記パーティションについての前記発生したエラーに値を割り当てない
    後続のピクチャフレームの少なくとも1つについての前記発生したエラーに割り当てられた値を、所定量あるいは所定係数分減らす
    イントラ符号化パーティションあるいはイントラ符号化ピクチャフレームを受信した際に、値をリセットする
    のうちの1以上のルールに従って算出されることを特徴とする請求項3に記載の方法。
  5. 前記一連のピクチャフレームは、少なくとも1つの参照ピクチャ及び少なくとも1つの予測ピクチャを有し、
    前記予測ピクチャは、参照ピクチャにおける位置を示す少なくとも1つのモーションベクトルを有し、
    前記発生したエラーの時間的伝播及び空間的伝播の少なくとも1つは、前記モーションベクトルに基づいて判定される
    ことを特徴とする請求項1乃至4のいずれか1項に記載の方法。
  6. 前記発生したエラーの時間的伝播及び空間的伝播の少なくとも1つを判定する工程は、前記モーションベクトル及び前記モーションベクトルが示す参照ピクチャを追跡する工程を有することを特徴とする請求項5に記載の方法。
  7. 視覚的な品質低下を示す値を格納する損失ペナルティマップにおいて視覚的な品質低下を収集する工程をさらに有することを特徴とする請求項1乃至6のいずれか1項に記載の方法。
  8. 前記損失ペナルティマップは、関連ピクチャと同一の解像度か、該ピクチャよりも少ない解像度を有することを特徴とする請求項7に記載の方法。
  9. 前記ピクチャフレームは、パーティションマップの形で構成された複数のパーティションを有し、
    前記損失ペナルティマップは、前記パーティションマップと同一の解像度を有する
    ことを特徴とする請求項7または8に記載の方法。
  10. 前記発生したエラーの時間的伝播及び空間的伝播の少なくとも1つを判定する工程は、以前に発生したエラーについての視覚的な品質低下を示す値に重みづけを行う工程を有することを特徴とする請求項1乃至9のいずれか1項に記載の方法。
  11. 前記スコアは、周期的に、あるいは所定期間についての新たなスコアが所定のレートで算出されるスライドウィンドウアプローチを用いて算出されることを特徴とする請求項1乃至10のいずれか1項に記載の方法。
  12. 前記映像ビットストリームは、映像符号化レイヤの少なくとも一部を有し、
    前記映像符号化レイヤは、1以上のパラメータを有し、
    前記エラー発生を判定する工程、前記エラー伝播を判定する工程、及び前記映像品質を推定する工程の少なくとも1つは、少なくとも1以上の前記パラメータに基づく
    ことを特徴とする請求項1乃至1のいずれか1項に記載の方法。
  13. コンピュータに請求項1乃至1のいずれか1項に記載の方法の各工程を実行させるためのプログラム。
  14. 請求項1に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
  15. 映像品質を推定する装置であって、
    一連のピクチャフレームを有する映像ビットストリームを受信する受信機と、
    ピクチャフレームにおけるエラー発生を判定する第1の判定手段と、
    前記発生したエラーの空間的伝播を含むエラー伝播を判定する第2の判定手段と、
    前記エラー伝播の判定結果に基づいて、前記映像ビットストリームの品質を推定する推定手段と、
    前記発生したエラーにより引き起こされる視覚的な品質低下を示す値を決定する決定手段と、
    時間及び空間の少なくとも1つにおける、決定された前記発生したエラーにより引き起こされた視覚的な品質低下を示す値を、前記一連のピクチャフレームについて合算する合算手段と、
    前記合算結果に基づいて前記映像ビットストリームの品質についてのスコアを算出する算出手段と、を有し、
    前記合算手段は、大きい視覚的な品質低下を示す値よりも、小さい視覚的な品質低下を示す値に対して、より高い係数で重みづけを行う
    ことを特徴とする装置。
  16. 前記第2の判定手段はさらに、前記発生したエラーの時間的伝播を含むエラー伝播を判定することを特徴とする請求項1に記載の装置。
  17. 前記発生したエラーは1以上のピクチャフレームパーティションにおいて発生する、あるいは1以上のピクチャフレームパーティションに影響を与え、
    前記決定手段は、前記1以上のパーティションの各々について別々の値を、前記発生したエラーにより引き起こされた視覚的な品質低下を示す値として算出することにより、視覚的な品質低下を示す値決定する
    ことを特徴とする請求項1または1に記載の装置。
  18. 前記決定手段は、以下のルール
    前記発生したエラーがシーン変化において発生した場合に、前記発生したエラーに対してより高い値を割り当てる
    前記映像ビットストリームがエラーの影響を受けたピクチャフレームの直後にモーションデータを含む場合、特に該モーションの相対的な大きさが大きい場合に、前記発生したエラーに対してより高い値を割り当てる
    前記パーティションがスキップあるいは推定スキップである場合であって、場合によってはシーン変化や推定シーン変化が存在しない場合に、前記パーティションについての前記発生したエラーに値を割り当てない
    後続のピクチャフレームの少なくとも1つについての前記発生したエラーに割り当てられた値を、所定量あるいは所定係数分減らす
    イントラ符号化パーティションあるいはイントラ符号化ピクチャフレームを受信した際に、値をリセットする
    のうちの1以上のルールに従って前記値を算出することを特徴とする請求項17に記載の装置。
  19. 前記一連のピクチャフレームは、少なくとも1つの参照ピクチャ、及び少なくとも1つの予測ピクチャを有し、
    前記予測ピクチャは、参照ピクチャにおける位置を示す少なくとも1つのモーションベクトルを有し、
    前記第2の判定手段は、前記モーションベクトルに基づいて、前記発生したエラーの時間的伝播及び空間的伝播の少なくとも1つを判定する
    ことを特徴とする請求項1乃至18のいずれか1項に記載の装置。
  20. 視覚的な品質低下を示す値を格納する損失ペナルティマップにおいて視覚的な品質低下を収集する収集手段をさらに有することを特徴とする請求項1乃至19のいずれか1項に記載の装置。
  21. 映像ビットストリームを提供するサーバノードであって、
    請求項1乃至2のいずれか1項に記載の装置を有することを特徴とするサーバノード。
  22. 映像ビットストリームを復号するクライアント端末であって、
    請求項1乃至2のいずれか1項に記載の装置を有することを特徴とするクライアント端末。
  23. 映像サーバノードと映像クライアント端末間の通信用のネットワークノードであって、
    請求項1乃至2のいずれか1項に記載の装置を有することを特徴とするネットワークノード。
JP2012547448A 2010-01-11 2010-02-01 映像品質推定技術 Active JP5758405B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US29376410P 2010-01-11 2010-01-11
US61/293,764 2010-01-11
PCT/EP2010/000588 WO2011082719A1 (en) 2010-01-11 2010-02-01 Technique for video quality estimation

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2015047378A Division JP6104301B2 (ja) 2010-01-11 2015-03-10 映像品質推定技術

Publications (2)

Publication Number Publication Date
JP2013516870A JP2013516870A (ja) 2013-05-13
JP5758405B2 true JP5758405B2 (ja) 2015-08-05

Family

ID=42396997

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2012547448A Active JP5758405B2 (ja) 2010-01-11 2010-02-01 映像品質推定技術
JP2015047378A Active JP6104301B2 (ja) 2010-01-11 2015-03-10 映像品質推定技術

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2015047378A Active JP6104301B2 (ja) 2010-01-11 2015-03-10 映像品質推定技術

Country Status (9)

Country Link
US (1) US10728538B2 (ja)
EP (1) EP2524515B1 (ja)
JP (2) JP5758405B2 (ja)
CN (2) CN105847788B (ja)
AR (1) AR079869A1 (ja)
ES (1) ES2681526T3 (ja)
RU (1) RU2540846C2 (ja)
SG (1) SG181131A1 (ja)
WO (1) WO2011082719A1 (ja)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2400758A1 (en) * 2010-06-24 2011-12-28 Alcatel Lucent Method to Determine The Global Quality of a Video Stream
EP2697937A1 (en) * 2011-04-11 2014-02-19 Nokia Siemens Networks Oy Quality of experience
CN102291594B (zh) * 2011-08-25 2015-05-20 中国电信股份有限公司上海信息网络部 一种ip网络视频质量的检测评估系统与方法
US9203708B2 (en) 2011-09-26 2015-12-01 Telefonaktiebolaget L M Ericsson (Publ) Estimating user-perceived quality of an encoded stream
WO2013048300A1 (en) 2011-09-26 2013-04-04 Telefonaktiebolaget L M Ericsson (Publ) Estimating user-perceived quality of an encoded video stream
CA2855177A1 (en) * 2011-11-25 2013-05-30 Thomson Licensing Video quality assessment considering scene cut artifacts
EP2785295B1 (en) * 2011-11-28 2015-07-01 Safilo Societa' Azionaria Fabbrica Italiana Lavorazione Occhiali S.p.a. Ski goggles with means for adjusting the fit of the nasal support region
CN103974057B (zh) 2013-01-24 2016-09-28 华为技术有限公司 一种视频质量用户体验值测评方法、设备及系统
AU2013377642A1 (en) 2013-02-07 2015-07-23 Thomson Licensing Method and apparatus for context-based video quality assessment
CN104995914A (zh) * 2013-02-07 2015-10-21 汤姆逊许可公司 用于基于上下文的视频质量评估的方法和装置
EP2954676A4 (en) * 2013-02-07 2016-07-13 Thomson Licensing METHOD AND DEVICE FOR CONTEXT-BASED VIDEO QUALITY ASSIGNMENT
US10904551B2 (en) * 2013-04-05 2021-01-26 Texas Instruments Incorporated Video coding using intra block copy
WO2014198062A1 (en) * 2013-06-14 2014-12-18 Thomson Licensing Method and apparatus for video quality measurement
US9525898B2 (en) * 2014-12-30 2016-12-20 Videology Inc. Method and system for assessing viewing quality of media objects
RU2595945C1 (ru) * 2015-04-10 2016-08-27 Владимир Леонидович Карякин Способ оценки качества канала передачи данных в системе iptv по коэффициенту ber в режиме тв вещания и устройство для его осуществления
CN106713901B (zh) * 2015-11-18 2018-10-19 华为技术有限公司 一种视频质量评价方法及装置
CN106341683A (zh) * 2016-08-24 2017-01-18 乐视控股(北京)有限公司 全景视频质量判断方法及系统
KR102560215B1 (ko) * 2016-10-26 2023-07-26 에스케이텔레콤 주식회사 영상품질 측정장치 및 방법
KR102548427B1 (ko) * 2016-10-26 2023-06-26 에스케이텔레콤 주식회사 영상품질 측정장치 및 방법
KR102548425B1 (ko) * 2016-10-26 2023-06-26 에스케이텔레콤 주식회사 영상품질 측정장치 및 방법
KR102548422B1 (ko) * 2016-10-26 2023-06-26 에스케이텔레콤 주식회사 영상품질 측정장치 및 방법
US10834406B2 (en) * 2016-12-12 2020-11-10 Netflix, Inc. Device-consistent techniques for predicting absolute perceptual video quality
US20190238856A1 (en) * 2018-01-31 2019-08-01 Hewlett Packard Enterprise Development Lp Estimating video quality of experience
CN112771570A (zh) * 2018-08-29 2021-05-07 瑞典爱立信有限公司 视频保真度度量
KR102581186B1 (ko) 2018-10-12 2023-09-21 삼성전자주식회사 전자 장치 및 전자 장치의 제어 방법
CN111372071B (zh) * 2018-12-25 2022-07-19 浙江宇视科技有限公司 一种搜集视频图像异常信息的方法及装置
CN111401100B (zh) * 2018-12-28 2021-02-09 广州市百果园信息技术有限公司 视频质量评估方法、装置、设备及存储介质
CN110113638A (zh) * 2019-05-10 2019-08-09 北京奇艺世纪科技有限公司 一种预测方法、装置及电子设备
US11595709B2 (en) 2019-12-13 2023-02-28 Comcast Cable Communications, Llc Method and system for video quality monitoring
US11875495B2 (en) * 2020-08-10 2024-01-16 Tencent America LLC Methods of video quality assessment using parametric and pixel level models
US11973930B2 (en) * 2021-01-21 2024-04-30 Agora Lab, Inc. System for determining an objective video quality measure of a real-time video communication without extensive mathematical operations
CN113286163B (zh) * 2021-05-21 2022-07-08 成都威爱新经济技术研究院有限公司 一种用于虚拟拍摄直播的时间戳误差标定方法及系统

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6363116B1 (en) * 1997-04-04 2002-03-26 Tektronix, Inc. Picture quality assessment using spatial location with or without subsampling
US6011868A (en) 1997-04-04 2000-01-04 Hewlett-Packard Company Bitstream quality analyzer
JP2000341688A (ja) 1999-05-31 2000-12-08 Ando Electric Co Ltd 動画通信品質判定装置
JP2002209234A (ja) * 2001-01-11 2002-07-26 Fujitsu Ltd 通信システム
WO2002071639A1 (en) 2001-03-05 2002-09-12 Intervideo, Inc. Systems and methods for error resilient encoding
JP2003348594A (ja) * 2002-05-27 2003-12-05 Sony Corp 画像復号装置及び方法
US20060015799A1 (en) * 2004-07-13 2006-01-19 Sung Chih-Ta S Proxy-based error tracking for real-time video transmission in mobile environments
DE102004059978B4 (de) 2004-10-15 2006-09-07 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Erzeugen einer codierten Videosequenz und zum Decodieren einer codierten Videosequenz unter Verwendung einer Zwischen-Schicht-Restwerte-Prädiktion sowie ein Computerprogramm und ein computerlesbares Medium
EP1800488A1 (de) * 2004-10-15 2007-06-27 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und verfahren zum erzeugen einer codierten videosequenz und zum decodieren einer codierten videosequenz unter verwendung einer zwischen-schicht-restwerte-praediktion
JP2006157668A (ja) * 2004-11-30 2006-06-15 Ntt Advanced Technology Corp 映像品質測定装置および映像品質測定方法ならびにそのプログラム
KR100679035B1 (ko) * 2005-01-04 2007-02-06 삼성전자주식회사 인트라 bl 모드를 고려한 디블록 필터링 방법, 및 상기방법을 이용하는 다 계층 비디오 인코더/디코더
CN101164343B (zh) 2005-03-01 2013-02-13 高通股份有限公司 用于视频电话的具有背景跳过的关注区编码
CN101401440A (zh) * 2006-01-09 2009-04-01 诺基亚公司 可伸缩视频编码中的差错恢复模式判决
US8315308B2 (en) * 2006-01-11 2012-11-20 Qualcomm Incorporated Video coding with fine granularity spatial scalability
KR100772873B1 (ko) * 2006-01-12 2007-11-02 삼성전자주식회사 스무딩 예측을 이용한 다계층 기반의 비디오 인코딩 방법,디코딩 방법, 비디오 인코더 및 비디오 디코더
JP2007214991A (ja) 2006-02-10 2007-08-23 Ntt Advanced Technology Corp 映像品質測定装置および映像品質測定方法ならびにそのプログラム
US9025673B2 (en) 2006-04-05 2015-05-05 Qualcomm Incorporated Temporal quality metric for video coding
CA2604053C (en) 2006-05-09 2012-07-10 Nippon Telegraph And Telephone Corporation Video quality estimation appartus, method, and program
US7965203B2 (en) 2006-05-09 2011-06-21 Nippon Telegraph And Telephone Corporation Video quality estimation apparatus, method, and program
WO2008077119A2 (en) 2006-12-19 2008-06-26 Ortiva Wireless Intelligent video signal encoding utilizing regions of interest information
US20100053300A1 (en) 2007-02-02 2010-03-04 Einarsson Torbjoern Method And Arrangement For Video Telephony Quality Assessment
JP2008211579A (ja) 2007-02-27 2008-09-11 Nippon Telegr & Teleph Corp <Ntt> 映像品質推定方法および映像通信システム
EP2206303B1 (en) 2007-07-16 2013-03-06 Telchemy, Incorporated Method and system for viewer quality estimation of packet video streams
EP2051524A1 (en) * 2007-10-15 2009-04-22 Panasonic Corporation Image enhancement considering the prediction error
KR101420878B1 (ko) * 2007-11-22 2014-07-21 삼성전자주식회사 동영상 프레임의 선택적 오류 은폐 방법 및 장치
KR20090063406A (ko) * 2007-12-14 2009-06-18 삼성전자주식회사 전송 특성을 고려한 실시간 동영상 화질 평가 시스템 및방법
CN101448173B (zh) 2008-10-24 2011-05-18 华为技术有限公司 网络视频质量评估方法、装置与系统
CN102349296B (zh) 2009-03-13 2016-03-09 瑞典爱立信有限公司 用于处理编码比特流的方法和装置
US8379728B2 (en) * 2009-04-17 2013-02-19 Texas Instruments Incorporated Adaptive real-time video prediction mode method and computer-readable medium and processor for storage and execution thereof

Also Published As

Publication number Publication date
JP2013516870A (ja) 2013-05-13
RU2540846C2 (ru) 2015-02-10
US20120281142A1 (en) 2012-11-08
CN105847788A (zh) 2016-08-10
EP2524515B1 (en) 2018-05-30
ES2681526T3 (es) 2018-09-13
JP6104301B2 (ja) 2017-03-29
US10728538B2 (en) 2020-07-28
JP2015144473A (ja) 2015-08-06
EP2524515A1 (en) 2012-11-21
AR079869A1 (es) 2012-02-22
WO2011082719A1 (en) 2011-07-14
CN102714752B (zh) 2016-04-06
SG181131A1 (en) 2012-07-30
CN102714752A (zh) 2012-10-03
RU2012134425A (ru) 2014-02-20
CN105847788B (zh) 2018-04-06

Similar Documents

Publication Publication Date Title
JP6104301B2 (ja) 映像品質推定技術
US9723329B2 (en) Method and system for determining a quality value of a video stream
JP5957532B2 (ja) ビデオシーケンスにおける知覚品質評価のためのシーン変化検出
RU2597493C2 (ru) Оценивание качества видео с рассмотрением искажений перехода сцен
JP5911563B2 (ja) ビットストリームレベルで動画品質を推定する方法及び装置
Wang et al. No-reference hybrid video quality assessment based on partial least squares regression
Wang et al. Network-based model for video packet importance considering both compression artifacts and packet losses
JP2011254434A (ja) 映像フレーム種別推定用調整係数算出方法、装置、およびプログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140106

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140407

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140414

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140707

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150310

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150508

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150603

R150 Certificate of patent or registration of utility model

Ref document number: 5758405

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250