JP4891352B2 - 映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体 - Google Patents

映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体 Download PDF

Info

Publication number
JP4891352B2
JP4891352B2 JP2008558577A JP2008558577A JP4891352B2 JP 4891352 B2 JP4891352 B2 JP 4891352B2 JP 2008558577 A JP2008558577 A JP 2008558577A JP 2008558577 A JP2008558577 A JP 2008558577A JP 4891352 B2 JP4891352 B2 JP 4891352B2
Authority
JP
Japan
Prior art keywords
frame
packet
frames
determination
video quality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008558577A
Other languages
English (en)
Other versions
JPWO2009025357A1 (ja
Inventor
一成 牛木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2008558577A priority Critical patent/JP4891352B2/ja
Publication of JPWO2009025357A1 publication Critical patent/JPWO2009025357A1/ja
Application granted granted Critical
Publication of JP4891352B2 publication Critical patent/JP4891352B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/02Diagnosis, testing or measuring for television systems or their details for colour television signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/004Diagnosis, testing or measuring for television systems or their details for digital television systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/517Processing of motion vectors by encoding
    • H04N19/52Processing of motion vectors by encoding by predictive encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、映像通信技術に関し、特に映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信技術に関する。
電波を用いたデジタル放送などの映像配信や通信ネットワークを用いたデジタル放送などの映像配信では、MPEG−2規格(ISO/IEC 13818)やH.246などの圧縮符号化方式を用いた場合、元の映像がI,P,Bなどのフレーム(ピクチャ)に圧縮符号化されてエレメンタリストリーム(Elementary Stream)が生成され、TSパケット(Transport Stream Packet)と呼ばれるパケットに分割して配信される。
このような映像配信において、著作権的な配慮が必要な場合には、TSパケットのうち映像データや音声データが格納されるペイロード部分が暗号化される。暗号化されたTSパケットは受信端末で受信後に復号され、最終的に映像として出力され、視聴者に供与される。
これらの映像アプリケーションでは、電波を用いた映像配信であれば大気状態が悪化した場合、またネットワークを用いた映像配信ではネットワークや端末でパケットの損失や遅延が生じた場合、いずれも映像品質が劣化して、サービス品質が劣化する。したがって、安定したサービスを提供するため、一定の映像品質を確保するよう通信ネットワークや端末の品質を管理する必要がある。
このような品質管理では、大気状態やネットワーク品質(例えば、パケット損失や遅延)がユーザの視聴する映像品質にどのような影響を及ぼしているかを測定し、品質状態を管理する必要がある。
大気状態やネットワークあるいは端末でTSパケット損失が生じた場合、高能率符号化により映像圧縮して伝送している映像信号はフレーム間の動き予測符号化を用いており、前後のフレーム情報を使うことから1パケット損失による映像品質劣化が1映像フレームにとどまらず、複数フレームに及ぶ場合がある。
このような場合、次映像フレームではパケット損失が生じていないにも係わらず復号された映像では品質劣化が生じるため、大気状態やネットワーク上のパケット損失発生状況と映像アプリケーションでの劣化発生状況とは必ずしも対応していない。したがって、大気状態やネットワーク品質とアプリケーション品質の対応関係を精度よく求めるためには、符号化情報に基づき品質劣化の影響範囲を正確に把握する必要がある。
符号化情報に基づき品質劣化の影響範囲を把握する技術として、各パケットにフレーム種別情報を付加して配信し、受信側では当該フレーム種別情報を得て、劣化が発生したフレーム種別と前後フレーム状況から、劣化が波及するフレーム数を計算する手法が提案されている(例えば、特開2006−33722号公報など参照)。この手法は、フレーム種別情報を各パケットに付加する必要があるため、汎用性に乏しい。
これに対して、従来、符号化情報に基づき品質劣化の影響範囲を把握する技術として、劣化が発生したフレーム種別と前後フレーム状況から、劣化が波及するフレーム数を計算する手法が提案されている(例えば、特開2007−60475号公報など参照)。
しかしながら、このような従来技術では、TSパケットのペイロード部を解析して、エレメンタリストリームの各フレームのフレーム種別を把握しているため、ペイロード部が暗号化されている場合には、適用できないという問題点があった。
本発明はこのような課題を解決するためのものであり、TSパケットのペイロード部が暗号化されている場合でも各フレームのフレーム種別を把握でき、劣化フレームの波及を考慮した映像品質を推定できる映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体を提供することを目的としている。
このような目的を達成するために、本発明にかかる映像品質推定方法は、映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信について、演算処理部と記憶部とを有する映像品質推定装置により、当該TSパケットに基づき映像品質を推定する際に用いる映像品質推定方法であって、記憶部により、当該エレメンタリストリームのフレーム構成を記憶する記憶ステップと、演算処理部により、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定するフレーム種別判定ステップと、演算処理部により、このフレーム種別判定ステップで得られた各フレームのフレーム種別、記憶部から読み出した当該エレメンタリストリームのフレーム構成、および当該映像通信のTSパケットから検出したTSパケットの損失状況に基づいて、当該映像通信に関する映像品質を推定する映像品質推定ステップとを備えている。
また、本発明にかかる映像品質推定装置は、映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信について、当該TSパケットに基づき映像品質を推定する映像品質推定装置であって、当該エレメンタリストリームのフレーム構成を記憶する記憶部と、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定するフレーム種別判定部と、このフレーム種別判定部で得られた各フレームのフレーム種別、記憶部から読み出した当該エレメンタリストリームのフレーム構成、および当該映像通信のTSパケットから検出したTSパケットの損失状況に基づいて、当該映像通信に関する映像品質を推定する映像品質推定部とを備えている。
また、本発明にかかるフレーム種別判定方法は、映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信について、演算処理部と記憶部とを有する処理装置により、当該TSパケットに基づき各フレームの種別を判定するフレーム種別判定方法であって、記憶部により、当該エレメンタリストリームのフレーム構成を記憶する記憶ステップと、演算処理部により、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定するフレーム種別判定ステップとを備えている。
また、本発明にかかる記録媒体は、映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信について、演算処理部と記憶部とを有し、当該TSパケットに基づき映像品質を推定する映像品質推定装置のコンピュータに、記憶部により、当該エレメンタリストリームのフレーム構成を記憶する記憶ステップと、演算処理部により、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定するフレーム種別判定ステップと、演算処理部により、このフレーム種別判定ステップで得られた各フレームのフレーム種別、記憶部から読み出した当該エレメンタリストリームのフレーム構成、および当該映像通信のTSパケットから検出したTSパケットの損失状況に基づいて、当該映像通信に関する映像品質を推定する映像品質推定ステップとを実行させるプログラムが記録されている。
また、本発明にかかる他の記録媒体は、映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信について、演算処理部と記憶部とを有し、当該TSパケットに基づき各フレームの種別を判定する処理装置のコンピュータに、記憶部により、当該エレメンタリストリームのフレーム構成を記憶する記憶ステップと、演算処理部により、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定するフレーム種別判定ステップとを実行させるプログラムが記録されている。
本発明によれば、TSパケットのペイロード部が暗号化されている場合でも、暗号化されていないTSヘッダ部から得られる情報を元にして、各フレームのフレーム種別を把握でき、劣化フレームの波及を考慮して精度よく映像品質を推定できる。
図1は、本発明の第1の実施例にかかる映像品質推定装置の構成を示すブロック図である。 図2は、本発明にかかる映像品質推定装置が適用されるIPTVシステムの構成例である。 図3は、本発明にかかる映像品質推定装置が適用されるデジタル放送システムの構成例である。 図4は、本発明の第1の実施例にかかる映像品質推定装置の映像品質推定処理を示すフローチャートである。 図5は、本発明の第1の実施例にかかる映像品質推定装置のTSパケット取得処理を示すフローチャートである。 図6は、TSパケットのパケット構造例である。 図7は、本発明の第1の実施例にかかる映像品質推定装置のフレーム種別判定処理を示すフローチャートである。 図8Aは、本発明の第1の実施例にかかる映像品質推定装置のフレーム種別判定処理の一部を示す説明図である。 図8Bは、本発明の第1の実施例にかかる映像品質推定装置のフレーム種別判定処理の他の一部を示す説明図である。 図8Cは、本発明の第1の実施例にかかる映像品質推定装置のフレーム種別判定処理の他の一部を示す説明図である。 図8Dは、本発明の第1の実施例にかかる映像品質推定装置のフレーム種別判定処理の他の一部を示す説明図である。 図8Eは、本発明の第1の実施例にかかる映像品質推定装置のフレーム種別判定処理の他の一部を示す説明図である。 図9は、本発明の第2の実施例にかかる映像品質推定装置のフレーム種別判定処理を示すフローチャートである。 図10は、本発明の第2の実施例にかかる映像品質推定装置の出現パターン別フレーム種別判定処理を示すフローチャートである。 図11は、本発明の第2の実施例にかかる映像品質推定装置の例外フレーム種別判定処理を示すフローチャートである。 図12は、本発明の第2の実施例にかかる映像品質推定装置の連続Bフレーム再判定処理を示すフローチャートである。 図13は、本発明の第3の実施例にかる映像品質推定装置のフレーム種別判定処理を示すフローチャートである。 図14は、本発明の第3の実施例にかかる映像品質推定装置のIフレーム判定処理を示すフローチャートである。 図15は、本発明の第3の実施例にかかる映像品質推定装置のP,Bフレーム判定処理を示すフローチャートである。 図16は、本発明の第3の実施例にかかる映像品質推定装置のP,Bフレーム判定処理を示す説明図である。 図17Aは、本発明の第3の実施例にかかる映像品質推定装置のP,Bフレーム判定処理の一部を示す説明図である。 図17Bは、本発明の第3の実施例にかかる映像品質推定装置のP,Bフレーム判定処理の他の一部を示す説明図である。 図18は、本発明の第3の実施例にかる映像品質推定装置の判定期間学習処理を示すフローチャートである。 図19は、本発明の第3の実施例にかる映像品質推定装置の調整係数学習処理を示すフローチャートである。 図20は、本発明の第4の実施例にかる映像品質推定装置のフレーム種別判定処理を示すフローチャートである。 図21は、本発明の第4の実施例にかかる映像品質推定装置のPフレーム判定処理を示すフローチャートである。 図22は、本発明の第4の実施例にかかる映像品質推定装置のPフレーム判定処理を示す説明図である。 図23Aは、本発明の第4の実施例にかかる映像品質推定装置のPフレーム判定処理の一部を示す説明図である。 図23Bは、本発明の第4の実施例にかかる映像品質推定装置のPフレーム判定処理の一部を示す説明図である。 図23Cは、本発明の第4の実施例にかかる映像品質推定装置のPフレーム判定処理の一部を示す説明図である。 図23Dは、本発明の第4の実施例にかかる映像品質推定装置のPフレーム判定処理の一部を示す説明図である。 図23Eは、本発明の第4の実施例にかかる映像品質推定装置のPフレーム判定処理の一部を示す説明図である。 図24は、本発明の第5の実施例にかかる映像品質推定装置のフレーム種別判定処理を示すフローチャートである。 図25は、本発明の第6の実施例にかかる映像品質推定装置のフレーム種別判定処理を示すフローチャートである。 図26は、本発明の第6の実施例にかかる映像品質推定装置のIフレーム判定処理を示すフローチャートである。 図27は、本発明の第7の実施例にかかる映像品質推定装置のフレーム種別判定処理を示す説明図である。 図28は、本発明の第7の実施例にかかる映像品質推定装置のTSパケット取得処理を示すフローチャートである。 図29は、本発明の第7の実施例にかかる映像品質推定装置のフレーム種別判定処理を示すフローチャートである。 図30は、本発明の第7の実施例にかかる映像品質推定装置のフレーム種別判定処理を示す説明図である。 図31は、本発明の第7の実施例にかかる映像品質推定装置の最適補間パターン選択処理を示すフローチャートである。 図32は、本発明の第7の実施例にかかる映像品質推定装置のフレーム種別判定処理例(ロスなし)を示す説明図である。 図33Aは、本発明の第7の実施例にかかる映像品質推定装置のフレーム種別判定処理例(Iフレーム先頭でのみロス)を示す説明図である。 図33Bは、本発明の第7の実施例にかかる映像品質推定装置のフレーム種別判定処理例(Iフレーム先頭から複数ロス)を示す説明図である。 図34Aは、本発明の第7の実施例にかかる映像品質推定装置のフレーム種別判定処理例(BまたはPフレーム先頭でのみロス)を示す説明図である。 図34Bは、本発明の第7の実施例にかかる映像品質推定装置のフレーム種別判定処理例(BまたはPフレーム先頭で複数ロス)を示す説明図である。 図35は、本発明の第7の実施例にかかる映像品質推定装置のフレーム種別判定処理例(I,B,Pフレーム先頭で複数ロス)を示す説明図である。 図36Aは、本発明の第8の実施例にかかる映像品質推定装置のフレーム種別判定処理例(Iフレーム先頭でのみロス)を示す説明図である。 図36Bは、本発明の第8の実施例にかかる映像品質推定装置のフレーム種別判定処理例(Iフレーム先頭から複数ロス)を示す説明図である。 図37Aは、本発明の第8の実施例にかかる映像品質推定装置のフレーム種別判定処理例(BまたはPフレーム先頭でのみロス)を示す説明図である。 図37Bは、本発明の第8の実施例にかかる映像品質推定装置のフレーム種別判定処理例(BまたはPフレーム先頭で複数ロス)を示す説明図である。 図38は、本発明の第8の実施例にかかる映像品質推定装置のフレーム種別判定処理例(I,B,Pフレーム先頭で複数ロス)を示す説明図である。
次に、本発明の実施例について図面を参照して説明する。
[第1の実施例]
まず、図1を参照して、本発明の第1の実施例にかかる映像品質推定装置について説明する。
この映像品質推定装置10は、入力されたデータを演算処理するコンピュータなどの情報処理装置からなり、映像信号を複数種別のフレーム(ピクチャ)に圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して、送信装置から受信装置へ、インターネットなどのパケット通信網やデジタル放送を介して送信する映像通信について、当該TSパケットに基づき映像品質を推定する機能を備えている。
映像品質推定装置10には、主な機能部として、通信インターフェース部(以下、通信I/F部という)11、操作入力部12、画面表示部13、記憶部14、および演算処理部15が設けられている。また、演算処理部15には、主な処理部として、TSパケット取得部15A、フレーム種別判定部15B、および映像品質推定部15Cが設けられている。
本実施例は、フレーム種別判定部15Bにより、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定し、映像品質推定部15Cにより、フレーム種別判定部15Bで得られた各フレームのフレーム種別、記憶部14から読み出した当該エレメンタリストリームのフレーム構成、および当該映像通信のTSパケットから検出したTSパケットの損失状況に基づいて、当該映像通信に関する映像品質を推定するようにしたものである。
本発明にかかる映像品質推定装置は、IPTVシステムやデジタル放送システムで用いられる。図2のIPTVシステムは、インターネットテレビシステムなど、映像信号をIPパケット化しパケット通信網3Aを介して配信する映像配信システムであり、パケット通信網3Aに接続された送信装置(IPTV放送局)1Aと受信装置2Aとから構成されている。
送信装置1Aでは、MPEG−2規格(ISO/IEC 13818)に基づいて、映像信号をエンコードすることにより複数種別のフレームに圧縮符号化されたエレメンタリストリームが生成された後、このエレメンタリストリームをTSパケットに変換され、そのペイロード部が暗号化された後、IPパケットに格納してパケット通信網3Aへ送信される。
受信装置2Aでは、パケット通信網3Aから受信したIPパケットからTSパケットが取り出されてペイロード部が復号され、得られたTSパケットからエレメンタリストリームが生成されてデコードされることにより、所望の映像信号が生成される。
映像品質推定装置10は、パケット通信網3Aに接続されて、対象となる映像通信のIPパケットをキャプチャしてTSパケットを取り出し、これらTSパケットに基づいてフレーム種別を識別し、その識別結果を用いて映像品質を推定する。この場合、図2に示すように、受信装置2A内に映像品質推定装置10を設け、受信装置2Aで生成されたTSパケットに基づいてフレーム種別を識別し、その識別結果を用いて映像品質を推定することもできる。
図3のデジタル放送システムは、地上波デジタル放送や衛生放送など、映像信号を圧縮符号化し無線放送網3Bを介して配信する映像配信システムであり、無線放送網3Bに接続された送信装置(デジタル放送局)1Bと受信装置(TV受信機)2Bとから構成されている。
送信装置1Bでは、前述したIPTVシステムの送信装置1Aと同様にして映像信号からエレメンタリストリームが生成され、このエレメンタリストリームにOFDMなどの変調が行われた後、放送電波として無線放送網3Bへ送信される。
受信装置2Bでは、無線放送網3Bから受信した放送電波を復調してエレメンタリストリームを生成し、この後、前述したIPTVシステムの受信装置2Aと同様にして所望の映像信号が生成される。
映像品質推定装置10は、無線放送網3Bからの放送電波を受信して復調することによりエレメンタリストリームを生成し、得られたエレメンタリストリームからTSパケットを取り出し、これらTSパケットに基づいてフレーム種別を識別し、その識別結果を用いて映像品質を推定する。この場合、図2に示すように、無線放送網3Bと映像品質推定装置10との間に無線放送網3Bからの放送電波を受信して復調することにより、対象となる映像通信のIPパケットを生成する受信機を設けてもよい。
また、受信装置2B内に映像品質推定装置10を設け、受信装置2Bで生成されたTSパケットに基づいてフレーム種別を識別し、その識別結果を用いて映像品質を推定することもできる。この際、無線放送網3Bからの放送電波を受信して復調することにより、対象となる映像通信のIPパケットを生成する機能を映像品質推定装置10内に設けてもよい。
[映像品質推定装置の構成]
次に、図1を参照して、本発明の第1の実施例にかかる映像品質推定装置の構成について詳細に説明する。ここでは、図2に示したIPTV網に適用される場合を例として説明する。
映像品質推定装置10には、主な機能部として、通信I/F部11、操作入力部12、画面表示部13、記憶部14、および演算処理部15が設けられている。
通信I/F部11は、専用の通信回路からなり、パケット通信網を介して各種IPパケットを送受信する機能を有している。図3に示すようなデジタル放送システムに適用する場合、通信I/F部11に、放送電波を受信して復調することによりIPパケットを生成する機能を設けてもよい。
操作入力部12は、キーボードやマウスなどの操作入力装置からなり、オペレータの操作を検出して演算処理部15へ出力する機能を有している。
画面表示部13は、LCDやPDPなどの画面表示装置からなり、演算処理部15からの指示に応じて、操作メニューや映像品質推定結果などの各種情報を画面表示する機能を有している。
記憶部14は、ハードディスクやメモリなどの記憶装置からなり、演算処理部15での各種処理に用いる処理情報やプログラム14Pを記憶する機能を有している。プログラム14Pは、映像品質推定装置10に設けられている通信I/F部11などのデータ入出力機能を介して外部装置や記録媒体(図示せず)から予め読み込まれて記憶部14に格納されている。
記憶部14で記憶される主な処理情報としては、フレーム構成14A、処理対象PID14B、フレームデータ量14C、フレームデータ量配列14D、フレーム種別判定結果配列14F、および映像品質推定値14Gがある。
フレーム構成14Aは、GOP情報など、エレメンタリストリームにおけるフレーム順序を示す構成情報であり、対象となる映像通信に応じた内容が、操作入力部12や通信I/F部11を介して予め入力され記憶部14に保存される。
処理対象PID14Bは、処理対象となるエレメンタリストリームのTSパケットを識別するための識別情報であり、操作入力部12や通信I/F部11を介して予め入力され記憶部14に保存される。PID(packet_indicator)については、受信した各TSパケットに格納されているPIDを集計し、その最も受信数の多いPIDを処理対象PID14Bとして用いてもよく、TSパケットで通知されるPMT(Program Map Table)から処理対象PID14Bを取得してもよい。
フレームデータ量14Cは、フレーム種別判定部15Bにおいて、TSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を計数した値である。
フレームデータ量配列14Dは、個々のフレームのフレームデータ量を各フレームの到着順(再生順)に並べた配列データである。
判定用配列14Eは、フレームデータ量配列14Dからフレームデータ量をフレーム種別判定用として取り出した配列データである。
判定結果配列14Fは、フレームデータ量配列14Dの各フレームについてそれぞれのフレーム種別の判定結果を示す配列データである。
映像品質推定値14Gは、映像品質推定部15Cで推定された映像品質値である。
演算処理部15は、CPUなどのマイクロプロセッサとその周辺回路を有し、記憶部14のプログラム14Pを読み込んでマイクロプロセッサで実行することにより、上記ハードウェアとプログラム14Pを協働させることにより、TSパケット取得部15A、フレーム種別判定部15B、映像品質推定部15Cなどの各種処理部を実現する機能を有している。
TSパケット取得部15Aは、通信I/F部11から出力されたIPパケットからTSパケットを取り出す機能と、これらTSパケットのうち記憶部14の処理対象PID14Bと一致するPIDを有するTSパケットを取得する機能と有している。
フレーム種別判定部15Bは、TSパケット取得部15Aで取得したTSパケットに含まれるフレーム開始位置を検出する機能と、このフレーム開始位置に基づいて個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、記憶部14のフレームデータ量配列14Dへ保存する機能と、これらフレームのフレームデータ量の大小関係に基づき各フレームのフレーム種別を判定する機能とを有している。
映像品質推定部15Cは、TSパケット取得部15Aで取得した各TSパケットからTSパケットの損失状況を確認する機能と、このTSパケット損失状況、フレーム種別判定部15Bで得られた各フレームのフレーム種別、および記憶部14から読み出した当該エレメンタリストリームのフレーム構成14Aに基づいて、当該映像通信に関する映像品質を推定する機能と、この推定値を映像品質推定値14Gとして記憶部14へ保存する機能とを有している。映像品質推定部15Cにおける映像品質推定処理については、例えば特許文献2などの公知の技術を用いればよく、ここでの詳細な説明は省略する。
[第1の実施例の動作]
次に、図4を参照して、本発明の第1の実施例にかかる映像品質推定装置の動作について説明する。
[映像品質推定処理]
映像品質推定装置10の演算処理部15は、操作入力部12で検出された映像品質推定の開始を指示するオペレータ操作に応じて、図4に示した映像品質推定処理を開始する。
演算処理部15は、まず、TSパケット取得部15Aにより、記憶部14から処理対象PID14Bを読み出し(ステップ100)、通信I/F部11で受信されたIPパケットから処理対象となるTSパケットを取得するため、後述するTSパケット取得処理を実行する(ステップ101)。
続いて、演算処理部15は、フレーム種別判定部15Bにより、TSパケット取得部15Aで取得したTSパケットについて後述するフレーム種別判定処理を実行することにより、処理対象となるエレメンタリストリームの各フレームの種別を判定する(ステップ102)。
次に、演算処理部15は、映像品質の推定に用いる品質推定期間分のフレームについて、フレーム種別の判定が終了したか判断し(ステップ103)、終了していない場合には(ステップ103:NO)、ステップ101へ戻って処理を継続する。
一方、フレーム種別判定が終了した場合(ステップ103:YES)、演算処理部15は、映像品質推定部15Cにより、TSパケット取得部15Aで取得した各TSパケットからTSパケットの損失状況を確認する(ステップ103)。
この後、映像品質推定部15Cは、記憶部14の判定結果配列14Fを各フレームのフレーム種別として読み出し(ステップ104)、TSパケット損失状況、各フレームのフレーム種別、および記憶部14から読み出した当該エレメンタリストリームのフレーム構成14Aに基づいて、当該映像通信に関する映像品質を推定して(ステップ105)、この推定値を映像品質推定値14Gとして記憶部14へ保存し(ステップ106)、一連の映像品質推定処理を終了する。
[TSパケット取得処理]
次に、図5を参照して、本発明の第1の実施例にかかる映像品質推定装置のTSパケット取得処理について説明する。
演算処理部15のTSパケット取得部15Aは、図4のステップ101におけるTSパケット取得処理において、まず、通信I/F部11から出力されたIPパケットから新たなTSパケットを取り出し(ステップ110)、当該TSパケットのTSヘッダ部からPIDを取得する(ステップ111)。
図6に示すように、TSパケットは、ITU−T Rec.H.222規格で規定されているとおり、各種識別情報が格納されているTSヘッダ部と、各種拡張情報が格納されるアダプテーションフィールド(Adaptation Field)部と、エレメンタリストリームが格納されるTSペイロード部とから構成されている。TSペイロード部は暗号化されているため、そのデータ内容を解析することはできない。一方、TSヘッダ部とアダプテーションフィールド部は暗号化されていないため、そのデータ内容を解析することができる。
TSヘッダ部には、フレームの開始位置を示す識別情報として、その先頭から10ビット目に、payload_unit_start_indicator(PUSI)情報が格納されている。このpayload_unit_start_indicator情報が「1」を示す場合、当該TSパケットのTSペイロード部にPESヘッダが含まれている。このPESヘッダは、映像・音声データの切れ目を示すものであり、エンコーダによってエレメンタリストリーム上で現れる機会が異なる。ここでは、PESヘッダがフレーム開始点を示すエンコーダ、例えばTanber社EN5090や、サイエンティフィックアトランタ社D9054などのエンコーダを対象としている。なお、PESヘッダがフレーム開始点を示していないエンコーダであったとしても、なんらかの法則性をもってフレーム開始点と類推できる場合は、その法則性に則りフレーム開始点と見なせばよい。
また、TSヘッダ部には、当該TSパケットのTSペイロード部に格納されているデータ内容の種別を示す識別情報として、その先頭12ビット目から13ビット分にPID(packet_indicator)が格納されている。このPIDを検査することにより、当該TSパケットのTSペイロードに、圧縮符号化されたフレームデータが可能されていることを識別できる。
また、TSヘッダ部には、同一PIDを持つTSパケットの通番を示す情報として、その先頭28ビット目から4ビット分に連続性指標(CC:continuity_counter)が格納されている。
また、TSヘッダ部には、上記アダプテーションフィールド部とTSペイロード部の有無を示す識別情報として、その先頭26ビット目から2ビット分に、アダプテーションフィールド制御情報(AFC:adaptation_field_control)が格納されている。
アダプテーションフィールド部には、RAI(random_access_indicator)情報とESPI(elementary_stream_priority_indicator)情報が格納されている。これら情報は、共にIフレームの先頭を示す識別情報であり、一部のCODECで付加的に用いられる。
一方、RTP(Real-time Transport Protocol/RFC3550)では、リアルタイムに音声や動画を送受信するためのトランスポート層プロトコルが規定されており、UDP(user datagram protocol)の上位プロトコルとして利用する。RTPでは、図6に示すように、RTPヘッダとRTPペイロードからなるRTPパケットを、UDPに基づいてIPパケットへ格納する階層構造を用いている。したがって、TSパケットは、IPパケット内のRTPパケットのRTPペイロード部に、それぞれの通信方式に応じた数(例えば7個)ずつ格納されてパケット通信網3Aへ送信される。
RTPヘッダには、対象となるリアルタイムアプリケーションのアプリケーションデータの境界を示す識別情報として、その先頭9ビット目から1ビット分に、マーカービット(MB:Markerbit)情報が格納されている。
また、RTPヘッダには、RTPパケットの通番を示す情報として、その先頭17ビット目から16ビット分にRTPシーケンス番号(RTP−SEQ:RTP-Sequence Number)が格納されている。
TSパケット取得部15Aは、取得したPIDと記憶部14の処理対象PIDとを比較し(ステップ112)、両PIDが不一致の場合には(ステップ112:NO)、ステップ110へ戻って次のTSパケットに対する処理へ移行する。
一方、両PIDが一致した場合(ステップ112:YES)、TSパケット取得部15Aは、当該TSパケットを処理対象のTSパケットとして記憶部14へ一次保存し(ステップ113)、一連のTSパケット取得処理を終了する。
[フレーム種別判定処理]
次に、図7および図8A〜図8Eを参照して、本発明の第1の実施例にかかる映像品質推定装置のフレーム種別判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図4のステップ102におけるフレーム種別判定処理において、図7のフレーム種別判定処理を実行する。
まず、TSパケット取得部15Aで取得したTSパケットを記憶部14から読み出し、そのTSヘッダ部からpayload_unit_start_indicator情報を取得する(ステップ120)。
ここで、payload_unit_start_indicator情報が「1」でない場合(ステップ121:NO)、当該TSパケットがフレーム先頭のTSパケットではないことから、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cに「1」を加えて当該フレームのTSパケット数を計数し(ステップ122)、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
一方、payload_unit_start_indicator情報が「1」の場合(ステップ121:YES)、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cをフレームデータ量配列14Dの末尾に新たな配列データとして格納した後(ステップ123)、フレームデータ量14Cをゼロクリアする(ステップ124)。
次に、フレーム種別判定部15Bは、フレームデータ量配列14Dの配列長と記憶部14のフレーム構成14Aで規定されている最大GOP長とを比較する(ステップ125)。ここで、フレームデータ量配列14Dの配列長が最大GOP長以下の場合(ステップ125:NO)、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
一方、フレームデータ量配列14Dの配列長が最大GOP長より大きい場合(ステップ125:YES)、フレーム種別判定部15Bは、図8Aに示すように、フレームデータ量配列14Dのうち先頭から例えば最大GOP長に相当する判定期間分、ここではフレームF1〜F17の配列データ(フレームデータ量)を記憶部14の判定用配列14Eへ移動させる(ステップ130)。
次に、フレーム種別判定部15Bは、図8Bに示すように、判定用配列14Eの配列データのうち、フレームデータ量が最大値、すなわちフレームF15の配列データを選択して、当該フレームデータ量に対応するフレームがIフレームであると判定し、記憶部14の判定結果配列14Fの当該フレーム(F15)に対応する配列データとしてIフレームを示すフレーム種別情報を格納する(ステップ131)。
エレメンタリストリームにおいて、Iフレームは、フレーム間予測により圧縮されていないフレームデータから構成されている。このため、フレーム間予測により圧縮されているPフレームやBフレームと比較して、そのデータ量が数倍以上大きい。このため、最大GOP長など、Iフレームが1つしか現れない期間、すなわちエレメンタリストリームにおけるIフレーム間隔以下の判定期間において、フレームデータ量が最大のフレームをIフレームとして特定することができる。
続いて、フレーム種別判定部15Bは、図8Cに示すように、判定結果配列14Fの配列データのうち、先頭からIフレーム直前までの各フレーム、すなわちフレームF1〜F14に対応する配列データ(フレームデータ量)を選択し(ステップ132)、これら配列データのうち、周囲よりフレームデータ量が大きいものをPフレームと判定し、記憶部14の判定結果配列14Fの当該フレーム(F15)に対応する配列データとしてIフレームを示すフレーム種別情報を格納する(ステップ133)。
エレメンタリストリームにおいて、PフレームとBフレームとを比較すると、時刻順に応じた順方向動き補償予測を用いて圧縮符号化されたPフレームは、順方向および逆方向の双方向動き補償予測を用いて圧縮符号化されたBフレームと比較して、そのデータ量が大きくなる。このため、Iフレームが現れない判定期間において、各フレームのフレームデータ量間の大小関係が、1つのPフレームと複数のBフレームからなる所定の判定用フレームパターンと一致した場合、判定用フレームパターンのPフレームに対応するフレームをPフレームとして特定することができる。
例えば、一般的なGOP構成において出現する「IBBPBB」というフレームパターンのうち、「BBPB」という判定用フレームパターンをフレームデータ量の増減遷移で捉えた場合、Pフレームは各Bフレームよりフレームデータ量が大きくなる。図8Cの場合、フレームF1〜F4のフレームデータ量は「10」,「20」,「60」,「25」であり、この大小関係は、フレームF1<フレームF3、フレームF2<フレームF3、フレームF3>フレームF4であり、判定用フレームパターン「BBPB」のフレームデータ量増減遷移と一致する。したがって、判定用フレームパターン「BBPB」のフレームPに相当するフレームF3がPフレームと判定できる。
したがって、処理対象となるエレメンタリストリームのGOP構成に含まれる判定用フレームパターンについて、判定用フレームパターン長N個分の連続するフレームを判定対象フレームとして当該判定期間のうちから選択して、この判定対象フレームのフレームデータ量の大小関係と当該判定用フレームパターンとを比較し、その一致に応じてPフレームを特定できる。また、判定対象フレームの選択位置を順次ずらして上記比較を繰り返すことにより、Iフレームが現れない判定期間におけるすべてのPフレームを特定することが可能となる。
判定用フレームパターンについては、GOP構成のうち、Pフレームの直前に連続して存在するすべてのBフレームと、Pフレームの後ろに存在する1つのBフレームとからなるパターンを用いればよい。例えば「IBBBPBBB」というGOP構成の場合、Pフレームの直前に連続する3つのBフレームと、Pフレームの後ろの1つのBフレームから、「BBBPB」という判定用フレームパターンを構成すればよい。このような判定用フレームパターンを用いることにより、Bフレームのみからなるフレームデータ量の増大を誤検出することなく、他のBフレームに対するPフレームよるフレームデータ量の増大を正確に検出することができる。
このようにして、Pフレームを判定した後、フレーム種別判定部15Bは、図8Dに示すように、判定期間すなわちステップ132で選択したフレームF1〜F14のうちステップ133でPフレームと判定されていない、他の未判定フレーム(F1,F2,F4,F5,F7,F8,F10,F11,F13,F14)をBフレームと判定し、記憶部14の判定結果配列14FのこれらBフレームに対応する配列データとしてBフレームを示すフレーム種別情報を格納する(ステップ134)。
続いて、フレーム種別判定部15Bは、図8Eに示すように、判定が終了したフレーム(F1〜F15)に対応するフレームデータ量を、記憶部14のフレームデータ量配列14Dから削除し(ステップ135)、一連のフレーム種別判定処理を終了する。
[第1の実施例の効果]
このように、本実施例は、フレーム種別判定部15Bにより、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定し、映像品質推定部15Cにより、フレーム種別判定部15Bで得られた各フレームのフレーム種別、記憶部14から読み出した当該エレメンタリストリームのフレーム構成14A、および当該映像通信のTSパケットから検出したTSパケットの損失状況に基づいて、当該映像通信に関する映像品質を推定するようにしたので、TSパケットのペイロード部が暗号化されている場合でも各フレームのフレーム種別を把握でき、劣化フレームの波及を考慮して精度よく映像品質を推定できる。
また、本実施例では、当該エレメンタリストリームにおけるIフレーム間隔以下の判定期間において時間的に連続する各フレームのうち、フレームデータ量が最大のフレームをIフレームと判定し、さらには判定期間として、当該エレメンタリストリームにおける最大GOP長を用いるようにしたので、Iフレームを正確に特定することが可能となる。また、計算量も少ないため、実装における制限が低くなる。
また、本実施例では、当該エレメンタリストリームのフレーム構成に、複数のBフレーム、1つのPフレーム、および1つのBフレームからなるN(Nは4以上の整数)個のフレームが時間的にそれぞれ連続する判定用フレームパターンを含む場合、Iフレームを含まない時間的に連続するN個のフレームについて、先頭からN−2個目までの各フレームおよびN個目のフレームのフレームデータ量のすべてがN−1個目のフレームのフレームデータ量より小さい場合、N−1個目のフレームをPフレームと判定するようにしたので、Pフレームを正確に特定することが可能となる。また、計算量も少ないため、実装における制限が低くなる。
また、本実施例では、Iフレームを含まない時間的に連続する所定数のフレームのうち、Pフレームと判定されなかった残りのフレームをBフレームと判定するようにしたので、Bフレームを正確に特定することが可能となる。また、計算量も少ないため、実装における制限が低くなる。
また、本実施例では、TSパケットのヘッダ部に含まれているpayload_unit_start_indicator情報の値に基づいてフレーム開始位置を検出するようにしたので、各フレームのフレームデータ量を正確に計数することが可能となる。
[第2の実施例]
次に、本発明の第2の実施例にかかる映像品質推定装置について説明する。
第1の実施例では、フレーム種別を判定する場合、GOP構成がフレームの出現パターン「IBBPBB」からほとんど崩れない一般的な圧縮符号化方式の場合を前提として説明した。本実施例では、GOP構成に上記以外の出現パターンが含まれる場合を例として説明する。
本実施例にかかる映像品質推定装置は、演算処理部15のフレーム種別判定部15Bでのフレーム種別判定処理において、異なる複数の出現パターンごとに、当該出現パターン内に含まれるフレームの位置とフレームデータ量との関係を示す判定基準を予め設定しておき、これら判定基準が、Iフレームを含まない時間的に連続する複数のフレームについて成立するか検査し、成立した判定基準に対応する出現パターンに基づき当該フレームの種別を判定する。
この際、判定基準としては、当該出現パターン内の所定位置にある複数フレームのフレームデータ量の平均値に基づき算出したしきい値と、当該出現パターン内の各フレームのフレームデータ量との比較結果、すなわち両者の大小関係から構成されている。この判定基準について、予め記憶部14に保存しておき、必要に応じて記憶部14からフレーム種別判定部15Bが読み出して用いればよい。
なお、本実施例にかかる映像品質推定装置の構成については、演算処理部15のフレーム種別判定部15Bにおける判定処理の内容が異なるものの、その他の構成については第1の実施例(図1参照)と同等であり、ここでの詳細な説明は省略する。
[第2の実施例の動作]
次に、図9を参照して、本発明の第2の実施例にかかる映像品質推定装置のフレーム種別判定処理について説明する。図9において、前述した図7と同じまたは同等部分には同一符号を付してある。
演算処理部15のフレーム種別判定部15Bは、図4のステップ102におけるフレーム種別判定処理において、前述した図7のステップ120〜125と同様の処理を実行する。
ステップ125において、フレームデータ量配列14Dの配列長が最大GOP長より大きい場合(ステップ125:YES)、フレーム種別判定部15Bは、図8Aに示すように、フレームデータ量配列14Dのうち先頭から最大GOP長分、すなわちフレームF1〜F17の配列データ(フレームデータ量)を記憶部14の判定用配列14Eへ移動させる(ステップ130)。
次に、フレーム種別判定部15Bは、図8Bに示すように、判定用配列14Eの配列データのうち、フレームデータ量が最大値、すなわちフレームF15の配列データを選択して、当該フレームデータ量に対応するフレームがIフレームであると判定し、記憶部14の判定結果配列14Fの当該フレーム(F15)に対応する配列データとしてIフレームを示すフレーム種別情報を格納する(ステップ131)。
エレメンタリストリームにおいて、Iフレームは、フレーム間予測により圧縮されていないフレームデータから構成されている。このため、フレーム間予測により圧縮されているPフレームやBフレームと比較して、そのデータ量が数倍以上大きい。このため、最大GOP長など、Iフレームが1つしか現れない期間、すなわちエレメンタリストリームにおけるIフレーム間隔以下の判定期間において、フレームデータ量が最大のフレームをIフレームとして特定することができる。
続いて、フレーム種別判定部15Bは、図8Cに示すように、判定結果配列14Fの配列データのうち、先頭からIフレーム直前までの各フレーム、すなわちフレームF1〜F14に対応する配列データ(フレームデータ量)を選択し(ステップ132)、これら配列データの先頭を判定対象フレーム先頭位置に設定して、後述する図10の出現パターン別のフレーム種別判定処理を実行する(ステップ200)。
この出現パターン別のフレーム種別判定処理において、判定対象フレーム先頭位置から所定数フレームについて、いずれの出現パターンの判定基準も成立しなかった場合、すなわち判定が失敗した場合(ステップ201:NO)、フレーム種別判定部15Bは、出現パターン別フレーム種別判定処理の例外処理として、後述する図11の例外フレーム種別判定処理を実行する(ステップ202)。
一方、ステップ200において、判定対象フレーム先頭位置から所定数フレームについて、いずれかの出現パターンの判定基準が成立した場合、すなわち判定が成功した場合(ステップ201:YES)、およびステップ202の後、フレーム種別判定部15Bは、ステップ132で選択されたすべての配列データについて判定が終了したか判断する(ステップ203)。
ここで、すべての配列データについて判定が終了していない場合(ステップ203:NO)、フレーム種別判定部15Bは、ステップ200に戻って新たに設定された判定対象フレーム先頭位置から出現パターン別のフレーム種別判定処理を繰り返し実行する。
また、ステップ132で選択されたすべての配列データについて判定が終了した場合(ステップ203:YES)、フレーム種別判定部15Bは、判定が終了した各配列データについて、後述する図12の連続Bフレーム再判定処理を実行する(ステップ204)。
続いて、フレーム種別判定部15Bは、図8Eに示すように、判定が終了したフレーム(F1〜F15)に対応するフレームデータ量を、記憶部14のフレームデータ量配列14Dから削除し(ステップ135)、一連のフレーム種別判定処理を終了する。
[出現パターン別フレーム種別判定処理]
次に、図10を参照して、本発明の第2の実施例にかかる映像品質推定装置の出現パターン別フレーム種別判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図9のステップ200において、図10の出現パターン別フレーム種別判定処理を実行する。
まず、フレーム種別判定部15Bは、GOP構成が「IBBPB」の場合の定常的な開始パターンである出現パターン「BBP」について、現在選択されている判定対象フレーム先頭位置から所定数フレームに対して当該出現パターンの判定基準が成立するか否かを判定する(ステップ210)。
具体的には、判定対象フレーム先頭位置がIフレーム直後であって、当該判定対象フレーム先頭位置から2つ分のフレーム(BB相当)、例えば図8Cの判定用配列14Eの配列データのうち先頭から2つ分の配列データ(F1,F2)について、フレームデータ量の平均値を算出し、この平均値に例えば1.2になどの所定係数を積算して下限値(しきい値)を算出する。次に、この下限値と、判定対象フレーム先頭位置から3つ目のフレーム、例えば図8Cの判定用配列14Eの配列データのうち先頭から3つ目の配列データ(F3)のフレームデータ量と比較する。
ここで、このフレームデータ量が下限値より大きい場合、当該判定対象フレーム先頭位置から3つ分のフレームを「BBP」と判定する。この際、平均値の算出に用いるフレームは上記に限定されるものではなく、例えば判定対象フレーム先頭位置から3つ分のフレームの平均値を用いてもよい。また、しきい値算出時の所定係数も1.2に限定されるものではなく、当該システムや映像に応じた値を選択すればよい。
このようにして、判定基準が成立して判定が成功した場合(ステップ211:YES)、記憶部14の判定結果配列14Fの当該フレームに上記判定結果に応じたフレーム種別情報を格納し(ステップ220)、新たな判定対象フレーム先頭位置を選択し(ステップ221)、一連の出現パターン別フレーム種別判定処理を終了する。
なお、ステップ221では、判定結果のフレーム種別のうち、最後のフレームのフレーム種別がPフレームの場合、当該Pフレームを新たな判定対象フレーム先頭位置とし、最後のフレームのフレーム種別がPフレーム以外の場合、当該Pフレームの次フレームを新たな判定対象フレーム先頭位置とする。これにより、最後のフレームのフレーム種別がPフレームの場合には、当該Pフレームが先頭フレームとして再利用されるため、再利用しない場合と比較して、誤差のない安定したフレーム種別判定が可能となる。
一方、ステップ210において、判定基準が成立せずフレーム種別判定に失敗した場合(ステップ211:NO)、フレーム種別判定部15Bは、現在選択されている判定対象フレーム先頭位置から所定数フレームに対してPフレームが連続する出現パターンの判定基準が成立するか否かを判定する(ステップ212)。
具体的には、判定対象フレーム先頭位置から所定数フレームについて、フレームデータ量の平均値を算出し、この平均値に1.2などの所定係数を積算して上限値(しきい値)を算出するとともに、この平均値に0.8などの所定係数を積算して下限値(しきい値)を算出する。次に、判定対象フレーム先頭位置から所定数のフレームについて、上下限値とフレームデータ量と個々に比較する。ここで、各フレームデータ量が上下限値の範囲内に納まっている場合、当該判定対象フレーム先頭位置から所定数フレームをすべてPフレームと判定する。
この際、平均値算出および判定に用いるフレーム数は、判定対象フレーム先頭位置から次のIフレームまでを最長とし、判定対象フレーム先頭位置から所定最低数(例えば4つ)を最短として、最長から最短までフレーム数を徐々に減らして繰り返し判定し、判定が成立した時点で終了すればよい。また、しきい値算出時の所定係数も1.2や0.8に限定されるものではなく、当該システムや映像に応じた値を選択すればよい。
このようにして、判定基準が成立して判定が成功した場合(ステップ213:YES)、記憶部14の判定結果配列14Fの当該フレームに上記判定結果に応じたフレーム種別情報を格納し(ステップ220)、次の判定用の判定対象フレーム先頭位置を選択し(ステップ221)、一連の出現パターン別フレーム種別判定処理を終了する。
一方、ステップ212において、判定基準が成立せずフレーム種別判定に失敗した場合(ステップ213:NO)、フレーム種別判定部15Bは、GOP構成が「IBBPBB」での定常的な中間パターンである「PBBP」について、現在選択されている判定対象フレーム先頭位置から所定数フレームに対して当該出現パターンの判定基準が成立するか否かを判定する(ステップ214)。
具体的には、判定対象フレーム先頭位置の次から2つ分のフレーム(BB相当)について、フレームデータ量の平均値を算出し、この平均値に例えば1.2になどの所定係数を積算して下限値(しきい値)を算出する。次に、この下限値と、判定対象フレーム先頭位置のフレーム(P相当)および判定対象フレーム先頭位置から3つ目のフレーム(P相当)とをそれぞれ比較する。ここで、これらフレームのフレームデータ量の両方が下限値より大きい場合、当該判定対象フレーム先頭位置から4つ分のフレームを「PBBP」と判定する。この際、平均値の算出に用いるフレームは上記に限定されるものではなく、例えば判定対象フレーム先頭位置の次から3つ分のフレームの平均値を用いてもよい。また、しきい値算出時の所定係数も1.2に限定されるものではなく、当該システムや映像に応じた値を選択すればよい。
このようにして、判定基準が成立して判定が成功した場合(ステップ215:YES)、記憶部14の判定結果配列14Fの当該フレームに上記判定結果に応じたフレーム種別情報を格納し(ステップ220)、次の判定用の判定対象フレーム先頭位置を選択し(ステップ221)、一連の出現パターン別フレーム種別判定処理を終了する。
一方、ステップ214において、判定基準が成立せずフレーム種別判定に失敗した場合(ステップ215:NO)、フレーム種別判定部15Bは、GOP構成が「IBBPBB」での定常的な中間パターンである「PBB」について、現在選択されている判定対象フレーム先頭位置から所定数フレームに対して当該出現パターンの判定基準が成立するか否かを判定する(ステップ216)。
具体的には、判定対象フレーム先頭位置の次から2つ分のフレーム(BB相当)について、フレームデータ量の平均値を算出し、この平均値に例えば1.2になどの所定係数を積算して下限値(しきい値)を算出する。次に、この下限値と、判定対象フレーム先頭位置のフレーム(P相当)とを比較する。ここで、当該フレームのフレームデータ量が下限値より大きい場合、当該判定対象フレーム先頭位置から3つ分のフレームを「PBB」と判定する。この際、平均値の算出に用いるフレームは上記に限定されるものではなく、例えば判定対象フレーム先頭位置から3つ分のフレームの平均値を用いてもよい。また、しきい値算出時の所定係数も1.2に限定されるものではなく、当該システムや映像に応じた値を選択すればよい。
このようにして、判定基準が成立して判定が成功した場合(ステップ217:YES)、記憶部14の判定結果配列14Fの当該フレームに上記判定結果に応じたフレーム種別情報を格納し(ステップ220)、次の判定用の判定対象フレーム先頭位置を選択し(ステップ221)、一連の出現パターン別フレーム種別判定処理を終了する。
一方、ステップ216において、判定基準が成立せずフレーム種別判定に失敗した場合(ステップ217:NO)、フレーム種別判定部15Bは、GOP構成が「IBBPBB」が崩れた例外パターンである「PPBBP」について、現在選択されている判定対象フレーム先頭位置から所定数フレームに対して当該出現パターンの判定基準が成立するか否かを判定する(ステップ218)。
具体的には、判定対象フレーム先頭位置の次の次から2つ分のフレーム(BB相当)について、フレームデータ量の平均値を算出し、この平均値に例えば1.2になどの所定係数を積算して下限値(しきい値)を算出する。次に、この下限値と、判定対象フレーム先頭位置から2つ分のフレーム(P相当)および判定対象フレーム先頭位置から5つ目のフレーム(P相当)とを比較する。ここで、これらフレームのフレームデータ量が下限値より大きい場合、当該判定対象フレーム先頭位置から5つ分のフレームを「PPBBP」と判定する。この際、平均値の算出に用いるフレームは上記に限定されるものではなく、例えば判定対象フレーム先頭位置の次から4つ分のフレームの平均値を用いてもよい。また、しきい値算出時の所定係数も1.2に限定されるものではなく、当該システムや映像に応じた値を選択すればよい。
このようにして、判定基準が成立して判定が成功した場合(ステップ219:YES)、記憶部14の判定結果配列14Fの当該フレームに上記判定結果に応じたフレーム種別情報を格納し(ステップ220)、次の判定用の判定対象フレーム先頭位置を選択し(ステップ221)、一連の出現パターン別フレーム種別判定処理を終了する。
一方、ステップ218において、判定基準が成立せずフレーム種別判定に失敗した場合(ステップ219:NO)、一連の出現パターン別フレーム種別判定処理を終了する。
[例外フレーム種別判定処理]
次に、図11を参照して、本発明の第2の実施例にかかる映像品質推定装置の例外フレーム種別判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図9のステップ202において、図11の例外フレーム種別判定処理を実行する。
まず、フレーム種別判定部15Bは、判定対象フレーム先頭位置のフレームに対して、PフレームとBフレームに関する各フレームデータ量のそれぞれの平均値を用いたPフレームとBフレームの判定基準が成立するか否かを判定する(ステップ230)。
具体的には、フレーム種別がすでに確定している記憶部14の判定結果配列14Fから所定範囲内に位置する所定数のPフレームを選択し、これらPフレームについて記憶部14の判定用配列14Eにおけるフレームデータ量を参照してその平均値を算出するとともに、当該所定範囲内に位置する所定数のPフレームについてフレームデータ量の平均値を算出する。次に、これら2つの平均値の平均値をしきい値とし、記憶部14の判定用配列14Eにおける判定対象フレーム先頭位置のフレームのフレームデータ量がしきい値より大きければPフレームと判定し、当該フレームデータ量がしきい値より小さければBフレームと判定する。この際、判定対象フレーム先頭位置からの複数のフレームについて同一判定基準で判定してもよい。
このようにして、判定基準が成立して判定が成功した場合(ステップ231:YES)、記憶部14の判定結果配列14Fの当該フレームに上記判定結果に応じたフレーム種別情報を格納し(ステップ237)、判定できた最後のフレームの次のフレームを新たな判定対象フレーム先頭位置として選択し(ステップ238)、一連の例外フレーム種別判定処理を終了する。
一方、ステップ230において、判定基準が成立せずフレーム種別判定に失敗した場合(ステップ231:NO)、フレーム種別判定部15Bは、判定対象フレーム先頭位置のフレームに対して、Pフレームに関する各フレームデータ量の平均値を用いたPフレームの判定基準が成立するか否かを判定する(ステップ232)。
具体的には、当該GOPの範囲内に位置する直前Pフレームから遡った所定数のPフレームについてフレームデータ量の平均値を算出し、この平均値に例えば1.2になどの所定係数を積算して上限値(しきい値)を算出するとともに、この平均値に0.8などの所定係数を積算して下限値(しきい値)を算出する。次に、判定対象フレーム先頭位置のフレームについて、上下限値とフレームデータ量と個々に比較する。ここで、各フレームデータ量が上下限値の範囲内に納まっている場合、当該判定対象フレーム先頭位置のフレームをPフレームと判定する。この際、判定対象フレーム先頭位置からの複数のフレームについて同一判定基準で判定してもよい。
このようにして、判定基準が成立して判定が成功した場合(ステップ233:YES)、記憶部14の判定結果配列14Fの当該フレームに上記判定結果に応じたフレーム種別情報を格納し(ステップ237)、判定できた最後のフレームの次のフレームを新たな判定対象フレーム先頭位置として選択し(ステップ238)、一連の例外フレーム種別判定処理を終了する。
一方、ステップ232において、判定基準が成立せずフレーム種別判定に失敗した場合(ステップ233:NO)、フレーム種別判定部15Bは、判定対象フレーム先頭位置のフレームに対して、Bフレームに関する各フレームデータ量の平均値を用いたBフレームの判定基準が成立するか否かを判定する(ステップ234)。
具体的には、当該GOPの範囲内に位置する直前Pフレームから遡った所定数のBフレームについてフレームデータ量の平均値を算出し、この平均値に例えば1.2になどの所定係数を積算して上限値(しきい値)を算出する。次に、判定対象フレーム先頭位置のフレームについて、上限値とフレームデータ量と個々に比較する。ここで、各フレームデータ量が上限値より小さい場合、当該判定対象フレーム先頭位置のフレームをBフレームと判定する。この際、判定対象フレーム先頭位置からの複数のフレームについて同一判定基準で判定してもよい。
このようにして、判定基準が成立して判定が成功した場合(ステップ235:YES)、記憶部14の判定結果配列14Fの当該フレームに上記判定結果に応じたフレーム種別情報を格納し(ステップ237)、判定できた最後のフレームの次のフレームを新たな判定対象フレーム先頭位置として選択し(ステップ238)、一連の例外フレーム種別判定処理を終了する。
一方、ステップ234において、判定基準が成立せずフレーム種別判定に失敗した場合(ステップ235:NO)、フレーム種別判定部15Bは、判定対象フレーム先頭位置のフレームをPフレームと判定し(ステップ236)、記憶部14の判定結果配列14Fの当該フレームに上記判定結果に応じたフレーム種別情報を格納し(ステップ237)、判定できた最後のフレームの次のフレームを新たな判定対象フレーム先頭位置として選択し(ステップ238)、一連の例外フレーム種別判定処理を終了する。
[連続Bフレーム再判定処理]
次に、図12を参照して、本発明の第2の実施例にかかる映像品質推定装置の連続Bフレーム再判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図9のステップ204において、図12の連続Bフレーム再判定処理を実行する。
まず、フレーム種別判定部15Bは、記憶部14の判定結果配列14Fにおける配列データを参照し、GOP構成の最後において、Bフレームが3個または4個連続するという判定基準が成立するか否かを判定する。ここで、この判定基準が成立した場合にはこれらBフレームを「BBP」(3個の場合)または「BBPP」(4個の場合)と再判定して、記憶部14の判定結果配列14Fの当該フレームに上記判定結果に応じたフレーム種別情報を更新する(ステップ240)。
次に、フレーム種別判定部15Bは、図9のステップ132で選択された配列データ(フレームデータ量)の先頭を再判定対象フレーム先頭位置に設定し(ステップ241)、記憶部14の判定結果配列14Fにおける配列データのうち、当該再判定対象フレーム先頭位置からBフレームが、5個または8個連続するという判定基準が成立するか否かを判定する。ここで、この判定基準が成立した場合にはこれらBフレームを「BBPBB」(5個の場合)または「BBPBBPBB」(8個の場合)と再判定して、記憶部14の判定結果配列14Fの当該フレームに上記判定結果に応じたフレーム種別情報を更新する(ステップ242)。
このようにして、判定基準が成立して判定が成功した場合(ステップ243:YES)、フレーム種別判定部15Bは、ステップ241で選択されたすべての配列データについて判定が終了したか判断する(ステップ203)。
ここで、すべての配列データについて判定が終了していない場合(ステップ245:NO)、フレーム種別判定部15Bは、次の再判定対象フレーム先頭位置を選択し(ステップ246)、ステップ242に戻って新たに設定された再判定対象フレーム先頭位置から処理を繰り返し実行する。
一方、ステップ243において、判定基準が成立せずフレーム種別再判定に失敗した場合(ステップ243:NO)、フレーム種別判定部15Bは、再判定対象フレーム先頭位置からBフレームが、3個、4個、6個、または7個連続するという判定基準が成立するか否かを判定する。ここで、この判定基準が成立した場合にはこれらBフレームを「BBP」(3個の場合)、「BBPB」(4個の場合)、「BBPBBP」(6個の場合)、または「BBPBBPBB」(8個の場合)と再判定して、記憶部14の判定結果配列14Fの当該フレームに上記判定結果に応じたフレーム種別情報を更新する(ステップ244)。
この後、フレーム種別判定部15Bは、ステップ241で選択されたすべての配列データについて判定が終了したか判断する(ステップ203)。
ここで、すべての配列データについて判定が終了していない場合(ステップ245:NO)、フレーム種別判定部15Bは、次の再判定対象フレーム先頭位置を選択し(ステップ246)、ステップ242に戻って新たに設定された再判定対象フレーム先頭位置から処理を繰り返し実行する。
また、ステップ245において、すべての配列データについて判定が終了した場合(ステップ245:YES)、一連の連続Bフレーム再判定処理を終了する。
[第2の実施例の効果]
このように、本実施例は、演算処理部15のフレーム種別判定部15Bでのフレーム種別判定処理において、異なる複数の出現パターンごとに、当該出現パターン内に含まれるフレームの位置とフレームデータ量との関係を示す判定基準を予め設定しておき、Iフレームを含まない時間的に連続する所定数のフレームについて、各出現パターンの判定基準により検査し、判定基準が成立した出現パターンに基づき当該フレームの種別を判定するようにしたので、GOP構成として一般的なフレーム出現パターン以外の出現パターンが含まれる場合でも、これらフレームの種別を判定することが可能となる。
また、判定基準として、所定範囲内に位置する複数フレームのフレームデータ量の平均値に基づいて算出したしきい値と、当該出現パターン内のフレームのフレームデータ量との比較結果、すなわち両者の大小関係から構成するようにしたので、極めて簡素な演算処理でフレーム種別を判定することができる。
[第3の実施例]
次に、本発明の第3の実施例にかかる映像品質推定装置について説明する。
第1、第2の実施例では、判定対象フレームの前後フレームとのフレームデータ量の増減関係に基づいて、判定対象フレームのフレーム種別を判定する場合を例として説明した。本実施例では、しきい値に基づきPフレームとBフレームを判別するフレーム種別判定方法と、フレーム種別判定方法に用いる係数の学習方法を説明する。
なお、本実施例にかかる映像品質推定装置の構成については、演算処理部15のフレーム種別判定部15Bにおける処理の内容が異なるものの、その他の構成については第1の実施例(図1参照)と同等であり、ここでの詳細な説明は省略する。
[第3の実施例の動作]
次に、本発明の第3の実施例にかかる映像品質推定装置の動作について説明する。
本実施例にかかる映像品質推定装置10では、演算処理部15のフレーム種別判定部15Bにおいて、判定対象フレームのフレーム種別を判定する場合、Iフレーム判定処理とP,Bフレーム判定処理の2つのフレーム判定処理を用いる。
Iフレーム判定処理は、Iフレームを判定するためのフレーム判定方法であり、係数として、Iフレーム検索範囲を示す判定期間を用いる。この判定期間としては、最大GOP長を示す値が用いられる。
また、P,Bフレーム判定処理は、PフレームおよびBフレームを判定するためのフレーム判定処理であり、係数として、PフレームとBフレームをフレームデータ量で区別するためのしきい値を調整する調整係数を用いる。
判定期間および調整係数については、フレーム判定処理の実行に先だって予め学習して記憶部14に保存しておくことが望ましいが、標準的な値を外部から入力して記憶部14に保存しておくこともできる。これら判定期間および調整係数の学習は、判定期間の学習を行った後、調整係数の学習を行うという、2段階の学習処理を順に行う。
[フレーム種別判定処理]
まず、図13を参照して、本発明の第3の実施例にかる映像品質推定装置のフレーム種別判定処理について説明する。図13において、前述の図7と同じまたは同等部分には同一符号を付してある。
演算処理部15のフレーム種別判定部15Bは、図4のステップ102におけるフレーム種別判定処理において、図13のフレーム種別判定処理を実行する。
まず、フレーム種別判定部15Bは、TSパケット取得部15Aで取得したTSパケットを記憶部14から読み出し、そのTSヘッダ部からpayload_unit_start_indicator情報を取得する(ステップ120)。
ここで、payload_unit_start_indicator情報が「1」でない場合(ステップ121:NO)、当該TSパケットがフレーム先頭のTSパケットではないことから、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cに「1」を加えて当該フレームのTSパケット数を計数し(ステップ122)、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
一方、payload_unit_start_indicator情報が「1」の場合(ステップ121:YES)、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cをフレームデータ量配列14Dの末尾に新たな配列データとして格納した後(ステップ123)、フレームデータ量14Cをゼロクリアする(ステップ124)。
次に、フレーム種別判定部15Bは、係数として与えられた判定期間を用いた、後述する図14のIフレーム判定処理を実行した後(ステップ300)、係数として調整係数を用いた、後述する図15のP,Bフレーム判定処理を実行する(ステップ301)。
これにより、フレームデータ量配列14Dのうち次に現れるIフレームまでの各フレームについて、I,P,Bフレームのいずれかを示すフレーム種別判定結果が記憶部14の判定結果配列14Fに格納される。
続いて、フレーム種別判定部15Bは、前述した図8Eに示すように、判定が終了したフレームに対応するフレームデータ量を、記憶部14のフレームデータ量配列14Dから削除し(ステップ135)、一連のフレーム種別判定処理を終了する。
[Iフレーム判定処理]
次に、図14を参照して、本発明の第3の実施例にかかる映像品質推定装置のIフレーム判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図13のステップ300におけるIフレーム判定処理において、図14のIフレーム判定処理を実行する。
まず、フレーム種別判定部15Bは、記憶部14のフレームデータ量配列14Dの配列長、すなわちデータ数と、係数として与えられた判定期間、ここでは最大GOP長とを比較する(ステップ310)。
ここで、配列長が最大GOP長未満の場合(ステップ310:NO)、フレーム種別判定部15Bは、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
一方、配列長が最大GOP長以上の場合(ステップ310:YES)、フレーム種別判定部15Bは、前述した図8Aに示すように、最大GOP長分のデータ(F1〜F17)を、記憶部14のフレームデータ量配列14Dから判定用配列14Eへ格納する(ステップ311)。
続いて、フレーム種別判定部15Bは、前述した図8Bに示すように、判定用配列14Eのうち、フレームデータ量が最大値を示すデータ(F15)に対応するフレームをIフレームと判定して、その判定結果を記憶部14の判定結果配列14Fへ格納し(ステップ312)、一連のIフレーム判定処理を終了する。
[P,Bフレーム判定処理]
次に、図15,図16,図17A,図17Bを参照して、本発明の第3の実施例にかかる映像品質推定装置のP,Bフレーム判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図13のステップ301におけるP,Bフレーム判定処理において、図15のP,Bフレーム判定処理を実行する。
まず、フレーム種別判定部15Bは、図16および図17Aに示すように、記憶部14の判定用配列14Eのうち、その先頭フレームから上記Iフレーム判定処理でIフレームと判定されたフレームまでのフレームデータ量について単純平均値を算出する(ステップ320)。図17Aの例では、フレームF1〜F14の単純平均値が算出されている。
続いて、フレーム種別判定部15Bは、求めた単純平均値に、係数として与えられた調整係数を乗算することにより、P,Bフレーム判定用のしきい値を算出する(ステップ321)。
次に、フレーム種別判定部15Bは、図17Bに示すように、判定用配列14Eの先頭フレームを選択し(ステップ322)、この選択フレームのフレームデータ量としきい値とを比較する(ステップ323)。
ここで、選択フレームのフレームデータ量がしきい値より大きい場合(ステップ323:YES)、フレーム種別判定部15Bは、選択フレームをPフレームと判定し、記憶部14の判定結果配列14Fの当該選択フレームに、Pフレームを示すフレーム種別情報を格納する(ステップ324)。
図17Bの例では、フレームF3,F6,F9,F12のフレームデータ量がしきい値より大きいため、これらフレームがPフレームと判定されている。また、これら以外のフレームF1,F2,F4,F5,F7,F8,F10,F11,F13,F14のフレームデータ量がしきい値以下であるため、これらフレームがBフレームと判定されている。
一方、選択フレームのフレームデータ量がしきい値以下の場合(ステップ323:NO)、フレーム種別判定部15Bは、選択フレームをBフレームと判定し、記憶部14の判定結果配列14Fの当該選択フレームに、Bフレームを示すフレーム種別情報を格納するする(ステップ325)。
この後、フレーム種別判定部15Bは、判定用配列14Eの最後尾フレームまで、しきい値によるフレーム種別判定を行ったか判断し(ステップ326)、最後尾フレームまで判定していない場合(ステップ326:NO)、フレーム種別判定部15Bは、判定用配列14Eから次のフレームを選択し(ステップ327)、ステップ323へ戻る。
また、最後尾フレームまで判定が終了した場合(ステップ326:YES)、一連のP,Bフレーム判定処理を終了する。
[判定期間学習方法]
図18を参照して、本発明の第3の実施例にかる映像品質推定装置の判定期間学習方法について説明する。
この判定期間学習処理は、処理対象となるエレメンタリストリームのうち、予め与えられた学習期間分のTSパケットについて、Iフレームごとに次のIフレームまでのフレーム数をカウントし、その最大値すなわち最長GOPを、Iフレーム判定処理において係数として用いる判定期間として学習する。
映像品質推定装置10の演算処理部15は、フレーム種別判定部15Bにより、対象フレームのフレーム種別を判定する際、前もって図18の判定期間学習処理を実行する。ここでは、判定期間学習処理を実行する前に、処理対象となるエレメンタリストリームのTSパケットを識別するための識別情報として、記憶部14に処理対象PID14Bが保存されているものとする。
まず、フレーム種別判定部15Bは、判定期間をゼロクリアするとともに暫定フレーム数に1を設定して、判定期間および暫定フレーム数を初期化し(ステップ350)、TSパケット取得部15Aにより、前述した図5のTSパケット取得処理を実行して、処理対象PID14Bを持つTSパケットを取得する(ステップ351)。
次に、フレーム種別判定部15Bは、フレーム種別判定部15Bで取得したTSパケットを記憶部14から読み出し、そのTSヘッダ部のpayload_unit_start_indicator情報に基づいて、フレーム先頭のTSパケットか否か判定する(ステップ352)。ここで、フレーム先頭のTSパケットではない場合(ステップ352:NO)、ステップ351に戻る。
また、取得したTSパケットがフレーム先頭であった場合(ステップ352:YES)、フレーム種別判定部15Bは、当該TSパケットを解析してフレーム種別を取得する(ステップ353)。
ここで、取得したフレーム種別がIフレーム以外のフレームを示す場合(ステップ354:NO)、フレーム種別判定部15Bは、暫定フレーム数に1を加算して(ステップ355)、ステップ301へ戻る。
一方、取得したフレーム種別がIフレームを示す場合(ステップ354:YES)、フレーム種別判定部15Bは、暫定フレーム数と判定期間とを比較し(ステップ356)、暫定フレーム数が判定期間より大きい場合にのみ(ステップ356:YES)、フレーム種別判定部15Bは、判定期間に暫定フレーム数を格納する(ステップ357)。
この後、フレーム種別判定部15Bは、暫定フレーム数を1に初期化し(ステップ358)、学習期間分のTSパケットの処理が終了していない場合(ステップ359:NO)、ステップ301へ戻る。また、学習期間分のTSパケットの処理が終了した場合(ステップ309:YES)、一連の判定期間学習処理を終了する。
これにより、処理対象となるエレメンタリストリームのTSパケットのうち、Iフレームから次のIフレームまでのフレーム数がカウントされ、その最大値、すなわち最長GOPが判定期間として学習される。
[調整係数学習方法]
次に、図19を参照して、本発明の第3の実施例にかる映像品質推定装置の調整係数学習方法について説明する。
この調整係数学習処理は、P,Bフレーム判定処理において、係数として用いる調整係数を学習するための処理である。
ここでは、与えられた範囲で順次選択した暫定調整係数を用いて、フレーム種別判定処理と同等の処理を実行することにより、予め与えられた学習期間について各フレームのフレーム種別を推定し、非暗号ストリームから取得した実際のフレーム種別、すなわち正解に対する推定結果の誤判定率を算出し、この誤判定率が最も小さい暫定調整係数を、真の調整係数として学習する場合について説明する。
映像品質推定装置10の演算処理部15は、フレーム種別判定部15Bにより、対象フレームのフレーム種別を判定する際、前もって図19の調整係数学習処理を実行する。ここでは、調整係数学習処理を実行する前に、処理対象となるエレメンタリストリームのTSパケットを識別するための識別情報として、記憶部14に処理対象PID14Bが保存されているとともに、前述した図18の判定期間学習処理により判定期間が得られているものとする。
まず、フレーム種別判定部15Bは、暫定誤判定率に適当な初期値を設定した後、(ステップ370)、暫定調整係数として与えられた範囲から未選択の値を設定し(ステップ371)、TSパケット取得部15Aにより、前述した図5のTSパケット取得処理を実行して、処理対象PID14Bを持つTSパケットを取得する(ステップ372)。
次に、フレーム種別判定部15Bは、図13のステップ120〜301と同様の処理を実行する(ステップ373)。この際、調整係数に代えて暫定調整係数を用いる。
これにより、フレームデータ量配列14Dのうち次に現れるIフレームまでの各フレームについて、I,P,Bフレームのいずれかを示すフレーム種別判定結果が記憶部14の判定結果配列14Fに格納される。
この後、フレーム種別判定部15Bは、得られたフレーム種別の推定結果と、予め用意しておいた、処理対象となるエレメンタリストリームの非暗号ストリームから取得した実際のフレーム種別、すなわち正解と比較し、この正解に対する推定結果の誤判定率を算出する(ステップ374)。この際、誤判定率は、[推定を誤ったフレーム数]÷[推定対象とした総フレーム数]で求められる。
ここで、フレーム種別判定部15Bは、求めた誤判定率と暫定誤判定率とを比較し(ステップ375)、誤判定率が暫定誤判定率より小さい場合にのみ(ステップ375:YES)、調整係数に暫定調整係数を格納する(ステップ376)。
続いて、フレーム種別判定部15Bは、判定が終了したフレーム(F1〜F15)に対応するフレームデータ量を、記憶部14のフレームデータ量配列14Dから削除する(ステップ377)。
この後、学習期間分のTSパケットの処理が終了していない場合(ステップ378:NO)、ステップ372へ戻る。また、学習期間分のTSパケットの処理が終了した場合(ステップ378:YES)、すべての暫定調整係数を選択したか判断する(ステップ378)。
ここで、すべての暫定調整係数を選択していない場合(ステップ378:NO)、フレーム種別判定部15Bは、ステップ371へ戻る。また、すべての暫定調整係数の選択が終了した場合(ステップ378:YES)、一連の調整係数学習処理を終了する。
これにより、処理対象となるエレメンタリストリームのTSパケットに対するフレーム種別推定において、その誤判定率が最も小さい調整係数が学習される。
[第3の実施例の効果]
このように、本実施例は、演算処理部15のフレーム種別判定部15Bでのフレーム種別判定処理において、当該エレメンタリストリームにおけるIフレームを判定した後、各フレームのフレームデータ量としきい値とを比較することにより、PフレームとBフレームとを判別するようにしたので、エレメンタリストリームのGOP構成として特定のフレームパターンが存在しない場合でも、ペイロード部が暗号化されているTSパケットに基づき各フレームのフレーム種別を把握できる。
また、本実施例では、PフレームとBフレームの判定時、所定範囲内に位置する複数フレームのフレームデータ量の平均値に基づいて算出したしきい値と、当該出現パターン内のフレームのフレームデータ量との比較結果、すなわち両者の大小関係に基づきPフレームとBフレームを判別するようにしたので、極めて簡素な演算処理でフレーム種別を判定することができる。
[第4の実施例]
次に、本発明の第4の実施例にかかる映像品質推定装置について説明する。
第3の実施例では、しきい値に基づきPフレームとBフレームを判別するP,Bフレーム判定処理を用いる場合を例として説明した。本実施例では、上記P,Bフレーム判定処理に代えて、フレームデータ量が所定の判定範囲内で一定となる連続フレームをPフレームと判定するPフレーム判定処理を用いる場合について説明する。
なお、本実施例にかかる映像品質推定装置の構成については、演算処理部15のフレーム種別判定部15Bにおける処理の内容が異なるものの、その他の構成については第1の実施例(図1参照)と同等であり、ここでの詳細な説明は省略する。
[第4の実施例の動作]
次に、本発明の第4の実施例にかかる映像品質推定装置の動作について説明する。
本実施例にかかる映像品質推定装置10では、演算処理部15のフレーム種別判定部15Bにおいて、判定対象フレームのフレーム種別を判定する場合、Iフレーム判定処理とP,Bフレーム判定処理の2つのフレーム判定処理を用いる。
Iフレーム判定処理は、Iフレームを判定するためのフレーム判定方法であり、第3の実施例で説明した、図14のIフレーム判定処理と同一である。
また、Pフレーム判定処理は、Pフレームを判定するためのフレーム判定処理であり、係数として、連続Pフレームの先頭位置をフレームデータ量で判定するためのしきい値を調整する調整係数Aと、連続Pフレームの先頭位置から終了位置までの探索範囲内のフレームがすべてPフレームか否かをフレームデータ量で判定するための判定範囲を調整する調整係数Bと、連続Pフレームの先頭位置ら終了位置までの探索範囲として最低限必要なフレーム数を示す下限フレーム数とを用いる。
調整係数A、調整係数B、および下限フレーム数については、フレーム判定処理の実行に先だって予め学習して記憶部14に保存しておくことが望ましいが、標準的な値を外部から入力して記憶部14に保存しておくこともできる。
[フレーム種別判定処理]
まず、図20を参照して、本発明の第4の実施例にかる映像品質推定装置のフレーム種別判定処理について説明する。図20において、前述の図13と同じまたは同等部分には同一符号を付してある。
演算処理部15のフレーム種別判定部15Bは、図4のステップ102におけるフレーム種別判定処理において、図20のフレーム種別判定処理を実行する。
まず、フレーム種別判定部15Bは、TSパケット取得部15Aで取得したTSパケットを記憶部14から読み出し、そのTSヘッダ部からpayload_unit_start_indicator情報を取得する(ステップ120)。
ここで、payload_unit_start_indicator情報が「1」でない場合(ステップ121:NO)、当該TSパケットがフレーム先頭のTSパケットではないことから、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cに「1」を加えて当該フレームのTSパケット数を計数し(ステップ122)、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
一方、payload_unit_start_indicator情報が「1」の場合(ステップ121:YES)、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cをフレームデータ量配列14Dの末尾に新たな配列データとして格納した後(ステップ123)、フレームデータ量14Cをゼロクリアする(ステップ124)。
次に、フレーム種別判定部15Bは、係数として与えられた判定期間を用いた、後述する図14のIフレーム判定処理を実行した後(ステップ300)、係数として調整係数A、調整係数B、および下限フレーム数を用いた、後述する図21のPフレーム判定処理を実行する(ステップ400)。
これにより、フレームデータ量配列14Dのうち次に現れるIフレームまでの各フレームについて、I,Pフレームのいずれかを示すフレーム種別判定結果が記憶部14の判定結果配列14Fに格納される。
このようにして、IフレームとPフレームを判定した後、フレーム種別判定部15Bは、フレームデータ量配列14Dのうち次に現れるIフレームまでの各フレームのうち、IフレームまたはPフレームと判定されていない、他の未判定フレームをBフレームと判定し、この判定結果を記憶部14の判定結果配列14Fに格納する(ステップ134)。
続いて、フレーム種別判定部15Bは、判定が終了したフレームに対応するフレームデータ量を、記憶部14のフレームデータ量配列14Dから削除し(ステップ135)、一連のフレーム種別判定処理を終了する。
[Pフレーム判定処理]
次に、図21,図22,図23A〜図23Eを参照して、本発明の第4の実施例にかかる映像品質推定装置のPフレーム判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図20のステップ400におけるPフレーム判定処理において、図21のPフレーム判定処理を実行する。
まず、フレーム種別判定部15Bは、図22および図23Aに示すように、記憶部14の判定用配列14Eのうち、その先頭フレームから上記Iフレーム判定処理でIフレームと判定されたフレームまでのフレームデータ量に関する単純平均値を全平均値として算出し、この全平均値に、係数として与えられた調整係数Aを乗算することにより、連続Pフレームの先頭位置を判定するためのしきい値を算出する(ステップ410)。図23Aの例では、フレームF1〜F14のフレームデータ量の合計「500」がフレーム数「14」で除算されて、全平均値「35.7」が求められている。また、この全平均値に調整係数A「0.7」が乗算され、しきい値として「35.7×0.7=25.0」が求められている。
続いて、フレーム種別判定部15Bは、記憶部14の判定用配列14Eの先頭フレームを、Pフレームが連続すると予想される範囲、すなわち探索範囲の先頭位置として選択し(ステップ411)、図23Bに示すように、先頭位置のフレームのフレームデータ量としきい値とを比較する(ステップ412)。図23Bの例では、フレームF1〜F14のフレームデータ量と、ステップ410で求めたしきい値とが比較されている。この際、フレームF1,F2のフレームデータ量がしきい値以下のため、先頭位置がそれぞれ1フレーム後ろに設定される。また、フレームF3のフレームデータ量がしきい値を上回るため、このフレームF3が探索範囲の先頭位置として選択されるとともに、フレームF3がPフレームと判定されている。
ここで、先頭位置のフレームのフレームデータ量がしきい値を下回る場合(ステップ412:NO)、フレーム種別判定部15Bは、先頭位置を1つ後ろに設定した後(ステップ422)、ステップ402へ戻る。
また、先頭位置のフレームのフレームデータ量がしきい値以上の場合(ステップ412:YES)、フレーム種別判定部15Bは、先頭位置のフレームがフレーム種別未判定の場合にのみ(ステップ413:YES)、先頭位置のフレームをPフレームと判定し、この判定結果を記憶部14の判定結果配列14Fへ格納する(ステップ414)。
この後、フレーム種別判定部15Bは、先頭位置から次のIフレームの直前フレームまでのフレーム数と下限フレーム数とを比較し(ステップ415)、当該フレーム数が下限フレーム数を下回った場合(ステップ415:NO)、一連のPフレーム判定処理を終了する。
一方、フレーム数が下限フレーム数以上の場合(ステップ415:YES)、フレーム種別判定部15Bは、次のIフレームの直前フレームを、Pフレームが連続すると予想される範囲、すなわち探索範囲の終了位置として選択する(ステップ416)。
続いて、フレーム種別判定部15Bは、図23Cに示すように、先頭位置から終了位置までの探索範囲における各フレームのフレームデータ量に関する平均値を探索平均値として算出し、この探索平均値に、係数として与えられた調整係数Bを乗算することにより、連続Pフレーム判定用の判定範囲を算出する(ステップ417)。
図23Cの例では、探索範囲内のフレームF3〜F14のフレームデータ量の合計値「470」がフレーム数「11」で除算されて、探索平均値「39.2」が求められている。また、この探索平均値に調整係数Bが乗算されて判定範囲幅が求められ、探索平均値に判定範囲幅を加減算することにより、判定範囲「33.3〜45.1」が求められている。
次に、フレーム種別判定部15Bは、図23Dに示すように、先頭位置から終了位置までの探索範囲における各フレームのフレームデータ量と判定範囲とを比較する(ステップ418)。図23Dの例では、ステップ416で確定した探索範囲に属するフレームF3〜F14と、ステップ417で求めた判定範囲「33.3〜45.1」とをそれぞれ比較している。
これらフレームのフレームデータ量のすべてが判定範囲内である場合(ステップ418:YES)、フレーム種別判定部15Bは、探索範囲内の各フレームを連続するPフレームとして判定し、この判定結果を記憶部14の判定結果配列14Fに格納し(ステップ419)、ステップ422へ移行して、先頭位置が1フレーム後ろに設定された新たな探索範囲に関する連続Pフレームの判定を実行する。
一方、これらフレームのフレームデータ量のいずれかが判定範囲外である場合(ステップ418:NO)、図23Eに示すように、フレーム種別判定部15Bは、終了位置を1フレーム手前に設定し(ステップ420)、探索範囲に含まれるフレーム数と下限フレーム数を比較する(ステップ421)。図23Eの例では、まず、フレームF3〜F14の探索範囲については、これらフレームのフレームデータ量が判定範囲外であるため、終了位置が1フレーム手前のフレームF13に設定されている。続くF3〜F13,F3〜F12,F3〜F11,F3〜F10の探索範囲についても、同様に判定されて終了位置がそれぞれ1フレーム手前に設定される。そして、フレームF3〜F9の探索範囲においてはじめて、すべてのフレームのフレームデータ量が判定範囲内となり、これらフレームF3〜F9が連続するPフレームとして判定されている。
ここで、当該フレーム数が下限フレーム数以上の場合(ステップ421:YES)、ステップ418へ戻って、1フレーム狭くなった新たな探索範囲に関する連続Pフレームの判定を実行し、当該フレーム数が下限フレーム数を下回った場合(ステップ421:NO)、ステップ422へ移行して、先頭位置が1フレーム後ろに設定された新たな探索範囲に関する連続Pフレームの判定を実行する。
[係数学習処理]
次に、本発明の第4の実施例にかかる映像品質推定装置の係数学習処理について説明する。
本実施例のフレーム種別判定処理で用いる調整係数A、調整係数B、下限フレーム数の学習については、第3の実施例で説明した、図19の調整係数学習処理のうちの調整係数を、本実施例で用いる調整係数A、調整係数B、下限フレーム数にそれぞれ置き換えて実行すればよく、ここでの処理の詳細についての説明は省略する。
この際、これら調整係数A、調整係数B、および下限フレーム数の学習は、第3の実施例で説明した、図18の判定期間学習処理により、Iフレーム判定処理で用いる判定期間を学習した後、調整係数A、調整係数B、下限フレーム数の学習を行うという、2段階の学習処理を順に行う。
また、調整係数A、調整係数B、下限フレーム数の学習については、これら調整係数A、調整係数B、下限フレーム数の組合せにそれぞれ仮の値を与えて、前述した図21のPフレーム判定処理を実行し、その判定結果に対する誤判定率が小さくなる組合せを選択すればよい。
[第4の実施例の効果]
このように、本実施例では、演算処理部15のフレーム種別判定部15Bでのフレーム種別判定処理において、当該エレメンタリストリームにおけるIフレームを判定した後、先頭位置のフレームのフレームデータ量が所定のしきい値以上であって、かつ先頭位置から終了位置までのすべてのフレームのフレームデータ量が所定の判定範囲内に含まれる、所定数以上連続するフレームを、すべてPフレームと判定するようにしたので、エレメンタリストリームのGOP構成として特定のフレームパターンが存在しない場合でも、ペイロード部が暗号化されているTSパケットに基づき各フレームのフレーム種別を把握できる。
特に、Pフレームが一定数以上連続して発生した場合、これらPフレームの情報量はBフレーム程度まで小さくなり、第3の実施例で用いたP,Bフレーム判定処理において、正確に判定ではない場合がある。本実施例では、このような連続するPフレームについては、それぞれのフレームデータ量間でばらつきが少ないことに着目し、フレームデータ量が所定の判定範囲内に含まれる、所定数以上連続するフレームをPフレームと判定するようにしたので、連続Pフレームを正確に判定することが可能となる。
また、本実施例では、フレーム種別判定処理の対象となる全対象フレームのフレームデータ量の平均値に基づいて算出したしきい値を、全対象フレームの先頭フレームのフレームデータ量から順に比較し、その比較結果に基づき当該フレームを探索範囲の先頭フレームとして選択するか否かを判定するようにしたので、極めて簡素な演算処理で探索範囲の先頭フレームを選択することができる。
また、本実施例では、先頭位置から終了位置までの探索範囲内に含まれるフレームのフレームデータ量の平均値に基づいて判定範囲を算出するようにしたので、極めて簡素な演算処理で、連続するPフレームを正確に探索することが可能となる。
[第5の実施例]
次に、本発明の第5の実施例にかかる映像品質推定装置について説明する。
第3の実施例では、フレーム種別判定処理において、Iフレーム判定処理を行った後、P,Bフレーム判定処理を行う場合を例として説明し、第4の実施例では、フレーム種別判定処理において、Iフレーム判定処理を行った後、Pフレーム判定処理を行う場合を例として説明した。本実施例では、フレーム種別判定処理において、Iフレーム判定処理を行った後、P,Bフレーム判定処理を実行し、その後、Pフレーム判定処理を行う場合を例として説明する。
なお、本実施例にかかる映像品質推定装置の構成については、演算処理部15のフレーム種別判定部15Bにおける処理の内容が異なるものの、その他の構成については第1の実施例(図1参照)と同等であり、ここでの詳細な説明は省略する。
また、本実施例のフレーム種別判定処理では、Iフレーム判定処理として図14と同一のIフレーム判定処理を用い、P,Bフレーム判定処理として図15と同一のP,Bフレーム判定処理を用い、またPフレーム判定処理として図21と同一のPフレーム判定処理を用いる。これら判定処理および判定処理に用いる各種係数の学習処理の詳細についての説明は省略する。
[第5の実施例]
次に、図24を参照して、本発明の第5の実施例にかかる映像品質推定装置のフレーム種別判定処理について説明する。図24において、前述の図13および図20と同じまたは同等部分には同一符号を付してある。
演算処理部15のフレーム種別判定部15Bは、図4のステップ102におけるフレーム種別判定処理において、図24のフレーム種別判定処理を実行する。
まず、フレーム種別判定部15Bは、TSパケット取得部15Aで取得したTSパケットを記憶部14から読み出し、そのTSヘッダ部からpayload_unit_start_indicator情報を取得する(ステップ120)。
ここで、payload_unit_start_indicator情報が「1」でない場合(ステップ121:NO)、当該TSパケットがフレーム先頭のTSパケットではないことから、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cに「1」を加えて当該フレームのTSパケット数を計数し(ステップ122)、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
一方、payload_unit_start_indicator情報が「1」の場合(ステップ121:YES)、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cをフレームデータ量配列14Dの末尾に新たな配列データとして格納した後(ステップ123)、フレームデータ量14Cをゼロクリアする(ステップ124)。
次に、フレーム種別判定部15Bは、係数として与えられた判定期間を用いた、図14のIフレーム判定処理を実行した後(ステップ300)、係数として調整係数を用いた、前述の図15のP,Bフレーム判定処理を実行する(ステップ301)。さらにその後、係数として調整係数A、調整係数B、および下限フレーム数を用いた、図21のPフレーム判定処理を実行する(ステップ400)。
これにより、フレームデータ量配列14Dのうち次に現れるIフレームまでの各フレームについて、I,P,Bフレームのいずれかを示すフレーム種別判定結果が記憶部14の判定結果配列14Fに格納される。
このようにして、I,P,Bフレームを判定した後、フレーム種別判定部15Bは、判定が終了したフレームに対応するフレームデータ量を、記憶部14のフレームデータ量配列14Dから削除し(ステップ135)、一連のフレーム種別判定処理を終了する。
[第5の実施例の効果]
このように、本実施例では、演算処理部15のフレーム種別判定部15Bでのフレーム種別判定処理において、当該エレメンタリストリームにおけるIフレームを判定した後、各フレームのフレームデータ量としきい値とを比較することにより、PフレームとBフレームとを判別し、先頭位置のフレームのフレームデータ量が所定のしきい値以上であって、かつ先頭位置から終了位置までのすべてのフレームのフレームデータ量が所定の判定範囲内に含まれる、所定数以上連続するフレームを、すべてPフレームと判定するようにしたので、エレメンタリストリームのGOP構成として特定のフレームパターンが存在しない場合でも、ペイロード部が暗号化されているTSパケットに基づき各フレームのフレーム種別を把握できる。
また、本実施例では、PフレームとBフレームの判定時、所定範囲内に位置する複数フレームのフレームデータ量の平均値に基づいて算出したしきい値と、当該出現パターン内のフレームのフレームデータ量との比較結果、すなわち両者の大小関係に基づきPフレームとBフレームを判別するようにしたので、極めて簡素な演算処理でフレーム種別を判定することができる。
また、Pフレームが一定数以上連続して発生した場合、これらPフレームの情報量はBフレーム程度まで小さくなり、P,Bフレーム判定処理において、正確に判定ではない場合がある。本実施例では、このような連続するPフレームについては、それぞれのフレームデータ量間でばらつきが少ないことに着目し、フレームデータ量が所定の判定範囲内に含まれる、所定数以上連続するフレームをPフレームと判定するようにしたので、連続Pフレームを正確に判定することが可能となる。
また、本実施例では、フレーム種別判定処理の対象となる全対象フレームのフレームデータ量の平均値に基づいて算出したしきい値を、全対象フレームの先頭フレームのフレームデータ量から順に比較し、その比較結果に基づき当該フレームを探索範囲の先頭フレームとして選択するか否かを判定するようにしたので、極めて簡素な演算処理で探索範囲の先頭フレームを選択することができる。
また、本実施例では、先頭位置から終了位置までの探索範囲内に含まれるフレームのフレームデータ量の平均値に基づいて判定範囲を算出するようにしたので、極めて簡素な演算処理で、連続するPフレームを正確に探索することが可能となる。
[第6の実施例]
次に、図25を参照して、本発明の第6の実施例にかかる映像品質推定装置について説明する。図25において、前述の図13と同じまたは同等部分には同一符号を付してある。
第3の実施例では、図13に示したように、複数のTSパケットに分割して格納された各フレームについて、TSパケットのTSヘッダ部に格納されているpayload_unit_start_indicator情報に基づきフレーム区切り判定し、これらフレーム区切りごとにフレームデータ量を求め、最大GOP長のうちフレームデータ量が最大値を示すフレームをIフレームと判定する場合について説明した。また、payload_unit_start_indicator(PUSI)情報と同様のフレーム識別情報として、図6に示したような、RTPヘッダのマーカービット(MB:Markerbit)情報を用いることも可能である。
一方、リアルタイムアプリケーションで用いる一部のCODECでは、Iフレームの先頭を示す識別情報として、TSヘッダ部のアダプテーションフィールド部内の、RAI(random_access_indicator)情報またはESPI(elementary_stream_priority_indicator)情報を使用可能な場合がある。本実施例では、第3の実施例を基本として、これらRAI情報またはESPI情報を用いてIフレームを判定する場合について説明する。
なお、本実施例にかかる映像品質推定装置の構成については、演算処理部15のフレーム種別判定部15Bにおける処理の内容が異なるものの、その他の構成については第1の実施例(図1参照)と同等であり、ここでの詳細な説明は省略する。
[フレーム種別判定処理]
まず、図25を参照して、本発明の第6の実施例にかる映像品質推定装置のフレーム種別判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図4のステップ102におけるフレーム種別判定処理において、図25のフレーム種別判定処理を実行する。
フレーム種別判定部15Bは、まず、TSパケット取得部15Aで取得したTSパケットを記憶部14から読み出し、そのTSヘッダ部からpayload_unit_start_indicator情報を取得する(ステップ120)。
ここで、payload_unit_start_indicator情報が「1」でない場合(ステップ121:NO)、当該TSパケットがフレーム先頭のTSパケットではないことから、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cに「1」を加えて当該フレームのTSパケット数を計数する(ステップ122)。
この後、フレーム種別判定部15Bは、記憶部14の設定情報に基づいて、当該ストリームのCODECにおいて、前述のRAI情報またはESPI情報を利用可能か判定し(ステップ600)、RAI/ESPI情報が利用不可能であれば(ステップ600:NO)、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
また、当該ストリームのCODECにおいて、RAI/ESPI情報を利用可能な場合には(ステップ600:YES)、フレーム種別判定部15Bは、RAI/ESPI情報をTSヘッダ部から取得し、当該RAI/ESPI情報が「1」でない場合(ステップ601:NO)、当該TSパケットのフレームがIフレームではないことが確認されたことから、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
一方、当該RAI/ESPI情報が「1」の場合(ステップ601:YES)、フレーム種別判定部15Bは、当該TSパケットのフレームがIフレームであることが確認されたことから、そのフレーム種別判定結果を記憶部14のIフレーム先頭情報配列の末尾に新たな配列データとして、Iフレームを示す値「I」を格納する(ステップ602)。このIフレーム先頭情報配列は、判定用配列14Eと同様の配列であり、payload_unit_start_indicator情報で識別したフレーム区切りごとに、当該フレームがIフレームか否かを示す配列である。この後、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
また、ステップ121において、payload_unit_start_indicator情報が「1」の場合(ステップ121:YES)、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cをフレームデータ量配列14Dの末尾に新たな配列データとして格納した後(ステップ123)、フレームデータ量14Cをゼロクリアする(ステップ124)。
次に、フレーム種別判定部15Bは、係数として与えられた判定期間を用いた、後述する図14のIフレーム判定処理を実行した後(ステップ300)、係数として調整係数を用いた、後述する図15のP,Bフレーム判定処理を実行する(ステップ301)。
これにより、フレームデータ量配列14Dのうち次に現れるIフレームまでの各フレームについて、I,P,Bフレームのいずれかを示すフレーム種別判定結果が記憶部14の判定結果配列14Fに格納される。
続いて、フレーム種別判定部15Bは、フレーム種別判定が終了した各フレームに対応するフレームデータ量を、記憶部14のフレームデータ量配列14Dから削除する(ステップ135)。
この後、フレーム種別判定部15Bは、ステップ600と同様にして、当該ストリームのCODECにおいてRAI/ESPI情報が利用可能か確認し(ステップ610)、RAI/ESPI情報が利用可能な場合にのみ(ステップ610:YES)、記憶部14のIフレーム先頭情報配列をクリアし(ステップ611)、一連のフレーム種別判定処理を終了する。
[Iフレーム判定処理]
次に、図26を参照して、本発明の第6の実施例にかかる映像品質推定装置のIフレーム判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図13のステップ300におけるIフレーム判定処理において、図26のIフレーム判定処理を実行する。
まず、フレーム種別判定部15Bは、記憶部14のフレームデータ量配列14Dの配列長、すなわちデータ数と、係数として与えられた判定期間、ここでは最大GOP長とを比較する(ステップ310)。
ここで、配列長が最大GOP長未満の場合(ステップ310:NO)、フレーム種別判定部15Bは、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
一方、配列長が最大GOP長以上の場合(ステップ310:YES)、フレーム種別判定部15Bは、前述した図8Aに示すように、最大GOP長分のデータ(F1〜F17)を、記憶部14のフレームデータ量配列14Dから判定用配列14Eへ格納する(ステップ311)。
続いて、フレーム種別判定部15Bは、ステップ600と同様にして、当該ストリームのCODECにおいてRAI/ESPI情報が利用可能か確認し(ステップ620)、RAI/ESPI情報が利用可能な場合(ステップ620:YES)、記憶部14のIフレーム先頭情報配列に格納されているIフレーム判定結果を記憶部14の判定結果配列14Fへ格納し(ステップ621)、一連のIフレーム判定処理を終了する。
一方、RAI/ESPI情報が利用不可能な場合(ステップ620:NO)、フレーム種別判定部15Bは、前述した図8Bに示すように、判定用配列14Eのうち、フレームデータ量が最大値を示すデータ(F15)に対応するフレームをIフレームと判定して、その判定結果を記憶部14の判定結果配列14Fへ格納し(ステップ312)、一連のIフレーム判定処理を終了する。
[第6の実施例の効果]
このように、本実施例は、演算処理部15のフレーム種別判定部15Bでのフレーム種別判定処理において、TSヘッダ部のアダプテーションフィールド部内のRAI情報またはESPI情報に基づいてIフレームを判定するようにしたので、Iフレームの判定処理を簡略化できるとともに、高い判定精度を得ることが可能となる。
また、本実施例では、図24のステップ610,620および図25のステップ630において、RAI/ESPI情報の利用可否を逐次判定する場合を例として説明したが、本実施例にかかる映像品質推定装置を、RAI/ESPI情報が利用可能な環境でのみ用いる場合には、上記判定処理と図24のステップ312を省くことができる。
また、本実施例では、第3の実施例で説明した図13のフレーム種別判定処理に適応した場合を例として説明したが、第4の実施例や第5の実施例にも、以上と同様にして適用可能であり、同様の作用効果が得られる。
例えば、第4の実施例では、前述した図20のステップ122の後段に、図25のステップ600〜602を追加し、図20のステップ135の後段に、図25のステップ610,611を追加し、図20のステップ300として、図26のIフレーム判定処理を実行すればよい。また、第5の実施例では、前述した図24のステップ122の後段に、図25のステップ600〜602を追加し、図24のステップ135の後段に、図25のステップ610,611を追加し、図24のステップ300として、図26のIフレーム判定処理を実行すればよい。
[第7の実施例]
次に、本発明の第7の実施例にかかる映像品質推定装置について説明する。
第3の実施例では、図13に示したように、複数のTSパケットに分割して格納された各フレームについて、フレーム開始位置を示すpayload_unit_start_indicator情報などのフレーム区切り判定情報に基づきフレーム区切り判定する場合について説明した。この場合、payload_unit_start_indicator情報を格納するIPパケットのロスが発生した際、payload_unit_start_indicator情報に基づいて、フレーム開始位置すなわちフレーム区切りを判定することができなくなる。
図27において、送信側は、所定のGOP構成に基づいてフレームを複数のIPパケットに分割して順に送信している。この場合、典型GOP長が15フレームであり、フレームF1〜F15が1つのGOP構成となる。これらフレームのうち、フレームF3の先頭パケットでロスAが発生し、フレームF4の先頭パケットでロスBが発生し、フレームF4内のパケットでロスC,Dが発生している。したがって、2つのフレーム区切りを含む4つのロスA,B,C,Dが発生したことになる。
受信側では、ロスA,Bによりフレーム区切り判定情報であるpayload_unit_start_indicator情報が欠落したため、送信側フレームF2−F4が1つのフレームF2として見えてしまう。このため、フレーム種別判定の精度が低下する原因となる。
図27の例では、図6で述べたRTPシーケンス番号(RTP−SEQ:RTP-Sequence Number)およびTSヘッダの連続性指標(CC:continuity_counter)からTSパケットのロスとしてパケットロスA〜Dが検出できる。また、次のIフレーム(F16)までに受信したフレーム数「13」と典型GOP長である15フレームを比較して、ロスしたフレーム数「2」を確認できる。したがって、4つのパケットロスA〜Dのうちフレーム区切りを含むパケットロスは2つとなるため、フレーム区切り判定情報がどのIPパケットロスで欠損したかを想定したパターン、すなわち区切り補間パターンは、4×3/2=6通りとなる。
本実施例は、これら区切り補間パターンのそれぞれについて、当該区切りパターンでフレームを区切った場合のフレーム構成についてフレーム種別判定処理を実行し、得られたフレーム種別判定結果が予め設定されているGOP構成に合致したものを、フレーム種別判定結果として選択する場合について説明する。
なお、本実施例にかかる映像品質推定装置の構成については、演算処理部15のフレーム種別判定部15Bにおける処理の内容が異なるものの、その他の構成については第1の実施例(図1参照)と同等であり、ここでの詳細な説明は省略する。
[TSパケット取得処理]
まず、図28を参照して、本発明の第7の実施例にかかる映像品質推定装置のTSパケット取得処理について説明する。図28において、前述の図5と同じまたは同等部分には同一符号を付してある。
演算処理部15のTSパケット取得部15Aは、図4のステップ101におけるTSパケット取得処理において、まず、通信I/F部11から出力されたIPパケットから、当該IPパケットに格納されているすべてのTSパケットの取り出しが終了したか確認し(ステップ700)、すべてのTSパケットの取り出しが終了していない場合には(ステップ700:NO)、後述するステップ110へ移行する。
一方、すべてのTSパケットの取り出しが終了した場合(ステップ700:YES)、TSパケット取得部15Aは、通信I/F部11から出力された新たなIPパケットを1つ取り込み(ステップ701)、この新たなIPパケットのRTPシーケンス番号(RTP−SEQ)と直前IPパケットのRTPシーケンス番号との差分が1より大きいか否か確認する(ステップ702)。RTPシーケンス番号はIPパケットの送信順に連番で付与されていることから、IPパケットが正常に受信されている場合、双方のRTPシーケンス番号差は1となる。したがって、RTPシーケンス番号差が1より大きい場合には直前IPパケットがパケットロスしたことを確認できる。
ここで、双方のRTPシーケンス番号差が1より大きい場合(ステップ702:YES)、TSパケット取得部15Aは、記憶部14のロス有無フラグに「1」を格納し(ステップ703)、RTPシーケンス番号差が1より大きくない場合(ステップ702:NO)、TSパケット取得部15Aは、記憶部14のロス有無フラグに「0」を格納する(ステップ704)。
ロス有無フラグは、現在TSパケットを取得中のIPパケットの直前で、IPパケットロスが発生したか否かを示す情報であり、値「1」でパケットロス発生有りを示し、値「0」でパケットロス発生有りを示す。図28の処理例では、新たなIPパケットが取得されるごとにロス有無フラグの値が更新される。
この後、TSパケット取得部15Aは、当該IPパケットから新たなTSパケットを取り出し(ステップ110)、当該TSパケットのTSヘッダ部からPIDを取得する(ステップ111)。
続いて、TSパケット取得部15Aは、取得したPIDと記憶部14の処理対象PIDとを比較し(ステップ112)、両PIDが不一致の場合には(ステップ112:NO)、ステップ700へ戻って次のTSパケットに対する処理へ移行する。
一方、両PIDが一致した場合(ステップ112:YES)、TSパケット取得部15Aは、当該TSパケットを処理対象のTSパケットとして記憶部14へ一次保存し(ステップ113)、一連のTSパケット取得処理を終了する。
[フレーム種別判定処理]
次に、図29および図30を参照して、本発明の第7の実施例にかる映像品質推定装置のフレーム種別判定処理について説明する。図29において、前述の図25と同じまたは同等部分には同一符号を付してある。
演算処理部15のフレーム種別判定部15Bは、図4のステップ102におけるフレーム種別判定処理において、図29のフレーム種別判定処理を実行する。
フレーム種別判定部15Bは、まず、記憶部14から前述した図28のTSパケット取得処理で更新したロス有無フラグを読み出し、その値が直前IPパケットのパケットロス発生有りを示す「1」である場合(ステップ710:YES)、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cを、記憶部14の暫定フレームデータ量配列の末尾に新たな配列データとして格納するとともに(ステップ711)、記憶部14の区切り種別配列に「ロス」を格納し(ステップ712)、フレームデータ量14Cをゼロクリアした後(ステップ713)、図28のステップ700へ戻って次のTSパケットに対する処理へ移行する。
これにより、ロス有無フラグに基づき検出したIPパケットロスまでに連続して受信した1つ以上のTSパケットのブロックが暫定フレームとして識別され、そのフレームデータ量が暫定フレームデータ量配列に格納されるとともに、その区切り種別が区切り種別配列に格納される
暫定フレームデータ量配列は、図30に示すように、1つのGOP構成内で、TSヘッダ部のpayload_unit_start_indicator情報(またはRTPヘッダのマーカービット(MB)情報)に基づき区別できた正常なフレームと、ロス有無フラグに基づき検出したIPパケットロスで区別した一時的なフレームとからなる暫定フレームについて、当該暫定フレームに関するフレームデータ量を示す配列データである。
また、区切り種別配列は、図30に示すように、暫定フレームごとに、当該暫定フレームに関する区切りの種別を示す種別情報を示す配列データであり、当該暫定フレームがpayload_unit_start_indicator情報に基づき区別できた正常なフレームの場合には値「PUSI」を示し、IPパケットロスで区別されたフレームの場合には値「ロス」を示す。なお、図30の例では、IPパケットのうちRTPシーケンス番号が「76」、「81」、「91」、「95」の4つのIPパケットでパケットロスが発生しており、これらは図27で示したパケットロスA,B,C,Dに相当している。これらパケットロスが、区切り種別配列のうち暫定フレームf3,f4,f5,f6に対応する値「ロス」に現れている。
一方、ステップ710において、ロス有無フラグの値が直前IPパケットのパケットロス発生なしを示す「0」である場合(ステップ710:NO)、フレーム種別判定部15Bは、TSパケット取得部15Aで取得したTSパケットを記憶部14から読み出し、そのTSヘッダ部からpayload_unit_start_indicator情報を取得する(ステップ120)。
ここで、payload_unit_start_indicator情報が「1」でない場合(ステップ121:NO)、当該TSパケットがフレーム先頭のTSパケットではないことから、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cに「1」を加えて当該フレームのTSパケット数を計数する(ステップ122)
この後、フレーム種別判定部15Bは、記憶部14の設定情報に基づいて、当該ストリームのCODECにおいて、前述のRAI情報またはESPI情報を利用可能か判定し(ステップ600)、RAI/ESPI情報が利用不可能であれば(ステップ600:NO)、図28のステップ700へ戻って次のTSパケットに対する処理へ移行する。
また、当該ストリームのCODECにおいて、RAI/ESPI情報を利用可能な場合には(ステップ600:YES)、フレーム種別判定部15Bは、RAI/ESPI情報をTSヘッダ部から取得し、当該RAI/ESPI情報が「1」でない場合(ステップ601:NO)、当該TSパケットのフレームがIフレームではないことが確認されたことから、図28のステップ700へ戻って次のTSパケットに対する処理へ移行する。
一方、当該RAI/ESPI情報が「1」の場合(ステップ601:YES)、フレーム種別判定部15Bは、当該TSパケットのフレームがIフレームであることが確認されたことから、そのフレーム種別判定結果を記憶部14のIフレーム先頭情報配列の末尾に新たな配列データとして、Iフレームを示す値「I」を格納する(ステップ602)。このIフレーム先頭情報配列は、判定用配列14Eと同様の配列であり、payload_unit_start_indicator情報で識別したフレーム区切りごとに、当該フレームがIフレームか否かを示す配列である。この後、図28のステップ700へ戻って次のTSパケットに対する処理へ移行する。
また、ステップ121において、payload_unit_start_indicator情報が「1」の場合(ステップ121:YES)、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cを、記憶部14の暫定フレームデータ量配列の末尾に新たな配列データとして格納するとともに(ステップ720)、記憶部14の区切り種別配列に「PUSI」を格納し(ステップ721)、フレームデータ量14Cをゼロクリアする(ステップ124)。
これにより、payload_unit_start_indicator情報に基づき検出した正常なフレームが暫定フレームとして識別され、そのフレームデータ量が暫定フレームデータ量配列に格納されるとともに、その区切り種別が区切り種別配列に格納される。
次に、フレーム種別判定部15Bは、後述する図31の最適補間パターン選択処理を実行することにより(ステップ722)、フレーム区切り判定情報がどのIPパケットロスで欠損したかを想定した区切り補間パターンを作成して、これら区切り補間パターンのうちから最適補間パターンを選択し、当該最適補間パターンによるフレーム判定結果を記憶部14から取得する(ステップ723)。
続いて、フレーム種別判定部15Bは、フレーム種別判定が終了した各フレームに対応するフレームデータ量を、記憶部14のフレームデータ量配列14Dから削除する(ステップ135)。
この後、フレーム種別判定部15Bは、ステップ600と同様にして、当該ストリームのCODECにおいてRAI/ESPI情報が利用可能か確認し(ステップ610)、RAI/ESPI情報が利用可能な場合にのみ(ステップ610:YES)、記憶部14のIフレーム先頭情報配列をクリアし(ステップ611)、一連のフレーム種別判定処理を終了する。
[最適補間パターン選択処理]
次に、図31を参照して、本発明の第7の実施例にかかる映像品質推定装置の最適補間パターン選択処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図29のステップ722における最適補間パターン選択処理において、図31の最適補間パターン選択処理を実行する。
フレーム種別判定部15Bは、まず、記憶部14の区切り種別配列を参照して、暫定フレームのうち値「PUSI」を示す正常区切りフレーム数を計数することにより暫定GOP長を算出し(ステップ730)、係数として与えられた判定期間、ここでは最大GOP長(17フレーム)とを比較する(ステップ731)。
ここで、暫定GOP長が最大GOP長未満の場合(ステップ731:NO)、フレーム種別判定部15Bは、図28のステップ700へ戻って次のTSパケットに対する処理へ移行する。
一方、暫定GOP長が最大GOP長以上の場合(ステップ731:YES)、フレーム種別判定部15Bは、最大GOP長分に相当する配列データを、記憶部14の暫定フレームデータ量配列から判定用配列14Eへ格納する(ステップ732)。
この場合、暫定フレームデータ量配列には、IPパケットロスをフレーム区切りとする暫定フレームに関する配列データも含まれていることから、配列先頭から数えて最大GOP長分の配列データを選択すると1つのGOP構成分の暫定フレームを正確に選択できない場合がある。
したがって、暫定フレームを余分に選択するために、例えば、区切り種別配列の値が「PUSI」を示す暫定フレームの数で計数して、配列先頭から最大GOP長数までの暫定フレーム分の配列データを選択すればよい。
図30の例では、最大GOP長を17フレームとした場合、区切り種別配列の値が「PUSI」を示す暫定フレームで数えると、暫定フレームf21が先頭(f1)から17個目に相当する。このため、暫定フレームf1〜f21が暫定フレームデータ量配列から判定用配列14Eへ格納される。
次に、フレーム種別判定部15Bは、記憶部14の判定用配列14Eの内容に基づいて、Iフレーム判定処理を行う(ステップ733)。このIフレーム判定処理において、フレーム種別判定部15Bは、前述した図26のIフレーム判定処理のうち、ステップ620,621,312のみを実行する。
これにより、判定用配列14E内の各暫定フレームのうち、次のGOP構成の先頭に位置するIフレームが検出される。したがって、図30の例では、暫定フレームf18がIフレームとして判定され、記憶部14のIフレーム先頭情報配列のうち、暫定フレームf18の配列データにIフレームを示す値「I」が格納される。
続いて、フレーム種別判定部15Bは、記憶部14の区切り種別配列に基づいて、ロスフレーム分、すなわち値が「ロス」を示す暫定フレームに対する区切り補間パターンを作成する(ステップ734)。
具体的には、フレーム種別判定部15Bは、まず、記憶部14のIフレーム先頭情報配列を参照して、暫定フレームf1のIフレームから次のIフレーム直前の暫定フレームf18までを1つのGOP構成と見なし、記憶部14の区切り種別配列のうち、値が「PUSI」を示す暫定フレーム数をGOP長として計数し、記憶部14に予め設定されている典型GOP長との差分から、ロスフレーム数を算出する。
次に、フレーム種別判定部15Bは、記憶部14の区切り種別配列のうち、値が「ロス」を示す暫定フレームのうちからロスフレーム数分を選択する全組み合わせを、区切り補間パターンとして作成し、記憶部14へ保存する。
図30の例において、GOP長は13フレームとなるから、典型GOP長が15フレームの場合、ロスフレーム数は2となる。したがって、値「ロス」を示す暫定フレームf2〜f6のうち、いずれか2つの暫定フレームの先頭で、payload_unit_start_indicator情報が欠落したことになる。このため、区切り補間パターンとして、P1〜P6の6通り(4×3/2)が作成される。
このようにして、区切り補間パターンを作成した後、フレーム種別判定部15Bは、記憶部14から未処理(未判定)の区切り補間パターンを1つ選択し(ステップ735)、この区切り補間パターンに基づき、記憶部14の判定用配列14Eを更新する(ステップ736)。
例えば、区切り補間パターンとして、図30のP1を選択した場合、暫定フレームf2,f3,f4から送信側フレームF2が構成され、暫定フレームf5から送信側フレームF3が構成され、暫定フレームf6から送信側フレームF4が構成される。
このため、記憶部14の暫定フレームデータ量配列のうち、暫定フレームf2,f3,f4のフレームデータ量の合計が、判定用配列14EのうちフレームF2のフレームデータ量として格納される。同様に、暫定フレームf5,f6のフレームデータ量が、判定用配列14EのうちフレームF3,F4のフレームデータ量としてそれぞれ格納される。また、このほか最大GOP長分に相当する暫定フレームf1,f7〜f20のフレームデータ量も、判定用配列14Eのうち対応するフレームのフレームデータ量としてそれぞれ格納される。
続いて、フレーム種別判定部15Bは、更新した判定用配列14Eの内容に基づいて、Iフレーム判定処理を行った後(ステップ737)、P,Bフレーム判定処理を行い(ステップ734)、得られたフレーム種別判定結果を、記憶部14の判定結果配列14Fから読み出し、当該区切り補間パターンに関連付けて記憶部14へ保存する(ステップ738)。この際、フレーム種別判定部15Bは、ステップ737のIフレーム判定処理において、前述した図26のIフレーム判定処理を実行し、ステップ734のP,Bフレーム判定処理において、前述した図15のP,Bフレーム判定処理を実行する。
この後、フレーム種別判定部15Bは、すべての区切り補間パターンについて、フレーム種別判定処理が終了したか確認し(ステップ739)、未処理の区切り補間パターンが残っている場合には(ステップ739:NO)、ステップ735へ戻って未処理の区切り補間パターンに対するフレーム種別判定を実行する。
また、すべての区切り補間パターンに対するフレーム種別判定が終了した場合には(ステップ739:YES)、区切り補間パターンごとに得られたフレーム種別判定結果のうち、記憶部14に予め設定されている典型GOP構成と合致するものを、最適補間パターンとして選択して記憶部14に保存し(ステップ740)、一連の最適補間パターン選択処理を終了する。
典型的なGOP構成としては、例えばフレーム種別が「IBBPBBPBBPBBPBB」で、GOP長が15フレームからなる構成があり、1つまたは複数のGOP構成を記憶部14に予め設定しておけばよい。図30の例では、区切り補間パターンP6の場合、暫定フレームf2から送信側フレームF2が構成され、暫定フレームf3から送信側フレームF3が構成され、暫定フレームf4,f5,f6から送信側フレームF4が構成される。これにより、フレームF2,F3,F4のフレームデータ量は、それぞれ10,15,70となるため、フレーム種別判定結果が上記典型GOP構成と合致する。
[第7の実施例の効果]
このように、本実施例では、演算処理部15のフレーム種別判定部15Bでのフレーム種別判定処理において、当該エレメンタリストリームで発生したパケットロスを検出し、フレーム開始位置を示すフレーム区切り判定情報がどのパケットロスで欠損したかを想定し、この想定結果に応じて得られたフレーム開始位置に基づいてフレーム種別判定を行うようにしたので、通信ネットワークでIPパケットのロスが発生した際に、フレーム区切り判定情報が欠損した場合でも、精度の高いフレーム種別判定を行うことが可能となる。
また、フレーム区切り判定情報がどのパケットロスで欠損したかを想定した区切り補間パターンを複数作成して、これら区切り補間パターンに応じたフレーム開始位置に基づいて区切り補間パターンごとにフレーム種別判定を行い、得られたフレーム種別判定結果のうちから、記憶部14に予め設定されている典型GOP構成と合致する最適補間パターンのフレーム種別判定結果を選択するようにしたので、より精度の高いフレーム種別判定を行うことが可能となる。
また、本実施例では、第3の実施例をベースとした第6の実施例で説明した図13のフレーム種別判定処理に適応した場合を例として説明したが、第4の実施例や第5の実施例をベースとした第6の実施例にも、以上と同様にして適用可能であり、同様の作用効果が得られる。
例えば、第4の実施例をベースとする場合には、前述した図31のステップ301に代えて、前述した図20のステップ400およびステップ134を実行すればよい。また、第5の実施例をベースとする場合には、前述した図31のステップ301の直後に、前述した図24のステップ400およびステップ134を実行すればよい。
[フレーム種別判定処理例]
次に、本発明の第7の実施例にかる映像品質推定装置のフレーム種別判定処理例について説明する。
以下では、第6の実施例で説明した、TSパケットのアダプテーションフィールドに格納されているRAI情報やESPI情報などのIフレーム識別情報を用いてIフレームを識別する場合に適用される第1のフレーム種別判定処理例について説明し、上記Iフレーム識別情報を用いないでIフレームを識別する場合に適用される第2のフレーム種別判定処理例について説明する。
[第1のフレーム種別判定処理例]
まず、図32、図33A、図33B、図34A、図34B、および図35を参照して、第6の実施例で説明した、RAI情報やESPI情報などのIフレーム識別情報を用いてIフレームを識別する場合に用いられる第1のフレーム種別判定処理例について説明する。
ここでは、当該ストリーム内の各フレームは、TSヘッダ部のpayload_unit_start_indicator(PUSI)情報やRTPヘッダのマーカービット(MB:Markerbit)情報などのフレーム識別情報(PUSI/MB)により識別され、そのうちIフレームは、TSパケットのアダプテーションフィールドのIフレーム識別情報(RAI/ESPI)に基づき識別される。なお、GOP内のフレーム種別出現パターンにおいて、繰り返し出現する「IBBPBB」などの典型的な出現パターンが存在するものとする。
まず、図32を参照して、パケットロスが発生していない場合について説明する。
図32に示すように、パケットロスが発生していない場合、Iフレーム識別情報に基づきフレームF1がIフレームであると認識された後、それ以降の最大GOP長(例えば17フレーム)以内においてIフレーム識別情報が検出される。したがって、Iフレーム識別情報が検出フレームされたフレームF16がIフレームであると認識できる。
次に、図33Aおよび図33Bを参照して、Iフレーム先頭でパケットロスが発生した場合について説明する。
図33Aに示すように、Iフレーム(F16)の先頭IPパケットのみがロスした場合、Iフレーム識別情報に基づきフレームF1がIフレームであると認識された後、それ以降の最大GOP長以内においてIフレーム識別情報が検出されない。したがって、ロスしたIPパケットは、Iフレーム識別情報とフレーム識別情報を含んでいたと認識できる。
図33Aの場合の認識は、Iフレームの先頭IPパケットのみロスした場合だけでなく、Iフレームの先頭IPパケットと、当該先頭IPパケットに連続する1つの次IPパケットからなる、合計2つの連続するIPパケットのみがロスした場合にも適用できる。
一方、図33Bに示すように、Iフレーム(F16)の先頭IPパケットと、当該先頭IPパケットに連続する複数の次IPパケット(映像データ)からなる、合計3つ以上の連続するIPパケットのみがロスした場合、Iフレーム識別情報に基づきフレームF1がIフレームであると認識された後、それ以降の最大GOP長以内においてIフレーム識別情報が検出されない。したがって、ロスしたIPパケットのうちのいずれか1つはIフレーム識別情報とフレーム識別情報を含んでいたと認識できる。
続いて、ロスした各IPパケットにフレーム識別情報(PUSI/MB)が含まれていたと見なしてフレーム種別判定を行い、その判定結果が「IBBPBB」の出現パターンであったならば、これらIPパケットのうち先頭IPパケットにIフレーム識別情報(RAI/ESPI)が含まれていたと認識できる。なお、このフレーム種別判定では、「IBBPBBで構成された際の典型GOP長=フレーム識別情報の個数+フレーム識別情報を含むと見なしたロスIPパケットの個数」という条件を満たす組み合わせについて、総当たりでフレーム種別判定を行う。もし、上記条件を満たす組み合わせが複数存在する場合には、フレーム種別(P,B)ごとのフレーム内データ量のバラツキが少ない組み合わせの判定結果を選択すればよい。
次に、図34Aおよび図34Bを参照して、Iフレーム先頭ではパケットロスが発生せず、B,Pフレーム先頭でパケットロスが発生した場合について説明する。
図34Aに示すように、Iフレーム(F16)の先頭IPパケットはロスせず、Bフレーム(F2)の先頭IPパケットのみがロスした場合、Iフレーム識別情報に基づきフレームF1がIフレームであると認識された後、それ以降の最大GOP長(例えば17フレーム)以内においてIフレーム識別情報が検出される。したがって、Iフレーム識別情報が検出フレームされたフレームF16がIフレームであると認識できる。
続いて、ロスした各IPパケットにフレーム識別情報(PUSI/MB)が含まれていたと見なしてフレーム種別判定を行い、その判定結果が「IBBPBB」の出現パターンであったならば、これらIPパケットにフレーム識別情報(PUSI/MB)が含まれていたと認識できる。
図34Aの場合の認識は、Bフレームの先頭IPパケットのみロスした場合だけでなく、Pフレームの先頭IPパケットのみロスした場合にも適用できる。さらに、B,Pフレームの先頭IPパケットと、当該先頭IPパケットに連続する1つの次IPパケットからなる、合計2つの連続するIPパケットのみがロスした場合にも適用できる。
一方、図34Bに示すように、Iフレーム(F16)の先頭IPパケットはロスせず、Bフレーム(F2)の先頭IPパケットと、Pフレーム(F7)の先頭IPパケットとを含む、合計2つ以上のIPパケットがロスした場合、Iフレーム識別情報に基づきフレームF1がIフレームであると認識された後、それ以降の最大GOP長(例えば17フレーム)以内においてIフレーム識別情報が検出される。したがって、Iフレーム識別情報が検出されたフレームF16がIフレームであると認識できる。
続いて、ロスした各IPパケットにフレーム識別情報(PUSI/MB)が含まれていたと見なしてフレーム種別判定を行い、その判定結果が「IBBPBB」の出現パターンであったならば、これらIPパケットにフレーム識別情報(PUSI/MB)が含まれていたと認識できる。なお、このフレーム種別判定では、「IBBPBBで構成された際の典型GOP長=フレーム識別情報の個数+フレーム識別情報を含むと見なしたロスIPパケットの個数」という条件を満たす組み合わせについて、総当たりでフレーム種別判定を行う。もし、上記条件を満たす組み合わせが複数存在する場合には、フレーム種別(P,B)ごとのフレーム内データ量のバラツキが少ない組み合わせの判定結果を選択すればよい。
図34Bの場合の認識は、Bフレームの先頭IPパケットとPフレームの先頭IPパケットでロスした場合だけでなく、2つのBフレームの先頭IPパケットでロスした場合や2つのPフレームの先頭IPパケットでロスした場合にも適用できる。さらに、ロスしたB,Pフレームの先頭IPパケットのいずれかで、当該先頭IPパケットに連続する1つ以上のIPパケットがロスしている場合にも適用できる。
次に、図35を参照して、Iフレーム先頭と、B,Pフレーム先頭でパケットロスが発生した場合について説明する。
図35に示すように、Bフレーム(F2)の先頭IPパケットと、Pフレーム(F7)の中間IPパケット(映像データ)と、Iフレーム(F16)の先頭IPパケットとがロスした場合、Iフレーム識別情報に基づきフレームF1がIフレームであると認識された後、それ以降の最大GOP長以内においてIフレーム識別情報が検出されない。したがって、これらロスした各IPパケットのうちいずれか1つは、Iフレーム識別情報とフレーム識別情報を含んでおり、その他のIPパケットはフレーム識別情報を含んでいたと認識できる。
続いて、ロスした各IPパケットにフレーム識別情報(PUSI/MB)が含まれていたと見なしてフレーム種別判定を行い、その判定結果が「IBBPBB」の出現パターンであったならば、これらIPパケットにフレーム識別情報が含まれていたと認識できる。なお、このフレーム種別判定では、「IBBPBBで構成された際の典型GOP長=フレーム識別情報の個数+フレーム識別情報を含むと見なしたロスIPパケットの個数」という条件を満たす組み合わせについて、総当たりでフレーム種別判定を行う。もし、上記条件を満たす組み合わせが複数存在する場合には、フレーム種別(P,B)ごとのフレーム内データ量のバラツキが少ない組み合わせの判定結果を選択すればよい。
なお、典型GOP長の位置にあったロスIPパケットは、フレーム識別情報(PUSI/MB)とIフレーム識別情報(RAI/ESPI)が含まれていたと認識できる。
また、図35の場合の認識は、ロスしたI,B,Pフレームの先頭IPパケットのいずれかで、当該先頭IPパケットに連続する1つ以上のIPパケットがロスしている場合にも適用できる。
[第2のフレーム種別判定処理例]
次に、図36A、図36B、図37A、図37B、図38を参照して、第6の実施例で説明した、RAI情報やESPI情報などのIフレーム識別情報を用いないでIフレームを識別する場合に用いられる第2のフレーム種別判定処理例について説明する。
ここでは、当該ストリーム内の各フレームは、TSヘッダ部のpayload_unit_start_indicator(PUSI)情報やRTPヘッダのマーカービット(MB:Markerbit)情報などのフレーム識別情報(PUSI/MB)により識別され、そのうちIフレームは、フレームデータ量に基づき識別される。なお、GOP内のフレーム種別出現パターンにおいて、繰り返し出現する「IBBPBB」などの典型的な出現パターンが存在するものとする。
まず、図36Aおよび図36Bを参照して、Iフレーム先頭でパケットロスが発生した場合について説明する。
図36Aに示すように、Iフレーム(F16)の先頭IPパケットのみがロスした場合、フレームF1がIフレームであると認識された後、それ以降の最大GOP長以内において、フレームデータ量が最大のフレーム(F16)をIフレームと仮定できる。また、仮定したIフレームの内部にIPパケットのロスが含まれているため、そのIPパケットにフレーム識別情報(PUSI/MB)が含まれていたと見なす。
続いて、ロスしたIPパケットにフレーム識別情報が含まれていたと見なしてフレーム種別判定を行い、その判定結果が「IBBPBB」の出現パターンであったならば、当該IPパケットにフレーム識別情報が含まれていたと認識できる。
図36Aの場合の認識は、Iフレームの先頭IPパケットのみロスした場合だけでなく、Iフレームの先頭IPパケットと、当該先頭IPパケットに連続する1つの次IPパケットからなる、合計2つの連続するIPパケットのみがロスした場合にも適用できる。
一方、図36Bに示すように、Iフレーム(F16)の先頭IPパケットと、当該先頭IPパケットに連続する複数の次IPパケット(映像データ)からなる、合計3つ以上の連続するIPパケットのみがロスした場合、フレームF1がIフレームであると認識された後、それ以降の最大GOP長以内において、フレームデータ量が最大のフレーム(F16)をIフレームと仮定できる。また、仮定したIフレームの内部にIPパケットのロスが含まれているため、そのIPパケットにフレーム識別情報(PUSI/MB)が含まれていたと見なす。
続いて、ロスした各IPパケットにフレーム識別情報が含まれていたと見なしてフレーム種別判定を行い、その判定結果が「IBBPBB」の出現パターンであったならば、各IPパケットにフレーム識別情報が含まれていたと認識できる。なお、このフレーム種別判定では、「IBBPBBで構成された際の典型GOP長=フレーム識別情報の個数+フレーム識別情報を含むと見なしたロスIPパケットの個数」という条件を満たす組み合わせについて、総当たりでフレーム種別判定を行う。もし、上記条件を満たす組み合わせが複数存在する場合には、フレーム種別(P,B)ごとのフレーム内データ量のバラツキが少ない組み合わせの判定結果を選択すればよい。
次に、図37Aおよび図37Bを参照して、Iフレーム先頭ではパケットロスが発生せず、B,Pフレーム先頭でパケットロスが発生した場合について説明する。
図37Aに示すように、Iフレーム(F16)の先頭IPパケットはロスせず、Pフレーム(F7)の先頭IPパケットのみがロスした場合、フレームF1がIフレームであると認識された後、それ以降の最大GOP長以内において、フレームデータ量が最大のフレーム(F16)をIフレームと認識できる。また、Iフレーム(フレームF1)からのGOP内にIPパケットのロスが含まれているため、そのIPパケットにフレーム識別情報(PUSI/MB)が含まれていたと見なす。
続いて、ロスしたIPパケットにフレーム識別情報が含まれていたと見なしてフレーム種別判定を行い、その判定結果が「IBBPBB」の出現パターンであったならば、当該IPパケットにフレーム識別情報が含まれていたと認識できる。なお、このフレーム種別判定では、「IBBPBBで構成された際の典型GOP長=フレーム識別情報の個数+フレーム識別情報を含むと見なしたロスIPパケットの個数」という条件を満たす組み合わせについて、総当たりでフレーム種別判定を行う。もし、上記条件を満たす組み合わせが複数存在する場合には、フレーム種別(P,B)ごとのフレーム内データ量のバラツキが少ない組み合わせの判定結果を選択すればよい。
図37Aの場合の認識は、Bフレームの先頭IPパケットのみロスした場合だけでなく、Pフレームの先頭IPパケットのみロスした場合にも適用できる。さらに、B,Pフレームの先頭IPパケットと、当該先頭IPパケットに連続する1つの次IPパケットからなる、合計2つの連続するIPパケットのみがロスした場合にも適用できる。
一方、図37Bに示すように、Iフレーム(F16)の先頭IPパケットはロスせず、Bフレーム(F2)の先頭IPパケットと、Pフレーム(F7)の先頭IPパケットとを含む、合計2つ以上のIPパケットがロスした場合、フレームF1がIフレームであると認識された後、それ以降の最大GOP長以内において、フレームデータ量が最大のフレーム(F16)をIフレームと認識できる。また、Iフレーム(フレームF1)からのGOP内にIPパケットのロスが含まれているため、そのIPパケットにフレーム識別情報(PUSI/MB)が含まれていたと見なす。
続いて、ロスしたIPパケットにフレーム識別情報が含まれていたと見なしてフレーム種別判定を行い、その判定結果が「IBBPBB」の出現パターンであったならば、当該IPパケットにフレーム識別情報が含まれていたと認識できる。なお、このフレーム種別判定では、「IBBPBBで構成された際の典型GOP長=フレーム識別情報の個数+フレーム識別情報を含むと見なしたロスIPパケットの個数」という条件を満たす組み合わせについて、総当たりでフレーム種別判定を行う。もし、上記条件を満たす組み合わせが複数存在する場合には、フレーム種別(P,B)ごとのフレーム内データ量のバラツキが少ない組み合わせの判定結果を選択すればよい。
図37Bの場合の認識は、Bフレームの先頭IPパケットとPフレームの先頭IPパケットでロスした場合だけでなく、2つのBフレームの先頭IPパケットでロスした場合や2つのPフレームの先頭IPパケットでロスした場合にも適用できる。さらに、ロスしたB,Pフレームの先頭IPパケットのいずれかで、当該先頭IPパケットに連続する1つ以上のIPパケットがロスしている場合にも適用できる。
次に、図38を参照して、Iフレーム先頭と、B,Pフレーム先頭でパケットロスが発生した場合について説明する。
図38に示すように、Bフレーム(F2)の先頭IPパケットと、Pフレーム(F7)の中間IPパケット(映像データ)と、Iフレーム(F16)の先頭IPパケットとがロスした場合、Iフレーム識別情報に基づきフレームF1がIフレームであると認識された後、それ以降の最大GOP長以内において、フレームデータ量が最大のフレーム(F16)をIフレームと認識できる。また、Iフレーム(フレームF1)からのGOP内にIPパケットのロスが含まれているため、そのIPパケットにフレーム識別情報(PUSI/MB)が含まれていたと見なす。
続いて、ロスした各IPパケットにフレーム識別情報が含まれていたと見なしてフレーム種別判定を行い、その判定結果が「IBBPBB」の出現パターンであったならば、各IPパケットにフレーム識別情報が含まれていたと認識できる。なお、このフレーム種別判定では、「IBBPBBで構成された際の典型GOP長=フレーム識別情報の個数+フレーム識別情報を含むと見なしたロスIPパケットの個数」という条件を満たす組み合わせについて、総当たりでフレーム種別判定を行う。もし、上記条件を満たす組み合わせが複数存在する場合には、フレーム種別(P,B)ごとのフレーム内データ量のバラツキが少ない組み合わせの判定結果を選択すればよい。
また、図38の場合の認識は、ロスしたI,B,Pフレームの先頭IPパケットのいずれかで、当該先頭IPパケットに連続する1つ以上のIPパケットがロスしている場合にも適用できる。
なお、以上の各実施例において、しきい値を用いた大小関係比較の詳細については、任意に設定すればよい。例えば、しきい値以上や、しきい値以下という判定については、しきい値を上回る、あるいはしきい値を下回るという判定に置き換えてもよい。また、このことは、しきい値に限らず判定範囲など、他の値を用いた大小関係を比較する際についても、同様である。
通信ネットワークを介して映像データをやり取りする映像アプリケーションでの映像品質の推定に有用であり、特に、電波を用いたデジタル放送などの映像配信や通信ネットワークを用いたデジタル放送のIP再送信など映像配信での映像品質の推定に適している。

Claims (18)

  1. 映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信について、演算処理部と記憶部とを有する映像品質推定装置により、当該TSパケットに基づき映像品質を推定する際に用いる映像品質推定方法であって、
    前記記憶部により、当該エレメンタリストリームのフレーム構成を記憶する記憶ステップと、
    前記演算処理部により、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定するフレーム種別判定ステップと、
    前記演算処理部により、このフレーム種別判定ステップで得られた各フレームのフレーム種別、前記記憶部から読み出した当該エレメンタリストリームのフレーム構成、および当該映像通信のTSパケットから検出したTSパケットの損失状況に基づいて、当該映像通信に関する映像品質を推定する映像品質推定ステップと
    を備えることを特徴とする映像品質推定方法。
  2. 請求項1に記載の映像品質推定方法において、
    前記フレーム種別判定ステップは、当該エレメンタリストリームにおけるIフレーム間隔以下の判定期間において時間的に連続する各フレームのうち、フレームデータ量が最大のフレームをIフレームと判定するステップを備えることを特徴とする映像品質推定方法。
  3. 請求項2に記載の映像品質推定方法において、
    前記判定期間は、当該エレメンタリストリームにおける最大GOP長からなることを特徴とする映像品質推定方法。
  4. 請求項1に記載の映像品質推定方法において、
    前記フレーム種別判定ステップは、Iフレームを含まない時間的に連続する所定数のフレームについて、当該エレメンタリストリームのフレーム構成と当該フレームのフレームデータ量の大小関係のパターンとの一致に応じて、PフレームおよびBフレームを判定するステップを備えることを特徴とする映像品質推定方法。
  5. 請求項4に記載の映像品質推定方法において、
    前記フレーム種別判定ステップは、当該エレメンタリストリームのフレーム構成に、複数のBフレーム、1つのPフレーム、および1つのBフレームからなるN(Nは4以上の整数)個のフレームが時間的にそれぞれ連続する判定用フレームパターンを含む場合、Iフレームを含まない時間的に連続するN個のフレームについて、先頭からN−2個目までの各フレームおよびN個目のフレームのフレームデータ量のすべてがN−1個目のフレームのフレームデータ量より小さい場合、N−1個目のフレームをPフレームと判定するステップを備えることを特徴とする映像品質推定方法。
  6. 請求項4に記載の映像品質推定方法において、
    前記フレーム種別判定ステップは、Iフレームを含まない時間的に連続する所定数のフレームのうち、Pフレームと判定されなかった残りのフレームをBフレームと判定するステップを備えることを特徴とする映像品質推定方法。
  7. 請求項1に記載の映像品質推定方法において、
    前記フレーム種別判定ステップは、異なる複数の出現パターンごとに予め設定されている、当該出現パターン内に含まれるフレームの位置とフレームデータ量との関係を示す判定基準が、当該エレメンタリストリームのうちIフレームを含まない時間的に連続する複数のフレームについて成立するか検査し、成立した判定基準に対応する出現パターンに基づき当該フレームの種別を判定するステップを備えることを特徴とする映像品質推定方法。
  8. 請求項7に記載の映像品質推定方法において、
    前記判定基準は、当該エレメンタリストリームの所定範囲内に位置する複数フレームのフレームデータ量の平均値に基づいて算出したしきい値と、当該出現パターン内のフレームのフレームデータ量との大小関係から構成されていることを特徴とする映像品質推定方法。
  9. 請求項1に記載の映像品質推定方法において、
    前記フレーム種別判定ステップは、前記TSパケットのヘッダ部に含まれているpayload_unit_start_indicator情報の値に基づいてフレーム開始位置を検出するステップを備えることを特徴とする映像品質推定方法。
  10. 請求項1に記載の映像品質推定方法において、
    前記フレーム種別判定ステップは、Iフレームを含まない時間的に連続する個々のフレームについて、当該フレームのフレームデータ量と所定のしきい値とを比較し、その比較結果に基づき当該フレームをPフレームまたはBフレームと判定するステップを備えることを特徴とする映像品質推定方法。
  11. 請求項1に記載の映像品質推定方法において、
    前記フレーム種別判定ステップは、Iフレームを含まない時間的に連続する個々のフレームのうち、先頭位置のフレームのフレームデータ量が所定のしきい値以上であって、かつ前記先頭位置から終了位置までのすべてのフレームのフレームデータ量が所定の判定範囲内に含まれる、所定数以上連続するフレームを、すべてPフレームと判定するステップを備えることを特徴とする映像品質推定方法。
  12. 請求項1に記載の映像品質推定方法において、
    前記フレーム種別判定ステップは、前記TSパケットのアダプテーションフィールド部に含まれているRAI(random_access_indicator)情報またはESPI(elementary_stream_priority_indicator)情報の値に基づいてIフレームを判定するステップを備えることを特徴とする映像品質推定方法。
  13. 請求項1に記載の映像品質推定方法において、
    前記フレーム種別判定ステップは、当該エレメンタリストリームで発生したパケットロスを検出して、前記フレーム開始位置を示すフレーム区切り判定情報がどのパケットロスで欠損したかを想定し、この想定結果に応じて得られたフレーム開始位置に基づいて前記フレーム種別判定を行うステップを備えることを特徴とする映像品質推定方法。
  14. 請求項13に記載の映像品質推定方法において、
    前記フレーム種別判定ステップは、前記フレーム区切り判定情報がどのパケットロスで欠損したかを想定した区切り補間パターンを複数作成して、これら区切り補間パターンに応じたフレーム開始位置に基づいて区切り補間パターンごとに前記フレーム種別判定を行い、得られたフレーム種別判定結果のうちから、前記記憶部に予め設定されている典型GOP構成と合致する最適補間パターンのフレーム種別判定結果を選択するステップを備えることを特徴とする映像品質推定方法。
  15. 映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信について、当該TSパケットに基づき映像品質を推定する映像品質推定装置であって、
    当該エレメンタリストリームのフレーム構成を記憶する記憶部と、
    入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定するフレーム種別判定部と、
    このフレーム種別判定部で得られた各フレームのフレーム種別、前記記憶部から読み出した当該エレメンタリストリームのフレーム構成、および当該映像通信のTSパケットから検出したTSパケットの損失状況に基づいて、当該映像通信に関する映像品質を推定する映像品質推定部と
    を備えることを特徴とする映像品質推定装置。
  16. 映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信について、演算処理部と記憶部とを有する処理装置により、当該TSパケットに基づき各フレームの種別を判定するフレーム種別判定方法であって、
    前記記憶部により、当該エレメンタリストリームのフレーム構成を記憶する記憶ステップと、
    前記演算処理部により、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定するフレーム種別判定ステップと
    を備えることを特徴とするフレーム種別判定方法。
  17. 映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信について、演算処理部と記憶部とを有し、当該TSパケットに基づき映像品質を推定する映像品質推定装置のコンピュータに、
    前記記憶部により、当該エレメンタリストリームのフレーム構成を記憶する記憶ステップと、
    前記演算処理部により、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定するフレーム種別判定ステップと、
    前記演算処理部により、このフレーム種別判定ステップで得られた各フレームのフレーム種別、前記記憶部から読み出した当該エレメンタリストリームのフレーム構成、および当該映像通信のTSパケットから検出したTSパケットの損失状況に基づいて、当該映像通信に関する映像品質を推定する映像品質推定ステップと
    を実行させるプログラムを記録した記録媒体。
  18. 映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信について、演算処理部と記憶部とを有し、当該TSパケットに基づき各フレームの種別を判定する処理装置のコンピュータに、
    前記記憶部により、当該エレメンタリストリームのフレーム構成を記憶する記憶ステップと、
    前記演算処理部により、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定するフレーム種別判定ステップと
    を実行させるプログラムを記録した記録媒体。
JP2008558577A 2007-08-22 2008-08-22 映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体 Active JP4891352B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008558577A JP4891352B2 (ja) 2007-08-22 2008-08-22 映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
JP2007216364 2007-08-22
JP2007216364 2007-08-22
JP2008105708 2008-04-15
JP2008105708 2008-04-15
JP2008558577A JP4891352B2 (ja) 2007-08-22 2008-08-22 映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体
PCT/JP2008/065009 WO2009025357A1 (ja) 2007-08-22 2008-08-22 映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体

Publications (2)

Publication Number Publication Date
JPWO2009025357A1 JPWO2009025357A1 (ja) 2010-11-25
JP4891352B2 true JP4891352B2 (ja) 2012-03-07

Family

ID=40378257

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008558577A Active JP4891352B2 (ja) 2007-08-22 2008-08-22 映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体

Country Status (7)

Country Link
US (1) US8320747B2 (ja)
EP (1) EP2077672B1 (ja)
JP (1) JP4891352B2 (ja)
KR (1) KR101008608B1 (ja)
CN (1) CN101558657B (ja)
CA (1) CA2668003C (ja)
WO (1) WO2009025357A1 (ja)

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009260940A (ja) * 2008-03-21 2009-11-05 Nippon Telegr & Teleph Corp <Ntt> 映像品質客観評価方法、映像品質客観評価装置、およびプログラム
US20100161779A1 (en) * 2008-12-24 2010-06-24 Verizon Services Organization Inc System and method for providing quality-referenced multimedia
JP5472120B2 (ja) * 2009-02-02 2014-04-16 日本電気株式会社 ピクチャタイプ推定装置、方法、及びプログラム
JP2011019127A (ja) * 2009-07-09 2011-01-27 Nec Corp 画質評価装置、画質評価方法及びそのプログラム
EP2309668A1 (en) 2009-10-09 2011-04-13 Thomson Licensing A digital receiver and corresponding digital transmission system server
ES2537236T3 (es) 2009-10-22 2015-06-03 Nippon Telegraph And Telephone Corporation Dispositivo de estimación de la calidad de vídeo, método de estimación de la calidad de vídeo, y programa de estimación de la calidad de vídeo
JP2011114444A (ja) * 2009-11-25 2011-06-09 Fujitsu Ltd 情報処理装置,情報生成方法,およびプログラム
CN102223565B (zh) * 2010-04-15 2013-03-20 上海未来宽带技术股份有限公司 一种基于视频内容特征的流媒体视频质量评估方法
US9288071B2 (en) 2010-04-30 2016-03-15 Thomson Licensing Method and apparatus for assessing quality of video stream
JP5394991B2 (ja) * 2010-06-04 2014-01-22 日本電信電話株式会社 映像フレーム種別推定用調整係数算出方法、装置、およびプログラム
PL2866448T3 (pl) * 2010-07-30 2016-10-31 Sposób i urządzenie do czasowej synchronizacji wejściowego strumienia bitów dekodera wideo z przetworzoną sekwencją wideo dekodowaną przez dekoder wideo
EP2413535B1 (en) * 2010-07-30 2012-09-19 Deutsche Telekom AG Method for estimating the type of the group of picture structure of a plurality of video frames in a video stream
JP2014504471A (ja) * 2010-11-30 2014-02-20 トムソン ライセンシング フレーム損失パターンに基づいてビデオの品質を測定する方法および装置
PL2649807T3 (pl) * 2010-12-10 2018-09-28 Deutsche Telekom Ag Sposób i aparatura do oceny jakości sygnału wideo podczas kodowania i transmisji sygnału wideo
CN103716640B (zh) * 2010-12-17 2017-02-01 华为技术有限公司 帧类型的检测方法和装置
CN102547300B (zh) * 2010-12-17 2015-01-21 华为技术有限公司 帧类型的检测方法和装置
CN104883563B (zh) 2011-04-11 2017-04-12 华为技术有限公司 一种视频数据质量评估方法和装置
JP5335867B2 (ja) * 2011-08-22 2013-11-06 日本電信電話株式会社 基本GoP長を用いた映像品質推定装置及び方法及びプログラム
JP5384586B2 (ja) * 2011-08-31 2014-01-08 日本電信電話株式会社 TimestampedTS(TTS)を用いた映像フレーム判別装置および方法およびプログラム、及びTTSを用いて判別した映像フレームを用いた映像品質推定装置及び方法及びプログラム
JP2013062738A (ja) * 2011-09-14 2013-04-04 Oki Electric Ind Co Ltd 映像パケットのフレーム種別判別方法及び監視サーバ
US9203708B2 (en) 2011-09-26 2015-12-01 Telefonaktiebolaget L M Ericsson (Publ) Estimating user-perceived quality of an encoded stream
EP2745518B1 (en) * 2011-09-26 2017-06-14 Telefonaktiebolaget LM Ericsson (publ) Estimating user-perceived quality of an encoded video stream
CA3081964A1 (en) * 2012-01-20 2013-07-25 Ge Video Compression, Llc Coding concept allowing parallel processing, transport demultiplexer and video bitstream
WO2014018012A1 (en) 2012-07-24 2014-01-30 Siemens Enterprise Communications Gmbh & Co. Kg Method, device, and system for testing video quality
CN104780369B (zh) 2012-08-21 2018-04-17 华为技术有限公司 一种获得视频编码压缩质量的方法及装置
CN103634698B (zh) * 2012-08-21 2014-12-03 华为技术有限公司 视频流的帧类型检测、帧大小检测方法及装置
CN104394485B (zh) * 2012-08-21 2017-12-15 华为技术有限公司 视频流的帧大小检测方法及装置
US9858656B2 (en) * 2013-03-13 2018-01-02 Raytheon Company Video interpretability and quality estimation
JP6421422B2 (ja) 2014-03-05 2018-11-14 日本電気株式会社 映像解析装置、監視装置、監視システムおよび映像解析方法
CN103929637B (zh) * 2014-04-23 2016-03-30 无锡天脉聚源传媒科技有限公司 一种视频比较装置及其比较方法
US11064204B2 (en) 2014-05-15 2021-07-13 Arris Enterprises Llc Automatic video comparison of the output of a video decoder
US10440087B2 (en) 2016-08-01 2019-10-08 Telefonaktiebolaget Lm Ericsson (Publ) Estimation of losses in a video stream
CN106604097B (zh) * 2016-12-07 2020-08-11 广东威创视讯科技股份有限公司 多路视频信号的传输方法和系统
CN109391846B (zh) * 2017-08-07 2020-09-01 浙江宇视科技有限公司 一种自适应模式选择的视频加扰方法及装置
CN112073823B (zh) * 2020-09-02 2022-07-12 深圳创维数字技术有限公司 丢帧处理方法、视频播放终端及计算机可读存储介质
EP4304167A1 (en) 2021-06-14 2024-01-10 Samsung Electronics Co., Ltd. Electronic device carrying out video call by using frc, and operation method for electronic device
CN115134629B (zh) * 2022-05-23 2023-10-31 阿里巴巴(中国)有限公司 视频传输方法、系统、设备及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001024994A (ja) * 1999-07-07 2001-01-26 Matsushita Electric Ind Co Ltd 送信装置、受信装置、記録装置及びプログラム記録媒体
JP2006033722A (ja) * 2004-07-21 2006-02-02 Nippon Telegr & Teleph Corp <Ntt> 映像品質管理方法および映像品質管理システム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5650829A (en) * 1994-04-21 1997-07-22 Sanyo Electric Co., Ltd. Motion video coding systems with motion vector detection
US20020154694A1 (en) 1997-03-21 2002-10-24 Christopher H. Birch Bit stream splicer with variable-rate output
US6011868A (en) * 1997-04-04 2000-01-04 Hewlett-Packard Company Bitstream quality analyzer
US6988238B1 (en) 2000-01-24 2006-01-17 Ati Technologies, Inc. Method and system for handling errors and a system for receiving packet stream data
US7835615B2 (en) * 2004-10-12 2010-11-16 Panasonic Corporation Data processing apparatus
WO2006114761A1 (en) * 2005-04-26 2006-11-02 Koninklijke Philips Electronics N.V. A device for and a method of detecting positions of intra-coded frames in a data stream
JP4460506B2 (ja) 2005-08-26 2010-05-12 日本電信電話株式会社 ユーザ体感品質推定装置、方法、およびプログラム
KR100740421B1 (ko) 2006-09-01 2007-07-16 온타임텍 주식회사 디지털 멀티미디어 방송 측정 장치에서의 신호 품질 측정방법
WO2009012302A1 (en) 2007-07-16 2009-01-22 Telchemy, Incorporated Method and system for viewer quality estimation of packet video streams

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001024994A (ja) * 1999-07-07 2001-01-26 Matsushita Electric Ind Co Ltd 送信装置、受信装置、記録装置及びプログラム記録媒体
JP2006033722A (ja) * 2004-07-21 2006-02-02 Nippon Telegr & Teleph Corp <Ntt> 映像品質管理方法および映像品質管理システム

Also Published As

Publication number Publication date
CA2668003A1 (en) 2009-02-26
WO2009025357A1 (ja) 2009-02-26
KR101008608B1 (ko) 2011-01-17
EP2077672A4 (en) 2010-01-06
KR20090084845A (ko) 2009-08-05
JPWO2009025357A1 (ja) 2010-11-25
US20100166388A1 (en) 2010-07-01
CN101558657A (zh) 2009-10-14
EP2077672A1 (en) 2009-07-08
CN101558657B (zh) 2011-07-27
CA2668003C (en) 2013-04-02
US8320747B2 (en) 2012-11-27
EP2077672B1 (en) 2014-06-25

Similar Documents

Publication Publication Date Title
JP4891352B2 (ja) 映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体
US20120201310A1 (en) Video quality estimation apparatus, video quality estimation method, and program
US9723329B2 (en) Method and system for determining a quality value of a video stream
EP2615833A1 (en) A method for determining video quality
US9241156B2 (en) Method for estimating the type of the group of picture structure of a plurality of video frames in a video stream
JP4475336B2 (ja) タイムスタンプ付加装置およびタイムスタンプ付加方法、並びにプログラム
KR20110033240A (ko) 스케일러블 비디오 코딩(svc)디코딩에서 향상 계층의 패킷 분실에 기인한 오류 은폐를 위한 방법
EP2413604B1 (en) Assessing the quality of a video signal during encoding or compressing of the video signal
JP2008199606A (ja) ネットワークジッターを測定するメディアレートを検出する方法
US8576923B2 (en) Bitstream navigation techniques
US9258623B2 (en) Method and device for quality assessment of encrypted streaming media flows
KR20170090868A (ko) 장면 전환 프레임 검출 장치 및 방법
KR101008976B1 (ko) 멀티미디어 스트리밍 시스템에서의 에러 검출 방법
JP5394991B2 (ja) 映像フレーム種別推定用調整係数算出方法、装置、およびプログラム
JP6061778B2 (ja) 映像品質評価装置、映像品質評価方法及びプログラム

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111122

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111215

R151 Written notification of patent or utility model registration

Ref document number: 4891352

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141222

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350