JP4891352B2 - 映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体 - Google Patents
映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体 Download PDFInfo
- Publication number
- JP4891352B2 JP4891352B2 JP2008558577A JP2008558577A JP4891352B2 JP 4891352 B2 JP4891352 B2 JP 4891352B2 JP 2008558577 A JP2008558577 A JP 2008558577A JP 2008558577 A JP2008558577 A JP 2008558577A JP 4891352 B2 JP4891352 B2 JP 4891352B2
- Authority
- JP
- Japan
- Prior art keywords
- frame
- packet
- frames
- determination
- video quality
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 253
- 238000004891 communication Methods 0.000 claims description 77
- 230000006978 adaptation Effects 0.000 claims description 11
- 238000010586 diagram Methods 0.000 description 28
- 230000006870 function Effects 0.000 description 16
- 230000005540 biological transmission Effects 0.000 description 12
- 230000015556 catabolic process Effects 0.000 description 9
- 238000006731 degradation reaction Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 9
- 239000003550 marker Substances 0.000 description 5
- 238000001824 photoionisation detection Methods 0.000 description 4
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 230000006866 deterioration Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/02—Diagnosis, testing or measuring for television systems or their details for colour television signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/004—Diagnosis, testing or measuring for television systems or their details for digital television systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/513—Processing of motion vectors
- H04N19/517—Processing of motion vectors by encoding
- H04N19/52—Processing of motion vectors by encoding by predictive encoding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
- H04N19/89—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
これらの映像アプリケーションでは、電波を用いた映像配信であれば大気状態が悪化した場合、またネットワークを用いた映像配信ではネットワークや端末でパケットの損失や遅延が生じた場合、いずれも映像品質が劣化して、サービス品質が劣化する。したがって、安定したサービスを提供するため、一定の映像品質を確保するよう通信ネットワークや端末の品質を管理する必要がある。
大気状態やネットワークあるいは端末でTSパケット損失が生じた場合、高能率符号化により映像圧縮して伝送している映像信号はフレーム間の動き予測符号化を用いており、前後のフレーム情報を使うことから1パケット損失による映像品質劣化が1映像フレームにとどまらず、複数フレームに及ぶ場合がある。
これに対して、従来、符号化情報に基づき品質劣化の影響範囲を把握する技術として、劣化が発生したフレーム種別と前後フレーム状況から、劣化が波及するフレーム数を計算する手法が提案されている(例えば、特開2007−60475号公報など参照)。
本発明はこのような課題を解決するためのものであり、TSパケットのペイロード部が暗号化されている場合でも各フレームのフレーム種別を把握でき、劣化フレームの波及を考慮した映像品質を推定できる映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体を提供することを目的としている。
[第1の実施例]
まず、図1を参照して、本発明の第1の実施例にかかる映像品質推定装置について説明する。
この映像品質推定装置10は、入力されたデータを演算処理するコンピュータなどの情報処理装置からなり、映像信号を複数種別のフレーム(ピクチャ)に圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して、送信装置から受信装置へ、インターネットなどのパケット通信網やデジタル放送を介して送信する映像通信について、当該TSパケットに基づき映像品質を推定する機能を備えている。
送信装置1Aでは、MPEG−2規格(ISO/IEC 13818)に基づいて、映像信号をエンコードすることにより複数種別のフレームに圧縮符号化されたエレメンタリストリームが生成された後、このエレメンタリストリームをTSパケットに変換され、そのペイロード部が暗号化された後、IPパケットに格納してパケット通信網3Aへ送信される。
映像品質推定装置10は、パケット通信網3Aに接続されて、対象となる映像通信のIPパケットをキャプチャしてTSパケットを取り出し、これらTSパケットに基づいてフレーム種別を識別し、その識別結果を用いて映像品質を推定する。この場合、図2に示すように、受信装置2A内に映像品質推定装置10を設け、受信装置2Aで生成されたTSパケットに基づいてフレーム種別を識別し、その識別結果を用いて映像品質を推定することもできる。
送信装置1Bでは、前述したIPTVシステムの送信装置1Aと同様にして映像信号からエレメンタリストリームが生成され、このエレメンタリストリームにOFDMなどの変調が行われた後、放送電波として無線放送網3Bへ送信される。
映像品質推定装置10は、無線放送網3Bからの放送電波を受信して復調することによりエレメンタリストリームを生成し、得られたエレメンタリストリームからTSパケットを取り出し、これらTSパケットに基づいてフレーム種別を識別し、その識別結果を用いて映像品質を推定する。この場合、図2に示すように、無線放送網3Bと映像品質推定装置10との間に無線放送網3Bからの放送電波を受信して復調することにより、対象となる映像通信のIPパケットを生成する受信機を設けてもよい。
次に、図1を参照して、本発明の第1の実施例にかかる映像品質推定装置の構成について詳細に説明する。ここでは、図2に示したIPTV網に適用される場合を例として説明する。
映像品質推定装置10には、主な機能部として、通信I/F部11、操作入力部12、画面表示部13、記憶部14、および演算処理部15が設けられている。
画面表示部13は、LCDやPDPなどの画面表示装置からなり、演算処理部15からの指示に応じて、操作メニューや映像品質推定結果などの各種情報を画面表示する機能を有している。
記憶部14で記憶される主な処理情報としては、フレーム構成14A、処理対象PID14B、フレームデータ量14C、フレームデータ量配列14D、フレーム種別判定結果配列14F、および映像品質推定値14Gがある。
処理対象PID14Bは、処理対象となるエレメンタリストリームのTSパケットを識別するための識別情報であり、操作入力部12や通信I/F部11を介して予め入力され記憶部14に保存される。PID(packet_indicator)については、受信した各TSパケットに格納されているPIDを集計し、その最も受信数の多いPIDを処理対象PID14Bとして用いてもよく、TSパケットで通知されるPMT(Program Map Table)から処理対象PID14Bを取得してもよい。
フレームデータ量配列14Dは、個々のフレームのフレームデータ量を各フレームの到着順(再生順)に並べた配列データである。
判定用配列14Eは、フレームデータ量配列14Dからフレームデータ量をフレーム種別判定用として取り出した配列データである。
判定結果配列14Fは、フレームデータ量配列14Dの各フレームについてそれぞれのフレーム種別の判定結果を示す配列データである。
映像品質推定値14Gは、映像品質推定部15Cで推定された映像品質値である。
フレーム種別判定部15Bは、TSパケット取得部15Aで取得したTSパケットに含まれるフレーム開始位置を検出する機能と、このフレーム開始位置に基づいて個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、記憶部14のフレームデータ量配列14Dへ保存する機能と、これらフレームのフレームデータ量の大小関係に基づき各フレームのフレーム種別を判定する機能とを有している。
次に、図4を参照して、本発明の第1の実施例にかかる映像品質推定装置の動作について説明する。
映像品質推定装置10の演算処理部15は、操作入力部12で検出された映像品質推定の開始を指示するオペレータ操作に応じて、図4に示した映像品質推定処理を開始する。
続いて、演算処理部15は、フレーム種別判定部15Bにより、TSパケット取得部15Aで取得したTSパケットについて後述するフレーム種別判定処理を実行することにより、処理対象となるエレメンタリストリームの各フレームの種別を判定する(ステップ102)。
一方、フレーム種別判定が終了した場合(ステップ103:YES)、演算処理部15は、映像品質推定部15Cにより、TSパケット取得部15Aで取得した各TSパケットからTSパケットの損失状況を確認する(ステップ103)。
次に、図5を参照して、本発明の第1の実施例にかかる映像品質推定装置のTSパケット取得処理について説明する。
演算処理部15のTSパケット取得部15Aは、図4のステップ101におけるTSパケット取得処理において、まず、通信I/F部11から出力されたIPパケットから新たなTSパケットを取り出し(ステップ110)、当該TSパケットのTSヘッダ部からPIDを取得する(ステップ111)。
また、TSヘッダ部には、同一PIDを持つTSパケットの通番を示す情報として、その先頭28ビット目から4ビット分に連続性指標(CC:continuity_counter)が格納されている。
アダプテーションフィールド部には、RAI(random_access_indicator)情報とESPI(elementary_stream_priority_indicator)情報が格納されている。これら情報は、共にIフレームの先頭を示す識別情報であり、一部のCODECで付加的に用いられる。
また、RTPヘッダには、RTPパケットの通番を示す情報として、その先頭17ビット目から16ビット分にRTPシーケンス番号(RTP−SEQ:RTP-Sequence Number)が格納されている。
一方、両PIDが一致した場合(ステップ112:YES)、TSパケット取得部15Aは、当該TSパケットを処理対象のTSパケットとして記憶部14へ一次保存し(ステップ113)、一連のTSパケット取得処理を終了する。
次に、図7および図8A〜図8Eを参照して、本発明の第1の実施例にかかる映像品質推定装置のフレーム種別判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図4のステップ102におけるフレーム種別判定処理において、図7のフレーム種別判定処理を実行する。
まず、TSパケット取得部15Aで取得したTSパケットを記憶部14から読み出し、そのTSヘッダ部からpayload_unit_start_indicator情報を取得する(ステップ120)。
一方、payload_unit_start_indicator情報が「1」の場合(ステップ121:YES)、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cをフレームデータ量配列14Dの末尾に新たな配列データとして格納した後(ステップ123)、フレームデータ量14Cをゼロクリアする(ステップ124)。
このように、本実施例は、フレーム種別判定部15Bにより、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定し、映像品質推定部15Cにより、フレーム種別判定部15Bで得られた各フレームのフレーム種別、記憶部14から読み出した当該エレメンタリストリームのフレーム構成14A、および当該映像通信のTSパケットから検出したTSパケットの損失状況に基づいて、当該映像通信に関する映像品質を推定するようにしたので、TSパケットのペイロード部が暗号化されている場合でも各フレームのフレーム種別を把握でき、劣化フレームの波及を考慮して精度よく映像品質を推定できる。
次に、本発明の第2の実施例にかかる映像品質推定装置について説明する。
第1の実施例では、フレーム種別を判定する場合、GOP構成がフレームの出現パターン「IBBPBB」からほとんど崩れない一般的な圧縮符号化方式の場合を前提として説明した。本実施例では、GOP構成に上記以外の出現パターンが含まれる場合を例として説明する。
なお、本実施例にかかる映像品質推定装置の構成については、演算処理部15のフレーム種別判定部15Bにおける判定処理の内容が異なるものの、その他の構成については第1の実施例(図1参照)と同等であり、ここでの詳細な説明は省略する。
次に、図9を参照して、本発明の第2の実施例にかかる映像品質推定装置のフレーム種別判定処理について説明する。図9において、前述した図7と同じまたは同等部分には同一符号を付してある。
ステップ125において、フレームデータ量配列14Dの配列長が最大GOP長より大きい場合(ステップ125:YES)、フレーム種別判定部15Bは、図8Aに示すように、フレームデータ量配列14Dのうち先頭から最大GOP長分、すなわちフレームF1〜F17の配列データ(フレームデータ量)を記憶部14の判定用配列14Eへ移動させる(ステップ130)。
また、ステップ132で選択されたすべての配列データについて判定が終了した場合(ステップ203:YES)、フレーム種別判定部15Bは、判定が終了した各配列データについて、後述する図12の連続Bフレーム再判定処理を実行する(ステップ204)。
次に、図10を参照して、本発明の第2の実施例にかかる映像品質推定装置の出現パターン別フレーム種別判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図9のステップ200において、図10の出現パターン別フレーム種別判定処理を実行する。
まず、フレーム種別判定部15Bは、GOP構成が「IBBPB」の場合の定常的な開始パターンである出現パターン「BBP」について、現在選択されている判定対象フレーム先頭位置から所定数フレームに対して当該出現パターンの判定基準が成立するか否かを判定する(ステップ210)。
一方、ステップ218において、判定基準が成立せずフレーム種別判定に失敗した場合(ステップ219:NO)、一連の出現パターン別フレーム種別判定処理を終了する。
次に、図11を参照して、本発明の第2の実施例にかかる映像品質推定装置の例外フレーム種別判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図9のステップ202において、図11の例外フレーム種別判定処理を実行する。
まず、フレーム種別判定部15Bは、判定対象フレーム先頭位置のフレームに対して、PフレームとBフレームに関する各フレームデータ量のそれぞれの平均値を用いたPフレームとBフレームの判定基準が成立するか否かを判定する(ステップ230)。
次に、図12を参照して、本発明の第2の実施例にかかる映像品質推定装置の連続Bフレーム再判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図9のステップ204において、図12の連続Bフレーム再判定処理を実行する。
まず、フレーム種別判定部15Bは、記憶部14の判定結果配列14Fにおける配列データを参照し、GOP構成の最後において、Bフレームが3個または4個連続するという判定基準が成立するか否かを判定する。ここで、この判定基準が成立した場合にはこれらBフレームを「BBP」(3個の場合)または「BBPP」(4個の場合)と再判定して、記憶部14の判定結果配列14Fの当該フレームに上記判定結果に応じたフレーム種別情報を更新する(ステップ240)。
ここで、すべての配列データについて判定が終了していない場合(ステップ245:NO)、フレーム種別判定部15Bは、次の再判定対象フレーム先頭位置を選択し(ステップ246)、ステップ242に戻って新たに設定された再判定対象フレーム先頭位置から処理を繰り返し実行する。
ここで、すべての配列データについて判定が終了していない場合(ステップ245:NO)、フレーム種別判定部15Bは、次の再判定対象フレーム先頭位置を選択し(ステップ246)、ステップ242に戻って新たに設定された再判定対象フレーム先頭位置から処理を繰り返し実行する。
また、ステップ245において、すべての配列データについて判定が終了した場合(ステップ245:YES)、一連の連続Bフレーム再判定処理を終了する。
このように、本実施例は、演算処理部15のフレーム種別判定部15Bでのフレーム種別判定処理において、異なる複数の出現パターンごとに、当該出現パターン内に含まれるフレームの位置とフレームデータ量との関係を示す判定基準を予め設定しておき、Iフレームを含まない時間的に連続する所定数のフレームについて、各出現パターンの判定基準により検査し、判定基準が成立した出現パターンに基づき当該フレームの種別を判定するようにしたので、GOP構成として一般的なフレーム出現パターン以外の出現パターンが含まれる場合でも、これらフレームの種別を判定することが可能となる。
次に、本発明の第3の実施例にかかる映像品質推定装置について説明する。
第1、第2の実施例では、判定対象フレームの前後フレームとのフレームデータ量の増減関係に基づいて、判定対象フレームのフレーム種別を判定する場合を例として説明した。本実施例では、しきい値に基づきPフレームとBフレームを判別するフレーム種別判定方法と、フレーム種別判定方法に用いる係数の学習方法を説明する。
なお、本実施例にかかる映像品質推定装置の構成については、演算処理部15のフレーム種別判定部15Bにおける処理の内容が異なるものの、その他の構成については第1の実施例(図1参照)と同等であり、ここでの詳細な説明は省略する。
次に、本発明の第3の実施例にかかる映像品質推定装置の動作について説明する。
本実施例にかかる映像品質推定装置10では、演算処理部15のフレーム種別判定部15Bにおいて、判定対象フレームのフレーム種別を判定する場合、Iフレーム判定処理とP,Bフレーム判定処理の2つのフレーム判定処理を用いる。
また、P,Bフレーム判定処理は、PフレームおよびBフレームを判定するためのフレーム判定処理であり、係数として、PフレームとBフレームをフレームデータ量で区別するためのしきい値を調整する調整係数を用いる。
まず、図13を参照して、本発明の第3の実施例にかる映像品質推定装置のフレーム種別判定処理について説明する。図13において、前述の図7と同じまたは同等部分には同一符号を付してある。
演算処理部15のフレーム種別判定部15Bは、図4のステップ102におけるフレーム種別判定処理において、図13のフレーム種別判定処理を実行する。
ここで、payload_unit_start_indicator情報が「1」でない場合(ステップ121:NO)、当該TSパケットがフレーム先頭のTSパケットではないことから、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cに「1」を加えて当該フレームのTSパケット数を計数し(ステップ122)、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
これにより、フレームデータ量配列14Dのうち次に現れるIフレームまでの各フレームについて、I,P,Bフレームのいずれかを示すフレーム種別判定結果が記憶部14の判定結果配列14Fに格納される。
次に、図14を参照して、本発明の第3の実施例にかかる映像品質推定装置のIフレーム判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図13のステップ300におけるIフレーム判定処理において、図14のIフレーム判定処理を実行する。
ここで、配列長が最大GOP長未満の場合(ステップ310:NO)、フレーム種別判定部15Bは、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
続いて、フレーム種別判定部15Bは、前述した図8Bに示すように、判定用配列14Eのうち、フレームデータ量が最大値を示すデータ(F15)に対応するフレームをIフレームと判定して、その判定結果を記憶部14の判定結果配列14Fへ格納し(ステップ312)、一連のIフレーム判定処理を終了する。
次に、図15,図16,図17A,図17Bを参照して、本発明の第3の実施例にかかる映像品質推定装置のP,Bフレーム判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図13のステップ301におけるP,Bフレーム判定処理において、図15のP,Bフレーム判定処理を実行する。
続いて、フレーム種別判定部15Bは、求めた単純平均値に、係数として与えられた調整係数を乗算することにより、P,Bフレーム判定用のしきい値を算出する(ステップ321)。
ここで、選択フレームのフレームデータ量がしきい値より大きい場合(ステップ323:YES)、フレーム種別判定部15Bは、選択フレームをPフレームと判定し、記憶部14の判定結果配列14Fの当該選択フレームに、Pフレームを示すフレーム種別情報を格納する(ステップ324)。
また、最後尾フレームまで判定が終了した場合(ステップ326:YES)、一連のP,Bフレーム判定処理を終了する。
図18を参照して、本発明の第3の実施例にかる映像品質推定装置の判定期間学習方法について説明する。
この判定期間学習処理は、処理対象となるエレメンタリストリームのうち、予め与えられた学習期間分のTSパケットについて、Iフレームごとに次のIフレームまでのフレーム数をカウントし、その最大値すなわち最長GOPを、Iフレーム判定処理において係数として用いる判定期間として学習する。
次に、フレーム種別判定部15Bは、フレーム種別判定部15Bで取得したTSパケットを記憶部14から読み出し、そのTSヘッダ部のpayload_unit_start_indicator情報に基づいて、フレーム先頭のTSパケットか否か判定する(ステップ352)。ここで、フレーム先頭のTSパケットではない場合(ステップ352:NO)、ステップ351に戻る。
ここで、取得したフレーム種別がIフレーム以外のフレームを示す場合(ステップ354:NO)、フレーム種別判定部15Bは、暫定フレーム数に1を加算して(ステップ355)、ステップ301へ戻る。
この後、フレーム種別判定部15Bは、暫定フレーム数を1に初期化し(ステップ358)、学習期間分のTSパケットの処理が終了していない場合(ステップ359:NO)、ステップ301へ戻る。また、学習期間分のTSパケットの処理が終了した場合(ステップ309:YES)、一連の判定期間学習処理を終了する。
次に、図19を参照して、本発明の第3の実施例にかる映像品質推定装置の調整係数学習方法について説明する。
この調整係数学習処理は、P,Bフレーム判定処理において、係数として用いる調整係数を学習するための処理である。
これにより、フレームデータ量配列14Dのうち次に現れるIフレームまでの各フレームについて、I,P,Bフレームのいずれかを示すフレーム種別判定結果が記憶部14の判定結果配列14Fに格納される。
ここで、フレーム種別判定部15Bは、求めた誤判定率と暫定誤判定率とを比較し(ステップ375)、誤判定率が暫定誤判定率より小さい場合にのみ(ステップ375:YES)、調整係数に暫定調整係数を格納する(ステップ376)。
この後、学習期間分のTSパケットの処理が終了していない場合(ステップ378:NO)、ステップ372へ戻る。また、学習期間分のTSパケットの処理が終了した場合(ステップ378:YES)、すべての暫定調整係数を選択したか判断する(ステップ378)。
これにより、処理対象となるエレメンタリストリームのTSパケットに対するフレーム種別推定において、その誤判定率が最も小さい調整係数が学習される。
このように、本実施例は、演算処理部15のフレーム種別判定部15Bでのフレーム種別判定処理において、当該エレメンタリストリームにおけるIフレームを判定した後、各フレームのフレームデータ量としきい値とを比較することにより、PフレームとBフレームとを判別するようにしたので、エレメンタリストリームのGOP構成として特定のフレームパターンが存在しない場合でも、ペイロード部が暗号化されているTSパケットに基づき各フレームのフレーム種別を把握できる。
次に、本発明の第4の実施例にかかる映像品質推定装置について説明する。
第3の実施例では、しきい値に基づきPフレームとBフレームを判別するP,Bフレーム判定処理を用いる場合を例として説明した。本実施例では、上記P,Bフレーム判定処理に代えて、フレームデータ量が所定の判定範囲内で一定となる連続フレームをPフレームと判定するPフレーム判定処理を用いる場合について説明する。
なお、本実施例にかかる映像品質推定装置の構成については、演算処理部15のフレーム種別判定部15Bにおける処理の内容が異なるものの、その他の構成については第1の実施例(図1参照)と同等であり、ここでの詳細な説明は省略する。
次に、本発明の第4の実施例にかかる映像品質推定装置の動作について説明する。
本実施例にかかる映像品質推定装置10では、演算処理部15のフレーム種別判定部15Bにおいて、判定対象フレームのフレーム種別を判定する場合、Iフレーム判定処理とP,Bフレーム判定処理の2つのフレーム判定処理を用いる。
また、Pフレーム判定処理は、Pフレームを判定するためのフレーム判定処理であり、係数として、連続Pフレームの先頭位置をフレームデータ量で判定するためのしきい値を調整する調整係数Aと、連続Pフレームの先頭位置から終了位置までの探索範囲内のフレームがすべてPフレームか否かをフレームデータ量で判定するための判定範囲を調整する調整係数Bと、連続Pフレームの先頭位置ら終了位置までの探索範囲として最低限必要なフレーム数を示す下限フレーム数とを用いる。
まず、図20を参照して、本発明の第4の実施例にかる映像品質推定装置のフレーム種別判定処理について説明する。図20において、前述の図13と同じまたは同等部分には同一符号を付してある。
演算処理部15のフレーム種別判定部15Bは、図4のステップ102におけるフレーム種別判定処理において、図20のフレーム種別判定処理を実行する。
ここで、payload_unit_start_indicator情報が「1」でない場合(ステップ121:NO)、当該TSパケットがフレーム先頭のTSパケットではないことから、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cに「1」を加えて当該フレームのTSパケット数を計数し(ステップ122)、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
これにより、フレームデータ量配列14Dのうち次に現れるIフレームまでの各フレームについて、I,Pフレームのいずれかを示すフレーム種別判定結果が記憶部14の判定結果配列14Fに格納される。
続いて、フレーム種別判定部15Bは、判定が終了したフレームに対応するフレームデータ量を、記憶部14のフレームデータ量配列14Dから削除し(ステップ135)、一連のフレーム種別判定処理を終了する。
次に、図21,図22,図23A〜図23Eを参照して、本発明の第4の実施例にかかる映像品質推定装置のPフレーム判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図20のステップ400におけるPフレーム判定処理において、図21のPフレーム判定処理を実行する。
また、先頭位置のフレームのフレームデータ量がしきい値以上の場合(ステップ412:YES)、フレーム種別判定部15Bは、先頭位置のフレームがフレーム種別未判定の場合にのみ(ステップ413:YES)、先頭位置のフレームをPフレームと判定し、この判定結果を記憶部14の判定結果配列14Fへ格納する(ステップ414)。
続いて、フレーム種別判定部15Bは、図23Cに示すように、先頭位置から終了位置までの探索範囲における各フレームのフレームデータ量に関する平均値を探索平均値として算出し、この探索平均値に、係数として与えられた調整係数Bを乗算することにより、連続Pフレーム判定用の判定範囲を算出する(ステップ417)。
これらフレームのフレームデータ量のすべてが判定範囲内である場合(ステップ418:YES)、フレーム種別判定部15Bは、探索範囲内の各フレームを連続するPフレームとして判定し、この判定結果を記憶部14の判定結果配列14Fに格納し(ステップ419)、ステップ422へ移行して、先頭位置が1フレーム後ろに設定された新たな探索範囲に関する連続Pフレームの判定を実行する。
次に、本発明の第4の実施例にかかる映像品質推定装置の係数学習処理について説明する。
本実施例のフレーム種別判定処理で用いる調整係数A、調整係数B、下限フレーム数の学習については、第3の実施例で説明した、図19の調整係数学習処理のうちの調整係数を、本実施例で用いる調整係数A、調整係数B、下限フレーム数にそれぞれ置き換えて実行すればよく、ここでの処理の詳細についての説明は省略する。
また、調整係数A、調整係数B、下限フレーム数の学習については、これら調整係数A、調整係数B、下限フレーム数の組合せにそれぞれ仮の値を与えて、前述した図21のPフレーム判定処理を実行し、その判定結果に対する誤判定率が小さくなる組合せを選択すればよい。
このように、本実施例では、演算処理部15のフレーム種別判定部15Bでのフレーム種別判定処理において、当該エレメンタリストリームにおけるIフレームを判定した後、先頭位置のフレームのフレームデータ量が所定のしきい値以上であって、かつ先頭位置から終了位置までのすべてのフレームのフレームデータ量が所定の判定範囲内に含まれる、所定数以上連続するフレームを、すべてPフレームと判定するようにしたので、エレメンタリストリームのGOP構成として特定のフレームパターンが存在しない場合でも、ペイロード部が暗号化されているTSパケットに基づき各フレームのフレーム種別を把握できる。
次に、本発明の第5の実施例にかかる映像品質推定装置について説明する。
第3の実施例では、フレーム種別判定処理において、Iフレーム判定処理を行った後、P,Bフレーム判定処理を行う場合を例として説明し、第4の実施例では、フレーム種別判定処理において、Iフレーム判定処理を行った後、Pフレーム判定処理を行う場合を例として説明した。本実施例では、フレーム種別判定処理において、Iフレーム判定処理を行った後、P,Bフレーム判定処理を実行し、その後、Pフレーム判定処理を行う場合を例として説明する。
また、本実施例のフレーム種別判定処理では、Iフレーム判定処理として図14と同一のIフレーム判定処理を用い、P,Bフレーム判定処理として図15と同一のP,Bフレーム判定処理を用い、またPフレーム判定処理として図21と同一のPフレーム判定処理を用いる。これら判定処理および判定処理に用いる各種係数の学習処理の詳細についての説明は省略する。
次に、図24を参照して、本発明の第5の実施例にかかる映像品質推定装置のフレーム種別判定処理について説明する。図24において、前述の図13および図20と同じまたは同等部分には同一符号を付してある。
演算処理部15のフレーム種別判定部15Bは、図4のステップ102におけるフレーム種別判定処理において、図24のフレーム種別判定処理を実行する。
ここで、payload_unit_start_indicator情報が「1」でない場合(ステップ121:NO)、当該TSパケットがフレーム先頭のTSパケットではないことから、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cに「1」を加えて当該フレームのTSパケット数を計数し(ステップ122)、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
これにより、フレームデータ量配列14Dのうち次に現れるIフレームまでの各フレームについて、I,P,Bフレームのいずれかを示すフレーム種別判定結果が記憶部14の判定結果配列14Fに格納される。
このように、本実施例では、演算処理部15のフレーム種別判定部15Bでのフレーム種別判定処理において、当該エレメンタリストリームにおけるIフレームを判定した後、各フレームのフレームデータ量としきい値とを比較することにより、PフレームとBフレームとを判別し、先頭位置のフレームのフレームデータ量が所定のしきい値以上であって、かつ先頭位置から終了位置までのすべてのフレームのフレームデータ量が所定の判定範囲内に含まれる、所定数以上連続するフレームを、すべてPフレームと判定するようにしたので、エレメンタリストリームのGOP構成として特定のフレームパターンが存在しない場合でも、ペイロード部が暗号化されているTSパケットに基づき各フレームのフレーム種別を把握できる。
次に、図25を参照して、本発明の第6の実施例にかかる映像品質推定装置について説明する。図25において、前述の図13と同じまたは同等部分には同一符号を付してある。
なお、本実施例にかかる映像品質推定装置の構成については、演算処理部15のフレーム種別判定部15Bにおける処理の内容が異なるものの、その他の構成については第1の実施例(図1参照)と同等であり、ここでの詳細な説明は省略する。
まず、図25を参照して、本発明の第6の実施例にかる映像品質推定装置のフレーム種別判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図4のステップ102におけるフレーム種別判定処理において、図25のフレーム種別判定処理を実行する。
ここで、payload_unit_start_indicator情報が「1」でない場合(ステップ121:NO)、当該TSパケットがフレーム先頭のTSパケットではないことから、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cに「1」を加えて当該フレームのTSパケット数を計数する(ステップ122)。
また、当該ストリームのCODECにおいて、RAI/ESPI情報を利用可能な場合には(ステップ600:YES)、フレーム種別判定部15Bは、RAI/ESPI情報をTSヘッダ部から取得し、当該RAI/ESPI情報が「1」でない場合(ステップ601:NO)、当該TSパケットのフレームがIフレームではないことが確認されたことから、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
これにより、フレームデータ量配列14Dのうち次に現れるIフレームまでの各フレームについて、I,P,Bフレームのいずれかを示すフレーム種別判定結果が記憶部14の判定結果配列14Fに格納される。
この後、フレーム種別判定部15Bは、ステップ600と同様にして、当該ストリームのCODECにおいてRAI/ESPI情報が利用可能か確認し(ステップ610)、RAI/ESPI情報が利用可能な場合にのみ(ステップ610:YES)、記憶部14のIフレーム先頭情報配列をクリアし(ステップ611)、一連のフレーム種別判定処理を終了する。
次に、図26を参照して、本発明の第6の実施例にかかる映像品質推定装置のIフレーム判定処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図13のステップ300におけるIフレーム判定処理において、図26のIフレーム判定処理を実行する。
ここで、配列長が最大GOP長未満の場合(ステップ310:NO)、フレーム種別判定部15Bは、図5のステップ110へ戻って次のTSパケットに対する処理へ移行する。
続いて、フレーム種別判定部15Bは、ステップ600と同様にして、当該ストリームのCODECにおいてRAI/ESPI情報が利用可能か確認し(ステップ620)、RAI/ESPI情報が利用可能な場合(ステップ620:YES)、記憶部14のIフレーム先頭情報配列に格納されているIフレーム判定結果を記憶部14の判定結果配列14Fへ格納し(ステップ621)、一連のIフレーム判定処理を終了する。
このように、本実施例は、演算処理部15のフレーム種別判定部15Bでのフレーム種別判定処理において、TSヘッダ部のアダプテーションフィールド部内のRAI情報またはESPI情報に基づいてIフレームを判定するようにしたので、Iフレームの判定処理を簡略化できるとともに、高い判定精度を得ることが可能となる。
例えば、第4の実施例では、前述した図20のステップ122の後段に、図25のステップ600〜602を追加し、図20のステップ135の後段に、図25のステップ610,611を追加し、図20のステップ300として、図26のIフレーム判定処理を実行すればよい。また、第5の実施例では、前述した図24のステップ122の後段に、図25のステップ600〜602を追加し、図24のステップ135の後段に、図25のステップ610,611を追加し、図24のステップ300として、図26のIフレーム判定処理を実行すればよい。
次に、本発明の第7の実施例にかかる映像品質推定装置について説明する。
第3の実施例では、図13に示したように、複数のTSパケットに分割して格納された各フレームについて、フレーム開始位置を示すpayload_unit_start_indicator情報などのフレーム区切り判定情報に基づきフレーム区切り判定する場合について説明した。この場合、payload_unit_start_indicator情報を格納するIPパケットのロスが発生した際、payload_unit_start_indicator情報に基づいて、フレーム開始位置すなわちフレーム区切りを判定することができなくなる。
受信側では、ロスA,Bによりフレーム区切り判定情報であるpayload_unit_start_indicator情報が欠落したため、送信側フレームF2−F4が1つのフレームF2として見えてしまう。このため、フレーム種別判定の精度が低下する原因となる。
なお、本実施例にかかる映像品質推定装置の構成については、演算処理部15のフレーム種別判定部15Bにおける処理の内容が異なるものの、その他の構成については第1の実施例(図1参照)と同等であり、ここでの詳細な説明は省略する。
まず、図28を参照して、本発明の第7の実施例にかかる映像品質推定装置のTSパケット取得処理について説明する。図28において、前述の図5と同じまたは同等部分には同一符号を付してある。
ロス有無フラグは、現在TSパケットを取得中のIPパケットの直前で、IPパケットロスが発生したか否かを示す情報であり、値「1」でパケットロス発生有りを示し、値「0」でパケットロス発生有りを示す。図28の処理例では、新たなIPパケットが取得されるごとにロス有無フラグの値が更新される。
続いて、TSパケット取得部15Aは、取得したPIDと記憶部14の処理対象PIDとを比較し(ステップ112)、両PIDが不一致の場合には(ステップ112:NO)、ステップ700へ戻って次のTSパケットに対する処理へ移行する。
一方、両PIDが一致した場合(ステップ112:YES)、TSパケット取得部15Aは、当該TSパケットを処理対象のTSパケットとして記憶部14へ一次保存し(ステップ113)、一連のTSパケット取得処理を終了する。
次に、図29および図30を参照して、本発明の第7の実施例にかる映像品質推定装置のフレーム種別判定処理について説明する。図29において、前述の図25と同じまたは同等部分には同一符号を付してある。
演算処理部15のフレーム種別判定部15Bは、図4のステップ102におけるフレーム種別判定処理において、図29のフレーム種別判定処理を実行する。
暫定フレームデータ量配列は、図30に示すように、1つのGOP構成内で、TSヘッダ部のpayload_unit_start_indicator情報(またはRTPヘッダのマーカービット(MB)情報)に基づき区別できた正常なフレームと、ロス有無フラグに基づき検出したIPパケットロスで区別した一時的なフレームとからなる暫定フレームについて、当該暫定フレームに関するフレームデータ量を示す配列データである。
ここで、payload_unit_start_indicator情報が「1」でない場合(ステップ121:NO)、当該TSパケットがフレーム先頭のTSパケットではないことから、フレーム種別判定部15Bは、記憶部14のフレームデータ量14Cに「1」を加えて当該フレームのTSパケット数を計数する(ステップ122)
また、当該ストリームのCODECにおいて、RAI/ESPI情報を利用可能な場合には(ステップ600:YES)、フレーム種別判定部15Bは、RAI/ESPI情報をTSヘッダ部から取得し、当該RAI/ESPI情報が「1」でない場合(ステップ601:NO)、当該TSパケットのフレームがIフレームではないことが確認されたことから、図28のステップ700へ戻って次のTSパケットに対する処理へ移行する。
これにより、payload_unit_start_indicator情報に基づき検出した正常なフレームが暫定フレームとして識別され、そのフレームデータ量が暫定フレームデータ量配列に格納されるとともに、その区切り種別が区切り種別配列に格納される。
この後、フレーム種別判定部15Bは、ステップ600と同様にして、当該ストリームのCODECにおいてRAI/ESPI情報が利用可能か確認し(ステップ610)、RAI/ESPI情報が利用可能な場合にのみ(ステップ610:YES)、記憶部14のIフレーム先頭情報配列をクリアし(ステップ611)、一連のフレーム種別判定処理を終了する。
次に、図31を参照して、本発明の第7の実施例にかかる映像品質推定装置の最適補間パターン選択処理について説明する。
演算処理部15のフレーム種別判定部15Bは、図29のステップ722における最適補間パターン選択処理において、図31の最適補間パターン選択処理を実行する。
ここで、暫定GOP長が最大GOP長未満の場合(ステップ731:NO)、フレーム種別判定部15Bは、図28のステップ700へ戻って次のTSパケットに対する処理へ移行する。
この場合、暫定フレームデータ量配列には、IPパケットロスをフレーム区切りとする暫定フレームに関する配列データも含まれていることから、配列先頭から数えて最大GOP長分の配列データを選択すると1つのGOP構成分の暫定フレームを正確に選択できない場合がある。
図30の例では、最大GOP長を17フレームとした場合、区切り種別配列の値が「PUSI」を示す暫定フレームで数えると、暫定フレームf21が先頭(f1)から17個目に相当する。このため、暫定フレームf1〜f21が暫定フレームデータ量配列から判定用配列14Eへ格納される。
これにより、判定用配列14E内の各暫定フレームのうち、次のGOP構成の先頭に位置するIフレームが検出される。したがって、図30の例では、暫定フレームf18がIフレームとして判定され、記憶部14のIフレーム先頭情報配列のうち、暫定フレームf18の配列データにIフレームを示す値「I」が格納される。
図30の例において、GOP長は13フレームとなるから、典型GOP長が15フレームの場合、ロスフレーム数は2となる。したがって、値「ロス」を示す暫定フレームf2〜f6のうち、いずれか2つの暫定フレームの先頭で、payload_unit_start_indicator情報が欠落したことになる。このため、区切り補間パターンとして、P1〜P6の6通り(4×3/2)が作成される。
例えば、区切り補間パターンとして、図30のP1を選択した場合、暫定フレームf2,f3,f4から送信側フレームF2が構成され、暫定フレームf5から送信側フレームF3が構成され、暫定フレームf6から送信側フレームF4が構成される。
また、すべての区切り補間パターンに対するフレーム種別判定が終了した場合には(ステップ739:YES)、区切り補間パターンごとに得られたフレーム種別判定結果のうち、記憶部14に予め設定されている典型GOP構成と合致するものを、最適補間パターンとして選択して記憶部14に保存し(ステップ740)、一連の最適補間パターン選択処理を終了する。
このように、本実施例では、演算処理部15のフレーム種別判定部15Bでのフレーム種別判定処理において、当該エレメンタリストリームで発生したパケットロスを検出し、フレーム開始位置を示すフレーム区切り判定情報がどのパケットロスで欠損したかを想定し、この想定結果に応じて得られたフレーム開始位置に基づいてフレーム種別判定を行うようにしたので、通信ネットワークでIPパケットのロスが発生した際に、フレーム区切り判定情報が欠損した場合でも、精度の高いフレーム種別判定を行うことが可能となる。
例えば、第4の実施例をベースとする場合には、前述した図31のステップ301に代えて、前述した図20のステップ400およびステップ134を実行すればよい。また、第5の実施例をベースとする場合には、前述した図31のステップ301の直後に、前述した図24のステップ400およびステップ134を実行すればよい。
次に、本発明の第7の実施例にかる映像品質推定装置のフレーム種別判定処理例について説明する。
以下では、第6の実施例で説明した、TSパケットのアダプテーションフィールドに格納されているRAI情報やESPI情報などのIフレーム識別情報を用いてIフレームを識別する場合に適用される第1のフレーム種別判定処理例について説明し、上記Iフレーム識別情報を用いないでIフレームを識別する場合に適用される第2のフレーム種別判定処理例について説明する。
まず、図32、図33A、図33B、図34A、図34B、および図35を参照して、第6の実施例で説明した、RAI情報やESPI情報などのIフレーム識別情報を用いてIフレームを識別する場合に用いられる第1のフレーム種別判定処理例について説明する。
ここでは、当該ストリーム内の各フレームは、TSヘッダ部のpayload_unit_start_indicator(PUSI)情報やRTPヘッダのマーカービット(MB:Markerbit)情報などのフレーム識別情報(PUSI/MB)により識別され、そのうちIフレームは、TSパケットのアダプテーションフィールドのIフレーム識別情報(RAI/ESPI)に基づき識別される。なお、GOP内のフレーム種別出現パターンにおいて、繰り返し出現する「IBBPBB」などの典型的な出現パターンが存在するものとする。
図32に示すように、パケットロスが発生していない場合、Iフレーム識別情報に基づきフレームF1がIフレームであると認識された後、それ以降の最大GOP長(例えば17フレーム)以内においてIフレーム識別情報が検出される。したがって、Iフレーム識別情報が検出フレームされたフレームF16がIフレームであると認識できる。
図33Aに示すように、Iフレーム(F16)の先頭IPパケットのみがロスした場合、Iフレーム識別情報に基づきフレームF1がIフレームであると認識された後、それ以降の最大GOP長以内においてIフレーム識別情報が検出されない。したがって、ロスしたIPパケットは、Iフレーム識別情報とフレーム識別情報を含んでいたと認識できる。
図33Aの場合の認識は、Iフレームの先頭IPパケットのみロスした場合だけでなく、Iフレームの先頭IPパケットと、当該先頭IPパケットに連続する1つの次IPパケットからなる、合計2つの連続するIPパケットのみがロスした場合にも適用できる。
図34Aに示すように、Iフレーム(F16)の先頭IPパケットはロスせず、Bフレーム(F2)の先頭IPパケットのみがロスした場合、Iフレーム識別情報に基づきフレームF1がIフレームであると認識された後、それ以降の最大GOP長(例えば17フレーム)以内においてIフレーム識別情報が検出される。したがって、Iフレーム識別情報が検出フレームされたフレームF16がIフレームであると認識できる。
図34Aの場合の認識は、Bフレームの先頭IPパケットのみロスした場合だけでなく、Pフレームの先頭IPパケットのみロスした場合にも適用できる。さらに、B,Pフレームの先頭IPパケットと、当該先頭IPパケットに連続する1つの次IPパケットからなる、合計2つの連続するIPパケットのみがロスした場合にも適用できる。
図35に示すように、Bフレーム(F2)の先頭IPパケットと、Pフレーム(F7)の中間IPパケット(映像データ)と、Iフレーム(F16)の先頭IPパケットとがロスした場合、Iフレーム識別情報に基づきフレームF1がIフレームであると認識された後、それ以降の最大GOP長以内においてIフレーム識別情報が検出されない。したがって、これらロスした各IPパケットのうちいずれか1つは、Iフレーム識別情報とフレーム識別情報を含んでおり、その他のIPパケットはフレーム識別情報を含んでいたと認識できる。
また、図35の場合の認識は、ロスしたI,B,Pフレームの先頭IPパケットのいずれかで、当該先頭IPパケットに連続する1つ以上のIPパケットがロスしている場合にも適用できる。
次に、図36A、図36B、図37A、図37B、図38を参照して、第6の実施例で説明した、RAI情報やESPI情報などのIフレーム識別情報を用いないでIフレームを識別する場合に用いられる第2のフレーム種別判定処理例について説明する。
ここでは、当該ストリーム内の各フレームは、TSヘッダ部のpayload_unit_start_indicator(PUSI)情報やRTPヘッダのマーカービット(MB:Markerbit)情報などのフレーム識別情報(PUSI/MB)により識別され、そのうちIフレームは、フレームデータ量に基づき識別される。なお、GOP内のフレーム種別出現パターンにおいて、繰り返し出現する「IBBPBB」などの典型的な出現パターンが存在するものとする。
図36Aに示すように、Iフレーム(F16)の先頭IPパケットのみがロスした場合、フレームF1がIフレームであると認識された後、それ以降の最大GOP長以内において、フレームデータ量が最大のフレーム(F16)をIフレームと仮定できる。また、仮定したIフレームの内部にIPパケットのロスが含まれているため、そのIPパケットにフレーム識別情報(PUSI/MB)が含まれていたと見なす。
図36Aの場合の認識は、Iフレームの先頭IPパケットのみロスした場合だけでなく、Iフレームの先頭IPパケットと、当該先頭IPパケットに連続する1つの次IPパケットからなる、合計2つの連続するIPパケットのみがロスした場合にも適用できる。
図37Aに示すように、Iフレーム(F16)の先頭IPパケットはロスせず、Pフレーム(F7)の先頭IPパケットのみがロスした場合、フレームF1がIフレームであると認識された後、それ以降の最大GOP長以内において、フレームデータ量が最大のフレーム(F16)をIフレームと認識できる。また、Iフレーム(フレームF1)からのGOP内にIPパケットのロスが含まれているため、そのIPパケットにフレーム識別情報(PUSI/MB)が含まれていたと見なす。
図38に示すように、Bフレーム(F2)の先頭IPパケットと、Pフレーム(F7)の中間IPパケット(映像データ)と、Iフレーム(F16)の先頭IPパケットとがロスした場合、Iフレーム識別情報に基づきフレームF1がIフレームであると認識された後、それ以降の最大GOP長以内において、フレームデータ量が最大のフレーム(F16)をIフレームと認識できる。また、Iフレーム(フレームF1)からのGOP内にIPパケットのロスが含まれているため、そのIPパケットにフレーム識別情報(PUSI/MB)が含まれていたと見なす。
また、図38の場合の認識は、ロスしたI,B,Pフレームの先頭IPパケットのいずれかで、当該先頭IPパケットに連続する1つ以上のIPパケットがロスしている場合にも適用できる。
Claims (18)
- 映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信について、演算処理部と記憶部とを有する映像品質推定装置により、当該TSパケットに基づき映像品質を推定する際に用いる映像品質推定方法であって、
前記記憶部により、当該エレメンタリストリームのフレーム構成を記憶する記憶ステップと、
前記演算処理部により、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定するフレーム種別判定ステップと、
前記演算処理部により、このフレーム種別判定ステップで得られた各フレームのフレーム種別、前記記憶部から読み出した当該エレメンタリストリームのフレーム構成、および当該映像通信のTSパケットから検出したTSパケットの損失状況に基づいて、当該映像通信に関する映像品質を推定する映像品質推定ステップと
を備えることを特徴とする映像品質推定方法。 - 請求項1に記載の映像品質推定方法において、
前記フレーム種別判定ステップは、当該エレメンタリストリームにおけるIフレーム間隔以下の判定期間において時間的に連続する各フレームのうち、フレームデータ量が最大のフレームをIフレームと判定するステップを備えることを特徴とする映像品質推定方法。 - 請求項2に記載の映像品質推定方法において、
前記判定期間は、当該エレメンタリストリームにおける最大GOP長からなることを特徴とする映像品質推定方法。 - 請求項1に記載の映像品質推定方法において、
前記フレーム種別判定ステップは、Iフレームを含まない時間的に連続する所定数のフレームについて、当該エレメンタリストリームのフレーム構成と当該フレームのフレームデータ量の大小関係のパターンとの一致に応じて、PフレームおよびBフレームを判定するステップを備えることを特徴とする映像品質推定方法。 - 請求項4に記載の映像品質推定方法において、
前記フレーム種別判定ステップは、当該エレメンタリストリームのフレーム構成に、複数のBフレーム、1つのPフレーム、および1つのBフレームからなるN(Nは4以上の整数)個のフレームが時間的にそれぞれ連続する判定用フレームパターンを含む場合、Iフレームを含まない時間的に連続するN個のフレームについて、先頭からN−2個目までの各フレームおよびN個目のフレームのフレームデータ量のすべてがN−1個目のフレームのフレームデータ量より小さい場合、N−1個目のフレームをPフレームと判定するステップを備えることを特徴とする映像品質推定方法。 - 請求項4に記載の映像品質推定方法において、
前記フレーム種別判定ステップは、Iフレームを含まない時間的に連続する所定数のフレームのうち、Pフレームと判定されなかった残りのフレームをBフレームと判定するステップを備えることを特徴とする映像品質推定方法。 - 請求項1に記載の映像品質推定方法において、
前記フレーム種別判定ステップは、異なる複数の出現パターンごとに予め設定されている、当該出現パターン内に含まれるフレームの位置とフレームデータ量との関係を示す判定基準が、当該エレメンタリストリームのうちIフレームを含まない時間的に連続する複数のフレームについて成立するか検査し、成立した判定基準に対応する出現パターンに基づき当該フレームの種別を判定するステップを備えることを特徴とする映像品質推定方法。 - 請求項7に記載の映像品質推定方法において、
前記判定基準は、当該エレメンタリストリームの所定範囲内に位置する複数フレームのフレームデータ量の平均値に基づいて算出したしきい値と、当該出現パターン内のフレームのフレームデータ量との大小関係から構成されていることを特徴とする映像品質推定方法。 - 請求項1に記載の映像品質推定方法において、
前記フレーム種別判定ステップは、前記TSパケットのヘッダ部に含まれているpayload_unit_start_indicator情報の値に基づいてフレーム開始位置を検出するステップを備えることを特徴とする映像品質推定方法。 - 請求項1に記載の映像品質推定方法において、
前記フレーム種別判定ステップは、Iフレームを含まない時間的に連続する個々のフレームについて、当該フレームのフレームデータ量と所定のしきい値とを比較し、その比較結果に基づき当該フレームをPフレームまたはBフレームと判定するステップを備えることを特徴とする映像品質推定方法。 - 請求項1に記載の映像品質推定方法において、
前記フレーム種別判定ステップは、Iフレームを含まない時間的に連続する個々のフレームのうち、先頭位置のフレームのフレームデータ量が所定のしきい値以上であって、かつ前記先頭位置から終了位置までのすべてのフレームのフレームデータ量が所定の判定範囲内に含まれる、所定数以上連続するフレームを、すべてPフレームと判定するステップを備えることを特徴とする映像品質推定方法。 - 請求項1に記載の映像品質推定方法において、
前記フレーム種別判定ステップは、前記TSパケットのアダプテーションフィールド部に含まれているRAI(random_access_indicator)情報またはESPI(elementary_stream_priority_indicator)情報の値に基づいてIフレームを判定するステップを備えることを特徴とする映像品質推定方法。 - 請求項1に記載の映像品質推定方法において、
前記フレーム種別判定ステップは、当該エレメンタリストリームで発生したパケットロスを検出して、前記フレーム開始位置を示すフレーム区切り判定情報がどのパケットロスで欠損したかを想定し、この想定結果に応じて得られたフレーム開始位置に基づいて前記フレーム種別判定を行うステップを備えることを特徴とする映像品質推定方法。 - 請求項13に記載の映像品質推定方法において、
前記フレーム種別判定ステップは、前記フレーム区切り判定情報がどのパケットロスで欠損したかを想定した区切り補間パターンを複数作成して、これら区切り補間パターンに応じたフレーム開始位置に基づいて区切り補間パターンごとに前記フレーム種別判定を行い、得られたフレーム種別判定結果のうちから、前記記憶部に予め設定されている典型GOP構成と合致する最適補間パターンのフレーム種別判定結果を選択するステップを備えることを特徴とする映像品質推定方法。 - 映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信について、当該TSパケットに基づき映像品質を推定する映像品質推定装置であって、
当該エレメンタリストリームのフレーム構成を記憶する記憶部と、
入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定するフレーム種別判定部と、
このフレーム種別判定部で得られた各フレームのフレーム種別、前記記憶部から読み出した当該エレメンタリストリームのフレーム構成、および当該映像通信のTSパケットから検出したTSパケットの損失状況に基づいて、当該映像通信に関する映像品質を推定する映像品質推定部と
を備えることを特徴とする映像品質推定装置。 - 映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信について、演算処理部と記憶部とを有する処理装置により、当該TSパケットに基づき各フレームの種別を判定するフレーム種別判定方法であって、
前記記憶部により、当該エレメンタリストリームのフレーム構成を記憶する記憶ステップと、
前記演算処理部により、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定するフレーム種別判定ステップと
を備えることを特徴とするフレーム種別判定方法。 - 映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信について、演算処理部と記憶部とを有し、当該TSパケットに基づき映像品質を推定する映像品質推定装置のコンピュータに、
前記記憶部により、当該エレメンタリストリームのフレーム構成を記憶する記憶ステップと、
前記演算処理部により、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定するフレーム種別判定ステップと、
前記演算処理部により、このフレーム種別判定ステップで得られた各フレームのフレーム種別、前記記憶部から読み出した当該エレメンタリストリームのフレーム構成、および当該映像通信のTSパケットから検出したTSパケットの損失状況に基づいて、当該映像通信に関する映像品質を推定する映像品質推定ステップと
を実行させるプログラムを記録した記録媒体。 - 映像信号を複数種別のフレームに圧縮符号化して得られたエレメンタリストリームをTSパケットに変換して送信する映像通信について、演算処理部と記憶部とを有し、当該TSパケットに基づき各フレームの種別を判定する処理装置のコンピュータに、
前記記憶部により、当該エレメンタリストリームのフレーム構成を記憶する記憶ステップと、
前記演算処理部により、入力された当該映像通信のTSパケットに含まれるフレーム開始位置に基づいて、個々のフレームを構成するTSパケットの数を当該フレームのフレームデータ量として計数し、これらフレームのフレームデータ量の大小関係に基づきフレーム種別を判定するフレーム種別判定ステップと
を実行させるプログラムを記録した記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008558577A JP4891352B2 (ja) | 2007-08-22 | 2008-08-22 | 映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体 |
Applications Claiming Priority (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007216364 | 2007-08-22 | ||
JP2007216364 | 2007-08-22 | ||
JP2008105708 | 2008-04-15 | ||
JP2008105708 | 2008-04-15 | ||
JP2008558577A JP4891352B2 (ja) | 2007-08-22 | 2008-08-22 | 映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体 |
PCT/JP2008/065009 WO2009025357A1 (ja) | 2007-08-22 | 2008-08-22 | 映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2009025357A1 JPWO2009025357A1 (ja) | 2010-11-25 |
JP4891352B2 true JP4891352B2 (ja) | 2012-03-07 |
Family
ID=40378257
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008558577A Active JP4891352B2 (ja) | 2007-08-22 | 2008-08-22 | 映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体 |
Country Status (7)
Country | Link |
---|---|
US (1) | US8320747B2 (ja) |
EP (1) | EP2077672B1 (ja) |
JP (1) | JP4891352B2 (ja) |
KR (1) | KR101008608B1 (ja) |
CN (1) | CN101558657B (ja) |
CA (1) | CA2668003C (ja) |
WO (1) | WO2009025357A1 (ja) |
Families Citing this family (37)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009260940A (ja) * | 2008-03-21 | 2009-11-05 | Nippon Telegr & Teleph Corp <Ntt> | 映像品質客観評価方法、映像品質客観評価装置、およびプログラム |
US20100161779A1 (en) * | 2008-12-24 | 2010-06-24 | Verizon Services Organization Inc | System and method for providing quality-referenced multimedia |
JP5472120B2 (ja) * | 2009-02-02 | 2014-04-16 | 日本電気株式会社 | ピクチャタイプ推定装置、方法、及びプログラム |
JP2011019127A (ja) * | 2009-07-09 | 2011-01-27 | Nec Corp | 画質評価装置、画質評価方法及びそのプログラム |
EP2309668A1 (en) | 2009-10-09 | 2011-04-13 | Thomson Licensing | A digital receiver and corresponding digital transmission system server |
ES2537236T3 (es) | 2009-10-22 | 2015-06-03 | Nippon Telegraph And Telephone Corporation | Dispositivo de estimación de la calidad de vídeo, método de estimación de la calidad de vídeo, y programa de estimación de la calidad de vídeo |
JP2011114444A (ja) * | 2009-11-25 | 2011-06-09 | Fujitsu Ltd | 情報処理装置,情報生成方法,およびプログラム |
CN102223565B (zh) * | 2010-04-15 | 2013-03-20 | 上海未来宽带技术股份有限公司 | 一种基于视频内容特征的流媒体视频质量评估方法 |
US9288071B2 (en) | 2010-04-30 | 2016-03-15 | Thomson Licensing | Method and apparatus for assessing quality of video stream |
JP5394991B2 (ja) * | 2010-06-04 | 2014-01-22 | 日本電信電話株式会社 | 映像フレーム種別推定用調整係数算出方法、装置、およびプログラム |
PL2866448T3 (pl) * | 2010-07-30 | 2016-10-31 | Sposób i urządzenie do czasowej synchronizacji wejściowego strumienia bitów dekodera wideo z przetworzoną sekwencją wideo dekodowaną przez dekoder wideo | |
EP2413535B1 (en) * | 2010-07-30 | 2012-09-19 | Deutsche Telekom AG | Method for estimating the type of the group of picture structure of a plurality of video frames in a video stream |
JP2014504471A (ja) * | 2010-11-30 | 2014-02-20 | トムソン ライセンシング | フレーム損失パターンに基づいてビデオの品質を測定する方法および装置 |
PL2649807T3 (pl) * | 2010-12-10 | 2018-09-28 | Deutsche Telekom Ag | Sposób i aparatura do oceny jakości sygnału wideo podczas kodowania i transmisji sygnału wideo |
CN103716640B (zh) * | 2010-12-17 | 2017-02-01 | 华为技术有限公司 | 帧类型的检测方法和装置 |
CN102547300B (zh) * | 2010-12-17 | 2015-01-21 | 华为技术有限公司 | 帧类型的检测方法和装置 |
CN104883563B (zh) | 2011-04-11 | 2017-04-12 | 华为技术有限公司 | 一种视频数据质量评估方法和装置 |
JP5335867B2 (ja) * | 2011-08-22 | 2013-11-06 | 日本電信電話株式会社 | 基本GoP長を用いた映像品質推定装置及び方法及びプログラム |
JP5384586B2 (ja) * | 2011-08-31 | 2014-01-08 | 日本電信電話株式会社 | TimestampedTS(TTS)を用いた映像フレーム判別装置および方法およびプログラム、及びTTSを用いて判別した映像フレームを用いた映像品質推定装置及び方法及びプログラム |
JP2013062738A (ja) * | 2011-09-14 | 2013-04-04 | Oki Electric Ind Co Ltd | 映像パケットのフレーム種別判別方法及び監視サーバ |
US9203708B2 (en) | 2011-09-26 | 2015-12-01 | Telefonaktiebolaget L M Ericsson (Publ) | Estimating user-perceived quality of an encoded stream |
EP2745518B1 (en) * | 2011-09-26 | 2017-06-14 | Telefonaktiebolaget LM Ericsson (publ) | Estimating user-perceived quality of an encoded video stream |
CA3081964A1 (en) * | 2012-01-20 | 2013-07-25 | Ge Video Compression, Llc | Coding concept allowing parallel processing, transport demultiplexer and video bitstream |
WO2014018012A1 (en) | 2012-07-24 | 2014-01-30 | Siemens Enterprise Communications Gmbh & Co. Kg | Method, device, and system for testing video quality |
CN104780369B (zh) | 2012-08-21 | 2018-04-17 | 华为技术有限公司 | 一种获得视频编码压缩质量的方法及装置 |
CN103634698B (zh) * | 2012-08-21 | 2014-12-03 | 华为技术有限公司 | 视频流的帧类型检测、帧大小检测方法及装置 |
CN104394485B (zh) * | 2012-08-21 | 2017-12-15 | 华为技术有限公司 | 视频流的帧大小检测方法及装置 |
US9858656B2 (en) * | 2013-03-13 | 2018-01-02 | Raytheon Company | Video interpretability and quality estimation |
JP6421422B2 (ja) | 2014-03-05 | 2018-11-14 | 日本電気株式会社 | 映像解析装置、監視装置、監視システムおよび映像解析方法 |
CN103929637B (zh) * | 2014-04-23 | 2016-03-30 | 无锡天脉聚源传媒科技有限公司 | 一种视频比较装置及其比较方法 |
US11064204B2 (en) | 2014-05-15 | 2021-07-13 | Arris Enterprises Llc | Automatic video comparison of the output of a video decoder |
US10440087B2 (en) | 2016-08-01 | 2019-10-08 | Telefonaktiebolaget Lm Ericsson (Publ) | Estimation of losses in a video stream |
CN106604097B (zh) * | 2016-12-07 | 2020-08-11 | 广东威创视讯科技股份有限公司 | 多路视频信号的传输方法和系统 |
CN109391846B (zh) * | 2017-08-07 | 2020-09-01 | 浙江宇视科技有限公司 | 一种自适应模式选择的视频加扰方法及装置 |
CN112073823B (zh) * | 2020-09-02 | 2022-07-12 | 深圳创维数字技术有限公司 | 丢帧处理方法、视频播放终端及计算机可读存储介质 |
EP4304167A1 (en) | 2021-06-14 | 2024-01-10 | Samsung Electronics Co., Ltd. | Electronic device carrying out video call by using frc, and operation method for electronic device |
CN115134629B (zh) * | 2022-05-23 | 2023-10-31 | 阿里巴巴(中国)有限公司 | 视频传输方法、系统、设备及存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001024994A (ja) * | 1999-07-07 | 2001-01-26 | Matsushita Electric Ind Co Ltd | 送信装置、受信装置、記録装置及びプログラム記録媒体 |
JP2006033722A (ja) * | 2004-07-21 | 2006-02-02 | Nippon Telegr & Teleph Corp <Ntt> | 映像品質管理方法および映像品質管理システム |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5650829A (en) * | 1994-04-21 | 1997-07-22 | Sanyo Electric Co., Ltd. | Motion video coding systems with motion vector detection |
US20020154694A1 (en) | 1997-03-21 | 2002-10-24 | Christopher H. Birch | Bit stream splicer with variable-rate output |
US6011868A (en) * | 1997-04-04 | 2000-01-04 | Hewlett-Packard Company | Bitstream quality analyzer |
US6988238B1 (en) | 2000-01-24 | 2006-01-17 | Ati Technologies, Inc. | Method and system for handling errors and a system for receiving packet stream data |
US7835615B2 (en) * | 2004-10-12 | 2010-11-16 | Panasonic Corporation | Data processing apparatus |
WO2006114761A1 (en) * | 2005-04-26 | 2006-11-02 | Koninklijke Philips Electronics N.V. | A device for and a method of detecting positions of intra-coded frames in a data stream |
JP4460506B2 (ja) | 2005-08-26 | 2010-05-12 | 日本電信電話株式会社 | ユーザ体感品質推定装置、方法、およびプログラム |
KR100740421B1 (ko) | 2006-09-01 | 2007-07-16 | 온타임텍 주식회사 | 디지털 멀티미디어 방송 측정 장치에서의 신호 품질 측정방법 |
WO2009012302A1 (en) | 2007-07-16 | 2009-01-22 | Telchemy, Incorporated | Method and system for viewer quality estimation of packet video streams |
-
2008
- 2008-08-22 EP EP20080827667 patent/EP2077672B1/en active Active
- 2008-08-22 CA CA 2668003 patent/CA2668003C/en active Active
- 2008-08-22 JP JP2008558577A patent/JP4891352B2/ja active Active
- 2008-08-22 WO PCT/JP2008/065009 patent/WO2009025357A1/ja active Application Filing
- 2008-08-22 US US12/447,447 patent/US8320747B2/en active Active
- 2008-08-22 KR KR20097009119A patent/KR101008608B1/ko active IP Right Grant
- 2008-08-22 CN CN2008800010326A patent/CN101558657B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001024994A (ja) * | 1999-07-07 | 2001-01-26 | Matsushita Electric Ind Co Ltd | 送信装置、受信装置、記録装置及びプログラム記録媒体 |
JP2006033722A (ja) * | 2004-07-21 | 2006-02-02 | Nippon Telegr & Teleph Corp <Ntt> | 映像品質管理方法および映像品質管理システム |
Also Published As
Publication number | Publication date |
---|---|
CA2668003A1 (en) | 2009-02-26 |
WO2009025357A1 (ja) | 2009-02-26 |
KR101008608B1 (ko) | 2011-01-17 |
EP2077672A4 (en) | 2010-01-06 |
KR20090084845A (ko) | 2009-08-05 |
JPWO2009025357A1 (ja) | 2010-11-25 |
US20100166388A1 (en) | 2010-07-01 |
CN101558657A (zh) | 2009-10-14 |
EP2077672A1 (en) | 2009-07-08 |
CN101558657B (zh) | 2011-07-27 |
CA2668003C (en) | 2013-04-02 |
US8320747B2 (en) | 2012-11-27 |
EP2077672B1 (en) | 2014-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4891352B2 (ja) | 映像品質推定装置、映像品質推定方法、フレーム種別判定方法、および記録媒体 | |
US20120201310A1 (en) | Video quality estimation apparatus, video quality estimation method, and program | |
US9723329B2 (en) | Method and system for determining a quality value of a video stream | |
EP2615833A1 (en) | A method for determining video quality | |
US9241156B2 (en) | Method for estimating the type of the group of picture structure of a plurality of video frames in a video stream | |
JP4475336B2 (ja) | タイムスタンプ付加装置およびタイムスタンプ付加方法、並びにプログラム | |
KR20110033240A (ko) | 스케일러블 비디오 코딩(svc)디코딩에서 향상 계층의 패킷 분실에 기인한 오류 은폐를 위한 방법 | |
EP2413604B1 (en) | Assessing the quality of a video signal during encoding or compressing of the video signal | |
JP2008199606A (ja) | ネットワークジッターを測定するメディアレートを検出する方法 | |
US8576923B2 (en) | Bitstream navigation techniques | |
US9258623B2 (en) | Method and device for quality assessment of encrypted streaming media flows | |
KR20170090868A (ko) | 장면 전환 프레임 검출 장치 및 방법 | |
KR101008976B1 (ko) | 멀티미디어 스트리밍 시스템에서의 에러 검출 방법 | |
JP5394991B2 (ja) | 映像フレーム種別推定用調整係数算出方法、装置、およびプログラム | |
JP6061778B2 (ja) | 映像品質評価装置、映像品質評価方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20111122 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20111215 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4891352 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20141222 Year of fee payment: 3 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |