JP2006352528A - ユーザ体感品質推定モデル生成装置、方法、およびプログラム - Google Patents
ユーザ体感品質推定モデル生成装置、方法、およびプログラム Download PDFInfo
- Publication number
- JP2006352528A JP2006352528A JP2005176137A JP2005176137A JP2006352528A JP 2006352528 A JP2006352528 A JP 2006352528A JP 2005176137 A JP2005176137 A JP 2005176137A JP 2005176137 A JP2005176137 A JP 2005176137A JP 2006352528 A JP2006352528 A JP 2006352528A
- Authority
- JP
- Japan
- Prior art keywords
- user experience
- value
- estimation model
- quality
- statistical
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】品質管理目標値として利用可能なリアルタイム系アプリケーションのユーザ体感品質を推定可能な推定モデルを生成する。
【解決手段】任意の評価期間において送受信されたアプリケーション用パケットに応じた中間パラメータ13を中間パラメータ算出部12で算出し、その評価期間におけるリアルタイム系アプリケーションに対するユーザ体感品質評価値15を品質評価値取得部14で取得する。同一評価期間における中間パラメータ13とユーザ体感品質評価値15との組を複数の組ごとに統計処理部16で統計処理するとともに、各組の中間パラメータから求めた統計値と各組のユーザ体感品質評価値から求めた所定信頼区間下限値とを含む統計結果を順次算出し、各統計結果に含まれる中間パラメータの統計値と前記ユーザ体感品質評価値の所定信頼区間下限値との関係を示す回帰式を所望の推定モデルとして品質推定モデル生成部17で生成する。
【選択図】 図2
【解決手段】任意の評価期間において送受信されたアプリケーション用パケットに応じた中間パラメータ13を中間パラメータ算出部12で算出し、その評価期間におけるリアルタイム系アプリケーションに対するユーザ体感品質評価値15を品質評価値取得部14で取得する。同一評価期間における中間パラメータ13とユーザ体感品質評価値15との組を複数の組ごとに統計処理部16で統計処理するとともに、各組の中間パラメータから求めた統計値と各組のユーザ体感品質評価値から求めた所定信頼区間下限値とを含む統計結果を順次算出し、各統計結果に含まれる中間パラメータの統計値と前記ユーザ体感品質評価値の所定信頼区間下限値との関係を示す回帰式を所望の推定モデルとして品質推定モデル生成部17で生成する。
【選択図】 図2
Description
本発明は、通信品質推定技術に関し、特にリアルタイム系アプリケーションのユーザ体感品質を推定するための推定モデルを生成する推定モデル生成技術に関する。
近年、パケット通信技術の飛躍的な発展に伴い、パケット通信網が音声や映像等のメディアを1対1あるいは多地点間で通信するリアルタイム系アプリケーションで利用されつつある。パケット通信網のインサービス品質管理では、このようなアプリケーションに対する品質管理も必要とされており、特にリアルタイム系アプリケーションでは、実際にアプリケーションを利用するユーザレベルでの主観的あるいは客観的な品質などのユーザ体感品質を用いた品質管理が重要視されている。
従来、発明者らは、このようなユーザ体感品質を用いた品質管理技術を提案した(例えば、特許文献1等参照)。この技術によれば、ユーザ体感品質の推定モデル(回帰式)を事前に生成し、MOS値(Mean Opinion Source)など主観品質値の品質クラスすなわち信頼区間を考慮して、様々な品質管理目的に応じた品質管理目標値を設定できる。
このような品質管理において、品質評価を良い方に誤推定してしまうと、非常に重大な問題に発展してしまう恐れがある。例えば、実際には主観評価値MOS=2であったにも係わらず、実際より品質値の良好なMOS=3.5と推定してしまった場合、本来、ユーザが悪い品質であると認識しているにも係わらず、管理者は、問題のない品質であると判断してしまうことになる。このような場合はクレームが多発し、また品質改善の対処もできなくなる。そのため、例えば95%信頼区間を考慮して、平均値の推定値に信頼区間分を減じて品質推定することで、先のような問題を補うことができる。上記技術では、この95%信頼区間分を平均値から減じて決定した品質管理目標値を安全側の品質目標値としている。
しかしながら、リアルタイム系アプリケーションにおける主観品質評価値などのユーザ体感品質は、一様に95%信頼区間が決定するものではなく、各品質値(例えば、MOS=5付近とMOS=3付近)に対して異なる信頼区間を保持するものである。したがって、前述の従来技術では、主観評価を実施した際の評価試験全体の95%信頼区間を平均値の推定モデル(回帰式)に対して一様に減じていたため、このように信頼区間が変動する現象を考慮して安全側の品質目標値を決定できないという問題点があった。
また、リアルタイム系アプリケーションに対するインサービスでの品質管理技術は、呼毎(Call-by-call)で品質を監視することが望まれているが、ネットワーク品質パラメータよりも上位レイヤのメディア信号でユーザ体感品質を推定する客観評価法であるITU−T勧告P.862PESQ(Perceptual Evaluation of Speech Quality)やITU−T勧告P.861PSQM(Perceptual Speech Quality Measure)であっても、1回の測定でユーザ体感品質を推定するものではなく、数サンプルの平均によって品質を推定するものとされている。
そのため、インサービス品質管理のようなサンプルごとにユーザ体感品質を推定する際、前述の従来技術のように平均値推定を採用してしまっては、品質の良いほうに推定誤差が生じてしまう可能性があった。
そのため、インサービス品質管理のようなサンプルごとにユーザ体感品質を推定する際、前述の従来技術のように平均値推定を採用してしまっては、品質の良いほうに推定誤差が生じてしまう可能性があった。
本発明はこのような課題を解決するためのものであり、品質管理目標値として利用可能なリアルタイム系アプリケーションのユーザ体感品質を推定可能な推定モデルを生成できるユーザ体感品質推定モデル生成装置、方法、およびプログラムを提供することを目的としている。
このような目的を達成するために、本発明にかかるユーザ体感品質推定モデル生成装置は、パケット通信網を介して接続されたアプリケーション端末間で用いられるリアルタイム系アプリケーションについて、当該リアルタイム系アプリケーションでやり取りされるアプリケーション用パケットの送受信状況からユーザ体感品質を推定するための推定モデルを生成するユーザ体感品質推定モデル生成装置であって、任意の評価期間においてアプリケーション端末で送受信されたアプリケーション用パケットの送受信状況を示す中間パラメータを算出する中間パラメータ算出部と、評価期間において評価されたリアルタイム系アプリケーションに対するユーザ体感品質評価値を取得する品質評価値取得部と、同一評価期間における中間パラメータとユーザ体感品質評価値との組を複数の組ごとに統計処理し、各組の中間パラメータから求めた統計値と各組のユーザ体感品質評価値から求めた所定信頼区間下限値とを含む統計結果を順次算出する統計処理部と、各統計結果に含まれる中間パラメータの統計値とユーザ体感品質評価値の所定信頼区間下限値との関係を示す回帰式を所望の推定モデルとして生成する品質推定モデル生成部とを備えている。
この際、推定モデル生成の具体例として、統計処理部により、統計値として各中間パラメータの平均値を求め、品質推定モデル生成部により、各統計結果に含まれる中間パラメータの平均値とユーザ体感品質評価値の所定信頼区間下限値との関係を示す回帰式を所望の推定モデルとして生成するようにしてもよい。
あるいは、品質推定モデル生成部により、統計量が任意の選定範囲にある複数の統計結果のうちユーザ体感品質評価値の所定信頼区間下限値が最も低い統計結果を選定し、選定した中間パラメータの平均値とユーザ体感品質評価値の所定信頼区間下限値との関係を示す回帰式を所望の推定モデルとして生成するようにしてもよい。
この際、統計処理部により、統計値として各中間パラメータの平均値と所定信頼区間上下限値を求め、品質推定モデル生成部により、統計量が所定信頼区間上下限値の範囲にある複数の統計結果のうちユーザ体感品質評価値の所定信頼区間下限値が最も低い統計結果を選定するようにしてもよい。
また、本発明にかかるユーザ体感品質推定モデル生成方法は、パケット通信網を介して接続されたアプリケーション端末間で用いられるリアルタイム系アプリケーションについて、当該リアルタイム系アプリケーションでやり取りされるアプリケーション用パケットの送受信状況からユーザ体感品質を推定するための推定モデルを情報処理装置で生成するユーザ体感品質推定モデル生成方法であって、任意の評価期間においてアプリケーション端末で送受信されたアプリケーション用パケットの送受信状況を示す中間パラメータを算出する中間パラメータ算出ステップと、評価期間において評価されたリアルタイム系アプリケーションに対するユーザ体感品質評価値を取得する品質評価値取得ステップと、同一評価期間における中間パラメータとユーザ体感品質評価値との組を複数の組ごとに統計処理し、各組の中間パラメータから求めた統計値と各組のユーザ体感品質評価値から求めた所定信頼区間下限値とを含む統計結果を順次算出する統計処理ステップと、各統計結果に含まれる中間パラメータの統計値とユーザ体感品質評価値の所定信頼区間下限値との関係を示す回帰式を所望の推定モデルとして生成する品質推定モデル生成ステップとを備えている。
また、本発明にかかるプログラムは、パケット通信網を介して接続されたアプリケーション端末間で用いられるリアルタイム系アプリケーションについて、当該リアルタイム系アプリケーションでやり取りされるアプリケーション用パケットの送受信状況からユーザ体感品質を推定するための推定モデルを生成するユーザ体感品質推定モデル生成装置のコンピュータに、任意の評価期間においてアプリケーション端末で送受信されたアプリケーション用パケットの送受信状況を示す中間パラメータを算出する中間パラメータ算出ステップと、評価期間において評価されたリアルタイム系アプリケーションに対するユーザ体感品質評価値を取得する品質評価値取得ステップと、同一評価期間における中間パラメータとユーザ体感品質評価値との組を複数の組ごとに統計処理し、各組の中間パラメータから求めた統計値と各組のユーザ体感品質評価値から求めた所定信頼区間下限値とを含む統計結果を順次算出する統計処理ステップと、各統計結果に含まれる中間パラメータの統計値とユーザ体感品質評価値の所定信頼区間下限値との関係を示す回帰式を所望の推定モデルとして生成する品質推定モデル生成ステップとを実行させるようにしたものである。
本発明によれば、任意の評価期間において送受信されたアプリケーション用パケットの送受信状況を示す中間パラメータが算出されるとともに、その評価期間において利用者が評価したリアルタイム系アプリケーションに対するユーザ体感品質評価値が取得されて、同一評価期間における中間パラメータとユーザ体感品質評価値との組が複数の組ごとに統計処理されるとともに、各組の中間パラメータから求めた統計値と各組のユーザ体感品質評価値から求めた所定信頼区間下限値とを含む統計結果が順次算出され、各統計結果に含まれる中間パラメータの統計値とユーザ体感品質評価値の所定信頼区間下限値との関係を示す回帰式が所望の推定モデルとして生成される。
したがって、ユーザ体感品質値のばらつきを考慮してその安全側を推定可能なユーザ体感品質推定モデルを生成でき、品質管理目標値として利用可能なリアルタイム系アプリケーションのユーザ体感品質を推定可能な推定モデルを生成できる。
次に、本発明の実施の形態について図面を参照して説明する。
[第1の実施の形態]
まず、図1および図2を参照して、本発明の第1の実施の形態にかかるユーザ体感品質推定モデル生成装置について説明する。図1は、本発明の第1の実施の形態にかかるユーザ体感品質推定モデル生成装置が適用される品質管理システムの構成を示すブロック図である。図2は、本発明の第1の実施の形態にかかるユーザ体感品質推定モデル生成装置の構成を示すブロック図である。
[第1の実施の形態]
まず、図1および図2を参照して、本発明の第1の実施の形態にかかるユーザ体感品質推定モデル生成装置について説明する。図1は、本発明の第1の実施の形態にかかるユーザ体感品質推定モデル生成装置が適用される品質管理システムの構成を示すブロック図である。図2は、本発明の第1の実施の形態にかかるユーザ体感品質推定モデル生成装置の構成を示すブロック図である。
この品質管理システムには、アプリケーション端末3A,3B、品質管理装置2A,2B、パケット転送装置4A,4B、およびユーザ体感品質推定モデル生成装置1が設けられている。
アプリケーション端末3Aおよびアプリケーション端末3Bは、ハブ(HUB)などのパケット転送装置4A,4Bを介してパケット通信網5に接続されて、両端末間でメディアパケット61や制御パケット62などのアプリケーション用パケット6をやり取りすることにより、音声や映像等のメディアを通信するリアルタイム系アプリケーションを実行する情報処理端末である。
アプリケーション端末3Aおよびアプリケーション端末3Bは、ハブ(HUB)などのパケット転送装置4A,4Bを介してパケット通信網5に接続されて、両端末間でメディアパケット61や制御パケット62などのアプリケーション用パケット6をやり取りすることにより、音声や映像等のメディアを通信するリアルタイム系アプリケーションを実行する情報処理端末である。
品質管理装置2A,2Bは、各アプリケーション端末3A,3Bの内部あるいは外部に設けられて、それぞれのアプリケーション端末3A,3Bで実行されているリアルタイム系アプリケーションについて、そのユーザ体感品質を所定の品質管理目標値に基づき管理する情報処理端末である。
ユーザ体感品質推定モデル生成装置1は、パケット転送装置4A,4Bを介してキャプチャ(捕捉)したアプリケーション用パケット6A,6Bの送受信状況と利用者が評価したリアルタイム系アプリケーションに対するユーザ体感品質評価値とに基づきユーザ体感品質を推定するための推定モデルを生成する情報処理端末である。
ユーザ体感品質推定モデル生成装置1は、パケット転送装置4A,4Bを介してキャプチャ(捕捉)したアプリケーション用パケット6A,6Bの送受信状況と利用者が評価したリアルタイム系アプリケーションに対するユーザ体感品質評価値とに基づきユーザ体感品質を推定するための推定モデルを生成する情報処理端末である。
図2において、ユーザ体感品質推定モデル生成装置1には、対象パケット抽出部11、中間パラメータ算出部12、品質評価値取得部14、統計処理部16、品質推定モデル生成部17、および品質管理目標情報出力部19が設けられている。
本実施の形態では、ユーザ体感品質推定モデル生成装置1において、任意の評価期間において各アプリケーション端末で送受信されたアプリケーション用パケットの送受信状況を示す所定の中間パラメータ13を中間パラメータ算出部12で算出し、その評価期間において利用者が評価したリアルタイム系アプリケーションに対するユーザ体感品質評価値15を品質評価値取得部14で取得し、同一評価期間における中間パラメータ13とユーザ体感品質評価値15との組を複数の組ごとに統計処理部16で統計処理するとともに、各組の中間パラメータから求めた統計値と各組のユーザ体感品質評価値から求めた所定信頼区間下限値とを含む統計結果を順次算出し、各統計結果に含まれる中間パラメータの統計値とユーザ体感品質評価値の所定信頼区間下限値との関係を示す回帰式を所望の推定モデルとして品質推定モデル生成部17で生成するようにしたものである。
[ユーザ体感品質推定モデル生成装置]
次に、図2を参照して、本実施の形態にかかるユーザ体感品質推定モデル生成装置の構成について詳細に説明する。
このユーザ体感品質推定モデル生成装置1において、上記各機能部は、専用回路部や演算処理部、さらには記憶部により実現される。このうち、演算処理部はCPUおよびその周辺回路を有し、CPU内部や周辺回路のメモリあるいは記憶部からプログラムを読み込んで実行することにより各種機能部を実現する。また、記憶部はハードディスクやメモリなどの記憶装置からなり、専用回路部や演算処理部で用いる各種処理情報やプログラムを記憶する。
次に、図2を参照して、本実施の形態にかかるユーザ体感品質推定モデル生成装置の構成について詳細に説明する。
このユーザ体感品質推定モデル生成装置1において、上記各機能部は、専用回路部や演算処理部、さらには記憶部により実現される。このうち、演算処理部はCPUおよびその周辺回路を有し、CPU内部や周辺回路のメモリあるいは記憶部からプログラムを読み込んで実行することにより各種機能部を実現する。また、記憶部はハードディスクやメモリなどの記憶装置からなり、専用回路部や演算処理部で用いる各種処理情報やプログラムを記憶する。
対象パケット抽出部11は、専用回路部や演算処理部からなり、任意の評価期間においてアプリケーション端末3Aで送受信されたアプリケーション用パケット6Aをパケット転送装置4Aからキャプチャする機能と、上記評価期間においてアプリケーション端末3Bで送受信されたアプリケーション用パケット6Bをパケット転送装置4Bからキャプチャする機能と、これらアプリケーション用パケット6A,6Bからモデル生成の対象となるリアルタイム系アプリケーションのアプリケーション用パケットを抽出する機能とを有している。
中間パラメータ算出部12は、演算処理部からなり、対象パケット抽出部11で抽出されたアプリケーション用パケットの送受信状況を抽出する機能と、その送受信状況に応じた所定の中間パラメータ13を算出し記憶部へ保存する機能とを有している。この中間パラメータとしては、例えば無効パケット率などユーザ体感品質に応じて変化する指標が用いられる。無効パケットとは、一方の端末から一定間隔で送信された各試験用パケットのうち他方の端末へ到着しなかった損失パケットと、直前到着パケットとの到着間隔がリアルタイム系アプリケーションの揺らぎ吸収許容時間を越えた遅着パケットのことであり(例えば、特開2002-064539号公報など参照)、送信した試験パケット数に対する無効パケット数(損失パケット数+遅着パケット数)の割合で求められる。
品質評価値取得部14は、専用回路部や演算処理部からなり、対象パケット抽出部11でアプリケーション用パケット6A,6Bをキャプチャした評価期間において、利用者が評価したそのリアルタイム系アプリケーションに対するユーザ体感品質評価値7A,7Bを取得する機能と、これらユーザ体感品質評価値7A,7Bをユーザ体感品質評価値15として記憶部へ保存する機能とを有している。
統計処理部16は、演算処理部からなり、同一評価期間における中間パラメータ13とユーザ体感品質評価値15との組を記憶部からそれぞれ取得する機能と、これら複数の組ごとに中間パラメータ13とユーザ体感品質評価値15とを統計処理する機能と、各組の中間パラメータから求めた統計値と各組のユーザ体感品質評価値から求めた所定信頼区間下限値とを含む統計結果を上記複数の組ごとに順次算出する機能とを有している。この際、中間パラメータの統計量としては、各組の中間パラメータの平均値や、所定信頼区間上限値、下限値などが用いられる。信頼区間については必要とされる推定精度に応じて95%信頼区間や99%信頼区間などが用いられる。
測定で得られた中間パラメータ13やユーザ体感品質評価値15の95%信頼区間は、これら標本抽出を繰り返して得られた各信頼区間のうち、その信頼区間の中に真の母集団(全体)平均が含まれる割合が95%となる範囲を意味している。これにより、例えば測定で得られた複数のユーザ体感品質評価値15に対する真の母集団(全体)平均は、これらユーザ体感品質評価値15から求めた信頼区間で示される範囲でばらつく可能性があると見なすことができる。本実施の形態では、各ユーザ体感品質評価値15を代表する統計値として、この信頼区間の下限値すなわちユーザ体感品質として品質の低い側の値を用いている。
品質推定モデル生成部17は、演算処理部からなり、統計処理部16で得られた各統計結果に含まれる中間パラメータ13の統計値とユーザ体感品質評価値15の所定信頼区間下限値との関係を回帰分析する機能と、得られた回帰式をユーザ体感品質推定モデル18として記憶部へ保存する機能とを有している。
品質管理目標情報出力部19は、専用回路部や演算処理部からなり、記憶部のユーザ体感品質推定モデル18に基づき品質管理装置2A,2Bで用いる品質目標値を示す品質管理目標情報8A,8Bを生成する機能と、得られた品質管理目標情報8A,8Bを品質管理装置2A,2Bへ出力する機能とを有している。この際、品質管理目標情報出力部19は、ユーザ体感品質推定モデル18から算出した所望のユーザ体感品質目標値に対応する中間パラメータを品質管理目標情報8A,8Bとして通知する。
[品質管理装置]
次に、図3を参照して、図1の品質管理システムで用いられる品質管理装置の構成について説明する。図3は、図1の品質管理システムで用いられる品質管理装置の構成を示すブロック図である。
次に、図3を参照して、図1の品質管理システムで用いられる品質管理装置の構成について説明する。図3は、図1の品質管理システムで用いられる品質管理装置の構成を示すブロック図である。
この品質管理装置2には、対象パケット抽出部21、品質管理値算出部22、品質管理目標情報取得部24、および品質判定部26が設けられている。
この品質管理装置2において、上記各機能部は、専用回路部や演算処理部、さらには記憶部により実現される。このうち、演算処理部はCPUおよびその周辺回路を有し、CPU内部や周辺回路のメモリあるいは記憶部からプログラムを読み込んで実行することにより各種機能部を実現する。また、記憶部はハードディスクやメモリなどの記憶装置からなり、専用回路部や演算処理部で用いる各種処理情報やプログラムを記憶する。
この品質管理装置2において、上記各機能部は、専用回路部や演算処理部、さらには記憶部により実現される。このうち、演算処理部はCPUおよびその周辺回路を有し、CPU内部や周辺回路のメモリあるいは記憶部からプログラムを読み込んで実行することにより各種機能部を実現する。また、記憶部はハードディスクやメモリなどの記憶装置からなり、専用回路部や演算処理部で用いる各種処理情報やプログラムを記憶する。
対象パケット抽出部21は、専用回路部や演算処理部からなり、任意の評価期間においてアプリケーション端末3Aで送受信されたアプリケーション用パケット9Aをアプリケーション端末3Aからキャプチャする機能と、上記評価期間においてアプリケーション端末3Bで送受信されたアプリケーション用パケット9Bをアプリケーション端末3Bからキャプチャする機能と、これらアプリケーション用パケット9A,9Bからモデル生成の対象となるリアルタイム系アプリケーションのアプリケーション用パケットを抽出する機能とを有している。
品質管理値算出部22は、演算処理部からなり、対象パケット抽出部11で抽出されたアプリケーション用パケットの送受信状況を抽出する機能と、その送受信状況に応じた品質管理値23を算出し記憶部へ保存する機能とを有している。この品質管理値23としては、中間パラメータやユーザ体感品質値が用いられる。
品質管理目標情報取得部24は、専用回路部や演算処理部からなり、ユーザ体感品質推定モデル生成装置1から品質管理目標情報8を取得する機能と、取得した品質管理目標情報8から品質管理目標値25を抽出して記憶部へ保存する機能とを有している。この際、品質管理目標情報取得部24は、品質管理目標となる中間パラメータを品質管理目標値25として品質管理目標情報8から抽出する。
品質判定部26は、記憶部から順次取得した品質管理値23を記憶部の品質管理目標値25と比較する機能と、その比較結果を品質管理値23に対する品質判定結果として出力する機能とを有している。
[第1の実施の形態の動作]
次に、図1および図2を参照して、本発明の第1の実施の形態にかかるユーザ体感品質推定モデル生成装置の動作として、ユーザ体感品質推定モデルの生成動作について説明する。以下では、リアルタイム系アプリケーションで使用できる通信サービスをパケット通信網5により提供開始する前に品質目標値を設定する段階、もしくは定期的に品質目標値の見直しをはかる段階で、対象アプリケーションをアプリケーション端末3A,3Bで実行し、メディア/アプリケーションに対するユーザ体感品質評価試験を繰り返し実行し、得られた品質評価値と中間パラメータとの複数の組からユーザ体感品質推定モデルを生成する場合について説明する。なお、ここでは信頼区間として95%信頼区間を用いた場合を例として説明する。
次に、図1および図2を参照して、本発明の第1の実施の形態にかかるユーザ体感品質推定モデル生成装置の動作として、ユーザ体感品質推定モデルの生成動作について説明する。以下では、リアルタイム系アプリケーションで使用できる通信サービスをパケット通信網5により提供開始する前に品質目標値を設定する段階、もしくは定期的に品質目標値の見直しをはかる段階で、対象アプリケーションをアプリケーション端末3A,3Bで実行し、メディア/アプリケーションに対するユーザ体感品質評価試験を繰り返し実行し、得られた品質評価値と中間パラメータとの複数の組からユーザ体感品質推定モデルを生成する場合について説明する。なお、ここでは信頼区間として95%信頼区間を用いた場合を例として説明する。
ユーザ体感品質推定モデル生成装置1は、対象パケット抽出部11により、パケット転送装置4A,4Bから対象アプリケーションで用いるアプリケーション用パケット6A,6Bをキャプチャする。そして、中間パラメータ算出部12により、対象パケット抽出部11でキャプチャしたアプリケーション用パケット6A,6Bから、例えば数秒の評価期間ごとに中間パラメータ13を順次算出し記憶部へ保存する。
これと並行して、ユーザ体感品質推定モデル生成装置1は、品質評価値取得部14により、アプリケーション端末3A,3Bからメディア/アプリケーションに対する主観または客観のユーザ体感品質評価値を取得する。この際、被験者がアプリケーション端末3A,3Bで、メディア/アプリケーション通信に対して上記評価期間ごとに評価を繰り返し実施する。ユーザ体感品質推定モデル生成装置1は、個々の評価ごとにユーザ体感品質評価値7A,7Bを取得し、品質評価値15として記憶部へ保存する。
ユーザ体感品質評価値の具体的方法の1つとして、主観評価であるオピニオン評価法がある。オピニオン評価法は、系列範疇法(Method of Successive Categories)と呼ばれる心理測定法の一種である。被験者は被試験音声の品質を、日常使用している電話の品質に照らして「非常によい」〜「非常に悪い」まで5段階で評価する。そして、その評価に4〜0点(あるいは5〜1点)の評点を与え、多数の被験者による投票率にしたがって加重平均値を求めたものをMOS値(Mean Opinion Source:平均オピニオン値)として用いる(例えば、浅谷,「通信ネットワークの品質設計」,社団法人電子情報通信学会,1993,Marなど参照)。
次に、ユーザ体感品質推定モデル生成装置1は、統計処理部16により、記憶部に保存されている評価期間ごとの中間パラメータ13とユーザ体感品質評価値15との組を複数の組ごとに統計処理し、統計結果として出力する。この際、例えば8つの評価期間ごとに得られた中間パラメータ13とユーザ体感品質評価値15からなる8個の組を1つのまとまりとし、これら中間パラメータ13とユーザ体感品質評価値15の平均値、標準偏差、95%信頼区間を算出し、1つのまとまりごとに統計結果として出力する。統計結果としては、これら8個の中間パラメータ13の例えば平均値などの統計量と、8個のユーザ体感品質評価値15の95%信頼区間を出力する。なお、1回の接続ごとに平均、標準偏差、95%信頼区間を算出してもよい。
ユーザ体感品質推定モデル生成装置1は、上記のようにして8個の組ごとに1つの統計結果を順次生成し、品質推定モデル生成部17により、得られた複数の統計結果に基づき所望の品質推定モデル18を生成し記憶部へ保存する。この際、品質推定モデル生成部17は、中間パラメータ15の統計量(平均値)とユーザ体感品質評価値の95%信頼区間下限値との関係を示す回帰式を所望の推定モデルとして生成する。これにより、ユーザ体感品質評価値としてその平均値を用いた場合と比較して、より安全側のユーザ体感品質評価値を推定する品質推定モデル18を生成できる。
この後、ユーザ体感品質推定モデル生成装置1は、品質管理目標情報出力部19により、記憶部から品質推定モデル18を取得して品質管理目標情報8A,8Bを生成し、品質管理装置2A,2Bへ送信する。この際、品質管理目標情報出力部19は、予め定められたユーザ体感品質目標値、例えばMOS=3に対応する中間パラメータを品質推定モデル18から逆算し、その中間パラメータすなわち品質目標値を用いて品質管理目標情報8A,8Bを生成する。これにより、一連のユーザ体感品質推定モデル生成動作を終了する。
[ユーザ体感品質推定モデルの生成]
次に、図4〜図7を参照して、本発明の第1の実施の形態にかかるユーザ体感品質推定モデル生成装置でのユーザ体感品質推定モデルの生成について詳細に説明する。図4は、無効パケット率(測定値)と主観品質評価値MOS(測定値)の関係を示す説明図である。図5は、ユーザ体感品質評価試験で得られた無効パケット率(平均値)と主観品質評価値MOS(平均値)の関係を示す説明図である。図6は、ユーザ体感品質評価試験で得られた無効パケット率(95%信頼区間下限値)と主観品質評価値MOS(平均値)の関係を示す説明図である。図7は、本実施の形態で得られた品質推定モデルと測定データの関係を示す説明図である。
次に、図4〜図7を参照して、本発明の第1の実施の形態にかかるユーザ体感品質推定モデル生成装置でのユーザ体感品質推定モデルの生成について詳細に説明する。図4は、無効パケット率(測定値)と主観品質評価値MOS(測定値)の関係を示す説明図である。図5は、ユーザ体感品質評価試験で得られた無効パケット率(平均値)と主観品質評価値MOS(平均値)の関係を示す説明図である。図6は、ユーザ体感品質評価試験で得られた無効パケット率(95%信頼区間下限値)と主観品質評価値MOS(平均値)の関係を示す説明図である。図7は、本実施の形態で得られた品質推定モデルと測定データの関係を示す説明図である。
図4に示すように、中間パラメータとして無効パケット率を用い、評価期間ごとに得られた無効パケット率と主観品質評価値MOSからなる測定データをプロットした場合、同一の無効パケット率に対しても、品質評価値(MOS)にばらつきがあることがわかる。したがって、これらのデータを統計処理した後に推定モデルを作成すればよい。統計処理する理由は、音声の客観品質評価法であるITU−T勧告P.861PSQM(Perceptual Speech Quality Measure)にも記載されているが、客観的に品質推定を実施する場合、数サンプル(具体的には8サンプル以上)の平均値により推定することが望ましいとされているためである。例えば、1回の接続時間中に10秒間の音声品質評価を8回実施した場合、その8回の評価値を統計処理することになる。
8回の評価ごとに得られた無効パケット率と主観品質評価値MOSの平均値からなる平均データをそれぞれプロットした場合、図5のようになり、図中の曲線100は、これら無効パケット率と主観品質評価値MOSの平均値の組から得た回帰式を示す回帰曲線である。
この図5によれば、モデル生成に用いたデータのばらつきが小さく非常に高精度な推定モデルが生成されていることがわかるが、実際には図2に示すように測定データがばらつくため、図5の推定モデルからの推定誤差が大きいデータも多い。インサービス品質管理では、リアルタイムで品質を推定することが望まれるため、図2で示される主観品質評価値MOSを推定できることが望ましい。また、品質管理では、厳しく品質を推定すれば安全側の品質推定となり、最悪ケースを予測できる。よって、95%信頼区間などの所定信頼区間の下限値を精度よく推定できれば、そのメリットは大きい。
この図5によれば、モデル生成に用いたデータのばらつきが小さく非常に高精度な推定モデルが生成されていることがわかるが、実際には図2に示すように測定データがばらつくため、図5の推定モデルからの推定誤差が大きいデータも多い。インサービス品質管理では、リアルタイムで品質を推定することが望まれるため、図2で示される主観品質評価値MOSを推定できることが望ましい。また、品質管理では、厳しく品質を推定すれば安全側の品質推定となり、最悪ケースを予測できる。よって、95%信頼区間などの所定信頼区間の下限値を精度よく推定できれば、そのメリットは大きい。
本実施の形態では、図6に示すように、統計処理部16により、測定データ(図4)に対して、MOSの平均値(ここでは8評価平均値)から95%信頼区間幅(8評価の片側95%信頼区間幅)を引いたMOSの95%信頼区間下限値を求め、品質推定モデル生成部17により、曲線101で示される推定モデルを生成した。これにより、図7に示すように、無効パケット率と主観品質評価値MOSの平均値から生成した推定モデル(曲線100)と比較して、曲線101のほうが測定データの低品質側を推定できることがわかる。したがって、本実施の形態によれば、ユーザ体感品質値のばらつきを考慮してその安全側を推定可能なユーザ体感品質推定モデルを生成できる。
[第2の実施の形態]
次に、図8および図9を参照して、本発明の第2の実施の形態にかかるユーザ体感品質推定モデル生成装置について説明する。図8は、本発明の第2の実施の形態にかかるユーザ体感品質推定モデル生成装置での統計結果選定処理を示す説明図である。図9は、本発明の第2の実施の形態にかかるユーザ体感品質推定モデル生成装置で得られた品質推定モデルと測定データの関係を示す説明図である。
次に、図8および図9を参照して、本発明の第2の実施の形態にかかるユーザ体感品質推定モデル生成装置について説明する。図8は、本発明の第2の実施の形態にかかるユーザ体感品質推定モデル生成装置での統計結果選定処理を示す説明図である。図9は、本発明の第2の実施の形態にかかるユーザ体感品質推定モデル生成装置で得られた品質推定モデルと測定データの関係を示す説明図である。
前述の第1の実施の形態では、測定試験でユーザ体感品質値として得られた主観品質評価値MOSの95%信頼区間下限値を用いて品質推定モデルを生成する場合について説明した。本実施の形態では、中間パラメータの統計量が同程度にある複数の統計結果についてはそのうちユーザ体感品質評価値の95%信頼区間下限値が最も低い統計結果を1つ選定し、これら選定した統計結果の中間パラメータの平均値とユーザ体感品質評価値の95%信頼区間下限値との関係を示す回帰式から品質推定モデルを生成する場合について説明する。
本実施の形態において、ユーザ体感品質推定モデル生成装置1の品質推定モデル生成部17は、統計処理部16から出力された各統計結果について、中間パラメータの統計量が任意の範囲にある複数の統計結果のうちユーザ体感品質評価値の95%信頼区間下限値が最も低い統計結果を選定する機能と、選定した統計結果の中間パラメータの平均値とユーザ体感品質評価値の95%信頼区間下限値との関係を示す回帰式から品質推定モデルを生成する機能とを有している。なお、このほかの構成については、前述した第1の実施の形態の構成(図2参照)と同様であり、ここでの詳細な説明は省略する。
品質推定モデル生成部17は、図8に示すように、統計処理部16から出力された各統計結果のうち、品質推定モデル生成部17により、無効パケット率の平均値が任意の選定範囲にある複数の統計結果については、そのうち主観品質評価値MOSの95%信頼区間下限値が最も低いものを採用とし、それ以外は非採用とする。
選定処理の対象となる複数の統計結果については、前述した第1の実施の形態によれば、統計処理部16において、8評価の無効パケット率ごとにその平均値(8評価平均値)に加えて95%信頼区間の上下限値を算出し統計結果として出力し、品質推定モデル生成部17により、その無効パケット率の95%信頼区間の上下限値範囲が重複するものを、選定処理の対象となる複数の統計結果としてもよい。この際、95%信頼区間の上下限値範囲が重複する統計結果のうち、最も広い上下限値範囲が上記範囲選定となる。なお、無効パケット率を所定幅ごとに区切って設けた各区間を選定範囲として用いてもよい。
図9の曲線111は、所定の測定データに対して本実施の形態を適用して得られた品質推定モデルgを示す回帰曲線である。無効パケット率をrとした場合、
g(r)=2.994×exp(-1×r/0.031)+1
となる。測定データの平均値から得られた品質推定モデルfを示す曲線110と比較して、ほとんどの測定データの低品質側を推定できていることがわかる。
f(r)=3.242×exp(-1×r/0.044)+1−0.30
g(r)=2.994×exp(-1×r/0.031)+1
となる。測定データの平均値から得られた品質推定モデルfを示す曲線110と比較して、ほとんどの測定データの低品質側を推定できていることがわかる。
f(r)=3.242×exp(-1×r/0.044)+1−0.30
このように、本実施の形態によれば、同程度の無効パケット率に対する主観品質評価値MOSの95%信頼区間下限値として、最も評価値の低い95%信頼区間下限値が選定されて品質推定モデルが生成されるため、品質推定モデルとして、ユーザ体感品質値のばらつきを考慮して、より安全側を推定可能なユーザ体感品質推定モデルを生成できる。
[各実施の形態の拡張]
以上の各実施の形態では、中間パラメータとして無効パケット率を用い、ユーザ体感品質評価値として主観品質評価値(MOS)を用いた場合を例として説明したが、これに限定さられるものではなく、他の指標を用いてもよい。
また、評価区間については、95%評価区間に限定されるものではなく、品質推定モデルに要求される精度に応じて例えば99%評価区間など、任意の評価区間を用いればよい。
以上の各実施の形態では、中間パラメータとして無効パケット率を用い、ユーザ体感品質評価値として主観品質評価値(MOS)を用いた場合を例として説明したが、これに限定さられるものではなく、他の指標を用いてもよい。
また、評価区間については、95%評価区間に限定されるものではなく、品質推定モデルに要求される精度に応じて例えば99%評価区間など、任意の評価区間を用いればよい。
また、ユーザ体感品質推定モデル生成装置1では、ユーザ体感品質推定モデル18の回帰式そのものを品質管理目標情報8A,8Bとして通知してもよい。この際、品質管理装置2A,2Bの品質管理目標情報取得部24では、品質管理目標情報8に含まれているユーザ体感品質推定モデル18の回帰式を記憶部へ保存し、所望のユーザ体感品質管理目標値に対応する中間パラメータを逆算し品質管理目標値25として記憶部に保存すればよい。あるいは、品質管理値算出部22により、アプリケーション用パケットの送受信状況から得た中間パラメータに対応するユーザ体感品質値をユーザ体感品質推定モデル18から算出して品質管理値23として記憶部へ保存し、品質管理目標情報取得部24で取得された所望のユーザ体感品質管理目標値からなる品質管理目標値25と、品質判定部26で比較するようにしてもよい。
1…ユーザ体感品質推定モデル生成装置、11…対象パケット抽出部、12…中間パラメータ算出部、13…中間パラメータ、14…品質評価値取得部、15…品質評価値、16…統計処理部、17…品質推定モデル生成部、18…品質推定モデル、19…品質管理目標情報出力部、2,2A,2B…品質管理装置、21…対象パケット抽出部、22…品質管理値算出部、23…品質管理値、24…品質管理目標情報取得部、25…品質管理目標値、26…品質判定部、3A,3B…アプリケーション端末、4A,4B…パケット転送装置(HUB)、5…パケット通信網、6,6A,6B…アプリケーション用パケット、61…メディアパケット、62…制御パケット、7A,7B…品質評価値、8,8A,8B…品質管理目標情報、9A,9B…アプリケーション用パケット。
Claims (6)
- パケット通信網を介して接続されたアプリケーション端末間で用いられるリアルタイム系アプリケーションについて、当該リアルタイム系アプリケーションでやり取りされるアプリケーション用パケットの送受信状況からユーザ体感品質を推定するための推定モデルを生成するユーザ体感品質推定モデル生成装置であって、
任意の評価期間において前記アプリケーション端末で送受信されたアプリケーション用パケットの送受信状況を示す中間パラメータを算出する中間パラメータ算出部と、
前記評価期間において評価された前記リアルタイム系アプリケーションに対するユーザ体感品質評価値を取得する品質評価値取得部と、
同一評価期間における前記中間パラメータと前記ユーザ体感品質評価値との組を複数の組ごとに統計処理し、前記各組の中間パラメータから求めた統計値と前記各組のユーザ体感品質評価値から求めた所定信頼区間下限値とを含む統計結果を順次算出する統計処理部と、
前記各統計結果に含まれる前記中間パラメータの統計値と前記ユーザ体感品質評価値の所定信頼区間下限値との関係を示す回帰式を所望の推定モデルとして生成する品質推定モデル生成部と
を備えることを特徴とするユーザ体感品質推定モデル生成装置。 - 請求項1に記載のユーザ体感品質推定モデル生成装置において、
前記統計処理部は、前記統計値として前記各中間パラメータの平均値を求め、
前記品質推定モデル生成部は、前記各統計結果に含まれる前記中間パラメータの平均値と前記ユーザ体感品質評価値の所定信頼区間下限値との関係を示す回帰式を所望の推定モデルとして生成する
ことを特徴とするユーザ体感品質推定モデル生成装置。 - 請求項1に記載のユーザ体感品質推定モデル生成装置において、
前記品質推定モデル生成部は、前記統計量が任意の選定範囲にある複数の統計結果のうちユーザ体感品質評価値の所定信頼区間下限値が最も低い統計結果を選定し、選定した前記中間パラメータの平均値と前記ユーザ体感品質評価値の所定信頼区間下限値との関係を示す回帰式を所望の推定モデルとして生成する
ことを特徴とするユーザ体感品質推定モデル生成装置。 - 請求項1に記載のユーザ体感品質推定モデル生成装置において、
前記統計処理部は、前記統計値として前記各中間パラメータの平均値と所定信頼区間上下限値を求め、
前記品質推定モデル生成部は、前記統計量が所定信頼区間上下限値の範囲にある複数の統計結果のうちユーザ体感品質評価値の所定信頼区間下限値が最も低い統計結果を選定する
ことを特徴とするユーザ体感品質推定モデル生成装置。 - パケット通信網を介して接続されたアプリケーション端末間で用いられるリアルタイム系アプリケーションについて、当該リアルタイム系アプリケーションでやり取りされるアプリケーション用パケットの送受信状況からユーザ体感品質を推定するための推定モデルを情報処理装置で生成するユーザ体感品質推定モデル生成方法であって、
任意の評価期間において前記アプリケーション端末で送受信されたアプリケーション用パケットの送受信状況を示す中間パラメータを算出する中間パラメータ算出ステップと、
前記評価期間において評価された前記リアルタイム系アプリケーションに対するユーザ体感品質評価値を取得する品質評価値取得ステップと、
同一評価期間における前記中間パラメータと前記ユーザ体感品質評価値との組を複数の組ごとに統計処理し、前記各組の中間パラメータから求めた統計値と前記各組のユーザ体感品質評価値から求めた所定信頼区間下限値とを含む統計結果を順次算出する統計処理ステップと、
前記各統計結果に含まれる前記中間パラメータの統計値と前記ユーザ体感品質評価値の所定信頼区間下限値との関係を示す回帰式を所望の推定モデルとして生成する品質推定モデル生成ステップと
を備えることを特徴とするユーザ体感品質推定モデル生成方法。 - パケット通信網を介して接続されたアプリケーション端末間で用いられるリアルタイム系アプリケーションについて、当該リアルタイム系アプリケーションでやり取りされるアプリケーション用パケットの送受信状況からユーザ体感品質を推定するための推定モデルを生成するユーザ体感品質推定モデル生成装置のコンピュータに、
任意の評価期間において前記アプリケーション端末で送受信されたアプリケーション用パケットの送受信状況を示す中間パラメータを算出する中間パラメータ算出ステップと、
前記評価期間において評価された前記リアルタイム系アプリケーションに対するユーザ体感品質評価値を取得する品質評価値取得ステップと、
同一評価期間における前記中間パラメータと前記ユーザ体感品質評価値との組を複数の組ごとに統計処理し、前記各組の中間パラメータから求めた統計値と前記各組のユーザ体感品質評価値から求めた所定信頼区間下限値とを含む統計結果を順次算出する統計処理ステップと、
前記各統計結果に含まれる前記中間パラメータの統計値と前記ユーザ体感品質評価値の所定信頼区間下限値との関係を示す回帰式を所望の推定モデルとして生成する品質推定モデル生成ステップと
を実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005176137A JP2006352528A (ja) | 2005-06-16 | 2005-06-16 | ユーザ体感品質推定モデル生成装置、方法、およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005176137A JP2006352528A (ja) | 2005-06-16 | 2005-06-16 | ユーザ体感品質推定モデル生成装置、方法、およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006352528A true JP2006352528A (ja) | 2006-12-28 |
Family
ID=37647881
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005176137A Pending JP2006352528A (ja) | 2005-06-16 | 2005-06-16 | ユーザ体感品質推定モデル生成装置、方法、およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006352528A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011010239A (ja) * | 2009-06-29 | 2011-01-13 | Nippon Telegr & Teleph Corp <Ntt> | 情報収集システム、送信装置、受信装置、情報収集装置、及びプログラム |
WO2012093518A1 (ja) * | 2011-01-05 | 2012-07-12 | 株式会社日立製作所 | プラントの制御装置及び火力発電プラントの制御装置 |
JP2017204840A (ja) * | 2016-05-13 | 2017-11-16 | 日本電信電話株式会社 | 音声品質推定装置、音声品質推定方法及びプログラム |
CN114625627A (zh) * | 2022-05-16 | 2022-06-14 | 南京争锋信息科技有限公司 | 一种基于大数据多维分析的用户智能感知方法 |
-
2005
- 2005-06-16 JP JP2005176137A patent/JP2006352528A/ja active Pending
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011010239A (ja) * | 2009-06-29 | 2011-01-13 | Nippon Telegr & Teleph Corp <Ntt> | 情報収集システム、送信装置、受信装置、情報収集装置、及びプログラム |
WO2012093518A1 (ja) * | 2011-01-05 | 2012-07-12 | 株式会社日立製作所 | プラントの制御装置及び火力発電プラントの制御装置 |
JP2012141862A (ja) * | 2011-01-05 | 2012-07-26 | Hitachi Ltd | プラントの制御装置及び火力発電プラントの制御装置 |
CN103282840A (zh) * | 2011-01-05 | 2013-09-04 | 株式会社日立制作所 | 大型设备的控制装置及火力发电大型设备的控制装置 |
CN103282840B (zh) * | 2011-01-05 | 2015-12-02 | 株式会社日立制作所 | 大型设备的控制装置及火力发电大型设备的控制装置 |
JP2017204840A (ja) * | 2016-05-13 | 2017-11-16 | 日本電信電話株式会社 | 音声品質推定装置、音声品質推定方法及びプログラム |
CN114625627A (zh) * | 2022-05-16 | 2022-06-14 | 南京争锋信息科技有限公司 | 一种基于大数据多维分析的用户智能感知方法 |
CN114625627B (zh) * | 2022-05-16 | 2022-07-22 | 南京争锋信息科技有限公司 | 一种基于大数据多维分析的用户智能感知方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9396738B2 (en) | Methods and apparatus for signal quality analysis | |
Zhou et al. | Network traffic modeling and prediction with ARIMA/GARCH | |
EP1727375A1 (en) | Assessment of perceived quality of a packetized video stream | |
EP1924101A1 (en) | Video communication quality estimation device, method, and program | |
CN110503982B (zh) | 一种语音质量检测的方法以及相关装置 | |
JP4460506B2 (ja) | ユーザ体感品質推定装置、方法、およびプログラム | |
Gong et al. | Model-based approach to measuring quality of experience | |
JP2006352528A (ja) | ユーザ体感品質推定モデル生成装置、方法、およびプログラム | |
JP4935635B2 (ja) | ネットワーク帯域推定プログラム、ネットワーク帯域推定装置、ネットワーク帯域推定方法および計測装置 | |
JP5957419B2 (ja) | QoE推定装置、QoE推定方法及びプログラム | |
EP2816518A2 (en) | Methods and apparatuses to identify user dissatisfaction from early cancelation | |
JP4460523B2 (ja) | ユーザ体感品質推定装置、方法、およびプログラム | |
US20070030815A1 (en) | Method and system for analysing data quality measurements in wireless data communication networks | |
JP4634339B2 (ja) | ユーザ体感品質推定装置、方法、およびプログラム | |
JP4668851B2 (ja) | 品質クラス決定装置、品質クラス決定方法、およびプログラム | |
JP2007006203A (ja) | ユーザ体感品質推定モデル生成装置、品質管理装置、およびプログラム | |
Calyam et al. | Measuring interaction qoe in internet videoconferencing | |
WO2019244507A1 (ja) | 品質推定装置、品質推定方法及びプログラム | |
JP4761391B2 (ja) | 受聴品質評価方法および装置 | |
US7526394B2 (en) | Quality assessment tool | |
JP4584870B2 (ja) | パケット損失特性解析装置、方法、およびプログラム | |
JP2007329778A (ja) | ユーザ体感品質推定装置、方法、およびプログラム | |
Masuda et al. | Non-intrusive quality monitoring method of VoIP speech based on network performance metrics | |
Han et al. | Accuracy analysis on call quality assessments in voice over IP | |
JP5779616B2 (ja) | QoE評価装置、QoE評価方法及びプログラム |