JP5779616B2 - QoE評価装置、QoE評価方法及びプログラム - Google Patents

QoE評価装置、QoE評価方法及びプログラム Download PDF

Info

Publication number
JP5779616B2
JP5779616B2 JP2013127767A JP2013127767A JP5779616B2 JP 5779616 B2 JP5779616 B2 JP 5779616B2 JP 2013127767 A JP2013127767 A JP 2013127767A JP 2013127767 A JP2013127767 A JP 2013127767A JP 5779616 B2 JP5779616 B2 JP 5779616B2
Authority
JP
Japan
Prior art keywords
qoe
qoe evaluation
processing
response time
packet transfer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013127767A
Other languages
English (en)
Other versions
JP2015002527A (ja
Inventor
増田 征貴
征貴 増田
富永 聡子
聡子 富永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Inc
NTT Inc USA
Original Assignee
Nippon Telegraph and Telephone Corp
NTT Inc USA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp, NTT Inc USA filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2013127767A priority Critical patent/JP5779616B2/ja
Publication of JP2015002527A publication Critical patent/JP2015002527A/ja
Application granted granted Critical
Publication of JP5779616B2 publication Critical patent/JP5779616B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Data Exchanges In Wide-Area Networks (AREA)

Description

本発明は、情報通信サービスのユーザ体感品質(QoE: Quality of Experience)を評価及び管理するための技術に関する。
モバイルネットワークやクラウドコンビューティングを利用して、データや映像、音響等をIP技術を用いて通信する情報通信サービスが提供されている。ユーザに快適な情報通信サービスを提供するためには、ユーザが体感する品質(QoE: Quality of Experience)を適切に監視・管理することが重要視されている。情報通信サービスの品質を評価する指標の1つとして、ユーザがサービス開始要求をしてから応答結果を知覚するまでの応答時間(レスポンスタイム)が利用される。
ITU-T勧告G.1030(非特許文献1)では、データアプリケーション(具体的には、Web閲覧)のレスポンスタイムに対するQoE(5段階(5:非常に良い、4:良い、3:普通、2:悪い、1:非常に悪い)の平均評点)の推定手法が勧告されている。本勧告では、Web閲覧での「検索サイト表示要求」、「検索サイト表示」、「検索開始要求」及び「検索結果表示」の単純化された作業フローに対して、レスポンスタイムが、ユーザ要求からサーバ応答(データ)がユーザ端末に戻るまでの処理時間と、ユーザ端末での表示時間との2つに分類される。そして、各処理のレスポンスタイム(「検索サイト表示要求」からサーバ応答がユーザ端末に戻るまでの時間、サーバ応答が戻ってから検索サイトがユーザ端末に表示されるまでの時間、検索開始要求からサーバ応答がユーザ端末に戻るまでの時間、サーバ応答が戻ってから検索結果が表示されるまでの時間)に対して重みづけを行い、重みづけされたレスポンスタイムを入力としてQoEを推定する手法が勧告されている。
また、非特許文献2に記載されるように、同じレスポンスタイムであってもWebアクセス、電話、電子メール、ファイルダウンロードといったサービス(アプリケーション)の種類によりQoEが異なることが報告されている。
ITU-T Recommendation G.1030 "Estimating end-to-end performance in IP networks for data applications" 「待ち時間に対する満足度を考慮したアプリケーション分類に関する一検討」信学技報IEICE Technical Report CQ2010-15(2010-4)
しかしながら、情報通信サービスに対するQoEは、サービス(アプリケーション)の種類の違いのみではなく、同一サービス内で発生する様々な個別処理に応じて異なると考えられる。例えば、メールアプリケーション(Webメールやクラウドコンビューティングを利用したメールアプリケーション等)では、「アプリケーションの起動」、「ログイン」、「メール受信」、「メール送信」、「アドレス検索」等の異なる処理が実行されるが、各処理のレスポンスタイムに対するユーザの許容度やQoEは、同じレスポンスタイムであっても異なると考えられる。例えば、「アプリケーションの起動」に多少時間がかかってもユーザは許容する傾向にあるが、「アドレス検索」に時間がかかった場合、ユーザはこの遅延を許容しない傾向があると想定される。
従来技術では、情報通信サービスの一連の処理フローで発生する複数のレスポンスタイムに対して1つのQoEは推定できたが、同一サービス内に存在する異なる個別処理毎のレスポンスタイムに対する個別のQoEを推定することはできなかった。そのため、サービス利用時の一連の処理フローに対する全体的なQoEを評価することはできるが、QoEが低下した際に、QoE低下の要因となった個別処理を特定することはできなかった。
上記問題点に鑑み、本発明の1つの課題は、情報通信サービスの一連の処理過程におけるQoE変動要因となる個別処理を特定するための技術を提供することである。
上記課題を解決するため、本発明の一態様は、評価対象となる情報通信サービスを提供するのに実行される処理シーケンスを特定し、前記処理シーケンスについて測定された全体レスポンスタイム、前記処理シーケンスを構成する各個別処理について測定された処理別レスポンスタイム及び前記処理シーケンスのパケット転送遅延時間を取得し、前記取得した全体レスポンスタイム、前記処理別レスポンスタイム及び前記パケット転送遅延時間に基づき、QoEを評価するのに利用されるパケット転送遅延時間を規定するQoE評価条件を決定する評価条件決定部と、前記情報通信サービスに対するQoE評価実行要求を受け付ける評価実行要求受付部と、前記QoE評価実行要求の受付に応答して、前記情報通信サービスのQoE評価条件に規定されたパケット転送遅延時間に従って実行された処理シーケンスの前記全体レスポンスタイムに対する総合QoE評価値と、前記処理別レスポンスタイムに対する処理別QoE評価値とを取得するQoE評価部と、前記総合QoE評価値に対する前記処理別QoE評価値の影響の大きさを決定するQoE相関決定部とを有するQoE評価装置に関する。
本発明によると、情報通信サービスの一連の処理過程におけるQoE変動要因となる個別処理を特定するための技術を提供することが可能になる。
図1は、本発明の一実施例による情報通信システムを示す概略図である。 図2は、メールサービスの処理シーケンスの一例を示す図である。 図3は、メールサービスのレスポンスタイムの一例を示す図である。 図4は、本発明の一実施例によるQoE評価装置の構成を示すブロック図である。 図5は、QoE評価条件を決定するための一例となる回帰式を示す図である。 図6は、処理別レスポンスタイムと処理別QoE評価値との間の一例となる関係を示す図である。 図7は、メールサービスの一例となる総合QoEと処理別QoEとの間の相関係数を示す図である。 図8は、本発明の一実施例によるQoE評価方法を示すフロー図である。
以下、図面に基づいて本発明の実施の形態を説明する。
後述される本発明の実施例を概略すると、QoE評価装置は、ユーザ端末においてメールサービスやウェブサービスなどの情報通信サービスを提供するのに実行される処理シーケンスと当該処理シーケンスを構成する各個別処理とを特定し、処理シーケンス全体について測定された全体レスポンスタイム、各個別処理について測定された処理別レスポンスタイム及び当該処理シーケンスのパケット転送遅延時間を取得する。QoE評価装置は、これら取得した測定情報に基づき、パケット転送遅延時間を制御するためのQoE評価条件を決定する。QoE評価条件は、情報通信サービスの処理シーケンスを実行するためユーザ端末とネットワーク側との間でやりとりされるパケットのパケット転送遅延時間を網品質制御装置を介し制御するためのパラメータである。QoE評価装置からQoE評価条件を受信すると、網品質制御装置は、受信したQoE評価条件に指定されたパケット転送遅延時間に従って、ネットワーク側とユーザ端末との間のパケット転送遅延時間を制御する。
その後、情報通信サービスに対するQoE評価実行要求を受け付けると、QoE評価装置は、各QoE評価条件に対応したパケット転送遅延時間による網品質制御装置の制御の下、当該情報通信サービスの処理シーケンス全体の全体レスポンスタイムに対するQoE(総合QoE評価値)と、当該処理シーケンスを構成する各個別処理の処理別レスポンスタイムに対するQoE(処理別QoE評価値)とを複数のユーザ又は評価者から収集する。ここで、収集したQoE評価値の信頼性を向上させるため、QoE評価装置は、所定数以上の異なるQoE評価条件の下で実行された処理シーケンスについて、評価者からQoE評価値を収集することが好ましい。
QoE評価装置は、収集した総合QoE評価値と処理別QoE評価値とに対して相関係数を算出するなどの統計処理を実行することによって、総合QoE評価値に対する各処理別QoE評価値の影響の大きさを決定する。これにより、QoE評価装置は、情報通信サービスの処理シーケンス全体のレスポンスタイムの変動要因となる個別処理を特定することが可能になる。
まず、図1を参照して、本発明の一実施例による情報通信システムを説明する。図1は、本発明の一実施例による情報通信システムを示す概略図である。
図1に示されるように、情報通信システム10は、ユーザ端末50、QoE評価装置100、レスポンスタイム測定装置200、パケット転送遅延測定装置250、情報通信サービス提供サーバ300、ネットワーク350及び網品質制御装置400を有する。
ユーザ端末50は、例えば、デスクトップPC (Personal Computer)、ノートPC、タブレット、スマートフォンなどであり、ネットワーク350を介し情報通信サービス提供サーバ300や他のネットワーク装置と通信し、ユーザに対して各種情報通信サービスを提供する。図示された実施例では、1つのユーザ端末50しか示されていないが、典型的には、複数のユーザ端末50があってもよい。
ユーザ端末50は、典型的には、補助記憶装置、メモリ装置、CPU(Central Processing Unit)、通信装置、表示装置、入力装置などの各種ハードウェアリソースから構成される。補助記憶装置は、ハードディスクやフラッシュメモリなどから構成され、ユーザ端末50における各種処理を実現するためのプログラムやデータを格納する。これらのプログラム及びデータは、例えば、ネットワーク350上の各種サーバからダウンロードされてもよく、又はユーザ端末50のインタフェースに接続された記憶媒体から提供されてもよい。メモリ装置は、RAM(Random Access Memory)などから構成され、プログラムの起動指示があった場合に、補助記憶装置からプログラムを読み出して格納する。CPUは、情報を処理するプロセッサとして機能し、メモリ装置に格納されたプログラムを実行することによって、ユーザ端末50における各種機能を実現する。通信装置は、ネットワーク350を介しQoE評価装置100や情報通信サービス提供サーバ300などの他の装置に接続するための各種通信回路から構成される。表示装置は、ディスプレイなどから構成され、ネットワーク350を介し受信したコンテンツやプログラムによるGUI(Graphical User Interface)等を表示する。入力装置は、典型的には、操作ボタン、タッチパネル、キーボード、マウス等で構成され、ユーザ端末50のユーザが様々な操作命令を入力するのに用いられる。なお、ユーザ端末50は、上述したハードウェア構成に限定されるものでなく、他の何れか適切なハードウェア構成を有してもよい。
QoE評価装置100は、情報通信サービス提供サーバ300によってユーザ端末50に提供される情報通信サービスのレスポンスタイムに対するユーザ体感品質(QoE)を評価する。ここで、情報通信サービスのレスポンスタイムとは、情報通信システム10において、当該情報通信サービスに対するユーザのサービス開始要求から、応答結果がユーザに知覚されるまでの時間として定義される。典型的には、情報通信サービスのレスポンスタイムは、情報通信サービス提供サーバ300における要求された情報通信サービスを提供するための処理時間、ユーザ端末50と情報通信サービス提供サーバ300との間のパケット転送遅延時間、及びユーザ端末50における表示に係る処理時間から構成される。
例えば、メールサービスが評価対象の情報通信サービスである場合、図2に示されるように、メールサービスを提供するため実行される処理シーケンスは、「メーラ起動」、「ログイン」、「メール受信」、...、「メール作成」、「メール送信」及び「ログアウト」の複数の個別処理から構成される。QoE評価装置100は、「メーラ起動」、「ログイン」、「メール受信」、...、「メール作成」、「メール送信」及び「ログアウト」の各個別処理について、レスポンスタイム測定装置200からレスポンスタイムT,T,T,...,Tn−2,Tn−1,Tを取得し、後述するような処理に従って当該処理シーケンス全体の総合QoE評価値(tQoE)と処理別QoE評価値(dQoE1, dQoE2, dQoE3, ..., dQoEn-2, dQoEn-1, dQoEn)とを算出する。
QoE評価装置100は、各種情報通信サービスのレスポンスタイムに対するQoEを評価するため、情報通信サービスを提供する際にユーザ端末50とネットワーク側との間でやりとりされるパケットのパケット転送遅延時間を網品質制御装置400を介し制御して、異なるパケット転送遅延時間の下で情報通信サービスを実行する。これら異なるパケット転送遅延時間は、QoE評価装置100により決定された各QoE評価条件に規定される。各QoE評価条件の下で実行された処理シーケンスに対して、QoE評価装置100は、全体レスポンスタイムに対する総合QoE評価値と処理別レスポンスタイムに対する処理別QoE評価値とをユーザ又は評価者から収集する。QoE評価装置100は、収集した総合QoE評価値と処理別QoE評価値とに対して相関係数を求めるなどの統計処理を実行することによって、総合QoE評価値に対する各処理別QoE評価値の影響の大きさを決定する。
図示された実施例では、QoE評価装置100は、ユーザ端末50に通信接続された独立した装置として示され、後述されるQoE評価処理を実現するためのCPU、補助記憶装置、メモリ装置、通信装置などのハードウェアリソースから構成される。しかしながら、本発明のQoE評価装置100は、これに限定されるものでなく、例えば、ユーザ端末50に組み込まれてもよい。この場合、QoE評価装置100は、例えば、ユーザ端末50上で実行されるコンピュータプログラムにより実現されてもよい。
レスポンスタイム測定装置200は、情報通信サービス提供サーバ300によってユーザ端末50に提供される情報通信サービスのレスポンスタイムを測定する。より詳細には、レスポンスタイム測定装置200は、評価対象の情報通信サービスを提供するために実行される処理シーケンスの各個別処理の処理時間として定義された処理別レスポンスタイムを測定すると共に、当該処理シーケンス全体の全体レスポンスタイムを測定する。
例えば、レスポンスタイム測定装置200は、以下の手順により情報通信サービスを提供するため実行される処理シーケンスの各個別処理のレスポンスタイムを測定する。すなわち、レスポンスタイム測定装置200は、(a)情報通信サービスの各個別処理に対するレスポンスタイムを測定するため、ユーザ端末50の操作ログを受信する。ここで、操作ログとは、例えば、ブラウザのログ等でマウスクリックなどにより測定開始した時刻、情報通信サービス配信サーバ300からの応答がユーザ端末50の画面上に表示された時刻等である。なお、操作ログに実施した操作の操作種別は記録されない。本実施例では、予め設定された処理シーケンスに沿って評価者が作業を実施することにより、各個別処理順に実施した操作の操作種別を特定することが可能である。このように、操作ログに操作種別が記録されなくても、何らかの方法で各個別処理に対するレスポンスタイムが測定できればよい。次に、レスポンスタイム測定装置200は、(b)受信したユーザ端末の操作ログを用いて、各個別処理毎に分割してレスポンスタイムを算出する。さらに、レスポンスタイム測定装置200は、算出したレスポンスタイムの情報を測定開始及び測定終了の時刻情報を付与して保存する。例えば、メールサービスの処理シーケンスのレスポンスタイムを測定した場合、レスポンスタイム測定装置200は、図3に示されるようなデータ形式によりレスポンスタイムの情報を保存してもよい。これにより、当該パケットに対するレスポンスタイムとパケット転送遅延時間との対応付けが可能になる。
図示された実施例では、レスポンスタイム測定装置200は、ユーザ端末50に通信接続された独立した装置として示されているが、本発明はこれに限定されるものでなく、レスポンスタイム測定装置200は、例えば、ユーザ端末50に組み込まれてもよい。なお、レスポンスタイム測定装置200は、測定対象となる情報通信サービスのデータストリームの受信中は常に動作し、測定情報を保存し続けるようにしてもよい。
パケット転送遅延測定装置250は、ユーザ端末50とネットワーク側との間でやりとりされる各種パケットの転送時間を測定する。例えば、パケット転送遅延測定装置250は、以下の手順により情報通信サービスのパケットの転送時間を測定する。すなわち、パケット転送遅延測定装置250は、(a)ユーザ端末50に配信されるデータストリームのパケットデータを受信し、パケットヘッダ情報(宛先又は送信元のIPアドレスやポート番号等)により、測定対象パケットを特定する。測定対象パケットは、予め設定されていてもよいし、受信パケットデータのうち最もデータ量が大きなパケットデータ(受信パケット数の多いデータストリーム)であってもよい。次に、パケット転送遅延測定装置250は、(b)情報通信サービスの処理シーケンスで受信したパケットを対象に処理シーケンスにおける平均パケット転送遅延時間を算出する。さらに、パケット転送遅延測定装置250は、(c)算出した平均パケット転送遅延時間の情報に測定開始及び測定終了の時刻情報を付与して保存する。これにより、当該パケットに対するレスポンスタイムとパケット転送遅延時間との対応付けが可能になる。なお、パケット転送遅延測定装置250は、測定対象となる情報通信サービスのデータストリームの受信中は常に動作し、測定情報を保存し続けるようにしてもよい。
情報通信サービス提供サーバ300は、ネットワーク350を介しユーザ端末50からサービス開始要求を受信すると、受信したサービス開始要求に係る情報通信サービスをネットワーク350を介しユーザ端末50に提供する。情報通信サービス提供サーバ300は、例えば、Webサービスを提供するWebサーバ、メールサービスを提供するメールサーバなどである。サービス開始要求を受信すると、情報通信サービス提供サーバ300は、要求された情報通信サービスを提供するために各種処理を実行する。当該処理が完了すると、情報通信サービス提供サーバ300は、要求された情報通信サービスを提供するための情報をユーザ端末50に送信する。当該情報を受信すると、ユーザ端末50は、受信した情報に対して表示処理などの各種処理を実行し、応答結果をユーザに表示する。当該応答結果の表示開始時点がレスポンスタイムの終了時点となる。
ネットワーク350は、インターネットや情報通信システム10のオペレータにより運営されるネットワークなどである。ユーザ端末50がネットワーク350と無線接続する場合、ネットワーク350は、例えば、基地局(図示せず)やアクセスポイント(図示せず)を介しユーザ端末50と通信する。
網品質制御装置400は、ユーザ端末50においてユーザに提供される各種サービスの品質監視や品質制御等の品質管理を実行する。本実施例では、QoE評価装置100からパケット転送遅延時間を示すパケット転送遅延制御要求を受信すると、網品質制御装置400は、指定されたパケット転送遅延時間に従ってネットワーク側とユーザ端末50との間のパケット転送遅延時間を制御する。
次に、図4を参照して、本発明の一実施例によるQoE評価装置の構成を説明する。本実施例によるQoE評価装置は、情報通信サービスを提供するするユーザ端末50とネットワーク側との間でやりとりされるパケットのパケット転送遅延時間を制御することによって、異なるパケット転送遅延時間の下で当該情報通信サービスをユーザ又は評価者に提供し、当該評価者から処理シーケンス全体のレスポンスタイムに対する総合QoE評価値と、当該処理シーケンスを構成する各個別処理のレスポンスタイムに対する処理別QoE評価値とを収集する。収集したQoE評価値に基づき、QoE評価装置は、総合QoE評価値と各処理別QoE評価値との相関を導出することによって、総合QoE評価値に対する各処理別QoE評価値の影響の大きさを特定する。
図4は、本発明の一実施例によるQoE評価装置の構成を示すブロック図である。図4に示されるように、QoE評価装置100は、評価条件決定部110、QoE評価実行要求受付部120、QoE評価部130及びQoE相関決定部140を有する。
評価条件決定部110は、評価対象となる情報通信サービスを提供するのに実行される処理シーケンスを特定し、特定した処理シーケンスについて測定された全体レスポンスタイム、当該処理シーケンスを構成する各個別処理について測定された処理別レスポンスタイム及び処理シーケンスのパケット転送遅延時間を取得し、取得した全体レスポンスタイム、処理別レスポンスタイム及びパケット転送遅延時間に基づき、QoEを評価するのに利用されるパケット転送遅延時間を規定するQoE評価条件を決定する。
一実施例では、評価条件決定部110は、評価対象となる情報通信サービスを提供するため実行される処理シーケンスの各個別処理の情報を評価シナリオとして受け付ける。例えば、メールアプリケーション(Webメールやクラウドコンビューティングを利用したメールアプリケーション等)が評価対象の情報通信サービスである場合、評価条件決定部110は、メールサービスを提供するため実行される個別処理と当該個別処理の実行順とが規定された処理シーケンス(例えば、「アプリケーションの起動」→「ログイン」→「メール受信」→「アドレス検索」→「メール送信」→「ログアウト」など)を特定する。当該処理シーケンスの特定は、例えば、評価対象となる各情報通信サービスに対応して、当該情報通信サービスを提供するのに実行される処理シーケンスを示す情報が予め評価条件決定部110に格納されている。評価対象となる情報通信サービスが指定されると、評価条件決定部110は、格納されている情報を参照して、指定された情報通信サービスに対応する処理シーケンスを特定してもよい。
評価シナリオを特定すると、評価条件決定部110は、次に評価対象となる情報通信サービスのレスポンスタイムに対するQoEを評価するためのパケット転送遅延時間を規定したQoE評価条件を決定する。QoE評価条件を決定するため、一実施例では、評価条件決定部110は、受け付けた評価シナリオに対応した各個別処理のレスポンスタイムの実測値とパケット転送遅延時間の実測値とを、それぞれレスポンスタイム測定装置200とパケット転送遅延測定装置250とから取得する。評価条件決定部110は、当該測定情報において最もレスポンスタイムの長い処理シーケンスを特定する。図5に、メールサービスを例として、取得したパケット転送遅延時間とレスポンスタイムと間の関係が各個別処理について示される。例えば、取得した測定情報の範囲において、各処理シーケンスのレスポンスタイムの平均値を算出し、最も平均値の大きい処理シーケンスを最もレスポンスタイムの長い処理シーケンスと特定してもよい。
次に、評価条件決定部110は、特定したレスポンスタイムのうちで最も長い個別処理の測定情報(パケット転送遅延時間とレスポンスタイム)を用いて回帰式を求める。図5では、線形回帰によって算出した回帰直線f(x)が示される。回帰式の算出には、相関係数が最も高くなるように、線形回帰又は非線形回帰が選択されてもよい。当該回帰式が決定されると、評価条件決定部110は、QoE評価を実施するのに利用するレスポンスタイムを任意に選定する。例えば、レスポンスタイムは、0から21秒までを1.5秒刻みで選定されてもよい。図5の破線グラフは、0から21秒までの1.5秒刻みのレスポンスタイムの直線(y=1.5×n (n:0から14の整数))を示している。
次に、評価条件決定部110は、算出したレスポンスタイムが最も長い処理の回帰式と選定した任意の評価対象レスポンスタイムとを用いて、パケット転送遅延時間を示すQoE評価条件を決定する。具体的には、評価条件決定部110は、選定された各レスポンスタイムに対応するパケット転送遅延時間を回帰式から決定し、決定されたパケット転送遅延時間をQoE評価条件として決定する。図5の例では、回帰式f(x)とレスポンスタイム(y=1.5×n (n:0から14の整数))との交点のx座標の値が、QoE評価条件のパケット転送遅延時間となる。図5の例では、x=0からx=1000までの範囲において、13個のパケット転送遅延時間の値がQoE評価条件になる。ここで、パケット転送遅延時間の制御とは、例えば、ネットワークエミュレータ等の公知の装置を用いて、パケット遅延時間(固定遅延時間を50ミリ秒加える等)の設定の変更を制御することであり、これによりパケット転送遅延時間の変更制御が可能となる。パケット転送遅延の変動がレスポンスタイムの変動に影響することから、上記設定の変更制御を1つのサービス提供に対して1回行うことで、レスポンスタイム測定装置200とパケット転送遅延測定装置250とにレスポンスタイムとパケット転送遅延時間とをそれぞれ測定させることができる。
なお、適切な回帰式を取得するため、評価条件決定部110は、網品質制御装置400に所定数以上の異なるパケット転送遅延時間によりパケット転送遅延を制御するよう指示してもよい。具体的には、取得した個別処理の測定情報が所定数以上のパケット転送遅延時間の下で測定されていなかった場合、評価条件決定部110は、当該測定情報が十分なバリエーションのパケット転送遅延時間の下で測定されておらず、QoEを評価するのに信頼性が不十分であると判断する。一般に、情報通信サービスのレスポンスタイムに対するQoE評価を実施するためには、ある程度のサンプル数のレスポンスタイムに対して、QoE評価を実施することが望ましいためである。この場合、評価条件決定部110は、例えば、網品質制御装置400にパケット転送遅延制御要求を送信し、所定数以上の異なるパケット転送遅延時間の下でレスポンスタイム測定装置200とパケット転送遅延測定装置250とにレスポンスタイムとパケット転送遅延時間とをそれぞれ測定させるようにしてもよい。なお、上述した所定数は、任意の整数値に予め設定されてもよいし、又は、パケット転送遅延時間とレスポンスタイムの回帰式を算出する際に相関係数が高くなる数を予め設定してもよい。他方、取得した個別処理の測定情報が所定数以上の異なるパケット転送遅延時間の下で測定されていた場合、評価条件決定部110は、当該測定情報がQoEを評価するのに十分な信頼性があると判断する。
QoE評価実行要求受付部120は、情報通信サービスに対するQoE評価実行要求を受け付ける。具体的には、QoE評価装置100の管理者又はユーザなどからQoE評価実行要求を受け付けると、QoE評価実行要求受付部120は、評価条件決定部110においてQoE評価条件が決定されているか判断する。QoE評価条件が決定されていた場合、QoE評価実行要求受付部120は、QoE評価を実行するようQoE評価部130に指示し、他方、QoE評価条件が決定されていない場合、QoE評価実行要求受付部120は、QoE評価部130にQoE評価を実行するよう指示せず、評価条件決定部110に当該情報通信サービスに対するQoE評価条件の決定を促してもよい。
また、QoE評価の実行を指示する場合、QoE評価実行要求受付部120は、評価条件決定部110で決定されたQoE評価条件に示されるパケット転送遅延時間に基づき網品質制御装置400にパケット転送遅延制御要求を送信してもよい。当該パケット転送遅延制御要求を送信する際、QoE評価実行要求受付部120は、パケット転送遅延時間の情報を網品質制御装置400に通知してもよい。なお、QoE評価条件は、最もレスポンスタイムが長い個別処理を"基準"として決定するものであり、処理シーケンスの全ての個別処理に対してパケット転送遅延時間の評価条件を決定しなくてもよい。当該決定したQoE評価条件に対して、QoE評価部130は、総合QoE評価値及び処理別QoE評価値を算出することになる。
ここで、QoE評価要求受付部120は、QoE評価値の入力を可能とするために、QoE評価値の入力インタフェースをQoE評価装置100又はユーザ端末50上に表示してもよい。例えば、画面上にボタンやキー入力可能なボタン等が表示され、当該ボタンをユーザが操作することによって、QoE評価値が入力されてもよい。
QoE評価部130は、QoE評価実行要求の受付に応答して、情報通信サービスのQoE評価条件に対して全体レスポンスタイムに対する総合QoE評価値と、処理別レスポンスタイムに対する処理別QoE評価値とを取得する。一実施例では、QoE評価部130は、各QoE評価条件のパケット転送遅延時間の下でシミュレートされた情報通信サービスの処理シーケンスと当該処理シーケンスの各個別処理とのそれぞれに対して、複数のユーザ又は評価者から各自のQoE評価値を取得する。当該QoE評価値は、例えば、以下の尺度による評価値であってもよい。すなわち、評価者から取得する総合QoE評価値は、5段階尺度(5:非常に良い、4:良い、3:普通、2:悪い、1:非常に悪い)のtQoEと、2段階尺度(1:許容できる、0:許容できない)の許容度とから構成されてもよい。また、各個別処理に対するQoE評価値(dQoEi)は、5段階尺度(5:遅延が全くわからない、4:遅延がわかるが気にならない、3:遅延がわずかに気になる、2:遅延が気になる、1:遅延が非常に気になる)により表現されてもよい。各個別処理が終了した時点で、QoE評価部130は、上述した評価尺度を用いて当該個別処理に対する処理別QoE評価値を入力するよう各評価者に促す。処理シーケンス全体が終了すると、QoE評価部130はさらに、上述した評価尺度を用いてtQoEと許容度とを入力するよう各評価者に促す。
複数の評価者から総合QoE評価値(tQoEと許容度)と処理別QoE評価値とを収集すると、QoE評価部130は、収集した総合QoE評価値と処理別QoE評価値とから、評価者間の総合QoE評価値の平均値と処理別QoE評価値の平均値とを算出し、算出した総合QoE評価値の平均値と処理別QoE評価値の平均値とをそれぞれ当該情報通信サービスの総合QoE評価値と処理別QoE評価値とする。
次に、QoE評価部130は、各QoE評価条件で評価された処理別QoE評価値(dQoEi)と、当該評価時に測定したパケット転送時間の平均値とレスポンスタイムの平均値とを関連付けて保存する。図6に、評価結果の一例として、処理別レスポンスタイムと処理別QoE評価値と間の関係が示される。また、QoE評価部130は、当該処理シーケンス全体の総合QoE評価値(tQoEと許容度)も併せて保存する。QoE評価部130は、評価条件決定部110において決定された全てのQoE評価条件、すなわち、設定された全てのパケット転送遅延時間について、上述したQoEの評価が終了したか判断する。全てのQoE評価条件についてQoEの評価が終了していない場合、QoE評価部130は、網品質制御装置400に残りのQoE評価条件のパケット転送遅延時間に従ってパケット転送遅延時間を制御するよう要求し、全ての評価条件に対して上述したQoE評価を実行する。
QoE相関決定部140は、総合QoE評価値に対する処理別QoE評価値の影響の大きさを決定する。一実施例では、パケット転送時間の全ての評価条件に対する総合QoE評価値と各処理別QoE評価値との間の相関係数を算出し、総合QoE評価値に対する各処理別QoE評価値の影響の大きさを決定してもよい。図7に、一例として、メールサービスのQoE評価結果とそのデータを用いて相関分析を実施した結果が示される。この例では、「ログイン」処理が相関係数0.93726で総合QoE評価値と最も相関が高く、総合QoE評価値に対して最も大きな影響を与えると判定される。次に、「メール送信」処理が相関係数0.93113を有し、総合QoE評価値に対して次に大きな影響を与えていると判定される。QoE相関決定部140は、各個別処理について算出した相関係数を保存する。上記実施例では、総合QoE評価値と各処理別QoE評価値との間の相関関係が相関係数により表現されたが、本発明による相関関係は、これに限定されるものでなく、相関する2つの変数の間の相関関係を表す他の何れか適切な統計量又は数値が利用されてもよい。
次に、図8を参照して、本発明の一実施例によるQoE評価装置における処理を説明する。図8は、本発明の一実施例によるQoE評価方法を示すフロー図である。
当該QoE評価方法は、情報通信サービスのレスポンスタイムに対するQoE評価条件を決定する処理(ステップS101〜S103)と、決定されたQoE評価条件の下で実行される情報通信サービスに対して総合QoE評価値と処理別QoE評価値とを収集し、総合QoE評価値と処理別QoE評価値との相関を決定する処理(S104〜S106)とに大別される。
ステップS101において、QoE評価装置100は、評価対象となる情報通信サービスを提供するのに実行される処理シーケンスを特定する。具体的には、ある情報通信サービスが評価対象として指定されると、QoE評価装置100は、予め格納している各情報通信サービスの処理シーケンスから、指定された情報通信サービスに対応する処理シーケンスを抽出する。
ステップS102において、QoE評価装置100は、特定した処理シーケンス全体について測定された全体レスポンスタイムと、当該処理シーケンスを構成する各個別処理について測定される処理別レスポンスタイムとをレスポンスタイム測定装置200から取得する。さらに、QoE評価装置100は、当該処理シーケンスにおいてネットワーク側とユーザ端末50との間でやりとりされたパケットのパケット転送遅延時間をパケット転送遅延測定装置250から取得する。取得したレスポンスタイムとパケット転送遅延時間とは、例えば、図3に示されるようなデータ形式によりQoE評価装置100に保持されてもよい。
ステップS103において、QoE評価装置100は、取得したレスポンスタイムとパケット転送遅延時間とに基づき、ユーザ又は評価者から各種パケット転送遅延時間の下で実行される情報通信サービスのレスポンスタイムに対するQoE評価値を収集するため、これらのパケット転送遅延時間を規定したQoE評価条件を決定する。一実施例では、QoE評価装置100は、取得したレスポンスタイムとパケット転送遅延時間との測定値に対して回帰式を決定し、任意に抽出されたレスポンスタイムの各値に対応するパケット転送遅延時間をQoE評価条件として利用してもよい。このとき、取得した処理別レスポンスタイムのうち最長のレスポンスタイムを有する個別処理の処理別レスポンスタイムとパケット転送遅延時間とを利用して、回帰式を決定してもよい。また、適切な回帰式を導出するため、所定数以上の異なるパケット転送遅延時間の下で処理シーケンスが実行され、十分なサンプル数のレスポンスタイムが測定されることが好ましい。
ステップS104において、QoE評価装置100は、情報通信サービスに対するQoE評価実行要求を受け付ける。例えば、当該QoE評価実行要求は、QoE評価装置100の管理者又はユーザ端末50から発信される。一実施例では、QoE評価装置100は、QoE評価実行要求を受け付けると、当該QoE評価実行要求に係る情報通信サービスに対するQoE評価条件があるか判定し、QoE評価条件を有していない場合、当該QoE評価条件を決定するため、ステップS101〜S103を実行してもよい。
ステップS105において、QoE評価装置100は、決定されている各QoE評価条件に対して総合QoE評価値と処理別QoE評価値とを取得する。一実施例では、QoE評価装置100は、評価対象となる情報通信サービスの処理シーケンスを実行する際、各QoE評価条件に規定されるパケット転送遅延時間に従ってパケット転送遅延制御を実行するよう網品質制御装置400に指示する。QoE評価装置100は、網品質制御装置400によるパケット転送遅延制御の下で実行された処理シーケンスのレスポンスタイムに対して、総合QoE評価値と各処理別QoE評価値とを複数の評価者から収集する。総合QoE評価値と各処理別QoE評価値とを複数の評価者から収集すると、QoE評価装置100は、収集した総合QoE評価値の平均値と各処理別QoE評価値の平均値とを算出し、算出した総合QoE評価値の平均値と各処理別QoE評価値の平均値とをステップS106における相関の決定に利用してもよい。
ステップS106において、QoE評価装置100は、ステップS105において取得した総合QoE評価値と各処理別QoE評価値との間の相関を決定する。一実施例では、QoE評価装置100は、総合QoE評価値と処理別QoE評価値とに対して相関係数の算出などの統計処理を実行することによって、総合QoE評価値に対する各処理別QoE評価値の影響の大きさを決定する。
以上、本発明の実施例について詳述したが、本発明は上述した特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
10 情報通信システム
50 ユーザ端末
100 QoE評価装置
110 評価条件決定部
120 QoE評価実行要求受付部
130 QoE評価部
140 QoE相関決定部
200 レスポンスタイム測定装置
250 パケット転送遅延測定装置
300 情報通信サービス提供サーバ
350 ネットワーク
400 網品質制御装置

Claims (7)

  1. 評価対象となる情報通信サービスを提供するのに実行される処理シーケンスを特定し、前記処理シーケンスについて測定された全体レスポンスタイム、前記処理シーケンスを構成する各個別処理について測定された処理別レスポンスタイム及び前記処理シーケンスのパケット転送遅延時間を取得し、前記取得した全体レスポンスタイム、前記処理別レスポンスタイム及び前記パケット転送遅延時間に基づき、QoEを評価するのに利用されるパケット転送遅延時間を規定するQoE評価条件を決定する評価条件決定部と、
    前記情報通信サービスに対するQoE評価実行要求を受け付ける評価実行要求受付部と、
    前記QoE評価実行要求の受付に応答して、前記情報通信サービスのQoE評価条件に規定されたパケット転送遅延時間に従って実行された処理シーケンスの前記全体レスポンスタイムに対する総合QoE評価値と、前記処理別レスポンスタイムに対する処理別QoE評価値とを取得するQoE評価部と、
    前記総合QoE評価値に対する前記処理別QoE評価値の影響の大きさを決定するQoE相関決定部と、
    を有するQoE評価装置。
  2. 前記QoE相関決定部は、総合QoE評価値と前記処理別QoE評価値との間の相関係数を算出し、前記算出した相関係数を前記総合QoE評価値に対する前記処理別QoE評価値の影響の大きさとして利用する、請求項1記載のQoE評価装置。
  3. 前記評価条件決定部は、前記取得した各個別処理に対する処理別レスポンスタイムのうち最長のレスポンスタイムを有する個別処理を特定し、前記特定した個別処理のパケット転送遅延時間と処理別レスポンスタイムとに基づきレスポンスタイムの予測のための回帰式を導出し、前記導出した回帰式から前記QoE評価条件を決定する、請求項1又は2記載のQoE評価装置。
  4. 前記評価条件決定部は、前記処理別レスポンスタイムが所定数以上の異なるパケット転送遅延時間の下で測定されたものであるか判定することによって、前記測定された処理別レスポンスタイムと前記測定されたパケット転送遅延時間とがQoEを評価するのに信頼できるものであるか判断する、請求項1乃至3何れか一項記載のQoE評価装置。
  5. 前記QoE評価部は、前記情報通信サービスのQoE評価条件に規定されたパケット転送遅延時間に従って実行された処理シーケンスについて、複数の評価者から前記全体レスポンスタイムに対する総合QoE評価値と、前記処理別レスポンスタイムに対する処理別QoE評価値とを収集し、
    前記QoE相関決定部は、前記収集した総合QoE評価値と処理別QoE評価値とを前記評価者間で平均化し、前記算出した総合QoE評価値の平均値と前記処理別QoE評価値の平均値とに基づき、前記総合QoE評価値に対する前記処理別QoE評価値の影響の大きさを決定する、請求項1乃至4何れか一項記載のQoE評価装置。
  6. 評価対象となる情報通信サービスを提供するのに実行される処理シーケンスを特定するステップと、
    前記処理シーケンスについて測定された全体レスポンスタイム、前記処理シーケンスを構成する各個別処理について測定された処理別レスポンスタイム及び前記処理シーケンスのパケット転送遅延時間を取得するステップと、
    前記取得した全体レスポンスタイム、処理別レスポンスタイム及びパケット転送遅延時間に基づき、QoEを評価するのに利用されるパケット転送遅延時間を規定するQoE評価条件を決定するステップと、
    前記情報通信サービスに対するQoE評価実行要求を受け付けるステップと、
    前記決定されたQoE評価条件に対して、前記全体レスポンスタイムに対する総合QoE評価値と前記処理別レスポンスタイムに対する処理別QoE評価値とを取得するステップと、
    前記総合QoE評価値に対する前記処理別QoE評価値の影響の大きさを決定するステップと、
    を有するQoE評価方法。
  7. 評価対象となる情報通信サービスを提供するのに実行される処理シーケンスを特定するステップと、
    前記処理シーケンスについて測定された全体レスポンスタイム、前記処理シーケンスを構成する各個別処理について測定された処理別レスポンスタイム及び前記処理シーケンスのパケット転送遅延時間を取得するステップと、
    前記取得した全体レスポンスタイム、処理別レスポンスタイム及びパケット転送遅延時間に基づき、QoEを評価するのに利用されるパケット転送遅延時間を規定するQoE評価条件を決定するステップと、
    前記情報通信サービスに対するQoE評価実行要求を受け付けるステップと、
    前記決定されたQoE評価条件に対して、前記全体レスポンスタイムに対する総合QoE評価値と前記処理別レスポンスタイムに対する処理別QoE評価値とを取得するステップと、
    前記総合QoE評価値に対する前記処理別QoE評価値の影響の大きさを決定するステップと、
    をプロセッサに実行させるためのプログラム。
JP2013127767A 2013-06-18 2013-06-18 QoE評価装置、QoE評価方法及びプログラム Active JP5779616B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013127767A JP5779616B2 (ja) 2013-06-18 2013-06-18 QoE評価装置、QoE評価方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013127767A JP5779616B2 (ja) 2013-06-18 2013-06-18 QoE評価装置、QoE評価方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2015002527A JP2015002527A (ja) 2015-01-05
JP5779616B2 true JP5779616B2 (ja) 2015-09-16

Family

ID=52296782

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013127767A Active JP5779616B2 (ja) 2013-06-18 2013-06-18 QoE評価装置、QoE評価方法及びプログラム

Country Status (1)

Country Link
JP (1) JP5779616B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114422379B (zh) * 2022-01-20 2023-02-28 昕锐至成(江苏)光电科技有限公司 一种多平台设备无线组网的分析方法

Also Published As

Publication number Publication date
JP2015002527A (ja) 2015-01-05

Similar Documents

Publication Publication Date Title
CN102473132B (zh) 监控软件应用的性能的方法
JP2005521359A (ja) ソフトウェアアプリケーションのネットワーク動作特性を測定する方法、システム及びコンピュータプログラム
US20050228875A1 (en) System for estimating processing requirements
JP2019509681A (ja) クラウド検証及びテスト自動化
JP2010231368A (ja) 監視方法及び監視プログラム
WO2016101464A1 (zh) 用户体验质量QoE评估方法、装置、终端及服务器
CN117221148A (zh) 多类型网络应用服务质量评估系统和方法
JP5957419B2 (ja) QoE推定装置、QoE推定方法及びプログラム
CN116781563A (zh) 一种网页服务细粒度的评估装置、评估方法和评估系统
CN104640125A (zh) 一种评估wlan业务的质量的方法和装置
EP3593493A1 (en) Prediction of a performance indicator
EP3123435A1 (en) End user performance analysis
CN103139004A (zh) 利用网络限速工具模拟网络带宽的方法及系统
Chihani et al. User-centric quality of experience measurement
JP4956381B2 (ja) トラヒック分析装置、方法、およびプログラム
JP6259779B2 (ja) Webブラウジング品質管理装置、その方法およびプログラム
JP5933487B2 (ja) QoE推定装置、QoE推定方法及びプログラム
JP5779616B2 (ja) QoE評価装置、QoE評価方法及びプログラム
JP6046552B2 (ja) QoE推定装置、QoE推定装置における方法及びプログラム
WO2019244507A1 (ja) 品質推定装置、品質推定方法及びプログラム
US20150046480A1 (en) Information processing device for executing load evaluation, and load evaluation method
JP2009237807A (ja) 脆弱性診断実施装置および診断スケジュール作成プログラム
Nawrocki et al. Quality of experience in the context of mobile applications
US9490995B1 (en) Simulation system for network devices in a network
JP2010068367A (ja) ネットワーク性能監視装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150625

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150707

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150713

R150 Certificate of patent or registration of utility model

Ref document number: 5779616

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350