WO2023228256A1 - 体感品質劣化推定装置、機械学習方法、体感品質劣化推定方法及びプログラム - Google Patents

体感品質劣化推定装置、機械学習方法、体感品質劣化推定方法及びプログラム Download PDF

Info

Publication number
WO2023228256A1
WO2023228256A1 PCT/JP2022/021135 JP2022021135W WO2023228256A1 WO 2023228256 A1 WO2023228256 A1 WO 2023228256A1 JP 2022021135 W JP2022021135 W JP 2022021135W WO 2023228256 A1 WO2023228256 A1 WO 2023228256A1
Authority
WO
WIPO (PCT)
Prior art keywords
quality
user experience
information
machine learning
deterioration
Prior art date
Application number
PCT/JP2022/021135
Other languages
English (en)
French (fr)
Inventor
恵 竹下
正裕 小林
洋介 高橋
Original Assignee
日本電信電話株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本電信電話株式会社 filed Critical 日本電信電話株式会社
Priority to PCT/JP2022/021135 priority Critical patent/WO2023228256A1/ja
Publication of WO2023228256A1 publication Critical patent/WO2023228256A1/ja

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/16—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using machine learning or artificial intelligence

Definitions

  • the present disclosure relates to a technique for estimating the state of deterioration of the quality of user experience.
  • QoE quality of experience
  • a server of a communication carrier periodically acquires information on user experience quality, such as content playback quality, from a user terminal.
  • the carrier's server may transfer measurement information (communication traffic information, CPU usage rate, etc.) from the in-network devices (switches, routers, servers, etc.) of the ISP network managed and operated by the carrier. information).
  • the carrier's server can create a unique model based on the user's own model. It is possible to estimate the current quality of user experience (see Patent Document 1).
  • a deterioration detection technique for detecting a deterioration in the quality of user experience (a state in which the quality of user experience is poor) is also provided.
  • Deterioration detection technology involves defining the steady state of input data using machine learning or statistical methods, and determining that it is degraded (abnormal) if a state deviates from that. .
  • there is a method using an autoencoder see Non-Patent Document 1). Therefore, in order to detect the deterioration of the quality of user experience, the server of the telecommunications carrier uses the quality of user experience information obtained from the communication terminals such as each user terminal and the observation information obtained from the ISP network. can be estimated, and deterioration can be detected from changes in the score (numeric value) that is the estimated result.
  • the present invention has been made in view of the above-mentioned circumstances, and even if communication quality measurement applications are not installed on the communication terminals of all users using a predetermined communication network, communication carriers can perform their own measurement.
  • the purpose of this service is to enable communication carriers to ascertain as accurately as possible what kind of influence services are actually having on users, without having to deploy terminals over a wide area.
  • the invention according to claim 1 provides a quality of experience deterioration estimating device that performs machine learning on a machine learning model in a learning phase, and acquires information on quality of experience from a user's communication terminal, and an acquisition unit that acquires measurement information regarding data transfer corresponding to the user experience quality information from the network; a deterioration determination unit that determines whether the user experience quality is better than a threshold value; and a deterioration determination unit that determines whether the user experience quality is better than the threshold value.
  • This apparatus includes a machine learning unit that performs machine learning on a machine learning model by associating information on a predetermined quality of user experience that has been determined as such with the measurement information.
  • a communication carrier can grasp as accurately as possible what kind of influence a service is actually having on a user.
  • FIG. 1 is an overall configuration diagram of a communication system according to this embodiment.
  • FIG. 2 is an electrical hardware configuration diagram of the perceived quality deterioration estimation device according to the present embodiment.
  • FIG. 2 is an electrical hardware configuration diagram of a communication terminal according to the present embodiment.
  • FIG. 3 is a functional configuration diagram of the perceived quality deterioration estimation device in the learning phase.
  • FIG. 2 is a functional configuration diagram of the perceived quality deterioration estimation device in the estimation phase.
  • 12 is a flowchart illustrating processing executed by the perceived quality deterioration estimation device in the learning phase. It is a flowchart which shows the process which a quality-of-experience deterioration estimating device performs in an estimation phase.
  • FIG. 1 is an overall configuration diagram of a communication system according to this embodiment.
  • a communication system 1 of the present embodiment is constructed by a perceived quality deterioration estimation device 3, a content distribution device 5, and a communication terminal 7.
  • the communication terminal 7 is managed and used by the user.
  • the quality of experience deterioration estimating device 3, the content distribution device 5, and the communication terminal 7 can communicate via a communication network 100 such as the Internet.
  • the communication network 100 includes a predetermined network such as an ISP (Internet Service Provider) network managed and/or operated by a communication carrier.
  • the connection form of the communication network 100 may be either wireless or wired.
  • content distribution devices 5 on the communication network 100, one content distribution device 5 is shown in FIG. 1 for convenience.
  • communication terminals 7 one communication terminal 7 is shown in FIG. 1 for convenience.
  • the perceived quality deterioration estimating device 3 is configured by one or more computers.
  • the sensory quality deterioration estimating device 3 When the sensory quality deterioration estimating device 3 is constituted by a plurality of computers, it may be referred to as a “perceived quality deterioration estimation device” or a “perceived quality deterioration estimation system”.
  • the quality of experience deterioration estimating device 3 acquires measurement information (communication traffic information, information regarding data transfer such as CPU usage rate) from in-network devices (switches, routers, servers, etc.) in a predetermined network such as an ISP network. .
  • the quality of experience deterioration estimating device 3 also periodically acquires information on user quality of experience (QoE), which will be described later, from the communication terminal 7 .
  • QoE user quality of experience
  • the perceived quality deterioration estimation device 3 performs machine learning on the machine learning model 30a using the input data in which the measurement information and the user perceived quality information are associated. Further, the quality of experience deterioration estimating device 3 inputs the current measurement information into the trained machine learning model 30b to estimate the current degree of deterioration (degree of abnormality) of the quality of experience for the user.
  • the content distribution device 5 is configured by one or more computers.
  • the content distribution device 5 When the content distribution device 5 is constituted by a plurality of computers, it may be referred to as a "content distribution device” or a “content distribution system.”
  • the content distribution device 5 is a server owned by a content provider, and distributes content data (video content, rich web content, etc.) in information communication services to the communication terminal 7 via the communication network 100.
  • content data video content, rich web content, etc.
  • the communication terminal 7 is a computer, and in FIG. 1, a notebook computer is shown as an example.
  • a user operates a communication terminal 7.
  • a communication quality measurement application is installed on the communication terminal 7 to measure the playback quality, etc. (response time, buffering status, etc.) of the content being played back on the communication terminal 7, and the communication terminal 7
  • the quality is periodically transmitted to the perceived quality deterioration estimating device 3 as the user perceived quality.
  • information on the user-experienced quality of the present embodiment is not information input by the user himself/herself about the communication quality experienced by the user, but information measured by the above-mentioned communication quality measurement application installed in the communication terminal 7.
  • Information on the user experience quality includes, for example, not only the operational quality (resolution, frame rate, bit rate), but also the time from when a video playback instruction is given until the video starts playing, and when the video is played during video playback. Indicates indicators including the number of times the system stopped.
  • FIG. 2 is an electrical hardware configuration diagram of the perceived quality deterioration estimation device.
  • the perceived quality deterioration estimating device 3 is a computer that includes a CPU (Central Processing Unit) 301, a ROM (Read Only Memory) 302, a RAM (Random Access Memory) 303, and an SSD (Solid State Drive). ) 304, an external device connection I/F (Interface) 305, a network I/F 306, a media I/F 309, and a bus line 310.
  • a CPU Central Processing Unit
  • ROM Read Only Memory
  • RAM Random Access Memory
  • SSD Solid State Drive
  • the CPU 301 controls the operation of the overall perceived quality deterioration estimation device 3.
  • the ROM 302 stores programs used to drive the CPU 301, such as IPL (Initial Program Loader).
  • RAM 303 is used as a work area for CPU 301.
  • the SSD 304 reads or writes various data under the control of the CPU 301.
  • an HDD Hard Disk Drive
  • SDD Serial Digital
  • the external device connection I/F 305 is an interface for connecting various external devices.
  • External devices in this case include a display, speaker, keyboard, mouse, USB (Universal Serial Bus) memory, printer, and the like.
  • the network I/F 306 is an interface for data communication via the communication network 100.
  • the media I/F 309 controls reading or writing (storage) of data to a recording medium 309m such as a flash memory.
  • the recording media 309m also include DVDs (Digital Versatile Discs), Blu-ray Discs (registered trademark), and the like.
  • the bus line 310 is an address bus, a data bus, etc. for electrically connecting each component such as the CPU 301 shown in FIG. 2.
  • the content distribution device 5 has the same configuration as the perceived quality deterioration estimation device 3, a description of the electrical hardware configuration of the content distribution device 5 will be omitted.
  • FIG. 3 is an electrical hardware configuration diagram of the communication terminal.
  • the communication terminal 7 is a computer that includes a CPU 501, ROM 502, RAM 503, SSD 504, external device connection I/F (Interface) 505, network I/F 506, display 507, pointing device 508, and media. It includes an I/F 509 and a bus line 510.
  • I/F Interface
  • the CPU 501 controls the operation of the communication terminal 7 as a whole.
  • the ROM 502 stores programs used to drive the CPU 501 such as IPL.
  • RAM 503 is used as a work area for CPU 501.
  • the SSD 504 reads or writes various data under the control of the CPU 501. Note that an HDD (Hard Disk Drive) may be used instead of the SSD 504.
  • HDD Hard Disk Drive
  • the external device connection I/F 505 is an interface for connecting various external devices.
  • External devices in this case include a display, speaker, keyboard, mouse, USB memory, printer, and the like.
  • the network I/F 506 is an interface for data communication via the communication network 100.
  • the display 507 is a type of display means such as liquid crystal or organic EL (Electro Luminescence) that displays various images.
  • the pointing device 508 is a type of input means for selecting and executing various instructions, selecting a processing target, moving a cursor, and the like. Note that when the user uses a keyboard, the function of the pointing device 508 may be turned off.
  • the media I/F 509 controls reading or writing (storage) of data to a recording medium 509m such as a flash memory.
  • the recording media 509m also include DVDs, Blu-ray Discs (registered trademark), and the like.
  • the bus line 510 is an address bus, a data bus, etc. for electrically connecting each component such as the CPU 501 shown in FIG. 4.
  • FIG. 4 is a functional configuration diagram of the perceived quality deterioration estimation device in the learning phase.
  • the perceived quality deterioration estimation device 3 includes an acquisition section 31, an information division section 32, a deterioration determination section 33, and a machine learning section 35. Each of these units is a function realized by instructions from the CPU 301 in FIG. 2 based on a program. Furthermore, a machine learning model 30a is stored in the RAM 303 or SSD 304.
  • the acquisition unit 31 acquires information on user experience quality from the communication terminal 7 (communication quality measurement application). Further, the acquisition unit 31 acquires the above-mentioned measurement information corresponding to information on the quality of user experience from a predetermined network (in-network device) managed by a communication carrier in the communication network 100. Note that the acquisition section may also be referred to as an "input section.”
  • the information division unit 32 divides each data of the user experience quality information and measurement information acquired by the acquisition unit 31 at regular time intervals. For example, the information division unit 32 divides each of the user experience quality information and measurement information data into specific time windows. The time interval is set in accordance with the acquisition granularity of the quality of experience deterioration estimating device 3, such as in units of 10 seconds or 1 minute.
  • the deterioration determining unit 33 determines whether the user experience quality is better than a threshold value for each time interval divided by the information dividing unit 32 (within the target time interval).
  • the machine learning unit 35 collects information on a predetermined user experience quality after division that is determined to be equal to or higher than a threshold by the deterioration determination unit 33, and measurement information within the same time interval as the information on the predetermined user experience quality after division. are associated and used as input data (learning data), and machine learning that can produce highly accurate output is performed on the machine learning model 30a.
  • algorithm of the machine learning model 30a various algorithms for estimating the degree of deterioration can be considered, and for example, a method using an autoencoder (non-patent document 1) can be considered.
  • the machine learning unit 35 performs machine learning on the machine learning model 30a to generate a trained machine learning model 30b for estimating the degree of deterioration of the user experience quality and using it as output data.
  • the machine learning unit 35 uses, as learning data, information on the user experience quality that has deteriorated below a threshold value (that is, degraded to a bad state) from among the information on the user experience quality acquired by the acquisition unit 31. By adopting steady-state user experience quality information without employing the Make estimation (detection) significantly easier.
  • the data transmission situation (state) within a given network affects the deterioration of the quality of user experience. It is thought that the status of the device indirectly affects the quality of user experience. Therefore, if the relationship between measurement information from in-network devices and the quality of user experience can be learned in advance by machine learning, it becomes possible to estimate the deterioration of the quality of user experience.
  • FIG. 5 is a functional configuration diagram of the perceived quality deterioration estimation device in the estimation phase.
  • the perceived quality deterioration estimation device 3 includes an acquisition section 31, an information division section 32, an estimation section 37, and an output section 39. Each of these units is a function realized by instructions from the CPU 301 in FIG. 2 based on a program. Furthermore, a trained machine learning model 30b is stored in the RAM 303 or SSD 304. Note that functional configurations similar to those in the learning phase are designated by the same reference numerals and description thereof will be omitted.
  • the estimation unit 37 uses the trained machine learning model 30b to estimate the degree of deterioration of the quality of user experience based on measurement information obtained from a predetermined network (in-network device).
  • the output unit 39 outputs estimation result information indicating the degree of deterioration estimated by the estimation unit 37 from the perceived quality deterioration estimation device 3. Examples of output include displaying on a display connected to external device connection I/F 305 in FIG. 2, and transmitting to an external device via network I/F 306. Note that the output unit 39 may output the estimation result only when the degree of deterioration of the user experience quality is worse than a predetermined state.
  • FIG. 6 is a flowchart showing the processing or operation performed by the perceived quality deterioration estimation device in the learning phase.
  • the acquisition unit 31 periodically acquires user experience quality information from the communication terminal, and also acquires observation information from the network (in-network device) managed by the communication carrier in the communication network 100.
  • the information dividing unit 32 divides (divides) the user experience quality information and observation information data into specific time windows at regular time intervals.
  • the specific time window is set in accordance with the acquisition granularity of the quality of experience deterioration estimating device 3, such as in units of 10 seconds or 1 minute.
  • the deterioration determination unit 33 determines whether the user experience quality is equal to or higher than the threshold by checking the state of the user experience quality within the target time intervals, which are each specific time windows divided by the information division unit 32. .
  • the machine learning unit 35 associates the user experience quality information with the observation information of the network device, and The state is machine learned by the machine learning model 30a. On the other hand, if the deterioration determining unit 33 does not determine that the user experience quality is equal to or higher than the threshold (S13; NO), the machine learning unit 35 determines that the user experience quality is degraded. Machine learning is not performed, and the user experience quality information and observation information of network devices within the relevant time period are discarded.
  • the quality of experience deterioration estimating device 3 completes the machine learning of the machine learning model 30a by repeating steps S11 to S14 above.
  • FIG. 7 is a flowchart showing the processing or operation performed by the perceived quality deterioration estimation device in the estimation phase.
  • the acquisition unit 31 acquires current observation information from the network (in-network device) managed by the communication carrier in the communication network 100.
  • the estimation unit 37 uses the trained machine learning model 30b to estimate the degree of deterioration of the quality of user experience based on the observation information data divided in step S22.
  • the output unit 39 outputs information indicating the degree of deterioration of the user experience quality as the estimation result. If this estimation result indicates a deterioration (abnormality, deterioration) in the user experience quality, it can be predicted that there is a high possibility that the user experience quality, which was not subject to machine learning, has deteriorated.
  • the communication carrier can take appropriate action by notifying the operator or the like that there is a possibility that the quality of user experience may deteriorate.
  • the communication carrier can This has the effect of allowing communication carriers to ascertain as accurately as possible what kind of influence a service is actually having on users, without having to deploy measuring terminals over a wide area.
  • the present invention is not limited to the above-described embodiments, and may have, for example, the following configuration or processing (operation).
  • the perceived quality deterioration estimating device 3 can be realized by a computer and a program, but this program can also be recorded on a (non-temporary) recording medium or provided via a communication network 100 such as the Internet.
  • Communication system 3
  • Experience quality deterioration estimation device 5
  • Content distribution device 7
  • Communication terminal 30a
  • Machine learning model 30b Learned machine learning model
  • Acquisition unit (input unit) 32
  • Information dividing unit 33
  • Deterioration determining unit 35
  • Machine learning unit 37
  • Estimating unit 39

Landscapes

  • Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本開示の目的は、所定の通信ネットワークを利用する全てのユーザの通信端末に通信品質計測アプリケーションがインストールされていなくても、また、通信事業者が自前の測定用端末を広域に配備しなくても、通信事業者が実際にユーザにどのようなサービスの影響が出ているかをできるだけ正確に把握できるようにする。　そのため、本開示では、学習フェーズにおいて機械学習モデルを機械学習させる体感品質劣化推定装置は、ユーザの通信端末からユーザ体感品質の情報を取得すると共に、通信ネットワークから前記ユーザ体感品質の情報に対応するデータ転送に関する測定情報を取得する取得部と、前記ユーザ体感品質が閾値以上に良いかを判断する劣化判断部と、前記劣化判断部によって閾値以上に良いと判断された所定のユーザ体感品質の情報、及び前記測定情報を関連付けて、機械学習モデルを機械学習させる機械学習部と、を有する。

Description

体感品質劣化推定装置、機械学習方法、体感品質劣化推定方法及びプログラム
　本開示内容は、ユーザ体感品質の劣化状況を推定する技術に関する。
　通信事業者が管理しているISP（Internet Service Provider）ネットワーク等の所定の通信ネットワーク上で提供される多様なサービス（映像配信サービス、リッチなWebコンテンツ等）に関して、ユーザに適切なユーザ体感品質（QoE; Quality of Experience）を提供することは、通信事業者にとって重要である。通信事業者のネットワークマネジメントにおいては、装置の故障や設定の誤り、通信量の増加など起こる様々な事象に対処していく必要があるが、対処の重要性を考える際には実際にユーザにどのようなサービスの影響が出ているかを把握する必要がある。そのため、ユーザ体感品質を把握することが通信事業者のネットワークマネジメントにとって必要となる。
　ユーザの体感品質を測定するためには，ユーザ端末で再生中のコンテンツの再生品質等（レスポンスタイムやバッファリング状況等）を計測するための通信品質計測アプリケーションをインストールする必要がある。通信事業者のサーバが、ユーザ端末から、コンテンツの再生品質等のユーザ体感品質の情報を定期的に取得する。または、通信事業者のサーバが、通信事業者の管理及び運営しているISPネットワークの網内装置（スイッチ、ルータ、サーバ等）から、測定情報（通信トラヒック情報、ＣＰＵ利用率等のデータ転送に関する情報）を取得する。そして、通信事業者のサーバは、ユーザ端末からのユーザ体感品質の情報及びISPネットワークからの観測情報と、予めユーザの主観評価実験を行った結果とを関連付けておくことで、独自のモデルに基づいて、現在のユーザ体感品質を推定することが可能である（特許文献１参照）。
　また、ユーザ体感品質の劣化（ユーザ体感品質が悪い状態）を検知する劣化検知技術も提供されている。劣化検知技術としては、入力データの定常的な状態を機械学習や統計的な手法で定義しておき、そこから逸脱した状態が生じた場合に劣化（異常）であると判断することが挙げられる。例えば、オートエンコーダを用いた手法などが存在している（非特許文献１参照）。そのため、ユーザ体感品質の劣化検知を行うためには、通信事業者のサーバが、各ユーザ端末等の通信端末から取得したユーザ体感品質の情報及びISPネットワークから取得した観測情報に基づいてユーザ体感品質を推定し、その推定した結果であるスコア（数値）の変化から劣化検知を行うことができる。
特開２０１５－０１２４５１号公報
池田泰弘, 石橋圭介, 中野雄介, 渡辺敬志郎, 川原亮一, "オートエンコーダを用いた劣化検知におけるスパース最適化を用いた要因推定手法,'' 信学技報, vol. 117, no. 89, IN2017-18, pp. 61-66, 2017.
　しかしながら、通信事業者が管理及び運営しているISPネットワーク等の所定の通信ネットワークを利用する全てのユーザの通信端末に通信品質計測アプリケーションをインストールしてもらうことは、ユーザに負担が掛かったり無関心なユーザが存在したりするため、現実的ではない。一方、通信事業者が、自前の測定用端末を用いてもよいが、広域に測定用端末を配備しようとすると、膨大なコストが発生するため、これも現実的ではない。
　本発明は、上述の事情に鑑みてなされたもので、所定の通信ネットワークを利用する全てのユーザの通信端末に通信品質計測アプリケーションがインストールされていなくても、また、通信事業者が自前の測定用端末を広域に配備しなくても、通信事業者が実際にユーザにどのようなサービスの影響が出ているかをできるだけ正確に把握できるようにすることを目的とする。
　上記目的を達成するため、請求項１に係る発明は、学習フェーズにおいて機械学習モデルを機械学習させる体感品質劣化推定装置であって、ユーザの通信端末からユーザ体感品質の情報を取得すると共に、通信ネットワークから前記ユーザ体感品質の情報に対応するデータ転送に関する測定情報を取得する取得部と、前記ユーザ体感品質が閾値以上に良いかを判断する劣化判断部と、前記劣化判断部によって閾値以上に良いと判断された所定のユーザ体感品質の情報、及び前記測定情報を関連付けて、機械学習モデルを機械学習させる機械学習部と、を有する体感品質劣化推定装置である。
　以上説明したように本発明によれば、通信事業者が実際にユーザにどのようなサービスの影響が出ているかをできるだけ正確に把握できるという効果を奏する。
本実施形態に係る通信システムの全体構成図である。 本実施形態に係る体感品質劣化推定装置の電気的なハードウェア構成図である。 本実施形態に係る通信端末の電気的なハードウェア構成図である。 学習フェーズにおける体感品質劣化推定装置の機能構成図である。 推定フェーズにおける体感品質劣化推定装置の機能構成図である。 学習フェーズにおいて体感品質劣化推定装置が実行する処理を示すフローチャートである。 推定フェーズにおいて体感品質劣化推定装置が実行する処理を示すフローチャートである。
　以下、図面を用いて本発明の実施形態を説明する。
　〔実施形態のシステム構成〕
　まず、図１を用いて、本実施形態の通信システムの構成の概略について説明する。図１は、本実施形態に係る通信システムの全体構成図である。
　図１に示されているように、本実施形態の通信システム１は、体感品質劣化推定装置３、コンテンツ配信装置５、及び通信端末７によって構築されている。通信端末７は、ユーザによって管理及び使用される。体感品質劣化推定装置３、コンテンツ配信装置５、及び通信端末７は、インターネット等の通信ネットワーク１００を介して通信することができる。
　通信ネットワーク１００には、通信事業者が管理及び（又は）運営しているISP（Internet Service Provider）ネットワーク（網）等の所定のネットワークが含まれている。通信ネットワーク１００の接続形態は、無線又は有線のいずれでも良い。なお、通信ネットワーク１００上には、コンテンツ配信装置５は複数存在するが、図１では便宜的に１つのコンテンツ配信装置５が示されている。同様に、通信端末７も複数存在するが、図１では便宜的に１つの通信端末７が示されている。
　体感品質劣化推定装置３は、単数又は複数のコンピュータによって構成されている。体感品質劣化推定装置３が複数のコンピュータによって構成されている場合には、「体感品質劣化推定装置」と示しても良いし、「体感品質推定システム」と示しても良い。
　体感品質劣化推定装置３は、ISPネットワーク等の所定のネットワーク内の網内装置（スイッチ、ルータ、サーバ等）から、測定情報（通信トラヒック情報、ＣＰＵ利用率等のデータ転送に関する情報）を取得する。また、体感品質劣化推定装置３は、通信端末７から、後述のユーザ体感品質(QoE: Quality of Experience)の情報を定期的に取得する。そして、体感品質劣化推定装置３は、測定情報及びユーザ体感品質の情報を関連付けた入力データを用いて機械学習モデル３０ａを機械学習する。更に、体感品質劣化推定装置３は、学習済み機械学習モデル３０ｂに、現在の測定情報を入力して、現在のユーザ体感品質の劣化度（異常度）を推定する。
　また、コンテンツ配信装置５は、単数又は複数のコンピュータによって構成されている。コンテンツ配信装置５が複数のコンピュータによって構成されている場合には、「コンテンツ配信装置」と示しても良いし、「コンテンツ配信システム」と示しても良い。
　コンテンツ配信装置５は、コンテンツ事業者が有するサーバであり、通信ネットワーク１００を介し、通信端末７に対して、情報通信サービスにおけるコンテンツデータ（映像コンテンツ、リッチなWebコンテンツ等）を配信している。
　通信端末７は、コンピュータであり、図１では、一例としてノート型パソコンが示されている。図１では、ユーザが、通信端末７を操作する。通信端末７には、当該通信端末７で再生中のコンテンツの再生品質等（レスポンスタイムやバッファリング状況等）を計測するための通信品質計測アプリケーションがインストールされており、通信端末７は、この通信品質をユーザ体感品質として定期的に体感品質劣化推定装置３に送信する。
　なお、本実施形態のユーザ体感品質の情報は、ユーザが体感した通信品質をユーザ本人が入力する情報ではなく、通信端末７にインストールされている上述の通信品質計測アプリケーションが計測する情報である。ユーザ体感品質の情報は、例えば、動作品質（解像度、フレームレート、ビットレート）だけでなく、動画の再生指示を行ってから動画の再生が開始されるまでの時間や、動画の再生中に動画が止まった回数等を含めた指標を示す。
　〔ハードウェア構成〕
　＜体感品質劣化推定装置のハードウェア構成＞
　次に、図２を用いて、体感品質劣化推定装置３の電気的なハードウェア構成を説明する。図２は、体感品質劣化推定装置の電気的なハードウェア構成図である。
　体感品質劣化推定装置３は、コンピュータとして、図２に示されているように、ＣＰＵ(Central Processing Unit)３０１、ＲＯＭ(Read Only Memory)３０２、ＲＡＭ(Random Access Memory)３０３、ＳＳＤ(Solid State Drive)３０４、外部機器接続Ｉ／Ｆ(Interface)３０５、ネットワークＩ／Ｆ３０６、メディアＩ／Ｆ３０９、及びバスライン３１０を備えている。
　これらのうち、ＣＰＵ３０１は、体感品質劣化推定装置３全体の動作を制御する。ＲＯＭ３０２は、ＩＰＬ(Initial Program Loader)等のＣＰＵ３０１の駆動に用いられるプログラムを記憶する。ＲＡＭ３０３は、ＣＰＵ３０１のワークエリアとして使用される。
　ＳＳＤ３０４は、ＣＰＵ３０１の制御に従って各種データの読み出し又は書き込みを行う。なお、ＳＤＤ３０４の代わりに、ＨＤＤ(Hard Disk Drive)を用いても良い。
　外部機器接続Ｉ／Ｆ３０５は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、ディスプレイ、スピーカ、キーボード、マウス、ＵＳＢ(Universal Serial Bus)メモリ、及びプリンタ等である。
　ネットワークＩ／Ｆ３０６は、通信ネットワーク１００を介してデータ通信をするためのインターフェースである。
　メディアＩ／Ｆ３０９は、フラッシュメモリ等の記録メディア３０９ｍに対するデータの読み出し又は書き込み（記憶）を制御する。記録メディア３０９ｍには、ＤＶＤ(Digital Versatile Disc)やＢｌｕ-ｒａｙ Ｄｉｓｃ（登録商標）等も含まれる。
　バスライン３１０は、図２に示されているＣＰＵ３０１等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
　なお、コンテンツ配信装置５は、体感品質劣化推定装置３と同様の構成を有するため、コンテンツ配信装置５の電気的なハードウェア構成の説明は省略する。
　＜通信端末のハードウェア構成＞
　次に、図３を用いて、通信端末７の電気的なハードウェア構成を説明する。図３は、通信端末の電気的なハードウェア構成図である。
　通信端末７は、コンピュータとして、図３に示されているように、ＣＰＵ５０１、ＲＯＭ５０２、ＲＡＭ５０３、ＳＳＤ５０４、外部機器接続Ｉ／Ｆ(Interface)５０５、ネットワークＩ／Ｆ５０６、ディスプレイ５０７、ポインティングデバイス５０８、メディアＩ／Ｆ５０９、及びバスライン５１０を備えている。
　これらのうち、ＣＰＵ５０１は、通信端末７全体の動作を制御する。ＲＯＭ５０２は、ＩＰＬ等のＣＰＵ５０１の駆動に用いられるプログラムを記憶する。ＲＡＭ５０３は、ＣＰＵ５０１のワークエリアとして使用される。
　ＳＳＤ５０４は、ＣＰＵ５０１の制御に従って各種データの読み出し又は書き込みを行う。なお、ＳＳＤ５０４の代わりに、ＨＤＤ(Hard Disk Drive)を用いてもよい。
　外部機器接続Ｉ／Ｆ５０５は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、ディスプレイ、スピーカ、キーボード、マウス、ＵＳＢメモリ、及びプリンタ等である。
　ネットワークＩ／Ｆ５０６は、通信ネットワーク１００を介してデータ通信をするためのインターフェースである。
　ディスプレイ５０７は、各種画像を表示する液晶や有機ＥＬ(Electro Luminescence)などの表示手段の一種である。
　ポインティングデバイス５０８は、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行う入力手段の一種である。なお、ユーザがキーボードを使う場合は、ポインティングデバイス５０８の機能をＯＦＦにしてもよい。
　メディアＩ／Ｆ５０９は、フラッシュメモリ等の記録メディア５０９ｍに対するデータの読み出し又は書き込み（記憶）を制御する。記録メディア５０９ｍには、ＤＶＤやＢｌｕ-ｒａｙ Ｄｉｓｃ（登録商標）等も含まれる。
　バスライン５１０は、図４に示されているＣＰＵ５０１等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
　〔体感品質劣化推定装置の機能構成〕
　続いて、本実施形態に係る体感品質劣化推定装置３の学習フェーズ及び推定（予測）フェーズにおける機能構成について説明する。
　＜学習フェーズの機能構成＞
　図４は、学習フェーズにおける体感品質劣化推定装置の機能構成図である。
　図４に示すように、体感品質劣化推定装置３は、取得部３１、情報分割部３２、劣化判断部３３、及び機械学習部３５を有する。これら各部は、プログラムに基づき図２のＣＰＵ３０１による命令によって実現される機能である。また、ＲＡＭ３０３又はＳＳＤ３０４には、機械学習モデル３０ａが記憶されている。
　取得部３１は、通信端末７（通信品質計測アプリケーション）から、ユーザ体感品質の情報を取得する。また、取得部３１は、通信ネットワーク１００における通信事業者が管理している所定のネットワーク（網内装置）から、ユーザ体感品質の情報に対応する上述の測定情報を取得する。なお、取得部は、「入力部」と示しても良い。
　情報分割部３２は、取得部３１によって取得されたユーザ体感品質の情報及び測定情報の各データを、一定の時間間隔毎に分割する。例えば、情報分割部３２は、ユーザ体感品質の情報及び測定情報のデータのそれぞれを特定の時間窓で区切る。時間間隔は、１０秒単位や１分単位など、体感品質劣化推定装置３の取得粒度に合わせて設定されている。
　劣化判断部３３は、情報分割部３２によって分割された時間間隔毎に（対象の時間間隔内）において）、ユーザ体感品質が閾値以上に良いかを判断する。
　機械学習部３５は、劣化判断部３３によって閾値以上であると判断された分割後の所定のユーザ体感品質の情報、及びこの分割後の所定のユーザ体感品質の情報と同じ時間間隔内の測定情報を関連付けて入力データ（学習データ）とし、機械学習モデル３０ａに対して、高い精度の出力が可能な機械学習を行う。機械学習モデル３０ａのアルゴリズムとしては、劣化度を推定するための様々なアルゴリズムが考えられるが、例えば、オートエンコーダを用いた手法（非特許文献１）が考えられる。
　また、機械学習部３５は、機械学習モデル３０ａを機械学習させることで、ユーザ体感品質の劣化度を推定して出力データとするための学習済み機械学習モデル３０ｂを生成する。
　なお、機械学習部３５は、取得部３１によって取得されたユーザ体感品質の情報のうち、学習データとして、閾値未満に劣化している（つまり、悪い状態に劣化している）ユーザ体感品質の情報を採用せずに、定常状態のユーザ体感品質の情報を採用することで、通信端末７に通信品質計測アプリケーションがインストールされているか否かを考慮しなくても、ユーザ体感品質の劣化度をより顕著に推定（検出）しやすくする。
　また、測定情報は、ユーザ体感品質には直接影響しているわけではないが、所定のネットワーク（網）内のデータ伝送の状況（状態）がユーザ体感品質の劣化に影響を与えるため、網内装置の状況はユーザ体感品質に間接的に影響していると考えられる。そのため、網内装置からの測定情報とユーザ体感品質の関係を事前に機械学習できれば、ユーザ体感品質の劣化が推定可能となる。
　＜推定フェーズの機能構成＞
　図５は、推定フェーズにおける体感品質劣化推定装置の機能構成図である。
　図５に示すように、体感品質劣化推定装置３は、取得部３１、情報分割部３２、推定部３７、及び出力部３９を有する。これら各部は、プログラムに基づき図２のＣＰＵ３０１による命令によって実現される機能である。また、ＲＡＭ３０３又はＳＳＤ３０４には、学習済み機械学習モデル３０ｂが記憶されている。なお、学習フェーズにおける機能構成と同様の機能構成については、同一の符号を付して説明を省略する。
　推定部３７は、学習済み機械学習モデル３０ｂを用い、所定のネットワーク（網内装置）から取得された測定情報に基づいて、ユーザ体感品質の劣化度を推定する。
　出力部３９は、推定部３７によって推定された劣化度を示す推定結果の情報を、体感品質劣化推定装置３から出力する。出力する例としては、図２の外部機器接続Ｉ／Ｆ３０５に接続されたディスプレイに表示させる場合、ネットワークＩ／Ｆ３０６を介して外部装置に送信する場合等が挙げられる。なお、出力部３９は、ユーザ体感品質の劣化度が所定状態よりも悪い場合のみ、推定結果を出力してもよい。
　〔体感品質劣化推定装置の処理又は動作〕
　続いて、図６及び図７を用いて、体感品質劣化推定装置３の学習フェーズ及び推定フェーズにおける処理又は動作について説明する。
　＜学習フェーズにおける処理又は動作＞
　図６は、学習フェーズにおいて体感品質劣化推定装置が実行する処理又は動作を示すフローチャートである。
　Ｓ１１：取得部３１は、定期的に、通信端末からユーザ体感品質の情報を取得すると共に、通信ネットワーク１００における通信事業者が管理しているネットワーク（網内装置）から観測情報を取得する。
　Ｓ１２：情報分割部３２は、一定の時間間隔毎にユーザ体感品質の情報及び観測情報のデータをそれぞれ特定の時間窓で分割する（区切る）。例えば、特定の時間窓は、１０秒単位や１分単位など、体感品質劣化推定装置３の取得粒度に合わせて設定されている。
　Ｓ１３：劣化判断部３３は、情報分割部３２によって分割されたそれぞれ特定の時間窓である対象時間間隔内において、ユーザ体感品質の状態を確認することで、ユーザ体感品質が閾値以上かを判断する。
　Ｓ１４：劣化判断部３３がユーザ体感品質を閾値以上であると判断した場合には（Ｓ１３；ＹＥＳ）、機械学習部３５は、ユーザ体感品質の情報及び網内装置の観測情報を関連付けて、定常状態を機械学習モデル３０ａに機械学習させる。一方、劣化判断部３３がユーザ体感品質を閾値以上であると判断しなかった場合には（Ｓ１３；ＮＯ）、機械学習部３５は、ユーザ体感品質が劣化している状態であると判断して機械学習を行わず、当該対象時間内におけるユーザ体感品質の情報及び網内装置の観測情報を破棄する。
　体感品質劣化推定装置３は、以上のステップＳ１１～Ｓ１４を繰り返すことで、機械学習モデル３０ａの機械学習を完成させる。
　＜推定フェーズにおける処理又は動作＞
　図７は、推定フェーズにおいて体感品質劣化推定装置が実行する処理又は動作を示すフローチャートである。
　Ｓ２１：取得部３１は、通信ネットワーク１００における通信事業者が管理しているネットワーク（網内装置）から、現在の観測情報を取得する。
　Ｓ２２：一定の時間間隔毎に観測情報のデータを分割する。
　Ｓ２３：推定部３７は、学習済み機械学習モデル３０ｂを用い、ステップＳ２２で分割された観測情報のデータに基づいて、ユーザ体感品質の劣化度を推定する。
　Ｓ２４：出力部３９は、ユーザ体感品質の劣化度を示す情報を推定結果として出力する。この推定結果がユーザ体感品質の劣化（異常、悪化）を示す場合には、機械学習の対象外であったユーザ体感品質が劣化している状態になっている可能性が高いと予測できるため、通信事業者は、ユーザ体感品質の劣化の可能性ありとしてオペレータ等に通知することで、対応処理を行うことができる。
　〔実施形態の主な効果〕
　以上のように、本実施形態によれば、ISPネットワーク等の所定の通信ネットワークを利用する全てのユーザの通信端末に通信品質計測アプリケーションがインストールされていなくても、また、通信事業者が自前の測定用端末を広域に配備しなくても、通信事業者が実際にユーザにどのようなサービスの影響が出ているかをできるだけ正確に把握できるという効果を奏する。
　〔補足〕
　本発明は上述の実施形態に限定されるものではなく、例えば、以下に示すような構成又は処理（動作）であってもよい。
　体感品質劣化推定装置３はコンピュータとプログラムによっても実現できるが、このプログラムを（非一時的）記録媒体に記録することも、インターネット等の通信ネットワーク１００を介して提供することも可能である。
１　通信システム
３　体感品質劣化推定装置
５　コンテンツ配信装置
７　通信端末
３０ａ　機械学習モデル
３０ｂ　学習済み機械学習モデル
３１　取得部（入力部）
３２　情報分割部
３３　劣化判断部
３５　機械学習部
３７　推定部
３９　出力部

Claims (8)

  1. 　学習フェーズにおいて機械学習モデルを機械学習させる体感品質劣化推定装置であって、
    　ユーザの通信端末からユーザ体感品質の情報を取得すると共に、通信ネットワークから前記ユーザ体感品質の情報に対応するデータ転送に関する測定情報を取得する取得部と、
    　前記ユーザ体感品質が閾値以上に良いかを判断する劣化判断部と、
    　前記劣化判断部によって閾値以上に良いと判断された所定のユーザ体感品質の情報、及び前記測定情報を関連付けて、機械学習モデルを機械学習させる機械学習部と、
    　を有する体感品質劣化推定装置。
  2. 　請求項１に記載の体感品質劣化推定装置であって、
    　前記取得部によって取得された前記ユーザ体感品質の情報及び前記測定情報の各データを一定の時間間隔毎に分割する情報分割部を有し、
    　前記劣化判断部は、前記情報分割部によって分割された前記時間間隔内において、ユーザ体感品質が閾値以上に良いかを判断し、
    　前記機械学習部は、前記劣化判断部によって閾値以上に良いと判断された分割後の所定のユーザ体感品質の情報、及び当該分割後の所定のユーザ体感品質の情報と同じ前記時間間隔内の前記測定情報を関連付けて、前記機械学習モデルを機械学習させる、
    　体感品質劣化推定装置。
  3. 　学習フェーズにおいて機械学習モデルを機械学習させる体感品質劣化推定装置が実行する機械学習方法であって、
    　前記体感品質劣化推定装置は、
    　ユーザの通信端末からユーザ体感品質の情報を取得すると共に、通信ネットワークから前記ユーザ体感品質の情報に対応するデータ転送に関する測定情報を取得する取得し、
    　前記ユーザ体感品質が閾値以上に良いかを判断し、
    　前記閾値以上に良いと判断された所定のユーザ体感品質の情報、及び前記測定情報を関連付けて、機械学習モデルを機械学習させる、
    　機械学習方法。
  4. 　コンピュータに請求項３に記載の方法を実行させるプログラム。
  5. 　推定フェーズにおいてユーザ体感品質の劣化を推定する体感品質劣化推定装置であって、
    　通信ネットワークからデータ転送に関する測定情報を取得する取得部と、
    　前記測定情報を入力してユーザ体感品質の劣化度を示す情報を出力する学習済み機械学習モデルを用い、取得された前記測定情報から前記ユーザ体感品質の劣化度を推定する推定部と、
    　推定された結果を示す結果情報を出力する出力部と、
    　を有する体感品質劣化推定装置。
  6. 　請求項５に記載の体感品質劣化推定装置であって、
    　前記取得部によって取得された前記ユーザ体感品質の情報のデータを一定の時間間隔毎に分割する情報分割部を有し、
    　前記推定部は、前記情報分割部によって分割された前記時間間隔内において、ユーザ体感品質の劣化度を推定する、
    　請求項５に記載の体感品質劣化推定装置。
  7. 　推定フェーズにおいてユーザの体感品質の劣化を推定する体感品質劣化推定装置が実行する体感品質劣化推定方法であって、
    　前記体感品質劣化推定装置は、
    　通信ネットワークからデータ転送に関する測定情報を取得し、
    　前記測定情報を入力してユーザ体感品質の劣化度を示す情報を出力する学習済み機械学習モデルを用い、取得された前記測定情報から前記ユーザ体感品質の劣化度を推定し、
    　前記推定した結果を示す結果情報を出力する、
    　体感品質劣化推定方法。
  8. 　コンピュータに、請求項７に記載の方法を実行させるプログラム。
PCT/JP2022/021135 2022-05-23 2022-05-23 体感品質劣化推定装置、機械学習方法、体感品質劣化推定方法及びプログラム WO2023228256A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/JP2022/021135 WO2023228256A1 (ja) 2022-05-23 2022-05-23 体感品質劣化推定装置、機械学習方法、体感品質劣化推定方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2022/021135 WO2023228256A1 (ja) 2022-05-23 2022-05-23 体感品質劣化推定装置、機械学習方法、体感品質劣化推定方法及びプログラム

Publications (1)

Publication Number Publication Date
WO2023228256A1 true WO2023228256A1 (ja) 2023-11-30

Family

ID=88918829

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/021135 WO2023228256A1 (ja) 2022-05-23 2022-05-23 体感品質劣化推定装置、機械学習方法、体感品質劣化推定方法及びプログラム

Country Status (1)

Country Link
WO (1) WO2023228256A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019244507A1 (ja) * 2018-06-18 2019-12-26 日本電信電話株式会社 品質推定装置、品質推定方法及びプログラム
WO2021001958A1 (ja) * 2019-07-03 2021-01-07 日本電信電話株式会社 サービス品質制御装置、サービス品質制御方法、及びプログラム
WO2021064766A1 (ja) * 2019-09-30 2021-04-08 日本電気株式会社 制御装置、方法及びシステム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019244507A1 (ja) * 2018-06-18 2019-12-26 日本電信電話株式会社 品質推定装置、品質推定方法及びプログラム
WO2021001958A1 (ja) * 2019-07-03 2021-01-07 日本電信電話株式会社 サービス品質制御装置、サービス品質制御方法、及びプログラム
WO2021064766A1 (ja) * 2019-09-30 2021-04-08 日本電気株式会社 制御装置、方法及びシステム

Similar Documents

Publication Publication Date Title
Gupta et al. Failures in large scale systems: long-term measurement, analysis, and implications
US11159450B2 (en) Nonintrusive dynamically-scalable network load generation
AU2011340789B2 (en) End-user performance monitoring for mobile applications
US10453161B2 (en) Watermarking and scalability techniques for a virtual desktop planning tool
US11570235B2 (en) Systems and methods for cloud migration readiness
US20170019308A1 (en) Server outlier detection
US9405666B2 (en) Health monitoring using snapshot backups through test vectors
JP5147216B2 (ja) コンピューティング・システムのオートノミック能力を測定するための方法、システム及びコンピュータ・プログラム
EP4148587B1 (en) End-user device testing of websites and applications
US20150012647A1 (en) Router-based end-user performance monitoring
EP3322127A1 (en) A method and computer programs for identifying video streaming qoe from network traffic
CN110196792A (zh) 故障预测方法、装置、计算设备及存储介质
CN109669796B (zh) 一种磁盘故障的预测方法和装置
WO2023228256A1 (ja) 体感品質劣化推定装置、機械学習方法、体感品質劣化推定方法及びプログラム
JP7082285B2 (ja) 監視システム、監視方法および監視プログラム
JP2010152539A (ja) 障害発見システム検証装置、障害発見システム検証方法及び障害発見システム検証制御プログラム
CN112769643B (zh) 资源调度方法、装置、电子设备及存储介质
WO2023203771A1 (ja) 体感品質推定装置、機械学習方法、体感品質推定方法及びプログラム
JP2011186712A (ja) 性能分析装置及び性能分析方法及び性能分析プログラム
WO2024038499A1 (ja) 操作習得度判定装置、操作習得度判定方法、及びプログラム
CN115552380A (zh) 性能事件故障排除系统
US20190349247A1 (en) Scalable and real-time anomaly detection
JP5974905B2 (ja) 応答時間監視プログラム、方法および応答時間監視装置
WO2023209801A1 (ja) ユーザ体感品質推定装置、ユーザ体感品質推定方法及びプログラム
WO2023209802A1 (ja) ユーザ体感品質推定装置、ユーザ体感品質推定方法及びプログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22943662

Country of ref document: EP

Kind code of ref document: A1