JP2010224822A - Request reception method and system - Google Patents

Request reception method and system Download PDF

Info

Publication number
JP2010224822A
JP2010224822A JP2009070796A JP2009070796A JP2010224822A JP 2010224822 A JP2010224822 A JP 2010224822A JP 2009070796 A JP2009070796 A JP 2009070796A JP 2009070796 A JP2009070796 A JP 2009070796A JP 2010224822 A JP2010224822 A JP 2010224822A
Authority
JP
Japan
Prior art keywords
service
server
user terminal
request
access path
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009070796A
Other languages
Japanese (ja)
Inventor
Izumi Okamoto
泉 岡本
Keigo Takehara
啓五 竹原
Hajime Nakamura
中村  元
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2009070796A priority Critical patent/JP2010224822A/en
Publication of JP2010224822A publication Critical patent/JP2010224822A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Telephonic Communication Services (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a request reception method and a system to control access timing to an end server from each user terminal based on a service processing rate of the end server. <P>SOLUTION: A receiving part 31 of a correction server HS receives a service request and a service response. A transmission part 32 transmits the service request and the service response. A service start detection part 33 detects the start timing of a service based on the received service request. A service end detection part 34 detects the end timing of the service based on the received service response. An actual volume processing rate measurement part 36 measures an actual volume processing rate Creal of each end server ESj based on the elapsed time since start till end of the service. A service time calculation part 37 calculates a service time TAT of each end server ESj based on the actual volume processing rate Creal. A service time notification part 38 notifies the service time TAT to an access path server APS. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

本発明は、ユーザ端末から送信されたアクセスパス要求を予め受け付けて、各ユーザ端末からエンドサーバへのアクセスタイミングを決定し、これを各ユーザ端末へアクセスパスとして返信するリクエスト受付方法およびシステムに関する。   The present invention relates to a request receiving method and system for receiving an access path request transmitted from a user terminal in advance, determining an access timing from each user terminal to an end server, and returning this as an access path to each user terminal.

災害発生時の安否確認のためのリクエスト、あるいはTV番組やラジオ番組でヒットチャートを発表した直後に人気曲の配信を要求するリクエストなど、特定のイベントを契機とするリクエストメッセージは短時間に集中する傾向がある。これらの宛先でリクエストを受け付けるエンドサーバでは、リクエスト数が処理能力を超過すると、超過分についてはサービスの提供が不可能となる。これは同サービスを利用するユーザの満足度を低下させると共に、リクエストが有料コンテンツの配信であれば、コンテンツ提供者にとっては販売機会の損失となる。   Request messages triggered by specific events, such as requests to confirm safety in the event of a disaster or requests to distribute popular songs immediately after releasing a hit chart on a TV program or radio program, are concentrated in a short time Tend. When the number of requests exceeds the processing capacity, the end server that accepts requests at these destinations cannot provide services for the excess. This lowers the satisfaction level of the user who uses the service, and if the request is distribution of paid content, the content provider loses a sales opportunity.

イベントを契機とするアクセスの集中は通常のアクセス量を遙かに凌駕し、瞬間的には10倍から100倍に達する場合もある。したがって、アクセス集中時のピーク時に合わせてサーバ容量を設計してしまうと、時間的に大半を占める通常時には大幅な過剰設備状態を招いてしまう。しかも、このようなアクセス集中は予測が難しいので、たとえ十分と予測される設備を用意できたとしても、その容量を上回るアクセスが集中する可能性を否定できない。   Concentration of access triggered by an event far exceeds the normal access amount and may reach 10 to 100 times instantaneously. Therefore, if the server capacity is designed in accordance with the peak time when the access is concentrated, a large excess of equipment is incurred during normal times, which occupies most of the time. Moreover, since such access concentration is difficult to predict, even if equipment that is predicted to be sufficient can be prepared, the possibility of concentration of access exceeding that capacity cannot be denied.

一方、2003年12月に東京・大阪・名古屋で地上デジタル放送が開始され、それ以後、他の地域でも放送が順次開始されると共に、移動体受信端末向けサービスなどが拡充されることになっている。地上デジタル放送で提供される通信放送連携サービスでは、番組内容を契機とした同時大量アクセスの発生が予見されており、上記で指摘した事象が今後ますます顕在化してくることが想定される。   On the other hand, digital terrestrial broadcasting started in December 2003 in Tokyo, Osaka, and Nagoya. After that, broadcasting started in other areas and services for mobile receivers will be expanded. Yes. In the communication / broadcasting cooperation service provided by terrestrial digital broadcasting, the occurrence of simultaneous large-scale access is anticipated triggered by the contents of the program, and it is assumed that the above-mentioned phenomenon will become more apparent in the future.

特許文献1には、アクセス集中により受付拒否されたリクエストメッセージの再アクセスを、新たなアクセス集中を生じさせることなく公平に受け付けて処理できるシステムが開示されている。   Patent Document 1 discloses a system that can accept and process re-access of a request message that has been rejected due to access concentration fairly without causing new access concentration.

ここでは、サービスを提供するエンドサーバに多数のアクセスが集中すると、受け付けられないユーザに対して、現在混んでいる旨と、次回優先接続される時間帯が提示される。同ユーザが改めて優先接続時間帯にアクセスしてきた場合、このリクエストメッセージは他のリクエストメッセージよりも優先的に受け付けられる。   Here, when a large number of accesses are concentrated on an end server that provides a service, a message indicating that it is currently crowded and a time zone during which priority connection is made next time are presented to unacceptable users. When the same user accesses the priority connection time zone again, this request message is accepted with priority over other request messages.

しかしながら、特許文献1では一のユーザがリクエストメッセージを送信した際に受付側の負荷が大きいと受付を後回しにされる一方、その直後に他の一のユーザがリクエストメッセージを送信した際に受付側の負荷が解消していると、当該他の一のユーザのリクエストメッセージが先に受け付けられてしまうので、受付が公平に行われないという技術課題があった。   However, in Patent Document 1, when one user transmits a request message, if the load on the reception side is large, the reception is postponed, and immediately after that, when another user transmits a request message, the reception side Since the request message of the other user is received first when the load of the user is eliminated, there is a technical problem that the reception is not performed fairly.

このような技術課題に対して、本発明の発明者等は特許文献2および非特許文献1において、ユーザにサービスを提供するエンドサーバとは別に、ユーザ端末から事前に送信されるアクセスパス要求を受け付けて各ユーザ端末からエンドサーバへのアクセスタイミングを決定し、これを各ユーザ端末へアクセスパスとして返信するアクセスサーバを設けることにより、ユーザ端末からのアクセスを漏れなく、かつ順序逆転なく公平に受け付けられるようにしたリクエスト受付方法およびシステムを提案している。   In order to deal with such technical problems, the inventors of the present invention, in Patent Document 2 and Non-Patent Document 1, have issued an access path request transmitted in advance from a user terminal, separately from an end server that provides services to the user. By providing an access server that receives and determines the access timing from each user terminal to the end server and returns this as an access path to each user terminal, it accepts access from the user terminals fairly and without reverse order. We propose a method and system for accepting requests.

特開2007−219650号公報JP 2007-219650 A 特開2009−43069号公報JP 2009-43069 A

「整理券発行機能を用いたアクセス制御システムの提案」,信学技法 vol.1 108 No.218, p81-p86.“Proposal of access control system using numbered ticket issuing function”, Science Technique vol.1 108 No.218, p81-p86.

エンドサーバにおいてユーザ端末からのサービス要求のアクセスを滞りなく処理するためには、エンドサーバに入力されるサービス要求の周期とエンドサーバが一つのサービス要求を処理するのに要する時間、すなわちサービス時間(Turn Around Time)とが一致していることが望ましい。そこで、上記した特許文献2および非特許文献1に開示された技術では、各エンドサーバのサービス時間を予め統計的に推定し、この推定値に従ってサービス要求が各エンドサーバで処理されるという前提で各ユーザ端末のアクセスタイミングを決定していた。   In order for the end server to process the access of the service request from the user terminal without delay, the period of the service request input to the end server and the time required for the end server to process one service request, that is, the service time ( (Turn Around Time) is desirable. Therefore, in the techniques disclosed in Patent Document 2 and Non-Patent Document 1 described above, the service time of each end server is statistically estimated in advance, and the service request is processed by each end server according to this estimated value. The access timing of each user terminal was determined.

しかしながら、例えばコンテンツ配信のサービス要求に応答してエンドサーバがユーザ端末へ動画などのコンテンツを配信するサービスでは、エンドサーバのサービス時間がユーザ端末におけるコンテンツのダウンロード速度に依存する。そして、ユーザ端末のダウンロード速度は、アクセス回線の容量や接続方式(有線LANまたは有線LANなど)に依存するので、提供するサービスが同一であってもエンドサーバのサービス時間が一定になるとは限らない。   However, for example, in a service in which an end server distributes content such as moving images to a user terminal in response to a content distribution service request, the service time of the end server depends on the content download speed at the user terminal. And since the download speed of the user terminal depends on the capacity of the access line and the connection method (wired LAN or wired LAN, etc.), the service time of the end server is not always constant even if the provided service is the same. .

したがって、上記の従来技術では、エンドサーバのサービス時間に関する推定値と実績値とに乖離が生じる場合があり、これが大きくなると、推定値<実績値であればエンドサーバに輻輳が生じ、その逆に推定値>実績値であればエンドサーバの運用効率が低下してしまう。   Therefore, in the above prior art, there may be a discrepancy between the estimated value and the actual value regarding the service time of the end server, and if this becomes large, if the estimated value <the actual value, the end server will be congested and vice versa If the estimated value> the actual value, the operation efficiency of the end server is lowered.

本発明の目的は、上記した従来技術の課題を解決し、エンドサーバの実際のサービス時間(実績処理レート)に基づいて各ユーザ端末からエンドサーバへのアクセスタイミングを適正に制御できるリクエスト受付方法およびシステムを提供することにある。   SUMMARY OF THE INVENTION An object of the present invention is to solve the above-described problems of the prior art, and a request reception method capable of appropriately controlling the access timing from each user terminal to the end server based on the actual service time (actual processing rate) of the end server, and To provide a system.

上記の目的を達成するために、本発明は、ユーザ端末から送信されたアクセスパス要求を受け付けて、各ユーザ端末に許可するエンドサーバへのアクセスタイミングを決定し、これを各ユーザ端末へのアクセスパスとして返信するリクエスト受付システムにおいて、ユーザ端末から受信したアクセスパス要求を受け付けてアクセスパス応答を返信するアクセスパスサーバと、ユーザ端末からサービス要求を受信してエンドサーバへ転送し、エンドサーバから提供されるサービスを受信してユーザ端末へ転送する補正サーバとを具備し、この補正サーバが以下の構成を具備した点に特徴がある。   In order to achieve the above object, the present invention accepts an access path request transmitted from a user terminal, determines an access timing to an end server that is permitted to each user terminal, and accesses this to each user terminal. In the request acceptance system that returns as a path, an access path server that accepts an access path request received from the user terminal and returns an access path response, receives a service request from the user terminal, forwards it to the end server, and provides it from the end server And a correction server that receives the service to be transferred to the user terminal, and the correction server has the following configuration.

(1)エンドサーバがサービス要求に応答して提供するサービスの開始タイミングおよび終了タイミングを検知する手段と、検知された各タイミングに基づいてサービス時間を算出する手段と、サービス時間をアクセスパスサーバへ通知する手段とを具備し、アクセスパスサーバは、前記通知されたサービス時間をパラメータとして、各ユーザ端末に許可するエンドサーバへのアクセスタイミングを決定することを特徴とする。   (1) Means for detecting the start timing and end timing of the service provided by the end server in response to the service request, means for calculating the service time based on each detected timing, and the service time to the access path server And the access path server determines the access timing to the end server permitted to each user terminal using the notified service time as a parameter.

(2)サービス時間を算出する手段は、前記サービスの開始タイミングから終了タイミングまでの経過時間を複数回計測し、その移動平均をサービス時間とすることを特徴とする。   (2) The service time calculating means measures the elapsed time from the start timing to the end timing of the service a plurality of times, and uses the moving average as the service time.

(3)サービス時間を算出する手段は、前記経過時間の標準偏差を求め、当該標準偏差に基づく所定範囲を超える経過時間を排除することを特徴とする。   (3) The means for calculating the service time is characterized in that a standard deviation of the elapsed time is obtained and an elapsed time exceeding a predetermined range based on the standard deviation is excluded.

本発明によれば、以下のような効果が達成される。   According to the present invention, the following effects are achieved.

(1)エンドサーバのサービス時間を監視し、この監視結果に基づいて、各ユーザ端末に許可するエンドサーバへのアクセスタイミングを決定するので、エンドサーバにサービス要求が集中して輻輳を生じさせたり、あるいはサービス要求が規制され過ぎてエンドサーバの運用効率を低下させたりすることなく、各ユーザ端末に対して最適なアクセスタイミングを決定できるようになる。   (1) The service time of the end server is monitored, and the access timing to the end server permitted to each user terminal is determined based on the monitoring result, so that the service requests are concentrated on the end server, causing congestion. Alternatively, it is possible to determine the optimum access timing for each user terminal without reducing the service efficiency of the end server due to excessive regulation of service requests.

(2)サービス時間を移動平均値として求めるようにしたので、一部の特異的なサービス時間の影響を緩和できるようになる。   (2) Since the service time is obtained as a moving average value, the influence of some specific service time can be mitigated.

(3)標準的な時間を超えるサービス時間を予め排除するようにしたので、一部の特異的なサービス時間の影響を排除できるようになる。   (3) Since the service time exceeding the standard time is excluded in advance, the influence of some specific service time can be eliminated.

本発明のリクエスト受付システムが適用されるネットワークのブロック図である。It is a block diagram of a network to which the request reception system of the present invention is applied. アクセスパスサーバの主要部の構成を示した機能ブロック図である。It is the functional block diagram which showed the structure of the principal part of an access path server. 補正サーバの主要部の構成を示した機能ブロック図である。It is the functional block diagram which showed the structure of the principal part of a correction | amendment server. ユーザ端末におけるリクエスト処理の手順を示したフローチャートである。It is the flowchart which showed the procedure of the request process in a user terminal. アクセスパスサーバにおけるアクセスパス応答処理の手順を示したフローチャートである。It is the flowchart which showed the procedure of the access path response process in an access path server. アクセスタイミング決定処理の手順を示したフローチャートである。It is the flowchart which showed the procedure of the access timing determination process. ユーザ端末がサービス要求を送信する推定確率をサービス要求のアクセスレートに基づいて算出する手順を示したフローチャートである。It is the flowchart which showed the procedure which calculates the estimated probability that a user terminal transmits a service request based on the access rate of a service request. ユーザ端末がサービス要求を送信する推定確率をアクセスパス要求のアクセスボリュームに基づいて算出する手順を示したフローチャートである。It is the flowchart which showed the procedure which calculates the estimated probability that a user terminal transmits a service request based on the access volume of an access path request. 受付完了メッセージの表示例を示した図である。It is the figure which showed the example of a display of a reception completion message. ダウンロード完了メッセージの表示例を示した図である。It is the figure which showed the example of a display of a download completion message. 補正サーバが各エンドサーバの処理レートを動的に見直して更新する処理レート見直し処理の手順を示したフローチャートである。It is the flowchart which showed the procedure of the processing rate review process in which the correction server dynamically reviews and updates the processing rate of each end server. サービス開始時刻およびサービス終了時刻をSYN/FINパケットに基づいて推定する方法を模式的に表現した図である。FIG. 6 is a diagram schematically representing a method for estimating a service start time and a service end time based on a SYN / FIN packet. 実績処理レートCrealをHTTP METHODに基づいて推定する方法を模式的に表現した図である。It is the figure which expressed typically the method of estimating the performance process rate Creal based on HTTP METHOD. 実績処理レートCrealをHTTPメッセージボディに基づいて推定する方法を模式的に表現した図である。It is the figure which expressed typically the method of estimating the results processing rate Creal based on the HTTP message body. エンドサーバの実績処理レートCrealがパレート分布を示す様子を示した図である。It is the figure which showed a mode that the performance processing rate Creal of an end server showed Pareto distribution.

以下、図面を参照して本発明の実施の形態について詳細に説明する。 図1は、本発明のリクエスト受付システムが適用されるネットワークの構成を示したブロック図であり、ここでは、ユーザ端末MNからエンドサーバES(サービス提供サーバ)へコンテンツの配信サービスを要求する場合を例にして説明する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. FIG. 1 is a block diagram showing the configuration of a network to which the request reception system of the present invention is applied. Here, a case where a content distribution service is requested from a user terminal MN to an end server ES (service providing server) is shown. An example will be described.

携帯電話、PDAあるいはコンピュータなどのユーザ端末MNは、基地局APを経由して携帯電話網あるいはインターネット等のIPネットワークNWに接続されている。また、ユーザ端末MNからのサービス要求に応答して、音楽や映像などのコンテンツを配信する複数のエンドサーバESj(jはエンドサーバ識別子)が、後に詳述するアクセスパスサーバAPSおよび補正サーバHSと共に前記IPネットワークNWに接続されている。   A user terminal MN such as a mobile phone, PDA or computer is connected to an IP network NW such as a mobile phone network or the Internet via a base station AP. In addition, in response to a service request from the user terminal MN, a plurality of end servers ESj (j is an end server identifier) that distributes content such as music and video, together with an access path server APS and a correction server HS described in detail later. It is connected to the IP network NW.

前記アクセスパスサーバAPSは、各ユーザ端末MNにエンドサーバESjへのアクセス(サービス要求)を許可するタイミングを決定して各ユーザ端末MNへ通知する機能を備え、ユーザ端末MNからアクセス先のエンドサーバESjの識別情報およびコンテンツの識別情報などを含むアクセスパス要求のメッセージを受信すると、各エンドサーバESjの能力や状況に基づいてアクセスタイミングを決定し、これを要求元のユーザ端末MNへ通知する。ユーザ端末MNは、通知されたアクセスタイミングを待ってエンドサーバESjへサービス要求を送信し、当該エンドサーバESjからコンテンツ配信などのサービスを受ける。   The access path server APS has a function of determining a timing for permitting each user terminal MN to access (service request) to the end server ESj and notifying each user terminal MN, and from the user terminal MN to an access end server When an access path request message including ESj identification information and content identification information is received, the access timing is determined based on the capability and status of each end server ESj, and this is notified to the requesting user terminal MN. The user terminal MN waits for the notified access timing, transmits a service request to the end server ESj, and receives a service such as content distribution from the end server ESj.

前記補正サーバHSは、リバースプロキシサーバあるいはNAT (Network address Translation) boxとして動作し、ユーザ端末MNからエンドサーバESjへ送信されるサービス要求を中継すると共に、エンドサーバESjからユーザ端末MNへ送信されるサービス応答を中継し、当該中継するサービス要求やサービス応答の送受信タイミングに基づいて各エンドサーバESjにおけるサービス時間TAT(Turn Around Time)を計測し、これをアクセスパスサーバAPSへ通知する。アクセスパスサーバAPSは、各エンドサーバESjにおけるサービスの処理状況をアクセスパスサーバAPS上で模すための仮想的な処理レートCjを前記サービス時間TATに基づいて更新する。   The correction server HS operates as a reverse proxy server or a NAT (Network address Translation) box, relays a service request transmitted from the user terminal MN to the end server ESj, and is transmitted from the end server ESj to the user terminal MN. The service response is relayed, the service time TAT (Turn Around Time) in each end server ESj is measured based on the relayed service request and the transmission / reception timing of the service response, and this is notified to the access path server APS. The access path server APS updates the virtual processing rate Cj for imitating the service processing status on each end server ESj on the access path server APS based on the service time TAT.

図2は、前記アクセスパスサーバAPSの主要部の構成を示した機能ブロック図であり、ここでは、本発明の説明に不要な構成は図示が省略されている。なお、アクセスパスサーバAPSが各ユーザ端末MNからアクセスパス要求を受信するごとに実行する応答処理は低負荷なので、アクセスパス要求が短時間に集中的に受信される場合でも、アクセスパスサーバAPSは全てのアクセスパス要求を受信順に滞りなく受付処理できる。   FIG. 2 is a functional block diagram showing the configuration of the main part of the access path server APS. Here, the configuration unnecessary for the description of the present invention is omitted. Since the response processing executed every time the access path server APS receives an access path request from each user terminal MN has a low load, the access path server APS All access path requests can be accepted without delay in the order received.

アクセスパス要求受信部11は、各ユーザ端末MNから送信されたアクセスパス要求を受信する。サーバ処理管理部12は、各エンドサーバESjにおけるサービス要求の処理状況をキュー値で仮想的に管理する。アクセスタイミング決定部13は、各エンドサーバESjがユーザ端末MNから受信した一つのサービス要求を処理するのに要する時間を処理レートCjとして管理する処理レート管理部131を具備する。そして、後に詳述するように前記サーバ処理管理部12で管理されている各エンドサーバESjのキュー値や各エンドサーバESjの処理レートCjをパラメータとして当該エンドサーバESjのサービス処理状況を模し、各ユーザ端末MNに対して許可する各エンドサーバESjへのアクセスタイミングをアクセスパス要求ごとに決定する。   The access path request receiving unit 11 receives an access path request transmitted from each user terminal MN. The server processing management unit 12 virtually manages the processing status of service requests in each end server ESj using queue values. The access timing determination unit 13 includes a processing rate management unit 131 that manages the time required for each end server ESj to process one service request received from the user terminal MN as the processing rate Cj. Then, as will be described later in detail, the queue server value of each end server ESj managed by the server process management unit 12 and the processing rate Cj of each end server ESj are used as parameters to simulate the service processing status of the end server ESj, The access timing to each end server ESj permitted for each user terminal MN is determined for each access path request.

アクセスパス応答生成部14は、エンドサーバESjへのアクセスタイミングを含むアクセスパス応答を生成する。アクセスパス応答返信部15は、前記アクセスパス応答を前記アクセスパス要求の送信元に返信する。サービス時間受信部16は、前記補正サーバHSで計測された各エンドサーバESjのサービス時間TATを受信する。処理レート更新部17は、受信したサービス時間TATに基づいて前記処理レートCjを更新する。   The access path response generation unit 14 generates an access path response including the access timing to the end server ESj. The access path response reply unit 15 returns the access path response to the transmission source of the access path request. The service time receiving unit 16 receives the service time TAT of each end server ESj measured by the correction server HS. The processing rate update unit 17 updates the processing rate Cj based on the received service time TAT.

図3は、前記補正サーバHSの主要部の構成を示した機能ブロック図であり、ここでは、本発明の説明に不要な構成は図示が省略されている。   FIG. 3 is a functional block diagram showing the configuration of the main part of the correction server HS. Here, the configuration unnecessary for the description of the present invention is omitted.

受信部31はサービス要求受信部31aおよびサービス応答受信部31bを備え、ユーザ端末MNから送信されるサービス要求およびエンドサーバESjから送信されるサービス応答をI/F経由で受信する。送信部32はサービス要求送信部32aおよびサービス応答送信部32bを備え、エンドサーバESjへ転送するサービス要求およびユーザ端末MNへ転送するサービス応答をI/F経由で送信する。   The receiving unit 31 includes a service request receiving unit 31a and a service response receiving unit 31b, and receives a service request transmitted from the user terminal MN and a service response transmitted from the end server ESj via the I / F. The transmission unit 32 includes a service request transmission unit 32a and a service response transmission unit 32b, and transmits a service request to be transferred to the end server ESj and a service response to be transferred to the user terminal MN via the I / F.

サービス開始検知部33は、受信したサービス要求のパケットに基づいてサービスの開始タイミングを検知する。サービス終了検知部34は、受信したサービス応答のパケットに基づいてサービスの終了タイミングを検知する。実績処理レート計測部35は、現在時刻t0を計時するタイマ35を含み、同一セッションに関するサービス開始タイミングからサービス終了タイミングまでの経過時間に基づいて各エンドサーバESjの実績処理レートCrealを計測する。   The service start detection unit 33 detects the service start timing based on the received service request packet. The service end detection unit 34 detects the service end timing based on the received service response packet. The actual processing rate measuring unit 35 includes a timer 35 that measures the current time t0, and measures the actual processing rate Creal of each end server ESj based on the elapsed time from the service start timing to the service end timing for the same session.

サービス時間算出部37は、前記実績処理レートCrealの指数移動平均に基づいて各エンドサーバESjのサービス時間TATを算出する。サービス時間通知部38は、前記サービス時間算出部37で算出された各エンドサーバESjのサービス時間TATをアクセスパスサーバAPSへ通知する。   The service time calculation unit 37 calculates the service time TAT of each end server ESj based on the exponential moving average of the actual processing rate Creal. The service time notification unit 38 notifies the service time TAT of each end server ESj calculated by the service time calculation unit 37 to the access path server APS.

次いで、フローチャートを参照して本実施形態の動作を詳細に説明する。図4は、コンテンツ配信を要求するユーザ端末MNにおけるリクエスト処理の手順を示したフローチャートであり、図5,6,7,8は、アクセスパスサーバAPSの動作を示したフローチャートである。   Next, the operation of this embodiment will be described in detail with reference to a flowchart. FIG. 4 is a flowchart showing a procedure of request processing in the user terminal MN that requests content distribution, and FIGS. 5, 6, 7, and 8 are flowcharts showing operations of the access path server APS.

ユーザがユーザ端末MNのキースイッチ等を操作してコンテンツのリクエスト操作を実施し、これが図4のステップS11で検知されるとステップS12へ進む。ステップS12では、リクエストするコンテンツの識別子および当該コンテンツを提供するエンドサーバESjの識別子を含み、アクセスパスサーバAPSを宛先とするアクセスパス要求が生成され、ステップS13において送信される。   The user operates the key switch or the like of the user terminal MN to execute a content request operation, and when this is detected in step S11 of FIG. 4, the process proceeds to step S12. In step S12, an access path request including the identifier of the requested content and the identifier of the end server ESj that provides the content is generated and transmitted to the access path server APS, and transmitted in step S13.

図5へ進み、アクセスパスサーバAPSは、ステップS31で前記アクセスパス要求を受信すると、ステップS32では、前記アクセスタイミング決定部13において、ユーザ端末MNに前記エンドサーバESjへのアクセスを許可するタイミングが以下の手順で決定される。   Proceeding to FIG. 5, when the access path server APS receives the access path request in step S31, in step S32, the access timing determination unit 13 determines when the user terminal MN is permitted to access the end server ESj. It is determined by the following procedure.

図6は、アクセスタイミング決定処理の手順を示したフローチャートであり、主に前記アクセスタイミング決定部13の動作を示している。なお、各符号の定義は以下の通りである。   FIG. 6 is a flowchart showing the procedure of the access timing determination process, and mainly shows the operation of the access timing determination unit 13. In addition, the definition of each code | symbol is as follows.

i:アクセスパス要求の識別子
j:エンドサーバESの識別子
ti,j:エンドサーバESjに対するi番目のアクセス要求時刻
di,j:エンドサーバESjに対するi番目のアクセス要求に対して割り当てられるアクセスタイミングまでの待機時間
Cj:各エンドサーバESjの処理レート
Qmax_j:各エンドサーバESjのキュー値の上限値
bi,j:重み値
δ:アクセスパスサーバAPSからユーザ端末MNへのアクセスパス要求の想定伝達遅延時間
Qj(ti,j):時刻tiでアクセスパス要求を受信する直前のエンドサーバESjのキュー値
Qj(ti,j):時刻tiでアクセスパス要求を受信した直後のエンドサーバESjのキュー値
pj:エンドサーバESjへアクセスパス要求を送信したユーザ端末MNが、許可されたアクセスタイミングでエンドサーバESjへサービス要求を送信する推定確率
i: Access path request identifier
j: End server ES identifier
ti, j: i-th access request time for the end server ESj
di, j: Standby time until the access timing assigned to the i-th access request for the end server ESj
Cj: Processing rate of each end server ESj
Qmax_j: Maximum queue value for each end server ESj
bi, j: Weight value δ: Assumed transmission delay time of access path request from access path server APS to user terminal MN
Qj (ti, j) - : Queue value of end server ESj immediately before receiving access path request at time ti
Qj (ti, j) + : Queue value of the end server ESj immediately after receiving the access path request at time ti
pj: Estimated probability that the user terminal MN that sent the access path request to the end server ESj will send the service request to the end server ESj at the permitted access timing

図6のステップS321では、受信したアクセスパス要求に登録されている識別子に対応したエンドサーバESjに関して、前回のアクセスパス要求を時刻[ti-1]で受信した直後のキュー値[Qj(ti-1,j)]が前記サーバ処理管理部12から取り込まれる。本実施形態では、一つのキューが一つのサービス要求を代表している。 In step S321 in FIG. 6, for the end server ESj corresponding to the identifier registered in the received access path request, the queue value [Qj (ti−) immediately after receiving the previous access path request at time [ti−1]. 1, j) + ] is fetched from the server processing management unit 12. In this embodiment, one queue represents one service request.

ステップS322では、エンドサーバESjの処理レートCjが取り込まれる。なお、この処理レートCjは、後に詳述するように、補正サーバHSから通知されるサービス時間TATに基づいて動的に見直される。ステップS323では、時刻[ti,j]でエンドサーバESj宛のアクセスパス要求を受信する直前の当該エンドサーバESjの未処理リクエスト量、すなわちキュー値[Qj(ti,j)]が次式(1)で求められる。 In step S322, the processing rate Cj of the end server ESj is captured. The processing rate Cj is dynamically reviewed based on the service time TAT notified from the correction server HS, as will be described in detail later. In step S323, the unprocessed request amount of the end server ESj immediately before receiving the access path request addressed to the end server ESj at time [ti, j], that is, the queue value [Qj (ti, j) ] Calculated in 1).

Figure 2010224822
Figure 2010224822

ステップS324では、時刻[ti,j]でアクセスパス要求を受信した直後のキュー値[Qj(ti,j)]が次式(2)で求められる。 In step S324, the queue value [Qj (ti, j) + ] immediately after receiving the access path request at time [ti, j] is obtained by the following equation (2).

Figure 2010224822
Figure 2010224822

ここで、重み値[bi,j]はサービス要求を処理するエンドサーバESjの処理負荷に依存し、例えば、アクセスパス要求が音楽コンテンツの配信要求であれば、リクエストする音楽ファイルのサイズが大きいほど大きな重み値bi,jが割り当てられる。なお、重み付けが不要であれば、前記重み値[bi,j]には所定の定数(例えば、「1」)が割り当てられる。   Here, the weight value [bi, j] depends on the processing load of the end server ESj that processes the service request. For example, if the access path request is a distribution request for music content, the larger the size of the requested music file is, A large weight value bi, j is assigned. If weighting is not necessary, a predetermined constant (eg, “1”) is assigned to the weight value [bi, j].

ステップS325では、アクセスパス要求を送信したユーザ端末MNに通知するアクセスタイミングが、当該アクセスパス要求の受信時刻[ti,j]を基準にした待機時間[di,j]として次式(3)で求められる。ステップS326では、前記キュー値[Qj(ti,j)]の計算結果が前記サーバ処理管理部12へ更新登録される。 In step S325, the access timing to be notified to the user terminal MN that transmitted the access path request is the waiting time [di, j] based on the reception time [ti, j] of the access path request according to the following equation (3). Desired. In step S326, the calculation result of the queue value [Qj (ti, j) + ] is updated and registered in the server processing management unit 12.

Figure 2010224822
Figure 2010224822

なお、ユーザ端末MNがアクセスパス応答を受信しても、回線状況の変化等が原因で、許可されたアクセスタイミングにおいてサービス要求を送信できなくなる場合がある。次式(4)では、このような状況を考慮して、サービス要求を送信したユーザ端末MNが、さらにサービス要求を送信する推定確率pj(ti,j)をエンドサーバESjごとに統計的に求めて前記待機時間[di,j]に反映させている。   Even when the user terminal MN receives the access path response, there may be a case where the service request cannot be transmitted at the permitted access timing due to a change in the line status or the like. In the following equation (4), in consideration of such a situation, the user terminal MN that has transmitted the service request statistically obtains the estimated probability pj (ti, j) for transmitting the service request for each end server ESj. And reflected in the waiting time [di, j].

Figure 2010224822
Figure 2010224822

図7は、前記推定確率Pj(ti,j)をエンドサーバESjへのアクセスレートに基づいて算出する手順を示したフローチャートである。   FIG. 7 is a flowchart showing a procedure for calculating the estimated probability Pj (ti, j) based on the access rate to the end server ESj.

ステップS71において、エンドサーバESjに関するアクセスパス要求が受信されると、ステップS72では、前回のアクセスパス要求の受信時刻ti-1,jから今回のアクセスパス要求の受信時刻ti,jまでの経過期間Δti,j、および当該経過時間Δti,jにおけるエンドサーバESjへのアクセス数ni,j、すなわちサービス要求の総数が算出される。   When an access path request related to the end server ESj is received in step S71, in step S72, an elapsed period from the previous access path request reception time ti-1, j to the current access path request reception time ti, j. Δti, j and the number of accesses ni, j to the end server ESj at the elapsed time Δti, j, that is, the total number of service requests are calculated.

ステップS73では、今回のアクセスパス要求を受信する直前のエンドサーバESjのキュー値[Qj(ti,j)]がゼロよりも大きいか否かが判定される。キュー値[Qj(ti,j)]がゼロよりも大きければステップS74へ進み、キュー値[Qj(ti,j)]が最後にゼロとなった以降の累積アクセス数Mおよび経過時刻Tが算出される。ステップS75では、エンドサーバESjへの平均アクセスレートARj(ti,j)が、前記累積アクセス数Mおよび経過時刻Tに基づいて算出される。ステップS76では、次式(5)に基づいて推定確率Pj(ti,j)が設定される。なお、符号Pminは0<Pmin<1の定数である。 In step S73, it is determined whether or not the queue value [Qj (ti, j) ] of the end server ESj immediately before receiving the current access path request is greater than zero. If the queue value [Qj (ti, j) ] is greater than zero, the process proceeds to step S74, and the cumulative access number M and elapsed time T since the queue value [Qj (ti, j) ] has finally become zero. Is calculated. In step S75, the average access rate ARj (ti, j) to the end server ESj is calculated based on the cumulative access number M and the elapsed time T. In step S76, the estimated probability Pj (ti, j) is set based on the following equation (5). Note that the symbol Pmin is a constant of 0 <Pmin <1.

Figure 2010224822
Figure 2010224822

これに対して、前記ステップS73においてキュー値[Qj(ti,j)]がゼロと判定されると、ステップS77において推定確率Pj(ti,j)に「1」が登録される。ステップS78では、前記累積アクセス数Mおよび経過時刻Tがリセットされる。 On the other hand, when the queue value [Qj (ti, j) ] is determined to be zero in step S73, “1” is registered in the estimated probability Pj (ti, j) in step S77. In step S78, the cumulative access number M and the elapsed time T are reset.

図8は、前記推定確率Pj(ti,j)をサービス要求やコンテンツのボリューム(以下、アクセスボリュームで総称する)に基づいて算出する手順を示したフローチャートである。   FIG. 8 is a flowchart showing a procedure for calculating the estimated probability Pj (ti, j) based on a service request and a content volume (hereinafter collectively referred to as an access volume).

ステップS81において、エンドサーバESjに関するアクセスパス要求が受信されると、ステップS82では、前回のアクセスパス要求の受信時刻ti-1,jから今回のアクセスパス要求の受信時刻ti,jまでの経過期間Δti,j、および当該経過時間Δti,jにおけるエンドサーバESjのアクセスボリュームvi,jが算出される。   When an access path request related to the end server ESj is received in step S81, in step S82, an elapsed period from the previous access path request reception time ti-1, j to the current access path request reception time ti, j. The access volume vi, j of the end server ESj at Δti, j and the elapsed time Δti, j is calculated.

ステップS83では、今回のアクセスパス要求を受信する直前のエンドサーバESjのキュー値[Qj(ti,j)]がゼロよりも大きいか否かが判定される。キュー値[Qj(ti,j)]がゼロよりも大きければステップS84へ進み、キュー値[Qj(ti,j)]が最後にゼロとなった以降の累積アクセスボリュームWおよび経過時刻Tが算出される。ステップS85では、エンドサーバESjへの平均アクセスボリュームVRj(ti,j)が、前記累積アクセスボリュームWおよび経過時刻Tに基づいて算出される。ステップS86では、次式(6)に基づいて推定確率Pj(ti,j)が設定される。なお、符号Pminは0<Pmin<1の定数である。 In step S83, it is determined whether or not the queue value [Qj (ti, j) ] of the end server ESj immediately before receiving the current access path request is greater than zero. If the queue value [Qj (ti, j) ] is greater than zero, the process proceeds to step S84, and the cumulative access volume W and elapsed time T since the queue value [Qj (ti, j) ] has finally become zero. Is calculated. In step S85, the average access volume VRj (ti, j) to the end server ESj is calculated based on the cumulative access volume W and the elapsed time T. In step S86, the estimated probability Pj (ti, j) is set based on the following equation (6). Note that the symbol Pmin is a constant of 0 <Pmin <1.

Figure 2010224822
Figure 2010224822

これに対して、前記ステップS83においてキュー値[Qj(ti,j)]がゼロと判定されると、ステップS87において推定確率Pj(ti,j)に「1」が登録される。ステップS88では、前記累積アクセスボリュームWおよび経過時刻Tがリセットされる。 On the other hand, when the queue value [Qj (ti, j) ] is determined to be zero in step S83, “1” is registered in the estimated probability Pj (ti, j) in step S87. In step S88, the cumulative access volume W and elapsed time T are reset.

図5へ戻り、ステップS33では、前記アクセスタイミングとしての待機時間[di,j]を含むアクセスパス応答が前記アクセスパス応答生成部14で生成され、ステップS34において、前記アクセスパス応答返信部15から前記アクセスパス要求を送信したユーザ端末MN宛に返信される。   Returning to FIG. 5, in step S33, an access path response including the waiting time [di, j] as the access timing is generated by the access path response generator 14. In step S34, the access path response is returned from the access path response return unit 15. A reply is made to the user terminal MN that sent the access path request.

図4へ戻り、ユーザ端末MNでは、前記アクセスパス応答がステップS14で受信されると、ステップS15では、このアクセスパス応答に登録されているアクセスタイミングとしての待機時間[di,j]が抽出される。ステップS16では、抽出された待機時間[di,j]が所定の上限値dmaxと比較され、待機時間[di,j]>dmaxであればステップS17へ進み、サービスを提供できない旨のエラーメッセージを端末ディスプレーに表示して当該処理を中止する。これに対して、待機時間[di,j]≦dmaxであればステップS18へ進み、図9(a),(b)に一例を示したように、リクエストが先着順に処理されている旨を示す受付完了メッセージが端末ディスプレーに表示される。   Returning to FIG. 4, when the access path response is received in step S14, the user terminal MN extracts a standby time [di, j] as an access timing registered in the access path response in step S15. The In step S16, the extracted waiting time [di, j] is compared with a predetermined upper limit value dmax. If the waiting time [di, j]> dmax, the process proceeds to step S17, and an error message indicating that the service cannot be provided is displayed. Display on the terminal display and stop the process. On the other hand, if the waiting time [di, j] ≦ dmax, the process proceeds to step S18 to indicate that the request is processed in the first-come-first-served basis as shown in FIGS. 9 (a) and 9 (b). A reception completion message is displayed on the terminal display.

ステップS19では、配信を要求するコンテンツの識別子およびエンドサーバの識別子を含むコンテンツ要求がサービス要求として生成される。ステップS20では、前記ステップS13においてアクセス要求パスを送信してからの経過時間が前記待機時間[di,j]に達したか否かに基づいてアクセスタイミングであるか否かが判定され、アクセスタイミングを待ってステップS21へ進む。ステップS21では、前記ステップS19で生成されたサービス要求(ここでは、コンテンツ配信要求)が、前記エンドサーバESjを宛先として送信される。このようなユーザ端末MNにおけるアクセスタイミングまでの待機処理は、Java(登録商標)scriptなどの各種スクリプト言語やFlash機能を利用することで実装できる。   In step S19, a content request including the identifier of the content requesting distribution and the identifier of the end server is generated as a service request. In step S20, it is determined whether or not it is the access timing based on whether or not the elapsed time since the transmission of the access request path in step S13 has reached the standby time [di, j]. The process proceeds to step S21. In step S21, the service request generated in step S19 (here, a content distribution request) is transmitted with the end server ESj as the destination. Such standby processing up to the access timing in the user terminal MN can be implemented by using various script languages such as Java (registered trademark) script and Flash functions.

このサービス要求を受信したエンドサーバESjは、要求されているコンテンツを用意して前記ユーザ端末MNへ配信する。   The end server ESj that has received this service request prepares the requested content and distributes it to the user terminal MN.

ユーザ端末MNは、前記コンテンツをステップS22で受信すると、ステップS23へ進んで当該コンテンツを保存する。ステップS24では、図10に一例を示したダウンロード完了メッセージが端末ディスプレーに表示される。   When receiving the content in step S22, the user terminal MN proceeds to step S23 and stores the content. In step S24, a download completion message shown as an example in FIG. 10 is displayed on the terminal display.

図11は、前記補正サーバHSが各エンドサーバESjの処理レートCjを動的に見直して更新する処理レート見直し処理の手順を示したフローチャートである。   FIG. 11 is a flowchart showing a processing rate review process in which the correction server HS dynamically reviews and updates the processing rate Cj of each end server ESj.

補正サーバHSでは、ステップS51で前記サービス要求受信部31aによりサービス要求が受信されるとステップS52へ進み、エンドサーバESjごとにサービス要求を識別する識別子kがインクリメントされる。ステップS53では、当該サービス要求をエンドサーバESjが処理するのに要する時間が、前記実績処理レート計測部36により計測されて実績処理レートCrealとされる。   In the correction server HS, when the service request is received by the service request receiving unit 31a in step S51, the process proceeds to step S52, and the identifier k for identifying the service request is incremented for each end server ESj. In step S53, the time required for the end server ESj to process the service request is measured by the actual processing rate measuring unit 36 to obtain the actual processing rate Creal.

図12,13,14は、実績処理レートの計測手順を模式的に表現した図であり、サービス要求およびサービス応答がTCPセッションを利用して行われる場合、SYN/FINパケット、HTTP METHOD、HTTPメッセージボディあるいはHTTP/1.1レンジリクエストを監視することで実績処理レートCrealが計測される。   12, 13, and 14 are diagrams schematically showing a procedure for measuring the actual processing rate. When a service request and a service response are performed using a TCP session, a SYN / FIN packet, an HTTP METHOD, and an HTTP message are shown. The actual processing rate Creal is measured by monitoring the body or HTTP / 1.1 range request.

図12は、サービス開始時刻およびサービス終了時刻をSYN/FINパケットの監視結果に基づいて推定する方法を模式的に表現した図である。   FIG. 12 is a diagram schematically representing a method for estimating the service start time and the service end time based on the monitoring result of the SYN / FIN packet.

TCPセッションは複数(N個)のTCPコネクションにより構成され、各TCPコネクションはユーザ端末MNから送信されるSYNパケットに対してエンドサーバESjがSYN-ACKを返信し、さらにユーザ端末MN(S)からエンドサーバESjへACKパケットが送信されることにより確立される。そして、このようにして確立されたTCPコネクションは、ユーザ端末MNおよびエンドサーバESjの双方がFIN-ACKを交換することで切断される。   The TCP session is composed of a plurality (N) of TCP connections, and each TCP connection returns a SYN-ACK to the SYN packet transmitted from the user terminal MN, and further from the user terminal MN (S). It is established by transmitting an ACK packet to the end server ESj. Then, the TCP connection established in this way is disconnected when both the user terminal MN and the end server ESj exchange FIN-ACK.

そこで、本実施形態ではエンドサーバESjから送信された最初のSYN-ACKが補正サーバHSで受信された時刻が、前記サービス開始検知部33によりサービス開始時刻として検知され、さらに、N回目のFIN-ACK交換においてユーザ端末MNから送信されたFIN-ACKが補正サーバHSで受信された時刻が、前記サービス終了検知部34によりサービス終了時刻として検知され、前記実績処理レート計測部35では、前記サービス開始時刻からサービス終了時刻までのサービス時間が実績処理レートCrealとされる。   Therefore, in the present embodiment, the time at which the first SYN-ACK transmitted from the end server ESj is received by the correction server HS is detected by the service start detection unit 33 as the service start time, and further, the Nth FIN-ACK The time when the correction server HS receives the FIN-ACK transmitted from the user terminal MN in the ACK exchange is detected as the service end time by the service end detection unit 34, and the actual processing rate measurement unit 35 starts the service start The service time from the time to the service end time is the actual processing rate Creal.

なお、前記TCPコネクション数(N個)はサービス内容に依存するので、補正サーバHSは事前に各エンドサーバESから各サービスのTCPコネクション数(N個)を取得しておくことが望ましい。   Since the number of TCP connections (N) depends on the service content, it is desirable that the correction server HS obtains the number of TCP connections (N) for each service from each end server ES in advance.

また、各TCPコネクションが同一のTCPセッションに係るものであるか否かは、例えば送信元IPアドレスおよびport番号が同一、かつ宛先IPアドレスおよびport番号が同一であるか否かに基づいて判断できる。あるいは、送信元端末固有のIDが同一かつ宛先IPアドレスおよびport番号が同一であるか否かに基づいて判断しても良い。   Whether each TCP connection is related to the same TCP session can be determined based on, for example, whether the source IP address and port number are the same, and the destination IP address and port number are the same. . Alternatively, the determination may be made based on whether the IDs unique to the transmission source terminal are the same and the destination IP address and the port number are the same.

図13は、実績処理レートCrealをHTTP METHODの監視結果に基づいて推定する方法を模式的に表現した図である。   FIG. 13 is a diagram schematically representing a method for estimating the performance processing rate Creal based on the monitoring result of the HTTP METHOD.

本実施形態では、ユーザ端末MNから送信されたHTTP METHOD(例えば、GET,POSTなど)が補正サーバHSを通過した時点でユーザ端末MNとエンドサーバESjとの間にTCPコネクションが確立されたものと判断し、当該時刻がサービス開始時刻とされる。さらに、N回目のFIN-ACK交換においてユーザ端末MN(S)から送信されたFIN-ACKが補正サーバHSで受信された時刻をサービス終了時刻とし、サービス開始時刻からサービス終了時刻までが実績処理レートCrealとされる。   In this embodiment, a TCP connection is established between the user terminal MN and the end server ESj when an HTTP METHOD (for example, GET, POST, etc.) transmitted from the user terminal MN passes the correction server HS. This time is determined as the service start time. Furthermore, the service end time is the time when the FIN-ACK transmitted from the user terminal MN (S) in the Nth FIN-ACK exchange is received by the correction server HS, and the actual processing rate is from the service start time to the service end time. Creal.

図14は、実績処理レートCrealをHTTPメッセージボディの監視結果に基づいて推定する方法を模式的に表現した図である。   FIG. 14 is a diagram schematically representing a method of estimating the performance processing rate Creal based on the monitoring result of the HTTP message body.

本実施形態では、ユーザ端末MNから送信されるHTTPメッセージボディを補正サーバHSで監視し、メッセージボディの所定の領域にセッション開始を意味する識別コード(たとえば、「start」などの文字列)が登録されていることが検知されると、当該時刻がサービス開始時刻とされる。さらに、ユーザ端末MNから送信されるHTTPメッセージボディの所定の領域にセッション終了を意味する識別コード(たとえば、「finish」などの文字列)が登録されていることが検知されると、当該時刻がサービス開始時刻とされる。そして、サービス開始時刻からサービス終了時刻までが実績処理レートCrealとされる。   In the present embodiment, the HTTP message body transmitted from the user terminal MN is monitored by the correction server HS, and an identification code (for example, a character string such as “start”) indicating session start is registered in a predetermined area of the message body. When it is detected that the service has been performed, the time is set as the service start time. Further, when it is detected that an identification code (for example, a character string such as “finish”) indicating the end of the session is registered in a predetermined area of the HTTP message body transmitted from the user terminal MN, the time is The service start time is assumed. The service processing time Creal is from the service start time to the service end time.

図11に戻り、ステップS54では前記サービス時間算出部37において、現在のサービス時間TAT[k]が、今回の実績処理レートCrealおよび前回までの複数回の実績処理レートCrealの指数平滑移動平均(TAT[k-1])に基づいて次式(7)により算出される。ここで、αは平滑化係数であり、今回も含めてm回分の移動平均を算出するのであれば、平滑化係数αは次式(8)で表される   Returning to FIG. 11, in step S54, the service time calculation unit 37 determines that the current service time TAT [k] is an exponential smoothed moving average (TAT) of the current actual processing rate Creal and the past actual processing rate Creal. [k-1]) is calculated by the following equation (7). Here, α is a smoothing coefficient. If a moving average for m times including this time is calculated, the smoothing coefficient α is expressed by the following equation (8).

Figure 2010224822
Figure 2010224822

Figure 2010224822
Figure 2010224822

なお、サービス時間TATは、図15に示したようなパレート分布を示すことが知られているので、例えば標準偏差の3倍(3σ)から外れる上位0.13%程度の実績処理レートCrealについては、サービス時間TATの算出対象から外すことが望ましい。   Since the service time TAT is known to show a Pareto distribution as shown in FIG. 15, for example, the actual processing rate Creal of about 0.13% higher than three times the standard deviation (3σ) It is desirable to exclude the service time TAT from the calculation target.

ステップS55では、前記サービス時間TAT[i]が一時記憶される。ステップS56では、前記サービス時間TAT[i]がアクセスパスサーバAPSへ通知される。   In step S55, the service time TAT [i] is temporarily stored. In step S56, the service time TAT [i] is notified to the access path server APS.

アクセスパスサーバAPSでは、前記サービス時間TAT[i]がサービス時間受信部16により受信され、前記処理レート管理部131で管理されている現在の処理レートCjが、前記処理レート更新部17により前記通知された最新のサービス時間TAT[i]に更新される。   In the access path server APS, the service time TAT [i] is received by the service time receiving unit 16 and the current processing rate Cj managed by the processing rate management unit 131 is notified by the processing rate update unit 17. Updated to the latest service time TAT [i].

なお、上記した実施形態では、ユーザ端末がコンテンツ配信用のアクセスパスを予め取得し、このアクセスパスによって許可されたアクセスタイミングでエンドサーバESjへコンテンツ要求を送信してコンテンツをダウンロードする場合を例にして説明したが、本発明はこれのみに限定されるものではなく、ユーザ端末がデータやコンテンツをエンドサーバESjへアップロードするためのアクセスパスを予め取得し、許可されたアクセスタイミングでアップロードを実行する場合にも同様に適用できる。   In the above embodiment, an example is given in which the user terminal acquires an access path for content distribution in advance, and transmits a content request to the end server ESj at the access timing permitted by this access path to download the content. However, the present invention is not limited to this, and the user terminal acquires in advance an access path for uploading data and content to the end server ESj, and executes the upload at the permitted access timing. The same applies to the case.

11…アクセスパス要求受信部,12…サーバ処理管理部,13…アクセスタイミング決定部,14…アクセスパス応答生成部,15…アクセスパス応答返信部,16…サービス時間受信部,17…処理レート更新部,131・・・処理レート管理部、31…受信部,32…送信部,33…サービス開始検知部,34…サービス終了検知部,35…タイマ、36・・・実績処理レート計測部,37…サービス時間算出部,38…サービス時間通知部 DESCRIPTION OF SYMBOLS 11 ... Access path request | requirement part, 12 ... Server process management part, 13 ... Access timing determination part, 14 ... Access path response production | generation part, 15 ... Access path response reply part, 16 ... Service time reception part, 17 ... Processing rate update , 131... Processing rate management unit, 31... Reception unit, 32... Transmission unit, 33... Service start detection unit, 34. ... Service time calculation unit, 38 ... Service time notification unit

Claims (4)

ユーザ端末から送信されたアクセスパス要求を受け付けて、各ユーザ端末に許可するエンドサーバへのアクセスタイミングを決定し、これを各ユーザ端末へのアクセスパスとして返信するリクエスト受付システムにおいて、
ユーザ端末から受信したアクセスパス要求を受け付けてアクセスパス応答を返信するアクセスパスサーバと、
ユーザ端末からサービス要求を受信してエンドサーバへ転送し、エンドサーバから提供されるサービスを受信してユーザ端末へ転送する補正サーバとを具備し、
前記補正サーバが、
エンドサーバがサービス要求に応答して提供するサービスの開始タイミングおよび終了タイミングを検知する手段と、
前記検知された各タイミングに基づいてサービス時間を算出する手段と、
前記サービス時間をアクセスパスサーバへ通知する手段とを具備し、
前記アクセスパスサーバは、前記通知されたサービス時間をパラメータとして、各ユーザ端末に許可するエンドサーバへのアクセスタイミングを決定することを特徴とするリクエスト受付システム。
In the request reception system that accepts the access path request transmitted from the user terminal, determines the access timing to the end server permitted to each user terminal, and returns this as the access path to each user terminal.
An access path server that accepts an access path request received from the user terminal and returns an access path response; and
A correction server for receiving a service request from a user terminal and transferring it to an end server, receiving a service provided from the end server and transferring it to the user terminal;
The correction server is
Means for detecting a start timing and an end timing of a service provided by an end server in response to a service request;
Means for calculating a service time based on each detected timing;
Means for notifying the access path server of the service time,
The access path server determines the access timing to the end server permitted to each user terminal using the notified service time as a parameter.
前記サービス時間を算出する手段は、前記サービスの開始タイミングから終了タイミングまでの経過時間を複数回計測し、その移動平均をサービス時間とすることを特徴とする請求項1に記載のリクエスト受付システム。   The request reception system according to claim 1, wherein the means for calculating the service time measures an elapsed time from a start timing to an end timing of the service a plurality of times, and uses the moving average as the service time. 前記サービス時間を算出する手段は、前記経過時間の標準偏差を求め、当該標準偏差に基づく所定範囲を超える経過時間を排除することを特徴とする請求項2に記載のリクエスト受付システム。   3. The request reception system according to claim 2, wherein the service time calculating unit obtains a standard deviation of the elapsed time and excludes an elapsed time exceeding a predetermined range based on the standard deviation. ユーザ端末から送信されたアクセスパス要求を受け付けて、各ユーザ端末に許可するエンドサーバへのアクセスタイミングを決定し、これを各ユーザ端末へのアクセスパスとして返信するリクエスト受付方法において、
ユーザ端末から受信したアクセスパス要求を受け付けてアクセスパス応答を返信するアクセスパスサーバと、
ユーザ端末からサービス要求を受信してエンドサーバへ転送し、エンドサーバから提供されるサービスを受信してユーザ端末へ転送する補正サーバとを具備し、
前記補正サーバが、
エンドサーバがサービス要求に応答して提供するサービスの開始タイミングおよび終了タイミングを検知する手順と、
前記検知された各タイミングに基づいてサービス時間を算出する手順と、
前記サービス時間をアクセスパスサーバへ通知する手順とを具備し、
前記アクセスパスサーバは、前記通知されたサービス時間をパラメータとして、各ユーザ端末に許可するエンドサーバへのアクセスタイミングを決定することを特徴とするリクエスト受付方法。
In the request reception method of accepting an access path request transmitted from a user terminal, determining an access timing to an end server permitted to each user terminal, and returning this as an access path to each user terminal,
An access path server that accepts an access path request received from the user terminal and returns an access path response; and
A correction server for receiving a service request from a user terminal and transferring it to an end server, receiving a service provided from the end server and transferring it to the user terminal;
The correction server is
A procedure for detecting a start timing and an end timing of a service provided by an end server in response to a service request;
A procedure for calculating a service time based on each detected timing;
And a procedure for notifying the access path server of the service time,
The access path server determines the access timing to the end server permitted to each user terminal using the notified service time as a parameter.
JP2009070796A 2009-03-23 2009-03-23 Request reception method and system Pending JP2010224822A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009070796A JP2010224822A (en) 2009-03-23 2009-03-23 Request reception method and system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009070796A JP2010224822A (en) 2009-03-23 2009-03-23 Request reception method and system

Publications (1)

Publication Number Publication Date
JP2010224822A true JP2010224822A (en) 2010-10-07

Family

ID=43041950

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009070796A Pending JP2010224822A (en) 2009-03-23 2009-03-23 Request reception method and system

Country Status (1)

Country Link
JP (1) JP2010224822A (en)

Similar Documents

Publication Publication Date Title
CN105493449B (en) Method and apparatus for rate control
US9954941B2 (en) Global server load balancer apparatus and method for dynamically controlling time-to-live
US10342058B2 (en) Observation assisted bandwidth management
US20180359334A1 (en) Terminal device, edge server, data delivery system, and delivery control method
JP2008219408A (en) Communication device, communication system and method for controlling transmission
JP4915622B2 (en) Server congestion control method and system
CN117459537B (en) Multi-cloud-based device interaction method, device and readable storage medium
JP5720787B2 (en) Content distribution system, cache server, and content distribution method
JP2010224822A (en) Request reception method and system
JP4646931B2 (en) Server apparatus and request organizing method
JP2010231353A (en) Self-supporting access concentration relaxation system
JP2010224821A (en) Request reception method and system
JP4958225B2 (en) Request reception method and system
JP2008211729A (en) Method for estimating number of all originated call connections from all terminals, estimation server, terminal, broadcast station server, and program
JP4943384B2 (en) Request reception system
JP6200870B2 (en) Data transfer control device, method and program
JP5702232B2 (en) Server cooperation mutual assistance system and server and server cooperation mutual assistance program
JP2015215728A (en) Push notification transmission method and system, and push notification device and communication terminal
CN113965535B (en) Message push optimization method, device, equipment and readable storage medium
JP5344626B2 (en) Transmission control method and system
JP5217573B2 (en) Server congestion control method and system
JP2009301095A (en) Request reception system
JP5104693B2 (en) SIP application server load balancer and operation method thereof
JP2009104332A (en) Access number control method to terminal, terminal, control server and program
WO2019210509A1 (en) Acknowledgment message sending method and apparatus