JP5137941B2 - ネットワークの負荷バランシングと過負荷制御 - Google Patents

ネットワークの負荷バランシングと過負荷制御 Download PDF

Info

Publication number
JP5137941B2
JP5137941B2 JP2009503077A JP2009503077A JP5137941B2 JP 5137941 B2 JP5137941 B2 JP 5137941B2 JP 2009503077 A JP2009503077 A JP 2009503077A JP 2009503077 A JP2009503077 A JP 2009503077A JP 5137941 B2 JP5137941 B2 JP 5137941B2
Authority
JP
Japan
Prior art keywords
server
downstream
response
congestion
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009503077A
Other languages
English (en)
Other versions
JP2009532947A (ja
Inventor
ヒルト,ヴォルカー
ウィドジャジャ,インドラ
Original Assignee
アルカテル−ルーセント ユーエスエー インコーポレーテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アルカテル−ルーセント ユーエスエー インコーポレーテッド filed Critical アルカテル−ルーセント ユーエスエー インコーポレーテッド
Publication of JP2009532947A publication Critical patent/JP2009532947A/ja
Application granted granted Critical
Publication of JP5137941B2 publication Critical patent/JP5137941B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/11Identifying congestion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/12Avoiding congestion; Recovering from congestion
    • H04L47/122Avoiding congestion; Recovering from congestion by diverting traffic away from congested entities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00Routing or path finding of packets in data switching networks
    • H04L45/22Alternate routing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/12Avoiding congestion; Recovering from congestion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/25Flow control; Congestion control with rate being modified by the source upon detecting a change of network conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/26Flow control; Congestion control using explicit feedback to the source, e.g. choke packets
    • H04L47/263Rate modification at the source after receiving feedback
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/10Architectures or entities
    • H04L65/1016IP multimedia subsystem [IMS]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/1066Session management
    • H04L65/1101Session protocols
    • H04L65/1104Session initiation protocol [SIP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1008Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/101Server selection for load balancing based on network conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1023Server selection for load balancing based on a hash applied to IP addresses or costs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L69/00Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
    • H04L69/40Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass for recovering from a failure of a protocol instance or entity, e.g. service redundancy protocols, protocol state redundancy or protocol service redirection

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Telephonic Communication Services (AREA)

Description

本発明は、一般に通信ネットワークに関し、より詳細にはIPマルチメディア・サブシステムIMSネットワークなど、セッション開始プロトコルSIPベースのネットワークと、他のタイプの通信ネットワークにおいて使用するための負荷バランシング技法と過負荷制御技法に関する。
セッション開始プロトコルSIPは、急速に通信ネットワークにおいてユーザ間でマルチメディア・セッションを確立し、修正し、終了するためのデファクト・シグナリング・プロトコルになりつつある。SIPは、J. Rosenberg他、「SIP: Session Initiation Protocol」、Internet Engineering Task Force(IETF)RFC 3261、2002年6月に記載されており、これは、参照により本明細書中に組み込まれている。SIPは、IPマルチメディア・サブシステムIMSのために採用されてきてもおり、このIPマルチメディア・サブシステムは、第3世代パートナーシップ・プロジェクト3GPPによって定義されるモバイル・サービスおよび固定サービスについての次世代コア・ネットワーク・アーキテクチャである。
SIPメッセージを処理し、転送するネットワーク要素は、SIPの専門用語においてはプロキシ・サーバと呼ばれ、IMSの専門用語においては呼出しセッション制御ファンクションCSCFと呼ばれる。3GPPは、3つのタイプのCSCF要素を、すなわちユーザに対するインターフェースであるプロキシCSCF(P−CSCF)と、異なる管理ドメインにおいて他のサーバに対するインターフェースを提供する問い合わせCSCF(I−CSCF)と、アプリケーション・サーバに対して登録を取り扱い、ポリシーを強制し、インターフェースを提供するサービングCSCF(S−CSCF)とを定義する。そのようなネットワーク要素は、本明細書中においてはSIP/IMSサーバと称され、これらおよび他のネットワーク要素を備えるシグナリング・ネットワークは、SIPベースのネットワークと称される。
SIPベースのネットワークにおける高レベルの性能を達成するためには、ネットワーク要素にわたってトラフィック負荷を均一に分布させることが重要である。残念ながら、従来の負荷バランシング技法は、多くの場合に、SIPのコンテキストにおいて使用するためにはあまり適していないこともあり、望ましい性能レベルを提供できない可能性がある。
SIPベースのネットワークにおける関連した問題は、過負荷制御に関与している。他のネットワーク要素と同様に、SIP/IMSサーバは、トラフィック需要が、その使用可能なリソース、たとえば、その使用可能な処理リソースを超過するときに過負荷になる可能性がある。オーバープロビジョニングを用いてさえも、過負荷は、「フラッシュ・クラウド」効果に起因した一時的トラフィック・サージ、ノードまたはリンクの故障、質の悪い経路指定、メインテナンスおよびサービス拒否攻撃に起因したトラフィック迂回などを含めて、さまざまな理由のために依然として起こる可能性がある。
さまざまな技法が、通信ネットワークにおいて過負荷制御に対処するために開発されてきている。これらは、たとえば、M/M/1キューイング・システムに基づいた過負荷制御技法と、シグナリング・システム7(SS7)のコンテキストにおいて使用するために開発された過負荷制御技法とを含んでいる。
残念ながら、これらおよび他の従来の過負荷制御技法は、SIP性能に対する過負荷の定量的な影響に対処することができず、SIPベースのネットワークにおいて過負荷を取り扱うための特定のアプローチを提供することができず、これらは、多くの場合には、メッセージング・サービスおよびシグナリング・トポロジの観点から、より複雑である。
したがって、とりわけSIPベースのネットワークにおいては、改善された負荷バランシング技法と過負荷制御技法についての必要性が存在することは、明らかである。
J. Rosenberg他、「SIP: Session Initiation Protocol」、Internet Engineering Task Force(IETF)RFC 3261、2002年6月 S. Blake他、「An architecture for differentiated services」、IETF RFC 2475、1998年、12月 J. Nagle、「Congestion control in IP/TCP internetworks」、IETF RFC 896、1984年1月 米国特許第4,974,256号、B.L. Cry他、「Load balancing and overload control in a distributed processing telecommunication system」、1990年11月27日に発行 S. Kasera他、「Fast and robust signaling overload control」、International Conference on Network Protocols、2001年 S. Floyd他、「Random early detection gateways for congestion avoidance」、IEEE Transactions on Networking、1巻、No.4、397〜413頁、1993年8月
例示の実施形態における本発明は、SIPベースのネットワーク、または他のタイプの通信ネットワークにおける負荷バランシングと過負荷制御についての改善された技法を提供している。
本発明の一態様に従って、第1のサーバが、第1のサーバとターゲット・サーバとの間のそれぞれ第1の経路と第2の経路に関連する少なくとも第1のダウンストリーム・サーバと第2のダウンストリーム・サーバとを含む、ネットワークのダウンストリーム・サーバから、それぞれのダウンストリーム・サーバについての輻輳測度を含むフィードバック情報を受信する負荷バランシング技法が、提供される。輻輳測度は、たとえば、プロセッサ利用率測度、メッセージ処理負荷、バッファ占有測度、メッセージ処理遅延、または輻輳を示す他の任意のタイプの情報、あるいはそれらの組合せとすることができる。フィードバック情報は、たとえば、拡張ヘッダの形で符号化される1つまたは複数のSIP100の応答メッセージの形で、ダウンストリーム・サーバから第1のサーバへと送信することができる。第1のサーバにおけるメッセージ経路指定プロセスは、ダウンストリーム・サーバの輻輳測度の間のアンバランスについて補償するために受信されたフィードバック情報に基づいて調整される。例示の実施形態におけるその調整は、メッセージ経路指定プロセスが、広く行われているネットワーク状態を追跡することを保証するために動的であり、それによってネットワークにおける容量利用率を改善している。
フィードバック情報の上記された受信と、メッセージ経路指定プロセスの関連する調整は、ネットワークにおける各サーバにおいて反復することができる。換言すれば、各サーバは、ネットワークの他のサーバに対して第1のサーバとして動作することができる。
フィードバック情報は、第1のサーバと、ターゲット・サーバとの間の第1または第2の経路における複数のサーバの輻輳測度のうちの最高の輻輳測度を含むことができる。
第1および第2のダウンストリーム・サーバのうちの一方は、ターゲット・サーバそれ自体、または第1のサーバの最も近い隣接サーバとすることができる。
メッセージ経路指定プロセスは、たとえば、第1および第2の経路上で経路指定されるべき与えられた1組のメッセージの相対的パーセンテージを指定する経路指定情報を調整することにより調整することができる。経路指定情報は、経路指定テーブルまたは他の適切なデータ構造に記憶されるそれぞれ第1の経路と第2の経路についての少なくとも第1の経路指定確率と第2の経路指定確率とを含むことができる。
本発明の別の態様に従って、第1のサーバが、第1のサーバとターゲット・サーバとの間の経路に関連する、ネットワークの少なくとも1つのダウンストリーム・サーバから、そのダウンストリーム・サーバの輻輳測度を含むフィードバック情報を受信する過負荷制御技法が提供される。第1のサーバは、フィードバック情報に基づいてユーザ・エージェントに対して配信するためのブロッキング・メッセージを生成する。
ダウンストリーム・サーバは、ターゲット・サーバそれ自体、または第1のサーバの最も近い隣接サーバとすることができる。第1のサーバは、ネットワークのイングレス・サーバ、またはダウンストリーム・サーバの最も近いアップストリーム隣接サーバであるコア・ネットワーク・サーバとすることができる。
この場合にも、以上の第1のサーバに関連するオペレーションは、ネットワークの他のサーバにおいて反復することができる。したがって、負荷バランシング技法および過負荷制御技法は、いかなる中央集中コントローラも必要とせずに、分散方式で実施することができる。
本発明の負荷バランシング技法と、過負荷制御技法とは、単独で、あるいは組み合わせて使用することができる。本発明の例示の実施形態は、両方の技法を組み合わせて、本明細書では「過負荷−安全SIP」またはOS−SIPと称される拡張通信プロトコルを提供する。有利なことに、OS−SIPは、より高い容量、ならびに低減されたリング遅延および呼出しセットアップ時間も提供しながら、従来のSIPによって一般的に示される輻輳崩壊問題を回避する。したがってOS−SIPは、トラフィック負荷とは無関係に、著しい性能改善をもたらし、高信頼性のサービスを提供する。
本発明についてのこれらおよび他の特徴および利点は、添付の図面と以下の詳細な説明からさらに明らかになるであろう。
本発明は、例示のSIPベースのネットワークと、関連する負荷バランシング技法および過負荷制御技法とに関連して以下に説明されることになる。しかしながら、本発明は、例示の実施形態の特定の負荷バランシング技法または過負荷制御技法と共に使用するようにも、特定の任意のタイプのネットワーク、または他の通信ネットワークと共に使用するようにも限定されないことを理解すべきである。開示されている技法は、多種多様な他のシステムと共に、そして非常に多くの代替アプリケーションにおいて使用するために適している。
図1は、本発明の一実施形態が実施されるSIPベースのネットワーク100の一部分を示している。示されているネットワーク100の一部分は、第1のエンド・ユーザに関連するユーザ・エージェント・クライアントUAC102と、第1のサーバ104と、第2のサーバ106と、第2のエンド・ユーザに関連するユーザ・エージェント・サーバUAS108を含む通信経路を含んでいる。ネットワーク100においては、エンド・ユーザは、ユーザ・エージェントUAと称されるそれぞれの論理エンティティによって処理される。そのような各UAは、UACもUASも備える。図1に示されているネットワーク100の一部分は、説明の簡単のためにかなり簡略化され、典型的なそのようなネットワークは、多数のユーザ・エージェントにサービスする多数のサーバを含むことになる。また、本明細書中で使用されるような用語「経路path」は、ネットワークの複数のサーバに関与する任意の通信構成を包含するように広範に解釈されるように意図され、どのような特定のタイプのリンク・セットアップまたは通信プロトコルも必要とするものとみなされるべきではない。したがって、与えられた経路は、通信プロトコルに従ってセットアップすることもできるが、それは必須ではない。
UACからUASへのSIPメッセージは、要求と呼ばれ、逆方向のこれらSIPメッセージは、応答と呼ばれる。この特定の例においては、UAC102に対応する第1のエンド・ユーザは、要求を送信する(たとえば、呼出しを開始する)呼出し元を表すが、UAS108に対応する第2のエンド・ユーザは、呼出し元からの要求を受信し、それに応じて応答する呼出し先である。要求と応答は、それぞれ実線110と破線112によって示されている。明らかなように、UACからUASへの与えられた要求は、サーバの主要な目的がエンド・ユーザに対して、より近くにメッセージを経路指定することである複数のサーバを横切ることができる。サーバは、電子メールアドレスに類似したSIPアドレスからIPアドレスを解明するドメイン名システムDNSを利用することができる。
SIPプロトコルは、複数のレイヤへと構成される。最下部レイヤは、現在ではユーザ・データグラム・プロトコルUDPまたは伝送制御プロトコルTCPを利用することができるトランスポート・レイヤTRである。SIPの中心であるトランザクション・レイヤは、トランスポート・レイヤのサービスを使用し、IPベースのネットワークを介して1つのSIPエンティティから別のものへとメッセージを確実に配信し、このIPベースのネットワークは、以前に指摘されるように、一般的に図には明示的に示されていない多数のサーバを含むことになる。特に、トランザクション・レイヤは、メッセージ再送信を提供し、応答を要求に対してマッチングさせ、タイムアウトを容易にする。トランザクション・レイヤは、クライアント・トランザクションCT部分とサーバ・トランザクションST部分とを含む。クライアント・トランザクションは、トランザクション・ユーザまたはコアであるその上位レイヤから要求を受信し、その要求をそのピア・サーバ・トランザクションに対して確実に送信する。クライアント・トランザクションは、メッセージがそのピアによって受信されることを保証するために、タイマおよび再送信を利用する。サーバ・トランザクションは、トランスポート・レイヤから要求を受信し、そのコアに対してそれらを配信する。さらに、サーバ・トランザクションはまた、そのピア・クライアント・トランザクションに対して適切な応答を送信することにより再送信のフィルタリングも提供する。クライアント・トランザクションとサーバ・トランザクションとの間の対話は、1組の有限状態機械FSMによって管理される。
SIPベースのネットワーク100においては、2つのタイプのサーバ、すなわちステートレス・サーバ104とステートフル・サーバ106とが存在する。ステートレス・サーバは、トランザクション・レイヤを含まない。そのファンクションは、単にネクスト・ホップに対してメッセージを転送することだけである。他方、ステートフル・サーバは、トランザクション・レイヤを終了し、それによって追加メッセージを生成することもできる。たとえば、そのアップストリーム隣接サーバから要求を受信するとすぐに、ステートフル・サーバは、エンド・ユーザにコンタクトすべき適切なロケーションを決定するために、複数の宛先に対して複数の要求を生成することができ、すなわち「フォーキング」として知られている技法である。
図2は、図1のネットワーク100など、SIPベースのネットワークのネットワーク要素の間の呼出しフローを示す図である。この例においては、UA Aと示されている第1のUAが、第2のUA、UA Bに対する呼出しを開始することが仮定される。UA AとUA Bとの間のメッセージは、サーバAとサーバBで示されている2つのサーバを通過する。
UA AがUA Bに対する呼出しを開始するときに、UA Aは、一般的にUA Aのドメインにサービスするアウトバウンド・サーバ(サーバA)に対してUA BのSIPアドレスを含むINVITE要求を送信する。INVITE要求はまた、SIPによって必要とされる他の関連情報、ならびにベアラ・セッションについて必要とされるメディア・タイプやコーデック・タイプなどの追加情報も含んでいる。INVITE要求を受信するとすぐに、サーバAは、もしかすると、UA Bにサービスするインバウンド・サーバ(サーバB)の所在を見出すためにDNSクエリ(図示されず)を実行する。次いで、サーバAは、INVITE要求をサーバBに対して転送する。さらに、サーバAは、INVITE処理が進行中であることを指し示すために100Trying応答をUA Aに対して送信する。
サーバBが混み合っているため、INVITE要求が失われるものと仮定する。トランスポート・レイヤが信頼できない(たとえば、UDP)場合には、サーバAにおけるトランザクション・レイヤは、100Tryingのないことからの損失を検出し、INVITE要求を再送信することになる。最終的には、INVITE要求が宛先に到達するときに、UA Bは、180Ringing応答を用いて応答する。呼出し先がその呼出しに応答しようと決定する場合、200OK応答は、呼出し元に対して送信され、この呼出し元は、ACKを返すことにより、200OK応答を確認することができる。このポイントにおいて、ベアラ・チャネルは、確立され、呼出し元と呼出し先との間の通信または他のデータ転送は、開始することができる。セッションの終わりには、いずれのパーティも、BYE要求を送信することによりセッションを終了することができる。この例においては、UA Aは、UA Bからの200OK応答によって肯定応答されるBYE要求を送信することにより、セッションを終了する。
次に、SIPベースのネットワークが過負荷になるときに生ずる可能性のある輻輳崩壊問題について、図3を参照して説明することにする。SIPメッセージ損失は、主として、IPトランスポート・ネットワークにおける、あるいはサーバにおける輻輳のために起こる可能性がある。制御トラフィックとデータ・トラフィックの両方を搬送するうまく設計されたネットワークにおいては、SIPトラフィックには、ずっとより支配的であるが、あまりクリティカルではないベスト・エフォート・データ・トラフィックよりも高い優先順位が与えられるべき可能性が高いため、IPトランスポート・ネットワークにおけるSIPメッセージ損失は、非常に低いものと予想される可能性がある。これは、たとえば、S. Blake他、「An architecture for differentiated services」、IETF RFC 2475、1998年12月に記載されているように、差別化サービスを使用することにより、達成することができる。したがって、サーバ輻輳に起因したメッセージ損失は、SIPベースのネットワークにおいてずっとより顕著な役割を果たす可能性が高いことが予想される。
SIPは、メッセージの信頼できる配信を保証するために、AからKで示されているさまざまなタイマを使用する。サーバが混み合っているときに、タイマは、より多くの輻輳を引き起こす可能性がある、より多くの再送信をトリガーする可能性がある。図3は、サーバが過負荷制御の影響を受けないときの、提供負荷の関数としてのサーバの呼出しスループット性能の一例を示している。そのプロットは、サーバにおける2つのメッセージ・バッファ・サイズ(B=1000メッセージおよびB=30000メッセージ)を用いて示されている。見て取れるように、過負荷制御が存在しないときには、提供負荷がサーバの容量を超過するときに呼出しスループットは、かなり低下してしまう可能性がある。さらに、呼出しスループット性能は、増大するメッセージ・バッファ・サイズと共に悪くなる。この動作は、データ・トラフィックについての輻輳崩壊と整合している。たとえば、J. Nagle、「Congestion control in IP/TCP internetworks」、IETF RFC 896、1984年1月を参照されたい。
本発明は、図3に示されている輻輳崩壊問題を回避する技法を提供する。例示の一実施形態においては、これらの技法は、負荷バランシング技法と、過負荷制御技法の両方を含んでいる。しかしながら、本明細書中において説明される負荷バランシング技法と過負荷制御技法は、互いに別々に使用することもできることを理解すべきである。すなわち、本発明の与えられた一実施形態は、負荷バランシングだけを実施することができるが、過負荷制御を実施することができず、あるいはその逆の場合も同様である。
本発明に関連して使用するために適しているいくつかの例示の過負荷制御アルゴリズムについて、次に説明することにする。例証の目的のために、アルゴリズムは、サーバのネットワーク上ではなくて単一のサーバにおいて動作するものとして説明される。占有アルゴリズムOCCおよび受け入れレートアルゴリズムとして知られているこれらのアルゴリズムのうちの第1の2つについての従来の態様は、それぞれ、B.L. Cry他の名前で「Load balancing and overload control in a distributed processing telecommunication system」という名称で1990年11月27日に発行された米国特許第4,974,256号と、S. Kasera他、「Fast and robust signaling overload control」、International Conference on Network Protocols、2001年に説明されている。しかしながら、そのようなアルゴリズムは、これまでSIPのコンテキストにおいて使用するためには適合されてきてはいない。説明されるべき最終的な過負荷制御アルゴリズムは、SIPベースのネットワークにおいて過負荷制御を提供するために特によく適していると本発明者等が決定している、受け入れレートアルゴリズムの改善されたバージョンである。本発明の実施形態は、占有アルゴリズム、受け入れレートアルゴリズム、改善された受け入れレートアルゴリズム、あるいは別の過負荷制御アルゴリズムを利用することができることを理解すべきである。
占有アルゴリズムにおいては、サーバに対する着信呼出しは、受け入れられる呼出しのフラクションを示す変数fによって制御される。したがって、新しい呼出しが、確率fで受け入れられ、あるいは同様な意味合いで、確率1−fでブロックされる。このアルゴリズムをSIPのコンテキストに適用するに際して、INVITE要求は、確率fで受け入れることができるが、他のメッセージは、サーバにおけるメッセージ・バッファが一杯でない限りは、常に受け入れられる。現在のシステム過負荷状態に基づいて、占有アルゴリズムの目的は、fを動的に調整して、高い呼出しスループットを維持することである。過負荷状態は、プロセッサ利用率、ρに基づいており、このプロセッサ利用率は、τ秒ごとに定期的にプローブされる。n番目ごとにプローブされたエポックにおいて、平均プロセッサ利用率
Figure 0005137941
は、アップデートされ、ターゲット利用率ρtargと比較される。平均利用率は、以前のk個のエポック上の移動平均MA
Figure 0005137941
として、あるいは指数関数的重み付けされた移動平均EWMA
Figure 0005137941
によって計算することができ、ここで0<β<1である。
占有アルゴリズムの基本的アイデアは、
Figure 0005137941
である場合に、fを増大させ、そうでない場合にはそれを減少させることである。f(n)は、現在のエポックnにおいて新しくアップデートされるfを示すが、f(n−1)は、エポックn−1においてアップデートされるfを示すものとしよう。各エポックにおいてfをアップデートするアルゴリズムは、以下のように記述される。
Figure 0005137941
式中で、fminは、受け入れられるトラフィックの最小フラクションについてのしきい値を表す。倍数因子φは、
Figure 0005137941
によって与えられ、式中で、φmaxは、1つのエポックから次のエポックへのfにおける最大の可能性のある乗法的増大を定義するものである。
以上で引用されたS. Kasera他の参考文献においては、ρが1を超過することができないため、占有アルゴリズムは、システムが過負荷にされるときに、10%よりも多くfを減少させることはできず、したがって、そのアルゴリズムは、突然のトラフィック・サージの下であまりにもゆっくりと反応する可能性がある。受け入れレートアルゴリズムの基本的アイデアは、
Figure 0005137941
Figure 0005137941
の代わりに使用することであり、式中で、
Figure 0005137941
は、システムへの平均呼出し受け入れレートを表す。ターゲット受け入れレートαtargは、αtarg=μρtargに設定することができ、式中で、μは、システム呼出し搬送容量であり、このシステム呼出し搬送容量は、
Figure 0005137941
によって推定することができる。αtargは、
Figure 0005137941
についての平均よりもスムーズな平均を有するEWMAによってアップデートされることが示唆される。その受け入れレートアルゴリズムは、以下の倍数因子を使用している。
Figure 0005137941
本発明者等は、占有アルゴリズムと受け入れレートアルゴリズムの従来の実施形態は、それらが、完了していない作業をシステムにおいて考慮に入れない点で問題があることを認識している。とりわけ、
Figure 0005137941
である場合、そのときにはメッセージ・キューの内容とは独立にf(n)=f(n−1)である。その代わりに、
Figure 0005137941
であるときには、本発明者等は、キューの内容があまりにも高い場合に、f(n)を減少させたいと思い、キューの内容があまりにも低い場合には、f(n)を増大させたいと思う。第2の観察は、上記アルゴリズムが、ターゲット・パラメータと比較されるべき変数の間の差(正または負)の同じ量についてf(n)を減少させるよりもf(n)を増大させる傾向があることである。したがって、本発明者等は、以下のように改善された受け入れアルゴリズムのためにφを修正する。
Figure 0005137941
式中で、qは、メッセージ到着のたびごとにEWMAを使用してアップデートされるメッセージの数の形での平均キューの長さであり、qtargは、キュー・ターゲットであり、Nは、呼出し当たりのメッセージの平均の数である。メッセージ到着ごとの平均キューの長さのアップデーティングは、1つのタイプのイベント・ドリブン・アップデーティングとみなすことができる。そのようなイベント・ドリブン・アップデーティングの他の例については、S. Floyd他、「Random early detection gateways for congestion avoidance」、IEEE Transactions on Networking、1巻、No.4、397〜413頁、1993年8月に説明されている。
SIP環境における先行する過負荷制御アルゴリズムの性能を評価するために、人は、図1のステートフル・サーバ106など、SIPの完全なトランザクション・レイヤを実施するサーバをシミュレートすることができる。とりわけ、新しい要求または応答が、処理されるときに、クライアント・トランザクションが、作成され、その状態は、後でFSMによって管理される。メッセージが要求であるか、または応答であるかと、メッセージ・タイプが、INVITEであるか、または非INVITEであるかに応じて、SIPにおいては、4つのタイプのFSMが存在する。
図4は、図1のサーバ106などのステートフル・サーバの形で実施することができるキューイング・システム400の構造を示している。本システム400は、メッセージ・バッファ402と、タイマ・バッファ404と、中央演算処理装置CPU406として例示的に示されているプロセッサとを備える。ステートレス・サーバについての等価システムは、ステートレス・サーバが、フォワーダとして振る舞うようなタイマ・バッファを有してはいない。着信INVITEメッセージは、使用可能なスペースが存在する場合には、メッセージ・バッファにキューされる。本発明者等は、FIFOキューの規律を仮定するが、もちろん、他を使用することもできる。CPU406は、キューの先頭に置いてメッセージにサービスし、必要なFSMを実行し、ネクスト・ホップに対するメッセージを生成し、もしかすると、タイマを開始させる。タイマは、それらのファイアリング時刻に応じてソートされるタイマ・キューに配置される。タイマがファイアするときに、その関連するコンテキストは、メッセージ・バッファにキューされ、タイマのリセット・バージョンは、タイマ・バッファにおいて再キューされる。有効期限が切れたタイマは、単にそのシステムを離れる。新しい呼出しがブロックされる場合には、500応答が、サーバによって生成される。
図5は、各サーバが小さな円によって示されたサーバの構成を示すSIPベースのネットワークのトポロジの可能な一例を示している。このネットワークは、サーバ1および2として示されているコア・サーバと、サーバ3、4、5、6、および7として示されているイングレス/エグレス(egress)サーバとを含む。イングレス/エグレス・サーバのおのおのは、図示されていないいくつかのUAに結合され、そしてコア・サーバ1および2に結合される。このタイプのトポロジを有するネットワークは、以下の図6〜8、11、および12を参照して、本発明の負荷バランシング技法と過負荷制御技法を例証するために使用されることになる。
図5に示されているトポロジを有するSIPベースのネットワークの性能を評価するに際して、本発明者等は、無限の母集団のUAがポアソン・プロセスに応じてλ個の呼出し/秒の集約レートでエンド・ツー・エンドの呼出しを開始するものと仮定する。与えられた対のUAの間のすべてのメッセージは、おのおのが図4に示されているようなキューイング・システムを有する複数のサーバを横切る。本発明者等は、再送信が完全にSIP FSMによって管理される点を除いて、図2の呼出しフローに類似した呼出しフローを使用する。過負荷制御アルゴリズムにおいて使用することができるパラメータ値の例が、以下の表1にリストアップされている。これらの個々の値は、例示の例だけとして提示され、他の値、パラメータ・セット、および過負荷制御アルゴリズムが、他の実施形態において使用することができることを理解すべきである。また、前述の仮定と、例示の実施形態を説明するに際して本明細書中において行われる他の仮定は、本発明の限定として解釈されるべきではない。本発明は、これらの仮定のうちの1つまたは複数が適用されない代替実施形態において実施することができる。
Figure 0005137941
本発明者等は、次に本発明の例示の実施形態におけるSIPベースのネットワーク、または他のタイプのネットワークにおいて使用するためのいくつかの過負荷制御技法について説明することにする。
そうでない場合に、従来のSIPメッセージを使用して過負荷を通知するために使用することができるいくつかのアプローチが存在する。1つのアプローチは、過負荷にされたサーバからそのアップストリーム隣接サーバへと503サービス使用不可能応答を送信することにより過負荷にされたサーバについての通知を提供することである。この応答は、リトライ・アフター・ヘッダ・フィールドを経由して、過負荷にされたサーバが使用不可能になる時間の量を述べることができる。このメッセージを受信するとすぐに、アップストリーム隣接サーバは、与えられた存続時間にわたって、要求の宛先に関係なしに、過負荷にされたサーバに対して他のどのような要求も送信しないことになる。しかしながら、アップストリーム隣接サーバは、依然として過負荷にされたサーバに対して応答を送信することができる。本発明者等は、503応答が、一般的に大量のトラフィックが他の代替サーバに進路をそらされるようにさせ、この代替サーバが次にはどこかで過負荷をもたらすため、このメカニズムが過負荷に対して不十分にしか反応しないことを見出した。他のサーバも同じメカニズムを実施する場合には、過負荷は、1つのサーバから別のサーバへと揺れ動くことになる可能性が高い。
過負荷を通知するために使用することができる別のメッセージは、500サーバ内部エラーである。グローバルな性質の503応答とは違って、500応答は、与えられた呼出しについてローカルに適用可能であるにすぎない。過負荷を制御するためには、500応答は、新しい呼出しを拒否するためにINVITE要求に応答して適用されるのが最も効果的である。
代替アプローチは、過負荷を指し示す通知メッセージを明示的に送信することではなく、新しい呼出しをブロックするためにINVITE要求を単に脱落させることである。このアプローチは、一般に、それが多数の再送信を引き起こす可能性があるため、あまりよく機能しない可能性がある。
別の重要な課題は、過負荷通知を開始するサーバのロケーションに関するものである。
本明細書中においてローカル過負荷制御と称される最も簡単なアプローチは、過負荷にされた各サーバが自律的に通知を開始することである。一例が図11に示されており、ここでは、以下でさらに詳細に説明されることになるように、サーバS6は、それ自体のローカル情報を使用して、500応答をアップストリームに送信することにより呼出しを拒否する。このアプローチの利点は、それが、ローカル情報だけを使用して、決定を行うことである。しかしながら、このアプローチは、呼出しをブロックするための追加リソースを消費する可能性があり、この追加リソースは過負荷にされたサーバをさらに悪化させてしまう可能性がある。
イングレス過負荷制御と呼ばれる別のアプローチは、ターゲットごとに、たとえば、100Trying応答における新しいヘッダを経由して過負荷ステータス情報をアップストリームに伝搬させることである。この情報を転送する各サーバは、受信されたダウンストリーム過負荷ステータス値と、それ自体の過負荷ステータス値を比較し、2つの過負荷ステータス値のうちの最大値をアップストリームに伝搬させることになる。与えられたターゲットでは、イングレス・サーバは、過負荷ステータス情報に基づいて、新しい呼出しを受け入れ、あるいはブロックするように決定する。一例が、以下でより詳細に説明される予定である図12に示されている。イングレス過負荷制御は、ネットワーク・コアの中のリソースが、ブロックされた呼出しのために浪費的に消費されないようにする。しかしながら、このアプローチは、複数の経路が与えられたターゲットに対して存在し得るため、実現することが難しい可能性がある。この問題を解決するための一方法は、可能性のある経路のうちから最大の過負荷ステータスを獲得することである。
以前の2つのアプローチの間の中間の第3のアプローチは、ペナルティメイト過負荷制御と呼ばれる。ここでは、過負荷にされたサーバの前のサーバは、新しい呼出しをブロックするサーバである。もう一度、図11を参照すると、ペナルティメイト・サーバが、サーバS4である一例が示されている。したがって、このアプローチもまた、過負荷にされたサーバが、追加リソースを消費しなければならなくなることから解放する。しかしながら、このアプローチは、いつ呼出しを拒否することを開始させ、停止させるかを通知するために、よりインテリジェントなメッセージ交換を必要とする。
上述のように、本発明の例示の実施形態は、負荷バランシング技法と過負荷制御技法の両方を組み込むことができる。例示の負荷バランシング技法は、次に図6から10を参照してさらに詳細に説明されることになり、それには図11および12を参照した例示の過負荷制御技法のさらなる説明が続いている。最終的に、そのような負荷バランシング技法と過負荷制御技法の組み合わせられた使用に帰せられる性能向上についての一例証が、図13および14を参照して説明されることになる。
次に図6および7を参照すると、本明細書中においてネクスト・ホップ負荷バランシングと称される1つのアプローチが示されている。図に示されているSIPベースのネットワークにおいては、UA600は、図に示されているように、サーバS1、S2、S5、およびS6に結合される。これらのサーバは、図5の例示のトポロジに示されているサーバなどのイングレス/エグレス・サーバである。サーバS1、S2、S5、およびS6のおのおのは、コア・サーバS3およびS4に結合される。したがって、図6および7、ならびに図8、11、および12に示されているネットワークは、図5に示されているタイプのトポロジを有する。この場合にも、このネットワーク・トポロジは、例示的であるにすぎず、説明される技法は、直截的な方法で、非常に多くの代替トポロジに適合化することができる。
ネクスト・ホップ負荷バランシング・アプローチにおいて、各サーバは、これらの隣接サーバから受信される輻輳フィードバック情報に基づいてそのダウンストリーム隣接サーバに対する経路指定確率を独立に、そして動的に調整する。たとえば、図6に示されているように、サーバS1は、S5に接続されたUAに対して、すなわちダウンストリーム・サーバS3およびS4を介してSIP要求メッセージを送信する2つの経路を有する。S1からSIP INVITEメッセージを受信するとすぐに、ネクスト・ホップS3およびS4は、S1に戻るINVITEに応じて100Tryingメッセージにそれらの輻輳測度の情報を添付することにより、それらの輻輳測度を定期的に公示することができる。図6における例においては、S3は、その輻輳測度が、利用率u=0.2であることを公示するが、S4は、その輻輳測度としてu=0.6を独立に公示する。
この例における輻輳測度は、利用率測度であるが、多種多様な他のタイプの輻輳測度を使用することができる。本明細書中において使用されるような用語「輻輳測度」は、したがって、一般的に、たとえばプロセッサ利用率測度、メッセージ処理負荷、バッファ占有測度、メッセージ処理遅延、または輻輳を示す他の任意のタイプの情報、ならびにそのような測度または情報の組合せを包含するように解釈されるべきであるように意図される。
S3およびS4から受信されるフィードバック情報から、S1は、S3およびS4における輻輳測度を等しくする目的で、その経路指定確率を調整する。経路指定確率におけるそのような調整が、図7に示され、この図は、コア・サーバS3およびS4における負荷バランシングされた状態を最終的にもたらす経路指定確率における変化を示している。より詳細には、サーバS4がサーバS3よりも高い利用率を有することを指し示すフィードバック情報に応じて、サーバS1は、与えられたメッセージをサーバS4に対して経路指定する確率が、たとえば0.4であるが、与えられたメッセージをサーバS3に対して経路指定する確率が、たとえば0.6であるように、その経路指定確率を調整する。そのような調整は、サーバS4に対して経路指定されるメッセージの数を減少させながら、サーバS3に対して経路指定されるメッセージの数を増大させる傾向があることになり、その結果、図に示されているように負荷バランシングされた状態をもたらす。
本発明の与えられた一実施形態において利用することができる別の負荷バランシング・アプローチは、本明細書中においてターゲットベースの負荷バランシングを称される。図8は、前述のように構成されるサーバS1からS6を備えるSIPベースのネットワークに適用されるものとしてこのアプローチを示している。このアプローチは、ダウンストリーム・サーバからターゲット・サーバへの経路に沿っての輻輳情報を使用する。特に、輻輳測度は、ダウンストリーム・サーバからターゲット・サーバへの最悪の輻輳測度を表す。図において、サーバS3、S4、およびS5は、それぞれ0.2、0.6、および0.3の利用率を有することを理解することができる。サーバS1とターゲット・サーバS5との間に、一方はサーバS3を経由し、他方はサーバS4を経由した2つの経路が示されている。S3を経由したS5への経路についての最大の利用率は、0.3のS5の利用率であり、その結果、利用率は、フィードバック情報としてS1へと逆に伝搬させられる。同様に、S4を経由したS5に対する経路についての最大の利用率は、0.6のS4の利用率であり、その結果、利用率は、フィードバック情報としてS1へと逆に伝搬させられる。次いで、サーバS1は、それに応じてその経路指定確率を調整して、負荷バランシングされた状態をもたらす。
上記されたネクスト・ホップ負荷バランシング技法と、ターゲットベースの負荷バランシング技法との間の違いは、図9に示されている。この例においては、ソース・サーバSは、関連する経路指定確率q1およびq2を有する第1および第2の経路を経由してターゲット・サーバTへとメッセージを経路指定する。第1または上側の経路は、それぞれ利用率0.2および0.6を有するサーバ901および902を通過する。第2または下側の経路は、それぞれ利用率0.5および0.1を有するサーバ903および904を通過する。
ネクスト・ホップ負荷バランシング・アプローチにおいては、サーバ903の0.5の利用率の値は、サーバ901の0.2の利用率の値よりも高いため、サーバSにおける経路指定確率q1およびq2は、サーバ901およびサーバ903における利用率の値が、実質的に等しくなる、すなわち負荷バランシングされるまで、経路指定確率q1が、増大させられることになるが、経路指定確率q2は、減少させられることになるように調整されることになる。
ターゲットベースの負荷バランシング・アプローチにおいては、第1の経路と、第2の経路における最高の利用率の値は、それぞれ、サーバ902についての0.6の利用率の値と、サーバ903についての0.5の利用率の値である。第1の経路の最高の利用率の値が、第2の経路の最高の利用率の値よりも高いため、サーバSにおける経路指定確率q1およびq2は、負荷バランシングされた状態がもたらされるまで、経路指定確率q2が増大させられることになるが、経路指定確率q1は、減少させられることになるように調整されることになる。2つのアプローチは、同じ組のサーバ利用率の値について、異なる経路指定確率の結果をもたらす可能性があることを理解することができる。ネクスト・ホップ負荷バランシングは、ある種の状態の下ではターゲットベースの負荷バランシングと同様に実行しない可能性があるが、ネクスト・ホップ負荷バランシングは、ターゲットベースの負荷バランシングよりも実施することが簡単である。
図10は、フィードバック情報を、ネットワークを介して伝搬し、与えられたノードにおいて経路指定テーブル1000に記憶することができる方法を示している。この例におけるネットワークは、ソース・ノードaと、それぞれ0.1、0.1、0.2、0.5、0.3、0.4、0.4、0.3、および0.1の利用率を有する追加ノードi、j、k、l、m、n、r、s、およびzとを含んでいる。aからzへの経路は、以下の経路:(1)(a、i、k、m、n、z)、(a、i、k、m、r、z)、(a、i、k、l、k、m、n、z)、(a、j、...、s、z)などを横切ることができる。特に、経路が(a、i、k、m、n、z)に従う場合、iからaへと戻されるフィードバック情報は、0.4である。経路が(a、i、k、l、k、m、n、z)に従う場合、iからaへと戻されるフィードバック情報は、0.5である。この経路の多様性は、SIPにおいて許容されるスパイラルに起因している。
前述のターゲットベースの負荷バランシング・アプローチに従って、ノードaとノードzとの間の上側の経路の最高の利用率は、0.4から0.5の範囲内にあるが、ノードaとノードzとの間の下側の経路の最高の利用率は、0.3である。このフィードバック情報は、ネットワークを介してノードaへと逆に伝搬させられ、ここでそれは、経路指定テーブル1000に記憶される。さまざまなアプローチを使用して、上側の経路についての輻輳測度の単一の値を指定することができる。簡単なアプローチは、上側の経路の輻輳測度について0.5の最悪ケースの値を取ることである。その経路指定テーブルは、説明を明確にするためにかなり簡略化されているが、一般にターゲット・ノードと、ターゲットへの特定の経路を示す経由ノードと、特定の経路についての最高の利用率と、経路指定確率についての複数の列を含んでいる。もちろん、本発明を実施するに際して、非常に多くの代替経路指定テーブル・フォーマットを使用することができる。
サーバiで示されている与えられたサーバ内において、上記のネクスト・ホップ負荷バランシング・アプローチ、またはターゲットベースの負荷バランシング・アプローチを実施するに際して使用することができる分散負荷バランシング・アルゴリズムの可能な一例は、以下のようになる。
ij(d)=(ターゲットdに方向づけられた)iからネクスト・ホップjを経由したトラフィックのフラクションであるものとする
ij(d)=サーバiによって観察されるjを経由した(ターゲットdに対する)「平滑化された」利用率であるものとする
アップデートごとに
Δxij(d)=αxij(d)(U−uij(d))を計算する
ここで、U=Σij(d)uij(d)
そのときには、新しいトラフィック割当ては、次式によって与えられる:
ij(d)=max(0,xij(d)+Δxij(d))
ij(d)=Xij(d)/Σij(d)
この例においては、xij(d)の値は、一般に前述の経路指定確率に対応する。アルゴリズムは、各サーバにおいて、たとえば、T秒ごとに定期的に実行することができる。本明細書中において説明されるネクスト・ホップ負荷バランシング・アプローチ、またはターゲットベースの負荷バランシング・アプローチを実施するための他の適切なアルゴリズムは、当業者には明らかであろう。
前述のように、前記のローカルな、ペナルティメイト過負荷制御技法およびイングレス過負荷制御技法は、図11および12を参照して次に示すことにする。これらの過負荷技法については、すでに本明細書中において説明されているが、それらについては、負荷バランシング技法を示すために図6〜8において使用されるこれらと同様なコンフィギュレーション有する簡略化されたSIPベースのネットワークに関与する特定の例に関してさらに説明することにする。
最初に図11を参照すると、ローカルな過負荷制御技法が示されている。この例におけるSIPベースのネットワークは、図6〜8の例におけるように相互接続されたUAと、サーバS1からS6とを含んでいる。サーバS6が、過負荷になっており、したがって、新しい呼出しが、このサーバによってローカルに拒否されることを理解することができる。この例において過負荷を通知するために使用されるメカニズムは、前述の500サーバ内部エラー・メッセージである。上記のように、500応答は、与えられた呼出しについてローカルに適用可能であるにすぎず、INVITE要求に応じて最も効果的に適用される。したがって、このアプローチは、ローカル情報だけを利用するが、それらの呼出しを拒否するに際して追加のローカル・リソースを消費する。
代替ペナルティメイト過負荷制御アプローチが図11にも示されており、この代替ペナルティメイト過負荷制御アプローチは、有利に500応答の生成に関連する追加の処理から過負荷にされたサーバS6を解放する。これは、過負荷にされたサーバS6においてではなく、サーバS4において呼出しを拒否することにより実現される。したがって、S4は、そのダウンストリーム隣接サーバS6からの情報を必要とすることになる。
図12は、イングレス過負荷制御アプローチを示し、このアプローチにおいては新しい呼出しは、イングレス・ノードにおいて拒否され、このイングレス・ノードは、図に示されている例においてはサーバS2である。フィードバック情報は、ネットワークを介してサーバS6から伝搬させられ、サーバS6において0.95の利用率の値の形式で過負荷状態を指し示している。サーバS2は、この情報を使用して、新しい呼出しがサーバS6に向けられないように拒否する。有利なことに、このイングレス過負荷制御アプローチは、呼出しがブロックされるときに、ネットワーク・コアにおけるリソースが不必要に消費されないようにする。しかしながら、イングレス過負荷制御アプローチは、経路情報を使用し、この経路情報は、一部の実施形態においては、簡単に使用可能ではない可能性がある。
前述の説明から明らかなように、図6〜12の例に関連して説明される例示の実施形態は、フィードバック情報を利用して、負荷バランシングおよび過負荷制御を実現する。本発明の一態様による、このフィードバック情報と、関連する負荷バランシング技法および過負荷制御技法は、本明細書中において「過負荷安全SIP」またはOS−SIPと称される機能強化されたタイプのSIPを提供する。OS−SIPは、負荷バランシングと過負荷制御の両方を利用するが、他の実施形態は、負荷バランシング、または過負荷制御のいずれかであるが、両方ではないものを利用することができることに注意すべきである。
図13および14は、従来のSIPの性能をOS−SIPと比較して、提供負荷の関数としてのそれぞれスループットおよびリング遅延のプロットを示している。これらのプロットは、6台のサーバS1からS6が、これらの図に示されているように相互接続された、図6〜8、11、および12に示されているタイプの例示のSIPベースのネットワークについて生成される。基礎となるIPネットワークには、輻輳がないこと、それらの呼出しは、ポアソン・プロセスに従って到着することが仮定された。失敗した呼出しは、確率0.1で再試行されるものと仮定される。また、呼出しホールディング時間は、150秒の平均値で指数関数的に分散されるように仮定され、リングから応答への遅延は、3秒の平均値で一様に分散されるように仮定されてもいる。サーバS1およびS2からの経路指定確率は、最初にq1=q3=0.4と、q2=q4=0.6を用いて、それぞれ{q1,q2}および{q3,q4}によって与えられる。それらのサーバについての相対的なスピードアップ・ファクタは、S1=0.6、S2=0.6、S3=0.6、S4=0.3、S5=0.5、およびS6=0.5である。また、この例におけるすべてのサーバは、ステートフルであるものと仮定される。
次に図13を参照すると、提供負荷の関数としてのスループットのプロットは、従来のSIPまたは「プレイン」SIPをOS−SIPと比較して示されている。従来のSIPについてのスループットは、実線の曲線に従い、この例においては、毎秒約800個の呼出しにおいて輻輳崩壊問題を示す。OS−SIP性能は、破線の曲線によって示されている。OS−SIPは、過負荷制御の使用に起因して、従来のSIPによって示される輻輳崩壊問題を回避することは簡単に明らかである。OS−SIPはまた、毎秒約1000個の呼出しの最大スループットまでの、従来のSIPと比較した容量の増大を示す。この容量の増大は、本明細書に記載されているような負荷バランシング技法の使用に起因する。図13におけるプロットは、OS−SIPが、トラフィック負荷とは無関係に、著しい性能改善をもたらし、高信頼性のサービスを提供することを実証している。
図14を参照すると、OS−SIPはまた、従来のSIPと比較してリング遅延における実質的な改善を提供することがさらに明らかである。より詳細には、OS−SIPは、トラフィック負荷が重くなるときでさえ、受け入れることが可能な遅延性能を保証する。
この場合にも、上記の例示の実施形態の特定のパラメータ、仮定、ネットワーク・トポロジおよび他の特徴が、単なる例としてのみ提示されていることを理解すべきである。IMSネットワークなど、SIPベースのネットワークでは特に有用であるが、本明細書中において説明される技法は、いくつかの異なる通信プロトコルのうちの任意のプロトコルを使用して、多種多様な他のタイプの通信ネットワークに対して適用することができる。添付の特許請求の範囲の範囲内におけるこれらの実施形態および非常に多くの他の代替実施形態は、当業者には簡単に明らかであろう。
本発明の一実施形態が実施されるSIPベースのネットワークの一部分の簡略化されたブロック図である。 SIPベースのネットワークのネットワーク要素の間の呼出しフローを示す図である。 従来のSIP技法に関連する輻輳崩壊状態を示す、SIPベースのネットワークにおける提供負荷の関数としてスループットのプロットを示す図である。 図1のネットワークのサーバのうちの特定の1つについての例示のキューイング・システムの簡略化されたブロック図である。 本発明の例示の一実施形態における、SIPベースのネットワークの例示のトポロジを示す図である。 図5に示されているタイプの1トポロジを有するSIPベースのネットワークにおけるネクスト・ホップ負荷バランシング技法の一実施形態を示す図である。 図5に示されているタイプの1トポロジを有するSIPベースのネットワークにおけるネクスト・ホップ負荷バランシング技法の一実施形態を示す図である。 SIPベースのネットワークにおける、ターゲットベースの負荷バランシング技法の例示の一実施形態を示す図である。 ネクスト・ホップ負荷バランシング技法と、ターゲットベースの負荷バランシング技法との間の違いを示す図である。 ターゲットベースの負荷バランシングにおけるフィードバック情報の使用の一例を示す図である。 それぞれローカル過負荷制御アプローチおよびイングレス過負荷制御アプローチを利用した過負荷制御を示す図である。 それぞれローカル過負荷制御アプローチおよびイングレス過負荷制御アプローチを利用した過負荷制御を示す図である。 本発明の例示の負荷バランシング技法および過負荷技法が、図3に示されているような輻輳崩壊状態を回避する方法を示す、SIPベースのネットワークにおける提供負荷の関数としてスループットのプロットを示す図である。 本発明の例示の負荷バランシング技法および過負荷技法が、従来のSIP技法の使用からもたらされる可能性がある過剰遅延を回避することができる方法を示す、SIPベースのネットワークにおける提供負荷の関数としてリング遅延のプロットを示す図である。

Claims (10)

  1. 複数のサーバを備えるネットワークにおいてメッセージを経路指定する方法であって、
    第1のサーバにおいて、前記第1のサーバとターゲット・サーバとの間のそれぞれ第1の経路と第2の経路に関連する少なくとも第1のダウンストリーム・サーバと第2のダウンストリーム・サーバとを含む、前記ネットワークのダウンストリーム・サーバから、前記それぞれのダウンストリーム・サーバについての輻輳測度を含むフィードバック情報を受信するステップと、
    前記ダウンストリーム・サーバの前記輻輳測度の間のアンバランスについて補償するために、前記受信されたフィードバック情報に基づいて前記第1のサーバにおけるメッセージ経路指定プロセスを調整するステップと
    を含み、
    前記第1および第2の経路のうちの1つにおける前記ダウンストリーム・サーバの少なくとも所与の1つが、前記第1のサーバから前記ターゲット・サーバに送信されたINVITE要求に対する前記ターゲット・サーバからの応答を受信し
    前記所与のダウンストリーム・サーバは、前記ターゲット・サーバからの前記応答に含まれる輻輳測度と前記所与のダウンストリーム・サーバの輻輳測度とを比較し、前記所与のダウンストリーム・サーバの前記輻輳測度が、前記ターゲット・サーバからの前記応答に含まれる前記輻輳測度よりも高い輻輳レベルを示した場合には、前記所与のダウンストリーム・サーバは、前記応答のアップストリームを前記第1のサーバに送信する前に前記所与のダウンストリーム・サーバの前記輻輳測度を含むように前記ターゲット・サーバからの前記応答を変更する、
    方法。
  2. 前記フィードバック情報は、前記第1のサーバと、前記ターゲット・サーバとの間の前記の第1の経路と第2の経路における複数のサーバの輻輳測度のうちの最高の輻輳測度を含む、請求項1に記載の方法。
  3. 前記の第1のダウンストリーム・サーバと第2のダウンストリーム・サーバのうちの一方は、ターゲット・サーバである、請求項1に記載の方法。
  4. 前記の第1のダウンストリーム・サーバと第2のダウンストリーム・サーバのうちの少なくとも一方は、前記第1のサーバの最も近い隣接サーバである、請求項1に記載の方法。
  5. 前記フィードバック情報に基づいて前記第1のサーバにおけるメッセージ経路指定プロセスを調整する前記ステップは、前記の第1の経路と第2の経路の上で経路指定されるべき与えられた組のメッセージの相対的パーセンテージを指定する経路指定情報を調整するステップをさらに含む、請求項1に記載の方法。
  6. ネットワークにおいてメッセージを経路指定する際に使用するための装置であって、
    第1のサーバと、ターゲット・サーバとの間のそれぞれ第1の経路と第2の経路に関連する少なくとも第1のダウンストリーム・サーバと第2のダウンストリーム・サーバを含む、前記ネットワークのダウンストリーム・サーバから、前記それぞれのダウンストリーム・サーバについての輻輳測度を含むフィードバック情報を受信するように構成される、前記ネットワークの前記第1のサーバを備え、
    前記第1のサーバは、さらに前記ダウンストリーム・サーバの前記輻輳測度の間のアンバランスについて補償するために前記受信されたフィードバック情報に基づいてそのメッセージ経路指定プロセスを調整し、
    前記第1および第2の経路のうちの1つにおける前記ダウンストリーム・サーバの少なくとも所与の1つが、前記第1のサーバから前記ターゲット・サーバに送信されたINVITE要求に対する前記ターゲット・サーバからの応答を受信し
    前記所与のダウンストリーム・サーバは、前記ターゲット・サーバからの前記応答に含まれる輻輳測度と前記所与のダウンストリーム・サーバの輻輳測度とを比較し、前記所与のダウンストリーム・サーバの前記輻輳測度が、前記ターゲット・サーバからの前記応答に含まれる前記輻輳測度よりも高い輻輳レベルを示した場合には、前記所与のダウンストリーム・サーバは、前記応答のアップストリームを前記第1のサーバに送信する前に前記所与のダウンストリーム・サーバの前記輻輳測度を含むように前記ターゲット・サーバからの前記応答を変更する、
    ように構成される装置。
  7. 複数のサーバを備えるネットワークにおいてメッセージを経路指定する方法であって、
    第1のサーバにおいて、前記第1のサーバと、ターゲット・サーバとの間の経路に関連している、前記ネットワークの少なくとも1つのダウンストリーム・サーバから、前記ダウンストリーム・サーバについての輻輳測度を含むフィードバック情報を受信するステップと、
    前記フィードバック情報に基づいてユーザ・エージェントに対して配信するための、前記第1のサーバにおけるブロッキング・メッセージを生成するステップとを含み、
    前記ダウンストリーム・サーバが、前記第1のサーバから前記ターゲット・サーバに送信されたINVITE要求に対する前記ターゲット・サーバからの応答を受信し、
    前記ダウンストリーム・サーバは、前記ターゲット・サーバからの前記応答に含まれる輻輳測度と前記ダウンストリーム・サーバの輻輳測度とを比較し、前記ダウンストリーム・サーバの前記輻輳測度が、前記ターゲット・サーバからの前記応答に含まれる前記輻輳測度よりも高い輻輳レベルを示した場合には、前記ダウンストリーム・サーバは、前記応答のアップストリームを前記第1のサーバに送信する前に前記ダウンストリーム・サーバの前記輻輳測度を含むように前記ターゲット・サーバからの前記応答を変更する、
    方法。
  8. 前記フィードバック情報は、前記第1のサーバと、前記ターゲット・サーバとの間の前記経路における複数のサーバの輻輳測度のうちの最高の輻輳測度を含む、請求項7に記載の方法。
  9. 前記ダウンストリーム・サーバは、前記第1のサーバの最も近い隣接サーバである、請求項7に記載の方法。
  10. ネットワークにおいてメッセージを経路指定する際に使用するための装置であって、
    第1のサーバと、ターゲット・サーバとの間の経路に関連している、前記ネットワークの少なくとも1つのダウンストリーム・サーバから、前記ダウンストリーム・サーバについての輻輳測度を含むフィードバック情報を受信するように構成される、前記ネットワークの前記第1のサーバを備え、
    前記第1のサーバは、さらに前記フィードバック情報に基づいてユーザ・エージェントに対して配信するためのブロッキング・メッセージを生成し、
    前記ダウンストリーム・サーバが、前記第1のサーバから前記ターゲット・サーバに送信されたINVITE要求に対する前記ターゲット・サーバからの応答を受信し、
    前記ダウンストリーム・サーバは、前記ターゲット・サーバからの前記応答に含まれる輻輳測度と前記ダウンストリーム・サーバの輻輳測度とを比較し、前記ダウンストリーム・サーバの前記輻輳測度が、前記ターゲット・サーバからの前記応答に含まれる前記輻輳測度よりも高い輻輳レベルを示した場合には、前記ダウンストリーム・サーバは、前記応答のアップストリームを前記第1のサーバに送信する前に前記ダウンストリーム・サーバの前記輻輳測度を含むように前記ターゲット・サーバからの前記応答を変更する、
    ように構成される装置。
JP2009503077A 2006-03-31 2007-03-30 ネットワークの負荷バランシングと過負荷制御 Expired - Fee Related JP5137941B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US11/395,455 US9219686B2 (en) 2006-03-31 2006-03-31 Network load balancing and overload control
US11/395,455 2006-03-31
PCT/US2007/008244 WO2007117421A1 (en) 2006-03-31 2007-03-30 Network load balancing and overload control

Publications (2)

Publication Number Publication Date
JP2009532947A JP2009532947A (ja) 2009-09-10
JP5137941B2 true JP5137941B2 (ja) 2013-02-06

Family

ID=38328200

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009503077A Expired - Fee Related JP5137941B2 (ja) 2006-03-31 2007-03-30 ネットワークの負荷バランシングと過負荷制御

Country Status (7)

Country Link
US (2) US9219686B2 (ja)
EP (1) EP2002619B1 (ja)
JP (1) JP5137941B2 (ja)
KR (1) KR101389155B1 (ja)
CN (1) CN101416453A (ja)
AT (1) ATE513394T1 (ja)
WO (1) WO2007117421A1 (ja)

Families Citing this family (98)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2376214A1 (en) 1999-06-08 2000-12-14 The Trustees Of Columbia University In The City Of New York Network telephony appliance and system for inter/intranet telephony
US9219686B2 (en) 2006-03-31 2015-12-22 Alcatel Lucent Network load balancing and overload control
KR100966047B1 (ko) * 2006-08-25 2010-06-28 삼성전자주식회사 통신시스템에서 미디어 송신 방법 및 장치
US7441429B1 (en) 2006-09-28 2008-10-28 Narus, Inc. SIP-based VoIP traffic behavior profiling
FI20065651A0 (fi) * 2006-10-12 2006-10-12 Nokia Corp Ryhmäviestintä
US7991910B2 (en) 2008-11-17 2011-08-02 Amazon Technologies, Inc. Updating routing information based on client location
US8028090B2 (en) 2008-11-17 2011-09-27 Amazon Technologies, Inc. Request routing utilizing client location information
US8683034B2 (en) * 2007-10-02 2014-03-25 At&T Intellectual Property I, L.P. Systems, methods and computer program products for coordinated session termination in an IMS network
JP5104246B2 (ja) * 2007-11-21 2012-12-19 日本電気株式会社 通信システム、加入者収容装置、トラフィック制御方法及びプログラム
JP4940163B2 (ja) * 2008-02-05 2012-05-30 株式会社日立製作所 通信ゲートウェイ装置及び中継方法
FR2928801A1 (fr) * 2008-03-17 2009-09-18 France Telecom Procede de gestion de charge d'un equipement d'un systeme de mise en oeuvre d'un service applicatif
US8321568B2 (en) 2008-03-31 2012-11-27 Amazon Technologies, Inc. Content management
US8606996B2 (en) 2008-03-31 2013-12-10 Amazon Technologies, Inc. Cache optimization
US8447831B1 (en) 2008-03-31 2013-05-21 Amazon Technologies, Inc. Incentive driven content delivery
US8601090B1 (en) 2008-03-31 2013-12-03 Amazon Technologies, Inc. Network resource identification
US7970820B1 (en) 2008-03-31 2011-06-28 Amazon Technologies, Inc. Locality based content distribution
US7962597B2 (en) 2008-03-31 2011-06-14 Amazon Technologies, Inc. Request routing based on class
US8285868B2 (en) * 2008-04-08 2012-10-09 Verizon Patent And Licensing Inc. Session initiation protocol (SIP) overload protection
US7814193B2 (en) * 2008-05-06 2010-10-12 At&T Intellectual Property I, L.P. Distributing user endpoint registrations among border elements in a next generation network
US20090300209A1 (en) * 2008-06-03 2009-12-03 Uri Elzur Method and system for path based network congestion management
JP5088239B2 (ja) * 2008-06-04 2012-12-05 日本電気株式会社 輻輳制御システム、境界ゲートウェイ装置及びそれらに用いる輻輳制御方法
JP5012676B2 (ja) * 2008-06-05 2012-08-29 富士通株式会社 無効呼接続処理の回避方法
US8160063B2 (en) * 2008-06-09 2012-04-17 Microsoft Corporation Data center interconnect and traffic engineering
US9407681B1 (en) 2010-09-28 2016-08-02 Amazon Technologies, Inc. Latency measurement in resource requests
WO2010041761A1 (en) * 2008-10-06 2010-04-15 Nec Corporation Protection against unsolicited communication for internet protocol multimedia subsystem
US7869364B2 (en) 2008-10-27 2011-01-11 Broadsoft, Inc. SIP server overload detection and control
US8284764B1 (en) 2008-12-15 2012-10-09 Narus, Inc. VoIP traffic behavior profiling method
US8341265B2 (en) * 2009-01-09 2012-12-25 Sonus Networks, Inc. Hybrid server overload control scheme for maximizing server throughput
US8688837B1 (en) 2009-03-27 2014-04-01 Amazon Technologies, Inc. Dynamically translating resource identifiers for request routing using popularity information
US8412823B1 (en) 2009-03-27 2013-04-02 Amazon Technologies, Inc. Managing tracking information entries in resource cache components
EP2237493A1 (en) * 2009-03-31 2010-10-06 Nokia Siemens Networks OY Network entities and a method for controlling congestions in communications networks
US8526595B2 (en) * 2009-05-26 2013-09-03 At&T Intellectual Property I, L.P. Auto-dialer blocking on network
US8782236B1 (en) 2009-06-16 2014-07-15 Amazon Technologies, Inc. Managing resources using resource expiration data
US8397073B1 (en) 2009-09-04 2013-03-12 Amazon Technologies, Inc. Managing secure content in a content delivery network
US8566495B2 (en) * 2009-11-06 2013-10-22 Qualcomm Incorporated Systems, methods and apparatus for data communication
US9495338B1 (en) 2010-01-28 2016-11-15 Amazon Technologies, Inc. Content distribution network
US8804513B2 (en) * 2010-02-25 2014-08-12 The Trustees Of Columbia University In The City Of New York Methods and systems for controlling SIP overload
US8140673B2 (en) * 2010-05-25 2012-03-20 International Business Machines Corporation Method and apparatus for controlling load admission rate of an application server
US9003035B1 (en) 2010-09-28 2015-04-07 Amazon Technologies, Inc. Point of presence management in request routing
US10958501B1 (en) 2010-09-28 2021-03-23 Amazon Technologies, Inc. Request routing information based on client IP groupings
US9712484B1 (en) 2010-09-28 2017-07-18 Amazon Technologies, Inc. Managing request routing information utilizing client identifiers
US8468247B1 (en) 2010-09-28 2013-06-18 Amazon Technologies, Inc. Point of presence management in request routing
US8452874B2 (en) 2010-11-22 2013-05-28 Amazon Technologies, Inc. Request routing processing
JP6050240B2 (ja) * 2010-11-30 2016-12-21 コニンクリーケ・ケイピーエヌ・ナムローゼ・フェンノートシャップ サービング・ネットワーク・ノードの動的な割り当て
US8717883B2 (en) * 2010-12-17 2014-05-06 Verizon Patent And Licensing Inc. Media gateway health
US20120155386A1 (en) * 2010-12-21 2012-06-21 Qualcomm Incorporated Signaling reduction for the core network of a wireless communications system
US10467042B1 (en) 2011-04-27 2019-11-05 Amazon Technologies, Inc. Optimized deployment based upon customer locality
CN102811197B (zh) * 2011-05-30 2016-12-21 中兴通讯股份有限公司 过载控制方法、装置和系统
US9244745B2 (en) 2011-06-16 2016-01-26 Kodak Alaris Inc. Allocating tasks by sending task-available messages requesting assistance with an image processing task from a server with a heavy task load to all other servers connected to the computer network
JP5687573B2 (ja) * 2011-06-28 2015-03-18 株式会社ケアコム ナースコールシステムの呼出制御装置
JP5817299B2 (ja) 2011-08-01 2015-11-18 富士通株式会社 アドレス変換装置、通信システム及びアドレス変換方法
JP5741312B2 (ja) * 2011-08-12 2015-07-01 富士通株式会社 アドレス変換装置、通信システム、アドレス変換プログラム及びアドレス変換方法
CN103312667B (zh) * 2012-03-09 2016-09-14 华为技术有限公司 一种信息更新的方法、装置和系统
US10623408B1 (en) 2012-04-02 2020-04-14 Amazon Technologies, Inc. Context sensitive object management
US9154551B1 (en) 2012-06-11 2015-10-06 Amazon Technologies, Inc. Processing DNS queries to identify pre-processing information
US8989024B2 (en) * 2012-06-18 2015-03-24 At&T Intellectual Property I, L.P. Long term evolution network dynamic overload management
US9323577B2 (en) 2012-09-20 2016-04-26 Amazon Technologies, Inc. Automated profiling of resource usage
KR101382177B1 (ko) * 2012-09-27 2014-04-07 삼성에스디에스 주식회사 동적 메시지 라우팅 시스템 및 방법
US10205698B1 (en) 2012-12-19 2019-02-12 Amazon Technologies, Inc. Source-dependent address resolution
WO2015067306A1 (en) * 2013-11-06 2015-05-14 Telefonaktiebolaget L M Ericsson (Publ) Method and device for controlling processing load of a network node
CN104767776B (zh) * 2014-01-07 2019-04-30 腾讯科技(深圳)有限公司 一种实时调整网络路由方法、装置及系统
CN105122740B (zh) * 2014-02-26 2018-07-20 华为技术有限公司 一种分流上报的方法、交换机、控制器及系统
US9825733B1 (en) 2014-11-07 2017-11-21 Speedy Packets, Inc. Packet coding based network communication
US9979664B2 (en) * 2015-07-07 2018-05-22 Speedy Packets, Inc. Multiple protocol network communication
US10320526B1 (en) 2014-11-07 2019-06-11 Strong Force Iot Portfolio 2016, Llc Packet coding based network communication
US10999012B2 (en) 2014-11-07 2021-05-04 Strong Force Iot Portfolio 2016, Llc Packet coding based network communication
US9992126B1 (en) 2014-11-07 2018-06-05 Speedy Packets, Inc. Packet coding based network communication
US9992088B1 (en) 2014-11-07 2018-06-05 Speedy Packets, Inc. Packet coding based network communication
US10097448B1 (en) 2014-12-18 2018-10-09 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
US10320892B2 (en) 2015-01-02 2019-06-11 Microsoft Technology Licensing, Llc Rolling capacity upgrade control
EP3057290A1 (en) * 2015-02-10 2016-08-17 Telefonica Digital España, S.L.U. Method, system and device for managing congestion in network services
US10225326B1 (en) 2015-03-23 2019-03-05 Amazon Technologies, Inc. Point of presence based data uploading
US9819567B1 (en) * 2015-03-30 2017-11-14 Amazon Technologies, Inc. Traffic surge management for points of presence
US9830173B1 (en) * 2015-04-09 2017-11-28 Amazon Technologies, Inc. Proxy simulation service for testing stateless systems
US9832141B1 (en) 2015-05-13 2017-11-28 Amazon Technologies, Inc. Routing based request correlation
US10606510B2 (en) * 2015-10-29 2020-03-31 Netflix, Inc. Memory input/output management
US11112784B2 (en) 2016-05-09 2021-09-07 Strong Force Iot Portfolio 2016, Llc Methods and systems for communications in an industrial internet of things data collection environment with large data sets
US10075551B1 (en) 2016-06-06 2018-09-11 Amazon Technologies, Inc. Request management for hierarchical cache
US10110694B1 (en) 2016-06-29 2018-10-23 Amazon Technologies, Inc. Adaptive transfer rate for retrieving content from a server
US9992086B1 (en) 2016-08-23 2018-06-05 Amazon Technologies, Inc. External health checking of virtual private cloud network environments
US10033691B1 (en) 2016-08-24 2018-07-24 Amazon Technologies, Inc. Adaptive resolution of domain name requests in virtual private cloud network environments
US10469513B2 (en) 2016-10-05 2019-11-05 Amazon Technologies, Inc. Encrypted network addresses
US10447585B2 (en) * 2016-12-19 2019-10-15 Futurewei Technologies, Inc. Programmable and low latency switch fabric for scale-out router
US10831549B1 (en) 2016-12-27 2020-11-10 Amazon Technologies, Inc. Multi-region request-driven code execution system
EP3346383A1 (en) 2017-01-10 2018-07-11 Unify Patente GmbH & Co. KG Computer-implemented method of managing tenants on a multi-tenant sip server system and multi-tenant sip server system
US10938884B1 (en) 2017-01-30 2021-03-02 Amazon Technologies, Inc. Origin server cloaking using virtual private cloud network environments
US10503613B1 (en) 2017-04-21 2019-12-10 Amazon Technologies, Inc. Efficient serving of resources during server unavailability
US11075987B1 (en) 2017-06-12 2021-07-27 Amazon Technologies, Inc. Load estimating content delivery network
US10447648B2 (en) 2017-06-19 2019-10-15 Amazon Technologies, Inc. Assignment of a POP to a DNS resolver based on volume of communications over a link between client devices and the POP
CN109218355B (zh) * 2017-06-30 2021-06-15 华为技术有限公司 负载均衡引擎,客户端,分布式计算系统以及负载均衡方法
US10742593B1 (en) 2017-09-25 2020-08-11 Amazon Technologies, Inc. Hybrid content request routing system
US10592578B1 (en) 2018-03-07 2020-03-17 Amazon Technologies, Inc. Predictive content push-enabled content delivery network
US10885018B2 (en) 2018-05-07 2021-01-05 Microsoft Technology Licensing, Llc Containerization for elastic and scalable databases
US10862852B1 (en) 2018-11-16 2020-12-08 Amazon Technologies, Inc. Resolution of domain name requests in heterogeneous network environments
US11025747B1 (en) 2018-12-12 2021-06-01 Amazon Technologies, Inc. Content request pattern-based routing system
CN111010330B (zh) * 2019-12-06 2021-11-23 苏州浪潮智能科技有限公司 一种检测并恢复拥塞链路的方法、设备及介质
CN111756936B (zh) * 2020-05-06 2021-05-28 国网山东省电力公司信息通信公司 一种基于ims的调度指挥坐席容灾装置及方法
CN111756937B (zh) * 2020-05-07 2021-05-28 国网山东省电力公司信息通信公司 一种供电服务中心ims调度指挥坐席系统及方法

Family Cites Families (60)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4914650A (en) * 1988-12-06 1990-04-03 American Telephone And Telegraph Company Bandwidth allocation and congestion control scheme for an integrated voice and data network
US4974256A (en) 1989-06-30 1990-11-27 At&T Bell Laboratories Load balancing and overload control in a distributed processing telecommunications system
US6134218A (en) * 1994-04-28 2000-10-17 Pmc-Sierra (Maryland), Inc. Many dimensional congestion detection system and method
US5727051A (en) * 1995-07-14 1998-03-10 Telefonaktiebolaget Lm Ericsson (Publ.) System and method for adaptive routing on a virtual path broadband network
JPH10290475A (ja) * 1997-02-12 1998-10-27 Fujitsu Ltd 移動通信システム
US6469991B1 (en) 1997-10-14 2002-10-22 Lucent Technologies Inc. Method for overload control in a multiple access system for communication networks
US6542462B1 (en) 1998-05-27 2003-04-01 Lucent Technologies Inc. Method and apparatus for overload control of multimedia communications in a hybrid switching system
US6507562B1 (en) * 1998-06-30 2003-01-14 Sun Microsystems, Inc. Dynamic optimization for receivers using distance between a repair head and a member station in a repair group for receivers having a closely knit topological arrangement to locate repair heads near the member stations which they serve in tree based repair in reliable multicast protocol
US6888797B1 (en) 1999-05-05 2005-05-03 Lucent Technologies Inc. Hashing-based network load balancing
US6618378B1 (en) * 1999-07-21 2003-09-09 Alcatel Canada Inc. Method and apparatus for supporting multiple class of service connections in a communications network
US6578068B1 (en) * 1999-08-31 2003-06-10 Accenture Llp Load balancer in environment services patterns
US6680943B1 (en) * 1999-10-01 2004-01-20 Nortel Networks Limited Establishing bi-directional communication sessions across a communications network
GB2361545A (en) * 2000-01-27 2001-10-24 Trafficmaster Developments Ltd Traffic monitoring
WO2001058084A2 (en) * 2000-02-04 2001-08-09 Hrl Laboratories, Llc System and method for pricing-based quality of service
US6779035B1 (en) * 2000-03-06 2004-08-17 Microsoft Corporation Application programming interface and generalized network address translator for translation of transport-layer sessions
US6496811B1 (en) 2000-05-01 2002-12-17 Lucent Technologies Inc. Fuzzy-logic based overload detection and correction for packet gateways
US6904017B1 (en) 2000-05-08 2005-06-07 Lucent Technologies Inc. Method and apparatus to provide centralized call admission control and load balancing for a voice-over-IP network
US6778496B1 (en) 2000-06-07 2004-08-17 Lucent Technologies Inc. Distributed call admission and load balancing method and apparatus for packet networks
US7170905B1 (en) * 2000-08-10 2007-01-30 Verizon Communications Inc. Vertical services integration enabled content distribution mechanisms
US7237034B2 (en) * 2000-09-18 2007-06-26 Openwave Systems Inc. Method and apparatus for controlling network traffic
US7319667B1 (en) * 2000-11-15 2008-01-15 Cisco Technology, Inc. Communication system with priority data compression
EP1209861A1 (en) * 2000-11-22 2002-05-29 Telefonaktiebolaget L M Ericsson (Publ) Monitoring traffic in packet networks
US7046680B1 (en) * 2000-11-28 2006-05-16 Mci, Inc. Network access system including a programmable access device having distributed service control
US7849190B2 (en) * 2001-02-23 2010-12-07 Nokia Siemens Networks Oy Internet protocol based service architecture
US7069342B1 (en) * 2001-03-01 2006-06-27 Cisco Technology, Inc. Communication system with content-based data compression
US7409441B2 (en) * 2001-05-18 2008-08-05 Sony Computer Entertainment Inc. Display apparatus for accessing desired web site
US7961616B2 (en) * 2001-06-07 2011-06-14 Qualcomm Incorporated Method and apparatus for congestion control in a wireless communication system
US7225271B1 (en) * 2001-06-29 2007-05-29 Cisco Technology, Inc. System and method for recognizing application-specific flows and assigning them to queues
US7215639B2 (en) * 2001-08-31 2007-05-08 4198638 Canada Inc. Congestion management for packet routers
CA2408766A1 (en) * 2001-10-17 2003-04-17 Telecommunications Research Laboratory Content delivery network bypass system
US7418509B2 (en) * 2001-11-13 2008-08-26 Nokia Corporation Method and apparatus for a distributed server tree
US7944839B2 (en) * 2001-11-30 2011-05-17 British Telecommunications Public Limited Company Method of resource control in a wireless network
US7050424B2 (en) * 2001-12-31 2006-05-23 Innomedia Pte Ltd. Method and system for automatic proxy server workload shifting for load balancing
US7509229B1 (en) * 2002-07-23 2009-03-24 Opnet Technologies, Inc. Bayesian approach to correlating network traffic congestion to performance metrics
AU2002953479A0 (en) * 2002-12-19 2003-01-09 Canon Kabushiki Kaisha Ip rate control
US7225267B2 (en) * 2003-01-27 2007-05-29 Microsoft Corporation Reactive bandwidth control for streaming data
US9369498B2 (en) 2003-01-30 2016-06-14 Nokia Technologies Oy Message-based conveyance of load control information
SE0301053D0 (sv) * 2003-04-07 2003-04-07 Ericsson Telefon Ab L M Method and system in a communications network
US7366782B2 (en) * 2003-04-14 2008-04-29 At&T Corp. Systems and methods for termination of session initiation protocol
US7864939B1 (en) * 2003-04-30 2011-01-04 At&T Intellectual Property Ii, L.P. Call arrangement and connection using messaging
US7689223B1 (en) * 2003-06-05 2010-03-30 Sprint Spectrum L.P. Method and system for delaying retransmission of data traffic to a wireless terminal
JP5021935B2 (ja) * 2003-06-25 2012-09-12 日本電気株式会社 移動通信システムおよびアクセス制御方法
US7543061B2 (en) * 2003-06-26 2009-06-02 Microsoft Corporation Method and system for distributing load by redirecting traffic
US7277423B1 (en) * 2003-07-18 2007-10-02 Sprint Spectrum L.P. Method and system for buffering media to reduce apparent latency in initiating a packet-based real-time media session
US7483374B2 (en) * 2003-08-05 2009-01-27 Scalent Systems, Inc. Method and apparatus for achieving dynamic capacity and high availability in multi-stage data networks using adaptive flow-based routing
US20050055436A1 (en) * 2003-09-08 2005-03-10 Hitoshi Yamada Resource load measuring method, network control apparatus, communication node and storage medium
US7522607B2 (en) * 2004-01-26 2009-04-21 Sprint Communications Company Lp Congestion handling in a packet communication system
US7535905B2 (en) * 2004-03-31 2009-05-19 Microsoft Corporation Signing and validating session initiation protocol routing headers
FR2869182B1 (fr) * 2004-04-20 2008-03-28 Thales Sa Procede de routage dans un reseau ad hoc
WO2006023604A2 (en) * 2004-08-17 2006-03-02 California Institute Of Technology Method and apparatus for network congestion control using queue control and one-way delay measurements
US7447194B1 (en) * 2004-09-08 2008-11-04 Sprint Communications Company L.P. Application server update message processing
US9124465B1 (en) * 2004-09-30 2015-09-01 Avaya Inc. Methods and apparatus for processing incomplete or invalid dialed numbers
US7680037B2 (en) * 2005-03-01 2010-03-16 Alcatel-Lucent Usa Inc. Resource-sensitive parser, method of parsing and session initiation protocol (SIP) network employing the same
EP1859596B1 (en) * 2005-03-14 2018-05-30 Telefonaktiebolaget LM Ericsson (publ) A method and arrangement for communicating multimedia content
US7961715B1 (en) * 2005-07-29 2011-06-14 Cisco Technology, Inc. Technique for reserving resources for authorized entities in a communication network
US8045473B2 (en) * 2005-11-28 2011-10-25 Cisco Technology, Inc. Tailored relief for congestion on application servers for real time communications
US20070153813A1 (en) * 2005-12-29 2007-07-05 Level 3 Communications, Inc. Traffic distribution in a communications network
US20070180113A1 (en) * 2006-01-31 2007-08-02 Van Bemmel Jeroen Distributing load of requests from clients over multiple servers
JP4648214B2 (ja) * 2006-02-14 2011-03-09 富士通株式会社 呼制御装置および呼制御方法
US9219686B2 (en) 2006-03-31 2015-12-22 Alcatel Lucent Network load balancing and overload control

Also Published As

Publication number Publication date
EP2002619A1 (en) 2008-12-17
ATE513394T1 (de) 2011-07-15
US9847942B2 (en) 2017-12-19
US20070233896A1 (en) 2007-10-04
JP2009532947A (ja) 2009-09-10
KR20090006135A (ko) 2009-01-14
US20160065475A1 (en) 2016-03-03
EP2002619B1 (en) 2011-06-15
KR101389155B1 (ko) 2014-04-24
US9219686B2 (en) 2015-12-22
CN101416453A (zh) 2009-04-22
WO2007117421A1 (en) 2007-10-18

Similar Documents

Publication Publication Date Title
JP5137941B2 (ja) ネットワークの負荷バランシングと過負荷制御
Hilt et al. Controlling overload in networks of SIP servers
Hilt et al. Design considerations for session initiation protocol (SIP) overload control
US8699343B2 (en) Adaptive rate control based on overload signals
EP2425592B1 (en) Adaptive rate control based on overload signals
US7787501B2 (en) Congestion control in an IP network
US7742417B2 (en) Burst traffic smoothing for SIP processing elements
Shen et al. Session initiation protocol (SIP) server overload control: Design and evaluation
US20090310484A1 (en) Methods, systems, and computer readable media for session initiation protocol (sip) overload control
Azhari et al. Overload control in SIP networks using no explicit feedback: A window based approach
US7924723B2 (en) Method and apparatus for providing retry-after-timer overload control
CN105027528B (zh) 会话建立的过载控制
Liao et al. A distributed end-to-end overload control mechanism for networks of SIP servers
EP3295618B1 (en) Routing in a multi-path network
Montagna et al. Performance evaluation of load control techniques in sip signaling servers
US8203939B2 (en) Method and apparatus for providing a window based overload control
Sisalem SIP overload control: Where are we today?
Yamada et al. Notification about congestion information through SIP session for call congestion control of VoIP application
Hilt et al. RFC 6357: Design Considerations for Session Initiation Protocol (SIP) Overload Control
Ohta Effects of interaction between transport and application layers on SIP signaling performance
Kaur et al. A review on Session Initiation Protocol (SIP)
Guduru et al. Method to reduce SIP signaling messages during Glare conditions
Sisalem et al. Voip overload, a senders burden
Liu et al. A study on Session Initiation Protocol for Negotiating Multimedia Sessions

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100326

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110325

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111014

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120319

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120619

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120626

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120919

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121016

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121113

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151122

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees