KR20090006135A - 메시지 라우팅 방법 및 메시지 라우팅에 사용하는 장치 - Google Patents

메시지 라우팅 방법 및 메시지 라우팅에 사용하는 장치 Download PDF

Info

Publication number
KR20090006135A
KR20090006135A KR1020087026552A KR20087026552A KR20090006135A KR 20090006135 A KR20090006135 A KR 20090006135A KR 1020087026552 A KR1020087026552 A KR 1020087026552A KR 20087026552 A KR20087026552 A KR 20087026552A KR 20090006135 A KR20090006135 A KR 20090006135A
Authority
KR
South Korea
Prior art keywords
server
downstream
feedback information
network
servers
Prior art date
Application number
KR1020087026552A
Other languages
English (en)
Other versions
KR101389155B1 (ko
Inventor
볼커 힐트
인드라 위드자자
Original Assignee
루센트 테크놀러지스 인크
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 루센트 테크놀러지스 인크 filed Critical 루센트 테크놀러지스 인크
Publication of KR20090006135A publication Critical patent/KR20090006135A/ko
Application granted granted Critical
Publication of KR101389155B1 publication Critical patent/KR101389155B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/11Identifying congestion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00Routing or path finding of packets in data switching networks
    • H04L45/22Alternate routing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/12Avoiding congestion; Recovering from congestion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/12Avoiding congestion; Recovering from congestion
    • H04L47/122Avoiding congestion; Recovering from congestion by diverting traffic away from congested entities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/25Flow control; Congestion control with rate being modified by the source upon detecting a change of network conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/26Flow control; Congestion control using explicit feedback to the source, e.g. choke packets
    • H04L47/263Rate modification at the source after receiving feedback
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/10Architectures or entities
    • H04L65/1016IP multimedia subsystem [IMS]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/1066Session management
    • H04L65/1101Session protocols
    • H04L65/1104Session initiation protocol [SIP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1008Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/101Server selection for load balancing based on network conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1023Server selection for load balancing based on a hash applied to IP addresses or costs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L69/00Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
    • H04L69/40Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass for recovering from a failure of a protocol instance or entity, e.g. service redundancy protocols, protocol state redundancy or protocol service redirection

Abstract

복수의 서버를 포함하는 SIP 기반 네트워크 또는 다른 유형의 네트워크에서 사용할 부하 분산 및 과부하 제어 기술이 개시된다. 부하 분산 기술에서, 제 1 서버는 제 1 서버와 타깃 서버 사이의 각각의 제 1 및 제 2 경로와 관련된 적어도 제 1 및 제 2 다운스트림 서버로부터 피드백 정보를 수신하는데, 피드백 정보는 각각의 다운스트림 서버에 대한 통신폭주량을 포함한다. 제 1 서버는 다운스트림 서버의 통신폭주량 사이의 불균형을 보상하도록 수신된 피드백 정보에 기초하여 메시지 라우팅 프로세스를 동적으로 조정한다. 과부하 제어 기술에서, 제 1 서버는 적어도 하나의 다운스트림 서버로부터 수신된 피드백 정보를 사용하여 사용자 에이전트로 전달할 차단 메시지를 생성한다.

Description

메시지 라우팅 방법 및 메시지 라우팅에 사용하는 장치{NETWORK LOAD BALANCING AND OVERLOAD CONTROL}
본 발명은 일반적으로 통신 네트워크에 관한 것으로, 보다 구체적으로는, IP 멀티미디어 서브시스템(IMS) 네트워크와 같은 세션 개시 프로토콜(SIP) 기반 네트워크 및 다른 유형의 통신 네트워크에서 사용하기 위한 부하 분산 및 과부하 제어 기술에 관한 것이다.
세션 개시 프로토콜(SIP)은 빠르게 통신 네트워크 내의 사용자 간에 멀티미디어 세션을 확립하고 변경하며 종료하는 사실상의 시그널링 프로토콜이 되고 있다. SIP는 2002년 6월, 인터넷 국제표준화 기구(IETF:Internet Engineering Task Force) RFC 3261의 J. Rosenberg 등의 "SIP: Session Initiation Protocol"에 설명되며, 이는 본 명세서에 참조로써 인용된다. SIP는 3GPP(3rd Generation Partnership Project)에 의해 규정된 이동 및 고정 서비스에 대한 차세대 코어 네트워크 아키텍처인 IP 멀티미디어 서브시스템(IMS)용으로도 채택되었다.
SIP 메시지를 처리하고 전송하는 네트워크 구성요소는 SIP 기술에서는 프록 시 서버로 지칭되고, IMS 기술에서는 호 세션 제어 기능(CSCF)으로 지칭된다. 3GPP는 사용자에 대한 인터페이스인 프록시 CSCF(P-CSCF), 상이한 관리자 영역 내의 다른 서버에 대한 인터페이스를 제공하는 질의 CSCF(I-CSCF), 및 등록을 처리하고 정책을 실시하며 애플리케이션 서버에 대한 인터페이스를 제공하는 서빙 CSCF(S-CSCF)와 같은 3 가지 유형의 CSCF 구성요소를 규정한다. 이러한 네트워크 구성요소는 본 명세서에서 SIP/IMS 서버로 지칭되고, 이들 및 다른 네트워크 구성요소를 포함하는 시그널링 네트워크는 SIP 기반 네트워크로 지칭된다.
SIP 기반 네트워크 내에서 하이 레벨 성능을 획득하기 위해, 트래픽 부하를 네트워크 구성요소에 걸쳐 고르게 분산시키는 것이 중요하다. 불행히도, 종래의 부하 분산 기술은 흔히 SIP 콘텍스트에서 사용하기에 상당히 적합하지 않으며, 바람직한 성능 레벨을 제공하지 않는다.
SIP 기반 네트워크의 관련 문제점은 과부하 제어를 수반한다. 다른 네트워크 구성요소처럼, 트래픽 요구가 예컨대, 이용가능한 처리 리소스와 같은 이용가능한 리소스를 초과하면, SIP/IMS 서버에 과부하가 걸릴 수 있다. 과잉공급으로도, "플래시 크라우드(flash crowd)" 효과에 기인하는 임시 트래픽 서지(surge), 노드 또는 링크 고장, 열등한 라우팅, 유지 및 서비스 거부 공격에 기인하는 트래픽 전환 등을 포함하는 다양한 이유로 인해 과부하는 여전히 발생할 수 있다.
통신 네트워크 내의 과부하 제어를 처리하기 위해 다양한 기술이 개발되어 왔다. 이들은 예컨대, M/M/1 큐잉 시스템에 기반하는 과부하 제어 및 시그널링 시스템 7(SS7) 콘텍스트에서 사용하기 위해 개발된 과부하 제어 기술을 포함한다.
불행히도, 이들 및 다른 종래의 과부하 제어 기술은 SIP 성능에 대한 과부하의 양적 효과를 해결하지 않고, SIP 기반 네트워크 내의 과부하를 처리할 특정 방안을 제공하지 않으며, 메시징 서비스 및 시그널링 토폴로지의 측면에서 종종 더 복잡하다.
따라서 특히 SIP 기반 네트워크에서 개선된 부하 분산 및 과부하 제어 기술이 필요함은 자명하다.
예시적인 실시예에서 본 발명은 SIP 기반 네트워크 또는 다른 유형의 네트워크 내의 부하 분산 또는 과부하 제어를 위한 개선된 기술을 제공한다.
본 발명의 일 측면에 따르면, 제 1 서버가 네트워크의 다운스트림 서버로부터 피드백 정보를 수신하는 부하 분산 기술이 제공되는데, 다운스트림 서버는 제 1 서버와 타깃 서버 사이의 각각의 제 1 및 제 2 경로와 관련된 적어도 제 1 및 제 2 다운스트림 서버를 포함하고, 피드백 정보는 각각의 다운스트림 서버에 대한 통신폭주량을 포함한다. 통신폭주량은 예컨대, 프로세서 이용량, 메시지 처리 부하, 버퍼 점유량, 메시지 처리 지연 또는 통신폭주를 나타내는 임의의 다른 유형의 정보 또는 이들의 조합일 수 있다. 피드백 정보는 예컨대, 확장 헤더로 인코딩된 하나 이상의 SIP 100 응답 메시지로 다운스트림 서버로부터 제 1 서버로 전송된다. 제 1 서버에서의 메시지 라우팅 프로세스는 다운스트림 서버의 통신폭주량 사이의 불균형을 보상하도록 수신된 피드백 정보에 기초하여 조정된다. 예시된 실시예에서의 조정은, 메시지 라우팅 프로세스가 우세한 네트워크 상태를 기억하고 있음을 보장하도록 동적이며, 이로써 네트워크 내의 용량 이용량을 증가시키게 된다.
전술한 피드백 정보의 수신 및 관련된 메시지 라우팅 프로세스의 조정은 네트워크 내의 각 서버에서 복제될 수 있다. 바꾸어 말하면, 각 서버는 네트워크의 다른 서버에 대하여 제 1 서버로서 작동할 수 있다.
피드백 정보는 제 1 서버와 상기 타깃 서버 사이의 제 1 경로 또는 제 2 경로에서 복수의 서버의 통신폭주량 중 최고 통신폭주량을 포함할 수 있다.
제 1 및 제 2 다운스트림 서버 중 하나는 타깃 서버 그 자체이거나 제 1 서버의 가장 가까운 인접 서버일 수 있다.
예컨대, 제 1 및 제 2 경로 상에서 주어진 메시지 세트가 라우팅될 상대 확률을 지정하는 라우팅 정보를 조정함으로써 메시지 라우팅 프로세스가 조정될 수 있다. 라우팅 정보는 라우팅 표 또는 다른 적합한 데이터 구조체에 저장된, 각각의 제 1 및 제 2 경로에 대한 적어도 제 1 및 제 2 라우팅 확률을 포함할 수 있다.
본 발명의 다른 측면에 따르면, 제 1 서버가 네트워크의 적어도 하나의 다운스트림 서버로부터의 피드백 정보를 수신하는 과부하 제어 기술이 제공되는데, 다운스트림 서버는 제 1 서버와 타깃 서버 사이의 경로와 관련되고, 피드백 정보는 다운스트림 서버의 통신폭주량을 포함한다. 제 1 서버는 피드백 정보에 기초하여 사용자 에이전트로 전달할 차단 메시지를 생성한다.
다운스트림 서버는 타깃 서버 그 자체이거나 제 1 서버의 가장 가까운 인접 서버일 수 있다. 제 1 서버는 네트워크의 입구 서버이거나 다운스트림 서버의 가장 가까운 업스트림 인접 서버인 코어 네트워크 서버일 수 있다.
다시 한번, 이상의 제 1 서버와 관련된 동작은 네트워크의 다른 서버에서 복제될 수 있다. 따라서, 부하 분산 및 과부하 제어 기술은 어떠한 집중형 제어기도 필요로 하지 않으면서 분산형 방식으로 구현될 수 있다.
본 발명의 부하 분산 및 과부하 제어 기술은 단독으로 또는 결합하여 사용될 수 있다. 본 발명의 예시적인 실시예는 양자 기술 모두를 조합하여 본 명세서에서 "과부하 안전 SIP"로 지칭되는 강화된 통신 프로토콜을 제공한다. 유리하게, OS-SIP는 높은 용량 및 감소한 링 지연과 호 설정 시간도 제공하면서, 종래의 SIP에 의해 전형적으로 나타나는 통신폭주 콜랩스 문제를 방지한다. 따라서, OS-SIP는 상당한 성능 개선을 전달하고, 트래픽 부하에 상관없이 높은 신뢰도 서비스를 제공한다.
본 발명의 이들 및 다른 측면은 첨부 도면 및 후속하는 상세한 설명으로부터 보다 자명해질 것이다.
도 1은 본 발명의 실시예가 구현되는 SIP 기반 네트워크의 부분의 개략적인 블록도이다.
도 2는 SIP 기반 네트워크의 네트워크 구성요소들 간의 호 흐름을 도시하는 도면이다.
도 3은 종래의 SIP 기술과 관련된 통신폭주 콜랩스(congestion collapse) 상 태를 도시하는, SIP 기반 네트워크 내의 제공 부하의 함수로서의 처리량의 플롯이다.
도 4는 도 1 네트워크의 서버 중 특정 서버의 예시적인 큐잉 시스템의 개략적인 블록도이다.
도 5는 본 발명의 예시적인 실시예의 SIP 기반 네트워크의 예시적인 토폴로지를 도시한다.
도 6 및 도 7은 도 5에 도시된 토폴로지 유형을 가진 SIP 기반 네트워크 내의 다음 홉(next-hop) 부하 분산의 구현을 도시한다.
도 8은 SIP 기반 네트워크 내의 타깃 기반 부하 분산의 예시적인 구현을 도시한다.
도 9는 다음 홉 부하 분산 기술과 타깃 기반 부하 분산 기술의 차이를 도시하는 도면이다.
도 10은 타깃 기반 부하 분산의 피드백 정보 사용의 예를 도시한다.
도 11 및 도 12는 각각의 로컬 과부하 제어 및 입구 과부하 제어 방안을 이용하는 과부하 제어를 도시한다.
도 13은 본 발명의 예시적인 부하 분산 및 과부하 기술이 도 3에 도시된 통신폭주 콜랩스 상태를 방지하는 방법을 도시하는, SIP 기반 네트워크 내의 제공 부하의 함수로서의 처리량의 플롯을 도시한다.
도 14는 본 발명의 예시적인 부하 분산 및 과부하 기술이 종래의 SIP 기술의 사용으로부터 초래될 수 있는 초과 지연을 방지할 수 있는 방법을 도시하는, SIP 기반 네트워크 내의 제공 부하의 함수로서의 링 지연의 플롯을 도시한다
본 발명은 예시적인 SIP 기반 네트워크 및 관련된 부하 분산과 과부하 제어 기술에 관하여 후술될 것이다. 그러나, 본 발명이 예시적인 실시예의 특정 부하 분산 또는 과부하 제어 기술과 함께 사용하는 것으로 제한되지도, 임의의 특정 유형의 네트워크 또는 다른 통신 네트워크와 함께 사용하는 것으로 제한되지도 않음을 알아야 한다. 개시된 기술은 다양한 다른 시스템과 함께 그리고 다수의 다른 애플리케이션에서 사용하기에 적합하다.
도 1은 본 발명의 실시예가 구현되는 SIP 기반 네트워크(100)의 부분을 도시한다. 도시된 네트워크(100)의 부분은 제 1 최종 사용자와 관련된 사용자 에이전트 클라이언트(UAC)(102), 제 1 서버(104), 제 2 서버(106), 및 제 2 최종 사용자와 관련된 사용자 에이전트 서버(UAS)(108)를 포함하는 통신 경로를 포함한다. 네트워크(100)에서, 최종 사용자는 사용자 에이전트(UA)로 지칭되는 각각의 로직 개체에 의해 처리된다. 이러한 각 UA는 UAC와 UAS 양자 모두를 포함한다. 도 1에 도시된 네트워크(100)의 부분은 명확한 도시를 위해 상당히 단순화되고, 전형적인 네트워크는 다수의 사용자 에이전트를 서빙하는 다수의 서버를 포함할 것이다. 또한, 본 명세서에서 사용된 용어 "경로"는 네트워크의 다수의 서버를 포함하는 어떤 통신 장치도 포함할 수 있도록 광범위하게 해석되며, 임의의 특정 유형의 링크 설정 또는 통신 프로토콜을 필요로 하는 것으로 보여서는 안 된다. 따라서, 예시된 경로는 통신 프로토콜에 따라 설정될 수 있지만, 설정될 필요가 없을 수도 있다.
UAC로부터 UAS로의 SIP 메시지는 요청으로 지칭되고, 반대 방향으로의 SIP 메시지는 응답으로 지칭된다. 이 특정 예에서, UAC(102)에 대응하는 제 1 최종 사용자는 요청(예컨대, 호 개시)을 송신하는 발신자(caller)를 나타내지만, UAS(108)에 대응하는 제 2 최종 사용자는 발신자로부터의 요청을 수신하고 이에 따라 응답하는 착신자(callee)이다. 요청 및 응답은 각각의 실선(110) 및 점선(112)으로 도시된다. 명백하게, 예시된 UAC로부터 UAS로의 요청은 주요 목적이 최종 사용자에 가까운 메시지를 라우팅하는 것인 다수의 서버를 통과한다. 서버는 도메인 네임 시스템(DNS)에 의존하여, 이메일 어드레스와 유사한 SIP 어드레스로부터 IP 어드레스를 결정할 수 있다.
SIP 프로토콜은 다수의 계층으로 구성된다. 하위 계층은 일반적으로 사용자 데이터그램 프로토콜(UDP) 또는 전송 제어 프로토콜(TCP)을 이용할 수 있는 전송(TR) 계층이다. SIP의 핵심인 트랜잭션 계층은 전송 계층의 서비스를 사용하고, 전술한 바와 같이, 도면에 명백하게 도시되지는 않았지만 전형적으로 다수의 서버를 포함할 IP 기반 네트워크를 통해 하나의 SIP 개체로부터 다른 SIP 개체로 메시지를 확실하게 전달한다. 특히, 트랜잭션 계층은 메시지 재전송을 제공하고, 요청에 응답을 일치시키며, 시간 경과(timeout)를 용이하게 한다. 트랜잭션 계층은 클라이언트 트랜잭션(CT) 및 서버 트랜잭션(ST) 부분을 포함한다. 클라이언트 트랜잭션은 트랜잭션 사용자 또는 코어인 상위 계층으로부터 요청을 수신하고, 피어(peer) 서버 트랜잭션에 대한 요청을 확실히 송신한다. 클라이언트 트랜잭션은 메시지가 피어에 의해 수신됨을 보장하도록 타이머 및 재전송에 의존한다. 서버 트랜잭션은 전송 계층으로부터 요청을 수신하고 그 요청을 코어로 전달한다. 또한, 서버 트랜잭션은 피어 클라이언트 트랜잭션에 적합한 응답을 전송함으로써 재전송의 필터링도 제공한다. 클라이언트와 서버 트랜잭션 간의 상호작용은 유한 상태 기계(FSM) 세트에 의해 제어된다.
SIP 기반 네트워크(100)에서, 2 가지 유형의 서버, 즉, 상태 비유지(stateless) 서버(104) 및 상태 유지(stateful) 서버(106)가 존재한다. 상태 비유지 서버(104)는 트랜잭션 계층을 포함하지 않는다. 그 기능은 단지 다음 홉으로 메시지를 전송하는 것뿐이다. 반면에, 상태 유지 서버는 트랜잭션 계층을 종료하며 따라서 추가적인 메시지를 생성할 수도 있다. 예컨대, 업스트림 인접 서버(upstream neighbor)로부터 요청을 수신함에 따라, 상태 유지 서버는 최종 사용자와 접촉하기에 적합한 위치를 결정하기 위해, 다수의 착신지로의 다수의 요청을 생성할 수 있는데, 이는 "포킹(forking)"으로 알려져 있는 기술이다.
도 2는 도 1의 네트워크(100)와 같은 SIP 기반 네트워크의 네트워크 구성요소들 간의 호 흐름을 도시하는 도면이다. 이 예에서, UA A로 지칭된 제 1 UA는 제 2 UA(UA B)로의 호를 개시한다고 가정한다. UA A와 UA B 사이의 메시지는 서버 A와 서버 B로 나타낸 2 개의 서버를 통해 전달된다.
UA A가 UA B로의 호를 개시하면, UA A는 전형적으로 UA B의 SIP 어드레스를 포함하는 INVITE 요청을 UA A의 도메인을 제공하는 아웃밴드 서버(서버 A)로 전송한다. INVITE 요청은 SIP가 필요로 하는 다른 관련 정보뿐만 아니라, 베어 러(bearer) 세션에 필요한 매체 및 코드 유형과 같은 추가적인 정보도 포함한다. INVITE 요청을 수신하면, 서버 A는 UA B를 서빙하는 인바운드 서버(서버 B)를 배치하도록 DNS 질의(도시 생략)를 수행할 가능성이 있다. 이어서 서버 A는 서버 B로 INVITE 요청을 전송한다. 또한, 서버 A는 INVITE 처리가 진행 중임을 나타내도록 UA A로 100 트라잉(trying) 응답을 전송한다.
서버 B가 혼잡해지므로 INVITE 요청이 분실되었다고 가정한다. 만일 전송 계층을 신뢰할 수 없으면(예컨대, UDP), 서버 A에서의 전송 계층은 100 트라잉의 부재로부터 분실을 검출할 것이고, INVITE 요청을 재전송한다. 결국, INVITE 요청이 착신지에 도달하면, UA B는 180 링잉(ringing) 응답으로 응답한다. 만일 착신자가 호에 대답하기로 결정하면, ACK를 리턴함으로써 200 OK 응답을 확인할 수 있는 발신자로 200 OK 응답이 전송된다. 이 시점에서, 베어러 채널이 확립되고 발신자와 착신자 사이의 통신 또는 다른 데이터 전송을 시작할 수 있다. 세션의 종단에서, 어느 한쪽의 상대방은 BYE 요청을 전송함으로써 세션을 종료할 수 있다. 이 예에서, UA A는 UA B로부터의 200 OK 응답에 의해 확인되는 BYE 요청을 전송함으로써 세션을 종료할 수 있다.
이제 도 3을 참조하여 SIP 기반 네트워크에 과부하가 걸리는 경우에 발생할 수 있는 통신폭주 콜랩스를 설명할 것이다. SIP 메시지 분실은 주로 IP 전송 네트워크의 내부 또는 서버에서의 통신폭주 때문에 발생할 수 있다. 제어 및 데이터 트래픽 양자 모두를 전송하는 잘 설계된 네트워크에서, IP 전송 네트워크 내의 SIP 메시지 분실은 상당히 낮을 것으로 예측될 수 있는데, 이는 SIP 트래픽에 훨씬 더 중요한 우세 영역보다 더 높은 우선순위가 주어지지만 덜 중요한 최선 노력 데이터 트래픽이 주어질 것 같기 때문이다. 이는 예컨대, 1998년 12월 IDTF RFC 2174, S. Blake 등의 "An architecture for differentiated services"에 설명된다. 따라서, 서버 폭주에 기인하는 메시지 분실은 SIP 기반 네트워크에서 훨씬 더 중요한 역할을 할 것으로 예측된다.
SIP는 A 내지 K로 나타낸 다양한 타이머를 사용하여 메시지의 확실한 전송을 보장한다. 서버가 폭주할 때, 타이머는 더 많은 폭주를 발생시킬 수 있는 다수의 재전송을 트리거할 수 있다. 도 3은 서버가 과부하 제어를 받지 않는 경우에 제공 부하의 함수로서의 서버의 호 처리량의 예를 도시한다. 플롯은 서버에서의 2 개의 메시지 버퍼 크기(B=1000 메시지 및 B=30000 메시지)를 사용하여 도시된다. 관찰될 수 있듯이, 과부하 제어가 존재하지 않는 경우에, 제공 부하가 서버의 용량을 초과하면 호 처리량은 현저히 감소할 수 있다. 또한, 메시지 버퍼 크기가 증가하면 호 처리량 성능은 더 나빠진다. 이러한 성향은 데이터 트래픽에 대한 통신폭주 콜랩스와 일치한다. 예컨대, 1984년 1월 IETF RFC 896, J. Nagle의 "Congestion control IP/TCP internetworks"를 참조한다.
본 발명은 도 3에 도시된 통신폭주 콜랩스 문제를 방지하는 기술을 제공한다. 예시적인 실시예에서, 이들 기술은 부하 분산 기술과 과부하 제어 기술 양자 모두를 포함한다. 그러나, 본 명세서에 설명된 부하 분산 기술 및 과부하 제어 기술은 서로 단독으로 사용될 수 있다. 즉, 예시된 본 발명의 실시예는 부하 분산만을 구현할 뿐 과부하 제어를 구현할 수 없으며, 반대의 경우도 또한 같다.
이제 본 발명과 함께 사용하기에 적합한 다수의 예시적인 과부하 제어 알고리즘을 설명할 것이다. 예시를 위해, 알고리즘은 서버의 네트워크 상에서가 아니라 단일 서버에서 동작하는 것으로 설명된다. 이들 알고리즘 중 점유 알고리즘(OCC:occupancy algorithm) 및 수락률 알고리즘(acceptance rate algorithm)으로 알려져 있는 2 가지 알고리즘의 종래의 측면은 1990년 11월 27일에 B.L. Cyr 등의 이름으로 발행된 "Load balancing and overload control in a distributed processing telecommunication system"이라는 명칭의 미국 특허 번호 제 4,974,256 호와, 2001년 국제 네트워크 프로토콜 회의에서 S. Kasera 등의 "Fast and robust signaling overload control"에 각각 설명된다. 그러나, 이러한 알고리즘은 지금까지 SIP 콘텍스트에서 사용하기에 적합하지 않았다. 설명될 마지막 과부하 제어 알고리즘은 SIP 기반 네트워크에 과부하 제어를 제공하기에 특히 적합한 것으로 결정하였던 수락률 알고리즘의 개선 버전이다. 본 발명의 실시예가 점유 알고리즘, 수락률 알고리즘, 개선된 수락률 알고리즘 또는 다른 과부하 제어 알고리즘을 이용할 수 있음을 알아야 한다.
점유 알고리즘에서, 서버로의 착신 호는 수락되는 호의 분수를 나타내는 변수 f에 의해 제어된다. 따라서, 새로운 호가 수락될 확률은 f이거나, 등가로, 차단될 확률은 1-f이다. 이 알고리즘을 SIP 콘텍스트에 적용하면, INVITE 요청이 수락될 확률은 f이지만, 서버 내의 메시지 버퍼가 가득 차 있지 않은 한 다른 메시지가 항상 수락된다. 현재 시스템 과부하 상태에 기초하여, 점유 알고리즘의 목적은 높은 호 처리량을 유지하도록 f를 동적으로 조정하는 것이다. 과부하 상태는 τ초 마다 주기적으로 프로브하는 프로세서 이용량 ρ에 기초한다. 각각의 n 번째 에폭(epoch)에서, 평균 프로세서 이용량
Figure 112008075263016-PCT00001
은 갱신되고 타깃 이용량 ρ targ과 비교된다. 평균 이용량은 이전의 에폭 k분의 이동 평균(MA)
Figure 112008075263016-PCT00002
으로서 또는 지수 가중된 이동 평균(EWMA)
Figure 112008075263016-PCT00003
(0<β<1)에 의해 계산될 수 있다.
점유 알고리즘의 기본 개념은
Figure 112008075263016-PCT00004
이면 f를 증가시키고, 그렇지 않으면 f를 감소시키는 것이다. f(n)은 현재 에폭 n에서 새롭게 갱신된 f를 나타내지만, f(n-1)은 에폭 n-1에서 갱신된 f를 나타낸다. 각 에폭에서 f를 갱신하는 알고리즘은 다음과 같이 설명된다.
Figure 112008075263016-PCT00005
여기서, f min은 수락된 트래픽의 최소 분수에 대한 임계치를 나타낸다. 곱셈 인수 φ는 다음과 같다.
Figure 112008075263016-PCT00006
여기서, φ max는 한 에폭으로부터 다음 에폭으로의 f의 최대 가능 곱셈 증가율을 나타낸다.
이상에 인용된 S. Kasera 등의 참조문에서, ρ가 1을 초과할 수 없으므로, 시스템에 과부하가 걸리는 경우에 점유 알고리즘은 f를 10 % 초과하여 감소시킬 수 없음을 나타내며 따라서 알고리즘은 갑작스러운 트래픽 서지 하에서 너무 느리게 반응할 수 있다. 수락률 알고리즘의 기본 개념은
Figure 112008075263016-PCT00007
대신에
Figure 112008075263016-PCT00008
을 사용하는 것인데, 여기서,
Figure 112008075263016-PCT00009
은 시스템으로의 평균 호 수락률을 나타낸다. 타깃 수락률 α targα targ = μρ targ로 설정될 수 있는데, 여기서 μ
Figure 112008075263016-PCT00010
으로 추정될 수 있는 시스템 호 전송 용량이다. α targ
Figure 112008075263016-PCT00011
에 대한 평균보다 더 평탄한 평균을 가진 EWMA만큼 갱신된다고 제안한다. 수락률 알고리즘은 후속하는 곱셈 인수를 사용한다.
Figure 112008075263016-PCT00012
종래의 점유 알고리즘 및 수락률 알고리즘이 시스템 내의 미완료 작업을 고려하지 않는다는 점에서 이들의 구현에 문제가 있음을 인지해 왔다. 구체적으로,
Figure 112008075263016-PCT00013
이면, 메시지 큐 내용과 무관하게 f(n)=f(n-1)이다. 그 대신에,
Figure 112008075263016-PCT00014
인 경우에, 큐 내용이 너무 하이이면 f(n)을 감소시키기를 원하고, 큐 내용이 너무 로우이면 f(n)을 증가시키기를 원한다. 제 2 관찰은 타깃 파라미터와 비교되는 변수 간의 동일한 양의 차이(양수 또는 음수)에 대해 이상의 알고리즘이 f(n)을 감소시키려고 하는 것보다 많이 f(n)을 증가시키려 하는 것이다. 따라서, 다음과 같이 개선된 수락 알고리즘에 대해 φ를 변경한다.
Figure 112008075263016-PCT00015
여기서, q는 각 메시지 도달에서 EWMA를 사용하여 갱신된, 메시지 수로의 평균 큐 길이이고, q targ는 큐 타깃이며, N은 호당 평균 메시지 수이다. 각 메시지 도 달에서 평균 큐 길이의 갱신은 사건 구동식(event-driven) 갱신 유형으로 보일 수 있다. 이러한 사건 구동식 갱신의 다른 예는 1993년 8월 IEEE 트랜잭션 네트워킹 제1권 제4호 397 - 413 페이지의 S. Floyd 등의 "Random early detection gateways for congestion avoidance"에 설명된다.
SIP 환경에서 이전의 과부하 제어 알고리즘의 성능을 평가하기 위해, 도 1의 상태 유지 서버(106)와 같은 SIP의 전(full) 트랜잭션 계층을 구현하는 서버를 시뮬레이션할 수 있다. 구체적으로, 새로운 요청 또는 응답이 처리되면, 클라이언트 트랜잭션이 생성되고 이어서 FSM에 의해 상태가 제어된다. 메시지가 요청인지 응답인지의 여부 및 메시지 유형이 INVITE 인지 비-INVITE인지 여부에 따라 SIP에 4 가지 유형의 FSM이 존재한다.
도 4는 도 1의 서버(106)와 같은 상태 유지 서버에서 구현될 수 있는 큐잉 시스템(400)의 구성을 도시한다. 시스템(400)은 메시지 버퍼(402), 타이머 버퍼(404) 및 중앙 처리 장치(CPU)(406)로 예시적으로 도시된 프로세서를 포함한다. 상태 비유지 서버에 대한 균등한 시스템은 상태 비유지 서버가 전송자로서 작동하므로 타이머 버퍼를 구비하지 않는다. 만일 이용가능한 공간이 존재하면, 착신 INVITE 메시지는 메시지 버퍼에서 큐잉된다. 물론 다른 것들이 사용될 수 있지만, FIFO 큐잉 규율을 가정한다. CPU(406)는 필요한 FSM을 실행하고, 다음 홉으로의 메시지를 생성하며, 아마 타이머를 시작하는 큐의 헤드에서 메시지를 서빙한다. 타이머는 점화 시간에 따라 저장된 타이머 큐에 배치될 수 있다. 타이머가 점화될 때, 관련된 콘텍스트는 메시지 버퍼로 큐잉되고, 타이머의 리셋 버전은 타이머 버 퍼에서 재큐잉된다. 간단히 만료되는 타이머는 시스템을 떠난다. 만일 새로운 호가 차단되면, 서버에 의해 500 응답이 생성된다.
도 5는 각 서버가 소원(small circle)으로 표시된 서버의 배치를 도시하는 SIP 기반 네트워크의 토폴로지의 가능한 일례를 도시한다. 이 네트워크는 서버 1 및 2로 나타낸 코어 서버, 서버 3, 4, 5, 6 및 7로 나타낸 입구/출구 서버를 포함한다. 입구/출구 서버 각각은 도시되지 않은 다수의 UA 및 코어 서버 1 및 2에 결합된다. 이러한 유형의 토폴로지를 갖는 네트워크는 이하의 도 6 내지 도 8, 도 11 및 도 12를 참조하여 본 발명의 부하 분산 및 과부하 제어 기술을 설명하는 데 사용될 것이다.
도 5에 도시된 토폴로지를 갖는 SIP 기반 네트워크의 성능을 평가하는 데 있어서, 무한 모집단(infinite population)의 UA가 푸아송 프로세스에 따라 λ호/초의 집합 속도로 단대단(end-to-end) 호를 개시한다고 가정한다. 예시된 UA 쌍 사이의 모든 메시지는 각각 도 4에 도시된 큐잉 시스템을 가진 다수의 서버를 통해 선회한다. 재전송이 SIP FSM에 의해 완전히 제어된다는 점을 제외하고는 도 2의 호 흐름과 유사한 호 흐름을 사용한다. 과부하 제어 알고리즘에서 사용될 수 있는 파라미터 값의 예는 이하의 표 1에 열거된다. 이들 특정 값을 예로써만 나타내며, 다른 실시예에서 다른 값, 파라미터 세트 및 과부하 제어 알고리즘이 사용될 수 있음을 알아야 한다. 또한, 본 명세서에서 예시적인 실시예를 설명할 때 이루어진 전술한 가정 및 다른 가정은 본 발명을 제한하는 것으로 해석되어서는 안 된다. 본 발명은 하나 이상의 가정이 적용되지 않는 다른 실시예로 구현될 수 있다.
Figure 112008075263016-PCT00016
이제 본 발명의 예시적인 실시예의 SIP 기반 네트워크 또는 다른 유형의 네트워크에서 사용할 다수의 과부하 제어 기술을 설명할 것이다.
이와 달리 종래의 SIP 메시지를 사용하여 과부하를 통지하는 데 이용될 수 있는 다수의 방안이 존재한다. 한 방안은 과부하 서버에서 업스트림 인접 서버로 503 서비스 이용불가 응답을 전송함으로써 과부하 서버의 통지를 제공하는 것이다. 이 응답은 Retry-After 헤더 필드를 통해 과부하 서버가 이용 불가능해질 시간을 지정할 것이다. 이 메시지를 수신하면, 업스트림 인접 서버는 주어진 구간 동안 요청의 착신지에 상관없이 과부하 서버로 어떤 다른 요청도 전송하지 않을 것이다. 그러나, 업스트림 인접 서버는 여전히 과부하 서버로 응답을 전송할 수 있다. 503 응답은 전형적으로 대용량의 트래픽이 다른 서버로 전환되게 하므로, 이 메커니즘이 과부하에 좋지 않게 반응하며, 차례로 다른 서버에도 과부하를 초래한다는 것을 알게 되었다. 만일 다른 서버도 동일한 메커니즘을 구현하면, 과부하는 한 서버에서 다른 서버로 발진할 것이다.
과부하를 통지하는 데 사용될 수 있는 다른 메시지는 500 서버 내부 에러이다. 사실상 포괄적인 503 응답과 달리, 500 응답은 주어진 호에 대해 국부적으로만 적용가능하다. 과부하를 제어하게 위해, 새로운 호를 거절하도록 INVITE 요청에 응답하여 500 응답이 가장 효율적으로 적용된다.
다른 방안은 과부하를 나타내는 통지 메시지를 명백하게 전송하지 않는 것이 아니라, 새로운 호를 차단하도록 INVITE 요청을 간단하게 드롭시키는 것이다. 일반적으로 이 방안은 대다수의 재전송을 발생시킬 수 있으므로 잘 작용하지 않을 수 있다.
다른 중요한 이슈는 과부하 통지를 개시하는 서버의 위치에 대한 것이다.
본 명세서에서 로컬 과부하 제어로 지칭되는 가장 간단한 방안은 과부하 서버마다 통지를 자율적으로 개시하는 것이다. 예가 도 11에 도시되어 있는데, 여기서 서버 S6는 500 응답 업스트림을 전송함으로써 호를 거절하는 데 그 자신의 로컬 정보를 사용하며, 보다 상세히 후술될 것이다. 이 방안의 이점은 로컬 정보만을 사용하여 결정한다는 것이다. 그러나, 이 방안은 과부하 서버를 더 악화시킬 수 있는 호를 차단하기 위해 추가적인 리소스를 소비할 수 있다.
입구 과부하 제어로 지칭되는 다른 방안은 예컨대, 100 트라잉 응답 내의 새로운 헤더를 통해 타깃마다 업스트림 과부하 상태 정보를 전달하는 것이다. 이 정보를 전송하는 각 서버는 그 자신의 과부하 상태 값과 수신된 다운스트림 과부하 상태 값을 비교하고, 2 개의 과부하 상태 값 업스트림의 최대값을 전달할 것이다. 주어진 타깃의 경우에, 입구 서버는 과부하 상태 정보에 기초하여 새로운 호를 수락할 것인지 또는 차단할 것인지를 결정한다. 도 12에 예가 도시되어 있으며, 보다 상세히 후술될 것이다. 입구 과부하 제어는 네트워크 코어 내의 리소스가 차단된 호에 대해 비경제적으로 소비되지 못하게 한다. 그러나, 주어진 타깃에 대해 다수의 루트가 존재할 수 있으므로 이 방안은 실행되기 어려울 수 있다. 이 문제를 해결하는 한 방법은 가능한 루트를 사이에서 최대 과부하 상태를 사용하는 것이다.
이전의 2 가지 방안 사이를 중재하는 제 3 방안은 피널터멋(penultimate) 과부하 제어로 지칭된다. 여기서 과부하 서버 이전의 서버는 새로운 호를 차단하는 서버이다. 도 11을 다시 참조하면, 예가 도시되는데, 여기서 피널터멋 서버가 서버 S4이다. 따라서, 이 방안도 과부하 서버가 추가적인 리소스를 소비하지 않게 한다. 그러나, 이 방안은 호 거절을 시작하고 중지할 때를 통지하기 위해 보다 지능적인 메시지 교환을 필요로 한다.
전술한 바와 같이, 본 발명의 예시적인 실시예는 부하 분산 기술과 과부하 제어 기술 양자 모두를 통합할 수 있다. 이제 도 6 내지 도 10을 참조하여 예시적인 부하 분산 기술을 보다 상세히 설명할 것이고, 이어서 도 11 및 도 12를 참조하여 예시적인 과부하 제어 기술을 더 설명할 것이다. 마지막으로, 이러한 부하 분산 및 과부하 제어 기술의 조합된 사용에 기인하는 성능 강화의 예시가 도 13 및 도 14를 참조하여 설명될 것이다.
이제 도 6 및 도 7을 참조하면, 본 명세서에서 다음 홉 부하 분산으로 지칭된 방안이 설명된다. 도시된 SIP 기반 네트워크에서, 도시된 바와 같이 UA(600)는 서버 S1, S2, S5 및 S6에 결합된다. 이들 서버는 도 5의 예시적인 토폴로지에 도시된 것과 같은 입구/출구 서버이다. 서버 S1, S2, S5 및 S6 각각은 코어 서버 S3 및 S4에 결합된다. 따라서, 도 6 및 도 7뿐만 아니라, 도 8, 도 11 및 도 12에 도시된 네트워크는 도 5에 도시된 유형의 토폴로지를 갖는다. 다시 한번, 이 네트워크 토폴로지는 예시적일 뿐이며, 설명된 기술은 간단한 방식으로 다수의 다른 토폴로지에 적응될 수 있다.
다음 홉 부하 분산 방안에서, 각 서버는 다운스트림 인접 서버로부터 수신된 통신폭주 피드백 정보에 근거하여 이들 인접 서버로의 라우팅 확률을 독립적으로 및 동적으로 조정한다. 예컨대, 도 6에 도시된 바와 같이, 서버 S1은 SIP 요청 메시지를 S5에 접속된 UA로, 즉, 다운스트림 서버 S3 및 S4를 통해 전송하기 위한 2 개의 루트를 갖는다. S1으로부터 SIP INVITE 메시지를 수신하면, 다음 홉 S3 및 S4은 S1으로 되돌아가서 INVITE에 응답하여 100 트라잉 메시지에 이 정보를 첨부함으로써 그들의 통신폭주량을 주기적으로 통지할 수 있다. 도 6의 예에서, S3은 통신폭주량이 이용량 u=0.2임을 통지하지만, S4는 그 통신폭주량으로서 u=0.6임을 독립적으로 통지한다.
이 예에서 통신폭주량은 이용량이지만, 광범위하게 다양한 다른 유형의 통신폭주량이 사용될 수 있다. 따라서 본 명세서에서 사용된 용어 "통신폭주량"은 일반적으로 예컨대, 프로세서 이용량, 메시지 처리 부하, 버퍼 점유량, 메시지 처리 지연 또는 통신폭주를 나타내는 임의의 다른 유형의 정보뿐만 아니라, 이러한 양 또는 정보의 조합도 포함하도록 해석된다.
S3 및 S4로부터 수신된 피드백 정보로부터, S1은 S3 및 S4에서의 통신폭주량을 균등화하기 위해 라우팅 확률을 조정한다. 이러한 라우팅 확률의 조정은 결국 코어 서버 S3 및 S4에서의 부하 분산 상태를 야기하는 라우팅 확률의 변화를 예시하는 도 7에 도시된다. 보다 구체적으로, 서버 S4가 서버 S3보다 높은 이용량을 가짐을 나타내는 피드백 정보에 응답하여, 서버 S1은 예컨대, 주어진 메시지를 서버 S4로 라우팅할 확률이 0.4이고, 예컨대, 주어진 메시지를 서버 S3로 라우팅할 확률이 0.6이도록 라우팅 확률을 조정한다. 이러한 조정은 서버 S3으로 라우팅된 메시지의 수를 증가시키지만, 서버 S4로 라우팅된 메시지의 수를 감소시키기 쉬울 것이며, 이로써 도시된 바와 같이 부하 분산 상태가 된다.
본 발명의 주어진 실시예에서 이용될 수 있는 다른 부하 분산 방안은 본 명세서에서 타깃 기반 부하 분산으로 지칭된다. 도 8은 이 방안이 전술한 바와 같이 배치된 서버 S1 내지 S6을 포함하는 SIP 기반 네트워크에 적용됨을 도시한다. 이 방안은 다운스트림 서버로부터 타깃 서버로의 경로를 따라 통신폭주 정보를 사용한다. 특히, 통신폭주량은 다운스트림 서버로부터 타깃 서버로의 최악의 통신폭주량을 나타낸다. 도면에서, 서버 S3, S4 및 S5의 이용량이 각각 0.2, 0.6 및 0.3임을 알 수 있다. 서버 S1과 타깃 서버 S5 사이에 도시된 2 가지 경로가 존재하는데, 하나는 서버 S3을 경유하고 다른 하나는 서버 S4를 경유한다. S3을 통해 S5로의 경로에 대한 최대 이용량은 0.3인 S5 이용량이며, 그 결과 이용량이 피드백 정보로서 S1으로 되돌아 전달된다. 이와 유사하게, S4를 통해 S5로의 경로에 대한 최대 이용량은 0.6인 S4 이용량이며, 그 결과 이용량이 피드백 정보로서 S1으로 되돌아 전달된다. 이어서 서버 S1은 이에 따라 라우팅 확률을 조정하여, 부하 분산 상태를 야기한다.
전술한 다음 홉 부하 분산 기술과 타깃 기반 부하 분산 기술의 차이는 도 9에 도시된다. 이 예에서, 소스 서버 S는 관련 라우팅 확률이 q1 및 q2인 제 1 및 제 2 경로를 통해 타깃 서버 T로 메시지를 라우팅한다. 제 1 및 상위 경로는 각각 이용률이 0.2 및 0.6인 서버(901,902)를 통과한다. 제 2 또는 하위 경로는 각각 이용률이 0.5 및 0.1인 서버(903,904)를 통과한다.
다음 홉 부하 분산 방안에서, 서버(903)의 이용률 값 0.5가 서버(901)의 이용률 값 0.2보다 크므로, 서버 S에서의 라우팅 확률 q1 및 q2은, 서버(901) 및 서버(903)에서의 이용률 값이 실질적으로 동일해질 때, 즉, 부하 분산될 때까지 라우팅 확률 q1은 증가하지만 라우팅 확률 q2은 감소하도록 조정될 것이다.
타깃 기반 부하 분산 방안에서, 제 1 및 제 2 경로에서의 최고 이용량 값은 각각 서버(902)의 이용량 값 0.6 및 서버(903)의 이용량 값 0.5이다. 제 1 경로의 최고 이용량 값이 제 2 경로의 최고 이용량 값보다 높으므로, 서버 S에서의 라우팅 확률 q1 및 q2은, 부하 분산 상태가 될 때까지 라우팅 확률 q2은 증가하지만 라우팅 확률 q1은 감소하도록 조정될 것이다. 2 가지 방안이 동일한 서버 이용량 값 세트에 대해 상이한 라우팅 확률 결과를 산출할 수 있음을 알 수 있다. 특정 상태 하에서 타깃 기반 부하 분산뿐만 아니라 다음 홉 부하 분산도 수행하지 않을 수도 있지만, 다음 홉 부하 분산은 타깃 기반 부하 분산보다 구현하기가 더 간단하다.
도 10은 피드백 정보가 주어진 노드에서 네트워크를 통해 전달될 수 있고 라우팅 표(1000)에 저장될 수 있는 방법을 도시한다. 이 예에서 네트워크는 소스 노드 a 및 이용률이 각각 0.1, 0.1, 0.2, 0.5, 0.3, 0.4, 0.4, 0.3 및 0.1인 추가적인 노드 i, j, k, l, m, n, r, s 및 z를 포함한다. a로부터 z까지의 경로는 (1) (a, i, k, m, n, z), (a, i, k, m, r, z), (a, i, k, l, k, m, n, z), (a, j,...,s, z) 등과 같은 루트를 통과할 수 있다. 특히, 경로가 (a, i, k, m, n, z)를 따르면, i로부터 a로 리턴되는 피드백 정보는 0.4이다. 경로가 (a, i, k, l, k, m, n, z)를 따르면, i로부터 a로 리턴되는 피드백 정보는 0.5이다. 이 경로 다양성은 SIP에서 허용되는 나선형 때문이다.
전술한 타깃 기반 부하 분산 방안에 따르면, 노드 a와 노드 z 사이의 상위 경로의 최고 이용량의 범위는 0.4 내지 0.5이지만, 노드 a와 노드 z 사이의 하위 경로의 최고 이용량은 0.3이다. 이 피드백 정보는 네트워크를 통해 노드 a로 되돌아 전달되는데, 여기서 피드백 정보는 라우팅 표(1000)에 저장된다. 상위 경로에 대한 통신폭주량의 단일 값을 지정하는 데 다양한 방안이 사용될 수 있다. 간단한 방안은 상위 경로 통신폭주량에 대해 최악의 경우의 값 0.5를 취하는 것이다. 라우팅 표는 명확한 도시를 위해 상당히 간단해지지만, 일반적으로 타깃 노드, 타깃으로의 특정 경로를 나타내는 경유 노드, 특정 경로에 대한 최고 이용량, 및 라우팅 확률에 대한 열을 포함한다. 물론, 다수의 다른 라우팅 표 포맷도 본 발명을 구현하는 데 사용될 수 있다.
서버 i로 나타낸 주어진 서버 내에서, 전술한 다음 홉 또는 타깃 기반 부하 분산 방안을 구현하는 데 사용될 수 있는 분포형 부하 분산 알고리즘의 가능한 일례는 다음과 같다.
xij(d) = i로부터 다음 홉 j까지의 트래픽의 분수(타깃 d까지 정해짐) 라고 하자.
uij(d) = 서버 i에 의해 관찰된 j를 통해 (타깃 d까지) "고른" 이용량 이라고 하자.
각 갱신에서,
Figure 112008075263016-PCT00017
을 계산하는데, 여기서
Figure 112008075263016-PCT00018
이다.
이어서 새로운 트래픽 할당은 다음과 같다.
Figure 112008075263016-PCT00019
이 예에서, xij(d) 값은 일반적으로 전술한 라우팅 확률에 대응한다. 각 서버에서 주기적으로, 예컨대, T 초마다 알고리즘이 실행될 수 있다. 본 명세서에 설명된 다음 홉 또는 타깃 기반 부하 분산 방안을 구현하는 다른 적합한 알고리즘은 당업자에게 자명할 것이다.
이상에 언급한 바와 같이, 이제 도 11 및 도 12를 참조하여, 전술한 로컬, 피널터멋 및 입구 과부하 제어 기술을 설명할 것이다. 이들 과부하 제어 기술은 본 명세서에 이미 설명되었지만, 부하 분산 기술을 예시하는 도 6 내지 도 8에서 사용된 것과 유사한 구성을 가진 간단한 SIP 기반 네트워크를 포함하는 특정 예를 참조하여 더 설명될 것이다.
처음으로 도 11을 참조하면, 로컬 과부하 제어 기술이 설명된다. 이 예에서 SIP 기반 네트워크는 도 6 내지 도 8의 예에서와 같이 상호접속된 UA 및 서버 S1 내지 S6을 포함한다. 서버 S6에 과부하가 걸릴 수 있으므로, 새로운 호가 이 서버에 의해 국부적으로 거절됨을 알 수 있다. 이 예에서 과부하를 통지하는 데 사용되는 메커니즘은 전술한 500 서버 내부 에러 메시지이다. 전술한 바와 같이, 500 응답은 주어진 호에 대해 국부적으로만 적용가능하고, INVITE 요청에 응답하여 가장 효율적으로 적용된다. 따라서, 이 방안은 로컬 정보만 이용하지만, 호를 거절하는 데 다른 로컬 리소스도 소비한다.
도 11에는 과부하 서버 S6이 500 응답의 생성과 관련된 추가적인 프로세싱을 유리하게 수행하지 않게 하는 다른 피널터멋 과부하 제어 방안도 도시된다. 이는 호가 과부하 서버 S6이 아니라 서버 S4에서 거절되게 함으로써 달성된다. 따라서 S4는 다운스트림 인접 서버 S6으로부터 정보를 필요로 할 것이다.
도 12는 새로운 호가 도시된 예에서 서버 S2인 입구 노드에서 거절되는 입구 과부하 제어 방안을 도시한다. 서버 S6에서 0.95의 이용률 값의 형태로 과부하 상태를 나타내는 피드백 정보는 네트워크를 통해 서버 S6으로 전달된다. 서버 S2는 이 정보를 사용하여, 서버 S6으로 지시되고 있는 새로운 호를 거절한다. 유리하게, 이 입구 과부하 제어 방안은 호가 차단되는 경우에 네트워크 코어 내의 리소스가 불필요하게 소비되지 않게 한다. 그러나, 이 입구 과부하 제어 방안은 일부 실시예에서 쉽게 이용할 수 없을 수도 있는 경로 정보를 사용한다.
전술한 설명으로부터 명백하게, 도 6 내지 도 12의 예에 관련하여 설명된 예시적인 실시예는 피드백 정보를 이용하여 부하 분산 및 과부하 제어를 제공한다. 본 발명의 일 측면에 따른 이 피드백 정보 및 관련된 부하 분산 및 과부하 제어 기술은 본 명세서에서 "과부하 안전 SIP" 또는 OS-SIP로 지칭되는 강화된 SIP 유형을 제공한다. OS-SIP가 부하 분산 및 과부하 제어 양자 모두를 이용하지만, 다른 실시예가 부하 분산과 과부하 제어 양자 모두가 아니라 어느 하나를 이용할 수 있음을 교시한다.
도 13 및 도 14는 종래의 SIP와 OS-SIP의 성능을 비교하는, 처리량 및 링 지연 각각을 제공 부하의 함수로서 나타낸 플롯을 도시한다. 이들 플롯은 도 6 내지 도 8, 도 11 및 도 12에 도시된 예시적인 SIP 기반 네트워크 유형에 관하여 생성되되, 이들 도면에 도시된 바와 같이 6 개의 서버 S1 내지 S6은 상호접속된다. 하부 IP 네트워크는 통신폭주가 아니었으며, 호가 푸아송 프로세스에 따라 도달하였다고 가정하였다. 실패한 호가 재시도할 확률은 0.1이라고 가정한다. 또한, 호 보류 시간은 평균 150 초로 지수 분포된다고 가정하고, 벨 울림에서 착신까지의 지연은 평균 3 초로 균등 분포된다고 가정한다. 서버 S1 및 S2로부터의 라우팅 확률은 각각 초기에 q1 = q3 = 0.4이고 q2 = q4 = 0.6인 {q1, q2} 및 {q3, q4}와 같다. 서버에 대한 상대적인 가속 인수는 S1=0.6, S2=0.6, S3=0.6, S4=0.3, S5=0.5 및 S6=0.5이다. 또한, 이 예에서 모든 서버는 상태 유지인 것으로 가정한다.
이제 도 13을 참조하면, 종래의 또는 "기존의" SIP와 OS-SIP의 성능을 비교하는, 처리량을 제공 부하의 함수로서 나타낸 플롯이 도시된다. 종래의 SIP에 대한 처리량은 실 곡선을 따라가고, 이 예에서는 초당 약 800 개의 호에서의 통신폭주 콜랩스 문제를 나타낸다. OS-SIP 성능은 점 곡선으로 도시된다. 과부하 제어의 이용 때문에 OS-SIP가 종래의 SIP에 의해 나타난 통신폭주 콜랩스를 피한다는 것은 물론 자명하다. 또한, OS-SIP는 종래의 SIP에 비해 초당 약 100 개의 호의 최대 처리량까지 증가한 용량을 나타낸다. 이 증가한 용량은 본 명세서에 설명된 바와 같이 부하 분산 기술의 사용 때문이다. 도 13의 플롯은 OS-SIP가 현저한 성능 개선을 전달하고, 트래픽 부하에 상관없이 고 신뢰도 서비스를 제공함을 증명한다.
도 14를 참조하면, OS-SIP가 종래의 SIP에 비해 링 지연의 실질적인 개선도 제공한다는 것 또한 자명하다. 보다 구체적으로, OS-SIP는 트래픽 부하가 대량인 경우에도 수락가능한 지연 성능을 보장한다.
다시 한번, 특정 파라미터, 가정, 네트워크 토폴로지 및 전술한 예시적인 실시예의 다른 특징이 예로써만 나타냄을 알아야 한다. IMS 네트워크와 같은 SIP 기반 네트워크를 사용하는 것이 특히 유용하지만, 본 명세서에 설명된 기술은 임의의 다수의 상이한 통신 프로토콜을 사용하여, 광범위하게 다양한 다른 유형의 통신 네트워크에도 적용될 수 있다. 첨부된 특허청구범위의 범주 내에 있는 이들 및 다수의 다른 실시예는 당업자에게 쉽게 자명할 것이다.

Claims (10)

  1. 복수의 서버를 포함하는 네트워크에서 메시지를 라우팅하는 방법에 있어서,
    상기 네트워크의 다운스트림 서버로부터의 피드백 정보를 제 1 서버에서 수신하는 단계 -상기 다운스트림 서버는 상기 제 1 서버와 타깃 서버 사이의 각각의 제 1 및 제 2 경로와 관련된 적어도 제 1 및 제 2 다운스트림 서버를 포함하고, 상기 피드백 정보는 상기 각각의 다운스트림 서버에 대한 통신폭주량(congestion measures)을 포함함- 와,
    상기 다운스트림 서버의 통신폭주량 사이의 불균형을 보상하도록 상기 수신된 피드백 정보에 기초하여 상기 제 1 서버에서 메시지 라우팅 프로세스를 조정하는 단계를 포함하는
    메시지 라우팅 방법.
  2. 제 1 항에 있어서,
    상기 피드백 정보는 상기 제 1 서버와 상기 타깃 서버 사이의 상기 제 1 및 제 2 경로 중 동일한 경로에서 복수의 서버의 통신폭주량 중 최고 통신폭주량을 포함하는
    메시지 라우팅 방법.
  3. 제 1 항에 있어서,
    상기 제 1 및 제 2 다운스트림 서버 중 하나는 상기 타깃 서버인
    메시지 라우팅 방법.
  4. 제 1 항에 있어서,
    상기 제 1 및 제 2 다운스트림 서버 중 적어도 하나는 상기 제 1 서버의 가장 가까운 인접 서버인
    메시지 라우팅 방법.
  5. 제 1 항에 있어서,
    상기 피드백 정보에 기초하여 상기 제 1 서버에서 메시지 라우팅 프로세스를 조정하는 단계는 주어진 메시지 세트가 상기 제 1 및 제 2 경로 상에서 라우팅될 상대 확률을 지정하는 라우팅 정보를 조정하는 단계를 더 포함하는
    메시지 라우팅 방법.
  6. 네트워크 내의 메시지 라우팅에 사용하는 장치에 있어서,
    상기 네트워크의 다운스트림 서버 -상기 다운스트림 서버는 상기 제 1 서버와 타깃 서버 사이의 각각의 제 1 및 제 2 경로와 관련된 적어도 제 1 및 제 2 다운스트림 서버를 포함하고, 상기 피드백 정보는 상기 각각의 다운스트림 서 버에 대한 통신폭주량을 포함함- 로부터 피드백 정보를 수신하도록 구성된 상기 네트워크의 제 1 서버를 포함하되,
    상기 제 1 서버는 상기 다운스트림 서버의 통신폭주량 사이의 불균형을 보상하도록 상기 수신된 피드백 정보에 기초하여 상기 제 1 서버의 메시지 라우팅 프로세스를 조정하도록 더 구성된
    메시지 라우팅에 사용하는 장치.
  7. 복수의 서버를 포함하는 네트워크에서 메시지를 라우팅하는 방법에 있어서,
    상기 네트워크의 적어도 하나의 다운스트림 서버로부터의 피드백 정보를 제 1 서버에서 수신하는 단계 -상기 다운스트림 서버는 상기 제 1 서버와 타깃 서버 사이의 경로와 관련되고, 상기 피드백 정보는 상기 다운스트림 서버에 대한 통신폭주량을 포함함- 와,
    상기 피드백 정보에 기초하여 사용자 에이전트로 전달할 차단 메시지를 상기 제 1 서버에서 생성하는 단계를 포함하는
    메시지 라우팅 방법.
  8. 제 7 항에 있어서,
    상기 피드백 정보는 상기 제 1 서버와 상기 타깃 서버 사이의 상기 경로에서 복수의 서버의 통신폭주량 중 최고 통신폭주량을 포함하는
    메시지 라우팅 방법.
  9. 제 7 항에 있어서,
    상기 다운스트림 서버는 상기 제 1 서버의 가장 가까운 인접 서버인
    메시지 라우팅 방법.
  10. 네트워크 내의 메시지 라우팅에 사용하는 장치에 있어서,
    상기 네트워크의 적어도 하나의 다운스트림 서버 -상기 다운스트림 서버는 상기 제 1 서버와 타깃 서버 사이의 경로와 관련되고, 상기 피드백 정보는 상기 다운스트림 서버에 대한 통신폭주량을 포함함- 로부터 피드백 정보를 수신하도록 구성된 상기 네트워크의 제 1 서버를 포함하되,
    상기 제 1 서버는 상기 피드백 정보에 기초하여 사용자 에이전트로 전달할 차단 메시지를 생성하도록 더 구성되는
    메시지 라우팅에 사용하는 장치.
KR1020087026552A 2006-03-31 2007-03-30 메시지 라우팅 방법 및 메시지 라우팅에 사용하는 장치 KR101389155B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US11/395,455 US9219686B2 (en) 2006-03-31 2006-03-31 Network load balancing and overload control
US11/395,455 2006-03-31
PCT/US2007/008244 WO2007117421A1 (en) 2006-03-31 2007-03-30 Network load balancing and overload control

Publications (2)

Publication Number Publication Date
KR20090006135A true KR20090006135A (ko) 2009-01-14
KR101389155B1 KR101389155B1 (ko) 2014-04-24

Family

ID=38328200

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020087026552A KR101389155B1 (ko) 2006-03-31 2007-03-30 메시지 라우팅 방법 및 메시지 라우팅에 사용하는 장치

Country Status (7)

Country Link
US (2) US9219686B2 (ko)
EP (1) EP2002619B1 (ko)
JP (1) JP5137941B2 (ko)
KR (1) KR101389155B1 (ko)
CN (1) CN101416453A (ko)
AT (1) ATE513394T1 (ko)
WO (1) WO2007117421A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101382177B1 (ko) * 2012-09-27 2014-04-07 삼성에스디에스 주식회사 동적 메시지 라우팅 시스템 및 방법

Families Citing this family (97)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2441203T3 (es) 1999-06-08 2014-02-03 The Trustees Of Columbia University In The City Of New York Aparato y sistema de telefonía de red para telefonía por inter/intranet
US9219686B2 (en) 2006-03-31 2015-12-22 Alcatel Lucent Network load balancing and overload control
KR100966047B1 (ko) * 2006-08-25 2010-06-28 삼성전자주식회사 통신시스템에서 미디어 송신 방법 및 장치
US7441429B1 (en) 2006-09-28 2008-10-28 Narus, Inc. SIP-based VoIP traffic behavior profiling
FI20065651A0 (fi) * 2006-10-12 2006-10-12 Nokia Corp Ryhmäviestintä
US7991910B2 (en) 2008-11-17 2011-08-02 Amazon Technologies, Inc. Updating routing information based on client location
US8028090B2 (en) 2008-11-17 2011-09-27 Amazon Technologies, Inc. Request routing utilizing client location information
US8683034B2 (en) * 2007-10-02 2014-03-25 At&T Intellectual Property I, L.P. Systems, methods and computer program products for coordinated session termination in an IMS network
JP5104246B2 (ja) * 2007-11-21 2012-12-19 日本電気株式会社 通信システム、加入者収容装置、トラフィック制御方法及びプログラム
JP4940163B2 (ja) * 2008-02-05 2012-05-30 株式会社日立製作所 通信ゲートウェイ装置及び中継方法
FR2928801A1 (fr) * 2008-03-17 2009-09-18 France Telecom Procede de gestion de charge d'un equipement d'un systeme de mise en oeuvre d'un service applicatif
US7970820B1 (en) 2008-03-31 2011-06-28 Amazon Technologies, Inc. Locality based content distribution
US7962597B2 (en) 2008-03-31 2011-06-14 Amazon Technologies, Inc. Request routing based on class
US8606996B2 (en) 2008-03-31 2013-12-10 Amazon Technologies, Inc. Cache optimization
US8321568B2 (en) 2008-03-31 2012-11-27 Amazon Technologies, Inc. Content management
US8601090B1 (en) 2008-03-31 2013-12-03 Amazon Technologies, Inc. Network resource identification
US8447831B1 (en) 2008-03-31 2013-05-21 Amazon Technologies, Inc. Incentive driven content delivery
US8285868B2 (en) * 2008-04-08 2012-10-09 Verizon Patent And Licensing Inc. Session initiation protocol (SIP) overload protection
US7814193B2 (en) * 2008-05-06 2010-10-12 At&T Intellectual Property I, L.P. Distributing user endpoint registrations among border elements in a next generation network
US20090300209A1 (en) * 2008-06-03 2009-12-03 Uri Elzur Method and system for path based network congestion management
JP5088239B2 (ja) * 2008-06-04 2012-12-05 日本電気株式会社 輻輳制御システム、境界ゲートウェイ装置及びそれらに用いる輻輳制御方法
JP5012676B2 (ja) * 2008-06-05 2012-08-29 富士通株式会社 無効呼接続処理の回避方法
US8160063B2 (en) 2008-06-09 2012-04-17 Microsoft Corporation Data center interconnect and traffic engineering
US9407681B1 (en) 2010-09-28 2016-08-02 Amazon Technologies, Inc. Latency measurement in resource requests
JP5500171B2 (ja) * 2008-10-06 2014-05-21 日本電気株式会社 インターネットプロトコルマルチメディアサブシステムに対する未承諾通信の防御
US7869364B2 (en) 2008-10-27 2011-01-11 Broadsoft, Inc. SIP server overload detection and control
US8284764B1 (en) 2008-12-15 2012-10-09 Narus, Inc. VoIP traffic behavior profiling method
US8341265B2 (en) * 2009-01-09 2012-12-25 Sonus Networks, Inc. Hybrid server overload control scheme for maximizing server throughput
US8412823B1 (en) 2009-03-27 2013-04-02 Amazon Technologies, Inc. Managing tracking information entries in resource cache components
US8688837B1 (en) 2009-03-27 2014-04-01 Amazon Technologies, Inc. Dynamically translating resource identifiers for request routing using popularity information
EP2237493A1 (en) * 2009-03-31 2010-10-06 Nokia Siemens Networks OY Network entities and a method for controlling congestions in communications networks
US8526595B2 (en) * 2009-05-26 2013-09-03 At&T Intellectual Property I, L.P. Auto-dialer blocking on network
US8782236B1 (en) 2009-06-16 2014-07-15 Amazon Technologies, Inc. Managing resources using resource expiration data
US8397073B1 (en) 2009-09-04 2013-03-12 Amazon Technologies, Inc. Managing secure content in a content delivery network
US8566495B2 (en) * 2009-11-06 2013-10-22 Qualcomm Incorporated Systems, methods and apparatus for data communication
US9495338B1 (en) 2010-01-28 2016-11-15 Amazon Technologies, Inc. Content distribution network
US8804513B2 (en) * 2010-02-25 2014-08-12 The Trustees Of Columbia University In The City Of New York Methods and systems for controlling SIP overload
US8140673B2 (en) * 2010-05-25 2012-03-20 International Business Machines Corporation Method and apparatus for controlling load admission rate of an application server
US9003035B1 (en) 2010-09-28 2015-04-07 Amazon Technologies, Inc. Point of presence management in request routing
US8468247B1 (en) 2010-09-28 2013-06-18 Amazon Technologies, Inc. Point of presence management in request routing
US9712484B1 (en) 2010-09-28 2017-07-18 Amazon Technologies, Inc. Managing request routing information utilizing client identifiers
US10958501B1 (en) 2010-09-28 2021-03-23 Amazon Technologies, Inc. Request routing information based on client IP groupings
US8452874B2 (en) 2010-11-22 2013-05-28 Amazon Technologies, Inc. Request routing processing
ES2831255T3 (es) * 2010-11-30 2021-06-08 Koninklijke Kpn Nv Asignación dinámica de un nodo de red de servicio
US8717883B2 (en) * 2010-12-17 2014-05-06 Verizon Patent And Licensing Inc. Media gateway health
US20120155386A1 (en) * 2010-12-21 2012-06-21 Qualcomm Incorporated Signaling reduction for the core network of a wireless communications system
US10467042B1 (en) 2011-04-27 2019-11-05 Amazon Technologies, Inc. Optimized deployment based upon customer locality
CN102811197B (zh) * 2011-05-30 2016-12-21 中兴通讯股份有限公司 过载控制方法、装置和系统
US9244745B2 (en) * 2011-06-16 2016-01-26 Kodak Alaris Inc. Allocating tasks by sending task-available messages requesting assistance with an image processing task from a server with a heavy task load to all other servers connected to the computer network
JP5687573B2 (ja) * 2011-06-28 2015-03-18 株式会社ケアコム ナースコールシステムの呼出制御装置
JP5817299B2 (ja) 2011-08-01 2015-11-18 富士通株式会社 アドレス変換装置、通信システム及びアドレス変換方法
JP5741312B2 (ja) * 2011-08-12 2015-07-01 富士通株式会社 アドレス変換装置、通信システム、アドレス変換プログラム及びアドレス変換方法
CN103312667B (zh) * 2012-03-09 2016-09-14 华为技术有限公司 一种信息更新的方法、装置和系统
US10623408B1 (en) 2012-04-02 2020-04-14 Amazon Technologies, Inc. Context sensitive object management
US9154551B1 (en) 2012-06-11 2015-10-06 Amazon Technologies, Inc. Processing DNS queries to identify pre-processing information
US8989024B2 (en) * 2012-06-18 2015-03-24 At&T Intellectual Property I, L.P. Long term evolution network dynamic overload management
US9323577B2 (en) 2012-09-20 2016-04-26 Amazon Technologies, Inc. Automated profiling of resource usage
US10205698B1 (en) 2012-12-19 2019-02-12 Amazon Technologies, Inc. Source-dependent address resolution
WO2015067306A1 (en) * 2013-11-06 2015-05-14 Telefonaktiebolaget L M Ericsson (Publ) Method and device for controlling processing load of a network node
CN104767776B (zh) * 2014-01-07 2019-04-30 腾讯科技(深圳)有限公司 一种实时调整网络路由方法、装置及系统
WO2015127600A1 (zh) * 2014-02-26 2015-09-03 华为技术有限公司 一种分流上报的方法、交换机、控制器及系统
US9825733B1 (en) 2014-11-07 2017-11-21 Speedy Packets, Inc. Packet coding based network communication
US9992088B1 (en) 2014-11-07 2018-06-05 Speedy Packets, Inc. Packet coding based network communication
US10320526B1 (en) 2014-11-07 2019-06-11 Strong Force Iot Portfolio 2016, Llc Packet coding based network communication
US10999012B2 (en) 2014-11-07 2021-05-04 Strong Force Iot Portfolio 2016, Llc Packet coding based network communication
US9992126B1 (en) 2014-11-07 2018-06-05 Speedy Packets, Inc. Packet coding based network communication
US10135746B2 (en) 2015-07-07 2018-11-20 Strong Force Iot Portfolio 2016, Llc Cross-session network communication configuration
US10097448B1 (en) 2014-12-18 2018-10-09 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
US10320892B2 (en) 2015-01-02 2019-06-11 Microsoft Technology Licensing, Llc Rolling capacity upgrade control
EP3057290A1 (en) * 2015-02-10 2016-08-17 Telefonica Digital España, S.L.U. Method, system and device for managing congestion in network services
US10225326B1 (en) 2015-03-23 2019-03-05 Amazon Technologies, Inc. Point of presence based data uploading
US9819567B1 (en) * 2015-03-30 2017-11-14 Amazon Technologies, Inc. Traffic surge management for points of presence
US9830173B1 (en) * 2015-04-09 2017-11-28 Amazon Technologies, Inc. Proxy simulation service for testing stateless systems
US9832141B1 (en) 2015-05-13 2017-11-28 Amazon Technologies, Inc. Routing based request correlation
US10606510B2 (en) * 2015-10-29 2020-03-31 Netflix, Inc. Memory input/output management
US10712738B2 (en) 2016-05-09 2020-07-14 Strong Force Iot Portfolio 2016, Llc Methods and systems for industrial internet of things data collection for vibration sensitive equipment
US10075551B1 (en) 2016-06-06 2018-09-11 Amazon Technologies, Inc. Request management for hierarchical cache
US10110694B1 (en) 2016-06-29 2018-10-23 Amazon Technologies, Inc. Adaptive transfer rate for retrieving content from a server
US9992086B1 (en) 2016-08-23 2018-06-05 Amazon Technologies, Inc. External health checking of virtual private cloud network environments
US10033691B1 (en) 2016-08-24 2018-07-24 Amazon Technologies, Inc. Adaptive resolution of domain name requests in virtual private cloud network environments
US10469513B2 (en) 2016-10-05 2019-11-05 Amazon Technologies, Inc. Encrypted network addresses
US10447585B2 (en) * 2016-12-19 2019-10-15 Futurewei Technologies, Inc. Programmable and low latency switch fabric for scale-out router
US10831549B1 (en) 2016-12-27 2020-11-10 Amazon Technologies, Inc. Multi-region request-driven code execution system
US10666736B2 (en) * 2017-01-10 2020-05-26 Unify Patente Gmbh & Co. Kg Computer-implemented method and system for managing tenants on a multi-tenant SIP server system
US10938884B1 (en) 2017-01-30 2021-03-02 Amazon Technologies, Inc. Origin server cloaking using virtual private cloud network environments
US10503613B1 (en) 2017-04-21 2019-12-10 Amazon Technologies, Inc. Efficient serving of resources during server unavailability
US11075987B1 (en) 2017-06-12 2021-07-27 Amazon Technologies, Inc. Load estimating content delivery network
US10447648B2 (en) 2017-06-19 2019-10-15 Amazon Technologies, Inc. Assignment of a POP to a DNS resolver based on volume of communications over a link between client devices and the POP
CN109218355B (zh) * 2017-06-30 2021-06-15 华为技术有限公司 负载均衡引擎,客户端,分布式计算系统以及负载均衡方法
US10742593B1 (en) 2017-09-25 2020-08-11 Amazon Technologies, Inc. Hybrid content request routing system
US10592578B1 (en) 2018-03-07 2020-03-17 Amazon Technologies, Inc. Predictive content push-enabled content delivery network
US20190342380A1 (en) 2018-05-07 2019-11-07 Microsoft Technology Licensing, Llc Adaptive resource-governed services for performance-compliant distributed workloads
US10862852B1 (en) 2018-11-16 2020-12-08 Amazon Technologies, Inc. Resolution of domain name requests in heterogeneous network environments
US11025747B1 (en) 2018-12-12 2021-06-01 Amazon Technologies, Inc. Content request pattern-based routing system
CN111010330B (zh) * 2019-12-06 2021-11-23 苏州浪潮智能科技有限公司 一种检测并恢复拥塞链路的方法、设备及介质
CN111756936B (zh) * 2020-05-06 2021-05-28 国网山东省电力公司信息通信公司 一种基于ims的调度指挥坐席容灾装置及方法
CN111756937B (zh) * 2020-05-07 2021-05-28 国网山东省电力公司信息通信公司 一种供电服务中心ims调度指挥坐席系统及方法

Family Cites Families (60)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4914650A (en) * 1988-12-06 1990-04-03 American Telephone And Telegraph Company Bandwidth allocation and congestion control scheme for an integrated voice and data network
US4974256A (en) 1989-06-30 1990-11-27 At&T Bell Laboratories Load balancing and overload control in a distributed processing telecommunications system
US6134218A (en) * 1994-04-28 2000-10-17 Pmc-Sierra (Maryland), Inc. Many dimensional congestion detection system and method
US5727051A (en) * 1995-07-14 1998-03-10 Telefonaktiebolaget Lm Ericsson (Publ.) System and method for adaptive routing on a virtual path broadband network
JPH10290475A (ja) * 1997-02-12 1998-10-27 Fujitsu Ltd 移動通信システム
US6469991B1 (en) 1997-10-14 2002-10-22 Lucent Technologies Inc. Method for overload control in a multiple access system for communication networks
US6542462B1 (en) 1998-05-27 2003-04-01 Lucent Technologies Inc. Method and apparatus for overload control of multimedia communications in a hybrid switching system
US6507562B1 (en) * 1998-06-30 2003-01-14 Sun Microsystems, Inc. Dynamic optimization for receivers using distance between a repair head and a member station in a repair group for receivers having a closely knit topological arrangement to locate repair heads near the member stations which they serve in tree based repair in reliable multicast protocol
US6888797B1 (en) 1999-05-05 2005-05-03 Lucent Technologies Inc. Hashing-based network load balancing
US6618378B1 (en) * 1999-07-21 2003-09-09 Alcatel Canada Inc. Method and apparatus for supporting multiple class of service connections in a communications network
US6578068B1 (en) * 1999-08-31 2003-06-10 Accenture Llp Load balancer in environment services patterns
US6680943B1 (en) * 1999-10-01 2004-01-20 Nortel Networks Limited Establishing bi-directional communication sessions across a communications network
GB2361545A (en) * 2000-01-27 2001-10-24 Trafficmaster Developments Ltd Traffic monitoring
US6910024B2 (en) * 2000-02-04 2005-06-21 Hrl Laboratories, Llc System for pricing-based quality of service (PQoS) control in networks
US6779035B1 (en) * 2000-03-06 2004-08-17 Microsoft Corporation Application programming interface and generalized network address translator for translation of transport-layer sessions
US6496811B1 (en) 2000-05-01 2002-12-17 Lucent Technologies Inc. Fuzzy-logic based overload detection and correction for packet gateways
US6904017B1 (en) 2000-05-08 2005-06-07 Lucent Technologies Inc. Method and apparatus to provide centralized call admission control and load balancing for a voice-over-IP network
US6778496B1 (en) 2000-06-07 2004-08-17 Lucent Technologies Inc. Distributed call admission and load balancing method and apparatus for packet networks
US7170905B1 (en) * 2000-08-10 2007-01-30 Verizon Communications Inc. Vertical services integration enabled content distribution mechanisms
US7237034B2 (en) * 2000-09-18 2007-06-26 Openwave Systems Inc. Method and apparatus for controlling network traffic
US7319667B1 (en) * 2000-11-15 2008-01-15 Cisco Technology, Inc. Communication system with priority data compression
EP1209861A1 (en) * 2000-11-22 2002-05-29 Telefonaktiebolaget L M Ericsson (Publ) Monitoring traffic in packet networks
US7046680B1 (en) * 2000-11-28 2006-05-16 Mci, Inc. Network access system including a programmable access device having distributed service control
US7849190B2 (en) * 2001-02-23 2010-12-07 Nokia Siemens Networks Oy Internet protocol based service architecture
US7069342B1 (en) * 2001-03-01 2006-06-27 Cisco Technology, Inc. Communication system with content-based data compression
US7409441B2 (en) * 2001-05-18 2008-08-05 Sony Computer Entertainment Inc. Display apparatus for accessing desired web site
US7961616B2 (en) * 2001-06-07 2011-06-14 Qualcomm Incorporated Method and apparatus for congestion control in a wireless communication system
US7225271B1 (en) * 2001-06-29 2007-05-29 Cisco Technology, Inc. System and method for recognizing application-specific flows and assigning them to queues
US7215639B2 (en) * 2001-08-31 2007-05-08 4198638 Canada Inc. Congestion management for packet routers
US20030174648A1 (en) * 2001-10-17 2003-09-18 Mea Wang Content delivery network by-pass system
US7418509B2 (en) * 2001-11-13 2008-08-26 Nokia Corporation Method and apparatus for a distributed server tree
EP1449312B1 (en) * 2001-11-30 2012-03-21 BRITISH TELECOMMUNICATIONS public limited company Method of resource control in a wireless network
US7050424B2 (en) * 2001-12-31 2006-05-23 Innomedia Pte Ltd. Method and system for automatic proxy server workload shifting for load balancing
US7509229B1 (en) * 2002-07-23 2009-03-24 Opnet Technologies, Inc. Bayesian approach to correlating network traffic congestion to performance metrics
AU2002953479A0 (en) * 2002-12-19 2003-01-09 Canon Kabushiki Kaisha Ip rate control
US7225267B2 (en) * 2003-01-27 2007-05-29 Microsoft Corporation Reactive bandwidth control for streaming data
US9369498B2 (en) 2003-01-30 2016-06-14 Nokia Technologies Oy Message-based conveyance of load control information
SE0301053D0 (sv) * 2003-04-07 2003-04-07 Ericsson Telefon Ab L M Method and system in a communications network
US7366782B2 (en) * 2003-04-14 2008-04-29 At&T Corp. Systems and methods for termination of session initiation protocol
US7864939B1 (en) * 2003-04-30 2011-01-04 At&T Intellectual Property Ii, L.P. Call arrangement and connection using messaging
US7689223B1 (en) * 2003-06-05 2010-03-30 Sprint Spectrum L.P. Method and system for delaying retransmission of data traffic to a wireless terminal
WO2005002270A1 (ja) * 2003-06-25 2005-01-06 Nec Corporation 移動通信システムおよびアクセス制御方法
US7543061B2 (en) * 2003-06-26 2009-06-02 Microsoft Corporation Method and system for distributing load by redirecting traffic
US7277423B1 (en) * 2003-07-18 2007-10-02 Sprint Spectrum L.P. Method and system for buffering media to reduce apparent latency in initiating a packet-based real-time media session
US7483374B2 (en) * 2003-08-05 2009-01-27 Scalent Systems, Inc. Method and apparatus for achieving dynamic capacity and high availability in multi-stage data networks using adaptive flow-based routing
US20050055436A1 (en) * 2003-09-08 2005-03-10 Hitoshi Yamada Resource load measuring method, network control apparatus, communication node and storage medium
US7522607B2 (en) * 2004-01-26 2009-04-21 Sprint Communications Company Lp Congestion handling in a packet communication system
US7535905B2 (en) * 2004-03-31 2009-05-19 Microsoft Corporation Signing and validating session initiation protocol routing headers
FR2869182B1 (fr) * 2004-04-20 2008-03-28 Thales Sa Procede de routage dans un reseau ad hoc
KR20070085208A (ko) * 2004-08-17 2007-08-27 캘리포니아 인스티튜트 오브 테크놀로지 큐 제어와 단방향 지연 측정을 이용한 망 혼잡 제어 방법및 장치
US7447194B1 (en) * 2004-09-08 2008-11-04 Sprint Communications Company L.P. Application server update message processing
US9124465B1 (en) * 2004-09-30 2015-09-01 Avaya Inc. Methods and apparatus for processing incomplete or invalid dialed numbers
US7680037B2 (en) * 2005-03-01 2010-03-16 Alcatel-Lucent Usa Inc. Resource-sensitive parser, method of parsing and session initiation protocol (SIP) network employing the same
JP4616386B2 (ja) * 2005-03-14 2011-01-19 テレフオンアクチーボラゲット エル エム エリクソン(パブル) マルチメディア・コンテンツを伝達するための方法および構成
US7961715B1 (en) * 2005-07-29 2011-06-14 Cisco Technology, Inc. Technique for reserving resources for authorized entities in a communication network
US8045473B2 (en) * 2005-11-28 2011-10-25 Cisco Technology, Inc. Tailored relief for congestion on application servers for real time communications
US20070153813A1 (en) * 2005-12-29 2007-07-05 Level 3 Communications, Inc. Traffic distribution in a communications network
US20070180113A1 (en) * 2006-01-31 2007-08-02 Van Bemmel Jeroen Distributing load of requests from clients over multiple servers
JP4648214B2 (ja) * 2006-02-14 2011-03-09 富士通株式会社 呼制御装置および呼制御方法
US9219686B2 (en) 2006-03-31 2015-12-22 Alcatel Lucent Network load balancing and overload control

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101382177B1 (ko) * 2012-09-27 2014-04-07 삼성에스디에스 주식회사 동적 메시지 라우팅 시스템 및 방법

Also Published As

Publication number Publication date
CN101416453A (zh) 2009-04-22
US9219686B2 (en) 2015-12-22
JP2009532947A (ja) 2009-09-10
US20160065475A1 (en) 2016-03-03
US9847942B2 (en) 2017-12-19
ATE513394T1 (de) 2011-07-15
US20070233896A1 (en) 2007-10-04
WO2007117421A1 (en) 2007-10-18
JP5137941B2 (ja) 2013-02-06
KR101389155B1 (ko) 2014-04-24
EP2002619A1 (en) 2008-12-17
EP2002619B1 (en) 2011-06-15

Similar Documents

Publication Publication Date Title
KR101389155B1 (ko) 메시지 라우팅 방법 및 메시지 라우팅에 사용하는 장치
Hilt et al. Controlling overload in networks of SIP servers
Hilt et al. Design considerations for session initiation protocol (SIP) overload control
US7787501B2 (en) Congestion control in an IP network
US8699343B2 (en) Adaptive rate control based on overload signals
US7613170B1 (en) Method and apparatus for PSTN-based IP active call recovery and re-routing
US7742417B2 (en) Burst traffic smoothing for SIP processing elements
US20100274893A1 (en) Methods and apparatus for detecting and limiting focused server overload in a network
Abdelal et al. Signal-based overload control for SIP servers
WO2009129487A2 (en) Methods, systems, and computer readable media for session initiation protocol (sip) overload control
EP2936771B1 (en) Overload control for session setups
Azhari et al. Overload control in SIP networks using no explicit feedback: A window based approach
Liao et al. A distributed end-to-end overload control mechanism for networks of SIP servers
US7768909B1 (en) Congestion control in an IP network
Homayouni et al. Controlling overload in SIP proxies: An adaptive window based approach using no explicit feedback
Noel et al. Initial simulation results that analyze SIP based VoIP networks under overload
Homayouni et al. Overload control in SIP servers: Evaluation and improvement
CN109088828B (zh) 服务器过载控制方法及系统
Yang et al. An optimized algorithm for overload control of SIP signaling network
Gurbani et al. Transport protocol considerations for session initiation protocol networks
Sisalem SIP overload control: Where are we today?
Hong et al. Design of a PI rate controller for mitigating SIP overload
Yamada et al. Notification about congestion information through SIP session for call congestion control of VoIP application
Hilt et al. RFC 6357: Design Considerations for Session Initiation Protocol (SIP) Overload Control
Joe et al. An overload control algorithm based on priority scheduling for sip proxy server

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
LAPS Lapse due to unpaid annual fee