NO20010937L

NO20010937L - Arrangement and method for load sharing in a packet switched network

Info

Publication number: NO20010937L
Application number: NO20010937A
Authority: NO
Inventors: Geir Soerbotten; Espen Iveland
Original assignee: Ericsson Telefon Ab L M
Priority date: 2001-02-23
Filing date: 2001-02-23
Publication date: 2002-08-26
Also published as: NO20010937D0

Description

Oppfinnelsens områdeField of the invention

Den foreliggende oppfinnelse vedrører lastdeling i et pakkebasert nett. The present invention relates to load sharing in a packet-based network.

Oppfinnelsens bakgrunnThe background of the invention

Pakkebaserte nett benyttes i stor grad i data- og telekom-munikasjon, og bruken forventes også å øke. Disse pakkebaserte nett kan være LAN (Local Area Networks), EAN (Enter-prise Area Networks), MAN (Metropolitan Area Networks), og internettbaserte nett. Dette inkluderer også oppringte forbindelser eller punkt-til-punkt-forbindelser over GSTN eller ISDN, som bruker underliggende pakkebasert transport slik som PPP (point to point Protocol). Disse nettene kan bestå av et enkelt nettverkssegment, eller de kan ha komp-leks topologi som integrerer mange nettverkssegmenter sam-menkoblet ved hjelp av andre kommunikasjonslinker. Packet-based networks are used to a large extent in data and telecommunications, and their use is also expected to increase. These packet-based networks can be LAN (Local Area Networks), EAN (Enterprise Area Networks), MAN (Metropolitan Area Networks), and Internet-based networks. This also includes dial-up connections or point-to-point connections over GSTN or ISDN, which use underlying packet-based transport such as PPP (point to point protocol). These networks can consist of a single network segment, or they can have a complex topology that integrates many network segments interconnected by means of other communication links.

Komponentene i pakkebaserte nett kan for eksempel være terminaler, gatewayer, gatekeepere, multipunktkontrollere etc, og tilby tjenester som IP-telefoni, videokonferanser eller konvensjonell datakommunikasjon. Pakkebaserte nett utnytter nettressursene på en svært effektiv måte, og har muligheten til å tilpasse bitratene og standardene mellom noder og endepunkter. Dette kan imidlertid gå på bekostning av responstiden. Derfor er lastbalansering mellom noder en viktig oppgave for å optimalisere tilgjengelighet og nettstabilitet. The components of packet-based networks can be, for example, terminals, gateways, gatekeepers, multipoint controllers, etc., and offer services such as IP telephony, video conferencing or conventional data communication. Packet-based networks utilize the network resources in a very efficient way, and have the ability to adapt the bitrates and standards between nodes and endpoints. However, this may come at the expense of the response time. Therefore, load balancing between nodes is an important task to optimize availability and network stability.

Eksempler på pakkebaserte nettstandarder er SIP og H.323. Nettene er her konfigurert slik at flere noder håndterer samme kundebase, for eksempel er en gatekeeper ofte utstyrt med en redundant gatekeeper av hensyn til stabilitet, og lastbalansering mellom de to gatekeeperene er påkrevet for optimal utnyttelse. Det er imidlertid et problem å distri-buere trafikklasten på en balansert måte. Å være i stand til å garantere dette er viktig, både for å forenkle kapa- sitetsplanleggingen i nettet, og for å sikre en optimal utnyttelse av den installerte hardwaren uten at dette fører til lavere nettstabilitet. Examples of packet-based network standards are SIP and H.323. The networks are configured here so that several nodes handle the same customer base, for example a gatekeeper is often equipped with a redundant gatekeeper for reasons of stability, and load balancing between the two gatekeepers is required for optimal utilization. However, it is a problem to distribute the traffic load in a balanced way. Being able to guarantee this is important, both to simplify capacity planning in the network, and to ensure optimal utilization of the installed hardware without this leading to lower network stability.

NO 19990593 og US 09387355 angir en løsning på lastdelings-problemet ved å introdusere en dispatcher-node i systemet som tar vare på informasjon om lasten i forskjellige tra-fikkhåndteringsnoder (for eksempel gatekeepere) og fordeler trafikken til noder som for tiden har den laveste kapasi-tetsutnyttelsen (figur 1). Denne løsningen løser problemet i forbindelse med lastbalansering. Ett eksempel på dette er at den skalerer trafikken svært bra til et stort antall trafikknoder. NO 19990593 and US 09387355 indicate a solution to the load sharing problem by introducing a dispatcher node in the system that takes care of information about the load in different traffic handling nodes (for example gatekeepers) and distributes the traffic to nodes that currently have the lowest capacity -tets exploitation (figure 1). This solution solves the problem in connection with load balancing. One example of this is that it scales traffic very well to a large number of traffic nodes.

Det er imidlertid en stor ulempe med denne løsning. Lastbalansering er ofte ønskelig mellom redundante noder. To eller flere noder konfigureres for å håndtere for eksempel den samme kundebase, og er derfor i stand til å ta over når en redundant gatekeeper faller ut. Når man bruker dispatcherløsningen, introduseres en ny server som også kan falle ut. Derfor trenger denne noden også å være duplisert for å unngå en enkelpunktsfeil. Da kan lastbalanseringen igjen også bli et problem mellom dispatchere, og en ytterligere dispatcher kan bli nødvendig for de to andre som også kan trenge lastbalansering, osv. Dermed vil det ikke hjelpe å introdusere nye dispatchere. There is, however, a major drawback to this solution. Load balancing is often desirable between redundant nodes. Two or more nodes are configured to handle, for example, the same customer base, and are therefore able to take over when a redundant gatekeeper fails. When using the dispatcher solution, a new server is introduced which can also fail. Therefore, this node also needs to be duplicated to avoid a single point failure. Then the load balancing can again also become a problem between dispatchers, and an additional dispatcher may be needed for the other two who may also need load balancing, etc. Thus, it will not help to introduce new dispatchers.

WO 9945734, "Load balancing system for mobile telecommuni-cation network" beskriver en løsning for lastbalansering mellom basestasjonskontrollere (BSC) i mobile systemer ved å benytte en kommunikasjonskanal mellom lastdelingspunkter for utveksling av lasteinformasjon. Den beskrevne løsning er imidlertid begrenset på følgende måte: For det første gjelder WO 9945734 kun for lastbalansering for anrop mellom BSC-er. WO 9945734, "Load balancing system for mobile telecommunication network" describes a solution for load balancing between base station controllers (BSC) in mobile systems by using a communication channel between load sharing points for exchanging load information. However, the described solution is limited in the following way: First, WO 9945734 applies only to load balancing for calls between BSCs.

For det andre benyttes kommunikasjonskanalen mellom lastba-lanseringsnoder for å kommunisere det faktum at en node for tiden befinner seg under en bestemt terskel, noe som gir et system hvor en node bare kan indikere til sin lastdelings-makker hvorvidt den er i stand til å håndtere flere anrop. Følgelig har ikke nodene kontinuerlig kjennskap til lastinformasjonen hos sin makker, noe som kan være nødvendig for en optimal og dynamisk lastdeling mellom punkter basert på lastdifferansen også før noen av punktene blir overbelas-tet. Second, the communication channel between load balancing nodes is used to communicate the fact that a node is currently below a certain threshold, providing a system where a node can only indicate to its load sharing partner whether it is able to handle more calls. Consequently, the nodes do not have continuous knowledge of the load information at their partner, which may be necessary for an optimal and dynamic load sharing between points based on the load difference even before some of the points become overloaded.

WO 9945734 nevner heller ingen ting om hvordan man skal håndtere situasjoner der én av punktene er nede. Dette er imidlertid en viktig oppgave for lastbalanseringsoperasjo-nen. WO 9945734 also mentions nothing about how to handle situations where one of the points is down. However, this is an important task for the load balancing operation.

Oppsummering av oppfinnelsenSummary of the invention

Det er et formål med den foreliggende oppfinnelse å til-veiebringe et system og en fremgangsmåte som eliminerer ulempene beskrevet ovenfor. Trekkene definert i de vedlagte krav karakteriserer dette system og denne fremgangsmåte. It is an object of the present invention to provide a system and a method which eliminates the disadvantages described above. The features defined in the attached requirements characterize this system and this method.

Nærmere bestemt angir den foreliggende oppfinnelse et system og en fremgangsmåte for å optimalisere lastbalansering mellom redundante gatekeepere i et H.323-nett ved å introdusere en kommunikasjonslink mellom gatekeeperne. Denne kommunikasjonslinken benyttes for periodisk oppdatering av lastsituasjonen i samsvarende noder, og å balansere lasten mellom gatekeepere tilsvarende. Det periodiske ved utveksling av lastinformasjon benyttes også for å avdekke når en gatekeeper er nede. More specifically, the present invention provides a system and method for optimizing load balancing between redundant gatekeepers in an H.323 network by introducing a communication link between the gatekeepers. This communication link is used for periodic updating of the load situation in corresponding nodes, and to balance the load between gatekeepers accordingly. The periodic exchange of load information is also used to detect when a gatekeeper is down.

I én eksempelutførelse av foreliggende oppfinnelse har gatekeepere i det H.323-baserte nettet én redundant gatekeeper hver, og trafikken som genereres fra registreringen av endepunkter balanseres mellom gatekeepermakkerne (peers) i henhold til den nåværende trafikksituasjonen i hver gate keeper. Gatekeeperen informeres om sin makkers last ved hjelp av meldinger som periodisk utveksles gjennom kommuni-kasjonslinkene mellom gatekeepermakkerne (peers) som inne-holder antall utførte registreringer. Når meldingene ikke forekommer, antar en gatekeeper at dens makker er nede, og slutter å redigere og videresende registreringer til meldingene igjen er tilstede. In one exemplary embodiment of the present invention, gatekeepers in the H.323-based network have one redundant gatekeeper each, and the traffic generated from the registration of endpoints is balanced between the gatekeeper peers (peers) according to the current traffic situation in each gatekeeper. The gatekeeper is informed about his partner's load by means of messages that are periodically exchanged through the communication links between the gatekeeper partners (peers) which contain the number of registrations carried out. When the messages do not occur, a gatekeeper assumes that its peer is down and stops editing and forwarding records until the messages are again present.

Kort beskrivelse av tegningeneBrief description of the drawings

For å gjøre oppfinnelsen mer forståelig, vil diskusjonen som følger referere til de vedlagte tegninger. Figur 1 er et skjematisk bilde over et lastbalanseringssys-tem i henhold til NO 1999 0593 og US 09/387355. Figur 2 er et skjematisk bilde over lastbalansering i henhold til den foreliggende oppfinnelse. Figur 3 er et registreringsscenario av et endepunkt i en gatekeeper i henhold til den foreliggende oppfinnelse som benytter H.323-standarden uten undersøkelse (discovery) når lastbalanseringen er OK. Figur 4 er et registreringsscenario av et endepunkt i en gatekeeper i henhold til den foreliggende oppfinnelse ved å benytte H.323-standarden uten undersøkelse når lastbalansering ikke er OK. Figur 5 er et registreringsscenario av et endepunkt i en gatekeeper i henhold til den foreliggende oppfinnelse ved hjelp av H.323-standarden med undersøkelse når lastbalanseringen er OK. Figur 6 er et registreringsscenario av et endepunkt i en gatekeeper i henhold til den foreliggende oppfinnelse ved å benytte H.323-standarden med undersøkelse når lastbalanseringen ikke er OK. Figur 7 er et flytskjema som viser bestemmelsene som tas av en gatekeeper i H.323-standarden uten undersøkelse når lastbalanseringen i henhold til den foreliggende oppfinnelse benyttes. Figur 8 er et flytskjema som viser bestemmelsene som tas av en gatekeeper i H.323-standarden med forutgående undersø-kelse når lastdelingen i henhold til den foreliggende oppfinnelse benyttes. In order to make the invention more understandable, the discussion that follows will refer to the attached drawings. Figure 1 is a schematic view of a load balancing system according to NO 1999 0593 and US 09/387355. Figure 2 is a schematic view of load balancing according to the present invention. Figure 3 is a registration scenario of an endpoint in a gatekeeper according to the present invention that uses the H.323 standard without discovery when the load balancing is OK. Figure 4 is a registration scenario of an endpoint in a gatekeeper according to the present invention using the H.323 standard without examination when load balancing is not OK. Figure 5 is a registration scenario of an endpoint in a gatekeeper according to the present invention using the H.323 standard with examination when the load balancing is OK. Figure 6 is a registration scenario of an endpoint in a gatekeeper according to the present invention by using the H.323 standard with examination when the load balancing is not OK. Figure 7 is a flowchart showing the determinations made by a gatekeeper in the H.323 standard without examination when the load balancing according to the present invention is used. Figure 8 is a flowchart showing the determinations made by a gatekeeper in the H.323 standard with prior examination when the load sharing according to the present invention is used.

Detaljert beskrivelseDetailed description

Foreliggende oppfinnelse er en enklere løsning enn dispat-cherløsningen angitt i NO 1999 0593, presentert i figur 1. Den er enklere delvis fordi ingen ny node introduseres, og delvis fordi den er ment til å løse et enklere problem enn dispatcheren. Mens dispatcheren skalerer for et hvilket som helst antall trafikkbehandlende noder, håndterer den fore-slåtte løsning bare lastdeling mellom to (eller i det mins-te et begrenset antall) slike noder. Ikke flere enn to eller tre redundante noder anses i de fleste tilfeller som tilstrekkelig for redundans. The present invention is a simpler solution than the dispatcher solution stated in NO 1999 0593, presented in Figure 1. It is simpler partly because no new node is introduced, and partly because it is intended to solve a simpler problem than the dispatcher. While the dispatcher scales for any number of traffic handling nodes, the proposed solution only handles load sharing between two (or at least a limited number of) such nodes. No more than two or three redundant nodes are considered sufficient for redundancy in most cases.

En generell oversikt av den foreliggende oppfinnelse pre-senteres i figur 2. Oppfinnelsen er basert på en enkel kanal for periodisk utveksling av lasteinformasjon. Denne utvekslingen av lasteinformasjon sikrer at begge trafikkhåndterende noder til enhver tid vet om lasten hos seg selv og hos sin makker. Tidsintervallet mellom utveksling av meldinger kan stilles inn for å gi ønsket hyppighet av denne informasjonsutvekslingen, eventuelt kan utvekslingen være hendelsesdrevet, for eksempel når lasten endres, sendes en oppdatering til makkernoden. A general overview of the present invention is presented in Figure 2. The invention is based on a simple channel for periodic exchange of load information. This exchange of load information ensures that both traffic-handling nodes know about the load at themselves and at their partner at all times. The time interval between the exchange of messages can be set to provide the desired frequency of this information exchange, optionally the exchange can be event-driven, for example when the load changes, an update is sent to the partner node.

En bieffekt ved periodisk sending og mottak av data er at noden vil kunne vite om den andre noden faller ut. Dette betyr, at når en node slutter å motta meldinger fra sin makkernode, antar den at noden har falt ut. Derfor vil den slutte å redirigere og videresende trafikk til denne makkernoden. Dette kan være verdifullt for å sikre en høy tilgjengelighet av systemet. A side effect of periodically sending and receiving data is that the node will be able to know if the other node drops out. This means that when a node stops receiving messages from its partner node, it assumes that the node has dropped out. Therefore, it will stop redirecting and forwarding traffic to this peer node. This can be valuable for ensuring a high availability of the system.

Når en trafikkhåndteringsnode (A) mottar en melding fra en hvilken som helst trafikkgenererende node, vil den først gjennomføre en evaluering av lastsituasjonen før meldingen håndteres. Hvis A har et lastnivå som er mye høyere enn dens trafikkhåndterende makkernode (B), vil meldingen sendes videre uten noen form for modifikasjon til B. B vil ha omtrent den samme lastinformasjon som A, og siden den har en lavere last, vil den kunne håndtere denne meldingen. Operatøren definerer hvor mye høyere lastnivå node A må ha i forhold til B før den videresender trafikk til B. When a traffic handling node (A) receives a message from any traffic generating node, it will first carry out an evaluation of the load situation before handling the message. If A has a load level much higher than its traffic-handling peer node (B), the message will be forwarded without any modification to B. B will have approximately the same load information as A, and since it has a lower load, it will be able to handle this message. The operator defines how much higher the load level node A must have in relation to B before it forwards traffic to B.

I en situasjon når en trafikkhåndterende node (A) ikke har mottatt den periodiske lastinformasjon fra sin makkernode (B) i flere perioder, vil den anta at B er inaktiv helt fram til neste gang en slik melding mottas. I denne perio-den må A håndtere alle trafikkmeldinger. In a situation when a traffic handling node (A) has not received the periodic load information from its partner node (B) for several periods, it will assume that B is inactive until the next time such a message is received. During this period, A must handle all traffic messages.

I henhold til den foreliggende oppfinnelse, benyttes H.323-standarden med undersøkelse (discovery) og registrerings-prosedyrer. Dette betyr at en gatekeeper vil bestemme hvorvidt en GRQ- eller RRQ-melding skal håndteres internt, eller om den skal videresendes til dens makkergatekeeper, basert på lastinformasjon. Lastinformasjonen som sendes på den nye separate kanal, vil typisk være antall aktive registreringer . According to the present invention, the H.323 standard is used with discovery and registration procedures. This means that a gatekeeper will decide whether to handle a GRQ or RRQ message internally, or forward it to its partner gatekeeper, based on load information. The load information sent on the new separate channel will typically be the number of active registrations.

Figur 3 viser en registreringssekvens uten forutgående un-dersøkelsesprosedyrer, hvor lastbalanseringen er OK. Figur 4 viser det samme når lastbalanseringen ikke er OK. Figur 5 og figur 6 viser de samme to tilfeller med undersøkelse inkludert. Figure 3 shows a registration sequence without prior examination procedures, where the load balancing is OK. Figure 4 shows the same when the load balancing is not OK. Figure 5 and Figure 6 show the same two cases with examination included.

I figur 7 vises den interne mekanisme som benyttes for un-dersøkelse i henhold til den foreliggende oppfinnelse i Figure 7 shows the internal mechanism used for examination according to the present invention i

H.323. Når en GRQ-melding mottas fra et endepunkt, sjekker gatekeeperen, ved hjelp av kunnskapen om den nåværende tra-fikklastsituasjonen seg selv og i sin(e) makkernode(r), kombinert med de forhåndsdefinerte lastbalanseringsregler, om trafikklasten er balansert tilfredsstillende. Hvis den er det, håndteres undersøkelsen internt, GCF-meldingen re-turneres til endepunktet, og undersøkelsen er gjennomført. Hvis ikke, finner gatekeeperen ut om dens makkernode/en av dens makkernoder er i live ved å undersøke hvor lenge det er gått siden siste trafikklastmelding fra dens makkernode (r) ble mottatt. Hvis lengden av denne tidsperioden overskrider en forhåndsdefinert terskel, antar gatekeeperen at dens makkernode(r) er nede, og håndterer undersøkelsen internt. Hvis ikke, videresendes GRQ-en til makkernoden/en av dens makkernoder. Figur 8 viser de samme hendelser ved en registreringsforespørsel. H.323. When a GRQ message is received from an endpoint, the gatekeeper checks, using the knowledge of the current traffic load situation itself and in its partner node(s), combined with the predefined load balancing rules, whether the traffic load is satisfactorily balanced. If it is, the survey is handled internally, the GCF message is returned to the endpoint, and the survey is completed. If not, the gatekeeper finds out whether its peer node(s) is alive by examining how long it has been since the last traffic load message from its peer node(s) was received. If the length of this time period exceeds a predefined threshold, the gatekeeper assumes that its peer node(s) is down and handles the survey internally. If not, the GRQ is forwarded to the peer node/one of its peer nodes. Figure 8 shows the same events for a registration request.

En hovedfordel ved den foreliggende oppfinnelse er at en mer optimal bruk av redundante noder oppnås. I stedet for at den redundante node står ubrukt til hovednoden er nede eller når et visst trafikknivå, balanseres trafikken likt til enhver tid, og følgelig benyttes ressursene mer effek-tivt. A main advantage of the present invention is that a more optimal use of redundant nodes is achieved. Instead of the redundant node being unused until the main node is down or when a certain traffic level is reached, the traffic is balanced equally at all times, and consequently the resources are used more efficiently.

En annen fordel ved den foreliggende oppfinnelse er at på grunn av utvekslingen av trafikklastinformasjon gjennom en kommunikasjonslink, er det ikke nødvendig med en tilleggs-node for lastbalansering. Dette reduserer kostnadene og implementeringstiden og reduserer ekstra prosessering. Another advantage of the present invention is that, due to the exchange of traffic load information through a communication link, an additional node for load balancing is not required. This reduces costs and implementation time and reduces additional processing.

En ytterligere fordel ved den foreliggende oppfinnelse er at hver node alltid kjenner til om dens makkernode(r) er i virksomhet eller ikke, fordi den antar at en makkernode er nede hvis tiden det er gått siden siste mottatte trafikk-lasteinformasjon overskrider en bestemt forhåndsbestemt terskel. Dette hindrer unyttig videresending eller rediri-gering av trafikk til en node som er ute av funksjon. A further advantage of the present invention is that each node always knows whether its peer node(s) are in operation or not, because it assumes that a peer node is down if the time elapsed since the last received traffic load information exceeds a certain predetermined threshold . This prevents useless forwarding or redirection of traffic to a node that is out of order.

ForkortelserAbbreviations

GCF Gatekeeper ConfirmGCF Gatekeeper Confirm

GRQ Gatekeeper Request (also known as discovery request) GRQ Gatekeeper Request (also known as discovery request)

RCF Registration ConfirmRCF Registration Confirmation

RRQ Registration RequestRRQ Registration Request

SIP Session Initiation ProtocolSIP Session Initiation Protocol

ReferanserReferences

ITU-T Recommendation H.323, "Packet-based multimedia commu-nications system", 1998 ITU-T Recommendation H.323, "Packet-based multimedia communications system", 1998

ITU-T Recommendation H.225.0, "Cali signalling protocols and media stream packetization for packet-based multimedia communication systems", 1998 ITU-T Recommendation H.225.0, "Cali signaling protocols and media stream packetization for packet-based multimedia communication systems", 1998

Claims

1. System for traffic load balancing between a number of redundant gatekeepers in an H.323 network, said gatekeepers handle traffic initiated by messages received from other nodes within or connected to said H.323 network, said gatekeepers are able to handle the same traffic, characterized by a separate communication link between each pair of said redundant gatekeepers, in which information relating to the current traffic load in each gatekeeper is exchanged, and in which each gatekeeper includes: • means of storing the current traffic load in all corresponding gatekeepers, • means of determining which gatekeeper currently has the lowest traffic load, • means of determining which of the gatekeepers is down, • means for forwarding or directing one or more of said messages to a gatekeeper who is in operation and who currently has the lowest traffic load if the traffic load of the gatekeeper in question is higher than a predefined level in relation to the gatekeeper who currently has the lowest traffic load, said forwarding or routing is not carried out if all corresponding gatekeepers are down (not in operation).

2. System as defined in claim 1, characterized in that the information on current traffic load is exchanged periodically with a predefined time interval.

3. System as stated in claim 2, characterized in that said means for determining which of the gatekeepers is down assumes that a gatekeeper is down when no new information about current traffic load from this gatekeeper is received when said time interval since the last occurrence of this information has expired.

4. System as stated in one of the preceding requirements, characterized in that said information about the current traffic load for a gatekeeper is the number of said messages that are currently handled at this gatekeeper.

5. System as specified in one of the preceding claims, characterized in that the number of redundant gatekeepers is two.

6. System as stated in one of the preceding claims, characterized in that said other nodes are endpoints such as IP terminals.

7. System as stated in one of claims 1-5, characterized in that said other nodes are gateways.

8. System as specified in one of the preceding claims, characterized in that said messages are RRQ and/or GRQ messages.

9. Method for traffic load balancing between a number of redundant gatekeepers in an H.323 network, said gatekeepers handle traffic initiated by messages received from other nodes within or connected to said H.323 network, said gatekeepers are all capable of handling the same traffic, characterized by : - to exchange information about current traffic load between each pair of said redundant gatekeepers in a respective separate communication link, and in every gatekeeper: - to store the current traffic load for all corresponding gatekeepers, - to determine which gatekeeper currently has the lowest traffic load, - if the traffic load of the gatekeeper in question is higher than a predefined level in relation to a gatekeeper in business that currently has the lowest traffic load, forwarding or routing one or more of the aforementioned messages to this gatekeeper, said forwarding or routing is not carried out if all corresponding gatekeepers are down (not in business).