SE512880C2 - Ett cacheservernät - Google Patents

Description

512 880 2 till dess att cacheminnet är fullt då data byts ut i enlighet med någon lämplig algoritm, såsom först in först ut (FIFO).

I en annan konfiguration är en metaserver ansluten till ett antal sådana cacheservrar. Metaservern håller då reda på vilka data som finns lagrade i de olika cacheservrarna. När en använ- dare begär någon särskild data genomsöks således först den ca- cheserver till vilken den är ansluten efter data.

Om data inte kan hittas i denna cacheserver kontrolleras det om data finns tillgängligt i någon av cacheservrarna som är ansluten till metaservern. Om detta är fallet, dvs. data finns tillgängligt i någon av servrarna som utgör gruppen av servrar som är anslutna till metaservern hämtas data frän denna server i stället för från den plats där data ursprungligen finns lagrat.

Således måste data begäras från den ursprungliga källan då data inte kan hittas i någon av cacheservrarna. Detta är naturligtvis inte önskvärt och särskilt inte om begäran avges då nätet över vilket data skall hämtas har en hög last.

REDOGÖRELSE FÖR UPPFINNINGEN Det är ett syfte med föreliggande uppfinning att åstadkomma ett förfarande och ett system genom vilket data kan cachas på ett mer effektivt sätt och genom vilket mängden träffar kan ökas.

Detta syfte och andra uppnås genom att åstadkomma en prognos- funktion som kan implementeras i en särskild prognoscacheserver.

Tillägg av en sådan funktion möjliggör för cachesystemet att cacha data som har en högre sannolikhet att begäras än vad som är fallet för konventionella cacheservrar/cacheserversystem_ Således instruerar prognosfunktionen cacheservrarna till vilka den är ansluten att förhämta data eller att lagra eller inte lagra data som hämtas från ursprungliga källservrar för att betjäna kunder i varje område med cacheservrar som betjänas av prognoscacheservern via ett särskilt protokoll. Prognoscacheser- vern enligt en föredragen utföringsform upprätthåller en databas 512 880 3 över alla adresser till alla lagrade sidor i alla cacheservrar som den kontrollerar och dessutom historiska data.

KORTFATTAD BESKRIVNING AV RITNINGARNA Föreliggande uppfinning kommer nu att beskrivas närmare med hjälp av icke begränsande exempel och med hänvisning till de bilagda ritningarna, pá vilka: - Fig. 1 är en allmän vy över ett datasystem innefattande cache- SefVIaI' .

- Fig. 2 är en vy som visar konfigureringen och funktionen hos en prognoscacheserver.

BESKRIVNING AV FÖREDRAGNA UTFÖRINGSFORMER I fig. 1 visas ett datasystem. Systemet innefattar nl, n2, nk cacheservrar 101 med lagringsminne pà m2,...mk megabyte, och nättrafikgenomsläppningskapacitet på tl, t2, ... tk megabyte per sekund och transaktionskapacitet på trl, tr2, ... trk transak- tioner per sekund. En transaktion definieras som vissa instruktioner som behandlas med vissa data. De betjänar alla definierade anslutningar, exempelvis transmissionsledningar från företag 103 och frán modempooler 105 för privata kunder.

Maximal prestanda och lägst trafikkostnad i ett sådant system ges då alla data som begärs mer än en gång cachas i cacheser- vrarna. För att komma närmare detta mål används en prognosfunk- tion. Detta visas medelst prognoscachestyrfunktionen som finns i en server 107.

Servern 107 är således ansluten till ett antal cacheservrar 101 och har organ för att upprätthålla ett register över vilken information som finns lagrad i de olika servrarna 101. För varje server och cacheadress kan en sannolikhetsfunktion skapas som i en föredragen utföringsform kan bestå av följande faktorer som servern 107 har kunskap om: * cacheserveridentitet 512 880 * adress * adressnivå * tid * datum * historikbegäran (när efterfràgades adressen) * historikuppdateringsfrekvens (och uppdateringsinformation från ursprungskällor) * vilka andra adresser som begärts under en tidsperiod innan och efter det att adressen begärdes (korrelation av begäran) * andra korrelerade data (här kan data om exempelvis fotbolls- matcher lagras så att under och efter matcher då vissa sport- adresser/websidor vanligen begärs oftare kan förhämtas) I fig. 2 visas funktionaliteten hos prognosservern 107 närmare.

Således kan alla adresser ses som grenar på ett träd där adres- sen blir längre när trädet utforskas från stammen till huvudgre- nar till mindre grenar etc., eftersom alla data har namn/adresser, exempelvis för internetwebsidor http://www.cnn com/_ Grenarna har till skillnad från riktiga träd också länkar till helt andra adresser.

Styrfunktionen i servern 107 kan därför ha organ för att beteck- na alla adresser med en nivå och ge olika nivåer olika priori- tet. Nedan ges ett exempel pä hur nivåerna kan ges. http://www.cnn.com/ NIVÅ 1,1 http://customnews.cnn.com/cnews/pna-auth.welcome NIVÅ 2,3 hctpJ/www. cnrncom/WORLD/ NIVÅ 2, 2 http://www.cnn.com/WORLD/europe/ NIVÅ 3,3 http://www.cnn/WORLD/europe/9803/2l/APOOO638.ap.html NIVÃ 4,6 http://www cnn.com/interactive - legal.html#AP NIVÅ 5,2 http://www lexis-nexis.com/lncc/about/terms.html NIVÃ 6,4 http://www.cnn.com/US/ http://www.cnn.com/LOCAL/ http://www.cnn.com/WEATHER/ http://www.cnn.com/WEATHER/allergy/ 512 880 NIVÅ x,y anger hur många länkar som passeras från startsidan innan sidan (=x) nås och hur många / som finns (=y; förutom http://).

Baserat på denna och andra parametrar som anges ovan görs en begáranprognos genom användning av någon lämplig statistisk metod och denna jämförs sedan med de existerande lagrade data och trafiken, dvs. den existerande begärandekapaciteten och den fria kapaciteten. Den fria trafikkapaciteten används sedan för att förhämta sidor/adresser baserat på begäranprognosen.

Om det således exempelvis finns en mycket hög träffrekvens på en viss adress under de senaste två minuterna och en eller flera adresser på denna särskilda högfrekvensadress har ett (x)-värde som är lågt, exempelvis 1 eller 2, år det troligt att en sådan adress kommer att begäras snart och data på denna adress förhäm- tas och lagras i någon av servrarna 101 och någon data som har en lägre sannolikhet att begäras tas bort.

Prognoscacheservern 107 styr cacheservrarna (CS) 101 via ett prognosstyrprotokoll som kan bestå av exempelvis följande instruktioner.

* Adressinfo (CS id, adress) * Lagra fråga (CS id, adress) * Lagra svar (CS id, adress, ja/nej) * Hämta (CS id, adress, nivåer) (dvs. prognoscacheservern 107 kan beordra en viss cacheserver 101 att hämta en huvudadress och ett antal nivåer ned från denna huvudadress) * Trafikfråga/svar (CS id, kapacitet, Mbyte trafik senaste pe- riod, period) * Minnesfråga/svar (CS id, kapacitet, Mbyte senaste period, period) En viktig egenskap i prognoscachesystemet såsom beskrivet häri år att prognoscacheservern 107 alltid känner till alla adresser till websidorna som är lagrade i varje cacheserver 101, minness- torlek och kapacitet, trafikstorlek och kapacitet. 512 880 Eftersom det kan vara omöjligt eller dyrt att lagra en begäran- funktion för alla data som har begärts kan begäranprognoser begränsas till adresser i tal av X- eller y-nivåer såsom beskri- vits ovan. Eftersom det kan vara omöjligt eller dyrt att beräkna en begäranfunktion för alla data kan beslutsregler för prognos- cacheservern för adresser utan en begäranfunktion generaliseras från en begränsad uppsättning data såsom: - fyll minne - lagra aldrig data den första gången som den begärs om det inte fhmstmmxflmæ - lagra alltid data andra gängen som den begärs - först in först ut om minnet är fullt Denna funktion kan också delegeras och implementeras i cacheser- vrarna 101.

Dessutom kan ett uppdateringsprotokoll definieras som kan använ- das mellan alla samverkande servrar för att göra det möjligt för olika cacheservrar 101 att informera varandra om det aktuella läget för websidor. Detta leder till att varje källserver, dvs. den server på vilken ursprungsdata finns lagrat, har en logg som talar om då alla lagrade sidor och/eller objekt på en sida (ex- empelvis bild, tabell etc.) senast uppdaterats.

Andra servrar kan fråga källservern (eller dennes kopior) och jämföra denna med sin egen logg när websidan lagrades för att se om den har uppdaterats. På detta sätt är det möjligt att säker- ställa att sidan är uppdaterad utan att överföra alla data om sidan och endast om någon del av sidan har uppdaterats mäste den hämtas igen eller endast den uppdaterade delen/objektet. Detta sparar kapacitet. Sådan utväxling av information kan implemente- ras med ett protokoll som innefattar följande instruktioner: * Uppdatera fråga (server-id, sidadress) * Uppdatera info (server-id, sidadress_1, senast uppdaterad, sidobjekt lx, lx senast uppdaterad, sidobjekt ly, ly senast 512 880 - 7 uppdaterad, sidadress_2, senast uppdaterad, sidobjekt 2x, 2x senast uppdaterad, sidobjekt 2y, 2y senast uppdaterad .....) Uppdateringssvaret kan naturligtvis skickas utan en föregående fråga, såsom genom en överenskommelse på förhand varje minut/- timme/etc.

I det ovan beskrivna nätet beskrivs endast en enda prognosserver som styr ett flertal cacheservrar. I ett stort nät kan emeller- tid flera prognosservrar användas. Prognosservrarna styr då en grupp av cacheservrar var och är sammankopplade med varandra på ett distribuerat sätt. I en sådan nátlösning används ett speci- ellt protokoll för utbyte av information mellan de olika prog- nosservrarna. Således har genom användning av ett sådant proto- koll varje prognosserver kännedom eller kan fråga om information om vilka data som är lagrade i varje cacheserver eller cacheser- vergrupp. Det speciella protokollet kan också användas för att sända order mellan de olika prognosservrarna om vilken grupp av cacheservrar som skall lagra vilka data, eller i en annan utfö- ringsform utförs en förhandling mellan de olika prognosservrarna om vilka data som skall lagras i vilken cacheserver eller grupp av cacheservrar.

I en annan föredragen utföringsform är en av mängden av prognos- servrar, vilken kan betecknas huvudprognosserver, anordnad att styra de andra, företrädesvis med hjälp av ett speciellt proto- koll som liknar det som används för att styra de olika cacheser- vrarna. Ett sådant arrangemang kommer att ta bort behovet av en förhandling mellan de olika prognosservrarna, eftersom huvud- prognosservern nu kommer att besluta om vilka data som skall lagras vid vilken plats.

Användningen av en prognoscachefunktion i ett cacheserversystem såsom beskrivet häri kommer således att minska trafikkostnaderna och förbättra svarstiderna. Detta beror på det faktum att min- neskapaciteten i cacheservrarna i systemet kommer att användas mer effektivt vad gäller träffar och att transmissionskapacite- ten kommer att användas bättre, eftersom transmissionskapacite- 512 880 8 ten som för närvarande inte används kan användas för förhämtning av data med hög sannolikhet att snart begäras.

Claims (15)

512 880 9 EAIENIKRAE

1. Datakommunikationsnät innefattande minst två cacheservrar till vilka användare är anslutna, kânnetecknat av en prognosser- ver ansluten till nämnda minst två cacheservrar för att avge en prognos om vilka data i nämnda minst tvâ cacheservrar som skall bytas ut mot andra data i syfte att öka mängden träffar i nämnda minst två cacheservrar.

2. Nät enligt krav 1, kännetecknat av att prognosservern perio- diskt uppdateras med vilka data som för närvarande är lagrade i nämnda minst två cacheservrar.

3. Nät enligt krav 1 eller 2, kânnetecknat av att prognosservern innefattar organ för att beordra en särskild cacheserver av nämnda minst två cacheservrar att förhämta data med en högre sannolikhet att begäras än data som för närvarande finns lagrad i denna särskilda cacheserver.

4. Nät enligt något av kraven 1-3, kännetecknat av att prognos- servern är ansluten till en grupp cacheservrar, som den styr via ett styrprotokoll.

5. Nät enligt något av kraven 1-4, kännetecknat av att prognos- servern har organ för att skapa en sannolikhetsfunktion för en adress baserat på vilka andra adresser som begärts under en tidsperiod före och efter det att adressen begärdes.

6. Nät enligt något av kraven 1-5, kännetecknat av att prognos- servern är samlokaliserad med en av nämnda minst två cacheser- Vrar.

7. Nät enligt något av kraven 1-6, kânnetecknat av att flera prognosservrar är anslutna till varandra.

8. Nät enligt krav 7, känneteoknat av att prognosservrarna är anordnade att utbyta information om vilka data som finns lagrade i cacheservrarna till vilka prognosservrarna är anslutna. 512 880 10

9. Nät enligt krav 7 eller 8, kännetecknat av att en av prognos- servrarna är anordnad att styra de andra.

10. Förfarande för att förhämta data i ett nät innefattande ett flertal cacheservrar var och en ansluten till en gemensam prog- nosserver och där prognosservern är anordnad att, via ett proto- koll upprätthälla ett register över vilka data som finns lagrade i de olika servrarna, kânnetecknat av att prognosservern avger en prognos om vilka data i nämnda flertal cacheservrar som skall bytas ut mot andra data i syfte att öka träffsannolikheten i nämnda flertal cacheservrar.

11. Förfarande enligt krav 10, kânnetecknat av att mängden ca- cheservrar periodiskt uppdaterar prognosservern om vilka data som för närvarande lagras i nämnda flertal cacheservrar.

12. Förfarande enligt krav 10 eller 11, kânnetecknat av att prognosservern beordrar en särskild cacheserver i nämnda flertal cacheservrar att förhämta data med en högre sannolikhet att begäras än data som för närvarande lagras i denna särskilda cacheserver.

13. Förfarande enligt något av kraven 10-12, kânnetecknat av att prognosen görs pà basis av en sannolikhetsfunktion för en adress vilken i sin tur är baserad pä vilka andra adresser som begärdes under en tidsperiod före och efter det att adressen begärdes.

14. Förfarande enligt något av kraven 10-12, då nätet innefattar flera prognosservrar till vilka olika cacheservrar eller grupper av cacheservrar är anslutna, kånnetecknat av att prognosservrar- na kan utbyta information om vilka data som finns lagrade i de olika cacheservrarna eller grupperna av cacheservrar.

15. Förfarande enligt krav 14, kânnetecknat av att en av de flera prognosservrarna är anordnad att styra de andra.