TW451117B - Dynamic routing in the internet - Google Patents

Description

451 451 五 經濟部中央標华局貞工消货合作社印策 A7 B7 '發明説明（ 相關申請案之交叉參考 本案哼關於同在審查中之美國專利申請案：S/N 08/798,385申請日1997年7月2日，名稱"基於動態間隔均衡 之方法及裝置發明人P.Yu，IBM代理人檔案編號 YO997028 ;及 S/N 60/031，849，1996年 5 月 1 2 日名稱 M 附有 選擇控制之負載均衡之電腦系統及方法"，發明人Dias 等’ IBM代理人檔案編號γ〇996-252。此等同在審查中之 申請案及本發明共同讓予紐約安孟克國際商務機器公司。 此等同在審查中之申請案内容併述於本案以供參考。 發明領域 概略而言本發明係提供於網際網路環境下跨越祠服器如 代理快取伺服器及網路伺服器集合（或叢集）提供負載均 衡。本發明之特點係有關一種使用裝載有對客户要求之回 應之中間資訊更新路徑安排資訊之方法。又另—特點係有 關一種負載均衡方法其也可獲得最佳快取記憶效率。 術語詞彙 雖然此點中的定義也適用於此處某些術語，但若干術語 係利用下述詞彙。 網際網路 使用TCP/IP規約協定之網路及閘門網路。 客户 客户‘是一種電腦發出指令給伺服器執行該指令關聯任 務。 伺服器 -4- 本紙張尺度適用中國國家橾準（CNS ) Λ4現格（210X297公釐） (諳先(¾讀背氣之注意事項再填寫本頁}

7 A7 B7 鯉濟部中*橾準局員工消贽合作社印製 451 五、發明説明（2 ) 任何可接受另一部電腦指令執行任務之電腦爲伺服器。 網路伺服器典型支援一或多個客户。 全球網路（WWW或網路） 網際網路的應用使人們可經由點選感興趣的字或詞及可 由各個伺服器及各個資料庫於網際網路之交換器尋找資訊 (超鏈結）。網際網路WWW伺服器支援客户及提供資訊。 網路可視爲網際網路而全部來源皆定址爲URL，其使用 HTML顯示對應於URL之資訊及提供點選介面至其他 URL。 _ 環球資源定位器（URL) 一種於網際網路獨特識別或定址資訊之方式。可視爲電 子郵件地址或全然合格網路樓名之網路文件版。可以超鏈 結存取。URL 之一例爲 http://www.philipyu.com: 80/table‘html。此處URL有四個成分。.由左邊開始第一者 规定使用的協定，H运器之菸次各免咚二。其次 爲目標主電腦之名稱或I P位址其左邊以"/ / "右邊以” ”或 選： M堝開。埠编號爲選擇性者左方於主電腦名稱 以："隔開而右方以，'/"隔開。第四種成分爲實際檔名或 程式名。本例中".html"延伸部分表示屬於HTML樓。 超文字標記語言（HTML) HTML·係可由網路伺服益用來產生及連結可由網路客户 檢視太件之語言。HTML使用超文字文件。 超文字傳輸協定（HTTP) HTTP乃無國界協定之一例，表示每個來自客户至伺服器 -5- 本紙張尺度適用中國國家操準（CNS ) /\4规格（2丨0X297公潑）

451 451 經漓部中夾櫺準局貞工消贽合作社印製 A7 B7 五、發明説明（3 ) 之要求皆獨1處理。伺服器並無先前連結記綠。url開始 處之"http:”表示該檔係使用http檢索。 網際網路瀏覽器或網路瀏覽器 一種圖形介面工具可處理網際網路協定如以卬及顯示結 果於用户螢幕上。瀏覽器作爲網際網路之導遊，當用户，, 潮覽”網際網路時，可使用圖形桌面、目錄及搜尋工具完 成。本案中網路瀏覽器爲可與全球網路通訊之客户服務。 客户快取記憶體 客户快取記憶體典型用作客.户存取目標之主快取記憶 體。於WWW環境下，客户快恥記憶體典型係藉網路瀏覽 器執行，可於目前引用期間快取存取的目標，亦即非持續 快取5己憶體’或可跨越引用快取目標。 快取代理快取伺服器 網路中的特用伺服器其作爲客户代理人定位快取的目標 複本°快取代理快取伺服器由於來自客户快取記憶體之快 取錯失激發’故典型作爲第二階或更高階快取記憶體。 HTTP精靈（HTTPD) 具有超文字標記語言及共通閘門介面能力之伺服器。 HTTPD典型係由存取代理人支援，該存取代理人提供硬體 連結至企業網路之機器及存取至網際網路如Tcp/ip耦合。 背景 全球網路之資訊流量以指數增加。代理快取伺服器特別 於大組織機構或大區閘門之代理快取伺服器电含運算節點 之·集合。同理於普及（熱門）網路位置，使用邃算節點集合 -6- 本纸張尺度制巾義W (CNS} A4imTm7^W) U衣-- ,..... (#先閱讀背v|之注意^項再填寫本頁) •V-5 4 Α7 Β7 五、發明説明（4 ) (或叢集）來支援存取需求β 馬了達到伺服器叢集之性能良好，負載需於節點集合間 均衡。經由將相同目標要求局限於叢集内的特定伺服器獲 得取高快取記憶體命中率可緩和。 先刖於多處理器或多節點環境如IBM s/390 Sysplex對負 載平衡研究X作i要集t鱗，該算法對各個進來 的任務或用户時段對多個大類來f中選定一個來源。排程 妒源選擇。 础t噁分布重.複位置中—種已知均衡負載之方法稱作缠^ ‘領域i稱伺服器（Rr-DNS)之方法。Katz E，Butler，M，及 經濟部中央楳準局男工消贽合作社印製

McGrath, R.，標題·’可縮放HTTP伺服器：NCSA原型11，電腦 網，及ISDN系統，27卷，1994年，68-74頁，RR-DNS方法 用士跨越網路伺服器節點集合:^節點。此處分配位置集 合以一個URL表示（例如www.h〇isite c〇m);此分配位置之 叢集亞領域係以亞領域名稱伺服器定義。亞領域名稱伺服 器以循環方式映對名稱解析要求至不同T p位址（於分配叢 集）°如此客户亞集合可分配至各個重複位置。爲了減少 網路資訊流量，並未對各個服務要求發出映對要求。反而 映對要求結果發存(TTL)間先。隨後於TTL間隔發出的 要求保有先前之映對)因此可安排路徑至相同伺服器節點。 RR-DNS方法之問題爲可能導致分配位置負載不均衡（例 如參考 DiasfD，M，，Kish,W,，Mukherjee，R.，及 Tewari，R·，"可縮 放及高度可利用網路伺服器"第4丨屆IEEE.電腦協會國際會 議議事綠（COMPCON)1996年，資訊超級高速公路技術， 本紙張尺度適用中國囤家標举（CNS ) Α4規格（210Χ297公釐） 45| 45| ΑΊ Β7 五 ί 7 —— —___ 、發明説明（ 85-92頁，1996年2月）。負載不均衡係由於名稱與於網路 各個閘η、擋火牆及領域名稱伺服器之1?位址間之關聯快 取引起=如此對TTL期，全部路由此等閘門、擋火牆及領 減名稱伺服器之新客户要求將分配給儲存於快取記憶體之 單—位置。業界人士瞭解單純減少TTL値無法解決此問 題。事實上’許多名稱伺服器經常無法接收TTL値。更要 緊地’單蛘減少TTL値無法減少由於客户要求分配不均引 起的負載扭曲。 —種於局部-節點叢唪笮赞負載之方法係使用所謂的TCP 路由器述於"藉包變合電腦每集;執行虛擬多處理器 ”，作者 Attanasio’Clemeiit R.及Smith，Stepheii E,，IBM 1992 年研究報告RC 18442及美國專利\37 1,852名稱M 電腦 叢集成爲單一主電腦_之方法及_^ ”1994年丄2月6曰獲頒 (併述於此以供參考）。此處僅提供TCP路由器位址給客 户；TCP路由器以循環方式或基於各節點的負載而分痕送 入之要求給叢集之各個節點。需注意 限於局部節點叢隼。一 更爲晚近於Colajanni,M.，Yu，P.,及Dias，D.，之報告標題”分 派網路伺服器之排程算法”，IBM研究報告RC_、2〇680，1997 fj ^此以供參考），描述多層循環方法，該方法 基於閘門之要求比率將閘威.多層。來启j層的要也分 別使用循環算法排程。此種方法也可處理均勻分布祠服卷 架構。 前述全部方法中，目的係於伺服器集合中均衡工作負 -8 - 本紙張尺度適用中國國家標準（CNS )人4規格（210X197公釐） (請先閱讀背私之注意r項再填寫本頁)

- I I I 經濟部十央標準局员工消资合作社印製 45! f A7 B7 五、發明説明（6 ) 載°動態路徑安排決定考慮被要求的目標身份P‘言k對 同—目鮮路由至不同伺服器而另負 I。如此導致快取記憶體命中率差，對代理快取伺服器特 別嚴重，由於參照的個別網頁數目可能極大。雖然網路伺 服器叢集中可對網頁作靜態區隔，其中各個區隔分配不同 (虛擬）主電腦名稱或1 p，但靜態區隔法無彈性無法應付動 工作負載變化此外無法結放。 ^ __ 如此需要一種於伺服器叢集之改良負載均衡方法及裝 置，其不僅可均衡跨越該叢集的工作負載同時也可經由局 限化相同目標要求於叢集的特芩伺服器而獲得最佳快取記 憶體命中率。本發明可遥求。 也需要一種改良之路鹆安排^__諸其根據工作負載情況動 態分配各個伺服器處理目標空間的一個小集合，及路由目 標要求至分派給該目標關聯空間之伺服器。本發明也可 解決此種需求。 概述 經濟部中决標华局負工消費合作社印裝 根據前述需求，遐係針對一種於伺服器集合目 ‘要求之电^遵_4^安排之货立方法及裝置兴考慮：伺服器 效手及衡；或僅考慮負載均衡。 本發明之特徵亦有關可回應於路由要求藉„签運 訊。本發明又有特點爲經^基於要求 目標β壤_別费（例如URL)映對伺服^及若工作負載情多政 變則動態更新此映對而改良伺服器之快取記憶^^。 於網際網路環境下，伺服器集合包括但非限於代理快取饲 -9， sis濟部中央榇牟局貝工消f合作社印製 4 五、 A7 B7 發明説明（ 服器或網路伺服器叢集。 ~種具:有本發明之特點供於伺服器節點集合中射目—要 ^去，包括下列步驟：裝載附有^^ 標心I中間I訊；及根據中·^·^訊备態艮器j辱己之 路由資訊。 —種具有本發明特點之於伺服器節點集合中動態安排固 標要求路徑同時起憶體命:¾¾•方法，其又 包括下列步驟：映對目標識別碼至一個類別；及基於該類 別分配伺服器及類別—伺服器分配表j 本發明又有.其他特點爲可於類別-伺分配以勒態變 H艮務二基準通知要求jtii::拜。類別-伺服器分配可 隨著乍負載的改變而μ動JI改變。爲了避免昴貴的廣播該 變化給全部可能的要求者或強迫要求者在每次送出要求時 先取得卢張映秒，伺服器即使並非分配用來處理該類別 者，較佳繼續服務一個目標要求但伺服器可於返回目標 (或回應）之標頭指示新的類別-伺服器分配資訊。 此外’本發明之裝運附有要求目標之中間資訊之特點也 適用於網際網路習知DNS路徑安排而改良伺服器叢集的負 載均衡。此與使用目標URL(或目標類別）作伺服器分配 (而改良快取記憶體命中率）的構想有別。DNS路徑安排具 有位址映對的有效間隔（TTL)。本發明之特點可使伺篆 分配以比較TTL雾小的間隔產/生，如此更能反應實際負衿 情況_。伺服器分配的改變可被返回目標裝運避免額外的資 訊流量，故爲了要求可送至新伺服器。 -10- 本紙張尺度適用中國國家標準（CNS ) A4規格（210x7^公J'y Λ—y^.-- {請先聞讀背S-之注意¢-項再填寫本育) 訂： 經濟部中史標準局貝工消f合作社印製 A7 B7 五、發明説明（ 本發明之又另一特點爲可基於工作負載之均衡負載需求 動態及，量-伺服器分4己。 根據本發明之另一特點，可使用PI c S協定來通訊各類型 資訊。當要求係基於廢棄的類別-伺服器映對載入而針對 一個伺服器時，PICS可由該伺服器用來將中間資訊裝運至 新的類別-伺服器映對。PICS也可由要求者用來查詢目前 類別-飼服器映對之座標碼。 業界人士瞭解本發明可應用於一般分配環境及全球網 路。 圖式之簡單説明 本發明之此點及其他目的、優點及特點由後文較佳具體 例之説明及隨附之申請專利範圍將顯然易明，附圖中：. 圖1爲適用於本發明之網際網路環境簡圖； 圖2爲具有本發明特點之一般環境之細節範例； 圖3爲”類別-伺服器”分配表範例； 圖4爲圖2之伺服器邏輯之範例； 圖5爲伺服器之g標處理者範例； 圖6爲伺服器目標處理者之動態重分配路徑範例； 圖7爲伺服器之目標要求處理者範例； 圖8爲伺服器之統計報告路徑實例； 圖9爲圖2之仲裁者邏輯實例； 圖1 0爲仲裁者之統計及評估路徑實例； 圖1 1爲仲裁者之統計及評估路徑之重分配路徑範例； 圖1 2爲仲裁者之映對要求處理者範例； -11 - 本纸張尺舰则7目國家標準（CNS ) Α视格（ (讀先閱讀背面-之注意r項再填寫本頁)

451 1 t 7 A7 B7 五、發明説明（9 圖1 3爲圖2之要求者邏輯範例； 圖1 4，要求者邏輯之目標要求產生範例；及 圖1 5爲圖1之伺服器叢集範例包括領域名稱伺服器 (DNS)。 詳細説明 圖I爲適用於本發明之網際網路環境之簡圖。如所述要 求者（110-153)包括任何習知代理快取伺服器節點（118、 1 25- 127)，客户工作站及個人電腦（所謂Pc) (11 〇、丨〗2、 Π0 ' 1 50-1 53)連結至網路（1 〇5)。代理快取伺服器、工作站 及p c爲業界眾所周知。代理快jf又伺服器節點之實例爲IBM 出售之網際網路連結伺服器（ICS)。要求者透過網路（1〇5) 要求源自伺服器叢集（103)之服務。網路實例包括但非限於 網際網路，全球網路，企業網路及局部區域網路（LANs)。 伺服器叢集包括多個伺服器節點（161· 163)來處理高資訊流 量需求。其可爲代理快取伺服器或網路伺服器叢集。叢隹 中之伺服器包括但非限於如IBM以商品名s/39〇 SYSPLEX，SP2或RS6000工作站出售的產品。如一般習 知，各個要求可由叢集内之任一個伺服器處理。典型服務 經濟部中失#準局員工消费合作社印製 --)-/-- f^先閱颂背Φ,之注意¥°項再填窍本頁} 要求包括全球網路網頁存取’遠端文件傳輸，電子郵件及 支援叉易。 雖然要求主要由任一個伺服器節點處理，但對單—伺服 器節點之同-目標路由要求可於同一伺服器節點獲得更佳 快取记憶體命中率’因而獲得更鬲性能。如後文說明，本 發明之特點爲不僅可於叢集之各個伺服器節點間均衡工 12- 尺度適用中國國家標準（CNS > A4規格（ A7 B7 4S? | 1 五、發明説明 負載’同時也可達成高快取記憶體命中率β 综論之’根據本發明之路徑安排方法使用一個目標之邏 輯識別碼或符號名稱（例如URL)選擇伺服器來處理該要 求。也提供區隔方法來將目標識別碼映對入各類別；及要 求者節點可維持類別_伺服器分配表（圖3 )而將各類別映對 至伺服器選擇。較佳區隔方法係使用習知散列功能將一個 目標URL雜湊至特定數目之散列類別。此種散列功能較佳 耠仲裁者235提供給全部參與伺服器及要求者節點（圖2 )。 仲裁者235監視各個伺服器之工作負載，及動態更新類 別-伺服器分配而改善負載均衡。本發明也提供一種於類 別-伺服器分配之動態變化時由伺服器} 〇 3 „即時服務,，通 知要求者節點之方法。 來自要求者節點之要求到達伺服器叢集丨〇3之前可能需 要橫跨若干中間要求者節點（亦即代理快取伺服器）。例如 知點1 50必須橫跨兩階層代理快取伺服器節點1 2 5及丨〗8才 能到達伺服器叢集103。若伺服器叢集爲代理快取伺服器 叢集，則词服器的選擇較佳由最靠近代理快取伺服器叢集 1 03之要求者1 1 〇-1 20進行。於網路伺服器叢集之例，網路 伺服器之選擇可由路势要求者進行。 本發明也具有使用”裝運"^間資訊介於要求者與伺服器 節點間有效通訊路由資訊之特點。於Ηττρ實務中，資訊 X換可使用現行網路協定涵括於目標標頭作爲中間資訊。 PICS ("網際網路内容選擇平臺，”规定發送電子内容中間 資訊之方法。PICS爲網路企業協定推薦（參考 __ -13- 本紙張尺度適用中國國家標华（CNS ) Λ4規格（25><297公楚）~ --------- — —ίτ>— (讀先閔讀背面之注意^.項再填寫本頁)

P 經濟部中央標芈局貞工消费合作社印製 經濟部中央標率局貝工消贽合作社印製 A7 B7 五、發明説明（H) — http://www.w3.org/PICS)。Pics首先用於發送基於數値之 評級標％如”此内容有關如何露骨，，，但中間資訊之格式及 意義全然爲一般性。PICS中有關電子内容之中間資訊根據 S平級服務或資訊之生產者及期望用途分類：一個類別中 可傳輸任何種類或大小之資訊。各個種類具有許可値範 圍，對特定内容而言特殊類別可有單値或多値。此外中間 #況類別（稱作PICS標記11)也含有失效資訊。也有機構許 可PICS標記應用至多於一件電子内容。特定電子内容之 pres標記可电該内容獨立加删i 例如影像植可由飼服器或單一 PICS標記發送，該標記" 評級服務"欄位指示含有根據"安全瀏覽，，評級系統之基於 數値的評級標記。根據本發明當其通過企業代理快取伺服 器時，影像檔也收到第二PICS標記其Μ評級服務"欄位指示 其含有類別-伺服器分配資訊。當其通過部門代理快取词 服器時’可去除第二PI c S標記。如此客户電腦只看到第一 PICS標記。HTTP協定可以支援PICS的要求標頭及回應標 >員擴大。今日疋‘其他共通應用協定如Νττρ之技術實體 也考慮增加PICS支援。至於此等協定之—部分，期望PICS 標記類別清單可涵括於要求。PICS也規定由中央標記局飼 服器接收PICS資訊之查詢格式。PIcs標記樣本爲：（PICS_ i‘rhttP://the.rating.service"標記"http://the.content..•指數 ”1997.07.0IT08:15-0500” r(n 4 s 3 v 210))此處 v 's· v T爲 各種中間資訊類別之傳輸名，此内容之應用値爲4 (用於 η)、3(用於s)、2(用於v)&〇(用於1)。唯有可辨識m -14 - 本紙張尺度適用中^國家標準（CNslTit格（2U)X297公釐) 先閱讀背私之注意r項再填寫本頁) -------訂

. - I i - - I A7 B7 五、發明説明（12) "http://the.rating.service"之赴 ff 睡 to _ι 双暌解如何解讀此等分類及 數値。 較佳具鹽例中使用兩種不同PICS標記。第―種⑽禪記 稱作，.重分配"標記或（IM票記）由叢_的词服器節點用來指 不對返回目·標之目標類別之"目前"伺服器分配。第二種 PICS標記稱作"分配”標記或（A_標記）由要求者用來決定由 #裁者於此種情況下提供標記局功能對目標URL之目前飼 服器分配。 …圖2閣明具-有本發明特點之網路⑽)及系統之細節實 例。如所述要求者節點（202_203)用來表示運算節點其可經 由網路（20 D提出要求。要求者節點較佳包括cpu (26〇)， 記憶體（263)如RAM及儲存裝置（265)如DASD或磁碟及/或 二他:L、足磁性、呢力或光學儲存裝置。記憶體PM)根據本 .發明儲存要求者（203)邏輯（參照圖〗3説明細節），較佳具 體例爲電腦可執行碼，其可由適當程式儲存裝置（265)載入 記憶體（263)供由CPU (260)執行。業界人士瞭解要求者 (203)邏輯也可透過網路（2〇1)下載至要求者供由cpu (26〇) 執行。要求者（203)邏輯包括目標要求產生常式（267)(其細 釋 .夢閣一4〕及維持類別-伺服器分配表（270)之複本。 | 仲裁者表示可監視伺服器資訊流量及對類別-伺服 夢 器分配做調整的任何習知運算節點。仲裁者(235)較佳包括 f CPLJ (240) ’圮憶體（245)如RAM及儲存裝置（242)如DASD I I及/或其他穩足磁性、電力或光學.儲存裝置。記憶體（245) % I儲存本發明之仲裁者邏輯（細節闡明於圖9 )，較佳具體例 % I ' 製 [_____ -15- t ϊ〇Χ297^1-- 451 A7 B7 五、發明説明（13 ) 爲電腦可執行碼其由程式錯存裝置（242)載入記憶體（245) 供由CPlj (240)執行。仲裁者邏輯爲求清晰及僅供舉例説 明之用劃分成若干成份包括：一個映對要求.處理者（248)及 一個統計及評估常式（250)。此等成份將分別參照圖1 2及 1 0詳細説明。維持的主要資料結構爲類別至代理快取祠服 器分配表（225)。對類別至代理快取伺服器分配表（225)之 工作將以各個组件説明。 經濟部中夾核準局員工消费合作社印^- ^ j衣-- (封先閱讀背缸之注意r項再填寫本頁) 伺服器1 ‘·.Μ (206-208)包含可處理服務要求如提供資料/ 目標存取及/或由要求者（203)要求移轉樓之任何習知運算 節點。伺服器節點（208)包括CPU (227)、記憶體（210)及儲 存裝置（230)如DASD及/或其他穩定磁性、電力或光學儲存 裝置。記憶體（21 0)儲存本發明之伺服器遝輯（細節闡明於 圖4 )，較佳具體例爲電腦執行碼其由儲存裝置（23〇)載入 1己憶體（2 10)供由CPU (227)執行。伺服器節點邏輯爲求清 晰起見及僅供舉例説明之用劃分成若干成份：—個目標要 求處理者（2 12): —個目標處理者（2 14)及一個統計報告常 式（2 1 8)。此等成份細節分別説明於圖7、5及8。也包括一 個快、取記憶體管理者（220)及維持類別-伺服器分配表（225) 複本=> 圖3提供化16及^1=3之分配表（225、270)實例，此處1^較 佳爲目標類別數目，亦即散列或分配表大小，及Μ爲伺服 器數目。設乂U赢別Κ之^之^^225、 270)。再度參照圖2，不僅仲裁者（235)及叢集之各個伺服 器（206、208)節點同時要求者節點（2〇2、203)可維持分配表 _本紙狀度制 :鮮（cns]7^^-(2[〇X29?公们 ~ -- 7 45; A7 B7 五、發明説明（14) (225、270)複本。於要求者之分配表（270)通常未更新，亦 即未與气服器（2〇8)或仲裁者（235)分配表（225)同步。本象 明之特點爲可—免除戈秀痕戈成—夺發送名新訊真而維#表同 較佳使用裝載中間資卿-_即時服務X更新類別-伺服器 映對表。 〜' 圖4闡明根據本發明於epu (227)執行儲存於記憶體（2 10) 之伺服器（208)邏輯之實例。j^CL) A 服Jjj： 4 (225、27幻。如所述，於步骤4 I 〇，伺服器等候 -輪入。於步驟415,依據接收得之輸入採行不同動作。若 接收得之輸入爲目標要求，則於步驟42〇激發目標要求處 理者2 12。目、標(失惠^^者之更細J _實力]將參照肩丄説！。 步囉430中，若接收得之輸入爲目標，則於步驟44〇激發目 標處理者214。g標者之進一步細節一^t圖^ 明°於步驟445，若接收得之輸入爲（來自仲裁者）統計集 合要求，則於步驟460將激發H=> _」土^ 专f—式之細節實例將參照圖4説明、步驟450中，若接收得 之輸入爲（來自仲裁者之）分配表更新要求，則於步驟（465) 和據此更新它型輸冬而言全非本發明 鯉游，那中央fe毕局具工哺外合作社印¾ 〈重點（例如習知HTTP”拉扯"要求或FTP要求）則可激發適 當多種處理者（470)。 圖5闡明目標處理者（214)之一例。步碟510中，若接收得 ^目標之目標類別（參見圖7之步驟750)屬於分配表指示分 配给此種伺服器之類別，則於步驟5丨5激發快取記憶體管 埋者220。快取記憶體管理者決定此目標是否應該被快 ____ _ 17 - ，魏用標挲(CNS~T^S ( 2!〇X297公釐) —---——— 45ηί? ’ Α7 !~~—--- ---Β7 五、發明説明（仏）

JO 取’若是則應替換目前快取的目標。然後於步驟5 3 〇，目 標返回舞求者。若於步驟5丨〇，接收得之目標之目標類別 不屬於分配給此種伺服器之類別（如分配表指示），則於步 驟5 20將激發動態重分配常式。動態重分配常式之細節範 例將參照圖6説明。 圖6闡明動態重分配常式之實例（步驟52〇)。如所述，於 步驟6 10，由映對表決定處理目標類別之適當伺服器I 〇 (或 I Ρ位址）（圖3 )。於步驟620，R -標記插入目標標頭，此處 分類數値指示分配來處理此目-標類別（圖3 )之伺服器（圖 圖7闡明目標要求管理者212之實例。如所述，於步驟 7 10，若於局部緩衝器找到目標，則檢查分配表（225)決定 目標類別（圖3 )是否將於步驟720由此伺服器（圖3 )處理。 若否，則激發動態重分配常式（圖6)。於步驟740，目標返 回要求者。於步驟710，若發現目標未被局部快取，則於 步驟750送出要求（代表要求者）獲取目標。 經濟部中央標隼局負工消费合作社印黧 後文説明中，良目前測量期間）接^ Μ 對幾目；及 收得對-恿 。此外，奏 給甩服器丄头〇 圖8闡明統計學報告常式' (21 yf例。如所述，於步，曝 810，伺服器/對卜人..j發送其負載資訊以(7,0至仲裁者。 於步驟820，對卜厂.../V，被復置爲零，亦即開始計 數一個新收集或測量間隔。 -18 - 本紙張尺度適用中國國家標隼（CNS ) Λ4丨見格（210X297公釐） 五 、發明説明 16 A7 B7 圖9闡明仲裁者邏輯（235)之實例。於步驟91〇 ’仲裁者等 候輸入 '於步驟920，若測得映對要求，則於步 =要求處理者⑽)（映對要求處理者（248)之細節實^ b/·’、圖12浼明）。於步驟930，若測得統計收集間隔之計時 器失效，則於步驟950仲裁者執行統計與評估常式（25〇) (統計與評估常式（250)之細節實例將參照圖1〇說明）。於 y V 960，更新要求與附有更新分配表之全部伺服哭 訊。 。 起濟部中欢標率局眞工消合作社印製 圖1〇關明統計與評估常式（25〇)之實例。如所述，於步 π 1010 先汁收集要求由伺服垮y·(户7,·..,奶對全部伺服器 通A獲取。於步驟1〇2〇，對各類計算 (對各類別,·之全部伺服器之要求總數）。於步驟1030，對> 各個伺服器^/計算以⑺（對各伺服器j分配類別之要求總 數）表步驟1040，計算伺服器上負載之上限閾値。τη 較佳足義爲高於平均負載之部分（d)。例如d可爲〇 2 ,表示 負載均衡目標爲沒有任何伺服器超過平均之2〇%。於步驟 1050，若任何伺服器之負載超過閾値m，則重分配常式被 激發而碉整類別-伺服器分配，故可達到較佳負載均衡。 將參照圖1 1説明重分配常式之實例細節。於步驟〗〇7〇，統 計收集計時器被復置至所需统計收集間隔長度。 圖1 1闡明重分配常式實例（步驟丨060)。於步驟丨u〇，Γ〇 包括超過負載閾値(Τ扣之伺服器集合。於步驟丨115，設々 爲ΓΟ中最大負載伺服器指數β於步驟丨丨2〇，rf/包括未超 過負載閾値之伺服器集合。於步驟1125，設/爲Γί7中最小 -19- f·、紙張尺度適用中國國家標準（CNS ) Λ4規格（2〗0Χ297公楚） 4^1 1 A7 經濟部中央標毕局—工消費合作社印製 五、發明説明（17) 負載伺服器指數；及於步驟丨丨3 〇，設/爲分配給具有最小 類別負年以⑺之伺服器k類別。於步驟I 135，若重分配類 別/至祠服器/並未造成伺服器/之負載超過闕.値亦即 以⑺+ ，則於步驟i丨40(經由改變至/)將類 別i·由祠服器A重分配至伺服器/及以⑺及以⑻；及於步驟 1 I 45 ’ U (X)及以⑻更新而反應出類別重分配。特別以⑺ 藉增量及以⑻藉CM(X)減量。否則，於步驟116〇，伺 服器/由Γ"删除，原因爲其不復可由過載伺服器接收負 載。於步驟11 50，若伺服器々之負載仍然超過閾値亦即 似777 ’則再執行步驟j j3〇。否則’於步驟丨i 55，由阳 刪除词服器々，原因爲其負載已不再超過閾値。於步驟 1 17〇 ’若ΓΟ非空，則再執行步驟丨丨丨5。於步驟丨丨65，若 Γί/非空則再執行步驟U25。 業界人士顯然易知可利用於本發明之精髓及範圍内之多 種替代具體例及延伸例。例如於步驟1丨4〇，重分配爲單純 貪婪辨法泎可單一類（圖3 )由伺服器女移動至伺服器/來減 少負载不均衡。延伸例則許可來自伺服器左之—類與來自 伺服器/之另一類互換只要其可改善負載均衡。於步驟 1135唯有伺服器〖不超過負載閾値才發生重分配。可放鬆 標準，測量總過載是否減少。此外，若任何類別貞載⑽ 超過Γ//，則可分配給多個伺服器，此處各個伺服器得到該 類要求’之一部分。仲裁者可根據分配给伺服器之部分以機 率万式分配词服器給該類別之要求者。類似之重分配可於 伺服器（208)執行。 -20 - 本紙張尺度·中醜）Ai4規格（训幻97讀）一~~ 諳 先 聞 讀 背 之 注 項 再 賣 訂 ir

I 1 ί y___ 五、發明説明（18) 經濟部中央標準局员工消贽合作社印製 it外較佳具體例中，假定叢集之全部伺服器具有相等處 理谷量：業界人士容易瞭解可延伸成包括非均勻伺服器。 以非均勻伺服器爲例，負載均衡可規度化而反映接收得之 要求總數除以處理容量。特別以⑺可藉伺服器j之處理容 量規度化。 注意圖1 1闡明對類別-伺服器分配進行增量動態改良之 万法實例。業界人士瞭解於本發明之精髓及範圍内有多種 替代之道可提供最初類別_伺服器分配表◊若無法取得先 前工作負載資訊’則可使用隨機或循環式類別-伺服器分 配。否則，可使用最少處理時間第—（LPT)算法。類別以 其存取負載漸減之順序分類。表列頂端之類別（亦即有最 重負載 < 類別）首先由表列去除及分配至目前分配最少負 載之伺服器。然後據此調整該伺服器被分配的負載。此種 處理重複至全部類別皆被分配爲止。 圖1 2闡明映對要求處理者（245)之實例。如所述，於步 驟1210，目標ID(例wURLM_如透過習知散列法或其他方 法映對至其類別。其進行方式例如可以邏辑”〇R" 〇]^二邏 輯之前四位元组與URL之末四位元组，所得數目除以散列 表大小。餘數爲零至散列表大小減—之數目；餘數表示該 散列指標。於步驟122〇，由分配表（225)決定類別-伺服器 映對。於步驟丨230，映對資訊通訊至要求者。 圖13閣明要求者（2〇3)邏輯之實例。於步驟131〇,要求者 等候輸入。於步驟1315，對目標要求者於步驟132〇激發目 標要求產生常式。目標要求產生常式決定基於目標識別碼 __ -21 - 本紙張尺賴用㈣财轉（CNS )从規格（2lGx297公楚） (請先閲讀背έ之注意事項再填寫本頁}

45//? A7 B7 五、發明説明（19 經濟部中央橾毕局貝工消t合作社印製 (例如URL)待選擇何者伺服器（IP)位址而於伺服器快取記 憶體達巧更佳局限性。將參照圖i 4説明目標要求產生常式 之細節實例。於步驟1315,若接收得之輸入非爲目標 則處理前進至步驟1350。於步驟Π50若返回（先前要求的） 目標，則於步驟1360檢查目標（HTTP)標頭瞭解是否涵括再 分配標記（R-標記）。若是，則於步驟1365更新局部分配表 (270)而反映出類別_伺服器分配之變化。於步驟丨37〇，處 理接收得之目標。於步驟1325，若（例如先前於步驟144〇 要求的）映對要求返回，則於步驟133〇(待處理之）目標要 '求送至規定的伺服器。於步驟1340，局部分配表（270)基於 映對要求更新而反映出類別__伺服器重分配。於步驟 1 335，對其他類型輸入[其非屬本發明之重點（如推送目 標）]而言可激發適當其他處理者。 圖1 4闡明目標要求產生（267)邏輯實例。如所述，於步 驟1410，目標映對至其目標類別。於步驟142〇，若由類別 -伺服器映對表無法取得對應伺服器，則於步驟144〇發送 映對要求至仲裁者（如此目標要求延遲至映對要求完成爲 止，如圖13之步驟1330所述）。否則於步驟143〇 ,目標要 求發送至由類別-伺服器分配表規定的伺服器。 業界人士將容易瞭解可使用屬於本發明之精髓及範圍内 之夕種延伸例。例如於目標要求產生常式（步驟1 ，叢 集之任：思伺服器被擇定而非發送映對要求^映對要求表也 可包括對各類別-伺服器映對之有效間隔^當間隔失效 時，可回應於該類之次一目標要求發出映對要求（如步驟 -22- 本紙悵尺度適用中國:標牟（CNS 规格（2!(^<297公釐一 -— -- (諳先聞讀背4之注意„事項再填寫本頁) .喔

4J .0. 4S7 1 1 7 A7 -- -- B7__ 五、發明説明（2〇 ) 1440)。 業界5士也瞭解本發明可配合階層式映對目標識別碼至 词服器。例如本發明可合併習知領域名稱伺服器（DNS)或 基於TCP之路徑安排工作，如圖1 5所述。此處類別_伺服 器分配表較佳分配各類別（圖3 )給一個虛擬伺服器。虛擬 词服器之數目大於伺服器叢集内實際伺服器數目。DNS (1 67)及TCP路由器可動態映對各個虛擬伺服器至叢集之實 際伺服器之一。 此外’經由_裝載附有要求目標之中間資訊而於伺服器所 在位置更新路徑安排資訊之構想也可用來更新習知網際網 路之DNS路徑安排。此與使用目標url(或類別）之特點做 出词服器分配而改良快取記憶體命中率無關。DKs^ji 4r_ #僅農試於具'有訊-之—I .. (例如參考μ分配網路伺服器之排程算法"作者 (：〇叫3111^，1\/[.，丫11，1>.，及1)^5几，13%研究親_鱼及<1-2~〇^_〇，1997 年」月）。習知DNS對各個名稱至位址映對有一個ttl器。 此種映對於各個名稱伺服器快取。結果導致當dNS用於叢 集負載均衡時僅有有限的控制。根據本發明，若叢集的伺 服器變成過載’則替代伺服器丨p位址可裝載（未增加網路 資訊流量）連同返回目標（較佳使用pics標記或相當機制） 再引導資訊流量至叢集之另一個伺服器如此改善負載均 衡0 較佳具體例中’ DNS (1 67)收集由各.個要求者發出的要求 數目’且將產生要求者對伺服器分配表來於各伺服器間均 -23 - 本紙張尺度適用中國囤家標準（CNS ) A4現格（2丨0X·297公瘦) 7 45/ A7 B7 五、發明説明（21) 〜载（對非均勻飼服器而了，分配的負載可隨伺服器的 處里谷,成比例）。當（名稱至位址）映對要求抵達DnS (1 67)時，基於映對表之要求者名稱（或〗p位址）之另一個 伺服器（161…163)。映對爲階層式及多階式例如^尺匕^類 ，=>虛擬伺服器=>何服器^ DNS (167)可收集負載統計數 字及基於（遠）小於TTL之測量間隔更新分配表（225)。如此 f夬速產生新刀配表而良好反映出負載情況。全部词服器 (161…163)皆由DNS (167)獲得分配表（225)之更新版本。如 岫述，要求考（U〇…153)無需被告知該項改變；仍然可基 於先4 (名稱至位址）映對送出要求。但若伺服器收到來自 要求者之要求已經不再分配給該伺服器，則伺服器將通知 孩伺服器（I 61…163)之要求者未來應發送要求给哪一個伺 服器。目前要求仍然服務且新分配資訊例如使用pics或類 似機制連同回應或返回目標裝運。當伺服器過載時可發出 警報信號給DNS (167)。每次收到警報，DNS (丨67)重新計 算分配表而減少分配給過載伺服器的要求者數目。要求者 也可區分爲各類別，則分配表變成類別·伺服器分配。 經濟部中央標毕局員工消贽合作社印製 現在參照圖1 5敘述DNS (1 67)路由邏輯實例。假定要求 者（110)透過DNS (167)被分配一個伺服器（162)。於先前技 術，此種映對對某些TTL間隔例如5分鐘有效。根據本發 明，更新分配表可於更短時間例如〗分鐘内產生，要求者 (I 10)破分配給負載較少的伺服器（163)。要求者（11〇)無需 被告知該項變化；要求者仍可發送次一要求給同一個词服 器（162)。但伺服益·（ 162)已經由DNS (1 67)收到新分配表。 -24- 本紙張尺度適用中國國家標準（CNS ) A4規格（210X297公兹） 經濟部中央標率局員工消费合作社印奴 45π 1 7 Α7 r------ Β7 五、發明説明（22 ) 伺服器（I 62)將服務該要求但以返回目標裝載一項訊息告知 要求者（Π 0)未來發送要求給伺服器（丨63)。如此可消除tTl 之不良影響而未增加資訊流量。 業界人士進一步瞭解本發明之動態路由方法也可於葬均 勻要求者條件下工作，此處部分要求者爲習知代理快取伺 服器/客户站其不瞭解路由協定也不參與合作改良快取記 憶體命中率及負載均衡。 已經説明本發明之較佳具體例，業界人士顯然易知多種 修改及改良 '如此詳細説明部分僅作爲範例而非限制性。 本發明之適當範圍係由隨附之申請專利範圍妥爲界定。 -25 本紙張尺度適用中國國家標隼（CNS ) Λ4規格（210Χ297公釐>

Claims (1)

1. 451 ί 1 7 Α8 Β8 C8 D8 申請專利範圍 安排 1_ 一種對服務目標要求之伺服器節點集合作動麟卜 之方法，該方法包含下列步驟： 二 以一被要求的目標裝運中間資訊；以及 根據中間資訊對伺服器分配動態更新路徑安排資訊。 2·如申請專利範圍第1項之方法’其又包含下列步碟/ 於多個伺服器節點間均衡負載：及 對被要求的目標最適化快取記憶體命中率。 3. 如申請專利範圍第1項之方法，其又包含於多個伺服器 節點均衡負、載之步驟。 4. 如申清專利範圍第1項之方法，其中該伺服器集合包含 於網際網路環境下之代理快取伺服器叢集或網路伺服器 叢集。 。。 5. —種於多個服務目標要求之代理快取伺服器節點間動態 安排路徑之方法，該方法包含下列步驟： 根據一被要求目標之一目標識別碼分配一個伺服器； 回應於該分配步驟，通訊一更新的伺服器分配給一目 標要求者。 . 6. 於多個服務目標要求之網路伺服器節點間動態安排路徑 之方法，該方法包含下列步驟： 經濟部中央標準局員工消費合作社印製 根據一要求目標之一識別碼分配針對同一個主電腦名 稱或位址之目標要求給叢集中之不同伺服器； 通‘訊一更新的伺服器分配給一目標要求者；以及 目標要求者對隨後之目標要求動態維持要求目標之更 新之伺服器分配。 26- 本紙張尺度逋用中國國家標準（CNS ) Α4規格（2丨0><297公釐） 經濟部令央搞準局員工消費合作社印装 A8 B8 CS D8 七、申請專利範圍 7. 如申請專利範圍第1項之方法，其又包含根據目標識別 碼之階層式映對分配伺服器之步驟。 8. 如申州專利範圍第7項之方法，其中該目標識別碼爲 URL。 9. 如申fa專利範圍弟2項之方法，其又包含下列步驟： 映對目標識別碼至一個類別；及 基於該類別及類別-伺服器分配表分配一部伺服器。 10. 如申請專利範圍第9項之方法，其中該映對步驟又包含 透過傲列表映對目標識別碼至各類別或散列類別之步 驟。 11_如申請專利範圍第2項之方法’其中於要求者提供伺服 器選擇方法來減少分配要求資訊流量，該方法包含下列 步驟： 於要求者節點對伺服器之選擇維持類別_伺服器分配 表，該步驟包括下列步驟： 映對各個目標要求至目標識別碼至一個類別； 若於類別-伺服器映對表中無有效伺服器分配可利 用，則發出映對要求給仲裁者；及 回應於該映對步驟，更新類別_伺服器映對表。 i2.如申請專利範園第2項之方法，其中於要求者提供伺服 器選擇方法來減少分配要求資訊流量，該」 步驟： X万去包含下列 於要求者節點對伺服器之選擇維持類別—词服器分配 表，該步驟包括下列步驟： -刀- -27 - 本紙張尺度财國家標準（CNS ) Α4· ( 2ΪΟΧ297公楚__ (請先閲讀背面之注意事項再填寫本頁)

   45|申請專利範圍 A8 B8 C8 D8 經濟部中央標準局貝工消費合作社印製 映對各個目標要求至目標識別碼至_個類別. 用，則選擇一部词服器；及有^服器分配可利 了該選擇步驟’以擇定之词服器更新類別-飼服 态分配表。 13. 如申請專利範園第2項之方法，並中該 Y通吟衡負載步驟又 包含呈各類別關聯之負載之函數，分配各類別_词服器 節點之步驟。 14. 如申請專利.範圍第2項之方法，其中該均衡負載步職又 包含增量重分配類別-伺服器之步驟。 15·如申請專利範圍第i項之方法，其中該裝載步驟包含使 用PICS協定更新路徑安排資訊。 16. 如申請專利範園第！項之方法，其又包含各要求節點通 訊對目標之目前伺服器分配要求。 17. 如申清專利範圍第1 6項之方法，其中該通訊要求之步驟 使用;PICS協定而基於要求之目標類別決定目前伺服器分 酉己C 18. 如申請專利範圍第7項之方法，其中根據目標識別碼之 階層式映對分配伺服器之步驟又包含下列步驟： 分配各叢集至一部虛擬伺服器節點；及 動態映對虛擬伺服器節點至實際伺服器節點。 19. 如申·請專利範圍第！ 8項之方法，其中該伺服器節點集合 包括領域名稱-伺服器（DNS)，其中該動態味對步驟包括 名稱至位址映對及與名稱至位址映對關聯的生存期 -28- 本紙張尺渡適用中國國家摞準（CNS ) Α4现格（210X297公嫠） (请先閱讀背面之注意事項νφ填寫本頁> ir I r 451 7 AS BS C8 D8 六、申請專利範圍 (TTL)，該步驟又包含下列步驟： 於比TTL更短之間隔，DNS動態映對虛擬伺服器節吨 至實際伺服器節點； 通訊更新的伺服器映對至全部伺服.器； 其中該中間資訊包括已更新的伺服器映對；及 其中該動態更新路徑安排要求之步驟包括於目標要求 後根據已更新的伺服器映對安排路徑之步驟。 20. 如申請專利範圍第i 8項之方法，其中該伺服器節點集合 包括一部TCP路由器，又包含路由器動態映對該虛擬伺 服器節點至實際代理快取節點之步職。 21. 如申請專利範圍第丨項之方法，其又包含非均勻要求者 環境，其中並非全部要求者皆適合執行該動態更新步 驟·。 22. 如申請專利範園第5項之方法，其中該分配伺服器之步 驟包含根據目標識別碼之階層式映對分配伺服器之步 驟。 23. 如申請專利範圍第5項之方法，其又包含下列步驟： 映對一個目標識別碼至一個類別；及 基於該類別及類別-伺服器分配表分配一部伺服器。 24·，申請專利範園第5項之方法，其中於要求者提二祠服 器選擇方法來減少分配要求資訊流量，該方法 步驟‘ ： ° 於要求者節點對伺服器之選擇維持類別_伺服器分齡 表，該步驟包括下列步驟： ____ -29- 本紙張尺度適用中國國家標準（CNS ) A4規格（21〇><297公釐） f J^-- /!\ '· (請先閱讀背面之注意事項再填寫本頁) :_r*- 訂 經濟·部中央標準局員工消費合作社印製 六、申請專利範圍 — ' - 映對各個目標要求至目標識別碼至—個類別. (請先閲讀背面之注意事項再填寫本頁) 若於類別-飼服器映對表中無有效伺服器分配可利 用，則發出映對要求給仲裁者：及 回應於該映對步驟，更新類別-伺服器映對表。 .如申請專利範園第5項之方法，其中於要求者提供词服 益選擇万法來減少分配要求資訊流量，該方法包含下列 步驟：. 於要求者節點對伺服器之選擇維持類別_飼服器分配 表，該步I包括下列步驟：- 映對各個目標要求至目標識別碼至—個類別； 若於類別-伺服器映對表中無有效伺服器分配可利 用，則選擇一部伺服器；及 回應於茲選擇步驟，以擇定之伺服器更新類別-伺服 器分配表。 26. 如申請專利範圍第6項之方法，其中該分配目標要求之 步驟包括根據目標識別碼之階層式映對分配目標要求之 步膝。 27. 如申請專利範圍第6項之方法，其又包含下列步驟： 映對一個目標識別碼至一個類別；及 經濟部中央標隼局員工消費合作社印製 基於該類別及類別·•伺服器分配表分配一部伺服器。 28. 如申請專利範圍第6項之方法，其中於要求者提供伺服 器選擇方法來減少分配要求資訊流量，該方法包含下列 .步驟： 於要求者節點對伺服器之選擇維持類別-伺服器分配 本紙張尺度適用中國國家標準（CNS ) Α4規格（210Χ297公釐） 451 8 δ δ δ ABCD 經 濟 部 中 央. 標 準 局 Μ 工 消 費 合 作 社 六、申請專利範園 -- 表，該步驟包括下列步聲： 晚對各個目標要求至目標識別碼至—個_; 若於類別领器映對表中無有效伺服器分配可利 用，則發出映對要求给仲裁者；及 回應於孩映對步驟，更新類別_伺服器映對表。 ^口申請專利範圍第6嗔之方法，丨中於要.求者提供飼服 斋選擇方法來減少分配要求資訊流量，該方法包本下列 步驟： " 於要求者_節點對伺服器之選擇維持類別_伺服器分配 表，該步驟包括下列步驟： 映對各個目標要求至目標識別碼至一個類別； 若於類別-伺服器映對表中無有故伺服器分配可利 用，則選擇一部伺服器；及 回應於1¾選擇步驟，以擇定之伺服器更新類別_伺服 器分配表。 30. —種對伺服器節點集合動態安排路徑之方法，其中對伺 服器節點集合之要求可分配給叢集之不同伺服器，該方 法包括下列步驟： 一要求者週期地通訊映對要求給伺服器，該映.對要求 包括要求者識別碼或I P位址之一； 基於一要求者負載及一伺服器容量之一而映對要求者 識別碼或I P位址之一至伺服器節點集合中之一部词服 器； 回應於該映對步驟，通訊伺服器映對給全部伺服器； -31 - 本紙張尺度適用中國國家標準（CNS ) Α4規格（210X297公釐） (:)¾.— - ο (請先閎讀背面之注^|^項再填寫本頁) 訂 45f 7 A8 Βδ C8 D8 經濟部中央標举局員工消費合作社印製 夂、申請專利範圍 以及 若飼服器之一接收到爽自—τ π “接收到采自+再分配给該伺服器之要 2者足要求時，㈣器通知要求者至伺服器分配之變 3!.如申請專利範圍第3G項之方法，其中該通知要求者 驟又包含該伺服器服務該要求之步驟。 32. 如申請專利範圍第3〇項之方法，其又包含下列步驟：. 劃分要求者識別碼或I p位址成爲多個類別；及 維持類別--伺服ϋ分配表於仲裁者㈣器及祠服器集 合0 33. 如申請專利範園第32項之方法，其中該仲裁者祠服器包 含於網際網路壤境下之Dns。 34. 如申請專利範圍第3項之方法，其又包含根據目標識別 碼或I Ρ位址&階層式映對分配—部伺服器之步驟。 35‘如申請專利範園第3項之方法，其又包含映對要求者識 別碼至一個類別之步驟：及基於該類別分配一部伺服 器。 36.如申清專利範圍第3项之方法，其又包含下列步驟： 何服益通訊已更新的中間資訊給要求者；及 要求者更新該項分配。 j7.種可被一機.器璜取之程式儲存裝置’有形具體表現一 可於機器執行之指令程式而執行用以在服務目標要求之 伺服器節點集合間對目標要求做動態路徑安排之方法步 驟，該方法步驟又包括： -32- 本紙張尺度適用中國國家標準（CNS ) A4規格（2Ι〇χ297公釐） (請先間讀背面之注意事項再填寫本頁) _°幕-------訂一------ 5 4 7 8 8 8 8 ABCD 經濟部中央標準局員工消費合作社印裝 六、申請專利範圍 ~ 以一被要求的目標載運中間資訊；以及 根據該中間資訊動態更新伺服器分配之路徑安排資 訊。 38·如申請專利範圍第37項之程式儲存裝置，其又包含下列 步驟： 於多個伺服器節點間均衡負載；及 對被要求的目標最適化快取記憶體命中率。 39. 如申請專利範圍第3 7項之程式儲存裝置，其又包含於多 個伺服器節-點均衡負載之步驟。 40. 如申請專利範圍第3 7項之程冬儲存裝置，其中該伺服器 集合包含於網際網路環境下之代理快取伺服器叢集或網 路伺服器叢集。 41. 一種可被一機器可讀取之程式儲存裝置，有形具體表現 一可於機器執行之指令程式而執行用以在服務目標要求 之伺服器節點集合間對目標要求做動態路徑安排之方法 步驟，該方法步驟包括·- 根據被要求目標之目標識別.碼分配一個词服器； 回應於該分配步驟’通訊更新的伺服器分配給目標要 求者。 42. 如申請專利範園第4 1項之程式儲存装置，其中該分配词 服器之步驟包含根據目標識別碼之階層式映野分配词服 器之步驟。 43. 如申請專利範園第4 1項之程式儲存裝置，其又包含下列 步驟： -33- 本紙張尺度適用中國國家標準（CNS ) A4規格（210X297公釐） (請先閲讀背面之注意事項再填寫本頁) 17 .0 5 i 經濟部中央標率局員工消費合作社印掣 4 1 ΐ ：7 六、申請專利範園 AB!CD

   映對：個目標識別碼至—個類別；及 方只々.J ，从 基於該類別及|g s，丨扣ηρ _ . 卜词服益分配表分配一邵词服器0 44,如申請專利範圍第4 ^ 叫弟4 1項疋程式儲存裝置，其中於要求者 提供伺服器選擇太，、土 A w ,、 评万去來減少分配要求資訊流量，該方法 包含下列步驟： ’ 於要求者郎點對伺服器之選擇維持類別-伺服器分配 表，該步驟包括下列步驟： 映對各個目檩要求至目標識別碼至-個類別； 右於類-別伺服器映對表.中無有效伺服器分配可利 用’則發出映對要求給仲裁者；及 回應於琢映對步驟，更新類別-伺服器映對表。 a申-s專利範園第4 i項之程式儲存裝置，其中於要求者 提仏伺服益選擇方法來減少分配要求資訊流量，該方法 包含下列步驟： 於要求者節點對伺服器之選擇維持類別_伺服器分配 表，該步驟包括下列步驟： 映對各個目標要求至目標識別碼至一個類別； 右於類別-伺服器映對表中無有效伺服器分配可 用，則選擇一部伺服器；及 回應於該選擇步驟，以擇定之伺服器更新類別· 器分配表。 46. —種可被機器讀取之程式儲存裝置，有形具體表現— 於機器執行之指令程式而執行用以在服務目標要求之词 服器節點集合間對目標要求做動態路徑安排之方法步 利 服 可 (請先閎讀背面之注意事項再填寫本頁) /¾ Aw 34 本纸張纽適用中職家裙準（CNS )从麟（21())<297公幻

   鲤濟部中夬插準局貝工消費合作社印製 驟，該方法步驟包括： 通祝更新的伺服器分配給目標要求者；以及 目標要求者對隨後之目標要求動態維持要求目標之更 新之伺服器分配。 47. 如申請專利範圍第4 6項之程式儲存裝置，其中該分配目 標要求之步驟包括根據目標識別碼之階層式映對分配目 標要求之步驟。 48. 如申請專利範圍第4 6項之程式儲存裝置，其又包含下列 步驟： _ , 映對個目標識別碼至一個類別；及 基於該類別及類別-伺服器分配表分配一部伺服器。 49.,申請專利範圍第46項之程式儲存裝置，其中於要求者 楗供伺服器選擇方法來減少分配要求資訊流量，該方法 包含下列步驟： 於要求者節點對伺服器之選擇維持類別“司服器分配 表’該步驟包括下列步碟： 映對各個目標要求至〜目標識別碼至—個類別； 若於類別-伺服器映對矣φ I古： 田, 益呎野表宁揲有效伺服器分配可利 用，則發出映對要求給仲裁者；及 50 “回應於該映對步驟，更新類別-词服器映對表。 地如申請專利範圍第6項之程式 提供词服器選擇方法來減少分配要求；上於= 包含下列步驟： 讯抓•量，該万法 於要求者節點對伺服器之 译待類別-伺服器分配 |____ - 35 —

   45; Α8 Β8 C8 D8 六、申請專利範圍 表’該步驟包括下列步驟： 映對各個目標要求至目標識別碼至一個類別； 若於類別-飼服器映對表中無有效伺服器分配 用，則選擇一部伺服器；以及 。。回應於孩選擇步驟，以擇定之飼服器更新類別—飼服 器分配表。 51. 如申請專利範圍第37項之程式儲存裝置，其又包含根據 目標識別碼之階層式映對分配伺服器之步驟。 52. 如申請專利範園第5〗項之程式儲存裝置，其中該目標識 別碼爲URL。 ν'" 53. 如申請專利範圍第51項之程式儲存裝置，其中根據目標 識別碼之階層式映對分配伺服器之步驟又包含下列步 驟： ^ 分配各叢集至一部虛擬伺服器節點；及 動態映對虚擬伺服器節點至實際伺服器節點。 54. 如申請專利範圍第5 3項之程式儲存裝置，其中該飼服器 節點集合包括領域名稱-伺服器（DNS)，其中該動態映對 步驟包括名稱至位址映對及與名稱至位址映對關聯的生 存期（TTL)，該步驟又包含下列步，戰： 經濟部中央標準局員工消费合作社印装 於比TTL更短之間隔，DNS動態映對虛擬伺服器節寶占 至實際伺服器節點； 通’訊更新的伺服器映對至全部伺服器； 其中該中間資訊包括已更新的伺服器映對；及 其中該動態更新路徑安排要求之步驟包括於目標要求 -36- 本紙張尺度適用中國國家標準（CNS ) A4規格（2丨0X297公旋） 7 1P If 8 8 8 8 ABCD 鯉濟郜中夬標準局員工消背合作社印製 六、申請專利範圍 後根據已更新的伺服器映對安排路徑之步隸。 55. 如申請專利範圍第5 3項之程式儲存裝置，其中該伺服器 節點集合包括一部TCP路由器，又包含路由器動態映^ 該虛擬伺服器節點至實際代理快取節點之步聲。 56. 如申請專利範圍第3 8項之程式儲存裝置，其又包含下列 步驟： 映對目標識別碼至一個類別；及 基於該類別及類別-伺服器分配表分配一部伺服器。 57. 如申請專利_範圍第5 6項之程式儲存裝置，其中該映對步 I又包含透過散列表映對目褥識別碼至各類別或散列類 別之步驟。 58. 如申請專利範圍第38項之程式儲存裝置，其中於要求者 提供伺服器選擇方法來減少分配要求資訊流量，該方法 包含下列步驟： 於要求者節點對伺服器之選擇維持類別-伺服器分配 表，該步驟包括下列步驟： 映對各個目標要求至目標識別碼至一個類別； 右於類別-伺服器映對表中無有效伺服器分配可利 用’則發出映對要求給仲裁者；及 回應於该映對步驟，更新類別-飼服器映對表。 59. 如申請專利範園第3 8項之程式儲存裝置，其中於要求者 提供伺服器選擇方法來減少分配要求資訊流量，該方法 包含下列步驟： 於要求者節點對伺服器之選擇維持類別-伺服器分配 ________-37- 本紙張尺㈣騎國财縣（CNS) A4^T^^iT (请先閱讀背面之注意事項再填寫本頁) -訂. 45j Α8 BS C8 D8 申請專利範圍 表 該步驟包括下列步驟： 映對各個目標要求至目標識別碼至一個類別； 若於類別-伺服器映對表中無有效伺服器分配可禾 用，則選擇一部伺服器；及 回應於該選擇步職，以擇定之伺服器更新類別-伺朋 器分配表。 6〇·如申請專利範圍第3 8項之程式儲存裝置，其中該均衡負 載步驟又包含呈各類別關聯之負載之函數，分配各類別 •伺服器節點之步驟。 61. 如申請專利範圍第3 8項之程式儲存裝置，其中該均衡負 載步驟又包含增量重分配類別-伺服器之步驟。 62. 如申請專利範圍第3 7項之程式儲存裝置，其中該裝載步 驟包含使用PICS協定更新路徑安排資訊。 63_如申請專利範圍第37項之程式儲存裝置，其又包含各要 求節點通訊對目標之目前伺服器分配要求。 64. 如申請專利範圍第63項之程式儲存裝置，其中該通訊要 求之步驟使用PICS協定而基於要求之目標類別決定目前 伺服器分配。 經濟部中央標準局員工消費合作社印製 65. 如申請專利範圍第37項之程式儲存裝置，其又包含非均 勻要求者環境，其中並非全部要求者皆適合執行該動能 更新步驟。 66. 如申請專利範圍第39項之程式儲存裝置，其又包含 目標識別碼或IP位址之階層式_分配—部伺服+ 驟.。 y Μ氏張尺度適用中國國家標準（CNS ) A4MS^'( 2l〇X297^jT 7 A8 B8

   盹如申請專利範圍第39項之程 步驟： 于表置’其又包含下列 ==已更新的中間資訊給要求者;及 要求者更新孩項分配。 69.—種可被一機器讀取之 ^ μ - ^^ 飞储存裝置，有形具體表現 、态tr 指令程式而執行用以在服 伺服器節點集合間對目枵 務目‘要木 、、 卞目^要求做動態路徑安排之方法 I，孩万法步驟包括 之步 ----------IQII ·'ο (請先閎讀背面之注意事項再填寫本頁) 輕濟部妒央榇率局員工消費合作社印製 一個要求者週期地通訊映對要求給伺服器，該映對要 求包括要求者識別碼或J p位址之一； 。基万、4求者負載及一伺服器容量之—映對要求者舖 別碼或ϊρ位址之—至飼服器節點集合中之-飼服器； 回應於琢映對步驟，通訊一伺服器映對給全部伺服 器；以及 若伺服器之一接收到來自一不再分配給該伺服器之 要求者之一要求時，伺服器通知該要求者一要求者至词 服器分配之變化。 70. 如申請專利範圍第6 9項之程式儲存裝置，其中該通知要 求者之步驟又包含該伺服器服務該要求之步驟。 71. 如申請專利範圍第6 9項之程式儲存裝置，其又包含下列 步驟： 本紙張尺度適用中國國家標準（CNs ) Α<4规格（2丨0><2打公釐） "τ ό 45

   六、申請專利範圍 劃分要求者識別碼或IP位址成爲多個類別；及 ，隹持類別-伺服窃分配表於仲裁者词服器及伺服器集 合。 72.如申凊專利範圍第7 1項之程式儲存裝置，其中該仲裁者 <司服器包含於網際網路環境下之DNS。 經濟部中去擦隼局員工消費合作社印製 40 本紙張尺度適.用中國國家標準（）A4規格（210X2S»7公釐）