TWI269562B - Request-scheduling method for providing different service at the gateway of a network channel - Google Patents

Description

1269562 九、發明說明： 【發明所屬之技術領域】 本發明係有關-種在網路通道閘道器上之請求排程，特別是有關一種 在網路通道閘道器上提供差別服務之請求排程。 【先前技術】 傳統以封包進行排程之演算法，需對每一個回傳封包進行排程，無法 在企業端接取端閘道器（access gateway)，提供有效的機制，來管理回傳 封包（response packets)所使用的接取路徑（access link)頻寬，此乃 因為接取路徑的瓶頸點發生在ISP端接取閘道器，而不在企業端閘道器。 目前請求排程技術都是直接套用在網頁伺服器或靠近伺服器群組的閘 道器上，用來提供網頁寄存（web h〇sting)服務的差別品質，此類型方法 不月b適用在企業上網的接取閘道器端，因為從企業内部送出之請求 (request)目的地是不可預測的且遙遠的，此外也與用於接取閘道器上的頻 寬管理目的不同，即便是設計在企舰接取間綠使關，也沒有可以達 到「依使用者類別不同，而給於不同回傳頻寬待遇」的方法。 驾知美國專利 US6, 〇〇3, 〇82「Selective internet request caching and execution system」提出一個可以選擇式過濾（selective niter)和暫存 (cache)使用者請求(request)的機制，通常是安裝在企業端接取閘道器 上，其係對於每一個接收到的使用者請求，會執行4類型的檢查，才會決 定是否將此請轉遞原先制的獅，僅提出—個pQliey—based request filter機制，無法達到user間在resp〇nse回傳頻寬使用上的可分享式差 I269562 另J待遇，及避免access link成為任一個resp〇nse的傳輸瓶頸 另一習知美國專利 US6, 363, 434 r Method of managing resources

within a network of consumer electr〇nic devices」提出在消費性電子 產品所構成網路下的-個資源管理機制，使用者發出f源使用請求到此管 理機制，再由此機舰-決定是否有足夠的龍、以滿足該補求。此專利 斤水时的％㉟小而封閉式的網路環境。使用者所要求的資源則散佈在 Internet各處。因此從發出請求雌_回應，有額外的延遲，在延遲時 間中造成頻寬的浪費， 有4^於此’本發明係針對上述之問題，提出一種在網路通道間道器上 提供差別服務U排私’提出在頻寬空出之前，便根據此段延遲時間的 不同’預綠出請求的機制，來避免此段延遲時間中頻寬的浪費，提高使 用率。 【發明内容】 • 本發明之主要目的’係在提供—齡祕通制道器上提供差別服務 之π求排程，可用來在企業端網路通道閘道器上進行頻寬管理，以提供使 用者間有差別且可分享的服務待遇。 „ 本發㈤之目的’係在提供-齡祕通道暇器上提供差別服務 之π求排私’计异出请求封包對應的反應封包在連線網路中所佔用的頻 寬；、道透過控制類別中凊求封包的送出頻率，降低接取路徑上發生封包 碰撞的可能性，__接取路徑的頻寬使用率。 本U之又-目的’係在提供—種在網路通道閘道器上提供差別服務

(S 6 1269562 之明求排私’可官理企業内部使用者至網際網路下載資料或外部使用者由 網際網路至錢_下«料，具有賴紐。 根據本發明，其係包括下列㈣：鑛接取路徑是否成為下載瓶頸， 斤月匕ki、、、、0回應（response)傳輸用的頻寬大於網際網路上所 此提供給細應傳輸時__寬，則進人休眠（31卿）狀態，若否則進 卜 V驟，t擇一睛求，選擇從客戶端（clients)所發出的請求 Q est) ’判斷明求的回應頻寬是否小於一配額傳輸量，若否則重複選 擇5月求步*驟’若是則進行下一步驟；計算可用頻寬與發送請求之時間點； 將印求傳达至接取路徑；紀錄請求的資料；以及設定執行判斷接取路徑是 否成為下載瓶頸之時間。纟下藉由具體實施例配合所附的圖式詳加說 月田更谷易瞭解本發明之目的、技術内容、特點及其所達成之功效。 【實施方式】

本發明係提出在頻寬空出之前，便根據此段延遲時間的不同，預先發 出睛求的機制，避免在此段延遲時ρ种頻寬的浪f，提高使用率。 第一圖所示為企業網路與網際網路連接之架構，當企業員工上網瀏覽 網頁時’所有由内部網路之用戶（clients) 100所發出的請求（卿ests)， 广、疋會通過止業端接取閘道器（πππ职七⑽即）2〇〇，接取路徑（access link) 300 ’網路服務提供者（isp)之邊界路由器（咖魅故）棚而 I根據^求所載明之網址（肌^扣挪）送到網際網路（⑽㈣的）關 上的某一個伺服器（server) 傳送該請細要相回應封包 600，伺服器600在接收到此請求後，會開始 (response packets)，此回應（response) 7

(I 1269562 穿過網際網路咖、邊界路由器働、接取路測、企業端接取閘道器2〇〇, -而後到達發出該請求的用戶1〇〇。 : 其中’從接取閘道器200發出請求到收完所有回應封包，如此一個動 乍、TX表不’若每個τχ以其請求發出之順序編號，則可以Τχ⑴標示，土 為一順序絲舰，τχ崎絲示為τχ⑴.Req，爾紅_彳表示^ TX(i).Resp ’ Tx⑴.Resp傳送完成時間表示為Tx(i) RespFT，而從接取閑 道200送出Tx⑴.Req到收到τχ⑴.以印的第一個封包（阳伽），這 籲段延遲的時間則表示為TX(i). D。 凊參閱第二圖為本發明一種應用在接取閘道器之架構示意圖，接取閑 道器200由-個請求分類器Classmer) 21〇、一個請求排程器 (Re轉t Scheduler，RQS) 230 及多個類別佇列（class _es) 22〇 構 成’因此一個請求（request)在抵達請求分類器21〇後，會根據使用者定 義之準則，被分配到類別仔列220中的其中一個仔列中，而請求排程器23〇 在接取路徑（access 1固綱不成為回應（卿_)傳送時的下載瓶 # 麟提下’不斷的從類別符列220選出請求送出，所謂「接取路徑3〇〇不 成為下載瓶頸」是指接取路徑3GG所能提供給-個回應（res_se)傳輸 用的頻寬不小於網際網路500上所能提供給該回應傳輸時所用的頻寬；其 中’網際網路500、給予某一回應TX(i).Resp的頻寬被簡稱為 TX(i).RespBW ;另外請求排程器（RQS) 230由下列三個主要元件組成：釋 放比例控制器（Release Proportition Controller、RPC) 231、釋放時間 控制器（Release Time Controller, RTC) 232、及回應記錄器（Resp〇nse (§ 8

1269562

Recorder，RR) 233。 、、請參閱第^所示為本發明之方法流糊，步驟S1觸接取路徑是否 成為下載㈣。（所謂_是指接轉彳靖能提餘—喊（吻_)傳 的頻寬〗於娜鱗上所能提供給該回應傳輸時顧的頻寬）。當不是 員寺貝j進入休眠（sleep)狀態sn，所以當接取路徑頻寬小於 TX(e).RespBW，卿放輪制繼)職停止運作，純 秒時才再度被喚起。純以變數U來隨時紀錄最近—辦將完成傳送的 回應完成_，也是猶目前傳送域完成時間，τχ⑴岭FT，的最 小值。釋放k間控制器（RTC) 232之所以只需要)進行可用 雜的檢查即可，是因為額外的下載頻寬只有在某—個回應（卿_s) 結束時才會釋放，假設我們以變數挪紀錄目侧餘頻寬，職時間控制器 (RTC) 232藉由最小堆積樹Hft得知在時間w恰巧有τχ⑷.此印和 TX(b).Resp結束，則頻寬將因為這兩個請求的結束，增加 TX(a)· RespBW+TX(b). RespBW。 再请參閱第四圖（a)為本發明之資料結構示意圖，知結構是一個最小堆 積樹（minheaptree)，請求排程器（RQS) 23〇中有回應（resp〇nses)在 傳达中的τχ ’都會被掛在最小堆積樹Hft，並且以TX RespFT作為堆積樹 (heap tree)中排序的鍵（key)，根據最小堆積樹的定義，其根節點（Γ〇〇ΐ node)指向所有在等待回應（responses)傳送中的τχ，其τχ· RespFT最小 的一個（也就是回應最早傳輸結束的那個ττχ)，在TmmFT所指時間前，Hft會 有TX(a)、TX(b)、TX(c)三個TX，根（ro〇t)是TX(a)，而之後就只剩下 9 1269562 TX(c)和 TX(d)，且根是 Tx(c)。 另外，請翔細目（㈣她___娜序列圖，判 斷頻寬是議τ她頸，賴在w(T_T_ead)娜之日鋼，而不是 直接在W所指球間進行相關動作的理由是因為請求發出到收到回應有 延遲時間D ’因此必須於TminFT前提早發出請求，才能使其回應在u前回 來。此外又由於釋放時間控制器（RTC)挪並不知道誰是下一個被送出的 請求’因此提前τ—於時間τ暖進行判斷，這裡的Τι—是一個系統變 數，必須永遠大於所有TX(m). D，τχ⑹包含每一個咖宁列（_卩臟） 頭端的TX。 步驟S2辦-請求，從客戶端（elients)所發出的請求（卿⑷中選 出下-個要被傳送的請求，當釋放時間控制器（_ 232向釋放比例控制 器（RPC) 231要請求時，便從現在輪到的類別_ (class_e)選出下 一個要被傳送的請求（request)，在釋放比例控制器（Rpc) 231中會維護 一個指標s記錄目前輪到的類別佇列，並維護一個旗標F，F=〇表示指標s 剛切換到目前所指的這個類別佇列，並且尚未進行任何動作。 其中’對於一個類別佇列（classqueue) QUi在釋放比例控制器（Rpc) 231中將配置一個計數器（counter)以DCi表示，以及一個常數名為③，各 類別（class)間Q值的比例是表示各類別將來分到可以用來傳輸回應 (responses)的接取頻寬比例，而DC則保存這一輪中，該類別（class) 未使用完的可傳輸量。 1269562 步驟S3觸該請求_應頻寬是否小於—配額傳輸量，當釋放比例控制器 (RPC) 231被釋放時間控制器（RTC) 232吟叫時，釋放比例控制器（Rpc) 231根據指標S所指，開始處理該類別侧（class queue)的請求，假設 目則S指向QUi，且若F=〇則他會額外的更新DCi=DC +Qi並且更新F為丨·，接 著檢視QUi的第一個請求，假設為TX(A). Req，若TX(A)· RespSizKDG則， 則便將此TX(A).Req回傳給釋放時間控制器（RTC) 232，然後結束運作， 此時S仍停在QUi;若τχ(Α)· RespSize>DCi，則進行步驟兑，釋放比例控制 器（RPC) 231將指標s指向下一個類別仔列（ciass queue)且設定卜〇， 接著重複檢視每一類別的第一個請求，直到選出一個請求給釋放時間控制 器（RTC) 232為止’假使QUi沒有任何請求（re(luest)需要處理，則dg 曰被重置（reset)為〇 ’指標s會指向下一個類別彳宁列且設定j?==〇，重複 檢視每一類別的第一個請求直到選出一個請求給釋放時間控制器（rtc)232 為止’除非所有的qu都沒有任何的請求，則釋放比例控制器（Rpc) 會 停止運作。步驟S4計算可用頻寬與發送該請求之時間點，釋放時間控制器 (RTC) 232在TcURR時間點，透過釋放比例控制器（RPC) 231得到下一個待 送出的請求Tl(d).Req的資訊。當BW>TX(d).ReSpBW時，釋放時間控制器 (RTC) 232 將在(TX(a).RespFT-TX(d).D)秒時，也就是第四圖（b)中 d· release的時間送出TX⑷· Req，並更新BW._ TX(d)· RespBW。在此時 刻运出可以確保TX(d).Resp在TX(a).RespFT所指之時間前回來，並開始 使用TX(a).Resp所釋放出來的頻寬；另外，假使τχ⑷·此印無法佔用全 部TX(a)· ResP所釋放的頻寬（亦即BW扣除TX(d)· RespBW後，BW>0)，則釋 11 1269562 放時間控制H⑽）您可重複轉SI，不斷的錄發猶求，直到變數 BW所》己錄之剩餘頻i，已不足提供下一個請求，例如τχ(6).㈣的回應 TX(e). Resp傳送所需頻寬BW<TX(e).此叩冊。 v驟S5將明求傳送至接取路徑，孤幻.㈣在時刻土 脱時間點被送

出後’ n(d)會被掛至,j最小堆積樹Hm，掛在如細上的是包含所有請 求已”二出’但部尚未收到第一伽應封包的τχ，接著等到如㈣時間點 收到TX(d)的第個回應封包時，τχ⑷會被掛到另_個最小堆積樹出”步 驟S6紀錄該請求的資料，回應記錄器⑽）233在請求排程器⑽）230 中主要疋負貝追縱及記錄每__個請求的頻寬⑽），大小（心），回應延 遲時間（D)三項資料，以供釋放比例控制器_ 231及釋放時間控制器 _ 232使用’對於第—次穿過請求排程器⑽）咖的請求，其回應 的三項資料’則由回應_⑽）233負責讎，回應延遲時間⑻可 由建立傳輸控制協定連結⑽贿^〇η)時的三步交握〇謂

-她响则中取得，州、（_)财職請求賴址（卿被 祖）中所縣下_嶋酬，職⑽）則侧伽一網站的 回應回傳速度的紀錄得之。 步㈣戰物S1糊，物第(撕㈣資料結構 ^不祕（b)林她觸时動之_軸 =(騰咖⑽的規範，對i_dXRe__j (Packet) ^^Tc^^〇itTX(d,Resp^ ^ 應咖⑽崎在_τχ⑷.Resp ♦崎物㈣、統喚=

12 1269562 並且根據記錄中的TX(d).RespBW，預測TX(d).Resp的傳送完成時間 (TX(d).ResPFT)，TX(d).RespFT隨後會被插人（insert)進一個最小堆積 '樹Hft ’回應§己錄斋（RR) 233便可由HEAD(Hft)所指之π的TX· RespFT，來 預約叫轉放時間控制器（RTC) 232的時間，促使沈睡中的釋放時間控制 器（RTC) 232進行步驟S1 ;另外，當插入（insert) TX(d)進最小堆積樹 hFt後，head(hFt)的依舊指向tx(c)，故釋放時間控制器（RTC) 232被預約 叫醒的時間為 HEADOk). RespFT-。 另外，回應記錄器（RR) 233獲得某一回應的確切長度後，除了設定預 約叫轉放時間控制器（RTC) 232的時間外，還進行「計數器（DC)的彌 補動作」，這個動作的主因是，當釋放比例控制器（Rpc)231在考慮要送出 某一類別佇列（class queue)Qi的TX(a)· Req時，並不一定知道TX(a)· Resp 的確切長度，稱作TX(a)· RealRespSize，因此當初的j)Ci可能因為 TX(a).RespSize值的不正確估計，被多扣或少扣，因此必須在回應記錄器 (RR ) 233知道TX(a)· RealRespSize時回補回去，回補原則為 DCi=DCi - TX(a)· RealRespSize+TX(a)· RespSize。 本發明利用上述請求排程器在企業端網路通道閘道器上進行頻寬管理 以有效管理_頻寬，提供使用者財差取可分享的服務待遇，可降低 接取路徑上發生封包碰撞的可能性。 第六圖為本發明另一實施例之應用，適用於企業在内部網路架設伺服 器650，當網際網路上的使用者（client) 15〇欲擷取伺服器65〇的網頁時， 便會發出請求(request)，接著通過ISP的邊界路由器45〇 '接取路徑35〇、 1269562 接取閘道器800，抵達伺服器（server)65〇，當伺服器650接收到使用者i5〇 所达出之請求封包後，開始回傳請求(request)所需之回應(⑽卿％)封 包’回應(response)將循相反路徑回傳最後抵達使用者15〇。本實施例亦是 -個能在回應（respGnse)封包傳遞路徑上提供差舰務品f的接取問道 器’運作方式其如前一個實施例所描述；其中，對任一傳輸τχ⑷而言，由 於接取閘道請〇相當接縣_，wbTX(a) D财可縣零，當所 有Π的D可視為零時，Τι〇〇_也等於零，使得請求排程器（聊咖運作 方式更為簡單，因為請摘包不再需要㈣於瞒卿邮束前發 出，而只需要在回應結束的時間點，由釋放時間控制器（rtc)微計算可 用頻寬，再由釋放比例控制器（RPC) 831從類聊列（_叫⑽）82〇 挑出請求，發出給刪（贿er)65G即可。此外由於回應都是由恤臟七 的飼服器650提供，RespBW與是可以藉由事先量測，卿 精準的值，提升請求排程器⑽）83〇排程的效果。 本發明可管觸_紐碟斷«細刪者由網 際網路至企業内部下傭料，具村擴充性。 輸細刚她地，㈣權爾術者 此暸解本㈣之内容並據以實 .非丨良疋本發明之專利範圍，故，凡其 他未脫離本㈣示之㈣所完成 所述之申請專利範圍中。 认飾或修改，仍應包含在以下 【圖式簡單說明】 第一圖所7F為企業鱗與網際網輯接之架構 1269562 第二圖為本發明一種應用在接取閘道器之架構示意圖。 第三圖所示為本發明之方法流程圖。 第四圖（a)為本發明之資料結構使用示意圖。 第四圖（b)為本發明時間控制器作動之時間序列圖。 第五圖（a)為本發明之資料結構使用示意圖。 第五圖（b)為本發明回應記錄器作動之時間序列圖 第六圖為本發明另一實施例之應用。 【主要元件符號說明】

Cs 100用戶 150使用者 200接取閘道器 210請求分類器 220類別佇列 230請求排程器 231釋放比例控制器 232釋放時間控制器 233回應記錄器 300接取路徑 350接取路徑 400邊界路由器 450邊界路由器 500網際網路 600伺服器 650伺服器 800接取閘道器 820從類別佇列 830請求排程器 831釋放比例控制器 832釋放時間控制器 15

Claims (1)

1269562 十、申請專利範圍： 1· 一種在網路糖，勵上提供差觀務之請求排财法，其步驟包括·· U)判斷接取路徑是否成為下载瓶頸，接取路徑所能提供給一回應 (吻㈣傳輸胸獻於網際網路上難提供給該回蘭輸時所用 的頻寬，則進人休眠（sleep)狀態，若否則進行下—步驟；⑹選擇一請 求，選擇從客戶端（clients)所發出騎求（卿est);

判斷“求_應頻寬是否小於—轉傳輸量，若频重複步驟⑻， 疋、·ί進行T步驟，⑷计异可用頻寬與發送該請求之時間點； (e) 將該請求傳送至該接取路徑； (f) 紀錄該請求的資料，·以及 (g)設定執行步驟（a)之時間。 2.如申請專鄕圍第丨顿述之麵路通姻道紅提供差舰務之請求 排程方法’其巾，齡⑷峨細树4_物，有任何—個

«月求之回應結束的時間再減去一延遲時間。 從數個類別佇列中選擇一類別佇列 別佇列； 並維護一個指標記錄目前輪到的該類 從該類別制選出下-個要被傳送的請求，並維護—旗標表示該指標剛切 換到該類翁列，域_為G絲尚未進行购動作；以及 將該配額傳輸量加上—接取頻寬比例最後儲存至—計數哭中。 4.如申請專利軸1項所述之在網路通道閘道器蝴^別服務之請求 16 1 .辦請補範圍第1顧狀在轉通·道紅提健麻務之請求 排程方法，其巾，步驟⑻中更包括下列步驟： 1269562 排私方法，其中，該等類別仔列是由一請求分類器根據使用者定義之準則， 將用戶端傳送之請求分配到該等類別件列之其中一者。 5. 如申請專利範圍第3項所述之在網路通道閘道器上提供差別服務之請求 ' 排転方法，其中，該配額傳輸量是儲存在該計數器中。 6. 如申請專利範圍第1項所述之在網路通道閘道器上提供差別服務之請求 排程方法，其中，步驟⑷更包括當接取路徑頻寬若大於回應的頻寬則執 行步驟（a)。 7. 如申請專利範圍第1項所述之在網路通道閉道器上提供差別服務之請求 排程方法，其中，步驟（e)更包括： 將該請求先儲存在釋放最小堆積樹（min heap tree);以及 收到該請求的第-個回應封包后再儲存至一最終時間最小堆積樹。 申π專利|&圍第1項所述之在網路通道閘道器上提供差別服務之請求 排&方法，其中，該資料係為每一回應的頻寬（Β&_紐h)，大小（)， •延遲時間（Delay time)。 •如申睛專利範圍第1項所述之在網路通道閘道器上提供差別服務之請求 &方法’其巾’該接取路徑係連接私有網路至網際網路。 17