WO2016064030A1 - 글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법 - Google Patents

글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법 Download PDF

Info

Publication number
WO2016064030A1
WO2016064030A1 PCT/KR2014/012986 KR2014012986W WO2016064030A1 WO 2016064030 A1 WO2016064030 A1 WO 2016064030A1 KR 2014012986 W KR2014012986 W KR 2014012986W WO 2016064030 A1 WO2016064030 A1 WO 2016064030A1
Authority
WO
WIPO (PCT)
Prior art keywords
validity period
cache validity
load balancer
server
balancer device
Prior art date
Application number
PCT/KR2014/012986
Other languages
English (en)
French (fr)
Inventor
김성일
김성덕
김진엽
Original Assignee
삼성에스디에스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성에스디에스 주식회사 filed Critical 삼성에스디에스 주식회사
Publication of WO2016064030A1 publication Critical patent/WO2016064030A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/101—Server selection for load balancing based on network conditions
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1031—Controlling of the operation of servers by a load balancer, e.g. adding or removing servers that serve requests
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08—Configuration management of networks or network elements
    • H04L41/0896—Bandwidth or capacity management, i.e. automatically increasing or decreasing capacities
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/70—Admission control; Resource allocation
    • H04L47/82—Miscellaneous aspects
    • H04L47/822—Collecting or measuring resource availability data
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L61/00—Network arrangements, protocols or services for addressing or naming
    • H04L61/45—Network directories; Name-to-address mapping
    • H04L61/4505—Network directories; Name-to-address mapping using standardised directories; using standardised directory access protocols
    • H04L61/4511—Network directories; Name-to-address mapping using standardised directories; using standardised directory access protocols using domain name system [DNS]

Definitions

  • Embodiments of the present invention relate to a cache time-to-live (TTL) control technique in a global server load balancer.
  • TTL cache time-to-live
  • GSLB Global Server Load Balancer
  • CDN Content Delivery Network
  • DR Disaster Recovery
  • TTL cache time-to-live
  • the operator pre-sets a cache time-to-live (TTL), which allows up to TTL time before the change propagates to end users, even if the site fails and changes are made to DNS records.
  • TTL cache time-to-live
  • TTL very small or even zero. In this case, however, it is possible to quickly propagate the DNS record, etc., but in proportion, the request to the GSLB also increases, and in extreme cases, the GSLB may become unresponsive. Therefore, there is a need for a method for adjusting TTL to an optimal value within a level that satisfies the GSLB stability and quality of service standards.
  • Embodiments of the present invention provide a means for dynamically changing the size of the cache validity period set in the global server load balancer according to the state of the global server load balancer.
  • a global server load balancer device for performing load balancing between a plurality of local servers, the global server load balancer device comprising: a DNS query processing unit for receiving a query message from a Domain Name System (DNS) server; A server selecting unit which selects any one of the plurality of local servers when the query message is received; A load calculation unit configured to collect state information of the global server load balancer device and calculate a load of the global server load balancer device from the collected state information; And a cache validity period controller configured to update a cache validity period (TTL; Time-To-Live) of the global server load balancer device according to the calculated load amount, wherein the DNS query processor is configured to select a region selected by the server selector.
  • a global server load balancer device is provided that sends a response message including server information and an updated cache validity period to the DNS server.
  • the state information of the global server load balancer device may include the CPU utilization, memory utilization, auxiliary storage device input / output (I / O), network input / output (I / O), and DNS query per unit time of the global server load balancer device. It may include one or more of the message receiving amount.
  • the cache validity period control unit may update the cache validity period within a range between a maximum value and a minimum value of a preset cache validity period, increase the cache validity period when the load amount exceeds a threshold value, and the load amount is thresholded. If the value is less than the value, the cache validity period may be reduced.
  • the initial value of the cache validity period may be set to the maximum value of the cache validity period.
  • the cache validity period control unit when the load amount exceeds the threshold value when the query message is received, the cache validity of the maximum value of the cache validity period, or the middle value of the maximum value and the previous cache validity period is the smaller value. You can renew the period.
  • the cache validity period control unit updates the cache validity period to a higher value of a minimum value of the cache validity period or a value obtained by subtracting a predetermined decrease value from a previous cache validity period when the load amount is less than or equal to the threshold value when the query message is received. can do.
  • a cache validity period control method performed in a global server load balancer device that performs load balancing between a plurality of local servers, the method comprising: receiving a query message from a DNS (Domain Name System) server ; Selecting one local server among the plurality of local servers; Collecting state information of the global server load balancer device and calculating a load of the global server load balancer device from the collected state information; Updating a cache validity period (TTL; Time-To-Live) of the global server load balancer device according to the calculated load amount; And transmitting a response message including the selected local server information and the updated cache validity period to the DNS server.
  • DNS Domain Name System
  • the state information of the global server load balancer device may include the CPU utilization, memory utilization, auxiliary storage device input / output (I / O), network input / output (I / O), and DNS query per unit time of the global server load balancer device. It may include one or more of the message receiving amount.
  • the updating of the cache validity period may include updating the cache validity period within a range between a maximum value and a minimum value of a preset cache validity period, and increasing the cache validity period when the load exceeds a threshold value. If the load is less than or equal to the threshold value, the cache validity period may be reduced.
  • the initial value of the cache validity period may be set to the maximum value of the cache validity period.
  • the updating of the cache validity period may include: when the load exceeds the threshold value when the query message is received, a maximum value of the cache validity period, or a middle value of the maximum value and a previous cache validity period.
  • the cache validity period may be updated.
  • the cache validity value is the greater of the minimum value of the cache validity period or a value obtained by subtracting a predetermined decrease value from a previous cache validity period. You can renew the period.
  • receiving a query message from a Domain Name System (DNS) server Selecting one of the plurality of local servers; Collecting state information of a global server load balancer device and calculating a load of the global server load balancer device from the collected state information; Updating a cache validity period (TTL; Time-To-Live) of the global server load balancer device according to the calculated load amount; And transmitting a response message including the selected local server information and the updated cache validity period to the DNS server, for executing the steps.
  • DNS Domain Name System
  • the cache validity period by dynamically changing the size of the cache validity period according to the load of the global server load balancer device, the cache validity period within the level that satisfies the stability and quality of service criteria of the global server load balancer device Can be minimized.
  • FIG. 1 is a block diagram illustrating an overall web service system including a global server load balancer device according to an embodiment of the present invention.
  • FIG. 2 is a block diagram illustrating a detailed configuration of a global server load balancer device according to an embodiment of the present invention.
  • FIG 3 is an exemplary view for explaining a cache validity period control process in the cache validity period control unit according to an embodiment of the present invention.
  • FIG. 4 is a flowchart illustrating a dynamic cache validity period control method in a global server load balancer device according to an embodiment of the present invention.
  • the web service system 100 includes a plurality of local servers 102-1 and 102-2 and a global server load balancer device 104.
  • the local servers 102-1 and 102-2 are servers for providing a web service to the user terminal 106, and may be configured to include the same content but exist in different geographical locations.
  • regional server 1 102-1 may be located in Asia
  • regional server 2 102-2 may be located in the Americas.
  • each local server 102-1, 102-2 may each have a different access address.
  • the access address (URL) representing the entire web service is www.mydomain.com
  • the access address of local server 1 102-1 is site1.mydomain.com and local server 2 102-2.
  • the access address can be set to site2.mydomain.com respectively.
  • the global server load balancer device 104 is connected to each of the regional servers 102-1 and 102-2, and performs load balancing between each of the regional servers 102-1 and 102-2.
  • the global server load balancer device 104 may be a concept that the global server load balancer device 104 includes an authority DNS device in which mapping information about a domain and an IP address is registered.
  • the global server load balancer device 104 periodically collects and stores state information from each of the local servers 102-1 and 102-2.
  • the state information may include loads of the local servers 102-1 and 102-2 (for example, CPU utilization rate, memory utilization rate, auxiliary memory input / output amount (I / O), and network input / output amount (I / O)). And the number of connected users, etc.), and the presence or absence of a failure of each of the local servers 102-1 and 102-2.
  • the global server load balancer device 104 collects each local server 102-1, 102-2. Status information and failure status, the geographical distance between the local DNS server 108 and each regional server 102-1, 102-2, between the local DNS server 108 and each regional server 102-1, 102-2 In consideration of the network hop count and the policy set in advance by the operator of the web service 100, one of the regional servers 102-1 and 102-2 is selected, and the selected regional server is selected. Sends a DNS response including the connection information (network address) to the local DNS server 108.
  • a DNS server 108 Domain Name System
  • the global server load balancer device 104 includes a cache validity period (TTL; Time-To-Live) with the connection information of the selected local server in the DNS response to the local DNS server 108.
  • the cache validity period means a period during which the local DNS server 108 and the user terminal 106 store the access information of the local server in the cache memory.
  • the local DNS server 108 and the user terminal 106 stores the connection information of the local server in the cache memory during the cache validity period when the DNS response is received, and the same domain ( If a DNS request for www.mydomain.com is received, the DNS request is responded to using the result stored in the cache memory.
  • the cache validity period has elapsed, the access information of the local server stored in the cache memory is deleted, and subsequent DNS requests are processed by the global server load balancer device 104 as in the beginning.
  • the local DNS server 108 when the cache validity period is received from the global server load balancer device 104, the local DNS server 108 does not send a DNS query to the global server load balancer device 104 within that period. Therefore, the amount of DNS queries to be processed by the global server load balancer device 104 varies according to the size of the cache validity period. For example, as the cache validity period increases, the amount of DNS queries sent from each local DNS server 108 to the global server load balancer device 104 decreases. However, if the cache validity period becomes too long, it becomes difficult to immediately reflect the state change of each local server 102-1 or 102-2 in the global server load balancer device 104.
  • the local DNS server 108 may fail. In the cache validity period, the access information of the local server 1 102-1 stored in the cache memory is still provided to the user terminal 106.
  • the global server load balancer device 104 immediately reflects the state change of each of the regional servers 102-1 and 102-2, so that each of the regional servers 102-1 and 102-2 can receive the cache validity period. Load balancing can be performed. As in the previous example, if the regional server 1 102-1 fails, the global server load balancer device 104 connects to the regional server 2 102-2 instead of the failed local server 1 102-1. Providing the information may direct the connection of the user terminal 106 to the local server 2 102-2. However, if the cache validity period is excessively reduced, the request itself flowing to the global server load balancer device 104 may increase, resulting in a situation in which the entire service is interrupted by an abnormal traffic increase (for example, a DOS attack). have.
  • an abnormal traffic increase for example, a DOS attack
  • the global server load balancer device 104 dynamically adjusts the cache validity period by reflecting its load and the amount of incoming DNS queries, thereby preventing the global server load balancer device 104. While controlling the load appropriately, it is configured to efficiently perform load balancing between the regional servers 102-1 and 102-2.
  • the user terminal 106 is a device for connecting to one of the local server (102-1, 102-2) to receive a web service.
  • the user terminal 106 may include any type of user device capable of network connection, such as a desktop computer, a notebook computer, a mobile phone, a tablet computer, and the like.
  • the user terminal 106 sends a DNS query that includes the domain of the web service (eg, www.mydomain.com) to which to connect to the local DNS server 108. Then, the local DNS server 108 finds the access address of the global server load balancer device 104 corresponding to the domain received through the DNS server group 110 belonging to the DNS scheme, and uses the global server load balancer device ( 104) request access information corresponding to the domain. The global server load balancer device 104 then selects one of the local servers 102-1 and 102-2 as described above, and sends the selected server's connection information and cache validity period to the local DNS server 108. In response, the local DNS server 108 provides a DNS response to the user terminal 106 that includes the received information. Then, the user terminal 106 is connected to one of the local server (102-1, 102-2) according to the received information to receive a web service.
  • the domain of the web service eg, www.mydomain.com
  • the global server load balancer device 104 is a device for performing load balancing between a plurality of local servers, and as illustrated, the DNS query processor 202, the server selector 204, and the load amount.
  • the calculator 206 and the cache valid period controller 208 are included.
  • DNS query processor 202, server selector 204, load calculator 206 and cache validity time controller 208 may be implemented by at least one central processing unit or at least one hardware processor. Can be.
  • the DNS query processor 202 receives a query message from the local DNS server 108, and transmits a response message to the local DNS server 108.
  • the response message includes the access information of the local server in the server selection unit 204 to be described later and the cache validity period updated by the cache validity period control unit 208.
  • the server selector 204 selects any one of the plurality of local servers 102-1 and 102-2 connected to the global server load balancer device 104. As described above, the server selector 204 periodically collects the status information of each regional server 102-1 and 102-2 and whether there is a failure, and collects each regional server 102-1 and 102-2. Status information and failure status, the geographical distance between the local DNS server 108 and each regional server 102-1, 102-2, between the local DNS server 108 and each regional server 102-1, 102-2 It may be configured to select one local server of each of the regional servers (102-1, 102-2) in consideration of the network hop count and the policy set in advance by the operator of the web service 100. .
  • the load calculator 206 collects state information of the global server load balancer device 104, and calculates a load of the global server load balancer device 104 from the collected state information.
  • the status information of the global server load balancer device 104 includes the CPU utilization, memory utilization, auxiliary storage device input / output (I / O), network input / output (I / O), and units of the global server load balancer device 104.
  • the load calculator 206 may calculate the load of the global server load balancer device 104 by reflecting one or more pieces of such state information. For example, the load calculator 206 may be configured to calculate the load by normalizing each state information and combining the load according to a predetermined weight.
  • the cache validity period control unit 208 updates the cache validity period of the global server load balancer device 104 according to the load amount calculated by the load amount calculation unit 206.
  • the cache validity period control unit 208 sets the maximum value (TTLmax) and minimum value (TTLmin) of the cache validity period for the domain for which the cache validity period is to be set, and in the range between the maximum value and the minimum value.
  • the cache validity period may be updated.
  • the cache validity period controller 208 may set TTLmax as the initial value of the cache validity period at the first startup of the global server load balancer device 104. That is, a response to the first DNS query received after the startup of the global server load balancer device 104 starts with TTLmax, and the cache validity period is added or subtracted according to the state of the global server load balancer device 104.
  • the cache validity period controller 208 may increase the cache validity period when the load of the global server load balancer device 104 exceeds a preset threshold value, and decrease the cache validity period when the load amount is less than or equal to the threshold value. have.
  • the reduction of the cache validity period may be made linearly. For example, when the load validity period control unit 208 receives the query message from the DNS query processing unit 202 is less than the threshold value,
  • the cache validity period can be updated to a larger value. This is represented by the following equation (1).
  • an increase in cache validity period can be exponentially backoff.
  • the cache validity period controller 208 receives the query message received by the DNS query processor 202 when the load calculated by the load calculator 206 exceeds a threshold
  • the cache validity period control unit 208 may increase or decrease the cache validity period by raising or lowering a fractional part of the cache validity period calculated by Equation 2 above. Can be set to a value.
  • the global server load balancer device 104 does not always respond with a fixed cache validity period but responds with a value between TTLmin and TTLmax according to the state of the global server load balancer device 104. Therefore, when a sudden site change due to a service failure or the like can effectively reduce the number of end users suffering from the conventional technology, the load of the global server load balancer device 104 can be maintained at an appropriate level.
  • each of the elements that make up the global server load balancer device 104 may be implemented by a central processing unit (CPU), a hardware processor, or a computing device that includes additional hardware.
  • FIG 3 is an exemplary view for explaining a cache valid period control process in the cache valid period control unit 208 according to an embodiment of the present invention.
  • the above graph shows the change in the load of the global server load balancer device 104 calculated from the start time t 1 of the global server load balancer device 104, and the graph below shows the change in the load according to the change of the load. It shows the increase and decrease of the cache validity period.
  • the load was calculated using the CPU utilization.
  • the cache validity period is set to the maximum value TTLmax at t 1 , which is the start time of the global server load balancer device 104. After that, since the load of the global server load balancer device 104 is within the threshold in the interval up to t 2 , the cache validity period decreases linearly to maintain the minimum value TTLmin in the interval between t 2 and t 3 .
  • the cache validity period control unit 208 exponentially increases the cache validity period. . After that, since the load of the global server load balancer device 104 is within the threshold in the interval after t 4 , the cache validity period is linearly decreased again.
  • FIG. 4 is a flowchart illustrating a method 400 of controlling a dynamic cache validity period in the global server load balancer device 104 according to an embodiment of the present invention.
  • step 402 the DNS query processing unit 202 receives a query message from the local DNS server 108.
  • step 404 the load calculation unit 206 collects the state information of the global server load balancer device 104, and calculates the load of the global server load balancer device 104 from the collected state information.
  • step 406 the cache validity period controller 208 compares the calculated load amount with a threshold value and determines whether the load amount is within the threshold value.
  • the cache validity period control unit 208 reduces the cache validity period within a range not exceeding a predetermined minimum value in step 408.
  • the cache validity period controller 208 increases the cache validity period within a range not exceeding a preset maximum value in step 410. Specific matters related to the decrease and increase of the cache validity period have been described above.
  • the server selector 204 selects any one of the plurality of local servers 102-1 and 102-2.
  • step 414 the DNS query processing unit 202 transmits a response message including the selected local server information and the updated cache validity period to the local DNS server 108.
  • an embodiment of the present invention may include a computer readable recording medium including a program for performing the methods described herein on a computer.
  • the computer-readable recording medium may include program instructions, local data files, local data structures, etc. alone or in combination.
  • the media may be those specially designed and constructed for the purposes of the present invention, or those conventionally available in the field of computer software.
  • Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tape, optical recording media such as CD-ROMs, DVDs, magnetic-optical media such as floppy disks, and ROM, RAM, flash memory, and the like.
  • Hardware devices specifically configured to store and execute program instructions are included.
  • Examples of program instructions may include high-level language code that can be executed by a computer using an interpreter as well as machine code such as produced by a compiler.

Abstract

글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법이 개시된다. 본 발명의 일 실시예에 따른 복수 개의 지역 서버 간의 로드 밸런싱을 수행하는 글로벌 서버 로드 밸런서 장치는, DNS 서버로부터 질의 메시지를 수신하는 DNS 질의 처리부; 상기 질의 메시지가 수신되는 경우, 상기 복수 개의 지역 서버 중 어느 하나의 지역 서버를 선택하는 서버 선택부; 상기 글로벌 서버 로드 밸런서 장치의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 상기 글로벌 서버 로드 밸런서 장치의 부하량을 계산하는 부하량 계산부; 및 계산된 상기 부하량에 따라 상기 글로벌 서버 로드 밸런서 장치의 TTL을 갱신하는 캐쉬 유효 기간 제어부를 포함한다.

Description

글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법
본 발명의 실시예들은 글로벌 서버 로드 밸런서에서의 캐쉬 유효 기간(TTL; Time-To-Live) 제어 기술과 관련된다.
데이터센터의 지역적 장애 극복을 위한 재해 복구(DR; Disaster Recovery) 사이트 구축 및 전송 비용과 전송 속도 개선을 위한 콘텐츠 전송 네트워크(CDN; Contents Delivery Network) 서비스에서 글로벌 서버 로드 밸런서(GSLB; Global Server Load Balancer)는 필수적으로 사용되는 핵심 기술요소이다.
기존의 GSLB에서는 운영자가 캐쉬 유효 기간(TTL; Time-To-Live) 을 사전에 설정하는데, 이 경우 사이트의 장애가 발생하여 DNS 레코드를 변경하더라도 해당 변경이 최종 사용자에게까지 전파되기까지 최대 TTL 시간만큼의 딜레이가 발생하는 문제가 있다. 이를 해결하기 위해서는 TTL을 매우 작게 또는 아예 0으로 설정하는 방안을 고려할 수 있다. 그러나 이 경우 DNS 레코드의 변경 등에 대한 빠른 상황 전파는 가능하지만, 그와 비례해서 GSLB로 유입되는 요청 또한 많아지게 되어 극단적인 경우 GSLB가 응답 불능에 빠질 수도 있다. 따라서, GSLB의 안정성 및 서비스 품질 기준을 만족시키는 수준 내에서 TTL을 최적의 값으로 조절하기 위한 방안이 필요하게 되었다.
본 발명의 실시예들은 글로벌 서버 로드 밸런서의 상태에 따라 글로벌 서버 로드 밸런서에서 설정되는 캐쉬 유효 기간의 크기를 동적으로 변경하기 위한 수단을 제공하기 위한 것이다.
예시적인 실시예에 따르면, 복수 개의 지역 서버 간의 로드 밸런싱을 수행하는 글로벌 서버 로드 밸런서 장치로서, 디엔에스(DNS; Domain Name System) 서버로부터 질의 메시지를 수신하는 DNS 질의 처리부; 상기 질의 메시지가 수신되는 경우, 상기 복수 개의 지역 서버 중 어느 하나의 지역 서버를 선택하는 서버 선택부; 상기 글로벌 서버 로드 밸런서 장치의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 상기 글로벌 서버 로드 밸런서 장치의 부하량을 계산하는 부하량 계산부; 및 계산된 상기 부하량에 따라 상기 글로벌 서버 로드 밸런서 장치의 캐쉬 유효 기간(TTL; Time-To-Live)을 갱신하는 캐쉬 유효 기간 제어부를 포함하며, 상기 DNS 질의 처리부는, 상기 서버 선택부에서 선택된 지역 서버 정보, 및 갱신된 캐쉬 유효 기간을 포함하는 응답 메시지를 상기 DNS 서버로 송신하는, 글로벌 서버 로드 밸런서 장치가 제공된다.
상기 글로벌 서버 로드 밸런서 장치의 상태 정보는, 상기 글로벌 서버 로드 밸런서 장치의 중앙처리장치 사용률, 메모리 사용률, 보조기억장치 입출력량(I/O), 네트워크 입출력량(I/O) 및 단위 시간당 DNS 질의 메시지 수신량 중 하나 이상을 포함할 수 있다.
상기 캐쉬 유효 기간 제어부는, 기 설정된 캐쉬 유효 기간의 최대값 및 최소값 사이의 범위에서 상기 캐쉬 유효 기간을 갱신하되, 상기 부하량이 임계값을 초과하는 경우 상기 캐쉬 유효 기간을 증가시키고, 상기 부하량이 임계값 이하인 경우 상기 캐쉬 유효 기간을 감소시킬 수 있다.
상기 캐쉬 유효 기간의 초기값은, 상기 캐쉬 유효 기간의 최대값으로 설정될 수 있다.
상기 캐쉬 유효 기간 제어부는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값을 초과하는 경우, 상기 캐쉬 유효 기간의 최대값, 또는 상기 최대값 및 직전 캐쉬 유효 기간의 중간값 중 작은 값으로 상기 캐쉬 유효 기간을 갱신할 수 있다.
상기 캐쉬 유효 기간 제어부는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값 이하인 경우, 상기 캐쉬 유효 기간의 최소값, 또는 직전 캐쉬 유효 기간에서 기 설정된 감소치를 뺀 값 중 큰 값을 상기 캐쉬 유효 기간으로 갱신할 수 있다.
다른 예시적인 실시예에 따르면, 복수 개의 지역 서버 간의 로드 밸런싱을 수행하는 글로벌 서버 로드 밸런서 장치에서 수행되는 캐쉬 유효 기간 제어 방법으로서, 디엔에스(DNS; Domain Name System) 서버로부터 질의 메시지를 수신하는 단계; 상기 복수 개의 지역 서버 중 어느 하나의 지역 서버를 선택하는 단계; 상기 글로벌 서버 로드 밸런서 장치의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 상기 글로벌 서버 로드 밸런서 장치의 부하량을 계산하는 단계; 계산된 상기 부하량에 따라 상기 글로벌 서버 로드 밸런서 장치의 캐쉬 유효 기간(TTL; Time-To-Live)을 갱신하는 단계; 및 선택된 지역 서버 정보 및 갱신된 캐쉬 유효 기간을 포함하는 응답 메시지를 상기 DNS 서버로 송신하는 단계를 포함하는 캐쉬 유효 기간 제어 방법이 제공된다.
상기 글로벌 서버 로드 밸런서 장치의 상태 정보는, 상기 글로벌 서버 로드 밸런서 장치의 중앙처리장치 사용률, 메모리 사용률, 보조기억장치 입출력량(I/O), 네트워크 입출력량(I/O) 및 단위 시간당 DNS 질의 메시지 수신량 중 하나 이상을 포함할 수 있다.
상기 캐쉬 유효 기간을 갱신하는 단계는, 기 설정된 캐쉬 유효 기간의 최대값 및 최소값 사이의 범위에서 상기 캐쉬 유효 기간을 갱신하되, 상기 부하량이 임계값을 초과하는 경우 상기 캐쉬 유효 기간을 증가시키고, 상기 부하량이 임계값 이하인 경우 상기 캐쉬 유효 기간을 감소시킬 수 있다.
상기 캐쉬 유효 기간의 초기값은, 상기 캐쉬 유효 기간의 최대값으로 설정될 수 있다.
상기 캐쉬 유효 기간을 갱신하는 단계는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값을 초과하는 경우, 상기 캐쉬 유효 기간의 최대값, 또는 상기 최대값 및 직전 캐쉬 유효 기간의 중간값 중 작은 값으로 상기 캐쉬 유효 기간을 갱신할 수 있다.
상기 캐쉬 유효 기간을 갱신하는 단계는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값 이하인 경우, 상기 캐쉬 유효 기간의 최소값, 또는 직전 캐쉬 유효 기간에서 기 설정된 감소치를 뺀 값 중 큰 값으로 상기 캐쉬 유효 기간을 갱신할 수 있다.
또 다른 예시적인 실시예에 따르면, 하드웨어와 결합되어, 디엔에스(DNS; Domain Name System) 서버로부터 질의 메시지를 수신하는 단계; 복수 개의 지역 서버 중 어느 하나의 지역 서버를 선택하는 단계; 글로벌 서버 로드 밸런서 장치의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 상기 글로벌 서버 로드 밸런서 장치의 부하량을 계산하는 단계; 계산된 상기 부하량에 따라 상기 글로벌 서버 로드 밸런서 장치의 캐쉬 유효 기간(TTL; Time-To-Live)을 갱신하는 단계; 및 선택된 지역 서버 정보 및 갱신된 캐쉬 유효 기간을 포함하는 응답 메시지를 상기 DNS 서버로 송신하는 단계를 포함하는 단계들을 실행시키기 위하여 기록매체에 저장된 컴퓨터 프로그램이 제공된다.
본 발명의 실시예들에 따르면, 글로벌 서버 로드 밸런서 장치의 부하에 따라 캐쉬 유효 기간의 크기를 동적으로 변경하여 줌으로써, 글로벌 서버 로드 밸런서 장치의 안정성 및 서비스 품질 기준을 만족시키는 수준 내에서 캐쉬 유효 기간을 최소화할 수 있다.
도 1은 본 발명의 일 실시예에 따른 글로벌 서버 로드 밸런서 장치를 포함하는 전체 웹 서비스 시스템을 설명하기 위한 블록도
도 2는 본 발명의 일 실시예에 따른 글로벌 서버 로드 밸런서 장치의 상세 구성을 설명하기 위한 블록도
도 3은 본 발명의 일 실시예에 따른 캐쉬 유효 기간 제어부에서의 캐쉬 유효 기간 제어 과정을 설명하기 위한 예시도
도 4는 본 발명의 일 실시예에 따른 글로벌 서버 로드 밸런서 장치에서의 동적 캐쉬 유효 기간 제어 방법을 설명하기 위한 흐름도
이하, 도면을 참조하여 본 발명의 구체적인 실시형태를 설명하기로 한다. 이하의 상세한 설명은 본 명세서에서 기술된 방법, 장치 및/또는 시스템에 대한 포괄적인 이해를 돕기 위해 제공된다. 그러나 이는 예시에 불과하며 본 발명은 이에 제한되지 않는다.
본 발명의 실시예들을 설명함에 있어서, 본 발명과 관련된 공지기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략하기로 한다. 그리고, 후술되는 용어들은 본 발명에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다. 상세한 설명에서 사용되는 용어는 단지 본 발명의 실시예들을 기술하기 위한 것이며, 결코 제한적이어서는 안 된다. 명확하게 달리 사용되지 않는 한, 단수 형태의 표현은 복수 형태의 의미를 포함한다. 본 설명에서, "포함" 또는 "구비"와 같은 표현은 어떤 특성들, 숫자들, 단계들, 동작들, 요소들, 이들의 일부 또는 조합을 가리키기 위한 것이며, 기술된 것 이외에 하나 또는 그 이상의 다른 특성, 숫자, 단계, 동작, 요소, 이들의 일부 또는 조합의 존재 또는 가능성을 배제하도록 해석되어서는 안 된다.
도 1은 본 발명의 일 실시예에 따른 웹 서비스 시스템(100)을 설명하기 위한 블록도이다. 도 1을 참조하면, 본 발명의 일 실시예에 따른 웹 서비스 시스템(100)은 복수 개의 지역 서버(102-1, 102-2) 및 글로벌 서버 로드 밸런서 장치(104)를 포함한다.
지역 서버(102-1, 102-2)는 사용자 단말(106)로 웹 서비스를 제공하기 위한 서버들로서, 각각 동일한 콘텐츠를 포함하되 각각 서로 다른 지리적 위치에 존재하도록 구성될 수 있다. 예를 들어 지역 서버 1(102-1)은 아시아 지역에, 지역 서버 2(102-2)는 미주 지역에 존재할 수 있다. 도시된 실시예에서는 지역 서버가 2개 있는 것으로 도시되었으나, 지역 서버의 개수는 웹 서비스의 지역적 범위, 각 지역별 이용자 수 등을 고려하여 적절하게 설정될 수 있다.
일 실시예에서, 각 지역 서버(102-1, 102-2)는 각각 서로 다른 접속 주소를 가질 수 있다. 도시된 실시예의 경우 전체 웹 서비스를 대표하는 접속 주소(URL)은 www.mydomain.com, 지역 서버 1(102-1)의 접속 주소는 site1.mydomain.com, 지역 서버 2(102-2)의 접속 주소는 site2.mydomain.com으로 각각 설정될 수 있다.
글로벌 서버 로드 밸런서 장치(104)는 각 지역 서버(102-1, 102-2)와 연결되며, 각 지역 서버(102-1, 102-2) 간의 로드 밸런싱을 수행한다. 일 실시예에서, 글로벌 서버 로드 밸런서 장치(104)는 글로벌 서버 로드 밸런서 장치(104)는 도메인과 IP 주소에 대한 맵핑 정보가 등록된 권한(Authority) DNS 장치를 포함하는 개념일 수 있다.
글로벌 서버 로드 밸런서 장치(104)는 주기적으로 각 지역 서버(102-1, 102-2)로부터 상태 정보를 수집하여 저장한다. 상기 상태 정보는 각 지역 서버(102-1, 102-2)의 부하량(예를 들어, 중앙처리장치 사용률, 메모리 사용률, 보조기억장치 입출력량(I/O), 네트워크 입출력량(I/O) 및 접속된 사용자 수 등), 및 각 지역 서버(102-1, 102-2)의 장애 유무 등이 될 수 있다.
만약 사용자 단말(106)과 연결된 로컬 DNS 서버(108, Domain Name System) 서버로부터 DNS 질의가 수신되는 경우, 글로벌 서버 로드 밸런서 장치(104)는 수집된 각 지역 서버(102-1, 102-2)의 상태 정보 및 장애 유무, 로컬 DNS 서버(108)와 각 지역 서버(102-1, 102-2) 간의 지리적 거리, 로컬 DNS 서버(108)와 각 지역 서버(102-1, 102-2) 간의 네트워크 홉 카운트(network hop count) 및 웹 서비스(100)의 운영자가 사전에 설정한 정책 등을 고려하여 각 지역 서버(102-1, 102-2) 중 하나의 지역 서버를 선택하고, 선택된 지역 서버의 접속 정보(네트워크 주소)를 포함하는 DNS 응답을 로컬 DNS 서버(108)로 송신한다.
일 실시예에서, 글로벌 서버 로드 밸런서 장치(104)는 상기 DNS 응답에 상기 선택된 지역 서버의 접속 정보와 함께 캐쉬 유효 기간(TTL; Time-To-Live)을 함께 포함시켜 로컬 DNS 서버(108)로 송신한다. 상기 캐쉬 유효 기간은 로컬 DNS 서버(108) 및 사용자 단말(106)이 상기 지역 서버의 접속 정보를 캐쉬 메모리에 저장하는 기간을 의미한다. 예를 들어, 로컬 DNS 서버(108) 및 사용자 단말(106)은 상기 DNS 응답이 수신되는 경우 상기 지역 서버의 접속 정보를 상기 캐쉬 유효 기간 동안 캐쉬 메모리에 저장하며, 상기 캐쉬 유효 기간 내에 동일한 도메인(www.mydomain.com)에 대한 DNS 요청이 수신되는 경우에는 캐쉬 메모리에 저장된 결과를 이용하여 상기 DNS 요청에 응답하게 된다. 상기 캐쉬 유효 기간이 경과되면 상기 캐쉬 메모리에 저장된 상기 지역 서버의 접속 정보는 삭제되며, 이후의 DNS 요청은 처음과 마찬가지로 글로벌 서버 로드 밸런서 장치(104)에 의해 처리된다.
전술한 바와 같이, 로컬 DNS 서버(108)는 글로벌 서버 로드 밸런서 장치(104)로부터 캐쉬 유효 기간이 수신되는 경우, 해당 기간 내에는 글로벌 서버 로드 밸런서 장치(104)로 DNS 질의를 송신하지 않는다. 따라서 상기 캐쉬 유효 기간의 크기에 따라 글로벌 서버 로드 밸런서 장치(104)가 처리해야 할 DNS 질의의 양이 달라지게 된다. 예를 들어, 상기 캐쉬 유효 기간이 길어질수록 각 로컬 DNS 서버(108)에서 글로벌 서버 로드 밸런서 장치(104)로 송신되는 DNS 질의의 양은 감소한다. 그러나 캐쉬 유효 기간이 너무 길어지게 되면 각 지역 서버(102-1, 102-2)의 상태 변화를 글로벌 서버 로드 밸런서 장치(104)에서 즉각적으로 반영하는 것이 어려워지게 된다. 예를 들어, 로컬 DNS 서버(108)의 캐쉬 메모리에 캐쉬된 값이 지역 서버 1(102-1)의 접속 정보가 저장된 직후 지역 서버 1(102-1)에 장애가 발생한 경우에도 로컬 DNS 서버(108)는 캐쉬 유효 기간 내에는 여전히 캐쉬 메모리에 저장된 지역 서버 1(102-1)의 접속 정보를 사용자 단말(106)로 제공하게 되는 바, 그만큼 장애에 따른 접속 전환이 늦어지게 된다.
이와 반대로, 캐쉬 유효 기간이 작을수록 글로벌 서버 로드 밸런서 장치(104)는 각 지역 서버(102-1, 102-2)의 상태 변화를 즉각적으로 반영하여 각 지역 서버(102-1, 102-2) 간 로드 밸런싱을 수행할 수 있다. 앞의 예에서와 같이 지역 서버 1(102-1)에 장애가 발생한 경우, 글로벌 서버 로드 밸런서 장치(104)는 장애가 발생한 지역 서버 1(102-1)가 아닌 지역 서버 2(102-2)의 접속 정보를 제공함으로써 사용자 단말(106)의 접속을 지역 서버 2(102-2) 쪽으로 유도할 수 있다. 그러나 캐쉬 유효 기간이 지나치게 감소하게 되면 글로벌 서버 로드 밸런서 장치(104)로 유입되는 요청 자체가 많아지게 되는 바, 비정상적인 트래픽 증가(예를 들어, DOS 공격 등)에 전체 서비스가 중단되는 상황이 발생할 수 있다.
이에 따라 본 발명의 실시예들에서, 글로벌 서버 로드 밸런서 장치(104)는 자신의 부하 및 유입되는 DNS 질의의 양을 반영하여 캐쉬 유효 기간을 동적으로 조절함으로써, 글로벌 서버 로드 밸런서 장치(104)의 부하를 적절히 제어하는 동시에, 각 지역 서버(102-1, 102-2) 간 부하 분산을 효율적으로 수행하도록 구성된다.
다음으로, 사용자 단말(106)은 각 지역 서버(102-1, 102-2) 중 하나와 접속하여 웹 서비스를 제공받기 위한 장치이다. 사용자 단말(106)은 데스크탑 컴퓨터, 노트북 컴퓨터, 휴대폰, 태블릿 컴퓨터 등 네트워크 접속이 가능한 모든 종류의 사용자 기기를 포함할 수 있다.
일 실시예에서, 사용자 단말(106)은 로컬 DNS 서버(108)로 접속하고자 하는 웹 서비스의 도메인(예를 들어, www.mydomain.com)을 포함하는 DNS 질의를 송신한다. 그러면 로컬 DNS 서버(108)는 DNS 체계에 속한 DNS 서버군(110)을 통하여 수신된 도메인에 대응되는 글로벌 서버 로드 밸런서 장치(104)의 접속 주소를 알아내고, 이를 이용하여 글로벌 서버 로드 밸런서 장치(104)로 상기 도메인에 대응되는 접속 정보를 요청하게 된다. 그러면 글로벌 서버 로드 밸런서 장치(104)는 전술한 바와 같이 지역 서버(102-1, 102-2) 중 하나의 서버를 선택하고, 선택된 서버의 접속 정보 및 캐쉬 유효 기간을 로컬 DNS 서버(108)로 송신하며, 로컬 DNS 서버(108)는 수신된 정보를 포함하는 DNS 응답을 사용자 단말(106)에 제공한다. 이후, 사용자 단말(106)은 수신된 정보에 따라 지역 서버(102-1, 102-2) 중 하나에 접속하여 웹 서비스를 제공받게 된다.
도 2는 본 발명의 일 실시예에 따른 글로벌 서버 로드 밸런서 장치(104)의 상세 구성을 설명하기 위한 블록도이다. 본 발명의 일 실시예에 따른 글로벌 서버 로드 밸런서 장치(104)는 복수 개의 지역 서버 간의 로드 밸런싱을 수행하기 위한 장치로서, 도시된 바와 같이 DNS 질의 처리부(202), 서버 선택부(204), 부하량 계산부(206) 및 캐쉬 유효 기간 제어부(208)를 포함한다. 일 실시예에서, DNS 질의 처리부(202), 서버 선택부(204), 부하량 계산부(206) 및 캐쉬 유효 기간 제어부(208)는 적어도 하나의 중앙처리장치 또는 적어도 하나의 하드웨어 프로세서에 의해 구현될 수 있다.
DNS 질의 처리부(202)는 로컬 DNS 서버(108)로부터 질의 메시지를 수신하고, 상기 질의 메시지에 대한 응답 메시지를 로컬 DNS 서버(108)로 송신한다. 이때 상기 응답 메시지에는 후술할 서버 선택부(204)에서 지역 서버의 접속 정보 및 캐쉬 유효 기간 제어부(208)에서 갱신된 캐쉬 유효 기간을 포함한다.
서버 선택부(204)는 상기 질의 메시지가 수신되는 경우, 글로벌 서버 로드 밸런서 장치(104)와 연결된 복수 개의 지역 서버(102-1, 102-2) 중 어느 하나의 지역 서버를 선택한다. 전술한 바와 같이, 서버 선택부(204)는 주기적으로 각 지역 서버(102-1, 102-2)의 상태 정보 및 장애 유무를 수집하고, 수집된 각 지역 서버(102-1, 102-2)의 상태 정보 및 장애 유무, 로컬 DNS 서버(108)와 각 지역 서버(102-1, 102-2) 간의 지리적 거리, 로컬 DNS 서버(108)와 각 지역 서버(102-1, 102-2) 간의 네트워크 홉 카운트(network hop count) 및 웹 서비스(100)의 운영자가 사전에 설정한 정책 등을 고려하여 각 지역 서버(102-1, 102-2) 중 하나의 지역 서버를 선택하도록 구성될 수 있다.
부하량 계산부(206)는 글로벌 서버 로드 밸런서 장치(104)의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 글로벌 서버 로드 밸런서 장치(104)의 부하량을 계산한다. 글로벌 서버 로드 밸런서 장치(104)의 상태 정보는 글로벌 서버 로드 밸런서 장치(104)의 중앙처리장치 사용률, 메모리 사용률, 보조기억장치 입출력량(I/O), 네트워크 입출력량(I/O) 및 단위 시간당 DNS 질의 메시지 수신량 등일 수 있다. 부하량 계산부(206)는 이와 같은 상태 정보를 하나 이상 반영하여 글로벌 서버 로드 밸런서 장치(104)의 부하량을 계산할 수 있다. 예를 들어, 부하량 계산부(206)는 각 상태 정보를 정규화하고, 기 설정된 가중치에 따라 결합함으로써 상기 부하량을 계산하도록 구성될 수 있다.
캐쉬 유효 기간 제어부(208)는 부하량 계산부(206)에서 계산된 부하량에 따라 글로벌 서버 로드 밸런서 장치(104)의 캐쉬 유효 기간을 갱신한다.
일 실시예에서, 캐쉬 유효 기간 제어부(208)는 캐쉬 유효 기간을 설정하고자 하는 도메인에 대하여 캐쉬 유효 기간의 최대값(TTLmax) 및 최소값(TTLmin)을 설정하고, 상기 최대값 및 최소값 사이의 범위에서 상기 캐쉬 유효 기간을 갱신할 수 있다. 예를 들어, 캐쉬 유효 기간 제어부(208)는 글로벌 서버 로드 밸런서 장치(104)의 최초 기동시 TTLmax를 캐쉬 유효 기간의 초기값으로 설정할 수 있다. 즉, 글로벌 서버 로드 밸런서 장치(104)의 기동 이후 최초로 수신되는 DNS 질의에 대해서는 TTLmax로 응답을 시작하며, 이후 글로벌 서버 로드 밸런서 장치(104)의 상태에 따라 캐쉬 유효 기간을 가감하게 된다. 구체적으로 캐쉬 유효 기간 제어부(208)는 글로벌 서버 로드 밸런서 장치(104)의 부하량이 기 설정된 임계값을 초과하는 경우 캐쉬 유효 기간을 증가시키고, 상기 부하량이 임계값 이하인 경우 캐쉬 유효 기간을 감소시킬 수 있다.
일 실시예에서, 캐쉬 유효 기간의 감소는 선형적으로(linearly) 이루어질 수 있다. 예를 들어, 캐쉬 유효 기간 제어부(208)는 DNS 질의 처리부(202)에서의 질의 메시지 수신 시 상기 부하량이 상기 임계값 이하인 경우,
1) 캐쉬 유효 기간의 최소값(TTLmin), 또는
2) 가장 최근에 업데이트된 캐쉬 유효 기간(TTLcurrent)에서 기 설정된 감소치를 뺀 값
중 큰 값으로 상기 캐쉬 유효 기간을 갱신할 수 있다. 이를 수식으로 나타내면 다음의 수학식 1과 같다.
수학식 1
Figure PCTKR2014012986-appb-M000001
(이때, k는 캐쉬 유효 기간의 감소치)
이와 반대로, 캐쉬 유효 기간의 증가는 지수함수적으로 이루어질 수 있다(exponential backoff). 예를 들어, 캐쉬 유효 기간 제어부(208)는 DNS 질의 처리부(202)에서의 질의 메시지 수신 시 부하량 계산부(206)에서 계산한 부하량이 임계값을 초과하는 경우,
1) 캐쉬 유효 기간의 최대값(TTLmax), 또는
2) TTLmax 및 가장 최근에 업데이트된 캐쉬 유효 기간(TTLcurrent)의 중간값
중 작은 값으로 캐쉬 유효 기간을 갱신할 수 있다. 이와 같이 캐쉬 유효 기간의 감소율을 선형적으로 설정하는 반면, 증가율을 지수함수적으로 설정하는 이유는 캐쉬 유효 기간이 증가하는 경우는 글로벌 서버 로드 밸런서 장치(104)의 부하량이 임계치를 초과하는 경우인 바, 이를 빠르게 해소하여 글로벌 서버 로드 밸런서 장치(104)의 장애 발생 전에 이를 안정시킬 필요가 있기 때문이다.
상기 조건을 수식으로 나타내면 다음의 수학식 2와 같다.
수학식 2
Figure PCTKR2014012986-appb-M000002
만약 실시예에 따라 캐쉬 유효 기간으로 정수값만이 허용될 경우, 캐쉬 유효 기간 제어부(208)는 상기 수학식 2에 의하여 계산된 캐쉬 유효 기간에서 소수점 이하 부분을 올리거나 내림으로써 캐쉬 유효 기간을 정수값으로 설정할 수 있다.
이와 같이, 본 발명에서 글로벌 서버 로드 밸런서 장치(104)는 항상 고정된 캐쉬 유효 기간으로 응답하는 것이 아니라 글로벌 서버 로드 밸런서 장치(104)의 상태에 따라 TTLmin과 TTLmax 사이의 값으로 응답하게 되며, 이에 따라, 서비스 장애 등으로 갑작스런 사이트 전환을 할 경우 종래기술과 대비하여 장애를 겪는 최종 사용자 수를 효과적으로 줄임과 동시에 글로벌 서버 로드 밸런서 장치(104)의 부하를 적정 수준으로 유지할 수 있다. 일 실시예에서 글로벌 서버 로드 밸런서 장치(104)를 구성하는 각 요소들은 중앙처리장치(CPU), 하드웨어 프로세서(hardware processor), 또는 추가적인 하드웨어를 포함하는 컴퓨팅 디바이스에 의해 구현될 수 있다.
도 3은 본 발명의 일 실시예에 따른 캐쉬 유효 기간 제어부(208)에서의 캐쉬 유효 기간 제어 과정을 설명하기 위한 예시도이다. 도면에서 위의 그래프는 글로벌 서버 로드 밸런서 장치(104)의 가동 시점(t1)부터 계산된 글로벌 서버 로드 밸런서 장치(104)의 부하량의 변화를 나타낸 것이고, 아래의 그래프는 상기 부하량의 변화에 따른 캐쉬 유효 기간의 증감을 나타낸 것이다. 도시된 실시예에서는 중앙처리장치 사용률을 이용하여 부하량을 계산하였다.
먼저, 글로벌 서버 로드 밸런서 장치(104)의 가동 시점인 t1에서 캐쉬 유효 기간은 최대값(TTLmax)로 설정된다. 이후 t2까지의 구간에서는 글로벌 서버 로드 밸런서 장치(104)의 부하량이 임계값 이내이므로 캐쉬 유효 기간은 선형적으로 감소하여 t2 내지 t3 사이의 구간에서는 최소값(TTLmin)을 유지한다.
다음으로, t3 내지 t4 사이의 구간에서는 글로벌 서버 로드 밸런서 장치(104)의 부하량이 임계값을 초과하는 경우인 바, 캐쉬 유효 기간 제어부(208)는 캐쉬 유효 기간을 지수함수적으로 증가시킨다. 이후, t4 이후의 구간에서는 글로벌 서버 로드 밸런서 장치(104)의 부하량이 임계값 이내이므로 캐쉬 유효 기간은 다시 선형적으로 감소하게 된다.
도 4는 본 발명의 일 실시예에 따른 글로벌 서버 로드 밸런서 장치(104)에서의 동적 캐쉬 유효 기간 제어 방법(400)을 설명하기 위한 흐름도이다.
단계 402에서, DNS 질의 처리부(202)는 로컬 DNS 서버(108)로부터 질의 메시지를 수신한다.
단계 404에서, 부하량 계산부(206)는 글로벌 서버 로드 밸런서 장치(104)의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 글로벌 서버 로드 밸런서 장치(104)의 부하량을 계산한다.
단계 406에서, 캐쉬 유효 기간 제어부(208)는 계산된 부하량과 임계값을 비교하여 부하량이 임계값 이내인지의 여부를 판단한다.
만약 상기 406 단계의 판단 결과 부하량이 임계값 이내인 경우, 단계 408에서 캐쉬 유효 기간 제어부(208)는 기 설정된 최소값을 넘어서지 않는 범위 내에서 상기 캐쉬 유효 기간을 감소시킨다.
그러나, 이와 달리 만약 상기 406 단계의 판단 결과 부하량이 임계값을 초과하는 경우, 단계 410에서 캐쉬 유효 기간 제어부(208)는 기 설정된 최대값을 넘어서지 않는 범위 내에서 상기 캐쉬 유효 기간을 증가시킨다. 상기 캐쉬 유효 기간의 감소 및 증가와 관련된 구체적인 사항은 전술하였다.
단계 412에서, 서버 선택부(204)는 복수 개의 지역 서버(102-1, 102-2) 중 어느 하나의 지역 서버를 선택한다.
단계 414에서, DNS 질의 처리부(202)는 선택된 지역 서버 정보 및 갱신된 캐쉬 유효 기간을 포함하는 응답 메시지를 로컬 DNS 서버(108)로 송신한다.
한편, 본 발명의 실시예는 본 명세서에서 기술한 방법들을 컴퓨터상에서 수행하기 위한 프로그램을 포함하는 컴퓨터 판독 가능 기록매체를 포함할 수 있다. 상기 컴퓨터 판독 가능 기록매체는 프로그램 명령, 로컬 데이터 파일, 로컬 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나, 또는 컴퓨터 소프트웨어 분야에서 통상적으로 사용 가능한 것일 수 있다. 컴퓨터 판독 가능 기록매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광 기록 매체, 플로피 디스크와 같은 자기-광 매체, 및 롬, 램, 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다.
이상에서 본 발명의 대표적인 실시예들을 상세하게 설명하였으나, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 상술한 실시예에 대하여 본 발명의 범주에서 벗어나지 않는 한도 내에서 다양한 변형이 가능함을 이해할 것이다. 그러므로 본 발명의 권리범위는 설명된 실시예에 국한되어 정해져서는 안 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 것들에 의해 정해져야 한다.
[부호의 설명]
102-1, 102-2: 지역 서버
104: 글로벌 서버 로드 밸런서 장치
106: 사용자 단말
108: 로컬 DNS 서버
110: DNS 서버군
202: DNS 질의 처리부
204: 서버 선택부
206: 부하량 계산부
208: 캐쉬 유효 기간 제어부

Claims (13)

  1. 복수 개의 지역 서버 간의 로드 밸런싱을 수행하는 글로벌 서버 로드 밸런서 장치로서,
    디엔에스(DNS; Domain Name System) 서버로부터 질의 메시지를 수신하는 DNS 질의 처리부;
    상기 질의 메시지가 수신되는 경우, 상기 복수 개의 지역 서버 중 어느 하나의 지역 서버를 선택하는 서버 선택부;
    상기 글로벌 서버 로드 밸런서 장치의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 상기 글로벌 서버 로드 밸런서 장치의 부하량을 계산하는 부하량 계산부; 및
    계산된 상기 부하량에 따라 상기 글로벌 서버 로드 밸런서 장치의 캐쉬 유효 기간(TTL; Time-To-Live)을 갱신하는 캐쉬 유효 기간 제어부를 포함하며,
    상기 DNS 질의 처리부는, 상기 서버 선택부에서 선택된 지역 서버 정보, 및 갱신된 캐쉬 유효 기간을 포함하는 응답 메시지를 상기 DNS 서버로 송신하는, 글로벌 서버 로드 밸런서 장치.
  2. 청구항 1에 있어서,
    상기 글로벌 서버 로드 밸런서 장치의 상태 정보는, 상기 글로벌 서버 로드 밸런서 장치의 중앙처리장치 사용률, 메모리 사용률, 보조기억장치 입출력량(I/O), 네트워크 입출력량(I/O) 및 단위 시간당 DNS 질의 메시지 수신량 중 하나 이상을 포함하는, 글로벌 서버 로드 밸런서 장치.
  3. 청구항 1에 있어서,
    상기 캐쉬 유효 기간 제어부는, 기 설정된 캐쉬 유효 기간의 최대값 및 최소값 사이의 범위에서 상기 캐쉬 유효 기간을 갱신하되,
    상기 부하량이 임계값을 초과하는 경우 상기 캐쉬 유효 기간을 증가시키고, 상기 부하량이 임계값 이하인 경우 상기 캐쉬 유효 기간을 감소시키는, 글로벌 서버 로드 밸런서 장치.
  4. 청구항 3에 있어서,
    상기 캐쉬 유효 기간의 초기값은, 상기 캐쉬 유효 기간의 최대값으로 설정되는, 글로벌 서버 로드 밸런서 장치.
  5. 청구항 3에 있어서,
    상기 캐쉬 유효 기간 제어부는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값을 초과하는 경우,
    상기 캐쉬 유효 기간의 최대값, 또는
    상기 최대값 및 직전 캐쉬 유효 기간의 중간값
    중 작은 값으로 상기 캐쉬 유효 기간을 갱신하는, 글로벌 서버 로드 밸런서 장치.
  6. 청구항 3에 있어서,
    상기 캐쉬 유효 기간 제어부는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값 이하인 경우,
    상기 캐쉬 유효 기간의 최소값, 또는
    직전 캐쉬 유효 기간에서 기 설정된 감소치를 뺀 값
    중 큰 값으로 상기 캐쉬 유효 기간을 갱신하는, 글로벌 서버 로드 밸런서 장치.
  7. 복수 개의 지역 서버 간의 로드 밸런싱을 수행하는 글로벌 서버 로드 밸런서 장치에서 수행되는 캐쉬 유효 기간 제어 방법으로서,
    디엔에스(DNS; Domain Name System) 서버로부터 질의 메시지를 수신하는 단계;
    상기 복수 개의 지역 서버 중 어느 하나의 지역 서버를 선택하는 단계;
    상기 글로벌 서버 로드 밸런서 장치의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 상기 글로벌 서버 로드 밸런서 장치의 부하량을 계산하는 단계;
    계산된 상기 부하량에 따라 상기 글로벌 서버 로드 밸런서 장치의 캐쉬 유효 기간(TTL; Time-To-Live)을 갱신하는 단계; 및
    선택된 지역 서버 정보 및 갱신된 캐쉬 유효 기간을 포함하는 응답 메시지를 상기 DNS 서버로 송신하는 단계를 포함하는 캐쉬 유효 기간 제어 방법.
  8. 청구항 7에 있어서,
    상기 글로벌 서버 로드 밸런서 장치의 상태 정보는, 상기 글로벌 서버 로드 밸런서 장치의 중앙처리장치 사용률, 메모리 사용률, 보조기억장치 입출력량(I/O), 네트워크 입출력량(I/O) 및 단위 시간당 DNS 질의 메시지 수신량 중 하나 이상을 포함하는, 캐쉬 유효 기간 제어 방법.
  9. 청구항 7에 있어서,
    상기 캐쉬 유효 기간을 갱신하는 단계는, 기 설정된 캐쉬 유효 기간의 최대값 및 최소값 사이의 범위에서 상기 캐쉬 유효 기간을 갱신하되,
    상기 부하량이 임계값을 초과하는 경우 상기 캐쉬 유효 기간을 증가시키고, 상기 부하량이 임계값 이하인 경우 상기 캐쉬 유효 기간을 감소시키는, 캐쉬 유효 기간 제어 방법.
  10. 청구항 9에 있어서,
    상기 캐쉬 유효 기간의 초기값은, 상기 캐쉬 유효 기간의 최대값으로 설정되는, 캐쉬 유효 기간 제어 방법.
  11. 청구항 9에 있어서,
    상기 캐쉬 유효 기간을 갱신하는 단계는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값을 초과하는 경우,
    상기 캐쉬 유효 기간의 최대값, 또는
    상기 최대값 및 직전 캐쉬 유효 기간의 중간값
    중 작은 값으로 상기 캐쉬 유효 기간을 갱신하는, 캐쉬 유효 기간 제어 방법.
  12. 청구항 9에 있어서,
    상기 캐쉬 유효 기간을 갱신하는 단계는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값 이하인 경우,
    상기 캐쉬 유효 기간의 최소값, 또는
    직전 캐쉬 유효 기간에서 기 설정된 감소치를 뺀 값
    중 큰 값으로 상기 캐쉬 유효 기간을 갱신하는, 캐쉬 유효 기간 제어 방법.
  13. 하드웨어와 결합되어,
    디엔에스(DNS; Domain Name System) 서버로부터 질의 메시지를 수신하는 단계;
    복수 개의 지역 서버 중 어느 하나의 지역 서버를 선택하는 단계;
    글로벌 서버 로드 밸런서 장치의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 상기 글로벌 서버 로드 밸런서 장치의 부하량을 계산하는 단계;
    계산된 상기 부하량에 따라 상기 글로벌 서버 로드 밸런서 장치의 캐쉬 유효 기간(TTL; Time-To-Live)을 갱신하는 단계; 및
    선택된 지역 서버 정보 및 갱신된 캐쉬 유효 기간을 포함하는 응답 메시지를 상기 DNS 서버로 송신하는 단계를 포함하는 단계들을 실행시키기 위하여 기록매체에 저장된 컴퓨터 프로그램.
PCT/KR2014/012986 2014-10-21 2014-12-29 글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법 WO2016064030A1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020140142887A KR102295664B1 (ko) 2014-10-21 2014-10-21 글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법
KR10-2014-0142887 2014-10-21

Publications (1)

Publication Number Publication Date
WO2016064030A1 true WO2016064030A1 (ko) 2016-04-28

Family

ID=55750025

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2014/012986 WO2016064030A1 (ko) 2014-10-21 2014-12-29 글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법

Country Status (4)

Country Link
US (1) US9954941B2 (ko)
KR (1) KR102295664B1 (ko)
CN (1) CN105812408A (ko)
WO (1) WO2016064030A1 (ko)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016048498A (ja) * 2014-08-28 2016-04-07 富士通株式会社 キャッシュ制御装置およびキャッシュ制御方法
US10044629B1 (en) * 2014-09-22 2018-08-07 Amazon Technologies, Inc. Dynamic TTL based on endpoint health checking
US10735461B2 (en) 2015-10-21 2020-08-04 Verisign, Inc. Method for minimizing the risk and exposure duration of improper or hijacked DNS records
KR101727059B1 (ko) * 2016-08-17 2017-04-14 맹상영 복수개의 서버를 선택적으로 이용하는 클라우드 콘솔 제공 시스템 및 제공 방법
US10728206B2 (en) 2017-03-22 2020-07-28 Citrix Systems, Inc. Method for DNS response reordering based on path quality and connection priority for better QOS
US11165868B2 (en) * 2017-03-30 2021-11-02 Microsoft Technology Licensing, Llc Systems and methods for achieving session stickiness for stateful cloud services with non-sticky load balancers
CN107172126A (zh) * 2017-04-21 2017-09-15 华为技术有限公司 一种域名系统服务器分配方法及服务器
CN108134817B (zh) * 2017-11-30 2019-04-05 北京白山耘科技有限公司 一种自动调整缓存时长的方法及装置
US10554562B2 (en) 2017-12-22 2020-02-04 International Business Machines Corporation Streaming network
JP6597823B2 (ja) 2018-03-23 2019-10-30 日本電気株式会社 ロードバランシング装置、通信システム、制御方法及びプログラム
CN108366133B (zh) * 2018-03-28 2022-02-22 深圳市网心科技有限公司 一种ts服务器调度方法、调度设备及存储介质
US10778757B1 (en) 2018-06-18 2020-09-15 Amazon Technologies, Inc. Load balancing traffic via dynamic DNS record TTLs
CN109347944A (zh) * 2018-10-11 2019-02-15 郑州云海信息技术有限公司 一种域名解析方法及装置
CN111181868B (zh) * 2019-12-30 2023-06-16 深圳网基科技有限公司 基于域名热度的缓存ttl动态变更方法和系统
CN112202688A (zh) * 2020-09-22 2021-01-08 临沂大学 一种适用于云数据中心网络的数据疏散方法及系统
KR20220089532A (ko) 2020-12-21 2022-06-28 한국전자통신연구원 강화 학습을 이용한 ttl 기반 캐쉬 관리 방법 및 장치
JP7426020B2 (ja) * 2021-09-30 2024-02-01 １７Ｌｉｖｅ株式会社 キャッシュｔｔｌを決定するためのシステム、方法、及びコンピュータ可読媒体
US11870828B2 (en) 2021-09-30 2024-01-09 17Live Japan Inc. System, method and computer-readable medium for rendering a streaming
KR102634218B1 (ko) * 2022-12-30 2024-02-06 주식회사 에스티씨랩 디지털 서비스 기반의 리소스 최적화를 위한 트랜잭션관리 서버 및 방법

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6330231B1 (en) * 1995-10-16 2001-12-11 Nec Corporation Dynamic server allocation for load balancing wireless remote interface processing
US20100011126A1 (en) * 2000-09-26 2010-01-14 Foundry Networks, Inc. Global server load balancing
WO2012086919A2 (ko) * 2010-12-24 2012-06-28 (주)케이티 복수 개의 프락시 서버를 포함하는 분산 저장 시스템 및 그 오브젝트 관리 방법 및 컴퓨터에 의하여 독출가능한 저장 매체
US20130073809A1 (en) * 2011-09-19 2013-03-21 International Business Machines Corporation Dynamically altering time to live values in a data cache

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9130954B2 (en) * 2000-09-26 2015-09-08 Brocade Communications Systems, Inc. Distributed health check for global server load balancing
US20020087722A1 (en) * 2000-12-29 2002-07-04 Ragula Systems D/B/A/ Fatpipe Networks Domain name resolution making IP address selections in response to connection status when multiple connections are present
US7086061B1 (en) * 2002-08-01 2006-08-01 Foundry Networks, Inc. Statistical tracking of global server load balancing for selecting the best network address from ordered list of network addresses based on a set of performance metrics
US7552237B2 (en) * 2002-10-17 2009-06-23 International Business Machines Corporation Network address cache apparatus and method
CA2607005C (en) * 2005-05-05 2012-02-07 Ironport Systems, Inc. Identifying threats in electronic messages
US8296373B2 (en) * 2007-02-02 2012-10-23 Facebook, Inc. Automatically managing objectionable behavior in a web-based social network
US20080276002A1 (en) * 2007-05-01 2008-11-06 Yahoo! Inc. Traffic routing based on client intelligence
US20100011420A1 (en) * 2008-07-02 2010-01-14 Barracuda Networks Inc. Operating a service on a network as a domain name system server
US20100220622A1 (en) * 2009-02-27 2010-09-02 Yottaa Inc Adaptive network with automatic scaling
US8549148B2 (en) * 2010-10-15 2013-10-01 Brocade Communications Systems, Inc. Domain name system security extensions (DNSSEC) for global server load balancing
US9596122B2 (en) * 2010-12-03 2017-03-14 International Business Machines Corporation Identity provider discovery service using a publish-subscribe model
KR101171657B1 (ko) 2010-12-08 2012-08-09 텔코웨어 주식회사 로드 밸런서 및 이를 이용한 부하 분산 관리 방법
US9755889B2 (en) * 2013-02-13 2017-09-05 International Business Machines Corporation Service failover and failback using enterprise service bus
CN104022891B (zh) * 2013-02-28 2018-06-19 新华三技术有限公司 一种全局负载均衡设备业务协调方法及装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6330231B1 (en) * 1995-10-16 2001-12-11 Nec Corporation Dynamic server allocation for load balancing wireless remote interface processing
US20100011126A1 (en) * 2000-09-26 2010-01-14 Foundry Networks, Inc. Global server load balancing
WO2012086919A2 (ko) * 2010-12-24 2012-06-28 (주)케이티 복수 개의 프락시 서버를 포함하는 분산 저장 시스템 및 그 오브젝트 관리 방법 및 컴퓨터에 의하여 독출가능한 저장 매체
US20130073809A1 (en) * 2011-09-19 2013-03-21 International Business Machines Corporation Dynamically altering time to live values in a data cache

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
VALERIA CARDELLINI ET AL.: "Dynamic Load Balancing on Web-server Systems", IEEE INTERNET COMPUTING, vol. 3, no. 3, May 1999 (1999-05-01), pages 28 - 39 *

Also Published As

Publication number Publication date
US20160112500A1 (en) 2016-04-21
US9954941B2 (en) 2018-04-24
CN105812408A (zh) 2016-07-27
KR20160046667A (ko) 2016-04-29
KR102295664B1 (ko) 2021-08-27

Similar Documents

Publication Publication Date Title
WO2016064030A1 (ko) 글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법
US10868840B1 (en) Multiple-master DNS system
WO2010064799A2 (en) Countering against distributed denial-of-service (ddos) attack using content delivery network
EP2590379A2 (en) Filtering system and filtering method
US20110276982A1 (en) Load Balancer and Load Balancing System
JP2003015938A (ja) 輻輳制御方法
US10182033B1 (en) Integration of service scaling and service discovery systems
CN103581039A (zh) 一种服务器集群的动态负载均衡架构及其使用方法
KR100927498B1 (ko) 부하 밸런싱된 네트워크 환경에서의 지능형 페일오버
KR20080101787A (ko) 부하 조절형 네트워크 환경에서의 지능형 장애극복
WO2015056833A1 (en) Web-based real time data pushing method and system thereof
US10430304B2 (en) Communication continuation during content node failover
CN110932876A (zh) 一种通信系统、方法及装置
WO2013176431A1 (ko) 단말을 서버에 할당하고 단말로의 효율적인 메시징을 위한 시스템 및 방법
US10135916B1 (en) Integration of service scaling and external health checking systems
US10977141B2 (en) Systems and methods for handling server failovers
US20220124194A1 (en) Enum server and congestion control method
WO2023184925A1 (zh) 负载均衡器及其实现方法、负载均衡的方法、网关系统
CN115118700B (zh) 一种通信方法及通信系统
US9609684B2 (en) Apparatus and method for transmitting/receiving data in mobile content network
WO2018037893A1 (ja) ポータルサーバを管理する方法、装置およびシステム
WO2013085089A1 (ko) Ｍ2ｍ 클라우드 환경에서 통신망 자원 활용 방법 및 그 시스템
WO2019066101A1 (ko) 노드 분산 방법 및 이를 수행하는 관리 서버
WO2015080378A1 (ko) 공유 단말 식별 방법 및 그 시스템
CN112929416A (zh) 一种域名系统的负载均衡方法、装置、设备及存储介质

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 14904489

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 14904489

Country of ref document: EP

Kind code of ref document: A1