KR102476620B1 - 캐시 자동제어 시스템 - Google Patents

Abstract

본 발명은 캐시 자동제어 시스템에 관한 것으로, 캐시 메모리의 페이지 공간이 부족할 때 특정 페이지를 삭제하여 데이터가 캐싱될 공간을 확보하는 캐시 자동제어 알고리즘을 개시하는 캐시 자동제어 시스템에 관한 것이다. 본 발명에 따른 캐시 자동제어 시스템은, 사용자단말기로 웹 페이지를 제공하고, 상기 웹 페이지에 접속한 사용자단말기로부터 요청(request) 메시지 및 쿼리(query)를 수신하는 WEB 서버, 상기 WEB 서버로부터 상기 요청 메시지 및 상기 쿼리를 수신하고, 상기 요청 메시지에 대한 응용프로그램을 실행하여 상기 요청 메시지에 대한 연산을 수행하고 연산결과를 상기 WEB 서버로 송신하는 WAS(Web Application Server) 서버, 상기 WAS 서버로부터 상기 쿼리를 수신하며, 상기 쿼리에 대한 응답이 될 수 있는 데이터를 조회하고 조회결과를 상기 WAS 서버로 송신하는 데이터베이스 및 상기 요청 메시지 및 상기 요청 메시지에 대한 응용프로그램의 연산결과를 캐시(cache) 메모리에 캐싱(caching)하고, 상기 쿼리 및 상기 쿼리에 대한 상기 데이터베이스의 조회결과를 상기 캐시 메모리에 캐싱하는 캐시 서버를 포함한다.

Description

캐시 자동제어 시스템{CACHE AUTOMATIC CONTROL SYSTEM}

본 발명은 캐시 자동제어 시스템에 관한 것으로, 더욱 상세하게는 사용량이 많은 응용프로그램의 연산결과 및 사용자에 의해 반복적으로 사용되는 쿼리에 대한 조회결과의 캐싱을 통해 데이터 처리속도를 향상시킴과 동시에 캐시 메모리의 페이지 공간이 부족할 때 특정 페이지를 삭제하여 데이터가 캐싱될 공간을 확보하는 캐시 자동제어 알고리즘을 개시하는 캐시 자동제어 시스템에 관한 것이다.

최근 IT 서비스의 성장으로 인한 데이터의 증가와 다양한 컨텐츠 확대, 동시 사용자의 증가는 서비스 응답속도 저하에서 서비스 중단에 이르는 많은 시스템 문제를 야기하게 되었고, 특히 정부나 공공기관에서 운영되는 시스템에 대한 문제는 사용자의 민원발생 및 신뢰하락을 넘어서 법적소송까지 가는 심각한 사회현상을 만들어 가고 있다.

종래 시스템은 사용자의 요청에 따라 사용자에게 HTML로 구성된 웹 페이지를 제공하는 WEB 서버, WEB 서버로부터 전달된 요청 메시지에 대한 응용프로그램 서비스를 처리하는 WAS(Web Application Server) 서버 및 사용자의 쿼리에 대한 응답이 될 수 있는 데이터를 저장하는 데이터베이스로 구성된다.

이러한 종래 시스템에서, 시스템을 사용하는 동시 접속자가 늘어나면, WEB 서버에서는 네트워크 대역폭 부족으로 인한 사용자의 응답시간 지연이 발생된다. 그리고 응용프로그램 처리 요청량이 폭주함에 따라 WAS 서버에서는 내부에서 구동되는 응용프로그램들이 동시에 데이터베이스로 결과를 요청하는 현상이 발생되는데 데이터베이스 접속을 위한 라이선스가 충분하지 않아 원활한 데이터베이스 조회가 어렵게 된다. 또한, 데이터베이스에서는 WAS 서버에서 요청된 정보를 처리하기 위해 데이터량이 증가하고 데이터가 복잡하게 꼬이는 현상이 발생하고 데이터베이스는 결국 부하를 이기지 못하고 다운되거나 무한대기 상태에 이르게 된다.

기존에 상술한 문제점을 해결하기 위하여, 기존 장비를 고성능 장비로 교체하거나 증설, 분산처리 등 다양하고 더 복잡한 아키텍처를 구성하였다. 하지만, 이러한 기존 해결방법에는 엄청난 장비구매 비용뿐만 아니라 이를 운영하기 위한 전문가 확보와 지속적 유지비용/시간이 이중으로 들어가는 현실적인 문제점이 존재했다. 구체적으로, WEB 서버에서는 근본적 개선이 아닌 사용자의 응답지연을 해소하기 위해 WEB 가속기를 도입하여 마치 은행창구의 번호표를 뽑는 형태로 대기시간의 지루함을 해소하는 큰 도움이 되지 않는 방법을 사용하고 있다. 또는 WEB 서버, WAS 서버 및 데이터베이스에 고성능 장비로 교체 또는 증설을 통한 이중화 구조를 만들어 한 대로 처리하던 것을 여러 대로 처리하도록 구성하는 방식을 채택하고 있는데, 이에 따른 막대한 서버 비용, 다중화 처리로 복잡해진 시스템에 맞춘 소프트웨어 라이센스 비용과 복잡한 인프라 유지/관리 비용이 복합적으로 증가하는 문제점을 안고 있는 것이 현실이다. 따라서 종래 시스템의 문제를 해결하기 위해, 물리적인 장비증설의 한계를 벗어난 비용측면, 유지/관리 측면, 향후 확장성 측면을 고려한 새로운 기술도입이 절실히 필요한 상황이며, 이는 대한민국 등록특허공보 제10-2027823호에서 플러그 인 방식의 시스템 응답 성능향상 지능형 캐싱 시스템을 통해, 사용량이 많은 응용프로그램의 연산결과 및 데이터베이스의 조회결과의 캐싱을 통해 기존 시스템의 초당 처리량 및 응답 속도를 향상시키고 안정성을 극대화하는 방안이 개시되었다.

한편, 캐시(cache) 메모리들을 사용한 블록 액세스 장치들이 캐시 서버에 설치되어 널리 사용되고 있다. 보통 시스템들에서는 그 캐시 메모리를 중앙처리장치(Central Processing Unit, CPU)와 외부 연결하거나 CPU 내에 설치한다. 현재 캐시 메모리가 있는 마이크로 프로세서들이 이용되고 있으며, CPU가 주기억장치 또는 외부 기억장치로부터 오는 정보를 빨리 얻도록 그 정보를 수용하는데 캐시 메모리들이 사용된다.

일반적으로 CPU가 수치로 된 필요한 데이터 및 명령들을 캐시 메모리에서 찾을 수 없을 때, 즉 미스(Miss) 타임(time)에서 CPU는 필요한 데이터를 기억장치에서 캐시 메모리로 입력시킨다. 이때에 소정의 크기의 메모리 영역 있는 데이터를 순서에 따라 기억장치로부터 캐시 메모리로 전송시킨다. 즉, 블록마다 데이터를 전송한다. 이러한 동작을 캐시-인(cache-in)동작이라 한다. 보통은 연속 주소들과 함께 상호 관련 데이터를 기억장치 내에 저장시킨다. 따라서 캐시-인 동작시간에 CPU에 의하여 기억장치로 공급되는 한 주소에 응하여 단일 버스 사이클 내에 한 데이터 블록을 캐시 메모리에 전송한다. 이것을 블록 액세스라 한다. 보통은 한 블록에 다수의 워드들이 구성되어 있어서 블록 액세스 시간에 CPU로부터 오는 한 주소에 응하여 한 버스 사이클 내에 이들 워드를 연속적으로 전송한다. 캐시에서 히트(Hit)라 함은 CPU에서 액세스(access)하려는 주소가 캐시에 저장되어 있는 경우이고, 미스(Miss)라 함은 CPU에서 액세스하려는 주소가 캐시에 없어서 메모리에 직접 액세스하여 가져와야 하는 경우이다. 이처럼 CPU가 요청한 정보가 캐시 내에 없으면 메모리로부터 정보를 캐시로 채워온다.

이와 같이 캐시 메모리는 일반 메모리 저장소보다 액세스 속도가 빠르거나 계산적으로 저렴한 메모리 위치에 최근 또는 자주 사용되는 데이터 항목을 유지하여 캐싱 성능을 향상시킨다. 한편 캐시가 가득 차면 새로운 캐시를 위한 공간을 만들기 위해 제거할 캐시 페이지를 선택하는 등 캐시의 자동제어가 필수적이다. 이때, 캐시의 내용을 비우는 것을 캐시 무효화라고 하며, 어떠한 캐시의 페이지를 선택하여 제거하느냐에 따라 캐시 메모리를 통한 캐싱 성능이 좌우된다.

대한민국 등록특허공보 제10-2027823호 (2019년 10월 02일 공고)

상술한 문제점을 해결하기 위한 본 발명의 목적은 캐시 메모리의 캐시를 관리하기 위한 캐시 자동제어 시스템을 제공하는 것이다.

본 발명의 다른 목적은 캐시 메모리 상 공간이 부족한 경우 캐시 메모리의 제거할 특정 페이지를 선택하는 알고리즘을 포함하는 캐시 자동제어 시스템을 제공하는 것이다.

상술한 목적을 달성하기 위하여, 본 발명의 일 실시예에 따른 캐시 자동제어 시스템은, 사용자단말기로 웹 페이지를 제공하고, 상기 웹 페이지에 접속한 사용자단말기로부터 요청(request) 메시지 및 쿼리(query)를 수신하는 WEB 서버, 상기 WEB 서버로부터 상기 요청 메시지 및 상기 쿼리를 수신하고, 상기 요청 메시지에 대한 응용프로그램을 실행하여 상기 요청 메시지에 대한 연산을 수행하고 연산결과를 상기 WEB 서버로 송신하는 WAS(Web Application Server) 서버, 상기 WAS 서버로부터 상기 쿼리를 수신하며, 상기 쿼리에 대한 응답이 될 수 있는 데이터를 조회하고 조회결과를 상기 WAS 서버로 송신하는 데이터베이스 및 상기 요청 메시지 및 상기 요청 메시지에 대한 응용프로그램의 연산결과를 캐시(cache) 메모리에 캐싱(caching)하고, 상기 쿼리 및 상기 쿼리에 대한 상기 데이터베이스의 조회결과를 상기 캐시 메모리에 캐싱하는 캐시 서버를 포함하며, 상기 캐시 서버는, 사용량이 많은 웹 페이지에서 요청되는 요청 메시지 및 사용량이 많은 웹 페이지에서 요청되는 요청 메시지에 대한 연산결과만을 상기 캐시 메모리에 캐싱하는 WAS 연산결과 캐싱 모듈, 사용자에 의해 반복적으로 사용되는 쿼리 및 사용자에 의해 반복적으로 사용되는 쿼리에 대한 조회결과만을 상기 캐시 메모리에 캐싱하는 데이터베이스 조회결과 캐싱 모듈 및 웹 페이지 및 쿼리의 사용량을 분석하여 사용량이 많은 웹 페이지 및 사용량이 많은 쿼리를 캐싱할 웹 페이지 및 쿼리를 선정하고, 선정된 웹 페이지에서 요청되는 요청 메시지에 대한 연산결과를 캐시 메모리에 캐싱하며, 선정된 쿼리 및 선정된 쿼리에 대한 조회결과를 캐시 메모리에 캐싱하고, 동일한 웹 페이지부터 동일한 패턴을 갖는 요청 메시지 및 동일한 패턴을 갖는 쿼리가 접수되는 경우 별도의 연산 및 조회를 수행하지 않고 캐싱된 결과를 상기 WAS 서버로 송신하는 제어 모듈을 포함하고, 상기 제어 모듈은, 상기 요청 메시지, 상기 연산결과, 상기 쿼리 및 상기 조회결과를 상기 캐시 메모리에 캐싱할 때 상기 캐시 메모리 상 공간이 부족한 경우, 상기 캐시 메모리의 특정 페이지를 제거하여 새로운 데이터를 위한 공간을 확보하는 페이지 제거 모듈을 포함한다.

상기 페이지 제거 모듈은, LRU(Least Recently Used) 알고리즘에 기반하여 상기 캐시 메모리의 페이지 중 가장 오랫동안 사용되지 않은 페이지를 제거하여 새로운 데이터를 위한 공간을 확보한다.

상기 WEB 서버는, 상기 사용자단말기로부터 사용자 정보를 수신하고, 상기 제어 모듈은, 상기 캐시 메모리의 각 페이지에 저장된 데이터의 세부항목이 저장된 캐시 정보 모듈을 더 포함하고, 상기 페이지 제거 모듈은, 상기 가장 오랫동안 사용되지 않은 페이지가 복수개인 경우, 상기 사용자 정보 및 상기 세부항목을 비교하여 매칭되지 않는 데이터가 저장된 페이지를 제거하여 새로운 데이터를 위한 공간을 확보한다.

상기 사용자 정보는, 상기 사용자단말기가 상기 WEB 서버로 상기 요청 메시지 또는 상기 쿼리를 송신한 시점 정보를 포함하고, 상기 세부항목 정보는 상기 데이터가 상기 페이지에 기 캐싱된 시점 정보를 포함한다.

상기 페이지 제거 모듈은, 상기 사용자 정보에 기반하여 복수개의 상기 사용자단말기를 범주화 하고, 상기 사용자단말기들의 범주화 기준과 상기 캐시 정보 모듈에 저장된 기 캐싱된 페이지의 세부 항목을 비교하여 매칭되지 않는 기 캐싱된 페이지를 삭제하여 새로운 데이터를 위한 공간을 확보한다.

본 발명인 캐시 자동제어 시스템에 따르면, 캐시 메모리의 캐시를 관리하는 것이 가능한 효과가 있다.

본 발명인 캐시 자동제어 시스템에 따르면, 캐시 메모리 상 공간이 부족한 경우 캐시 메모리의 제거할 특정 페이지를 선택하여 캐싱 성능을 최적화하는 것이 가능한 효과가 있다.

도 1은 본 발명의 일 실시예에 따른 캐시 자동제어 시스템의 구성을 나타낸 도면이다.
도 2는 본 발명의 일 실시예에 따른 캐시 서버의 구성을 나타낸 도면이다.

이하, 본 발명의 일부 실시예들을 예시적인 도면을 통해 상세하게 설명한다. 각 도면의 구성 요소들에 참조 부호를 부가함에 있어서, 동일한 구성 요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다.

그리고 본 발명의 실시예를 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 실시예에 대한 이해를 방해한다고 판단되는 경우에는 그 상세한 설명은 생략한다.

또한, 본 발명의 실시예의 구성 요소를 설명하는 데 있어서, 제1, 제2, A, B, (a), (b) 등의 용어를 사용할 수 있다. 이러한 용어는 그 구성 요소를 다른 구성 요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성 요소의 본질이나 차례 또는 순서 등이 한정되지 않는다.

본 명세서에서 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 “포함한다” 및/또는 “포함하는” 은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다.

본 명세서에서 캐싱이란, 요청메시지, 쿼리, 요청메시지 및 쿼리에 의해 연산된 데이터를 캐시 메모리(1400)에 일시적으로 저장하는 것을 의미한다.

이하, 첨부된 도면을 참조하여 본 발명을 보다 상세하게 설명하고자 한다.

도 1은 본 발명의 일 실시예에 따른 캐시 자동제어 시스템의 구성을 나타낸 도면이다.

도 1을 참조하면, 본 발명의 일 실시예에 따른 캐시 자동제어 시스템은 캐시 서버(1000), 사용자단말기(100), WEB 서버(2000), WAS 서버(3000) 및/또는 데이터베이스(4000)를 포함한다.

본 발명에 따른 WEB 서버(2000)는 사용자단말기(100)의 요청에 따라 사용자단말기(100)에게 HTML로 구성된 웹 페이지를 제공하고, 웹 페이지에 접속한 사용자단말기(100)로부터 요청(request) 메시지 및/또는 쿼리(query)를 수신하고 이를 WAS 서버(3000)로 전달한다.

본 발명에 따른 WAS 서버(3000)는 WEB 서버(2000)로부터 전달되어 수신한 요청 메시지에 대한 응용프로그램 서비스를 처리한다. 응용프로그램을 실행하여 요청 메시지에 대한 연산을 수행하고 연산결과를 WEB 서버(2000)로 송신한다. 또한, WAS 서버(3000)는 WEB 서버(2000)로부터 전달되어 수신한 쿼리를 데이터베이스(4000)로 송신한다.

본 발명에 따른 데이터베이스(4000)는 WAS 서버(3000)로부터 쿼리를 수신하고, 수신한 쿼리 대한 응답이 될 수 있는 데이터를 조회하고, 조회결과를 WAS 서버(3000)로 송신한다.

한편, 본 발명에 따른 캐시 서버(1000)는 요청 메시지와 요청 메시지에 대한 응용프로그램의 연산결과를 캐시 메모리(1400)(1400)에 캐싱한다. 그리고 캐시 서버(1000)는 쿼리와, 쿼리에 대한 데이터베이스(4000)의 조회결과를 캐시 메모리(1400)에 캐싱한다.

이때, 캐시 서버(1000)는 모든 요청 메시지와 모든 요청 메시지에 대한 연산결과를 캐싱하는 것이 아니라, 사용량이 많은 웹 페이지에서 요청되는 요청 메시지와, 해당 요청 메시지에 대한 연산결과만을 캐싱한다. 그리고, 캐시 서버(1000)는 모든 쿼리와 모든 쿼리에 대한 조회결과를 캐싱하는 것이 아니라, 사용자단말기(100)에 의해 반복적으로 사용되는 쿼리 및 해당 쿼리에 대한 조회결과만을 캐싱한다.

이로써, 사용량이 많은 웹 페이지에서 요청 메시지가 수신되는 경우, WAS 서버(3000)는 해당 요청 메시지에 대한 연산을 수행하지 않고, 캐시 서버(1000) 내부의 캐시 메모리(1400)에 저장된 해당 요청 메시지에 대한 연산결과를 가져다가 WEB 서버(2000)를 통해 사용자에게 반환할 수 있다. 그리고 반복적으로 사용되는 쿼리가 수신되는 경우, WAS 서버(3000)는 해당 쿼리를 데이터베이스(4000)에 전달하지 않고, 본 캐시 서버(1000) 내부 캐시 메모리(1400)에 저장된 해당 쿼리에 대한 조회결과를 가져다가 WEB 서버(2000)를 통해 사용자단말기(100)에게 반환할 수 있다. 이를 통해, 전체 캐시 자동제어 시스템의 처리속도 및 응답속도를 향상시킬 수 있다.

도 2는 본 발명의 일 실시예에 따른 캐시 서버(1000)의 구성을 나타낸 도면이다.

도 2를 참조하면, 캐시 서버(1000)는 WAS 연산결과 캐싱 모듈(1100), 데이터베이스 조회결과 캐싱 모듈(1200), 제어 모듈(1300) 및/또는 캐시 메모리(1400)를 포함한다.

WAS 연산결과 캐싱 모듈(1100)은 사용량이 많은 웹 페이지에서 요청되는 요청 메시지 및 해당 요청 메시지에 대한 응용프로그램의 연산결과를 캐시 메모리(1400)에 캐싱한다. 그리고 WAS 연산결과 캐싱 모듈(1100)은 해당 웹 페이지와 연관된 데이터의 변화를 실시간으로 모니터링하여 캐싱된 연산결과의 유효성을 판단한다. 즉, WAS 연산결과 캐싱 모듈(1100)은 해당 웹 페이지를 구성하는 정보, 해당 웹 페이지에서 요청되는 요청 메시지의 내용 정보, 해당 요청 메시지의 형식 정보 등에 변화(변경)가 있는지 여부를 모니터링하고 변화가 없는 경우 캐시 메모리(1400)에 저장된 연산결과가 유효한 것으로 판단하고, 변화가 있는 경우 캐시 메모리(1400)에 저장된 연산결과가 더 이상 유효하지 않은 것으로 판단한다. 유효한 경우, 캐시 메모리(1400)에 저장된 연산결과는 WAS 서버(3000), WEB 서버(2000)를 거쳐 사용자단말기(100)로 반환된다. 더 이상 유효하지 않은 경우, 캐시 메모리(1400)에 저장된 연산결과는 삭제된다. WAS 연산결과 캐싱 모듈(1100)은 모니터링 결과, 변경된 정보가, 자주 변경되는 정보인, 개인화 관련 정보, 세션, 쿠키, 파라미터 값 등에 해당하는 경우, WAS 서버(3000) 및/또는 데이터베이스(4000)로부터 변경된 새로운 값을 가져와 캐시 메모리(1400)에 캐싱하여 정보를 실시간으로 자동 업데이트한다.

WAS 연산결과 캐싱 모듈(1100)은 해당 요청 메시지와 해당 요청 메시지에 대한 연산결과를 오브젝트 저장 규칙에 따라 재사용이 가능한 직렬화된 오브젝트 형태로 변환하여 캐시 메모리(1400)에 캐싱한다. 이로써, 응용프로그램의 소스를 수정하거나 방식의 변경 없이 캐싱된 데이터가 사용될 수 있다.

데이터베이스 조회결과 캐싱 모듈(1200)은 반복적으로 사용되는 쿼리 및 해당 쿼리에 대한 데이터베이스(4000)의 조회결과를 캐시 메모리(1400)에 캐싱한다. 그리고 데이터베이스 조회결과 캐싱 모듈(1200)은 해당 쿼리와 연관된 데이터의 변화를 실시간으로 모니터링하여 캐싱된 조회결과의 유효성을 판단한다. 즉, 데이터베이스 조회결과 캐싱 모듈(1200)은 해당 쿼리의 내용 정보, 해당 쿼리의 형식 정보 등에 변화가 있는지 여부를 모니터링하고 변화가 없는 경우 캐시 메모리(1400)에 저장된 조회결과가 유효한 것으로 판단하고, 변화가 있는 경우 캐시 메모리(1400)에 저장된 조회결과가 더 이상 유효하지 않은 것으로 판단한다. 유효한 경우, 캐시 메모리(1400)에 저장된 조회결과는 WAS 서버(3000), WEB 서버(2000)를 거쳐 사용자단말기(100)로 반환된다. 더 이상 유효하지 않은 경우, 캐시 메모리(1400)에 저장된 조회결과는 삭제된다.

데이터베이스 조회결과 캐싱 모듈(1200)은 해당 쿼리와, 해당 쿼리에 대한 조회결과를 오브젝트 저장 규칙에 따라 재사용이 가능한 직렬화된 오브젝트 형태로 변환하여 캐시 메모리(1400)에 캐싱한다. 이로써, 응용프로그램의 소스를 수정하거나 방식의 변경 없이 캐싱된 데이터가 사용될 수 있다.

제어 모듈(1300)은 웹 페이지 및/또는 쿼리의 사용량을 분석하여 사용량이 많은 웹 페이지 및/또는 쿼리를 캐싱할 웹 페이지 및/또는 쿼리로 선정한다. 제어 모듈(1300)에 의해 선정된 웹 페이지에서 요청되는 요청 메시지 및 해당 요청 메시지에 대한 연산결과는 캐시 메모리(1400)에 캐싱된다. 제어 모듈(1300)은 요청 메시지와 해당 요청 메시지에 대한 연산결과 및/또는 쿼리와 해당 쿼리에 대한 조회결과를 캐싱하고, 동일한 웹 페이지부터 동일한 패턴을 갖는 요청 메시지 및/또는 동일한 패턴을 갖는 쿼리가 접수되는 경우 별도의 연산 및/또는 조회를 수행하지 않고 캐싱된 결과를 반환하는 본 캐싱 기술이 적용됨에 따른 전체 캐시 자동제어 시스템의 처리속도, 응답속도 등과 같은 처리성능을 실시간으로 분석한다.

제어 모듈(1300)은 관점 지향 프로그래밍 기술을 기초로 WAS 서버(3000)로 요청되는 요청 메시지 및 쿼리가 캐시 메모리(1400)에 캐싱된 요청 메시지 및 쿼리와 동일한 패턴을 갖는지 여부를 판단한다. 제어 모듈(1300)은 WAS 서버(3000)로 요청되는 요청 메시지 및 쿼리가 캐시 메모리(1400)에 캐싱된 요청 메시지 및 쿼리와 동일한 패턴을 갖는 경우 별도의 연산 및 데이터베이스(4000) 조회를 생략하고 캐시 메모리(1400)에 캐싱된 연산결과 및 조회결과를 WEB 서버(2000)로 반환하도록 한다.

제어 모듈(1300)은 캐시 메모리(1400)로부터 WEB 서버(2000)로 반환된 연산결과 및/또는 조회결과가 WEB 서버(2000)가 요청한 요청 메시지 및/또는 쿼리에 부합하는 응답이었는지 여부에 대한 피드백 정보를 WAS 서버(3000)로부터 수신한다. 제어 모듈(1300)은 수신한 피드백 정보를 기초로, WEB 서버(2000)로 반환된 연산결과 및/또는 조회결과의 개수 대비 WEB 서버(2000)가 요청한 요청 메시지 및/또는 쿼리에 부합된 연산결과 및/또는 조회결과의 개수의 비율을 나타내는 캐싱 적중률 정보를 산출한다. 제어 모듈(1300)은 실시간으로 캐시 메모리(1400)에 저장된 데이터량을 모니터링하여 시간대 별 캐시 데이터량의 변동률 정보를 산출한다. 제어 모듈(1300)은 시간대 별 캐시 데이터량의 변동률 정보를 기초로, WAS 연산결과 캐싱 모듈(1100) 및/또는 데이터베이스 조회결과 캐싱 모듈(1200)의 캐싱량을 조절하여 캐시 서버(1000)를 보다 안정적으로 운영할 수 있다.

제어 모듈(1300)은 캐시 서버(1000)의 CPU 사용량, 캐시 메모리 사용량, 네트워크 사용량, 데이터베이스 캐시 성능 정보(쿼리 및 이에 대한 데이터베이스 조회결과의 처리속도 및 응답속도) 등을 산출하고, 이를 사용자 인터페이스에 표출시킬 수 있다. 제어 모듈(1300)은 응용프로그램 캐시 성능 정보(요청 메시지 및 이에 대한 응용프로그램 연산결과의 처리속도 및 응답속도), 쿼리들의 호출 건수 순위 정보, 웹 페이지 호출 건수 순위 정보 등을 산출하고, 이를 사용자 인터페이스에 표출시킬 수 있다.

제어 모듈(1300)은 캐시 메모리(1400) 내에서 데이터베이스(4000)의 조회결과를 저장할 캐시를 할당하고, 해당 캐시에 캐싱할 조회결과에 대한 쿼리를 설정한다. 이때, 제어 모듈(1300)은 쿼리들의 호출 건수 순위 정보를 이용하여 자주 호출되어 사용되는 쿼리를 캐싱할 쿼리로 설정할 수 있다. 이때, 제어 모듈(1300)은 캐시의 이름, 카테고리, 캐시를 만료시킬 키워드, 캐시의 유지 시간, 캐시의 사용 횟수, 캐시의 만료 일정, 캐시의 활성화 일정 등을 설정할 수 있다.

제어 모듈(1300)은 캐시 메모리(1400) 내에서 응용프로그램의 연산결과를 저장할 캐시를 할당하고, 해당 캐시에 캐싱할 연산결과에 해당하는 요청 메시지 또는 웹페이지를 설정한다. 이때, 제어 모듈(1300)은 웹 페이지 호출 건수 순위 정보를 이용하여 자주 호출되어 사용되는 웹 페이지 및/또는 해당 웹페이지에서 요청되는 요청 메시지와 이에 대한 연산결과를 캐싱할 연산결과로 설정할 수 있다. 이때, 제어 모듈(1300)은 캐시의 이름, 캐시의 카테고리, 캐시가 적용될 웹 페이지 URL, 캐시를 만료시킬 키워드, 캐시의 유지 기간, 캐시의 사용 횟수, 캐시의 만료 일정, 캐시의 활성화 일정, 캐싱할 요청 메시지, 요청할 쿠키, 요청할 세션 등을 포함하는 데이터의 세부항목을 설정할 수 있다.

캐시 메모리(1400)는 요청 메시지, 요청 메시지에 대한 연산결과, 쿼리 및/또는 쿼리에 대한 조회결과를 NoSQL(Not only Structured Query Language) 기반의 IMDG(In Memory Data Grid) 기술을 이용하여 저장한다.

본 발명에 따른 캐시 서버(1000)가 포함하는 제어 모듈(1300)은 페이지 제거 모듈(1310)을 포함한다.

본 발명에 따른 페이지 제거 모듈(1310)은, 제어 모듈(1300)에 의해 요청 메시지, 요청 메시지에 의한 연산결과, 쿼리 및/또는 쿼리에 대한 조회결과가 캐시 메모리(1400)에 캐싱될 때 캐시 메모리(1400) 상 공간이 부족한 경우, 캐시 메모리(1400)의 특정 페이지를 제거하여 캐싱할 새로운 데이터를 위한 공간을 확보한다.

본 발명에 따른 페이지 제거 모듈(1310)은 LRU(Least Recently Used) 알고리즘에 기반하여 상기 캐시 메모리(1400)의 페이지 중 가장 오랫동안 사용되지 않은 페이지를 제거하여 새로운 데이터를 위한 공간을 확보할 수 있다.

LRU 알고리즘은 페이지 교체 알고리즘으로, 캐시 메모리(1400) 상 페이지 부재가 발생했을 경우 가장 오랫동안 사용되지 않은 페이지를 제거한다. LRU 알고리즘은 가장 오랫동안 이용되지 않은 페이지는 앞으로도 사용할 확률이 적을 것이라고 가정하여 동작한다.

본 발명에 따른 캐시 서버(1000)는 REDIS(Remote Dictionary Server)의 DBMS 상에서 동작할 수 있다. Redis는 "키-값" 구조의 비정형 데이터를 저장하고 관리하기 위한 오픈 소스 기반의 비관계형 데이터베이스 관리 시스템(DBMS)이다. REDIS는 모든 데이터를 캐시 메모리로 불러와서 처리하는 메모리 기반 DBMS이며, BSD 라이선스를 따른다.

본 발명에 따른 페이지 제거 모듈(1310)은, Redis에서 사용되는 캐시 무효화 알고리즘인 LRU(Least Recently Used)를 사용할 수 있다. LRU 알고리즘은 최근에 사용된 데이터들은 재사용이 될 가능성이 높다고 판단하여 계속해서 메모리에 상주 시킨다.

Redis 메모리의 상주 데이터를 삭제하는 종류는 몇 가지가 있으며 memory-policy 구문을 사용하여 noeviction, allkeys-lru, volatile-lru, allkeys-random, volatile-random, volatile-ttl 와 같은 정책을 적용할 수 있다.

noeviction는 메모리 제한에 도달한 상태에서 클라이언트가 더 많은 메모리를 사용하는 명령을 실행하려고 할 때 오류를 리턴한다. allkeys-lru는 가장 최근에 사용하지 않는 키(LRU)를 먼저 퇴거(eviction)하여 새로운 데이터를 위한 공간을 확보한다. volatile-lru는 가장 최근에 사용되지 않은 키(LRU)를 먼저 퇴거(evict)하려고 시도하지만 만료 세트가 있는 키만 퇴거하여 새로운 데이터 공간을 확보한다. allkeys-random는 새 데이터를 추가할 공간을 만들기 위해 임의로 키를 퇴거(evict)한다. volatile-random는 새 데이터를 추가하기위한 공간을 만들기 위해 무작위로 키를 퇴거(evict)하지만 만료 세트가 있는 키만 제거한다. volatile-ttl는 만료 세트가 있는 키를 제거하고 TTL(Short Time to Live)키를 제거하여 새로운 데이터를 추가 공간을 확보한다.

volatile-lru, volatile-random 및 volatile-ttl은 필수 구성요소와 일치하는 키가 없으면 아무런 행동을 하지 않는다. 올바른 퇴거 정책을 수립하기 위해서는 Redis INFO 정보를 모니터링하여 정책에 반영할 수 있도록 한다. 요청이 많으며 과거 데이터를 자주 사용하지 않는다면 allkeys-lru 정책을 사용한다. 모든 키가 연속적으로 스캔되는 순환 액세스가 있거나 배포가 균일할 것으로 예상되는 경우 (모든 요소는 동일한 확률로 액세스 될 가능성이 높음) allkeys-random을 사용한다. 캐시 개체를 만들 때 다른 TTL 값을 사용하여 만료 기간이 좋은 항목에 대한 힌트를 Redis에 제공하려면 volatile-ttl을 사용한다.

volatile-lru 및 volatile-random 정책은 캐싱 및 영구 키 집합에 대한 단일 인스턴스를 사용하려는 경우 유용하다. 그러나 일반적으로 이러한 문제를 해결하기 위해 두 개의 Redis 인스턴스를 실행하는 것이 좋다. 또한 키에 만료를 설정하면 메모리가 낭비되므로 allkeys-lru와 같은 정책을 사용하면 메모리가 부족할 때 키가 만료되도록 설정할 필요가 없기 때문에 더 많은 메모리가 효율적으로 운영된다.

본 발명에 따른 페이지 제거 모듈(1310)은, 캐시 데이터를 무효화 할 때, 캐시 무효화 대상인지 여부를 확인하고, 캐시 무효화 대상인 경우 캐시 메모리(1400)의 페이지를 삭제한다. 만일 캐시 무효화 대상이 아닌 경우, 쿼리와 파라미터를 문자로 이어붙여서 캐시 저장소 ID를 생성하고, Redis 저장소에 캐시 데이터를 등록한다. 이후, 캐시 무효화 키워드 값을 생성하고, Redis 저장소에 무효화 키워드를 등록한다.

본 발명에 따른 페이지 제거 모듈(1310)은, 전술한 바와 같이, 캐시 메모리(1400)의 페이지 부재가 발생했을 경우, 새로운 데이터를 캐싱하기 위해 공간을 확보한다. 이 때, 페이지 제거 모듈(1310)은 LRU 알고리즘에 기반하여 가장 오랫동안 사용되지 않은 페이지를 선정하여, 그 페이지에 저장된 데이터를 삭제한다. 그러나 페이지 제거 모듈(1310)이 선택한 페이지가 복수개인 경우, 페이지 제거 모듈(1310)은 선택한 페이지 중 어느 페이지를 제거할지 선택할 수 있다.

본 발명에 따른 WEB 서버(2000)는 사용자단말기(100)로부터 요청 메시지 및/또는 쿼리를 수신할 때, 사용자단말기(100)로부터 사용자 정보를 함께 수신한다.

본 발명에 따른 제어 모듈(1300)은 캐시 메모리(1400)의 각 페이지에 저장된 데이터의 세부 항목에 대한 정보가 저장된 캐시 정보 모듈(1320)을 더 포함한다.

본 발명에 따른 페이지 제거 모듈(1310)은, 사용자 정보와 세부 항목에 대한 정보를 서로 비교한다. 가장 오랫동안 사용되지 않는 페이지가 복수개인 경우 복수개의 페이지 중에서 사용자 정보와 세부 항목에 대한 정보를 비교하여 서로 매칭되지 않는 데이터가 저장된 페이지를 선택하여 제거한다.

본 발명에 따른 사용자단말기(100)이 WEB 서버(2000)에 송신하는 사용자 정보는, 예를 들어, 웹 페이지에 접속하여 요청 메시지 또는 쿼리를 송신한 시점에 대한 정보일 수 있고, 페이지에 저장된 데이터의 세부항목은 그 데이터가 페이지에 기 캐싱된 시점 정보일 수 있다.

본 발명에 따른 페이지 제거 모듈(1310)은, 오랫동안 사용되지 않은 페이지 중에서 데이터가 캐싱되려는 시점과 동일한 또는 유사한 시점에 기 캐싱된 페이지는 삭제하지 않고, 캐싱되려는 시점과 전혀 다른 시점에 기 캐싱된 페이지를 삭제하여 캐시 메모리(1400)의 공간을 확보한다. 따라서 앞으로 사용할 확률이 더 적은 캐시 메모리(1400)의 페이지를 삭제할 수 있다.

한편, 본 발명에 따른 WEB 서버(2000)가 사용자단말기(100)로 제공하는 웹 페이지는, 사용자단말기(100)로 복수개의 콘텐츠를 제공하는 웹 페이지일 수 있다. 예를 들어, 넷플릭스, 유투브 등과 같이 영상 콘텐츠를 제공하는 웹 페이지일 수 있다. 이러한 웹 페이지에 접속한 사용자들은 유사한 범주의 사용자들로 범주화 될 수 있다. 동일 범주에 속한 사용자들은 유사한 콘텐츠를 검색할 가능성이 더 높고 따라서 동일한 요청 메시지 및/또는 쿼리를 WEB 서버(2000)로 송신할 가능성이 더 높다.

본 발명에 따른 페이지 제거 모듈(1310)은, WEB 서버(2000)가 사용자단말기(100)로부터 수신한 사용자 정보를 기반으로 사용자들을 범주화 하며, 이때 범주화의 기준은 사용자들의 연령, 성별, 웹 페이지 접속 위치, 웹 페이지에 접속한 시간, 검색한 콘텐츠의 종류 등일 수 있다.

본 발명에 따른 페이지 제거 모듈(1310)은, 사용자단말기(100)들의 범주화 기준과 기 캐싱된 페이지의 세부항목을 비교하여 서로 매칭되지 않는 기 캐싱된 페이지를 삭제할 수 있다.

본 발명에 따른 페이지 제거 모듈(1310)이, 예를 들어, 사용자들의 성별을 기준으로 사용자들을 범주화 한 경우, 동일한 성별의 사용자들이 송신한 요청 메시지 및/또는 쿼리에 따른 데이터가 캐싱된 페이지를 삭제하지 않을 수 있어 앞으로 사용할 확률이 많은 캐시 메모리(1400)의 페이지 삭제를 방지할 수 있다.

본 발명에 따른 캐시 메모리(1400)의 각 페이지에는 각 데이터가 지정된 주소(어드레스)가 저장될 수 있으며, 이때 주소는 압축된 상태로 저장될 수 있다. 캐시 메모리(1400)는 프로그램의 실행 시간 동안 사용할 메모리 공간을 할당하는 동적 메모리 할당 방식으로 메모리 공간을 할당한다.

그러나 동적 메모리 할당 방식 중 하나의 방식인 동적 세그먼트 할당 방식을 사용하면서 압축된 주소 지정을 함께 사용하는 경우, 주소 압축 동작에서 메모리 접근이 늘어나서 시간지연(latency)이 크게 늘어난다는 문제가 있다.

상술한 문제점을 해결하기 위해, 본 발명은 메모리의 동적 세그먼트 할당에 있어서 주소 압축을 통해 메모리를 절약하고, 주소 압축 시 메모리 접근 횟수의 증가를 방지하여 시간지연을 방지할 수 있다.

캐시 서버(1000)는 주소입력부(미도시)를 더 포함할 수 있다. 주소입력부(미도시)는 풀 어드레스를 입력받아 제어 모듈(1300)에 전달한다. 풀 어드레스는 제1 파트와 제2 파트를 포함한다. 예를 들어 풀 어드레스는 32 bit일 수 있다. 풀 어드레스가 0000 0000 0000 0010 0010 0111 0000 0000 라고 하면, 여기서 앞의 21 bit가 제1 파트가 되고, 22 bit 가 제2 파트가 될 수 있다. 캐시 메모리(1400)는 어드레스를 압축하기 위한 데이터를 저장한다. 일 실시예에서 캐시 메모리(1400)는 역 지도 캐시 및 역 지도 트리를 저장한다. 역 지도 캐시는 최근에 접근한 세그먼트에 대한 역 지도 엔트리를 저장하며, 최근에 접근한 세그먼트 인덱스와 세그먼트 베이스 어드레스의 매핑된 데이터를 저장하는 소프트웨어 캐시이다. 역 지도 엔트리는 세그먼트 베이스 주소의 세그먼트 인덱스 쌍 포함한다. 역 지도 트리는 세그먼트 베이스 인덱스를 기준으로 역 지도 엔트리를 정렬하는 레드 블랙 트리(red-black tree)이다. 참고로, 레드 블랙 트리(red-black tree)는 자가 균형 이진 탐색 트리(self-balancing binary search tree)로써, 대표적으로는 연관 배열 등을 구현하는데 쓰이는 자료구조이다. 역 지도 트리는 세그먼트가 할당 또는 할당해제 시 갱신된다.

제어 모듈(1300)은 주소입력부(미도시)를 통해 입력된 풀 어드레스를 압축된 어드레스로 변환하여 출력한다. 제어 모듈(1300)은 캐시 메모리(1400)에 저장된 역 지도 캐시에서 상기 제1 파트에 기초하여 세그먼트 베이스 어드레스를 확인한다. 일 실시예에서, 제어 모듈(1300)은 상기 제1 파트에 기초하여 상기 역 지도 캐시로부터 상응하는 캐시 인덱스를 추출하고, 해당 캐시 인덱스를 이용하여 역 지도 캐시 내부의 역 지도 엔트리에 접근하여 해당 역 지도 엔트리의 세그먼트 베이스 어드레스가 제1 파트와 매칭되는지 확인하고, 매칭되는 경우, 해당 세그먼트 베이스 어드레스와 매칭되는 세그먼트 인덱스를 추출하고, 매칭되지 않는 경우, 상기 역 지도 트리에 기초하여 세그먼트 인덱스를 확인한다.

제어 모듈(1300)은 상기 세그먼트 베이스 어드레스 및 제2 파트에 기초하여 블록 오프셋을 획득한다. 블록은 first-fit 방식에 의해 할당되므로 비슷한 시간에 발생하는 할당 및 할당 해제는 동일한 세그먼트에 액세스 할 가능성을 높인다. 일 실시예에서, 제어 모듈(1300)은 풀 어드레스의 제2 파트와 세그먼트 베이스 어드레스의 차이에 기초하여 블록 오프셋을 획득한다. 제어 모듈(1300)은 상기 세그먼트 베이스 어드레스 및 상기 블록 오프셋에 기초하여 각각 제1 파트 및 제2 파트를 압축함으로써, 풀 어드레스를 압축된 어드레스로 변환할 수 있다. 다음 풀 어드레스의 제2 파트와 세그먼트 베이스 어드레스의 차이에 기초하여 블록 오프셋을 획득한다. 획득한 블록 오프셋으로 제2 파트를 압축한다. 이를 통해 압축된 제1 파트와 압축된 제2 파트를 포함하는 압축된 주소를 출력한다.

제어 모듈(1300)은 어드레스 압축 장치(미도시)를 더 포함한다. 어드레스 압축 장치는 풀 어드레스가 입력되면, 전체 비트폭 주소가 속한 세그먼트를 확인하기 위하여 세그먼트 식별 동작을 수행한다. 풀 어드레스는 전체 비트폭 주소로서, 32 비트일 수 있으나, 이에 한정하는 것은 아니다. 세그먼트를 식별한 후, 해당 세그먼트의 세그먼트 인덱스와 세그먼트 베이스 어드레스를 획득한다. 세그먼트 식별 동작은 크게 2단계로 진행된다. 먼저, 역 지도 캐시를 통해 최근에 접근된 세그먼트의 역 지도 엔트리를 접근한다. 전체 비트폭 주소 중 제1 파트를 역 지도 캐시와 비교하여, 히트(hit)가 발생하는 경우에는 해당 역 지도 엔트리를 이용하여 세그먼트를 식별한다. 보다 구체적으로, 전체 비트폭 주소 중 제1 파트를 역 지도 캐시와 비교를 위하여, 제1 파트를 RMC 사이즈에 따라 모듈화한다. 모듈화에 따라 매칭되는 캐시 인덱스와 매핑된 세그먼트 베이스 어드레스를 확인한다. 예를 들어, 풀 어드레스 0×00022700에 대하여 세그먼트 베이스 어드레스 '0×00022600'을 확인할 수 있고, 캐시 히트가 발생하여 세그먼트 베이스 어드레스' 0×00022600'에 매칭된 세그먼트 인덱스 '5 = 0000 0101'로 제1 파트를 압축한다. 다만, 제1 파트와 역 지도 캐시에 저장된 세그먼트 베이스 어드레스의 주소와의 제1 파트와의 차이가 세그먼트 사이즈 이내인 세그먼트 베이스 어드레스가 존재하지 않아 역 지도 캐시의 미스(miss)가 발생하는 경우에는 역 지도 트리로부터 역 지도 엔트리를 얻고, 이를 이용하여 세그먼트를 식별한다. 이와 같이 리버스 맵에 대한 리니어 서치(linear search)를 수행하지 않고, 빈도가 높은 최근 저장데이터에 대하여 역 지도 캐시를 이용하여 세그먼트를 식별하고, 역 지도 캐시를 이용하여 식별되지 않는 경우, 역 지도 트리를 이용함으로써, 메모리 접근을 줄일 수 있고, 이로써, 주소 압축 동작의 지연 시 간을 크게 줄일 수 있다.

다시 말하면, 역 지도 캐시는 역 지도 엔트리에 대한 소프트웨어 캐시다. 세그먼트 식별 동작에서 풀 어드레스의 제1 파트로부터 캐시 인덱스를 추출하고, 해당 캐시 인덱스를 이용하여 역 지도 캐시 내부의 역 지도 엔트리를 접근한다. 그 후, 풀 어드레스의 제1 파트와 역 지도 엔트리 상의 세그먼트 베이스 어드레스를 비교하여, 해당 역 지도 엔트리가 풀 어드레스의 세그먼트를 가리키고 있는지를 식별한다. 역 지도 엔트리가 목적한 세그먼트를 가리키고 있으면 역 지도 캐시의 히트가 발생하고, 그렇지 않으면 미스가 발생한다. 역 지도 캐시와 미스가 발생한 경우에는, 역 지도 캐시의 캐시 인덱스 자리에 있는 역 지도 엔트리를 갱신한다. 역 지도 트리는 역 지도 엔트리에 대한 레드-블랙 트리로, 세그 먼트-베이스 인덱스를 기준으로 역 지도 엔트리들을 정렬한다. 역 지도 트리는 새로운 세그먼트가 할당될 때나 세그먼트가 할당 해제될 때 함께 갱신된다. 세그먼트의 개수를 N이라고 할 때, 리버스 맵에 대해 리니어 서치를 하는 것을 가정하면, linear search를 할 때는 N 개의 리버스 맵 메모리 접근 복잡 도가 발생한다. 반면, 주소 압축 최적화를 적용하여 역 지도 캐시에서 히트가 발생한 경우에는 (1) 개의 복잡도가, 역 지도 캐시에서 미스(miss)가 발생하여 리 버스 맵 트리까지 접근한 경우에는 NlogN 개의 복잡도가 발생한다.

본 발명에 따른 사용자단말기(100)은 키보드, 마우스, 터치패드, 터치 스크린 등의 입력수단과, 디스플레이 화면을 구비한 데스크탑 PC, 노트북 PC, 태블릿 PC, 스마트폰 등의 단말기로서, 이에 한정되는 것은 아니고, 통신망을 통해 WEB 서버(2000)에 접속할 수 있으며, 검색 정보 및 선택 정보의 입력과, 검색된 결과 정보를 디스플레이할 수 있는 애플리케이션 프로그램의 설치가 가능한 디지털 정보의 처리가 가능한 구성이면 모두 포함될 수 있다. 본 발명에 따른 사용자단말기(100)은 WEB 서버(2000)에 통신망을 통해 접속하여 정보를 송수신하는 구성요소로서, 예를 들면 스마트폰(smartphone), 태블릿 PC(tablet personalcomputer), 이동 전화기(mobile phone), 영상 전화기, 데스크탑 PC(desktoppersonal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), PDA(personal digital assistant), PMP(portable multimedia player), 웨어러블 장치(wearable device)(예: 스마트 안경, 머리 착용형 장치(head-mounted-device(HMD) 등), 무인단말기(kiosk) 또는 스마트 와치(smart watch)) 중 적어도 하나를 포함할 수 있다.

본 발명에 따른 사용자단말기(100)과 WEB 서버(2000)는 각각이 구비한 통신부 및 통신망을 통해 통신할 수 있다. 통신망은 단말들 및 서버들과 같은 각각의 노드 상호간에 정보 교환이 가능한 연결구조를 의미하는 것으로, 이러한 통신망의 일 예에는, 3GPP(3rd Generation Partnership Project) 네트워크, LTE(Long Term Evolution) 네트워크, 5G 네트워크, WIMAX(World Interoperability for Microwave Access) 네트워크, 인터넷(Internet), LAN(Local Area Network), Wireless LAN(Wireless Local Area Network), WAN(Wide Area Network), PAN(Personal Area Network), wifi 네트워크, 블루투스(Bluetooth) 네트워크, 위성 방송 네트워크, 아날로그 방송 네트워크, DMB(Digital Multimedia Broadcasting) 네트워크 등이 포함되나 이에 한정되지는 않는다. 사용자단말기(100)과 WEB 서버(2000)가 각각 구비한 통신부는, 전술한 통신망을 통한 유무선 데이터 통신을 수행할 수 있도록 상기 통신망을 위해 구비된 전자 부품을 포함할 수 있다.

본 발명에 따른 데이터베이스(4000)는 데이터베이스 관리 시스템(이하, DBMS)을 포함할 수 있다. DBMS는 다수의 사용자들이 데이터베이스(4000) 내의 데이터에 접근할 수 있도록 해주는 소프트웨어 도구의 집합이다. DBMS는 IMS, CODASYL DB, DB2, ORACLE, INFORMIX, SYBASE, INGRES, MS-SQL, Objectivity, O2, Versanat, Ontos, Gemstone, Unisql, Object Store, Starburst, Postgres, Tibero, MySQL 또는 MS-access등을 포함할 수 있다. DBMS는 특정 명령어의 입력에 따라 해당하는 특정 데이터에 접근하는 것이 가능하다.

본 명세서에서 캐시 서버(1000), WEB 서버(2000), WAS 서버(3000) 및 데이터베이스(4000)는 메모리에 저장된 연속된 수행과정들을 실행하는 프로세서들일 수 있다. 또는, 프로세서에 의해 구동되고 제어되는 소프트웨어 모듈들로서 동작할 수 있다. 나아가, 프로세서는 하드웨어 장치일 수 있다.

본 명세서에 있어서 '부(部)'란, 하드웨어에 의해 실현되는 유닛(unit), 소프트웨어에 의해 실현되는 유닛, 양방을 이용하여 실현되는 유닛을 포함한다. 또한, 1개의 유닛이 2개 이상의 하드웨어를 이용하여 실현되어도 되고, 2개 이상의 유닛이 1개의 하드웨어에 의해 실현되어도 된다.

본 발명의 보호범위가 이상에서 명시적으로 설명한 실시예의 기재와 표현에 제한되는 것은 아니다. 또한, 본 발명이 속하는 기술분야에서 자명한 변경이나 치환으로 말미암아 본 발명이 보호범위가 제한될 수도 없음을 다시 한 번 첨언한다.

100 : 사용자단말기
1000 : 캐시 서버
1100 : WAS 연산결과 캐싱 모듈
1200 : 데이터베이스 조회결과 캐싱 모듈
1300 : 제어 모듈
1310 : 페이지 제거 모듈
1320 : 캐시 정보 모듈
1400 : 캐시 메모리
2000 : WEB 서버
3000 : WAS 서버
4000 : 데이터베이스

Claims (5)

1. 사용자단말기로 웹 페이지를 제공하고, 상기 웹 페이지에 접속한 사용자단말기로부터 요청(request) 메시지 및 쿼리(query)를 수신하는 WEB 서버;
   상기 WEB 서버로부터 상기 요청 메시지 및 상기 쿼리를 수신하고, 상기 요청 메시지에 대한 응용프로그램을 실행하여 상기 요청 메시지에 대한 연산을 수행하고 연산결과를 상기 WEB 서버로 송신하는 WAS(Web Application Server) 서버;
   상기 WAS 서버로부터 상기 쿼리를 수신하며, 상기 쿼리에 대한 응답이 될 수 있는 데이터를 조회하고 조회결과를 상기 WAS 서버로 송신하는 데이터베이스; 및
   상기 요청 메시지 및 상기 요청 메시지에 대한 응용프로그램의 연산결과를 캐시(cache) 메모리에 캐싱(caching)하고, 상기 쿼리 및 상기 쿼리에 대한 상기 데이터베이스의 조회결과를 상기 캐시 메모리에 캐싱하는 캐시 서버를 포함하며,
   상기 캐시 서버는,
   사용량이 많은 웹 페이지에서 요청되는 요청 메시지 및 사용량이 많은 웹 페이지에서 요청되는 요청 메시지에 대한 연산결과만을 상기 캐시 메모리에 캐싱하는 WAS 연산결과 캐싱 모듈;
   사용자에 의해 반복적으로 사용되는 쿼리 및 사용자에 의해 반복적으로 사용되는 쿼리에 대한 조회결과만을 상기 캐시 메모리에 캐싱하는 데이터베이스 조회결과 캐싱 모듈; 및
   웹 페이지 및 쿼리의 사용량을 분석하여 사용량이 많은 웹 페이지 및 사용량이 많은 쿼리를 캐싱할 웹 페이지 및 쿼리를 선정하고, 선정된 웹 페이지에서 요청되는 요청 메시지에 대한 연산결과를 캐시 메모리에 캐싱하며, 선정된 쿼리 및 선정된 쿼리에 대한 조회결과를 캐시 메모리에 캐싱하고, 동일한 웹 페이지부터 동일한 패턴을 갖는 요청 메시지 및 동일한 패턴을 갖는 쿼리가 접수되는 경우 별도의 연산 및 조회를 수행하지 않고 캐싱된 결과를 상기 WAS 서버로 송신하는 제어 모듈을 포함하고,
   상기 제어 모듈은,
   상기 요청 메시지, 상기 연산결과, 상기 쿼리 및 상기 조회결과를 상기 캐시 메모리에 캐싱할 때 상기 캐시 메모리 상 공간이 부족한 경우, 상기 캐시 메모리의 특정 페이지를 제거하여 새로운 데이터를 위한 공간을 확보하는 페이지 제거 모듈을 포함하되,
   상기 캐시 서버는,
   Redis(Remote Dictionary Server)의 DBMS 상에서 동작하고,
   상기 페이지 제거 모듈은,
   Redis에서 사용되는 LRU(Least Recently Used) 캐시 무효화 알고리즘에 기반하여 상기 캐시 메모리의 페이지 중 특정 페이지를 제거하여 새로운 데이터를 위한 공간을 확보하며,
   상기 페이지 제거 모듈은, 상기 특정 페이지를 제거할 때, memory-policy 구문을 사용하여,
   요청이 많으며 과거 데이터를 자주 사용하지 않을 때, 가장 최근에 사용하지 않은 키를 먼저 퇴거하여 새로운 데이터를 위한 공간을 확보하는 allkeys-lru 정책을 사용하고,
   모든 키가 연속적으로 스캔되는 순환 액세스가 있거나 배포가 균일할 것으로 예상되는 경우, 임의의 키를 퇴거하여 새로운 데이터를 위한 공간을 확보하는 allkeys-random 정책을 사용하고,
   캐시 개체를 만들 때 다른 TTL(Short Time to Live) 값을 사용하여 만료 기간이 좋은 항목에 대한 힌트를 Redis 에 제공하려면, 만료 세트가 있는 키를 제거하고 TTL 키를 제거하여 새로운 데이터를 위한 공간을 확보하는 volatile-ttl 정책을 사용하여 Redis 메모리의 상주 데이터를 삭제하며,
   상기 캐시 메모리의 각 페이지에는 각 데이터가 지정된 어드레스가 저장되고,
   상기 어드레스는 압축된 상태로 저장되는 것을 특징으로 하는, 캐시 자동제어 시스템.
2. 청구항 1에 있어서,
   상기 캐시 서버는,
   제1 파트와 제2 파트를 포함하는 풀 어드레스를 입력받는 주소입력부를 더 포함하며,
   상기 캐시 메모리에는,
   상기 풀 어드레스를 압축하기 위한 역 지도 캐시가 저장되고,
   상기 제어 모듈은,
   상기 역 지도 캐시에서 상기 제1 파트에 기초하여 세그먼트 베이스 어드레스를 확인하고, 상기 세그먼트 베이스 어드레스 및 상기 제2 파트에 기초하여 상기 제1 파트 및 상기 제2 파트를 압축하여 압축된 어드레스를 출력하여, 상기 캐시 메모리의 각 페이지에 저장된 상기 어드레스는 압축된 상태로 저장되고,
   상기 역 지도 캐시는, 최근에 접근한 세그먼트에 대한 역 지도 엔트리를 저장하며, 최근에 접근한 세그먼트 인덱스와 세그먼트 베이스 어드레스의 매핑된 데이터를 저장하는 소프트웨어 캐시이며,
   상기 캐시 메모리에는, 역 지도 트리가 더 저장되고,
   상기 제어 모듈은,
   상기 제1 파트에 기초하여 상기 역 지도 캐시로부터 상응하는 캐시 인덱스를 추출하고, 추출한 캐시 인덱스를 이용하여 역 지도 캐시 내부의 역 지도 엔트리에 접근하여 접근한 역 지도 엔트리의 세그먼트 베이스 어드레스가 상기 제1 파트와 매칭되는 지 확인하고, 매칭되는 경우, 상기 세그먼트 베이스 어드레스와 매칭되는 세그먼트 인덱스를 추출하고, 매칭되지 않는 경우, 상기 역 지도 트리에 기초하여 세그먼트 인덱스를 확인하며,
   상기 역 지도 트리는, 세그먼트 베이스 인덱스를 기준으로 역 지도 엔트리를 정렬하는 레드 블랙 트리(red-black tree)이고,
   상기 역 지도 트리는, 세그먼트가 할당 또는 할당해제 시 갱신되는 것을 특징으로 하는, 캐시 자동제어 시스템.
3. 청구항 2에 있어서,
   상기 WEB 서버는, 상기 사용자단말기로부터 사용자 정보를 수신하고,
   상기 제어 모듈은, 상기 캐시 메모리의 각 페이지에 저장된 데이터의 세부항목이 저장된 캐시 정보 모듈을 더 포함하고,
   상기 페이지 제거 모듈은,
   가장 오랫동안 사용되지 않은 페이지가 복수개인 경우, 상기 사용자 정보 및 상기 세부항목을 비교하여 매칭되지 않는 데이터가 저장된 페이지를 제거하여 새로운 데이터를 위한 공간을 확보하는 것을 특징으로 하는 캐시 자동제어 시스템.
4. 청구항 3에 있어서,
   상기 사용자 정보는, 상기 사용자단말기가 상기 WEB 서버로 상기 요청 메시지 또는 상기 쿼리를 송신한 시점 정보를 포함하고,
   상기 세부항목의 정보는 상기 데이터가 상기 페이지에 기 캐싱된 시점 정보를 포함하는 것을 특징으로 하는 캐시 자동제어 시스템.
5. 청구항 3에 있어서,
   상기 페이지 제거 모듈은,
   상기 사용자 정보에 기반하여 복수개의 상기 사용자단말기를 범주화 하고,
   상기 사용자단말기들의 범주화 기준과 상기 캐시 정보 모듈에 저장된 기 캐싱된 페이지의 세부 항목을 비교하여 매칭되지 않는 기 캐싱된 페이지를 삭제하여 새로운 데이터를 위한 공간을 확보하는 것을 특징으로 하는 캐시 자동제어 시스템.

Images