KR102372958B1

KR102372958B1 - 멀티 클라우드 환경에서 애플리케이션 성능 모니터링 방법 및 장치

Info

Publication number: KR102372958B1
Application number: KR1020200101006A
Authority: KR
Inventors: 유명식; 당꽝녓밍; 당꽝?퓜?
Original assignee: 숭실대학교산학협력단
Priority date: 2020-08-12
Filing date: 2020-08-12
Publication date: 2022-03-10
Also published as: KR20220020553A; KR102372958B9

Abstract

본 발명은 멀티 클라우드 환경에서 애플리케이션 성능 모니터링 방법 및 장치를 개시한다. 본 발명에 따르면 멀티 클라우드 환경에서 애플리케이션 성능을 모니터링하는 방법으로서, 클라우드 스토리지의 로그 정보를 수집하는 단계; 이상 리소스 감지부가 기계학습을 통해 미리 학습된 모델을 기반으로 계산된 메트릭 값과 상기 로그 정보에 상응하는 메트릭 값을 비교하여 이상 리소스 여부를 감지하는 단계; 알람 매니저 서비스가 상기 메트릭 값의 비교 결과에 따라 알람 발생 여부를 결정하는 단계; 및 어댑션 매니저 서비스가 알람 매니저 서비스로부터 제공된 알람 또는 상기 모델에 의해 예측되는 이상 동작에 따라 스케일링 동작을 수행하는 단계를 포함하는 애플리케이션 성능 모니터링 방법이 제공된다.

Description

멀티 클라우드 환경에서 애플리케이션 성능 모니터링 방법 및 장치{Method and device for monitoring application performance in multi-cloud environment}

본 발명은 멀티 클라우드 환경에서 애플리케이션 성능 모니터링 방법 및 장치에 관한 것이다.

ELK는 모든 유형의 구조화 및 비정형 데이터에서 실시간으로 데이터를 검색하고 분석하는데 사용된다.

ELK는 Elasticsearch, Logstash 그리고 Kibana 이 세 가지로 구성되며, Elasticsearch는 분산형 RESTful 검색 및 분석 엔진이고, Logstash는 오픈소스 서버측 데이터 처리 파이프라인으로, 다양한 소스에서 동시에 데이터를 수집하고 변환하여 자주 사용하는 Stash 보관소로 전송한다.

Kibana는 데이터를 시각적으로 탐색하고 실시간으로 분석할 수 있도록 한다.

이러한 ELK에 파일 비트가 추가된 것을 ELK Stack이라 한다.

여기서 파일 비트는 서버에 에이전트로 설치되어 다양한 유형의 데이터를 Elasticsearch 또는 Logstash에 전송한다.

이와 같은 멀티 클라우드 환경에서 애플리케이션의 성능을 실시간으로 모니터링하는 것이 요구된다.

기존 AWS EC2(Amazon Elastic Compute Cloud) 시스템에서는 CPU 사용률과 같은 미리 정의된 목표 메트릭 값 "인프라 레벨" 또는 애플리케이션 처리량 같은 "애플리케이션 레벨"을 자동 스케일링 작업(단일차원, 인프라 수준 또는 애플리케이션 수준)을 고려하도록 설정해야 하며, TTS는 지정된 메트릭 값을 대상 메트릭 값에 가깝게 유지하기 위해 인스턴스를 추가하거나 제거한다.

그러나, 애플리케이션 성능 모니터링에 대한 기존 방식은 장애가 발생하는 것을 미리 예측하지 못하는 문제점이 있다.

미국등록특허 10,649,756

상기한 종래기술의 문제점을 해결하기 위해, 본 발명은 문제에 미리 대응할 수 있는 멀티 클라우드 환경에서 애플리케이션 성능 모니터링 방법 및 장치를 제안하고자 한다.

상기한 바와 같은 목적을 달성하기 위하여, 본 발명의 일 실시예에 따르면, 멀티 클라우드 환경에서 애플리케이션 성능을 모니터링하는 방법으로서, 클라우드 스토리지의 로그 정보를 수집하는 단계; 이상 리소스 감지부가 기계학습을 통해 미리 학습된 모델을 기반으로 계산된 메트릭 값과 상기 로그 정보에 상응하는 메트릭 값을 비교하여 이상 리소스 여부를 감지하는 단계; 알람 매니저 서비스가 상기 메트릭 값의 비교 결과에 따라 알람 발생 여부를 결정하는 단계; 및 어댑션 매니저 서비스가 알람 매니저 서비스로부터 제공된 알람 또는 상기 모델에 의해 예측되는 이상 동작에 따라 스케일링 동작을 수행하는 단계를 포함하는 애플리케이션 성능 모니터링 방법이 제공된다.

상기 로그 정보는 로그 시각, 로그 종류, 클라우드 스토리지 식별 정보, 작동 요청 타입, 상기 클라우드 스토리지로 요청이 전송된 시각, 상기 클라우드 스토리지로부터 응답을 수신한 시각, 요청과 관련된 파일의 크기, 상기 클라우드 스토리지의 통신 프로토콜, 에러 코드 또는 에러 메시지 중 적어도 하나를 포함할 수 있다.

상기 모델은 Robust Random Cut Forest를 기반으로 이전에 수집한 계절성의 히스토리 데이터 및 사용자에 의해 설정된 CPU 사용률 임계치를 입력으로 하여 미리 학습될 수 있다.

상기 스케일링 동작은 프로비저닝을 위한 리소스를 계산하는 동작을 포함할 수 있다.

본 발명의 다른 측면에 따르면, 멀티 클라우드 환경에서 애플리케이션 성능을 모니터링하는 장치로서, 프로세서; 및 상기 프로세서에 연결되는 메모리를 포함하되, 상기 메모리는, 미리 학습된 모델을 기반으로 계산된 메트릭 값과 상기 로그 정보에 상응하는 메트릭 값을 비교하고, 상기 비교에 따라 이상 리소스 여부를 판단하도록, 상기 프로세서에 의해 실행되는 프로그램 명령어들을 포함하되, 상기 메트릭 값의 비교 결과에 따라 알람 매니저 서비스가 알람 발생 여부를 결정하고, 어댑션 매니저 서비스가 알람 매니저 서비스로부터 제공된 알람 또는 상기 모델에 의해 예측되는 이상 동작에 따라 스케일링 동작을 수행하는, 애플리케이션 성능 모니터링 장치가 제공된다.

본 발명의 또 다른 측면에 따르면, 멀티 클라우드 환경에서 애플리케이션 성능을 모니터링하는 방법으로서, 미리 학습된 모델을 기반으로 계산된 메트릭 값과 상기 로그 정보에 상응하는 메트릭 값을 비교하는 단계; 및 상기 비교에 따라 이상 리소스 여부를 판단하는 단계를 포함하되, 상기 메트릭 값의 비교 결과에 따라 알람 매니저 서비스가 알람 발생 여부를 결정하고, 어댑션 매니저 서비스가 알람 매니저 서비스로부터 제공된 알람 또는 상기 모델에 의해 예측되는 이상 동작에 따라 스케일링 동작을 수행하는, 애플리케이션 성능 모니터링 방법이 제공된다.

본 발명의 또 다른 측면에 따르면, 상기한 방법을 수행하는 컴퓨터 판독 가능한 프로그램이 제공된다.

본 발명에 따르면, 기계학습을 통해 구축된 모델을 통해 이상 리소스 여부를 미리 예측할 수 있는 장점이 있다.

도 1은 본 발명의 일 실시예에 따른 애플리케이션 성능 모니터링 시스템의 구성을 도시한 도면이다.
도 2는 본 실시예에 따른 이상 감지 과정에 대한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 이상 리소스 감지부의 구성을 도시한 도면이다.

본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세하게 설명하고자 한다.

그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.

도 1은 본 발명의 일 실시예에 따른 애플리케이션 성능 모니터링 시스템의 구성을 도시한 도면이다.

도 1을 참조하면, 본 실시예에 따른 시스템은, 클라우드 스토리지(100), 파일 비트(Filebeat, 102), Logstash(104), Elasticsearch(106), Kibana(108), 이상 리소스 감지부(Abnormaly Resource Detection, 110), 알람 매니저 서비스(Alert Manager Service, 112) 및 어댑션 매니저 서비스(Adaption Manager Service, 114)를 포함할 수 있다.

Logstash(104)는 파일 비트를 이용하여 클라우드 스토리지(100)의 로그 정보를 수집한다.

여기서, 로그 정보는 로그 시각, 로그 종류, 클라우드 스토리지 식별 정보, 작동 요청 타입, 상기 클라우드 스토리지로 요청이 전송된 시각, 상기 클라우드 스토리지로부터 응답을 수신한 시각, 요청과 관련된 파일의 크기, 상기 클라우드 스토리지의 통신 프로토콜, 에러 코드 또는 에러 메시지 중 적어도 하나를 포함할 수 있다.

Logstash(104)는 여러 소스에서 동시에 데이터를 수집하는 서버 측 데이터 처리 파이프라인이다.

Elasticsearch(106)는 Restful API를 통해 액세스할 수 있는 NoSQL 데이터베이스가 지원하는 분산 검색 및 분석 엔진이다.

Elasticsearch(106)는 Apache Lucene 검색 엔진과 쿼리 구문을 사용하며, 본 실시예에서 Elasticsearch(106)는 자동 스케일링 알고리즘과 관련된 다양한 검색 및 분석 요건을 충족하기 위해 사용된다.

Kibana(108)는 ELK Stack에서 데이터를 시각화하는데 사용되는 소프트웨어이며, 본 실시예에서는 자동 스케일링 알고리즘의 관리 대시보드로 사용된다.

이상 리소스 감지부(110)는 기계학습을 통해 미리 학습된 모델을 기반으로 계산된 메트릭 값과 상기한 로그 정보에 상응하는 메트릭 값을 비교하여 이상 리소스 여부를 감지한다.

여기서, 이상 여부 감지를 위한 모델은, Robust Random Cut Forest 기반으로 구축될 수 있고, 이전에 수집한 계절성의 히스토리 데이터 및 사용자에 의해 설정된 CPU 사용률 임계치를 입력으로 하여 미리 학습할 수 있다.

알람 매니저 서비스(112)는 이상 리소스 감지부(108)의 메트릭 값의 비교 결과에 따라 알람 발생 여부를 결정하고, 트리거 알람을 어댑션 매니저 서비스(114)로 전송한다.

어댑션 매니저 서비스(114)는 알람 매니저 서비스(112)로부터 제공된 알람 또는 이상 리소스 감지부(108)의 모델에 의해 예측되는 이상 동작에 따라 스케일링 동작을 수행한다.

여기서, 스케일링 동작은 프로비저닝을 위한 리소스를 계산하는 동작일 수 있다.

본 실시예에 따르면, 이상 리소스 행동(CPU의 리소스 급증과 같은) 감지하고, 예정된 행동(scheduled action)를 준비하기 위해 가까운 미래에 시스템에 들어오는 이상 행동을 예측하기 위해 이력 데이터(history data) 학습을 위해 비감독(unsupervised) 런타임 이상 감지를 사용한다.

도 2는 본 실시예에 따른 이상 감지 과정에 대한 흐름도이다.

도 2를 참조하면 먼저 시스템은 클라우드 스토리지로부터 로그 정보를 수집한다(단계 200).

본 실시예에 따르면, Robust Random Cut Forest를 기반으로 이전에 수집한 계절성의 히스토리 데이터 및 사용자에 의해 설정된 CPU 사용률 임계치를 입력으로 하여 이상 리소스 감지를 위한 모델을 학습한다(단계 202).

시스템은 실시간으로 수집된 로그 정보에 상응하는 메트릭 값과, 단계 202에서 학습된 모델에서 예측된 값을 비교하고(단계 204), 이상이 발생하는 경우 알람을 트리거한다(단계 206).

단계 206에서 생성된 알람에 따라 스케일링 동작을 수행한다(단계 208).

본 실시예에 따르면, 스케일링 동작은 단계 206에서 생성된 알람뿐만 아니라, 본 실시예에 따른 모델에서 예측된 이상 동작에 의해서도 수행될 수 있다.

여기서, 스케일링 동작은 프로비저닝을 위한 리소스를 계산하는 동작을 포함한다.

도 3은 본 발명의 일 실시예에 따른 이상 리소스 감지부의 구성을 도시한 도면이다.

도 3을 참조하면, 본 실시예에 따른 이상 리소스 감지부는 프로세서(300) 및 메모리(302)를 포함할 수 있다.

프로세서(300)는 컴퓨터 프로그램을 실행할 수 있는 CPU(central processing unit)나 그밖에 가상 머신 등을 포함할 수 있다.

메모리(302)는 고정식 하드 드라이브나 착탈식 저장 장치와 같은 불휘발성 저장 장치를 포함할 수 있다. 착탈식 저장 장치는 컴팩트 플래시 유닛, USB 메모리 스틱 등을 포함할 수 있다. 메모리(202)는 각종 랜덤 액세스 메모리와 같은 휘발성 메모리도 포함할 수 있다.

이와 같은 메모리(302)에는 프로세서(300)에 의해 실행 가능한 프로그램 명령어들이 저장된다.

본 발명의 일 실시예에 따른 프로그램 명령어들은, 미리 학습된 모델을 기반으로 계산된 메트릭 값과 클라우드 스토리지로부터 수집된 로그 정보에 상응하는 메트릭 값을 비교하고, 상기 비교에 따라 이상 리소스 여부를 판단한다.

상기한 메트릭 값의 비교 결과에 따라 알람 매니저 서비스가 알람 발생 여부를 결정하고, 어댑션 매니저 서비스가 알람 매니저 서비스로부터 제공된 알람 또는 상기 모델에 의해 예측되는 이상 동작에 따라 스케일링 동작을 수행한다.

상기한 본 발명의 실시예는 예시의 목적을 위해 개시된 것이고, 본 발명에 대한 통상의 지식을 가지는 당업자라면 본 발명의 사상과 범위 안에서 다양한 수정, 변경, 부가가 가능할 것이며, 이러한 수정, 변경 및 부가는 하기의 특허청구범위에 속하는 것으로 보아야 할 것이다.

Claims

멀티 클라우드 환경에서 애플리케이션 성능을 모니터링하는 방법으로서,
클라우드 스토리지의 로그 정보를 수집하는 단계;
이상 리소스 감지부가 기계학습을 통해 미리 학습된 모델을 기반으로 계산된 메트릭 값과 상기 로그 정보에 상응하는 메트릭 값을 비교하여 이상 리소스 여부를 감지하는 단계;
알람 매니저 서비스가 상기 메트릭 값의 비교 결과에 따라 알람 발생 여부를 결정하는 단계; 및
어댑션 매니저 서비스가 알람 매니저 서비스로부터 제공된 알람 또는 상기 모델에 의해 예측되는 이상 동작에 따라 스케일링 동작을 수행하는 단계를 포함하되,
상기 모델은 Robust Random Cut Forest를 기반으로 이전에 수집한 계절성의 히스토리 데이터 및 사용자에 의해 설정된 CPU 사용률 임계치를 입력으로 하여 비감독(unsupervised) 학습되는 애플리케이션 성능 모니터링 방법.
제1항에 있어서,
상기 로그 정보는 로그 시각, 로그 종류, 클라우드 스토리지 식별 정보, 작동 요청 타입, 상기 클라우드 스토리지로 요청이 전송된 시각, 상기 클라우드 스토리지로부터 응답을 수신한 시각, 요청과 관련된 파일의 크기, 상기 클라우드 스토리지의 통신 프로토콜, 에러 코드 또는 에러 메시지 중 적어도 하나를 포함하는 애플리케이션 성능 모니터링 방법.
삭제
제1항에 있어서,
상기 스케일링 동작은 프로비저닝을 위한 리소스를 계산하는 동작을 포함하는 애플리케이션 성능 모니터링 방법.
멀티 클라우드 환경에서 애플리케이션 성능을 모니터링하는 장치로서,
프로세서; 및
상기 프로세서에 연결되는 메모리를 포함하되,
상기 메모리는,
미리 학습된 모델을 기반으로 계산된 메트릭 값과 클라우드 스토리지의 로그 정보에 상응하는 메트릭 값을 비교하고,
상기 비교에 따라 이상 리소스 여부를 판단하도록,
상기 프로세서에 의해 실행되는 프로그램 명령어들을 포함하되,
상기 메트릭 값의 비교 결과에 따라 알람 매니저 서비스가 알람 발생 여부를 결정하고, 어댑션 매니저 서비스가 알람 매니저 서비스로부터 제공된 알람 또는 상기 모델에 의해 예측되는 이상 동작에 따라 스케일링 동작을 수행하되,
상기 모델은 Robust Random Cut Forest를 기반으로 이전에 수집한 계절성의 히스토리 데이터 및 사용자에 의해 설정된 CPU 사용률 임계치를 입력으로 하여 비감독(unsupervised) 학습되는, 애플리케이션 성능 모니터링 장치.
제5항에 있어서,
상기 로그 정보는 로그 시각, 로그 종류, 클라우드 스토리지 식별 정보, 작동 요청 타입, 상기 클라우드 스토리지로 요청이 전송된 시각, 상기 클라우드 스토리지로부터 응답을 수신한 시각, 요청과 관련된 파일의 크기, 상기 클라우드 스토리지의 통신 프로토콜, 에러 코드 또는 에러 메시지 중 적어도 하나를 포함하는 애플리케이션 성능 모니터링 장치.
제5항에 있어서,
상기 모델은 Robust Random Cut Forest를 기반으로 이전에 수집한 계절성의 히스토리 데이터 및 사용자에 의해 설정된 CPU 사용률 임계치를 입력으로 하여 미리 학습되는 애플리케이션 성능 모니터링 장치.
멀티 클라우드 환경에서 애플리케이션 성능을 모니터링하는 방법으로서,
미리 학습된 모델을 기반으로 계산된 메트릭 값과 클라우드 스토리지의 로그 정보에 상응하는 메트릭 값을 비교하는 단계; 및
상기 비교에 따라 이상 리소스 여부를 판단하는 단계를 포함하되,
상기 메트릭 값의 비교 결과에 따라 알람 매니저 서비스가 알람 발생 여부를 결정하고, 어댑션 매니저 서비스가 알람 매니저 서비스로부터 제공된 알람 또는 상기 모델에 의해 예측되는 이상 동작에 따라 스케일링 동작을 수행하되,
상기 모델은 Robust Random Cut Forest를 기반으로 이전에 수집한 계절성의 히스토리 데이터 및 사용자에 의해 설정된 CPU 사용률 임계치를 입력으로 하여 비감독(unsupervised) 학습되는 애플리케이션 성능 모니터링 방법.
제8항에 따른 방법을 수행하는 프로그램이 저장된 컴퓨터 판독 가능한 기록매체.