KR20220060429A - 원격지의 네트워크 스위치에 대한 로그 수집 시스템 및 이의 빅데이터 구축 방법 - Google Patents

원격지의 네트워크 스위치에 대한 로그 수집 시스템 및 이의 빅데이터 구축 방법 Download PDF

Info

Publication number
KR20220060429A
KR20220060429A KR1020200146409A KR20200146409A KR20220060429A KR 20220060429 A KR20220060429 A KR 20220060429A KR 1020200146409 A KR1020200146409 A KR 1020200146409A KR 20200146409 A KR20200146409 A KR 20200146409A KR 20220060429 A KR20220060429 A KR 20220060429A
Authority
KR
South Korea
Prior art keywords
data
log data
log
collection module
network switch
Prior art date
Application number
KR1020200146409A
Other languages
English (en)
Inventor
양현봉
이상호
유영표
이태경
Original Assignee
아토리서치(주)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 아토리서치(주) filed Critical 아토리서치(주)
Priority to KR1020200146409A priority Critical patent/KR20220060429A/ko
Publication of KR20220060429A publication Critical patent/KR20220060429A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3466—Performance evaluation by tracing or monitoring
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/54—Interprogram communication
    • G06F9/546—Message passing systems or structures, e.g. queues
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/02—Standardisation; Integration
    • H04L41/024—Standardisation; Integration using relational databases for representation of network management data, e.g. managing via structured query language [SQL]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/04—Processing captured monitoring data, e.g. for logfile generation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L49/00—Packet switching elements
    • H04L49/55—Prevention, detection or correction of errors
    • H04L49/555—Error detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Debugging And Monitoring (AREA)

Abstract

원격지의 네트워크 스위치에 대한 로그 데이터 수집 및 빅테이터 구축 방법이 제공된다. 상기 방법은 원격지에 위치한 적어도 하나의 네트워크 스위치로부터 로그 데이터를 수신하는 단계; 소정의 데이터 수집 모듈의 필터 기능에 기초하여 상기 로그 데이터를 가공하는 단계; 상기 가공된 로그 데이터를 상기 데이터 수집 모듈에서 빅데이터용 데이터베이스 포맷으로 변환하는 단계; 및 상기 변환된 로그 데이터를 상기 빅데이터용 데이터베이스에 저장하는 단계를 포함한다.

Description

원격지의 네트워크 스위치에 대한 로그 수집 시스템 및 이의 빅데이터 구축 방법{SYSTEM FOR COLLECTING LOG DATA OF REMOTE NETWORK SWITCHES AND METHOD FOR CONSTRUCTING BIG-DATA THEREOF}
본 발명은 원격지의 네트워크 스위치에 대한 로그 수집 시스템 및 이의 빅데이터 구축 방법에 관한 것이다.
원격지에 설치된 네트워크 스위치들이 하드웨어 또는 소프트웨어적인 요인으로 다운이 되거나 정상 작동하지 않을 경우, 가장 명확한 원인 분석 방법은 스위치에 기록되어 있는 로그 파일을 분석하는 것이다.
그러나, 원격지에 직접 방문하여 네트워크 스위치 내에 저장되어 있는 로그 파일을 보는 방법은 시간 및 비용상으로 매우 비효율적이므로, 주로 원격으로 스위치에 접속하여 로그 파일을 열어보는 방법을 사용하게 되는데 이마저도 스위치가 다운된 상태라면 스위치 접속 자체가 불가능하다는 문제가 있다.
이에 대한 대안으로 스위치에서 syslog 통신으로 원격 서버에 전송하는 방안이 있는데, syslog 수집 및 분석에 대한 체계적인 방법론이나 사용자에게 쉽고 분석이 용이한 툴들이 나와있지 않으며, 초 단위로 전송되어 수집된 데이터의 내용을 보기에도 매우 불편하며, 전용 소프트웨어를 개발하는 것 역시 비용적인 문제가 있는바, 가장 이상적인 방안임에도 여전히 사용자들이 쉽게 사용하기 어려운 실정이다.
등록특허 제10-1623068호(2016.05.20)
본 발명이 해결하고자 하는 과제는 스위치의 로그 데이터를 원격지에서 자동으로 수집하여 분석하기 쉬운 빅데이터 타입으로 저장하여, 네트워크 스위치에서 발생하는 하드웨어 및 소프트웨어적인 오류들을 용이하게 분석할 수 있도록 하는, 원격지의 네트워크 스위치에 대한 로그 수집 시스템 및 이의 빅데이터 구축 방법을 제공하는 것이다.
다만, 본 발명이 해결하고자 하는 과제는 상기된 바와 같은 과제로 한정되지 않으며, 또다른 과제들이 존재할 수 있다.
상술한 과제를 해결하기 위한 본 발명의 제1 측면에 따른 원격지의 네트워크 스위치에 대한 로그 데이터 수집 및 빅테이터 구축 방법은 원격지에 위치한 적어도 하나의 네트워크 스위치로부터 로그 데이터를 수신하는 단계; 소정의 데이터 수집 모듈의 필터 기능에 기초하여 상기 로그 데이터를 가공하는 단계; 상기 가공된 로그 데이터를 상기 데이터 수집 모듈에서 빅데이터용 데이터베이스 포맷으로 변환하는 단계; 및 상기 변환된 로그 데이터를 상기 빅데이터용 데이터베이스에 저장하는 단계를 포함한다.
본 발명의 일부 실시예는, 상기 가공된 로그 데이터를 공유 메시지 큐의 입력 토픽 영역에 임시 저장하는 단계; 상기 임시 저장된 로그 데이터를 독출하여 연관 데이터를 부가하는 단계; 및 상기 연관 데이터가 부가된 로그 데이터를 상기 공유 메시지 큐의 출력 토픽 영역에 임시 저장하는 단계를 더 포함할 수 있다.
본 발명의 일부 실시예에서, 상기 데이터 수집 모듈은 제1 데이터 수집 모듈 및 제2 데이터 수집 모듈로 구성되며, 상기 소정의 데이터 수집 모듈의 필터 기능에 기초하여 상기 로그 데이터를 가공하는 단계는, 상기 제1 데이터 수집 모듈의 필터 기능에 기초하여 상기 로그 데이터를 가공하여 상기 공유 메시지 큐의 입력 토픽 영역에 저장하고, 상기 가공된 로그 데이터를 상기 데이터 수집 모듈에서 빅데이터용 데이터베이스 포맷으로 변환하는 단계는, 상기 공유 메시지 큐의 출력 영역에 저장된 로그 데이터를 독출하여 상기 제2 데이터 수집 모듈에서 상기 가공된 로그 데이터를 빅데이터용 데이터베이스 포맷으로 변환할 수 있다.
본 발명의 일부 실시예에서, 상기 제1 및 제2 데이터 수집 모듈은 Logstash 기반의 데이터 수집 모듈이고, 상기 공유 메시지 큐는 Kafka 기반의 공유 메시지 큐일 수 있다.
본 발명의 일부 실시예에서, 상기 소정의 데이터 수집 모듈의 필터 기능에 기초하여 상기 로그 데이터를 가공하는 단계는, 상기 로그 데이터를, 상기 로그 데이터의 발생 시간, 상기 로그 데이터가 전송된 네트워크 스위치의 주소, 상기 로그 데이터의 긴급도, 상기 로그 데이터에 상응하는 메시지 카테고리 및 상기 로그 데이터의 메시지 정보 중 적어도 하나가 필드 값으로 구분되도록 상기 로그 데이터를 가공할 수 있다.
또한, 본 발명의 제2 측면에 따른 원격지의 네트워크 스위치에 대한 로그 수집 서버는 원격지에 위치한 적어도 하나의 네트워크 스위치로부터 로그 데이터를 수신하는 통신모듈, 상기 로그 데이터를 가공 및 포맷 변환하여 빅데이터용 데이터베이스에 저장하기 위한 프로그램이 저장된 메모리 및 상기 메모리에 저장된 프로그램을 실행시키는 프로세서를 포함한다. 이때, 상기 프로세서는 상기 프로그램을 실행시킴에 따라, 소정의 데이터 수집 모듈의 필터 기능에 기초하여 상기 로그 데이터를 가공하고, 상기 가공된 로그 데이터를 상기 데이터 수집 모듈을 통해 상기 빅데이터용 데이터베이스의 포맷으로 변환한 후, 상기 빅데이터용 데이터베이스에 저장한다.
상술한 과제를 해결하기 위한 본 발명의 다른 면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합되어 상기 원격지의 네트워크 스위치에 대한 로그 데이터 수집 및 빅테이터 구축 방법을 실행하며, 컴퓨터 판독가능 기록매체에 저장된다.
본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.
전술한 본 발명에 따르면, 네트워크 스위치의 오류 발생시 현장에 직접 가서 네트워크 스위치 로그를 수집하는 대신, 원격으로 가독성이 높은 형태의 로그 메시지를 수집하여 시간 및 비용을 단출하고 빠른 로그 수집을 가능하게 할 수 있다.
또한, 큰 비용이 발생하는 전용 프로그램의 개발 없이도 무료 소프트웨어 만을 사용하여 용이하게 로그 데이터를 무료 수집할 수 있다는 장점이 있다.
이와 더불어, 가독성이 떨어지고 방대한 로그 데이터를 카테고리, 필드별로 조회할 수 있도록 데이터를 구조화시킬 수 있으며, 네트워크 스위치와 관련된 연관 데이터를 부가하여 빅데이터 형태로 구축함으로써, 보다 효율적이고 가독성이 뛰어난 방식으로 로그 데이터를 분석하여 신속하게 스위치 오류의 원인을 찾을 수 있도록 할 수 있다.
본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예에 따른 원격지의 네트워크 스위치에 대한 로그 데이터 수집 및 빅테이터 구축 방법의 순서도이다.
도 2는 본 발명의 일 실시예에 따른 원격지의 네트워크 스위치에 대한 로그 데이터 수집 및 빅테이터 구축 방법을 도식화하여 설명하기 위한 도면이다.
도 3은 본 발명의 다른 실시예에 따른 원격지의 네트워크 스위치에 대한 로그 데이터 수집 및 빅테이터 구축 방법의 순서도이다.
도 4는 본 발명의 다른 실시예에 따른 원격지의 네트워크 스위치에 대한 로그 데이터 수집 및 빅테이터 구축 방법을 도식화하여 설명하기 위한 도면이다.
도 5는 빅데이터용 데이터베이스에 저장된 로그 데이터를 활용하는 일 예시를 도시한 도면이다.
도 6은 원격지의 네트워크 스위치에 대한 로그 수집 서버를 설명하기 위한 도면이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
이하, 도면을 참조하여 본 발명의 일 실시예에 따른 원격지의 네트워크 스위치에 대한 로그 데이터 수집 및 빅테이터 구축 방법에 대하여 설명하도록 한다.
도 1은 본 발명의 일 실시예에 따른 원격지의 네트워크 스위치에 대한 로그 데이터 수집 및 빅테이터 구축 방법의 순서도이다. 도 2는 본 발명의 일 실시예에 따른 원격지의 네트워크 스위치에 대한 로그 데이터 수집 및 빅테이터 구축 방법을 도식화하여 설명하기 위한 도면이다.
참고로, 도 1 및 도 2에 도시된 각 단계들은 원격지의 네트워크 스위치에 대한 로그 수집 서버(100, 이하 서버)에 의해 수행되는 것으로 이해될 수 있으나, 반드시 이에 한정되는 것은 아니다.
서버(100)는 원격지에 위치한 적어도 하나의 네트워크 스위치와 동일 네트워크 상에 있으며, 서버(100)에는 소정의 데이터 수집 모듈이 설치된다. 이때, 네트워크 스위치의 일 예로는 이동통신 통신 기지국, 기지국 제어기, 게이트웨이 장비, 유선 네트워크 스위치, 라우터 등이 이에 해당할 수 있다.
이후, 서버(100)는 원격지에 위치한 적어도 하나의 네트워크 스위치로부터 로그 데이터를 수신하면(S110), 데이터 수집 모듈의 필터 기능에 기초하여 로그 데이터를 가공한다(S120).
이때, 데이터 수집 모듈은 Logstash 기반의 데이터 수집 모듈일 수 있으며, 데이터 수집 모듈은 Logstash의 Grok 필터 기능에 기초하여 로그 데이터를 가공한다.
일 실시예로, 데이터 수집 모듈은 로그 데이터를 수신함에 따라, Grok 필터 기능에 기초하여, 로그 데이터의 발생 시간, 로그 데이터가 전송된 네트워크 스위치의 주소, 로그 데이터의 긴급도, 로그 데이터에 상응하는 메시지 카테고리 및 로그 데이터의 메시지 정보 중 적어도 하나가 필드 값으로 구분되도록 로그 데이터를 가공할 수 있다.
다음으로, 서버(100)는 가공된 로그 데이터를 데이터 수집 모듈을 통해 빅데이터용 데이터베이스 포맷으로 변환하고(S130), 변환된 로그 데이터를 빅데이터용 데이터베이스에 저장한다(S140).
이때, 빅데이터용 데이터베이스는 Elastic Search 기반의 데이터베이스가 이용될 수 있다.
이와 같이 네트워크 스위치의 로그 데이터가 수집 및 가공되어 빅데이터로 구축됨에 따라, 본 발명의 일 실시예는 소정의 프로그램을 이용하여 편리하게 네트워크 스위치의 로그 조회가 가능하다는 장점이 있다.
도 3은 본 발명의 다른 실시예에 따른 원격지의 네트워크 스위치에 대한 로그 데이터 수집 및 빅테이터 구축 방법의 순서도이다. 도 4는 본 발명의 다른 실시예에 따른 원격지의 네트워크 스위치에 대한 로그 데이터 수집 및 빅테이터 구축 방법을 도식화하여 설명하기 위한 도면이다.
참고로, 도 3 및 도 4에 도시된 각 단계들은 서버(100)에 의해 수행되는 것으로 이해될 수 있으나, 반드시 이에 한정되는 것은 아니다.
또한, 도 3 내지 도 4에 기술된 내용은 도 1 내지 도 2에도 동일하게 적용될 수 있음은 물론이다.
먼저, 서버(100)는 원격지에 위치한 적어도 하나의 네트워크 스위치로부터 로그 데이터를 수신한다(S210). 이때, 서버(100)는 Logstash 기반의 제1 데이터 수집 모듈을 이용하여 네트워크 스위치의 로그 데이터를 수집할 수 있다.
일 실시예로, 네트워크 스위치는 syslog 전송이 활성화됨에 따라, TCP 프로토콜 또는 UDP 프로토콜을 이용하여 로그 데이터를 서버(100)로 전송할 수 있다.
예를 들어, logging 서버(100)가 192.168.0.101의 주소를 갖는 경우, 네트워크 스위치의 syslog 전송 모드의 활성화를 위해 네트워크 스위치에 대하여 “logging server address 192.168.0.101”명령어를 실행시키고, “logging server enable”명령어를 실행시킬 수 있다. 이는 네트워크 스위치의 벤더에 따라 상이할 수 있다.
서버(100)에는 제1 데이터 수집 모듈로 Logstash가 설치됨에 따라, Logstash Configuration 파일에는 다음과 같은 Input 설정이 추가된다. 여기에서 '514'는 syslog의 포트를 의미한다.
Figure pat00001
다음으로, 서버(100)는 제2 데이터 수집 모듈의 필터 기능에 기초하여 로그 데이터를 가공한다(S220). 여기에서 제2 데이터 수집 모듈은 제1 데이터 수집 모듈과 별개의 프로그램을 통해 설치되는 것으로 이해됨이 바람직하나, 반드시 이에 한정되는 것은 아니며 동일 프로그램에서 별개의 기능을 통해 구현될 수도 있음은 물론이다. 네트워크 스위치로부터 syslog 프로토콜을 통해 수신되는 로그 데이터는 사용자가 직접 보기에 가독성이 매우 떨어진다. 따라서, 본 발명의 일 실시예는 Logstash의 Grok 필터 기능에 기초하여 로그 데이터를 가공하여, 사용자가 용이하게 확인할 수 있도록 하거나, 다른 프로그램에서 용이하게 이용할 수 있도록 한다.
일 실시예로, 제1 데이터 수집 모듈은 로그 데이터를 수신함에 따라, Logstash Configuration 파일에 다음과 같은 Grok 필터 옵션을 추가하여, 로그 데이터의 발생 시간, 로그 데이터가 전송된 네트워크 스위치의 주소, 로그 데이터의 긴급도, 로그 데이터에 상응하는 메시지 카테고리 및 로그 데이터의 메시지 정보 중 적어도 하나가 필드값으로 구분되도록 로그 데이터를 가공할 수 있다.
Figure pat00002
다음으로, 서버(100)는 가공된 로그 데이터를 공유 메시지 큐의 입력 토픽 영역에 임시 저장한다(S230). 일 실시예로, 공유 메시지 큐는 kafka 기반의 공유 메시지 큐일 수 있으며, 공유 메시지 큐는 입력 토픽 영역(before-enrich)과 출력 토픽 영역(after-enrich)을 포함한다.
일 예로, kafka 기반 공유 메시지 큐를 설치 및 실행시킨 후, 다음과 같은 명령어를 사용하여 입력 토픽 영역(before-enrich)과 출력 토픽 영역(after-enrich)을 생성할 수 있다.
Figure pat00003
가독성이 좋게 가공된 로그 데이터는 스위치의 정보 등과 같은 연관 데이터를 부가하기 위하여 공유 메시지 큐의 입력 토픽 영역에 임시 저장된다. 이를 위해, 제1 데이터 수집 모듈인 Logtash의 Configuration 파일에 다음과 같이 Output을 설정할 수 있다. 아래와 같은 식으로 Output을 설정하면, JSON 타입으로 가공된 로그 데이터는 공유 데이터 큐인 kafka의 입력 토픽 영역(before-enrich)으로 저장된다.
Figure pat00004
다음으로, 서버(100)는 임시 저장된 로그 데이터를 독출하여 연관 데이터를 부가한다(S240). 네트워크 스위치의 로그 데이터에는 IP 주소 외에는 해당 스위치에 대한 정보가 없기 때문에, 공유 메모리 큐와 더불어 별도의 사용자 프로그램 등을 사용하여 네트워크 스위치의 이름, 소속 등의 연관 데이터를 부가(Enrich)하여 추후 빅데이터로 구축되는 정보의 가독성을 더욱 향상되도록 할 수 있다.
다음으로, 서버(100)는 연관 데이터가 부가된 로그 데이터를 공유 메시지 큐의 출력 토픽 영역에 임시 저장한다(S250). 즉, kafka API를 사용하여 입력 토픽 영역에서 독출한 JSON 타입의 로그 데이터를 대상으로, 추가하고 싶은 연관 데이터를 JSON 속성값으로 추가한 후 다시 출력 토픽 영역에 저장한다.
다음으로, 서버(100)는 가공된 로그 데이터를 제2 데이터 수집 모듈에서 빅데이터용 데이터베이스 포맷으로 변환하고(S260), 변환된 로그 데이터를 빅데이터용 데이터베이스에 저장한다(S270).
S260 단계는 가공 및 연관 데이터가 부가된 로그 데이터를 공유 메시지 큐의 출력 토픽 영역에서 독출하여, 빅데이터용 데이터베이스에 저장하기 위해 빅데이터용 데이터베이스에 상응하는 데이터 포맷으로 변환하는 단계이다.
이를 위해, 본 발명의 일 실시예는 제1 데이터 수집 모듈과 구별되는 제2 데이터 수집 모듈인 Logstash를 추가로 설치하여 이용할 수 있다.
즉, 서버(100)는 공유 메시지 큐의 출력 영역에 저장된 로그 데이터를 독출하여 제2 데이터 수집 모듈을 통해 가공된 로그 데이터를 빅데이터용 데이터베이스 포맷으로 변환할 수 있다.
일 실시예로, 빅데이터용 데이터베이스는 Elastic Search를 이용할 수 있으며, 위 과정을 위해 별도로 설치된 Logstash의 Configuration 파일에 다음과 같은 형태로 input과 output을 설정할 수 있다.
Figure pat00005
도 5는 빅데이터용 데이터베이스에 저장된 로그 데이터를 활용하는 일 예시를 도시한 도면이다. 네트워크 스위치에 대한 로그 데이터가 빅데이터용 데이터베이스에 빅데이터로 구축되면, kibana와 같은 무료 프로그램이나 기타 프로그램을 이용하여 편리하게 로그 데이터를 조회 및 이용할 수 있다.
도 5에 도시된 바와 같이, 실시간으로 수집되는 로그 데이터를 대상으로 발생 시각, 저장 시각, 경로, Error 여부, IP 주소 등을 용이하게 확인할 수 있다. 일 예로, 분석이 용이하도록 구축된 빅데이터 데이터베이스를 통해 사용자는 정상 동작하지 않는 스위치의 로그 데이터를 쉽게 확인할 수 있으며, 가장 최근 로그 데이터를 기반으로 정상 동작하지 않는 네트워크 스위치에 대한 고장 분석 등을 할 수 있다.
이와 같이, 본 발명의 일 실시예는 비용 및 시간이 상당히 소요되는 전용 소프트웨어의 개발 없이도, Logstash, kafka, Elastic Search와 같은 무료 프로그램만으로도 쉽게 네트워크 스위치의 로그를 수집하고, 분석이 용이한 빅데이터 타입으로 구축할 수 있다는 장점이 있다.
한편, 상술한 설명에서, 단계 S110 내지 S270은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 도 1 내지 도 5의 원격지의 네트워크 스위치에 대한 로그 수집 및 빅데이터 구축 방법의 내용은 후술하는 도 6의 내용에도 적용될 수 있다.
도 6은 원격지의 네트워크 스위치에 대한 로그 수집 서버(100)를 설명하기 위한 도면이다.
본 발명의 일 실시예에 따른 원격지의 네트워크 스위치에 대한 로그 수집 서버(100)는 통신모듈(110), 메모리(120) 및 프로세서(130)를 포함한다.
통신모듈(110)은 원격지에 위치한 적어도 하나의 네트워크 스위치로부터 로그 데이터를 수신한다.
메모리(120)에는 로그 데이터를 가공 및 포맷 변환하여 빅데이터용 데이터베이스에 저장하기 위한 프로그램이 저장되며, 프로세서(130)는 메모리(120)에 저장된 프로그램을 실행시킨다.
프로세서(130)는 소정의 데이터 수집 모듈의 필터 기능에 기초하여 로그 데이터를 가공하고, 가공된 로그 데이터를 상기 데이터 수집 모듈을 통해 빅데이터용 데이터베이스의 포맷으로 변환한 후, 빅데이터용 데이터베이스에 저장한다.
이상에서 전술한 본 발명의 일 실시예에 따른 원격지의 네트워크 스위치에 대한 로그 수집 및 빅데이터 구축 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.
상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.
상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.
100: 로그 수집 서버
110: 통신모듈
120: 메모리
130: 프로세서

Claims (6)

  1. 원격지의 네트워크 스위치에 대한 로그 데이터 수집 및 빅테이터 구축 방법에 있어서,
    원격지에 위치한 적어도 하나의 네트워크 스위치로부터 로그 데이터를 수신하는 단계;
    소정의 데이터 수집 모듈의 필터 기능에 기초하여 상기 로그 데이터를 가공하는 단계;
    상기 가공된 로그 데이터를 상기 데이터 수집 모듈에서 빅데이터용 데이터베이스 포맷으로 변환하는 단계; 및
    상기 변환된 로그 데이터를 상기 빅데이터용 데이터베이스에 저장하는 단계를 포함하는,
    원격지의 네트워크 스위치에 대한 로그 수집 및 빅테이터 구축 방법.
  2. 제1항에 있어서,
    상기 가공된 로그 데이터를 공유 메시지 큐의 입력 토픽 영역에 임시 저장하는 단계;
    상기 임시 저장된 로그 데이터를 독출하여 연관 데이터를 부가하는 단계; 및
    상기 연관 데이터가 부가된 로그 데이터를 상기 공유 메시지 큐의 출력 토픽 영역에 임시 저장하는 단계를 더 포함하는,
    원격지의 네트워크 스위치에 대한 로그 수집 및 빅테이터 구축 방법.
  3. 제2항에 있어서,
    상기 데이터 수집 모듈은 제1 데이터 수집 모듈 및 제2 데이터 수집 모듈로 구성되며,
    상기 소정의 데이터 수집 모듈의 필터 기능에 기초하여 상기 로그 데이터를 가공하는 단계는,
    상기 제1 데이터 수집 모듈의 필터 기능에 기초하여 상기 로그 데이터를 가공하여 상기 공유 메시지 큐의 입력 토픽 영역에 저장하고,
    상기 가공된 로그 데이터를 상기 데이터 수집 모듈에서 빅데이터용 데이터베이스 포맷으로 변환하는 단계는,
    상기 공유 메시지 큐의 출력 영역에 저장된 로그 데이터를 독출하여 상기 제2 데이터 수집 모듈에서 상기 가공된 로그 데이터를 빅데이터용 데이터베이스 포맷으로 변환하는 것인,
    원격지의 네트워크 스위치에 대한 로그 수집 및 빅테이터 구축 방법.
  4. 제3항에 있어서,
    상기 제1 및 제2 데이터 수집 모듈은 Logstash 기반의 데이터 수집 모듈이고, 상기 공유 메시지 큐는 Kafka 기반의 공유 메시지 큐인 것을 특징으로 하는,
    원격지의 네트워크 스위치에 대한 로그 수집 및 빅테이터 구축 방법.
  5. 제1항에 있어서,
    상기 소정의 데이터 수집 모듈의 필터 기능에 기초하여 상기 로그 데이터를 가공하는 단계는,
    상기 로그 데이터를, 상기 로그 데이터의 발생 시간, 상기 로그 데이터가 전송된 네트워크 스위치의 주소, 상기 로그 데이터의 긴급도, 상기 로그 데이터에 상응하는 메시지 카테고리 및 상기 로그 데이터의 메시지 정보 중 적어도 하나가 필드값으로 구분되도록 상기 로그 데이터를 가공하는 것인,
    원격지의 네트워크 스위치에 대한 로그 수집 및 빅테이터 구축 방법.
  6. 원격지의 네트워크 스위치에 대한 로그 수집 서버에 있어서,
    원격지에 위치한 적어도 하나의 네트워크 스위치로부터 로그 데이터를 수신하는 통신모듈,
    상기 로그 데이터를 가공 및 포맷 변환하여 빅데이터용 데이터베이스에 저장하기 위한 프로그램이 저장된 메모리 및
    상기 메모리에 저장된 프로그램을 실행시키는 프로세서를 포함하되,
    상기 프로세서는 상기 프로그램을 실행시킴에 따라, 소정의 데이터 수집 모듈의 필터 기능에 기초하여 상기 로그 데이터를 가공하고, 상기 가공된 로그 데이터를 상기 데이터 수집 모듈을 통해 상기 빅데이터용 데이터베이스의 포맷으로 변환한 후, 상기 빅데이터용 데이터베이스에 저장하는 것인,
    원격지의 네트워크 스위치에 대한 로그 수집 서버.
KR1020200146409A 2020-11-04 2020-11-04 원격지의 네트워크 스위치에 대한 로그 수집 시스템 및 이의 빅데이터 구축 방법 KR20220060429A (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200146409A KR20220060429A (ko) 2020-11-04 2020-11-04 원격지의 네트워크 스위치에 대한 로그 수집 시스템 및 이의 빅데이터 구축 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200146409A KR20220060429A (ko) 2020-11-04 2020-11-04 원격지의 네트워크 스위치에 대한 로그 수집 시스템 및 이의 빅데이터 구축 방법

Publications (1)

Publication Number Publication Date
KR20220060429A true KR20220060429A (ko) 2022-05-11

Family

ID=81607225

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200146409A KR20220060429A (ko) 2020-11-04 2020-11-04 원격지의 네트워크 스위치에 대한 로그 수집 시스템 및 이의 빅데이터 구축 방법

Country Status (1)

Country Link
KR (1) KR20220060429A (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116860898A (zh) * 2023-09-05 2023-10-10 建信金融科技有限责任公司 一种数据处理方法和装置
KR102670058B1 (ko) * 2023-11-20 2024-05-28 주식회사 넷스루 로그의 관리를 위한 사용자 인터페이스를 제공하기 위한 방법

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101623068B1 (ko) 2015-01-28 2016-05-20 한국인터넷진흥원 네트워크 트래픽 수집 및 분석 시스템

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101623068B1 (ko) 2015-01-28 2016-05-20 한국인터넷진흥원 네트워크 트래픽 수집 및 분석 시스템

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116860898A (zh) * 2023-09-05 2023-10-10 建信金融科技有限责任公司 一种数据处理方法和装置
CN116860898B (zh) * 2023-09-05 2024-04-23 建信金融科技有限责任公司 一种数据处理方法和装置
KR102670058B1 (ko) * 2023-11-20 2024-05-28 주식회사 넷스루 로그의 관리를 위한 사용자 인터페이스를 제공하기 위한 방법

Similar Documents

Publication Publication Date Title
CN111083225B (zh) 在物联网平台中的数据处理方法、装置及物联网平台
CN111866016B (zh) 日志的分析方法及系统
CN107370806B (zh) Http状态码监控方法、装置、存储介质和电子设备
CN110716910A (zh) 一种日志管理方法、装置、设备和存储介质
CN107957940B (zh) 一种测试日志处理方法、系统及终端
US20130081001A1 (en) Immediate delay tracker tool
US8799923B2 (en) Determining relationship data associated with application programs
CN108388454B (zh) 动态提供兼容js脚本内容的方法、装置和终端设备
CN112187799B (zh) 资源访问策略生成方法及装置、存储介质、电子设备
CN110750458A (zh) 大数据平台测试方法、装置、可读存储介质及电子设备
KR20220060429A (ko) 원격지의 네트워크 스위치에 대한 로그 수집 시스템 및 이의 빅데이터 구축 방법
CN111045911A (zh) 性能测试方法、性能测试装置、存储介质与电子设备
CN111694797A (zh) 一种文件上传及解析方法、装置、服务器及介质
CN105573733A (zh) 浏览器与web前端通信的方法、web前端及系统
CN111367812A (zh) 测试方法、电子设备及可读存储介质
US20100333066A1 (en) Method and system for managing software issues
CN111651232A (zh) 一机多控方法、装置、系统及电子设备
CN112313627A (zh) 事件到无服务器函数工作流实例的映射机制
CN113778897A (zh) 接口的自动测试方法、装置、设备及存储介质
CN115329170A (zh) 网页抓取方法、装置、设备以及存储介质
CN114328152A (zh) 日志记录方法、装置、设备及介质
CN113360413A (zh) 一种代码测试方法及装置
CN112416698B (zh) 监控系统的扩展方法及装置、存储介质及电子设备
KR20120071175A (ko) 웹 플랫폼이 탑재된 이동통신 단말기와 이를 이용한 로그 정보 제공 방법 및 웹 플랫폼에 대한 검증 시스템과 이를 이용한 검증 방법
CN115514677B (zh) 服务器拨测方法及系统

Legal Events

Date Code Title Description
E601 Decision to refuse application