KR20230087319A - 인공지능 기반 클라우드 학습장치 및 방법 - Google Patents

인공지능 기반 클라우드 학습장치 및 방법 Download PDF

Info

Publication number
KR20230087319A
KR20230087319A KR1020210176153A KR20210176153A KR20230087319A KR 20230087319 A KR20230087319 A KR 20230087319A KR 1020210176153 A KR1020210176153 A KR 1020210176153A KR 20210176153 A KR20210176153 A KR 20210176153A KR 20230087319 A KR20230087319 A KR 20230087319A
Authority
KR
South Korea
Prior art keywords
cloud
user
resource allocation
learning
resource
Prior art date
Application number
KR1020210176153A
Other languages
English (en)
Inventor
이경용
Original Assignee
국민대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 국민대학교산학협력단 filed Critical 국민대학교산학협력단
Priority to KR1020210176153A priority Critical patent/KR20230087319A/ko
Priority to PCT/KR2021/018743 priority patent/WO2023106467A1/ko
Publication of KR20230087319A publication Critical patent/KR20230087319A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5072—Grid computing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5077—Logical partitioning of resources; Management or configuration of virtualized resources
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1023—Server selection for load balancing based on a hash applied to IP addresses or costs

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

본 발명은 인공지능 기반 클라우드 학습장치 및 방법에 관한 것으로, 상기 장치는 사용자 학습코드를 수신하는 학습코드 수신부; 상기 사용자 학습코드를 분석하여 클라우드 리소스 사용패턴 및 사용량을 예측하는 리소스 사용 예측부; 상기 리소스 사용패턴 및 사용량을 기초로 복수의 후보 클라우드 서버들 각각에 대한 리소스 할당 플랜을 생성하는 리소스 할당 플랜 생성부; 및 비용-성능 모델을 통해 상기 리소스 할당 플랜을 순서화 하고 사용자 학습 조건을 만족시키는 사용자 리소스 할당 플랜을 결정하는 사용자 리소스 할당 플랜 결정부;를 포함한다.

Description

인공지능 기반 클라우드 학습장치 및 방법{ARTIFICIAL INTELLIGENCE-BASED CLOUD LEARNING DEVICE AND METHOD}
본 발명은 클라우드 자원 활용 기술에 관한 것으로, 보다 상세하게는 인공지능을 활용하여 사용자의 학습코드를 클라우드 상에서 실행하기 위한 최적의 리소스를 구성할 수 있는 인공지능 기반 클라우드 학습장치 및 방법에 관한 것이다.
최근 딥러닝 알고리즘은 다양한 분야에서 우수한 성능을 보이며 인공지능의 응용 사례를 넓히고 있다. 딥러닝 모델의 학습은 단시간에 많은 컴퓨팅 자원을 필요로 하기 때문에 주로 클라우드 환경 하에서 학습 작업이 이루어지고 있다.
하지만, 클라우드 컴퓨팅 서비스를 통해서 제공되는 자원의 종류가 너무 많은 탓에 사용자들은 다양한 서비스를 활용하여 최적의 딥러닝 학습 환경을 구축하는데 큰 어려움을 겪고 있다. 클라우드 인스턴스들 간의 가격 역시 큰 차이를 보이기에 성능 및 비용 측면에서 최적의 효율을 보이는 인스턴스를 선택하여 학습 작업을 진행하는 것은 매우 중요하면서도 어려운 일이다.
한편, 딥러닝(인공지능) 플랫폼은 인공지능 기술들, 예를 들어 영상처리, 음성인식, 자연어처리 등을 이용하여 필요에 의해서 사용자가 사용이 가능하게 해주는 제품이나 서비스를 개발하기 위한 도구를 의미할 수 있다. 최근 구현되고 있는 인공지능의 핵심 기술들은 다양한 분야로 응용 가능한 범용적인 특성을 갖고 있으며, 인공지능은 딥러닝 플랫폼의 핵심 기술에 해당할 수 있다.
한국공개특허 제10-2017-0078012호 (2017.07.07)
본 발명의 일 실시예는 인공지능을 활용하여 사용자의 학습코드를 클라우드 상에서 실행하기 위한 최적의 리소스를 구성할 수 있는 인공지능 기반 클라우드 학습장치 및 방법을 제공하고자 한다.
실시예들 중에서, 인공지능 기반 클라우드 학습장치는 사용자 학습코드를 수신하는 학습코드 수신부; 상기 사용자 학습코드를 분석하여 클라우드 리소스 사용패턴 및 사용량을 예측하는 리소스 사용 예측부; 상기 클라우드 리소스 사용패턴 및 사용량을 기초로 복수의 후보 클라우드 서버들 각각에 대한 리소스 할당 플랜을 생성하는 리소스 할당 플랜 생성부; 및 비용-성능 모델을 통해 상기 리소스 할당 플랜을 순서화 하고 사용자 학습 조건을 만족시키는 사용자 리소스 할당 플랜을 결정하는 사용자 리소스 할당 플랜 결정부;를 포함한다.
상기 리소스 사용 예측부는 상기 사용자 학습코드에 관한 코드 섹션별 CPU 연산 집중도, GPU 연산 집중도, 메모리 연산 집중도 및 가속기 연산 집중도를 분석하여 상기 클라우드 리소스 사용패턴 및 사용량을 예측할 수 있다.
상기 리소스 사용 예측부는 상기 사용자 학습코드의 코드 섹션별 연산 집중도에 따라 서로 다른 가중치를 부여하여 상기 클라우드 리소스 사용패턴 및 사용량을 예측할 수 있다.
상기 리소스 할당 플랜 생성부는 상기 복수의 후보 클라우드 서버들 각각의 부하를 분석하여 상기 클라우드 리소스 사용패턴 및 사용량에 따른 리소스 할당이 특정 지연시간 이내에 가능한지 여부를 결정할 수 있다.
상기 리소스 할당 플랜 생성부는 상기 리소스 할당이 상기 특정 지연시간 이내에 가능한 경우에는 적어도 하나의 해당 후보 클라우드 서버 각각에 대해 시간대별 리소스 할당 스케쥴을 상기 리소스 할당 플랜으로서 생성할 수 있다.
상기 사용자 리소스 할당 플랜 결정부는 상기 복수의 후보 클라우드 서버들 각각에 대한 리소스 할당 플랜을 비교하여 상대적인 비용-성능 모델을 생성할 수 있다.
상기 사용자 리소스 할당 플랜 결정부는 상기 사용자 학습 조건을 구성하는 사용자 비용 요구조건 및 사용자 성능 요구조건을 상기 상대적인 비용-성능 모델을 적용하여 상기 비용-성능 모델을 생성할 수 있다.
실시예들 중에서, 인공지능 기반 클라우드 학습방법은 사용자 학습코드를 수신하는 단계; 상기 사용자 학습코드를 분석하여 클라우드 리소스 사용패턴 및 사용량을 예측하는 단계; 상기 클라우드 리소스 사용패턴 및 사용량을 기초로 복수의 후보 클라우드 서버들 각각에 대한 리소스 할당 플랜을 생성하는 단계; 및 비용-성능 모델을 통해 상기 리소스 할당 플랜을 순서화 하고 사용자 학습 조건을 만족시키는 사용자 리소스 할당 플랜을 결정하는 단계;를 포함한다.
개시된 기술은 다음의 효과를 가질 수 있다. 다만, 특정 실시예가 다음의 효과를 전부 포함하여야 한다거나 다음의 효과만을 포함하여야 한다는 의미는 아니므로, 개시된 기술의 권리범위는 이에 의하여 제한되는 것으로 이해되어서는 아니 될 것이다.
본 발명의 일 실시예에 따른 인공지능 기반 클라우드 학습장치 및 방법은 인공지능을 활용하여 사용자의 학습코드를 클라우드 상에서 실행하기 위한 최적의 리소스를 구성할 수 있다.
본 발명의 일 실시예에 따른 인공지능 기반 클라우드 학습장치 및 방법은 사용자의 학습코드를 분석하여 클라우드 리소스의 사용을 예측하고 서버별 클라우드 리소스 할당 플랜을 통해 사용자 학습코드에 가장 적합한 최적 플랜을 결정하여 사용자 맞춤형 클라우드 환경을 제공할 수 있다.
도 1은 본 발명에 따른 클라우드 학습 시스템을 설명하는 도면이다.
도 2는 도 1의 클라우드 학습 장치의 시스템 구성을 설명하는 도면이다.
도 3은 도 1의 클라우드 학습 장치의 기능적 구성을 설명하는 도면이다.
도 4는 본 발명에 따른 인공지능 기반 클라우드 학습방법을 설명하는 순서도이다.
도 5는 본 발명에 따른 리소스 할당 플랜의 일 실시예를 설명하는 도면이다.
도 6은 본 발명에 따른 사용자 리소스 할당 플랜을 결정하는 과정을 설명하는 도면이다.
본 발명에 관한 설명은 구조적 내지 기능적 설명을 위한 실시예에 불과하므로, 본 발명의 권리범위는 본문에 설명된 실시예에 의하여 제한되는 것으로 해석되어서는 아니 된다. 즉, 실시예는 다양한 변경이 가능하고 여러 가지 형태를 가질 수 있으므로 본 발명의 권리범위는 기술적 사상을 실현할 수 있는 균등물들을 포함하는 것으로 이해되어야 한다. 또한, 본 발명에서 제시된 목적 또는 효과는 특정 실시예가 이를 전부 포함하여야 한다거나 그러한 효과만을 포함하여야 한다는 의미는 아니므로, 본 발명의 권리범위는 이에 의하여 제한되는 것으로 이해되어서는 아니 될 것이다.
한편, 본 출원에서 서술되는 용어의 의미는 다음과 같이 이해되어야 할 것이다.
"제1", "제2" 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하기 위한 것으로, 이들 용어들에 의해 권리범위가 한정되어서는 아니 된다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어"있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결될 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어"있다고 언급된 때에는 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 한편, 구성요소들 간의 관계를 설명하는 다른 표현들, 즉 "~사이에"와 "바로 ~사이에" 또는 "~에 이웃하는"과 "~에 직접 이웃하는" 등도 마찬가지로 해석되어야 한다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한 복수의 표현을 포함하는 것으로 이해되어야 하고, "포함하다"또는 "가지다" 등의 용어는 실시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함을 지정하려는 것이며, 하나 또는 그 이상의 다른 특징이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
각 단계들에 있어 식별부호(예를 들어, a, b, c 등)는 설명의 편의를 위하여 사용되는 것으로 식별부호는 각 단계들의 순서를 설명하는 것이 아니며, 각 단계들은 문맥상 명백하게 특정 순서를 기재하지 않는 이상 명기된 순서와 다르게 일어날 수 있다. 즉, 각 단계들은 명기된 순서와 동일하게 일어날 수도 있고 실질적으로 동시에 수행될 수도 있으며 반대의 순서대로 수행될 수도 있다.
본 발명은 컴퓨터가 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현될 수 있고, 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 장치를 포함한다. 컴퓨터가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있다. 또한, 컴퓨터가 읽을 수 있는 기록 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산 방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.
여기서 사용되는 모든 용어들은 다르게 정의되지 않는 한, 본 발명이 속하는 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한 이상적이거나 과도하게 형식적인 의미를 지니는 것으로 해석될 수 없다.
도 1은 본 발명에 따른 클라우드 학습 시스템을 설명하는 도면이다.
도 1을 참조하면, 클라우드 학습 시스템(100)은 사용자 단말(110), 클라우드 학습 장치(130), 클라우드 서버(150) 및 데이터베이스(170)를 포함할 수 있다.
사용자 단말(110)은 클라우드 서비스를 이용할 수 있는 컴퓨팅 장치에 해당할 수 있고, 스마트폰, 노트북 또는 컴퓨터로 구현될 수 있으며, 반드시 이에 한정되지 않고, 태블릿 PC 등 다양한 디바이스로도 구현될 수 있다. 사용자 단말(110)은 클라우드 학습 장치(130)와 네트워크를 통해 연결될 수 있고, 복수의 사용자 단말(110)들은 클라우드 학습 장치(130)와 동시에 연결될 수 있다. 또한, 사용자 단말(110)은 클라우드 서버(150)와 직접 연결될 수 있으며, 클라우드 서비스 이용을 위한 전용 프로그램 또는 애플리케이션을 설치하여 실행시킬 수 있다.
클라우드 학습 장치(130)는 클라우드 컴퓨팅 환경에서 사용자 학습코드를 기반으로 하는 딥러닝 관련 작업 시 최적의 환경을 구성하도록 리소스의 효율적 관리를 수행하는 시스템, 또는 이에 해당하는 서버로 구현될 수 있다. 클라우드 학습 장치(130)는 사용자 단말(110)과 네트워크를 통해 연결될 수 있고 관련 데이터를 주고받을 수 있다.
또한, 클라우드 학습 장치(130)는 적어도 하나의 외부 시스템과 연동하여 동작할 수 있다. 예를 들어, 외부 시스템은 클라우드 서비스를 위한 클라우드 서버(150), 딥러닝 학습을 위한 인공지능 서버, 서비스 결제를 위한 결제 서버 또는 사용자 인증을 위한 인증 서버 등을 포함할 수 있다.
일 실시예에서, 클라우드 학습 장치(130)는 데이터베이스(170)와 연동하여 클라우드 컴퓨팅 환경에서 딥러닝 작업을 위해 작성된 사용자 학습코드를 분석하고 클라우드 리소스 사용패턴 및 사용량을 예측하며 이를 기초로 사용자 학습 조건을 충족하는 사용자 리소스 할당 플랜을 결정함으로써 클라우드 리소스를 구성하기 위해 필요한 데이터를 저장할 수 있다. 또한, 클라우드 학습 장치(130)는 프로세서, 메모리, 사용자 입출력부 및 네트워크 입출력부를 포함하여 구현될 수 있으며, 이에 대해서는 도 2에서 보다 자세히 설명한다.
클라우드 서버(150)는 클라우드 서비스를 제공하는 서버에 해당할 수 있다. 클라우드 서버(150)는 사용자 환경에 적합한 다양한 클라우드 리소스를 제공할 수 있으며, 클라우드 리소스들의 조합을 다양한 인스턴스로 구현하여 제공할 수 있다. 이를 위해, 클라우드 서버(150)는 복수의 자원풀(resource pool)들과 연결되어 구현될 수 있다. 클라우드 서버(150)는 클라우드 학습 장치(130)와 네트워크를 통해 연결될 수 있으며, 사용자 단말(110)과도 직접 연결될 수 있다. 클라우드 서버(150)는 클라우드 학습 장치(130)에서 수행되는 딥러닝 학습을 위한 다양한 클라우드 인스턴스들을 제공할 수 있으며, 일 실시예에서 클라우드 서버(150)는 딥러닝 플랫폼을 제공하는 서버의 역할을 수행할 수 있다. 다른 실시예에서, 클라우드 서버(150)는 복수개로 구현될 수 있으며, 이 경우 각 클라우드 서버(150)는 클라우드 학습 장치(130)와 독립적으로 연결될 수 있다.
데이터베이스(170)는 클라우드 학습 장치(130)의 동작 과정에서 필요한 다양한 정보들을 저장하는 저장장치에 해당할 수 있다. 데이터베이스(170)는 딥러닝 알고리즘 및 이에 관한 사용자 학습코드에 관한 정보를 저장할 수 있고, 학습코드 유형에 관한 정보와 서버별 리소스 할당 플랜에 관한 정보를 저장할 수 있으며, 반드시 이에 한정되지 않고, 인공지능 기반 클라우드 학습 과정에서 다양한 형태로 수집 또는 가공된 정보들을 저장할 수 있다.
도 2는 도 1의 클라우드 학습 장치의 시스템 구성을 설명하는 도면이다.
도 2를 참조하면, 클라우드 학습 장치(130)는 프로세서(210), 메모리(230), 사용자 입출력부(250) 및 네트워크 입출력부(270)를 포함하여 구현될 수 있다.
프로세서(210)는 클라우드 학습 장치(130)가 동작하는 과정에서의 각 단계들을 처리하는 프로시저를 실행할 수 있고, 그 과정 전반에서 읽혀지거나 작성되는 메모리(230)를 관리할 수 있으며, 메모리(230)에 있는 휘발성 메모리와 비휘발성 메모리 간의 동기화 시간을 스케줄할 수 있다. 프로세서(210)는 클라우드 학습 장치(130)의 동작 전반을 제어할 수 있고, 메모리(230), 사용자 입출력부(250) 및 네트워크 입출력부(270)와 전기적으로 연결되어 이들 간의 데이터 흐름을 제어할 수 있다. 프로세서(210)는 클라우드 학습 장치(130)의 CPU(Central Processing Unit)로 구현될 수 있다.
메모리(230)는 SSD(Solid State Drive) 또는 HDD(Hard Disk Drive)와 같은 비휘발성 메모리로 구현되어 클라우드 학습 장치(130)에 필요한 데이터 전반을 저장하는데 사용되는 보조기억장치를 포함할 수 있고, RAM(Random Access Memory)과 같은 휘발성 메모리로 구현된 주기억장치를 포함할 수 있다.
사용자 입출력부(250)는 사용자 입력을 수신하기 위한 환경 및 사용자에게 특정 정보를 출력하기 위한 환경을 포함할 수 있다. 예를 들어, 사용자 입출력부(250)는 터치 패드, 터치 스크린, 화상 키보드 또는 포인팅 장치와 같은 어댑터를 포함하는 입력장치 및 모니터 또는 터치스크린과 같은 어댑터를 포함하는 출력장치를 포함할 수 있다. 일 실시예에서, 사용자 입출력부(250)는 원격 접속을 통해 접속되는 컴퓨팅 장치에 해당할 수 있고, 그러한 경우, 클라우드 학습 장치(130)는 서버로서 수행될 수 있다.
네트워크 입출력부(270)은 네트워크를 통해 외부 장치 또는 시스템과 연결하기 위한 환경을 포함하고, 예를 들어, LAN(Local Area Network), MAN(Metropolitan Area Network), WAN(Wide Area Network) 및 VAN(Value Added Network) 등의 통신을 위한 어댑터를 포함할 수 있다.
도 3은 도 1의 클라우드 학습 장치의 기능적 구성을 설명하는 도면이다.
도 3을 참조하면, 클라우드 학습 장치(130)는 학습코드 수신부(310), 리소스 사용 예측부(330), 리소스 할당 플랜 생성부(350), 사용자 리소스 할당 플랜 결정부(370) 및 제어부(390)를 포함할 수 있다.
학습코드 수신부(310)는 사용자 학습코드를 수신할 수 있다. 여기에서, 사용자 학습코드는 소정의 딥러닝 알고리즘을 구현한 딥러닝 학습코드로서 사용자에 의해 직접 생성되거나 입력된 학습코드에 해당할 수 있다. 즉, 사용자 학습코드의 실행을 통해 딥러닝 알고리즘이 구현된 결과 소정의 테스트 데이터셋에 관한 학습 동작이 수행될 수 있으며, 학습 과정에 대한 모니터링을 통해 딥러닝 학습에 관한 다양한 성능 메트릭(metric)이 측정될 수 있다. 또한, 사용자 학습코드는 소정의 프로그래밍 언어에 따라 작성될 수 있으며, 딥러닝 알고리즘의 특성이나 딥러닝 학습 방식에 따라 복수의 코드 섹션들을 포함할 수 있다. 예를 들어, 코드 섹션은 사용자 학습코드의 연산 구간, 함수 구간 및 반복 구간 등에 해당할 수 있다.
또한, 학습코드 수신부(310)는 사용자 단말(110)과 연동하여 사용자 학습코드의 수신을 위한 전용 인터페이스를 제공할 수 있으며, 사용자 단말(110)로부터 수신된 사용자 학습코드를 데이터베이스(170)에 저장하여 보관할 수 있다.
또한, 학습코드 수신부(310)는 사용자 학습코드를 수신하여 소정의 전처리 동작을 수행할 수 있다. 예를 들어, 학습코드 수신부(310)는 사용자 학습코드를 소정의 크기 이내로 제한하거나, 다수의 부분 학습코드들로 분할하는 등의 전처리 동작들을 선택적으로 수행할 수 있다. 또한, 학습코드 수신부(310)는 메타데이터 추출모듈을 포함할 수 있고, 메타데이터 추출모듈을 통해 사용자 학습코드로부터 메타데이터를 추출할 수 있다. 예를 들어, 추출된 메타데이터는 학습코드의 컴파일 시간, 빌드 시간, 프로그래밍 언어 및 바이너리 정보 등을 포함할 수 있다.
리소스 사용 예측부(330)는 사용자 학습코드를 분석하여 클라우드 리소스 사용패턴 및 사용량을 예측할 수 있다. 리소스 사용 예측부(330)는 기본적으로 사용자 학습코드의 전체를 기준으로 클라우드 리소스 사용패턴 및 사용량을 분석할 수 있으며, 필요한 경우 사용자 학습코드를 소정의 코드 섹션들로 분할한 다음 코드 섹션 단위로 분석할 수도 있다. 예를 들어, 리소스 사용 예측부(330)는 코드 섹션들 마다 사용패턴 및 사용량을 예측할 수 있으며, 코드 섹션들의 실행 순서에 따라 사용패턴 및 사용량의 변화 정보를 도출하여 사용자 학습코드의 전체에 대한 클라우드 리소스 사용패턴 및 사용량을 예측할 수 있다.
일 실시예에서, 리소스 사용 예측부(330)는 사용자 학습코드에 관한 코드 섹션별 CPU 연산 집중도, GPU 연산 집중도, 메모리 연산 집중도 및 가속기 연산 집중도를 분석하여 클라우드 리소스 사용패턴 및 사용량을 예측할 수 있다. 리소스 사용 예측부(330)는 코드 섹션별 성능 메트릭을 이용하여 클라우드 리소스 사용패턴 및 사용량을 예측할 수 있으며, 특히 주요 클라우드 리소스를 선별적으로 활용할 수 있다. 이때, 주요 클라우드 리소스에는 CPU, GPU, 메모리, 가속기 및 네트워크 등이 포함될 수 있으며, 리소스 사용 예측부(330)는 주요 클라우드 리소스 중 적어도 일부를 선택하여 사용패턴 및 사용량에 대한 예측 과정에 활용할 수 있다.
보다 구체적으로, 리소스 사용 예측부(330)는 코드 섹션별 성능 메트릭 중 CPU 연산 집중도, GPU 연산 집중도, 메모리 연산 집중도 및 가속기 연산 집중도를 산출할 수 있고, 각 연산 집중도에 기반하여 클라우드 리소스 사용패턴 및 사용량을 예측할 수 있다. 여기에서, CPU, GPU, 메모리 및 가속기 연산 집중도는 해당 코드 섹션에 대한 연산 과정에서 각각의 리소스에 대한 평균 사용률을 기초로 산출될 수 있으나, 반드시 이에 한정되지 않으며, 필요에 따라 다양한 메트릭들을 가변적으로 적용하여 산출될 수도 있다.
일 실시예에서, 리소스 사용 예측부(330)는 사용자 학습코드의 코드 섹션별 연산 집중도에 따라 서로 다른 가중치를 부여하여 클라우드 리소스 사용패턴 및 사용량을 예측할 수 있다. 리소스 사용 예측부(330)는 사용자 학습코드의 코드 섹션 별로 연산 집중도를 분석할 수 있으며, 분석 결과 코드 섹션 별로 연산 집중도가 높은 리소스 유형을 결정할 수 있다. 리소스 사용 예측부(330)는 코드 섹션 별로 가장 높은 연산 집중도를 갖는 리소스 유형에 따라 서로 다른 가중치를 부여할 수 있고, 가중치가 부여된 각 연산 집중도에 기반하여 클라우드 리소스 사용패턴 및 사용량을 예측할 수 있다.
이때, 리소스 유형에 따라 부여되는 가중치는 해당 리소스 유형의 사용률, 예약률 및 희소성 등에 따라 결정될 수 있다. 예를 들어, 컴퓨팅 리소스(computing resource)의 경우 메모리 또는 네트워크 리소스보다 상대적으로 희소성이 높을 수 있고, 이에 따라 컴퓨팅 리소스에는 다른 리소스 유형보다 더 높은 가중치가 부여될 수 있다.
일 실시예에서, 리소스 사용 예측부(330)는 사용자 학습코드에 있는 매트릭스 연산 코드 섹션에 가장 높은 가중치를 부여하여 클라우드 리소스 사용패턴 및 사용량을 예측할 수 있다. 여기에서, 매트릭스 연산 코드 섹션은 사용자 학습코드의 분할에 의해 생성된 코드 섹션들 중에서 적어도 하나의 매트릭스 연산을 포함하는 코드 섹션에 해당할 수 있다. 예를 들어, 매트릭스 연산에는 행렬에 관한 곱셈(Maxtrix Multiplication) 연산이 포함될 수 있다.
즉, 리소스 사용 예측부(330)는 분할된 코드 섹션들 중에서 매트릭스 연산 코드 섹션을 선별할 수 있고, 해당 매트릭스 연산 코드 섹션들에 대해 다른 코드 섹션들보다 더 높은 가중치를 부여하여 사용자 학습코드 전체에 대한 클라우드 리소스 사용패턴 및 사용량을 결정할 수 있다. 이때, 매트릭스 연산 코드 섹션들에 적용되는 가중치는 전체 코드 섹션들 중 해당 매트릭스 연산 코드 섹션들의 비율에 따라 결정될 수 있다.
리소스 할당 플랜 생성부(350)는 클라우드 리소스 사용패턴 및 사용량을 기초로 복수의 후보 클라우드 서버들 각각에 대한 리소스 할당 플랜을 생성할 수 있다. 여기에서, 복수의 후보 클라우드 서버들은 현재 가용 리소스를 가진 클라우드 서버(150)들에 해당할 수 있으며, 리소스 할당 플랜 생성부(350)에 의해 사전에 검출되어 소정의 서버 풀(server pool)로서 관리될 수 있다. 리소스 할당 플랜 생성부(350)는 각 후보 클라우드 서버로부터 서버 상태 정보를 수집할 수 있고, 각 서버 상태를 기준으로 후보 클라우드 서버별 리소스 할당 플랜을 생성할 수 있다. 이때, 리소스 할당 플랜은 사용자 학습코드의 실행을 위한 클라우드 환경을 제공하는 리소스 구성 시나리오에 해당할 수 있다. 리소스 할당 플랜은 클라우드 리소스별 할당 용량 및 시간에 관한 정보를 포함하여 생성될 수 있으며, 필요한 경우 리소스 예약(reservation)과 마이그레이션(migration)에 관한 정보를 더 포함할 수 있다.
일 실시예에서, 리소스 할당 플랜 생성부(350)는 복수의 후보 클라우드 서버들 각각의 부하(load)를 분석하여 클라우드 리소스 사용패턴 및 사용량에 따른 리소스 할당이 특정 지연시간 이내에 가능한지 여부를 결정할 수 있다. 리소스 할당 플랜 생성부(350)는 각 서버로부터 수집하는 서버 상태 정보 중 작업 처리에 따른 부하량(loading amount) 또는 부하율(loading rate) 등을 기준으로 특정 시점에서 리소스 할당에 관한 지연시간을 서버 별로 산출할 수 있다. 리소스 할당 플랜 생성부(350)는 산출된 서버별 지연시간을 기 설정된 특정 지연시간과 비교하여 후보 클라우드 서버의 성능을 예측할 수 있다.
일 실시예에서, 리소스 할당 플랜 생성부(350)는 리소스 할당이 특정 지연시간 이내에 가능한 경우에는 적어도 하나의 해당 후보 클라우드 서버 각각에 대해 시간대별 리소스 할당 스케쥴을 리소스 할당 플랜으로서 생성할 수 있다. 리소스 할당 플랜 생성부(350)는 리소스 할당에 관한 지연시간을 기초로 후보 클라우드 서버를 결정할 수 있으며, 결정된 후보 클라우드 서버에 대해 시간대별 리소스 할당 스케쥴을 생성하여 리소스 할당 플랜을 결정할 수 있다. 즉, 리소스 할당 스케쥴은 사용자의 학습코드의 분석에 따라 예측되는 클라우드 리소스 사용패턴 및 사용량을 소정의 시간 구간으로 분할하여 각 시간 구간에 대한 리소스 할당을 정의할 수 있다.
사용자 리소스 할당 플랜 결정부(370)는 비용-성능 모델을 통해 리소스 할당 플랜을 순서화 하고 사용자 학습 조건을 만족시키는 사용자 리소스 할당 플랜을 결정할 수 있다. 이를 위해, 사용자 리소스 할당 플랜 결정부(370)는 비용-성능 모델을 사전에 구축할 수 있으며, 비용-성능 모델은 사용자 리소스 할당 플랜 결정부(370)의 동작에 따른 결과를 기초로 계속적으로 갱신될 수 있다. 여기에서, 비용-성능 모델은 클라우드 리소스에 관한 성능과 비용 간의 상관관계를 정의하는 모델에 해당할 수 있다.
즉, 사용자 리소스 할당 플랜 결정부(370)는 각 후보 클라우드 서버 별로 리소스 할당 플랜이 결정된 경우 비용-성능 모델을 이용하여 리소스 할당 플랜을 정렬할 수 있고, 정렬 순서에 따라 사용자 학습 조건을 충족하는 리소스 할당 플랜들 중 최우선 순위를 결정하여 사용자 리소스 할당 플랜으로 최종 결정할 수 있다. 즉, 사용자 리소스 할당 플랜은 해당 시점을 기준으로 사용자 학습코드의 실행을 위한 최적화된 리소스 할당 플랜에 해당할 수 있다. 이때, 사용자 학습 조건은 사용자에 의해 설정된 학습 조건에 해당할 수 있으며, 비용 및 성능에 관한 조건을 포함할 수 있다.
일 실시예에서, 사용자 리소스 할당 플랜 결정부(370)는 복수의 후보 클라우드 서버들 각각에 대한 리소스 할당 플랜을 비교하여 상대적인 비용-성능 모델을 생성할 수 있다. 일 실시예에서, 사용자 리소스 할당 플랜 결정부(370)는 사용자 학습 조건을 구성하는 사용자 비용 요구조건 및 사용자 성능 요구조건을 상대적인 비용-성능 모델을 적용하여 비용-성능 모델을 생성할 수 있다. 여기에서, 상대적인 비용-성능 모델은 후보 클라우드 서버들의 리소스 할당 플랜 간의 비교에 의해 도출되는 클라우드 리소스에 관한 비용과 성능 사이의 상대적 상관관계를 나타낼 수 있다.
즉, 사용자 리소스 할당 플랜 결정부(370)는 상대적인 비용-성능 모델을 사용자 학습 조건에 따라 갱신하여 비용-성능 모델을 생성할 수 있다. 결과적으로, 비용-성능 모델은 사용자 학습 조건에 가장 근접한 비용 및 성능 간의 조합들로 구성될 수 있다. 따라서, 사용자 리소스 할당 플랜 결정부(370)는 비용-성능 모델에 따라 리소스 할당 플랜들을 순서화 하고 순서화된 결과를 기초로 최우선순위에 해당하는 리소스 할당 플랜을 사용자 리소스 할당 플랜으로서 결정할 수 있다.
예를 들어, 사용자 리소스 할당 플랜 결정부(370)는 각 리소스 할당 플랜에 대해 비용-성능 모델을 적용한 결과로서, 상호 대응되는 비용 및 성능 간의 조합들 사이의 거리를 산출할 수 있으며, 각 리소스 할당 플랜에 대해 산출된 거리를 기준으로 순서화된 결과를 생성할 수 있다. 결과적으로, 사용자 리소스 할당 플랜은 사용자 학습 조건에 가장 근접한 조건을 제공하는 리소스 할당 플랜에 해당할 수 있다.
이후, 클라우드 학습 장치(130)는 사용자 리소스 할당 플랜에 대응되는 클라우드 서버(150)에게 사용자 학습코드를 제공할 수 있고, 해당 클라우드 서버(150)에 의해 제공되는 클라우드 환경 하에서 사용자 학습코드에 관한 실행 동작이 처리될 수 있다.
제어부(390)는 클라우드 학습 장치(130)의 전체적인 동작을 제어하고, 학습코드 수신부(310), 리소스 사용 예측부(330), 리소스 할당 플랜 생성부(350) 및 사용자 리소스 할당 플랜 결정부(370) 간의 제어 흐름 또는 데이터 흐름을 관리할 수 있다.
도 4는 본 발명에 따른 인공지능 기반 리소스 활용패턴예측을 통한 클라우드 학습방법을 설명하는 순서도이다.
도 4를 참조하면, 클라우드 학습 장치(130)는 학습코드 수신부(310)를 통해 사용자 학습코드를 수신할 수 있다(단계 S410). 클라우드 학습 장치(130)는 리소스 사용 예측부(330)를 통해 사용자 학습코드를 분석하여 클라우드 리소스 사용패턴 및 사용량을 예측할 수 있다(단계 S430).
또한, 클라우드 학습 장치(130)는 리소스 할당 플랜 생성부(350)를 통해 클라우드 리소스 사용패턴 및 사용량을 기초로 복수의 후보 클라우드 서버들 각각에 대한 리소스 할당 플랜을 생성할 수 있다(단계 S450).
또한, 클라우드 학습 장치(130)는 사용자 리소스 할당 플랜 결정부(370)를 통해 비용-성능 모델을 통해 리소스 할당 플랜을 순서화 하고 사용자 학습 조건을 만족시키는 사용자 리소스 할당 플랜을 결정할 수 있다(단계 S470).
도 5는 본 발명에 따른 리소스 할당 플랜의 일 실시예를 설명하는 도면이다.
도 5를 참조하면, 클라우드 학습 장치(130)는 리소스 할당 플랜 생성부(350)를 통해 클라우드 리소스 사용패턴 및 사용량을 기초로 복수의 후보 클라우드 서버들 각각에 대한 리소스 할당 플랜을 생성할 수 있다. 특히, 리소스 할당 플랜은 사용자 학습코드의 실행을 위한 클라우드 환경을 제공하는 리소스 구성 시나리오에 해당할 수 있으며, 일 실시예에서 시간대별 리소스 할당 스케쥴로서 생성될 수 있다.
도 5의 경우, 특정 클라우드 서버(150)에 대한 시간대별 리소스 할당 스케쥴을 정의하는 리소스 할당 플랜의 일 실시예에 해당할 수 있다. 클라우드 학습 장치(130)는 사용자 학습코드를 분석하여 클라우드 리소스 사용패턴 및 사용량을 예측할 수 있고, 예측된 결과를 바탕으로 서버 상태에 맞춰 시간대별 리소스 할당을 결정할 수 있다. 즉, 리소스 할당 플랜은 특정 시간 구간에 대해 주요 클라우드 리소스(즉, R1, R2, R3, ...)의 할당을 정의할 수 있으며, 이때 리소스의 할당은 리소스에 대한 상세 스펙(예를 들어, 리소스의 종류, 크기, 비용 및 시간 중 적어도 하나를 포함함)을 설정하는 동작으로 구현될 수 있다.
도 6은 본 발명에 따른 사용자 리소스 할당 플랜을 결정하는 과정을 설명하는 도면이다.
도 6을 참조하면, 클라우드 학습 장치(130)는 사용자 학습코드를 분석하여 클라우드 리소스 사용패턴 및 사용량에 관한 예측 데이터(630)를 생성할 수 있다. 이때, 예측 데이터(630)는 클라우드 리소스별 사용패턴 및 사용량에 관한 그래프 형태로 표현될 수 있으나, 반드시 이에 한정되지 않음은 물론이다.
또한, 클라우드 학습 장치(130)는 클라우드 리소스 사용패턴 및 사용량에 관한 예측을 위하여 다양한 예측 방법을 적용할 수 있다. 예를 들어, 클라우드 학습 장치(130)는 규칙 기반 예측(rule-based forcast), 시계열 예측(time series forcast), 정규화 예측(normalization forcast) 등을 적용하여 클라우드 리소스 사용패턴 및 사용량에 관한 예측 데이터를 생성할 수 있다.
규칙 기반 예측(rule-based forcast)은 기 정의된 예측 규칙 집합(forcast rule set)을 기초로 클라우드 리소스 사용패턴 및 사용량에 관한 예측 데이터를 생성하는 방법에 해당할 수 있다. 이때, 예측 규칙 집합은 사용자 학습코드의 실행패턴 및 딥러닝 알고리즘의 학습량에 관한 예측 규칙을 포함할 수 있다. 즉, 사용자 학습코드의 처리량에 관한 예측 규칙에 따라 리소스 사용패턴(예를 들어, 처리 시간, 처리 속도, 프로세서 개수 등)에 관한 예측값을 생성할 수 있으며, 딥러닝 알고리즘의 학습량에 관한 예측 규칙에 따라 리소스 사용량(예를 들어, 리소스 유형, 리소스 개수 및 성능 등)에 관한 예측값을 생성할 수 있다.
시계열 예측(time series forcast)은 사용자 학습코드의 처리량 및 딥러닝 알고리즘의 학습량에 관한 작업부하(workload)를 시계열적으로 예측하여 해당 작업부하를 충족하는 리소스 사용패턴 및 사용량을 예측하는 방법에 해당할 수 있으며, 규칙 기반 예측에 포함될 수 있다.
정규화 예측(normalization forcast)은 각 클라우드 서버(150) 상에서 수집된 클라우드 리소스 사용패턴 및 사용량에 관한 관측 데이터들을 수집하고 소정의 시간 구간을 기준으로 정규화 하여 클라우드 리소스 사용패턴 및 사용량에 관한 정규화 데이터를 생성한 다음, 사용자 학습코드의 분석값과 유사한 정규화 데이터를 결정함으로써 예측 데이터를 생성하는 방법에 해당할 수 있다.
또한, 클라우드 학습 장치(130)는 복수의 후보 클라우드 서버들 각각에 대한 리소스 할당 플랜을 생성할 수 있다. 일 실시예에서, 리소스 할당 플랜은 시간대별 리소스 할당 스케쥴로 구현될 수 있다. 클라우드 학습 장치(130)는 기 구축된 비용-성능 모델(670)을 통해 리소스 할당 플랜들(650) 중에서 사용자 학습 조건을 만족시키는 사용자 리소스 할당 플랜을 결정할 수 있다.
결과적으로, 클라우드 학습 장치(130)는 사용자가 요구하는 조건에 따라 비용-성능 모델을 개인화하여 가용 가능한 클라우드 서버(150)들의 리소스 할당 플랜을 순서화 함으로써 사용자가 원하는 클라우드 환경을 효과적으로 구축하여 제공할 수 있다.
상기에서는 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.
100: 클라우드 학습 시스템
110: 사용자 단말 130: 클라우드 학습 장치
150: 클라우드 서버 170: 데이터베이스
210: 프로세서 230: 메모리
250: 사용자 입출력부 270: 네트워크 입출력부
310: 학습코드 수신부 330: 리소스 사용 예측부
350: 리소스 할당 플랜 생성부 370: 사용자 리소스 할당 플랜 결정부
390: 제어부

Claims (8)

  1. 사용자 학습코드를 수신하는 학습코드 수신부;
    상기 사용자 학습코드를 분석하여 클라우드 리소스 사용패턴 및 사용량을 예측하는 리소스 사용 예측부;
    상기 클라우드 리소스 사용패턴 및 사용량을 기초로 복수의 후보 클라우드 서버들 각각에 대한 리소스 할당 플랜을 생성하는 리소스 할당 플랜 생성부; 및
    비용-성능 모델을 통해 상기 리소스 할당 플랜을 순서화 하고 사용자 학습 조건을 만족시키는 사용자 리소스 할당 플랜을 결정하는 사용자 리소스 할당 플랜 결정부;를 포함하는 인공지능 기반 클라우드 학습장치.
  2. 제1항에 있어서, 상기 리소스 사용 예측부는
    상기 사용자 학습코드에 관한 코드 섹션별 CPU 연산 집중도, GPU 연산 집중도, 메모리 연산 집중도 및 가속기 연산 집중도를 분석하여 상기 클라우드 리소스 사용패턴 및 사용량을 예측하는 것을 특징으로 하는 인공지능 기반 클라우드 학습장치.
  3. 제2항에 있어서, 상기 리소스 사용 예측부는
    상기 사용자 학습코드의 코드 섹션별 연산 집중도에 따라 서로 다른 가중치를 부여하여 상기 클라우드 리소스 사용패턴 및 사용량을 예측하는 것을 특징으로 하는 인공지능 기반 클라우드 학습장치.
  4. 제1항에 있어서, 상기 리소스 할당 플랜 생성부는
    상기 복수의 후보 클라우드 서버들 각각의 부하를 분석하여 상기 클라우드 리소스 사용패턴 및 사용량에 따른 리소스 할당이 특정 지연시간 이내에 가능한지 여부를 결정하는 것을 특징으로 하는 인공지능 기반 클라우드 학습장치.
  5. 제4항에 있어서, 상기 리소스 할당 플랜 생성부는
    상기 리소스 할당이 상기 특정 지연시간 이내에 가능한 경우에는 적어도 하나의 해당 후보 클라우드 서버 각각에 대해 시간대별 리소스 할당 스케쥴을 상기 리소스 할당 플랜으로서 생성하는 것을 특징으로 하는 인공지능 기반 클라우드 학습장치.
  6. 제1항에 있어서, 상기 사용자 리소스 할당 플랜 결정부는
    상기 복수의 후보 클라우드 서버들 각각에 대한 리소스 할당 플랜을 비교하여 상대적인 비용-성능 모델을 생성하는 것을 특징으로 하는 인공지능 기반 클라우드 학습장치.
  7. 제6항에 있어서, 상기 사용자 리소스 할당 플랜 결정부는
    상기 사용자 학습 조건을 구성하는 사용자 비용 요구조건 및 사용자 성능 요구조건을 상기 상대적인 비용-성능 모델을 적용하여 상기 비용-성능 모델을 생성하는 것을 특징으로 하는 인공지능 기반 클라우드 학습장치.
  8. 사용자 학습코드를 수신하는 단계;
    상기 사용자 학습코드를 분석하여 클라우드 리소스 사용패턴 및 사용량을 예측하는 단계;
    상기 클라우드 리소스 사용패턴 및 사용량을 기초로 복수의 후보 클라우드 서버들 각각에 대한 리소스 할당 플랜을 생성하는 단계; 및
    비용-성능 모델을 통해 상기 리소스 할당 플랜을 순서화 하고 사용자 학습 조건을 만족시키는 사용자 리소스 할당 플랜을 결정하는 단계;를 포함하는 인공지능 기반 클라우드 학습방법.
KR1020210176153A 2021-12-09 2021-12-09 인공지능 기반 클라우드 학습장치 및 방법 KR20230087319A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020210176153A KR20230087319A (ko) 2021-12-09 2021-12-09 인공지능 기반 클라우드 학습장치 및 방법
PCT/KR2021/018743 WO2023106467A1 (ko) 2021-12-09 2021-12-10 인공지능 기반 클라우드 학습장치 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210176153A KR20230087319A (ko) 2021-12-09 2021-12-09 인공지능 기반 클라우드 학습장치 및 방법

Publications (1)

Publication Number Publication Date
KR20230087319A true KR20230087319A (ko) 2023-06-16

Family

ID=86730727

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210176153A KR20230087319A (ko) 2021-12-09 2021-12-09 인공지능 기반 클라우드 학습장치 및 방법

Country Status (2)

Country Link
KR (1) KR20230087319A (ko)
WO (1) WO2023106467A1 (ko)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170078012A (ko) 2015-12-29 2017-07-07 전자부품연구원 클라우드 자원 모니터링 및 예측을 통한 자원 할당 최적화 방법 및 시스템

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012034273A1 (en) * 2010-09-15 2012-03-22 Empire Technology Development Llc Task assignment in cloud computing environment
US11077362B2 (en) * 2018-12-03 2021-08-03 Sony Interactive Entertainment LLC Machine learning driven resource allocation
KR20200122589A (ko) * 2019-04-18 2020-10-28 한국전자통신연구원 클라우드 리소스 할당 장치 및 방법
US11182716B2 (en) * 2020-01-30 2021-11-23 Coupang Corp. Cost efficiency tracking for configuration management database
JP7075440B2 (ja) * 2020-05-13 2022-05-25 株式会社日立製作所 ジョブ配置支援システム及び方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170078012A (ko) 2015-12-29 2017-07-07 전자부품연구원 클라우드 자원 모니터링 및 예측을 통한 자원 할당 최적화 방법 및 시스템

Also Published As

Publication number Publication date
WO2023106467A1 (ko) 2023-06-15

Similar Documents

Publication Publication Date Title
Zhang et al. Sinan: ML-based and QoS-aware resource management for cloud microservices
Singh et al. TASM: technocrat ARIMA and SVR model for workload prediction of web applications in cloud
CN108089921B (zh) 用于云端大数据运算架构的服务器及其运算资源最佳化方法
CN111258767B (zh) 复杂系统仿真应用的云计算资源智能分配方法与装置
US8775338B2 (en) Computer-implemented systems and methods for constructing a reduced input space utilizing the rejected variable space
US12001511B2 (en) Systems and methods of resource configuration optimization for machine learning workloads
CN112508723B (zh) 基于自动择优建模的金融风险预测方法、装置和电子设备
KR20200114233A (ko) 사용자 이용 패턴을 신경망 알고리즘으로 분석하여 다음 어플리케이션을 예측하는 모바일 디바이스 메모리 관리 장치 및 방법
Xue et al. Managing data center tickets: Prediction and active sizing
CN116057518A (zh) 使用机器学习模型的自动查询谓词选择性预测
Mohammadi Bahram Abadi et al. Self-adaptive architecture for virtual machines consolidation based on probabilistic model evaluation of data centers in Cloud computing
KR20230087316A (ko) 인공지능 기반 클라우드 서비스 서버 결정 장치 및 방법
CN113158435B (zh) 基于集成学习的复杂系统仿真运行时间预测方法与设备
US11614963B2 (en) Machine learning based runtime optimization
Moskalenko et al. Optimizing the parameters of functioning of the system of management of data center it infrastructure
CN117573347A (zh) 云计算平台的资源配置方法及系统
KR102613365B1 (ko) 인공지능 기반 클라우드 서비스 서버 결정 장치 및 방법
Piao et al. Computing resource prediction for mapreduce applications using decision tree
KR102504939B1 (ko) 클라우드 기반 딥러닝 작업의 수행시간 예측 시스템 및 방법
Yassir et al. Graph-based model and algorithm for minimising big data movement in a cloud environment
KR20230087319A (ko) 인공지능 기반 클라우드 학습장치 및 방법
US20180210762A1 (en) Apparatus, method, and program medium for parallel-processing parameter determination
US20220138786A1 (en) Artificial intelligence (ai) product including improved automated demand learning module
Seno et al. CLR: Cloud Linear Regression Environment as a More Effective Resource-Task Scheduling Environment (State-of-the-Art).
US11288046B2 (en) Methods and systems for program optimization utilizing intelligent space exploration