WO2023106552A1 - Method and system for generating optimization strategy setting-based deep-learning model for smart object detection - Google Patents

Method and system for generating optimization strategy setting-based deep-learning model for smart object detection Download PDF

Info

Publication number
WO2023106552A1
WO2023106552A1 PCT/KR2022/012448 KR2022012448W WO2023106552A1 WO 2023106552 A1 WO2023106552 A1 WO 2023106552A1 KR 2022012448 W KR2022012448 W KR 2022012448W WO 2023106552 A1 WO2023106552 A1 WO 2023106552A1
Authority
WO
WIPO (PCT)
Prior art keywords
learning model
deep learning
optimization strategy
prediction errors
setting
Prior art date
Application number
PCT/KR2022/012448
Other languages
French (fr)
Korean (ko)
Inventor
양창모
서경은
김동칠
Original Assignee
한국전자기술연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자기술연구원 filed Critical 한국전자기술연구원
Publication of WO2023106552A1 publication Critical patent/WO2023106552A1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]

Definitions

  • the present invention relates to a method and system for generating a deep learning model based on an optimization strategy setting for intelligent object detection.
  • the monitoring system is used for the purpose of preventing incidents and accidents or minimizing damage through CCTV-based surveillance.
  • This monitoring system faced the problem of simultaneously controlling multiple cameras due to the increase in demand for CCTV. Controlling multiple cameras at the same time acts as an element that increases costs such as a lot of resources and human and material resources systematically.
  • An intelligent monitoring system in which a computer automatically monitors a situation has been introduced.
  • An intelligent monitoring system has the advantage of being efficient in terms of time and cost because it is not directly observed by a person.
  • 1 is a diagram for explaining problems occurring in the learning process of a deep learning model for object detection.
  • FIG. 1 shows a graph of prediction error using data for learning and testing, and the deep learning model is overfitting, which is learned because it is too biased toward the training data, or underfitting, which does not properly learn the training data ( When underfitting, the deep learning model will not behave accurately in the real test (target) environment.
  • Embodiments of the present invention provide high object detection accuracy by repeatedly identifying the performance of a deep learning model and setting an appropriate optimization strategy for the performance result in order to solve problems such as underfitting and overfitting when generating an intelligent object detection model.
  • the method for generating a deep learning model based on an optimization strategy setting for intelligent object detection is a deep learning model for object detection based on predetermined prepared training data. learning; measuring performance data of the learned deep learning model; setting one of a plurality of predetermined optimization strategies based on the measured performance data; updating the deep learning model based on whether the set optimization strategy is applied; and generating the updated deep learning model as a deep learning model for intelligent object detection.
  • measuring the performance data of the learned deep learning model comprises measuring first and second prediction errors for the training data and test data in the currently learned deep learning model, respectively. step; measuring first and second prediction errors for the training data and test data in a previously trained deep learning model; and calculating a difference between the first prediction errors and the second prediction errors, respectively, using the performance data.
  • the step of measuring the first and second prediction errors for the training data and the test data in the previously trained deep learning model is when the previously trained deep learning model does not exist.
  • the first and second prediction errors may be set to zero.
  • setting one of a plurality of predetermined optimization strategies based on the measured performance data may include reducing a difference between the first prediction errors and a difference between the second prediction errors. If it decreases, it can be set as an optimization strategy to maintain the currently set learning environment.
  • setting one of a plurality of predetermined optimization strategies based on the measured performance data may include reducing a difference between the first prediction errors and a difference between the second prediction errors. If it increases, it can be set as an optimization strategy to increase the learning data.
  • setting one of a plurality of predetermined optimization strategies based on the measured performance data may include increasing a difference between the first prediction errors and increasing a difference between the second prediction errors.
  • at least one of an optimization strategy for modifying the structure of the deep learning model and an optimization strategy for reconstructing the training data may be set.
  • setting one of a plurality of predetermined optimization strategies based on the measured performance data may include reducing a difference between the first prediction errors and a difference between the second prediction errors.
  • at least one of an optimization strategy for reducing the learning rate of the deep learning model and an optimization strategy for increasing the number of training iterations of the deep learning model may be set to be applied.
  • the deep learning model generation system based on the optimization strategy setting for intelligent object detection is a memory storing a program for learning a deep learning model by selectively setting an optimization strategy for intelligent object detection and the It includes a processor that executes a program stored in memory.
  • the processor learns a deep learning model for object detection based on predetermined prepared training data, measures performance data of the learned deep learning model, and measures the measured performance.
  • the deep learning model is updated to generate the deep learning model for intelligent object detection, and the processor performs the training data in the currently learned deep learning model. and calculating first and second prediction errors for test data and first and second prediction errors for the training data and test data in a previously trained deep learning model, respectively, and a difference between the first prediction errors and Differences between the second prediction errors are calculated as performance data.
  • the processor may set an optimization strategy to maintain the currently set learning environment.
  • the processor may set an optimization strategy to increase the learning data when the difference between the first prediction errors decreases and the difference between the second prediction errors increases.
  • the processor when the difference between the first prediction errors increases and the difference between the second prediction errors decreases, an optimization strategy for modifying the structure of the deep learning model and reconstructing the training data At least one of the optimization strategies may be set.
  • the processor performs an optimization strategy for reducing the learning rate of the deep learning model and the deep learning model when the difference between the first prediction errors decreases and the difference between the second prediction errors decreases. It can be set to apply at least one of optimization strategies that increase the number of learning iterations.
  • the object detection performance of the deep learning model can be further improved by recursively identifying the performance of the deep learning model and applying an optimization strategy based on the result, and the intelligent object detection model Problems such as underfitting and overfitting can be solved during generation.
  • an intelligent monitoring system personal safety and crime prevention effects can be maximized.
  • FIG. 1 is a flowchart of a method for generating a deep learning model based on setting an optimization strategy according to an embodiment of the present invention.
  • FIG. 2 is a flowchart illustrating a process of setting an optimization strategy.
  • FIG. 3 is a block diagram of a system for generating a deep learning model based on setting an optimization strategy according to an embodiment of the present invention.
  • FIGS. 1 and 2 a method for generating a deep learning model based on setting an optimization strategy for intelligent object detection according to an embodiment of the present invention will be described with reference to FIGS. 1 and 2 (hereinafter, a method for generating a deep learning model based on setting an optimization strategy). .
  • 1 is a flowchart of a method for generating a deep learning model based on setting an optimization strategy according to an embodiment of the present invention.
  • 2 is a flowchart illustrating a process of setting an optimization strategy.
  • each step shown in FIGS. 1 and 2 may be understood to be performed by the system 100 for generating a deep learning model based on setting an optimization strategy described later, but is not necessarily limited thereto.
  • a deep learning model for object detection is learned based on predetermined prepared learning data (S110).
  • the measuring the performance data may include measuring a first prediction error for training data in a currently trained deep learning model. Then, a first prediction error for training data from a previously trained deep learning model is measured.
  • test data may be prepared in advance separately from the training data, or may be prepared according to various embodiments, such as being provided in a predetermined ratio of the prepared training data.
  • the difference between the first prediction errors for the training data in the current and previously trained deep learning models and the difference between the second prediction errors for the test data are calculated and measured as performance data.
  • Training data first prediction error difference training data first prediction error in the current deep learning model - training data second prediction error in the previous deep learning model
  • Test data second prediction error difference test data second prediction error in the current deep learning model - test data second prediction error in the previous deep learning model
  • each of the previous prediction errors may be set to 0.
  • one of a plurality of predetermined optimization strategies is set based on the measured performance data (S130).
  • an optimization strategy may be set according to the condition shown in FIG. 2 based on the difference between the measured prediction errors.
  • conditions for increasing or decreasing the difference between the first prediction errors and increasing or decreasing the difference between the second prediction errors may be used as predetermined conditions.
  • an optimization strategy to maintain the currently set learning environment may be set. (S133).
  • an optimization strategy to increase the training data may be set ( S134).
  • an optimization strategy for modifying the deep learning model structure and reconstructing training data At least one of optimization strategies may be set (S136).
  • an optimization strategy and a deep learning model for reducing the learning rate of the deep learning model can be set to apply at least one of the optimization strategies for increasing the number of learning iterations of (S137).
  • the user can check the newly created optimization strategy, and in the case of optimization strategies such as application of the optimization strategy to the deep learning model, reconstruction of training data, and increase of training data, additional training data Since collection is necessary, the application of the user's choice should be considered.
  • the deep learning model is updated based on whether the next set optimization strategy is applied (S140), and the updated deep learning model is created and applied as a deep learning model for intelligent object detection (S150).
  • steps S110 to S150 may be further divided into additional steps or combined into fewer steps according to an embodiment of the present invention. Also, some steps may be omitted if necessary, and the order of steps may be changed. In addition, even if other omitted contents, the contents described in FIGS. 1 and 2 are also applied to the optimization strategy setting-based deep learning model generation system 100 of FIG. 3 .
  • FIG. 3 is a block diagram of a system 100 for generating a deep learning model based on setting an optimization strategy according to an embodiment of the present invention.
  • the system 100 for generating a deep learning model based on setting an optimization strategy includes a memory 110 and a processor 120 .
  • a program for learning a deep learning model by selectively setting an optimization strategy for intelligent object detection is stored in the memory 110 .
  • the processor 120 executes the program stored in the memory 110.
  • the memory 110 collectively refers to a non-volatile storage device and a volatile storage device that continuously retain stored information even when power is not supplied.
  • the memory 110 may include a compact flash (CF) card, a secure digital (SD) card, a memory stick, a solid-state drive (SSD), and a micro SD card.
  • CF compact flash
  • SD secure digital
  • SSD solid-state drive
  • micro SD card micro SD card.
  • NAND flash memory such as cards, magnetic computer storage devices such as hard disk drives (HDD), and optical disc drives such as CD-ROMs and DVD-ROMs.
  • the program stored in the memory 110 may be implemented in the form of software or hardware such as a Field Programmable Gate Array (FPGA) or Application Specific Integrated Circuit (ASIC), and may perform predetermined roles.
  • FPGA Field Programmable Gate Array
  • ASIC Application Specific Integrated Circuit
  • the processor 120 learns a deep learning model for object detection based on predetermined training data, and then measures performance data of the learned deep learning model.
  • the processor 120 updates the deep learning model by setting one of a plurality of predetermined optimization strategies based on the measured performance data to generate a deep learning model for intelligent object detection.
  • the processor 120 provides first and second prediction errors for the training data and test data in the currently learned deep learning model, and first and second prediction errors for the training data and test data in the previously learned deep learning model.
  • the second prediction errors are respectively calculated, and the difference between the first prediction errors and the second prediction errors are calculated as performance data.
  • the deep learning model generation method based on the optimization strategy setting for intelligent object detection according to an embodiment of the present invention described above may be implemented as a program (or application) to be executed in combination with a server, which is hardware, and stored in a medium. there is.
  • the aforementioned program is C, C++, JAVA, machine language, etc. It may include a code coded in a computer language of. These codes may include functional codes related to functions defining necessary functions for executing the methods, and include control codes related to execution procedures necessary for the processor of the computer to execute the functions according to a predetermined procedure. can do. In addition, these codes may further include memory reference related codes for which location (address address) of the computer's internal or external memory should be referenced for additional information or media required for the computer's processor to execute the functions. there is. In addition, when the processor of the computer needs to communicate with any other remote computer or server in order to execute the functions, the code uses the computer's communication module to determine how to communicate with any other remote computer or server. It may further include communication-related codes for whether to communicate, what kind of information or media to transmit/receive during communication, and the like.
  • the storage medium is not a medium that stores data for a short moment, such as a register, cache, or memory, but a medium that stores data semi-permanently and is readable by a device.
  • examples of the storage medium include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, etc., but are not limited thereto. That is, the program may be stored in various recording media on various servers accessible by the computer or various recording media on the user's computer.
  • the medium may be distributed to computer systems connected through a network, and computer readable codes may be stored in a distributed manner.
  • Steps of a method or algorithm described in connection with an embodiment of the present invention may be implemented directly in hardware, implemented in a software module executed by hardware, or implemented by a combination thereof.
  • a software module may include random access memory (RAM), read only memory (ROM), erasable programmable ROM (EPROM), electrically erasable programmable ROM (EEPROM), flash memory, hard disk, removable disk, CD-ROM, or It may reside in any form of computer readable recording medium well known in the art to which the present invention pertains.

Abstract

Provided is a method for generating an optimization strategy setting-based deep-learning model for smart object detection. The method comprises the steps of: training a deep-learning model for object detection on the basis of predetermined learning data; measuring performance data of the trained deep-learning model; setting any one of a plurality of predetermined optimization strategies on the basis of the measured performance data; updating the deep-learning model on the basis of whether or not the set optimization strategy is applied; and generating the updated deep-learning model as a deep-learning model for smart object detection.

Description

지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 방법 및 시스템Method and system for generating deep learning model based on optimization strategy setting for intelligent object detection
본 발명은 지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 방법 및 시스템에 관한 것이다.The present invention relates to a method and system for generating a deep learning model based on an optimization strategy setting for intelligent object detection.
모니터링 시스템은 CCTV 기반의 감시를 통해 사건 및 사고를 예방하거나 피해를 최소화하는 목적으로 사용된다. 이러한 모니터링 시스템은 CCTV 수요의 증가로 인해 다수의 카메라를 동시에 관제해야 하는 문제에 직면하였다. 다수의 카메라를 동시에 관제하는 것은 시스템적으로 많은 리소스 등의 비용과 인적, 물적 자원이 증가하는 요소로 작용한다.The monitoring system is used for the purpose of preventing incidents and accidents or minimizing damage through CCTV-based surveillance. This monitoring system faced the problem of simultaneously controlling multiple cameras due to the increase in demand for CCTV. Controlling multiple cameras at the same time acts as an element that increases costs such as a lot of resources and human and material resources systematically.
한편, 최근 모니터링 시스템의 효율성을 높이기 위해 컴퓨터가 자동으로 상황을 감시하는 지능형 모니터링 시스템이 도입되고 있다. 지능형 모니터링 시스템은 사람이 직접 관찰하지 않기 때문에 시간적, 비용적 측면에서 효율적이라는 장점이 있다.On the other hand, recently, in order to increase the efficiency of the monitoring system, an intelligent monitoring system in which a computer automatically monitors a situation has been introduced. An intelligent monitoring system has the advantage of being efficient in terms of time and cost because it is not directly observed by a person.
도 1은 객체 탐지용 딥러닝 모델의 학습 과정에서 발생되는 문제를 설명하기 위한 도면이다.1 is a diagram for explaining problems occurring in the learning process of a deep learning model for object detection.
지능형 모니터링 시스템을 위한 객체 탐지용 딥러닝 모델은 적절한 학습 과정이 필요하다. 도 1은 학습 및 테스트용 데이터를 이용한 예측오차에 대한 그래프를 도시한 것으로, 딥러닝 모델이 학습 데이터에 너무 치우쳐져 학습되는 오버피팅(overfitting)이 되거나, 학습 데이터를 제대로 학습하지 못하는 언더피팅(underfitting)이 되면, 딥러닝 모델은 실제 테스트(목적) 환경에서 정확하게 동작하지 않게 된다.A deep learning model for object detection for an intelligent monitoring system requires an appropriate training process. Figure 1 shows a graph of prediction error using data for learning and testing, and the deep learning model is overfitting, which is learned because it is too biased toward the training data, or underfitting, which does not properly learn the training data ( When underfitting, the deep learning model will not behave accurately in the real test (target) environment.
이를 위해서는 한 번의 학습만으로 딥러닝 모델을 생성하는 것이 아니라, 반복적으로 성능을 파악하고, 적절한 최적화 전략을 설정 및 적용하여 딥러닝 모델을 재학습시키는 과정이 필요하다.To this end, it is not necessary to create a deep learning model with only one training session, but it is necessary to retrain the deep learning model by repeatedly identifying performance and setting and applying an appropriate optimization strategy.
본 발명의 실시예는 지능형 객체 탐지 모델 생성시 언더피팅, 오버피팅과 같은 문제를 해결하고자, 딥러닝 모델의 성능을 반복적으로 파악하고, 성능 결과에 적절한 최적화 전략을 설정하여 높은 객체 탐지 정확도를 제공하여 모니터링 시스템의 효율성을 향상시킬 수 있는, 지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 방법 및 시스템을 제공한다.Embodiments of the present invention provide high object detection accuracy by repeatedly identifying the performance of a deep learning model and setting an appropriate optimization strategy for the performance result in order to solve problems such as underfitting and overfitting when generating an intelligent object detection model. To provide a method and system for generating a deep learning model based on an optimization strategy setting for intelligent object detection, which can improve the efficiency of a monitoring system by doing so.
다만, 본 실시예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.However, the technical problem to be achieved by the present embodiment is not limited to the technical problem as described above, and other technical problems may exist.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 발명의 제1 측면에 따른 지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 방법은 소정의 준비된 학습 데이터를 기반으로 객체 탐지를 위한 딥러닝 모델을 학습하는 단계; 상기 학습된 딥러닝 모델의 성능 데이터를 측정하는 단계; 상기 측정된 성능 데이터를 기반으로 기 설정된 복수의 최적화 전략 중 어느 하나를 설정하는 단계; 상기 설정된 최적화 전략의 적용 여부에 기초하여 상기 딥러닝 모델을 갱신하는 단계; 및 상기 갱신된 딥러닝 모델을 지능형 객체 탐지용 딥러닝 모델로 생성하는 단계를 포함한다.As a technical means for achieving the above technical problem, the method for generating a deep learning model based on an optimization strategy setting for intelligent object detection according to the first aspect of the present invention is a deep learning model for object detection based on predetermined prepared training data. learning; measuring performance data of the learned deep learning model; setting one of a plurality of predetermined optimization strategies based on the measured performance data; updating the deep learning model based on whether the set optimization strategy is applied; and generating the updated deep learning model as a deep learning model for intelligent object detection.
본 발명의 일부 실시예에서, 상기 학습된 딥러닝 모델의 성능 데이터를 측정하는 단계는, 현재 학습된 딥러닝 모델에서의 상기 학습 데이터 및 테스트 데이터에 대한 제1 및 제2 예측 오차를 각각 측정하는 단계; 이전 학습된 딥러닝 모델에서의 상기 학습 데이터 및 테스트 데이터에 대한 제1 및 제2 예측 오차를 측정하는 단계; 및 상기 성능 데이터로, 상기 제1 예측 오차 간의 차이와 상기 제2 예측 오차 간의 차이를 각각 산출하는 단계를 포함할 수 있다.In some embodiments of the present invention, measuring the performance data of the learned deep learning model comprises measuring first and second prediction errors for the training data and test data in the currently learned deep learning model, respectively. step; measuring first and second prediction errors for the training data and test data in a previously trained deep learning model; and calculating a difference between the first prediction errors and the second prediction errors, respectively, using the performance data.
본 발명의 일부 실시예에서, 상기 이전 학습된 딥러닝 모델에서의 상기 학습 데이터 및 테스트 데이터에 대한 제1 및 제2 예측 오차를 측정하는 단계는, 상기 이전 학습된 딥러닝 모델이 존재하지 않는 경우 상기 제1 및 제2 예측 오차를 0으로 설정할 수 있다.In some embodiments of the present invention, the step of measuring the first and second prediction errors for the training data and the test data in the previously trained deep learning model is when the previously trained deep learning model does not exist. The first and second prediction errors may be set to zero.
본 발명의 일부 실시예에서, 상기 측정된 성능 데이터를 기반으로 기 설정된 복수의 최적화 전략 중 어느 하나를 설정하는 단계는, 상기 제1 예측 오차 간의 차이가 감소하고, 상기 제2 예측 오차 간의 차이가 감소한 경우, 현재 설정된 학습 환경을 유지하도록 하는 최적화 전략으로 설정할 수 있다.In some embodiments of the present invention, setting one of a plurality of predetermined optimization strategies based on the measured performance data may include reducing a difference between the first prediction errors and a difference between the second prediction errors. If it decreases, it can be set as an optimization strategy to maintain the currently set learning environment.
본 발명의 일부 실시예에서, 상기 측정된 성능 데이터를 기반으로 기 설정된 복수의 최적화 전략 중 어느 하나를 설정하는 단계는, 상기 제1 예측 오차 간의 차이가 감소하고, 상기 제2 예측 오차 간의 차이가 증가한 경우, 상기 학습 데이터를 증가시키도록 하는 최적화 전략으로 설정할 수 있다.In some embodiments of the present invention, setting one of a plurality of predetermined optimization strategies based on the measured performance data may include reducing a difference between the first prediction errors and a difference between the second prediction errors. If it increases, it can be set as an optimization strategy to increase the learning data.
본 발명의 일부 실시예에서, 상기 측정된 성능 데이터를 기반으로 기 설정된 복수의 최적화 전략 중 어느 하나를 설정하는 단계는, 상기 제1 예측 오차 간의 차이가 증가하고, 상기 제2 예측 오차 간의 차이가 감소한 경우, 상기 딥러닝 모델의 구조를 수정하는 최적화 전략 및 상기 학습 데이터를 재구성하는 최적화 전략 중 적어도 하나를 설정할 수 있다.In some embodiments of the present invention, setting one of a plurality of predetermined optimization strategies based on the measured performance data may include increasing a difference between the first prediction errors and increasing a difference between the second prediction errors. In case of the decrease, at least one of an optimization strategy for modifying the structure of the deep learning model and an optimization strategy for reconstructing the training data may be set.
본 발명의 일부 실시예에서, 상기 측정된 성능 데이터를 기반으로 기 설정된 복수의 최적화 전략 중 어느 하나를 설정하는 단계는, 상기 제1 예측 오차 간의 차이가 감소하고, 상기 제2 예측 오차 간의 차이가 감소한 경우, 상기 딥러닝 모델의 학습률을 감소시키는 최적화 전략 및 상기 딥러닝 모델의 학습 반복 횟수를 증가시키는 최적화 전략 중 적어도 하나를 적용하도록 설정할 수 있다.In some embodiments of the present invention, setting one of a plurality of predetermined optimization strategies based on the measured performance data may include reducing a difference between the first prediction errors and a difference between the second prediction errors. When it decreases, at least one of an optimization strategy for reducing the learning rate of the deep learning model and an optimization strategy for increasing the number of training iterations of the deep learning model may be set to be applied.
또한, 본 발명의 제2 측면에 따른 지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 시스템은 지능형 객체 탐지를 위한 최적화 전략을 선택적으로 설정하여 딥러닝 모델을 학습하기 위한 프로그램이 저장된 메모리 및 상기 메모리에 저장된 프로그램을 실행시키는 프로세서를 포함한다. 이때, 상기 프로세서는 상기 프로그램을 실행시킴에 따라, 소정의 준비된 학습 데이터를 기반으로 객체 탐지를 위한 딥러닝 모델을 학습한 후, 상기 학습된 딥러닝 모델의 성능 데이터를 측정하고, 상기 측정된 성능 데이터를 기반으로 기 설정된 복수의 최적화 전략 중 어느 하나를 설정함에 따라 상기 딥러닝 모델을 갱신하여 상기 지능형 객체 탐지용 딥러닝 모델로 생성하고, 상기 프로세서는 현재 학습된 딥러닝 모델에서의 상기 학습 데이터 및 테스트 데이터에 대한 제1 및 제2 예측 오차와, 이전 학습된 딥러닝 모델에서의 상기 학습 데이터 및 테스트 데이터에 대한 제1 및 제2 예측 오차를 각각 산출하고, 상기 제1 예측 오차 간의 차이와 상기 제2 예측 오차 간의 차이를 각각 성능 데이터로 산출한다.In addition, the deep learning model generation system based on the optimization strategy setting for intelligent object detection according to the second aspect of the present invention is a memory storing a program for learning a deep learning model by selectively setting an optimization strategy for intelligent object detection and the It includes a processor that executes a program stored in memory. At this time, as the program is executed, the processor learns a deep learning model for object detection based on predetermined prepared training data, measures performance data of the learned deep learning model, and measures the measured performance. According to setting any one of a plurality of preset optimization strategies based on data, the deep learning model is updated to generate the deep learning model for intelligent object detection, and the processor performs the training data in the currently learned deep learning model. and calculating first and second prediction errors for test data and first and second prediction errors for the training data and test data in a previously trained deep learning model, respectively, and a difference between the first prediction errors and Differences between the second prediction errors are calculated as performance data.
본 발명의 일부 실시예에서, 상기 프로세서는 상기 제1 예측 오차 간의 차이가 감소하고, 상기 제2 예측 오차 간의 차이가 감소한 경우, 현재 설정된 학습 환경을 유지하도록 하는 최적화 전략으로 설정할 수 있다.In some embodiments of the present invention, when the difference between the first prediction errors decreases and the difference between the second prediction errors decreases, the processor may set an optimization strategy to maintain the currently set learning environment.
본 발명의 일부 실시예에서, 상기 프로세서는 상기 제1 예측 오차 간의 차이가 감소하고, 상기 제2 예측 오차 간의 차이가 증가한 경우, 상기 학습 데이터를 증가시키도록 하는 최적화 전략으로 설정할 수 있다.In some embodiments of the present invention, the processor may set an optimization strategy to increase the learning data when the difference between the first prediction errors decreases and the difference between the second prediction errors increases.
본 발명의 일부 실시예에서, 상기 프로세서는 상기 제1 예측 오차 간의 차이가 증가하고, 상기 제2 예측 오차 간의 차이가 감소한 경우, 상기 딥러닝 모델의 구조를 수정하는 최적화 전략 및 상기 학습 데이터를 재구성하는 최적화 전략 중 적어도 하나를 설정할 수 있다.In some embodiments of the present invention, the processor, when the difference between the first prediction errors increases and the difference between the second prediction errors decreases, an optimization strategy for modifying the structure of the deep learning model and reconstructing the training data At least one of the optimization strategies may be set.
본 발명의 일부 실시예에서, 상기 프로세서는 상기 제1 예측 오차 간의 차이가 감소하고, 상기 제2 예측 오차 간의 차이가 감소한 경우, 상기 딥러닝 모델의 학습률을 감소시키는 최적화 전략 및 상기 딥러닝 모델의 학습 반복 횟수를 증가시키는 최적화 전략 중 적어도 하나를 적용하도록 설정할 수 있다.In some embodiments of the present invention, the processor performs an optimization strategy for reducing the learning rate of the deep learning model and the deep learning model when the difference between the first prediction errors decreases and the difference between the second prediction errors decreases. It can be set to apply at least one of optimization strategies that increase the number of learning iterations.
이 외에도, 본 발명을 구현하기 위한 다른 방법, 다른 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체가 더 제공될 수 있다.In addition to this, another method for implementing the present invention, another system, and a computer readable recording medium recording a computer program for executing the method may be further provided.
전술한 본 발명의 일 실시예에 의하면, 딥러닝 모델의 성능을 반복적으로 파악하고 그 결과를 기반으로 최적화 전략을 적용함으로써, 딥러닝 모델의 객체 탐지 성능을 더욱 향상시킬 수 있으며, 지능형 객체 탐지 모델 생성시 언더피팅 및 오버피팅과 같은 문제를 해소할 수 있다. 이를 지능형 모니터링 시스템에 적용하여 개인 신변 안전 및 범죄 예방 효과를 극대화시킬 수 있다.According to one embodiment of the present invention described above, the object detection performance of the deep learning model can be further improved by recursively identifying the performance of the deep learning model and applying an optimization strategy based on the result, and the intelligent object detection model Problems such as underfitting and overfitting can be solved during generation. By applying this to an intelligent monitoring system, personal safety and crime prevention effects can be maximized.
본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.The effects of the present invention are not limited to the effects mentioned above, and other effects not mentioned will be clearly understood by those skilled in the art from the description below.
도 1은 본 발명의 일 실시예에 따른 최적화 전략 설정 기반 딥러닝 모델 생성 방법의 순서도이다. 1 is a flowchart of a method for generating a deep learning model based on setting an optimization strategy according to an embodiment of the present invention.
도 2는 최적화 전략 설정 과정을 설명하기 위한 순서도이다.2 is a flowchart illustrating a process of setting an optimization strategy.
도 3은 본 발명의 일 실시예에 따른 최적화 전략 설정 기반 딥러닝 모델 생성 시스템의 블록도이다.3 is a block diagram of a system for generating a deep learning model based on setting an optimization strategy according to an embodiment of the present invention.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.Advantages and features of the present invention, and methods of achieving them, will become clear with reference to the detailed description of the following embodiments taken in conjunction with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below, but may be implemented in various different forms, only these embodiments are intended to complete the disclosure of the present invention, and are common in the art to which the present invention belongs. It is provided to fully inform the person skilled in the art of the scope of the invention, and the invention is only defined by the scope of the claims.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.Terminology used herein is for describing the embodiments and is not intended to limit the present invention. In this specification, singular forms also include plural forms unless specifically stated otherwise in a phrase. As used herein, "comprises" and/or "comprising" does not exclude the presence or addition of one or more other elements other than the recited elements. Like reference numerals throughout the specification refer to like elements, and “and/or” includes each and every combination of one or more of the recited elements. Although "first", "second", etc. are used to describe various components, these components are not limited by these terms, of course. These terms are only used to distinguish one component from another. Accordingly, it goes without saying that the first element mentioned below may also be the second element within the technical spirit of the present invention.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.Unless otherwise defined, all terms (including technical and scientific terms) used in this specification may be used with meanings commonly understood by those skilled in the art to which the present invention belongs. In addition, terms defined in commonly used dictionaries are not interpreted ideally or excessively unless explicitly specifically defined.
이하에서는 도 1 및 도 2를 참조하여 본 발명의 일 실시예에 따른 지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 방법(이하, 최적화 전략 설정 기반 딥러닝 모델 생성 방법)에 대해 설명하도록 한다.Hereinafter, a method for generating a deep learning model based on setting an optimization strategy for intelligent object detection according to an embodiment of the present invention will be described with reference to FIGS. 1 and 2 (hereinafter, a method for generating a deep learning model based on setting an optimization strategy). .
도 1은 본 발명의 일 실시예에 따른 최적화 전략 설정 기반 딥러닝 모델 생성 방법의 순서도이다. 도 2는 최적화 전략 설정 과정을 설명하기 위한 순서도이다.1 is a flowchart of a method for generating a deep learning model based on setting an optimization strategy according to an embodiment of the present invention. 2 is a flowchart illustrating a process of setting an optimization strategy.
한편, 도 1 및 도 2에 도시된 각 단계들은 후술하는 최적화 전략 설정 기반 딥러닝 모델 생성 시스템(100)에 의해 수행되는 것으로 이해될 수 있으나, 반드시 이에 한정되는 것은 아니다.Meanwhile, each step shown in FIGS. 1 and 2 may be understood to be performed by the system 100 for generating a deep learning model based on setting an optimization strategy described later, but is not necessarily limited thereto.
본 발명의 일 실시예에 따른 최적화 전략 설정 기반 딥러닝 모델 생성 방법은 먼저, 소정의 준비된 학습 데이터를 기반으로 객체 탐지를 위한 딥러닝 모델을 학습한다(S110).In the optimization strategy setting-based deep learning model generation method according to an embodiment of the present invention, first, a deep learning model for object detection is learned based on predetermined prepared learning data (S110).
다음으로, 학습된 딥러닝 모델의 성능 데이터를 측정한다(S120).Next, performance data of the learned deep learning model is measured (S120).
일 실시예로, 성능 데이터를 측정하는 단계는, 현재 학습된 딥러닝 모델에서의 학습 데이터에 대한 제1 예측 오차를 측정한다. 그리고 이전 학습된 딥러닝 모델에서의 학습 데이터에 대한 제1 예측 오차를 측정한다.In an embodiment, the measuring the performance data may include measuring a first prediction error for training data in a currently trained deep learning model. Then, a first prediction error for training data from a previously trained deep learning model is measured.
또한, 현재 학습된 딥러닝 모델에서의 테스트 데이터에 대한 제2 예측 오차를 측정한다. 그리고 이전 학습된 딥러닝 모델에서의 테스트 데이터에 대한 제2 예측 오차를 측정한다. 이때, 테스트 데이터는 학습 데이터와 별개로 미리 준비될 수 있거나, 또는 준비된 학습 데이터의 소정의 비율로 제공되는 등 다양한 실시예에 따라 준비될 수 있다.In addition, a second prediction error for test data in the currently trained deep learning model is measured. Then, a second prediction error for test data in the previously trained deep learning model is measured. At this time, the test data may be prepared in advance separately from the training data, or may be prepared according to various embodiments, such as being provided in a predetermined ratio of the prepared training data.
이후, 현재 및 이전 학습된 딥러닝 모델에서의 학습 데이터에 대한 제1 예측 오차 간의 차이와, 테스트 데이터에 대한 제2 예측 오차 간의 차이를 각각 산출하여 이를 성능 데이터로 측정한다.Thereafter, the difference between the first prediction errors for the training data in the current and previously trained deep learning models and the difference between the second prediction errors for the test data are calculated and measured as performance data.
[식 1][Equation 1]
학습 데이터 제1 예측 오차 차이= 현재 딥러닝 모델에서의 학습 데이터 제1 예측 오차-이전 딥러닝 모델에서의 학습 데이터 제2 예측 오차Training data first prediction error difference = training data first prediction error in the current deep learning model - training data second prediction error in the previous deep learning model
테스트 데이터 제2 예측 오차 차이= 현재 딥러닝 모델에서의 테스트 데이터 제2 예측 오차-이전 딥러닝 모델에서의 테스트 데이터 제2 예측 오차Test data second prediction error difference = test data second prediction error in the current deep learning model - test data second prediction error in the previous deep learning model
이때, 이전 학습된 딥러닝 모델이 존재하지 않는 경우, 즉 딥러닝 모델에 대한 최초 학습 과정인 경우에는 이전 예측 오차들을 각각 0으로 설정할 수 있다.In this case, when the previously trained deep learning model does not exist, that is, when it is the first training process for the deep learning model, each of the previous prediction errors may be set to 0.
다음으로, 측정된 성능 데이터를 기반으로 기 설정된 복수의 최적화 전략 중 어느 하나를 설정한다(S130).Next, one of a plurality of predetermined optimization strategies is set based on the measured performance data (S130).
도 2를 참조하면, 측정된 예측 오차 간의 차이를 기반으로 도 2에 도시된 조건에 따라 최적화 전략을 설정할 수 있다. 이때, 소정의 조건으로는 제1 예측 오차 간의 차이의 증감과, 제2 예측 오차 간의 차이의 증감 조건을 이용할 수 있다.Referring to FIG. 2 , an optimization strategy may be set according to the condition shown in FIG. 2 based on the difference between the measured prediction errors. In this case, conditions for increasing or decreasing the difference between the first prediction errors and increasing or decreasing the difference between the second prediction errors may be used as predetermined conditions.
일 실시예로, 제1 예측 오차 간의 차이가 감소하고(S131-Y), 제2 예측 오차 간의 차이가 감소한 경우에는(S132-Y), 현재 설정된 학습 환경을 유지하도록 하는 최적화 전략을 설정할 수 있다(S133).As an embodiment, when the difference between the first prediction errors decreases (S131-Y) and the difference between the second prediction errors decreases (S132-Y), an optimization strategy to maintain the currently set learning environment may be set. (S133).
일 실시예로, 제1 예측 오차 간의 차이가 감소하고(S131-Y), 제2 예측 오차 간의 차이가 증가한 경우에는(S132-N), 학습 데이터를 증가시키도록 하는 최적화 전략을 설정할 수 있다(S134).As an embodiment, when the difference between the first prediction errors decreases (S131-Y) and the difference between the second prediction errors increases (S132-N), an optimization strategy to increase the training data may be set ( S134).
일 실시예로, 제1 예측 오차 간의 차이가 증가하고(S131-N), 제2 예측 오차 간의 차이가 감소한 경우에는(S135-Y), 딥러닝 모델 구조를 수정하는 최적화 전략 및 학습 데이터를 재구성하는 최적화 전략 중 적어도 하나를 설정할 수 있다(S136).As an embodiment, when the difference between the first prediction errors increases (S131-N) and the difference between the second prediction errors decreases (S135-Y), an optimization strategy for modifying the deep learning model structure and reconstructing training data At least one of optimization strategies may be set (S136).
일 실시예로, 제1 예측 오차 간의 차이가 증가하고(S131-Y), 제2 예측 오차 간의 차이가 증가한 경우에는(S135-Y), 딥러닝 모델의 학습률을 감소시키는 최적화 전략 및 딥러닝 모델의 학습 반복 횟수를 증가시키는 최적화 전략 중 적어도 하나를 적용하도록 설정할 수 있다(S137).As an embodiment, when the difference between the first prediction errors increases (S131-Y) and the difference between the second prediction errors increases (S135-Y), an optimization strategy and a deep learning model for reducing the learning rate of the deep learning model It can be set to apply at least one of the optimization strategies for increasing the number of learning iterations of (S137).
이러한 최적화 전략 설정 과정에 있어서, 사용자는 새롭게 생성된 최적화 전략을 확인할 수 있으며, 최적화 전략의 딥러닝 모델로의 적용 여부, 학습 데이터의 재구성, 학습 데이터의 증가와 같은 최적화 전략의 경우 추가적인 학습 데이터의 수집이 필요하므로 사용자의 선택 적용 여부가 고려되어야 한다.In this optimization strategy setting process, the user can check the newly created optimization strategy, and in the case of optimization strategies such as application of the optimization strategy to the deep learning model, reconstruction of training data, and increase of training data, additional training data Since collection is necessary, the application of the user's choice should be considered.
다시 도 1을 참조하면, 다음으로 설정된 최적화 전략의 적용 여부에 기초하여 딥러닝 모델을 갱신하고(S140), 갱신된 딥러닝 모델을 지능형 객체 탐지용 딥러닝 모델로 생성 및 적용한다(S150).Referring back to FIG. 1 , the deep learning model is updated based on whether the next set optimization strategy is applied (S140), and the updated deep learning model is created and applied as a deep learning model for intelligent object detection (S150).
한편, 상술한 설명에서, 단계 S110 내지 단계 S150은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 도 1 내지 도 2에 기술된 내용은 도 3의 최적화 전략 설정 기반 딥러닝 모델 생성 시스템(100)에도 적용된다.Meanwhile, in the above description, steps S110 to S150 may be further divided into additional steps or combined into fewer steps according to an embodiment of the present invention. Also, some steps may be omitted if necessary, and the order of steps may be changed. In addition, even if other omitted contents, the contents described in FIGS. 1 and 2 are also applied to the optimization strategy setting-based deep learning model generation system 100 of FIG. 3 .
도 3은 본 발명의 일 실시예에 따른 최적화 전략 설정 기반 딥러닝 모델 생성 시스템(100)의 블록도이다.3 is a block diagram of a system 100 for generating a deep learning model based on setting an optimization strategy according to an embodiment of the present invention.
본 발명의 일 실시예에 따른 최적화 전략 설정 기반 딥러닝 모델 생성 시스템(100)은 메모리(110) 및 프로세서(120)를 포함한다.The system 100 for generating a deep learning model based on setting an optimization strategy according to an embodiment of the present invention includes a memory 110 and a processor 120 .
메모리(110)에는 지능형 객체 탐지를 위한 최적화 전략을 선택적으로 설정하여 딥러닝 모델을 학습하기 위한 프로그램이 저장된다. 그리고 프로세서(120)는 메모리(110)에 저장된 프로그램을 실행시킨다. 여기에서, 메모리(110)는 전원이 공급되지 않아도 저장된 정보를 계속 유지하는 비휘발성 저장장치 및 휘발성 저장장치를 통칭하는 것이다.A program for learning a deep learning model by selectively setting an optimization strategy for intelligent object detection is stored in the memory 110 . And the processor 120 executes the program stored in the memory 110. Here, the memory 110 collectively refers to a non-volatile storage device and a volatile storage device that continuously retain stored information even when power is not supplied.
예를 들어, 메모리(110)는 콤팩트 플래시(compact flash; CF) 카드, SD(secure digital) 카드, 메모리 스틱(memory stick), 솔리드 스테이트 드라이브(solid-state drive; SSD) 및 마이크로(micro) SD 카드 등과 같은 낸드 플래시 메모리(NAND flash memory), 하드 디스크 드라이브(hard disk drive; HDD) 등과 같은 마그네틱 컴퓨터 기억 장치 및 CD-ROM, DVD-ROM 등과 같은 광학 디스크 드라이브(optical disc drive) 등을 포함할 수 있다.For example, the memory 110 may include a compact flash (CF) card, a secure digital (SD) card, a memory stick, a solid-state drive (SSD), and a micro SD card. NAND flash memory such as cards, magnetic computer storage devices such as hard disk drives (HDD), and optical disc drives such as CD-ROMs and DVD-ROMs. can
또한, 메모리(110)에 저장된 프로그램은 소프트웨어 또는 FPGA(Field Programmable Gate Array) 또는 ASIC(Application Specific Integrated Circuit)와 같은 하드웨어 형태로 구현될 수 있으며, 소정의 역할들을 수행할 수 있다. Also, the program stored in the memory 110 may be implemented in the form of software or hardware such as a Field Programmable Gate Array (FPGA) or Application Specific Integrated Circuit (ASIC), and may perform predetermined roles.
프로세서(120)는 프로그램을 실행시킴에 따라, 소정의 준비된 학습 데이터를 기반으로 객체 탐지를 위한 딥러닝 모델을 학습한 후, 학습된 딥러닝 모델의 성능 데이터를 측정한다.As the program is executed, the processor 120 learns a deep learning model for object detection based on predetermined training data, and then measures performance data of the learned deep learning model.
그리고 프로세서(120)는 측정된 성능 데이터를 기반으로 기 설정된 복수의 최적화 전략 중 어느 하나를 설정함에 따라 딥러닝 모델을 갱신하여 지능형 객체 탐지용 딥러닝 모델로 생성한다.Further, the processor 120 updates the deep learning model by setting one of a plurality of predetermined optimization strategies based on the measured performance data to generate a deep learning model for intelligent object detection.
이때, 프로세서(120)는 현재 학습된 딥러닝 모델에서의 상기 학습 데이터 및 테스트 데이터에 대한 제1 및 제2 예측 오차와, 이전 학습된 딥러닝 모델에서의 학습 데이터 및 테스트 데이터에 대한 제1 및 제2 예측 오차를 각각 산출하고, 제1 예측 오차 간의 차이와 상기 제2 예측 오차 간의 차이를 각각 성능 데이터로 산출한다.At this time, the processor 120 provides first and second prediction errors for the training data and test data in the currently learned deep learning model, and first and second prediction errors for the training data and test data in the previously learned deep learning model. The second prediction errors are respectively calculated, and the difference between the first prediction errors and the second prediction errors are calculated as performance data.
이상에서 전술한 본 발명의 일 실시예에 따른 지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 방법은, 하드웨어인 서버와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.The deep learning model generation method based on the optimization strategy setting for intelligent object detection according to an embodiment of the present invention described above may be implemented as a program (or application) to be executed in combination with a server, which is hardware, and stored in a medium. there is.
상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.The aforementioned program is C, C++, JAVA, machine language, etc. It may include a code coded in a computer language of. These codes may include functional codes related to functions defining necessary functions for executing the methods, and include control codes related to execution procedures necessary for the processor of the computer to execute the functions according to a predetermined procedure. can do. In addition, these codes may further include memory reference related codes for which location (address address) of the computer's internal or external memory should be referenced for additional information or media required for the computer's processor to execute the functions. there is. In addition, when the processor of the computer needs to communicate with any other remote computer or server in order to execute the functions, the code uses the computer's communication module to determine how to communicate with any other remote computer or server. It may further include communication-related codes for whether to communicate, what kind of information or media to transmit/receive during communication, and the like.
상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.The storage medium is not a medium that stores data for a short moment, such as a register, cache, or memory, but a medium that stores data semi-permanently and is readable by a device. Specifically, examples of the storage medium include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, etc., but are not limited thereto. That is, the program may be stored in various recording media on various servers accessible by the computer or various recording media on the user's computer. In addition, the medium may be distributed to computer systems connected through a network, and computer readable codes may be stored in a distributed manner.
본 발명의 실시예와 관련하여 설명된 방법 또는 알고리즘의 단계들은 하드웨어로 직접 구현되거나, 하드웨어에 의해 실행되는 소프트웨어 모듈로 구현되거나, 또는 이들의 결합에 의해 구현될 수 있다. 소프트웨어 모듈은 RAM(Random Access Memory), ROM(Read Only Memory), EPROM(Erasable Programmable ROM), EEPROM(Electrically Erasable Programmable ROM), 플래시 메모리(Flash Memory), 하드 디스크, 착탈형 디스크, CD-ROM, 또는 본 발명이 속하는 기술 분야에서 잘 알려진 임의의 형태의 컴퓨터 판독가능 기록매체에 상주할 수도 있다.Steps of a method or algorithm described in connection with an embodiment of the present invention may be implemented directly in hardware, implemented in a software module executed by hardware, or implemented by a combination thereof. A software module may include random access memory (RAM), read only memory (ROM), erasable programmable ROM (EPROM), electrically erasable programmable ROM (EEPROM), flash memory, hard disk, removable disk, CD-ROM, or It may reside in any form of computer readable recording medium well known in the art to which the present invention pertains.
이상, 첨부된 도면을 참조로 하여 본 발명의 실시예를 설명하였지만, 본 발명이 속하는 기술분야의 통상의 기술자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로, 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며, 제한적이 아닌 것으로 이해해야만 한다.Although the embodiments of the present invention have been described with reference to the accompanying drawings, those skilled in the art to which the present invention pertains can be implemented in other specific forms without changing the technical spirit or essential features of the present invention. you will be able to understand Therefore, it should be understood that the embodiments described above are illustrative in all respects and not restrictive.

Claims (12)

  1. 컴퓨터에 의해 수행되는 방법에 있어서,In a method performed by a computer,
    소정의 준비된 학습 데이터를 기반으로 객체 탐지를 위한 딥러닝 모델을 학습하는 단계;learning a deep learning model for object detection based on predetermined prepared training data;
    상기 학습된 딥러닝 모델의 성능 데이터를 측정하는 단계;measuring performance data of the learned deep learning model;
    상기 측정된 성능 데이터를 기반으로 기 설정된 복수의 최적화 전략 중 어느 하나를 설정하는 단계;setting one of a plurality of predetermined optimization strategies based on the measured performance data;
    상기 설정된 최적화 전략의 적용 여부에 기초하여 상기 딥러닝 모델을 갱신하는 단계; 및updating the deep learning model based on whether the set optimization strategy is applied; and
    상기 갱신된 딥러닝 모델을 지능형 객체 탐지용 딥러닝 모델로 생성하는 단계를 포함하는,Generating the updated deep learning model as a deep learning model for intelligent object detection,
    지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 방법.A deep learning model creation method based on optimization strategy setting for intelligent object detection.
  2. 제1항에 있어서,According to claim 1,
    상기 학습된 딥러닝 모델의 성능 데이터를 측정하는 단계는,Measuring the performance data of the learned deep learning model,
    현재 학습된 딥러닝 모델에서의 상기 학습 데이터 및 테스트 데이터에 대한 제1 및 제2 예측 오차를 각각 측정하는 단계;measuring first and second prediction errors for the training data and the test data in the currently trained deep learning model, respectively;
    이전 학습된 딥러닝 모델에서의 상기 학습 데이터 및 테스트 데이터에 대한 제1 및 제2 예측 오차를 측정하는 단계; 및measuring first and second prediction errors for the training data and test data in a previously trained deep learning model; and
    상기 성능 데이터로, 상기 제1 예측 오차 간의 차이와 상기 제2 예측 오차 간의 차이를 각각 산출하는 단계를 포함하는,Calculating a difference between the first prediction error and the second prediction error, respectively, with the performance data.
    지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 방법.A deep learning model creation method based on optimization strategy setting for intelligent object detection.
  3. 제2항에 있어서,According to claim 2,
    상기 이전 학습된 딥러닝 모델에서의 상기 학습 데이터 및 테스트 데이터에 대한 제1 및 제2 예측 오차를 측정하는 단계는,Measuring first and second prediction errors for the training data and the test data in the previously learned deep learning model,
    상기 이전 학습된 딥러닝 모델이 존재하지 않는 경우 상기 제1 및 제2 예측 오차를 0으로 설정하는 것인,Setting the first and second prediction errors to 0 when the previously trained deep learning model does not exist,
    지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 방법.A deep learning model creation method based on optimization strategy setting for intelligent object detection.
  4. 제2항에 있어서,According to claim 2,
    상기 측정된 성능 데이터를 기반으로 기 설정된 복수의 최적화 전략 중 어느 하나를 설정하는 단계는,Setting any one of a plurality of predetermined optimization strategies based on the measured performance data,
    상기 제1 예측 오차 간의 차이가 감소하고, 상기 제2 예측 오차 간의 차이가 감소한 경우, 현재 설정된 학습 환경을 유지하도록 하는 최적화 전략으로 설정하는 것인,Setting an optimization strategy to maintain a currently set learning environment when the difference between the first prediction errors decreases and the difference between the second prediction errors decreases,
    지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 방법.A deep learning model creation method based on optimization strategy setting for intelligent object detection.
  5. 제2항에 있어서,According to claim 2,
    상기 측정된 성능 데이터를 기반으로 기 설정된 복수의 최적화 전략 중 어느 하나를 설정하는 단계는,Setting any one of a plurality of predetermined optimization strategies based on the measured performance data,
    상기 제1 예측 오차 간의 차이가 감소하고, 상기 제2 예측 오차 간의 차이가 증가한 경우, 상기 학습 데이터를 증가시키도록 하는 최적화 전략으로 설정하는 것인,Setting an optimization strategy to increase the learning data when the difference between the first prediction errors decreases and the difference between the second prediction errors increases,
    지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 방법.A deep learning model creation method based on optimization strategy setting for intelligent object detection.
  6. 제2항에 있어서,According to claim 2,
    상기 측정된 성능 데이터를 기반으로 기 설정된 복수의 최적화 전략 중 어느 하나를 설정하는 단계는,Setting any one of a plurality of predetermined optimization strategies based on the measured performance data,
    상기 제1 예측 오차 간의 차이가 증가하고, 상기 제2 예측 오차 간의 차이가 감소한 경우, 상기 딥러닝 모델의 구조를 수정하는 최적화 전략 및 상기 학습 데이터를 재구성하는 최적화 전략 중 적어도 하나를 설정하는 것인,Setting at least one of an optimization strategy for modifying the structure of the deep learning model and an optimization strategy for reconstructing the learning data when the difference between the first prediction errors increases and the difference between the second prediction errors decreases ,
    지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 방법.A deep learning model creation method based on optimization strategy setting for intelligent object detection.
  7. 제2항에 있어서,According to claim 2,
    상기 측정된 성능 데이터를 기반으로 기 설정된 복수의 최적화 전략 중 어느 하나를 설정하는 단계는,Setting any one of a plurality of predetermined optimization strategies based on the measured performance data,
    상기 제1 예측 오차 간의 차이가 감소하고, 상기 제2 예측 오차 간의 차이가 감소한 경우, 상기 딥러닝 모델의 학습률을 감소시키는 최적화 전략 및 상기 딥러닝 모델의 학습 반복 횟수를 증가시키는 최적화 전략 중 적어도 하나를 적용하도록 설정하는 것인,When the difference between the first prediction errors decreases and the difference between the second prediction errors decreases, at least one of an optimization strategy for reducing the learning rate of the deep learning model and an optimization strategy for increasing the number of training iterations of the deep learning model. To set to apply,
    지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 방법.A deep learning model creation method based on optimization strategy setting for intelligent object detection.
  8. 지능형 객체 탐지를 위한 최적화 전략을 선택적으로 설정하여 딥러닝 모델을 학습하기 위한 프로그램이 저장된 메모리 및By selectively setting an optimization strategy for intelligent object detection, the memory and memory where the program for learning the deep learning model is stored
    상기 메모리에 저장된 프로그램을 실행시키는 프로세서를 포함하되,Including a processor that executes the program stored in the memory,
    상기 프로세서는 상기 프로그램을 실행시킴에 따라, 소정의 준비된 학습 데이터를 기반으로 객체 탐지를 위한 딥러닝 모델을 학습한 후, 상기 학습된 딥러닝 모델의 성능 데이터를 측정하고, 상기 측정된 성능 데이터를 기반으로 기 설정된 복수의 최적화 전략 중 어느 하나를 설정함에 따라 상기 딥러닝 모델을 갱신하여 상기 지능형 객체 탐지용 딥러닝 모델로 생성하고,As the program is executed, the processor learns a deep learning model for object detection based on predetermined prepared learning data, measures performance data of the learned deep learning model, and stores the measured performance data. Based on which one of a plurality of preset optimization strategies is set, the deep learning model is updated to generate the deep learning model for intelligent object detection,
    상기 프로세서는 현재 학습된 딥러닝 모델에서의 상기 학습 데이터 및 테스트 데이터에 대한 제1 및 제2 예측 오차와, 이전 학습된 딥러닝 모델에서의 상기 학습 데이터 및 테스트 데이터에 대한 제1 및 제2 예측 오차를 각각 산출하고, 상기 제1 예측 오차 간의 차이와 상기 제2 예측 오차 간의 차이를 각각 성능 데이터로 산출하는 것인,The processor determines first and second prediction errors for the training data and test data in a currently trained deep learning model, and first and second prediction errors for the training data and test data in a previously learned deep learning model. calculating errors, respectively, and calculating a difference between the first prediction errors and the second prediction errors as performance data;
    지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 시스템.Deep learning model generation system based on optimization strategy setting for intelligent object detection.
  9. 제8항에 있어서,According to claim 8,
    상기 프로세서는 상기 제1 예측 오차 간의 차이가 감소하고, 상기 제2 예측 오차 간의 차이가 감소한 경우, 현재 설정된 학습 환경을 유지하도록 하는 최적화 전략으로 설정하는 것인,Wherein the processor sets an optimization strategy to maintain a currently set learning environment when the difference between the first prediction errors decreases and the difference between the second prediction errors decreases,
    지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 시스템.Deep learning model creation system based on optimization strategy setting for intelligent object detection.
  10. 제8항에 있어서,According to claim 8,
    상기 프로세서는 상기 제1 예측 오차 간의 차이가 감소하고, 상기 제2 예측 오차 간의 차이가 증가한 경우, 상기 학습 데이터를 증가시키도록 하는 최적화 전략으로 설정하는 것인,Wherein the processor sets an optimization strategy to increase the training data when the difference between the first prediction errors decreases and the difference between the second prediction errors increases,
    지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 시스템.Deep learning model generation system based on optimization strategy setting for intelligent object detection.
  11. 제8항에 있어서,According to claim 8,
    상기 프로세서는 상기 제1 예측 오차 간의 차이가 증가하고, 상기 제2 예측 오차 간의 차이가 감소한 경우, 상기 딥러닝 모델의 구조를 수정하는 최적화 전략 및 상기 학습 데이터를 재구성하는 최적화 전략 중 적어도 하나를 설정하는 것인,The processor sets at least one of an optimization strategy for modifying the structure of the deep learning model and an optimization strategy for reconstructing the training data when the difference between the first prediction errors increases and the difference between the second prediction errors decreases. to do,
    지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 시스템.Deep learning model generation system based on optimization strategy setting for intelligent object detection.
  12. 제8항에 있어서,According to claim 8,
    상기 프로세서는 상기 제1 예측 오차 간의 차이가 감소하고, 상기 제2 예측 오차 간의 차이가 감소한 경우, 상기 딥러닝 모델의 학습률을 감소시키는 최적화 전략 및 상기 딥러닝 모델의 학습 반복 횟수를 증가시키는 최적화 전략 중 적어도 하나를 적용하도록 설정하는 것인,When the difference between the first prediction errors decreases and the difference between the second prediction errors decreases, the processor determines an optimization strategy for reducing the learning rate of the deep learning model and an optimization strategy for increasing the number of training iterations of the deep learning model. To set to apply at least one of,
    지능형 객체 탐지를 위한 최적화 전략 설정 기반 딥러닝 모델 생성 시스템.Deep learning model creation system based on optimization strategy setting for intelligent object detection.
PCT/KR2022/012448 2021-12-06 2022-08-19 Method and system for generating optimization strategy setting-based deep-learning model for smart object detection WO2023106552A1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2021-0173263 2021-12-06
KR1020210173263A KR20230085001A (en) 2021-12-06 2021-12-06 Method and system for creating deep learning model based on setting optimization strategy for intellignent object detection

Publications (1)

Publication Number Publication Date
WO2023106552A1 true WO2023106552A1 (en) 2023-06-15

Family

ID=86730779

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2022/012448 WO2023106552A1 (en) 2021-12-06 2022-08-19 Method and system for generating optimization strategy setting-based deep-learning model for smart object detection

Country Status (2)

Country Link
KR (1) KR20230085001A (en)
WO (1) WO2023106552A1 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102052624B1 (en) * 2018-11-09 2019-12-05 주식회사 루닛 Method for machine learning and apparatus for the same
KR20200015048A (en) * 2018-08-02 2020-02-12 삼성전자주식회사 Method and apparatus for selecting model of machine learning based on meta-learning
US20210241167A1 (en) * 2020-02-03 2021-08-05 Microsoft Technology Licensing, Llc Computing system for training, deploying, executing, and updating machine learning models
KR102321650B1 (en) * 2021-07-19 2021-11-04 주식회사 크라우드웍스 Method and apparatus for improving the learning performance of machine learning models according to the characteristics of crowdsourcing based on projects
KR102326740B1 (en) * 2021-04-30 2021-11-17 (주)제이엘케이 Method and apparatus for implementing automatic evolution platform through automatic machine learning

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102500975B1 (en) 2020-04-29 2023-02-21 한국건설기술연구원 Apparatus for learning deep learning model and method thereof

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200015048A (en) * 2018-08-02 2020-02-12 삼성전자주식회사 Method and apparatus for selecting model of machine learning based on meta-learning
KR102052624B1 (en) * 2018-11-09 2019-12-05 주식회사 루닛 Method for machine learning and apparatus for the same
US20210241167A1 (en) * 2020-02-03 2021-08-05 Microsoft Technology Licensing, Llc Computing system for training, deploying, executing, and updating machine learning models
KR102326740B1 (en) * 2021-04-30 2021-11-17 (주)제이엘케이 Method and apparatus for implementing automatic evolution platform through automatic machine learning
KR102321650B1 (en) * 2021-07-19 2021-11-04 주식회사 크라우드웍스 Method and apparatus for improving the learning performance of machine learning models according to the characteristics of crowdsourcing based on projects

Also Published As

Publication number Publication date
KR20230085001A (en) 2023-06-13

Similar Documents

Publication Publication Date Title
WO2022034983A1 (en) Battery cell defectiveness and fire early diagnosis method and apparatus based on neural network
CN110414376B (en) Method for updating face recognition model, face recognition camera and server
WO2020111754A9 (en) Method for providing diagnostic system using semi-supervised learning, and diagnostic system using same
WO2021071286A1 (en) Generative adversarial network-based medical image learning method and device
WO2021194056A1 (en) Method for training deep learning network based on artificial intelligence and learning device using the same
WO2021107422A1 (en) Nonintrusive load monitoring method using energy consumption data
CN113077052B (en) Reinforcement learning method, device, equipment and medium for sparse rewarding environment
WO2021071288A1 (en) Fracture diagnosis model training method and device
CN109615015A (en) A kind of data preprocessing method based on block chain intelligence contract and machine learning
WO2023106552A1 (en) Method and system for generating optimization strategy setting-based deep-learning model for smart object detection
CN112883380B (en) Big data component security risk analysis method and system of intelligent education platform
CN114519306A (en) Decentralized terminal node network model training method and system
WO2017188475A1 (en) Non-contact identification method and system, for energy home appliances, using total power consumption and composite sensor
CN114187534A (en) Detection method and device for suspended foreign matter of power transmission conductor, medium and terminal equipment
WO2023101480A1 (en) Systems and methods for intelligent management of a battery
WO2019164277A1 (en) Method and device for evaluating bleeding by using surgical image
WO2022108127A1 (en) Method and system for searching for stored cctv image based on photographing space information
WO2022158843A1 (en) Method for refining tissue specimen image, and computing system performing same
CN115543577A (en) Kubernetes resource scheduling optimization method based on covariates, storage medium and equipment
WO2024043390A1 (en) Deep learning model generation system and method based on hierarchical transfer learning for environmental information recognition
WO2023096091A1 (en) Depth image-based object detection system, and environment-adaptive deep learning model generation and application method therefor
WO2022019356A1 (en) Method for annotating pathogenic site of disease by means of semi-supervised learning, and diagnosis system for performing same
WO2020175729A1 (en) Apparatus and method for detecting facial feature point by using gaussian feature point map and regression scheme
CN111874768A (en) Method, device, equipment and system for detecting installation state of elevator component
WO2024075950A1 (en) Method and system for generating edge ai model for edge cctv

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22904388

Country of ref document: EP

Kind code of ref document: A1