KR102190303B1 - Cnn기반의 딥러닝 모델 학습장치 및 그 방법 - Google Patents

Cnn기반의 딥러닝 모델 학습장치 및 그 방법 Download PDF

Info

Publication number
KR102190303B1
KR102190303B1 KR1020180152507A KR20180152507A KR102190303B1 KR 102190303 B1 KR102190303 B1 KR 102190303B1 KR 1020180152507 A KR1020180152507 A KR 1020180152507A KR 20180152507 A KR20180152507 A KR 20180152507A KR 102190303 B1 KR102190303 B1 KR 102190303B1
Authority
KR
South Korea
Prior art keywords
deep learning
feature
learning model
group
retraining
Prior art date
Application number
KR1020180152507A
Other languages
English (en)
Other versions
KR20200072588A (ko
Inventor
강명주
곽지훈
노형민
김현욱
서현
Original Assignee
서울대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 서울대학교 산학협력단 filed Critical 서울대학교 산학협력단
Priority to KR1020180152507A priority Critical patent/KR102190303B1/ko
Publication of KR20200072588A publication Critical patent/KR20200072588A/ko
Application granted granted Critical
Publication of KR102190303B1 publication Critical patent/KR102190303B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)

Abstract

본 발명은 CNN을 이용한 딥러닝 모델에 대하여 어느정도 수준으로 학습을 진행 시킨 이후 각 학습 데이터의 정확도를 산출하여 정확도가 부족한 학습데이터들을 위주로 추가 학습하는 기술에 관한 것으로, 선행 학습 수행부, 특징 값 추출부, 특징 그룹 생성부, 그룹별 정확도 산정부, 재학습 대상 그룹 선정부, 재학습 수행부를 포함할 수 있으며, 상대적으로 적은 연산자원에서도 원활하게 학습을 수행할 수 있을 뿐만 아니라, 동일한 연산 자원 상황에서는 학습 시간을 절감시키는 효과를 제공할 수 있다.

Description

CNN기반의 딥러닝 모델 학습장치 및 그 방법{deep-learning model learning apparatus based CNN and method therefor}
본 발명은 CNN을 기반으로 하는 신경망으로 구성된 딥러닝 모델의 효율적인 학습에 대한 기술로서 더 자세하게는 CNN을 이용한 딥러닝 모델에 대하여 어느정도 수준으로 학습을 진행 시킨 이후 각 학습 데이터의 정확도를 산출하여 정확도가 부족한 학습데이터들을 위주로 추가 학습 시킴으로써 더 효율적인 딥러닝 모델의 학습을 가능하게 하는 CNN기반의 딥러닝 모델 학습장치 및 그 방법을 제공하는 것을 목적으로 한다.
최근 딥러닝(deep learning) 기술이 다양한 분야에서 적용되고 있으며, 특히 객체 인식(object recognition) 분야에서는 딥러닝의 일종인 CNN(convolutional neural network)이 각광받고 있다.
CNN은 사람이 물체를 인식할 때 물체의 기본적인 특징들을 추출한 다음 뇌 속에서 복잡한 계산을 거쳐 그 결과 를 기반으로 물체를 인식한다는 가정을 기반으로 만들어진 사람의 뇌 기능을 모사한 모델이다.
CNN에서는 기본 적으로 컨볼루션(convolution) 연산을 통해 영상의 특징을 추출하기 위한 다양한 필터와 비선형적인 특성을 더 하기 위한 풀링(pooling) 또는 비선형 활성화(non-linear activation) 함수 등이 함께 사용된다.
한편, CNN은 모델은 학습 데이터를 이용한 학습이 많이 수행될수록 인식에 대한 정확도가 높아질 수 있다.
그러나 학습 데이터의 갯수 및 용량은 큰 경우가 일반적으로 상당한 규모인 가능성이 높기 때문에 막대한 연산자원을 요구하게 되며, 동일한 연산 자원 환경에서는 더 많이 학습을 시킬수록 학습에 더 많은 시간이 소요되는 한계점이 존재한다.
본 발명은 종래의 CNN을 이용한 딥러닝 모델의 학습에 있어 막대한 양의 학습 데이터를 상당한 횟수로 반복하여 학습을 하며 소요되는 막대한 연산자원 및 학습시간을 절감하기 위하여 CNN을 이용한 딥러닝 모델에 대하여 어느정도 수준으로 학습을 진행 시킨 이후 각 학습 데이터의 정확도를 산출하여 정확도가 부족한 학습데이터들을 위주로 추가 학습 시킴으로써 학습 데이터 전부를 재학습 시키는 것에 비하여 적은 연산 자원 및 같은 연산자원일 때 적은 학습 시간으로 학습을 수행할 수 있는 CNN기반의 딥러닝 모델 학습장치 및 그 방법을 제공하는 것에 그 목적이 있다.
본 발명이 실시 예에 따르면 CNN기반의 딥러닝 모델 학습장치 프로세서에 의하여 동작하는 n개의 합성곱 레이어를 포함하는 합성곱 신경망으로 이루어진 딥러닝 모델을 이용하여, 복수의 학습 데이터를 하나의 합성곱 신경망에 입력하여 딥러닝 모델의 학습을 수행하는 선행 학습 수행부; 상기 학습된 딥러닝 모델을 이용하여 상기 데이터 세트에 포함된 학습 데이터 별로 특징 값을 추출하는 특징 값 추출부; 상기 추출된 복수의 특징 값들을 기준으로 복수의 특징 그룹을 생성하는 특징 그룹 생성부; 상기 생성된 복수의 특징 그룹의 정확도를 그룹 별로 산정하는 그룹별 정확도 산정부; 상기 산정된 그룹별 정확도에 따라 상기 복수의 특징 그룹 중 적어도 하나의 그룹을 재학습 대상 그룹으로 선정하는 재학습 대상 그룹 선정부; 및 상기 선정된 재학습 대상 그룹을 기준으로 선정된 재학습 데이터를 이용해 딥러닝 모델의 재학습을 수행하는 재학습 수행부를 포함할 수 있다.
본 발명의 일 실시 예에 따르면 상기 선행 학습 수행부는, 복수의 학습 데이터를 하나의 데이터 세트로 구성하고, 상기 데이터 세트를 미리 설정된 선행 딥러닝 학습 횟수만큼 합성곱 신경망에 입력하여 딥러닝 모델의 학습을 수행할 수 있다.
본 발명의 일 실시 예에 따르면 상기 특징 그룹 생성부는, 상기 추출된 복수의 특징 값들을 정규화하고, 상기 정규화 된 복수의 특징 값들을 미리 설정된 범위별로 나누어 복수의 특징 그룹을 생성할 수 있다.
본 발명의 일 실시 예에 따르면 상기 재학습 수행부는, 상기 선정된 재학습 대상 그룹에 포함된 특징 값과 매칭되는 복수의 학습 데이터를 재학습 데이터로 선정하고, 상기 재학습 데이터만을 상기 합성곱 신경망에 입력하여 딥러닝 모델의 재학습을 수행할 수 있다.
본 발명의 일 실시 예에 따르면 상기 재 학습된 딥러닝 모델을 이용하여 상기 학습 데이터에 대한 각각의 특징 값을 다시 추출하고, 상기 특징 값을 이용하여 재학습 대상으로 선정된 재학습 데이터를 이용하여 상기 딥러닝 모델을 재학습 시키는 것을 미리 설정된 횟수만큼 수행할 수 있다.
본 발명의 일 실시 예에 따르면 상기 특징 값 추출부는, 상기 학습 데이터를 n-1 번째 레이어까지 통과 시켜 연산된 다수의 벡터 값에 대한 평균을 각 특징에 대한 특징 값으로 결정할 수 있다.
본 발명의 일 실시 예에 따르면 상기 그룹별 정확도 산정부는, 상기 특징 그룹에 포함된 복수의 특징 값에 각각 매칭되는 학습 데이터에 대한 딥러닝 연산 결과 정확도를 산정하고, 상기 산정된 복수의 딥러닝 연산 결과 정확도의 총합을 평균 내어 그룹별 정확도를 산정할 수 있다.
본 발명의 일 실시 예에 따르면 상기 재학습 대상 그룹 선정부는, 상기 복수의 특징 그룹 중 미리 설정된 하위 분포 이하의 그룹별 정확도를 가지는 특징 그룹을 재학습 대상 그룹으로 선정할 수 있다.
본 발명의 일 실시 예에 따르면 상기 학습데이터를 n개의 합성곱 레이어를 포함하는 합성곱 신경망에 입력하여 n-2 번째 레이어를 거치면 2차원 행렬이 복수로 겹쳐진 형태로 존재하며, n-1 번째 레이어를 거치면 1차원 벡터 행렬의 형태로 존재할 수 있다.
본 발명의 실시 예에 따르면 CNN기반의 딥러닝 모델 학습방법은 프로세서에 의하여 동작하는 n개의 합성곱 레이어를 포함하는 합성곱 신경망으로 이루어진 딥러닝 모델을 이용하여, 복수의 학습 데이터를 하나의 합성곱 신경망에 입력하여 딥러닝 모델의 학습을 수행하는 단계; 상기 학습된 딥러닝 모델을 이용하여 상기 데이터 세트에 포함된 학습 데이터 별로 특징 값을 추출하는 단계; 상기 추출된 복수의 특징 값들을 기준으로 복수의 특징 그룹을 생성하는 단계; 상기 생성된 복수의 특징 그룹의 정확도를 그룹 별로 산정하는 단계; 상기 산정된 그룹별 정확도에 따라 상기 복수의 특징 그룹 중 적어도 하나의 그룹을 재학습 대상 그룹으로 선정하는 단계; 및 상기 선정된 재학습 대상 그룹을 기준으로 선정된 재학습 데이터를 이용해 딥러닝 모델의 재학습을 수행하는 단계를 포함할 수 있다.
본 발명의 일 실시 예에 따르면 상기 딥러닝 모델의 학습을 수행하는 단계는, 복수의 학습 데이터를 하나의 데이터 세트로 구성하고, 상기 데이터 세트를 미리 설정된 선행 딥러닝 학습 횟수만큼 합성곱 신경망에 입력하여 딥러닝 모델의 학습을 수행할 수 있다.
본 발명의 일 실시 예에 따르면 상기 특징 그룹을 생성하는 단계는, 상기 추출된 복수의 특징 값들을 정규화하고, 상기 정규화 된 복수의 특징 값들을 미리 설정된 범위별로 나누어 복수의 특징 그룹을 생성할 수 있다.
본 발명의 일 실시 예에 따르면 상기 재학습을 수행하는 단계는, 상기 선정된 재학습 대상 그룹에 포함된 특징 값과 매칭되는 복수의 학습 데이터를 재학습 데이터로 선정하고, 상기 재학습 데이터만을 상기 합성곱 신경망에 입력하여 딥러닝 모델의 재학습을 수행할 수 있다.
본 발명의 일 실시 예에 따르면 상기 재학습된 딥러닝 모델을 이용하여 상기 학습 데이터에 대한 각각의 특징 값을 다시 추출하고, 상기 특징 값을 이용하여 재학습 대상으로 선정된 재학습 데이터를 이용하여 상기 딥러닝 모델을 재학습 시키는 것을 미리 설정된 횟수만큼 수행할 수 있다.
본 발명의 일 실시 예에 따르면 상기 특징 값을 추출하는 단계는, 상기 학습 데이터를 n-1 번째 레이어까지 통과 시켜 연산된 다수의 벡터 값에 대한 평균을 각 특징에 대한 특징 값으로 결정할 수 있다.
본 발명의 일 실시 예에 따르면 상기 정확도를 그룹 별로 산정하는 단계는,
상기 특징 그룹에 포함된 복수의 특징 값에 각각 매칭되는 학습 데이터에 대한 딥러닝 연산 결과 정확도를 산정하고, 상기 산정된 복수의 딥러닝 연산 결과 정확도의 총합을 평균 내어 그룹별 정확도를 산정할 수 있다.
본 발명의 일 실시 예에 따르면 상기 재학습 대상 그룹으로 선정하는 단계는,상기 복수의 특징 그룹 중 미리 설정된 하위 분포 이하의 그룹별 정확도를 가지는 특징 그룹을 재학습 대상 그룹으로 선정할 수 있다.
본 발명의 일 실시 예에 따르면 상기 학습데이터를 n개의 합성곱 레이어를 포함하는 합성곱 신경망에 입력하여 n-2 번째 레이어를 거치면 2차원 행렬이 복수로 겹쳐진 형태로 존재하며, n-1 번째 레이어를 거치면 1차원 벡터 행렬의 형태로 존재할 수 있다.
본 발명에 따르면 일정수준으로 학습된 CNN기반의 딥러닝 모델을 이용하여 학습에 사용된 전제 학습 데이터 각각의 정확도를 산출하여 정확도가 상대적으로 낮은 학습 데이터들만 추가로 재학습을 수행하는 방법을 수행함으로써 상대적으로 적은 연산자원에서도 원활하게 학습을 수행할 수 있을 뿐만 아니라, 동일한 연산 자원 상황에서는 학습 시간을 절감시키는 효과를 제공할 수 있다.
도 1은 본 발명의 실시 예에 따른 CNN기반의 딥러닝 모델 학습장치의 구성도이다.
도 2는 본 발명의 실시 예에 따른 CNN기반의 딥러닝 모델에서의 데이터 흐름을 나타내는 도면이다.
도 3은 본 발명의 실시 예에 따른 본 발명의 실시 예에 따른 CNN기반의 딥러닝 모델 학습방법의 흐름도이다.
아래에서는 첨부한 도면을 참고로 하여 본 발명의 실시 예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시 예에 한정되지 않는다.
그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성 요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
이하, 도면을 참조하여 본 발명의 실시 예에 따른 CNN기반의 딥러닝 모델 학습장치 및 그 방법에 대하여 설명한다.
도 1은 본 발명의 실시 예에 따른 CNN기반의 딥러닝 모델 학습장치 및 그 방법(1000)의 구성도이다.
본 발명의 실시 예에 따르면 CNN기반의 딥러닝 모델 학습장치(1000)는 프로세서에 의하여 동작하는 n개의 합성곱 레이어를 포함하는 합성곱 신경망을 이용하여 딥러닝 모델을 학습시킬 수 잇다.
도 1을 참조하면 CNN기반의 딥러닝 모델 학습장치(1000)는 선행 학습 수행부 (100), 특징 값 추출부(200), 특징 그룹 생성부(300), 그룹별 정확도 산정부(400), 재학습 대상 그룹 선정부(500), 재학습 수행부(600)를 포함할 수 있다.
선행 학습 수행부 (100)는 복수의 학습 데이터를 하나의 합성곱 신경망에 입력하여 딥러닝 모델의 학습을 수행할 수 있다.
본 발명의 일 실시 예에 따르면 학습 데이터로는 이미지 데이터가 사용될 수 있으나 이에 한정되지 아니하고, 다양한 형식과 크기, 종류의 데이터가 사용될 수 있으며, 이러한 다양한 데이터들은 학습을 위해 전처리(preprocess)단계를 통해 표준화된 형식과 규격으로 변환할 수 있다.
본 발명의 일 실시 예에 따르면 선행 학습 수행부(100)는 복수의 학습 데이터를 하나의 데이터 세트로 구성하고, 상기 데이터 세트를 미리 설정된 선행 딥러닝 학습 횟수만큼 합성곱 신경망에 입력하여 딥러닝 모델의 학습을 수행할 수 있다.
상기 실시 예에 따르면 복수의 학습 데이터를 포함하는 데이터 세트를 이용하여 딥러닝 모델을 반복학습 시킬 수 있다.
본 발명의 일 실시 예에 따르면 일정 수준 이상 학습된 딥러닝 모델이 존재하여야 이를 이용하여 학습 데이터 별 정확도를 산정하여 특정 데이터만 반복 학습을 할 수 있다.
따라서 일정 수준 이상의 학습을 위해 미리 설정된 선행 딥러닝 학습 횟수는 학습을 위해 할당된 총 연산자원 중 50%정도에 해당하는 학습횟수로 설정할 수 있으나, 이에 한정되지 아니하며 유의미한 정확도를 판단할 수 있는 수준이라면 제한 없이 사용될 수 있다.
특징 값 추출부(200)는 학습된 딥러닝 모델을 이용하여 데이터 세트에 포함된 학습 데이터 별로 특징 값을 추출할 수 있다.
본 발명의 일 실시 예에 따르면 일정 수준으로 학습된 딥러닝 모델에 데이터 세트를 입력하고 전체 합성곱 레이어 중에서 일정 단계의 레이어 까지만 연산하는 방법으로 학습 데이터 별 특징 값을 추출할 수 있다.
본 발명의 일 실시 예에 따르면 특징 값 추출부(200)는 학습 데이터를 n-1 번째 레이어까지 통과 시켜 연산된 다수의 벡터 값에 대한 평균을 각 특징에 대한 특징 값으로 결정할 수 있다.
본 발명의 일 실시 예에 따르면 CNN기반의 딥러닝 모델 학습장치(1000)는 학습데이터를 n개의 합성곱 레이어를 포함하는 합성곱 신경망에 입력하여 n-2 번째 레이어를 거치면 2차원 행렬이 복수로 겹쳐진 형태로 존재하며, n-1 번째 레이어를 거치면 1차원 벡터 행렬의 형태로 존재할 수 있다.
상기 실시 예에 따르면 각 학습 데이터 별 특징 값은 학습 데이터를 n-1 번째 레이어까지 거쳐 연산을 수행시키면 산출되는 1차원 벡터 행렬의 형태를 가지고 있는 다수의 벡터 값들에 평균 값일 수 있다.
본 발명의 일 실시 예에 따르면 학습 데이터로 사용된 이미지 1장에 대하여 입력된 이미지에 대응하는 특징 값을 1개 얻을 수 있다.
본 발명의 일 실시 예에 따르면 딥러닝 모델을 학습 시킬 학습 데이터가 만약 이미지 100장이라면 각 이미지를 합성곱 신경망에 입력하여 이미지 당 1회씩, 총 100회 진행하여 각 이미지에 대응하는 특징 값 100개를 얻을 수 있다.
특징 그룹 생성부(300)는 추출된 복수의 특징 값들을 기준으로 복수의 특징 그룹을 생성할 수 있다.
본 발명의 일 실시 예에 따르면 학습 데이터의 수만큼 생성된 특징 값들을 일정한 범위로 나누어 특징 그룹을 생성 할 수 있다.
상기 일정한 범위의 기준은 특징 값의 범위일 수도 있으나, 학습 데이터의 수가 기준이 될 수 있다.
본 발명의 일 실시 예에 따르면 특징 그룹 생성부(300)는 추출된 복수의 특징 값들을 정규화하고, 정규화된 복수의 특징 값들을 미리 설정된 범위별로 나누어 복수의 특징 그룹을 생성할 수 있다.
상기 실시 예에 따르면 각 학습 데이터에 대응하는 특징 값은 딥러닝 모델에 따라 다양한 분포를 가질 수 있으며, 랜덤하게 진행되는 딥러닝 학습 알고리즘의 특성으로 인해 정확한 분포를 예측하는 것은 불가능하기 때문에 추출된 복수의 특징 값들을 정규화 할 필요가 존재한다.
이렇게 정규화를 거쳐 특징 값의 분포가 0~100이 되었다면, 특징 값이 0~10인 학습 데이터를 하나의 배치로 묶고, 특징 값이 10~20인 학습 데이터를 다른 하나의 배치로 묶는 등 학습 데이터를 각각의 특징 값의 크기에 따라 여러 그룹으로 나눌 수 있다.
그룹별 정확도 산정부(400)는 생성된 복수의 특징 그룹의 정확도를 그룹 별로 산정할 수 있다.
본 발명의 일 실시 예에 따르면 그룹별 정확도 산정부(400)는 특징 그룹에 포함된 복수의 특징 값에 각각 매칭되는 학습 데이터에 대한 딥러닝 연산 결과 정확도를 산정하고, 산정된 복수의 딥러닝 연산 결과 정확도의 총합을 평균 내어 그룹별 정확도를 산정할 수 있다.
본 발명의 일 실시 예에 따르면 특징 그룹의 정확도는 각 학습 데이터를 딥러닝 모델을 통과 시킨 결과가 실제 정답과 부합하는지 여부를 수치화 하여 산출할 수 있다.
예를 들어 학습 데이터로 사용된 이미지에 포함된 객체가 자동차인 경우 딥러닝 모델의 통해 나온 결과가 자동차로 인식되면 정답에 부합하는 것이고 다른 객체로 인식된 것이면 정답에 부합하지 않는 것으로 판단할 수 있다.
이렇게 산출한 학습 데이터의 정확도를 이용하여 특징 그룹에 포함된 특징 값에 매칭되는 학습 데이터의 정확도의 총합을 평균 내어 그룹별 정확도를 산출할 수 있다
재학습 대상 그룹 선정부(500)는 산정된 그룹별 정확도에 따라 복수의 특징 그룹 중 적어도 하나의 그룹을 재학습 대상 그룹으로 선정할 수 있다.
본 발명의 일 실시 예에 따르면 재학습 대상 그룹 선정부(500)는 복수의 특징 그룹 중 미리 설정된 하위 분포 이하의 그룹별 정확도를 가지는 특징 그룹을 재학습 대상 그룹으로 선정할 수 있다.
본 발명의 일 실시 예에 따르면 그룹별 정확도가 낮은 특징 그룹의 경우 학습이 덜 진행된 것으로 판단할 수 있으며, 반대로 그룹별 정확도가 높은 특징 그룹은 학습이 비교적 잘 진행된 것으로 판단할 수 있으므로 미리 설정된 하위 분포 이하의 특징 그룹을 재학습 대상 그룹으로 선정하여 재학습 할 수 있다.
재학습 수행부(600)는 재학습 대상 그룹을 기준으로 선정된 재학습 데이터를 이용해 딥러닝 모델의 재학습을 수행할 수 있다.
본 발명의 일 실시 예에 따르면 재학습 수행부(600)는 선정된 재학습 대상 그룹에 포함된 특징 값과 매칭되는 복수의 학습 데이터를 재학습 데이터로 선정하고, 재학습 데이터만을 상기 합성곱 신경망에 입력하여 딥러닝 모델의 재학습을 수행할 수 있다.
본 발명의 일 실시 예에 따르면 재학습된 딥러닝 모델을 이용하여 상기 학습 데이터에 대한 각각의 특징 값을 다시 추출하고, 상기 특징 값을 이용하여 재학습 대상으로 선정된 재학습 데이터를 이용하여 상기 딥러닝 모델을 재학습 시키는 것을 미리 설정된 횟수만큼 수행할 수 있다.
본 발명의 일 실시 예에 따르면 특징 그룹 중 하위 50% 이하의 그룹별 정확도를 가지는 특징 그룹을 재학습 대상 그룹으로 선정할 수 있으며, 재학습 대상 그룹에 포함된 특징 값과 매칭되는 복수의 학습 데이터를 재학습 데이터로 선정하고 재학습 데이터만을 합성곱 신경망에 입력하여 딥러닝 모델의 재학습을 수행할 수 있다.
이렇게 재학습을 수행하고 나면 재학습 대상 그룹으로 선정되었던 특징 그룹의 그룹별 정확도는 상승할 것이고, 선정되지 아니하였던 특징 그룹의 그룹별 정확도는 그대로 일 것이므로 다시 그룹별 정확도를 산정한 뒤, 재 산정된 그룹별 정확도를 기준으로 다시 하위 50% 이하의 특징 그룹을 활용하여 딥러닝 모델의 학습을 진행할 수 있다.
기존의 딥러닝 학습 방법으로 통해서는 예를 들어 100개 데이터를 이용하여 딥러닝 모델의 학습을 100회 반복(100epoch)하여 10,000 iteration 만큼 학습하는 과정을 본 발명의 일 실시 예에 따르면 100개 데이터의 학습을 50회 반복하고, 그룹별 정확도 하위 50% 이하의 그룹에 포함된 50개 학습 데이터의 학습을 50회 반복 하여 학습 단위를 7,500 iteration으로 줄일 수 있으므로 학습으로 인한 정확도를 유지하면서도 학습에 필요한 시간 또는 연산자원을 25% 절감하는 효과를 얻을 수 있다.
도 2는 본 발명의 실시 예에 따른 CNN기반의 딥러닝 모델에서의 데이터 흐름을 나타내는 도면이다.
도 2를 참조하면 일반적인 CNN기반의 딥러닝 모델의 구조와 매칭되는 본 발명의 딥러닝 모델 학습장치(1000)에서의 데이터 흐름이 나타나 있다.
본 발명의 일 실시 예에 따르면 일반적인 딥러닝 학습방법과 차이가 존재한다.
일반적인 딥러닝 학습 방법은 합성곱 신경망에서 feedforward 연산을 수행하여 연산 결과 값(7), 즉 n번째 레이어 까지 수행한 연산 값을 기준으로 딥러닝 모델을 구성하는 변수를 재구성하는 것에 반하여, 본 발명의 일 실시 예에 따르면 feedforward 연산을 수행하는 것은 동일하나 연산 결과 값(7)의 전 단계인 즉 n-1번째 레이어 까지 연산을 수행하여 산출한 특징 값(6)을 기준으로 기준으로 학습 데이터 재구성할 수 있다.
또한 본 발명의 일 실시 예에 따르면 n-2번째 레이어의 연산 결과 값(5)은 2차원 행렬이 여러 장 겹쳐진 형태로 존재할 수 있으며. 대표적인 딥러닝 모델들의 행렬 크기를 예를 들면 VGG16: 7x7 행렬 512장, ResNet34: 3x3 행렬 512장, ResNet101: 1x1 행렬 2048장, DenseNet121: 7x7 행렬 1024장의 크기를 가질 수 있다.
또한 상기 실시 예에 따르면 n-1번째 레이어 까지 연산을 수행하여 산출한 특징 값(6)은 1차원으로 벡터 행렬 형태를 가질 수 있으며, 대표적인 딥러닝 모델들의 행렬 크기를 예를 들면 VGG16: 7*7*512= 20,588 dim 벡터, ResNet34: 3*3*512= 4,608 dim 벡터, ResNet101: 1*1*2028=2,048 dim 벡터, DenseNet121: 7*7*1024=50,176 dim 벡터의 크기를 가질 수 있다.
도 3은 본 발명의 실시 예에 따른 본 발명의 실시 예에 따른 CNN기반의 딥러닝 모델 학습방법의 흐름도이다.
딥러닝 모델의 학습을 수행한다(310).
본 발명의 일 실시 예에 따르면 복수의 학습 데이터를 하나의 데이터 세트로 구성하고, 상기 데이터 세트를 미리 설정된 선행 딥러닝 학습 횟수만큼 합성곱 신경망에 입력하여 딥러닝 모델의 학습을 수행할 수 있다.
상기 실시 예에 따르면 복수의 학습 데이터를 포함하는 데이터 세트를 이용하여 딥러닝 모델을 반복학습 시킬 수 있다.
본 발명의 일 실시 예에 따르면 일정 수준 이상 학습된 딥러닝 모델이 존재하여야 이를 이용하여 학습 데이터 별 정확도를 산정하여 특정 데이터만 반복 학습을 할 수 있다.
따라서 일정 수준 이상의 학습을 위해 미리 설정된 선행 딥러닝 학습 횟수는 학습을 위해 할당된 총 연산자원 중 50%정도에 해당하는 학습횟수로 설정할 수 있으나, 이에 한정되지 아니하며 유의미한 정확도를 판단할 수 있는 수준이라면 제한 없이 사용될 수 있다.
학습 데이터 별로 특징 값을 추출한다(320).
본 발명의 일 실시 예에 따르면 학습된 딥러닝 모델을 이용하여 데이터 세트에 포함된 학습 데이터 별로 특징 값을 추출할 수 있다.
본 발명의 일 실시 예에 따르면 일정 수준으로 학습된 딥러닝 모델에 데이터 세트를 입력하고 전체 합성곱 레이어 중에서 일정 단계의 레이어 까지만 연산하는 방법으로 학습 데이터 별 특징 값을 추출할 수 있다.
본 발명의 일 실시 예에 따르면 학습 데이터를 n-1 번째 레이어까지 통과 시켜 연산된 다수의 벡터 값에 대한 평균을 각 특징에 대한 특징 값으로 결정할 수 있다.
본 발명의 일 실시 예에 따르면 학습데이터를 n개의 합성곱 레이어를 포함하는 합성곱 신경망에 입력하여 n-2 번째 레이어를 거치면 2차원 행렬이 복수로 겹쳐진 형태로 존재하며, n-1 번째 레이어를 거치면 1차원 벡터 행렬의 형태로 존재할 수 있다.
상기 실시 예에 따르면 각 학습 데이터 별 특징 값은 학습 데이터를 n-1 번째 레이어까지 거쳐 연산을 수행시키면 산출되는 1차원 벡터 행렬의 형태를 가지고 있는 다수의 벡터 값들에 평균 값일 수 있다.
본 발명의 일 실시 예에 따르면 학습 데이터로 사용된 이미지 1장에 대하여 입력된 이미지에 대응하는 특징 값을 1개 얻을 수 있다.
본 발명의 일 실시 예에 따르면 딥러닝 모델을 학습 시킬 학습 데이터가 만약 이미지 100장이라면 각 이미지를 합성곱 신경망에 입력하여 이미지 당 1회씩, 총 100회 진행하여 각 이미지에 대응하는 특징 값 100개를 얻을 수 있다.
복수의 특징 그룹을 생성한다(330).
본 발명의 일 실시 예에 따르면 추출된 복수의 특징 값들을 기준으로 복수의 특징 그룹을 생성할 수 있다.
본 발명의 일 실시 예에 따르면 학습 데이터의 수만큼 생성된 특징 값들을 일정한 범위로 나누어 특징 그룹을 생성 할 수 있다.
상기 일정한 범위의 기준은 특징 값의 범위일 수도 있으나, 학습 데이터의 수가 기준이 될 수 있다.
본 발명의 일 실시 예에 따르면 추출된 복수의 특징 값들을 정규화하고, 정규화 된 복수의 특징 값들을 미리 설정된 범위별로 나누어 복수의 특징 그룹을 생성할 수 있다.
상기 실시 예에 따르면 각 학습 데이터에 대응하는 특징 값은 딥러닝 모델에 따라 다양한 분포를 가질 수 있으며, 랜덤하게 진행되는 딥러닝 학습 알고리즘의 특성으로 인해 정확한 분포를 예측하는 것은 불가능하기 때문에 추출된 복수의 특징 값들을 정규화 할 필요가 존재한다.
이렇게 정규화를 거쳐 특징 값의 분포가 0~100이 되었다면, 특징 값이 0~10인 학습 데이터를 하나의 배치로 묶고, 특징 값이 10~20인 학습 데이터를 다른 하나의 배치로 묶는 등 학습 데이터를 각각의 특징 값의 크기에 따라 여러 그룹으로 나눌 수 있다.
특징 그룹의 정확도를 그룹 별로 산정한다(340)
본 발명의 일 실시 예에 따르면 생성된 복수의 특징 그룹의 정확도를 그룹 별로 산정할 수 있다.
본 발명의 일 실시 예에 따르면 특징 그룹에 포함된 복수의 특징 값에 각각 매칭되는 학습 데이터에 대한 딥러닝 연산 결과 정확도를 산정하고, 산정된 복수의 딥러닝 연산 결과 정확도의 총합을 평균 내어 그룹별 정확도를 산정할 수 있다.
본 발명의 일 실시 예에 따르면 특징 그룹의 정확도는 각 학습 데이터를 딥러닝 모델을 통과 시킨 결과가 실제 정답과 부합하는지 여부를 수치화 하여 산출할 수 있다.
재학습 대상 그룹을 선정한다(350).
본 발명의 일 실시 예에 따르면 산정된 그룹별 정확도에 따라 복수의 특징 그룹 중 적어도 하나의 그룹을 재학습 대상 그룹으로 선정할 수 있다.
본 발명의 일 실시 예에 따르면 복수의 특징 그룹 중 미리 설정된 하위 분포 이하의 그룹별 정확도를 가지는 특징 그룹을 재학습 대상 그룹으로 선정할 수 있다.
본 발명의 일 실시 예에 따르면 그룹별 정확도가 낮은 특징 그룹의 경우 학습이 덜 진행된 것으로 판단할 수 있으며, 반대로 그룹별 정확도가 높은 특징 그룹은 학습이 비교적 잘 진행된 것으로 판단할 수 있으므로 미리 설정된 하위 분포 이하의 특징 그룹을 재학습 대상 그룹으로 선정하여 재학습 할 수 있다.
딥러닝 모델의 재학습을 수행한다(360).
본 발명의 일 실시 예에 따르면 재학습 대상 그룹을 기준으로 선정된 재학습 데이터를 이용해 딥러닝 모델의 재학습을 수행할 수 있다.
본 발명의 일 실시 예에 따르면 선정된 재학습 대상 그룹에 포함된 특징 값과 매칭되는 복수의 학습 데이터를 재학습 데이터로 선정하고, 재학습 데이터만을 상기 합성곱 신경망에 입력하여 딥러닝 모델의 재학습을 수행할 수 있다.
본 발명의 일 실시 예에 따르면 재 학습된 딥러닝 모델을 이용하여 상기 학습 데이터에 대한 각각의 특징 값을 다시 추출하고, 상기 특징 값을 이용하여 재학습 대상으로 선정된 재학습 데이터를 이용하여 상기 딥러닝 모델을 재학습 시키는 것을 미리 설정된 횟수만큼 수행할 수 있다.
본 발명의 일 실시 예에 따르면 특징 그룹 중 하위 50% 이하의 그룹별 정확도를 가지는 특징 그룹을 재학습 대상 그룹으로 선정할 수 있으며, 재학습 대상 그룹에 포함된 특징 값과 매칭되는 복수의 학습 데이터를 재학습 데이터로 선정하고 재학습 데이터만을 합성곱 신경망에 입력하여 딥러닝 모델의 재학습을 수행할 수 있다.
본 발명의 실시 예는 이상에서 설명한 장치 및/또는 방법을 통해서만 구현이 되는 것은 아니며, 이상에서 본 발명의 실시 예에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속하는 것이다.
100 : 선행 학습 수행부 200 : 특징 값 추출부
300 : 특징 그룹 생성부 400 : 그룹별 정확도 산정부
500 : 재학습 대상 그룹 선정부 600 : 재학습 수행부
1000 : 딥러닝 모델 학습장치

Claims (18)

  1. 프로세서에 의하여 동작하는 n개의 합성곱 레이어를 포함하는 합성곱 신경망으로 이루어진 딥러닝 모델을 이용하여,
    복수의 학습 데이터를 하나의 데이터 세트로 구성하고, 상기 복수의 학습 데이터를 하나의 합성곱 신경망에 입력하여 딥러닝 모델의 학습을 수행하는 선행 학습 수행부;
    상기 학습된 딥러닝 모델을 이용하여 상기 데이터 세트에 포함된 학습 데이터 별로 특징 값을 추출하는 특징 값 추출부;
    상기 추출된 복수의 특징 값들을 기준으로 복수의 특징 그룹을 생성하는 특징 그룹 생성부;
    상기 생성된 복수의 특징 그룹의 정확도를 그룹 별로 산정하는 그룹별 정확도 산정부;
    상기 산정된 그룹별 정확도에 따라 상기 복수의 특징 그룹 중 적어도 하나의 그룹을 재학습 대상 그룹으로 선정하는 재학습 대상 그룹 선정부; 및
    상기 선정된 재학습 대상 그룹을 기준으로 선정된 재학습 데이터를 이용해 딥러닝 모델의 재학습을 수행하는 재학습 수행부를 포함하며,
    상기 재학습 대상 그룹 선정부는,
    상기 복수의 특징 그룹 중 미리 설정된 하위 분포 이하의 그룹별 정확도를 가지는 특징 그룹을 재학습 대상 그룹으로 선정하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습장치.
  2. 제 1 항에 있어서 상기 선행 학습 수행부는,
    상기 데이터 세트를 미리 설정된 선행 딥러닝 학습 횟수만큼 합성곱 신경망에 입력하여 딥러닝 모델의 학습을 수행하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습장치.
  3. 제 1 항에 있어서 상기 특징 그룹 생성부는,
    상기 추출된 복수의 특징 값들을 정규화하고, 상기 정규화된 복수의 특징 값들을 미리 설정된 범위별로 나누어 복수의 특징 그룹을 생성하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습장치.
  4. 제 1 항에 있어서 상기 재학습 수행부는,
    상기 선정된 재학습 대상 그룹에 포함된 특징 값과 매칭되는 복수의 학습 데이터를 재학습 데이터로 선정하고, 상기 재학습 데이터만을 상기 합성곱 신경망에 입력하여 딥러닝 모델의 재학습을 수행하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습장치.
  5. 제 1 항에 있어서,
    상기 재학습된 딥러닝 모델을 이용하여 상기 학습 데이터에 대한 각각의 특징 값을 다시 추출하고, 상기 특징 값을 이용하여 재학습 대상으로 선정된 재학습 데이터를 이용하여 상기 딥러닝 모델을 재학습 시키는 것을 미리 설정된 횟수만큼 수행하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습장치.
  6. 제 1 항에 있어서 상기 특징 값 추출부는,
    상기 학습 데이터를 n-1 번째 레이어까지 통과 시켜 연산된 다수의 벡터 값에 대한 평균을 각 특징에 대한 특징 값으로 결정하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습장치.
  7. 제 1 항에 있어서 상기 그룹별 정확도 산정부는,
    상기 특징 그룹에 포함된 복수의 특징 값에 각각 매칭되는 학습 데이터에 대한 딥러닝 연산 결과 정확도를 산정하고, 상기 산정된 복수의 딥러닝 연산 결과 정확도의 총합을 평균 내어 그룹별 정확도를 산정하는 것을 특징으로 하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습장치.
  8. 삭제
  9. 제 1 항에 있어서,
    상기 학습데이터를 n개의 합성곱 레이어를 포함하는 합성곱 신경망에 입력하여 n-2 번째 레이어를 거치면 2차원 행렬이 복수로 겹쳐진 형태로 존재하며, n-1 번째 레이어를 거치면 1차원 벡터 행렬의 형태로 존재하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습장치.
  10. 프로세서에 의하여 동작하는 n개의 합성곱 레이어를 포함하는 합성곱 신경망으로 이루어진 딥러닝 모델을 이용하여,
    복수의 학습 데이터를 하나의 데이터 세트로 구성하고, 상기 복수의 학습 데이터를 하나의 합성곱 신경망에 입력하여 딥러닝 모델의 학습을 수행하는 단계;
    상기 학습된 딥러닝 모델을 이용하여 상기 데이터 세트에 포함된 학습 데이터 별로 특징 값을 추출하는 단계;
    상기 추출된 복수의 특징 값들을 기준으로 복수의 특징 그룹을 생성하는 단계;
    상기 생성된 복수의 특징 그룹의 정확도를 그룹 별로 산정하는 단계;
    상기 산정된 그룹별 정확도에 따라 상기 복수의 특징 그룹 중 적어도 하나의 그룹을 재학습 대상 그룹으로 선정하는 단계; 및
    상기 선정된 재학습 대상 그룹을 기준으로 선정된 재학습 데이터를 이용해 딥러닝 모델의 재학습을 수행하는 단계를 포함하며,
    상기 재학습 대상 그룹으로 선정하는 단계는,
    상기 복수의 특징 그룹 중 미리 설정된 하위 분포 이하의 그룹별 정확도를 가지는 특징 그룹을 재학습 대상 그룹으로 선정하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습방법.
  11. 제 10 항에 있어서 상기 딥러닝 모델의 학습을 수행하는 단계는,
    상기 데이터 세트를 미리 설정된 선행 딥러닝 학습 횟수만큼 합성곱 신경망에 입력하여 딥러닝 모델의 학습을 수행하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습방법.
  12. 제 10 항에 있어서 상기 특징 그룹을 생성하는 단계는,
    상기 추출된 복수의 특징 값들을 정규화하고, 상기 정규화된 복수의 특징 값들을 미리 설정된 범위별로 나누어 복수의 특징 그룹을 생성하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습방법.
  13. 제 10 항에 있어서 상기 재학습을 수행하는 단계는,
    상기 선정된 재학습 대상 그룹에 포함된 특징 값과 매칭되는 복수의 학습 데이터를 재학습 데이터로 선정하고, 상기 재학습 데이터만을 상기 합성곱 신경망에 입력하여 딥러닝 모델의 재학습을 수행하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습방법.
  14. 제 10 항에 있어서,
    상기 재학습된 딥러닝 모델을 이용하여 상기 학습 데이터에 대한 각각의 특징 값을 다시 추출하고, 상기 특징 값을 이용하여 재학습 대상으로 선정된 재학습 데이터를 이용하여 상기 딥러닝 모델을 재학습 시키는 것을 미리 설정된 횟수만큼 수행하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습방법.
  15. 제 10 항에 있어서 상기 특징 값을 추출하는 단계는,
    상기 학습 데이터를 n-1 번째 레이어까지 통과 시켜 연산된 다수의 벡터 값에 대한 평균을 각 특징에 대한 특징 값으로 결정하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습방법.
  16. 제 10 항에 있어서 상기 정확도를 그룹 별로 산정하는 단계는,
    상기 특징 그룹에 포함된 복수의 특징 값에 각각 매칭되는 학습 데이터에 대한 딥러닝 연산 결과 정확도를 산정하고, 상기 산정된 복수의 딥러닝 연산 결과 정확도의 총합을 평균 내어 그룹별 정확도를 산정하는 것을 특징으로 하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습방법.
  17. 삭제
  18. 제 10 항에 있어서,
    상기 학습데이터를 n개의 합성곱 레이어를 포함하는 합성곱 신경망에 입력하여 n-2 번째 레이어를 거치면 2차원 행렬이 복수로 겹쳐진 형태로 존재하며, n-1 번째 레이어를 거치면 1차원 벡터 행렬의 형태로 존재하는 것을 특징으로 하는 CNN기반의 딥러닝 모델 학습방법.
KR1020180152507A 2018-11-30 2018-11-30 Cnn기반의 딥러닝 모델 학습장치 및 그 방법 KR102190303B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020180152507A KR102190303B1 (ko) 2018-11-30 2018-11-30 Cnn기반의 딥러닝 모델 학습장치 및 그 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180152507A KR102190303B1 (ko) 2018-11-30 2018-11-30 Cnn기반의 딥러닝 모델 학습장치 및 그 방법

Publications (2)

Publication Number Publication Date
KR20200072588A KR20200072588A (ko) 2020-06-23
KR102190303B1 true KR102190303B1 (ko) 2020-12-14

Family

ID=71138020

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180152507A KR102190303B1 (ko) 2018-11-30 2018-11-30 Cnn기반의 딥러닝 모델 학습장치 및 그 방법

Country Status (1)

Country Link
KR (1) KR102190303B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220114329A (ko) * 2021-02-08 2022-08-17 강원대학교산학협력단 딥러닝 기반 영상 분류 모델에 기초한 영상 분류 방법 및 컴퓨터 판독가능 기록 매체
KR102602448B1 (ko) 2022-09-21 2023-11-14 백승훈 Cnn과 annoy 딥러닝 분석 기술을 활용한 미래 수요 예측 시스템

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102433431B1 (ko) * 2020-08-07 2022-08-19 주식회사 에이젠글로벌 이종 데이터를 이용한 향상된 예측 시스템 및 예측 방법
KR102500548B1 (ko) * 2020-08-10 2023-02-17 세종대학교산학협력단 하이브리드 합성곱 신경망을 이용한 주상복합 건물의 전력 소비 예측 시스템 및 방법
KR102229381B1 (ko) * 2020-10-26 2021-03-18 주식회사 웨이센 Ai 예측 모델을 이용한 예측 결과의 학습 데이터 추가 방법
KR102516187B1 (ko) * 2020-11-18 2023-03-30 (주)글루시스 시스템 장애 예측 방법 및 시스템
KR102325259B1 (ko) * 2021-05-11 2021-11-11 (주) 아지랑랑이랑 반려동물 생애 관리 시스템 및 그 방법
KR20240031747A (ko) 2022-09-01 2024-03-08 남한솔 인공지능 기반의 3차원 공간상 유동장 예측 장치 및 방법

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11423311B2 (en) * 2015-06-04 2022-08-23 Samsung Electronics Co., Ltd. Automatic tuning of artificial neural networks
KR102646430B1 (ko) * 2017-01-09 2024-03-14 한국전자통신연구원 분류기를 학습시키는 방법 및 이를 이용한 예측 분류 장치

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220114329A (ko) * 2021-02-08 2022-08-17 강원대학교산학협력단 딥러닝 기반 영상 분류 모델에 기초한 영상 분류 방법 및 컴퓨터 판독가능 기록 매체
KR102603319B1 (ko) * 2021-02-08 2023-11-16 강원대학교산학협력단 딥러닝 기반 영상 분류 모델에 기초한 영상 분류 방법 및 컴퓨터 판독가능 기록 매체
KR102602448B1 (ko) 2022-09-21 2023-11-14 백승훈 Cnn과 annoy 딥러닝 분석 기술을 활용한 미래 수요 예측 시스템

Also Published As

Publication number Publication date
KR20200072588A (ko) 2020-06-23

Similar Documents

Publication Publication Date Title
KR102190303B1 (ko) Cnn기반의 딥러닝 모델 학습장치 및 그 방법
Gal et al. Bayesian convolutional neural networks with Bernoulli approximate variational inference
JP6584629B2 (ja) 顔の位置合わせのための方法
KR102149132B1 (ko) 딥 러닝 환경에서의 적대적 예제 생성 장치 및 방법, 컴퓨터 프로그램
KR20200022739A (ko) 데이터 증강에 기초한 인식 모델 트레이닝 방법 및 장치, 이미지 인식 방법 및 장치
JP2015095212A (ja) 識別器、識別プログラム、及び識別方法
CN105320945A (zh) 图像分类的方法及装置
Romero et al. Meta-parameter free unsupervised sparse feature learning
KR102370910B1 (ko) 딥러닝 기반 소수 샷 이미지 분류 장치 및 방법
CN108721792B (zh) 用于放射疗法治疗计划的方法、程序存储器和系统
CN112418261B (zh) 一种基于先验原型注意力机制的人体图像多属性分类方法
Lata et al. Data augmentation using generative adversarial network
Premachandran et al. Unsupervised learning using generative adversarial training and clustering
CN111461229B (zh) 一种基于目标传递和线搜索的深层神经网络优化及图像分类方法
Chen et al. A self-learning segmentation framework—the Taguchi approach
WO2022077345A1 (en) Method and apparatus for neural network based on energy-based latent variable models
Yonekawa et al. The parameter optimization of the pulse coupled neural network for the pattern recognition
CN110298449B (zh) 计算机进行通用学习的方法、装置和计算机可读存储介质
Wirayasa et al. Comparison of Convolutional Neural Networks Model Using Different Optimizers for Image Classification
Zhang et al. Supplementary meta-learning: Towards a dynamic model for deep neural networks
Robles et al. Interval estimation naïve bayes
CN107341485B (zh) 人脸识别方法和装置
Kowalski et al. A modified particle swarm optimization procedure for triggering fuzzy flip-flop neural networks
Chung et al. Optimal real-space renormalization-group transformations with artificial neural networks
Khoshdel et al. A new hybrid learning-based algorithm for data clustering

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant