KR102170968B1 - 머신 러닝 기반의 근사모델 구축 방법 및 시스템 - Google Patents

Abstract

본 발명은, 설계 대상의 실험에 의해 수집된 실험데이터 및 실험데이터를 설명하는 키워드를 이용하여 예측모델을 생성하는 예측모델 생성부; 설계 대상의 특성 파악을 위한 근사모델을 이용하여 특성 데이터를 생성하는 데이터 생성부; 생성된 상기 특성 데이터를 분석하는 데이터 분석부; 및 상기 예측모델을 기반으로 각종 데이터 분석 결과를 이용하여 최적설계 알고리즘에 따라 설계 대상의 설계 최적화를 수행하는 설계 최적화부를 포함하는 설계 전문가 시스템을 개시한다.
본 발명에 따르면, 최적설계 및 다차원 데이터 분석에서 데이터를 입력하고, 설계 목표를 정하는 것만으로 최적화된 성능 개선 결과를 얻을 수 있다.

Description

머신 러닝 기반의 근사모델 구축 방법 및 시스템{METHOD AND SYSTEM FOR CONSTRUCTING META MODEL BASED ON MACHINE LEARNING}

본 발명은 머신 러닝 기반의 근사모델 구축 방법 및 시스템에 관한 것으로, 더욱 상세하게는 엔지니어링 빅데이터를 이용하고, 머신 러닝 기반으로 하는 학습을 통해 가장 적합한 메타모델 타입을 결정하고 하이퍼-파라미터를 이용하여 메타모델의 정확도를 높일 수 있는 근사모델 구축 방법 및 시스템에 관한 것이다.

오늘날 빅데이터(BIG DATA)를 처리하는 방법으로 크게 분류(Classification), 군집(Clustering), 연관성(Association), 연속성(Sequencing), 및 예측(Forecasting)의 데이터 마이닝 (Data Mining) 또는 데이터 분석(Data Analytics) 기법이 활용된다.

빅데이터의 활용이 도입되고 있는 금융이나 의료 분야와는 달리 엔지니어링 분야에서 빅데이터는 정성적인 지표가 아닌 정량적인 성능 지수의 예측을 통해 제품의 개념 설계에서 적극 활용되어야 한다.

엔지니어링 빅데이터에는 실험계획법과 같이 정규화된 계획 아래에서 획득된 데이터가 많이 분포한다. 따라서, 엔지니어링 분야에서는 정규화된 계획 아래에서 획득된 빅데이터를 토대로 개념 설계 단계에서 성능을 사전에 예측할 수 있는 시스템이 필요하다. 이를 위해서 데이터 기반의 예측 시스템을 구축할 필요가 있으며, 회귀 모둘(regression model) 또는 보간 모델(interpolation model) 등의 메타모델링(metamodeling) 방식이 활용된다.

그런데 종래의 기술에 따른 데이터 기반의 메타모델링 방식은 주어진 데이터에 가장 적합한 메타모델을 수작업을 통해 탐색하는 방식을 이용한다. 그리고 수작업을 통한 메타모델 탐색 방식은 주어진 데이터에 한정되므로 학습의 효과를 기대하기 어렵다.

본 발명의 일 실시 예에 따른 머신 러닝 기반의 근사모델 구축 방법 및 시스템은, 빅데이터를 기반으로 하고 있으며, 데이터가 축적됨에 따라 학습 효과를 통해 가장 적합한 메타모델을 탐색해 주는 방법 및 이를 이용하는 시스템이라는 점에서 발명의 특징이 있으며, 이러한 특징은 종래기술과 구별되고 상기 종래기술이 갖는 문제점을 해결하기 위해 개시된다.

한국 등록특허공보 제10-0576941호(2006.04.28.)

본 발명이 해결하고자 하는 과제는, 엔지니어링 빅데이터를 이용하는 머신 러닝 기반의 근사모델 구축 시스템을 제공하는 것이다.

본 발명이 추가적으로 해결하려는 과제는, 입력된 데이터의 성능을 대표할 수 있는 특성 인자를 자동으로 추출하는 기술을 이용하여 정확도가 높은 근사모델을 결정하는 근사모델 구축 시스템을 제공하는 것이다.

본 발명의 일 실시 예에 따른 머신 러닝 기반의 근사모델 구축 방법은, 실험 계획법에 따른 실험을 통해 엔지니어링 빅데이터를 수집하는 단계; 근사모델(metamodel)의 머신 러닝 용도의 데이터베이스를 생성하기 위해 수집된 엔지니어링 빅데이터를 가공하는 데이터 전처리 단계; 및 전처리된 데이터를 이용하여 근사모델을 설정하고, 반복된 근사모델의 하이퍼-파라미터 최적화를 통해 근사모델을 생성하는 단계를 포함하는 것을 특징으로 한다.

여기서, 상기 데이터 전처리 단계는, 수집된 엔지니어링 빅데이터를 이용하여 데이터 별로 특성인자를 추출하는 단계; 및 수집된 엔지니어링 빅데이터를 이용하여 데이터 별로 레이블을 생성하는 단계를 포함하는 것을 특징으로 한다.

여기서, 상기 엔지니어링 빅데이터는, IoT 센서, 시뮬레이션 및 실험을 통해서 수집되는 것을 특징으로 한다.

여기서, 상기 데이터 전처리 단계는, 머신 러닝 용도의 데이터베이스를 이용하여 특성인자 중에서 레이블에 영향력을 미치는 주요 특성인자를 선별하는 단계를 더 포함하는 것을 특징으로 한다.

여기서, 상기 근사모델을 생성하는 단계는, 주요 인자를 이용하여 근사모델을 설정하는 단계; 설정된 근사모델의 파라미터를 최적화하는 단계; 및 상기 파라미터에 기반하여 근사모델의 정확성을 평가하는 단계를 포함하는 것을 특징으로 한다.

여기서, 상기 근사모델을 생성하는 단계는, 상기 평가 결과에 기반하여 근사모델을 구성하는 근사함수의 오차와 오차 분포를 고려하여 상기 실험 계획법에 따라 엔지니어링 빅데이터를 추가 생성하는 단계를 더 포함하는 것을 특징으로 한다.

본 발명의 일 실시 예에 따른 근사모델 구축 시스템은, 실험 계획법에 따른 실험을 통해 엔지니어링 빅데이터를 수집하는 데이터 수집부; 근사모델(metamodel)의 머신 러닝 용도의 데이터베이스를 생성하기 위해 수집된 엔지니어링 빅데이터를 가공하는 데이터 전처리부; 및 전처리된 데이터를 이용하여 근사모델을 설정하고, 반복된 근사모델의 하이퍼-파라미터 최적화를 통해 근사모델을 생성하는 근사모델 생성부를 포함하는 것을 특징으로 한다.

여기서, 상기 데이터 전처리부는, 수집된 엔지니어링 빅데이터를 이용하여 데이터 별로 특성인자를 추출하는 특성인자 추출모듈; 및 수집된 엔지니어링 빅데이터를 이용하여 데이터 별로 레이블을 생성하는 레이블 생성모듈을 포함하는 것을 특징으로 한다.

여기서, 상기 엔지니어링 빅데이터는, IoT 센서, 시뮬레이션 및 실험을 통해서 수집되는 것을 특징으로 한다.

여기서, 상기 데이터 전처리부는, 머신 러닝 용도의 데이터베이스를 이용하여 특성인자 중에서 레이블에 영향력을 미치는 주요 특성인자를 선별하는 주요인자 선별모듈을 더 포함하는 것을 특징으로 한다.

여기서, 상기 근사모델 생성부는, 주요 인자를 이용하여 근사모델을 설정하는 근사모델 설정모듈; 설정된 근사모델의 파라미터를 최적화하는 근사모델 최적화 모듈; 및 상기 파라미터에 기반하여 근사모델의 정확성을 평가하는 근사모델 평가모듈을 포함하는 것을 특징으로 한다.

여기서, 상기 데이터 수집부는, 상기 평가 결과에 기반하여 근사모델을 구성하는 근사함수의 오차와 오차 분포를 고려하여 상기 실험 계획법에 따라 엔지니어링 빅데이터를 추가 생성하는 것을 특징으로 한다.

본 발명에 의하면, 엔지니어링 빅데이터를 이용하여 머신 러닝 기반의 학습을 통해 근사모델을 구축할 수 있다.

또한, 입력된 데이터의 성능을 대표할 수 있는 특성 인자를 자동으로 추출하는 기술을 이용하여 정확도가 높은 메타 모델을 결정하는 근사모델을 구축할 수 있다.

도 1은 본 발명의 일 실시 예에 따른 근사모델 구축 시스템의 블록도이다.
도 2는 본 발명의 일 실시 예에 따른 근사모델 구축 시스템의 예시도이다.
도 3은 도 1의 사용자 단말의 블록도이다.
도 4는 본 발명의 일 실시 예에 따른 근사모델 구축 방법의 흐름도이다.

이하, 첨부한 도면을 참조하여 엔지니어링 빅데이터를 이용하는 머신 러닝 기반의 근사모델 구축 방법 및 시스템에 대한 바람직한 실시 예를 상세히 설명하기로 한다.

각 도면에 제시된 동일한 참조부호는 동일한 부재를 나타낸다. 또한 본 발명의 일 실시 예들에 대해서 특정한 구조적 내지 기능적 설명들은 단지 본 발명에 따른 실시 예를 설명하기 위한 목적으로 예시된 것으로, 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는 것이 바람직하다.

이하 본 발명의 일 실시 예에 따른 엔지니어링 빅데이터를 이용하는 머신 러닝 기반의 근사모델 구축 시스템(200)에 대해 설명하기로 한다.

본 발명의 일 실시 예에 따른 머신 러닝 기반의 근사모델 구축 시스템(200)은 사람의 수작업에 의해 수행되었던 기존의 근사모델 구축 작업을 머신 러닝에 기반하여 자동으로 근사모델을 구축하는 것에 특징이 있다.

도 1은 본 발명의 일 실시 예에 따른 근사모델 구축 시스템의 블록도이다.

도 1을 참조하면, 근사모델 구축 시스템(200)은, 그 구성요소로서 데이터 수집부(210), 데이터 전처리부(220) 및 근사모델 생성부(230)를 포함한다.

데이터 수집부(210)는 학습에 의한 근사모델의 설정, 파라미터 최적화 및 근사모델 평가에 필요한 학습 데이터 및 평가 데이터를 수집하는 역할을 한다.

여기서, 사용되는 학습 데이터 및 평가 데이터는 실험을 통해 수집된다. 예를 들면, 실험계획법 등에 의한 실험을 통해 수집된 엔지니어링 실험 데이터는 전처리 과정을 통해 머신 러닝 학습 및 평가에 사용될 수 있는 데이터로 가공된다. 또한, 수집되는 데이터의 규모는 빅데이터(big data)에 해당하는 것이 특징이다. 따라서, 본 발명의 일 실시 예에 따른 근사모델 구축 시스템(200)은, 종래 기술에 따른 빅데이터 처리의 한계를 극복함으로써 빅데이터를 머신 러닝 학습에 이용할 수 있다.

데이터 수집부(210)는, 근사모델 평가모듈(233)에 의한 평가 결과에 따라 더 나은 최적화를 위해 실험계획법에 따라 엔지니어링 실험 데이터를 추가로 생성할 수 있다. 따라서, 본 발명의 일 실시 예에 따른 실험계획법에 의한 머신 러닝 학습을 위한 엔지니어링 실험 데이터는 파라미터 최적화의 결과에 따라 계속해서 추가될 수 있는 것을 특징으로 한다.

데이터 전처리부(220)는 수집된 엔지니어링 실험 데이터로부터 특성인자를 추출하고 레이블을 생성하고 주요 인자를 선별하는 역할을 한다. 데이터 전처리부(220)에 의해 가공된 데이터 및 주요 인자는 머신 러닝 학습 과정에서 근사모델을 설정하거나 근사모델을 학습 훈련시키거나 근사모델을 평가하는데 사용된다.

데이터 전처리부(220)는, 그 구성요소로서 특성인자 추출모듈(221), 레이블 생성모듈(222) 및 주요 인자 선별모듈(223)를 포함한다.

데이터 전처리부(220)는 근사모델의 학습 및 평가에 사용될 각종 데이터를 수집하고 이를 전처리한다. 데이터 전처리 과정은, 확보된 실험데이터를 완전한 분석 대상으로 만들기 위한 데이터 가공 단계이다. 데이터 전처리 방법은, 데이터 정제(data cleaning), 데이터 통합(data integration), 데이터 정리(data reduction) 및, 데이터 변환(data transformation)을 포함한다.

본 발명의 특징 중의 하나로서 근사모델 구축 시스템(200)은, 빅데이터 처리가 가능한 머신 러닝 기술에 기반하고 있다. 종래의 기술에 따르면 공학에서 사용되는 메타모델링(meta modeling) 기술은 처리할 수 있는 데이터 개수에 제한이 존재하였으나 이를 극복하기 위해 머신 러닝(Machine Learning, ML) 기술을 이용하여 메타모델을 생성할 수 있는 프레임워크 기술이 제안된다.

특성인자 추출모듈(221)은 입력된 각종 데이터에서 특성 인자를 추출하는 역할을 한다. 특성 인자 추출(Extracting Features)은 입력된 데이터의 성능을 대표할 수 있는 특성 인자(features)를 추출하는 기술이다. 또한, 특성 인자 추출은 데이터 학습을 위해 입력된 데이터의 특성을 추출하여, 이를 통해 Input-Output 관계를 정립하는 기술이다. 정확도가 높은 메타모델을 생성하기 위해서는 입력된 데이터의 개수나 실험점의 개수, 데이터의 실험 방식, 데이터 상관관계 등을 학습하여 지식화 한 후 이를 통해 가장 적합한 메타모델 타입이 결정된다.

레이블 생성모듈(222)은 수집된 데이터 별로 레이블(label)을 생성하는 역할을 한다. 머신 러닝에서 대상 대답을 이미 알고 있는 데이터가 사용하는 것이 유리하다. 이미 알고 있는 데이터를 레이블이 지정된 데이터라 한다. 감독되는 머신 러닝에서 알고리즘은 사용자가 제공하는 레이블이 있는 예제를 학습하도록 지시한다.

주요 인자 선별모듈(223)은, 수집된 데이터에서 추출된 특성인자로부터 주요 인자를 선별하는 역할을 한다. 주요 인자는 특성인자 중에서 레이블에 영향력을 미칠 수 있는 주요 특성인자를 말한다. 주요 인자 선별모듈(223)은 특성인자로부터 레이블에 영향력을 미칠 수 있는 주요 인자를 선별한다.

근사모델 생성부(230)는 선별된 주요 인자를 이용하여 근사모델을 설정하고 근사모델을 학습을 통해 훈련시키고, 학습된 근사모델을 평가함으로써 최종적으로 근사모델의 구축을 완성하는 역할을 한다. 근사모델을 구축함에 있어서 데이터 전처리부(220)를 통해 전처리된 주요 인자, 학습용 데이터 및 평가용 데이터가 사용된다.

근사모델 생성부(230)는 근사모델 설정모듈(231), 최적화 모듈(232), 근사모델 평가모델(23) 및 근사모델 생성모듈(234)을 포함한다.

근사모델 설정모듈(231)은 데이터 전처리부(220)에서 생성된 주요 인자를 이용하여 근사모델을 정의하고, 정의에 기초하여 근사모델 생성을 위한 초기 조건을 설정한다.

최적화 모듈(232)은, 수집된 엔지니어링 빅데이터에 가장 적합한 근사모델을 생성하기 위해 근사모델의 하이퍼-파라미터를 최적화한다. 예를 들어, 메타모델(metamodel)의 하이퍼 파라미터 최적화 기술은 학습을 통해 가장 적합한 메타모델 타입이 결정되고, 머신 러닝 기술을 통해 Big Data 처리가 가능한 메타모델이 구성되었으면, 세부적인 파라미터 튜닝을 통해 메타모델의 정확성을 개선한다. 해당 최적화 기술은 축적된 노하우를 근거로 구축된 최적화 프로세서를 이용하여 메타모델의 하이퍼 파라미터를 최적화하여 메타모델의 정확도를 극대화 시킨다.

근사모델 평가모듈(233)은 학습 기능의 수행에 의해 구축된 근사모델을 평가하는 역할을 한다. 상술하였듯이 평가 방식은 데이터베이스(300)에 포함된 평가용 해석/실험 데이터를 이용하여 근사모델을 평가하는 방식이다. 예를 들어, 생성된 근사함수에 평가용 데이터를 대입하여 실제값과 근사값의 차이가 계산될 수 있다. 근사모델 구축 시스템(200)은 근사모델 평가모듈(233)을 통해 사용자가 원하는 수준을 입력 받고, 근사모델이 사용자가 원하는 수준에 도달하였는지를 평가한다.

사용자가 원하는 수준이 만족되는 경우 근사모델의 구축은 완성되나, 그렇지 않은 경우에는 실험계획법 등에 의해 학습용 실험 데이터가 추가되고, 근사모델은 추가된 학습용 실험 데이터를 이용하여 더 학습하게 된다.

근사모델 생성모듈(234)는 학습 기능을 이용하여 근사모델을 생성하는 역할을 한다. 즉, 근사모델 구축 시스템(200)은 학습 기능 및 학습용 실험 데이터를 추가함으로써, 근사모델 생성모듈(234)을 통해 근사모델을 생성한다.

이하 근사모델 구축 시스템(200)의 다양한 실시 예에 대해 설명하기로 한다.

도 2는 본 발명의 일 실시 예에 따른 근사모델 구축 시스템의 예시도이다.

도 2를 참조하면, 근사모델 구축을 위한 전체 환경(1000)은, 사용자 단말(100), 근사모델 구축 시스템(200), 데이터베이스(300) 및 네트워크(400)를 포함한다. 사용자는 근사모델 구축 시스템(200)을 직접 이용해서 근사모델을 구축하거나, 사용자 단말(100)을 통해 근사모델 구축 시스템(200)에 접속해서 근사모델을 구축할 수도 있다. 위 두 가지 경우 모두에 있어서, 데이터베이스(300)는 필수적이다.

사용자 단말(100)은 근사모델 구축 시스템(200)이 제공하는 모델 구축 서비스를 제공받는 장치이다. 여기서, 사용자 단말(100)은, 근사모델을 구축을 수행하는 장치로서, 그 구성 요소로서 입력 디바이스 및 출력 디바이스를 포함하고, 그 종류로서 컴퓨팅 장치, 단말기(terminal) 및 무선 단말(wireless terminal)을 포함할 수 있다.

상기 무선 단말의 다양한 실시 예들은 셀룰러 전화기, 무선 통신 기능을 가지는 스마트 폰, 무선 통신 기능을 가지는 개인 휴대용 단말기(PDA), 무선 모뎀, 무선 통신 기능을 가지는 휴대용 컴퓨터, 무선 통신 기능을 가지는 디지털 카메라와 같은 촬영장치, 무선 통신 기능을 가지는 게이밍 (gaming) 장치, 무선 통신 기능을 가지는 음악저장 및 재생 가전제품, 무선 인터넷 접속 및 브라우징이 가능한 인터넷 가전제품뿐만 아니라 그러한 기능들의 조합들을 통합하고 있는 휴대형 유닛 또는 단말기들을 포함할 수 있으나, 이에 한정되는 것은 아니다.

근사모델 구축 시스템(200)은 네트워크를 통해 사용자 단말(100) 및 데이터베이스(300)와 연결되어, 사용자 단말(100)에 근사모델 구축을 위한 서비스를 제공한다. 여기서, 근사모델 구축 시스템(200)은 그 종류로서 웹서버, 클라우드 서버 및 파일 서버를 포함할 수 있다.

데이터베이스(300)는 실험계획법과 같이 구체적인 계획에 의해 생성된 실험 데이터가 구비되도록 구축될 수 있다. 그리고 데이터베이스(300)에 구비된 실험 데이터는 머신 러닝 학습에서 사용되는 학습용 데이터 및 머신 러닝의 근사모델을 평가하기 위한 평가용 데이터를 포함한다.

네트워크(400)는 유선 및 무선 네트워크, 예를 들어 인터넷(internet), 인트라넷(intranet) 및 엑스트라넷(extranet), 셀룰러, 예를 들어 무선 전화 네트워크, LAN(local area network), WAN(wide area network), WiFi 네트워크, 애드혹 네트워크 및 이들의 조합을 비롯한 임의의 적절한 통신 네트워크 일 수 있다.

네트워크(400)는 허브, 브리지, 라우터, 스위치 및 게이트웨이와 같은 네트워크 요소들의 연결을 포함할 수 있다. 네트워크(400)는 인터넷과 같은 공용 네트워크 및 안전한 기업 사설 네트워크와 같은 사설 네트워크를 비롯한 하나 이상의 연결된 네트워크들, 예컨대 다중 네트워크 환경을 포함할 수 있다. 네트워크(400)에의 액세스는 하나 이상의 유선 또는 무선 액세스 네트워크들을 통해 제공될 수 있다.

본 발명의 일 실시 예에 따른 사용자 단말(100)은 하나 이상의 CPU(central processing unit), 메모리, 대용량 저장소, 입력 인터페이스 장치, 출력 인터페이스 장치로 구성된 컴퓨팅 장치로 구현될 수 있다. 컴퓨팅 장치의 각 구성 요소들은 버스를 통해 서로 통신할 수 있다.

컴퓨팅 장치의 하드웨어 플랫폼은 개인용 컴퓨터, 핸드헬드 또는 랩톱 디바이스, 다중 프로세서 시스템, 마이크로프로세서 기반 시스템, 프로그램 가전제품, 및 이상의 시스템들 또는 디바이스들 중 임의의 것을 포함하는 분산 컴퓨팅 환경, 예컨대 클라우드 기반 컴퓨팅 시스템을 비롯한 많은 형태들로 구현될 수 있다.

도 3은 본 발명의 일 실시 예에 따른 사용자 단말(100)에 해당하는 컴퓨팅 장치의 블록도이다.

도 3을 참조하면, 컴퓨팅 장치(500)는 입력 인터페이스 장치(510), 출력 인터페이스 장치(520), 메모리(531), 저장장치(532), 전원 장치(540), 프로세서(550), 네트워크 인터페이스 장치(560), 무선통신 장치(570) 및 버스(580)를 포함한다.

입력 인터페이스 장치(510)는 사용자의 입력에 따라 문서작성에 필요한 문자 또는 개체를 입력한다. 입력 인터페이스 장치(510)는 키보드(keyboard), 터치스크린(touch screen), 마우스(mouse), 전자펜(stylus pen) 및 펜 태블릿(pen tablet)을 포함하되, 이에 한정되는 것은 아니다.

출력 인터페이스 장치(520)는 문서편집 애플리케이션 모듈 관련 사용자 인터페이스 등을 표시하는 디스플레이(display) 및 문서를 프린트 출력하는 프린터(printer)를 포함한다. 또한, 출력 인터페이스 장치(520)는 문서 내의 문자를 음성합성(text to speech, TTS) 엔진을 이용하여 음성으로 출력하는 스피커(speaker), 헤드폰(head-phone) 및 헤드셋(head-set)을 포함한다.

프로세서(550)는 메모리(531) 및/또는 저장 장치(532)에 저장된 본 발명의 일 실시 예에 따른 데이터 백업 방법에 관한 문서편집 애플리케이션/서버 모듈(174/274)이 포함하고 있는 컴퓨터 명령어 셋을 실행할 수 있다. 프로세서(550)는 중앙 처리 장치(central processing unit, CPU), 그래픽 처리 장치(graphics processing unit, GPU) 또는 본 발명에 따른 방법들이 수행되는 전용의 프로세서를 의미할 수 있다. 메모리(531)와 저장 장치(532)는 휘발성 저장 매체 및/또는 비휘발성 저장 매체로 구성될 수 있다. 예를 들어, 메모리(531)는 읽기 전용 메모리(read only memory, ROM) 및/또는 랜덤 액세스 메모리(random access memory, RAM)로 구성될 수 있다.

무선통신 장치(570)는 근거리 무선통신, 무선 데이터 통신 및 무선 음성 통신을 위한 장치를 포함한다.

컴퓨팅 장치(500)에 포함된 각각의 구성 요소들은 버스(580)에 의해 연결되어 서로 통신을 수행한다.

도 4는 본 발명의 일 실시 예에 따른 근사모델 구축 방법의 흐름도이다.

도 4를 참조하면, 근사모델 구축 방법(S100)은, 엔지니어링 빅데이터를 수집하는 단계(S110), 수집데이터를 전처리하는 단계(S120) 및 전처리된 데이터를 이용하여 근사모델을 구축하는 단계(S130)를 포함한다.

먼저, 근사모델 구축 시스템(200)은 엔지니어링 실험 데이터를 수집한다(S110). 엔지니어링 실험 데이터는 실험을 통해 수집될 수 있다. 예를 들어, 엔지니어링 실험 데이터는 Rule 기반의 실험계획법 등에 의한 실험을 통해 수집된다. 본 발명의 일 실시 예에서는 근사모델의 설정, 파라미터 최적화 및 근사모델 평가에 사용되는 엔지니어링 실험 데이터는 근사모델의 설정 전에 한 번에 생성될 수도 있으나 파라미터 최적화의 결과에 따라 순차적으로 추가될 수 있는 것을 특징으로 한다.

다양한 종류의 실험계획법들이 존재할 수 있으며 실험계획법들은 서로 다른 Rule에 따라 규율된다. 그리고 실험계획법들 중에서 실험에 관해 미리 설정된 Rule에 맞는 실험계획법이 자동으로 선택될 수 있다. 또한, 실험의 결과에 따라 근사모델의 복잡성을 평가하면서 실험계획법의 방식이 결정될 수 있다.

다음으로 근사모델 구축 시스템(200)은, 수집된 엔지니어링 실험 데이터를 이용하여 근사모델의 학습에 필요한 데이터에 기반하는 머신 러닝 용도의 데이터베이스를 구축하는 데이터 전처리 단계를 수행한다(S120).

다음으로, 근사모델 구축 시스템(200)은 머신 러닝 용도의 데이터베이스를 이용하여 근사모델을 설정하고, 근사모델의 하이퍼-파라미터를 최적화하고, 반복된 하이퍼-파라미터의 최적화를 통해 근사모델을 생성하는 기계 학습 단계를 수행한다(S130).

본 발명의 실시 일 실시 예에 따른 근사모델 구축 시스템(200)은 엔지니어링 빅데이터(big data)를 기반으로 한다. 근사모델 구축 시스템(200)은 엔지니어링 빅데이터를 전처리 하고, 근사모델을 설정하고, 머신 러닝 용도의 데이터를 이용하여 근사모델을 학습시키고, 학습 과정에서 근사모델을 최적화하고, 근사모델을 평가하여 최종적으로 근사모델을 구축할 수 있다. 학습 및 평가에 사용되는 엔지니어링 빅데이터는 정성적인 지표보다는 정량적인 성능 지수의 예측에 활용되는 것으로서 정규화된 방법, 예를 들면 실험계획법 등을 통해 얻어진다.

엔지니어링 분야에서의 실험은 부품, 제품 혹은 시스템의 거동을 재현하기 위해 수행된다. 이러한 실험에 있어 가장 중요한 요구사항은 재현의 정확성으로 여러 번의 실험에서 큰 차이가 없는 결과가 나와야 한다는 점이다. 만일 단 한번의 실험으로 원하는 거동을 충분히 파악할 수 있다면 다행이겠지만, 많은 경우 설계인자에 따른 거동 추이를 충분히 파악하기 위해서는 수 차례의 실험이 요구된다.

설계인자에 따른 거동의 변화 추이를 파악하기 위해서는 각 설계인자를 변화시키면서 실험을 수행해야 한다. 그렇다면 충분한 실험 회수와 각 실험에 있어 설계인자들의 값들을 어떻게 결정해야 하는가? 하는 의문이 생기게 될 것이다. 이러한 의문에 대한 해답을 제공하는 것이 바로 실험계획법(design of experiments)으로서, 흔히 DOE라는 약어로 통용되고 있다. 실험계획법은 주어진 설계인자의 개수에 대한 제품거동의 변화 추이를 정확하게 파악하기 위해 필요한 최소한의 실험 회수와 각 실험에 대한 설계인자 값들을 체계적으로 결정하는 기법이다. 가장 대표적인 DOE로 직교배열표(orthogonal array)가 있으며, 이 표는 설계인자의 개수와 각 설계인자의 수준에 따른 실험회수와 각 실험을 위한 설계인자 수준들의 조합을 나타낸 표이다.

DOE는 입력 변수(요인)가 출력 변수(반응)에 미치는 영향을 동시에 조사하는데 도움이 된다. 이러한 실험은 특정 목적에 따라 입력 변수를 변경하는 일련의 런이나 검정으로 구성된다. 데이터는 각 런에서 수집된다. 실험계획법을 사용하여 품질에 영향을 미치는 공정 조건 및 제품 성분을 확인한 다음, 결과를 최적화하는 요인 설정을 구한다

또한, 상기 엔지니어링 빅데이터는, IoT 센서, 시뮬레이션 및 실험을 통해서 수집되는 것을 특징으로 한다.

여기서, 상기 머신 러닝 용도의 데이터베이스를 구축하기 위해 데이터를 가공하는 데이터 전처리 단계(S120)는, 머신 러닝 용도의 데이터베이스를 구축하는 단계(S121)를 포함하고, S121 단계는 수집된 엔지니어링 빅데이터를 이용하여 데이터 별로 특성인자를 추출하는 단계(S122); 및 수집된 엔지니어링 빅데이터를 이용하여 데이터 별로 레이블을 생성하는 단계(S123)를 포함하는 것을 특징으로 한다.

특성인자(feature) 추출은 피쳐 엔지니어링과 관련이 있다. 피쳐 엔지니어링(feature engineering)이란, 기존의 변수를 사용해서 데이터에 정보를 추가하는 일련의 과정이다. 새로 관측치나 변수를 추가하지 않고도 기존의 데이터를 보다 유용하게 만드는 방법론 중의 하나이다.

그 방법 중에서 스케일링(scaling)은 변수의 단위를 변경하고 싶거나, 변수의 분포가 편향되어 있을 경우, 변수 간의 관계가 잘 드러나지 않는 경우에 사용된다.

가장 자주 사용하는 방법으로는 Log 함수가 있고, 유사하지만 좀 덜 자주 사용되는 Square root를 취하는 방법도 있다.

바이닝(binning) 방법은, 연속형 변수를 범주형 변수로 만드는 방법이다. 예를 들어 연봉 데이터가 수치로 존재하는 경우, 이를 100 미만, 101~200 하는 식으로 범주형 변수로 변환하는 것이다.

바이닝에는 특별한 원칙이 있는 것이 아니기 때문에, 분석가의 비즈니스 이해도에 따라 창의적인 방법으로 바이닝 할 수 있다.

변환(transform) 방법은, 기존 존재하는 변수의 성질을 이용해 다른 변수를 만드는 방법이다. 예를 들어 날짜 별 판매 데이터가 있다면, 날짜 변수를 주중/주말로 나눈 변수를 추가한다던지, 스포츠 관람객 데이터의 경우 해당 일에 특정 팀의 경기가 있는지 여부 등을 추가하는 것이다.

변환(transform)에도 특별한 원칙이 있는 것은 아니며, 분석가의 Business 이해도에 따라 다양한 변수가 생성될 수 있다.

더미(dummy) 방법은, 바이닝과는 반대로 범주형 변수를 연속형 변수로 변환하기 위해 사용된다. 사용하고자 하는 분석 방법론에서 필요한 경우에 주로 사용된다.

또한, 상기 데이터 전처리 단계(S120)는, 머신 러닝 용도의 데이터베이스를 이용하여 주요 특성인자를 선별하는 단계(S124)를 더 포함하는 것을 특징으로 한다.

주요 특성인자는 레이블에 영향을 미치는 특성인자를 말한다. 선별된 주요 특성인자는 기계 학습 단계에서 근사모델을 설정하는데 사용된다.

다음으로, 상기 근사모델 생성 단계(S130)는, 주요 인자를 이용하여 근사모델을 설정하는 단계(S131); 설정된 근사모델의 하이퍼-파라미터를 최적화하고, 반복된 하이퍼-파라미터의 최적화를 통해 근사모델을 생성하는 단계(S132) 및 근사모델 파라미터 최적화의 정확성을 평가하는 단계(S133) 및 경우에 따라 파라미터 최적화의 정확성에 따라 엔지니어링 빅데이터를 추가 생성하는 단계(S134)를 포함하는 것을 특징으로 한다.

근사모델에 해당하는 설계 대상의 거동 또는 성능은 수 많은 인자(factor)들의 영향을 받는다. 이러한 인자들 중에서 변할 수 있는 것들과 일정한 값으로 고정된 것이 있다. 여기서 가변 가능한 인자가 변수(variable)에 해당하고, 고정된 인자가 제약 조건에 해당한다.

변수들 중에서도 특별히 설계 대상의 성능에 지대한 영향을 미치는 변수들을 설계 변수(design variable)라고 부르고, 설계 대상의 설계는 이러한 설계변수들을 결정하는 작업에 해당한다. 참고로 동일한 설계 대상을 구축하는 경우에 있어서도 목표로 하는 성능이 달라지면 설계 변수도 달라질 수 있다.

설계 대상의 설계 변수를 결정하는 작업이 머신 러닝에서는 근사모델을 설정하고, 즉 근사모델의 파라미터 값을 설정하고, 하이퍼-파라미터 최적화를 통해서 최적의 파라미터 값을 찾는 과정을 통해 근사모델을 구축하는 작업에 해당한다.

하이퍼-파라미터 최적화는 수집된 엔지니어링 빅데이터에 가장 적합한 근사모델을 생성하기 위해 최적의 파라미터를 찾는 작업이다. 근사모델 구축 시스템(200)은 최적의 파라미터 값을 찾기 위해 다수의 하이퍼-파라미터 최적화를 수행할 수 있다.

머신 러닝 알고리즘을 이용하여 학습된 근사모델은 사용자가 원하는 근사모델에 해당하는지를 판단하기 위해 평가 대상이 된다. 근사모델 구축 시스템(200)은 근사모델 평가모듈(233)을 통해 근사모델을 평가한다. 사용자의 요구치를 입력하고 근사모델을 평가되는데, 학습된 근사모델이 사용자의 기대치에 미치는 경우에 근사모델 생성모듈(234)을 통해 근사모델이 최종 생성된다.

만약 학습된 근사모델이, 입력된 사용자의 기대치에 미치지 못하는 경우 추가 학습이 이어진다. 머신 러닝 모델의 학습 및 평가를 위해 실험계획법 등에 의해 생성된 실험데이터를 포함하는 각종 데이터는 추가 학습을 위해 데이터베이스에 계속해서 추가될 수 있다.

도 1의 근사모델 구축 시스템(200)의 구성 요소는 설명의 편의를 위해 기능적으로 구분한 구성으로, 하드웨어적으로는 하나의 프로세서에 의해 처리되는 논리적인 기능으로 구성될 수 있는 것으로, 제시된 구분에 의해 본 발명을 한정하는 것은 아니다.

또한, 각 구성 요소 간의 연결 관계가 일일이 표현되어 있지 않지만, 연결선이 도시되지 않은 구성 간에도 제어 또는 데이터 교환을 위한 통신, 전달이 발생될 수 있으며, 제시된 바에 의해서만 본 발명을 한정하는 것은 아니다.

상기 도면을 통해 설명된 일 실시 예에 따른 근사모델 구축 방법(S100)은, 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행이 가능한 명령어 셋을 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체 및 통신 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. 통신 매체는 전형적으로 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈, 또는 반송파와 같은 변조된 데이터 신호의 기타 데이터, 또는 기타 전송 메커니즘을 포함하며, 임의의 정보 전달 매체를 포함한다.

이와 같이 본 발명의 일 실시 예에 따르면, 엔지니어링 빅데이터를 이용하여 머신 러닝 기반의 학습을 통해 근사모델을 구축할 수 있다.

또한, 입력된 데이터의 성능을 대표할 수 있는 특성 인자를 자동으로 추출하는 기술을 이용하여 정확도가 높은 메타 모델을 결정하는 근사모델을 구축할 수 있다.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시 예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

100: 사용자 단말
200: 근사모델 구축 시스템
210: 데이터 수집부
220: 데이터 전처리부
221: 특성인자 추출모듈
222: 레이블 생성모듈
233: 주요 인자 선별모듈
220: 근사모델 생성부
231: 근사모델 설정모듈
232: 최적화 모듈
233: 근사모델 평가모듈
234: 근사모델 생성모듈

Claims (12)

1. 데이터 수집부에서 실험 계획법에 따른 실험을 통해 엔지니어링 빅데이터를 수집하는 단계;
   데이터 전처리부에서 근사모델(metamodel)의 학습용 데이터베이스를 생성하기 위해 수집된 엔지니어링 빅데이터를 가공하는 데이터 전처리 단계; 및
   근사모델 생성부에서 전처리된 데이터를 이용하여 근사모델을 설정하고, 반복된 근사모델의 하이퍼-파라미터 최적화를 통해 근사모델을 생성하는 단계; 를 포함하며,
   상기 데이터 전처리 단계는,
   특성인자 추출모듈에서 수집된 엔지니어링 빅데이터를 이용하여 데이터 별로 특성인자를 추출하는 단계; 및
   레이블 생성모듈에서 수집된 엔지니어링 빅데이터를 이용하여 데이터 별로 레이블을 생성하는 단계; 를 포함하고,
   상기 근사모델을 생성하는 단계는,
   근사모델 설정모듈에서 상기 특성인자 및 레이블을 이용하여 근사모델을 설정하는 단계;
   최적화 모듈에서 설정된 근사모델의 파라미터를 최적화하는 단계; 및
   근사모델 평가모듈에서 상기 파라미터에 기반하여 근사모델의 정확성을 평가하는 단계; 를 포함하며,
   상기 데이터 수집부에서 상기 평가 결과에 기반하여 근사모델을 구성하는 근사함수의 오차와 오차 분포를 고려하여 상기 실험 계획법에 따라 엔지니어링 빅데이터를 추가 생성하는 것을 특징으로 하는, 근사모델 구축 방법.
2. 삭제
3. 청구항 1에 있어서,
   상기 엔지니어링 빅데이터는,
   IoT 센서, 시뮬레이션 및 실험을 통해서 수집되는 것을 특징으로 하는, 근사모델 구축 방법.
4. 삭제
5. 삭제
6. 삭제
7. 실험 계획법에 따른 실험을 통해 엔지니어링 빅데이터를 수집하는 데이터 수집부;
   근사모델(metamodel)의 학습용 데이터베이스를 생성하기 위해 수집된 엔지니어링 빅데이터를 가공하는 데이터 전처리부; 및
   전처리된 데이터를 이용하여 근사모델을 설정하고, 반복된 근사모델의 하이퍼-파라미터 최적화를 통해 근사모델을 생성하는 근사모델 생성부; 를 포함하며,
   상기 데이터 전처리부는,
   수집된 엔지니어링 빅데이터를 이용하여 데이터 별로 특성인자를 추출하는 특성인자 추출모듈; 및
   수집된 엔지니어링 빅데이터를 이용하여 데이터 별로 레이블을 생성하는 레이블 생성모듈; 을 포함하고,
   상기 근사모델 생성부는,
   상기 특성인자 및 레이블을 이용하여 근사모델을 설정하는 근사모델 설정모듈;
   상기 설정된 근사모델의 파라미터를 최적화하는 근사모델 최적화 모듈; 및
   상기 파라미터에 기반하여 근사모델의 정확성을 평가하는 근사모델 평가모듈을 포함하고,
   상기 데이터 수집부는,
   상기 평가 결과에 기반하여 근사모델을 구성하는 근사함수의 오차와 오차 분포를 고려하여 상기 실험 계획법에 따라 엔지니어링 빅데이터를 추가 생성하는 것을 특징으로 하는, 근사모델 구축 시스템.
8. 삭제
9. 청구항 7에 있어서,
   상기 엔지니어링 빅데이터는,
   IoT 센서, 시뮬레이션 및 실험을 통해서 수집되는 것을 특징으로 하는, 근사모델 구축 시스템.
   
   
   
   
10. 삭제
11. 삭제
12. 삭제

Images