KR102581949B1 - Tcn-ts-sw 기반의 기계 학습 알고리즘을 적용한 3d 프린터 모니터링 시스템 - Google Patents

Abstract

기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템은 노즐을 통해 용융된 필라멘트를 배출하여 복수의 층을 형성하면서 3차원 출력물을 생성하는 FDM(Fused deposition modeling) 방식의 3D 프린터와, 노즐의 온도를 감지하고 감지된 온도값을 디지털 값으로 출력하는 열전쌍 센서부와, 열전쌍 센서부에서 출력되는 데이터를 저장하는 데이터 수집기와, 데이터 수집기에서 전송된 데이터를 입력받아 TCN-TS-SW(Temporal Convolution Neural Network with Two-Stage Sliding Window Strategy) 기반의 기계 학습 알고리즘을 적용하여 노즐의 온도 값을 예측하는 제어 컴퓨터를 포함하는 것을 특징으로 한다.

Description

TCN-TS-SW 기반의 기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템{3D printer monitoring system applying machine learning algorithm based on Temporal Convolution Neural Network with Two-Stage Sliding Window Strategy}

본 발명은 3D 프린터 모니터링 시스템에 관한 것으로서, 더 상세하게는 TCN-TS-SW 기반의 기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템에 관한 것이다.

일반적으로 3차원의 입체 형상을 가진 시제품(Prototype)을 제작하기 위해서는 도면에 의존하여 수작업에 의해 이루어지는 목합 제작방식과 CNC 밀링에 의한 제작방식 등이 있다. 그러나 목합 제작방식은 수작업에 의하므로 정교한 수치제어가 어렵고 많은 시간이 소요되며, CNC 밀링에 의한 제작방식은 정교한 수치제어가 가능하지만 공구간섭에 의하여 가공하기 어려운 형상이 많다.

따라서 최근에는 제품의 디자이너 및 설계자가 만들어낸 3차원 모델링에서 생성된 데이터를 저장한 컴퓨터를 이용하여 3차원 입체 형상의 시제품을 제작하는 이른바 3차원 프린터 방식이 등장하게 되었다.

이러한 3차원 프린터 방식에는 광경화성 수지에 레이저 광선을 주사하여 주사된 부분이 경화되는 원리를 이용한 SLA(StereoLithograhhic Apparatus)와, SLA에서의 광경화성 수지 대신에 기능성 고분자 또는 금속분말을 사용하며 레이저 광선을 주사하여 고결(固結)시켜 성형하는 원리를 이용한 SLS(Selective Laser Sintering)와, 접착제가 칠해져 있는 종이를 원하는 단면으로 레이져 광선을 이용하여 절단하여 한층씩 적층하여 성형하는 LOM(Laminated Object Manufacturing)과, 잉크젯(Ink-Jet) 프린터 기술을 이용한 BPM(Ballistic Particle Manufacturing)과 가열된 노즐을 사용 조형 재료를 녹여 층층히 쌓아올려 조형하는 FDM(Fused deposition modeling)방식 등이 있다.

FDM(Fused deposition modeling) 방식의 3D 프린터의 원재료인 필라멘트(Filament)는 열에 녹는 물질을 가는 실 형태로 가공하여 스플(Spool)에 감아서 사용하는데, 필라멘트를 이송시키는 피더(Feeder)와 필라멘트(Filament)를 녹여서 분사하기 위한 노즐을 탑재하고 인쇄위치로 이동시키는 캐리어 및 출력물을 적재 및 인쇄 위치를 이동시키는 배드로 구성되고, 스풀에 감겨져 있는 필라멘트는 피더를 통하여 연속으로 이송시켜서 노즐로 주입되고 노즐에 주입된 필라멘트는 노즐에서 발생하는 열에 의해 액체상태로 되어 노즐 밖으로 분사되어 출력물을 적재하는 배드에 쌓이게 되어 분사된 액체상태의 필라멘트는 캐리어와 배드의 이동에 의해 이미지가 형성되어 결과로써 3차원 출력물이 형성되도록 동작된다.

즉, 보급형 3D 프린터로 많이 사용되는 FDM(Fused Deposition Modeling) 방식은 열가소성 수지인 필라멘트를 가열된 노즐에 투입하여 용융된 필라멘트를 일정량씩 토출한다. 토출된 미량의 필라멘트는 상온에서 경화되고 그 위에 다음 층을 형성하여 3차원 출력물을 형성하게 된다. 균일한 토출량을 얻기 위하여 노즐에 히터블럭을 설치하여 일정온도를 유지하도록 가열한다.

이러한 FDM 방식의 3D 프린터에서는 노즐에서 얼마나 정밀한 양을 토출하느냐 뿐만 아니라 토출된 필라멘트가 얼마나 잘 경화되는가도 출력된 제품의 품질에 중요한 요인이다. 따라서 노즐 토출부의 온도를 일정하게 유지하는 것이 매우 중요하다.

KR 10-2017-0078396 A

본 발명은 상기와 같은 기술적 과제를 해결하기 위해 제안된 것으로, FDM(Fused deposition modeling) 방식의 3D 프린팅 기술 향상을 위해 TCN-TS-SW(Temporal Convolution Neural Network with Two-Stage Sliding Window Strategy) 기반의 기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템을 제공한다.

상기 문제점을 해결하기 위한 본 발명의 일 실시예에 따르면, 노즐을 통해 용융된 필라멘트를 배출하여 복수의 층을 형성하면서 3차원 출력물을 생성하는 FDM(Fused deposition modeling) 방식의 3D 프린터와, 노즐의 온도를 감지하고 감지된 온도값을 디지털 값으로 출력하는 열전쌍 센서부와, 열전쌍 센서부에서 출력되는 데이터를 저장하는 데이터 수집기와, 데이터 수집기에서 전송된 데이터를 입력받아 TCN-TS-SW(Temporal Convolution Neural Network with Two-Stage Sliding Window Strategy) 기반의 기계 학습 알고리즘을 적용하여 상기 노즐의 온도 값을 예측하는 제어 컴퓨터를 포함하는 기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템이 제공된다.

또한, 본 발명에 포함되는 제어 컴퓨터는, 데이터 전처리를 위하여 2번의 슬라이딩 윈도우 기법을 통해 입력된 데이터를 분할함에 있어서, 시간 윈도우 △와 슬라이딩 단계 δ을 사용한 첫 번째 슬라이딩을 진행하고, 예측 간격 h를 사용한 두 번째 슬라이딩을 진행하는 것을 특징으로 한다.

또한, 본 발명에 포함되는 δ 및 △ 값은 데이터 수집기의 샘플링 용량을 고려하여 선택되는 것을 특징으로 한다.

또한, 본 발명에 포함되는 TCN-TS-SW(Temporal Convolution Neural Network with Two-Stage Sliding Window Strategy) 는, 1차원 causal 컨볼루션을 사용하되, residual 블록을 사용하여 예측 값이 시리즈의 히스토리 값에만 의존하도록 구성되는 것을 특징으로 한다.

본 발명의 실시예에 따른 기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템은, FDM(Fused deposition modeling) 방식의 3D 프린팅 기술 향상을 위해 TCN-TS-SW(Temporal Convolution Neural Network with Two-Stage Sliding Window Strategy) 기반의 기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템을 제안하였다.

즉, 제안하는 기계 학습 알고리즘을 사용하여 3D 프린터의 출력 온도 감소로 인한 결과물의 품질 저하를 줄일 수 있으며, 더 나아가 예측된 온도 값을 정확하게 제공할 수 있다.

도 1은 기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템(1)의 구성도
도 2는 기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템(1)의 모니터링 프로그램의 프로세스를 나타낸 도면
도 3은 모니터링 프로그램의 순서도
도 4는 데이터 수집 및 저장을 위한 프로그램의 랩뷰 블록 다이어그램
도 5는 데이터 수집 및 저장을 위한 프로그램으로 저장된 데이터세트의 예시도
도 6은 데이터 수집 및 저장 프로그램의 유저 인터페이스의 예시도
도 7은 단계의 슬라이딩 윈도우 기법의 예시도
도 8은 본 발명에서 사용되는 TCN의 구조도(Rb=10, rf=8, db=2, k=3)
도 9는 실제 데이터(검은색)와 예측한 데이터(파란색)를 나타낸 도면
도 10은 두 개의 모델의 대한 정확도를 나타낸 도면이고,
도 11은 두 개의 모델의 손실률을 나타낸 도면

이하, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 본 발명의 기술적 사상을 용이하게 실시할 수 있을 정도로 상세히 설명하기 위하여, 본 발명의 실시예를 첨부한 도면을 참조하여 설명하기로 한다.

도 1은 기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템(1)의 구성도이다.

도 1을 참조하면, FDM(Fused deposition modeling) 방식의 3D 프린팅 기술 향상을 위해 TCN-TS-SW(Temporal Convolution Neural Network with Two-Stage Sliding Window Strategy) 기반의 기계 학습 알고리즘을 적용한 모니터링 시스템은 도 1과 같이 구성된다.

기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템(1)은, FDM(Fused deposition modeling) 방식의 3D 프린터(100), 열전쌍 센서부(200), 데이터 수집기(300), 제어 컴퓨터(400)를 포함하여 구성된다.

즉, 기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템(1)의 하드웨어는 FDM 프린터(100), K-thermocouple to Digital 컨버터(MAX6675) - 열전쌍 센서부(200) - , 데이터 수집기(Arduino Uno, 300), 제어 컴퓨터(400)로 구성되어 있다.

3D 프린터(100)의 노즐에 장착된 열전쌍(Thermocouple) 센서는 최대 350도(섭씨)까지 측정 가능하여 노즐의 높은 온도를 견딜 수 있다. 열전쌍 센서부(200)에서 출력되는 온도 값은 12-bit, 0.25도(섭씨) 단위로 데이터를 생성하는 모듈(MAX6675)을 이용하여 변환되며, 이는 데이터 수집기(300)에 전송된다. 데이터 수집기(300)에 전송된 데이터는 제어 컴퓨터(400)에서 (.csv) 형식으로 저장된다.

도 2는 기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템(1)의 모니터링 프로그램의 프로세스를 나타낸 도면이고, 도 3은 모니터링 프로그램의 순서도이고, 도 4는 데이터 수집 및 저장을 위한 프로그램의 랩뷰 블록 다이어그램이다.

- 데이터 수집 및 저장

3D 프린터의 노즐 온도는 결과물의 품질에 많은 영향을 미친다. 따라서 제안한 모니터링 시스템은 노즐의 온도 값을 수집 및 저장한다. 이를 위해서 본 실시예에서는 LabVIEW 프로그램을 사용하였다. 노즐의 온도 값이 입력되면 이 값을 통해 데이터를 처리하고 저장한다.

도 5는 데이터 수집 및 저장을 위한 프로그램으로 저장된 데이터세트의 예시도이다. 데이터세트에는 시간, 온도, 습도, 거리가 전압으로 표현된다.

- 데이터 전시(표시)

도 6은 데이터 수집 및 저장 프로그램의 유저 인터페이스의 예시도이다.

입력받은 데이터는 사용자에게 표시되며 이를 통해 사용자는 3D 프린팅이 진행 중의 노즐 온도 값을 쉽게 확인 할 수 있다. 또한 기계 학습을 통해 예측된 온도 값에 이상이 감지될 경우, 결과를 표시함으로써 사용자가 품질 유지 또는 향상을 위한 대응을 진행하도록 한다. 도 6은 데이터 수집 및 저장 프로그램의 UI(User Interface)를 보여준다. UI(User Interface)를 통해 측정된 온도, 습도 거리가 전시(표시)된다.

- 제안된 기계 학습 알고리즘(TCN-TS-SW)

본 발명의 3D 프린터 모니터링 시스템을 위하여 TCN-TS-SW(Temporal Convolutional Neural Network with a Two-Stage Sling Window strategy)을 제안한다. 제안된 기법은 제어 컴퓨터(400)를 통해 처리될 수 있다.

제안하는 기법은 TCN(Temporal Convolution Neural Network)를 기반으로 하였으나, 기존 TCN은 RNN에 비해 다음 레이어 입력으로 전체 입력 데이터를 요구하기 때문에 예측에 많은 메모리를 사용하게 된다. 본 발명에서는 메모리 사용량과 예측 시간을 감소시키기 위하여 데이터 사전 처리가 가능한 슬라이딩 윈도우 기술을 적용한다.

- 슬라이딩 기법을 이용한 데이터 전처리

도 7은 단계의 슬라이딩 윈도우 기법의 예시도이다< a) 시간 윈도우 △와 슬라이딩 단계 δ을 사용한 첫 번째 슬라이딩, (b) 예측 간격 h를 사용한 두 번째 슬라이딩>.

데이터 전처리를 위하여 2번의 슬라이딩 윈도우 기법을 통해 입력된 데이터를 나눈다. 첫 번째 슬라이딩 윈도우 기법을 통해 도 7의 (a)와 같이 δ의 슬라이딩 단계와 △의 시간 윈도우 값을 가지고 있는 고정된 길이의 시퀀스로 분할한다. 이때 δ 및 △ 값은 데이터 수집 모듈의 샘플링 용량과 인쇄 속도를 고려하여 선택된다.

분할 시퀀스는 사전 정의된 전개(unfolding) 레벨과 일치하게 x를 2차원 벡터로 변환한다.

두 번째 슬라이딩은 도 7의 (b)에서 볼 수 있다. 두 번째 슬라이딩은 데이터가 훈련 세트와 검증 세트로 나눠진 후 수행된다. 이때 길이가 m 인 입력 시리즈와 목표 시리즈 사이의 이동 차이를 통해 계산되는 예측 파라미터 h를 정의하기 위하여 기존에 슬라이딩 된 데이터를 도 7의 (b)처럼 추가로 나누게 된다. 예측 파라미터 h는 오류를 줄이고 더 나은 예측 성능을 가능하게 한다. 두 번째 슬라이딩 윈도우가 수행 된 후 세그먼트 m이 예측 모델에서 처리된다. 이렇게 처리된 데이터는 예측 모델에 사용된다.

- TCN 기반 예측 모델

도 8은 본 발명에서 사용되는 TCN의 구조도(Rb=10, rf=8, db=2, k=3)이다.

TCN-TS-SW는 TCN에서 사용하는 stacked dilated 컨볼루션 레이어, non-linearity functions, 드롭아웃(dropout) 레이어로 구성된 residual 블록으로 구성된다. 사용되는 TCN의 구조는 도 8과 같다.

1차원 causal 컨볼루션을 사용하는 대신 residual 블록을 사용하여 예측 값이 시리즈의 히스토리 값 x에만 의존하도록 한다. 입력과 출력 사이의 동일한 길이를 유지하기 위해 입력에 제로 패딩을 추가하여 각 레이어의 길이 균일성을 보장하고 residual 블록에 있는 dilated convolutional 레이어의 연속 레이어에도 이를 적용한다.

Dilated 레이어는 레이어 수를 상대적으로 적게 유지하면서 입력의 수용 필드인 rf를 증가시키기 때문에 Dilated 컨볼루션 레이어로 기존 컨볼루션 레이어를 대체한다. residual 블록 내에 있는 causal 컨볼루션 레이어의 출력 ζ은 가중치 정규화를 사용하여 정규화되고 ReLU(Rectified Linear Unit) 함수를 사용하여 데이터의 비선형 표현을 학습하도록 추가로 변환된다. 모델이 과적합되는 것을 방지하기 위해 컨볼루션 끝에 드롭아웃 레이어가 도입된다. 모델의 최종 출력에서 ReLU는 y가 음수 값을 취하도록 비활성화된다. 마지막으로 네트워크가 예측 값 세트를 획득한 후 '예측 값'인 출력 y가 도 9와 같이 실제 데이터와 함께 그래픽 사용자 인터페이스에 표시된다. - 도 9는 실제 데이터(검은색)와 예측한 데이터(파란색)를 나타낸 도면 -

- TCN-TS-SW의 성능

도 10은 두 개의 모델의 대한 정확도를 나타낸 도면이고, 도 11은 두 개의 모델의 손실률을 나타낸 도면이다.

2단계의 슬라이딩 기법을 도입한 TCN-TS-SW(Temporal Convolution Neural Network with Two-Stage Sliding Window Strategy)은 기존의 TCN에 비해 높은 정확도와 낮은 손실률을 가짐을 알 수 있다.

본 발명의 실시예에 따른 기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템은, FDM(Fused deposition modeling) 방식의 3D 프린팅 기술 향상을 위해 TCN-TS-SW(Temporal Convolution Neural Network with Two-Stage Sliding Window Strategy) 기반의 기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템을 제안하였다.

즉, 제안하는 기계 학습 알고리즘을 사용하여 3D 프린터의 출력 온도 감소로 인한 결과물의 품질 저하를 줄일 수 있으며, 더 나아가 예측된 온도 값을 정확하게 제공할 수 있다.

이와 같이, 본 발명이 속하는 기술분야의 당업자는 본 발명이 그 기술적 사상이나 필수적 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적인 것이 아닌 것으로서 이해해야만 한다. 본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 등가개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

100 : 3D 프린터
200 : 열전쌍 센서부
300 : 데이터 수집기
400 : 제어 컴퓨터

Claims (4)

1. 노즐을 통해 용융된 필라멘트를 배출하여 복수의 층을 형성하면서 3차원 출력물을 생성하는 FDM(Fused deposition modeling) 방식의 3D 프린터;
   상기 노즐의 온도를 감지하고 감지된 온도값을 디지털 값으로 출력하는 열전쌍 센서부;
   상기 열전쌍 센서부에서 출력되는 데이터를 저장하는 데이터 수집기; 및
   상기 데이터 수집기에서 전송된 데이터를 입력받아 TCN-TS-SW(Temporal Convolution Neural Network with Two-Stage Sliding Window Strategy) 기반의 기계 학습 알고리즘을 적용하여 상기 노즐의 온도 값을 예측하는 제어 컴퓨터;를 포함하고,
   상기 제어 컴퓨터는, 데이터 전처리를 위하여 2번의 슬라이딩 윈도우 기법을 통해 입력된 데이터를 분할함에 있어서, 시간 윈도우 △와 슬라이딩 단계 δ을 사용한 첫 번째 슬라이딩을 진행하고, 예측 간격 h를 사용한 두 번째 슬라이딩을 진행하고,
   상기 첫 번째 슬라이딩에서 δ의 슬라이딩 단계와 △의 시간 윈도우 값을 가지고 있는 고정된 길이의 시퀀스로 분할하되, δ 및 △ 값은 상기 데이터 수집기의 샘플링 용량을 고려하여 선택되는 것을 특징으로 하는 기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템.
   
2. 삭제
3. 삭제
4. 제1항에 있어서,
   TCN-TS-SW(Temporal Convolution Neural Network with Two-Stage Sliding Window Strategy) 는,
   1차원 causal 컨볼루션을 사용하되, residual 블록을 사용하여 예측 값이 시리즈의 히스토리 값에만 의존하도록 구성되는 것을 특징으로 하는 기계 학습 알고리즘을 적용한 3D 프린터 모니터링 시스템.