KR102624237B1

KR102624237B1 - 로봇팔의 도메인 적응 장치 및 방법

Info

Publication number: KR102624237B1
Application number: KR1020230101640A
Authority: KR
Inventors: 성노윤; 남기환
Original assignee: 주식회사 아임토리
Priority date: 2023-08-03
Filing date: 2023-08-03
Publication date: 2024-01-15

Abstract

본 발명은 로봇팔의 도메인 적응 기술에 관한 것으로, 로봇 팔 정상 데이터를 수집하는 단계, 상기 수집하는 단계에서 수집한 로봇 팔 정상 데이터를 조건 생성적 적대 신경망(conditional Generative Adversarial Network, cGAN)에 적용하여 비정상 데이터를 생성하는 단계 및 상기 생성하는 단계에서 생성된 비정상 데이터를 새로운 도메인에서 적용하는 단계를 포함하는, 도메인 적응 방법에 의해 대상 로봇팔 불량 데이터가 없을 때 학습된 도메인과 새로운 대상 도메인 간의 차이를 줄이기 위해 도메인 적응(domain adaptation)하는 방법론을 제시하는 도메인 적응 장치 및 방법을 제공할수 있는 효과가 도출된다.

Description

로봇팔의 도메인 적응 장치 및 방법{Domain Adaptation Device and Method for Robot Arm}

실시예는 로봇팔의 도메인 적응 기술에 관한 것이다.

로봇팔의 도메인 적응은 로봇팔이 새로운 작업이나 환경에 적응하고 학습하는 능력이다. 로봇팔이 한 가지 작업만을 수행하는 것이 아니라 다양한 작업을 수행하거나 다양한 환경에서 작동해야 할 때, 도메인 적응은 매우 중요한 기술입니다. 이를 통해 로봇팔은 더욱 유연하고 다양한 상황에 대응할 수 있게 된다.

한편, 머신 러닝은 기본적으로 알고리즘을 이용해 데이터를 분석하고, 분석을 통해 학습하며, 학습한 내용을 기반으로 판단이나 예측한다.

딥 러닝은 인공신경망에서 발전한 형태의 인공 지능으로, 뇌의 뉴런과 유사한 정보 입출력 계층을 활용해 데이터를 학습한다.

딥러닝에서 데이터를 늘리는 것은 모델의 성능을 향상에 도움이 될 수 있다. 데이터 확장은 모델이 더 일반화되고 다양한 패턴과 특징을 학습할 수 있도록 도와준다. 이를 통해 과적합을 방지하고 일반화 능력을 향상시킬 수 있다.

종래에는 데이터를 늘리기 위해 인터넷, 공개 데이터 셋, 소셜 미디어, 온라인 포럼 등 관심 있는 주제에 대한 레이블이 지정된 데이터를 수집하거나, 이미지, 텍스트, 오디오 등 다양한 형식의 데이터를 수집하여 기존 데이터 셋을 보강하는 방법등이 이용된다.

KR

10-2019-0027617

A

본 발명은 이 같은 기술적 배경에서 도출된 것으로, 대상 로봇팔 불량 데이터가 없을 때 도메인 적응(domain adaptation)하는 방법론을 제시하는 도메인 적응 장치 및 방법을 제공함에 그 목적이 있다.

또한 본 발명의 일 실시예에 따르면 로봇팔이 초기 훈련 도메인을 넘어서 다양한 환경과 작업에서 신속하게 적응하고 정확한 동작을 수행할 수 있도록 하는 도메인 적응 장치 및 방법을 제공하고자 한다.

상기의 과제를 달성하기 위한 본 발명은 다음과 같은 구성을 포함한다.

즉 본 발명의 일 실시예에 따른 도메인 적응 방법은 하나의 프로세서들, 및

상기 하나 이상의 프로세서들에 의해 실행되는 하나 이상의 프로그램들을 저장하는 메모리를 구비한 컴퓨팅 장치에서 수행되는 방법으로서, 로봇 팔 정상 데이터를 수집하는 단계, 상기 수집하는 단계에서 수집한 로봇 팔 정상 데이터를 조건 생성적 적대 신경망(conditional Generative Adversarial Network, cGAN)에 적용하여 비정상 데이터를 생성하는 단계 및 상기 생성하는 단계에서 생성된 비정상 데이터를 새로운 도메인에서 적용하는 단계를 포함한다.

한편, 일 실시예에 따른 도메인 적응 장치는 하나 이상의 프로세서들, 및 상기 하나 이상의 프로세서들에 의해 실행되는 하나 이상의 프로그램들을 저장하는 메모리를 구비한 컴퓨터 장치로서, 로봇 팔 정상 데이터를 수집하는 데이터 수집부, 상기 데이터 수집부에서 수집한 로봇 팔 정상 데이터를 조건 생성적 적대 신경망(conditional Generative Adversarial Network, cGAN)에 적용하여 비정상 데이터를 생성하는 데이터 생성부 및 상기 데이터 생성부에서 생성된 비정상 데이터를 새로운 도메인에서 적용하는 적용부를 포함한다.

본 발명에 의하면 대상 로봇팔 불량 데이터가 없을 때 학습된 도메인과 새로운 대상 도메인 간의 차이를 줄이기 위해 도메인 적응(domain adaptation)하는 방법론을 제시하는 도메인 적응 장치 및 방법을 제공할수 있는 효과가 도출된다.

또한, 로봇팔이 초기 훈련 도메인을 넘어서 다양한 환경과 작업에서 신속하게 적응하고 정확한 동작을 수행할 수 있도록 하는 도메인 적응 장치 및 방법을 제공할수 있는 효과가 있다.

도 1 은 본 발명의 일 실시예에 따른 도메인 적응 장치의 구성을 도시한 블록도이다.
도 2 는 본 발명의 일 실시예에 따른 도메인 적응 장치(10)의 동작을 설명하기 위한 예시도이다.

본 발명에서 사용되는 기술적 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아님을 유의해야 한다. 또한, 본 발명에서 사용되는 기술적 용어는 본 발명에서 특별히 다른 의미로 정의되지 않는 한, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 의미로 해석되어야 하며, 과도하게 포괄적인 의미로 해석되거나, 과도하게 축소된 의미로 해석되지 않아야 한다.

이하, 첨부된 도면을 참조하여 본 발명에 따른 바람직한 실시예를 상세히 설명한다.

본 발명의 실시예들에 따른 도메인 적응 장치는 적어도 하나의 컴퓨터 장치에 의해 구현될 수 있으며, 본 발명의 실시예들에 따른 도메인 적응 방법은 도메인 적응 장치에 포함되는 적어도 하나의 컴퓨터 장치를 통해 수행될 수 있다. 이때, 컴퓨터 장치에는 본 발명의 일실시예에 따른 컴퓨터 프로그램이 설치 및 구동될 수 있고, 컴퓨터 장치는 구동된 컴퓨터 프로그램의 제어에 따라 본 발명의 실시예들에 따른 도메인 적응 방법을 수행할 수 있다. 상술한 컴퓨터 프로그램은 컴퓨터 장치와 결합되어 도메인 적응 방법을 컴퓨터에 실행시키기 위해 컴퓨터 판독 가능한 기록매체에 저장될 수 있다.

도 1 은 본 발명의 일 실시예에 따른 도메인 적응 장치의 구성을 도시한 블록도이다.

일 실시예에 따른 도메인 적 응 장치(10)는 네트워크를 통하여 원격지의 서버나 사용자 단말에 접속할 수 있는 컴퓨터로 구현될 수 있다. 여기서, 컴퓨터는 예를 들어, 네비게이션, 웹 브라우저(WEB Browser)가 탑재된 노트북, 데스크톱(Desktop), 랩톱(Laptop) 등을 포함할 수 있다. 이때, 적어도 하나의 사용자 단말은 네트워크를 통해 원격지의 서버나 단말에 접속할 수 있는 단말로 구현될 수 있다. 적어도 하나의 사용자 단말은, 예를 들어, 휴대성과 이동성이 보장되는 무선 통신 장치로서, 네비게이션, PCS(Personal Communication System), GSM(Global System for Mobile communications), PDC(Personal Digital Cellular), PHS(Personal Handyphone System), PDA(Personal Digital Assistant), IMT(International Mobile Telecommunication)-2000, CDMA(Code Division Multiple Access)-2000, W-CDMA(W-Code Division Multiple Access), Wibro(Wireless Broadband Internet) 단말, 스마트폰(Smartphone), 스마트 패드(Smartpad), 타블렛 PC(Tablet PC) 등과 같은 모든 종류의 핸드헬드(Handheld) 기반의 무선 통신 장치를 포함할 수 있다.

일 실시예에 따른 도메인 적응 장치(10)는 대상 로봇팔 불량 데이터가 없을 때 도메인 적응(domain adaptation)하는 경우에 적용 가능하다.

도 2 는 본 발명의 일 실시예에 따른 도메인 적응 장치(10)의 동작을 설명하기 위한 예시도이다.

일 실시예있어서 도메인 적응 장치(10)는 cGAN Loss + a L1 Loss + b * DILATE Loss (Shape, time distortion 관련 loss)를 기반으로 움직인다.

예를 들어 y=0:normal, y=1~12(case1~12)까지를 일 실시예에 따른 로봇팔의 데이터라고 할 때, 도 2 는 y를 설정해주면서, 로봇팔의 정상 데이터를 정상/비정상 데이터로 매핑해주는 cGAN 네트워크를 나타낸 것이다.

도 2의 도메인 적응 장치(10)의 동작은 조건 생성적 적대 신경망(conditional Generative Adversarial Network, cGAN)를 로스로 학습을 시킨 뒤 Generator만 갖다가 기업의 데이터로 비정상 데이터를 만드는 방법을 사용하는 구조이다. 내부 세부적인 데이터 처리는 Transformer를 통해 수행할 수 있다.

여기서 G와 D가 추가정보 y라는 조건이 붙으면 조건부 생성 모델을 만들 수 있는 것이다. 여기서 y는 어떤 보정 정보도 될 수 있는데 class label이나 다른 modality의 데이터 등일 수 있다. y를 G와 D의 input layer에 추가로 넣음으로써 이를 수행할 수 있다.

일 실시예에 따른 도메인 적응 장치(10)는 증강 기법을 적용하여 대상 도메인의 데이터를 다양하게 변형하거나 합성하여 데이터의 다양성을 높이고 새로운 도메인에서의 일반화 성능을 개선시키는 데 도움을 줄 수 있다.

데이터 증강은 원래 학습된 도메인과 새로운 대상 도메인 간의 차이를 줄이기 위해 사용되는 방법이다.

일 실시예에 따른 도메인 적응 장치(10)는 도 1에 도시된 바와 같이, 통신 인터페이스(110), 메모리(120), 입출력 인터페이스(130) 및 프로세서(140)를 포함한다.

통신 인터페이스(110)는 네트워크(30)를 통해 도메인 적응 장치(10)가 다른 장치(일례로, 앞서 설명한 저장장치들)와 서로 통신하기 위한 기능을 제공할 수 있다. 일례로, 도메인 적응 장치(10)의 프로세서(140)가 메모리(120)와 같은 기록 장치에 저장된 프로그램 코드에 따라 생성한 요청이나 명령, 데이터, 파일 등이 통신 인터페이스(110)의 제어에 따라 네트워크(30)를 통해 다른 장치들로 전달될 수 있다. 역으로, 다른 장치로부터의 신호나 명령, 데이터, 파일 등이 네트워크(30)를 거쳐 의 통신 인터페이스(110)를 통해 도메인 적응 장치(10)로 수신될 수 있다. 통신 인터페이스(110)를 통해 수신된 신호나 명령, 데이터 등은 프로세서(140)나 메모리(120)로 전달될 수 있고, 파일 등은 도메인 적응 장치(10)가 더 포함할 수 있는 저장 매체(상술한 영구 저장 장치)로 저장될 수 있다.

네트워크(30)는 복수의 단말 및 서버들과 같은 각각의 노드 상호 간에 정보 교환이 가능한 연결 구조를 의미하는 것으로, 이러한 네트워크의 일예에는 근거리 통신망(LAN: Local Area Network), 광역 통신망(WAN: Wide Area Network), 인터넷(WWW: World Wide Web), 유무선 데이터 통신망, 전화망, 유무선 텔레비전 통신망 등을 포함한다. 무선 데이터 통신망의 일례에는 3G, 4G, 5G, 3GPP(3rd Generation Partnership Project), 5GPP(5th Generation Partnership Project), LTE(Long Term Evolution), WIMAX(World Interoperability for Microwave Access), 와이파이(Wi-Fi), 인터넷(Internet), LAN(Local Area Network), Wireless LAN(Wireless Local Area Network), WAN(Wide Area Network), PAN(Personal Area Network), RF(Radio Frequency), 블루투스(Bluetooth) 네트워크, NFC(Near-Field Communication) 네트워크, 위성 방송 네트워크, 아날로그 방송 네트워크, DMB(Digital Multimedia Broadcasting) 네트워크 등이 포함되나 이에 한정되지는 않는다.

메모리(120)는 컴퓨터에서 판독 가능한 기록매체로서, RAM(random access memory), ROM(read only memory) 및 디스크 드라이브와 같은 비소멸성 대용량 기록장치(permanent mass storage device)를 포함할 수 있다. 여기서 ROM과 디스크 드라이브와 같은 비소멸성 대용량 기록장치는 메모리(120)와는 구분되는 별도의 영구 저장 장치로서 도메인 적응 장치(10)에 포함될 수도 있다.

또한, 메모리(120)에는 운영체제와 적어도 하나의 프로그램 코드가 저장될 수 있다. 이러한 소프트웨어 구성요소들은 메모리(120)와는 별도의 컴퓨터에서 판독 가능한 기록매체로부터 메모리(120)로 로딩될 수 있다. 이러한 별도의 컴퓨터에서 판독 가능한 기록매체는 플로피 드라이브, 디스크, 테이프, DVD/CD-ROM 드라이브, 메모리 카드 등의 컴퓨터에서 판독 가능한 기록매체를 포함할 수 있다. 다른 실시예에서 소프트웨어 구성요소들은 컴퓨터에서 판독 가능한 기록매체가 아닌 통신 인터페이스(110)를 통해 메모리(120)에 로딩될 수도 있다. 예를 들어, 소프트웨어 구성요소들은 네트워크(30)를 통해 수신되는 파일들에 의해 설치되는 컴퓨터 프로그램에 기반하여 의 메모리(120)에 로딩될 수 있다.

입출력 인터페이스(130)는 입출력 장치와의 인터페이스를 위한 수단일 수 있다. 예를 들어, 입출력 장치는 마이크, 키보드 또는 마우스 등의 장치를, 그리고 출력 장치는 디스플레이, 스피커와 같은 장치를 포함할 수 있다. 다른 예로 입출력 인터페이스(130)는 터치스크린과 같이 입력과 출력을 위한 기능이 하나로 통합된 장치와의 인터페이스를 위한 수단일 수도 있다. 입출력 장치는 도메인 적응 장치(10)와 하나의 장치로 구성될 수도있다.

프로세서(140)는 기본적인 산술, 로직 및 입출력 연산을 수행함으로써, 컴퓨터 프로그램의 명령을 처리하도록 구성될 수 있다. 명령은 메모리(120) 또는 통신 인터페이스(110)에 의해 프로세서(140)로 제공될 수 있다. 예를 들어 프로세서(140)는 메모리(120)와 같은 기록 장치에 저장된 프로그램 코드에 따라 수신되는 명령을 실행하도록 구성될 수 있다.

하기에서, 적어도 하나의 라는 용어는 단수 및 복수를 포함하는 용어로 정의되고, 적어도 하나의 라는 용어가 존재하지 않더라도 각 구성요소가 단수 또는 복수로 존재할 수 있고, 단수 또는 복수를 의미할 수 있음은 자명하다 할 것이다. 또한, 각 구성 요소가 단수 또는 복수로 구비되는 것은 실시예에 따라 변경 가능하다 할 것이다.

프로세서(140)는 DI(Digital Input), AI(Analog Input), DO(Digital Output), Ethernet, SI(Serial Input) 포트를 포함할 수 있다.

일 실시예에 있어서, 프로세서(140)는 구체적으로 데이터 수집부(1410), 데이터 생성부(1420), 적용부(1430) 및 학습부(1440)를 포함한다.

데이터 수집부(1410)는 로봇 팔 정상 데이터를 수집한다. 즉 데이터 수집부(1410)는 로봇팔이 처음 훈련된 원래 도메인에서 훈련 데이터를 수집한다. 데이터 수집부(1410)는 로봇팔이 의도한 작업을 올바르게 수행하는 상태의 데이터를 수집하는 것을 말한다. 그리고 데이터 수집부(1410)는 적어도 하나 이상의 로봇 팔의 y 값을 입력받는다.

데이터 수집부(1410)는 로봇팔을 정상 작업을 수행하도록 프로그래밍하고, 해당 작업을 수행하는 동안 센서와 카메라로부터 데이터를 수집할 수 있다. 이 과정에서 로봇팔의 동작을 여러 번 반복하여 다양한 상황에서의 데이터를 수집하는 것이 바람직하다.

추가적인 양상에 있어서 데이터 수집부(1410)는 수집한 데이터에는 각각의 동작과 작업에 대한 라벨을 부여한다. 이는 나중에 모델을 학습시킬 때 사용되며, 정상 작업과 비정상 작업을 구분하는 데 도움을 줄 수 있다.

데이터 생성부(1420)는 데이터 수집부(1410)에서 수집한 로봇 팔 정상 데이터를 조건 생성적 적대 신경망(conditional Generative Adversarial Network, cGAN)에 적용하여 비정상 데이터를 생성한다.

조건 생성적 적대 신경망(Conditional Generative Adversarial Network, cGAN)은 기본적인 생성적 적대 신경망(GAN)의 확장된 형태로, 생성자와 판별자가 추가적인 조건 정보를 입력으로 받아들인다.

GAN은 생성자(G)와 판별자(D)라는 두 개의 신경망이 경쟁하는 구조로 이루어진다. 생성자는 무작위 노이즈로부터 가짜 데이터를 생성하고, 판별자는 생성자로부터 생성된 가짜 데이터와 실제 데이터를 구별하는 데 사용된다. GAN은 생성자가 실제 데이터와 유사한 데이터를 만들도록 학습하고, 판별자는 생성자로부터 생성된 데이터와 실제 데이터를 구별하는 데 사용된다.

생성자는 실제 데이터와 최대한 유사한 가짜 데이터를 만들어 판별자를 속이려고 하고, 판별자는 실제 데이터와 가짜 데이터를 정확하게 분별하고자 한다. 이 과정에서 생성자와 판별자는 서로를 경쟁시켜 가면서 점차적으로 성능을 개선할 수 있다.

cGAN은 이러한 GAN의 기본 구조에 추가적으로 조건 정보를 입력으로 사용하는 특징을 갖는다. 생성자와 판별자는 입력된 조건 정보에 따라 적절한 결과를 생성하거나 분별하도록 학습한다. 이러한 조건 정보는 라벨 정보나 특정 클래스 정보, 이미지의 특성 정보 등으로 사용될 수 있다.

그리고 적용부(1430)는 생성하는 단계에서 생성된 가짜(비정상) 데이터를 새로운 도메인에서 적용한다. 이때 적용부(1430)에서 적용할 새로운 도메인을 정의하는 과정이 선행될 수 있다. 새로운 도메인은 원래 도메인과 상이한 다른 환경이나 작업을 의미할 수 있다. 즉, 적용부(1430)는 로봇의 동작과 작업을 새로운 도메인의 요구사항에 맞게 변형할 수 있다.

일 실시예에 있어서 적용부(1430)는 다른 환경 또는 동작 특성을 가진 새로운 도메인을 정의하는 도메인 정의 모듈을 포함한다. 그리고 적용부(1430)는 도메인 정의 모듈에 의해 정의되는 새로운 도메인에서의 요구사항에 맞게 로봇팔의 동작과 작업을 수정한다.

이때 도메인 정의 모듈은 로봇이 적응해야 할 새로운 도메인의 특징과 조건을 명확히 정의한다. 이 모듈은 로봇이 적응해야 할 새로운 도메인의 특징과 조건을 명확히 정의할 수 있다.

로봇 팔이 작업을 수행하는 도메인에는 다양한 환경 특성이 포함될 수 있다. 예를 들어, 로봇 팔이 실내에서 작업하는 도메인과 실외에서 작업하는 도메인은 환경적으로 매우 다를 수 있는데 이러한 환경 특성을 정의하여 로봇 팔이 각각의 도메인에 적절히 적응할 수 있도록 한다.

또한 로봇 팔은 각 도메인에서 다양한 작업을 수행해야 할 수 있다. 예를 들어, 특정 물체를 집거나 이동하는 작업, 서로 다른 목표 지점으로의 이동 작업 등이 있을 수 있다. 이러한 작업 조건을 정의하여 로봇 팔이 새로운 도메인에서 요구되는 작업을 정확하게 수행할 수 있도록 한다.

또한 로봇 팔은 센서를 사용하여 주변 환경을 인지하고 작업을 수행하는데 새로운 도메인에서는 센서 데이터의 형식이나 범위 등이 다를 수 있으므로 이를 조정하는 작업이 필요하다. 도메인 정의 모듈은 이러한 센서 데이터의 조정 방법을 정의하여 로봇 팔이 정확한 센싱을 수행하도록 할 수 있다.

또한, 도메인 정의 모듈은 로봇 팔은 도메인에 따라 다양한 작업 우선순위를 가지도록하기 위해서 우선순위를 설정하여 로봇 팔이 새로운 도메인에서 가장 중요한 작업을 우선적으로 처리할 수 있고, 도메인 정의 모듈은 로봇 팔의 적응성을 개선하고 다양한 도메인에서 유연하게 작업을 수행할 수 있도록 할 수도 있다. 이 모듈은 로봇 시스템의 다양한 응용 분야에서 중요한 역할을 담당하며, 로봇의 다재다능성과 활용성을 향상시키는 데 기여할 수 있다.

도메인 간 데이터의 차이로 인해 모델이 특정 도메인에서는 잘 동작하지만 다른 도메인에서는 성능이 저하되는 경우가 발생한다. 이런 상황에서 특정 도메인에서 생성된 데이터를 다른 도메인에 적용하거나 적응시키킴으로써 모델의 일반화 성능을 향상시킬 수 있다.

적용부(1430)는 데이터 생성부(1420)에서 생성된 데이터를 다른 도메인에 적용하기 위해 변환 또는 적응하는 과정을 수행한다. 즉, 생성된 데이터를 새로운 도메인에 맞게 변환하는 작업을 수행한다. 예를 들어, 이미지 변환의 경우, 스타일 변환 기법을 사용하여 스타일을 적용하는 등의 작업을 수행할 수 있다.

일 양상에 있어서, 학습부(1440)는 데이터 수집부(1410)에서 수집된 로봇 팔 정상 데이터의 로스를 이용하여 조건 생성적 적대 신경망(conditional Generative Adversarial Network, cGAN)을 학습시킨다. 학습부(1440)는 적용부(1430)에서 변환된 데이터를 사용하여 로봇팔의 모델을 새로운 도메인에서 최적의 성능을 보장하도록 재학습할 수 있다.

학습부(1440)는 적용부(1430)에서 전환된 데이터를 사용하여 모델을 재학습하거나 파인튜닝하는 과정을 수행한다. 새로운 도메인에 적용된 데이터를 이용하여 모델을 다시 학습하면서 새로운 도메인에서의 성능을 개선하고 일반화할 수 있다. 즉 데이터를 변환 또는 적응한 후에는 로보의 동작을 새로운 도메인에 적용할 수 있도록 모델을 재학습하거나 파인튜닝 하는 과정이 진행된다. 이런 과정에서 새로운 도메인에 맞게 모델을 적절하게 수정하여 새로운 작업에 적용할 수 있도록 할 수 있다.

추가적으로 학습부(1440)에서 모델의 학습이 완료된 후, 새로운 도메인에서의 모델의 성능을 평가하고 확인할 수 있다. 이 과정에서 모델이 기존 도메인과 새로운 도메인 모두에서 좋은 성능을 발휘하는지 평가 및 확인할 수 있다.

이때 평가 지표로는 예를 들어 정확도, 정밀도, 재현율, F1 스코어 등이 사용될 수 있다. 또한 시각적으로 모델의 동작이 새로운 도메인에서 원하는 대로 이루어지는지 확인하는 것도 중요하다. 그러나 이에 한정되는 것은 아니다.

이에 따라 새로운 도메인에서 모델의 성능을 평가하고 확인함으로써 모델의 적응성과 일반화 성능을 확인할 수 있다. 필요에 따라 데이터 변환과 모델 파라미터 조정 등을 반복하여 새로운 도메인에서 최적의 성능을 달성할 수도 있다.

그리고 학습부(1440)는 cGAN Loss + a L1 Loss + b * DILATE Loss를 기반으로 하여 학습을 시킨다.

cGAN Loss는 조건부 생성적 적대적 신경망(Conditional Generative Adversarial Network, cGAN)에서 사용되는 손실 함수이다. cGAN은 GAN(Generative Adversarial Network)의 확장 버전으로, 생성자(G)와 판별자(D) 사이의 경쟁을 통해 실제 데이터와 유사한 가짜 데이터를 생성한다.

cGAN은 이러한 GAN의 기본 구조에 추가적으로 조건 정보를 입력으로 사용하는 특징을 가진다. 생성자와 판별자는 입력된 조건 정보에 따라 적절한 결과를 생성하거나 분별하도록 학습합니다. 예를 들어, 라벨 정보가 주어지면, 해당 라벨에 해당하는 이미지를 생성하거나 구별하도록 학습하는 등의 응용이 가능합니다.

cGAN Loss는 생성자와 판별자 모두에 대해 정의된다. 생성자의 목표는 생성된 가짜 데이터가 실제 데이터처럼 보이도록 만드는 것이므로, 생성자 손실은 생성된 데이터와 실제 데이터 사이의 유사성을 측정하는 우도(likelihood) 기반의 손실 함수를 사용한다. 일반적으로는 교차 엔트로피 손실(cross-entropy loss)을 사용할 수 있다.

판별자의 목표는 생성된 가짜 데이터와 실제 데이터를 정확하게 구별하는 것이므로, 판별자 손실은 이진 분류 문제로 정의되며, 일반적으로는 교차 엔트로피 손실을 사용할 수 있다. 즉, cGAN Loss는 생성자 손실과 판별자 손실을 결합한 것이다.

cGAN Loss를 최소화하는 방향으로 생성자와 판별자가 경쟁하면서 모델이 학습되고, 이를 통해 생성자는 실제 데이터와 유사한 가짜 데이터를 생성한다. 그리고 판별자는 가짜와 실제 데이터를 구별하는 능력을 향상시킬 수 있다. 이러한 과정을 통해 cGAN은 조건에 따라 원하는 데이터를 생성하는 등 다양한 응용에 사용될 수 있다.

일 실시예에 있어서 학습부(1440)는 Shape 및 시간왜곡(time distortion) 관련 loss를 기반으로 학습을 시킨다.

Shape 관련 Loss는 시퀀스 데이터의 형태(Shape)에 관련된 정보를 포함하여 학습하는 손실 함수를 의미한다. 주로 음성 인식, 음악 생성, 자연어 처리 등에서 활용될 수 있고, Shape 관련 Loss는 예측한 시퀀스와 실제 시퀀스 사이의 형태적 유사성을 측정한다.

시간 왜곡(time distortion) 관련 Loss는 시퀀스 데이터의 시간적인 특성을 고려하여 모델을 학습하는 손실 함수를 의미한다. 시간 왜곡 관련 Loss는 입력 시퀀스와 출력 시퀀스 간의 시간적인 정렬을 유도하여 학습하는 데 사용될 수 있다.

예를 들어, 음악 생성 모델에서는 입력된 음악 시퀀스와 생성된 음악 시퀀스 간의 시간적인 정렬 문제를 해결하는 TDO (Time-Domain Objective) Loss가 사용될 수 있다.

Shape 관련 Loss와 시간 왜곡 관련 Loss는 시퀀스 데이터의 특성을 고려하여 모델을 학습하고 일반화할 수 있다. 이러한 손실 함수들은 시퀀스 데이터 처리에 많이 사용되는데, 학습부(1440)는 데이터의 특성과 응용 분야에 따라 적절한 손실 함수를 선택하여 사용할 수 있다.

본 발명의 특징적인 양상에 있어서 데이터 생성부(1420)는 조건 생성적 적대 신경망(Generative Adversarial Network, cGAN)을 통해 생성자(Generator)가 로봇 팔 정상 데이터에 로스를 반영한 가짜(비정상) 데이터를 생성한다.

cGAN은 생성자(Generator)와 판별자(Discriminator)에 조건 정보를 추가하여, 원하는 조건에 맞게 데이터를 생성하거나 분류할 수 있다. 예를 들어, 특정 라벨 정보가 주어지면 해당 라벨에 해당하는 이미지를 생성하거나 식별하는 등의 작업을 할 수 있다.

일 실시예에 있어서 cGAN은 조건부 생성적 적대적 신경망으로, 원하는 조건에 따라 데이터를 생성하거나 분류할 수 있다. 일 실시예에 있어서, Generator는 GAN의 생성자로, 무작위 노이즈 벡터를 입력으로 받아 실제 데이터와 유사한 가짜 데이터를 생성할수 있다.

구체적으로 생성자(Generator)는 조건 정보와 랜덤 노이즈 벡터를 입력으로 받아 가짜 데이터를 생성한다. 생성자의 목표는 실제 데이터와 유사한 가짜 데이터를 만들도록 학습할 수 있다.

판별자(Discriminator)는 실제 데이터와 생성자로부터 생성된 가짜 데이터를 입력으로 받아 이진 분류를 수행한다. 즉, 입력된 데이터가 실제 데이터인지 생성자로부터 생성된 가짜 데이터인지 판별한다. 이때 판별자의 목표는 이진 분류를 정확하게 수행하도록 학습할 수 있다.

생성모델을 학습시키는 GAN을 기반으로 GAN의 조건부(Conditional) 버전으로 기존 모델에 간단히 y를 추가하여 만든 적대적 신경망을 소개합니다.

Generator는 GAN의 한 부분으로, 무작위 노이즈 벡터를 입력으로 받아 실제 데이터와 유사한 가짜 데이터를 생성하는 신경망이다. Generator의 목표는 실제 데이터와 구별하기 어려운 가짜 데이터를 생성하여 판별자를 속이는 것이다. 이러한 경쟁적 학습을 통해 Generator는 점차적으로 실제 데이터와 유사한 형태로 데이터를 생성하도록 발전할 수 있다.

GAN의 Generator는 데이터를 생성하기 위해 일반적으로 Deconvolutional 또는 Transposed Convolutional 레이어와 활성화 함수(예: ReLU)를 사용하여 노이즈를 점차적으로 확대하고 변환하는 방법으로 작동한다. Generator의 결과물은 판별자가 실제 데이터와 구별하기 어려운 가짜 데이터(fake data)이며, 이러한 데이터를 생성함으로써 Generator는 점차적으로 생성자의 성능을 향상시킬 수 있다.

Deconvolutional 레이어 또는 Transposed Convolutional 레이어는 Convolutional Neural Network (CNN)의 반대로 작용하는 레이어이다. CNN에서 Deconvolutional 레이어는 입력 이미지를 업샘플링하여 확대하는 데 사용된다.

Deconvolutional 레이어는 패딩을 사용하여 입력 이미지의 공간 해상도를 높이는 작업을 수행한다. 또한 Deconvolutional 레이어는 학습 가능한 가중치를 가지며, 이를 통해 노이즈를 변환하고 확대하는 데 사용된다. 활성화 함수는 인공 신경망에서 노드의 출력 값을 결정하는 함수이다.

ReLU(Rectified Linear Unit)는 가장 일반적으로 사용되는 활성화 함수 중 하나로, 양수 입력에 대해 값을 그대로 출력하고, 음수 입력에 대해는 0으로 출력하는 함수이다.ReLU 함수는 비선형성을 가지며, 인공 신경망의 학습과정에서 비선형 문제를 해결할 수 있다.

도 3 은 본 발명의 일 실시예에 따른 도메인 적응 방법을 설명하기 위한 흐름도이다.

일 실시예에 따른 도메인 적응 방법은 먼저 로봇 팔 정상 데이터를 수집한다(S300). 수집하는 단계는 적어도 하나 이상의 로봇 팔의 y 값을 입력받는다.

수집하는 단계는 로봇팔이 의도한 작업을 올바르게 수행하는 상태의 데이터를 수집하는 것을 말한다. 일 실시예에 있어서, 수집하는 단계는 로봇팔을 정상 작업을 수행하도록 프로그래밍하고, 해당 작업을 수행하는 동안 센서와 카메라로부터 데이터를 수집할 수 있다. 이 과정에서 로봇팔의 동작을 여러 번 반복하여 다양한 상황에서의 데이터를 수집하는 것이 바람직하다.

추가적인 양상에 있어서 수집하는 단계는 수집한 데이터에는 각각의 동작과 작업에 대한 라벨을 부여한다. 이는 나중에 모델을 학습시킬 때 사용되며, 정상 작업과 비정상 작업을 구분하는 데 도움을 줄 수 있다.

그리고 상기 수집하는 단계에서 수집한 로봇 팔 정상 데이터를 조건 생성적 적대 신경망(conditional Generative Adversarial Network, cGAN)에 적용하여 비정상 데이터를 생성한다(S310).

일 양상에 있어서, 생성하는 단계는 조건 생성적 적대 신경망(Generative Adversarial Network, GANc)을 통해 생성자(Generator)가 로봇 팔 정상 데이터에 로스를 반영한 비정상 데이터를 생성한다.

그리고 생성하는 단계에서 생성된 비정상 데이터를 새로운 도메인에서 적용한다(S320).

적용하는 단계는 생성하는 단계에서 생성된 데이터를 다른 도메인에 적용하기 위해 변환 또는 적응하는 과정을 수행한다. 즉, 생성된 데이터를 새로운 도메인에 맞게 변환하는 작업을 수행한다.

수집하는 단계에서 수집된 로봇 팔 정상 데이터의 로스를 이용하여 조건 생성적 적대 신경망(conditional Generative Adversarial Network, cGAN)을 학습시킨다(S330).

이때 학습시키는 단계는, cGAN Loss + a L1 Loss + b * DILATE Loss를 기반으로 한다. 그리고 학습시키는 단계는, Shape 및 시간왜곡(time distortion) 관련 loss를 기반으로 학습을 시킨다.

추가적으로 학습시키는 단계에서 모델의 학습이 완료된 후, 새로운 도메인에서의 모델의 성능을 평가하고 확인할 수 있다. 이 과정에서 모델이 기존 도메인과 새로운 도메인 모두에서 좋은 성능을 발휘하는지 평가 및 확인할 수도 있다.

전술한 방법은 애플리케이션으로 구현되거나 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다.

상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거니와 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다.

컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD 와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다.

프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.

이상에서는 실시예들을 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.

10 : 도메인 적응 장치 110 : 통신 인터페이스
120 : 메모리 130 : 입출력 인터페이스
140 : 프로세서

Claims

하나의 프로세서들, 및
상기 하나 이상의 프로세서들에 의해 실행되는 하나 이상의 프로그램들을 저장하는 메모리를 구비한 컴퓨팅 장치에서 수행되는 방법으로서,
원 도메인에서의 로봇 팔 정상 데이터를 수집하는 단계;
상기 수집하는 단계에서 수집한 로봇 팔 정상 데이터를 조건 생성적 적대 신경망(conditional Generative Adversarial Network, cGAN)에 적용하여 비정상 데이터를 생성하는 단계; 및
상기 생성하는 단계에서 생성된 비정상 데이터를 새로운 도메인에서 적용하는 단계;를 포함하고,
상기 수집하는 단계에서 수집된 로봇 팔 정상 데이터의 로스를 이용하여 조건 생성적 적대 신경망(conditional Generative Adversarial Network, cGAN)을 학습시키는 단계;를 더 포함하는, 도메인 적응 방법.
삭제
제 1 항에 있어서,
상기 학습시키는 단계는,
cGAN Loss + a L1 Loss + b * DILATE Loss를 기반으로 하는, 도메인 적응 방법.
제 3 항에 있어서,
상기 학습 시키는 단계는,
Shape 및 시간왜곡(time distortion) 관련 loss를 기반으로 학습을 시키는, 도메인 적응 방법.
제 1 항에 있어서,
상기 생성하는 단계는,
조건 생성적 적대 신경망(Generative Adversarial Network, GANc)을 통해 생성자(Generator)가 로봇 팔 정상 데이터에 로스를 반영한 비정상 데이터를 생성하는, 도메인 적응 방법.
제 1 항에 있어서,
상기 수집하는 단계는,
적어도 하나 이상의 로봇 팔의 y 값을 입력받는, 도메인 적응 방법.
하나 이상의 프로세서들, 및
상기 하나 이상의 프로세서들에 의해 실행되는 하나 이상의 프로그램들을 저장하는 메모리를 구비한 컴퓨터 장치로서,
로봇 팔 정상 데이터를 수집하는 데이터 수집부;
상기 데이터 수집부에서 수집한 로봇 팔 정상 데이터를 조건 생성적 적대 신경망(conditional Generative Adversarial Network, cGAN)에 적용하여 비정상 데이터를 생성하는 데이터 생성부; 및
상기 데이터 생성부에서 생성된 비정상 데이터를 새로운 도메인에서 적용하는 적용부;를 포함하고,
상기 수집부에서 수집된 로봇 팔 정상 데이터의 로스를 이용하여 조건 생성적 적대 신경망(conditional Generative Adversarial Network, cGAN)을 학습시키는학습부;를 더 포함하는, 도메인 적응 장치.