KR102466716B1 - 특징 벡터 분산에 기반한 손실 함수를 통한 이상 탐지 장치 및 방법 - Google Patents

특징 벡터 분산에 기반한 손실 함수를 통한 이상 탐지 장치 및 방법 Download PDF

Info

Publication number
KR102466716B1
KR102466716B1 KR1020200103372A KR20200103372A KR102466716B1 KR 102466716 B1 KR102466716 B1 KR 102466716B1 KR 1020200103372 A KR1020200103372 A KR 1020200103372A KR 20200103372 A KR20200103372 A KR 20200103372A KR 102466716 B1 KR102466716 B1 KR 102466716B1
Authority
KR
South Korea
Prior art keywords
image
normal
anomaly detection
abnormal
latent
Prior art date
Application number
KR1020200103372A
Other languages
English (en)
Other versions
KR20220022329A (ko
Inventor
최윤식
홍은기
Original Assignee
연세대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 연세대학교 산학협력단 filed Critical 연세대학교 산학협력단
Priority to KR1020200103372A priority Critical patent/KR102466716B1/ko
Publication of KR20220022329A publication Critical patent/KR20220022329A/ko
Application granted granted Critical
Publication of KR102466716B1 publication Critical patent/KR102466716B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/001—Image restoration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2211/00—Image generation
    • G06T2211/40—Computed tomography
    • G06T2211/416—Exact reconstruction

Abstract

본 실시예들은 인코더가 잠재 공간의 특징 벡터가 분산되도록 손실 함수를 정의하여, 모든 입력 데이터에 대해서 잠재 공간의 특징 벡터가 정상 이미지로 치환되고, 인코더 결과의 범위를 제한하여 다양한 데이터 집합에 적용 가능한 손실 함수를 갖는 이미지 복원 모델을 통해 이상 탐지 성능을 향상시킨 이상 탐지 장치 및 방법을 제공한다.

Description

특징 벡터 분산에 기반한 손실 함수를 통한 이상 탐지 장치 및 방법 {Anomaly Detection Apparatus Using Loss Function Based on Latent Feature Dispersion and Method Thereof}
본 발명이 속하는 기술 분야는 이상 탐지 장치 및 방법에 관한 것이다.
이 부분에 기술된 내용은 단순히 본 실시예에 대한 배경 정보를 제공할 뿐 종래기술을 구성하는 것은 아니다.
유사한 데이터를 학습하여 데이터 집합의 공통된 특징을 도출하는 비지도 학습의 하나인 오토인코더는 인코더가 이미지의 특징을 추상화하며 축소하고, 디코더가 특징을 다시 확장하여 이미지로 재구성한다. 오토인코더는 특징을 기준으로 축소 과정을 거치므로 최적의 특징 표현을 찾을 수 있고, 원래 이미지의 특징이 유지된다.
일반적인 오토인코더는 정상 데이터의 분포를 학습하며, 정상 데이터만 학습한 모델은 이상 샘플을 제대로 복원하지 못한다. 고차원 공간에서 이상 샘플은 정상 샘플과 부분적으로 다르지만 전체적으로 유사한 구조를 갖는다. 잠재 공간에서 정상 데이터와 이상 데이터 간의 거리가 가깝다보니 이상 샘플의 복원 이미지는 원본 이미지와 크게 차이가 없다.
한국공개특허공보 제10-2020-0056183호 (2020.05.22.) 한국등록특허공보 제10-2027389호 (2019.09.25.)
본 발명의 실시예들은 인코더가 잠재 공간의 특징 벡터가 분산되도록 손실 함수를 정의하여, 모든 입력 데이터에 대해서 잠재 공간의 특징 벡터가 정상 이미지로 치환되고, 인코더 결과의 범위를 제한하여 다양한 데이터 집합에 적용 가능한 손실 함수를 설계하는 데 주된 목적이 있다.
본 발명의 명시되지 않은 또 다른 목적들은 하기의 상세한 설명 및 그 효과로부터 용이하게 추론할 수 있는 범위 내에서 추가적으로 고려될 수 있다.
본 실시예의 일 측면에 의하면, 컴퓨팅 디바이스에 의한 이상 탐지 방법에 있어서, 원본 이미지로부터 인코더와 디코더가 결합된 이미지 복원 모델을 통해서 복원 이미지를 생성하는 단계, 및 상기 복원 이미지를 정상 이미지 또는 이상 이미지로 구분하여 이상 결과를 출력하는 단계를 포함하는 것을 특징으로 하는 이상 탐지 방법을 제공한다.
상기 이미지 복원 모델에서 설계된 손실 함수는 상기 인코더가 잠재 공간의 특징 벡터가 분산되도록 설계되고, 상기 디코더는 상기 잠재 공간의 특징 벡터를 상기 복원 이미지로 재구성하며 상기 복원 이미지가 상기 정상 이미지로 재구성되도록 학습될 수 있다.
상기 이미지 복원 모델에서 설계된 손실 함수는 상기 정상 이미지에 대해 이상 점수를 작게 유지하면서 상기 이상 이미지에 대한 이상 점수를 최대화하여 학습될 수 있다.
상기 이미지 복원 모델은 정상 클래스에 해당하는 상기 정상 이미지를 항상 생성하도록 유도하여, 상기 이상 이미지에 대해서 상기 원본 이미지와 상기 복원 이미지 간의 차이를 극대화할 수 있다.
상기 이미지 복원 모델은 상기 디코더가 훈련된 잠재 특징에 대해서만 이미지를 재구성한다는 가정에 기반하여, 상기 손실 함수에 정규화 계수를 적용하여 정상 클래스의 잠재 벡터 사이의 분산도를 최대화하여 상기 잠재 공간의 전체 매니폴드 공간에서 상기 정상 클래스에 대한 벡터를 분산시킬 수 있다.
상기 디코더는 모든 입력 이미지에 대해 상기 정상 클래스의 특성을 갖는 이미지를 생성할 수 있다.
상기 이상 결과를 출력하는 단계는, (i) 상기 이상 이미지가 상기 정상 이미지보다 상대적으로 간단한 구조로 형성된 제1 상황 또는 (ii) 상기 이상 이미지가 상기 정상 이미지의 전체적인 구조와 기준 범위 내에서 유사한 구조로 형성된 제2 상황에서 상기 이상 이미지를 구분하여 출력할 수 있다.
본 실시예의 다른 측면에 의하면, 하나 이상의 프로세서 및 상기 하나 이상의 프로세서에 의해 실행되는 하나 이상의 프로그램을 저장하는 메모리를 포함하는 이상 탐지 장치에 있어서, 상기 프로세서는 원본 이미지로부터 인코더와 디코더가 결합된 이미지 복원 모델을 통해서 복원 이미지를 생성하고, 상기 프로세서는 상기 복원 이미지를 정상 이미지 또는 이상 이미지로 구분하여 이상 결과를 출력하는 것을 특징으로 하는 이상 탐지 장치를 제공한다.
이상에서 설명한 바와 같이 본 발명의 실시예들에 의하면, 인코더가 잠재 공간의 특징 벡터가 분산되도록 손실 함수를 정의하여, 모든 입력 데이터에 대해서 제한된 공간 내부의 모든 벡터가 정상 이미지로 치환되고, 인코더 결과의 범위를 제한하여 다양한 데이터 집합에 적용 가능한 손실 함수를 갖는 이미지 복원 모델을 통해 이상 탐지 성능을 향상시킬 수 있는 효과가 있다.
여기에서 명시적으로 언급되지 않은 효과라 하더라도, 본 발명의 기술적 특징에 의해 기대되는 이하의 명세서에서 기재된 효과 및 그 잠정적인 효과는 본 발명의 명세서에 기재된 것과 같이 취급된다.
도 1는 본 발명의 일 실시예에 따른 이상 탐지 장치를 예시한 블록도이다.
도 2는 본 발명의 일 실시예에 따른 이상 탐지 장치에서 인코더와 디코더가 결합된 이미지 복원 모델을 예시한 도면이다.
도 3 내지 도 5는 본 발명의 일 실시예에 따른 이상 탐지 장치의 잠재 공간에서 특징 벡터의 분산을 예시한 도면이다.
도 6은 본 발명의 다른 실시예에 따른 이상 탐지 방법을 예시한 흐름도이다.
도 7 내지 도 10은 본 발명의 실시예들에 따른 시뮬레이션 결과를 예시한 도면이다.
이하, 본 발명을 설명함에 있어서 관련된 공지기능에 대하여 이 분야의 기술자에게 자명한 사항으로서 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략하고, 본 발명의 일부 실시예들을 예시적인 도면을 통해 상세하게 설명한다.
일반적인 오토인코더를 이용하면 (i) 이상 데이터가 정상 데이터보다 상대적으로 간단한 구조로 형성된 상황과 (ii) 이상 데이터가 정상 데이터의 전체적인 구조와 유사한 구조로 형성된 상황에서 이상을 구별하는 것이 쉽지 않은 문제가 있다.
이러한 문제를 해결하기 위해서 본 실시예에 따른 이상 탐지 장치는 디코더가 훈련된 잠재 특징에 대해서만 이미지를 잘 재구성한다는 가정에 기반하여 손실 함수에 정규화 계수를 추가하여 정상 클래스의 잠재 벡터 사이의 분산도를 최대화함으로써 전체 매니폴드 공간에서 정상 클래스에 대한 벡터를 분산시키고, 디코더는 모든 입력 이미지에 대해 정상 클래스의 특성을 갖는 일정한 이미지를 생성한다. 결과적으로 입력 이미지가 이상 이미지일 때 복원 에러가 극명하게 달라지게 된다.
도 1는 본 발명의 일 실시예에 따른 이상 탐지 장치를 예시한 블록도이다.
이상 탐지 장치(110)는 적어도 하나의 프로세서(120), 컴퓨터 판독 가능한 저장매체(130) 및 통신 버스(170)를 포함한다.
프로세서(120)는 이상 탐지 장치(110)로 동작하도록 제어할 수 있다. 예컨대, 프로세서(120)는 컴퓨터 판독 가능한 저장 매체(130)에 저장된 하나 이상의 프로그램들을 실행할 수 있다. 하나 이상의 프로그램들은 하나 이상의 컴퓨터 실행 가능 명령어를 포함할 수 있으며, 컴퓨터 실행 가능 명령어는 프로세서(120)에 의해 실행되는 경우 이상 탐지 장치(110)로 하여금 예시적인 실시예에 따른 동작들을 수행하도록 구성될 수 있다.
컴퓨터 판독 가능한 저장 매체(130)는 컴퓨터 실행 가능 명령어 내지 프로그램 코드, 프로그램 데이터 및/또는 다른 적합한 형태의 정보를 저장하도록 구성된다. 컴퓨터 판독 가능한 저장 매체(130)에 저장된 프로그램(140)은 프로세서(120)에 의해 실행 가능한 명령어의 집합을 포함한다. 일 실시예에서, 컴퓨터 판독한 가능 저장 매체(130)는 메모리(랜덤 액세스 메모리와 같은 휘발성 메모리, 비휘발성 메모리, 또는 이들의 적절한 조합), 하나 이상의 자기 디스크 저장 디바이스들, 광학 디스크 저장 디바이스들, 플래시 메모리 디바이스들, 그 밖에 이상 탐지 장치(110)에 의해 액세스되고 원하는 정보를 저장할 수 있는 다른 형태의 저장 매체, 또는 이들의 적합한 조합일 수 있다.
통신 버스(170)는 프로세서(120), 컴퓨터 판독 가능한 저장 매체(140)를 포함하여 이상 탐지 장치(110)의 다른 다양한 컴포넌트들을 상호 연결한다.
이상 탐지 장치(110)는 또한 하나 이상의 입출력 장치를 위한 인터페이스를 제공하는 하나 이상의 입출력 인터페이스(150) 및 하나 이상의 통신 인터페이스(160)를 포함할 수 있다. 입출력 인터페이스(150) 및 통신 인터페이스(160)는 통신 버스(170)에 연결된다. 입출력 장치(미도시)는 입출력 인터페이스(150)를 통해 이상 탐지 장치(110)의 다른 컴포넌트들에 연결될 수 있다.
이상 탐지 장치(110)는 새롭게 정의된 손실 함수를 통해 정상 샘플에 대해 이상 점수를 작게 유지하면서 이상 샘플에 대한 이상 점수를 최대화한다. 하는 것이다. 이상 탐지 장치(110)의 복원 모델의 네트워크에서 정상 클래스의 이미지를 항상 생성하도록 유도하는 접근 방식을 사용하며 이상 이미지에 대해서 원본 이미지와 복원 이미지 간의 차이를 극대화할 수 있다. 이러한 방식을 이용하여 이상 탐지 장치(110)는 (i) 이상 데이터가 정상 데이터보다 상대적으로 간단한 구조로 형성된 상황 및 (ii) 이상 데이터가 정상 데이터의 전체적인 구조와 유사한 구조로 형성된 상황에서도 이상여부를 용이하게 구별할 수 있다.
도 2는 본 발명의 일 실시예에 따른 이상 탐지 장치에서 인코더와 디코더가 결합된 이미지 복원 모델을 예시한 도면이다.
인코더는 이미지 또는 비디오 등을 입력으로 하고, 시각적 특징 정보를 출력으로 한다. 디코더는 시각적 특징 정보를 이미지 또는 비디오 등으로 복원한다. 인코더 및 디코더는 다수의 레이어가 네트워크로 연결되며 히든 레이어를 포함한다. 레이어는 파라미터를 포함할 수 있고, 레이어의 파라미터는 학습가능한 필터 집합을 포함한다. 파라미터는 노드 간의 가중치 및/또는 바이어스를 포함한다.
손실 함수는 복원 손실과 분산 손실의 합으로 정의되며 수학식 1과 같이 표현된다.
Figure 112020086528421-pat00001
복원 손실은 L2-Norm으로 산출될 수 있다. x는 입력 이미지이고, f는 인코더이고, f(x)는 인코더의 출력인 특징 벡터(잠재 벡터)이고, g는 디코더이다.
분산 손실은 잠재 벡터의 분산을 조절한다. λ는 정규화 계수이고, d는 잠재 공간의 차원이고, n은 단일 클래스에 대한 정상 샘플의 개수이다. 잠재 공간은 특징 벡터가 존재하는 공간으로 이미지의 속성이 매핑되며, 대상 이미지의 정보를 충분히 담을 수 있도록 크기를 설정한다.
이미지 복원 모델의 목적은 손실을 최소화하는 것이며, 손실을 최소화되도록 모델의 파라미터를 학습시킨다.
이미지 복원 모델은 정상 클래스에 해당하는 정상 이미지를 항상 생성하도록 유도하여, 이상 이미지에 대해서 원본 이미지와 복원 이미지 간의 차이를 극대화한다.
이미지 복원 모델은 디코더가 훈련된 잠재 특징에 대해서만 이미지를 재구성한다는 가정에 기반하여, 손실 함수에 정규화 계수를 적용하여 정상 클래스의 잠재 벡터 사이의 분산도를 최대화하여 잠재 공간의 전체 매니폴드 공간에서 정상 클래스에 대한 벡터를 분산시킨다. 매니폴드 공간은 두 점 사이의 거리 또는 유사도가 근거리에서는 유클리디안(직선 거리)이지만 원거리에서는 비유클리디안에 해당하는 공간을 의미한다. 디코더는 모든 입력 이미지에 대해 정상 클래스의 특성을 갖는 이미지를 생성한다.
도 3 내지 도 5는 본 발명의 일 실시예에 따른 이상 탐지 장치의 잠재 공간에서 특징 벡터의 분산을 예시한 도면이다.
도 3은 기존의 오토인코더에 의한 잠재 공간에 배치된 잠재 벡터를 나타내고, 도 4는 본 실시예에 따른 이상 탐지 장치에 의한 잠재 공간에 배치된 잠재 벡터(λ=0.01)를 나타내고, 도 5는 본 실시예에 따른 이상 탐지 장치에 의한 잠재 공간에 배치된 잠재 벡터(λ=1)를 나타낸다.
정규화 계수(λ)가 증가할수록 매니폴드 공간에서 분산도가 증가하게 된다. 다만, 정규화 계수가 너무 크면 모든 입력 이미지에 대해서 동일한 이미지로 복원하므로 최적화된 정규화 계수를 설정할 필요가 있다. 정규화 계수를 0.001 내지 0.1의 범위 내에서 설정할 수 있으며, 0.01로 설정하는 것이 바람직하다.
도 6은 본 발명의 다른 실시예에 따른 이상 탐지 방법을 예시한 흐름도이다.
단계 S210에서 프로세서는 원본 이미지로부터 인코더와 디코더가 결합된 이미지 복원 모델을 통해서 복원 이미지를 생성한다.
단계 S220에서 프로세서는 복원 이미지를 정상 이미지 또는 이상 이미지로 구분하여 이상 결과를 출력한다.
학습 과정에서 이미지 복원 모델에서 설계된 손실 함수는 인코더가 잠재 공간의 특징 벡터가 분산되도록 설계되고, 디코더는 상기 잠재 공간의 특징 벡터를 상기 복원 이미지로 재구성하며 상기 복원 이미지가 상기 정상 이미지로 재구성되도록 학습된다.
학습 과정에서 이미지 복원 모델에서 설계된 손실 함수는 정상 이미지에 대해 이상 점수를 작게 유지하면서 이상 이미지에 대한 이상 점수를 최대화하여 학습된다.
이상 결과를 출력하는 단계는, (i) 이상 이미지가 정상 이미지보다 상대적으로 간단한 구조로 형성된 제1 상황 또는 (ii) 이상 이미지가 정상 이미지의 전체적인 구조와 기준 범위 내에서 유사한 구조로 형성된 제2 상황에서 이상 이미지를 구분하여 출력할 수 있다.
도 7 내지 도 10은 본 발명의 실시예들에 따른 시뮬레이션 결과를 예시한 도면이다.
도 7은 MVTec 데이터 세트의 트랜지스터 이미지에 관한 것으로, 도 7의 (a)는 입력된 이상 이미지이고, 도 7의 (b) 내지 (e)는 복원 이미지이고, 도 7의 (f)는 정상 이미지이다. MSE(Mean Squared Error)를 이용하여 입력 이미지와 복원 이미지 간의 오차를 산출할 수 있다.
도 8은 MVTec 데이터 세트의 병 이미지에 관한 것으로, 도 8의 (a)는 입력된 이상 이미지이고, 도 8의 (b) 내지 (e)는 복원 이미지이고, 도8의 (f)는 정상 이미지이다. MSE(Mean Squared Error)를 이용하여 입력 이미지와 복원 이미지 간의 오차를 산출할 수 있다.
도 9는 MNIST 데이터 세트에 관한 것으로, 도 9의 (a)는 원본 이미지이고, 도 9의 (b)는 기존의 오토인코더에 의한 복원 이미지이고, 도 9의 (c)는 본 실시예에 따른 이상 탐지 장치에 의한 복원 이미지(λ=0.01)이고, 도 9의 (d)는 본 실시예에 따른 이상 탐지 장치에 의한 복원 이미지(λ=1)이다. 손실 분산으로 인하여 복원 이미지가 숫자 8의 클래스로 형성됨을 알 수 있다.
도 10은 패션 MNIST 데이터 세트에 관한 것으로, 도 10의 (a)는 원본 이미지이고, 도 10의 (b)는 기존의 오토인코더에 의한 복원 이미지이고, 도 10의 (c)는 본 실시예에 따른 이상 탐지 장치에 의한 복원 이미지(λ=0.01)이다. 손실 분산으로 인하여 복원 이미지가 가방 모양의 클래스로 형성됨을 알 수 있다.
이상 탐지 장치는 하드웨어, 펌웨어, 소프트웨어 또는 이들의 조합에 의해 로직회로 내에서 구현될 수 있고, 범용 또는 특정 목적 컴퓨터를 이용하여 구현될 수도 있다. 장치는 고정배선형(Hardwired) 기기, 필드 프로그램 가능한 게이트 어레이(Field Programmable Gate Array, FPGA), 주문형 반도체(Application Specific Integrated Circuit, ASIC) 등을 이용하여 구현될 수 있다. 또한, 장치는 하나 이상의 프로세서 및 컨트롤러를 포함한 시스템온칩(System on Chip, SoC)으로 구현될 수 있다.
이상 탐지 장치는 하드웨어적 요소가 마련된 컴퓨팅 디바이스 또는 서버에 소프트웨어, 하드웨어, 또는 이들의 조합하는 형태로 탑재될 수 있다. 컴퓨팅 디바이스 또는 서버는 각종 기기 또는 유무선 통신망과 통신을 수행하기 위한 통신 모뎀 등의 통신장치, 프로그램을 실행하기 위한 데이터를 저장하는 메모리, 프로그램을 실행하여 연산 및 명령하기 위한 마이크로프로세서 등을 전부 또는 일부 포함한 다양한 장치를 의미할 수 있다.
도 6에서는 각각의 과정을 순차적으로 실행하는 것으로 기재하고 있으나 이는 예시적으로 설명한 것에 불과하고, 이 분야의 기술자라면 본 발명의 실시예의 본질적인 특성에서 벗어나지 않는 범위에서 도 6에 기재된 순서를 변경하여 실행하거나 또는 하나 이상의 과정을 병렬적으로 실행하거나 다른 과정을 추가하는 것으로 다양하게 수정 및 변형하여 적용 가능할 것이다.
본 실시예들에 따른 동작은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능한 매체에 기록될 수 있다. 컴퓨터 판독 가능한 매체는 실행을 위해 프로세서에 명령어를 제공하는 데 참여한 임의의 매체를 나타낸다. 컴퓨터 판독 가능한 매체는 프로그램 명령, 데이터 파일, 데이터 구조 또는 이들의 조합을 포함할 수 있다. 예를 들면, 자기 매체, 광기록 매체, 메모리 등이 있을 수 있다. 컴퓨터 프로그램은 네트워크로 연결된 컴퓨터 시스템 상에 분산되어 분산 방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수도 있다. 본 실시예를 구현하기 위한 기능적인(Functional) 프로그램, 코드, 및 코드 세그먼트들은 본 실시예가 속하는 기술분야의 프로그래머들에 의해 용이하게 추론될 수 있을 것이다.
본 실시예들은 본 실시예의 기술 사상을 설명하기 위한 것이고, 이러한 실시예에 의하여 본 실시예의 기술 사상의 범위가 한정되는 것은 아니다. 본 실시예의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 실시예의 권리범위에 포함되는 것으로 해석되어야 할 것이다.

Claims (14)

  1. 컴퓨팅 디바이스에 의한 이상 탐지 방법에 있어서,
    원본 이미지로부터 인코더와 디코더가 결합된 이미지 복원 모델을 통해서 복원 이미지를 생성하는 단계; 및
    상기 복원 이미지를 정상 이미지 또는 이상 이미지로 구분하여 이상 결과를 출력하는 단계를 포함하며,
    상기 이미지 복원 모델에서 설계된 손실 함수는 상기 인코더가 잠재 공간의 특징 벡터가 분산되도록 설계되고, 상기 디코더는 상기 잠재 공간의 특징 벡터를 상기 복원 이미지로 재구성하며 상기 복원 이미지가 상기 정상 이미지로 재구성되도록 학습되는 것을 특징으로 하는 이상 탐지 방법.
  2. 삭제
  3. 삭제
  4. 제1항에 있어서,
    상기 이미지 복원 모델은 정상 클래스에 해당하는 상기 정상 이미지를 항상 생성하도록 유도하여, 상기 이상 이미지에 대해서 상기 원본 이미지와 상기 복원 이미지 간의 차이를 극대화하는 것을 특징으로 하는 이상 탐지 방법.
  5. 제1항에 있어서,
    상기 이미지 복원 모델은 상기 디코더가 훈련된 잠재 특징에 대해서만 이미지를 재구성한다는 가정에 기반하여, 상기 손실 함수에 정규화 계수를 적용하여 정상 클래스의 잠재 벡터 사이의 분산도를 최대화하여 상기 잠재 공간의 전체 매니폴드 공간에서 상기 정상 클래스에 대한 벡터를 분산시키는 것을 특징으로 하는 이상 탐지 방법.
  6. 제5항에 있어서,
    상기 디코더는 모든 입력 이미지에 대해 상기 정상 클래스의 특성을 갖는 이미지를 생성하는 것을 특징으로 하는 이상 탐지 방법.
  7. 제1항에 있어서,
    상기 이상 결과를 출력하는 단계는,
    (i) 상기 이상 이미지가 상기 정상 이미지보다 상대적으로 간단한 구조로 형성된 제1 상황 또는 (ii) 상기 이상 이미지가 상기 정상 이미지의 전체적인 구조와 기준 범위 내에서 유사한 구조로 형성된 제2 상황에서 상기 이상 이미지를 구분하여 출력하는 것을 특징으로 하는 이상 탐지 방법.
  8. 하나 이상의 프로세서 및 상기 하나 이상의 프로세서에 의해 실행되는 하나 이상의 프로그램을 저장하는 메모리를 포함하는 이상 탐지 장치에 있어서,
    상기 프로세서는 원본 이미지로부터 인코더와 디코더가 결합된 이미지 복원 모델을 통해서 복원 이미지를 생성하고,
    상기 프로세서는 상기 복원 이미지를 정상 이미지 또는 이상 이미지로 구분하여 이상 결과를 출력하며,
    상기 이미지 복원 모델에서 설계된 손실 함수는 상기 인코더가 잠재 공간의 특징 벡터가 분산되도록 설계되고, 상기 디코더는 상기 잠재 공간의 특징 벡터를 상기 복원 이미지로 재구성하며 상기 복원 이미지가 상기 정상 이미지로 재구성되도록 학습되는 것을 특징으로 하는 이상 탐지 장치.
  9. 삭제
  10. 삭제
  11. 제8항에 있어서,
    상기 이미지 복원 모델은 정상 클래스에 해당하는 상기 정상 이미지를 항상 생성하도록 유도하여, 상기 이상 이미지에 대해서 상기 원본 이미지와 상기 복원 이미지 간의 차이를 극대화하는 것을 특징으로 하는 이상 탐지 장치.
  12. 제8항에 있어서,
    상기 이미지 복원 모델은 상기 디코더가 훈련된 잠재 특징에 대해서만 이미지를 재구성한다는 가정에 기반하여, 상기 손실 함수에 정규화 계수를 적용하여 정상 클래스의 잠재 벡터 사이의 분산도를 최대화하여 상기 잠재 공간의 전체 매니폴드 공간에서 상기 정상 클래스에 대한 벡터를 분산시키는 것을 특징으로 하는 이상 탐지 장치.
  13. 제12항에 있어서,
    상기 디코더는 모든 입력 이미지에 대해 상기 정상 클래스의 특성을 갖는 이미지를 생성하는 것을 특징으로 하는 이상 탐지 장치.
  14. 제8항에 있어서,
    상기 프로세서는 (i) 상기 이상 이미지가 상기 정상 이미지보다 상대적으로 간단한 구조로 형성된 제1 상황 또는 (ii) 상기 이상 이미지가 상기 정상 이미지의 전체적인 구조와 기준 범위 내에서 유사한 구조로 형성된 제2 상황에서 상기 이상 이미지를 구분하여 출력하는 것을 특징으로 하는 이상 탐지 장치.
KR1020200103372A 2020-08-18 2020-08-18 특징 벡터 분산에 기반한 손실 함수를 통한 이상 탐지 장치 및 방법 KR102466716B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200103372A KR102466716B1 (ko) 2020-08-18 2020-08-18 특징 벡터 분산에 기반한 손실 함수를 통한 이상 탐지 장치 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200103372A KR102466716B1 (ko) 2020-08-18 2020-08-18 특징 벡터 분산에 기반한 손실 함수를 통한 이상 탐지 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20220022329A KR20220022329A (ko) 2022-02-25
KR102466716B1 true KR102466716B1 (ko) 2022-11-11

Family

ID=80490049

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200103372A KR102466716B1 (ko) 2020-08-18 2020-08-18 특징 벡터 분산에 기반한 손실 함수를 통한 이상 탐지 장치 및 방법

Country Status (1)

Country Link
KR (1) KR102466716B1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102506988B1 (ko) * 2022-09-30 2023-03-07 (주)엘로이랩 이종 손실 함수를 이용하여 학습된 뉴럴 네트워크를 이용한 이상 검출 장치

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019070965A (ja) 2017-10-10 2019-05-09 日本電信電話株式会社 学習装置、学習方法、プログラム
JP2020119605A (ja) * 2015-12-01 2020-08-06 株式会社Ｐｒｅｆｅｒｒｅｄ Ｎｅｔｗｏｒｋｓ 異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102600745B1 (ko) 2018-11-14 2023-11-10 주식회사 디플리 신경망 분석 기반의 소리 분류용 이상 탐지 방법
KR102027389B1 (ko) 2019-03-20 2019-10-01 (주)브이엠에스 오토인코더와 딥러닝을 이용한 기계 장비 고장 진단 장치

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020119605A (ja) * 2015-12-01 2020-08-06 株式会社Ｐｒｅｆｅｒｒｅｄ Ｎｅｔｗｏｒｋｓ 異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法
JP2019070965A (ja) 2017-10-10 2019-05-09 日本電信電話株式会社 学習装置、学習方法、プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Robust Anomaly Detection in Images using Adversarial Autoencoders, Computer Science_Machine Learning, 2019.01

Also Published As

Publication number Publication date
KR20220022329A (ko) 2022-02-25

Similar Documents

Publication Publication Date Title
JP7002404B2 (ja) データから潜在因子を発見するニューラルネットワーク
Denouden et al. Improving reconstruction autoencoder out-of-distribution detection with mahalanobis distance
Croce et al. Robustbench: a standardized adversarial robustness benchmark
Li et al. MAD-GAN: Multivariate anomaly detection for time series data with generative adversarial networks
Chen et al. Marginalized denoising auto-encoders for nonlinear representations
Long et al. Random classification noise defeats all convex potential boosters
Zhang et al. Domain adaptation under target and conditional shift
CN111652615B (zh) 基于区块链大数据的安全识别方法及人工智能云服务平台
US20220053010A1 (en) System and method for determining a communication anomaly in at least one network
Gugulothu et al. Sparse neural networks for anomaly detection in high-dimensional time series
Tuluptceva et al. Perceptual image anomaly detection
KR102466716B1 (ko) 특징 벡터 분산에 기반한 손실 함수를 통한 이상 탐지 장치 및 방법
Vardhan et al. Rare event failure test case generation in learning-enabled-controllers
Chung et al. Unsupervised anomaly detection using style distillation
US11301704B2 (en) Method and apparatus with image recognition
Zhang et al. Threshold moving approaches for addressing the class imbalance problem and their application to multi-label classification
Fathurrahman et al. Lightweight convolution neural network for image-based malware classification on embedded systems
KR20230096901A (ko) 자율 주행 차량의 학습을 위한 데이터 증식 방법 및 그를 위한 장치
CN112949344B (zh) 一种用于异常检测的特征自回归方法
US11455524B1 (en) System and method of improving compression of predictive models
CN113793396A (zh) 一种基于对抗生成网络训练图像重构模型的方法
Seow et al. Learning as a nonlinear line of attraction in a recurrent neural network
KR102416219B1 (ko) 보호 속성 표현 학습을 이용한 공정한 이미지 변환 장치 및 방법
JPWO2020110272A1 (ja) 機械学習装置、機械学習方法、及びプログラム
KR102451640B1 (ko) 특징 표현 단순화와 다중 작업 학습을 통한 얼굴 영상 연령 변환 방법 및 장치

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant