KR20220065209A

KR20220065209A - 다양한 품질의 영상을 인식하는 방법 및 장치

Info

Publication number: KR20220065209A
Application number: KR1020200151482A
Authority: KR
Inventors: 김인수; 한승주; 박성진; 백지원; 한재준
Original assignee: 삼성전자주식회사
Priority date: 2020-11-13
Filing date: 2020-11-13
Publication date: 2022-05-20
Also published as: EP4002205A1; US20220156888A1; CN114494713A

Abstract

다양한 품질의 영상을 인식하는 방법 및 장치가 개시된다. 일 실시예에 따르면, 영상 인식 방법은 제1 품질의 입력 영상을 영상 인식 모델 내 인코딩 모델에 입력하여 입력 영상의 제2 품질의 입력 특징을 추출하고, 추출된 입력 특징으로 입력 영상에 관한 인식 결과를 생성하는 단계들을 포함한다.

Description

다양한 품질의 영상을 인식하는 방법 및 장치{METHOD AND APPARATUS FOR RECOGNIZING IMAGE OF VARIOUS QUALITY}

아래의 개시는 다양한 품질의 영상을 인식하는 방법 및 장치에 관한 것이다.

인식 프로세스의 기술적 자동화는, 예를 들어, 특수한 계산 구조로서 프로세서로 구현된 뉴럴 네트워크 모델을 통해 구현되었으며, 이는 상당한 훈련 후에 입력 패턴과 출력 패턴 사이에서 계산상 직관적인 매핑을 제공할 수 있다. 이러한 맵핑을 생성하는 훈련된 능력은 신경망의 학습 능력이라 할 수 있다. 더구나, 특화된 훈련으로 인해, 이와 같이 특화되어 훈련된 신경망은, 예를 들어, 훈련하지 않은 입력 패턴에 대하여 비교적 정확한 출력을 발생시키는 일반화 능력을 가질 수 있다.

일 실시예에 따르면, 영상 인식 방법은 제1 품질의 입력 영상을 수신하는 단계; 상기 입력 영상을 영상 인식 모델 내 인코딩 모델에 입력하여 상기 입력 영상으로부터 상기 입력 영상의 제2 품질의 입력 특징을 추출하는 단계; 및 상기 입력 특징으로 상기 입력 영상에 관한 인식 결과를 생성하는 단계를 포함한다.

상기 인코딩 모델은 상기 제2 품질의 제2 입력 영상의 입력에 따라, 상기 제2 입력 영상으로부터 상기 제2 품질의 제2 입력 특징을 추출할 수 있다. 상기 인코딩 모델은 상기 입력 영상이 상기 제1 품질인지 상기 제2 품질인지에 무관하게 상기 입력 영상으로부터 상기 제2 품질의 상기 입력 특징을 출력하도록 미리 트레이닝된 뉴럴 네트워크 기반의 모델일 수 있다.

상기 영상 인식 방법은 상기 입력 특징을 상기 영상 인식 모델 내 디코딩 모델에 입력하여 상기 제2 품질의 출력 영상을 생성하는 단계를 더 포함할 수 있다. 상기 디코딩 모델은 상기 제2 품질의 상기 입력 특징에 기초하여 상기 제2 품질의 상기 출력 영상을 생성하도록 미리 트레이닝된 뉴럴 네트워크 기반의 모델일 수 있다. 상기 영상 인식 방법은 상기 인식 결과 및 상기 출력 영상을 모두 출력하는 단계를 더 포함할 수 있다.

일 실시예에 따르면, 트레이닝 방법은 제2 품질의 1차 트레이닝 영상 세트로 임시 모델을 트레이닝하여 디코딩 파라미터를 결정하는 단계; 인코딩 모델 및 디코딩 모델을 포함하는 영상 인식 모델에서 상기 디코딩 모델의 파라미터를 상기 디코딩 파라미터로 고정하는 단계; 및 제1 품질 및 상기 제2 품질의 2차 트레이닝 영상 세트로 상기 영상 인식 모델을 트레이닝하는 단계를 포함한다.

상기 임시 모델은 임시 인코딩 모델 및 임시 디코딩 모델을 포함할 수 있고, 상기 디코딩 파라미터를 결정하는 단계는 상기 임시 인코딩 모델에 의해 상기 1차 트레이닝 영상 세트의 제1 트레이닝 영상으로부터 추출된 제1 트레이닝 특징에 따른 인식 손실을 결정하는 단계; 상기 임시 디코딩 모델에 의해 상기 제1 트레이닝 특징에 기초하여 복원된 제1 출력 영상에 따른 복원 손실을 결정하는 단계; 및 상기 인식 손실 및 상기 복원 손실에 기초하여 상기 임시 모델을 업데이트하는 단계를 포함할 수 있다.

상기 임시 모델은 임시 인버터블 인코딩 모델을 포함할 수 있고, 상기 디코딩 파라미터를 결정하는 단계는 상기 임시 인버터블 인코딩 모델에 의해 상기 1차 트레이닝 영상 세트의 제1 트레이닝 영상으로부터 추출된 제1 트레이닝 특징에 따른 인식 손실을 결정하는 단계; 및 상기 인식 손실에 기초하여 상기 임시 모델을 업데이트하여 상기 디코딩 파라미터를 결정하는 단계를 포함할 수 있다. 상기 디코딩 모델의 상기 파라미터를 고정하는 단계는 상기 임시 인버터블 인코딩 모델을 인버팅하여 상기 디코딩 모델을 결정하는 단계를 포함할 수 있다.

상기 영상 인식 모델을 트레이닝하는 단계는 상기 인코딩 모델에 의해 상기 2차 트레이닝 영상 세트의 제2 트레이닝 영상으로부터 추출된 제2 트레이닝 특징에 따른 인식 손실을 결정하는 단계; 상기 제2 트레이닝 특징에 기초하여 상기 디코딩 모델에 의해 복원된 제2 출력 영상에 따른 복원 손실을 결정하는 단계; 및 상기 인식 손실 및 상기 복원 손실에 기초하여 상기 영상 인식 모델을 업데이트하는 단계를 포함할 수 있다.

일 실시예에 따르면, 전자 장치는 제1 품질의 입력 영상을 생성하는 카메라; 상기 입력 영상을 영상 인식 모델 내 인코딩 모델에 입력하여 상기 입력 영상으로부터 상기 입력 영상의 제2 품질의 입력 특징을 추출하고, 상기 입력 특징으로 상기 입력 영상에 관한 인식 결과를 생성하는 프로세서; 및 상기 인식 결과를 출력하는 디스플레이 모듈을 포함한다.

도 1은 일 실시예에 따른 영상 인식 장치의 인식 동작을 나타낸다.
도 2는 일 실시예에 따른 영상 인식 모델의 구성을 나타낸다.
도 3은 다른 일 실시예에 영상 인식 모델의 구성을 나타낸다.
도 4는 일 실시예에 따른 트레이닝 장치의 트레이닝 동작을 나타낸다.
도 5는 일 실시예에 따른 영상 인식 모델의 트레이닝 과정을 나타낸다.
도 6은 도 5의 트레이닝 과정 중 스테이지 2의 예시를 나타낸다.
도 7은 다른 일 실시예에 따른 영상 인식 모델의 트레이닝 과정을 나타낸다.
도 8은 일 실시예에 따른 도 7의 트레이닝 과정 중 스테이지 2의 예시를 나타낸다.
도 9는 일 실시예에 따른 영상 인식 방법을 나타내는 플로우 차트이다.
도 10은 일 실시예에 따른 트레이닝 방법을 나타내는 플로우 차트이다.
도 11은 일 실시예에 따른 영상 인식 장치의 구성을 나타내는 블록도이다.
도 12는 일 실시예에 따른 전자 장치의 구성을 나타내는 블록도이다.

실시예들에 대한 특정한 구조적 또는 기능적 설명들은 단지 예시를 위한 목적으로 개시된 것으로서, 다양한 형태로 변경되어 구현될 수 있다. 따라서, 실제 구현되는 형태는 개시된 특정 실시예로만 한정되는 것이 아니며, 본 명세서의 범위는 실시예들로 설명한 기술적 사상에 포함되는 변경, 균등물, 또는 대체물을 포함한다.

제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 해석되어야 한다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 설명된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.

이하, 실시예들을 첨부된 도면들을 참조하여 상세하게 설명한다. 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고, 이에 대한 중복되는 설명은 생략하기로 한다.

도 1은 일 실시예에 따른 영상 인식 장치의 인식 동작을 나타낸다. 도 1을 참조하면, 영상 인식 장치(100)는 입력 영상(101)을 수신한다. 입력 영상(101)은 카메라에 의해 생성될 수 있고, 영상 인식을 위해 영상 인식 장치(100)로 전송될 수 있다. 영상 인식 장치(100)는 입력 영상(101)에 관한 인식 처리를 수행하고, 인식 결과(102)를 출력한다. 입력 영상(101)은 객체를 포함할 수 있고, 인식 처리는 입력 영상(101) 내 객체를 인식하기 위한 처리를 포함할 수 있다.

객체 인식은 입력 영상(101)에서 객체를 검출하는 객체 검출, 객체를 추적하는 객체 추적, 객체의 카테고리를 특정하는 객체 분류, 객체의 신원을 특정하는 객체 식별, 객체의 권한을 확인하는 객체 인증 등을 포함할 수 있다. 인식 결과(102)는 이러한 인식 처리의 결과를 포함할 수 있다. 예를 들어, 인식 결과(102)는 객체 검출이나 객체 추적에 따른 객체의 위치 정보(예: 객체 박스의 좌표), 객체 분류에 따른 카테고리 정보(예: 사람, 동물, 개, 고양이 등), 객체 식별에 따른 신원 정보(예: 사용자, 유명인 등), 객체 인증에 따른 인증 결과(예: 스마트 폰의 잠금 해제를 위한 인증 값) 등을 포함할 수 있다.

영상 인식 장치(100)는 영상 인식 모델(110)을 이용하여 입력 영상(101)에 관한 인식 처리를 수행할 수 있다. 영상 인식 모델(110)은 딥 러닝 기반의 뉴럴 네트워크 모델일 수 있다. 뉴럴 네트워크는 딥 러닝에 기반하여 비선형적 관계에 있는 입력 데이터 및 출력 데이터를 서로 매핑함으로써 학습의 목적에 따른 동작(예: 객체 인식 동작)을 수행할 수 있다. 딥 러닝은 빅 데이터 세트로부터 영상 또는 음성 인식과 같은 문제를 해결하기 위한 기계 학습 기법이다. 딥 러닝은 준비된 트레이닝 데이터를 이용하여 뉴럴 네트워크를 트레이닝하면서 에너지가 최소화되는 지점을 찾아가는 최적화 문제 풀이 과정으로 이해될 수 있다.

딥 러닝의 지도식(supervised) 또는 비지도식(unsupervised) 학습을 통해 뉴럴 네트워크의 구조, 혹은 모델에 대응하는 가중치(weight)가 구해질 수 있고, 이러한 가중치를 통해 입력 데이터 및 출력 데이터가 서로 매핑될 수 있다. 뉴럴 네트워크의 폭과 깊이가 충분히 크면 임의의 함수를 구현할 수 있을 만큼의 용량(capacity)을 가질 수 있다. 뉴럴 네트워크가 적절한 트레이닝 과정을 통해 충분히 많은 양의 트레이닝 데이터를 학습하면 최적의 성능을 달성할 수 있다.

아래에서 뉴럴 네트워크나 네트워크 파라미터(예: 웨이트들)가 '미리' 트레이닝 되었다고 표현될 수 있는데, 여기서 '미리'는 뉴럴 네트워크가 '시작'되기 전을 나타낼 수 있다. 뉴럴 네트워크가 '시작'되었다는 것은 뉴럴 네트워크가 추론을 위한 준비가 된 것을 의미할 수 있다. 예를 들어, 뉴럴 네트워크가 '시작'된 것은 뉴럴 네트워크가 메모리에 로드된 것, 혹은 뉴럴 네트워크가 메모리에 로드된 이후 뉴럴 네트워크에 추론을 위한 입력 데이터가 입력된 것을 포함할 수 있다.

뉴럴 네트워크는 복수의 레이어들을 포함할 수 있다. 이 경우, 뉴럴 네트워크는 딥 뉴럴 네트워크(deep neural network, DNN)로 지칭될 수 있다. 복수의 레이어들은 입력 레이어(input layer), 적어도 하나의 히든 레이어(hidden layer), 및 출력 레이어(output layer)를 포함할 수 있다. 뉴럴 네트워크는 완전 연결 네트워크(fully connected network), 컨볼루셔널 뉴럴 네트워크(convolutional neural network, CNN), 리커런트 뉴럴 네트워크(recurrent neural network, RNN)와 같은 다양한 유형의 네트워크들을 포함할 수 있다.

뉴럴 네트워크의 성능은 트레이닝 특성에 의존적이다. 고품질의 트레이닝 영상으로 트레이닝된 뉴럴 네트워크는 고품질 영상을 잘 인식하는 반면에 저품질 영상의 인식 성능은 떨어질 수 있다. 고품질과 저품질은 해상도, 크기, 밝기, 노이즈, 블러(blur) 등의 다양한 요소에 관한 기준치에 따라 구분될 수 있다. 예를 들어, 일정 해상도를 기준으로 고품질 영상과 저품질 영상이 구분될 수 있다. 해상도 이외에 노이즈, 블러 등이 기준이 될 수도 있다. 고품질, 저품질 이외에 이들 사이에 중간 품질이 정의되는 것과 같이 품질을 구분하는데 더 다양한 레벨이 정의될 수도 있다.

뉴럴 네트워크를 고품질 및 저품질의 트레이닝 영상들로 트레이닝하는 것도 가능하나, 이러한 뉴럴 네트워크는 고품질의 트레이닝 영상으로만 트레이닝된 뉴럴 네트워크에 비해 고품질 영상의 인식 성능이 떨어질 수 있다. 고품질 트레이닝 영상으로 트레이닝된 뉴럴 네트워크로 저품질 영상을 인식할 때, 저품질 영상의 품질을 개선하여 해당 뉴럴 네트워크에 입력하는 방식도 있을 수 있으나, 이는 품질 개선을 위한 추가적인 처리를 요구하고, 품질 개선이 반드시 영상 인식에 도움을 준다는 보장도 없다. 품질 개선 관점의 품질과 뉴럴 네트워크의 인식 관점의 품질이 일치하지 않을 수 있기 때문이다. 고품질 트레이닝 영상으로 트레이닝된 고품질 영상 전용의 뉴럴 네트워크와 저품질 트레이닝 영상으로 트레이닝된 저품질 영상 전용의 뉴럴 네트워크를 별도로 두는 것은 비효율적일 수 있다.

디코더를 활용한 두 스테이지의 트레이닝 방식을 통해 다양한 품질의 영상에 강인한 영상 인식 모델(110)이 도출될 수 있다. 이에 따라 영상 인식 모델(110)은 단일 모델로서 다양한 품질의 입력 영상(101), 예를 들어 고품질의 입력 영상(101) 및 저품질의 입력 영상(101) 모두에 높은 인식 성능을 유지할 수 있다. 보다 구체적으로, 영상 인식 모델(110)은 특징을 추출하는 인코더뿐만 아니라 특징을 다시 영상으로 복원하는 디코더를 이용하여 두 스테이지로 트레이닝될 수 있다.

스테이지 1에서 임시 인코더 및 임시 디코더를 포함하는 1차 인식 모델(임시 모델로 지칭될 수도 있음)이 고품질의 트레이닝 영상으로 트레이닝된다. 이때, 손실 함수는 임시 인코더를 통한 영상 인식과 관련된 인식 손실 및 임시 디코더의 영상 복원과 관련된 복원 손실을 반영한다. 이에 따라 임시 인코더는 고품질 영상의 인식 성능을 높이는 방향으로 트레이닝되고, 임시 디코더는 고품질 영상의 특징을 고품질 영상으로 복원할 수 있게 트레이닝된다. 스테이지 1에서 1차 인식 모델이 임시 인코더 및 임시 디코더 대신 임시 인버터블 인코더(invertible encoder)를 포함하는 것도 가능하며, 이에 관해서는 추후 보다 상세히 설명한다.

스테이지 2에서 인코더 및 디코더를 포함하는 새로운 2차 인식 모델이 고품질 및 저품질의 트레이닝 영상들로 트레이닝되는데, 이때 디코더의 파라미터는 스테이지 1에서 트레이닝된 임시 디코더의 파라미터로 고정된다. 스테이지 2의 손실 함수는 인코더를 통한 영상 인식과 관련된 인식 손실 및 디코더의 영상 복원과 관련된 복원 손실을 반영한다. 임시 디코더의 파라미터는 고품질 영상의 특징을 고품질 영상으로 복원하게끔 트레이닝되어 있으므로, 디코더에 저품질 트레이닝 영상의 특징이 입력되면 복원 손실이 높아진다. 따라서, 인코더는 저품질 영상으로부터 고품질 영상에 대응하는 특징을 추출하도록 트레이닝될 수 있다.

영상 인식 모델(110)은 이러한 2차 인식 모델에서 인코더 및 디코더를 모두 포함하도록 구성되거나, 혹은 인코더만 포함하도록 구성될 수 있다. 전자의 경우, 디코더는 입력 영상(101)으로부터 특징을 추출할 수 있고, 디코더는 해당 특징에 기초하여 고품질의 출력 영상을 생성할 수 있다. 따라서, 도 1에 도시되지 않았으나, 영상 인식 장치(100)는 이러한 출력 영상을 인식 결과(102)와 함께 출력할 수 있다. 또한, 두 가지 경우 모두에서 영상 인식 모델(110)은 인코더를 포함하며, 트레이닝 과정에 관한 위의 설명에 따라 인코더는 입력 영상(101)이 고품질이든 저품질이든 고품질에 대응하는 특징을 추출할 수 있다. 이에 따라 영상 인식 모델(110)은 입력 영상(101)의 품질과 무관하게 일관된 수준의 인식 성능을 발휘할 수 있다. 이하, 영상 인식 모델(110)의 구성을 보다 구체적으로 설명한다.

도 2는 일 실시예에 따른 영상 인식 모델의 구성을 나타낸다. 도 2를 참조하면, 영상 인식 모델(200)은 인코딩 모델(210) 및 디코딩 모델(220)을 포함한다. 인코딩 모델(210) 및 디코딩 모델(220)은 미리 트레이닝된 뉴럴 네트워크 기반의 모델일 수 있다. 영상 인식 모델(200)은 위에서 설명한 트레이닝 과정의 2차 인식 모델에서 인코더 및 디코더를 모두 포함하도록 구성된 경우에 해당할 수 있다.

인코딩 모델(210)은 입력 영상(201)에서 입력 특징을 추출하고, 영상 인식 모델(200)은 입력 특징으로 입력 영상(201)에 관한 인식 결과(202)를 생성할 수 있다. 예를 들어, 영상 인식 장치 및/또는 영상 인식 모델(200)은 입력 영상에 관한 전역 평균 풀링(global average pooling, GAP)을 통해 입력 특징 벡터를 생성하고, 입력 특징 벡터에 관한 소프트맥스(Softmax) 연산을 통해 인식 결과(202)를 생성할 수 있다. 이 경우, 인식 결과(202)는 객체 분류에 따른 카테고리 정보를 포함할 수 있다. 다만, 인식 결과(202)는 다른 다양한 정보를 포함할 수 있고, 영상 인식 모델(200)은 이러한 인식 결과(202)를 생성하기 위해 다른 다양한 방식으로 입력 특징을 처리할 수 있다.

인코딩 모델(210)은 디코더를 활용한 두 스테이지의 트레이닝 방식을 통해 다양한 품질의 영상에 강인한 네트워크 파라미터를 가질 수 있다. 이에 따라, 인코딩 모델(210)은 입력 영상(201)의 품질과 무관하게 일관된 품질 수준의 입력 특징을 추출할 수 있다. 예를 들어, 인코딩 모델(210)은 입력 영상(201)의 품질이 제1 품질(예: 저품질)이든지 제2 품질(예: 고품질)이든지 일관되게 입력 영상(201)으로부터 제2 품질의 입력 특징을 추출할 수 있다. 따라서, 영상 인식 모델(200)은 입력 영상(201)의 품질과 무관하게 일관된 수준의 인식 성능을 발휘할 수 있다.

디코딩 모델(220)은 입력 특징에 기초하여 출력 영상(203)을 생성할 수 있다. 예를 들어, 디코딩 모델(220)은 제2 품질(예: 고품질)의 입력 특징에 기초하여 제2 품질의 출력 영상(203)을 생성할 수 있다. 영상 인식 장치 및/또는 영상 인식 모델(200)은 입력 특징을 디코딩 모델(220)에 바로 입력하거나, 혹은 입력 특징에 필요한 처리(예: 깊이 공간(depth to space) 변환)를 적용하여 디코딩 모델(220)에 입력할 수 있다.

영상 인식 장치는 인식 결과(202) 및 출력 영상(203)을 모두 출력할 수 있다. 예를 들어, 영상 인식 장치는 디스플레이 모듈을 통해 이들을 모두 출력할 수 있다. 이때 인식 결과(202)는 입력 영상(201) 내 객체의 카테고리 정보일 수 있고, 출력 영상(203)은 입력 영상(201)에 비해 개선된 품질을 가질 수 있다. 일례로, 입력 영상(201)은 저조도에서 어떤 사물이 촬영된, 어두운 밝기 및 많은 노이즈의 저품질 영상일 수 있고, 인식 결과(202)는 해당 사물의 카테고리 정보를 포함할 수 있고, 출력 영상(203)은 밝기 및 노이즈가 개선된 고품질 영상일 수 있다. 다른 예로, 입력 영상(201)은 어떤 사람이 작게 촬영된 저품질 영상일 수 있고, 인식 결과(202)는 해당 사람의 검출/추적 박스의 위치 정보 및/또는 해당 사람의 신원 정보를 포함할 수 있고, 출력 영상(203)은 해당 사람이 확대되어 해상도가 개선된 고품질 영상일 수 있다.

도 3은 다른 일 실시예에 영상 인식 모델의 구성을 나타낸다. 도 3을 참조하면, 영상 인식 모델(300)은 인코딩 모델(310)을 포함한다. 인코딩 모델(310)은 미리 트레이닝된 뉴럴 네트워크 기반의 모델일 수 있다. 영상 인식 모델(300)은 도 2의 영상 인식 모델(200)에 비해 디코딩 모델(220)을 포함하지 않는다. 다시 말해, 영상 인식 모델(300)은 위에서 설명한 트레이닝 과정의 2차 인식 모델에서 인코더만 포함하도록 구성된 경우에 해당할 수 있다.

디코딩 모델(220)을 포함하지 않고, 출력 영상(203)을 출력하지 않는다는 점을 제외하고, 영상 인식 모델(300)에는 영상 인식 모델(200)에 관한 설명이 적용될 수 있다. 예를 들어, 인코딩 모델(310)은 입력 영상(301)에서 입력 특징을 추출하고, 영상 인식 모델(300)은 입력 특징으로 입력 영상(301)에 관한 인식 결과(302)를 생성할 수 있다. 인코딩 모델(310)은 인코딩 모델(210)에 대응하므로, 인코딩 모델(310)은 인코딩 모델(210)과 같이 디코더를 활용한 두 스테이지의 트레이닝 방식을 통해 다양한 품질의 영상에 강인한 네트워크 파라미터를 가질 수 있다.

도 4는 일 실시예에 따른 트레이닝 장치의 트레이닝 동작을 나타낸다. 도 4를 참조하면, 트레이닝 장치(400)는 트레이닝 입력(401) 및 트레이닝 출력(402)을 이용하여 영상 인식 모델(410)을 트레이닝할 수 있다. 예를 들어, 트레이닝 장치(400)는 트레이닝 입력(401)을 영상 인식 모델(410)에 입력하고, 이에 따른 트레이닝 출력(402)과 GT(ground truth) 간의 차이가 줄어들도록 영상 인식 모델(410)을 업데이트할 수 있다. 보다 구체적으로, 트레이닝 장치는 손실 함수(loss function)에 따른 손실이 줄어드는 방향으로 영상 인식 모델(410)의 네트워크 파라미터를 업데이트할 수 있다.

트레이닝 장치(400)는 디코더를 활용한 두 스테이지의 트레이닝 방식을 통해 영상 인식 모델(410)을 트레이닝할 수 있다. 보다 구체적으로, 트레이닝 장치(400)는 스테이지 1에서 제2 품질(예: 고품질)의 트레이닝 영상들을 포함하는 1차 트레이닝 영상 세트로 임시 모델을 트레이닝할 수 있고, 스테이지 2에서 영상 인식 모델(410)의 디코딩 모델의 파라미터를 임시 모델의 디코딩 파라미터로 고정한 뒤, 제1 품질(예: 저품질) 및 제2 품질(고품질)의 트레이닝 영상들을 포함하는 2차 트레이닝 영상 세트로 영상 인식 모델(410)을 트레이닝할 수 있다. 이하, 영상 인식 모델(410)의 트레이닝 과정을 보다 구체적으로 설명한다.

도 5는 일 실시예에 따른 영상 인식 모델의 트레이닝 과정을 나타낸다. 도 5를 참조하면, 스테이지 1에서 트레이닝 영상(501)에 기초하여 임시 모델(510)이 트레이닝된다. 트레이닝 영상(501)은 제2 품질(예: 고품질)의 트레이닝 영상들을 포함하는 1차 트레이닝 영상 세트에서 추출된 것일 수 있다. 임시 모델(510)은 뉴럴 네트워크 기반의 임시 인코딩 모델(511) 및 임시 디코딩 모델(512)을 포함한다. 임시 인코딩 모델(511)은 트레이닝 영상(501)으로부터 트레이닝 특징을 추출하고, 해당 트레이닝 특징에 기초하여 인식 결과(502)가 도출된다. 또한, 임시 디코딩 모델(512)은 해당 트레이닝 특징을 디코딩하여 출력 영상(503)을 복원한다. 트레이닝 장치는 인식 결과(502) 및 출력 영상(503)에 기초한 손실에 기초하여 임시 모델(510)을 업데이트할 수 있다. 1차 트레이닝 영상 세트의 다른 트레이닝 영상들을 통해 이러한 임시 모델(510)의 업데이트가 반복될 수 있다. 스테이지 1이 종료되면 임시 모델(510)의 네트워크 파라미터가 확정될 수 있다.

스테이지 1에서 임시 모델(510)은 아래 수학식 1이 성립하도록 트레이닝될 수 있다.

수학식 1에서

는 트레이닝 영상(501),

는 임시 인코딩 모델(511),

는 임시 디코딩 모델(512)을 나타낸다. 따라서, 수학식 1에 따른 트레이닝이 완료되면 트레이닝 영상(501)의 입력에 따라 임시 모델(510)로부터 트레이닝 영상(501)과 동일한 출력 영상(503)이 도출될 수 있다. 트레이닝 영상(501)이 제2 품질(예: 고품질)인 경우, 스테이지 1을 통해 임시 인코딩 모델(511)은 제2 품질의 트레이닝 영상(501)에서 제2 품질의 특징을 추출하도록 트레이닝되고, 임시 디코딩 모델(512)은 제2 품질의 특징으로 제2 품질의 출력 영상(503)을 복원하도록 트레이닝될 수 있다.

스테이지 2에서 트레이닝 영상들(505, 506)에 기초하여 영상 인식 모델(520)이 트레이닝된다. 영상 인식 모델(520)은 뉴럴 네트워크 기반의 인코딩 모델(521) 및 디코딩 모델(522)을 포함한다. 임시 디코딩 모델(512) 및/또는 그 파라미터는 디코딩 모델(522)로 전이(transfer)될 수 있고, 디코딩 모델(522)의 파라미터는 임시 디코딩 모델(512)의 파라미터로 고정될 수 있다. 트레이닝 영상들(505, 506)은 제1 품질(예: 저품질) 및 제2 품질(예: 고품질)의 트레이닝 영상들을 포함하는 2차 트레이닝 영상 세트에서 추출된 것일 수 있다. 예를 들어, 트레이닝 영상(505)은 제1 품질에 해당하고, 트레이닝 영상(506)은 제2 품질에 해당할 수 있다.

인코딩 모델(521)은 트레이닝 영상들(505, 506)로부터 트레이닝 특징을 추출하고, 해당 트레이닝 특징에 기초하여 인식 결과(507)가 도출된다. 또한, 디코딩 모델(522)은 해당 트레이닝 특징을 디코딩하여 출력 영상(508)을 복원한다. 트레이닝 영상들(505, 506)은 동시에 입력되는 것은 아니고, 트레이닝 영상들(505, 506)이 순차적으로 입력되면서 영상 인식 모델(520)이 트레이닝될 수 있다. 트레이닝 장치는 인식 결과(507) 및 출력 영상(508)에 기초한 손실에 기초하여 영상 인식 모델(520)을 업데이트할 수 있다. 디코딩 모델(522)의 파라미터는 고정되므로, 스테이지 2에서는 인코딩 모델(521)의 파라미터만 업데이트될 수 있다. 2차 트레이닝 영상 세트의 다른 트레이닝 영상들을 통해 이러한 영상 인식 모델(520)의 업데이트가 반복될 수 있고, 스테이지 2가 종료되면 영상 인식 모델(520)의 네트워크 파라미터가 확정될 수 있다.

스테이지 2에서 영상 인식 모델(520)은 아래 수학식 2가 성립하도록 트레이닝될 수 있다.

수학식 2에서

는 트레이닝 영상(505),

는 트레이닝 영상(506),

는 임시 인코딩 모델(511),

는 인코딩 모델(521)을 나타낸다. 따라서, 수학식 2에 따른 트레이닝이 완료되면, 인코딩 모델(521)에 제1 품질의 트레이닝 영상(505)을 입력하든 제2 품질의 트레이닝 영상(506)을 입력하든 추출되는 특징은 임시 인코딩 모델(511)에 제2 품질의 트레이닝 영상(506)을 입력하여 얻는 것과 동일해질 수 있다. 이는 제1 품질이 저품질이고 제2 품질이 고품질인 경우, 인코딩 모델(521)에 저품질 영상이 입력되면 고품질 영상에 대응하는 특징이 추출됨을 의미한다. 수학식 2로부터 아래 수학식 3 및 수학식 4가 도출될 수 있다.

수학식 3 및 수학식 4는 영상 인식 모델(520)에 제1 품질의 트레이닝 영상(505)을 입력하든 제2 품질의 트레이닝 영상(506)을 입력하든 출력 영상(508)으로 제2 품질의 트레이닝 영상(506)이 도출된다는 것을 의미한다. 다시 말해, 제1 품질이 저품질이고 제2 품질이 고품질인 경우, 영상 인식 모델(520)에 저품질의 영상이 입력되면 고품질의 영상이 도출될 수 있다. 따라서, 두 스테이지의 트레이닝을 통해 인코딩 모델(521)은 저품질 영상에서 고품질 영상에 대응하는 특징을 추출할 수 있는 능력을 갖게 되고, 디코딩 모델(522)은 고품질 영상에 대응하는 특징을 고품질 영상으로 복원할 수 있는 능력을 갖게 된다.

스테이지 1에서 수학식 1의 관계를 실현하기 위해, 아래 수학식 5와 같은 손실 함수가 이용될 수 있다.

수학식 5에서

는 스테이지 1의 손실 함수,

는 임시 인코딩 모델(511)의 파라미터,

는 임시 디코딩 모델(512)의 파라미터,

는 제2 품질(예: 고품질)의 트레이닝 영상들을 포함하는 데이터 세트를 나타낸다. 임시 인코딩 모델(511)에 의해 추출된 특징으로 인식 결과(502)를 도출하는 과정에서 소프트맥스가 사용될 수 있는데,

는 이 경우의 소프트맥스 가중치를 나타낸다.

는 인식 손실,

는 복원 손실,

는 조절 가중치를 나타낸다. 인식 손실 및 복원 손실은 아래 수학식 6 및 수학식 7과 같이 나타낼 수 있다.

수학식 6은 소프트맥스 및 크로스-앤트로피(cross-entropy)에 기반한 인식 손실을 나타낸다. 수학식 6에서

는 임시 인코딩 모델(511),

는 전역 평균 풀링을 나타낸다. 전역 평균 풀링은 하나의 예시이며, 임시 인코딩 모델(511)의 출력 특징을 소프트맥스의 입력으로 변환하는 다른 연산이 사용되는 것도 가능하다.

수학식 7에서 d(a, b)는 a와 b 사이의 거리(distance) 또는 차이(divergence)를 나타내며, 예를 들어 거리 계산을 위해 L1 norm 또는 L2 norm이 사용될 수 있다.

는 임시 디코딩 모델(512)을 나타낸다.

스테이지 2에서 수학식 2의 관계를 실현하기 위해, 아래 수학식 8과 같은 손실 함수가 이용될 수 있다. 스테이지 2의 경우 스테이지 1에 비해 디코딩 모델(522)의 파라미터가 전이 및 고정되는 점, 및 다른 트레이닝 영상 세트가 사용되는 점이 다르며, 수학식 8에 이 점이 반영되어 있다.

수학식 8에서

는 스테이지 2의 손실 함수,

는 인코딩 모델(521)의 파라미터,

는 소프트맥스 가중치,

는 제2 품질(예: 고품질)의 트레이닝 영상들을 포함하는 데이터 세트,

는 제1 품질(예: 저품질)의 트레이닝 영상들을 포함하는 데이터 세트를 나타낸다.

는 인식 손실,

는 복원 손실,

는 조절 가중치를 나타낸다. 인식 손실 및 복원 손실은 아래 수학식 9 및 수학식 10과 같이 나타낼 수 있다.

수학식 9에서

는 인코딩 모델(521),

는 전역 평균 풀링을 나타낸다. 수학식 9에는 제1 품질(예: 저품질)의 데이터 세트

만 트레이닝에 이용되는 것으로 표시되어 있으나, 제2 품질(예: 고품질)의 데이터 세트

및 제1 품질(예: 저품질)의 데이터 세트

가 모두 이용될 수도 있다.

수학식 10에서

는 임시 디코딩 모델(512)을 나타낸다. 따라서, 디코딩 모델(522)은 임시 디코딩 모델(512)의 파라미터가 전이 및 고정된 상태에 해당할 수 있다.

도 6은 도 5의 트레이닝 과정 중 스테이지 2의 예시를 나타낸다. 도 6을 참조하면, 트레이닝 영상들(601, 602)을 통해 인코딩 모델(610)이 트레이닝된다. 예를 들어, 트레이닝 영상(601)은 제1 품질(예: 저품질)에 해당하고, 트레이닝 영상(602)은 제2 품질(예: 고품질)에 해당할 수 있다. 트레이닝 영상들(601, 602)은 동시에 입력되는 것은 아니고, 트레이닝 영상들(601, 602)이 순차적으로 입력되면서 인코딩 모델(610)이 트레이닝될 수 있다.

인코딩 모델(610)은 트레이닝 영상들(601, 602)로부터 특징을 추출하여 특징 맵(603)을 생성할 수 있다. 특징 맵(603)은 전역 평균 풀링과 같은 연산을 통해 특징 벡터로 변환될 수 있고, 특징 벡터에 관한 소프트맥스 연산을 통해 인식 결과(605)가 생성될 수 있다. 디코딩 모델(220)은 특징 맵(603)을 출력 영상(604)으로 복원할 수 있다. 이때, 디코딩 모델(220)로의 입력을 위해 깊이 공간(depth to space) 변환과 같은 필요한 처리가 특징 맵(603)에 적용될 수 있다. 예를 들어, 특징 맵(603)의 사이즈는 7*7*512일 수 있고, 이는 깊이 공간 변환을 통해 112*112*2의 데이터로 변환되어 디코딩 모델(220)에 입력될 수 있다. 특징 벡터의 사이즈는 1*1*512일 수 있다. 이러한 수치는 하나의 예시일 뿐이며, 특징 맵(603)에는 이와 다른 다양한 처리가 적용될 수 있다.

도 7은 다른 일 실시예에 따른 영상 인식 모델의 트레이닝 과정을 나타낸다. 도 7을 참조하면, 임시 모델(710)은 도 5의 임시 모델(510)과 달리 임시 인버터블 인코딩 모델(711)을 포함한다. 임시 인버터블 인코딩 모델(711)은 뉴럴 네트워크 기반의 모델이며 간단히 인버터블 인코딩 모델(711)로 지칭될 수 있고, 인버팅을 통해 인버터블 디코딩 모델(722)로 변환될 수 있다. 인버터블 인코딩 모델(711)과 인버터블 디코딩 모델(722) 간의 관계는 수학식 11과 같이 나타낼 수 있다.

수학식 11에서

는 인버터블 인코딩 모델(711),

는 인버터블 디코딩 모델(722)을 나타낸다. 인버터블 인코딩 모델(711)은 영상에서 특징을 추출하는 인코더의 역할을 수행할 수 있고, 인버터블 디코딩 모델(722)은 특징을 영상으로 복원하는 디코더의 역할을 수행할 수 있다. 인버터블 인코딩 모델(711) 및 인버터블 디코딩 모델(722)을 통해 원본 영상에서 특징을 추출한 후 다시 해당 특징을 영상으로 복원 경우 원본 영상과 복원된 영상이 일치할 수 있다. 이는 임시 모델(510)의 임시 인코딩 모델(511) 및 임시 디코딩 모델을 통해 원본 영상에서 특징을 추출한 후 다시 해당 특징을 영상으로 복원 경우 원본 영상과 복원된 영상 간에 차이가 발생할 수 있다는 점을 보완할 수 있다. 또한, 임시 모델(510)이 인식 손실 및 복원 손실 모두를 통해 트레이닝되는 것과 달리, 임시 모델(710)은 인식 손실만으로 트레이닝될 수 있다.

보다 구체적으로, 스테이지 1에서 트레이닝 영상(701)에 기초하여 임시 모델(710)이 트레이닝된다. 트레이닝 영상(701)은 제2 품질(예: 고품질)의 트레이닝 영상들을 포함하는 1차 트레이닝 영상 세트에서 추출된 것일 수 있다. 임시 인버터블 인코딩 모델(711)은 트레이닝 영상(701)으로부터 트레이닝 특징을 추출하고, 해당 트레이닝 특징에 기초하여 인식 결과(702)가 도출된다. 트레이닝 장치는 인식 결과(702)에 따른 손실에 기초하여 임시 모델(710)을 업데이트할 수 있다. 1차 트레이닝 영상 세트의 다른 트레이닝 영상들을 통해 이러한 임시 모델(710)의 업데이트가 반복될 수 있다. 스테이지 1이 종료되면 임시 모델(710)의 네트워크 파라미터가 확정될 수 있다.

트레이닝 영상(701)이 제2 품질(예: 고품질)인 경우, 스테이지 1을 통해 임시 인버터블 인코딩 모델(711)은 제2 품질의 트레이닝 영상(701)에서 제2 품질의 특징을 추출하도록 트레이닝될 수 있다. 임시 인버터블 인코딩 모델(711)이 인버터블 디코딩 모델(722)로 인버팅되면, 인버터블 디코딩 모델(722)은 제2 품질의 특징을 제2 품질의 출력 영상(708)으로 복원할 수 있다.

스테이지 1에서 아래 수학식 12와 같은 손실 함수가 이용될 수 있다.

수학식 12에서

는 스테이지 1의 손실 함수,

는 임시 인버터블 인코딩 모델(711)의 파라미터,

는 소프트맥스 가중치,

는 제2 품질(예: 고품질)의 트레이닝 영상들을 포함하는 데이터 세트를 나타낸다.

는 인식 손실을 나타낸다. 임시 모델(710)은 디코딩 모델을 포함하지 않으므로, 복원 손실을 이용하지 않는다. 수학식 12의 인식 손실을 계산하는데 수학식 6이 이용될 수 있다.

스테이지 2에서 트레이닝 영상들(705, 706)에 기초하여 영상 인식 모델(720)이 트레이닝된다. 임시 인버터블 디코딩 모델(711) 및/또는 그 파라미터는 인버팅되어 인버터블 디코딩 모델(722)로 전이될 수 있고, 인버터블 디코딩 모델(722)의 파라미터는 고정될 수 있다. 트레이닝 영상들(705, 706)은 제1 품질(예: 저품질) 및 제2 품질(예: 고품질)의 트레이닝 영상들을 포함하는 2차 트레이닝 영상 세트에서 추출된 것일 수 있다. 예를 들어, 트레이닝 영상(705)은 제1 품질에 해당하고, 트레이닝 영상(706)은 제2 품질에 해당할 수 있다.

인코딩 모델(721)은 트레이닝 영상들(705, 706)로부터 트레이닝 특징을 추출하고, 해당 트레이닝 특징에 기초하여 인식 결과(707)가 도출된다. 또한, 인버터블 디코딩 모델(722)은 해당 트레이닝 특징을 디코딩하여 출력 영상(708)을 복원한다. 인버터블 디코딩 모델(722)은 제2 품질의 특징을 제2 품질의 출력 영상(708)으로 복원하는 디코더로서 역할할 수 있다. 트레이닝 장치는 인식 결과(707) 및 출력 영상(708)에 기초한 손실에 기초하여 영상 인식 모델(720)을 업데이트할 수 있다. 디코딩 모델(722)의 파라미터는 고정되므로, 스테이지 2에서는 인코딩 모델(721)의 파라미터만 업데이트될 수 있다. 2차 트레이닝 영상 세트의 다른 트레이닝 영상들을 통해 이러한 영상 인식 모델(720)의 업데이트가 반복될 수 있고, 스테이지 2가 종료되면 영상 인식 모델(720)의 네트워크 파라미터가 확정될 수 있다. 스테이지 2에서 수학식 8 내지 10에 따른 손실 함수가 이용될 수 있다.

도 8은 일 실시예에 따른 도 7의 트레이닝 과정 중 스테이지 2의 예시를 나타낸다. 도 8을 참조하면, 트레이닝 영상들(801, 802)을 통해 인코딩 모델(810)이 트레이닝된다. 예를 들어, 트레이닝 영상(801)은 제1 품질(예: 저품질)에 해당하고, 트레이닝 영상(802)은 제2 품질(예: 고품질)에 해당할 수 있다. 트레이닝 영상들(801, 802)은 동시에 입력되는 것은 아니고, 트레이닝 영상들(801, 802)이 순차적으로 입력되면서 인코딩 모델(810)이 트레이닝될 수 있다.

인코딩 모델(810)은 트레이닝 영상들(801, 802)로부터 특징을 추출하여 특징 맵(803)을 생성할 수 있다. 특징 맵(803)은 전역 평균 풀링과 같은 연산을 통해 특징 벡터로 변환될 수 있고, 특징 벡터에 관한 소프트맥스 연산을 통해 인식 결과(805)가 생성될 수 있다. 인버터블 디코딩 모델(820)은 특징 맵(803)을 출력 영상(804)으로 복원할 수 있다. 이때, 인버터블 디코딩 모델(820)로의 입력을 위해 컨볼루션과 같은 필요한 처리가 특징 맵(803)에 적용될 수 있다. 예를 들어, 특징 맵(803)의 사이즈는 7*7*2048일 수 있고, 이는 컨볼루션을 통해 7*7*3072의 데이터로 변환되어 인버터블 디코딩 모델(820)에 입력될 수 있다. 특징 벡터의 사이즈는 1*1*2048일 수 있다. 이러한 수치는 하나의 예시일 뿐이며, 특징 맵(803)에는 이와 다른 다양한 처리가 적용될 수 있다.

도 9는 일 실시예에 따른 영상 인식 방법을 나타내는 플로우 차트이다. 도 9를 참조하면, 영상 인식 장치는 단계(910)에서 제1 품질의 입력 영상을 수신하고, 단계(920)에서 입력 영상을 영상 인식 모델 내 인코딩 모델에 입력하여 입력 영상으로부터 입력 영상의 제2 품질의 입력 특징을 추출하고, 단계(930)에서 입력 특징으로 입력 영상에 관한 인식 결과를 생성한다. 인코딩 모델은 제2 품질의 제2 입력 영상의 입력에 따라, 제2 입력 영상으로부터 제2 품질의 제2 입력 특징을 추출할 수 있다. 인코딩 모델은 입력 영상이 제1 품질인지 제2 품질인지에 무관하게 입력 영상으로부터 제2 품질의 입력 특징을 출력하도록 미리 트레이닝된 뉴럴 네트워크 기반의 모델일 수 있다. 영상 인식 모델은 디코딩 모델을 더 포함할 수 있고, 영상 인식 장치는 입력 특징을 디코딩 모델에 입력하여 제2 품질의 출력 영상을 생성할 수 있다. 디코딩 모델은 제2 품질의 입력 특징에 기초하여 제2 품질의 출력 영상을 생성하도록 미리 트레이닝된 뉴럴 네트워크 기반의 모델일 수 있다. 영상 인식 장치는 인식 결과 및 출력 영상을 모두 출력할 수 있다. 그 밖에, 영상 인식 방법에는 도 1 내지 도 8, 및 도 10 내지 도 12의 설명이 적용될 수 있다.

도 10은 일 실시예에 따른 트레이닝 방법을 나타내는 플로우 차트이다. 도 10을 참조하면, 트레이닝 장치는 단계(1010)에서 제2 품질의 1차 트레이닝 영상 세트로 임시 모델을 트레이닝하여 디코딩 파라미터를 결정한다. 일 실시예에 따르면, 임시 모델은 임시 인코딩 모델 및 임시 디코딩 모델을 포함할 수 있다. 이 경우, 트레이닝 장치는 임시 인코딩 모델에 의해 1차 트레이닝 영상 세트의 제1 트레이닝 영상으로부터 추출된 제1 트레이닝 특징에 따른 인식 손실을 결정하고, 임시 디코딩 모델에 의해 제1 트레이닝 특징에 기초하여 복원된 제1 출력 영상에 따른 복원 손실을 결정하고, 인식 손실 및 복원 손실에 기초하여 임시 모델을 업데이트할 수 있다. 다른 일 실시예에 따르면, 임시 모델은 임시 인버터블 인코딩 모델을 포함할 수 있다. 이 경우, 트레이닝 장치는 임시 인버터블 인코딩 모델에 의해 1차 트레이닝 영상 세트의 제1 트레이닝 영상으로부터 추출된 제1 트레이닝 특징에 따른 인식 손실을 결정하고, 인식 손실에 기초하여 임시 모델을 업데이트하여 디코딩 파라미터를 결정할 수 있다.

트레이닝 장치는 단계(1020)에서 인코딩 모델 및 디코딩 모델을 포함하는 영상 인식 모델에서 디코딩 모델의 파라미터를 디코딩 파라미터로 고정하고, 단계(1030)에서 제1 품질 및 제2 품질의 2차 트레이닝 영상 세트로 영상 인식 모델을 트레이닝한다. 트레이닝 장치는 인코딩 모델에 의해 2차 트레이닝 영상 세트의 제2 트레이닝 영상으로부터 추출된 제2 트레이닝 특징에 따른 인식 손실을 결정하고, 제2 트레이닝 특징에 기초하여 디코딩 모델에 의해 복원된 제2 출력 영상에 따른 복원 손실을 결정하고, 인식 손실 및 복원 손실에 기초하여 영상 인식 모델을 업데이트할 수 있다. 그 밖에, 트레이닝 방법에는 도 1 내지 도 9, 도 11 및 도 12의 설명이 적용될 수 있다.

도 11은 일 실시예에 따른 영상 인식 장치의 구성을 나타내는 블록도이다. 도 11을 참조하면, 영상 인식 장치(1100)는 프로세서(1110) 및 메모리(1120)를 포함한다. 메모리(1120)는 프로세서(1110)에 연결되고, 프로세서(1110)에 의해 실행가능한 명령어들, 프로세서(1110)가 연산할 데이터 또는 프로세서(1110)에 의해 처리된 데이터를 저장할 수 있다. 메모리(1120)는 비일시적인 컴퓨터 판독가능 매체, 예컨대 고속 랜덤 액세스 메모리 및/또는 비휘발성 컴퓨터 판독가능 저장 매체(예컨대, 하나 이상의 디스크 저장 장치, 플래쉬 메모리 장치, 또는 기타 비휘발성 솔리드 스테이트 메모리 장치)를 포함할 수 있다.

프로세서(1110)는 도 1 내지 도 10 및 도 12를 참조하여 설명된 동작을 수행하기 위한 명령어들을 실행할 수 있다. 예를 들어, 프로세서(1110)는 제1 품질의 입력 영상을 수신하고, 입력 영상을 영상 인식 모델 내 인코딩 모델에 입력하여 입력 영상으로부터 입력 영상의 제2 품질의 입력 특징을 추출하고, 입력 특징으로 입력 영상에 관한 인식 결과를 생성할 수 있다. 그 밖에, 영상 인식 장치(1100)에는 도 1 내지 도 10 및 도 12의 설명이 적용될 수 있다.

도 12는 일 실시예에 따른 전자 장치의 구성을 나타내는 블록도이다. 도 12를 참조하면, 전자 장치(1200)는 프로세서(1210), 메모리(1220), 카메라(1230), 저장 장치(1240), 입력 장치(1250), 출력 장치(1260) 및 네트워크 인터페이스(1270)를 포함할 수 있으며, 이들은 통신 버스(1280)를 통해 서로 통신할 수 있다. 예를 들어, 전자 장치(1200)는 이동 전화, 스마트 폰, PDA, 넷북, 태블릿 컴퓨터, 랩톱 컴퓨터 등과 같은 모바일 장치, 스마트 워치, 스마트 밴드, 스마트 안경 등과 같은 웨어러블 디바이스, 데스크탑, 서버 등과 같은 컴퓨팅 장치, 텔레비전, 스마트 텔레비전, 냉장고 등과 같은 가전 제품, 도어 락, CCTV 등과 같은 보안 장치, 자율주행 차량, 스마트 차량 등과 같은 차량의 적어도 일부로 구현될 수 있다.

전자 장치(1200)는 입력 영상을 획득하고, 획득된 입력 영상에 관한 인식 처리를 수행할 수 있다. 또한, 전자 장치(1200)는 인식 결과와 연계된 동작들을 수행할 수 있다. 전자 장치(1200)는 도 1의 영상 인식 장치(100) 및/또는 도 11의 영상 인식 장치(1100)를 구조적 및/또는 기능적으로 포함할 수 있다.

프로세서(1210)는 전자 장치(1200) 내에서 실행하기 위한 기능 및 명령어들을 실행한다. 예를 들어, 프로세서(1210)는 메모리(1220) 또는 저장 장치(1240)에 저장된 명령어들을 처리할 수 있다. 프로세서(1210)는 도 1 내지 도 11을 통하여 설명된 하나 이상의 동작을 수행할 수 있다.

메모리(1220)는 영상 인식을 위한 데이터를 저장한다. 메모리(1220)는 컴퓨터 판독가능한 저장 매체 또는 컴퓨터 판독가능한 저장 장치를 포함할 수 있다. 메모리(1220)는 프로세서(1210)에 의해 실행하기 위한 명령어들을 저장할 수 있고, 전자 장치(1200)에 의해 소프트웨어 및/또는 애플리케이션이 실행되는 동안 관련 정보를 저장할 수 있다.

카메라(1230)는 사진 및/또는 비디오를 촬영할 수 있다. 예를 들어, 카메라(1230)는 사용자의 얼굴을 포함하는 얼굴 영상을 촬영할 수 있다. 카메라(1230)는 객체들에 관한 깊이 정보를 포함하는 3D 카메라, 혹은 보안을 위한 CCTV 카메라일 수 있다.

저장 장치(1240)는 컴퓨터 판독가능한 저장 매체 또는 컴퓨터 판독가능한 저장 장치를 포함한다. 저장 장치(1240)는 메모리(1220)보다 더 많은 양의 정보를 저장하고, 정보를 장기간 저장할 수 있다. 예를 들어, 저장 장치(1240)는 자기 하드 디스크, 광 디스크, 플래쉬 메모리, 플로피 디스크 또는 이 기술 분야에서 알려진 다른 형태의 비휘발성 메모리를 포함할 수 있다.

입력 장치(1250)는 키보드 및 마우스를 통한 전통적인 입력 방식, 및 터치 입력, 음성 입력, 및 이미지 입력과 같은 새로운 입력 방식을 통해 사용자로부터 입력을 수신할 수 있다. 예를 들어, 입력 장치(1250)는 키보드, 마우스, 터치 스크린, 마이크로폰, 또는 사용자로부터 입력을 검출하고, 검출된 입력을 전자 장치(1200)에 전달할 수 있는 임의의 다른 장치를 포함할 수 있다.

출력 장치(1260)는 시각적, 청각적 또는 촉각적인 채널을 통해 사용자에게 전자 장치(1200)의 출력을 제공할 수 있다. 출력 장치(1260)는 예를 들어, 디스플레이 모듈, 터치 스크린, 스피커, 진동 발생 장치 또는 사용자에게 출력을 제공할 수 있는 임의의 다른 장치를 포함할 수 있다. 디스플레이 모듈은 영상 인식에 따른 인식 결과 및 출력 영상을 모두, 동시에 출력할 수 있다. 예를 들어, 인식 결과는 입력 영상 내 객체의 카테고리 정보(예: 사람, 동물, 개, 고양이 등)이고, 출력 영상은 입력 영상에 비해 개선된 품질(예: 해상도, 밝기 등의 개선)을 가질 수 있다.

네트워크 인터페이스(1270)는 유선 또는 무선 네트워크를 통해 외부 장치와 통신할 수 있다.

이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 컨트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있으며 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.

위에서 설명한 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 또는 복수의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.

이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 이를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims

제1 품질의 입력 영상을 수신하는 단계;
상기 입력 영상을 영상 인식 모델 내 인코딩 모델에 입력하여 상기 입력 영상으로부터 상기 입력 영상의 제2 품질의 입력 특징을 추출하는 단계; 및
상기 입력 특징으로 상기 입력 영상에 관한 인식 결과를 생성하는 단계
를 포함하는 영상 인식 방법.
제1항에 있어서,
상기 인코딩 모델은
상기 제2 품질의 제2 입력 영상의 입력에 따라, 상기 제2 입력 영상으로부터 상기 제2 품질의 제2 입력 특징을 추출하는,
영상 인식 방법.
제1항에 있어서,
상기 인코딩 모델은
상기 입력 영상이 상기 제1 품질인지 상기 제2 품질인지에 무관하게 상기 입력 영상으로부터 상기 제2 품질의 상기 입력 특징을 출력하도록 미리 트레이닝된 뉴럴 네트워크 기반의 모델인,
영상 인식 방법.
제1항에 있어서,
상기 입력 특징을 상기 영상 인식 모델 내 디코딩 모델에 입력하여 상기 제2 품질의 출력 영상을 생성하는 단계
를 더 포함하는, 영상 인식 방법.
제4항에 있어서,
상기 디코딩 모델은
상기 제2 품질의 상기 입력 특징에 기초하여 상기 제2 품질의 상기 출력 영상을 생성하도록 미리 트레이닝된 뉴럴 네트워크 기반의 모델인,
영상 인식 방법.
제4항에 있어서,
상기 인식 결과 및 상기 출력 영상을 모두 출력하는 단계
를 더 포함하는, 영상 인식 방법.
제2 품질의 1차 트레이닝 영상 세트로 임시 모델을 트레이닝하여 디코딩 파라미터를 결정하는 단계;
인코딩 모델 및 디코딩 모델을 포함하는 영상 인식 모델에서 상기 디코딩 모델의 파라미터를 상기 디코딩 파라미터로 고정하는 단계; 및
제1 품질 및 상기 제2 품질의 2차 트레이닝 영상 세트로 상기 영상 인식 모델을 트레이닝하는 단계
를 포함하는 트레이닝 방법.
제7항에 있어서,
상기 임시 모델은
임시 인코딩 모델 및 임시 디코딩 모델을 포함하고,
상기 디코딩 파라미터를 결정하는 단계는
상기 임시 인코딩 모델에 의해 상기 1차 트레이닝 영상 세트의 제1 트레이닝 영상으로부터 추출된 제1 트레이닝 특징에 따른 인식 손실을 결정하는 단계;
상기 임시 디코딩 모델에 의해 상기 제1 트레이닝 특징에 기초하여 복원된 제1 출력 영상에 따른 복원 손실을 결정하는 단계; 및
상기 인식 손실 및 상기 복원 손실에 기초하여 상기 임시 모델을 업데이트하는 단계
를 포함하는, 트레이닝 방법.
제7항에 있어서,
상기 임시 모델은
임시 인버터블 인코딩 모델을 포함하고,
상기 디코딩 파라미터를 결정하는 단계는
상기 임시 인버터블 인코딩 모델에 의해 상기 1차 트레이닝 영상 세트의 제1 트레이닝 영상으로부터 추출된 제1 트레이닝 특징에 따른 인식 손실을 결정하는 단계; 및
상기 인식 손실에 기초하여 상기 임시 모델을 업데이트하여 상기 디코딩 파라미터를 결정하는 단계
를 포함하는, 트레이닝 방법.
제9항에 있어서,
상기 디코딩 모델의 상기 파라미터를 고정하는 단계는
상기 임시 인버터블 인코딩 모델을 인버팅하여 상기 디코딩 모델을 결정하는 단계를 포함하는,
트레이닝 방법.
제7항에 있어서,
상기 영상 인식 모델을 트레이닝하는 단계는
상기 인코딩 모델에 의해 상기 2차 트레이닝 영상 세트의 제2 트레이닝 영상으로부터 추출된 제2 트레이닝 특징에 따른 인식 손실을 결정하는 단계;
상기 제2 트레이닝 특징에 기초하여 상기 디코딩 모델에 의해 복원된 제2 출력 영상에 따른 복원 손실을 결정하는 단계; 및
상기 인식 손실 및 상기 복원 손실에 기초하여 상기 영상 인식 모델을 업데이트하는 단계
를 포함하는, 트레이닝 방법.
하드웨어와 결합되어 제1항 내지 제11항 중 어느 하나의 항의 방법을 실행시키기 위하여 컴퓨터 판독 가능한 기록매체에 저장된 컴퓨터 프로그램.
제1 품질의 입력 영상을 생성하는 카메라;
상기 입력 영상을 영상 인식 모델 내 인코딩 모델에 입력하여 상기 입력 영상으로부터 상기 입력 영상의 제2 품질의 입력 특징을 추출하고, 상기 입력 특징으로 상기 입력 영상에 관한 인식 결과를 생성하는 프로세서; 및
상기 인식 결과를 출력하는 디스플레이 모듈
을 포함하는 전자 장치.
제13항에 있어서,
상기 인코딩 모델은
상기 제2 품질의 제2 입력 영상의 입력에 따라, 상기 제2 입력 영상으로부터 상기 제2 품질의 제2 입력 특징을 추출하는,
전자 장치.
제13항에 있어서,
상기 인코딩 모델은
상기 입력 영상이 상기 제1 품질인지 상기 제2 품질인지에 무관하게 상기 입력 영상으로부터 상기 제2 품질의 상기 입력 특징을 출력하도록 미리 트레이닝된 뉴럴 네트워크 기반의 모델인,
전자 장치.
제13항에 있어서,
상기 프로세서는
상기 입력 특징을 상기 영상 인식 모델 내 디코딩 모델에 입력하여 상기 제2 품질의 출력 영상을 생성하는,
전자 장치.
제16항에 있어서,
상기 디코딩 모델은
상기 제2 품질의 상기 입력 특징에 기초하여 상기 제2 품질의 상기 출력 영상을 생성하도록 미리 트레이닝된 뉴럴 네트워크 기반의 모델인,
전자 장치.
제16항에 있어서,
상기 디스플레이 모듈은
상기 인식 결과 및 상기 출력 영상을 모두 출력하는,
영상 인식 방법.
제16항에 있어서,
상기 인식 결과는 상기 입력 영상 내 객체의 카테고리 정보이고,
상기 출력 영상은 상기 입력 영상에 비해 개선된 품질을 갖는,
영상 인식 방법.