KR20220028928A

KR20220028928A - 부분 영상 기반의 영상 처리 방법 및 장치

Info

Publication number: KR20220028928A
Application number: KR1020200110577A
Authority: KR
Inventors: 유재형; 손창용; 이동욱; 한재준; 최창규
Original assignee: 삼성전자주식회사
Priority date: 2020-08-31
Filing date: 2020-08-31
Publication date: 2022-03-08
Also published as: EP3961494A1; CN114202656A; US12118764B2; US20220067419A1

Abstract

부분 영상 단위 기반의 영상 처리 방법 및 장치가 개시된다. 일 실시예에 따르면, 영상 처리 방법은 입력 영상 프레임의 현재 부분 처리 영역의 픽셀 데이터를 CNN에 입력하여 현재 부분 처리 영역에 관한 특징을 추출하고, 추출된 특징을 RNN에 입력하여 현재 부분 처리 영역과 적어도 하나의 이전 부분 처리 영역 간의 컨텍스트에 관한 RNN의 히든 상태를 갱신하고, 갱신된 히든 상태에 기초하여 입력 영상 프레임에 관한 영상 처리 결과를 생성하는 단계들을 포함한다.

Description

부분 영상 기반의 영상 처리 방법 및 장치{METHOD AND APPARATUS FOR PROCESSING IMAGE BASED ON PARTIAL IMAGE}

아래 실시예들은 부분 영상 기반의 영상 처리 방법 및 장치에 관한 것이다.

인식 프로세스의 기술적 자동화는 프로세서로 구현된 뉴럴 네트워크 모델을 통해 구현되었으며, 이는 상당한 훈련 후에 입력 패턴과 출력 패턴 사이에서 계산상 직관적인 매핑을 제공할 수 있다. 이와 같이 특화되어 훈련된 신경망은 훈련하지 않은 입력 패턴에 대하여 비교적 정확한 출력을 발생시키는 일반화 능력을 가질 수 있다.

일 실시예에 따르면, 영상 처리 방법은 입력 영상 프레임의 현재 부분 처리 영역의 픽셀 데이터를 컨볼루셔널 뉴럴 네트워크(Convolutional Neural Network, CNN)에 입력하여, 상기 현재 부분 처리 영역에 관한 특징을 추출하는 단계; 상기 추출된 특징을 리커런트 뉴럴 네트워크(Recurrent Neural Network, RNN)에 입력하여, 상기 현재 부분 처리 영역과 적어도 하나의 이전 부분 처리 영역 간의 컨텍스트에 관한 상기 RNN의 히든 상태를 갱신하는 단계; 및 상기 갱신된 히든 상태에 기초하여, 상기 입력 영상 프레임에 관한 영상 처리 결과를 생성하는 단계를 포함한다.

상기 CNN은 멀티-헤드 CNN(Multi-head CNN, MCNN)일 수 있다. 상기 특징을 추출하는 상기 단계는 상기 현재 부분 처리 영역의 상기 픽셀 데이터를 상기 MCNN의 각 헤드에 입력하여, 상기 현재 부분 처리 영역에 관한 복수의 중간 특징들을 추출하는 단계; 및 상기 추출된 복수의 중간 특징들을 융합하여, 상기 현재 부분 처리 영역에 관한 인코드된 특징을 생성하는 단계를 포함한다.

상기 히든 상태를 갱신하는 상기 단계는 상기 추출된 특징을 1차원 벡터로 변환하여, 상기 RNN에 입력하는 단계를 포함할 수 있다. 상기 1차원 벡터는 채널 방향의 벡터 및 폭 방향의 벡터 중 적어도 하나를 포함할 수 있다.

상기 영상 처리 결과를 생성하는 상기 단계는 상기 현재 부분 처리 영역이 상기 입력 영상 프레임의 마지막 부분 처리 영역에 해당하는 경우, 상기 갱신된 히든 상태에 기초하여 최종 컨텍스트 데이터를 생성하는 단계; 및 상기 최종 컨텍스트 데이터에 기초하여, 상기 영상 처리 결과를 생성하는 단계를 포함할 수 있다. 상기 영상 처리 결과는 상기 입력 영상 프레임에 대상 객체가 존재하는지를 나타낼 수 있다. 상기 대상 객체는 사람이거나 또는 사람의 얼굴일 수 있다.

상기 영상 처리 결과를 생성하는 상기 단계는 상기 현재 부분 처리 영역이 상기 입력 영상 프레임의 마지막 부분 처리 영역에 해당하지 않는 경우, 상기 갱신된 히든 상태에 기초하여 중간 컨텍스트 데이터를 생성하는 단계; 및 상기 중간 컨텍스트 데이터에 기초하여, 중간 검출 결과를 생성하는 단계를 포함할 수 있다. 상기 중간 검출 결과가 상기 입력 영상 프레임에 대상 객체가 존재함을 나타내는 경우, 적어도 하나의 다음 부분 처리 영역에 관한 추가적인 영상 처리 프로세스가 수행되지 않고, 상기 입력 영상 프레임에 관한 영상 처리 프로세스가 종료될 수 있다.

상기 현재 부분 처리 영역을 포함하는 각 부분 처리 영역은 이미지 센서의 영상 신호 처리(Image Signal Processing, ISP)를 위한 픽셀 라인 그룹에 대응할 수 있다. 상기 특징을 추출하는 상기 단계, 상기 히든 상태를 갱신하는 상기 단계, 및 상기 영상 처리 결과를 생성하는 상기 단계는 저전력 모드에서 수행될 수 있다. 상기 CNN은 트레이닝 영상 프레임의 각 부분 처리 영역에 관한 객체 위치 정보를 이용하여 미리 트레이닝될 수 있다.

일 실시예에 따르면, 영상 처리 장치는 프로세서; 및 상기 프로세서에서 실행가능한 명령어들을 저장하는 메모리를 포함하고, 상기 명령어들이 상기 프로세서에서 실행되면, 상기 프로세서는 입력 영상 프레임의 현재 부분 처리 영역의 픽셀 데이터를 컨볼루셔널 뉴럴 네트워크(Convolutional Neural Network, CNN)에 입력하여, 상기 현재 부분 처리 영역에 관한 특징을 추출하고, 상기 추출된 특징을 리커런트 뉴럴 네트워크(Recurrent Neural Network, RNN)에 입력하여, 상기 현재 부분 처리 영역과 적어도 하나의 이전 부분 처리 영역 간의 컨텍스트에 관한 상기 RNN의 히든 상태를 갱신하고, 상기 갱신된 히든 상태에 기초하여, 상기 입력 영상 프레임에 관한 영상 처리 결과를 생성한다.

일 실시예에 따르면, 전자 장치는 입력 영상 프레임을 생성하는 카메라; 명령어들을 저장하는 메모리; 및 상기 메모리에 저장된 명령어들을 실행하여, 상기 입력 영상 프레임의 현재 부분 처리 영역의 픽셀 데이터를 컨볼루셔널 뉴럴 네트워크(Convolutional Neural Network, CNN)에 입력하여, 상기 현재 부분 처리 영역에 관한 특징을 추출하고, 상기 추출된 특징을 리커런트 뉴럴 네트워크(Recurrent Neural Network, RNN)에 입력하여, 상기 현재 부분 처리 영역과 적어도 하나의 이전 부분 처리 영역 간의 컨텍스트에 관한 상기 RNN의 히든 상태를 갱신하고, 상기 갱신된 히든 상태에 기초하여, 상기 입력 영상 프레임에 관한 영상 처리 결과를 생성하는, 프로세서를 포함하는, 전자 장치.

상기 현재 부분 처리 영역에 관한 특징을 추출하는 것, 상기 RNN의 히든 상태를 갱신하는 것, 상기 영상 처리 결과를 생성하는 것은 저전력 모드에서 수행될 수 있고, 상기 입력 영상 프레임에서 대상 객체가 검출됨에 따라, 상기 전자 장치는 웨이크-업되어 일반 모드에서 영상 처리와 연계된 동작을 수행할 수 있다.

상기 저전력 모드는 올웨이즈-온 모드를 포함할 수 있다. 상기 영상 처리는 객체 검출을 포함하고, 상기 영상 처리와 연계된 상기 동작은 객체 추적, 객체 인식, 잠금 해제 중 적어도 하나를 포함할 수 있다.

도 1은 일 실시예에 따른 영상 처리 장치의 동작을 대략적으로 나타낸 도면.
도 2는 일 실시예에 따른 각 부분 영상 단위에 관한 영상 처리를 시계열적으로 나타낸 도면.
도 3은 일 실시예에 따른 멀티-헤드 CNN을 통해 중간 특징들이 생성되는 과정을 나타낸 도면.
도 4는 일 실시예에 따른 중간 특징들을 융합하여 인코드된 특징이 생성되는 과정을 나타낸 도면.
도 5는 일 실시예에 따른 인코드된 특징의 재배열을 나타낸 도면.
도 6은 일 실시예에 따른 객체 검출 과정을 통해 영상 처리 결과가 생성되는 과정을 나타낸 도면.
도 7은 다른 일 실시예에 따른 객체 검출 과정을 통해 중간 검출 결과가 생성되는 과정을 나타낸 도면.
도 8은 일 실시예에 따른 객체 검출 모델의 트레이닝 과정을 나타낸 도면.
도 9는 다른 일 실시예에 따른 객체 검출 모델의 트레이닝 과정을 나타낸 도면.
도 10은 또 다른 일 실시예에 따른 객체 검출 모델의 트레이닝 과정을 나타낸 도면.
도 11은 일 실시예에 따른 영상 처리 장치의 구성을 나타낸 블록도.
도 12는 일 실시예에 따른 전자 장치의 구성을 나타낸 블록도.
도 13은 일 실시예에 따른 영상 처리 방법을 나타낸 플로우 차트.

이하에서, 첨부된 도면을 참조하여 실시예들을 상세하게 설명한다. 그러나, 실시예들에는 다양한 변경이 가해질 수 있어서 특허출원의 권리 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 실시예들에 대한 모든 변경, 균등물 내지 대체물이 권리 범위에 포함되는 것으로 이해되어야 한다.

실시예에서 사용한 용어는 단지 설명을 목적으로 사용된 것으로, 한정하려는 의도로 해석되어서는 안 된다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.

또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 실시예의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.

또한, 실시 예의 구성 요소를 설명하는 데 있어서, 제1, 제2, A, B, (a), (b) 등의 용어를 사용할 수 있다. 이러한 용어는 그 구성 요소를 다른 구성 요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성 요소의 본질이나 차례 또는 순서 등이 한정되지 않는다. 어떤 구성 요소가 다른 구성요소에 "연결", "결합" 또는 "접속"된다고 기재된 경우, 그 구성 요소는 그 다른 구성요소에 직접적으로 연결되거나 접속될 수 있지만, 각 구성 요소 사이에 또 다른 구성 요소가 "연결", "결합" 또는 "접속"될 수도 있다고 이해되어야 할 것이다.

어느 하나의 실시 예에 포함된 구성요소와, 공통적인 기능을 포함하는 구성요소는, 다른 실시 예에서 동일한 명칭을 사용하여 설명하기로 한다. 반대되는 기재가 없는 이상, 어느 하나의 실시 예에 기재한 설명은 다른 실시 예에도 적용될 수 있으며, 중복되는 범위에서 구체적인 설명은 생략하기로 한다.

도 1은 일 실시예에 따른 영상 처리 장치의 동작을 대략적으로 나타낸 도면이다. 도 1을 참조하면, 영상 처리 장치(110)는 입력 영상 프레임(120)에 관한 영상 처리를 수행하고, 이에 따른 영상 처리 결과를 출력한다. 일 실시예에 따르면, 영상 처리는 영상 프레임(120)에 관한 인식 처리를 포함할 수 있다. 예를 들어, 영상 처리는 영상 프레임(120)에 객체가 존재하는지 결정하는 객체 검출이나, 영상 프레임(120)에 존재하는 객체의 클래스(class)를 결정하는 객체 분류와 같은, 이미지 센서에서 처리될 수 있는 영상 프레임(120)에 관한 다양한 인식 처리를 포함할 수 있다. 아래에서는 영상 처리와 관련하여 객체 검출 실시예를 대표적으로 설명하지만, 설명한 내용은 다른 다양한 인식 처리에 적용될 수 있다.

입력 영상 프레임(120)은 입력 영상의 하나의 프레임에 해당할 수 있다. 예를 들어, 입력 영상은 동영상(비디오) 및/또는 스틸 영상을 포함할 수 있으며, 카메라에 의해 실시간으로 촬영된 것이거나, 카메라에 의해 과거에 촬영되어 저장소에 저장된 것이거나, 혹은 통신 기능을 통해 다른 장치로부터 수신된 것일 수 있다. 입력 영상 프레임(120)은 부분 처리 영역들(121 내지 12K)로 구분될 수 있다. 부분 처리 영역들(121 내지 12K)은 각각 부분 영상 단위에 대응할 수 있다. 영상 처리 장치(110)는 입력 영상 프레임(120)의 부분 처리 영역들(121 내지 12K)을 순차적으로 처리할 수 있다. 예를 들어, 영상 처리 장치(110)는 시간 T(1)에 부분 처리 영역(121)을 처리하고, 시간 T(2)에 부분 처리 영역(122)을 처리하고, 시간 T(3)에 부분 처리 영역(123)을 처리하고, 시간 T(K)에 부분 처리 영역(12K)을 처리할 수 있다.

영상 처리 장치(110)는 컨볼루셔널 뉴럴 네트워크(Convolutional Neural Network, CNN; 111) 및 리커런트 뉴럴 네트워크(Recurrent Neural Network, RNN; 112)를 포함할 수 있다. 뉴럴 네트워크는 딥 러닝에 기반하여 비선형적 관계에 있는 입력 데이터 및 출력 데이터를 서로 매핑함으로써 입력 데이터에 관한 인식 처리를 수행할 수 있다.

딥 러닝은 빅 데이터 세트로부터 영상 또는 음성 인식과 같은 문제를 해결하기 위한 기계 학습 기법이다. 딥 러닝은 준비된 트레이닝 데이터를 이용하여 뉴럴 네트워크를 트레이닝하면서 에너지가 최소화되는 지점을 찾아가는 최적화 문제 풀이 과정으로 이해될 수 있다. 딥 러닝의 지도식(supervised) 또는 비지도식(unsupervised) 학습을 통해 뉴럴 네트워크의 구조, 혹은 모델에 대응하는 가중치(weight)가 구해질 수 있고, 이러한 가중치를 통해 입력 데이터 및 출력 데이터가 서로 매핑될 수 있다.

뉴럴 네트워크는 트레이닝 단계에서 트레이닝 데이터에 기초하여 트레이닝될 수 있고, 추론(inference) 단계에서 입력 데이터에 관한 분류, 인식, 검출과 같은 추론 동작을 수행할 수 있다. 뉴럴 네트워크는 목적에 따른 동작을 수행하도록 미리 트레이닝될 수 있다. 여기서 '미리'는 뉴럴 네트워크가 '시작'되기 전을 나타낼 수 있다. 뉴럴 네트워크가 '시작'되었다는 것은 뉴럴 네트워크가 추론(inference)을 위한 준비가 된 것을 의미할 수 있다. 예를 들어, 뉴럴 네트워크가 '시작'된 것은 뉴럴 네트워크가 메모리에 로드된 것, 혹은 뉴럴 네트워크가 메모리에 로드된 이후 뉴럴 네트워크에 추론을 위한 입력 데이터가 입력된 것을 포함할 수 있다.

뉴럴 네트워크는 복수의 레이어들을 포함하는 딥 뉴럴 네트워크(Deep Neural Network, DNN)에 해당할 수 있다. 복수의 레이어들은 입력 레이어(input layer), 히든 레이어(hidden layer), 및 출력 레이어(output layer)를 포함할 수 있다. 완전 연결 네트워크(Fully Connected Network, FCN), CNN, RNN 등의 다양한 형태의 뉴럴 네트워크가 존재할 수 있다. 실시예에 따르면, CNN(111) 및 RNN(112)을 포함하는 뉴럴 네트워크 모델은 영상 처리 모델로 지칭될 수 있다.

CNN(111)에서 각 레이어에 입력되는 데이터는 입력 특징 맵(input feature map)으로 지칭될 수 있고, 각 레이어에서 출력되는 데이터는 출력 특징 맵(output feature map)으로 지칭될 수 있다. 입력 특징 맵 및 출력 특징 맵은 액티베이션 데이터(activation data)로 지칭될 수도 있다. 입력 레이어에서 입력 특징 맵은 입력 데이터에 대응할 수 있다.

RNN(112)은 순환 딥 뉴럴 네트워크(Recurrent Deep Neural Network, RDNN), 및/또는 양방향 순환 딥 뉴럴 네트워크(Bidirectional Recurrent Deep Neural Network, BRDNN)를 통해 구현될 수 있다. 일반적으로 RDNN 및 BRDNN은 음성과 같이 시간의 흐름에 의존하는 연속적인 데이터를 인식하는데 적합할 수 있다. 예를 들어, RDNN은 현재 음성 프레임을 인식함에 있어서 이전 음성 프레임을 고려할 수 있고, BRDNN은 현재 음성 프레임을 인식함에 있어서 이전 음성 프레임과 다음 음성 프레임을 고려할 수 있다. 영상 처리 장치(110)는 부분 처리 영역들(121 내지 12K)의 픽셀 데이터 간의 상호 관계를 파악하기 위해 이러한 RNN(112)의 특성을 이용할 수 있다.

RNN(112)과 같은 순환 모델은 회기 루프를 가질 수 있다. 순환 모델의 출력이 순환 모델에 다시 입력됨으로써 입력으로부터 새로운 출력이 출력될 수 있다. 예를 들어, 순환 모델은 노드(또는, 유닛)를 포함할 수 있고, 노드의 출력이 노드에 다시 입력되는 구조를 가질 수 있다. 순환 모델은 롱 숏 텀 메모리(Long Short Term Memory, LSTM) 및/또는 게이트 순환 유닛(Gated Recurrent Unit, GRU)을 포함할 수 있다. 다만, LSTM, GRU는 하나의 예시에 불과하며, 순환 모델의 구조를 이에 한정하는 것은 아니다.

영상 처리 장치(110)는 CNN(111) 및 RNN(112)을 이용하여 부분 처리 영역들(121 내지 12K)의 픽셀 데이터를 순차적으로 처리할 수 있다. 예를 들어, CNN(111)은 부분 처리 영역들(121 내지 12K)의 픽셀 데이터에서 특징을 추출하는 역할을 수행할 수 있고, RNN(112)은 부분 처리 영역들(121 내지 12K) 간의 컨텍스트를 파악하는 역할을 수행할 수 있다. 컨텍스트는 부분 처리 영역들(121 내지 12K)의 픽셀들 간의 시각적 관계, 기하학적 관계를 포함할 수 있다.

예를 들어, 영상 처리 장치(110)는 시간 T(2)에서 부분 처리 영역(122)의 픽셀 데이터를 CNN(111)에 입력하여 부분 처리 영역(122)에 관한 특징을 추출하고, 추출된 특징을 RNN(112)에 입력하여 RNN(112)의 히든 상태를 갱신할 수 있다. RNN(112)의 히든 상태는 현재 처리 중인 부분 처리 영역(이하, 간단히 현재 부분 처리 영역으로 지칭될 수 있음)과 이전에 처리된 부분 처리 영역(이하, 간단히 이전 부분 처리 영역으로 지칭될 수 있음) 간의 컨텍스트를 반영할 수 있다. 앞선 예시에서 부분 처리 영역(122)이 현재 부분 처리 영역에 해당하므로, RNN(112)의 히든 상태는 부분 처리 영역(121)과 부분 처리 영역(122) 간의 컨텍스트를 나타낼 수 있다.

영상 처리 장치(110)는 RNN(112)의 히든 상태에 기초하여 영상 처리 결과를 생성할 수 있다. 대상 객체는 영상을 통해 검출, 분류될 수 있는 다양한 객체들, 예를 들어, 사람, 인체, 얼굴, 눈, 홍채 등을 포함할 수 있다. 일 실시예에 따르면, 영상 처리는 입력 영상에 대상 객체가 존재하는지를 결정하는 객체 검출일 수 있으며, 객체 검출 결과는 입력 영상에 객체가 존재함 및/또는 입력 영상에 객체가 존재하지 않음 중에 어느 하나일 수 있다.

영상 처리 장치(110)는 부분 처리 영역들(121 내지 12K)을 모두 처리한 후 영상 처리 결과를 생성할 수 있다. 혹은, 일부 영역 만으로도 입력 영상 프레임(120)에 객체가 존재함이 확실하게 드러나는 경우, 영상 처리 장치(110)는 부분 처리 영역들(121 내지 12K) 중에 일부를 처리한 후 영상 처리 결과를 생성할 수도 있다. 예를 들어 대상 객체가 얼굴인 경우, 부분 처리 영역(121)은 얼굴을 포함하므로, 영상 처리 장치(110)는 부분 처리 영역(121)의 처리한 후 다른 부분 처리 영역들(122 내지 12K)을 처리하지 않고 영상 처리 결과를 생성할 수 있다.

이와 같이 영상 처리를 위한 동작들을 부분 처리 영역들(121 내지 12K) 별로 처리할 경우, 프레임 전체를 위한 수준이 아닌 각 부분 처리 영역을 위한 수준에서 메모리가 사용되므로, 메모리 사용량이 적어질 수 있다. 일례로, 프레임 전체를 처리할 경우 프레임 전체에 해당하는 입력 특징 맵을 저장할 메모리가 필요한데, 각 부분 처리 영역을 처리할 경우 각 부분 처리 영역에 해당하는 입력 특징 맵을 저장할 메모리만 요구된다. 입력 특징 맵 이외에 객체 인식을 위한 다른 데이터를 처리함에 있어서도 메모리 사용량이 적어질 수 있다. 또한, 각 부분 처리 영역에 관한 픽셀 데이터가 수집되면 영상 처리 동작들이 바로 시작될 수 있으므로, 프레임 전체의 픽셀 데이터가 수집된 후 영상 처리 동작들을 시작하는 기존의 방식에 비해 지연(latency)이 낮아질 수 있다.

이러한 영상 처리는 부분 영상 단위 기반의 영상 처리라 지칭될 수 있고, 저전력 모드와 같은 메모리 사용이 제한된 환경에서 사용될 수 있다. 예를 들어, 저전력 모드에서 사용 가능한 자원은 센서가 장착된 장치의 전체 자원이 아닌 센서 내의 자원으로 제한될 수 있다. 이와 같이 가용 자원이 센서 자원으로 한정되는 환경은 온-센서(On-sensor) 환경이라고 불릴 수 있다.

일 실시예에 따르면, 저전력 모드는 올웨이즈-온(Always-on) 모드를 포함할 수 있다. 올웨이즈-온 모드에 따르면 장치 화면의 일부가 일정 정보(예: 날짜, 시간, 간단한 장치의 상태 정보 등)의 제공을 위해 항상 켜져 있을 수 있다. 예를 들어, 올웨이즈-온의 구동을 위한 전력 소모는 1mW 정도로 제한될 수 있으며, 이러한 전력 소모는 메모리에 40KB 정도의 모델과 코드를 유지하는 수준일 수 있다. 이에 따르면, 올웨이즈-온 구동을 하면서도 40KB 정도의 메모리만을 사용하여 객체 검출과 같은 영상 처리를 구현하는 것이 요구될 수 있으며, 실시예에 따른 부분 영상 단위 기반의 영상 처리는 이와 같이 제한된 환경에서 영상 처리를 수행하는 데 사용될 수 있다.

일 실시예에 따르면, 각 부분 처리 영역은 하나 또는 복수의 픽셀 라인을 포함할 수 있다. 예를 들어, 입력 영상 프레임(120)의 사이즈가 W*H로 표현되는 경우, 픽셀 라인은 W*1의 사이즈를 갖는 벡터에 해당할 수 있다.

실시예에 따른 영상 처리는 이미지 센서의 영상 신호 처리(Image Signal Processing, ISP) 알고리즘과 기술적으로 결합될 수 있다. 예를 들어, 영상 신호 처리 프론트 엔드(Image Signal Processing Front End, ISP FE)를 통해 각 픽셀 라인이 순차적으로 생성될 수 있고, 생성된 픽셀 라인들이 미리 정해진 수(예: 5개)만큼 모이면 이들 픽셀 라인들에 관한 ISP가 수행될 수 있다. 설명의 편의를 위해, 미리 정해진 수의 픽셀 라인들은 픽셀 라인 그룹으로 지칭될 수 있다. ISP FE에서는 아날로그 디지털 변환(Analog Digital Convert, ADC), 오토 포커스(Auto Focus, AF) 픽셀 표시, 베드 픽셀(Bed Pixel, BP) 표시, 해상도 감소, 신호 특성 보정 등이 수행될 수 있고, ISP에서는 비트 감소(bit reduction), BP 처리, 잡음 제거, 비닝(binning), 아티팩트(artifact) 제거, 해상도 감소 등이 수행될 수 있다.

ISP FE를 통해 픽셀 라인 그룹이 형성되고, 픽셀 라인 그룹에 관해 ISP가 수행되는 과정이 반복되어, 모든 픽셀 라인 그룹에 관해 ISP가 수행될 수 있고, 이에 따라 하나의 영상 프레임이 생성될 수 있다. 프레임 처리 기반의 영상 처리는 이와 같은 ISP 알고리즘을 통해 하나의 영상 프레임이 완성된 후에 수행될 수 있다. 실시예에 따른 부분 영상 단위 기반의 영상 처리는 적어도 하나의 픽셀 라인(예: 각 픽셀 라인 그룹)에 관해 수행될 수 있다.

도 2는 일 실시예에 따른 각 부분 영상 단위에 관한 영상 처리를 시계열적으로 나타낸 도면이다. 도 2를 참조하면, 영상 처리 장치는 시간 T(1)에서 부분 처리 영역(211)의 픽셀 데이터에 관한 처리를 수행한다. 구체적으로, 영상 처리 장치는 부분 처리 영역(211)의 픽셀 데이터를 CNN에 입력하여 부분 처리 영역(211)에 관한 특징을 추출하고, 추출된 특징을 RNN에 입력하여 RNN의 히든 상태를 갱신할 수 있다.

영상 처리 장치는 동일한 방식으로 시간 T(2)에서 부분 처리 영역(212)의 픽셀 데이터에 관한 처리를 수행하고, 시간 T(K)에서 부분 처리 영역(21K)의 픽셀 데이터에 관한 처리를 수행할 수 있다. 블록들(221 내지 223)은 이와 같은 부분 처리 영역들(211 내지 21K)의 픽셀 데이터에 관한 처리 과정을 나타낸다.

부분 처리 영역(21K)은 입력 영상 프레임(210)의 마지막 부분 처리 영역에 해당한다. 따라서, 영상 처리 장치는 블록(223)을 통해 갱신된 최종 히든 상태에 기초하여 영상 처리 결과를 생성할 수 있다. 예를 들어, 영상 처리 장치는 최종 히든 상태에 대응하는 최종 컨텍스트 데이터를 FCN에 입력하여, 영상 처리 결과를 생성할 수 있다. 블록(224)은 영상 처리 결과의 생성 과정을 나타낸다.

도 3은 일 실시예에 따른 멀티-헤드 CNN을 통해 중간 특징들이 생성되는 과정을 나타낸 도면이다. 도 3을 참조하면, 멀티-헤드 CNN(Multi-head CNN, MCNN; 320)은 복수의 헤드들에 대응하는 서브 CNN들을 포함한다. 서브 CNN들의 수 및 헤드들의 수는 M개로 정의될 수 있다. 각 서브 CNN은 제1 레이어 내지 제N 레이어를 포함할 수 있고, 각 레이어에서 컨볼루션(convolution), 풀링(pooling) 등의 CNN 관련 연산이 수행될 수 있다. 예를 들어, M, N의 값은 메모리 허용량과 같은 시스템 사양에 맞추어 결정될 수 있다.

각 서브 CNN은 서로 다른 네트워크 파라미터를 트레이닝할 수 있고, 서로 다른 네트워크 파라미터를 기반으로 입력 데이터에 관한 특징을 추출할 수 있다. 따라서, 동일한 데이터가 입력되어도 각 서브 CNN은 서로 다른 관점의 특징들을 추출할 수 있으며, 서브 CNN들에 의해 추출된 특징들 간에는 다양성이 존재할 수 있다.

영상 처리 장치는 현재 부분 처리 영역의 픽셀 데이터(310)를 MCNN(320)의 각 헤드에 입력하여, 복수의 중간 특징들(330)을 추출할 수 있다. 영상 처리 장치는 중간 특징들(330)을 융합하여 현재 부분 처리 영역에 관한 인코드된 특징을 생성할 수 있다. 이와 같이 각 부분 처리 영역에서 특징을 추출하는 과정은 인코딩 과정으로 볼 수 있으므로, 각 부분 처리 영역에서 추출된 특징은 인코드된 특징으로 지칭될 수 있다.

도 4는 일 실시예에 따른 중간 특징들을 융합하여 인코드된 특징이 생성되는 과정을 나타낸 도면이다. 도 4를 참조하면, 영상 처리 장치는 중간 특징들(410)을 융합하여 인코드된 특징(430)을 생성할 수 있다. 블록(420)은 특징 융합 과정을 나타내며, 특징 융합은 블록(421)의 연쇄화(concatenation) 과정 및 블록(422)의 특징 조사(feature projection) 과정을 포함할 수 있다. 특징 조사는 컨볼루션 연산을 포함할 수 있으며, 연쇄화 방향에 기초하여 수행될 수 있다. 일례로, 중간 특징들(410)을 채널 방향으로 연쇄화된 경우, 채널 방향의 사이즈가 감소하도록 특징 조사가 수행될 수 있다. 연쇄화 및 특징 조사 결과, 인코드된 특징(430)의 사이즈 및 중간 특징들(410) 각각의 사이즈는 서로 같을 수 있다.

도 5는 일 실시예에 따른 인코드된 특징의 재배열을 나타낸 도면이다. 상술된 것처럼, 영상 처리 장치는 각 부분 처리 영역의 픽셀 데이터로부터 특징을 추출하여 RNN에 입력할 수 있다. 이때, 추출된 특징은 1차원 벡터로 변환하여 RNN에 입력될 수 있으며, 이러한 변환 과정은 재배열(rearrange), 개조(reshape)로 지칭될 수 있다. 2차원, 3차원 등의 다차원 벡터 기반의 RNN을 사용하는 대신, 1차원 벡터 기반의 RNN을 사용함으로써 메모리가 절감될 수 있다.

도 5를 참조하면, 재배열 방향에 따라 학습 특성이 달라지는 것을 알 수 있다. 예를 들어, 인코드된 특징(511)이 채널 방향의 1차원 벡터(512)로 변환되어 입력되는 경우 RNN은 채널 벡터 방향의 컨텍스트를 반영할 수 있다. 또한, 인코드된 특징(521)이 폭(width) 방향의 1차원 벡터(522)로 변환되어 입력되는 경우 RNN은 폭 벡터 방향의 컨텍스트를 반영할 수 있다. 또한, 인코드된 특징(531)이 채널 방향의 1차원 벡터(532) 및 폭 방향의 1차원 벡터(533)로 각각 변환되어 RNN에 입력되는 경우 RNN은 채널 방향 및 폭 방향의 전체 방향의 컨텍스트를 반영할 수 있다. 이와 같이 전체 방향이 고려되는 경우 어느 하나의 방향이 고려되는 경우에 비해 더 많은 메모리가 요구될 수 있다.

도 6은 일 실시예에 따른 객체 검출 과정을 통해 영상 처리 결과가 생성되는 과정을 나타낸 도면이다. 도 6을 참조하면, 시간 T(1)에 영상 처리 장치는 제1 부분 처리 영역의 픽셀 데이터(611)를 CNN에 입력하여 제1 부분 처리 영역에 관한 특징(612)을 추출하고, 특징(612)을 1차원 벡터(613)로 변환하여 RNN에 입력하여 RNN의 히든 상태를 갱신한다. 특징(612)이 인코드된 특징에 해당하며, 히든 벡터(614)가 시간 T(1)에 갱신된 RNN의 히든 상태에 해당할 수 있다. 도 6의 실시예에서는 특징(612)이 채널 방향으로 재배열되지만, 다른 방향으로 재배열되는 것도 가능하다.

시간 T(2)에 영상 처리 장치는 제2 부분 처리 영역의 픽셀 데이터(621)를 CNN에 입력하여 제2 부분 처리 영역에 관한 특징(622)을 추출하고, 특징(622)을 1차원 벡터(623)로 변환하여 RNN에 입력하여 RNN의 히든 상태에 해당하는 히든 벡터(624)를 갱신할 수 있다. RNN의 히든 상태는 입력 데이터 및 이전 시점의 히든 상태에 기초하여 갱신될 수 있다. 예를 들어, 시간 T(2)의 히든 상태는 1차원 벡터(623) 및 시간 T(1)의 히든 상태에 기초하여 갱신될 수 있다. 시간 T(1)의 경우 이전 시점의 히든 상태는 0이므로 시간 T(1)의 히든 상태는 1차원 벡터(613) 및 제로 상태에 기초하여 갱신되는 것으로 간주될 수 있다.

시간 T(K)에 영상 처리 장치는 제K 부분 처리 영역의 픽셀 데이터(631)를 CNN에 입력하여 제K 부분 처리 영역에 관한 특징(632)을 추출하고, 특징(632)을 1차원 벡터(633)로 변환하여 RNN에 입력하여 RNN의 히든 상태에 해당하는 히든 벡터(634)를 갱신할 수 있다. 현재 부분 처리 영역이 입력 영상 프레임의 마지막 부분 처리 영역에 해당하는 경우, 영상 처리 장치는 최종 히든 상태에 기초하여 최종 컨텍스트 데이터를 생성할 수 있다. 도 6의 실시예에서 제K 부분 처리 영역이 마지막 부분 처리 영역에 해당하므로, 영상 처리 장치는 시간 T(K)에 갱신된 최종 히든 상태에 해당하는 히든 벡터(634)를 생성할 수 있으며, 이 히든 벡터(634)가 최종 컨텍스트 데이터에 해당한다.

영상 처리 장치는 최종 컨텍스트 데이터에 기초하여 영상 처리 결과를 생성할 수 있다. 예를 들어, 영상 처리 장치는 최종 컨텍스트 데이터를 FCN에 입력하고, FCN의 출력에 기초하여 영상 처리 결과를 생성할 수 있다. 영상 처리 장치는 최종 컨텍스트 데이터를 편평화(flatten)하는 등 적절히 변형하여 FCN에 입력할 수 있다.

일 실시예에 따르면, 영상 처리가 객체 검출을 포함하는 경우 클래스 '1'은 입력 영상에 객체가 존재함을 나타낼 수 있고, 클래스 '0'은 입력 영상에 객체가 존재하지 않음을 나타낼 수 있다. FCN은 클래스 '1'의 확률을 나타내는 노드의 출력 값 및 클래스 '0'의 확률을 나타내는 노드의 출력 값을 포함할 수 있으며 확률 값이 큰 클래스를 영상 처리 결과로 출력할 수 있다. 예를 들어, 클래스 '1'의 확률 값이 클래스 '0'의 확률 값보다 큰 경우, 입력 영상에 객체가 존재함을 나타내는 영상 처리 결과가 출력될 수 있다.

다른 예로, 영상 처리가 객체 분류를 포함하는 경우 클래스 '1'은 입력 영상에 제1 객체(예: 고양이)가 존재함을 나타낼 수 있고, 클래스 '0'은 입력 영상에 제2 객체(예: 개)가 존재함을 나타낼 수 있다. 예를 들어, 클래스 '1'의 확률 값이 클래스 '0'의 확률 값보다 큰 경우, 입력 영상에 제1 객체(예: 고양이)가 존재함을 나타내는 영상 처리 결과가 출력될 수 있다. 객체 분류의 경우, 객체 검출에 비해 더 많은 수의 클래스들이 정의될 수 있다.

도 7은 다른 일 실시예에 따른 객체 검출 과정을 통해 중간 검출 결과가 생성되는 과정을 나타낸 도면이다. 도 6의 실시예와 달리, 도 7의 실시예에 따르면 마지막 부분 처리 영역이 처리되기 전에 중간 검출 결과가 생성될 수 있다. 보다 구체적으로, 시간 T(1)에 제1 부분 처리 영역의 픽셀 데이터(711)가 CNN에 입력되어 특징(712)이 추출되고, 특징(712)이 1차원 벡터(713)로 변환되어 RNN에 입력되고, 이에 따라 RNN의 히든 상태가 갱신된다.

영상 처리 장치는 갱신된 히든 상태에 해당하는 히든 벡터(714)에서 중간 컨텍스트 데이터를 생성하고, 중간 컨텍스트 데이터를 FCN에 입력하여 중간 검출 결과를 생성할 수 있다. 중간 검출 결과는 중간 컨텍스트 데이터에 기초하여 확인된 입력 영상에 대상 객체가 존재하는지 여부를 나타낼 수 있다. 객체 분류의 경우 입력 영상에 존재하는 객체의 클래스를 나타내는 중간 분류 결과가 생성될 수 있다.

만약 중간 검출 결과를 통해 입력 영상 프레임에 대상 객체가 존재함이 확인되는 경우, 다음 부분 처리 영역에 관한 추가적인 객체 검출 프로세스가 수행되지 않고, 입력 영상 프레임에 관한 객체 검출 프로세스가 종료될 수 있다. 일부의 부분 처리 영역으로 입력 영상 프레임에 객체가 존재함이 확인된다면, 나머지 부분 처리 영역을 분석하는 것이 불필요할 수 있기 때문이다. 이와 같이 중간 검출 결과를 통해 객체가 검출되는 경우, 객체 검출에 소요되는 시간이 단축될 수 있다.

중간 검출 결과를 통해 입력 영상 프레임에 대상 객체가 존재함이 확인되지 않는 경우, 다음 부분 처리 영역이 처리될 수 있다. 보다 구체적으로, 시간 T(2)에 제2부분 처리 영역의 픽셀 데이터(721)가 CNN에 입력되어 특징(722)이 추출되고, 특징(722)이 1차원 벡터(723)로 변환되어 RNN에 입력되고, 이에 따라 RNN의 히든 상태가 갱신될 수 있다. FCN은 시간 T(2)의 중간 컨텍스트 데이터인 히든 벡터(724)를 입력받아 중간 검출 결과를 생성할 수 있다. 중간 검출 결과를 통해 입력 영상 프레임에 대상 객체가 존재함이 확인되는 경우 입력 영상 프레임에 관한 객체 검출 프로세스가 종료되고, 확인되지 않는 경우 다음 부분 처리 영역이 처리될 수 있다.

이와 같은 과정이 시간 T(K)까지 반복될 수 있다. 시간 T(K-1)까지 중간 검출 결과를 통해 입력 영상 프레임에 대상 객체가 존재함이 확인되지 않는 경우, 시간 T(K)의 제K 부분 처리 영역에 관한 처리가 수행될 수 있다. 시간 T(K)의 제K 부분 처리 영역에 관한 처리는 도 6의 실시예와 동일하게 진행될 수 있다. 보다 구체적으로, 제K부분 처리 영역의 픽셀 데이터(731)가 CNN에 입력되어 특징(732)이 추출되고, 특징(732)이 1차원 벡터(733)로 변환되어 RNN에 입력되고, 이에 따라 RNN의 히든 상태가 갱신될 수 있다. 영상 처리 장치는 시간 T(K)에 갱신된 최종 히든 상태에 해당하는 히든 벡터(734)에서 최종 컨텍스트 데이터를 생성하고, 이를 FCN에 입력하여 영상 처리 결과를 생성할 수 있다.

도 8은 일 실시예에 따른 객체 검출 모델의 트레이닝 과정을 나타낸 도면이다. 뉴럴 네트워크 모델은 영상 처리를 수행한다는 의미에서 영상 처리 모델로 지칭될 수 있으며 객체 검출을 수행한다는 의미에서 객체 검출 모델로 지칭될 수도 있다. 이하, 영상 처리 모델과 관련하여 객체 검출 모델이 대표적으로 설명되지만, 해당 설명은 객체 분류 모델과 같은 다른 다양한 모델에 관해서도 적용될 수 있다.

일 실시예에 따르면, 객체 검출 모델은 도 8과 같이 CNN, RNN, 및 FCN을 포함할 수 있다. 예를 들어, 객체 검출 모델은 트레이닝 데이터에 기초하여 지도식으로 트레이닝될 수 있다. 트레이닝 데이터는 트레이닝 영상 및 레이블을 포함할 수 있다. 트레이닝 영상은 검출 대상 객체를 포함하거나 포함하지 않는 다양한 영상일 수 있으며, 레이블은 해당 트레이닝 영상에 검출 대상 객체가 존재하는지를 나타낼 수 있다.

도 8을 참조하면, 시간 T(1), T(2), ..., T(K)에서 CNN, RNN, FCN을 통해 픽셀 데이터(811, 821, 831)가 처리됨에 따라, 최종 클래스 '1' 또는 '0'이 출력될 수 있다. 최종 클래스 '1'은 트레이닝 영상에 객체가 존재함을 나타낼 수 있고, 최종 클래스 '0'은 트레이닝 영상에 객체가 존재하지 않음을 나타낼 수 있다. 객체 검출 모델은 이렇게 레이블이 지시하는 최종 클래스를 출력하도록 트레이닝될 수 있다. 상술된 것처럼, 객체 분류의 경우 더 많은 수의 클래스들이 정의될 수 있다.

객체 검출 모델은 최종 손실 기반의 손실 함수(Loss1)에 기초하여 트레이닝될 수 있다. 예를 들어, 손실 함수(Loss1)는 수학식 1과 같이 나타낼 수 있다.

수학식 1에서 Final_Loss는 최종 클래스와 레이블 간의 차이를 나타낸다. FCN의 출력은 최종 클래스 '1'의 확률 값 및 최종 클래스 '0'의 확률 값을 포함할 수 있으며, 각 출력 값과 레이블 간의 차이에 따라 Final_Loss가 결정될 수 있다. 객체 검출 모델은 이러한 손실 함수(Loss1)가 최소화되도록 트레이닝될 수 있다. 예를 들어, 도 6의 영상 처리는 도 8의 실시예를 통해 트레이닝된 객체 검출 모델에 기초하여 수행될 수 있다.

도 9는 다른 일 실시예에 따른 객체 검출 모델의 트레이닝 과정을 나타낸 도면이다. 도 9를 참조하면, 영상 처리 모델은 중간 클래스를 출력하는 구조를 갖는다. 시간 T(1), T(2)에서 CNN, RNN, FCN을 통해 픽셀 데이터(911, 921)이 처리됨에 따라, 중간 클래스들이 출력될 수 있다. 또한, 시간 T(K)에서 CNN, RNN, FCN을 통해 픽셀 데이터(931)이 처리됨에 따라, 최종 클래스가 출력될 수 있다. 일 실시예에 따르면, 영상 처리 모델은 중간 클래스 기반의 손실 함수(Loss2)에 기초하여 트레이닝될 수 있다. 예를 들어, 손실 함수(Loss2)은 수학식 2와 같이 나타낼 수 있다.

수학식 2에서 Final_Loss는 최종 클래스와 최종 레이블 간의 차이를 나타내고, Inter_Loss는 중간 클래스와 중간 레이블 간의 차이를 나타낸다. 예를 들어, 수학식 1을 통해 설명된 Final_Loss에 관한 계산 과정이 수학식 2의 Final_Loss 및 Inter_Loss를 계산하는데 적용될 수 있다. α는 Inter_Loss와 관련된 가중치를 나타내며, α는 1보다 작은 값으로 설정될 수 있다. 객체 검출 모델은 손실 함수(Loss2)가 최소화되도록 트레이닝될 수 있다. 예를 들어, 도 7의 영상 처리는 도 9의 실시예를 통해 트레이닝된 객체 검출에 기초하여 수행될 수 있다.

도 9의 실시예에 따르면, 트레이닝 데이터는 각 트레이닝 영상의 레이블로서 최종 레이블과 중간 레이블을 포함할 수 있다. 중간 레이블은 각 중간 클래스와의 비교를 위한 것으로, 현재의 컨텍스트로 객체의 존재를 확정할 수 있는지 나타낼 수 있으며, 최종 레이블은 해당 트레이닝 영상에 객체가 존재하는지를 나타낼 수 있다. 예를 들어, 트레이닝 영상의 제1 부분 처리 영역에 대상 객체가 존재하는 경우, 제1 중간 레이블은 중간 클래스 '1'을 지시할 수 있다. 제1 중간 레이블은 제1 부분 처리 영역의 픽셀 데이터(911)에 대응하는 중간 레이블을 나타내고, FCN(912)은 픽셀 데이터(911)에 관한 중간 검출을 수행할 수 있다. FCN(912)은 중간 클래스 '1'의 확률을 나타내는 노드의 출력 값 및 중간 클래스 '0'의 확률을 나타내는 노드의 출력 값을 포함할 수 있다. 이 경우, 중간 클래스 '1'을 지시하는 제1 중간 레이블은 FCN(912)의 중간 클래스 '1'의 확률을 나타내는 노드의 출력 값에 대응하여 1의 레이블 값을 가지고, FCN(912)의 중간 클래스 '0'의 확률을 나타내는 노드의 출력 값에 대응하여 0의 레이블 값을 가질 수 있다.

다른 예로, 트레이닝 영상의 제1 부분 처리 영역 및 제2 부분 처리 영역에 걸쳐 대상 객체가 존재하는 경우, 제1 중간 레이블 또는 제2 중간 레이블은 중간 클래스 '1'을 지시할 수 있다. 제1 부분 처리 영역을 통해 트레이닝 영상에 대상 객체가 존재하는 것이 파악될 가능성이 높다면, 제1 중간 레이블이 '1'을 지시할 수 있다. 이와 달리, 제1 부분 처리 영역 및 제2 부분 처리 영역을 모두 확인해야 트레이닝 영상에 대상 객체가 존재하는 것이 파악될 수 있다면, 제1 중간 레이블은 '0'을 지시하고, 제2 중간 레이블이 '1'을 지시할 수 있다.

도 10은 또 다른 일 실시예에 따른 객체 검출 모델의 트레이닝 과정을 나타낸 도면이다. 도 10을 참조하면, 객체 검출 모델은 CNN의 특징 추출 성능을 향상시키기 위한 트레이닝 구조를 포함한다. 예를 들어, 시간 T(1)에서 CNN을 통해 픽셀 데이터(1011)로부터 추출된 특징(1012)은 RNN으로 입력되어 RNN의 히든 상태를 갱신한다. 이 과정에서 특징(1012)은 컨볼루션 블록(Conv)을 통해 다른 특징(1013)으로 변형된다. 이렇게 획득된 특징(1013)과 마스크 레이블(1014)은 동일한 차원을 가질 수 있다. 특징(1013)은 마스크 레이블(1014)과 비교되며, 그 차이가 객체 검출 모델의 트레이닝에 이용될 수 있다. 유사하게, 시간 T(2)에서 픽셀 데이터(1021)로부터 추출된 특징(1012)도 특징(1023)으로 변형되어 마스크 레이블(1024)과 비교될 수 있다.

마스크 레이블들(1014, 1024)은 각각 객체 위치 정보를 포함할 수 있다. 객체 위치 정보는 트레이닝 영상 프레임의 각 부분 처리 영역 내의 객체 위치를 나타낼 수 있다. 예를 들어, 마스크 레이블(1014)에서 흰 영역은 객체가 존재하는 영역을 나타낼 수 있고, 검은 영역은 객체가 존재하지 않는 영역을 나타낼 수 있다. 마스크 레이블(1014)에는 흰 영역이 존재하고 마스크 레이블(1024)에는 존재하지 않으므로, 도 10의 실시예에서 사용된 트레이닝 영상에서는 객체가 제1 부분 처리 영역의 중앙에 존재함을 알 수 있다.

객체 검출 모델은 마스크 레이블들(1014, 1024)의 객체 위치 정보에 따라 트레이닝 영상에서 특징을 추출하도록 트레이닝될 수 있다. 구체적으로, 객체 위치 정보에 의해 객체가 존재하는 것으로 확인되는 프레임 및/또는 부분 처리 영역에 객체가 존재함을 나타내는 결과가 생성될 수 있도록 객체 검출 모델이 트레이닝될 수 있다. 일례로, 객체 검출 모델이 마스크 레이블들(1014, 1024)을 통해 트레이닝될 경우, 제1 부분 처리 영역의 중앙에 대한 특징 추출이 강화될 수 있다.

일 실시예에 따르면, 객체 검출 모델은 객체 위치 정보 기반의 손실 함수(Loss3)에 기초하여 트레이닝될 수 있다. 예를 들어, 손실 함수(Loss3)은 수학식 3와 같이 나타낼 수 있다.

수학식 3에서 Final_Loss는 최종 클래스와 최종 레이블 간의 차이를 나타내고, Inter_Loss는 중간 클래스와 중간 레이블 간의 차이를 나타내고, CNN_Loss는 변형된 특징과 마스크 레이블 간의 차이를 나타낸다. α는 Inter_Loss와 관련된 가중치를 나타내고, β는 CNN_Loss와 관련된 가중치를 나타낸다. α는 1보다 작은 값으로 설정될 수 있고, β는 α보다 작은 값으로 설정될 수 있다.

도 11은 일 실시예에 따른 영상 처리 장치의 구성을 나타낸 블록도이다. 도 11을 참조하면, 영상 처리 장치(1100)는 프로세서(1110) 및 메모리(1120)를 포함한다. 메모리(1120)는 프로세서(1110)에 연결되고, 프로세서(1110)에 의해 실행가능한 명령어들, 프로세서(1110)가 연산할 데이터 또는 프로세서(1110)에 의해 처리된 데이터를 저장할 수 있다. 메모리(1120)는 비일시적인 컴퓨터 판독가능 매체, 예컨대 고속 랜덤 액세스 메모리 및/또는 비휘발성 컴퓨터 판독가능 저장 매체(예컨대, 하나 이상의 디스크 저장 장치, 플래쉬 메모리 장치, 또는 기타 비휘발성 솔리드 스테이트 메모리 장치)를 포함할 수 있다.

프로세서(1110)는 도 1 내지 도 10을 참조하여 설명된 하나 이상의 동작을 실행하기 위한 명령어들을 실행할 수 있다. 예를 들어, 프로세서(1110)는 입력 영상 프레임의 현재 부분 처리 영역의 픽셀 데이터를 CNN에 입력하여 현재 부분 처리 영역에 관한 특징을 추출하고, 추출된 특징을 리커런트 뉴럴 네트워크RNN에 입력하여 현재 부분 처리 영역과 이전 부분 처리 영역 간의 컨텍스트에 관한 RNN의 히든 상태를 갱신하고, 갱신된 히든 상태에 기초하여 입력 영상 프레임에 관한 영상 처리 결과를 생성할 수 있다. 그 밖에, 영상 처리 장치(1100)에는 도 1 내지 도 10을 참조하여 설명된 내용이 적용될 수 있다.

도 12는 일 실시예에 따른 전자 장치의 구성을 나타낸 블록도이다. 도 12를 참조하면, 전자 장치(1200)는 입력 영상을 획득하고, 획득된 입력 영상에서 대상 객체를 검출할 수 있다. 또한, 전자 장치(1200)는 객체 추적, 객체 인식, 잠금 해제 등과 같은 객체 검출과 연계된 다양한 동작들을 수행할 수 있다. 일례로, 전자 장치(1200)는 올웨이즈-온 모드와 같이 전력 소모가 1mW 이하로 제한되는 저전력 모드에서 객체 검출(예: 얼굴 검출)을 수행하고, 객체 검출에 따라 웨이크-업(wake-up) 되어 일반 모드에서 객체 검출과 연계된 동작을 수행할 수 있다. 전자 장치(1200)는 도 1의 영상 처리 장치(100)를 구조적 및/또는 기능적으로 포함할 수 있다.

전자 장치(1200)는 프로세서(1210), 메모리(1220), 카메라(1230), 저장 장치(1240), 입력 장치(1250), 출력 장치(1260) 및 네트워크 인터페이스(1270)를 포함할 수 있으며, 이들은 통신 버스(1280)를 통해 서로 통신할 수 있다. 예를 들어, 전자 장치(1200)는 이동 전화, 스마트 폰, PDA, 넷북, 태블릿 컴퓨터, 랩톱 컴퓨터 등과 같은 모바일 장치, 스마트 워치, 스마트 밴드, 스마트 안경 등과 같은 웨어러블 디바이스, 데스크탑, 서버 등과 같은 컴퓨팅 장치, 텔레비전, 스마트 텔레비전, 냉장고 등과 같은 가전 제품, 도어 락 등과 같은 보안 장치, 스마트 차량 등과 같은 차량의 일부로 구현될 수 있다.

프로세서(1210)는 전자 장치(1200) 내에서 실행하기 위한 기능 및 명령어들을 실행한다. 예를 들어, 프로세서(1210)는 메모리(1220) 또는 저장 장치(1240)에 저장된 명령어들을 처리할 수 있다. 프로세서(1210)는 도 1 내지 도 11을 통하여 설명된 동작을 수행할 수 있다.

메모리(1220)는 객체 검출을 위한 데이터를 저장한다. 메모리(1220)는 컴퓨터 판독가능한 저장 매체 또는 컴퓨터 판독가능한 저장 장치를 포함할 수 있다. 메모리(1220)는 프로세서(1210)에 의해 실행하기 위한 명령어들을 저장할 수 있고, 전자 장치(1200)에 의해 소프트웨어 및/또는 애플리케이션이 실행되는 동안 관련 정보를 저장할 수 있다.

카메라(1230)는 사진 및/또는 비디오를 촬영할 수 있다. 예를 들어, 카메라(1230)는 사용자를 포함하는 인체 영상 및/또는 사용자의 얼굴을 포함하는 얼굴 영상을 촬영할 수 있다. 카메라(1230)에 의해 촬영된 사진 및/또는 비디오는 입력 영상으로 이용될 수 있다. 일 실시예에 따르면, 카메라(1230)는 객체들에 관한 깊이 정보를 포함하는 3D 영상을 제공할 수 있다.

저장 장치(1240)는 컴퓨터 판독가능한 저장 매체 또는 컴퓨터 판독가능한 저장 장치를 포함한다. 저장 장치(1240)는 객체 검출기, 임계치 결정 엔진과 같은 객체 검출 과정에서 사용되는 각종 데이터를 저장할 수 있다. 일 실시예에 따르면, 저장 장치(1240)는 메모리(1220)보다 더 많은 양의 정보를 저장하고, 정보를 장기간 저장할 수 있다. 예를 들어, 저장 장치(1240)는 자기 하드 디스크, 광 디스크, 플래쉬 메모리, 플로피 디스크 또는 이 기술 분야에서 알려진 다른 형태의 비휘발성 메모리를 포함할 수 있다.

입력 장치(1250)는 키보드 및 마우스를 통한 전통적인 입력 방식, 및 터치 입력, 음성 입력, 및 이미지 입력과 같은 새로운 입력 방식을 통해 사용자로부터 입력을 수신할 수 있다. 예를 들어, 입력 장치(1250)는 키보드, 마우스, 터치 스크린, 마이크로폰, 또는 사용자로부터 입력을 검출하고, 검출된 입력을 전자 장치(1200)에 전달할 수 있는 임의의 다른 장치를 포함할 수 있다.

출력 장치(1260)는 시각적, 청각적 또는 촉각적인 채널을 통해 사용자에게 전자 장치(1200)의 출력을 제공할 수 있다. 출력 장치(1260)는 예를 들어, 디스플레이, 터치 스크린, 스피커, 진동 발생 장치 또는 사용자에게 출력을 제공할 수 있는 임의의 다른 장치를 포함할 수 있다. 네트워크 인터페이스(1270)는 유선 또는 무선 네트워크를 통해 외부 장치와 통신할 수 있다.

도 13은 일 실시예에 따른 영상 처리 방법을 나타낸 플로우 차트이다. 도 13을 참조하면, 단계(1310)에서 영상 처리 장치는 입력 영상 프레임의 현재 부분 처리 영역의 픽셀 데이터를 CNN에 입력하여, 현재 부분 처리 영역에 관한 특징을 추출한다. 단계(1320)에서 영상 처리 장치는 추출된 특징을 RNN에 입력하여, 현재 부분 처리 영역과 이전 부분 처리 영역 간의 컨텍스트에 관한 RNN의 히든 상태를 갱신한다. 단계(1330)에서 영상 처리 장치는 갱신된 히든 상태에 기초하여, 입력 영상 프레임에 관한 영상 처리 결과를 생성한다. 그 밖에, 객체 검출 방법에는 도 1 내지 도 12를 참조하여 설명된 내용이 적용될 수 있다.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 또는 복수의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 또는 복수의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 또는 복수의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.

이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.

Claims

입력 영상 프레임의 현재 부분 처리 영역의 픽셀 데이터를 컨볼루셔널 뉴럴 네트워크(Convolutional Neural Network, CNN)에 입력하여, 상기 현재 부분 처리 영역에 관한 특징을 추출하는 단계;
상기 추출된 특징을 리커런트 뉴럴 네트워크(Recurrent Neural Network, RNN)에 입력하여, 상기 현재 부분 처리 영역과 적어도 하나의 이전 부분 처리 영역 간의 컨텍스트에 관한 상기 RNN의 히든 상태를 갱신하는 단계; 및
상기 갱신된 히든 상태에 기초하여, 상기 입력 영상 프레임에 관한 영상 처리 결과를 생성하는 단계
를 포함하는 영상 처리 방법.
제1항에 있어서,
상기 CNN은 멀티-헤드 CNN(Multi-head CNN, MCNN)인,
영상 처리 방법.
제2항에 있어서,
상기 특징을 추출하는 상기 단계는
상기 현재 부분 처리 영역의 상기 픽셀 데이터를 상기 MCNN의 각 헤드에 입력하여, 상기 현재 부분 처리 영역에 관한 복수의 중간 특징들을 추출하는 단계; 및
상기 추출된 복수의 중간 특징들을 융합하여, 상기 현재 부분 처리 영역에 관한 인코드된 특징을 생성하는 단계
를 포함하는, 영상 처리 방법.
제1항에 있어서,
상기 히든 상태를 갱신하는 상기 단계는
상기 추출된 특징을 1차원 벡터로 변환하여, 상기 RNN에 입력하는 단계를 포함하는,
영상 처리 방법.
제4항에 있어서,
상기 1차원 벡터는 채널 방향의 벡터 및 폭 방향의 벡터 중 적어도 하나를 포함하는,
영상 처리 방법.
제1항에있어서,
상기 영상 처리 결과를 생성하는 상기 단계는
상기 현재 부분 처리 영역이 상기 입력 영상 프레임의 마지막 부분 처리 영역에 해당하는 경우, 상기 갱신된 히든 상태에 기초하여 최종 컨텍스트 데이터를 생성하는 단계; 및
상기 최종 컨텍스트 데이터에 기초하여, 상기 영상 처리 결과를 생성하는 단계
를 포함하는, 영상 처리 방법.
제1항에 있어서,
상기 영상 처리 결과는
상기 입력 영상 프레임에 대상 객체가 존재하는지를 나타내는,
영상 처리 방법.
제7항에 있어서,
상기 대상 객체는 사람인,
영상 처리 방법.
제7항에 있어서,
상기 대상 객체는 사람의 얼굴인,
영상 처리 방법.
제1항에 있어서,
상기 영상 처리 결과를 생성하는 상기 단계는
상기 현재 부분 처리 영역이 상기 입력 영상 프레임의 마지막 부분 처리 영역에 해당하지 않는 경우, 상기 갱신된 히든 상태에 기초하여 중간 컨텍스트 데이터를 생성하는 단계; 및
상기 중간 컨텍스트 데이터에 기초하여, 중간 검출 결과를 생성하는 단계
를 포함하는, 영상 처리 방법.
제10항에 있어서,
상기 중간 검출 결과가 상기 입력 영상 프레임에 대상 객체가 존재함을 나타내는 경우, 적어도 하나의 다음 부분 처리 영역에 관한 추가적인 영상 처리 프로세스가 수행되지 않고, 상기 입력 영상 프레임에 관한 영상 처리 프로세스가 종료되는,
영상 처리 방법.
제1항에 있어서,
상기 현재 부분 처리 영역을 포함하는 각 부분 처리 영역은 이미지 센서의 영상 신호 처리(Image Signal Processing, ISP)를 위한 픽셀 라인 그룹에 대응하는, 영상 처리 방법.
제1항에 있어서,
상기 특징을 추출하는 상기 단계, 상기 히든 상태를 갱신하는 상기 단계, 및 상기 영상 처리 결과를 생성하는 상기 단계는 저전력 모드에서 수행되는,
영상 처리 방법.
제1항에 있어서,
상기 CNN은
트레이닝 영상 프레임의 각 부분 처리 영역에 관한 객체 위치 정보를 이용하여 미리 트레이닝되는,
영상 처리 방법.
제1항 내지 제14항 중 어느 한 항의 방법을 수행하는 명령어들을 포함하는 하나 이상의 프로그램을 저장한 컴퓨터 판독 가능 저장매체.
프로세서; 및
상기 프로세서에서 실행가능한 명령어들을 저장하는 메모리
를 포함하고,
상기 명령어들이 상기 프로세서에서 실행되면, 상기 프로세서는
입력 영상 프레임의 현재 부분 처리 영역의 픽셀 데이터를 컨볼루셔널 뉴럴 네트워크(Convolutional Neural Network, CNN)에 입력하여, 상기 현재 부분 처리 영역에 관한 특징을 추출하고,
상기 추출된 특징을 리커런트 뉴럴 네트워크(Recurrent Neural Network, RNN)에 입력하여, 상기 현재 부분 처리 영역과 적어도 하나의 이전 부분 처리 영역 간의 컨텍스트에 관한 상기 RNN의 히든 상태를 갱신하고,
상기 갱신된 히든 상태에 기초하여, 상기 입력 영상 프레임에 관한 영상 처리 결과를 생성하는,
영상 처리 장치.
제16항에 있어서,
상기 CNN은 멀티-헤드 CNN(Multi-head CNN, MCNN)이고,
상기 프로세서는
상기 현재 부분 처리 영역의 상기 픽셀 데이터를 상기 MCNN의 각 헤드에 입력하여, 상기 현재 부분 처리 영역에 관한 복수의 중간 특징들을 추출하고, 상기 추출된 복수의 중간 특징들을 융합하여, 상기 현재 부분 처리 영역에 관한 인코드된 특징을 생성하는,
영상 처리 장치.
제16항에있어서,
상기 프로세서는
상기 현재 부분 처리 영역이 상기 입력 영상 프레임의 마지막 부분 처리 영역에 해당하는 경우, 상기 갱신된 히든 상태에 기초하여 최종 컨텍스트 데이터를 생성하고, 상기 최종 컨텍스트 데이터에 기초하여, 상기 영상 처리 결과를 생성하는,
영상 처리 장치.
제16항에 있어서,
상기 프로세서는
상기 현재 부분 처리 영역이 상기 입력 영상 프레임의 마지막 부분 처리 영역에 해당하지 않는 경우, 상기 갱신된 히든 상태에 기초하여 중간 컨텍스트 데이터를 생성하고, 상기 중간 컨텍스트 데이터에 기초하여, 중간 검출 결과를 생성하는,
영상 처리 장치.
제16항에 있어서,
상기 현재 부분 처리 영역을 포함하는 각 부분 처리 영역은 이미지 센서의 영상 신호 처리(Image Signal Processing, ISP)를 위한 픽셀 라인 그룹에 대응하는, 영상 처리 장치.
입력 영상 프레임을 생성하는 카메라;
명령어들을 저장하는 메모리; 및
상기 메모리에 저장된 명령어들을 실행하여,
상기 입력 영상 프레임의 현재 부분 처리 영역의 픽셀 데이터를 컨볼루셔널 뉴럴 네트워크(Convolutional Neural Network, CNN)에 입력하여, 상기 현재 부분 처리 영역에 관한 특징을 추출하고,
상기 추출된 특징을 리커런트 뉴럴 네트워크(Recurrent Neural Network, RNN)에 입력하여, 상기 현재 부분 처리 영역과 적어도 하나의 이전 부분 처리 영역 간의 컨텍스트에 관한 상기 RNN의 히든 상태를 갱신하고,
상기 갱신된 히든 상태에 기초하여, 상기 입력 영상 프레임에 관한 영상 처리 결과를 생성하는, 프로세서
를 포함하는, 전자 장치.
제21항에 있어서,
상기 현재 부분 처리 영역에 관한 특징을 추출하는 것, 상기 RNN의 히든 상태를 갱신하는 것, 상기 영상 처리 결과를 생성하는 것은 저전력 모드에서 수행되고,
상기 입력 영상 프레임에서 대상 객체가 검출됨에 따라, 상기 전자 장치는 웨이크-업되어 일반 모드에서 영상 처리와 연계된 동작을 수행하는,
전자 장치.
제22항에 있어서,
상기 저전력 모드는 올웨이즈-온 모드를 포함하는,
전자 장치.
제22항에 있어서,
상기 영상 처리는 객체 검출을 포함하고,
상기 영상 처리와 연계된 상기 동작은 객체 추적, 객체 인식, 잠금 해제 중 적어도 하나를 포함하는,
전자 장치.