KR20220000871A - 시간 적응적, 공간 선택적 시그널링을 이용한 뉴럴 네트워크 처리 방법 및 장치 - Google Patents

시간 적응적, 공간 선택적 시그널링을 이용한 뉴럴 네트워크 처리 방법 및 장치 Download PDF

Info

Publication number
KR20220000871A
KR20220000871A KR1020210186139A KR20210186139A KR20220000871A KR 20220000871 A KR20220000871 A KR 20220000871A KR 1020210186139 A KR1020210186139 A KR 1020210186139A KR 20210186139 A KR20210186139 A KR 20210186139A KR 20220000871 A KR20220000871 A KR 20220000871A
Authority
KR
South Korea
Prior art keywords
video
neural network
video processing
processor
tone mapping
Prior art date
Application number
KR1020210186139A
Other languages
English (en)
Other versions
KR102642058B1 (ko
Inventor
김문철
기세환
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020200080914A external-priority patent/KR102364628B1/ko
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Publication of KR20220000871A publication Critical patent/KR20220000871A/ko
Priority to KR1020220186443A priority Critical patent/KR102642059B1/ko
Application granted granted Critical
Publication of KR102642058B1 publication Critical patent/KR102642058B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/73—Deblurring; Sharpening
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0454—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4046—Scaling of whole images or parts thereof, e.g. expanding or contracting using neural networks
    • G06T5/001—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/80—Geometric correction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00—Image coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Systems (AREA)

Abstract

뉴럴 네트워크 처리 방법 및 장치가 개시된다. 일 실시예에 따른 비디오 처리 방법은, 복수의 시간적 부분(temporal portions)들을 포함하는 비디오를 수신하는 단계와, 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 수신하는 단계와, 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들 각각과 상기 제1 모델 파라미터 간의 잔차들(residues)을 수신하는 단계와, 상기 잔차들(residues)에 기초하여 상기 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 단계를 포함한다.

Description

시간 적응적, 공간 선택적 시그널링을 이용한 뉴럴 네트워크 처리 방법 및 장치{NEURAL NETWORK PROCESSING METHOD AND APPARATUS USING TEMPORALLY ADAPTIVE, REGION-SELECTIVE SIGNALING}
아래 실시예들은 뉴럴 네트워크처리 방법 및 장치에 관한 것이다.
초해상화(Super-Resolution(SR))를 위한 컨볼루션 뉴럴 네트워크(Convolutional Neural Network(CNN)는 이미지 복원에 있어서 높은 충실도(fidelity)의 우수한 성능을 보여주고 있다. 컴퓨터 비전(computer vision) 분야에서 CNN 기반 SR에 대하여 많은 연구가 이루어 지고 있다.
SR을 통해서, 낮은 공간 해상도(low spatial resolution)에서 효과적으로 비디오가 인코딩된 후 전달되고, 수신단에서 CNN 기반 SR 방법 등을 이용하여 높은 공간 해상도에서 높은 복원 충실도를 갖도록 복구하는 것이 가능해졌다.
또한, 뉴럴 네트워크의 모델 파라미터의 컨텐츠-적응적(content-adaptive) 학습 및 전송은 더 높은 복원 충실도를 가지도록 SR 성능을 향상시킬 수 있다. 이 경우, 효율적인 뉴럴 네트워크 파라미터의 전송이 필수적으로 요구된다.
아래 실시예들은 뉴럴 네트워크 처리 기술을 제공할 수 있다.
일 실시예에 따른 비디오 처리 방법은, 복수의 시간적 부분(temporal portions)들을 포함하는 비디오를 수신하는 단계와, 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 수신하는 단계와, 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들 각각과 상기 제1 모델 파라미터 간의 잔차들(residues)을 수신하는 단계와, 상기 잔차들(residues)에 기초하여 상기 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 단계를 포함한다.
상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는, 적어도 하나의 컨볼루션 레이어를 포함하는 경량 잔차 밀집 블록(Light-weight residual dense block)을 포함할 수 있다.
상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는, 캐스케이드(cascade) 구조로 구성된 복수의 경량 잔차 밀집 블록을 포함할 수 있다.
상기 경량 잔차 밀집 볼록은, 뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어 또는, 1×1×d 컨볼루션 레이어를 포함할 수 있다.
상기 뎁스와이즈 세퍼러블 컨볼루션 레이어는, 뎁스와이즈 컨볼루션 레이어와, 포인트와이즈 컨볼루션 레이어와, 비선형 활성함수를 포함할 수 있다.
상기 수행하는 단계는, 상기 잔차들을 상기 제1 모델 파라미터에 더함으로써(by adding) 상기 복수의 제2 모델 파라미터들을 복원하는 단계와, 상기 복수의 제2 모델 파라미터들에 기초하여 상기 복수의 시간적 부분들 각각에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 단계를 포함할 수 있다.
상기 비디오 처리 방법은, 상기 복수의 시간적 부분들에 포함된 프레임에 대한 공간 영역 분할 정보 및 분할된 공간 영역의 범주(category) 정보를 수신하는 단계를 더 포함할 수 있다.
상기 수행하는 단계는, 상기 공간 영역 분할 정보 및 상기 범주 정보에 기초하여 상기 프레임을 복수의 공간 영역들(spatial regions)로 분할하는 단계와, 상기 복수의 공간 영역들 및 상기 범주 정보에 기초하여 상기 비디오에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 단계를 포함할 수 있다.
일 실시예에 따른 비디오 처리 장치는, 복수의 시간적 부분(temporal portions)들을 포함하는 비디오를 수신하고, 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 수신하고, 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들 각각과 상기 제1 모델 파라미터 간의 잔차들(residues)을 수신하는 수신기와, 상기 잔차들(residues)에 기초하여 상기 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 프로세서를 포함한다.
상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는, 적어도 하나의 컨볼루션 레이어를 포함하는 경량 잔차 밀집 블록(Light-weight residual dense block)을 포함할 수 있다.
상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는, 캐스케이드(cascade) 구조로 구성된 복수의 경량 잔차 밀집 블록을 포함할 수 있다.
상기 경량 잔차 밀집 블록은, 뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어 또는, 1×1×d 컨볼루션 레이어를 포함할 수 있다.
상기 뎁스와이즈 세퍼러블 컨볼루션 레이어는, 뎁스와이즈 컨볼루션 레이어와, 포인트와이즈 컨볼루션 레이어와, 비선형 활성 함수를 포함할 수 있다.
상기 프로세서는, 상기 비디오에 포함된 프레임을 복수의 영역으로 분할하고, 상기 잔차들을 상기 제1 모델 파라미터에 더함으로써(by adding) 상기 복수의 제2 모델 파라미터들을 복원하고, 상기 복수의 제2 모델 파라미터들에 기초하여 상기 복수의 시간적 부분들 각각에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
상기 수신기는, 상기 복수의 시간적 부분들에 포함된 프레임에 대한 공간 영역 분할 정보 및 분할된 공간 영역의 범주 정보를 더 수신할 수 있다.
상기 프로세서는, 상기 공간 영역 분할 정보 및 상기 범주 정보에 기초하여 상기 프레임을 복수의 공간 영역들(spatial regions)로 분할하고, 상기 복수의 공간 영역들 및 상기 범주 정보에 기초하여 상기 비디오에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
다른 실시예에 따른 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 비디오 처리 방법은, 복수의 시간적 부분(temporal portions)들을 포함하는 비디오 및 상기 비디오를 처리하기 위한 뉴럴 네트워크와 관련된 모델 정보를 수신하는 단계와, 상기 모델 정보에 기초하여 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 획득하는 단계와, 상기 모델 정보에 기초하여 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들을 획득하는 단계와, 상기 제1 모델 파라미터와 상기 복수의 제2 모델 파라미터들 간의 잔차들(residues)을 계산하는 단계와, 상기 비디오 및 상기 잔차를 전송하는 단계를 포함한다.
상기 비디오 처리 방법은, 상기 복수의 시간적 부분들에 포함된 프레임을 분할하여 공간 영역 분할 정보를 생성하는 단계와, 분할된 공간 영역의 신호 특징(signal characteristic)에 기초하여 상기 분할된 공간 영역의 범주 정보를 생성하는 단계를 더 포함할 수 있다.
상기 전송하는 단계는, 상기 비디오, 상기 잔차, 상기 공간 영역 분할 정보 및 상기 범주 정보 중 적어도 하나를 압축하여 전송하는 단계를 포함할 수 있다.
상기 비디오 처리 방법은, 상기 잔차들을 최소화하도록 상기 복수의 제2 뉴럴 네트워크들을 학습시키는 단계를 더 포함할 수 있다.
다른 실시예에 따른 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 비디오 처리 방법은, 복수의 시간적 부분(temporal portions)들을 포함하는 비디오 및 상기 비디오를 처리하기 위한 뉴럴 네트워크와 관련된 모델 정보를 수신하는 수신기와, 상기 모델 정보에 기초하여 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 획득하고, 상기 모델 정보에 기초하여 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들을 획득하고, 상기 제1 모델 파라미터와 상기 복수의 제2 모델 파라미터들 간의 잔차들(residues)을 계산하고, 상기 비디오 및 상기 잔차를 전송하는 프로세서를 포함한다.
상기 프로세서는, 상기 복수의 시간적 부분들에 포함된 프레임을 분할하여 공간 영역 분할 정보를 생성하고, 분할된 공간 영역의 신호 특징(signal characteristic)에 기초하여 상기 분할된 공간 영역의 범주 정보를 생성할 수 있다.
상기 프로세서는, 상기 비디오, 상기 잔차, 상기 공간 영역 분할 정보 및 상기 범주 정보 중 적어도 하나를 압축하여 전송할 수 있다.
상기 프로세서는, 상기 잔차들을 최소화하도록 상기 복수의 제2 뉴럴 네트워크들을 학습시킬 수 있다.
도 1a는 일 실시예에 따른 비디오 처리 시스템의 개략적인 블록도를 나타낸다.
도 1b는 도 1a에 도시된 송신단의 비디오 처리 장치의 개략적인 블록도를 나타낸다.
도 1c는 도 1a에 도시된 수신단의 비디오 처리 장치의 개략적인 블록도를 나타낸다.
도 2는 도 1b에 도시된 송신단의 비디오 처리 장치의 동작의 일 예를 나타낸다.
도 3은 도 1b에 도시된 송신단의 비디오 처리 장치의 동작의 다른 예를 나타낸다.
도 4는 도 1a에 도시된 송신단의 비디오 처리 장치와 수신단의 비디오 처리 장치가 사용하는 뉴럴 네트워크의 구조의 예를 나타낸다.
도 5는 도 4에 도시된 LwRDB의 구조의 예를 나타낸다.
도 6은 도 1a에 비디오 처리 방식에 따른 PSNR을 나타낸다.
도 7은 하이퍼 파라미터에 따른 PSNR 및 비트 크기 감소율을 나타낸다.
도 8은 도 1b에 도시된 송신단의 비디오 처리 장치의 동작의 순서를 나타낸다.
도 9는 도 1c에 도시된 수신단의 비디오 처리 장치의 동작의 순서를 나타낸다.
이하에서, 첨부된 도면을 참조하여 실시예들을 상세하게 설명한다. 그러나, 실시예들에는 다양한 변경이 가해질 수 있어서 특허출원의 권리 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 실시예들에 대한 모든 변경, 균등물 내지 대체물이 권리 범위에 포함되는 것으로 이해되어야 한다.
실시예에서 사용한 용어는 단지 설명을 목적으로 사용된 것으로, 한정하려는 의도로 해석되어서는 안된다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 실시예의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
또한, 실시 예의 구성 요소를 설명하는 데 있어서, 제 1, 제 2, A, B, (a), (b) 등의 용어를 사용할 수 있다. 이러한 용어는 그 구성 요소를 다른 구성 요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성 요소의 본질이나 차례 또는 순서 등이 한정되지 않는다. 어떤 구성 요소가 다른 구성요소에 "연결", "결합" 또는 "접속"된다고 기재된 경우, 그 구성 요소는 그 다른 구성요소에 직접적으로 연결되거나 접속될 수 있지만, 각 구성 요소 사이에 또 다른 구성 요소가 "연결", "결합" 또는 "접속"될 수도 있다고 이해되어야 할 것이다.
어느 하나의 실시 예에 포함된 구성요소와, 공통적인 기능을 포함하는 구성요소는, 다른 실시 예에서 동일한 명칭을 사용하여 설명하기로 한다. 반대되는 기재가 없는 이상, 어느 하나의 실시 예에 기재한 설명은 다른 실시 예에도 적용될 수 있으며, 중복되는 범위에서 구체적인 설명은 생략하기로 한다.
도 1a는 일 실시예에 따른 비디오 처리 시스템의 개략적인 블록도를 나타내고, 도 1b는 도 1a에 도시된 송신단의 비디오 처리 장치의 개략적인 블록도를 나타내고, 도 1c는 도 1a에 도시된 수신단의 비디오 처리 장치의 개략적인 블록도를 나타낸다.
도 1a 내지 도 1c를 참조하면, 비디오 처리 시스템(10)은 이미지 또는 비디오를 처리할 수 있다. 이미지는 빛의 굴절이나 반사 등에 의하여 이루어진 물체의 상을 포함하는 것으로, 선이나 색채를 이용하여 사물의 형상을 나타낸 것을 의미할 수 있다. 비디오는 프레임을 포함할 수 있다. 또한, 프레임은 복수의 픽셀을 포함할 수 있다.
비디오는 복수의 시간적 부분(temporal portion)을 포함할 수 있다. 하나의 시간적 부분은 하나의 일정 시간 구간(certain temporal duration) 동안의 한 프레임들의 그룹, 즉 하나의 비디오 클립(video clip which is usually a part (a certain temporal duration) of a longer recording)에 대응될 수 있다. 다시 말해, 비디오는 시간의 흐름에 따른 복수 시간 구간들(multiple temporal durations)의 장면들을 포함할 수 있다.
비디오 처리 시스템(10)은 비디오, 비디오에 포함된 프레임 또는 이미지에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
초해상화는 공간 해상도(spatial resolution)가 낮은 입력 이미지를 공간 해상도가 높은 입력 이미지로 변환시키는 비디오 처리를 의미할 수 있다. 비디오 처리 시스템(10)은 뉴럴 네트워크를 이용하여 비디오, 비디오에 포함된 프레임 또는 이미지에 초해상화를 수행할 수 있다.
뉴럴 네트워크(또는 인공 신경망)는 기계학습과 인지과학에서 생물학의 신경을 모방한 통계학적 학습 알고리즘을 포함할 수 있다. 뉴럴 네트워크는 시냅스의 결합으로 네트워크를 형성한 인공 뉴런(노드)이 학습을 통해 시냅스의 결합 세기를 변화시켜, 문제 해결 능력을 가지는 모델 전반을 의미할 수 있다.
뉴럴 네트워크는 심층 뉴럴 네트워크 (Deep Neural Network)를 포함할 수 있다. 뉴럴 네트워크는 CNN(Convolutional Neural Network), RNN(Recurrent Neural Network), 퍼셉트론(perceptron), FF(Feed Forward), RBF(Radial Basis Network), DFF(Deep Feed Forward), LSTM(Long Short Term Memory), GRU(Gated Recurrent Unit), AE(Auto Encoder), VAE(Variational Auto Encoder), DAE(Denoising Auto Encoder), SAE(Sparse Auto Encoder), MC(Markov Chain), HN(Hopfield Network), BM(Boltzmann Machine), RBM(Restricted Boltzmann Machine), DBN(Depp Belief Network), DCN(Deep Convolutional Network), DN(Deconvolutional Network), DCIGN(Deep Convolutional Inverse Graphics Network), GAN(Generative Adversarial Network), LSM(Liquid State Machine), ELM(Extreme Learning Machine), ESN(Echo State Network), DRN(Deep Residual Network), DNC(Differentiable Neural Computer), NTM(Neural Turning Machine), CN(Capsule Network), KN(Kohonen Network) 및 AN(Attention Network)를 포함할 수 있다.
비디오 처리 시스템(10)은 송신단의 비디오 처리 장치(100)(이하, 비디오 처리 장치(100) 이라함) 및 수신단의 비디오 처리 장치(500)(이하, 비디오 처리 장치(500) 이라함)을 포함한다.
비디오 처리 장치(100)는 비디오 및 모델 정보에 기초하여 비디오를 처리하고, 처리 결과를 비디오 처리 장치(500)으로 전송할 수 있다. 처리 결과는 비디오 및 모델 정보에 기초하여 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중 적어도 하나를 수행하기 위한 뉴럴 네트워크 모델의 잔차, 비디오에 포함된 프레임의 공간 영역 분할 정보 및 분할된 공간 영역의 범주 정보를 포함할 수 있다.
모델 정보는 뉴럴 네트워크의 종류, 구조에 대한 정보 및 미리 학습된(pre-trained) 뉴럴 네트워크의 모델 파라미터를 포함할 수 있다.
다시 말해, 비디오 처리 장치(100)는 비디오 및 모델 정보에 기초하여 뉴럴 네트워크 모델의 잔차, 비디오에 포함된 프레임의 공간 영역 분할 정보 및 분할된 공간 영역의 범주 정보를 생성하여 비디오 처리 장치(500)로 전송할 수 있다. 또한, 비디오 처리 장치(100)는 비디오를 압축하여 비디오 처리 장치(500)로 전송할 수 있다.
비디오 처리 장치(500)는 비디오 처리 장치(100)로부터 수신한 처리 결과에 기초하여 비디오를 처리할 수 있다. 비디오 처리 장치(500)는 뉴럴 네트워크 모델의 잔차, 비디오에 포함된 프레임의 공간 영역 분할 정보 및 분할된 공간 영역의 범주 정보에 기초하여 비디오(또는, 압축된 비디오)에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중 적어도 하나를 수행할 수 있다.
비디오 처리 장치(100)는 뉴럴 네트워크를 학습시킬 수 있다. 비디오 처리 장치(100)는 학습된 뉴럴 네트워크에 대한 정보(예를 들어, 뉴럴 네트워크의 모델 파라미터 등)를 압축하고 비디오 처리 장치(500)에 전송할 수 있다. 뉴럴 네트워크에 대한 정보는 뉴럴 네트워크의 모델 파라미터, 뉴럴 네트워크의 구조 또는 가중치를 포함할 수 있다. 예를 들어, 모델 파라미터는 컨볼루션 뉴럴 네트워크의 필터 파라미터를 포함할 수 있다.
비디오 처리 장치(100)는 뉴럴 네트워크 모델에 대한 정보를 임의의 비디오 처리 장치(500)에 전송할 수 있다. 비디오 처리 장치(500)는 뉴럴 네트워크 모델에 대한 정보에 기초하여 초해상화(super-resolution), 역톤매핑(reverse or inverse tone mapping), 톤매핑(tone mapping), 프레임 보간(frame interpolation), 움직임 흐림 제거(motion deblurring), 디노이징(denoising) 및 압축 왜곡 제거(compression artifact removal) 중에서 적어도 하나를 수행할 수 있다.
비디오 처리 장치(100)는 이미지 또는 비디오를 압축할 수 있다. 또한, 압축한 이미지 또는 비디오를 비디오 처리 장치(500)에 전송할 수 있다. 비디오 처리 장치(500)는 미리 저장된 뉴럴 네트워크에 대한 정보 및/또는 수신된 뉴럴 네트워크에 대한 정보에 기초하여 이미지 또는 비디오에 대하여 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
비디오 처리 장치(100)는 송신단에 위치할 수 있다. 비디오 처리 장치(100)는 송신단에서 구현되어 공간 및/또는 시간 해상도가 감소된 비디오를 전송함으로써 대역폭(bandwidth)을 절약하고, 수신단에서 미리 저장된 뉴럴 네트워크에 대한 정보 및/또는 수신된 뉴럴 네트워크에 대한 정보를 이용하여 해상도가 감소된 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
도 1b 및 도 1c의 예시와 같이, 비디오 처리 장치(100)는 수신기(110) 및 프로세서(130)를 포함하고, 비디오 처리 장치(500)는 수신기(510) 및 프로세서(530)을 포함한다. 비디오 처리 장치(100)는 메모리(150)를 더 포함할 수 있고, 비디오 처리 장치(500)는 메모리(550)를 더 포함할 수 있다.
수신기(110)는 이미지, 비디오 또는 비디오에 포함된 프레임 및 비디오 처리를 위한 모델 정보를 수신할 수 있다. 예를 들어, 수신기(110)는 복수의 시간적 부분들(temporal portions)을 포함하는 비디오 및 비디오를 처리하기 위한 뉴럴 네트워크와 관련된 모델 정보를 수신할 수 있다. 수신기(110)는 수신한 이미지 및/또는 비디오를 프로세서(130) 및 메모리(150)로 출력할 수 있다.
수신기(510)는 복수의 시간적 부분들을 포함하는 비디오(또는, 압축된 비디오)를 수신할 수 있다. 수신기(510)는 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터 및 제1 모델 파라미터와 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크에 대응하는 복수의 제2 모델 파라미터들 간의 잔차들을 수신할 수 있다.
수신기(530)는 복수의 시간적 부분들에 포함된 프레임에 대한 공간 영역 분할 정보 및 분할된 공간 영역의 범주 정보를 수신할 수 있다.
수신기(510)는 수신한 비디오, 제1 모델 파라미터, 잔차, 공간 영역 분할 정보 및 범주 정보를 프로세서(530) 및 메모리(550)로 출력할 수 있다.
프로세서(130) 및 프로세서(530)는 각각 메모리(150) 및 메모리(550)에 저장된 데이터를 처리할 수 있다. 프로세서(130) 및 프로세서(530)는 메모리(150) 및 메모리(550)에 저장된 컴퓨터로 읽을 수 있는 코드(예를 들어, 소프트웨어) 및 프로세서(130) 및 프로세서(530)에 의해 유발된 인스트럭션(instruction)들을 실행할 수 있다.
"프로세서(130) 및 프로세서(530)"는 목적하는 동작들(desired operations)을 실행시키기 위한 물리적인 구조를 갖는 회로를 가지는 하드웨어로 구현된 데이터 처리 장치일 수 있다. 예를 들어, 목적하는 동작들은 프로그램에 포함된 코드(codes) 또는 인스트럭션들(instructions)을 포함할 수 있다.
예를 들어, 하드웨어로 구현된 데이터 처리 장치는 마이크로프로세서(microprocessor), 중앙 처리 장치(central processing unit), 프로세서 코어(processor core), 멀티-코어 프로세서(multi-core processor), 멀티프로세서(multiprocessor), ASIC(Application-Specific Integrated Circuit), FPGA(Field Programmable Gate Array) 중 적어도 하나를 포함할 수 있다.
프로세서(130)는 모델 정보에 기초하여 수신한 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 획득할 수 있다. 다시 말해, 제1 뉴럴 네트워크는 전체 장면들에 대하여 학습되는 뉴럴 네트워크를 의미할 수 있다.
또한, 프로세서(130)는 수신한 비디오만에 한정되지 않는 일반적인 비디오 전체를 처리하기 위한 목적으로 제1 뉴럴 네트워크로부터 제1 모델 파라미터를 획득할 수 있다. 다시 말해, 제1 뉴럴 네트워크는 일반적인 비디오 장면들에 대하여 학습되는 뉴럴 네트워크를 의미할 수 있다.
프로세서(130)는 모델 정보에 기초하여 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들을 획득할 수 있다. 복수의 시간적 부분들의 수는 비디오에 포함된 시간 구간(certain temporal duration) 동안의 비디오 클립들(video clips, each of which is usually a part (a certain temporal duration) of a longer recording)의 수와 동일할 수 있다. 이에 따라, 제2 뉴럴 네트워크의 수는 비디오에 포함된 비디오 클립의 수와 같거나 적을 수 있다. 예를 들어, 적은 경우에는 두개 이상의 비디오 클립들이 하나의 동일한 제2 뉴럴 네트워크 모델에 대응되는 경우일 수 있다.
프로세서(130)는 제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들을 학습시킬 수 있다. 프로세서(130)는 분할된 복수의 공간 영역 및 제1 모델 파라미터와 복수의 제2 모델 파라미터들 간의 잔차들에 기초하여 이미지 및/또는 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있도록 제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들을 학습시킬 수 있다.
프로세서(130)는 임의의 손실함수를 이용하여 제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들을 학습시킬 수 있다.
예를 들어, 프로세서(130)는 제1 모델 파라미터와 복수의 제2 모델 파라미터들 간의 잔차들을 최소화하도록 복수의 제2 뉴럴 네트워크들을 학습시킬 수 있다. 손실함수에 관해서는 도 2를 참조하여 자세하게 설명한다.
제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들 중 적어도 하나는 적어도 하나의 컨볼루션 레이어를 포함하는 경량 잔차 밀집 블록(Light-weight residual dense block(LwRDB))을 포함할 수 있다.
예를 들어, 제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들 중 적어도 하나는 캐스케이드(cascade) 구조로 구성된 복수의 경량 잔차 밀집 블록을 포함할 수 있다.
제1 뉴럴 네트워크의 손실 함수는 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나가 수행된 비디오에 기초하여 결정될 수 있다. 예를 들어, 제1 뉴럴 네트워크의 손실함수는 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나가 수행된 프레임과 그라운드 트루스(ground truth) 프레임 간의 L1 손실일 수 있다.
제2 뉴럴 네트워크의 손실 함수는 대응하는 시간적 부분 비디오에 대하여 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나가 수행된 프레임과 그라운드 트루스(ground truth) 프레임 간의 L1 손실 함수와, 미리 학습된 비디오 전체에 기초한 제1 뉴럴 네트워크 파라미터와 복수의 제2 모델 파라미터들 간의 차이가 최소가 되도록 하는 손실 함수를 포함할 수 있다.
즉, 각각의 제2 뉴럴 네트워크의 제2 모델 파라미터는 대응하는 시간적 부분에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나에 해당하는 처리를 최적으로 수행하면서 전송해야하는 모델 잔차 값이 최소화되도록 학습될 수 있다. 제1 뉴럴 네트워크 및 제2 뉴럴 네트워크의 손실 함수에 대해서는 도 2를 참조하여 자세하게 설명한다.
경량 잔차 밀집 블록은 뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어 또는 1×1×d 컨볼루션 레이어를 포함할 수 있다. 여기서 d는 깊이 방향의 컨볼루션 채널들(또는 특징맵(feature maps))의 개수를 의미할 수 있다. 뎁스와이즈 세퍼러블 컨볼루션 레이어는 뎁스와이즈 컨볼루션 레이어, 포인트와이즈(point-wise) 컨볼루션 레이어 및 비선형 활성 함수를 포함할 수 있다.
예를 들어, 비선형 활성함수는 ReLU(Rectified Linear Unit), Leaky ReLU, Parametric ReLU, Softmax, Sigmoid, Tanh, exponential Linear Unit (ELU), SoftPlus 함수를 포함할 수 있다.
프로세서(130)는 제1 모델 파라미터와 복수의 제2 모델 파라미터들 간의 잔차들을 계산하고, 비디오 및 잔차를 전송할 수 있다. 예를 들어, 프로세서(130)는 비디오 처리 장치(500)로 비디오 및 잔차를 전송할 수 있다.
프로세서(130)는 복수의 시간적 부분들에 포함된 프레임을 분할하여 공간 영역 분할 정보를 생성할 수 있다. 공간 영역 분할 정보는 프레임이 분할된 형태와 관련된 정보를 포함할 수 있다. 예를 들어, 공간 영역 분할 정보는 분할 영역의 넓이, 위치 또는 개수를 포함할 수 있다.
프로세서(130)는 분할된 공간 영역의 신호 특징(signal characteristic)에 기초하여 분할된 공간 영역의 범주(category) 정보를 생성할 수 있다. 예를 들어, 프로세서(130)는 복수의 분할된 공간 영역의 이미지 복잡도(image complexity)에 기초하여 복수의 영역을 분할하고, 분할된 복수의 공간 영역의 범주를 결정할 수 있다. 범주 정보를 생성하는 과정은 도 2를 참조하여 자세하게 설명한다.
프로세서(130)는 비디오, 잔차, 공간 영역 분할 정보 및 범주 정보 중 적어도 하나를 압축하여 전송할 수 있다. 예를 들어, 프로세서(130)는 제1 모델 파라미터와 복수의 제2 모델 파라미터들 간의 잔차들을 압축하고, 압축된 잔차들을 전송할 수 있다. 프로세서(130)는 압축된 잔차들을 비디오 처리 장치(500)에 전송할 수 있다.
프로세서(130)는 프레임을 분할한 복수의 공간 영역(spatial regions)에 대한 공간 영역 분할 정보 및 복수의 공간 영역의 범주에 대한 범주 정보를 압축하여 전송할 수 있다. 예를 들어, 프로세서(130)는 공간 영역 분할 정보 및 범주 정보를 압축하여 비디오 처리 장치(500)에 전송할 수 있다.
프로세서(530)는 제1 모델 파라미터와 복수의 제2 모델 파라미터들 간의 잔차들(residues)에 기초하여 이미지 및/또는 비디오에 초해상화(super-resolution), 역톤매핑(reverse or inverse tone mapping), 톤매핑(tone mapping), 프레임 보간(frame interpolation), 움직임 흐림 제거(motion deblurring), 디노이징(denoising), 압축 왜곡 제거(compression artifact removal) 가운데 적어도 하나를 수행할 수 있다.
프로세서(530)는 잔차들을 제1 모델 파라미터에 더함으로써(by adding) 복수의 제2 모델 파라미터들을 복원할 수 있다. 프로세서(530)는 복수의 제2 모델 파라미터들에 기초하여 복수의 시간적 부분들 각각에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
프로세서(530)는 공간 영역 분할 정보 및 범주 정보에 기초하여 상기 프레임을 복수의 공간 영역들(spatial regions)로 분할할 수 있다. 프로세서(530)는 복수의 공간 영역들 및 상기 범주 정보에 기초하여 비디오에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
메모리(150) 및 메모리(550)는 프로세서(130) 및 프로세서(530)에 의해 실행가능한 인스트럭션들(또는 프로그램)을 저장할 수 있다. 예를 들어, 인스트럭션들은 프로세서(130) 및 프로세서(530)의 동작 및/또는 프로세서(130) 및 프로세서(530)의 각 구성의 동작을 실행하기 위한 인스트럭션들을 포함할 수 있다.
메모리(150) 및 메모리(550)는 휘발성 메모리 장치 또는 불휘발성 메모리 장치로 구현될 수 있다.
휘발성 메모리 장치는 DRAM(dynamic random access memory), SRAM(static random access memory), T-RAM(thyristor RAM), Z-RAM(zero capacitor RAM), 또는 TTRAM(Twin Transistor RAM)으로 구현될 수 있다.
불휘발성 메모리 장치는 EEPROM(Electrically Erasable Programmable Read-Only Memory), 플래시(flash) 메모리, MRAM(Magnetic RAM), 스핀전달토크 MRAM(Spin-Transfer Torque(STT)-MRAM), Conductive Bridging RAM(CBRAM), FeRAM(Ferroelectric RAM), PRAM(Phase change RAM), 저항 메모리(Resistive RAM(RRAM)), 나노 튜브 RRAM(Nanotube RRAM), 폴리머 RAM(Polymer RAM(PoRAM)), 나노 부유 게이트 메모리(Nano Floating Gate Memory(NFGM)), 홀로그래픽 메모리(holographic memory), 분자 전자 메모리 소자(Molecular Electronic Memory Device), 또는 절연 저항 변화 메모리(Insulator Resistance Change Memory)로 구현될 수 있다.
도 2는 도 1b에 도시된 송신단의 비디오 처리 장치의 동작의 일 예를 나타낸다.
도 2를 참조하면, 수신기(110)는 복수의 시간적 부분(또는 복수의 비디오 클립들)들(110-1, 110-2, ?? 110-n)을 포함하는 비디오를 수신할 수 있다. 프로세서(130)는 수신한 복수의 시간적 부분들(110-1, 110-2, ?? 110-n)을 처리할 수 있다.
구체적으로, 프로세서(130)는 수신한 비디오를 이용하여 제1 뉴럴 네트워크(또는, AS(All-scene)-모델)(210) 및 복수의 제2 뉴럴 네트워크들(예를 들어, OS(one-scene)-모델들)(230-1, 230-2, ??, 230-n)을 학습시킬 수 있다.
프로세서(130)는 제1 뉴럴 네트워크(210)를 비디오 전체를 이용하여 학습시킬 수 있다. 다시 말해, 프로세서(130)는 제1 뉴럴 네트워크(210)의 모델 파라미터를 수신한 비디오 전체에 대하여 클라이언트(250)가 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있도록, 비디오 전체에 대응하는 손실 함수를 최소화하는 방향으로 뉴럴 네트워크의 모델 파라미터를 업데이트할 수 있다.
프로세서(130)는 뉴럴 네트워크의 모델 파라미터의 학습에 기초하여 뉴럴 네트워크의 모델 파라미터를 압축을 수행하여 필터 파라미터의 잔차(residue) 및 비디오의 손실을 공동으로 최소화시킬 수 있다.
필터 파라미터의 잔차는 고려 중인 비디오 클립에 대해서만 비디오 처리 장치(500)로 이동되고, 이는 복잡도가 낮고, 제한된 계산 및 저장 자원을 갖는 수신기(예를 들어, 사용자 단말)에서의 이미지 복원 응용 분야에 유리하게 작용할 수 있다. 클라이언트(250)은 비디오 처리 장치(500)를 포함할 수 있다.
프로세서(130)는 비디오의 시간적 부분들(temporal portions)에 대해 적어도 하나 이상의 업데이트된 뉴럴 네트워크의 전송을 수행할 수 있다. 프로세서(130)는 각각의 시간적 부분에 대한 뉴럴 네트워크 모델 파라미터들의 오버헤드(overhead)를 피하기 위해서 두 개의 뉴럴 네트워크 모델들 사이의 파라미터 잔차를 이용할 수 있다.
전체 비디오에 대하여 학습된 제1 뉴럴 네트워크(210)는 비디오 전송 전에 전송될 수 있고, 시간적 부분들(temporal portions)에 대하여 학습된 제2 뉴럴 네트워크 모델들(230-1, 230-2, ??, 230-n)은 각각의 해당되는 비디오의 시간적 부분을 전송하기 전에 전송될 수 있다.
이를 통해, 프로세서(130)는 뉴럴 네트워크에 기반한 이미지 복원(초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 등)을 효과적으로 수행할 수 있도록 뉴럴 네트워크들을 학습시킬 수 있다. 프로세서(130)는 클라이언트(250)가 초해상화(super-resolution), 역톤매핑(reverse or inverse tone mapping), 톤매핑(tone mapping), 프레임 보간(frame interpolation), 움직임 흐림 제거(motion deblurring), 디노이징(denoising), 압축 왜곡 제거(compression artifact removal) 중 적어도 하나를 수행하기 위해 두 개의 뉴럴 네트워크 모델들 사이의 파라미터 잔차를 전송할 수 있다.
이 때, 프로세서(130)는 하나의 뉴럴 네트워크 모델을 각각의 시간적 부분에 대하여 과적합(over-fitting)되도록 학습시키고, 다른 하나의 뉴럴 네트워크 모델은 비디오 전체 (entire video)에 대하여 과적합되도록 학습시킬 수 있다.
프로세서(130)는 제2 뉴럴 네트워크들(230-1, 230-2, ??, 230-n)을 복수의 시간적 부분들(또는, 복수의 장면들)(110-1, 110-2, ?? 110-n) 각각을 이용하여 학습시킬 수 있다.
예를 들어, 프로세서(130)는 제2 뉴럴 네트워크(또는, OS-모델 1)(230-1)를 제1 시간적 부분(110-1)을 이용하여 학습시키고, 제2 뉴럴 네트워크(또는, OS-모델 2)를 제2 시간적 부분(110-2)을 이용하여 학습시킬 수 있다. 마찬가지로, 프로세서(130)는제2 뉴럴 네트워크(또는, OS-모델 n)을 제 n 시간적 부분(100-n)을 이용하여 학습시킬 수 있다. 여기서 n은 1 이상의 정수를 의미할 수 있다.
이를 통해, 프로세서(130)는 제1 뉴럴 네트워크(210)를 전체 비디오에 과적합(overfitting)되도록 학습시킬 수 있다. 프로세서(130)는 복수의 제2 뉴럴 네트워크들(230-1, 230-2, ??, 230-n)을 비디오에 포함된 복수의 시간적 부분들(110-1, 110-2, ??, 110-n) 각각에 과적합(over-fitting) 되도록 학습시킬 수 있다.
제2 뉴럴 네트워크들(230-1, 230-2, ??, 230-n)은 제1 뉴럴 네트워크(210)와 제2 뉴럴 네트워크들(230-1, 230-2, ??, 230-n) 간의 잔차(또는, 가중치의 잔차)들이 최소화되도록 학습될 수 있다.
프로세서(130)는 제1 뉴럴 네트워크(210)와 복수의 제2 뉴럴 네트워크(230-1, 230-2, ??, 230-n) 간의 잔차(residue)들을 계산할 수 있다. 도 2에 나타난 것과 같이, 프로세서(130)는 제2 뉴럴 네트워크(230-n)(또는, OS-모델 n)의 모델 파라미터로부터 제1 뉴럴 네트워크(AS-모델)(210)의 모델 파라미터 간의 차이로 잔차를 계산할 수 있다.
프로세서(130)는 학습된 제1 뉴럴 네트워크(210), 학습된 제2 뉴럴 네트워크들(230-1, 230-2, ??, 230-n)에 대한 정보 및 수신한 비디오 각각을 압축하여 비디오 처리 장치(500) 또는 클라이언트(250)로 전송할 수 있다.
프로세서(130)는 학습된 제1 뉴럴 네트워크(210)에 대한 정보를 압축할 수 있다. 예를 들어, 프로세서(130)는 학습된 제1 뉴럴 네트워크(210)의 모델 파라미터(또는, 필터 가중치)를 바이너리 마스킹(binary masking) 및 K-평균 클러스터링(K-means clustering)을 이용하여 모델 파라미터를 압축할 수 있다. 프로세서(130)는 0인 가중치(zero weight)들에 대해서는 바이너리 마스킹을 수행하고, 0이 아닌 가중치(non-zero weight)들에 대해서는 K-평균 클러스터링을 수행할 수 있다.
프로세서(130)는 압축된 제1 뉴럴 네트워크(210)의 모델 파라미터를 비디오 처리 장치(500) 또는 클라이언트(250)으로 전송할 수 있다. 프로세서(130)는 수신한 비디오를 압축하여 이미지 또는 클라이언트(250)로 전송할 수 있다. 프로세서(130)는 인코딩된 비디오 비트스트림(encoded video bitstream)을 전송할 수 있다. 예를 들어, 프로세서(130)는 비디오에 대하여 HEVC(High Efficiency Video Coding) 압축을 수행하여 수신단 또는 클라이언트(250)로 전송할 수 있다.
프로세서(130)는 제1 뉴럴 네트워크(210)와 복수의 제2 뉴럴 네트워크(230-1, 230-2, ??, 230-n) 간의 잔차에 대해서도 압축을 수행하여 비디오 처리 장치(500) 또는 클라이언트(250)로 전송할 수 있다. 상술한 것과 마찬가지로, 프로세서(130)는 잔차들에 대하여, 0인 가중치들에 대해서 바이너리 마스킹을 수행하고, 0이 아닌 가중치들에 대해서는 K-평균 클러스터링을 수행할 수 있다.
비디오 처리 장치(500)의 프로세서(530)는 수신한 압축된 모델 파라미터들을 복구(reconstruct)할 수 있다. 상기 수신된 압축 모델 파라미터들은 대응되는 각각의 시간적 부분(temporal portion)의 시작 전에 각각의 시간적 부분에 대응하는 잔차(또는, 가중치의 잔차)들 일 수 있다.
프로세서(530)는 최초로 수신된 제1 뉴럴 네트워크의 모델 파라미터(또는, 가중치)에 압축이 해제된(decompressed) 각각의 시간적 부분에 대응하는 잔차(또는, 가중치의 잔차)를 더함으로써 제2 뉴럴 네트워크들(230-1, 230-2, ??, 230-n)의 모델 파라미터들을 복구할 수 있다.
프로세서(530)는 비디오에 포함된 각각의 시간적 부분에 대응되는 각각의 제2 뉴럴 네트워크를 이용하여 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
이하에서, 프로세서(130)가 제1 뉴럴 네트워크(210) 및 복수의 제2 뉴럴 네트워크(230-1, 230-2, ??, 230-n)를 학습시키는 방식에 대하여 구체적으로 설명한다.
프로세서(130)는 전체 비디오 또는 비디오의 시간적 일부에 대하여 과적합되도록 뉴럴 네트워크를 학습시킴으로써 컨텐츠 적응 적인(content-adaptive) 방식으로 학습을 수행할 수 있다. 그 후, 프로세서(130)는 학습된 뉴럴 네트워크의 모델 파라미터를 전송할 수 있다.
예시적인 학습 데이터셋으로, 프로세서(130)는 10 개의 상이한 장면들로 구성된 320 프레임의 학습 시퀀스(또는, 비디오)를 이용할 수 있다. 각각의 장면들은 32 개의 프레임들을 포함할 수 있다. 학습 시퀀스는 1920Х1080@24fps를 그라운드 트루스(ground truth)로 갖고, 저해상도 버전은 2Х 다운샘플링을 통해 생성될 수 있다. 이 때, 인코딩 및 디코딩은 HM 16.17 기준 소프트웨어(reference software)를 이용하여 수행될 수 있다.
뉴럴 네트워크를 학습시키기 위한 전체 손실(total loss function)은 SR 손실 및 가중치 잔차(Weight Residual(WR)) 비용(cost)을 포함할 수 있다. SR 손실(loss)은 수학식 1과 같이 나타낼 수 있다.
Figure pat00001
여기서, y는 그라운드 트루스 프레임을 의미하고,
Figure pat00002
는 초해상화가 수행된 프레임을 의미할 수 있다. 다시 말해, SR 손실은 그라운드 트루스 프레임과 초해상화가 수행된 프레임 간의 L1 손실 함수를 의미할 수 있다.
수학식 1의 다른 일 예로서 SR 손실 대신 다른 이미지 복원 처리인 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나에 해당하는 손실(loss) 일수도 있다.
WR 비용은 학습하는 동안 전체 비디오 시퀀스에 대하여 미리 학습된 기준 가중치 Wref와 시간적 부분에 대한 학습 가중치 Wtrain사이의 가중치(또는, 모델 파라미터)의 잔차를 최소화하기 위해 사용될 수 있다.
WR 비용은 수학식 2와 같이 나타낼 수 있다.
Figure pat00003
즉, WR 비용은 기준 가중치와 학습 가중치 간의 L1 손실 함수를 의미할 수 있다. 제1 뉴럴 네트워크(또는, AS 모델)(210)은 전체 시퀀스(또는, 전체 비디오)에 대하여 미리 학습된 기준 가중치들을 가질 수 있다.
제1 뉴럴 네트워크(210)가 학습될 때, 전체 손실은 초해상화(SR), 역톤매핑/톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징, 압축 왜곡 제거 중 적어도 하나에 해당하는 손실(loss)일 수 있다. 제2 뉴럴 네트워크들(또는, OS 모델들)(230-1, 230-2, ??, 230-n)이 복수의 시간적 부분들에 대하여 학습될 때, 전체 손실은 수학식 3과 같이 SR 손실 및 WR 비용으로 구성될 수 있다.
Figure pat00004
여기서, λ는 하이퍼 파라미터를 의미하고, 실험적으로(empirically) 결정될 수 있다. 작은 λ 값에 대해서, 예를 들어 SR 성능이 증가할 수 있지만 WR 비용이 증가하여 가중치 압축 성능이 열화될 수 있다. 큰 λ 값에 대해서는 반대로 SR 성능이 감소할 수 있지만 WR 비용이 감소하여 가중치 압축 성능이 향상될 수 있다. 예를 들어, λ는 0.003일 수 있다.
프로세서(130)는 제1 뉴럴 네트워크(210)를 전체 비디오 프레임들(예를 들어, 320 프레임들)에 대하여 학습시킬 수 있다. 이 때, 학습 비디오 데이터에 과적합(over-fitting) 되도록, 별도의 증강(augmentation) 방식은 사용되지 않고, 무작위 크롭(crop)이 일부 사용될 수 있다.
학습시에 입력 패치(patch)의 크기는 60Х60이고, 배치(batch) 크기는 2일 수 있다. 프로세서(130)는 제1 뉴럴 네트워크(210)에 대하여 64,000 반복(iteration)까지 학습을 수행할 수 있고, 이 때, 학습률(learning rate)는 0.001일 수 있다.
프로세서(130)는 복수의 시간적 부분들(또는, 장면들) (110-1, 110-2, ?? 110-n) 각각의 프레임들(예를 들어, 32 프레임들)을 이용하여 복수의 제2 뉴럴 네트워크들(230-1, 230-2, ??, 230-n)을 학습시킬 수 있다. 이 때, 학습된 제1 뉴럴 네트워크의 모델 파라미터가 기준 가중치로 사용될 수 있다.
이 때, 제1 뉴럴 네트워크(210) 및 복수의 제2 뉴럴 네트워크들(230-1, 230-2, ??, 230-n)의 구조는 동일하고, 상이한 데이터를 이용하여 학습될 수 있다. 제2 뉴럴 네트워크들(230-1, 230-2, ??, 230-n)을 학습함에 있어서, 입력 패치 크기는 400Х400이고, 제2 뉴럴 네트워크들(230-1, 230-2, ??, 230-n)의 초기 모델 파라미터는 미리 학습된 제1 뉴럴 네트워크(210)의 모델 파라미터로 설정될 수 있다. 그 외의, 학습 조건은 제1 뉴럴 네트워크(210)와 제2 뉴럴 네트워크들(230-1, 230-2, ??, 230-n)이 동일할 수 있다.
도 3은 도 1b에 도시된 송신단의 비디오 처리 장치의 동작의 다른 예를 나타낸다.
도 3을 참조하면, 프로세서(130)는 비디오에 포함된 프레임을 복수의 공간 영역으로 분할하고, 복수의 공간 영역에 기초하여 비디오에 초해상화를 수행할 수 있다. 프로세서(130)는 프레임을 복수의 공간 영역으로 분할하고, 복수의 공간 영역에 적합한 뉴럴 네트워크를 이용하여 복수의 공간 영역에 대응하는 이미지를 처리를 가능하게 함으로써 클라이언트(250)의 이미지 복원 성능을 향상시킬 수 있다.
클라이언트(250)는 수신한 비디오의 시간적 부분들에 대한 각각의 업데이트된 뉴럴 네트워크에 대한 정보 뿐 만 아니라, 각 시각적 부분의 프레임들의 공간적 영역(spatial region)에 대한 분할 정보와 각 분할 영역에 대응되는 수신된 뉴럴 네트워크 모델을 이용하여 이미지 복원 성능을 향상시킬 수 있다.
단일 뉴럴 네트워크의 크기는 품질 강화를 위하여 적합한 성능을 달성할 만큼 커야 하고, 많은 양의 학습 샘플들에 대하여 적절하게 학습되어야 할 필요가 있다. 이러한 커다란 크기의 뉴럴 네트워크는 복잡한 연산을 요구하고, 입력을 처리하고 출력을 생성하기 위해 큰 저장 공간을 필요로 할 수 있기 때문에, 제한된 연산 용량을 갖는 사용자 단말에서의 사용이 어려울 수 있다.
프로세서(130)는 도 2에서 설명한 컨텐츠 적응적인 방식에서 시간적 부분들에 속하는 프레임들을 적절한 공간 영역들(또는, 복수의 영역들)로 분할하고, 분할된 복수의 영역들 각각을 처리하기 위한 복수의 뉴럴 네트워크를 추가적으로 이용함으로써 초해상화를 더욱 효율적으로 수행할 수 있다.
이 때, 프로세서(130)는 서비스 중인 비디오의 각 시간적 부분내의 각 프레임의 공간 분할 영역들에 어떤 뉴럴 네트워크가 적용되는지를 식별하는 시그널링(signaling)을 규범적으로(normatively) 정의할 수 있다.
또한, 프로세서(130)는 각 프레임 내에 분할된 공간 영역에 적용되는 뉴럴 네트워크들에 대한 구성 표현(configuration representation)을 상술한 시그널링 정보의 조합으로 규범적으로 정의할 수 있다.
예를 들어, 초해상화를 수행하는 뉴럴 네트워크는 특정한 배율(factor)(예를 들어, 2배)로 해상도를 증가시킬 수 있다. 이 때, 송신단에서는 비디오(또는, 컨텐츠)를 동일한 배율의 역수(1/2배)로 다운 스케일링 하여 비디오 처리 장치(500)로 전송할 수 있다.
프로세서(130)는 비디오 처리 장치(500)에서 이미 뉴럴 네트워크를 가지고 있다면 뉴럴 네트워크의 유형을 전송하거나 실제 뉴럴 네트워크 가중치 및 토폴로지(topology)를 전송할 수 있다.
뉴럴 네트워크는 전송되는 컨텐츠(예를 들어, 비디오)에 대하여 특정적으로(dedicatedly) 학습되거나 미세 조정될(fine-tuned) 수 있다. 비디오의 시간적 부분들에 대하여 각각의 뉴럴 네트워크가 학습되는 경우, 각각의 뉴럴 네트워크는 각 해당되는 비디오 클립(시간적 부분)이 전송되기 전 또는 전송되는 동안에 수신단에 전송될 수 있다.
프로세서(530)는 비디오의 시간적 부분들 뿐 만 아니라 프레임의 공간적 영역들에 대해서도 각각 해당되는 뉴럴 네트워크를 이용하여 이미지 복원(초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나)을 수행할 수 있다.
프로세서(130)는 프레임을 분할한 복수의 공간 영역의 특징에 기초하여 복수의 공간 영역의 범주(category)를 결정할 수 있다. 이 때, 복수의 공간 영역은 이미지의 영역, 또는 프레임의 영역을 의미할 수 있다. 프로세서(130)는 복수의 영역의 특성에 따른 구체적 범주를 갖는 이미지의 그룹에 대하여 학습되는 복수의 뉴럴 네트워크를 이용함으로써 비디오 처리의 성능을 향상시킬 수 있다.
프로세서(530)는 복수의 뉴럴 네트워크들이 전용적으로(dedicatedly) 학습된 각 공간 영역의 특성의 범주에 따라 비디오의 프레임에 포함된 각 이미지 영역에 적합한 뉴럴 네트워크를 선택적으로 적용시킴으로써 비디오 처리 성능을 향상시킬 수 있다.
프로세서(130)는 각 공간 영역에 어떤 뉴럴 네트워크가 적용되는지에 대한 정보를 전송할 수 있다. 이를 통해, 비디오 처리 장치(500)는 제한된 연산 용량을 갖는 사용자 단말에서의 IRQE(Image Restoration and Quality Enhancement) 어플리케이션에 유용하게 적용될 수 있다.
비디오 처리 장치(100) 및 비디오 처리 장치(500)는 수신단(또는, 클라이언트)과 송신단(또는, 서버)이 비디오와 함께 사용될 관련 모델(예를 들어, 뉴럴 네트워크 모델) 또는 모델 업데이트(토폴로지, 아키텍처, 및 연관된 가중치)를 협상(negotiate)하기 위해서 송신단과 수신단 간에 시그널링을 제공할 수 있다.
비디오 처리 장치(100)의 프로세서(130)는 비디오 처리 장치(500)에 처리하야 할 비디오 또는 그의 시간적 부분들에 대응되는 뉴럴 네트워크 모델이 존재하지 않는 경우, 비디오 처리 장치(500)로 대응되는 뉴럴 네트워크 모델 정보의 전송을 제공할 수 있다.
모델이 특정한 비디오에 대하여 미세 조정된 경우, 비디오 처리 장치(100)의 프로세서(130)는 전체 비디오에 대하여 적용될 모델을 비디오 처리 장치(500)로 전송할 수 있다. 모델들이 비디오의 상이한 시간적 부분들에 대하여 미세조정된 경우, 비디오 처리 장치(100)의 프로세서(130)는 특정한 시간적 부분에 대하여 적용될 모델 및 시간적 부분에 대응하는 비디오를 비디오 처리 장치(500)로 전송할 수 있다.
만약 비디오 처리 장치(500)가 이미 특정한 전체 비디오에 대하여 학습된 전역 뉴럴 네트워크(Global Neural Network(GNN))을 가지고 있는 경우, 비디오 처리 장치(100)는 GNN의 모델 파라미터(또는, 가중치 파라미터)와 지역 뉴럴 네트워크(Local Neural Network(LNN)의 모델 파라미터 간의 잔차를 비디오 처리 장치(500)로 전송할 수 있다.
프로세서(130)는 최적화 타겟의 표시를 제공할 수 있다. 예를 들어, 프로세서(130)는 적합한 어휘를 나타내는 URI(Uniform Resource Identifier)를 사용할 수 있다.
비디오 처리 장치(100)는 비디오 압축에 있어 어떤 인코더 및 어떤 인코딩 파라미터가 선택되었는지에 대한 정보를 비디오 처리 장치(500)로 전송할 수 있다. 비디오 처리 장치(100)는 원본 데이터와 디코딩된 데이터 사이의 타겟 오류를 나타내는 하나 이상의 값을 비디오 처리 장치(500)에 전송할 수 있다.
만약 뉴럴 네트워크가 상이한 이미지 텍스처 특성의 범주(categories of image texture characteristics)에 대하여 미세 조정되고, 비디오 처리 장치(500)가 뉴럴 네트워크를 이미 가지고 있는 경우, 비디오 처리 장치(100)는 프레임의 공간적 영역(또는, 분할된 영역)에 적용될 뉴럴 네트워크 모델의 ID를 IRQE 어플리케이션을 위한 영역 분할 정보와 함께 비디오 처리 장치(500)로 전송할 수 있다.
만약 뉴럴 네트워크가 상이한 이미지 텍스처 특성의 범주에 대하여 미세 조정되고, 비디오 처리 장치(500)가 해당 뉴럴 네트워크 모델을 가지고 있지 않은 경우, 뉴럴 네트워크 모델이 비디오 처리 장치(500)에 전송될 수 있다.
비디오 처리 장치(100)는 비디오(또는, 컨텐츠)에 대하여 미세 조정된 뉴럴 네트워크와 함께 낮은 품질의 컨텐츠를 장치(device)로 전송할 수 있다. 이 경우, 다음과 같은 4 개의 경우를 고려할 수 있다.
케이스 A는 뉴럴 네트워크가 전체 비디오에 대하여 미세 조정된(fine-tuned) 경우일 수 있다. 비디오 처리 장치(100)은 뉴럴 네트워크를 비디오의 스트리밍 전 또는 스트리밍 동안 비디오 처리 장치(500)로 전송할 수 있다. 비디오 및 관련된 뉴럴 네트워크는 고유 ID로 페어링(paired)될 수 있다.
케이스 B는 복수의 뉴럴 네트워크들이 비디오의 다양한 시간적 부분들에 대하여 최적화된 경우일 수 있다. 이 때, 비디오는 시간적 또는 다른 방식에 의해 분할될 수 있다. 비디오 처리 장치(100)는 비디오의 각 부분의 스트리밍 전에 또는 스트리밍 동안에 각각의 뉴럴 네트워크 또는 각 뉴럴 네트워크의 차이를 비디오 처리 장치(500)로 전송할 수 있다. 이 경우에도, 상이한 비디오의 각 부분 및 관련된 뉴럴 네트워크가 페어링될 수 있다.
케이스 C는 복수의 뉴럴 네트워크들이 다양한 비디오(또는 이미지) 특성의 범주에 대하여 각각 최적화된 경우일 수 있다. 비디오 처리 장치(100)는 분할된 영역(또는, 이미지 영역)에 대한 뉴럴 네트워크 모델 및 이미지의 영역 분할 정보를 이미지의 스트리밍 전 또는 스트리밍 동안에 비디오 처리 장치(500)로 전송할 수 있다.
케이스 D는 복수의 뉴럴 네트워크 모델이 타겟 IRQE 어플리케이션에 대하여 수신단에서 이미 사용가능한 경우일 수 있다. 비디오 처리 장치(100)는 IRQE를 위한 이미지의 각 영역에 최적으로 적용될 뉴럴 네트워크 모델을 결정하고, 분할된 영역(또는 이미지의 영역)에 적용될 뉴럴 네트워크 모델의 ID 및 이미지의 영역 분할 정보를 비디오 처리 장치(500)로 전송할 수 있다.
비디오 처리 장치(100)의 프로세서(130)는 모든 컨텐츠들에 대하여 단일 뉴럴 네트워크 모델을 사용하는 경우, 새로운 버전의 뉴럴 네트워크가 이용 가능할 때까지 한 번만 뉴럴 네트워크를 전송 또는 업데이트할 수 있다. 예를 들어, 프로세서(130)는 한달에 한 번 뉴럴 네트워크를 비디오 처리 장치(500)로 전송 또는 업데이트할 수 있다.
비디오 처리 장치(100)의 프로세서(130)는 각각의 특정 비디오(또는, 컨텐츠)에 대하여 뉴럴 네트워크 모델이 미세 조정된 경우, 뉴럴 네트워크 모델을 새로운 비디오 마다 새롭게 전송 또는 업데이트할 수 있다. 예를 들어, 프로세서(130)는 하루에 복수회(multiple times per day) 뉴럴 네트워크 모델을 비디오 처리 장치(500)로 전송 또는 업데이트할 수 있다.
비디오 처리 장치(100)의 프로세서(130)는 특정 비디오의 시간적 부분들의 각각에 대하여 뉴럴 네트워크가 미세 조정된 경우, 그 비디오의 모든 시간적 부분들에 대한 뉴럴 네트워크 모델들을 비디오 처리 장치(500)로 전송할 수 있다. 이 경우, 프로세서(130)는 그 비디오의 모든 시간적 부분들에 대하여 뉴럴 네트워크를 전송 또는 업데이트할 수 있다. 예를 들어, 프로세서(130)는 각 시간적 부분에 대응되는 매 1-5 분마다 해당되는 뉴럴 네트워크를 비디오 처리 장치(500)로 전송 또는 업데이트할 수 있다.
비디오 처리 장치(100)의 프로세서(130)는 다양한 비디오 특성의 범주들에 대하여 복수의 뉴럴 네트워크를 각각 미세 조정하고(fine-tuned), 미세 조정된 뉴럴 네트워크가 수신단에서 이미 사용 가능한 경우, 전송하고자 하는 비디오의 시간적 부분들의 각 이미지(또는 프레임) 및/또는 각 시간적 부분에 대한 뉴럴 네트워크 ID 및/또는 이미지 분할 정보만을 비디오 처리 장치(500)로 전송할 수 있다.
뉴럴 네트워크의 크기는 수 KB에서 수백 MB에 이를 수 있다. 분배 채널(distribution channel)의 대역폭은 분배 채널에 의존할 수 있다. 예를 들어, 대역폭은 2G(2nd-generation), 3G, 4G 및 5G 전송망의 대역폭 일 수 있다.
허용 가능한 지연(latency)은 모든 비디오에 대하여 단일 모델을 사용하는 경우, 임의의 작은 지연도 허용 가능하고, 초 또는 분 단위의 지연도 허용될 수 있다. 각 컨텐츠에 대하여 미세 조정되는 뉴럴 네트워크의 경우는 약 1초 정도의 지연이 최대 허용 가능할 수 있다.
비디오의 각 시간적 부분에 대하여 미세 조정된 뉴럴 네트워크의 경우는, 최대 허용 가능한 지연은 샘플링 주기의 일부와 같이 매우 작을 수 있다. 예를 들어, 비디오 스트리밍에 대하여 지연은 3 밀리초(샘플링 주기의 10분의 1)일 수 있다.
상술한 바와 같이, 비디오에 포함된 프레임을 분할하여 이미지를 처리함으로써, 비디오 처리 장치(100)는 상호 운용성(inter-operability) 관점에서 뉴럴 네트워크 표현의 표준화된 시그널링을 통해, 컨텐츠 검색(retrieval) 및 협상 인터페이스에 이점을 제공할 수 있다.
또한, 비디오 처리 장치(100)는 AI(Artificial Intelligence) 역량에 적합한 표준화된 뉴럴 네트워크 표현을 통해 미디어 소비 장치(media consuming device)에 이점을 제공할 수 있다.
도 4는 도 1a에 도시된 비디오 처리 장치(100) 및 비디오 처리 장치(500)가 사용하는 뉴럴 네트워크의 구조의 예를 나타내고, 도 5는 도 4에 도시된 경량 잔차 밀집 블록의 구조의 예를 나타낸다.
도 4 및 도 5를 참조하면, 비디오 처리 장치(100)의 프로세서(130)와 비디오 처리 장치(500)의 프로세서(500)는 제1 뉴럴 네트워크(210) 및 제2 뉴럴 네트워크들(230-1, 230-2, ??, 230-n)을 이용하여 비디오 처리를 수행할 수 있다.
제1 뉴럴 네트워크(210) 및 제2 뉴럴 네트워크들(230-1, 230-2, ??, 230-n) 중 적어도 하나는 도 4의 구조의 뉴럴 네트워크(400)를 포함할 수 있다. 뉴럴 네트워크(400)는 RLRD-SR(Replicated Light-Weight Residual Dense-Super Resolution) 네트워크로 지칭될 수 있다.
뉴럴 네트워크(400)는 컨볼루션 레이어(410), 뎁스와이즈 컨볼루션레 레이어(420), 포인트와이즈 컨볼루션 레이어(430)를 포함할 수 있다. 뉴럴 네트워크(400)는 경량 잔차 밀집 블록의 집합(440), 컨볼루션 레이어(450), 뎁스와이즈 컨볼루션 레이어(460), 포인트와이즈 컨볼루션 레이어(470)를 포함할 수 있다.
또한, 뉴럴 네트워크(400)는 트랜스포즈 컨볼루션 레이어(480), 컨볼루션 레이어(490-1) 및 컨볼루션 레이어(490-2)를 포함할 수 있다.
경량 잔차 밀집 블록의 집합(440)은 하나 이상의 경량 잔차 밀집 블록(Light-weight residual dense block(LwRDB))(441)을 포함할 수 있다. 복수의 경량 잔차 밀집 블록(441)은 캐스케이드 구조로 연결될 수 있다. 프로세서(130)는 복제된 경량 잔차 밀집 블록(441)들로 구성된 뉴럴 네트워크를 이용하여 비디오 처리를 수행할 수 있다.
복수의 경량 잔차 밀집 블록(441)은 공유 파라미터들을 가지고, 캐스케이드 구조로 연결될 수 있다. 프로세서(130)는 공유 파라미터를 가지는 N 개의 중복된 경량 잔차 밀집 블록(441)들을 이용하여 모델 파라미터의 수의 증가 없이 초해상화 성능을 향상시킬 수 있다.
각각의 경량 잔차 밀집 블록(441)은 3 개의 컨볼루션 레이어를 포함할 수 있다. 경량 잔차 밀집 블록(441)은 처음 두 개의 컨볼루션 레이어로 학습 파라미터들을 줄이기 위한 뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어를 포함하고, 마지막에1×1 컨볼루션 레이어를 포함할 수 있다.
프로세서(130)는 잔차 가중치(residual weight)들만을 전송하기 때문에, 학습 동안에 전송하는 가중치를 최소화함으로써 가중치 압축 효율을 향상시킬 수 있다.
도 6은 도 1a에 비디오 처리 방식에 따른 PSNR을 나타내고, 도 7은 하이퍼 파라미터에 따른 PSNR 및 비트 크기 감소율을 나타낸다.
도 6 및 도 7을 참조하면, 비디오 처리 장치(100)의 성능이 실험을 통해 측정될 수 있다. 성능은 64-bit Windows 10TM OS의 PC 플랫폼, Intel i7-8700K 3.7 GHz CPU, 64 GRAM, Python 3.6, PyTorch 0.4.0, Cuda v9.0 및 CUDNN 7.0을 사용하여 평가될 수 있다.
성능의 비교를 위하여 3 개의 초해상화 모델이 사용될 수 있다. 사용된 3 개의 초해상화 모델은 비디오의 장면을 업스케일링하기 위해 장면에 대응되는 OS-모델, AS-모델 및 바이큐빅 보간(bicubic interpolation)을 포함할 수 있다.
표 1은 λ가 0.003으로 설정되고, K-평균 클러스터링의 센트로이드(centroid)의 수가 AS-모델에 대하여 1000으로 설정되고, OS-모델에 대하여 300으로 설정되었을 때, 비디오의 10 개의 장면들에 대한 PSNR 및 bpp(Bits Per Pixel) 값을 나타낸다.
바이큐빅 보간 AS-모델 OS-모델
PSNR bpp PSNR bpp PSNR bpp
장면 1 32.97 0.0266 34.06 0.0267 34.31 0.0276
장면 2 42.02 0.0234 42.63 0.0236 42.85 0.0244
장면 3 35.95 0.0167 37.14 0.0168 37.45 0.0176
장면 4 34.19 0.0260 35.19 0.0262 35.60 0.0270
장면 5 40.27 0.0220 41.67 0.0221 41.93 0.0229
장면 6 32.12 0.0334 35.04 0.0336 35.75 0.0346
장면 7 23.66 0.0381 24.49 0.0383 24.62 0.0393
장면 8 31.69 0.0120 32.25 0.0121 32.41 0.0130
장면 9 30.13 0.0199 30.69 0.0201 30.76 0.0209
장면 10 27.75 0.0179 27.92 0.0180 28.02 0.0189
바이큐빅 보간의 bpp(bppbic)는 HM16.17을 이용하여 1200 kpbs에서 인코딩된 각각의 장면의 모든 프레임들의 비트 크기(bitvideo)를 업스케일링된 비디오의 높이(H), 너비(W) 및 프레임의 수(n)로 나눔으로써 획득될 수 있다. 즉, 바이큐빅 보간의 bpp는 수학식 4와 같이 계산될 수 있다.
Figure pat00005
AS-모델에 대한 bpp(bppAS) 계산을 위해, 최초의 전송을 위해 학습된 파라미터들의 비트(bitAS)가 추가적으로 고려될 수 있다. AS-모델의 비트 크기는 하나의 장면에 할당된 크기를 획득하기 위해 장면의 수(S)로 나뉘어질 수 있다. AS-모델의 bpp는 수학식 5와 같이 계산될 수 있다.
Figure pat00006
OS-모델의 bpp(bppOS)의 계산을 위해, 전송을 위한 학습된 잔차 파라미터(bitOS-residual)가 고려될 수 있다. OS-모델의 bpp는 수학식 6과 같이 계산될 수 있다.
Figure pat00007
도 6의 그래프는, 바이큐빅 보간, AS-모델 및 OS-모델의 PSNR-bpp를 나타낼 수 있다. 도 6에서 OS-모델은 바이큐빅 보간에 대하여 약 3dB 높은 PSNR을 가지고, 약 0.7 dB 높은 PSNR을 가지는 것을 확인할 수 있다.
도 7의 그래프는 다양한 λ 값에 대하여 PSNR 및 가중치 압축 성능을 나타낼 수 있다. λ 값이 클수록 더 높은 학습 가중치 압축 성능이 달성될 수 있지만, PSNR 성능이 낮아질 수 있다. 따라서, λ값은 가중치 압축 성능과 PSNR 성능을 모두 고려하여 결정될 필요가 있다.
도 8은 도 1b에 도시된 송신단의 이미지 처리 장치의 동작의 순서를 나타낸다.
도 8을 참조하면, 비디오 처리 장치(100)의 수신기(110)는 복수의 시간적 부분들을 포함하는 비디오 및/또는 비디오를 처리하기 위한 뉴럴 네트워크와 관련된 모델 정보를 수신할 수 있다(810).
프로세서(130)는 모델 정보에 기초하여 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 획득할 수 있다(830).
프로세서(130)는 모델 정보에 기초하여 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들을 획득할 수 있다(850).
프로세서(130)는 제1 모델 파라미터와 복수의 제2 모델 파라미터들 간의 잔차들(residues)을 계산할 수 있다(870).
프로세서(130)는 비디오 및 잔차들을 전송할 수 있다(890).
프로세서(130)는 복수의 시간적 부분들에 포함된 프레임을 분할하여 공간 영역 분할 정보를 생성할 수 있다. 프로세서(130)는 분할된 공간 영역의 신호 특징에 기초하여 분할된 공간 영역의 범주 정보를 생성할 수 있다.
프로세서(130)는 비디오, 제1 뉴럴 네트워크와 복수의 제2 뉴럴 네트워크들 간의 잔차들, 공간 영역 분할 정보 및 범주 정보 중 적어도 하나를 압축하여 전송할 수 있다.
프로세서(130)는 잔차들을 최소화하도록 복수의 제2 뉴럴 네트워크들을 학습시킬 수 있다.
제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들 중 적어도 하나는 적어도 하나의 컨볼루션 레이어를 포함하는 경량 잔차 밀집 블록(Light-weight residual dense block)을 포함할 수 있다. 제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들 중 적어도 하나는 캐스케이드(cascade) 구조로 구성된 복수의 경량 잔차 밀집 블록을 포함할 수 있다.
경량 잔차 밀집 블록은 뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어, 또는 1×1×d 컨볼루션 레이어를 포함할 수 있다. 뎁스와이즈 세퍼러블 컨볼루션 레이어는 뎁스와이즈 컨볼루션 레이어, 포인트와이즈 컨볼루션 레이어 및 비선형 활성함수를 포함할 수 있다.
도 9는 도 1c에 도시된 수신단의 비디오 처리 장치의 동작의 순서를 나타낸다.
도 9를 참조하면, 수신기(510)는 복수의 시간적 부분들을 포함하는 비디오를 수신할 수 있다(910). 수신기(510)는 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 수신할 수 있다(930).
수신기(510)는 제1 모델 파라미터와 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들 간의 잔차들을 수신할 수 있다(950).
수신기(510)는 복수의 시간적 부분들에 포함된 프레임에 대한 공간 영역 분할 정보 및 분할된 공간 영역의 범주(category) 정보를 수신할 수 있다. 공간 영역 분할 정보 및 범주 정보는 위에서 설명한 것과 동일하다.
프로세서(530)는 잔차들에 기초하여 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다(970).
프로세서(530)는 잔차들을 제1 모델 파라미터에 더함으로써 복수의 제2 모델 파라미터들을 복원할 수 있다. 프로세서(530)는 복수의 제2 모델 파라미터들에 기초하여 복수의 시간적 부분들 각각에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
프로세서(530)는 공간 영역 분할 정보 및 범주 정보에 기초하여, 프레임을 복수의 공간 영역들(spatial regions)로 분할할 수 있다.
프로세서(530)는 복수의 공간 영역들 및 범주 정보에 기초하여 비디오에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들 중 적어도 하나는 적어도 하나의 컨볼루션 레이어를 포함하는 경량 잔차 밀집 블록(Light-weight residual dense block)을 포함할 수 있다. 제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들 중 적어도 하나는 캐스케이드(cascade) 구조로 구성된 복수의 경량 잔차 밀집 블록을 포함할 수 있다.
경량 잔차 밀집 블록은 뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어, 또는 1×1×d 컨볼루션 레이어를 포함할 수 있다. 뎁스와이즈 세퍼러블 컨볼루션 레이어는 뎁스와이즈 컨볼루션 레이어, 포인트와이즈 컨볼루션 레이어, ReLU(Rectified Linear Unit)를 포함할 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐 만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
소프트웨어는 컴퓨터 프로그램(computer programs), 코드(codes), 명령(instructions), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(components), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.

Claims (24)

  1. 복수의 시간적 부분(temporal portions)들을 포함하는 비디오를 수신하는 단계;
    상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 수신하는 단계;
    상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들 각각과 상기 제1 모델 파라미터 간의 잔차들(residues)을 수신하는 단계; 및
    상기 잔차들(residues)에 기초하여 상기 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 단계
    를 포함하는 비디오 처리 방법.
  2. 제1항에 있어서,
    상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는,
    적어도 하나의 컨볼루션 레이어를 포함하는 경량 잔차 밀집 블록(Light-weight residual dense block)
    을 포함하는 비디오 처리 방법.
  3. 제1항에 있어서,
    상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는,
    캐스케이드(cascade) 구조로 구성된 복수의 경량 잔차 밀집 블록
    을 포함하는 비디오 처리 방법.
  4. 제2항에 있어서,
    상기 경량 잔차 밀집 블록은,
    뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어; 또는
    1×1×d 컨볼루션 레이어
    를 포함하는 비디오 처리 방법.
  5. 제4항에 있어서,
    상기 뎁스와이즈 세퍼러블 컨볼루션 레이어는,
    뎁스와이즈 컨볼루션 레이어;
    포인트와이즈 컨볼루션 레이어; 및
    비선형 활성함수
    를 포함하는 비디오 처리 방법.
  6. 제1항에 있어서,
    상기 수행하는 단계는,
    상기 잔차들을 상기 제1 모델 파라미터에 더함으로써(by adding) 상기 복수의 제2 모델 파라미터들을 복원하는 단계; 및
    상기 복수의 제2 모델 파라미터들에 기초하여 상기 복수의 시간적 부분들 각각에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 단계
    를 포함하는 비디오 처리 방법.
  7. 제1항에 있어서,
    상기 복수의 시간적 부분들에 포함된 프레임에 대한 공간 영역 분할 정보 및 분할된 공간 영역의 범주(category) 정보를 수신하는 단계
    를 더 포함하는 비디오 처리 방법.
  8. 제7항에 있어서,
    상기 수행하는 단계는,
    상기 공간 영역 분할 정보 및 상기 범주 정보에 기초하여 상기 프레임을 복수의 공간 영역들(spatial regions)로 분할하는 단계; 및
    상기 복수의 공간 영역들 및 상기 범주 정보에 기초하여 상기 비디오에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 단계
    를 포함하는 비디오 처리 방법.
  9. 복수의 시간적 부분(temporal portions)들을 포함하는 비디오를 수신하고, 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 수신하고, 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들 각각과 상기 제1 모델 파라미터 간의 잔차들(residues)을 수신하는 수신기; 및
    상기 잔차들(residues)에 기초하여 상기 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 프로세서
    를 포함하는 비디오 처리 장치.
  10. 제9항에 있어서,
    상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는,
    적어도 하나의 컨볼루션 레이어를 포함하는 경량 잔차 밀집 블록(Light-weight residual dense block)을
    포함하는 비디오 처리 장치.
  11. 제9항에 있어서,
    상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는,
    캐스케이드(cascade) 구조로 구성된 복수의 경량 잔차 밀집 블록
    을 포함하는 비디오 처리 장치.
  12. 제10항에 있어서,
    상기 경량 잔차 밀집 블록은,
    뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어; 또는
    1×1×d 컨볼루션 레이어
    를 포함하는 비디오 처리 장치.
  13. 제12항에 있어서,
    상기 뎁스와이즈 세퍼러블 컨볼루션 레이어는,
    뎁스와이즈 컨볼루션 레이어;
    포인트와이즈 컨볼루션 레이어; 및
    비선형 활성 함수
    를 포함하는 비디오 처리 장치.
  14. 제9항에 있어서,
    상기 프로세서는,
    상기 비디오에 포함된 프레임을 복수의 영역으로 분할하고,
    상기 잔차들을 상기 제1 모델 파라미터에 더함으로써(by adding) 상기 복수의 제2 모델 파라미터들을 복원하고,
    상기 복수의 제2 모델 파라미터들에 기초하여 상기 복수의 시간적 부분들 각각에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는
    비디오 처리 장치.
  15. 제9항에 있어서,
    상기 수신기는,
    상기 복수의 시간적 부분들에 포함된 프레임에 대한 공간 영역 분할 정보 및 분할된 공간 영역의 범주 정보를 더 수신하는
    비디오 처리 장치.
  16. 제15항에 있어서,
    상기 프로세서는,
    상기 공간 영역 분할 정보 및 상기 범주 정보에 기초하여 상기 프레임을 복수의 공간 영역들(spatial regions)로 분할하고,
    상기 복수의 공간 영역들 및 상기 범주 정보에 기초하여 상기 비디오에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는
    비디오 처리 장치.
  17. 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 비디오 처리 방법에 있어서,
    복수의 시간적 부분(temporal portions)들을 포함하는 비디오 및 상기 비디오를 처리하기 위한 뉴럴 네트워크와 관련된 모델 정보를 수신하는 단계;
    상기 모델 정보에 기초하여 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 획득하는 단계;
    상기 모델 정보에 기초하여 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들을 획득하는 단계;
    상기 제1 모델 파라미터와 상기 복수의 제2 모델 파라미터들 간의 잔차들(residues)을 계산하는 단계; 및
    상기 비디오 및 상기 잔차를 전송하는 단계
    를 포함하는 비디오 처리 방법.
  18. 제17항에 있어서,
    상기 복수의 시간적 부분들에 포함된 프레임을 분할하여 공간 영역 분할 정보를 생성하는 단계; 및
    분할된 공간 영역의 신호 특징(signal characteristic)에 기초하여 상기 분할된 공간 영역의 범주 정보를 생성하는 단계
    를 더 포함하는 비디오 처리 방법.
  19. 제18항에 있어서,
    상기 전송하는 단계는,
    상기 비디오, 상기 잔차, 상기 공간 영역 분할 정보 및 상기 범주 정보 중 적어도 하나를 압축하여 전송하는 단계
    를 포함하는 비디오 처리 방법.
  20. 제17항에 있어서,
    상기 잔차들을 최소화하도록 상기 복수의 제2 뉴럴 네트워크들을 학습시키는 단계를 더 포함하는 비디오 처리 방법.
  21. 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 비디오 처리 장치에 있어서,
    복수의 시간적 부분(temporal portions)들을 포함하는 비디오 및 상기 비디오를 처리하기 위한 뉴럴 네트워크와 관련된 모델 정보를 수신하는 수신기; 및
    상기 모델 정보에 기초하여 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 획득하고, 상기 모델 정보에 기초하여 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들을 획득하고, 상기 제1 모델 파라미터와 상기 복수의 제2 모델 파라미터들 간의 잔차들(residues)을 계산하고, 상기 비디오 및 상기 잔차를 전송하는 프로세서
    를 포함하는 비디오 처리 장치.
  22. 제21항에 있어서,
    상기 프로세서는,
    상기 복수의 시간적 부분들에 포함된 프레임을 분할하여 공간 영역 분할 정보를 생성하고,
    분할된 공간 영역의 신호 특징(signal characteristic)에 기초하여 상기 분할된 공간 영역의 범주 정보를 생성하는
    비디오 처리 장치.
  23. 제22항에 있어서,
    상기 프로세서는,
    상기 비디오, 상기 잔차, 상기 공간 영역 분할 정보 및 상기 범주 정보 중 적어도 하나를 압축하여 전송하는
    를 포함하는 비디오 처리 장치.
  24. 제21항에 있어서,
    상기 프로세서는,
    상기 잔차들을 최소화하도록 상기 복수의 제2 뉴럴 네트워크들을 학습시키는
    비디오 처리 장치.
KR1020210186139A 2019-07-03 2021-12-23 시간 적응적, 공간 선택적 시그널링을 이용한 뉴럴 네트워크 처리 방법 및 장치 KR102642058B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020220186443A KR102642059B1 (ko) 2019-07-03 2022-12-27 다양한 영상 신호 특성의 다중 모델을 이용한 영상 화질 향상 방법 및 장치

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR20190080363 2019-07-03
KR1020190080363 2019-07-03
KR1020200080914A KR102364628B1 (ko) 2019-07-03 2020-07-01 비디오 처리 방법 및 장치

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020200080914A Division KR102364628B1 (ko) 2019-07-03 2020-07-01 비디오 처리 방법 및 장치

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020220186443A Division KR102642059B1 (ko) 2019-07-03 2022-12-27 다양한 영상 신호 특성의 다중 모델을 이용한 영상 화질 향상 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20220000871A true KR20220000871A (ko) 2022-01-04
KR102642058B1 KR102642058B1 (ko) 2024-03-04

Family

ID=74100939

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210186139A KR102642058B1 (ko) 2019-07-03 2021-12-23 시간 적응적, 공간 선택적 시그널링을 이용한 뉴럴 네트워크 처리 방법 및 장치

Country Status (4)

Country Link
US (1) US20220366538A1 (ko)
KR (1) KR102642058B1 (ko)
CN (1) CN114096987A (ko)
WO (1) WO2021002719A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023224320A1 (ko) * 2022-05-17 2023-11-23 삼성전자 주식회사 영상의 화질을 향상시키기 위한 영상 처리 장치 및 방법

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220405880A1 (en) * 2021-06-17 2022-12-22 Nvidia Corporation Generative neural networks with reduced aliasing
CN114554213B (zh) * 2022-02-21 2023-04-18 电子科技大学 一种运动自适应和关注细节的压缩视频质量增强方法
CN114913095B (zh) * 2022-06-08 2024-03-12 西北工业大学 基于域适应的深度去模糊方法
CN115393227B (zh) * 2022-09-23 2023-06-06 南京大学 基于深度学习的微光全彩视频图像自适应增强方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004104836A (ja) * 1999-06-30 2004-04-02 Sharp Corp 動画像検索情報生成装置、動画像要約情報生成装置、記録媒体、および動画像要約情報格納フォーマット
JP2017138808A (ja) * 2016-02-03 2017-08-10 キヤノン株式会社 情報処理装置および情報処理方法
KR20190067111A (ko) * 2017-12-06 2019-06-14 한국과학기술원 움직임 흐림 제거 방법 및 장치
KR20190072450A (ko) * 2017-12-15 2019-06-25 한국전자통신연구원 분산 처리 환경에서의 학습 파라미터의 압축 및 전송을 제공하는 방법 및 장치

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103918265B (zh) * 2011-11-07 2018-09-18 英特尔公司 跨通道残余预测
US10346740B2 (en) * 2016-06-01 2019-07-09 Kla-Tencor Corp. Systems and methods incorporating a neural network and a forward physical model for semiconductor applications
CN109218727B (zh) * 2017-06-30 2021-06-25 书法报视频媒体(湖北)有限公司 视频处理的方法和装置
US11164067B2 (en) * 2018-08-29 2021-11-02 Arizona Board Of Regents On Behalf Of Arizona State University Systems, methods, and apparatuses for implementing a multi-resolution neural network for use with imaging intensive applications including medical imaging
US11100617B2 (en) * 2018-10-12 2021-08-24 Korea Advanced Institute Of Science And Technology Deep learning method and apparatus for automatic upright rectification of virtual reality content
CN109697741B (zh) * 2018-12-28 2023-06-16 上海联影智能医疗科技有限公司 一种pet图像重建方法、装置、设备及介质
US11240492B2 (en) * 2019-01-22 2022-02-01 Apple Inc. Neural network based residual coding and prediction for predictive coding
US10771807B1 (en) * 2019-03-28 2020-09-08 Wipro Limited System and method for compressing video using deep learning
CA3144236A1 (en) * 2019-06-18 2020-12-24 Huawei Technologies Co., Ltd. Real-time video ultra resolution
US11120582B2 (en) * 2019-07-31 2021-09-14 Z2Sky Technologies Inc. Unified dual-domain network for medical image formation, recovery, and analysis
US10958869B1 (en) * 2019-11-14 2021-03-23 Huawei Technologies Co., Ltd. System, device and method for video frame interpolation using a structured neural network
US11651526B2 (en) * 2020-01-23 2023-05-16 Northeastern University Frontal face synthesis from low-resolution images
US11508037B2 (en) * 2020-03-10 2022-11-22 Samsung Electronics Co., Ltd. Systems and methods for image denoising using deep convolutional networks
JP7487556B2 (ja) * 2020-05-22 2024-05-21 富士通株式会社 モデル生成プログラム、モデル生成装置、及びモデル生成方法
US11889096B2 (en) * 2020-06-26 2024-01-30 Intel Corporation Video codec assisted real-time video enhancement using deep learning
US20220172452A1 (en) * 2020-11-30 2022-06-02 George Mason University Detecting objects non-visible in color images
WO2022155799A1 (en) * 2021-01-19 2022-07-28 Alibaba Group Holding Limited Neural network based in-loop filtering for video coding
WO2022250388A1 (ko) * 2021-05-25 2022-12-01 삼성전자 주식회사 비디오 품질을 평가하는 전자 장치 및 그 동작 방법
US11830167B2 (en) * 2021-06-21 2023-11-28 Ping An Technology (Shenzhen) Co., Ltd. System and method for super-resolution image processing in remote sensing
US11778223B2 (en) * 2021-08-19 2023-10-03 Huawei Technologies Co., Ltd. Method, device, and medium for generating super-resolution video
US20230325644A1 (en) * 2022-04-11 2023-10-12 Nokia Technologies Oy Implementation Aspects Of Predictive Residual Encoding In Neural Networks Compression
US20240144086A1 (en) * 2022-11-02 2024-05-02 Samsung Electronics Co., Ltd. Method and apparatus with machine learning

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004104836A (ja) * 1999-06-30 2004-04-02 Sharp Corp 動画像検索情報生成装置、動画像要約情報生成装置、記録媒体、および動画像要約情報格納フォーマット
JP2017138808A (ja) * 2016-02-03 2017-08-10 キヤノン株式会社 情報処理装置および情報処理方法
KR20190067111A (ko) * 2017-12-06 2019-06-14 한국과학기술원 움직임 흐림 제거 방법 및 장치
KR20190072450A (ko) * 2017-12-15 2019-06-25 한국전자통신연구원 분산 처리 환경에서의 학습 파라미터의 압축 및 전송을 제공하는 방법 및 장치

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023224320A1 (ko) * 2022-05-17 2023-11-23 삼성전자 주식회사 영상의 화질을 향상시키기 위한 영상 처리 장치 및 방법

Also Published As

Publication number Publication date
CN114096987A (zh) 2022-02-25
WO2021002719A1 (ko) 2021-01-07
US20220366538A1 (en) 2022-11-17
KR102642058B1 (ko) 2024-03-04

Similar Documents

Publication Publication Date Title
KR102642058B1 (ko) 시간 적응적, 공간 선택적 시그널링을 이용한 뉴럴 네트워크 처리 방법 및 장치
KR102332490B1 (ko) 심층 신경망용 압축 방법, 칩, 전자 장치 및 매체
EP3555844B1 (en) Method and device for processing multi-channel feature map images
US20200349673A1 (en) Method for processing image for improving the quality of the image and apparatus for performing the same
JP7143529B2 (ja) 画像復元方法及びその装置、電子機器並びに記憶媒体
JP2024535693A (ja) 機械学習システムを使用するネットワークパラメータ部分空間におけるインスタンス適応画像及びビデオ圧縮
CN114390296A (zh) 基于小波变换的图像编解码方法及装置
KR102642059B1 (ko) 다양한 영상 신호 특성의 다중 모델을 이용한 영상 화질 향상 방법 및 장치
TWI826160B (zh) 圖像編解碼方法和裝置
KR20200115239A (ko) 훈련된 심층 신경망의 압축 장치 및 방법
KR20200109904A (ko) Dnn 기반 이미지 또는 비디오 코딩을 위한 시스템 및 방법
US20240242467A1 (en) Video encoding and decoding method, encoder, decoder and storage medium
KR102083166B1 (ko) 이미지 처리 방법 및 장치
JP7403573B2 (ja) 低ビットレートのビデオ圧縮のためのマイクロドージング
KR20240035209A (ko) 비디오 처리 장치 및 방법
AU2022348742A1 (en) Feature map encoding and decoding method and apparatus
Paul et al. Image compression scheme based on histogram equalization and convolution neural network
KR102214502B1 (ko) 이미지 합동 처리 방법 및 장치
WO2024199477A1 (zh) 图像解码和编码方法、装置、设备及存储介质
EP4412204A1 (en) Encoding method, decoding method, bitstream, encoder, decoder, storage medium, and system
US20240244273A1 (en) Apparatus and method with video processing using neural network
EP4404556A1 (en) Apparatus and method with video processing using neural network
KR20240114684A (ko) 뉴럴 네트워크를 이용한 비디오 처리 장치 및 방법
US20230306239A1 (en) Online training-based encoder tuning in neural image compression
CN118055244A (zh) 一种点云数据的解码方法及装置

Legal Events

Date Code Title Description
A107 Divisional application of patent
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant