KR20210007393A - 전자 장치 및 그 제어 방법 - Google Patents

전자 장치 및 그 제어 방법 Download PDF

Info

Publication number
KR20210007393A
KR20210007393A KR1020190083789A KR20190083789A KR20210007393A KR 20210007393 A KR20210007393 A KR 20210007393A KR 1020190083789 A KR1020190083789 A KR 1020190083789A KR 20190083789 A KR20190083789 A KR 20190083789A KR 20210007393 A KR20210007393 A KR 20210007393A
Authority
KR
South Korea
Prior art keywords
information
image
pixel blocks
input image
processor
Prior art date
Application number
KR1020190083789A
Other languages
English (en)
Inventor
김범준
이민재
한영석
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020190083789A priority Critical patent/KR20210007393A/ko
Priority to US16/924,354 priority patent/US11893712B2/en
Publication of KR20210007393A publication Critical patent/KR20210007393A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/40Analysis of texture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T5/002
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20182Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Image Processing (AREA)

Abstract

전자 장치가 개시된다. 전자 장치는 입력부 및 입력부를 통해 입력된 영상에 대한 잡음 제거 처리를 수행하고, 입력 영상에 포함된 복수의 제1 픽셀 블록 중 텍스처 블록에 대한 제1 정보를 획득하고, 잡음이 제거된 영상에 포함된 복수의 제2 픽셀 블록 중 텍스처 블록에 대한 제2 정보를 획득하고, 복수의 제2 픽셀 블록 각각의 에너지량 중 최대 에너지량에 대한 제3 정보를 획득하며, 제1 정보, 제2 정보 및 제3 정보에 기초하여 입력 영상이 업스케일링된 영상인지 여부를 식별하는 프로세서를 포함한다.

Description

전자 장치 및 그 제어 방법 { Electronic device and control method thereof }
본 발명은 전자 장치 및 그 제어 방법 방법에 관한 것으로, 더욱 상세하게는, 업스케일링된 영상을 식별하는 전자 장치 및 그 제어 방법에 관한 것이다.
전자 기술의 발달에 힘입어 다양한 유형의 전자기기가 개발 및 보급되고 있다. 특히, 가정, 사무실, 공공 장소 등 다양한 장소에서 이용되는 전자 장치는 최근 수년 간 지속적으로 발전하고 있다.
최근 4K UHD TV 등의 고해상도 디스플레이 패널들이 출시되어 널리 보급되어 있다. 하지만, 아직 고해상도 컨텐츠는 많이 부족한 상황이다. 이에 저해상도 컨텐츠에 보간 필터를 이용한 스케일링(scaling), 업-컨버팅(up-converting), 다양한 업스케일링 방법을 통해 SD급, HD급 또는 4K UHD 영상으로부터 8K UHD급 영상이 생성한다. 이때 HD급 영상으로부터 UHD급 영상으로 변환된 영상의 경우는 필터 적용 등의 이유로 UHD급 원본 영상과는 다른 형태의 영상 특성을 가지며, UHD급 원본 영상보다 심한 아티팩트(artifact)를 가진다. 이러한, 아티팩트들은 전자 장치를 통해 영상을 시청하는 사용자들이 민감하게 반응하는 것으로서, 이에 대한 적절한 영상 처리가 요구된다.
본 발명은 상술한 필요성에 따른 것으로, 본 발명의 목적은, 입력된 영상이 업스케일링된 영상인지 여부를 식별하는 전자 장치 및 그 제어 방법을 제공함에 있다.
이상과 같은 목적을 달성하기 위한 본 개시의 일 실시 예에 따른 전자 장치는, 입력부 및 상기 입력부를 통해 입력된 영상에 대한 잡음 제거 처리를 수행하고, 상기 입력 영상에 포함된 복수의 제1 픽셀 블록 중 텍스처 블록에 대한 제1 정보를 획득하고, 상기 잡음이 제거된 영상에 포함된 복수의 제2 픽셀 블록 중 텍스처 블록에 대한 제2 정보를 획득하고, 상기 복수의 제2 픽셀 블록 각각의 에너지량 중 최대 에너지량에 대한 제3 정보를 획득하며, 상기 제1 정보, 상기 제2 정보 및 상기 제3 정보에 기초하여 상기 입력 영상이 업스케일링된 영상인지 여부를 식별하는 프로세서를 포함한다.
여기서, 상기 프로세서는, 상기 제1 정보에 기초하여 상기 입력 영상에 포함된 복수의 제1 픽셀 블록 중 텍스처 블록의 제1 비율 정보를 획득하고, 상기 제2 정보에 기초하여 상기 노이즈가 제거된 영상에 포함된 복수의 제2 픽셀 블록 중 텍스처 블록의 제2 비율 정보를 획득하고, 상기 제1 및 제2 비율 정보 간 차이, 상기 제2 비율 정보 및 상기 제3 정보에 기초하여 상기 입력 영상이 업스케일링된 영상인지 여부를 식별할 수 있다.
또한, 상기 프로세서는, 상기 입력 영상을 제1 주파수 영역 신호로 변환하고, 상기 제1 주파수 영역 신호에서 상기 복수의 제1 픽셀 블록 별 에너지 정보에 기초하여 상기 제1 정보를 획득하고, 상기 노이즈가 제거된 영상을 제2 주파수 영역 신호로 변환하고, 상기 제2 주파수 영역 신호에서 상기 복수의 제2 픽셀 블록 별 에너지 정보에 기초하여 상기 제2 정보를 획득하며, 상기 제2 주파수 영역 신호에서 상기 복수의 제2 픽셀 블록 각각에 대해 임계값 이상의 주파수 대역의 에너지량을 합산하여 상기 복수의 제2 픽셀 블록 각각에 대응되는 에너지량을 획득할 수 있다.
또한, 상기 프로세서는, 상기 제1 주파수 영역 신호에서 상기 복수의 제1 픽셀 블록 별 에너지 정보에 기초하여 상기 입력 영상의 특성을 나타내는 메트릭 값을 획득하고, 상기 제1 내지 제3 정보에 기초하여 상기 메트릭 값을 조정하고, 상기 조정된 메트릭 값을 제1 임계값과 비교하여 상기 입력 영상이 업스케일링된 영상인지 여부를 식별할 수 있다.
여기서, 상기 프로세서는, 상기 제1 주파수 영역 신호에서 상기 복수의 제1 픽셀 블록 별 에너지 정보에 기초하여 상기 복수의 제1 픽셀 블록 중 텍스처 블록을 식별하고, 상기 식별된 텍스처 블록의 에너지 정보에 기초하여 상기 입력 영상의 특성을 나타내는 상기 메트릭 값을 획득할 수 있다.
또한, 상기 프로세서는, 상기 제1 정보에 기초하여 상기 입력 영상에 포함된 복수의 픽셀 블록 중 텍스처 블록의 제1 비율 정보를 획득하고, 상기 제2 정보에 기초하여 상기 노이즈가 제거된 영상에 포함된 복수의 픽셀 블록 중 텍스처 블록의 제2 비율 정보를 획득하고, 상기 제1 및 제2 비율 정보 간 차이, 상기 제2 비율 정보 및 상기 제3 정보에 기초하여 상기 잡음이 제거된 영상의 특성 값을 획득하고, 상기 획득된 특성 값이 제2 임계값 이상이면 상기 메트릭 값을 증가시키고 상기 획득된 특성 값이 상기 제2 임계값 미만이면 상기 메트릭 값을 감소시킬 수 있다.
여기서, 상기 프로세서는, 상기 제1 및 제2 비율 정보 간 차이, 상기 제2 비율 정보 및 상기 제3 정보 각각을 노멀라이징하고, 노멀라이징된 값 각각에 상이한 가중치를 적용하여 상기 특성 값을 획득할 수 있다.
또한, 상기 프로세서는, 상기 입력 영상이 임계 해상도 이상의 원본 영상인지, 상기 임계 해상도 미만의 영상이 상기 임계 해상도 이상으로 업스케일링된 영상인지 여부를 식별할 수 있다.
또한, 상기 프로세서는, 상기 입력 영상이 업스케일링된 영상인지 여부에 기초하여 상이한 영상 처리를 수행할 수 있다.
여기서, 디스플레이를 더 포함하며, 상기 영상 처리된 입력 영상을 디스플레이하도록 상기 디스플레이를 제어할 수 있다.
한편, 본 개시의 일 실시 예에 따른 전자 장치의 제어 방법은, 입력된 영상에 대한 잡음 제거 처리를 수행하는 단계, 상기 입력 영상에 포함된 복수의 제1 픽셀 블록 중 텍스처 블록에 대한 제1 정보를 획득하는 단계, 상기 잡음이 제거된 영상에 포함된 복수의 제2 픽셀 블록 중 텍스처 블록에 대한 제2 정보를 획득하는 단계, 상기 복수의 제2 픽셀 블록 각각의 에너지량 중 최대 에너지량에 대한 제3 정보를 획득하는 단계 및 상기 제1 정보, 상기 제2 정보 및 상기 제3 정보에 기초하여 상기 입력 영상이 업스케일링된 영상인지 여부를 식별하는 단계를 포함한다
여기서, 상기 식별하는 단계는, 상기 제1 정보에 기초하여 상기 입력 영상에 포함된 복수의 제1 픽셀 블록 중 텍스처 블록의 제1 비율 정보를 획득하는 단계, 상기 제2 정보에 기초하여 상기 노이즈가 제거된 영상에 포함된 복수의 제2 픽셀 블록 중 텍스처 블록의 제2 비율 정보를 획득하는 단계 및 상기 제1 및 제2 비율 정보 간 차이, 상기 제2 비율 정보 및 상기 제3 정보에 기초하여 상기 입력 영상이 업스케일링된 영상인지 여부를 식별하는 단계를 포함할 수 있다.
또한, 상기 제1 정보를 획득하는 단계는, 상기 입력 영상을 제1 주파수 영역 신호로 변환하는 단계 및 상기 제1 주파수 영역 신호에서 상기 복수의 제1 픽셀 블록 별 에너지 정보에 기초하여 상기 제1 정보를 획득하는 단계를 포함하고, 상기 제2 정보를 획득하는 단계는, 상기 노이즈가 제거된 영상을 제2 주파수 영역 신호로 변환하는 단계 및 상기 제2 주파수 영역 신호에서 상기 복수의 제2 픽셀 블록 별 에너지 정보에 기초하여 상기 제2 정보를 획득하는 단계를 포함하고, 상기 제3 정보를 획득하는 단계는, 상기 제2 주파수 영역 신호에서 상기 복수의 제2 픽셀 블록 각각에 대해 임계값 이상의 주파수 대역의 에너지량을 합산하여 상기 복수의 제2 픽셀 블록 각각에 대응되는 상기 에너지량을 획득하는 단계를 포함할 수 있다.
또한, 상기 제1 주파수 영역 신호에서 상기 복수의 제1 픽셀 블록 별 에너지 정보에 기초하여 상기 입력 영상의 특성을 나타내는 메트릭 값을 획득하는 단계를 포함하고, 상기 식별하는 단계는, 상기 제1 내지 제3 정보에 기초하여 상기 메트릭 값을 조정하는 단계 및 상기 조정된 메트릭 값을 제1 임계값과 비교하여 상기 입력 영상이 업스케일링된 영상인지 여부를 식별하는 단계를 포함할 수 있다.
여기서, 상기 메트릭 값을 획득하는 단계는, 상기 제1 주파수 영역 신호에서 상기 복수의 제1 픽셀 블록 별 에너지 정보에 기초하여 상기 복수의 제1 픽셀 블록 중 텍스처 블록을 식별하는 단계 및 상기 식별된 텍스처 블록의 에너지 정보에 기초하여 상기 입력 영상의 특성을 나타내는 상기 메트릭 값을 획득하는 단계를 포함할 수 있다.
또한, 상기 제1 정보에 기초하여 상기 입력 영상에 포함된 복수의 픽셀 블록 중 텍스처 블록의 제1 비율 정보를 획득하는 단계 및 상기 제2 정보에 기초하여 상기 노이즈가 제거된 영상에 포함된 복수의 픽셀 블록 중 텍스처 블록의 제2 비율 정보를 획득하는 단계를 포함하고, 상기 식별하는 단계는, 상기 제1 및 제2 비율 정보 간 차이, 상기 제2 비율 정보 및 상기 제3 정보에 기초하여 상기 잡음이 제거된 영상의 특성 값을 획득하는 단계 및 상기 획득된 특성 값이 제2 임계값 이상이면 상기 메트릭 값을 증가시키고 상기 획득된 특성 값이 상기 제2 임계값 미만이면 상기 메트릭 값을 감소시키는 단계를 포함할 수 있다.
여기서, 상기 특성 값을 획득하는 단계는, 상기 제1 및 제2 비율 정보 간 차이, 상기 제2 비율 정보 및 상기 제3 정보 각각을 노멀라이징하고, 노멀라이징된 값 각각에 상이한 가중치를 적용하여 상기 특성 값을 획득할 수 있다.
또한, 상기 식별하는 단계는, 상기 입력 영상이 임계 해상도 이상의 원본 영상인지, 상기 임계 해상도 미만의 영상이 상기 임계 해상도 이상으로 업스케일링된 영상인지 여부를 식별할 수 있다.
또한, 상기 입력 영상이 업스케일링된 영상인지 여부에 기초하여 상이한 영상 처리를 수행하는 단계를 포함할 수 있다.
또한, 상기 영상 처리된 입력 영상을 디스플레이하는 단계를 포함할 수 있다.
상술한 바와 같이 본 개시의 다양한 실시 예에 따르면, 입력된 영상이 업스케일링된 영상인지 여부를 식별하고, 식별 결과에 따라 영상에 적합한 영상 처리를 수행하여 사용자에게 최적의 화질 개선 영상을 제공할 수 있게 된다.
도 1은 본 개시의 일 실시 예에 따른 전자 장치의 구현 예를 설명하기 위한 도면이다.
도 2는 본 개시의 일 실시 예에 따른 전자 장치의 구성을 나타내는 블록도이다.
도 3A는 본 개시의 일 실시 예에 따른 입력 영상을 설명하기 위한 도면이다.
도 3B는 본 개시의 일 실시 예에 따른 잡음이 제거된 영상을 설명하기 위한 도면이다.
도 4는 본 개시의 일 실시 예에 따른 주파수 영역을 설명하기 위한 도면이다.
도 5는 본 개시의 일 실시 예에 따른 텍스처 블록에 대한 비율 정보를 설명하기 위한 도면이다.
도 6은 본 개시의 일 실시 예에 따른 텍스처 블록에 대한 제1 및 제2 비율 정보를 설명하기 위한 도면이다.
도 7은 본 개시의 일 실시 예에 따른 최대 에너지량을 설명하기 위한 도면이다.
도 8은 본 개시의 일 실시 예에 따른 메트릭 값을 설명하기 위한 도면이다.
도 9는 본 개시의 일 실시 예에 따른 임계 해상도를 설명하기 위한 도면이다.
도 10은 도 2에 도시된 전자 장치의 세부 구성을 나타내는 블록도이다.
도 11은 본 개시의 일 실시 예에 따른 제어 방법을 설명하기 위한 흐름도이다.
이하에서는 첨부 도면을 참조하여 본 개시를 상세히 설명한다.
본 개시의 실시 예에서 사용되는 용어는 본 개시에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 개시의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 개시에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 개시의 전반에 걸친 내용을 토대로 정의되어야 한다.
본 명세서에서, "가진다," "가질 수 있다," "포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
A 또는/및 B 중 적어도 하나라는 표현은 "A" 또는 "B" 또는 "A 및 B" 중 어느 하나를 나타내는 것으로 이해되어야 한다.
본 명세서에서 사용된 "제1," "제2," "첫째," 또는 "둘째,"등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다.
어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 어떤 구성요소가 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "구성되다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 개시에서 "모듈" 혹은 "부"는 적어도 하나의 기능이나 동작을 수행하며, 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의 "모듈" 혹은 복수의 "부"는 특정한 하드웨어로 구현될 필요가 있는 "모듈" 혹은 "부"를 제외하고는 적어도 하나의 모듈로 일체화되어 적어도 하나의 프로세서(미도시)로 구현될 수 있다.
본 명세서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
이하 첨부된 도면들을 참조하여 본 개시의 일 실시예를 보다 상세하게 설명한다.
도 1은 본 개시의 일 실시 예에 따른 전자 장치의 구현 예를 설명하기 위한 도면이다.
전자 장치(100)는 도 1에 도시된 바와 같이 TV로 구현될 수 있으나, 이에 한정되는 것은 아니며 스마트 폰, 태블릿 PC, 노트북 PC, HMD(Head mounted Display), NED(Near Eye Display), LFD(large format display), Digital Signage(디지털 간판), DID(Digital Information Display), 비디오 월(video wall), 프로젝터 디스플레이, 카메라, 캠코더, 프린터 등과 같이 영상 처리 기능 및/또는 디스플레이 기능을 갖춘 장치라면 한정되지 않고 적용 가능하다.
전자 장치(100)는 다양한 해상도의 영상 또는 다양한 압축 영상을 수신할 수 있다. 예를 들어, 전자 장치(100)는 SD(Standard Definition), HD(High Definition), Full HD, Ultra HD 영상 중 어느 하나의 영상(10)을 수신할 수 있다. 또한 전자 장치(100)는 MPEG(예를 들어, MP2, MP4, MP7 등), AVC, H.264, HEVC 등으로 압축된 형태로 영상(10)을 수신할 수도 있다.
일 실시 예에 따라 전자 장치(100)가 UHD TV로 구현되더라도, UHD 컨텐츠 자체가 부족하기 때문에 SD(Standard Definition), HD(High Definition), Full HD 등의 영상(이하 저해상도 영상이라 함)이 입력되는 경우가 많다. 이 경우, 전자 장치(100)는 입력된 저해상도 영상을 UHD 영상(이하 고해상도 영상이라 함)으로 확대하여 디스플레이할 수 있다. 다른 예로, 전자 장치(100)는 UHD 영상(이하 고해상도 영상)을 수신하여 고해상도 영상에 대한 별도의 확대 없이 디스플레이할 수도 있음은 물론이다.
본 개시의 일 실시 예에 따른 전자 장치(100)는 입력 영상(10)이 저해상도 영상을 확대 또는 업스케일링하여 획득한 고해상도 영상인지 여부를 식별할 수 있다. 예를 들어, 입력 영상(10)은 저해상도의 원본 영상을 고해상도로 업스케일링하고, 고해상도의 잡음을 추가하여 획득한 영상일 수 있다. 일 실시 예에 따른 전자 장치(100)는 입력 영상(10)이 저해상도에서 고해상도로 변환된 영상인지 또는 고해상도의 원본 영상인지 여부를 식별함으로써, 이들에 상이한 영상 처리를 수행할 수 있다. 예를 들어, 전자 장치(100)는 입력 영상(10)이 저해상도의 원본 영상을 고해상도로 변환한 영상(이하, 업스케일링된 영상)이면 입력 영상(10)에 제1 영상 처리 방법을 적용하여 화질을 개선시킬 수 있다. 예를 들어, 전자 장치(100)는 잡음 제거 강도를 증가시켜 입력 영상(10)에 적용하거나, 입력 영상(10)에 엣지(edge) 강화 처리를 수행할 수 있다.
다른 예로, 전자 장치(100)는 입력 영상(10)이 고해상도의 원본 영상이면 입력 영상(10)에 제2 영상 처리 방법을 적용하여 화질을 개선시킬 수 있다. 예를 들어, 전자 장치(100)는 잡음 제거 강도를 감소시켜 입력 영상(10)에 적용하거나, 입력 영상(10)에 텍스처(texture) 강화 처리를 수행할 수 있다.
따라서, 이하에서는 상술한 바와 같이 전자 장치(100)가 입력 영상(10)이 저해상도의 원본 영상에서 고해상도로 변환된 영상인지 여부를 식별하는 다양한 실시 예에 대해 설명하도록 한다.
도 2는 본 개시의 일 실시 예에 따른 전자 장치의 구성을 나타내는 블록도이다.
도 2에 따르면, 전자 장치(100)는 입력부(110) 및 프로세서(120)를 포함한다.
입력부(110)는 다양한 타입의 컨텐츠, 예를 들어 영상 신호를 수신한다. 예를 들어 입력부(110)는 AP 기반의 Wi-Fi(와이파이, Wireless LAN 네트워크), 블루투스(Bluetooth), 지그비(Zigbee), 유/무선 LAN(Local Area Network), WAN, 이더넷, LTE, 5G(5th-generation), IEEE 1394, HDMI(High Definition Multimedia Interface), MHL (Mobile High-Definition Link), USB (Universal Serial Bus), DP(Display Port), 썬더볼트(Thunderbolt), VGA(Video Graphics Array)포트, RGB 포트, D-SUB(D-subminiature), DVI(Digital Visual Interface) 등과 같은 통신 방식을 통해 외부 장치(예를 들어, 소스 장치), 외부 저장 매체(예를 들어, USB), 외부 서버(예를 들어 웹 하드) 등으로부터 스트리밍 또는 다운로드 방식으로 영상 신호를 입력받을 수 있다. 특히, 5G 통신 시스템은 초고주파(mmWave) 대역 (예를 들어, 26, 28, 38, 60GHz 대역 등의 밀리미터 파 주파수 대역)을 이용하는 통신으로서, 전자 장치(100)는 5G 통신 방식을 통해 스트리밍 환경에서 4K, 8K UHD 영상을 수신 또는 전송할 수 있다.
여기서, 영상 신호는 디지털 신호가 될 수 있으나 이에 한정되는 것은 아니다.
프로세서(120)는 전자 장치(100)의 전반적인 동작을 제어한다.
일 실시 예에 따라 프로세서(120)는 디지털 영상 신호를 처리하는 디지털 시그널 프로세서(digital signal processor(DSP), 마이크로 프로세서(microprocessor), AI(Artificial Intelligence) 프로세서, T-CON(Timing controller)으로 구현될 수 있다. 다만, 이에 한정되는 것은 아니며, 중앙처리장치(central processing unit(CPU)), MCU(Micro Controller Unit), MPU(micro processing unit), 컨트롤러(controller), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)), ARM 프로세서 중 하나 또는 그 이상을 포함하거나, 해당 용어로 정의될 수 있다. 또한, 프로세서(120)는 프로세싱 알고리즘이 내장된 SoC(System on Chip), LSI(large scale integration)로 구현될 수도 있고, FPGA(Field Programmable gate array) 형태로 구현될 수도 있다.
본 개시의 일 실시 예에 따른 프로세서(120)는 입력부(110)를 통해 입력된 영상에 대한 잡음 제거 처리(또는 잡음 감소 처리)를 수행한다.
일반적으로, 영상을 압축하는 과정, 영상을 전송 및 수신하는 과정 등에서 영상에 잡음이 추가된다. 일 실시 예에 따른 전자 장치(100)는 입력 영상(10)에 잡음 제거 처리를 수행하여 입력 영상(10)의 화질을 개선시킬 뿐 아니라 스케일링, 특징 추출, 해상도 처리 등 다른 영상 처리 효과도 증가시킬 수 있다.
본 개시의 일 실시 예에 따른 프로세서(120)는 입력 영상(10)에 다양한 방법에 따른 잡음 제거 처리를 수행할 수 있다. 예를 들어, 프로세서(120)는 넌 로컬 필터링(non-local filtering) 및 자기 유사성(self-similarity)을 이용한 방식에 기초하여 잡음 제거 처리를 수행할 수 있다. 입력 영상(10) 내에 일 영역과 유사한 다른 영역이 포함되어 있다는 가정 하에, 프로세서(120)는 입력 영상(10) 내의 다른 영역에 대하여 유사도를 측정한 후 유사도가 높은 픽셀 영역에 기초하여 잡음 제거를 수행할 수 있다.
예를 들어, 프로세서(120)는 영상 내에서 기설정된 크기의 픽셀 블럭을 획득하고, 현재 픽셀 블록과 유사한 픽셀 블록들이 입력 영상(10) 내에 존재한다고 가정한다. 프로세서(120)는 입력 영상(10) 내에서 현재 픽셀 블록과 유사한 픽셀 블록들을 수집하여, 유사 성분들은 스트럭쳐(structure) 성분으로 간주하고 비유사 성분들은 잡음 성분으로 간주할 수 있다. 즉, 프로세서(120)는 복수의 픽셀 블록들 중 유사성이 높은 신호들은 남기고 유사성이 낮은 신호들은 제거하여 영상 내의 잡음을 제거한다. 한편, 이는 잡음 제거 처리 방법의 일 실시 예에 불과하다. 다른 예로, 프로세서(120)는 입력 영상(10)에 로우 패스 필터링(low pass filtering)을 수행하고, 입력 영상(10) 내의 블러(blur)를 최소화하여 효과적으로 잡음을 제거할 수도 있다. 또 다른 예로, 전자 장치(100)는 입력 영상(10)에 가우시안 필터와 같은 스무딩 필터(Smoothing Filter), 입력 영상(10)을 기설정된 가이던스(guidance)에 대비시켜 필터링하는 가이디드(guided) 필터 등을 적용하여 두드러진 노이즈를 제거할 수도 있다
이어서, 프로세서(120)는 입력 영상(10)에 포함된 복수의 제1 픽셀 블록 중 텍스처 블록에 대한 제1 정보를 획득하고, 잡음이 제거된 영상에 포함된 복수의 제2 픽셀 블록 중 텍스처 블록에 대한 제2 정보를 획득할 수 있다. 이에 대한 구체적인 설명은 도 3A 및 도 3B를 참조하여 하도록 한다.
도 3A는 본 개시의 일 실시 예에 따른 입력 영상을 설명하기 위한 도면이다.
도 3A를 참조하면, 본 개시의 일 실시 예에 따른 프로세서(120)는 입력 영상(10)에 포함된 복수의 제1 픽셀 블록(11) 중 텍스처 블록을 식별할 수 있다. 여기서, 픽셀 블록은 적어도 하나의 픽셀을 포함하는 인접한 픽셀들의 기 설정된 크기의 집합을 의미한다. 예를 들어, 픽셀 블록은 4 * 4 크기의 총 16개의 픽셀을 포함하는 픽셀들의 집합일 수 있다. 이는 일 실시 예에 불과하며 픽셀 블록의 크기는 다양하게 설정될 수 있음은 물론이다.
일 실시 예에 따른 프로세서(120)는 입력 영상(10)을 제1 주파수 영역 신호로 변환할 수 있다. 예를 들어, 프로세서(120)는 입력 영상(10)에 이산 푸리에 변환(Discrete Fourier Transform; DFT), 고속 푸리에 변환(Fast Fourier Transform; FFT), 이산 코사인 변환(Discrete Cosine Transform; DCT), 웨이브릿 변환(Wavelet Transform) 등을 적용하여 입력 영상(10)을 제1 주파수 영역 신호로 변환할 수 있다.
이어서, 프로세서(120)는 제1 주파수 영역 신호에서 복수의 제1 픽셀 블록(11) 별 에너지 정보를 식별할 수 있다. 예를 들어, 프로세서(120)는 픽셀 블록 별 총 에너지량, 픽셀 블록 내의 고주파 에너지량 및 저주파 에너지량을 식별할 수 있다. 여기서, 프로세서(120)는 실험적으로 구한 소정의 주파수 대역을 고주파 에너지량으로 식별하고, 총 에너지량에서 고주파 에너지량을 제외한 나머지 에너지량을 저주파 에너지량으로 식별할 수 있다.
이어서, 프로세서(120)는 픽셀 블록 별 고주파 에너지량과 저주파 에너지량의 비율에 기초하여 해당 픽셀 블록이 텍스처 블록인지 여부를 식별할 수 있다. 예를 들어, 프로세서(120)는 픽셀 블록의 고주파 에너지량/저주파 에너지량의 값이 실험적으로 구한 임계치 이상이면, 해당 픽셀 블록을 텍스처 블록으로 식별할 수 있다. 다른 예로, 프로세서(120)는 픽셀 블록의 고주파 에너지량/저주파 에너지량의 값이 실험적으로 구한 임계치 미만이면, 해당 픽셀 블록을 스무스(smooth) 블록으로 식별할 수 있다.
본 개시의 일 실시 예에 따른 프로세서(120)는 입력 영상(10)에 포함된 복수의 제1 픽셀 블록(11) 각각이 텍스처 블록에 해당하는지 여부를 식별하여 제1 정보를 획득할 수 있다. 한편, 상술한 실시 예는 일 실시 예에 불과하며 프로세서(120)는 다양한 방법을 이용하여 해당 픽셀 블록이 텍스처 블록에 해당하는지 여부를 식별할 수 있음은 물론이다. 예를 들어, 프로세서(120는 제1 픽셀 블록(11)을 학습 네트워크 모델에 적용하여 해당 픽셀 블록이 텍스처 블록에 해당하는지 여부를 식별할 수도 있다. 여기서, 학습 네트워크 모델은 복수의 샘플 영상에 기초하여 머신 러닝(machine learning)된 모델 또는 딥 러닝(deep learning)된 모델일 수 있음은 물론이다.
도 3B는 본 개시의 일 실시 예에 따른 잡음이 제거된 영상을 설명하기 위한 도면이다.
상술한 바와 같이, 프로세서(120)는 입력 영상(10)에 잡음 제거 처리를 수행하여 잡음이 제거된 영상(20)을 획득할 수 있다.
이어서, 프로세서(120)는 잡음이 제거된 영상(20)에 포함된 복수의 제2 픽셀 블록(21) 중 텍스처 블록에 대한 제2 정보를 획득할 수 있다. 예를 들어, 프로세서(120)는 잡음이 제거된 영상(20)을 제2 주파수 영역 신호로 변환할 수 있다. 예를 들어, 프로세서(120)는 잡음이 제거된 영상(20)에 이산 푸리에 변환(Discrete Fourier Transform; DFT), 고속 푸리에 변환(Fast Fourier Transform; FFT), 이산 코사인 변환(Discrete Cosine Transform; DCT), 웨이브릿 변환(Wavelet Transform) 등을 적용하여 잡음이 제거된 영상(20)을 제2 주파수 영역 신호로 변환할 수 있다.
이어서, 프로세서(120)는 제2 주파수 영역 신호에서 복수의 제2 픽셀 블록(21) 별 에너지 정보를 식별할 수 있다. 예를 들어, 프로세서(120)는 픽셀 블록(21) 별 총 에너지량, 픽셀 블록 내의 고주파 에너지량 및 저주파 에너지량을 식별할 수 있다. 여기서, 프로세서(120)는 실험적으로 구한 소정의 주파수 대역을 고주파 에너지량으로 식별하고, 총 에너지량에서 고주파 에너지량을 제외한 나머지 에너지량을 저주파 에너지량으로 식별할 수 있다. 예를 들어, 프로세서(120)는 픽셀 블록(21) 내 임계값 이상의 주파수 대역의 에너지량을 합산하여 고주파 에너지량을 획득할 수 있다.
이어서, 프로세서(120)는 픽셀 블록 별 고주파 에너지량과 저주파 에너지량의 비율에 기초하여 해당 픽셀 블록이 텍스처 블록인지 여부를 식별할 수 있다. 예를 들어, 프로세서(120)는 픽셀 블록의 고주파 에너지량/저주파 에너지량의 값이 실험적으로 구한 임계치 이상이면, 해당 픽셀 블록을 텍스처 블록으로 식별할 수 있다. 픽셀 블록 내에 고주파 에너지가 저주파 에너지 대비 많으면 해당 픽셀 블록은 텍스처 블록일 수 있다. 다른 예로, 프로세서(120)는 픽셀 블록의 고주파 에너지량/저주파 에너지량의 값이 실험적으로 구한 임계치 미만이면, 해당 픽셀 블록을 스무스(smooth) 블록으로 식별할 수 있다.
또 다른 예로, 프로세서(120)는 픽셀 블록의 고주파 에너지량이 임계치 이상인지 여부에 기초하여 해당 픽셀 블록이 텍스처 블록인지 여부를 식별할 수도 있다.
본 개시의 일 실시 예에 따른 프로세서(120)는 잡음이 제거된 영상(20)에 포함된 복수의 제2 픽셀 블록(21) 각각이 텍스처 블록에 해당하는지 여부를 식별하여 제2 정보를 획득할 수 있다.
도 2로 돌아와서, 본 개시의 일 실시 예에 따른 프로세서(120)는 복수의 제2 픽셀 블록 각각의 에너지량 중 최대 에너지량에 대한 제3 정보를 획득할 수 있다. 이에 대한 구체적인 설명은 도 4를 참조하여 하도록 한다.
도 4는 본 개시의 일 실시 예에 따른 주파수 영역을 설명하기 위한 도면이다.
본 개시의 일 실시 예에 따른 프로세서(120)는 상술한 바와 같이 잡음이 제거된 영상(20)을 4 * 4 크기의 복수의 제2 픽셀 블록(21-1, 21-2, ..., 21-n)으로 구분하고, 복수의 제2 픽셀 블록(21-1, 21-2, ..., 21-n) 각각에 대해 주파수 변환(예를 들어, 이산 코사인 변환(Discrete Cosine Transform; DCT)을 수행할 수 있다. 예를 들어, 4 * 4 DCT 또는 8 * 8 DCT를 수행할 수 있다. 이어서, 프로세서(120)는 DCT 수행으로 획득한 DCT 계수 값에 기초하여 복수의 제2 픽셀 블록(21-1, 21-2, ..., 21-n) 각각에 대응되는 에너지량을 획득할 수 있다.
도 4를 참조하면, 프로세서(120)는 복수의 제2 픽셀 블록(21-1, 21-2, ..., 21-n) 중 제1 블록(21-1) 내에 임계값 이상의 주파수 대역의 에너지량을 합산하여 제1 블록(21-1)에 대응되는 에너지량을 획득할 수 있다. 이어서, 프로세서(120)는 제2 블록(21-2)에 대응되는 에너지량을 획득할 수 있다.
일 실시 예에 따른 프로세서(120)는 제1 블록(21-1) 내지 제n 블록(21-n) 각각에 대응되는 에너지량 중 최대 에너지량에 대한 제3 정보를 획득할 수 있다.
도 2로 돌아와서, 본 개시의 일 실시 예에 따른 프로세서(120)는 제1 정보, 제2 정보 및 제3 정보에 기초하여 입력 영상(10)이 업스케일링된 영상인지 여부를 식별할 수 있다.
예를 들어, 프로세서(120)는 제1 정보에 기초하여 입력 영상(10)에 포함된 복수의 제1 픽셀 블록 중 텍스처 블록의 제1 비율 정보를 획득할 수 있다. 이어서, 프로세서(120)는 제2 정보에 기초하여 노이즈가 제거된 영상(20)에 포함된 복수의 제2 픽셀 블록 중 텍스처 블록의 제2 비율 정보를 획득할 수 있다.
여기서, 제1 비율 정보는 (텍스처 블록의 개수)/(복수의 제1 픽셀 블록의 개수)를 나타낼 수 있다. 제2 비율 정보는 도 4를 참조하면, (제1 블록 내제 제n 블록 중 텍스처 블록의 개수)/(n)을 나타낼 수 있다. 이에 대한 구체적인 설명은 도 5를 참조하여 하도록 한다.
도 5는 본 개시의 일 실시 예에 따른 텍스처 블록에 대한 비율 정보를 설명하기 위한 도면이다.
도 5를 참조하면, 저해상도의 영상을 업스케일링한 뒤 고해상도의 잡음을 추가하여 획득한 업스케일링된 입력 영상(10)에 잡음 제거 처리를 수행하여 획득한 잡음이 제거된 영상(20)은 텍스처 블록의 비율 즉, 제2 비율 정보가 낮은 것을 확인할 수 있다. 업스케일링된 입력 영상(10)에 기초하여 획득한 잡음이 제거된 영상(20)은 텍스처 블록의 비율이 대체로 50% 미만이다.
이에 반해, 고해상도의 원본 입력 영상(10)에 잡음 제거 처리를 수행하여 획득한 잡음이 제거된 영상(20)은 텍스처 블록의 비율 즉, 제2 비율 정보가 상대적으로 높은 것을 확인할 수 있다. 고해상도의 원본 입력 영상(10)에 기초하여 획득한 잡음이 제거된 영상(20)은 텍스처 블록의 비율이 50% 이상인 경우가 빈번하다. 따라서, 본 개시의 일 실시 예에 따른 프로세서(120는 제2 비율 정보에 기초하여 입력 영상(10)이 업스케일링된 영상인지 여부를 식별할 수 있다.
또한, 본 개시의 일 실시 예에 따른 프로세서(120)는 제1 및 제2 비율 정보 간 차이에 기초하여 입력 영상(10)이 업스케일링된 영상인지 여부를 식별할 수 있다. 이에 대한 구체적인 설명은 도 6을 참조하여 하도록 한다.
도 6은 본 개시의 일 실시 예에 따른 텍스처 블록에 대한 제1 및 제2 비율 정보를 설명하기 위한 도면이다.
일 실시 예에 따른 프로세서(120)는 입력 영상(10)에 포함된 텍스처 블록의 비율을 나타내는 제1 비율 정보와 잡음이 제거된 영상(20)에 포함된 텍스처 블록의 비율을 나타내는 제2 비율 정보 간 차이에 기초하여 해당 입력 영상(10)이 업스케일링된 영상인지 여부를 식별할 수 있다.
도 6을 참조하면, 업스케일링된 영상은 잡음 제거 처리 전과 후의 텍스처 블록의 비율 차이가 10% 이상인 경우가 빈번함을 확인할 수 있다. 이에 반해, 고해상도의 원본 영상은 잡음 제거 처리 전과 후의 텍스처 블록의 비율 차이가 10% 미만인 경우가 상대적으로 많음을 확인할 수 있다.
일 실시 예에 따른 프로세서(120)는 제1 비율 정보와 제2 비율 정보를 비교하여 입력 영상(10)에 포함된 텍스처 블록의 비율과 잡음이 제거된 영상(20)에 포함된 텍스처 블록의 비율을 비교하고, 비율의 변화가 임계치 이상이면 해당 입력 영상(10)을 업스케일링된 영상으로 식별할 수 있다.
또한, 본 개시의 일 실시 예에 따른 프로세서(120)는 잡음이 제거된 영상(20)에 포함된 복수의 제2 픽셀 블록 각각의 에너지량 중 최대 에너지량을 나타내는 제3 정보에 기초하여 입력 영상(10)이 업스케일링된 영상인지 여부를 식별할 수 있다. 이에 대한 구체적인 설명은 도 7을 참조하여 하도록 한다.
도 7은 본 개시의 일 실시 예에 따른 최대 에너지량을 설명하기 위한 도면이다.
도 7을 참조하면, 업스케일링된 영상에 잡음 제거 처리를 수행하여 획득한 잡음이 제거된 영상(20)에 대응되는 최대 에너지량은 400 내지 700임을 확인할 수 있다. 이에 반해, 고해상도의 원본 영상에 잡음 제거 처리를 수행하여 획득한 잡음이 제거된 영상(20)에 대응되는 최대 에너지량은 400 내지 3000이며, 1000을 초과하는 경우도 많은 것을 확인할 수 있다. 이에 따라, 프로세서(120)는 제3 정보에 기초하여 최대 에너지량이 실험적으로 구한 임계치 미만이면, 입력 영상(10)을 업스케일링된 영상으로 식별할 수 있다.
도 2로 돌아와서, 본 개시의 일 실시 예에 따른 프로세서(120)는 제1 및 제2 비율 정보 간 차이, 제2 비율 정보 및 제3 정보에 기초하여 입력 영상(10)에 대응되는 잡음이 제거된 영상(20)의 특성 값을 획득할 수 있다. 일 예로, 프로세서(120)는 제1 및 제2 비율 정보 간 차이, 제2 비율 정보 및 제3 정보 각각을 노멀라이징하고, 노멀라이징된 값 각각에 상이한 가중치를 적용하여 특성 값을 획득할 수 있다.
[수학식 1]
F=w1*v1 + w2*v2 + w3*v3
여기서, F는 특성 값, v1은 제1 및 제2 비율 정보 간 차이를 0 내지 100으로 노멀라이징한 값, w1은 제1 가중치, v2는 제2 비율 정보를 0 내지 100으로 노멀라이징한 값, w2는 제2 가중치, v3은 제3 정보에 따른 최대 에너지량을 0 내지 100으로 노멀라이징한 값, w3은 제3 가중치를 의미한다.
한편, 제1 및 제2 비율 정보 간 차이는 클수록 입력 영상(10)이 업스케일링된 영상임을 나타내며, 제2 비율 정보 및 제3 정보는 작을수록 입력 영상(10)이 업스케일링된 영상임을 나타낸다. 따라서, 일 실시 예에 따른 프로세서(120)는 제1 및 제2 비율 정보 간 차이를 0 내지 100으로 노멀라이징한 v1 값을 획득하는 과정에서 반전(reverse)을 수행할 수 있다. 일 실시 예에 따른 프로세서(120)는 특성 값 F가 임계 값을 초과하는지 여부에 기초하여 입력 영상(10)이 업스케일링된 영상인지 여부를 식별할 수 있다. 예를 들어, 프로세서(120)는 특성 값이 임계 값 이상이면 입력 영상(10)을 임계 해상도 이상의 원본 영상으로 식별하고, 특성 값 미만이면 입력 영상(10)을 임계 해상도 미만의 영상이 임계 해상도 이상으로 업스케일링된 영상으로 식별할 수 있다. 여기서, 임계 해상도는 4K 또는 8K UHD를 의미할 수 있다. 다만, 이에 한정되지 않으며 프로세서(120)는 특성 값에 기초하여 업스케일링 여부만을 식별할 수도 있음을 물론이다.
본 개시의 일 실시 예에 따른 프로세서(120)는 입력 영상(10)에 대응되는 제1 주파수 영역 신호에서 복수의 제1 픽셀 블록(11) 별 에너지 정보에 기초하여 입력 영상의 특성을 나타내는 메트릭(Metric) 값을 획득할 수 있다. 이에 대한 구체적인 설명은 도 8을 참조하여 하도록 한다.
도 8은 본 개시의 일 실시 예에 따른 메트릭 값을 설명하기 위한 도면이다.
도 8을 참조하면, 본 개시의 일 실시 예에 따른 프로세서(120)는 영상이 입력되면(S810), 입력 영상(10)에 잡음 제거 처리를 수행하여 잡음이 제거된 영상을 획득할 수 있다(S820).
또한, 프로세서(120)는 입력 영상(10)을 제1 주파수 영역 신호로 변환하고, 제1 주파수 영역 신호에서 복수의 제1 픽셀 블록(11) 별 에너지 정보에 기초하여 제1 정보를 획득할 수 있다(S830). 일 예로, 프로세서(120)는 복수의 제1 픽셀 블록(11) 중 저주파 에너지 보다 고주파 에너지가 많은 픽셀 블록을 텍스처 블록으로 식별할 수 있다. 즉, 프로세서(120)는 복수의 제1 픽셀 블록(11) 각각이 텍스처 영역(또는, 텍스처 블록)에 해당하는지 여부를 식별할 수 있다.
이어서, 프로세서(120)는 입력 영상(10)의 특성을 나타내는 메트릭 값을 획득할 수 있다(S840). 여기서, 메트릭 값은 입력 영상(10)의 총 에너지량 대비 고주파수 대역의 에너지량 비율을 의미할 수 있다. 예를 들어, 프로세서(120)는 제1 주파수 영역 신호에 기초하여 입력 영상(10)의 총 에너지량을 획득할 수 있다. 이어서, 프로세서(120)는 제1 정보에 기초하여 입력 영상(10)에 포함된 텍스처 블록을 식별하고, 복수의 제1 픽셀 블록(11) 중 식별된 텍스처 블록에 대응되는 에너지량의 합산을 획득할 수 있다. 이어서, 프로세서(120)는 총 에너지량에 대한 텍스처 블록에 대응되는 에너지량의 비율을 식별할 수 있다.
[수학식 2]
Figure pat00001
여기서, M은 메트릭 값,
Figure pat00002
은 복수의 제1 픽셀 블록(11) 중 텍스처 블록의 합산 에너지량,
Figure pat00003
은 입력 영상(10)의 총 에너지량을 의미한다.
일 실시 예에 따른 프로세서(120)는 수학식 2에서 입력 영상(10)의 메트릭 값 즉, 입력 영상(10)의 총 에너지에서 고주파 성분의 에너지 비율을 획득할 수 있다. 이어서, 프로세서(120)는 메트릭 값에 기초하여 입력 영상(10)이 업스케일링된 영상인지 여부를 식별할 수 있다. 일 예로, 프로세서(120)는 메트릭 값이 제1 임계 값 이상이면 입력 영상(10)을 고해상도의 원본 영상으로 식별하고, 제1 임계 값 미만이면 입력 영상(10)을 업스케일링된 영상으로 식별할 수 있다. 여기서, 제1 임계 값은 실험에 의해 획득된 값이며 실험 결과, 제조사의 설정, 사용자의 설정 등에 따라 다양하게 변경될 수 있음은 물론이다.
다른 예로, 프로세서(120)는 제1 내지 제3 정보에 기초하여 메트릭 값을 조정할 수 있다(S850). 일 예로, 프로세서(120)는 수학식 1에 기초하여 획득한 잡음이 제거된 영상(20)의 특성 값 F가 제2 임계 값 이상이면 메트릭 값을 증가시키고, 특성 값 F가 제2 임계 값 미만이면 메트릭 값을 감소시킬 수 있다. 일 실시 예에 따라 프로세서(120)는 메트릭 값을 고려하지 않고, 특성 값 F에만 기초하여 입력 영상(10)이 업스케일링된 영상인지 여부를 식별할 수도 있고, 다른 실시 예에 따라 프로세서(120)는 특성 값 F에 기초하여 조정된 메트릭 값에 따라 입력 영상(10)이 업스케일링된 영상인지 여부를 식별할 수도 있다(S860). 한편, 여기서, 제2 임계 값은 복수의 영상에 기초한 실험 결과, 제조사의 설정, 사용자의 설정 등에 따라 다양하게 변경될 수 있음은 물론이다.
도 9는 본 개시의 일 실시 예에 따른 임계 해상도를 설명하기 위한 도면이다.
도 9를 참조하면, 프로세서(120)는 입력 영상(10)이 업스케일링된 영상인지 여부를 식별하는 임계 메트릭 값(또는, 제1 임계 값)에 기초하여 입력 영상(10)이 임계 해상도 이상의 원본 영상인지 또는 임계 해상도 미만의 영상이 임계 해상도 이상으로 업스케일링된 영상인지 여부를 식별할 수 있다. 예를 들어, 프로세서(120)는 입력 영상(10)에 대응되는 메트릭 값이 복수의 영상에 기초하여 실험 결과에 따라 획득된 임계 메트릭 값 이상인지 여부를 식별할 수 있다.
본 개시의 일 실시 예에 따른 프로세서(120)는 잡음이 제거된 영상(20)에 기초하여 획득한 특성 값 F가 제2 임계 값 이상이면, 메트릭 값을 증가시킬 수 있다. 메트릭 값이 증가함에 따라, 프로세서(120)는 입력 영상(10)을 임계 해상도 이상의 원본 영상으로 판단할 확률이 증가할 수 있다. 다른 예로, 잡음이 제거된 영상(20)에 기초하여 획득한 특성 값 F가 제2 임계 값 미만이면, 메트릭 값을 감소시킬 수 있다. 메트릭 값이 감소함에 따라, 프로세서(120)는 입력 영상(10)을 임계 해상도 미만의 영상이 임계 해상도 이상으로 업스케일링된 영상으로 판단할 확률이 증가할 수 있다. 프로세서(120)가 메트릭 값 및 특성 값 F를 모두 고려함에 따라 입력 영상(10)에 대한 판단 결과의 정확도가 증가할 수 있다. 여기서, 임계 해상도는 4K 또는 8K UHD를 의미할 수 있으나 반드시 이에 한정되는 것은 아니다.
한편, 본 개시의 일 실시 예에 따른 프로세서(120)는 식별 결과에 기초하여 입력 영상(10)에 상이한 영상 처리를 수행할 수 있다. 일 예로, 프로세서(120)는 입력 영상(10)이 업스케일링된 영상이면, 잡음 제거 강도를 증가시키거나, 추가적인 잡음 제거 필터를 적용할 수 있다. 또한, 프로세서(120)는 입력 영상(10)에 엣지 강화 처리를 수행할 수 있다.
다른 예로, 프로세서(120)는 입력 영상(10)이 고해상도의 원본 영상이면, 잡음 제거 강도를 감소시키거나, 추가적인 잡음 제거 필터를 적용하지 않을 수 있다. 또한, 프로세서(120)는 입력 영상(10)에 텍스처 강화 처리를 수행할 수 있다. 이는 일 실시 예이며, 프로세서(120)는 식별 결과에 따라 다양한 영상 처리 방법을 입력 영상(10)에 적용 또는 미적용할 수 있음은 물론이다. 일 예로 프로세서(120)는 입력 영상(10)을 바이패스(bypass)하고, 디스플레이를 통해 출력할 수도 있음은 물론이다.
도 10도 2에 도시된 전자 장치의 세부 구성을 나타내는 블록도이다.
도 10에 따르면, 전자 장치(100)는 입력부(110), 프로세서(120), 디스플레이(130), 입력부(140) 및 출력부(150)을 포함한다. 도 10에 대한 설명 중 도 2에 도시된 구성과 중복되는 구성에 대해서는 자세한 설명을 생략하도록 한다.
디스플레이(130)는 LCD(liquid crystal display), OLED(organic light-emitting diode), ED(Light-Emitting Diode), Micro LED, QLED(Quantum dot light-emitting diodes), LCoS(Liquid Crystal on Silicon), DLP(Digital Light Processing), QD(quantum dot) 디스플레이 패널 등과 같은 다양한 형태로 구현될 수 있다. 특히, 본 개시의 일 실시 예에 따른 프로세서(120)는 입력 영상(10) 또는 입력 영상(10)에 대한 식별 결과에 따라 입력 영상(10)에 상이한 영상 처리를 수행한 뒤 영상 처리된 최종 영상을 디스플레이하도록 디스플레이(130)를 제어할 수 있다. 일 예로, 프로세서(120)는 입력 영상이 업스케일링된 영상이면 제1 영상 처리 방법을 입력 영상(10)에 적용하고, 입력 영상이 업스케일링된 영상이 아니면 제2 영상 처리 방법을 입력 영상(10)에 적용할 수 있다. 이어서, 프로세서(120)는 식별 결과에 따라 영상 처리된 입력 영상을 디스플레이하도록 디스플레이(130)를 제어할 수 있다.
메모리(140)는 프로세서(120)와 전기적으로 연결되며, 본 개시의 다양한 실시 예를 위해 필요한 데이터를 저장할 수 있다. 예를 들어, 메모리(140)는 프로세서(120)에 포함된 롬(ROM)(예를 들어, EEPROM(electrically erasable programmable read-only memory)), 램(RAM) 등의 내부 메모리로 구현되거나, 프로세서(120)와 별도의 메모리로 구현될 수도 있다.
메모리(140)는 데이터 저장 용도에 따라 전자 장치(100)에 임베디드된 메모리 형태로 구현되거나, 전자 장치(100)에 탈부착이 가능한 메모리 형태로 구현될 수도 있다. 예를 들어, 전자 장치(100)의 구동을 위한 데이터의 경우 전자 장치(100)에 임베디드된 메모리에 저장되고, 전자 장치(100)의 확장 기능을 위한 데이터의 경우 전자 장치(100)에 탈부착이 가능한 메모리에 저장될 수 있다. 전자 장치(100)에 임베디드된 메모리로 구현되는 경우, 메모리(140)는 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나가 될 수 있다.
전자 장치(100)에 탈부착이 가능한 메모리로 구현되는 경우, 메모리(140)는 메모리 카드(예를 들어, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(multi-media card) 등), USB 포트에 연결가능한 외부 메모리(예를 들어, USB 메모리) 등이 될 수도 있다.
일 실시 예에 따르면, 메모리(140)는 프로세서(120)에 의해 실행되는 적어도 하나의 명령어를 저장할 수 있다. 여기서, 명령어는 프로세서(120)가 입력 영상(10)의 업스케일링된 영상인지 여부를 식별하고, 식별 결과를 획득하기 위한 명령어일 수 있다.
본 개시의 일 실시 예에 따르면, 메모리(140)는 본 개시에 따른 다양한 동작들에서 생성되는 데이터를 저장하는 단일 메모리로 구현될 수 있다,
출력부(150)는 음향 신호를 출력한다.
예를 들어, 출력부(150)는 프로세서(120)에서 처리된 디지털 음향 신호를 아날로그 음향 신호로 변환하고 증폭하여 출력할 수 있다. 예를 들어, 출력부(150)는 적어도 하나의 채널을 출력할 수 있는, 적어도 하나의 스피커 유닛, D/A 컨버터, 오디오 앰프(audio amplifier) 등을 포함할 수 있다. 일 예에 따라 출력부(150)는 다양한 멀티 채널 음향 신호를 출력하도록 구현될 수 있다. 이 경우, 프로세서(120)는 입력 영상의 인핸스 처리에 대응되도록 입력된 음향 신호를 인핸스 처리하여 출력하도록 출력부(150)를 제어할 수 있다. 예를 들어, 프로세서(120)는 입력된 2채널 음향 신호를 가상의 멀티 채널(예를 들어, 5.1 채널) 음향 신호로 변환하거나, 전자 장치(100')가 놓인 위치를 인식해 공간에 최적화된 입체 음향 신호로 처리하거나, 입력 영상의 타입(예를 들어 컨텐츠 장르)에 따라 최적화된 음향 신호를 제공할 수 있다. 사용자 인터페이스(160)는 버튼, 터치 패드, 마우스 및 키보드와 같은 장치로 구현되거나, 상술한 디스플레이 기능 및 조작 입력 기능도 함께 수행 가능한 터치 스크린, 리모콘 수신부 등으로 구현될 수 있다. 리모콘 송수신부는 적외선 통신, 블루투스 통신 또는 와이파이 통신 중 적어도 하나의 통신 방식을 통해 외부 원격 제어 장치로부터 리모콘 신호를 수신하거나, 리모콘 신호를 송신할 수 있다.
도 11은 본 개시의 일 실시 예에 따른 제어 방법을 설명하기 위한 흐름도이다.
도 11에 도시된 제어 방법에 따르면, 입력된 영상에 대한 잡음 제거 처리를 수행한다(S1110).
이어서, 입력 영상에 포함된 복수의 제1 픽셀 블록 중 텍스처 블록에 대한 제1 정보를 획득한다(S1120).
이어서, 잡음이 제거된 영상에 포함된 복수의 제2 픽셀 블록 중 텍스처 블록에 대한 제2 정보를 획득한다(S1130).
이어서, 복수의 제2 픽셀 블록 각각의 에너지량 중 최대 에너지량에 대한 제3 정보를 획득한다(S1140).
이어서, 제1 정보, 제2 정보 및 제3 정보에 기초하여 입력 영상이 업스케일링된 영상인지 여부를 식별한다(S1150).
여기서, 식별하는 S1150 단계는, 제1 정보에 기초하여 입력 영상에 포함된 복수의 제1 픽셀 블록 중 텍스처 블록의 제1 비율 정보를 획득하는 단계, 제2 정보에 기초하여 노이즈가 제거된 영상에 포함된 복수의 제2 픽셀 블록 중 텍스처 블록의 제2 비율 정보를 획득하는 단계 및 제1 및 제2 비율 정보 간 차이, 제2 비율 정보 및 제3 정보에 기초하여 입력 영상이 업스케일링된 영상인지 여부를 식별하는 단계를 포함할 수 있다.
또한, 제1 정보를 획득하는 S1120 단계는, 입력 영상을 제1 주파수 영역 신호로 변환하는 단계 및 제1 주파수 영역 신호에서 복수의 제1 픽셀 블록 별 에너지 정보에 기초하여 제1 정보를 획득하는 단계를 포함하고, 제2 정보를 획득하는 S1130 단계는, 노이즈가 제거된 영상을 제2 주파수 영역 신호로 변환하는 단계 및 제2 주파수 영역 신호에서 복수의 제2 픽셀 블록 별 에너지 정보에 기초하여 제2 정보를 획득하는 단계를 포함하고, 제3 정보를 획득하는 S1140 단계는, 제2 주파수 영역 신호에서 복수의 제2 픽셀 블록 각각에 대해 임계값 이상의 주파수 대역의 에너지량을 합산하여 복수의 제2 픽셀 블록 각각에 대응되는 에너지량을 획득하는 단계를 포함할 수 있다.
본 개시의 일 실시 예에 따른 제어 방법은, 제1 주파수 영역 신호에서 복수의 제1 픽셀 블록 별 에너지 정보에 기초하여 입력 영상의 특성을 나타내는 메트릭 값을 획득하는 단계를 포함하고, 식별하는 S1150 단계는, 제1 내지 제3 정보에 기초하여 메트릭 값을 조정하는 단계 및 조정된 메트릭 값을 제1 임계값과 비교하여 입력 영상이 업스케일링된 영상인지 여부를 식별하는 단계를 포함할 수 있다.
여기서, 메트릭 값을 획득하는 단계는, 제1 주파수 영역 신호에서 복수의 제1 픽셀 블록 별 에너지 정보에 기초하여 복수의 제1 픽셀 블록 중 텍스처 블록을 식별하는 단계 및 식별된 텍스처 블록의 에너지 정보에 기초하여 입력 영상의 특성을 나타내는 메트릭 값을 획득하는 단계를 포함할 수 있다.
본 개시의 일 실시 예에 따른 제어 방법은 제1 정보에 기초하여 입력 영상에 포함된 복수의 픽셀 블록 중 텍스처 블록의 제1 비율 정보를 획득하는 단계 및 제2 정보에 기초하여 노이즈가 제거된 영상에 포함된 복수의 픽셀 블록 중 텍스처 블록의 제2 비율 정보를 획득하는 단계를 포함하고, 식별하는 S1150 단계는, 제1 및 제2 비율 정보 간 차이, 제2 비율 정보 및 제3 정보에 기초하여 잡음이 제거된 영상의 특성 값을 획득하는 단계 및 획득된 특성 값이 제2 임계값 이상이면 메트릭 값을 증가시키고 획득된 특성 값이 제2 임계값 미만이면 메트릭 값을 감소시키는 단계를 포함할 수 있다.
여기서, 특성 값을 획득하는 단계는, 제1 및 제2 비율 정보 간 차이, 제2 비율 정보 및 제3 정보 각각을 노멀라이징하고, 노멀라이징된 값 각각에 상이한 가중치를 적용하여 특성 값을 획득할 수 있다.
또한, 식별하는 S1150 단계는, 입력 영상이 임계 해상도 이상의 원본 영상인지, 임계 해상도 미만의 영상이 임계 해상도 이상으로 업스케일링된 영상인지 여부를 식별할 수 있다.
또한, 일 실시 예에 따른 제어 방법은 입력 영상이 업스케일링된 영상인지 여부에 기초하여 상이한 영상 처리를 수행하는 단계를 포함할 수 있다. 또한, 영상 처리된 입력 영상을 디스플레이하는 단계를 포함할 수 있다.
다만, 본 개시의 다양한 실시 예들은 전자 장치 뿐 아니라, 셋탑 박스와 같은 영상 수신 장치, 영상 처리 장치 등 영상 처리가 가능한 모든 전자 장치에 적용될 수 있음은 물론이다.
한편, 이상에서 설명된 다양한 실시 예들은 소프트웨어(software), 하드웨어(hardware) 또는 이들의 조합을 이용하여 컴퓨터(computer) 또는 이와 유사한 장치로 읽을 수 있는 기록 매체 내에서 구현될 수 있다. 일부 경우에 있어 본 명세서에서 설명되는 실시 예들이 프로세서(120) 자체로 구현될 수 있다. 소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 동작을 수행할 수 있다.
한편, 상술한 본 개시의 다양한 실시 예들에 따른 음향 출력 장치(100)의 프로세싱 동작을 수행하기 위한 컴퓨터 명령어(computer instructions)는 비일시적 컴퓨터 판독 가능 매체(non-transitory computer-readable medium) 에 저장될 수 있다. 이러한 비일시적 컴퓨터 판독 가능 매체에 저장된 컴퓨터 명령어는 특정 기기의 프로세서에 의해 실행되었을 때 상술한 다양한 실시 예에 따른 음향 출력 장치(100)에서의 처리 동작을 특정 기기가 수행하도록 한다.
비일시적 컴퓨터 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 비일시적 컴퓨터 판독 가능 매체의 구체적인 예로는, CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등이 있을 수 있다.
이상에서는 본 개시의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 개시는 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 개시의 요지를 벗어남이 없이 당해 개시에 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 개시의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.
110: 입력부 120: 프로세서

Claims (20)

  1. 입력부; 및
    상기 입력부를 통해 입력된 영상에 대한 잡음 제거 처리를 수행하고,
    상기 입력 영상에 포함된 복수의 제1 픽셀 블록 중 텍스처 블록에 대한 제1 정보를 획득하고,
    상기 잡음이 제거된 영상에 포함된 복수의 제2 픽셀 블록 중 텍스처 블록에 대한 제2 정보를 획득하고,
    상기 복수의 제2 픽셀 블록 각각의 에너지량 중 최대 에너지량에 대한 제3 정보를 획득하며,
    상기 제1 정보, 상기 제2 정보 및 상기 제3 정보에 기초하여 상기 입력 영상이 업스케일링된 영상인지 여부를 식별하는 프로세서;를 포함하는 전자 장치.
  2. 제1항에 있어서,
    상기 프로세서는,
    상기 제1 정보에 기초하여 상기 입력 영상에 포함된 복수의 제1 픽셀 블록 중 텍스처 블록의 제1 비율 정보를 획득하고,
    상기 제2 정보에 기초하여 상기 노이즈가 제거된 영상에 포함된 복수의 제2 픽셀 블록 중 텍스처 블록의 제2 비율 정보를 획득하고,
    상기 제1 및 제2 비율 정보 간 차이, 상기 제2 비율 정보 및 상기 제3 정보에 기초하여 상기 입력 영상이 업스케일링된 영상인지 여부를 식별하는, 전자 장치.
  3. 제1항에 있어서,
    상기 프로세서는,
    상기 입력 영상을 제1 주파수 영역 신호로 변환하고,
    상기 제1 주파수 영역 신호에서 상기 복수의 제1 픽셀 블록 별 에너지 정보에 기초하여 상기 제1 정보를 획득하고,
    상기 노이즈가 제거된 영상을 제2 주파수 영역 신호로 변환하고,
    상기 제2 주파수 영역 신호에서 상기 복수의 제2 픽셀 블록 별 에너지 정보에 기초하여 상기 제2 정보를 획득하며,
    상기 제2 주파수 영역 신호에서 상기 복수의 제2 픽셀 블록 각각에 대해 임계값 이상의 주파수 대역의 에너지량을 합산하여 상기 복수의 제2 픽셀 블록 각각에 대응되는 에너지량을 획득하는, 전자 장치.
  4. 제3항에 있어서,
    상기 프로세서는,
    상기 제1 주파수 영역 신호에서 상기 복수의 제1 픽셀 블록 별 에너지 정보에 기초하여 상기 입력 영상의 특성을 나타내는 메트릭 값을 획득하고,
    상기 제1 내지 제3 정보에 기초하여 상기 메트릭 값을 조정하고,
    상기 조정된 메트릭 값을 제1 임계값과 비교하여 상기 입력 영상이 업스케일링된 영상인지 여부를 식별하는, 전자 장치.
  5. 제4항에 있어서,
    상기 프로세서는,
    상기 제1 주파수 영역 신호에서 상기 복수의 제1 픽셀 블록 별 에너지 정보에 기초하여 상기 복수의 제1 픽셀 블록 중 텍스처 블록을 식별하고,
    상기 식별된 텍스처 블록의 에너지 정보에 기초하여 상기 입력 영상의 특성을 나타내는 상기 메트릭 값을 획득하는, 전자 장치.
  6. 제4항에 있어서,
    상기 프로세서는,
    상기 제1 정보에 기초하여 상기 입력 영상에 포함된 복수의 픽셀 블록 중 텍스처 블록의 제1 비율 정보를 획득하고,
    상기 제2 정보에 기초하여 상기 노이즈가 제거된 영상에 포함된 복수의 픽셀 블록 중 텍스처 블록의 제2 비율 정보를 획득하고,
    상기 제1 및 제2 비율 정보 간 차이, 상기 제2 비율 정보 및 상기 제3 정보에 기초하여 상기 잡음이 제거된 영상의 특성 값을 획득하고,
    상기 획득된 특성 값이 제2 임계값 이상이면 상기 메트릭 값을 증가시키고 상기 획득된 특성 값이 상기 제2 임계값 미만이면 상기 메트릭 값을 감소시키는, 전자 장치.
  7. 제6항에 있어서,
    상기 프로세서는,
    상기 제1 및 제2 비율 정보 간 차이, 상기 제2 비율 정보 및 상기 제3 정보 각각을 노멀라이징하고, 노멀라이징된 값 각각에 상이한 가중치를 적용하여 상기 특성 값을 획득하는, 전자 장치.
  8. 제1항에 있어서,
    상기 프로세서는,
    상기 입력 영상이 임계 해상도 이상의 원본 영상인지, 상기 임계 해상도 미만의 영상이 상기 임계 해상도 이상으로 업스케일링된 영상인지 여부를 식별하는, 전자 장치.
  9. 제1항에 있어서,
    상기 프로세서는,
    상기 입력 영상이 업스케일링된 영상인지 여부에 기초하여 상이한 영상 처리를 수행하는, 전자 장치.
  10. 제9항에 있어서,
    디스플레이;를 더 포함하며,
    상기 영상 처리된 입력 영상을 디스플레이하도록 상기 디스플레이를 제어하는, 전자 장치.
  11. 전자 장치의 제어 방법에 있어서,
    입력된 영상에 대한 잡음 제거 처리를 수행하는 단계;
    상기 입력 영상에 포함된 복수의 제1 픽셀 블록 중 텍스처 블록에 대한 제1 정보를 획득하는 단계;
    상기 잡음이 제거된 영상에 포함된 복수의 제2 픽셀 블록 중 텍스처 블록에 대한 제2 정보를 획득하는 단계;
    상기 복수의 제2 픽셀 블록 각각의 에너지량 중 최대 에너지량에 대한 제3 정보를 획득하는 단계; 및
    상기 제1 정보, 상기 제2 정보 및 상기 제3 정보에 기초하여 상기 입력 영상이 업스케일링된 영상인지 여부를 식별하는 단계;를 포함하는 제어 방법.
  12. 제11항에 있어서,
    상기 식별하는 단계는,
    상기 제1 정보에 기초하여 상기 입력 영상에 포함된 복수의 제1 픽셀 블록 중 텍스처 블록의 제1 비율 정보를 획득하는 단계;
    상기 제2 정보에 기초하여 상기 노이즈가 제거된 영상에 포함된 복수의 제2 픽셀 블록 중 텍스처 블록의 제2 비율 정보를 획득하는 단계; 및
    상기 제1 및 제2 비율 정보 간 차이, 상기 제2 비율 정보 및 상기 제3 정보에 기초하여 상기 입력 영상이 업스케일링된 영상인지 여부를 식별하는 단계;를 포함하는, 제어 방법.
  13. 제11항에 있어서,
    상기 제1 정보를 획득하는 단계는,
    상기 입력 영상을 제1 주파수 영역 신호로 변환하는 단계; 및
    상기 제1 주파수 영역 신호에서 상기 복수의 제1 픽셀 블록 별 에너지 정보에 기초하여 상기 제1 정보를 획득하는 단계;를 포함하고,
    상기 제2 정보를 획득하는 단계는,
    상기 노이즈가 제거된 영상을 제2 주파수 영역 신호로 변환하는 단계; 및
    상기 제2 주파수 영역 신호에서 상기 복수의 제2 픽셀 블록 별 에너지 정보에 기초하여 상기 제2 정보를 획득하는 단계;를 포함하고,
    상기 제3 정보를 획득하는 단계는,
    상기 제2 주파수 영역 신호에서 상기 복수의 제2 픽셀 블록 각각에 대해 임계값 이상의 주파수 대역의 에너지량을 합산하여 상기 복수의 제2 픽셀 블록 각각에 대응되는 상기 에너지량을 획득하는 단계;를 포함하는, 제어 방법.
  14. 제11항에 있어서,
    상기 제1 주파수 영역 신호에서 상기 복수의 제1 픽셀 블록 별 에너지 정보에 기초하여 상기 입력 영상의 특성을 나타내는 메트릭 값을 획득하는 단계;를 포함하고,
    상기 식별하는 단계는,
    상기 제1 내지 제3 정보에 기초하여 상기 메트릭 값을 조정하는 단계; 및
    상기 조정된 메트릭 값을 제1 임계값과 비교하여 상기 입력 영상이 업스케일링된 영상인지 여부를 식별하는 단계;를 포함하는, 제어 방법.
  15. 제14항에 있어서,
    상기 메트릭 값을 획득하는 단계는,
    상기 제1 주파수 영역 신호에서 상기 복수의 제1 픽셀 블록 별 에너지 정보에 기초하여 상기 복수의 제1 픽셀 블록 중 텍스처 블록을 식별하는 단계; 및
    상기 식별된 텍스처 블록의 에너지 정보에 기초하여 상기 입력 영상의 특성을 나타내는 상기 메트릭 값을 획득하는 단계;를 포함하는, 제어 방법.
  16. 제14항에 있어서,
    상기 제1 정보에 기초하여 상기 입력 영상에 포함된 복수의 픽셀 블록 중 텍스처 블록의 제1 비율 정보를 획득하는 단계; 및
    상기 제2 정보에 기초하여 상기 노이즈가 제거된 영상에 포함된 복수의 픽셀 블록 중 텍스처 블록의 제2 비율 정보를 획득하는 단계;를 포함하고,
    상기 식별하는 단계는,
    상기 제1 및 제2 비율 정보 간 차이, 상기 제2 비율 정보 및 상기 제3 정보에 기초하여 상기 잡음이 제거된 영상의 특성 값을 획득하는 단계; 및
    상기 획득된 특성 값이 제2 임계값 이상이면 상기 메트릭 값을 증가시키고 상기 획득된 특성 값이 상기 제2 임계값 미만이면 상기 메트릭 값을 감소시키는 단계;를 포함하는, 제어 방법.
  17. 제16항에 있어서,
    상기 특성 값을 획득하는 단계는,
    상기 제1 및 제2 비율 정보 간 차이, 상기 제2 비율 정보 및 상기 제3 정보 각각을 노멀라이징하고, 노멀라이징된 값 각각에 상이한 가중치를 적용하여 상기 특성 값을 획득하는, 제어 방법.
  18. 제11항에 있어서,
    상기 식별하는 단계는,
    상기 입력 영상이 임계 해상도 이상의 원본 영상인지, 상기 임계 해상도 미만의 영상이 상기 임계 해상도 이상으로 업스케일링된 영상인지 여부를 식별하는, 제어 방법.
  19. 제11항에 있어서,
    상기 입력 영상이 업스케일링된 영상인지 여부에 기초하여 상이한 영상 처리를 수행하는 단계;를 포함하는, 제어 방법.
  20. 제19항에 있어서,
    상기 영상 처리된 입력 영상을 디스플레이하는 단계;를 포함하는, 제어 방법.
KR1020190083789A 2019-07-11 2019-07-11 전자 장치 및 그 제어 방법 KR20210007393A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020190083789A KR20210007393A (ko) 2019-07-11 2019-07-11 전자 장치 및 그 제어 방법
US16/924,354 US11893712B2 (en) 2019-07-11 2020-07-09 Electronic device and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190083789A KR20210007393A (ko) 2019-07-11 2019-07-11 전자 장치 및 그 제어 방법

Publications (1)

Publication Number Publication Date
KR20210007393A true KR20210007393A (ko) 2021-01-20

Family

ID=74102719

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190083789A KR20210007393A (ko) 2019-07-11 2019-07-11 전자 장치 및 그 제어 방법

Country Status (2)

Country Link
US (1) US11893712B2 (ko)
KR (1) KR20210007393A (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11727621B2 (en) * 2021-06-02 2023-08-15 Nvidia Corporation Spatio-temporal noise masks and sampling using vectors for image processing and light transport simulation systems and applications
US20240037718A1 (en) * 2022-08-01 2024-02-01 The Boeing Company Systems and methods for removing grid lines from digital graph images

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002374502A (ja) 2001-06-14 2002-12-26 Matsushita Electric Ind Co Ltd 信号識別方法、信号識別装置
KR100759141B1 (ko) 2005-11-30 2007-09-14 엘지전자 주식회사 방송 신호의 종류에 따른 영상처리부 세팅 장치 및 방법
KR101156117B1 (ko) 2007-08-02 2012-07-03 삼성전자주식회사 영상 검출 장치 및 영상 검출 방법
KR20100071400A (ko) 2008-12-19 2010-06-29 엘지전자 주식회사 영상 처리 방법 및 그 방법을 채용한 영상기기
KR102207940B1 (ko) 2013-12-13 2021-01-26 한화테크윈 주식회사 영상 노이즈 제거 방법 및 시스템

Also Published As

Publication number Publication date
US20210012465A1 (en) 2021-01-14
US11893712B2 (en) 2024-02-06

Similar Documents

Publication Publication Date Title
US10963995B2 (en) Image processing apparatus and image processing method thereof
KR102661879B1 (ko) 영상 처리 장치 및 그 영상 처리 방법
KR102410907B1 (ko) 영상 처리 장치 및 그 영상 처리 방법
KR102675806B1 (ko) 영상 처리 장치 및 그 영상 처리 방법
KR20200079697A (ko) 영상 처리 장치 및 그 영상 처리 방법
US11295412B2 (en) Image processing apparatus and image processing method thereof
US11100607B2 (en) Electronic apparatus and control method for updating parameters of neural networks while generating high-resolution images
KR20210007393A (ko) 전자 장치 및 그 제어 방법
JP6918150B2 (ja) ディスプレイ装置及びその映像処理方法
KR102210940B1 (ko) 전자 장치 및 그 영상 처리 방법
KR20200080926A (ko) 영상 처리 장치 및 그 영상 처리 방법
KR20210108027A (ko) 전자 장치 및 그 제어 방법
KR20210062485A (ko) 전자 장치 및 그 제어 방법
US11961214B2 (en) Electronic apparatus and image processing method thereof
KR102160123B1 (ko) 컨텐츠에 대한 영상 후처리를 위한 디스플레이 장치, 영상 후처리 장치 및 방법
KR20220158525A (ko) 전자 장치 및 그 영상 처리 방법
KR20240034010A (ko) 전자 장치 및 그 영상 처리 방법
KR20220141543A (ko) 전자 장치 및 그 제어 방법