KR20210077579A - Hdr 영상을 생성하는 전자 장치 및 그 동작 방법 - Google Patents

Hdr 영상을 생성하는 전자 장치 및 그 동작 방법 Download PDF

Info

Publication number
KR20210077579A
KR20210077579A KR1020200090566A KR20200090566A KR20210077579A KR 20210077579 A KR20210077579 A KR 20210077579A KR 1020200090566 A KR1020200090566 A KR 1020200090566A KR 20200090566 A KR20200090566 A KR 20200090566A KR 20210077579 A KR20210077579 A KR 20210077579A
Authority
KR
South Korea
Prior art keywords
image
chroma
blending
value
patch
Prior art date
Application number
KR1020200090566A
Other languages
English (en)
Inventor
루이원 젠
윌리엄 존 글로츠바흐
라힘 하미드 셰이크
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to PCT/KR2020/010535 priority Critical patent/WO2021125490A1/ko
Publication of KR20210077579A publication Critical patent/KR20210077579A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/90—Dynamic range modification of images or parts thereof
    • G06T5/007—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/64—Circuits for processing colour signals
    • H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/174—Segmentation; Edge detection involving the use of two or more images
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20172—Image enhancement details
    • G06T2207/20208—High dynamic range [HDR] image processing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20212—Image combination
    • G06T2207/20221—Image fusion; Image merging

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)

Abstract

서로 다른 노출 정도로 촬영된 제1 영상 및 제2 영상을 획득하고, 제1 영상 및 제2 영상 간 대응되는 영역에 기초하여, 제1 영상 및 제2 영상에서, 서로 대응되는 영상 영역을 포함하는, 제1 패치 영역을 설정하고, 제1 패치 영역에 포함된, 제1 영상의 적어도 하나의 크로마 값과 제2 영상의 적어도 하나의 크로마 값 간의 유사도에 기초하여, 제1 패치 영역에 대한 제1 가중치 값을 결정하고, 제1 가중치 값에 기초하여, 제1 패치 영역에 포함된 제1 영상의 적어도 하나의 크로마 값과 제2 영상의 적어도 하나의 크로마 값을 블렌딩하고, 제1 패치 영역에서, 크로마 값들이 블렌딩된 결과에 기초하여, 제1 영상 및 제2 영상을 블렌딩함으로써, HDR 영상을 생성하는 방법이 제공된다.

Description

HDR 영상을 생성하는 전자 장치 및 그 동작 방법 {Electronic device and operating method for generating high dynamic range image}
본 개시는 HDR 영상을 생성하는 전자 장치 및 그 동작 방법에 관한 것이다. 보다 구체적으로, 본 개시는 여러 이미지들을 합성함으로써, HDR 영상을 생성하는 전자 장치 및 그 동작 방법에 관한 것이다.
자연 장면(natural scene)은 종종, 통상의 디지털 카메라들의 촬영 범위를 초과하는, 높은 동적 범위(high dynamic range: HDR)를 갖는다. 자연 장면이 촬영된 디지털 사진은, 과소 노출 또는 과다 노출 영역에서, 충분한 디테일(details)을 제공하지 않을 수 있다.
따라서, 각각 다른 노출 정도로 촬영된 영상들로부터, 디지털 사진의 과소 노출 또는 과다 노출 영역에서도 충분한 디테일이 제공되는, HDR 영상을 생성하는 방법이 필요하다.
HDR 영상은, 여러장의 정적인 스틸 영상이 블렌딩됨으로써, 생성될 수 있으나, 스틸 영상 간 물체의 움직임이 존재하는 경우, HDR 영상은, 물체의 움직임에 의한 고스트 아티팩트가 발생될 수 있는 문제점이 존재한다.
또한, 고스트 아티팩트 중 크로마 채널에서, 발생된 고스트 아티팩트는, 영상에서, 빨강, 초록, 노랑 등의 색상으로 나타날 수 있다. 기존의 고스트 아티팩트를 제거하는 방법에 의하면, 루마 채널의 고스트 아티팩트는 제거됨에도 불구하고, 일부 영상 영역(ex. 어두운 영역)의 크로마 채널에서 발생된 고스트 아티팩트는 제거되지 않는 문제점이 존재한다. 따라서, 크로마 채널의 고스트 아티팩트를 효과적으로 제거하는 방법이 필요하다.
본 개시가 해결하고자 하는 과제는 전술한 문제를 해결하기 위한 것으로서, HDR 영상을 생성하는 전자 장치 및 그 동작 방법을 제공하기 위한 것이다.
또한, 상기 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체를 제공하는 데 있다. 해결하려는 기술적 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 개시의 제1 측면은, HDR 영상을 생성하는 방법에 있어서, 서로 다른 노출 정도로 촬영된 제1 영상 및 제2 영상을 획득하는 단계; 상기 제1 영상 및 제2 영상 간 대응되는 영역에 기초하여, 상기 제1 영상 및 제2 영상에서, 서로 대응되는 영상 영역을 포함하는, 제1 패치 영역을 설정하는 단계; 상기 제1 패치 영역에 포함된, 상기 제1 영상의 적어도 하나의 크로마 값과 상기 제2 영상의 적어도 하나의 크로마 값 간의 유사도에 기초하여, 상기 제1 패치 영역에 대한 제1 가중치 값을 결정하는 단계; 상기 제1 가중치 값에 기초하여, 상기 제1 패치 영역에 포함된 상기 제1 영상의 적어도 하나의 크로마 값과 상기 제2 영상의 적어도 하나의 크로마 값을 블렌딩하는 단계; 및 상기 제1 패치 영역에서, 상기 크로마 값들이 블렌딩된 결과에 기초하여, 상기 제1 영상 및 상기 제2 영상을 블렌딩함으로써, 상기 HDR 영상을 생성하는 단계를 포함하는, 방법이 제공될 수 있다.　
또한, 본 개시의 제2 측면은, HDR 영상을 생성하는 전자 장치에 있어서, 서로 다른 노출 정도로 촬영된 제1 영상 및 제2 영상을 획득하고, 상기 제1 영상 및 제2 영상 간 대응되는 영역에 기초하여, 상기 제1 영상 및 제2 영상에서, 서로 대응되는 영상 영역을 포함하는, 제1 패치 영역을 설정하고, 상기 제1 패치 영역에 포함된, 상기 제1 영상의 적어도 하나의 크로마 값과 상기 제2 영상의 적어도 하나의 크로마 값 간의 유사도에 기초하여, 상기 제1 패치 영역에 대한 제1 가중치 값을 결정하고, 상기 제1 가중치 값에 기초하여, 상기 제1 패치 영역에 포함된 상기 제1 영상의 적어도 하나의 크로마 값과 상기 제2 영상의 적어도 하나의 크로마 값을 블렌딩하고, 상기 제1 패치 영역에서, 상기 크로마 값들이 블렌딩된 결과에 기초하여, 상기 제1 영상 및 상기 제2 영상을 블렌딩함으로써, 상기 HDR 영상을 생성하는 적어도 하나의 프로세서; 및 상기 생성된 HDR 영상을 출력하는 출력부를 포함하는, 전자 장치가 제공될 수 있다.　
또한, 본 개시의 제3 측면은, 제1 측면의 방법을 수행하도록 하는 프로그램이 저장된 기록매체를 제공할 수 있다.
일 실시 예에 의하면, 다양한 노출의 영상들에 기초하여, 크로마 채널에서 발생된 다양한 색상의 고스트 아티팩트가 효과적으로 제거된 HDR 영상이 생성될 수 있다.
도 1은 일 실시 예에 의한 HDR 영상을 생성하는 일 예를 설명하기 위한 블록도이다.
도 2는 일 실시 예에 의한 크로마 채널에 대한 블렌딩에 기초하여, HDR 영상을 생성하는 일 예를 나타낸 블록도이다.
도 3은 일 실시 예에 의한 패치 기반 크로마 값들을 블렌딩하는 일 예를 나타낸 도면이다.
도 4는 일 실시 예에 의한 전자 장치의 내부 구성을 설명하기 위한 블록도이다.
도 5는 일 실시 예에 의한 전자 장치의 내부 구성을 설명하기 위한 블록도이다.
도 6은 일 실시 예에 의한 HDR 영상을 생성하는 방법을 나타낸 순서도이다.
도 7은 일 실시 예에 의한 HDR 영상을 생성하는 일 예를 나타낸 도면이다.
도 8은 일 실시 예에 의한 복수 개의 영상에 기초하여 HDR 영상을 생성하는 일 예를 나타낸 도면이다.
아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
이하 첨부된 도면을 참고하여 본 발명을 상세히 설명하기로 한다.
도 1은 일 실시 예에 의한 HDR 영상을 생성하는 일 예를 설명하기 위한 블록도이다.
일 실시 예에 의한 HDR 영상은, 정적인 복수 개의 영상이 정합됨으로써, 생성될 수 있다. 일 실시 예에 따른 복수 개의 영상은 서로 다른 노출로 촬영된 스틸 영상일 수 있다.
도 1을 참조하면, 일 실시 예에 의한 HDR 영상은, HDR 영상을 생성하는 전자 장치(1000)에서, 서로 다른 노출로 촬영된 복수 개의 영상이, 영상 정렬(110), 블렌딩(120) 및 HDR 영상 생성(130)에 따라 차례대로 처리됨으로써, 생성될 수 있다.
일 실시 예에 따라 복수 개의 영상이 촬영되는 동안, 영상의 피사체가 움직이는 경우, 피사체의 잔상이 영상에 포함됨으로 인해, 각 영상에서 고스트 아티팩트가 발생될 수 있다. 일 실시 예에 의하면, HDR 영상의 고스트 아티팩트가 최소화될 수 있도록, 블렌딩(120)이 수행될 수 있다.
일 실시 예에 의한 영상 정렬(110)에서는, 복수 개의 영상들 간 대응되는 특징점들이 매칭됨으로써, 복수 개의 영상들이 정렬될 수 있다. 예를 들면, 영상 전역에 포함된, 라인, 코너 등의 영상의 특징과 대응되는 특징점들이 추출되고, 추출된 특징점들이 영상들 간에 매칭될 수 있다.
일 실시 예에 의한 블렌딩(120)에서는, 영상 정렬(110)된 결과에 따라 영상들 간에 매칭된 각각의 픽셀에서, 복수 개의 영상들이 블렌딩될 수 있다. 일 실시 예에 의하면, 복수 개 영상에 대하여, 하나의 기준 영상과, 적어도 하나의 비기준 영상이 결정될 수 있다. 예를 들면, 고스트 아티팩트를 가장 적게 포함하는 영상(ex. 노출 정도가 가장 낮거나, 셔터 스피드 속도가 가장 높은 영상)이 기준 영상으로 결정될 수 있다.
일 실시 예에 의하면 기준 영상 및 비기준 영상 간의 비교를 통해, 각 영역에 대한 움직임 정도에 따라 블렌딩이 수행됨으로써, HDR 영상에 포함된 움직임에 의한 고스트 아티팩트가 최소화될 수 있다.
그러나, 일 실시 예에 따른 블렌딩(120)은, 루마 채널의 값을 기준으로, 움직임에 의한 고스트 아티팩트를 최소화할 수 있도록 수행됨에 따라서, 크로마 채널에서의 고스트 아티팩트는 충분히 제거되지 않을 수 있다. 예를 들면, 블렌딩(120) 시, 루마 채널의 값을 기준으로 한 파라미터가 이용됨에 따라서, 크로마 채널에서의 고스트 아티팩트는 충분히 제거되지 않을 수 있다. 따라서, 일 실시 예에 의하면, 루마 채널과는 별개로, 크로마 채널에서 추가적인 블렌딩이 수행됨으로써, 다양한 색상의 고스트 아티팩트가 효과적으로 제거될 수 있다.
일 실시 예에 의하면, 픽셀 값 중 크로마 채널에서 추가적으로 블렌딩이 수행됨으로써, 복수 개의 영상에서 발생된 다양한 색상의 고스트 아티팩트가 더 효과적으로 제거될 수 있다.
일 실시 예에 의한 영상의 픽셀 값은, 루마 채널의 값과 크로마 채널의 값으로 구성될 수 있다. 예를 들면, 영상의 픽셀 값이, YCbCr 포맷의 값인 경우, 루마 채널은 Y 값, 크로마 채널은 Cb 및 Cr 값을 포함할 수 있다.
일 실시 예에 의한 HDR 영상 생성(130)에서 전자 장치(1000)는, 블렌딩(120) 결과에 기초하여, HDR 영상을 생성할 수 있다. 예를 들면, 움직임 정도에 따라 고스트 아티팩트가 최소화된 블렌딩 결과 중 크로마 채널의 결과값과, 크로마 채널에서 추가적으로 수행된 블렌딩 결과 값에 기초하여, HDR 영상이 생성될 수 있다.
일 예로, HDR 영상의 크로마 채널의 값들이, 크로마 채널에서 추가적으로 수행된 블렌딩 결과 값으로 대체될 수 있다. 또는, 움직임 정도에 따라 고스트 아티팩트가 최소화된 블렌딩 결과와 크로마 채널에서 추가적으로 수행된 블렌딩 결과가 가중치 결합된 값으로 HDR 영상의 크로마 채널의 값이 결정될 수 있다. 상술한 예에 한하지 않고, 다양한 방법에 따라서, 크로마 채널에서 추가적으로 수행된 블렌딩 결과에 기초하여, HDR 영상의 크로마 채널의 값이 결정될 수 있다.
일 실시 예에 따라 생성된 HDR 영상에 대해, 톤 매핑, 노이즈 필터링 및 엣지 강화 등의 동작이 더 수행될 수 있다. 상술한 예에 한하지 않고, 블렌딩(120)이 완료된, HDR 영상에 대하여, HDR 영상을 최적화하기 위한 다양한 종류의 동작이 더 수행될 수 있다.
도 2는 일 실시 예에 의한 크로마 채널에 대한 블렌딩에 기초하여, HDR 영상을 생성하는 일 예를 나타낸 블록도이다.
도 2를 참조하면, 일 실시 예에 의한 HDR 영상은, 전자 장치(1000)에 의해, 서로 다른 노출로 촬영된 복수 개의 영상이, 영상 정렬(110), 블렌딩(120) 및 HDR 영상 생성(130)에 따라 차례대로 처리됨으로써, 생성될 수 있다.
도 2의 영상 정렬(210), 블렌딩(220) 및 HDR 영상 생성(230)은, 도 1의 영상 정렬(110), 블렌딩(120) 및 HDR 영상 생성(130)과 대응된다. 도 2의 블렌딩(220)은, 도 1의 블렌딩(120)과 대응되나, 더 구체적인 동작들(221 내지 225)을 포함한다.
일 실시 예에 의한 영상 정렬(210)에서는, 복수 개의 영상들 간 대응되는 특징점들이 매칭됨으로써, 복수 개의 영상들이 정렬될 수 있다.
일 실시 예에 의한 블렌딩(220)에서는, 영상 정렬(210)된 결과에 따라 영상들 간에 대응되는 각각의 픽셀 값들이 블렌딩됨으로써, 복수 개의 영상들이 블렌딩될 수 있다.
일 실시 예에 의한 블렌딩(220)은, 히스토그램 매칭(221), 루마/크로마 분리(222, 223), 움직임 정도에 기초한 블렌딩(224) 및 패치 기반 크로마 블렌딩(225)을 통해 수행될 수 있다.
일 실시 예에 의한 히스토그램 매칭(221)에서, 전자 장치(1000)는, 기준 영상을 기준으로, 기준 영상과 비기준 영상의 히스토그램이 매칭되도록, 비기준 영상을 조정할 수 있다. 일 실시 예에 의한 히스토그램 매칭에 의하면 영상들의 색분포가 일치될 수 있도록, 비기준 영상이 조정됨에 따라, 두 영상 간 밝기 및 색감이 일치될 수 있다.
일 실시 예에 따라, 두 영상에 대한 히스토그램이 매칭된 후, 움직임 정도에 기초한 블렌딩(224)이 수행될 수 있다.
또한, 일 실시 예에 의하면, 크로마 채널에서의 블렌딩(225)이 수행될 수 있도록, 기준 영상 및 비기준 영상에서 루마 채널 및 크로마 채널의 픽셀 값들이 분리(222, 223)될 수 있다. 일 실시 예에 의한 채널 분리(222, 223)가 수행된 이후에, 움직임 정도에 기초한 블렌딩(224) 및 크로마 채널에서의 블렌딩(225)이 수행될 수 있다.
일 실시 예에 의한 움직임 정도에 기초한 블렌딩(224)에서, 전자 장치(1000)는 기준 영상과 비기준 영상의 픽셀값들에 기초하여, 움직임 정도에 따라 노이즈를 제거(224-1)함으로써, 블렌딩을 수행할 수 있다. 일 실시 예에 의한 움직임 정도에 기초한 블렌딩(224)은, 움직임에 의해 발생될 수 있는 고스트 아티팩트를 최소화하면서 수행되는 블렌딩(224)을 포함할 수 있다. 예를 들면, 각 영역의 움직임 정도에 기초하여, 비기준 영상 및 기준 영상 간 블렌딩 비율이 결정됨으로써, 블렌딩(224)이 수행될 수 있다. 상술한 예에 한하지 않고, 비기준 영상 및 기준 영상 간의 블렌딩(224)은, 다양한 방법에 따라서, 수행될 수 있다.
또한, 일 실시 예에 의한 전자 장치(1000)는 블렌딩 수행 결과 획득된 HDR 영상에 대해, 노이즈 필터링 및 엣지 강화(224-2) 등의 후처리를 추가적으로 수행할 수 있다. 일 실시 예에 의한 노이즈 필터링 및 엣지 강화(224-2) 등의 후처리는, 상술한 예에 한하지 않고, HDR 영상이 생성(230)된 후에 수행될 수도 있다.
일 실시 예에 의하면, 기준 영상 및 비기준 영상의 크로마 채널의 픽셀 값에 기초하여, 패치 기반 크로마 블렌딩(225)이 수행될 수 있다.
일 실시 예에 의한 패치 기반 크로마 블렌딩(225)에서, 전자 장치(1000)는, 기준 영상 및 비기준 영상에서, 미리 정해진 일정한 크기의 패치(ex. NxN)를 설정할 수 있다. 일 실시 예에 의한 패치는 상술한 예에 한하지 않고, 다양한 크기로 설정될 수 있다. 일 실시 예에 의하면, 기준 영상 및 비기준 영상에서 설정되는 패치들은, 영상 정렬(210) 결과에 따라, 서로 대응되는 영상 영역을 포함하도록, 서로 동일한 크기로 설정될 수 있다.
일 실시 예에 의하면, 패치에 포함된 기준 영상의 크로마 값들과, 비기준 영상의 크로마 값들 간의 유사도에 기초하여, 상기 패치에 대한 하나의 가중치 값이 결정될 수 있다. 일 실시 예에 의하면 상기 가중치 값에 기초하여, 패치에 포함된, 기준 영상의 크로마 값들과, 비기준 영상의 크로마 값들이 블렌딩됨으로써, 패치 기반 크로마 블렌딩(225)이 수행될 수 있다.
일 실시 예에 의한 HDR 영상 생성(230)에서 전자 장치(1000)는, 패치 기반 크로마 블렌딩(225) 및 움직임 기반 블렌딩(224)이 수행된 결과(220)에 기초하여, HDR 영상을 생성할 수 있다. 예를 들면, 움직임 정도에 따라 블렌딩된 결과(224) 중 크로마 채널의 결과값과, 패치 기반 크로마 값들이 블렌딩된 결과 값에 기초하여, HDR 영상의 크로마 채널의 값이 결정될 수 있다. 또한, HDR 영상의 루마 채널의 값은, 움직임 정도에 따라 블렌딩된 결과(224)에 기초하여 결정될 수 있다. 상술한 예에 한하지 않고, HDR 영상의 루마 채널의 값은, 다양한 방법에 따라서, 기준 영상과 비기준 영상이 블렌딩된 결과에 기초하여 결정될 수 있다.
도 3은 일 실시 예에 의한 패치 기반 크로마 값들을 블렌딩하는 일 예를 나타낸 도면이다.
도 3을 참조하면, 전자 장치(1000)는, 복수 개의 영상들 중 기준 영상(310) 및 비기준 영상(320)에서, 크로마 값들을 블렌딩하기 위한 패치 영역(331, 333)을 설정할 수 있다. 일 실시 예에 의한 패치 영역(331, 333)은, 영상 정렬에 따라 서로 대응되는 영역으로 설정될 수 있다.
일 실시 예에 의한 각 패치 영역(331, 333)에 대해, 이하 수학식 1에 따라 획득될 수 있는 유사도에 따라서, 수학식 2에 따른 가중치 값이 결정될 수 있다.
[수학식 1]
Figure pat00001
[수학식 2]
Figure pat00002
수학식 1에서, N은, 패치 영역의 크기가 NXN으로 설정된 경우에, 패치 영역의 크기에 따라 결정되는 값을 나타내고, Cbr, Crr은 기준 영상의 크로마 채널의 값, Cbnr, Crnr은 비기준 영상의 크로마 채널의 값을 나타낸다.
또한, 수학식 2에서, σ는, 일 실시 예에 의한 크로마 채널의 블렌딩의 결과가 최적의 값으로 획득될 수 있는 상수 값으로 미리 설정될 수 있다.
일 실시 예에 따른 유사도는, 기준 영상(310) 비기준 영상(320)의 패치 영역(331 또는 333)에 포함된 크로마 값들 간의 유사한 정도를 나타낼 수 있다. 유사도가 낮을수록, 기준 영상(310)의 크로마 값이 비기준 영상의 크로마 값보다 더 높은 비율로 블렌딩되도록 수학식 2의 가중치 값(W)이 결정될 수 있다.
일 실시 예에 의하면 상술한 수학식 1 및 2에 한하지 않고, 다양한 방법에 따라, 크로마 값들 간의 유사도(D) 및 유사도에 기초한 가중치 값(W)이 결정될 수 있다.
일 실시 예에 의한 크로마 값들은, 이하 수학식 3에 의하여, 가중치 값(W)에 기초하여, 기준 영상(310)의 크로마 값들 및 비기준 영상(320)의 크로마 값들(332)이 블렌딩됨으로써, 결정될 수 있다.
[수학식 3]
Figure pat00003
수학식 3의 "win"은 윈도우 함수(340, 341)로서 이하 수학식 4와 같이 나타날 수 있다.
[수학식 4]
Figure pat00004
일 실시 예에 의한 윈도우 함수(341)는, 패치 단위로 크로마 값들이 블렌딩됨에 따라, 패치 바운더리에서, 경계선이 나타나지 않도록, 블렌딩된 크로마 값에 추가적으로 적용될 수 있다. 따라서, 일 실시 예에 의하면, 두 개의 패치 영역들(331, 333)은, 서로 겹치게 설정될 수 있고, 윈도우 함수(341)의 값은, 패치 영역들(331, 333)이 서로 겹치는 영역에서, 두 패치 영역들(331, 333)에 대한 윈도우 함수들(343, 344)의 합이 1이 되도록(342) 결정될 수 있다.
일 실시 예에 의하면, 패치 영역들(331, 333)이 서로 겹치는 영역에서, 크로마 값들에 적용되는 윈도우 함수들(343, 344)의 합이 1 되도록(342) 윈도우 함수들(343, 344)의 값이 결정됨에 따라, 패치 바운더리에서, 나타날 수 있는 경계선이 최소화될 수 있다.
일 실시 예에 의한 윈도우 함수(341)의 X 및 Y 값은, 패치 영역의 어느 한 점(ex. 좌측 위)을 원점으로 한, 크로마 값의 상대적인 위치에 따라 결정될 수 있다. 예를 들어, 가로 및 세로 길이가 N 크기인 패치 영역에 대해, 윈도우 함수(341)의 X, Y 값들은, 패치 영역 내의 어느 한 원점을 기준으로 하는, 위치에 따라, 1에서 N-1까지의 값을 가질 수 있다.
도 4는 일 실시 예에 의한 전자 장치(1000)의 내부 구성을 설명하기 위한 블록도이다.
도 5는 일 실시 예에 의한 전자 장치(1000)의 내부 구성을 설명하기 위한 블록도이다.
도 4를 참조하면, 전자 장치(1000)는, 프로세서(1300) 및 출력부(1200)을 포함할 수 있다. 그러나, 도 4에 도시된 구성 요소 모두가 전자 장치(1000)의 필수 구성 요소인 것은 아니다. 도 4에 도시된 구성 요소보다 많은 구성 요소에 의해 전자 장치(1000)가 구현될 수도 있고, 도 4에 도시된 구성 요소보다 적은 구성 요소에 의해 전자 장치(1000)가 구현될 수도 있다.
예를 들면, 전자 장치(1000)는 도 5에 도시된 바와 같이, 일 실시예에 따른 전자 장치(1000)는, 프로세서(1300) 및 출력부(1200) 이외에 사용자 입력부(1100), 센싱부(1400), 통신부(1500), A/V 입력부(1600) 및 메모리(1700)를 더 포함할 수도 있다.
사용자 입력부(1100)는, 사용자가 전자 장치(1000)를 제어하기 위한 데이터를 입력하는 수단을 의미한다. 예를 들어, 사용자 입력부(1100)에는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(접촉식 정전 용량 방식, 압력식 저항막 방식, 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력 측정 방식, 피에조 효과 방식 등), 조그 휠, 조그 스위치 등이 있을 수 있으나 이에 한정되는 것은 아니다.
일 실시 예에 의하면, 사용자 입력부(1100)는, 복수 개의 영상들에 기초하여, HDR 영상을 생성하기 위한 사용자 입력을 수신할 수 있다.
출력부(1200)는, 오디오 신호 또는 비디오 신호 또는 진동 신호를 출력할 수 있으며, 출력부(1200)는 디스플레이부(1210), 음향 출력부(1220), 및 진동 모터(1230)를 포함할 수 있다.
디스플레이부(1210)는 전자 장치(1000)에서 처리되는 정보를 표시 출력한다. 일 실시 예에 의하면, 디스플레이부(1210)는 복수 개의 영상들에 기초하여, 생성된 HDR 영상을 표시할 수 있다.
한편, 디스플레이부(1210)와 터치패드가 레이어 구조를 이루어 터치 스크린으로 구성되는 경우, 디스플레이부(1210)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 디스플레이부(1210)는 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발광 다이오드(organic light-emitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전기영동 디스플레이(electrophoretic display) 중에서 적어도 하나를 포함할 수 있다. 그리고 전자 장치(1000)의 구현 형태에 따라 전자 장치(1000)는 디스플레이부(1210)를 2개 이상 포함할 수도 있다.
음향 출력부(1220)는 통신부(1500)로부터 수신되거나 메모리(1700)에 저장된 오디오 데이터를 출력한다. 진동 모터(1230)는 진동 신호를 출력할 수 있다. 또한, 진동 모터(1230)는 터치스크린에 터치가 입력되는 경우 진동 신호를 출력할 수도 있다. 일 실시 예에 의하면, 음향 출력부(1220) 및 진동 모터(1230)는 HDR 영상이 생성된 결과와 관련된 정보를 출력할 수 있다.
프로세서(1300)는, 통상적으로 전자 장치(1000)의 전반적인 동작을 제어한다. 예를 들어, 프로세서(1300)는, 메모리(1700)에 저장된 프로그램들을 실행함으로써, 사용자 입력부(1100), 출력부(1200), 센싱부(1400), 통신부(1500), A/V 입력부(1600) 등을 전반적으로 제어할 수 있다.
전자 장치(1000)는 적어도 하나의 프로세서(1300)를 포함할 수 있다. 예를 들면, 전자 장치(1000)는 CPU(Central Processing Unit), GPU(Graphics Processing Unit), NPU(Neural Processing Unit) 등의 다양한 종류의 프로세서를 포함할 수 있다.
프로세서(1300)는 기본적인 산술, 로직 및 입출력 연산을 수행함으로써, 컴퓨터 프로그램의 명령을 처리하도록 구성될 수 있다. 명령은 메모리(1700)로부터 프로세서(1300)에 제공되거나, 통신부(1500)를 통해 수신되어 프로세서(1300)로 제공될 수 있다. 예를 들면 프로세서(1300)는 메모리와 같은 기록 장치에 저장된 프로그램 코드에 따라 명령을 실행하도록 구성될 수 있다.
일 실시 예에 의한 프로세서(1300)는 서로 다른 노출 정도로 촬영된 제1 영상 및 제2 영상 간 대응되는 영역에 기초하여, 제1 영상 및 제2 영상에서, 제1 패치 영역을 설정할 수 있다. 또한, 프로세서(1300)는 각 영상의 제1 패치 영역에 포함된, 크로마 값들 간의 유사도에 기초하여, 제1 패치 영역에 대한 제1 가중치 값을 결정할 수 있다. 예를 들면, 제1 가중치 값은, 유사도가 낮을 수록, 제1 영상 및 제2 영상 중에서 결정된 기준 영상의 크로마 값이 비기준 영상의 크로마 값보다 더 높은 비율로 블렌딩되도록 결정될 수 있다.
일 실시 예에 의한 프로세서(1300)는 제1 가중치 값에 기초하여, 제1 패치 영역에 포함된 제1 영상 및 제2 영상의 크로마 값들을 블렌딩하고, 크로마 값들이 블렌딩된 결과에 기초하여, 제1 영상 및 제2 영상을 블렌딩함으로써, HDR 영상을 생성할 수 있다.
센싱부(1400)는, 전자 장치(1000)의 상태 또는 전자 장치(1000) 주변의 상태를 감지하고, 감지된 정보를 프로세서(1300)로 전달할 수 있다.
센싱부(1400)는, 지자기 센서(Geomagnetic sensor)(1410), 가속도 센서(Acceleration sensor)(1420), 온/습도 센서(1430), 적외선 센서(1440), 자이로스코프 센서(1450), 위치 센서(예컨대, GPS)(1460), 기압 센서(1470), 근접 센서(1480), 및 RGB 센서(illuminance sensor)(1490) 중 적어도 하나를 포함할 수 있으나, 이에 한정되는 것은 아니다.
통신부(1500)는, 전자 장치(1000)가 서버(2000) 또는 외부 장치(미도시)와 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다. 예를 들어, 통신부(1500)는, 근거리 통신부(1510), 이동 통신부(1520), 방송 수신부(1530)를 포함할 수 있다.
근거리 통신부(short-range wireless communication unit)(1510)는, 블루투스 통신부, BLE(Bluetooth Low Energy) 통신부, 근거리 무선 통신부(Near Field Communication unit), WLAN(와이파이) 통신부, 지그비(Zigbee) 통신부, 적외선(IrDA, infrared Data Association) 통신부, WFD(Wi-Fi Direct) 통신부, UWB(ultra wideband) 통신부, Ant+ 통신부 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
이동 통신부(1520)는, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기에서, 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
방송 수신부(1530)는, 방송 채널을 통하여 외부로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 구현 예에 따라서 전자 장치(1000)가 방송 수신부(1530)를 포함하지 않을 수도 있다.
일 실시 예에 의한, 통신부(1500)는 HDR 영상을 생성하는데 필요한 정보를 외부로부터 수신할 수 있다. 예를 들면, 통신부(1500)는 HDR 영상을 생성하기 위한 복수 개의 영상을 외부로부터 수신할 수 있다.
A/V(Audio/Video) 입력부(1600)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(1610)와 마이크로폰(1620) 등이 포함될 수 있다. 카메라(1610)는 화상 통화모드 또는 촬영 모드에서 이미지 센서를 통해 정지영상 또는 동영상 등의 화상 프레임을 얻을 수 있다. 이미지 센서를 통해 캡쳐된 이미지는 프로세서(1300) 또는 별도의 이미지 처리부(미도시)를 통해 처리될 수 있다.
일 실시 예에 의한 A/V 입력부(1600)는 HDR 영상을 생성하기 위한 복수 개의 영상을 촬영함으로써, 생성할 수 있다.
마이크로폰(1620)은, 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리한다. 예를 들어, 마이크로폰(1620)은 HDR 영상을 생성하기 위한 사용자 입력을 포함하는 음향 신호를 수신하여 처리할 수 있다.
메모리(1700)는, 프로세서(1300)의 처리 및 제어를 위한 프로그램을 저장할 수 있고, 전자 장치(1000)로 입력되거나 전자 장치(1000)로부터 출력되는 데이터를 저장할 수도 있다.
일 실시 예에 의한 메모리(1700)는 HDR 영상을 생성하는데 필요한 다양한 종류의 데이터를 저장할 수 있다. 예를 들면, 메모리(1700)는 HDR 영상을 생성하기 위한 복수 개의 영상들을 저장할 수 있다.
메모리(1700)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.
메모리(1700)에 저장된 프로그램들은 그 기능에 따라 복수 개의 모듈들로 분류할 수 있는데, 예를 들어, UI 모듈(1710), 터치 스크린 모듈(1720), 알림 모듈(1730) 등으로 분류될 수 있다.
UI 모듈(1710)은, 애플리케이션 별로 전자 장치(1000)와 연동되는 특화된 UI, GUI 등을 제공할 수 있다. 터치 스크린 모듈(1720)은 사용자의 터치 스크린 상의 터치 제스처를 감지하고, 터치 제스처에 관한 정보를 프로세서(1300)로 전달할 수 있다. 일부 실시예에 따른 터치 스크린 모듈(1720)은 터치 코드를 인식하고 분석할 수 있다. 터치 스크린 모듈(1720)은 컨트롤러를 포함하는 별도의 하드웨어로 구성될 수도 있다.
터치스크린의 터치 또는 근접 터치를 감지하기 위해 터치스크린의 내부 또는 근처에 다양한 센서가 구비될 수 있다. 터치스크린의 터치를 감지하기 위한 센서의 일례로 촉각 센서가 있다. 촉각 센서는 사람이 느끼는 정도로 또는 그 이상으로 특정 물체의 접촉을 감지하는 센서를 말한다. 촉각 센서는 접촉면의 거칠기, 접촉 물체의 단단함, 접촉 지점의 온도 등의 다양한 정보를 감지할 수 있다.
사용자의 터치 제스처에는 탭, 터치&홀드, 더블 탭, 드래그, 패닝, 플릭, 드래그 앤드 드롭, 스와이프 등이 있을 수 있다.
알림 모듈(1730)은 전자 장치(1000)의 이벤트 발생을 알리기 위한 신호를 발생할 수 있다.
도 6은 일 실시 예에 의한 HDR 영상을 생성하는 방법을 나타낸 순서도이다.
도 6을 참조하면, 단계 610에서, 전자 장치(1000)는 HDR 영상을 생성하기 위한 제1 영상 및 제2 영상을 획득할 수 있다. 일 실시 예에 의한 제1 영상 및 제2 영상은, 서로 다른 노출 정도로 촬영된 영상들일 수 있다.
일 실시 예에 의하면, 제1 영상 및 제2 영상 중에서, 기준 영상 및 비기준 영상이 결정될 수 있다. 일 실시 예에 의한 기준 영상은, 제1 영상 및 제2 영상 중에서, 상대적으로 더 적은 고스트 아티팩트를 포함하는 것으로 판단되는 영상으로 결정될 수 있다. 예를 들면, 셔터 스피드가 가장 빠른 영상이, 고스트 아티팩트가 가장 적은 것으로 판단됨에 따라서, 기준 영상으로 결정될 수 있다.
단계 620에서, 전자 장치(1000)는, 제1 영상 및 제2 영상에서, 서로 대응되는 영상 영역을 포함하는, 제1 패치 영역을 설정할 수 있다. 일 실시 예에 의하면, 영상 정렬이 수행된 결과, 제1 영상 및 제1 영상 간 대응되는 영역에 기초하여, 패치 영역은, 서로 대응되는 영상 영역이 포함될 수 있도록, 제1 영상 및 제2 영상에서 설정될 수 있다.
일 실시 예에 의한 패치 영역은 제1 영상 및 제2 영상에서, 적어도 하나 이상 설정될 수 있다. 예를 들면, 영상에서, 움직임 정도가 기준값 이상인 영역에서, 패치 영역이 설정될 수 있다. 따라서, 일 실시 예에 의하면, 움직임 정도가 큰 영역에서, 패치에 의한 크로마 채널의 블렌딩이 수행됨으로써, 크로마 채널에서 움직임에 의해 발생된 고스트 아티팩트가 최소화될 수 있다. 상술한 예에 한하지 않고, 일 실시 예에 의한 패치 영역은, 영상의 모든 영역에서 설정될 수도 있고, 다양한 방법에 따라 결정된 영상의 일부 영역에 대하여 설정될 수도 있다.
단계 630에서, 전자 장치(1000)는, 제1 패치 영역에 포함된, 제1 영상의 크로마값과, 제2 영상의 크로마 값 간의 유사도에 기초하여, 제1 패치 영역에 대한 제1 가중치 값을 결정할 수 있다. 일 실시 예에 의한, 유사도는, 서로 대응되는 크로마 값들 간의 차이값에 기초하여 결정될 수 있다. 또한, 일 실시 예에 의하면, 하나의 패치 영역에 대하여, 하나의 제1 가중치 값이 결정될 수 있다.
일 실시 예에 의한 제1 가중치는, 유사도가 낮을수록 기준 영상의 크로마 값이, 비기준 영상의 크로마 값보다 더 높은 비율로 블렌딩될 수 있도록, 결정될 수 있다. 일 실시 예에 의한 기준 영상은, 영상들 중에서, 고스트 아티팩트를 가장 적게 포함하고 있는 영상으로 설정될 수 있으므로, 유사도가 낮은 경우, 기준 영상의 값이 더 높은 비율로 블렌딩되도록, 가중치 값이 결정될 수 있다. 반면에, 유사도가 높은 경우, 기준 영상과 비기준 영상의 픽셀 값이 유사함에 따라, 비기준 영상의 크로마 값이 상대적으로 더 많이 블렌딩될 수 있도록, 가중치 값이 결정될 수 있다.
단계 640에서, 전자 장치(1000)는, 제1 가중치 값에 기초하여, 제1 영상 및 제2 영상의 크로마 값들을 블렌딩할 수 있다. 일 실시 예에 의하면, 제1 가중치 값에 따라, 블렌딩되는 제1 영상 및 제2 영상의 크로마 값들의 비율이 결정됨으로써, 블렌딩이 수행될 수 있다.
일 실시 예에 따라서, 크로마 값들이 블렌딩된 결과, 적어도 하나의 영상 영역에 대하여, 제1 영상 및 제2 영상의 크로마 값들이 각 패치마다 결정된 가중치 값에 따라서, 블렌딩된, 크로마 채널의 픽셀 값들이 결정될 수 있다.
일 실시 예에 의하면, 제1 패치 영역뿐만 아니라 다양한 영역에서, 하나 이상의 패치 영역이 추가적으로 설정되고, 각 패치 영역에서, 크로마 값에 대한 블렌딩이 수행될 수 있다. 다만, 패치 영역별로 블렌딩이 수행됨에 따라서, 블렌딩 결과, 패치 영역의 경계선이 나타날 가능성이 있다.
일 실시 예에 의하면, 패치 영역의 경계에서 나타날 수 있는 경계선을 최소화할 수 있도록, 각 패치 영역이 다른 패치 영역의 일부를 포함하도록 설정될 수 있고, 블렌딩된 크로마 값에 윈도우 함수가 더 적용될 수 있다.
일 실시 예에 의하면, 제1 패치 영역에 인접한 제2 패치 영역은, 제1 패치 영역 일부를 포함하도록 설정될 수 있다. 또한, 일 실시 예에 의한 윈도우 함수의 값은, 제1 패치 영역 및 제2 패치 영역이 서로 겹치는 영역에서, 제1 패치 영역에서 블렌딩된 크로마 값에 적용되는 윈도우 함수 값과, 제2 패치 영역에서 블렌딩된 크로마 값들 중 제1 패치 영역에서 블렌딩된 크로마 값과 대응되는 값에 각각 적용된 윈도우 함수 값들의 합이 1이 되도록 결정될 수 있다.
단계 650에서, 전자 장치(1000)는, 크로마 값들이 블렌딩된 결과에 기초하여, 제1 영상 및 제2 영상을 블렌딩함으로써, HDR 영상을 생성할 수 있다. 일 실시 예에 의한 전자 장치(1000)는, 크로마 값에 대한 블렌딩과는 별개로, 루마 채널을 포함한 픽셀 값들에 대하여, 블렌딩을 수행할 수 있다. 예를 들면, 고스트 아티팩트가 최소화될 수 있도록, 움직임 정도를 고려하여, 제1 영상 및 제2 영상에서 블렌딩되는 비율이 각각 결정됨에 따라, 제1 영상 및 제2 영상에 대한 블렌딩이 수행될 수 있다.
다만, 루마 채널을 포함한 픽셀 값들에 대한 블렌딩은, 루마 채널을 기준으로 설정된 파라미터에 따라서, 수행되므로, 크로마 채널에서 발생된 고스트 아티팩트는 효과적으로 제거되지 않을 수 있다. 그러나, 일 실시 예에 의하면, 단계 620 내지 640에 따라, 크로마 값들이 블렌딩된 결과에 기초하여 제1 영상 및 제2 영상이 블렌딩됨에 따라서, 크로마 채널에서 발생된 다양한 색상의 고스트 아티팩트도, 효과적으로 제거될 수 있다.
도 7은 일 실시 예에 의한 HDR 영상을 생성하는 일 예를 나타낸 도면이다.
도 7을 참조하면, 복수 개의 영상(711, 712, 713)으로부터 HDR 영상을 생성하기 위해, 크로마 채널에서의 블렌딩이 수행될 수 있다. 일 실시 예에 의하면, 움직임에 의한 고스트 아티팩트의 정도가 가장 적은 영상(711)이 기준 영상으로 설정되고 나머지 영상들(712, 713)은 비기준 영상으로 설정될 수 있다.
도 7에서, 720 및 730은 각각 루마 채널 및 크로마 채널에서의 블렌딩 맵을 나타낸다. 일 실시 예에 의한 블렌딩 맵은, 기준 영상과 비기준 영상 간 블렌딩되는 비율을 나타내며, 0에 가까울수록(어두울수록) 기준 영상의 블렌딩 비율이 더 높음을 나타낼 수 있다. 720 및 730을 참조하면, 움직임 정도가 큰 사람과 자동차 영역에서, 기준 영상의 영역이 더 많이 블렌딩될 수 있다.
740 및 750은, 영상의 일부 영역(714)을 확대하여 나타낸 것으로, 740은, 일 실시 예에 의한 크로마 채널에 대한 블렌딩 없이 생성된, HDR 영상이고, 750은, 일 실시 예에 따라서, 패치 영역별로 크로마 값들이 블렌딩된 결과에 기초하여 생성된 HDR 영상이다.
일 실시 에에 의하면, 740에서 화살표로 표시된 부분에서, 부적절한 다양한 색상의 고스트 아티팩트가 존재하지만, 750을 참조하면, 740에서 나타났던 고스트 아티팩트가 제거됨을 확인할 수 있다.
도 8은 일 실시 예에 의한 복수 개의 영상에 기초하여 HDR 영상을 생성하는 일 예를 나타낸 도면이다.
도 8을 참조하면, HDR 영상을 생성하기 위한 패치 기반의 크로마 블렌딩이, 복수 개의 비기준 영상과, 하나의 기준 영상에 대해 수행되는 경우, 도시된 예와 같이, 810 또는 820에 따라 단계적으로 수행될 수 있다.
예를 들어, 서로 다른 노출 정도로 촬영된 제1 영상, 제2 영상, 및 제3 영상이 존재하는 경우, 상기 영상들 중 하나가 기준 영상으로, 나머지 두 개의 영상들은 비기준 영상으로 설정될 수 있다.
810을 참조하면, 패치 기반의 크로마 블렌딩(811, 812, 813, 814)이 복수 개의 비기준 영상들에 대하여 수행된 후, 각각 크로마 값들이 블렌딩된 결과 값에 대한 평균값(815)에 기초하여, 복수 개의 영상들의 크로마 값들이 블렌딩된 결과가 획득될 수 있다. 일 실시 예에 의하면, 복수 개의 영상들의 크로마 값들이 블렌딩된 결과와, 루마 채널을 포함한 영상의 픽셀값들이 블렌딩된 결과에 기초하여, 복수 개의 영상들을 블렌딩함으로써, HDR 영상이 획득될 수 있다.
820을 참조하면, 810과 유사하게, 복수 개의 비기준 영상들에 대하여, 패치 기반의 크로마 블렌딩(821, 822, 823, 824)이 수행될 수 있다. 820에 의하면, 810과는 달리, 이전에 수행된 패치 기반의 크로마 블렌딩(예를 들면, 821)의 결과에 기초하여, 다음 단계의 패치 기반의 크로마 블렌딩(예를 들면, 822)이 수행됨에 따라서, 블렌딩 결과에 대한 평균값을 구하는 동작(815) 없이, 복수 개의 영상들의 크로마 값들이 블렌딩된 결과가 획득될 수 있다. 예를 들면, 기준 영상 대신, 이전에 수행된 패치 기반의 크로마 블렌딩(예를 들면, 821)의 결과와 비기준 영상 간에, 패치 기반의 크로마 블렌딩(예를 들면, 822)이 단계적으로 수행될 수 있다.
일 실시 예에 의하면, 비기준 영상 중 제1 비기준 영상과, 기준 영상 간의 패치 기반의 크로마 블렌딩이 수행될 수 있다. 일 실시 예에 의하면, 상기 제1 비기준 영상에 대한 크로마 블렌딩이 수행된 결과에 기초하여, 제2 비기준 영상에 대한 크로마 블렌딩이 수행될 수 있다. 일 실시 예에 의하면, 제1 비기준 영상에 대한 크로마 블렌딩이 수행된 결과와 제2 비기준 영상 간에 크로마 블렌딩이 수행됨으로써, 제2 비기준 영상에 대한 크로마 블렌딩이 수행될 수 있다.
일 실시 예에 의하면, 비기준 영상이 2개인 경우에 한하지 않고, 비기준 영상이 3개 이상인 경우에도, 810 및 820에 따라서, 패치 기반의 크로마 블렌딩이 수행될 수 있다.
　일 실시 예에 의하면, 다양한 노출의 영상들에 기초하여, 크로마 채널에서 발생된 다양한 색상의 고스트 아티팩트가 효과적으로 제거된 HDR 영상이 생성될 수 있다.
기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, ‘비일시적 저장매체'는 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다. 예로, '비일시적 저장매체'는 데이터가 임시적으로 저장되는 버퍼를 포함할 수 있다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품(예: 다운로더블 앱(downloadable app))의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
또한, 본 명세서에서, “부”는 프로세서 또는 회로와 같은 하드웨어 구성(hardware component), 및/또는 프로세서와 같은 하드웨어 구성에 의해 실행되는 소프트웨어 구성(software component)일 수 있다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.　

Claims (15)

  1. HDR 영상을 생성하는 방법에 있어서,
    서로 다른 노출 정도로 촬영된 제1 영상 및 제2 영상을 획득하는 단계;
    상기 제1 영상 및 제2 영상 간 대응되는 영역에 기초하여, 상기 제1 영상 및 제2 영상에서, 서로 대응되는 영상 영역을 포함하는, 제1 패치 영역을 설정하는 단계;
    상기 제1 패치 영역에 포함된, 상기 제1 영상의 적어도 하나의 크로마 값과 상기 제2 영상의 적어도 하나의 크로마 값 간의 유사도에 기초하여, 상기 제1 패치 영역에 대한 제1 가중치 값을 결정하는 단계;
    상기 제1 가중치 값에 기초하여, 상기 제1 패치 영역에 포함된 상기 제1 영상의 적어도 하나의 크로마 값과 상기 제2 영상의 적어도 하나의 크로마 값을 블렌딩하는 단계; 및
    상기 제1 패치 영역에서, 상기 크로마 값들이 블렌딩된 결과에 기초하여, 상기 제1 영상 및 상기 제2 영상을 블렌딩함으로써, 상기 HDR 영상을 생성하는 단계를 포함하는, 방법.
  2. 제1항에 있어서,
    상기 제1 영상 및 제2 영상 중 상대적으로 더 적은 고스트 아티팩트를 포함하는 영상이 기준 영상으로 설정되고,
    상기 유사도가 낮을 수록, 상기 기준 영상의 크로마 값이 비기준 영상의 크로마 값보다 더 높은 비율로 블렌딩되도록, 상기 제1 가중치 값이 결정되는, 방법.
  3. 제1항에 있어서,
    상기 제1 영상 및 제2 영상에서, 상기 제1 패치 영역의 일부 영역을 포함하도록, 제2 패치 영역이 설정되고,
    상기 제2 패치 영역에서 결정된 제2 가중치 값에 따라, 상기 제2 패치 영역에 포함된 상기 제1 영상 및 제2 영상의 크로마 값들이 블렌딩되는, 방법.
  4. 제3항에 있어서, 윈도우 함수가 상기 블렌딩된 크로마 값들에 더 적용되고,
    상기 윈도우 함수의 값은, 상기 제1 패치 영역 및 상기 제2 패치 영역이 서로 겹치는 영역에서, 상기 제1 패치 영역에서 블렌딩된 크로마 값에 적용되는 윈도우 함수 값과, 상기 제2 패치 영역에서 블렌딩된 크로마 값들 중 상기 제1 패치 영역에서 블렌딩된 크로마 값과 대응되는 값에 각각 적용된 윈도우 함수 값들의 합이 1이 되도록 결정되는 값인, 방법.
  5. 제4항에 있어서, 상기 윈도우 함수 값은,
    상기 윈도우 함수 값이 적용되는, 크로마 값에 대한 패치 영역의 어느 한 점을 원점으로 하여, 상기 크로마 값의 상대적인 위치에 따라 결정되는, 방법.
  6. 제1항에 있어서,
    서로 다른 노출 정도로 촬영된, 제3 영상이 더 획득되고,
    상기 제1 영상, 상기 제2 영상, 및 상기 제3 영상 중 하나가 기준 영상으로 설정되고, 나머지 두 개의 영상은, 비기준 영상으로 설정되고,
    상기 크로마 값을 블렌딩하는 단계는
    상기 기준 영상과 상기 비기준 영상 간, 크로마 값에 대한 블렌딩을 각각 수행하는 단계; 및
    상기 블렌딩된 결과에 대한 평균값에 기초하여, 상기 제1 영상, 상기 제2 영상 및 상기 제3 영상의 크로마 값들이 블렌딩된 결과를 획득하는 단계를 포함하는, 방법.
  7. 제1항에 있어서,
    서로 다른 노출 정도로 촬영된, 제3 영상이 더 획득되고,
    상기 제1 영상, 상기 제2 영상, 및 상기 제3 영상 중 하나가 기준 영상으로 설정되고, 나머지 두 개의 영상은, 비기준 영상으로 설정되고,
    상기 크로마 값을 블렌딩하는 단계는
    상기 기준 영상과, 상기 비기준 영상 중 제1 비기준 영상 간 크로마 값에 대한 블렌딩을 수행하는 단계;
    상기 블렌딩이 수행된 결과와, 상기 비기준 영상 중 제2 비기준 영상 간의 크로마 값에 대한 블렌딩을 수행하는 단계; 및
    상기 제2 비기준 영상의 크로마 값에 대한 블렌딩이 수행된 결과에 기초하여, 상기 제1 영상, 상기 제2 영상 및 상기 제3 영상의 크로마 값들이 블렌딩된 결과를 획득하는 단계를 포함하는, 방법.
  8. HDR 영상을 생성하는 전자 장치에 있어서,
    서로 다른 노출 정도로 촬영된 제1 영상 및 제2 영상을 획득하고,
    상기 제1 영상 및 제2 영상 간 대응되는 영역에 기초하여, 상기 제1 영상 및 제2 영상에서, 서로 대응되는 영상 영역을 포함하는, 제1 패치 영역을 설정하고,
    상기 제1 패치 영역에 포함된, 상기 제1 영상의 적어도 하나의 크로마 값과 상기 제2 영상의 적어도 하나의 크로마 값 간의 유사도에 기초하여, 상기 제1 패치 영역에 대한 제1 가중치 값을 결정하고,
    상기 제1 가중치 값에 기초하여, 상기 제1 패치 영역에 포함된 상기 제1 영상의 적어도 하나의 크로마 값과 상기 제2 영상의 적어도 하나의 크로마 값을 블렌딩하고,
    상기 제1 패치 영역에서, 상기 크로마 값들이 블렌딩된 결과에 기초하여, 상기 제1 영상 및 상기 제2 영상을 블렌딩함으로써, 상기 HDR 영상을 생성하는 적어도 하나의 프로세서; 및
    상기 생성된 HDR 영상을 출력하는 출력부를 포함하는, 전자 장치.
  9. 제8항에 있어서,
    상기 제1 영상 및 제2 영상 중 상대적으로 더 적은 고스트 아티팩트를 포함하는 영상이 기준 영상으로 설정되고,
    상기 유사도가 낮을 수록, 상기 기준 영상의 크로마 값이 비기준 영상의 크로마 값보다 더 높은 비율로 블렌딩되도록, 상기 제1 가중치 값이 결정되는, 전자 장치.
  10. 제8항에 있어서,
    상기 제1 영상 및 제2 영상에서, 상기 제1 패치 영역의 일부 영역을 포함하도록, 제2 패치 영역이 설정되고,
    상기 제2 패치 영역에서 결정된 제2 가중치 값에 따라, 상기 제2 패치 영역에 포함된 상기 제1 영상 및 제2 영상의 크로마 값들이 블렌딩되는, 전자 장치.
  11. 제8항에 있어서, 윈도우 함수가 상기 블렌딩된 크로마 값들에 더 적용되고,
    상기 윈도우 함수의 값은, 상기 제1 패치 영역 및 상기 제2 패치 영역이 서로 겹치는 영역에서, 상기 제1 패치 영역에서 블렌딩된 크로마 값에 적용되는 윈도우 함수 값과, 상기 제2 패치 영역에서 블렌딩된 크로마 값들 중 상기 제1 패치 영역에서 블렌딩된 크로마 값과 대응되는 값에 각각 적용된 윈도우 함수 값들의 합이 1이 되도록 결정되는 값인, 전자 장치.
  12. 제11항에 있어서, 상기 윈도우 함수 값은,
    상기 윈도우 함수 값이 적용되는, 크로마 값에 대한 패치 영역의 어느 한 점을 원점으로 하여, 상기 크로마 값의 상대적인 위치에 따라 결정되는, 전자 장치.
  13. 제8항에 있어서,
    서로 다른 노출 정도로 촬영된, 제3 영상이 더 획득되고,
    상기 제1 영상, 상기 제2 영상, 및 상기 제3 영상 중 하나가 기준 영상으로 설정되고, 나머지 두 개의 영상은, 비기준 영상으로 설정되고,
    상기 적어도 하나의 프로세서는,
    상기 기준 영상과 상기 비기준 영상 간, 크로마 값에 대한 블렌딩을 각각 수행하고,
    상기 블렌딩된 결과에 대한 평균값에 기초하여, 상기 제1 영상, 상기 제2 영상 및 상기 제3 영상의 크로마 값들이 블렌딩된 결과를 획득하는, 전자 장치.
  14. 제8항에 있어서,
    서로 다른 노출 정도로 촬영된, 제3 영상이 더 획득되고,
    상기 제1 영상, 상기 제2 영상, 및 상기 제3 영상 중 하나가 기준 영상으로 설정되고, 나머지 두 개의 영상은, 비기준 영상으로 설정되고,
    상기 적어도 하나의 프로세서는
    상기 기준 영상과, 상기 비기준 영상 중 제1 비기준 영상 간 크로마 값에 대한 블렌딩을 수행하고,
    상기 블렌딩이 수행된 결과와, 상기 비기준 영상 중 제2 비기준 영상 간의 크로마 값에 대한 블렌딩을 수행하고,
    상기 제2 비기준 영상의 크로마 값에 대한 블렌딩이 수행된 결과에 기초하여, 상기 제1 영상, 상기 제2 영상 및 상기 제3 영상의 크로마 값들이 블렌딩된 결과를 획득하는, 전자 장치.
  15. 제1항 내지 제7항 중 어느 한 항의 방법을 구현하기 위한 프로그램이 기록된 컴퓨터로 읽을 수 있는 기록 매체.

KR1020200090566A 2019-12-17 2020-07-21 Hdr 영상을 생성하는 전자 장치 및 그 동작 방법 KR20210077579A (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/KR2020/010535 WO2021125490A1 (ko) 2019-12-17 2020-08-10 Hdr 영상을 생성하는 전자 장치 및 그 동작 방법

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/717,971 US11418766B2 (en) 2019-12-17 2019-12-17 Apparatus and method for chroma processing for multi-frame fusion
US16/717,971 2019-12-17

Publications (1)

Publication Number Publication Date
KR20210077579A true KR20210077579A (ko) 2021-06-25

Family

ID=76318360

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200090566A KR20210077579A (ko) 2019-12-17 2020-07-21 Hdr 영상을 생성하는 전자 장치 및 그 동작 방법

Country Status (2)

Country Link
US (1) US11418766B2 (ko)
KR (1) KR20210077579A (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116563190A (zh) * 2023-07-06 2023-08-08 深圳市超像素智能科技有限公司 图像处理方法、装置、计算机设备及计算机可读存储介质

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113344820B (zh) * 2021-06-28 2024-05-10 Oppo广东移动通信有限公司 图像处理方法及装置、计算机可读介质、电子设备
CN115190283B (zh) * 2022-07-05 2023-09-19 北京地平线信息技术有限公司 一种白平衡调整方法及装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8724895B2 (en) 2007-07-23 2014-05-13 Nvidia Corporation Techniques for reducing color artifacts in digital images
KR101699919B1 (ko) 2011-07-28 2017-01-26 삼성전자주식회사 다중 노출 퓨전 기반에서 고스트 흐림을 제거한 ｈｄｒ 영상 생성 장치 및 방법
KR102137266B1 (ko) 2012-09-28 2020-07-23 삼성전자주식회사 움직임 벡터와 변이 벡터를 예측하는 영상 처리 방법 및 장치
US9113025B2 (en) 2013-03-15 2015-08-18 Samsung Electronics Co., Ltd. Image signal processor circuits and methods for correcting crosstalk artifacts
US10382674B2 (en) 2013-04-15 2019-08-13 Qualcomm Incorporated Reference image selection for motion ghost filtering
KR102440941B1 (ko) 2015-03-03 2022-09-05 삼성전자주식회사 이미지 처리 정보에 따라 크기와 방향을 갖는 초기 위상을 계산할 수 있는 이미지 처리 장치들
US10559073B2 (en) * 2016-03-23 2020-02-11 Intel Corporation Motion adaptive stream processing for temporal noise reduction
US10034026B2 (en) 2016-04-22 2018-07-24 Akila Subramaniam Device for and method of enabling the processing of a video stream
AU2016426262A1 (en) 2016-10-10 2019-05-02 Samsung Electronics Co., Ltd. Method and device for encoding or decoding luma block and chroma block
KR102243292B1 (ko) 2017-06-02 2021-04-22 한국전자기술연구원 컬러반응곡선을 이용한 hdr 영상 생성방법, hdr 영상 생성장치, 카메라 및 기록매체
KR102408344B1 (ko) 2017-10-31 2022-06-14 삼성전자주식회사 영상 처리 장치, 영상 처리 방법 및 컴퓨터 판독가능 기록 매체
US10819965B2 (en) 2018-01-26 2020-10-27 Samsung Electronics Co., Ltd. Image processing device and method for operating image processing device
US10708525B2 (en) * 2018-08-27 2020-07-07 Qualcomm Incorporated Systems and methods for processing low light images

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116563190A (zh) * 2023-07-06 2023-08-08 深圳市超像素智能科技有限公司 图像处理方法、装置、计算机设备及计算机可读存储介质
CN116563190B (zh) * 2023-07-06 2023-09-26 深圳市超像素智能科技有限公司 图像处理方法、装置、计算机设备及计算机可读存储介质

Also Published As

Publication number Publication date
US11418766B2 (en) 2022-08-16
US20210185287A1 (en) 2021-06-17

Similar Documents

Publication Publication Date Title
CN105874776B (zh) 图像处理设备和方法
KR102156597B1 (ko) 광학 촬영 방법 및 장치
WO2019109801A1 (zh) 拍摄参数的调整方法、装置、存储介质及移动终端
US20170223282A1 (en) Noise Models for Image Processing
WO2017215501A1 (zh) 图像降噪处理方法、装置及计算机存储介质
KR102124604B1 (ko) 이미지 안정화 방법 그 전자 장치
US9558423B2 (en) Observer preference model
KR20210077579A (ko) Hdr 영상을 생성하는 전자 장치 및 그 동작 방법
WO2018176925A1 (zh) Hdr图像的生成方法及装置
WO2017016030A1 (zh) 一种图像处理方法及终端
US20140086486A1 (en) Adjusting the sharpness of a digital image
JP5697802B2 (ja) 画像処理装置及び画像処理方法
WO2014190051A1 (en) Simulating high dynamic range imaging with virtual long-exposure images
US11563889B2 (en) Electronic device and method for controlling camera using external electronic device
US11032484B2 (en) Image processing apparatus, imaging apparatus, image processing method, imaging method, and program
JP7136956B2 (ja) 画像処理方法及び装置、端末並びに記憶媒体
US8830359B2 (en) Image processing apparatus, imaging apparatus, and computer readable medium
CN108616687B (zh) 一种拍照方法、装置和移动终端
KR102082365B1 (ko) 이미지 처리 방법 및 그 전자 장치
JP5768193B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム
CN111696058A (zh) 图像处理方法、装置及存储介质
EP3273439A1 (en) Method and device for enhancing color saturation
KR20190016868A (ko) 이미지 처리 방법 및 그에 따른 장치
US20190394377A1 (en) Information processing device, image capturing device, and electronic apparatus
JP2010183460A (ja) 撮像装置およびその制御方法

Legal Events

Date Code Title Description
A201 Request for examination