KR20160102524A - 이미지의 역 톤 매핑을 위한 방법 - Google Patents

이미지의 역 톤 매핑을 위한 방법 Download PDF

Info

Publication number
KR20160102524A
KR20160102524A KR1020167020125A KR20167020125A KR20160102524A KR 20160102524 A KR20160102524 A KR 20160102524A KR 1020167020125 A KR1020167020125 A KR 1020167020125A KR 20167020125 A KR20167020125 A KR 20167020125A KR 20160102524 A KR20160102524 A KR 20160102524A
Authority
KR
South Korea
Prior art keywords
pixel
luminance
image
value
low
Prior art date
Application number
KR1020167020125A
Other languages
English (en)
Other versions
KR102234092B1 (ko
Inventor
타냐 포울리
에릭 라인하르트
크리스뗄 샤마레
Original Assignee
톰슨 라이센싱
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 톰슨 라이센싱 filed Critical 톰슨 라이센싱
Publication of KR20160102524A publication Critical patent/KR20160102524A/ko
Application granted granted Critical
Publication of KR102234092B1 publication Critical patent/KR102234092B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/57Control of contrast or brightness
    • G06T5/008
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4318Generation of visual interfaces for content selection or interaction; Content or additional data rendering by altering the content in the rendering process, e.g. blanking, blurring or masking an image region
    • H04N5/2355
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20024Filtering details
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20064Wavelet transform [DWT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Processing Of Color Television Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

각각의 화소에 대해, 화소 확장 지수 값(E'(p))을, 그의 공간 이웃에서 화소들의 색들의 휘도 값들을 저역 필터링하는 것에 의해 획득하는 단계, 화소 휘도-향상 값(Yenhance(p))을, 그의 공간 이웃에서 화소들의 색들의 휘도 값들의 고주파수들의 추출에 의해 획득하는 단계, 및 그 후 식 Yexp(p) = Y(p)E'( p) × [Yenhance(p)]c에 따라 휘도(Y(p))를 역 톤 매핑하는 단계를 포함하는 방법이 개시된다.

Description

이미지의 역 톤 매핑을 위한 방법{METHOD FOR INVERSE TONE MAPPING OF AN IMAGE}
본 발명은 하이 다이내믹 레인지 이미징(high dynamic range imaging) 분야에 관한 것이고, 특히 로우 다이내믹 레인지 콘텐츠(low dynamic range content)를 특히 높은 피크 휘도를 가진 디스플레이 디바이스를 위해 준비하기 위해 그러한 콘텐츠의 다이내믹 레인지를 확장하는 문제를 다룬다.
최근 디스플레이 기술의 발전은 확장된 범위의 색, 휘도 및 대비가 표시되는 것을 가능하게 하기 시작하고 있다.
이미지 콘텐츠의 휘도 또는 밝기 범위의 확장을 가능하게 하는 기술들은 흔히 HDR로 축약되는 하이 다이내믹 레인지 이미징이라고 알려져 있다. HDR 기술들은 보다 넓은 다이내믹 레인지의 콘텐츠를 캡처하고, 처리하고, 표시하는 데 초점을 맞추고 있다.
비록 다수의 HDR 디스플레이 디바이스들이 출현하였고, 증가된 다이내믹 레인지를 가진 이미지들을 캡처할 수 있는 이미지 카메라들이 개발되고는 있지만, 이용 가능한 HDR 콘텐츠는 여전히 매우 제한되고 있다. 최근의 발전들은 가까운 미래에 HDR 콘텐츠의 원시 캡처(native capture)를 기대하게 하지만, 기존의 콘텐츠는 다루지 않는다.
종래의(이후 로우 다이내믹 레인지에 대해 LDR이라고 함) 콘텐츠를 HDR 디스플레이 디바이스들을 위해 준비하기 위해, 리버스 또는 역 톤 매핑 연산자들(reverse or inverse tone mapping operators)(iTMO)이 이용될 수 있다. 이러한 알고리즘들은 원래 장면의 외양을 복구하거나 재현하는 것을 목표로 이미지 콘텐츠 내의 색들의 휘도 정보를 처리한다. 전형적으로, iTMO들은 종래의(즉, LDR) 이미지를 입력으로 받아들이고, 이 이미지의 색들의 휘도 범위를 전역적 방식으로 확장하고, 후속하여 국소적으로 하이라이트들 또는 밝은 영역들을 처리하여 이미지에서 색들의 HDR 외양을 향상시킨다.
비록 몇몇 iTMO 해법들이 존재하기는 하지만, 그것들은 원래 장면의 외양을 인지하여 재생하는 데 초점을 맞추고 콘텐츠에 관한 엄격한 가정들에 의존한다. 게다가, 문헌에서 제안된 대부분의 확장 방법들은 다이내믹 레인지의 극단적인 증가를 향하여 최적화된다.
전형적으로, HDR 이미징은 양자화 스텝(quantization step)의 수의 증가와 결합된 색들의 휘도의 어두운 값과 밝은 값 간의 다이내믹 레인지의 확장에 의해 정의된다. 다이내믹 레인지의 더 극단적인 증가를 달성하기 위해, 많은 방법들은 전역 확장을 이미지들의 하이라이트들 및 다른 밝은 영역들의 외양을 향상시키는 국소적 처리 단계들과 결합한다. 문헌에서 제안된 공지된 전역 확장 단계들은 역 시그모이드(inverse sigmoid)에서 선형 또는 구분적 선형(piecewise linear)까지 다양하다.
이미지에서 밝은 국소적 특징들을 향상시키기 위해, 휘도 확장 맵(luminance expansion map)을 생성하는 것이 알려져 있고, 여기서는 이미지의 각각의 화소가 이 화소의 휘도에 적용할 확장 값과 관련된다. 가장 단순한 경우에, 이미지 내의 클립된 영역들이 검출되고 그 후 보다 급격한 확장 곡선을 이용하여 확장될 수 있지만, 이러한 해법은 이미지의 외양에 대한 충분한 제어를 제공하지 않는다.
이미지들의 색들 및 이미지들의 대비 범위의 휘도를 선택적으로 그리고 동적으로 리매핑하는 것에 의해 이미지들의 시각적 매력을 향상시키는 것을 목표로 하는, 새로운 iTMO가 요구되고 있다.
본 발명의 목적은 이미지들의 색들 및 이미지들의 대비 범위의 휘도를 선택적으로 그리고 동적으로 리매핑하는 것에 의해 이미지들의 시각적 매력을 향상시키는 데 있다. 기본적으로, 이미지의 상이한 부분들에 대해 상이한 휘도 처리가 필요하다고 생각된다. 디스플레이 측 다이내믹 레인지 확장의 컨텍스트에서 이용 가능한 장면 참조 데이터(scene-referred data)가 없는 경우, 임의의 휘도 확장 해법은 압축 아티팩트들 또는 노이즈가 증폭되지 않는 것을 보장하면서, 가능한 잘 원래 장면의 외양을 재생하는 것 사이에 트레이드-오프일 필요가 있다. 그러므로, 아래에 제안되는 이미지의 역 톤 매핑의 방법에서, 레인지 확장은 공간적으로 변화하고 따라서 이미지 콘텐츠에 완전히 적응된다.
그러므로 본 발명의 주제는, 색들이 휘도를 색차(chrominance)로부터 분리하는 색 공간에서 표현되는 이미지의 역 톤 매핑을 위한 방법이고, 이 방법은,
- 상기 이미지의 각각의 화소(p)에 대한 화소 확장 지수 값(pixel expansion exponent value) E'(p)를, 상기 화소의 공간 이웃에서 화소들의 색들의 휘도 값들을 저역 필터링하는 것에 의해 획득하는 단계,
- 상기 이미지의 각각의 화소(p)에 대한 화소 휘도-향상 값(pixel luminance-enhancement value) Yenhance(p)를, 상기 화소의 공간 이웃에서 화소들의 색들의 휘도 값들의 고주파수들의 추출에 의해 획득하는 단계,
- 상기 이미지의 각각의 화소(p)의 휘도 Y(p)를, 상기 화소의 휘도 Y(p)를 이 화소에 대해 획득된 상기 화소 확장 지수 값 E'(p) 거듭제곱한 값과 상기 화소에 대해 획득된 상기 화소 휘도-향상 값을 1 이상인 지수 파라미터 c 거듭제곱한 값의 곱을 통하여 획득된 확장된 휘도 Yexp(p)로 역 톤 매핑하는 단계를 포함한다.
이는
Figure pct00001
를 의미한다.
상기 지수 파라미터 c는 화소 휘도-향상 값에 의해 도입되는 디테일 향상의 양을 제어한다. 그러므로, c의 값이 클수록 이미지 에지들의 대비를 점점 증가시킨다. c=1.5의 값이 바람직하게 사용된다.
화소의 화소 확장 지수 값을 획득하기 위해 화소의 공간 이웃에서 휘도 값들의 저역 필터링이 수행될 때, 이는 각각의 화소가 그 자신의 확장 지수를 얻을 것임을 의미한다. 그러므로, 이 방법에 의해 획득된 휘도 범위의 확장은 공간적으로 변화하고 이미지 콘텐츠에 적응된다.
화소의 화소 휘도-향상 값을 획득하기 위해 화소의 공간 이웃에서 휘도 값들의 고주파수들의 추출이 수행될 때, 이는 각각의 화소가 그 자신의 휘도의 향상을 얻을 것임을 의미하고, 이러한 휘도의 향상은 휘도를 확장하기 위해 수행되는 휘도 값들의 저역 필터링의 공간 성분에 의해 야기되는 이미지의 디테일들의 평활화(smoothing)를 적어도 부분적으로 보상하도록 유리하게 적응될 것이다.
바람직하게는, 상기 저역 필터링은 이미지의 밝은 영역들 내의 화소들의 색들이 이 이미지의 더 어두운 영역들 내의 화소들의 색들보다 더 향상되도록 수행된다.
바람직하게는, 상기 화소 확장 지수 값들 E'(p)는 또한 획득되는 이미지의 평균 확장된 휘도가 원래 이미지의 평균 휘도와 거의 같도록 상기 저역 필터링된 휘도 값들이 재분포되도록 이 값들을 리셰이핑(reshaping)하는 것에 의해 획득된다.
제1 변형예에서, 상기 역 톤 매핑된 이미지가 주어진 피크 휘도 Dmax를 가진 디스플레이 디바이스에서 재생되도록 의도된 경우에는, 상기 화소 확장 지수 값들 E'(p)는 또한 바람직하게는 상기 이미지의 화소들에 걸쳐 최대 휘도 max(Y)를 이 최대 휘도 max(Y)를 가진 화소에 대해 획득된 화소 확장 지수 값 거듭제곱한 값이 상기 피크 휘도 Dmax와 같도록 상기 저역 필터링된 휘도 값들을 리스케일링(rescaling)하는 것에 의해 획득된다.
이는 예를 들어,
Figure pct00002
를 의미하고, 여기서 E(p)는 화소(p)의 색들의 휘도 값들을 이 화소의 공간 이웃에서 저역 필터링하는 것에 의해 직접 획득된 값이고, 여기서 α는 휘도의 전반적 확장을 제어하기 위해 사용될 수 있는 리스케일링 파라미터이다. 그러므로, 용어 Dmax에 의해, 이미지의 휘도 처리는 이 이미지, 특히 그의 피크 휘도를 표시하기 위해 사용되는 HDR 디스플레이 디바이스의 능력들에 의존한다.
이 방법은 콘텐츠 자체에 그리고 디스플레이 디바이스의 휘도 범위에 유리하게 적응하고, 그다지 크지 않은 다이내믹 레인지의 증가가 사용되는 경우의 디스플레이 디바이스들에서도, 콘텐츠의 HDR 외양의 향상을 가능하게 한다.
제2 변형예에서, 상기 화소 확장 지수 값들 E'(p)는 바람직하게는 상기 저역 필터링된 휘도 값들을 이 값들에 적용되는 이차 함수를 통하여 리셰이핑하는 것에 의해 획득된다.
바람직하게는, 각각의 화소의 화소 확장 지수 값을 계산하기 위해, 상기 저역 필터링은 제1 변형예에서는 상기 화소의 상기 공간 이웃에서 적용되는 제1 가우스 함수와 상기 화소의 색의 휘도 값의 이웃에서 적용되는 제2 가우스 함수의 곱을 계산하는 것에 의해 수행된다.
이는 상기 필터링은 이미지의 공간 영역에서 적용되는 제1 가우스 함수 및 휘도 범위 영역에서 적용되는 제2 가우스 함수를 이용하여 수행된다는 것을 의미한다.
바람직하게는, 상기 제1 가우스 함수의 표준 편차 σs의 값은 3 이상이다.
상기 제2 가우스 함수의 표준 편차 σr의 값은 바람직하게는 텍스처와 노이즈를 평활화할 정도로 높지만, 이미지의 오브젝트들 간의 에지들을 가로지르는 것을 피할 정도로 낮아야 한다. 상기 표준 편차 σr의 값은 바람직하게는 0.1 max(Y)와 0.5 max(Y) 사이로 선택되고, 여기서 max(Y)는 원래 이미지의 모든 화소들에 걸쳐 최대 휘도이다.
바람직하게는, 화소 휘도-향상 값들을 계산하기 위해, 휘도 값들의 고주파수들의 상기 추출은 제2 저역 필터링을 제3 저역 필터링으로 나눈 비율을 계산하는 것에 의해 수행되고, 상기 제3 저역 필터링은 상기 제2 저역 필터링보다 상기 이미지에서 더 많은 디테일들을 제거하도록 구성된다.
바람직하게는, 화소의 화소 휘도-향상 값을 계산하기 위해, 상기 제2 저역 필터링은 제1 표준 편차를 가진 상기 화소의 이웃에서 적용되는 제3 가우스 함수와 상기 화소의 색의 휘도의 이웃에서 적용되는 제4 가우스 함수의 곱을 계산하는 것에 의해 수행되고, 상기 제3 저역 필터링은 상기 제3 가우스 함수에 대한 상기 제1 표준 편차보다 높은 제2 표준 편차를 가진 상기 제2 저역 필터링을 두 번째로 적용하는 것에 의해 획득된다.
상기 제2 저역 필터링을 두 번째로 적용할 때 상기 제3 가우스 함수의 더 높은 값의 표준 편차를 이용함으로써, 상기 제3 저역 필터링은 상기 제2 저역 필터링보다 이미지에서 더 많은 디테일들을 제거한다. 그러므로, 획득된 비율은 고역 필터링에 대응한다.
바람직하게는, 상기 색들의 휘도는 웨이블릿 분해(wavelet decomposition)의 증가하는 레벨들로 인코딩되고, 각각의 레벨은 고주파 계수(LH) 및 저주파 계수(LL)를 적어도 갖고, 각각의 화소의 화소 확장 지수 값은 제2 변형예에서는 상기 화소(p)의 색의 휘도를 인코딩하고 그 후 상기 화소의 상기 공간 이웃에서 상기 저역 필터링을 수행하는 가장 높은 레벨의 저주파 계수 A(p)=LL와 같은 것으로서 계산된다.
바람직하게는, 화소의 화소 휘도-향상 값의 상기 계산을 위해, 상기 화소의 이웃에 위치하는 화소들의 휘도 값들의 고주파수들의 상기 추출은 상기 화소의 휘도 Y(p)와 상기 화소의 상기 저주파 계수 A(p) 간의 차이를 계산하는 것에 의해 수행된다.
따라서, 휘도의 웨이블릿 분해의 (가장 높은) 레벨의 최저 주파수 부대역으로부터 제거된 고주파수들만이 이미지의 디테일들의 향상을 위해 유지된다.
바람직하게는, 상기 계산은 이 차이의 지수 계수의 적용을 포함한다. 이 지수 계수는 바람직하게는 2와 같다.
본 발명의 주제는 또한, 색들이 휘도를 색차로부터 분리하는 색 공간에서 표현되는 이미지의 역 톤 매핑을 위한 이미지 처리 디바이스이고, 이 디바이스는,
- 이 이미지의 각각의 화소에 대한 화소 확장 지수 값을, 이 화소의 공간 이웃에서 화소들의 색들의 휘도 값들을 저역 필터링하는 것에 의해 획득하도록 구성된 저역 필터링 모듈,
- 상기 저역 필터링 모듈에 의해 제공된 상기 저역 필터링된 휘도 값들을 리셰이핑/리스케일링하도록 구성된 리셰이핑/리스케일링 모듈,
- 상기 이미지의 각각의 화소에 대한 화소 휘도-향상 값을, 이 화소의 휘도 이웃에서 화소들의 색들의 휘도 값들의 고주파수들의 추출에 의해 획득하도록 구성된 고주파수 추출 모듈,
- 상기 이미지의 각각의 화소의 휘도를, 상기 화소의 휘도를 상기 리셰이핑/리스케일링 모듈에 의해 이 화소에 대해 제공된 상기 화소 확장 지수 값 거듭제곱한 값과 상기 고주파수 추출 모듈에 의해 상기 화소에 대해 제공된 상기 화소 휘도-향상 값을 1 이상인 지수 파라미터 c 거듭제곱한 값의 곱을 통하여 획득된 확장된 휘도로 역 톤 매핑하도록 구성된 역 톤 매핑 모듈을 포함한다.
비제한적인 예로서 그리고 첨부된 도면들을 참조하여 주어진, 다음에 오는 설명을 읽으면 본 발명이 더 명확히 이해될 것이다.
- 도 1은 본 발명의 제1 및 제2 실시예에 따른 상이한 단계들을 보여준다.
- 도 2는 역 톤 매핑될 이미지의 색들의 YUV 좌표의 웨이블릿 분해를 보여준다.
- 도 3은 이 이미지의 웨이블릿 분해를 보여준다.
도면들에 도시된 다양한 요소들의 기능들은 전용 하드웨어뿐만 아니라 적절한 소프트웨어와 관련하여 소프트웨어를 실행할 수 있는 하드웨어의 사용을 통하여 제공될 수 있다.
본 발명은 하드웨어, 소프트웨어, 펌웨어, 특수 용도 프로세서, 또는 이들의 조합들의 다양한 형태로 구현될 수 있다는 것이 이해되어야 한다. 용어 "프로세서"는 소프트웨어를 실행할 수 있는 하드웨어만을 나타내는 것으로 해석되어서는 안 되며, 제한 없이, 디지털 신호 프로세서("DSP") 하드웨어, 소프트웨어를 저장하기 위한 판독 전용 메모리("ROM"), 랜덤 액세스 메모리("RAM"), 및 비휘발성 저장소를 암묵적으로 포함할 수 있다. 본 발명은 특히 하드웨어와 소프트웨어의 조합으로서 구현될 수 있다. 더욱이, 소프트웨어는 프로그램 저장 유닛에 유형적으로 구현된 애플리케이션 프로그램으로서 구현될 수 있다. 이러한 소프트웨어는 또 다른 소프트웨어에 통합되도록 플러그인의 형태를 취할 수 있다. 애플리케이션 프로그램은 임의의 적합한 아키텍처를 포함하는 이미지 처리 디바이스에 업로드되어 그 이미지 처리 디바이스에 의해 실행될 수 있다. 바람직하게는, 이미지 처리 디바이스는 하나 이상의 중앙 처리 장치("CPU"), 랜덤 액세스 메모리("RAM"), 및 입출력("I/O") 인터페이스들과 같은 하드웨어를 가진 컴퓨터 플랫폼에 구현된다. 컴퓨터 플랫폼은 또한 운영 체제 및 마이크로명령어 코드를 포함할 수 있다. 본 명세서에 기술된 다양한 프로세스들 및 기능들은, CPU에 의해 실행될 수 있는, 마이크로명령어 코드의 일부 또는 애플리케이션 프로그램의 일부, 또는 이들의 임의의 조합일 수 있다. 게다가, 부가적인 데이터 저장 유닛, 디스플레이 디바이스, 프린팅 유닛 등과 같은 다양한 다른 주변 유닛들이 컴퓨터 플랫폼에 연결될 수 있다. 본 발명에 따른 방법의 실시예를 구현하는 이미지 처리 디바이스는 이미지들을 수신할 수 있는 임의의 전자 디바이스, 예를 들어, TV 세트, 셋톱 박스, 게이트웨어, 휴대폰, 태블릿의 일부일 수 있다.
이미지의 역 톤 매핑을 위한 이 이미지 처리 디바이스 - 이미지의 색들은 휘도를 색차로부터 분리하는 색 공간에서 표현됨 - 는:
- 이 이미지의 각각의 화소에 대한 화소 확장 지수 값을, 이 화소의 공간 이웃에서 화소들의 색들의 휘도 값들을 저역 필터링하는 것에 의해 획득하도록 구성된 저역 필터링 모듈,
- 상기 저역 필터링 모듈에 의해 제공된 상기 저역 필터링된 휘도 값들을 리셰이핑/리스케일링하도록 구성된 리셰이핑/리스케일링 모듈,
- 상기 이미지의 각각의 화소에 대한 화소 휘도-향상 값을, 이 화소의 공간 이웃에서 화소들의 색들의 휘도 값들의 고주파수들의 추출에 의해 획득하도록 구성된 고주파수 추출 모듈,
- 상기 이미지의 각각의 화소의 휘도를, 상기 화소의 휘도를 상기 리셰이핑/리스케일링 모듈에 의해 이 화소에 대해 제공된 상기 화소 확장 지수 값 거듭제곱한 값과 상기 고주파수 추출 모듈에 의해 상기 화소에 대해 제공된 상기 화소 휘도-향상 값을 1 이상인 지수 파라미터 c 거듭제곱한 값의 곱을 통하여 획득된 확장된 휘도로 역 톤 매핑하도록 구성된 역 톤 매핑 모듈을 포함한다.
이제, 전술한 바와 같은 이미지 처리 디바이스를 이용하여, 도 1을 참조하여 이미지의 역 톤 매핑을 위한 방법의 제1 실시예를 설명할 것이다.
예를 들어 이미지 수신기를 이용하여, 각각의 화소의 색들에 관한 모든 데이터를 가진 이미지가 수신되고, 여기서 이 이미지의 각각의 화소와 관련된 색은 3개의 색 좌표, 즉, 각각의 색 채널마다 하나의 색 좌표, R, G 및 B로 인코딩된다.
(도 1에 도시되지 않은) 이 실시예의 제1 준비 단계에서, 이 색들의 수신된 RGB 색 좌표들은, 필요하다면, 정규화되고 임의로 그 자체로 공지된 방식으로 선형화되고, 이에 따라 수신된 이미지의 색들은 디스플레이 디바이스의 RGB 색 공간에서 표현된다. 이 RGB 색 공간은 표준화될 수 있고, 대응하는 디스플레이 디바이스는 가상의 것이다. 그 후, 이 색들은 휘도를 색차로부터 분리하는 색 공간, 예를 들어 YUV 색 공간으로 변환된다. RGB 색 공간으로부터 YUV 색 공간으로의 이러한 색들의 변환은 그 자체로 공지되어 있으므로 상세히 설명하지 않는다. 대신에 XYZ, Yxy, CIE Lab으로서, 휘도를 색차로부터 분리하는 임의의 다른 색 공간이 이용될 수 있다. 그러므로, 휘도 값 Y(p) 및 2개의 색차 값 U(p), V(p)가 수신된 이미지의 임의의 화소 p의 색과 관련된다. 설명될 역 톤 매핑 방법의 실시예의 목표는 이 휘도 값들을, 이 휘도 값들 Y(p) 각각에 지수 값 E'(p)를 적용하는 것에 의해 확장된 휘도 값들로 확장하는 것이다.
저역 필터링 모듈을 이용하여, 이 실시예의 제2 단계에서, 그의 휘도 값 Y(p)를 가진 이미지의 각각의 화소 p에 대해, 이 화소 p의 공간 이웃에서, 그리고 임의로 또한 휘도 값 Y(p)의 이웃에서 화소들의 휘도 값들을 저역 필터링하는 것에 의해, 중간 화소 확장 지수 값 E(p)가 획득된다. 이 저역 필터링 단계는 바람직하게는 가우스 함수들을 이용한다. E(p)는 예를 들어 다음과 같은 식을 통하여 획득된다:
Figure pct00003
여기서 fs는 이미지의 공간 영역에서 적용되는 제1 가우스 함수이고, fr는 휘도 범위 영역에서 적용되는 제2 가우스 함수이고,
여기서 Ω은 화소 p에 중심을 둔 이미지의 윈도의 사이즈이고,
여기서 pi는 이 윈도 내의 화소이다. 윈도 사이즈는 예를 들어 5 또는 7일 수 있다. 계산 효율을 위해서는 윈도 사이즈의 더 작은 값들이 선호된다.
본 발명에 따른 방법의 이 제1 실시예에서, 저역 필터링은 양방향(bilateral)이다. 단어 "양방향"은 필터링이 여기서 공간 영역과 휘도 범위 영역 양쪽 모두에서 수행된다는 사실을 나타낸다.
바람직하게는, 제1 가우스 함수 fs의 표준 편차 σs의 값은 2 이상이다.
제2 가우스 함수 fr의 표준 편차 σr의 값은 바람직하게는 원래 이미지에서 텍스처와 노이즈를 평활화할 정도로 높지만, 이 이미지의 오브젝트들 간의 에지들을 가로지르는 것을 피할 정도로 낮아야 한다. 이 표준 편차 σr의 값은 바람직하게는 0.1 max(Y)와 0.5 max(Y) 사이로 선택되고, 여기서 max(Y)는 원래 이미지의 모든 화소들에 걸쳐 최대 휘도 값이다.
이 제1 실시예의 구체적인 구현에서, 공간 가우스 함수 fs에 대한 표준 편차는 σs = 3으로 설정되었고, 휘도 범위 가우스 함수 fr에 대한 표준 편차는 σr = 0.3 × max(Y)로 설정되었다.
그러면 이 저역 필터링을 통하여 획득되는 모든 중간 화소 확장 지수 값들은 중간 확장 지수 맵 E(p)를 형성한다.
리셰이핑/리스케일링 모듈을 이용하여, 이 실시예의 제3 단계에서, 중간 확장 지수 맵은 이미지에 걸쳐 화소 확장 지수 값들의 분포에 의존하는 시그모이드 함수를 이용하여 최종 확장 지수 맵으로 리셰이핑되고/되거나 확장된 이미지를 재생하는 데 이용될 디스플레이 디바이스의 피크 휘도에 기초하여 리스케일링된다.
비록 위에 계산된 화소 확장 지수 값들은 상대적 스케일로 화소마다의 확장들을 나타내기는 하지만, 이 확장 값들은 제약들의 세트에 따르도록 리스케일링될 필요가 있다. 이 역 톤 매핑 방법에 의해 제공되는 HDR 이미지들을 재생하는 데 이용될 수 있는 HDR 디스플레이 디바이스들의 증가된 능력에도 불구하고, 이 방법에 의해 획득되는 확장된 HDR 이미지에서의 평균 휘도는 바람직하게는 원래 LDR 이미지의 레벨들에 필적하는 레벨들로 유지되어야 한다. 이와 동시에, 휘도의 확장은, 하이라이트들을 적절히 확장하기 위하여, 확장된 HDR 이미지를 재생하는 데 이용될 디스플레이 디바이스의 피크 휘도 Dmax를 고려해야 한다. 그러므로, 이 제3 단계를 통하여, 리셰이핑된/리스케일링된 화소 확장 지수 값 E'(p)가 다음과 같은 식을 통하여 획득된다:
Figure pct00004
여기서 파라미터 α는 휘도 확장의 전반적 거동을 제어하기 위해 이용될 수 있고,
여기서 E(p)는 상기 제2 단계에서 계산된 중간 화소 확장 지수 값이고,
여기서 max(E)는 이미지의 모든 화소들에 걸쳐 E(p)의 최대값이고,
여기서 항
Figure pct00005
은 Y(p) = max(Y)일 때 Y(p)E'( p) = Dmax를 갖도록 허용한다.
파라미터 α의 목적은 휘도 확장이 얼마나 '평평한(flat)'지를 제어하는 것이다. 그것은 공간적으로 변화하는 확장과 일정한 지수 간의 무게 균형(weight balancing)이다. α에 대한 더 높은 값들은 휘도 확장이 더 국소적이고, 따라서 더 극단적인 결과로 이어지는 것을 의미하는 반면, α에 대한 더 낮은 값들은 전역에 더 가까운 확장으로 이어진다. 값 α = 0.1은 실제로 하이라이트 확장과 중간 톤들의 효과적인 관리 사이에 양호한 트레이드-오프를 제공하였다.
이 제1 실시예의 구체적인 구현에서, 파라미터 α는 값 α = 0.1로 설정되었는데, 그 이유는 이 값이 하이라이트 확장과 중간 톤들의 효과적인 관리 사이에 양호한 트레이드-오프를 제공하기 때문이다.
모든 리셰이핑된/리스케일링된 화소 확장 지수 값들은 최종 확장 지수 맵 E'(p)를 형성한다.
고주파수 추출 모듈을 이용하여, 이 실시예의 제4 단계에서, 원래 이미지 내의 휘도 값들의 높은 공간 주파수들을 추출하여 그의 휘도 값 Y(p)를 가진 이미지의 각각의 화소 p에 대한 화소 휘도-향상 값 Yenhance(p)를 획득한다. 이 단계는 예를 들어 다음과 같이 3개의 하위 단계를 통하여 수행된다.
필터링의 제1 하위 단계에서, 먼저 화소 p의 공간 이웃에서, 그리고 다음으로 휘도 값 Y(p)의 이웃에서, 상기와 동일한 가우스 함수들 f's, f'r를 이용하여, 이미지의 휘도의 큰 변화들을 포함하지만 노이즈 또는 다른 작은 특징들은 제외하는 베이스 층 Ybase가 다음과 같이 계산된다:
Figure pct00006
여기서 Ω'는 바람직하게는 상기와 동일한 사이즈를 가진, 화소 p에 중심을 둔 이미지의 윈도의 사이즈이고,
여기서 pi는 이 윈도 내의 화소이다.
이 제1 실시예의 이 구체적인 구현에서, 공간 가우스 함수 f's에 대한 표준 편차는 이제 σ's = 10으로 설정되고, 휘도 범위 가우스 함수 f'r에 대한 표준 편차는 σ'r = 0.1 × max(Y)로 설정된다.
필터링의 제2 하위 단계에서, 두 번째로 역시 가우스 함수들을 이용하지만, 이미지에서 더 많은 휘도 디테일들을 제거하기 위하여 휘도 범위에서 더 큰 표준 편차를 가진 가우스 함수들을 이용하여, 제1 하위 단계에 의해 획득된 베이스 층 Ybase를 필터링하여, 다음과 같이 Y'base를 획득한다:
Figure pct00007
여기서 f"s, f"r는 먼저 화소 p의 공간 이웃에서, 그리고 다음으로 휘도 값 Y(p)의 이웃에서, 상기와 동일한 가우스 함수들이고,
여기서 Ω"는 바람직하게는 상기와 동일한 사이즈를 가진 화소 p에 중심을 둔 이미지의 윈도의 사이즈이고,
여기서 pi는 이 윈도 내의 화소이다.
임의로, Y'base(p)는 최종 HDR 이미지에서 노이즈를 최소화하기 위하여 위에 정의된 바와 같이, E(p)와 같게 설정될 수 있다.
이 제1 실시예의 구체적인 구현에서, 공간 가우스 함수 f"s에 대한 표준 편차는 이제 σ"s = σ's 이도록 설정되고, 휘도 범위 가우스 함수 f"r에 대한 표준 편차는 예컨대 이미지에서 더 많은 휘도 디테일들을 제거하도록, 즉, σ"r > σ'r이도록 설정된다. 예를 들어, σ"r = 0.3 × max(Y)이다.
이미지 내의 휘도 값들의 고주파수들의 추출의 제3 및 최종 하위 단계에서는, 이미지의 각각의 화소에 대해, 화소 휘도-향상 값 Yenhance(p)가 제1 하위 단계의 결과 Ybase(p)를 제2 하위 단계의 결과 Y'base(p)로 나눈 비율로서 계산되고, 따라서 Yenhance(p) = Ybase(p)/ Y'base(p)이다. σ"r > σ'r이므로, 이 비율은 이미지 내의 휘도 값들의 높은 공간 주파수들의 추출에 대응한다. 이미지 내의 휘도 값들의 높은 공간 주파수들의 추출의 다른 방법들이 본 발명에서 벗어나지 않고 이용될 수 있다.
모든 최종 화소 휘도-향상 값들은, 이미지의 휘도 값들에 적용될 때, 그의 디테일들을 향상시킬 휘도-향상 맵을 형성하는데, 그 이유는 휘도 값들의 고주파수들의 추출 때문이다.
이 역 톤 내핑 모듈을 이용하여, 이 실시예의 제5 단계에서는, 이미지의 각각의 화소 p의 휘도 Y(p)는 이 화소의 휘도를 상기 제3 단계로부터 이 화소에 대해 획득된 최종 화소 확장 지수 값 E'(p) 거듭제곱한 값과 상기 제4 단계로부터 이 화소에 대해 획득된 화소 휘도-향상 값을 1 이상인 지수 파라미터 c 거듭제곱한 값의 곱을 통하여 획득된 확장된 휘도 Yexp(p)로 역 톤 매핑된다. 이것은 Yexp(p) = Y(p)E'(p)x [Yenhance(p)]c 를 의미한다.
지수 파라미터 c는 화소 휘도-향상 값에 의해 도입되는 디테일 향상의 양을 제어한다. 그러므로, c의 값이 클수록 이미지 에지들의 대비를 점점 증가시킨다. c=1.5의 값이 바람직하게 사용된다.
전술한 바와 같이 이미지의 휘도를 확장할 때, 휘도 및 대비 변화들은 이미지 내의 색 및 포화도(saturation)의 외양에 영향을 미칠 수 있다. 그의 휘도 범위를 확장하는 동안, 이미지의 색 정보는 이미지의 예술적 의도를 보존하기 위해 제6 임의적 단계에서 관리될 수 있다. 바람직하게는, 색들의 포화도들은 확장 지수 값들을 가이드로서 이용하여 향상된다. 더 구체적으로, 각각의 화소의 색의 포화도는 이 화소의 확장 지수와 같은 인수(factor)만큼 향상된다. 화소 p의 색의 포화도는 예를 들어, 원통형 버전의 YUV 공간에서 다음과 같이 계산되는, 이 화소의 채도(Chroma) 값 C(p):
Figure pct00008
를 조정하는 것에 의해 향상되고, 조정된 채도 값 C'(p)는 이 화소 p의 확장 지수 E'(p)와 이 화소의 채도 값 C(p)의 곱으로서 계산되고, 따라서:
Figure pct00009
이다.
이 제1 실시예의 구체적인 구현에서, C(p)를 C'(p)로 변환하는 채도 스케일링은 과포화 하이라이트들을 피하기 위해, 예컨대, 빛 폭발(light explosions) 및 밝은 빛을 피하기 위해 1.5의 인수로 제한되는 것이 바람직하다.
이 새로운 C'(p)의 값들에 의해, 여기서 LCH와 같은 원통형 색 공간을 YUV 공간 쪽으로 변환하는 보통의 방법을 이용하여, 새로운 색차 U'(p), V'(p)의 값들이 계산된다:
Figure pct00010
여기서 H(p)는 다음과 같이 원래 U(p) 및 V(p)로부터 계산된 원래 색상(hue)이다:
Figure pct00011
.
제5 또는 제6 단계의 끝에, 이미지의 각각의 색의 YUV 좌표들은 YUV 색 공간 내의 확장된 색들을 나타내는 새로운 Y'U'V' 좌표들로 매핑된다.
이 제1 실시예의 최종 제7 단계(도 1에 도시되지 않음)에서, 확장된 색들의 새로운 Y'U'V' 좌표들은 그 자체로 공지된 방식으로 다시 RGB 색 공간에서 동일한 확장된 색들을 나타내는 대응하는 새로운 R'G'B' 좌표들로 변환된다. 필요하다면, 이 R'G'B' 좌표들은 예컨대 상기 제1 단계에서 색들이 수신된 색 공간에서 확장된 색들을 나타내도록 비선형화된다(delinearized).
도 1에 도시된 바와 같이, 이 확장된 색들에 기초한 확장된 이미지는 이제, 하이 다이내믹 레인지 내에서 재생되도록, 그의 피크 휘도 Dmax를 가진 디스플레이 디바이스로 송신될 준비가 되어 있다.
이점들
본 발명에 따른 방법을 통하여 획득되는 확장된 이미지들은 동일한 장면의 HDR 이미지가 보이는 것과 가능한 한 가깝다. 획득된 확장된 콘텐츠는, 그다지 크지 않은 확장만이 적용될 수 있는 경우에도, LDR 입력 이미지들에 비하여 더 높은 시각적 품질을 가진다. 이 휘도 확장 방법은 중간 범위 값들을 보존하면서, 밝은 이미지 특징들을 향상시키고, 광원들 및 하이라이트들의 외양을 관찰자에 전달한다. 이러한 확장된 이미지들을 재생하기 위해 이용되는 디스플레이 디바이스의 휘도 범위에 따라서는, 어두운 값들을 보존하거나 더 압축하여 이미지에서의 전역 대비를 향상시킬 수 있다.
본 발명에 따른 방법은 색들의 휘도를 확장하기 위해 이용되는 확장 지수 값들을 정의하기 위해 공간 영역에서 저역 필터링 프로세스를 이용한다. 이 저역 필터링 프로세스는 이미지의 일부 디테일들을 평활화한다. 유리하게는, 이 디테일들의 제거는 확장된 휘도에 적용되는 휘도 향상 인수를 획득하기 위해 이용되는 높은 공간 주파수들을 공간 영역에서 추출하는 것에 의해 보상된다. 즉, 휘도 값들의 고역 필터링의 공간 성분은 예컨대 휘도 값들의 저역 필터링의 공간 성분에 의해 야기되는 이미지의 디테일들의 평활화를 적어도 부분적으로 보상하도록 수행된다.
전술한 바와 같이 휘도에 대해 양방향 저역 필터를 이용하여, 노이즈 또는 밴딩 아티팩트들과 같은, 작은 국소적 디테일을 평활화하면서, 이미지의 밝은 영역들에 유리한 확장 맵이 획득된다. 이는 노이즈 또는 텍스처 정보를 증폭하지 않고 밝은 영역들을 확장하는 것을 가능하게 한다.
사실상, 가장 현재의 HDR LCD 디스플레이 디바이스들의 한계들 중 하나는 이 디바이스들의 공간적으로 변화하는 백라이트가 이 디바이스들의 정면 LCD 패널에 비하여 상대적으로 낮은 해상도를 갖는다는 것이다. 따라서, 그러한 HDR 디스플레이 디바이스들이 매우 높은 전역 대비를 달성할 수 있기는 하지만, 국소적으로, 대비가 나빠진다. 이것은 하이라이트들과 같은, 이미지들의 작은 높은 대비 영역들에서, 또는 어두운 영역과 밝은 영역 간의 뚜렷한 전이들에서 특히 눈에 띤다. 이미지들에서 대비를 향상시키기 위한 많은 해법들이 이용 가능하지만, 역 톤 매핑의 컨텍스트에서, 노이즈 또는 다른 아티팩트들도 향상되지 않도록 보장하기 위해 특별한 주의가 요구된다. 이미지의 높은 공간 주파수를 추출하기 위한 전술한 2개 대역 양방향 필터링 프로세스는 노이즈 및 아티팩트들을 향상시키지 않고 대비를 향상시키기 위해 특히 적합하다.
화소 확장 지수 값 E(p)를 리셰이핑 값 E'(p)로 전술한 바와 같이 리셰이핑할 때, 획득되는 확장된 이미지는 이미지를 재생하는 데 이용되는 디스플레이 디바이스의 이용 가능한 다이내믹 레인지를 가장 잘 이용한다.
제1 실시예의 제1 변형예
이미지들의 시퀀스, 즉 비디오 콘텐츠의 역 톤 매핑을 위해, 전술한 방법의 실시예는 시퀀스의 하나의 이미지 뒤에 또 하나의 이미지에, 순차적으로 적용된다. 이 방법이 시퀀스의 각각의 연속적인 이미지에 독립적으로 적용된다면, 획득되는 HDR 시퀀스의 확장된 이미지들 사이에 시간적 일관성(temporal coherence)을 보장하는 것이 어려울 수 있다. 사실상, 장면 내의 밝은 오브젝트들이 움직이면, 깜박거리는 아티팩트가 생성될 수 있다. 이러한 문제를 피하기 위해, 확장된 장면의 평균 휘도가 일정하게 유지되도록 보장하는 것에 의해 간단한 시간적 처리가 적용되는 것이 바람직하다. 상기 제1 실시예에서 설명된 바와 같이 확장된 휘도 값 Y'exp .i가 획득된 시퀀스의 이미지 i에 대해, 조정된 확장된 휘도 값 Y"exp .i 가 다음과 같이 계산되고 확장된 이미지에 대해 Y'exp .i 대신에 이용된다:
Figure pct00012
하나의 장면에서 강한 특징들이 다음 장면들에 전파되지 않도록 보장하기 위해, 모든 숏(shot)의 처음에 평균이 리셋된다. 이것은 기존의 숏 검출 알고리즘들을 이용하여 달성될 수 있다.
제1 실시예의 제2 변형예
이 제2 변형예는 상기 실시예의 제2 단계에서 획득된 중간 화소 확장 지수 값 E(p)로부터 리셰이핑된/리스케일링된 화소 확장 지수 값들 E'(p)의 계산과 관련된다. 이제 화소 확장 지수 값들을, 다음 식에 따라, 중간 화소 확장 지수 값 E(p)의 이차 함수에 따라 리셰이핑하는 것이 제안된다:
Figure pct00013
.
이 식에서, E(p)는 이전 식에서와 같이 max(E(p))에 의해 스케일링되지 않는다는 것에 주목한다.
제1 예에서, 상기 식의 파라미터들 a, b, c는 상수들로서 설정되고 특정 디스플레이 디바이스에 대해 최적화될 수 있다.
제2 예에서, 상기 식의 파라미터들 a, b, c는 Dmax에 따라 계산될 수 있다. 파라미터들 a, b, c의 값들을 계산하기 위해 예를 들어 다음과 같은 식들이 이용된다.
Figure pct00014
식 (s-1) 및 (s-2)에 대해 상수들에 주어진 값들의 예가 표 1에 제시되어 있다.
Figure pct00015
제3 예에서, 파라미터들 a, b, c의 값들은 확장 후에 획득되는 이미지의 그림자들 및 하이라이트들을 더 잘 제어하기 위해 E(p)의 어두운 값들에 대해 그리고 E(p)의 밝은 값들에 대해 상이하도록, 화소 확장 지수 값 E(p) 자체의 값에 의존한다.
이 변형예에 따른 모든 리셰이핑된/리스케일링된 화소 확장 지수 값들은 이전의 것을 대체하는 최종 화소 확장 맵 E'(p)를 형성한다.
이제, 전술한 바와 같은, 그러나 이 실시예를 구현하기 위해 특정하게 구성된 이미지 처리 디바이스를 이용하여 이미지의 역 톤 매핑을 위한 방법의 제2 실시예를 설명할 것이다.
제1 실시예와 비교할 때, 유일한 차이점들은 다음과 관련된다:
- 각각의 화소 p에 대해, 이 화소 p의 공간 이웃에서 화소들의 휘도 값들을 저역 필터링하는 것에 의해 화소 확장 지수 값 E(p)를 획득하는 제2 단계,
- 이미지의 각각의 화소 p에 대한 화소 휘도-향상 값 Yenhance(p)를 획득하기 위해 높은 공간 주파수들을 추출하는 제4 단계.
이 제2 실시예에서, 색들은 이 색들을 휘도를 색차로부터 분리하는 색 공간에서, 에를 들어 YUV 색 공간에서 표현하는 3개의 색 좌표의 세트들로서 수신된다. 다시, 휘도를 색차로부터 분리하는 임의의 다른 색 공간이 대신에 이용될 수 있다. 따라서, 휘도 값 Y(p) 및 2개의 색차 값 U(p), V(p)가 이미지의 임의의 화소 p의 색에 관련된다.
더 구체적으로, 3개의 색 좌표의 이 세트들은 웨이블릿 압축의 유형의, 압축된 형식으로 수신된다. 따라서, 색들의 휘도 Y(p)는 웨이블릿 분해의 증가하는 레벨들에 인코딩되고, 각각의 레벨은, 예를 들어 도 2에서 설명한 바와 같이, 고주파 계수 LH 및 저주파 계수 LL을 적어도 가지며, 여기서 LL, LH, HL 및 HH 부대역 파티션들은, 도 3에 도시된 것과 같은, 수평 에지들, 수직 에지들 및 대각선 에지들을 갖는 근사화된 이미지 및 이미지들을 나타낸다.
화소 확장 지수 맵 및 화소 휘도 향상 맵을 생성하기 위해, 이 실시예에서는 웨이블릿 분해의 하나의 레벨만이 이용된다.
방법의 제2 단계를 구현하기 위해, 소위 Haar 리프팅 웨이블릿 구현이 이용되고, 화소 p의 화소 확장 지수 값 E(p)는 LL 부대역으로부터 획득된다.
Figure pct00016
Figure pct00017
는 컨볼루션 필터들이다.
따라서, 이는, 이 실시예의 제2 단계에서, 각각의 화소의 화소 확장 지수 값은 이 화소 p의 색의 휘도를 인코딩하고 그 후 이 화소의 공간 이웃에서 저역 필터링을 수행하는 가장 높은 레벨의 저주파 계수 A(p)=LL과 같은 것으로서 계산된다는 것을 의미한다.
방법의 제4 단계를 구현하기 위해, 공간 영역에서 휘도들의 고주파수들의 추출은 화소 p의 휘도 Y(p)와 이 화소의 저주파 계수 A(p) 사이의 차이를 계산하는 것에 의해 수행된다. 더 정확하게, 4로 나눈 해상도에서 원래 휘도 Y(p)의 저주파 버전 A(p)인 LL 부대역을 업샘플링하고 그 후 이 원래 휘도 Y(p)로부터 차감하여 다음과 같이 화소 휘도 향상 값 Yenhance(p)를 획득한다: Yenhance(p) = ((Y(p)-cA(p)↑2) + 128)/255 * 2.
따라서, 휘도 향상 맵 Yenhance의 기초를 생성하기 위해 LL 부대역으로부터 제거된 고주파수들만이 유지된다.
모든 다른 단계들은 제1 실시예에서 설명된 단계들과 유사하다. 물론, 최종 제7 단계는 제거될 수 있는데, 그 이유는 획득되는 확장된 색들의 새로운 Y'U'V' 좌표들이 대응하는 새로운 R'G'B' 좌표들로 변환될 필요가 없을 수 있기 때문이다.
특정한 예들 및 바람직한 실시예들에 관하여 본 발명이 설명되어 있지만, 본 발명은 이러한 예들 및 실시예들로 제한되지 않는 것으로 이해된다. 그러므로 청구된 본 발명은 본 명세서에 설명된 특정한 예들 및 바람직한 실시예들로부터의 변형들을 포함하고, 이는 본 기술분야의 통상의 기술자에게 명백할 것이다. 구체적인 실시예들의 일부가 설명되고 개별적으로 청구될 수 있지만, 본 명세서에 설명되고 청구된 실시예들의 다양한 특징들은 조합하여 사용될 수 있는 것으로 이해된다. 청구항들에 나타나는 참조 번호들은 단지 예시를 위한 것이고 청구항들의 범위에 어떤 제한적인 효과도 갖지 않을 것이다.

Claims (9)

  1. 색들이 휘도(luminance)를 색차(chrominance)로부터 분리하는 색 공간(color space)에서 표현되는 이미지의 역 톤 매핑(inverse tone mapping)을 위한 방법으로서,
    - 상기 이미지의 각각의 화소(p)에 대한 화소 확장 지수 값(pixel expansion exponent value) E'(p)를, 상기 화소의 공간 이웃(spatial neighborhood)에서 화소들의 색들의 휘도 값들을 저역 필터링(low pass filtering)하는 것에 의해 획득하는 단계,
    - 상기 이미지의 각각의 화소(p)에 대한 화소 휘도-향상 값(pixel luminance-enhancement value) Yenhance(p)를, 상기 화소의 공간 이웃에서 화소들의 색들의 휘도 값들의 고주파수들의 추출에 의해 획득하는 단계,
    - 상기 이미지의 각각의 화소(p)의 휘도 Y(p)를, 상기 화소의 휘도 Y(p)를 이 화소에 대해 획득된 상기 화소 확장 지수 값 E'(p) 거듭제곱한 값과 상기 화소에 대해 획득된 상기 화소 휘도-향상 값을 1 이상인 지수 파라미터 c 거듭제곱한 값의 곱을 통하여 획득된 확장된 휘도 Yexp(p)로 역 톤 매핑하는 단계
    를 포함하는, 이미지의 역 톤 매핑을 위한 방법.
  2. 제1항에 있어서, 상기 화소 확장 지수 값들 E'(p)는 또한 획득되는 이미지의 평균 확장된 휘도가 원래 이미지의 평균 휘도와 거의 같도록 상기 저역 필터링된 휘도 값들이 재분포되도록 이 값들을 리셰이핑(reshaping)하는 것에 의해 획득되는, 이미지의 역 톤 매핑을 위한 방법.
  3. 제1항 또는 제2항에 있어서, 주어진 피크 휘도 Dmax를 가진 디스플레이 디바이스에서 재생되도록 적응된 것이고, 상기 화소 확장 지수 값들 E'(p)는 또한 상기 이미지의 화소들에 걸쳐 최대 휘도 max(Y)를 이 최대 휘도 max(Y)를 가진 화소에 대해 획득된 화소 확장 지수 값 거듭제곱한 값이 상기 피크 휘도 Dmax와 같도록 상기 저역 필터링된 휘도 값들을 리스케일링(rescaling)하는 것에 의해 획득되는, 이미지의 역 톤 매핑을 위한 방법.
  4. 제1항 또는 제2항에 있어서, 상기 화소 확장 지수 값들 E'(p)는 상기 저역 필터링된 휘도 값들을 이 값들에 적용되는 이차 함수를 통하여 리셰이핑하는 것에 의해 획득되는, 이미지의 역 톤 매핑을 위한 방법.
  5. 제1항 내지 제4항 중 어느 한 항에 있어서, 각각의 화소의 화소 확장 지수 값을 계산하기 위해, 상기 저역 필터링은 상기 화소의 상기 공간 이웃에서 적용되는 제1 가우스 함수(Gaussian function)와 상기 화소의 색의 휘도 값의 이웃에서 적용되는 제2 가우스 함수의 곱을 계산하는 것에 의해 수행되는, 이미지의 역 톤 매핑을 위한 방법.
  6. 제5항에 있어서, 화소 휘도-향상 값들의 상기 계산을 위해, 휘도 값들의 고주파수들의 상기 추출은 제2 저역 필터링을 제3 저역 필터링으로 나눈 비율을 계산하는 것에 의해 수행되고, 상기 제3 저역 필터링은 상기 제2 저역 필터링보다 상기 이미지에서 더 많은 디테일(detail)들을 제거하도록 구성되는, 이미지의 역 톤 매핑을 위한 방법.
  7. 제1항 내지 제4항 중 어느 한 항에 있어서,
    상기 색들의 휘도는 웨이블릿 분해(wavelet decomposition)의 증가하는 레벨들로 인코딩되고, 각각의 레벨은 고주파 계수(LH) 및 저주파 계수(LL)를 적어도 갖고,
    각각의 화소의 화소 확장 지수 값은 상기 화소(p)의 색의 휘도를 인코딩하고 그 후 상기 화소의 상기 공간 이웃에서 상기 저역 필터링을 수행하는 가장 높은 레벨의 저주파 계수 A(p)=LL과 같은 것으로서 계산되는, 이미지의 역 톤 매핑을 위한 방법.
  8. 제7항에 있어서, 화소의 화소 휘도-향상 값의 상기 계산을 위해, 상기 화소의 이웃에 위치하는 화소들의 휘도 값들의 고주파수들의 상기 추출은 상기 화소의 휘도 Y(p)와 상기 화소의 상기 저주파 계수 A(p) 간의 차이를 계산하는 것에 의해 수행되는, 이미지의 역 톤 매핑을 위한 방법.
  9. 색들이 휘도를 색차로부터 분리하는 색 공간에서 표현되는 이미지의 역 톤 매핑을 위한 이미지 처리 디바이스로서,
    - 이 이미지의 각각의 화소에 대한 화소 확장 지수 값을, 이 화소의 공간 이웃에서 화소들의 색들의 휘도 값들을 저역 필터링하는 것에 의해 획득하도록 구성된 저역 필터링 모듈,
    - 상기 저역 필터링 모듈에 의해 제공된 상기 저역 필터링된 휘도 값들을 리셰이핑/리스케일링하도록 구성된 리셰이핑/리스케일링 모듈,
    - 상기 이미지의 각각의 화소에 대한 화소 휘도-향상 값을, 이 화소의 휘도 이웃에서 화소들의 색들의 휘도 값들의 고주파수들의 추출에 의해 획득하도록 구성된 고주파수 추출 모듈,
    - 상기 이미지의 각각의 화소의 휘도를, 상기 화소의 휘도를 상기 리셰이핑/리스케일링 모듈에 의해 이 화소에 대해 제공된 상기 화소 확장 지수 값 거듭제곱한 값과 상기 고주파수 추출 모듈에 의해 상기 화소에 대해 제공된 상기 화소 휘도-향상 값을 1 이상인 지수 파라미터 c 거듭제곱한 값의 곱을 통하여 획득된 확장된 휘도로 역 톤 매핑하도록 구성된 역 톤 매핑 모듈
    을 포함하는, 이미지의 역 톤 매핑을 위한 이미지 처리 디바이스.
KR1020167020125A 2013-12-27 2014-12-02 이미지의 역 톤 매핑을 위한 방법 KR102234092B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP13306876.7 2013-12-27
EP13306876 2013-12-27
PCT/EP2014/076183 WO2015096955A1 (en) 2013-12-27 2014-12-02 Method for inverse tone mapping of an image

Publications (2)

Publication Number Publication Date
KR20160102524A true KR20160102524A (ko) 2016-08-30
KR102234092B1 KR102234092B1 (ko) 2021-04-01

Family

ID=50030037

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020167020125A KR102234092B1 (ko) 2013-12-27 2014-12-02 이미지의 역 톤 매핑을 위한 방법

Country Status (8)

Country Link
US (1) US9911181B2 (ko)
EP (1) EP3087730B1 (ko)
JP (1) JP6461165B2 (ko)
KR (1) KR102234092B1 (ko)
CN (1) CN105850114B (ko)
ES (1) ES2690371T3 (ko)
PL (1) PL3087730T3 (ko)
WO (1) WO2015096955A1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190000811A (ko) * 2017-06-23 2019-01-03 톰슨 라이센싱 이미지를 타겟 디스플레이 디바이스의 타겟 피크 휘도 lt에 톤 적응시키기 위한 방법
KR20200065458A (ko) 2018-11-30 2020-06-09 고려대학교 산학협력단 단일 영상을 기반으로 한 인버스 톤 매핑의 최적화 장치 및 방법, 상기 방법을 수행하기 위한 기록 매체
KR20200100077A (ko) * 2017-12-21 2020-08-25 인터디지털 브이씨 홀딩스 인코포레이티드 개선된 역 톤 매핑 방법 및 대응하는 디바이스

Families Citing this family (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015192368A1 (zh) * 2014-06-20 2015-12-23 深圳市大疆创新科技有限公司 Hdri的生成方法及装置
TWI764870B (zh) * 2015-07-28 2022-05-21 法商內數位麥德遜專利控股有限公司 視訊訊號處理裝置及方法
EP3136736A1 (en) 2015-08-25 2017-03-01 Thomson Licensing Method for inverse tone mapping of a sequence of images
US10467735B2 (en) 2015-08-25 2019-11-05 Interdigital Vc Holdings, Inc. Inverse tone mapping based on luminance zones
WO2017036908A1 (en) * 2015-08-31 2017-03-09 Thomson Licensing Method and apparatus for inverse tone mapping
US9979895B2 (en) * 2015-09-04 2018-05-22 Disney Enterprises, Inc. High dynamic range tone mapping
GB2549521A (en) * 2016-04-21 2017-10-25 British Broadcasting Corp Method and apparatus for conversion of dynamic range of video signals
WO2017190786A1 (en) 2016-05-04 2017-11-09 1/1Thomson Licensing Optimized content-adaptive inverse tone mapping for low to high dynamic range conversion
EP3249605A1 (en) 2016-05-23 2017-11-29 Thomson Licensing Inverse tone mapping method and corresponding device
KR102552747B1 (ko) * 2016-06-28 2023-07-11 주식회사 엘엑스세미콘 역 톤 매핑 방법
US10275864B2 (en) * 2016-09-09 2019-04-30 Kabushiki Kaisha Toshiba Image processing device and image processing method
EP3340165A1 (en) * 2016-12-20 2018-06-27 Thomson Licensing Method of color gamut mapping input colors of an input ldr content into output colors forming an output hdr content
CN107045715B (zh) * 2017-02-22 2019-06-07 西南科技大学 一种单幅低动态范围图像生成高动态范围图像的方法
US10187637B2 (en) 2017-03-07 2019-01-22 Filmic Inc. Inductive micro-contrast evaluation method
EP3373585A1 (en) 2017-03-09 2018-09-12 Thomson Licensing Method for inverse tone mapping of an image with visual effects
EP3462743A1 (en) 2017-09-27 2019-04-03 Thomson Licensing Device and method for dynamic range expansion in a virtual reality scene
DE102017218072A1 (de) * 2017-10-11 2019-04-11 Robert Bosch Gmbh Verfahren zum Aufnehmen eines Bildes
EP3486865A1 (en) * 2017-11-20 2019-05-22 Thomson Licensing Method and device for inverse tone mapping
CN108305227A (zh) * 2018-01-23 2018-07-20 中国航空工业集团公司洛阳电光设备研究所 一种对比度不变的图像低亮度区域增强亮度的方法
EP3522107A1 (en) 2018-01-31 2019-08-07 InterDigital CE Patent Holdings Method and apparatus for generating hdr images with reduced clipped areas
KR102546990B1 (ko) 2018-03-16 2023-06-23 엘지전자 주식회사 신호 처리 장치 및 이를 구비하는 영상표시장치
CN108761391B (zh) * 2018-05-29 2022-04-01 南京信息工程大学 一种模型类无设备目标定位方法
EP3594894A1 (en) 2018-07-11 2020-01-15 InterDigital VC Holdings, Inc. Tone-mapping of colors of a video content
CN109060806B (zh) * 2018-08-29 2019-09-13 陈青 箱子底端材料类型辨识机构
CN109274985B (zh) * 2018-10-12 2020-04-28 腾讯科技(深圳)有限公司 视频转码方法、装置、计算机设备和存储介质
CN109544463A (zh) * 2018-10-17 2019-03-29 天津大学 基于图像内容的逆色调映射方法
CN113168672B (zh) * 2018-10-19 2024-02-02 高途乐公司 用于图像处理的色调映射和色调控制集成
WO2020216380A1 (en) * 2019-04-26 2020-10-29 Beijing Bytedance Network Technology Co., Ltd. Prediction of parameters for in-loop reshaping
CN110223256A (zh) * 2019-06-10 2019-09-10 北京大学深圳研究生院 一种逆色调映射方法、装置及电子设备
CN112565645B (zh) * 2019-09-10 2023-07-25 瑞昱半导体股份有限公司 视角图像补偿方法与电路系统
CN110874816B (zh) * 2019-11-19 2023-07-04 抖音视界有限公司 一种图像处理方法、装置、移动终端及存储介质
EP4115383A1 (en) 2020-03-02 2023-01-11 InterDigital VC Holdings France Method and apparatus for inverse tone mapping
US20230267579A1 (en) 2020-06-26 2023-08-24 Interdigital Ce Patent Holdings, Sas Inverse tone mapping with adaptive bright-spot attenuation
CN111667541B (zh) * 2020-06-28 2023-07-18 北京美摄网络科技有限公司 图像颜色量化方法、装置、电子设备及存储介质
CN112200753B (zh) * 2020-10-30 2023-02-10 青岛海泰新光科技股份有限公司 一种图像宽动态范围的处理方法
JP2023554451A (ja) * 2020-12-21 2023-12-27 フォンダシオン ベー-コム 画像の、より高ダイナミックレンジを有する出力画像への変換
CN112581400B (zh) * 2020-12-22 2024-05-31 安徽圭目机器人有限公司 基于高斯标准差和对比度调谐图像增强方法
CN113518185B (zh) * 2020-12-30 2022-08-05 腾讯科技(深圳)有限公司 视频转换处理方法、装置、计算机可读介质及电子设备
CN115018714A (zh) * 2021-03-05 2022-09-06 思特威(上海)电子科技股份有限公司 一种图像像素值映射方法、成像装置及计算机存储介质
US11544827B2 (en) * 2021-04-30 2023-01-03 Realnetworks, Inc. Hue-based video enhancement and rendering
CN113570519B (zh) * 2021-07-27 2024-03-22 重庆金山医疗技术研究院有限公司 一种hdr图像快速映射显示方法
WO2023138913A1 (en) 2022-01-19 2023-07-27 Interdigital Vc Holdings France, Sas Expansion function selection in an inverse tone mapping process

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009207114A (ja) * 2008-02-28 2009-09-10 Mitsubishi Electric Research Laboratories Inc 復号器において画像を逆トーンマッピングする方法
JP2011501565A (ja) * 2007-10-16 2011-01-06 トムソン ライセンシング ビット深度スケーラビリティのためのアーティファクト除去のための方法及び装置
KR20110115169A (ko) * 2009-03-13 2011-10-20 돌비 레버러토리즈 라이쎈싱 코오포레이션 고 동적 범위, 가시 동적 범위, 및 광색역 비디오의 층상 압축

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6731823B1 (en) * 1999-12-22 2004-05-04 Eastman Kodak Company Method for enhancing the edge contrast of a digital image independently from the texture
JP4102985B2 (ja) * 2002-11-21 2008-06-18 セイコーエプソン株式会社 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
US8050512B2 (en) * 2004-11-16 2011-11-01 Sharp Laboratories Of America, Inc. High dynamic range images from low dynamic range images
WO2008066840A2 (en) 2006-11-27 2008-06-05 Dolby Laboratories Licensing Corporation Apparatus and methods for boosting dynamic range in digital images
CA2570090C (en) * 2006-12-06 2014-08-19 Brightside Technologies Inc. Representing and reconstructing high dynamic range images
KR100900694B1 (ko) * 2007-06-27 2009-06-04 주식회사 코아로직 비선형 저조도 보정장치, 방법 및 상기 방법을프로그램화하여 수록한 컴퓨터로 읽을 수 있는 기록매체
US8233738B2 (en) 2007-07-30 2012-07-31 Dolby Laboratories Licensing Corporation Enhancing dynamic ranges of images
US20090317017A1 (en) * 2008-06-20 2009-12-24 The Hong Kong University Of Science And Technology Image characteristic oriented tone mapping for high dynamic range images
US8184693B2 (en) * 2008-04-11 2012-05-22 Intel Corporation Adaptive filtering for bit-depth scalable video codec
US9338475B2 (en) * 2008-04-16 2016-05-10 Intel Corporation Tone mapping for bit-depth scalable video codec
US8290295B2 (en) * 2009-03-03 2012-10-16 Microsoft Corporation Multi-modal tone-mapping of images
US8483479B2 (en) * 2009-05-11 2013-07-09 Dolby Laboratories Licensing Corporation Light detection, color appearance models, and modifying dynamic range for image display
US9020257B2 (en) * 2009-10-08 2015-04-28 International Business Machines Corporation Transforming a digital image from a low dynamic range (LDR) image to a high dynamic range (HDR) image
US8606009B2 (en) * 2010-02-04 2013-12-10 Microsoft Corporation High dynamic range image generation and rendering
US9129445B2 (en) * 2012-03-14 2015-09-08 Dolby Laboratories Licensing Corporation Efficient tone-mapping of high-bit-depth video to low-bit-depth display
WO2015113655A1 (en) * 2014-01-31 2015-08-06 Thomson Licensing Method for conversion of a saturated image into a non-saturated image
EP3136736A1 (en) * 2015-08-25 2017-03-01 Thomson Licensing Method for inverse tone mapping of a sequence of images
EP3139342A1 (en) * 2015-09-02 2017-03-08 Thomson Licensing Methods, systems and apparatus for over-exposure correction

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011501565A (ja) * 2007-10-16 2011-01-06 トムソン ライセンシング ビット深度スケーラビリティのためのアーティファクト除去のための方法及び装置
JP2009207114A (ja) * 2008-02-28 2009-09-10 Mitsubishi Electric Research Laboratories Inc 復号器において画像を逆トーンマッピングする方法
KR20110115169A (ko) * 2009-03-13 2011-10-20 돌비 레버러토리즈 라이쎈싱 코오포레이션 고 동적 범위, 가시 동적 범위, 및 광색역 비디오의 층상 압축
JP2012520619A (ja) * 2009-03-13 2012-09-06 ドルビー ラボラトリーズ ライセンシング コーポレイション 高ダイナミックレンジ、視覚ダイナミックレンジ及び広色域のビデオの階層化圧縮

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190000811A (ko) * 2017-06-23 2019-01-03 톰슨 라이센싱 이미지를 타겟 디스플레이 디바이스의 타겟 피크 휘도 lt에 톤 적응시키기 위한 방법
KR20200100077A (ko) * 2017-12-21 2020-08-25 인터디지털 브이씨 홀딩스 인코포레이티드 개선된 역 톤 매핑 방법 및 대응하는 디바이스
KR20200065458A (ko) 2018-11-30 2020-06-09 고려대학교 산학협력단 단일 영상을 기반으로 한 인버스 톤 매핑의 최적화 장치 및 방법, 상기 방법을 수행하기 위한 기록 매체

Also Published As

Publication number Publication date
EP3087730A1 (en) 2016-11-02
JP6461165B2 (ja) 2019-01-30
JP2017502602A (ja) 2017-01-19
KR102234092B1 (ko) 2021-04-01
ES2690371T3 (es) 2018-11-20
PL3087730T3 (pl) 2018-12-31
CN105850114B (zh) 2019-05-21
US20160328830A1 (en) 2016-11-10
US9911181B2 (en) 2018-03-06
CN105850114A (zh) 2016-08-10
WO2015096955A1 (en) 2015-07-02
EP3087730B1 (en) 2018-08-01

Similar Documents

Publication Publication Date Title
KR102234092B1 (ko) 이미지의 역 톤 매핑을 위한 방법
KR102523505B1 (ko) 역 톤 매핑을 위한 방법 및 장치
US10013745B2 (en) Method for inverse tone mapping of a sequence of images
CN102769722B (zh) 时域与空域结合的视频降噪装置及方法
KR101298642B1 (ko) 영상 잡음 제거 방법 및 장치
EP2852152B1 (en) Image processing method, apparatus and shooting terminal
EP1242975B1 (en) Digital imaging
KR102567860B1 (ko) 개선된 역 톤 매핑 방법 및 대응하는 디바이스
US20120189206A1 (en) Image dynamic range compression system, method and program
CN104335565A (zh) 采用具有自适应滤芯的细节增强滤波器的图像处理方法
CN111899197B (zh) 一种图像增亮去噪方法、装置、移动终端和存储介质
CN113518185A (zh) 视频转换处理方法、装置、计算机可读介质及电子设备
Zhang et al. Single image dehazing based on fast wavelet transform with weighted image fusion
KR101668829B1 (ko) 공간 주파수 상에서 인간 시각 특성이 반영된 텍스처 향상 방법 및 장치
US20140092116A1 (en) Wide dynamic range display
JP5640071B2 (ja) 画像拡大装置、画像拡大プログラム、画像拡大プログラムを記憶した記憶媒体、及び表示装置
CN116468636A (zh) 低照度增强方法、装置、电子设备和可读存储介质
KR100701306B1 (ko) 영상신호의 슈트 아티팩트 처리장치 및 방법
CN111915528B (zh) 一种图像增亮方法、装置、移动终端和存储介质
GB2489233A (en) Image Noise Reduction Resulting in Higher Noise and/or Texture in Image Parts Representing Human Skin
Lim et al. Denoising scheme for realistic digital photos from unknown sources
CN115880160A (zh) 图像处理方法及装置

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right