KR101959147B1 - 왜곡없이 저조도 영상 프레임을 복원하는 단말 장치 및 방법과 이를 수행하는 기록 매체 - Google Patents

왜곡없이 저조도 영상 프레임을 복원하는 단말 장치 및 방법과 이를 수행하는 기록 매체 Download PDF

Info

Publication number
KR101959147B1
KR101959147B1 KR1020170182879A KR20170182879A KR101959147B1 KR 101959147 B1 KR101959147 B1 KR 101959147B1 KR 1020170182879 A KR1020170182879 A KR 1020170182879A KR 20170182879 A KR20170182879 A KR 20170182879A KR 101959147 B1 KR101959147 B1 KR 101959147B1
Authority
KR
South Korea
Prior art keywords
image frame
frame
brightness
corrected
channel
Prior art date
Application number
KR1020170182879A
Other languages
English (en)
Inventor
백준기
고승용
유수환
Original Assignee
중앙대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 중앙대학교 산학협력단 filed Critical 중앙대학교 산학협력단
Priority to KR1020170182879A priority Critical patent/KR101959147B1/ko
Application granted granted Critical
Publication of KR101959147B1 publication Critical patent/KR101959147B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/64—Circuits for processing colour signals
    • H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/14—Picture signal circuitry for video frequency region
    • H04N5/21—Circuitry for suppressing or minimising disturbance, e.g. moiré or halo

Abstract

왜곡없이 저조도 영상 프레임을 복원하는 단말 장치 및 방법과 이를 수행하는 기록 매체가 개시된다. 개시된 단말 장치는 컴퓨터에서 판독 가능한 명령을 저장하는 메모리부; 및 상기 명령을 실행하도록 구현되는 프로세서부:를 포함하되, 상기 프로세서부는, 입력된 저조도의 영상 프레임의 밝기를 보정한 제1 영상 프레임과 상기 영상 프레임의 색상을 보정한 제2 영상 프레임에 기초하여 밝기 및 색상이 보정된 제3 영상 프레임을 산출하고, 미디언 필터를 적용하여 상기 영상 프레임을 변환한 제4 영상 프레임을 산출하고, 상기 제2 영상 프레임, 상기 제3 영상 프레임 및 제4 영상 프레임을 선형 결합하여 상기 영상 프레임의 복원 영상 프레임을 산출한다.

Description

왜곡없이 저조도 영상 프레임을 복원하는 단말 장치 및 방법과 이를 수행하는 기록 매체{Terminal devise, Method and Recording medium for restoring low-luminance image frame without artifact}
본 발명의 실시예들은 잡음 증폭, 플리커 잡음(flicker noise), 색 왜곡(color distortion) 및 밝기 포화 현상(bright saturation)과 같은 왜곡(artifact)없이 저조도의 영상 프레임을 개선하는 단말 장치 및 방법과 이를 수행하는 기록 매체와 관련된 것이다.
최근 디지털 카메라의 보급이 보편적으로 이루어지고 있으며, 특히 개인 블로그, 페이스북 및 트위터와 같은 소셜 네트워크가 보급됨에 따라 영상을 촬영하는 디지털 카메라는 생활 필수품으로 자리잡고 있는 실정이다.
자동 노출, 자동 포커싱 및 얼굴 인식과 같이 디지털 카메라와 관련된 기술의 발달에 따라 전문가가 아닌 일반 사용자들도 원하는 영상을 얻을 수 있는 상황이나, 아직까지 어두운 환경, 즉 저조도 환경에서 원하는 영상을 얻기에는 어려운 문제점이 있다.
특히, 디지털 카메라와 같은 소형의 단말 장치는 저조도 상태에서 매우 낮은 신호 대 잡음비(SNR)를 가지는 영상을 획득하는 문제점이 있다. 이러한 문제점을 해결하기 위해 다양한 영상 개선 알고리즘(image enhancement algorithm)이 제안되었지만, 제한된 소비 전력과 계산의 복잡성으로 인해 소형의 단말 장치에서 쉽게 구현할 수 없는 단점이 있다.
상기한 바와 같은 종래기술의 문제점을 해결하기 위해, 본 발명에서는 잡음 증폭, 플리커 잡음, 색 왜곡 및 밝기 포화 현상과 같은 왜곡(artifact)없이 저조도의 영상 프레임을 개선하는 단말 장치 및 방법과 이를 수행하는 기록 매체를 제안하고자 한다.
본 발명의 다른 목적들은 하기의 실시예를 통해 당업자에 의해 도출될 수 있을 것이다.
상기한 목적을 달성하기 위해 본 발명의 바람직한 일 실시예에 따르면, 컴퓨터에서 판독 가능한 명령을 저장하는 메모리부; 및 상기 명령을 실행하도록 구현되는 프로세서부:를 포함하되, 상기 프로세서부는, 입력된 저조도의 영상 프레임의 밝기를 보정한 제1 영상 프레임과 상기 영상 프레임의 색상을 보정한 제2 영상 프레임에 기초하여 밝기 및 색상이 보정된 제3 영상 프레임을 산출하고, 미디언 필터를 적용하여 상기 영상 프레임을 변환한 제4 영상 프레임을 산출하고, 상기 제2 영상 프레임, 상기 제3 영상 프레임 및 제4 영상 프레임을 선형 결합하여 상기 영상 프레임의 복원 영상 프레임을 산출하는 것을 특징으로 하는 단말 장치가 제공된다.
상기 제1 영상 프레임은 상기 영상 프레임의 Y 채널의 픽셀값과 상기 영상 프레임에 대한 인접 프레임들의 Y 채널의 픽셀값을 패치 단위로 누적하여 산출될 수 있다.
상기 제2 영상 프레임은 상기 영상 프레임의 RGB 채널의 픽셀값에 대한 평균 밝기값에 기초하여 산출될 수 있다.
상기 제2 영상 프레임은 아래의 수학식으로 표현될 수 있다.
Figure 112017130658061-pat00001
여기서,
Figure 112017130658061-pat00002
은 상기 제2 영상 프레임,
Figure 112017130658061-pat00003
는 상기 평균 밝기 값,
Figure 112017130658061-pat00004
는 상기 영상 프레임의 RGB 채널 각각의 최대 밝기 값,
Figure 112017130658061-pat00005
은 시그모이드 함수(sigmoid function),
Figure 112017130658061-pat00006
는 상기 영상 프레임의 RGB 채널 각각의 색상 보정 비율,
Figure 112017130658061-pat00007
는 시그모이드 함수의 기울기를 제어하는 파라미터를 각각 의미함.
상기 제3 영상 프레임은 아래의 수학식으로 표현될 수 있다.
Figure 112017130658061-pat00008
여기서,
Figure 112017130658061-pat00009
는 상기 제3 영상 프레임,
Figure 112017130658061-pat00010
는 상기 제1 영상 프레임,
Figure 112017130658061-pat00011
은 상기 제2 영상 프레임,
Figure 112017130658061-pat00012
는 상기 영상 프레임의 Y 채널 영상 프레임,
Figure 112017130658061-pat00013
는 상기 제3 영상 프레임의 동적 범위를 제어하는 파라미터를 각각 의미함. ,
상기 제4 영상 프레임은 아래의 수학식으로 표현될 수 있다.
Figure 112017130658061-pat00014
여기서,
Figure 112017130658061-pat00015
는 상기 제4 영상 프레임,
Figure 112017130658061-pat00016
는 상기 영상 프레임의 Y 채널에 상기 미디안 필터를 적용한 영상 프레임,
Figure 112017130658061-pat00017
는 지수 함수의 감쇠 속도를 제어하는 파라미터를 각각 의미함.
상기 복원 영상 프레임은 아래의 수학식으로 표현될 수 있다.
Figure 112017130658061-pat00018
여기서,
Figure 112017130658061-pat00019
는 상기 복원 영상 프레임,
Figure 112017130658061-pat00020
은 상기 제2 영상 프레임,
Figure 112017130658061-pat00021
는 상기 제3 영상 프레임,
Figure 112017130658061-pat00022
는 상기 제4 영상 프레임을 각각 의미함.
또한, 본 발명의 다른 실시예에 따르면, 프로세서부가 포함된 장치에서 수행되는 저조도 영상 프레임의 복원 방법에 있어서, 입력된 영상 프레임의 밝기를 보정한 제1 영상 프레임과 상기 영상 프레임의 색상을 보정한 제2 영상 프레임에 기초하여 밝기 및 색상이 보정된 제3 영상 프레임을 산출하는 단계; 미디언 필터를 적용하여 상기 영상 프레임을 변환한 제4 영상 프레임을 산출하는 단계; 및 상기 제2 영상 프레임, 상기 제3 영상 프레임 및 제4 영상 프레임을 선형 결합하여 상기 영상 프레임의 복원 영상 프레임을 산출하는 단계;를 포함하는 것을 특징으로 하는 저조도 영상 프레임의 복원 방법이 제공된다.
본 발명에 따르면, 잡음 증폭, 플리커 잡음, 색 왜곡 및 밝기 포화 현상과 같은 왜곡(artifact)없이 저조도의 영상 프레임을 개선하는 장점이 있다.
또한, 본 발명의 효과는 상기한 효과로 한정되는 것은 아니며, 본 발명의 상세한 설명 또는 특허청구범위에 기재된 발명의 구성으로부터 추론 가능한 모든 효과를 포함하는 것으로 이해되어야 한다.
도 1 및 도 2는 저조도 영상의 열화 모델의 개념을 설명하기 위한 도면이다.
도 3은 본 발명의 일 실시예에 따른 단말 장치의 개략적인 구성을 도시한 도면이다.
도 4는 본 발명의 일 실시예에 따른 저조도 영상 프레임을 복원하는 방법의 흐름도를 도시한 도면이다.
도 5는 도 4에 도시된 방법에 대한 블록도를 도시한 도면이다.
도 6 내지 도 8은 본 발명의 저조도 영상 프레임의 복원 방법의 개념을 설명하기 위한 도면이다.
본 명세서에서 사용되는 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "구성된다" 또는 "포함한다" 등의 용어는 명세서상에 기재된 여러 구성 요소들, 또는 여러 단계들을 반드시 모두 포함하는 것으로 해석되지 않아야 하며, 그 중 일부 구성 요소들 또는 일부 단계들은 포함되지 않을 수도 있고, 또는 추가적인 구성 요소 또는 단계들을 더 포함할 수 있는 것으로 해석되어야 한다. 또한, 명세서에 기재된 "...부", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다.
이하, 본 발명의 다양한 실시예들을 첨부된 도면을 참조하여 상술한다.
도 1 및 도 2를 참조하여 저조도 영상의 열화 모델을 설명하면 다음과 같다.
이웃하는 픽셀들 간의 공간 처리(spatial processing)가 없다고 가정하면, 플리커 잡음(flicker noise)은 플래시 광(flash lights) 및 동적 조명(dynamic illumination) 등의 이미징 환경 또는 CMOS 이미지 센서의 전자 롤링 셔터(electronics rolling shutter)로 인해 발생한다.
무한 동적 범위(infinite dynamic range)를 갖는 가상적 이상 색상 비디오 프레임(virtually ideal color video frame)을
Figure 112017130658061-pat00023
(
Figure 112017130658061-pat00024
)라 할 때, 입력된 영상 프레임은 도 1 및 아래의 수학식 1로 모델링 될 수 있다.
Figure 112017130658061-pat00025
여기서,
Figure 112017130658061-pat00026
는 입력된 영상 프레임, x는 공간 좌표의 인덱스, t는 시간에 대한 인덱스,
Figure 112017130658061-pat00027
는 t번째 시간에서의 플리커 잡음,
Figure 112017130658061-pat00028
는 저조도 영상 전달 함수를 각각 의미한다.
그리고, 도 2에서는 저조도 영상 전달 함수의 부분 별 선형 근사의 그래프를 도시하고 있다. 여기서, 빨간색 점선은 무한 세기 범위의 이상적 전달 함수를 의미하고, 파란색 선분은 저조도 영상 전달 함수를 의미한다.
이하, 도 3 내지 도 7을 참조하여, 본 발명의 일 실시예에 따른 저조도 영상을 복원하는 단말 장치 및 방법을 상세하게 설명하기로 한다.
도 3은 본 발명의 일 실시예에 따른 단말 장치(300)의 개략적인 구성을 도시한 도면이다.
도 3을 참조하면, 본 발명의 일 실시예에 따른 단말 장치(300)는 입력부(310), 메모리부(320), 프로세서부(330) 및 디스플레이부(340)를 포함한다.
입력부(310)는 사용자로부터 저조도 환경에서 획득된 영상을 입력받기 위한 구성요소이다. 일례로, 입력부(310)는 단말 장치(300)에 구비되어 있는 카메라에서 획득된 저조도 영상을 입력받을 수도 있고, 유선 통신 또는 무선 통신으로 통해 전송된 저조도 영상을 입력받을 수도 있다.
메모리부(320)는 휘발성 및/또는 비휘발성 메모리일 수 있고, 단말 장치(300)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장한다. 특히, 메모리부(320)는 저조도 영상을 개선하여 복원된 영상을 출력하는 컴퓨터 프로그램 내지 기록 매체에 관계된 명령어 또는 데이터를 저장할 수 있다.
프로세서부(330)는 중앙처리장치, 애플리케이션 프로세서, 또는 커뮤니케이션 프로세서 중 하나 또는 그 이상을 포함할 수 있다. 예를 들면, 프로세서부(330)는 단말 장치(300)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다. 특히, 프로세서부(330)는 상기 컴퓨터 프로그램의 실행에 관계된 명령을 실행할 수 있다.
디스플레이부(340)는 액정 디스플레이(LCD), 발광 다이오드 디스플레이(LED), 유기 발광 다이오드 디스플레이(OLED) 등으로 구성될 수 있으며, 사용자에게 영상 내지 영상 프레임을 표시할 수 있는 장치이다. 특히, 디스플레이부(340)는 프로세서(330)에서 실행되는 컴퓨터 프로그램의 실행 화면을 출력할 수 있다.
이하, 도 4 내지 도 8을 참조하여, 단말 장치(300), 특히 프로세서(330)에서 수행되는 동작을 상세하게 설명하기로 한다.
도 4는 본 발명의 일 실시예에 따른 단말 장치(300)의 동작인 저조도 영상 프레임을 복원하는 방법의 흐름도를 도시한 도면이다. 그리고, 도 5는 도 4에 도시된 방법에 대한 블록도를 도시한 도면이다.
이하, 도 4를 기준으로, 각 단계 별로 수행되는 과정을 상세하게 설명하기로 한다.
먼저, 단계(402)에서, 입력부(310)는 RGB 채널의 영상 프레임을 입력받는다.
그 후, 단계(404)에서, 프로세서부(330)는 RGB 채널의 입력 영상 프레임을 YCbCr 채널 중 Y 채널의 입력 영상 프레임으로 변환한다. 이는 도 5의 블록(510)과 대응되는 단계이다.
한편, 프로세서부(330)는 단계(404)에서 또는 이전의 시간 또는 이후의 시간에서 RGB 채널의 입력 영상 프레임의 인접 영상 프레임들을 Y 채널의 영상 프레임으로 변환할 수도 있다. 이 때, 인접 영상 프레임들 각각은 입력 영상 프레임의 이전 영상 프레임 내지 이후 영상 프레임일 수 있으며, 바람직하게는 이전 영상 프레임일 수 있다.
계속하여, 단계(406)에서, 프로세서부(330)는 Y 채널의 입력 영상 프레임의 픽셀값과 Y 채널의 인접 프레임들의 픽셀값을 패치 단위로 누적하여 제1 영상 프레임을 산출한다. 이는 도 5의 블록(520)과 대응되는 단계이다. 이 때, 제1 영상 프레임은 픽셀값의 누적으로 인해 밝기값이 보정된 영상 프레임이다.
보다 상세하게, 프로세서부(330)는 도 6에 도시된 바와 같이 입력 영상 프레임(610)에서 특정 크기의 영역(620)을 설정하고, 영역(620) 내에 패치(630)를 설정한다. 그리고, 프로세서부(330)는 인접 영상 프레임들에 대해서도 동일한 과정을 수행하며, 이를 통해 패치(630)에 대해 값이 누적된다. 그리고, 프로세서부(330)는 패치(630)의 누적 과정을 영역(620) 내에서 슬라이딩을 통해 반복 수행한다. 이 과정을 통해, 영역(620)에 대한 값이 누적된다. 그리고, 프로세서부(330)는 영역(620)에 대한 누적 과정을 입력 영상 프레임(610) 내에서 슬라이딩을 통해 반복 수행한다. 이 과정을 통해 입력 영상 프레임(610)에 대한 값이 누적된다.
그리고, 입력 영상 프레임의 패치와 대응되는 인접 영상 프레임의 대응 패치는 영역에서 로컬 자기 유사성(local self-similarity)을 사용하여 선택된다. 즉,
Figure 112017130658061-pat00029
가 Y 채널의 입력 영상 프레임(즉, t번째 영상 프레임)에서 x i를 중심으로 하는 패치라 정의하면, 인접 영상 프레임(즉, t-l번째 프레임)에서 x j를 중심으로 하는 대응 패치는
Figure 112017130658061-pat00030
(
Figure 112017130658061-pat00031
)를 최소화하는 패치일 수 있다. 그리고, 패치에 대한 누적 값은 아래의 수학식 2와 같이 표현될 수 있다.
Figure 112017130658061-pat00032
여기서,
Figure 112017130658061-pat00033
는 x i를 중심으로 하는 패치의 누적 값,
Figure 112017130658061-pat00034
는 인접한 영상 프레임 사이의 절대 차,
Figure 112017130658061-pat00035
는 패치 유사성의 임계값(일례로, 0.2)을 각각 의미한다.
정리하면, 본 발명은 패치 별로의 적응적인 누적을 통해 플리커 잡음이 없이 밝기가 보정된 제1 영상 프레임을 획득할 수 있다. 한편, 누적을 통해 밝기값 포화가 발생할 수 있으며, 이는 아래에서 발명하는 단계를 통해 최소화될 수 있다.
다음으로, 단계(408)에서, 프로세서부(330)는 입력 영상 프레임의 RGB 채널의 픽셀값에 대한 평균 밝기값에 기초하여 제2 영상 프레임을 산출한다. 이는 도 5의 블록(530)과 대응되는 단계이다. 이 때, 제2 영상 프레임은 입력 영상 프레임의 색상을 보정한 영상 프레임이다.
본 발명의 일 실시예에 따르면, 제2 영상 프레임은 아래의 수학식 3으로 표현될 수 있다.
Figure 112017130658061-pat00036
여기서,
Figure 112017130658061-pat00037
은 제2 영상 프레임,
Figure 112017130658061-pat00038
는 RGB 채널의 입력 영상 프레임,
Figure 112017130658061-pat00039
는 RGB 채널의 입력 영상 프레임의 픽셀값에 대한 평균 밝기값,
Figure 112017130658061-pat00040
는 RGB 채널의 입력 영상 프레임 각각의 최대 밝기 값,
Figure 112017130658061-pat00041
은 시그모이드 함수(sigmoid function),
Figure 112017130658061-pat00042
는 RGB 채널의 입력 영상 프레임의 색상 보정 비율,
Figure 112017130658061-pat00043
는 시그모이드 함수의 기울기를 제어하는 파라미터를 각각 의미한다.
이 경우, 시그모이드 함수는 아래의 수학식 4와 같이 표현될 수 있다.
Figure 112017130658061-pat00044
여기서,
Figure 112017130658061-pat00045
및
Figure 112017130658061-pat00046
는 기 설정된 매개 변수를 각각 의미한다.
또한,
Figure 112017130658061-pat00047
는 아래의 수학식 5와 같이 표현될 수 있다.
Figure 112017130658061-pat00048
여기서,
Figure 112017130658061-pat00049
는 RGB 채널의 입력 영상 프레임(t번째 프레임)에서 각각의 색상 채널의 평균 밝기 값,
Figure 112017130658061-pat00050
을 RGB 채널의 입력 영상 프레임 각각의 최대 평균 밝기 값을 각각 의미한다.
그 후, 단계(410)에서, 프로세서부(330)는 제1 영상 프레임 및 제2 영상 프레임에 기초하여 제3 영상 프레임을 산출한다. 이는 도 5의 블록(540)과 대응되는 단계이다. 이 때, 제3 영상 프레임은 밝기 및 색상이 보정된 영상 프레임이다.
본 발명의 일 실시예에 따르면, 제3 영상 프레임은 아래의 수학식 6과 같이 표현될 수 있다.
Figure 112017130658061-pat00051
여기서,
Figure 112017130658061-pat00052
는 제3 영상 프레임,
Figure 112017130658061-pat00053
는 제1 영상 프레임,
Figure 112017130658061-pat00054
은 제2 영상 프레임,
Figure 112017130658061-pat00055
는 Y 채널의 입력 영상 프레임,
Figure 112017130658061-pat00056
는 제3 영상 프레임의 동적 범위를 제어하는 파라미터를 각각 의미한다.
정리하면, 단계(408) 및 단계(410)는 색상 할당(color assignment) 단계로서, 제3 영상 프레임은 입력 영상 프레임의 밝기와 색상이 보정된 영상 프레임이며, 입력 영상 프레임의 평균 밝기 값에 따라 부족한 색상 채널을 보상하여 색 왜곡을 최소화한다.
도 7에서는 RGB 채널 각각에 대한 평균 밝기 값의 변화 및 복원된 결과의 비교하여 도시하고 있다.
보다 상세하게, 도 7의 (a)는 입력 영상 프레임의 평균 밝기 값, 도 7의 (b)는 제3 영상 프레임의 평균 밝기 값, 도 7의 (c)는 종래 기술에 따른 복원 결과, 도 7의 (d)는 본 발명의 복원 결과(즉, 제3 영상 프레임)을 각각 도시하고 있다. 도 7를 참조하면, 제3 영상은 원래의 색을 보존하기 위해 색 성분들을 밸런스시키며, 원하지 않는 색의 왜곡이 없음을 확인할 수 있다.
다시, 도 4을 참조하면, 단계(412)에서, 프로세서부(330)는 미디언 필터를 적용하여 입력 영상 프레임을 변환한 제4 영상 프레임을 산출한다. 이는 도 5의 블록(550)과 대응되는 단계이다.
이 때, 제4 영상 프레임은 상기에서 설명한 누적을 통해 발생한 밝은 영역에서의 포화를 방지하기 위한 가이드 맵과 대응된다. 즉, 가이드 맵을 통해, 유사한 패치 누적으로 인한 신호포화 문제를 해결하고, 저조도 영역에 개선된 밝기값을 보존할 수 있다.
본 발명의 일 실시예에 따르면, 제4 영상 프레임은 아래의 수학식 7로 표현될 수 있다.
Figure 112017130658061-pat00057
여기서,
Figure 112017130658061-pat00058
는 제4 영상 프레임,
Figure 112017130658061-pat00059
는 Y 채널의 영상 프레임에 미디안 필터를 적용한 영상 프레임,
Figure 112017130658061-pat00060
는 지수 함수의 감쇠 속도를 제어하는 파라미터를 각각 의미한다.
여기서, 미디안 필터는 잡음이 많은 영상 프레임에서 부정확한 추정을 방지하는 데 사용된다. 이 때, 음의 인수를 갖는 지수 함수는 Y 채널의 입력 영상 프레임을 반전시킨다.
마지막으로, 단계(414)에서, 프로세서부(330)는 제2 영상 프레임, 제3 영상 프레임 및 제4 영상 프레임을 선형 결합하여 입력 영상 프레임의 복원 영상 프레임을 산출한다. 이는 도 5의 블록(560)과 대응되는 단계이다.
본 발명의 일 실시예에 따르면, 복원 영상 프레임은 아래의 수학식 8로 표현될 수 있다.
Figure 112017130658061-pat00061
여기서,
Figure 112017130658061-pat00062
는 복원 영상 프레임,
Figure 112017130658061-pat00063
은 제2 영상 프레임,
Figure 112017130658061-pat00064
는 제3 영상 프레임,
Figure 112017130658061-pat00065
는 제4 영상 프레임을 각각 의미한다.
즉, 수학식 8로 표현되는 복원 영상 프레임은 입력 영상 프레임의 밝기를 개선된 영상 프레임으로서, 가이드 맵에 따라 밝기값 포화가 발생되지 않으며, 패치의 누적을 통해 플리커 잡음이 없는 고화질의 영상 프레임이다.
도 8에서는 본 발명에서 설명된 영상 프레임의 일례를 도시하고 있다. 즉, 도 8의 (a)는 입력 영상 프레임, 도 8의 (b)는 제1 영상 프레임, 도 8의 (c)는 제4 영상 프레임, 도 8의 (d)는 복원 영상 프레임을 각각 도시하고 있다.
도 8을 참조하면, 제1 영상 프레임은 밝은 영역에서 밝기값 포화(과잉) 문제가 발생되지만, 제4 영상 프레임(가이드 맵)을 통해 개선된 밝기 값을 줄이고 보존하는 역할을 수행하여 색상 왜곡과 밝기 포화가 없는 복원 영상 프레임이 출력될 수 있다.
또한, 본 발명의 실시예들은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 본 발명의 일 실시예들의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 본 발명에서는 구체적인 구성 요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나 이는 본 발명의 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 따라서, 본 발명의 사상은 설명된 실시예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등하거나 등가적 변형이 있는 모든 것들은 본 발명 사상의 범주에 속한다고 할 것이다.

Claims (9)

  1. 단말 장치에 있어서,
    컴퓨터에서 판독 가능한 명령을 저장하는 메모리부; 및
    상기 명령을 실행하도록 구현되는 프로세서부:를 포함하되,
    상기 프로세서부는,
    입력된 저조도의 영상 프레임의 밝기를 보정한 제1 영상 프레임과 상기 영상 프레임의 색상을 보정한 제2 영상 프레임에 기초하여 밝기 및 색상이 보정된 제3 영상 프레임을 산출하고,
    미디언 필터를 적용하여 상기 영상 프레임을 변환한 제4 영상 프레임을 산출하고,
    상기 제2 영상 프레임, 상기 제3 영상 프레임 및 상기 제4 영상 프레임을 선형 결합하여 상기 영상 프레임의 복원 영상 프레임을 산출하는 것을 특징으로 하는 단말 장치.
  2. 제1항에 있어서,
    상기 제1 영상 프레임은 상기 영상 프레임의 Y 채널의 픽셀값과 상기 영상 프레임에 대한 인접 프레임들의 Y 채널의 픽셀값을 패치 단위로 누적하여 산출되는 것을 특징으로 하는 단말 장치.
  3. 제1항에 있어서,
    상기 제2 영상 프레임은 상기 영상 프레임의 RGB 채널의 픽셀값에 대한 평균 밝기값에 기초하여 산출되는 것을 특징으로 하는 단말 장치.
  4. 제3항에 있어서,
    상기 제2 영상 프레임은 아래의 수학식으로 표현되는 것을 특징으로 하는 단말 장치.

    Figure 112017130658061-pat00066


    여기서,
    Figure 112017130658061-pat00067
    은 상기 제2 영상 프레임,
    Figure 112017130658061-pat00068
    는 상기 평균 밝기 값,
    Figure 112017130658061-pat00069
    는 상기 영상 프레임의 RGB 채널 각각의 최대 밝기 값,
    Figure 112017130658061-pat00070
    은 시그모이드 함수(sigmoid function),
    Figure 112017130658061-pat00071
    는 상기 영상 프레임의 RGB 채널 각각의 색상 보정 비율,
    Figure 112017130658061-pat00072
    는 시그모이드 함수의 기울기를 제어하는 파라미터를 각각 의미함.
  5. 제1항에 있어서,
    상기 제3 영상 프레임은 아래의 수학식으로 표현되는 것을 특징으로 하는 단말 장치.

    Figure 112017130658061-pat00073


    여기서,
    Figure 112017130658061-pat00074
    는 상기 제3 영상 프레임,
    Figure 112017130658061-pat00075
    는 상기 제1 영상 프레임,
    Figure 112017130658061-pat00076
    은 상기 제2 영상 프레임,
    Figure 112017130658061-pat00077
    는 상기 영상 프레임의 Y 채널 영상 프레임,
    Figure 112017130658061-pat00078
    는 상기 제3 영상 프레임의 동적 범위를 제어하는 파라미터를 각각 의미함. ,
  6. 제1항에 있어서,
    상기 제4 영상 프레임은 아래의 수학식으로 표현되는 것을 특징으로 하는 단말 장치.

    Figure 112017130658061-pat00079


    여기서,
    Figure 112017130658061-pat00080
    는 상기 제4 영상 프레임,
    Figure 112017130658061-pat00081
    는 상기 영상 프레임의 Y 채널에 상기 미디안 필터를 적용한 영상 프레임,
    Figure 112017130658061-pat00082
    는 지수 함수의 감쇠 속도를 제어하는 파라미터를 각각 의미함.
  7. 제1항에 있어서
    상기 복원 영상 프레임은 아래의 수학식으로 표현되는 것을 특징으로 하는 단말 장치.

    Figure 112017130658061-pat00083


    여기서,
    Figure 112017130658061-pat00084
    는 상기 복원 영상 프레임,
    Figure 112017130658061-pat00085
    은 상기 제2 영상 프레임,
    Figure 112017130658061-pat00086
    는 상기 제3 영상 프레임,
    Figure 112017130658061-pat00087
    는 상기 제4 영상 프레임을 각각 의미함.
  8. 프로세서부가 포함된 장치에서 수행되는 저조도 영상 프레임의 복원 방법에 있어서,
    입력된 영상 프레임의 밝기를 보정한 제1 영상 프레임과 상기 영상 프레임의 색상을 보정한 제2 영상 프레임에 기초하여 밝기 및 색상이 보정된 제3 영상 프레임을 산출하는 단계;
    미디언 필터를 적용하여 상기 영상 프레임을 변환한 제4 영상 프레임을 산출하는 단계; 및
    상기 제2 영상 프레임, 상기 제3 영상 프레임 및 상기 제4 영상 프레임을 선형 결합하여 상기 영상 프레임의 복원 영상 프레임을 산출하는 단계;를 포함하는 것을 특징으로 하는 저조도 영상 프레임의 복원 방법.
  9. 제8항의 방법을 수행하는 프로그램을 기록한 컴퓨터 판독 가능 기록 매체.
KR1020170182879A 2017-12-28 2017-12-28 왜곡없이 저조도 영상 프레임을 복원하는 단말 장치 및 방법과 이를 수행하는 기록 매체 KR101959147B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020170182879A KR101959147B1 (ko) 2017-12-28 2017-12-28 왜곡없이 저조도 영상 프레임을 복원하는 단말 장치 및 방법과 이를 수행하는 기록 매체

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170182879A KR101959147B1 (ko) 2017-12-28 2017-12-28 왜곡없이 저조도 영상 프레임을 복원하는 단말 장치 및 방법과 이를 수행하는 기록 매체

Publications (1)

Publication Number Publication Date
KR101959147B1 true KR101959147B1 (ko) 2019-03-15

Family

ID=65762640

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170182879A KR101959147B1 (ko) 2017-12-28 2017-12-28 왜곡없이 저조도 영상 프레임을 복원하는 단말 장치 및 방법과 이를 수행하는 기록 매체

Country Status (1)

Country Link
KR (1) KR101959147B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102134405B1 (ko) 2019-06-27 2020-07-15 중앙대학교 산학협력단 적대적 생성망을 이용한 저조도 영상 개선을 위한 장치 및 방법
KR102339584B1 (ko) 2020-11-10 2021-12-16 숭실대학교산학협력단 저조도 영상 복원 방법 및 이를 수행하기 위한 컴퓨팅 장치

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
"Flicker-free low-light video enhancement using patch-similarity and adaptive accumulation", 2016 IEEE International Conference on Consumer Electronics* *
"브라이트 채널 사전 정보를 이용한 역광 영역 개선", 한국HCI학회* *
프레임 누적 및 패치-유사도를 이용한 저조도 동영 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102134405B1 (ko) 2019-06-27 2020-07-15 중앙대학교 산학협력단 적대적 생성망을 이용한 저조도 영상 개선을 위한 장치 및 방법
KR102339584B1 (ko) 2020-11-10 2021-12-16 숭실대학교산학협력단 저조도 영상 복원 방법 및 이를 수행하기 위한 컴퓨팅 장치

Similar Documents

Publication Publication Date Title
CN111418201B (zh) 一种拍摄方法及设备
JP6395810B2 (ja) 動きゴーストフィルタリングのための基準画像選択
US8363131B2 (en) Apparatus and method for local contrast enhanced tone mapping
KR102193896B1 (ko) 멀티플렉싱되는 하이 다이나믹 레인지 이미지
US9710895B2 (en) Image processing device, image capture device, image processing method, and program
KR101434796B1 (ko) 비디오 컨텐츠를 캡처하는 방법, 장치 및 컴퓨터 프로그램 제품
KR20090078583A (ko) 저조도 영상 처리 방법 및 시스템
CN111885312B (zh) Hdr图像的成像方法、系统、电子设备及存储介质
US20220198625A1 (en) High-dynamic-range image generation with pre-combination denoising
Gryaditskaya et al. Motion aware exposure bracketing for HDR video
US20210390658A1 (en) Image processing apparatus and method
CN111242860A (zh) 超级夜景图像的生成方法、装置、电子设备及存储介质
KR101959147B1 (ko) 왜곡없이 저조도 영상 프레임을 복원하는 단말 장치 및 방법과 이를 수행하는 기록 매체
WO2015190320A1 (ja) 撮像装置、及び、撮像方法
JP2015139082A (ja) 画像処理装置、画像処理方法、プログラム、および電子機器
US11640654B2 (en) Image processing method and apparatus
US9288461B2 (en) Apparatus and method for processing image, and computer-readable storage medium
KR102282464B1 (ko) 영상 처리 장치 및 영상 처리 방법
Cvetkovic Image enhancement circuit using nonlinear processing curve and constrained histogram range equalization
KR101004623B1 (ko) 플래쉬 장치를 이용한 영상 품질 개선 장치 및 방법
US20240062342A1 (en) Machine learning-based approaches for synthetic training data generation and image sharpening
CN116128776A (zh) 图像处理方法、装置及存储介质

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant