KR102574649B1

KR102574649B1 - 이미지 처리 방법 및 이를 지원하는 전자 장치

Info

Publication number: KR102574649B1
Application number: KR1020180150793A
Authority: KR
Inventors: 박재형; 여형석; 이용재; 이준영
Original assignee: 삼성전자주식회사
Priority date: 2018-11-29
Filing date: 2018-11-29
Publication date: 2023-09-06
Also published as: KR20200064564A; WO2020111750A1; US11645741B2; US20220005169A1

Abstract

카메라, 메모리, 그리고 상기 카메라 및 상기 메모리와 작동적으로(operatively) 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 카메라를 이용하여, 지정된 제1 노출 시간보다 짧은 제2 노출 시간에 따라 외부 객체에 대해 복수 회 촬영을 수행하고, 상기 복수 회 촬영에 따라 복수의 제1 이미지들을 포함하는 제1 이미지 세트를 획득하고, 상기 제1 이미지 세트를 합성하여 제2 이미지를 생성하고, 상기 제2 이미지에 포함된 광원에 대응하는 적어도 하나의 광원 주변의 특정 영역을 확인하고, 그리고 상기 제2 이미지를 이용하여, 상기 특정 영역에 상기 광원과 관련된 이미지 효과가 추가된 제3 이미지를 생성하도록 설정되는 전자 장치가 개시된다. 이 외에도 명세서를 통해 파악되는 다양한 실시 예가 가능하다.

Description

이미지 처리 방법 및 이를 지원하는 전자 장치{Method for Processing Image and the Electronic Device supporting the same}

본 문서에서 개시되는 실시 예들은, 이미지를 처리하는 기술과 관련된다.

DSLR, 미러리스 디지털 카메라 등 다양한 형태의 촬영 장치(또는 촬상 장치)가 출시되고 있다. 또한, 스마트폰, 태블릿 PC 등과 같은 전자 장치는 카메라 모듈을 포함하여, 사진 또는 동영상을 촬영하는 기능을 제공하고 있다. 상기 전자 장치(또는 촬영 장치)는 다양한 촬영 모드를 제공하고 있고, 사용자는 촬영 환경에 따라 촬영 모드를 선택하여, 원하는 이미지를 얻을 수 있다.

촬영 장치의 렌즈는 수광되는 빛을 집광하는 역할을 한다. 렌즈는 집광의 기능이 가장 기본적이지만, 사진의 표현 기법을 다양화 시키는 역할을 하기도 한다. 아웃포커스 기법이나, 아포다이제이션(apodization) 필터나, 빛 갈라짐 효과(star effect)는 상기 표현 기법의 대표적인 예제이다. 촬영 장치는 복수의 부분으로 구성된 각진 조리개를 사용하기 때문에 촬영 시 빛의 회절을 통해 빛 갈라짐 효과가 자동으로 구현될 수 있다. 하지만, 전자 장치의 카메라 모듈은 촬영 장치와는 다른 조리개를 사용하여 빛 갈라짐 효과가 자동으로 구현되지 않을 수 있다.

촬영 장치는 점 광원에 광학 효과(예: 빛 갈라짐 효과)를 부여하는 경우, 광학적 특성을 기반으로 적용하고 있어, 이러한 다양한 효과를 줄 수 있는 렌즈나 센서를 사용하기 어려운 스마트폰의 카메라에서는 상기 효과의 적용이 어려울 수 있다. 최근에는 영상 처리 과정으로만 광학 효과를 인위적으로 영상에 부가하려는 노력이 있다. 하지만, 영상 처리에 의해 광학 효과를 인위적으로 영상에 부가하는 경우, 연무(haze) 현상(예: 조리개 및 렌즈 부품에서 발생한 회절 및 플레어 등)이 포함된 이미지를 기반으로 영상 처리를 하기 때문에, 영상 처리에 의한 인위적인 빛 갈라짐 효과는 촬영 장치의 광학적 특성에 의한 실제 빛 갈라짐 현상과는 차이가 발생할 수 있다.

본 발명의 다양한 실시 예들은 하나 이상의 이미지들을 이용하여 광학 효과(예: 빛 갈라짐 효과)가 적용된 최종 이미지를 출력하는 전자 장치를 제공하고자 한다.

본 발명의 다양한 실시 예들은 카메라에 구비된 측광부가 측광하는 적정 노출 시간보다 복수의 단시간 노출 이미지(이하, 단노출 이미지)를 이용하여 연무 현상이 제거되고, 광학 효과(예: 빛 갈라짐 효과)가 적용된 최종 이미지를 출력하는 전자 장치를 제공하고자 한다.

본 발명의 다양한 실시 예들은 단노출 이미지 및 적정 노출 이미지를 이용하여 연무 현상이 제거되고, 광학 효과(예: 빛 갈라짐 효과)가 적용된 최종 이미지를 출력하는 전자 장치를 제공하고자 한다.

본 문서에 개시되는 일 실시 예에 따른 전자 장치는, 카메라, 메모리, 그리고 상기 카메라 및 상기 메모리와 작동적으로(operatively) 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 카메라를 이용하여, 지정된 제1 노출 시간보다 짧은 제2 노출 시간에 따라 외부 객체에 대해 복수 회 촬영을 수행하고, 상기 복수 회 촬영에 따라 복수의 제1 이미지들을 포함하는 제1 이미지 세트를 획득하고, 상기 제1 이미지 세트를 합성하여 제2 이미지를 생성하고, 상기 제2 이미지에 포함된 광원에 대응하는 적어도 하나의 광원 주변의 특정 영역을 확인하고, 그리고 상기 제2 이미지를 이용하여, 상기 특정 영역에 상기 광원과 관련된 이미지 효과가 추가된 제3 이미지를 생성하도록 설정될 수 있다.

또한, 본 문서에 개시되는 일 실시 예에 따른 전자 장치는, 카메라, 메모리, 그리고 상기 카메라 및 상기 메모리와 작동적으로(operatively) 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 카메라를 이용하여, 제1 노출 시간에 따라 외부 객체에 대한 제1 이미지를 획득하고, 그리고 상기 제1 노출 시간보다 짧은 제2 노출 시간에 따라 상기 외부 객체에 대한 제2 이미지를 획득하고, 상기 제2 이미지에 기반하여, 광원에 대응하는 적어도 하나의 광원 주변의 특정 영역을 확인하고, 상기 제1 이미지 및 상기 제2 이미지를 이용하여, 상기 특정 영역 내의 한 일부 영역에서 다른 일부 영역과 서로 다른 비율로 상기 제1 이미지의 적어도 일부 및 상기 제2 이미지의 적어도 일부를 합성하여 제3 이미지를 생성하도록 설정될 수 있다.

본 문서에 개시되는 실시 예들에 따르면, 하나 이상의 이미지들을 이용하여 광학 효과(예: 빛 갈라짐 효과)가 적용된 최종 이미지가 출력될 수 있다.

본 발명의 다양한 실시 예들은 복수의 단노출 이미지를 이용하여 연무 현상이 제거되고, 광학 효과(예: 빛 갈라짐 효과)가 적용된 최종 이미지가 출력될 수 있다.

본 발명의 다양한 실시 예들은 단노출 이미지 및 적정 노출 이미지를 이용하여 연무 현상이 제거되고, 광학 효과(예: 빛 갈라짐 효과)가 적용된 최종 이미지가 출력될 수 있다.

이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.

도 1은 본 발명의 일 실시 예에 따른 전자 장치의 구성도이다.
도 2는 본 발명의 일 실시 예에 따른 메인 처리부의 구성을 나타내는 블럭도이다.
도 3은 본 발명의 일 실시 예에 따른 이미지 처리 방법을 나타내는 순서도이다.
도 4는 본 발명의 일 실시 예에 따른 단노출 이미지 및 적정 노출 이미지를 이용한 점 광원 추출을 나타내는 타이밍 신호도이다.
도 5는 본 발명의 일 실시 예에 따른 서로 다른 노광의 복수의 이미지들을 이용한 광량 추적 방법을 나타내는 그래프이다.
도 6은 본 발명의 일 실시 예에 따른 광원 효과 적용을 위한 룩업 테이블에 대응하는 그래프를 나타내는 도면이다.
도 7은 본 발명의 일 실시 예에 따른 빛 갈라짐 효과의 적용 예시 이미지이다.
도 8은 본 발명의 다양한 실시 예에 따른 이미지 처리 방법을 나타내는 순서도이다.
도 9는 본 발명의 다양한 실시 예에 따른 복수의 단노출 이미지를 이용한 연무(haze) 현상 처리 방법을 나타내는 도면이다.
도 10은 본 발명의 다양한 실시 예에 따른 이미지 처리 방법을 나타내는 순서도이다.
도 11은 본 발명의 다양한 실시 예에 따른 적정 노출 이미지 및 단노출 이미지를 이용한 연무 현상 처리 방법을 나타내는 도면이다.
도 12는 본 발명의 일 실시 예에 따른 연무 현상 처리 방법에서 적정 노출 이미지 및 단노출 이미지의 합성 비율을 나타내는 그래프이다.
도 13은 본 발명의 다양한 실시 예에 따른 빛 갈라짐 효과의 적용 예시 이미지이다.
도 14는 다양한 실시 예들에 따른 네트워크 환경 내의 전자 장치의 블럭도이다.
도면의 설명과 관련하여, 동일 또는 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.

이하, 본 발명의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다.

도 1은 본 발명의 일 실시 예에 따른 전자 장치의 구성도이다.

도 1을 참조하면, 전자 장치(101)는 외부의 피사체로부터 반사되는 빛을 수집하여 사진 또는 동영상을 촬영하는 장치일 수 있다. 전자 장치(101)는 렌즈부(110), 셔터부(120), 이미지 센서(130), 센서 인터페이스(135), 영상 처리부(140), 후처리부(165), 메모리(170), 및 디스플레이(180)를 포함할 수 있다.

일 실시 예에 따르면, 렌즈부(110)는 피사체에서 장치에 도달한 빛을 수집할 수 있다. 수집된 빛은 이미지 센서(130)에 결상될 수 있다.

일 실시 예에 따르면, 셔터부(120)는 슬릿 주행을 함으로써 이미지 센서(110)로의 노광량을 조절할 수 있다. 예를 들어, 셔터부(120)는 기구적 형태를 가지는 셔터로 구성될 수도 있고, 센서의 컨트롤을 통한 전자 셔터로 구성될 수도 있다. 다른 예를 들어, 셔터부(120)는 선막(전면 셔터막)만 전자적으로 구성하는 셔터일 수도 있다.

일 실시 예에 따르면, 이미지 센서(130)는 광전 전환 효과로 빛을 전자적인 이미지 데이터로 변환할 수 있다. 이미지 데이터는 센서 인터페이스(135)를 통해서 영상 처리부(140)에 전달될 수 있다. 이미지 센서(130)는 2차원 배치되는 화소군을 포함할 수 있고, 각각의 화소에서 빛을 전자적인 이미지 데이터로 변환할 수 있다.

일 실시 예에 따르면, 이미지 센서(130)는 영상 처리부(140)에서 정해진 노광 시간으로 셔터부(120)를 조절하여 이미지 센서(130)에 전달되는 빛의 양(노광량)을 조절할 수 있다. 예를 들면, 이미지 센서(130)는 결상되는 빛이 도달 하기 전 광량을 조절하는 가변 조리개 역할의 기구물을 더 포함할 수 있다. 이미지 센서(130)는 각각의 픽셀에 기록된 광전 전환 효과에 따른 전자적인 이미지 데이터를 읽을 수 있다(read-out).

일 실시 예에 따르면, 센서 인터페이스(135)는 이미지 센서(130)와 영상 처리부(140) 사이의 인터페이스를 수행할 수 있다. 센서 인터페이스(135)는 전자 장치(101)의 구성에 따라 전처리부(150)의 앞이나 뒤에 위치 할 수 있다.

일 실시 예에 따르면, 영상 처리부(140)는 이미지 센서(130)에서 수집한 이미지 데이터를 다양한 처리과정을 거쳐서, 디스플레이(180)에 출력하거나 메모리(170)에 저장할 수 있다. 예를 들면, 영상 처리부(140)는 전처리부(150) 및 메인 처리부(160)을 포함할 수 있다.

일 실시 예에 따르면, 전처리부(예: Pre ISP)(150)는 메인 처리부(또는 영상 처리부)(160)에서 이미지 처리를 수행하기 전에 이미지 정합 또는 감마 처리 등의 기능을 수행할 수 있다. 예를 들면, 전처리부(150)는 연속적으로 촬영된 복수의 이미지들 사이에 흔들림이 있는 경우, 영상 정합 과정을 통해 흔들림 성분을 제거하거나 줄일 수 있다.

일 실시 예에 따르면, 메인 처리부(160)(예: AP, ISP, peripheral controller)는 전처리부(150)를 통해 처리된 영상 신호에 대한 디지털 신호 처리를 수행할 수 있다. 메인 처리부(160)는 전처리부(150)로부터 수신한 신호를 보정, 합성하여 전체 이미지 신호를 생성한 후, 생성된 전체 이미지 신호를 디스플레이(180)를 통하여 표시하게 할 수 있다. 메인 처리부(160)는 신호의 증폭, 변환, 처리 등의 전반적인 동작을 제어하는 기능을 수행할 수 있다.

다양한 실시 예에 따르면, 메인 처리부(160)는 이미지에 포함된 광원의 위치 및 밝기를 산출하고, 각각의 광원이 위치하는 지점을 중심으로 광원 효과(또는 이미지 효과)(예: 빛 갈라짐 효과)를 적용할 수 있다. 메인 처리부(160)는 하나의 단노출 이미지 또는 복수의 서로 다른 노출을 가지는 이미지들을 이용하여 광원의 위치 및 실질적인 밝기를 산출할 수 있다. 메인 처리부(160)의 동작에 관한 추가 정보는 도 3 내지 도 13을 통해 제공될 수 있다.

일 실시 예에 따르면, 후처리부(165)는 메인 처리부(160)에서 수신된 이미지에 추가적인 이미지 처리를 수행할 수 있다. 예를 들면, 후처리부(165)는 색을 이용한 후속 처리, 얼굴 검출 또는 피사체 추적과 같은 이미지 처리를 수행할 수 있다.

일 실시 예에 따르면, 후처리부(165)는 메인 처리부(160)에서 제공하는 영상 신호를 메모리(170)에 저장하거나 디스플레이(180)에 표시할 수 있다. 예를 들면, 후처리부(165)는 메모리(170) 또는 디스플레이(180)에서 지원하는 형태로 영상 신호를 변환하여 전달할 수 있다.

일 실시 예에 따르면, 메모리(170)는 영상 처리부(140)를 통해 처리된 이미지를 저장할 수 있다. 디스플레이(180)는 영상 처리부(140)에서 처리된 이미지 데이터를 사용자가 확인할 수 있도록 출력할 수 있다.

도 2는 본 발명의 일 실시 예에 따른 메인 처리부의 구성을 나타내는 블럭도이다. 도 2의 구성은 기능에 따라 분류된 것으로 일부 생략되거나 통합될 수 있다.

도 2를 참조하면, 메인 처리부(160)는 전처리부(150)로부터 하나의 이미지에 대한 데이터를 수신하거나, 연속적으로(또는 지정된 시간 간격 이내에) 촬영된 복수의 이미지들에 대한 데이터를 수신할 수 있다.

일 실시 예에 따르면, 메인 처리부(160)가 복수의 이미지들에 대한 데이터를 수신하는 경우, 메인 처리부(160)는 서로 다른 노광 시간을 가지는 복수의 이미지들에 대해 데이터를 수신할 수 있다.

예를 들어, 메인 처리부(160)는 적정 노광 시간(또는 기준 노광 시간)(예: 사용자 설정 노광 시간 또는 자동 설정 노광 시간)(예: 1/16 s)에 따라 촬영된 적정 노출 이미지와 적정 노광 시간보다 짧은 노광 시간에 따라 촬영된 단노출 이미지를 수신할 수 있다. 메인 처리부(160)는 적정 노출 이미지 및 단노출 이미지를 이용하여 광원을 분석하고, 최종 결과적으로 저장되는 적정 노광의 영상에 다양한 효과(예: 빛 갈라짐 효과)를 적용할 수 있다. 이하에서는 하나의 적정 노출 이미지 및 하나의 단노출 이미지를 이용하는 경우를 중심으로 논의하지만, 이에 한정되는 것은 아니다. 예를 들어, 하나의 이미지를 이용하여 광원을 분석하거나, 3 장 이상의 복수의 이미지들을 이용하여 광원을 분석할 수도 있다.

일 실시 예에 따르면, 사용자가 촬영을 위해 셔터를 누르거나 이에 준하는 다른 유저 인터페이스(예: 제스쳐, 음성 등)를 작동하는 경우, 적정 노출 이미지 및 단노출 이미지가 순차적으로 촬영될 수 있다. 다양한 실시 예에서, 적정 노출 이미지 및 단노출 이미지 사이에 이미지의 흔들림이 있는 경우, 전처리부(150)에서 영상 정합 과정이 실행되고, 결과 이미지가 메인 처리부(160)에 전달될 수 있다.

일 실시 예에 따르면, 적정 노출 이미지 및 단노출 이미지는 서로 다른 노광 시간을 가질 수 있고, 광원(포화된 지점)에 빛 갈라짐이 발생하지 않은 이미지일 수 있다. 예를 들면, 단노출 이미지가 메인 처리부(160)에 먼저 입력되고, 이후, 적정 노출 이미지가 메인 처리부(160)에 입력될 수 있다. 또는 적정 노출 이미지가 메인 처리부(160)에 먼저 입력되고, 이후, 단노출 이미지가 메인 처리부(160)에 입력될 수 있다. 전자 장치(101)는 셔터랙의 단축을 위해 미리 단노출 이미지 또는 적정 노출 이미지를 저장하고 대기 할 수 있다.

일 실시 예에 따르면, 메인 처리부(160)는 위치 추출부(210), 저장부(215), 화소 결정부(220), 광량 산출부(230), 영상 합성부(235), 효과 적용부(240), 및 룩업 테이블(245)을 포함할 수 있다. 상기 구분은 기능에 따른 분류로서 일부 구성들이 결합되거나, 추가적인 구성이 포함될 수도 있다.

일 실시 예에 따르면, 위치 추출부(210)는 적정 노출 이미지 및 단노출 이미지에서 광원 영역을 결정할 수 있다. 예를 들면, 위치 추출부(210)는 지정된 값 이상의 밝기를 가지는 지점을 확인할 수 있다. 위치 추출부(210)는 단노출 이미지에 대해, 이미지 센서(130)의 리드아웃 라인 별로 미리 설정된 값 이상의 밝기 화소의 시작 및 끝 좌표와 픽셀 게인(gain)을 판별해서 저장부(215)에 저장할 수 있다. 다양한 실시 예에서, 위치 추출부(210)는 노이즈에 의한 임계값으로 인해, 일시적으로 값이 흔들리는 픽셀을 검출하여 거르기 위해, 히스테리시스를 적용해서 지정된 개수 이상 연속된 경우 저장부(215)에 저장되도록 할 수 있다. 다양한 실시 예에 따르면, 위치 추출부(210)는 적정 노출 이미지에 기초하여 광원 영역의 크기를 결정할 수 있다.

일 실시 예에 따르면, 화소 결정부(220)는 포화 화소를 판별할 수 있다. 화소 결정부(220)는 단노출 이미지에 대해 리드아웃 라인 별로, 포화 픽셀을 판별할 수 있다. 판별된 포화 픽셀에 대하여 라인 단위의 시작과 끝의 좌표 정보는 저장부(215)에 저장될 수 있다.

일 실시 예에 따르면, 광량 산출부(230)는 위치 추출부(210)에서 검출한 영상 내에서의 점 광원의 위치 및 화소 결정부(220)에서 결정된 포화 픽셀의 좌표 정보를 기반으로, 광원에서의 실제 광량을 계산할 수 있다. 예를 들면, 광량 산출부(230)는 적정 노출 이미지에서 광원의 광량을 계산할 수 있다. 적정 노출 이미지와 단노출 이미지에서 동시 연산을 하는 경우, 광량 산출부(230)는 노광 차(예: 16배)를 반영하고, 포화된 픽셀 주변의 포화되지 않은 인접 픽셀의 광량을 참조하여 광원에서의 광량을 연산할 수 있다(도 5 참조).

일 실시 예에 따르면, 영상 합성부(235)는 적어도 하나의 단노출 이미지 또는 적어도 하나의 적정 노출 이미지를 합성하여 합성 이미지를 생성할 수 있다. 예를 들면, 영상 합성부(235)는 위치 추출부(210), 화소 결정부(220) 및 광량 산출부(230)에 의해 결정된, 단노출 이미지 또는 적정 노출 이미지에서의 광원에 대한 정보(예: 광원의 위치, 광원의 크기 또는 각 픽셀의 화소값)를 활용하여 합성 이미지를 생성할 수 있다.

일 실시 예에 따르면, 영상 합성부(235)는 복수의 단노출 이미지를 합성할 수 있다. 예를 들면, 영상 합성부(235)는 적정 노출 이미지에 비하여 특정 노광 비율을 가지는 단노출 이미지들을 수신할 수 있다. 영상 합성부(235)는 단노출 이미지들을 합성하여 합성 이미지를 생성할 수 있다. 합성 이미지에서 광원의 밝기는 적정 노출 이미지에서 광원의 밝기와 동일 또는 유사할 수 있다. 합성 이미지에서 광원의 크기는 단노출 이미지들과 동일 또는 유사할 수 있다. 합성 이미지에서 광원의 크기는 적정 노출 이미지의 광원에서 연무 현상이 제거된 광원의 크기와 동일 또는 유사할 수 있다. 영상 합성부(235)는 복수의 단노출 이미지를 합성하여 합성 이미지에서 비선형적인 요인에 의한 연무 현상을 제거할 수 있다. 다양한 실시 예에서, 영상 합성부(235)는 합성 이미지를 저장부(215)에 임시 저장할 수 있다. 또는 영상 합성부(235)는 합성 이미지를 효과 적용부(240)에 전달할 수 있다.

다양한 실시 예에 따르면, 영상 합성부(235)는 광원 영역(또는 합성 범위)에 대하여 적정 노출 이미지 및 단노출 이미지를 서로 다른 비율로 합성할 수 있다. 예를 들면, 합성 범위의 크기는 위치 추출부(210)에 의해 결정될 수 있다. 영상 합성부(235)는 합성 범위 내에서 광원 중심으로부터의 거리에 따라 적정 노출 이미지 및 단노출 이미지를 서로 다른 비율로 합성할 수 있다. 일 예로, 영상 합성부(235)는 광원 중심에서는 적정 노출 이미지의 합성 비율보다 단노출 이미지의 합성 비율이 높도록 합성 비율을 결정하거나, 광원 중심에서 멀어질수록 단노출 이미지의 합성 비율보다 적정 노출 이미지의 합성 비율이 높아지도록 합성 비율을 결정할 수 있다. 영상 합성부(235)는 합성 범위에 대하여 적정 노출 이미지 및 단노출 이미지를 서로 다른 비율로 합성한 합성 이미지를 생성할 수 있다. 다양한 실시 예에서, 광원마다 단노출 이미지와 적정 노출 이미지가 합성되는 거리(예: 합성 범위)는 달라질 수 있다.

다양한 실시 예에 따르면, 영상 합성부(235)는 적정 노출 이미지의 광원 각각의 주변의 색상 및 밝기에 따라 단노출 이미지와 적정 노출 이미지의 합성 비율을 결정할 수 있다. 예를 들면, 광원의 주변이 어둡다면(예: 지정된 값 미만의 조도 상황이면), 영상 합성부(235)는 단노출 이미지의 합성 비율을 광원 중심으로부터의 거리가 증가함에 따라 상대적으로(예: 광원의 주변이 지정된 값 이상의 조도 상황보다) 큰 폭으로 감소시킬 수 있다. 반면에, 광원의 주변이 상대적으로 어둡지 않다면(예: 지정된 값 이상의 조도 상황이면), 영상 합성부(235)는 단노출 이미지의 합성 비율을 광원 중심으로부터의 거리가 증가함에 따라 상대적으로(예: 광원의 주변이 지정된 값 미만의 조도 상황보다) 작은 폭으로 감소시킬 수 있다.

다양한 실시 예에 따르면, 광원 주변의 밝기는 합성 범위 내의 밝기의 최소 값으로 설정될 수 있다. 예를 들면, 광원 주변의 밝기가 특정 값(예: 화소값이 100)을 가지면, 영상 합성부(235)는 광원 중심으로부터 합성 범위의 최대 거리에서의 화소값을 상기 특정 값으로 설정(또는 조절)할 수 있다. 또한, 영상 합성부(235)는 합성 범위 이내의 픽셀들을 상기 특정 값 이상의 화소값을 가지도록 설정(또는 조절)할 수 있다.

일 실시 예에 따르면, 효과 적용부(240)는 산출된 광량을 기반으로 효과를 적용할 수 있다. 효과 적용부(240)는 룩업 테이블(245)를 참조하여, 광량을 추적한 대로 비율에 맞춰서 포화 픽셀 또는 포화 픽셀을 중심으로 하는 지정된 영역을 치환하여, 광원 효과(예: 빛 갈라짐 효과)를 적용할 수 있다. 효과 적용부(240)는 영상 합성부(235)로부터 수신된 합성 이미지에서 지정된 영역(예: 합성 범위)을 치환하는 형태로 구성될 수 있다.

다양한 실시 예에 따르면, 효과 적용부(240)는 룩업 테이블(245)를 참조하여, 합성 이미지의 지정된 영역(예: 합성 범위)을 치환하여, 광원 효과(예: 빛 갈라짐 효과)를 적용할 수 있다. 따라서, 효과 적용부(240)는 연무 현상이 제거되고 광원 효과가 적용된 최종 이미지를 생성할 수 있다.

일 실시 예에 따르면, 룩업 테이블(245)은 광원 효과(예: 빛 갈라짐 효과)에 대해 테이블 형태로 저장할 수 있다. 룩업 테이블(245)에 관한 추가 정보는 도 6을 통해 제공될 수 있다.

다양한 실시 예에 따르면, 메인 처리부(160)는 단노출 이미지 1장을 이용해서 점 광원의 광량을 추적할 수도 있다. 이 경우, 위치 추출부(210)는 별도의 기능을 수행하지 않을 수 있고, 화소 결정부(220)에서 단노출 이미지의 포화 픽셀을 판별할 때, 포화 픽셀 주변의 포화되지 않은 인접 픽셀의 값을 참조하여, 포화 픽셀 부분의 광량을 계산할 수 있다. 메인 처리부(160)는 적정 노출 이미지가 입력될 때, 포화 픽셀 부분을 치환할 수 있다. 메인 처리부(160)는 광원 효과가 적용된 이미지 데이터를 출력할 수 있다.

도 3은 본 발명의 일 실시 예에 따른 이미지 처리 방법을 나타내는 순서도이다. 도 4는 본 발명의 일 실시 예에 따른 단노출 이미지 및 적정 노출 이미지를 이용한 점 광원 추출 방법을 나타내는 타이밍 신호도이다.

도 2 내지 도 4를 참조하면, 메인 처리부(160)는 하나 이상의 이미지(예: 단노출 이미지 및 적정 노출 이미지)를 수신하여 광원 효과(예: 빛 갈라짐 효과)가 적용된 이미지를 출력할 수 있다.

일 실시 예에 따르면, 동작 310에서, 메인 처리부(160)의 위치 추출부(210)는 전처리부(150)로부터 하나 이상의 이미지 데이터를 수신할 수 있다. 예를 들면, 위치 추출부(210)는 단노출 이미지(410) 및 적정 노출 이미지(420)를 수신할 수 있다. 단노출 이미지(410)와 적정 노출 이미지(420)의 노광 비율이 N이고, 단노출 이미지(410)의 노광 시간이 t인 경우, 적정 노출 이미지(420)의 노광 시간은 N*t일 수 있다. 다양한 실시 예에 따르면, 단노출 이미지(410) 및 적정 노출 이미지(420)는 외부 조도 환경에 따라 특정 F값에서 촬영될 수 있다. 특정 F값은 카메라(예: 전자 장치(101))의 성능에 따라 변경될 수 있다.

일 실시 예에 따르면, 동작 320에서, 메인 처리부(160)의 위치 추출부(210)는 단노출 이미지(410)를 이용하여 지정된 값 이상의 밝기를 가지는 지점을 확인할 수 있다. 예를 들면, 위치 추출부(210)는 미리 설정된 값 이상의 밝기 화소의 시작 및 끝 좌표와 픽셀 게인(gain)을 저장부(215)에 저장할 수 있다.

일 실시 예에 따르면, 동작 330에서, 메인 처리부(160)의 화소 결정부(220)는 단노출 이미지(410)를 이용하여 포화 픽셀을 판별할 수 있다. 예를 들면, 화소 결정부(220)는 판별된 포화 픽셀의 라인 단위의 시작과 끝의 좌표 정보를 저장부(215)에 저장할 수 있다.

일 실시 예에 따르면, 동작 340에서, 메인 처리부(160)의 광량 산출부(230)는 검출한 광원의 위치 및 포화 픽셀의 좌표 정보를 기반으로, 광원 피사체의 광량을 계산할 수 있다. 예를 들면, 광량 산출부(230)는 포화되지 않은 인접 픽셀을 이용하여, 1차식의 피팅(fitting) 연산을 통해 포화된 부분의 실제 광량을 추출할 수 있다.

다양한 실시 예에 따르면, 이미지 센서(130)는 각각의 픽셀에 대한 밝기 값을 읽을 수 있다(리드 아웃). 단노출 이미지(410)에서, 점 광원(411)의 좌표 및 밝기 값이 추출되어, 저장부(215)에 저장될 수 있다. 광량 산출부(230)는 점 광원(411)에 의해 포화가 된 픽셀 주변의 포화되기 전 상태의 인접 픽셀들을 확인할 수 있다. 광량 산출부(230)는 1차식의 피팅 연산을 통해 포화된 부분의 실제 광량을 추출할 수 있다. 1차식의 피팅 연산을 수행하기 위해서 포화되지 않은 2개의 인접 픽셀들이 필요할 수 있다. 상기 2개의 인접 픽셀들은 단노출 이미지(410)의 포화 픽셀 주변의 값을 이용해서 구할 수도 있고, 단노출 이미지(410)와 적정 노출 이미지(420)를 이용해서 구할 수도 있고, 적정 노출 이미지(420)만을 이용해서 구할 수도 있다. 자세한 광량 측정 방법은 도 5를 통해 제공될 수 있다.

일 실시 예에 따르면, 동작 350에서, 메인 처리부(160)의 효과 적용부(240)는 룩업 테이블(245)를 참조하여, 광원 효과(예: 빛 갈라짐 효과)를 적용할 수 있다. 예를 들면, 효과 적용부(240)는 적정 노출 이미지(420)의 포화 픽셀 부분을 치환할 수 있다.

도 5는 본 발명의 일 실시 예에 따른 서로 다른 노광의 복수의 이미지들을 이용한 광량 추적 방법을 나타내는 그래프이다.

도 2 및 도 5를 참조하면, 광량 산출부(230)는 1차식의 피팅 연산을 통해 포화된 부분의 실제 광량을 산출할 수 있다. 광량 산출부(230)는 포화 픽셀의 주변 값을 이용해서 실제 포화된 영역의 광량 값을 유추할 수 있다. 이를 통해, 단노출 이미지의 촬영 횟수를 늘리지 않더라도, 포화된 영역의 광량을 추출할 수 있다.

일 실시 예에 따르면, 광량 산출부(230)는 N장의 서로 다른 노광 시간을 가지는 복수의 이미지를 이용하는 경우, N장의 이미지들 중 가장 짧은 노출 시간을 가지는 N번째 이미지를 이용하여, 포화된 부분의 광량을 산출할 수 있다.

일 실시 예에 따르면, N번째 이미지(530)(예: Exposure N)에 적정 노광 이미지(예: 첫 번째 이미지(510) 또는 Exposure 1)와의 노광 비율 계수를 곱하면, 점 광원이나 포화된 부분을 제외하고 대부분 일치하는 값을 가질 수 있다. N번째 이미지(530)는 단노출 이미지이기 때문에, 포화되지 않은 부분의 이미지 품질은 적정 노출 이미지에 대비하여 저하될 수 있고, 센서의 능력치와 노광비에 따라 노이즈화(예: 필터링 시 제거됨) 될 수도 있다. 반면, N번째 이미지(530)는 포화 픽셀 부근에서 상대적으로 높은 정확도의 값을 얻을 수 있다.

단노출 이미지(예: N번째 이미지(530))의 리드 아웃 시, 포화 전 2개 화소(511, 521)를 1차식의 피팅 연산하여 제1 기울기 값을 구하고, 포화 이후 2개의 화소(522, 512)를 1차식의 피팅 연산하여 제2 기울기 값을 구할 수 있다. 다양한 실시 예에서, 광량 산출부(230)는 제1 기울기 값과 제2 기울기 값 중 작은 값을 이용하여, 포화 픽셀에서의 광량을 산출할 수 있다.

다양한 실시 예에 따르면, 적정 노출 영상(예: 첫 번째 이미지(510))에서 포화된 픽셀이, 단노출 이미지(예: N번째 이미지(530))에서는 포화되지 않을 수 있으므로, 이 경우는 단노출 이미지의 픽셀 값을 이용하여, 광원에서의 광량을 산출할 수 있다.

다양한 실시 예에 따르면, 광량 산출부(230)는 1차식의 피팅 연산으로 얻어진 값이라도 이미지 전반에서 추출된 광원의 양이 적거나 많은 경우, 이미지 전반의 글로벌 또는 지역별 변수를 도입해서 일부 광량을 수정하는 연산을 할 수 있다. 이 경우, 포화 점 광원들의 광량의 상대적 비는 일정하게 유지되는 고품질의 영상을 얻을 수 있다.

도 6은 본 발명의 일 실시 예에 따른 광원 효과 적용을 위한 룩업 테이블에 대응하는 그래프를 나타내는 도면이다.

도 2 및 도 6을 참조하면, 룩업 테이블(예: 룩업 테이블(245))은 광원 효과(예: 빛 갈라짐 효과)에 대한 그래프(601a, 601b)를 저장할 수 있다. 룩업 테이블은 그래프(601a, 601b)에 표시된 수치들을 테이블 형태로 저장할 수 있다.

일 실시 예에 따르면, 그래프(601a, 601b)는 빛 갈라짐 PSF(point spread function)를 나타낸다. 빛 갈라짐 PSF는 점 광원의 밝기에 따라서 크기가 변할 수 있다. 빛 갈라짐 현상은 회절에 의해 나타나고, 광원의 밝기에 따라서 달라질 수 있다. 빛 갈라짐 PSF는 중심(630)에서, 주변부로 갈수록 급격히 낮은 게인(gain)을 갖는 형태일 수 있다. 빛 갈라짐의 날(blade)(631)의 크기(또는 길이)는 전 단계에서 추출된 점 광원의 밝기에 따라, 게인(gain)을 포화 레벨 이하로 제한함으로써, 결과적으로는 마치 크기가 변화되는 것으로 비쳐질 수 있다. 그래프(601a)에서는 중심(630)에서 게인이 매우 크기 때문에 게인의 중간 값을 생략하였다.

도 7은 본 발명의 일 실시 예에 따른 빛 갈라짐 효과의 적용 예시 이미지이다.

도 7을 참조하면, 빛 갈라짐 효과 적용 전, 제1 이미지(701a)에서, 점 광원(710 내지 750)이 포함된 경우, 각각의 점 광원은 포화된 상태로 출력되고, 빛 갈라짐 효과도 나타나지 않을 수 있다. 또한, 각각의 점 광원 사이에 광량의 차이가 있어도 제1 이미지(701a) 상에서는 구분되지 않을 수 있다.

일 실시 예에 따르면, 빛 갈라짐 효과 적용 후, 제2 이미지(701b)에서, 점 광원(710a 내지 750a)은 빛 갈라짐 형태로 표시될 수 있다. 각각의 점 광원의 추적된 광량의 세기에 따라 빛 갈라짐의 날의 길이가 달라질 수 있다.

일 실시 예에 따르면, 메인 처리부(예: 메인 처리부(160))는 각각의 점 광원에서, 포화된 픽셀 주변의 포화되지 않은 인접 픽셀들을 이용하여, 포화된 픽셀의 광량을 산출할 수 있다. 메인 처리부는 산출된 광량의 세기에 따라 룩업 테이블(예: 룩업 테이블(245))을 참조하여, 점 광원 부분을 빛 갈라짐 형태로 치환할 수 있다.

다양한 실시 예에 따르면, 메인 처리부는 점 광원의 밝기에 따라서 빛 갈라짐의 날개 크기가 결정될 수 있고, 효과 적용부(예: 효과 적용부(240))에서 PSF 모양을 추출된 점 광원의 세기에 따라 치환하여 빛 갈라짐의 효과를 줄 수 있다. 빛 갈라짐은 주변부로 갈수록 밝기 값이 작아지는 PSF이므로, 추측된 세기를 PSF 중심부 값 기준으로 비례해서 치환한 경우, 이미지 포맷의 포화 레벨 clipping에 의해서 자연스럽게 빛 갈라짐의 날의 크기가 조정될 수 있다.

일 실시 예에 따르면, 빛 갈라짐 효과 적용 전, 제1 이미지(702a)는 점 광원(761 및 762)이 포함된 경우, 각각의 점 광원은 포화된 상태로 출력되고, 빛 갈라짐 효과도 나타나지 않을 수 있다. 빛 갈라짐 효과 적용 후, 제2 이미지(702b)에서, 점 광원(761a 및 762a)은 빛 갈라짐 형태로 표시될 수 있다. 각각의 점 광원의 광량의 세기에 따라 빛 갈라짐의 날의 길이가 달라질 수 있다.

다양한 실시 예에 따르면, 메인 처리부는 색 정보가 단노출 이미지와 적정 노출 이미지 중 적정 노출 영상에서 얻어질 수 있고, 컬러 별 별도의 점 광원 추출 동작을 수행하지 않을 수 있다. 베이어 패턴의 경우, R, G, B의 컬러 정보 중 대표 컬러를 선정해서 1개의 광원에 대한 광량을 산출한 후, 최종 영상에서는 적정 노출의 컬러 비율대로 기존 점 광원을 빛 갈라짐 PSF로 치환할 수 있다.

도 8은 본 발명의 다양한 실시 예에 따른 이미지 처리 방법을 나타내는 순서도이다. 도 9는 본 발명의 다양한 실시 예에 따른 복수의 단노출 이미지를 이용한 연무(haze) 현상 처리 방법을 나타내는 도면이다.

도 2, 도 8 및 도 9를 참조하면, 메인 처리부(160)는 복수의 단노출 이미지(902)를 이용하여 연무 현상을 처리할 수 있다. 예를 들면, 메인 처리부(160)는 복수의 단노출 이미지(902)를 합성하여 광량의 크기가 작아지면 급격히 감소하는 비선형적인 연무 증가 요인에 의한 연무 현상을 감소시킬 수 있다. 이미지 촬영 시 노광 시간이 감소하면, 비선형적으로 포화되는 요인의 비율도 감소하게 되므로, 노광 시간을 줄이는 것으로 비선형적인 요인에 의한 연무 현상을 감소시킬 수 있다.

일 실시 예에 따르면, 각 단노출 이미지(IMG_1 내지 IMG_N)와 적정 노출 이미지(901)의 노광 비율이 N이고, 적정 노출 이미지(901)의 노광 시간(예: Exposure Time 1)이 A인 경우, 각 단노출 이미지(IMG_1 내지 IMG_N)의 노광 시간(예: Exposure Time 2)은 B로 설정될 수 있다. 예를 들면, B*N이 A와 동일하도록, 각 단노출 이미지(IMG_1 내지 IMG_N)의 노광 시간이 결정될 수 있다. 다양한 실시 예에서, 리드 아웃(Read out) 노이즈의 증가가 예상되는 경우, B*N이 A보다 크도록, 각 단노출 이미지(IMG_1 내지 IMG_N)의 노광 시간이 결정될 수 있다. 다양한 실시 예에서, 단노출 이미지들(IMG_1 내지 IMG_N) 각각의 노광 시간이 서로 다르게 설정될 수 있다.

일 실시 예에 따르면, 각 단노출 이미지(IMG_1 내지 IMG_N)의 광량은 적정 노출 이미지(901)의 광량보다 작을 수 있다. 적정 노출 이미지(901)의 광원은 비선형적인 요인에 의한 연무 현상을 포함하고 있기 때문에, 각 단노출 이미지(IMG_1 내지 IMG_N)에서 광원의 크기는 적정 노출 이미지(901)에서 광원의 크기보다 작을 수 있다.

일 실시 예에 따르면, 동작 810에서, 메인 처리부(160)는 복수의 단노출 이미지(902)를 수신할 수 있다. 예를 들면, 메인 처리부(160)는 전처리부(150)로부터 단노출 이미지들(IMG_1 내지 IMG_N)을 순차적으로 수신할 수 있다. 단노출 이미지들(IMG_1 내지 IMG_N) 각각의 노광 시간은 동일하게 설정될 수 있다. 또는 단노출 이미지들(IMG_1 내지 IMG_N) 각각의 노광 시간은 서로 다르게 설정될 수 있다. 단노출 이미지들(IMG_1 내지 IMG_N)의 노광 시간의 합은 적정 노출 이미지(901)의 노광 시간과 동일하게 설정될 수 있다. 또는 단노출 이미지들(IMG_1 내지 IMG_N)의 노광 시간의 합은 적정 노출 이미지(901)의 노광 시간보다 크게 설정될 수 있다. 다양한 실시 예에서, 메인 처리부(160)는 수신된 단노출 이미지들(IMG_1 내지 IMG_N)을 저장부(215)에 임시 저장할 수 있다.

일 실시 예에 따르면, 동작 820에서, 메인 처리부(160)는 복수의 단노출 이미지(902)를 합성할 수 있다. 예를 들면, 영상 합성부(235)는 단노출 이미지들(IMG_1 내지 IMG_N)을 합성하여 합성 이미지(903)를 생성할 수 있다. 합성 이미지(903)의 밝기는 적정 노출 이미지(901)의 밝기와 동일 또는 유사할 수 있다. 합성 이미지(903)에서 광원의 크기는 단노출 이미지들(IMG_1 내지 IMG_N)과 동일 또는 유사할 수 있다. 합성 이미지(903)에서 광원의 크기는 적정 노출 이미지(901)의 광원에서 연무 현상이 제거된 광원의 크기와 동일 또는 유사할 수 있다. 다양한 실시 예에서, 영상 합성부(235)는 합성 이미지(903)를 저장부(215)에 임시 저장할 수 있다.

동작 830 내지 동작 860은 도 3의 동작 320 내지 동작 350과 동일 또는 유사하게 수행될 수 있다. 따라서, 도 3의 동작 320 내지 동작 350과 중복되는 동작 830 내지 동작 860의 설명은 생략한다.

일 실시 예에 따르면, 동작 830 내지 동작 850에서, 메인 처리부(160)는 단노출 이미지들(IMG_1 내지 IMG_N) 중 하나를 이용하여 포화 픽셀을 판별하고, 광원에서의 광량을 계산할 수 있다.

일 실시 예에 따르면, 동작 860에서, 메인 처리부(160)는 룩업 테이블(245)를 참조하여 합성 이미지(903)에 광원 효과(예: 빛 갈라짐 효과)를 적용할 수 있다. 예를 들면, 효과 적용부(240)는 합성 이미지의 포화 픽셀 부분을 빛 갈라짐 효과가 적용된 광원 이미지로 치환할 수 있다. 따라서, 효과 적용부(240)는 연무 현상이 제거된 광원 효과를 적용하여 최종 이미지를 생성할 수 있다.

도 10은 본 발명의 다양한 실시 예에 따른 이미지 처리 방법을 나타내는 순서도이다. 도 11은 본 발명의 다양한 실시 예에 따른 적정 노출 이미지 및 단노출 이미지를 이용한 연무 현상 처리 방법을 나타내는 도면이다. 도 12는 본 발명의 일 실시 예에 따른 연무 현상 처리 방법에서 적정 노출 이미지 및 단노출 이미지의 합성 비율을 나타내는 그래프이다.

도 2, 및 도 10 내지 도 12를 참조하면, 메인 처리부(160)는 적정 노출 이미지(1101) 및 단노출 이미지(1102)의 일부를 서로 다른 비율로 합성하고, 합성 이미지에 광원 효과(예: 빛 갈라짐 효과)를 적용할 수 있다. 예를 들면, 연무 현상을 일으키는 광량의 밝기에 선형적으로 증가하는 요인은 합성되는 이미지의 수에 따라 선형적으로 증가하기 때문에, 선형적인 요인에 의한 연무 현상은 복수의 단노출 이미지를 합성하는 도 8의 방법으로 제거하기에는 한계가 있다. 광원 중심으로부터 반지름 방향으로 적정 노출 이미지(1101) 및 단노출 이미지(1102)를 서로 다른 비율로 합성하면, 선형적인 요인에 의한 연무 현상은 감소될 수 있다.

일 실시 예에 따르면, 동작 1010에서, 메인 처리부(160)는 전처리부(150)로부터 적정 노출 이미지(1101) 및 단노출 이미지(1102)를 수신할 수 있다. 예를 들면, 적정 노출 이미지(1101)는 제1 노광 시간(A)(예: Exposure Time 1)에 의해 촬영될 수 있다. 단노출 이미지(1102)는 제2 노광 시간(B)(예: Exposure Time 2)에 의해 촬영될 수 있다. 제2 노광 시간(B)은 제1 노광 시간(A)보다 작게 설정될 수 있다(B<A).

다양한 실시 예에 따르면, 적정 노출 이미지(1101)에 포함된 광원(1111)은 제1 반지름(R1)을 가지는 원형으로 표현될 수 있다. 단노출 이미지(1102)에 포함된 광원(1112)은 제2 반지름(R2)을 가지는 원형으로 표현될 수 있다.

일 실시 예에 따르면, 동작 1020에서, 메인 처리부(160)는 단노출 이미지(1102)를 이용하여 지정된 값 이상의 밝기를 가지는 지점(예: 광원)을 확인할 수 있다. 예를 들면, 미리 설정된 값 이상의 밝기 화소의 시작 및 끝 좌표와 픽셀 게인(gain)은 저장부(215)에 저장될 수 있다. 위치 추출부(210)는 광원 중심을 확인할 수 있다.

일 실시 예에 따르면, 동작 1030에서, 메인 처리부(160)는 적정 노출 이미지(1101)에 기초하여 광원 영역의 크기를 결정할 수 있다. 예를 들면, 위치 추출부(210)는 적정 노출 이미지(1101)의 제1 반지름(R1)을 광원 영역의 크기로 결정할 수 있다. 위치 추출부(210)는 광원 중심으로부터 제1 반지름(R1)을 가지는 원형의 영역을 광원 영역(또는 합성 범위)으로 설정할 수 있다.

일 실시 예에 따르면, 동작 1040에서, 메인 처리부(160)는, 광원 영역에 대하여, 광원 중심으로부터의 거리에 따라 적정 노출 이미지(1101) 및 단노출 이미지(1102)를 서로 다른 비율로 합성할 수 있다. 예를 들면, 적정 노출 이미지(1101) 및 단노출 이미지(1102)의 합성 비율은 광원 중심으로부터 거리가 증가함에 따라 변경될 수 있다. 영상 합성부(235)는, 광원 중심으로부터 거리가 증가할수록, 적정 노출 이미지(1101)의 합성 비율을 0%부터 100%까지 증가시킬 수 있다. 영상 합성부(235)는, 광원 중심으로부터 거리가 증가할수록, 단노출 이미지(1102)의 합성 비율을 100%부터 0%까지 감소시킬 수 있다. 광원 중심으로부터 거리는 0부터 적정 노출 이미지(1101)의 제1 반지름(R1)까지 변경될 수 있다. 영상 합성부(235)는 광원 영역에 대하여 적정 노출 이미지(1101) 및 단노출 이미지(1102)를 서로 다른 비율로 합성한 합성 이미지를 생성할 수 있다.

다양한 실시 예에 따르면, 광원 중심에서는 단노출 이미지(1102)의 합성 비율이 높기 때문에, 합성 이미지의 밝기는 단노출 이미지(1102)의 밝기와 동일 또는 유사할 수 있다. 광원 중심으로부터의 거리가 증가함에 따라 적정 노출 이미지(1101)의 합성 비율이 높아지기 때문에, 합성 이미지에서 광원의 크기는 적정 노출 이미지(1101)와 동일 또는 유사할 수 있다. 합성 이미지에서 광원의 크기는 적정 노출 이미지(1101)의 광원에서 연무 현상이 제거된 광원의 크기와 동일 또는 유사할 수 있다. 영상 합성부(235)는 합성 이미지를 저장부(215)에 임시 저장할 수 있다.

일 실시 예에 따라 도 12를 참조하면, 영상 합성부(235)는 광원 중심으로부터 거리에 따라 적정 노출 이미지(1101)의 합성 비율(1211a) 및 단노출 이미지(1102)의 합성 비율(1212a)을 선형적으로 변경할 수 있다. 다양한 실시 예에 따라 도 12를 참조하면, 영상 합성부(235)는 광원 중심으로부터 거리에 따라 적정 노출 이미지(1101)의 합성 비율(1211b) 및 단노출 이미지(1102)의 합성 비율(1212b)을 비선형적으로 변경할 수 있다.

다양한 실시 예에 따르면, 적정 노출 이미지(1101) 및 단노출 이미지(1102)의 합성 비율은 광원의 크기 또는 광원 주변의 피사체 밝기에 기초하여 변경될 수 있다. 예를 들면, 광원의 크기가 클수록, 단노출 이미지(1102)의 합성 비율은 상대적으로 작은 폭으로 감소될 수 있다. 또는 광원 주변의 피사체 밝기가 밝을수록, 단노출 이미지(1102)의 합성 비율은 상대적으로 작은 폭으로 감소될 수 있다.

다양한 실시 예에 따르면, 합성 범위(예: 적정 노출 이미지(1101)의 제1 반지름(R1))는 각각의 광원 밝기와 정적 노출 이미지(1101)에서 광원 주변 밝기에 따라 가변될 수 있다. 예를 들면, 각 노출(예: 단노출 또는 적정 노출)의 비율이 0~100%까지 합성 범위(예: 제1 반지름(R1)) 내에서 변경될 수 있지만, 최종 화소값은 어떤 특정한 범위로 제한 될 수 있다. 합성된 화소값은 최소 값이나 최대 값을 가질 수 있다. 예를 들어, 최소 값은 각각의 광원 주변부 픽셀 값을 참조할 수 있다.

일 실시 예에 따르면, 동작 1050에서, 메인 처리부(160)는 단노출 이미지(1102)를 이용하여 포화 픽셀을 판별할 수 있다. 예를 들면, 판별된 포화 픽셀의 라인 단위의 시작과 끝의 좌표 정보는 저장부(215)에 저장될 수 있다.

일 실시 예에 따르면, 동작 1060에서, 메인 처리부(160)는 검출한 광원의 위치 및 포화 픽셀의 좌표 정보를 기반으로, 광원 피사체의 광량을 계산할 수 있다. 예를 들면, 광량 산출부(230)는 포화되지 않은 인접 픽셀을 이용하여, 1차식의 피팅 연산을 통해 포화된 부분의 실제 광량을 추출할 수 있다.

일 실시 예에 따르면, 동작 1070에서, 메인 처리부(160)는 룩업 테이블(245)를 참조하여 광원 효과(예: 빛 갈라짐 효과)를 적용할 수 있다. 예를 들면, 효과 적용부(240)는 합성 이미지의 포화 픽셀 부분을 빛 갈라짐 효과가 적용된 광원 이미지로 치환할 수 있다. 따라서, 효과 적용부(240)는 연무 현상이 제거된 광원 효과를 적용하여 최종 이미지를 생성할 수 있다.

도 13은 본 발명의 다양한 실시 예에 따른 빛 갈라짐 효과의 적용 예시 이미지이다.

도 13을 참조하면, 빛 갈라짐 효과 적용 전 제1 이미지(1310)에서, 점 광원(1311)은 연무 현상(1312)이 포함된 상태로 출력되고, 빛 갈라짐 효과도 나타나지 않을 수 있다.

일 실시 예에 따르면, 빛 갈라짐 효과 적용 전 제2 이미지(1320)에서, 도 8의 이미지 처리 방법 또는 도 10의 이미지 처리 방법에 의하면, 점 광원(1321)은 연무 현상(1312)이 제거된 상태로 출력될 수 있다.

일 실시 예에 따르면, 빛 갈라짐 효과 적용 후 제3 이미지(1330)에서, 점 광원(1331)은 빛 갈라짐 형태뿐만 아니라 연무 현상(1332)이 포함된 상태로 출력될 수 있다. 점 광원(1331)의 광량의 세기에 따라 빛 갈라짐의 날(1333)의 길이가 달라질 수 있다.

일 실시 예에 따르면, 빛 갈라짐 효과 적용 후 제4 이미지(1340)에서, 점 광원(1341)은 연무 현상이 제거된 빛 갈라짐 형태로 표시될 수 있다. 따라서, 제3 이미지(1330)보다 제4 이미지(1340)에서, 빛 갈라짐 형태는 선명하게 표시될 수 있다. 점 광원(1341)의 광량의 세기에 따라 빛 갈라짐의 날(1343)의 길이가 달라질 수 있다.

일 실시 예에 따르면, 메인 처리부(예: 메인 처리부(160))는 단노출 이미지(예: 도 9의 복수의 단노출 이미지(902) 중 하나 또는 도 11의 단노출 이미지(1102))의 점 광원에서, 포화된 픽셀 주변의 포화되지 않은 인접 픽셀들을 이용하여, 포화된 픽셀의 광량을 산출할 수 있다. 메인 처리부는 산출된 광량의 세기에 따라 룩업 테이블(예: 룩업 테이블(245))을 참조하여, 합성 이미지(예: 도 9의 합성 이미지(903) 또는 도 11의 합성 이미지)에서 점 광원 부분을 빛 갈라짐 형태로 치환할 수 있다.

다양한 실시 예에 따르면, 메인 처리부는 점 광원의 밝기에 따라서 빛 갈라짐의 날개 크기가 결정될 수 있고, 효과 적용부(예: 효과 적용부(240))에서 PSF 모양을 추출된 점 광원의 세기에 따라 치환하여 빛 갈라짐의 효과를 줄 수 있다. 빛 갈라짐은 주변부로 갈수록 밝기 값이 작아지는 PSF이므로, 추측된 세기를 PSF 중심부 값 기준으로 비례해서 치환한 경우, 자연스럽게 빛 갈라짐의 날의 크기가 조정될 수 있다.

도 14는, 다양한 실시 예들에 따른, 네트워크 환경(1400) 내의 전자 장치(1401)(예: 전자 장치(101))의 블럭도이다. 도 14을 참조하면, 네트워크 환경(1400)에서 전자 장치(1401)는 제1 네트워크(1498)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(1402)와 통신하거나, 또는 제2 네트워크(1499)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(1404) 또는 서버(1408)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(1401)는 서버(1408)를 통하여 전자 장치(1404)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(1401)는 프로세서(1420)(예: 메인 처리부(140), 후처리부(165)), 메모리(1430)(예: 메모리(170)), 입력 장치(1450), 음향 출력 장치(1455), 표시 장치(1460), 오디오 모듈(1470), 센서 모듈(1476), 인터페이스(1477), 햅틱 모듈(1479), 카메라 모듈(1480)(예: 렌즈부(110), 셔터부(120), 이미지 센서(130)), 전력 관리 모듈(1488), 배터리(1489), 통신 모듈(1490), 가입자 식별 모듈(1496), 또는 안테나 모듈(1497)을 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(1401)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(1460) 또는 카메라 모듈(1480))가 생략되거나, 하나 이상의 다른 구성 요소가 추가될 수 있다. 어떤 실시 예에서는, 이 구성요소들 중 일부들은 하나의 통합된 회로로 구현될 수 있다. 예를 들면, 센서 모듈(1476)(예: 지문 센서, 홍채 센서, 또는 조도 센서)은 표시 장치(1460)(예: 디스플레이(180))에 임베디드된 채 구현될 수 있다

프로세서(1420)는, 예를 들면, 소프트웨어(예: 프로그램(1440))를 실행하여 프로세서(1420)에 연결된 전자 장치(1401)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)을 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시 예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(1420)는 다른 구성요소(예: 센서 모듈(1476) 또는 통신 모듈(1490))로부터 수신된 명령 또는 데이터를 휘발성 메모리(1432)에 로드하고, 휘발성 메모리(1432)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(1434)에 저장할 수 있다. 일 실시 예에 따르면, 프로세서(1420)는 메인 프로세서(1421)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(1423)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 추가적으로 또는 대체적으로, 보조 프로세서(1423)은 메인 프로세서(1421)보다 저전력을 사용하거나, 또는 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(1423)는 메인 프로세서(1421)와 별개로, 또는 그 일부로서 구현될 수 있다.

보조 프로세서(1423)는, 예를 들면, 메인 프로세서(1421)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(1421)를 대신하여, 또는 메인 프로세서(1421)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(1421)와 함께, 전자 장치(1401)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(1460), 센서 모듈(1476), 또는 통신 모듈(1490))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시 예에 따르면, 보조 프로세서(1423)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(1480) 또는 통신 모듈(1490))의 일부로서 구현될 수 있다.

메모리(1430)는, 전자 장치(1401)의 적어도 하나의 구성요소(예: 프로세서(1420) 또는 센서 모듈(1476))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(1440)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(1430)는, 휘발성 메모리(1432) 또는 비휘발성 메모리(1434)를 포함할 수 있다.

프로그램(1440)은 메모리(1430)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(1442), 미들 웨어(1444) 또는 어플리케이션(1446)을 포함할 수 있다.

입력 장치(1450)는, 전자 장치(1401)의 구성요소(예: 프로세서(1420))에 사용될 명령 또는 데이터를 전자 장치(1401)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 장치(1450)은, 예를 들면, 마이크, 마우스, 키보드, 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.

음향 출력 장치(1455)는 음향 신호를 전자 장치(1401)의 외부로 출력할 수 있다. 음향 출력 장치(1455)는, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있고, 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시 예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.

표시 장치(1460)는 전자 장치(1401)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(1460)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시 예에 따르면, 표시 장치(1460)는 터치를 감지하도록 설정된 터치 회로(touch circuitry), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로(예: 압력 센서)를 포함할 수 있다.

오디오 모듈(1470)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시 예에 따르면, 오디오 모듈(1470)은, 입력 장치(1450)를 통해 소리를 획득하거나, 음향 출력 장치(1455), 또는 전자 장치(1401)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(1402)) (예: 스피커 또는 헤드폰))를 통해 소리를 출력할 수 있다.

센서 모듈(1476)은 전자 장치(1401)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시 예에 따르면, 센서 모듈(1476)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.

인터페이스(1477)는 전자 장치(1401)이 외부 전자 장치(예: 전자 장치(1402))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시 예에 따르면, 인터페이스(1477)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.

연결 단자(1478)는, 그를 통해서 전자 장치(1401)가 외부 전자 장치(예: 전자 장치(1402))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시 예에 따르면, 연결 단자(1478)은, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.

햅틱 모듈(1479)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시 예에 따르면, 햅틱 모듈(1479)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.

카메라 모듈(1480)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시 예에 따르면, 카메라 모듈(1480)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.

전력 관리 모듈(1488)은 전자 장치(1401)에 공급되는 전력을 관리할 수 있다. 일 실시 예에 따르면, 전력 관리 모듈(388)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.

배터리(1489)는 전자 장치(1401)의 적어도 하나의 구성 요소에 전력을 공급할 수 있다. 일 실시 예에 따르면, 배터리(1489)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.

통신 모듈(1490)은 전자 장치(1401)와 외부 전자 장치(예: 전자 장치(1402), 전자 장치(1404), 또는 서버(1408))간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(1490)은 프로세서(1420)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시 예에 따르면, 통신 모듈(1490)은 무선 통신 모듈(1492)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(1494)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제1 네트워크(1498)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제2 네트워크(1499)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성 요소(예: 단일 칩)으로 통합되거나, 또는 서로 별도의 복수의 구성 요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(1492)은 가입자 식별 모듈(1496)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제1 네트워크(1498) 또는 제2 네트워크(1499)와 같은 통신 네트워크 내에서 전자 장치(1401)를 확인 및 인증할 수 있다.

안테나 모듈(1497)은 신호 또는 전력을 외부(예: 외부 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시 예에 따르면, 안테나 모듈은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 하나의 안테나를 포함할 수 있다. 일 실시 예에 따르면, 안테나 모듈(1497)은 복수의 안테나들을 포함할 수 있다. 이런 경우, 제1 네트워크(1498) 또는 제2 네트워크(1499)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(1490)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(1490)과 외부 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시 예에 따르면, 방사체 이외에 다른 부품(예: RFIC)이 추가로 안테나 모듈(1497)의 일부로 형성될 수 있다.

상기 구성요소들 중 적어도 일부는 주변 기기들 간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))를 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.

일 실시 예에 따르면, 명령 또는 데이터는 제2 네트워크(1499)에 연결된 서버(1408)를 통해서 전자 장치(1401)와 외부의 전자 장치(1404)간에 송신 또는 수신될 수 있다. 전자 장치(1402, 104) 각각은 전자 장치(1401)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시 예에 따르면, 전자 장치(1401)에서 실행되는 동작들의 전부 또는 일부는 외부 전자 장치들(1402, 104, or 108) 중 하나 이상의 외부 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(1401)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(1401)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(1401)로 전달할 수 있다. 전자 장치(1401)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.

본 문서의 다양한 실시 예들 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및/또는 B 중 적어도 하나", "A, B 또는 C" 또는 "A, B 및/또는 C 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제1," "제2," "첫째," 또는 "둘째,"등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.

본 문서에서, "~하도록 설정된(adapted to or configured to)"은 상황에 따라, 예를 들면, 하드웨어적 또는 소프트웨어적으로 "~에 적합한," "~하는 능력을 가지는," "~하도록 변경된," "~하도록 만들어진," "~를 할 수 있는," 또는 "~하도록 설계된"과 상호 호환적으로(interchangeably) 사용될 수 있다. 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 설정된 (또는 구성된) 프로세서"는 해당 동작들을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치(예: 메모리 130)에 저장된 하나 이상의 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(예: CPU 또는 AP)를 의미할 수 있다.

본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어(firmware)로 구성된 유닛(unit)을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. "모듈"은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있으며, 예를 들면, 어떤 동작들을 수행하는, 알려졌거나 앞으로 개발될, ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays), 또는 프로그램 가능 논리 장치를 포함할 수 있다.

다양한 실시 예들에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는 프로그램 모듈의 형태로 컴퓨터로 판독 가능한 저장 매체(예: 메모리(1430))에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(1420))에 의해 실행될 경우, 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(예: 자기테이프), 광기록 매체(예: CD-ROM, DVD, 자기-광 매체(예: 플롭티컬 디스크), 내장 메모리 등을 포함할 수 있다. 명령어는 컴파일러에 의해 만들어지는 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다.

다양한 실시 예들에 따른 구성 요소(예: 모듈 또는 프로그램 모듈) 각각은 단수 또는 복수의 개체로 구성될 수 있으며, 전술한 해당 서브 구성 요소들 중 일부 서브 구성 요소가 생략되거나, 또는 다른 서브 구성 요소를 더 포함할 수 있다. 대체적으로 또는 추가적으로, 일부 구성 요소들(예: 모듈 또는 프로그램 모듈)은 하나의 개체로 통합되어, 통합되기 이전의 각각의 해당 구성 요소에 의해 수행되는 기능을 동일 또는 유사하게 수행할 수 있다. 다양한 실시 예들에 따른 모듈, 프로그램 모듈 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.

Claims

전자 장치에 있어서,
카메라;
메모리; 그리고
상기 카메라 및 상기 메모리와 작동적으로(operatively) 연결된 프로세서를 포함하고,
상기 프로세서는,
상기 카메라를 이용하여, 제1 노출 시간에 따라 외부 객체에 대해 촬영하여 기준 노출 이미지를 획득하고,
상기 카메라를 이용하여, 상기 제1 노출 시간보다 짧은 제2 노출 시간에 따라 상기 외부 객체에 대해 복수 회 촬영을 수행하고,
상기 복수 회 촬영에 따라 복수의 제1 이미지들을 포함하는 제1 이미지 세트를 획득하고,
상기 제1 이미지 세트를 합성하여 제2 이미지를 생성하고,
상기 제2 이미지에 포함된 광원에 대응하는 광원 영역을 결정하고
상기 기준 노출 이미지의 특정 영역을 상기 광원 영역으로 치환하여 제3 이미지를 생성하고, 그리고
상기 제3 이미지를 이용하여, 상기 특정 영역에 상기 광원과 관련된 이미지 효과가 추가된 제4 이미지를 생성하도록 설정되는 전자 장치.
청구항 1에 있어서,
상기 프로세서는,
상기 제1 이미지들 중 하나에서 미리 설정된 값 이상의 밝기를 가지는 화소의 시작 및 끝 좌표와 픽셀 게인을 통해 포화 픽셀을 판별하도록 설정되는 전자 장치.
청구항 2에 있어서,
상기 프로세서는,
상기 포화 픽셀의 라인 단위의 시작과 끝의 좌표 정보를 저장하고,
상기 좌표 정보를 이용하여 상기 광원 영역의 크기를 결정하도록 설정되는 전자 장치.
청구항 3에 있어서,
상기 프로세서는,
상기 제1 이미지들의 합성 시, 상기 좌표 정보를 이용하여 상기 제1 이미지들 각각에서 상기 광원 영역을 결정하고, 상기 광원 영역을 기준으로 상기 제1 이미지들을 정합하도록 설정되는 전자 장치.
청구항 1에 있어서,
상기 제1 이미지들은 복수의 광원들을 포함하고,
상기 프로세서는,
상기 복수의 광원들 각각의 특성에 따라 상기 복수의 광원들 각각에 대하여 상기 광원 영역의 크기를 다르게 지정하도록 설정되는 전자 장치.
청구항 3에 있어서,
상기 프로세서는,
상기 광원의 위치 및 상기 포화 픽셀의 좌표 정보를 기반으로, 포화되지 않은 인접 픽셀을 이용하여, 상기 인접 픽셀과의 피팅(fitting) 연산을 통해 포화된 부분의 광량을 계산하도록 설정되는 전자 장치.
◈청구항 7은(는) 설정등록료 납부시 포기되었습니다.◈

청구항 3에 있어서,
상기 프로세서는,
상기 포화 픽셀 이전 2개의 화소들에 대해 1차식의 피팅 연산을 수행하여 제1 기울기 값을 구하고, 상기 포화 픽셀 이후 2개의 화소들에 대해 1차식의 피팅 연산을 수행하여 제2 기울기 값을 구하고, 상기 제1 기울기 값 및 상기 제2 기울기 값 중 작은 값을 이용하여 상기 포화 픽셀의 광량을 계산하도록 설정되는 전자 장치.
청구항 1에 있어서,
상기 프로세서는,
상기 제1 이미지 세트의 노출 시간의 합을 상기 제1 노출 시간보다 크거나 같게 설정하도록 설정되는 전자 장치.
청구항 1에 있어서,
상기 프로세서는,
룩업 테이블에 기초하여, 상기 광원의 세기에 따라 상기 이미지 효과의 크기를 변경하도록 설정되는 전자 장치.
청구항 1에 있어서,
상기 프로세서는,
상기 제1 이미지들 각각의 노출 시간을 서로 다르게 설정하도록 설정되는 전자 장치.
전자 장치에 있어서,
카메라;
메모리; 그리고
상기 카메라 및 상기 메모리와 작동적으로(operatively) 연결된 프로세서를 포함하고,
상기 프로세서는,
상기 카메라를 이용하여, 제1 노출 시간에 따라 외부 객체에 대한 제1 이미지를 획득하고, 그리고 상기 제1 노출 시간보다 짧은 제2 노출 시간에 따라 상기 외부 객체에 대한 제2 이미지를 획득하고,
상기 제2 이미지에 기반하여, 광원에 대응하는 적어도 하나의 광원 주변의 광원 영역을 결정하고,
상기 제1 이미지의 적어도 일부 및 상기 제2 이미지의 적어도 일부를 서로 다른 비율로 합성하여 상기 제1 이미지의 특정 영역을 치환한 제3 이미지를 생성하도록 설정되는 전자 장치.
◈청구항 12은(는) 설정등록료 납부시 포기되었습니다.◈

청구항 11에 있어서,
상기 프로세서는,
상기 특정 영역에 대응하여 상기 광원과 관련된 이미지 효과가 적용된 상기 제3 이미지를 생성하도록 설정되는 전자 장치.
◈청구항 13은(는) 설정등록료 납부시 포기되었습니다.◈

청구항 11에 있어서,
상기 프로세서는,
상기 제1 이미지에 기초하여 상기 광원 영역의 크기를 결정하고, 상기 광원의 중심으로부터 상기 광원 영역의 최대 크기까지 상기 제1 이미지 및 상기 제2 이미지의 합성 비율을 변경하도록 설정되는 전자 장치.
◈청구항 14은(는) 설정등록료 납부시 포기되었습니다.◈

청구항 11에 있어서,
상기 프로세서는,
상기 광원의 중심으로부터의 거리가 증가할수록 상기 제1 이미지의 합성 비율을 증가시키고, 그리고 상기 광원의 중심으로부터의 거리가 증가할수록 상기 제2 이미지의 합성 비율을 감소시키도록 설정되는 전자 장치.
◈청구항 15은(는) 설정등록료 납부시 포기되었습니다.◈

청구항 11에 있어서,
상기 프로세서는,
상기 제3 이미지의 상기 특정 영역 내의 화소값들을 제1 값과 상기 제1 값보다 큰 제2 값 사이의 값들로 결정하도록 설정되는 전자 장치.
◈청구항 16은(는) 설정등록료 납부시 포기되었습니다.◈

청구항 15에 있어서,
상기 프로세서는,
상기 제1 값을 상기 특정 영역의 주변부의 화소값으로 지정하도록 설정되는 전자 장치.
◈청구항 17은(는) 설정등록료 납부시 포기되었습니다.◈

청구항 15에 있어서,
상기 프로세서는,
상기 제2 값을 상기 광원의 포화된 화소값으로 지정하도록 설정되는 전자 장치.
◈청구항 18은(는) 설정등록료 납부시 포기되었습니다.◈

청구항 11에 있어서,
상기 제1 이미지 및 상기 제2 이미지는 복수의 광원들을 포함하고,
상기 프로세서는,
상기 복수의 광원들 각각의 특성에 따라 상기 복수의 광원들 각각에 대하여 상기 제1 이미지 및 상기 제2 이미지의 합성 비율을 다르게 지정하도록 설정되는 전자 장치.
◈청구항 19은(는) 설정등록료 납부시 포기되었습니다.◈

청구항 11에 있어서,
상기 제2 이미지는 복수의 광원들을 포함하고,
상기 프로세서는,
상기 복수의 광원들 각각의 특성에 따라 상기 복수의 광원들 각각에 대하여 상기 광원 영역의 크기를 다르게 지정하도록 설정되는 전자 장치.
◈청구항 20은(는) 설정등록료 납부시 포기되었습니다.◈

청구항 19에 있어서,
상기 프로세서는,
상기 제2 이미지에서 미리 설정된 값 이상의 밝기를 가지는 화소의 시작 및 끝 좌표와 픽셀 게인을 통해 포화 픽셀을 판별하고,
상기 포화 픽셀의 라인 단위의 시작과 끝의 좌표 정보를 저장하고,
상기 광원의 위치 및 상기 포화 픽셀의 좌표 정보를 기반으로, 포화되지 않은 인접 픽셀을 이용하여, 1차식의 피팅 연산을 통해 포화된 부분의 광량을 계산하도록 설정되는 전자 장치.