KR101750058B1 - 높은 동적 영역의 영상을 생성하는 장치 및 방법 - Google Patents

Abstract

높은 동적 영역의 영상(HDRI)을 생성하는 장치 및 방법이 개시된다. 일 실시예에 따른 HDR 영상 생성 장치는, 서로 다른 노출에서 영상을 촬영하는 카메라; 및 제어부를 포함할 수 있다. 상기 제어부는, 입력 영상으로부터 광 노출값, 상대 노출 및 상대 조도를 추정하고, 미리 정의된 범위에서 상기 상대 조도를 조절하여 상기 HDR 영상을 생성할 수 있다. 이에 따라, 처리 속도가 빠르고, 메모리를 소모가 적어 영상 처리의 효율성을 향상시킬 수 있다.

Description

높은 동적 영역의 영상을 생성하는 장치 및 방법{APPARATUS AND METHOD FOR GENERATING HIGH DYNAMIC RANGE IMAGE}

본 발명은 높은 동적 영역의 영상을 생성하는 장치 및 방법에 관한 것이다.

디지털 영상의 동적 대역(Dynamic Range, DR)은 영상 내에서 가장 밝은 화소값과 가장 어두운 화소값의 비율로 정의될 수 있다.

인간의 시각 인지 시스템은, 일반적인 디지털 카메라나 모니터보다 훨씬 높은 동적 대역을 다룰 수 있다. 따라서, 기존의 영상 장치는, 인간이 인지하는 영상을 그대로 획득(capture) 또는 표현(display) 할 수 없다. 이처럼, 기존의 영상 장치가 다룰 수 있는 것보다 큰 동적 영역을 갖는 영상의 처리에 관한 필요성이 대두되었으며, 이러한 영상을 높은 동적 영역(High Dynamic Range, HRD)라 한다.

본 발명의 과제는, 카메라 반응함수에 대응하는 간단한 지수모델을 적용함으로써, 높은 인지성을 가지는 HDR 영상을 생성할 수 있고, 영상 처리 속도 및 메모리 소모 측면에서 효율적인 HDR 영상을 생성할 수 있는 높은 동적 영역의 영상을 생성하는 장치 및 방법을 제공하는 것이다.

본 발명은 이상에서 언급한 과제들로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.

전술한 과제를 달성하기 위한 본 발명의 일면에 따른 높은 동적 영역의 영상을 생성하는 장치는, 카메라; 및 동일한 객체를 서로 다른 노출(exposure)에서 촬영하도록 설정하고, 상기 카메라를 통해 획득되는 입력 영상의 특정 픽셀에 대하여 HDR(High Dynamic Range) 영상을 생성하는 제어부를 포함할 수 있다.

상기 제어부는, 상기 특정 픽셀에 대하여 상기 서로 다른 노출에서 촬영되는 입력 영상을 변환하여 광 노출값(photometric exposure value)을 추정할 수 있다.

상기 제어부는, 기준 노출시간에 대한 상대 노출시간(relative exposure time)을 이용하여, 상기 각 노출에서 촬영되는 각 영상의 상대 조도(relative illuminance)를 추정할 수 있다.

상기 제어부는, 미리 정의된 범위에서 상기 상대 조도를 조절하여 상기 HDR 영상을 생성할 수 있다.

상기 제어부는, 상기 생성된 HDR 영상에 대하여 명암대비(contrast) 및 포화(saturation)를 조절하고, 상기 서로 다른 노출에서 획득되는 영상 프레임의 공간적 이동을 보정할 수 있다.

상기 제어부는, 상기 미리 정의된 범위 내에서 상기 상대 조도값에 대하여 거듭제곱(power law) 연산을 수행할 수 있다.

상기 제어부는, 상기 미리 정의된 범위 내에서 상기 HDR 영상이 [0, 2¹⁴] 범위 내에 존재하도록 상기 색 변환 영상을 역 변환할 수 있다.

상기 제어부는, 상기 상대 조도값에 상기 서로 다른 노출에 대응되는 가중치를 적용하여 상기 HDR 영상을 생성할 수 있다.

상기 미리 정의된 범위는 [0,1]의 영역을 포함할 수 있다.

상기 제어부는, 상기 첫 번째 노출의 색상 밝기값이 [0,5] 범위에 존재하거나, 마지막 노출의 색상 밝기값이 [250,255]의 범위 내에 존재하는 경우, 상기 가중치를 상기 입력 영상의 색 변환 영상에 따라 변경할 수 있다.

본 발명의 다른 면에 따른 높은 동적 영역 영상 생성 방법은 특정 픽셀에 대하여 서로 다른 노출에 촬영되는 입력 영상을 비선형적으로 변환하는 단계; 상기 각 노출에 대하여, 기준 노출시간에 대한 상대 노출시간을 추정하는 단계; 상기 상대 노출시간을 이용하여 상기 각 노출에서 촬영되는 각 영상의 상대 조도를 추정하는 단계; 및 미리 정의된 범위에서 상기 상대 조도를 조절하여 HDR 영상을 생성하는 단계를 포함할 수 있다.

상기 프레임 매칭 단계는, 평균 노출 시간에 따른 프레임을 기본 프레임으로 설정하는 단계; 상기 입력 영상의 특정 색 변환 영상에 대하여, 최소 노출시간을 갖는 프레임을 상기 최소 노출시간 및 최대 노출시간과 연관시켜 채널 조정하는 단계; 상기 조정된 모든 채널에 대하여 각각 한 쌍의 일차원 특징 벡터를 생성하는 단계; 평균 노출시간을 갖는 입력 영상에 대하여 한 쌍의 특징 벡터를 할당하는 단계; 및 상기 평균 노출시간에 대응되는 특징 벡터와 상기 조정된 채널에 대응하는 일차원 특징벡터의 직교 상관값을 산출하는 단계;를 포함할 수 있다.

기타 실시예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.

본 발명의 실시예에 따른 높은 동적 영역의 영상(HDRI)을 생성하는 장치 및 방법에 따르면, 카메라의 비선형적인 반응함수(response function)을 알지 못하더라도, 높은 인지성(perceptual)을 가지는 HDRI 영상을 생성할 수 있다.

또한, 본 발명의 실시예에 따르면, 영상 처리 속도가 빠르고, 메모리를 소모가 적은 HDRI 영상 생성 방법을 제공할 수 있다.

도 1은, 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.
도 2a는, 본 발명과 관련된 이동 단말기 또는 휴대 단말기의 일 예를 전면에서 바라본 사시도이다.
도 2b는, 도 2a에 도시된 휴대 단말기의 후면 사시도이다.
도 3은, HDR 영상을 생성하는 방법을 간략하게 설명하기 위한 예시도이다.
도 4는, 본 발명의 일 실시예에 따른 이동 단말기의 높은 동적 영역 영상 생성 방법의 흐름도이다.
도 5는, 도 4에 도시된 HDR 영상 생성과정을 보다 상세하게 설명하기 위한 흐름도이다.
도 6은, 본 발명의 일 실시예에 다른 이동 단말기의 높은 동적 영역 영상 생성 방법의 흐름도이다.
도 7은, 도 6에 도시된 프레임 매칭의 흐름도이다.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 것이며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하며, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.

이하에서는 설명의 편의를 위하여 상기 높은 동적 영역의 영상을 생성하는 장치를 이동 단말기로 가정하여 설명한다. 그러나, 본 명세서에서 설명되는 높은 동적 영역의 영상을 생성하는 장치는 이동 단말기에 한정되지 않는다. 예를 들어, 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 내비게이션 등이 포함될 수 있다.

이하, 첨부된 도면들을 참조하여 본 발명에 대하여 상세히 설명하기로 한다.

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.

상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기를 구현될 수도 있다.

이하, 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동 통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.

상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동 통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVBH(Digital Video BroadcastHandheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 각종 방송 시스템을 이용하여 방송 신호를 수신하는데, 특히, DMBT(Digital Multimedia BroadcastingTerrestrial), DMBS(Digital Multimedia BroadcastingSatellite), MediaFLO(Media Forward Link Only), DVBH(Digital Video BroadcastHandheld), ISDBT(Integrated Services Digital BroadcastTerrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 방송 신호를 제공하는 다른 방송 시스템에 적합하도록 구성될 수도 있다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

이동 통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 무선 인터넷 모듈(113)은 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(WiFi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.

위치정보 모듈(115)은 이동 단말기의 위치를 확인하거나 얻기 위한 모듈이다. 상기 위치정보 모듈의 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 현재 기술에 의하면, 상기 GPS모듈(115)은, 일 지점(개체)이 3개 이상의 위성으로부터 떨어진 거리에 관한 정보와, 상기 거리 정보가 측정된 시간에 관한 정보를 산출한 다음 상기 산출된 거리 정보에 삼각법을 적용함으로써, 일 시간에 일 지점(개체)에 대한 위도, 경도, 및 고도에 따른 3차원의 위치 정보를 산출할 수 있다. 나아가, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또 다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법 또한 사용되고 있다. GPS 모듈(115)은 현 위치를 실시간으로 계속 산출하고 그를 이용하여 속도 정보를 산출하기도 한다.

도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이 모듈(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 단말기의 구성 태양에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동 통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad) 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.

센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등과 관련된 센싱 기능을 담당할 수도 있다. 한편, 상기 센싱부(140)는 근접센서를 포함할 수 있다.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이 모듈(151), 음향 출력 모듈(152), 알람부(153), 및 햅틱 모듈(154) 등이 포함될 수 있다.

디스플레이 모듈(151)은 이동 단말기(100)에서 처리되는 정보를 표시한다. 예를 들어, 이동 단말기(100)가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.

디스플레이 모듈(151)은 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistorliquid crystal display), 유기 발광 다이오드(organic lightemitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 투명 LCD 등이 있다. 디스플레이 모듈(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이 모듈(151)이 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.

이동 단말기(100)의 구현 형태에 따라 디스플레이 모듈(151)이 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이 모듈들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

디스플레이 모듈(151)과 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 약칭함)에, 디스플레이 모듈(151)은 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.

터치 센서는 디스플레이 모듈(151)의 특정 부위에 가해진 압력 또는 디스플레이 모듈(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이 모듈(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.

도 1을 참조하면, 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접센서가 배치될 수 있다. 상기 근접센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.

상기 근접센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접센서, 정전용량형 근접센서, 자기형 근접센서, 적외선 근접센서 등이 있다.

상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접센서로 분류될 수도 있다.

이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.

상기 근접센서는, 근접 터치 및 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.

음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수도 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.

알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 비디오 신호나 오디오 신호는 디스플레이 모듈(151)이나 음성 출력 모듈(152)을 통해서도 출력될 수 있다.

햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.

햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열에 의한 자극에 의한 효과, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력을 통한 자극에 의한 효과, 피부 표면을 스치는 자극에 의한 효과, 전극(eletrode)의 접촉을 통한 자극에 의한 효과, 정전기력을 이용한 자극에 의한 효과, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.

햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자의 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 휴대 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.

메모리(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(160)는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(ReadOnly Memory, ROM), EEPROM(Electrically Erasable Programmable ReadOnly Memory), PROM(Programmable ReadOnly Memory) 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.

상기 식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다.

상기 인터페이스부(170)는 이동 단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동 단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기(100)로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동 단말기(100)가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.

제어부(180)는 통상적으로 이동 단말기(180)의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에 설명되는 다양한 실시 예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시 예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(microcontrollers), 마이크로 프로세서(microprocessors), 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 그러한 실시 예들이 제어부(180)에 의해 구현될 수 있다.

소프트웨어적인 구현에 의하면, 절차나 기능과 같은 실시 예들은 적어도 하나의 기능 또는 작동을 수행하게 하는 별개의 소프트웨어 모듈과 함께 구현될 수 있다. 소프트웨어 코드는 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션에 의해 구현될 수 있다. 또한, 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

도 2a는, 본 발명과 관련된 이동 단말기 또는 휴대 단말기의 일 예를 전면에서 바라본 사시도이다. 개시된 휴대 단말기(100)는 바 형태의 단말기 바디를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고, 2 이상의 바디들이 상대적으로 이동 가능하게 결합되는 슬라이드 타입, 폴더 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용이 가능하다.

바디는 외관을 이루는 케이스(케이싱, 하우징, 커버 등)를 포함한다. 본 실시예에서, 케이스는 프론트 케이스(101)와 리어 케이스(102)로 구분될 수 있다. 프론트 케이스(101)와 리어 케이스(102)의 사이에 형성된 공간에는 각종 전자부품들이 내장된다. 프론트 케이스(101)와 리어 케이스(102) 사이에는 적어도 하나의 중간 케이스들이 추가로 배치될 수도 있다.

케이스들은 합성수지를 사출하여 형성되거나 금속 재질, 예를 들어 스테인레스 스틸(STS) 또는 티타늄(Ti) 등과 같은 금속 재질을 갖도록 형성될 수도 있다.

단말기 바디, 주로 프론트 케이스(101)에는 디스플레이부(151), 음향출력부(152), 카메라(121), 사용자 입력부(130/131,132), 마이크(122), 인터페이스(170) 등이 배치될 수 있다.

디스플레이부(151)는 프론트 케이스(101)의 주면의 대부분을 차지한다. 디스플레이부(151)의 양단부 중 일 단부에 인접한 영역에는 음향출력부(152)와 카메라(121)가 배치되고, 다른 단부에 인접한 영역에는 사용자 입력부(131)와 마이크(122)가 배치된다. 사용자 입력부(132)와 인터페이스(170) 등은 프론트 케이스(101) 및 리어 케이스(102)의 측면들에 배치된다.

사용자 입력부(130)는 휴대 단말기(100)의 동작을 제어하기 위한 명령을 입력받기 위해 조작되는 것으로서, 복수의 조작 유닛들(131,132)을 포함할 수 있다.

조작 유닛들(131,132)은 조작부(manipulating portion)로도 통칭 될 수 있으며, 사용자가 촉각 적인 느낌을 가면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다.

조작 유닛들(131,132)에 의하여 입력되는 내용은 다양하게 설정될 수 있다. 예를 들어, 제1 조작 유닛(131)은 시작, 종료, 스크롤 등과 같은 명령을 입력받고, 제2 조작 유닛(132)은 음향출력부(152)에서 출력되는 음향의 크기 조절 또는 디스플레이부(151)의 터치 인식 모드로의 전환 등과 같은 명령을 입력받을 수 있다.

도 2b는 도 2a에 도시된 휴대 단말기의 후면 사시도이다. 도 2b를 참조하면, 단말기 바디의 후면, 다시 말해서 리어 케이스(102)에는 카메라(121')가 추가로 장착될 수 있다. 카메라(121')는 카메라(121, 도 2a 참조)와 실질적으로 반대되는 촬영 방향을 가지며, 카메라(121)와 서로 다른 화소를 가지는 카메라일 수 있다.

예를 들어, 카메라(121)는 화상 통화 등의 경우에 사용자의 얼굴을 촬영하여 상대방에 전송함에 무리가 없도록 저 화소를 가지며, 카메라(121')는 일반적인 피사체를 촬영하고 바로 전송하지는 않는 경우가 많기에 고 화소를 가지는 것이 바람직하다. 카메라(121,121')는 회전 또는 팝업(popup) 가능하게 단말기 바디에 설치될 수도 있다.

카메라(121')에 인접하게는 플래쉬(123)와 거울(124)이 추가로 배치된다. 플래쉬(123)는 카메라(121')로 피사체를 촬영하는 경우에 피사체를 향해 빛을 비추게 된다. 거울(124)은 사용자가 카메라(121')를 이용하여 자신을 촬영(셀프 촬영)하고자 하는 경우에, 사용자 자신의 얼굴 등을 비춰볼 수 있게 한다.

단말기 바디의 후면에는 음향 출력부(152')가 추가로 배치될 수도 있다. 음향 출력부(152')는 음향 출력부(152, 도 2a 참조)와 함께 스테레오 기능을 구현할 수 있으며, 통화시 스피커폰 모드의 구현을 위하여 사용될 수도 있다.

단말기 바디의 측면에는 통화 등을 위한 안테나 외에 방송신호 수신용 안테나(124)가 추가적으로 배치될 수 있다. 방송수신모듈(111, 도 1 참조)의 일부를 이루는 안테나(124)는 단말기 바디에서 인출 가능하게 설치될 수 있다.

단말기 바디에는 휴대 단말기(100)에 전원을 공급하기 위한 전원공급부(190)가 장착된다. 전원공급부(190)는 단말기 바디에 내장되거나, 단말기 바디의 외부에서 직접 탈착될 수 있게 구성될 수 있다.

리어 케이스(102)에는 터치를 감지하기 위한 터치 패드(135)가 추가로 장착될 수 있다. 터치 패드(135) 또한 디스플레이부(151)와 마찬가지로 광 투과형으로 구성될 수 있다. 이 경우에, 디스플레이부(151)가 양면에서 시각 정보를 출력하도록 구성된다면, 터치 패드(135)를 통해서도 상기 시각 정보를 인지할 수 있게 된다. 상기 양면에 출력되는 정보는 상기 터치 패드(135)에 의해 모두 제어될 수도 있다. 이와는 달리, 터치 패드(135)에는 디스플레이가 추가로 장착되어, 리어 케이스(102)에도 터치 스크린이 배치될 수도 있다.

터치 패드(135)는 프론트 케이스(101)의 디스플레이부(151)와 상호 관련되어 작동한다. 터치 패드(135)는 디스플레이부(151)의 후방에 평행하게 배치될 수 있다. 이러한 터치 패드(135)는 디스플레이부(151)와 동일하거나 작은 크기를 가질 수 있다.

도 3은 HDR 영상을 생성하는 방법을 간략하게 설명하기 위한 예시도이다.

HDR 영상을 생성하는 기술은, 서로 다른 노출을 갖는 다수의 영상을 합성하여 동적 대역(DR)을 확장하는 기술이다.

상기 HDR 영상은, 밝은 부분을 기준으로 하여 짧은 노출을 통해 획득되는 짧은 노출 영상(Short Exposure Image, LEI)과, 어두운 부분을 기준으로 하여 긴 노출을 통해 획득되는 긴 노출 영상(Long Exposure Image, SEI)을 합성하여 얻을 수 있다. 즉, 하나의 영상 내에서의 각 부분의 밝기 차이가 큰 경우, 밝은 부분은 짧은 노출을 통해 이미지를 획득하고, 어두운 부분은 긴 노출을 통해 이미지를 획득함으로써, 밝기 차이가 큰 영상에 대해서도 전체적으로 선명한 이미지를 얻을 수 있다.

도 3을 참조하면, (a),(b) 및 (c)는 서로 노출시간을 달리하여 촬영된 영상을 나타내고, (d)는, (a),(b) 및 (c)의 영상을 합성하여 생성된 HDR 영상을 나타낸다. 이와 같이, HDR 영상은 일반 영상에 비해 밝은 부분과 어두운 부분이 보다 명확하게 재현되어 대상물을 훨씬 더 사실감 있게 표현할 수 있다.

도 4는, 본 발명의 일 실시예에 따른 이동 단말기의 높은 동적 영역 영상 생성 방법의 흐름도이다. 상기 HDR 영상 생성 방법은 이동 단말기(100)의 제어부(180)의 제어하에 실행될 수 있다.

일 실시예에 따른 이동 단말기의 높은 동적 영역 영상 생성 방법은, 서로 다른 노출 시간(different exposure time) t₁, t₂,…,t_n에 캡쳐되는 일련의 컬러 영상 I₁(i,j),I₂(i,j),…,I₃(i,j)에 기초하여 HDR 영상을 생성할 수 있다. 여기서, i 및 j는 픽셀의 좌표값이며, n은 2 이상의 정수이다.

도 4를 참조하면, 먼저, 제어부(180)는, 카메라(121)를 제어하여 서로 다른 노출(exposure)에서 소정의 객체를 촬영하도록 한다(S110).

일반적인 카메라의 자동 이득 제어(Auto Gain Control)는, 장면(scene)의 밝기(lightness)를 측정하고 적절한 노출을 계산할 수 있다. 대부분의 장면은, 카메라(121)의 픽셀당 8 비트 센서에 의해 캡처될 수 있는 것보다 더 큰 동적 영역(다이내믹 레인지)를 갖는다. 이 때문에 노출 설정에 관계없이, 어떠한 픽셀은 포화(saturation)되고, 어떠한 픽셀은 노출 부족(underexposure)이 된다. 따라서, 더 높은 동적 영역을 캡쳐하기 위해, 제어부(180)는, 프레임별로 노출 설정을 변동시킬 수 있도록 카메라(121)를 제어할 수 있다.

노출시간을 달리하여 촬영되는 입력 영상의 HDR 영상을 생성하기 위해서는, 일반적으로 상기 입력 영상을 촬영하는 카메라의 반응함수를 통해 광 노출값을 추정할 필요가 있다. 여기서, 카메라 반응함수(response function)는, 카메라 스크린에서, 광 노출과 색상 밝기를 연결시키는 함수이다. 즉, 카메라 반응함수의 입력값은 특정 픽셀(i,j)의 색상 밝기이고, 출력값은 광 노출값이다. 따라서, 카메라의 반응함수를 이용하기 위해서는 특정 픽셀(i,j)의 이미지를 색상으로 먼저 변환하는 과정이 필요하다.

그러나, 본 발명에서는 카메라(121)의 반응함수를 알고 있지 않더라도, 카메라 반응함수에 해당하는 간단한 지수 모델을 사용하여 서로 다른 노출에서 촬영된 입력 영상으로부터 광 노출값을 추정할 수 있다. 상기 지수 모델은 필름 밀도(film density)와 사진에서의 노출과의 관계와 유사할 수 있다.

따라서, 제어부(180)는, 촬영된 입력 영상 I_k(i,j)(k=1,…,n)을 먼저, 색상 채널의 밝기 C_k(i,j)로 변환할 수 있다. 제어부(180)는, 입력 영상을 색 변환할 수 있다(S120). 여기서, 제어부(180)는, 상기 입력 영상의 색 변환을 원색인 RGB 방식 또는 색차 신호인 YCbCr 방식으로 표현할 수 있다.

그러나, 상기 입력 영상을 색상으로 표현하는 방식은 상기 RGB 또는 YCbCr 방식으로 한정되지 않고, 다른 색상 표현 방식이 적용될 수도 있다. 예를 들어, 상기 색상 변환 방식은 RGB, CMYK(cyan, magenta, yellow, black), HSL(Hue, Saturation, Lightness), YUV 및 YIQ로 이루어지는 그룹으로부터 선택되는 컬러 모델에 따라서 결정될 수 있다.

상기 입력 영상의 특정 픽셀(i,j)을 색상으로 표현한 후, 제어부(180)는, 카메라(121)의 반응함수에 대응되는 하기 수학식 1을 이용하여 광 노출값을 추정할 수 있다.

식 중, H_Ck는, 입력 영상에서 특정 픽셀(i,j)의 광 노출값이고, C_k는 색상 밝기값이다.

한편, 상기 입력 영상에서 특정 픽셀(i,j)의 광 노출값은 조도와 노출시간으로 이용하여 하기 수학식 2와 같이 표현될 수 있다.

식 중, H_Ck는 광 노출값이고, E는 조도(luminance)이고, t_k는 노출시간이다.

여기서, 상기 조도 E는 f값에 의해 조절될 수 있으며, 상기 f 값은, 카메라(121) 렌즈의 초점 거리와 조리개의 직경 비율로 산출될 수 있다. 조리개의 직경이 커지면 f 값은 작아지고, 빛이 모이는 양은 많아져서 밝아진다. 한편, 상기 조도 E는, 장면 조도(scene luminance)에도 의존한다.

상기 광 노출값이 추정되면, 상기 수학식 1 및 수학식 2를 이용하여, 제어부(180)는, 하기 수학식 3에서와 같이 광 노출값과 조도값을 이용하여 상대 노출시간(relative exposure time)을 추정할 수 있다(S140).

식 중, H_Ck는 광 노출값이고, q_k1 = t_k/t₁ (k = 2,…, n)로서, 상대 노출시간이고, H_C1는, 첫 번째 노출에 따른 광 노출값이다.

설명의 편의를 위하여 첫번째 노출시간 t1=1로 설정하면, 상기 수학식 2로부터 상대 조도 E_rk(i,j) (k = 1,…,n) (relative illuminance)를 추정할 수 있다.

그 다음으로, 제어부(180)는, 상기 추정된 상대 조도 E_rk(i,j) 를 미리 정의된 소정의 범위 내에서 조절할 수 있다(S160).

제어부(180)는, 하기 수학식 4에서와 같이 거듭제곱 연산을 통해 상대 조도 E_rk(i,j)를 조절할 수 있다. 상기 미리 정의되는 범위는, HDR 영상이 [0,2¹⁴]의 범위 내에 존재하도록 하는 범위일 수 있다.

식 중, E_rk 는 서로 다른 노출시간에 촬영되는 영상의 특정 픽셀에 대한 상대 조도이고, E^* _rk 는 상기 상대조도의 거듭제곱 연산 결과이며, p는 [0,1] 범위 내에서 선택될 수 있는 거듭제곱 연산 파라미터이다.

일 실시예에 따라 상기 거듭제곱 연산의 파라미터 p는 [0,1]의 범위 내이므로, 실질적으로 상대 조도값 E_rk(i,j) 이 1 이상이면, 상기 상대 조도의 거듭 제곱 연산 결과는, 항상 상대 조도값 보다 작거나 같다. 그러나, 상기 상대 조도값이 1이하이면, 상기 조도의 거듭제곱 연산결과가 상기 상대 조도값 이상이다.

상기 상대 조도를 조절하는 과정(예를 들어, 거듭 제곱 연산 수행)이 수행되면, 제어부(180)는, 서로 다른 노출시간을 통해 획득되는 입력 영상에 대하여 HDR 영상을 생성할 수 있다(S170).

도 5를 참조하면, 제어부(180)는, HDR 영상의 색 변환 영상을 역 변환할 수 있다(S173).

도 4의 S120에서, 제어부(180)는, 입력 영상을 색 변환하여 특정 픽셀의 색상 밝기값을 알 수 있다. 일반적인 영상 촬영 공간은, 색상 밝기 공간이다. 카메라 스크린에서의 이미지로 작업을 하고, 카메라 내부에서의 조도 및 노출에 대해서는 알지 못하는 경우가 대부분이다. 그리고, 상기 색상 밝기 공간은, 인간이 시각적으로 인지할 수 있는 공간이며, 상기 색상 밝기 공간에서 사용자는 영상의 퀄러티를 평가할 수 있다.

제어부(180)는, 하기 수학식 5를 통해 HDR 영상의 색 변환 영상을 역변환할 수 있다.

식 중, C^* _rk(i,j)는 입력 영상의 특정 픽셀(i,j)의 색상 변환 영상의 역변환 결과이고, E^* _rk(i,j)는 수학식 4에서 상대 조도를 특정 범위 내에서 거듭 제곱 연산한 결과이며, t_k는 입력 영상의 서로 다른 노출 시간을 의미하고, coef(p) 와 Δ(p)는, 미리 정의되는 파라미터 p에서 HDR 영상이 [0, 214]의 범위 내에 존재하도록 하는 상수값이다.

상기 수학식 5에서, 일 실시예에 따른 HDR 영상 생성방법에 따라 생성된 상기 HDR 영상이 [0, 2¹⁴]의 범위 내에 존재하도록 하는 것은, HDR 영상을 생성하기 위한 일련의 영상 처리 과정(processing) 및 생성된 HDR 영상을 저장하기 위하여 소정의 범위가 필요하기 때문이다. 상기 필요한 범위를 [0, 2¹⁴]로 설정하는 경우, 전술한 HDR 영상의 생성 및 저장 과정에서 [0, 2¹⁴]를 초과하지 않는다.

다만, 상기 필요한 범위는 전술한 [0, 2¹⁴]에 한정되지 않으며, 처리할 HDR 영상에 따라 상기 범위보다 크거나 작게 설정될 수 있음은 물론이다.

상기 HDR 영상이 [0, 2¹⁴]의 범위 내에 존재하면, 제어부(180)는, 서로 다른 노출에서 촬영된 영상의 상대 휘도에 소정의 가중치를 적용하여 합산하여 특정 픽셀의 HDR 영상인 C_HDR(i,j)를 추정할 수 있다. 제어부(180)는, 하기 수학식 6을 통해 상기 HDR 영상을 추정할 수 있다.

식 중, C^* _rk(i,j)는 노출 k에서의 상대적인 색상 밝기값의 역 변환 결과이고, w_k(i,j)는 노출 k에서 적용될 가중치함수이다.

상기 수학식 6에서와 같이, 제어부(180)는, 특정 노출에서 촬영되는 입력 영상의 모든 픽셀(i,j)의 색상 영상에 소정의 가중치를 곱셈연산하고, 상기 곱셈연산의 결과를 모든 노출에 적용하고, 각 노출에서의 상기 곱셈 결과를 합산하여 실질적인 HDR 영상을 생성할 수 있다.

한편, 상기 노출 k에서의 가중치 함수는 하기 수학식 7로 표현될 수 있다.

식 중, w_k(i,j)는 노출 k에서의 가중치 함수이고, C_k(i,j)는 노출 k에서 입력 영상의 색상 변환값이다.

상기 수학식 7에서 수치 “128” 및 “30”은 최적의 상수값으로 선택된 것이며, 상기 상수값은 적절하게 변형되어 실시될 수 있음은 물론이다.

여기서 첫 번째 노출에서의 색상 밝기값 C₁(i,j)이 [0,5] 범위 내에 존재하는 경우, 또는 마지막 노출에서의 색상 밝기값 C_n(i,j)이 [250,255]에 존재하는 경우에 상기 수학식 7의 가중치 함수를 각 픽셀의 색상 밝기값에 적용하여, 상기 수학식 6에서와 같이 합산함으로써, 실질적인 HDR 영상을 획득할 수 있다.

여기서, 첫 번째 노출에서의 색상 밝기값 C₁(i,j)이 [0,5] 범위 내에 존재하는 경우, 첫 번째 노출 이외의 노출에서의 가중치(w_k(i,j) (k ≠ 1))는 동일한 값을 가지며, 상기 첫 번째 노출에서의 가중치 w₁(i,j) 는 “0 “일 수 있다. 또한, 마지막 노출에서의 색상 밝기값 C_n(i,j)이 [250,255]에 존재하는 경우, 마지막 노출을 제외한 모든 노출에서의 가중치는 동일하고, 마지막 노출에서의 가중치 w_n(i,j)는 “0”일 수 있다.

이상에서는 특정 픽셀의 색상 밝기값이 8bit로 표현되는 경우를 가정하여 설명하였다. 즉, 상기 색상 밝기값을 8bit로 표현하는 경우 0~255 까지로 구분하여 표시할 수 있다.

그리고, 첫 번째 노출에서의 색상 밝기값이 [0,5]의 범위 또는 마지막 노출에서의 색상 밝기값이 [250,255] 내에 존재하지 않는 경우에는, 상기 수학식 6 및 7에 의한 연산은 적용되지 않는다. 이와 같은 경우, 상기 가중치 함수 또한 가변되지 않는다.

제어부(180)는, 또한 상기 흐려진 복사본을 원래 영상의 크기 bHDRIG로 복구되며, 그 결과 rHDRIc 는 하기 수학식 8에 의해 산출될 수 있다.

식 중, bHDRIG 는 G(Green) 채널 HDR 영상의 흐려진 복사본이고, rHDRIC는 컬러채널(R,G,B) HDR 영상의 흐려진 복사본이며, α = 1 - 2pm/2048 일 수 있다. 또한, HDRIC는, 컬러채널(R,G,B)의 HDR 이미지이다.

상기 지역 명암대비 이후에, 제어부(180)는, 전역 명암대비(Global contrast)를 수행할 수 있다. 상기 전역 명암대비의 예로서, 전역 히스토그램 평활화(Global Histgraom Equalizaion)가 사용될 수 있다. 상기 히스토그램 평활화는 영상의 히스토그램 분포를 계산하고, 상기 히스토그램 분포는 누적 분포 함수의 생성 및 정규화를 통해 입력 영상의 화소값과 곱해져서 수행될 수 있다. 또한, 상기 히스토그램이 균일한 분포를 갖도록 밝기값을 재분배할 수 있다.

상기 HDR 영상의 전역 명암대비는, 지역 명암대비와는 달리, HDR 영상의 G 채널에 대해서만 수행될 수 있다.

제어부(180)는, 상기 HDR 영상의 클립 제한으로 최소값 HDRI_min와 최대값 HDRI_max 을 먼저 정의할 수 있다. 상기 최소 클립 제한값 HDRI_min

은 누적된 히스토그램의 5%에 해당하고, 상기 최대 클립 제한값 최대값 HDRI_max은 95%에 해당한다.

그리고 모든 HDR 영상값은 모든 색상 채널(예컨대, R,G,B)을 위한 낮은 동적 영역(LDR:Low Dynamic Range) 영상 값으로 전환되며, 상기 LDR값은 하기 수학식 9로 표현될 수 있다.

식 중, mean(HDRI) 는 HDR 영상의 평균값이고, k는 명암대비 조절값이고, mean(L) 는 요구되는 평균 밝기이다. 여기서 상기 명암대비 조절값(k)는, [-100,100]의 범위에서 선택될 수 있고, 상기 요구되는 평균 밝기값 mean(L)는 색상 밝기값을 8bit로 표현함에 따라 [0,255]에서 선택될 수 있다.

지역 명암대비와 전역 명암대비가 완료되면, 제어부(180)는, 서로 다른 노출에서 획득되는 장면(scene)의 공간적 이동을 고정시키기 위하여 프레임 매칭과정을 수행할 수 있다(S230).

상기 프레임 매칭을 수행하기 위하여 제어부(180)는 먼저, 평균 노출시간에 따른 프레임을 기본 프레임으로 설정할 수 있다(S231).

서로 다른 노출시간에 촬영되는 모든 영상의 프레임은 시간쌍(time pairs) (노출시간 “Tk”, 평균 노출시간 mT)이 할당될 수 있다.

또한, 특정 픽셀의 노출시간과, 평균 노출시간 사이에 최대 노출시간 최대 노출시간 t_maxk = max(t_k,mT)이 정의될 수 있다.

소정의 영상 프레임의 시간 쌍 중에서, 최소 노출시간을 가지는 프레임은 하기 수학식 10에 따라 최대 노출 시간값으로 조정될 수 있는데, 제어부(180)는, 상기 입력 영상의 특정 색 변환 영상에 대하여, 최소 노출시간을 갖는 프레임을 상기 최소 노출시간 및 최대 노출시간과 연관시켜 채널 조정하여, 이와 같은 조정은 하기 수학식 10에 따라 조정될 수 있다.

여기서, 상기 수학식 10에 따른 연산은, RGB의 경우, 그린 채널 G_ak을 기본채널로 설정하고, YCbCr의 경우, 조도 채널 Y_ak로 설정되는 하나의 기본 채널 RC_ak에 기초한다.

그리고, 제어부(180)는, 조정된 채널에 대하여 제1 특징 벡터를 생성할 수 있다(S233).

제어부(180)는, 소정의 노출 t_k에서 획득되는 입력 이미지 I_k의 모든 조정된 채널에 대하여 두 개의 일차원의 특징 벡터 V_kx and V_ky를 생성할 수 있다. 즉, 소정의 노출시간 동안 획득되는 입력 이미지에 대하여 상기 수학식 10에 의한 조정을 수행하고, 모든 조정된 채널에 대하여 각각 두 개의 일차원 특징 벡터를 형성할 수 있다.

여기서, 특징 벡터라 함은, 픽셀들의 하나 또는 그 이상의 특징들을 나타내는데 사용될 수 있는 모든 종류의 값들을 포함할 수 있다. 상기 특징 벡터는 세기(strength), 컬러(color) 및 텍스처 중 하나 이상을 포함할 수 있다. 컬러(color) 특징 벡터는 예를 들면, 붉은색, 녹색 또는 푸른색과 같은 하나 이상 또는 그 이상의 색상이 히스토그램을 포함할 수 있다. 상기 컬러 특징 벡터는, 또한 컬러의 순수함의 정도 또는 포화(saturation)를 나타내는 히스토그램을 포함할 수 있다.

상기 일차원의 특징 벡터들은 각각 “폭과 높이”(width and height) 성분을 포함할 수 있는데, 제어부(180)는, 상기 조정된 채널에 대하여 제1 특징 백터를 생성할 수 있다(S233). 상기 제1 특징 벡터 V_kx의 s-성분 V_kx(s)는, 하기 수학식 11에서와 같이 평균 밝기 RC_ak(i,s)로 산출될 수 있다.

식 중, V_kx(s)는 픽셀의 폭(width) 성분에 해당하는 특징 벡터이고, RC_ak는 입력 영상의 특정 색 변환 영상에 대하여, 최소 노출시간을 갖는 프레임을 상기 최소 노출시간 및 최대 노출시간과 연관시키는 채널 조정값이다.

한편, 제어부(180)는, 상기 평균 노출시간에 따른 입력 영상에 대하여 제2 특징 백터를 생성할 수 있다(S234). 상기 제2 특징 벡터 V_ky의 t-성분 V_ky(t)는, 하기 수학식 12에서와 같이 평균 밝기 RC_ak(t,j)로 산출될 수 있다.

식 중, V_ky(t)는 픽셀의 높이(height) 성분에 해당하는 특징 벡터이고, RC_ak 는 입력 영상의 특정 색 변환 영상에 대하여, 최소 노출시간을 갖는 프레임을 상기 최소 노출시간 및 최대 노출시간과 연관시키는 채널 조정값이다.

한편, 제어부(180)는, 평균 노출시간에 대응하는 입력 영상에 대하여 한 쌍의 특징 벡터 V_mTx 및 V_mTy 를 기본 벡터로 할당될 수 있다.

그리고, 제어부(180)는, 상기 평균 노출시간에 대응되는 특징 벡터와 상기 조정된 채널에 대응하는 일차원 특징벡터의 직교 상관값을 산출할 수 있다(S235). 상기 직교 상관값은 하기 수학식 13 및 14를 통해 산출될 수 있다.

모든 쌍 (V_mTx,V_{k ’(x-x’)}) and (V_mTy,V_{k ’(y-y’)}) (k’≠ mT)에 대한 직교 상관값 rx(x-x’) and ry(y-y’) 이 아래 식을 통해 산출된다.

식 중, rx(x-x’)는 (V_mTx,V_{k ’(x-x’)})에 대한 직교 상관 값이고, ry(y-y’) 는 (V_mTy,V_k’(y-y’))의 직교 상관값이고, ‘cov’는 공분산이고, ‘var’는 분산이다. 그러므로, V_mTx and V_{k ’(x-x’)} 는 동일한 차원을 가지고, 상기 직교 연산 과정에서 x’ 만큼 상호 이동된다.

본 발명이 속하는 기술 분야의 통상의 지식을 가진 자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 예를 들어, 본 발명의 높은 동적 영역의 영상을 생성하는 방법은 소프트웨어를 통해 실행될 수 있다. 소프트웨어로 실행될 때, 본 발명의 구성 수단들은 필요한 작업을 실행하는 코드 세그먼트들이다. 프로그램 또는 코드 세그먼트들은 프로세서 판독 가능 매체에 저장되거나 전송 매체 또는 통신망에서 반송파와 결합된 컴퓨터 데이터 신호에 의하여 전송될 수 있다.

컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 장치를 포함한다. 컴퓨터가 읽을 수 있는 기록 장치의 예로는, ROM, RAM, CD-ROM, DVD-ROM, DVD-RAM, 자기 테이프, 플로피 디스크, 하드 디스크(hard disk), 광데이터 저장장치 등이 있다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 장치에 분산되어 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.

그러므로 이상에서 기술한 실시예들은 모든 명세서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구의 범위에 의하여 나타내어지며, 특허청구 범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

100: 이동 단말기 180: 제어부

Claims (14)

1. 카메라; 및
   동일한 객체를 서로 다른 노출(exposure)에서 촬영하도록 설정하고, 상기 카메라를 통해 획득되는 입력 영상의 특정 픽셀에 대하여 높은 동적 영역의(HDR, High Dynamic Range) 영상을 생성하는 제어부
   를 포함하고, 상기 제어부는,
   상기 특정 픽셀에 대하여 상기 서로 다른 노출에서 촬영되는 입력 영상의 색 변환 영상을 변환하여 광 노출값(photometric exposure value)을 추정하고, 기준 노출시간에 대한 상대 노출시간(relative exposure time)을 이용하여, 상기 각 노출에서 촬영되는 각 영상의 상대 조도(relative illuminance)를 추정하고, 미리 정의된 범위에서 지수모델을 적용하는 방법으로 상기 상대 조도를 조절하여 상기 HDR 영상을 생성하는 것을 특징으로 하는 높은 동적 영역의 영상을 생성하는 장치.
   
2. 제1항에 있어서,
   상기 제어부는,
   상기 생성된 HDR 영상에 대하여 명암대비(contrast) 및 포화(saturation)를 조절하고, 상기 서로 다른 노출에서 획득되는 영상 프레임의 공간적 이동을 보정하는 것을 특징으로 하는 높은 동적 영역의 영상을 생성하는 장치.
   
3. 제1항에 있어서,
   상기 제어부는,
   상기 미리 정의된 범위 내에서 상기 상대 조도에 대하여 거듭제곱(power law) 연산을 수행하고, 상기 미리 정의된 범위 내에서 상기 HDR 영상이 [0, 2¹⁴] 범위 내에 존재하도록 상기 색 변환 영상을 역 변환하며, 상기 상대 조도에 상기 서로 다른 노출에 대응되는 가중치를 적용하여 상기 HDR 영상을 생성하는 것을 특징으로 하는 높은 동적 영역의 영상을 생성하는 장치.
   
4. 제3항에 있어서,
   상기 미리 정의된 범위는 [0,1] 영역인 것을 특징으로 높은 동적 영역의 영상을 생성하는 장치.
   
5. 제3항에 있어서,
   상기 제어부는,
   상기 가중치를 상기 입력 영상의 색 변환 영상에 따라 변경하는 것을 특징으로 하는 높은 동적 영역의 영상을 생성하는 장치.
   
6. 제5항에 있어서,
   상기 제어부는,
   첫 번째 노출의 색상 밝기값이 [0,5] 범위에 존재하거나, 마지막 노출의 색상 밝기값이 [250,255]의 범위 내에 존재하는 경우,
   상기 가중치를 상기 입력 영상의 색 변환 영상에 따라 변경하는 것을 특징으로 하는 높은 동적 영역의 영상을 생성하는 장치.
   
7. 제1항에 있어서,
   상기 색 변환 영상은,
   RGB, CMYK, HSL, YUV 및 YIQ로 이루어지는 그룹으로부터 선택되는 컬러 모델에 따라서 결정되는 것을 특징으로 하는 높은 동적 영역의 영상을 생성하는 장치.
   
8. 특정 픽셀에 대하여 서로 다른 노출에서 촬영되는 입력 영상을 입력받아서 광 노출값으로 변환하는 단계;
   상기 각 노출에 대하여, 기준 노출시간에 대한 상대 노출시간을 추정하는 단계;
   상기 상대 노출시간을 이용하여 상기 각 노출에서 촬영되는 각 영상의 상대 조도를 추정하는 단계; 및
   미리 정의된 동적 영역에서 지수모델을 적용하는 방법으로 상기 상대 조도를 조절하여 HDR 영상을 생성하는 단계
   를 포함하는 높은 동적 영역의 영상을 생성하는 방법.
   
9. 제8항에 있어서,
   상기 생성된 HDR 영상에 대하여 명암대비(contrast)와 포화(saturation)를 조절하는 단계; 및
   상기 서로 다른 노출에서 획득되는 영상 프레임의 공간적 이동을 고정시키는 프레임 매칭 단계
   를 더 포함하는 것을 특징으로 하는 높은 동적 영역의 영상을 생성하는 방법.
   
10. 삭제
11. 삭제
12. 삭제
13. 삭제
14. 제9항에 있어서,
    상기 프레임 매칭 단계는,
    평균 노출 시간에 따른 프레임을 기본 프레임으로 설정하는 단계;
    상기 입력 영상의 특정 색 변환 영상에 대하여, 최소 노출시간을 갖는 프레임을 상기 최소 노출시간 및 최대 노출시간과 연관시켜 채널 조정하는 단계;
    상기 조정된 모든 채널에 대하여 각각 한 쌍의 일차원 특징 벡터를 생성하는 단계;
    평균 노출시간을 갖는 입력 영상에 대하여 한 쌍의 특징 벡터를 할당하는 단계; 및
    상기 평균 노출시간에 대응되는 특징 벡터와 상기 조정된 채널에 대응하는 일차원 특징벡터의 직교 상관값을 산출하는 단계
    를 포함하는 것을 특징으로 하는 높은 동적 영역의 영상을 생성하는 방법.

Images