KR102494696B1

KR102494696B1 - 영상을 생성하는 방법 및 디바이스.

Info

Publication number: KR102494696B1
Application number: KR1020160030949A
Authority: KR
Inventors: 조성현; 한희철
Original assignee: 삼성전자주식회사
Priority date: 2015-10-22
Filing date: 2016-03-15
Publication date: 2023-02-02
Also published as: KR20170047150A

Abstract

일 측면에 따른 디바이스는, 제 1 흑백 영상을 생성하는 제 1 카메라; 제 1 컬러 영상을 생성하는 제 2 카메라; 상기 제 1 컬러 영상을 이용하여 제 2 흑백 영상을 생성하는 제 1 전자 회로; 상기 제 1 흑백 영상에 포함된 픽셀들과 상기 제 2 흑백 영상에 포함된 픽셀들 사이의 위치 관계를 나타내는 정보를 획득하는 제 2 전자 회로; 및 상기 제 1 흑백 영상, 상기 제 2 흑백 영상 및 상기 획득된 정보에 기초하여 제 3 흑백 영상을 생성하는 제 3 전자 회로;를 포함한다.

Description

영상을 생성하는 방법 및 디바이스. {Method and device for generating an image}

영상을 생성하는 방법 및 디바이스에 관한다.

카메라가 달린 스마트 폰과 같은 모바일 기기가 대중화됨에 따라, 피사체를 촬영함에 있어서 DSLR이나 일반 디지털 카메라에 비하여 스마트 폰에 포함된 카메라를 사용하는 경우가 증가하고 있다. 그러나, 스마트 폰에 포함된 카메라의 크기 또는 두께는 스마트 폰 자체의 크기 또는 두께에 의하여 제약을 받게 된다. 따라서, 스마트 폰에 포함된 카메라는 크기가 작은 영상 센서와 렌즈를 사용할 수 밖에 없으며, 이는 화질의 저하를 초래하게 된다. 한편, 근래에 더 얇고 가벼운 모바일 기기에 대한 수요가 커짐에 따라, 얇은 두께의 카메라를 갖는 스마트 폰에 의해서도 고품질의 영상이 생성될 수 있는 기술에 대한 수요가 증가하고 있다.

영상을 생성하는 방법 및 디바이스를 제공하는 데 있다. 또한, 상기 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체를 제공하는 데 있다. 해결하려는 기술적 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.

다른 측면에 따른 영상을 생성하는 방법은, 제 1 흑백 영상 및 제 1 컬러 영상을 생성하는 단계; 상기 제 1 컬러 영상을 이용하여 제 2 흑백 영상을 생성하는 단계; 상기 제 1 흑백 영상에 포함된 픽셀들과 상기 제 2 흑백 영상에 포함된 픽셀들 사이의 위치 관계를 나타내는 정보를 획득하는 단계; 및 상기 제 1 흑백 영상, 상기 제 2 흑백 영상 및 상기 획득된 정보에 기초하여 제 3 흑백 영상을 생성하는 단계;를 포함한다.

또 다른 측면에 따른 컴퓨터로 읽을 수 있는 기록매체는 상술한 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 기록매체를 포함한다.

도 1은 일 실시예에 따른 영상을 생성하는 방법의 일 예를 설명하기 위한 도면이다.
도 2는 일 실시예에 따른 디바이스의 일 예를 도시한 구성도이다.
도 3은 일 실시예에 따른 디바이스의 다른 예를 도시한 구성도이다.
도 4a 내지 도 4b는 일 실시예에 따른 디바이스가 복수 개의 카메라들을 포함하는 일 예를 설명하기 위한 도면들이다.
도 5a 내지 도 5b는 일 실시예에 따른 카메라들에 포함된 영상 센서의 일 예를 설명하기 위한 도면들이다.
도 6은 일 실시예에 따른 프로세서의 일 예를 도시한 구성도이다.
도 7은 일 실시예에 따른 제 1 전자 회로가 제 2 흑백 영상을 생성하는 일 예를 설명하기 위한 도면이다.
도 8은 일 실시예에 따른 제 2 전자 회로가 동작하는 일 예를 설명하기 위한 도면이다.
도 9는 일 실시예에 따른 프로세서의 다른 예를 도시한 구성도이다.
도 10은 일 실시예에 따른 영상을 생성하는 방법의 일 예를 나타내는 흐름도이다.
도 11은 일 실시예에 따른 영상을 생성하는 방법의 다른 예를 나타내는 흐름도이다.

이하에서는 도면을 참조하여 본 발명의 실시예들을 상세히 설명한다. 본 발명의 하기 실시예는 본 발명을 구체화하기 위한 것일 뿐 본 발명의 권리 범위를 제한하거나 한정하지 않는다. 또한, 본 발명의 상세한 설명 및 실시예로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 용이하게 유추할 수 있는 것은 본 발명의 권리범위에 속하는 것으로 해석된다.

명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다. 또한, 명세서에서 사용되는 "부"라는 용어는 소프트웨어, FPGA 또는 ASIC과 같은 하드웨어 구성요소를 의미하며, "부"는 어떤 역할들을 수행한다. 그렇지만 "부"는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. "부"는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 "부"는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로 코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다. 구성요소들과 "부"들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 "부"들로 결합되거나 추가적인 구성요소들과 "부"들로 더 분리될 수 있다.

도 1은 일 실시예에 따른 영상을 생성하는 방법의 일 예를 설명하기 위한 도면이다.

도 1에는 사용자(10)가 디바이스(100)를 이용하여 영상을 생성하는 일 예가 도시되어 있다.

디바이스(100)는 복수 개의 카메라들(또는 카메라 모듈들)을 포함할 수 있다. 예를 들어, 디바이스(100)는 흑백 영상을 생성하는 제 1 카메라 및 컬러 영상을 생성하는 제 2 카메라를 포함할 수 있다. 여기에서, 컬러 영상은 피사체가 다양한 컬러들을 통하여 표현된 영상을 의미하고, 흑백 영상은 피사체가 검은색과 흰색 사이의 명도(brightness) 차이를 통하여 표현된 영상을 의미한다.

사용자(10)에 의하여 촬영 신호가 입력되는 경우, 디바이스(100)는 피사체를 나타내는 제 1 컬러 영상(20) 및 제 1 흑백 영상(30)을 생성한다. 그 후에, 디바이스(100)는 제 1 컬러 영상(20) 및 제 1 흑백 영상(30)을 이용하여 제 2 컬러 영상(40)을 생성한다. 예를 들어, 디바이스(100)는 제 1 컬러 영상(20)을 이용하여 제 2 흑백 영상을 생성할 수 있다. 그리고, 디바이스(100)는 제 1 흑백 영상(30)과 제 2 흑백 영상을 정합하여 제 1 흑백 영상(30)에 포함된 픽셀들과 제 2 흑백 영상에 포함된 픽셀들 사이의 위치 관계를 나타내는 정보를 획득할 수 있다. 그리고, 디바이스(100)는 제 1 흑백 영상(30), 제 2 흑백 영상 및 획득된 정보에 기초하여 제 3 흑백 영상을 생성할 수 있다. 그리고, 디바이스(100)는 제 1 컬러 영상(20)과 제 3 흑백 영상을 이용하여 제 2 컬러 영상(40)을 생성할 수 있다.

일반적으로, 컬러 카메라(즉, 컬러 영상 센서를 포함하는 카메라)에 의하여 생성된 컬러 영상은 흑백 카메라(즉, 흑백 영상 센서를 포함하는 카메라)에 의하여 생성된 흑백 영상에 비하여 품질이 낮을 수 있다. 다시 말해, 컬러 영상에 나타난 피사체는 흑백 영상에 나타난 피사체에 비하여 선명도가 낮을 수 있다. 또한, 일반적으로, 컬러 영상은 흑백 영상에 비하여 노이즈에 민감한 문제점도 존재한다.

디바이스(100)가 제 1 카메라를 통하여 생성된 제 1 컬러 영상(20) 및 제 2 카메라를 통하여 생성된 제 1 흑백 영상(30)을 이용하여 제 2 컬러 영상(40)을 생성한다. 따라서, 디바이스(100)는 제 1 컬러 영상(20)보다 고품질인 제 2 컬러 영상(40)을 생성할 수 있다.

이하, 도 2 내지 도 3을 참조하여, 디바이스(100)의 예들을 구체적으로 설명한다.

도 2는 일 실시예에 따른 디바이스의 일 예를 도시한 구성도이다.

디바이스(100a)는 촬영부(110), 아날로그 신호 처리부(120), 메모리(130), 저장/판독 제어부(140), 데이터 저장부(142), 프로그램 저장부(150), 표시 구동부(162), 표시부(164), CPU/DSP(170) 및 조작부(180)를 포함할 수 있다.

디바이스(100a)의 전체 동작은 CPU/DSP(170)에 의해 통괄된다. 도 4 내지 도 11에서는 CPU/DSP(170)를 프로세서로 지칭한다. CPU/DSP(170)는 렌즈 구동부(112), 조리개 구동부(115), 촬상 소자 제어부(119), 표시 구동부(162), 조작부(180) 등 디바이스(100a)에 포함된 각 구성 요소의 동작을 위한 제어 신호를 제공한다.

촬영부(110)는 입사광으로부터 전기적인 신호의 영상을 생성하는 구성요소로서, 렌즈(111), 렌즈 구동부(112), 조리개(113), 조리개 구동부(115), 촬상 소자(118), 및 촬상 소자 제어부(119)를 포함한다.

렌즈(111)는 복수 군, 복수 매의 렌즈들을 구비할 수 있다. 디바이스(100a)가 복수의 렌즈들을 구비하는 경우, 각각의 렌즈는 서로 다른 화각을 갖는 렌즈들일 수도 있고, 동일한 화각을 갖는 렌즈들일 수도 있다. 렌즈(111)는 렌즈 구동부(112)에 의해 그 위치가 조절된다. 렌즈 구동부(112)는 CPU/DSP(170)에서 제공된 제어 신호에 따라 렌즈(111)의 위치를 조절한다.

조리개(113)는 조리개 구동부(115)에 의해 그 개폐 정도가 조절되며, 촬상 소자(118)로 입사되는 광량을 조절한다.

렌즈(111) 및 조리개(113)를 투과한 광학 신호는 촬상 소자(118)의 수광면에 이르러 피사체의 상을 결상한다. 촬상 소자(118)는 광학 신호를 전기 신호로 변환하는 CCD(Charge Coupled Device) 이미지센서 또는 CIS(Complementary Metal Oxide Semiconductor Image Sensor)일 수 있다. 촬상 소자(118)는 촬상 소자 제어부(119)에 의해 감도 등이 조절될 수 있다. 촬상 소자 제어부(119)는 실시간으로 입력되는 영상 신호에 의해 자동으로 생성되는 제어 신호 또는 사용자의 조작에 의해 수동으로 입력되는 제어 신호에 따라 촬상 소자(118)를 제어할 수 있다.

촬상 소자(118)의 노광 시간은 셔터(미도시)로 조절된다. 셔터(미도시)는 가리개를 이동시켜 빛의 입사를 조절하는 기계식 셔터와, 촬상 소자(118)에 전기 신호를 공급하여 노광을 제어하는 전자식 셔터가 있다.

아날로그 신호 처리부(120)는 촬상 소자(118)로부터 공급된 아날로그 신호에 대하여, 노이즈 저감 처리, 게인 조정, 파형 정형화, 아날로그-디지털 변환 처리 등을 수행한다.

아날로그 신호 처리부(120)에 의해 처리된 신호는 메모리(130)를 거쳐 CPU/DSP(170)에 입력될 수도 있고, 메모리(130)를 거치지 않고 CPU/DSP(170)에 입력될 수도 있다. 여기서 메모리(130)는 디바이스(100a)의 메인 메모리로서 동작하고, CPU/DSP(170)가 동작 중에 필요한 정보를 임시로 저장한다. 프로그램 저장부(130)는 디바이스(100a)를 구동하는 운영 시스템, 응용 시스템 등의 프로그램을 저장한다.

아울러, 디바이스(100a)는 이의 동작 상태 또는 디바이스(100a)에서 촬영한 영상 정보를 표시하도록 표시부(164)를 포함한다. 표시부(164)는 시각적인 정보 및/또는 청각적인 정보를 사용자에게 제공할 수 있다. 시각적인 정보를 제공하기 위해 표시부(164)는 예를 들면, 액정 디스플레이 패널(LCD), 유기 발광 디스플레이 패널 등으로 이루어질 수 있다.

또한, 디바이스(100a)는 표시부(164)를 2개 이상 포함할 수도 있고, 터치 입력을 인식할 수 있는 터치 스크린일 수 있다. 예를 들어, 디바이스(100a)에는 촬영될 대상을 나타내는 라이브 뷰 영상을 표시하는 표시부와 디바이스(100a)의 상태를 나타내는 영상을 표시하는 표시부를 포함할 수 있다.

표시 구동부(162)는 표시부(164)에 구동 신호를 제공한다.

CPU/DSP(170)는 입력되는 영상 신호를 처리하고, 이에 따라 또는 외부 입력 신호에 따라 각 구성부들을 제어한다. CPU/DSP(170)는 입력된 영상 데이터에 대해 노이즈를 저감하고, 감마 보정(Gamma Correction), 색필터 배열보간(color filter array interpolation), 색 매트릭스(color matrix), 색보정(color correction), 색 향상(color enhancement) 등의 화질 개선을 위한 영상 신호 처리를 수행할 수 있다. 또한, 화질 개선을 위한 영상 신호 처리를 하여 생성한 영상 데이터를 압축 처리하여 영상 파일을 생성할 수 있으며, 또는 상기 영상 파일로부터 영상 데이터를 복원할 수 있다. 영상의 압축형식은 가역 형식 또는 비가역 형식이어도 된다. 적절한 형식의 예로서, 정지 영상에 경우, JPEG(Joint Photographic Experts Group)형식이나 JPEG 2000 형식 등으로 변환도 가능하다. 또한, 동영상을 기록하는 경우, MPEG(Moving Picture Experts Group) 표준에 따라 복수의 프레임들을 압축하여 동영상 파일을 생성할 수 있다. 영상 파일은 예를 들면 Exif(Exchangeable image file format) 표준에 따라 생성될 수 있다.

CPU/DSP(170)로부터 출력된 이미지 데이터는 메모리(130)를 통하여 또는 직접 저장/판독 제어부(140)에 입력되는데, 저장/판독 제어부(140)는 사용자로부터의 신호에 따라 또는 자동으로 영상 데이터를 데이터 저장부(142)에 저장한다. 또한 저장/판독 제어부(140)는 데이터 저장부(142)에 저장된 영상 파일로부터 영상에 관한 데이터를 판독하고, 이를 메모리(130)를 통해 또는 다른 경로를 통해 표시 구동부에 입력하여 표시부(164)에 이미지가 표시되도록 할 수도 있다. 데이터 저장부(142)는 탈착 가능한 것일 수도 있고 디바이스(100a)에 영구 장착된 것일 수 있다.

또한, CPU/DSP(170)에서는 불선명 처리, 색채 처리, 블러 처리, 에지 강조 처리, 영상 해석 처리, 영상 인식 처리, 영상 이펙트 처리 등도 행할 수 있다. 영상 인식 처리로 얼굴 인식, 장면 인식 처리 등을 행할 수 있다. 아울러, CPU/DSP(170)에서는 표시부(164)에 디스플레이하기 위한 표시 영상 신호 처리를 행할 수 있다. 예를 들어, 휘도 레벨 조정, 색 보정, 콘트라스트 조정, 윤곽 강조 조정, 화면 분할 처리, 캐릭터 영상 등 생성 및 영상의 합성 처리 등을 행할 수 있다. CPU/DSP(170)는 외부 모니터와 연결되어, 외부 모니터에 디스플레이 되도록 소정의 영상 신호 처리를 행할 수 있으며, 이렇게 처리된 영상 데이터를 전송하여 상기 외부 모니터에서 해당 영상이 디스플레이 되도록 할 수 있다.

또한, CPU/DSP(170)는 프로그램 저장부(130)에 저장된 프로그램을 실행하거나, 별도의 모듈을 구비하여, 오토 포커싱, 줌 변경, 초점 변경, 자동 노출 보정 등을 제어하기 위한 제어 신호를 생성하여, 조리개 구동부(115), 렌즈 구동부(112), 및 촬상 소자 제어부(119)에 제공하고, 셔터, 스트로보 등 디바이스(100a)에 구비된 구성 요소들의 동작을 총괄적으로 제어할 수 있다.

조작부(180)는 사용자가 제어 신호를 입력할 수 있는 구성이다. 조작부(180)는 정해진 시간 동안 촬상 소자(118)를 빛에 노출하여 사진을 촬영하도록 하는 셔터-릴리즈 신호를 입력하는 셔터-릴리즈 버튼, 전원의 온-오프를 제어하기 위한 제어 신호를 입력하는 전원 버튼, 입력에 따라 화각을 넓어지게 하거나 화각을 좁아지게 줌 버튼, 모드 선택 버튼, 기타 촬영 설정값 조절 버튼 등 다양한 기능 버튼들을 포함할 수 있다. 조작부(180)는 버튼, 키보드, 터치 패드, 터치스크린, 원격 제어기 등과 같이 사용자가 제어 신호를 입력할 수 있는 어떠한 형태로 구현되어도 무방하다.

센서(190)는 물리량을 계측하거나 디바이스(100a)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 디바이스(100a)에 포함될 수 있는 센서(190)의 일 예는 도 3을 참조하여 후술한다. 센서(190)는 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 디바이스(100a)는 CPU/DSP(170)의 일부로서 또는 별도로, 센서(190)를 제어하도록 구성된 프로세서를 더 포함하여, CPU/DSP(170)가 슬립(sleep) 상태에 있는 동안, 센서(190)를 제어할 수 있다.

도 2에 도시된 디바이스(100a)는 촬영이 수행되는데 필요한 구성들을 도시한 일 예이며, 일부 실시예에 따른 디바이스(100a)는 도 2에 도시된 디바이스(100a)에 한정되지 않음은 물론이다.

이하, 도 3을 참조하여, 디바이스(100)의 다른 예를 구체적으로 설명한다.

도 3은 일 실시예에 따른 디바이스의 다른 예를 도시한 구성도이다.

예를 들면, 디바이스(100b)는, 도 1에 도시된 디바이스(100) 또는 도 2에 도시된 디바이스(100a)의 전체 또는 일부를 포함할 수 있다. 디바이스(100b)는 하나 이상의 프로세서(예를 들어, CPU/DSP 또는 AP(application processor))(210), 통신 모듈(220), 가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298) 를 포함할 수 있다.

프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 일 실시예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 프로세서(2010)는 도 3에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210) 는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.

통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227)(예: GPS 모듈, Glonass 모듈, Beidou 모듈, 또는 Galileo 모듈), NFC 모듈(228) 및 RF(radio frequency) 모듈(229)를 포함할 수 있다.

셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 일 예로서, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 디바이스(100b)의 구별 및 인증을 수행할 수 있다. 다른 예로서, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 또 다른 예로서, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP: communication processor)를 포함할 수 있다.

WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다.

RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 일 예로서, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 예로서, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.

가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.

메모리(230)는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나를 포함할 수 있다.

외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 디바이스(100b)와 기능적으로 및/또는 물리적으로 연결될 수 있다.

센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 디바이스(100b)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로(additionally or alternatively), 센서 모듈(240)은, 예를 들면, 후각 센서(E-nose sensor), EMG 센서(electromyography sensor), EEG 센서(electroencephalogram sensor), ECG 센서(electrocardiogram sensor), IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 예를 들어, 디바이스(100b)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.

입력 장치(250)는, 예를 들면, 터치 패널(touch panel)(252), (디지털) 펜 센서(pen sensor)(254), 키(key)(256), 또는 초음파(ultrasonic) 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.

(디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트(sheet)를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(예: 마이크(288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.

디스플레이(260)(예: 표시부(164))는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나의 모듈로 구성될 수도 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 디바이스(100b)의 내부 또는 외부에 위치할 수 있다. 일 실시예에 따르면, 디스플레이(260)는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 제어하기 위한 제어 회로를 더 포함할 수 있다.

인터페이스(270)는, 예를 들면, HDMI(high-definition multimedia interface)(272), USB(universal serial bus)(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278)를 포함할 수 있다. 추가적으로 또는 대체적으로(additionally and alternatively), 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD(secure digital) 카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.

오디오 모듈(280)은, 예를 들면, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.

카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 일 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래시(flash)(예: LED 또는 xenon lamp 등)를 포함할 수 있다. 카메라 모듈(291)이 복수의 렌즈들을 구비하는 경우, 각각의 렌즈는 서로 다른 화각을 갖는 렌즈들일 수도 있고, 동일한 화각을 갖는 렌즈들일 수도 있다.

전력 관리 모듈(295)은, 예를 들면, 디바이스(100b)의 전력을 관리할 수 있다. 일 실시예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.

인디케이터(297)는 디바이스(100b) 또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도 3에는 도시되지는 않았으나, 디바이스(100b)는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFlo^TM) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.

본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 디바이스의 종류에 따라서 달라질 수 있다. 다양일 실시예에서, 디바이스는 본 문서에서 기술된 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양일 실시예에 따른 디바이스의 구성요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.

도 1 내지 도 3을 참조하여 상술한 바와 같이, 디바이스(100, 100a, 100b)는 복수 개의 카메라들을 구비할 수 있다. 이하, 도 4a 내지 도 5b를 참조하여, 디바이스(100, 100a, 100b)가 복수 개의 카메라들을 포함하는 예를 설명한다.

도 4a 내지 도 4b는 일 실시예에 따른 디바이스가 복수 개의 카메라들을 포함하는 일 예를 설명하기 위한 도면들이다.

도 4a에는 제 1 카메라(1010) 및 제 2 카메라(1020)를 포함하는 디바이스(1000)의 일 예가 도시되어 있다. 디바이스(1000)는 도 2 내지 도 3을 참조하여 상술한 디바이스들(100a, 100b) 중 어느 하나에 해당될 수 있다. 예를 들어, 디바이스(1000)는 카메라, 스마트 폰, 태블릿 PC 또는 웨어러블 디바이스 등이 해당될 수 있다.

제 1 카메라(1010) 및 제 2 카메라(1020)는 각각 피사체를 나타내는 영상을 생성한다. 예를 들어, 제 1 카메라(1010)는 흑백 영상을 생성하는 카메라이고, 제 2 카메라(1020)는 컬러 영상을 생성하는 카메라일 수 있다.

제 1 카메라(1010)와 제 2 카메라(1020)는 피사체를 나타내는 유사한 영상을 생성하기 위하여 디바이스(1000)의 동일한 면에 배치될 수 있다. 다시 말해, 제 1 카메라(1010)와 제 2 카메라(1020)는 디바이스(1000) 상에서 동일한 방향을 향하도록 배치될 수 있다. 또한, 제 1 카메라(1010) 및 제 2 카메라(1020)가 디바이스(1000)에서 인접한 위치에 배치될 수 있고, 이에 따라 제 1 카메라(1010)가 생성한 영상과 제 2 카메라(1020)가 생성한 영상은 동일한 피사체를 나타낼 수 있다.

디바이스(1000)에는 제 1 카메라(1010) 및 제 2 카메라(1020)의 사양뿐 만 아니라 제 1 카메라(1010)와 제 2 카메라(1020) 사이의 위치 관계가 미리 저장되어 있을 수 있다. 다시 말해, 디바이스(1000)에는 제 1 카메라(1010)와 제 2 카메라(1020) 사이의 상대적인 위치, 카메라들(1010, 1020) 각각에 포함된 렌즈의 초점 거리, 카메라들(1010, 1020) 각각에 포함된 영상 센서의 크기 등에 대한 정보가 미리 저장되어 있을 수 있다. 또한, 제 1 카메라(1010)와 제 2 카메라(1020)는 서로간에 수평 축 또는 수직 축이 동일하도록 배치될 수 있다.

도 4b에는 카메라(1030)에 포함된 구성들의 예가 도시되어 있다. 도 4b에 도시된 카메라(1030)는 도 4a의 제 1 카메라(1010) 또는 제 2 카메라(1020)에 해당될 수 있다. 한편, 도 4b에는 카메라(1030)에 포함되는 주요 구성들에 대해서만 도시되어 있다. 따라서, 카메라(1030)에는 영상을 생성하는데 필요한 다른 구성들이 더 포함될 수 있음은 당해 기술분야에서의 통상의 지식을 가진 자라면 이해할 수 있다.

카메라(1030)는 기판(1035) 상에 영상 센서(1034)가 적층되고, 영상 센서(1034) 상에 광학 필터(1033)가 위치할 수 있다. 예를 들어, 영상 센서(1034)는 CMOS(Complementary Metal-Oxide Semiconductor) 또는 CCD(Charge Coupled Device)를 포함할 수 있다. 그리고, 광학 필터(1033) 상에 렌즈(1031)가 위치하고, 영상 센서(1034) 및 렌즈(1031)의 위치는 커버(1032)에 의하여 고정될 수 있다.

일반적으로, 카메라(1030)의 두께(T)는 상술된 구성들(1031, 1032, 1033, 1034, 1035)의 두께 및 위치에 따라 결정된다. 특히, 렌즈(1031) 및 영상 센서(1034)의 크기 및 두께에 따라 카메라(1030)의 두께(T)가 결정된다. 따라서, 디바이스(1000)의 두께가 얇아지기 위해서는 렌즈(1031) 및 영상 센서(1034)의 크기가 작아지고 두께도 얇아져야 한다. 그러나, 렌즈(1031) 및 영상 센서(1034)의 크기가 작아지고 두께도 얇아질수록, 카메라(1030)에 의하여 생성된 영상의 품질도 낮아진다.

디바이스(1000)는 제 1 카메라(1010)가 피사체를 생성한 제 1 영상과 제 2 카메라(1020)가 피사체를 생성한 제 2 영상을 이용하여 피사체를 나타내는 새로운 영상을 생성한다. 이때, 새롭게 생성된 영상은 제 1 영상 및 제 2 영상에 비하여 높은 품질을 갖는 영상일 수 있다. 따라서, 디바이스(1000)에 포함된 렌즈(1031) 및 영상 센서(1034)의 크기가 작고 두께도 얇다고 하더라도, 디바이스(1000)는 고품질의 영상을 생성하여 디스플레이할 수 있다.

한편, 카메라(1030)는 라이트 필드(light field) 카메라일 수 있다. 라이트 필드 카메라는 영상 센서(1034)에 포함된 복수의 마이크로 렌즈(microlens)들 각각에 복수의 포토 다이오드들이 연결된 카메라를 의미한다. 일반적으로, 카메라(1030)에 포함된 영상 센서(1034)는 복수의 마이크로 렌즈들을 포함하고, 각각의 마이크로 렌즈에는 하나의 포토 다이오드가 연결된다. 그러나, 라이트 필드 카메라의 경우 하나의 마이크로 렌즈에 복수의 포토 다이오드들이 연결되는바, 피사체를 촬영한 복수의 영상들이 생성되며, 각각의 영상의 시점이 각기 다를 수 있다.

한편, 제 1 카메라(1010)가 흑백 영상을 생성하는 카메라라고 가정하면, 제 1 카메라(1010)에 포함된 영상 센서는 흑백 영상 센서일 수 있다. 또한, 제 2 카메라(1020)가 컬러 영상을 생성하는 카메라라고 가정하면, 제 2 카메라(1020)에 포함된 영상 센서는 컬러 영상 센서일 수 있다. 이때, 제 1 카메라(1010)에 포함된 영상 센서는 제 2 카메라(1020)에 포함된 영상 센서보다 더 높은 화소 수를 갖는 센서일 수 있다. 이 경우, 제 1 카메라(1010)에 의하여 촬영된 흑백 영상은 제 2 카메라(1020)에 의하여 촬영된 컬러 영상보다 많은 수의 픽셀들을 포함할 수 있다. 한편, 제 1 카메라(1010)에 포함된 영상 센서와 제 2 카메라(1020)에 포함된 영상 센서가 동일한 수의 화소들을 갖을 수도 있다. 이 경우, 제 1 카메라(1010)에 의하여 촬영된 흑백 영상과 제 2 카메라(1020)에 의하여 촬영된 컬러 영상은 동일한 수의 픽셀들을 포함할 수 있다. 이하, 도 5a 내지 도 5b를 참조하여, 제 1 카메라(1010) 및 제 2 카메라(1020)에 포함된 영상 센서의 예를 설명한다.

도 5a 내지 도 5b는 일 실시예에 따른 카메라들에 포함된 영상 센서의 일 예를 설명하기 위한 도면들이다.

도 5a에는 흑백 영상 센서(1110)의 일 예가 도시되어 있고, 도 5b에는 컬러 영상 센서(1120)의 일 예가 도시되어 있다. 흑백 영상 센서(1110)에 포함된 픽셀(1111)은 입사된 빛의 크기에 기초한 흰색의 명도가 결정되는데 이용된다. 한편, 컬러 영상 센서(1120)에 포함된 픽셀(1121)은 R(red), G(green) 또는 B(blue) 중 어느 하나의 컬러를 나타내도록 미리 결정될 수 있다. 따라서, 픽셀(1121)은 입사된 빛의 크기에 기초한 미리 결정된 컬러(예를 들어, 녹색)의 명도가 결정되는데 결정하는데 이용된다.

이하, 도 6 내지 도 11을 참조하여, 디바이스(1000)가 제 1 카메라(1010)를 통하여 생성된 제 1 영상 및 제 2 카메라(1020)를 통하여 생성된 제 2 영상을 이용하여 새로운 영상을 생성하는 예를 구체적으로 설명한다.

도 6은 일 실시예에 따른 프로세서의 일 예를 도시한 구성도이다.

도 6을 참조하면, 프로세서(1200)는 제 1 전자 회로(1210), 제 2 전자 회로(1220) 및 제 3 전자 회로(1230)을 포함한다. 프로세서(1200)는 다수의 논리 게이트들의 어레이로 구현될 수도 있고, 범용적인 마이크로 프로세서와 이 마이크로 프로세서에서 실행될 수 있는 프로그램이 저장된 메모리의 조합으로 구현될 수도 있다. 또한, 다른 형태의 하드웨어로 구현될 수도 있음을 본 실시예가 속하는 기술분야에서 통상의 지식을 가진 자라면 이해할 수 있다.

또한, 도 6에서는, 설명의 편의를 위하여, 프로세서(1200)가 복수의 전자 회로들(1210, 1220, 1230)로 구분되는 것으로 도시되어 있으나, 단일 전자 회로가 후술될 전자 회로들(1210, 1220, 1230)의 기능을 수행할 수도 있다.

제 1 전자 회로(1210)는 제 1 컬러 영상을 이용하여 제 2 흑백 영상을 생성한다. 제 1 컬러 영상은 디바이스(1000)에 포함된 카메라(1010, 1020)에 의하여 생성된 컬러 영상을 의미한다. 예를 들어, 디바이스(1000)에 포함된 제 2 카메라(1020)가 컬러 영상을 촬영하는 카메라라고 가정하면, 제 1 컬러 영상은 제 2 카메라(1020)에 의하여 촬영된 영상을 의미한다. 제 2 흑백 영상은 카메라(1010, 1020)에 의하여 촬영된 영상이 아닌, 제 1 전자 회로(1210)가 제 1 컬러 영상을 이용하여 생성한 영상을 의미한다. 예를 들어, 디바이스(1000)에 포함된 제 1 카메라(1010)가 흑백 영상을 촬영하는 카메라라고 가정하면, 제 1 흑백 영상은 제 1 카메라(1010)에 의하여 촬영된 영상이고, 제 2 흑백 영상은 제 2 카메라(1020)에 의하여 촬영된 영상에 기초하여 새롭게 생성된 영상을 의미한다.

제 1 전자 회로(1210)에 의하여 생성된 제 2 흑백 영상은 제 1 컬러 영상과 같은 수의 픽셀들을 갖을 수도 있고, 제 1 흑백 영상과 같은 수의 픽셀들을 가질 수도 있다. 제 1 전자 회로(1210)는 제 1 컬러 영상에 포함된 특정 픽셀의 컬러 값을 이용하여 제 2 흑백 영상을 생성할 수도 있고, 제 1 컬러 영상에 포함된 특정 픽셀 및 그와 인접한 픽셀들의 컬러 값을 이용하여 제 2 흑백 영상을 생성할 수도 있다. 여기에서, 픽셀의 컬러 값은 픽셀의 채도(chroma)에 대응하는 값을 의미한다. 이하, 도 7을 참조하여, 제 1 전자 회로(1210)가 제 2 흑백 영상을 생성하는 예를 설명한다.

도 7은 일 실시예에 따른 제 1 전자 회로가 제 2 흑백 영상을 생성하는 일 예를 설명하기 위한 도면이다.

도 7을 참조하면, 제 1 전자 회로(1210)는 제 1 컬러 영상(1310)에 포함된 픽셀(1311)의 픽셀 값을 이용하여 제 2 흑백 영상(1320)에 포함된 픽셀(1321)의 픽셀 값을 연산할 수 있다. 여기에서, 픽셀(1311)의 픽셀 값은 픽셀(1311)의 컬러 값을 의미한다. 또한, 픽셀(1321)은 제 2 흑백 영상(1320)에 포함된 픽셀들 중에서 제 1 컬러 영상(1310)의 픽셀(1311)에 대응하는 픽셀을 의미한다. 예를 들어, 픽셀(1321)은 픽셀(1311)에 나타난 피사체의 부분과 동일한 부분을 나타내는 픽셀일 수 있다.

제 1 전자 회로(1210)는, 픽셀(1311)의 컬러 값을 이용하여, 픽셀(1311)의 컬러에 대한 정보와 명도 값을 획득한다. 예를 들어, 제 1 전자 회로(1210)는 픽셀(1311)의 컬러가 빨간 색이고, 명도 값이 얼마인지를 획득할 수 있다. 제 1 전자 회로(1210)는 픽셀(1311)의 명도 값을 이용하여 픽셀(1321)의 픽셀 값을 결정한다. 예를 들어, 제 1 전자 회로(1210)는 픽셀(1311)의 명도와 동일한 정도를 픽셀(1321)의 픽셀 값으로 결정할 수 있다.

한편, 제 1 전자 회로(1210)는 픽셀(1311)의 픽셀 값 뿐 만 아니라, 픽셀(1311)과 인접한 픽셀들(1312) 각각의 픽셀 값을 더 고려하여 픽셀(1321)의 픽셀 값을 연산할 수 있다. 이때, 제 1 전자 회로(1210)는 픽셀들(1312) 각각과 픽셀(1311) 사이의 거리에 따라 소정의 가중치를 적용하여 픽셀(1321)의 픽셀 값을 연산할 수 있다. 예를 들어, 제 1 전자 회로(1210)는 픽셀(1311)로부터의 거리가 멀어질수록 가중치를 작게 적용하여 픽셀(1321)의 픽셀 값을 연산할 수 있다.

도 7에는 픽셀(1311)과 인접한 픽셀들(1321)이 8개 인 것으로 도시하였으나, 이에 한정되지 않는다. 다시 말해, 픽셀(1321)의 픽셀 값을 연산하는데 이용되는 인접한 픽셀들(1321)은 픽셀(1311)과 맞닿은 8개의 픽셀들 뿐 만 아니라 더 많은 픽셀들이 해당될 수도 있다. 또한, 픽셀(1321)의 픽셀 값을 연산하는데 이용되는 인접한 픽셀들(1321)은 픽셀(1311)과 맞닿은 8개의 픽셀들 중 일부가 해당될 수도 있다.

다시 도 6을 참조하면, 제 2 전자 회로(1220)는 제 1 흑백 영상에 포함된 픽셀들과 제 2 흑백 영상에 포함된 픽셀들 사이의 위치 관계를 나타내는 정보를 획득한다. 예를 들어, 제 2 전자 회로(1220)는 제 2 흑백 영상에 포함된 각 픽셀과 대응하는 제 1 흑백 영상의 픽셀을 식별할 수 있다. 이하, 도 8을 참조하여, 제 2 전자 회로(1220)가 동작하는 예를 설명한다.

도 8은 일 실시예에 따른 제 2 전자 회로가 동작하는 일 예를 설명하기 위한 도면이다.

도 8을 참조하면, 제 2 전자 회로(1220)는 제 1 흑백 영상(1410)에 포함된 픽셀들과 제 2 흑백 영상(1420)에 포함된 픽셀들 사이의 위치 관계를 나타내는 정보를 획득한다. 다시 말해, 제 2 전자 회로(1220)는 제 1 흑백 영상(1410)에 포함된 픽셀(1411)과 대응하는 픽셀(1421)을 제 2 흑백 영상(1420)에서 식별한다.

일 예로서, 제 2 전자 회로(1220)는 제 1 카메라(1010)의 사양, 제 2 카메라(1020)의 사양 및 제 1 카메라(1010)와 제 2 카메라(1020) 사이의 위치 관계를 이용하여 제 2 흑백 영상(1420)에서 픽셀(1421)을 식별할 수 있다. 구체적으로, 제 2 전자 회로(1220)는 제 1 카메라(1010)와 제 2 카메라(120) 사이의 거리, 제 1 카메라(1010)의 렌즈의 초점 거리, 제 2 카메라(1020)의 렌즈의 초점 거리, 제 1 카메라(1010)의 영상 센서의 크기, 제 2 카메라(1020)의 영상 센서의 크기 등을 고려하여, 제 1 흑백 영상(1410)에서 픽셀(1411)이 나타내는 정보와 동일한 정보를 나타내는 픽셀(1421)을 제 2 흑백 영상(1420)에서 식별할 수 있다.

다른 예로서, 제 2 전자 회로(1220)는 제 1 흑백 영상(1410)에 포함된 픽셀들의 픽셀 값과 제 2 흑백 영상(1420)에 포함된 픽셀들의 픽셀 값의 상관 관계(correlation)에 기초하여 제 2 흑백 영상(1420)에서 픽셀(1421)을 식별할 수 있다. 구체적으로, 제 2 전자 회로(1220)는 픽셀(1411)의 픽셀 값과 제 2 흑백 영상(1420)에 포함된 픽셀들 각각의 픽셀 값의 상관 관계를 연산할 수 있다. 그리고, 제 2 전자 회로(1220)는 제 2 흑백 영상(1420)에 포함된 픽셀들 중에서 가장 높은 상관 관계를 갖는 픽셀(1421)을 식별할 수 있다.

또 다른 예로서, 제 2 전자 회로(1220)는 제 1 흑백 영상(1410) 및 제 2 흑백 영상(1420)에서 특징점들을 추출하고, 특징점들의 매칭 결과를 이용하여 픽셀(1421)을 식별할 수 있다. 영상들에서 특징점을 추출하고, 특징점들을 매칭함으로써 영상들의 대응 관계를 확인하는 기술은 당해 기술분야에서 통상의 지식을 가진 자라면 쉽게 이해할 수 있다.

한편, 제 2 전자 회로(1220)는 상술한 예들 중 2 이상을 조합하여 픽셀(1411)에 대응하는 픽셀(1421)을 식별할 수도 있다. 예를 들어, 제 2 전자 회로(1220)는 제 1 카메라(1010)의 사양, 제 2 카메라(1020)의 사양 및 제 1 카메라(1010)와 제 2 카메라(1020) 사이의 위치 관계를 이용하여 제 2 흑백 영상(1420)에서 후보 영역(1422)을 선정하고, 후보 영역(1422)에 포함된 픽셀들 각각의 픽셀 값과 픽셀(1411)의 픽셀 값 사이의 상관 관계를 연산함으로써 픽셀(1421)을 식별할 수도 있다.

다시 도 6을 참조하면, 제 3 전자 회로(1230)는 제 1 흑백 영상, 제 2 흑백 영상 및 제 2 전자 회로(1220)가 획득한 정보에 기초하여 제 3 흑백 영상을 생성한다. 이때, 제 3 흑백 영상은 제 1 흑백 영상과 동일한 픽셀 수를 갖거나, 또는 제 1 흑백 영상보다 많은 픽셀 수를 가질 수 있다.

예를 들어, 제 3 전자 회로(1230)는 제 2 전자 회로(1220)가 획득한 정보를 이용하여 제 1 흑백 영상에 포함된 픽셀(이하, '제 1 픽셀'이라고 함)과 대응하는 픽셀(이하, '제 2 픽셀'이라고 함)을 제 2 흑백 영상에서 검색한다. 그리고, 제 3 전자 회로(1230)는 제 1 픽셀의 픽셀 값 및 제 2 픽셀의 픽셀 값을 이용하여 제 3 흑백 영상에 포함된 픽셀(이하, '제 3 픽셀'이라고 함)의 픽셀 값을 연산한다.

또한, 제 3 전자 회로(1230)는 제 1 픽셀의 픽셀 값 및 제 2 픽셀의 픽셀 값 뿐 만 아니라 제 1 픽셀과 인접한 픽셀들의 픽셀 값 및 제 2 픽셀과 인접한 픽셀들의 픽셀 값을 더 고려하여 제 3 픽셀의 픽셀 값을 연산할 수 있다. 예를 들어, 제 3 전자 회로(1230)는 제 1 픽셀의 픽셀 값, 제 2 픽셀의 픽셀 값, 제 1 픽셀 및 제 2 픽셀과 인접한 픽셀들의 픽셀 값에 소정의 가중치를 적용하여 제 3 픽셀의 픽셀 값을 연산할 수 있다.

제 1 흑백 영상과 제 2 흑백 영상은 평균 명도(brightness), 콘트라스트(contrast), 블러(blur)의 정도, 노이즈(noise)의 정도 등에서 차이가 있을 수 있다.

일 예로서, 제 1 흑백 영상과 제 2 흑백 영상이 노이즈(noise)의 정도에서만 차이가 있는 경우, 제 3 전자 회로(1230)는 수학식 1에 따라 제 5 픽셀이 포함된 패치(pi)를 연산할 수 있다.

수학식 1에서, pi'는 제 1 픽셀 및 제 1 픽셀과 인접한 픽셀들이 조합된 패치를 의미하고, pi''는 제 2 픽셀 및 제 2 픽셀과 인접한 픽셀들이 조합된 패치를 의미한다. 제 1 흑백 영상과 제 2 흑백 영상의 픽셀들의 수가 서로 다르거나, 제 3 흑백 영상의 픽셀들의 수가 제 1 흑백 영상 또는 제 2 흑백 영상의 픽셀들의 수와 다른 경우, 패치 pi' 및 패치 pi''는 픽셀 값들에 보간법을 적용하여 정의될 수 있다.

또한, w1는 제 1 영상(또는 패치 pi')의 노이즈에 따라 결정된 가중치를 의미하고, w2는 제 2 영상(또는 패치 pi'')의 노이즈에 따라 결정된 가중치를 의미한다. 또한, w1 와 w2 간에는 w1 + w2 = 1의 관계가 성립된다. 만약, 제 1 카메라(1010) 및 제 2 카메라(1020)와 피사체 사이의 시차에 의하여 패치 pi'와 패치 pi''가 일치하지 않는 경우, 제 3 전자 회로(1230)는 w1에 0 또는 0에 가까운 값을 적용한다. 따라서, pi가 연산됨에 있어서, pi'의 비중이 없어지거나 또는 pi''에 비하여 비중이 작아질 수 있다.

다른 예로서, 제 1 흑백 영상과 제 2 흑백 영상이 노이즈(noise)의 정도 뿐 만 아니라 평균 명도(brightness) 및 콘트라스트(contrast)에도 차이가 있는 경우, 제 3 전자 회로(1230)는 수학식 2에 따라 제 5 픽셀이 포함된 패치(pi)를 연산할 수 있다.

수학식 2에서, ai 및 bi는 패치 pi''의 평균 명도와 콘트라스트를 패치 pi'와 동일하게 하기 위하여 정의되는 변수로서, 스칼라(scalar) 값이 될 수 있다. 예를 들어, 제 3 전자 회로(1230)는 ai 및 bi를 아래의 수학식 3 및 수학식 4에 의하여 연산할 수 있다.

수학식 3 및 4에서,

는 패치 pi'에 포함된 픽셀들의 픽셀 값들의 평균을 의미하고,

는 패치 pi'에 포함된 픽셀들의 픽셀 값들의 표준 편차를 의미한다. 또한,

는 패치 pi''에 포함된 픽셀들의 픽셀 값들의 평균을 의미하고,

는 패치 pi''에 포함된 픽셀들의 픽셀 값들의 표준 편차를 의미한다.

상술한 바에 따르면, 제 3 전자 회로(1230)는 제 1 흑백 영상보다 고품질인 제 3 흑백 영상을 생성할 수 있다.

도 9는 일 실시예에 따른 프로세서의 다른 예를 도시한 구성도이다.

도 9를 참조하면, 프로세서(1201)는 제 1 전자 회로(1210), 제 2 전자 회로(1220), 제 3 전자 회로(1230) 및 제 4 전자 회로(1240)를 포함한다. 프로세서(1201)는 다수의 논리 게이트들의 어레이로 구현될 수도 있고, 범용적인 마이크로 프로세서와 이 마이크로 프로세서에서 실행될 수 있는 프로그램이 저장된 메모리의 조합으로 구현될 수도 있다. 또한, 다른 형태의 하드웨어로 구현될 수도 있음을 본 실시예가 속하는 기술분야에서 통상의 지식을 가진 자라면 이해할 수 있다.

또한, 도 9에서는, 설명의 편의를 위하여, 프로세서(1201)가 복수의 전자 회로들(1210, 1220, 1230, 1240)로 구분되는 것으로 도시되어 있으나, 단일 전자 회로가 후술될 전자 회로들(1210, 1220, 1230, 1240)의 기능을 수행할 수도 있다. 또한, 제 1 전자 회로(1210), 제 2 전자 회로(1220) 및 제 3 전자 회로(1230)의 기능은 도 6 내지 도 8을 참조하여 상술한 바와 같다. 따라서, 이하에서는 제 1 전자 회로(1210), 제 2 전자 회로(1220) 및 제 3 전자 회로(1230)에 대한 구체적인 설명은 생략한다.

제 4 전자 회로(1240)는 제 1 컬러 영상 및 제 3 흑백 영상을 이용하여 제 2 컬러 영상을 생성한다. 여기에서, 제 2 컬러 영상에 포함된 픽셀들의 수는 제 3 흑백 영상에 포함된 픽셀들의 수와 동일할 수 있다.

제 4 전자 회로(1240)는 제 1 컬러 영상에 포함된 픽셀들의 컬러 값을 이용하여 제 3 흑백 영상에 포함된 픽셀들 각각의 컬러 값을 연산할 수 있다. 예를 들어, 제 4 전자 회로(1240)는, 제 1 컬러 영상에 포함된 픽셀(이하, '제 4 픽셀'이라고 함)의 컬러 값과 적어도 하나의 가중치를 조합하여, 제 2 컬러 영상에 포함된 픽셀(이하, '제 5 픽셀'이라고 함)의 컬러 값을 연산할 수 있다. 여기에서, 적어도 하나의 가중치는 제 1 컬러 영상 또는 제 3 흑백 영상에 기초하여 결정될 수 있다. 또한, 제 5 픽셀은 제 2 컬러 영상에 포함된 픽셀들 중에서 제 4 픽셀에 대응하는 픽셀을 의미한다.

예를 들어, 제 4 전자 회로(1240)는 아래의 수학식 5에 기초하여 제 5 픽셀의 컬러 값을 연산할 수 있다.

수학식 5에서, ci'는 제 5 픽셀(즉, 제 2 컬러 영상에 포함된 픽셀들 중 i번째 픽셀)의 채도 성분을 의미한다. 예를 들어, ci'는 R(red), G(green) 및 B(blue) 중 어느 하나의 채도 성분을 의미할 수 있다. 또한, N(i)는 제 5 픽셀과 인접한 픽셀들의 집합을 의미한다. N(i)에 포함되는 픽셀들의 수는 미리 결정되어 있을 수 있다. 또한, wi는 정규화 항을 의미하며,

로 정의될 수 있다.

또한, cj는 제 4 픽셀(즉, 제 1 컬러 영상에 포함된 픽셀들 중 j번째 픽셀)의 채도 성분을 의미한다. 제 1 컬러 영상과 제 2 컬러 영상의 크기 또는 영상에 포함된 픽셀들의 수가 다른 경우, cj는 제 1 컬러 영상의 j번째 픽셀이 아닌, 제 2 컬러 영상의 j번째 픽셀에 대응하는 제 1 컬러 영상의 다른 픽셀이 될 수 있다.

는 픽셀들 사이의 거리에 대한 가중치를 의미하고, 예를 들어 아래의 수학식 6에 의하여 연산될 수 있다.

수학식 6에서, d(i, j)는 영상의 i번째 픽셀과 j번째 픽셀 사이의 거리를 의미하고, 예를 들어, i번째 픽셀과 j번째 픽셀 사이의 유클리드 거리(Euclidean distance)가 될 수 있다. 또한,

는 영상의 픽셀들 사이의 거리에 따른 가중치의 변화를 조절하는 파라미터이며, 픽셀들 사이의 거리에 따라 미리 결정되어 있을 수 있다.

는 제 3 흑백 영상에 기초한 가중치를 의미하고, 예를 들어 아래의 수학식 7에 의하여 연산될 수 있다.

수학식 7에서, mi는 제 3 흑백 영상의 i번째 픽셀의 픽셀 값을 의미하고, mj는 제 3 흑백 영상의 j번째 픽셀의 픽셀 값을 의미한다. 또한,

는 제 3 흑백 영상에 포함된 픽셀들의 픽셀 값의 차이에 따른 가중치의 변화를 조절하는 파라미터이며, 픽셀 값의 차이에 따라 미리 결정되어 있을 수 있다.

는, 제 3 흑백 영상의 i번째 픽셀의 픽셀 값과 j번째 픽셀의 픽셀 값의 차이가 작을 경우, i번째 픽셀 및 j번째 픽셀이 포함된 평면은 색 변화가 작은 평면으로 간주되어 i번째 픽셀의 컬러 값과 및 j번째 픽셀의 컬러 값을 비슷하게 하는 역할을 한다. 한편,

는, 제 3 흑백 영상의 i번째 픽셀의 픽셀 값과 j번째 픽셀의 픽셀 값의 차이가 클 경우, i번째 픽셀과 j번째 픽셀의 컬러 차이를 유지하게 하는 역할을 한다.

는 제 1 컬러 영상에 기초한 가중치를 의미하고, 예를 들어 아래의 수학식 8 또는 수학식 9에 의하여 연산될 수 있다.

수학식 8은 ci와 cj가 모두 존재하는 경우에서의

를 의미한다. 또한,

는 제 1 컬러 영상에 포함된 픽셀들의 픽셀 값의 차이에 따른 가중치의 변화를 조절하는 파라미터이며, 픽셀 값의 차이에 따라 미리 결정되어 있을 수 있다.

수학식 9는 ci와 cj 중 어느 하나라도 존재하지 않는 경우에서의

를 의미한다. 도 4b를 참조하여 상술한 바와 같이, 카메라(1030)의 영상 센서(1034)의 상부에는 광학 필터(1033)가 위치한다. 만약, 카메라(1030)가 컬러 카메라인 경우, 광학 필터(1033)는 컬러 필터에 해당되고, 영상 센서(1034)는 컬러 영상 센서에 해당된다. 따라서, 영상 센서(1034)에 포함된 픽셀들 각각에는 특정한 컬러 성분이 존재할 수도 있으나, 존재하지 않을 수도 있다. 예를 들어, 영상 센서(1034)의 특정 픽셀이 R(red)을 나타내는 픽셀이라고 가정하면, 그 픽셀에 대응하는 컬러 성분에는 R(red)이 존재할 수도 있으나, 그렇지 않을 수도 있다. 따라서, ci와 cj 중 어느 하나라도 존재하지 않는 경우, 수학식 8에 따른 연산은 불가능하며,

는 미리 정해진 상수인 C로 결정될 수 있다.

상술한 바에 따르면, 제 4 전자 회로(1240)는 제 1 컬러 영상 및 제 3 흑백 영상을 이용하여, 제 1 컬러 영상보다 고품질인 제 2 컬러 영상을 생성할 수 있다.

도 10은 일 실시예에 따른 영상을 생성하는 방법의 일 예를 나타내는 흐름도이다.

도 10을 참조하면, 영상을 생성하는 방법은 도 1 내지 도 4, 도 6 및 도 9에 도시된 디바이스(100, 100a, 100b, 1000) 또는 프로세서(1200, 1201)에서 시계열적으로 처리되는 단계들로 구성된다. 따라서, 이하에서 생략된 내용이라 하더라도 도 1 내지 도 4, 도 6 및 도 9에 도시된 디바이스(100, 100a, 100b, 1000) 또는 프로세서(1200, 1201)에 관하여 이상에서 기술된 내용은 도 10의 영상을 생성하는 방법에도 적용됨을 알 수 있다.

2110 단계에서, 디바이스(100, 100a, 100b, 1000)는 제 1 흑백 영상 및 제 1 컬러 영상을 촬영한다. 예를 들어, 디바이스(100)는 제 1 흑백 영상을 생성하는 제 1 카메라 및 제 1 컬러 영상을 생성하는 제 2 카메라를 포함할 수 있다. 또한, 제 1 카메라 및 제 2 카메라는 라이트 필드(light field) 카메라일 수 있다. 라이트 필드 카메라는 영상 센서에 포함된 복수의 마이크로 렌즈(microlens)들 각각에 복수의 포토 다이오드들이 연결된 카메라를 의미한다.

2120 단계에서, 제 1 전자 회로(1210)는 제 1 컬러 영상을 이용하여 제 2 흑백 영상을 생성한다. 제 1 전자 회로(1210)에 의하여 생성된 제 2 흑백 영상은 제 1 컬러 영상과 같은 수의 픽셀들을 갖을 수도 있고, 제 1 흑백 영상과 같은 수의 픽셀들을 가질 수도 있다.

2130 단계에서, 제 2 전자 회로(1220)는 제 1 흑백 영상에 포함된 픽셀들과 제 2 흑백 영상에 포함된 픽셀들 사이의 위치 관계를 나타내는 정보를 획득한다. 다시 말해, 제 2 전자 회로(1220)는 제 1 흑백 영상에 포함된 픽셀들 각각에 대응하는 픽셀(1421)을 제 2 흑백 영상에서 식별한다.

2140 단계에서, 제 3 전자 회로(1230)는 제 1 흑백 영상, 제 2 흑백 영상 및 제 2 전자 회로(1220)가 획득한 정보에 기초하여 제 3 흑백 영상을 생성한다. 이때, 제 3 흑백 영상은 제 1 흑백 영상과 동일한 픽셀 수를 갖거나, 또는 제 1 흑백 영상보다 많은 픽셀 수를 가질 수 있다.

도 11은 일 실시예에 따른 영상을 생성하는 방법의 다른 예를 나타내는 흐름도이다.

도 11을 참조하면, 영상을 생성하는 방법은 도 1 내지 도 4, 도 6 및 도 9에 도시된 디바이스(100, 100a, 100b, 1000) 또는 프로세서(1200, 1201)에서 시계열적으로 처리되는 단계들로 구성된다. 따라서, 이하에서 생략된 내용이라 하더라도 도 1 내지 도 4, 도 6 및 도 9에 도시된 디바이스(100, 100a, 100b, 1000) 또는 프로세서(1200, 1201)에 관하여 이상에서 기술된 내용은 도 11의 영상을 생성하는 방법에도 적용됨을 알 수 있다.

또한, 도 11의 2210 단계 내지 2240 단계는 도 10의 2110 단계 내지 2140 단계와 동일하다. 따라서, 이하에서는 2210 단계 내지 2240 단계에 대한 구체적인 설명은 생략한다.

2250 단계에서, 제 4 전자 회로(1240)는 제 1 컬러 영상 및 제 3 흑백 영상을 이용하여 제 2 컬러 영상을 생성한다. 여기에서, 제 2 컬러 영상에 포함된 픽셀들의 수는 제 3 흑백 영상에 포함된 픽셀들의 수와 동일할 수 있다.

상술한 바에 따르면, 디바이스는 컬러 카메라와 흑백 카메라를 동시에 사용하여, 밝기 노이즈 및 컬러 노이즈를 모두 제거한 고화질의 영상을 생성할 수 있다.

한편, 상술한 방법은 컴퓨터에서 실행될 수 있는 프로그램으로 작성 가능하고, 컴퓨터로 읽을 수 있는 기록매체를 이용하여 상기 프로그램을 동작시키는 범용 디지털 컴퓨터에서 구현될 수 있다. 또한, 상술한 방법에서 사용된 데이터의 구조는 컴퓨터로 읽을 수 있는 기록매체에 여러 수단을 통하여 기록될 수 있다. 상기 컴퓨터로 읽을 수 있는 기록매체는 마그네틱 저장매체(예를 들면, 롬, 램, USB, 플로피 디스크, 하드 디스크 등), 광학적 판독 매체(예를 들면, 시디롬, 디브이디 등)와 같은 저장매체를 포함한다.

또한, 상술한 방법은 컴퓨터로 읽을 수 있는 기록매체에 유지되는 프로그램들 중 적어도 하나의 프로그램에 포함된 명령어(instructions)의 실행을 통하여 수행될 수 있다. 상기 명령어가 컴퓨터에 의해 실행될 경우, 상기 적어도 하나의 컴퓨터는 상기 명령어에 해당하는 기능을 수행할 수 있다. 여기서, 명령어는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 본 개시에서, 컴퓨터의 일 예는, 프로세서가 될 수 있으며, 기록매체의 일 예는 메모리가 될 수 있다.

상술일 실시예들과 관련된 기술 분야에서 통상의 지식을 가진 자는 상기된 기재의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 방법들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.

10: 사용자
20: 제 1 컬러 영상
30: 제 1 흑백 영상
40: 제 2 컬러 영상
100: 사용자

Claims

제 1 흑백 영상을 생성하는 제 1 카메라;
제 1 컬러 영상을 생성하는 제 2 카메라;
상기 제 1 컬러 영상을 이용하여 제 2 흑백 영상을 생성하는 제 1 전자 회로;
상기 제 1 흑백 영상에 포함된 픽셀들과 상기 제 2 흑백 영상에 포함된 픽셀들 사이의 위치 관계를 나타내는 정보를 획득하는 제 2 전자 회로;
상기 제 1 흑백 영상, 상기 제 2 흑백 영상 및 상기 획득된 정보에 기초하여 제 3 흑백 영상을 생성하는 제 3 전자 회로; 및
상기 제1 컬러 영상 및 상기 제3 흑백 영상을 이용하여, 제2 컬러 영상을 생성하는 제4 전자 회로를 포함하고,
상기 제3 흑백 영상은 상기 제1 흑백 영상보다 고품질이고, 상기 제2 컬러 영상은 상기 제1 컬러 영상보다 고품질이며,
상기 제4 전자 회로는,
상기 제1 컬러 영상에 포함되는 제1 픽셀과 상기 제1 픽셀에 인접한 제1 인접 픽셀들의 컬러 값들, 및 상기 제3 흑백 영상에 포함되고 상기 제1 픽셀에 대응하는 제2 픽셀과 상기 제2 픽셀에 인접한 제2 인접 픽셀들의 픽셀 값들에 기초하여, 상기 제2 컬러 영상에 포함되고 상기 제1 픽셀에 대응하는 제3 픽셀의 컬러 값을 연산하는 디바이스.
제 1 항에 있어서,
상기 제 1 카메라에 포함된 센서의 픽셀들의 수는 상기 제 2 카메라에 포함된 센서의 픽셀들의 수보다 많거나 같은 디바이스.
제 1 항에 있어서,
상기 제 1 전자 회로는
상기 제 1 컬러 영상에 포함된 제 1 픽셀의 픽셀 값을 이용하여 상기 제 2 흑백 영상에 포함된 제 4 픽셀의 픽셀 값을 연산하고,
상기 제 4 픽셀은 상기 제 2 흑백 영상에 포함된 픽셀들 중에서 상기 제 1 픽셀에 대응하는 픽셀인 디바이스.
제 3 항에 있어서,
상기 제 1 전자 회로는
상기 제 1 픽셀에 인접한 픽셀들 각각의 픽셀 값을 더 고려하여 상기 제 4 픽셀의 픽셀 값을 연산하는 디바이스.
제 1 항에 있어서,
상기 제 3 전자 회로는
상기 획득된 정보를 이용하여 상기 제 1 흑백 영상에 포함된 제 5 픽셀과 대응하는 제 2 흑백 영상에 포함된 제 6 픽셀을 검색하고,
상기 제 5 픽셀의 픽셀 값 및 상기 제 6 픽셀의 픽셀 값을 이용하여 상기 제 3 흑백 영상에 포함된 제 7 픽셀의 픽셀 값을 연산하는 디바이스.
제 5 항에 있어서,
상기 제 3 전자 회로는
상기 제 5 픽셀과 인접한 픽셀들 각각의 픽셀 값 및 상기 제 6 픽셀과 인접한 픽셀들 각각의 픽셀 값을 더 고려하여 상기 제 7 픽셀의 픽셀 값을 연산하는 디바이스.
삭제
삭제
제 1 항에 있어서,
상기 제 1 카메라 및 상기 제 2 카메라는 라이트 필드(light field) 카메라를 포함하는 디바이스.
제 1 흑백 영상 및 제 1 컬러 영상을 생성하는 단계;
상기 제 1 컬러 영상을 이용하여 제 2 흑백 영상을 생성하는 단계;
상기 제 1 흑백 영상에 포함된 픽셀들과 상기 제 2 흑백 영상에 포함된 픽셀들 사이의 위치 관계를 나타내는 정보를 획득하는 단계;
상기 제 1 흑백 영상, 상기 제 2 흑백 영상 및 상기 획득된 정보에 기초하여 제 3 흑백 영상을 생성하는 단계; 및
상기 제1 컬러 영상 및 상기 제3 흑백 영상을 이용하여, 제2 컬러 영상을 생성하는 단계를 포함하고,
상기 제3 흑백 영상은 상기 제1 흑백 영상보다 고품질이고, 상기 제2 컬러 영상은 상기 제1 컬러 영상보다 고품질이며,
상기 제2 컬러 영상을 생성하는 단계는,
상기 제1 컬러 영상에 포함되는 제1 픽셀과 상기 제1 픽셀에 인접한 제1 인접 픽셀들의 컬러 값들, 및 상기 제3 흑백 영상에 포함되고, 상기 제1 픽셀에 대응하는 제2 픽셀과 상기 제2 픽셀에 인접한 제2 인접 픽셀들의 픽셀 값들에 기초하여, 상기 제2 컬러 영상에 포함되고, 상기 제1 픽셀에 대응하는 제3 픽셀의 컬러 값을 연산하는 단계를 포함하는, 영상을 생성하는 방법.
제 10 항에 있어서,
상기 제 1 흑백 영상에 포함된 픽셀들의 수는 상기 제 1 컬러 영상에 포함된 픽셀들의 수보다 많거나 같은 방법.
◈청구항 12은(는) 설정등록료 납부시 포기되었습니다.◈

제 10 항에 있어서,
상기 제 2 흑백 영상을 생성하는 단계는
상기 제 1 컬러 영상에 포함된 제 1 픽셀의 픽셀 값을 이용하여 상기 제 2 흑백 영상에 포함된 제 4 픽셀의 픽셀 값을 연산하고,
상기 제 4 픽셀은 상기 제 2 흑백 영상에 포함된 픽셀들 중에서 상기 제 1 픽셀에 대응하는 픽셀인 방법.
◈청구항 13은(는) 설정등록료 납부시 포기되었습니다.◈

제 12 항에 있어서,
상기 제 2 흑백 영상을 생성하는 단계는
상기 제 1 픽셀에 인접한 픽셀들 각각의 픽셀 값을 더 고려하여 상기 제 4 픽셀의 픽셀 값을 연산하는 방법.
◈청구항 14은(는) 설정등록료 납부시 포기되었습니다.◈

제 10 항에 있어서,
상기 제 3 흑백 영상을 생성하는 단계는
상기 획득된 정보를 이용하여 상기 제 1 흑백 영상에 포함된 제 5 픽셀과 대응하는 제 2 흑백 영상에 포함된 제 6 픽셀을 검색하는 단계; 및
상기 제 5 픽셀의 픽셀 값 및 상기 제 6 픽셀의 픽셀 값을 이용하여 상기 제 3 흑백 영상에 포함된 제 7 픽셀의 픽셀 값을 연산하는 단계;를 포함하는 방법.
◈청구항 15은(는) 설정등록료 납부시 포기되었습니다.◈

제 14 항에 있어서,
상기 제 7 픽셀의 픽셀 값을 연산하는 단계는
상기 제 5 픽셀과 인접한 픽셀들 각각의 픽셀 값 및 상기 제 6 픽셀과 인접한 픽셀들 각각의 픽셀 값을 더 고려하여 상기 제 7 픽셀의 픽셀 값을 연산하는 방법.
삭제
삭제
◈청구항 18은(는) 설정등록료 납부시 포기되었습니다.◈

제 10 항에 있어서,
상기 제 1 흑백 영상을 생성하는 제 1 카메라 및 상기 제 1 컬러 영상을 생성하는 제 2 카메라는 라이트 필드(light field) 카메라를 포함하는 디바이스.
제 10 항의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.