KR20210116168A

KR20210116168A - 이미지 데이터를 생성하고 그리고 생성된 이미지 데이터를 변환하는 전자 장치 및 전자 장치의 동작 방법

Info

Publication number: KR20210116168A
Application number: KR1020200086235A
Authority: KR
Inventors: 강희; 장찬영; 송성욱; 최우석
Original assignee: 삼성전자주식회사
Priority date: 2020-03-11
Filing date: 2020-07-13
Publication date: 2021-09-27

Abstract

본 발명은 전자 장치에 관한 것이다. 본 발명의 전자 장치는 대상을 캡처하여 제1 이미지 데이터를 생성하도록 구성되는 이미지 센서, 그리고 제1 이미지 데이터의 제1 영역에 대해 방향성 보간(directional interpolation)을 수행하여 제1 부분 이미지 데이터를 생성하고, 그리고 제1 이미지 데이터의 제2 영역에 대해 업스케일(upscale)을 수행하여 제2 부분 이미지 데이터를 생성하고, 그리고 제1 부분 이미지 데이터 및 제2 부분 이미지 데이터를 조합하여 제2 이미지 데이터를 생성하도록 구성되는 프로세서를 포함한다.

Description

이미지 데이터를 생성하고 그리고 생성된 이미지 데이터를 변환하는 전자 장치 및 전자 장치의 동작 방법{ELECTRONIC DEVICE GENERATING IMAGE DATA AND CONVERTING GENERATED IMAGE DATA AND OPERATING METHOD OF ELECTRONIC DEVICE}

본 발명은 전자 장치에 관한 것으로, 더 상세하게는 이미지 데이터를 생성하고 그리고 생성된 이미지 데이터를 변환하는 전자 장치에 관한 것이다.

이미지 센서는 대상(target) 또는 풍경(scenery)으로부터 대상 또는 풍경을 나타내는 이미지 데이터를 생성할 수 있다. 스마트폰, 스마트패드 등과 같은 모바일 장치들의 성능들이 향상되면서, 모바일 장치들에 이미지 센서들이 채용되고 있다. 모바일 장치들에 채용된 이미지 센서들은 이미지 데이터를 생성함으로써, 이미지 기반 콘텐츠를 제작하는데 사용될 수 있다.

이미지 센서를 이용하여 이미지 데이터를 생성하는 전자 장치에서 요구되는 주요 기능들 중 하나는 향상된 해상도 또는 화질을 갖는 이미지 데이터를 생성하는 것이다. 또한, 스마트폰, 스마트패드 등과 같은 모바일 전자 장치들에서 요구되는 주요 기능들 중 하나는 저전력이다.

이미지 데이터가 모바일 장치들에 의해 대세적으로 생성됨에 따라, 향상된 해상도 또는 화질과 저전력을 모두 만족시키는 전자 장치에 대한 요구가 존재한다.

본 발명의 목적은 향상된 해상도 또는 화질의 이미지 데이터를 생성하고 그리고 감소된 전력을 소비하는 전자 장치 및 전자 장치의 동작 방법을 제공하는 데 있다.

본 발명의 실시 예에 따른 전자 장치는 대상을 캡처하여 제1 이미지 데이터를 생성하도록 구성되는 이미지 센서, 그리고 제1 이미지 데이터의 제1 영역에 대해 방향성 보간(directional interpolation)을 수행하여 제1 부분 이미지 데이터를 생성하고, 그리고 제1 이미지 데이터의 제2 영역에 대해 업스케일(upscale)을 수행하여 제2 부분 이미지 데이터를 생성하고, 그리고 제1 부분 이미지 데이터 및 제2 부분 이미지 데이터를 조합하여 제2 이미지 데이터를 생성하도록 구성되는 프로세서를 포함한다.

이미지 센서 및 프로세서를 포함하는 본 발명의 실시 예에 따른 전자 장치의 동작 방법은, 이미지 센서가 대상을 캡처하여 제1 이미지 데이터를 생성하는 단계, 프로세서가 제1 이미지 데이터의 제1 영역에 대해 방향성 보간(directional interpolation)을 수행하여 제1 부분 이미지 데이터를 생성하는 단계, 프로세서가 제1 이미지 데이터의 제2 영역에 대해 업스케일(upscale)을 수행하여 제2 부분 이미지 데이터를 생성하는 단계, 그리고 제1 부분 이미지 데이터 및 제2 부분 이미지 데이터를 조합하여 제2 이미지 데이터를 생성하는 단계를 포함한다.

본 발명의 실시 예에 따른 전자 장치는 이미지 센서, 그리고 이미지 센서로부터 제1 이미지 데이터를 수신하고, 그리고 제1 이미지 데이터를 제2 이미지 데이터로 변환하려 출력하는 프로세서를 포함한다. 이미지 센서는 렌즈, 렌즈를 통해 입사되는 광에서 특정한 주파수의 성분들을 각각 투과시키는 컬러 필터들을 포함하는 컬러 필터 어레이, 컬러 필터들일 투과한 광의 특정한 주파수 성분들의 세기를 아날로그 신호들로 변환하도록 구성되는 픽셀들을 포함하는 픽셀 어레이, 그리고 아날로그 신호들을 디지털 신호들로 변환하여 제1 이미지 센서로 출력하도록 구성되는 아날로그-디지털 변환기를 포함한다. 프로세서는 제1 이미지 데이터를 수신하는 제1 메모리, 위치 정보를 저장하는 위치 정보 저장소, 제1 입력 데이터에 대해 제1 변환을 수행하고, 그리고 제1 변환의 결과를 제1 부분 이미지 데이터로 출력하도록 구성되는 제1 변환 블록, 제2 입력 데이터에 대해 제2 변환을 수행하고, 그리고 제2 변환의 결과를 제2 부분 이미지 데이터로 출력하도록 구성되는 제2 변환 블록, 위치 정보에 기반하여 제1 이미지 데이터를 제1 입력 데이터, 제2 입력 데이터, 또는 제1 입력 데이터 및 제1 입력 데이터 중 하나의 형태로 출력하도록 구성되는 선택 블록, 그리고 선택 블록으로부터의 선택 신호에 응답하여 제1 부분 이미지 데이터 및 제2 부분 이미지 데이터를 조합하여 제2 이미지 데이터를 생성하도록 구성되는 믹서를 포함한다. 제1 부분 이미지 데이터 및 제2 부분 이미지 데이터가 함께 출력될 때, 믹서는 제1 부분 이미지 데이터 및 제2 부분 이미지 데이터에 대해 알파 블렌딩을 수행하도록 구성된다.

본 발명에 따르면, 이미지 센서에 의해 획득되는 이미지 데이터의 부분들의 각각의 해상도 또는 화질에 따라 고전력 및 고품질의 변환과 저전력 및 저품질의 변환이 선택적으로 수행된다. 따라서, 향상된 해상도 또는 화질의 이미지 데이터를 생성하고 그리고 감소된 전력을 소비하는 전자 장치 및 전자 장치의 동작 방법이 제공된다.

도 1은 본 발명의 실시 예에 따른 전자 장치를 보여준다.
도 2는 본 발명의 실시 예에 따른 이미지 센서를 보여준다.
도 3은 컬러 필터 어레이의 컬러 필터들이 제1 타입의 배열 패턴에 따라 배열된 예를 보여준다.
도 4는 컬러 필터 어레이의 컬러 필터들이 제2 타입의 배열 패턴에 따라 배열된 예를 보여준다.
도 5는 도 1의 전자 장치의 동작 방법을 보여준다.
도 6은 믹서의 예를 보여준다.
도 7은 이미지 센서를 교정하는 교정 시스템의 예를 보여준다.
도 8은 도 7의 교정 시스템의 동작 방법의 예를 보여준다.
도 9는 도 7의 교정 장치가 제1 영역, 제2 영역 및 제3 영역을 판단하는 예를 보여준다.
도 10은 제1 이미지 데이터 상의 위치에 따른 MTF의 변화를 보여준다.
도 11은 제3 영역이 서브 영역들로 분할되는 예를 보여준다.
도 12는 멀티 카메라 모듈을 포함하는 전자 장치의 블록도이다.
도 13은 도 12의 카메라 모듈의 상세 블록도이다.

이하에서, 본 발명의 기술 분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있을 정도로, 본 발명의 실시 예들이 명확하고 상세하게 기재될 것이다.

도 1은 본 발명의 실시 예에 따른 전자 장치(100)를 보여준다. 도 1을 참조하면, 전자 장치(100)는 이미지 센서(110) 및 프로세서(120)를 포함할 수 있다. 이미지 센서(110)는 CIS(CMOS Image Sensor) 또는 CCD(Charge-Coupled Device)에 기반할 수 있다.

이미지 센서(110)는 렌즈(111), 컬러 필터 어레이(112), 픽셀 어레이(113), 그리고 아날로그-디지털 변환기(114)를 포함할 수 있다. 렌즈(111)는 외부로부터 또는 대상으로부터 입사되는 광을 컬러 필터 어레이(112)에 전달할 수 있다.

컬러 필터 어레이(112)는 렌즈(111)를 통해 입사되는 광들에 적용되는 컬러 필터들을 포함할 수 있다. 컬러 필터 어레이(112)는 행들 및 열들로 배열되는 컬러 필터들을 포함할 수 있다. 컬러 필터들은 특정한 배턴에 따라 배열된 적색 필터들(R), 녹색 필터들(G) 및 청색 필터들(B)을 포함할 수 있다.

적색 필터들(R)은 입사되는 광 중에서 적색에 해당하는 성분을 통과시킬 수 있다. 녹색 필터들(G)은 입사되는 광 중에서 녹색에 해당하는 성분을 통과시킬 수 있다. 청색 필터들(B)은 입사되는 광 중에서 청색에 해당하는 성분을 통과시킬 수 있다.

픽셀 어레이(113)는 행들 및 열들로 배열되는 픽셀들을 포함할 수 있다. 픽셀 어레이(113)의 픽셀들은 컬러 필터 어레이(112)의 컬러 필터들에 각각 대응할 수 있다. 녹색 필터들(G)에 대응하는 픽셀들의 각각은 녹색의 광량(또는 세기)에 대응하는 정보를 전류 또는 전압의 형태로 출력할 수 있다.

적색 필터들(R)에 대응하는 픽셀들의 각각은 적색의 광량(또는 세기)에 대응하는 정보를 전류 또는 전압의 형태로 출력할 수 있다. 청색 필터들(B)에 대응하는 픽셀들의 각각은 청색의 광량(또는 세기)에 대응하는 정보를 전류 또는 전압의 형태로 출력할 수 있다. 픽셀 어레이(113)의 픽셀들이 출력하는 전류들 또는 전압들은 광량들(또는 세기들)의 정보를 전류량들 또는 전압 레벨들로 가리키는 아날로그 신호들일 수 있다.

아날로그-디지털 변환기(114)는 픽셀 어레이(113)의 픽셀들로부터 출력되는 아날로그 신호들을 디지털 신호들로 변환할 수 있다. 아날로그-디지털 변환기(114)에 의해 변환된 디지털 신호들은 제1 이미지 데이터(ID1)로서 출력될 수 있다. 제1 이미지 데이터(ID1)는 하나의 프레임에 대응할 수 있다. 이미지 센서(110)는 하나 또는 그보다 많은 행들의 단위로 이미지 데이터를 획득하고 그리고 획득된 이미지 데이터를 출력하는 것을 반복함으로써, 제1 이미지 데이터(ID1)를 출력할 수 있다.

프로세서(120)는 제1 메모리(121), 위치 정보 저장소(122), 선택 블록(123), 제1 변환 블록(124), 제2 변환 블록(125), 믹서(126), 그리고 제2 메모리(127)를 포함할 수 있다.

제1 메모리(121)는 이미지 센서(110)로부터 수신되는 제1 이미지 데이터(ID1)를 저장하도록 구성된다. 제1 메모리(121)는 이미지 센서(110)로부터 순차적으로 수신되는 이미지 데이터를 누적함으로써 하나의 프레임에 대응하는 제1 이미지 데이터(ID1)를 저장할 수 있다. 제1 메모리(121)는 랜덤 액세스 메모리(RAM)를 포함할 수 있으며, 예를 들어, 동적 RAM, 정적 RAM, 상 변화 RAM, 강유전체 RAM, 자기 RAM, 저항성 RAM 등과 같은 다양한 랜덤 액세스 메모리들 중 하나를 포함할 수 있다.

위치 정보 저장소(122)는 위치 정보(LI)를 저장할 수 있다. 위치 정보(LI)는 이미지 센서(110)(또는 렌즈(111))의 특성에 기반할 수 있다. 예를 들어, 위치 정보(LI)는 이미지 센서(110)에 의해 획득되는 제1 이미지 데이터(ID1) 중에서 해상도(또는 화질)의 레벨이 서로 다른 둘 이상의 영역들에 대한 정보를 포함할 수 있다.

예를 들어, 이미지 센서(110)의 특성에 의존하여, 그리고 이미지 센서(110)를 구성하는 구성 요소들의 특성 및 변인들에 의존하여, 이미지 센서(110)에 의해 획득되는 제1 이미지 데이터(ID1)의 해상도 레벨은 제1 이미지 데이터(ID1) 상의 위치에 따라 다를 수 있다. 위치 정보(LI)는 제1 이미지 데이터(ID1) 상의 위치에 따른 제1 이미지 데이터(ID1)의 해상도 정보를 포함할 수 있다.

예를 들어, 위치 정보(LI)는 제1 이미지 데이터(ID1) 중에서 해상도(또는 화질)의 레벨이 제1 문턱 레벨보다 높은 제1 영역, 해상도(또는 화질)의 레벨이 제2 문턱 레벨 이하인 제2 영역, 그리고 해상도(또는 화질)의 레벨이 제1 문턱 레벨 이하이고 그리고 제2 문턱 레벨보다 높은 제3 영역의 정보를 포함할 수 있다. 예시적으로, 위치 정보(LI)는 이미지 센서(110)의 교정 시에 획득되고, 그리고 위치 정보 저장소(122)에 저장될 수 있다.

위치 정보 저장소(122)는 플래시 메모리 셀들, 상 변화 메모리 셀들, 강유전체 메모리 셀들, 저항성 메모리 셀들, 자기 메모리 셀들과 같은 불휘발성 메모리 셀들을 포함할 수 있다. 위치 정보 저장소(122)는 전기 퓨즈, 안티 퓨즈, 또는 레이저 퓨즈를 포함할 수 있다.

선택 블록(123)은 위치 정보 저장소(122)로부터 위치 정보(LI)를 수신할 수 있다. 선택 블록(123)은 제1 메모리(121)로부터 제1 이미지 데이터(ID1)를 수신할 수 있다. 선택 블록(123)은 위치 정보(LI)에 기반하여 제1 이미지 데이터(ID1)를 제1 부분 이미지 데이터(ID1p1) 및 제2 부분 이미지 데이터(ID1p2)로 분할하여 출력할 수 있다.

위치 정보(LI)에 기반하여, 선택 블록(123)은 제1 이미지 데이터(ID1) 중에서 제1 영역에 속하는 부분 데이터를 제1 부분 이미지 데이터(ID1p1)의 일부로 출력할 수 있다. 선택 블록(123)은 제1 이미지 데이터(ID1) 중에서 제2 영역에 속하는 부분 데이터를 제2 부분 이미지 데이터(ID1p2)의 일부로 출력할 수 있다. 선택 블록(123)은 제1 이미지 데이터(ID1) 중에서 제3 영역에 속하는 부분 데이터를 제1 부분 이미지 데이터(ID1p1)의 일부로 그리고 제2 부분 이미지 데이터(ID1p2)의 일부로 출력할 수 있다.

예를 들어, 선택 블록(123)은 특정한 단위로 제1 이미지 데이터(ID1)의 일부 데이터를 수신할 수 있다. 특정한 단위는 제1 이미지 데이터(ID1)의 하나 이상의 행, 또는 윈도의 형태일 수 있다. 제1 이미지 데이터(ID1)의 수신된 일부 데이터의 제1 이미지 데이터(ID1) 상의 위치에 따라, 위치 정보(LI)에 기반하여, 선택 블록(123)은 제1 변환 블록(124) 및 제2 변환 블록(125) 중 적어도 하나를 활성화할 수 있다.

선택 블록(123)은 제1 변환 블록(124) 및 제2 변환 블록(125) 중에서 활성화된 변환 블록(들)에 제1 이미지 데이터(ID1)의 수신된 일부 데이터를 출력할 수 있다. 예를 들어, 위치 정보(LI)에 기반하여 제1 이미지 데이터(ID1)의 수신된 일부 데이터가 제1 영역으로 판단될 때, 선택 블록(123)은 제1 변환 블록(124)을 활성화하고, 그리고 제1 이미지 데이터(ID1)의 수신된 일부 데이터를 제1 부분 이미지 데이터(ID1p1)의 일부로서 제1 변환 블록(124)으로 출력할 수 있다. 선택 블록(123)은 제1 변환 블록(124)이 선택되었음을 가리키도록 선택 신호(SEL)를 제어할 수 있다.

위치 정보(LI)에 기반하여 제1 이미지 데이터(ID1)의 수신된 일부 데이터가 제2 영역으로 판단될 때, 선택 블록(123)은 제2 변환 블록(125)을 활성화하고, 그리고 제1 이미지 데이터(ID1)의 수신된 일부 데이터를 제2 부분 이미지 데이터(ID1p2)의 일부로서 제2 변환 블록(125)으로 출력할 수 있다. 선택 블록(123)은 제2 변환 블록(125)이 선택되었음을 가리키도록 선택 신호(SEL)를 제어할 수 있다.

위치 정보(LI)에 기반하여 제1 이미지 데이터(ID1)의 수신된 일부 데이터가 제3 영역으로 판단될 때, 선택 블록(123)은 제1 변환 블록(124) 및 제2 변환 블록(125)을 활성화하고, 그리고 제1 이미지 데이터(ID1)의 수신된 일부 데이터를 제1 부분 이미지 데이터(ID1p1)의 일부로서 그리고 제2 부분 이미지 데이터(ID1p2)의 일부로서, 제1 변환 블록(124) 및 제2 변환 블록(125)으로 각각 출력할 수 있다. 선택 블록(123)은 제1 변환 블록(124) 및 제2 변환 블록(125)이 선택되었음을 가리키도록 선택 신호(SEL)를 제어할 수 있다.

제1 변환 블록(124)은 제1 부분 이미지 데이터(ID1p1)에 대해 제1 변환을 수행할 수 있다. 제1 변환 블록(124)은 제1 변환의 결과를 제3 부분 이미지 데이터(ID2p1)로 출력할 수 있다. 제2 변환 블록(125)은 제2 부분 이미지 데이터(ID1p2)에 대해 제2 변환을 수행할 수 있다. 제2 변환 블록(125)은 제2 변환의 결과를 제4 부분 이미지 데이터(ID2p2)로 출력할 수 있다.

예를 들어, 제1 변환은 리모자이크(remosaic), 보간(interpolation) 또는 방향성 보간(directional interpolation)을 포함할 수 있다. 제1 변환은 제2 변환과 비교하여 상대적으로 복잡한 회로들을 사용하고, 그리고 상대적으로 많은 전력을 소비할 수 있다. 제1 변환은 제2 변환과 비교하여 이미지 데이터의 품질, 특히 높은 해상도를 유지할 수 있다.

예를 들어, 제2 변환은 비닝(binning) 및 업스케일(upscale)을 포함할 수 있다. 비닝(binning)은 색 정보들의 평균, 중간값 또는 평균을 계산할 수 있다. 이후에, 업스케일(upscale)에 기반하여, 해상도가 향상될 수 있다. 제2 변환은 제2 변환과 비교하여 상대적으로 단순한 회로들을 사용하고, 그리고 상대적으로 적은 전력을 소비할 수 있다.

믹서(126)는 제1 변환 블록(124)으로부터 수신되는 제3 부분 이미지 데이터(ID2p1) 및 제2 변환 블록(125)으로부터 수신되는 제4 부분 이미지 데이터(ID2p2)를 조합하여 제2 이미지 데이터(ID2)를 생성할 수 있다.

예를 들어, 제1 이미지 데이터(ID1)의 일부 데이터가 제1 변환 블록(124)에 의해 변환된 때에, 믹서(126)는 변환된 데이터를 제3 부분 이미지 데이터(ID2p1)의 일부로서 수신하고, 그리고 제2 메모리(127)에 저장할 수 있다. 제1 이미지 데이터(ID1)의 일부 데이터가 제2 변환 블록(125)에 의해 변환된 때에, 믹서(126)는 변환된 데이터를 제4 부분 이미지 데이터(ID2p2)의 일부로서 수신하고, 그리고 제2 메모리(127)에 저장할 수 있다.

제1 이미지 데이터(ID1)의 일부 데이터가 제1 변환 블록(124) 및 제2 변환 블록(125)에 의해 변환된 때에, 믹서(126)는 변환된 데이터를 제3 부분 이미지 데이터(ID2p1)의 일부로서 그리고 제4 부분 이미지 데이터(ID2p2)의 일부로서 각각 수신할 수 있다. 믹서(126)는 수신된 데이터들에 대해 알파 블렌딩(alpha blending)을 수행할 수 있다. 믹서(126)는 알파 블렌딩의 결과를 제2 메모리(127)에 저장할 수 있다.

예시적으로, 제1 이미지 데이터(ID1)의 변환이 완료된 때에 제2 메모리(127)에 제2 이미지 데이터(ID2)가 저장되도록, 믹서(126)는 제1 이미지 데이터(ID1)의 일부 데이터의 변환 결과를 제2 메모리(127)의 정해진 위치들에 저장할 수 있다.

제2 메모리(127)는 랜덤 액세스 메모리(RAM)를 포함할 수 있으며, 예를 들어, 동적 RAM, 정적 RAM, 상 변화 RAM, 강유전체 RAM, 자기 RAM, 저항성 RAM 등과 같은 다양한 랜덤 액세스 메모리들 중 하나를 포함할 수 있다.

물리 블록(128)(PHY)은 제2 메모리(127)에 저장된 제2 이미지 데이터(ID2)를 외부의 장치로 출력할 수 있다. 예를 들어, 물리 블록(128)은 제2 이미지 데이터(ID2)를 라인의 단위로 출력할 수 있다. 물리 블록(128)은 MIPI(Mobile Industry Processor Interface)에 의해 정해진 C-PHY에 기반하여 제2 이미지 데이터(ID2)를 출력할 수 있다.

예시적으로, 프로세서(120)는 응용 프로세서, 범용 프로세서, 또는 이미지 데이터를 처리하도록 설계된 특수 목적의 이미지 신호 프로세서일 수 있다. 프로세서(120)의 구성 요소들의 각각은 하드웨어 회로로 구현되거나 또는 명령을 실행하도록 구성되는 회로에 의해 실행되는 명령들의 형태로 구현될 수 있다

도 2는 본 발명의 실시 예에 따른 이미지 센서(200)를 보여준다. 도 2의 이미지 센서(200)는 도 1의 이미지 센서(110)에 대응할 수 있다. 도 1 및 도 2를 참조하면, 이미지 센서(200)는 픽셀 어레이(210), 행 드라이버(220), 램프 신호 생성기(230)(RSG), 비교기 그룹(240), 카운터 그룹(250), 메모리 그룹(260), 그리고 타이밍 생성기(270)(TG)를 포함할 수 있다.

픽셀 어레이(210)는 행과 열을 따라 매트릭스 형태로 배치된 복수의 픽셀들(PX)을 포함할 수 있다. 복수의 픽셀들(PX)의 각각은 광전 변환 소자를 포함할 수 있다. 예를 들어, 광전 변환 소자는 포토 다이오드, 포토 트랜지스터, 포토 게이트, 또는 핀드 포토 다이오드(pinned photodiode) 등을 포함할 수 있다. 복수의 픽셀들(PX)의 각각은 광전 변환 소자를 이용하여 광을 감지하고, 감지된 광의 양을 전기 신호, 예를 들어, 전압 또는 전류로 변환할 수 있다.

픽셀 어레이(210)의 복수의 픽셀들(PX)은 복수의 픽셀 그룹들로 그룹화될 수 있다. 각 픽셀 그룹은 적어도 둘 또는 그 이상의 픽셀들을 포함할 수 있다. 예시적으로, 픽셀 그룹은 2행 2열 또는 3행 3열로 배치된 픽셀들을 포함할 수 있다. 픽셀 그룹을 구성하는 픽셀들은 적어도 하나의 플로팅 확산 노드를(floating diffusion region)을 공유할 수 있다.

픽셀 어레이(210) 상에, 픽셀 어레이(210)의 픽셀들(PX)에 각각 대응하는 컬러 필터들을 포함하는 컬러 필터 어레이(112)가 제공될 수 있다. 컬러 필터 어레이(112) 상에 렌즈(111)가 제공될 수 있다. 컬러 필터 어레이는 적색 필터들(R), 녹색 필터들(G) 및 청색 필터들(B)의 컬러 필터들을 포함할 수 있다. 픽셀 그룹은 동일한 컬러의 컬러 필터에 대응할 수 있다.

예를 들어, 픽셀 그룹은 컬러 필터 어레이의 필터와 함께, 붉은 스펙트럼 영역의 빛을 전기 신호로 변환시키는 적색 픽셀, 녹색 스펙트럼 영역의 빛을 전기 신호로 변환시키는 녹색 픽셀, 또는 파란 스펙트럼 영역의 빛을 전기 신호로 변환시키는 청색 픽셀을 형성할 수 있다. 예를 들어, 픽셀 어레이(210)를 구성하는 컬러 필터 어레이의 필터들은 베이어 패턴(Bayer Pattern) 형태로 또는 비-베이어 패턴의 형태로 배치될 수 있다.

행 드라이버(220)는 제1 내지 제m 행 라인들(RL1~RLm)(m은 양의 정수)을 통해 픽셀 어레이(210)의 픽셀들(PX)의 행들에 각각 연결될 수 있다. 행 드라이버(220)는 타이밍 생성기(270)에 의해 생성된 어드레스 및/또는 제어 신호를 디코딩하여, 픽셀 어레이(210)의 제1 내지 제m 행 라인들(RL1~RLm)을 순차적으로 선택하고, 그리고 선택된 행 라인을 특정한 전압으로 구동할 수 있다. 예를 들어, 행 드라이버(220)는 선택된 행 라인을 광의 감지를 위해 적합한 전압으로 구동할 수 있다.

픽셀들(PX)의 행들에 연결되는 제1 내지 제m 행 라인들(RL1~RLm)의 각각은 둘 이상의 라인들을 포함할 수 있다. 둘 이상의 라인들은, 예를 들어 픽셀을 선택하기 위한 신호, 플로팅 확산 노드를 리셋하기 위한 신호, 컬럼 라인을 선택하기 위한 신호 등을 포함하는 다양한 신호들을 각각 전달할 수 있다.

램프 신호 생성기(230)는 램프 신호(RS)를 생성할 수 있다. 램프 신호 생성기(230)는 타이밍 생성기(270)의 제어 하에 동작할 수 있다. 예를 들어, 램프 신호 생성기(230)는 램프 인에이블 신호, 모드 신호 등과 같은 제어 신호 하에 동작할 수 있다. 램프 신호 생성기(230)는 램프 인에이블 신호가 활성화되면, 모드 신호에 기초하여 설정되는 기울기를 가지는 램프 신호를 생성할 수 있다. 예를 들어, 램프 신호 생성기(230)는 시간이 흐름에 따라 초기 레벨로부터 지속적으로 감소 또는 증가하는 램프 신호(RS)를 생성할 수 있다.

비교기 그룹(240)은 제1 내지 제n 열 라인들(CL1~CLn)(n은 양의 정수)을 통해 픽셀 어레이(210)의 픽셀들(PX)의 열들에 각각 연결될 수 있다. 비교기 그룹(240)은 제1 내지 제n 열 라인들(CL1~CLn)에 각각 연결되는 제1 내지 제n 비교기들(C1~Cn)을 포함할 수 있다. 제1 내지 제n 비교기들(C1~Cn)은 램프 신호 생성기(230)로부터 램프 신호(RS)를 공통으로 수신할 수 있다.

제1 내지 제n 비교기들(C1~Cn)은 제1 내지 제n 열 라인들(CL1~CLn)의 전압들(또는 전류들)을 램프 신호(RS)와 비교할 수 있다. 지속적으로 감소하는(또는 증가하는) 램프 신호(RS)가 제1 내지 제n 비교기들(C1~Cn)의 전압들(또는 전류들)보다 작아질 때(또는 커질 때), 제1 내지 제n 비교기들(C1~Cn)은 출력 신호를 반전할 수 있다. 즉, 제1 내지 제n 비교기들(C1~Cn)은 픽셀들(PX)로부터 제1 내지 제n 열 라인들(CL1~CLn)로 출력된 전압들(또는 전류들)의 크기(또는 양)를 램프 신호(RS)와 비교한 결과들을 출력할 수 있다.

카운터 그룹(250)은 제1 내지 제n 비교기들(C1~Cn)을 출력 신호들을 각각 수신하는 제1 내지 제n 카운터들(CNT1~CNTn)을 포함할 수 있다. 제1 내지 제n 카운터들(CNT1~CNTn)은 동일한 시점, 예를 들어 램프 신호(RS)가 감소(또는 증가)하기 시작할 때, 그 이전 또는 그 이후에 카운트를 시작할 수 있다. 제1 내지 제n 카운터들(CNT1~CNTn)은 제1 내지 제n 비교기들(C1~Cn)의 출력 신호들이 반전할 때 카운트를 중지할 수 있다. 예를 들어, 제1 내지 제n 카운터들(CNT1~CNTn)의 각각은 제1 내지 제n 비교기들(C1~Cn) 중 대응하는 비교기의 출력 신호가 반전할 때 카운트를 중지할 수 있다.

즉, 제1 내지 제n 비교기들(C1~Cn)은 램프 신호(RS)를 이용하여 제1 내지 제n 열 라인들(CL1~CLn)의 전압들(또는 전류들)의 크기를 측정하고, 그리고 제1 내지 제n 카운터들(CNT1~CNTn)은 측정된 결과들을 디지털 값들로 변환할 수 있다.

제1 내지 제n 메모리들(M1~Mn)은 제1 내지 제n 카운터들(CNT1~CNTn)의 출력 신호들을 각각 수신하는 제1 내지 제n 메모리들(M1~Mn)을 포함할 수 있다. 제1 내지 제n 메모리들(M1~Mn)은 수신된 출력 신호들을 저장하고, 그리고 저장된 신호들을 제1 이미지 데이터(ID1)로 출력할 수 있다. 예를 들어, 제1 내지 제n 메모리들(M1~Mn)은 래치들을 포함할 수 있다.

타이밍 생성기(270)(TG)는 이미지 센서(200)가 동작하는 타이밍들을 제어할 수 있다. 타이밍 생성기(270)는 행 드라이버(220)가 제1 내지 제m 행 라인들(RL1~RLm)을 순차적으로 선택하는 타이밍들을 제어하고, 그리고 제1 내지 제m 행 라인들(RL1~RLm) 중 선택된 행 라인에 포함된 둘 이상의 라인들을 통해 신호들이 전달되는 타이밍들을 제어할 수 있다.

타이밍 생성기(270)는 램프 신호 생성기(230)가 램프 신호(RS)를 생성하고, 그리고 램프 신호를 초기화하는 타이밍들을 제어할 수 있다. 타이밍 생성기(270)는 제1 내지 제n 비교기들(C1~Cn)이 비교를 시작하는 타이밍들 및 제1 내지 제n 비교기들(C1~Cn)을 초기화하는 타이밍들을 제어할 수 있다.

타이밍 생성기(270)는 제1 내지 제n 카운터들(CNT1~CNTn)이 카운트를 시작하는 타이밍들 및 제1 내지 제n 카운터들(CNT1~CNTn)을 초기화하는 타이밍들을 제어할 수 있다. 타이밍 생성기(270)는 제1 내지 제n 메모리들(M1~Mn)이 제1 이미지 데이터(D1)를 출력하는 타이밍들 및 제1 내지 제n 메모리들(M1~Mn)을 초기화하는 타이밍들을 제어할 수 있다.

위에서 언급되지 않았지만, 타이밍 생성기(270)는 이미지 센서(200)가 대상의 이미지를 캡처하여 제1 이미지 데이터(ID1)로 출력하는데 필요한 다양한 구성 요소들의 다양한 타이밍들을 제어하도록 구성될 수 있다.

행 드라이버(220), 램프 신호 생성기(230)(RSG), 비교기 그룹(240), 카운터 그룹(250), 메모리 그룹(260), 그리고 타이밍 생성기(270)는 픽셀들(PX)에 의해 생성된 아날로그 신호들을 디지털 신호들로 변환하는 아날로그-디지털 변환기(114)에 대응할 수 있다.

예시적으로, 이미지 센서(200)는 픽셀들(PX)의 하나의 행 또는 둘 이상의 행들의 단위로 이미지 데이터를 생성하고 출력할 수 있다. 이미지 센서(200)는 픽셀들(PX)의 행들(RL1~RLm)을 순차적으로 선택하며 이미지 데이터를 생성하고 출력함으로써, 하나의 프레임에 해당하는 제1 이미지 데이터(ID1)를 출력할 수 있다.

도 3은 컬러 필터 어레이(112)의 컬러 필터들이 제1 타입의 배열 패턴에 따라 배열된 예를 보여준다. 도 1, 도 2 및 도 3을 참조하면, 컬러 필터 어레이(112)는 적색 필터들(R), 녹색 필터들(G) 및 청색 필터들(B)의 세 가지의 컬러 필터들을 포함할 수 있다. 컬러 필터 어레이(112)의 컬러 필터들은 제1 타입의 배열 패턴에 따라, 제1 기본 단위(BU1)의 단위로 행들 및 열들을 따라 배열될 수 있다.

제1 기본 단위(BU1)는 네 개의 컬러 필터들을 포함할 수 있다. 제1 기본 단위(BU1)는 좌상단으로부터 시계방향을 따라 순차적으로 배열되는 녹색 필터(G), 적색 필터(R), 녹색 필터(G), 그리고 청색 필터(B)의 컬러 필터들을 포함할 수 있다. 예시적으로, 컬러 필터 어레이(112)의 제1 타입의 배열 패턴은 베이어(Bayer) 패턴일 수 있다.

베이어 패턴에 기반한 이미지 데이터는 제1 기본 단위(BU1)를 기반으로 처리될 수 있다. 예를 들어, 베이어 패턴에 기반한 이미지는 이미지 데이터의 처리에 용이한 데이터, 예를 들어 RGB 데이터로 변환될 수 있다. 이 과정에서, 하나의 제1 기본 단위(BU1)가 하나의 화소 데이터로 사용되고, 하나의 제1 기본 단위(BU1)로부터 하나의 R 신호, 하나의 G 신호, 그리고 하나의 B 신호가 생성될 수 있다.

베이어 패턴은 이미지 센서(110)의 컬러 필터 어레이(112)의 배열 패턴으로서 오랜 시간 동안 사용되어 왔다. 따라서, 이미지 데이터를 처리하는 프로세서들은 베이어 패턴에 기반한 이미지 데이터를 RGB 데이터로 변환하도록 구현되어 왔다.

이미지 센서(110)의 제조 기술이 발전하면서, 픽셀 어레이(113)의 해상도가 증가하고 있다. 픽셀 어레이(113)의 해상도가 증가함에 따라, 컬러 필터 어레이(112)는 베이어 패턴이 아닌 다른 배열 패턴에 따라 배열된 컬러 필터들을 포함하도록 구현되고 있다.

도 4는 컬러 필터 어레이(112)의 컬러 필터들이 제2 타입의 배열 패턴에 따라 배열된 예를 보여준다. 도 1, 도 2 및 도 4를 참조하면, 컬러 필터 어레이(112)는 적색 필터들(R), 녹색 필터들(G) 및 청색 필터들(B)의 세 가지의 컬러 필터들을 포함할 수 있다. 컬러 필터 어레이(112)의 컬러 필터들은 제2 타입의 배열 패턴에 따라, 제2 기본 단위(BU2)의 단위로 행들 및 열들을 따라 배열될 수 있다.

제2 기본 단위(BU2)는 열두 개의 컬러 필터들을 포함할 수 있다. 제2 기본 단위(BU2)를 가로축 및 세로축을 이용하여 균등하게 4 분할할 때, 제2 기본 단위(BU2)는 좌상단에 위치한 네 개의 녹색 필터들(G), 우상단에 위치한 네 개의 적색 필터들(R), 좌하단에 위치한 네 개의 청색 필터들(B), 그리고 우하단에 위치한 네 개의 녹색 필터들(G)을 포함할 수 있다.

예시적으로, 제2 기본 단위(BU2)는 서로 가장 인접하게 배치되며 동일한 색에 대응하는 셋 이상의 컬러 필터들을 포함할 수 있다. 컬러 필터 어레이(112)의 제2 타입의 배열 패턴은 베이어(Bayer) 패턴이 아닐 수 있다.

컬러 필터 어레이(112)의 제2 타입의 배열 패턴은 베이어 패턴이 아닐 수 있다. 예를 들어, 제2 타입의 배열 패턴은 비-베이어 패턴일 수 있다. 이미지 센서(110)의 컬러 필터 어레이(112)는 도 4에 도시된 것과 같은 비-베이어 패턴에 기반하여 배열된 컬러 필터들을 포함할 수 있다. 따라서, 제1 이미지 데이터(ID1)는 비-베이어 패턴에 기반하여, 통상적인 프로세서에 의해 처리될 수 없다.

제1 변환 블록(124) 및 제2 변환 블록(125)은 도 4에 도시된 것과 같은 비-베이어 패턴에 기반한 제1 이미지 데이터(ID1)를 도 3에 도시된 것과 같은 베이어 패턴에 기반한 제2 이미지 데이터(ID2)로 변환할 수 있다. 제1 이미지 데이터(ID1)의 제1 영역은 제1 변환 블록(124)에 의해 변환될 수 있다. 제1 이미지 데이터(ID1)의 제2 영역은 제2 변환 블록(125)에 의해 변환될 수 있다.

제1 이미지 데이터(ID1)의 제3 영역은 제1 변환 블록(124) 및 제2 변환 블록(125)에 의해 변환될 수 있다. 제1 변환 블록(124) 및 제2 변환 블록(125)에 의해, 제2 기본 단위(BU2)에 기반한 비-베이어 패턴 기반의 제1 이미지 데이터(ID1)로부터 제1 기본 단위(BU1)에 기반한 베이어 패턴 기반의 제2 이미지 데이터(ID2)가 생성될 수 있다.

예시적으로, 비-베이어 패턴의 구체적인 예가 도 4에 도시되지만, 컬러 필터 어레이(112)의 배열 패턴은 도 4에 도시된 것으로 한정되지 않는다. 컬러 필터 어레이(112)의 배열 패턴은 '테트라(tetra)' 또는 '노나(nona)'라 불리는 배열 패턴을 포함하는 다양한 형태들로 구현될 수 있다.

도 5는 도 1의 전자 장치(100)의 동작 방법을 보여준다. 도 1 및 도 5를 참조하면, S110 단계에서, 전자 장치(100)는 제1 이미지 데이터(ID1)를 생성할 수 있다. 예를 들어, 이미지 센서(110)는 비-베이어 패턴에 기반한 제1 이미지 데이터(ID1)를 생성하고, 제1 이미지 데이터(ID1)를 제1 메모리(121)에 저장할 수 있다. 제1 이미지 데이터(ID1)는 하나의 프레임에 해당할 수 있다.

S120 단계에서, 전자 장치(100)는 제1 이미지 데이터(ID1)의 일부 데이터를 선택할 수 있다. 예를 들어, 프로세서(120)의 선택 블록(123)은 제1 메모리(121)에 저장된 제1 이미지 데이터(ID1)의 일부 데이터, 하나의 프레임의 일부 데이터를 수신할 수 있다.

S130 단계에서, 전자 장치(100)는 수신된 일부 데이터의 위치를 판단할 수 있다. 예를 들어, 프로세서(120)의 선택 블록(123)은 위치 정보(LI)에 기반하여, 수신된 일부 데이터가 제1 영역, 제2 영역 및 제3 영역 중에서 어느 영역에 속하는지 판단할 수 있다.

수신된 일부 데이터가 제1 영역에 속할 때, 수신된 일부 데이터는 이미지 데이터 중에서 가장 높은 해상도를 갖는 위치에 속할 수 있다. 선택 블록(123)은 제1 변환 블록(124)으로 수신된 일부 데이터를 제1 부분 이미지 데이터(ID1p1)의 일부로서 출력할 수 있다. S140 단계에서, 제1 변환 블록(124)은 수신된 일부 데이터에 대해 제1 변환을 적용할 수 있다. 변환된 일부 데이터를 제3 부분 이미지 데이터(ID2p1)의 일부 데이터로서 믹서(126)로 전달될 수 있다. 믹서(126)는 변환된 일부 데이터를 제2 메모리(127)의 대응하는 위치에 저장할 수 있다. 이후에 S180 단계가 수행될 수 있다.

다시 S130 단계를 참조하면, 일부 데이터가 제2 영역에 속할 때, 일부 데이터는 이미지 데이터 중에서 가장 낮은 해상도를 갖는 위치에 속할 수 있다. 선택 블록(123)은 제2 변환 블록(125)으로 수신된 일부 데이터를 제2 부분 이미지 데이터(ID1p2)의 일부로서 출력할 수 있다. S150 단계에서, 제2 변환 블록(125)은 수신된 일부 데이터에 대해 제2 변환을 적용할 수 있다. 변환된 일부 데이터는 제4 부분 이미지 데이터(ID2p2)의 일부로서 믹서(126)로 전달될 수 있다. 믹서(126)는 변환된 일부 데이터를 제2 메모리(127)의 대응하는 위치에 저장할 수 있다. 이후에 S180 단계가 수행될 수 있다.

다시 S130 단계를 참조하면, 일부 데이터가 제3 영역에 속할 때, 일부 데이터는 이미지 데이터 중에서 중간 레벨의 해상도를 갖는 위치에 속할 수 있다. 선택 블록(123)은 수신된 일부 데이터를 제1 부분 이미지 데이터(ID1p1)의 일부 및 제2 부분 이미지 데이터(ID1p2)의 일부로서 제1 변환 블록(124) 및 제2 변환 블록(125)으로 각각 출력할 수 있다. S150 단계에서, 제1 변환 블록(124) 및 제2 변환 블록(125)은 수신된 일부 데이터에 대해 제1 변환 및 제2 변환을 각각 적용할 수 있다. 변환된 일부 데이터는 제3 부분 이미지 데이터(ID2p1)의 일부 및 제4 부분 이미지 데이터(ID2p2)의 일부로서 믹서(126)로 전달될 수 있다.

일부 데이터가 제2 영역에 속할 때, S160 단계에 후속하여 S170 단계에서, 믹서(126)는 제1 변환 블록(124)으로부터 출력되는 변환된 일부 데이터(예를 들어, 변환된 제1 일부 데이터) 및 제2 변환 블록(125)으로부터 출력되는 변환된 일부 데이터(예를 들어, 변환된 제2 일부 데이터)에 대해 알파 블렌딩(alpha blending)을 수행할 수 있다.

예를 들어, 믹서(126)는 변환된 제1 일부 데이터에 제1 투명도를 부여하고, 변환된 제2 일부 데이터에 제2 투명도를 부여할 수 있다. 믹서(126)는 제1 투명도가 부여된 변환된 제1 일부 데이터와 제2 투명도가 부여된 제2 일부 데이터를 혼합하고, 그리고 혼합된 데이터를 제2 메모리(127)의 대응하는 위치에 저장할 수 있다.

S180 단계에서, 전자 장치(100)는 이미지 데이터 중 마지막 일부 데이터의 변환이 완료되었는지 판단할 수 있다. 마지막 일부 데이터의 변환이 완료되지 않았으면, S120 단계에서 다음 일부 데이터가 수신되고, 그리고 S130 단계 내지 S170 단계에서 변환이 수행될 수 있다. 마지막 부분데이터의 변환이 완료되었으면, 전자 장치(100)는 이미지 데이터의 변환을 종료할 수 있다.

즉, 전자 장치(100)의 프로세서(120)는 하나의 프레임에 대응하는 제1 이미지 데이터(ID1)의 제1 영역의 이미지 데이터에 대해 제1 변환을 수행하고, 그리고 제1 이미지 데이터(ID1)의 제2 영역의 이미지 데이터에 대해 제2 변환을 수행할 수 있다. 프로세서(120)는 제1 이미지 데이터(ID1)의 제3 영역의 이미지 데이터에 대해 제1 변환 및 제2 변환을 수행하고, 그리고 제1 변환의 결과 및 제2 변환의 결과에 대해 알파 블렌딩을 수행할 수 있다.

예시적으로, 제2 변환의 결과가 후면 이미지 데이터로 사용되고, 그리고 제1 변환의 결과가 전면 이미지 데이터로 사용될 수 있다. 다른 예로서, 제1 변환의 결과가 후면 이미지 데이터로 사용되고, 그리고 제2 변환의 결과가 전면 이미지 데이터로 사용될 수 있다. 알파 블렌딩의 전면 이미지 데이터의 투명도, 즉 알파의 값은 위치 정보(LI)와 함께 위치 정보 저장소(122)에 저장될 수 있다. 알파의 값은 이미지 센서(110)의 교정 시에 정해질 수 있다.

도 6은 믹서(300)의 예를 보여준다. 믹서(300)는 도 1의 전자 장치(100)의 프로세서(120)의 믹서(126)에 대응할 수 있다. 도 1 및 도 6을 참조하면, 믹서(300)는 제1 멀티플렉서(310), 제2 멀티플렉서(320), 알파 블렌더(330), 그리고 조합기(340)를 포함할 수 있다.

제1 멀티플렉서(310)는 제3 부분 이미지 데이터(ID2p1)를 수신할 수 있다. 선택 신호(SEL)에 응답하여, 제1 멀티플렉서(310)는 제3 부분 이미지 데이터(ID2p1) 중 제1 영역에 대응하는 부분 데이터(ID2A1)를 조합기(340)로 출력하고, 그리고 제3 영역에 대응하는 부분 데이터(ID2A3a)를 알파 블렌더(330)로 출력할 수 있다.

제2 멀티플렉서(320)는 제4 부분 이미지 데이터(ID2p2)를 수신할 수 있다. 선택 신호(SEL)에 응답하여, 제2 멀티플렉서(320)는 제4 부분 이미지 데이터(ID2p2) 중 제2 영역에 대응하는 부분 데이터(ID2A2)를 조합기(340)로 출력하고, 그리고 제3 영역에 대응하는 부분 데이터(ID2A3b)를 알파 블렌더(330)로 출력할 수 있다.

알파 블렌더(330)는 제1 멀티플렉서(310)로부터 수신되는 부분 데이터(ID2A3a) 및 제2 멀티플렉서(320)로부터 수신되는 부분 데이터(ID2A3b)에 대해 알파 블렌딩을 수행할 수 있다. 알파 블렌더(330)는 알파 블렌딩의 결과를 제3 영역에 대응하는 부분 데이터(ID2A3)로 출력할 수 있다.

조합기(340)는 제1 멀티플렉서(310)로부터 제1 영역에 대응하는 부분 데이터(ID2A1)를 수신하고, 그리고 제2 멀티플렉서(320)로부터 제2 영역에 대응하는 부분 데이터(ID2A2)를 수신할 수 있다. 조합기(340)는 알파 블렌더(330)로부터 제3 영역에 대응하는 부분 데이터(ID2A3)를 수신할 수 있다. 조합기(340)는 수신된 데이터를 조합하여 제2 이미지 데이터(ID2)를 출력할 수 있다.

도 7은 이미지 센서(110)를 교정하는 교정 시스템(400)의 예를 보여준다. 도 7을 참조하면, 이미지 센서(110)는 제조된 후에 교정 장치(420)에 연결되어 교정될 수 있다. 교정 시에, 이미지 센서(110)를 이용하여 교정 차트(410)가 촬영될 수 있다. 교정 차트(410)는 다양한 해상도에 대응하는 다양한 패턴들을 포함할 수 있다. 교정 장치(420)는 이미지 센서(110)에 의해 교정 차트(410)가 촬영된 결과를 기반으로 교정을 수행할 수 있다.

예를 들어, 교정은 이미지 센서(110)의 렌즈(111)의 기울기를 교정하는 것, 렌즈(111)와 픽셀 어레이(113) 사이의 거리를 조절하여 해상도를 교정하는 것을 포함할 수 있다. 또한, 교정은 이미지 센서(110)에 의해 생성되는 이미지 데이터로부터 제1 영역, 제2 영역 및 제3 영역을 식별하는 것을 더 포함할 수 있다. 교정 장치(420)는 제1 영역, 제2 영역 및 제3 영역의 정보를 포함하는 위치 정보(LI)를 생성할 수 있다.

교정은 또한 제3 영역에 할당될 투명도, 즉 알파 값을 결정하는 것을 더 포함할 수 있다. 위치 정보(LI) 및 알파 값은 수정 없이 또는 전자 장치(100)(도 1 참조)의 제조자에 의해 수정되어(예를 들어, 제조사의 공정 특성 또는 제품 특성에 기반하여) 위치 정보 저장소(122)에 저장될 수 있다.

도 8은 도 7의 교정 시스템(400)의 동작 방법의 예를 보여준다. 도 7 및 도 8을 참조하면, S210 단계에서, 교정 시스템(400)은 이미지 센서(110)를 이용하여 교정 차트(410)의 이미지 데이터를 생성할 수 있다.

S220 단계에서, 교정 장치(420)는 이미지 센서(110)의 교정을 수행하고, 그리고 이미지 센서(110)가 교정을 통과하는지 판단할 수 있다. 예를 들어, 교정된 이미지 센서(110)에 의해 생성되는 이미지 데이터의 해상도(또는 화질)가 임계값 이상이면, 이미지 센서(110)는 교정을 통과한 것으로 판단될 수 있다.

이미지 센서(110)가 교정을 통과한 것으로 판단되면, S230 단계에서, 교정 장치(420)는 이미지 센서(110)에 의해 생성되는 제1 이미지 데이터의 제1 영역, 제2 영역 및 제3 영역을 판단하고, 그리고 제3 영역에 할당되는 알파 값을 판단할 수 있다.

S240 단계에서, 교정 장치(420)는 제1 영역, 제2 영역 및 제3 영역을 가리키는 위치 정보(LI) 및 알파 값을 출력할 수 있다. 예를 들어, 이미지 센서(110)가 프로세서(120)와 결합될 때, 위치 정보(LI) 및 알파 값은 프로세서(120)의 위치 정보 저장소(122)에 저장될 수 있다. 이미지 센서(110)가 프로세서(120)와 결합되지 않고 전자 장치(100)의 제조자에게 전달될 때, 위치 정보(LI) 및 알파 값은 제조자에게 함께 전달될 수 있다.

S220 단계에서, 이미지 센서(110)가 교정을 통과하지 못한 것으로 판단되면, S250 단계가 수행된다. S250 단계에서, 교정 장치(420)는 교정 실패를 판단하거나 또는 이미지 센서(110)를 재교정의 대상으로 판단할 수 있다. 교정 실패가 판단되면, 이미지 센서(110)는 폐기되거나 또는 더 낮은 해상도(또는 화질)를 제공하는 제품으로 재사용될 수 있다. 이미지 센서(110)가 재교정의 대상으로 판단되면, 이미지 센서(110)에 대해 재교정이 수행되거나 또는 재교정이 예약될 수 있다.

도 9는 도 7의 교정 장치(420)가 제1 영역, 제2 영역 및 제3 영역을 판단하는 예를 보여준다. 도 1, 도 7 및 도 9를 참조하면, S310 단계에서, 교정 장치(420)는 이미지 센서(110)의 제1 이미지 데이터(ID1) 상의 위치에 따른 MTF(Modulation Transfer Function)을 검출할 수 있다.

S320 단계에서, 교정 장치(420)는 MTF의 변화가 문턱 값보다 큰 영역을 검출할 수 있다. 예를 들어, 교정 장치(420)는 제1 이미지 데이터(ID1) 상의 특정한 좌표축을 따른 단위 길이 동안의 MTF의 변화량이 문턱값보다 큰 영역을 검출할 수 있다. 다른 예로서, 교정 장치(420)는 MTF의 순간 변화율이 문턱값보다 큰 영역을 검출할 수 있다.

S330 단계에서, 교정 장치(420)는 검출된 영역에 기반하여 제1 영역, 제2 영역 및 제3 영역을 판단할 수 있다. 예를 들어, 교정 장치(420)는 검출된 영역을 제3 영역으로 판단할 수 있다. 교정 장치(420)는 검출된 영역의 MTF보다 높은 MTF를 갖는 영역을 제1 영역으로 판단할 수 있다. 교정 장치(420)는 검출된 영역의 MTF보다 낮은 MTF를 갖는 영역을 제2 영역으로 판단할 수 있다.

도 11은 제1 이미지 데이터(ID1) 상의 위치에 따른 MTF의 변화를 보여준다. 도 1 및 도 11을 참조하면, 제1 이미지 데이터(ID1) 상의 위치는 필드(Field)로 표현될 수 있다. 필드(Field)는 제1 이미지 데이터(ID1)의 중심으로부터의 거리를 가리킬 수 있다.

예를 들어, 필드(Field)는 제1 이미지 데이터(ID1)의 장변(또는 단변)에 대한, 제1 이미지 데이터(ID1) 상의 중심으로부터의 거리의 비율일 수 있다. 즉, 제1 이미지 데이터(ID1) 상의 위치를 가리키는 필드는 중앙으로부터의 거리를 방사형(radial)으로 나타낼 수 있다.

제1 이미지 데이터(ID1)에 매칭된 제1 그래프(G1)의 가로축은 제1 이미지 데이터(ID1) 상의 필드를 가리키고, 세로축은 MTF를 가리킨다. 예를 들어, MTF의 단위는 픽셀 당 사이클(cycle/pixel)일 수 있다.

도 11에 도시된 바와 같이, MTF의 변화가 문턱값보다 큰 영역은 제3 영역(A3)으로 정해질 수 있다. 제3 영역(A3)의 MTF보다 큰 MTF를 갖는 영역은 제1 영역(A1)으로 정해질 수 있다. 제3 영역(A3)의 MTF보다 작은 MTF를 갖는 영역은 제2 영역(A2)으로 정해질 수 있다.

렌즈(111)의 곡률이 증가하고, 그리고 픽셀 어레이(113)의 픽셀들의 피치들이 에어리 원반(airy disk)보다 작아짐에 따라, 제1 이미지 데이터(ID1) 상의 위치에 따른 MTF의 변화가 증가하고 있다.

상대적으로 높은 해상도를 갖는 제1 영역(A1)의 이미지 데이터는 고해상도, 고품질 및 고전력의 특성을 갖는 제1 변환 블록(124)을 적용함으로써, 제2 이미지 데이터(ID2)의 해상도 및 품질이 향상될 수 있다.

상대적으로 낮은 해상도를 갖는 제2 영역(A2)의 이미지 데이터는 저해상도, 저품질 및 저전력의 특성을 갖는 제2 변환 블록(125)을 적용함으로써, 제2 이미지 데이터(ID2)를 생성하는 과정의 전력 소비가 절감될 수 있다.

MTF의 변화가 큰 제3 영역(A3)의 이미지 데이터는 제1 변환 블록(124)의 변환 결과 및 제2 변환 블록(125)의 변환 결과를 알파 블렌딩을 적용함으로써, 제2 이미지 데이터(ID2) 상의 제1 영역(A1)과 제2 영역(A2)의 경계에 의도하지 않은 패턴이 발생하는 것을 방지하고, 그리고 해상도 및 화질이 급격히 변화하는 것을 방지할 수 있다.

필드가 제1 이미지 데이터(ID1) 상의 위치를 방사형(radial)으로 가리킴에 따라, 제1 영역(A1)은 원형이고, 제3 영역(A3)은 제1 영역(A1)을 둘러싸는 동심원이고, 그리고 제2 영역(A2)은 제1 영역(A1) 및 제3 영역(A3)을 둘러싸는 나머지 영역일 수 있다.

예시적으로, 제3 영역(A3)에 적용되는 알파 값은 제3 영역(A3)의 MTF의 값(중간값, 평균, 또는 변화량), 제1 영역(A1)의 MTF의 값(중간값, 평균, 또는 변화량)에 대한 제3 영역(A3)의 MTF의 값(중간값, 평균, 또는 변화량)의 관계(예를 들어, 비율), 제2 영역(A2)의 MTF의 값(중간값, 평균, 또는 변화량)에 대한 제3 영역의 MTF의 값(중간값, 평균, 또는 변화량)의 관계(예를 들어, 비율)와 같은 다양한 요인들에 기반하여 교정 장치(420)에 의해 정해질 수 있다. 예를 들어, 교정 장치(420)는 MTF의 값들에 대해 기계 학습에 기반한 추론을 수행하여 알파 값을 결정하도록 구성될 수 있다.

다른 예로서, 구형의 볼록 렌즈의 특성에 따라, 제1 이미지 데이터(ID1) 상의 중앙 부분의 해상도가 가장 높을 수 있다. 따라서, 제1 이미지 데이터(ID1) 상의 중앙 부분이 제1 영역(A1)으로 판단될 수 있다.

마찬가지로, 구형의 볼록 렌즈의 특성에 따라, 제1 이미지 데이터(ID1) 상의 외곽 부분의 해상도가 가장 낮을 수 있다. 따라서, 제1 이미지 데이터(ID1) 상의 외곽 부분이 제2 영역(A2)으로 판단될 수 있다. 제1 영역(A1)과 제2 영역(A2)의 사이의 영역이 제3 영역(A3)으로 판단될 수 있다. 제3 영역(A3)에서, 변환된 제1 부분 데이터와 변환된 제2 부분 데이터가 알파 블렌딩에 의해 혼합될 수 있다.

본 발명의 실시 예에 따라 제1 변환 블록(124) 및 제2 변환 블록(125)을 적응적으로 사용할 때, 소비 전력은 수학식 1에 의해 정해질 수 있다.

수학식 1에서, A1은 제1 영역(A1)의 면적이고, A2는 제2 영역(A2)의 면적이고, 그리고 A3는 제3 영역(A3)의 면적일 수 있다. P1은 제1 변환 블록(124)의 소비 전력이고, 그리고 P2는 제2 변환 블록(125)의 소비 전력일 수 있다. 통상적으로, 제2 변환 블록(125)의 소비 전력은 제1 변환 블록(124)의 소비 전력의 10%에 대응할 수 있다. 따라서, 수학식 1은 수학식 2로 정리될 수 있다.

수학식 2는 다시 수학식 3과 같이 정리될 수 있다.

제1 이미지 데이터(ID3) 상에서 제2 영역(A2)의 면적이 가장 크므로, 소비 전력은 제1 변환만 수행할 때와 비교하여 48.3%로 감소할 수 있다. 따라서, 전자 장치(100)의 소비 전력이 절감될 수 있다.

제1 변환을 수행할 때, 제2 변환을 수행할 때, 그리고 본 발명에 따라 제1 변환 및 제2 변환을 적응적으로 수행할 때, MTF는 표 1과 같이 나타날 수 있다.

	제1 변환			제2 변환			제1 변환 및 제2 변환
	MTF50	MTF30	MTF10	MTF50	MTF30	MTF10	MTF50	MTF30	MTF10
중앙	0.2324	0.2819	0.3662	0.1845	0.2125	0.2460	0.2324	0.2819	0.3662
0.5필드	0.1915	0.2776	0.3375	0.1541	0.1977	0.2424	0.1667	0.2370	0.2958
0.8필드	0.1974	0.2148	0.2453	0.1874	0.1969	0.213	0.1874	0.1969	0.213

표 1에 기재된 정보로부터, 제1 변환을 수행할 때와 비교한 해상도(또는 화질)의 저하가 표 2와 같이 나타날 수 있다.

	제2 변환			제1 변환 및 제2 변환
	MTF50	MTF30	MTF10	MTF50	MTF30	MTF10
중앙	79.39%	75.38%	67.18%	100%	100%	100%
0.5필드	80.47%	71.82%	87.08%	87.08%	85.36%	87.65%
0.8필드	94.93%	91.67%	86.83%	94.93%	91.67%	86.83%

표 2에 기재된 바와 같이, 본 발명에 따라 제1 변환 및 제2 변환을 적응적으로 적용하면, 제2 변환만을 적용할 때와 비교하여 향상된 해상도(또는 화질)의 제1 이미지 데이터(ID1)를 생성하며, 제1 변환만을 사용할 때와 비교하여 감소된 소비 전력을 갖는 전자 장치(100)가 제공될 수 있다.

상술된 수치들은 예시적인 환경에서 수행된 것이며, 제1 영역(A1)의 사이즈, 제2 영역(A2)의 사이즈, 제3 영역(A3)의 사이즈, 제3 영역(A3)의 서브 영역들의 수 및 사이즈들, 제3 영역(A3)에 적용되는 알파 값에 의존하여 달라질 수 있다.

도 11은 제3 영역(A3)이 서브 영역들로 분할되는 예를 보여준다. 도 1, 도 7 및 도 11을 참조하면, 제3 영역(A3)은 중앙으로부터의 거리에 따라 서브 영역들로 분할될 수 있다. 서브 영역들은 제1 영역을 둘러싸는 동심원들의 형태를 가질 수 있다.

서브 영역들은 서로 다른 알파 값들을 갖도록 지정될 수 있다. 예를 들어, 서브 영역의 위치가 제1 영역(A1)에 가까워질수록 알파 값이 감소(또는 증가)할 수 있다. 서브 영역의 위치가 제3 영역(A3)에 가까워질수록 알파 값이 증가(또는 감소)할 수 있다.

예시적으로, 제1 변환 블록(124)의 출력이 전면 이미지 데이터로 사용되고, 그리고 제2 변환 블록(125)의 출력이 후면 이미지 데이터로 사용될 수 있다. 이때, 서브 영역의 위치가 제1 영역(A1)에 가까워질수록, 전면 이미지 데이터의 알파 값이 감소할 수 있다. 서브 영역의 위치가 제3 영역(A3)에 가까워질수록 전면 이미지 데이터의 알파 값이 증가할 수 있다.

다른 예로서, 제1 변환 블록(124)의 출력이 후면 이미지 데이터로 사용되고, 그리고 제2 변환 블록(125)의 출력이 전면 이미지 데이터로 사용될 수 있다. 이때, 서브 영역의 위치가 제1 영역(A1)에 가까워질수록 전면 이미지 데이터의 알파 값이 증가할 수 있다. 서브 영역의 위치가 제3 영역(A3)에 가까워질수록 전면 이미지 데이터의 알파 값이 감소할 수 있다.

도 12는 멀티 카메라 모듈을 포함하는 전자 장치의 블록도이다. 도 13은 도 12의 카메라 모듈의 상세 블록도이다.

도 12를 참조하면, 전자 장치(1000)는 카메라 모듈 그룹(1100), 애플리케이션 프로세서(1200), PMIC(1300) 및 외부 메모리(1400)를 포함할 수 있다.

카메라 모듈 그룹(1100)은 복수의 카메라 모듈(1100a, 1100b, 1100c)을 포함할 수 있다. 비록 도면에는 3개의 카메라 모듈(1100a, 1100b, 1100c)이 배치된 실시예가 도시되어 있으나, 실시예들이 이에 제한되는 것은 아니다. 몇몇 실시예에서, 카메라 모듈 그룹(1100)은 2개의 카메라 모듈만을 포함하도록 변형되어 실시될 수 있다. 또한, 몇몇 실시예에서, 카메라 모듈 그룹(1100)은 n개(n은 4 이상의 자연수)의 카메라 모듈을 포함하도록 변형되어 실시될 수도 있다. 예시적으로, 카메라 모듈 그룹(1100)의 복수의 카메라 모듈(1100a, 1100b, 1100c)의 각각은 도 1의 카메라 모듈(100)을 포함할 수 있다.

이하, 도 13을 참조하여, 카메라 모듈(1100b)의 상세 구성에 대해 보다 구체적으로 설명할 것이나, 이하의 설명은 실시예에 따라 다른 카메라 모듈들(1100a, 1100b)에 대해서도 동일하게 적용될 수 있다.

도 13을 참조하면, 카메라 모듈(1100b)은 프리즘(1105), 광학 경로 폴딩 요소(Optical Path Folding Element, 이하, ˝˝액츄에이터(1130), 이미지 센싱 장치(1140) 및 저장부(1150)를 포함할 수 있다.

프리즘(1105)은 광 반사 물질의 반사면(1107)을 포함하여 외부로부터 입사되는 광(L)의 경로를 변형시킬 수 있다.

몇몇 실시예에서, 프리즘(1105)은 제1 방향(X)으로 입사되는 광(L)의 경로를 제1 방향(X)에 수직인 제2 방향(Y)으로 변경시킬 수 있다. 또한, 프리즘(1105)은 광 반사 물질의 반사면(1107)을 중심축(1106)을 중심으로 A방향으로 회전시키거나, 중심축(1106)을 B방향으로 회전시켜 제1 방향(X)으로 입사되는 광(L)의 경로를 수직인 제2 방향(Y)으로 변경시킬 수 있다. 이때, OPFE(1110)도 제1 방향(X)및 제2 방향(Y)과 수직인 제3 방향(Z)로 이동할 수 있다.

몇몇 실시예에서, 도시된 것과 같이, 프리즘(1105)의 A방향 최대 회전 각도는 플러스(+) A방향으로는 15도(degree)이하이고, 마이너스(-) A방향으로는 15도보다 클 수 있으나, 실시예들이 이에 제한되는 것은 아니다.

몇몇 실시예에서, 프리즘(1105)은 플러스(+) 또는 마이너스(-) B방향으로 20도 내외, 또는 10도에서 20도, 또는 15도에서 20도 사이로 움직일 수 있고, 여기서, 움직이는 각도는 플러스(+) 또는 마이너스(-) B방향으로 동일한 각도로 움직이거나, 1도 내외의 범위로 거의 유사한 각도까지 움직일 수 있다.

몇몇 실시예에서, 프리즘(1105)은 광 반사 물질의 반사면(1107)을 중심축(1106)의 연장 방향과 평행한 제3 방향(예를 들어, Z방향)으로 이동할 수 있다.

OPFE(1110)는 예를 들어 m(여기서, m은 자연수)개의 그룹으로 이루어진 광학 렌즈를 포함할 수 있다. m개의 렌즈는 제2 방향(Y)으로 이동하여 카메라 모듈(1100b)의 광학 줌 배율(optical zoom ratio)을 변경할 수 있다. 예를 들어, 카메라 모듈(1100b)의 기본 광학 줌 배율을 Z라고할 때, OPFE(1110)에 포함된 m개의 광학 렌즈를 이동시킬 경우, 카메라 모듈(1100b)의 광학 줌 배율은 3Z 또는 5Z 또는 5Z 이상의 광학 줌 배율로 변경될 수 있다.

액츄에이터(1130)는 OPFE(1110) 또는 광학 렌즈(이하, 광학 렌즈로 지칭)를 특정 위치로 이동시킬 수 있다. 예를 들어 액츄에이터(1130)는 정확한 센싱을 위해 이미지 센서(1142)가 광학 렌즈의 초점 거리(focal length)에 위치하도록 광학 렌즈의 위치를 조정할 수 있다.

이미지 센싱 장치(1140)는 이미지 센서(1142), 제어 로직(1144) 및 메모리(1146)를 포함할 수 있다. 이미지 센서(1142)는 광학 렌즈를 통해 제공되는 광(L)을 이용하여 센싱 대상의 이미지를 센싱할 수 있다. 제어 로직(1144)은 카메라 모듈(1100b)의 전반적인 동작을 제어할 수 있다. 예를 들어, 제어 로직(1144)은 제어 신호 라인(CSLb)을 통해 제공된 제어 신호에 따라 카메라 모듈(1100b)의 동작을 제어할 수 있다.

메모리(1146)는 캘리브레이션 데이터(1147)와 같은 카메라 모듈(1100b)의 동작에 필요한 정보를 저장할 수 있다. 캘리브레이션 데이터(1147)는 카메라 모듈(1100b)이 외부로부터 제공된 광(L)을 이용하여 이미지 데이터를 생성하는데 필요한 정보를 포함할 수 있다. 캘리브레이션 데이터(1147)는 예를 들어, 앞서 설명한 회전도(degree of rotation)에 관한 정보, 초점 거리(focal length)에 관한 정보, 광학 축(optical axis)에 관한 정보 등을 포함할 수 있다. 카메라 모듈(1100b)이 광학 렌즈의 위치에 따라 초점 거리가 변하는 멀티 스테이트(multi state) 카메라 형태로 구현될 경우, 캘리브레이션 데이터(1147)는 광학 렌즈의 각 위치별(또는 스테이트별) 초점 거리 값과 오토 포커싱(auto focusing)과 관련된 정보를 포함할 수 있다.

저장부(1150)는 이미지 센서(1142)를 통해 센싱된 이미지 데이터를 저장할 수 있다. 저장부(1150)는 이미지 센싱 장치(1140)의 외부에 배치될 수 있으며, 이미지 센싱 장치(1140)를 구성하는 센서 칩과 스택된(stacked) 형태로 구현될 수 있다. 몇몇 실시예에서, 저장부(1150)는 EEPROM(Electrically Erasable Programmable Read-Only Memory)으로 구현될 수 있으나 실시예들이 이에 제한되는 것은 아니다.도 12와 도 13을 함께 참조하면, 몇몇 실시예에서, 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각은 액츄에이터(1130)를 포함할 수 있다. 이에 따라, 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각은 그 내부에 포함된 액츄에이터(1130)의 동작에 따른 서로 동일하거나 서로 다른 캘리브레이션 데이터(1147)를 포함할 수 있다.

몇몇 실시예에서, 복수의 카메라 모듈(1100a, 1100b, 1100c) 중 하나의 카메라 모듈(예를 들어, 1100b)은 앞서 설명한 프리즘(1105)과 OPFE(1110)를 포함하는 폴디드 렌즈(folded lens) 형태의 카메라 모듈이고, 나머지 카메라 모듈들(예를 들어, 1100a, 1100b)은 프리즘(1105)과 OPFE(1110)가 포함되지 않은 버티칼(vertical) 형태의 카메라 모듈일 수 있으나, 실시예들이 이에 제한되는 것은 아니다.

몇몇 실시예에서, 복수의 카메라 모듈(1100a, 1100b, 1100c) 중 하나의 카메라 모듈(예를 들어, 1100c)은 예를 들어, IR(Infrared Ray)을 이용하여 깊이(depth) 정보를 추출하는 버티컬 형태의 깊이 카메라(depth camera)일 수 있다. 이 경우, 애플리케이션 프로세서(1200)는 이러한 깊이 카메라로부터 제공받은 이미지 데이터와 다른 카메라 모듈(예를 들어, 1100a 또는 1100b)로부터 제공받은 이미지 데이터를 병합(merge)하여 3차원 깊이 이미지(3D depth image)를 생성할 수 있다.

몇몇 실시예에서, 복수의 카메라 모듈(1100a, 1100b, 1100c) 중 적어도 두 개의 카메라 모듈(예를 들어, 1100a, 1100b)은 서로 다른 관측 시야(Field of View, 시야각)를 가질 수 있다. 이 경우, 예를 들어, 복수의 카메라 모듈(1100a, 1100b, 1100c) 중 적어도 두 개의 카메라 모듈(예를 들어, 1100a, 1100b)의 광학 렌즈가 서로 다를 수 있으나, 이에 제한되는 것은 아니다.

또한, 몇몇 실시예에서, 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각의 시야각은 서로 다를 수 있다. 이 경우, 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각에 포함된 광학 렌즈 역시 서로 다를 수 있으나, 이에 제한되는 것은 아니다.

몇몇 실시예에서, 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각은 서로 물리적으로 분리되어 배치될 수 있다. 즉, 하나의 이미지 센서(1142)의 센싱 영역을 복수의 카메라 모듈(1100a, 1100b, 1100c)이 분할하여 사용하는 것이 아니라, 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각의 내부에 독립적인 이미지 센서(1142)가 배치될 수 있다.

다시 도 12를 참조하면, 애플리케이션 프로세서(1200)는 이미지 처리 장치(1210), 메모리 컨트롤러(1220), 내부 메모리(1230)를 포함할 수 있다. 애플리케이션 프로세서(1200)는 복수의 카메라 모듈(1100a, 1100b, 1100c)과 분리되어 구현될 수 있다. 예를 들어, 애플리케이션 프로세서(1200)와 복수의 카메라 모듈(1100a, 1100b, 1100c)은 별도의 반도체 칩으로 서로 분리되어 구현될 수 있다.

이미지 처리 장치(1210)는 복수의 서브 이미지 프로세서(1212a, 1212b, 1212c), 이미지 생성기(1214) 및 카메라 모듈 컨트롤러(1216)를 포함할 수 있다.

이미지 처리 장치(1210)는 복수의 카메라 모듈(1100a, 1100b, 1100c)의 개수에 대응하는 개수의 복수의 서브 이미지 프로세서(1212a, 1212b, 1212c)를 포함할 수 있다.

각각의 카메라 모듈(1100a, 1100b, 1100c)로부터 생성된 이미지 데이터는 서로 분리된 이미지 신호 라인(ISLa, ISLb, ISLc)를 통해 대응되는 서브 이미지 프로세서(1212a, 1212b, 1212c)에 제공될 수 있다. 예를 들어, 카메라 모듈(1100a)로부터 생성된 이미지 데이터는 이미지 신호 라인(ISLa)을 통해 서브 이미지 프로세서(1212a)에 제공되고, 카메라 모듈(1100b)로부터 생성된 이미지 데이터는 이미지 신호 라인(ISLb)을 통해 서브 이미지 프로세서(1212b)에 제공되고, 카메라 모듈(1100c)로부터 생성된 이미지 데이터는 이미지 신호 라인(ISLc)을 통해 서브 이미지 프로세서(1212c)에 제공될 수 있다. 이러한 이미지 데이터 전송은 예를 들어, MIPI(Mobile Industry Processor Interface)에 기반한 카메라 직렬 인터페이스(CSI; Camera Serial Interface)를 이용하여 수행될 수 있으나, 실시예들이 이에 제한되는 것은 아니다.

한편, 몇몇 실시예에서, 하나의 서브 이미지 프로세서가 복수의의 카메라 모듈에 대응되도록 배치될 수도 있다. 예를 들어, 서브 이미지 프로세서(1212a)와 서브 이미지 프로세서(1212c)가 도시된 것처럼 서로 분리되어 구현되는 것이 아니라 하나의 서브 이미지 프로세서로 통합되어 구현되고, 카메라 모듈(1100a)과 카메라 모듈(1100c)로부터 제공된 이미지 데이터는 선택 소자(예를 들어, 멀티플렉서) 등을 통해 선택된 후, 통합된 서브 이미지 프로세서에 제공될 수 있다.

각각의 서브 이미지 프로세서(1212a, 1212b, 1212c)에 제공된 이미지 데이터는 이미지 생성기(1214)에 제공될 수 있다. 이미지 생성기(1214)는 이미지 생성 정보(Generating Information) 또는 모드 신호(Mode Signal)에 따라 각각의 서브 이미지 프로세서(1212a, 1212b, 1212c)로부터 제공된 이미지 데이터를 이용하여 출력 이미지를 생성할 수 있다.

구체적으로, 이미지 생성기(1214)는 이미지 생성 정보 또는 모드 신호에 따라, 서로 다른 시야각을 갖는 카메라 모듈들(1100a, 1100b, 1100c)로부터 생성된 이미지 데이터 중 적어도 일부를 병합(merge)하여 출력 이미지를 생성할 수 있다. 또한, 이미지 생성기(1214)는 이미지 생성 정보 또는 모드 신호에 따라, 서로 다른 시야각을 갖는 카메라 모듈들(1100a, 1100b, 1100c)로부터 생성된 이미지 데이터 중 어느 하나를 선택하여 출력 이미지를 생성할 수 있다.

몇몇 실시예에서, 이미지 생성 정보는 줌 신호(zoom signal or zoom factor)를 포함할 수 있다. 또한, 몇몇 실시예에서, 모드 신호는 예를 들어, 유저(user)로부터 선택된 모드에 기초한 신호일 수 있다.

이미지 생성 정보가 줌 신호(줌 팩터)이고, 각각의 카메라 모듈(1100a, 1100b, 1100c)이 서로 다른 관측 시야(시야각)를 갖는 경우, 이미지 생성기(1214)는 줌 신호의 종류에 따라 서로 다른 동작을 수행할 수 있다. 예를 들어, 줌 신호가 제1 신호일 경우, 카메라 모듈(1100a)로부터 출력된 이미지 데이터와 카메라 모듈(1100c)로부터 출력된 이미지 데이터를 병합한 후, 병합된 이미지 신호와 병합에 사용하지 않은 카메라 모듈(1100b)로부터 출력된 이미지 데이터를 이용하여, 출력 이미지를 생성할 수 있다. 만약, 줌 신호가 제1 신호와 다른 제2 신호일 경우, 이미지 생성기(1214)는 이러한 이미지 데이터 병합을 수행하지 않고, 각각의 카메라 모듈(1100a, 1100b, 1100c)로부터 출력된 이미지 데이터 중 어느 하나를 선택하여 출력 이미지를 생성할 수 있다. 하지만 실시예들이 이에 제한되는 것은 아니며, 필요에 따라 이미지 데이터를 처리하는 방법은 얼마든지 변형되어 실시될 수 있다.

몇몇 실시예에서, 이미지 생성기(1214)는 복수의 서브 이미지 프로세서(1212a, 1212b, 1212c) 중 적어도 하나로부터 노출 시간이 상이한 복수의 이미지 데이터를 수신하고, 복수의 이미지 데이터에 대하여 HDR(high dynamic range) 처리를 수행함으로서, 다이나믹 레인지가 증가된 병합된 이미지 데이터를 생성할 수 있다.

카메라 모듈 컨트롤러(1216)는 각각의 카메라 모듈(1100a, 1100b, 1100c)에 제어 신호를 제공할 수 있다. 카메라 모듈 컨트롤러(1216)로부터 생성된 제어 신호는 서로 분리된 제어 신호 라인(CSLa, CSLb, CSLc)를 통해 대응되는 카메라 모듈(1100a, 1100b, 1100c)에 제공될 수 있다.

복수의 카메라 모듈(1100a, 1100b, 1100c) 중 어느 하나는 줌 신호를 포함하는 이미지 생성 정보 또는 모드 신호에 따라 마스터(master) 카메라(예를 들어, 1100b)로 지정되고, 나머지 카메라 모듈들(예를 들어, 1100a, 1100c)은 슬레이브(slave) 카메라로 지정될 수 있다. 이러한 정보는 제어 신호에 포함되어, 서로 분리된 제어 신호 라인(CSLa, CSLb, CSLc)를 통해 대응되는 카메라 모듈(1100a, 1100b, 1100c)에 제공될 수 있다.

줌 팩터 또는 동작 모드 신호에 따라 마스터 및 슬레이브로서 동작하는 카메라 모듈이 변경될 수 있다. 예를 들어, 카메라 모듈(1100a)의 시야각이 카메라 모듈(1100b)의 시야각보다 넓고, 줌 팩터가 낮은 줌 배율을 나타낼 경우, 카메라 모듈(1100b)이 마스터로서 동작하고, 카메라 모듈(1100a)이 슬레이브로서 동작할 수 있다. 반대로, 줌 팩터가 높은 줌 배율을 나타낼 경우, 카메라 모듈(1100a)이 마스터로서 동작하고, 카메라 모듈(1100b)이 슬레이브로서 동작할 수 있다.

몇몇 실시예에서, 카메라 모듈 컨트롤러(1216)로부터 각각의 카메라 모듈(1100a, 1100b, 1100c)에 제공되는 제어 신호는 싱크 인에이블 신호(sync enable) 신호를 포함할 수 있다. 예를 들어, 카메라 모듈(1100b)이 마스터 카메라이고, 카메라 모듈들(1100a, 1100c)이 슬레이브 카메라인 경우, 카메라 모듈 컨트롤러(1216)는 카메라 모듈(1100b)에 싱크 인에이블 신호를 전송할 수 있다. 이러한 싱크 인에이블 신호를 제공받은 카메라 모듈(1100b)은 제공받은 싱크 인에이블 신호를 기초로 싱크 신호(sync signal)를 생성하고, 생성된 싱크 신호를 싱크 신호 라인(SSL)을 통해 카메라 모듈들(1100a, 1100c)에 제공할 수 있다. 카메라 모듈(1100b)과 카메라 모듈들(1100a, 1100c)은 이러한 싱크 신호에 동기화되어 이미지 데이터를 애플리케이션 프로세서(1200)에 전송할 수 있다.

몇몇 실시예에서, 카메라 모듈 컨트롤러(1216)로부터 복수의 카메라 모듈(1100a, 1100b, 1100c)에 제공되는 제어 신호는 모드 신호에 따른 모드 정보를 포함할 수 있다. 이러한 모드 정보에 기초하여 복수의 카메라 모듈(1100a, 1100b, 1100c)은 센싱 속도와 관련하여 제1 동작 모드 및 제2 동작 모드로 동작할 수 있다.

복수의 카메라 모듈(1100a, 1100b, 1100c)은 제1 동작 모드에서, 제1 속도로 이미지 신호를 생성(예를 들어, 제1 프레임 레이트의 이미지 신호를 생성)하여 이를 제1 속도보다 높은 제2 속도로 인코딩(예를 들어, 제1 프레임 레이트보다 높은 제2 프레임 레이트의 이미지 신호를 인코딩)하고, 인코딩된 이미지 신호를 애플리케이션 프로세서(1200)에 전송할 수 있다. 이때, 제2 속도는 제1 속도의 30배 이하일 수 있다.

애플리케이션 프로세서(1200)는 수신된 이미지 신호, 다시 말해서 인코딩된 이미지 신호를 내부에 구비되는 내부 메모리(1230) 또는 애플리케이션 프로세서(1200) 외부의 메모리(1400)에 저장하고, 이후, 내부 메모리(1230) 또는 외부의 메모리(1400)로부터 인코딩된 이미지 신호를 독출하여 디코딩하고, 디코딩된 이미지 신호에 기초하여 생성되는 이미지 데이터를 디스플레이할 수 있다. 예컨대 이미지 처리 장치(1210)의 복수의 서브 프로세서들(1212a, 1212b, 1212c) 중 대응하는 서브 프로세서가 디코딩을 수행할 수 있으며, 또한 디코딩된 이미지 신호에 대하여 이미지 처리를 수행할 수 있다.

복수의 카메라 모듈(1100a, 1100b, 1100c)은 제2 동작 모드에서, 제1 속도보다 낮은 제3 속도로 이미지 신호를 생성(예를 들어, 제1 프레임 레이트보다 낮은 제3 프레임 레이트의 이미지 신호를 생성)하고, 이미지 신호를 애플리케이션 프로세서(1200)에 전송할수 있다. 애플리케이션 프로세서(1200)에 제공되는 이미지 신호는 인코딩되지 않은 신호일 수 있다. 애플리케이션 프로세서(1200)는 수신되는 이미지 신호에 대하여 이미지 처리를 수행하거나 또는 이미지 신호를 내부의 메모리(1230) 또는 외부의 메모리(1400)에 저장할 수 있다.

PMIC(1300)는 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각에 전력, 예컨대 전원 전압을 공급할 수 있다. 예를 들어, PMIC(1300)는 애플리케이션 프로세서(1200)의 제어 하에, 파워 신호 라인(PSLa)을 통해 카메라 모듈(1100a)에 제1 전력을 공급하고, 파워 신호 라인(PSLb)을 통해 카메라 모듈(1100b)에 제2 전력을 공급하고, 파워 신호 라인(PSLc)을 통해 카메라 모듈(1100c)에 제3 전력을 공급할 수 있다.

PMIC(1300)는 애플리케이션 프로세서(1200)로부터의 전력 제어 신호(PCON)에 응답하여, 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각에 대응하는 전력을 생성하고, 또한 전력의 레벨을 조정할 수 있다. 전력 제어 신호(PCON)는 복수의 카메라 모듈(1100a, 1100b, 1100c)의 동작 모드 별 전력 조정 신호를 포함할 수 있다. 예를 들어, 동작 모드는 저전력 모드(low power mode)를 포함할 수 있으며, 이때, 전력 제어 신호(PCON)는 저전력 모드로 동작하는 카메라 모듈 및 설정되는 전력 레벨에 대한 정보를 포함할 수 있다. 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각에 제공되는 전력들의 레벨은 서로 동일하거나 또는 서로 상이할 수 있다. 또한, 전력의 레벨은 동적으로 변경될 수 있다.

카메라 모듈(1100b)은 도 1의 전자 장치(100)에 대응할 수 있다. 이미지 센싱 장치(1140)는 도 1의 이미지 센서(110)에 대응할 수 있다. 저장부(1150)는 도 1의 프로세서(120)를 포함할 수 있다.

상술한 실시 예들에서, 이미지 데이터, 부분 이미지 데이터, 부분 데이터, 일부 데이터 들의 용어들이 사용되었다. 이러한 용어들은 상세한 설명의 맥락을 파괴하지 않으며 서로 교환되어 사용될 수 있다. 예시적으로, 이미지 데이터는 하나의 프레임에 대응하는 데이터를 가리킬 수 있으나, 위에 기재된 '이미지 데이터'의 의미는 한정되지 않는다. 부분 이미지 데이터, 부분 데이터, 일부 데이터 들의 용어들은 하나의 프레임의 데이터 중 일부를 가리킬 수 있으나, '부분 아미지 데이터', '부분 데이터', '일부 데이터'의 의미들은 한정되지 않는다.

상술된 실시 예들에서, 제1, 제2, 제3 등의 용어들을 사용하여 본 발명의 기술적 사상에 따른 구성 요소들이 설명되었다. 그러나 제1, 제2, 제3 등과 같은 용어들은 구성 요소들을 서로 구별하기 위해 사용되며, 본 발명을 한정하지 않는다. 예를 들어, 제1, 제2, 제3 등과 같은 용어들은 순서 또는 임의의 형태의 수치적 의미를 내포하지 않는다.

상술된 실시 예들에서, 블록들을 사용하여 본 발명의 실시 예들에 따른 구성 요소들이 참조되었다. 블록들은 IC (Integrated Circuit), ASIC (Application Specific IC), FPGA (Field Programmable Gate Array), CPLD (Complex Programmable Logic Device) 등과 같은 다양한 하드웨어 장치들, 하드웨어 장치들에서 구동되는 펌웨어, 응용과 같은 소프트웨어, 또는 하드웨어 장치와 소프트웨어가 조합된 형태로 구현될 수 있다. 또한, 블록들은 IC 내의 반도체 소자들로 구성되는 회로들 또는 IP(Intellectual Property)로 등록된 회로들을 포함할 수 있다.

상술된 내용은 본 발명을 실시하기 위한 구체적인 실시 예들이다. 본 발명은 상술된 실시 예들뿐만 아니라, 단순하게 설계 변경되거나 용이하게 변경할 수 있는 실시 예들 또한 포함할 것이다. 또한, 본 발명은 실시 예들을 이용하여 용이하게 변형하여 실시할 수 있는 기술들도 포함될 것이다. 따라서, 본 발명의 범위는 상술된 실시 예들에 국한되어 정해져서는 안되며 후술하는 특허청구범위뿐만 아니라 이 발명의 특허청구범위와 균등한 것들에 의해 정해져야 할 것이다.

100: 전자 장치
110: 이미지 센서
111: 렌즈
112: 컬러 필터 어레이
113: 픽셀 어레이
114: 아날로그-디지털 변환기
120: 프로세서
121: 제1 메모리
122: 위치 정보 저장소
123: 선택 블록
124: 제1 변환 블록
125: 제2 변환 블록
126: 믹서
127: 제2 메모리
128: 물리 블록

Claims

대상을 캡처하여 제1 이미지 데이터를 생성하도록 구성되는 이미지 센서; 그리고
상기 제1 이미지 데이터의 제1 영역에 대해 방향성 보간(directional interpolation)을 수행하여 제1 부분 이미지 데이터를 생성하고, 그리고 상기 제1 이미지 데이터의 제2 영역에 대해 업스케일(upscale)을 수행하여 제2 부분 이미지 데이터를 생성하고, 그리고 상기 제1 부분 이미지 데이터 및 상기 제2 부분 이미지 데이터를 조합하여 제2 이미지 데이터를 생성하도록 구성되는 프로세서를 포함하는 전자 장치.
제1항에 있어서,
상기 제1 이미지 데이터는 비-베이어 패턴에 기반하고, 그리고
상기 제2 이미지 데이터는 베이어 패턴에 기반하는 전자 장치.
제1항에 있어서,
상기 프로세서는 상기 제1 이미지 데이터의 제3 영역에 대해 상기 방향성 보간을 수행하고, 그리고 상기 제1 이미지 데이터의 상기 제3 영역에 대해 상기 업스케일을 수행하도록 더 구성되는 전자 장치.
제3항에 있어서,
상기 프로세서는 상기 제3 영역에 대한 상기 방향성 보간의 결과 및 상기 제3 영역에 대한 상기 업스케일의 결과에 대해 알파 블렌딩(alpha blending)을 수행하여 제3 부분 이미지 데이터를 생성하도록 더 구성되는 전자 장치.
제4항에 있어서,
상기 프로세서는 상기 제1 부분 이미지 데이터, 상기 제2 부분 이미지 데이터 및 상기 제3 부분 이미지 데이터를 조합하여 상기 제2 이미지 데이터를 생성하도록 더 구성되는 전자 장치.
제4 항에 있어서,
상기 제3 영역은 둘 이상의 서브 영역들로 분할되고, 그리고
상기 프로세서는 상기 둘 이상의 서브 영역들에서 상기 방향성 보간의 결과들 및 상기 업스케일의 결과들에 적용되는 알파 값들을 서로 다르게 조절하는 전자 장치.
제6항에 있어서,
상기 제1 영역은 상기 제1 이미지 데이터의 중앙에 위치한 원형의 영역을 포함하고, 그리고
상기 둘 이상의 서브 영역들은 상기 제1 영역을 둘러싸는 둘 이상의 동심원들의 영역들을 각각 포함하는 전자 장치.
제1항에 있어서,
상기 제1 영역은 상기 제1 이미지 데이터의 중앙에 위치한 원형의 영역을 포함하고, 그리고
상기 제2 영역은 상기 제1 이미지 데이터에서 상기 제1 영역을 둘러싸는 나머지 영역을 포함하는 전자 장치.
제1항에 있어서,
상기 프로세서는 상기 이미지 센서의 교정 과정에서 획득되는 위치 정보에 기반하여 상기 제1 영역 및 상기 제2 영역을 식별하는 전자 장치.
제9항에 있어서,
상기 위치 정보는 상기 제1 이미지 데이터의 중앙으로부터의 거리에 기반하여 상기 제1 영역 및 상기 제2 영역을 가리키는 전자 장치.
제10항에 있어서,
상기 위치 정보는 상기 중앙으로부터의 상기 거리에 따른 MTF(Modulation Transfer Function)의 변화에 기반하는 전자 장치.
이미지 센서 및 프로세서를 포함하는 전자 장치의 동작 방법에 있어서:
상기 이미지 센서가 대상을 캡처하여 제1 이미지 데이터를 생성하는 단계;
상기 프로세서가 상기 제1 이미지 데이터의 제1 영역에 대해 방향성 보간(directional interpolation)을 수행하여 제1 부분 이미지 데이터를 생성하는 단계;
상기 프로세서가 상기 제1 이미지 데이터의 제2 영역에 대해 업스케일(upscale)을 수행하여 제2 부분 이미지 데이터를 생성하는 단계; 그리고
상기 프로세서가 제1 부분 이미지 데이터 및 상기 제2 부분 이미지 데이터를 조합하여 제2 이미지 데이터를 생성하는 단계를 포함하는 동작 방법.
제12항에 있어서,
상기 프로세서가 상기 제1 이미지 데이터의 제3 영역에 대해 상기 방향성 보간을 수행하여 제3 부분 이미지 데이터를 생성하는 단계; 그리고
상기 프로세서가 상기 제1 이미지 데이터의 상기 제3 영역에 대해 상기 업스케일을 수행하여 제4 부분 이미지 데이터를 생성하는 단계를 더 포함하는 동작 방법.
제13항에 있어서,
상기 프로세서가 상기 제3 부분 이미지 데이터 및 상기 제4 부분 이미지 데이터에 대해 알파 블렌딩을 수행하여 제5 부분 이미지 데이터를 생성하는 단계를 더 포함하는 동작 방법.
제14항에 있어서,
상기 프로세서가 제1 부분 이미지 데이터 및 상기 제2 부분 이미지 데이터를 조합하여 제2 이미지 데이터를 생성하는 단계는,
상기 프로세서가 제1 부분 이미지 데이터, 상기 제2 부분 이미지 데이터 및 상기 제5 부분 이미지 데이터를 조합하여 상기 제2 이미지 데이터를 생성하는 단계를 포함하는 동작 방법.
제14항에 있어서,
상기 제5 부분 이미지 데이터를 생성하는 단계는,
상기 제4 부분 이미지 데이터를 후면의 이미지 데이터로 선택하는 단계;
상기 제3 부분 이미지 데이터를 전면의 이미지 데이터로 선택하는 단계; 그리고
상기 제3 부분 이미지 데이터의 알파 값을 조절하는 단계를 포함하는 동작 방법.
제14항에 있어서,
상기 프로세서가 상기 제1 이미지 데이터의 제4 영역에 대해 상기 방향성 보간을 수행하여 제6 부분 이미지 데이터를 생성하는 단계;
상기 프로세서가 상기 제1 이미지 데이터의 상기 제4 영역에 대해 상기 업스케일을 수행하여 제7 부분 이미지 데이터를 생성하는 단계; 그리고
상기 제6 부분 이미지 데이터 및 상기 제7 부분 이미지 데이터에 대해 알파 블렌딩을 수행하여 제8 부분 이미지 데이터를 생성하는 단계를 더 포함하고,
상기 제5 부분 이미지 데이터에 적용된 알파 값과 상기 제8 부분 이미지 데이터에 적용된 알파 값은 서로 다른 동작 방법.
제14항에 있어서,
상기 제1 이미지 데이터는 상기 제1 부분 이미지 데이터, 상기 제2 부분 이미지 데이터 및 상기 제5 부분 이미지 데이터에 기반하여 프레임의 단위로 상기 제2 이미지 데이터로 변환되는 동작 방법.
이미지 센서; 그리고
상기 이미지 센서로부터 제1 이미지 데이터를 수신하고, 그리고 상기 제1 이미지 데이터를 제2 이미지 데이터로 변환하려 출력하는 프로세서를 포함하고,
상기 이미지 센서는:
렌즈;
상기 렌즈를 통해 입사되는 광에서 특정한 주파수의 성분들을 각각 투과시키는 컬러 필터들을 포함하는 컬러 필터 어레이;
상기 컬러 필터들일 투과한 광의 상기 특정한 주파수 성분들의 세기를 아날로그 신호들로 변환하도록 구성되는 픽셀들을 포함하는 픽셀 어레이; 그리고
상기 아날로그 신호들을 디지털 신호들로 변환하여 상기 제1 이미지 센서로 출력하도록 구성되는 아날로그-디지털 변환기를 포함하고,
상기 프로세서는:
상기 제1 이미지 데이터를 수신하는 제1 메모리;
위치 정보를 저장하는 위치 정보 저장소;
제1 입력 데이터에 대해 제1 변환을 수행하고, 그리고 상기 제1 변환의 결과를 제1 부분 이미지 데이터로 출력하도록 구성되는 제1 변환 블록;
제2 입력 데이터에 대해 제2 변환을 수행하고, 그리고 상기 제2 변환의 결과를 제2 부분 이미지 데이터로 출력하도록 구성되는 제2 변환 블록;
상기 위치 정보에 기반하여 상기 제1 이미지 데이터를 상기 제1 입력 데이터, 상기 제2 입력 데이터, 또는 상기 제1 입력 데이터 및 상기 제1 입력 데이터 중 하나의 형태로 출력하도록 구성되는 선택 블록; 그리고
상기 선택 블록으로부터의 선택 신호에 응답하여 상기 제1 부분 이미지 데이터 및 상기 제2 부분 이미지 데이터를 조합하여 제2 이미지 데이터를 생성하도록 구성되는 믹서를 포함하고,
상기 제1 부분 이미지 데이터 및 상기 제2 부분 이미지 데이터가 함께 출력될 때, 상기 믹서는 상기 제1 부분 이미지 데이터 및 상기 제2 부분 이미지 데이터에 대해 알파 블렌딩을 수행하도록 구성되는 전자 장치.
제19항에 있어서,
상기 제1 변환은 방향성 보간(directional interpolation)이고, 그리고
상기 제2 변환은 업스케일(upscale)인 전자 장치.