KR102083835B1 - 딥 러닝 기반 이미지 처리장치, 이미지 처리방법 및 컴퓨터-판독가능 매체 및 딥 러닝 기반 이미지 센싱장치 - Google Patents

Abstract

본 발명은 딥 러닝 기반 이미지 처리장치, 이미지 처리방법 및 컴퓨터-판독가능 매체 및 딥 러닝 기반 이미지 센싱장치에 관한 것으로서, 더욱 상세하게는 매우 적은 수의 컬러픽셀을 포함하는 컬러필터어레이를 통해 획득한 이미지를 인공신경망을 통해 처리하여 색상을 복원하는 딥 러닝 기반 이미지 처리장치, 이미지 처리방법 및 컴퓨터-판독가능 매체 및 딥 러닝 기반 이미지 센싱장치에 관한 것이다.

Description

딥 러닝 기반 이미지 처리장치, 이미지 처리방법 및 컴퓨터-판독가능 매체 및 딥 러닝 기반 이미지 센싱장치{Deep Learning-Based Image Processing Apparatus, Image Processing Method and Computer-readable Medium and Deep Learning-Based Image Sensing Apparatus}

본 발명은 딥 러닝 기반 이미지 처리장치, 이미지 처리방법 및 컴퓨터-판독가능 매체 및 딥 러닝 기반 이미지 센싱장치에 관한 것으로서, 더욱 상세하게는 매우 적은 수의 컬러픽셀을 포함하는 컬러필터어레이를 통해 획득한 이미지를 인공신경망을 통해 처리하여 색상을 복원하는 딥 러닝 기반 이미지 처리장치, 이미지 처리방법 및 컴퓨터-판독가능 매체 및 딥 러닝 기반 이미지 센싱장치에 관한 것이다.

일반적으로, 이미지 센서는 광학 영상을 전기 신호로 변환시키는 반도체 소자로서, CCD(Charge Couple Device) 이미지 센서와 CMOS(Complementary Metal-Oxide Semiconductor) 이미지 센서가 널리 활용되고 있다.

이와 같은 이미지 센서에 사용되는 광 감지소자는 일반적으로 광학 신호의 세기만을 측정할 뿐 분광 특성은 감지할 수 없기 때문에 컬러 필터를 통해 일정 영역 주파수의 광학 신호만을 통과시켜 소정의 개수의 주파수 영역에 대해 각각 컬러 필터 및 광 감지소자를 구비하여, 각 주파수 영역에 대한 광학 신호의 세기를 구하고 이로부터 컬러 이미지 데이터(R, G, B 데이터)를 얻는다. 이와 같은 컬러 필터는 적색(Red), 녹색(Green), 청색(Blue) 등의 컬러필터가 규칙적으로 배열된 컬러 필터 어레이(Color Filter Array, CFA)를 사용하고 있다.

도 1은 일반적으로 사용되는 이미지 센서를 개략적으로 도시하는 도면이다. 일반적인 이미지 센서는 도 1에 도시된 것과 같이 컬러 필터 어레이(20) 및 상기 컬러 필터 어레이(20)를 통과한 빛을 감지하는 광 감지소자가 배열된 센서어레이(30)로 구성된다.

상기 컬러 필터 어레이(20)에는 적색 필터(R), 녹색 필터(G) 및 청색 필터(B)가 규칙적으로 배열되어 있다. 이와 같은 하나의 색상 필터(20.1)는 하나의 광 감지소자(30.1)에 대응되어, 상기 광 감지소자(30.1)에서는 상기 색상 필터(20.1)를 통과한 빛의 세기를 감지하여, 해당 위치에서의 해당 색상의 빛의 세기를 감지하게 된다.

도 1에 도시된 베이어 패턴의 최소 반복 단위는 공통적으로 2개의 행(Row) 및 2개의 열(Column) 즉, 2 X 2의 어레이 구조를 포함한다

베이어 패턴은 적색 필터(R), 녹색 필터(G) 및 청색 필터(B)가 1:2:1의 비율을 가진다. 이러한 베이어 패턴은 적색 필터(R)와 청색 필터(B)가 대각선 방향으로 배치되고, 이와 교차되는 대각선 방향으로 두 개의 녹색 필터 (G)들이 배치된다.

이와 같은 구성을 통해 각각의 색상 필터를 통과한 빛이 각각의 광 감지소자에서 검출되고, 이와 같이 검출된 빛의 세기에 기초하여 이미지를 형성하게 된다. 다만, 색상 필터를 통해서는 하나의 색상의 빛의 세기만을 판독할 수 있어, 인접한 다른 색상의 필터를 통해 획득한 정보에 기초하여 색을 복원하는 디모자이킹 과정이 필요하게 된다.

한편, 이와 같이 컬러 필터 어레이의 색상 필터를 통과한 빛은 상기 색상 필터에 의해 손실이 발생하게 되고, 이와 같은 특성은 특히 저조도 환경에서 이미지를 센싱 하는 경우, 약한 빛의 세기에 대한 신호를 증폭하는 과정에서 노이즈의 영향이 높아져 획득하는 이미지의 품질이 낮아지게 된다.

이를 개선하기 위해 컬러 필터 어레이에 색상 필터가 아닌, 모든 주파수의 빛을 통과시키는 화이트 필터를 배치하여, 저조도 환경에서도 노이즈에 대한 영향을 낮추고, 고품질의 이미지를 획득할 수 있도록 하는 방법이 제안되었다.

이와 같은 방법에서는 상기 화이트 필터를 사용함으로써 저조도 환경에서도 컬러 필터에 의한 빛의 손실을 줄일 수 있으나, 화이트 필터에서는 색상 정보를 획득할 수 없어 디모자이킹 과정에서 색상의 복원에 불리하게 된다. 따라서 현재의 컬러 필터 어레이는 색상 정보의 획득을 위해 화이트 필터의 비율이 매우 낮고, 화이트 패턴을 높이는 경우, 기존의 방식으로는 색상 복원에 있어서 문제점이 발생할 수 있다. 따라서, 저조도 환경에서의 새로운 기법에 의한 고품질 이미지 획득을 위한 장치 및 이미지 처리 알고리즘의 개발이 필요하다.

본 발명은 매우 적은 수의 컬러픽셀을 포함하는 컬러필터어레이를 통해 획득한 이미지를 인공신경망을 통해 처리하여 색상을 복원하는 딥 러닝 기반 이미지 센싱장치 및 방법을 제공하는 것을 그 목적으로 한다.

상기와 같은 과제를 해결하기 위하여 본 발명은, 1 이상의 프로세서 및 1 이상의 메모리를 갖고, 전기적으로 접속된 이미지센서로부터 이미지데이터를 입력 받아 병합이미지를 출력하는 이미지처리장치로서, 상기 이미지처리장치는, 상기 이미지센서의 복수의 화이트픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제1이미지를 입력 받는 제1이미지입력부; 상기 이미지센서의 복수의 컬러픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제2이미지를 입력 받는 제2이미지입력부; 및 학습된 인공신경망에 의하여 상기 제1이미지 및 상기 제2이미지에 기초하여 병합이미지를 생성하는 이미지병합부; 를 포함하고, 상기 제1이미지는 상기 병합이미지의 전체 픽셀의 수의 70% 이상의 화이트픽셀 정보를 포함하고, 상기 제2이미지는 상기 병합이미지의 전체 픽셀의 수의 30% 이하의 컬러픽셀 정보를 포함하는, 이미지처리장치를 제공한다.

본 발명에서는, 상기 복수의 컬러픽셀은 각각, 적색 빛을 투과시키는 R픽셀; 녹색 빛을 투과시키는 G픽셀; 및 청색 빛을 투과시키는 B픽셀; 중 어느 하나이고, 상기 제2이미지는 복수의 컬러픽셀이 기설정된 패턴에 따라 배열되어 있을 수 있다.

본 발명에서는, 상기 기설정된 패턴은, 상기 R픽셀, G픽셀 및 B픽셀이 각각 1 이상 포함되어, 인접하게 배열되는 복수의 컬러픽셀그룹을 포함할 수 있다.

본 발명에서는, 상기 복수의 컬러픽셀그룹은 기설정된 간격에 따라 주기적으로 배열될 수 있다.

본 발명에서는, 상기 학습된 인공신경망은 이미지의 구조적 유사도(SSIM)에 기반하여 학습될 수 있다.

본 발명에서는, 상기 학습된 인공신경망은 컨볼루션신경망을 포함하고, 상기 제1이미지는 밝기정보만을 포함하는 1 채널 데이터이고, 상기 제2이미지는 색상정보를 포함하는 3 채널 데이터이고, 상기 컨볼루션신경망은 상기 제2이미지의 데이터를 컬러힌트로 할 수 있다.

본 발명에서는, 상기 제2이미지의 제1컨볼루션블록의 출력은 상기 제1이미지의 제1컨볼루션블록으로 입력될 수 있다.

상기와 같은 과제를 해결하기 위하여 본 발명은, 1 이상의 프로세서 및 1 이상의 메모리를 갖는 컴퓨팅 장치에서 수행되고, 전기적으로 접속된 이미지센서로부터 이미지데이터를 입력 받아 병합이미지를 출력하는 이미지처리방법으로서, 상기 이미지처리방법은, 상기 이미지센서의 복수의 화이트픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제1이미지를 입력 받는 제1이미지입력단계; 상기 이미지센서의 복수의 컬러픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제2이미지를 입력 받는 제2이미지입력단계; 및 학습된 인공신경망에 의하여 상기 제1이미지 및 상기 제2이미지에 기초하여 병합이미지를 생성하는 이미지병합단계; 를 포함하고, 상기 제1이미지는 상기 병합이미지의 전체 픽셀의 수의 70% 이상의 화이트픽셀 정보를 포함하고, 상기 제2이미지는 상기 병합이미지의 전체 픽셀의 수의 30% 이하의 컬러픽셀 정보를 포함하는, 이미지처리방법을 제공한다.

본 발명에서는, 상기 복수의 컬러픽셀은 각각, 적색 빛을 투과시키는 R픽셀; 녹색 빛을 투과시키는 G픽셀; 및 청색 빛을 투과시키는 B픽셀; 중 어느 하나이고, 상기 제2이미지는 복수의 컬러픽셀이 기설정된 패턴에 따라 배열되어 있을 수 있다.

본 발명에서는, 상기 기설정된 패턴은, 상기 R픽셀, G픽셀 및 B픽셀이 각각 1 이상 포함되어, 인접하게 배열되는 복수의 컬러픽셀그룹을 포함할 수 있다.

상기와 같은 과제를 해결하기 위하여 본 발명은, 전기적으로 접속된 이미지센서로부터 이미지데이터를 입력 받아 병합이미지를 출력하는 이미지처리방법을 구현하기 위한 컴퓨터-판독가능 매체로서, 상기 컴퓨터-판독가능 매체는, 컴퓨팅 장치로 하여금 이하의 단계들을 수행하도록 하는 명령들을 저장하며, 상기 단계들은: 상기 이미지센서의 복수의 화이트픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제1이미지를 입력 받는 제1이미지입력단계; 상기 이미지센서의 복수의 컬러픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제2이미지를 입력 받는 제2이미지입력단계; 및 학습된 인공신경망에 의하여 상기 제1이미지 및 상기 제2이미지에 기초하여 병합이미지를 생성하는 이미지병합단계;를 포함하고, 상기 제1이미지는 상기 병합이미지의 전체 픽셀의 수의 70% 이상의 화이트픽셀 정보를 포함하고, 상기 제2이미지는 상기 병합이미지의 전체 픽셀의 수의 30% 이하의 컬러픽셀 정보를 포함하는, 컴퓨터-판독가능 매체를 제공한다.

본 발명에서는, 상기 복수의 컬러픽셀은 각각, 적색 빛을 투과시키는 R픽셀; 녹색 빛을 투과시키는 G픽셀; 및 청색 빛을 투과시키는 B픽셀; 중 어느 하나이고, 상기 제2이미지는 복수의 컬러픽셀이 기설정된 패턴에 따라 배열되어 있을 수 있다.

본 발명에서는, 상기 기설정된 패턴은, 상기 R픽셀, G픽셀 및 B픽셀이 각각 1 이상 포함되어, 인접하게 배열되는 복수의 컬러픽셀그룹을 포함할 수 있다.

상기와 같은 과제를 해결하기 위하여 본 발명은, 이미지 센싱장치로서, 복수의 픽셀에 대한 필터를 포함하는 컬러필터어레이; 상기 컬러필터어레이의 복수의 픽셀에 대응되어 빛을 감지하는 복수의 센서가 배열된 센서어레이; 및 상기 센서어레이로부터 센싱 된 데이터에 기초하여 이미지데이터를 생성하는, 이미지센서기판; 을 포함하는 이미지센서; 및 상기 이미지센서에 전기적으로 접속되고, 상기 이미지데이터를 입력 받아 병합이미지를 출력하는 이미지처리장치를 포함하고, 상기 컬러필터어레이는 화이트픽셀의 수가 전체 픽셀의 수의 70% 이상이고, 상기 이미지처리장치는, 상기 이미지센서의 복수의 화이트픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제1이미지를 입력 받는 제1이미지입력부; 상기 이미지센서의 복수의 컬러픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제2이미지를 입력 받는 제2이미지입력부; 및 학습된 인공신경망에 의하여 상기 제1이미지 및 상기 제2이미지에 기초하여 병합이미지를 생성하는 이미지병합부;를 포함하고, 상기 제1이미지는 상기 병합이미지의 전체 픽셀의 수의 70% 이상의 화이트픽셀 정보를 포함하고, 상기 제2이미지는 상기 병합이미지의 전체 픽셀의 수의 30% 이하의 컬러픽셀 정보를 포함하는, 이미지처리장치를 제공한다.

본 발명의 일 실시예에 따르면 화이트픽셀의 비율이 높은 컬러필터어레이를 이용하여 빛을 센싱 함으로써 저조도 환경에서 우수한 품질의 이미지를 획득할 수 있는 효과를 발휘할 수 있다.

본 발명의 일 실시예에 따르면 적은 비율의 컬러픽셀을 통해 획득한 색상정보에 기초하여 인공신경망을 통해 색상을 복원하여 높은 품질의 색상 복원을 수행할 수 있는 효과를 발휘할 수 있다.

본 발명의 일 실시예에 따르면 컬러필터어레이에 R픽셀, G픽셀, B픽셀이 인접하게 배열되어, 색상 복원에 필요한 정확한 색상 정보를 제공하여 더욱 높은 품질의 색상 복원을 수행할 수 있는 효과를 발휘할 수 있다.

도 1은 일반적인 이미지 센서의 컬러필터어레이 및 센서어레이의 구조를 개략적으로 도시하는 도면이다.
도 2는 본 발명의 일 실시예에 따른 이미지 센싱장치의 구조를 개략적으로 도시하는 도면이다.
도 3은 본 발명의 일 실시예에 따른 이미지처리장치의 내부 구조를 개략적으로 도시하는 도면이다.
도 4는 본 발명의 일 실시예에 따른 컬러필터어레이의 패턴을 개략적으로 도시하는 도면이다.
도 5는 본 발명의 일 실시예에 따른 이미지병합부 및 병합이미지출력부의 동작을 개략적으로 도시하는 도면이다.
도 6은 본 발명의 일 실시예에 따른 이미지병합부의 인공신경망의 동작을 개략적으로 도시하는 도면이다.
도 7은 본 발명의 일 실시예에 따른 이미지병합부의 컨볼루션신경망의 구조를 개략적으로 도시하는 도면이다.
도 8은 본 발명의 일 실시예에 따른 이미지 센싱 방법의 각 단계를 개략적으로 도시하는 도면이다.
도 9는 본 발명의 일 실시예에 따라 획득한 이미지를 도시하는 도면이다.
도 10은 본 발명의 일 실시예에 따라 획득한 이미지를 도시하는 도면이다.
도 11은 상기 도 9 및 도 10의 이미지에 대한 기반 진실(Ground Truth) 이미지이다.

이하에서는, 다양한 실시예들 및/또는 양상들이 이제 도면들을 참조하여 개시된다. 하기 설명에서는 설명을 목적으로, 하나이상의 양상들의 전반적 이해를 돕기 위해 다수의 구체적인 세부사항들이 개시된다. 그러나, 이러한 양상(들)은 이러한 구체적인 세부사항들 없이도 실행될 수 있다는 점 또한 본 발명의 기술 분야에서 통상의 지식을 가진 자에게 인식될 수 있을 것이다. 이후의 기재 및 첨부된 도면들은 하나 이상의 양상들의 특정한 예시적인 양상들을 상세하게 기술한다. 하지만, 이러한 양상들은 예시적인 것이고 다양한 양상들의 원리들에서의 다양한 방법들 중 일부가 이용될 수 있으며, 기술되는 설명들은 그러한 양상들 및 그들의 균등물들을 모두 포함하고자 하는 의도이다.

또한, 다양한 양상들 및 특징들이 다수의 디바이스들, 컴포넌트들 및/또는 모듈들 등을 포함할 수 있는 시스템에 의하여 제시될 것이다. 다양한 시스템들이, 추가적인 장치들, 컴포넌트들 및/또는 모듈들 등을 포함할 수 있다는 점 그리고/또는 도면들과 관련하여 논의된 장치들, 컴포넌트들, 모듈들 등 전부를 포함하지 않을 수도 있다는 점 또한 이해되고 인식되어야 한다.

본 명세서에서 사용되는 "실시예", "예", "양상", "예시" 등은 기술되는 임의의 양상 또는 설계가 다른 양상 또는 설계들보다 양호하다거나, 이점이 있는 것으로 해석되지 않을 수도 있다. 아래에서 사용되는 용어들 '~부', '컴포넌트', '모듈', '시스템', '인터페이스' 등은 일반적으로 컴퓨터 관련 엔티티(computer-related entity)를 의미하며, 예를 들어, 하드웨어, 하드웨어와 소프트웨어의 조합, 소프트웨어를 의미할 수 있다.

또한, "포함한다" 및/또는 "포함하는"이라는 용어는, 해당 특징 및/또는 구성요소가 존재함을 의미하지만, 하나이상의 다른 특징, 구성요소 및/또는 이들의 그룹의 존재 또는 추가를 배제하지 않는 것으로 이해되어야 한다.

또한, 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.

또한, 본 발명의 실시예들에서, 별도로 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 발명의 실시예에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.

도 2는 본 발명의 일 실시예에 따른 이미지 센싱장치의 구조를 개략적으로 도시하는 도면이다.

도 2를 참조하면 본 발명의 일 실시예에 따른 이미지 센싱장치는 복수의 픽셀에 대한 필터를 포함하는 컬러필터어레이(2000); 상기 컬러필터어레이의 복수의 픽셀에 대응되어 빛을 감지하는 복수의 센서가 배열된 센서어레이(3000); 및 상기 센서어레이로부터 센싱 된 데이터에 기초하여 이미지데이터를 생성하는, 이미지센서기판(4000); 을 포함하는 이미지센서(5000); 및 상기 이미지센서(5000)에 전기적으로 접속되고, 상기 이미지데이터를 입력 받아 병합이미지를 출력하는 이미지처리장치(1000)를 포함한다.

상기 컬러필터어레이(2000)는 복수의 픽셀에 대한 필터를 포함하고, 상기 필터는 빛을 통과시켜 센서어레이(3000)의 각각의 센서가 빛을 감지할 수 있도록 한다. 상기 컬러필터어레이는 대응하는 센서에 빛을 모아 전달할 수 있도록 하는 복수의 마이크로 렌즈를 포함할 수 있다.

상기 센서어레이(3000)는 빛을 감지하는 복수의 센서가 상기 컬러필터어레이(2000)의 필터에 대응하여, 상기 필터를 통과한 빛을 감지한다. 본 발명의 일 실시예에서 상기 센서는 CCD 혹은 CMOS로 구성되어 빛을 감지할 수 있다.

상기 이미지센서기판(4000)은 상기 센서어레이(3000)의 각각의 센서가 감지한 정보로부터 이미지데이터를 생성한다. 상기 이미지데이터는 상기 센서어레이(3000)의 각각의 센서가 감지한 빛의 정보 및 상기 센서의 위치에 대한 정보를 포함하여, 2차원 이미지를 생성할 수 있도록 한다.

상기 픽셀은 모든 색상의 빛을 통과시키는 화이트픽셀; 혹은 기설정된 색상의 빛만을 통과시키는 컬러픽셀; 이다. 상기 화이트픽셀은 모든 색상의 빛을 통과시켜, 상기 화이트픽셀에 대응되는 센서에서는 빛의 세기를 감지하여 밝기 정보를 제공하게 되고, 상기 컬러픽셀은 기설정된 색상의 빛(예를 들어 적색, 녹색 혹은 청색)만을 통과시켜, 상기 컬러픽셀에 대응되는 센서에서는 상기 기설정된 색상의 빛의 세기를 감지하여 색상 정보를 제공하게 된다. 상기 이미지처리장치(1000)에서는 상기 밝기 정보 및 상기 색상 정보에 기초하여 최종적인 출력이미지를 생성하게 된다.

본 발명의 일 실시예에서 상기 컬러필터어레이는, 상기 화이트픽셀의 수가 전체 픽셀의 수의 70% 이상이다. 이와 같은 실시예에서는 상기 컬러픽셀의 수는 전체 픽셀의 수의 30% 이하이다. 바람직하게는, 상기 화이트픽셀의 수가 전체 픽셀의 수의 80% 이상이고, 더욱 바람직하게는 상기 화이트픽셀의 수가 전체 픽셀의 수의 90% 이상이다.

이와 같이 상기 화이트픽셀의 수가 전체 픽셀의 수의 90% 이상인 경우 상기 컬러픽셀의 수는 전체 픽셀의 수의 10% 이하가 된다.

이와 같이 컬러픽셀의 수가 적은 경우 상기 컬러픽셀을 통해 획득한 색상 정보에 기초하여 이미지 전체에 색상을 복원하는 과정이 필요한데, 상기 이미지처리장치(1000)에서 이와 같은 동작을 수행하게 된다. 이 때, 본 발명의 일 실시예에서 상기 이미지처리장치(1000)는 인공신경망을 통해 색상을 복원하는 과정을 수행할 수 있다.

도 3은 본 발명의 일 실시예에 따른 이미지처리장치의 내부 구조를 개략적으로 도시하는 도면이다.

도 3은 본 발명의 일 실시예에 따른 이미지처리장치(1000)의 내부구성요소를 블록도로 도시한다.

본 실시예에 따른 이미지처리장치(1000)는 프로세서(100), 버스(200), 네트워크 인터페이스(300) 및 메모리(400)를 포함할 수 있다. 메모리는 운영체제(410), 이미지병합루틴(420), 센서정보(430)를 포함할 수 있다. 프로세서(100)는 제1이미지입력부(110), 제2이미지입력부(120), 이미지병합부(130), 및 병합이미지출력부(140)를 포함할 수 있다. 다른 실시예들에서 이미지처리장치(1000)는 도 3의 구성요소들보다 더 많은 구성요소들을 포함할 수도 있다.

메모리는 컴퓨터에서 판독 가능한 기록 매체로서, RAM(random access memory), ROM(read only memory) 및 디스크 드라이브와 같은 비소멸성 대용량 기록장치(permanent mass storage device)를 포함할 수 있다. 또한, 메모리에는 운영체제(410), 이미지병합루틴(420), 센서정보(430)를 위한 프로그램 코드가 저장될 수 있다. 이러한 소프트웨어 구성요소들은 드라이브 메커니즘(drive mechanism, 미도시)을 이용하여 메모리와는 별도의 컴퓨터에서 판독 가능한 기록 매체로부터 로딩될 수 있다. 이러한 별도의 컴퓨터에서 판독 가능한 기록 매체는 플로피 드라이브, 디스크, 테이프, DVD/CD-ROM 드라이브, 메모리 카드 등의 컴퓨터에서 판독 가능한 기록 매체(미도시)를 포함할 수 있다. 다른 실시예에서 소프트웨어 구성요소들은 컴퓨터에서 판독 가능한 기록 매체가 아닌 네트워크 인터페이스부(300)를 통해 메모리에 로딩될 수도 있다.

버스(200)는 이미지처리장치(1000)를 제어하는 컴퓨팅 장치의 구성요소들간의 통신 및 데이터 전송을 가능하게 할 수 있다. 버스는 고속 시리얼 버스(high-speed serial bus), 병렬 버스(parallel bus), SAN(Storage Area Network) 및/또는 다른 적절한 통신 기술을 이용하여 구성될 수 있다.

네트워크 인터페이스부(300)는 이미지처리장치(1000)를 제어하는 컴퓨팅 장치를 컴퓨터 네트워크에 연결하기 위한 컴퓨터 하드웨어 구성 요소일 수 있다. 네트워크 인터페이스(300)는 이미지처리장치(1000)를 제어하는 컴퓨팅 장치를 무선 또는 유선 커넥션을 통해 컴퓨터 네트워크에 연결시킬 수 있다. 이와 같은 네트워크 인터페이스부(300)를 통하여 이미지처리장치(1000)를 제어하는 컴퓨팅 장치가 이미지처리장치(1000)에 무선적 혹은 유선적으로 접속될 수 있다.

프로세서는 기본적인 산술, 로직 및 이미지처리장치(1000)을 제어하는 컴퓨팅 장치의 입출력 연산을 수행함으로써, 컴퓨터 프로그램의 명령을 처리하도록 구성될 수 있다. 명령은 메모리 또는 네트워크 인터페이스부(300)에 의해, 그리고 버스(200)를 통해 프로세서(100)로 제공될 수 있다. 프로세서는 제1이미지입력부(110), 제2이미지입력부(120), 이미지병합부(130) 및 병합이미지출력부(140)를 위한 프로그램 코드를 실행하도록 구성될 수 있다. 이러한 프로그램 코드는 메모리와 같은 기록 장치에 저장될 수 있다.

상기 제1이미지입력부(110), 제2이미지입력부(120), 이미지병합부(130) 및 병합이미지출력부(140)는 이하에서 설명하게 될 이미지처리장치(1000)의 작동을 수행하기 위해 구성될 수 있다.

상기한 프로세서는 이미지처리장치(1000)를 제어하는 방법에 따라 일부 컴포넌트가 생략되거나, 도시되지 않은 추가의 컴포넌트가 더 포함되거나, 2개 이상의 컴포넌트가 결합될 수 있다.

본 발명의 일 실시예에 따른 이미지처리장치(1000)는 상기 이미지센서의 복수의 화이트픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제1이미지를 입력 받는 제1이미지입력부(110); 상기 이미지센서의 복수의 컬러픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제2이미지를 입력 받는 제2이미지입력부(120); 학습된 인공신경망에 의하여 상기 제1이미지 및 상기 제2이미지에 기초하여 병합이미지를 생성하는 이미지병합부(130); 및 상기 병합이미지를 외부로 출력하는 병합이미지출력부(140); 를 포함한다.

상기 제1이미지입력부(110)는 상기 화이트픽셀에 대응되는 상기 센서어레이(3000)의 센서로부터 획득한 제1이미지를 입력 받는다. 상기 제1이미지는 상기 화이트픽셀에 대응되는 상기 센서어레이(3000)의 센서로부터 센싱 된 정보로부터 생성될 수 있다.

본 발명의 일 실시예에서 상기 제1이미지는 상기 화이트픽셀에 대응되는 상기 센서어레이(3000)의 센서로부터 센싱 된 정보만을 입력 받아 생성할 수도 있고, 혹은 상기 센서어레이(3000)의 모든 센서로부터 획득한 이미지 중 상기 화이트픽셀에 대응되는 상기 센서의 위치에 해당하는 픽셀 외에 상기 컬러픽셀에 대응되는 상기 센서의 위치에 해당하는 픽셀의 정보를 제거함으로써 생성될 수 있다.

이와 같은 상기 제1이미지는 상기 화이트픽셀에 대응되는 상기 센서에 의해 획득한 정보로 구성되어 색상정보가 없는 모노 이미지로 생성될 수 있다.

상기 제2이미지입력부(120)는 상기 컬러픽셀에 대응되는 상기 센서어레이(3000)의 센서로부터 획득한 제2이미지를 입력 받는다. 상기 제2이미지는 상기 컬러픽셀에 대응되는 상기 센서어레이(3000)의 센서로부터 센싱 된 정보로부터 생성될 수 있다.

본 발명의 일 실시예에서 상기 제2이미지는 상기 컬러픽셀에 대응되는 상기 센서어레이(3000)의 센서로부터 센싱 된 정보만을 입력 받아 생성할 수도 있고, 혹은 상기 센서어레이(3000)의 모든 센서로부터 획득한 이미지 중 상기 컬러픽셀에 대응되는 상기 센서의 위치에 해당하는 픽셀 외에 상기 화이트픽셀에 대응되는 상기 센서의 위치에 해당하는 픽셀의 정보를 제거함으로써 생성될 수 있다.

이와 같은 상기 제2이미지는 상기 컬러픽셀에 대응되는 상기 센서에 의해 획득한 정보로 구성되어 컬러 이미지로 생성될 수 있다.

상기 이미지병합부(130)는 상기 제1이미지입력부(110) 및 상기 제2이미지입력부(120)로부터 상기 제1이미지 및 상기 제2이미지를 전송 받고, 상기 제1이미지 및 상기 제2이미지에 기초하여 병합이미지를 생성한다. 본 발명의 일 실시예에 따르면 상기 제1이미지는 밝기정보만을 포함하는 모노이미지이고, 상기 제2이미지는 색상정보를 포함하는 컬러이미지로서, 상기 제1이미지 및 상기 제2이미지를 병합함으로써 상기 이미지병합부(130)는 밝기정보 및 색상정보가 완전히 구비된 병합이미지를 생성하게 된다. 바람직하게는 상기 이미지병합부(130)는 학습된 인공신경망을 통해 상기 제1이미지 및 상기 제2이미지를 병합하여 병합이미지를 생성한다.

상기 병합이미지출력부(140)는 상기 이미지병합부(130)에서 생성된 병합이미지를 외부로 출력한다. 상기 병합이미지출력부(140)는 상기 이미지 센싱장치를 통해 빛을 센싱하고, 센싱 된 빛의 정보를 처리하여 생성한 상기 병합이미지를 연결된 장치로 전송하여 사용자 등이 이용할 수 있도록 한다. 상기 병합이미지출력부(140)는 네트워크인터페이스(300)를 통해 외부의 컴퓨팅 장치 등으로 상기 병합이미지를 전송할 수 있다.

도 4는 본 발명의 일 실시예에 따른 컬러필터어레이의 패턴을 개략적으로 도시하는 도면이다.

도 4를 참조하면 본 발명의 일 실시예에 따른 컬러필터어레이(2000)는 복수의 픽셀을 포함하고, 상기 픽셀은 모든 색상의 빛을 통과시키는 화이트픽셀; 혹은 기설정된 색상의 빛만을 통과시키는 컬러픽셀; 이고, 상기 컬러픽셀은, 적색 빛을 투과시키는 R픽셀; 녹색 빛을 투과시키는 G픽셀; 및 청색 빛을 투과시키는 B픽셀; 중 하나이고, 상기 컬러필터어레이에 기설정된 패턴에 따라 배열되어 있다.

도 4를 참조하면 상기 컬러필터어레이(2000)는 3종류의 컬러픽셀(R, G, B) 및 화이트픽셀(W)를 포함하고, 상기 컬러픽셀은 상기 컬러필터어레이(2000)에 기설정된 패턴에 따라 배열되어 있다. 도 4에 도시된 상기 기설정된 패턴은 본 발명의 일 실시예일뿐, 본 발명의 컬러픽셀은 도 4에 도시되지 않은 다른 패턴으로 배열되어 있을 수 있다.

도 4를 참조하면 본 발명의 일 실시예에 따른 상기 기설정된 패턴은 10 x 10 픽셀 크기의 패턴이 반복되는 형태이다. 설명의 편의를 위해 상기 10 x 10 크기의 패턴에서 왼쪽에서 n번째, 위에서 m번째 픽셀을 (n,m)픽셀이라 한다.

도 4에 도시된 실시예에서는 (1,1)픽셀은 B픽셀, (10,1)픽셀은 G픽셀, (5,5)픽셀은 R픽셀, (6,5)픽셀 및 (5,6)픽셀 은 G픽셀, (6,6)픽셀은 B픽셀, (1,10)픽셀은 G픽셀, (10,10)픽셀은 R픽셀이고, 나머지 픽셀은 모두 화이트픽셀(2200)이다.

이와 같이 배열된 화이트픽셀(2200) 및 컬러픽셀(2100)에 의해 상기 픽셀들에 대응되는 센서어레이(3000)의 센서는 각각 밝기정보 및 색상정보를 획득할 수 있게 된다.

이 때, 본 발명의 일 실시예에서 기설정된 상기 패턴은, 상기 R픽셀, G픽셀 및 B픽셀이 각각 1 이상 포함되어 인접하게 배열되는 컬러픽셀그룹을 포함하고, 상기 컬러픽셀그룹은 기설정된 상기 패턴에서 규칙적으로 배열된다. 바람직하게는 상기 컬러픽셀그룹은 상기 R픽셀, G픽셀 및 B픽셀이 각각 1 이상 포함되어 연속적으로 인접하게 배열된다.

도 4에 도시된 실시예에서는 (5,5)픽셀, (6,5)픽셀, (5,6)픽셀 및 (6,6)픽셀의 4개 픽셀이 인접하게 배열되어 컬러픽셀그룹(2100.a)을 형성한다. 이와 같은 컬러픽셀그룹에는 R픽셀((5,5)픽셀), G픽셀((6,5)픽셀, (5,6)픽셀) 및 B픽셀((6,6)픽셀)이 포함되어 베이어 패턴을 구성하고 있다.

또한, (1,1)픽셀, (10,1)픽셀, (1,10)픽셀 및 (10,10)픽셀이 상기 10 x 10 크기의 패턴의 모서리에서 인접하게 배열되어 컬러픽셀그룹(2100.b)을 형성한다.

이와 같이 R픽셀, G픽셀 및 B픽셀이 각각 1 이상 포함되는 컬러픽셀그룹을 형성함으로써, 상기 컬러픽셀그룹 영역에서의 적색, 녹색 및 청색 각각의 세기 정보를 획득할 수 있고, 이와 같은 3가지 색상 각각의 세기 정보에 기초하여, 상기 컬러픽셀그룹 영역에서의 색상 정보를 획득할 수 있게 된다.

이처럼 본 발명의 일 실시예에서는 기설정된 패턴이 상기 R픽셀, G픽셀 및 B픽셀이 각각 1 이상 포함되어 인접하게 배열되는 컬러픽셀그룹을 포함함으로써, 색상 복원에 필요한 정확한 색상 정보를 제공하여 더욱 높은 품질의 색상 복원을 수행할 수 있는 효과를 발휘할 수 있다.

이와 같은 기설정된 패턴에 대한 정보는 상기 메모리(400)의 센서정보(430)에 저장되어, 이미지처리장치(1000)에서 활용될 수 있다. 예를 들면 상기 제1이미지입력부(110)는 상기 기설정된 패턴에 대한 정보에 기초하여 상기 이미지센서(500)로부터 수신한 이미지데이터로부터 제1이미지를 획득할 수 있다.

도 5는 본 발명의 일 실시예에 따른 이미지병합부 및 병합이미지출력부의 동작을 개략적으로 도시하는 도면이다.

도 5를 참조하면 본 발명의 일 실시예에 따른 이미지병합부(130)는 상기 제1이미지입력부(110) 및 상기 제2이미지입력부(120)로부터 각각 제1이미지(1) 및 제2이미지(2)를 입력 받는다.

도 5에 도시된 상기 제1이미지(1) 및 상기 제2이미지(2)는 상기 도 4에 도시된 것과 같은 컬러필터어레이(2000)의 패턴에 의해 획득한 이미지이다. 상기 제1이미지(1)는 상기 컬러필터어레이(2000)의 컬러픽셀(2100)을 제외한 화이트픽셀(2200)에 대응되는 센서어레이의 센서로부터 획득되어 상기 컬러픽셀(2100)을 제외한 영역(흰색으로 표시)에서 각각의 픽셀의 빛의 세기를 감지함으로써 밝기 정보를 포함하게 된다. 도 5에 도시된 것과 같이 상기 제1이미지(1)는 기설정된 패턴에 의해 배열된 상기 컬러픽셀그룹(2100.a)(2100.b) 영역을 구멍으로 남겨둔 나머지 영역에 대한 밝기 정보가 포함된다.

상기 제2이미지(2)는 상기 컬러필터어레이(2000)의 컬러픽셀(2100)에 대응되는 센서어레이의 센서로부터 획득되어 상기 컬러픽셀(2100) 영역(흰색으로 표시)에서 각각의 픽셀에서 설정된 색상에 대한 빛의 세기를 감지함으로써 색상 정보를 포함하게 된다. 도 5에 도시된 것과 같이 상기 제2이미지(2)는 상기 컬러픽셀그룹(2100.a)(2100.b) 영역에 대한 색상 정보가 포함된다.

본 발명의 일 실시예에서, 상기 이미지병합부(130)는, 학습된 인공신경망에 기초하여 상기 제1이미지(1) 및 상기 제2이미지(2)를 병합하여 병합이미지를 생성할 수 있다. 바람직하게는 상기 인공신경망은 컨볼루션신경망이다. 컨볼루션신경망은 인공신경망에 필터 기술을 병합하여 인공신경망이 2차원 영상을 잘 습득할 수 있도록 최적화 시킨 알고리즘이다.

이와 같은 인공신경망을 통해 상기 제1이미지 및 상기 제2이미지를 병합하여 병합이미지를 생성함으로써, 더욱 높은 품질의 병합이미지를 생성할 수 있다.

상기 이미지병합부(130)를 통해 생성된 상기 병합이미지는 상기 병합이미지출력부(140)를 통해 외부의 장치 등으로 출력된다. 예를 들어 상기 병합이미지출력부(140)는 네트워크인터페이스(300)를 통해 연결된 메모리카드에 상기 병합이미지를 저장하거나, 혹은 인터넷 망을 통해 연결된 클라우드서비스 등에 상기 병합이미지를 전송하여 저장하도록 할 수도 있다.

도 6은 본 발명의 일 실시예에 따른 이미지병합부의 인공신경망의 동작을 개략적으로 도시하는 도면이다.

도 6의 (a) 는 본 발명의 일 실시예에 따른 이미지병합부(130)의 인공신경망(131)이 학습데이터로부터 학습을 수행하는 과정을 도시한다. 도 6의 (a)를 참조하면 상기 인공신경망(131)은 본 발명의 일 실시예에 따라 획득할 수 있는 제1이미지에 해당하는 제1학습데이터 및 본 발명의 일 실시예에 따라 획득할 수 있는 제2이미지에 해당하는 제2학습데이터를 입력 받고 상기 제1학습데이터 및 상기 제2학습데이터를 병합하여 학습병합이미지를 생성한다. 상기 제1학습데이터는 제1이미지와 같이 컬러픽셀(2100)을 제외한 영역에 대한 밝기정보를 포함하는 모노 이미지이고, 상기 제2학습데이터는 제2이미지와 같이 컬러픽셀(2100)의 영역에 대한 색상정보를 포함하는 컬러 이미지이다. 이와 같은 제1학습데이터 및 제2학습데이터는 상기 인공신경망(131)에 대한 지도 학습(Supervised Learning)을 수행할 수 있는 교육 데이터 세트에 해당한다.

또한, 상기 인공신경망(131)은 제3학습데이터도 입력 받는다. 상기 제3학습데이터는 상기 제1학습데이터 및 상기 제2학습데이터에 의해 생성되는 컬러 이미지로서, 상기 제1학습데이터 및 상기 제2학습데이터를 병합하여 생성되는 학습병합이미지에 대한 기반 진실(Ground Truth)이미지이다. 상기 제3학습데이터는 상기 제1학습데이터 및 상기 제2학습데이터와 함께 상기 인공신경망(131)에 대한 지도 학습을 위한 교육 데이터 세트를 구성한다.

상기 인공신경망(131)은 도 6의 (a)에서와 같이 상기 제3학습데이터를 입력 받는다. 이 후 상기 인공신경망(131)은 상기 학습병합이미지와 상기 제3학습데이터를 비교하여, 상기 인공신경망(131)이 상기 제1학습데이터 및 상기 제2학습데이터로부터 생성하는 학습병합이미지가 상기 제3학습데이터에 가까워질 수 있도록 학습을 수행한다. 이는 역전파 알고리즘 등을 통해 상기 인공신경망(131)의 내부 파라미터 등을 변경하는 과정 등을 통해 수행될 수 있다.

도 6의 (b)는 학습된 상기 인공신경망(131)이 병합이미지를 생성하는 과정을 도시한다. 도 6의 (a) 와 같은 과정을 거쳐 학습된 상기 인공신경망(131)은 제1이미지 및 제2이미지를 입력 받아 병합이미지를 생성한다. 상기 제1학습데이터, 상기 제2학습데이터 및 상기 제3학습데이터로 구성되는 교육 데이터 세트를 통해 학습을 수행한 상기 인공신경망(131)은 상기 제1이미지 및 상기 제2이미지를 입력 받아 병합이미지를 생성하게 된다.

도 7은 본 발명의 일 실시예에 따른 이미지병합부의 컨볼루션신경망의 구조를 개략적으로 도시하는 도면이다.

도 7를 참조하면 제1이미지는 밝기정보만을 포함하는 1 채널 데이터이고, 제2이미지는 색상정보를 포함하는 3채널 데이터이다. 상기 제1이미지 및 상기 제2이미지가 각각 컨볼루션 신경망에 입력될 수 있다.

본 발명의 일 실시예에서 상기 컨볼루션 신경망은 상기 제2이미지를 컬러 힌트로 하는 크로스채널 오토인코더로 구성될 수 있다.

더욱 상세하게는 도 7를 참조하면 상기 컨볼루션 신경망은, 제1컨볼루션블록 내지 제10컨볼루션블록까지 10개의 컨볼루션블록을 포함한다. 상기 컨볼루션블록 각각은 2 내지 3개의 컨볼루션 및 활성함수 쌍을 포함하고, 제1컨볼루션블록 및 제10컨볼루션블록은 높이 H, 폭 W에 64 채널의 크기를 갖고, 제2컨볼루션블록 및 제9컨볼루션블록은 높이 H/2, 폭 W/2에 128 채널의 크기를 갖고, 제3컨볼루션블록 및 제8컨볼루션블록은 높이 H/4, 폭 W/4에 256 채널의 크기를 갖고, 제4컨볼루션블록 내지 제7컨볼루션블록은 높이 H/8, 폭 W/8에 512 채널의 크기를 갖는다. 바람직하게는 상기 활성함수는 ReLU(Rectified Linear Unit)이다.

제1컨볼루션블록에서 제2컨볼루션블록으로, 제2컨볼루션블록에서 제3컨볼루션블록으로, 제3컨볼루션블록에서 제4컨볼루션블록으로에서와 같이 공간해상도가 줄어드는 경우 다운샘플링에 의해 공간해상도를 줄이고, 제7컨볼루션블록에서 제8컨볼루션블록으로, 제8컨볼루션블록에서 제9컨볼루션블록으로, 제9컨볼루션블록에서 제10컨볼루션블록으로에서와 같이 공간해상도가 증가하는 경우 업샘플링에 의해 공간해상도를 증가시킨다.

제2이미지의 제1컨볼루션블록의 출력은 제1이미지의 제1컨볼루션블록으로 연결된다.

또한, 상기 제1컨볼루션블록의 출력은 제10컨볼루션블록으로, 제2컨볼루션블록의 출력은 제9컨볼루션블록으로, 제3컨볼루션블록의 출력은 제8컨볼루션블록으로 각각 연결된다.

제10컨볼루션블록의 마지막 레이어는 1 x 1 커널로서 3 채널의 출력 색상을 생성한다. 본 발명의 일 실시예에서 상기 3채널의 출력 색상은 RGB 색공간의 RGB 색상값일 수 있다.

이와 같은 컨볼루션 신경망은 아래와 같은 방식을 통해 학습된다.

상기 컨볼루션 신경망의 매핑 함수는 아래와 같이 표현될 수 있다.

이 때, M은 제1이미지, C는 제2이미지, θ는 상기 컨볼루션 신경망의 파라미터이다.

이 때, 출력값(

)과 실제 데이터(Y)의 일치도를 나타내는 로스함수는 아래와 같이 표현될 수 있다.

이 때, 상기 컨볼루션 신경망은 다음 식을 만족시키는 상기 파라미터 θ를 도출함으로써 상기 컨볼루션 신경망의 학습을 수행한다.

본 발명의 일 실시예에서는 컨볼루션 신경망을 통해 색상 복원 과정에서의 색번짐 현상을 방지하기 위하여 이미지의 구조적 유사도(Structural SIMilarity, SSIM)를 이용하여 컨볼루션 신경망을 학습시킨다.

도 8은 본 발명의 일 실시예에 따른 이미지처리방법의 각 단계를 개략적으로 도시하는 도면이다.

도 8을 참조하면 본 발명의 일 실시예에 따른 이미지처리방법은 전기적으로 접속된 이미지센서로부터 이미지데이터를 입력 받아 병합이미지를 출력하는 이미지처리방법으로서, 상기 이미지센서의 복수의 화이트픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제1이미지를 입력 받는 제1이미지입력단계(S110); 상기 이미지센서의 복수의 컬러픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제2이미지를 입력 받는 제2이미지입력단계(S120); 학습된 인공신경망에 의하여 상기 제1이미지 및 상기 제2이미지에 기초하여 병합이미지를 생성하는 이미지병합단계(S200); 및 상기 병합이미지를 외부로 출력하는 병합이미지출력단계(S300); 를 포함한다.

상기 제1이미지획득단계(S110)는 전술한 상기 제1이미지입력부(110)의 동작과 동일한 동작을 수행한다. 연결된 센서어레이(3000)의 센서 중 상기 화이트픽셀(2100)에 대응되는 센서로부터 센싱 된 정보를 입력 받아 제1이미지를 획득한다. 이와 같은 제1이미지는 상기 화이트픽셀(2100)에 대응되는 센서로부터 센싱 된 정보만을 입력 받아 구성될 수도 있고, 혹은 상기 센서어레이(3000)의 센서 전부로부터 센싱 된 정보를 입력 받은 후, 상기 화이트픽셀(2100)에 대응되는 센서로부터 센싱 된 정보를 선별하여 구성될 수도 있다.

상기 제2이미지획득단계(S120)는 전술한 상기 제2이미지입력부(120)의 동작과 동일한 동작을 수행한다. 연결된 센서어레이(3000)의 센서 중 상기 컬러픽셀(2200)에 대응되는 센서로부터 센싱 된 정보를 입력 받아 제2이미지를 획득한다. 이와 같은 제2이미지는 상기 컬러픽셀(2200)에 대응되는 센서로부터 센싱 된 정보만을 입력 받아 구성될 수도 있고, 혹은 상기 센서어레이(3000)의 센서 전부로부터 센싱 된 정보를 입력 받은 후, 상기 컬러픽셀(2200)에 대응되는 센서로부터 센싱 된 정보를 선별하여 구성될 수도 있다.

본 발명의 일 실시예에서 상기 제1이미지획득단계(S110) 및 상기 제2이미지획득단계(S120)는 동시에 수행될 수 있다.

상기 이미지병합단계(S200)는 상기 제1이미지 및 상기 제2이미지에 기초하여 병합이미지를 생성한다. 본 발명의 일 실시예에서 상기 이미지병합단계(S200)에서는 상기 제1이미지획득단계(S110) 및 상기 제2이미지획득단계(S120)에서 획득한 상기 제1이미지 및 상기 제2이미지를 전송 받고, 상기 제1이미지 및 상기 제2이미지를 병합하여 병합이미지를 생성한다. 본 발명의 일 실시예에 따르면 상기 제1이미지는 밝기정보만을 포함하는 모노이미지이고, 상기 제2이미지는 색상정보를 포함하는 컬러이미지로서, 상기 제1이미지 및 상기 제2이미지를 병합함으로써 상기 이미지병합단계(S200)에서는 밝기정보 및 색상정보가 완전히 구비된 병합이미지를 생성하게 된다. 바람직하게는 상기 이미지병합단계(S200)에서는 학습된 인공신경망을 통해 상기 제1이미지 및 상기 제2이미지를 병합하여 병합이미지를 생성한다.

상기 병합이미지출력단계(S300)는 상기 병합이미지를 외부로 출력한다. 상기 병합이미지출력단계(S300)에서는 상기 이미지 센싱장치를 통해 빛을 센싱하고, 센싱 된 빛의 정보를 처리하여 생성한 상기 병합이미지를 연결된 장치로 전송하여 사용자 등이 이용할 수 있도록 한다. 상기 병합이미지출력단계(S300)에서는 네트워크인터페이스(300)를 통해 외부의 컴퓨팅 장치 등으로 상기 병합이미지를 전송할 수 있다.

도 9 및 도 10은 본 발명의 일 실시예에 따라 획득한 이미지를 도시하는 도면이다.

도 9는 본 발명의 일 실시예에 따른 이미지 센싱장치로부터 획득한 제1이미지이다. 제1이미지는 컬러필터어레이(2000)의 컬러픽셀그룹을 제외한 화이트픽셀에서 획득되는 단색 이미지로서, 도 9의 상단에서와 같이 컬러픽셀그룹 위치에서의 이미지 정보가 검은색으로 처리된 흑백 이미지로 나타난다.

도 10은 본 발명의 일 실시예에 따른 이미지 센싱장치에 의해 생성된 병합이미지이다. 상기 제1이미지 및 컬러픽셀그룹에서 획득한 색상 정보를 포함하는 제2이미지를 인공신경망을 통해 병합함으로써, 도 10과 같이 색상정보가 포함된 컬러 이미지를 획득할 수 있다.

도 10에서 보는 바와 같이, 본 발명의 일 실시예에 따라 인공신경망을 통해 병합한 병합이미지는 매우 낮은 비율의 컬러픽셀을 포함하는 컬러필터어레이(2000)를 통해 획득한 정보에 기초하여 색상을 복원하였음에도 매우 우수하게 색을 재현한다.

도 11은 상기 도 9 및 도 10의 이미지에 대한 기반 진실(Ground Truth) 이미지이다.

도 11 및 상기 도 10을 비교해 보면, 본 발명의 일 실시예에 따라 인공신경망을 통해 병합한 병합이미지가 상기 기반 진실(Ground Truth) 이미지를 충실하게 복원해 냄을 확인할 수 있다.

본 발명의 일 실시예에 따르면 화이트픽셀의 비율이 높은 컬러필터어레이를 이용하여 빛을 센싱 함으로써 저조도 환경에서 우수한 품질의 이미지를 획득할 수 있는 효과를 발휘할 수 있다.

본 발명의 일 실시예에 따르면 적은 비율의 컬러픽셀을 통해 획득한 색상정보에 기초하여 인공신경망을 통해 색상을 복원하여 높은 품질의 색상 복원을 수행할 수 있는 효과를 발휘할 수 있다.

본 발명의 일 실시예에 따르면 컬러필터어레이에 R픽셀, G픽셀, B픽셀이 인접하게 배열되어, 색상 복원에 필요한 정확한 색상 정보를 제공하여 더욱 높은 품질의 색상 복원을 수행할 수 있는 효과를 발휘할 수 있다.

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로 (collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨팅 장치 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (14)

1 이상의 프로세서 및 1 이상의 메모리를 갖고, 전기적으로 접속된 이미지센서로부터 이미지데이터를 입력 받아 병합이미지를 출력하는 이미지처리장치로서,
상기 이미지처리장치는,
상기 이미지센서의 복수의 화이트픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제1이미지를 입력 받는 제1이미지입력부;
상기 이미지센서의 복수의 컬러픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제2이미지를 입력 받는 제2이미지입력부; 및
학습된 인공신경망에 의하여 상기 제1이미지 및 상기 제2이미지에 기초하여 병합이미지를 생성하는 이미지병합부; 를 포함하고,
상기 제1이미지는 상기 병합이미지의 전체 픽셀의 수의 90% 이상의 화이트픽셀 정보를 포함하고,
상기 제2이미지는 상기 병합이미지의 전체 픽셀의 수의 10% 이하의 컬러픽셀 정보를 포함하고,
상기 복수의 컬러픽셀은 각각,
적색 빛을 투과시키는 R픽셀;
녹색 빛을 투과시키는 G픽셀; 및
청색 빛을 투과시키는 B픽셀; 중 어느 하나이고,
상기 제2이미지는 복수의 컬러픽셀이 기설정된 패턴에 따라 배열되어 있고,
상기 기설정된 패턴은,
상기 R픽셀, G픽셀 및 B픽셀이 각각 1 이상 포함되어, 인접하게 배열되는 복수의 컬러픽셀그룹을 포함하는, 이미지처리장치.

삭제

삭제

청구항 1에 있어서,
상기 복수의 컬러픽셀그룹은 기설정된 간격에 따라 주기적으로 배열되는, 이미지처리장치.

청구항 1에 있어서,
상기 학습된 인공신경망은 이미지의 구조적 유사도(SSIM)에 기반하여 학습되는, 이미지처리장치.

청구항 1에 있어서,
상기 학습된 인공신경망은 컨볼루션신경망을 포함하고,
상기 제1이미지는 밝기정보만을 포함하는 1 채널 데이터이고,
상기 제2이미지는 색상정보를 포함하는 3 채널 데이터이고,
상기 컨볼루션신경망은 상기 제2이미지의 데이터를 컬러힌트로 하는, 이미지처리장치.

청구항 6에 있어서,
상기 제2이미지의 제1컨볼루션블록의 출력은 상기 제1이미지의 제1컨볼루션블록으로 입력되는, 이미지처리장치.

1 이상의 프로세서 및 1 이상의 메모리를 갖는 컴퓨팅 장치에서 수행되고, 전기적으로 접속된 이미지센서로부터 이미지데이터를 입력 받아 병합이미지를 출력하는 이미지처리방법으로서,
상기 이미지처리방법은,
상기 이미지센서의 복수의 화이트픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제1이미지를 입력 받는 제1이미지입력단계;
상기 이미지센서의 복수의 컬러픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제2이미지를 입력 받는 제2이미지입력단계; 및
학습된 인공신경망에 의하여 상기 제1이미지 및 상기 제2이미지에 기초하여 병합이미지를 생성하는 이미지병합단계; 를 포함하고,
상기 제1이미지는 상기 병합이미지의 전체 픽셀의 수의 90% 이상의 화이트픽셀 정보를 포함하고,
상기 제2이미지는 상기 병합이미지의 전체 픽셀의 수의 10% 이하의 컬러픽셀 정보를 포함하고,
상기 복수의 컬러픽셀은 각각,
적색 빛을 투과시키는 R픽셀;
녹색 빛을 투과시키는 G픽셀; 및
청색 빛을 투과시키는 B픽셀; 중 어느 하나이고,
상기 제2이미지는 복수의 컬러픽셀이 기설정된 패턴에 따라 배열되어 있고,
상기 기설정된 패턴은,
상기 R픽셀, G픽셀 및 B픽셀이 각각 1 이상 포함되어, 인접하게 배열되는 복수의 컬러픽셀그룹을 포함하는, 이미지처리방법.

삭제

삭제

전기적으로 접속된 이미지센서로부터 이미지데이터를 입력 받아 병합이미지를 출력하는 이미지처리방법을 구현하기 위한 컴퓨터-판독가능 매체로서, 상기 컴퓨터-판독가능 매체는, 컴퓨팅 장치로 하여금 이하의 단계들을 수행하도록 하는 명령들을 저장하며, 상기 단계들은:
상기 이미지센서의 복수의 화이트픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제1이미지를 입력 받는 제1이미지입력단계;
상기 이미지센서의 복수의 컬러픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제2이미지를 입력 받는 제2이미지입력단계; 및
학습된 인공신경망에 의하여 상기 제1이미지 및 상기 제2이미지에 기초하여 병합이미지를 생성하는 이미지병합단계; 를 포함하고,
상기 제1이미지는 상기 병합이미지의 전체 픽셀의 수의 90% 이상의 화이트픽셀 정보를 포함하고,
상기 제2이미지는 상기 병합이미지의 전체 픽셀의 수의 10% 이하의 컬러픽셀 정보를 포함하고,
상기 복수의 컬러픽셀은 각각,
적색 빛을 투과시키는 R픽셀;
녹색 빛을 투과시키는 G픽셀; 및
청색 빛을 투과시키는 B픽셀; 중 어느 하나이고,
상기 제2이미지는 복수의 컬러픽셀이 기설정된 패턴에 따라 배열되어 있고,
상기 기설정된 패턴은,
상기 R픽셀, G픽셀 및 B픽셀이 각각 1 이상 포함되어, 인접하게 배열되는 복수의 컬러픽셀그룹을 포함하는, 컴퓨터-판독가능 매체.

삭제

삭제

이미지 센싱장치로서,
복수의 픽셀에 대한 필터를 포함하는 컬러필터어레이; 상기 컬러필터어레이의 복수의 픽셀에 대응되어 빛을 감지하는 복수의 센서가 배열된 센서어레이; 및 상기 센서어레이로부터 센싱 된 데이터에 기초하여 이미지데이터를 생성하는, 이미지센서기판; 을 포함하는 이미지센서; 및
상기 이미지센서에 전기적으로 접속되고, 상기 이미지데이터를 입력 받아 병합이미지를 출력하는 이미지처리장치를 포함하고,
상기 컬러필터어레이는 화이트픽셀의 수가 전체 픽셀의 수의 90% 이상이고,
상기 이미지처리장치는,
상기 이미지센서의 복수의 화이트픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제1이미지를 입력 받는 제1이미지입력부;
상기 이미지센서의 복수의 컬러픽셀에 의하여 센싱 된 정보에 기초하여 생성된 제2이미지를 입력 받는 제2이미지입력부; 및
학습된 인공신경망에 의하여 상기 제1이미지 및 상기 제2이미지에 기초하여 병합이미지를 생성하는 이미지병합부; 를 포함하고,
상기 제1이미지는 상기 병합이미지의 전체 픽셀의 수의 90% 이상의 화이트픽셀 정보를 포함하고,
상기 제2이미지는 상기 병합이미지의 전체 픽셀의 수의 10% 이하의 컬러픽셀 정보를 포함하고,
상기 복수의 컬러픽셀은 각각,
적색 빛을 투과시키는 R픽셀;
녹색 빛을 투과시키는 G픽셀; 및
청색 빛을 투과시키는 B픽셀; 중 어느 하나이고,
상기 제2이미지는 복수의 컬러픽셀이 기설정된 패턴에 따라 배열되어 있고,
상기 기설정된 패턴은,
상기 R픽셀, G픽셀 및 B픽셀이 각각 1 이상 포함되어, 인접하게 배열되는 복수의 컬러픽셀그룹을 포함하는, 이미지 센싱장치.

Images