KR20200025403A

KR20200025403A - 물체 이미지와 상태 정보의 합성 이미지를 표시하는 전자기기 및 방법

Info

Publication number: KR20200025403A
Application number: KR1020180102686A
Authority: KR
Inventors: 신성철
Original assignee: 한국과학기술연구원
Priority date: 2018-08-30
Filing date: 2018-08-30
Publication date: 2020-03-10
Also published as: KR102138100B1

Abstract

물체 이미지와 상태 정보의 합성 이미지를 표시하는 전자기기 및 방법에 관한 것으로, 물체의 표면에서 반사된 빛으로부터 물체의 이미지를 나타내는 신호를 생성하고 물체 속을 침투한 후에 물체의 표면으로부터 방출된 빛으로부터 물체의 스펙트럼을 나타내는 신호를 생성하고, 물체의 이미지를 나타내는 신호로부터 물체의 이미지를 생성하고 물체의 스펙트럼을 나타내는 신호로부터 물체의 상태 정보를 추정하고, 물체의 이미지와 상태 정보를 합성한 이미지를 표시함으로써 사용자가 이러한 합성 이미지를 관찰하는 것만으로 물체의 상태를 직관적으로 알 수 있도록 할 수 있다.

Description

물체 이미지와 상태 정보의 합성 이미지를 표시하는 전자기기 및 방법 {Electronic device and method for displaying synthesized image of object image and state information}

물체에서 반사된 빛으로부터 이미지를 생성하여 표시하는 전자기기 및 방법에 관한 것이다.

최근 들어, 스마트폰이 현대인의 필수품으로 자리 잡으면서 현대인의 생활 양식이 변화되고 있다. 예를 들면, 스마트폰을 통한 모바일 채팅이나 SNS(Social Networking Service) 활동이 늘어나면서 다른 사람과의 대화나 음성 통화가 급격하게 줄어들고 있다. 또한, 어떤 물품의 구매 여부를 결정하거나 음식점, 숙박업소 등을 선택할 때에도 대부분의 사람이 스마트폰의 모바일 인터넷에서 검색한 관련 정보를 이용하고 있다. 그러나, 이와 같이 검색된 정보는 그 물품에 관한 일반적인 정보로서 스마트폰 사용자의 앞에 있는 물품의 상태에 관한 정보를 제공해주지는 않는다. 사용자가 물품의 상태를 알기 위해서는 일반적으로 별도의 측정 장비가 필요하다. 예를 들어, 사용자가 사과의 당도를 알아보고 사과를 구매하고자 할 때에 스마트폰으로는 사과의 당도를 알 수 없으며, 별도의 당도 측정기가 필요하다. 그러나, 이러한 당도 측정기는 그 특수 용도로 인해 일반적인 스마트폰 사용자가 당도 측정만을 목적으로 구매하기는 쉽지 않다.

스마트폰 사용에 따른 생활 양식의 변화 및 스마트폰 소비자의 요구에 따라 스마트폰에 제공하는 기능들이 점점 더 증가하고 있다. 대표적으로, 모바일 헬스 분야를 들 수 있다. 모바일 헬스 분야는 사용자가 스마트폰을 이용하여 사용자의 피부 상태, 혈압, 심전도 등을 측정함으로써 사용자가 스스로 건강 관리를 할 수 있도록 하는 분야를 말한다. 그러나, 사용자의 피부 상태, 혈압, 심전도 등의 측정을 위해서는 대부분 스마트폰 외에 별도의 센서 액세서리가 요구된다. 사용자는 별도의 센서 액세서리를 구매해야 할 뿐만 아니라 이것을 자신의 생체에 부착하고 스마트폰에서 실행 중인 어플리케이션을 모니터링해야 한다는 점에서 매우 불편하다는 문제점이 있었다. 스마트폰의 카메라에 의해 촬영된 피부 이미지를 이용하여 사용자의 피부 상태를 알려주는 어플리케이션이 등장하였으나 피부 이미지로부터 파악될 수 있는 정보만 제공할 수 있을 뿐, 피부 내부의 조직 등을 통해 알 수 있는 정보를 제공할 수 없다는 한계가 있다.

별도의 측정 장비 없이도 사용자가 물체의 상태를 직관적으로 알 수 있도록 물체 이미지와 상태 정보의 합성 이미지를 표시하는 전자기기를 제공하는 데에 있다. 또한, 물체 이미지와 상태 정보의 합성 이미지를 표시하는 방법을 제공하는 데에 있다. 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 이하의 설명으로부터 또 다른 기술적 과제가 도출될 수도 있다.

본 발명의 일 측면에 따른 전자기기는 물체의 표면에서 반사된 빛으로부터 상기 물체의 이미지를 나타내는 신호를 생성하고, 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성하는 복합센서; 상기 물체의 이미지를 나타내는 신호로부터 상기 물체의 이미지를 생성하고, 상기 물체의 스펙트럼을 나타내는 신호로부터 상기 물체의 상태 정보를 추정하는 프로세서; 및 상기 생성된 물체의 이미지와 상기 추정된 물체의 상태 정보를 합성한 이미지를 표시하는 디스플레이패널을 포함한다.

상기 전자기기는 상기 물체의 표면에 적외선을 조사하는 발광모듈을 더 포함하고, 상기 복합센서는 상기 물체의 표면에 조사된 가시광선이 상기 물체의 표면에서 반사된 빛으로부터 상기 물체의 이미지를 나타내는 신호를 생성하고, 상기 물체의 표면에 조사된 적외선이 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성할 수 있다.

상기 복합센서는 복수 개의 분광필터를 이용하여 상기 물체의 표면에 조사된 적외선이 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성하고, 상기 복수 개의 분광필터는 상기 발광모듈로부터 조사된 적외선의 파장대역 중 과일 또는 사람의 피부 속을 침투한 후에 상기 과일 또는 피부의 표면으로부터 방출되는 과정에서 흡수되는 파장대역에 속하는 복수의 파장대역을 투과시키거나 차단할 수 있다.

상기 프로세서는 상기 물체의 스펙트럼을 나타내는 신호로부터 상기 물체의 스펙트럼을 생성하고, 상기 생성된 물체의 스펙트럼과 다수의 샘플 스펙트럼을 비교함으로써 상기 물체의 상태 정보를 추정할 수 있다.

상기 프로세서는 상기 물체의 스펙트럼을 나타내는 신호로부터 상기 물체의 스펙트럼을 생성하고, 상기 생성된 물체의 스펙트럼을 컨볼루션 신경망에 입력함으로써 상기 컨볼루션 신경망의 출력 데이터로부터 상기 물체의 상태 정보를 추정할 수 있다.

상기 복합센서는 복수 개의 컬러필터를 이용하여 상기 물체의 표면에서 반사된 빛으로부터 상기 물체의 이미지를 나타내는 신호를 생성하는 이미지센서; 및 복수 개의 분광필터를 이용하여 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성하는 분광센서를 포함할 수 있다.

상기 복수 개의 컬러필터와 상기 복수 개의 분광필터는 2차원 평면의 매트릭스 구조로 배열되어 상기 복수 개의 컬러필터와 상기 복수 개의 분광필터의 배열면은 수광면을 형성할 수 있다.

상기 이미지센서는 상기 2차원 평면의 매트릭스 구조의 일부분에 해당하는 매트릭스 구조로 배열된 복수 개의 컬러필터를 이용하여 상기 물체의 표면에서 반사된 빛으로부터 상기 물체의 이미지를 나타내는 신호를 생성하고, 상기 분광센서는 상기 2차원 평면의 매트릭스 구조의 다른 부분에 해당하는 매트릭스 구조로 배열된 복수 개의 분광필터를 이용하여 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성할 수 있다.

상기 이미지센서는 상기 2차원 평면의 매트릭스 구조의 일부분에 해당하는 매트릭스 구조로 배열되어 상기 물체의 표면에서 반사된 빛을 필터링하는 복수 개의 컬러필터; 및 상기 복수 개의 컬러필터 아래에 배치되어 상기 복수 개의 컬러필터에 의해 필터링된 빛을 전기적 신호로 변환하는 복수 개의 광전소자를 포함할 수 있다.

상기 분광센서는 상기 2차원 평면의 매트릭스의 다른 부분에 해당하는 매트릭스 구조로 배열되어 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛을 필터링하는 복수 개의 분광필터; 및 상기 복수 개의 분광필터 아래에 배치되어 상기 복수 개의 분광필터에 의해 필터링된 빛을 전기적 신호로 변환하는 복수 개의 광전소자를 포함할 수 있다.

상기 각 분광필터는 일정한 형상을 갖는 금속패턴들이 주기적으로 배열된 형태로 형성되어 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛에서 상기 주기에 따라 결정되는 파장대역을 차단할 수 있다.

상기 복수 개의 분광필터 중 어느 하나의 분광필터의 금속패턴들과 다른 하나의 분광필터의 금속패턴들은 서로 다른 주기로 배열되고, 상기 어느 하나의 분광필터와 상기 다른 하나의 분광필터는 서로 다른 파장대역을 차단할 수 있다.

상기 각 분광필터는 서로 이격 분리된 상반사층과 하반사층; 상기 상반사층과 하반사층 사이에 삽입되며 굴절률이 서로 상이한 적어도 두 개의 물질이 교대로 배치되는 유전체층; 및 상기 상반사층 및 하반사층 중 적어도 하나와 상기 유전체층 사이에 배치되는 버퍼층을 포함하고, 상기 각 분광필터는 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛에서 상기 두 개의 물질간의 상대적인 부피 비율에 따라 결정되는 파장대역을 통과시킬 수 있다.

상기 유전체층에는 상기 두 개의 물질간의 상대적인 부피 비율이 서로 다른 영역이 적어도 두 곳 존재하고, 상기 유전체층의 상대적인 부피 비율이 서로 다른 영역은 서로 다른 파장대역을 통과시킬 수 있다.

상기 분광센서는 상기 복수 개의 분광필터; 상기 복수 개의 분광필터에 일대다 대응되어 상기 복수 개의 분광필터 아래에 배치되는 복수 개의 대역투과필터; 및 상기 복수 개의 대역투과필터에 일대일 대응되어 상기 복수 개의 대역투과필터 아래에 배치되는 복수 개의 광전소자를 포함하고, 상기 각 분광필터에 대응되는 복수 개의 대역투과필터는 상기 각 분광필터의 필터링 파장대역에서 서로 다른 파장대역을 투과시키고, 상기 복수 개의 컬러필터는 상기 2차원 평면의 매트릭스 구조의 일부분에 해당하는 매트릭스 구조로 배열되고, 상기 복수 개의 대역투과필터는 상기 2차원 평면의 매트릭스 구조의 다른 부분에 해당하는 매트릭스 구조로 배열될 수 있다.

상기 복수 개의 대역투과필터는 상기 복수 개의 컬러필터 중 적어도 두 종류의 컬러필터와 동종의 컬러필터들일 수 있다.

상기 전자기기는 상기 디스플레이패널 아래에 배치되며 적어도 하나의 광통과홀이 형성되어 있는 후면패널을 더 포함하고, 상기 복합센서는 상기 디스플레이패널을 통과하여 상기 후면패널의 적어도 하나의 광통과홀을 통해 입사된 빛으로부터 상기 물체의 이미지를 나타내는 신호와 상기 물체의 스펙트럼을 나타내는 신호를 생성할 수 있다.

상기 전자기기는 상기 디스플레이패널 아래에 배치되어 상기 디스플레이패널을 통과한 빛을 평행광으로 변환하는 적어도 하나의 콜리메이터렌즈를 더 포함하고, 상기 복합센서는 상기 디스플레이패널을 통과하여 상기 적어도 하나의 콜리메이터렌즈를 통해 입사된 빛으로부터 상기 물체의 이미지를 나타내는 신호와 상기 물체의 스펙트럼을 나타내는 신호를 생성할 수 있다.

상기 복합센서는 상기 디스플레이패널 아래에 배치되고, 상기 복합센서는 상기 물체의 표면에 조사된 가시광선이 상기 물체의 표면에서 반사되어 상기 디스플레이패널을 통과한 빛으로부터 상기 물체의 이미지를 나타내는 신호를 생성하고, 상기 물체의 표면에 조사된 적외선이 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출되어 상기 디스플레이패널을 통과한 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성할 수 있다.

본 발명의 다른 측면에 따른 물체 이미지와 상태 정보의 합성 이미지를 표시하는 방법은 물체의 표면에서 반사된 빛으로부터 상기 물체의 이미지를 나타내는 신호를 생성하는 단계; 상기 물체의 이미지를 나타내는 신호로부터 상기 물체의 이미지를 생성하는 단계; 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성하는 단계; 상기 물체의 스펙트럼을 나타내는 신호로부터 상기 물체의 상태 정보를 추정하는 단계; 상기 물체의 이미지와 상기 물체의 상태 정보를 합성함으로써 상기 물체의 이미지와 상태 정보의 합성 이미지를 생성하는 단계; 및 상기 생성된 합성 이미지를 표시하는 단계를 포함한다.

상기 물체의 스펙트럼을 나타내는 신호를 생성하는 단계는 복수 개의 분광필터를 이용하여 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성하고, 상기 합성 이미지 표시 방법은 상기 물체의 표면에 적외선을 조사하는 단계를 더 포함하고, 상기 복수 개의 분광필터는 상기 조사된 적외선의 파장대역 중 과일 또는 사람의 피부 속을 침투한 후에 상기 과일 또는 피부의 표면으로부터 방출되는 과정에서 흡수되는 파장대역에 속하는 복수의 파장대역을 투과시키거나 차단할 수 있다.

상기 물체의 상태 정보를 추정하는 단계는 상기 물체의 스펙트럼을 나타내는 신호로부터 상기 물체의 스펙트럼을 생성하는 단계; 상기 생성된 스펙트럼의 형태와 다수의 샘플 스펙트럼 각각의 형태를 비교하는 단계; 상기 비교 결과에 따라 상기 다수의 샘플 스펙트럼 중에서 상기 생성된 스펙트럼의 형태와 가장 유사한 형태를 갖는 두 개의 스펙트럼을 선정하는 단계; 및 상기 선정된 두 개의 스펙트럼을 갖는 두 개의 샘플 물체 각각의 상태 정보로부터 상기 물체의 상태 정보를 추정하는 단계를 포함한다.

상기 합성 이미지 표시 방법은 상기 선정된 두 개의 샘플 스펙트럼 각각에 대한 상기 물체의 스펙트럼의 유사도로부터 상기 선정된 두 개의 샘플 스펙트럼 각각의 가중치를 산출하는 단계를 더 포함하고, 상기 두 개의 샘플 물체 각각의 상태 정보로부터 상기 물체의 상태 정보를 추정하는 단계는 상기 두 개의 샘플 물체 각각의 상태 정보와 상기 두 개의 샘플 스펙트럼 각각의 가중치로부터 상기 물체의 상태 정보를 추정할 수 있다.

상기 두 개의 샘플 물체 각각의 상태 정보로부터 상기 물체의 상태 정보를 추정하는 단계는 상기 선정된 두 개의 샘플 스펙트럼 중 제 1 샘플 스펙트럼을 갖는 제 1 샘플 물체의 상태 정보의 값에 상기 제 1 샘플 스펙트럼의 가중치를 곱한 값과 상기 선정된 두 개의 샘플 스펙트럼 중 제 2 샘플 스펙트럼을 갖는 제 2 샘플 물체의 상태 정보의 값에 상기 제 2 샘플 스펙트럼의 가중치를 곱한 값을 합산함으로써 상기 물체의 상태 정보의 값을 산출할 수 있다.

상기 물체의 상태 정보를 추정하는 단계는 상기 물체의 스펙트럼을 나타내는 신호로부터 상기 물체의 스펙트럼을 생성하는 단계; 상기 생성된 스펙트럼의 형태를 컨볼루션 신경망에 입력하는 단계; 상기 입력에 대한 응답으로서 상기 컨볼루션 신경망으로부터 출력된 상태 정보를 상기 물체의 상태 정보로 추정하는 단계를 포함하고, 상기 컨볼루션 신경망은 다수의 샘플 물체 각각의 스펙트럼의 형태와 상태 정보를 이용하여 학습된 것일 수 있다.

상기 합성 이미지 표시 방법은 사용자의 입력에 따라 물체의 종류 및 속성을 선택하는 단계; 및 상기 물체의 표면에 상기 선택된 물체의 종류 및 속성에 대응되는 파장대역의 빛을 조사하는 단계를 더 포함하고, 상기 물체의 이미지를 나타내는 신호를 생성하는 단계는 상기 조사된 빛이 상기 물체의 표면에서 반사된 빛으로부터 상기 물체의 이미지를 나타내는 신호를 생성하고, 상기 물체의 스펙트럼을 나타내는 신호를 생성하는 단계는 상기 조사된 빛이 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성할 수 있다.

상기 합성 이미지 표시 방법은 상기 선택된 종류의 물체가 정확하게 위치될 수 있도록 가이드하기 위한 그래픽을 표시하는 단계; 및 상기 표시된 그래픽 상에 상기 물체의 이미지를 표시하는 단계를 더 포함할 수 있다.

상기 합성 이미지 표시 방법은 상기 그래픽을 표시하는 단계의 시작 시점부터 일정 시간이 경과하였는가를 확인하는 단계를 더 포함하고, 상기 물체의 표면에 빛을 조사하는 단계는 상기 일정 시간이 경과된 것으로 확인된 경우에 상기 물체의 표면에 빛을 조사할 수 있다.

상기 합성 이미지를 생성하는 단계는 상기 생성된 물체의 이미지의 화소들 중 일부의 값을 상기 물체의 상태 정보를 나타내는 화소들의 값으로 교체함으로써 상기 물체의 이미지와 상기 물체의 상태 정보를 합성할 수 있다.

상기 물체의 상태 정보는 상기 물체의 복수의 속성 각각의 상태를 나타내는 정보일 수 있다.

본 발명의 또 다른 측면에 따라 상기 합성 이미지 표시 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체가 제공된다.

전자기기는 물체의 표면에서 반사된 빛으로부터 물체의 이미지를 나타내는 신호를 생성하고 물체 속을 침투한 후에 물체의 표면으로부터 방출된 빛으로부터 물체의 스펙트럼을 나타내는 신호를 생성하고, 물체의 이미지를 나타내는 신호로부터 물체의 이미지를 생성하고 물체의 스펙트럼을 나타내는 신호로부터 물체의 상태 정보를 추정하고, 물체의 이미지와 상태 정보를 합성한 이미지를 표시함으로써 사용자가 이러한 합성 이미지를 관찰하는 것만으로 물체의 상태를 직관적으로 알 수 있도록 할 수 있다. 이에 따라, 전자기기의 사용자가 과일의 구매 여부 결정, 사용자의 피부 상태 관리 등 물체의 구매 여부를 결정하거나 물체 상태를 관리하는 데에 도움을 줄 수 있다.

특히, 전자기기의 사용자로 하여금 과일을 촬영하는 행위만으로 과일의 당도 등 상태를 알 수 있도록 함으로써 스마트폰 등과 같은 전자기기 외에 별도의 측정 장비 없이도 매우 편리하게 과일의 당도 등 상태를 알 수 있도록 할 수 있다. 또한, 전자기기의 사용자로 하여금 자신의 얼굴 피부를 촬영하는 행위만으로 얼굴 피부의 멜라닌 농도 등 상태를 알 수 있도록 함으로써 스마트폰 등과 같은 전자기기 외에 별도의 측정 장비 없이도 매우 편리하게 자신의 얼굴 피부의 멜라닌 농도 등 상태를 알 수 있도록 할 수 있다. 즉, 전자기기의 사용자로 하여금 물체를 촬영하는 행위만으로 물체의 상태를 알 수 있도록 함으로써 스마트폰 등과 같은 전자기기 외에 별도의 측정 장비 없이도 매우 편리하게 물체의 상태를 알 수 있도록 할 수 있다.

본 발명의 복합센서는 프리즘, 회절격자 대신에 CMOS(Complementary Metal Oxide Semiconductor) 이미지센서의 컬러필터의 크기보다 작은 나노 구조체로 구현될 수 있는 복수 개의 분광필터를 이용하여 물체의 표면에 조사된 적외선이 물체 속을 침투한 후에 물체의 표면으로부터 방출된 빛으로부터 물체의 스펙트럼을 나타내는 신호를 생성함으로써 스마트폰과 같은 소형의 전자기기에 적용이 매우 용이하며, CMOS 이미지센서 등 기존의 이미지센서와의 집적을 통해 매우 용이하게 복합센서의 구현이 가능하게 된다. 이에 따라, 스마트폰과 같은 소형의 전자기기의 종전 사이즈를 그대로 유지하면서도 제작단가의 큰 상승 없이 사용자가 물체를 촬영하는 것만으로 사용자가 물체의 상태를 알 수 있도록 할 수 있는 소형의 전자기기를 제공할 수 있다.

도 1은 본 발명의 일 실시예에 따른 전자기기의 일례를 도시한 도면이다.
도 2는 도 1에 도시된 전자기기의 적외선 조사 예시도이다.
도 3은 도 1, 2에 도시된 전자기기의 분해도이다.
도 4는 도 2에 도시된 전자기기의 단면의 일례를 도시한 도면이다.
도 5는 도 3에 도시된 전자기기의 단면의 다른 예를 도시한 도면이다.
도 6은 도 4에 도시된 전자기기의 단면의 또 다른 예를 도시한 도면이다.
도 7은 도 3에 도시된 전자기기의 단면의 또 다른 예를 도시한 도면이다.
도 8은 도 2에 도시된 전자기기의 단면의 또 다른 예를 도시한 도면이다.
도 9는 도 3에 도시된 전자기기의 단면의 또 다른 예를 도시한 도면이다.
도 10은 도 4에 도시된 단면 일부와 물체를 도시한 도면이다.
도 11은 도 3-7에 도시된 복합센서(5)의 구조의 일례를 개략적으로 도시한 도면이다.
도 12는 도 3-7에 도시된 복합센서(5)의 구조의 다른 예를 개략적으로 도시한 도면이다.
도 13은 도 3-7에 도시된 복합센서(5)의 구조의 또 다른 예를 개략적으로 도시한 도면이다.
도 14는 도 11에 도시된 복합센서(5)의 일 구현예의 단면도이다.
도 15는 도 14에 도시된 분광필터(521)의 일례를 도시한 도면이다.
도 16은 도 15에 도시된 분광필터(521)의 투과 특성의 시뮬레이션 결과를 나타내는 그래프이다.
도 17은 도 14에 도시된 분광필터(521)의 다른 예를 도시한 도면이다.
도 18은 도 17에 도시된 분광필터(521)의 투과 특성의 시뮬레이션 결과를 나타내는 그래프이다.
도 19는 도 3-7에 도시된 분광센서(52)의 구조의 또 다른 예를 개략적으로 도시한 도면이다.
도 20은 도 11에 도시된 복합센서(5)의 다른 구현예의 단면도이다.
도 21은 도 3에 도시된 전자기기의 전자회로 구성도이다.
도 22는 본 발명의 일 실시예에 따른 합성 이미지 표시 방법의 흐름도이다.
도 23은 도 22에 도시된 2211 단계의 상세 흐름도의 일례이다.
도 24는 도 22에 도시된 2211 단계에서 사용되는 스펙트럼의 일례를 도시한 도면이다.
도 25는 도 22에 도시된 2211 단계에서 사용되는 스펙트럼의 다른 예를 도시한 도면이다.
도 26은 도 24에 도시된 2411 단계의 상세 흐름도의 다른 예이다.
도 27은 도 3-10, 21에 도시된 디스플레이패널(3)에 표시되는 합성 이미지의 일례를 도시한 도면이다.
도 28은 도 3-10, 21에 도시된 디스플레이패널(3)에 표시되는 합성 이미지의 다른 예를 도시한 도면이다.

이하에서는 도면을 참조하여 본 발명의 실시예들을 상세히 설명한다. 이하에서 설명될 본 발명의 실시예들은 별도의 측정 장비 없이도 사용자가 물체의 상태를 직관적으로 알 수 있도록 물체 이미지와 상태 정보의 합성 이미지를 표시하는 전자기기 및 물체 이미지와 상태 정보의 합성 이미지를 표시하는 방법에 관한 것이다. 이하에서는 이러한 전자기기를 간략하게 "전자기기"로 호칭할 수도 있고, 이러한 방법을 간략하게 "합성 이미지 표시 방법"으로 호칭할 수도 있다. 특히, 이하에서는 주로 사과 또는 사용자의 얼굴 피부를 물체의 예로 들어 본 발명의 실시예들을 설명하기로 한다. 그러나, 본 발명의 실시예의 물체는 배 등 다른 종류의 과일이 될 수 있고, 얼굴 피부 외에 다른 부위의 사람 피부가 될 수 있다. 나아가, 본 발명의 실시예의 물체는 상기된 과일 또는 사람 피부 외에 다른 종류의 물체가 될 수도 있다.

도 1은 본 발명의 일 실시예에 따른 전자기기의 일례를 도시한 도면이다. 도 1을 참조하면, 본 발명의 일 실시예에 따른 전자기기의 대표적인 예로는 스마트폰을 들 수 있다. 대부분의 스마트폰은 무선 통화 기능, 무선 인터넷 기능, 각종 어플리케이션의 실행 기능 등 주요 기능 외에 사진이나 영상 촬영 기능을 제공하고 있다. 도 1의 (a)에는 과일가게나 시장을 방문한 사용자가 스마트폰을 이용하여 사과를 촬영하고 있는 모습이 도시되어 있다. 도 1의 (b)에는 사용자가 자신의 얼굴을 촬영하고 있는 모습이 도시되어 있다. 이하에 상세하게 설명된 바와 같이, 본 실시예에 따른 전자기기는 물체 이미지와 상태 정보의 합성 이미지를 표시하는 기능을 제공한다. 도 1의 (a)에 도시된 바와 같이, 사용자가 스마트폰을 이용하여 사과를 촬영하면, 본 실시예에 따른 전자기기는 사과의 이미지와 당도의 합성 이미지를 표시할 수 있다. 도 1의 (b)에 도시된 바와 같이, 사용자가 스마트폰을 이용하여 자신의 얼굴 피부를 촬영하면, 본 실시예에 따른 전자기기는 사과의 이미지와 당도의 합성 이미지를 표시할 수 있다.

도 2는 도 1에 도시된 전자기기의 적외선 조사 예시도이다. 도 2의 (a)에는 본 실시예에 따른 전자기기가 그것의 후방에 위치한 사과에 적외선을 조사하는 모습이 도시되어 있고, 도 2의 (b)에는 그것의 전방에 위치한 사용자의 얼굴 피부에 적외선을 조사하는 모습이 도시되어 있다. 대부분의 화합물은 공유 결합을 가지며 화합물의 종류에 따라 특정 대역의 적외선을 흡수하는 성질을 갖고 있다. 본 실시예에 따른 전자기기는 물체에 적외선을 조사하고, 그 물체로부터 되돌아오는 빛의 스펙트럼 특성으로부터 물체의 상태 정보를 추정한다. 도 2의 (a)를 참조하면, 본 실시예에 따른 전자기기는 사과에 적외선을 조사하고, 사과로부터 되돌아오는 빛의 스펙트럼 특성으로부터 사과의 상태 정보를 추정한다. 도 2의 (b)를 참조하면, 본 실시예에 따른 전자기기는 사용자의 얼굴 피부에 적외선을 조사하고, 얼굴 피부로부터 되돌아오는 빛의 스펙트럼 특성으로부터 얼굴 피부의 상태 정보를 추정한다. 본 실시예에 따른 상태 분석이 되는 물체의 종류 및 속성에 따라 물체의 표면에 조사되는 빛은 가시광선이 될 수도 있고, 적외선과 가선광선이 될 수도 있다.

도 3은 도 1, 2에 도시된 전자기기의 분해도이다. 도 3을 참조하면, 도 1에 도시된 전자기기는 커버글래스(1), 터치패널(2), 디스플레이패널(3), 후면패널(4), 복합센서(5), 브래킷(6), 인쇄회로기판(7), 발광모듈(8), 배터리(9), 및 하우징(10)으로 구성된다. 도 3에는 본 실시예에 따른 전자기기의 대표적인 예에 해당하는 스마트폰의 분해도가 도시되어 있다. 도 3에 도시된 실시예에 따르면, 종래의 카메라의 역할과 함께 분광기 역할을 하는 복합센서가 디스플레이패널(3) 아래에 설치된다. 최근 들어, 스마트폰의 사이즈를 증가시키지 않으면서 스마트폰 화면을 최대로 하기 위해 베젤을 최소화하여 전면 대부분이 화면으로 되어 있는 풀스크린(full screen) 타입의 스마트폰이 일반화되고 있다. 종래에 전면 상단에 설치되었던 카메라를 전면 상단으로부터 사라지게 됨에 따라 전자기기의 전면에서 화면이 차지하는 비율이 높아질 수 있다. 도 3에 도시된 실시예와는 달리, 복합센서(5)는 전자기기의 전면 상단에 설치될 수도 있다.

본 실시예가 쉽게 이해될 수 있도록 하면서 본 실시예의 특징이 흐려짐을 방지하기 위해, 도 3에는 본 실시예의 이해에 필요한 스마트폰의 주요 구성이 도시되어 있다. 본 실시예가 속하는 기술분야에서 통상의 지식을 가진 자라면 도 3에 도시된 구성 외에 또 다른 구성이 추가될 수 있음을 이해할 수 있다. 예를 들어, 커버글래스(1)와 터치패널(2) 사이에는 이것들간의 접착을 위한 PSA(Pressure Sensitive Adhesive) 층이 삽입될 수 있다. 커버글래스(1), 터치패널(2), 디스플레이패널(3), 후면패널(4) 등은 도면의 복잡도를 낮추기 위해서 단순한 사각판형으로 도시되어 있으나 곡면판형 등 다양한 형태로 형성될 수 있다. 한편, 도 2에 도시된 전자기기의 구성요소들 중에서 일부는 일체형으로 제조될 수도 있다. 예를 들어, 터치패널(2)과 디스플레이패널(3)은 일체형으로 제조될 수 있다. 이 경우, 커버글래스(1)와 디스플레이패널(3)의 편광판 사이에는 PSA(Pressure Sensitive Adhesive) 층이 삽입될 수 있다.

커버글래스(1)는 유리, 폴리머 등 투명재질의 평판으로서 그 내측에 위치하는 터치패널(2) 등을 보호하는 역할을 한다. 터치패널(2)은 커버글래스(1) 아래에 배치되어 매트릭스 형태로 배치된 복수 개의 터치센서를 이용하여 사용자의 터치 위치를 감지한다. 터치패널(2)은 복수 개의 터치센서, 이것들을 구동하기 위한 TDI(Touch Driver IC) 등으로 구성될 수 있다. 터치패널은 그것의 터치 감지 방식에 따라 정전용량식, 저항식, 광학식, 적외선식, SAW(Surface Acoustic Wave) 등으로 분류되는데, 스마트폰이나 태블릿 PC(Personal Computer)에는 주로 정전용량식 터치패널이 사용되고 있다. 정전용량 방식의 터치패널은 다시 부착형, 커버윈도우 일체형, 디스플레이 일체형 등으로 분류된다. 터치패널(2)은 그 아래의 디스플레이패널(3)의 화면이 이것을 통하여 선명하게 보여질 수 있도록 매우 높은 투명도를 갖는다.

디스플레이패널(3)은 터치패널(2) 아래에 배치되어 매트릭스 형태로 배치된 복수 개의 픽셀을 이용하여 화면을 표시한다. 디스플레이패널(3)의 픽셀의 예로는 OLED(Organic Light Emitting Diode)를 들 수 있다. 디스플레이패널(3)은 매트릭스 형태로 배치된 복수 개의 OLED, 복수 개의 OLED 위에 배치되어 각 OLED에서 발생된 빛을 편광시키는 편광판(polarizer), 복수 개의 OLED를 구동하기 위한 DDI(Display Driver IC), 복수 개의 OLED와 DDI를 전기적으로 연결하는 와이어들, 복수 개의 OLED와 와이어들이 놓여지는 기판 등으로 구성될 수 있다. 복수 개의 OLED로부터 외부로 조사된 빛이 커버글래스(1)에 접촉된 물체에 의해 반사되어 디스플레이패널(3)을 통과하여 복합센서(5)에 도달할 수 있도록 디스플레이패널(3)의 픽셀들 사이의 영역은 투명하게 형성될 수 있다.

후면패널(4)은 디스플레이패널(3) 아래에 배치되어 디스플레이패널(3)을 보호하고 디스플레이패널(3)의 열을 발산하는 역할을 한다. 이와 같이, 후면패널(4)은 디스플레이패널(3)을 보호하고 디스플레이패널(3)의 열을 발산하는 역할을 하기 때문에 금속재 등 불투명한 재료로 제조됨이 일반적이다. 아래에 설명된 바와 같이, 후면패널(4)에는 디스플레이패널(3)을 통과한 빛을 복합센서(5)에 전달하기 위한 적어도 하나의 광통과홀이 형성되어 있을 수 있다. 외부로부터 커버글래스(1)에 조사된 빛은 투명한 커버글래스(1)와 터치패널(2)을 통과한 후에 디스플레이패널(3)의 픽셀들 사이의 투명 영역과 후면패널(4)의 적어도 하나의 광통과홀을 차례대로 통과함으로써 복합센서(5)에 도달할 수 있다. 후면패널(4)이 투명한 소재로 제조될 경우, 이러한 광통과홀이 필요 없을 수도 있다.

복합센서(5)는 디스플레이패널(3) 아래에 배치되어 커버글래스(1), 터치패널(2), 및 디스플레이패널(3)을 차례대로 통과한 빛으로부터 물체의 이미지를 나타내는 신호와 물체의 스펙트럼을 나타내는 신호를 생성한다. 복합센서(5)의 감지영역에 사과를 위치시킨 경우라면 물체는 사과가 될 것이다. 마찬가지로, 복합센서(5)의 감지영역에 사용자의 얼굴을 위치시킨 경우라면 물체는 사용자의 얼굴이 될 것이다. 도 2에 도시된 바와 같이, 복합센서(5)의 감지영역은 복합센서(5)가 사용자의 눈 또는 얼굴을 정확하게 감지할 수 있도록 하기 위해 사용자가 눈 또는 얼굴 부위를 위치시켜야 하는 전자기기의 앞쪽 영역을 의미한다.

디스플레이패널(3)은 물체가 복합센서(5)의 감지영역에 정확하게 위치되었는가를 확인할 수 있도록 물체의 이미지를 표시할 수 있다. 예를 들어, 디스플레이패널(3)은 사용자가 눈을 복합센서(5)의 감지영역에 정확하게 위치시켰는가를 확인할 수 있도록 사용자의 눈 이미지를 표시할 수 있다. 예를 들어, 디스플레이패널(3)은 사용자가 얼굴을 복합센서(5)의 감지영역에 정확하게 위치시켰는가를 확인할 수 있도록 사용자의 얼굴 이미지를 표시할 수 있다. 아래에 설명된 바와 같이, 복합센서(5)는 후면패널(4)에 삽입되는 구조로 디스플레이패널(3) 아래에 배치될 수도 있고, 브래킷(6)에 삽입되는 구조로 디스플레이패널(3) 아래에 배치될 수도 있다.

브래킷(6)은 후면패널(4) 아래에 배치되어 그 위에 위치하는 후면패널(4)을 지지하면서 그 아래에 위치하는 인쇄회로기판(7), 배터리(9) 등을 고정시키는 역할을 한다. 브래킷(6)은 금속재로 제조될 수 있고 합성수지재로 제조될 수도 있고, 일부는 금속재로 제조되고 나머지는 합성수지재로 제조될 수도 있다. 도 2에는 단순한 형태로 도시되어 있으나 스마트폰의 외형 및 내부 구조에 따라 여러 형태로 형성될 수 있으며 하우징(10)과 일체형으로 형성될 수도 있다. 아래에 설명된 바와 같이, 브래킷(6)에는 복합센서(5)가 안착될 수 있는 홈이 형성되어 있을 수 있다.

인쇄회로기판(7)은 브래킷(6) 아래에 배치되며 그 위에는 프로세서, 메모리 등과 같은 수많은 전자부품들이 실장되어 있다. 인쇄회로기판(7)은 복수 개로 분할되어 형성될 수도 있다. 인쇄회로기판(7)의 전자부품들의 물리적 형태는 본 실시예의 특징과는 관련이 없으므로 이것들의 도시는 생략된다. 인쇄회로기판(7)의 프로세서는 물체의 이미지를 나타내는 신호로부터 물체의 이미지를 생성하고, 물체의 스펙트럼을 나타내는 신호로부터 물체의 상태 정보를 추정한다. 이러한 프로세서는 스마트폰의 AP(Application Processor) 또는 CPU(Central Processing Unit)일 수도 있고 물체의 이미지 생성과 물체의 상태 정보 추정을 위한 전용 프로세서일수도 있다. 이하에서 설명되는 이미지 생성과 스펙트럼 생성은 GPU(Graphics Processing Unit)라는 별도 프로세서에 의해 처리될 수도 있다. 본 실시예의 프로세서는 상기된 프로세서들이 하나로 통합된 구조의 프로세서일 수도 있고, 상기된 프로세서들의 집합을 의미할 수도 있다.

발광모듈(8)은 LED와 이것의 밝기 등을 조절하기 위한 전자소자들로 구성되며, 물체의 표면에 적외선, 가시광선 또는 적외선과 가시광선을 조사한다. 발광모듈(8)은 물체의 표면에 가시광선만을 조사하는 경우, 기존의 카메라 플래시일 수도 있다. 발광모듈(8)은 인쇄회로기판(7)에 실장될 수도 있고 인쇄회로기판(7)과 전선으로 연결될 수도 있다. 브래킷(6)에는 발광모듈(8)이 삽입되는 홀이 형성되어 있을 수 있다. 발광모듈(8)에서 발생된 적외선이 커버글래스(1)를 통과하여 물체의 표면에 조사될 수 있도록 터치패널(2), 디스플레이패널(3), 후면패널(4)의 면적은 커버글래스(1)보다 약간 작을 수 있다. 도 3에는 전자기기의 전방에 위치한 물체에 빛을 조사하는 구조로 배치된 발광모듈(8)이 도시되어 있으나, 발광모듈(8)은 전자기기의 후방에 위치한 물체에 빛을 조사하는 구조로 배치될 수도 있다. 배터리(9)는 터치패널(2), 디스플레이패널(3), 복합센서(5), 인쇄회로기판(7) 등에 전원을 공급한다. 하우징(10)은 그 내부에 커버글래스(1), 터치패널(2), 디스플레이패널(3), 후면패널(4), 복합센서(5), 브래킷(6), 인쇄회로기판(7), 배터리(9)의 전부 또는 일부를 수용함으로써 이것들간의 결합 구조를 유지하면서 보호하는 역할을 한다.

복합센서(5)가 디스플레이패널(3) 아래에 배치된 경우, 복합센서(5)는 물체의 표면에 조사된 가시광선이 물체의 표면에서 반사되어 커버글래스(1), 터치패널(2), 및 디스플레이패널(3)을 차례대로 통과한 빛으로부터 물체의 이미지를 나타내는 신호를 생성하고, 물체에 조사된 적외선이 물체 속을 침투한 후에 물체의 표면으로부터 방출되어 커버글래스(1), 터치패널(2), 및 디스플레이패널(3)을 차례대로 통과한 빛으로부터 물체의 스펙트럼을 나타내는 신호를 생성한다. 상술한 바와 같이, 복합센서(5)는 전자기기의 전면 상단에 설치될 수도 있다. 이 경우, 물체에 조사된 가시광선 중 물체의 표면에서 반사된 빛은 복합센서(5)로 바로 입사되며, 복합센서(5)는 이와 같이 입사된 빛으로부터 물체의 이미지를 나타내는 신호를 생성한다. 마찬가지로, 물체에 조사된 적외선 중 물체 속을 침투한 후에 물체의 표면으로부터 방출된 빛은 복합센서(5)로 바로 입사되며, 복합센서(5)는 이와 같이 입사된 빛으로부터 물체의 스펙트럼을 나타내는 신호를 생성한다. 이하에서는 복합센서(5)가 디스플레이패널(3) 아래에 배치된 예를 기준으로 본 발명의 실시예들을 설명하기로 한다. 이하의 설명은 전자기기의 전면 상단에 설치된 복합센서(5)에도 그대로 적용될 수 있다.

도 4는 도 2에 도시된 전자기기의 단면의 일례를 도시한 도면이다. 도 3을 참조하면, 후면패널(4)은 디스플레이패널(3)을 보호하는 보호층(41)과 디스플레이패널(3)의 열을 발산하는 방열층(42)으로 구성된다. 보호층(41)은 디스플레이패널(3)을 보호하기 위해 스펀지, 고무 등의 탄성소재로 제조될 수 있다. 방열층(42)은 디스플레이패널(3)의 열을 발산하기 위해 열전도율이 높은 알루미늄, 구리 등의 금속재로 제조될 수 있다. 이와 같이, 보호층(41)은 일반적으로 불투명 소재로 이루어져 있기 때문에 디스플레이패널(3)을 통과한 빛이 복합센서(5)에 도달할 수 있도록 복합센서(5)의 상측 영역에 해당하는 보호층(41)의 일부 영역에 광통과홀이 형성되어 있다. 보호층(41)의 광통과홀은 비어 있을 수도 있고 투명한 물질로 채워질 수도 있다. 이러한 광통과홀은 복합센서의 복합센서(5)의 수광면, 즉 상면 형태와 동일한 형태를 가질 수 있으며, 복합센서(5)의 고정을 위해 광통과홀의 개구 면적은 복합센서(5)의 상면 면적보다 약간 작을 수 있다. 방열층(42)에는 복합센서(5)가 삽입되는 홀이 형성되어 있다. 복합센서(5)는 방열층(42)의 홀에 삽입되어 브래킷(6)의 상면에 안착됨으로써 고정될 수 있다.

도 5는 도 3에 도시된 전자기기의 단면의 다른 예를 도시한 도면이다. 도 5를 참조하면, 도 4에 도시된 예와는 달리, 후면패널(4)에는 그 두께 전체, 즉 보호층(41)과 방열층(42)에 광통과홀이 형성되어 있고, 브래킷(6)에 복합센서(5)가 안착되어 고정될 수 있는 홈이 형성되어 있다. 도 5에 도시된 바와 같이, 복합센서(5)는 브래킷(6)의 홈에 삽입되어 홈 바닥면에 안착됨으로써 고정될 수 있다. 도 6은 도 4에 도시된 전자기기의 단면의 또 다른 예를 도시한 도면이다. 도 6을 참조하면, 도 4에 도시된 예와는 달리, 후면패널(4)의 보호층(41)에는 디스플레이패널(3)의 픽셀과 픽셀 사이의 투명 영역 복수 개에 상하로 일대일 대응되는 다공 형태의 복수 개의 광통과홀이 형성되어 있다.

전자기기는 물체 이미지와 상태 정보의 합성 이미지를 표시하는 어플리케이션이 실행되면, 그 물체에 적외선을 조사한다. 예를 들어, 전자기기는 물체 이미지와 상태 정보의 합성 이미지를 표시하는 어플리케이션이 실행되면, 사과 또는 사용자 얼굴에 적외선을 조사한다. 이때, 사과 또는 사용자 얼굴에는 적외선 외에도 자연광, 인공광 등에 의한 가시광선도 함께 조사된다. 사과 또는 사용자 얼굴에 조사된 빛 중 일부는 반사되어 커버글래스(1)를 다시 향하게 되고, 커버글래스(1), 터치패널(2), 디스플레이패널(3)을 차례대로 통과하게 된다. 디스플레이패널(3)을 통과한 빛은 후면패널(4)의 광통과홀을 통해 복합센서(5)에 도달하게 된다. 도 3-5에 도시된 예에 따르면, 복합센서(5)는 커버글래스(1), 터치패널(2), 디스플레이패널(3)을 차례대로 통과하여 후면패널(4)의 적어도 하나의 광통과홀을 통해 입사된 빛으로부터 물체의 이미지를 나타내는 신호와 물체의 스펙트럼을 나타내는 신호를 생성한다.

도 4-6에는 디스플레이패널(3)의 각 픽셀이 흑색 사각점으로 표현되어 있다. 이러한 흑색 사각점들 사이, 즉 디스플레이패널(3)의 픽셀 등 사이를 통한 빛이 복합센서(5)에 도달하게 된다. 미세한 크기의 픽셀 도시의 한계로 인해 도 3에는 각 픽셀의 크기가 과장되어 도시되어 있으며 실제로는 도 3에 도시된 바와 같은 3 개의 경로가 아닌, 매우 작은 크기의 픽셀과 픽셀 사이에 대응되는 보다 여러 경로를 통해 빛이 복합센서(5)에 도달하게 된다. 또한, 도 4-6에는 디스플레이패널(3)의 와이어들이 생략되어 있다. 이러한 와이어도 불투명한 재질이므로 엄밀하게는 픽셀과 와이어 사이, 와이어와 픽셀 사이의 투명 영역을 통해 빛이 복합센서(5)에 도달하게 된다. 본 실시예가 속하는 기술분야에서 통상의 지식을 가진 자라면 도 4-6에 도시된 예의 여러 다른 변형된 형태로 물체 표면에서 반사된 빛이 복합센서(5)에 도달하게 할 수 있음을 이해할 수 있다.

도 7은 도 3에 도시된 전자기기의 단면의 또 다른 예를 도시한 도면이다. 도 7을 참조하면, 후면패널(4)의 광통과홀에 볼록렌즈형의 콜리메이터렌즈(collimator lens)가 삽입되어 있다. 도 7에 도시된 후면패널(4)에는 그 두께 전체, 즉 보호층(41)과 방열층(42)에 광통과홀이 형성되어 있고, 브래킷(6)에 복합센서(5)가 안착되어 고정될 수 있는 홈이 형성되어 있다. 콜리메이터렌즈(50)는 후면패널(4)의 광통과홀에 삽입되는 구조로 디스플레이패널(3)의 아래에 배치되어 디스플레이패널(3)을 통과한 빛을 복합센서(5)의 상면에 수직으로 입사되는 평행광으로 변환한다. 아래에 설명된 바와 같이, 복합센서(5)의 복수 개의 컬러필터(511)와 복수 개의 분광필터(521)가 매트릭스 구조로 배열되어 있다. 복수 개의 컬러필터(511)와 복수 개의 분광필터(521) 각각에 빛이 수직으로 입사될 경우에 각 필터의 투과율이나 차단율이 최대가 되어 물체의 이미지와 스펙트럼이 보다 정확하게 생성될 수 있다. 콜리메이터렌즈(50)는 각 필터에 빛이 수직으로 입사되도록 하는 역할을 한다.

도 8은 도 2에 도시된 전자기기의 단면의 또 다른 예를 도시한 도면이다. 도 8을 참조하면, 후면패널(4)의 광통과홀에 복수 개의 콜리메이터렌즈(50)가 삽입되어 있다. 복수 개의 콜리메이터렌즈(50) 각각에 의한 광선 경로 변화가 보여질 수 있도록 도 8에는 도 3에 도시된 전자기기의 단면 일부가 확대되어 도시되어 있다. 도 8에 도시된 후면패널(4)에는 도 7에 도시된 예와 동일하게 그 두께 전체에 광통과홀이 형성되어 있고, 브래킷(6)에 복합센서(5)가 안착되어 고정될 수 있는 홈이 형성되어 있다. 다만, 도 7에 도시된 예에서는 후면패널(4)의 광통과홀에 하나의 콜리메이터렌즈(50)가 삽입되어 있으나, 도 8에 도시된 예에서는 후면패널(4)의 광통과홀에 복수 개의 콜리메이터렌즈(50)가 삽입되어 있다. 도 8에 도시된 바와 같이, 복수 개의 콜리메이터렌즈(50)는 서로 이웃하는 렌즈들끼리 연결되어 있는 일체형으로 제조될 수 있다.

도 7에 도시된 예와 같이, 후면패널(4)의 광통과홀에 하나의 콜리메이터렌즈(50)가 삽입된 경우, 디스플레이패널(3)을 통과한 빛 중 후면패널(4)의 광통과홀의 중심선을 따라 진행하는 광선은 콜리메이터렌즈(50)의 중심 부위에 입사됨에 따라 평행광 변환 효율이 높으나, 후면패널(4)의 광통과홀의 중심선으로부터 멀리 벗어나 있는 광선은 콜리메이터렌즈의 가장자리 부위에 입사됨에 따라 평행광 변환 효율이 낮다. 이에 따라, 도 8에 도시된 예에서는 복수 개의 콜리메이터렌즈(50)는 디스플레이패널(3)의 픽셀과 픽셀 사이의 투명 영역 복수 개에 상하로 일대일 대응되도록 후면패널(4)의 광통과홀에 삽입되어 있다. 이에 따라, 디스플레이패널(3)의 픽셀과 픽셀 사이의 투명 영역 복수 개를 통과한 광선은 각 콜리메이터렌즈의 중심에 입사될 수 있다.

도 9는 도 3에 도시된 전자기기의 단면의 또 다른 예를 도시한 도면이다. 도 9를 참조하면, 후면패널(4)의 보호층(41)에는 디스플레이패널(3)의 픽셀과 픽셀 사이의 투명 영역 복수 개에 상하로 일대일 대응되는 다공 형태의 복수 개의 광통과홀이 형성되어 있고, 방열층(42)의 광통과홀은 보호층(41)의 복수 개의 광통과홀 사이사이가 개구된 형태의 하나의 광통과홀이 형성되어 있다. 방열층(42)의 광통과홀에 복수 개의 콜리메이터렌즈(50)가 삽입되어 있다. 복수 개의 콜리메이터렌즈(50) 각각에 의한 광선 경로 변화가 보여질 수 있도록 도 8에는 도 2에 도시된 전자기기의 단면 일부가 확대되어 도시되어 있다. 후면패널(4)의 보호층(41)의 복수 개의 광통과홀은 각 콜리메이터렌즈(50)의 평행광 변환 효율을 향상시키기 위하여 디스플레이패널(3)의 픽셀과 픽셀 사이의 투명 영역을 통과한 빛이 각 콜리메이터렌즈(50)의 중심에 입사되도록 안내하는 역할을 한다.

도 7-9에 도시된 바와 같이, 사용자가 물체 이미지와 상태 정보의 합성 이미지를 표시하는 어플리케이션을 실행시키면, 발광모듈(8)에 발생한 적외선은 사과에 조사된다. 사과에 조사된 적외선 중 일부는 사과 표면에서 반사되고, 일부는 사과 속을 침투한 후에 다시 사과 표면으로 되돌아와 사과 표면으로부터 방출된다. 마찬가지로, 사용자가 물체 이미지와 상태 정보의 합성 이미지를 표시하는 어플리케이션을 실행시키면, 발광모듈(8)에 발생한 적외선은 사용자 얼굴에 조사될 수 있다. 사용자 얼굴에 조사된 적외선 중 일부는 얼굴 표면에서 반사되고, 일부는 얼굴 피부 속을 침투한 후에 다시 얼굴 피부의 표면으로 되돌아와 얼굴 피부의 표면으로부터 방출된다. 사과 또는 사용자 얼굴에는 적외선 외에도 자연광원이나 인공광원의 빛이 조사되며, 적외선과 마찬가지로 일부는 반사되고 일부는 침투 후 방출된다. 이와 같이, 커버글래스(1)를 향하게 된 빛은 커버글래스(1), 터치패널(2), 디스플레이패널(3)을 차례대로 통과하게 된다. 디스플레이패널(3)을 통과한 빛은 후면패널(4)의 광통과홀에 삽입된 적어도 하나의 콜리메이터렌즈(50)를 통해 복합센서(5)에 도달하게 된다.

도 7-9에 도시된 예에 따르면, 복합센서(5)는 커버글래스(1), 터치패널(2), 디스플레이패널(3)을 차례대로 통과하여 후면패널(4)의 적어도 하나의 광통과홀과 적어도 하나의 콜리메이터렌즈(50)를 통해 입사된 빛으로부터 물체의 이미지를 나타내는 신호와 물체의 스펙트럼을 나타내는 신호를 생성한다. 도 7-9에 도시된 예에서는 콜리메이터렌즈(50)가 복합센서(5)의 상면, 즉 수광면 전체를 덮는 구조로 도시되어 있으나 콜리메이터렌즈(50)는 지분센서(5)의 상면 일부인 분광센서(52)의 상면, 즉 분광센서(52)의 수광면만을 덮을 수도 있다. 이 경우, 복합센서(5)는 커버글래스(1), 터치패널(2), 디스플레이패널(3)을 차례대로 통과하여 후면패널(4)의 적어도 하나의 광통과홀과 적어도 하나의 콜리메이터렌즈(50)를 통해 입사된 빛으로부터 물체의 스펙트럼을 나타내는 신호를 생성한다.

도 10은 도 4에 도시된 단면 일부와 물체를 도시한 도면이다. 도 10의 (a)에는 발광모듈(8)로부터 사과에 조사된 적외선 중 일부는 사과 표면에서 반사되고 나머지는 사과 속으로 침투하는 모습이 도시되어 있다. 사과 속으로 침투한 적외선 중 일부는 흡수되고 나머지는 사과 표면으로 되돌아와 사과 표면으로부터 방출된다. 사과, 배 등과 같은 과일의 맛은 과즙에 함유되어 있는 당의 종류와 농도에 의해 결정된다. 과일의 당도는 과즙에서 수분을 제거한 고형물 100g 내의 당의 무게를 의미하는 브릭스(Brix) 단위로 나타낸다. 적외선은 특정 파장이나 대역, 특히 근적외선 대역에서 과일 내의 당에 흡수되는 성질을 갖고 있다. 따라서, 전자기기가 적외선을 과일에 조사하였을 때에 과일로부터 전자기기로 되돌아오는 특정 대역의 적외선 양이 적으면 과일의 당도가 높다고 할 수 있고, 과일로부터 전자기기로 되돌아오는 특정 대역의 적외선 양이 많으면 과일의 당도가 낮다고 할 수 있다. 과일의 종류 및 신선도에 따라 과일 내부의 조직이 변화되는데, 과일 내부의 조직에 따라 과일 내부에서 흡수되거나 산란되는 적외선의 양과 대역이 달라진다. 따라서, 어떤 종류의 과일에 대해 어떤 상태를 측정할 것인지에 따라 과일에 조사되는 적외선의 전체 대역과 과일로부터 되돌아오는 적외선에 대한 필터링 대역이 설계될 필요가 있다.

도 10의 (b)에는 사람 피부의 단면이 도시되어 있다. 한 도면의 크기 한계로 인해 도 10의 (b)에는 도 4에 도시된 단면 일부와 사람 피부의 단면이 서로 근접된 모습으로 도시되어 있으나 실제로는 도시된 것보다 훨씬 더 많이 떨어져 있다. 도 10의 (a)를 참조하면, 사람의 피부는 표피(epidermis)와 진피(dermis)의 2 계층으로 이루어져 있고, 진피 아래에는 혈관(blood vessel)이 지나간다. 발광모듈(8)로부터 사용자 얼굴에 조사된 적외선 중 일부는 얼굴 표면에서 반사되고 나머지는 얼굴 피부 속으로 침투하게 된다. 얼굴 피부 속으로 침투한 적외선은 몸 속을 이동하면서 서로 다른 굴절률의 경계에서 반사와 굴절을 반복하게 된다. 얼굴 피부 속으로 침투한 적외선 중 일부는 얼굴 표면으로 되돌아와 얼굴 표면으로부터 방출되게 된다.

발광모듈(8)로부터 얼굴에 조사된 적외선 중 일부는 얼굴의 표피 표면에서 반사되고, 일부는 피부 속으로 침투하여 표피와 진피의 2 계층 내에서 일부는 흡수되고 나머지는 산란된다. 이러한 흡수는 주로 헤모글로빈(hemoglobin), 빌리루빈(bilirubin), 베타카로틴(beta-carotene) 등과 같은 혈액 내 성분들과 표피의 멜라난, 수분, 유분 등에 기인한다. 따라서, 전자기기가 적외선을 사용자의 얼굴 피부에 조사하였을 때에 얼굴 피부로부터 전자기기로 되돌아오는 특정 대역의 적외선 양이 적으면 멜라닌 농도, 수분량, 유분량이 높다고 할 수 있고, 얼굴 피부로부터 전자기기로 되돌아오는 특정 대역의 적외선 양이 많으면 멜라닌 농도, 수분량, 유분량이 낮다고 할 수 있다. 피부 내 물질의 종류에 따라 서로 다른 대역의 적외선을 흡수한다. 예를 들어, 표피 내의 멜라닌은 470nm 이하의 청색광의 대부분을 흡수하고, 혈관 내의 헤모글로빈은 525nm 이하의 녹색광의 대부분과 640nm 이하의 적색광의 대부분을 흡수한다. 따라서, 얼굴 피부의 어떤 상태를 측정할 것인지에 따라 얼굴 피부에 조사되는 적외선의 전체 대역과 얼굴 피부로부터 되돌아오는 적외선에 대한 필터링 대역이 설계될 필요가 있다.

본 실시예의 복합센서(5)는 물체의 표면에서 반사되어 디스플레이패널(3)을 통과한 빛으로부터 물체의 이미지를 나타내는 신호를 생성하는 이미지센서(51)와 물체 속을 침투한 후에 물체의 표면으로부터 방출되어 디스플레이패널(3)을 통과한 빛으로부터 물체의 스펙트럼을 나타내는 신호를 생성하는 분광센서(52)로 구성된다. 상술한 바에 따르면, 본 실시예가 어떤 종류의 물체에 대해 어떤 상태를 측정할 것인지에 따라 발광모듈(8)로부터 방출되는 적외선의 전체 대역과 이하에서 설명될 분광센서(52)의 각 분광필터의 필터링 대역이 설계될 필요가 있다.

도 11은 도 3-7에 도시된 복합센서(5)의 구조의 일례를 개략적으로 도시한 도면이다. 도 11에서 약자 "C"는 컬러필터(511)를 나타내고, 약자 "S"는 분광필터(521)를 나타내고, 약자 "P"는 광전소자(512, 522)를 나타낸다. 본 실시예의 이미지센서(51)는 복수 개의 컬러필터(511)와 복수 개의 광전소자(512)를 이용하여 물체의 표면에 조사된 가시광선이 물체의 표면에서 반사되어 디스플레이패널(3)을 통과한 빛으로부터 물체의 이미지를 나타내는 신호를 생성한다. 컬러필터(511) 대신에 적외선필터가 이용될 수도 있으나, 복수 개의 적외선필터를 이용하여 물체의 표면에 조사된 적외선이 물체의 표면에서 반사된 빛으로부터 물체의 이미지를 나타내는 신호를 생성할 경우에 흑백 이미지가 생성된다. 분광센서(52)는 복수 개의 분광필터(521)와 복수 개의 광전소자(522)를 이용하여 물체의 표면에 조사된 적외선이 물체 속을 침투한 후에 물체의 표면으로부터 방출되어 디스플레이패널(3)을 통과한 빛으로부터 물체의 스펙트럼을 나타내는 신호를 생성한다. 각 광전소자(512, 522)의 대표적인 예로는 포토다이오드를 들 수 있다. 이에 따라, 광전소자의 약자가 도 10에 "P"로 표시되어 있다.

이미지센서(51)의 광전소자(512)와 분광센서(52)의 광전소자(522)로 동일한 타입의 포토다이오드가 사용될 수도 있고 서로 다른 타입의 포토다이오드가 사용될 수도 있다. 물체의 이미지를 나타내는 신호는 복수개의 광전소자(512), 즉 복수 개의 포토다이오드(512)로부터 출력된 전기적 신호가 증폭된 후에 디지털 신호로 변환된 신호일 수 있다. 마찬가지로, 물체의 스펙트럼을 나타내는 신호는 복수개의 포토다이오드(522)로부터 출력된 전기적 신호가 증폭된 후에 디지털 신호로 변환된 신호일 수 있다. 복수개의 포토다이오드(512, 522)로부터 출력된 전기적 신호의 증폭과 디지털 신호로의 변환은 복합센서(5)와 일체형의 증폭기와 컨버터에 수행될 수도 있고, 복합센서(5) 외의 별도의 증폭기와 컨버터에 의해 수행될 수도 있다.

도 11을 참조하면, 이미지센서(51)의 복수 개의 컬러필터(511)와 분광센서(52)의 복수 개의 분광필터(521)는 2차원 평면의 매트릭스 구조로 배열된다. 이러한 복수 개의 컬러필터(511)와 복수 개의 분광필터(521)의 배열면은 디스플레이패널(3)을 통과한 빛에 대한 복합센서(5)의 수광면을 형성한다. 즉, 복수 개의 컬러필터(511)는 2차원 평면의 매트릭스 구조의 일부분에 해당하는 매트릭스 구조로 배열되고, 복수 개의 분광필터(521)는 2차원 평면의 매트릭스 구조의 다른 부분에 해당하는 매트릭스 구조로 배열된다. 따라서, 디스플레이패널(3)을 통과한 빛이 복수 개의 컬러필터(511)와 복수 개의 분광필터(521) 각각에 수직으로 입사되도록 디스플레이패널(3)을 통과한 빛이 복수 개의 컬러필터(511)와 복수 개의 분광필터(521)의 배열면에 수직으로 입사되도록 함이 바람직하다. 이와 같이 복수 개의 컬러필터(511)와 복수 개의 분광필터(521)의 배열면에 수직으로 입사되도록 하기 위한 기술적 수단에 대해서는 앞에 설명되어 있다.

즉, 본 실시예의 이미지센서(51)는 2차원 평면의 매트릭스 구조의 일부분에 해당하는 매트릭스 구조로 배열된 복수 개의 컬러필터(511)를 이용하여 물체의 표면에서 반사되어 디스플레이패널(3)을 통과한 빛으로부터 물체의 이미지를 나타내는 신호를 생성한다. 본 실시예의 분광센서(52)는 2차원 평면의 매트릭스 구조의 다른 부분에 해당하는 매트릭스 구조로 배열된 복수 개의 분광필터(521)를 이용하여 물체 속을 침투한 후에 물체의 표면으로부터 방출되어 디스플레이패널(3)을 통과한 빛으로부터 물체의 스펙트럼을 나타내는 신호를 생성한다.

이미지센서(51)의 복수 개의 컬러필터(511)는 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조의 일부분에 해당하는 매트릭스 구조로 배열되어 디스플레이패널(3)을 통과한 빛을 필터링한다. 복수 개의 컬러필터(511)는 디스플레이패널을 통과한 빛에서 서로 다른 컬러의 빛을 투과시키는 여러 종류의 컬러필터(511)들로 구성되며, 여러 종류의 컬러필터(511)는 매트릭스 구조로 번갈아 배열된다. 복수 개의 컬러필터(511)는 적색 대역의 빛을 투과시키고 나머지 대역의 빛을 차단하는 복수 개의 적색필터, 녹색의 빛을 투과시키고 나머지 대역의 빛을 차단하는 복수 개의 녹색필터, 및 청색 대역의 빛을 투과시키고 나머지 대역의 빛을 차단하는 복수 개의 청색필터로 구성될 수 있다. 복수 개의 적색필터, 복수 개의 녹색필터, 및 복수 개의 청색필터는 베이어 모자이크 패턴(bayer mosaic pattern)의 매트릭스 구조로 번갈아 배열될 수 있다.

복수 개의 광전소자(512)는 복수 개의 컬러필터(511)에 상하로 일대일 대응되도록 복수 개의 컬러필터(511)의 매트릭스 구조와 동일한 매트릭스 구조로 배열되어 복수 개의 컬러필터(511) 아래에 배치된다. 복수 개의 광전소자(512)는 복수 개의 컬러필터(511)에 의해 필터링된 빛을 전기적 신호로 변환함으로써 물체의 표면에서 반사되어 디스플레이패널(3)을 통과한 빛으로부터 물체의 이미지를 나타내는 신호를 생성한다. 각 광전소자(512)는 이것에 상하로 일대일 대응되는 각 컬러필터(511)에 의해 필터링된 빛을 그 강도에 따라 서로 다른 레벨의 전기적 신호로 변환한다. 복수 개의 광전소자(512) 각각에 의해 생성된 전기적 신호의 조합으로부터 물체의 이미지가 생성될 수 있다.

분광센서(52)의 복수 개의 분광필터(521)는 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조의 다른 부분에 해당하는 매트릭스 구조로 배열되어 디스플레이패널(3)을 통과한 빛을 필터링한다. 본 실시예의 복수 개의 분광필터(521)는 과일의 상태, 예를 들어 사과의 당도를 측정하기 위해 발광모듈(8)로부터 과일에 조사된 적외선의 파장대역 중 과일 속을 침투한 후에 과일 표면으로 되돌아와 과일 표면으로부터 방출되는 과정에서 흡수되는 파장대역에 속하는 복수의 파장대역을 투과시키거나 차단한다. 아니면, 본 실시예의 복수 개의 분광필터(521)는 사람의 피부 상태, 예를 들어 얼굴 피부의 멜라닌 농도를 측정하기 위해 발광모듈(8)로부터 사람의 피부에 조사된 적외선의 파장대역 중 피부 속을 침투한 후에 피부 표면으로 되돌아와 피부 표면으로부터 방출되는 과정에서 흡수되는 파장대역에 속하는 복수의 파장대역을 투과시키거나 차단한다. 여기에서, 사람의 피부는 얼굴 피부가 다른 부위, 예를 손등의 피부일수도 있다. 복수 개의 분광필터(521)는 디스플레이패널(3)을 통과한 빛에서 서로 다른 파장대역의 적외선을 투과시키거나 차단함으로써 디스플레이패널(3)을 통과한 빛을 필터링하는 여러 종류의 분광필터(521)들로 구성되며, 여러 종류의 분광필터(521)는 상술한 바와 같은 매트릭스 구조로 번갈아 배열된다.

예를 들어, 여러 종류의 분광필터(521)는 종류별로 하나씩 2차원 평면의 매트릭스 구조의 다른 부분에 속하는 매트릭스의 한 행 또는 한 열에 채워나가고, 모든 종류의 분광필터(521)의 배열이 완료되면 다시 종류별로 하나씩 채워나가는 방식으로 번갈아 배열될 수 있다. 상술한 바와 같이, 본 실시예의 분광센서(52)는 전자기기에 근접하여 위치한 사과의 당도 측정을 위해 520 ~ 910nm 대역의 스펙트럼을 검출할 수 있다. 이 경우, 복수 개의 분광필터(521)는 520 ~ 910nm 대역을 수 nm 단위로 분할하여 필터링하는 여러 종류의 분광필터(521)들로 구성될 수 있다. 예를 들어, 복수 개의 분광필터(521)는 520 ~ 910nm 대역을 5nm 단위로 분할하여 필터링하는 여러 종류의 분광필터(521)들로 구성될 수 있다. 즉, 복수 개의 분광필터(521)는 520 ~ 525nm 대역, 525 ~ 530nm 대역, ..., 905 ~ 910nm 대역의 서로 다른 파장대역을 투과시키거나 차단하는 여러 종류의 분광필터(521)들로 구성될 수 있다.

본 실시예의 분광센서(52)는 전자기기에 근접하여 위치한 사용자의 얼굴 피부의 멜라닌 농도 측정을 위해 350 ~ 850nm 대역의 스펙트럼을 검출할 수 있다. 이 경우, 복수 개의 분광필터(521)는 350 ~ 850nm 대역을 수 nm 단위로 분할하여 필터링하는 여러 종류의 분광필터(521)들로 구성될 수 있다. 예를 들어, 복수 개의 분광필터(521)는 350 ~ 850nm 대역을 5nm 단위로 분할하여 필터링하는 여러 종류의 분광필터(521)들로 구성될 수 있다. 즉, 복수 개의 분광필터(521)는 350 ~ 355nm 대역, 355 ~ 360nm 대역, ..., 845 ~ 850nm 대역의 서로 다른 파장대역을 투과시키거나 차단하는 여러 종류의 분광필터(521)들로 구성될 수 있다. 이와 같이, 물체의 종류에 따라 물체의 분광 특성이 두드러지는 파장대역이 달라질 수 있음을 알 수 있고, 그 파장대역은 적외선 대역 외에 가시광선 대역을 더 포함할 수 있음을 알 수 있다. 따라서, 어떤 종류의 물체의 상태를 측정할 것인가에 따라 본 실시예의 각 분광필터(521)의 필터링 대역이 설계될 필요가 있다.

디스플레이패널(3)을 통과한 빛의 대역을 분할하는 단위가 작을수록, 즉 복수 개의 분광필터(521)의 종류가 많을수록 분광센서(52)에 의해 검출되는 스펙트럼의 해상도가 높아질 수 있다. 그러나, 동일한 파장대역을 투과시키거나 차단하는 한 종류의 분광필터(521)가 중복되어 배열되는 회수가 그 만큼 감소됨에 따라 분광센서(52)에 의해 검출되는 스펙트럼의 정확도가 낮아질 수 있다. 따라서, 전자기기에 근접하여 위치한 물체의 상태 정보 추정에 적합한 스펙트럼의 해상도와 정확도를 교량하여 디스플레이패널(3)을 통과한 빛에 대한 대역 분할 단위의 크기가 설계됨이 바람직하다.

복수 개의 광전소자(522)는 복수 개의 분광필터(521)에 상하로 일대일 대응되도록 복수 개의 분광필터(521)의 매트릭스 구조와 동일한 매트릭스 구조로 배열되어 복수 개의 분광필터(521) 아래에 배치된다. 복수 개의 광전소자(522)는 복수 개의 분광필터(521)에 의해 필터링된 빛을 전기적 신호로 변환함으로써 물체 속을 침투한 후에 물체의 표면으로부터 방출되어 디스플레이패널을 통과한 빛으로부터 물체의 스펙트럼을 나타내는 신호를 생성한다. 각 광전소자(522)는 이것에 상하로 일대일 대응되는 각 분광필터(521)에 의해 필터링된 빛을 그 강도에 따라 서로 다른 레벨의 전기적 신호로 변환한다. 복수 개의 광전소자(522) 중 어떤 광전소자는 물체 속을 침투한 후에 물체의 표면으로부터 방출되어 디스플레이패널을 통과한 빛의 어떤 파장 대역에 대응하는 전기적 신호를 생성하고, 다른 광전소자는 다른 파장 대역에 대응하는 전기적 신호를 생성한다. 복수 개의 광전소자(522) 각각에 의해 생성된 전기적 신호의 조합으로부터 물체의 상태 측정에 필요한 스펙트럼이 생성될 수 있다.

복수 개의 광전소자(522)는 복수 개의 분광필터(521)에 상하로 일대다 대응되도록 복수 개의 분광필터(521) 아래에 배치될 수도 있다. 이 경우, 하나의 분광필터(521)에 의해 필터링 빛은 복수 개의 광전소자(522) 중 그 분광필터(521) 아래에 배치된 복수 개의 광전소자(522)에 입사된다. 그 분광필터(521) 아래에 배치된 복수 개의 광전소자(522) 각각은 분광필터(521)에 의해 필터링 빛을 전기적 신호로 변환하게 된다. 예를 들어, 각 분광필터(521)의 사이즈가 각 광전소자(522)의 사이즈보다 크게 제조될 경우에 복수 개의 광전소자(522)는 복수 개의 분광필터(521)에 상하로 일대다 대응되도록 복수 개의 분광필터(521) 아래에 배치될 수 있다.

종래에는 프리즘, 회절격자 등을 이용하여 물체의 스펙트럼을 생성하기 때문에 소형화가 어려워 스마트폰에 적용되기가 불가능하였다. 이에 따라, 본 실시예의 복합센서(5)는 프리즘, 회절격자 대신에 CMOS(Complementary Metal Oxide Semiconductor) 이미지센서의 컬러필터의 크기보다 작은 나노 구조체로 구현될 수 있는 복수 개의 분광필터를 이용하여 물체 속을 침투한 후에 물체의 표면으로부터 방출되어 디스플레이패널(3)을 통과한 빛으로부터 물체의 스펙트럼을 나타내는 신호를 생성한다. 본 실시예의 분광필터의 소형화 수단에 관해서는 아래에서 자세히 살펴보기로 한다. 즉, 본 실시예의 복수 개의 분광필터(521)는 발광모듈(8)로부터 물체에 조사된 빛의 파장대역 중 어떤 종류의 물체 속을 침투한 후에 물체 표면으로 되돌아와 물체 표면으로부터 방출되는 과정에서 흡수되는 파장대역을 분할하여 서로 다른 파장대역을 투과시키거나 차단하는 분광필터들의 조합이라고 할 수 있다.

예를 들어, 본 실시예의 복수 개의 분광필터(521)는 발광모듈(8)로부터 물체에 조사된 빛의 파장대역 중 사과 속을 침투한 후에 사과 표면으로 되돌아와 사과 표면으로부터 방출되는 과정에서 흡수되는 파장대역을 분할하여 서로 다른 파장대역을 투과시키거나 차단하는 분광필터들의 조합이라고 할 수 있다. 아니면, 본 실시예의 복수 개의 분광필터(521)는 발광모듈(8)로부터 물체에 조사된 빛의 파장대역 중 사람의 얼굴 피부 속을 침투한 후에 얼굴 피부 표면으로 되돌아와 얼굴 피부 표면으로부터 방출되는 과정에서 흡수되는 파장대역을 분할하여 서로 다른 파장대역을 투과시키거나 차단하는 분광필터들의 조합이라고 할 수 있다.

도 11에 도시된 예에서, 복수 개의 컬러필터(511)는 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조의 우측 부분에 해당하는 매트릭스 구조로 배열되고, 복수 개의 분광필터(521)는 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조의 좌측 부분에 해당하는 매트릭스 구조로 배열된다. 도 12는 도 3-7에 도시된 복합센서(5)의 구조의 다른 예를 개략적으로 도시한 도면이다. 도 12에 도시된 예에서, 복수 개의 컬러필터(511)는 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조 중 네 개의 모서리 부분이 제거된 십자 부분에 해당하는 매트릭스 구조로 배열되고, 복수 개의 분광필터(521)는 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조의 네 개의 모서리 부분에 해당하는 매트릭스 구조로 배열된다. 도 13은 도 3-7에 도시된 복합센서(5)의 구조의 또 다른 예를 개략적으로 도시한 도면이다. 도 13에 도시된 예에서, 복수 개의 컬러필터(511)는 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조 중 가장자리 부분이 제거된 중심 부분에 해당하는 매트릭스 구조로 배열되고, 복수 개의 분광필터(521)는 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조의 가장자리 부분에 해당하는 매트릭스 구조로 배열된다.

도 11에 도시된 예에서는 복수 개의 분광필터(521)가 복합센서(5)의 수광면의 어느 한쪽의 영역에 집중되어 배열됨에 따라 그 쪽 영역에 조사되는 빛에 대한 스펙트럼이 비교적 정확하게 생성될 수 있다는 장점이 있는 반면, 복합센서(5)의 수광면에 조사하는 빛 중 일부에 대한 스펙트럼이 누락될 수 있다는 단점이 있다. 한편, 도 12-13에 도시된 예에서는 복합센서(5)의 수광면의 어느 한쪽의 영역에 집중되지 않고 산재되어 배열됨에 따라 복합센서(5)의 수광면에 조사하는 빛 전체에 대한 스펙트럼이 생성될 수 있다는 장점이 있는 반면, 각 영역에 배열된 분광필터(521)의 개수가 적어 스펙트럼의 정확도가 다소 떨어질 수 있다는 단점이 있다. 각 분광필터(521)의 성능을 고려하여 복수 개의 컬러필터(511)와 복수 개의 분광필터(521)의 배열 구조가 설계됨이 바람직하다. 본 실시예가 속하는 기술분야에서 통상의 지식을 가진 자라면 도 11-13에 도시된 예 외에 여러 가지의 구조로 복수 개의 컬러필터(511)와 복수 개의 분광필터(521)가 배열될 수 있음을 이해할 수 있다.

도 14는 도 11에 도시된 복합센서(5)의 일 구현예의 단면도이다. 도 14에는 하나의 기판에 이미지센서(51)와 분광센서(52)를 집적시켜 복합센서(5)가 구현된 예가 도시되어 있다. 본 실시예가 속하는 기술분야에서 통상의 지식을 가진 자라면 이미지센서(51)와 분광센서(52)가 별개의 기판에 구현될 수 있음을 이해할 수 있다. 다만, 하나의 기판에 복수 개의 컬러필터(511)와 복수 개의 분광필터(521)를 집적시키는 방식이 복합센서(5)의 제조공정 단순화에 유리할 수 있다. 도 14에서 약자 "L"은 마이크로렌즈를 나타내고, 약자 "C"는 컬러필터를 나타내고, 약자 "S"는 분광필터를 나타내고, 약자 "P"는 광전소자를 나타낸다. 도 14로부터 도 12, 13에 도시된 예의 복합센서(5)가 어떻게 구현될 수 있는지가 쉽게 이해될 수 있기 때문에 도 12, 13에 도시된 복합센서(5)에 대한 구현예의 도시는 생략된다. 도 14의 (a)에는 전면조사형(FSI, Front Side Illumination) 이미지센서(51)를 채용한 복합센서(5)의 구현예가 도시되어 있고, 도 14의 (b)에는 후면조사형(BSI, Back Side Illumination) 이미지센서(51)를 채용한 복합센서(5)의 구현예가 도시되어 있다.

도 14의 (a)의 이미지센서(51)에 해당하는 부분을 살펴보면, 복합센서기판(500) 상에 복수 개의 광전소자(512)가 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조의 일부분에 해당하는 매트릭스 구조로 배열되어 적층된다. 복수 개의 광전소자(512) 위에는 각 컬러필터(511)와 각 광전소자(512)에 전원을 공급하기 위한 와이어가 매립된 절연층(503)이 적층된다. 이에 따라, 절연층(503)은 배선층으로 호칭되기도 한다. 절연층(503)은 SiO₂ 등과 같은 투명한 유전체 물질로 제조될 수 있다. 절연층(503) 위에는 복수 개의 컬러필터(511)가 복수 개의 광전소자(512)에 상하로 일대일 대응되도록 복수 개의 분광필터(521)의 매트릭스 구조와 동일한 매트릭스 구조로 배열되어 적층된다. 각 컬러필터(511)에 의해 필터링된 빛은 절연층(503)의 와이어 사이를 통과하여 각 광전소자(512)에 도달하게 된다. 복수 개의 컬러필터(511) 위에는 복수 개의 컬러필터(511)의 배열면을 평탄화하는 평탄화층(502)이 적층된다. 평탄화층(502)은 투명한 유전체 물질로 제조된다. 평탄화층(502) 위에는 복수 개의 마이크로렌즈(501)가 복수 개의 컬러필터(511)에 상하로 일대일 대응되도록 복수 개의 컬러필터(511)의 매트릭스 구조와 동일한 매트릭스 구조로 배열되어 적층된다. 각 마이크로렌즈(501)는 이것에 입사된 빛이 그 아래의 각 컬러필터(511)에 집속되도록 하는 역할을 한다.

도 14의 (a)의 분광센서(52)에 해당하는 부분을 살펴보면, 복합센서기판(500) 상에 복수 개의 광전소자(522)가 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조의 다른 부분에 해당하는 매트릭스 구조로 배열되어 적층된다. 복수 개의 광전소자(522) 위에는 각 분광필터(521)와 각 광전소자(522)에 전원을 공급하기 위한 와이어가 매립된 절연층(503)이 적층된다. 절연층(503) 위에는 복수 개의 분광필터(521)가 복수 개의 광전소자(522)에 상하로 일대일 대응되도록 복수 개의 광전소자(522)의 매트릭스 구조와 동일한 매트릭스 구조로 배열되어 적층된다. 각 분광필터(521)에 의해 필터링된 빛은 절연층(503)의 와이어 사이를 통과하여 각 광전소자(522)에 도달하게 된다. 복수 개의 분광필터(521) 위에는 복수 개의 분광필터(521)의 배열면을 평탄화하는 평탄화층(502)이 적층된다. 평탄화층(502) 위에는 복수 개의 마이크로렌즈(501)가 복수 개의 분광필터(521)에 상하로 일대일 대응되도록 복수 개의 분광필터(521)의 매트릭스 구조와 동일한 매트릭스 구조로 배열되어 적층된다. 각 마이크로렌즈(501)는 이것에 입사된 빛이 그 아래의 각 분광필터(521)에 집속되도록 하는 역할을 한다.

도 14의 (b)의 이미지센서(51)에 해당하는 부분을 살펴보면, 복합센서기판(500) 상에 각 컬러필터(511)와 각 광전소자(512)에 전원을 공급하기 위한 와이어가 매립된 절연층(503)이 적층된다. 절연층(503) 상에 복수 개의 광전소자(512)가 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조의 일부분에 해당하는 매트릭스 구조로 배열되어 적층된다. 복수 개의 광전소자(512) 위에는 복수 개의 컬러필터(511)가 복수 개의 광전소자(512)에 상하로 일대일 대응되도록 복수 개의 분광필터(521)의 매트릭스 구조와 동일한 매트릭스 구조로 배열되어 적층된다. 이와 같이, 도 14의 (a)의 이미지센서(51)에서는 복수 개의 광전소자(512) 위에 절연층(503)이 배치되는 반면, 도 14의 (b)의 이미지센서(51)에서는 복수 개의 광전소자(512) 아래에 절연층(503)이 배치된 점을 제외하고는 도 14의 (b)의 이미지센서(51)는 도 14의 (a)의 이미지센서(51)와 유사한 적층 구조를 갖는다. 이에 따라, 도 14의 (b)의 이미지센서(51)의 나머지 구성에 대해서는 도 14의 (a)의 이미지센서(51)에 대한 설명으로 갈음하기로 한다.

도 14의 (b)의 분광센서(52)에 해당하는 부분을 살펴보면, 복합센서기판(500) 상에 각 분광필터(521)와 각 광전소자(522)에 전원을 공급하기 위한 와이어가 매립된 절연층(503)이 적층된다. 절연층(503) 상에 복수 개의 광전소자(522)가 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조의 다른 부분에 해당하는 매트릭스 구조로 배열되어 적층된다. 복수 개의 광전소자(522) 위에는 복수 개의 분광필터(521)가 복수 개의 광전소자(522)에 상하로 일대일 대응되도록 복수 개의 광전소자(522)의 매트릭스 구조와 동일한 매트릭스 구조로 배열되어 적층된다. 이와 같이, 도 14의 (a)의 분광센서(52)에서는 복수 개의 광전소자(512) 위에 절연층(503)이 배치되는 반면, 도 14의 (b)의 분광센서(52)에서는 복수 개의 광전소자(512) 아래에 절연층(503)이 배치된 점을 제외하고는 도 14의 (b)의 분광센서(52)는 도 14의 (a)의 분광센서(52)와 유사한 적층 구조를 갖는다. 이에 따라, 도 14의 (b)의 분광센서(52)의 나머지 구성에 대해서는 도 14의 (a)의 분광센서(52)에 대한 설명으로 갈음하기로 한다.

도 14의 (a)와 (b)를 비교해보면, 전면조사형 복합센서(5)에서는 복수 개의 광전소자(512) 위에 절연층(503)이 배치되기 때문에 복수 개의 광전소자(512)에 입사되는 광의 손실이 많다는 단점이 있다. 반면, 후면조사형 복합센서(5)에서는 절연층(503)이 복수 개의 광전소자(512) 아래에 배치되기 때문에 복수 개의 광전소자(512)에 입사되는 광의 손실이 거의 없으나 서로 이웃하는 컬러필터 사이에서 컬러 혼합이 발생할 수 있다는 단점이 있다. 도 14는 본 발명의 일 실시예에 따른 복합센서 구조에 대한 간략한 개념도로서 본 실시예가 속하는 기술분야에서 통상의 지식을 가진 자라면 도 14에 도시된 층 외에 다른 층이 추가될 수 있음을 이해할 수 있다. 예를 들어, 복수 개의 광전소자(512)에 입사되는 빛의 반사를 방지하는 반사방지층(Anti-Reflection layer)이 복수 개의 광전소자(522) 위에 적층될 수도 있다. 도 14에 도시된 이미지센서(51)의 구조는 전형적인 CMOS 이미지 센서의 구조로 CMOS 이미지센서의 픽셀 중 일부의 컬러필터를 본 실시예의 분광필터로 대체함으로써 본 실시예에 따른 복합센서(5)가 용이하게 제조될 수 있음을 알 수 있다. 본 실시예가 속하는 기술분야에서 통상의 지식을 가진 자라면 CCD(Charge Coupled Device) 이미지센서의 픽셀 중 일부의 컬러필터를 본 실시예의 분광필터로 대체함으로써 본 실시예에 따른 복합센서(5)가 용이하게 제조될 수 있음을 이해할 수 있다.

도 15는 도 14에 도시된 분광필터(521)의 일례를 도시한 도면이다. 도 15의 (a)에는 도 14에 도시된 분광필터(521)의 평면이 도시되어 있고, 도 15의 (b)에는 분광필터(521)의 단면이 도시되어 있다. 도 15를 참조하면, 각 분광필터(521)는 일정한 형상을 갖는 금속패턴들이 주기적으로 배열된 형태로 형성되어 디스플레이패널(3)을 통과한 빛에서 금속패턴들의 배열 주기에 따라 결정되는 파장 대역을 차단하고, 나머지 파장대역을 통과시킬 수 있다. 분광필터 S1, S2 각각은 투명기판(151) 상에 원판형 금속패턴(152)들이 2차원 격자 구조로 주기적으로 배열된 형태로 구현된다. 투명기판(151)은 유리, 고분자, Ge, GeSe, ZnS, ZnSe, 사파이어, CaF₂, MgF₂ 등 다양한 물질로 제조될 수 있다. 도 14의 절연층(503)이 이러한 투명기판(151)의 역할을 할 수도 있다. 이 경우, 분광필터 S1, S2 각각은 절연층(503) 상에 원판형 금속패턴(152)들이 2차원 격자 구조로 주기적으로 배열된 형태로 구현된다. 금속패턴(152)은 플라즈모닉 금속인 Au, Ag, Al, Cu, 또는 이들 중 적어도 2개의 합금 또는 이들 중 적어도 하나를 포함하고 다른 원소를 포함하는 합금일 수 있고, 광흡수형 금속인 Cr, Ni, Ti, Pt, Sn, Sb, Mo, W, V, Ta, Te, Ge, Si, 또는 이들 중 적어도 2개의 합금 또는 이들 중 적어도 하나를 포함하고 다른 원소를 포함하는 합금일 수 있다.

각 금속패턴은 원형디스크 외에 사각디스크, 다각형, 막대형, 크로스바형 등 다양한 형태의 나노 구조체일 수도 있다. 이러한 금속패턴들은 선형 격자 구조 또는 2차원 격자 구조로 주기적으로 배열될 수 있고, 2차원 격자 구조로는 정사각 격자 구조, 육방정 격자 구조가 가능하다. 이러한 나노 구조체의 금속패턴은 그것의 표면 플라즈몬(surface plasmon)에 의해 특정 파장 대역의 빛을 흡수하고 나머지 파장 대역의 빛을 투과시키는 성질을 갖고 있다. 표면 플라즈몬 공진 현상이란 금속 표면에 빛이 입사할 경우 특정 파장의 빛과 금속 표면의 자유전자가 공진을 일으켜 특정 파장의 빛을 그 표면에 따라 전파하는 현상을 말한다. 플라즈몬은 입사된 빛의 전기장에 의해 금속 표면에 유도된 자유전자가 집단적으로 진동하는 유사 입자를 말하며, 금속 표면에 국부적으로 존재한다. 국부적으로 표면 플라즈몬 특성을 갖는 금속 나노 구조체의 경우, 빛이 입사되었을 때에 입사광 중 특정 파장대역의 광을 흡수하는 특성을 보인다.

종래에는 프리즘, 회절격자 등을 이용하여 물체의 스펙트럼을 생성하기 때문에 소형화가 어려워 스마트폰에 적용되기가 불가능하였다. 상술한 바와 같이, 본 실시예는 분광센서(52)의 분광필터(521)로서 나노 구조체에 해당하는 금속패턴들이 주기적으로 배열된 형태에 의해 광 필터링이 가능하도록 하는 일종의 플라즈모닉 필터를 채택함으로써 스마트폰의 이미지 센서로 널리 사용되고 있는 기존의 CMOS 이미지센서와의 집적이 매우 용이한 분광센서(52)의 구현이 가능하게 된다. 이에 따라, 스마트폰과 같은 소형의 전자기기의 종전 사이즈를 그대로 유지하면서도 제작단가의 큰 상승 없이 사용자가 물체를 촬영하는 것만으로 사용자가 물체의 상태를 알 수 있도록 할 수 있는 소형의 전자기기를 제공할 수 있다.

도 15에 도시된 바와 같이, 분광필터(521)의 금속패턴들은 주기적 격자 구조를 갖는 금속 나노구조체 배열을 이루고, 표면 플라즈몬과 격자 모드와의 커플링에 의해 특정 파장 대역에서 강화된 특이적 광흡수 내지 광반사 현상을 나타낸다. 이로 인해 금속 나노구조체 배열을 투과하는 빛의 스펙트럼은 특이적 광흡수 내지 광반사 현상이 강화되는 선택적 파장대역에서 투과도가 급격히 낮아지는 딥(dip) 곡선을 형성하게 된다. 분광필터 S1, S2의 "D1, D2"는 금속패턴의 길이를 나타내고, "P1, P2"는 금속패턴간의 간격을 나타낸다. 분광필터 S1의 듀티사이클 D1/P1과 분광필터 S2의 듀티사이클 D2/P2는 동일하게 유지됨이 바람직하나 다를 수도 있다. 즉, 모든 분광필터의 듀티사이클은 동일하게 유지됨이 바람직하나 다를 수도 있다. 듀티사이클은 30 ~ 80%임이 바람직하다. 듀티사이클이 30% 미만이면 딥의 크기가 매우 작고 80%를 초과하면 너무 넓은 딥 곡선이 생성되는 경향이 있다.

본 실시예의 분광필터(521)의 금속패턴들에 의해 형성되는 스펙트럼 형상은 금속 물질의 종류, 금속패턴들의 배열 주기, 금속패턴의 크기 등과 같은 기하학적 구조에 의존하며, 특히 분광필터(521)에 의해 차단되는 빛의 중심 파장은 금속패턴들의 배열 주기에 의해 지배적으로 결정된다. 본 실시예에 따르면, 금속패턴들의 배열 주기를 변화시킴으로써 분광필터(521)에 의해 차단되는 빛의 중심 파장이 쉽게 변경될 수 있다. 복수 개의 분광필터(521) 중 어느 하나의 분광필터의 금속패턴들과 다른 하나의 분광필터의 금속패턴들이 서로 다른 주기로 배열된다면, 어느 하나의 분광필터와 다른 하나의 분광필터는 서로 다른 파장대역을 차단하게 된다.

상술한 바와 같이, 본 실시예의 분광센서(52)는 전자기기에 근접하여 위치한 사과의 당도 측정을 위해 520 ~ 910nm 대역의 스펙트럼을 검출함을 목표로 한다. 아니면, 본 실시예의 분광센서(52)는 전자기기에 근접하여 위치한 얼굴 피부의 멜라닌 농도 측정을 위해 350 ~ 850nm 대역의 스펙트럼을 검출함을 목표로 한다. 520 ~ 910nm 또는 350 ~ 850nm 대역의 스펙트럼 검출을 위해, 금속패턴들의 배열 주기는 0.1 ~ 1.5 ㎛ 사이에서 설계됨이 바람직하다. 예를 들어, 520 ~ 910nm 또는 350 ~ 850nm 대역을 5nm 단위로 분할하여 필터링하는 여러 종류의 분광필터(521)들은 금속패턴들의 주기를 0.1 ~ 1.5 ㎛ 범위 내에서 5nm 단위에 대응되는 간격으로 점진적으로 변화시킴으로써 구현될 수 있다. 또한, 각 금속패턴의 두께는 5 ~ 500nm가 바람직하다. 5nm 보다 작으면 표면에서 산란되는 자유전자의 비율이 증대되어 플라즈몬 감쇄의 큰 요소로 작용하게 되고, 500nm 이상이면 부피 증가 효과로 다극자(multipole) 공진이 발생하게 된다.

종래에는 플라즈모닉 필터로 목표 대역에 대한 투과형 특성을 갖는 금속 나노홀 어레이 구조가 활용되어 왔다. 금속 나노홀 어레이 구조는 금속 표면을 따라 진행하는 표면 플라즈몬파와 격자 모드와의 커플링에 의해 특정 파장대역에서 특이적 광투과 현상을 나타낸다. 또한, 금속 나노홀 어레이 구조는 본 실시예의 금속패턴 어레이 구조의 경우와 달리 진행파간의 커플링에 기반하기 때문에 다양한 모드가 존재하며, 단일 투과밴드로 정의되지 않는 특징이 있다. 이러한 다중모드의 존재는 각 광전소자에 입사되는 신호 파장을 처리하는 과정에서 신호 왜곡을 초래할 수 있다. 또한, 본 실시예의 분광필터(521)는 디스플레이패널(3)을 통과한 빛에서 금속패턴들의 배열 주기에 따라 결정되는 파장 대역을 차단하기 때문에 주기에 의존하는 자유스펙트럼범위(free spectral range)가 비교적 넓어서 종래의 투과형 필터에 비해 520 ~ 910nm 또는 350 ~ 850nm 대역 전반을 커버할 수 있다.

도 16은 도 15에 도시된 분광필터(521)의 투과 특성의 시뮬레이션 결과를 나타내는 그래프이다. 알루미늄을 사용하여 50nm 두께의 나노디스크들을 제작하고 듀티사이클 50%의 육방정 격자 구조로 배열하였다. 그 배열 주기를 200nm부터 1500nm까지 100nm 간격으로 변화시켜가면서 그 투과도의 딥 곡선을 컴퓨터 시뮬레이션으로 계산하였다. 도 16으로부터 도 15에 도시된 분광필터(521)는 0.35um부터 2um 대역까지 투과도가 급격히 낮아지는 딥 곡선이 연속적으로 가변되는 특성, 즉 그 중심파장이 연속적으로 가변되는 단일 스톱밴드(stop band) 특성을 나타내고 있음을 알 수 있다.

상술한 바와 같이, 도 15에 도시된 분광필터(521)는 디스플레이패널(3)을 통과한 빛에서 금속패턴들의 배열 주기에 따라 결정되는 파장 대역을 차단한다. 복수 개의 광전소자(522)는 도 15에 도시된 실시예에 따른 복수 개의 분광필터(521)에 의해 필터링된 빛을 전기적 신호로 변환함으로써 물체의 스펙트럼을 나타내는 신호를 생성한다. 도 15에 도시된 분광필터(521)는 차단형 플라즈모닉 필터로서 도 15에 도시된 실시예에 따른 복수 개의 분광필터(521)에 의해 필터링된 빛을 이용하여 생성된 스펙트럼은 종래의 투과형 플라즈모닉 필터에 의해 필터링된 빛으로부터 생성된 스펙트럼과 역상의 관계에 있다. 프로세서는 이러한 역상의 스펙트럼을 나타내는 신호를 이용하여 물체의 상태 정보를 추정할 수도 있고, 역상 스펙트럼으로부터 정상 스펙트럼을 복원한 후에 정상 스펙트럼을 이용하여 물체의 상태 정보를 추정할 수도 있다.

도 17은 도 14에 도시된 분광필터(521)의 다른 예를 도시한 도면이다. 도 17의 (a)에는 도 14에 도시된 분광필터(521)의 단면이 도시되어 있고, 도 17의 (b)에는 분광필터(521)의 평면이 도시되어 있다. 도 17을 참조하면, 각 분광필터(521)는 상반사층(171), 하반사층(172), 유전체층(173) 및 버퍼층(174)으로 구성된다. 상반사층(171)과 하반사층(172)은 서로 이격 분리되어 그것에 입사된 빛 중 일부를 반사하고 나머지를 투과시킨다. 상반사층(171)과 하반사층(172) 각각은 반투과 특성을 갖는 Ag, Au, Al, Cr, Mo 등의 금속박막 형태로 형성되거나 고굴절율 유전체층과 저굴절율 유전체층의 주기적 다층구조로 이루어진 분산 브래그 반사막(Distributed Bragg Reflector)일 수 있다. 상반사층(171)과 하반사층(172)은 각 분광필터(521)의 상하면을 형성한다.

유전체층(173)은 상반사층(171)과 하반사층(172) 사이에 삽입되며 굴절률이 서로 상이한 적어도 두 개의 물질(1731, 1732)이 교대로 배치된다. 유전체층(173)에는 두 개의 물질(1731, 1732)의 상대적인 부피 비율이 서로 상이한 영역이 적어도 두 곳이 존재한다. 도 17의 (b)에 도시된 바와 같이, 유전체층(173)에는 일 방향을 따라서 두 개의 물질(1731, 1732)의 상대적인 너비 비율이 서로 상이한 영역이 적어도 두 곳이 존재한다. 여기에서, 일 방향은 유전체층(173)의 길이 방향인 좌우로 연장되는 수평 방향을 말한다.

유전체층(173)의 두 개의 물질(1731, 1732) 중 어느 하나의 물질(1731)은 상대적으로 저굴절률의 유전체일 수 있고, 다른 물질(1732)은 상대적으로 고굴절률의 유전체일 수 있다. 반대로, 어느 하나의 물질(1731)은 상대적으로 고굴절률의 유전체일 수 있고, 다른 물질(1732)은 상대적으로 저굴절률의 유전체일 수 있다. 저굴절률의 유전체의 예로는 플루오린(Fluorine)계 자외선 레진, 스핀온글라스(spin on glass), 수소실세스퀴옥산(Hydrogen Silsesquioxane), 플루오르화마그네슘(MgF₂), 플루오르화칼슘(CaF₂), 이산화규소(SiO₂) 등을 들 수 있다. 고굴절률의 유전체는 일례로, 이산화타이타늄(TiO₂) 등과 같은 금속산화물을 들 수 있다.

파브리-페로 간섭계(Fabry-Perot interferometer)는 파브리(Charles Fabry)와 페로(Alfred Perot)에 의하여 처음으로 고안된 것으로, 일반적으로 두 개의 고반사율을 가지는 거울 사이에 공동(cavity)을 삽입함으로써 구성된다. 두 개의 거울 중 어느 하나에 빛이 입사되면 공동에서 다중간섭현상이 발생하여, 특정한 파장만 투과시키고 다른 파장들을 반사시키게 된다. 종래의 선형가변필터는 일종의 파브리-페롯 공진기 구조의 광학필터로서 유전체 공동의 상하로 거울층이 존재하며, 길이방향으로 유전체 공동의 두께가 선형적으로 가변되는 구조로 이루어진다. 종래의 선형가변필터의 해상도는 선형가변필터의 높이 대 길이의 비로 결정되기 때문에 소형화하는데 어려움이 있었다.

도 17에는 분광필터(521)에 의해 투과되는 빛의 중심 파장이 서로 다른 영역이 A, B, C의 3개 영역으로 도시되어 있다. 이 경우, A, B, C의 3개 영역에서 두 개의 물질(1731, 1732)은 서로 동일한 주기로 교대 배치되는데, 두 개의 물질(1731, 1732)의 상대적인 너비 비율이 3개의 영역에서 각각 상이하다. 이러한 구조로 인해, A, B, C의 3개 영역을 통해 투과되는 빛의 파장이 서로 다르게 된다. 두 개의 물질(1731, 1732) 상호 간의 상대적 부피 비율은 듀티사이클(duty cycle)로 정의될 수 있다. 본 실시예에서의 듀티사이클은 두 개의 물질(1731, 1732) 중에서 어느 하나의 물질(1731) 성분이 차지하는 상대적 부피 비율이 된다. 유전체층(173)의 두 개의 물질(1731, 1732) 상호 간의 듀티사이클을 점진적으로 변화시킴으로써 일 방향으로 유전체층(173)의 굴절률이 가변되도록 할 수 있다.

도 17에 도시된 분광필터(521)를 투과하는 빛의 파장은 유전체층(173)의 광학적 두께에 의해 결정된다. 광학적 두께는 물리적 두께에 굴절률을 곱한 값으로 정의될 수 있는데, 본 실시예는 유전체 영역의 광학두께로 물리적 두께 외에 굴절률의 변화로 분광필터(521)의 투과대역의 중심파장을 제어한다. 한편, 두 개의 물질(1731, 1732)의 한 쌍의 너비는 통과하고자 하는 필터의 파장과 관계를 가진다. 예를 들어, 두 개의 물질(1731, 1732)의 한 쌍의 너비는 빛의 파장보다 충분히 작도록 설계될 수 있으며, 이런 경우, 빛은 두 개의 물질(1731, 1732)을 개별 물체로 분별하지 못하고 어떤 특정 유효 유전상수로 정의되는 하나의 유효매질로 인식하게 된다.

이때, 유효매질의 광학상수는 두 물체의 기하학적 분포와 상대적 부피분율에 의해 결정된다. 따라서, 본 실시예의 각 분광필터(521)는 디스플레이패널(3)을 통과한 빛에서 두 개의 물질(1731, 1732)간의 상대적 부피 비율에 따라 결정되는 파장대역을 통과시키고, 나머지 파장대역을 차단할 수 있다. 상술한 바와 같이, 유전체층(173)에는 교대로 배치된 두 개의 물질(1731, 1732)간의 상대적인 부피 비율이 서로 다른 영역이 적어도 두 곳 존재한다. 유전체층(173)의 상대적인 부피 비율이 서로 다른 영역은 서로 다른 파장대역을 통과시키게 된다. 예를 들어, 520 ~ 910nm 또는 350 ~ 850nm 대역을 5nm 단위로 분할하여 필터링하는 여러 종류의 분광필터(521)들은 유전체층(173)의 두 개의 물질(1731, 1732) 상호 간의 듀티사이클을 5nm 단위에 대응되는 간격으로 점진적으로 변화시킴으로써 구현될 수 있다.

버퍼층(174)은 상반사층(171)과 하반사층(172) 중 적어도 하나와 유전체층(173)사이에 삽입된다. 즉, 버퍼층(174)은 상반사층(171)과 유전체층(173)사이에 삽입될 수도 있고, 하반사층(172)과 유전체층(173)사이에 삽입될 수도 있고, 상반사층(171)과 유전체층(173)사이와 하반사층(172)과 유전체층(173)사이 각각에 삽입될 수도 있다. 버퍼층(174)은 유전체층(173)과 함께 광학적 공진 공동(optical resonance cavity)으로서 작용한다. 이러한 버퍼층(140)의 존재는 광학적 공진 공동의 유효 두께를 증가시킴으로써 유전체층(173)의 두께를 작게 유지하면서도 분광필터(521)의 투과대역의 중심 파장을 장파장 영역으로 이동시키는 효과를 가져온다. 유전체층(173)만을 이용해서 광학적 공진 공동을 구성할 경우, 입사광의 파장보다 충분히 작은 크기의 간격 주기를 갖고 서로 상이한 굴절률을 갖는 두 물질간의 조합으로 이루어진 유전체층(173)에서 어느 한 물질을 채우기 위한 종횡비가 과도하게 증가하는 조건이 발생하여 공정상 어려움이 있다.

따라서, 버퍼층(174)의 존재는 유전체층(173)의 두께를 작게 유지하면서도 투과파장의 가변 범위를 효과적으로 증대시킬 수 있다는 장점이 있다. 이에 따라, 분광필터(521)의 소형화가 가능하게 되어 스마트폰의 이미지 센서로 널리 사용되고 있는 기존의 CMOS 이미지센서와의 집적이 매우 용이한 분광센서(52)의 구현이 가능하게 된다. 이에 따라, 사용자가 전자기기를 이용하여 물체를 촬영하는 것만으로 사용자가 물체의 상태를 알 수 있도록 할 수 있는 복합센서(5)가 실현될 수 있다. 버퍼층(174)이 두 개의 물질(1731, 1732) 중 어느 하나의 물질과 동일 물질일 수 있다. 도 17에는 버퍼층(174)의 물질과 두 번째 물질(1732)이 동일한 경우가 도시되어 있다. 한편, 버퍼층(174)과 두 개의 물질(1731, 1732)은 서로 다른 물질일 수도 있다.

도 18은 도 17에 도시된 분광필터(521)의 투과 특성의 시뮬레이션 결과를 나타내는 그래프이다. 두 개의 물질(1731, 1732)의 교대 배치 주기는 200nm이고, 유전체층(173)의 두께는 60nm이고, 두 개의 물질(1731, 1732) 중에서 저굴절률 재료의 굴절률은 1.38, 고굴절률 재료의 굴절률은 2.7로 하였다. 상하 반사층(171, 182)은 반투과 특성을 갖는 20nm 두께의 Ag 층을 사용하였다. 저굴절률 나노구조체의 너비를 50nm부터 150nm까지 20nm 간격으로 증가시켰을 때의 투과대역의 변화양상을 컴퓨터 시뮬레이션으로 계산하였다. 도 18로부터 도 17에 도시된 분광필터(521)는 고굴절률 나노구조체의 충전율이 증가할수록 투과대역의 중심파장이 장파장 영역으로 이동하는 특성을 나타내고 있음을 알 수 있다.

도 19는 도 3-7에 도시된 분광센서(52)의 구조의 또 다른 예를 개략적으로 도시한 도면이다. 도 19에서 약자 "S"는 분광필터(521)를 나타내고, 약자 "F"는 대역투과필터(504)를 나타내고, 약자 "P"는 광전소자(522)를 나타낸다. 도 19에 도시된 실시예의 특징이 잘 나타나도록 하기 위해, 복수 개의 분광필터(521), 복수 개의 대역투과필터(504), 복수 개의 광전소자(522)는 단순한 격자패턴으로 간략하게 표현되어 있다. 도 19에 도시된 실시예는 도 1-6에 도시된 복합센서(5) 중 이미지센서(51)와는 관련이 없으므로 분광센서(52) 부분만 도시되어 있다. 이미지센서(51) 부분은 도 11-13에 도시된 실시예들의 설명으로 갈음하기로 한다.

도 19에 도시된 실시예는 도 11-13에 도시된 실시예들과는 달리, 복수 개의 컬러필터(511)는 2차원 평면의 매트릭스 구조의 일부분에 해당하는 매트릭스 구조로 배열되고, 복수 개의 대역투과필터(504)는 2차원 평면의 매트릭스 구조의 다른 부분에 해당하는 매트릭스 구조로 배열되고, 복수 개의 분광필터(521)는 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조의 다른 부분에 해당하는 매트릭스 구조의 축소 매트릭스 구조로 배열된다. 복수 개의 대역투과필터(504)는 복수 개의 분광필터(521)에 상하로 일대다 대응되도록 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조의 다른 부분에 해당하는 매트릭스 구조로 배열되어 복수 개의 분광필터(521) 아래에 배치된다. 이에 따라, 각 분광필터(521)에 복수 개의 대역투과필터(504)가 상하로 대응되게 된다.

도 19에는 하나의 분광필터(521)에 네 개의 대역투과필터(504)가 상하로 대응되는 예가 도시되어 있다. 각 분광필터(521)에 대응되는 복수 개의 대역투과필터(504)는 각 분광필터(521)의 필터링 파장대역에서 서로 다른 파장대역을 투과시킨다. 즉, 복수 개의 대역투과필터(504) 중 어느 하나의 대역투과필터(504)는 각 분광필터(521)의 필터링 파장대역 중 일부 파장대역만을 투과시키고, 다른 하나의 대역투과필터(504)는 각 분광필터(521)의 필터링 파장대역 중 다른 파장대역만을 투과시킨다. 복수 개의 광전소자(522)는 복수 개의 대역투과필터(504)에 상하로 일대일 대응되도록 2차원 평면의 매트릭스 구조의 다른 부분에 해당하는 매트릭스 구조로 배열되어 복수 개의 대역투과필터(504) 아래에 배치된다.

본 실시예에 따르면, 즉 각 분광필터(521)의 필터링 대역이 좁을수록 물체의 스펙트럼의 분해능이 높아지게 되어 물체의 상태 정보의 정확도가 향상될 수 있다. 각 분광필터(521)가 도 15에 도시된 바와 같은 플라즈모닉 필터, 또는 도 17에 도시된 바와 같은 파브리-페로 필터로 구현될 경우에 플라즈모닉 필터의 금속패턴들의 배열 주기나 유전체층의 두 개의 물질의 상대적인 부피 비율을 미세하게 차이가 나게 제조하는 것은 제조공정상 한계가 있기 때문에 각 분광필터(521)의 필터링 대역폭을 좁히는 데에 한계가 있다. 이것은 물체의 스펙트럼의 분해능의 한계로 작용한다. 이에 따라, 각 분광필터(521)에 대응되는 복수 개의 대역투과필터(504)는 각 분광필터(521)의 필터링 파장대역 중 서로 다른 파장대역을 투과시킴으로써 각 분광필터(521)의 필터링 대역폭 한계를 극복함으로써 물체의 고분해능 스펙트럼이 가능하게 되어 물체의 상태 정보의 분해능이 향상될 수 있다.

도 20은 도 11에 도시된 복합센서(5)의 다른 구현예의 단면도이다. 도 20의 (a)에는 도 14와 마찬가지로 하나의 기판에 이미지센서(51)와 분광센서(52)를 집적시켜 복합센서(5)가 구현된 예가 도시되어 있다. 도 20의 (a)에는 전면조사형 이미지센서(51)를 채용한 복합센서(5)의 구현예가 도시되어 있고, 도 20의 (b)에는 후면조사형 이미지센서(51)를 채용한 복합센서(5)의 구현예가 도시되어 있다. 도 20의 (c)에는 도 20의 (a), (b)의 분광센서(52)에 도 15에 도시된 분광필터(521)가 적용된 예가 도시되어 있다. 도 20에서 약자 "L"은 마이크로렌즈를 나타내고, 약자 "C"는 컬러필터를 나타내고, 약자 "S"는 분광필터를 나타내고, 약자 "P"는 광전소자를 나타내고, 약자 "F"는 대역투과필터(band pass filter)를 나타낸다. 도 20의 실시예는 분광센서(52)의 각 분광필터(521) 아래에 대역투과필터(504)가 배치된 점을 제외하고는 도 14의 실시예와 동일하기 때문에 이하에서는 도 14의 실시예와의 차이점을 중심으로 설명하기로 하며, 이하에서 생략된 내용, 예를 들어 이미지센서(51)에 해당하는 부분에 대해서는 도 14의 실시예의 설명으로 갈음하기로 한다.

도 20의 (a)의 분광센서(52)에 해당하는 부분을 살펴보면, 복합센서기판(500) 상에 복수 개의 광전소자(522)가 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조의 다른 부분에 해당하는 매트릭스 구조로 배열되어 적층된다. 복수 개의 광전소자(522) 위에는 각 분광필터(521)와 각 광전소자(522)에 전원을 공급하기 위한 와이어가 매립된 절연층(503)이 적층된다. 절연층(503) 위에는 복수 개의 대역투과필터(504)가 복수 개의 광전소자(522)에 상하로 일대일 대응되도록 복수 개의 광전소자(522)의 매트릭스 구조와 동일한 매트릭스 구조로 배열되어 적층된다. 각 대역투과필터(504)에 의해 필터링된 빛은 절연층(503)의 와이어 사이를 통과하여 각 광전소자(522)에 도달하게 된다.

도 20의 (b)의 분광센서(52)에 해당하는 부분을 살펴보면, 복합센서기판(500) 상에 각 분광필터(521)와 각 광전소자(522)에 전원을 공급하기 위한 와이어가 매립된 절연층(503)이 적층된다. 절연층(503) 상에 복수 개의 광전소자(522)가 복합센서(5)의 수광면을 형성하는 2차원 평면의 매트릭스 구조의 다른 부분에 해당하는 매트릭스 구조로 배열되어 적층된다. 복수 개의 광전소자(522) 위에는 복수 개의 대역투과필터(504)가 복수 개의 광전소자(522)에 상하로 일대일 대응되도록 복수 개의 광전소자(522)의 매트릭스 구조와 동일한 매트릭스 구조로 배열되어 적층된다. 각 대역투과필터(504)에 의해 필터링된 빛은 바로 각 광전소자(522)에 도달하게 된다.

도 20의 (a), (b)에 도시된 바와 같이, 복수 개의 대역투과필터(504) 위에는 복수 개의 분광필터(521)가 복수 개의 대역투과필터(504)에 상하로 다대일 대응되도록 복수 개의 분광필터(521)의 매트릭스 구조의 축소 매트릭스 구조로 배열되어 적층된다. 복수 개의 분광필터(521) 위에는 복수 개의 대역투과필터(504)의 배열면을 평탄화하는 평탄화층(502)이 적층된다. 평탄화층(502)은 투명한 유전체 물질로 제조된다. 평탄화층(502) 위에는 복수 개의 마이크로렌즈(501)가 복수 개의 분광필터(521)에 상하로 일대일 대응되도록 복수 개의 분광필터(521)의 매트릭스 구조와 동일한 매트릭스 구조로 배열되어 적층된다. 복합센서(5)의 복수 개의 마이크로렌즈(501)의 구경을 서로 다르게 제조하는 것이 어려운 경우, 도 20에 도시된 바와 같이 복수 개의 마이크로렌즈(501)가 복수 개의 분광필터(521)에 상하로 일대다 대응되도록 복수 개의 분광필터(521)의 매트릭스 구조와 동일한 매트릭스 구조로 배열되어 적층될 수도 있다. 각 마이크로렌즈(501)는 이것에 입사된 빛이 그 아래의 각 분광필터(521)에 집속되도록 하는 역할을 한다.

도 20의 (c)를 참조하면, 세 개의 분광필터(521)는 그 각각의 금속패턴들이 서로 다른 주기로 배열된 형태로 형성된다. 각 분광필터(521) 아래에는 두 개의 서로 다른 컬러필터(5110)가 배치되어 있다. 컬러필터(5110) 위에는 별도의 평탄화층이 형성될 수도 있다. 어떤 대역투과필터(504)가 각 분광필터(521)의 필터링 파장대역 중 일부 파장대역만을 투과시킨다는 의미는 그 대역투과필터(504)의 필터링 대역이 그 일부 파장대역과 일치함을 의미하는 것뿐만 아니라, 그 일부 파장대역 외에 각 분광필터(521)의 필터링 파장대역과는 다른 파장대역을 포함할 수도 있음을 의미한다. 즉, 각 분광필터(521)의 필터링 대역의 일부가 적색필터의 필터링 대역에 포함되어 있고, 각 분광필터(521)의 필터링 대역의 나머지가 녹색필터의 필터링 대역에 포함되어 있다면 적색필터와 녹색필터를 사용하여 물체의 고분해능 스펙트럼이 가능하게 될 수 있다.

이와 같이, 복수 개의 대역투과필터(504)로 이미지센서(51)의 복수 개의 컬러필터(5110)의 적어도 두 종류의 컬러필터와 동종의 컬러필터들이 사용될 수 있기 때문에 CMOS 이미지센서(51)의 전체 컬러필터 중 일부에 본 실시예의 분광필터(521)를 적층시키는 것만으로 본 실시예에 따른 복합센서(5)의 구현이 가능하게 될 수 있다. 또한, 각 분광필터(521)는 각 컬러필터(5110)보다 큰 사이즈로 제조될 수 있기 때문에 각 분광필터(521)의 제조가 매우 수월해질 수 있다. 도 18의 (a), (b)에는 복수 개의 마이크로렌즈(501)가 복수 개의 대역투과필터(504)에 상하로 일대일 대응되도록 도시되어 있다. 도 18의 (a), (b)에 도시된 바와 같이, 마이크로렌즈(501)의 제조공정상 서로 다른 크기의 마이크로렌즈가 일체형으로 제조되기가 어려울 수 있기 때문에 컬러필터(5110)로의 광집속을 위한 마이크로렌즈와 동종의 마이크로렌즈가 분광필터용으로 제작될 수 있고, 아니면 마이크로렌즈 배열층이 생략될 수도 있다.

이상에서는 복수 개의 대역투과필터(504)가 복수 개의 분광필터(521)에 일대다 대응되어 복수 개의 분광필터(521) 아래에 배치되는 예들을 설명하였다. 복수 개의 대역투과필터(504)는 복수 개의 분광필터(521)에 일대일 대응되어 복수 개의 분광필터(521) 아래에 배치될 수도 있고, 복수 개의 대역투과필터(504)는 복수 개의 분광필터(521)에 다대일 대응되어 복수 개의 분광필터(521) 아래에 배치될 수도 있다. 전자의 경우, 하나의 분광필터(521)에 일대일 대응되는 하나의 대역투과필터(504)는 그 분광필터(521)의 필터링 파장대역을 투과시킨다. 후자의 경우, 복수 개의 분광필터(521)의 일부에 해당하는 복수 개의 분광필터(521)에 다대일 대응되는 하나의 대역투과필터(504)는 그 복수 개의 분광필터(521)의 전체 필터링 파장대역을 투과시킨다. 복수 개의 대역투과필터(504)는 복수 개의 분광필터(521)에 의해 필터링 빛을 다시 필터링함으로써 전체적인 필터링 성능이 향상될 수 있도록 하는 역할을 한다.

또한, 복수 개의 대역투과필터(504)가 복수 개의 분광필터(521)에 일대다, 일대일, 또는 다대일 대응되어 복수 개의 분광필터(521) 위에 배치될 수도 있다. 복수 개의 대역투과필터(504)가 복수 개의 분광필터(521) 아래에 배치되는 예에서는 복수 개의 광전소자(522)가 복수 개의 대역투과필터(504)에 의해 필터링된 빛을 전기적 신호로 변환하나, 복수 개의 대역투과필터(504)가 복수 개의 분광필터(521) 위에 배치되는 예에서는 복수 개의 광전소자(522)가 복수 개의 분광필터(521)에 의해 필터링된 빛을 전기적 신호로 변환한다. 후자의 예에서, 복수 개의 대역투과필터(504)는 복수 개의 분광필터(521)에 그것의 필터링 파장대역 외의 불필요한 파장대역의 빛이 입사되지 않도록 함으로써 각 분광필터(521)의 필터링 성능이 향상될 수 있도록 하는 역할을 한다. 상기된 바와 같은 다양한 예에서, 복수 개의 대역투과필터(504)로 이미지센서(51)의 복수 개의 컬러필터(5110)의 한 종류의 컬러필터와 동종의 컬러필터들이 사용될 수도 있다.

도 21은 도 3에 도시된 전자기기의 전자회로 구성도이다. 도 21을 참조하면, 도 3에 도시된 전자기기의 전자회로는 터치패널(2), 디스플레이패널(3), 복합센서(5), 발광모듈(8), 센서모듈(11), 전원공급모듈(12), 프로세서(71), 통신모듈(72), 입출력인터페이스모듈(73), 메모리(74), 및 버스(75)로 구성된다. 본 실시예가 쉽게 이해될 수 있도록 하면서 본 실시예의 특징이 흐려짐을 방지하기 위해, 도 21에는 본 실시예의 이해에 필요한 스마트폰의 전자회로의 주요 구성이 도시되어 있다. 본 실시예가 속하는 기술분야에서 통상의 지식을 가진 자라면 도 21에 도시된 구성 외에 또 다른 구성이 추가될 수 있음을 이해할 수 있다. 예를 들어, 도 3에 도시된 전자기기의 전자회로는 GPS(Global Positioning System) 모듈, 오디오 모듈 등을 더 포함할 수 있다.

센서모듈(11)은 복합센서(5) 외에 스마트폰에 내장되는 센서들, 예를 들어 압력센서, 근접센서, 조도센서, 자이로센서 등으로 구성될 수 있다. 전원공급모듈(12)은 배터리(9)의 전원을 터치패널(2), 디스플레이패널(3), 복합센서(5), 센서모듈(11), 인쇄회로기판(7)의 구동 전원으로 변환하여 공급하는 역할을 하며 충전회로, 전압변환회로 등으로 구성된다. 전원공급모듈(12)로부터 다른 구성요소에 전원이 공급되는 경로는 본 실시예가 속하는 기술분야에서 통상의 지식을 가진 자에게 자명한 사항이므로 도면의 복잡도를 낮추기 위해 생략된다. 프로세서(71), 통신모듈(72), 입출력인터페이스모듈(73), 메모리(74), 및 버스(75)는 인쇄회로기판(7)에 실장된 전자부품들로 구현되며, 일반적으로 몇 개의 분리된 인쇄회로기판(7)에 실장된다.

프로세서(71)는 전자기기의 다른 구성요소, 예를 들어 터치패널(2), 디스플레이패널(3), 복합센서(5), 센서모듈(11)을 제어하고, 터치패널(2), 통신모듈(72), 입출력인터페이스모듈(73)로부터 입력된 데이터를 처리하고, 메모리(74)로부터 데이터를 읽거나 메모리(74)에 데이터를 저장한다. 특히, 본 실시예의 프로세서(71)는 복합센서(5)로부터 물체의 이미지를 나타내는 신호를 입력받고, 입력된 신호로부터 물체의 이미지를 생성한다. 또한, 프로세서(71)는 복합센서(5)로부터 물체의 스펙트럼을 나타내는 신호를 입력받고, 입력된 신호로부터 물체의 스펙트럼을 생성하고, 생성된 물체의 스펙트럼과 메모리(74)에 저장된 다수의 샘플 스펙트럼을 비교함으로써 물체의 상태 정보를 추정한다. 프로세서(71)는 물체의 스펙트럼을 컨볼루션 신경망(convolutional neural network)에 입력함으로써 컨볼루션 신경망의 출력 데이터로부터 물체의 상태 정보를 추정할 수도 있다. 이러한 프로세서(71)의 동작에 대해서는 도 22, 23, 26의 흐름도를 참고하면서 아래에서 자세하게 살펴보기로 한다.

통신모듈(72)은 다른 전자기기와의 통신을 수행한다. 예를 들어, 통신모듈(72)은 LTE(Long Term Evolution), 와이파이(WiFi), 블루투스(Bluetooth) 등 다양한 통신 방식에 따라 다른 전자기기와의 통신을 수행할 수 있다. 입출력인터페이스모듈(73)은 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자기기의 다른 구성요소에 출력하거나 전자기기의 다른 구성요소로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다. 입출력인터페이스모듈(73)은 USB(Universal Serial Bus) 인터페이스, 오디오 인터페이스 등으로 구성된다. 메모리(74)에는 각종 데이터가 저장된다. 특히, 본 실시예의 메모리(74)에는 다수의 샘플 스펙트럼이 저장되어 있을 수도 있고, 컨볼루션 신경망이 저장되어 있을 수도 있다. 버스(75)는 프로세서(71)와 여러 구성요소간에 데이터를 전달하는 역할을 한다.

도 22는 본 발명의 일 실시예에 따른 합성 이미지 표시 방법의 흐름도이다. 도 22를 참조하면, 본 실시예에 따른 합성 이미지 표시 방법은 도 1-3, 21에 도시된 전자기기로서 도 4-20에 도시된 실시예에 따른 복합센서(5)를 포함하는 전자기기에서 시계열적으로 처리되는 단계들로 구성된다. 따라서, 이하 생략된 내용이라 하더라도 도 1-3, 21에 도시된 전자기기 및 도 4-20에 도시된 복합센서(5)에 관하여 이상에서 기술된 내용은 이하에서 기술될 합성 이미지 표시 방법에도 적용된다. 본 실시예에 따른 합성 이미지 표시 방법은 스마트폰 등과 같은 전자기기의 사용자에 의해 물체 이미지와 상태 정보의 합성 이미지를 표시하는 어플리케이션이 실행된 경우에 시작될 수 있다. 도 22에 도시된 모든 단계들이 스마트폰 등과 같이 소형 전자기기에 의해 수행될 경우에 전자기기의 하드웨어 성능에 따라 프로세서(71)의 처리 속도가 저하될 수 있기 때문에 그 단계들 중 일부는 이러한 어플리케이션의 서비스를 제공하는 서버에 의해 수행될 수도 있다.

2201 단계에서 전자기기의 프로세서(71)는 사용자의 입력에 따라 본 실시예에 따른 상태 분석의 대상이 되는 물체의 종류 및 속성을 선택한다. 예를 들어, 프로세서(71)는 사용자의 터치패널 조작에 따라 사과와 당도를 선택할 수도 있고, 얼굴 피부와 멜라닌 농도를 선택할 수도 있다. 본 실시예의 변형 실시예로서, 프로세서(71)는 물체의 이미지 또는 스펙트럼으로부터 물체의 종류를 자동으로 인식할 수 있고, 물체의 종류 별로 속성이 미리 정해져 있다면 2201 단계는 생략될 수도 있다.

2202 단계에서 전자기기의 디스플레이패널(3)은 프로세서(71)의 제어에 따라 2201 단계에서 선택된 종류의 물체가 복합센서(5)의 감지영역에 정확하게 위치될 수 있도록 가이드하기 위한 그래픽을 표시한다. 예를 들어, 2201 단계에서 본 실시예에 따른 상태 분석의 대상이 되는 물체의 종류로서 사과가 선택된 경우, 디스플레이패널(3)은 사과의 윤곽선을 나타내는 그래픽을 표시할 수 있다. 아니면, 2201 단계에서 본 실시예에 따른 상태 분석의 대상이 되는 물체의 종류로서 얼굴 피부가 선택된 경우, 디스플레이패널(3)은 사람 얼굴의 윤곽선을 나타내는 그래픽을 표시할 수도 있다. 이와 같이 표시된 윤곽선에 사과 또는 사용자 얼굴의 실제 윤곽선이 맞추어지면 사과 또는 사용자 얼굴은 복합센서(5)의 감지영역에 정확하게 위치하게 된다.

2203 단계에서 전자기기의 복합센서(5)는 복수 개의 컬러필터(511)를 이용하여 자연광원, 인공광원, 및 발광모듈(8) 중 적어도 하나로부터 물체의 표면에 조사된 가시광선이 물체의 표면에서 반사되어 디스플레이패널(3)을 통과한 빛으로부터 물체의 이미지를 나타내는 신호를 생성한다. 2203 단계에서의 신호 생성은 사용자에게 물체 이미지를 보여주기 위한 것이므로 컬러필터(511) 대신에 적외선필터가 이용될 수도 있으나, 복수 개의 적외선필터를 이용하여 물체의 표면에 조사된 적외선이 물체의 표면에서 반사된 빛으로부터 물체의 이미지를 나타내는 신호를 생성할 경우에 흑백 이미지가 생성된다.

2204 단계에서 전자기기의 프로세서(71)는 복합센서(5)로부터 물체의 이미지를 나타내는 신호를 입력받고, 입력된 신호로부터 물체의 이미지를 생성한다. 복합센서(5)로부터 프로세서(71)로 물체의 이미지를 나타내는 신호가 시리얼로 연속적으로 입력된다. 프로세서(71)는 이와 같이 시리얼로 연속 입력되는 신호를 2차원의 영상 데이터로 변환함으로써 물체의 이미지를 생성할 수 있다. 2205 단계에서 전자기기의 디스플레이패널(3)은 2204 단계에서 생성된 물체 이미지가 2202 단계에서 표시된 그래픽과 겹쳐 보이도록 2202 단계에서 표시된 그래픽 상에 이와 같이 생성된 물체 이미지를 표시한다.

2206 단계에서 전자기기의 프로세서(71)는 2202 단계의 시작 시점부터 일정 시간이 경과하였는가를 확인한다. 예를 들어, 일정시간은 5초일 수 있으며 다양한 값으로 설계될 수 있다. 2206 단계에서 일정시간이 경과된 것으로 확인되면 2207 단계로 진행하고, 그렇지 않으면 2203 단계로 돌아간다. 2203-2205 단계가 반복될 때마다 2203-2205 단계의 각 실행 시점에서의 사과 또는 얼굴 위치에 해당하는 이미지가 반복적으로 표시된다. 따라서, 사용자는 일정 시간 동안 2202 단계에서 표시된 그래픽과 겹쳐 보이는 사과 이미지 또는 얼굴 이미지를 확인하면서 사과 또는 얼굴 위치를 조정함으로써 사과 또는 얼굴이 복합센서(5)의 감지영역에 정확하게 위치되도록 할 수 있다.

2207 단계에서 전자기기의 발광모듈(8)은 프로세서(71)의 제어에 따라 2201 단계에서 선택된 물체의 종류 및 속성에 대응되는 파장대역의 빛을 조사한다. 예를 들어, 2201 단계에서 본 실시예에 따른 상태 분석의 대상이 되는 물체의 종류 및 속성으로서 사과의 당도 또는 얼굴 피부의 멜라닌 농도가 선택된 경우, 발광모듈(8)은 물체의 표면에 적외선을 조사할 수 있다. 2201 단계에서 선택된 물체의 종류 및 속성에 따라 적외선이 아닌, 가시광선이 물체의 표면에 조사될 수도 있다. 자연광이나 인공광이 존재하지 않거나 열악한 환경에서는 발광모듈(8)이 일종의 카메라 플래시 역할을 하면서 물체의 표면에 가시광선을 조사할 수도 있고, 가시광선과 함께 적외선을 조사할 수도 있다.

2208 단계에서 전자기기의 복합센서(5)는 복수 개의 컬러필터(511)를 이용하여 자연광원, 인공광원, 및 발광모듈(8) 중 적어도 하나로부터 물체의 표면에 조사된 가시광선이 물체의 표면에서 반사되어 디스플레이패널(3)을 통과한 빛으로부터 물체의 이미지를 나타내는 신호를 생성한다. 2203 단계와 마찬가지로, 2208 단계에서의 신호 생성은 사용자에게 물체 이미지를 보여주기 위한 것이므로 컬러필터(511) 대신에 적외선필터가 이용될 수도 있으나, 적외선필터를 이용할 경우에 흑백 이미지가 생성된다. 2209 단계에서 전자기기의 프로세서(71)는 복합센서(5)로부터 물체의 이미지를 나타내는 신호를 입력받고, 입력된 신호로부터 물체의 이미지를 생성한다. 복합센서(5)로부터 프로세서(71)로 물체의 이미지를 나타내는 신호가 시리얼로 연속적으로 입력된다. 프로세서(71)는 이와 같이 시리얼로 연속 입력되는 신호를 2차원 영상 데이터로 변환할 수도 있고 3차원의 영상 데이터로 변환할 수도 있다.

2210 단계에서 전자기기의 복합센서(5)는 복수 개의 분광필터(521)를 이용하여 발광모듈(8)로부터 물체의 표면에 조사된 적외선이 물체 속을 침투한 후에 물체의 표면으로부터 방출되어 디스플레이패널(3)을 통과한 빛으로부터 물체의 스펙트럼을 나타내는 신호를 생성한다. 2211 단계에서 전자기기의 프로세서(71)는 복합센서(5)로부터 물체의 스펙트럼을 나타내는 신호를 입력받고, 입력된 신호로부터 물체의 상태 정보를 추정한다. 2208-2209 단계와 2210-2211 단계는 동시에 진행된다. 프로세서(71)는 이하에 기술된 바와 같이 두 가지 방식으로 물체의 스펙트럼을 나타내는 신호로부터 물체의 상태 정보를 추정할 수 있다. 물체의 상태 정보 추정의 가지 방식 중 하나의 방식은 도 23에 도시되어 있고, 다른 하나의 방식은 도 26에 도시되어 있다.

도 23은 도 22에 도시된 2211 단계의 상세 흐름도의 일례이다. 도 23을 참조하면, 도 22에 도시된 2211 단계, 즉 물체의 상태 정보를 추정하는 단계는 도 1-3, 21에 도시된 전자기기로서 도 4-20에 도시된 실시예에 따른 복합센서(5)를 포함하는 전자기기에서 시계열적으로 처리되는 단계들로 구성된다. 따라서, 이하 생략된 내용이라 하더라도 도 1-3, 21에 도시된 전자기기 및 도 4-20에 도시된 복합센서(5)에 관하여 이상에서 기술된 내용은 이하에서 기술될 단계들에도 적용된다. 이하에서 도 26에 도시된 단계들은 전자기기의 프로세서(71)에 의해 수행되는 것으로 기술되어 있으나, 도 26에 도시된 단계들은 전자기기의 프로세서(71)의 요청에 따라 전자기기에서 실행 중인 어플리케이션의 서비스를 제공하는 서버에 의해 수행될 수도 있다.

2301 단계에서 전자기기의 프로세서(71)는 복합센서(5)로부터 물체의 스펙트럼을 나타내는 신호를 입력받고, 입력된 신호로부터 물체의 스펙트럼을 생성한다. 복합센서(5)로부터 프로세서(71)로 물체의 스펙트럼을 나타내는 신호가 시리얼로 연속적으로 입력된다. 프로세서(71)는 이와 같이 시리얼로 연속 입력되는 신호를 2차원의 곡선 그래프로 변환함으로써 물체의 스펙트럼을 생성할 수 있다. 2302 단계에서 전자기기의 프로세서(71)는 2301 단계에서 생성된 물체의 스펙트럼의 형태와 메모리(74)에 저장된 다수의 샘플 스펙트럼 각각의 형태를 비교한다. 프로세서(71)는 물체의 스펙트럼의 형태와 다수의 샘플 스펙트럼 각각의 형태를 비교하는 과정을 통하여 다수의 샘플 스펙트럼 각각에 대한 물체의 스펙트럼의 유사도를 산출한다. 2303 단계에서 전자기기의 프로세서(71)는 2302 단계에서의 비교 결과에 따라 메모리(74)에 저장된 다수의 샘플 스펙트럼 중에서 2211 단계에서 생성된 물체의 스펙트럼의 형태와 가장 유사한 형태를 갖는 두 개의 샘플 스펙트럼을 선정한다.

즉, 프로세서(71)는 메모리(74)에 저장된 다수의 샘플 스펙트럼 중에서 2301 단계에서 생성된 물체의 스펙트럼과 가장 높은 유사도를 갖는 두 개의 샘플 스펙트럼을 선정할 수 있다. 여기에서, 2301 단계에서 생성된 물체의 스펙트럼과 메모리(74)에 저장된 어떤 샘플 스펙트럼간의 유사도는 물체의 스펙트럼의 형태와 샘플 스펙트럼의 형태가 서로 얼마나 유사한가를 백분율로 나타낸 값이다. 상술한 바와 같이, 본 실시예의 복합센서(5)는 물체 속에 적외선이 침투한 후에 다시 물체 표면으로 되돌아와 방출되는 빛을 복수의 대역별로 필터링하고, 이와 같이 필터링된 각 대역별 빛의 강도를 전기적 신호로 변환함으로써 물체의 스펙트럼을 나타내는 신호를 생성한다. 프로세서(71)는 서로 대응되는 물체의 스펙트럼의 각 대역별 강도와 샘플 스펙트럼에서의 각 대역별 강도간의 차이를 이용하여 물체의 스펙트럼과 샘플 스펙트럼간의 유사도를 산출할 수 있다.

도 24는 도 22에 도시된 2211 단계에서 사용되는 스펙트럼의 일례를 도시한 도면이고, 도 25는 도 22에 도시된 2211 단계에서 사용되는 스펙트럼의 다른 예를 도시한 도면이다. 물체의 표면에 조사된 적외선이 물체 속에 침투한 후에 다시 물체 표면으로 되돌아와 방출되는 빛의 강도는 물체의 표면에 조사된 적외선과 이것이 물체 속에 침투한 후에 다시 물체 표면으로 되돌아와 방출됨에 따라 복합센서(5)로 입사되는 빛의 비율, 즉 물체의 표면에 조사된 적외선의 반사율로 표현될 수 있다. 도 24, 25를 참조하면, 프로세서(71)는 복합센서(5)로부터 연속적으로 입력되는 신호가 나타내는 빛의 강도를 x축이 물체의 표면에 조사된 적외선의 파장대역을 나타내고, y축이 물체의 표면에 조사된 적외선의 반사율을 나타내는 2차원 좌표계에 매핑함으로써 물체의 스펙트럼을 생성할 수 있다.

도 24에는 물체가 사과이고, 물체의 상태 정보가 사과 당도인 경우인 예가 도시되어 있다. 도 24의 (a)에는 사과의 당도 추정에 사용되는 샘플 스펙트럼의 일례가 도시되어 있다. 각 샘플 스펙트럼은 본 실시예의 복합센서(5)를 이용하여 서로 다른 당도를 갖는 여러 개의 샘플 사과에 대해 측정된 당도별 스펙트럼이다. 샘플 스펙트럼 A는 샘플 사과의 당도가 8.8 브릭스인 경우의 스펙트럼이다. 샘플 스펙트럼 B는 샘플 사과의 당도가 10.5 브릭스인 경우의 스펙트럼이다. 샘플 스펙트럼 D는 샘플 사과의 당도가 12.3 브릭스인 경우의 스펙트럼이다. 샘플 스펙트럼 D는 샘플 사과의 당도가 14.7 브릭스인 경우의 스펙트럼이다. 이것으로부터, 사과의 당도가 높을수록 적외선 흡수율이 높기 때문에 사과의 표면에 조사된 적외선의 반사율이 낮게 나옴을 알 수 있다.

각 샘플 스펙트럼은 어느 하나의 사과에 대해 각 분광필터(521)의 대역별로 한 번 측정된 강도를 나타내는 스펙트럼일 수도 있고, 사과의 당도별 스펙트럼의 신뢰도를 높이기 위해서 어느 하나의 사과에 대해 각 분광필터(521)의 대역별로 여러 번 측정된 강도들의 평균을 나타내는 스펙트럼일 수도 있다. 예를 들어, 샘플 스펙트럼 A는 당도가 8.8 브릭스인 어떤 사과에 대해 본 실시예의 복합센서(5)를 이용하여 520 ~ 910nm 대역에 걸쳐 각 분광필터(521)의 대역별로 한 번 측정된 강도를 나타내는 스펙트럼일 수도 있고, 520 ~ 910nm 대역에 걸쳐 각 분광필터(521)의 대역별로 여러 번 측정된 강도들의 평균을 나타내는 스펙트럼일 수도 있다.

도 25에는 물체가 얼굴 피부이고, 물체의 상태 정보가 얼굴 피부의 멜라닌 농도인 경우인 예가 도시되어 있다. 도 25의 (a)에는 얼굴 피부의 멜라닌 농도 추정에 사용되는 샘플 스펙트럼의 일례가 도시되어 있다. 각 샘플 스펙트럼은 본 실시예의 복합센서(5)를 이용하여 서로 다른 멜라닌 농도를 갖는 여러 얼굴 피부에 대해 측정된 농도별 스펙트럼이다. 샘플 스펙트럼 A는 샘플 얼굴 피부의 멜라닌 농도가 10%인 경우의 스펙트럼이다. 샘플 스펙트럼 B는 샘플 얼굴 피부의 멜라닌 농도가 20%인 경우의 스펙트럼이다. 샘플 스펙트럼 D는 샘플 얼굴 피부의 멜라닌 농도가 30%의 스펙트럼이다. 샘플 스펙트럼 D는 샘플 얼굴 피부의 멜라닌 농도가 40%인 경우의 스펙트럼이다. 이것으로부터, 얼굴 피부의 멜라닌 농도가 높을수록 적외선 흡수율이 높기 때문에 얼굴 피부의 표면에 조사된 적외선의 반사율이 낮게 나옴을 알 수 있다.

각 샘플 스펙트럼은 어느 한 사람의 얼굴 피부에 대해 각 분광필터(521)의 대역별로 한 번 측정된 강도를 나타내는 스펙트럼일 수도 있고, 얼굴 피부의 멜라닌 농도별 스펙트럼의 신뢰도를 높이기 위해서 어느 한 사람의 얼굴 피부에 대해 각 분광필터(521)의 대역별로 여러 번 측정된 강도들의 평균을 나타내는 스펙트럼일 수도 있다. 예를 들어, 샘플 스펙트럼 A는 멜라닌 농도가 10%인 어떤 얼굴 피부에 대해 본 실시예의 복합센서(5)를 이용하여 350 ~ 850nm 대역에 걸쳐 각 분광필터(521)의 대역별로 한 번 측정된 강도를 나타내는 스펙트럼일 수도 있고, 350 ~ 850nm 대역에 걸쳐 각 분광필터(521)의 대역별로 여러 번 측정된 강도들의 평균을 나타내는 스펙트럼일 수도 있다. 도 24, 25에 도시된 예들로부터 물체의 종류에 따라 물체의 분광 특성이 두드러지는 파장대역이 달라질 수 있음을 알 수 있고, 그 파장대역은 적외선 대역 외에 가시광선 대역을 더 포함할 수 있음을 알 수 있다.

수학식 1에서 "Vx"는 2302 단계에서 선정된 두 개의 샘플 스펙트럼 중 제 1 샘플 스펙트럼을 갖는 제 1 샘플 물체의 상태 정보의 값, 예를 들어 제 1 샘플 사과의 당도를 의미하고, "Wx"는 제 1 샘플 스펙트럼의 가중치를 의미한다. "Vy"는 2302 단계에서 선정된 두 개의 샘플 스펙트럼 중 제 2 샘플 스펙트럼을 갖는 제 2 샘플 물체의 상태 정보의 값, 예를 들어 제 2 샘플 사과의 당도를 의미하고, "Wy"는 제 2 샘플 스펙트럼의 가중치를 의미한다. "Vz"는 수학식 1에 따라 산출된 물체의 상태 정보의 값을 의미한다. "Sx"는 2211 단계에서 생성된 물체의 스펙트럼과 제 1 샘플 스펙트럼간의 유사도를 의미하고, "Sy"는 2211 단계에서 생성된 물체의 스펙트럼과 제 2 샘플 스펙트럼간의 유사도를 의미한다.

2304 단계에서 전자기기의 프로세서(71)는 2303 단계에서 선정된 두 개의 샘플 스펙트럼 각각에 대한 2301 단계에서 생성된 물체의 스펙트럼의 유사도로부터 2303 단계에서 선정된 두 개의 샘플 스펙트럼 각각의 가중치를 산출한다. 보다 상세하게 설명하면, 프로세서(71)는 상기된 수학식 1에 따라 2301 단계에서 생성된 물체의 스펙트럼과 2303 단계에서 선정된 두 개의 샘플 스펙트럼 중 제 1 샘플 스펙트럼간의 유사도 "Sx"와 2301 단계에서 생성된 물체의 스펙트럼과 2303 단계에서 선정된 두 개의 샘플 스펙트럼 중 제 2 샘플 스펙트럼간의 유사도 "Sy"를 합산하고, 물체의 스펙트럼과 제 1 샘플 스펙트럼간의 유사도 "Sx"를 유사도 합산값으로 나눔으로써 제 1 샘플 스펙트럼의 가중치 "Wx"를 산출하고, 물체의 스펙트럼과 제 2 샘플 스펙트럼간의 유사도 "Sy"를 유사도 합산값으로 나눔으로써 제 2 샘플 스펙트럼의 가중치 "Wy"를 산출한다.

도 24의 (b)에는 도 24의 (a)에 도시된 샘플 스펙트럼 A~D 외에 2301 단계에서 생성된 물체의 스펙트럼 E가 추가적으로 도시되어 있다. 도 24의 (b)에 도시된 예에 따르면, 2211 단계에서 생성된 물체의 스펙트럼 E의 형태와 가장 유사한 형태를 갖는 두 개의 샘플 스펙트럼은 샘플 스펙트럼 C와 샘플 스펙트럼 D이다. 도 24의 (b)에 도시된 예에 따르면, "Vx"는 샘플 스펙트럼 C의 당도를 의미하고, "Wx"는 샘플 스펙트럼 C의 가중치를 의미한다. "Vy"는 샘플 스펙트럼 D의 당도를 의미하고, "Wy"는 샘플 스펙트럼 D의 가중치를 의미한다. "Sx"는 물체의 스펙트럼 E와 샘플 스펙트럼 C간의 유사도를 의미하고, "Sy"는 물체의 스펙트럼 E와 샘플 스펙트럼 D간의 유사도를 의미한다.

도 24의 (b)에 도시된 예에서 물체의 스펙트럼 E와 샘플 스펙트럼 C간의 유사도 "Sx"가 88%이고, 물체의 스펙트럼 E와 샘플 스펙트럼 D간의 유사도 "Sy"가 64%라고 한다면, 프로세서(71)는 물체의 스펙트럼 E와 샘플 스펙트럼 C간의 유사도 "88"과 물체의 스펙트럼 E와 샘플 스펙트럼 D간의 유사도 "64"를 합산하고, 유사도 "88"을 유사도 "88"과 유사도 "64"의 합산값 "152"로 나눔으로써 샘플 스펙트럼 C의 가중치 "Wx"를 산출한다. 이 경우, 샘플 스펙트럼 C의 가중치 "Wx"는 약 0.58이다. 또한, 프로세서(71)는 유사도 "64"를 유사도 "88"과 유사도 "64"의 합산값 "152"로 나눔으로써 샘플 스펙트럼 D의 가중치 "Wy"를 산출한다. 이 경우, 샘플 스펙트럼 D의 가중치 "Wy"는 약 0.42이다.

도 25의 (b)에는 도 25의 (a)에 도시된 샘플 스펙트럼 A~D 외에 2301 단계에서 생성된 물체의 스펙트럼 E가 추가적으로 도시되어 있다. 도 25의 (b)에 도시된 예에 따르면, 2211 단계에서 생성된 물체의 스펙트럼 E의 형태와 가장 유사한 형태를 갖는 두 개의 샘플 스펙트럼은 샘플 스펙트럼 A와 샘플 스펙트럼 B이다. 도 24의 (b)에 도시된 예에 따르면, "Vx"는 샘플 스펙트럼 A의 멜라닌 농도를 의미하고, "Wx"는 샘플 스펙트럼 A의 가중치를 의미한다. "Vy"는 샘플 스펙트럼 B의 멜라닌 농도를 의미하고, "Wy"는 샘플 스펙트럼 B의 가중치를 의미한다. "Sx"는 물체의 스펙트럼 E와 샘플 스펙트럼 A간의 유사도를 의미하고, "Sy"는 물체의 스펙트럼 E와 샘플 스펙트럼 B간의 유사도를 의미한다.

도 25의 (b)에 도시된 예에서 물체의 스펙트럼 E와 샘플 스펙트럼 A간의 유사도 "Sx"가 60%이고, 물체의 스펙트럼 E와 샘플 스펙트럼 B간의 유사도 "Sy"가 90%라고 한다면, 프로세서(71)는 물체의 스펙트럼 E와 샘플 스펙트럼 A간의 유사도 "60"과 물체의 스펙트럼 E와 샘플 스펙트럼 B간의 유사도 "90"을 합산하고, 유사도 "60"을 유사도 "60"과 유사도 "90"의 합산값 "150"으로 나눔으로써 샘플 스펙트럼 A의 가중치 "Wx"를 산출한다. 이 경우, 샘플 스펙트럼 A의 가중치 "Wx"는 0.4이다. 또한, 프로세서(71)는 유사도 "90"을 유사도 "60"과 유사도 "90"의 합산값 "150"으로 나눔으로써 샘플 스펙트럼 B의 가중치 "Wy"를 산출한다. 이 경우, 샘플 스펙트럼 B의 가중치 "Wy"는 0.6이다.

2305 단계에서 전자기기의 프로세서(71)는 2303 단계에서 선정된 두 개의 샘플 스펙트럼을 갖는 두 개의 샘플 물체 각각의 상태 정보와 2304 단계에서 산출된 두 개의 샘플 스펙트럼 각각의 가중치로부터 물체의 상태 정보의 값을 산출함으로써 물체의 상태 정보를 추정한다. 보다 상세하게 설명하면, 프로세서(71)는 상기된 수학식 1에 따라 2303 단계에서 선정된 두 개의 샘플 스펙트럼 중 제 1 샘플 스펙트럼을 갖는 제 1 샘플 물체의 상태 정보의 값 "Vx"에 2304 단계에서 산출된 제 1 샘플 스펙트럼의 가중치 "Wx"를 곱하고, 2303 단계에서 선정된 두 개의 샘플 스펙트럼 중 제 2 샘플 스펙트럼을 갖는 제 2 샘플 물체의 상태 정보의 값 "Vy"에 2304 단계에서 산출된 제 2 샘플 스펙트럼의 가중치 "Wy"를 곱한다. 이어서, 프로세서(71)는 제 1 샘플 물체의 상태 정보의 값 "Vx"에 제 1 샘플 스펙트럼의 가중치 "Wx"를 곱한 값과 제 2 샘플 물체의 상태 정보의 값 "Vy"에 제 2 샘플 스펙트럼의 가중치 "Wy"를 곱한 값을 합산함으로써 물체의 상태 정보의 값 "Vz"를 산출한다.

도 24의 (b)에 도시된 예에 따르면, 프로세서(71)는 샘플 스펙트럼 C를 갖는 샘플 사과의 당도 "12.3"에 샘플 스펙트럼 C의 가중치 "0.58"를 곱하고, 샘플 스펙트럼 D를 갖는 샘플 사과의 당도 "14.7"에 샘플 스펙트럼 D의 가중치 "0.42"를 곱한다. 이어서, 프로세서(71)는 당도 "12.3"에 가중치 "0.58"를 곱한 값 "7.13"과 당도 "14.7"에 가중치 "0.42"를 곱한 값 "6.17"을 합산함으로써 물체의 당도 "Vz"를 산출할 수 있다. 이 경우, 본 실시예에 따라 추정된 사과의 당도는 약 13.3 브릭스이다. 도 25의 (b)에 도시된 예에 따르면, 프로세서(71)는 샘플 스펙트럼 A를 갖는 샘플 얼굴 피부의 멜라닌 농도 "10"에 샘플 스펙트럼 A의 가중치 "0.4"를 곱하고, 샘플 스펙트럼 B를 갖는 샘플 얼굴 피부의 멜라닌 농도 "20"에 샘플 스펙트럼 B의 가중치 "0.6"를 곱한다. 이어서, 프로세서(71)는 멜라닌 농도 "10"에 가중치 "0.4"를 곱한 값 "4"와 멜라닌 농도 "20"에 가중치 "0.6"을 곱한 값 "12"을 합산함으로써 전자기기 사용자의 얼굴 피부의 멜라닌 농도 "Vz"를 산출할 수 있다. 이 경우, 본 실시예에 따라 추정된 사용자의 얼굴 피부의 멜라닌 농도는 16%이다. 도 23에 도시된 물체의 상태 추정 방법에 따르면, 물체의 스펙트럼의 형태와 가장 유사한 형태를 갖는 두 개의 스펙트럼을 갖는 두 개의 샘플 물체 각각의 상태 정보에 두 개의 스펙트럼 각각에 대한 물체의 스펙트럼의 유사도를 반영함으로써 물체의 상태 정보를 추정한다.

도 26은 도 24에 도시된 2411 단계의 상세 흐름도의 다른 예이다. 도 26을 참조하면, 도 24에 도시된 2411 단계, 즉 물체의 상태 정보를 추정하는 단계는 도 1-3, 21에 도시된 전자기기로서 도 4-20에 도시된 실시예에 따른 복합센서(5)를 포함하는 전자기기에서 시계열적으로 처리되는 단계들로 구성된다. 따라서, 이하 생략된 내용이라 하더라도 도 1-3, 21에 도시된 전자기기 및 도 4-20에 도시된 복합센서(5)에 관하여 이상에서 기술된 내용은 이하에서 기술될 단계들에도 적용된다. 이하에서 도 26에 도시된 단계들은 전자기기의 프로세서(71)에 의해 수행되는 것으로 기술되어 있으나, 도 26에 도시된 단계들은 전자기기의 프로세서(71)의 요청에 따라 전자기기에서 실행 중인 어플리케이션의 서비스를 제공하는 서버에 의해 수행될 수도 있다.

2601 단계에서 전자기기의 프로세서(71)는 복합센서(5)로부터 물체의 스펙트럼을 나타내는 신호를 입력받고, 입력된 신호로부터 물체의 스펙트럼을 생성한다. 2601 단계는 2501 단계와 동일하므로 2601 단계에 대한 보다 상세한 설명은 2501 단계에 대한 설명으로 갈음하기로 한다. 2602 단계에서 전자기기의 프로세서(71)는 2601 단계에서 생성된 물체의 스펙트럼의 형태를 컨볼루션 신경망에 입력한다. 2603 단계에서 전자기기의 프로세서(71)는 2602 단계에서의 스펙트럼 입력에 대한 응답으로서 컨볼루션 신경망으로부터 출력된 데이터가 나타내는 상태 정보를 획득하고, 이와 같이 획득된 상태 정보를 물체의 상태 정보로 추정한다. 여기에서, 컨볼루션 신경망은 다수의 샘플 물체 각각의 스펙트럼의 형태와 상태 정보를 이용하여 학습된 것이다. 이와 같이 학습된 컨볼루션 신경망에 어떤 스펙트럼 형태가 입력되면, 그 스펙트럼 형태에 해당하는 상태 정보가 컨볼루션 신경망으로부터 출력된다. 프로세서(71)는 컨볼루션 신경망으로부터 출력된 상태 정보를 물체의 상태 정보로 추정한다.

도면의 복잡도를 낮추어 본 실시예가 쉽게 이해될 수 있도록, 도 26에는 입력층(input layer), 은닉층(hidden layer), 및 출력층(output layer)으로 구성된 매우 단순한 구조의 신경망이 도시되어 있다. 본 실시예에 사용되는 컨볼루션 신경망은 이러한 신경망에 해당하는 완전연결계층(fully connected layer)에 여러 개의 컨볼루션 계층(convolutional layer)을 붙인 복잡한 구조로 되어 있다. 컨볼루션 계층은 컨볼루션 신경망에 입력된 이미지로부터 그 이미지의 특징을 추출하는 역할을 하고, 신경망 계층은 이 특징을 기반으로 이미지에 해당하는 정보를 추론하여 출력한다. 컨볼루션 신경망의 학습은 이것에 다수의 이미지와 각 이미지 별 정보를 입력함으로써 이루어진다. 이러한 학습이 완료된 컨볼루션 신경망에 임의의 이미지가 입력되면, 컨볼루션 신경망은 미리 학습된 바에 따라 그 이미지에 해당하는 정보를 추론하여 출력한다.

본 실시예의 컨볼루션 신경망의 학습은 이것에 어떤 샘플 물체의 스펙트럼 형태와 이것의 상태 정보를 입력하는 과정을 수많은 샘플 물체에 대해 반복함으로써 이루어지게 된다. 이와 같이 학습된 컨볼루션 신경망에 임의의 물체의 스펙트럼 형태가 입력되면, 컨볼루션 신경망은 미리 학습된 바에 따라 그 물체의 스펙트럼 형태의 특징을 기반으로 그 물체의 상태 정보를 추론하여 출력한다. 예를 들어, 컨볼루션 신경망에 어떤 샘플 사과의 스펙트럼 형태와 이것의 당도를 입력하는 과정을 수많은 샘플 사과에 대해 반복함으로써 컨볼루션 신경망의 학습이 이루어질 수 있다. 이와 같이 학습된 컨볼루션 신경망에 사용자가 선택한 사과의 스펙트럼 형태가 입력되면, 컨볼루션 신경망은 미리 학습된 바에 따라 그 사과의 스펙트럼 형태의 특징을 기반으로 그 사과의 상태 정보를 추론하여 출력한다.

아니면, 컨볼루션 신경망에 어떤 샘플 얼굴 피부의 스펙트럼 형태와 이것의 멜라닌 농도를 입력하는 과정을 수많은 샘플 얼굴 피부에 대해 반복함으로써 컨볼루션 신경망의 학습이 이루어질 수 있다. 이와 같이 학습된 컨볼루션 신경망에 사용자의 얼굴 피부의 스펙트럼 형태가 입력되면, 컨볼루션 신경망은 미리 학습된 바에 따라 그 얼굴 피부의 스펙트럼 형태의 특징을 기반으로 그 얼굴 피부의 상태 정보를 추론하여 출력한다. 컨볼루션 신경망의 학습량이 많을수록 물체의 상태 정보의 정확도는 그 학습량만큼 상승하게 된다. 도 26에 도시된 상태 정보 추정 방식은 컨볼루션 신경망의 학습량에 따라 도 24에 도시된 방식에 비해 물체의 상태 정보가 매우 높을 수 있으나, 컨볼루션 신경망은 대량의 연산을 요구하기 때문에 스마트폰의 프로세서(71)에 의해 처리가 불가능할 수 있다.

2212 단계에서 전자기기의 프로세서(71)는 2209 단계에서 생성된 물체의 이미지와 2212 단계에서 추정된 물체의 상태 정보를 합성함으로써 물체의 이미지와 상태 정보의 합성 이미지를 생성한다. 예를 들어, 프로세서(71)는 2209 단계에서 생성된 물체의 이미지의 화소들 중 일부의 값을 물체의 상태 정보를 나타내는 화소들의 값으로 교체함으로써 물체 이미지와 상태 정보를 합성할 수 있다. 2214 단계에서 전자기기의 디스플레이패널(3)은 프로세서(71)의 제어에 따라 2213 단계에서 생성된 합성 이미지를 표시한다. 도 27은 도 3-10, 21에 도시된 디스플레이패널(3)에 표시되는 합성 이미지의 일례를 도시한 도면이다. 도 27에는 사과의 이미지와 당도의 합성 이미지가 도시되어 있다. 도 27의 (a)에 도시된 바와 같이, 디스플레이패널(3)에는 사과의 이미지와 당도 값의 합성 이미지가 표시될 수 있다. 사과의 이미지에 당도 값이 표시되어 있음에 따라 사용자는 사과의 이미지를 관찰하는 것만으로 사과의 당도를 직관적으로 알 수 있다.

도 28은 도 3-10, 21에 도시된 디스플레이패널(3)에 표시되는 합성 이미지의 다른 예를 도시한 도면이다. 도 28에는 사용자의 얼굴 피부 이미지와 멜라닌 농도의 합성 이미지가 도시되어 있다. 도 28의 (a)에 도시된 바와 같이, 디스플레이패널(3)에는 얼굴 피부의 이미지와 멜라닌 농도 값의 합성 이미지가 표시될 수 있다. 얼굴 피부의 이미지에 멜라닌 농도 값이 표시되어 있음에 따라 사용자는 얼굴 피부의 이미지를 관찰하는 것만으로 얼굴의 멜라닌 농도를 직관적으로 알 수 있다. 이와 같이, 본 실시예에 따른 전자기기는 물체의 이미지와 상태 정보를 합성한 이미지를 표시함으로써 전자기기의 사용자가 이러한 합성 이미지를 관찰하는 것만으로 물체의 상태를 직관적으로 알 수 있도록 할 수 있다.

사과의 당도 값은 상술한 바와 같이 브릭스라는 단위로 표현되는데 이러한 단위에 생소한 일반인은 디스플레이패널(3)에 표시된 당도 값으로부터 사과의 상태를 이해하기가 어려울 수도 있다. 일반인이 사과의 상태를 이해하기 쉽도록 사과의 당도는 좋음, 보통, 나쁨의 세 단계로 분류될 수 있다. 이 경우, 사과의 당도 값으로부터 당도의 세 단계 중 어느 한 단계가 결정된다. 도 27의 (b)에 도시된 바와 같이, 디스플레이패널(3)에는 사과의 이미지와 당도의 어느 한 단계의 합성 이미지가 표시될 수도 있다. 스마트폰 등과 같은 전자기기의 사용자는 과일가게, 시장 등에서 사과, 배 등을 구매하고자 할 때에 전자기기를 이용하여 사과, 배 등을 촬영하는 행위만으로 사과, 배 등의 이미지 상에 표시된 당도로부터 사과, 배 등이 맛이 있는지 없는지를 알 수 있게 된다. 이와 같이, 본 실시예는 사용자로 하여금 과일 등과 같은 물체의 상태를 물체를 촬영하는 행위만으로 알 수 있도록 함으로써 스마트폰 등과 같은 전자기기 외에 별도의 측정 장비 없이도 매우 편리하게 물체의 상태를 알 수 있도록 할 수 있으며, 물체의 구매 여부를 결정하는데 도움을 줄 수 있다.

마찬가지로, 얼굴 피부의 멜라닌 농도 값은 상술한 바와 같이 퍼센트(%)라는 단위로 표현되는데 이러한 단위에 생소한 일반인은 디스플레이패널(3)에 표시된 멜라닌 농도 값으로부터 자신의 얼굴 피부 상태를 이해하기가 어려울 수도 있다. 일반인이 자신의 얼굴 피부 상태를 이해하기 쉽도록 얼굴 피부의 멜라닌 농도는 좋음, 보통, 나쁨의 세 단계로 분류될 수 있다. 이 경우, 얼굴 피부의 멜라닌 농도 값으로부터 멜라닌 농도의 세 단계 중 어느 한 단계가 결정된다. 도 27의 (b)에 도시된 바와 같이, 디스플레이패널(3)에는 사용자의 얼굴 피부의 이미지와 멜라닌 농도의 어느 한 단계의 합성 이미지가 표시될 수도 있다. 스마트폰 등과 같은 전자기기의 사용자는 자신의 얼굴 피부를 촬영하는 행위만으로 얼굴 피부 이미지 상에 표시된 멜라닌 농도로부터 자신의 얼굴 피부 상태를 알 수 있게 된다.

사람의 피부는 자외선에 지속적으로 노출되면 멜라닌이 대량 생성된다. 멜라닌은 자외선으로부터 피부를 보호하는 역할을 하지만, 멜라닌 농도의 비정상적인 증가는 피부가 자외선에 과도하게 노출되었음을 의미한다. 피부가 자외선에 과도하게 노출되면, 피부 암, 기미, 피부 노화가 발생하기 때문에, 전자기기에 표시된 합성 이미지가 멜라닌 농도의 비정상적인 증가를 나타낼 경우에 사용자는 얼굴에 선크림(sun cream)을 바르거나 야외 활동을 자제함으로써 자신의 얼굴 피부 상태를 관리할 필요가 있다. 이와 같이, 본 실시예는 사용자로 하여금 자신의 얼굴 피부를 촬영하는 행위만으로 얼굴 피부의 상태를 알 수 있도록 함으로써 스마트폰 등과 같은 전자기기 외에 별도의 측정 장비 없이도 매우 편리하게 자신의 얼굴 피부 상태를 파악할 수 있으며, 얼굴 피부 상태를 관리하는데 도움을 줄 수 있다. 즉, 본 실시예는 전자기기의 사용자로 하여금 물체를 촬영하는 행위만으로 물체의 상태를 알 수 있도록 함으로써 스마트폰 등과 같은 전자기기 외에 별도의 측정 장비 없이도 매우 편리하게 물체의 상태를 알 수 있도록 할 수 있다.

이상에서는 본 실시예에 따른 전자기기에 의한 물체 이미지와 상태 정보의 합성 이미지 표시의 예로서 과일의 이미지와 당도의 합성 이미지 표시와 사용자의 얼굴 피부와 멜라닌 농도의 합성 이미지 표시를 살펴보았다. 이상에서 설명된 실시예에서 과일 당도별 샘플 스펙트럼 대신에 과일 신선도별 샘플 스펙트럼이 사용될 경우에 본 실시예에 따라 과일의 이미지와 신선도 등 다른 속성의 상태 정보의 합성 이미지의 표시도 가능함을 알 수 있다. 나아가, 물체의 상태 정보는 과일의 당도, 신선도 등 복수의 속성 각각의 상태를 나타내는 정보일 수도 있다. 이 경우, 과일 이미지 상에 과일의 두 가지 속성, 즉 당도와 신선도가 함께 표시된다.

또한, 얼굴 피부의 멜라닌 농도별 샘플 스펙트럼 대신에 얼굴 피부의 수분량별 샘플 스펙트럼 또는 유분량별 샘플 스펙트럼이 사용될 경우에 얼굴 피부와 수분량, 유분량 등의 다른 속성의 상태 정보의 합성 이미지의 표시도 가능함을 알 수 있다. 나아가, 물체의 상태 정보는 얼굴 피부의 멜라닌 농도, 수분량, 유분량 등 복수의 속성 각각의 상태를 나타내는 정보일 수도 있다. 이 경우, 얼굴 피부 이미지 상에 얼굴 피부의 세 가지 속성, 즉 멜라닌 농도, 수분량, 및 유분량이 함께 표시된다. 과일이나 사용자의 얼굴 피부 외에 다른 종류의 물체에도 본 실시예가 적용될 수 있다. 예를 들어, 본 실시예에 따라 음식물의 이미지와 부패도의 합성 이미지가 표시될 수도 있다.

한편, 상술한 바와 같은 본 발명의 실시예에 따른 합성 이미지 표시 방법은 컴퓨터의 프로세서에서 실행 가능한 프로그램으로 작성 가능하고, 이 프로그램을 컴퓨터로 읽을 수 있는 기록매체에 기록하여 실행시키는 컴퓨터에서 구현될 수 있다. 컴퓨터는 데스크탑 컴퓨터, 노트북 컴퓨터, 스마트폰, 임베디드 타입의 컴퓨터 등 프로그램을 실행시킬 수 있는 모든 타입의 컴퓨터를 포함한다. 또한, 상술한 본 발명의 일 실시예에서 사용된 데이터의 구조는 컴퓨터로 읽을 수 있는 기록매체에 여러 수단을 통하여 기록될 수 있다. 컴퓨터로 읽을 수 있는 기록매체는 램(RAM), 롬(ROM), 마그네틱 저장매체(예를 들면, 플로피 디스크, 하드디스크 등), 광학적 판독 매체(예를 들면, 시디롬, 디브이디 등)와 같은 저장매체를 포함한다.

이제까지 본 발명에 대하여 그 바람직한 실시예들을 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형상으로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.

1 ... 커버글래스
2 ... 터치패널
3 ... 디스플레이패널
4 ... 후면패널
41 ... 보호층 42 ... 방열층
5 ... 복합센서
51 ... 이미지센서 511 ... 컬러필터
52 ... 분광센서 521 ... 분광필터
512, 522 ... 광전소자
500 ... 복합센서기판 501 ... 마이크로렌즈
502 ... 평탄화층 503 ... 절연층
504 ... 대역투과필터
151 ... 투명기판 152 ... 금속패턴
171 ... 상반사층 172 ... 하반사층
173 ... 유전체층 174 ... 버퍼층
50 ... 콜리메이터렌즈
6 ... 브래킷
7 ... 인쇄회로기판
71 ... 프로세서 72 ... 통신모듈
73 ... 입출력인터페이스모듈 74 ... 메모리
75 ... 버스
8 ... 발광모듈
9 ... 배터리
10 ... 하우징
11 ... 센서모듈
12 ... 전원공급모듈

Claims

물체의 표면에서 반사된 빛으로부터 상기 물체의 이미지를 나타내는 신호를 생성하고, 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성하는 복합센서;
상기 물체의 이미지를 나타내는 신호로부터 상기 물체의 이미지를 생성하고, 상기 물체의 스펙트럼을 나타내는 신호로부터 상기 물체의 상태 정보를 추정하는 프로세서; 및
상기 생성된 물체의 이미지와 상기 추정된 물체의 상태 정보를 합성한 이미지를 표시하는 디스플레이패널을 포함하는 전자기기.
제 1 항에 있어서,
상기 물체의 표면에 적외선을 조사하는 발광모듈을 더 포함하고,
상기 복합센서는 상기 물체의 표면에 조사된 가시광선이 상기 물체의 표면에서 반사된 빛으로부터 상기 물체의 이미지를 나타내는 신호를 생성하고, 상기 물체의 표면에 조사된 적외선이 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성하는 전자기기.
제 2 항에 있어서,
상기 복합센서는 복수 개의 분광필터를 이용하여 상기 물체의 표면에 조사된 적외선이 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성하고,
상기 복수 개의 분광필터는 상기 발광모듈로부터 조사된 적외선의 파장대역 중 과일 또는 사람의 피부 속을 침투한 후에 상기 과일 또는 피부의 표면으로부터 방출되는 과정에서 흡수되는 파장대역에 속하는 복수의 파장대역을 투과시키거나 차단하는 전자기기.
제 1 항에 있어서,
상기 프로세서는 상기 물체의 스펙트럼을 나타내는 신호로부터 상기 물체의 스펙트럼을 생성하고, 상기 생성된 물체의 스펙트럼과 다수의 샘플 스펙트럼을 비교함으로써 상기 물체의 상태 정보를 추정하는 전자기기.
제 1 항에 있어서,
상기 프로세서는 상기 물체의 스펙트럼을 나타내는 신호로부터 상기 물체의 스펙트럼을 생성하고, 상기 생성된 물체의 스펙트럼을 컨볼루션 신경망에 입력함으로써 상기 컨볼루션 신경망의 출력 데이터로부터 상기 물체의 상태 정보를 추정하는 전자기기.
제 1 항에 있어서,
상기 복합센서는
복수 개의 컬러필터를 이용하여 상기 물체의 표면에서 반사된 빛으로부터 상기 물체의 이미지를 나타내는 신호를 생성하는 이미지센서; 및
복수 개의 분광필터를 이용하여 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성하는 분광센서를 포함하는 전자기기.
제 6 항에 있어서,
상기 복수 개의 컬러필터와 상기 복수 개의 분광필터는 2차원 평면의 매트릭스 구조로 배열되어 상기 복수 개의 컬러필터와 상기 복수 개의 분광필터의 배열면은 수광면을 형성하는 전자기기.
제 7 항에 있어서,
상기 이미지센서는 상기 2차원 평면의 매트릭스 구조의 일부분에 해당하는 매트릭스 구조로 배열된 복수 개의 컬러필터를 이용하여 상기 물체의 표면에서 반사된 빛으로부터 상기 물체의 이미지를 나타내는 신호를 생성하고,
상기 분광센서는 상기 2차원 평면의 매트릭스 구조의 다른 부분에 해당하는 매트릭스 구조로 배열된 복수 개의 분광필터를 이용하여 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성하는 전자기기.
제 7 항에 있어서,
상기 이미지센서는
상기 2차원 평면의 매트릭스 구조의 일부분에 해당하는 매트릭스 구조로 배열되어 상기 물체의 표면에서 반사된 빛을 필터링하는 복수 개의 컬러필터; 및
상기 복수 개의 컬러필터 아래에 배치되어 상기 복수 개의 컬러필터에 의해 필터링된 빛을 전기적 신호로 변환하는 복수 개의 광전소자를 포함하는 전자기기.
제 9 항에 있어서,
상기 분광센서는
상기 2차원 평면의 매트릭스의 다른 부분에 해당하는 매트릭스 구조로 배열되어 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛을 필터링하는 복수 개의 분광필터; 및
상기 복수 개의 분광필터 아래에 배치되어 상기 복수 개의 분광필터에 의해 필터링된 빛을 전기적 신호로 변환하는 복수 개의 광전소자를 포함하는 전자기기.
제 3 항에 있어서,
상기 각 분광필터는 일정한 형상을 갖는 금속패턴들이 주기적으로 배열된 형태로 형성되어 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛에서 상기 주기에 따라 결정되는 파장대역을 차단하는 전자기기.
제 11 항에 있어서,
상기 복수 개의 분광필터 중 어느 하나의 분광필터의 금속패턴들과 다른 하나의 분광필터의 금속패턴들은 서로 다른 주기로 배열되고,
상기 어느 하나의 분광필터와 상기 다른 하나의 분광필터는 서로 다른 파장대역을 차단하는 전자기기.
제 3 항에 있어서,
상기 각 분광필터는
서로 이격 분리된 상반사층과 하반사층;
상기 상반사층과 하반사층 사이에 삽입되며 굴절률이 서로 상이한 적어도 두 개의 물질이 교대로 배치되는 유전체층; 및
상기 상반사층 및 하반사층 중 적어도 하나와 상기 유전체층 사이에 배치되는 버퍼층을 포함하고,
상기 각 분광필터는 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛에서 상기 두 개의 물질간의 상대적인 부피 비율에 따라 결정되는 파장대역을 통과시키는 전자기기.
제 13 항에 있어서,
상기 유전체층에는 상기 두 개의 물질간의 상대적인 부피 비율이 서로 다른 영역이 적어도 두 곳 존재하고,
상기 유전체층의 상대적인 부피 비율이 서로 다른 영역은 서로 다른 파장대역을 통과시키는 전자기기.
제 7 항에 있어서,
상기 분광센서는
상기 복수 개의 분광필터;
상기 복수 개의 분광필터에 일대다 대응되어 상기 복수 개의 분광필터 아래에 배치되는 복수 개의 대역투과필터; 및
상기 복수 개의 대역투과필터에 일대일 대응되어 상기 복수 개의 대역투과필터 아래에 배치되는 복수 개의 광전소자를 포함하고,
상기 각 분광필터에 대응되는 복수 개의 대역투과필터는 상기 각 분광필터의 필터링 파장대역에서 서로 다른 파장대역을 투과시키고,
상기 복수 개의 컬러필터는 상기 2차원 평면의 매트릭스 구조의 일부분에 해당하는 매트릭스 구조로 배열되고, 상기 복수 개의 대역투과필터는 상기 2차원 평면의 매트릭스 구조의 다른 부분에 해당하는 매트릭스 구조로 배열되는 전자기기.
제 15 항에 있어서,
상기 복수 개의 대역투과필터는 상기 복수 개의 컬러필터 중 적어도 두 종류의 컬러필터와 동종의 컬러필터들인 전자기기.
제 1 항에 있어서,
상기 디스플레이패널 아래에 배치되며 적어도 하나의 광통과홀이 형성되어 있는 후면패널을 더 포함하고,
상기 복합센서는 상기 디스플레이패널을 통과하여 상기 후면패널의 적어도 하나의 광통과홀을 통해 입사된 빛으로부터 상기 물체의 이미지를 나타내는 신호와 상기 물체의 스펙트럼을 나타내는 신호를 생성하는 전자기기.
제 1 항에 있어서,
상기 디스플레이패널 아래에 배치되어 상기 디스플레이패널을 통과한 빛을 평행광으로 변환하는 적어도 하나의 콜리메이터렌즈를 더 포함하고,
상기 복합센서는 상기 디스플레이패널을 통과하여 상기 적어도 하나의 콜리메이터렌즈를 통해 입사된 빛으로부터 상기 물체의 이미지를 나타내는 신호와 상기 물체의 스펙트럼을 나타내는 신호를 생성하는 전자기기.
제 2 항에 있어서,
상기 복합센서는 상기 디스플레이패널 아래에 배치되고,
상기 복합센서는 상기 물체의 표면에 조사된 가시광선이 상기 물체의 표면에서 반사되어 상기 디스플레이패널을 통과한 빛으로부터 상기 물체의 이미지를 나타내는 신호를 생성하고, 상기 물체의 표면에 조사된 적외선이 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출되어 상기 디스플레이패널을 통과한 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성하는 전자기기.
물체 이미지와 상태 정보의 합성 이미지를 표시하는 방법에 있어서,
물체의 표면에서 반사된 빛으로부터 상기 물체의 이미지를 나타내는 신호를 생성하는 단계;
상기 물체의 이미지를 나타내는 신호로부터 상기 물체의 이미지를 생성하는 단계;
상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성하는 단계;
상기 물체의 스펙트럼을 나타내는 신호로부터 상기 물체의 상태 정보를 추정하는 단계;
상기 물체의 이미지와 상기 물체의 상태 정보를 합성함으로써 상기 물체의 이미지와 상태 정보의 합성 이미지를 생성하는 단계; 및
상기 생성된 합성 이미지를 표시하는 단계를 포함하는 합성 이미지 표시 방법.
제 20 항에 있어서,
상기 물체의 스펙트럼을 나타내는 신호를 생성하는 단계는 복수 개의 분광필터를 이용하여 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성하고,
상기 물체의 표면에 적외선을 조사하는 단계를 더 포함하고,
상기 복수 개의 분광필터는 상기 조사된 적외선의 파장대역 중 과일 또는 사람의 피부 속을 침투한 후에 상기 과일 또는 피부의 표면으로부터 방출되는 과정에서 흡수되는 파장대역에 속하는 복수의 파장대역을 투과시키거나 차단하는 합성 이미지 표시 방법.
제 20 항에 있어서,
상기 물체의 상태 정보를 추정하는 단계는
상기 물체의 스펙트럼을 나타내는 신호로부터 상기 물체의 스펙트럼을 생성하는 단계;
상기 생성된 스펙트럼의 형태와 다수의 샘플 스펙트럼 각각의 형태를 비교하는 단계;
상기 비교 결과에 따라 상기 다수의 샘플 스펙트럼 중에서 상기 생성된 스펙트럼의 형태와 가장 유사한 형태를 갖는 두 개의 스펙트럼을 선정하는 단계; 및
상기 선정된 두 개의 스펙트럼을 갖는 두 개의 샘플 물체 각각의 상태 정보로부터 상기 물체의 상태 정보를 추정하는 단계를 포함하는 합성 이미지 표시 방법.
제 22 항에 있어서,
상기 선정된 두 개의 샘플 스펙트럼 각각에 대한 상기 물체의 스펙트럼의 유사도로부터 상기 선정된 두 개의 샘플 스펙트럼 각각의 가중치를 산출하는 단계를 더 포함하고,
상기 두 개의 샘플 물체 각각의 상태 정보로부터 상기 물체의 상태 정보를 추정하는 단계는 상기 두 개의 샘플 물체 각각의 상태 정보와 상기 두 개의 샘플 스펙트럼 각각의 가중치로부터 상기 물체의 상태 정보를 추정하는 합성 이미지 표시 방법.
제 23 항에 있어서,
상기 두 개의 샘플 물체 각각의 상태 정보로부터 상기 물체의 상태 정보를 추정하는 단계는 상기 선정된 두 개의 샘플 스펙트럼 중 제 1 샘플 스펙트럼을 갖는 제 1 샘플 물체의 상태 정보의 값에 상기 제 1 샘플 스펙트럼의 가중치를 곱한 값과 상기 선정된 두 개의 샘플 스펙트럼 중 제 2 샘플 스펙트럼을 갖는 제 2 샘플 물체의 상태 정보의 값에 상기 제 2 샘플 스펙트럼의 가중치를 곱한 값을 합산함으로써 상기 물체의 상태 정보의 값을 산출하는 합성 이미지 표시 방법.
제 20 항에 있어서,
상기 물체의 상태 정보를 추정하는 단계는
상기 물체의 스펙트럼을 나타내는 신호로부터 상기 물체의 스펙트럼을 생성하는 단계;
상기 생성된 스펙트럼의 형태를 컨볼루션 신경망에 입력하는 단계;
상기 입력에 대한 응답으로서 상기 컨볼루션 신경망으로부터 출력된 상태 정보를 상기 물체의 상태 정보로 추정하는 단계를 포함하고,
상기 컨볼루션 신경망은 다수의 샘플 물체 각각의 스펙트럼의 형태와 상태 정보를 이용하여 학습된 것인 합성 이미지 표시 방법.
제 20 항에 있어서,
사용자의 입력에 따라 물체의 종류 및 속성을 선택하는 단계; 및
상기 물체의 표면에 상기 선택된 물체의 종류 및 속성에 대응되는 파장대역의 빛을 조사하는 단계를 더 포함하고,
상기 물체의 이미지를 나타내는 신호를 생성하는 단계는 상기 조사된 빛이 상기 물체의 표면에서 반사된 빛으로부터 상기 물체의 이미지를 나타내는 신호를 생성하고,
상기 물체의 스펙트럼을 나타내는 신호를 생성하는 단계는 상기 조사된 빛이 상기 물체 속을 침투한 후에 상기 물체의 표면으로부터 방출된 빛으로부터 상기 물체의 스펙트럼을 나타내는 신호를 생성하는 합성 이미지 표시 방법.
제 19 항에 있어서,
상기 선택된 종류의 물체가 정확하게 위치될 수 있도록 가이드하기 위한 그래픽을 표시하는 단계; 및
상기 표시된 그래픽 상에 상기 물체의 이미지를 표시하는 단계를 더 포함하는 합성 이미지 표시 방법.
제 27 항에 있어서,
상기 그래픽을 표시하는 단계의 시작 시점부터 일정 시간이 경과하였는가를 확인하는 단계를 더 포함하고,
상기 물체의 표면에 빛을 조사하는 단계는 상기 일정 시간이 경과된 것으로 확인된 경우에 상기 물체의 표면에 빛을 조사하는 합성 이미지 표시 방법.
제 20 항에 있어서,
상기 합성 이미지를 생성하는 단계는 상기 생성된 물체의 이미지의 화소들 중 일부의 값을 상기 물체의 상태 정보를 나타내는 화소들의 값으로 교체함으로써 상기 물체의 이미지와 상기 물체의 상태 정보를 합성하는 합성 이미지 표시 방법.
제 20 항에 있어서,
상기 물체의 상태 정보는 상기 물체의 복수의 속성 각각의 상태를 나타내는 정보인 합성 이미지 표시 방법.
제 20 항 내지 제 30 항 중에 어느 한 항의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.