KR20220146447A - 촬상 장치, 촬상 방법, 전자기기 - Google Patents

Abstract

본 기술은, 화질을 향상시킬 수 있도록 하는 촬상 장치, 촬상 방법, 전자기기에 관한 것이다. 동일한 피사체를 촬상 또는 센싱 가능한 2이상의 촬상부 를 포함하고, 2이상의 촬상부 중의 적어도 하나의 제1 촬상부는, 복수의 파장 대역을 투과하는 제1 필터를 구비하고, 2이상의 촬상부 중 제1 촬상부를 제외한 다른 적어도 하나의 제2 촬상부는, 파장 대역을 가변하는 것이 가능한 제2 필터를 구비한다. 본 기술은, 예를 들면, 복안의 카메라 모듈, 복안의 카메라 모듈을 포함하는 촬상 장치, 촬상 장치를 포함하는 가상 현실 등을 제공하는 장치에 적용할 수 있다.

Description

촬상 장치, 촬상 방법, 전자기기

본 기술은 촬상 장치, 촬상 방법, 전자기기에 관한 것으로, 예를 들면, 복수의 스펙트럼을 사용한 촬상을 행하도록 한 촬상 장치, 촬상 방법, 전자기기에 관한 것이다.

복수의 단안 카메라 모듈을 조합시킨 복안 방식의 카메라 모듈이 알려져 있다(예를 들면, 특허문헌 1 참조).

특허문헌 1: 일본특허공개 2013-106229호 공보

복안 방식의 카메라 모듈을 사용하여 화질을 향상시키거나, 소정의 물체의 검지 정밀도를 향상시키는 것이 요망되고 있다.

본 기술은, 이러한 상황을 감안하여 행해진 것으로, 화질을 향상시키거나, 소정의 물체의 검지 정밀도를 향상시키는 것이 가능하도록 하는 것이다.

　본 기술의 일 측면의 촬상 소자는, 동일한 피사체를 촬상 또는 센싱 가능한 2이상의 촬상부를 포함하고, 상기 2이상의 촬상부 중의 적어도 하나의 제1 촬상부는, 복수의 파장 대역을 투과하는 제1 필터를 구비하고, 상기 2이상의 촬상부 중 상기 제1 촬상부를 제외한 다른 적어도 하나의 제2 촬상부는, 파장 대역을 가변하는 것이 가능한 제2 필터를 구비한다.

본 기술의 일 측면의 촬상 장치는, 동일한 피사체를 촬상 또는 센싱 가능한 2이상의 촬상부를 구비하고, 상기 2이상의 촬상부 중의 적어도 하나의 제1 촬상부는, 복수의 파장 대역을 투과하는 제1 필터를 구비하고, 상기 2이상의 촬상부 중 상기 제1 촬상부를 제외한 다른 적어도 하나의 제2 촬상부는, 파장 대역을 가변하는 것이 가능한 제2 필터를 구비하는 촬상 장치와, 상기 촬상 장치로부터의 신호를 처리하는 처리부를 구비한다.

본 기술의 일 측면의 촬상 방법은, 촬상 장치가, 동일한 피사체를 촬상 또는 센싱 가능한 2이상의 촬상부를 포함하고, 상기 2이상의 촬상부 중의 적어도 하나의 제1 촬상부는, 복수의 파장 대역을 투과하는 제1 필터를 구비하고, 상기 2이상의 촬상부 중 상기 제1 촬상부를 제외한 다른 적어도 하나의 제2 촬상부는, 파장 대역을 가변하는 것이 가능한 제2 필터를 구비하며, 상기 제1 촬상부에서 촬상된 화상과, 상기 제2 촬상부에서 촬상된 화상을 합성한 합성 화상을 사용하여 상기 피사체를 추정한다.

본 기술의 일 측면의 촬상 소자에 있어서는, 동일한 피사체를 촬상 또는 센싱 가능한 2이상의 촬상부가 구비되고, 2이상의 촬상부 중의 적어도 하나의 제1 촬상부에는, 복수의 파장 대역을 투과하는 제1 필터가 구비되고, 2이상의 촬상부 중 제1 촬상부를 제외한 다른 적어도 하나의 제2 촬상부에는, 파장 대역을 가변하는 것이 가능한 제2 필터가 구비된다.

본 기술의 일 측면의 전자기기에 있어서는, 상기 촬상 장치가 구비된다.

한편, 촬상 장치 및 전자기기는, 독립한 장치이어도 되고, 하나의 장치를 구성하고 있는 내부 블록이어도 된다.

[도 1] 복안에 관한 구성에 대해 설명하기 위한 도면이다.
[도 2] 촬상 장치의 구성에 대해 설명하기 위한 도면이다.
[도 3] 촬상 소자의 구성에 대해 설명하기 위한 도면이다.
[도 4] 필터의 배치에 대해 설명하기 위한 도면이다.
[도 5] 파브리 페로(Fabry-Perot) 분광기에 대해 설명하기 위한 도면이다.
[도 6] 파브리 페로 분광기의 배치에 대해 설명하기 위한 도면이다.
[도 7] 보간하는 색의 파장 대역에 대해 설명하기 위한 도면이다.
[도 8] 촬상 처리 1에 대해 설명하기 위한 플로우차트이다.
[도 9] 촬상 처리 2에 대해 설명하기 위한 플로우차트이다.
[도 10] 촬상 처리 3에 대해 설명하기 위한 플로우차트이다.
[도 11] 움직임이 있는 피사체에 대한 효과에 대해 설명하기 위한 도면이다.
[도 12] 보정에 대해 설명하기 위한 도면이다.
[도 13] 보정에 대해 설명하기 위한 플로우차트이다.
[도 14] 화소의 구성예를 나타내는 도면이다.
[도 15] 멀티스펙트럼 화소를 포함하는 색 배치에 대해 설명하기 위한 도면이다.
[도 16] 멀티스펙트럼 화소로부터의 출력에 대해 설명하기 위한 도면이다.
[도 17] 정보처리시스템의 일 실시형태의 구성을 나타내는 도면이다.
[도 18] 표시 디바이스의 일례를 나타내는 도면이다.
[도 19] AR-HMD의 외관 구성을 나타내는 도면이다.
[도 20] 정보처리장치로서의 AR-HMD의 구성예를 나타내는 블록도이다.
[도 21] AR-HMD의 사용예에 대해 설명하기 위한 도면이다.
[도 22] 기록 매체에 대해 설명하기 위한 도면이다.
[도 23] 내시경 수술 시스템의 개략적인 구성의 일례를 나타내는 도면이다.
[도 24] 카메라 헤드 및 CCU의 기능 구성의 일례를 나타내는 블록도이다.
[도 25] 차량제어시스템의 개략적인 구성의 일례를 나타내는 블록도이다.
[도 26] 차외정보검출부 및 촬상부의 설치 위치의 일례를 나타내는 설명도이다.

이하에, 본 기술을 실시하기 위한 형태(이하, 실시형태라고 한다)에 대해서 설명한다.

<복안 카메라 모듈의 구성>

본 기술은, 복안 카메라 모듈을 포함하는 촬상 장치에 적용할 수 있다. 도 1은, 본 기술을 적용한 복안 카메라 모듈의 외관의 구성예를 나타내는 도면이다.

도 1에 있어서, 도 1의 A는, 복안 카메라 모듈(10)의 사시도이며, 도 1의 B는, 복안 카메라 모듈(10)의 정면도이다.

복안 카메라 모듈(10)은, 복안 방식의 카메라 모듈로서, 단안 카메라 모듈(21-1)과 단안 카메라 모듈(21-2)이, 사각형의 판형상으로 이루어지는 연결 부재(22)에 의해 고정됨으로써 구성된다.

단안 카메라 모듈(21-1)에는, CMOS(Complementary Metal Oxide Semiconductor)이미지 센서 등의 고체 촬상 소자나 렌즈 유닛 등이 탑재되고 있다.

단안 카메라 모듈(21-1)에 있어서, 고체 촬상 소자는, 복수의 화소가 2차원 형상으로 배열되는 화소부, 화소의 구동이나 A/D(Analog/Digital) 변환 등을 행하는 주변회로부 등으로 구성되어 있다. 이 고체 촬상 소자에서는, 렌즈 유닛 내의 렌즈로부터 입사되는 광(상(像)광)이 화소부의 수광면에 결상되고, 결상된 상의 광이 광전 변환됨으로써, 화소 신호가 생성된다.

단안 카메라 모듈(21-2)은, 단안 카메라 모듈(21-1)과 마찬가지로, CMOS 이미지 센서나 렌즈 유닛 등이 탑재되어 구성된다. 예를 들면, 복안 카메라 모듈(10)에서는, 단안 카메라 모듈(21-1)을 메인 카메라로 하고, 단안 카메라 모듈(21-2)을 서브 카메라로 할 수 있다.

연결 부재(22)는, 단안 카메라 모듈(21-1)의 렌즈 유닛과, 단안 카메라 모듈(21-2)의 렌즈 유닛을 배열하였을 때의 평면 방향의 사이즈보다 큰 윤곽의 사각형 판형상으로 이루어진다. 또한, 연결 부재(22)에는, 단안 카메라 모듈(21-1)의 렌즈 유닛이 삽입되는 사각형의 삽입 구멍부와, 단안 카메라 모듈(21-2)의 렌즈 유닛이 삽입되는 사각형의 삽입 구멍부가, 대칭으로 관통 형성되어 있다.

복안 카메라 모듈(10)에 있어서는, 연결 부재(22)에 관통 형성된 2개의 사각형의 삽입 구멍부에 대해, 단안 카메라 모듈(21-1)의 렌즈 유닛과, 단안 카메라 모듈(21-2)의 렌즈 유닛이 각각 삽입되어 고정되고 있다. 이에 의해, 복안 카메라 모듈(10)은, 단안 카메라 모듈(21-1)과 단안 카메라 모듈(21-2)을 갖는 복안 방식의 카메라 모듈로서 구성된다.

복안 카메라 모듈(10)은, 이상과 같이 구성된다.

한편, 단안 카메라 모듈(21-1)과 단안 카메라 모듈(21-2)은, 연결 부재(22)에 의해 연결되는, 복수의 단안 카메라 모듈의 일 예이며, 이하, 이들을 특히 구별할 필요가 없을 경우에는, 단순히, 단안 카메라 모듈(21)이라고 칭하여 설명한다.

또한, 단안 카메라 모듈이란, 하나의 고체 촬상 소자(이미지 센서)가 탑재된 카메라 모듈이다. 한편, 복안 카메라 모듈은, 복수의 단안 카메라 모듈을 연결시킴으로써, 복수의 고체 촬상 소자(이미지 센서)가 탑재된 카메라 모듈이다. 단, 모듈은, 패키지 등의 다른 명칭으로 불리는 경우가 있다.

또한 여기에서는, 도 1에 나타낸 바와 같은 단안 카메라 모듈(21-1)과 단안 카메라 모듈(21-2)이 연결 부재(22)로 연결되고 있는 구조를 나타냈지만, 연결 부재(22)를 사용하지 않고, 단순히 단안 카메라 모듈(21-1)과 단안 카메라 모듈(21-2)이 배치되고 있는 경우 등도, 본 기술의 적용 범위 내이다.

<촬상 장치의 구성>

도 2는, 도 1에 나타낸 복안 카메라 모듈(10)을 포함하는 촬상 장치(100)의 일 실시형태의 구성을 나타내는 도면이다.

촬상 장치(100)는, 촬상부(110)와 촬상부(120)를 구비한다. 상세한 것은 후술하지만, 촬상부(110)와 촬상부(120)는, 다른 파장 대역의 광을 수광하고, 처리한다. 다른 파장 대역이란, 예를 들면, 적색 파장과 청색 파장과 같은 대역의 차 외에, 협대역과 광대역의 차도 포함하는 것으로 하여 설명을 계속한다. 여기서는, 촬상부(110)는, 광대역의 파장 광을 수광하고 처리하는 촬상부라 하고, 촬상부(120)는, 협대역의 파장 광을 수광하고 처리하는 촬상부라고 하여 설명을 계속한다.

한편 여기에서는, 촬상 장치(100)는, 촬상부(110)와 촬상부(120)를 포함하는 경우를 예로 들어 설명을 계속하지만, 2이상의 촬상부를 포함하는 구성이어도 된다.

촬상부(110)는, 예를 들면, 도 1의 복안 카메라 모듈(10)의 단안 카메라 모듈(21-1)에 해당하고, 촬상부(120)는, 예를 들면, 도 1의 복안 카메라 모듈(10)의 단안 카메라 모듈(21-2)에 해당한다.

촬상 장치(100)는, 촬상부(110)로부터의 신호와 촬상부(120)의 신호를 각각 취득하고 처리하는 처리부(131)와, 처리부(131)에서 처리된 화상을 출력하는 화상 출력부(132)를 구비한다. 또한, 촬상 장치(100)는, 메모리(134)와 통신부(135)를 구비한다. 통신부(135)는, 네트워크(미도시)를 통하여, 소정의 서버(151)와 데이터를 주고받을 수 있도록 구성되어 있다.

서버(151)는, 예를 들면, 클라우드 상에 있는 서버이다. 또한, 서버(151)로부터 데이터를 판독하는 구성이 아니라, 소정의 기록 매체에 기록되어 있는 데이터가 판독되는 구성(드라이브를 구비하는 구성)으로 하여도 된다.

촬상부(110)는, 렌즈(111), 광대역 광전변환부(112), A/D 변환부(113), 클램프부(114), 색별 출력부(115), 결함 보정부(116), 리니어 매트릭스부(117)를 포함하는 구성으로 되어 있다.

렌즈(111)는, 입사된 광을 광대역 광전변환부(112)에 집광시킨다. 광대역 광전변환부(112)는, 예를 들면, 컬러 필터를 구비하고, 적(R), 녹(G), 청(B)의 광을 수광하고 처리하여, 각각의 신호를 A/D 변환부(113)에 출력한다. A/D 변환부(113)는, 광대역 광전변환부(112)에서 광전 변환된 피사체의 화상의 아날로그 신호를 디지털 값으로 변환한다.

클램프부(114)는, A/D 변환부(113)로부터 공급되는 피사체의 화상의 디지털 데이터(화상 데이터)의 흑 레벨을 감산한다. 색별 출력부(115)는, 클램프부(114)로부터 공급되는 화상 데이터에 대해, 필요에 따라 색 신호를 보완한다. 결함 보정부(116)는, 화소의 결함을 평가하고, 그 평가 결과에 따라, 결함이라고 평가된 화소를 필요에 따라 보정한다.

리니어 매트릭스부(117)는, 결함 보정부(116)로부터 공급되는 화상 데이터에 대해, 필요에 따라 리니어 매트릭스를 걸어 색 재현 등을 향상시킨다.

리니어 매트릭스부(117)의 처리 후, 처리부(131)에 화상 데이터를 공급하기 전의 단계, 또는 처리부(131)에 의한 처리가 끝난 화상 데이터에 대하여, 휘도 표현을 자연스럽게 하는 감마 보정 처리가 행해지거나, 휘도 신호 및 크로마 신호를 생성하거나 하는 처리가 행해지는 블록을 설치해도 된다.

촬상부(110)는, 일반적인 디지털카메라라고 불리는 카메라와 마찬가지의 기능을 가지고, 피사체를 촬상하여 컬러 화상을 생성하는 기능을 가지고 있다.

촬상부(120)는, 렌즈(121), 협대역 광전변환부(1522)를 포함하는 구성으로 되어 있다. 렌즈(121)는, 입사된 광을 협대역 광전변환부(1522)에 집광시킨다. 협대역 광전변환부(1522)는, 예를 들면, 파브리 페로 분광기를 구비하고, 소정의 파장 대역의 광을 수광하고 처리하여, A/D 변환부(123)에 출력한다. A/D 변환부(123)는, 협대역 광전변환부(1522)에서 광전 변환된 피사체의 화상의 아날로그 신호를 디지털 값으로 변환하고, 처리부(131)에 출력한다.

<광전변환부의 구성>

도 3은, 광대역 광전변환부(112)와 A/D 변환부(113)의 구성을 나타내는 도면이다. 도 3에 도시된 바와 같이, 광대역 광전변환부(112)는, 반도체 기판(예를 들면, 실리콘 기판)에 복수의 광전 변환 소자를 포함하는 화소(202)가 규칙적으로 2차원적으로 배열된 화소 영역(203)과, 주변회로 영역을 가지고 구성된다.

화소(202)는, 광전 변환 소자(예를 들면, PD(Photo Diode))와, 복수의 화소 트랜지스터(소위, MOS 트랜지스터)를 구비하여 이루어진다. 복수의 화소 트랜지스터는, 예를 들면, 전송 트랜지스터, 리셋 트랜지스터, 및 증폭 트랜지스터의 3개의 트랜지스터로 구성할 수 있고, 선택 트랜지스터를 더 추가하여 4개의 트랜지스터로 구성할 수도 있다.

또한, 화소(202)는, 화소 공유 구조로 할 수도 있다. 화소 공유 구조는, 복수의 포토다이오드, 복수의 전송 트랜지스터, 공유되는 1개의 플로팅 디퓨전, 및 공유되는 하나씩 다른 화소 트랜지스터로 구성된다. 포토다이오드는, 광전 변환 소자이다.

주변회로 영역은, 수직 구동 회로(204), 컬럼 신호처리회로(205), 수평 구동 회로(206), 출력 회로(207), 및 제어 회로(208)로 구성된다.

제어 회로(208)는, 입력 클럭이나, 동작 모드 등을 지령하는 데이터를 수취하고, 또한, 광대역 광전변환부(112)의 내부 정보 등의 데이터를 출력한다. 구체적으로는, 제어 회로(208)는, 수직 동기 신호, 수평 동기 신호, 및 마스터 클럭에 기초하여, 수직 구동 회로(204), 컬럼 신호처리회로(205), 및 수평 구동 회로(206)의 동작 기준이 되는 클럭 신호나 제어 신호를 생성한다. 그리고, 제어 회로(208)는, 이들 신호를 수직 구동 회로(204), 컬럼 신호처리회로(205), 및 수평 구동 회로(206)에 입력한다.

수직 구동 회로(204)는, 예를 들면 시프트 레지스터에 의해 구성되어, 화소 구동 배선을 선택하고, 선택된 화소 구동 배선에 화소(202)를 구동하기 위한 펄스를 공급하여, 행 단위로 화소(202)를 구동한다. 구체적으로는, 수직 구동 회로(204)는, 화소 영역(203)의 각 화소(202)를 행 단위로 순차 수직 방향으로 선택 주사하고, 수직 신호선(209)을 통해 각 화소(202)의 광전 변환 소자에서 수광량에 따라 생성한 신호 전하에 기초한 화소 신호를 컬럼 신호처리회로(205)로 공급한다.

컬럼 신호처리회로(205)는, 도 2에 나타낸 A/D 변환부(113)에 해당하고, 화소(202)의 예를 들면 열마다 배치되어 있고, 1행분의 화소(202)로부터 출력되는 신호를 화소 열마다 노이즈 제거 등의 신호 처리를 행한다. 구체적으로는, 컬럼 신호처리회로(205)는, 화소(202) 고유의 고정 패턴 노이즈를 제거하기 위한 CDS(Correlated Double Sampling), 신호 증폭, A/D(Analog/Digital) 변환 등의 신호 처리를 행한다. 컬럼 신호처리회로(205)의 출력단에는, 수평 선택 스위치(도시하지 않음)가 수평 신호선(210)과의 사이에 접속되어 설치된다.

수평 구동 회로(206)는, 예를 들면 시프트 레지스터에 의해 구성되고, 수평 주사 펄스를 순차 출력함으로써, 컬럼 신호처리회로(205)의 각각을 차례로 선택하여, 컬럼 신호처리회로(205)의 각각으로부터 화소 신호를 수평 신호선(210)에 출력시킨다.

출력 회로(207)는, 컬럼 신호처리회로(205)의 각각으로부터 수평 신호선(210)을 통해 순차로 공급되는 신호에 대하여, 신호 처리를 행하여 출력한다. 출력 회로(207)는, 예를 들면, 버퍼링만을 행하는 경우도 있고, 흑 레벨 조정, 열 편차 보정, 각종 디지털 신호처리(도 2의 클램프부(114)가 행하는 처리) 등을 행하는 경우도 있다.

입출력 단자(212)는, 외부와 신호 교환을 하기 위해 설치된다.

협대역 광전변환부(1522)와 A/D 변환부(123)의 기본적인 구성은, 광대역 광전변환부(112)와 A/D 변환부(113)의 구성과 마찬가지로서, 도 3에 도시한 구성으로 할 수 있기 때문에, 여기서는 그 설명을 생략한다. 이하의 설명에 있어서, 협대역 광전변환부(1522)와 A/D 변환부(123)에 관한 부분의 부호에는, 대시를 붙여 설명한다. 예를 들면, 협대역 광전변환부(1522)의 화소 영역(203)은, 대시를 붙여서 화소 영역(203’)이라고 기술한다.

<필터에 대하여>

광대역 광전변환부(112)와 협대역 광전변환부(1522)는, 다른 필터를 구비한다. 화소 영역(203)(203’) 상에는, 소정의 필터가 구비되고, 각 화소(202)(202’)는, 각 필터를 투과한 소정의 파장 대역의 광을 수광하도록 구성되어 있다.

광대역 광전변환부(112)의 필터는, 예를 들면, 도 4의 A에 나타낸 바와 같이, RGB의 컬러 필터로 할 수 있다. 도 4의 A는, 베이어 배열이라고 불리는 RGB의 컬러 필터의 배열을 나타내고 있다. 2×2의 4화소가, R화소, G화소, G화소, B화소에 할당된다. 또한, 2×2의 4화소가 R화소, 그 오른쪽 옆의 4화소가 G화소, R화소의 아래쪽 4화소가 G화소, 이 G화소의 오른쪽 옆의 4화소가 B화소에 할당되고 있는 경우에도, 본 기술을 적용할 수 있다.

또한, 2개의 G화소의 일방을, 투명(백) 화소로 하는 배치이어도 된다. 또한, 여기에서는, RGB를 예로 들어 설명을 계속하지만, 시안(Cy), 마젠타(Mg), 황(Ye), 백(W)의 각 색으로 이루어지는 필터 등, 다른 필터를 사용해도 된다.

또한, 컬러 필터 이외의 필터, 예를 들면, 플라스몬 필터라고 불리는 필터를 사용할 수도 있다. 어떤 필터를 사용해도 되지만, 광대역 광전변환부(112)의 필터는, 광대역의 파장 광을 수광하는(투과시키는) 필터로 된다. 광대역 광전변환부(112)를, RGB의 컬러 필터로 구성한 경우, 청(B)색으로부터 적(R)색까지의 파장 대역, 예를 들면, 400nm으로부터 700nm의 파장 대역의 광을 투과하고 처리하는 광전변환부로서 기능한다.

협대역 광전변환부(1522)는, 광대역 광전변환부(112)에서 다루는 파장 대역보다도 좁은 범위의 파장 대역을 다룬다. 협대역 광전변환부(1522)는, 소정의 범위의 파장 대역의 광을 투과시키는 필터를 구비하고 있다. 필터로서는, 예를 들면, 파브리 페로 분광기(간섭계) 등으로 불리는 필터를 사용할 수 있다. 파브리 페로 분광기를 사용한 경우, 도 4의 B에 나타낸 바와 같이, 협대역 광전변환부(1522)의 화소 영역(203’) 상에는, 전 화소를 덮도록 파브리 페로 분광기(251)가 배치된다.

도 5을 참조하여, 파브리 페로 분광기(251)에 대해 설명한다. 파브리 페로 분광기(251)는, 특정한 파장의 광을 투과하는 필터로서 사용할 수 있다. 파브리 페로 분광기(251)는, 도 4에 나타낸 바와 같이, 2장의 반투경(252)과 반투경(253)으로 구성되고, 이 2장의 반투경(252, 253)이 서로 마주보고 평행하게 되도록 배치된 광학 장치이다. 반투경(252, 253)은, 높은 반사율과 약간의 투과율을 가지는 반사면으로 마감되어 있다.

파브리 페로 분광기(251)의 일방(도면 중, 상측)로부터 입사한 광은, 양 반사면 사이를 몇 번이고 반사 왕복하여 상호 간섭한다. 반투경(253)을 투과한 광은, 일정한 광로차를 갖고 여러 회 왕복한 광에 의한, 상당한 길이가 있는 간섭 광이 된다. 따라서, 이를 분광기로서 사용하면, 매우 높은 분해능이 얻어진다.

즉, 입사해 온 광 가운데, 파브리 페로 분광기(251)에 의해 분석하고 싶은 파장이 선택되고, 그 선택된 광이, 화소(202)’에서 수광되도록 할 수 있다.

파브리 페로 분광기(251)는, 이와 같이, 반투경(252)과 반투경(253)의 사이를 광이 반사 왕복하여 간섭함으로써 소정의 파장의 광이 투과하는 구성으로 되어 있다. 투과하는 광의 파장은, 반투경(252)과 반투경(253)의 사이의 거리에 의해 설정할 수 있다. 바꾸어 말하면, 반투경(252)과 반투경(253)의 사이의 거리를 변경함으로써, 투과시키는 파장의 광을 투과시킬 수 있다.

예를 들면, 반투경(252)과 반투경(253)에 전압을 인가하고, 정전인력에 의해 반투경(252)과 반투경(253)의 사이의 거리를 조정할 수 있다. 이러한 투과시키는 광의 파장 대역을 가변시킬 수 있는 파브리 페로 분광기는, MEMS(Micro Electro Mechanical Systems) 파브리 페로 분광기 등으로 불리고 있다. 여기에서는, 투과시키는 광의 파장 대역을, 원하는 파장 대역으로 가변적으로 설정할 수 있는 MEMS 파브리 페로 분광기를, 파브리 페로 분광기(251)로 사용한 경우를 예로 들어 설명을 계속한다. 한편, 이하의 설명에서도, MEMS 파브리 페로 분광기를 단순히 파브리 페로 분광기(251)로 기재하여 설명을 계속한다.

협대역 광전변환부(1522)의 필터로서, 파브리 페로 분광기(251)를 사용한 경우, 도 4의 B에 나타낸 바와 같이, 화소 영역(203’)의 전면을 덮는 파브리 페로 분광기(251)를 배치하도록 구성해도 된다.

또한, 도 6의 A에 나타낸 바와 같이, 화소 영역(203’)을, 2×2의 4영역으로 나누고, 각각의 영역에, 파브리 페로 분광기(251-1 내지 251-4)가 배치되는 구성으로 하여도 된다. 또한, 도 6의 A에 나타낸 바와 같이, 화소 영역(203’)을 종방향으로 4영역으로 나누고, 각각의 영역에, 파브리 페로 분광기(251-1 내지 251-4)가 배치되는 구성으로 하여도 된다.

도시는 하지 않지만, 화소 영역(203’)을 횡방향으로 4영역으로 나누고, 각각의 영역에, 파브리 페로 분광기(251-1 내지 251-4)가 배치되는 구성으로 하여도 된다. 분할 수는 어떤 수라도 되고, 그 분할 수에 맞추어, 화소 영역(203’)에 복수의 파브리 페로 분광기(251)가 배치되고 있는 구성으로 할 수 있다. 또한, 화소(202)’마다 파브리 페로 분광기(251)를 설치하는 구성이어도 된다.

도 4을 참조하여 설명한 바와 같이, 파브리 페로 분광기(251)는, 2장의 반투경(252)과 반투경(253)의 사이의 거리에 의해 투과하는 광의 파장이 설정되는데, 이 2장의 반투경의 거리가 반드시 균일하다고는 할 수 없다. 예를 들면, 파브리 페로 분광기(251)의 중앙 부분은, 반투경(252)이 늘어져, 반투경(252)과 반투경(253)의 사이의 거리가, 단부의 반투경(252)과 반투경(253)의 사이의 거리보다 짧아질 가능성이 있다.

이러한 것을 막기 위해서, 반투경 1장당의 면적을 작게 하여, 중앙 부분이 늘어지지 않도록 하기 위해, 도 6을 참조하여 설명한 바와 같은 복수개의 파브리 페로 분광기(251)가 배치되도록 하여도 된다. 또한, 본 기술을 적용함으로써, 상세한 것은 후술하지만, 가령, 도 4의 B와 같이, 화소 영역(203’)에 1개의 파브리 페로 분광기(251)를 설치하였다고 하더라도, 또한, 그 파브리 페로 분광기(251)의 2장의 반투경(252)과 반투경(253)의 사이의 거리가 균일하지 않더라도 적절하게 보정하여 처리할 수 있다.

이하의 설명에서는, 도 4의 B와 같이, 화소 영역(203’)에 1개의 파브리 페로 분광기(251)가 설치되고 있는 경우를 예로 들어 설명을 계속한다.

이와 같이, 촬상부(110)는, 광대역 광전변환부(112)를 구비하고, 광대역 광전변환부(112)는, 예를 들면 컬러 필터 등의 광대역의 파장의 광을 수광하고, 처리하고, 컬러 화상을 생성한다. 이하의 설명에서는, 적절히, 촬상부(110)를 광대역 촬상부(110)라고 기술한다.

촬상부(120)는, 협대역 광전변환부(1522)를 구비하고, 협대역 광전변환부(1522)는, 예를 들면 파브리 페로 분광기(251) 등의 협대역의 파장의 광을 수광하고, 처리하고, 화상을 생성한다. 이하의 설명에서는, 적절히, 촬상부(120)를 협대역 촬상부(120)라고 기술한다.

촬상 장치(100)는, 광대역 촬상부(110)와 협대역 촬상부(120)를 구비하고 있기 때문에, 도 7에 나타내는 바와 같은 파장 대역의 광을 수광하고, 처리할 수 있다. 도 7의 A 내지 C를 참조하면, 광대역 촬상부(110)에서는, 청색(B)의 파장 대역 B의 광, 녹색(G)의 파장 대역 G의 광, 및 적색(R)의 파장 대역 R의 광을 수광하고, 처리한다.

협대역 촬상부(120)는, 수광하고 처리하고자 하는 파장 대역을 설정할 수 있기 때문에, 촬상하고자 하는 피사체나 목적에 따른 파장 대역으로 설정할 수 있다. 도 7의 A에서는, 파브리 페로 분광기(251)를 투과하는 광의 파장 대역으로서 설정되어 있는 파장 대역은, 청색보다 짧은 파장의 파장 대역 F이고, 예를 들면 보라색(자외선)의 파장 대역 F이다.

또한, 파브리 페로 분광기(251)의 파장 대역 F의 반치폭은, 컬러 필터의 파장 대역, 예를 들면 파장 대역 B의 반치폭보다 작은 폭으로 되어 있다. 즉, 이 점에서도, 파브리 페로 분광기(251)는, 협대역의 파장을 투과하는 필터라고 말할 수 있고, 원하는 파장의 광을 선택적으로 투과시킬 수 있는 필터로 되어 있다.

도 7의 A에 나타낸 바와 같이, 협대역 촬상부(120)에 의해 자외선의 파장 대역 F를 촬상하도록 한 경우, 예를 들면, 사람의 피부 해석에 적합한 파장 대역에서의 촬상을 행할 수 있다. 예를 들면, 사람의 얼굴에 있는 기미를, 협대역 촬상부(120)로 촬상하고, 그 기미를, 광대역 촬상부(110)로 촬상된 얼굴의 컬러 화상에 중첩한 화상을, 사용자에게 제공할 수 있다.

기미 등의 피부 상태를 촬상하는 경우, 자외선의 파장 대역에서 촬상한 쪽이, 가시광 영역의 파장 대역(파장 대역 R, G, B)에서 촬상하는 것보다, 보다 감도 좋게 촬상할 수 있다. 따라서, 협대역 촬상부(120)에 의해 피부 상태를 촬상함으로써, 그러한 피부 상태의 촬상 감도를 향상시킬 수 있다.

또한, 기미 등의 피부 상태의 해석뿐만 아니라, 예를 들면, 썬스크린과 같은 화장품의 바르지 않은 영역을 검출하기 위한 촬상 등에도 적용할 수 있다. 예를 들면, 본 기술을 적용한 촬상 장치(100)을 스마트폰 등에 탑재하고, 사용자의 얼굴을 촬상하여, 화장품의 바르지 않은 영역을 검출하고, 사용자에게 통지하는 것과 같은 어플리케이션을 제공할 수 있다.

또한, 협대역 촬상부(120)로 자외광을 촬상하도록 한 경우, 촬상한 화상을 해석함으로써, 외광의 자외선량을 계측하거나, 그 계측값에 따라 알람을 내거나 할 수도 있다.

도 7의 B에 나타낸 예는, 파브리 페로 분광기(251)를 투과하는 광의 파장 대역으로서 설정되고 있는 파장 대역이, 녹색의 파장 대역 G와 적색의 파장 대역 R의 사이의 파장 대역 F이며, 예를 들면 황색의 파장 대역 F이다.

도 7의 B에 나타낸 바와 같이, 협대역 촬상부(120)에 의해 황색의 파장 대역 F를 촬상하도록 한 경우, 색재현도를 향상시킬 수 있다. RGB의 컬러 필터를 구비하는 광대역 촬상부(110)로 촬상된 화상과, 파브리 페로 분광기(251)를 구비하는 협대역 촬상부(120)로 촬상된 화상을 합성함으로써, 색재현을 향상시켜, 화질을 향상시킨 화상을 얻을 수 있다.

광대역 촬상부(110)로 촬상되는 화상에서 색재현도가 떨어지는 색을, 협대역 촬상부(120)로 촬상할 수 있다. 바꾸어 말하면, 협대역 촬상부(120)로 색을 보충하도록 할 수 있다. 도 7의 B에서는, 협대역 촬상부(120)로 녹색의 파장 대역 G와 적색의 파장 대역 R의 사이의 파장 대역 F의 색을 보충하는 경우를 예로 들고 있지만, 파장 대역 F를 바꾸어 다른 색을 보충하도록 해도 된다.

광대역 촬상부(110)로 촬상되는 화상에서 색재현도가 떨어지는 색을, 협대역 촬상부(120)로 촬상하여 보충하도록 함으로써, 예를 들면, 사람의 피부 색을 보다 재현성을 향상시킬 수 있고, 인물을 보다 실물 그대로 촬상할 수 있게 된다.

또한, 피부색의 식별 능력을 활용한 인물 인식, 건강 상태의 변화 검지 등을 행하는 경우에도 적용할 수 있다. 또한, 의료용의 스마트 글라스 등에 촬상 장치(100)을 탑재하여, 진찰을 보조하고, 진단 정확도를 향상시키는 것과 같은 경우에도 적용할 수 있다. 예를 들면, 눈 주위의 검은 기미나 황달 등을 촬상하는데 적합한 파장 대역 F으로 촬상한 화상과 컬러 화상을 중첩한 화상을 의사에게 제시할 수 있다.

도 7의 C에 나타낸 바와 같이, 협대역 촬상부(120)에 의해 적외광의 파장 대역 F를 촬상하도록 한 경우, 예를 들면, 물체나 이물을 검지할 수 있다. 예를 들면, 가시광 영역에서 판별이 곤란한 같은 색의 이물체의 식별을, 협대역 촬상부(120)가 적외광의 파장 대역 F으로 촬상한 화상을 해석함으로써 행할 수 있다.

또한, 검지하는 대상으로서는, 종이나 플라스틱의 포장 내의 내용량의 상태나, 식품의 상한 정도, 식물의 건강 상태 등에도 적용할 수 있다. 또한, 촬상 장치(100)를 스마트 글라스나 스마트 홈에 사용하여, 예를 들면, 고온의 물체를 검지하여 알람을 울리는 경우 등에 사용할 수도 있다.

<촬상 장치(100)의 제1 처리>

도 8의 플로우차트를 참조하여, 촬상 장치(100)의 제1 처리에 대해서 설명한다.

스텝(S11)에 있어서, 협대역 촬상부(120)는, 파브리 페로 분광기(251)가 투과하는 광의 파장 대역을, 소정의 파장 대역(제1 파장 대역으로 적절히 기술함)으로 한 촬상을 행한다. 협대역 촬상부(120)의 촬상과 동기하여, 광대역 촬상부(110)에서도 촬상이 행해진다(스텝(S12)).

스텝(S13)에 있어서, 처리부(131)에 의해, 해석이 행해진다. 처리부(131)는, 촬상 목적에 맞는 해석을 행한다. 예를 들면, 도 7의 A를 참조하여 설명한 바와 같은 피부 상태를 해석하는 등의 경우, 피부 상태를 해석한다고 하는 목적에 맞는 해석을 행한다. 피부 상태를 해석한다고 하는 목적에 맞는 해석에는, 기미를 촬상하는데 적합한 파장 대역으로 촬상이 행해졌는지의 여부의 해석이 포함된다.

또한, 피부색의 재현도를 향상시키기 위해, 색의 보충을 행하는 것과 같은 촬상을 협대역 촬상부(120)로 행하는 경우에는, 보충하는 색이 적정한지의 여부의 해석이며, 보충하는 색의 파장 대역으로 설정되어 있는지의 여부의 해석이 포함된다.

이러한 해석을 행하는 경우, 바꾸어 말해, 최적의 파장 대역으로 설정된 상태에서의 촬상이 행해지고 있었는지의 여부의 해석(판정)을 행하는 경우에 필요하게 되는 화상이, 처리부(131)에 공급되도록 구성할 수 있다.

예를 들면, 협대역 촬상부(120)로부터의 화상만을 사용하여 해석을 행하도록 구성할 수 있다. 이러한 구성으로 한 경우, 스텝(S12)에서의 광대역 촬상부(110)에서의 촬상 처리를 생략한 처리의 흐름으로 할 수 있다.

또한 예를 들면, 광대역 촬상부(110)로부터의 화상만을 사용하여 해석을 행하도록 구성할 수 있다. 이러한 구성으로 한 경우, 스텝(S11)에서의 협대역 촬상부(120)에서의 촬상 처리를 생략한 처리의 흐름으로 할 수 있다.

또한 예를 들면, 협대역 촬상부(120)로부터의 화상과 광대역 촬상부(110)로부터의 화상을 사용하여 해석을 행하도록 구성할 수도 있다. 이러한 구성으로 한 경우, 협대역 촬상부(120)로부터의 화상과 광대역 촬상부(110)로부터의 화상을 합성하는 처리가 처리부(131)에서 행해지고, 그 합성된 화상이 사용되어 해석이 행해진다.

협대역 촬상부(120)로부터의 화상과 광대역 촬상부(110)로부터의 화상을 합성한 합성 화상을 사용하여 해석을 행할 것인지, 협대역 촬상부(120)로부터의 화상만을 사용하여 해석을 행할 것인지, 또는 광대역 촬상부(110)로부터의 화상만을 사용하여 해석을 행할 것인지는, 해석 내용에 따라, 가장 정밀도 좋게 해석할 수 있는 화상이 사용되도록 설정되어 있으면 된다.

또한, 해석 내용에 따라, 합성 화상을 사용한 해석을 행할 것인지, 협대역 촬상부(120)로부터의 화상만을 사용한 해석을 행할 것인지, 또는 광대역 촬상부(110)로부터의 화상만을 사용한 해석을 행할 것인지가, 전환되도록 해도 된다.

스텝(S13)에서의 해석 결과가 사용되어, 스텝(S14)에서의 판정이 행해진다. 스텝(S14)에서, 해석 결과는 양호한 것인지 아닌지가 판정된다.

예를 들면 피부 상태의 해석을 행하는 경우, 기미 등의 피부 상태를 촬상할 수 있는지 아닌지가 판정된다. 또한, 예를 들면, 피부색의 해석을 행하는 경우, 피부색의 재현도가 높은 상태로 촬상이 되어 있는지 아닌지가 판정된다. 이러한 판정은, 바꾸어 말하면, 적절한 파장 대역으로 촬상이 행해지고 있는지 아닌지의 판정이다.

스텝(S14)에서, 해석 결과는 양호하지 않다고 판정된 경우, 바꾸어 말하면, 적절한 파장 대역으로 촬상되어 있지는 않다고 판정된 경우, 스텝(S15)으로 처리가 진행된다.

스텝(S15)에서, 최적 파장의 정보가 취득된다. 처리부(131)는, 해석 결과는 양호하지 않다고 판정한 경우, 메모리(134)(도 2)에 기억되어 있는 데이터로부터, 최적 파장 대역에 관한 정보를 판독한다. 또는, 처리부(131)는, 통신부(135)를 제어하여, 서버(151)에 액세스하고, 서버(151)에 기억되어 있는 데이터로부터, 최적 파장 대역에 관한 정보를 판독한다.

예를 들면, 피부 상태(기미가 있는지 아닌지 등)을 촬상하는데 적합한 파장 대역이나, 피부색의 재현도를 향상시키기 위한 촬상에 적합한 파장 대역은, 인종, 연령, 성별 등에 따라 다르다. 예를 들면, 스텝(S11 내지 S13)에 있어서는, 미리 설정되어 있는 제1 파장 대역으로 촬상이 행해지고, 그 제1 파장 대역으로 촬상된 화상을 해석함으로써, 피사체의 인종, 연령, 성별 등을 특정하고, 그 특정된 정보에 기초한 최적 파장의 정보가, 판독되도록 할 수 있다.

이러한 경우, 메모리(134)이나 서버(151)에는, 피사체의 인종, 연령, 성별, 최적 파장이 관련지어진 데이터가 기억되어 있다. 이러한 데이터는, 학습에 의해 얻어지는 데이터로 하여도 되고, 갱신되도록 하여도 된다.

스텝(S15)에서, 최적 파장의 정보가 취득되면, 그 정보에 기초한 파장 대역으로, 협대역 광전변환부(1522)의 파브리 페로 분광기(251)의 파장 대역(제2 파장 대역으로 적절히 기술함)에 설정된다. 그 후, 처리는, 스텝(S11)로 돌아가, 설정된 제2 파장 대역에서의 촬상이 행해짐으로써, 스텝(S11) 이후의 처리가 반복된다.

한편, 스텝(S14)에 있어서, 해석 결과는 양호하였고 판정된 경우, 바꾸어 말하면, 최적인 파장 대역에서의 촬상이 행해졌다고 판정된 경우, 처리는, 스텝(S16)으로 진행된다.

스텝(S16)에서, 처리부(131)는, 협대역 촬상부(120)로부터의 화상과 광대역 촬상부(110)로부터의 화상을 합성하고, 화상 출력부(132)를 통해, 도시하지 않은 표시부나 기록부 등에 화상을 출력한다.

스텝(S13)에서, 합성 화상을 사용한 해석을 행하는 경우에는, 해석에도 사용한 합성 화상이 출력되도록 할 수 있다. 또한, 해석 자체는, 협대역 촬상부(120) 또는 광대역 촬상부(110)로부터의 화상만을 사용하여 행하는 경우, 합성 화상을 생성하는 처리가 실행되고 나서, 합성 화상이 출력된다.

또한, 최적인 파장 대역으로 재차 협대역 촬상부(120)로 촬상을 행하고, 그 촬상에 동기하여, 광대역 촬상부(110)로도 촬상을 행함으로써, 협대역 촬상부(120)로부터의 화상과 광대역 촬상부(110)로부터의 화상을 취득하여, 합성 화상이 생성되고 출력되도록 해도 된다.

합성 화상을 생성할 때, 해석 결과에 기초한 색보정이 행하여져, 색보정이 실시된 합성 화상이 출력되도록 해도 된다. 예를 들면, 피부색의 재현도를 향상시킬 때에는, 해석시의 정보에 기초하여, 피부색의 재현도를 향상시키기 위한 색보정이 행해지도록 해도 된다. 또한 이 색보정을 하기 위한 제어 데이터는, 메모리(134)나 서버(151)로부터, 예를 들면, 스텝(S15)에 있어서 최적 파장의 정보가 판독될 때에, 함께 판독되도록 해도 된다.

<촬상 장치(100)의 제2 처리>

도 9의 플로우차트를 참조하여, 촬상 장치(100)의 제2 처리에 대해서 설명한다.

스텝(S31)에서, 협대역 촬상부(120)는, 파브리 페로 분광기(251)가 투과하는 광의 파장 대역을, 순차 변경하여 복수회의 촬상을 행한다. 협대역 촬상부(120)의 촬상과 동기하여, 광대역 촬상부(110)에서도 복수회의 촬상이 행해진다(스텝(S32)).

스텝(S33)에서, 피사체의 추정이 행해진다. 피사체의 추정은, 협대역 촬상부(120)로부터의 화상과 광대역 촬상부(110)로부터의 화상을 합성한 합성 화상이 사용되어 행해지도록 하여도 되고, 협대역 촬상부(120)로부터의 화상 또는 광대역 촬상부(110)로부터의 화상의 어느 일방만이 사용되어 행해지도록 해도 된다.

스텝(S33)에서의 피사체의 추정 결과가 사용되어, 스텝(S34)의 판정이 행해진다. 즉, 스텝(S34)에서, 피사체를 추정할 수 있었는지 아닌지가 판정된다. 스텝(S34)에서, 피사체를 추정할 수 있었다고 판정된 경우, 스텝(S35)으로 처리가 진행된다.

스텝(S35)에서, 최적 파장의 정보가 취득된다. 스텝(S35)에서 취득되는 정보는, 추정된 피사체를 촬상하는데 적합한 파장이며, 화질을 향상시키기 위해 보간하는 색에 대응하는 파장에 관한 정보이다.

예를 들면, 촬상된 화상을 해석한 결과, 사람의 얼굴이 화상 내의 넓은 면적을 차지하고 있다고 해석된 경우, 인물의 피부색의 파장 영역의 정보가, 메모리(134) 또는 서버(151)(도 2)로부터 판독된다. 이 판독된 파장 영역의 정보와, 협대역 촬상부(120)로부터의 화상 내의 사람의 얼굴 부분의 색과, 광대역 촬상부(110)로부터의 화상의 색이 비교되어, 협대역 촬상부(120)로 촬상하는 파장 대역이 설정된다.

인물의 피부색은, 인종이나 성별 등에 따라서도 다르기 때문에, 복수의 정보가 판독된다. 그리고, 협대역 촬상부(120)에서는, 다른 파장 대역에서의 촬상이 행해지고 있기 때문에, 또한 협대역 촬상부(120)의 촬상에 동기하여 광대역 촬상부(110)에서도 복수회의 촬상이 행해지고 있기 때문에, 협대역 촬상부(120)와 광대역 촬상부(110)로부터 복수매의 화상이 얻어지고 있다.

예를 들면, 협대역 촬상부(120)로부터의 화상 내의 사람의 얼굴 부분의 색과, 광대역 촬상부(110)로부터의 화상의 색을 비교함으로써, 대략적인 피부의 색이 판정(인종이 판정)되고, 그 피부의 색을 촬상하는데 적합한 파장 대역의 정보가 선택된다.

피사체의 추정은, 클라우드 상에 있는 서버(151)로부터 데이터가 취득되어, 그 데이터가 사용되어 행해지도록 할 수 있다. 또한, 그러한 데이터는, 미리, 또는 소정의 타이밍에서, 메모리(134)에 기억시키고, 그 메모리(134)에 기억되어 있는 데이터가 사용되도록 해도 된다.

또한, 사용자에 의해 피사체가 설정되도록 해도 된다. 예를 들면, 기미를 해석하는 것과 같은 경우, 피사체는 사람(얼굴)이기 때문에, 피부 상태의 해석일 경우에는, 피사체로서 사람(얼굴)이 설정된 것으로 하여, 처리가 행해지도록 해도 된다. 또한, 피사체의 추정에 관한 처리는, AI 기능에 기초하여 행해지도록 해도 된다.

스텝(S36)에 있어서, 스텝(S35)에서의 처리로 취득된 최적 파장의 정보에 기초하여, 파브리 페로 분광기(251)의 파장 대역이 설정되고, 그 최적 파장 대역에서의 촬상이 협대역 촬상부(120)에서 행해진다. 또한, 이 촬상에 동기하여, 광대역 촬상부(110)에서도 촬상이 행해진다.

스텝(S37)에서, 최적 파장 대역으로 촬상된 협대역 촬상부(120)로부터의 화상과, 협대역 촬상부(120)의 촬상에 동기하여 촬상된 광대역 촬상부(110)로부터의 화상이 합성되어, 출력된다.

한편, 스텝(S34)에서, 피사체는 추정할 수 없었다고 판정된 경우, 스텝(S37)으로 처리가 진행되어, 합성 화상이 생성되고, 출력된다. 이 경우, 스텝(S31)과 스텝(S32)의 처리에서, 복수매의 화상이 촬상되고 있기 때문에, 복수의 합성 화상을 생성할 수 있다. 복수의 합성 화상 모두를 출력하도록 하여도 되고, 가장 잘 찍힌 것으로 판정되는 화상이 선택되어 출력되도록 해도 된다.

이와 같이, 피사체가 추정되었을 때에는, 그 피사체의 찍힘이 가장 좋게 되는 보간해야 할 색의 파장 대역으로 촬상이 행해진다.

한편, 예를 들면, 스텝(S31 내지 S36)의 처리가 복수회 반복되도록 해도 된다. 예를 들면, １회째에 스텝(S31 내지 S36)의 처리가 실행됨으로써, 피사체가 특정된다. 피사체가, 예를 들면 사람이라고 특정된 경우, 2회째의 스텝(S31 내지 S36)의 처리에 있어서는, 사람의 피부색의 파장 대역에서, 촬상하는 파장 대역을 바꾸어, 복수회의 촬상이 행해해짐으로써, 피사체의 피부의 색이 특정된다. 그리고, 특정된 피사체의 피부의 색에 최적인 파장 대역이 설정되어, 최종적인 촬상이 행해진다.

이와 같이, 복수회 처리를 반복함으로써, 피사체에 적합한 파장 대역을, 보다정밀도 좋게 설정할 수 있는 처리의 흐름으로 할 수도 있다.

제1 처리와 마찬가지로, 제2 처리에 있어서도, 합성 화상을 생성할 때, 해석 결과에 기초한 색보정이 행해지고, 색보정이 실시된 합성 화상이 출력되도록 해도 된다. 예를 들면, 피부색의 재현도를 향상시킬 때에는, 해석시의 정보에 기초하여, 피부색의 재현도를 향상시키기 위한 색보정이 행해지도록 해도 된다. 또한, 이 색보정을 하기 위한 제어 데이터는, 메모리(134)나 서버(151)로부터, 예를 들면, 스텝(S35)에서 최적 파장의 정보가 판독될 때에, 같이 판독되도록 해도 된다.

<촬상 장치(100)의 제3 처리>

도 10의 플로우차트를 참조하여, 촬상 장치(100)의 제3 처리에 대해서 설명한다.

촬상 장치(100)의 제3 처리는, 도 9의 플로우차트를 참조한 제2 처리에서, 최적 파장으로 설정한 촬상을 재차 행하는 스텝(S36)의 처리를 생략한 흐름으로 되어 있다는 점에서, 제2 처리와 다르고, 다른 점은 마찬가지이기 때문에 그 설명은 중복되므로 적절히 생략한다.

스텝(S51)에서, 협대역 촬상부(120)는, 파브리 페로 분광기(251)가 투과하는 광의 파장 대역을, 순차 변경하여 복수회의 촬상을 행한다. 협대역 촬상부(120)의 촬상과 동기하여, 광대역 촬상부(110)에서도 복수회의 촬상이 행해진다(스텝(S52)).

스텝(S53)에서, 피사체의 추정이 행해진다. 스텝(S53)에서의 피사체의 추정 결과가 사용되어, 스텝(S54)의 판정이 행해진다. 즉, 스텝(S54)에서, 피사체를 추정할 수 있었는지 아닌지가 판정된다. 스텝(S54)에서, 피사체를 추정할 수 있었다고 판정된 경우, 스텝(S55)으로 처리가 진행된다.

스텝(S55)에서, 최적 파장의 정보가 취득된다. 스텝(S55)에서 취득되는 정보는, 추정된 피사체를 촬상하는데 적합한 파장이며, 화질을 향상시키기 위해서 보간하는 색에 대응하는 파장에 관한 정보이다.

스텝(S56)에 있어서, 스텝(S55)에서의 처리로 취득된 최적 파장의 정보에 기초하여, 최적인 파장 대역에 가장 가까운 파장 대역에서 촬상된 협대역 촬상부(120)의 화상이 선택된다. 그리고 그 선택된 화상이 촬상되었을 때에, 광대역 촬상부(110)로 촬상된 화상과 합성되어, 출력된다.

한편, 스텝(S54)에서, 피사체는 추정할 수 없었다고 판정된 경우, 스텝(S56)으로 처리가 진행되어, 합성 화상이 생성되고, 출력된다. 이 경우, 스텝(S51)과 스텝(S52)의 처리에서, 복수매의 화상이 촬상되고 있기 때문에, 복수의 합성 화상을 생성할 수 있다. 복수의 합성 화상 모두를 출력하도록 하여도 되고, 가장 잘 찍힌 것으로 판정되는 화상이 선택되어 출력되도록 해도 된다.

이와 같이, 피사체가 추정되었을 때에는, 그 피사체의 찍힘이 가장 좋게 되는 보간해야 할 색의 파장 대역으로 촬상된 화상이 선택된다.

제1, 제2 처리와 마찬가지로, 제3 처리에 있어서도, 합성 화상을 생성할 때, 해석 결과에 기초한 색보정이 행해지고, 색보정이 실시된 합성 화상이 출력되도록 해도 된다. 예를 들면, 피부색의 재현도를 향상시킬 때에는, 해석시의 정보에 기초하여, 피부색의 재현도를 향상시키기 위한 색보정이 행해지도록 해도 된다. 또한 이 색보정을 하기 위한 제어 데이터는, 메모리(134)나 서버(151)로부터, 예를 들면, 스텝(S55)에서 최적 파장의 정보가 판독될 때에, 같이 판독되도록 해도 된다.

<그 밖의 처리>

상술한 촬상 장치(100)의 처리는, 협대역 촬상부(120)와 광대역 촬상부(110)는, 동기하여 촬상하고, 동기하여 촬상된 화상을 합성함으로써 합성 화상을 생성하고 있었다. 이와 같이 협대역 촬상부(120)와 광대역 촬상부(110)를 동기시켜 촬상함으로써, 도 11에 나타낸 바와 같이, 움직임이 있는 피사체라 하더라도, 위치 어긋남이 생김 없이, 합성 화상을 생성할 수 있다.

도 11의 위 도면은, 시각 T1에 있어서의 피사체와, 시각 T2에 있어서의 피사체를 나타낸다. 도 11에서는, 피사체가 사람(의 얼굴)이며, 그 사람의 얼굴(301)에 기미(302)가 있는 피사체를 촬상하는 경우를 예로 들어 설명한다. 또한, 시각 T1에서 얼굴(301)은 정면을 향한 상태이며, 시각 T2에서 얼굴(301)은 조금 목을 기울인 상태에 있는 피사체를 촬상하는 경우에 대해서 설명한다.

도 11의 가운데 도면은, 협대역 촬상부(120)로 촬상된 화상예를 나타낸다. 시각 T1에서, 협대역 촬상부(120)는, 얼굴(301)을 촬상할 수 있는 파장 대역으로 촬상을 행하고, 화상(311)을 취득한다. 이 파장 대역에서는, 기미(302)는 촬상되지 않는 것으로 한다. 시각 T2에서, 협대역 촬상부(120)는, 기미(302)를 촬상하는데 적합한 파장 대역으로 촬상을 행하여, 화상(312)을 취득한다. 화상(312)에는, 기미(302)가 촬상되고, 얼굴(301)은 촬상되고 있지 않다.

만일, 협대역 촬상부(120)에서 얻어진 화상만을 합성한 경우, 즉, 화상(311)과 화상(312)을 합성한 경우, 화상(313)이 얻어진다. 화상(313)에는, 얼굴(301)과 기미(302)가 촬상되고 있다. 화상(313)을 참조하면, 기미(302)는, 눈의 위쪽에 위치하고 있다. 실제의 기미(302)의 위치는, 도 11의 위 도면을 참조하면, 눈의 옆쪽에 위치하고 있다.

시각 T1에서부터 시각 T2에 있어서, 얼굴(301)은, 목을 기울인 상태로 이행하였기 때문에, 화상 내에서, 기미(302)의 위치도 이동하고 있다. 시각 T1에서 협대역 촬상부(120)로 촬상된 얼굴(301)에, 시각 T2에서 협대역 촬상부(120)로 촬상된 기미(302)를 합성하면, 화상(313)과 같이, 눈의 위에 기미(302)가 있는 것과 같은 합성 화상이 생성되어 버릴 가능성이 있다.

본 기술에 있어서는, 협대역 촬상부(120)와 광대역 촬상부(110)에서 동기하여 촬상이 행해지기 때문에, 도 11의 아래쪽에 나타낸 것과 같은 화상이 취득된다.

시각 T1에서, 광대역 촬상부(110)에 의해 얼굴(301)이 촬상된다. 또한, 협대역 촬상부(120)가, 기미(302)를 촬상하는데 적합한 파장 대역으로 설정되어 있었을 경우, 화상(321)으로 나타낸 바와 같이, 얼굴(301)과, 눈의 옆쪽에 기미(302)가 촬상된다. 따라서, 합성 화상으로서는, 화상(321)에 나타낸 바와 같이, 기미(302)의 위치가 올바른 위치에 있는 화상이 취득된다.

만일, 협대역 촬상부(120)가, 기미(302)를 촬상하는데 적합하지는 않은 파장 대역으로 설정되어 있었을 경우, 합성 화상으로서는, 얼굴(301)만이 촬상되어 있는 것과 같은 화상, 예를 들면, 컬러 화상이지만, 화상(311)과 같은 화상이 취득된다.

또한, 시각 T2에서도 마찬가지로, 광대역 촬상부(110)에 의해 얼굴(301)이 촬상되고, 협대역 촬상부(120)에 의해 기미(302)가 촬상된다. 시각 T2에서는, 목이 기운 상태로 되어 있기 때문에, 기미(302)의 위치는 바뀌어 있지만, 변화 후의 얼굴(301)이 광대역 촬상부(110)에 의해 촬상되고, 변화 후의 기미(302)가 협대역 촬상부(120)에 의해 촬상된다.

따라서, 화상(3522)에 나타낸 바와 같이, 얼굴(301)과, 눈의 옆쪽에 기미(302)가 촬상된 합성 화상(323)을 얻을 수 있다.

이와 같이, 협대역 촬상부(120)와 광대역 촬상부(110)를 동기시켜 촬상을 행함으로써, 피사체가 움직였다고 하더라도, 그 움직임의 영향을 저감한 촬상을 행할 수 있다.

또한, 이하와 같은 경우에도 대응할 수 있다. 협대역 촬상부(120)의 파장 대역을 순차 변경하여, 촬상을 행함으로써, 복수매의 화상이 취득된다. 이 복수매의 화상을, 합성한 합성 화상을 생성할 경우를 생각한다.

광대역 촬상부(110)에서도, 협대역 촬상부(120)의 촬상에 동기하여 복수매의 화상이 촬상된다. 이 광대역 촬상부(110)에서 촬상된 화상은, 피사체의 움직임 검출에 사용한다.

만일, 피사체의 움직임을 고려하지 않은 경우, 도 11의 가운데 도면을 참조하여 설명한 바와 같이, 피사체가 움직이더라도, 그 움직임을 무시한 상태로 합성이 행해진다. 따라서, 잘못된 위치에, 예를 들면 기미(302)가 있는 것과 같은 화상이 생성되어 버릴 가능성이 있다.

광대역 촬상부(110)에 의해 촬상된 화상을 사용하여, 피사체의 움직임을 검출하고, 그 움직임을 고려하여, 합성 화상을 생성함으로써, 잘못된 위치에 기미(302)가 있는 것과 같은 합성 화상이 생성되는 것을 막을 수 있다. 즉, 광대역 촬상부(110)에 의해 촬상된 화상을 사용하여, 피사체의 움직임을 검출하고, 그 움직임에 따라서 화상 내의 예를 들면 기미(302)의 위치를 보정하여, 합성을 행함으로써, 피사체가 움직인 경우 등에도, 잘못된 위치에 기미(302)가 있는 것과 같은 합성 화상이 생성되는 것을 막을 수 있다.

예를 들면, 협대역 촬상부(120)에 의해 시각 T1에서 촬상된 화상(311)과 시각 T2에서 촬상된 화상(312)을 합성할 때, 화상(312)의 기미(302)의 위치를, 피사체가 목을 기울인 분만큼 보정한 위치로 이동시킨 화상(312)’을 생성한다. 그리고, 이 화상(312)’과 화상(311)을 합성함으로써, 예를 들면, 화상(321)과 같은 얼굴(301)의 눈의 옆에 기미(302)가 있는 것과 같은 합성 화상을 생성할 수 있다.

이와 같이, 광대역 촬상부(110)에 의해 촬상되는 화상을 사용하여, 피사체의 움직임을 검출하고, 그 검출 결과를 사용하여, 협대역 촬상부(120)에 의해 촬상되는 화상을 보정할 수 있다. 바꾸어 말하면, 협대역 촬상부(120)로 촬상되는 프레임간의 출력 결과를, 광대역 촬상부(110)로부터의 출력 결과를 사용하여 보정할 수 있다. 즉, 본 기술에 의하면, 광대역 촬상부(110)로부터 얻어진 출력을 사용하여, 협대역 촬상부(120)의 결과에 대해, 동적 피사체 보정을 행할 수 있다.

<보정에 대하여>

상술한 실시형태에 있어서는, 협대역 촬상부(120)의 협대역 광전변환부(1522)는, 파브리 페로 분광기(251)를 구비하고, 또한 이 파브리 페로 분광기(251)는, 투과하는 광의 파장 대역을 가변할 수 있는 구성으로 되어 있는 경우를 예로 들어 설명하였다.

파브리 페로 분광기(251)는, 도 5을 참조하여 설명한 바와 같이, 2장의 반투경(252, 253)을 소정의 간격으로 병렬로 되도록 배치한 구성으로 되어 있다. 이 반투경(252)과 반투경(253)의 간격은, 균일한 것이 바람직하다. 그러나, 일반적으로, 반투경(252)과 반투경(253)의 간격은, 불균일하게 되는 경향이 있다.

불균일하면, 파브리 페로 분광기(251)를 투과하는 광의 파장 대역이 불균일해질 가능성이 있다. 본 기술에 의하면, 광대역 촬상부(110)에 의해 촬상되는 화상을 사용하여, 파브리 페로 분광기(251)의 불균일을 보정하여, 균일한 것으로 다룰 수 있게 된다.

도 12을 참조하여 설명한다. 광대역 촬상부(110)와 협대역 촬상부(120)로, 예를 들면, 단색의 벽면(401)을 촬상한다. 광대역 촬상부(110)에 의해 촬상된 화상을 화상(411)이라 한다. 또한, 협대역 촬상부(120)에 의해 촬상된 화상을 화상(412)이라 한다.

단색의 벽면(401)을 촬상함으로써, 광대역 촬상부(110)로부터 얻어지는 화상(411)은, 기본적으로 단색의 벽면(401)과 동일 색의 화상이 된다. 한편, 협대역 촬상부(120)로부터 얻어지는 화상(412)은, 파브리 페로 분광기(251)가 불균일할 경우, 예를 들면, 도 12의 화상(412)로 나타낸 바와 같이, 색얼룩이 있는 것과 같은 화상이 된다.

화상(411)을 올바른 화상으로 하여, 화상(412)이, 화상(411)과 같은 화상이 되도록, 화상(412)을 보정한다. 예를 들면, 파장별로 쉐이딩(shading) 검출을 행하고, 그 결과를 바탕으로 협대역 촬상부(120)에 의해 취득된 화상의 보정이 행해진다.

도 13의 플로우차트를 참조하여, 협대역 촬상부(120)에 의해 촬상되는 화상의 보정에 대해서 설명한다.

스텝(S71)에서, 협대역 촬상부(120)는, 파브리 페로 분광기(251)가 투과하는 광의 파장 대역을, 소정의 파장 대역으로 설정하여 촬상을 행한다. 협대역 촬상부(120)의 촬상과 동기하여, 광대역 촬상부(110)에서도 촬상이 행해진다(스텝(S72)).

스텝(S73)에서, 처리부(131)는, 협대역 촬상부(120)로 촬상된 화상(도 12의 화상(412)에 해당하는 화상)과, 광대역 촬상부(110)로 촬상된 화상(도 12의 화상(411)에 해당하는 화상)을 비교한다. 협대역 촬상부(120)로 촬상된 화상 내의 색 균일성과, 광대역 촬상부(110)로 촬상된 화상 내의 색 균일성이 비교된다.

스텝(S74)에서, 스텝(S73)에서의 비교 결과가 사용되어, 화상 내의 색 균일성이 다른지의 여부가 판정된다. 스텝(S74)에서, 화상 내의 색 균일성이 다르다고 판정되었을 경우, 스텝(S75)으로 처리가 진행된다.

스텝(S75)에서, 보정량이 산출된다. 보정량은, 광대역 촬상부(110)로 촬상된 화상(411)의 색 균일성에 맞추도록, 협대역 촬상부(120)로 촬상된 화상(412)의 색을 시프트시키는 것으로서 행해진다.

보정량이 산출되면, 스텝(S76)으로 처리가 진행된다. 스텝(S76)에서, 다시 촬상이 행해진다. 촬상은, 협대역 촬상부(120)와 광대역 촬상부(110)가 동기하여, 각각의 촬상부에서 촬상이 행해지도록 해도 된다. 또한 광대역 촬상부(110)에서는 촬상을 행하지 않고, 스텝(S72)의 처리에서 얻어진 화상이 사용되도록 해도 된다.

또한, 협대역 촬상부(120)는, 스텝(S71)의 처리 시에 설정되어 있던 파장 대역과는 다른 파장 대역으로 촬상이 행해진다. 스텝(S76)에서 협대역 촬상부(120)로 촬상이 행해짐으로써 얻어진 화상은, 스텝(S77)에서 보정된다. 이 보정은, 스텝(S75)에서 산출된 보정량을 사용한 보정이다.

스텝(S77)에서 보정한 화상이 생성되면, 처리는, 스텝(S73)으로 돌아가, 그 이후의 처리가 반복된다. 스텝(S73)에서는, 보정된 화상과, 광대역 촬상부(110)로 촬상된 화상(411)의 비교가 행해진다.

이와 같이, 협대역 촬상부(120)의 파장 대역을 변화시키면서 복수매의 화상을 촬상하고, 광대역 촬상부(110)로부터의 화상과 비교함으로써, 보정 파라미터가 설정된다.

스텝(S74)에서, 보정한 결과의 화상이, 광대역 촬상부(110)로부터의 화상과 균일성이 동등하다(소정의 범위내로 들어오는 정도라 되었다)고 판정된 경우, 스텝(S78)으로 처리가 진행된다. 스텝(S78)에서, 설정된 보정 파라미터가, 예를 들면, 메모리(134)(도 2)에 보존된다.

그 후, 협대역 촬상부(120)로 촬상된 화상은, 메모리(134)에 보존되어 있는 보정 파라미터가 사용되어 보정되고, 그 보정 후의 화상이, 상기한 각 처리에서 사용된다.

이와 같이, 촬상 장치(100)는, 광대역 촬상부(110)와 협대역 촬상부(120)를 구비하고 있기 때문에, 광대역 촬상부(110)에 의해 촬상되는 화상을 사용하여, 협대역 촬상부(120)에 의해 촬상되는 화상을 보정할 수 있다. 따라서, 파브리 페로 분광기(251)가 불균일하더라도, 보정하여, 균일한 것과 같이 취급할 수 있다.

본 기술에 의하면, 파브리 페로 분광기(251)를 사용한 협대역 촬상부(120)에 의해 촬상된 화상의 면내 균일성을 향상시킨 화상을 취득할 수 있게 된다.

<광대역 광전변환부의 다른 구성에 대하여>

상기한 광대역 광전변환부(112)는, RGB의 컬러 필터를 구비하는 구성인 경우를 예로 들어 설명하였다. 광대역 광전변환부(112)는, 컬러 필터 이외의 필터를 구비하는 구성이어도 된다. 예를 들면, 도 14에 나타낸 바와 같이, 1화소에서 3색을 각각 수광하는 구성으로 되어 있는 화소가 2차원 어레이 형상으로 배치되어 있는 구성이어도 된다.

도 14에, 광대역 광전변환부(112)의 화소 부분의 단면 구성예를 나타낸다. 광대역 광전변환부(112)의 화소 어레이부에 배치되어 있는 화소(520)는, 동일한 화소, 즉 1개의 화소 내에, 깊이 방향으로 적층한, 1개의 유기 광전변환부(539)와, 2개의 pn접합을 갖는 무기 광전변환부(PD1 및 PD2)를 가지고 구성된다. 보다 상세하게는, 광대역 광전변환부(112)의 화소(520)는, 후술하는 무기 광전변환부가 형성되는 반도체 기판(실리콘 기판)(522)을 갖고, 기판(522)의 이면(523)측에 광이 입사되는 수광면이 형성되고, 기판(522)의 표면(524)측에 소위 판독 회로 등을 포함하는 회로가 형성된다. 즉, 화소(520)에서는, 기판(522)의 이면(523)측의 수광면(525)과, 수광면(525)과는 반대측의 기판 표면(524)측에 형성된 회로 형성면(526)을 가진다. 반도체 기판(522)은, 제1 도전형, 예를 들면 n형의 반도체 기판으로 구성된다.

반도체 기판(522) 내에는, 이면(523)측으로부터 깊이 방향으로 적층되도록, 2개의 pn접합을 갖는 무기 광전변환부, 즉, 제1 포토다이오드(PD1)와 제2 포토다이오드(PD2)가 형성된다. 반도체 기판(522) 내에서는, 이면(523)측에서부터 깊이 방향을 향하여, 홀 축적층이 되는 p형 반도체 영역(528)과, 전하 축적층이 되는 n형 반도체 영역(529)과, p형 반도체영역(531)과, 전하 축적층이 되는 n형 반도체영역(532)과, p형 반도체 영역(533)이 형성된다. n형 반도체 영역(529)을 전하 축적층으로 하는 제1 포토다이오드(PD1)이 형성되고, n형 반도체영역(532)을 전하 축적층으로 하는 제2 포토다이오드(PD2)가 형성된다.

본 예에서는, 제1 포토다이오드(PD1)가 청색용이 되고, 제2 포토다이오드(PD2)가 적색용이 된다. 각각의 n형 반도체 영역(529 및 532)은, 그 일부가 기판(522)의 표면(524)에 도달하도록 연장하여 형성된다. 각각의 연장부(529a 및 532a)는, 각각의 n형 반도체 영역(529 및 532)의 서로 반대측의 단부로부터 연장된다. 또한, 홀 축적층이 되는 p형 반도체 영역(528)은, 표면측의 p형 반도체 웰 영역에 접속된다. 나아가 적어도, 제1 포토다이오드(PD1)의 n형 반도체 영역(529), 및 제2 포토다이오드(PD2)의 n형 반도체영역(532)의 각각 기판 표면(524)에 임하는 절연막과의 계면에, 홀 축적층이 되는 p형 반도체 영역이 형성된다.

한편, 제1 및 제2 포토다이오드(PD1 및 PD2)가 형성된 영역의 기판 이면의 상층에, 절연막(534)을 통해 유기 광전변환부(536)가 그 상하 양면을 상부 전극(537)과 하부 전극(538a)으로 사이에 끼워 구성된 제1 색용의 유기 광전변환부(539)가 적층된다. 본 예에서는 유기 광전변환부(536)가 녹색용이 된다. 상부 전극(537) 및 하부 전극(538a)은, 예를 들면, 산화인듐주석(ITO)막, 산화인듐아연막 등의 투명 도전막으로 형성된다.

위 예에서는, 색의 조합으로서, 유기 광전변환부(539)를 녹색, 제1 포토다이오드(PD1)를 청색, 제2 포토다이오드(PD2)를 적색으로 했지만, 그 밖의 색의 조합도 가능하다. 예를 들면, 유기 광전변환부(539)를 적색 또는 청색으로 하고, 제1 포토다이오드(PD1) 및 제2 포토다이오드(PD2)를, 그 밖의 대응하는 색으로 설정할 수 있다. 이 경우, 색에 따라 제1, 제2 포토다이오드(PD1, PD2)의 깊이 방향의 위치가 설정된다.

녹색의 파장광으로 광전 변환하는 유기 광전변환막으로서는, 예를 들면 로다민계 색소, 멜라시아닌계 색소, 퀴나크리돈 등을 포함하는 유기 광전변환 재료를 사용할 수 있다. 적색의 파장광으로 광전 변환하는 유기 광전변환막으로서는, 프탈로시아닌계 색소를 포함하는 유기 광전변환 재료를 사용할 수 있다. 청색의파장광으로 광전 변환하는 유기 광전변환막으로서는, 쿠마린계 색소, 트리스-8-히드록시퀴놀린 Al(Alq3), 멜라시아닌계 색소 등을 포함하는 유기 광전변환 재료를 사용할 수 있다.

유기 광전변환부(539)에서는, 절연막(534) 상에, 2분할된 투명한 하부 전극(538a 및 538b)이 형성되고, 양쪽 하부 전극(538a 및 538b) 사이를 절연 분리하기 위한 절연막(541)이 형성된다. 그리고, 일방의 하부 전극(538a) 상에 유기 광전변환부(536)와 그 위의 투명한 상부 전극(537)이 형성된다. 패터닝된 상부 전극(537)과 유기 광전변환부(536)의 단면, 에칭에 의해 패터닝된 단면을 보호하는 절연막(542)이 형성되고, 그 상태에서, 별도의 도전막에 의한 컨택트 메탈층(543)을 통해 상부 전극(537)이 타방의 하부 전극(538b)에 접속된다.

보호용 절연막을 형성함으로써, 유기 광전변환막의 단면이 보호되어, 유기 광전변환막과 전극과의 접촉을 억제할 수 있다. 상부 전극(537)은 일함수를 고려하여 전극 재료가 선정되므로, 유기 광전변환막의 단면, 즉 측벽에서 다른 전극 재료가 접촉하면 유기 광전변환막 측벽에서의 암전류의 발생 가능성이 있다. 또한, 유기 광전변환부(536)과 상부 전극(537)은, 일관되게 성막되므로, 깨끗한 계면이 형성된다. 그러나, 드라이 에칭 등으로 패터닝한 후의 유기 광전변환부(536)의 측벽은 깨끗한 면이 아니고, 나아가 다른 전극 재료가 접촉하면, 계면이 나빠져 암전류가 증가할 가능성이 있다.

1개의 화소(520) 내에 있어서의 반도체 기판(522)에는, 반도체 기판(522)을 관통하는 1쌍의 도전성 플러그(545 및 546)가 형성된다. 유기 광전변환부(539)의 하부 전극(538a)는, 일방의 도전성 플러그(545)에 접속되고, 상부 전극(537)에 접속한 하부 전극(538b)은, 타방의 도전성 플러그(546)에 접속된다. 도전성 플러그(545)는 하부 전극에 대해 1개 존재하면 되기 때문에, 화소마다 상부 전극을 분리하지 않으면, 화소 영역 전체에서 적어도 하나의 도전성 플러그가 존재하면 된다.

도전성 플러그(545 및 546)로서는, 예를 들면, Si과의 단락을 억제하기 위해서, SiO2 또는, SiN 절연층을 주변에 갖는 W플러그, 또는, 이온 주입에 의한 반도체층 등에 의해 형성할 수 있다. 본 예에서는 신호 전하를 전자로 하고 있으므로, 도전성 플러그(545)는, 이온 주입에 의한 반도체층으로 형성할 경우, n형 반도체층이 된다. 상부 전극은 홀을 추출하므로 p형이 바람직하다.

본 예에서는, 유기 광전변환부(536)에서 광전 변환된 전자 홀 쌍 중, 신호 전하가 되는 전자를 상부 전극(537) 및 도전성 플러그를 통해 축적하기 위해, 기판(522)의 표면 측에 전하 축적용의 n형 영역(547)이 형성된다.

반도체 기판(522)의 이면(523) 상의 절연막(534)으로서는, 부(負)의 고정 전하를 가지는 막을 사용하는 것이 바람직하다. 부의 고정 전하를 가지는 막으로서는, 예를 들면, 하프늄 산화막을 사용할 수 있다. 즉, 이 절연막(534)은, 이면(523)으로부터 차례로 실리콘 산화막, 하프늄 산화막 및 실리콘 산화막을 성막한 3층 구조로 형성한다. 하프늄 산화막은, 부의 고정 전하를 가지고 있으므로, p형 반도체 영역(실리콘)(528)의 실리콘과 절연막(534)의 계면의 홀 축적 상태가 강화되기 때문에, 암전류의 발생을 억제하는 면에서 유리하다.

기판(522)의 표면측의 회로 형성면(526)에서는, 유기 광전변환부(536), 제1 포토다이오드(PD1), 제2 포토다이오드(PD2)의 각각에 대응하는 복수의 화소 트랜지스터가 형성된다. 복수의 화소 트랜지스터로서는, 4 트랜지스터 구성, 3 트랜지스터 구성을 적용할 수 있다. 또한, 전술한 화소 트랜지스터를 공유한 구성도 적용할 수 있다. 유기 광전변환부(536)에서는, 전하 축적용의 n형 반도체 영역(547)이, 플로팅 디퓨전부가 되는 n형 반도체 영역(548)과, 전송 게이트 전극(549)을 가진 전송 트랜지스터(Tr511)에 접속된다. 제1 포토다이오드(PD1)에서는, 전하 축적층이 되는 n형 반도체 영역(529)의 연장부(529a)가, 플로팅 디퓨전부가 되는 n형 반도체 영역(551)과, 전송 게이트 전극(552)을 가진 전송 트랜지스터(Tr512)에 접속된다. 제2 포토다이오드(PD2)에서는, 전하 축적층이 되는 n형 반도체영역(532)의 연장부(532a)가, 플로팅 디퓨전부가 되는 n형 반도체 영역(553)과, 전송 게이트 전극(554)을 가진 전송 트랜지스터(Tr513)에 접속된다.

그리고, 적어도, 제1 및 제2 포토다이오드(PD1 및 PD2)를 구성하는 n형 반도체 영역(529a 내지 532a)의 기판 표면(524)에 임하는, 절연막과의 계면에 홀 축적층이 되는 p형 반도체 영역(550)이 형성된다. 홀 축적층이 되는 p형 반도체 영역(550)이 p형 반도체 영역(533)과 절연막의 계면을 포함하여 형성된다. 또한, 유기 광전변환부(536)에 있어서의 전하 축적용의 n형 반도체 영역(547)의 기판 표면(524)에 임하는, 절연막과의 계면에 홀 축적층이 되는 p형 반도체 영역(550)이 형성된다. 상기 전송 트랜지스터(Tr511∼Tr513)를 포함하는 화소 트랜지스터는, 기판 표면측의 p형 반도체 웰 영역에 형성된다.

한편, 도시하지 않지만, 반도체 기판(522)의 표면측에서는, 화소부의 화소 트랜지스터가 형성됨과 함께, 주변 회로부에 있어서, 로직 회로 등의 주변 회로가 형성된다.

반도체 기판(522)의 표면 상에는, 층간 절연막(556)을 통해 복수층의 배선(557)을 배치한 다층 배선층(558)이 형성된다. 이 다층 배선층(558)에 지지 기판(59)이 접합된다.

반도체 기판(522)의 이면측, 보다 상세하게는, 유기 광전변환부(539)의 상부 전극(537)의 면이 수광면(525)이 된다. 그리고, 유기 광전변환부(539) 상에 평탄화막(561)을 통해, 온 칩 렌즈(562)가 형성된다. 본 예에서는 컬러 필터가 형성되지 않는다.

이러한, 컬러 필터가 형성되어 있지 않은 화소(520)를, 광대역 촬상부(110)의 화소로서 사용하는 것도 가능하다.

또한, 광대역 촬상부(110)에, 컬러 파일 대신에, 도 15에 도시한 색 배치를 갖는 필터를 사용해도 된다. 또한 이 필터로서, 플라스몬 공명을 사용한 광학 제어를 행하는 플라스몬 필터로 불리는 필터를 사용할 수 있다. 도 15는, 멀티스펙트럼 화소에 G화소를 더한 구성예를 나타내는 도면이다. 도 15에 있어서, “G”라는 기재는, G화소를 나타내고, “MS”라는 기재는, MS화소를 나타낸다. G화소는, 컬러 필터층의 색이 녹색(Green)으로 되어 있는 화소다. MS화소는, 멀티스펙트럼 화소로서, 소정의 주파수 대역의 광(소정의 색)을 수광하는 화소이다.

도 15에서는, 화소 영역(203)의 4×4의 16화소를 도시하고 있고, 이러한 배열의 화소군이, 화소 영역(203)에 반복하여 배열되어 있다. 도 15에 나타낸 16화소를 구별하기 위해서, 각각 숫자를 붙이고 있다. 예를 들면, 16화소 가운데, 좌상에 배치되어 있는 화소는 G1 화소이며, 그 우측에 배열되어 있는 것이 MS1 화소이다.

도 15에 나타낸 색 배치에 있어서는, G화소와 MS화소가 동수로 배치되고 있는 예를 제시하고 있다. 즉, 16화소 중, G1 내지 G8이 G화소이며, MS1 내지 MS8이 MS화소로 되어 있다. 또한, G화소와 MS화소는 횡방향 및 종방향의 각각에서 교대로 배치되고 있다.

한편 여기에서는, G화소와 MS화소가 교대로 배치되고 있는 예를 들어 설명을 계속하지만, 다른 배치이어도 된다. 예를 들면, 2개의 G화소와 2개의 MS화소가 교대로 배치되거나, 1개의 G화소와 2개의 MS화소가 교대로 배치되는 등의 색 배치이어도 된다.

G화소는, 녹색으로 되는 광, 예를 들면, 500 내지 550nm의 주파수 대역의 광을 수광하는 화소이다. 도 15에 있어서, G1 내지 G8화소는, 각각, 이 주파수 대역의 광을 수광하는 화소로 되어 있다.

MS화소는, 추출 대상으로 된 주파수 대역의 광을 수광하는 화소이다. 도 15에 있어서, MS1 내지 MS8화소는, 각각 다른 주파수 대역의 광을 수광한다. 즉 이 경우, MS1 내지 MS8화소에 의해, 8개의 주파수 대역의 광을 다룰 수 있는 센서로 되어 있다.

한편, 여기에서는, MS1 내지 MS8화소는, 모두 다른 주파수 대역의 광을 수광하는 것으로 하여 설명을 계속하지만, 동일한 주파수 대역의 광을 수광하는 화소로 하여도 된다. 다루는 주파수 대역의 수에 의존하여, 예를 들면, 4개의 주파수 대역을 다루는 경우, 예를 들면, MS1화소와 MS2화소는 제1 주파수 대역의 광을 수광하는 화소로 되고, MS3화소와 MS4화소는 제2 주파수 대역의 광을 수광하는 화소로 되고, MS5화소와 MS6화소는 제3 주파수 대역의 광을 수광하는 화소로 되고, MS7화소와 MS8화소는 제4 주파수 대역의 광을 수광하는 화소로 하는 등의 구성으로 하는 것도 가능하다.

MS1 내지 MS8화소는, 모두 다른 주파수 대역의 광을 수광하는 것으로 하여, MS1 내지 MS8화소를 구성한 경우, MS1 내지 MS8화소로부터는, 예를 들면, 도 16에 나타내는 바와 같은 신호가 얻어진다.

MS1화소는, 주파수 대역 M1의 광을 수광한다. 마찬가지로, MS2화소는 주파수 대역 M2의 광을 수광하고, MS3화소는 주파수 대역 M3의 광을 수광하고, MS4화소는 주파수 대역 M4의 광을 수광하고, MS5화소는 주파수 대역 M5의 광을 수광하고, MS6화소는 주파수 대역 M6의 광을 수광하고, MS7화소는 주파수 대역 M7의 광을 수광하고, MS8화소는 주파수 대역 M8의 광을 수광한다.

이와 같이, MS1 내지 MS8화소를, 각각 다른 주파수 대역 M1 내지 M8의 광을 수광하는 화소로 할 수 있다. 또한, G1 내지 G8화소로부터는, 각각 녹색의 주파수 대역 G의 광을 수광하는 화소로 할 수 있다.

따라서, 이러한 구성 1의 경우, 도 15에 나타낸 16화소에 의해, G화소로부터 녹색의 정보가 취득되고, MS1화소로부터 주파수 대역 M1의 색 M1의 정보가 취득되고, MS2화소로부터 , 주파수 대역 M2의 색 M2의 정보가 취득되고, MS3화소로부터 주파수 대역 M3의 색 M3의 정보가 취득되고, MS4화소로부터 주파수 대역 M4의 색 M4의 정보가 취득되고, MS5화소로부터 주파수 대역 M5의 색 M5의 정보가 취득되고, MS6화소로부터 주파수 대역 M6의 색 M6의 정보가 취득되고, MS7화소로부터 주파수 대역 M7의 색 M7의 정보가 취득되고, MS8화소로부터 주파수 대역 M8의 색 M8의 정보가 취득된다.

광대역 광전변환부(112)의 필터로서, 도 15, 도 16을 참조해서 설명한 플라스몬 필터를 사용하여, 멀티스펙트럼 센서가 구성되고, 멀티스펙트럼의 화상이 촬상되도록 한 경우에도, 본 기술을 적용할 수 있다.

한편, 플라스몬 필터 이외의 필터를 사용하여, 멀티스펙트럼 센서를 실현하여도 되고, 예를 들면, 컬러 필터를, 다색으로 함으로써 실현하는 것도 가능하다. 또한, 가시광 영역뿐 아니라, 자외선 영역이나 적외선 영역 등의 광을 다루는 화소가 포함되어 있어도 된다.

<AR, VR 등에의 적용예>

본 기술을 적용한 촬상 장치(100)는, AR(Augmented Reality), VR(Virtual Reality), MR(Mixed Reality) 등을 제공하는 장치에 적용할 수 있다. 여기에서는, AR을 제공하는 장치에 대하여, 촬상 장치(100)를 적용한 경우를 예로 들어 설명한다.

도 17은, AR을 제공하는 AR-HMD(701)를 포함하는 정보처리시스템의 구성예를 나타내는 도면이다. 도 17의 정보처리시스템은, AR-HMD(701)와 정보처리장치(702)가, LAN(Local Area Network)이나 인터넷 등의 네트워크(703)를 통해 접속됨으로써 구성된다.

도 17에 나타낸 바와 같이, AR-HMD(701)는, 투과형의 표시부를 구비한 안경형의 웨어러블 단말이다. AR-HMD(701)는, 네트워크(703)를 통해 행해지는 정보처리장치(702)에 의한 제어에 따라, 캐릭터 등의 각종 오브젝트를 포함하는 영상을 표시부에 표시한다. 사용자는, 자신의 전방의 풍경에 겹쳐 오브젝트를 보게 된다.

오브젝트를 포함하는 영상의 투영 방식은, 허상 투영 방식이어도 되고, 사용자의 눈의 망막에 직접 결상시키는 망막 투영 방식이어도 된다.

정보처리장치(702)는, AR 컨텐츠를 재생하고, 재생하여 얻어진 영상 데이터를 AR-HMD(701)에 송신함으로써, AR 컨텐츠의 영상을 AR-HMD(701)에서 표시시킨다. 정보처리장치(702)는, 예를 들면 PC(Personal Computer)에 의해 구성된다. 또한 정보처리장치(702)는, 서버(151)(도 2)이어도 되고, 예를 들면, 피사체의 추정에 관한 정보나, 피사체에 맞는 파장 대역의 정보를 AR-HMD(701)에 공급하도록 구성해도 된다.

AR-HMD(701) 대신에, 도 18의 A에 도시한 비디오 투과형의 HMD인 AR-HMD(701A)이나, 도 18의 B에 도시한 스마트폰(701B) 등의 휴대 단말이, AR 컨텐츠의 표시 디바이스로서 사용되도록 해도 된다.

표시 디바이스로서 AR-HMD(701A)가 사용되는 경우, 정보처리장치(702)가 재생하는 AR 컨텐츠의 영상은, AR-HMD(701A)에 설치된 카메라에 의해 촬영된, AR-HMD(701A)의 전방의 풍경 화상에 겹쳐서 표시된다. AR-HMD(701A)를 장착한 사용자의 눈의 전방에는, 카메라에 의해 촬영된 화상에 겹쳐서 AR 컨텐츠를 표시하는 디스플레이가 설치되어 있다.

또한, 스마트폰(701B)이 사용되는 경우, 정보처리장치(702)가 재생하는 AR 컨텐츠의 영상은, 스마트폰(701B)의 배면에 설치된 카메라에 의해 촬영된, 스마트폰(701B)의 전방의 풍경 화상에 겹쳐서 표시된다. 스마트폰(701B)의 정면에는, 각종 화상을 표시하는 디스플레이가 설치되어 있다.

AR-HMD(701), AR-HMD(701A), 스마트폰(701B)에 구비되어 있는 카메라에, 상술한 촬상 장치(100)를 적용할 수 있다.

실제의 씬(scene)에 존재하는 물체의 표면에 영상을 투영하는 프로젝터가 AR 컨텐츠의 표시 디바이스로서 사용되도록 해도 된다. 태블릿 단말, 텔레비전 수상기 등의 각종 디바이스를 AR 컨텐츠의 표시 디바이스로서 사용하는 것이 가능하다.

표시 디바이스와 정보처리장치(702)가 네트워크(703)를 통해 무선으로 접속되는 것이 아니라, 유선으로 접속되도록 해도 된다.

이하의 설명에 있어서는, 도 19에 나타낸 바와 같이, 본 기술을 적용한 정보처리장치로서, 안경형의 형상을 갖는 웨어러블 단말을 예로 들어 설명한다.

도 19에 나타낸 AR-HMD(701)는, 전체적으로 안경형의 형상을 취하고, 표시부(711) 및 카메라(712)를 구비하고 있다. 표시부(711)는, 안경의 렌즈 부분에 대응하고, 예를 들면 그 전부가 투과형의 디스플레이로서 구성된다. 따라서, 표시부(711)는, 사용자가 직접 시인하고 있는 실세계의 상(실제 오브젝트)에, 애노테이션(annotation; 가상 오브젝트)을 투과적으로 중첩 표시한다.

카메라(712)는, AR-HMD(701)를 장착하는 사용자의 좌안에 대응하는 표시부(711)의 단부에 설치되고, 그 사용자의 시야에 포함되는 실 공간의 상을 촬상한다. 이 카메라(712)에, 촬상 장치(100)(도 2)를 적용할 수 있다.

표시부(711)에는, 카메라(712)에 의해 취득된 화상을 표시시킴과 함께, 그 화상에 대해 애노테이션을 중첩 표시시키도록 할 수도 있다. 또한, 도시는 하지 않지만, AR-HMD(701)에 있어서 안경의 프레임에 대응하는 하우징에는, 각종 센서류나 버튼, 스피커 등이 수납 또는 탑재되고 있다.

한편, AR-HMD(701)의 형상은, 도 19에 도시한 형상에 한하지 않고, 모자 형상, 사용자의 두부를 일주해서 고정되는 벨트 형상, 사용자의 두부 전체를 덮는 헬멧 형상 등, 다양한 형상을 취할 수 있다. 즉, 본 개시에 관한 기술은, HMD 전반에 적용할 수 있다.

도 20은, AR-HMD(701)의 구성예를 나타내는 블록도이다. 도 20의 AR-HMD(701)는, CPU(Central Processor Unit)(731), 메모리(732), 센서부(733), 입력부(734), 출력부(735), 및 통신부(736)를 구비하고 있다. 이들은, 버스(737)를 통해 서로 접속되고 있다.

CPU(731)는, 메모리(732)에 기억되어 있는 프로그램이나 데이터 등에 따라, AR-HMD(701)가 구비하는 각종 기능을 실현하기 위한 처리를 실행한다. 메모리(732)는, 반도체 메모리 또는 하드디스크 등의 기억 매체에 의해 구성되고, CPU(731)에 의한 처리를 위한 프로그램이나 데이터를 저장한다.

센서부(733)는, 도 19의 카메라(712)를 비롯하여, 마이크로폰, 자이로센서, 가속도센서 등의 각종 센서류로 구성된다. 센서부(733)에 의해 취득된 각종 센서 정보도 또한, CPU(731)에 의한 처리에 사용된다. 입력부(734)는, 버튼이나 키, 터치 패널 등으로 구성된다. 출력부(735)는, 도 19의 표시부(711)나 스피커 등으로 구성된다. 통신부(736)는, 각종 통신을 중개하는 통신 인터페이스로서 구성된다.

이러한 AR-HMD(701)를 사용하여, 예를 들면, 도 21에 나타낸 바와 같이, 사용자가 가상 공간에 표시되고 있는 정보(751)를 터치하는 듯한 제스처를 한 경우, 그 정보에 관한 정보가 표시된다.

예를 들면, 가상 공간에 표시되어 있는 정보(751)가 나무인 경우, 이 나무의 상태를 해석하는데 적합한 파장 대역으로, 협대역 촬상부(120)의 파브리 페로 분광기(251)가 설정되어, 촬상이 행해지고, 그 촬상에 의해 얻어진 화상이나, 화상을 해석함으로써 얻어진 정보가, 사용자에게 제시된다.

이 가상 공간에 표시되는 정보(751)는, AR 컨텐츠로서 제공되는 정보이어도 되고, 카메라(712)로 촬상되고 있는 현실 사회의 물체이어도 된다. 예를 들면, 상기 정보(751)로서의 나무는, 현실 사회에 자라고 있는 나무이고, 카메라(712)로 촬상되고 있는 나무이어도 된다.

또한, 정보(751)에 터치하는 것과 같은 제스처 이외에, 예를 들면, 사용자가 향하고 있는 방향, 시선이 향하고 있는 방향, 머리가 향하고 있는 방향 등이 센서부(733)에 의해 검지되도록 해도 된다. 즉, 정보(751)에 터치한다고 하는 직접적인 지시를 나타내는 제스처 이외의 사용자의 동작도, 지시를 내리는 제스처의 일부에 포함되고, 그러한 제스처(사용자의 동작)가 검출되도록 해도 된다.

또한, 사용자의 동작을 검출하고, 그 검출에 맞는 처리, 예를 들면, 사용자의 시선 방향에 있는 물체의 정보를 취득하는 처리가 실행되도록 할 수 있다.

AR-HMD(701)를, 사람의 피부 상태를 해석하거나, 의료용의 장치로서 사용하여, 환자의 환부를 촬상하거나, 소정의 물체를 검출하거나 하는데도 적용할 수 있다. 또한, 그러한 해석을 행하기 위해 필요한 정보, 예를 들면, 적절한 파장 대역의 정보 등을, 클라우드 상에 있는 서버 등으로부터 취득하도록 할 수 있다.

또한, 해석도, 클라우드 상에 있는 서버에 행하게 하고, 그 해석 결과를, AR-HMD(701)에서 수신하여, 사용자에게 제시하는 등의 구성으로 할 수도 있다. 즉, 상기 해석은, 촬상 장치(100) 이외의 전자기기(전자기기가 구비하는 데이터 해석부)에 의해 행하게 하는 구성으로 하는 것도 가능하고, 그러한 전자기기를 개재하여 해석을 행하도록 구성하는 것도 가능하다.

<기록 매체에 대하여>

상술한 일련의 처리는, 하드웨어에 의해 실행할 수도 있고, 소프트웨어에 의해 실행할 수도 있다. 일련의 처리를 소프트웨어에 의해 실행할 경우에는, 그 소프트웨어를 구성하는 프로그램이, 컴퓨터에 인스톨된다. 여기에서, 컴퓨터에는, 전용의 하드웨어에 내장된 컴퓨터나, 각종 프로그램을 인스톨함으로써 각종 기능을 실행하는 것이 가능한, 예를 들면 범용의 컴퓨터 등이 포함된다.

도 22는, 상술한 일련의 처리를 프로그램에 의해 실행하는 컴퓨터 하드웨어의 구성예를 나타내는 블록도이다. 컴퓨터에 있어서, CPU(Central Processing Unit)(1001), ROM(Read Only Memory)(1002), RAM(Random Access Memory)(1003)은, 버스(1004)에 의해 서로 접속되어 있다. 버스(1004)에는, 입출력 인터페이스(1005)가 더 접속되어 있다. 입출력 인터페이스(1005)에는, 입력부(1006), 출력부(1007), 기억부(1008), 통신부(1009), 및 드라이브(1010)가 접속되고 있다.

입력부(1006)는, 키보드, 마우스, 마이크로폰 등으로 이루어진다. 출력부(1007)는, 디스플레이, 스피커 등으로 이루어진다. 기억부(1008)는, 하드 디스크나 불휘발성 메모리 등으로 이루어진다. 통신부(1009)는, 네트워크 인터페이스 등으로 이루어진다. 드라이브(1010)는, 자기 디스크, 광 디스크, 광자기 디스크, 또는 반도체 메모리 등의 리무버블 미디어(1011)를 구동한다.

이상과 같이 구성되는 컴퓨터에서는, CPU(1001)가, 예를 들면, 기억부(1008)에 기억되어 있는 프로그램을, 입출력 인터페이스(1005) 및 버스(1004)를 통해, RAM(1003)에 로드하여 실행함으로써, 상술한 일련의 처리가 행해진다.

컴퓨터(CPU(1001))가 실행하는 프로그램은, 예를 들면, 패키지 미디어 등으로서의 리무버블 미디어(1011)에 기록하여 제공할 수 있다. 또한, 프로그램은, 로컬 에리어 네트워크, 인터넷, 디지털 위성 방송과 같은, 유선 또는 무선의 전송 매체를 통해서 제공할 수 있다.

컴퓨터에서는, 프로그램은, 리무버블 미디어(1011)를 드라이브(1010)에 장착함으로써, 입출력 인터페이스(1005)를 통해, 기억부(1008)에 인스톨할 수 있다. 또한, 프로그램은, 유선 또는 무선의 전송 매체를 통하여, 통신부(1009)에서 수신하여, 기억부(1008)에 인스톨할 수 있다. 그 밖에, 프로그램은, ROM(1002)이나 기억부(1008)에, 미리 인스톨해 둘 수 있다.

한편, 컴퓨터가 실행하는 프로그램은, 본 명세서에서 설명하는 순서에 따라 시계열로 처리가 행해지는 프로그램이어도 되고, 병렬로, 혹은 호출이 행하여졌을 때 등의 필요한 타이밍에서 처리가 행해지는 프로그램이어도 된다.

< 내시경 수술 시스템에의 응용예 >

본 개시에 따른 기술(본 기술)은, 다양한 제품에 응용할 수 있다. 예를 들어, 본 개시에 관한 기술은 내시경 수술 시스템에 적용하여도 된다.

도 23은 본 개시에 따른 기술(본 기술)이 적용될 수 있는 내시경 수술 시스템의 개략적인 구성의 일례를 나타내는 도면이다.

도 23에서는, 시술자(의사)(11131)가, 내시경 수술 시스템(11000)을 이용하여, 환자 침대(11133) 상의 환자(11132)에게 수술을 행하고 있는 모습이 도시되어 있다. 도시한 것처럼, 내시경 수술 시스템(11000)은, 내시경(11100)과, 기복 튜브(11111)나 에너지 처치구(11112) 등의 그 밖의 시술구(11110)와, 내시경(11100)을 지지하는 지지 암 장치(11120)와, 내시경을 이용한 수술을 위한 각종의 장치가 탑재된 카트(11200)로 구성된다.

내시경(11100)은, 선단으로부터 소정 길이의 영역이 환자(11132)의 체강 내로 삽입되는 경통(11101)과, 경통(11101)의 기단에 접속되는 카메라 헤드(11102)로 구성된다. 도시하는 예에서는, 경성의 경통(11101)을 갖는 이른바 경성경으로서 구성되는 내시경(11100)을 도시하고 있지만, 내시경(11100)은, 연성의 경통을 갖는 이른바 연성경으로서 구성되어도 된다.

경통(11101)의 선단에는, 대물 렌즈가 끼워진 개구부가 설치되어 있다. 내시경(11100)에는 광원 장치(11203)가 접속되어 있고, 해당 광원 장치(11203)에 의해 생성된 광이, 경통(11101)의 내부로 연장 설치되는 라이트 가이드에 의해 해당 경통의 선단까지 도광되고, 대물 렌즈를 통해 환자(11132)의 체강 내의 관찰 대상을 향해 조사된다. 또한, 내시경(11100)은, 직시경이어도 되고, 사시경 또는 측시경이어도 된다.

카메라 헤드(11102)의 내부에는 광학계 및 촬상 소자가 설치되어 있으며, 관찰 대상으로부터의 반사광(관찰광)은 해당 광학계에 의해 해당 촬상 소자에 집광된다. 해당 촬상 소자에 의해 관찰광이 광전 변환되어, 관찰광에 대응하는 전기 신호, 즉 관찰상에 대응하는 화상 신호가 생성된다. 해당 화상 신호는, RAW 데이터로서 카메라 컨트롤 유닛(CCU： Camera Control Unit)(11201)에 송신된다.

CCU(11201)는, CPU(Central Processing Unit)나 GPU(Graphics Processing Unit) 등에 의해 구성되며, 내시경(11100) 및 표시 장치(11202)의 동작을 총괄적으로 제어한다. 또한, CCU(11201)는, 카메라 헤드(11102)로부터 화상 신호를 수취하고, 그 화상 신호에 대해, 예를 들면 현상 처리(디모자이크 처리) 등의, 해당 화상 신호에 기초하는 화상을 표시하기 위한 각종의 화상 처리를 실시한다.

표시 장치(11202)는, CCU(11201)로부터의 제어에 의해, 해당 CCU(11201)에 의해 화상 처리가 실시된 화상 신호에 기초하는 화상을 표시한다.

광원 장치(11203)는, 예를 들면 LED(Light Emitting Diode) 등의 광원으로 구성되고, 시술부 등을 촬상할 때의 조사광을 내시경(11100)에 공급한다.

입력장치(11204)는, 내시경 수술 시스템(11000)에 대한 입력 인터페이스이다. 유저는, 입력장치(11204)를 통해, 내시경 수술 시스템(11000)에 대해 각종의 정보의 입력이나 지시 입력을 행할 수 있다. 예를 들면, 유저는, 내시경(11100)에 의한 촬상 조건(조사광의 종류, 배율 및 초점 거리 등)을 변경하는 취지의 지시 등을 입력한다.

처치구 제어 장치(11205)는, 조직의 소작, 절개 또는 혈관의 봉지 등을 위한 에너지 처치구(11112)의 구동을 제어한다. 기복 장치(11206)는, 내시경(11100)에 의한 시야의 확보 및 시술자의 작업 공간의 확보의 목적으로, 환자(11132)의 체강을 부풀어 오르게 하기 위해, 기복 튜브(11111)를 통해 해당 체강 내로 가스를 보낸다. 레코더(11207)는, 수술에 관한 각종의 정보를 기록 가능한 장치이다. 프린터(11208)는, 수술에 관한 각종의 정보를, 텍스트, 화상 또는 그래프 등 각종의 형식으로 인쇄 가능한 장치이다.

또한, 내시경(11100)에 시술부를 촬상할 때의 조사광을 공급하는 광원 장치(11203)는, 예를 들면 LED, 레이저 광원 또는 이들의 조합에 의해 구성되는 백색 광원으로 구성할 수 있다. RGB 레이저 광원의 조합에 의해 백색 광원이 구성되는 경우에는, 각 색(각 파장)의 출력 강도 및 출력 타이밍을 고정밀도로 제어할 수 있기 때문에, 광원 장치(11203)에 있어서 촬상 화상의 화이트 밸런스의 조정을 행할 수 있다. 또한, 이 경우에는, RGB 레이저 광원 각각으로부터의 레이저광을 시분할로 관찰 대상에 조사하고, 그 조사 타이밍에 동기하여 카메라 헤드(11102)의 촬상 소자의 구동을 제어함으로써, RGB 각각에 대응한 화상을 시분할로 촬상하는 것도 가능하다. 해당 방법에 따르면, 해당 촬상 소자에 컬러 필터를 설치하지 않아도, 컬러 화상을 얻을 수 있다.

또한, 광원 장치(11203)는, 출력하는 광의 강도를 소정의 시간마다 변경하도록 그 구동이 제어되어도 된다. 그 광의 강도의 변경의 타이밍에 동기하여 카메라 헤드(11102)의 촬상 소자의 구동을 제어하여 시분할로 화상을 취득하고, 그 화상을 합성함으로써, 이른바 흑색 결함 및 노출 과다가 없는 고다이나믹 레인지의 화상을 생성할 수 있다.

또한, 광원 장치(11203)는, 특수광 관찰에 대응한 소정의 파장 대역의 광을 공급할 수 있게 구성되어도 된다. 특수광 관찰에서는, 예를 들면, 체조직에 있어서의 광의 흡수의 파장 의존성을 이용하여, 통상의 관찰 시에 있어서의 조사광(즉, 백색광)에 비해 협대역의 광을 조사함으로써, 점막 표층의 혈관 등의 소정의 조직을 높은 콘트라스트로 촬상하는, 이른바 협대역 광관찰(Narrow Band Imaging)이 이루어진다. 또는, 특수광 관찰에서는, 여기광을 조사함으로써 발생하는 형광에 의해 화상을 얻는 형광 관찰이 이루어져도 된다. 형광 관찰에서는, 체조직에 여기광을 조사하고 해당 체조직으로부터의 형광을 관찰(자가 형광 관찰)하거나, 또는 인도시아닌그린(ICG) 등의 시약을 체조직에 국부적으로 주입함과 함께 해당 체조직에 그 시약의 형광 파장에 대응한 여기광을 조사하여 형광상을 얻는 것 등을 행할 수 있다. 광원 장치(11203)는, 이와 같은 특수광 관찰에 대응한 협대역광 및/또는 여기광을 공급 가능하게 구성될 수 있다.

도 24은, 도 23에 나타내는 카메라 헤드(11102) 및 CCU(11201)의 기능 구성의 일례를 나타내는 블록도이다.

카메라 헤드(11102)는, 렌즈 유닛(11401)과, 촬상부(11402)와, 구동부(11403)와, 통신부(11404)와, 카메라 헤드 제어부(11405)를 갖는다. CCU(11201)는, 통신부(11411)와, 화상 처리부(11412)와, 제어부(11413)를 갖는다. 카메라 헤드(11102)와 CCU(11201)는, 전송 케이블(11400)에 의해 서로 통신 가능하게 접속되어 있다.

렌즈 유닛(11401)은, 경통(11101)과의 접속부에 설치되는 광학계이다. 경통(11101)의 선단으로부터 받아들여진 관찰광은, 카메라 헤드(11102)까지 도광되어, 해당 렌즈 유닛(11401)에 입사한다. 렌즈 유닛(11401)은, 줌 렌즈 및 포커스 렌즈를 포함하는 복수의 렌즈가 조합되어 구성된다.

촬상부(11402)를 구성하는 촬상 소자는, 1개(이른바 단판식)이어도 되고, 복수(이른바 다판식)이어도 된다. 촬상부(11402)가 다판식으로 구성되는 경우에는, 예를 들면, 각 촬상 소자에 의해 RGB 각각에 대응하는 화상 신호가 생성되고, 이들이 합성됨으로써 컬러 화상을 얻을 수 있어도 된다. 또는, 촬상부(11402)는, 3D(dimensional) 표시에 대응하는 오른쪽 눈용 및 왼쪽 눈용 화상 신호를 각각 취득하기 위한 한 쌍의 촬상 소자를 갖도록 구성되어도 된다. 3D 표시가 행해짐으로써, 시술자(11131)는 시술부에 있어서의 생체 조직의 안쪽으로의 깊이를 보다 정확하게 파악하는 것이 가능하게 된다. 또한, 촬상부(11402)가 다판식으로 구성되는 경우에는, 각 촬상 소자에 대응하여, 렌즈 유닛(11401)도 복수 계통 설치될 수 있다.

또한, 촬상부(11402)는, 반드시 카메라 헤드(11102)에 설치되지 않아도 된다. 예를 들면, 촬상부(11402)는, 경통(11101)의 내부에, 대물 렌즈의 바로 뒤에 설치되어도 된다.

구동부(11403)는, 액추에이터에 의해 구성되며, 카메라 헤드 제어부(11405)로부터의 제어에 의해, 렌즈 유닛(11401)의 줌 렌즈 및 포커스 렌즈를 광축을 따라 소정의 거리만큼 이동시킨다. 이에 의해, 촬상부(11402)에 의한 촬상 화상의 배율 및 초점이 적절히 조정될 수 있다.

통신부(11404)는, CCU(11201)와의 사이에서 각종의 정보를 송수신하기 위한 통신 장치에 의해 구성된다. 통신부(11404)는, 촬상부(11402)로부터 얻은 화상 신호를 RAW 데이터로서 전송 케이블(11400)을 통해 CCU(11201)에 송신한다.

또한, 통신부(11404)는, CCU(11201)로부터, 카메라 헤드(11102)의 구동을 제어하기 위한 제어 신호를 수신하여, 카메라 헤드 제어부(11405)에 공급한다. 해당 제어 신호에는, 예를 들면, 촬상 화상의 프레임 레이트를 지정하는 취지의 정보, 촬상 시의 노출값을 지정하는 취지의 정보, 및/또는 촬상 화상의 배율 및 초점을 지정하는 취지의 정보 등, 촬상 조건에 관한 정보가 포함된다.

또한, 상기의 프레임 레이트나 노출값, 배율, 초점 등의 촬상 조건은, 유저에 의해 적절히 지정되어도 되고, 취득된 화상 신호에 기초하여 CCU(11201)의 제어부(11413)에 의해 자동적으로 설정되어도 된다. 후자의 경우에는, 이른바 AE(Auto Exposure) 기능, AF(Auto Focus) 기능 및 AWB(Auto White Balance) 기능이 내시경(11100)에 탑재되어 있게 된다.

카메라 헤드 제어부(11405)는, 통신부(11404)를 통해 수신한 CCU(11201)로부터의 제어 신호에 기초하여, 카메라 헤드(11102)의 구동을 제어한다.

통신부(11411)는, 카메라 헤드(11102)와의 사이에서 각종의 정보를 송수신하기 위한 통신 장치에 의해 구성된다. 통신부(11411)는, 카메라 헤드(11102)로부터, 전송 케이블(11400)을 통해 송신되는 화상 신호를 수신한다.

또한, 통신부(11411)는, 카메라 헤드(11102)에 대해서, 카메라 헤드(11102)의 구동을 제어하기 위한 제어 신호를 송신한다. 화상 신호나 제어 신호는, 전기 통신이나 광 통신 등에 의해 송신할 수 있다.

화상 처리부(11412)는, 카메라 헤드(11102)로부터 송신된 RAW 데이터인 화상 신호에 대해서 각종의 화상 처리를 실시한다.

제어부(11413)는, 내시경(11100)에 의한 시술부 등의 촬상, 및 시술부 등의 촬상에 의해 얻어지는 촬상 화상의 표시에 관한 각종의 제어를 행한다. 예를 들면, 제어부(11413)는, 카메라 헤드(11102)의 구동을 제어하기 위한 제어 신호를 생성한다.

또한, 제어부(11413)는, 화상 처리부(11412)에 의해 화상 처리가 실시된 화상 신호에 기초하여, 시술부 등이 찍힌 촬상 화상을 표시 장치(11202)에 표시시킨다. 이 때, 제어부(11413)는, 각종의 화상 인식 기술을 이용하여 촬상 화상 내에 있어서의 각종의 물체를 인식해도 된다. 예를 들면, 제어부(11413)는, 촬상 화상에 포함되는 물체의 에지의 형상이나 색 등을 검출함으로써, 겸자 등의 시술구, 특정한 생체 부위, 출혈, 에너지 처치구(11112)의 사용 시의 미스트(mist) 등을 인식할 수 있다. 제어부(11413)는, 표시 장치(11202)에 촬상 화상을 표시시킬 때에, 그 인식 결과를 이용하여, 각종의 수술 지원 정보를 해당 시술부의 화상에 중첩 표시시켜도 된다. 수술 지원 정보가 중첩 표시되어, 시술자(11131)에게 제시됨으로써, 시술자(11131)의 부담을 경감하는 것이나, 시술자(11131)가 확실히 수술을 진행시키는 것이 가능하게 된다.

카메라 헤드(11102) 및 CCU(11201)를 접속하는 전송 케이블(11400)은, 전기 신호의 통신에 대응한 전기 신호 케이블, 광통신에 대응한 광섬유, 또는 이들의 복합 케이블이다.

여기서, 도시하는 예에서는, 전송 케이블(11400)을 이용하여 유선으로 통신이 이루어지고 있었지만, 카메라 헤드(11102)와 CCU(11201) 사이의 통신은 무선으로 이루어져도 된다.

< 이동체에의 응용예 >

본 개시에 따른 기술(본 기술)은, 다양한 제품에 응용할 수 있다. 예를 들어, 본 개시에 관한 기술은, 자동차, 전기 자동차, 하이브리드 전기 자동차, 자동이륜차, 자전거, 퍼스널 모빌리티, 비행기, 드론, 선박, 로봇 등 어느 종류의 이동체에 탑재되는 장치로서 실현되어도 된다.

도 25는 본 개시에 따른 기술이 적용될 수 있는 이동체 제어 시스템의 일례인 차량 제어 시스템의 개략적인 구성예를 나타내는 블록도이다.

차량 제어 시스템(12000)은 통신 네트워크(12001)를 거쳐 접속된 복수의 전자 제어 유닛을 구비한다. 도 19에 나타낸 예에서는, 차량 제어 시스템(12000)은 구동계 제어 유닛(12010), 보디계 제어 유닛(12020), 차외 정보 검출 유닛(12030), 차내 정보 검출 유닛(12040), 및 통합 제어 유닛(12050)을 구비한다. 또한, 통합 제어 유닛(12050)의 기능 구성으로서, 마이크로컴퓨터(12051), 음성 화상 출력부(12052), 및 차재 네트워크 I/F(Interface)(12053)가 도시되어 있다.

구동계 제어 유닛(12010)은 각종 프로그램에 따라 차량의 구동계에 관련하는 장치의 동작을 제어한다. 예를 들면, 구동계 제어 유닛(12010)은, 내연기관 또는 구동용 모터 등의 차량의 구동력을 발생시키기 위한 구동력 발생 장치, 구동력을 차륜에 전달하기 위한 구동력 전달 기구, 차량의 타각을 조절하는 스티어링 기구, 및 차량의 제동력을 발생시키는 제동 장치 등의 제어 장치로서 기능한다.

보디계 제어 유닛(12020)은 각종 프로그램에 따라 차체에 장비된 각종 장치의 동작을 제어한다. 예를 들면, 보디계 제어 유닛(12020)은 키리스 엔트리(keyless entry) 시스템, 스마트 키 시스템, 파워 윈도우 장치, 또는 헤드 램프, 백 램프, 브레이크 램프, 깜빡이 또는 안개등 등의 각종 램프의 제어장치로서 기능한다. 이 경우, 보디계 제어 유닛(12020)에는, 키를 대체하는 휴대기로부터 발신되는 전파 또는 각종 스위치의 신호가 입력될 수 있다. 보디계 제어 유닛(12020)은 이들 전파 또는 신호의 입력을 수신하여, 차량의 도어록 장치, 파워 윈도우 장치, 램프 등을 제어한다.

차외 정보 검출 유닛(12030)은 차량 제어 시스템(12000)을 탑재한 차량의 외부의 정보를 검출한다. 예를 들면, 차외 정보 검출 유닛(12030)에는, 촬상부(12031)가 접속된다. 차외 정보 검출 유닛(12030)은 촬상부(12031)에 차 밖의 화상을 촬상시키고, 촬상된 화상을 수신한다. 차외 정보 검출 유닛(12030)은, 수신한 화상에 기초하여, 사람, 차, 장애물, 표지 또는 노면 상의 문자 등의 물체 검출 처리 또는 거리 검출 처리를 행해도 된다.

촬상부(12031)는 광을 수광하고, 그 광의 수광량에 따른 전기 신호를 출력하는 광 센서이다. 촬상부(12031)는, 전기 신호를 화상으로서 출력할 수도 있고, 측거의 정보로서 출력할 수도 있다. 또한, 촬상부(12031)가 수광하는 광은 가시광이어도 되고, 적외선 등의 비가시광이어도 된다.

차내 정보 검출 유닛(12040)은, 차내의 정보를 검출한다. 차내 정보 검출 유닛(12040)에는, 예를 들면, 운전자의 상태를 검출하는 운전자 상태 검출부(12041)가 접속된다. 운전자 상태 검출부(12041)는, 예를 들면, 운전자를 촬상하는 카메라를 포함한다. 차내 정보 검출 유닛(12040)은, 운전자 상태 검출부(12041)로부터 입력되는 검출 정보에 기초하여 운전자의 피로 정도 또는 집중 정도를 산출해도 되고, 운전자가 졸고 있지 않은지를 판별해도 된다.

마이크로컴퓨터(12051)는, 차외 정보 검출 유닛(12030) 또는 차내 정보 검출 유닛(12040)에서 취득되는 차내외의 정보에 기초하여, 구동력 발생 장치, 스티어링 기구 또는 제동 장치의 제어 목표값을 연산하여, 구동계 제어 유닛(12010)에 대해 제어 지령을 출력할 수 있다. 예를 들면, 마이크로컴퓨터(12051)는, 차량의 충돌 회피 또는 충격 완화, 차간거리에 기초하는 추종 주행, 차속 유지 주행, 차량의 충돌 경고, 또는 차량의 차선 일탈 경고 등을 포함하는 ADAS(Advanced Driver Assistance System)의 기능 실현을 목적으로 한 협조 제어를 행할 수 있다.

또한, 마이크로컴퓨터(12051)는, 차외 정보 검출 유닛(12030) 또는 차내 정보 검출 유닛(12040)에서 취득되는 차량 주위의 정보에 기초하여 구동력 발생 장치, 스티어링 기구 또는 제동 장치 등을 제어함으로써, 운전자의 조작에 의하지 않고 자율적으로 주행하는 자동 운전 등을 목적으로 한 협조 제어를 행할 수 있다.

또한, 마이크로컴퓨터(12051)는, 차외 정보 검출 유닛(12030)에서 취득되는 차외의 정보에 기초하여, 보디계 제어 유닛(12030)에 대해 제어 지령을 출력할 수 있다. 예를 들면, 마이크로컴퓨터(12051)는, 차외 정보 검출 유닛(12030)으로 검지한 선행차 또는 대향차의 위치에 따라 헤드 램프를 제어하여, 하이 빔을 로우 빔으로 전환하는 등의 눈부심 방지를 도모하는 것을 목적으로 한 협조 제어를 행할 수 있다.

음성 화상 출력부(12052)는, 차량의 탑승자 또는 차외에 대해, 시각적 또는 청각적으로 정보를 통지하는 것이 가능한 출력장치로 음성 및 화상 중 적어도 일방의 출력 신호를 송신한다. 도 25의 예에서는, 출력장치로서, 오디오 스피커(12061), 표시부(12062) 및 인스트루먼트 패널(12063)이 예시되고 있다. 표시부(12062)는, 예를 들면, 온 보드 디스플레이 및 헤드 업 디스플레이 중 적어도 하나를 포함하고 있어도 된다.

도 26은 촬상부(12031)의 설치 위치의 예를 나타내는 도면이다.

도 26에서는, 촬상부(12031)로서, 촬상부(12101, 12102, 12103, 12104, 12105)를 갖는다.

촬상부(12101, 12102, 12103, 12104, 12105)는, 예를 들면, 차량(12100)의 프런트 노즈, 사이드 미러, 리어범퍼, 백 도어 및 차실내의 프런트 글래스의 상부 등의 위치에 설치된다. 프런트 노즈에 구비되는 촬상부(12101) 및 차실내의 프런트 글래스의 상부에 구비되는 촬상부(12105)는, 주로 차량(12100)의 전방의 화상을 취득한다. 사이드 미러에 구비되는 촬상부(12102, 12103)는, 주로 차량(12100)의 측방의 화상을 취득한다. 리어범퍼 또는 백 도어에 구비되는 촬상부(12104)는, 주로 차량(12100)의 후방의 화상을 취득한다. 차실 내의 프런트 글래스의 상부에 구비되는 촬상부(12105)는, 주로 선행 차량 또는 보행자, 장애물, 신호기, 교통 표지 또는 차선 등의 검출에 이용된다.

또한, 도 26에는 촬상부(12101 내지 12104)의 촬상 범위의 일례가 도시되어 있다. 촬상 범위(12111)는, 프런트 노즈에 설치된 촬상부(12101)의 촬상 범위를 나타낸다. 촬상 범위(12112, 12113)는, 각각 사이드 미러에 설치된 촬상부(12102, 12103)의 촬상 범위를 나타내고, 촬상 범위(12114)는, 리어범퍼 또는 백 도어에 설치된 촬상부(12104)의 촬상 범위를 나타낸다. 예를 들면, 촬상부(12101 내지 12104)로 촬상된 화상 데이터가 중첩됨으로써, 차량(12100)을 상방으로부터 본 부감 화상을 얻을 수 있다.

촬상부(12101 내지 12104) 중 적어도 하나는 거리 정보를 취득하는 기능을 가지고 있어도 된다. 예를 들면, 촬상부(12101 내지 12104) 중 적어도 하나는 복수의 촬상 소자로 이루어지는 스테레오 카메라여도 되고, 위상차 검출용의 화소를 갖는 촬상 소자여도 된다.

예를 들면, 마이크로컴퓨터(12051)는, 촬상부(12101 내지 12104)로부터 얻어지는 거리 정보를 기초로, 촬상 범위(12111 내지 12114) 내에 있어서의 각 입체물까지의 거리와, 이 거리의 시간적 변화(차량(12100)에 대한 상대속도)를 구함으로써, 특히 차량(12100)의 진행로 상에 있는 가장 가까운 입체물로, 차량(12100)과 대략 같은 방향으로 소정의 속도(예를 들면, 0km/h 이상)로 주행하는 입체물을 선행차로서 추출할 수 있다. 또한, 마이크로컴퓨터(12051)는, 선행차와의 사이에서 미리 확보해야 하는 차간거리를 설정하고, 자동 브레이크 제어(추종 정지 제어도 포함함)나 자동 가속 제어(추종 발진 제어도 포함함) 등을 행할 수 있다. 이와 같이 운전자의 조작에 의하지 않고 자율적으로 주행하는 자동 운전 등을 목적으로 한 협조 제어를 행할 수 있다.

예를 들면, 마이크로컴퓨터(12051)는, 촬상부(12101 내지 12104)로부터 얻어진 거리 정보를 바탕으로, 입체물에 관한 입체물 데이터를, 이륜차, 보통 차량, 대형차량, 보행자, 전신주 등 그 외의 입체물로 분류하여 추출하고, 장애물의 자동 회피에 이용할 수 있다. 예를 들면, 마이크로컴퓨터(12051)는, 차량(12100) 주변의 장애물을, 차량(12100)의 운전자가 시인 가능한 장애물과 시인 곤란한 장애물로 식별한다. 그리고, 마이크로컴퓨터(12051)는, 각 장애물과의 충돌 위험도를 나타내는 충돌 리스크를 판단하여, 충돌 리스크가 설정값 이상으로 충돌 가능성이 있는 상황일 때에는, 오디오 스피커(12061)나 표시부(12062)를 통해 운전자에 경보를 출력하거나, 구동계 제어 유닛(12010)을 통해 강제 감속이나 회피 조타를 행함으로써, 충돌 회피를 위한 운전 지원을 행할 수 있다.

촬상부(12101 내지 12104) 중 적어도 하나는, 적외선을 검출하는 적외선 카메라여도 된다. 예를 들면, 마이크로컴퓨터(12051)는, 촬상부(12101 내지 12104)의 촬상 화상 중에 보행자가 존재하는지 아닌지를 판정함으로써 보행자를 인식할 수 있다. 이러한 보행자의 인식은, 예를 들면, 적외선 카메라로서의 촬상부(12101 내지 12104)의 촬상 화상에 있어서의 특징점을 추출하는 절차와, 물체의 윤곽을 나타내는 일련의 특징점에 패턴 매칭 처리를 행하여 보행자인지 아닌지를 판별하는 절차에 의해 행해진다. 마이크로컴퓨터(12051)가, 촬상부(12101 내지 12104)의 촬상 화상 중에 보행자가 존재한다고 판정하여, 보행자를 인식하면, 음성 화상 출력부(12052)는, 당해 인식된 보행자에게 강조를 위한 사각형 윤곽선을 중첩 표시하도록, 표시부(12062)를 제어한다. 또한, 음성 화상 출력부(12052)는, 보행자를 나타내는 아이콘 등을 원하는 위치에 표시하도록 표시부(12062)를 제어해도 된다.

또한, 본 명세서에 있어서, 시스템이란 복수의 장치에 의해 구성되는 장치 전체를 나타내는 것이다.

한편, 본 명세서에 기재된 효과는 어디까지나 예시이며 한정되는 것이 아니고, 또한 다른 효과가 있어도 좋다.

한편, 본 기술의 실시형태는, 상술한 실시형태에 한정되는 것이 아니고, 본 기술의 요지를 일탈하지 않는 범위에서 다양한 변경이 가능하다.

한편, 본 기술은 이하와 같은 구성도 취할 수 있다.

(1)

동일한 피사체를 촬상 또는 센싱 가능한 2이상의 촬상부를 포함하고,

상기 2이상의 촬상부 중의 적어도 하나의 제1 촬상부는, 복수의 파장 대역을 투과하는 제1 필터를 구비하고,

상기 2이상의 촬상부 중 상기 제1 촬상부를 제외한 다른 적어도 하나의 제2 촬상부는, 파장 대역을 가변하는 것이 가능한 제2 필터를 구비하는,

촬상 장치.

(2)

상기 제2 촬상부가, 상기 제1 촬상부보다 협대역인,

상기 (1)에 기재된 촬상 장치.

(3)

상기 제2 필터는, 파브리 페로 분광기인,

상기 (1) 또는 (2)에 기재된 촬상 장치.

(4)

상기 파브리 페로 분광기는, 전압으로 구동가능한 MEMS(Micro Electro Mechanical Systems)에 의해 형성되어 있는,

상기 (3)에 기재된 촬상 장치.

(5)

상기 제1 필터는, 컬러 필터이며,

상기 제2 필터의 파장 대역은 상기 컬러 필터에 의해 취득되는 색을 보간하기 위한 색의 파장 대역으로 설정되는,

상기 (1) 내지 (4) 중 어느 하나에 기재된 촬상 장치.

(6)

상기 제1 촬상부는, 4이상의 파장 대역을 갖고,

상기 4이상의 파장 대역은, 플라스몬 공명을 사용한 광학 제어를 사용하고 있는,

상기 (1)에 기재된 촬상 장치.

(7)

상기 2이상의 촬상부 중의 적어도 하나의 촬상부는, 유기 광전변환막이 사용되고 있는,

상기 (1) 내지 (6) 중 어느 하나에 기재된 촬상 장치.

(8)

상기 제1 촬상부에서 촬상된 화상을 사용하여 피사체를 추정하고,

상기 제2 필터의 파장 대역은, 추정된 상기 피사체를 촬상하는데 적합한 파장 대역으로 설정되는,

상기 (1) 내지 (7) 중 어느 하나에 기재된 촬상 장치.

(9)

상기 피사체의 추정은, 상기 제1 촬상부에서 촬상된 화상과, 상기 제2 촬상부에서 촬상된 화상을 합성한 합성 화상을 사용하여 행하는,

상기 (8)에 기재된 촬상 장치.

(10)

상기 제1 촬상부에서 촬상된 화상을, 상기 제2 촬상부에서 취득되는 색정보로 보정하는,

상기 (1) 내지 (9) 중 어느 하나에 기재된 촬상 장치.

(11)

상기 제2 촬상부에서 촬상되는 화상의 색정보의 분포를, 상기 제1 촬상부에서 촬상되는 화상의 색정보의 분포와 비교하여, 상기 제2 촬상부에서 촬상되는 화상을 보정하기 위한 보정량을 설정하는,

상기 (1) 내지 (10) 중 어느 하나에 기재된 촬상 장치.

(12)

상기 제1 촬상부에서 얻어진 출력을 사용하여, 상기 제2 촬상부의 결과에 대하여 동적 피사체 보정을 행하는,

상기 (1) 내지 (11) 중 어느 하나에 기재된 촬상 장치.

(13)

상기 2이상의 촬상부에서 얻어진 결과를 사용하여, 물체 해석이나 상태 해석을 행하는,

상기 (1) 내지 (12)중 어느 하나에 기재된 촬상 장치.

(14)

상기 2이상의 촬상부 중의 어느 하나의 촬상부로부터 얻어진 결과 또는 상기 2이상의 촬상부로부터 얻어진 결과를 합성하여 얻어지는 결과를, 통신처에 있는 다른 전자기기를 개재하여 해석을 행하는,

상기 (13)에 기재된 촬상 장치.

(15)

상기 제2 필터의 파장 대역은, 상기 다른 전자기기에 의해 지정되는,

상기 (14)에 기재된 촬상 장치.

(16)

상기 제1 필터의 파장 대역은, 가시광 대역이며,

상기 제2 필터의 파장 대역은, 자외광 대역, 가시광 대역, 또는 적외광 대역인,

상기 (1) 내지 (15) 중 어느 하나에 기재된 촬상 장치.

(17)

AR(Augmented Reality), VR(Virtual Reality), MR(Mixed Reality)을 제공하는 장치 중 어느 하나에 포함되는,

상기 (1) 내지 (16) 중 어느 하나에 기재된 촬상 장치.

(18)

상기 제1 촬상부와 상기 제2 촬상부는, 동기하여 촬상을 행하는,

상기 (1) 내지 (17) 중 어느 하나에 기재된 촬상 장치.

(19)

촬상 장치가,

동일한 피사체를 촬상 또는 센싱 가능한 2이상의 촬상부를 구비하고,

상기 2이상의 촬상부 중의 적어도 하나의 제1 촬상부는, 복수의 파장 대역을 투과하는 제1 필터를 구비하고,

상기 2이상의 촬상부 중 상기 제1 촬상부를 제외한 다른 적어도 하나의 제2 촬상부는, 파장 대역을 가변하는 것이 가능한 제2 필터를 구비하고,

상기 제1 촬상부에서 촬상된 화상과, 상기 제2 촬상부에서 촬상된 화상을 합성한 합성 화상을 사용하여 상기 피사체를 추정하는,

촬상 방법.

(20)

동일한 피사체를 촬상 또는 센싱 가능한 2이상의 촬상부를 구비하고,

상기 2이상의 촬상부 중의 적어도 하나의 제1 촬상부는, 복수의 파장 대역을 투과하는 제1 필터를 구비하고,

상기 2이상의 촬상부 중 상기 제1 촬상부를 제외한 다른 적어도 하나의 제2 촬상부는, 파장 대역을 가변하는 것이 가능한 제2 필터를 구비하는,

촬상 장치와,

상기 촬상 장치로부터의 신호를 처리하는 처리부

를 구비하는 전자기기.

10: 복안 카메라 모듈
21: 단안 카메라 모듈
522: 연결 부재
100: 촬상 장치
110: 광대역 촬상부
111: 렌즈
112: 광대역 광전변환부
113: A/D 변환부
114: 클램프부
115: 색별 출력부
116: 결함 보정부
117: 리니어 매트릭스부
120: 협대역 촬상부
121: 렌즈
122: 협대역 광전변환부
123: A/D 변환부
131: 처리부
132: 화상 출력부
134: 메모리
135: 통신부
151: 서버
202: 화소
203: 화소 영역
204: 수직 구동 회로
205: 컬럼 신호처리회로
206: 수평 구동 회로
207: 출력 회로
208: 제어 회로
209: 수직 신호선
210: 수평 신호선
212: 입출력 단자
251: 파브리 페로 분광기
252: 반투경
253: 반투경
311, 312, 313: 화상
321, 322: 화상
323: 합성 화상
401: 벽면
411, 412: 화상

Claims (20)

1. 촬상 장치로서,
   동일한 피사체를 촬상 또는 센싱 가능한 2이상의 촬상부를 포함하고,
   상기 2이상의 촬상부 중의 적어도 하나의 제1 촬상부는, 복수의 파장 대역을 투과하는 제1 필터를 구비하고,
   상기 2이상의 촬상부 중의 상기 제1 촬상부를 제외한 다른 적어도 하나의 제2 촬상부는, 파장 대역을 가변하는 것이 가능한 제2 필터를 구비하는,
   촬상 장치.
2. 제1항에 있어서,
   상기 제2 촬상부가 상기 제1 촬상부보다 협대역인, 촬상 장치.
3. 제1항에 있어서,
   상기 제2 필터는 파브리 페로 분광기인, 촬상 장치.
4. 제3항에 있어서,
   상기 파브리 페로 분광기는, 전압으로 구동가능한 MEMS(Micro Electro Mechanical Systems)에 의해 형성되어 있는, 촬상 장치.
5. 제1항에 있어서,
   상기 제1 필터는, 컬러 필터이고,
   상기 제2 필터의 파장 대역은 상기 컬러 필터에 의해 취득되는 색을 보간하기 위한 색의 파장 대역으로 설정되는, 촬상 장치.
6. 제1항에 있어서,
   상기 제1 촬상부는, 4이상의 파장 대역을 갖고,
   상기 4이상의 파장 대역은, 플라스몬 공명을 사용한 광학 제어를 사용하고 있는, 촬상 장치.
7. 제1항에 있어서,
   상기 2이상의 촬상부 중의 적어도 하나의 촬상부는, 유기 광전변환막이 사용되고 있는, 촬상 장치.
8. 제1항에 있어서,
   상기 제1 촬상부에서 촬상된 화상을 사용하여 피사체를 추정하고,
   상기 제2 필터의 파장 대역은, 추정된 상기 피사체를 촬상하는데 적합한 파장 대역으로 설정되는, 촬상 장치.
9. 제8항에 있어서,
   상기 피사체의 추정은, 상기 제1 촬상부에서 촬상된 화상과, 상기 제2 촬상부에서 촬상된 화상을 합성한 합성 화상을 사용하여 행하는, 촬상 장치.
10. 제1항에 있어서,
    상기 제1 촬상부에서 촬상된 화상을, 상기 제2 촬상부에서 취득되는 색정보로 보정하는, 촬상 장치.
11. 제1항에 있어서,
    상기 제2 촬상부에서 촬상되는 화상의 색정보의 분포를, 상기 제1 촬상부에서 촬상되는 화상의 색정보의 분포와 비교하여, 상기 제2 촬상부에서 촬상되는 화상을 보정하기 위한 보정량을 설정하는, 촬상 장치.
12. 제1항에 있어서,
    상기 제1 촬상부에서 얻어진 출력을 사용하여, 상기 제2 촬상부의 결과에 대해 동적 피사체(moving subject) 보정을 행하는, 촬상 장치.
13. 제1항에 있어서,
    상기 2이상의 촬상부로부터 얻어진 결과를 사용하여, 물체 해석과 상태 해석을 행하는, 촬상 장치.
14. 제13항에 있어서,
    상기 2이상의 촬상부 중의 어느 하나의 촬상부로부터 얻어진 결과 또는 상기 2이상의 촬상부로부터 얻어진 결과를 합성하여 얻어지는 결과를, 통신처에 있는 다른 전자기기를 개재하여 해석을 행하는, 촬상 장치.
15. 제14항에 있어서,
    상기 제2 필터의 파장 대역은, 상기 다른 전자기기에 의해 지정되는, 촬상 장치.
16. 제1항에 있어서,
    상기 제1 필터의 파장 대역은, 가시광 대역이고,
    상기 제2 필터의 파장 대역은, 자외광 대역, 가시광 대역, 또는 적외광 대역인, 촬상 장치.
17. 제1항에 있어서,
    상기 촬상 장치는, AR(Augmented Reality), VR(Virtual Reality), MR(Mixed Reality)을 제공하는 장치 중 어느 하나에 포함되는, 촬상 장치.
18. 제1항에 있어서,
    상기 제1 촬상부와 상기 제2 촬상부는, 동기하여 촬상을 행하는, 촬상 장치.
19. 촬상 장치를 사용한 촬상 방법으로서,
    상기 촬상 장치는,
    동일한 피사체를 촬상 또는 센싱 가능한 2이상의 촬상부를 포함하고,
    상기 2이상의 촬상부 중의 적어도 하나의 제1 촬상부는, 복수의 파장 대역을 투과하는 제1 필터를 구비하고,
    상기 2이상의 촬상부 중 상기 제1 촬상부를 제외한 다른 적어도 하나의 제2 촬상부는, 파장 대역을 가변하는 것이 가능한 제2 필터를 구비하며,
    상기 촬상 방법은, 상기 제1 촬상부에서 촬상된 화상과, 상기 제2 촬상부에서 촬상된 화상을 합성한 합성 화상을 사용하여 상기 피사체를 추정하는, 촬상 방법.
20. 전자기기로서,
    동일한 피사체를 촬상 또는 센싱 가능한 2이상의 촬상부를 포함하고, 상기 2이상의 촬상부 중의 적어도 하나의 제1 촬상부는, 복수의 파장 대역을 투과하는 제1 필터를 구비하며, 상기 2이상의 촬상부 중 상기 제1 촬상부를 제외한 다른 적어도 하나의 제2 촬상부는, 파장 대역을 가변하는 것이 가능한 제2 필터를 구비하는　촬상 장치와,
    상기 촬상 장치로부터의 신호를 처리하는 처리부
    를 포함하는 전자기기.

Images