JP2021165754A - イメージングシステム、イメージング処理方法、およびプログラム - Google Patents

イメージングシステム、イメージング処理方法、およびプログラム Download PDF

Info

Publication number
JP2021165754A
JP2021165754A JP2021112795A JP2021112795A JP2021165754A JP 2021165754 A JP2021165754 A JP 2021165754A JP 2021112795 A JP2021112795 A JP 2021112795A JP 2021112795 A JP2021112795 A JP 2021112795A JP 2021165754 A JP2021165754 A JP 2021165754A
Authority
JP
Japan
Prior art keywords
image
filter
spectral
camera
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021112795A
Other languages
English (en)
Other versions
JP7130822B2 (ja
Inventor
盛一 大槻
Morikazu Otsuki
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to JP2021112795A priority Critical patent/JP7130822B2/ja
Publication of JP2021165754A publication Critical patent/JP2021165754A/ja
Application granted granted Critical
Publication of JP7130822B2 publication Critical patent/JP7130822B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/10—Image acquisition
    • G06V10/12—Details of acquisition arrangements; Constructional details thereof
    • G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143—Sensing or illuminating at different wavelengths
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/10—Terrestrial scenes
    • G06V20/188—Vegetation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/10—Terrestrial scenes
    • G06V20/194—Terrestrial scenes using hyperspectral data, i.e. more or other wavelengths than RGB
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/60—Type of objects
    • G06V20/68—Food, e.g. fruit or vegetables

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Spectrometry And Color Measurement (AREA)

Abstract

【課題】物体に対するラベリング処理を自動化する。
【解決手段】データ処理装置は、多数の波長帯域に分光された光により物体が撮像されたマルチスペクトル画像を使用して、その物体の種別を認識する物体認識処理を行う認識処理部と、認識処理部による認識結果を、物体が写されたカラー画像に付加するラベリング部とを備える。そして、少なくとも一部の画素において光電変換素子より光の入射側に設けられ、導体薄膜の膜厚が画素により異なる金属薄膜フィルタを備える撮像素子により撮像されたマルチスペクトル画像が、物体の認識に使用される。本技術は、例えば、ホールアレイ構造又はドットアレイ構造のプラズモンフィルタ等の金属薄膜フィルタを備えるイメージセンサを搭載した撮像装置に適用できる。
【選択図】図２３

Description

本開示は、イメージングシステム、イメージング処理方法、およびプログラムに関し、特に、物体に対するラベリング処理を自動化することができるようにしたイメージングシステム、イメージング処理方法、およびプログラムに関する。
従来、広域な領域で育成されている様々な作物が写されている画像から、それらの作物の種別などを認識して、作物ごとに収穫量を予測する収穫予測装置が提案されている（例えば、特許文献１参照）。
また、プラズモンフィルタを用いて、所定の狭い波長帯域（狭帯域）の光（以下、狭帯域光とも称する）を検出する撮像素子が提案されている（例えば、特許文献２参照）。
特開２００３−６６１２号公報 特開２０１０−１６５７１８号公報
ところで、上述したように画像に写されている作物の種別の認識などのように、画像から物体を認識する物体認識処理では、一般的に、大量の教師データを用いて事前に機械学習を行う必要があった。従来、例えば、目視により物体を判断してラベリングすることによって教師データを生成していたため、大量の教師データを用意するためには膨大な工数を要することになっていなっていた。
本開示は、このような状況に鑑みてなされたものであり、物体のラベリングを自動化することができるようにするものである。
本開示の一側面のイメージングシステムは、ある物体を撮像してマルチスペクトル画像を取得するマルチスペクトルカメラと、前記物体を撮像してカラー画像を取得するＲＧＢカメラと、複数の物体が写された前記マルチスペクトル画像から予め求められ、前記物体の種別ごとに特有の分光特性を示すスペクトル情報を保持するスペクトル情報保持部と、前記マルチスペクトルカメラにより取得された前記マルチスペクトル画像において教師データを生成する対象となる物体の分光特性を表すスペクトル情報を取得し、前記スペクトル情報保持部に保持されている複数の前記スペクトル情報のうち、その取得したスペクトル情報と最も高い類似度の前記スペクトル情報に対応付けられている種別を認識結果として取得し、前記ＲＧＢカメラにより取得された前記カラー画像に前記認識結果を付加した教師データを記憶装置に記憶させる処理装置とを備える。
本開示の一側面のイメージング処理方法またはプログラムは、ある物体を撮像してマルチスペクトル画像を取得するマルチスペクトルカメラと、前記物体を撮像してカラー画像を取得するＲＧＢカメラと、複数の物体が写された前記マルチスペクトル画像から予め求められ、前記物体の種別ごとに特有の分光特性を示すスペクトル情報を保持するスペクトル情報保持部とを備えるイメージングシステムが、または、そのイメージングシステムのコンピュータに、前記マルチスペクトルカメラにより取得された前記マルチスペクトル画像において教師データを生成する対象となる物体の分光特性を表すスペクトル情報を取得することと、前記スペクトル情報保持部に保持されている複数の前記スペクトル情報のうち、その取得したスペクトル情報と最も高い類似度の前記スペクトル情報に対応付けられている種別を認識結果として取得することと、前記ＲＧＢカメラにより取得された前記カラー画像に前記認識結果を付加した教師データを記憶装置に記憶させることとを含む。
本開示の一側面においては、マルチスペクトルカメラにより取得されたマルチスペクトル画像において教師データを生成する対象となる物体の分光特性を表すスペクトル情報が取得され、スペクトル情報保持部に保持されている複数のスペクトル情報のうち、その取得されたスペクトル情報と最も高い類似度のスペクトル情報に対応付けられている種別が認識結果として取得され、ＲＧＢカメラにより取得されたカラー画像に認識結果が付加された教師データが記憶装置に記憶される。
本開示の一側面によれば、物体のラベリングを自動化することができる。
本技術を適用した撮像装置の一実施の形態を示すブロック図である。 撮像素子の回路の構成例を示すブロック図である。 撮像素子の第１の実施形態の構成例を模式的に示す断面図である。 ホールアレイ構造のプラズモンフィルタの構成例を示す図である。 表面プラズモンの分散関係を示すグラフである。 ホールアレイ構造のプラズモンフィルタのスペクトル情報の第１の例を示すグラフである。 ホールアレイ構造のプラズモンフィルタのスペクトル情報の第２の例を示すグラフである。 プラズモンモードと導波管モードを示すグラフである。 表面プラズモンの伝搬特性の例を示すグラフである。 ホールアレイ構造のプラズモンフィルタの他の構成例を示す図である。 ２層構造のプラズモンフィルタの構成例を示す図である。 ドットアレイ構造のプラズモンフィルタの構成例を示す図である。 ドットアレイ構造のプラズモンフィルタのスペクトル情報の例を示すグラフである。 ＧＭＲを用いたプラズモンフィルタの構成例を示す図である。 ＧＭＲを用いたプラズモンフィルタのスペクトル情報の例を示すグラフである。 撮像素子の第２の実施形態の構成例を模式的に示す断面図である。 撮像装置のフレアの発生の様子を模式的に示す図である。 撮像装置のフレアの低減方法を説明するための図である。 狭帯域フィルタと透過フィルタのスペクトル情報の第１の例を示すグラフである。 狭帯域フィルタと透過フィルタのスペクトル情報の第２の例を示すグラフである。 狭帯域フィルタと透過フィルタのスペクトル情報の第３の例を示すグラフである。 撮像素子の第３の実施形態の構成例を模式的に示す断面図である。 本技術を適用した教師データ生成システムの一実施の形態の構成例を示すブロック図である。 物体認識システムの構成例を示すブロック図である。 教師データ生成処理を説明するフローチャートである。 本技術を適用した評価指標提示システムの一実施の形態の構成例を示すブロック図である。 評価指標提示システムが搭載された情報処理端末の使用例を説明する図である。 評価指標提示処理を説明するフローチャートである。 コンピュータの一実施の形態の構成例を示すブロック図である。 本技術を適用し得る積層型の固体撮像装置の構成例の概要を示す図である。 本技術の応用例を示す図である。 食品のうまみや鮮度を検出する場合の検出帯域の例を示す図である。 果物の糖度や水分を検出する場合の検出帯域の例を示す図である。 プラスチックの分別を行う場合の検出帯域の例を示す図である。 内視鏡手術システムの概略的な構成の一例を示す図である。 カメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
以下、発明を実施するための形態（以下、「実施形態」と称する）について図面を用いて詳細に説明する。なお、説明は以下の順序で行う。
１．撮像装置の実施形態
２．マルチスペクトル画像の利用例
３．変形例
４．応用例
＜＜１．撮像装置の実施形態＞＞
まず、図１乃至図２２を参照して、本技術の撮像装置の実施形態について説明する。
＜撮像装置の構成例＞
図１は、本技術を適用した電子機器の一種である撮像装置の一実施の形態を示すブロック図である。
図１の撮像装置１０は、例えば、静止画及び動画のいずれも撮像することが可能なデジタルカメラからなる。また、撮像装置１０は、例えば、色の３原色若しくは等色関数に基づく従来のＲ（赤）、Ｇ（緑）、Ｂ（青）、又は、Ｙ（黄）、Ｍ（マゼンダ）、Ｃ（シアン）の３つの波長帯域（３バンド）より多い４以上の波長帯域（４バンド以上）の光（マルチスペクトル）を検出可能なマルチスペクトルカメラからなる。
撮像装置１０は、光学系１１、撮像素子１２、メモリ１３、信号処理部１４、出力部１５、及び、制御部１６を備える。
光学系１１は、例えば、図示せぬズームレンズ、フォーカスレンズ、絞り等を備え、外部からの光を、撮像素子１２に入射させる。また、光学系１１には、必要に応じて偏光フィルタ等の各種のフィルタが設けられる。
撮像素子１２は、例えば、ＣＭＯＳ（Complementary Metal Oxide Semiconductor）イメージセンサからなる。撮像素子１２は、光学系１１からの入射光を受光し、光電変換を行って、入射光に対応する画像データを出力する。
メモリ１３は、撮像素子１２が出力する画像データを一時的に記憶する。
信号処理部１４は、メモリ１３に記憶された画像データを用いた信号処理（例えば、ノイズの除去、ホワイトバランスの調整等の処理）を行い、出力部１５に供給する。
出力部１５は、信号処理部１４からの画像データを出力する。例えば、出力部１５は、液晶等で構成されるディスプレイ（不図示）を有し、信号処理部１４からの画像データに対応するスペクトル（画像）を、いわゆるスルー画として表示する。例えば、出力部１５は、半導体メモリ、磁気ディスク、光ディスク等の記録媒体を駆動するドライバ（不図示）を備え、信号処理部１４からの画像データを記録媒体に記録する。例えば、出力部１５は、図示せぬ外部の装置との通信を行う通信インタフェースとして機能し、信号処理部１４からの画像データを、外部の装置に無線又は有線で送信する。
制御部１６は、ユーザの操作等に従い、撮像装置１０の各部を制御する。
＜撮像素子の回路の構成例＞
図２は、図１の撮像素子１２の回路の構成例を示すブロック図である。
撮像素子１２は、画素アレイ３１、行走査回路３２、ＰＬＬ（Phase Locked Loop）３３、ＤＡＣ（Digital Analog Converter）３４、カラムＡＤＣ（Analog Digital Converter）回路３５、列走査回路３６、及び、センスアンプ３７を備える。
画素アレイ３１には、複数の画素５１が２次元に配列されている。
画素５１は、行走査回路３２に接続される水平信号線Ｈと、カラムＡＤＣ回路３５に接続される垂直信号線Ｖとが交差する点にそれぞれ配置されており、光電変換を行うフォトダイオード６１と、蓄積された信号を読み出すための数種類のトランジスタを備える。すなわち、画素５１は、図２の右側に拡大して示されているように、フォトダイオード６１、転送トランジスタ６２、フローティングディフュージョン６３、増幅トランジスタ６４、選択トランジスタ６５、及び、リセットトランジスタ６６を備える。
フォトダイオード６１に蓄積された電荷は、転送トランジスタ６２を介してフローティングディフュージョン６３に転送される。フローティングディフュージョン６３は、増幅トランジスタ６４のゲートに接続されている。画素５１が信号の読み出しの対象となると、行走査回路３２から水平信号線Ｈを介して選択トランジスタ６５がオンにされ、選択された画素５１の信号は、増幅トランジスタ６４をソースフォロワ（Source Follower）駆動することで、フォトダイオード６１に蓄積された電荷の蓄積電荷量に対応する画素信号として、垂直信号線Ｖに読み出される。また、画素信号はリセットトランジスタ６６をオンすることでリセットされる。
行走査回路３２は、画素アレイ３１の画素５１の駆動（例えば、転送、選択、リセット等）を行うための駆動信号を、行ごとに順次、出力する。
ＰＬＬ３３は、外部から供給されるクロック信号に基づいて、撮像素子１２の各部の駆動に必要な所定の周波数のクロック信号を生成して出力する。
ＤＡＣ３４は、所定の電圧値から一定の傾きで電圧が降下した後に所定の電圧値に戻る形状（略鋸形状）のランプ信号を生成して出力する。
カラムＡＤＣ回路３５は、比較器７１及びカウンタ７２を、画素アレイ３１の画素５１の列に対応する個数だけ有しており、画素５１から出力される画素信号から、ＣＤＳ（Correlated Double Sampling：相関２重サンプリング）動作により信号レベルを抽出して、画素データを出力する。すなわち、比較器７１が、ＤＡＣ３４から供給されるランプ信号と、画素５１から出力される画素信号（輝度値）とを比較し、その結果得られる比較結果信号をカウンタ７２に供給する。そして、カウンタ７２が、比較器７１から出力される比較結果信号に応じて、所定の周波数のカウンタクロック信号をカウントすることで、画素信号がＡ／Ｄ変換される。
列走査回路３６は、カラムＡＤＣ回路３５のカウンタ７２に、順次、所定のタイミングで、画素データを出力させる信号を供給する。
センスアンプ３７は、カラムＡＤＣ回路３５から供給される画素データを増幅し、撮像素子１２の外部に出力する。
＜撮像素子の第１の実施形態＞
図３は、図１の撮像素子１２の第１の実施形態である撮像素子１２Ａの断面の構成例を模式的に示している。図３には、撮像素子１２の画素５１−１乃至画素５１−４の４画素分の断面が示されている。なお、以下、画素５１−１乃至画素５１−４を個々に区別する必要がない場合、単に画素５１と称する。
各画素５１においては、上から順に、オンチップマイクロレンズ１０１、層間膜１０２、狭帯域フィルタ層１０３、層間膜１０４、光電変換素子層１０５、及び、信号配線層１０６が積層されている。すなわち、撮像素子１２は、光電変換素子層１０５が信号配線層１０６より光の入射側に配置された裏面照射型のＣＭＯＳイメージセンサからなる。
オンチップマイクロレンズ１０１は、各画素５１の光電変換素子層１０５に光を集光するための光学素子である。
層間膜１０２及び層間膜１０４は、ＳｉＯ２等の誘電体からなる。後述するように、層間膜１０２及び層間膜１０４の誘電率は、できる限り低い方が望ましい。
狭帯域フィルタ層１０３には、所定の狭い波長帯域（狭帯域）の狭帯域光を透過する光学フィルタである狭帯域フィルタＮＢが各画素５１に設けられている。例えば、アルミニウム等の金属製の薄膜を用いた金属薄膜フィルタの一種であり、表面プラズモンを利用したプラズモンフィルタが、狭帯域フィルタＮＢに用いられる。また、狭帯域フィルタＮＢの透過帯域は、画素５１毎に設定される。狭帯域フィルタＮＢの透過帯域の種類（バンド数）は任意であり、例えば、４以上に設定される。
ここで、狭帯域とは、例えば、色の３原色若しくは等色関数に基づく従来のＲ（赤）、Ｇ（緑）、Ｂ（青）、又は、Ｙ（黄）、Ｍ（マゼンダ）、Ｃ（シアン）のカラーフィルタの透過帯域より狭い波長帯域のことである。また、以下、狭帯域フィルタＮＢを透過した狭帯域光を受光する画素を、マルチスペクトル画素又はＭＳ画素と称する。
光電変換素子層１０５は、例えば、図２のフォトダイオード６１等を備え、狭帯域フィルタ層１０３（狭帯域フィルタＮＢ）を透過した光（狭帯域光）を受光し、受光した光を電荷に変換する。また、光電変換素子層１０５は、各画素５１間が素子分離層により電気的に分離されて構成されている。
信号配線層１０６には、光電変換素子層１０５に蓄積された電荷を読み取るための配線等が設けられる。
＜プラズモンフィルタについて＞
次に、図４乃至図１５を参照して、狭帯域フィルタＮＢに用いることが可能なプラズモンフィルタについて説明する。
図４は、ホールアレイ構造のプラズモンフィルタ１２１Ａの構成例を示している。
プラズモンフィルタ１２１Ａは、金属製の薄膜（以下、導体薄膜と称する）１３１Ａにホール１３２Ａがハニカム状に配置されたプラズモン共鳴体により構成されている。
各ホール１３２Ａは、導体薄膜１３１Ａを貫通しており、導波管として作用する。一般的に導波管には、辺の長さや直径などの形状により決まる遮断周波数及び遮断波長が存在し、それ以下の周波数（それ以上の波長）の光は伝搬しないという性質がある。ホール１３２Ａの遮断波長は、主に開口径Ｄ１に依存し、開口径Ｄ１が小さいほど遮断波長も短くなる。なお、開口径Ｄ１は透過させたい光の波長よりも小さい値に設定される。
一方、光の波長以下の短い周期でホール１３２Ａが周期的に形成されている導体薄膜１３１Ａに光が入射すると、ホール１３２Ａの遮断波長より長い波長の光を透過する現象が発生する。この現象をプラズモンの異常透過現象という。この現象は、導体薄膜１３１Ａとその上層の層間膜１０２との境界において表面プラズモンが励起されることによって発生する。
ここで、図５を参照して、プラズモンの異常透過現象（表面プラズモン共鳴）の発生条件について説明する。
図５は、表面プラズモンの分散関係を示すグラフである。グラフの横軸は角波数ベクトルｋを示し、縦軸は角周波数ωを示している。ωｐは導体薄膜１３１Ａのプラズマ周波数を示している。ωｓｐは層間膜１０２と導体薄膜１３１Ａとの境界面における表面プラズマ周波数を示しており、次式（１）により表される。
Figure 2021165754
εｄは、層間膜１０２を構成する誘電体の誘電率を示している。
式（１）より、表面プラズマ周波数ωｓｐは、プラズマ周波数ωｐが高くなるほど高くなる。また、表面プラズマ周波数ωｓｐは、誘電率εｄが小さくなるほど、高くなる。
線Ｌ１は、光の分散関係（ライトライン）を示し、次式（２）で表される。
Figure 2021165754
ｃは、光速を示している。
線Ｌ２は、表面プラズモンの分散関係を表し、次式（３）で表される。
Figure 2021165754
εｍは、導体薄膜１３１Ａの誘電率を示している。
線Ｌ２により表される表面プラズモンの分散関係は、角波数ベクトルｋが小さい範囲では、線Ｌ１で表されるライトラインに漸近し、角波数ベクトルｋが大きくなるにつれて、表面プラズマ周波数ωｓｐに漸近する。
そして、次式（４）が成り立つとき、プラズモンの異常透過現象が発生する。
Figure 2021165754
λは、入射光の波長を示している。θは、入射光の入射角を示している。Ｇｘ及びＧｙは、次式（５）で表される。
｜Ｇｘ｜＝｜Ｇｙ｜＝２π／ａ０ ・・・（５）
ａ０は、導体薄膜１３１Ａのホール１３２Ａからなるホールアレイ構造の格子定数を示している。
式（４）の左辺は、表面プラズモンの角波数ベクトルを示し、右辺は、導体薄膜１３１Ａのホールアレイ周期の角波数ベクトルを示している。従って、表面プラズモンの角波数ベクトルと導体薄膜１３１Ａのホールアレイ周期の角波数ベクトルが等しくなるとき、プラズモンの異常透過現象が発生する。そして、このときのλの値が、プラズモンの共鳴波長（プラズモンフィルタ１２１Ａの透過波長）となる。
なお、式（４）の左辺の表面プラズモンの角波数ベクトルは、導体薄膜１３１Ａの誘電率εｍ及び層間膜１０２の誘電率εｄにより決まる。一方、右辺のホールアレイ周期の角波数ベクトルは、光の入射角θ、及び、導体薄膜１３１Ａの隣接するホール１３２Ａ間のピッチ（ホールピッチ）Ｐ１により決まる。従って、プラズモンの共鳴波長及び共鳴周波数は、導体薄膜１３１Ａの誘電率εｍ、層間膜１０２の誘電率εｄ、光の入射角θ、及び、ホールピッチＰ１により決まる。なお、光の入射角が０°の場合、プラズモンの共鳴波長及び共鳴周波数は、導体薄膜１３１Ａの誘電率εｍ、層間膜１０２の誘電率εｄ、及び、ホールピッチＰ１により決まる。
従って、プラズモンフィルタ１２１Ａの透過帯域（プラズモンの共鳴波長）は、導体薄膜１３１Ａの材質及び膜厚、層間膜１０２の材質及び膜厚、ホールアレイのパターン周期（例えば、ホール１３２Ａ開口径Ｄ１及びホールピッチＰ１）等により変化する。特に、導体薄膜１３１Ａ及び層間膜１０２の材質及び膜厚が決まっている場合、プラズモンフィルタ１２１Ａの透過帯域は、ホールアレイのパターン周期、特にホールピッチＰ１により変化する。すなわち、ホールピッチＰ１が狭くなるにつれて、プラズモンフィルタ１２１Ａの透過帯域は短波長側にシフトし、ホールピッチＰ１が広くなるにつれて、プラズモンフィルタ１２１Ａの透過帯域は長波長側にシフトする。
図６は、ホールピッチＰ１を変化させた場合のプラズモンフィルタ１２１Ａの分光特性の例を示すグラフである。グラフの横軸は波長（単位はｎｍ）を示し、縦軸は感度（単位は任意単位）を示している。線Ｌ１１は、ホールピッチＰ１を２５０ｎｍに設定した場合の分光特性を示し、線Ｌ１２は、ホールピッチＰ１を３２５ｎｍに設定した場合の分光特性を示し、線Ｌ１３は、ホールピッチＰ１を５００ｎｍに設定した場合の分光特性を示している。
ホールピッチＰ１を２５０ｎｍに設定した場合、プラズモンフィルタ１２１Ａは、主に青色の波長帯域の光を透過する。ホールピッチＰ１を３２５ｎｍに設定した場合、プラズモンフィルタ１２１Ａは、主に緑色の波長帯域の光を透過する。ホールピッチＰ１を５００ｎｍに設定した場合、プラズモンフィルタ１２１Ａは、主に赤色の波長帯域の光を透過する。ただし、ホールピッチＰ１を５００ｎｍに設定した場合、プラズモンフィルタ１２１Ａは、後述する導波管モードにより、赤色より低波長の帯域の光も多く透過する。
図７は、ホールピッチＰ１を変化させた場合のプラズモンフィルタ１２１Ａの分光特性の他の例を示すグラフである。グラフの横軸は波長（単位はｎｍ）を示し、縦軸は感度（単位は任意単位）を示している。この例では、ホールピッチＰ１を２５０ｎｍから６２５ｎｍまで２５ｎｍ刻みで変化させた場合の１６種類のプラズモンフィルタ１２１Ａの分光特性の例を示している。
なお、プラズモンフィルタ１２１Ａの透過率は、主にホール１３２Ａの開口径Ｄ１により決まる。開口径Ｄ１が大きくなるほど透過率が高くなる一方、混色が発生しやすくなる。一般的に、開口率がホールピッチＰ１の５０％〜６０％になるように開口径Ｄ１を設定することが望ましい。
また、上述したように、プラズモンフィルタ１２１Ａの各ホール１３２Ａは、導波管として作用する。従って、プラズモンフィルタ１２１Ａのホールアレイのパターンによっては、分光特性において、表面プラズモン共鳴により透過される波長成分（プラズモンモードにおける波長成分）だけでなく、ホール１３２Ａ（導波管）を透過する波長成分（導波管モードにおける波長成分）が大きくなる場合がある。
図８は、図６の線Ｌ１３により表される分光特性と同様に、ホールピッチＰ１を５００ｎｍに設定した場合のプラズモンフィルタ１２１Ａの分光特性を示している。この例において、６３０ｎｍ付近の遮断波長より長波長側がプラズモンモードにおける波長成分であり、遮断波長より短波長側が導波管モードにおける波長成分である。
上述したように、遮断波長は、主にホール１３２Ａの開口径Ｄ１に依存し、開口径Ｄ１が小さいほど遮断波長も短くなる。そして、遮断波長とプラズモンモードにおけるピーク波長との間の差をより大きくするほど、プラズモンフィルタ１２１Ａの波長分解能特性が向上する。
また、上述したように、導体薄膜１３１Ａのプラズマ周波数ωｐが高くなるほど、導体薄膜１３１Ａの表面プラズマ周波数ωｓｐが高くなる。また、層間膜１０２の誘電率εｄが小さくなるほど、表面プラズマ周波数ωｓｐが高くなる。そして、表面プラズマ周波数ωｓｐが高くなるほど、プラズモンの共鳴周波数をより高く設定することができ、プラズモンフィルタ１２１Ａの透過帯域（プラズモンの共鳴波長）をより短い波長帯域に設定することが可能になる。
従って、プラズマ周波数ωｐがより小さい金属を導体薄膜１３１Ａに用いた方が、プラズモンフィルタ１２１Ａの透過帯域をより短い波長帯域に設定することが可能になる。例えば、アルミニウム、銀、金等が好適である。ただし、透過帯域を赤外光などの長い波長帯域に設定する場合には、銅なども用いることが可能である。
また、誘電率εｄがより小さい誘電体を層間膜１０２に用いた方が、プラズモンフィルタ１２１Ａの透過帯域をより短い波長帯域に設定することが可能になる。例えば、ＳｉＯ２、Ｌｏｗ−Ｋ等が好適である。
また、図９は、導体薄膜１３１Ａにアルミニウムを用い、層間膜１０２にＳｉＯ２を用いた場合の導体薄膜１３１Ａと層間膜１０２の界面における表面プラズモンの伝搬特性を示すグラフである。グラフの横軸は光の波長（単位はｎｍ）を示し、縦軸は伝搬距離（単位はμｍ）を示している。また、線Ｌ２１は、界面方向の伝搬特性を示し、線Ｌ２２は、層間膜１０２の深さ方向（界面に垂直な方向）の伝搬特性を示し、線Ｌ２３は、導体薄膜１３１Ａの深さ方向（界面に垂直な方向）の伝搬特性を示している。
表面プラズモンの深さ方向の伝搬距離ΛＳＰＰ（λ）は、次式（６）により表される。
Figure 2021165754
ｋＳＰＰは、表面プラズモンが伝搬する物質の吸収係数を示す。εｍ（λ）は、波長λの光に対する導体薄膜１３１Ａの誘電率を示す。εｄ（λ）は、波長λの光に対する層間膜１０２の誘電率を示す。
従って、図９に示されるように、波長４００ｎｍの光に対する表面プラズモンは、ＳｉＯ２からなる層間膜１０２の表面から深さ方向に約１００ｎｍまで伝搬する。従って、層間膜１０２の厚みを１００ｎｍ以上に設定することにより、層間膜１０２と導体薄膜１３１Ａとの界面における表面プラズモンに、層間膜１０２の導体薄膜１３１Ａと反対側の面に積層された物質の影響が及ぶことが防止される。
また、波長４００ｎｍの光に対する表面プラズモンは、アルミニウムからなる導体薄膜１３１Ａの表面から深さ方向に約１０ｎｍまで伝搬する。従って、導体薄膜１３１Ａの厚みを１０ｎｍ以上に設定することにより、層間膜１０２と導体薄膜１３１Ａとの界面における表面プラズモンに、層間膜１０４の影響が及ぶことが防止される。
＜プラズモンフィルタのその他の例＞
次に、図１０乃至図１５を参照して、プラズモンフィルタのその他の例について説明する。
図１０Ａのプラズモンフィルタ１２１Ｂは、導体薄膜１３１Ｂにホール１３２Ｂが直行行列状に配置されたプラズモン共鳴体により構成されている。プラズモンフィルタ１２１Ｂにおいては、例えば、隣接するホール１３２Ｂ間のピッチＰ２により透過帯域が変化する。
また、プラズモン共鳴体において、全てのホールが導体薄膜を貫通する必要はなく、一部のホールを導体薄膜を貫通しない非貫通穴により構成しても、プラズモン共鳴体はフィルタとして機能する。
例えば、図１０Ｂには、導体薄膜１３１Ｃに貫通穴からなるホール１３２Ｃ、及び、非貫通穴からなるホール１３２Ｃ’がハニカム状に配置されたプラズモン共鳴体により構成されたプラズモンフィルタ１２１Ｃの平面図および断面図（平面図におけるＡ−Ａ’での断面図）が示されている。すなわち、プラズモンフィルタ１２１Ｃには、貫通穴からなるホール１３２Ｃと非貫通穴からなるホール１３２Ｃ’とが周期的に配置されている。
さらに、プラズモンフィルタとしては、基本的に単層のプラズモン共鳴体が使用されるが、例えば、２層のプラズモン共鳴体により構成することもできる。
例えば、図１１に示されているプラズモンフィルタ１２１Ｄは、２層のプラズモンフィルタ１２１Ｄ−１及びプラズモンフィルタ１２１Ｄ−２により構成されている。プラズモンフィルタ１２１Ｄ−１及びプラズモンフィルタ１２１Ｄ−２は、図４のプラズモンフィルタ１２１Ａを構成するプラズモン共鳴体と同様に、ホールがハニカム状に配置された構造となっている。
また、プラズモンフィルタ１２１Ｄ−１とプラズモンフィルタ１２１Ｄ−２との間隔Ｄ２は、透過帯域のピーク波長の１／４程度とすることが好適である。また、設計自由度を考慮すると、間隔Ｄ２は、透過帯域のピーク波長の１／２以下がより好適である。
なお、プラズモンフィルタ１２１Ｄのように、プラズモンフィルタ１２１Ｄ−１及びプラズモンフィルタ１２１Ｄ−２において同一のパターンでホールが配置されるようにする他、例えば、２層のプラズモン共鳴体構造において互いに相似するパターンでホールが配置されていてもよい。また、２層のプラズモン共鳴体構造において、ホールアレイ構造とドットアレイ構造（後述）とが反転するようなパターンでホールとドットとが配置されていてもよい。さらに、プラズモンフィルタ１２１Ｄは２層構造となっているが、３層以上の多層化も可能である。
また、以上では、ホールアレイ構造のプラズモン共鳴体によるプラズモンフィルタの構成例を示したが、プラズモンフィルタとして、ドットアレイ構造のプラズモン共鳴体を採用してもよい。
図１２を参照して、ドットアレイ構造のプラズモンフィルタについて説明する。
図１２Ａのプラズモンフィルタ１２１Ａ’は、図４のプラズモンフィルタ１２１Ａのプラズモン共鳴体に対してネガポジ反転した構造、すなわち、ドット１３３Ａが誘電体層１３４Ａにハニカム状に配置されたプラズモン共鳴体により構成されている。各ドット１３３Ａ間には、誘電体層１３４Ａが充填されている。
プラズモンフィルタ１２１Ａ’は、所定の波長帯域の光を吸収するため、補色系のフィルタとして用いられる。プラズモンフィルタ１２１Ａ’が吸収する光の波長帯域（以下、吸収帯域と称する）は、隣接するドット１３３Ａ間のピッチ（以下、ドットピッチと称する）Ｐ３等により変化する。また、ドットピッチＰ３に合わせて、ドット１３３Ａの径Ｄ３が調整される。
図１２Ｂのプラズモンフィルタ１２１Ｂ’は、図１０Ａのプラズモンフィルタ１２１Ｂのプラズモン共鳴体に対してネガポジ反転した構造、すなわち、ドット１３３Ｂが誘電体層１３４Ｂに直行行列状に配置されたプラズモン共鳴体構造により構成されている。各ドット１３３Ｂ間には、誘電体層１３４Ｂが充填されている。
プラズモンフィルタ１２１Ｂ’の吸収帯域は、隣接するドット１３３Ｂ間のドットピッチＰ４等により変化する。また、ドットピッチＰ４に合わせて、ドット１３３Ｂの径Ｄ３が調整される。
図１３は、図１２Ａのプラズモンフィルタ１２１Ａ’のドットピッチＰ３を変化させた場合の分光特性の例を示すグラフである。グラフの横軸は波長（単位はｎｍ）を示し、縦軸は透過率を示している。線Ｌ３１は、ドットピッチＰ３を３００ｎｍに設定した場合の分光特性を示し、線Ｌ３２は、ドットピッチＰ３を４００ｎｍに設定した場合の分光特性を示し、線Ｌ３３は、ドットピッチＰ３を５００ｎｍに設定した場合の分光特性を示している。
この図に示されるように、ドットピッチＰ３が狭くなるにつれて、プラズモンフィルタ１２１Ａ’の吸収帯域は短波長側にシフトし、ドットピッチＰ３が広くなるにつれて、プラズモンフィルタ１２１Ａ’の吸収帯域は長波長側にシフトする。
なお、ホールアレイ構造及びドットアレイ構造のいずれのプラズモンフィルタにおいても、ホール又はドットの平面方向のピッチを調整するだけで、透過帯域又は吸収帯域を調整することができる。従って、例えば、リソグラフィ工程においてホール又はドットのピッチを調整するだけで、画素毎に透過帯域又は吸収帯域を個別に設定することが可能であり、より少ない工程でフィルタの多色化が可能になる。
また、プラズモンフィルタの厚さは、有機材料系のカラーフィルタとほぼ同様の約１００〜５００ｎｍ程度であり、プロセスの親和性が良い。
また、狭帯域フィルタＮＢには、図１４に示されるＧＭＲ（Guided Mode Resonant）を用いたプラズモンフィルタ１５１を用いることも可能である。
プラズモンフィルタ１５１においては、上から順に、導体層１６１、ＳｉＯ２膜１６２、ＳｉＮ膜１６３、ＳｉＯ２基板１６４が積層されている。導体層１６１は、例えば、図３の狭帯域フィルタ層１０３に含まれ、ＳｉＯ２膜１６２、ＳｉＮ膜１６３、及び、ＳｉＯ２基板１６４は、例えば、図３の層間膜１０４に含まれる。
導体層１６１には、例えばアルミニウムからなる矩形の導体薄膜１６１Ａが、所定のピッチＰ５で、導体薄膜１６１Ａの長辺側が隣接するように並べられている。そして、ピッチＰ５等によりプラズモンフィルタ１５１の透過帯域が変化する。
図１５は、ピッチＰ５を変化させた場合のプラズモンフィルタ１５１の分光特性の例を示すグラフである。グラフの横軸は波長（単位はｎｍ）を示し、縦軸は透過率を示している。この例では、ピッチＰ５を２８０ｎｍから４８０ｎｍまで４０ｎｍ刻みで６種類に変化させるとともに、隣接する導体薄膜１６１Ａの間のスリットの幅をピッチＰ５の１／４に設定した場合の分光特性の例を示している。また、透過帯域のピーク波長が最も短い波形が、ピッチＰ５を２８０ｎｍに設定した場合の分光特性を示し、ピッチＰ５が広くなるにつれて、ピーク波長が長くなっている。すなわち、ピッチＰ５が狭くなるにつれて、プラズモンフィルタ１５１の透過帯域は短波長側にシフトし、ピッチＰ５が広くなるにつれて、プラズモンフィルタ１５１の透過帯域は長波長側にシフトする。
このＧＭＲを用いたプラズモンフィルタ１５１も、上述したホールアレイ構造及びドットアレイ構造のプラズモンフィルタと同様に、有機材料系のカラーフィルタと親和性が良い。
＜撮像素子の第２の実施形態＞
次に、図１６乃至図２１を参照して、図１の撮像素子１２の第２の実施形態について説明する。
図１６は、撮像素子１２の第２の実施形態である撮像素子１２Ｂの断面の構成例を模式的に示している。なお、図中、図３の撮像素子１２Ａと対応する部分には、同じ符号を付してあり、その説明は適宜省略する。
撮像素子１２Ｂは、撮像素子１２Ａと比較して、オンチップマイクロレンズ１０１と層間膜１０２の間に、カラーフィルタ層１０７が積層されている点が異なる。
撮像素子１２Ｂの狭帯域フィルタ層１０３においては、全ての画素５１ではなく、一部の画素５１にのみ狭帯域フィルタＮＢが設けられている。狭帯域フィルタＮＢの透過帯域の種類（バンド数）は任意であり、例えば、１以上に設定される。
カラーフィルタ層１０７には、カラーフィルタが各画素５１に設けられる。例えば、狭帯域フィルタＮＢが設けられていない画素５１においては、一般的な赤色フィルタＲ、緑色フィルタＧ、及び、青色フィルタＢ（不図示）のいずれかが設けられている。これにより、例えば、赤色フィルタＲが設けられたＲ画素、緑色フィルタＧが設けられたＧ画素、青色フィルタが設けられたＢ画素、及び、狭帯域フィルタＮＢが設けられたＭＳ画素が、画素アレイ３１に配列される。
また、狭帯域フィルタＮＢが設けられている画素５１においては、カラーフィルタ層１０７に透過フィルタＰが設けられる。透過フィルタＰは、後述するように、同じ画素５１の狭帯域フィルタＮＢの透過帯域を含む波長帯域の光を透過する光学フィルタ（ローパスフィルタ、ハイパスフィルタ、又は、バンドパスフィルタ）により構成される。
なお、カラーフィルタ層１０７に設けられるカラーフィルタは、有機材料系及び無機材料系のいずれであってもよい。
有機材料系のカラーフィルタには、例えば、合成樹脂若しくは天然蛋白を用いた染色着色系、及び、顔料色素若しくは染料色素を用いた色素含有系がある。
無機材料系のカラーフィルタには、例えば、ＴｉＯ２、ＺｎＳ、ＳｉＮ、ＭｇＦ２、ＳｉＯ２、Ｌｏｗ−ｋ等の材料が用いられる。また、無機材料系のカラーフィルタの形成には、例えば、蒸着、スパッタリング、ＣＶＤ（Chemical Vapor Deposition）成膜等の手法が用いられる。
また、層間膜１０２は、図９を参照して上述したように、層間膜１０２と狭帯域フィルタ層１０３との界面における表面プラズモンに、カラーフィルタ層１０７の影響が及ぶことが防止可能な膜厚に設定される。
ここで、カラーフィルタ層１０７に設けられた透過フィルタＰにより、フレアの発生が抑制される。この点について、図１７及び図１８を参照して説明する。
図１７は、カラーフィルタ層１０７が設けられていない図２の撮像素子１２Ａを用いた撮像装置１０におけるフレアの発生の様子を模式的に示している。
この例において、撮像素子１２Ａは、半導体チップ２０３に設けられている。具体的には、半導体チップ２０３は、基板２１３上に実装され、周囲がシールガラス２１１及び樹脂２１２により覆われている。そして、図１の光学系１１に設けられているレンズ２０１及びＩＲカットフィルタ２０２、並びに、シールガラス２１１を透過した光が、撮像素子１２Ａに入射する。
ここで、撮像素子１２Ａの狭帯域フィルタ層１０３の狭帯域フィルタＮＢがプラズモンフィルタからなる場合、プラズモンフィルタには金属製の導体薄膜が形成されている。この導体薄膜は反射率が高いため、透過帯域以外の波長の光を反射しやすい。そして、導体薄膜で反射された光の一部が、例えば、図１７に示されるように、シールガラス２１１、ＩＲカットフィルタ２０２、又は、レンズ２０１で反射され、撮像素子１２Ａに再入射する。これらの再入射光によりフレアが発生する。特にホールアレイ構造を用いたプラズモンフィルタは、開口率が低いため、フレアが発生しやすい。
この反射光を防止するために、例えば、導体薄膜とは異なる金属や誘電率の高い材料からなる反射防止膜を使用することが考えられる。しかし、プラズモンフィルタは、表面プラズモン共鳴を利用しており、そのような反射防止膜が導体薄膜の表面に触れてしまうと、プラズモンフィルタの特性が劣化してしまったり、所望の特性が得づらくなったりする可能性がある。
一方、図１８は、カラーフィルタ層１０７が設けられている図１６の撮像素子１２Ｂを用いた撮像装置１０におけるフレアの発生の様子を模式的に示している。なお、図中、図１７と対応する部分には、同じ符号を付してある。
図１８の例は、図１７の例と比較して、半導体チップ２０３の代わりに半導体チップ２２１が設けられている点が異なる。半導体チップ２２１は、半導体チップ２０３と比較して、撮像素子１２Ａの代わりに撮像素子１２Ｂが設けられている点が異なる。
上述したように、撮像素子１２Ｂにおいては、狭帯域フィルタＮＢより上方（光の入射側）に透過フィルタＰが設けられている。従って、撮像素子１２Ｂに入射した光は、透過フィルタＰにより所定の波長帯域が遮断されてから狭帯域フィルタＮＢに入射するため、狭帯域フィルタＮＢへの入射光の光量が抑制される。その結果、狭帯域フィルタＮＢ（プラズモンフィルタ）の導体薄膜による反射光の光量も低減するため、フレアが低減される。
図１９乃至図２１は、狭帯域フィルタＮＢの分光特性と、狭帯域フィルタＮＢの上方に配置される透過フィルタＰの分光特性の例を示している。なお、図１９乃至図２１のグラフの横軸は波長（単位はｎｍ）を示し、縦軸は感度（単位は任意単位）を示している。
図１９の線Ｌ４１は、狭帯域フィルタＮＢの分光特性を示している。この狭帯域フィルタＮＢの分光特性のピーク波長は、約４３０ｎｍ付近である。線Ｌ４２は、ローパス型の透過フィルタＰの分光特性を示している。線Ｌ４３は、ハイパス型の透過フィルタＰの分光特性を示している。線Ｌ４４は、バンドパス型の透過フィルタＰの分光特性を示している。いずれの透過フィルタＰの感度も、狭帯域フィルタＮＢの分光特性のピーク波長を含む所定の波長帯域において、狭帯域フィルタＮＢの感度を上回っている。従って、いずれの透過フィルタＰを用いても、狭帯域フィルタＮＢの透過帯域の光をほぼ減衰させずに、狭帯域フィルタＮＢに入射する入射光の光量を低減させることができる。
図２０の線Ｌ５１は、狭帯域フィルタＮＢの分光特性を示している。この狭帯域フィルタＮＢの分光特性のピーク波長は、約５３０ｎｍ付近である。線Ｌ５２は、ローパス型の透過フィルタＰの分光特性を示している。線Ｌ５３は、ハイパス型の透過フィルタＰの分光特性を示している。線Ｌ５４は、バンドパス型の透過フィルタＰの分光特性を示している。いずれの透過フィルタの感度も、狭帯域フィルタＮＢの分光特性のピーク波長を含む所定の波長帯域において、狭帯域フィルタＮＢの感度を上回っている。従って、いずれの透過フィルタＰを用いても、狭帯域フィルタＮＢの透過帯域の光をほぼ減衰させずに、狭帯域フィルタＮＢに入射する入射光の光量を低減させることができる。
図２１の線Ｌ６１は、狭帯域フィルタＮＢの分光特性を示している。この狭帯域フィルタＮＢの分光特性のプラズモンモードにおけるピーク波長は、約６７０ｎｍ付近である。
線Ｌ６２は、ローパス型の透過フィルタＰの分光特性を示している。線Ｌ６３は、ハイパス型の透過フィルタＰの分光特性を示している。線Ｌ６４は、バンドパス型の透過フィルタＰの分光特性を示している。いずれの透過フィルタＰの感度も、狭帯域フィルタＮＢの分光特性の遮断波長である約６３０ｎｍ以上のプラズモンモードのピーク波長を含む所定の波長帯域において、狭帯域フィルタＮＢの感度を上回っている。従って、いずれの透過フィルタＰを用いても、狭帯域フィルタＮＢのプラズモンモードにおける透過帯域の光をほぼ減衰させずに、狭帯域フィルタＮＢに入射する入射光の光量を低減させることができる。ただし、ハイパス型又はバンドパス型の透過フィルタＰを用いた方が、狭帯域フィルタＮＢの導波管モードの波長帯域の光を遮断できるため、狭帯域のフィルタ特性としてより望ましい。
なお、赤色フィルタＲ、緑色フィルタＧ、又は、青色フィルタＢの透過帯域が、下層の狭帯域フィルタＮＢの透過帯域を含む場合、それらのフィルタを透過フィルタＰに用いてもよい。
また、図１６の例では、一部の画素５１にのみ狭帯域フィルタＮＢを設ける例を示したが、全ての画素５１に狭帯域フィルタＮＢを設けることも可能である。この場合、画素５１毎に、その画素５１の狭帯域フィルタＮＢの透過帯域を含む透過帯域を有する透過フィルタＰをカラーフィルタ層１０７に設けるようにすればよい。
さらに、カラーフィルタ層１０７のカラーフィルタの色の組合せは上述した例に限定されるものではなく、任意に変更することが可能である。
また、上述したフレア対策の必要がない場合には、例えば、狭帯域フィルタＮＢの上層に透過フィルタＰを設けないようにしたり、全ての波長の光を透過するダミーのフィルタを設けたりしてもよい。
＜撮像素子の第３の実施形態＞
次に、図２２を参照して、図１の撮像素子１２の第３の実施形態について説明する。
図２２は、撮像素子１２の第３の実施形態である撮像素子１２Ｃの断面の構成例を模式的に示している。なお、図中、図３の撮像素子１２Ａと対応する部分には、同じ符号を付してあり、その説明は適宜省略する。
撮像素子１２Ｃは、撮像素子１２Ａと比較して、狭帯域フィルタ層１０３の代わりに、フィルタ層１０８が設けられている点が異なる。また、撮像素子１２Ｃは、図１６の撮像素子１２Ｂと比較して、狭帯域フィルタＮＢとカラーフィルタ（例えば、赤色フィルタＲ、緑色フィルタＧ、青色フィルタＢ）が同じフィルタ層１０８に設けられている点が異なる。
これにより、撮像素子１２Ｃの画素アレイ３１にＲ画素、Ｇ画素、Ｂ画素、及び、ＭＳ画素を配置する場合に、カラーフィルタ層１０７を省略することができる。
なお、有機材料系のカラーフィルタを用いる場合、熱によるカラーフィルタの損傷等を防止するために、例えば、狭帯域フィルタＮＢが先に形成され、シンター処理等の高温の最終熱処理が行われた後、カラーフィルタが形成される。一方、無機材料系のカラーフィルタを用いる場合、基本的に上記の形成順の制約は必要ない。
また、図１６の撮像素子１２Ｂのようにフレア対策を施す場合、撮像素子１２Ｂと同様に、オンチップマイクロレンズ１０１と層間膜１０２の間に、カラーフィルタ層を積層するようにしてもよい。この場合、フィルタ層１０８に狭帯域フィルタＮＢが設けられている画素５１においては、カラーフィルタ層に上述した透過フィルタＰが設けられる。一方、フィルタ層１０８にカラーフィルタが設けられている画素５１においては、カラーフィルタ層にフィルタが設けられなかったり、又は、全ての波長の光を透過するダミーのフィルタ、若しくは、フィルタ層１０８と同じ色のカラーフィルタが設けられたりする。
＜＜２．マルチスペクトル画像の利用例＞＞
次に、図２３乃至図２９を参照して、図１の撮像素子１２から出力される画像（以下、マルチスペクトル画像と称する）を利用して行われる処理について説明する。
＜第１の利用例＞
図２３には、マルチスペクトル画像を利用して行われる処理の第１の利用例として、機械学習に用いられる教師データを自動的に生成する処理を行う教師データ生成システムの構成例が示されている。
図２３に示すように、教師データ生成システム３０１は、マルチスペクトルカメラ３１１、ＲＧＢカメラ３１２、記憶装置３１３、および教師データ生成処理装置３１４を備えて構成される。
マルチスペクトルカメラ３１１は、図１の撮像素子１２を備えて構成されており、教師データを生成する対象となる物体（例えば、リンゴや人物の顔など）を撮像して得られるマルチスペクトル画像を教師データ生成処理装置３１４に供給する。
ＲＧＢカメラ３１２は、カラー画像（いわゆるＲＧＢ画像）を撮像可能な撮像装置であり、マルチスペクトルカメラ３１１により撮像されるのと同一の物体を撮像し、その結果得られるカラー画像を教師データ生成処理装置３１４に供給する。
記憶装置３１３は、例えば、ハードディスクドライブや半導体メモリなどにより構成され、教師データ生成処理装置３１４から供給される教師データを記憶する。
教師データ生成処理装置３１４は、マルチスペクトルカメラ３１１から供給されるマルチスペクトル画像、および、ＲＧＢカメラ３１２から供給されるカラー画像に基づいて、機械学習に用いられる教師データを自動的に生成する処理を行う。
一般的に、多数の波長帯域に分光された光により物体を撮像することにより取得されるマルチスペクトル画像から、被写体となった物体の種別ごとに特有の分光特性を示すスペクトル情報を抽出することができる。従って、物体ごとの分光特性に基づいて、マルチスペクトル画像に写されている物体を高精度に認識することが可能とされている。これに対し、カラー画像は、３つの波長帯域（例えば、Ｒ，Ｇ，Ｂ）の光により物体を撮像するだけであり、カラー画像に写されている物体を高精度に認識するためには、大量の教師データを用いた機械学習を事前に行う必要がある。そのため、カラー画像による物体認識を行うための機械学習に用いられる教師データ、例えば、物体の種別を示す名称が付加されたカラー画像を自動的に生成することが必要とされている。
図示するように、教師データ生成処理装置３１４は、スペクトル情報保持部３２１、認識処理部３２２、およびラベリング部３２３を備えて構成される。
スペクトル情報保持部３２１は、様々な物体が写されたマルチスペクトル画像から予め求められ、それらの物体の種別ごとに特有の分光特性を表すスペクトル情報を、それぞれの物体の種別を示す名称と対応付けて保持している。
認識処理部３２２は、マルチスペクトルカメラ３１１から供給されるマルチスペクトル画像において教師データを生成する対象となる物体が写されている領域における分光特性を抽出することで、その物体の分光特性を表すスペクトル情報を取得する。さらに、認識処理部３２２は、マルチスペクトル画像から取得したスペクトル情報について、スペクトル情報保持部３２１に保持されている複数のスペクトル情報との類似度を求める。
そして、認識処理部３２２は、スペクトル情報保持部３２１に保持されている複数のスペクトル情報のうち、最も類似度の高いスペクトル情報に対応付けられている名称を、教師データを生成する対象となる物体の認識結果として、ラベリング部３２３に供給する。
なお、認識処理部３２２は、ここで求められた最も高い類似度が、所定の規定値（同一の種別と判断できる閾値）以下である場合には、マルチスペクトル画像に写されている物体を認識することができなかった旨（認識不可）を認識結果とする。
ラベリング部３２３は、ＲＧＢカメラ３１２から供給されるカラー画像に対するラベリング処理、即ち、ＲＧＢカメラ３１２から供給されるカラー画像に、認識処理部３２２から供給される認識結果を付加する処理を行う。そして、ラベリング部３２３は、認識結果が付加されたカラー画像を、カラー画像による物体認識を行うための機械学習に用いる教師データとして、記憶装置３１３に供給して記憶させる。
このように教師データ生成システム３０１は構成されており、マルチスペクトル画像に写されている物体の認識結果が付加されたカラー画像を、カラー画像による物体認識を行うための機械学習に用いる教師データとして生成することができる。これにより、教師データ生成システム３０１を利用して、マルチスペクトルカメラ３１１およびＲＧＢカメラ３１２により様々な物体を撮像することにより、それらの物体についての教師データを自動的に生成することができる。
従って、従来では、例えば、教師データを生成する対象となる物体の種別が何であるかを目視により判断して、手動でラベリングを行うという膨大な手間を要していたのに対し、教師データ生成システム３０１による自動化によって、その手間を省くことができる。
即ち、教師データ生成システム３０１により、大量の教師データを迅速に生成することができる。
そして、教師データ生成システム３０１が自動的に生成する大量の教師データを用いて、カラー画像による物体認識を行うための機械学習を行うことができる。
図２４には、教師データ生成システム３０１において生成された教師データを用いて機械学習を行い、その学習結果を使用して物体認識を行う物体認識システム３０２の構成例が示されている。
図２４に示すように、物体認識システム３０２は、記憶装置３３１、学習器３３２、ＲＧＢカメラ３３３、および出力装置３３４を備えて構成される。なお、物体認識システム３０２において学習が行われるときには、少なくとも記憶装置３３１および学習器３３２を備えた構成であればよい。また、物体認識システム３０２において学習結果を使用するときには、少なくとも学習器３３２、ＲＧＢカメラ３３３、および出力装置３３４を備えた構成であればよい。
記憶装置３３１には、図２３の教師データ生成システム３０１において自動的に生成された大量の教師データ、即ち、様々な物体についての認識結果（物体の種別を示す名称）が付加されたカラー画像が記憶されている。
学習器３３２は、学習時において、記憶装置３３１に記憶されている大量の教師データを順に読み出して、例えば、同一の種別の物体が写されている複数枚の画像について、それらの物体に共通する特徴を抽出する学習を行う。そして、学習器３３２は、学習結果を使用して物体認識を行うとき、ＲＧＢカメラ３３３により撮像されたカラー画像に写されている物体の特徴と、予め学習した特徴とを比較する。これにより、学習器３３２は、ＲＧＢカメラ３３３により撮像されたカラー画像に写されている物体の種別を認識し、その認識結果（物体の種別を示す名称）を出力装置３３４に供給する。
ＲＧＢカメラ３３３は、一般的なカラー画像を撮像可能な撮像装置であり、物体認識を行う対象となる物体を撮像して得られるカラー画像を学習器３３２に供給する。
出力装置３３４は、例えば、液晶パネルや有機ＥＬ（Electro Luminescence）パネルなどの表示ディスプレイにより構成され、学習器３３２から供給される認識結果を、ＲＧＢカメラ３３３により撮像されたカラー画像に重畳させて表示する。なお、出力装置３３４がスピーカにより構成される場合には、認識結果を表現する合成音声を出力してもよい。
このように、物体認識システム３０２は、教師データ生成システム３０１において生成された教師データを用いて機械学習を行い、その学習結果を使用することによって、より高精度に、物体認識を行うことができる。
図２５は、教師データ生成システム３０１における教師データ生成処理を説明するフローチャートである。
例えば、教師データを生成する対象となる物体に対してマルチスペクトルカメラ３１１およびＲＧＢカメラ３１２が向けられた状態で、その物体の教師データの生成を指示する操作が行われると処理が開始される。ステップＳ１１において、マルチスペクトルカメラ３１１は、対象の物体が写されたマルチスペクトル画像を認識処理部３２２に供給し、ＲＧＢカメラ３１２は、対象の物体が写されたカラー画像をラベリング部３２３に供給する。
ステップＳ１２において、認識処理部３２２は、ステップＳ１１でマルチスペクトルカメラ３１１から供給されたマルチスペクトル画像から分光特性を抽出し、教師データを生成する対象となる物体の分光特性を表すスペクトル情報を取得する。
ステップＳ１３において、認識処理部３２２は、ステップＳ１２で取得したスペクトル情報について、スペクトル情報保持部３２１に保持されている複数のスペクトル情報との類似度を求める。そして、認識処理部３２２は、最も高い類似度が求められたスペクトル情報に対応付けられている名称を、教師データを生成する対象となる物体の認識結果として求めて、ラベリング部３２３に供給する。
ステップＳ１４において、ラベリング部３２３は、ステップＳ１１でＲＧＢカメラ３１２から供給されたカラー画像に対して、ステップＳ１３で認識処理部３２２から供給された認識結果をラベリングして、対象の物体の教師データを生成する。そして、ラベリング部３２３は、生成した教師データを記憶装置３１３に供給する。
ステップＳ１５において、記憶装置３１３が、ステップＳ１４でラベリング部３２３から供給された教師データを記憶した後、教師データ生成処理は終了される。その後、例えば、次の物体を対象として教師データの生成を指示する操作が行われると、以下、同様の処理が繰り返して行われる。
以上のように、教師データ生成システム３０１では、教師データを生成する対象となる物体に対するラベリング処理を自動化することができ、大量の教師データを容易に生成することができる。
＜第２の利用例＞
図２６には、マルチスペクトル画像を利用して行われる処理の第２の利用例として、対象の物体について適切な評価指標を提示する処理を行う評価指標提示システムの構成例が示されている。
図２６に示すように、評価指標提示システム３０３は、マルチスペクトルカメラ３１１、ＲＧＢカメラ３１２、出力装置３１５、および評価指標取得処理装置３１６を備えて構成される。なお、マルチスペクトルカメラ３１１およびＲＧＢカメラ３１２は、図２３の教師データ生成システム３０１と同様の構成であり、その詳細な説明は省略する。
出力装置３１５は、例えば、液晶パネルや有機ＥＬパネルなどの表示ディスプレイにより構成され、評価指標取得処理装置３１６から供給される評価指標を、ＲＧＢカメラ３１２により撮像されたカラー画像に重畳させて表示する。なお、出力装置３１５がスピーカにより構成される場合には、評価指標を表現する合成音声を出力してもよい。
評価指標取得処理装置３１６は、マルチスペクトルカメラ３１１から供給されるマルチスペクトル画像、および、ＲＧＢカメラ３１２から供給されるカラー画像に基づいて、対象の物体を認識するとともに、その物体を定量的に評価する評価指標を取得する処理を行う。
図示するように、評価指標取得処理装置３１６は、スペクトル情報保持部３２１、認識処理部３２２、ラベリング部３２３、および評価指標算出部３２４を備えて構成される。
なお、スペクトル情報保持部３２１、認識処理部３２２、およびラベリング部３２３は、図２３の教師データ生成処理装置３１４と同様の構成であり、その詳細な説明は省略する。
評価指標算出部３２４には、マルチスペクトルカメラ３１１により撮像されたマルチスペクトル画像とともに、認識処理部３２２による認識結果が供給される。そして、評価指標算出部３２４は、認識処理部３２２から供給される認識結果、即ち、評価指標を算出する対象となる物体の種別を示す名称に従って、その物体の種別に適した評価指標を自動的に選択する。例えば、評価指標算出部３２４は、物体の種別と、その種別について最適な評価指標とを対応付けて保持している。そして、図２７を参照して後述するように、トマトが対象である場合には評価指標として糖度が選択され、キャベツが対象である場合には評価指標として鮮度が選択される。
さらに、評価指標算出部３２４は、対象の物体の種別に適した評価指標を算出するのに必要な指標計算式および係数を自動に選択して、マルチスペクトル画像に基づいて評価指標を算出し、ラベリング部３２３に供給する。
これにより、ラベリング部３２３は、ＲＧＢカメラ３１２から供給されるカラー画像に対するラベリング処理、即ち、ＲＧＢカメラ３１２から供給されるカラー画像に、認識処理部３２２から供給される認識結果、および、評価指標算出部３２４から供給される評価指標を付加する処理を行う。そして、ラベリング部３２３は、認識結果および評価指標が付加されたカラー画像を、評価結果として出力装置３１５に供給して表示させる。
このように評価指標提示システム３０３は構成されており、マルチスペクトル画像に写されている物体の認識結果および評価指標が付加されたカラー画像を、出力装置３１５の表示ディスプレイに表示することができる。これにより、評価指標提示システム３０３は、所望の物体をマルチスペクトルカメラ３１１およびＲＧＢカメラ３１２で撮像するだけで、自動的に、その物体に適した評価指標を提示することができる。
従って、従来では、例えば、食品ごとに適した評価指標が異なることより、ユーザが、食品ごとに専用のソフトウェアを起動させたり、その動作モードや係数などの設定を行ったりする必要があったのに対し、評価指標提示システム３０３による自動化によって、それらの手間を省くことができる。即ち、ユーザは、対象の物体に関係なく、評価指標を提示するソフトウェアを起動させるだけで良いので、評価指標提示システム３０３により、より良好なユーザ体験を提供することができる。
図２７には、評価指標提示システム３０３が搭載された情報処理端末の使用例が示されている。
例えば、図２７Ａに示すように、トマト売り場において、情報処理端末のマルチスペクトルカメラ３１１およびＲＧＢカメラ３１２によりトマトを撮像するだけで、評価指標を提示する対象がトマトであると自動的に認識される。そして、トマトに適した評価指標として糖度が選択され、情報処理端末の出力装置３１５である表示ディスプレイには、対象のトマトに対する評価結果「このトマトの糖度 14.0」が、ＲＧＢカメラ３１２により撮像されたカラー画像に重畳して提示される。なお、例えば、物体認識処理中および評価指標取得中には、それらの処理途中であることを示すメッセージ「食品種別認識中」が表示される。
同様に、例えば、図２７Ｂに示すように、キャベツ売り場において、情報処理端末のマルチスペクトルカメラ３１１およびＲＧＢカメラ３１２によりキャベツを撮像するだけで、評価指標を提示する対象がキャベツであると自動的に認識される。そして、キャベツに適した評価指標として鮮度が選択され、情報処理端末の出力装置３１５である表示ディスプレイには、対象のキャベツに対する評価結果「このキャベツの鮮度70％」が、ＲＧＢカメラ３１２により撮像されたカラー画像に重畳して提示される。なお、例えば、物体認識処理中および評価指標取得中には、それらの処理途中であることを示すメッセージ「食品種別認識中」が表示される。
この他、評価指標提示システム３０３は、例えば、図３２を参照して後述するような食品のうまみや、図３３を参照して後述するような果物の水分などを評価指標として求めることができる。
図２８は、評価指標提示システム３０３における評価指標提示処理を説明するフローチャートである。
例えば、評価指標を提示する対象となる物体に対してマルチスペクトルカメラ３１１およびＲＧＢカメラ３１２が向けられた状態で、その物体の評価指標の提示を指示する操作が行われると処理が開始される。そして、ステップＳ２１乃至Ｓ２３では、図２５のステップＳ１１乃至Ｓ１３と同様の処理が行われる。
ステップＳ２４において、評価指標算出部３２４は、ステップＳ２３で認識処理部３２２から供給される認識結果に従って、対象の物体の種別について最適な評価指標を自動的に選択する。
ステップＳ２５において、評価指標算出部３２４は、ステップＳ２４で選択した評価指標を算出するのに必要な指標計算式および係数を自動に選択して、その評価指標を算出し、ラベリング部３２３に供給する。
ステップＳ２６において、ラベリング部３２３は、ステップＳ２１でＲＧＢカメラ３１２から供給されるカラー画像に、ステップＳ２３で認識処理部３２２から供給される認識結果、および、ステップＳ２５で評価指標算出部３２４から供給される評価指標をラベリングして、対象の物体の評価結果を生成する。そして、ラベリング部３２３は、生成した評価結果を出力装置３１５に供給する。
ステップＳ２７において、出力装置３１５が、ステップＳ２６でラベリング部３２３から供給された評価結果を出力した後、評価指標提示処理は終了される。その後、例えば、次の物体を対象として評価指標の提示を指示する操作が行われると、以下、同様の処理が繰り返して行われる。
以上のように、評価指標提示システム３０３では、評価指標を提示する対象となる物体を撮像するだけで、その物体に適した評価結果を自動的に提示することができ、例えば、より良好なユーザ体験を提供することができる。
図２９は、上述した一連の処理（図２５の教師データ生成処理、および、図２８の評価指標提示処理）をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
コンピュータにおいて、CPU（Central Processing Unit）４０１，ROM（Read Only Memory）４０２，RAM（Random Access Memory）４０３、およびEEPROM（Electronically Erasable and Programmable Read Only Memory）４０４は、バス４０５により相互に接続されている。バス４０５には、さらに、入出力インタフェース４０６が接続されており、入出力インタフェース４０６が外部（例えば、マルチスペクトルカメラ３１１やＲＧＢカメラ３１２など）に接続される。
以上のように構成されるコンピュータでは、CPU４０１が、例えば、ROM４０２およびEEPROM４０４に記憶されているプログラムを、バス４０５を介してRAM４０３にロードして実行することにより、上述した一連の処理が行われる。また、コンピュータ（CPU１０１）が実行するプログラムは、ROM４０２に予め書き込んでおく他、入出力インタフェース４０５を介して外部からEEPROM４０４にインストールしたり、更新したりすることができる。
なお、教師データ生成システム３０１および評価指標提示システム３０３は、マルチスペクトルカメラ３１１とＲＧＢカメラ３１２との２台を備える構成とする他、例えば、多波長を検出可能な１台のカメラを備える構成としてもよい。
また、教師データ生成システム３０１および評価指標提示システム３０３が、図１の撮像素子１２を備えた撮像装置１０に組み込まれて構成されてもよく、例えば、撮像装置１０から教師データや評価結果などが出力されるようにすることができる。
なお、教師データ生成システム３０１および評価指標提示システム３０３は、上述したようなマルチスペクトルカメラ３１１だけを使用して物体を認識するのに限定されることはなく、その他の種類のセンサを使用してもよい。例えば、輝度情報を取得する輝度センサや、距離情報を取得するToF（Time-of-Flight）センサ、種々の環境情報を取得するアビエントセンサ、赤外線情報を取得する赤外線センサ、温度情報を取得するサーマルセンサなどを使用して、それらのセンサにより取得される情報により構成される画像を物体の認識に用いることができる。
さらに、図１の撮像素子１２から出力されるマルチスペクトル画像を利用して自動化されるラベリング処理は、物体の認識結果や評価結果に限られることはなく、様々な情報のラベリングを行うことができる。
＜＜３．変形例＞＞
以下、上述した本技術の実施形態の変形例について説明する。
例えば、ホールピッチ（透過帯域）に応じて、導体薄膜の膜厚を３種類以上設定するようにしてもよい。
また、ドットアレイ構造のプラズモンフィルタにおいても、ドットピッチ（吸収帯域）に応じて、導体薄膜（ドット）の膜厚を変えるようにしてもよい。
具体的には、図１３に示されるように、基本的に、ドットピッチが狭くなり、吸収帯域が短波長になるにつれて、吸収帯域のピーク幅及び半値幅は狭くなるが、吸収率（吸収帯域の負のピーク値）は低下する。逆に、基本的に、ドットピッチが広くなり、吸収帯域が長波長になるにつれて、吸収率（吸収帯域の負のピーク値）は向上するが、吸収帯域のピーク幅及び半値幅は広くなる。
また、基本的に、ドットを構成する導体薄膜が薄くなるにつれて、吸収率は低下するが、吸収帯域のピーク幅及び半値幅は狭くなる。逆に、基本的に、ドットを構成する導体薄膜が厚くなるにつれて、吸収帯域のピーク幅及び半値幅は広くなるが、吸収率は向上する。
従って、例えば、プラズモンフィルタのドットピッチが狭くなり、吸収帯域が短波長になるにつれて、吸収帯域のピーク幅及び半値幅が少し広くなっても、導体薄膜を厚くし、吸収率を上げることが望ましい。一方、プラズモンフィルタのドットピッチが広くなり、吸収帯域が長波長になるにつれて、吸収率が少し低下しても、導体薄膜を薄くし、透過帯域のピーク幅及び半値幅を狭くすることが望ましい。
さらに、例えば、同じ透過帯域（ホールピッチ）又は吸収帯域（ドットピッチ）のプラズモンフィルタに対して、導体薄膜の膜厚を画素毎に変えるようにしてもよい。これにより、透過帯域又は吸収帯域が同じであるが、感度又は吸収率が異なる画素を設けることが可能になる。従って、例えば、一部の画素の狭帯域光の検出精度を向上させることができる。
また、本技術は、上述した裏面照射型のＣＭＯＳイメージセンサだけでなく、プラズモンフィルタを用いる他の撮像素子に適用することが可能である。例えば、表面照射型のＣＭＯＳイメージセンサ、ＣＣＤ（Charge Coupled Device）イメージセンサ、有機光電変換膜や量子ドット構造などを内包したフォトコンダクタ構造のイメージセンサ等に、本技術を適用することができる。
また、本技術は、例えば、図３０に示される積層型の固体撮像装置に適用することが可能である。
図３０Ａは、非積層型の固体撮像装置の概略構成例を示している。固体撮像装置１０１０は、図３０Ａに示すように、１枚のダイ（半導体基板）１０１１を有する。このダイ１０１１には、画素がアレイ状に配置された画素領域１０１２と、画素の駆動その他の各種の制御を行う制御回路１０１３と、信号処理するためのロジック回路１０１４とが搭載されている。
図３０Ｂ及び図３０Ｃは、積層型の固体撮像装置の概略構成例を示している。固体撮像装置１０２０は、図３０Ｂ及び図３０Ｃに示すように、センサダイ１０２１とロジックダイ１０２２との２枚のダイが積層され、電気的に接続されて、１つの半導体チップとして構成されている。
図３０Ｂでは、センサダイ１０２１には、画素領域１０１２と制御回路１０１３が搭載され、ロジックダイ１０２２には、信号処理を行う信号処理回路を含むロジック回路１０１４が搭載されている。
図３０Ｃでは、センサダイ１０２１には、画素領域１０１２が搭載され、ロジックダイ１０２４には、制御回路１０１３及びロジック回路１０１４が搭載されている。
さらに、本技術は、プラズモンフィルタ以外の金属薄膜を用いた金属薄膜フィルタに適用することができ、また応用例として、半導体材料を用いたフォトニック結晶への適用の可能性も考えられる。
＜＜４．応用例＞＞
次に、本技術の応用例について説明する。
＜本技術の応用例＞
例えば、本技術は、図３１に示されるように、可視光や、赤外光、紫外光、Ｘ線等の光をセンシングする様々なケースに応用することができる。
・デジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供され装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
以下、より具体的な応用例について説明する。
例えば、図１の撮像装置１０の各画素５１の狭帯域フィルタＮＢの透過帯域を調整することにより、撮像装置１０の各画素５１が検出する光の波長帯域（以下、検出帯域と称する）を調整することができる。そして、各画素５１の検出帯域を適切に設定することにより、撮像装置１０を様々な用途に用いることができる。
例えば、図３２は、食品のうまみや鮮度を検出する場合の検出帯域の例が示されている。
例えば、マグロや牛肉等のうまみ成分を示すミオグロビンを検出する場合の検出帯域のピーク波長は５８０〜６３０ｎｍの範囲内であり、半値幅は３０〜５０ｎｍの範囲内である。マグロや牛肉等の鮮度を示すオレイン酸を検出する場合の検出帯域のピーク波長は９８０ｎｍであり、半値幅は５０〜１００ｎｍの範囲内である。小松菜などの葉物野菜の鮮度を示すクロロフィルを検出する場合の検出帯域のピーク波長は６５０〜７００ｎｍの範囲内であり、半値幅は５０〜１００ｎｍの範囲内である。
図３３は、果物の糖度や水分を検出する場合の検出帯域の例が示されている。
例えば、メロンの一品種であるらいでんの糖度を示す果肉光路長を検出する場合の検出帯域のピーク波長は８８０ｎｍであり、半値幅は２０〜３０ｎｍの範囲内である。らいでんの糖度を示すショ糖を検出する場合の検出帯域のピーク波長は９１０ｎｍであり、半値幅は４０〜５０ｎｍの範囲内である。メロンの他の品種であるらいでんレッドの糖度を示すショ糖を検出する場合の検出帯域のピーク波長は９１５ｎｍであり、半値幅は４０〜５０ｎｍの範囲内である。らいでんレッドの糖度を示す水分を検出する場合の検出帯域のピーク波長は９５５ｎｍであり、半値幅は２０〜３０ｎｍの範囲内である。
りんごの糖度の糖度を示すショ糖を検出する場合の検出帯域のピーク波長は９１２ｎｍであり、半値幅は４０〜５０ｎｍの範囲内である。みかんの水分を示す水を検出する場合の検出帯域のピーク波長は８４４ｎｍであり、半値幅は３０ｎｍである。みかんの糖度を示すショ糖を検出する場合の検出帯域のピーク波長は９１４ｎｍであり、半値幅は４０〜５０ｎｍの範囲内である。
図３４は、プラスチックの分別を行う場合の検出帯域の例が示されている。
例えば、ＰＥＴ（Poly Ethylene Terephthalate）を検出する場合の検出帯域のピーク波長は１６６９ｎｍであり、半値幅は３０〜５０ｎｍの範囲内である。ＰＳ（Poly Styrene）を検出する場合の検出帯域のピーク波長は１６８８ｎｍであり、半値幅は３０〜５０ｎｍの範囲内である。ＰＥ（Poly Ethylene）を検出する場合の検出帯域のピーク波長は１７３５ｎｍであり、半値幅は３０〜５０ｎｍの範囲内である。ＰＶＣ（Poly Vinyl Cloride）を検出する場合の検出帯域のピーク波長は１７１６〜１７２６ｎｍの範囲内であり、半値幅は３０〜５０ｎｍの範囲内である。ＰＰ（Polyepropylene）を検出する場合の検出帯域のピーク波長は１７１６〜１７３５ｎｍの範囲内であり、半値幅は３０〜５０ｎｍの範囲内である。
また、例えば、本技術は、切り花の鮮度管理に適用することができる。
さらに、例えば、本技術は、食品に混入している異物検査に適用することができる。例えば、本技術は、アーモンド、ブルーベリー、クルミ等のナッツや果物類に混入している皮、殻、石、葉、枝、木片等の異物の検出に適用することができる。また、例えば、本技術は、加工食品や飲料等に混入しているプラスチック片等の異物の検出に適用することができる。
さらに、例えば、本技術は、植生の指標であるＮＤＶＩ（Normalized Difference Vegetation Index）の検出に適用することができる。
また、例えば、本技術は、人の肌のヘモグロビン由来の波長５８０ｎｍ付近の分光形状、及び、人肌に含まれるメラニン色素由来の波長９６０ｎｍ付近の分光形状のどちらか一方、又は、両者に基づいて、人の検出に適用することができる。
さらに、例えば、本技術は、生体検知（生体認証）、ユーザインタフェース、サイン等の偽造防止及び監視等に適用することができる。
＜内視鏡手術システムへの応用例＞
また、例えば、本開示に係る技術（本技術）は、内視鏡手術システムに適用されてもよい。
図３５は、本開示に係る技術（本技術）が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。
図３５では、術者（医師）１１１３１が、内視鏡手術システム１１０００を用いて、患者ベッド１１１３３上の患者１１１３２に手術を行っている様子が図示されている。図示するように、内視鏡手術システム１１０００は、内視鏡１１１００と、気腹チューブ１１１１１やエネルギー処置具１１１１２等の、その他の術具１１１１０と、内視鏡１１１００を支持する支持アーム装置１１１２０と、内視鏡下手術のための各種の装置が搭載されたカート１１２００と、から構成される。
内視鏡１１１００は、先端から所定の長さの領域が患者１１１３２の体腔内に挿入される鏡筒１１１０１と、鏡筒１１１０１の基端に接続されるカメラヘッド１１１０２と、から構成される。図示する例では、硬性の鏡筒１１１０１を有するいわゆる硬性鏡として構成される内視鏡１１１００を図示しているが、内視鏡１１１００は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。
鏡筒１１１０１の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡１１１００には光源装置１１２０３が接続されており、当該光源装置１１２０３によって生成された光が、鏡筒１１１０１の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者１１１３２の体腔内の観察対象に向かって照射される。なお、内視鏡１１１００は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド１１１０２の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ: Camera Control Unit）１１２０１に送信される。
ＣＣＵ１１２０１は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等によって構成され、内視鏡１１１００及び表示装置１１２０２の動作を統括的に制御する。さらに、ＣＣＵ１１２０１は、カメラヘッド１１１０２から画像信号を受け取り、その画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。
表示装置１１２０２は、ＣＣＵ１１２０１からの制御により、当該ＣＣＵ１１２０１によって画像処理が施された画像信号に基づく画像を表示する。
光源装置１１２０３は、例えばＬＥＤ（light emitting diode）等の光源から構成され、術部等を撮影する際の照射光を内視鏡１１１００に供給する。
入力装置１１２０４は、内視鏡手術システム１１０００に対する入力インタフェースである。ユーザは、入力装置１１２０４を介して、内視鏡手術システム１１０００に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、内視鏡１１１００による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示等を入力する。
処置具制御装置１１２０５は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具１１１１２の駆動を制御する。気腹装置１１２０６は、内視鏡１１１００による視野の確保及び術者の作業空間の確保の目的で、患者１１１３２の体腔を膨らめるために、気腹チューブ１１１１１を介して当該体腔内にガスを送り込む。レコーダ１１２０７は、手術に関する各種の情報を記録可能な装置である。プリンタ１１２０８は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
なお、内視鏡１１１００に術部を撮影する際の照射光を供給する光源装置１１２０３は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置１１２０３において撮像画像のホワイトバランスの調整を行うことができる。
また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド１１１０２の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置１１２０３は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド１１１０２の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置１１２０３は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow Band Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。
光源装置１１２０３は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。
図３６は、図３５に示すカメラヘッド１１１０２及びＣＣＵ１１２０１の機能構成の一例を示すブロック図である。
カメラヘッド１１１０２は、レンズユニット１１４０１と、撮像部１１４０２と、駆動部１１４０３と、通信部１１４０４と、カメラヘッド制御部１１４０５と、を有する。ＣＣＵ１１２０１は、通信部１１４１１と、画像処理部１１４１２と、制御部１１４１３と、を有する。カメラヘッド１１１０２とＣＣＵ１１２０１とは、伝送ケーブル１１４００によって互いに通信可能に接続されている。
レンズユニット１１４０１は、鏡筒１１１０１との接続部に設けられる光学系である。
鏡筒１１１０１の先端から取り込まれた観察光は、カメラヘッド１１１０２まで導光され、当該レンズユニット１１４０１に入射する。レンズユニット１１４０１は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。
撮像部１１４０２を構成する撮像素子は、１つ（いわゆる単板式）であってもよいし、複数（いわゆる多板式）であってもよい。撮像部１１４０２が多板式で構成される場合には、例えば各撮像素子によってＲＧＢそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、撮像部１１４０２は、３Ｄ（dimensional）表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成されてもよい。３Ｄ表示が行われることにより、術者１１１３１は術部における生体組織の奥行きをより正確に把握することが可能になる。
なお、撮像部１１４０２が多板式で構成される場合には、各撮像素子に対応して、レンズユニット１１４０１も複数系統設けられ得る。
また、撮像部１１４０２は、必ずしもカメラヘッド１１１０２に設けられなくてもよい。例えば、撮像部１１４０２は、鏡筒１１１０１の内部に、対物レンズの直後に設けられてもよい。
駆動部１１４０３は、アクチュエータによって構成され、カメラヘッド制御部１１４０５からの制御により、レンズユニット１１４０１のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部１１４０２による撮像画像の倍率及び焦点が適宜調整され得る。
通信部１１４０４は、ＣＣＵ１１２０１との間で各種の情報を送受信するための通信装置によって構成される。通信部１１４０４は、撮像部１１４０２から得た画像信号をＲＡＷデータとして伝送ケーブル１１４００を介してＣＣＵ１１２０１に送信する。
また、通信部１１４０４は、ＣＣＵ１１２０１から、カメラヘッド１１１０２の駆動を制御するための制御信号を受信し、カメラヘッド制御部１１４０５に供給する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、ユーザによって適宜指定されてもよいし、取得された画像信号に基づいてＣＣＵ１１２０１の制御部１１４１３によって自動的に設定されてもよい。後者の場合には、いわゆるＡＥ（Auto Exposure）機能、ＡＦ（Auto Focus）機能及びＡＷＢ（Auto White Balance）機能が内視鏡１１１００に搭載されていることになる。
カメラヘッド制御部１１４０５は、通信部１１４０４を介して受信したＣＣＵ１１２０１からの制御信号に基づいて、カメラヘッド１１１０２の駆動を制御する。
通信部１１４１１は、カメラヘッド１１１０２との間で各種の情報を送受信するための通信装置によって構成される。通信部１１４１１は、カメラヘッド１１１０２から、伝送ケーブル１１４００を介して送信される画像信号を受信する。
また、通信部１１４１１は、カメラヘッド１１１０２に対して、カメラヘッド１１１０２の駆動を制御するための制御信号を送信する。画像信号や制御信号は、電気通信や光通信等によって送信することができる。
画像処理部１１４１２は、カメラヘッド１１１０２から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。
制御部１１４１３は、内視鏡１１１００による術部等の撮像、及び、術部等の撮像により得られる撮像画像の表示に関する各種の制御を行う。例えば、制御部１１４１３は、カメラヘッド１１１０２の駆動を制御するための制御信号を生成する。
また、制御部１１４１３は、画像処理部１１４１２によって画像処理が施された画像信号に基づいて、術部等が映った撮像画像を表示装置１１２０２に表示させる。この際、制御部１１４１３は、各種の画像認識技術を用いて撮像画像内における各種の物体を認識してもよい。例えば、制御部１１４１３は、撮像画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具１１１１２の使用時のミスト等を認識することができる。制御部１１４１３は、表示装置１１２０２に撮像画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させてもよい。手術支援情報が重畳表示され、術者１１１３１に提示されることにより、術者１１１３１の負担を軽減することや、術者１１１３１が確実に手術を進めることが可能になる。
カメラヘッド１１１０２及びＣＣＵ１１２０１を接続する伝送ケーブル１１４００は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル１１４００を用いて有線で通信が行われていたが、カメラヘッド１１１０２とＣＣＵ１１２０１との間の通信は無線で行われてもよい。
以上、本開示に係る技術が適用され得る内視鏡手術システムの一例について説明した。
本開示に係る技術は、以上説明した構成のうち、例えば、カメラヘッド１１１０２や、カメラヘッド１１１０２の撮像部１１４０２に適用され得る。具体的には、例えば、図１の撮像素子１２を、撮像部１１４０２に適用することができる。撮像部１１４０２に本開示に係る技術を適用することにより、より詳細かつ高精度な術部画像を得ることができるため、術者が術部を確実に確認することが可能になる。
なお、ここでは、一例として内視鏡手術システムについて説明したが、本開示に係る技術は、その他、例えば、顕微鏡手術システム等に適用されてもよい。
＜移動体への応用例＞
また、例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図３７は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム１２０００は、通信ネットワーク１２００１を介して接続された複数の電子制御ユニットを備える。図３７に示した例では、車両制御システム１２０００は、駆動系制御ユニット１２０１０、ボディ系制御ユニット１２０２０、車外情報検出ユニット１２０３０、車内情報検出ユニット１２０４０、及び統合制御ユニット１２０５０を備える。また、統合制御ユニット１２０５０の機能構成として、マイクロコンピュータ１２０５１、音声画像出力部１２０５２、及び車載ネットワークＩ／Ｆ（Interface）１２０５３が図示されている。
駆動系制御ユニット１２０１０は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット１２０１０は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット１２０２０は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット１２０２０は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット１２０２０には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット１２０２０は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット１２０３０は、車両制御システム１２０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット１２０３０には、撮像部１２０３１が接続される。車外情報検出ユニット１２０３０は、撮像部１２０３１に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット１２０３０は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部１２０３１は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部１２０３１は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部１２０３１が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット１２０４０は、車内の情報を検出する。車内情報検出ユニット１２０４０には、例えば、運転者の状態を検出する運転者状態検出部１２０４１が接続される。運転者状態検出部１２０４１は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット１２０４０は、運転者状態検出部１２０４１から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット１２０１０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Advanced Driver Assistance System）の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で取得される車外の情報に基づいて、ボディ系制御ユニット１２０２０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部１２０５２は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図３７の例では、出力装置として、オーディオスピーカ１２０６１、表示部１２０６２及びインストルメントパネル１２０６３が例示されている。表示部１２０６２は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図３８は、撮像部１２０３１の設置位置の例を示す図である。
図３８では、撮像部１２０３１として、撮像部１２１０１、１２１０２、１２１０３、１２１０４、１２１０５を有する。
撮像部１２１０１、１２１０２、１２１０３、１２１０４、１２１０５は、例えば、車両１２１００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部１２１０１及び車室内のフロントガラスの上部に備えられる撮像部１２１０５は、主として車両１２１００の前方の画像を取得する。サイドミラーに備えられる撮像部１２１０２、１２１０３は、主として車両１２１００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部１２１０４は、主として車両１２１００の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部１２１０５は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図３８には、撮像部１２１０１ないし１２１０４の撮影範囲の一例が示されている。撮像範囲１２１１１は、フロントノーズに設けられた撮像部１２１０１の撮像範囲を示し、撮像範囲１２１１２，１２１１３は、それぞれサイドミラーに設けられた撮像部１２１０２，１２１０３の撮像範囲を示し、撮像範囲１２１１４は、リアバンパ又はバックドアに設けられた撮像部１２１０４の撮像範囲を示す。例えば、撮像部１２１０１ないし１２１０４で撮像された画像データが重ね合わせられることにより、車両１２１００を上方から見た俯瞰画像が得られる。
撮像部１２１０１ないし１２１０４の少なくとも１つは、距離情報を取得する機能を有していてもよい。例えば、撮像部１２１０１ないし１２１０４の少なくとも１つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を基に、撮像範囲１２１１１ないし１２１１４内における各立体物までの距離と、この距離の時間的変化（車両１２１００に対する相対速度）を求めることにより、特に車両１２１００の進行路上にある最も近い立体物で、車両１２１００と略同じ方向に所定の速度（例えば、０km/h以上）で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ１２０５１は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御（追従停止制御も含む）や自動加速制御（追従発進制御も含む）等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を元に、立体物に関する立体物データを、２輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ１２０５１は、車両１２１００の周辺の障害物を、車両１２１００のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ１２０５１は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ１２０６１や表示部１２０６２を介してドライバに警報を出力することや、駆動系制御ユニット１２０１０を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部１２１０１ないし１２１０４の少なくとも１つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部１２１０１ないし１２１０４の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。
マイクロコンピュータ１２０５１が、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部１２０５２は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部１２０６２を制御する。また、音声画像出力部１２０５２は、歩行者を示すアイコン等を所望の位置に表示するように表示部１２０６２を制御してもよい。
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、撮像部１２０３１に適用され得る。具体的には、例えば、図１の撮像装置１０を撮像部１２０３１に適用することができる。撮像部１２０３１に本開示に係る技術を適用することにより、例えば、車外の情報をより詳細かつ高精度に取得することができ、自動運転の安全性の向上等を実現することができる。
なお、本技術の実施形態は、上述した実施形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
＜構成の組み合わせ例＞
また、例えば、本技術は、以下のような構成も取ることができる。
（１）
多数の波長帯域に分光された光により物体が撮像されたマルチスペクトル画像を使用して、前記物体の種別を認識する物体認識処理を行う認識処理部と、
前記認識処理部による認識結果を、前記物体が写されたカラー画像に付加するラベリング部と
を備えるデータ処理装置。
（２）
前記認識処理部は、少なくとも一部の画素において光電変換素子より光の入射側に設けられ、導体薄膜の膜厚が画素により異なる金属薄膜フィルタを備える撮像素子が、前記物体を撮像して得られる前記マルチスペクトル画像を使用する
上記（１）に記載のデータ処理装置。
（３）
複数の物体が写された前記マルチスペクトル画像から予め求められ、前記物体の種別ごとに特有の分光特性を示すスペクトル情報を保持するスペクトル情報保持部
をさらに備え、
前記認識処理部は、前記物体認識処理の対象となる前記物体が写された前記マルチスペクトル画像から求められる前記スペクトル情報と、前記スペクトル情報保持部に保持されている複数の前記スペクトル情報との類似度に基づいて、前記物体の種別を認識する
上記（１）または（２）に記載のデータ処理装置。
（４）
前記ラベリング部により前記認識結果が付加された前記カラー画像を、任意の物体が写されたカラー画像による物体認識を行うための機械学習に用いる教師データとして記憶する記憶部
をさらに備える上記（１）から（３）までのいずれかに記載のデータ処理装置。
（５）
前記認識処理部により認識された前記物体の種別に従って、前記物体を定量的に評価する評価指標を選択し、その評価指標を算出する評価指標算出部
をさらに備え、
前記ラベリング部は、前記認識結果および前記評価指標を、前記物体が写されたカラー画像に付加する
上記（１）から（４）までのいずれかに記載のデータ処理装置。
（６）
前記認識結果および前記評価指標を、前記物体が写されたカラー画像に重畳して表示する表示部
をさらに備える上記（５）に記載のデータ処理装置。
（７）
多数の波長帯域に分光された光により物体が撮像されたマルチスペクトル画像を使用して、前記物体の種別を認識する物体認識処理を行い、
前記認識結果を、前記物体が写されたカラー画像に付加する
ステップを含むデータ処理方法。
（８）
多数の波長帯域に分光された光により物体が撮像されたマルチスペクトル画像を使用して、前記物体の種別を認識する物体認識処理を行い、
前記認識結果を、前記物体が写されたカラー画像に付加する
ステップを含むデータ処理をコンピュータに実行させるプログラム。
（９）
少なくとも一部の画素において光電変換素子より光の入射側に設けられ、導体薄膜の膜厚が画素により異なる金属薄膜フィルタを備える撮像素子と、
前記撮像素子が、多数の波長帯域に分光された光により物体を撮像して得られるマルチスペクトル画像を使用して、前記物体の種別を認識する物体認識処理を行う認識処理部と、
前記認識処理部による認識結果を、前記物体が写されたカラー画像に付加するラベリング部と
を備える電子機器。
３０１ 教師データ生成システム， ３０２ 物体認識システム， ３０３ 評価指標提示システム， ３１１ マルチスペクトルカメラ， ３１２ ＲＧＢカメラ， ３１３ 記憶装置， ３１４ 教師データ生成処理装置， ３１５ 出力装置， ３２１ スペクトル情報保持部， ３２２ 認識処理部， ３２３ ラベリング部， ３２４ 評価指標算出部， ３３１ 記憶装置， ３３２ 学習器， ３３３ ＲＧＢカメラ， ３３４ 出力装置

Claims (12)

  1. ある物体を撮像してマルチスペクトル画像を取得するマルチスペクトルカメラと、
    前記物体を撮像してカラー画像を取得するＲＧＢカメラと、
    複数の物体が写された前記マルチスペクトル画像から予め求められ、前記物体の種別ごとに特有の分光特性を示すスペクトル情報を保持するスペクトル情報保持部と、
    前記マルチスペクトルカメラにより取得された前記マルチスペクトル画像において教師データを生成する対象となる物体の分光特性を表すスペクトル情報を取得し、
    前記スペクトル情報保持部に保持されている複数の前記スペクトル情報のうち、その取得したスペクトル情報と最も高い類似度の前記スペクトル情報に対応付けられている種別を認識結果として取得し、
    前記ＲＧＢカメラにより取得された前記カラー画像に前記認識結果を付加した教師データを記憶装置に記憶させる
    処理装置と
    を備えるイメージングシステム。
  2. 前記処理装置は、
    前記最も高い類似度を所定の閾値と比較し、
    前記最も高い類似度が前記閾値よりも大きい場合のみ、前記最も高い類似度の前記スペクトル情報に対応付けられている種別を前記認識結果として取得して、その認識結果を前記カラー画像に付加する
    請求項１に記載のイメージングシステム。
  3. 前記処理装置は、前記マルチスペクトルカメラから供給されるマルチスペクトル画像において前記教師データを生成する対象となる前記物体が写されている領域における分光特性を抽出することで、その物体の分光特性を表すスペクトル情報を取得する
    請求項１に記載のイメージングシステム。
  4. 前記マルチスペクトルカメラおよび前記ＲＧＢカメラは、多波長を検出可能な１台のカメラにより構成される
    請求項１に記載のイメージングシステム。
  5. 前記記憶装置に記憶されている前記教師データを読み出して、同一の種別の物体が写されている複数枚の画像について、それらの物体に共通する特徴を抽出する学習を行う学習器を
    をさらに備える請求項１に記載のイメージングシステム。
  6. 前記学習器は、前記学習を行った学習結果を使用して物体認識を行う
    請求項５に記載のイメージングシステム。
  7. 前記学習器は、前記ＲＧＢカメラにより撮像された前記カラー画像に写されている物体の特徴と、予め学習した特徴とを比較することにより、そのカラー画像に写されている物体の種別を認識した認識結果を出力する
    請求項６に記載のイメージングシステム。
  8. 前記学習器から供給される認識結果、および、前記ＲＧＢカメラにより撮像されたカラー画像を表示する表示部
    をさらに備える請求項７に記載のイメージングシステム。
  9. 前記表示部は、前記認識結果である前記物体の種別を示す名称を、前記カラー画像に重畳させて表示する
    請求項８に記載のイメージングシステム。
  10. 対象の物体を定量的に評価する、その対象の物体の種別に適した評価指標を算出するのに必要な指標計算式および係数を前記認識結果に従って自動に選択し、前記マルチスペクトル画像に基づいて前記評価指標を算出する評価指標算出部
    をさらに備える請求項１に記載のイメージングシステム。
  11. ある物体を撮像してマルチスペクトル画像を取得するマルチスペクトルカメラと、
    前記物体を撮像してカラー画像を取得するＲＧＢカメラと、
    複数の物体が写された前記マルチスペクトル画像から予め求められ、前記物体の種別ごとに特有の分光特性を示すスペクトル情報を保持するスペクトル情報保持部と
    を備えるイメージングシステムが、
    前記マルチスペクトルカメラにより取得された前記マルチスペクトル画像において教師データを生成する対象となる物体の分光特性を表すスペクトル情報を取得することと、
    前記スペクトル情報保持部に保持されている複数の前記スペクトル情報のうち、その取得したスペクトル情報と最も高い類似度の前記スペクトル情報に対応付けられている種別を認識結果として取得することと、
    前記ＲＧＢカメラにより取得された前記カラー画像に前記認識結果を付加した教師データを記憶装置に記憶させることと
    を含むイメージング処理方法。
  12. ある物体を撮像してマルチスペクトル画像を取得するマルチスペクトルカメラと、
    前記物体を撮像してカラー画像を取得するＲＧＢカメラと、
    複数の物体が写された前記マルチスペクトル画像から予め求められ、前記物体の種別ごとに特有の分光特性を示すスペクトル情報を保持するスペクトル情報保持部と
    を備えるイメージングシステムのコンピュータに、
    前記マルチスペクトルカメラにより取得された前記マルチスペクトル画像において教師データを生成する対象となる物体の分光特性を表すスペクトル情報を取得することと、
    前記スペクトル情報保持部に保持されている複数の前記スペクトル情報のうち、その取得したスペクトル情報と最も高い類似度の前記スペクトル情報に対応付けられている種別を認識結果として取得することと、
    前記ＲＧＢカメラにより取得された前記カラー画像に前記認識結果を付加した教師データを記憶装置に記憶させることと
    を含むイメージング処理を実行させるためのプログラム。
JP2021112795A 2016-12-13 2021-07-07 イメージングシステム、イメージング処理方法、およびプログラム Active JP7130822B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021112795A JP7130822B2 (ja) 2016-12-13 2021-07-07 イメージングシステム、イメージング処理方法、およびプログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016241355A JP6910792B2 (ja) 2016-12-13 2016-12-13 データ処理装置、データ処理方法、プログラム、および電子機器
JP2021112795A JP7130822B2 (ja) 2016-12-13 2021-07-07 イメージングシステム、イメージング処理方法、およびプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2016241355A Division JP6910792B2 (ja) 2016-12-13 2016-12-13 データ処理装置、データ処理方法、プログラム、および電子機器

Publications (2)

Publication Number Publication Date
JP2021165754A true JP2021165754A (ja) 2021-10-14
JP7130822B2 JP7130822B2 (ja) 2022-09-05

Family

ID=60888561

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2016241355A Active JP6910792B2 (ja) 2016-12-13 2016-12-13 データ処理装置、データ処理方法、プログラム、および電子機器
JP2021112795A Active JP7130822B2 (ja) 2016-12-13 2021-07-07 イメージングシステム、イメージング処理方法、およびプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2016241355A Active JP6910792B2 (ja) 2016-12-13 2016-12-13 データ処理装置、データ処理方法、プログラム、および電子機器

Country Status (5)

Country Link
US (2) US11120287B2 (ja)
EP (1) EP3555805A1 (ja)
JP (2) JP6910792B2 (ja)
CN (2) CN116958632A (ja)
WO (1) WO2018110575A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7324329B1 (ja) 2022-03-18 2023-08-09 維沃移動通信有限公司 画像処理方法、装置、電子機器及び読み取り可能な記憶媒体

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6910792B2 (ja) 2016-12-13 2021-07-28 ソニーセミコンダクタソリューションズ株式会社 データ処理装置、データ処理方法、プログラム、および電子機器
US11977033B2 (en) 2018-05-31 2024-05-07 Panasonic Intellectual Property Management Co., Ltd. Learning device, inspection device, learning method, and inspection method
CN112106064A (zh) * 2018-10-15 2020-12-18 松下知识产权经营株式会社 物体识别方法、车辆控制方法、信息显示方法以及物体识别装置
US11861883B2 (en) 2019-05-16 2024-01-02 Sony Group Corporation Information processing apparatus and information processing method
TWI830907B (zh) * 2019-06-05 2024-02-01 日商索尼半導體解決方案公司 圖像辨識裝置及圖像辨識方法
CN114788257A (zh) * 2019-12-18 2022-07-22 索尼半导体解决方案公司 信息处理装置、信息处理方法、程序、成像装置和成像系统
KR20210094328A (ko) 2020-01-21 2021-07-29 삼성전자주식회사 대상체 인식 장치 및 그 동작 방법
JP6875024B2 (ja) * 2020-01-22 2021-05-19 株式会社フロンティア・フィールド 支援システム及び支援プログラム
CN111951662B (zh) * 2020-06-03 2022-06-10 中山大学 一种基于结构单元尺寸差异的物理型信息隐藏结构及其制备方法
CN111738180B (zh) * 2020-06-28 2023-03-24 浙江大华技术股份有限公司 关键点的标注方法、装置、存储介质及电子装置
JPWO2022080284A1 (ja) * 2020-10-13 2022-04-21
US11341698B1 (en) * 2020-12-18 2022-05-24 Tiliter Pty Ltd. Methods and apparatus for simulating images of produce with markings from images of produce and images of markings
KR20230136872A (ko) * 2021-01-29 2023-09-27 일루미나, 인코포레이티드 프로세스 사이클 이미지의 딥 러닝 기반 근본 원인 분석
JP2022143220A (ja) * 2021-03-17 2022-10-03 ソニーセミコンダクタソリューションズ株式会社 撮像装置、撮像方法及び電子機器
DE102021207009A1 (de) 2021-07-05 2023-01-05 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren und Vorrichtung zum Erkennen eines Pflanzengesundheitszustands von Pflanzen für eine Landmaschine
CN113777056A (zh) * 2021-08-13 2021-12-10 昆山格博尔智能科技有限责任公司 基于多光谱cmos图像芯片的油墨配色检测方法
KR102590616B1 (ko) * 2021-10-06 2023-10-17 한국식품연구원 비파괴 분석기술 기반의 배추 연부병 진단용 다분광 영상장치 및 이의 제작방법
CN115758206B (zh) * 2022-11-07 2023-05-16 武汉麓谷科技有限公司 一种快速查找ZNS固态硬盘中NorFlash上次写结束位置的方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04352078A (ja) * 1991-05-29 1992-12-07 Masanori Sugisaka 栗の形状識別方法
JPH1083455A (ja) * 1996-07-08 1998-03-31 Sony Corp 物体認識装置および方法
JP2012154628A (ja) * 2011-01-21 2012-08-16 Olympus Corp 顕微鏡システム、情報処理装置、及び情報処理プログラム
WO2013002349A1 (ja) * 2011-06-29 2013-01-03 富士通株式会社 植物種識別装置、方法およびプログラム
JP2013030626A (ja) * 2011-07-28 2013-02-07 Sony Corp 固体撮像素子および撮像システム
WO2014199720A1 (ja) * 2013-06-14 2014-12-18 シャープ株式会社 固体撮像装置

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003006612A (ja) 2001-06-20 2003-01-10 Ntt Data Corp 収穫予測装置及び方法
JP4615430B2 (ja) * 2005-12-09 2011-01-19 株式会社エヌ・ティ・ティ・データ 画像生成装置、画像生成方法および画像生成プログラム
JP4352078B2 (ja) 2007-03-28 2009-10-28 三菱電機株式会社 車載電子制御装置の給電制御回路
JP4770928B2 (ja) 2009-01-13 2011-09-14 ソニー株式会社 光学素子および固体撮像素子
US8625889B2 (en) * 2010-12-30 2014-01-07 Samsung Electronics Co., Ltd. System for food recognition method using portable devices having digital cameras
KR20140104946A (ko) * 2011-10-05 2014-08-29 시레카 테라노스틱스, 엘엘씨 스펙트럼 이미징에 의해 생물학적 표본을 분석하는 방법 및 시스템
CN102661794B (zh) * 2012-03-20 2014-08-06 清华大学 多光谱计算重构方法及系统
US9189703B2 (en) * 2012-07-09 2015-11-17 Canon Kabushiki Kaisha Systems and methods for colorimetric and spectral material estimation
EP3017423A1 (en) * 2013-07-02 2016-05-11 Roche Diagnostics GmbH Estimation of food volume and carbs
US9989463B2 (en) * 2013-07-02 2018-06-05 Canon Kabushiki Kaisha Material classification
US20150012226A1 (en) * 2013-07-02 2015-01-08 Canon Kabushiki Kaisha Material classification using brdf slices
US9606056B2 (en) * 2013-12-06 2017-03-28 Canon Kabushiki Kaisha Selection of spectral bands or filters for material classification under multiplexed illumination
US9659225B2 (en) * 2014-02-12 2017-05-23 Microsoft Technology Licensing, Llc Restaurant-specific food logging from images
US9916520B2 (en) * 2014-09-03 2018-03-13 Sri International Automated food recognition and nutritional estimation with a personal mobile electronic device
US9959628B2 (en) * 2014-11-21 2018-05-01 Christopher M. MUTTI Imaging system for object recognition and assessment
US9349297B1 (en) * 2015-09-09 2016-05-24 Fitly Inc. System and method for nutrition analysis using food image recognition
US10074028B2 (en) * 2015-10-20 2018-09-11 Arizona Board Of Regents On Behalf Of Arizona State University Real-time diet assessment and food identification using thermal imaging
US10281200B2 (en) * 2016-03-14 2019-05-07 Amazon Technologies, Inc. Image-based spoilage sensing refrigerator
US10109051B1 (en) * 2016-06-29 2018-10-23 A9.Com, Inc. Item recommendation based on feature match
JP6910792B2 (ja) 2016-12-13 2021-07-28 ソニーセミコンダクタソリューションズ株式会社 データ処理装置、データ処理方法、プログラム、および電子機器

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04352078A (ja) * 1991-05-29 1992-12-07 Masanori Sugisaka 栗の形状識別方法
JPH1083455A (ja) * 1996-07-08 1998-03-31 Sony Corp 物体認識装置および方法
JP2012154628A (ja) * 2011-01-21 2012-08-16 Olympus Corp 顕微鏡システム、情報処理装置、及び情報処理プログラム
WO2013002349A1 (ja) * 2011-06-29 2013-01-03 富士通株式会社 植物種識別装置、方法およびプログラム
JP2013030626A (ja) * 2011-07-28 2013-02-07 Sony Corp 固体撮像素子および撮像システム
WO2014199720A1 (ja) * 2013-06-14 2014-12-18 シャープ株式会社 固体撮像装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7324329B1 (ja) 2022-03-18 2023-08-09 維沃移動通信有限公司 画像処理方法、装置、電子機器及び読み取り可能な記憶媒体

Also Published As

Publication number Publication date
CN110023952B (zh) 2023-08-18
WO2018110575A1 (en) 2018-06-21
JP6910792B2 (ja) 2021-07-28
CN116958632A (zh) 2023-10-27
JP7130822B2 (ja) 2022-09-05
EP3555805A1 (en) 2019-10-23
US11120287B2 (en) 2021-09-14
US20210406573A1 (en) 2021-12-30
US20190370586A1 (en) 2019-12-05
US11869233B2 (en) 2024-01-09
CN110023952A (zh) 2019-07-16
JP2018096834A (ja) 2018-06-21

Similar Documents

Publication Publication Date Title
JP6910792B2 (ja) データ処理装置、データ処理方法、プログラム、および電子機器
JP6789792B2 (ja) 撮像素子、電子機器
JP6910704B2 (ja) 撮像素子、撮像素子の製造方法、プラズモンフィルタ、及び、電子機器
WO2018110574A1 (ja) 画像処理装置、画像処理方法、プログラム、および電子機器
JP7066316B2 (ja) 撮像素子及び電子機器
JP7154736B2 (ja) 撮像素子、電子機器
WO2018110572A1 (ja) 撮像素子及び電子機器

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210715

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220726

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220824

R150 Certificate of patent or registration of utility model

Ref document number: 7130822

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150