JP2018142839A - 撮像素子及び撮像装置 - Google Patents

撮像素子及び撮像装置 Download PDF

Info

Publication number
JP2018142839A
JP2018142839A JP2017035597A JP2017035597A JP2018142839A JP 2018142839 A JP2018142839 A JP 2018142839A JP 2017035597 A JP2017035597 A JP 2017035597A JP 2017035597 A JP2017035597 A JP 2017035597A JP 2018142839 A JP2018142839 A JP 2018142839A
Authority
JP
Japan
Prior art keywords
imaging
unit
light
imaging unit
control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017035597A
Other languages
English (en)
Other versions
JP6792486B2 (ja
Inventor
俊克 堺
Toshikatsu Sakai
俊克 堺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Hoso Kyokai NHK, Japan Broadcasting Corp filed Critical Nippon Hoso Kyokai NHK
Priority to JP2017035597A priority Critical patent/JP6792486B2/ja
Publication of JP2018142839A publication Critical patent/JP2018142839A/ja
Application granted granted Critical
Publication of JP6792486B2 publication Critical patent/JP6792486B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】ダイナミックレンジ制御に要する露光量設定を高速応答させ、小型で、且つ、高ダイナミックレンジ画像の撮影を可能とする撮像素子及び撮像装置を提供する。【解決手段】本発明の撮像素子31は、青色光のみ吸収し残りを透過させて撮像する青色光撮像部31Bと、緑色光のみ吸収し残りを透過させて撮像する緑色光撮像部31Gと、赤色光のみ吸収し残りを透過させて撮像する赤色光撮像部31Rと、赤外光のみに感度を持ち撮像する赤外光撮像部31IRとを積層して構成される。本発明の撮像装置3は、本発明の撮像素子31と、赤外光撮像部31IRから得られる赤外光画像の撮像面内における全面、或いは1つ又は複数の領域内の画素値を基に可視光画像のダイナミックレンジ制御を行うための露光量を決定し、青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31Rの各々に対する露光制御を一括して行う制御部33とを備える。【選択図】図1

Description

本発明は、ダイナミックレンジ制御を行う撮像素子、及び撮像装置に関する。
撮像装置による撮像素子のダイナミックレンジ制御の方法として、露光量の制御によりダイナミックレンジの拡大を図る種々の技法が提案されている。
例えば、撮像素子における特定方向における1ライン毎に画素転送制御信号線(行選択線)を少なくとも3本備える撮像素子で、画素転送制御信号線により、特定方向における1ラインを構成する複数の画素の露光タイミングが少なくとも3パターンとなるように、各画素の露光開始及び終了タイミングを制御する技法が開示されている(例えば、特許文献1参照)。
また、光電変換層積層型の撮像装置において、撮像素子の基板上に設けられた補助電極に対し少なくとも2つの電圧を印加し、撮像素子の感度を調整する技法が開示されている(例えば、特許文献2参照)。
特開2013−143729号公報 特開2016−86407号公報
特許文献1,2の技法では、撮像素子のダイナミックレンジ制御が可能であるが、或る露光量となるよう制御した状態で一旦読み出した可視光画像内の画像信号を基に、次の露光量を設定するよう制御するものであるため、撮像素子における少なくとも1回の撮像動作(1フレーム)における次フレームの開始までにダイナミックレンジ制御を完了させることができず、数フレーム分を要する構造となっている。
本発明は、上述の問題点に鑑みて、ダイナミックレンジ制御に要する露光量設定を高速応答させ、小型で、且つ、高ダイナミックレンジ画像の撮影を可能とする撮像素子及び撮像装置を提供することにある。
本発明の撮像素子は、可視光及び赤外光を個別に受光して撮像する撮像素子であって、可視光を構成する青色光のみ吸収し残りを透過させて撮像する青色光撮像部と、可視光を構成する緑色光のみ吸収し残りを透過させて撮像する緑色光撮像部と、可視光を構成する赤色光のみ吸収し残りを透過させて撮像する赤色光撮像部と、赤外光のみに感度を持ち撮像する赤外光撮像部とを積層して構成され、前記青色光撮像部、前記緑色光撮像部、及び前記赤色光撮像部の各々は、二次元平面上に第1の画素配列で第1の画素サイズの画素部が配列された撮像面を有し、独立して露光量を制御可能で、且つ撮像制御可能な素子とし、前記赤外光撮像部は、前記二次元平面上に第2の画素配列で第2の画素サイズの画素部が配列された撮像面を有し、前記青色光撮像部、前記緑色光撮像部、及び前記赤色光撮像部の各々に対し独立して撮像制御可能な素子として構成されていることを特徴とする。
また、本発明の撮像素子において、前記赤外光撮像部による赤外光撮像画像信号は、前記青色光撮像部、前記緑色光撮像部、及び前記赤色光撮像部の各々に対する露光量を制御するための露光量検出センサーとして機能するよう構成されていることを特徴とする。
また、本発明の撮像素子において、前記第2の画素サイズは前記第1の画素サイズ以下とし、前記第2の画素配列は前記第1の画素配列と比して同一以上の解像度を持つ画素配列としていることを特徴とする。
更に、本発明の撮像装置は、本発明の撮像素子と、前記赤外光撮像部から赤外光撮像画像信号を取得して、該赤外光撮像画像信号から得られる赤外光画像の撮像面内における全面、或いは1つ又は複数の領域内の画素値を基に可視光画像のダイナミックレンジ制御を行うための露光量を決定し、前記青色光撮像部、前記緑色光撮像部、及び前記赤色光撮像部の各々に対し前記露光量により一括して露光制御を行い当該可視光画像を生成する制御部と、を備えることを特徴とする。
また、本発明の撮像装置において、前記制御部は、前記赤外光画像の撮像面内における全面、或いは1つ又は複数の領域内の最大画素値と最小画素値を取得し、前記青色光撮像部、前記緑色光撮像部、及び前記赤色光撮像部の各々の撮像面内の全面を対象として、前記露光制御を行うことを特徴とする。
また、本発明の撮像装置において、前記制御部は、前記赤外光画像の撮像面内における全面、或いは1つ又は複数の領域内の画素値分布を取得し、前記青色光撮像部、前記緑色光撮像部、及び前記赤色光撮像部の各撮像面内の全面を対象とするか、又は各撮像面内の当該1つ又は複数の領域を対象として、当該取得した画素値分布と略同一の分布となるように、前記露光制御を行うことを特徴とする。
また、本発明の撮像装置において、前記制御部は、前記赤外光画像の撮像面内における全面、或いは1つ又は複数の領域内の平均画素値を取得し、前記青色光撮像部、前記緑色光撮像部、及び前記赤色光撮像部の各撮像面内の全面を対象とするか、又は各撮像面内の当該1つ又は複数の領域を対象として、当該平均画素値をダイナミックレンジの中央値として、前記露光制御を行うことを特徴とする。
本発明によれば、赤外光画像から検出した露光量制御信号を基に、1回の撮像動作(1フレーム)における次フレームの開始までに、ダイナミックレンジ制御を完了させることができ、小型で、且つ、高ダイナミックレンジ画像の撮影が可能となる。
本発明による一実施形態の撮像装置の概略構成を示すブロック図である。 本発明による一実施形態の撮像装置における撮像素子の概略構成を示す斜視図である。 本発明による一実施形態の撮像装置における撮像素子の概略構造の一例を示す図である。 本発明による一実施形態の撮像装置における撮像素子の画素部の概略構造の一例を示す図である。 (a), (b)は、それぞれ本発明による一実施形態の撮像装置における撮像素子の可視光用画素配列と赤外光用画素配列の好適例を示す図である。 本発明による一実施形態の撮像装置の全体動作に係る概略構成を示す図である。 本発明による一実施形態の撮像装置における露光制御を示すフローチャートである。 本発明による一実施形態の撮像装置の動作例を示す図である。
以下、図面を参照して、本発明による一実施形態の撮像装置3について説明する。
〔撮像装置〕
まず、本発明による一実施形態の撮像装置3の詳細について説明する。図1は、本発明による一実施形態の撮像装置3の概略構成を示すブロック図である。撮像装置3は、撮像素子31と、結像レンズ32と、制御部33と、記録部34と、再生部35と、操作部36とを備える。
また、撮像素子31は、詳細は後述するが、青色(B色)光のみ吸収し残りを透過させて撮像する青色光撮像部31B、緑色(G色)光のみ吸収し残りを透過させて撮像する緑色光撮像部31G、赤色(赤色)光のみ吸収し残りを透過させて撮像する赤色光撮像部31R、及び赤外光(IR光)のみ吸収して撮像する赤外光撮像部31IRをそれぞれ独立した素子層として構成して四層積層し、赤外光撮像素子付き単板カラー撮像素子として構成されている。
撮像素子31は、青色光撮像部31B、緑色光撮像部31G、赤色光撮像部31R、及び赤外光撮像部31IRについて、図2に示すように四層積層させて構成しているため、同一光路上で撮像領域に対する画素密度(画素サイズ及び画素数)を共通化することができ、例えばRGBカラーフィルタをベイヤー配列とした撮像素子と比べて画素情報の欠落がなく、撮像解像度を高めることができる。また、プリズムで分光する必要がなく、撮像素子31を含む結像光学系を小型化させることができる。
ただし、赤外光撮像部31IRの画素サイズ及び画素数については、後述するが、緑色光撮像部31G、赤色光撮像部31R、及び赤外光撮像部31IRの画素サイズよりも小さくした画素配列とすることもできる。
結像レンズ32は、撮像領域の焦点位置に合うよう焦点距離を固定させて撮像素子31に結像させている。尚、結像レンズ32は、操作者によって撮像領域の変更ができるようにズーム機能付きとするのが好ましい。
制御部33は、青色光用撮像制御部331B、緑色光用撮像制御部331G、赤色光用撮像制御部331R、赤外光用撮像制御部332、可視光画像処理部334、赤外光画像処理部335、記録・再生制御部336、及び露光制御領域指定設定部337を備える。制御部33は、リード・オンリー・メモリ(ROM)等の所定のメモリ(図示せず)に記憶されたプログラムを読み出し、操作部36からの指示に応じて所定の処理を実行するマイクロプロセッサや、各種制御信号の生成や画像信号の処理に必要な回路を備える。尚、図1に示す制御部33は、本発明に係る制御に関する構成要素のみを図示している。
青色光用撮像制御部331Bは、撮像素子31における青色光撮像部31Bに対し撮像制御信号を出力し、青色光撮像画像信号を可視光画像処理部334へ出力させる機能部であり、この撮像制御信号により、青色光撮像部31Bにおける露光量制御(露光時間制御、又は青色光撮像部31Bに電子シャッター機能がある時はその制御)を可能とする。尚、青色光用撮像制御部331Bの撮像制御信号は、後述する赤外光画像処理部335からの露光量制御信号に応じて可変設定される。
緑色光用撮像制御部331Gは、撮像素子31における緑色光撮像部31Gに対し撮像制御信号を出力し、緑色光撮像画像信号を可視光画像処理部334へ出力させる機能部であり、この撮像制御信号により、緑色光撮像部31Gにおける露光量制御(露光時間制御、又は緑色光撮像部31Gに電子シャッター機能がある時はその制御)を可能とする。尚、緑色光用撮像制御部331Gの撮像制御信号は、後述する赤外光画像処理部335からの露光量制御信号に応じて可変設定される。
赤色光用撮像制御部331Rは、撮像素子31における赤色光撮像部31Rに対し撮像制御信号を出力し、赤色光撮像画像信号を可視光画像処理部334へ出力させる機能部であり、この撮像制御信号により、赤色光撮像部31Rにおける露光量制御(露光時間制御、又は赤色光撮像部31Rに電子シャッター機能がある時はその制御)を可能とする。尚、赤色光用撮像制御部331Rの撮像制御信号は、後述する赤外光画像処理部335からの露光量制御信号に応じて可変設定される。
赤外光用撮像制御部332は、撮像素子31における赤外光撮像部31IRに対し撮像制御信号を出力し、赤外光撮像画像信号を赤外光画像処理部335へ出力させる機能部であり、本例では、赤外光の露光量が赤外光撮像部31IRにてオーバーフローしない設定としており、必ずしも赤外光撮像部31IRにおける露光量制御を行う必要はない。
可視光画像処理部334は、撮像素子31から青色光撮像画像信号、緑色光撮像画像信号、及び赤色光撮像画像信号を入力し、それぞれアナログ・デジタル変換処理を施してデジタル信号に変換し、シェーディング補正やガンマ補正、或いは色調補正等を行って合成し、静止画の可視光画像、又は動画像のフレーム単位の可視光画像を構成する可視光画像信号を記録・再生制御部336に出力する。
赤外光画像処理部335は、撮像素子31から赤外光撮像画像信号を入力し、アナログ・デジタル変換処理を施してデジタル信号に変換し、シェーディング補正等を行って赤外光画像を生成する。そして、赤外光画像処理部335は、制御領域指定設定部337によって可視光画像のダイナミックレンジ制御を行うために指定設定される領域に対応する、赤外光画像の撮像面内における全面、或いは1つ又は複数の領域内の画素値を基に、可視光画像のダイナミックレンジ制御を行うための露光量を決定する。
赤外光画像処理部335は、露光量制御信号発生部335aを備えている。赤外光画像処理部335は、当該赤外光画像の撮像面内における全面、或いは1つ又は複数の領域内の画素値を基に可視光画像のダイナミックレンジ制御を行うための露光量を決定すると、その露光量を示す露光量制御信号を露光量制御信号発生部335aにより発生させ、青色光用撮像制御部331B、緑色光用撮像制御部331G、赤色光用撮像制御部331Rの各々に出力する。
即ち、詳細は後述するが、撮像素子31における青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31Rの各撮像面と、撮像素子31における赤外光撮像部31IRの撮像面は、1対1で対応付けられているため、所望される可視光画像のダイナミックレンジ制御を行うために指定設定される撮像面内の領域は、赤外光画像の撮像面内の領域と対応付けることができる。
更に、青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31Rにより可視光画像を得るための各撮像制御信号は、赤外光撮像部31IRにより赤外光画像を得るための撮像制御信号とは独立している。このため、赤外光撮像部31IRは、露光量制御信号を発生させるための露光量検出センサーとして機能し、可視光画像を得るのに要する1回の撮像動作(1フレーム)における次フレームの開始までに、指定領域における可視光画像のダイナミックレンジ制御を完了させることができるようになっている。
記録・再生制御部336は、可視光画像処理部334から可視光画像信号を入力し、記録部34へ記録する機能、及び操作部36から操作信号を受け付け、記録部34に記録されている静止画又は動画ファイルを再生部35にて再生させる機能を有する。
露光制御領域指定設定部337は、可視光画像のダイナミックレンジ制御を行うための可視光画像の撮像面内における全面、或いは1つ又は複数の領域に関する指定を受け付け、赤外光画像処理部335に設定する。
再生部35は、記録・再生制御部336の制御によって、記録部34に記録されている静止画又は動画ファイルを再生する画像表示装置等の表示器として構成される。尚、画像表示装置等の再生部35を設ける代わりに、撮像装置3の外部へ出力する出力インターフェースとすることもできる。
操作部36は、制御部33に対して種々の指示を与える機能を有し、例えば、撮像装置3の電源をオンオフする電源スイッチ、日時設定、当該撮像領域の設定、動画ファイルの指定等のメニューを所定の表示部に表示させるメニューボタン等から構成される。特に、操作部36は、制御部33に対して可視光画像のダイナミックレンジ制御を行うための可視光画像の撮像面内における全面、或いは1つ又は複数の領域を指定設定する機能を有する。
〔撮像素子〕
次に、本発明による一実施形態の撮像装置3における撮像素子31の詳細について説明する。
まず、撮像素子31は、図2に示したように、青色光撮像部31B、緑色光撮像部31G、赤色光撮像部31R、及び赤外光撮像部31IRについて四層積層させて構成している。
青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31Rの各層は、RGBのうち1色のみに感度を持つ感光層(本例では、有機光電変換膜)が積層された構造(各層は赤外光を透過)となっている。尚、本例の撮像素子31では、可視光撮像部の積層構造を各色単層としているが、必ずしも各色単層とせずともよく、例えば単層の青色光撮像部31B、単層の緑色光撮像部31G、及び2層の赤色光撮像部31Rとするなど、複層としてもよい。また、青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31Rの積層順序は、本例に限定する必要はなく任意である。
一方、最下層の赤外光撮像部31IRは、赤外光のみに感度を持つ感光層となっており、Si−PIN, InGaAs等の高速応答性を持つフォトダイオードの画素構造とするのが望ましい。
図3は、本発明による一実施形態の撮像装置3における撮像素子31の概略構造の一例を示す図である。また、図4は、本発明による一実施形態の撮像装置3における撮像素子31の画素部300の概略構造の一例(酸化物半導体TFT(ZnO‐TFT))を示す図である。
図3に示すように、撮像素子31を構成する四層積層された青色光撮像部31B、緑色光撮像部31G、赤色光撮像部31R、及び赤外光撮像部31IRの各々は、画素部300を二次元平面上に配列している。各画素部300は、行選択線で垂直走査回路400に接続され、出力信号線で水平信号読み出し回路500に接続される。垂直走査回路400は、制御部33からの各層の撮像制御信号で制御される。垂直走査回路400で行選択信号を発生させて行を選択し、行選択線を介して接続される各画素部300の図4に示すゲート電極308が制御されて、各画素部300におけるフォトダイオード(PD)を構成する図4に示す有機光電変換膜310からの信号が出力信号線を介して読み出される。また、この読み出された信号は、撮影画像信号として出力される。
図4では、略透明な酸化物半導体TFT(ZnO‐TFT)を用いて、四層積層された青色光撮像部31B、緑色光撮像部31G、赤色光撮像部31R、及び赤外光撮像部31IRの各層における画素部300を構成する例を示している。1画素を構成する図4に示す信号回路は酸化亜鉛薄膜トランジスタ(ZnO‐TFT)をスイッチング素子として採用し、無アルカリ基板(ガラス基板301)上に形成される。
図4に例示する酸化亜鉛薄膜トランジスタ(ZnO‐TFT)では、ガラス基板301上に設けたゲート電極308にSiN系ゲート絶縁膜302及びSiO系ゲート絶縁膜303を堆積し、さらに酸化亜鉛薄膜(ZnO)を形成している。酸化亜鉛薄膜(ZnO)の周囲をSiN系保護膜304で包囲し、エッチングしてドレインITO電極306及びソースITO電極309を形成し、さらにMoW合金の出力信号用電極307を形成してSiN系保護膜305で覆う構造となっている。
このZnO‐TFT回路上に光導電性有機材料の有機光電変換膜310として例えばキナクリドン薄膜を数十nm〜数百nmの厚さで形成し、その上に対向ITO電極311を形成している。
ただし、有機光電変換膜310としては、例えば、スチルベン誘導体、ベンゾキサゾール誘導体、縮合芳香族炭素環(ペリレン誘導体、アントラセン誘導体、テトラセン誘導体等)、メロシアニン誘導体、オキサジアゾール誘導体、ジアミン誘導体、チオフェン誘導体、PtやEu、Sn、Al、Ir、Zn等の金属錯体、DCM誘導体、アゾ系有機顔料、又は多環式系有機顔料(フタロシアニン類、キナクリドン類、ポルフィリン類等)等を用いることができる。
ガラス基板301として、光透過性の高いものが望ましく、石英、サファイア、BK7、無アルカリガラス、ソーダガラス等のガラス材料などがあり、その他、ポリカーボネート、ポリメチルメタクリレート、ポリプロピレン、ポリスチレン、ポリサルフォン、又はポリエーテルサルフォン等の透明プラスチック材料で構成した透明基板としてもよい。
また、可視光用の各撮像部(青色光撮像部31B、緑色光撮像部31G、赤色光撮像部31R)は、必ずしもガラス基板上に作る必要は無く、シリコン基板上や後述のSi−PIN, InGaAs等の高速応答フォトダイオードを形成した基板上に層間絶縁膜を介して直接積層してもよい。
各電極は、光の透過率が高い事が望ましく、インジウム・スズ酸化物(ITO)で透明電極を形成する他、インジウム酸化物(IO)、インジウム・亜鉛酸化物(IZO)等の金属酸化物や、あるいは白金(pt)、金(Au)、銀(Ag)、マグネシウム(Mg)、アルミニウム(Al)等の金属材料を5nm〜30nmと薄く堆積した透明又は半透明金属薄膜で構成することができる。
図4に示すように、ソースITO電極309上に、有機光電変換膜310及び対向ITO電極311を堆積したことで、入射した光に相当する電荷を発生するフォトダイオード(PD)が形成される。フォトダイオード(PD)による発生電荷は、ゲート電極308の印加電圧でドレインITO電極306とソースITO電極309との通電が制御されることにより、出力信号用電極307を介して出力して取り出すことができる。したがって、ドレインITO電極306、ソースITO電極309及び対向ITO電極311は1画素毎に設けられる画素電極として機能させ、ゲート電極308を行選択信号電極として機能させ、出力信号用電極307を出力信号線に接続する電極として機能させることができる。
このように、有機光電変換膜310は、入射光の一部を吸収・光電変換し、残りの成分は透過する半透明な有機材料とすることができるが、これ以外にも半透明の薄い無機半導体材料とすることができる。
また、画素部300を構成するために、可視光に対して略透明な酸化物半導体TFT(ZnO‐TFT)を用いる以外にも、SOI等の可視光に対する透過性を持つ半導体を用いることができる。
図3に示す垂直走査回路400はシフトレジスタで構成することができ、図3に示す水平信号読み出し回路500は、各画素部300で発生した光電変換信号を外部に読み出し増幅させるためのトランジスタ群で構成される。このトランジスタに用いられる半導体は、単結晶Si、多結晶Si、アモルファスSiなどのシリコン系材料による半導体、IGZO,ZnOなどの酸化物半導体、ペンタセンなどの有機半導体等を利用することができる。
尚、青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31Rについては、その光透過性を高めるという観点からは、数十nmの薄いシリコンや酸化物半導体、透過性の高い有機半導体材料を用いることが望ましい。
また、有機材料の光電変換膜を用いる場合、光吸収特性を有機材料の選択と膜厚によって調整することができ、例えば、有機材料のキナクリドン(N,N’ジメチルキナクリドン)を用いれば、入射光として波長540nmの単波長光(緑色光)に対して、その膜厚調整で、10%〜90%の範囲で光吸収率を調整することができる。
また、赤外光撮像部31IRについては、上述した露光量制御信号を発生させるために用いるので、高速に応答でき、高飽和電子量の容量を持つものが望ましく、特にSi−PIN, InGaAs等の高速応答フォトダイオードが望ましい。
ところで、赤外光撮像部31IRにおける画素は、細かく区切ることで容量成分を小さくし、高速に読み出すことで、1回の撮像動作(1フレーム)における次フレームの開始までにダイナミックレンジをより確実に制御することができる。
また、赤外光撮像部31IRにおける画素を細かく区切る場合の他の利点として、行・列数が青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31Rの画素数よりも多くなるため、赤外光撮像部31IRにおける画素を間引いて読み出すことができ、より高速に読出し・制御することができる。
そこで、青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31Rの各々における撮像領域に対する可視光用画素配列を、例えば図5(a)に示すように画素部300をN画素×M画素で配列構成した場合、赤外光撮像部31IRにおける撮像領域に対する赤外光用画素配列を、例えば図5(b)に示すようにN’画素×M’画素(N’≧N,M’ ≧M)の高解像度画素配列とし、その赤外光用画素配列の画素部300の画素サイズを、可視光用画素配列の画素部300の画素サイズと同じとしてもよいが、より小さくしてその画素配列をより高解像度化することが好適である。
(動作例)
まず、図6には、上述した本実施形態の撮像装置3の全体動作に係る概略構成を示している。図6に示すように、撮像装置3は、制御部33によって、青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31Rの各々に対し、撮像制御信号により駆動制御して、撮像領域に対する可視光用画素配列に対応する可視光の各RGB色光の撮像画像信号を得ることができる。また、撮像装置3は、制御部33によって、赤外光撮像部31IRに対し、撮像制御信号により駆動制御して、撮像領域に対する赤外光用画素配列に対応する赤外光の撮像画像信号を得ることができる。
そして、撮像装置3は、制御部33によって、可視光画像のダイナミックレンジ制御を行うために指定設定される領域に対応する、赤外光画像の撮像面内における全面、或いは1つ又は複数の領域内の画素値を基に、可視光画像のダイナミックレンジ制御を行うための露光量を決定し、その露光量を示す露光量制御信号を発生させる。制御部33は、その露光量制御信号に応じて、青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31Rの各々に対する撮像制御信号を可変設定し、ダイナミックレンジ制御を行う。
ここで、図7を参照して、図1に示す撮像装置3における制御部33の露光制御の動作例を説明する。
まず、制御部33は、可視光用の撮像部(青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31R)に対し、初期の露光制御を行う(ステップS1)。この初期の露光制御は、予め想定される基準の露光時間となる撮像制御信号によって行う。尚、赤外光撮像部31IRに対しては本例では露光制御を必要としない。
続いて、制御部33は、操作部36から可視光画像のダイナミックレンジ制御を行うために指定設定される領域の指示を露光制御領域指定設定部337により受け付け、赤外光画像処理部335に設定する。
制御部33は、設定された赤外光画像の撮像面内における全面、或いは1つ又は複数の領域内で、赤外光画像処理部335により、その画素値を基に、可視光画像のダイナミックレンジ制御を行うための露光量を決定し、その露光量を示す露光量制御信号を発生させる(ステップS2)。
より具体的には、赤外光画像処理部335は、当該設定された赤外光画像の撮像面内における領域内で得られる現在の画素値に対し係数kを乗じて高ダイナミックレンジとなる画素値となるように、その係数kを決定し、可視光用の撮像部(青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31R)における現在行っている露光制御の露光時間に対し、その係数kを乗じた露光時間になるよう露光量を決定し、その露光量を示す露光量制御信号を発生させる。
制御部33は、可視光用の撮像部(青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31R)の各撮像制御信号における露光量(本例では露光時間)を、露光量制御信号に応じて変更することにより、可視光用露光制御、即ち可視光画像のダイナミックレンジ制御を一括して行う(ステップS3)。
露光量制御信号は、当該設定された赤外光画像の撮像面内における領域内の画素値が得られると直ちに発生するため、可視光画像を得るのに要する1回の撮像動作(1フレーム)における次フレームの開始までに、当該露光制御の指定領域における露光量制御信号に基づく可視光画像のダイナミックレンジ制御を完了させることができる。
制御部33は、操作部36から可視光画像のダイナミックレンジ制御を行うために指定設定される領域の指示を監視し(ステップS4)、露光制御領域指定設定部337による露光制御領域の指定変更があるまで、当該露光制御の指定領域における露光量制御信号に基づくダイナミックレンジ制御を継続し(ステップS4:No,ステップS3)、露光制御領域の指定変更を受け付けると(ステップS4:Yes)、赤外光画像処理部335に設定し、上記のステップS2以降の動作を繰り返す。
従って、制御部33は、図8の上段に例示するように、赤外光撮像画像信号による当該設定された指定領域の画素値が、暗い画素値→明るい画素値→暗い画素値と遷移するとき、それぞれの画素値が得られているその可視光画像の露光時間に対し係数kを乗じた露光時間になるよう、露光量制御信号を直ちに発生させる。そして、制御部33は、この露光量制御信号に応じて、可視光用の撮像部(青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31R)の各撮像制御信号を変更して、図8の下段に例示するように、露光時間制御によるダイナミックレンジ制御を実行する。
尚、所望のダイナミックレンジを得るのに相当する係数kの決定は、事前設計して定めることができる。
撮像素子31における青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31Rの各撮像面と、撮像素子31における赤外光撮像部31IRの撮像面は、1対1で対応付けられているため、所望される可視光画像のダイナミックレンジ制御を行うために指定設定される撮像面内の領域は、赤外光画像の撮像面内の領域と対応付けることができる。そして、可視光画像の画素単位の領域指定が可能であり、例えば図5(b)を参照して説明したように、可視光画像の画素配列よりも赤外光画像の画素配列を高解像化することで、より指定領域の精度が向上する。
そして、操作部36は、制御部33に対して可視光画像のダイナミックレンジ制御を行うための可視光画像の各撮像部の撮像面内における全面、或いは1つ又は複数の領域を指定設定することができる。
このため、制御部33は、二次元領域の赤外光撮像部31IRの撮像面内における指定領域内の画素値を参照して露光制御信号を発生させるため、対応する指定領域内の可視光画像のダイナミックレンジ制御を高速応答、且つ高精度で行うことができる。
尚、赤外光撮像部31IRの撮像面内における指定領域内の画素値を参照して発生される露光制御信号と、この露光制御信号に対応させる撮像素子31における青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31Rの各撮像制御信号についてのより具体的な制御例として、以下のような制御が可能である。
(制御例1)
赤外光撮像部31IRの撮像面内の全面を、ダイナミックレンジ制御を行う指定領域とする。このとき、制御部33は、赤外光画像処理部335により、赤外光撮像部31IRの撮像面内の全面を対象とした最大画素値と最小画素値を取得し、この最大画素値と最小画素値との範囲をダイナミックレンジとして上述した係数kを決定し対応する露光量制御信号を発生させる。制御部33は、可視光用の撮像部(青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31R)の各撮像面内の全面を対象として、現在行っている露光制御の露光時間に対し、その係数kを乗じた露光時間になるよう露光制御を行う。
(制御例2)
赤外光撮像部31IRの撮像面内の全面を、ダイナミックレンジ制御を行う指定領域とする。このとき、制御部33は、赤外光画像処理部335により、赤外光撮像部31IRの撮像面内の全面を対象とした画素配列に応じた画素値分布を取得し、この画素配列に応じた画素値分布をダイナミックレンジとして上述した係数kを決定し対応する露光量制御信号を発生させる。制御部33は、可視光用の撮像部(青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31R)の各撮像面内の全面を対象として、当該赤外光画像から取得した画素配列に応じた画素値分布と略同一の分布となるように、現在行っている露光制御の露光時間に対し、その係数kを乗じた露光時間になるよう露光制御を行う。
(制御例3)
赤外光撮像部31IRの撮像面内の全面を、ダイナミックレンジ制御を行う指定領域とする。このとき、制御部33は、赤外光画像処理部335により、赤外光撮像部31IRの撮像面内の全面を対象とした平均画素値を取得し、この平均画素値をダイナミックレンジの中央値として上述した係数kを決定し対応する露光量制御信号を発生させる。制御部33は、可視光用の撮像部(青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31R)の各撮像面内の全面を対象として、現在行っている露光制御の露光時間に対し、その係数kを乗じた露光時間になるよう露光制御を行う。
(制御例4)
上記の制御例1乃至3のそれぞれにおいて、赤外光撮像部31IRの撮像面内の全面を、ダイナミックレンジ制御を行う指定領域とする代わりに、赤外光撮像部31IRの撮像面内の1つ又は複数の領域を、ダイナミックレンジ制御を行う指定領域とし、制御部33は、可視光用の撮像部の各撮像面内の全面を対象として露光制御を行う制御とすることができる。
(制御例5)
また、上記の制御例1乃至3のそれぞれにおいて、赤外光撮像部31IRの撮像面内の全面を、ダイナミックレンジ制御を行う指定領域とする代わりに、赤外光撮像部31IRの撮像面内の1つ又は複数の領域を、ダイナミックレンジ制御を行う指定領域とし、制御部33は、可視光用の撮像部の各撮像面内の当該1つ又は複数の領域を対象として露光制御を行う制御とすることができる。
以上のように、本発明に係る撮像素子31及び撮像装置3によれば、赤外光画像から検出した露光量制御信号を基に、1回の撮像動作(1フレーム)における次フレームの開始までに、ダイナミックレンジ制御を完了させることができ、小型で、且つ、高ダイナミックレンジ画像の撮影が可能となる。
上記の実施形態の例では、撮像素子31の各可視光用撮像部(青色光撮像部31B、緑色光撮像部31G、及び赤色光撮像部31R)に対する露光時間制御でダイナミックレンジ制御(露光量制御)を行う例を主として説明したが、二次元のアクティブ駆動NDフィルタやエレクトロクロミック素子からなる光量調節素子を図2に示す撮像素子31の最上層に設け、この光量調節素子により露光量の増減を制御する構成とすることや、電子シャッター機能や特許文献2に示すような補助電極を各画素部300に対し設ける構成として、当該露光量検出センサーとして機能する赤外光撮像部31IRにより可視光画像信号のダイナミックレンジ制御を、指定領域を基準に行う構成とすることができる。従って、本発明は上述の実施形態及び実施例に限定されるものではなく、特許請求の範囲の記載によってのみ制限される。
本発明によれば、赤外光画像から検出した露光量制御信号を基に、1回の撮像動作(1フレーム)以内でダイナミックレンジ制御を完了させることができ、小型で、且つ、高ダイナミックレンジ画像の撮影が可能となるので、ダイナミックレンジ制御を行う撮像素子及び撮像装置の用途に有用である。
3 撮像装置
31 撮像素子
31R 赤色光撮像部
31G 緑色光撮像部
31B 青色光撮像部
31IR 赤外光撮像部
32 結像レンズ
33 制御部
34 記録部
35 再生部
36 操作部
300 画素部
301 ガラス基板
302 SINx
303 SIOx
304 SINx
305 SINx
306 ドレインITO電極
307 出力信号用電極
308 ゲート電極
309 ソースITO電極
310 有機光電変換膜
311 対向ITO電極
400 垂直走査回路
500 水平信号読み出し回路
331R 赤色光用撮像制御部
331G 緑色光用撮像制御部
331B 青色光用撮像制御部
332 赤外光用撮像制御部
334 可視光画像処理部
335 赤外光画像処理部
335a 露光量制御信号発生部
336 記録・再生制御部
337 露光制御領域指定設定部

Claims (7)

  1. 可視光及び赤外光を個別に受光して撮像する撮像素子であって、
    可視光を構成する青色光のみ吸収し残りを透過させて撮像する青色光撮像部と、
    可視光を構成する緑色光のみ吸収し残りを透過させて撮像する緑色光撮像部と、
    可視光を構成する赤色光のみ吸収し残りを透過させて撮像する赤色光撮像部と、
    赤外光のみに感度を持ち撮像する赤外光撮像部とを積層して構成され、
    前記青色光撮像部、前記緑色光撮像部、及び前記赤色光撮像部の各々は、二次元平面上に第1の画素配列で第1の画素サイズの画素部が配列された撮像面を有し、独立して露光量を制御可能で、且つ撮像制御可能な素子とし、
    前記赤外光撮像部は、前記二次元平面上に第2の画素配列で第2の画素サイズの画素部が配列された撮像面を有し、前記青色光撮像部、前記緑色光撮像部、及び前記赤色光撮像部の各々に対し独立して撮像制御可能な素子として構成されていることを特徴とする撮像素子。
  2. 前記赤外光撮像部による赤外光撮像画像信号は、前記青色光撮像部、前記緑色光撮像部、及び前記赤色光撮像部の各々に対する露光量を制御するための露光量検出センサーとして機能するよう構成されていることを特徴とする、請求項1に記載の撮像素子。
  3. 前記第2の画素サイズは前記第1の画素サイズ以下とし、前記第2の画素配列は前記第1の画素配列と比して同一以上の解像度を持つ画素配列としていることを特徴とする、請求項1又は2に記載の撮像素子。
  4. 請求項1から3のいずれか一項に記載の撮像素子と、
    前記赤外光撮像部から赤外光撮像画像信号を取得して、該赤外光撮像画像信号から得られる赤外光画像の撮像面内における全面、或いは1つ又は複数の領域内の画素値を基に可視光画像のダイナミックレンジ制御を行うための露光量を決定し、前記青色光撮像部、前記緑色光撮像部、及び前記赤色光撮像部の各々に対し前記露光量により一括して露光制御を行い当該可視光画像を生成する制御部と、
    を備えることを特徴とする撮像装置。
  5. 前記制御部は、前記赤外光画像の撮像面内における全面、或いは1つ又は複数の領域内の最大画素値と最小画素値を取得し、前記青色光撮像部、前記緑色光撮像部、及び前記赤色光撮像部の各々の撮像面内の全面を対象として、前記露光制御を行うことを特徴とする、請求項4に記載の撮像装置。
  6. 前記制御部は、前記赤外光画像の撮像面内における全面、或いは1つ又は複数の領域内の画素値分布を取得し、前記青色光撮像部、前記緑色光撮像部、及び前記赤色光撮像部の各撮像面内の全面を対象とするか、又は各撮像面内の当該1つ又は複数の領域を対象として、当該取得した画素値分布と略同一の分布となるように、前記露光制御を行うことを特徴とする、請求項4に記載の撮像装置。
  7. 前記制御部は、前記赤外光画像の撮像面内における全面、或いは1つ又は複数の領域内の平均画素値を取得し、前記青色光撮像部、前記緑色光撮像部、及び前記赤色光撮像部の各撮像面内の全面を対象とするか、又は各撮像面内の当該1つ又は複数の領域を対象として、当該平均画素値をダイナミックレンジの中央値として、前記露光制御を行うことを特徴とする、請求項4に記載の撮像装置。
JP2017035597A 2017-02-27 2017-02-27 撮像素子及び撮像装置 Active JP6792486B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017035597A JP6792486B2 (ja) 2017-02-27 2017-02-27 撮像素子及び撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017035597A JP6792486B2 (ja) 2017-02-27 2017-02-27 撮像素子及び撮像装置

Publications (2)

Publication Number Publication Date
JP2018142839A true JP2018142839A (ja) 2018-09-13
JP6792486B2 JP6792486B2 (ja) 2020-11-25

Family

ID=63528305

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017035597A Active JP6792486B2 (ja) 2017-02-27 2017-02-27 撮像素子及び撮像装置

Country Status (1)

Country Link
JP (1) JP6792486B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020129439A1 (ja) * 2018-12-21 2020-06-25 株式会社ジャパンディスプレイ 検出装置
WO2022138227A1 (ja) * 2020-12-25 2022-06-30 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子およびその製造方法、並びに電子機器
JP7567655B2 (ja) 2021-05-21 2024-10-16 三菱電機株式会社 撮像装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013038286A (ja) * 2011-08-09 2013-02-21 Sharp Corp 固体撮像素子および電子情報機器
JP2013070030A (ja) * 2011-09-06 2013-04-18 Sony Corp 撮像素子、電子機器、並びに、情報処理装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013038286A (ja) * 2011-08-09 2013-02-21 Sharp Corp 固体撮像素子および電子情報機器
JP2013070030A (ja) * 2011-09-06 2013-04-18 Sony Corp 撮像素子、電子機器、並びに、情報処理装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020129439A1 (ja) * 2018-12-21 2020-06-25 株式会社ジャパンディスプレイ 検出装置
JP2020102555A (ja) * 2018-12-21 2020-07-02 株式会社ジャパンディスプレイ 検出装置
JP7274284B2 (ja) 2018-12-21 2023-05-16 株式会社ジャパンディスプレイ 検出装置
US11784209B2 (en) 2018-12-21 2023-10-10 Japan Display Inc. Detection device
WO2022138227A1 (ja) * 2020-12-25 2022-06-30 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子およびその製造方法、並びに電子機器
JP7567655B2 (ja) 2021-05-21 2024-10-16 三菱電機株式会社 撮像装置

Also Published As

Publication number Publication date
JP6792486B2 (ja) 2020-11-25

Similar Documents

Publication Publication Date Title
JP6987950B2 (ja) 固体撮像素子およびその製造方法、並びに電子機器
US10658405B2 (en) Solid-state image sensor, electronic apparatus, and imaging method
JP4511441B2 (ja) 感度可変型撮像素子及びこれを搭載した撮像装置
US10115753B2 (en) Image sensor including pixels having plural photoelectric converters configured to convert light of different wavelengths and imaging apparatus including the same
JP4511442B2 (ja) 感度可変型撮像素子及びこれを搭載した撮像装置
US20080055443A1 (en) Image pickup device including a solar cell and apparatus therefor
JP5537905B2 (ja) 撮像素子及び撮像装置
US8605175B2 (en) Solid-state image capturing device including a photochromic film having a variable light transmittance, and electronic device including the solid-state image capturing device
WO2015045915A1 (ja) 固体撮像素子及びその駆動方法、並びに電子機器
JP2008227092A (ja) 光電変換素子、撮像素子、撮像装置
TWI357151B (en) Solid state imaging device and imaging apparatus
TW201038061A (en) Extended depth of field for image sensor
JP6816757B2 (ja) 固体撮像素子およびその製造方法、並びに電子機器
JP2016033982A (ja) 固体撮像素子および撮像システム
JP6860390B2 (ja) 撮像素子及びその制御方法、撮像装置、焦点検出装置及び方法
JP2010034512A (ja) 固体撮像素子及び撮像装置
JP6792486B2 (ja) 撮像素子及び撮像装置
JP6975896B2 (ja) 撮像装置の制御方法及び撮像装置
JP5848177B2 (ja) 多重フォーカスカメラ
JP2009049525A (ja) 撮像装置及び信号処理方法
CN109844950A (zh) 带有金属覆盖的光学黑色像素的图像传感器
JP2006094263A (ja) 撮像装置
JP2009004605A (ja) 撮像素子及び撮像装置
JP6806591B2 (ja) 撮影装置
JP5268417B2 (ja) 撮像素子

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200706

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200714

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200731

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201013

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201106

R150 Certificate of patent or registration of utility model

Ref document number: 6792486

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250