JP2018019227A - 撮像センサおよび暗電流ノイズ除去方法 - Google Patents
撮像センサおよび暗電流ノイズ除去方法 Download PDFInfo
- Publication number
- JP2018019227A JP2018019227A JP2016147568A JP2016147568A JP2018019227A JP 2018019227 A JP2018019227 A JP 2018019227A JP 2016147568 A JP2016147568 A JP 2016147568A JP 2016147568 A JP2016147568 A JP 2016147568A JP 2018019227 A JP2018019227 A JP 2018019227A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- unit
- correction value
- temperature
- current noise
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
【課題】温度バラつきをもつLSIが撮像センサの直下に積層された積層型撮像センサにおいて、撮像センサから得られる撮像信号に対して暗電流ノイズを除去できる技術を提供する。【解決手段】本発明の一実施形態に係る積層型撮像センサ200は、撮像信号を取得する撮像手段202と、撮像手段に積層されており、撮像信号を画像処理する画像処理手段201と、温度毎の暗電流ノイズの補正値を保持する補正値保持手段305と、画像処理手段の回路動作状態から温度分布情報を算出する温度分布情報算出手段303と、温度毎の暗電流ノイズの補正値および温度分布情報に基づいて撮像信号の画素位置毎の補正値を取得し、取得された画素位置毎の補正値を用いて撮像信号から暗電流ノイズを除去する暗電流ノイズ除去手段309と、を備える。【選択図】図3
Description
本発明は撮像センサに関し、特に撮像センサの直下に積層されたLSI等の画像処理手段を備える積層型撮像センサにおいて画像処理手段の温度バラつきによって変化する暗電流ノイズを除去する技術に関する。
近年、シリコン実装技術の向上により撮像センサとLSI(Large Scale Integrated−circuit)を積層した積層型撮像センサが開発され、既にこのセンサを搭載したデジタルカメラ等の製品が市場に出ている。撮像センサとLSIの積層にはTSV(Through Silicon Via)などのシリコン実装技術が使われているため、積層型撮像センサを用いることによってより多くの撮像データを高速に撮像センサからLSIに送る事が可能である。また、LSIにおける回路実装技術が向上し、回路実装が高集積化していることに伴って、LSIに搭載される回路は高機能化している。これにより、撮像センサに積層されるLSIには、AFE(Analog Front End)のように単純な信号処理だけでなく、高度な画像処理や外部通信用モジュールを組み込む事が可能となっている。LSIに様々なモジュールを集積させる構成においては、LSI上のモジュールの領域毎に様々な温度バラつきが発生し得る。
ところで、一般的なデジタルカメラでは撮像センサとして、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)が使用されている。これらの撮像センサがもつ撮像素子には、温度によってノイズ量が変化する暗電流ノイズの問題がある。この暗電流ノイズを除去するために、例えば撮像センサを遮光した状態で撮像することでダーク画像を取得し、このダーク画像を補正値として暗電流ノイズの除去を行うダーク補正に関する様々な技術が公開されている。
例えば、特許文献1では、撮像センサにおいて有効画素領域の周辺に遮光された画素領域であるOB(Optical Black)領域を設け、OB領域から得られるダーク画像データを用いる技術が公開されている。特許文献1に記載の技術は、OB領域から得られたダーク画像から暗電流ノイズ量を求め、有効画素領域の画素位置によって線形的に補正値を計算し、有効画素領域の暗電流ノイズを除去している。
特許文献1に記載の技術は、有効画素領域の周辺に設けられたOB領域から得られたデータを用いて、有効画素領域内の画素位置によって線形的に暗電流ノイズ量を求めているため、撮像センサ外周の熱源に対しては有効である。しかしながら、有効画素領域直下に温度バラつきを持つ熱源では温度変化が画素位置によって線形的にならないため、特許文献1に記載の技術は積層型撮像センサにおける暗電流ノイズを適切に除去することができない。
本発明は、上記の課題を解決するものであり、温度バラつきをもつLSIが撮像センサの直下に積層された積層型撮像センサにおいて、撮像センサから得られる撮像信号に対して暗電流ノイズを除去できる技術を提供する。
本発明の第1の態様は、撮像センサであって、撮像信号を取得する撮像手段と、前記撮像手段に積層されており、前記撮像信号を画像処理する画像処理手段と、温度毎の暗電流ノイズの補正値を保持する補正値保持手段と、前記画像処理手段の回路動作状態から温度分布情報を算出する温度分布情報算出手段と、前記温度毎の暗電流ノイズの補正値および前記温度分布情報に基づいて前記撮像信号の画素位置毎の補正値を取得し、取得された前記画素位置毎の補正値を用いて前記撮像信号から暗電流ノイズを除去する暗電流ノイズ除去手段と、を備えることを特徴とする。
本発明の第2の態様は、暗電流ノイズ除去方法であって、撮像信号を取得する撮像手段と、前記撮像手段に積層されており、前記撮像信号を画像処理する画像処理手段とを備える撮像センサにおいて、温度毎の暗電流ノイズの補正値を取得することと、前記画像処理手段の回路動作状態から温度分布情報を算出することと、前記温度毎の暗電流ノイズの補正値および前記温度分布情報に基づいて前記撮像信号の画素位置毎の補正値を取得することと、取得された前記画素位置毎の補正値を用いて前記撮像信号から暗電流ノイズを除去することと、を備えることを特徴とする。
本発明によれば、積層型撮像センサにおいて、撮像手段としての撮像センサに積層された画像処理手段としてのLSIの回路動作状態から算出された温度分布を用いて画素位置毎に補正値を変えることができるため、撮像センサの直下で温度バラつきが発生する構成であっても暗電流ノイズの除去が可能である。
以下に、本発明を実施するための形態について、添付の図面を用いて詳細に説明する。なお、以下に説明する実施の形態は、本発明の実施手段としての一例であり、本発明が適用される装置の構成や各種条件によって適宜修正または変更されてよい。また、各実施の形態を組み合わせる事も可能である。
(第1の実施形態)
第1の実施形態は、積層型撮像センサにおいて、LSIの動作状態から温度分布情報を求め、撮像センサからの撮像信号について、撮像素子の画素位置毎に補正値を変えながら暗電流ノイズを除去する技術を提供する。図1は、異なる動作状態における例示的なLSI内の温度分布を示す概念図である。図1はLSIの上面図であり、温度が高いほど黒に近く、温度が低いほど白に近くなるように着色されている。図1は、2つの異なる動作状態における同一のLSIを示している。図1のLSIにおいて、内部の境界線は、レイアウト時にブロック状に区切った論理回路群(以下、レイアウトブロックと呼ぶ)やハードマクロIP(Intellectual Property)コア(以下、IPと呼ぶ)単位で区切られた物理的な領域を示す。例えば、図1の左側のLSIでは右上の領域が高温であり、図1の右側のLSIでは左上の領域が高温である。図1のように、LSIの高集積化、高機能化により、LSIの動作状態によって様々な温度バラつきが発生する。本実施形態では、このような温度バラつきをもつLSIが撮像センサの直下に積層された構成であっても、高精度に暗電流ノイズを除去することができる。
第1の実施形態は、積層型撮像センサにおいて、LSIの動作状態から温度分布情報を求め、撮像センサからの撮像信号について、撮像素子の画素位置毎に補正値を変えながら暗電流ノイズを除去する技術を提供する。図1は、異なる動作状態における例示的なLSI内の温度分布を示す概念図である。図1はLSIの上面図であり、温度が高いほど黒に近く、温度が低いほど白に近くなるように着色されている。図1は、2つの異なる動作状態における同一のLSIを示している。図1のLSIにおいて、内部の境界線は、レイアウト時にブロック状に区切った論理回路群(以下、レイアウトブロックと呼ぶ)やハードマクロIP(Intellectual Property)コア(以下、IPと呼ぶ)単位で区切られた物理的な領域を示す。例えば、図1の左側のLSIでは右上の領域が高温であり、図1の右側のLSIでは左上の領域が高温である。図1のように、LSIの高集積化、高機能化により、LSIの動作状態によって様々な温度バラつきが発生する。本実施形態では、このような温度バラつきをもつLSIが撮像センサの直下に積層された構成であっても、高精度に暗電流ノイズを除去することができる。
図2(a)は、本実施形態に係る積層型撮像センサ200の斜視図である。図2(b)は、本実施形態に係る積層型撮像センサ200の上面図である。積層型撮像センサ200は、撮像手段としての撮像部202と、撮像部202に積層された画像処理手段としての画像処理用LSI201とを備える。撮像部202および画像処理用LSI201は、TSV等の任意の接続手段によって電気的に接続され、互いに電気信号を授受可能に構成されている。図2(a)、2(b)に示した例示的な積層型撮像センサ200では、双方の区別をつきやすくするため撮像部202と画像処理用LSI201との大きさが異なっているが、同じ大きさであってもよい。
撮像部202は、CMOSやCCDなどの撮像素子を持つ撮像センサを備える。撮像部202は、不図示のレンズや鏡筒といった光学系によって、被写体を撮像センサに結像させ、RGBで構成されたベイヤ情報である撮像データとして撮像信号を取得する。撮像部202は、取得した撮像データを画像処理用LSI201に出力する。画像処理用LSI201は、撮像部202から受け取った撮像データに対して、後述する様々な画像処理を行う。本実施形態では撮像部202からの撮像信号をデジタル信号である撮像データに変換して後述の暗電流ノイズ除去の処理を行うが、撮像部202からの撮像信号をアナログ信号のまま処理してもよい。
図2(b)は、視認性のために撮像部202を透過させた状態で積層型撮像センサ200を上から見た図を示している。図2(b)に示したように、画像処理用LSI201は、レイアウトブロックやIP単位で回路実装時に区切られた複数の物理的な領域203を備える。なお、図2(b)においては領域203同士が接する部分に境界線が示されているが、実際に視認可能な境界線が存在する必要はない。
図3は、本実施形態に係る積層型撮像センサ200のブロック図である。積層型撮像センサ200は、上述の撮像部202および画像処理用LSI201に加え、画像処理用LSI201がデータを保持するためのメモリ部305を備える。メモリ部305は、例えばDRAM(Dynamic Random Access Memory)のような揮発性メモリや、ROM(Read Only Memory)などの不揮発性メモリで構成される。メモリ部305は図2には示されていないが、撮像部202や画像処理用LSI201と一緒に積層する形で設けられてよく、あるいは画像処理用LSI201内部に設けられてもよい。
次に、画像処理用LSI201について説明する。画像処理用LSI201は、内部に実装された各モジュールを制御する制御部300(制御手段)を備える。制御部300は、プロセッサであるCPU(Central Processing Unit)301、回路動作取得部302(回路動作取得手段)、および温度分布情報算出部303(温度分布情報算出手段)を有する。
回路動作取得部302は、CPU301による制御に従って、画像処理用LSI201の各モジュールを構成する回路の動作状態(回路動作状態ともいう)の情報を取得する。回路動作状態は、例えばCPU301が制御したレジスタ設定情報、各モジュールへのクロックのオン/オフ制御、および動作クロック周波数の設定を含む。回路動作状態の情報は、ここに示した情報に限られず、取得時点における画像処理用LSI201の各モジュールを構成する回路の動作状態を表す任意の情報を含んでよい。
温度分布情報算出部303は、CPU301による制御に従って、回路動作取得部302が取得した各モジュールの回路動作状態の情報と、メモリ通信部304を介してメモリ部305から取得したレイアウト情報306とに基づいて、温度分布情報を算出する。レイアウト情報306は画像処理用LSI201の温度分布情報の算出に必要な情報であり、レイアウト情報保持手段としてのメモリ部305に記録されている。例えばレイアウト情報306は、画像処理用LSI201においてモジュール毎に物理的に区切られた領域(すなわち図2の領域203)毎の形状、位置、集積度のうち少なくとも1つ含む。レイアウト情報306は、ここに示した情報に限られず、画像処理用LSI201の温度分布情報の算出に必要な任意の情報を含んでよい。ここで例示的な計算式を用いて画像処理用LSI201の回路動作状態から温度分布情報を算出する方法を説明する。まず、温度分布情報算出部303は、画像処理用LSI201の回路動作状態から消費電力を求める。画像処理用LSI201における消費電力を求める計算式としては、例えば以下の式(1)を用いることができる。
式(1)において、Pは消費電力(W)を表し、Pdはダイナミック消費電力(W)を表し、Psはスタティック消費電力(W)を表す。式1において、ダイナミック消費電力Pdは以下の式(2)で表され、スタティック消費電力Psは以下の式(3)で表される。
式(2)、(3)において、CLは負荷容量(F)を表し、Vddは電圧(V)を表し、fは動作クロック周波数(Hz)を表し、Ilはリーク電流(A)を表す。ここで、式(2)における動作クロック周波数fは、回路動作取得部302において取得した画像処理用LSI201の回路動作状態の情報である各モジュールへのクロックオン/オフ制御、および動作クロック周波数設定から求められる。また負荷容量CLおよびリーク電流Ilは、RTL(Register Transfer Level)から生成されたレイアウト後のネット情報および回路実装情報であるLEF(Library Exchange Format)より求められる。これらの負荷容量CLおよびリーク電流Ilの情報は、レイアウトブロックやIP単位で領域(すなわち図2の領域203)毎のレイアウト情報306として、メモリ部305に記録しておく。
次に、温度分布情報算出部303は、式(1)〜(3)より得られた消費電力から温度情報となる熱量を算出する。熱量を求める計算式として、例えば以下の式(4)を用いることができる。
式(4)において、Tは温度(K)を表し、Rは熱抵抗(K/W)を表し、Pは消費電力(W)を表す。ここで、熱抵抗Rは、例えば画像処理用LSI201の材質であるシリコンの物性値より求める。熱抵抗の情報は、レイアウト情報306として、メモリ部305に記録しておく。以上のように、温度分布情報算出部303は、画像処理用LSI201の回路動作状態から消費電力を求め、求めた消費電力から温度情報を取得する。
温度分布情報算出部303は、レイアウトブロックあるいはIP単位の領域(すなわち図2の領域203)毎に、式(1)〜(4)より温度情報を取得したものを温度分布情報とする。図4は、モジュール毎に分割した領域を重畳して表示した例示的な画像処理用LSI201の上面図である。図4では、画像処理用LSI201を、制御部300、メモリ通信部304、レンズ制御部307、撮像信号処理部308、現像処理部311、表示処理部312、画像圧縮部313、高速通信部314の8領域に分けている。これらの領域は、図2の領域203に対応する。本実施形態ではこの8領域についてそれぞれ回路動作状態より温度情報を算出し、画像処理用LSI201の温度分布とする。すなわち本実施形態における画像処理用LSI201の温度分布は、レイアウトブロックあるいはIPのモジュール単位で分割された領域毎に算出した温度情報の集合である。
撮像信号処理部308(撮像信号処理手段)は、CPU301による制御に従って、撮像部202から送られてきた撮像信号を受け、データの並び替えや撮像センサの傷補正に加え、露出補正やホワイトバランス補正を行う。さらに、暗電流ノイズの除去処理であるダーク補正は、撮像信号処理部308に設けられたダーク補正部309(暗電流ノイズ除去手段)で行われる。ダーク補正部309は、メモリ通信部304を介してメモリ部305から取得したダーク補正値310を用いて、撮像部202からの撮像信号に対してCPU301からの制御指示に従ってダーク補正を行う。ダーク補正値310は暗電流ノイズの補正値であり、補正値保持手段としてのメモリ部305に記録されている。撮像信号処理部308でダーク補正処理が行われた撮像信号は、現像処理部311に送られる。
現像処理部311(現像処理手段)は、CPU301による制御に従って、ベイヤ情報の撮像信号を同時化処理によりラスタ情報に変換する。また現像処理部311は、変換したラスタ情報について、ガンマ補正処理や色空間変換処理を行い、YUVからなる画像データを生成する。現像処理部311は、生成した画像データを、メモリ通信部304を介してメモリ部305に記録する。メモリ部305に記録された画像データは、メモリ通信部304を介して、画像圧縮部313に送られる。
画像圧縮部313(画像圧縮手段)は、CPU301による制御に従って、静止画に対してはJPEG(Joint Photographic Experts Group)などの規格、動画に対してはH.264やH.265などの規格に準じた画像圧縮処理を行う。圧縮された画像データは、再びメモリ通信部304を介して、圧縮画像データとしてメモリ部305に記録される。
また、メモリ部305に記録された画像データは、メモリ通信部304を介して、表示処理部312へ送られる。表示処理部312(表示処理手段)は、CPU301による制御に従って、液晶パネルや液晶モニタといった不図示の外部の表示装置に画像データを表示する。
レンズ制御部307(レンズ制御手段)は、CPU301による制御に従って、積層型撮像センサ200に付随して設けられる不図示の鏡筒やシャッター機構を制御し、ズーム、絞り、シャッタースピードといった撮像条件を制御する。高速通信部314(高速通信手段)は、CPU301による制御に従って外部機器へ画像データを送信および受信するための通信系IP群である。高速通信部314は例えば、PCIe(Peripheral Component Interconnect Express)などの高速シリアル通信のIPである。
図5は、本実施形態に係るダーク補正処理(暗電流ノイズ除去方法)のフローチャートを示す図である。本実施形態に係る積層型撮像センサを備える撮像装置において撮影開始の指示が入力されると、ダーク補正処理が開始される(ステップS500)。まず、CPU301は、メモリ通信部304を介してメモリ部305から画像処理用LSI201のレイアウト情報306を読み出す(ステップS501)。レイアウト情報306は例えばモジュール単位で分割された領域毎の温度情報の算出に必要な負荷容量およびリーク電流等の情報であり、予めメモリ部305に記録されている。
次に、CPU301は、回路動作取得部302を用いて、画像処理用LSI201の各モジュールの回路動作状態の情報を取得する(ステップS502)。回路動作状態の情報は例えば各モジュールへのクロックオン/オフ制御および動作クロック周波数設定の情報である。CPU301は、温度分布情報算出部303を用いて、取得したレイアウト情報306と各モジュールの回路動作状態の情報より、温度分布情報を算出する(ステップS503)。温度分布情報は、上述の式(1)〜(4)によって求められる。図6は、画像処理用LSI201における領域単位の温度分布を示す例示的な模式図である。図6では、画像処理用LSI201を構成する8つのモジュールである制御部300、メモリ通信部304、レンズ制御部307、撮像信号処理部308、現像処理部311、表示処理部312、画像圧縮部313、高速通信部314について、それぞれ温度が示されている。図6の例は画像処理用LSI201が外部通信を行っている状態であるため、高速通信部314は最高温度である80℃を示している。
次に、CPU301は、撮像部202より撮像信号を読み出し、撮像信号処理部308へ送る(ステップS504)。CPU301は、読み出した撮像信号の各画素について、撮像部202における画素の位置情報(例えば、撮像部202における画素の座標)およびステップS503で求めた温度分布情報より、その画素位置における温度情報を求める(ステップS505)。例えば撮像部202の撮像素子から読み出された撮像信号のうち、図4において撮像信号処理部308の直上に位置している画素に対しては、図6に示したように撮像信号処理部308の温度である50℃が温度情報として設定される。このように、CPU301は、撮像部202より読み出される撮像信号について、撮像部202における画素の位置情報、およびステップS503で求めた温度分布情報に基づいて、撮像素子の画素位置毎に対応する画像処理用LSI201の温度情報を求める。すなわち、積層型撮像センサ200においては撮像部202および画像処理用LSI201が積層されているため、画像処理用LSI201上の温度と撮像部202の温度とが対応関係(例えば比例関係)にある。そのためCPU301は、撮像部202の画素位置に対応する画像処理用LSI201上の位置の温度を、該画素位置の温度情報として用いる。
次に、CPU301は、ステップS505で求めた画素位置毎の温度情報に基づいて、メモリ通信部304を介してメモリ部305からダーク補正値310を読み出す(ステップS506)。図7(a)、7(b)は、例示的なダーク補正値310の模式図である。図7(a)に例示するダーク補正値310は、事前にメモリ部305に記録しておいた複数の異なる温度に関連付けられたダーク画像データ700である。温度毎のダーク画像データ700は、異なる複数の温度下で撮像部202を遮光した状態で撮像信号を撮像することで取得し、メモリ部305に記録したものである。
また図7(b)に例示するダーク補正値310は、事前にメモリ部305に記録しておいた複数の異なる温度に関連付けられた補正値を有するダーク補正テーブル701である。撮像部202における暗電流ノイズの温度影響が撮像センサ面に一様で特定である場合には、ダーク画像データ700の代わりに、例えば温度毎のオフセット量をダーク補正値として記録したダーク補正テーブル701を用いてよい。図7(b)の例では、ダーク補正テーブル701のa、b、c、d、eが温度毎のダーク補正値としてのオフセット量を示している。
次に、CPU301は、ダーク補正部309を用いて、ステップS506で求めた画素位置毎のダーク補正値に基づいて、撮像部202からの撮像信号に対してダーク補正処理を行う(ステップS507)。ダーク補正部309は、例えば撮像部202からの撮像信号から、画素位置毎のダーク補正値を減算することによって、画像処理用LSI201の温度バラつきによって発生した暗電流ノイズを除去する。
次に、CPU301は、撮像部202からの所定量(例えば1フレーム分)の撮像信号の読み出しが終了したかを判断する(ステップS508)。ステップS508において、CPU301により撮像信号の読み出しが終了していないと判断された場合は、ステップS505に戻り、以降の処理を繰り返す。ステップS508において、CPU301により撮像信号の読み出しが終了していると判断された場合は、本フローチャートに係る処理を終了する(ステップS509)。以上のように、CPU301の制御に基づいて、撮像信号処理部308におけるダーク補正処理が実行される。
画像処理用LSI201のCPU301は、図3に含まれる各部に指示を送って制御することによって、図5に示す処理に含まれる各ステップ(工程)を実行する。図3に含まれる各部は、画像処理用LSI201上に実装された電気回路、メモリ部305に記録されているプログラム、またはそれらの組み合わせでよい。換言すると、CPU301が画像処理用LSI201上に実装された電気回路またはメモリ部305に記録されているプログラムを制御することによって、図3に含まれる各部として機能させる。
積層型撮像センサ200において、撮像部202に積層された画像処理用LSI201は撮像装置に必要な様々な機能が実装されているため、各モジュールの回路動作状態によって画像処理用LSI201には温度バラつきが発生する。しかしながら、本実施形態に係る積層型撮像センサ200では、画像処理用LSI201の各モジュールの回路動作状態から温度分布情報を算出し、暗電流ノイズの補正値を撮像部202の撮像素子の画素位置毎に求める。これによって、温度バラつきを発生させる画像処理用LSI201が撮像部202に積層されている構成であっても、暗電流ノイズの除去が可能となる。
(第2の実施形態)
本実施形態は、静止画の高速連写撮影や動画撮影のように連続して撮像信号をキャプチャする場合に適する。本実施形態は、LSIの回路動作状態が変更されたタイミングでLSIの温度分布情報を再計算して、撮像素子の画素位置毎に補正値を変えながら暗電流ノイズを除去する方法を提供する。本実施形態は、第1の実施形態と同様な構成を有するが、ダーク補正処理の一部が異なるため、その点についてのみ図8を用いて説明する。
本実施形態は、静止画の高速連写撮影や動画撮影のように連続して撮像信号をキャプチャする場合に適する。本実施形態は、LSIの回路動作状態が変更されたタイミングでLSIの温度分布情報を再計算して、撮像素子の画素位置毎に補正値を変えながら暗電流ノイズを除去する方法を提供する。本実施形態は、第1の実施形態と同様な構成を有するが、ダーク補正処理の一部が異なるため、その点についてのみ図8を用いて説明する。
図8は、本実施形態に係るダーク補正処理(暗電流ノイズ除去方法)のフローチャートを示す図である。図8において、ステップS800以外は、図5のフローチャートの各ステップと同様である。本実施形態に係る積層型撮像センサを備える撮像装置において撮影開始の指示が入力されると、ダーク補正処理が開始される(ステップS500)。まず、CPU301は、メモリ通信部304を介してメモリ部305から画像処理用LSI201のレイアウト情報306を読み出す(ステップS501)。
次に、CPU301は、回路動作取得部302を用いて、画像処理用LSI201の各モジュールの回路動作状態の情報を取得する(ステップS502)。CPU301は、温度分布情報算出部303を用いて、取得したレイアウト情報306と各モジュールの回路動作状態の情報より、温度分布情報を算出する(ステップS503)。
次にCPU301は、撮像部202より撮像信号を読み出し、撮像信号処理部308へ送る(ステップS504)。CPU301は、読み出した撮像信号の各画素について、撮像部202における画素の位置情報およびステップS503で求めた温度分布情報より、その画素位置における温度情報を求める(ステップS505)。
次に、CPU301は、ステップS505で求めた画素位置毎の温度情報に基づいて、メモリ通信部304を介してメモリ部305からダーク補正値310を読み出す(ステップS506)。次に、CPU301は、ダーク補正部309を用いて、ステップS506で求めた画素位置毎のダーク補正値に基づいて、撮像部202からの撮像信号に対してダーク補正処理を行う(ステップS507)。ダーク補正部309は、例えば撮像部202からの撮像信号から、画素位置毎のダーク補正値を減算することによって、画像処理用LSI201の温度バラつきによって発生した暗電流ノイズを除去する。
次に、CPU301は、撮像部202からの所定量の撮像信号の読み出しが終了したかを判断する(ステップS508)。ステップS508において、CPU301により撮像信号の読み出しが終了していると判断された場合は、本フローチャートに係る処理を終了する(ステップS509)。
ステップS508において、CPU301により撮像信号の読み出しが終了していないと判断された場合は、ステップS800に移る。CPU301は、画像処理用LSI201における各モジュールの回路動作が変更されたか判断する(ステップS800)。ここで各モジュールの回路動作の変更とは、例えば、動画記録中にズームをしたり、液晶表示のオン/オフ制御をしたりすることで、キャプチャ中にレンズ制御部307や表示処理部312などの回路動作状態が変わる事を意味する。
ステップS800において、CPU301により回路動作に変更があると判断された場合はステップS502に移り以降の処理を繰り返す。ステップS800において、CPU301により回路動作に変更がないと判断された場合はステップS505に移り以降の処理を繰り返す。
以上のように、本実施形態によれば、画像処理用LSI201の各モジュールの回路動作状態が変更された場合、温度分布情報を再計算して画像処理用LSI201の温度バラつきの変化に追従することができる。そのため、静止画の高速連写や動画記録のように連続して撮像信号をキャプチャする場合であっても、高精度に暗電流ノイズを除去する事が可能である。
(第3の実施形態)
本実施形態は、積層型撮像センサ200において、暗電流ノイズの除去に必要な補正値の取得方法を提供する。本実施形態は、第1および第2の実施形態と同様な構成を有するが、積層型撮像センサ200の構成が一部異なるため、その点についてのみ図9を用いて説明する。
本実施形態は、積層型撮像センサ200において、暗電流ノイズの除去に必要な補正値の取得方法を提供する。本実施形態は、第1および第2の実施形態と同様な構成を有するが、積層型撮像センサ200の構成が一部異なるため、その点についてのみ図9を用いて説明する。
第1および第2の実施形態で説明したように、撮像部202に積層された画像処理用LSI201の回路動作状態によって撮像部202直下で温度バラつきが発生するため、積層型撮像センサ200は撮像素子の画素位置毎にダーク補正値を変更する。よって、図7(a)に示したように、撮像部202を遮光した状態で温度毎に撮像して得られたダーク画像データを、温度毎のダーク補正値として事前に取得しておく必要がある。図7(b)で示したように撮像センサ固有の温度特性としてダーク補正値がパラメータ化できる場合には問題は発生しない。それに対して、図7(a)のように事前にダーク画像データを取得する場合は、撮像部202への温度影響が発生しない状態でダーク画像データを取得できることが望ましい。すなわち、第1および第2の実施形態では、ダーク画像に、画像処理用LSI201における温度バラつきが影響を及ぼす可能性がある。
図9(a)は、本実施形態に係る積層型撮像センサ200の斜視図である。図9(b)は、本実施形態に係る積層型撮像センサ200の上面図である。図9(a)、9(b)に示した撮像部202と画像処理用LSI201は、第1および第2の実施形態で説明した図2(a)、2(b)の積層型撮像センサと同じものである。本実施形態に係る積層型撮像センサ200は、撮像部202および画像処理用LSI201に加えて、ダーク画像取得部900(ダーク画像取得手段)を備える。図9(a)、9(b)の例示的な構成ではダーク画像取得部900は、画像処理用LSI201に隣接する形で撮像部202に積層されている。ダーク画像取得部900は撮像部202において、撮像素子が配置されていない部分または有効画素領域の直下でない位置(すなわち有効画素領域に重ならない位置)に配置される。ダーク画像取得部900は、撮像部202より撮像信号を読み出し、ダーク補正値310としてメモリ部305に記録する。
本実施形態に係る積層型撮像センサ200は、温度毎のダーク画像を取得する際に、画像処理用LSI201を動作させず、ダーク画像取得部900を動作させることによってダーク画像を取得する。このような構成によれば、ダーク画像の取得時に画像処理用LSI201に起因する有効画素領域直下の温度バラつきが発生しないため、温度バラつきの影響を抑えてダーク画像の取得が可能となる。
本発明は、上述の実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において適宜変更可能である。
200 積層型撮像センサ
201 画像処理用LSI
202 撮像部
303 温度分布情報算出部
305 メモリ部
309 ダーク補正部
201 画像処理用LSI
202 撮像部
303 温度分布情報算出部
305 メモリ部
309 ダーク補正部
Claims (8)
- 撮像信号を取得する撮像手段と、
前記撮像手段に積層されており、前記撮像信号を画像処理する画像処理手段と、
温度毎の暗電流ノイズの補正値を保持する補正値保持手段と、
前記画像処理手段の回路動作状態から温度分布情報を算出する温度分布情報算出手段と、
前記温度毎の暗電流ノイズの補正値および前記温度分布情報に基づいて前記撮像信号の画素位置毎の補正値を取得し、取得された前記画素位置毎の補正値を用いて前記撮像信号から暗電流ノイズを除去する暗電流ノイズ除去手段と、
を備えることを特徴とする、撮像センサ。 - 前記暗電流ノイズ除去手段は、前記温度分布情報を用いて前記撮像信号の画素位置毎の温度を算出し、前記補正値保持手段から前記画素位置毎の温度に関連付けられた前記画素位置毎の補正値を取得し、取得された前記画素位置毎の補正値を用いて前記撮像信号から暗電流ノイズを除去することを特徴とする、請求項1に記載の撮像センサ。
- 前記画像処理手段のレイアウト情報を保持するレイアウト情報保持手段をさらに備え、
前記温度分布情報算出手段は、前記レイアウト情報および前記回路動作状態から前記温度分布情報を算出することを特徴とする、請求項1または2に記載の撮像センサ。 - 前記レイアウト情報は、前記画像処理手段において物理的に区切られた領域毎の形状、位置、集積度のうち少なくとも1つ含むことを特徴とする、請求項3に記載の撮像センサ。
- 前記温度分布情報算出手段は、前記レイアウト情報に基づいて前記領域毎に温度を求めることによって前記温度分布情報を算出することを特徴とする、請求項4に記載の撮像センサ。
- 前記補正値保持手段に保持される前記温度毎の暗電流ノイズの補正値は、異なる複数の温度下で前記撮像手段を遮光した状態で撮像されたダーク画像であることを特徴とする、請求項1〜5のいずれか一項に記載の撮像センサ。
- 前記撮像手段の有効画素領域に重ならない位置に設けられた、前記ダーク画像を取得するダーク画像取得手段をさらに備え、
前記画像処理手段を動作させずに、前記ダーク画像取得手段のみを動作させることによって前記ダーク画像を撮像し、前記補正値保持手段に記録することを特徴とする、請求項6に記載の撮像センサ。 - 撮像信号を取得する撮像手段と、前記撮像手段に積層されており、前記撮像信号を画像処理する画像処理手段とを備える撮像センサにおいて、
温度毎の暗電流ノイズの補正値を取得することと、
前記画像処理手段の回路動作状態から温度分布情報を算出することと、
前記温度毎の暗電流ノイズの補正値および前記温度分布情報に基づいて前記撮像信号の画素位置毎の補正値を取得することと、
取得された前記画素位置毎の補正値を用いて前記撮像信号から暗電流ノイズを除去することと、
を備えることを特徴とする、暗電流ノイズ除去方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016147568A JP2018019227A (ja) | 2016-07-27 | 2016-07-27 | 撮像センサおよび暗電流ノイズ除去方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016147568A JP2018019227A (ja) | 2016-07-27 | 2016-07-27 | 撮像センサおよび暗電流ノイズ除去方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018019227A true JP2018019227A (ja) | 2018-02-01 |
Family
ID=61081805
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016147568A Pending JP2018019227A (ja) | 2016-07-27 | 2016-07-27 | 撮像センサおよび暗電流ノイズ除去方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018019227A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020075357A1 (ja) * | 2018-10-11 | 2020-04-16 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 |
-
2016
- 2016-07-27 JP JP2016147568A patent/JP2018019227A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020075357A1 (ja) * | 2018-10-11 | 2020-04-16 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5739640B2 (ja) | 撮像素子及び撮像装置 | |
JP4462299B2 (ja) | 撮像装置、および画像処理方法、並びにコンピュータ・プログラム | |
JP5541718B2 (ja) | 撮像装置及びその欠陥画素検出方法 | |
US8405744B2 (en) | Image-capturing apparatus, image-capturing method, and program | |
JP2009027220A5 (ja) | ||
JP2009033321A (ja) | 撮像装置、および画像処理方法、並びにコンピュータ・プログラム | |
JP6779038B2 (ja) | 撮像素子及びその制御方法、撮像装置及びその制御方法 | |
JP5600812B2 (ja) | 撮像装置 | |
JP5996418B2 (ja) | 撮像装置および撮像方法 | |
JP2018019227A (ja) | 撮像センサおよび暗電流ノイズ除去方法 | |
JP3977342B2 (ja) | 固体撮像装置の設計方法及び撮像システム | |
US11910115B2 (en) | Imaging element, imaging apparatus, operation method of imaging element, and program | |
JPWO2019189892A1 (ja) | 撮像素子および撮像装置 | |
JP6235788B2 (ja) | 撮像装置及びその制御方法 | |
JP6896175B2 (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP5912586B2 (ja) | 画像信号処理方法及び画像信号処理回路、並びに撮像装置 | |
JP5188325B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
JP6280713B2 (ja) | 撮像装置 | |
JP6355324B2 (ja) | 撮像装置およびその制御方法 | |
JP4542063B2 (ja) | 固体撮像装置およびそれを用いた撮像システム | |
JP2018133600A (ja) | 撮像装置、撮像装置の制御方法、およびプログラム | |
US20150215544A1 (en) | Image processing apparatus, image capturing apparatus, control method and recording medium | |
JP2009159404A (ja) | 画像処理方法、画像処理装置及び画像形成装置 | |
JP6765953B2 (ja) | 撮像装置及びその制御方法 | |
JP2013197923A (ja) | 電子カメラ |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD05 | Notification of revocation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7425 Effective date: 20171214 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20180126 |