WO2018047642A1 - 撮像素子および撮像素子の動作方法、撮像装置、および電子機器 - Google Patents
撮像素子および撮像素子の動作方法、撮像装置、および電子機器 Download PDFInfo
- Publication number
- WO2018047642A1 WO2018047642A1 PCT/JP2017/030630 JP2017030630W WO2018047642A1 WO 2018047642 A1 WO2018047642 A1 WO 2018047642A1 JP 2017030630 W JP2017030630 W JP 2017030630W WO 2018047642 A1 WO2018047642 A1 WO 2018047642A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- pixel
- analog
- image
- low
- value
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/71—Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
- H04N25/75—Circuitry for providing, modifying or processing image signals from the pixel array
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
本開示は、撮像素子に対して、新たにメモリや演算回路を新たに付加することなく撮像に必須とされる処理以外の演算を実現できるようにする撮像素子および撮像素子の動作方法、撮像装置、および電子機器に関する。 複数のアナログデジタル変換部の一部が、画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも一部以外のアナログデジタル変換部は、低解像度画像を構成する画素信号を用いた演算処理を実行する。本開示は、撮像素子に適用することができる。
Description
本開示は、撮像素子および撮像素子の動作方法、撮像装置、および電子機器に関し、特に、メモリや演算回路を新たに付加することなく撮像に必須とされる処理以外の演算を実現できるようにした撮像素子および撮像素子および撮像素子の動作方法、撮像装置、および電子機器に関する。
撮像された画像のうち、過去画像と入力画像との差分をとることで物体領域を検出するフレーム間差分法とよばれる物体領域検出方法が一般的な技術として普及している。
そこで、この技術を利用して、イメージセンサ内でフレーム間差分を実現するために画素毎にメモリを持ち、アナログ値を差分処理する方式が提案されている(非特許文献1参照)。
また、背景画像と入力画像の差分をとることで物体領域を検出する背景差分法と呼ばれる技術が提案されている(非特許文献2参照)。
さらに、時間方向に複数の画像の重み付平均をとることでノイズ除去を行う手法が提案されている。
S.Ma,J,Chen JSSCC1999, A Singl-Chip CMOS APS Camera with Direct Frame Difference
Chris Stauffer, W.E.L Grimson, Adaptive background mixture models for real-time tracking
しかしながら、非特許文献1に記載の技術では、画素毎にメモリを持つことでセンサが大型化する。また、単純なフレーム間差分では十分な検知性能が発揮できない恐れがある。
また、非特許文献2に記載の技術の実現のためには、読み出し及び背景更新処理後の書き戻しが可能なフレームメモリの確保が必要となり、その機能をアナログ回路により実現すると回路が煩雑になってしまうため、一般的にはデジタルのフレームメモリに保持することになるが、面積が嵩むとともに、消費電力が大きくなってしまう。
さらに、上述したノイズ除去の手法では、同様にフレームメモリに書き戻す必要があるため、やはりアナログ回路により実現すると煩雑になり、デジタルフレームメモリを別途確保する必要があり、消費電力および面積が大きくなる。
本開示は、このような状況に鑑みてなされたものであり、特に、メモリや演算回路を新たに付加することなく撮像に必須とされる処理以外の演算を実現できるようにするものである。
本開示の一側面の撮像素子は、入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含み、前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部以外の前記アナログデジタル変換部は、前記低解像度画像を構成する画素信号を用いた演算処理を実行する撮像素子である。
前記アナログデジタル変換部には、前記アナログデジタル変換部は、前記演算処理の結果を記憶する記憶部を含み、少なくとも前記一部以外の前記アナログデジタル変換部は、タイミングの異なる複数フレーム分の低解像度画像を構成する画素信号を記憶させるようにすることができる。
少なくとも前記一部以外の前記アナログデジタル変換部には、新たな低解像度画像の画素信号が供給されてくるとき、隣接する前記アナログデジタル変換部の前記記憶部に記憶している画素信号を読み出し、自らの前記記憶部にシフトさせて記憶させることにより、前記タイミングの異なる複数フレーム分の低解像度画像を構成する画素信号を記憶させるようにすることができる。
少なくとも前記一部以外の前記アナログデジタル変換部には、新たな低解像度画像の画素信号が供給されてくるときであって、所定数のフレーム毎に、自らの前記記憶部に記憶している画素信号を、順次隣接する前記アナログデジタル変換部の前記記憶部にシフトさせて記憶させることにより、前記タイミングの異なる複数フレーム分の低解像度画像を構成する画素信号を記憶させるようにすることができる。
少なくとも前記一部以外の前記アナログデジタル変換部には、前記記憶部に記憶している、タイミングの異なる複数フレーム分の前記低解像度画像を構成する画素信号のフレーム間差分画像を求める演算処理を実行させるようにすることができる。
少なくとも前記一部以外の前記アナログデジタル変換部には、前記記憶部に記憶している、所定のタイミングの1フレーム分の前記低解像度画像を構成する画素信号を読み出し、新たなフレームの画素信号とのフレーム間差分画像を求め、前記記憶部に上書きさせるようにすることができる。
少なくとも前記一部以外の前記アナログデジタル変換部には、新たな低解像度画像の画素信号が供給されてくるとき、自らの前記記憶部に記憶している画素信号を、隣接する前記アナログデジタル変換部の前記記憶部にシフトさせて記憶させることにより、前記タイミングの異なる所定数の複数フレーム分の低解像度画像を構成する画素信号を記憶することで、リングバッファを構成させるようにすることができる。
前記リングバッファに記憶されているタイミングの異なる所定数の複数のフレームの前記低解像度画像を構成する画素信号と、前記新たな低解像度画像の画素信号との差分画像を演算する演算部をさらに含ませるようにすることができる。
前記演算部には、前記リングバッファに記憶されている最も古いフレームから所定番目に古いフレームまでの前記低解像度画像を構成する画素信号の各画素における平均値と、前記新たな低解像度画像の画素信号との差分絶対値を演算させ、前記差分絶対値が所定の閾値よりも大きな画素を第1の画素値とし、前記差分絶対値が所定の閾値よりも小さな画素を第2の画素値とする2値画像からなる差分画像を演算させるようにすることができる。
前記演算部には、前記リングバッファに記憶されている最も古いフレームから所定番目に古いフレームまでの前記低解像度画像を構成する画素信号の、前記タイミングに応じた重み付平均値と、前記新たな低解像度画像の画素信号との差分絶対値を演算させ、前記差分絶対値が所定の閾値よりも大きな画素を第1の画素値とし、前記差分絶対値が所定の閾値よりも小さな画素を第2の画素値とする2値画像からなる差分画像を演算させるようにすることができる。
前記演算部には、前記リングバッファに記憶されている最も古いフレームから所定番目に古いフレームまでの前記低解像度画像を構成する画素信号と、前記新たな低解像度画像の画素信号とのそれぞれの差分絶対値を演算させ、それぞれの前記差分絶対値がいずれも所定の閾値よりも大きな画素を第1の画素値とし、それぞれの前記差分絶対値のいずれかが所定の閾値よりも小さな画素を第2の画素値とする2値画像からなる差分画像を演算させるようにすることができる。
前記リングバッファに記憶されている異なるタイミングの所定数の複数のフレームの前記低解像度画像を構成する画素の画素値の平均値を演算する演算部をさらに含ませるようにすることができる。
前記演算部には、前記リングバッファに記憶されている異なるタイミングの所定数の複数のフレームの前記低解像度画像を構成する画素の画素値の、前記タイミングに応じた重み付平均値を演算させるようにすることができる。
前記低解像度画像は、前記画素アレイを構成する画素の、複数の画素群毎の平均値、代表値、およびメジアンのいずれかよりなる画像とすることができる。
本開示の一側面の撮像素子の動作方法は、入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含む撮像素子の撮像方法であって、前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部以外の前記アナログデジタル変換部が、前記低解像度画像を構成する画素信号を用いた演算処理を実行する撮像素子の動作方法である。
本開示の一側面の撮像装置は、入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含み、前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部以外の前記アナログデジタル変換部は、前記低解像度画像を構成する画素信号を用いた演算処理を実行する撮像装置である。
本開示の一側面の電子機器は、入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含み、前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部以外の前記アナログデジタル変換部は、前記低解像度画像を構成する画素信号を用いた演算処理を実行する電子機器である。
本開示の一側面においては、複数の画素が2次元のアレイ状に配設された画素アレイにより、入射光の光量に応じた画素信号が生成され、前記複数の画素が配列された列ごとに設けられた複数のアナログデジタル変換部により、前記画素信号がアナログ信号からデジタル信号に変換され、前記複数のアナログデジタル変換部の一部により、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号がアナログデジタル変換され、少なくとも前記一部以外の前記アナログデジタル変換部により、前記低解像度画像を構成する画素信号を用いた演算処理が実行される。
本開示の一側面によれば、画像処理に使用することがないカラムAD回路を利用することで、メモリや演算回路を新たに付加することなく撮像に必須とされる処理以外の演算を実現することが可能となる。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
<一般的な撮像素子の構成例>
(前景画像と背景画像とを抽出する撮像素子の構成例)
過去画像と入力画像の差分をとることで動物体領域の検出を行うという従来技術(フレーム間差分法)がある。そこで、例えば、上述した非特許文献1で示されるように、撮像素子(イメージセンサ)内でフレーム間差分を実現するために画素毎にメモリを設けて、アナログ回路により差分処理する方式が提案されている。
(前景画像と背景画像とを抽出する撮像素子の構成例)
過去画像と入力画像の差分をとることで動物体領域の検出を行うという従来技術(フレーム間差分法)がある。そこで、例えば、上述した非特許文献1で示されるように、撮像素子(イメージセンサ)内でフレーム間差分を実現するために画素毎にメモリを設けて、アナログ回路により差分処理する方式が提案されている。
また、非特許文献2で示されるように、背景画像と入力画像の差分をとることで物体領域を検出する背景差分法と呼ばれる手法を撮像素子内で実現する技術が提案されている。この場合、背景画像を格納するメモリの構成が必須となるので、装置構成が大型化してしまう上、入力画像が供給される毎に、背景画像を更新するために読出し、さらに、更新した背景画像を上書きするため、動作が複雑なものとなり、装置構成も複雑なものとなる。
より詳細には、上述する撮像素子1は、例えば、図1で示されるように、AD(Analog Digital)変換部11、画像縮小化部12、デジタルフレームメモリ13、背景更新アルゴリズム処理部14、減算部15、絶対値化部16、および閾値処理部17より構成されている。
AD変換部11は、図視せぬ画素アレイより供給されてくるアナログ信号からなる画素信号をデジタル信号に変換し、画像縮小化部12に出力する。
画像縮小化部12は、デジタル信号に変換された画素信号の解像度を低減するように画像を縮小し、デジタルフレームメモリ13に記憶させるとともに、減算部15に出力する。
デジタルフレームメモリ13は、画像縮小化部12より供給されてきた縮小された画像信号を格納するとともに、背景更新アルゴリズム処理部14に供給し、さらに、背景更新アルゴリズム処理部14の処理結果を上書きする。
背景更新アルゴリズム処理部14は、画像縮小化部12より供給されてくる入力画像である縮小画像を用いて背景画像を更新し、デジタルフレームメモリ13に書き戻す。すなわち、この処理によりデジタルフレームメモリ13に、背景画像が順次更新されて保持されることになる。
減算部15は、画像縮小化部12より供給されてくる縮小画像と、デジタルフレームメモリ13に記憶されている、背景更新アルゴリズム処理部14により背景更新アルゴリズム処理された背景画像との差分を求めて、前景画像を絶対値化部16に供給する。
絶対値化部16は、入力画像である縮小画像と背景画像との差分値の絶対値を求めて、差分画像を構成する。
閾値処理部17は、差分画像における差分値valと閾値thとの比較により、閾値より多きい画素の画素値を1とし、それ以外の画素を0とする2値化処理により、動画像からなる前景領域を推定する。
次に、図1の撮像素子の動作について説明する。
まず、AD変換部11がアナログ信号の画像信号をデジタル信号に変換する。次に、画像縮小化部12は、デジタル信号に変換された画像信号を縮小化して低解像度化し、デジタルフレームメモリ13に格納させる。
次に、背景更新アルゴリズム処理部14は、デジタルフレームメモリ13に順次格納されてくる画像信号を用いて、背景画像を更新して書き戻す処理を繰り返す。
減算部15は、縮小画像とデジタルフレームメモリ13に格納されている背景画像との差分を求めて絶対値化部16に出力する。
絶対値化部16は、入力画像である縮小画像と、デジタルフレームメモリ13より読み出される背景画像との差分絶対値からなる差分画像を閾値処理部17に供給する。
閾値処理部17は、この差分画像の各画素の画素値valと閾値thとを比較し、大きな画素の画素値を1とし、それ以外の画素の画素値を0とする2値化画像とすることで、動画像からなる前景領域を推定する画像を出力する。
この図1の撮像素子1の場合、背景画像を順次更新するためにデジタルフレームメモリ13が必須の構成となり、このため、装置が大型化してしまう。
また、背景更新アルゴリズム処理部14は、デジタルフレームメモリ13に格納されている縮小画像を読み出し、背景画像に更新処理を施した後、デジタルフレームメモリ13に書き戻す必要があり、消費電力を増大させてしまう。
(画質を向上させる撮像素子の構成例)
さらに、図2で示される撮像素子のように、時間方向の複数の画像の重み付け平均により画質を向上させる撮像素子も提案されている。尚、図2における撮像素子31において、図1の撮像素子1と同一の機能を備えた構成については、同一の符号および同一の名称を付しており、その説明は適宜省略するものとする。
さらに、図2で示される撮像素子のように、時間方向の複数の画像の重み付け平均により画質を向上させる撮像素子も提案されている。尚、図2における撮像素子31において、図1の撮像素子1と同一の機能を備えた構成については、同一の符号および同一の名称を付しており、その説明は適宜省略するものとする。
すなわち、図2の撮像素子31において、図1の撮像素子1と異なる点は、背景更新アルゴリズム処理部14、減算部15、絶対値化部16、および閾値処理部17に代えて、重み付平均化部41が設けられている点である。
重み付平均化部41は、デジタルフレームメモリ13に記憶されている、それまでの重み付平均化部41により処理された画像と、入力画像である縮小画像とを、入力画像に大きな重みが付されるように重み付平均化することで、画像よりノイズを除去して出力する。さらに、重み付平均化部41は、重み付平均化した画像をデジタルフレームメモリ13に格納させ、同様の処理を繰り返すことにより、ノイズを徐々に除去する。
ただし、この場合においても、重み付平均化部41は、デジタルフレームメモリ13より直前の処理結果となる画像を読み出すとともに、入力画像を用いて重み付平均化処理し、再びデジタルフレームメモリ13に書き戻す必要があり、消費電力が大きくなってしまう。また、デジタルフレームメモリ13が必須の構成となるため、設置面積を確保する必要があり、装置が大型化してしまう。
<本開示の撮像素子の構成例>
そこで、本開示の撮像素子においては、高解像度で撮像する際には、全画素に対して列ごとに設けられている全てのカラムAD回路を用いて画素信号を生成する機能を備える。そして、その上で、本開示の撮像素子は、画像を撮像することを目的としない、例えば、背景画像および前景画像のそれぞれの領域を検出するようなセンサとして機能させる際には、低解像度化した画像を用い、低解像度化されることで生じる画像処理に用いられることがないカラムAD回路を用いて、他の演算処理を実行させる。このような動作を実現することにより、撮像素子の構成に新たな構成を付加することなく、高解像度の画像を撮像する機能と、センサとしての機能とを切り替えて実現する。
そこで、本開示の撮像素子においては、高解像度で撮像する際には、全画素に対して列ごとに設けられている全てのカラムAD回路を用いて画素信号を生成する機能を備える。そして、その上で、本開示の撮像素子は、画像を撮像することを目的としない、例えば、背景画像および前景画像のそれぞれの領域を検出するようなセンサとして機能させる際には、低解像度化した画像を用い、低解像度化されることで生じる画像処理に用いられることがないカラムAD回路を用いて、他の演算処理を実行させる。このような動作を実現することにより、撮像素子の構成に新たな構成を付加することなく、高解像度の画像を撮像する機能と、センサとしての機能とを切り替えて実現する。
より詳細には、図3は、本開示の撮像素子の構成例を示している。図3の撮像素子51は、m行×n列からなる2次元に配列された画素を備えた画素アレイ71、n列の垂直転送線毎に設けられたカラムAD回路72-0乃至72-(n-1)、および演算回路73を備えている。尚、以降において、カラムAD回路72-0乃至72-(n-1)のそれぞれを特に区別する必要がない場合、単にカラムAD回路72と称するものとし、その他の構成についても同様に称するものとする。
画素アレイ71は、画素単位でフォトダイオードを有し、入射光の光量に応じた画素信号を発生し、垂直転送線を介して各列のカラムAD回路72に供給する。
カラムAD(Analog Digital)回路72は、垂直転送線を介して供給されてくるアナログ信号からなる画素信号をデジタル信号に変換して演算回路73に供給する。
演算回路73は、カラムAD回路72-0乃至72-(n-1)より供給されてくるデジタル信号からなる画素信号に各種の演算処理を施して、演算結果を出力する。
また、画素アレイ71は、全画素を用いた高解像度の画像信号を撮像する上、さらに、動作モードに応じて異なる動作をする。動作モードには、全画素を用いた高解像度画像を撮像する画像撮像モードと、低解像度画像の情報を用いたセンサモードとがある。例えば、センサモードにおいては、画像内の動画像からなる前景画像が撮像されている前景領域と、背景画像が撮像されている背景領域とを識別する差分画像を出力する。
より詳細には、画素アレイ71は、センサモードの場合、画素加算や間引きなどにより全画素の解像度に対して低解像度の画像を生成して、低解像度の画素信号を対応するカラムAD回路72に供給する。図3においては、画素アレイ71を構成する画素のうちの所定数の画素群71a-1乃至71a-pからなるp画素の低解像度画像として撮像する際の構成が示されている。
そこで、センサモードにおいては、低解像度画像が使用されることにより、画像処理に使用されないカラムAD回路72が発生することになるので、この画像処理に使用されないカラムAD回路72を使用して、差分画像を生成するといった撮像処理以外の演算処理を実行する。
より具体的には、図3で示されるように、例えば、画素アレイ71を、所定数の画素からなる画素群71a-1を1画素として扱う画素信号が、カラムAD回路72-0乃至72-2で処理され、画素群71a-2を1画素として扱う画素信号が、カラムAD回路72-3乃至72-5で処理される。そして、画素群71a-(p-1)を1画素として扱う画素信号が、カラムAD回路72-(n-6)乃至72-(n-4)で処理され、画素群71a-pを1画素として扱う画素信号が、カラムAD回路72-(n-3)乃至72-(n-1)のそれぞれで処理される。
カラムAD回路72-0乃至72-nは、それぞれ演算器72a-0乃至72a-nを備えているが、1フレーム単位で、順次、隣接するカラムAD回路72に演算結果をシフトさせる。
すなわち、例えば、0フレーム目の画素信号が、画素群71a-1を1画素とする画素信号が、カラムAD回路72-0に供給され、画素群71a-2を1画素とする画素信号が、カラムAD回路72-3に供給され、・・・画素群71a-(p-1)を1画素とする画素信号が、カラムAD回路72-(n-6)に供給され、画素群71a-pを1画素とする画素信号が、カラムAD回路72-(n-3)に供給される場合、それぞれで画素信号がアナログ信号からデジタル信号に変換されて、保持される。
次の1フレーム目の画素信号が供給される前に、カラムAD回路72-0,72-3,・・・72-(n-6),72-(n-3)は、それぞれが保持している画素信号を右隣りのカラムAD回路72-1,72-4,・・・72-(n-5),72-(n-2)にシフトする。
そして、新たな1フレーム目の画素信号が供給されると、画素群71a-1を1画素とする画素信号が、カラムAD回路72-0に供給され、画素群71a-2を1画素とする画素信号が、カラムAD回路72-3に供給され、・・・画素群71a-(p-1)を1画素とする画素信号が、カラムAD回路72-(n-6)に供給され、画素群71a-pを1画素とする画素信号が、カラムAD回路72-(n-3)に供給される。
すなわち、一般的に、カラムAD回路72は、画像を構成する画素信号を行単位でアナログ信号からデジタル信号に変換し、出力する。しかしながら、本開示の撮像素子51の画素アレイにおいては、センサモードにおいて、画素群71aを1画素とみなすことで、低解像度画像を構成し、複数のカラムAD回路72が有するラッチ回路などからなるメモリに、この低解像度画像からなる複数フレーム分の画像をフレームメモリ代わりに記憶させ、バッファリングや演算に使用する。
尚、画素群71aを1画素とみなすようにする処理としては、例えば、画素群71aを構成する各画素の画素値を加算して平均を求めるようにしてもよいし、いずれかの代表画素の画素値を用いるようにしてもよいし、画素群71aを構成する画素の画素値のメジアンなどを利用するようにしてもよい。
図3の撮像素子51においては、同様の処理が繰り返されることにより、低解像度の画像信号が、3フレーム分だけ蓄積される例が示されている。そして、新たに低解像度の1フレーム分の画素信号が供給されてくるとき、最も古い画素信号が破棄されて、最新の3フレーム分の画素信号が蓄積される。
(カラムAD回路の詳細な構成例)
ここで、図4を参照して、カラムAD回路72の詳細な構成例について説明する。
ここで、図4を参照して、カラムAD回路72の詳細な構成例について説明する。
カラムAD回路72は、図3で示されるように、演算器72aをそれぞれ備えているが、演算器72aは、より詳細には、例えば、図4で示される、コンパレータ91、組み合わせ回路92、およびメモリ93により構成される。
より詳細には、図4で示されるように、カラムAD回路72-0乃至72-2には、それぞれコンパレータ91-0乃至91-2、組み合わせ回路92-0乃至92-2、およびメモリ93-0乃至93-2を備えている。コンパレータ91は、それぞれ垂直転送線より供給されてくる画素信号と、リファレンス電圧とを比較して、比較結果を組み合わせ回路92に供給する。組み合わせ回路92-0乃至92-2は、画像撮像モードにおいては、AD変換処理を実現するものであり、また、センサモードにおいては、AD回路として機能させるために組み合わされている各種の回路を適宜使用して、様々な演算を実行し、メモリ93-0乃至93-2に供給する。メモリ93-0乃至93-2は、例えば、ラッチ回路などからなるものであり、演算結果を一時的に記憶する。
組み合わせ回路92-0乃至92-2は、それぞれ例えば、セレクタ101-0乃至101-2、102-0乃至102-2、符号反転部103-0乃至103-2、セレクタ104-0乃至104-2、加算器105-0乃至105-2、絶対値化部106-0乃至106-2、およびセレクタ107-0乃至107-2を備えている。
組み合わせ回路92のセレクタ101、102、符号反転部103、セレクタ104、加算器105、絶対値化部106、およびセレクタ107は、画像撮像モードにおいては、コンパレータ91、およびメモリ93と共に、いわゆるカウンタなどと同等の機能を実現し、AD変換を実現するものである。また、センサモードである場合、組み合わせ回路92のセレクタ101、102、符号反転部103、セレクタ104、加算器105、絶対値化部106、およびセレクタ107は、図中の左側に隣接するカラムAD回路72の画素信号を順次取得し、自らのメモリ93に格納する、または、メモリ93に格納されている値と共に所定の演算を加えて、メモリ93に書き戻す。さらには、メモリ93に格納された値は、右側に隣接するカラムAD回路72に供給される。
図4においては、セレクタ101は、コンパレータ91の比較結果に基づいて、0または1を出力し、セレクタ102に供給する。セレクタ102は、左隣のカラムAD回路72のメモリ93の値、または、セレクタ101より供給されてくる値のいずれかを選択的に加算器105に出力する。符号反転部103は、メモリ93に格納されている値の正負の符号を反転させてセレクタ104に供給する。セレクタ104は、自らのメモリ93の値、符号反転部103からの自らのメモリ93の値であって符号が反転された値、または、0のいずれかを選択的に加算器105に出力する。加算器105は、セレクタ102より出力される値と、セレクタ104より出力される値とを加算して、絶対値化部106およびセレクタ107に出力する。絶対値化部106は、加算器105より供給されてくる値の絶対値を求めてセレクタ107に供給する。セレクタ107は、加算機105より供給されてくる値、または、絶対値化部101より供給されてくる値のいずれかを選択的にメモリ93に格納させる。
このような構成により、カラムAD回路72は、AD変換回路、または、左隣のカラムAD72のメモリ93に格納されている値を転送する、若しくは、転送した値と自らのメモリ93に格納されている値とを加算する演算回路として機能する。
すなわち、AD変換回路として機能する場合、図5の左部、および右部のそれぞれの太線で示されるように、コンパレータ91の比較結果に基づいて、図5の左部で示されるようにセレクタ101が1を選択的に出力する、または、図5の右部で示されるようにセレクタ101が0を選択的に出力する。そして、セレクタ102が、セレクタ101の出力値を加算器105に供給する。また、セレクタ104が、メモリ93に格納されている値を読み出して加算器105に出力する。加算器105は、セレクタ102,104よりそれぞれ供給されてくる値を加算して、セレクタ107および絶対値化部106に出力する。セレクタ107は、加算器105より出力された値をメモリ93に格納する。以降において、同様の処理を繰り返す。
また、演算回路として機能する場合、左隣のカラムAD回路72のメモリ93の値を自らのメモリ93に読み込むとき、図6の左部で示されるように、セレクタ102が左隣のカラムAD回路72のメモリ93の値を選択して加算器105に供給し、セレクタ104が0を加算器105に供給する。これにより、加算器105は、実質的に、左隣のカラムAD回路72のメモリ93の値を絶対値化部106およびセレクタ107に供給する。セレクタ107は、加算器105より供給されてくる左隣のカラムAD回路72のメモリ93に格納されている値を自らのメモリ93に格納させる。
さらに、他の演算回路として機能する場合、自らのメモリ93に格納されている値と、左隣のカラムAD回路72のメモリ93の値を加算して、自らのメモリ93に読み戻すとき、図6の右部で示されるように、セレクタ102が左隣のカラムAD回路72のメモリ93の値を選択して加算器105に供給し、符号反転部103が、自らのメモリ93に格納されている値の符号を反転し、セレクタ104が、符号反転部103により符号が反転された値を加算器105に供給する。これにより、加算器105は、左隣のカラムAD回路72のメモリ93の値と、自らのメモリ93に格納されている値とを加算して絶対値化部106およびセレクタ107に供給する。絶対値化部106は、加算器105による加算結果の絶対値を求めてセレクタ107に供給する。セレクタ107は、絶対値化部106より供給されてくる加算結果を自らのメモリ93に書き戻して格納する。
(フレーム間差分演算処理)
次に、図7の動作説明図と、図8のフローチャートを参照して、画素信号を順次演算し、演算結果を右隣のカラムAD回路に転送させて、フレーム間の差分絶対値からなる差分画像を出力するフレーム間差分処理を実現させる処理について説明する。
次に、図7の動作説明図と、図8のフローチャートを参照して、画素信号を順次演算し、演算結果を右隣のカラムAD回路に転送させて、フレーム間の差分絶対値からなる差分画像を出力するフレーム間差分処理を実現させる処理について説明する。
尚、図7においては、0列目(column0)におけるカラムAD回路72-0および1列目(column1)におけるカラムAD回路72-1における処理を説明するものとするが、以降の列においても同様の処理がなされるものである。また、ここでは、カラムAD回路72における各組み合わせ回路92は、AD変換処理を行うとともに、順次供給されてくる画素値の差分絶対値を演算して出力すると共にメモリ93に格納させるものであるものとする。
すなわち、ステップS11(図8)において、図7の左上段部で示されるように、カラムAD回路72-0の組み合わせ回路92-0は、垂直転送線を介して供給される第0番目のフレームの画素信号をAD変換し、デジタル信号からなる画素値val0としてメモリ93-0に格納する。
ステップS12において、図7の左中段部で示されるように、カラムAD回路72-1の組み合わせ回路92-1は、配線L-0を介して、左側に隣接するカラムAD回路72-0のメモリ93-0より画素値val0を読み出し、メモリ93-1に格納する。この動作は、上述した図6の左部の動作に対応する動作である。
ステップS13において、図7の左下段部で示されるように、カラムAD回路72-0の組み合わせ回路92-0は、垂直転送線を介して供給される第1番目のフレームの画素信号をAD変換し、デジタル信号からなる画素値val1としてメモリ93-0に格納する。
ステップS14において、図7の右上段部で示されるように、カラムAD回路72-1の組み合わせ回路92-1は、配線L-0を介して、左側に隣接するカラムAD回路72-0のメモリ93-0より画素値val1を読み出すと共に、メモリ93-1に格納されている画素値val0を読み出し、差分絶対値を演算し、演算結果である差分絶対値ad01(=(abs-diff01)=|val1-val0|)をメモリ93-1に書き戻す。この動作は、上述した図6の右部の動作に対応する動作である。
ステップS15において、図7の右中段部で示されるように、メモリ93-1に格納された差分絶対値である演算結果ad01がフレーム間差分演算結果として出力される。
ステップS16において、図7の右下段部で示されるように、カラムAD回路72-1の組み合わせ回路92-1は、配線L-0を介して、左側に隣接するカラムAD回路72-0のメモリ93-0より画素値val1を読み出し、メモリ93-1に格納する。すなわち、画素値val1が1列分シフトされる。この動作は、上述した図6の左部の動作に対応する動作である。
そして、以降において、順次画素信号が供給されてくると、ステップS13以降の処理が順次繰り返されて、順次フレーム間差分の画素信号からなる画像が出力される。
以上の処理が繰り返しなされることにより、前後するフレームの画素間の差分絶対値からなる差分画像を順次出力することが可能となる。
すなわち、画素アレイ71の解像度に対して低解像度の画像ながら、撮像素子の構成を新たに追加することなく、フレーム間差分画像を求めることが可能となるので、例えば、低解像度ながら動画像の領域である前景領域と、動画像ではない、すなわち、動きのない背景領域とを区別する差分画像を生成することが可能となる。また、動画像領域である前景領域の検出により、監視画像などにおいて、侵入者などを前景領域として検出するまでは、センサモードで動作し、侵入者が検出された場合にのみ、画像撮像モードに切り替えて、高解像度画像で撮像するようにすることが可能となる。この際、センサモードにおいては、カラムAD回路72の一部のみを使用して、侵入者が検出されたときにのみ、高解像度で、カラムAD回路72を全て使用するようにすることで、侵入者が撮像されるまでは、比較的低消費電力のセンサモードとし、侵入者を高解像度で確実に撮像することができるので、消費電力を低減させつつ、必要な侵入者の画像について高解像度で撮像することが可能となる。また、フレームメモリ等を増設する必要がないので、装置構成を小型化することが可能となる。
(リングバッファ)
以上においては、低解像度化された画素信号を用いて順次フレーム間差分を求める例について説明してきたが、カラムAD回路72におけるメモリ93に画素信号を順次格納し、さらに、次のフレームの画素信号が供給される度に、隣接するカラムAD回路72にシフトさせるのみの処理をすることで、複数フレーム間のリングバッファを構成するようにしてもよい。
以上においては、低解像度化された画素信号を用いて順次フレーム間差分を求める例について説明してきたが、カラムAD回路72におけるメモリ93に画素信号を順次格納し、さらに、次のフレームの画素信号が供給される度に、隣接するカラムAD回路72にシフトさせるのみの処理をすることで、複数フレーム間のリングバッファを構成するようにしてもよい。
基本的な動作については、上述した差分演算を実行することなく、単に、画素信号を隣接するカラムAD回路72にシフトする動作を繰り返すことのみで実現することが可能となる。
すなわち、図9の左上部で示されるように、まず、第1フレームであるフレームF1の画素信号「1」がカラムAD回路72-0によりAD変換されて、メモリ93-0に格納される。
次に、第2フレームであるフレームF2の画素信号が供給されてくると、図9の中央上部で示されるように、メモリ93-0に格納されていた画素信号「1」が隣接するカラムAD回路72-1のメモリ93-1にシフトされると共に、新たなフレームF2の画素信号「2」がカラムAD回路72-0のメモリ93-0に格納される。
さらに、第3フレームであるフレームF3の画素信号が供給されてくると、図9の右上部で示されるように、メモリ93-1に格納されていた画素信号「1」が隣接するカラムAD回路72-2のメモリ93-2にシフトされ、メモリ93-0に格納されていた画素信号「2」が隣接するカラムAD回路72-1のメモリ93-1にシフトされる。そして、新たなフレームF3の画素信号「3」がカラムAD回路72-0のメモリ93-0に格納される。
また、第4フレームであるフレームF4の画素信号が供給されてくると、図9の左下部で示されるように、カラムAD回路72-2のメモリ93-2に格納されていた画素信号「1」が破棄されて、メモリ93-1に格納されていた画素信号「2」が隣接するカラムAD回路72-2のメモリ93-2にシフトされ、メモリ93-0に格納されていた画素信号「3」が隣接するカラムAD回路72-1のメモリ93-1にシフトされる。そして、新たなフレームF4の画素信号「4」がカラムAD回路72-0のメモリ93-0に格納される。
さらに、第5フレームであるフレームF5の画素信号が供給されてくると、図9の中央下部で示されるように、カラムAD回路72-2のメモリ93-2に格納されていた画素信号「2」が破棄されて、メモリ93-1に格納されていた画素信号「3」が隣接するカラムAD回路72-2のメモリ93-2にシフトされ、メモリ93-0に格納されていた画素信号「4」が隣接するカラムAD回路72-1のメモリ93-1にシフトされる。そして、新たなフレームF5の画素信号「5」がカラムAD回路72-0のメモリ93-0に格納される。
また、第6フレームであるフレームF6の画素信号が供給されてくると、図9の右下部で示されるように、カラムAD回路72-2のメモリ93-2に格納されていた画素信号「3」が破棄されて、メモリ93-1に格納されていた画素信号「4」が隣接するカラムAD回路72-2のメモリ93-2にシフトされ、メモリ93-0に格納されていた画素信号「5」が隣接するカラムAD回路72-1のメモリ93-1にシフトされる。そして、新たなフレームF6の画素信号「6」がカラムAD回路72-0のメモリ93-0に格納される。
以降において、順次、1フレームごとに画素信号が供給されてくると、順次、図中の右方向に隣接するカラムAD回路72のメモリ93にシフトされ、最も古いフレームの画素信号が破棄されて、常に、最新の3フレーム分の画素信号が蓄積され続け、結果として、リングバッファを実現することが可能となる。
(Nフレームごとに画素信号をバッファリングするリングバッファ)
以上においては、毎フレームごとに画素信号を隣接するカラムAD回路72のメモリ73にシフトすることでリングバッファを構成する例について説明してきたが、Nフレームごとに画素信号をシフトして、リングバッファを構成するようにしてもよい。
以上においては、毎フレームごとに画素信号を隣接するカラムAD回路72のメモリ73にシフトすることでリングバッファを構成する例について説明してきたが、Nフレームごとに画素信号をシフトして、リングバッファを構成するようにしてもよい。
すなわち、図10の左上部で示されるように、まず、第1フレームであるフレームF1の画素信号「1」がカラムAD回路72-0によりAD変換されて、メモリ93-0に格納される。
次に、第2フレームであるフレームF2の画素信号が供給されてくると、図10の中央上部で示されるように、メモリ93-0に格納されていた画素信号「1」が隣接するカラムAD回路72-1のメモリ93-1にシフトされると共に、新たなフレームF2の画素信号「2」がカラムAD回路72-0のメモリ93-0に格納される。
さらに、第3フレームであるフレームF3の画素信号が供給されてくると、図10の右上部で示されるように、メモリ93-0に格納されていた画素信号「2」が破棄されて、画素信号「3」が上書きされる。
また、第4フレームであるフレームF4の画素信号が供給されてくると、図10の左下部で示されるように、メモリ93-1に格納されていた画素信号「1」が隣接するカラムAD回路72-2のメモリ93-2にシフトされ、メモリ93-0に格納されていた画素信号「3」が隣接するカラムAD回路72-1のメモリ93-1にシフトされる。そして、新たなフレームF4の画素信号「4」がカラムAD回路72-0のメモリ93-0に上書きされて格納される。
さらに、第5フレームであるフレームF5の画素信号が供給されてくると、図10の中央下部で示されるように、メモリ93-0に格納されていた画素信号「4」が破棄されて、新たなフレームF5の画素信号「5」がカラムAD回路72-0のメモリ93-0に格納される。
また、第6フレームであるフレームF6の画素信号が供給されてくると、図10の右下部で示されるように、メモリ93-0に格納されていた画素信号「5」が破棄されて、新たなフレームF6の画素信号「6」により上書きされて、カラムAD回路72-0のメモリ93-0に格納される。
以降において、順次、画素信号が供給されてくると、Nフレームおき(1フレームおき)に、図中の右方向に隣接するカラムAD回路72のメモリ93にシフトされ、最も古いフレームの画素信号が破棄されて、常に、最新の3フレーム分の画素信号が、1フレームおきに蓄積され続け、結果として、リングバッファを実現することが可能となる。
(Nフレームおきに右側に隣接するカラムAD回路に画素信号をシフトするシフト処理)
次に、図11のフローチャートを参照して、Nフレームおきに右側に隣接するカラムAD回路に画素信号をシフトするシフト処理について説明する。
次に、図11のフローチャートを参照して、Nフレームおきに右側に隣接するカラムAD回路に画素信号をシフトするシフト処理について説明する。
ステップS31において、図示せぬ制御部により、カウンタnが1に初期化される。
ステップS32において、図示せぬ制御部により、新たなフレームの画素信号が供給されてきたか否かが判定され、送信されてくるまで、同様の処理が繰り返される。
ステップS32において、新たなフレームの画素信号が供給されてきた場合、処理は、ステップS33に進む。
ステップS33において、図示せぬ制御部により、カウンタnがN+1であるか否かが判定される。例えば、図10を参照して説明したN=1フレームおきの場合、最初の処理ではカウンタn=1であり、2(=N+1)ではないので、処理は、ステップS34に進む。
ステップS34において、組み合わせ回路92-0は、画素信号をAD変換してメモリ93-0にAD変換されるまでに格納されていた画素信号を破棄した上で、新たに上書きして格納し、処理は、ステップS35に進む。尚、最初の処理では、値がないので、そのまま格納される。
ステップS35において、図示せぬ制御部により、カウンタnが1インクリメントされて、処理は、ステップS32に戻る。
すなわち、カウンタnがN+1となるまで、ステップS32乃至S35の処理が繰り返されて、新たなフレームの画素信号が供給されてきても、画素信号がAD変換されて、カラムAD回路72-0のメモリ93-0の値が上書きされ続ける。
そして、ステップS33において、カウンタnがN+1となった場合、処理は、ステップS36に進む。
ステップS36において、組み合わせ回路92-1は、図4における左側に隣接するカラムAD回路72-0のメモリ93-0より画素信号を読み出し、メモリ93-1に格納させることにより、画素信号を1列分だけシフトさせる。
ステップS37において、組み合わせ回路92-0は、画素信号をAD変換してメモリ93-0に格納し、処理は、ステップS38に進む。
ステップS38において、組み合わせ回路92-0は、処理が終了か否かを判定し、終了ではない場合、処理は、ステップS31に戻り、それ以降の処理が繰り返される。そして、ステップS38において、処理の終了が判定されると、処理は、終了される。
すなわち、このような処理により、任意のNフレームおきに画素信号が順次右隣のカラムAD回路72のメモリ93にシフトされて、リングバッファを構成することが可能となる。
<リングバッファを用いた背景画像を算出する演算回路の構成例>
以上においては、カラムAD回路72-0乃至72-(n-1)のメモリ93-0乃至93-(n-1)を用いてリングバッファを構成する例について説明してきたが、このリングバッファを用いて背景画像と前景画像との差分画像を演算する演算回路73の構成例について説明する。
以上においては、カラムAD回路72-0乃至72-(n-1)のメモリ93-0乃至93-(n-1)を用いてリングバッファを構成する例について説明してきたが、このリングバッファを用いて背景画像と前景画像との差分画像を演算する演算回路73の構成例について説明する。
図12は、上述したメモリ93からなるリングバッファを用いて背景画像を演算する演算回路73の構成例を示している。尚、図12においては、メモリ93-0が最新のフレームの画素信号を格納するバッファ110aと、過去のフレームの画素信号を格納する、メモリ93-1乃至93-(n-1)からなるバッファ110bを構成しており、このバッファ110aおよび110bによりリングバッファ110が構成されている。
図12の演算回路73は、加算部111、ゲインアンプ112、減算部113、絶対値化部114、および閾値処理部115を備えている。
加算部111は、それぞれリングバッファ110を構成するメモリ93-0乃至93-Nのうち、最も古いフレームの画素信号から4番目まで古いフレームの画素信号を保持している、メモリ93-(n-1)乃至93-(n-4)の画素信号を加算し、ゲインアンプ112に供給する。
ゲインアンプ112は、リングバッファ110を構成するメモリ93-0乃至93-Nのうち、最も古いフレームの画素信号から4番目まで古いフレームの画素信号を保持している、メモリ93-(n-1)乃至93-(n-4)の画素信号の加算結果を1/4のゲインにすることで画素信号の平均値を求めて減算部113に出力する。
減算部113は、最も新しいフレームの画素信号が保持されているメモリ93-0の画素信号とゲインアンプ112より供給されてくる最も古いフレームの画素信号から4番目まで古いフレームの画素信号の平均値との差分を求めて絶対値化部114に供給する。
絶対値化部114は、減算部113より出力される差分となる画素値の絶対値を差分絶対値として求めて、閾値処理部115に出力する。
閾値処理部115は、絶対値化部114より供給されてくる差分絶対値となる画素値valと、所定の閾値thとを比較して所定の閾値thよりも大きな画素の画素値を1とし、それ以外の画素の画素値を0とした2値化された差分画像を出力する。この2値化された差分画像により、画素値が「1」からなる前景領域、および画素値が「0」からなる背景領域をからなる画像が生成されて、それぞれの前景領域および背景領域を推定することが可能となる。尚、画素値の0,1は入れ替わったものであってもよいし、それ以外の2値で表現されていてもよい。
すなわち、メモリ93-0乃至93-(n-1)が1フレームおきに画素信号を順次シフトして画素信号を記憶し、リングバッファ110を構成する場合、N(=1)フレームおきに画素値をシフトさせるとき、図13の最上段で示されるように、メモリ93-0にフレーム0(frame0)乃至フレーム10(frame10)が順次格納されるものとする。
この場合、メモリ93-1乃至93-(n-1)により形成されるリングバッファ110には、フレーム0(frame0)の画素信号が、メモリ93-(n-5)に、フレーム0(frame0)が供給されるタイミングで格納され、フレーム1(frame1)がスキップされる。そして、フレーム2(frame2)のタイミングで、フレーム0(frame0)の画素信号が、メモリ93-(n-4)にシフトされると共に、メモリ93-(n-5)に、フレーム2(frame2)が供給されると共に格納され、フレーム3(frame3)のタイミングでもこの状態が保持される。
また、フレーム4(frame4)のタイミングで、フレーム0(frame0)の画素信号が、メモリ93-(n-3)にシフトされると共に、フレーム2(frame2)の画素信号が、メモリ93-(n-4)にシフトされて、メモリ93-(n-5)に、フレーム4(frame4)が供給されると共に格納され、フレーム5(frame5)のタイミングでもこの状態が保持される。
さらに、フレーム6(frame6)のタイミングで、フレーム0(frame0)の画素信号が、メモリ93-(n-2)にシフトされると共に、フレーム2(frame2)の画素信号が、メモリ93-(n-3)にシフトされて、フレーム4(frame4)の画素信号が、メモリ93-(n-4)にシフトされて、メモリ93-(n-5)に、フレーム6(frame6)が供給されると共に格納され、フレーム7(frame7)のタイミングでもこの状態が保持される。
また、フレーム8(frame8)のタイミングで、フレーム0(frame0)の画素信号が、メモリ93-(n-1)にシフトされると共に、フレーム2(frame2)の画素信号が、メモリ93-(n-2)にシフトされて、フレーム4(frame4)の画素信号が、メモリ93-(n-3)にシフトされて、フレーム6(frame6)の画素信号が、メモリ93-(n-3)にシフトされて、メモリ93-(n-5)に、フレーム8(frame8)が供給されると共に格納され、フレーム9(frame9)のタイミングでもこの状態が保持される。
この処理により、メモリ93-0に、例えば、フレーム8(frame8)が供給されるタイミングにおいては、フレーム0,2,4,6(frame0,2,4,6)の平均値と、フレーム8(frame8)との差分絶対値が差分画像の画素値としてそれぞれ求められる。
すなわち、従来においては、図14の上段で示されるように、各フレームの画素信号が供給されてくる度に、直前の背景画像(背景画像(t-1))が読み出され、入力画像(入力画像(t))との重みαを用いた重み付平均が背景画像(=背景画像(t-1)×α+入力画像(t)×(1-α))として求められて書き戻す処理が繰り返されていた。このため、読み出し、演算、および書き戻しにより、演算回路73の構成が複雑になると共に、消費電力を増大させる原因となっていた。
しかしながら、図12の演算回路73の構成によれば、図14の下段で示されるように、例えば、フレーム8(frame8)の画素信号が供給されるタイミングにおいては、格納されているフレーム0,2,4,6(frame0,2,4,6)の画素信号を読み出して平均値を求め、フレーム8(frame8)の画素信号との差分絶対値を演算するのみでよいため演算回路73の構成を簡素化することができ、さらに、書き戻す処理が不要であるので、消費電力を低減させることが可能となる。
(背景差分演算処理)
次に、図15のフローチャートを参照して、図12の演算回路73による背景差分演算処理について説明する。尚、ここでは、古い方から4フレーム分の画素信号の平均値を求めるものとする。
次に、図15のフローチャートを参照して、図12の演算回路73による背景差分演算処理について説明する。尚、ここでは、古い方から4フレーム分の画素信号の平均値を求めるものとする。
ステップS51において、ゲインアンプ111-0乃至111-3は、それぞれリングバッファを構成するメモリ93-0乃至93-(n-1)のうち、最も古いフレームの画素信号からN番目まで古いフレームの画素信号を保持している、メモリ93-(n-1)乃至93-(n-4)の画素信号を読み出す。
ステップS52において、加算部111は、リングバッファ110に保持されている、最も古いフレーム画素信号から4番目まで古いフレームの画素信号を加算し、ゲインアンプ112に供給する。
ステップS53において、ゲインアンプ112は、加算した画素信号のゲインを1/4にして、最も古いフレーム画素信号から4番目まで古いフレームの画素信号の平均値を求めて減算部113に供給する。
ステップS54において、減算部113は、最も新しいフレームの画素信号が保持されているメモリ93-0の画素信号と加算部112より供給されてくる最も古いフレームの画素信号から4番目まで古いフレームの画素信号の平均値との差分を求めて絶対値化部114に供給する。
ステップS55において、絶対値化部114は、減算部113より出力される差分となる画素値の絶対値を求めて、差分絶対値として、閾値処理部115に出力する。
ステップS56において、閾値処理部115は、絶対値化部114より供給されてくる差分絶対値となる画素値valと、所定の閾値thとを比較して所定の閾値thよりも大きな画素の画素値を1とし、それ以外の画素の画素値を0とした2値化された差分画像を出力する。
この2値化された差分画像により、前景領域、および背景領域を推定することが可能となる。尚、以上においては、リングバッファ110に格納された画素信号のうち、最も古い4フレーム分の平均値と最新のフレームの画素信号との差分絶対値を用いて前景領域および背景領域を推定する例について説明してきたが、最も古い複数フレームの平均値については、4フレーム以外のフレーム数の平均値を求めるようにしてもよい。
<第1の応用例>
以上においては、メモリ93-0乃至93-(n-1)を用いたリングバッファ110により最新のフレームにおける画素信号と、最も古い4フレーム分の画素信号の平均値との差分絶対値を用いる例について説明してきたが、最新のフレームにおける画素信号と、最も古い4フレームのそれぞれとの差分絶対値が全て閾値よりも大きいときの差分絶対値の画素のみを前景領域とみなし、それ以外の画素を背景領域とみなすようにしてもよい。
以上においては、メモリ93-0乃至93-(n-1)を用いたリングバッファ110により最新のフレームにおける画素信号と、最も古い4フレーム分の画素信号の平均値との差分絶対値を用いる例について説明してきたが、最新のフレームにおける画素信号と、最も古い4フレームのそれぞれとの差分絶対値が全て閾値よりも大きいときの差分絶対値の画素のみを前景領域とみなし、それ以外の画素を背景領域とみなすようにしてもよい。
図16は、メモリ93-0乃至93-(n-1)を用いたリングバッファ110により、最新のフレームにおける画素信号と、最も古い4フレームのそれぞれとの差分絶対値が全て閾値よりも大きいときの差分絶対値の画素のみを前景領域とみなし、それ以外の画素を背景領域とみなすようにした演算回路73の第1の応用例である。
図16の演算回路73は、減算器131-0乃至131-3、絶対値化部132-0乃至132-3、閾値処理部133-0乃至133-3、および判定部134を備えている。
減算器131-0乃至131-3は、メモリ93-N乃至93-(N-3)に格納されている最も古い4フレーム分の画素信号を読み出し、メモリ93-0に格納されている最新の入力画像の画素信号との差分を求めて、それぞれ絶対値化部132-0乃至132-3に供給する。
絶対値化部132-0乃至132-3は、それぞれ供給されてくる差分値を差分絶対値として閾値処理部133-0乃至133-3に供給する。
閾値処理部133-0乃至133-3は、それぞれ差分絶対値と所定の閾値とを比較し、閾値よりも大きな画素について画素値を1とし、それ以外の画素について画素値を0とする2値化画像を生成し、判定部134に供給する。
判定部134は、閾値処理部133-0乃至133-3より供給されてくる4個の2値化画像の各画素について、画素値がいずれも1である画素のみの画素値を1とし、それ以外の画素の画素値を0とする。
このような構成により、例えば、背景に木の葉が含まれており、風に揺らぐなどして安定的に背景領域とみなされない範囲については、時系列に画素値を加算して求められる平均値の場合、値にばらつきが生じて、背景画像であるにもかかわらず、前景画像であるとみなされることがあり、安定的に背景画像であるとみなされないことがある。しかしながら、各タイミングの同一位置の画素値の全てが前景画像であるとみなされる場合にのみ前景画像であるとみなされるようにすることで、木の葉が揺れるのみで動物体が検出されてしまうようなことがなくなるので、被写体が移動した範囲のみを確実に前景領域とみなすことが可能となる。
(図16の演算回路による背景差分演算処理)
次に、図17のフローチャートを参照して、図16の演算回路による背景差分演算処理について説明する。
次に、図17のフローチャートを参照して、図16の演算回路による背景差分演算処理について説明する。
ステップS71において、減算器131-0乃至131-3は、メモリ93-(n-1)乃至93-(n-4)に格納されている最も古い4フレーム分の画素信号(N個の画素信号)を読み出す。
ステップS72において、減算器131-0乃至131-3は、それぞれ読み出した最も古い4フレーム分の画素信号と、メモリ93-0に格納されている最新の入力画像の画素信号との差分を求めて、それぞれ絶対値化部132-0乃至132-3に供給する。
ステップS73において、絶対値化部132-0乃至132-3は、それぞれ供給されてくる差分値の絶対値を求め、差分絶対値として閾値処理部133-0乃至133-3に供給する。
ステップS74において、閾値処理部133-0乃至133-3は、それぞれ差分絶対値と所定の閾値とを比較し、閾値よりも大きな画素について画素値を1とし、それ以外の画素について画素値を0とする2値化画像を生成し、判定部134に供給する。
ステップS75において、判定部134は、閾値処理部133-0乃至133-3より供給されてくる4個の2値化画像の各画素について、画素値がいずれも1である画素のみの画素値を1とし、それ以外の画素の画素値を0とする。
このような構成により、例えば、背景に木の葉が含まれており、風に揺らぐなどして安定的に前景領域とみなされない範囲については、確実に背景領域とみなされ、安定的に被写体が移動した範囲のみを前景領域とみなすことが可能となる。
<第2の応用例>
以上においては、メモリ93-0乃至93-(n-1)を用いたリングバッファ110により最新のフレームにおける画素信号と、最も古い4フレーム分の画素信号のそれぞれとの差分絶対値の比較結果を用いる例について説明してきたが、リングバッファ110に格納されている全フレームにおける画素信号の平均を求めるようにすることで、ノイズ除去を実現するようにしてもよい。
以上においては、メモリ93-0乃至93-(n-1)を用いたリングバッファ110により最新のフレームにおける画素信号と、最も古い4フレーム分の画素信号のそれぞれとの差分絶対値の比較結果を用いる例について説明してきたが、リングバッファ110に格納されている全フレームにおける画素信号の平均を求めるようにすることで、ノイズ除去を実現するようにしてもよい。
図18は、メモリ93-0乃至93-(n-1)を用いたリングバッファ110により全フレームにおける画素信号の平均を求めるようにすることで、ノイズ除去を実現するようにした演算回路73の構成例を示している。
図18の演算回路73は、加算器151、およびゲインアンプ152を備えている。加算器151は、メモリ93-0乃至93-(n-1)に格納されているnフレーム分の全フレームの画素信号を加算し、ゲインアンプ152に供給する。ゲインアンプ152は、加算器151の加算結果に、1/n倍のゲインを掛けることにより、リングバッファに平均値を求めるゲインアンプ152を備えている。
このような構成により、ノイズを除去することが可能となる。
(図18の演算回路によるノイズ除去処理)
次に、図19のフローチャートを参照して、図18の演算回路73によるノイズ除去処理について説明する。
次に、図19のフローチャートを参照して、図18の演算回路73によるノイズ除去処理について説明する。
ステップS91において、加算器151は、メモリ93-0乃至93-(n-1)に格納されているnフレーム分の画素信号を全て読み出して、加算し、加算結果をゲインアンプ152に供給する。
ステップS92において、ゲインアンプ152は、加算結果を1/n倍のゲインを掛けて、画素信号の平均値を求めるようにする。
ステップS93において、ゲインアンプ152は、画素信号の全フレーム分の平均値を出力する。
この結果、メモリ93-0乃至93-(n-1)により構成されたリングバッファ110に格納されている全フレーム分の画素信号を平均化することで、ノイズが除去された画像を出力することが可能となる。尚、以上においては、全ての画像を均等に加算して平均化する例について説明してきたが、新しい画像により大きな重みを付して、重み付平均をもとめるようにしてもよい。
<第3の応用例>
以上においては、カラムAD回路72のメモリ93の値を順次、右隣のカラムAD回路72のメモリ93にシフトする例について説明してきたが、例えば、図20で示されるように、左隣のカラムAD回路72にシフトさせるようにしてもよいし、垂直転送線の接続のオンまたはオフを切り替えるようにしてもよいし、さらに、隣接する垂直転送線の接続を切り替えるようにしてもよい。
以上においては、カラムAD回路72のメモリ93の値を順次、右隣のカラムAD回路72のメモリ93にシフトする例について説明してきたが、例えば、図20で示されるように、左隣のカラムAD回路72にシフトさせるようにしてもよいし、垂直転送線の接続のオンまたはオフを切り替えるようにしてもよいし、さらに、隣接する垂直転送線の接続を切り替えるようにしてもよい。
すなわち、図20においては、垂直転送線192間を接続する水平転送線191が設けられ、さらに、垂直転送線192間の接続のオンまたはオフを切り替えるスイッチ181-0乃至181-2が設けられている。また、垂直転送線の接続のオンまたはオフを切り替えるスイッチ182-0乃至182-2が設けられている。
さらに、カラムAD回路72-0,72-1間、およびカラムAD回路72-1,72-2間のそれぞれに設けられている、メモリ93の値を隣接する左側のカラムAD回路72に転送する配線L1-0,L1-1に加えて、右側のカラムAD回路72に転送する配線L2-1,L2-2が設けられている。
尚、図20の各構成において、図4と同一の機能を備えた構成については、同一の符号を付しており、その説明は適宜省略するものとする。すなわち、図20において、図4と異なる点は、組み合わせ回路92に代えて、組み合わせ回路92’を設けている点である。組み合わせ回路92’は、基本的な機能は、組み合わせ回路92と同様であるが、セレクタ171をさらに設けている点で異なる。セレクタ171は、動作モードに応じて、右隣のカラムAD回路72のメモリ93の画素信号か、または0のいずれかを選択して加算器105に供給する。従って、図20の組み合わせ回路92’においては、加算器105は、セレクタ102,104,171より供給されてくる3値を加算して、絶対値化部106およびセレクタ107に供給する。
このような構成により、様々な演算を実現することが可能となる。
より具体的には、図21の左上部のカラムAD回路72-11で示されるように、コンパレータ91-11が、垂直転送線より供給されてくるアナログ信号の画素信号をリファレンスとの比較結果を組み合わせ回路92’-11に供給し、組み合わせ回路92’-11を、AD変換する際に使用されるカウントアップ回路またはカウントダウン回路として機能させることが可能となる。尚、図21においては、各配線上の太線が、画素信号の移動経路を示している。
また、図21の中央上部のカラムAD回路72-21,72-22で示されるように、カラムAD回路72-22の組み合わせ回路92’-22が、配線L1を介して、左隣のカラムAD回路72-21のメモリ93-21に格納された画素信号を読み出し、メモリ93-22に格納させることで、カラムAD回路72-21のメモリ93-21に格納された画素信号を、右隣のカラムAD回路72-22のメモリ93-22に移動させる右シフト処理回路として機能させることが可能となる。
さらに、図21の右上部のカラムAD回路72-31,72-32で示されるように、カラムAD回路72-31の組み合わせ回路92’-31が、配線L2を介して、右隣のカラムAD回路72-32のメモリ93-32に格納された画素信号を読み出し、メモリ93-31に格納させることで、カラムAD回路72-32のメモリ93-32に格納された画素信号を、左隣のカラムAD回路72-31のメモリ93-31に移動させる左シフト処理回路として機能させることが可能となる。
また、図21の左下部で示されるように、カラムAD回路72-51で示されるように、カラムAD回路72-51のメモリ93-51に初期値として画素信号を格納させることで初期値設定回路として機能させることが可能となる。
さらに、図21の中央下部で示されるように、カラムAD回路72-71,72-72で示されるように、カラムAD回路72-72の組み合わせ回路92’-72が、配線L1を介して、左隣のカラムAD回路72-71のメモリ93-71に格納された画素信号を読み出し、メモリ93-72に格納されている値と共に演算し、メモリ93-72に格納する右シフト演算回路として機能させることが可能となる。
また、図21の右下部で示されるように、カラムAD回路72-91,72-92で示されるように、カラムAD回路72-91の組み合わせ回路92’-91が、配線L2を介して、左隣のカラムAD回路72-92のメモリ93-92に格納された画素信号を読み出し、メモリ93-91に格納されている値を用いて演算し、メモリ93-91に格納することで左シフト演算回路として機能させることが可能となる。
このような演算回路を組み合わせるようにすることで、様々な演算処理を実現することが可能となる。
例えば、0列目(column0)乃至5列目(column5)までの6列について、カラムAD回路72-0乃至72-5を設けて、カラムAD回路72-0,72-4をAD変換のためのカウントアップ回路として機能させ、カラムAD回路72-1乃至72-3を右シフト処理回路として機能させ、カラムAD回路72-5を初期値設定回路として機能させ、カラムAD回路72-4を、さらに、図5で示されるような右シフト演算回路として機能させることで、図22で示されるような処理を実現することが可能となる。
尚、図22においては、各列(column0乃至5)のカラムAD回路72-0乃至72-5における第0フレーム(frame0)乃至第3フレーム(frame3)までの処理がタイミングT1乃至T13のそれぞれにおいて示されている。
また、予めcolumn5のカラムAD回路72-5が、初期設定回路として機能し、メモリ93-5に閾値(thresh)が設定されるものとする。
タイミングT1において、column0のカラムAD回路72-0に、0フレーム目(frame0)の画素値(val0)が入力されると、カラムAD回路72-0の組み合わせ回路92’-0が、AD変換し、タイミングT2において、カラムAD回路72-0(column0)内のメモリ93-0に保存する。
タイミングT3において、カラムAD回路72-1の組み合わせ回路92’-1が、column0内のメモリ93-0に保存した画素値(val0)を、column1内のメモリ93-1にシフトする。
タイミングT4において、1フレーム目(frame1)の画素値(val1)がcolumn0のカラムAD回路72-0の組み合わせ回路92’-0に入力されると、カラムAD回路72-0の組み合わせ回路92’-0が、AD変換し、タイミングT5において、column0内のメモリ93-0に保存する。
タイミングT6において、画素値(val0)がcolum1内のメモリ93-1からcolumn2のメモリ93-2へシフトされ、同様に、画素値(val1)がcolumn0内のメモリ93-0からcolumn1のメモリ93-1へとシフトされる。
タイミングT7において、2フレーム目(frame2)の画素値(val2)に対しても順次AD変換がなされ、タイミングT8において、column0のメモリ93-0に保存される。
そして、タイミングT9において、column2の画素値(val0)がcolumn3のメモリ93-3にシフトされ、column1の画素値(val1)がcolumn2のメモリ93-2にシフトされ、column0の画素値(val2)がcolumn1のメモリ93-1にシフトされる。
タイミングT10において、3フレーム目(frame3)の画素値(val3)が入力されたとき、図23で示されるように、水平転送線191のスイッチ181-0乃至181-3をオンにして接続し、column0のカラムAD回路72-0とcolumn4のカラムAD回路72-4とで同時にAD変換を実行し、タイミングT11において、それぞれ画素値(val3)が、メモリ93-0,93-4に格納される。
タイミングT12において、column0乃至3の画素値val0乃至val3は、それぞれ右隣に隣接するカラムAD回路72-3乃至72-1のメモリ93-3乃至93-1にそれぞれシフトされる。このとき、同時に、column4のカラムAD回路72-4では、組み合わせ回路92-4が、column3のカラムAD回路72-3のメモリ93-3に格納されている画素値(val0)とcolumn4のカラムAD回路72-4によりAD変換された画素値(val3)とで差分絶対値を演算により求め、演算結果(abs_diff03)をcolumn4のカラムAD回路72-4のメモリ93-4に格納する。
タイミングT13において、column5のカラムAD回路72-5に設定された閾値(thresh)がcolumn4のカラムAD回路72-4にシフトされながら、その差分絶対値(abs_diff03)から減算し、減算結果(diff03)を保存する。
この減算結果(diff03)が、所定の閾値よりも大きい場合、この画素が動体を含む前景領域であるものとみなされることになる。
このような動作により、前景領域と背景領域とからなる2値化画像からなる差分画像を構成することが可能となる。
尚、以上においては、低解像度画像とすることでAD変換に使用されないカラムAD回路72を用いて差分画像を演算する例について説明してきたが、カラムAD回路72を構成する組み合わせ回路92の構成を工夫することで、他の演算処理に応用することも可能である。また、AD変換に使用されないカラムAD回路72を利用してリングバッファ110を構成し、リングバッファ110を用いて、演算回路73の構成により差分画像を求める、およびノイズを除去するようにする例についても説明してきたが、演算回路73の構成を変えることで、他の演算に使用するようにしてもよいものである。
また、以上においては、全画素について露光時間が同一である例について説明してきたが、露光時間の異なる低解像度画像をカラムAD回路72のグループを分けて格納し、白飛びや黒沈みを除去するようにしてもよい。
以上の如く、本開示の撮像素子によれば、カラムAD回路72内メモリ93を用いて演算処理を行うことで、デジタルフレームメモリを増設する必要がないため、その分の実装エリアを小さくすることができるので、装置の小型化を実現することが可能となる。また、デジタルフレームメモリを設ける必要がないので、リーク電流を低く抑えることが可能となり、省電力化を実現することが可能となる。
また、画素内にメモリを持つ方式に比べて、画素を小さくできるので、その分多画素化を実現する、または、小面積化を実現することが可能となる。
さらに、カラムAD回路内で動物体を検知する構成にすることで、通常時はカラムAD回路の後段の構成を完全に停止したまま、動き検知をすることができるため、省電力化を実現することが可能となる。
<電子機器への適用例>
上述した撮像素子51は、例えば、デジタルスチルカメラやデジタルビデオカメラなどの撮像装置、撮像機能を備えた携帯電話機、または、撮像機能を備えた他の機器といった各種の電子機器に適用することができる。
上述した撮像素子51は、例えば、デジタルスチルカメラやデジタルビデオカメラなどの撮像装置、撮像機能を備えた携帯電話機、または、撮像機能を備えた他の機器といった各種の電子機器に適用することができる。
図24は、本技術を適用した電子機器としての撮像装置の構成例を示すブロック図である。
図24に示される撮像装置501は、光学系502、シャッタ装置503、固体撮像素子504、駆動回路505、信号処理回路506、モニタ507、およびメモリ508を備えて構成され、静止画像および動画像を撮像可能である。
光学系502は、1枚または複数枚のレンズを有して構成され、被写体からの光(入射光)を固体撮像素子504に導き、固体撮像素子504の受光面に結像させる。
シャッタ装置503は、光学系502および固体撮像素子504の間に配置され、駆動回路1005の制御に従って、固体撮像素子504への光照射期間および遮光期間を制御する。
固体撮像素子504は、上述した固体撮像素子を含むパッケージにより構成される。固体撮像素子504は、光学系502およびシャッタ装置503を介して受光面に結像される光に応じて、一定期間、信号電荷を蓄積する。固体撮像素子504に蓄積された信号電荷は、駆動回路505から供給される駆動信号(タイミング信号)に従って転送される。
駆動回路505は、固体撮像素子504の転送動作、および、シャッタ装置503のシャッタ動作を制御する駆動信号を出力して、固体撮像素子504およびシャッタ装置503を駆動する。
信号処理回路506は、固体撮像素子504から出力された信号電荷に対して各種の信号処理を施す。信号処理回路506が信号処理を施すことにより得られた画像(画像データ)は、モニタ507に供給されて表示されたり、メモリ508に供給されて記憶(記録)されたりする。
このように構成されている撮像装置501においても、上述した光学系502、シャッタ装置503、および固体撮像素子504に代えて、撮像素子51を適用することにより、演算に必要とされる回路構成を増設することなく画像撮像モードとセンサモードとを切り替えた撮像が可能となり、装置の小型化や省電力化を実現することが可能となる。
<固体撮像素子の使用例>
<固体撮像素子の使用例>
図25は、上述の撮像素子51を使用する使用例を示す図である。
上述したカメラモジュールは、例えば、以下のように、可視光や、赤外光、紫外光、X線等の光をセンシングする様々なケースに使用することができる。
・ディジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
尚、本開示は、以下のような構成も取ることができる。
<1> 入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、
前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含み、
前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部の前記アナログデジタル変換部は、前記低解像度画像を構成する画素信号を用いた演算処理を実行する
撮像素子。
<2> 前記アナログデジタル変換部は、前記演算処理の結果を記憶する記憶部を含み、
少なくとも前記一部以外の前記アナログデジタル変換部は、タイミングの異なる複数フレーム分の低解像度画像を構成する画素信号を記憶する
<1>に記載の撮像素子。
<3> 少なくとも前記一部以外の前記アナログデジタル変換部は、新たな低解像度画像の画素信号が供給されてくるとき、隣接する前記アナログデジタル変換部の前記記憶部に記憶している画素信号を読み出し、自らの前記記憶部にシフトさせて記憶させることにより、前記タイミングの異なる複数フレーム分の低解像度画像を構成する画素信号を記憶する
<2>に記載の撮像素子。
<4> 少なくとも前記一部以外の前記アナログデジタル変換部は、新たな低解像度画像の画素信号が供給されてくるときであって、所定数のフレーム毎に、自らの前記記憶部に記憶している画素信号を、順次隣接する前記アナログデジタル変換部の前記記憶部にシフトさせて記憶させることにより、前記タイミングの異なる複数フレーム分の低解像度画像を構成する画素信号を記憶する
<2>に記載の撮像素子。
<5> 少なくとも前記一部以外の前記アナログデジタル変換部は、前記記憶部に記憶している、タイミングの異なる複数フレーム分の前記低解像度画像を構成する画素信号のフレーム間差分画像を求める演算処理を実行する
<2>に記載の撮像素子。
<6> 少なくとも前記一部以外の前記アナログデジタル変換部は、前記記憶部に記憶している、所定のタイミングの1フレーム分の前記低解像度画像を構成する画素信号を読み出し、新たなフレームの画素信号とのフレーム間差分画像を求め、前記記憶部に上書きする
<5>に記載の撮像素子。
<7> 少なくとも前記一部以外の前記アナログデジタル変換部は、新たな低解像度画像の画素信号が供給されてくるとき、自らの前記記憶部に記憶している画素信号を、隣接する前記アナログデジタル変換部の前記記憶部にシフトさせて記憶させることにより、前記タイミングの異なる所定数の複数フレーム分の低解像度画像を構成する画素信号を記憶することで、リングバッファを構成する
<2>に記載の撮像素子。
<8> 前記リングバッファに記憶されているタイミングの異なる所定数の複数のフレームの前記低解像度画像を構成する画素信号と、前記新たな低解像度画像の画素信号との差分画像を演算する演算部をさらに含む
<7>に記載の撮像素子。
<9> 前記演算部は、前記リングバッファに記憶されている最も古いフレームから所定番目に古いフレームまでの前記低解像度画像を構成する画素信号の各画素における平均値と、前記新たな低解像度画像の画素信号との差分絶対値を演算し、前記差分絶対値が所定の閾値よりも大きな画素を第1の画素値とし、前記差分絶対値が所定の閾値よりも小さな画素を第2の画素値とする2値画像からなる差分画像を演算する
<8>に記載の撮像素子。
<10> 前記演算部は、前記リングバッファに記憶されている最も古いフレームから所定番目に古いフレームまでの前記低解像度画像を構成する画素信号の、前記タイミングに応じた重み付平均値と、前記新たな低解像度画像の画素信号との差分絶対値を演算し、前記差分絶対値が所定の閾値よりも大きな画素を第1の画素値とし、前記差分絶対値が所定の閾値よりも小さな画素を第2の画素値とする2値画像からなる差分画像を演算する
<9>に記載の撮像素子。
<11> 前記演算部は、前記リングバッファに記憶されている最も古いフレームから所定番目に古いフレームまでの前記低解像度画像を構成する画素信号と、前記新たな低解像度画像の画素信号とのそれぞれの差分絶対値を演算し、それぞれの前記差分絶対値がいずれも所定の閾値よりも大きな画素を第1の画素値とし、それぞれの前記差分絶対値のいずれかが所定の閾値よりも小さな画素を第2の画素値とする2値画像からなる差分画像を演算する
<9>に記載の撮像素子。
<12> 前記リングバッファに記憶されている異なるタイミングの所定数の複数のフレームの前記低解像度画像を構成する画素の画素値の平均値を演算する演算部をさらに含む
<7>に記載の撮像素子。
<13> 前記演算部は、前記リングバッファに記憶されている異なるタイミングの所定数の複数のフレームの前記低解像度画像を構成する画素の画素値の、前記タイミングに応じた重み付平均値を演算する
<12>に記載の撮像素子。
<14> 前記低解像度画像は、前記画素アレイを構成する画素の、複数の画素群毎の平均値、代表値、およびメジアンのいずれかよりなる画像である
<1>に記載の撮像素子。
<15> 入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、
前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含む撮像素子の撮像方法であって、
前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部以外の前記アナログデジタル変換部が、前記低解像度画像を構成する画素信号を用いた演算処理を実行する
撮像素子の動作方法。
<16> 入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、
前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含み、
前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部以外の前記アナログデジタル変換部は、前記低解像度画像を構成する画素信号を用いた演算処理を実行する
撮像装置。
<17> 入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、
前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含み、
前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部以外の前記アナログデジタル変換部は、前記低解像度画像を構成する画素信号を用いた演算処理を実行する
電子機器。
<1> 入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、
前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含み、
前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部の前記アナログデジタル変換部は、前記低解像度画像を構成する画素信号を用いた演算処理を実行する
撮像素子。
<2> 前記アナログデジタル変換部は、前記演算処理の結果を記憶する記憶部を含み、
少なくとも前記一部以外の前記アナログデジタル変換部は、タイミングの異なる複数フレーム分の低解像度画像を構成する画素信号を記憶する
<1>に記載の撮像素子。
<3> 少なくとも前記一部以外の前記アナログデジタル変換部は、新たな低解像度画像の画素信号が供給されてくるとき、隣接する前記アナログデジタル変換部の前記記憶部に記憶している画素信号を読み出し、自らの前記記憶部にシフトさせて記憶させることにより、前記タイミングの異なる複数フレーム分の低解像度画像を構成する画素信号を記憶する
<2>に記載の撮像素子。
<4> 少なくとも前記一部以外の前記アナログデジタル変換部は、新たな低解像度画像の画素信号が供給されてくるときであって、所定数のフレーム毎に、自らの前記記憶部に記憶している画素信号を、順次隣接する前記アナログデジタル変換部の前記記憶部にシフトさせて記憶させることにより、前記タイミングの異なる複数フレーム分の低解像度画像を構成する画素信号を記憶する
<2>に記載の撮像素子。
<5> 少なくとも前記一部以外の前記アナログデジタル変換部は、前記記憶部に記憶している、タイミングの異なる複数フレーム分の前記低解像度画像を構成する画素信号のフレーム間差分画像を求める演算処理を実行する
<2>に記載の撮像素子。
<6> 少なくとも前記一部以外の前記アナログデジタル変換部は、前記記憶部に記憶している、所定のタイミングの1フレーム分の前記低解像度画像を構成する画素信号を読み出し、新たなフレームの画素信号とのフレーム間差分画像を求め、前記記憶部に上書きする
<5>に記載の撮像素子。
<7> 少なくとも前記一部以外の前記アナログデジタル変換部は、新たな低解像度画像の画素信号が供給されてくるとき、自らの前記記憶部に記憶している画素信号を、隣接する前記アナログデジタル変換部の前記記憶部にシフトさせて記憶させることにより、前記タイミングの異なる所定数の複数フレーム分の低解像度画像を構成する画素信号を記憶することで、リングバッファを構成する
<2>に記載の撮像素子。
<8> 前記リングバッファに記憶されているタイミングの異なる所定数の複数のフレームの前記低解像度画像を構成する画素信号と、前記新たな低解像度画像の画素信号との差分画像を演算する演算部をさらに含む
<7>に記載の撮像素子。
<9> 前記演算部は、前記リングバッファに記憶されている最も古いフレームから所定番目に古いフレームまでの前記低解像度画像を構成する画素信号の各画素における平均値と、前記新たな低解像度画像の画素信号との差分絶対値を演算し、前記差分絶対値が所定の閾値よりも大きな画素を第1の画素値とし、前記差分絶対値が所定の閾値よりも小さな画素を第2の画素値とする2値画像からなる差分画像を演算する
<8>に記載の撮像素子。
<10> 前記演算部は、前記リングバッファに記憶されている最も古いフレームから所定番目に古いフレームまでの前記低解像度画像を構成する画素信号の、前記タイミングに応じた重み付平均値と、前記新たな低解像度画像の画素信号との差分絶対値を演算し、前記差分絶対値が所定の閾値よりも大きな画素を第1の画素値とし、前記差分絶対値が所定の閾値よりも小さな画素を第2の画素値とする2値画像からなる差分画像を演算する
<9>に記載の撮像素子。
<11> 前記演算部は、前記リングバッファに記憶されている最も古いフレームから所定番目に古いフレームまでの前記低解像度画像を構成する画素信号と、前記新たな低解像度画像の画素信号とのそれぞれの差分絶対値を演算し、それぞれの前記差分絶対値がいずれも所定の閾値よりも大きな画素を第1の画素値とし、それぞれの前記差分絶対値のいずれかが所定の閾値よりも小さな画素を第2の画素値とする2値画像からなる差分画像を演算する
<9>に記載の撮像素子。
<12> 前記リングバッファに記憶されている異なるタイミングの所定数の複数のフレームの前記低解像度画像を構成する画素の画素値の平均値を演算する演算部をさらに含む
<7>に記載の撮像素子。
<13> 前記演算部は、前記リングバッファに記憶されている異なるタイミングの所定数の複数のフレームの前記低解像度画像を構成する画素の画素値の、前記タイミングに応じた重み付平均値を演算する
<12>に記載の撮像素子。
<14> 前記低解像度画像は、前記画素アレイを構成する画素の、複数の画素群毎の平均値、代表値、およびメジアンのいずれかよりなる画像である
<1>に記載の撮像素子。
<15> 入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、
前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含む撮像素子の撮像方法であって、
前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部以外の前記アナログデジタル変換部が、前記低解像度画像を構成する画素信号を用いた演算処理を実行する
撮像素子の動作方法。
<16> 入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、
前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含み、
前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部以外の前記アナログデジタル変換部は、前記低解像度画像を構成する画素信号を用いた演算処理を実行する
撮像装置。
<17> 入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、
前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含み、
前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部以外の前記アナログデジタル変換部は、前記低解像度画像を構成する画素信号を用いた演算処理を実行する
電子機器。
51 撮像素子, 71 画素アレイ, 71a,71a-1乃至71a-p 画素群, 72,72-0乃至72-(n-1) カラムAD回路, 73 演算回路, 91 コンパレータ, 92,92-0乃至92-(n-1) 組み合わせ回路, 93,93-0乃至93-(n-1) メモリ, 101,101-0乃至101-(n-1) 回路, 102,102-0乃至102-(n-1) 加算器, 103,103-0乃至103-(n-1) 回路, 110 リングバッファ, 111,111-0乃至111-4 ゲインアンプ, 112 加算器, 113 減算気, 114 絶対値化部, 115 閾値処理部, 131,131-0乃至131-3 減算気, 132,132-0乃至132-3 絶対値化部, 133,133-0乃至133-(n-1) 閾値判定部, 134 判定部, 151 加算器, 152 ゲインアンプ, 181,181-0乃至181-2 スイッチ, 182,182-0乃至182-2 スイッチ, 191 水平転送線, 192,192-1乃至192-2 垂直転送
Claims (17)
- 入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、
前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含み、
前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部以外の前記アナログデジタル変換部は、前記低解像度画像を構成する画素信号を用いた演算処理を実行する
撮像素子。 - 前記アナログデジタル変換部は、前記演算処理の結果を記憶する記憶部を含み、
少なくとも前記一部以外の前記アナログデジタル変換部は、タイミングの異なる複数フレーム分の低解像度画像を構成する画素信号を記憶する
請求項1に記載の撮像素子。 - 少なくとも前記一部以外の前記アナログデジタル変換部は、新たな低解像度画像の画素信号が供給されてくるとき、隣接する前記アナログデジタル変換部の前記記憶部に記憶している画素信号を読み出し、自らの前記記憶部にシフトさせて記憶させることにより、前記タイミングの異なる複数フレーム分の低解像度画像を構成する画素信号を記憶する
請求項2に記載の撮像素子。 - 少なくとも前記一部以外の前記アナログデジタル変換部は、新たな低解像度画像の画素信号が供給されてくるときであって、所定数のフレーム毎に、自らの前記記憶部に記憶している画素信号を、順次隣接する前記アナログデジタル変換部の前記記憶部にシフトさせて記憶させることにより、前記タイミングの異なる複数フレーム分の低解像度画像を構成する画素信号を記憶する
請求項2に記載の撮像素子。 - 少なくとも前記一部以外の前記アナログデジタル変換部は、前記記憶部に記憶している、タイミングの異なる複数フレーム分の前記低解像度画像を構成する画素信号のフレーム間差分画像を求める演算処理を実行する
請求項2に記載の撮像素子。 - 少なくとも前記一部以外の前記アナログデジタル変換部は、前記記憶部に記憶している、所定のタイミングの1フレーム分の前記低解像度画像を構成する画素信号を読み出し、新たなフレームの画素信号とのフレーム間差分画像を求め、前記記憶部に上書きする
請求項5に記載の撮像素子。 - 少なくとも前記一部以外の前記アナログデジタル変換部は、新たな低解像度画像の画素信号が供給されてくるとき、自らの前記記憶部に記憶している画素信号を、隣接する前記アナログデジタル変換部の前記記憶部にシフトさせて記憶させることにより、前記タイミングの異なる所定数の複数フレーム分の低解像度画像を構成する画素信号を記憶することで、リングバッファを構成する
請求項2に記載の撮像素子。 - 前記リングバッファに記憶されているタイミングの異なる所定数の複数のフレームの前記低解像度画像を構成する画素信号と、前記新たな低解像度画像の画素信号との差分画像を演算する演算部をさらに含む
請求項7に記載の撮像素子。 - 前記演算部は、前記リングバッファに記憶されている最も古いフレームから所定番目に古いフレームまでの前記低解像度画像を構成する画素信号の各画素における平均値と、前記新たな低解像度画像の画素信号との差分絶対値を演算し、前記差分絶対値が所定の閾値よりも大きな画素を第1の画素値とし、前記差分絶対値が所定の閾値よりも小さな画素を第2の画素値とする2値画像からなる差分画像を演算する
請求項8に記載の撮像素子。 - 前記演算部は、前記リングバッファに記憶されている最も古いフレームから所定番目に古いフレームまでの前記低解像度画像を構成する画素信号の、前記タイミングに応じた重み付平均値と、前記新たな低解像度画像の画素信号との差分絶対値を演算し、前記差分絶対値が所定の閾値よりも大きな画素を第1の画素値とし、前記差分絶対値が所定の閾値よりも小さな画素を第2の画素値とする2値画像からなる差分画像を演算する
請求項9に記載の撮像素子。 - 前記演算部は、前記リングバッファに記憶されている最も古いフレームから所定番目に古いフレームまでの前記低解像度画像を構成する画素信号と、前記新たな低解像度画像の画素信号とのそれぞれの差分絶対値を演算し、それぞれの前記差分絶対値がいずれも所定の閾値よりも大きな画素を第1の画素値とし、それぞれの前記差分絶対値のいずれかが所定の閾値よりも小さな画素を第2の画素値とする2値画像からなる差分画像を演算する
請求項9に記載の撮像素子。 - 前記リングバッファに記憶されている異なるタイミングの所定数の複数のフレームの前記低解像度画像を構成する画素の画素値の平均値を演算する演算部をさらに含む
請求項7に記載の撮像素子。 - 前記演算部は、前記リングバッファに記憶されている異なるタイミングの所定数の複数のフレームの前記低解像度画像を構成する画素の画素値の、前記タイミングに応じた重み付平均値を演算する
請求項12に記載の撮像素子。 - 前記低解像度画像は、前記画素アレイを構成する画素の、複数の画素群毎の平均値、代表値、およびメジアンのいずれかよりなる画像である
請求項1に記載の撮像素子。 - 入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、
前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含む撮像素子の撮像方法であって、
前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部以外の前記アナログデジタル変換部が、前記低解像度画像を構成する画素信号を用いた演算処理を実行する
撮像素子の動作方法。 - 入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、
前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含み、
前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部以外の前記アナログデジタル変換部は、前記低解像度画像を構成する画素信号を用いた演算処理を実行する
撮像装置。 - 入射光の光量に応じて画素信号を生成する複数の画素が2次元のアレイ状に配設された画素アレイと、
前記複数の画素が配列された列ごとに設けられ、前記画素信号をアナログ信号からデジタル信号に変換する複数のアナログデジタル変換部とを含み、
前記複数のアナログデジタル変換部の一部が、前記画素アレイの解像度よりも低解像度の低解像度画像を構成する画素信号をアナログデジタル変換し、少なくとも前記一部以外の前記アナログデジタル変換部は、前記低解像度画像を構成する画素信号を用いた演算処理を実行する
電子機器。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016175734A JP2018042139A (ja) | 2016-09-08 | 2016-09-08 | 撮像素子および撮像素子の動作方法、撮像装置、および電子機器 |
JP2016-175734 | 2016-09-08 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2018047642A1 true WO2018047642A1 (ja) | 2018-03-15 |
Family
ID=61561990
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2017/030630 WO2018047642A1 (ja) | 2016-09-08 | 2017-08-25 | 撮像素子および撮像素子の動作方法、撮像装置、および電子機器 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2018042139A (ja) |
WO (1) | WO2018047642A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7286309B2 (ja) | 2018-12-18 | 2023-06-05 | キヤノン株式会社 | 光電変換装置、光電変換システムおよび信号処理装置 |
JP7010259B2 (ja) | 2019-03-20 | 2022-02-10 | カシオ計算機株式会社 | 撮像装置、撮像方法およびプログラム |
JP7321741B2 (ja) * | 2019-04-04 | 2023-08-07 | キヤノン株式会社 | 撮像装置およびその制御方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011159958A (ja) * | 2010-01-08 | 2011-08-18 | Sony Corp | 半導体装置、固体撮像装置、およびカメラシステム |
WO2014007004A1 (ja) * | 2012-07-06 | 2014-01-09 | ソニー株式会社 | 固体撮像装置及び固体撮像装置の駆動方法、並びに、電子機器 |
JP2014072541A (ja) * | 2012-09-27 | 2014-04-21 | Nikon Corp | 撮像素子および撮像装置 |
-
2016
- 2016-09-08 JP JP2016175734A patent/JP2018042139A/ja active Pending
-
2017
- 2017-08-25 WO PCT/JP2017/030630 patent/WO2018047642A1/ja active Application Filing
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011159958A (ja) * | 2010-01-08 | 2011-08-18 | Sony Corp | 半導体装置、固体撮像装置、およびカメラシステム |
WO2014007004A1 (ja) * | 2012-07-06 | 2014-01-09 | ソニー株式会社 | 固体撮像装置及び固体撮像装置の駆動方法、並びに、電子機器 |
JP2014072541A (ja) * | 2012-09-27 | 2014-04-21 | Nikon Corp | 撮像素子および撮像装置 |
Also Published As
Publication number | Publication date |
---|---|
JP2018042139A (ja) | 2018-03-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101371564B (zh) | 为成像器中的电子稳定提供像素存储栅极电荷感测的方法及设备 | |
CN101052101B (zh) | 用于图像拾取的装置和方法 | |
WO2016147885A1 (ja) | 固体撮像装置、固体撮像装置の駆動方法、及び、電子機器 | |
WO2017018188A1 (ja) | イメージセンサ、及び、電子機器 | |
WO2018047642A1 (ja) | 撮像素子および撮像素子の動作方法、撮像装置、および電子機器 | |
US20150281613A1 (en) | Conditional-reset, multi-bit read-out image sensor | |
CN101959009B (zh) | 图像处理设备 | |
WO2017169885A1 (ja) | 撮像装置、駆動方法、および、電子機器 | |
WO2016114153A1 (ja) | 固体撮像装置、駆動方法、及び、電子機器 | |
JPWO2017141727A1 (ja) | 固体撮像装置、固体撮像装置の駆動方法、及び、電子機器 | |
JP6789925B2 (ja) | 固体撮像素子、撮像装置、並びに電子機器 | |
WO2017057048A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
CN108833812A (zh) | 一种图像传感器及图像动态信息处理方法 | |
CN104380710A (zh) | 闪烁减少装置、拍摄装置以及闪烁减少方法 | |
KR100864341B1 (ko) | 화상 처리 장치 및 방법과 촬상 장치 | |
US8213496B2 (en) | Image processing device, image processing method, and image processing program | |
JP6740230B2 (ja) | 固体撮像装置および電子機器 | |
KR20150146424A (ko) | 이미지에서 추정된 깊이를 결정하기 위한 방법 및 시스템 | |
JP2016208402A (ja) | 固体撮像素子およびその駆動方法、並びに電子機器 | |
JP6028363B2 (ja) | 撮像装置、及びプログラム | |
JP2001326857A (ja) | 演算機能付き撮像素子 | |
JP2021192498A (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP2012085205A (ja) | 画像処理装置、撮像装置、画像処理方法および画像処理プログラム | |
JP2019114956A (ja) | 画像処理装置、撮像システム、移動体 | |
JP6903417B2 (ja) | 固体撮像素子および制御方法、並びに電子機器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 17848583 Country of ref document: EP Kind code of ref document: A1 |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 17848583 Country of ref document: EP Kind code of ref document: A1 |