JPWO2011043045A1 - 撮像装置、固体撮像素子、画像生成方法、およびプログラム - Google Patents
撮像装置、固体撮像素子、画像生成方法、およびプログラム Download PDFInfo
- Publication number
- JPWO2011043045A1 JPWO2011043045A1 JP2011511929A JP2011511929A JPWO2011043045A1 JP WO2011043045 A1 JPWO2011043045 A1 JP WO2011043045A1 JP 2011511929 A JP2011511929 A JP 2011511929A JP 2011511929 A JP2011511929 A JP 2011511929A JP WO2011043045 A1 JPWO2011043045 A1 JP WO2011043045A1
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- unit
- signal
- pixels
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
- H04N25/46—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
- H04N25/77—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
Abstract
撮像装置は、撮像面に2次元状に配列された複数の画素20を含む画素アレイ200と、各画素20から画素信号を読み出す画素信号読出し部30と、画素信号読出し部30から読み出された各画素信号に基づいて画像を生成する画像生成部32とを備えている。画素アレイは、各々がN個(Nは2以上の整数)の画素を含むM個(Mは2以上の整数)の単位画素ブロック40に分割されている。画素信号読出し部は、各単位画素ブロック40に含まれる前記N個の画素20から時間間隔Tごとに、それぞれ異なるタイミングで前記画素信号を読み出す。
Description
本発明は、画像の空間分解能と時間分解能の関係を利用した撮像技術に関する。
近年、CCDやCMOS等の固体撮像素子(以下、「撮像素子」と呼ぶことがある。)を用いたデジタルカメラやデジタルムービーの高機能化、高性能化には目を見張るものがある。特に半導体製造技術の急速な進歩により、固体撮像素子における画素構造の微細化が進んでいる。その結果、固体撮像素子の画素及び駆動回路の高集積化が図られ、固体撮像素子の多画素化が進んでいる。特に最近では、僅かの年数の間に固体撮像素子の画素数が数100万画素から1000万画素を超えるに至り、さらには数1000万画素の固体撮像素子が開発されようとしている。
このような多画素化への流れの一方で、人間の視覚特性の観点から1000万画素も必要ないという考え方もある。人間の網膜には光の色(RGB)を感知する錐体細胞と明暗を感知する桿体細胞がある。錐体細胞および桿体細胞の数は、それぞれ約650万個、および約1億2000万個と言われている。このことから、色の判別という観点では、人間の目は650万画素のカラーカメラと同等と考えられる。また、表示装置の観点からも、現在の固体撮像素子の画素数は既に十分に多いと考えられる。例えば、フルハイビジョンの画像の解像度は1920×1080であり、さらに高精細な画像でも4096×2160程度の解像度である。それらの画像を表示できる表示装置の普及率を考慮しても、表示装置の高解像度化の進展速度は現在開発されている固体撮像素子の多画素化の進展速度を凌ぐものではない。加えて、1画像の信号読み出し時間は画素数に比例して長くなる。同様に、画像をフレーム単位で記録する場合も、そのデータ量は画素数に比例して多くなる。
すなわち、画素数の多い固体撮像素子を用いたカメラでは、確かに解像度は向上するが、人間の視覚能力、表示装置の分解能、信号読み出し時間や画像データの記録量を考慮すると、あまりにも多い画素は必ずしも必要ないと考えられる。そのため、解像度は多少犠牲にしても、その他の特性を向上させる方がよいという考えもある。
解像度を犠牲にしてもよいと考えると、複数の画素を1画素として処理することができる。例えば、特許文献1に開示されているように、複数画素の信号を加算することにより、撮像感度を高めることができる。また、多くの画素信号を加算することで低輝度の被写体に対応させ、低照度時のダイナミックレンジを向上させることもできる。これは、特許文献2や特許文献3に開示されている、開口率の異なる複数の画素を有する撮像素子を使う場合と同じ効果を生じる。
画素数の多い撮像素子を用いた撮像装置では、必要以上に存在する画素を利用し、上記の従来技術を利用すれば、解像度を犠牲にすることになるが、撮像の感度やダイナミックレンジを向上させることができる。しかしながら、撮像素子内部で画素信号の加算処理を行い、出力データを削減しなければ、動画の表示レート(フレームレート)に追従できない場合がある。このことは、画素数の多い撮像素子を用いて動画を撮像する場合、解像度を犠牲にし、さらに撮像素子内部で画素信号の加算処理を行わなければ、感度等の性能向上が得られないことを意味している。
本発明は、上記課題に鑑み、撮像素子内部で画素信号の加算処理を行うことなく、高フレームレートの動画を生成する新たな撮像技術を提供する。
本発明の撮像装置は、撮像面に2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含むM個(Mは2以上の整数)の単位画素ブロックに分割された画素アレイと、各画素から一定の時間間隔Tごとに画素信号を読出す画素信号読出し部であって、各単位画素ブロックに含まれる前記N個の画素からそれぞれ異なるタイミングで前記画素信号を読み出す画素信号読出し部と、前記画素信号読出し部から読み出された各画素信号に基づいて画像を生成する画像生成部とを備えている。
ある実施形態において、前記画素信号読出し部は、各単位画素ブロックに含まれる前記N個の画素から時間T/Nずつ異なるタイミングで前記画素信号を読み出す。
ある実施形態において、前記画像生成部は、前記時間間隔Tの間に前記画素信号読出し部によって読み出されたM×N個の画素信号に基づいて前記画像を生成する。
ある実施形態において、前記画素信号読出し部によってj番目(jは1以上M以下の整数)の単位画素ブロックからi回目(iはN+1以上の整数)に読み出された画素信号をP(i、j)とするとき、前記画像生成部は、P(i,j)とP(i−1,j)との差の絶対値が予め設定された値よりも大きい場合には、P(i,j)−P(i−N+1,j)×(N−1)/Nを、j番目の単位画素ブロックにおけるi回目の読出し時点での各画素の画素値を示す信号として前記画像を生成する。
ある実施形態において、前記画像生成部は、P(i,j)とP(i−1,j)との差の絶対値が予め設定された値よりも大きい場合には、P(i+k,j)−P(i+k−1,j)+(k×P(i+k−N,j)−(k−1)×P(i+k−N−1,j))/N (kは1以上N未満の整数)を、j番目の単位画素ブロックにおけるi+k回目の読出し時点での各画素の画素値を示す信号として前記画像を生成する。
ある実施形態において、前記画素信号読出し部は、被写体の明るさに応じて前記時間間隔Tを変化させる。
ある実施形態において、各単位画素ブロックの配置エリアの形状は十字形である。
ある実施形態において、撮像装置は、前記単位画素ブロックのサイズで規定される空間周波数よりも高い周波数成分を前記画像から除去するための光学的ローパスフィルタを備える。
ある実施形態において、前記画像生成部は、前記単位画素ブロックのサイズで規定される空間周波数よりも高い周波数成分を前記画像から除去するローパスフィルタ処理を行う。
本発明の固体撮像素子は、撮像面に2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含むM個(Mは2以上の整数)の単位画素ブロックに分割された画素アレイと、各画素から一定の時間間隔Tごとに画素信号を読出す画素信号読出し部であって、各単位画素ブロックに含まれる前記N個の画素からそれぞれ異なるタイミングで前記画素信号を読み出す画素信号読出し部とを備える。
本発明の動画生成方法は、撮像面に2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含むM個(Mは2以上の整数)の単位画素ブロックに分割された画素アレイと、各画素から一定の時間間隔Tごとに画素信号を読出す画素信号読出し部であって、各単位画素ブロックに含まれる前記N個の画素からそれぞれ異なるタイミングで前記画素信号を読み出す画素信号読出し部とを備える撮像装置によって取得された信号に基づいて動画を生成する方法であって、各単位画素ブロックにおいて、連続して読み出された2つの画素信号の差分が規定値よりも大きいか否かを判断するステップと、前記差分が前記規定値よりも大きい場合に、相対的に低い解像度で相対的に高いフレームレートの動画を生成し、前記差分が前記規定値よりも小さい場合に、相対的に高い解像度で相対的に低いフレームレートの動画を生成するステップとを含む。
本発明の動画生成プログラムは、撮像面に2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含むM個(Mは2以上の整数)の単位画素ブロックに分割された画素アレイと、各画素から一定の時間間隔Tごとに画素信号を読出す画素信号読出し部であって、各単位画素ブロックに含まれる前記N個の画素からそれぞれ異なるタイミングで前記画素信号を読み出す画素信号読出し部とを備える撮像装置によって取得された信号に基づいて動画を生成するためのプログラムであって、各単位画素ブロックにおいて、連続して読み出された2つの画素信号の差分が規定値よりも大きいか否かを判断するステップと、前記差分が前記規定値よりも大きい場合に、相対的に低い解像度で相対的に高いフレームレートの動画を生成し、前記差分が前記規定値よりも小さい場合に、相対的に高い解像度で相対的に低いフレームレートの動画を生成するステップとを含む。
本発明の撮像装置および固体撮像素子によれば、撮像素子内部で画素信号の加算処理を行うことなく、高フレームレートの動画を生成することが可能となる。さらに、本発明の1つの実施形態によれば、被写体に動きがない場合は高解像度かつ光利用率の高い画像を生成し、被写体に動きがある場合は低解像度かつ高フレームレートの動画を生成することができる。
本発明の好ましい実施形態を説明する前に、まず、本発明の基本原理を簡単に説明する。
図1は、本発明の撮像装置の概略構成の例を示すブロック図である。撮像装置は、撮像面に2次元状に配列された複数の画素20を含む画素アレイ200と、各画素から画素信号を読み出す画素信号読出し部30と、画像生成部32とを備えている。図示される例では、画素アレイ200および画素信号読出し部30は、固体撮像素子7に含まれているが、画像信号読出し部30の一部が固体撮像素子7の外部に設けられていてもよい。
画素アレイ200は、複数の単位画素ブロック40に分割され、各単位画素ブロック40は、複数の画素20を含む。本明細書において、画素アレイ200に含まれる単位画素ブロック40の数をM個(Mは2以上の整数)、各単位画素ブロック40に含まれる画素20の数をN個(Nは2以上の整数)とする。すなわち、画素アレイ200にはM×N個の画素20が含まれる。各画素20は、露光中に入射する光を受け、受けた光の量(受光量)に応じた光電変換信号(画素信号)を出力する。なお、画素アレイ200に含まれる画素20のうち、画像生成に用いられる画素の数はM×N個であるが、画素アレイ200には画像生成に用いられない画素が含まれていてもよい。
画素信号読出し部30は、各画素20から一定の時間間隔Tごとに画素信号を読み出す。ただし、全ての画素20について同一のタイミングで画素信号を読み出すのではなく、各単位画素ブロック40内のN個の画素からそれぞれ異なるタイミングで画素信号を読み出す。
図2は、1つの単位画素ブロック40に含まれる各画素20の信号蓄積時間を示す図である。図2では、例として1つの単位画素ブロック40に4つの画素20が含まれるとし(N=4)、各画素20から画素信号が読み出されるタイミングは等間隔(T/4ごと)であるものとする。但し、本発明はこのような例に限られず、各画素から読み出されるタイミングは等間隔でなくてもよい。第1の画素では、時刻tnから画素信号が蓄積され、時刻tn+4で画素信号が読み出される。第2の画素では、時刻tn+1から画素信号が蓄積され、時刻tn+5で画素信号が読み出される。第3の画素では、時刻tn+2から画素信号が蓄積され、時刻tn+6で画素信号が読み出される。第4の画素では、時刻tn+3から画素信号が蓄積され、時刻tn+7で画素信号が読み出される。ここで、T=tn+4−tn=tn+5−tn+1=tn+6−tn+2=tn+6−tn+3である。各画素20について、画素信号が読み出されると、蓄積された信号がリセットされ、再び信号の蓄積が始まる。以後、各画素において時間間隔Tごとに画素信号の読出しが行われる。
画素信号読出し部30によって各画素20から上記のタイミングで画素信号が読み出されることにより、蓄積時間がT/NずつずれたN個の画素信号が時間Tごとに得られる。このようにして時間Tの間に単位画素ブロック40ごとにN個ずつ得られる合計M×N個の画素信号から、画像生成部32は1つの画像を生成することができる。この画像は、時間間隔Tを被写体の明るさに応じて十分に長く設定すれば、十分に光量が確保された画像となる。また、画素20ごとに読み出された画素信号に基づいて画像が生成されるため、解像度の高い画像が得られる。このように、本発明によれば、高解像度かつ高感度の画像(静止画)を得ることができる。
さらに、画素信号を読み出すタイミングが画素ごとに異なるため、画像生成部32は、1つの単位画素ブロック40において読み出される画素信号を用いた演算により、連続する2回の読出し時刻の間に蓄積した信号量を算出することができる。演算処理の詳細は後述する。その信号量をその単位画素ブロックに含まれる全画素の画素値とすれば、解像度は低下するが、時間間隔Tで規定されるフレームレートよりも高いフレームレートの動画を生成することができる。時間間隔Tを動画生成において用いられる通常のフレーム間隔に設定すれば、通常よりもさらに高いフレームレートの動画を生成することもできる。
さらに、画像生成部32は、各画素信号を比較することにより、被写体の動きの有無を検知することが可能となる。以下、被写体の動きの有無に応じて撮像方式を変える場合の処理の例を説明する。まず、画像生成部32は、各単位画素ブロック40において連続して読み出された2つの画素信号間の差分演算を行い、差分が規定値よりも大きいか否かで被写体の動きの有無を検知する。被写体が動いていないと判断した場合、画像生成部32は、上記の静止画を取得する方法により画像を生成する。この場合、時間間隔Tで規定されるフレームレートで動画が生成される。被写体が動いていると判断した場合、画像生成部32は、上記2つの画素信号間の演算によって得られる信号をその単位画素ブロック40における各画素の画素信号として画像を生成する。その後も同様の信号演算を画素信号の読出しタイミングに応じて実行すれば、解像度は低下するが、被写体が動いていないと判断された場合よりも高いフレームレートの動画が生成される。画像生成部32による動画生成方法の詳細は後述する。
以上の処理を行えば、被写体の動きが小さい場合は高解像度かつ高感度の撮影を行い、被写体の動きが大きい場合は解像度は低くなるが相対的に高フレームレートの動画の撮影を行うことが可能となる。
以下、図3〜10Bを参照しながら本発明の実施形態を説明する。以下の説明において、複数の図にわたって共通する要素には同一の参照符号を付している。
(実施形態1)
図3は、本発明の第1の実施形態による撮像装置の全体構成を示すブロック図である。本実施形態の撮像装置は、デジタル式のビデオカメラであり、撮像部100と、撮像部100から送出される信号に基づいて映像信号(ビデオ信号)を生成する映像信号処理部10とを備えている。
図3は、本発明の第1の実施形態による撮像装置の全体構成を示すブロック図である。本実施形態の撮像装置は、デジタル式のビデオカメラであり、撮像部100と、撮像部100から送出される信号に基づいて映像信号(ビデオ信号)を生成する映像信号処理部10とを備えている。
撮像部100は、被写体を結像するための集光レンズ5と、光学フィルタ6と、集光レンズ5および光学フィルタ6を通して結像した光情報を、光電変換によって電気信号に変換する固体撮像素子7(イメージセンサ)とを備えている。撮像部100はさらに、固体撮像素子7を駆動するための基本信号を発生するとともに固体撮像素子7からの出力信号を受信して映像信号処理部10に送出する信号発生/受信部8と、信号発生/受信部8によって発生された基本信号に基づいて撮像素子7を駆動する素子駆動部9とを備えている。なお、素子駆動部9は、信号発生/受信部8に組み込まれていてもよい。
集光レンズ5は、公知のレンズであり、複数のレンズを有するレンズユニットであり得る。光学フィルタ6は、画素配列が原因で発生するモアレパターンを低減するための水晶ローパスフィルタに、赤外線を除去するための赤外カットフィルタを含んでいる。撮像素子7は、典型的にはCMOSセンサであり、公知の半導体製造技術によって製造される。信号発生/受信部8および素子駆動部9は、LSIから構成される。
映像信号処理部10は、撮像部100から送出される信号を処理してビデオ信号を生成するビデオ信号生成部12と、ビデオ信号の生成過程で発生する各種のデータを格納する画像メモリー部11と、生成したビデオ信号を外部に送出するビデオインターフェース部13とを備えている。ビデオ信号生成部12は、公知のデジタル信号処理プロセッサ(DSP)などのハードウェアと、ビデオ信号生成処理を含む画像処理を実行するソフトウェアとの組合せによって好適に実現され得る。本実施形態では、ビデオ信号生成部12や画像メモリー部11が本発明における画像生成部32に含まれる。画像メモリー部11は、DRAMなどによって構成される。画像メモリー部11は、撮像部100から送出された信号を記録するとともに、ビデオ信号生成部12によって生成された画像データや、圧縮された画像データを一時的に記録する。これらの画像データは、ビデオインターフェース部13を介して不図示の記録媒体や表示部などに送出される。
本実施形態の撮像装置は、電子シャッタ、ビューファインダ、電源(電池)、フラッシュライトなどの公知の構成要素を備え得るが、それらの説明は本発明の理解に特に必要でないため省略する。また、以上の構成はあくまでも一例であり、本発明においては、固体撮像素子7における画素信号の読出し動作に関係しない構成要素には、公知の要素を好適に組み合わせて用いることができる。
図4は、露光中に集光レンズ5を透過した光が撮像素子7に入射する様子を模式的に示す図である。図4では、簡単のため集光レンズ5および撮像素子7以外の構成要素の記載は省略されている。また、レンズ5は、一般には光軸方向に並んだ複数のレンズによって構成され得るが、簡単のため、単一のレンズとして描かれている。撮像素子7の撮像面7aには、2次元状に配列された複数の画素を含む画素アレイが配置されている。各画素は、典型的にはフォトダイオードを含む電子回路であり、光電変換によって入射光量に応じた画素信号を出力する。撮像面7aには集光レンズ5および光学フィルタ6を透過した光(可視光)が入射する。
図5Aは、本実施形態における画素配列を示す平面図である。画素アレイ200は、図5Aに示すように、撮像面7a上に正方格子状に配列された複数の画素を有している。画素アレイ200は、複数の単位画素ブロック40に分割され、各単位画素ブロック40は、2行2列に配置された4つの画素20a、20b、20c、20dを含んでいる。なお、画素配列は、このような正方格子状の配列ではなく、例えば、図5Bに示すような斜交型の配列であってもよいし、他の配列であってもよい。
以下、図6〜9を参照しながら、画素信号の処理、蓄積時間、読み出し方法を説明する。
図6は、本実施形態の撮像装置によって動画を生成する際の概略手順を示すフローチャートである。撮影が開始すると、各画素には入射光量に応じた電荷が蓄積される(S1)。次に、各単位画素ブロックにおいて、1画素ずつ順番に画素信号が一定の時間間隔Tで読み出される(S2)。各単位画素ブロックにおいて、読み出された画素信号と、直前に読み出された画素信号との差分が規定値より大きいか否かが判定される(S3)。差分が規定値以下である場合、被写体は動いていないと判断され、各画素の画素信号の値をそのまま当該画素の画素値として画像が生成される。このようにして時間間隔Tごとに画像が生成される。これにより、高解像、低フレームレートの動画が生成される(S4)。一方、差分が規定値よりも大きい場合、被写体が動いていると判断し、後述する処理により、低解像、高フレームレートの動画が生成される(S5)。
以下、本実施形態における画素信号の読出し方法を説明する。
図7は、1つの単位画素ブロック40に含まれる4つの画素20a、20b、20c、20dに接続された読出し信号線50a、50b、50c、50dと、出力信号線52a、52bとを模式的に示す図である。読出し信号は、素子駆動部9によって生成され、入力端子21a、21b、21c、21dを介してそれぞれ画素20a、20b、20c、20dに与えられる。読出し信号が各画素に与えられると、各画素は、蓄積された電荷量に応じた画素信号を出力する。画素20a、20cから出力される画素信号は、それぞれ出力端子22a、22cを介して出力信号線52aに与えられる。画素20b、20dから出力される画素信号は、それぞれ出力端子22b、22dを介して出力信号線52bに与えられる。本実施形態では、読出し信号線50a〜50dおよび出力信号線52a、52bが本発明における信号読出し部30の一部として機能する。なお、読出し信号線および出力信号線の構成は図7に示す構成に限らず、後述する画素信号の読出しが可能であればどのような構成であってもよい。
読出し信号は、全ての画素に対して一定の時間間隔Tごとに素子駆動部9から入力される。ここで、入力のタイミングは画素ごとにT/4ずつずれている。すなわち、時刻tnに画素20aに読出し信号が与えられるとすると、画素20bには時刻tn+1=tn+T/4に、画素20cには時刻tn+2=tn+2T/4に、画素20bには時刻tn+3=tn+3T/4にそれぞれ読出し信号が与えられる。以後、各画素に対して時間間隔Tごとに読出し信号が与えられる。
図8は、本実施形態における固体撮像素子7の各画素から時間Tごとに出力される画素信号をそのまま各画素の画素値として生成された画像のうち連続する2フレーム分を模式的に示す図である。画像3は、画像2の1フレーム前の画像を表している。ここで、画像の各画素に記載されている記号P(i,1)などは、その画素の画素値を表している。図8において、画像2の左上端の4画素(P(i,1)、P(i+1,1)、P(i+2,1)、P(i+3,1))を1単位とする単位画素ブロック1をP(x,1)で表している。ここで、x=i,i+1,i+2,i+3である。動画として撮像する場合はこれらの4画素を1画素と見なす。ここで、画素信号P(i,j)における添え字jは、1画像全体の中の単位画素ブロックの番号であり、時間には不変の数字である。一方、添え字iは単位画素ブロックの中の画素の読出しの順番を示す番号であり、時間の経過と共に変わる数字である。例えば、単位画素ブロック1において、信号P(i−4,1)、P(i−3,1)、P(i−2,1)、P(i−1,1)がそれぞれ第1〜第4の画素から時間間隔T/4ずつずれて順番に読み出される。その後、再び第1〜第4の画素から信号P(i,1)、信号P(i+1,1)、信号P(i+2,1)、信号P(i+3,1)がそれぞれ時間間隔T/4ずつずれて順番に読み出される。
本実施形態では、添え字jに関して、図8における左上端の単位画素ブロック1をj=1として、列方向(左側から右側への方向)へと数字を増加させ、右端に達したら、行方向(図7における上側から下側への方向)に繰り返して付番する。添え字iに関しては、各単位画素ブロックに含まれる左上端の画素の番号をiとすると、右上端の画素の番号はi+1で、左下端の画素の番号はi+2、右下端の画素の番号はi+3である。従って、画像全体の中の左上端の画素信号P(i,1)について、1フレーム前はP(i−4,1)、1フレーム後はP(i+4,1)で表記される。
図9は、本実施形態における固体撮像素子7の画素アレイ200の左上端の単位画素ブロック1の各画素における信号読み出しタイミングの例を示すタイミングチャートである。通常のフレームレートで動画を生成する場合の画素の読出し時刻をtn、tn+1、tn+2、・・・とすると、本実施形態では1画素の信号蓄積時間T(=tn+4−tn)は、通常の蓄積時間の4倍の長さに相当する。こうすることによって複数フレーム分の情報を多重蓄積できる。このような信号蓄積はいずれの画素でも同様に行われるが、信号蓄積を開始するタイミングおよび蓄積された画素信号を読み出すタイミングは単位画素ブロックの中の画素によって異なる。なお、本実施形態では、信号蓄積時間Tは、通常の蓄積時間の4倍の長さに設定されるが、本発明においては、信号蓄積時間Tは任意の値に設定され得る。信号蓄積時間Tは、好ましくは、被写体の明るさに応じて最適な時間が設定される。
図9の例では、画素信号P(i,1)は画像の左上端の画素で時刻tnから信号蓄積され、時刻tn+4で読み出される。また、画素信号P(i+1,1)は左上端画素の右隣の画素で時間tn+1から信号蓄積され、時間tn+5で読み出される。その他の2画素についても同様で信号蓄積を行うタイミングがT/4(=tn+1−tn)ずつずれて、読み出すタイミングも同じ時間だけずれる。
以上の構成により、集光レンズ5で結像された光情報は、固体撮像素子7で光電変換された後、信号発生/受信部8によって読み出され、画像メモリー部11に保存される。各単位画素ブロックにおいて、画素ごとに読出し時刻がT/4ずつずれるため、1フレーム分の画像データが揃うまでT(=tn+4−tn)の時間を要する。画像データは、画像メモリー部11に1フレーム分のデータが揃った時点でビデオ信号生成部12に送られる。送られた画像データに基づき、ビデオ信号生成部12はビデオ信号を生成し、生成されたビデオ信号は、ビデオインターフェース部13を通して外部に送出される。
次に、ビデオ信号生成部12における信号処理を説明する。画像メモリー部11に1画像のデータが保存され、その後ビデオ信号生成部12にデータが送信された後、画像のフレーム単位で信号処理が行われる。信号処理はフレーム単位で行われるが、各々の単位画素ブロックについて同時に行われる。以下の説明では、例として画像の左上端の単位画素ブロック1で行われる信号処理を説明する。
全ての単位画素ブロックの各画素信号について直前に読み出された画素信号のデータと比較してそれらの差が予め設定された値Zthより全て小さければ、各画素信号の値をその画素の画素値として1画像のビデオ信号が生成される。すなわち、画像が静止状態と判断され、4コマに1コマ(時間Tに1画像)しか出力されないが、感度が通常の4倍に向上し、かつ解像度の低下のない画像が作られる。したがって、この場合、通常の1/4のフレームレートの動画が生成されることになる。
一方、全ての単位画素ブロックについて直前に読み出された画素信号のデータと比較してそれらの差が予め設定された値Zthより大きいものが1つでもある場合、被写体に動きがあると判断される。この場合、以下の処理によって1フレームごとに画像が作られる。ここで、例として、画素信号P(i,1)について、時刻tn+3からtn+4にかけて画素値に変化があった場合を考える。すなわち、図9に示すように、時刻tn+3までは時間T/4あたりP0の量の信号が各画素に蓄積するものとする。さらに、時刻tn+3からtn+4の間はP1、時刻tn+4からtn+5の間はP2、時刻tn+5からtn+6の間はP3、時刻tn+6からtn+7の間はP4の量の信号が各画素に蓄積するものと仮定する。ここで、前提として、1つの単位画素ブロックの範囲では画素信号は変わらないとする。この前提により、P(i,1)が読み出される1つ前の画素信号P(i−1,1)までは静止状態と判断できる。P(i,1)は時間tn〜tn+4の間で蓄積された信号であり、P(i−1,1)は時間tn-1〜tn+3の間で蓄積された信号であるので、時間tn+3〜tn+4の間に蓄積された信号P1は以下の式1により作ることができる。
(式1) P1=P(i,1)−P(i−1,1)×3/4
(式1) P1=P(i,1)−P(i−1,1)×3/4
同様の処理により、時間tn+4〜tn+5の間の信号P2、時間tn+5〜tn+6の間の信号P3、時間tn+6〜tn+7の間の信号P4も、それぞれ以下の式2〜4で作ることができる。
(式2) P2=P(i+1,1)−P(i,1)+P(i−3,1)/4
(式3) P3=P(i+2,1)−P(i+1,1)+(2P(i−2,1)−P(i−3,1))/4
(式4) P4=P(i+3,1)−P(i+2,1)+(3P(i−1,1)−2P(i−2,1))/4
(式2) P2=P(i+1,1)−P(i,1)+P(i−3,1)/4
(式3) P3=P(i+2,1)−P(i+1,1)+(2P(i−2,1)−P(i−3,1))/4
(式4) P4=P(i+3,1)−P(i+2,1)+(3P(i−1,1)−2P(i−2,1))/4
その結果、単位画素ブロック1の画素値を上記のP1〜P4の信号で代表すれば、解像度は低下するが、フレームごとに画素値が得られる。時間tn+7以降の信号についても、式6と同様の演算によって求められる。以上の処理は他の単位画素ブロックについても同様に行われる。その結果、解像度は低下するが、通常のフレームレートの動画が生成される。
なお、上記の式3、4の代わりに、それぞれ次の式5、6に示す演算によって信号P3、P4を求めてもよい。
(式5) P3=P(i+2,1)−P(i+1,1)+P(i−2,1)/4
(式6) P4=P(i+3,1)−P(i+2,1)+P(i−1,1)/4
(式5) P3=P(i+2,1)−P(i+1,1)+P(i−2,1)/4
(式6) P4=P(i+3,1)−P(i+2,1)+P(i−1,1)/4
上記の説明においては、全ての単位画素ブロックについて直前に読み出された画素信号との比較を行い、差分が規定値よりも大きいか否かで被写体が動いているか否かを判断するが、他の方法で判断を行ってもよい。例えば、単位画素ブロックごとに上記の判断を行い、画像の動きのある部分だけを低解像度かつ相対的に高いフレームレートの動画としてもよい。また、被写体の動きの有無の検知について、直前の画素信号ではなく、1フレーム前の画素信号との比較に基づいて判断してもよい。
また、被写体に動きがないと判断された場合、被写体に動きがあると判断されるまでは新たな画像を生成しないように構成されていてもよい。さらに、一旦画像が生成された後は、被写体に動きがあるか否かの判断をしばらく行わず、所定時間(例えば数秒)経過後、再び上記の判断を行ってもよい。
以上のように、本実施形態によれば、固体撮像素子7の画素アレイを複数の単位画素ブロックに分割し、各単位画素ブロックの各画素における蓄積時間を通常より長くとり、蓄積タイミングを変えることにより、時間の異なる多重画像が得られる。その結果、被写体に動きがなければ、相対的に光利用率が高く、低フレームレートの動画が得られる。被写体に動きがあれば、式1〜式4に基づく演算により、解像度は低下するが、相対的に高いフレームレートで動画が得られる。このように、本発明によれば、被写体の動きの有無に応じて撮像方式を帰ることができるという従来にない優れた効果を奏する。
なお、本実施形態においては、被写体に動きがあると判定された場合、単位画素ブロックの範囲では画素信号は変わらないとし、読み出されたP(i−1,1)までの画素信号に関して何も処理が行われない。しかし、次の式7に示す演算によって平均画素値Pmを算出し、Pmを時刻tn-1からtn+3までの画像信号として以降の処理で用いても構わない。
(式7) Pm=(P(i−4,1)+P(i−3,1)+P(i−2,1)+P(i−1,1))/4
(式7) Pm=(P(i−4,1)+P(i−3,1)+P(i−2,1)+P(i−1,1))/4
また、単位画素ブロックを2行2列に配置された4つの画素で構成されるものとしたが、これに限るものではなく、単位画素ブロックに含まれる画素数は複数であれば何個でもよい。
各単位ブロックに含まれる画素数がN(Nは2以上の整数)である場合、本実施形態の撮像装置は以下のように一般化される。まず、単位画素ブロックの数をMとし、各単位画素ブロックに含まれるN個の画素から、時間T/Nずつ異なるタイミングで画素信号が読み出されるように素子駆動部9は読出し信号を生成する。次に、信号発生/受信部8は、時間T/Nずつ異なるタイミングでこれらの画素から順次画素信号を読み出す。ここで、j番目(jは1以上M以下の整数)の単位画素ブロックからi回目(iはN+1以上の整数)に読み出された画素信号をP(i,j)とする。ビデオ信号生成部12は、P(i,j)とP(i−1,j)との差の絶対値が予め設定された値Zth以下の場合、被写体は静止していると判断する。そして、時間Tの間に各画素に蓄積されたM×N個の画素信号に基づいて1つの画像を生成する。一方、P(i,j)とP(i−1,j)との差の絶対値が予め設定された値Zthよりも大きい場合、被写体は動いていると判断する。そして、以下の式8に示す信号Pijをj番目の単位画素ブロックにおけるi回目の読出し時点での各画素の画素値を示す信号として処理する。
(式8)Pij=P(i,j)−P(i−N+1,j)×(N−1)/N
(式8)Pij=P(i,j)−P(i−N+1,j)×(N−1)/N
さらに、以下の式9に示す信号Pijkを、j番目の単位画素ブロックにおけるi+k回目(kは1以上N未満の整数)の読み出し時点での各画素の画素値を示す信号として処理する。
(式9)Pijk=P(i+k,j)−P(i+k−1,j)+(k×P(i+k−N,j)−(k−1)×P(i+k−N−1,j))/N
(式9)Pijk=P(i+k,j)−P(i+k−1,j)+(k×P(i+k−N,j)−(k−1)×P(i+k−N−1,j))/N
以上の処理により、各単位画素ブロックに含まれる画素の数がNの場合においても、被写体の動きに応じて適切な撮像方法が選択され、高品質の動画を生成することができる。
なお、本実施形態の撮像装置は、動画撮影中に被写体の動きの有無を検知して撮像方式を動的に変化させる機能を備えているが、本発明では必ずしもこのような機能を備えている必要はない。例えば、上記の説明において被写体に動きがあると判断した場合に実行される方式で動画を生成する機能のみを備えていてもよい。また、上記の説明において、被写体が動いていないと判断した場合に行われる処理によって静止画を生成する機能のみを備えていてもよい。
本実施形態では、各単位画素ブロック40に含まれる各画素にはほぼ等しい量の光が入射することを前提としている。これは、光学フィルタ6に含まれる光学ローパスフィルタによって各画素ブロック40のサイズで規定される空間周波数よりも高い周波数の画像成分が除去されることによって実現できる。しかし、撮像装置は、光学ローパスフィルタを備えていなくても、読み出された画素信号に基づいて画像の高周波成分を除去するローパスフィルタ処理を行うことによって同様の効果を得ることができる。
本実施形態における信号演算処理は、ビデオ生成部12によって実行されるが、撮像装置は必ずしも上記の信号演算処理を行うように構成されていなくてもよい。例えば、撮像装置は画素信号の生成だけを行い、画素信号の読出しおよびビデオ信号の生成は外部の情報処理装置に実行させてもよい。その場合、例えば、本実施形態における信号演算処理を規定するプログラムを当該情報処理装置に実行させることによって実現可能である。
(実施形態2)
次に本発明の第2の実施形態について、図面を用いて説明する。図10A、10Bは本実施形態における単位画素ブロックを示している。図10Aは1つの単位画素ブロック4を示し、図10Bは複数の単位画素ブロック4が隣接して配置された状況を示す画素平面図である。ここで、本実施形態と実施形態1との相違点は単位画素ブロックに含まれる画素数および単位画素ブロックの配置エリアの形状だけであり、撮像装置の構成や信号処理については全て同じである。よって、以下の説明では、実施形態1と異なる点のみを説明する。
次に本発明の第2の実施形態について、図面を用いて説明する。図10A、10Bは本実施形態における単位画素ブロックを示している。図10Aは1つの単位画素ブロック4を示し、図10Bは複数の単位画素ブロック4が隣接して配置された状況を示す画素平面図である。ここで、本実施形態と実施形態1との相違点は単位画素ブロックに含まれる画素数および単位画素ブロックの配置エリアの形状だけであり、撮像装置の構成や信号処理については全て同じである。よって、以下の説明では、実施形態1と異なる点のみを説明する。
図10Aに示すように、本実施形態における単位画素ブロック4は、5画素を用いて十字型の形状を有している。また、図10Bに示すように、隣接の単位画素ブロック同士を接近させている。その結果、単位画素ブロック4の中心が隣接の単位画素ブロックの重心と水平及び垂直方向において接近し、1画素離れただけである。単位画素ブロック4の形状を実施形態1のように2×2画素の四角形状にした場合は、隣接領域との中心間の間隔は2画素であるため、本実施形態では1画素分中心間の間隔が近づいている。そのため、本実施形態の撮像装置は、水平及び垂直方向において、実施形態1の撮像装置よりも解像度を向上できる。すなわち、十字型の単位画素ブロックを用いた本実施形態の撮像装置によって生成される動画は、四角形状の単位画素ブロックを用いた実施形態1の撮像装置によって生成される動画よりも解像度が向上することになる。
以上のように本実施形態によれば、各単位画素ブロックが十字型に配置された5画素を含み、単位画素ブロック間の中心を接近させることにより、動画における解像度が向上するという効果が得られる。
なお、本実施形態では、各単位画素ブロックの数は5であるが、各単位画素ブロックの配置エリアの形状が十字型であれば、それに含まれる画素数は5に限らず、6よりも多くてもよい。
本発明の固体撮像素子および撮像装置は、固体撮像素子を用いるすべてのカメラに有効である。例えば、デジタルスチルカメラやデジタルビデオカメラなどの民生用カメラや、産業用の固体監視カメラなどに利用可能である。
1 画像の左上端の4画素(P(i,1)、P(i+1,1)、P(i+2,1)、P(i+3,1))から成る単位画素ブロック
2 画像の1フレーム
3 画像の1フレーム
4 5画素からなる十字型の単位画素ブロック
5 集光レンズ
6 光学板
7 固体撮像素子
8 信号発生及び画素信号受信部
9 素子駆動部
10 映像信号処理部
11 画像メモリー部
12 ビデオ信号生成部
13 ビデオインターフェース部
20 画素
30 画素信号読出し部
32 画像生成部
40 単位画素ブロック
50a、50b、50c、50d 読出し信号線
52a、52b 出力信号線
100 撮像部
200 画素アレイ
2 画像の1フレーム
3 画像の1フレーム
4 5画素からなる十字型の単位画素ブロック
5 集光レンズ
6 光学板
7 固体撮像素子
8 信号発生及び画素信号受信部
9 素子駆動部
10 映像信号処理部
11 画像メモリー部
12 ビデオ信号生成部
13 ビデオインターフェース部
20 画素
30 画素信号読出し部
32 画像生成部
40 単位画素ブロック
50a、50b、50c、50d 読出し信号線
52a、52b 出力信号線
100 撮像部
200 画素アレイ
本発明は、画像の空間分解能と時間分解能の関係を利用した撮像技術に関する。
近年、CCDやCMOS等の固体撮像素子(以下、「撮像素子」と呼ぶことがある。)を用いたデジタルカメラやデジタルムービーの高機能化、高性能化には目を見張るものがある。特に半導体製造技術の急速な進歩により、固体撮像素子における画素構造の微細化が進んでいる。その結果、固体撮像素子の画素及び駆動回路の高集積化が図られ、固体撮像素子の多画素化が進んでいる。特に最近では、僅かの年数の間に固体撮像素子の画素数が数100万画素から1000万画素を超えるに至り、さらには数1000万画素の固体撮像素子が開発されようとしている。
このような多画素化への流れの一方で、人間の視覚特性の観点から1000万画素も必要ないという考え方もある。人間の網膜には光の色(RGB)を感知する錐体細胞と明暗を感知する桿体細胞がある。錐体細胞および桿体細胞の数は、それぞれ約650万個、および約1億2000万個と言われている。このことから、色の判別という観点では、人間の目は650万画素のカラーカメラと同等と考えられる。また、表示装置の観点からも、現在の固体撮像素子の画素数は既に十分に多いと考えられる。例えば、フルハイビジョンの画像の解像度は1920×1080であり、さらに高精細な画像でも4096×2160程度の解像度である。それらの画像を表示できる表示装置の普及率を考慮しても、表示装置の高解像度化の進展速度は現在開発されている固体撮像素子の多画素化の進展速度を凌ぐものではない。加えて、1画像の信号読み出し時間は画素数に比例して長くなる。同様に、画像をフレーム単位で記録する場合も、そのデータ量は画素数に比例して多くなる。
すなわち、画素数の多い固体撮像素子を用いたカメラでは、確かに解像度は向上するが、人間の視覚能力、表示装置の分解能、信号読み出し時間や画像データの記録量を考慮すると、あまりにも多い画素は必ずしも必要ないと考えられる。そのため、解像度は多少犠牲にしても、その他の特性を向上させる方がよいという考えもある。
解像度を犠牲にしてもよいと考えると、複数の画素を1画素として処理することができる。例えば、特許文献1に開示されているように、複数画素の信号を加算することにより、撮像感度を高めることができる。また、多くの画素信号を加算することで低輝度の被写体に対応させ、低照度時のダイナミックレンジを向上させることもできる。これは、特許文献2や特許文献3に開示されている、開口率の異なる複数の画素を有する撮像素子を使う場合と同じ効果を生じる。
画素数の多い撮像素子を用いた撮像装置では、必要以上に存在する画素を利用し、上記の従来技術を利用すれば、解像度を犠牲にすることになるが、撮像の感度やダイナミックレンジを向上させることができる。しかしながら、撮像素子内部で画素信号の加算処理を行い、出力データを削減しなければ、動画の表示レート(フレームレート)に追従できない場合がある。このことは、画素数の多い撮像素子を用いて動画を撮像する場合、解像度を犠牲にし、さらに撮像素子内部で画素信号の加算処理を行わなければ、感度等の性能向上が得られないことを意味している。
本発明は、上記課題に鑑み、撮像素子内部で画素信号の加算処理を行うことなく、高フレームレートの動画を生成する新たな撮像技術を提供する。
本発明の撮像装置は、撮像面に2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含むM個(Mは2以上の整数)の単位画素ブロックに分割された画素アレイと、各画素から一定の時間間隔Tごとに画素信号を読出す画素信号読出し部であって、各単位画素ブロックに含まれる前記N個の画素からそれぞれ異なるタイミングで前記画素信号を読み出す画素信号読出し部と、前記画素信号読出し部から読み出された各画素信号に基づいて画像を生成する画像生成部とを備えている。
ある実施形態において、前記画素信号読出し部は、各単位画素ブロックに含まれる前記N個の画素から時間T/Nずつ異なるタイミングで前記画素信号を読み出す。
ある実施形態において、前記画像生成部は、前記時間間隔Tの間に前記画素信号読出し部によって読み出されたM×N個の画素信号に基づいて前記画像を生成する。
ある実施形態において、前記画素信号読出し部によってj番目(jは1以上M以下の整数)の単位画素ブロックからi回目(iはN+1以上の整数)に読み出された画素信号をP(i、j)とするとき、前記画像生成部は、P(i,j)とP(i−1,j)との差の絶対値が予め設定された値よりも大きい場合には、P(i,j)−P(i−N+1,j)×(N−1)/Nを、j番目の単位画素ブロックにおけるi回目の読出し時点での各画素の画素値を示す信号として前記画像を生成する。
ある実施形態において、前記画像生成部は、P(i,j)とP(i−1,j)との差の絶対値が予め設定された値よりも大きい場合には、P(i+k,j)−P(i+k−1,j)+(k×P(i+k−N,j)−(k−1)×P(i+k−N−1,j))/N (kは1以上N未満の整数)を、j番目の単位画素ブロックにおけるi+k回目の読出し時点での各画素の画素値を示す信号として前記画像を生成する。
ある実施形態において、前記画素信号読出し部は、被写体の明るさに応じて前記時間間隔Tを変化させる。
ある実施形態において、各単位画素ブロックの配置エリアの形状は十字形である。
ある実施形態において、撮像装置は、前記単位画素ブロックのサイズで規定される空間周波数よりも高い周波数成分を前記画像から除去するための光学的ローパスフィルタを備える。
ある実施形態において、前記画像生成部は、前記単位画素ブロックのサイズで規定される空間周波数よりも高い周波数成分を前記画像から除去するローパスフィルタ処理を行う。
本発明の固体撮像素子は、撮像面に2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含むM個(Mは2以上の整数)の単位画素ブロックに分割された画素アレイと、各画素から一定の時間間隔Tごとに画素信号を読出す画素信号読出し部であって、各単位画素ブロックに含まれる前記N個の画素からそれぞれ異なるタイミングで前記画素信号を読み出す画素信号読出し部とを備える。
本発明の動画生成方法は、撮像面に2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含むM個(Mは2以上の整数)の単位画素ブロックに分割された画素アレイと、各画素から一定の時間間隔Tごとに画素信号を読出す画素信号読出し部であって、各単位画素ブロックに含まれる前記N個の画素からそれぞれ異なるタイミングで前記画素信号を読み出す画素信号読出し部とを備える撮像装置によって取得された信号に基づいて動画を生成する方法であって、各単位画素ブロックにおいて、連続して読み出された2つの画素信号の差分が規定値よりも大きいか否かを判断するステップと、前記差分が前記規定値よりも大きい場合に、相対的に低い解像度で相対的に高いフレームレートの動画を生成し、前記差分が前記規定値よりも小さい場合に、相対的に高い解像度で相対的に低いフレームレートの動画を生成するステップとを含む。
本発明の動画生成プログラムは、撮像面に2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含むM個(Mは2以上の整数)の単位画素ブロックに分割された画素アレイと、各画素から一定の時間間隔Tごとに画素信号を読出す画素信号読出し部であって、各単位画素ブロックに含まれる前記N個の画素からそれぞれ異なるタイミングで前記画素信号を読み出す画素信号読出し部とを備える撮像装置によって取得された信号に基づいて動画を生成するためのプログラムであって、各単位画素ブロックにおいて、連続して読み出された2つの画素信号の差分が規定値よりも大きいか否かを判断するステップと、前記差分が前記規定値よりも大きい場合に、相対的に低い解像度で相対的に高いフレームレートの動画を生成し、前記差分が前記規定値よりも小さい場合に、相対的に高い解像度で相対的に低いフレームレートの動画を生成するステップとを含む。
本発明の撮像装置および固体撮像素子によれば、撮像素子内部で画素信号の加算処理を行うことなく、高フレームレートの動画を生成することが可能となる。さらに、本発明の1つの実施形態によれば、被写体に動きがない場合は高解像度かつ光利用率の高い画像を生成し、被写体に動きがある場合は低解像度かつ高フレームレートの動画を生成することができる。
本発明の好ましい実施形態を説明する前に、まず、本発明の基本原理を簡単に説明する。
図1は、本発明の撮像装置の概略構成の例を示すブロック図である。撮像装置は、撮像面に2次元状に配列された複数の画素20を含む画素アレイ200と、各画素から画素信号を読み出す画素信号読出し部30と、画像生成部32とを備えている。図示される例では、画素アレイ200および画素信号読出し部30は、固体撮像素子7に含まれているが、画像信号読出し部30の一部が固体撮像素子7の外部に設けられていてもよい。
画素アレイ200は、複数の単位画素ブロック40に分割され、各単位画素ブロック40は、複数の画素20を含む。本明細書において、画素アレイ200に含まれる単位画素ブロック40の数をM個(Mは2以上の整数)、各単位画素ブロック40に含まれる画素20の数をN個(Nは2以上の整数)とする。すなわち、画素アレイ200にはM×N個の画素20が含まれる。各画素20は、露光中に入射する光を受け、受けた光の量(受光量)に応じた光電変換信号(画素信号)を出力する。なお、画素アレイ200に含まれる画素20のうち、画像生成に用いられる画素の数はM×N個であるが、画素アレイ200には画像生成に用いられない画素が含まれていてもよい。
画素信号読出し部30は、各画素20から一定の時間間隔Tごとに画素信号を読み出す。ただし、全ての画素20について同一のタイミングで画素信号を読み出すのではなく、各単位画素ブロック40内のN個の画素からそれぞれ異なるタイミングで画素信号を読み出す。
図2は、1つの単位画素ブロック40に含まれる各画素20の信号蓄積時間を示す図である。図2では、例として1つの単位画素ブロック40に4つの画素20が含まれるとし(N=4)、各画素20から画素信号が読み出されるタイミングは等間隔(T/4ごと)であるものとする。但し、本発明はこのような例に限られず、各画素から読み出されるタイミングは等間隔でなくてもよい。第1の画素では、時刻tnから画素信号が蓄積され、時刻tn+4で画素信号が読み出される。第2の画素では、時刻tn+1から画素信号が蓄積され、時刻tn+5で画素信号が読み出される。第3の画素では、時刻tn+2から画素信号が蓄積され、時刻tn+6で画素信号が読み出される。第4の画素では、時刻tn+3から画素信号が蓄積され、時刻tn+7で画素信号が読み出される。ここで、T=tn+4−tn=tn+5−tn+1=tn+6−tn+2=tn+6−tn+3である。各画素20について、画素信号が読み出されると、蓄積された信号がリセットされ、再び信号の蓄積が始まる。以後、各画素において時間間隔Tごとに画素信号の読出しが行われる。
画素信号読出し部30によって各画素20から上記のタイミングで画素信号が読み出されることにより、蓄積時間がT/NずつずれたN個の画素信号が時間Tごとに得られる。このようにして時間Tの間に単位画素ブロック40ごとにN個ずつ得られる合計M×N個の画素信号から、画像生成部32は1つの画像を生成することができる。この画像は、時間間隔Tを被写体の明るさに応じて十分に長く設定すれば、十分に光量が確保された画像となる。また、画素20ごとに読み出された画素信号に基づいて画像が生成されるため、解像度の高い画像が得られる。このように、本発明によれば、高解像度かつ高感度の画像(静止画)を得ることができる。
さらに、画素信号を読み出すタイミングが画素ごとに異なるため、画像生成部32は、1つの単位画素ブロック40において読み出される画素信号を用いた演算により、連続する2回の読出し時刻の間に蓄積した信号量を算出することができる。演算処理の詳細は後述する。その信号量をその単位画素ブロックに含まれる全画素の画素値とすれば、解像度は低下するが、時間間隔Tで規定されるフレームレートよりも高いフレームレートの動画を生成することができる。時間間隔Tを動画生成において用いられる通常のフレーム間隔に設定すれば、通常よりもさらに高いフレームレートの動画を生成することもできる。
さらに、画像生成部32は、各画素信号を比較することにより、被写体の動きの有無を検知することが可能となる。以下、被写体の動きの有無に応じて撮像方式を変える場合の処理の例を説明する。まず、画像生成部32は、各単位画素ブロック40において連続して読み出された2つの画素信号間の差分演算を行い、差分が規定値よりも大きいか否かで被写体の動きの有無を検知する。被写体が動いていないと判断した場合、画像生成部32は、上記の静止画を取得する方法により画像を生成する。この場合、時間間隔Tで規定されるフレームレートで動画が生成される。被写体が動いていると判断した場合、画像生成部32は、上記2つの画素信号間の演算によって得られる信号をその単位画素ブロック40における各画素の画素信号として画像を生成する。その後も同様の信号演算を画素信号の読出しタイミングに応じて実行すれば、解像度は低下するが、被写体が動いていないと判断された場合よりも高いフレームレートの動画が生成される。画像生成部32による動画生成方法の詳細は後述する。
以上の処理を行えば、被写体の動きが小さい場合は高解像度かつ高感度の撮影を行い、被写体の動きが大きい場合は解像度は低くなるが相対的に高フレームレートの動画の撮影を行うことが可能となる。
以下、図3〜10Bを参照しながら本発明の実施形態を説明する。以下の説明において、複数の図にわたって共通する要素には同一の参照符号を付している。
(実施形態1)
図3は、本発明の第1の実施形態による撮像装置の全体構成を示すブロック図である。本実施形態の撮像装置は、デジタル式のビデオカメラであり、撮像部100と、撮像部100から送出される信号に基づいて映像信号(ビデオ信号)を生成する映像信号処理部10とを備えている。
図3は、本発明の第1の実施形態による撮像装置の全体構成を示すブロック図である。本実施形態の撮像装置は、デジタル式のビデオカメラであり、撮像部100と、撮像部100から送出される信号に基づいて映像信号(ビデオ信号)を生成する映像信号処理部10とを備えている。
撮像部100は、被写体を結像するための集光レンズ5と、光学フィルタ6と、集光レンズ5および光学フィルタ6を通して結像した光情報を、光電変換によって電気信号に変換する固体撮像素子7(イメージセンサ)とを備えている。撮像部100はさらに、固体撮像素子7を駆動するための基本信号を発生するとともに固体撮像素子7からの出力信号を受信して映像信号処理部10に送出する信号発生/受信部8と、信号発生/受信部8によって発生された基本信号に基づいて撮像素子7を駆動する素子駆動部9とを備えている。なお、素子駆動部9は、信号発生/受信部8に組み込まれていてもよい。
集光レンズ5は、公知のレンズであり、複数のレンズを有するレンズユニットであり得る。光学フィルタ6は、画素配列が原因で発生するモアレパターンを低減するための水晶ローパスフィルタに、赤外線を除去するための赤外カットフィルタを含んでいる。撮像素子7は、典型的にはCMOSセンサであり、公知の半導体製造技術によって製造される。信号発生/受信部8および素子駆動部9は、LSIから構成される。
映像信号処理部10は、撮像部100から送出される信号を処理してビデオ信号を生成するビデオ信号生成部12と、ビデオ信号の生成過程で発生する各種のデータを格納する画像メモリー部11と、生成したビデオ信号を外部に送出するビデオインターフェース部13とを備えている。ビデオ信号生成部12は、公知のデジタル信号処理プロセッサ(DSP)などのハードウェアと、ビデオ信号生成処理を含む画像処理を実行するソフトウェアとの組合せによって好適に実現され得る。本実施形態では、ビデオ信号生成部12や画像メモリー部11が本発明における画像生成部32に含まれる。画像メモリー部11は、DRAMなどによって構成される。画像メモリー部11は、撮像部100から送出された信号を記録するとともに、ビデオ信号生成部12によって生成された画像データや、圧縮された画像データを一時的に記録する。これらの画像データは、ビデオインターフェース部13を介して不図示の記録媒体や表示部などに送出される。
本実施形態の撮像装置は、電子シャッタ、ビューファインダ、電源(電池)、フラッシュライトなどの公知の構成要素を備え得るが、それらの説明は本発明の理解に特に必要でないため省略する。また、以上の構成はあくまでも一例であり、本発明においては、固体撮像素子7における画素信号の読出し動作に関係しない構成要素には、公知の要素を好適に組み合わせて用いることができる。
図4は、露光中に集光レンズ5を透過した光が撮像素子7に入射する様子を模式的に示す図である。図4では、簡単のため集光レンズ5および撮像素子7以外の構成要素の記載は省略されている。また、レンズ5は、一般には光軸方向に並んだ複数のレンズによって構成され得るが、簡単のため、単一のレンズとして描かれている。撮像素子7の撮像面7aには、2次元状に配列された複数の画素を含む画素アレイが配置されている。各画素は、典型的にはフォトダイオードを含む電子回路であり、光電変換によって入射光量に応じた画素信号を出力する。撮像面7aには集光レンズ5および光学フィルタ6を透過した光(可視光)が入射する。
図5Aは、本実施形態における画素配列を示す平面図である。画素アレイ200は、図5Aに示すように、撮像面7a上に正方格子状に配列された複数の画素を有している。画素アレイ200は、複数の単位画素ブロック40に分割され、各単位画素ブロック40は、2行2列に配置された4つの画素20a、20b、20c、20dを含んでいる。なお、画素配列は、このような正方格子状の配列ではなく、例えば、図5Bに示すような斜交型の配列であってもよいし、他の配列であってもよい。
以下、図6〜9を参照しながら、画素信号の処理、蓄積時間、読み出し方法を説明する。
図6は、本実施形態の撮像装置によって動画を生成する際の概略手順を示すフローチャートである。撮影が開始すると、各画素には入射光量に応じた電荷が蓄積される(S1)。次に、各単位画素ブロックにおいて、1画素ずつ順番に画素信号が一定の時間間隔Tで読み出される(S2)。各単位画素ブロックにおいて、読み出された画素信号と、直前に読み出された画素信号との差分が規定値より大きいか否かが判定される(S3)。差分が規定値以下である場合、被写体は動いていないと判断され、各画素の画素信号の値をそのまま当該画素の画素値として画像が生成される。このようにして時間間隔Tごとに画像が生成される。これにより、高解像、低フレームレートの動画が生成される(S4)。一方、差分が規定値よりも大きい場合、被写体が動いていると判断し、後述する処理により、低解像、高フレームレートの動画が生成される(S5)。
以下、本実施形態における画素信号の読出し方法を説明する。
図7は、1つの単位画素ブロック40に含まれる4つの画素20a、20b、20c、20dに接続された読出し信号線50a、50b、50c、50dと、出力信号線52a、52bとを模式的に示す図である。読出し信号は、素子駆動部9によって生成され、入力端子21a、21b、21c、21dを介してそれぞれ画素20a、20b、20c、20dに与えられる。読出し信号が各画素に与えられると、各画素は、蓄積された電荷量に応じた画素信号を出力する。画素20a、20cから出力される画素信号は、それぞれ出力端子22a、22cを介して出力信号線52aに与えられる。画素20b、20dから出力される画素信号は、それぞれ出力端子22b、22dを介して出力信号線52bに与えられる。本実施形態では、読出し信号線50a〜50dおよび出力信号線52a、52bが本発明における信号読出し部30の一部として機能する。なお、読出し信号線および出力信号線の構成は図7に示す構成に限らず、後述する画素信号の読出しが可能であればどのような構成であってもよい。
読出し信号は、全ての画素に対して一定の時間間隔Tごとに素子駆動部9から入力される。ここで、入力のタイミングは画素ごとにT/4ずつずれている。すなわち、時刻tnに画素20aに読出し信号が与えられるとすると、画素20bには時刻tn+1=tn+T/4に、画素20cには時刻tn+2=tn+2T/4に、画素20bには時刻tn+3=tn+3T/4にそれぞれ読出し信号が与えられる。以後、各画素に対して時間間隔Tごとに読出し信号が与えられる。
図8は、本実施形態における固体撮像素子7の各画素から時間Tごとに出力される画素信号をそのまま各画素の画素値として生成された画像のうち連続する2フレーム分を模式的に示す図である。画像3は、画像2の1フレーム前の画像を表している。ここで、画像の各画素に記載されている記号P(i,1)などは、その画素の画素値を表している。図8において、画像2の左上端の4画素(P(i,1)、P(i+1,1)、P(i+2,1)、P(i+3,1))を1単位とする単位画素ブロック1をP(x,1)で表している。ここで、x=i,i+1,i+2,i+3である。動画として撮像する場合はこれらの4画素を1画素と見なす。ここで、画素信号P(i,j)における添え字jは、1画像全体の中の単位画素ブロックの番号であり、時間には不変の数字である。一方、添え字iは単位画素ブロックの中の画素の読出しの順番を示す番号であり、時間の経過と共に変わる数字である。例えば、単位画素ブロック1において、信号P(i−4,1)、P(i−3,1)、P(i−2,1)、P(i−1,1)がそれぞれ第1〜第4の画素から時間間隔T/4ずつずれて順番に読み出される。その後、再び第1〜第4の画素から信号P(i,1)、信号P(i+1,1)、信号P(i+2,1)、信号P(i+3,1)がそれぞれ時間間隔T/4ずつずれて順番に読み出される。
本実施形態では、添え字jに関して、図8における左上端の単位画素ブロック1をj=1として、列方向(左側から右側への方向)へと数字を増加させ、右端に達したら、行方向(図7における上側から下側への方向)に繰り返して付番する。添え字iに関しては、各単位画素ブロックに含まれる左上端の画素の番号をiとすると、右上端の画素の番号はi+1で、左下端の画素の番号はi+2、右下端の画素の番号はi+3である。従って、画像全体の中の左上端の画素信号P(i,1)について、1フレーム前はP(i−4,1)、1フレーム後はP(i+4,1)で表記される。
図9は、本実施形態における固体撮像素子7の画素アレイ200の左上端の単位画素ブロック1の各画素における信号読み出しタイミングの例を示すタイミングチャートである。通常のフレームレートで動画を生成する場合の画素の読出し時刻をtn、tn+1、tn+2、・・・とすると、本実施形態では1画素の信号蓄積時間T(=tn+4−tn)は、通常の蓄積時間の4倍の長さに相当する。こうすることによって複数フレーム分の情報を多重蓄積できる。このような信号蓄積はいずれの画素でも同様に行われるが、信号蓄積を開始するタイミングおよび蓄積された画素信号を読み出すタイミングは単位画素ブロックの中の画素によって異なる。なお、本実施形態では、信号蓄積時間Tは、通常の蓄積時間の4倍の長さに設定されるが、本発明においては、信号蓄積時間Tは任意の値に設定され得る。信号蓄積時間Tは、好ましくは、被写体の明るさに応じて最適な時間が設定される。
図9の例では、画素信号P(i,1)は画像の左上端の画素で時刻tnから信号蓄積され、時刻tn+4で読み出される。また、画素信号P(i+1,1)は左上端画素の右隣の画素で時間tn+1から信号蓄積され、時間tn+5で読み出される。その他の2画素についても同様で信号蓄積を行うタイミングがT/4(=tn+1−tn)ずつずれて、読み出すタイミングも同じ時間だけずれる。
以上の構成により、集光レンズ5で結像された光情報は、固体撮像素子7で光電変換された後、信号発生/受信部8によって読み出され、画像メモリー部11に保存される。各単位画素ブロックにおいて、画素ごとに読出し時刻がT/4ずつずれるため、1フレーム分の画像データが揃うまでT(=tn+4−tn)の時間を要する。画像データは、画像メモリー部11に1フレーム分のデータが揃った時点でビデオ信号生成部12に送られる。送られた画像データに基づき、ビデオ信号生成部12はビデオ信号を生成し、生成されたビデオ信号は、ビデオインターフェース部13を通して外部に送出される。
次に、ビデオ信号生成部12における信号処理を説明する。画像メモリー部11に1画像のデータが保存され、その後ビデオ信号生成部12にデータが送信された後、画像のフレーム単位で信号処理が行われる。信号処理はフレーム単位で行われるが、各々の単位画素ブロックについて同時に行われる。以下の説明では、例として画像の左上端の単位画素ブロック1で行われる信号処理を説明する。
全ての単位画素ブロックの各画素信号について直前に読み出された画素信号のデータと比較してそれらの差が予め設定された値Zthより全て小さければ、各画素信号の値をその画素の画素値として1画像のビデオ信号が生成される。すなわち、画像が静止状態と判断され、4コマに1コマ(時間Tに1画像)しか出力されないが、感度が通常の4倍に向上し、かつ解像度の低下のない画像が作られる。したがって、この場合、通常の1/4のフレームレートの動画が生成されることになる。
一方、全ての単位画素ブロックについて直前に読み出された画素信号のデータと比較してそれらの差が予め設定された値Zthより大きいものが1つでもある場合、被写体に動きがあると判断される。この場合、以下の処理によって1フレームごとに画像が作られる。ここで、例として、画素信号P(i,1)について、時刻tn+3からtn+4にかけて画素値に変化があった場合を考える。すなわち、図9に示すように、時刻tn+3までは時間T/4あたりP0の量の信号が各画素に蓄積するものとする。さらに、時刻tn+3からtn+4の間はP1、時刻tn+4からtn+5の間はP2、時刻tn+5からtn+6の間はP3、時刻tn+6からtn+7の間はP4の量の信号が各画素に蓄積するものと仮定する。ここで、前提として、1つの単位画素ブロックの範囲では画素信号は変わらないとする。この前提により、P(i,1)が読み出される1つ前の画素信号P(i−1,1)までは静止状態と判断できる。P(i,1)は時間tn〜tn+4の間で蓄積された信号であり、P(i−1,1)は時間tn-1〜tn+3の間で蓄積された信号であるので、時間tn+3〜tn+4の間に蓄積された信号P1は以下の式1により作ることができる。
(式1) P1=P(i,1)−P(i−1,1)×3/4
(式1) P1=P(i,1)−P(i−1,1)×3/4
同様の処理により、時間tn+4〜tn+5の間の信号P2、時間tn+5〜tn+6の間の信号P3、時間tn+6〜tn+7の間の信号P4も、それぞれ以下の式2〜4で作ることができる。
(式2) P2=P(i+1,1)−P(i,1)+P(i−3,1)/4
(式3) P3=P(i+2,1)−P(i+1,1)+(2P(i−2,1)−P(i−3,1))/4
(式4) P4=P(i+3,1)−P(i+2,1)+(3P(i−1,1)−2P(i−2,1))/4
(式2) P2=P(i+1,1)−P(i,1)+P(i−3,1)/4
(式3) P3=P(i+2,1)−P(i+1,1)+(2P(i−2,1)−P(i−3,1))/4
(式4) P4=P(i+3,1)−P(i+2,1)+(3P(i−1,1)−2P(i−2,1))/4
その結果、単位画素ブロック1の画素値を上記のP1〜P4の信号で代表すれば、解像度は低下するが、フレームごとに画素値が得られる。時間tn+7以降の信号についても、式6と同様の演算によって求められる。以上の処理は他の単位画素ブロックについても同様に行われる。その結果、解像度は低下するが、通常のフレームレートの動画が生成される。
なお、上記の式3、4の代わりに、それぞれ次の式5、6に示す演算によって信号P3、P4を求めてもよい。
(式5) P3=P(i+2,1)−P(i+1,1)+P(i−2,1)/4
(式6) P4=P(i+3,1)−P(i+2,1)+P(i−1,1)/4
(式5) P3=P(i+2,1)−P(i+1,1)+P(i−2,1)/4
(式6) P4=P(i+3,1)−P(i+2,1)+P(i−1,1)/4
上記の説明においては、全ての単位画素ブロックについて直前に読み出された画素信号との比較を行い、差分が規定値よりも大きいか否かで被写体が動いているか否かを判断するが、他の方法で判断を行ってもよい。例えば、単位画素ブロックごとに上記の判断を行い、画像の動きのある部分だけを低解像度かつ相対的に高いフレームレートの動画としてもよい。また、被写体の動きの有無の検知について、直前の画素信号ではなく、1フレーム前の画素信号との比較に基づいて判断してもよい。
また、被写体に動きがないと判断された場合、被写体に動きがあると判断されるまでは新たな画像を生成しないように構成されていてもよい。さらに、一旦画像が生成された後は、被写体に動きがあるか否かの判断をしばらく行わず、所定時間(例えば数秒)経過後、再び上記の判断を行ってもよい。
以上のように、本実施形態によれば、固体撮像素子7の画素アレイを複数の単位画素ブロックに分割し、各単位画素ブロックの各画素における蓄積時間を通常より長くとり、蓄積タイミングを変えることにより、時間の異なる多重画像が得られる。その結果、被写体に動きがなければ、相対的に光利用率が高く、低フレームレートの動画が得られる。被写体に動きがあれば、式1〜式4に基づく演算により、解像度は低下するが、相対的に高いフレームレートで動画が得られる。このように、本発明によれば、被写体の動きの有無に応じて撮像方式を変えることができるという従来にない優れた効果を奏する。
なお、本実施形態においては、被写体に動きがあると判定された場合、単位画素ブロックの範囲では画素信号は変わらないとし、読み出されたP(i−1,1)までの画素信号に関して何も処理が行われない。しかし、次の式7に示す演算によって平均画素値Pmを算出し、Pmを時刻tn-1からtn+3までの画像信号として以降の処理で用いても構わない。
(式7) Pm=(P(i−4,1)+P(i−3,1)+P(i−2,1)+P(i−1,1))/4
(式7) Pm=(P(i−4,1)+P(i−3,1)+P(i−2,1)+P(i−1,1))/4
また、単位画素ブロックを2行2列に配置された4つの画素で構成されるものとしたが、これに限るものではなく、単位画素ブロックに含まれる画素数は複数であれば何個でもよい。
各単位ブロックに含まれる画素数がN(Nは2以上の整数)である場合、本実施形態の撮像装置は以下のように一般化される。まず、単位画素ブロックの数をMとし、各単位画素ブロックに含まれるN個の画素から、時間T/Nずつ異なるタイミングで画素信号が読み出されるように素子駆動部9は読出し信号を生成する。次に、信号発生/受信部8は、時間T/Nずつ異なるタイミングでこれらの画素から順次画素信号を読み出す。ここで、j番目(jは1以上M以下の整数)の単位画素ブロックからi回目(iはN+1以上の整数)に読み出された画素信号をP(i,j)とする。ビデオ信号生成部12は、P(i,j)とP(i−1,j)との差の絶対値が予め設定された値Zth以下の場合、被写体は静止していると判断する。そして、時間Tの間に各画素に蓄積されたM×N個の画素信号に基づいて1つの画像を生成する。一方、P(i,j)とP(i−1,j)との差の絶対値が予め設定された値Zthよりも大きい場合、被写体は動いていると判断する。そして、以下の式8に示す信号Pijをj番目の単位画素ブロックにおけるi回目の読出し時点での各画素の画素値を示す信号として処理する。
(式8)Pij=P(i,j)−P(i−N+1,j)×(N−1)/N
(式8)Pij=P(i,j)−P(i−N+1,j)×(N−1)/N
さらに、以下の式9に示す信号Pijkを、j番目の単位画素ブロックにおけるi+k回目(kは1以上N未満の整数)の読み出し時点での各画素の画素値を示す信号として処理する。
(式9)Pijk=P(i+k,j)−P(i+k−1,j)+(k×P(i+k−N,j)−(k−1)×P(i+k−N−1,j))/N
(式9)Pijk=P(i+k,j)−P(i+k−1,j)+(k×P(i+k−N,j)−(k−1)×P(i+k−N−1,j))/N
以上の処理により、各単位画素ブロックに含まれる画素の数がNの場合においても、被写体の動きに応じて適切な撮像方法が選択され、高品質の動画を生成することができる。
なお、本実施形態の撮像装置は、動画撮影中に被写体の動きの有無を検知して撮像方式を動的に変化させる機能を備えているが、本発明では必ずしもこのような機能を備えている必要はない。例えば、上記の説明において被写体に動きがあると判断した場合に実行される方式で動画を生成する機能のみを備えていてもよい。また、上記の説明において、被写体が動いていないと判断した場合に行われる処理によって静止画を生成する機能のみを備えていてもよい。
本実施形態では、各単位画素ブロック40に含まれる各画素にはほぼ等しい量の光が入射することを前提としている。これは、光学フィルタ6に含まれる光学ローパスフィルタによって各画素ブロック40のサイズで規定される空間周波数よりも高い周波数の画像成分が除去されることによって実現できる。しかし、撮像装置は、光学ローパスフィルタを備えていなくても、読み出された画素信号に基づいて画像の高周波成分を除去するローパスフィルタ処理を行うことによって同様の効果を得ることができる。
本実施形態における信号演算処理は、ビデオ生成部12によって実行されるが、撮像装置は必ずしも上記の信号演算処理を行うように構成されていなくてもよい。例えば、撮像装置は画素信号の生成だけを行い、画素信号の読出しおよびビデオ信号の生成は外部の情報処理装置に実行させてもよい。その場合、例えば、本実施形態における信号演算処理を規定するプログラムを当該情報処理装置に実行させることによって実現可能である。
(実施形態2)
次に本発明の第2の実施形態について、図面を用いて説明する。図10A、10Bは本実施形態における単位画素ブロックを示している。図10Aは1つの単位画素ブロック4を示し、図10Bは複数の単位画素ブロック4が隣接して配置された状況を示す画素平面図である。ここで、本実施形態と実施形態1との相違点は単位画素ブロックに含まれる画素数および単位画素ブロックの配置エリアの形状だけであり、撮像装置の構成や信号処理については全て同じである。よって、以下の説明では、実施形態1と異なる点のみを説明する。
次に本発明の第2の実施形態について、図面を用いて説明する。図10A、10Bは本実施形態における単位画素ブロックを示している。図10Aは1つの単位画素ブロック4を示し、図10Bは複数の単位画素ブロック4が隣接して配置された状況を示す画素平面図である。ここで、本実施形態と実施形態1との相違点は単位画素ブロックに含まれる画素数および単位画素ブロックの配置エリアの形状だけであり、撮像装置の構成や信号処理については全て同じである。よって、以下の説明では、実施形態1と異なる点のみを説明する。
図10Aに示すように、本実施形態における単位画素ブロック4は、5画素を用いて十字型の形状を有している。また、図10Bに示すように、隣接の単位画素ブロック同士を接近させている。その結果、単位画素ブロック4の中心が隣接の単位画素ブロックの中心と水平及び垂直方向において接近し、1画素離れただけである。単位画素ブロック4の形状を実施形態1のように2×2画素の四角形状にした場合は、隣接領域との中心間の間隔は2画素であるため、本実施形態では1画素分中心間の間隔が近づいている。そのため、本実施形態の撮像装置は、水平及び垂直方向において、実施形態1の撮像装置よりも解像度を向上できる。すなわち、十字型の単位画素ブロックを用いた本実施形態の撮像装置によって生成される動画は、四角形状の単位画素ブロックを用いた実施形態1の撮像装置によって生成される動画よりも解像度が向上することになる。
以上のように本実施形態によれば、各単位画素ブロックが十字型に配置された5画素を含み、単位画素ブロック間の中心を接近させることにより、動画における解像度が向上するという効果が得られる。
なお、本実施形態では、各単位画素ブロックの数は5であるが、各単位画素ブロックの配置エリアの形状が十字型であれば、それに含まれる画素数は5に限らず、6よりも多くてもよい。
本発明の固体撮像素子および撮像装置は、固体撮像素子を用いるすべてのカメラに有効である。例えば、デジタルスチルカメラやデジタルビデオカメラなどの民生用カメラや、産業用の固体監視カメラなどに利用可能である。
1 画像の左上端の4画素(P(i,1)、P(i+1,1)、P(i+2,1)、P(i+3,1))から成る単位画素ブロック
2 画像の1フレーム
3 画像の1フレーム
4 5画素からなる十字型の単位画素ブロック
5 集光レンズ
6 光学板
7 固体撮像素子
8 信号発生及び画素信号受信部
9 素子駆動部
10 映像信号処理部
11 画像メモリー部
12 ビデオ信号生成部
13 ビデオインターフェース部
20 画素
30 画素信号読出し部
32 画像生成部
40 単位画素ブロック
50a、50b、50c、50d 読出し信号線
52a、52b 出力信号線
100 撮像部
200 画素アレイ
2 画像の1フレーム
3 画像の1フレーム
4 5画素からなる十字型の単位画素ブロック
5 集光レンズ
6 光学板
7 固体撮像素子
8 信号発生及び画素信号受信部
9 素子駆動部
10 映像信号処理部
11 画像メモリー部
12 ビデオ信号生成部
13 ビデオインターフェース部
20 画素
30 画素信号読出し部
32 画像生成部
40 単位画素ブロック
50a、50b、50c、50d 読出し信号線
52a、52b 出力信号線
100 撮像部
200 画素アレイ
Claims (12)
- 撮像面に2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含むM個(Mは2以上の整数)の単位画素ブロックに分割された画素アレイと、
各画素から一定の時間間隔Tごとに画素信号を読出す画素信号読出し部であって、各単位画素ブロックに含まれる前記N個の画素からそれぞれ異なるタイミングで前記画素信号を読み出す画素信号読出し部と、
前記画素信号読出し部から読み出された各画素信号に基づいて画像を生成する画像生成部と、
を備える撮像装置。 - 前記画素信号読出し部は、各単位画素ブロックに含まれる前記N個の画素から時間T/Nずつ異なるタイミングで前記画素信号を読み出す、請求項1に記載の撮像装置。
- 前記画像生成部は、前記時間間隔Tの間に前記画素信号読出し部によって読み出されたM×N個の画素信号に基づいて前記画像を生成する、請求項2に記載の撮像装置。
- 前記画素信号読出し部によってj番目(jは1以上M以下の整数)の単位画素ブロックからi回目(iはN+1以上の整数)に読み出された画素信号をP(i、j)とするとき、
前記画像生成部は、P(i,j)とP(i−1,j)との差の絶対値が予め設定された値よりも大きい場合には、P(i,j)−P(i−N+1,j)×(N−1)/Nを、j番目の単位画素ブロックにおけるi回目の読出し時点での各画素の画素値を示す信号として前記画像を生成する、
請求項3に記載の撮像装置。 - 前記画像生成部は、P(i,j)とP(i−1,j)との差の絶対値が予め設定された値よりも大きい場合には、P(i+k,j)−P(i+k−1,j)+(k×P(i+k−N,j)−(k−1)×P(i+k−N−1,j))/N (kは1以上N未満の整数)を、j番目の単位画素ブロックにおけるi+k回目の読出し時点での各画素の画素値を示す信号として前記画像を生成する、請求項4に記載の撮像装置。
- 前記画素信号読出し部は、被写体の明るさに応じて前記時間間隔Tを変化させる、請求項1から5のいずれかに記載の撮像装置。
- 各単位画素ブロックの配置エリアの形状は十字形である、請求項1から6のいずれかに記載の撮像装置。
- 前記単位画素ブロックのサイズで規定される空間周波数よりも高い周波数成分を前記画像から除去するための光学的ローパスフィルタを備える請求項1から7のいずれかに記載の撮像装置。
- 前記画像生成部は、前記単位画素ブロックのサイズで規定される空間周波数よりも高い周波数成分を前記画像から除去するローパスフィルタ処理を行う、請求項1から7のいずれかに記載の撮像装置。
- 撮像面に2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含むM個(Mは2以上の整数)の単位画素ブロックに分割された画素アレイと、
各画素から一定の時間間隔Tごとに画素信号を読出す画素信号読出し部であって、各単位画素ブロックに含まれる前記N個の画素からそれぞれ異なるタイミングで前記画素信号を読み出す画素信号読出し部と、
を備える固体撮像素子。 - 撮像面に2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含むM個(Mは2以上の整数)の単位画素ブロックに分割された画素アレイと、各画素から一定の時間間隔Tごとに画素信号を読出す画素信号読出し部であって、各単位画素ブロックに含まれる前記N個の画素からそれぞれ異なるタイミングで前記画素信号を読み出す画素信号読出し部とを備える撮像装置によって取得された信号に基づいて動画を生成する方法であって、
各単位画素ブロックにおいて、連続して読み出された2つの画素信号の差分が規定値よりも大きいか否かを判断するステップと、
前記差分が前記規定値よりも大きい場合に、相対的に低い解像度で相対的に高いフレームレートの動画を生成し、前記差分が前記規定値よりも小さい場合に、相対的に高い解像度で相対的に低いフレームレートの動画を生成するステップと、
を含む動画生成方法。 - 撮像面に2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含むM個(Mは2以上の整数)の単位画素ブロックに分割された画素アレイと、各画素から一定の時間間隔Tごとに画素信号を読出す画素信号読出し部であって、各単位画素ブロックに含まれる前記N個の画素からそれぞれ異なるタイミングで前記画素信号を読み出す画素信号読出し部とを備える撮像装置によって取得された信号に基づいて動画を生成するためのプログラムであって、
各単位画素ブロックにおいて、連続して読み出された2つの画素信号の差分が規定値よりも大きいか否かを判断するステップと、
前記差分が前記規定値よりも大きい場合に、相対的に低い解像度で相対的に高いフレームレートの動画を生成し、前記差分が前記規定値よりも小さい場合に、相対的に高い解像度で相対的に低いフレームレートの動画を生成するステップと、
を含む動画生成プログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009233286 | 2009-10-07 | ||
JP2009233286 | 2009-10-07 | ||
PCT/JP2010/005911 WO2011043045A1 (ja) | 2009-10-07 | 2010-10-01 | 撮像装置、固体撮像素子、画像生成方法、およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2011043045A1 true JPWO2011043045A1 (ja) | 2013-03-04 |
Family
ID=43856529
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011511929A Pending JPWO2011043045A1 (ja) | 2009-10-07 | 2010-10-01 | 撮像装置、固体撮像素子、画像生成方法、およびプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US8970721B2 (ja) |
JP (1) | JPWO2011043045A1 (ja) |
WO (1) | WO2011043045A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015111761A (ja) * | 2013-12-06 | 2015-06-18 | 株式会社ニコン | 電子機器 |
WO2017126899A2 (en) | 2016-01-19 | 2017-07-27 | Samsung Electronics Co., Ltd. | Methods and systems for reconstructing a high frame rate high resolution video |
JP6890295B2 (ja) | 2016-03-17 | 2021-06-18 | パナソニックIpマネジメント株式会社 | 撮像装置 |
US9948843B2 (en) * | 2016-06-17 | 2018-04-17 | Mitutoyo Corporation | Super resolution bore imaging system |
JP2018174592A (ja) * | 2018-08-15 | 2018-11-08 | 株式会社ニコン | 電子機器 |
JP7356266B2 (ja) * | 2018-08-31 | 2023-10-04 | キヤノン株式会社 | 撮像装置、撮像システム、および撮像装置の駆動方法 |
WO2020045278A1 (en) * | 2018-08-31 | 2020-03-05 | Canon Kabushiki Kaisha | Imaging device with motion dependent pixel binning |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04315378A (ja) * | 1991-04-15 | 1992-11-06 | Olympus Optical Co Ltd | 固体撮像素子 |
JP4140077B2 (ja) * | 1998-02-18 | 2008-08-27 | ソニー株式会社 | 固体撮像素子の駆動方法及び固体撮像素子、並びにカメラ |
US6507365B1 (en) * | 1998-11-30 | 2003-01-14 | Kabushiki Kaisha Toshiba | Solid-state imaging device |
JP2000209509A (ja) * | 1999-01-19 | 2000-07-28 | Canon Inc | 固体撮像装置と撮像システム |
JP2002369083A (ja) * | 2001-06-07 | 2002-12-20 | Olympus Optical Co Ltd | 撮像装置 |
US7202897B2 (en) * | 2001-07-11 | 2007-04-10 | Sony Corporation | Solid-state image pickup exposure control system and method |
JP4142340B2 (ja) * | 2002-05-22 | 2008-09-03 | オリンパス株式会社 | 撮像装置 |
JP3898606B2 (ja) * | 2002-09-12 | 2007-03-28 | 株式会社東芝 | 動きベクトル検出方法及び装置並びにフレーム補間画像作成方法及び装置 |
US7283164B2 (en) * | 2002-09-18 | 2007-10-16 | Micron Technology, Inc. | Method for detecting and correcting defective pixels in a digital image sensor |
JP2006157124A (ja) * | 2004-11-25 | 2006-06-15 | Olympus Corp | 撮像装置 |
US7694231B2 (en) * | 2006-01-05 | 2010-04-06 | Apple Inc. | Keyboards for portable electronic devices |
JP4888081B2 (ja) * | 2006-01-23 | 2012-02-29 | セイコーエプソン株式会社 | 撮像装置、撮像方法、撮像システム及び画像処理装置 |
JP2007228460A (ja) * | 2006-02-27 | 2007-09-06 | Mitsumasa Koyanagi | 集積センサを搭載した積層型半導体装置 |
JP2008035279A (ja) * | 2006-07-28 | 2008-02-14 | Sanyo Electric Co Ltd | 画素情報読出方法および撮像装置 |
US7944482B2 (en) * | 2006-07-28 | 2011-05-17 | Sanyo Electric Co., Ltd. | Pixel information readout method and image pickup apparatus |
JP2009159067A (ja) * | 2007-12-25 | 2009-07-16 | Olympus Imaging Corp | 撮像表示方法および撮像表示装置 |
-
2010
- 2010-10-01 US US13/141,711 patent/US8970721B2/en not_active Expired - Fee Related
- 2010-10-01 WO PCT/JP2010/005911 patent/WO2011043045A1/ja active Application Filing
- 2010-10-01 JP JP2011511929A patent/JPWO2011043045A1/ja active Pending
Also Published As
Publication number | Publication date |
---|---|
US20110317053A1 (en) | 2011-12-29 |
WO2011043045A1 (ja) | 2011-04-14 |
US8970721B2 (en) | 2015-03-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8754967B2 (en) | Solid-state imaging device, signal processing method thereof, and image capturing apparatus | |
US7978240B2 (en) | Enhancing image quality imaging unit and image sensor | |
US8576299B2 (en) | Solid-state imaging device with pixels having photodiodes with different exposure times, signal processing method of solid-state imaging device, and electronic apparatus | |
JP4448888B2 (ja) | 撮像装置及び撮像装置の信号処理方法 | |
KR100827238B1 (ko) | 고화질 영상을 위한 영상 표시 방법 및 장치 | |
WO2011043045A1 (ja) | 撮像装置、固体撮像素子、画像生成方法、およびプログラム | |
JP2009212909A (ja) | 固体撮像装置、固体撮像装置のフリッカ検出方法、制御プログラム、可読記録媒体および電子情報機器 | |
KR102025935B1 (ko) | 이미지 생성 장치 및 이미지 생성 방법 | |
JPS60142683A (ja) | 固体撮像装置 | |
CN109474781A (zh) | 摄像装置、摄像装置的控制方法、记录介质 | |
KR20210114290A (ko) | 이미지 센서 및 이를 포함하는 촬영 장치 | |
JP4538337B2 (ja) | 固体撮像素子 | |
JP2000350101A (ja) | 固体撮像装置及び画像情報取得装置 | |
JP5625298B2 (ja) | 撮像装置 | |
WO2018021034A1 (ja) | 撮像制御装置および撮像制御方法、並びに撮像素子 | |
JP6137539B2 (ja) | 固体撮像素子及びその駆動方法、並びに電子機器 | |
JPH05115041A (ja) | 固体撮像装置 | |
JP2008187614A (ja) | 撮影装置 | |
WO2015008635A1 (ja) | 固体撮像素子及びその駆動方法、並びに電子機器 | |
JP4840991B2 (ja) | 光電変換装置及びその制御方法並びに撮像装置 | |
JP2007267290A (ja) | 固体撮像素子およびその駆動方法 | |
JP2019161438A (ja) | 画像処理装置、画像処理方法及び画像処理システム | |
JP2007201560A (ja) | 固体撮像装置およびその駆動方法 | |
JP2007189556A (ja) | 固体撮像装置およびその駆動方法 | |
JP2011193370A (ja) | 撮像装置及び撮像方法 |