JP2021044623A - 撮像装置及びその制御方法 - Google Patents

撮像装置及びその制御方法 Download PDF

Info

Publication number
JP2021044623A
JP2021044623A JP2019163272A JP2019163272A JP2021044623A JP 2021044623 A JP2021044623 A JP 2021044623A JP 2019163272 A JP2019163272 A JP 2019163272A JP 2019163272 A JP2019163272 A JP 2019163272A JP 2021044623 A JP2021044623 A JP 2021044623A
Authority
JP
Japan
Prior art keywords
pixel
subject
detection mode
signal
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019163272A
Other languages
English (en)
Other versions
JP7410675B2 (ja
Inventor
誠 伊勢
Makoto Ise
誠 伊勢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019163272A priority Critical patent/JP7410675B2/ja
Publication of JP2021044623A publication Critical patent/JP2021044623A/ja
Application granted granted Critical
Publication of JP7410675B2 publication Critical patent/JP7410675B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】被写体変化を検出して撮像を行う撮像装置において、被写体変化を適切に検出しつつ消費電力の削減も図る。【解決手段】複数の画素が配置された画素部を有する撮像部と、画素部を複数の第1の分割領域に分割し、第1の分割領域ごとに、画素数を減らして得られた信号に基づいて被写体を検出する第1の検知モードと、画素部を第1の分割領域とは大きさが異なる複数の第2の分割領域に分割し、第2の分割領域ごとに画素数を減らして得られた信号に基づいて被写体を検出する第2の検知モードとを切り替える制御部と、を備え、制御部は、第1の検知モードと第2の検知モードの少なくとも一方により被写体が検出された場合に、撮像部に記録用の画像の撮像動作を行わせる。【選択図】 図17

Description

本発明は、撮像装置及びその制御方法に関するものである。
従来、観測、監視等を目的として自動で撮像を行う撮像装置が広く利用されている。自動撮像動作に関しては、所定間隔での撮像だけでなく、前後フレーム間での輝度値の差分を用いて被写体変化を検出し、被写体が変化したことを判断して、撮影および記憶動作を開始する撮像装置もある。
例えば、特許文献1には、被写体変化の検出を、通常の撮影時とは異なる撮影駆動モードで行わせる撮像装置が開示されている。この被写体変化の検出を行うモードでは、撮像素子の画素を複数のブロックに分割し、そのブロック単位で画素の出力を混合したアナログ信号をAD変換することにより、AD変換の回数を減らして消費電力を低減させている。そして、通常の撮影時よりも低いフレームレートでデータ出力を行うことにより、さらなる消費電力の抑制を実現している。
特開2018−22935号公報
しかしながら、上述の特許文献1に開示された従来技術では、画素の出力を混合した複数の分割ブロック単位でAD変換するため、被写体が小さい場合、その変化を検出することができない場合がある。サイズの小さな被写体の変化を検出するためには、分割ブロックをより細分化する必要があるが、ブロック数が増加すると消費電力を抑制することができなくなる。消費電力を増加させないために、更に低いフレームレートでデータ出力を行うことも可能であるが、それでは被写体変化の検出に時間を要し、撮影動作への移行が遅れてしまう。
また、上述の特許文献1では、被写体変化の検出前後で、画素出力を混合する混合モードから画素出力を混合しない1画素単位の通常の撮影モードに移行する。そのため、被写体変化の状況によっては読み出し解像度が過剰に高くなる場合があるが、この通常の撮影モードでの消費電力の削減については、何ら言及されていない。
本発明は上述した課題に鑑みてなされたものであり、その目的は、被写体変化を検出して撮像を行う撮像装置において、被写体変化を適切に検出しつつ消費電力の削減も図ることである。
本発明に係わる撮像装置は、複数の画素が配置された画素部を有する撮像手段と、前記画素部を複数の第1の分割領域に分割し、前記第1の分割領域ごとに、画素数を減らして得られた信号に基づいて被写体を検出する第1の検知モードと、前記画素部を前記第1の分割領域とは大きさが異なる複数の第2の分割領域に分割し、前記第2の分割領域ごとに画素数を減らして得られた信号に基づいて被写体を検出する第2の検知モードとを切り替える制御手段と、を備え、前記制御手段は、前記第1の検知モードと前記第2の検知モードの少なくとも一方により被写体が検出された場合に、前記撮像手段に記録用の画像の撮像動作を行わせることを特徴とする。
本発明によれば、被写体変化を検出して撮像を行う撮像装置において、被写体変化を適切に検出しつつ消費電力の削減も図ることが可能となる。
本発明の撮像装置の第1の実施形態であるデジタルカメラの構成を示すブロック図。 撮像素子の構成例を示すブロック図。 撮像素子の多層構造を示す図。 画素部の構成例を示す図。 画素ブロックの構成例を示す図。 イベント検出部の構成例を示す図。 通常検知モードの画素ブロック構成の一例を示した図。 高解像検知モードの画素ブロック構成の一例を示した図。 通常検知モードのタイミングチャートの一例を示した図。 高解像検知モードのタイミングチャートの一例を示した図。 通常撮影モードのタイミングチャートの一例を示した図。 簡易撮影モードのタイミングチャートの一例を示した図。 通常検知モードにおける被写体検知の一例を示した図。 通常検知モードにおける被写体検知の一例を示した図。 高解像検知モードにおける被写体検知の一例を示した図。 高解像検知モードにおける被写体検知の一例を示した図。 第1の実施形態のデジタルカメラの動作を示すフローチャート。 第2の実施形態のデジタルカメラの動作を示すフローチャート。
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
(第1の実施形態)
図1は、本発明の撮像装置の第1の実施形態であるデジタルカメラ100の構成を示すブロック図である。
図1において、撮影レンズ101は、被写体からの光を撮像素子200へ結像させる。撮像素子200はCMOSセンサから成り、撮影レンズ101を介して入射した光を光電変換して画像信号として出力する。また、撮像素子200は、内部に画素出力値の変化量および変化領域の検出結果に応じて、撮像素子200自身の駆動制御を選択及び変更する制御機能を備えている。この機能を有することにより、撮像素子自身による被写体の変化の検出から好適な撮影モードの選択及び変更を可能としている。
画像処理回路102は、撮像素子200から出力される画像信号に対して、フィルタ処理等の各種補正処理や圧縮処理等のデジタル画像処理を行う。また、FullHDモード等の動画信号についても、ここで各モードに応じたリサイズ等の画像処理が行われる。
制御回路103は、撮像素子200の駆動タイミングの制御を行うとともに、画像処理回路102、表示回路106等のデジタルカメラ100全体の統括的な駆動制御を行う。また、制御回路103は、ユーザーの命令を受けて、静止画モード、FullHDモード、4Kモード等の複数の撮影モードから選択された撮影モードに応じた駆動制御を行う。また、本実施形態のデジタルカメラ100においては、撮像素子200が、被写体の変化検出に基づいて撮影モードの選択及び変更を行う検知モードを備えており、制御回路103は、撮像素子200の検知モードの動作許可の制御も行う。
メモリ回路104、記録回路105は、画像処理回路102から出力された画像信号を記録保持する不揮発性メモリやメモリカード等の記録媒体である。表示回路106は、撮影画像や各種設定画面等の表示を行う。操作回路107は、不図示の操作部材からの信号を受け付けて、制御回路103に対してユーザーの命令を伝達する。
制御回路103は、動体検知回路110をさらに有し、撮像素子200から入力された画像データに基づいて動体の有無を検出する。制御回路103は、動体検知回路110の検出結果も用いながら、デジタルカメラ100の動作を制御する。
図2は、本実施形態における撮像素子200の構成を示すブロック図である。撮像素子200は、複数の画素が行列状に配置された画素部220を備えており、画素単位に信号を出力する機能、および画素部220の面内を所定の大きさに分割した画素ブロック毎で複数画素の出力信号を混合する機能を有している。
画素部220から出力された画素信号は、AD変換回路212により、画素列毎または画素ブロックを単位としたブロック列毎にアナログ−デジタル変換された後、水平走査回路213の駆動により、順次イベント検出部214へ転送される。
イベント検出部214は、画素混合ブロック単位の出力信号の変化量と基準値とを比較することにより、イベントの発生を検出する。また、イベントの発生が検出された画素混合ブロックの分布状態に基づいて、移動被写体の移動速度の目安となる被写体移動量の算出を行う。
そして、イベント検出結果および被写体移動量の情報を、撮像素子200の駆動モード制御を行うモード制御部216へ送信する。また、イベント検出部214は、画素部220の出力が画素単位出力の場合には、出力された画素信号をそのまま信号処理部215へ転送する。さらにイベント検出部214は、画素混合ブロック単位による出力を積算し、積分データとして露光制御部217に供給する。信号処理部215では、イベント検出部214から出力された画素信号の前後に、画素信号の変化量や撮像素子200の駆動モード等の情報データを付帯して撮像素子200の外部に出力する。
モード制御部216は、撮像素子200内のイベント検出部214または撮像素子200外の制御回路103からの信号を受けて、AD変換回路212、水平走査回路213、垂直走査回路211の各々に駆動タイミング制御信号を供給する。これにより、撮像素子200の撮像モード毎に応じた駆動制御を行う。また、モード制御部216は、制御回路103から撮像素子200が検知モードとして動作することを許可されている場合、撮像素子200を検知モードとして画素ブロック毎に画素の出力信号を混合する駆動から開始させる。
垂直走査回路211は、各行ごとに接続される信号線を介して、画素単位または画素ブロック単位で行選択及び駆動を行う。
露光制御部217は、イベント検出部214からの積分データに基づき、撮像素子200の露光制御のために露光時間の算出を行い、モード制御回路216へ撮像素子200の露光制御信号を供給する。
なお、図3(a)に示されるように、撮像素子200は、斜線模様で示される半導体基板201と、白色で示される半導体基板202とを有する。半導体基板201および半導体基板202は、図3(b)に示されるように重畳された状態で封止され、モジュール化(一体化)される。
つまり、図3(c)に示されるように、半導体基板201および半導体基板202は、多層構造(積層構造)を形成する。半導体基板201に形成される回路と半導体基板202に形成される回路は、ビア(VIA)等により互いに接続される。
このように、撮像素子200は、半導体基板201と半導体基板202が多層構造を形成するように一体化されたモジュール(LSI(Large Scale Integration)チップとも称する)である。モジュール内部において半導体基板201と半導体基板202がこのように多層構造を形成することにより、撮像素子200は、半導体基板のサイズを増大させずに、より大規模な回路の実装を実現することができる。すなわち、撮像素子200は、コストの増大を抑制しながら、より大規模な回路を実装することができる。
半導体基板201には、画素部220およびA/D変換回路212などが形成される。また、半導体基板202には、イベント検出部214、信号処理部215、モード制御部216、露光制御部217が形成される。
図4は、図2に示す画素部220の構成例を示す図である。
画素部220は、画素230が行列状に複数配置されている。またイベント検知の画素混合単位としての画素ブロック(分割領域)240,250が破線枠で示されている。なお、説明を分かりやすくするため、ここでは、画素ブロック240を2行×2列の画素配列、画素ブロック250を4行×4列の画素配列とした例について説明するが、行列数および配置については、これに限られるものではない。対象とする移動被写体のサイズに合わせて適宜設定すればよい。
図4の例では、画素230は、n行(1〜n)、m列(1〜m)、画素ブロック250は、N行(1〜N)、M列(1〜M)、ただし、n=4×N、m=4×Mで表現される。また、画素ブロック240は、画素ブロック250をさらに行方向に2分割、列方向に2分割した4つのブロックのそれぞれとして表現される。
画素ブロック250には、その単位ブロックが並ぶ1ブロック行において、水平信号線として1つのリセット制御信号(RST_1)、1つの行選択制御信号(SEL_1)、4つの転送制御信号(TX1_1,TX2_1,TX3_1,TX4_1)、1つの4列混合信号(ADD4P_1)、1つの2列混合信号(ADD2P_1)、1つの4列混合後の列選択制御信号(ADD4P_SEL_1)、1つの2列混合後の列選択制御信号(ADD2P_SEL_1)が垂直走査回路211から配線される。
画素230からの出力は列出力線410を介して、接続先のAD変換回路212に入力される。上記の各水平信号線の選択駆動が行われることにより、撮像素子200から行単位、ブロック行単位で順次、各列出力線410を介して信号が出力される。
画素部220からの信号は、通常撮影モードでは各画素230から画素単位で順次出力される。それに対し、検知モードでは、画素ブロック240,250内のFDごとの混合スイッチを動作させることにより、混合信号が特定の画素から出力される。
図5は、画素230の等価回路図である。画素部220の左上の画素ブロック240,250、つまり画素230が16個配置された部分を抜き出して示している。
図5の左上の画素230−1を中心に説明する。フォトダイオード406−1において発生および蓄積された電荷が、転送制御信号TX1_1により制御される転送スイッチ405−1を介してフローティングディフュージョン(以後FD)407−1に転送される。ソースフォロアアンプ408−1は列出力線に接続された定電流源411−1と共に構成され、FD407−1に蓄積された電荷に基づく電圧信号を増幅して、画素信号として出力する。ソースフォロアアンプ408−1の出力が、行選択制御信号SEL1により制御される行選択スイッチ409−1により列出力線410−1へ出力される。
FD407−1に蓄積されている不要電荷をリセットする場合は、リセット制御信号RST_1によりリセットスイッチ404−1を制御する。さらにフォトダイオード406−1をリセットする際は、リセットスイッチ404−1と共に、転送制御信号TX1_1により転送スイッチ405−1をONしてリセットを実行する。転送制御信号TX1_1、リセット制御信号RST_1と行選択制御信号SEL_1は垂直走査回路211から出力される。
また、画素230−1の同列で下方の水平行に配置された画素230−5、画素230−9、画素230−13は、画素ごとに個別に、フォトダイオード406−5,406−9,406−13、転送スイッチ405−5,405−9,405−13、FD407−5,407−9,407−13を有し、画素230−1と同様に構成されている。さらに、FD407−5、FD407−9、FD407−13は、FD407−1と接続されており、画素230−1の読み出しに用いられるリセットスイッチ404−1とソースフォロアアンプ408−1を互いに共有する。
なお、列ごとに設けられた定電流源411は、列出力線410からの読み出しに用いられない不要の期間は、垂直走査回路211および水平走査回路213からの制御信号により節電のために作動を停止することができる。
また、本実施形態においては、同一列の垂直4行分の画素ごとのFD407−1,407−5,407−9,407−13を常時接続し、画素230−1の読み出しに用いられるリセットスイッチ404−1とソースフォロアアンプ408−1を互いに共有する構成とした。しかし、各FD407−1,407−5,407−9,407−13の間に、接続を切り離すスイッチと、画素ごとに個別にリセットスイッチを設けることにより、画素ごとに独立に且つ並行して、リセット・露光・蓄積を行えるようにしてもよい。
次に、本実施形態における粗い解像度で被写体変化の検出(イベント検出)を行う通常検知モードと、細かい解像度で被写体変化の検出(イベント検出)を行う高解像検知モードの、それぞれの場合での画素230の動作について説明する。
FDに転送した信号を画素ブロック250ごとに読み出す解像度の粗い通常検知モードでは、転送制御信号TX1_1,TX2_1,TX3_1,TX4_1、および列混合信号ADD4P_1により、16個のFD407−1〜407−16の信号を混合する。その後、混合したデータを列出力線410−1から出力するために、混合後の列選択制御信号ADD4P_SEL_1を制御して、混合した信号を読み出す。このようにして、4行×4列の画素のFDの信号を混合した信号を通常検知モードの出力とする。
FDに転送した信号を画素ブロック240ごとに読み出す解像度の細かい高解像検知モードでは、転送制御信号TX1_1,TX2_1、および列混合信号ADD2P_1により、4つのFD407−1,407−2,407−5,407−6の信号を混合する。その後、混合した信号を列出力線410−1から出力するために、列選択制御信号ADD2P_SEL_1により、混合した信号を読み出す。このようにして、2行×2列の画素のFDの信号を混合した信号を高解像検知モードの出力とする。
次に、本実施形態における細かい解像度で画像撮影を行う通常撮影モードと、通常撮影モードよりも粗い解像度で画像撮影を行う簡易撮影モードの、それぞれの場合での画素230の回路動作について説明する。
通常撮影モードでは、解像度を落とすことなく、各画素230から転送した信号をFDで混合せずに1画素ごとに読み出す。また、簡易撮影モードでは、一例として通常撮影モードよりも粗い解像度である2行×2列の画素信号を混合して画素ブロック240ごとに信号を読み出す。
なお、画素信号の混合単位は、2行×2列や4行×4列に限られるものではない。また、画素信号の混合はFDでの混合に限られるものではない。列出力線で複数の行をつないで垂直方向の画素信号を混合し、水平方向の画素信号の混合はAD変換回路212の前の混合回路を使用して実施する方法でもよい。
図6は、本実施形態におけるイベント検出部214の構成例を示す図である。出力切り替え回路260は、撮像素子200の駆動制御として選択された撮影モードに応じて、画素信号の出力先を撮像素子200の内部と外部とに切り替える回路である。
出力切り替え回路260は、モード制御部216からの制御信号を受けて、選択された撮像素子200の撮影モードが、画素ブロック単位で被写体変化を検出するモードである場合、画素出力先を撮像素子内部の積算演算処理回路261とする。そして、被写体変化の検出を行わせる。また、画素ブロック単位でない通常の撮影モードである場合、撮像素子200の外部へと出力するようにイベント検出部214から信号処理部215へ信号を出力する。
積分演算処理回路261は、出力切り替え回路260からの出力を受け、出力値の積算を行い、露光制御部217へ積算データを供給する。また、画素ブロック単位による画素出力を保持するメモリ262へ出力する。
メモリ262は、画素ブロック単位の画素出力と、その出力元の撮像素子の面内における2次元の分割位置情報とを過去データとして記憶、保持する。差分検出回路263は、直近に読み出された画素ブロック単位の出力値と、メモリ262に保持されている同じ画素ブロックの過去の出力値とから差分データを作成する。差分データは比較回路264に供給される。比較回路264は、各差分データと所定閾値を比較する。比較回路264において得られた比較結果データは、モード制御回路216に送信される。
図7は、画素部220において、通常検知モードでの検知に用いられる画素ブロック250のブロック分割の一例を説明するための図である。
検知に用いられる領域は、太い破線の枠で示される画素部220全体であり、画素部全体を列方向に30ブロック列、行方向に20ブロック行というように、比較的粗い分割にして検知に用いる画素ブロックの数を少なめに抑えている。この場合は、検知ブロック数は600となる。
図8は、画素部220において、高解像検知モードでの検知に用いられる画素ブロック240のブロック分割の一例を説明するための図である。
通常検知モードに比較して、画素部220全体を列方向に60ブロック列、行方向に40ブロック行というように、より細かい分割サイズとする。そして、検知領域は画素部220全体ではなく太い破線の枠で示す画素部220の下端の2ブロック行(画素部の外周部を含む一部の領域)に限定し、検知に用いる画素ブロックの数を、さらに少なく抑えている。この場合は、検知ブロック数は120となる。また、通常検知モードよりも細分化された画素ブロックによって、通常検知モードで検出できる被写体よりもサイズの小さな被写体の動きも精度よく検出できるようにする。
なお、高解像検知モードにおける検知領域は一例であり、画像部の下端の2ブロック行に限定されるものではない。動く被写体の撮影画角内での進入経路に応じて好適な領域に設定すればよい。設定の変更は、撮影条件や、ユーザーの意図により行えるようにしてもよい。また、画素部の検知領域の設定は変えずに、動く被写体の撮影画角内での進入経路に応じて、デジタルカメラの撮影画角の向きを物理的に変えることで対応するようにしてもよい。
図9は、本実施形態におけるデジタルカメラ100の動作の一例を説明するためのタイミングチャートである。デジタルカメラ100の通常検知モードにおける画素ブロック250単位による読み出しタイミングを含めた1フレーム期間の動作のタイミングを示している。
タイミングT0において、イベントが検出されて検知モードが設定されたものとする。垂直走査回路211は、画素ブロック250の単位による読み出しとして、まず、列混合信号ADD4P_1,ADD2P_1、列選択制御信号ADD4P_SEL_1,ADD2P_SEL_1をオン状態として、ブロック単位による読み出しを開始させる。列混合信号ADD4P_1,ADD2P_1、列選択制御信号ADD4P_SEL_1,ADD2P_SEL_1をオン状態にすることにより、ブロック単位の信号が列出力線から出力されるようになる。
タイミングT0において、リセット信号RST_1、転送信号TX1_1,TX2_1,TX3_1,TX4_1をハイレベルに制御する。これにより、列混合信号ADD4P_1,ADD2P_1により接続状態となった16個のFD407−1〜407−16、およびブロック内の16個のフォトダイオード406−1〜406−16が電源電位にリセットされる。
タイミングT1において、リセット信号RST1_1、転送信号TX1_1,TX2_1,TX3_1,TX4_1がローレベルに復帰して、画素ブロック250単位の1行目に対する露光が開始される。
タイミングT2において、所定の露光時間後、垂直走査回路211は、画素ブロック250単位の1行目に対応する転送信号TX1_1,TX2_1,TX3_1,TX4_1をハイレベルに制御して、転送スイッチ405−1〜405−16をオン状態とする。そして、各フォトダイオード406−1〜406−16に蓄積された電荷を接続状態となったFD部407−1〜407−16に転送する。これにより電荷が混合されて画素ブロック250単位の露光が終了する。
FD部407−1〜407−16に転送された画素ブロック250単位の電荷は、ソースフォロアアンプ408−1において電圧信号として増幅され、画素出力として列出力線410−1から出力される。各列出力線410に出力された画素出力はAD変換回路212においてデジタル信号に変換さる。タイミングT3以降は、同様に順次画素ブロック250について行単位に露光および読み出しが行われることにより、全画素ブロック行(1ブロック行〜Nブロック行)の読み出しが完了する。
垂直同期信号VDによる1フレーム期間は、後述する通常撮影モードより遅いフレームレートである1/15秒に設定されている。全ブロック行の読み出しの完了とともに次の垂直同期信号VDまでの間のブランキング期間TBLK1に、画素からの読み出しの動作に係る全ての定電流源411やAD変換回路212の動作を停止する。これにより、1フレーム期間における平均電力を削減している。そして、各フレーム期間の読み出しは、垂直同期信号VDに同期して複数回に亘って実行される。
図10は、本実施形態のデジタルカメラ100の動作の一例を説明するためのタイミングチャートである。デジタルカメラ100の高解像検知モードにおける画素ブロック240単位での読み出しタイミング動作を含めた1フレーム期間のタイミング動作を示している。
タイミングT10において、イベントが検出されて検知モードが設定されたものとする。垂直走査回路211は、画素ブロック240単位による読み出しとして、まず、列混合信号ADD2P_1をオン状態として、画素ブロック240単位による読み出しを開始させる。列混合信号ADD2P_1、列選択制御信号ADD2P_SEL_1をオン状態にすることにより、画素ブロック240単位による出力が列信号線から出力されるようになる。
タイミングT10において、リセット信号RST_1、転送信号TX1_1,TX2_1をハイレベルに制御する。これにより、列混合信号ADD2P_1により接続状態となった4個のFD407−1,407−2,407−5,407−6、およびブロック内の4個のフォトダイオード406−1,406−2,406−5,406−6が電源電位にリセットされる。
タイミングT11において、リセット信号RST1_1、転送信号TX1_1,TX2_1がローレベルに復帰して、画素ブロック240単位の1行目に対する露光が開始される。
タイミングT12において、所定の露光時間後、垂直走査回路211は、画素ブロック240単位の1行目に対応する転送信号TX1_1,TX2_1をハイレベルに制御して転送スイッチ405−1,405−2,405−5,405−6をオン状態とする。そして、各フォトダイオード406−1,406−2,406−5,406−6に蓄積された電荷を接続状態となったFD407−1,407−2,407−5,407−6に転送する。これにより、電荷が混合されて画素ブロック240単位の露光が終了する。
FD部に転送されたブロック単位の電荷は、ソースフォロアアンプ408−1において電圧信号として増幅され、画素出力として列出力線410−1から出力される。各列出力線に出力された画素出力はAD変換回路212においてデジタル信号に変換される。
タイミングT13において、転送信号TX1_1,TX2_1がローレベルに復帰して画素ブロック240単位の1行目の読み出しが終了する。タイミングT11〜T13までの期間が、画素ブロック240単位での1行目の読み出し期間である。これは、画素ブロック250(全4画素行)の前半2画素行の部分に相当するので、ここでは、説明の便宜上、1_1ブロック行と表現する。
続いて、タイミングT14において、リセット信号RST_1、転送信号TX3_1,TX4_1をハイレベルに制御する。これにより、列混合信号ADD2P_1により接続状態となった4個のFD407−9,407−10,407−13,407−14、およびブロック内の4個のフォトダイオード406−9,406−10,406−13,406−14が電源電位にリセットされる。
タイミングT15において、リセット信号RST1_1、転送信号TX3_1,TX4_1がローレベルに復帰して、画素ブロック240単位の2行目に対する露光が開始される。
タイミングT16において、所定の露光時間後、垂直走査回路211は、画素ブロック240単位での2行目に対応する転送信号TX3_1,TX4_1をハイレベルに制御する。これにより、転送スイッチ405−9,405−10,405−13,405−14をオン状態とする。そして、各フォトダイオード406−9,406−10,406−13,406−14に蓄積された電荷を接続状態となったFD407−9,407−10,407−13,407−14に転送する。これにより電荷が混合されて画素ブロック240単位の露光が終了する。
FD部に転送されたブロック単位の電荷は、ソースフォロアアンプ408−1において電圧信号として増幅され、画素出力として列出力線410−1から出力される。各列出力線に出力された画素出力はAD変換回路212においてデジタル信号に変換される。
タイミングT17において、転送信号TX3_1,TX4_1がローレベルに復帰するとともに、列混合信号ADD2P_1、列選択制御信号ADD2P_SEL_1をオフ状態にして、画素ブロック240単位での2行目の読み出しが終了する。
タイミングT14〜T17までの期間が、画素ブロック240単位での2行目の読み出し期間である。これは、画素ブロック250(全4画素行)の後半2画素行の部分に相当するので、ここでは、説明の便宜上、1_2ブロック行と表現する。
タイミングT17以降は、タイミングT10〜T17と同様のタイミングと手順の繰り返しにより、順次、画素ブロック行単位で露光および読み出しが行われることにより、全ブロック行(1_1ブロック行〜N_2ブロック行)の読み出しが完了する。
垂直同期信号VDによる1フレーム期間は、後述する通常撮影モードより遅いフレームレートである1/15秒に設定されている。全ブロック行の読み出しの完了とともに次の垂直同期信号VDまでの間のブランキング期間TBLK2に、画素からの読み出しの動作に係る全ての定電流源411やAD変換回路212の動作を停止する。これにより、1フレーム期間における平均電力を削減している。そして、各フレーム期間の読み出しは、垂直同期信号VDに同期して複数回に亘って実行される。
なお、図10では説明を分かりやすくするために、全ブロック行を読み出す場合を示した。しかし、実際には、本実施形態での高解像検知モードにおいては、全ブロック行の読み出しは行わない。前述のブロック行単位のタイミング信号であるリセット信号RST、転送信号TX、混合信号ADD、ADD_SELを選択的に発生させることによって、1ブロック行〜Nブロック行のうちの特定のブロック行のみを選択的に読み出す。そうすることにより、イベント検知に用いられる画素ブロックの読み出し時間を短縮して、その分だけブランキング期間TBLK2を延ばし、1フレーム期間における平均電力を低減して一層の節電を行っている。図8で示した画素ブロック構成の場合には、Nブロック行(N_1ブロック行、N_2ブロック行)のみが読み出される。
図11は、デジタルカメラ100の動作の一例を示すタイミングチャートであり、通常撮影モードにおける1画素単位による読み出し出しタイミングを示している。タイミングT20において、イベントが検出されて撮影モードとして通常撮影モードが設定されたものとする。
垂直走査回路211は、画素行1行目の読み出し開始として行選択制御信号SEL_1をハイレベルにするとともに、リセット信号RST1_1を所定のパルス期間に旦ってハイレベルに制御する。
また、タイミングT20において、リセット信号RST1_1、転送信号TX1_1をハイレベルに制御する。これにより、画素1行目となるFD407−1およびフォトダイオード406−1が電源電位にリセットされる。またFD407−5、FD407−9、FD407−13は、FD407−1と各々結線されているため同様にリセットされる。
タイミングT21において、リセット信号RST1_1、転送信号TX1_1がローレベルに復帰して、画素行の1行目に対する露光が開始される。
タイミングT22において、所定の露光時間後、垂直走査回路211は、転送信号TX1_1をハイレベルに制御して転送スイッチ405−1をオン状態とする。そして、フォトダイオード406−1に蓄積された電荷がFD407−1,407−5,407−9,407−13に転送されて、画素単位の露光が終了する。
FD部に転送された電荷は、接続先となる各ソースフォロアアンプ408−1において電圧信号として増幅され、画素出力として各列の列出力線410から出力される。各列出力線に出力された画素出力は、各列のAD変換回路212においてデジタル信号に変換される。
タイミングT23において、転送信号TX1_1がローレベルに復帰して画素1行目の読み出しが終了する。タイミングT21〜T23までの期間が、画素1行目の読み出し期間である。これは、画素ブロック250(全4画素行)の最初の1画素行の部分に相当するので、ここでは、説明の便宜上、1_1ブロック行と表現する。
次に、タイミングT24からT27において、画素2行目の読み出し動作が行われる。垂直走査回路211は、画素行2行目の読み出し開始としてリセット信号RST1_1を所定のパルス期間に旦ってハイレベルに制御する。
また、タイミングT24において、リセット信号RST1_1とともに、転送信号TX2_1をハイレベルに制御する。これにより、画素2行目となるFD407−5およびフォトダイオード406−5が電源電位にリセットされる。また、FD407−1,FD407−9,FD407−13は、FD407−5と各々結線されているため、同様にリセットされる。
タイミングT25において、リセット信号RST1_1、転送信号TX2_1がローレベルに復帰して、画素行の2行目に対する露光が開始される。
タイミングT26において、所定の露光時間後、垂直走査回路211は、転送信号TX2_1をハイレベルに制御して転送スイッチ405−5をオン状態とする。そして、フォトダイオード406−5に蓄積された電荷はFD407−1,407−5,407−9,407−13に転送されて、画素単位の露光が終了する。
FD部に転送された電荷は、接続先となる各ソースフォロアアンプ408−1において電圧信号として増幅され、画素出力として各列の列出力線410から出力される。各列出力線に出力された画素出力は、各列のAD変換回路212においてデジタル信号に変換される。
タイミングT27において、転送信号TX2_1がローレベルに復帰して、画素2行目の読み出しが終了する。タイミングT24〜T27までの期間が、画素2行目の読み出し期間である。これは、画素ブロック250(全4画素行)の2番目の1画素行の部分に相当するので、ここでは、説明の便宜上、1_2ブロック行と表現する。
次に、タイミングT28からT31において、画素3行目の読み出し動作が行われる。垂直走査回路211は、画素行3行目の読み出し開始としてリセット信号RST1_1を所定のパルス期間に旦ってハイレベルに制御する。
また、タイミングT28において、リセット信号RST1_1、転送信号TX3_1をハイレベルに制御する。これにより、画素3行目となるFD407−9およびフォトダイオード406−9が電源電位にリセットされる。また、FD407−1,FD407−5,FD407−13は、FD407−9と各々結線されているため同様にリセットされる。
タイミングT29において、リセット信号RST1_1、転送信号TX3_1がローレベルに復帰して、画素行の3行目に対する露光が開始される。
タイミングT30において、所定の露光時間後、垂直走査回路211は、転送信号TX3_1をハイレベルに制御して転送スイッチ405−9をオン状態とし、フォトダイオード406−9に蓄積された電荷をFD407−1,407−5,407−9,407−13に転送して、画素単位の露光が終了する。
FD部に転送された電荷は、接続先となる各ソースフォロアアンプ408−1において電圧信号として増幅され、画素出力として各列の列出力線410から出力される。各列出力線に出力された画素出力は、各列のAD変換回路212によりデジタル信号に変換される。
タイミングT31において、転送信号TX3_1がローレベルに復帰して画素3行目の読み出しが終了する。タイミングT28〜T31までの期間が、画素3行目の読み出し期間である。これは、画素ブロック250(全4画素行)の3番目の1画素行の部分に相当するので、ここでは、説明の便宜上、1_3ブロック行と表現する。
次に、タイミングT32からT35において、画素4行目の読み出し動作が行われる。垂直走査回路211は、画素行4行目の読み出し開始としてリセット信号RST1_1を所定のパルス期間に旦ってハイレベルに制御する。
また、タイミングT32において、リセット信号RST1_1、転送信号TX4_1をハイレベルに制御する。これにより、画素3行目となるFD407−13およびフォトダイオード406−13が電源電位にリセットされる。またFD407−1,FD407−3,FD407−9は、FD407−13と各々結線されているため、同様にリセットされる。
タイミングT33において、リセット信号RST1_1、転送信号TX4_1がローレベルに復帰して、画素行の4行目に対する露光が開始される。
タイミングT34において、所定の露光時間後、垂直走査回路211は、転送信号TX4_1をハイレベルに制御して転送スイッチ405−13をオン状態とする。そして、フォトダイオード406−13に蓄積された電荷をFD407−1,407−5,407−9,407−13に転送して、画素単位の露光が終了する。
FD部に転送された電荷は、接続先となる各ソースフォロアアンプ408−1において電圧信号として増幅され、画素出力として各列の列出力線より出力される。各列出力線に出力された画素出力は、各列のAD変換回路によりデジタル信号に変換される。
タイミングT35において、転送信号TX4_1をローレベルに復帰するとともに、行選択制御信号SEL_1をオフ状態にして、画素4行目の読み出しが終了する。
タイミングT32〜T35までの期間が、画素4行目の読み出し期間である。これは、画素ブロック250(全4画素行)の4番目の1画素行の部分に相当するので、ここでは、説明の便宜上、1_4ブロック行と表現する。
以降は、同様に画素行単位で露光および読み出しが行われ、全(4×N)行分(1_1ブロック行〜N_4ブロック行)の読み出しが完了する。
図11の例では、通常の動画記録に適用できるように垂直同期信号VDによる1フレーム期間は1/60秒に設定されている。そして、全ブロック行の読み出しの完了とともに、次の垂直同期信号VDまでの間のブランキング期間TBLK3に、画素からの読み出しの動作に係る全ての定電流源411やAD変換回路212の動作を停止する。これにより、1フレーム期間における平均電力を削減している。また各フレーム期間の読み出しは、垂直同期信号VDに同期して複数回に亘って実行される。
図12は、本実施形態のデジタルカメラ100の動作の一例を示すタイミングチャートであり、簡易撮影モードにおける画素ブロック240単位による読み出しタイミング動作を含めた1フレーム期間のタイミングを示している。
図12の例では、読み出しに用いられる各制御信号のタイミングは、図10で示した高解像検知モードにおける画素ブロック240単位による読み出しタイミング動作を含めた1フレーム期間のタイミング動作とほとんど同様である。そのため各部のタイミング動作の説明は省略する。
ただし、図10で示した高解像検知モードでは、1ブロック行〜Nブロック行のうちの特定のブロック行のみを選択的に読み出す動作モードであったのに対して、図12で示した簡易撮影モードでは、全ブロック行を読み出す点において動作が異なる。そうすることにより、画素部220全体に対して2行×2列の画素ブロック単位で読み出して撮影画像を形成することができる。また、通常の動画記録に適用できるように垂直同期信号VDによる1フレーム期間は1/60秒に設定されている点においても動作が異なる。
図13は、通常検知モードにおける被写体検知の一例を模式的に示した説明図であり、通常検知モードでの検知に好適な被写体の場合を示している。
図13(a)は、画像部左端の上下の中央付近から検知ブロック領域(画像部全域)に、例えば撮影画角内に比較的至近距離で人物が進入してきた場合を示している。画素ブロック(4行×4列)よりも大きなサイズの被写体として複数の画素ブロックに亘ってイベント検知がなされる。その際のフレーム1、フレーム2間での被写体の動きを表現している。
図13(b)は、イベント検知がなされる際に、メモリ262に過去データとして保持されたフレーム1の画素ブロック毎の出力データの値と、直近で読み出されたフレーム2の画素ブロック毎の出力データの値を濃淡で模試的に表現した図である。また、図13(c)は、図13(b)で示したフレーム1とフレーム2の画素ブロック毎の出力データから、差分検出回路263において生成された、同じ画素ブロック毎での差分を濃淡で模試的に表現した図である。図13(c)では、差分の値が大きいほど濃く示されている。
図13の例では、進入してきた被写体が画像部左端の6画素ブロックの範囲で捉えられている。そして、図13(c)で差分が所定の閾値を超えている画素ブロックは、画像部左端の6画素ブロックA11,A12,A13,A21,A22,A23である。ここで、説明の便宜上、ブロック名称を示すAに続く最初の数字は列番号、2番目の数字は行番号を表している。
なお、図13(c)の出力データの値は、本来、図13(b)の出力データと同じになるとは限らない。しかし、ここでは説明を簡便化して、メモリ262に過去データとして保持されたフレーム1の画素ブロックA11,A12,A13,A21,A22,A23の出力データの値が、動く被写体が存在せず、ほぼダークレベルにある場合を示したものであるため、ほぼ同様の値となっている。
また、図14は、通常検知モードにおける被写体検知の一例を模式的に示した説明図であり、通常検知モードでの検知に適切でない被写体の場合を示している。
図14(a)は、画像部左端の上下の中央付近から検知ブロック領域(画像部全域)に、例えば撮影画角内に虫などのサイズの小さな被写体が進入してきた場合を示している。画素ブロック(4行×4列)よりも非常に小さなサイズの被写体として2つの画素ブロックに亘って検知のための撮像がなされる。その際のフレーム1、フレーム2間での被写体の動きを表現している。
図14(b)は、イベント検知がなされる際に、メモリ262に過去データとして保持されたフレーム1の画素ブロック毎の出力データの値と、直近で読み出されたフレーム2の画素ブロック毎の出力データの値を濃淡で模試的に表現した図である。図14(b)では、値が大きいほど濃く示されている。
図14(b)のフレーム1において、薄い濃度で表現された画像部左端の2画素ブロックA11,A12は、動く被写体の信号成分ではなく低照度時の暗部のランダムノイズ信号成分を示したものである。図14(b)のフレーム2において、進入してきた被写体が画像部左端の2画素ブロックの範囲で捉えられており、被写体が画素ブロック間で2分割される。しかも、画素ブロック(4行×4列)に比べて非常に小さなサイズの被写体であるため、画素ブロック単位での画素混合によって被写体の信号レベルがかなり薄められてしまっている。そのため、2画素ブロックA11,A12の出力データは、それぞれ非常に小さな値となる。
その結果、図14(c)で差分出力により得られた2画素ブロックA11,A12の出力データの値も、それぞれ非常に小さな値となり所定の閾値を超えることなく被写体としてイベント検知されない。ちなみに、判定時の閾値を下げることでイベント検知の検出感度は増すが、差分出力に含まれる暗部のランダムノイズ信号成分も検知されやすくなり誤検出も発生しやすくなる。そのため、適正な閾値の範囲は、イベント検知の精度との兼ね合いで決定されており、安易に下げることはできない。
図15は、高解像検知モードにおける被写体検知の一例を模式的に示した説明図であり、高解像検知モードでの検知に好適な被写体の場合を示している。
図15(a)は、画像部下端の左右の中央付近から検知ブロック領域(画像部下端2ブロック行)に、例えばロケット花火のような飛翔体が遠方で打ち上げられて進入した場合を示している。この場合、画素ブロック(2行×2列)と同じか幾分小さなサイズの被写体として1つの画素ブロックでイベント検知がなされる。その際のフレーム1、フレーム2間での被写体の動きを表現している。
図15(b)は、イベント検知がなされた際に、メモリ262に過去データとして保持されたフレーム1の画素ブロック毎の出力データの値と、直近で読み出されたフレーム2の画素ブロック毎の出力データの値を濃淡で模試的に表現した図である。また、図15(c)は、図15(b)で示したフレーム1とフレーム2の画素ブロック毎の出力データから、差分検出回路263において生成された、同じ画素ブロック毎での差分を濃淡で模試的に表現した図である。図15(c)では、差分の値が大きいほど濃く示されている。
図15の例では、進入してきた被写体が画像部下端の1画素ブロックの範囲で捉えられており、図15(c)において、差分が所定の閾値を超えて検知された画素ブロックは画像部下端の1画素ブロックB22である。ここでは、図13での説明と同様に、説明の便宜上、ブロック名称を示すBに続く最初の数字は列番号、2番目の数字は行番号を表している。
なお、図15(c)の出力データの値は、本来、図15(b)と同じになるとは限らない。しかし、ここでは説明を簡便化して、メモリ262に過去データとして保持されたフレーム1の画素ブロックB11,B12,B13,B21,B22,B23の出力データの値が、被写体が存在せず、ほぼダークレベルにある場合を示したものであるため、ほぼ同様の値となっている。
また、図16は、高解像検知モードにおける被写体検知の一例を模式的に示した説明図であり、高解像検知モードでの検知に適切でない被写体の場合を示している。
図16(a)は、画像部下端の左右の中央付近から検知ブロック領域(画像部下端2ブロック行)に、例えば撮影画角内に気球(バルーン)のような飛翔体が比較的至近距離で打ち上げられて進入した場合を示している。画素ブロック(2行×2列)に比べて非常に大きなサイズの被写体として検知ブロック領域でイベント検知がなされる。その際のフレーム1、フレーム2間での被写体の動きを表現している。
図16(b)は、イベント検知がなされた際に、メモリ262に過去データとして保持されたフレーム1の画素ブロック毎の出力データの値と、直近で読み出されたフレーム2の画素ブロック毎の出力データの値を濃淡で模試的に表現した図である。また、図16(c)は、図16(b)で示したフレーム1とフレーム2の画素ブロック毎の出力データから、差分検出回路263において生成された、同じ画素ブロック毎での差分を濃淡で模試的に表現した図である。図16(b)では、値が大きいほど濃く示されている。
図16(b)のフレーム1では、検知ブロック領域(画像部下端2ブロック行)の範囲に動く被写体が存在しない状態にある。次に、フレーム2において撮影画角内に進入してきた気球が至近距離で画像部に進入する。この場合、被写体サイズが大きく撮影画角内の移動速度も速いため、容易に検知ブロック領域(画像部下端2ブロック行)を飛び越して非検知領域に入ってしまう。
その結果、図16(c)で差分出力により所定の閾値を超えて検知された画素ブロックは検知領域内には存在しないこととなり、フレーム2において撮影画角内に被写体が進入してきたにもかかわらず、イベント検知がなされない。
なお、図16(c)の出力データの値は、本来、図16(b)と同じになるとは限らない。しかし、ここでは説明を簡便化して、メモリ262に過去データとして保持されたフレーム1の画素ブロックB11,B12,B13,B21,B22,B23の出力データの値が、被写体が存在せず、ほぼダークレベルにある場合を示したものであるため、ほぼ同様の値となっている。
このように、通常検知モードと高解像検知モードとでは、至近か遠方かの撮影距離に依存して変わる撮影画角内の被写体のサイズによって、被写体検出の得手、不得手が相反する関係にある。すなわち、通常検知モードではサイズの大きな被写体の動きをイベントとして検出し易く、反対に、高解像検知モードではサイズの小さな被写体の動きをイベントとして検出し易いという性質がある。
そこで、通常検知モードと高解像検知モードとを使い分けることにより、撮影画角内に進入してくる被写体のサイズに依らずに被写体検出の精度を高めることができる。また、通常検知モードではサイズの大きな被写体を検出し易く、反対に、高解像検知モードではサイズの小さな被写体を検出し易いという性質を利用すれば、イベント検出後に移行する撮影モードに好適な解像度を選択することも可能である。
図17は、本実施形態のデジタルカメラ100の動作の一例を示すフローチャートである。
電源スイッチによりデジタルカメラ100が起動されると、S101において、制御回路103は撮像素子200に対し検知モード動作の許可制御を行い、高解像検知モードに移行する。
S102では、高解像検知モードにおいて、撮像素子200内の画素ブロック毎に画素混合されて取得された出力データをメモリ262に一時保持する。
S103では、得られた画素ブロック毎の画素混合出力データが動作開始後の1枚目のデータであるか否かが判定される。1枚目であれば、被写体変化検出のための過去データとの差分が得られないため、S102に戻り、次の撮影動作を続ける。また、既に2枚目以降の動作であれば、S104へ進む。
S104では、画素ブロック毎に混合された出力について、メモリ262に一保持されている過去データとの差分データを作成する。
S105では、得られた差分データが、被写体変化を検出する閾値である、所定閾値以上であるか否かを判断する。差分が所定値以上である画素ブロック数をカウントし、カウントなし(=0)であれば、変化検出のイベントなしとして、S110に進む。また、カウントが計数されていれば(>0)、イベントが検出されたとして、S106に進む。
S110では、制御回路103が撮像素子200に対し通常検知モード動作の許可制御を行い、通常検知モードに移行する。S106では、制御回路103が撮像素子200に対し通常撮影モード動作の許可制御を行い、通常撮影モード(記録用の画像を撮影するモード)に移行する。
S107では、通常撮影モードにおける1画素単位の画像データの取得を行い、この際に、最初の1フレーム目の場合のみ2フレーム分の画像データを取得する。
S108では、動体検知回路110を介して、取得した画像データのフレーム間の差分信号から被写体の動きの有無を検出し、被写体の動きの有無を判断する。動きが有れば、S107に戻って画像データの取得を繰り返す。動きが無ければ、通常撮影モードを終了し、S109に進む。
S109では、制御回路103は、電源スイッチの状態検出を行う。電源OFFでなければ、S101に戻って、再び高解像検知モードに移行し、S101〜S109の動作を繰り返す。一方、電源OFFであれば、一連の動作フローを終了する。
一方、S105からステップS110に進んだ場合は、制御回路103が撮像素子200に対し通常検知モードに移行する許可制御を行う。
S111では、通常検知モードにおいて、撮像素子内の画素ブロック毎で画素混合された出力データを取得し、メモリ262に一時保持する。
S112では、得られた画素ブロック毎の画素混合出力データが動作開始後1枚目であるか否かを判断する。動作開始後1枚目であれば、被写体変化検出のための過去データとの差分が得られないため、S111に戻り次の撮影動作を続ける。また、既に2枚目以降の動作であれば、S113に進む。
S113では、画素ブロック毎の画素混合出力データについて、メモリ262に一保持されている過去データとの差分データを作成する。
ステップS114では、得られた差分データが、被写体変化を検出する閾値である、所定閾値以上であるか否かを判断する。差分データが所定値以上である画素ブロック数をカウントし、カウントなし(=0)であれば、変化検出のイベントなしとして、ステップS101に戻って、再び、高解像検知モードに移行して一連の動作を繰り返す。つまり、高解像検知モードと通常検知モードを交互に繰り返す。また、カウントが計数されていれば(>0)、イベントが検出されたとして、S115に進む。S115では、制御回路103が撮像素子200に対し簡易撮影モードの許可制御を行い、簡易撮影モードに移行する。
S116では、簡易撮影モードにおける2行×2列の画素単位の画像データの取得を行い、この際に、最初の1フレーム目の場合のみ2フレーム分の画像データを取得する。
S117では、動体検知回路110を介して、取得した画像データのフレーム間の差分信号から被写体の動きの有無を検出し、被写体の動きの有無を判断する。動きが有れば、S116に戻って画像データの取得を繰り返す。動きが無ければ、簡易撮影モードを終了し、S118に進む。
S118では、制御回路103は、電源スイッチの状態検出を行う。電源OFFでなければ、ステップS110に戻って、再び通常検知モードに移行し、一連の動作フローを繰り返す。電源OFFであれば、一連の動作フローを終了する。
(第2の実施形態)
この第2の実施形態では、デジタルカメラ100の構成は、図1及び図2に示した第1の実施形態の構成と同様であるため、説明を省略する。
図18は、第2の実施形態におけるデジタルカメラ100の動作の一例を示すフローチャートである。
電源スイッチによりデジタルカメラ100が起動されると、S201において、制御回路103は撮像素子200に対し検知モード動作の許可制御を行い、高解像検知モードに移行する。
S202では、高解像検知モードにおいて、撮像素子200内の画素ブロック毎に画素の出力が混合されて取得された出力データをメモリ262に一時保持する。
S203では、得られた画素ブロック毎の画素混合出力データが動作開始後の1枚目のデータであるか否かが判定される。1枚目であれば、被写体変化検出のための過去データとの差分が得られないため、S202に戻り、次の撮影動作を続ける。また、既に2枚目以降の動作であれば、S204へ進む。
S204では、画素ブロック毎に混合された出力について、メモリ262に一保持されている過去データとの差分データを作成する。
S205では、得られた差分データについて、被写体変化の検出された画素ブロック数をカウントし、カウント値NB1をメモリ262に一時保持する。S206では、制御回路103が撮像素子200に対し通常検知モード動作の許可制御を行い、通常検知モードに移行する。
S206では、通常検知モードに移行し、S207では、撮像素子200内の画素ブロック毎で画素混合された出力データを取得し、メモリ262に一時保持する。
S208では、得られた画素ブロック毎の画素混合出力データが動作開始後の1枚目のデータであるか否かが判定される。1枚目であれば、被写体変化検出のための過去データとの差分が得られないため、S207に戻り、次の撮影動作を続ける。また、既に2枚目以降の動作であれば、S209へ進む。
S209では、画素ブロック毎の画素混合出力データについて、メモリ262に一時保持されている過去データとの差分データを作成する。S210では、得られた差分データについて、被写体変化の検出された画素ブロック数をカウントし、カウント値NB2をメモリ262に一時保持する。
S211では、メモリ262に一時保持されているカウント値NB1およびNB2を読み出して、高解像検知モード、通常検知モードの両方でイベント検出なしか否かを判定する。両方でイベント検出なし(NB1=0かつNB2=0)の場合には、S201に戻り、再び高解像検知モードに移行して、一連の動作フローを繰り返す。
イベント検出無し(NB1=0かつNB2=0)ではない場合は、S212において、高解像検知モードでのカウント値NB1と通常検知モードでのカウント値NB2の大小を比較する。NB1のカウント値が大きければ、S213に進み、そうでなければS217に進む。
S213では、制御回路103が撮像素子200に対し通常撮影モード動作の許可制御を行い、通常撮影モードに移行する。ステップS214では、通常撮影モードにおける1画素単位の画像データの取得を行い、この際に、最初の1フレーム目の場合のみ2フレーム分の画像データを取得する。
S215では、動体検知回路110を介して、取得した画像データのフレーム間の差分信号から被写体の動きの有無を検出し、被写体の動きの有無を判断する。動きが有れば、ステップS214に戻って画像データの取得を繰り返す。動きが無ければ、通常撮影モードを終了し、ステップS216に進む。
S217では、制御回路103が撮像素子200に対し簡易撮影モード動作の許可制御を行い、簡易撮影モードに移行する。
S218では、簡易撮影モードにおける2行×2列の画素単位の画像データの取得を行い、この際に、最初の1フレーム目の場合のみ2フレーム分の画像データを取得する。
S219では、動体検知回路110を介して、取得した画像データのフレーム間の差分信号から被写体の動きの有無を検出し、被写体の動きの有無を判断する。動きが有れば、ステップS218に戻って画像データの取得を繰り返す。動きが無ければ、簡易撮影モードを終了し、ステップS216に進む。
S216では、制御回路103は、電源スイッチの状態検出を行う。電源OFFでなければ、ステップS210に戻って、再び高解像検知モードに移行し、一連の動作フローを繰り返す。電源OFFであれば、一連の動作フローを終了する。
上記の実施形態では、高解像検知モードでのカウント値NB1と通常検知モードでのカウント値NB2との大小関係を単純に比較して、撮影モードの読み出しの解像度を切り替えている。しかしながら、それぞれの検知モードにおけるブロックサイズや検知領域のブロック数を勘案して、一方に所定量を加重した後に大小関係の比較を行ってもよい。
このように、通常検知モードと高解像検知モードを使い分けてイベント検出を行うことにより、被写体のサイズに依らずに被写体検出の確度を高めることができる。また、通常検知モードと高解像検知モードのイベント検出結果に応じて、検出後の撮影モードとして、解像度の高い通常撮影モードと、解像度の低い簡易撮影モードとを切り替える。これにより、撮影モードにおける消費電力を抑えつつ、必要十分な描写が得られる撮影画像を得ることができる。
なお、本実施形態では、検知モードや撮影モードのフレームレートを固定値(15fps、60fps)として設定しているが、撮影条件や、ユーザーの意図により変えるようにしてもよい。
また、撮像素子にカラーフィルタ等が配され、色別の画素出力となる場合においては、同色の出力画素が配される行または列によって同色の画素混合とするようにしてもよい。
また、画素混合により出力画素数を少なくする以外に、読み出す画素行または列を間引いて読み出すようにしてもよい。
また、被写体の変化を検出する検知モードにおいて、画素混合した画素ブロック毎の出力から検出を行っているが、画素ブロック内の画素を所定間隔に間引いてさらに画素混合したものから検出してもよい。
(他の実施形態)
また本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現できる。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現できる。
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
100:デジタルカメラ、101:撮像レンズ、102:画像処理回路、103:制御回路、104:メモリ回路、110:動体検知回路、200:撮像素子、214:イベント検出部、216:モード制御部、220:画素部

Claims (17)

  1. 複数の画素が配置された画素部を有する撮像手段と、
    前記画素部を複数の第1の分割領域に分割し、前記第1の分割領域ごとに、画素数を減らして得られた信号に基づいて被写体を検出する第1の検知モードと、前記画素部を前記第1の分割領域とは大きさが異なる複数の第2の分割領域に分割し、前記第2の分割領域ごとに画素数を減らして得られた信号に基づいて被写体を検出する第2の検知モードとを切り替える制御手段と、を備え、
    前記制御手段は、前記第1の検知モードと前記第2の検知モードの少なくとも一方により被写体が検出された場合に、前記撮像手段に記録用の画像の撮像動作を行わせることを特徴とする撮像装置。
  2. 前記第1の分割領域は、前記第2の分割領域よりも大きいことを特徴とする請求項1に記載の撮像装置。
  3. 前記第1の検知モードでは、前記画素部の全体における前記第1の分割領域からの信号に基づいて被写体を検出することを特徴とする請求項1または2に記載の撮像装置。
  4. 前記第2の検知モードでは、前記画素部のうちの一部の前記第2の分割領域からの信号に基づいて被写体を検出することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 前記一部の前記第2の分割領域は、前記画素部の外周部の前記第2の分割領域を含むことを特徴とする請求項4に記載の撮像装置。
  6. 前記第1の検知モードでは、前記第1の分割領域の内部に配置された画素の信号を混合した信号に基づいて被写体を検出することを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  7. 前記第2の検知モードでは、前記第2の分割領域の内部に配置された画素の信号を混合した信号に基づいて被写体を検出することを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。
  8. 前記第1の検知モードでは、前記第1の分割領域の内部に配置された画素の信号を間引いた信号に基づいて被写体を検出することを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  9. 前記第2の検知モードでは、前記第2の分割領域の内部に配置された画素の信号を間引いた信号に基づいて被写体を検出することを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  10. 前記第1の検知モードで被写体が検出された場合に、前記制御手段は、前記撮像手段に、前記撮像動作として、画素数を減らした第1の撮像動作を行わせることを特徴とする請求項1乃至9のいずれか1項に記載の撮像装置。
  11. 前記第1の撮像動作は、前記撮像手段から、前記第2の分割領域に配置された画素の信号を混合した信号または間引いた信号を画像信号として出力させる動作であることを特徴とする請求項10に記載の撮像装置。
  12. 前記第2の検知モードで被写体が検出された場合に、前記制御手段は、前記撮像手段に、前記撮像動作として、前記第1の撮像動作よりも解像度の高い第2の撮像動作を行わせることを特徴とする請求項10または11に記載の撮像装置。
  13. 前記第2の撮像動作は、前記撮像手段から1画素単位の画素信号を画像信号として出力させる動作であることを特徴とする請求項12に記載の撮像装置。
  14. 前記第1の検知モードでは、前記撮像手段で過去に得られた前記第1の分割領域からの信号と、それに対応する前記第1の分割領域で新たに得られた信号との差に基づいて被写体を検出することを特徴とする請求項1乃至13のいずれか1項に記載の撮像装置。
  15. 前記第2の検知モードでは、前記撮像手段で過去に得られた前記第2の分割領域からの信号と、それに対応する前記第2の分割領域で新たに得られた信号との差に基づいて被写体を検出することを特徴とする請求項1乃至14のいずれか1項に記載の撮像装置。
  16. 前記制御手段は、前記第1の検知モードと、前記第2の検知モードとを交互に切り替えることを特徴とする請求項1乃至15のいずれか1項に記載の撮像装置。
  17. 複数の画素が配置された画素部を有する撮像手段を備える撮像装置を制御する方法であって、
    前記画素部を複数の第1の分割領域に分割し、前記第1の分割領域ごとに、画素数を減らして得られた信号に基づいて被写体を検出する第1の検知モードと、前記画素部を前記第1の分割領域とは大きさが異なる複数の第2の分割領域に分割し、前記第2の分割領域ごとに画素数を減らして得られた信号に基づいて被写体を検出する第2の検知モードとを切り替える制御工程を有し、
    前記制御工程では、前記第1の検知モードと前記第2の検知モードの少なくとも一方により被写体が検出された場合に、前記撮像手段に記録用の画像の撮像動作を行わせることを特徴とする撮像装置の制御方法。
JP2019163272A 2019-09-06 2019-09-06 撮像装置及びその制御方法 Active JP7410675B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019163272A JP7410675B2 (ja) 2019-09-06 2019-09-06 撮像装置及びその制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019163272A JP7410675B2 (ja) 2019-09-06 2019-09-06 撮像装置及びその制御方法

Publications (2)

Publication Number Publication Date
JP2021044623A true JP2021044623A (ja) 2021-03-18
JP7410675B2 JP7410675B2 (ja) 2024-01-10

Family

ID=74864316

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019163272A Active JP7410675B2 (ja) 2019-09-06 2019-09-06 撮像装置及びその制御方法

Country Status (1)

Country Link
JP (1) JP7410675B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023058669A1 (ja) * 2021-10-08 2023-04-13 ソニーセミコンダクタソリューションズ株式会社 画像センサ、データ処理装置、および画像センサシステム
US11838668B2 (en) 2021-04-28 2023-12-05 Canon Kabushiki Kaisha Photoelectric conversion device
WO2024034271A1 (ja) * 2022-08-08 2024-02-15 ソニーセミコンダクタソリューションズ株式会社 光検出素子及び電子機器

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08331549A (ja) * 1995-05-29 1996-12-13 Olympus Optical Co Ltd 画像取扱装置
JP2003163827A (ja) * 2001-11-22 2003-06-06 Minolta Co Ltd 被写体抽出装置及び撮影装置
JP2010074584A (ja) * 2008-09-19 2010-04-02 Sony Corp 撮像装置および撮像方法
JP2013148975A (ja) * 2012-01-17 2013-08-01 Denso Corp 車両周辺監視装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08331549A (ja) * 1995-05-29 1996-12-13 Olympus Optical Co Ltd 画像取扱装置
JP2003163827A (ja) * 2001-11-22 2003-06-06 Minolta Co Ltd 被写体抽出装置及び撮影装置
JP2010074584A (ja) * 2008-09-19 2010-04-02 Sony Corp 撮像装置および撮像方法
JP2013148975A (ja) * 2012-01-17 2013-08-01 Denso Corp 車両周辺監視装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11838668B2 (en) 2021-04-28 2023-12-05 Canon Kabushiki Kaisha Photoelectric conversion device
WO2023058669A1 (ja) * 2021-10-08 2023-04-13 ソニーセミコンダクタソリューションズ株式会社 画像センサ、データ処理装置、および画像センサシステム
WO2024034271A1 (ja) * 2022-08-08 2024-02-15 ソニーセミコンダクタソリューションズ株式会社 光検出素子及び電子機器

Also Published As

Publication number Publication date
JP7410675B2 (ja) 2024-01-10

Similar Documents

Publication Publication Date Title
US20190052788A1 (en) Varying exposure time of pixels in photo sensor using motion prediction
US20070076269A1 (en) Imaging unit and image sensor
US7907193B2 (en) Image capturing apparatus
US9438836B2 (en) Solid-state image sensor and image sensing system with different charge accumulation periods
JP7410675B2 (ja) 撮像装置及びその制御方法
US10965890B2 (en) Imaging device and imaging system
US20150358566A1 (en) Image capturing apparatus and method for controlling the same
US20100053397A1 (en) Imaging apparatus
KR20210114290A (ko) 이미지 센서 및 이를 포함하는 촬영 장치
US8300122B2 (en) Solid-state imaging device, camera system, and signal reading method
JP2009089087A (ja) 固体撮像装置及び撮像装置
KR20160015712A (ko) 이미지 촬상 장치 및 방법
US11412168B2 (en) Imaging element and method of controlling the same, and imaging device
JP2005109993A (ja) 撮影装置
WO2021014867A1 (ja) 撮像装置およびその制御方法
JP7457473B2 (ja) 撮像装置及びその制御方法
JP7325211B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2008160438A (ja) 固体撮像装置
EP3445037B1 (en) Varying exposure time of pixels in photo sensor using motion prediction
JP5072466B2 (ja) 撮像装置
WO2020203799A1 (ja) 撮像素子、及び、撮像装置
JP2009212603A (ja) 撮像装置、及び撮像装置の制御方法
JP2009124239A (ja) 撮像装置及びそのフリッカ検出方法
JP2008092477A (ja) 光電変換装置及びその制御方法並びに撮像装置
JP2021027485A (ja) 撮像素子及びその制御方法、撮像装置

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220826

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230612

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230822

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231222

R151 Written notification of patent or utility model registration

Ref document number: 7410675

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151