JP2007243909A - 撮像方法及び撮像装置 - Google Patents

撮像方法及び撮像装置 Download PDF

Info

Publication number
JP2007243909A
JP2007243909A JP2006233026A JP2006233026A JP2007243909A JP 2007243909 A JP2007243909 A JP 2007243909A JP 2006233026 A JP2006233026 A JP 2006233026A JP 2006233026 A JP2006233026 A JP 2006233026A JP 2007243909 A JP2007243909 A JP 2007243909A
Authority
JP
Japan
Prior art keywords
imaging
area
pixel
photoelectric conversion
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006233026A
Other languages
English (en)
Other versions
JP4816336B2 (ja
Inventor
Mariko Fukushima
麻梨子 福島
Hiroyuki Miyahara
弘之 宮原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP2006233026A priority Critical patent/JP4816336B2/ja
Priority to US11/702,098 priority patent/US7728900B2/en
Publication of JP2007243909A publication Critical patent/JP2007243909A/ja
Application granted granted Critical
Publication of JP4816336B2 publication Critical patent/JP4816336B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/907Television signal recording using static stores, e.g. storage tubes or semiconductor memories
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】高精細撮像素子を全画素読み出し時に必要な駆動周波数よりも全体として低い駆動周波数によって駆動すると共に、画像全体は低解像度の画像でありながら撮像対象の被写体部分は高解像度の画像とした一系統の動画像として出力する撮像装置を実現する。
【解決手段】制御部18は、撮像素子13で撮影される高精細画像を高解像度領域と低解像度領域とに複数区分し、複数区分された高解像度領域と低解像度領域を合わせた全体画素群が所定の毎秒フレーム数で読み出し可能な画素群数となるようにした補正画像を生成すると共に、補正画像の画素群数を計測し、計測した補正画像の画素群数が所定の毎秒フレーム数で読み出し可能な画素群数であるか否かを調べ、補正画像の画素群数が所定の毎秒フレーム数で読み出される画素群数である場合には、補正画像の画素群数に基づいて撮影された画像を撮像素子13から出力させる。
【選択図】図1

Description

本発明は撮像方法及び撮像装置に係り、特に高精細撮像素子や超高精細撮像素子を用いて撮像した高解像度画像信号を高解像度領域と低解像度領域とに複数区分し、所定のデータ出力周波数で読み出せるようにした撮像方法及び撮像装置に関する。
最近になり、HDTV(high definition television)放送方式以上の超高精細画像を撮影可能な超高精細撮像素子が開発されるようになってきた。一方、例えば、水平方向1920画素、垂直方向1080画素のHDTV用の高精細撮像素子で撮像された高精細画像を1フレームの期間内(1/30秒)で全画素出力するためには、少なくとも74MHzの駆動周波数が必要である。HDTV画像以上の画素数を有する超高精細撮像素子の全画素を1フレームの期間内で出力する場合は、更に高い駆動周波数が必要である。しかし、駆動周波数が高くなると、撮像素子駆動用クロック回路、及び信号処理回路の電力が増加すると共に、信号処理回路のゲート数が増加するため、撮像素子で撮影した高精細画像を低い駆動周波数で簡易に出力させることのできる撮像装置を実現できることは好ましい。
そこで、従来から撮像素子で撮影した高精細画像を低解像度の全体画像と高解像度の部分画像とに領域分けし、両者の画像を毎秒30枚出力可能とする映像入力装置が知られている(例えば、特許文献1参照)。この特許文献1記載の映像入力装置では、複数の受光素子を高密度に配置した高解像度の固体撮像素子から、低解像度全体画像走査出力部が解像度を落とした画像全体の読出し走査により低解像度の全体画像データを出力させ、高解像度部分画像走査部が高解像度を保持した小画面の部分画像データを出力させる。そして、上記の低解像度の全体画像データと高解像度の部分画像データとを切替部により毎秒30枚のフレーム周期内で切り替えて、ビデオレート以上の速度で低解像度の全体画像データと高解像度の部分画像データとを順次出力させる。また、撮像装置内の画像切出し処理部が低解像度の全体画像データに基づいて、次フレームにおける高解像度の部分画像データの切出し位置を自動的に決定して高解像度部分画像走査部に指示する。
特開2004−180240号公報
しかしながら、特許文献1に開示されている映像入力装置では、全体として低い駆動周波数によって高解像度撮像素子で撮像された画像から低解像度の全体画像データと小画面の高解像度の部分画像データとを出力させることはできるものの、画素毎に低解像度用と高解像度用それぞれ専用の出力線が必要であり、また、低解像度の全体画像データと高解像度の部分画像データの出力/読み出しの切換部も必要であるため、装置に専用の構造が必要となる。
また、上記の映像入力装置では、低解像度用のフィルタ処理(加算/平均)回路から出力された低解像度の画像データと、高解像度回路から出力された高解像度の画像データとを一画面に一枚の絵として表示するために、被写体画像の如何に拘らず低解像度画像表示エリアと高解像度画像表示エリアの計2つのエリアに分離して表示するため、被写体によってはエリアの境界が際立って見えるという問題がある。また、解像度の選択が低解像度1種類と高解像度1種類の計2種類しか得られず、画面内の解像度をなだらかに変化させたり、複数の画像領域に異なる解像度の画像を表示させるなどの変化に富んだ画像データを出力することができない。
なお、撮像素子の駆動周波数を低減するための他の方法として、撮像素子がCMOSイメージセンサの場合は全画素を読み出すのではなく、例えば1画素おき、あるいは4画素おきなど、間引いて読み出す方法がある。4画素おきに読み出した場合は、全画素を読み出す場合に比べて駆動周波数を1/4にすることができるが、全体的に画素数が少なくなるために、表示される画像全体が粗くなるなどの画質劣化が問題となる。特に、撮像領域を常に一定の間隔で間引くことは、一画面内の表示あるいは記録したい画像の中の画素も減少するため、画質が劣化する。
本発明は以上の点に鑑みなされたもので、専用の出力線や切換部を有しない汎用の構造の撮像素子から同一時間で撮像して得た撮像信号から複数の解像度の画像領域と、高解像度とした所望の画像領域とを有する一系統の画像信号を、所定の低駆動周波数で出力することを可能とする撮像方法及び撮像装置を提供することを目的とする。
また、本発明の他の目的は、一画面の画像領域を2以上の領域に分割したとき、各分割画像領域毎にその表示画像の解像度を所望の解像度に簡単に設定し得ると共に、重み付けが変化している画像領域の境界が目立たない2以上の解像度の選択を行い得る撮像方法及び撮像装置を提供することにある。
上記の目的を達成するため、第1の発明は、マトリクス状に2次元配列された複数の光電変換画素領域を撮像領域に有するランダムアクセス可能な撮像素子の、撮像領域の全光電変換画素領域のうち選択した2以上の光電変換画素領域から画素信号を読み出して撮像信号を得る撮像方法であって、撮像領域をN個(Nは1以上の任意の自然数)の分割画像領域に分割すると共に、分割画像領域毎に、選択した検出方法により撮像素子の撮像情報から得た検出情報に応じて、その分割画像領域内の全光電変換画素領域数に対する信号を読み出す読み出し光電変換画素領域数の割合を示す重み付けの割合を設定したパターンを作成する第1のステップと、パターンに従って撮像素子を駆動する第2のステップと、撮像領域内の読み出し光電変換画素領域から読み出された第1の画素信号に基づいて、撮像領域内の読み出しが行われない光電変換画素領域の第2の画素信号を補間生成する第3のステップと、第1の画素信号と第2の画素信号とを合成して所定フレームレートで撮像信号を出力する第4のステップとを含むことを特徴とする。
上記の目的を達成するため、第2の発明は、選択した検出方法により撮像素子の撮像情報から得た検出情報を取得する第1のステップと、撮像領域を分割して得たN個(Nは1以上の任意の自然数)の分割画像領域内の全光電変換画素領域数に対する信号を読み出す読み出し光電変換画素領域数の割合を示す重み付けの割合を設定した複数のパターンが、検出情報毎に作成されて予め記憶されている記憶装置を、第1のステップで分割画像領域毎に取得した検出情報に基づいて参照して、記憶されている複数のパターンから最も近似した一のパターンを選択する第2のステップと、第2のステップにより選択されたパターンに従って撮像素子を駆動する第3のステップと、撮像領域内の読み出し光電変換画素領域から読み出された第1の画素信号に基づいて、撮像領域内の読み出しが行われない光電変換画素領域の第2の画素信号を補間生成する第4のステップと、第1の画素信号と第2の画素信号とを合成して所定フレームレートで撮像信号を出力する第5のステップとを含むことを特徴とする。
また、上記の目的を達成するため、第3の発明は、マトリクス状に2次元配列された複数の光電変換画素領域を撮像領域に有するランダムアクセス可能な撮像素子と、選択した検出方法により撮像素子の撮像情報から得た検出情報に応じて、撮像領域をN個(Nは1以上の任意の自然数)の分割画像領域に分割すると共に、分割画像領域毎に、その分割画像領域内の全光電変換画素領域数に対する信号を読み出す読み出し光電変換画素領域数の割合を示す重み付けの割合を設定したパターンを作成するパターン作成手段と、パターンに従って撮像素子を駆動する駆動手段と、撮像領域内の読み出し光電変換画素領域から読み出された第1の画素信号に基づいて、撮像領域内の読み出しが行われない光電変換画素領域の第2の画素信号を補間生成する補間手段と、第1の画素信号と第2の画素信号とを合成して所定フレームレートで撮像信号を生成し、パターン作成手段に供給する画像形成手段とを有することを特徴とする。
また、上記の目的を達成するため、第4の発明は、マトリクス状に2次元配列された複数の光電変換画素領域を撮像領域に有するランダムアクセス可能な撮像素子と、選択した検出方法により撮像素子の撮像情報から得た検出情報を取得する検出情報取得手段と、撮像領域を分割して得たN個(Nは1以上の任意の自然数)の分割画像領域内の全光電変換画素領域数に対する信号を読み出す読み出し光電変換画素領域数の割合を示す重み付けの割合を設定した複数のパターンが、検出情報毎に作成されて予め記憶されている記憶装置と、分割画像領域毎に取得した検出情報に基づいて記憶装置を参照して、その記憶装置に記憶されている複数のパターンから最も近似した一のパターンを選択する選択手段と、選択されたパターンに従って撮像素子を駆動する駆動手段と、撮像領域内の読み出し光電変換画素領域から読み出された第1の画素信号に基づいて、撮像領域内の読み出しが行われない光電変換画素領域の第2の画素信号を補間生成する補間手段と、第1の画素信号と第2の画素信号とを合成して所定フレームレートで撮像信号を出力する画像形成手段とを有することを特徴とする。
第1及び第3の発明では、分割画像領域毎に、選択した検出方法により撮像素子の撮像情報から得た検出情報に応じて、その分割画像領域内の全光電変換画素領域数に対する信号を読み出す読み出し光電変換画素領域数の割合を示す重み付けの割合を設定したパターンを作成し、その作成パターンに従って撮像素子を駆動するようにしたため、選択した検出方法に応じて作成したパターンにより、撮影対象のうち高解像度が必要な分割画像領域と、高解像度を必要としない分割画像領域に対して最適な重み付けの画素読み出しができる。
また、第2及び第4の発明では、重み付けの割合を設定した複数のパターンが、検出情報毎に作成されて予め記憶されている記憶装置を、分割画像領域毎に取得した検出情報に基づいて参照して、その記憶装置に記憶されている複数のパターンから最も近似した一のパターンを選択するようにしたため、検出情報に応じて撮影対象のうち高解像度の分割画像領域と、互いに解像度が異なる複数の低解像度の分割画像領域のそれぞれが最適に配置されたパターンの画素読み出しを迅速、かつ、簡単にできる。
本発明によれば、選択した検出方法に応じて作成したパターンにより、撮影対象のうち高解像度が必要な分割画像領域と、高解像度を必要としない分割画像領域に対して最適な重み付けの画素読み出しを行えるようにしたため、高精細撮像素子で撮影された高精細度画像から撮影対象などの解像度が必要な画像部分は高精細を確保し、それ以外の画像部分は低解像度とされた同一時間で撮像された一系統の画像信号を、低周波数の駆動信号により所定のフレームレートで出力することができる。
また、本発明によれば、重み付けの割合を設定した複数のパターンが、検出情報毎に作成されて予め記憶されている記憶装置を、分割画像領域毎に取得した検出情報に基づいて参照して、その記憶装置に記憶されている複数のパターンから最も近似した一のパターンを選択することにより、検出情報に応じて撮影対象のうち高解像度の分割画像領域と、互いに解像度が異なる複数の低解像度の分割画像領域のそれぞれが最適に配置されたパターンの画素読み出しを迅速、かつ、簡単にできるため、パターン作成のための複雑な処理及び回路を不要にできる。
更に、本発明によれば、分割画像領域内の全光電変換画素領域を間引いて読み出す複数の分割画像領域は、複数の解像度に設定することができるため、画面の特定の領域では全画素読み出しの高解像度領域とし、画面内においてその特定の領域から離れるほど低い解像度の低解像度領域とするような設定ができ、その場合は解像度変化がなだらかにでき、また、全画素読み出しの高解像度領域を画面内に複数設けたりするなどの変化に富んだ解像度領域の配置もできる。
次に、本発明の実施の形態について図面と共に説明する。
(第1の実施の形態)
図1は本発明になる撮像装置の第1の実施の形態のブロック図を示す。図1に示す撮像装置10は、ズーム制御部11、レンズ12、撮像素子13、A/D変換部14、DV(Digital Video)記録部15、メモリカード16、駆動部17、制御部18、操作部19及びDSP(Digital Signal Processor)20より構成される。撮像素子13は、例えば水平方向1600画素、垂直方向1200画素の高精細撮像素子であり、CMOSイメージセンサにより構成されている。
DSP20は、補間部21、ラインメモリ22、画像形成部23、Y/C(Y=輝度信号、C=色差信号)処理部24、検出部25、FMC(フィールドモード変更)処理部26の機能を有している。検出部25はEIS(手ぶれ補正)回路251、AF(自動焦点)回路252、顔検出回路253の検出機能を有している。
また、図3のブロック図に示すように、駆動部17は駆動信号発生器171、分周器172、及びクロック発生器173より構成され、制御部18はパターン制御器181、パターンマップ182、計数器183、及びマイコン(CPU)189より構成される。
次に、撮像装置10の動作について説明する。図1において、まず、駆動部17は撮影する被写体は高精細画像(超高精細画像を含む。)を撮影可能な撮像素子13が光電変換可能な全ての画素群(ここで、画素群とはR、G、G、Bの4個の画素で構成される画像エレメントの単位をいうものとする。以降、同様に記述する。)の画像信号とし、周辺部分は1画素群おきに間引いた画像信号として撮影画像データを所定のフレームレートで出力させるための駆動信号を発生する。
撮像素子13はレンズ12を介して図示しない光電変換部に結像される被写体光像のうち撮影対象部分(これを被写体部分ともいう)を全ての画素群の画像データとして、また被写体光像のうち撮影対象部分以外の部分(これを周辺部ともいう)は間引いた画素群の画像データとして生成する。A/D変換部14は撮像素子13から出力されるアナログ撮像信号をディジタル画像信号に変換する。DSP20の補間部21は、ディジタル画像信号をラインメモリ22に記憶させつつ、間引かれた画素群の画像データとして出力される画素群の箇所を補間した画像データを生成する。画像形成部23はA/D変換部14から出力される全ての画素群の画像データ及び補間部21で補間して得られた画像データを加算して(時系列的に合成して)内蔵する図示しないフレームメモリに記憶する。
Y/C処理部24は、画像形成部23から供給されたR(赤)、G(緑)、B(青)の3原色の画像データに対して公知のマトリクス演算を行って輝度信号Yを生成すると共に、公知の演算により2種類の色差信号Cを生成する。さらに、Y/C処理部24はγ処理も行う。FMC処理部26はY/C処理部24から出力された輝度信号Y及び色差信号Cに対して、撮影画像の拡大/縮小などの電子ズーム処理を行う。DV記録部15はFMC処理部26から入力される電子ズーム処理後の動画像信号を記録し、メモリカード16はFMC処理部26から入力される高解像度の静止画像又は短時間の動画像を記憶する。
検出部25のEIS回路251は撮影して得られた画像データに含まれる輪郭部分など所定の高域周波数成分を含む領域の動きにより手ぶれ量を検出し、画像形成部23に記憶される画像データから手ぶれ量を補償した画像データを切り出して出力させる。ないしは、レンズ12を動かし、手ぶれ成分の動き補正された被写体画像を撮像素子13に結像させる。AF回路252は、結像された画像の高周波成分を検出し、レンズ12を光軸上で移動させた際に高周波成分が大きく得られる位置にレンズ12を移動させる。顔検出回路253は被写体画像から肌色部分を検出し、肌色画像の領域中に眼などに係る輝度レベルの低い箇所があるかを検出し、検出される場合はその肌色領域を顔の部分であるとして検出する。EIS回路251、AF回路252、及び顔検出回路253のいずれもY/C処理部24で得られた画像信号の高域成分を検出しながら動作する。
制御部18は検出された高域成分を含む画像領域から、精細度の高い撮影画像を得るための制御を行う。すなわち、制御部18は高域成分を多く含む被写体部分の領域を全画素群で撮影し、周辺部の領域を間引いて撮影するための制御信号を生成する。更に、制御部18のマイコン189は、撮像素子13からそれらの領域の撮影画像を所定の時間で出力できるか否かを判定し、フレームレートに係る所定の時間を超える場合には全画素群の画像に係る高解像度領域と間引いた画素群の画像に係る低解像度領域との比率を変更する。
駆動部17は、撮影を複数の解像度領域に分けた画像として撮影するための駆動信号を生成する。撮像素子13は駆動部17からの駆動信号により駆動され、被写体部分を全画素群の画像信号とし、周辺部は間引かれた画像として撮影画像を出力する。以降、検出部25は撮影された画像信号を基に高域成分を含む画像領域を検出し、制御部18は画面を複数に分割した領域の解像度を決定し、撮影を継続する。図3のマイコン189は撮像装置10の各回路部及び制御部18内の各部に接続されそれらの動作を制御する。
次に、図2を参照して撮影画面のマニュアル設定例について述べる。図2(A)は風景撮影モードの画面であり、同図(B)は人物撮影モードの画面である。風景撮影モード画面は、画面全体を撮像素子13の全画素のうち読み出し画素を1/2に間引いた画素群で表示される低解像度の画面である。人物撮影モード画面は、顔の撮影が想定される画面中央の領域はその領域にある撮像素子13の全画素を読み出す全画素群モードによる高解像度により撮影され、画面周辺へ広がるにつれて徐々にその領域の全画素数の1/2の画素数を読み出す1/2間引き領域、その領域の全画素数の1/4の画素数を読み出す1/4間引き領域としてそれぞれ異なる低解像度の画像を出力する。なお、図2(A)、(B)のそれぞれにおいて、読み出し画素の総数は同じである。
これらの撮影モードは、撮影者により図1の操作部19が操作され、予め備えられている領域パターンが指定されて設定される。その設定が自動切換モードとして設定される場合には、検出部25のAF回路252により合焦点の距離が遠方であるとして検出された場合は風景撮影モードとして動作させ、合焦点の距離が例えば4m以内として検出された場合には人物モードにより動作させる。また、顔検出回路253により比較的中央の領域に顔画像が検出される場合には人物モードにより人物画像を高解像度の画像として得る。
風景撮影モード時には、撮像素子13からは毎秒30フレームの1/2に間引かれた画素群データが出力される。人物モード時には高解像度領域(全画素群領域)、1/2に間引いた低解像度の撮影画像及び1/4に間引いた低解像度の撮影画像は毎秒30フレームの動画像として出力される。間引きされたことによる画素数の不足については、補間部21で補間を行った後にYC処理を行い、その間引きパターンに応じて撮像素子13の駆動を制御し、FMC処理部26で拡大又は縮小処理をする。
次に、図3を参照して駆動部17と制御部18について詳細に説明する。制御部18のパターン制御器181は、検出部25のEIS回路251、AF回路252、及び顔検出回路253で検出された画像信号の高域周波数成分に係る情報を基に撮像する画像の解像度に係る情報を生成する。パターンマップ182は撮影画像領域を高解像度領域(全面素群領域)、及び予め設定される間引き率により間引いて撮像するための低解像度領域に係る後記のパターンマップを生成する。間引き率は1/2や1/4以外の分数で指定される比率を指定する。計数器183は撮像素子13から出力される撮像信号の画素群の数を計数する。
撮像素子13から出力される撮像信号を構成する画素群の数が、例えばフレーム周波数30Hzでの画像データの出力ができないとマイコン189にて判断される場合は、高解像度領域のサイズを小さくしたり、間引き率を変更するための低解像度領域に係る調整用信号を生成する。パターン制御器181は、撮像する画像の解像度に係る情報を変更する。パターンマップ182では上記により解像度が修正されたパターンマップが生成される。
駆動部17のクロック発生器173は、DSP20を駆動するためのクロック信号を発生する。そのクロック信号はDSP20に供給される。DSP20内に設けられる画像形成部23は、撮像素子13で撮影される全画素群のフレーム画像を記憶可能であり、DSP20は記憶された画像データの補間処理、画像特性の補正処理などを実行する。分周器172は、クロック発生器173で発生されるクロック周波数を所定の周波数のクロックに分周する。
駆動信号発生器171は、分周器172で分周されたクロック周波数に同期した駆動信号を発生して撮像素子13へ供給し、撮像素子13の全画素のうちパターンマップ182に基づいて指定した画素から撮像信号を読み出して出力させる。すなわち、駆動信号発生器171は、CMOSなどの素子で構成される撮像素子13に対して、撮像信号を出力する画素の位置に係る水平及び垂直方向のアドレス信号を生成して撮像素子13に供給すると共に、そのアドレス信号により読み出される画素を出力するための読み出しクロック信号も供給する。読み出しが行われない画素においては、(特定期間毎の)基準信号に合わせてリセットを行う。
再び図1に戻って説明するに、撮像素子13からは読み出しクロック信号に従って撮像信号(全画素群画像データ又は間引かれた画素群の画像データ)が出力される。A/D変換部14は撮像素子13から出力された撮像信号(全画素群画像データ又は間引かれた画素群の画像データ)をディジタル信号に変換する。補間部21は間引かれて出力される画像データをラインメモリ22に記憶すると共に、ラインメモリ22に記憶された画像データを用いて間引かれて出力されなかった画素群データを直線補間により、又は曲線補間して補間データを生成する。画像形成部23には撮像された画像データ、及び補間データが時系列的に合成されて記憶される。記憶される画像データのサイズは撮像素子13が撮影可能な画素データと同サイズの画像である。
本実施の形態では、撮像素子13は例えば水平方向1600画素、垂直方向1200画素がその撮像面にマトリクス状に配列されており、この全画素を例えば1/60秒で読み出すには約115MHz(=1600×1200×60)という極めて高い駆動信号周波数が必要となり、撮像素子駆動用クロック回路、及び信号処理回路の消費電力が大きくなり、また、それらの信号処理回路を集積回路で実現する場合には回路のゲート数が増加してしまう。そこで、本実施の形態では駆動信号発生器171から出力される駆動信号の周波数は例えば28.75(=115/4)MHzという比較的低い周波数に設定される。しかし、この低周波数の駆動信号では上記の撮像素子13の撮像領域の全画素を例えば1/60秒で読み出すことはできない。
しかしながら、本実施の形態の撮像装置では、撮像領域を複数の領域に分割し、そのうち所望の一の分割領域は高解像度領域としてその分割領域の全画素を読み出して全画素群データを出力し、それ以外の他の一又は二以上の分割領域は、一又は二以上の異なる解像度の低解像度領域として、その解像度に応じた数の画素を読み出して間引かれた画素群データを出力するようにしているため、上記の比較的低い周波数の駆動信号でも、動きのある被写体に対しては所望の領域を高解像度領域とした画素群データを所定のフレームレートで取得することができる。上記の方法により撮像素子13で撮影した高解像度が必要とされる被写体の画像部分を高解像度として簡易に出力させることのできる撮像装置を実現できる。
次に、図4を参照してパターンマップについて説明する。同図に示すパターンマップはエリア1〜エリア4の4つの解像度を有する分割画像領域を示している。画面中央部の2つの分割画像領域であるエリア1は、撮影された画像の全画素群が読み出される高解像度領域である。図中2つのエリア1領域が設定されている。領域指定の個数は自由であり、エリアの形状も任意の形状を指定できる。エリア1を取り囲む分割画像領域であるエリア2は間引き率が4/6、即ち6画素群から4画素群を得る第1の低解像度領域である。エリア2を取り囲む分割画像領域であるエリア3は間引き率が2/4の第2の低解像度領域、エリア3を取り囲む分割画像領域であるエリア4は間引き率が1/4の第3の低解像度領域である。この例は、高解像度領域以外に、互いに異なる解像度の低解像度領域が3つあり、画面中心部から周辺部に行くに従って解像度が低下するように設定されている。
次に、エリア1〜エリア4の各画像データについて説明する。図5を参照してエリア1で読み出される画素群データについて説明する。図5(A)は全画素読み出しのなされる画素群に係る3原色の画素をR、G、Bにより示してある。図5(B)に示すように1つの画素群は1個のR、2個のG、及び1個のBの画素の計4画素より構成されている。領域分割の細かさは1画素群毎に指定できる。
次に、図6を参照してエリア2で読み出される画素群データについて説明する。図6(A)は間引き率が4/6で読み出される画素をR、G、Bにより示してある。図6(B)は6個の画素群を1ユニットとして繰り返して配置される画素の配置を示す。この6個の画素群のうち、第1列目の左端の画素群は4個の画素を読み出す。その右側の画素群はGとBの画素、次の右側の画素群はRとGの画素を読み出す。同様にして第2列目は図6(B)で示される8画素が読み出される。図6(B)に示すように6個の画素群から、実質的に4個の画素群データが読み出される。ただし、補間部21でなされる間引かれた画素の補間は、同じ色同士の画素の配置関係を考慮して行う必要がある。
次に、図7を参照してエリア3で読み出される画素群データについて説明する。同図において、読み出される画素は、同一の画素群を構成する4個の画素である。画素群の配列は千鳥状に配置され、間引き率を2/4としている。この千鳥状の画素群の配置により間引きによる水平方向及び垂直方向の解像度劣化を抑圧できる。間引きされた画素群データの補間演算も容易である。
次に、図8を参照してエリア4で読み出される画素群データについて説明する。同図において、読み出される画素群はエリア3の1/2である。この例では垂直方向の解像度はエリア3に比し同一であるが水平方向の解像度はエリア3の1/2とすることにより、間引き率を1/4としている。
以上、エリア1〜4で読み出す画素群の構成例について述べた。画素の間引き方法は以上の他に種々考えられる。1つのユニットを構成する画素群数と、そのユニットの中から間引いて出力する画素群の数との関係を一定に構成すれば、補間部21でなされる補間方法を一義的に定めることができるため、補間演算が容易となる。
ここで、撮像装置10は、図3に示すように、撮像素子13で撮影した高精細画像(超高精細画像を含む。)を高解像度領域と所定のデータ出力周波数(転送レート)で読出し可能な低解像度領域とに複数区分し、かつ、前記複数区分された前記高解像度領域と前記低解像度領域を合わせた全体画素数が所定のデータ出力周波数で読み出される画素数(一定)となるようにした補正画像を生成するためのパターンマップ(テーブル)182と、前記補正画像の画素群数を計測する計数器183と、計数器183で計測された前記補正画像の画素数が前記所定のデータ出力周波数で読み出される画素数であるか否かを調べ、前記所定のデータ出力周波数で読み出される画素数である場合には、前記補正画像の画素数に基づいた出力を行わせるパターン制御器181からなる制御部18を備えている。
次に、この制御器18による本実施の形態の撮像装置10の各モードの動作について説明する。本実施の形態で選択できる重み付けモードの例としては、図9に示すように、撮影者によって固定された重み付けが実施される外部モード41と、ズームモード42と、映像状態からパターンの作成を行う映像状態モード43とがある。更に、ズームモード42には、光学ズームモード44と電子ズームモード45とがある。また、映像状態モード43には、EIS回路251を用いるスポーツモード46と、AF回路252を用いる高解像度モード47と、顔検出回路253を使用する人物モード48とがある。
まず、外部モードの動作について、図10(A)のフローチャートと共に説明する。制御部18は、操作部19の操作によりモード選択入力を受け(ステップS11)、外部モードであると判定すると(ステップS12)、予め用意された、一画面を複数の画像領域に分割した時の分割画像領域の数、形状及び各分割画像領域における異なる解像度からなる複数種類のパターンを記憶しているパターンマップ(テーブル)182から撮影者によって指定された外部モード用のパターンを選択し(ステップS13)、そのパターンに従って撮像素子13の読み出しを駆動部17を介して行う(ステップS14)。外部モードで指定されたパターンにより撮像素子13から読み出され画素群数は、常に1フレームの画像を所定のフレームレートで出力可能な所定の画素群数以下である。
その後、モードを変更するか否か判定する(ステップS15)、モードを変更しないと判定された場合はステップS14の読み出しを継続し、モードを変更するとして判定された場合は動作を終了する。この外部モードでは、撮影者によって固定された重み付けが実施され、他機構や映像状態によって左右されないパターンによる撮像素子13の読み出しが実施される。
次に、ズームモードの動作について図10(B)のフローチャートと共に説明する。制御部18は、操作部19の操作によりモード選択入力を受け(ステップS21)、光学/電子ズームモードであると判定すると(ステップS22)、予め用意されたパターンマップ(テーブル)182からズーム倍率に応じたパターンを選択する(ステップS23)。この場合、予め用意した複数のパターンのうち、ズーム倍率が高くなるほど(テレ撮影時の状況になるほど)、画面中央の分割画像領域では全画素読み出しの高解像度領域とし、かつ、その面積を小さく、それ以外の周辺の分割画像領域では周辺の分割画像領域ほど間引き率が大きな低解像度領域のパターンを選択する。これは光学ズーム及び電子ズームのいずれも同様である。
その後、ズーム動作中かどうか判定し(ステップS24)、ズーム動作中であるときはズーム動作停止まで前状態の読み出しを保持し(ステップS25)、ズーム動作中でないときは、ステップS23で選択したパターンに従って撮像素子13の読み出しを行う(ステップS26)。ズームモードで指定されたパターンにより撮像素子13から読み出され画素群数は、1フレームの画像を所定のフレームレートで出力可能な所定の画素群数以下である。
続いて、モードを変更するか否か判定する(ステップS27)、モードを変更しないと判定された場合はステップS24に戻りズーム動作中かを判定し、モードを変更するとして判定された場合は動作を終了する。このズームモードでは、ズーム倍率が小さい場合は、図4に示したエリア2やエリア3などの中間的な解像度の領域を大きくする画面全体が均一な撮影が適し、ズーム倍率が大きい場合は撮影画像の焦点深度が浅くなるため図4に示したエリア1の高解像度の領域及びエリア4の低解像度の領域を大きくする撮影が適す。
次に、映像状態モードの動作について図10(C)のフローチャートと共に説明する。制御部18は、操作部19の操作によりモード選択入力を受け(ステップS31)、映像状態モードであると判定すると(ステップS32)、パターンマップ(テーブル)182から映像状態に応じたパターンを作成する(ステップS33)。この場合、選択されたモードがスポーツモードであるときはEIS回路251でなされる手ぶれに係る被写体の動きベクトルの検出結果に基づいてパターンが作成され、選択されたモードが高解像度モードであるときはAF回路252による自動焦点測光時に得られる高域周波数成分の検出結果に基づいてパターンが作成され、選択されたモードが人物モードであるときには顔検出回路253による顔画像の検出結果に基づいてパターンが作成される。
続いて、作成されたパターンと予め用意された複数種類のパターンを記憶しているパターンマップ(テーブル)182との比較が行われ(ステップS34)、そのテーブルの中の複数種類のパターンのうち、作成されたパターンと最も一致するパターンが選択され(ステップS35)、その選択されたパターンに従って撮像素子13の読み出しが行われる(ステップS36)。
続いて、モードを変更するか否か判定する(ステップS37)。このステップS37ではモードを変更しない場合は上記の読み出しにより、撮像素子13からA/D変換部14に出力される画素群の数に係るアクティブ画素群数を計数器183で計数し、計数されたアクティブ画素群数が1フレームの画像を所定のフレームレートで出力可能な所定の画素群数以下であるかを制御部18のマイコン189が判定することも行う。画素群数が所定の画素群数を超えるとして判定された場合は、選択されたパターンの高解像度領域の面積を小さく、かつ、低解像度領域の面積を大きくしたパターンに修正したパターンマップを作成して、その作成されたパターンと予め用意されているテーブルのパターンとを比較し、最も重み付けが一致するパターンを選択する(ステップS33〜S35)。
一方、アクティブ画素群数が上記の所定の画素群数以下であると判定された場合には、撮影された画像データを読み出すが、読み出し画素数が極端に少ない場合は、作成したパターンと予め用意されているテーブルのパターンを比較し、最も重み付けが一致し、アクティブ読み出し画素数が上記の所定の画素群数近傍となるパターンを選択する(ステップS33〜S35)。そして、ステップS37でモードを変更すると判定された場合は動作を終了する。
このようにして、EIS回路251でなされる被写体の動きベクトルを検出するスポーツモードの場合は、被写体が広い範囲を動く場合(被写体の動きが速い場合)、画面中央の分割画像領域では全画素読み出しの高解像度領域とし、かつ、その面積が大きなパターンを選択し、被写体が狭い範囲を動く場合(被写体の動きが遅い場合)、画面中央の分割画像領域では全画素読み出しの高解像度領域とし、かつ、その面積を小さく、それ以外の周辺の分割画像領域では周辺の分割画像領域ほど間引き率が大きな低解像度領域のパターンを選択する。
また、被写体情報としてEIS回路251で手ぶれを検出する場合は、手ぶれが設定値より大きいと判断したときは、全画面が例えば1/2の間引き率の低解像度領域であるような、画面周辺までの読み出し画素数が多い(画面周辺における被写体の画像情報が多い)パターンを選択し、手ぶれが設定値以下の場合は画面中央の分割画像領域では全画素読み出しの高解像度領域とし、それ以外の周辺の分割画像領域では周辺の分割画像領域ほど間引き率が大きな低解像度領域のパターンを選択する。
また、高解像度モードを選択してAF回路252による自動焦点測光時に得られる高域周波数成分を検出する場合は、一般に自動焦点測光エリアは予め決められた画面中央に位置する中央エリアに高周波数成分があるかどうかでエリアの範囲が決定され、その中央エリアに高周波数成分が無い場合は更にその中央エリアを大きくして同様に中央エリアに高周波数成分があるかどうか判定される。この際、AFのための中央エリアと連動する解像度のパターンを複数用意し、決定されたAFのための中央エリアに対応する画面中央の分割画像領域では全画素読み出しの高解像度領域とし、それ以外の周辺の分割画像領域では周辺の分割画像領域ほど間引き率が大きな低解像度領域のパターンを選択する。上記とは逆に、AFのための中央エリアが縮小した場合も上記と同様なパターン選択を行う。
このように、本実施の形態では、予め用意した、一画面を複数の画像領域に分割した時の分割画像領域の数、形状及び各分割画像領域における異なる解像度からなる複数種類のパターンは、撮影者によって選択することも可能であるし、撮影される被写体に最適とされるパターンを選択して駆動信号を生成してもよく、また、選択されるパターンの組み合わせは、読み出される画素数を一定にさせるパターンの組み合わせを準備する。画素数を一定に保つことにより、撮像素子13からは所定の品質に保った画像を、所定の駆動周波数により読み出すことができる。読み出す画素数の総計を管理する方法では、読み出し数が所定数を超えた場合に領域パターンの再設定が必要とされるのに比し、予め画素の総数が定められた領域パターンを選択して読み出す場合には読み出す画素数の総数管理を省ける。
以上のように、本実施の形態で示した撮像装置10によれば、縦横に2次元配列された複数の光電変換画素領域を有した撮像素子13と、複数の光電変換画素領域を間引かないでそのまま第1の画素信号として読み出される第1の画像領域と、複数の光電変換画素領域から間引いて第2の画素信号として読み出される第2の画像領域とに分けるとき、第1の画像領域から第1の画素信号を読み出させ、第2の画像領域から第2の画素信号を読み出させる駆動部17と、間引かれた光電変換画素領域に前記読み出した第1又は第2の画素信号を用いて補間を行って、第3の画素信号を生成する補間部21と、第1の画素信号と前記第3の画素信号とを合成して1フレーム又は1フィールドの画像を形成する画像形成部23との格別な構成があるので、高精細撮像素子で撮影された高精細度画像信号から撮影対象などの解像度が必要な画像部分は高精細を保った画像により、出力可能な所定のフレームレートの画像信号として出力することを可能とする撮像装置を実現できる。
(第2の実施の形態)
次に、本発明の第2の実施の形態について説明する。上記の第1の実施の形態では、撮像素子の撮像領域(縦横に2次元配列された複数の光電変換画素領域)を非分割とするか二以上の領域に分割し、全撮像領域又は各分割領域毎のその領域の全画素数に対する読み出し画素数の割合(間引き率又は重み付け)を被写体情報や撮影情報などの検出情報に応じて可変するようにしているが、この第2の実施の形態は、上記の間引き率又は重み付けを、予め用意したテーブルを検出情報で選択して、テーブル出力にて容易に可変設定できるように構成したものである。第2の実施の形態も、撮像装置の基本的構成は図1と同様である。
図11は本発明になる撮像方法の第2の実施の形態のフローチャートを示す。同図において、本実施の形態の撮像素子はランダムアクセス可能で、かつ、前述したように例えば水平方向1600画素、垂直方向1200画素の高精細画像撮影可能な撮像領域を備えたCMOSイメージセンサであり、その撮像領域の全画素を少ない間引き率で間引いて読み出して全体画像を得る(ステップS100)。読み出し画素を間引くのは、本実施の形態の撮像素子の上記の高精細画像撮影可能な撮像領域から例えば28.75MHzという比較的低い周波数の駆動信号で例えば1/60秒で全体の画像信号を読み出すためである。
続いて、撮像装置の制御部(図1の18に相当)は、撮影者によりどの検出方法(撮影モード)で撮影するかの指定情報を取得し(ステップS101)、その指定情報がスポーツモードのときにはEIS回路(図1の251に相当)による動きベクトル検出を選択し(ステップS102)、高解像度モードのときにはAF回路(図1の252に相当)による高周波数成分検出を選択し(ステップS103)、顔検出モードのときには顔検出回路(図1の253に相当)による顔検出を選択し(ステップS104)、その後上記の選択した検出情報を取得する(ステップS105)。
続いて、撮像装置の制御部は、ステップS105で検出した情報で、指定された撮像モードに対応したデータベースを参照して、当該データベースに予め格納されている複数のテーブルのうち、検出した情報に最適なテーブルを選択する(ステップS106)。ここで、上記のテーブルは、撮像素子の撮像領域の画素読み出しパターンを示している。この画素読み出しパターンは、撮像素子の撮像領域の各分割領域(非分割を含む)の配置と、その各分割領域毎の全画素数に対する読み出し画素数の割合(間引き率又は重み付け)とを示しており、このテーブル出力にて容易に間引き率又は重み付けを可変設定することができる。なお、この画素読み出しパターンの具体例については後述する。
続いて、撮像装置の制御部は、マイコンに選択したテーブルが示す画素読み出しパターン情報を格納する(ステップS107)。マイコンは格納された画素読み出しパターンに基づいて撮像素子を駆動する駆動部(図1の17に相当)を制御し(ステップS108)、撮像素子の全画素のうち、画素読み出しパターンで読み出し画素として指定された画素のみから画素信号を読み出す(ステップS109)。
これにより、本実施の形態によれば、高精細撮像素子で撮影された高精細度画像信号から、撮像対象によって解像度が必要な画像領域は全画素読み出しの高解像度の画像信号とし、それ以外の画像領域は出力可能な所定のフレームレートの画像信号とするよう間引き処理(又は重み付け処理)した低解像度の画像信号として出力することを、予め用意したテーブルを被写体情報などで選択するだけの極めて簡単な処理で設定でき、また、低解像度の画像領域は画面の周辺に行くに従って漸次解像度が変化する複数の画像領域からなるように設定することができるため、解像度変化をなだらかにすることができる。
次に、第2の実施の形態の実施例1について説明する。この実施例1は予め撮影者が上記の高解像度モードを指定したときの実施例である。図12は高解像度モードを指定したときの本発明になる撮像装置の実施例1のブロック図を示す。図12において、被写体からの光はレンズ31により集束されて撮像素子32の撮像面に結像して光電変換される。この撮像素子32は、図1の撮像素子13と同様に、例えば水平方向1600画素、垂直方向1200画素の高精細画像撮影可能な撮像領域を備えたCMOSイメージセンサであり、駆動部39からの例えば28.75MHzという比較的低い周波数の駆動信号で駆動されて例えば1/60秒のフレームレートで、撮像素子32の撮像領域の全画素が少ない間引き率で間引かれ、読み出し画素から光電変換して得られた画像信号を読み出す(図11のステップS100に相当)。
撮像素子32から出力された撮像信号は、AFE(Analog Front End)回路33でゲイン調整などされた後画像処理部34に供給されてガンマ補正等されてFMC処理部36に供給され、ここで撮影画像の拡大/縮小などの電子ズーム処理された後図示しないモニタ受像機へ出力される。
また、画像処理部34の一部から取り出された画像信号は、高解像度モードが指定されているため、AF回路35に供給されて高周波数成分が検出される。AF回路35は、まず画像処理部34からの画像信号の不要な低域周波数成分を、帯域フィルタ(BPF)又は高域フィルタ(HPF)351によりカットすると共に、AF制御のために必要な所定の周波数成分を取り出してABS回路352に供給する。なお、帯域フィルタ(BPF)又は高域フィルタ(HPF)351により周波数選択される所定の周波数成分は、予め設定された複数の周波数成分であり、各周波数成分毎に並列に出力される。
ABS回路352は上記のBPF(又はHPF)351から出力された画像信号の複数の所定の周波数成分毎に、ある一定のレベルで信号を折り返して絶対値を求める処理を行い、得られた絶対値信号を水平ピーク検出部353に供給する。水平ピーク検出部353は、分割枠入力部355からの分割枠情報に基づいて、各分割枠毎に、かつ、水平ライン毎に画像信号の所定の周波数成分の絶対値信号のピークの検出を行う。ここで、上記の分割枠情報は、例えば図13に示すように、一画面を例えば5行3列に分割配置された計15個の分割枠(分割画像領域)を示す。勿論、分割枠の個数及び配置は、図13の例に限定されるものではない。この分割枠は、マイコン37によって予め決められている。
垂直加算部354は、分割枠入力部355からの分割枠情報に基づいて、各分割枠毎に、水平ピーク検出部353からの複数の所定の周波数成分毎に水平ピーク値を垂直方向に加算する。この各分割枠毎の、かつ、各所定の周波数成分毎の垂直加算結果は、レジスタ356に変量として格納される。以上のBPF(又はHPF)351からレジスタ356までの回路によってAF回路35が構成されている。
このレジスタ356に格納された演算結果(変量)は、マイコン37内の比較部371に供給され、ここで1フレーム前及び2フレーム前の過去の演算結果(変量)と比較され、分割枠毎に周波数成分の検出とピーク位置の特定が行われる。方向性判定部372は、比較部371で比較して得られた分割枠毎の周波数成分及びピーク位置の検出結果に基づいて、ピーク位置が大きくなる方向を判定し、その判定した方向にモータドライブ38を介してレンズ31の位置を移動制御する。
また、レジスタ356に格納された演算結果(変量)は、マイコン37内の演算部373に供給されてパターン選択のための演算が行われ、その演算結果により例えばメモリにより構成されているパターンテーブル記憶部374に予め記憶されている複数の画素読み出しパターンテーブルのうち一の画素読み出しパターンテーブルが選択される。すなわち、この実施例1ではAF回路35では分割枠内で過去のデータ(変量)との比較により周波数成分の検出やピーク位置の特定が行われるので、このAF回路35で被写体画像から得られた周波数成分の検出結果を画素読み出しパターンの組み合わせ等のパラメータとして使用し、同様に演算結果から得られたピーク位置の情報を全画素読み出しエリアの開始位置として使用する。
パターンテーブル記憶部374から選択された画素読み出しパターン(全画素読み出しエリアの開始位置含む)の情報が出力されてTG駆動パターン選択部375に供給され、選択された画素読み出しパターンの読み出しが行われるように駆動部39から撮像素子32へ出力される駆動信号を制御する。
次に、上記の画素読み出しパターンテーブルの選択方法の一例について更に詳細に説明する。AF回路35で得られる図13に示した5行3列の分割枠のそれぞれの映像データが図14(A)に示すものであり、それに基づき検出されてレジスタ356に一時格納された周波数成分とピーク値とから求められた分割枠毎の変量が図14(B)に示すものである場合、演算部373は、まず、この変量のうちの最大値「200」を「1.00」として正規化して図14(C)に示す分割枠毎の変量を求める。
続いて、演算部373は図14(C)に示した分割枠毎の変量のうち値が大きい順番に、例えば表1に示す読み出し画素数の種類と割合とのテーブルと比較して、分割枠毎に読み出し種類を決定する。
Figure 2007243909
表1は全画素読み出し(4画素中4画素読み出し)を1.00(100%)として換算した読み出し画素数の割合を示している。
ここでは、図14(C)に示すように、15個の分割枠のうち3行2列目の中心枠の変量が「1.00」で最も値が大きいので、表1から4/4読み出し(すなわち、全画素読み出し)とし、続いて2番目に値が大きな1行1列目の分割枠の変量「0.25」を表1と比較し、表1の割合が「0.25」である4/16読み出し(16画素中4画素読み出し;12/16間引き)をその分割枠の読み出し割合として選択する。以下、上記と同様にして各分割枠の読み出し割合を選択する。ただし、図14(C)の各分割枠の正規化後の変量がすべて同一値である場合は、全体の読み出し画素数が予め定めた一定の値になるように、読み出し画素数の種類を調整し、均一の重み付けを行う。
この結果、図14(C)示した分割枠毎の正規化後の変量と表1との比較の結果、図14(D)に示すような、各分割枠毎に正規化後の変量を読み出し種類に置き換えたパターンの雛形が作成される。
次に、図14(E)に模式的に示すように、同図(D)のパターンの雛形とパターンの記憶部374に記憶されている複数種類のパターンテーブルとを照合し、最も重み付けが近いパターンテーブルを採用する。複数種類のパターンテーブルとしては、例えば図15(A)、(B)、(C)に示すようなものがある。上記の照合では、まず、パターンの雛形のうち読み出す画素数が最も多い中心枠(4/4)とパターンテーブル同一分割枠位置の値とを比較し、一致若しくは読み出し画素数が最も近いパターンテーブルを候補とする。これにより、図15(A)〜(C)のパターンテーブルのうち図15(A)と(B)の2つのパターンテーブルが候補とされる。
続いて、パターンの雛形において2番目に読み出す画素数が多い1行1列目の分割枠の読み出し画素数の種類「4/16」に着目し、図15(A)、(B)のパターンテーブルの候補の同じ位置の分割枠の読み出し画素数と比較して近い方のパターンテーブルを候補とする。この結果、図15(A)に示すパターンテーブルが最終的に決定され、採用される。
撮像素子32はこの図15(A)で示すパターンテーブルに従って画素読み出しが行われる。このように、本実施例によれば、予め用意した複数のパターンテーブルの中からAF回路35から得た分割枠毎の変量に応じて最適なパターンテーブルを選択するだけで、簡単に重み付けされた画素読み出しができる。
次に、撮像素子32の画素読み出しについて説明する。図16は撮像素子32の一例の回路系統図を示す。同図に示すように、撮像素子32は、一つの画素が1つのフォトダイオード321と、フォトダイオード321で光電変換して得られた電荷を一時蓄積して電圧等の信号として出力するバッファアンプ322と、バッファアンプ322からの信号を垂直方向に配列された出力線に出力するVスイッチ323とから構成されており、その画素が4行5列にマトリクス状に配置されたCMOSイメージセンサである。なお、図16では図示の便宜上、画素は4行5列の20個のみ示しているが、実際は前述したようにはるかに画素数は多い。
各画素のVスイッチ323は、垂直レジスタ324からのスイッチ選択信号V_SW_1〜V_SW_4により、横方向に配列された信号線を介して同じ行(ライン)の画素のVスイッチ323が同時にオン又はオフとされ、かつ、オンとされるVスイッチ323の画素の行は上から下方向に順次に切り替えられる。また、同じ列の各画素のVスイッチ323は、縦方向の出力線を介して公知の相関二重サンプリング(CDS)回路325に接続され、更にCDS回路325を介してHスイッチ326に接続されている。
Hスイッチ326は画素群の各列毎に設けられており、水平レジスタ327からのスイッチ選択信号H_SW_1〜HSW_5によりオン又はオフとされ、かつ、例えば左から右方向へオンにスイッチングされる。垂直レジスタ324及び水平レジスタ327は外部からのコントロール信号により制御される。また、Hスイッチ326は信号線を介して出力アンプ328に共通接続されており、スイッチ選択信号V_SW_1〜V_SW_4とスイッチ選択信号H_SW_1〜HSW_5により選択された画素からの信号が出力アンプ328で増幅されて外部へ撮像信号として出力される。
ここで、撮像素子32の通常の全画素読み出し時は、上記のスイッチ選択信号V_SW_1〜V_SW_4は図17(A)〜(D)に示され、スイッチ選択信号H_SW_1〜HSW_5は図17(F)〜(J)、(M)〜(Q)に示すように、時分割的にLレベルとされ、Lレベルの期間対応するVスイッチ323、Hスイッチ326をオンとする。これにより、例えば、図17(E)に示すようにスイッチ選択信号V_SW_3がLレベルの期間は、図17(K)に示すようにV_SW_3によりオンとされた1ラインの各画素のうち、同図(F)〜(J)に示すスイッチ選択信号H_SW_1〜HSW_5により選択された各画素からの信号が順次に出力される。また、図17(L)に示すようにスイッチ選択信号V_SW_4がLレベルの期間は、図17(R)に示すようにV_SW_4によりオンとされた1ラインの各画素のうち、同図(M)〜(Q)に示すスイッチ選択信号H_SW_1〜HSW_5により選択された各画素からの信号が順次に出力される。
これに対し、本実施例のように重み付け読み出しが行われる場合は、例えば図18(A)に示すスイッチ選択信号V_SW_3がLレベルの期間は、V_SW_3によりオンとされた1ラインの各画素のうち、同図(B)〜(F)に示すスイッチ選択信号H_SW_1〜HSW_5により、左側から1番目、2番目の画素が選択され、3番目、4番目の画素は対応するHスイッチ326がオフのままで選択されず5番目の画素が選択され、選択された画素からの信号が順次に出力される。
ここで、水平方向2番目の画素に続いて読み出される水平方向5番目の画素に接続されるHスイッチは、図18(C)、(F)から分かるように、水平方向2番目の画素に接続される水平スイッチがオンからオフとされた直後にオンとされる。この結果、スイッチ選択信号V_SW_3により選択された1ラインの5個の画素から図18(G)に示すように、2個の画素からの出力が間引かれて残りの3個の画素からの信号が出力される。
図18(H)に示すスイッチ選択信号V_SW_4がLレベルの期間も上記と同様であり、同図(I)〜(M)に示すスイッチ選択信号H_SW_1〜HSW_5のうちH_SW_3とH_SW_5が順次にLレベルとなるように制御されることにより、スイッチ選択信号V_SW_4により選択された1ラインの5個の画素から図18(N)に示すように、3個の画素からの出力が間引かれてH_SW_3とH_SW_5に対応した残りの2個の画素からの信号が出力される。なお、上記のスイッチ選択信号V_SW_1〜V_SW_4とスイッチ選択信号H_SW_1〜HSW_5の出力タイミングは、TG駆動パターン選択部375から出力されるパターンテーブルに従った画素読み出し信号に基づいて制御される。
なお、本実施例ではモード如何にかかわらず、読み出しを連続的に行うためメカニカルシャッターが不要であり、更に、読み出し画素数が一定となるので、駆動周波数が一定にできる。
次に、第2の実施の形態の実施例2について説明する。この実施例2は予め撮影者が前記スポーツモードを指定してEIS回路(図1の251に相当)による動きベクトル検出を行うときの実施例である。図19はスポーツモードを指定したときの本発明になる撮像装置の実施例2のブロック図を示す。同図中、図12と同一構成部分には同一符号を付し、その説明を省略する。
図19において、画像処理部34は補間回路341、Y/C処理・ガンマ処理部342を有しており、Y/C処理・ガンマ補正部342から出力された輝度信号YがEIS回路40に供給される。EIS回路40はプリフィルタ(BPF)401により、輝度信号Yの所定周波数成分を周波数選択して間引き回路402に供給する。間引き回路402は、入力輝度信号の所定周波数成分のデータを前述した例えば5行3列の各分割枠に対応する各画面領域毎に、限られたメモリ容量の代表点メモリ403に代表点を記憶するためにデータ量低減のための間引き処理を行った後、各分割枠内に予め定めた複数のポイント(代表点)毎にそのポイント(代表点)のデータを代表点メモリ403に記憶する。ここで、上記のポイント(代表点)は各分割枠毎に例えば8列6行の等間隔で48個ずつ固定的に設けられている。
続いて、EIS回路40は比較回路404において、代表点メモリ403に記憶されたある1垂直走査期間(n−1)Vにおける複数のポイントのデータと、それよりも1垂直走査期間後のnVにおける間引き回路402からの複数のポイントのデータとを比較し、その比較結果から一致アドレス出力部405において輝度情報がどのポイントからどのポイントへ移動しているかの変化量(X方向、Y方向)及び変化方向のベクトル情報を取得して、EIS回路40の出力としてマイコン37に供給する。
ここで、上記の比較回路404と一致アドレス出力部405の動作について図20を参照して更に詳細に説明する。比較回路404は各分割枠毎にその分割枠内の複数のポイント(代表点)のそれぞれについて1V前後のデータの値の変化を出力する。一致アドレス比較回路405はこの複数のポイント(代表点)のそれぞれについて1V前後のデータの値の変化から輝度情報の動きベクトルの方向と値を算出する。
例えば、ポイント(代表点)が、期間(n−1)Vでは図20(A)に示すように座標(3,4)で表される位置にあり、次の期間nVでは同図(B)に示すように座標(5,6)で表される位置に代表点が変化したものとすると、一致アドレス出力部405は、入力された代表点の比較結果に基づいて、図20(B)に45で示す代表点の動きベクトル(X方向、Y方向)が、(2,2)(=(5−3,6−4))であり、その変化量は√8(=√(2+2))である情報を演算により求める。他の分割枠についても同様の処理を行う。
ここで、上記の動きベクトルの方向や変化量は、被写体の動きによって発生した情報と撮影者の手ぶれによって発生した情報とを含んでいる。手ぶれは画面内の過半数以上の代表点において同一ベクトル方向、かつ、同一変化量として発生する情報として求められるのに対し、被写体の動きによって発生した情報はそのような特定の関係はないので、マイコン37は演算部376において全ての代表点のデータの平均化した演算を行うと共に、積分回路377において分割枠毎に1V毎の積分をした代表点のデータを求めて、それらを演算部376に供給して差分をとる。これにより、上記の動きベクトルの方向や変化量の情報から手ぶれの情報が除去され、主として被写体の動きによって発生した情報からなる分割枠別の動き情報(動きベクトル方向、変化量)が演算部378からパターン照合部379に供給される。
パターン照合部379は、入力された分割枠別の動き情報のうち、動きベクトル量の最大値(すなわち、最も大きな動きをした被写体)に重みを大きく配分する第1のパターン選択方法か、動いていない被写体に重みを大きく配分する第2のパターン選択方法のうち、予め設定したいずれか一方のパターン選択方法で動作する。第1のパターン選択方法で動作する場合は、パターン照合部379は、入力された分割枠別の動き情報のうち、動きベクトル量の最大値(すなわち、最も大きな動きをした被写体)をとる分割枠の変量を1.00に正規化した分割枠毎の変量を求めた後、以下実施例1で説明したと同様にして、パターンテーブル記憶部374に記憶されているパターンテーブルの選択を行う。
一方、第2のパターン選択方法で動作する場合は、撮像状態が例えば、撮影者が動く被写体を常に画面内の同じ場所に留まるように撮影している状態(被写体と撮像装置が常に正対するように撮影している状態)であり、パターン照合部379は、入力された分割枠別の動き情報のうち、動きベクトル量の最小値(すなわち、殆ど動いていない、撮像装置と正対している被写体)をとる分割枠の変量を1.00に正規化し、1.00から各分割枠内の変量の値を引いた処理を行って分割枠毎の変量を求めた後、以下実施例1で説明したと同様にして、パターンテーブル記憶部374に記憶されているパターンテーブルの選択を行う。
このように、本実施例によれば、予め用意した複数のパターンテーブルの中からEIS回路40から得た分割枠毎の変量に応じて最適なパターンテーブルを選択するだけで、簡単に重み付けされた画素読み出しができる。また、本実施例もモード如何にかかわらず、読み出しを連続的に行うためメカニカルシャッターが不要であり、更に、読み出し画素数が一定となるので、駆動周波数が一定にできる。
次に、本発明における画素読み出しパターンの各例について図21と共に説明する。図21(A)〜(C)は図5(B)に示したように、1個の赤色光用画素R、互いに対角位置に配置された2個の緑色光用画素G、1個の青色光用画素Bの2行2列に配置された計4画素を、読み出し単位である1つの画素群としたもので、かつ、読み出し画素数はいずれも152画素とした点で共通するが、図21(A)は重み付け(読み出し画素数)が中心領域から周辺領域に進むに従って徐々に小さくなる(間引き率が徐々に大きくなる)例であり、同図(B)は同図(A)中の4/6画素読み出しの領域を使用しない例、同図(C)は左上の領域から右下の領域に進むに従って重み付け(読み出し画素数)が徐々に小さくなる(間引き率が徐々に大きくなる)例を示す。
すなわち、図21(A)は中心の第1の領域(縦方向アドレス9−12、横方向アドレス9−12)では全画素読み出し領域であり、それを取り囲む第2の領域(縦方向アドレス7−14(9−12除く)、横方向アドレス7−14(9−12除く))は8画素群毎に4画素群の割合で読み出す4/8画素読み出し領域であり、第2の領域を取り囲む第3の領域(縦方向アドレス5−16(7−14除く)、横方向アドレス5−16(7−14除く))は6画素群毎に4画素群を読み出す4/6画素読み出し領域であり、第3の領域を取り囲む残りの第4の領域は16画素群毎に4画素群を読み出す4/16画素読み出し領域である。
また、図21(B)は同図(A)の第3の領域を使用しない、3つの読み出し領域からなる読み出しパターンを示している。更に、図21(C)は左上の第1の領域(縦方向アドレス17−20、横方向アドレス1−4)では全画素読み出し領域であり、その右下の第2の領域(縦方向アドレス13−16、横方向アドレス5−8)は4/8画素読み出し領域であり、第2の領域の右下の第3の領域(縦方向アドレス9−12、横方向アドレス9−12)は4/6画素読み出し領域であり、第3の領域の右下の第4の領域は4/16画素読み出し領域である。
次に、検出方法と画素読み出しパターンの他の実施の形態について説明する。図22(A)は撮影者が外部設定を選択した場合の読み出しパターン例を示す。外部設定では、被写体の映像に関係なく予め用意された複数のパターンマップ(パターンテーブル)を、撮影者が任意に選択して読み出しパターンを決定するモードであり、図22(A1)のように画面を分割せず、全画素領域から4/8画素読み出しを行ったり、同図(A2)のように画面の中心領域は4/6画素読み出しとし、その周辺の領域は4/8画素読み出しとしたり、同図(A3)のように、画面を中心領域とその中心領域を取り囲む第2の領域と第2の領域を取り囲む第3の領域に3分割し、そのうち中心領域は全画素読み出しとし、第2の領域4/8画素読み出しとし、第3の領域は4/16読み出しとするなどの分割画像領域が周辺になるほど低解像度領域とする例が考えられる。
図22(B)は光学ズームに基づいて読み出しパターンを選択する例を示す。被写体情報として光学ズーム(ズーム倍率)を検出する場合は、ズーム倍率の低いワイド状態では、画面全体を同じ解像度とするべく読み出し割合が均一になるように、図22(B1)に示すように、画面を分割せず、全画素領域から例えば4/6画素読み出しを行い、光学ズームを倍率の高いテレ側に使用した状態では、図22(B2)に示すように、画面中央の分割画像領域では全画素読み出しの高解像度領域とし、かつ、その面積を小さく、それ以外の周辺の分割画像領域では間引き率が大きな低解像度領域の4/16画素読み出しパターンを選択するなどの例が考えられる。これは電子ズームも同様である。
図22(C)は実施例2で説明したような、EIS回路の出力に基づいて読み出しパターンを選択する例を示す。実施例2で説明したように、EIS回路により動きベクトル量の最大値が画面中央であることが検出された場合は、図22(C1)で示すように、画面中央の分割画像領域では全画素読み出しの高解像度領域とし、かつ、その面積を小さくし、それ以外の周辺の分割画像領域では周辺に進むほど、4/6画素読み出し領域、4/16画素読み出し領域というように低解像度の領域となる読み出しパターンを選択する。
また、EIS回路により動きベクトル量の最大値が画面左上の領域にあることが検出された場合は、図22(C2)で示すように、図21(C)と同様に、画面左上の第1の領域では全画素読み出しの高解像度領域とし、かつ、その面積を小さくし、それ以外の周辺の分割画像領域では画面の右下に進むほど、4/6画素読み出し領域、4/16画素読み出し領域というように低解像度の領域となる読み出しパターンを選択する。
図22(D)は実施例1で説明したような、AF回路の出力に基づいて読み出しパターンを選択する例を示す。実施例1で説明したように、分割枠(分割画像領域)毎の周波数成分及びピーク位置により決まる変量の値が画面中央の領域で最も大きい時には、図22(D1)に示すように、画面中央の分割画像領域では全画素読み出しの高解像度領域とし、かつ、その面積を小さくし、それ以外の周辺の分割画像領域では周辺に進むほど、4/8画素読み出し領域、4/16画素読み出し領域というように低解像度の領域となる読み出しパターンを選択する。
また、分割枠(分割画像領域)毎の周波数成分及びピーク位置により決まる変量の値が画面左上の領域で最も大きい時には、図22(D2)に示すように、画面左上の第1の領域では全画素読み出しの高解像度領域とし、かつ、その面積を小さくし、それ以外の周辺の分割画像領域では画面の右下に進むほど、4/8画素読み出し領域、4/16画素読み出し領域というように低解像度の領域となる読み出しパターンを選択する。
図22(E)は図1の顔検出回路253のような顔検出回路で被写体画像から肌色部分を検出し、肌色画像の領域中に眼などに係る輝度レベルの低い箇所があるかを検出し、検出される場合はその肌色領域を顔の部分であるとして検出し、検出した顔部分の領域が画面の右下にあるときには、図22(E1)に示すように、画面右下の領域では全画素読み出しの高解像度領域とし、かつ、その面積を検出された顔の部分を含む程度の大きさとし、それ以外の周辺の分割画像領域では画面の左上に進むほど、4/6画素読み出し領域、4/8画素読み出し領域、4/16画素読み出し領域というように順次低解像度の領域となる読み出しパターンを選択する。
顔検出回路で検出した顔部分の領域が画面の左下にあるときには、図22(E2)に示すように、画面左下の領域では全画素読み出しの高解像度領域とし、かつ、その面積を検出された顔の部分を含む程度の大きさとし、それ以外の周辺の分割画像領域では画面の右上に進むほど、4/6画素読み出し領域、4/8画素読み出し領域、4/16画素読み出し領域というように順次低解像度の領域となる読み出しパターンを選択する。
更に、顔検出回路で検出した顔部分の領域が画面の左下と右下にあるときには、図22(E3)に示すように、画面左下と画面右下の各領域では全画素読み出しの高解像度領域とし、かつ、その面積を検出された顔の部分を含む程度の大きさとし、それ以外の周辺の分割画像領域では画面の右上と左上に進むほど、4/8画素読み出し領域、4/16画素読み出し領域というように順次低解像度の領域となる読み出しパターンを選択する。図22(E1)〜(E3)に示す読み出しパターンはいずれも読み出し画素数は同一である。
なお、撮像素子は高精細画像や超高精細画像を撮像可能な素子として述べた。撮像素子の画素数は高精細画像や超高精細画像以外の画素数であってもよく、他の画素数の撮像素子を用いて上述の効果を有する撮像装置を構成できる。

本発明の撮像装置の第1の実施の形態のブロック図である。 本発明による撮影画面のマニュアル設定例を示す図である。 本発明の撮像装置の駆動部の一例を示すブロック図である。 本発明における高解像度領域と低解像度領域の分割例を示す図である。 本発明による高解像度領域における画素群の配置例を示す図である。 本発明による低解像度領域における画素群の配置例(その1)を示す図である。 本発明による低解像度領域における画素群の配置例(その2)を示す図である。 本発明による低解像度領域における画素群の配置例(その3)を示す図である。 本発明の撮像方法の第1の実施の形態で使用可能な重み付けモードの種類を示す図である。 本発明の撮像方法の第1の実施の形態における各モードの動作説明用フローチャートである。 本発明の撮像方法の第2の実施の形態の動作説明用フローチャートである。 本発明の撮像装置の第2の実施の形態のブロック図である。 本発明の撮像方法及び撮像装置で用いる分割枠の一例を示す図である。 本発明の撮像方法及び撮像装置の第2実施の形態における分割枠毎の映像データとその処理について説明する図である。 本発明の撮像方法及び撮像装置の第2実施の形態における分割枠毎の作成パターンと比較するパターンテーブルの各例を示す図である。 撮像素子の一例の回路系統図である。 図16の撮像素子の通常の動作時のタイミングチャートである。 図16の撮像素子の画素読み出しパターンによる重み付け読み出し動作時の一例のタイミングチャートである。 本発明の撮像装置の実施例1のブロック図である。 図19に示す撮像装置の要部の動作を説明する図である。 本発明における画素読み出しパターンの各例を示す図である。 本発明における検出方法と画素読み出しパターンの各例を示す図である。
符号の説明
10 撮像装置
11 ズーム制御部
12、31 レンズ
13、32 撮像素子
17、39 駆動部
18 制御部
19 操作部
20 DSP
21 補間部
22 ラインメモリ
23 画像形成部
24 Y/C処理部
25 検出部
26、36 FMC処理部
34 画像処理部
35、252 AF回路
37、189 マイコン(マイクロコンピュータ)
40、251 EIS回路
171 駆動信号発生器
172 分周器
173 クロック発生器
181 パターン制御器
182 パターンマップ
183 計数器
253 顔検出回路
321 フォトダイオード
322 バッファアンプ
323 Vスイッチ
324 垂直レジスタ
325 相関二重サンプリング(CDS)回路
326 Hスイッチ
327 水平レジスタ
328 出力アンプ
351 帯域フィルタ又は高域フィルタ
352 ABS回路
353 水平ピーク検出部
354 垂直加算部
355 分割枠入力部
356 レジスタ
371 比較部
372 方向判定部
373、376、378 演算部
374 パターンテーブル記憶部
375 TG駆動パターン選択部
377 積分回路
379 パターン照合部
401 プリフィルタ
402 間引き回路
403 代表点メモリ
404 比較回路
405 一致アドレス出力部




Claims (8)

  1. マトリクス状に2次元配列された複数の光電変換画素領域を撮像領域に有するランダムアクセス可能な撮像素子の、該撮像領域の全光電変換画素領域のうち選択した2以上の光電変換画素領域から画素信号を読み出して撮像信号を得る撮像方法であって、
    前記撮像領域をN個(Nは1以上の任意の自然数)の分割画像領域に分割すると共に、前記分割画像領域毎に、選択した検出方法により前記撮像素子の撮像情報から得た検出情報に応じて、その分割画像領域内の全光電変換画素領域数に対する信号を読み出す読み出し光電変換画素領域数の割合を示す重み付けの割合を設定したパターンを作成する第1のステップと、
    前記パターンに従って前記撮像素子を駆動する第2のステップと、
    前記撮像領域内の読み出し光電変換画素領域から読み出された第1の画素信号に基づいて、前記撮像領域内の読み出しが行われない光電変換画素領域の第2の画素信号を補間生成する第3のステップと、
    前記第1の画素信号と前記第2の画素信号とを合成して所定フレームレートで撮像信号を出力する第4のステップと
    を含むことを特徴とする撮像方法。
  2. マトリクス状に2次元配列された複数の光電変換画素領域を撮像領域に有するランダムアクセス可能な撮像素子の、該撮像領域の全光電変換画素領域のうち選択した2以上の光電変換画素領域から画素信号を読み出して撮像信号を得る撮像方法であって、
    選択した検出方法により前記撮像素子の撮像情報から得た検出情報を取得する第1のステップと、
    前記撮像領域を分割して得たN個(Nは1以上の任意の自然数)の分割画像領域内の全光電変換画素領域数に対する信号を読み出す読み出し光電変換画素領域数の割合を示す重み付けの割合を設定した複数のパターンが、前記検出情報毎に作成されて予め記憶されている記憶装置を、前記第1のステップで前記分割画像領域毎に取得した前記検出情報に基づいて参照して、記憶されている前記複数のパターンから最も近似した一のパターンを選択する第2のステップと、
    前記第2のステップにより選択された前記パターンに従って前記撮像素子を駆動する第3のステップと、
    前記撮像領域内の読み出し光電変換画素領域から読み出された第1の画素信号に基づいて、前記撮像領域内の読み出しが行われない光電変換画素領域の第2の画素信号を補間生成する第4のステップと、
    前記第1の画素信号と前記第2の画素信号とを合成して所定フレームレートで撮像信号を出力する第5のステップと
    を含むことを特徴とする撮像方法。
  3. 作成又は選択された前記パターンは、その分割画像領域内の全光電変換画素領域から信号を読み出す全画素読み出しを行う1以上の第1の分割画像領域と、その分割画像領域内の全光電変換画素領域のうち互いに異なる重み付けの割合で一部の光電変換画素領域の読み出しを間引く2以上の第2の分割画像領域とからなるパターンであり、前記第1の分割画像領域の光電変換画素領域と2以上の前記第2の分割画像領域内の各読み出しを行う光電変換画素領域の総数は、作成するパターンに関係なく、前記撮像領域の全光電変換画素領域の数より少ない予め定めた一定の数であることを特徴とする請求項1又は2記載の撮像方法。
  4. 前記検出情報は、手ぶれ補正後の被写体の動き情報、ズーム倍率情報、被写体の動きベクトルに基づく動き情報、前記被写体の動きベクトルに基づく静止情報、オートフォーカスが一致したときの撮像信号の特定の周波数情報、及び前記撮像信号から得た顔と見做す顔情報のうちのいずれか一の情報であることを特徴とする請求項1又は2記載の撮像方法。
  5. マトリクス状に2次元配列された複数の光電変換画素領域を撮像領域に有するランダムアクセス可能な撮像素子と、
    選択した検出方法により前記撮像素子の撮像情報から得た検出情報に応じて、前記撮像領域をN個(Nは1以上の任意の自然数)の分割画像領域に分割すると共に、前記分割画像領域毎に、その分割画像領域内の全光電変換画素領域数に対する信号を読み出す読み出し光電変換画素領域数の割合を示す重み付けの割合を設定したパターンを作成するパターン作成手段と、
    前記パターンに従って前記撮像素子を駆動する駆動手段と、
    前記撮像領域内の読み出し光電変換画素領域から読み出された第1の画素信号に基づいて、前記撮像領域内の読み出しが行われない光電変換画素領域の第2の画素信号を補間生成する補間手段と、
    前記第1の画素信号と前記第2の画素信号とを合成して所定フレームレートで撮像信号を生成し、前記パターン作成手段に供給する画像形成手段と
    を有することを特徴とする撮像装置。
  6. マトリクス状に2次元配列された複数の光電変換画素領域を撮像領域に有するランダムアクセス可能な撮像素子と、
    選択した検出方法により前記撮像素子の撮像情報から得た検出情報を取得する検出情報取得手段と、
    前記撮像領域を分割して得たN個(Nは1以上の任意の自然数)の分割画像領域内の全光電変換画素領域数に対する信号を読み出す読み出し光電変換画素領域数の割合を示す重み付けの割合を設定した複数のパターンが、前記検出情報毎に作成されて予め記憶されている記憶装置と、
    前記分割画像領域毎に取得した前記検出情報に基づいて前記記憶装置を参照して、その記憶装置に記憶されている前記複数のパターンから最も近似した一のパターンを選択する選択手段と、
    選択された前記パターンに従って前記撮像素子を駆動する駆動手段と、
    前記撮像領域内の読み出し光電変換画素領域から読み出された第1の画素信号に基づいて、前記撮像領域内の読み出しが行われない光電変換画素領域の第2の画素信号を補間生成する補間手段と、
    前記第1の画素信号と前記第2の画素信号とを合成して所定フレームレートで撮像信号を出力する画像形成手段と
    を有することを特徴とする撮像装置。
  7. 作成又は選択された前記パターンは、その分割画像領域内の全光電変換画素領域から信号を読み出す全画素読み出しを行う1以上の第1の分割画像領域と、その分割画像領域内の全光電変換画素領域のうち互いに異なる重み付けの割合で一部の光電変換画素領域の読み出しを間引く2以上の第2の分割画像領域とからなるパターンであり、前記第1の分割画像領域の光電変換画素領域と2以上の前記第2の分割画像領域内の各読み出しを行う光電変換画素領域の総数は、作成するパターンに関係なく、前記撮像領域の全光電変換画素領域の数より少ない予め定めた一定の数であることを特徴とする請求項5又は6記載の撮像装置。
  8. 前記検出情報取得手段は、手ぶれ補正機構から手ぶれ補正後の被写体の動き情報を取得する手段、ズーム倍率を設定するズーム機構からズーム倍率情報を取得する手段、被写体の動き情報に基づき手ぶれを補正する補正機構から前記被写体の動き情報又は前記被写体の静止情報を取得する手段、前記撮像信号中の特定の周波数情報が大きく得られる位置に前記撮像素子の光入射側に設けられたレンズを光軸上で移動させるオートフォーカス機構からオートフォーカス一致時の前記特定の周波数情報を取得する手段、及び前記撮像信号から得た顔と見做す顔情報を検出する顔検出手段から取得した前記顔情報うちのいずれか一の情報を得る手段であることを特徴とする請求項5又は6記載の撮像装置。
JP2006233026A 2006-02-07 2006-08-30 撮像方法及び撮像装置 Expired - Fee Related JP4816336B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006233026A JP4816336B2 (ja) 2006-02-07 2006-08-30 撮像方法及び撮像装置
US11/702,098 US7728900B2 (en) 2006-02-07 2007-02-05 Method and apparatus for taking pictures

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2006029693 2006-02-07
JP2006029693 2006-02-07
JP2006233026A JP4816336B2 (ja) 2006-02-07 2006-08-30 撮像方法及び撮像装置

Publications (2)

Publication Number Publication Date
JP2007243909A true JP2007243909A (ja) 2007-09-20
JP4816336B2 JP4816336B2 (ja) 2011-11-16

Family

ID=38333038

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006233026A Expired - Fee Related JP4816336B2 (ja) 2006-02-07 2006-08-30 撮像方法及び撮像装置

Country Status (2)

Country Link
US (1) US7728900B2 (ja)
JP (1) JP4816336B2 (ja)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102008047581A1 (de) 2007-09-20 2009-04-16 Hitachi, Ltd. Vorrichtung und Verfahren zur Steuerung der Kraftstoffeinspritzung eines Verbrennungsmotors
JP2010130087A (ja) * 2008-11-25 2010-06-10 Canon Inc 監視システム及び監視方法
JP2010199681A (ja) * 2009-02-23 2010-09-09 Nikon Corp 画像処理装置、および画像処理プログラム
JP2012142898A (ja) * 2011-01-06 2012-07-26 Nippon Hoso Kyokai <Nhk> 画像サイズ変換装置、方法およびプログラム
JP2012175466A (ja) * 2011-02-22 2012-09-10 Nippon Hoso Kyokai <Nhk> 画像縮小装置、画像拡大装置、画像縮小プログラム、及び画像拡大プログラム
US8373772B2 (en) 2008-04-28 2013-02-12 Panasonic Corporation Imaging apparatus for capturing a main image and a sub image
JP2013084001A (ja) * 2012-12-19 2013-05-09 Canon Inc 撮像装置及び画像処理方法
WO2013164915A1 (ja) * 2012-05-02 2013-11-07 株式会社ニコン 撮像装置
JP2014179892A (ja) * 2013-03-15 2014-09-25 Nikon Corp 撮像装置
JP2015039242A (ja) * 2014-11-21 2015-02-26 株式会社ニコン 撮像装置
JP2015121752A (ja) * 2013-12-25 2015-07-02 ソニー株式会社 制御装置、制御方法および制御システム
JP2016063537A (ja) * 2014-09-12 2016-04-25 株式会社ソニー・コンピュータエンタテインメント 撮像装置、情報処理装置、表示装置、情報処理システム、画像データ送出方法、および画像表示方法
WO2016147508A1 (ja) * 2015-03-18 2016-09-22 ソニー株式会社 画像処理装置と画像処理方法および撮像装置
JPWO2015194042A1 (ja) * 2014-06-20 2017-05-25 日産自動車株式会社 電波画像生成装置及び電波画像生成方法
JP2018182543A (ja) * 2017-04-13 2018-11-15 キヤノン株式会社 撮像装置、撮像システム、及び撮像素子の制御方法
JP2018207504A (ja) * 2018-07-25 2018-12-27 株式会社ニコン 電子機器

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007028339A (ja) * 2005-07-19 2007-02-01 Canon Inc 撮像装置及びその制御方法及びプログラム及び記憶媒体
US8749615B2 (en) 2007-06-07 2014-06-10 Reald Inc. Demultiplexing for stereoplexed film and video applications
JP4930302B2 (ja) * 2007-09-14 2012-05-16 ソニー株式会社 撮像装置、その制御方法およびプログラム
US8780988B2 (en) * 2008-02-28 2014-07-15 Vixs Systems, Inc. Hierarchical video analysis-based real-time perceptual video coding
EP2582126A4 (en) * 2010-07-14 2014-08-13 Lg Electronics Inc FOCUSING DEVICE AND METHOD THEREFOR
KR101739380B1 (ko) * 2011-04-11 2017-06-08 삼성전자주식회사 디지털 영상 촬영 장치 및 방법
JP2013031060A (ja) * 2011-07-29 2013-02-07 Sony Corp 画像処理装置、画像処理方法、およびプログラム
CN107147868B (zh) * 2011-12-15 2021-06-15 联想(北京)有限公司 处理采集图像的方法及电子设备
US9449583B2 (en) 2011-12-15 2016-09-20 Lenovo (Beijing) Co., Ltd. Control method and electronic apparatus
US9434875B1 (en) 2014-12-16 2016-09-06 Carbo Ceramics Inc. Electrically-conductive proppant and methods for making and using same
CN105229258A (zh) 2013-01-04 2016-01-06 卡博陶粒有限公司 电气地导电的支撑剂以及用于检测、定位和特征化该电气地导电的支撑剂的方法
US11008505B2 (en) 2013-01-04 2021-05-18 Carbo Ceramics Inc. Electrically conductive proppant
CN105103537B (zh) * 2013-02-27 2018-11-06 株式会社尼康 成像元件及电子设备
JP6375607B2 (ja) 2013-09-30 2018-08-22 株式会社ニコン 電子機器、電子機器の制御方法、及び制御プログラム
US20150185308A1 (en) * 2014-01-02 2015-07-02 Katsuhiro Wada Image processing apparatus and image processing method, image pickup apparatus and control method thereof, and program
US9551210B2 (en) 2014-08-15 2017-01-24 Carbo Ceramics Inc. Systems and methods for removal of electromagnetic dispersion and attenuation for imaging of proppant in an induced fracture
US9761001B2 (en) * 2014-09-25 2017-09-12 Intel Corporation Filtered shadow mapping
US9749554B2 (en) * 2015-08-20 2017-08-29 Semiconductor Components Industries, Llc Systems and methods for weighted image signal readout
JP6667268B2 (ja) * 2015-11-26 2020-03-18 キヤノン株式会社 動きベクトル検出装置およびその制御方法、撮像装置
JP6930526B2 (ja) * 2016-03-02 2021-09-01 ソニーグループ株式会社 撮像制御装置、撮像装置、および撮像制御方法
JP6429829B2 (ja) * 2016-05-25 2018-11-28 キヤノン株式会社 画像処理システム、画像処理装置、制御方法、及び、プログラム
CN106412592B (zh) * 2016-11-29 2018-07-06 广东欧珀移动通信有限公司 图像处理方法、图像处理装置、成像装置及电子装置
CN106604001B (zh) * 2016-11-29 2018-06-29 广东欧珀移动通信有限公司 图像处理方法、图像处理装置、成像装置及电子装置
CN106507068B (zh) * 2016-11-29 2018-05-04 广东欧珀移动通信有限公司 图像处理方法及装置、控制方法及装置、成像及电子装置
US20180183998A1 (en) * 2016-12-22 2018-06-28 Qualcomm Incorporated Power reduction and performance improvement through selective sensor image downscaling
US11310451B1 (en) 2019-09-05 2022-04-19 Waymo Llc Smart sensor with region of interest capabilities
US11252366B2 (en) 2019-11-19 2022-02-15 Waymo Llc Sensor read out mode for high resolution and low light imaging in-sync with LIDAR timing
US11428550B2 (en) 2020-03-03 2022-08-30 Waymo Llc Sensor region of interest selection based on multisensor data
US11756283B2 (en) 2020-12-16 2023-09-12 Waymo Llc Smart sensor implementations of region of interest operating modes

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05167976A (ja) * 1991-12-16 1993-07-02 Kyocera Corp 電子スチルカメラ
JP2004180240A (ja) * 2002-11-29 2004-06-24 Fujitsu Ltd 映像入力装置
JP2004229119A (ja) * 2003-01-24 2004-08-12 Matsushita Electric Ind Co Ltd Mos型固体撮像素子およびこれを備えた撮像装置
JP2006166400A (ja) * 2004-11-11 2006-06-22 Matsushita Electric Ind Co Ltd 撮像装置及び撮像方法
JP2007110289A (ja) * 2005-10-12 2007-04-26 Olympus Corp 固体撮像装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6639626B1 (en) * 1998-06-18 2003-10-28 Minolta Co., Ltd. Photographing apparatus with two image sensors of different size
JP3738652B2 (ja) * 2000-03-24 2006-01-25 コニカミノルタフォトイメージング株式会社 デジタルカメラ
US7224392B2 (en) * 2002-01-17 2007-05-29 Eastman Kodak Company Electronic imaging system having a sensor for correcting perspective projection distortion
JP4624065B2 (ja) * 2004-10-13 2011-02-02 オリンパス株式会社 撮像装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05167976A (ja) * 1991-12-16 1993-07-02 Kyocera Corp 電子スチルカメラ
JP2004180240A (ja) * 2002-11-29 2004-06-24 Fujitsu Ltd 映像入力装置
JP2004229119A (ja) * 2003-01-24 2004-08-12 Matsushita Electric Ind Co Ltd Mos型固体撮像素子およびこれを備えた撮像装置
JP2006166400A (ja) * 2004-11-11 2006-06-22 Matsushita Electric Ind Co Ltd 撮像装置及び撮像方法
JP2007110289A (ja) * 2005-10-12 2007-04-26 Olympus Corp 固体撮像装置

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102008047581A1 (de) 2007-09-20 2009-04-16 Hitachi, Ltd. Vorrichtung und Verfahren zur Steuerung der Kraftstoffeinspritzung eines Verbrennungsmotors
US8373772B2 (en) 2008-04-28 2013-02-12 Panasonic Corporation Imaging apparatus for capturing a main image and a sub image
JP2010130087A (ja) * 2008-11-25 2010-06-10 Canon Inc 監視システム及び監視方法
US8437504B2 (en) 2008-11-25 2013-05-07 Canon Kabushiki Kaisha Imaging system and imaging method
US8792681B2 (en) 2008-11-25 2014-07-29 Canon Kabushiki Kaisha Imaging system and imaging method
JP2010199681A (ja) * 2009-02-23 2010-09-09 Nikon Corp 画像処理装置、および画像処理プログラム
JP2012142898A (ja) * 2011-01-06 2012-07-26 Nippon Hoso Kyokai <Nhk> 画像サイズ変換装置、方法およびプログラム
JP2012175466A (ja) * 2011-02-22 2012-09-10 Nippon Hoso Kyokai <Nhk> 画像縮小装置、画像拡大装置、画像縮小プログラム、及び画像拡大プログラム
WO2013164915A1 (ja) * 2012-05-02 2013-11-07 株式会社ニコン 撮像装置
JP2013084001A (ja) * 2012-12-19 2013-05-09 Canon Inc 撮像装置及び画像処理方法
JP2014179892A (ja) * 2013-03-15 2014-09-25 Nikon Corp 撮像装置
JP2015121752A (ja) * 2013-12-25 2015-07-02 ソニー株式会社 制御装置、制御方法および制御システム
US10187583B2 (en) 2013-12-25 2019-01-22 Sony Corporation Control device, control method, and control system with independent exposure controls
JPWO2015194042A1 (ja) * 2014-06-20 2017-05-25 日産自動車株式会社 電波画像生成装置及び電波画像生成方法
JP2016063537A (ja) * 2014-09-12 2016-04-25 株式会社ソニー・コンピュータエンタテインメント 撮像装置、情報処理装置、表示装置、情報処理システム、画像データ送出方法、および画像表示方法
US9706114B2 (en) 2014-09-12 2017-07-11 Sony Corporation Image pickup apparatus, information processing apparatus, display apparatus, information processing system, image data sending method, image displaying method, and computer program
JP2015039242A (ja) * 2014-11-21 2015-02-26 株式会社ニコン 撮像装置
WO2016147508A1 (ja) * 2015-03-18 2016-09-22 ソニー株式会社 画像処理装置と画像処理方法および撮像装置
US10075661B2 (en) 2015-03-18 2018-09-11 Sony Corporation Image processing apparatus, image processing method, and image capturing apparatus
JP2018182543A (ja) * 2017-04-13 2018-11-15 キヤノン株式会社 撮像装置、撮像システム、及び撮像素子の制御方法
JP2018207504A (ja) * 2018-07-25 2018-12-27 株式会社ニコン 電子機器

Also Published As

Publication number Publication date
US20070181687A1 (en) 2007-08-09
JP4816336B2 (ja) 2011-11-16
US7728900B2 (en) 2010-06-01

Similar Documents

Publication Publication Date Title
JP4816336B2 (ja) 撮像方法及び撮像装置
US7679657B2 (en) Image sensing apparatus having electronic zoom function, and control method therefor
US8558913B2 (en) Capture condition selection from brightness and motion
US9451160B2 (en) Imaging apparatus and method for controlling the imaging apparatus
JP6375607B2 (ja) 電子機器、電子機器の制御方法、及び制御プログラム
US9621826B2 (en) Image sensor and image capturing apparatus
JP3395770B2 (ja) デジタルスチルカメラ
JP2012084960A (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP4141800B2 (ja) デジタルカメラ
JP4105967B2 (ja) デジタルスチルカメラ
EP2355491A1 (en) Imaging device, imaging method and imaging program
JP2020053771A (ja) 画像処理装置、撮像装置
JP2006166400A (ja) 撮像装置及び撮像方法
JP2010074634A (ja) 撮像装置及び撮像方法
JP2006261929A (ja) 撮像装置
JP6006390B1 (ja) 撮像システム、画像処理方法
US20220201179A1 (en) Image sensor and imaging device
JP2011166515A (ja) 撮像装置
JP2012128448A (ja) 撮影装置、合成画像作成方法及びプログラム
JP3738654B2 (ja) デジタルカメラ
US8804014B2 (en) Imaging device for reducing color moire
JP2010135904A (ja) 撮像装置
WO2021124736A1 (ja) 撮像装置
US20230199342A1 (en) Imaging device and imaging method
JP5845763B2 (ja) 撮像装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110309

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110322

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110509

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110714

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110802

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110815

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140909

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4816336

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140909

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140909

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140909

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees