JP2015041890A - 制御装置、制御方法、および電子機器 - Google Patents

制御装置、制御方法、および電子機器 Download PDF

Info

Publication number
JP2015041890A
JP2015041890A JP2013171966A JP2013171966A JP2015041890A JP 2015041890 A JP2015041890 A JP 2015041890A JP 2013171966 A JP2013171966 A JP 2013171966A JP 2013171966 A JP2013171966 A JP 2013171966A JP 2015041890 A JP2015041890 A JP 2015041890A
Authority
JP
Japan
Prior art keywords
pixel
mode
exposure amount
signal
control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013171966A
Other languages
English (en)
Inventor
征志 中田
Seishi Nakada
征志 中田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2013171966A priority Critical patent/JP2015041890A/ja
Priority to TW103125392A priority patent/TWI661727B/zh
Priority to KR1020167000163A priority patent/KR102184916B1/ko
Priority to CN201480039968.3A priority patent/CN105379248B/zh
Priority to US14/907,431 priority patent/US9998679B2/en
Priority to PCT/JP2014/071033 priority patent/WO2015025740A1/ja
Publication of JP2015041890A publication Critical patent/JP2015041890A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/67—Focus control based on electronic image sensor signals
    • H04N23/672—Focus control based on electronic image sensor signals based on the phase difference signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50—Control of the SSIS exposure
    • H04N25/57—Control of the dynamic range
    • H04N25/58—Control of the dynamic range involving two or more exposures
    • H04N25/581—Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/583—Control of the dynamic range involving two or more exposures acquired simultaneously with different integration times
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/703—SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704—Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50—Constructional details
    • H04N23/555—Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/67—Focus control based on electronic image sensor signals
    • H04N23/673—Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/743—Bracketing, i.e. taking a series of images with varying exposure conditions

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Power Engineering (AREA)
  • Color Television Image Signal Generators (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)

Abstract

【課題】適正な露光量を高速に設定することができるようにする。【解決手段】制御部は、複数の画素が２次元配置された画素群の露光量を制御する。具体的には、制御部は、撮影画像の記録を開始する前の第１のモードにおいては、複数種類の露光量を画素群に設定し、撮影画像を記録する第２のモードにおいては、第１のモードよりも少ない種類の露光量を画素群に設定する。本開示の技術は、例えば、固体撮像素子を制御する制御装置等に適用できる。【選択図】図４

Description

本開示は、制御装置、制御方法、および電子機器に関し、特に、適正な露光量を高速に設定することができるようにする制御装置、制御方法、および電子機器に関する。
近年、撮影時のダイナミックレンジを広げる手法として、行列状に配置された画素群に対して、大きな露光量を設定した画素と小さな露光量を設定した画素とを混在させる手法が提案されている（例えば、特許文献１参照）。
しかしながら、画素群が露光量の大きな画素と露光量の小さな画素を含む場合、例えば露光量の大きな画素は明部では飽和しやすくなり、飽和時には露光量の小さな画素だけが出力可能な画素となる。この時、画作りに使用できる画素が減るため、解像度が低下する。
一方、画素群の全画素が同じ露光量で統一されている場合、画素が飽和すると情報を全く得ることができない。つまり、どんな被写体があって、どのような輝度のものがあるのかといった情報が欠落してしまうため、自動露光（AutoExposure）、オートフォーカス（Auto Focus）、オートホワイトバランス（Auto White Balance）などの制御に必要な情報を全く取得することができなくなる。
特開２０１０−２８４２３号公報
近年、スマートフォンなどに代表されるようにタッチパネルを有した撮像装置が普及してきている。例えば、撮影中の画像内のタッチした位置にオートフォーカス等が合うような動作を行う場合、タッチ位置が飽和していると、その箇所がどの程度の蓄積時間であれば飽和しなくなるかという情報が全くないため、露光量を適正値にするまでに時間がかかっていた。
つまり、一定以上に露光量が大きいと、蛍光灯であっても太陽であっても同一に飽和してしまい、蛍光灯も太陽も同じ出力値で出力されてしまうため、明るさの差が識別できない。そのため、どこまで露光量を下げれば飽和しなくなるかは瞬時には判別できず、徐々に露光量を下げていくしかないため、露光量を適正値にするまでに時間がかかっていた。
本開示は、このような状況に鑑みてなされたものであり、適正な露光量を高速に設定することができるようにするものである。
本開示の第１の側面の制御装置は、複数の画素が２次元配置された画素群の露光量を制御する制御部を備え、前記制御部は、撮影画像の記録を開始する前の第１のモードにおいては、複数種類の露光量を前記画素群に設定し、撮影画像を記録する第２のモードにおいては、前記第１のモードよりも少ない種類の露光量を前記画素群に設定する。
本開示の第１の側面の制御方法は、複数の画素が２次元配置された画素群の露光量を制御する制御装置が、撮影画像の記録を開始する前の第１のモードにおいては、複数種類の露光量を前記画素群に設定し、撮影画像を記録する第２のモードにおいては、前記第１のモードよりも少ない種類の露光量を前記画素群に設定する。
本開示の第２の側面の電子機器は、複数の画素が２次元配置された画素群を備える固体撮像素子と、撮影画像の記録を開始する前の第１のモードにおいては、複数種類の露光量を前記画素群に設定し、撮影画像を記録する第２のモードにおいては、前記第１のモードよりも少ない種類の露光量を前記画素群に設定する制御部とを備える。
本開示の第１及び第２の側面においては、撮影画像の記録を開始する前の第１のモードにおいては、複数種類の露光量が画素群に設定され、撮影画像を記録する第２のモードにおいては、前記第１のモードよりも少ない種類の露光量が前記画素群に設定される。
制御装置及び電子機器は、独立した装置であっても良いし、１つの装置を構成している内部ブロックであっても良い。
本開示の第１及び第２の側面によれば、適正な露光量を高速に設定することができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
通常撮影モードとHDR撮影モードの特徴をまとめた図である。 通常撮影モードとHDR撮影モードの違いを説明する図である。 通常撮影モードとHDR撮影モードの違いを説明する図である。 本開示に係る撮像装置の構成例を示すブロック図である。 固体撮像素子の画素群の一部を示す図である。 倍率補正処理を説明する図である。 HDR撮影モードのときの撮影画像データの流れを示す図である。 プレビュー撮影時の画素補完を説明する図である。 プレビュー撮影時のクリッピング処理を説明する図である。 HDR撮影モードによる画像データの概念図を示す図である。 通常撮影モードのときの撮影画像データの流れを示す図である。 図４の撮像装置と一般的な通常撮影モード及びHDR撮影モードとを比較説明する図である。 本開示の撮像装置による撮影処理の流れを示す図である。 プレビュー撮影処理を説明するフローチャートである。 位相差画素を説明する図である。 本開示の撮像装置をチップ形態とした構成例を示す図である。 本開示の撮像装置を搭載したカプセル内視鏡の断面構成を示す図である。 本開示の撮像装置を含むスマートフォンの外観構成を示す図である。 本開示の撮像装置を備える眼鏡型撮像装置の構成例示す図である。
以下、本開示を実施するための形態（以下、実施の形態という）について説明する。なお、説明は以下の順序で行う。
１．通常撮影モードとHDR撮影モードの説明
２．撮像装置の構成例
３．HDR撮影モードの撮影画像データの流れ
４．通常撮影モードの撮影画像データの流れ
５．撮影処理の流れ
６．プレビュー撮影処理の処理フロー
７．変形例
８．電子機器への適用例
＜１．通常撮影モードとHDR撮影モードの説明＞
以下に詳述する撮像装置１（図４）は、通常撮影モードとHDR撮影モードの２つの撮影モード（撮影方式）を有し、それらを動作状態によって使い分ける。
そこで、初めに、図１乃至図３を参照して、通常撮影モードとHDR撮影モードの一般的な特徴について説明する。
図１は、通常撮影モードとHDR撮影モードの特徴をまとめた図である。
通常撮影モードでは、ベイヤ配列で配置された各画素において、一律の露光量が設定される。そして、その設定された露光量に基づいて、各画素の出力信号が得られる。通常撮影モードは、解像度が高いという利点がある反面、ダイナミックレンジの拡大機能がないという欠点を有する。「R１」は赤色の光を受光するR画素、「G１」は緑色の光を受光するG画素、「B１」は青色の光を受光するB画素を表す。
一方、HDR撮影モードはハイダイナミックレンジ（HDR）な出力信号が得られるモードであり、ベイヤ配列で配置された画素群には、大きい露光量が設定される画素と、小さい露光量が設定される画素がある。ここで、露光量とは、シャッタ時間とゲインを用いて、露光量＝シャッタ時間×ゲインの関係で表される制御量である。
以下では、露光量の大きな画素を長畜画素、露光量の小さな画素を短畜画素とも言う。図１において「R１」、「G１」、「B１」が表示された白地の画素は長畜画素を示し、「R０」、「G０」、「B０」が表示された黒地の画素は短畜画素を示している。
図１では、長畜画素と短畜画素の配置の仕方が異なる２種類のHDR撮影モードが示されている。HDR撮影モードの配列P1は、奇数ラインの全てが長畜画素に設定され、偶数ラインの全てが短畜画素に設定される配列方法である。HDR撮影モードの配列P2は、長畜画素と短畜画素のそれぞれが、３画素単位で縦方向と横方向を切替えて、全体として斜め方向のラインとなるように配置される配列方法である。
HDR撮影モードでは、例えば、長畜画素が飽和したとしても短畜画素で信号を得ることができるため、単一露光量の通常撮影モードでは飽和するようなシーンであっても、短畜画素を用いて階調を持たせることが可能となる。その反面、長畜画素が飽和するようなシーンでは、長畜画素からは信号が得られないため、解像度が低下する。
撮影した画像の例で、通常撮影モードとHDR撮影モードの違いについてさらに説明する。
例えば、図２に示されるような風景を被写体として撮影する場合を考える。図２に示される被写体は、上部の領域が太陽光の影響で明るい領域（明部）であり、下部の領域が木陰で比較的暗い領域（暗部）であるとする。
図３Aは、図２の被写体を一般的な通常撮影モードで撮影した画像を示し、図３Bは、図２の被写体を一般的なHDR撮影モードで撮影した画像を示している。
図３Aの通常撮影モードの場合には、暗部である下部の領域に最適露光量が設定され、ダイナミックレンジが十分にないため、明部である上部の領域が飽和している。
これに対して、図３BのHDR撮影モードの場合には、明部と暗部の両方の階調が確保できている。しかし、図面では現れていないが、明部である上部の領域の長畜画素は飽和して欠落画素となっており、短畜画素だけで表現されているため、解像度は低下している。また、暗部である下部の領域も、短畜画素ではノイズが大きくなるため、短畜画素を用いずに長畜画素のみを用いるようにした場合には、やはり解像度が低下する。したがって、一般に、ダイナミックレンジを優先するのであれば、HDR撮影モードの方が望ましく、解像度を優先するのであれば、通常撮影モードの方が望ましいと言える。
本開示に係る撮像装置１は、撮影画像の記録を開始する前のプレビュー撮影では、HDR撮影モードを実行し、撮影画像を記録する記録撮影では、HDR撮影モードで取得した露光量情報を用いて、通常撮影モードを実行する。
＜２．撮像装置の構成例＞
図４は、本開示に係る撮像装置の構成例を示すブロック図である。
光学レンズ１１は、固体撮像素子１３に入射する被写体光の焦点距離の調整を行う。光学レンズ１１の後段には、固体撮像素子１３に入射する被写体光の光量調整を行う絞り（図示せず）が設けられている。光学レンズ１１の具体的な構成は任意であり、例えば、光学レンズ１１は複数のレンズにより構成されていてもよい。
光学レンズ１１を透過した被写体光は、例えば、赤外光以外の光を透過するIRカットフィルタ等として構成される光学フィルタ１２を介して固体撮像素子１３に入射される。
固体撮像素子１３は、複数の画素が２次元配置された画素群（画素アレイ部）を有し、被写体光を画素単位で電気信号に変換し、その電気信号をA/D変換部１４に供給する。
固体撮像素子１３は、プレビュー撮影時には、後述する３A制御部１９によりHDR撮影モードに設定されて動作する。一方、記録撮影時には、固体撮像素子１３は、３A制御部１９により通常撮影モードに設定されて動作する。
図５Aは、HDR撮影モードで動作するときの固体撮像素子１３の状態を示す図であり、図５Bは、通常撮影モードで動作するときの固体撮像素子１３の状態を示す図である。
HDR撮影モードでは、図５Aに示されるように、長畜画素と短畜画素が２行単位で交互に配置されるように、ベイヤ配列で配列された各画素に対して露光量が設定される。
一方、通常撮影モードでは、図５Bに示されるように、ベイヤ配列で配列された各画素に対して単一の露光量が設定される。なお、通常撮影モードでは、HDR撮影モードにおいて長畜画素に対して設定された露光量が、全画素に対して一律に設定される。
図４に戻り、A/D変換部１４は、固体撮像素子１３から供給されるアナログの電気信号（画素信号）をデジタルの画素信号に変換する。A/D変換部１４は、A/D変換後のデジタルの画素信号をクランプ部１５に供給する。
クランプ部１５は、A/D変換部１４から出力されてきた画素信号から、黒色と判定されるレベルである黒レベルを減算する。そして、クランプ部１５は、黒レベル減算後の画素信号をメモリ部１６に出力する。
メモリ部１６は、クランプ部１５からの画素信号（画素データ）を一時的に記憶する。そして、メモリ部１６は、長畜画素の画素データ（以下、長露光データともいう。）を長畜短畜合成部１８およびデモザイク部２１に供給し、短畜画素の画素データ（以下、短露光データともいう。）を倍率演算部１７に供給する。
倍率演算部１７は、メモリ部１６から供給される短露光データを露光比倍することにより、短露光データを長露光データの感度に倍率補正する。そして、倍率演算部１７は、倍率補正後の短露光データを長畜短畜合成部１８に供給する。
図６は、倍率演算部１７による倍率補正処理を説明する図である。
図６Aは、長露光データと短露光データの関係を示している。長畜画素では飽和してしまうような場合でも、短畜画素では、露光量が小さいために、飽和レベルに到達せず、飽和しにくくなっている。
倍率演算部１７は、短露光データに長畜と短畜の露光比を掛け算することにより、図６Bに示される倍率補正後の短露光データを生成する。これにより、ハイダイナミックレンジな信号が生成される。なお、倍率補正後の短露光データの傾きは、長露光データの傾きと等しい。
図４に再び戻り、長畜短畜合成部１８は、HDR撮影モードにおいては、倍率演算部１７から供給される倍率補正後の短露光データと、メモリ部１６から供給される長露光データを合成する。そして、長畜短畜合成部１８は、合成の結果得られる合成データを、３A制御部１９、動被写体検出部２０、およびパターン検出部２８に供給する。
一方、通常撮影モードでは、長畜画素の露光量が全画素一律に設定されるので、全画素の画素値が、長露光データとして、メモリ部１６から長畜短畜合成部１８に供給される。長畜短畜合成部１８は、その長露光データを、３A制御部１９、動被写体検出部２０、およびパターン検出部２８に供給する。
なお、長畜短畜合成部１８から、３A制御部１９、動被写体検出部２０、およびパターン検出部２８に供給される合成データおよび長露光データは、画素単位のデータであってもよいし、画素群を複数のブロックに分割し、ブロック内の各画素データの平均値など、ブロック単位の画素データでもよい。
３A制御部１９は、HDR撮影モードでは、長畜短畜合成部１８から供給されるハイダイナミックレンジな信号である合成データに基づいて３A制御を行う。一方、通常撮影モードでは、３A制御部１９は、長畜短畜合成部１８から供給される長露光データに基づく３A制御を行う。
ここで、３A制御とは、自動露光（AutoExposure）、オートフォーカス（Auto Focus）、オートホワイトバランス（Auto White Balance）の制御のことをいう。
したがって、より具体的に言えば、３A制御部１９は、長畜短畜合成部１８から供給される合成データ等のコントラスト情報に基づいて合焦しているかどうかを判定し、その判定結果に基づいて光学レンズ１１を駆動する制御を行う。また、３A制御部１９は、長畜短畜合成部１８から供給される合成データ等に基づいて固体撮像素子１３の各画素のシャッタ時間とゲインを決定し、固体撮像素子１３に設定する。さらに、３A制御部１９は、長畜短畜合成部１８から供給される合成データ等に基づいて、ホワイトバランス等の色処理を行うための色制御情報を生成し、LM/WB/ガンマ補正部２２に供給する。
動被写体検出部２０は、撮影画像のなかの動被写体を検出する処理を実行し、その検出結果を制御部３０に供給する。
デモザイク部２１は、メモリ部１６からの長露光データに対してデモザイク処理を行うことで色情報の補完等を行って、RGBデータに変換する。デモザイク部２１は、デモザイク処理後の画像データをLM/WB/ガンマ補正部２２に供給する。
LM/WB/ガンマ補正部２２は、デモザイク部２１からの画像データに対して、３A制御部１９からの色制御情報を用いて色特性の補正を行う。具体的には、LM/WB/ガンマ補正部２２は、規格で定められた原色（RGB）の色度点と実際のカメラの色度点の差を埋めるために、マトリクス係数を用いて画像データの各色信号を補正し、色再現性を変化させる処理を行う。また、LM/WB/ガンマ補正部２２は、画像データの各チャンネルの値について白に対するゲインを設定することで、ホワイトバランスを調整する。さらに、LM/WB/ガンマ補正部２２は、画像データの色と出力デバイス特性との相対関係を調節して、よりオリジナルに近い表示を得るためのガンマ補正を行う。LM/WB/ガンマ補正部２２は、補正後の画像データを輝度クロマ信号生成部２３に供給する。
輝度クロマ信号生成部２３は、LM/WB/ガンマ補正部２３から供給された画像データから輝度信号（Ｙ）と色差信号（Cr,Cb）とを生成する。輝度クロマ信号生成部２３は、輝度クロマ信号（Y,Cr,Cb）を生成すると、その輝度信号と色差信号を、ディスプレイ２４と記録制御部２６に供給する。
ディスプレイ２４は、例えばLCD（Liquid Crystal Display）や有機EL(Electro Luminescence)ディスプレイなどのディスプレイと、そのディスプレイを駆動するディスプレイドライバ等で構成される。
ディスプレイ２４は、輝度クロマ信号生成部２３から供給される画像データ（輝度クロマ信号）に基づく画像を表示する。換言すれば、ディスプレイ２４は、固体撮像素子１３で撮影された動画または静止画を表示する。ディスプレイ２４には、タッチパネル２５が重畳されており、ユーザの指などによるディスプレイ２４への操作入力を検知することができる。タッチパネル２５により検出されたタッチ入力情報は、制御部３０に供給される。
記録制御部２６は、不図示の録画ボタン等が操作され、記録の開始が指示された場合に、輝度クロマ信号生成部２３から供給される画像データに対して、所定の符号化方式による圧縮符号化処理を施して、記録媒体２７に記録する。記録媒体２７は、例えば、半導体メモリ、磁気記録媒体、光磁気記録媒体などで構成され、圧縮符号化された撮影画像の画像データを記憶（記録）する。
パターン検出部２８は、長畜短畜合成部１８から供給される合成データ等に基づいて、撮影画像のなかに、メモリ部２９に予め登録されているパターン画像と一致するものがあるか否かを検出し、その検出結果を制御部３０に供給する。メモリ部２９は、パターン検出部２８によるパターン検出に必要な、顔や物体のパターン画像を記憶している。
制御部３０は、撮像装置１全体の動作を制御する。例えば、制御部３０は、記録のオンオフを操作する録画ボタン（不図示）の操作に基づいて、プレビュー撮影か記録撮影かを判断し、通常撮影モードとHDR撮影モードとを切替える制御信号を３A制御部１９に供給する。３A制御部１９は、制御部３０からの制御信号に基づいて、固体撮像素子１３の各画素に対して、通常撮影モードかまたはHDR撮影モードに応じた露光量を設定する。
また、制御部３０は、動被写体検出部２０から供給される動被写体情報、タッチパネル２５から供給されるタッチ入力情報、パターン検出部２８から供給されるパターン検出情報などに基づいて、３A制御の対象領域を示す３A制御領域信号を生成し、３A制御部１９に供給する。
具体的には、制御部３０は、タッチパネル２５から供給されるタッチ入力情報に基づいて、撮影画像のなかでユーザが指定した領域を示す情報を、フォーカスや露光量などを合わせる３A制御の対象領域として、３A制御部１９に供給する。
また例えば、制御部３０は、動被写体検出部２０から供給される動被写体情報に基づいて、撮影画像で検出された所定の物体が存在する領域を示す情報を、フォーカスや露光量などを合わせる３A制御の対象領域として、３A制御部１９に供給する。
あるいはまた、制御部３０は、パターン検出部２８から供給されるパターン検出情報に基づいて、撮影画像内で検出されたユーザの顔の領域を示す情報を、フォーカスや露光量などを合わせる３A制御の対象領域として、３A制御部１９に供給する。
従って、動被写体検出部２０、タッチパネル２５、及びパターン検出部２８は、３A制御（例えば、露光量の決定）を行う対象の領域となる画素群の所定の領域を特定する領域特定部として機能する。
なお、制御部３０が、動被写体情報、タッチ入力情報、及びパターン検出情報をどのように選択もしくは組み合わせて使用するかは任意である。
なお、３A制御部１９や制御部３０は、例えば、ROM（Read Only Memory）に記憶されたプログラムを読み出してCPU（Central Processing Unit）に実行させることにより実現することができ、３A制御部１９と制御部３０を一つの制御部（制御装置）として設けることも可能である。
また、３A制御部１９や制御部３０は、固体撮像素子１３とともにワンチップとして構成された形態や、光学レンズ１１や光学フィルタ１２とともにパッケージングされた撮像モジュールの形態とすることも可能である。
あるいはまた、３A制御部１９や制御部３０は、倍率演算部１７や長畜短畜合成部１８などとともに、一つの制御装置として構成することも可能である。すなわち、撮像装置１の各構成は、任意の単位で分割または統合し、一つの装置、モジュール、チップ等として構成することができる。
撮像装置１は、以上のように構成されている。
＜３．HDR撮影モードの撮影画像データの流れ＞
図７は、撮像装置１がHDR撮影モードで動作するときの撮影画像データの流れを示している。
固体撮像素子１３において長畜画素と短畜画素のいずれかに設定されて得られた各画素の画素データが、メモリ部１６に供給され、記憶される。
そして、短畜画素の画素データである短露光データは、メモリ部１６から倍率演算部１７へ供給され、倍率演算部１７で倍率補正された後、長畜短畜合成部１８に供給される。
一方、長畜画素の画素データである長露光データは、メモリ部１６から長畜短畜合成部１８とデモザイク部２１に供給される。
長畜短畜合成部１８では、倍率補正後の短露光データと長露光データとが合成され、その結果得られた合成データが、３A制御部１９に供給される。したがって、HDR撮影モードにおいては、ハイダイナミックレンジな合成データに基づいて、３A制御が実行される。
また、動被写体検出部２０とパターン検出部２８にも、ハイダイナミックレンジな合成データが供給される。これにより、通常、飽和して見えないような領域に動被写体やユーザの顔領域が存在する場合であっても、動被写体検出部２０及びパターン検出部２８は、それらを検出することができる。
一方、デモザイク部２１には、メモリ部１６から、長露光データのみが供給される。したがって、プレビュー撮影時にディスプレイ２４に表示される画像は、図８Aに示されるような間引きされた信号に基づく画像となる。
プレビュー撮影時にディスプレイ２４に表示される画像は、間引きされた信号に基づく画像でもよいが、勿論、図８Bに示されるような、欠落した短畜画素の画素データを補完した画像を表示してもよい。
短畜画素の画素データを補完する方法は、周辺の画素データからバイリニア補完などで推定する方法もあるが、例えば、短畜画素の画素データを使用してもよい。この場合、長畜短畜合成部１８が、倍率補正後の短露光データと長露光データを合成した合成データをデモザイク部２１に供給する。ただし、３A制御部１９等に供給される合成データとは異なり、図９に示すように、飽和レベル以上の画素データは供給されず、長畜画素と同じ出力範囲内にクリッピングされた合成データが、ディスプレイ表示用の信号として、長畜短畜合成部１８からデモザイク部２１に供給される。
例えば、長畜画素の画素データが、１０ビットの１０２４階調で演算されているとすると、短畜画素の倍率補正データも１０２４階調で表現される。これは、短畜画素の倍率補正データであれば、図６Bに示したように、さらに明るい領域を表現することが可能であるが、記録撮影時は通常撮影モードで動作することを前提としているため、プレビュー撮影と記録撮影とで、ディスプレイ表示用の画素信号のダイナミックレンジに差を持たせないようにするためである。これにより、プレビュー撮影時にディスプレイ２４に表示される画像と、記録撮影時にディスプレイ２４に表示される画像に違いが生じないため、記録撮影時にユーザが意図した映像を撮影、記録することができるようになる。
図１０は、撮像装置１のHDR撮影モードによる画像データの概念図を示している。
図１０上段は、メモリ部１６に入力される短畜画素と長畜画素の画像データの概念図を示している。画素信号の演算ビット数が１０ビットである場合、短畜画素と長畜画素のいずれも１０２４階調で表現される。
図１０下段は、長畜短畜合成部１８で合成処理された後の合成データの概念図を示している。合成処理された後の合成データは、１０２４階調を超えるハイダイナミックレンジで表現される。
ただし、上述したように、１０２４階調を超えるハイダイナミックレンジな合成データが入力されるのは３A制御部１９のみであり、ディスプレイ２４では、合成データが１０２４階調でクリッピングされた画像が表示される。
３A制御部１９へは、１０２４階調を超えるハイダイナミックレンジな合成データが入力されているため、例えば、ディスプレイ２４上の表示ではクリッピングされている領域が３A制御対象領域として指定された場合であっても、直ぐに、その領域が最適露光になるように３A制御を実行することができる。
一般的なHDR撮影モードでは、ディスプレイ２４の表示としても、１０２４階調を超えるハイダイナミックレンジな合成データが使用されるため、本開示の撮像装置１では、この点が一般的なHDR撮影モードとは異なる。
＜４．通常撮影モードの撮影画像データの流れ＞
図１１は、撮像装置１が通常撮影モードで動作するときの撮影画像データの流れを示している。
通常撮影モードでは、固体撮像素子１３の全画素が同一の露光量に設定される。本実施の形態では、上述したように、固体撮像素子１３の全画素が、プレビュー撮影時の最適露光量である長畜画素の露光量に設定されるので、メモリ部１６には、長露光データが記憶される。
そして、メモリ部１６に記憶された長露光データは、長畜短畜合成部１８とデモザイク部２１に供給される。
長畜短畜合成部１８は、メモリ部１６から供給された長露光データを、そのまま、３A制御部１９、動被写体検出部２０、およびパターン検出部２８に供給する。したがって、通常撮影モードにおいては、全画素で露光量を統一して得られた画像データに基づいて、３A制御が実行される。
また、デモザイク部２１にも、全画素が長畜画素の露光量に設定されて得られた画像データが供給されるので、最適露光量に設定された高解像度の画像がディスプレイ２４に表示されるとともに、記録媒体２７に記録される。
＜一般的な通常撮影モード及びHDR撮影モードとの比較＞
図１２を参照して、本開示の撮像装置１と、一般的な通常撮影モード及びHDR撮影モードとを、さらに比較説明する。
一般的な通常撮影モードでは、プレビュー撮影時にディスプレイ２４に表示される表示画像、３A制御に用いられる信号、及び、記録撮影時にディスプレイ２４に表示される表示画像（記録画像も同じ）のいずれも、解像度は高いがダイナミックレンジの狭い画像となる。
逆に、一般的なHDR撮影モードでは、プレビュー撮影時にディスプレイ２４に表示される表示画像、３A制御に用いられる信号、及び、記録撮影時にディスプレイ２４に表示される表示画像のいずれも、ダイナミックレンジは広いが、解像度を犠牲にした画像となる。
これに対して、撮像装置１では、プレビュー撮影では、一般的なHDR撮影モードと同じ駆動で固体撮像素子１３を制御し、３A制御には一般的なHDR撮影モードと同じハイダイナミックレンジな信号を使用するが、ディスプレイ２４に表示される表示画像としては長畜画素の信号のみが使用される。そして、記録撮影時も、長畜画素の信号に基づく画像をディスプレイ２４に表示するため、撮像装置１では、プレビュー撮影の表示画像と、記録撮影の表示画像の見た目が変わらないという特徴がある。
また、撮像装置１では、３A制御にはハイダイナミックレンジな信号を使用するので、例えば、一般的な通常撮影モードでは飽和しているような領域が３A制御対象領域としてユーザによりタッチ入力された場合であっても、タッチ位置の適切な露光量を即座に演算し、制御することができる。
そして、記録撮影が開始された場合には、その適切な露光量が全画素に対して設定されるので、解像度の高い画像を表示、記録することができる。
したがって、撮像装置１によれば、明暗差が激しいシーンを撮影した場合であっても、プレビュー撮影において、露光量やフォーカスなどを瞬時に最適値に設定することができるとともに、一般的なHDR撮影モードで発生していた記録撮影画像の解像度が低いという問題も解決することができる。
換言すれば、撮像装置１は、画像を残さないプレビュー撮影では、ダイナミックレンジの広い画素信号を使用する制御を行い、画像を残す記録撮影では、単一の露光量に設定して解像度を上げる制御を行う。
＜５．撮影処理の流れ＞
図１３は、撮像装置１による撮影処理の流れを示している。
プレビュー撮影において、ダイナミックレンジの狭い（クリッピングされた）画像５１がディスプレイ２４に表示される。
そして、例えば、ユーザが、ディスプレイ２４に表示された画像５１のなかで、飽和している領域（画素）５２を３A制御対象領域としてタッチしたとする。このとき、タッチパネル２５で検出されたタッチ位置が制御部３０を介して３A制御部１９に供給される。
３A制御部１９には、合成データに基づくハイダイナミックレンジな信号が供給されているので、３A制御部１９は、ディスプレイ２４上では表示されていなかった領域５２の適切な３A制御量を演算することができ、タッチ位置が適正な露光量、フォーカス位置、及びホワイトバランスとなるように制御する。これにより、露光量、フォーカス位置等がタッチ位置に合わせて適切に設定された画像５３が、ディスプレイ２４に表示される。
そして、録画ボタンが押下されると、適切に設定された露光量を全画素に適用した動画像（画像５４−１、５４−２、５４−３、・・）が撮影され、ディスプレイ２４に表示されるとともに、記録媒体２７に記録される。
一般的な通常撮影モードでは、タッチ位置が飽和している場合、その箇所がどの程度の蓄積時間であれば飽和しなくなるかという情報が全くないために、徐々に露光量を下げていくしかないため、露光量を適正値にするまでに時間がかかっていた。
本開示の撮像装置１では、上述したように、３A制御には合成データに基づくハイダイナミックレンジな信号を使用しているので、タッチ位置がディスプレイ２４上で飽和している場合であっても、高速かつ正確に、適正な露光量を設定することができ、フォーカスも合わせることができる。
換言すれば、本開示の撮像装置１では、プレビュー撮影の３A制御のみに、合成データに基づくハイダイナミックレンジな信号を適用することで、高速かつ正確に、適正な露光量を設定することができ、フォーカスも合わせることができる。
＜６．プレビュー撮影処理の処理フロー＞
次に、図１４のフローチャートを参照して、撮像装置１のプレビュー撮影時の処理であるプレビュー撮影処理について説明する。例えば、撮像装置１の電源が投入されたとき、図１４の処理が開始される。
初めに、ステップＳ１において、３A制御部１９は、制御部３０からの指令に基づき、固体撮像素子１３をHDR撮影モードで駆動させる。固体撮像素子１３はHDR撮影モードによる駆動を開始する。HDR撮影モードでは、図５Aに示したように、長畜画素かまたは短畜画素のいずれかとなるように露光量が設定されて、撮影された画素データがメモリ部１６に供給される。
ステップＳ２において、メモリ部１６は、短露光データ（短畜画素の画素データ）を倍率演算部１７に供給し、長露光データ（長畜画素の画素データ）を長畜短畜合成部１８とデモザイク部２１に供給する。
ステップＳ３において、倍率演算部１７は、メモリ部１６から供給される短露光データを露光比倍し、倍率補正後の短露光データを長畜短畜合成部１８に供給する。
ステップＳ４において、長畜短畜合成部１８は、倍率演算部１７から供給される倍率補正後の短露光データと、メモリ部１６から供給された長露光データを合成する。
そして、ステップＳ５において、長畜短畜合成部１８は、合成の結果得られた合成データを、３A制御部１９、動被写体検出部２０、およびパターン検出部２８に供給する。
ステップＳ６において、３A制御部１９は、ハイダイナミックレンジな信号である合成データに基づいて、３A制御を行う。
ステップＳ７において、ディスプレイ２４は、長露光データに基づく画像を表示する。なお、ステップＳ７の処理は、上述したステップＳ３乃至Ｓ６の処理と並行して実行することができる。
ステップＳ８において、制御部３０は、タッチパネル２５からのタッチ入力情報に基づいて、ディスプレイ２４にユーザのタッチがあったか否かを判定する。
ステップＳ８で、ユーザのタッチがないと判定された場合、処理はステップＳ１に戻り、それ以降の処理が再度実行される。即ち、合成データに基づく３A制御と、長露光データに基づく画像のディスプレイ２４への表示が継続される。
一方、ステップＳ８で、ユーザのタッチがあったと判定された場合、処理はステップＳ９に進み、制御部３０は、タッチパネル２５からのタッチ入力情報に基づいて、タッチ位置を示す３A制御対象領域信号を、３A制御部１９に出力する。
ステップＳ１０において、３A制御部１９は、取得した３A制御対象領域信号に基づいて、タッチ位置は長畜画素が飽和している領域であるかを判定する。
ステップＳ１０で、タッチ位置が長畜画素が飽和している領域であると判定された場合、処理はステップＳ１１に進み、３A制御部１９は、タッチ位置周辺の短露光データを用いて３A制御を行う。
３A制御部１９は、例えば、以下の計算式により、短畜画素の画素データを用いて、最適な露光量を瞬時に計算することができる。
最適露光量Ｙ＜飽和信号値ａ÷（短畜画素値ｂ×露光比ｃ）×長畜露光量ｄ
なお、最適な露光量の計算式は、上記の計算式に限定されず、任意の計算式を採用することができる。
一方、ステップＳ１０で、タッチ位置が長畜画素が飽和している領域ではないと判定された場合、処理はステップＳ１２に進み、３A制御部１９は、タッチ位置の長露光データを用いて３A制御を行う。
ステップＳ１１およびステップＳ１２の処理では、長畜画素の露光量が、最適な露光量に設定される。短畜画素の露光量は、予め設定した任意の（固定の）露光量、若しくは、最適値に設定された長畜画素の露光量に対して所定の露光比で求めた露光量とすることができる。
ステップＳ１３において、制御部３０は、録画ボタンが押下されたか否かを判定する。ステップＳ１３で、録画ボタンがまだ押下されていないと判定された場合、処理はステップＳ１に戻り、上述した処理が繰り返される。
一方、ステップＳ１３で、録画ボタンが押下されたと判定された場合、処理はステップＳ１４に進み、制御部３０は、撮影モードを、HDR撮影モードから通常撮影モードに変更し、固体撮像素子１３が通常撮影モードによる駆動を開始して、プレビュー撮影処理を終了する。
なお、通常撮影モードが開始されると、HDR撮影モードにおいて固体撮像素子１３の長畜画素に設定されていた露光量が、全ての画素に対して設定される。
＜７．変形例＞
上述した例では、プレビュー撮影時のHDR撮影モードでは長畜画素の画素データをディスプレイ２４に供給し、記録撮影時の通常撮影モードでは、長畜画素の露光量に全画素の露光量を統一するようにしたが、短畜画素の画素データを使うようにしてもよい。すなわち、プレビュー撮影時のHDR撮影モードでは短畜画素の画素データをディスプレイ２４に供給し、記録撮影時の通常撮影モードでは、短畜画素の露光量に全画素の露光量を統一するようにしてもよい。この場合、上述したステップＳ１１およびＳ１２の処理で最適な露光量に設定されるのが、短畜画素となる。
短畜画素の画素データを用いる場合には、短畜画素は飽和しにくいため、３A制御にも飽和しない信号を用いることができる。しかし、短畜画素の画素データは、蓄積時間が短いが故にノイズが大きい（S/N比が小さい）ため、３A制御を行う上で、例えば、コントラストからフォーカス位置を合わせるAF方式などに弊害を生じさせる。したがって、長畜画素が飽和していない領域では、図１４のフローチャートで説明したように、ノイズが小さい（S/N比が大きい）長畜画素を用いて３A制御（コントラストAFなど）を行うことが望ましい。
上述した実施の形態では、プレビュー撮影時のHDR撮影モードにおける露光量の種類が、短畜と長畜の２種類としたが、HDR撮影モードにおける露光量の種類は、３以上の種類とすることができる。その場合、記録撮影時の通常撮影モードにおける露光量の種類は、プレビュー撮影時のHDR撮影モードにおける露光量の種類よりも少ない種類となる。
例えば、撮像装置１は、プレビュー撮影時のHDR撮影モードでは、露光量＋、露光量＋＋、露光量＋＋＋、露光量＋＋＋＋の４種類の露光量を用いた３A制御を行う。ここで、「＋」は一定の露光量を表し、「＋」の個数が多いほど、露光量が大きいことを表す。
この場合、プレビュー撮影では、撮像装置１は、露光量＋＋＋と露光量＋＋＋＋の露光量が大きい２種類の画素データを用いた画像をディスプレイ２４に表示する。そして、撮像装置１は、露光量＋＋＋と露光量＋＋＋＋の画素が最適な露光量になるように３A制御を行う。その後、HDR撮影モードから通常撮影モードに変更する際には、撮像装置１は、全画素の露光量を露光量＋＋＋かまたは露光量＋＋＋＋に設定して得られた画像を記録媒体２７に記録する。
以上のように、撮像装置１は、プレビュー撮影時のHDR撮影モードにおいては、複数種類の露光量を画素群に設定し、記録撮影時の通常撮影モードにおいては、プレビュー撮影時の露光量の少なくとも一つを含み、HDR撮影モードよりも少ない種類の露光量を画素群に設定することができる。このような場合においても、記録撮影時では、プレビュー撮影時よりも露光量の種類が減って解像度が向上するので、解像感をプレビュー撮影時よりも高めることができる。
また、プレビュー撮影時のHDR撮影モードにおける短畜画素と長畜画素の配列方法も、図５Aに示した配列に限定されず、任意である。例えば、図１に示した配列P1やP2のような配列方法でもよい。さらには、特開２０１０−２８４２３号公報に記載のような、２×２画素を１単位画素として見なす配列であっても良い。
なお、上述した例では、３A制御のうち、露光量（AE）の制御について主に説明したが、オートフォーカス制御や、オートホワイトバランス制御についても同様に制御できることは言うまでもない。
また、オートフォーカス制御は、短畜画素のコントラスト情報を用いて行ってもよいし、図１５に示す３×３画素の中央部に配列されているような、画素の一部が遮光された位相差画素を固体撮像素子１３の画素群に混在させ、位相差画素からの信号を用いて、３A制御部１９がオートフォーカス制御を行うようにしてもよい。
位相差画素は、一部が遮光されているため、長畜画素として露光量が設定されていたとしても通常画素よりも飽和しにくいが、仮に飽和していた場合には、短蓄画素として露光量が設定されている位相差画素を用いてオートフォーカス制御を行えば良い。なお、位相差画素の信号を用いたオートフォーカス制御の方法については、例えば特開２０１０−１６０３１３号公報に記載されている。
露光量が大きい長蓄画素では、蛍光灯であっても太陽であっても飽和してしまうが、短蓄画素はある程度の明るさ（例えば蛍光灯）であれば飽和しないように設定することができる。つまり、光源の発光源付近までの信号を得ることができるため（光源から離れる程、複数の光源の色が混じり推定が難しくなる）、その光源のRGB比から、より正確に光源を推定することが可能となる。３A制御部１９は、光源推定した結果に基づいて、オートホワイトバランスを適正に制御することができる。例えば、光源が暖色系白熱電球であれば、赤色をやや強めにしたホワイトバランスにして、記憶色に近づけるなどの制御を行うことができる。
＜８．電子機器への適用例＞
上述した撮像装置１の撮像機能は、例えば、デジタルスチルカメラやビデオカメラ、撮像機能を有するスマートフォン（多機能携帯電話機）等の携帯端末、カプセル内視鏡、眼鏡に撮像機能が付加された眼鏡型撮像装置などの電子機器全般に対して適用可能である。
以下に、撮像装置１の撮像機能を適用した電子機器の具体例について説明する。なお、撮像装置１の撮像機能とは、固体撮像素子１３の画素信号を生成する機能と、倍率演算部１７、長畜短畜合成部１８、３A制御部１９、デモザイク部２１、制御部３０などが行う、生成した画素信号を用いて制御を行う機能をいう。
＜チップ形態の撮像装置＞
図１６は、撮像装置１の撮像機能をチップ形態とした構成例を示している。即ち、撮像装置１の撮像機能は、図１６において撮像装置１０１乃至１０３として示すようなチップ形態の構成とすることができる。
図１６上段に示される撮像装置１０１は、１つの半導体チップ１２１内に、画素群が形成されている画素領域１２２と、画素群に制御信号を供給する制御回路１２３と、上述した３A制御部１９や制御部３０の信号処理回路を含むロジック回路１２４とを搭載して構成される。
図１６中段に示される撮像装置１０２は、第１の半導体チップ部１３１と第２の半導体チップ部１３２とから構成される。第１の半導体チップ部１３１には、画素領域１３３と制御回路１３４が搭載され、第２の半導体チップ部１３２には、上述した３A制御部１９や制御部３０の信号処理回路を含むロジック回路１３５が搭載される。そして、第１の半導体チップ部１３１と第２の半導体チップ部１３２が相互に電気的に接続されることで、１つの半導体チップとしての撮像装置１０２が構成される。
図１６下段に示される撮像装置１０３は、第１の半導体チップ部１４１と第２の半導体チップ部１４２とから構成される。第１の半導体チップ部１４１には、画素領域１４３が搭載され、第２の半導体チップ部１４２には、制御回路１４４と、上述した３A制御部１９や制御部３０の信号処理回路を含むロジック回路１４５が搭載される。そして、第１の半導体チップ部１４１と第２の半導体チップ部１４２が相互に電気的に接続されることで、１つの半導体チップとしての撮像装置１０３が構成される。
＜カプセル内視鏡への適用例＞
図１７は、撮像装置１の撮像機能を搭載したカプセル内視鏡の断面構成を示す図である。
図１７のカプセル内視鏡２００は、例えば両端面が半球状で中央部が円筒状の筐体２１０内に、体腔内の画像を撮影するためのカメラ（超小型カメラ）２１１、カメラ２１１により撮影された画像データを記録するためのメモリ２１２、および、カプセル内視鏡２００が被験者の体外に排出された後に、記録された画像データをアンテナ２１４を介して外部へ送信するための無線送信機２１３を備えている。
さらに、筐体２１０内には、CPU２１５およびコイル（磁力・電流変換コイル）２１６が設けられている。
CPU２１５は、カメラ２１１による撮影、およびメモリ２１２へのデータ蓄積動作を制御するとともに、メモリ２１２から無線送信機２１３による筐体２１０外のデータ受信装置（図示せず）へのデータ送信を制御する。
コイル２１６は、カメラ２１１、メモリ２１２、無線送信機２１３、アンテナ２１４および後述する光源２１１ｂへの電力供給を行う。
さらに、筐体２１０には、カプセル内視鏡２００をデータ受信装置にセットした際に、これを検知するためのリード（磁気）スイッチ２１７が設けられている。このリードスイッチ２１７がデータ受信装置へのセットを検知し、データの送信が可能になった時点で、コイル２１６から無線送信機２１３への電力供給が開始される。
カメラ２１１は、例えば体腔内の画像を撮影するための対物光学系を含む固体撮像素子２１１ａと、体腔内を照明する複数（ここでは２個）の光源２１１ｂを有しており、光源２１１ｂは、例えばLED（Light Emitting Diode）で構成される。
固体撮像素子２１１ａは、図４の固体撮像素子１３に対応し、CPU２１５は、図４の３A制御部１９や制御部３０に対応する制御を行う。
＜スマートフォンへの適用例＞
図１８は、撮像装置１の撮像機能を搭載したスマートフォンの外観構成を示す図である。
スマートフォン３００は、スピーカ３１１、ディスプレイ３１２、操作ボタン３１３、マイクロフォン３１４、撮像部３１５などを有している。
スマートフォン３００で電話機能が実行される場合、マイクロフォン３１４から取得された送話音声が通信部（図示せず）を介して基地局に送信され、相手からの受話音声が、通信部からスピーカ３１１に供給されて音響再生される。
ディスプレイ３１２は、例えばLCD（Liquid Crystal Display）からなり、電話待ち受け画面等の所定の画面を表示する。ディスプレイ３１２には、タッチパネルが重畳されており、ユーザの指などによるディスプレイ３１２への操作入力を検知することができる。スマートフォン３００は、検知されたユーザの操作入力に応じて、所定の処理、例えば、撮影機能の実行等を行うことができる。
撮像部３１５は、固体撮像素子と光学レンズ等からなり、被写体を撮像し、その結果得られる画像データを内部メモリ等に記憶する。撮像部３１５の固体撮像素子が、図４の固体撮像素子１３に対応し、３A制御部１９や制御部３０は、スマートフォン３００内に設けられたCPUで実現される。
＜眼鏡型撮像装置への適用例＞
図１９は、撮像装置１の撮像機能を搭載した眼鏡型撮像装置の構成例を示している。
図１９の眼鏡型撮像装置４００は、フレーム４１１中央部に取り付けられた固体撮像素子４１２と、メガネレンズ４１３を固定するとともに、固体撮像素子４１２を駆動制御する画像信号処理回路が内蔵された筐体４１４を含む。
固体撮像素子４１２は図４の固体撮像素子１３に対応し、筐体４１４内に設けられた画像信号処理回路は、図４の３A制御部１９及び制御部３０の制御機能を備え、ユーザの眼球の動きを検知し、眼球の向き（動き）に合わせて、３A制御を行う。
固体撮像素子４１２で撮影された画像データは、通信ケーブル４１５を介して、外部回路へ送信される。勿論、眼鏡型撮像装置４００が無線通信機能を備え、無線通信により画像データを送信するようにしてもよい。また、固体撮像素子４１２で撮影された画像は、メガネレンズ４１３に投影されるようにしてもよい。
本開示の実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、上述した複数の実施の形態の全てまたは一部を組み合わせた形態を採用することができる。
上述した例では、固体撮像素子１３の画素群がベイヤ配列により配列されているものとして説明したが、クリアビット配列などのその他の配列で配置されていてもよい。また、カラーフィルタについてもR,G,Bだけではなく、ホワイトフィルタ（W）や赤外フィルタ（IR）などを含むものでもよい。さらに、固体撮像素子１３は、裏面照射型および表面照射型の固体撮像素子でもよく、特開２０１１−２９３３７号公報に開示されているような、有機光電変換膜と無機光電変換層を縦方向に積層した縦方向分光型の固体撮像素子でもよい。
なお、本明細書において、フローチャートに記述されたステップは、記載された順序に沿って時系列的に行われる場合はもちろん、必ずしも時系列的に処理されなくとも、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで実行されてもよい。
本明細書に記載された効果はあくまで例示であって限定されるものではなく、本明細書に記載されたもの以外の効果があってもよい。
なお、本開示は以下のような構成も取ることができる。
（１）
複数の画素が２次元配置された画素群の露光量を制御する制御部を備え、
前記制御部は、撮影画像の記録を開始する前の第１のモードにおいては、複数種類の露光量を前記画素群に設定し、撮影画像を記録する第２のモードにおいては、前記第１のモードよりも少ない種類の露光量を前記画素群に設定する
制御装置。
（２）
前記制御部は、前記第１のモードにおいて前記画素群に設定した前記複数種類の露光量のうちの少なくとも一つを、前記第２のモードにおいて前記画素群に設定する
前記（１）に記載の制御装置。
（３）
前記制御部は、前記第１のモードにおいて、飽和画素の画素信号を用いずに、非飽和画素の画素信号を使用して求めた前記露光量を前記画素群に設定する
前記（１）または（２）に記載の制御装置。
（４）
前記制御部は、前記複数種類の露光量の画素信号のうち、S/N比が大きい方の前記非飽和画素の画素信号を使用して求めた前記露光量を前記画素群に設定する
前記（３）に記載の制御装置。
（５）
前記制御部は、前記第１のモードにおいて、前記複数種類の露光量の画素信号のうち、ハイダイナミックレンジな画素信号を使用して求めた前記露光量を設定する
前記（１）乃至（４）のいずれかに記載の制御装置。
（６）
前記制御部は、ディスプレイ表示用の画素信号よりも前記ハイダイナミックレンジな画素信号を使用して求めた前記露光量を設定する
前記（５）に記載の制御装置。
（７）
前記露光量を決定する対象の領域となる前記画素群の所定の領域を特定する領域特定部をさらに備え、
前記制御部は、前記領域特定部により特定された領域の前記ハイダイナミックレンジな画素信号を使用して求めた前記露光量を設定する
前記（５）に記載の制御装置。
（８）
前記領域特定部は、前記露光量を決定する対象の領域となる前記所定の領域として、前記撮影画像内のユーザの顔の領域を特定する
前記（７）に記載の制御装置。
（９）
前記領域特定部は、前記露光量を決定する対象の領域となる前記所定の領域として、前記撮影画像内のユーザが指定した領域を特定する
前記（７）に記載の制御装置。
（１０）
前記領域特定部は、前記露光量を決定する対象の領域となる前記所定の領域として、前記撮影画像内の所定の物体が存在する領域を特定する
前記（７）に記載の制御装置。
（１１）
前記制御部は、前記第１のモードにおいては、２種類の露光量を前記画素群に設定し、前記第２のモードにおいては、１種類の露光量を前記画素群に設定する
前記（１）乃至（１０）のいずれかに記載の制御装置。
（１２）
露光量の小さな画素の画素信号を露光比倍することにより倍率補正した画素信号と、露光量の大きな画素の画素信号とを合成する合成部をさらに備え、
前記合成部は、前記第１のモードにおいては、前記倍率補正した画素信号と、前記露光量の大きな画素の画素信号とを合成して前記制御部に供給し、前記第２のモードにおいては、１種類の露光量の画素信号を前記制御部に供給する
前記（１１）に記載の制御装置。
（１３）
露光量の小さな画素の画素信号を露光比倍することにより倍率補正した画素信号と、露光量の大きな画素の画素信号とを合成する合成部をさらに備え、
前記合成部は、前記第１のモードにおいては、前記倍率補正した画素信号と、前記露光量の大きな画素の画素信号とを合成した信号を、前記第２のモードの表示階調でクリッピングした信号を、ディスプレイ表示用の信号として出力する
前記（１）乃至（１２）のいずれかに記載の制御装置。
（１４）
前記制御部は、前記第１のモードにおいて、前記合成部により合成された前記信号に基づいて、オートフォーカス制御も行う
前記（１２）に記載の制御装置。
（１５）
前記制御部は、前記第１のモードにおいて、前記合成部により合成された前記信号に基づいて、ホワイトバランスのための色制御情報も生成する
前記（１２）または（１４）に記載の制御装置。
（１６）
前記画素群には、位相差画素が含まれており、
前記制御部は、前記位相差画素の画素信号を用いて、オートフォーカス制御も行う
前記（１）乃至（１５）のいずれかに記載の制御装置。
（１７）
複数の画素が２次元配置された画素群の露光量を制御する制御装置が、
撮影画像の記録を開始する前の第１のモードにおいては、複数種類の露光量を前記画素群に設定し、撮影画像を記録する第２のモードにおいては、前記第１のモードよりも少ない種類の露光量を前記画素群に設定する
制御方法。
（１８）
複数の画素が２次元配置された画素群を備える固体撮像素子と、
撮影画像の記録を開始する前の第１のモードにおいては、複数種類の露光量を前記画素群に設定し、撮影画像を記録する第２のモードにおいては、前記第１のモードよりも少ない種類の露光量を前記画素群に設定する制御部と
を備える電子機器。
１ 撮像装置， １３ 固体撮像素子， １６ メモリ部， １７ 倍率演算部， １８ 長畜短畜合成部， １９ ３A制御部， ２４ ディスプレイ， ２５ タッチパネル， ２６ 記録制御部， ２７ 記録媒体， ３０ 制御部， １０１乃至１０３ 撮像装置， ２００ カプセル内視鏡， ３００ スマートフォン， ４００ 眼鏡型撮像装置

Claims (18)

  1. 複数の画素が２次元配置された画素群の露光量を制御する制御部を備え、
    前記制御部は、撮影画像の記録を開始する前の第１のモードにおいては、複数種類の露光量を前記画素群に設定し、撮影画像を記録する第２のモードにおいては、前記第１のモードよりも少ない種類の露光量を前記画素群に設定する
    制御装置。
  2. 前記制御部は、前記第１のモードにおいて前記画素群に設定した前記複数種類の露光量のうちの少なくとも一つを、前記第２のモードにおいて前記画素群に設定する
    請求項１に記載の制御装置。
  3. 前記制御部は、前記第１のモードにおいて、飽和画素の画素信号を用いずに、非飽和画素の画素信号を使用して求めた前記露光量を前記画素群に設定する
    請求項１に記載の制御装置。
  4. 前記制御部は、前記複数種類の露光量の画素信号のうち、S/N比が大きい方の前記非飽和画素の画素信号を使用して求めた前記露光量を前記画素群に設定する
    請求項３に記載の制御装置。
  5. 前記制御部は、前記第１のモードにおいて、前記複数種類の露光量の画素信号のうち、ハイダイナミックレンジな画素信号を使用して求めた前記露光量を設定する
    請求項１に記載の制御装置。
  6. 前記制御部は、ディスプレイ表示用の画素信号よりも前記ハイダイナミックレンジな画素信号を使用して求めた前記露光量を設定する
    請求項５に記載の制御装置。
  7. 前記露光量を決定する対象の領域となる前記画素群の所定の領域を特定する領域特定部をさらに備え、
    前記制御部は、前記領域特定部により特定された領域の前記ハイダイナミックレンジな画素信号を使用して求めた前記露光量を設定する
    請求項５に記載の制御装置。
  8. 前記領域特定部は、前記露光量を決定する対象の領域となる前記所定の領域として、前記撮影画像内のユーザの顔の領域を特定する
    請求項７に記載の制御装置。
  9. 前記領域特定部は、前記露光量を決定する対象の領域となる前記所定の領域として、前記撮影画像内のユーザが指定した領域を特定する
    請求項７に記載の制御装置。
  10. 前記領域特定部は、前記露光量を決定する対象の領域となる前記所定の領域として、前記撮影画像内の所定の物体が存在する領域を特定する
    請求項７に記載の制御装置。
  11. 前記制御部は、前記第１のモードにおいては、２種類の露光量を前記画素群に設定し、前記第２のモードにおいては、１種類の露光量を前記画素群に設定する
    請求項１に記載の制御装置。
  12. 露光量の小さな画素の画素信号を露光比倍することにより倍率補正した画素信号と、露光量の大きな画素の画素信号とを合成する合成部をさらに備え、
    前記合成部は、前記第１のモードにおいては、前記倍率補正した画素信号と、前記露光量の大きな画素の画素信号とを合成して前記制御部に供給し、前記第２のモードにおいては、１種類の露光量の画素信号を前記制御部に供給する
    請求項１１に記載の制御装置。
  13. 露光量の小さな画素の画素信号を露光比倍することにより倍率補正した画素信号と、露光量の大きな画素の画素信号とを合成する合成部をさらに備え、
    前記合成部は、前記第１のモードにおいては、前記倍率補正した画素信号と、前記露光量の大きな画素の画素信号とを合成した信号を、前記第２のモードの表示階調でクリッピングした信号を、ディスプレイ表示用の信号として出力する
    請求項１１に記載の制御装置。
  14. 前記制御部は、前記第１のモードにおいて、前記合成部により合成された前記信号に基づいて、オートフォーカス制御も行う
    請求項１２に記載の制御装置。
  15. 前記制御部は、前記第１のモードにおいて、前記合成部により合成された前記信号に基づいて、ホワイトバランスのための色制御情報も生成する
    請求項１２に記載の制御装置。
  16. 前記画素群には、位相差画素が含まれており、
    前記制御部は、前記位相差画素の画素信号を用いて、オートフォーカス制御も行う
    請求項１に記載の制御装置。
  17. 複数の画素が２次元配置された画素群の露光量を制御する制御装置が、
    撮影画像の記録を開始する前の第１のモードにおいては、複数種類の露光量を前記画素群に設定し、撮影画像を記録する第２のモードにおいては、前記第１のモードよりも少ない種類の露光量を前記画素群に設定する
    制御方法。
  18. 複数の画素が２次元配置された画素群を備える固体撮像素子と、
    撮影画像の記録を開始する前の第１のモードにおいては、複数種類の露光量を前記画素群に設定し、撮影画像を記録する第２のモードにおいては、前記第１のモードよりも少ない種類の露光量を前記画素群に設定する制御部と
    を備える電子機器。
JP2013171966A 2013-08-22 2013-08-22 制御装置、制御方法、および電子機器 Pending JP2015041890A (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2013171966A JP2015041890A (ja) 2013-08-22 2013-08-22 制御装置、制御方法、および電子機器
TW103125392A TWI661727B (zh) 2013-08-22 2014-07-24 控制裝置、控制方法及電子機器
KR1020167000163A KR102184916B1 (ko) 2013-08-22 2014-08-08 제어 장치, 제어 방법 및 전자 기기
CN201480039968.3A CN105379248B (zh) 2013-08-22 2014-08-08 控制器件、控制方法及电子装置
US14/907,431 US9998679B2 (en) 2013-08-22 2014-08-08 Control device, control method, and electronic device to control an exposure amount of a pixel group
PCT/JP2014/071033 WO2015025740A1 (ja) 2013-08-22 2014-08-08 制御装置、制御方法、および電子機器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013171966A JP2015041890A (ja) 2013-08-22 2013-08-22 制御装置、制御方法、および電子機器

Publications (1)

Publication Number Publication Date
JP2015041890A true JP2015041890A (ja) 2015-03-02

Family

ID=52483518

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013171966A Pending JP2015041890A (ja) 2013-08-22 2013-08-22 制御装置、制御方法、および電子機器

Country Status (6)

Country Link
US (1) US9998679B2 (ja)
JP (1) JP2015041890A (ja)
KR (1) KR102184916B1 (ja)
CN (1) CN105379248B (ja)
TW (1) TWI661727B (ja)
WO (1) WO2015025740A1 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017149932A1 (ja) * 2016-03-03 2017-09-08 ソニー株式会社 医療用画像処理装置、システム、方法及びプログラム
JP2017195457A (ja) * 2016-04-19 2017-10-26 オリンパス株式会社 撮像装置及び撮像方法
JP2019204098A (ja) * 2019-07-01 2019-11-28 キヤノン株式会社 画像表示装置及びその制御方法
WO2020054165A1 (ja) * 2018-09-12 2020-03-19 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
US10701292B2 (en) 2016-03-24 2020-06-30 Fujifilm Corporation Device and method for controlling solid-state electronic imaging device
JP7457473B2 (ja) 2019-09-12 2024-03-28 キヤノン株式会社 撮像装置及びその制御方法

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150024098A (ko) * 2013-08-26 2015-03-06 삼성전자주식회사 디지털 카메라에서 사진 합성 방법 및 장치
JP6146293B2 (ja) * 2013-12-25 2017-06-14 ソニー株式会社 制御装置、制御方法および制御システム
CN104243827A (zh) * 2014-09-23 2014-12-24 深圳市中兴移动通信有限公司 拍摄方法和装置
US9467632B1 (en) 2015-07-13 2016-10-11 Himax Imaging Limited Dual exposure control circuit and associated method
US9848137B2 (en) * 2015-11-24 2017-12-19 Samsung Electronics Co., Ltd. CMOS image sensors having grid array exposure control
US10097766B2 (en) * 2016-08-31 2018-10-09 Microsoft Technology Licensing, Llc Provision of exposure times for a multi-exposure image
GB2561163B (en) * 2017-03-30 2021-05-12 Apical Ltd Control systems and image sensors
WO2019035245A1 (ja) * 2017-08-18 2019-02-21 富士フイルム株式会社 撮像装置、撮像装置の制御方法、及び撮像装置の制御プログラム
JP2020198470A (ja) * 2019-05-30 2020-12-10 ソニーセミコンダクタソリューションズ株式会社 画像認識装置および画像認識方法
EP4018641B1 (en) 2019-08-19 2024-01-24 Google LLC Dual exposure control in a camera system
KR20230032359A (ko) * 2021-08-30 2023-03-07 에스케이하이닉스 주식회사 전자 장치 및 그 동작 방법
US20230269486A1 (en) * 2022-02-24 2023-08-24 Qualcomm Incorporated Multi-frame auto exposure control (aec)
CN117241134B (zh) * 2023-11-15 2024-03-08 杭州海康威视数字技术股份有限公司 用于摄像机的拍摄模式切换方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4869474B2 (ja) * 2000-10-26 2012-02-08 オリンパス株式会社 撮像装置
JP2002232777A (ja) 2001-02-06 2002-08-16 Olympus Optical Co Ltd 撮像システム
JP4628937B2 (ja) * 2005-12-01 2011-02-09 オリンパス株式会社 カメラシステム
JP2009053296A (ja) * 2007-08-24 2009-03-12 Olympus Imaging Corp 撮影装置および撮影装置の制御方法
JP4661912B2 (ja) 2008-07-18 2011-03-30 ソニー株式会社 固体撮像素子およびカメラシステム
TW201108728A (en) * 2009-08-25 2011-03-01 Hon Hai Prec Ind Co Ltd Method and system for exposing photograph by separated regions in camera devices
JP2011059337A (ja) 2009-09-09 2011-03-24 Fujifilm Corp 撮像装置
JP5713752B2 (ja) * 2011-03-28 2015-05-07 キヤノン株式会社 画像処理装置、及びその制御方法
JP5609788B2 (ja) * 2011-06-23 2014-10-22 株式会社Ｊｖｃケンウッド 画像処理装置及び画像処理方法
EP2538661B1 (en) * 2011-06-23 2014-07-16 JVC KENWOOD Corporation Image processing apparatus and image processing method
JP6019692B2 (ja) * 2012-04-16 2016-11-02 ソニー株式会社 撮像素子、撮像素子の制御方法、および、撮像装置

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017149932A1 (ja) * 2016-03-03 2017-09-08 ソニー株式会社 医療用画像処理装置、システム、方法及びプログラム
JPWO2017149932A1 (ja) * 2016-03-03 2018-12-27 ソニー株式会社 医療用画像処理装置、システム、方法及びプログラム
US11244478B2 (en) 2016-03-03 2022-02-08 Sony Corporation Medical image processing device, system, method, and program
US10701292B2 (en) 2016-03-24 2020-06-30 Fujifilm Corporation Device and method for controlling solid-state electronic imaging device
JP2017195457A (ja) * 2016-04-19 2017-10-26 オリンパス株式会社 撮像装置及び撮像方法
WO2020054165A1 (ja) * 2018-09-12 2020-03-19 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
US11509814B2 (en) 2018-09-12 2022-11-22 Canon Kabushiki Kaisha Image capturing apparatus, method for controlling the same, and storage medium
JP2019204098A (ja) * 2019-07-01 2019-11-28 キヤノン株式会社 画像表示装置及びその制御方法
JP7457473B2 (ja) 2019-09-12 2024-03-28 キヤノン株式会社 撮像装置及びその制御方法

Also Published As

Publication number Publication date
CN105379248A (zh) 2016-03-02
TWI661727B (zh) 2019-06-01
KR102184916B1 (ko) 2020-12-01
TW201515466A (zh) 2015-04-16
WO2015025740A1 (ja) 2015-02-26
US9998679B2 (en) 2018-06-12
KR20160045051A (ko) 2016-04-26
US20160173751A1 (en) 2016-06-16
CN105379248B (zh) 2019-08-09

Similar Documents

Publication Publication Date Title
WO2015025740A1 (ja) 制御装置、制御方法、および電子機器
JP5701664B2 (ja) 撮像装置
US8749653B2 (en) Apparatus and method of blurring background of image in digital image processing device
JP5123137B2 (ja) 撮像装置および撮像方法
TW201410017A (zh) 影像擷取設備、影像擷取設備之控制方法及電子裝置
US20090040336A1 (en) Image pickup apparatus and method
US8885078B2 (en) Image processing apparatus, image processing method, and recording medium storing image processing program
JP4916378B2 (ja) 撮像装置、画像処理装置、画像ファイル及び階調補正方法
JP2010147786A (ja) 撮像装置及び画像処理方法
JP5223686B2 (ja) 撮像装置および撮像方法
JP2011239157A (ja) 画像処理装置およびその制御方法、撮像装置
JP5513244B2 (ja) 画像処理装置およびその制御方法、撮像装置
JP5277863B2 (ja) 撮像装置および撮像方法
CN115633252B (zh) 拍摄方法及其相关设备
JP2013192121A (ja) 撮像装置及び撮像方法
JP5310331B2 (ja) 撮像装置および撮像方法
US11196938B2 (en) Image processing apparatus and control method for same
JPWO2018110051A1 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
US20100259606A1 (en) Imaging device and method for controlling imaging device
JP5091734B2 (ja) 撮像装置および撮像方法
JP6300514B2 (ja) 撮像装置、および撮像装置の制御方法
JP2012227744A (ja) 撮像装置
JP5145876B2 (ja) 撮像装置および撮像方法
JP5169540B2 (ja) 撮像装置および撮像方法
JP2011191439A (ja) 撮像装置、補助光の発光制御方法