JP2018170656A - 撮像装置、撮像モジュール、撮像システムおよび撮像装置の制御方法 - Google Patents

撮像装置、撮像モジュール、撮像システムおよび撮像装置の制御方法 Download PDF

Info

Publication number
JP2018170656A
JP2018170656A JP2017067103A JP2017067103A JP2018170656A JP 2018170656 A JP2018170656 A JP 2018170656A JP 2017067103 A JP2017067103 A JP 2017067103A JP 2017067103 A JP2017067103 A JP 2017067103A JP 2018170656 A JP2018170656 A JP 2018170656A
Authority
JP
Japan
Prior art keywords
unit
gain
pixel
value
sub
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017067103A
Other languages
English (en)
Inventor
晃 遊馬
Akira Yuma
晃 遊馬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to JP2017067103A priority Critical patent/JP2018170656A/ja
Priority to US16/491,261 priority patent/US11089230B2/en
Priority to PCT/JP2017/045694 priority patent/WO2018179623A1/ja
Priority to KR1020197027667A priority patent/KR102388259B1/ko
Priority to TW107104074A priority patent/TWI775808B/zh
Publication of JP2018170656A publication Critical patent/JP2018170656A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B19/00Cameras
    • G03B19/02Still-picture cameras
    • G03B19/04Roll-film cameras
    • G03B19/07Roll-film cameras having more than one objective
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/25Image signal generators using stereoscopic image cameras using two or more image sensors with different characteristics other than in their location or field of view, e.g. having different resolutions or colour pickup characteristics; using image signals from one sensor to control the characteristics of another sensor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/001Constructional or mechanical details

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Studio Devices (AREA)
  • Air Bags (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Exposure Control For Cameras (AREA)
  • Cameras In General (AREA)

Abstract

【課題】複数の撮像素子を設けた複眼の撮像装置において、画質が同一の複数の画像データを撮像する。【解決手段】第1の画素アレイ部には、第1の画素信号を生成する第1の画素が配列される。第2の画素アレイ部には、第2の画素信号を生成する第2の画素が配列される。第1の設定部は、適正露出値に基づいて露光時間と第1の画素信号に対する第1のゲインとを設定する。第2の設定部は、第1の画素アレイ部が設けられた第1の単眼カメラモジュールと第2の画素アレイ部が設けられた第2の単眼カメラモジュールとの感度差に基づいて第1のゲインを調整して第2の画素信号に対する第2のゲインとして設定する。制御部は、露光時間に亘って前記第1および第2の画素アレイ部を露光させる。増幅部は、出力された第1および第2の画素信号を前記第1および第2のゲインにより増幅する。【選択図】図11

Description

本技術は、撮像装置、撮像モジュール、撮像システムおよび撮像装置の制御方法に関する。詳しくは、複数の撮像素子を設けた複眼の撮像装置、撮像モジュール、撮像システムおよび撮像装置の制御方法に関する。
従来より、複数の画像データを同時に撮像するために、複数の撮像素子を設けた複眼型の撮像装置が用いられている。例えば、2つの撮像素子により、同一のアナログゲインおよびシャッタースピードを用いて2枚の撮像データを同時に撮像する2眼型の撮像装置が提案されている(例えば、特許文献1参照。)。
特開2006−295506号公報
上述の従来技術では、2つの撮像素子の画素の感度が同一である場合には、同一の撮像条件により、同一の画質の2枚の画像データを撮像することができる。しかしながら、カラーフィルタの有無などの光学的条件の相違や、製品ばらつきなどに起因して撮像素子のそれぞれの画素の感度が異なる場合には、2枚の画像データの明るさが揃わないおそれがある。また、感度のほか、2つの光学系のそれぞれのF値が異なる場合にも明るさが揃わないおそれがある。両者の画素の感度やF値が異なる場合であっても一方のシャッタースピードを変更して明るさを揃えることはできるが、その場合、シャッタースピードの相違によって動被写体のブレの度合いが異なる画像となってしまう。このように、2つの撮像素子のそれぞれの感度や各光学系の光学特性が異なる場合に、同じ画質の2枚の画像データを撮像することが困難になるという問題がある。
本技術はこのような状況に鑑みて生み出されたものであり、複数の撮像素子を設けた複眼の撮像装置において、画質が同一の複数の画像データを撮像することを目的とする。
本技術は、上述の問題点を解消するためになされたものであり、その第1の側面は、第1の画素信号を生成する第1の画素が配列された第1の画素アレイ部と、第2の画素信号を生成する第2の画素が配列された第2の画素アレイ部と、適正露出値に基づいて露光時間と上記第1の画素信号に対する第1のゲインとを設定する第1の設定部と、上記第1の画素アレイ部が設けられた第1の単眼カメラモジュールと上記第2の画素アレイ部が設けられた第2の単眼カメラモジュールとの感度差に基づいて上記第1のゲインを調整して上記第2の画素により生成された第2の画素信号に対する第2のゲインとして設定する第2の設定部と、上記露光時間に亘って上記第1および第2の画素アレイ部を露光させる制御部と、上記出力された第1および第2の画素信号を上記第1および第2のゲインにより増幅する増幅部とを具備する撮像装置および、その制御方法である。これにより、第1および第2の単眼カメラモジュールの感度差に基づいて調整されたゲインにより画素信号が増幅されるという作用をもたらす。
また、この第1の側面において、上記適正露出値は、上記第1の画素信号から演算された第1の適正露出値と上記第2の画素信号から演算された第2の適正露出値とを含み、上記第1の設定部は、上記第1の適正露出値に基づいて上記露光時間と上記第1のゲインとを設定し、上記第2の設定部は、上記第1の適正露出値と上記感度差と上記露光時間とから上記第2のゲインを演算してもよい。これにより、第1の適正露出値と感度差と露光時間とから演算された第2のゲインにより第2の画素信号が増幅されるという作用をもたらす。
また、この第1の側面において、上記第2の設定部は、上記第1の適正露出値と上記感度差と上記露光時間とから演算したゲインがマイナス値になる場合には当該演算したゲインと上記露光時間とから新たな露光時間を取得するとともに上記第2のゲインを零に設定し、上記第1の設定部は、上記新たな露光時間が取得された場合には上記新たな露光時間と上記第1の適正露出値とから演算したゲインを上記第1のゲインとして設定してもよい。これにより、ゲインがマイナス値になる場合には、そのゲインと露光時間とから新たな露光時間が取得されるという作用をもたらす。
また、この第1の側面において、上記第2の設定部は、上記第1の適正露出値と上記感度差を露出値に換算した感度差換算値とから基準露出値を演算する演算器と、上記基準露出値に基づいて上記第2の適正露出値を補正して補正済み適正露出値として出力する補正部と、上記補正済み適正露出値と上記露光時間を露出値に換算した値との差分から上記第2のゲインを演算するゲイン演算部とを備えてもよい。これにより、第1の適正露出値と感度差換算値との差分に基づいて第2のゲインが演算されるという作用をもたらす。
また、この第1の側面において、上記補正部は、上記基準露出値を含む所定の許容範囲内の値に上記第2の適正露出値を補正してもよい。これにより、許容範囲内に補正された適正露出値により第2のゲインが演算されるという作用をもたらす。
また、この第1の側面において、上記補正部は、上記基準露出値と上記第2の適正露出値とを重み付け加算した値を上記基準露出値を含む所定の許容範囲内の値に補正してもよい。これにより、重み付け加算した値が許容範囲内の値に補正されるという作用をもたらす。
また、この第1の側面において、上記第1の画素は、互いに異なる波長の光を受光する複数の画素を含み、上記第2の画素のそれぞれは、同一の波長の光を受光してもよい。これにより、モノクロ画像データとカラー画像データとが撮像されるという作用をもたらす。
また、この第1の側面において、光を集光して上記第1の画素アレイ部に導く第1の撮像レンズと、光を集光して上記第2の画素アレイ部に導く第2の撮像レンズとをさらに具備し、上記第1の撮像レンズは、上記第2の撮像レンズと画角が異なるものであってもよい。これにより、画角の異なる2枚の画像データが撮像されるという作用をもたらす。
また、この第1の側面において、上記第1および第2の画素信号を第1および第2の画素データに変換するアナログデジタル変換部とをさらに具備し、上記第1のゲインは、第1のアナログゲインと第1のデジタルゲインとを含み、上記第2のゲインは、第2のアナログゲインと第2のデジタルゲインとを含み、上記増幅部は、上記第1および第2の画素信号を第1および第2のアナログゲインにより増幅するアナログ信号増幅部と、上記第1および第2の画素データを第1および第2のデジタルゲインにより増幅するデジタル信号増幅部とを備えてもよい。これにより、アナログゲインにより増幅された画素信号をアナログデジタル変換した画素データがデジタルゲインにより増幅されるという作用をもたらす。
また、本技術の第2の側面は、第1の画素信号を生成する第1の画素が配列された第1の画素アレイ部と、第2の画素信号を生成する第2の画素が配列された第2の画素アレイ部と、適正露出値に基づいて露光時間と上記第1の画素信号に対する第1のゲインとを設定する第1の設定部と、上記第1の画素アレイ部が設けられた第1の単眼カメラモジュールと上記第2の画素アレイ部が設けられた第2の単眼カメラモジュールとの感度差に基づいて上記第1のゲインを調整して上記第2の画素により生成された第2の画素信号に対する第2のゲインとして設定する第2の設定部と、上記露光時間に亘って上記第1および第2の画素アレイ部を露光させる制御部と、上記出力された第1および第2の画素信号を上記第1および第2のゲインにより増幅する増幅部と、上記第1および第2の画素信号から生成された画像データを出力する画像出力部とを具備する撮像モジュールである。これにより、第1および第2の単眼カメラモジュールの感度差に基づいて調整されたゲインにより増幅された画像信号から生成された画像データが出力されるという作用をもたらす。
また、本技術の第3の側面は、第1の画素信号を生成する第1の画素が配列された第1の画素アレイ部と、第2の画素信号を生成する第2の画素が配列された第2の画素アレイ部と、適正露出値に基づいて露光時間と上記第1の画素信号に対する第1のゲインとを設定する第1の設定部と、上記第1の画素アレイ部が設けられた第1の単眼カメラモジュールと上記第2の画素アレイ部が設けられた第2の単眼カメラモジュールとの感度差に基づいて上記第1のゲインを調整して上記第2の画素により生成された第2の画素信号に対する第2のゲインとして設定する第2の設定部と、上記露光時間に亘って上記第1および第2の画素アレイ部を露光させる制御部と、上記出力された第1および第2の画素信号を上記第1および第2のゲインにより増幅する増幅部と、上記第1および第2の画素信号から生成された画像データを記録する記録部とを具備する撮像システムである。これにより、第1および第2の単眼カメラモジュールの感度差に基づいて調整されたゲインにより増幅された画像信号から生成された画像データが記録されるという作用をもたらす。
本技術によれば、複数の撮像素子を設けた複眼の撮像装置において、画質が同一の複数の画像データを撮像することができるという優れた効果を奏し得る。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術の第1の実施の形態における撮像装置の一構成例を示すブロック図である。 本技術の第1の実施の形態における2眼カメラモジュールの外観の構成例を示す図である。 本技術の第1の実施の形態における2眼カメラモジュールの一構成例を示すブロック図である。 本技術の第1の実施の形態におけるサブ側固体撮像素子の一構成例を示すブロック図である。 本技術の第1の実施の形態におけるメイン側固体撮像素子の一構成例を示すブロック図である。 本技術の第1の実施の形態におけるサブ側画素アレイ部およびメイン側画素アレイ部の平面図の一例である。 本技術の第1の実施の形態における露光制御部の一構成例を示すブロック図である。 本技術の第1の実施の形態におけるプログラム線図の一例を示す図である。 本技術の第1の実施の形態におけるサブ側露光パラメータ設定部の一構成例を示すブロック図である。 本技術の第1の実施の形態における画像合成部の一構成例を示すブロック図である。 本技術の第1の実施の形態における露光制御に関連する構成をまとめたブロック図である。 本技術の第1の実施の形態における露光パラメータの設定方法について説明するための図である。 比較例における露光パラメータの設定方法について説明するための図である。 本技術の第1の実施の形態における2眼カメラモジュールの動作の一例を示すフローチャートである。 本技術の第1の実施の形態におけるメイン側露光制御処理を示すフローチャートである。 本技術の第1の実施の形態におけるサブ側露光制御処理を示すフローチャートである。 本技術の第1の実施の形態におけるサブ側適正露出値補正処理を示すフローチャートである。 本技術の第1の実施の形態の変形例におけるサブ側露光制御処理を示すフローチャートである。 本技術の第2の実施の形態における露光制御部の一構成例を示すブロック図である。 本技術の第2の実施の形態における露光パラメータの設定方法について説明するための図である。 本技術の第2の実施の形態における2眼カメラモジュールの動作の一例を示すフローチャートである。 本技術の第2の実施の形態におけるサブ側露光制御処理を示すフローチャートである。 本技術の第2の実施の形態における切替制御処理を示すフローチャートである。 本技術の第3の実施の形態における2眼カメラモジュールの一構成例を示すブロック図である。 本技術の第4の実施の形態における撮像システムの一構成例を示すブロック図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
以下、本技術を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(感度差に基づいてゲインを調整する例)
2.第2の実施の形態(メイン側とサブ側とを切り替え、感度差に基づいてゲインを調整する例)
3.第3の実施の形態(感度差に基づいてゲインを調整して2枚のカラー画像を撮像する例)
4.第4の実施の形態(3眼以上の撮像システムにおいて感度差に基づいてゲインを調整する例)
5.移動体への応用例
<1.第1の実施の形態>
[撮像装置の構成例]
図1は、本技術の第1の実施の形態における撮像装置100の一構成例を示すブロック図である。この撮像装置100は、画像データを撮像することができる装置であり、カメラモジュール制御部110、2眼カメラモジュール200および記録部120を備える。撮像装置100として、撮像機能を持つスマートフォンやパーソナルコンピュータなどの汎用型の機器や、デジタルスチルカメラやデジタルビデオカメラなどのデジタルカメラが想定される。
カメラモジュール制御部110は、ユーザの操作に従って2眼カメラモジュール200を制御するものである。例えば、カメラモジュール制御部110は、ユーザの操作に従い、撮像の開始や停止を指示する制御信号を生成して、信号線119を介して2眼カメラモジュール200に供給する。
2眼カメラモジュール200は、2つの固体撮像素子により2枚の画像データを同時に撮像するものである。この2眼カメラモジュール200は、撮像した画像データを信号線209を介して記録部120に供給する。記録部120は、画像データを記録するものである。なお、2眼カメラモジュール200は、特許請求の範囲に記載の撮像モジュールの一例である。
[2眼カメラモジュールの構成例]
図2は、本技術の第1の実施の形態における2眼カメラモジュールの外観の構成例を示す図である。同図におけるaは、2眼カメラモジュール200の斜視図であり、同図におけるbは、2眼カメラモジュール200の正面図である。
2眼カメラモジュール200は、複眼方式のカメラモジュールであって、単眼カメラモジュール201と単眼カメラモジュール202が、矩形の板状の形状からなる連結部材203により固定されることで構成される。
単眼カメラモジュール201には、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の固体撮像素子やレンズユニット等が搭載されている。
単眼カメラモジュール201において、固体撮像素子は、複数の画素が2次元状に配列される画素部や、画素の駆動やA/D(Analog/Digital)変換等を行う周辺回路部などから構成されている。この固体撮像素子では、レンズユニット内のレンズから入射される光(像光)が画素部の受光面に結像され、結像された像の光が光電変換されることで、画素信号が生成される。
単眼カメラモジュール202は、単眼カメラモジュール201と同様に、CMOSイメージセンサやレンズユニット等が搭載されて構成される。例えば、2眼カメラモジュール200においては、単眼カメラモジュール202をメインカメラとする一方で、単眼カメラモジュール201をサブカメラとすることができる。
連結部材203は、単眼カメラモジュール201のレンズユニットと、単眼カメラモジュール202のレンズユニットを並べたときの平面方向のサイズよりも大きな輪郭の矩形の板状の形状からなる。また、連結部材203には、単眼カメラモジュール201のレンズユニットが挿入される矩形の挿入孔部と、単眼カメラモジュール202のレンズユニットが挿入される矩形の挿入孔部とが、対称に貫通形成されている。
2眼カメラモジュール200においては、連結部材203に貫通形成された2つの矩形の挿入孔部に対し、単眼カメラモジュール201のレンズユニットと、単眼カメラモジュール202のレンズユニットとがそれぞれ挿入されて固定されている。これにより、2眼カメラモジュール200は、単眼カメラモジュール201と単眼カメラモジュール202を有する、複眼方式のカメラモジュールとして構成される。2眼カメラモジュール200は、以上のように構成される。
なお、単眼カメラモジュール201と単眼カメラモジュール202とは、連結部材203により連結される、複数の単眼カメラモジュールの一例であって、以下、それらを特に区別する必要がない場合には、単に、単眼カメラモジュール201と称して説明する。
また、単眼カメラモジュールとは、1つの固体撮像素子(イメージセンサ)が搭載されたカメラモジュールである。一方で、2眼カメラモジュールは、2つの単眼カメラモジュールを連結させることで、2つの固体撮像素子(イメージセンサ)が搭載されたカメラモジュールである。ただし、モジュールは、パッケージなどの他の名称で呼ばれる場合がある。
図3は、本技術の第1の実施の形態における2眼カメラモジュール200の一構成例を示すブロック図である。この2眼カメラモジュール200は、撮像レンズ211および212と、サブ側固体撮像素子220、メイン側固体撮像素子240、測光部260、露光制御部270、同期信号供給部280、画像合成部290および画像出力部213を備える。
図3における撮像レンズ211およびサブ側固体撮像素子220は、図2における単眼カメラモジュール201内に配置され、図3における撮像レンズ212およびメイン側固体撮像素子240は、図2における単眼カメラモジュール202内に配置される。また、図3における測光部260内のメイン側の回路とサブ側の回路とは、図2における単眼カメラモジュール201および202に分散して配置される。図3における露光制御部270、同期信号供給部280、画像合成部290および画像出力部213は、図2における単眼カメラモジュール201および202のいずれに配置してもよい。
撮像レンズ211は、被写体からの光を集光してサブ側固体撮像素子220に導くものである。撮像レンズ212は、被写体からの光を集光してメイン側固体撮像素子240に導くものである。撮像レンズ211および212のそれぞれの絞りの絞り値は、例えば、固定値である。なお、絞り値が可変で、その値を露光制御部270が制御する構成であってもよい。絞り値が可変である場合においては、メイン側およびサブ側のそれぞれの画角および被写界深度を考慮し、メイン側およびサブ側のそれぞれにおいて適切な値となるように絞り値が制御される。
サブ側固体撮像素子220は、画像データを撮像するものである。このサブ側固体撮像素子220は、色情報を含まない画素データからなる画像データであるモノクロ画像データを撮像する。そして、サブ側固体撮像素子220は、モノクロ画像データを測光部260および画像合成部290に供給する。
メイン側固体撮像素子240は、画像データを撮像するものである。このメイン側固体撮像素子240は、色情報を含む画素データからなる画像データであるカラー画像データを撮像する。このカラー画像データは、R(Red)、G(Green)およびB(Blue)の画素データがベイヤ配列により配列されたものであり、RAW画像データとも呼ばれる。また、カラー画像データの総画素数は、モノクロ画像データと同じであるものとする。メイン側固体撮像素子240は、カラー画像データを測光部260および画像合成部290に供給する。
測光部260は、画像データの輝度値の積算や加重平均などにより、光量を測定するものである。この測光部260は、モノクロ画像データを用いてサブ側の光量をサブ側測光量として測定し、カラー画像データを用いてメイン側の光量をメイン側測光量として測定する。そして、測光部260は、サブ側測光量およびメイン側測光量を露光制御部270に供給する。
露光制御部270は、測光部260からの測光量に基づいて、露光制御を行うものである。この露光制御部270は、測光量から適正露出値を演算し、その適正露出値に基づいて露光時間(言い換えれば、シャッタースピード)と画素信号に対するゲインとを求める。露光制御部270の機能は、例えば、MPU(Micro-Processing Unit)がプログラムを実行することにより実現することができる。
ここで、ゲインは、アナログの画素信号に対するアナログゲインと、デジタルの画素データに対するデジタルゲインとの少なくとも一方を含む。また、デジタルゲインは、サブ側固体撮像素子220およびメイン側固体撮像素子240の内部で用いられるデジタルゲインと、それらの外部で用いられるデジタルゲインとの少なくとも一方を含む。以下、サブ側のアナログゲインをSAGとし、メイン側のアナログゲインをMAGとする。また、サブ側固体撮像素子220の内部のデジタルゲインをSDG_IMGとし、画像合成部290で用いられるサブ側のデジタルゲインをSDG_DSPとする。メイン側固体撮像素子240の内部のデジタルゲインをMDG_IMGとし、画像合成部290で用いられるメイン側のデジタルゲインをMDG_DSPとする。
露光制御部270は、アナログゲインSAGおよびデジタルゲインSDG_IMGと露光時間とのそれぞれの設定値をサブ側固体撮像素子220に供給する。また、露光制御部270は、アナログゲインMAGおよびデジタルゲインMDG_IMGと露光時間とのそれぞれの設定値をメイン側固体撮像素子240に供給する。そして、露光制御部270は、デジタルゲインSDG_DSPおよびMDG_DSPを画像合成部290に供給する。
同期信号供給部280は、モジュール制御信号に従って所定周波数(例えば、60ヘルツ)の垂直同期信号VSYNCを生成するものである。この同期信号供給部280は、生成した垂直同期信号VSYNCをサブ側固体撮像素子220およびメイン側固体撮像素子240に供給する。
画像合成部290は、モノクロ画像データとカラー画像データとを合成するものである。ベイヤ配列のカラー画像データは、デモザイク処理により補間を行う必要があり、この処理により、Gの解像度は、総画素数の1/2となり、RおよびBの解像度は、総画素数の1/4となる。一方、モノクロ画像データでは、デモザイク処理は不要であるため、デモザイク後のカラー画像データよりも解像度が高い。したがって、モノクロ画像データの合成により、カラー画像データで不足する画素情報を補って、合成画像データの画質を、合成しない場合よりも向上させることができる。画像合成部は、合成画像データを画像出力部213に供給する。
画像出力部213は、合成画像データを記録部120に出力するものである。例えば、DisplayPortなどの内部インターフェースの規格に従って、データを伝送する回路が画像出力部213として用いられる。
[サブ側固体撮像素子の構成例]
図4は、本技術の第1の実施の形態におけるサブ側固体撮像素子220の一構成例を示すブロック図である。このサブ側固体撮像素子220は、ドライバ221、サブ側画素アレイ部230、アナログ信号増幅部222、AD(Analog to Digital)変換部223およびデジタル信号増幅部224を備える。
ドライバ221は、サブ側画素アレイ部230を走査するものである。このドライバ221には、垂直同期信号VSYNCに同期したタイミング信号と、サブ側露光時間とが入力される。ドライバ221は、タイミング信号に同期してサブ側画素アレイ部230内のラインを順に選択し、そのラインをサブ側露光時間に亘って露光させる。
サブ側画素アレイ部230には、二次元格子状に複数の画素が配列される。画素のそれぞれは、ドライバ221の制御に従って、アナログの画素信号を生成してアナログ信号増幅部222に供給する。なお、サブ側画素アレイ部230は、特許請求の範囲に記載の第2の画素アレイ部の一例である。
アナログ信号増幅部222は、画素信号を増幅するものである。このアナログ信号増幅部222には、アナログゲインSAGが入力される。アナログ信号増幅部222は、そのアナログゲインSAGにより、サブ側画素アレイ部230からの画素信号を増幅してAD変換部223に供給する。
AD変換部223は、アナログの画素信号のそれぞれを、デジタルの画素データに変換するものである。このAD変換部223は、画素データのそれぞれをデジタル信号増幅部224に供給する。
デジタル信号増幅部224は、画素データを増幅するものである。このデジタル信号増幅部224には、デジタルゲインSDG_IMGが入力される。デジタル信号増幅部224は、そのデジタルゲインSDG_IMGにより画素データを増幅して測光部260および画像合成部290に出力する。
なお、サブ側固体撮像素子220は、上述の増幅処理およびAD変換の他、必要に応じて相関二重サンプリング(CDS:Correlated Double Sampling)処理などの信号処理を実行してモノクロ画像データを生成する。
[メイン側固体撮像素子の構成例]
図5は、本技術の第1の実施の形態におけるメイン側固体撮像素子240の一構成例を示すブロック図である。このメイン側固体撮像素子240は、ドライバ241、メイン側画素アレイ部250、アナログ信号増幅部242、AD変換部243およびデジタル信号増幅部244を備える。
ドライバ241は、メイン側露光時間を用いる点以外は、サブ側のドライバ221と同様の構成である。メイン側画素アレイ部250には、R、GおよびB画素がベイヤ配列により設けられる。アナログ信号増幅部242は、アナログゲインMAGにより増幅する点以外は、サブ側のアナログ信号増幅部222と同様の構成である。デジタル信号増幅部244は、デジタルゲインMDG_IMGにより増幅する点以外は、サブ側のデジタル信号増幅部224と同様の構成である。なお、メイン側画素アレイ部250は、特許請求の範囲に記載の第1の画素アレイ部の一例である。
[画素アレイ部の構成例]
図6は、本技術の第1の実施の形態におけるサブ側画素アレイ部230およびメイン側画素アレイ部250の平面図の一例である。同図におけるaは、サブ側画素アレイ部230の平面図の一例であり、同図におけるbは、メイン側画素アレイ部250の平面図の一例である。
サブ側画素アレイ部230には、複数の画素231が二次元格子状に配列される。そして、画素231のそれぞれには、カラーフィルタが設けられない。このため、このサブ側画素アレイ部230により、色情報を含まないモノクロ画像データが撮像される。
一方、メイン側画素アレイ部250には、所定数のR画素251、G画素252およびB画素253がベイヤ配列により二次元格子状に配列される。メイン側画素アレイ部250の総画素数は、サブ側画素アレイ部230と同じである。R画素251には、赤色の光を透過するカラーフィルタが設けられ、G画素252には、緑色の光を透過するカラーフィルタが設けられる。また、B画素253には、青色の光を透過するカラーフィルタが設けられる。カラーフィルタの透過率は、100%に満たないため、カラーフィルタを設けたR画素251、G画素252およびB画素253の光感度は、画素231よりも低い。
このようにメイン側とサブ側との画素の光感度が異なるため、メイン側とサブ側とのそれぞれの単眼カメラモジュール全体の感度は異なる。また、メイン側とサブ側とのそれぞれの光学系の光学特性(F値など)が異なる場合には、その特性の相違も単眼カメラモジュールの感度差に影響を与える。
[露光制御部の構成例]
図7は、本技術の第1の実施の形態における露光制御部270の一構成例を示すブロック図である。この露光制御部270は、適正露出値演算部271、メイン側露光パラメータ設定部272、メモリ273およびサブ側露光パラメータ設定部274を備える。
適正露出値演算部271は、メイン側測光量およびサブ側測光量から、メイン側およびサブ側のそれぞれの適正露出値を演算するものである。適正露出値演算部271は、メイン側測光量を所定の関数に入力して、メイン側適正露出値を演算する。また、適正露出値演算部271は、サブ側測光量を、その関数に入力して、サブ側適正露出値を演算する。
ここで、「適正露出値」とは、画像データを所望の明るさにするために必要な露出値を意味する。そして、露出値は、一般に、絞り値、露光時間、および、ゲインにより決定される。ここで、前述したように絞り値は固定であるため、適正露出値演算部271は、その固定の絞り値を露出値に換算した値をオフセットとして、メイン側適正露出値およびサブ側適正露出値からオフセットを減算する。
適正露出値演算部271は、オフセット減算後のメイン側適正露出値をメイン側露光パラメータ設定部272およびサブ側露光パラメータ設定部274に供給し、オフセット減算後のサブ側適正露出値をサブ側露光パラメータ設定部274に供給する。
メイン側露光パラメータ設定部272は、メイン側の露光時間およびゲインを設定するものである。このメイン側露光パラメータ設定部272は、プログラム線図を参照して、メイン側適正露出値から、メイン側露光時間およびゲインを求める。このゲインは、アナログゲインMAGと、デジタルゲインMDG_IMGおよびMDG_DSPとの少なくとも1つを含む。これらのうち例えば、アナログゲインMAGが優先的に設定される。アナログゲインMAGのみにより必要なゲインに達する場合には、アナログゲインMAGのみに有意な値が設定される。言い換えれば、アナログゲインMAGに「0」デシベルより大きな値が設定され、デジタルゲインには「0」デシベルに設定される。また、アナログゲインMAGのみではゲインが不足する場合には、デジタルゲインMDG_IMGやMDG_DSPがさらに設定される。
メイン側露光パラメータ設定部272は、メイン側露光時間をサブ側露光パラメータ設定部274と、メイン側固体撮像素子240とに供給する。また、メイン側露光パラメータ設定部272は、アナログゲインMAGおよびデジタルゲインMDG_IMGをメイン側固体撮像素子240に供給し、デジタルゲインMDG_DSPを画像合成部290に供給する。なお、メイン側露光パラメータ設定部272は、特許請求の範囲に記載の第1の設定部の一例である。
サブ側露光パラメータ設定部274は、サブ側の露光時間およびゲインを設定するものである。このサブ側露光パラメータ設定部274は、メイン側露光時間と同一の値をサブ側露光時間として設定する。また、サブ側露光パラメータ設定部274は、次の式により基準露出値を演算する。
SEB=ME−D ・・・式1
上式において、SEBは、基準露出値を示す。MEは、メイン側適正露出値を示し、Dは、単眼カメラモジュール201と単眼カメラモジュール202との感度差を露出値に換算した値を示す。
そして、サブ側露光パラメータ設定部274は、基準露出値SEB±dEを許容範囲として設定し、その許容範囲内の値にサブ側適正露出値SE1を補正して補正済みサブ側適正露出値SE3とする。次いで、サブ側露光パラメータ設定部274は、次の式を使用してサブ側ゲイン換算値を求める。このサブ側ゲイン換算値は、サブ側の画素信号に対するゲインを露出値に換算した値である。
SGA=SE3−SST ・・・式2
上式において、SGAは、サブ側ゲイン換算値であり、SSTは、サブ側露光時間換算値である。このサブ側露光時間換算値は、サブ側の露光時間を露出値に換算した値である。なお、上式では、サブ側の方が感度が高いことを前提として減算をおこなっているが、逆にメイン側の方が感度が高い場合には加算が行われる。
サブ側露光パラメータ設定部274は、サブ側ゲイン換算値SGAから、サブ側のアナログゲインSAG、デジタルゲインSDG_IMGおよびデジタルゲインSDG_DSPを求めて設定する。そして、サブ側露光パラメータ設定部274は、アナログゲインSAGおよびデジタルゲインMDG_IMGをサブ側固体撮像素子220に供給し、デジタルゲインSDG_DSPを画像合成部290に供給する。
メモリ273は、感度差換算値D、dEおよびプログラム線図を保持するものである。
図8は、本技術の第1の実施の形態におけるプログラム線図の一例を示す図である。同図における縦軸は、露光時間またはゲインを示し、横軸は適正露出値を示す。また、一点鎖線は、露光時間の軌跡を示し、実線は、ゲインの軌跡を示す。メイン側露光パラメータ設定部272は、このプログラム線図を参照して、メイン側適正露出値に対応する、メイン側の露光時間およびゲインを取得することができる。なお、プログラム線図上の軌跡を関数で表し、その関数の係数のみをメモリ273が保持する構成であってもよい。また、プログラム線図に基づいて、適正露出値ごとに露光時間およびゲインの組合せを記載したテーブルをメモリ273に保持する構成であってもよい。
図9は、本技術の第1の実施の形態におけるサブ側露光パラメータ設定部274の一構成例を示すブロック図である。このサブ側露光パラメータ設定部274は、演算器275、サブ側適正露出値補正部276およびサブ側ゲイン演算部277を備える。
演算器275は、式1を用いて基準露出値SEBを演算するものである。この演算器275は、基準露出値SEBをサブ側適正露出値補正部276に供給する。
サブ側適正露出値補正部276は、基準露出値SEB±dEを許容範囲として設定し、その許容範囲内の値にサブ側適正露出値SE1を補正するものである。このサブ側適正露出値補正部276は、サブ側適正露出値SE1が許容範囲外の値であれば、基準露出値+dEまたは基準露出値−dEを補正済みサブ側適正露出値SE3としてサブ側ゲイン演算部277に供給する。一方、サブ側適正露出値SE1が許容範囲内の値であれば、サブ側適正露出値補正部276は、サブ側適正露出値SE1をそのまま、補正済みサブ側適正露出値SE3としてサブ側ゲイン演算部277に供給する。なお、サブ側適正露出値補正部276は、特許請求の範囲に記載の補正部の一例である。
サブ側ゲイン演算部277は、式2により、サブ側のゲインを演算するものである。なお、サブ側ゲイン演算部277は、特許請求の範囲に記載のゲイン演算部の一例である。
[画像合成部の構成例]
図10は、本技術の第1の実施の形態における画像合成部290の一構成例を示すブロック図である。この画像合成部290は、デジタル信号増幅部291および292と、合成処理部293とを備える。デジタル信号増幅部291および292は、例えば、DSP(Digital Signal Processing)回路により実現される。
デジタル信号増幅部291は、サブ側のモノクロ画像データ内の画素データのそれぞれをデジタルゲインSDG_DSPにより増幅するものである。このデジタル信号増幅部291は、増幅後のモノクロ画像データを合成処理部293に供給する。
デジタル信号増幅部292は、サブ側のカラー画像データ内の画素データのそれぞれをデジタルゲインMDG_DSPにより増幅するものである。このデジタル信号増幅部292は、増幅後のカラー画像データを合成処理部293に供給する。なお、画像合成部290においては、デジタル信号増幅部291および292による増幅合成の他、ホワイトバランス補正や、デモザイク処理などの様々なデジタル信号処理が必要に応じて実行される。
合成処理部293は、増幅後のモノクロ画像データおよびカラー画像データを合成して合成画像データを生成するものである。合成処理部293は、合成画像データを画像出力部213に供給する。
図11は、本技術の第1の実施の形態における露光制御に関連する構成をまとめたブロック図である。適正露出値演算部271は、サブ側測光量およびメイン側測光量に基づいて、サブ側適正露出値およびメイン側適正露出値を演算する。
メイン側露光パラメータ設定部272は、メイン側適正露出値から、メイン側の露光時間およびゲインを求めて設定する。サブ側露光パラメータ設定部274は、メイン側と同一の露光時間をサブ側に設定し、感度差に基づいてゲインを調整してサブ側に設定する。
ドライバ221は、サブ側露光時間に亘ってサブ側画素アレイ部230を露光させ、ドライバ241は、メイン側露光時間に亘ってメイン側画素アレイ部250を露光させる。なお、ドライバ221および241を含む回路は、特許請求の範囲に記載の制御部の一例である。
そして、アナログ信号増幅部222は、サブ側画素アレイ部230からの画素信号をサブ側のアナログゲインにより増幅し、アナログ信号増幅部242は、メイン側画素アレイ部250からの画素信号をメイン側のアナログゲインにより増幅する。なお、アナログ信号増幅部222および242を含む回路は、特許請求の範囲に記載の増幅部の一例である。
図12は、本技術の第1の実施の形態における露光パラメータの設定方法について説明するための図である。適正露出値演算部271は、サブ側適正露出値およびメイン側適正露出値を演算する。メイン側露光パラメータ設定部272は、プログラム線図を参照して、メイン側適正露出値に対応する露光時間およびゲインを求めてメイン側に設定する。
そして、サブ側露光パラメータ設定部274は、メイン側適正露出値から感度差換算値を減算して基準露出値とする。そして、この基準露出値±dEの許容範囲内の値にサブ側適正露出値を補正する。例えば、図12においては、サブ側適正露出値が、許容範囲の最大値よりも大きい。この場合にサブ側露光パラメータ設定部274は、その最大値に露出値を制限して補正済み適正露出値とする。
メイン側とサブ側との視差や画角の違いにより、サブ側とメイン側との明るさの差が大きくなることがあるが、このような場合であっても許容範囲内に適正露出値を制限することにより、メイン側とサブ側との露出値の乖離を抑制することができる。また、画像合成部290の仕様により、メイン側とサブ側との露出量の差が一定以下でないと合成することができない場合、仕様に応じた許容範囲の設定により、その仕様の要求を満たすことができる。
また、サブ側露光パラメータ設定部274は、メイン側露光時間と同じ値をサブ側露光時間に設定する。そして、サブ側露光パラメータ設定部274は、補正済み適正露出値から、サブ側露光時間の換算値を減じてサブ側ゲイン換算値を求め、サブ側のゲインを設定する。
上述の露光制御により、メイン側と同じ露光時間がサブ側に設定される。また、感度差に基づいてメイン側のゲインを調整した値が、サブ側のゲインとして設定される。これにより、撮像装置100は、同じ明るさのモノクロ画像データおよびカラー画像データを撮像することができる。
なお、サブ側露光パラメータ設定部274は、サブ側適正露出値を、許容範囲内に制限しているが、サブ側適正露出値を用いず、メイン側適正露出値から感度差換算値およびサブ側露光時間換算値を減算した値をそのままサブ側ゲイン換算値として用いてもよい。
図13は、比較例における露光パラメータの設定方法について説明するための図である。この比較例では、撮像装置は、感度差を考慮せずに、メイン側とサブ側とで別個に、適正露出値から露光時間およびゲインを設定するものとする。
比較例の撮像装置は、プログラム線図を参照して、メイン側適正露出値に対応する露光時間およびゲインを求めてメイン側に設定する。また、この撮像装置は、プログラム線図を参照して、サブ側適正露出値に対応する露光時間およびゲインを求めてサブ側に設定する。
メイン側とサブ側とで感度が異なる場合、同じ撮像条件であっても、メイン側とサブ側とで異なる測光量が得られるため、メイン側適正露出値とサブ側適正露出値とは異なる値になる。このため、メイン側とサブ側とで異なる露光時間が設定されることがある。この場合には、明るさが略同一であるものの、露光時間の相違により、動被写体のブレ量の異なる2枚の画像データが撮像される。この結果、合成画像データの画質が低下してしまう。
撮像装置が、メイン側の適正露出値をそのままサブ側に適用すれば、露光時間およびゲインをメイン側とサブ側とで同一にすることができる。しかしながら、メイン側とサブ側とで感度差があるため、同一の露光時間およびゲインを設定すると、2枚の画像データの明るさが異なるものとなってしまう。
これに対して、撮像装置100では、メイン側とサブ側とで露光時間を同じ値に設定し、感度差に基づいてサブ側のゲインを調整するため、メイン側とサブ側とで、画像データの明るさと露光時間とを略同一に揃えることができる。これにより、合成画像データの画質を向上させることができる。
[2眼カメラモジュールの動作例]
図14は、本技術の第1の実施の形態における2眼カメラモジュール200の動作の一例を示すフローチャートである。この動作は、例えば、カメラモジュール制御部110により撮像開始が指示されたときに開始される。
2眼カメラモジュール200は、メイン側とサブ側とで測光し、メイン側測光量およびサブ側測光量を生成する(ステップS901)。そして、2眼カメラモジュール200は、メイン側の露光パラメータを設定するためのメイン側露光制御処理を実行し(ステップS910)、サブ側の露光パラメータを設定するためのサブ側露光制御処理を実行する(ステップS920)。
そして、2眼カメラモジュール200は、設定した露光パラメータに基づいて、カラー画像およびモノクロ画像を撮像する(ステップS902)。2眼カメラモジュール200は、設定されたゲインにより画素信号を増幅し(ステップS903)、2枚の画像を合成する合成処理を実行する(ステップS904)。
図15は、本技術の第1の実施の形態におけるメイン側露光制御処理を示すフローチャートである。露光制御部270は、メイン側測光量からメイン側適正露出値を演算する(ステップS911)。そして、露光制御部270は、プログラム線図を参照し、メイン側適正露出値に対応するゲインを求めてメイン側に設定し(ステップS912)、また、対応する露光時間を求めてメイン側に設定する(ステップS913)。ステップS913の後に露光制御部270は、メイン側露光制御処理を終了する。
図16は、本技術の第1の実施の形態におけるサブ側露光制御処理を示すフローチャートである。露光制御部270は、サブ側測光量からサブ側適正露出値を演算する(ステップS921)。そして、露光制御部270は、メイン側適正露出値と感度差換算値との差分を基準露出値として演算し(ステップS922)、サブ側適正露出値を補正するためのサブ側適正露出値補正処理を実行する(ステップS930)。露光制御部270は、メイン側と同じ露光時間をサブ側に設定し(ステップS923)、補正済みサブ側適正露出値とサブ側露光時間換算値との差分からサブ側のゲインを求めて設定する(ステップS924)。ステップS924の後に露光制御部270は、サブ側露光制御処理を終了する。
図17は、本技術の第1の実施の形態におけるサブ側適正露出値補正処理を示すフローチャートである。露光制御部270は、サブ側適正露出値が、基準露出値+dEよりも大きいか否かを判断する(ステップS931)。サブ側適正露出値が基準露出値+dEよりも大きい場合に(ステップS931:Yes)、露光制御部270は、基準露出値+dEの値を補正済みサブ側適正露出値とする(ステップS932)。
一方、サブ側適正露出値が基準露出値+dE以下の場合に(ステップS931:No)、露光制御部270は、サブ側適正露出値が基準露出値−dEよりも小さいか否かを判断する(ステップS933)。サブ側適正露出値が基準露出値−dEよりも小さい場合に(ステップS933:Yes)、露光制御部270は、基準露出値−dEの値を補正済みサブ側適正露出値とする(ステップS934)。
一方、サブ側適正露出値が基準露出値−dE以上の場合に(ステップS933:No)、露光制御部270は、サブ側適正露出値をそのまま補正済みサブ側適正露出値とする(ステップS935)。ステップS932、S934またはS935の後に露光制御部270は、サブ側適正露出値補正処理を終了する。
このように、本技術の第1の実施の形態によれば、撮像装置100は、メイン側およびサブ側の露光時間を同一にし、感度差に基づいて調整してゲインを調整するため、同一の露光時間により同じ明るさの2枚の画像を撮像することができる。
[変形例]
上述の第1の実施の形態では、撮像装置100は、メイン側適正露出値から求めた基準露出値±dE内にサブ側適正露出値を補正していたが、この方法では、サブ側のゲインの設定においてサブ側適正露出値の反映の度合いを調整することができない。撮像装置100が基準露出値とサブ側適正露出値とを重み付け加算すれば、重み係数の調整により、サブ側適正露出値の反映の度合いを変更することができる。この第1の実施の形態の変形例の撮像装置100は、基準露出値とサブ側適正露出値とを重み付け加算する点において第1の実施の形態と異なる。
図18は、本技術の第1の実施の形態の変形例におけるサブ側露光制御処理を示すフローチャートである。この第1の実施の形態の変形例のサブ側露光制御処理は、ステップS925をさらに実行する点において第1の実施の形態と異なる。
露光制御部270は、式1により基準露出値SEBを計算し(ステップS922)、次の式による重み付け加算を行って重み付け加算値SE2を演算する(ステップS925)。
SE2=(A×SEB+B×SE1)/(A+B) ・・・式3
上式において、AおよびBは、重み係数であり、実数が設定される。
そして、露光制御部270は、サブ側適正露出値補正処理において、基準露出値SEB±dE内の値に重み付け加算値SE2を補正して補正済みサブ側適正露出値SE3とする(ステップS930)。
メイン側とサブ側との視差や画角の影響により、メイン側とサブ側との測光エリアがずれてしまうことがあり、その影響を抑制するために重み係数が調整される。例えば、サブ側の測光エリアがメイン側に対してずれているが、エリアの一部が一致する場合には、そのずれ量に応じて、重み係数AおよびBが設定される。例えば、重み係数Aに「1」、重み係数Bに「2」が設定される。
また、サブ側の測光エリアが、メイン側に対して完全にずれている場合には、重み係数Aに「0」、重み係数Bに「1」が設定される。また、メイン側の測光エリアがサブ側とで一致している場合には、重み係数Aに「1」、重み係数Bに「0」が設定される。
また、メイン側とサブ側との視差や画角の影響の他、画像合成部290の仕様に応じて、重み係数が調整される。例えば、画像合成部290の仕様上、メイン側とサブ側との露出量の完全一致が要求されている場合、重み係数Aに「1」、重み係数Bに「0」が設定される。また、サブ側の露出量が重視される場合には、重み係数Bに「0」以外の値が設定される。例えば、重み係数Aに「0」や「2」、重み係数Bに「1」が設定される。
このように、本技術の第1の実施の形態の変形例では、撮像装置100は、メイン側適正露出値SEBおよびサブ側適正露出値SE1の重み付け加算を行うため、サブ側の設定におけるサブ側適正露出値の反映の度合いを調整することができる。
<2.第2の実施の形態>
上述の第1の実施の形態では、メイン側適正露出値からメイン側の露光時間およびゲインを演算し、露光時間に合わせてサブ側のゲインを演算していた。しかし、この演算方法では、サブ側のゲインをマイナス値にしないと露出値がメイン側に一致しなくなることがある。一般的な固体撮像素子では、増幅のためのアンプは設けられているが、減衰のための素子や回路は設けられていないため、マイナス値のゲインを設定することができない。この場合には、サブ側でゲインがマイナス値にならないように露光時間を設定し、そのサブ側の露光時間をメイン側に適用すればよい。この第2の実施の形態の撮像装置100は、サブ側のゲインがマイナス値になるときにサブ側の露光時間をメイン側に適用する点において第1の実施の形態と異なる。
図19は、本技術の第2の実施の形態における露光制御部270の一構成例を示すブロック図である。この第2の実施の形態の露光制御部270の構成は、メイン側露光パラメータ設定部272の代わりにメイン側露光パラメータ設定部278を備える点において第1の実施の形態と異なる。また、第2の実施の形態の露光制御部270の構成は、サブ側露光パラメータ設定部274の代わりにサブ側露光パラメータ設定部279を備える点において第1の実施の形態と異なる。
サブ側露光パラメータ設定部279は、第1の実施の形態と同様の方法でサブ側のゲインを求め、そのゲインがマイナス値になるか否かを判断する。マイナス値になる場合にサブ側露光パラメータ設定部279は、そのマイナスのサブ側ゲイン換算値と、メイン側露光時間換算値とを加算した値をサブ側露光時間換算値として求める。すなわち、サブ側露光パラメータ設定部279は、マイナスのゲインの分だけ、露光時間を短くする。また、サブ側のゲインは「0」デシベル(dB)に設定される。そして、サブ側露光パラメータ設定部279は、メイン側露光パラメータ設定部278に、サブ側露光時間換算値を供給する。
サブ側露光時間換算値を受け取るとメイン側露光パラメータ設定部278は、サブ側と同じ露光時間をメイン側に設定する。そして、メイン側露光パラメータ設定部278は、メイン側適正露出値とメイン側露光時間換算値との差分に対応するゲインをメイン側に設定する。
図20は、本技術の第2の実施の形態における露光パラメータの設定方法について説明するための図である。露光制御部270は、プログラム線図を参照してメイン側適正露出値からメイン側の露光時間およびゲインを設定する。そして、露光制御部270は、サブ側の露光時間をサブ側と同一とした際のサブ側のゲインを演算する。ここで、サブ側のゲインがマイナス値となることがある。例えば、メイン側露光時間換算値がサブ側適正露出値より大きいと、サブ側のアナログゲインをマイナス値にしないと、露出値がメイン側に一致しなくなってしまう。
そのような場合に露光制御部270は、マイナスのサブ側ゲイン換算値と、メイン側露光時間換算値とを加算した値をサブ側露光時間換算値として求める。次いで露光制御部270は、サブ側露光時間換算値に対応する露光時間をサブ側に設定し、メイン側にもサブ側と同一の露光時間を設定する。そして、露光制御部270は、メイン側適正露出値とメイン側露光時間換算値との差分に対応するゲインをメイン側に設定する。また、露光制御部270は、サブ側のゲインを「0」デシベル(dB)に設定する。
図21は、本技術の第2の実施の形態における2眼カメラモジュール200の動作の一例を示すフローチャートである。この第2の実施の形態の2眼カメラモジュール200の動作は、ステップS905およびS950をさらに実行する点において第1の実施の形態と異なる。
2眼カメラモジュール200は、サブ側露光制御処理(ステップS920)の後に、切替フラグがオンであるか否かを判断する(ステップS905)。切替フラグがオンである場合に(ステップS905:Yes)、2眼カメラモジュール200は、サブ側の露光時間をメイン側に適用するための切替制御処理を実行する(ステップS950)。
切替フラグがオフである場合に(ステップS905:No)、またはS950の後に2眼カメラモジュール200は、ステップS902以降の処理を実行する。
図22は、本技術の第2の実施の形態におけるサブ側露光制御処理を示すフローチャートである。この第2の実施の形態のサブ側露光制御処理は、ステップS924乃至S928をさらに実行する点において第1の実施の形態と異なる。露光制御部270は、サブ側のゲインを設定し(ステップS924)、そのゲインがマイナス値であるか否かを判断する(ステップS925)。
ゲインがマイナス値でない場合に(ステップS925:No)、露光制御部270は、切替フラグをオフにし(ステップS926)、メイン側と同じ露光時間をサブ側に設定する(ステップS923)。一方、ゲイン換算値がマイナス値である場合に(ステップS925:Yes)、露光制御部270は、切替フラグをオンにする(ステップS927)。そして、露光制御部270は、メイン側適正露出値と感度差換算値との差分に対応するゲインをサブ側に設定し、サブ側のゲインを「0」デシベル(dB)に設定する(ステップS928)。ステップS923またはS928の後に露光制御部270は、メイン側露光制御処理を終了する。なお、第2の実施の形態において、重み付け加算を行う変形例を適用することもできる。
図23は、本技術の第2の実施の形態における切替制御処理を示すフローチャートである。露光制御部270は、サブ側と同一の露光時間をメイン側に設定する(ステップS951)。また、露光制御部270は、メイン側適正露出値とメイン側露光時間換算値との差分に対応するゲインをメイン側に設定する(ステップS952)。ステップS952の後に露光制御部270は、切替制御処理を終了する。
このように、本技術の第2の実施の形態では、露光制御部270は、サブ側のゲインがマイナス値になる場合に、サブ側の露光時間を短くしてメイン側に適用するため、サブ側のゲインがマイナス値になる場合であっても明るさを揃えることができる。
<3.第3の実施の形態>
上述の第1の実施の形態では、撮像装置100は、カラーフィルタを設けないサブ側固体撮像素子220とカラーフィルタを設けたメイン側固体撮像素子240とによりモノクロ画像データおよびカラー画像データを撮像して合成していた。しかし、この構成では、合成する2枚の画像の両方をいずれもカラー画像とするアプリケーションを実行することができない。2枚のカラー画像データを撮像する際には、サブ側固体撮像素子220にもカラーフィルタを設ければよい。この第3の実施の形態の2眼カメラモジュール200は、2枚のカラー画像データを撮像して合成する点において第1の実施の形態と異なる。
図24は、本技術の第3の実施の形態における2眼カメラモジュール200の一構成例を示すブロック図である。この第3の実施の形態の2眼カメラモジュール200は、撮像レンズ211および212の代わりに、望遠レンズ214および広角レンズ215を設け、サブ側固体撮像素子220にカラーフィルタを設けた点において第1の実施の形態と異なる。
望遠レンズ214は、広角レンズ215よりも画角が狭いレンズである。この望遠レンズ214は、集光した光をサブ側固体撮像素子220に導く。広角レンズ215は、望遠レンズ214よりも画角が広いレンズである。この広角レンズ215は、集光した光をメイン側固体撮像素子240に導く。
また、サブ側固体撮像素子220およびメイン側固体撮像素子240のいずれにもカラーフィルタが設けられているが、メイン側とサブ側とで画素の感度が異なるものとする。
第3の実施の形態の画像合成部290は、ユーザが所定値Th1以上にズーム倍率を上げる操作を行った際に、合成せずに望遠側のカラー画像データを選択して出力する。また、ユーザが所定値Th2以下にズーム倍率を下げる操作を行った際に、画像合成部290は、広角側のカラー画像データを選択して出力する。ユーザが所定値Th1からTh2の間にズーム倍率を操作した際に、画像合成部290は、広角側のカラー画像データ内に、望遠側のカラー画像データをはめ込む処理を行い、そのズーム倍率に応じた画像を生成する。
このように、本技術の第3の実施の形態では、サブ側固体撮像素子220にもカラーフィルタを設けたため、撮像装置100は、2枚のカラー画像データを撮像して合成することができる。
<4.第4の実施の形態>
上述の第1の実施の形態では、2眼の撮像装置100において、ゲインの調整により2枚の画像データの明るさを同一にしていたが、3眼以上の複眼の撮像システムにおいて、3枚以上の画像データの明るさを揃えることもできる。この第4の実施の形態の撮像システムは、複眼の撮像システムにおいて、3枚以上の画像データの明るさを同一に制御する点において第1の実施の形態と異なる。
図25は、本技術の第4の実施の形態における撮像システムの一構成例を示すブロック図である。この撮像素子ステムは、単眼撮像装置301、302および303などの3つ以上の単眼撮像装置と、同期制御装置304と、記録装置305とを備える。
同期制御装置304は、垂直同期信号VSYNCの供給により、単眼撮像装置301等の動作を同期させるものである。
単眼撮像装置301の構成は、第1の実施の形態のメイン側の単眼カメラモジュール201と同様である。単眼撮像装置302等の他の単眼撮像装置の構成は、第1の実施の形態のサブ側の単眼カメラモジュール202と同様である。ただし、第4の実施の形態の単眼撮像装置301等には、記録部120、同期信号供給部280および画像合成部290は設けられない。
記録装置305は、単眼撮像装置301等で撮像された画像データを記録するものである。なお、記録装置305は、特許請求の範囲に記載の記録部の一例である。
例えば、工場内の所定の監視位置に単眼撮像装置301等を配置し、画像データを解析することにより、撮像システムは、工場内の異常を検知することができる。この撮像システムでは、露光時間および明るさが同一の3枚以上の画像データを撮像することができるため、画像データの解析の精度を高くすることができる。
このように、本技術の第4の実施の形態では、3つ以上の単眼撮像装置301等においてゲインを調整するため、露光時間および明るさが同一の3枚以上の画像データを撮像することができる。
<5.移動体への応用例>
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図26は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図26に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図26の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図27は、撮像部12031の設置位置の例を示す図である。
図27では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図27には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部12031に適用され得る。具体的には、図3の2眼カメラモジュール200を図26の撮像部12031に適用することができる。撮像部12031に本開示に係る技術を適用することにより、同一の画質の複数の画像データを撮像することができるため、合成画像データの画質を向上させることができる。
なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
また、上述の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disc)、メモリカード、ブルーレイディスク(Blu-ray(登録商標)Disc)等を用いることができる。
なお、本明細書に記載された効果はあくまで例示であって、限定されるものではなく、また、他の効果があってもよい。
なお、本技術は以下のような構成もとることができる。
(1)第1の画素信号を生成する第1の画素が配列された第1の画素アレイ部と、
第2の画素信号を生成する第2の画素が配列された第2の画素アレイ部と、
適正露出値に基づいて露光時間と前記第1の画素信号に対する第1のゲインとを設定する第1の設定部と、
前記第1の画素アレイ部が設けられた第1の単眼カメラモジュールと前記第2の画素アレイ部が設けられた第2の単眼カメラモジュールとの感度差に基づいて前記第1のゲインを調整して前記第2の画素により生成された第2の画素信号に対する第2のゲインとして設定する第2の設定部と、
前記露光時間に亘って前記第1および第2の画素アレイ部を露光させる制御部と、
前記出力された第1および第2の画素信号を前記第1および第2のゲインにより増幅する増幅部と
を具備する撮像装置。
(2)前記適正露出値は、前記第1の画素信号から演算された第1の適正露出値と前記第2の画素信号から演算された第2の適正露出値とを含み、
前記第1の設定部は、前記第1の適正露出値に基づいて前記露光時間と前記第1のゲインとを設定し、
前記第2の設定部は、前記第1の適正露出値と前記感度差と前記露光時間とから前記第2のゲインを演算する
前記(1)記載の撮像装置。
(3)前記第2の設定部は、前記第1の適正露出値と前記感度差と前記露光時間とから演算したゲインがマイナス値になる場合には当該演算したゲインと前記露光時間とから新たな露光時間を取得するとともに前記第2のゲインを零に設定し、
前記第1の設定部は、前記新たな露光時間が取得された場合には前記新たな露光時間と前記第1の適正露出値とから演算したゲインを前記第1のゲインとして設定する
前記(2)記載の撮像装置。
(4)前記第2の設定部は、
前記第1の適正露出値と前記感度差を露出値に換算した感度差換算値とから基準露出値を演算する演算器と、
前記基準露出値に基づいて前記第2の適正露出値を補正して補正済み適正露出値として出力する補正部と、
前記補正済み適正露出値と前記露光時間を露出値に換算した値との差分から前記第2のゲインを演算するゲイン演算部と
を備える前記(2)または(3)に記載の撮像装置。
(5)前記補正部は、前記基準露出値を含む所定の許容範囲内の値に前記第2の適正露出値を補正する前記(4)記載の撮像装置。
(6)前記補正部は、前記基準露出値と前記第2の適正露出値とを重み付け加算した値を前記基準露出値を含む所定の許容範囲内の値に補正する
前記(4)記載の撮像装置。
(7)前記第1の画素は、互いに異なる波長の光を受光する複数の画素を含み、
前記第2の画素のそれぞれは、同一の波長の光を受光する
前記(1)から(6)のいずれかに記載の撮像装置。
(8)光を集光して前記第1の画素アレイ部に導く第1の撮像レンズと、
光を集光して前記第2の画素アレイ部に導く第2の撮像レンズと
をさらに具備し、
前記第1の撮像レンズは、前記第2の撮像レンズと画角が異なる
前記(1)から(7)のいずれかに記載の撮像装置。
(9)前記第1および第2の画素信号を第1および第2の画素データに変換するアナログデジタル変換部とをさらに具備し、
前記第1のゲインは、第1のアナログゲインと第1のデジタルゲインとを含み、
前記第2のゲインは、第2のアナログゲインと第2のデジタルゲインとを含み、
前記増幅部は、
前記第1および第2の画素信号を第1および第2のアナログゲインにより増幅するアナログ信号増幅部と、
前記第1および第2の画素データを第1および第2のデジタルゲインにより増幅するデジタル信号増幅部とを備える
前記(1)から(8)のいずれかに記載の撮像装置。
(10)第1の画素信号を生成する第1の画素が配列された第1の画素アレイ部と、
第2の画素信号を生成する第2の画素が配列された第2の画素アレイ部と、
適正露出値に基づいて露光時間と前記第1の画素信号に対する第1のゲインとを設定する第1の設定部と、
前記第1の画素アレイ部が設けられた第1の単眼カメラモジュールと前記第2の画素アレイ部が設けられた第2の単眼カメラモジュールとの感度差に基づいて前記第1のゲインを調整して前記第2の画素により生成された第2の画素信号に対する第2のゲインとして設定する第2の設定部と、
前記露光時間に亘って前記第1および第2の画素アレイ部を露光させる制御部と、
前記出力された第1および第2の画素信号を前記第1および第2のゲインにより増幅する増幅部と、
前記第1および第2の画素信号から生成された画像データを出力する画像出力部と
を具備する撮像モジュール。
(11)第1の画素信号を生成する第1の画素が配列された第1の画素アレイ部と、
第2の画素信号を生成する第2の画素が配列された第2の画素アレイ部と、
適正露出値に基づいて露光時間と前記第1の画素信号に対する第1のゲインとを設定する第1の設定部と、
前記第1の画素アレイ部が設けられた第1の単眼カメラモジュールと前記第2の画素アレイ部が設けられた第2の単眼カメラモジュールとの感度差に基づいて前記第1のゲインを調整して前記第2の画素により生成された第2の画素信号に対する第2のゲインとして設定する第2の設定部と、
前記露光時間に亘って前記第1および第2の画素アレイ部を露光させる制御部と、
前記出力された第1および第2の画素信号を前記第1および第2のゲインにより増幅する増幅部と、
前記第1および第2の画素信号から生成された画像データを記録する記録部と
を具備する撮像システム。
(12)第1の画素信号を生成する第1の画素が配列された第1の画素アレイ部と第2の画素信号を生成する第2の画素が配列された第2の画素アレイ部とのうち前記第2の画素アレイ部からの前記第1の画素信号に対する第1のゲインと露光時間とを適正露出値に基づいて設定する第1の設定手順と、
前記第1の画素アレイ部が設けられた第1の単眼カメラモジュールと前記第2の画素アレイ部が設けられた第2の単眼カメラモジュールとの感度差に基づいて前記第1のゲインを調整して前記第2の画素信号に対する第2のゲインとして設定する第2の設定手順と、
前記露光時間に亘って前記第1および第2の画素アレイ部を露光させる制御手順と、
前記出力された第1および第2の画素信号を前記第1および第2のゲインにより増幅する増幅手順と
を具備する撮像装置の制御方法。
100 撮像装置
110 カメラモジュール制御部
120 記録部
200 2眼カメラモジュール
201、202 単眼カメラモジュール
203 連結部材
211、212 撮像レンズ
213 画像出力部
214 望遠レンズ
215 広角レンズ
220 サブ側固体撮像素子
221、241 ドライバ
222、242 アナログ信号増幅部
223、243 AD変換部
224、244、291、292 デジタル信号増幅部
230 サブ側画素アレイ部
231 画素
240 メイン側固体撮像素子
250 メイン側画素アレイ部
251 R画素
252 G画素
253 B画素
260 測光部
270 露光制御部
271 適正露出値演算部
272、278 メイン側露光パラメータ設定部
273 メモリ
274、279 サブ側露光パラメータ設定部
275 演算器
276 サブ側適正露出値補正部
277 サブ側ゲイン演算部
280 同期信号供給部
290 画像合成部
293 合成処理部
301、302、303 単眼撮像装置
304 同期制御装置
305 記録装置
12101、12102、12103、12104、12105 撮像部

Claims (12)

  1. 第1の画素信号を生成する第1の画素が配列された第1の画素アレイ部と、
    第2の画素信号を生成する第2の画素が配列された第2の画素アレイ部と、
    適正露出値に基づいて露光時間と前記第1の画素信号に対する第1のゲインとを設定する第1の設定部と、
    前記第1の画素アレイ部が設けられた第1の単眼カメラモジュールと前記第2の画素アレイ部が設けられた第2の単眼カメラモジュールとの感度差に基づいて前記第1のゲインを調整して前記第2の画素により生成された第2の画素信号に対する第2のゲインとして設定する第2の設定部と、
    前記露光時間に亘って前記第1および第2の画素アレイ部を露光させる制御部と、
    前記出力された第1および第2の画素信号を前記第1および第2のゲインにより増幅する増幅部と
    を具備する撮像装置。
  2. 前記適正露出値は、前記第1の画素信号から演算された第1の適正露出値と前記第2の画素信号から演算された第2の適正露出値とを含み、
    前記第1の設定部は、前記第1の適正露出値に基づいて前記露光時間と前記第1のゲインとを設定し、
    前記第2の設定部は、前記第1の適正露出値と前記感度差と前記露光時間とから前記第2のゲインを演算する
    請求項1記載の撮像装置。
  3. 前記第2の設定部は、前記第1の適正露出値と前記感度差と前記露光時間とから演算したゲインがマイナス値になる場合には当該演算したゲインと前記露光時間とから新たな露光時間を取得するとともに前記第2のゲインを零に設定し、
    前記第1の設定部は、前記新たな露光時間が取得された場合には前記新たな露光時間と前記第1の適正露出値とから演算したゲインを前記第1のゲインとして設定する
    請求項2記載の撮像装置。
  4. 前記第2の設定部は、
    前記第1の適正露出値と前記感度差を露出値に換算した感度差換算値とから基準露出値を演算する演算器と、
    前記基準露出値に基づいて前記第2の適正露出値を補正して補正済み適正露出値として出力する補正部と、
    前記補正済み適正露出値と前記露光時間を露出値に換算した値との差分から前記第2のゲインを演算するゲイン演算部と
    を備える請求項2記載の撮像装置。
  5. 前記補正部は、前記基準露出値を含む所定の許容範囲内の値に前記第2の適正露出値を補正する請求項4記載の撮像装置。
  6. 前記補正部は、前記基準露出値と前記第2の適正露出値とを重み付け加算した値を前記基準露出値を含む所定の許容範囲内の値に補正する
    請求項4記載の撮像装置。
  7. 前記第1の画素は、互いに異なる波長の光を受光する複数の画素を含み、
    前記第2の画素のそれぞれは、同一の波長の光を受光する
    請求項1記載の撮像装置。
  8. 光を集光して前記第1の画素アレイ部に導く第1の撮像レンズと、
    光を集光して前記第2の画素アレイ部に導く第2の撮像レンズと
    をさらに具備し、
    前記第1の撮像レンズは、前記第2の撮像レンズと画角が異なる
    請求項1記載の撮像装置。
  9. 前記第1および第2の画素信号を第1および第2の画素データに変換するアナログデジタル変換部とをさらに具備し、
    前記第1のゲインは、第1のアナログゲインと第1のデジタルゲインとを含み、
    前記第2のゲインは、第2のアナログゲインと第2のデジタルゲインとを含み、
    前記増幅部は、
    前記第1および第2の画素信号を第1および第2のアナログゲインにより増幅するアナログ信号増幅部と、
    前記第1および第2の画素データを第1および第2のデジタルゲインにより増幅するデジタル信号増幅部とを備える
    請求項1記載の撮像装置。
  10. 第1の画素信号を生成する第1の画素が配列された第1の画素アレイ部と、
    第2の画素信号を生成する第2の画素が配列された第2の画素アレイ部と、
    適正露出値に基づいて露光時間と前記第1の画素信号に対する第1のゲインとを設定する第1の設定部と、
    前記第1の画素アレイ部が設けられた第1の単眼カメラモジュールと前記第2の画素アレイ部が設けられた第2の単眼カメラモジュールとの感度差に基づいて前記第1のゲインを調整して前記第2の画素により生成された第2の画素信号に対する第2のゲインとして設定する第2の設定部と、
    前記露光時間に亘って前記第1および第2の画素アレイ部を露光させる制御部と、
    前記出力された第1および第2の画素信号を前記第1および第2のゲインにより増幅する増幅部と、
    前記第1および第2の画素信号から生成された画像データを出力する画像出力部と
    を具備する撮像モジュール。
  11. 第1の画素信号を生成する第1の画素が配列された第1の画素アレイ部と、
    第2の画素信号を生成する第2の画素が配列された第2の画素アレイ部と、
    適正露出値に基づいて露光時間と前記第1の画素信号に対する第1のゲインとを設定する第1の設定部と、
    前記第1の画素アレイ部が設けられた第1の単眼カメラモジュールと前記第2の画素アレイ部が設けられた第2の単眼カメラモジュールとの感度差に基づいて前記第1のゲインを調整して前記第2の画素により生成された第2の画素信号に対する第2のゲインとして設定する第2の設定部と、
    前記露光時間に亘って前記第1および第2の画素アレイ部を露光させる制御部と、
    前記出力された第1および第2の画素信号を前記第1および第2のゲインにより増幅する増幅部と、
    前記第1および第2の画素信号から生成された画像データを記録する記録部と
    を具備する撮像システム。
  12. 第1の画素信号を生成する第1の画素が配列された第1の画素アレイ部と第2の画素信号を生成する第2の画素が配列された第2の画素アレイ部とのうち前記第2の画素アレイ部からの前記第1の画素信号に対する第1のゲインと露光時間とを適正露出値に基づいて設定する第1の設定手順と、
    前記第1の画素アレイ部が設けられた第1の単眼カメラモジュールと前記第2の画素アレイ部が設けられた第2の単眼カメラモジュールとの感度差に基づいて前記第1のゲインを調整して前記第2の画素信号に対する第2のゲインとして設定する第2の設定手順と、
    前記露光時間に亘って前記第1および第2の画素アレイ部を露光させる制御手順と、
    前記出力された第1および第2の画素信号を前記第1および第2のゲインにより増幅する増幅手順と
    を具備する撮像装置の制御方法。
JP2017067103A 2017-03-30 2017-03-30 撮像装置、撮像モジュール、撮像システムおよび撮像装置の制御方法 Pending JP2018170656A (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2017067103A JP2018170656A (ja) 2017-03-30 2017-03-30 撮像装置、撮像モジュール、撮像システムおよび撮像装置の制御方法
US16/491,261 US11089230B2 (en) 2017-03-30 2017-12-20 Capturing apparatus, capturing module, capturing system, and capturing apparatus control method
PCT/JP2017/045694 WO2018179623A1 (ja) 2017-03-30 2017-12-20 撮像装置、撮像モジュール、撮像システムおよび撮像装置の制御方法
KR1020197027667A KR102388259B1 (ko) 2017-03-30 2017-12-20 촬상 장치, 촬상 모듈, 촬상 시스템 및 촬상 장치의 제어 방법
TW107104074A TWI775808B (zh) 2017-03-30 2018-02-06 攝像裝置、攝像模組、攝像系統及攝像裝置之控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017067103A JP2018170656A (ja) 2017-03-30 2017-03-30 撮像装置、撮像モジュール、撮像システムおよび撮像装置の制御方法

Publications (1)

Publication Number Publication Date
JP2018170656A true JP2018170656A (ja) 2018-11-01

Family

ID=63677675

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017067103A Pending JP2018170656A (ja) 2017-03-30 2017-03-30 撮像装置、撮像モジュール、撮像システムおよび撮像装置の制御方法

Country Status (5)

Country Link
US (1) US11089230B2 (ja)
JP (1) JP2018170656A (ja)
KR (1) KR102388259B1 (ja)
TW (1) TWI775808B (ja)
WO (1) WO2018179623A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020088684A (ja) * 2018-11-28 2020-06-04 株式会社アサヒ電子研究所 複眼撮像装置

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110557527B (zh) * 2018-06-04 2021-03-23 杭州海康威视数字技术股份有限公司 一种摄像机及抓拍图片融合方法
CN109151336B (zh) * 2018-10-15 2020-11-13 长沙智能驾驶研究院有限公司 摄像头的同步方法、装置、系统、存储介质及计算机设备
US10892287B2 (en) * 2019-01-18 2021-01-12 Cista System Corp. Image sensor with image receiver and automatic image switching

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4522307B2 (ja) 2005-04-08 2010-08-11 キヤノン株式会社 画像撮像装置、画像撮像方法
JP2007221386A (ja) * 2006-02-15 2007-08-30 Eastman Kodak Co 撮像装置
JP4897593B2 (ja) * 2007-07-09 2012-03-14 富士フイルム株式会社 複眼撮影装置及びその調節方法
JP5272614B2 (ja) * 2008-09-26 2013-08-28 株式会社リコー 広角レンズ及びこの広角レンズを用いた撮像装置
JP5426262B2 (ja) * 2009-07-17 2014-02-26 富士フイルム株式会社 複眼撮像装置
JP2011071605A (ja) 2009-09-24 2011-04-07 Fujifilm Corp 立体撮像装置及び立体撮像方法
JP2011223270A (ja) * 2010-04-08 2011-11-04 Toshiba Corp 固体撮像装置およびその制御動作
JP5558278B2 (ja) * 2010-09-10 2014-07-23 株式会社東芝 固体撮像装置
JP2012065204A (ja) 2010-09-16 2012-03-29 Toshiba Corp 複眼撮像装置、信号処理装置、複眼撮像装置の制御方法
US8672838B2 (en) * 2011-08-12 2014-03-18 Intuitive Surgical Operations, Inc. Image capture unit in a surgical instrument
JP5869808B2 (ja) 2011-09-02 2016-02-24 キヤノン株式会社 撮像装置及びその制御方法
EP2761362A4 (en) * 2011-09-26 2014-08-06 Microsoft Corp VIDEO DISPLAY CHANGE BASED ON SENSOR INPUT FOR TRANSPARENT EYE DISPLAY
JP2014022993A (ja) * 2012-07-19 2014-02-03 Nikon Corp 撮像装置及び撮像方法
JP6029430B2 (ja) * 2012-11-20 2016-11-24 キヤノン株式会社 画像処理装置及び画像処理方法
WO2014148031A1 (ja) * 2013-03-19 2014-09-25 パナソニック株式会社 画像生成装置、撮像装置および画像生成方法
JP2015197745A (ja) 2014-03-31 2015-11-09 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
WO2016009942A1 (ja) * 2014-07-15 2016-01-21 ブリルニクスジャパン株式会社 固体撮像装置、固体撮像装置の製造方法、および電子機器
CN107205109B (zh) * 2016-03-18 2020-10-09 聚晶半导体股份有限公司 具有多摄像模块的电子装置及其控制的方法
US10362205B2 (en) * 2016-04-28 2019-07-23 Qualcomm Incorporated Performing intensity equalization with respect to mono and color images
US10609265B2 (en) * 2017-01-26 2020-03-31 Qualcomm Incorporated Methods and apparatus for synchronizing camera flash and sensor blanking

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020088684A (ja) * 2018-11-28 2020-06-04 株式会社アサヒ電子研究所 複眼撮像装置
JP7182437B2 (ja) 2018-11-28 2022-12-02 株式会社アサヒ電子研究所 複眼撮像装置

Also Published As

Publication number Publication date
US20200036881A1 (en) 2020-01-30
US11089230B2 (en) 2021-08-10
TW201837594A (zh) 2018-10-16
KR102388259B1 (ko) 2022-04-18
KR20190133002A (ko) 2019-11-29
WO2018179623A1 (ja) 2018-10-04
TWI775808B (zh) 2022-09-01

Similar Documents

Publication Publication Date Title
JP6724982B2 (ja) 信号処理装置および撮像装置
TWI757419B (zh) 攝像裝置、攝像模組及攝像裝置之控制方法
TWI775808B (zh) 攝像裝置、攝像模組、攝像系統及攝像裝置之控制方法
WO2018179671A1 (ja) 画像処理装置と画像処理方法および撮像装置
WO2017175492A1 (ja) 画像処理装置、画像処理方法、コンピュータプログラム及び電子機器
WO2018110002A1 (ja) 撮像装置、および、撮像装置の制御方法
TWI842952B (zh) 攝像裝置
JP6816769B2 (ja) 画像処理装置と画像処理方法
WO2017169233A1 (ja) 撮像処理装置、撮像処理方法、コンピュータプログラム及び電子機器
JP7144926B2 (ja) 撮像制御装置、撮像装置、および、撮像制御装置の制御方法
JPWO2019102698A1 (ja) 画像処理装置と画像処理方法とプログラムおよび固体撮像装置
WO2018016150A1 (ja) 画像処理装置と画像処理方法
WO2017195459A1 (ja) 撮像装置、および撮像方法
WO2017169274A1 (ja) 撮像制御装置、撮像制御方法、コンピュータプログラム及び電子機器
WO2019167363A1 (ja) 画像処理装置と画像処理方法およびプログラム
US10873732B2 (en) Imaging device, imaging system, and method of controlling imaging device
JP2005271693A (ja) 物体検出装置
WO2018207665A1 (ja) 固体撮像装置、駆動方法、及び電子機器