JP2018064257A - 撮像システム - Google Patents

撮像システム Download PDF

Info

Publication number
JP2018064257A
JP2018064257A JP2016203167A JP2016203167A JP2018064257A JP 2018064257 A JP2018064257 A JP 2018064257A JP 2016203167 A JP2016203167 A JP 2016203167A JP 2016203167 A JP2016203167 A JP 2016203167A JP 2018064257 A JP2018064257 A JP 2018064257A
Authority
JP
Japan
Prior art keywords
imaging device
exposure period
imaging
level
exposure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016203167A
Other languages
English (en)
Other versions
JP6752679B2 (ja
Inventor
靖 岩倉
Yasushi Iwakura
靖 岩倉
智也 大西
Tomoya Onishi
智也 大西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016203167A priority Critical patent/JP6752679B2/ja
Priority to EP17193643.8A priority patent/EP3310036B1/en
Priority to US15/727,377 priority patent/US10948288B2/en
Priority to CN201710949672.0A priority patent/CN107959771B/zh
Publication of JP2018064257A publication Critical patent/JP2018064257A/ja
Application granted granted Critical
Publication of JP6752679B2 publication Critical patent/JP6752679B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/013Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over
    • B60R21/0132Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over responsive to vehicle motion parameters, e.g. to vehicle longitudinal or transversal deceleration or speed value
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/02Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/10Measuring distances in line of sight; Optical rangefinders using a parallactic triangle with variable angles and a base of fixed length in the observation station, e.g. in the instrument
    • G01C3/14Measuring distances in line of sight; Optical rangefinders using a parallactic triangle with variable angles and a base of fixed length in the observation station, e.g. in the instrument with binocular observation at a single point, e.g. stereoscopic type
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/144Processing image signals for flicker reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Mechanical Engineering (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Power Engineering (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Stereoscopic And Panoramic Photography (AREA)

Abstract

【課題】 フリッカ対策をしつつ、情報の欠落を防止することのできる距離情報を取得可能な撮像システムを提供する。
【解決手段】 第1の撮像装置と、第2の撮像装置と、第1の撮像装置と第2の撮像装置から取得した信号を処理する信号処理部とを有する。第1の撮像装置の露光期間と、第2の撮像装置の露光期間は、1フレーム内で複数回繰り返される。第1の撮像装置の露光期間と第2の撮像装置の非露光期間が重複し、かつ、第1の撮像装置の非露光期間と第2の撮像装置の露光期間が重複する。
【選択図】 図8

Description

本発明は、撮像システムに関する。
従来から、視点が異なる2つのカメラ(ステレオカメラ)を用いて計測対象である物体を撮像し、得られた2つの画像を用いて物体までの距離を測定するステレオ測距技術が知られている。ステレオカメラは、撮像された2つの画像間に生じる視差を利用して、三角測量の原理により物体までの距離を測定する。ステレオカメラを用いれば、カメラ位置とその前方にある人や物体などの被写体との距離を測定することができるため、ステレオカメラは、自動走行や事故回避を目的とした車載用のカメラとしても用いられる。
特許文献1には、交流電源駆動などに起因して明滅や輝度変動を繰り返す発光機器(例えば、発光ダイオード(LED))の下でも、被写体の撮像が可能である車載用のステレオカメラが記載されている。具体的には、特許文献1には、第1の撮像装置または第2の撮像装置の露光期間を、発光機器の明滅周期よりも長くすることにより、フリッカ対策を行った車載用のステレオカメラが記載されている。また、特許文献1には、第1の撮像装置の露光期間よりも第2の撮像装置の露光期間を長くすることで、第2の撮像装置から取得される信号を発光機器の確認用に用いることも記載されている。
特開2009−165081号公報
上記のように、特許文献1では、フリッカ対策のために、第2の撮像装置の露光期間の開始点を第1の撮像装置の露光期間の開始点よりも早く設定し、第2の撮像装置の露光時間を第1の撮像装置の露光時間よりも長くすることが記載されている。
しかし、特許文献1では、第2の撮像装置の露光期間の終了点と第1の撮像装置の露光期間の終了点が同じとなっている。このため、次のフレームにおける第1または第2の撮像装置の露光期間が開始するまでの間に、発光機器が発光してしまうと、この状態が撮影できないこととなり、情報が欠落する。
そこで、本発明は、フリッカ対策をしつつ、情報の欠落を防止することのできる距離情報を取得可能な撮像システムを提供することを目的とする。
本発明に係る撮像システムは、第1の撮像装置と、第2の撮像装置と、前記第1の撮像装置と前記第2の撮像装置から取得した信号を処理する信号処理部とを有し、前記第1の撮像装置の露光期間と、前記第2の撮像装置の露光期間は、1フレーム内で複数回繰り返され、前記第1の撮像装置の露光期間と前記第2の撮像装置の非露光期間が重複し、前記第1の撮像装置の非露光期間と前記第2の撮像装置の露光期間が重複することを特徴とする。
本発明によれば、フリッカ対策をしつつ、情報の欠落を防止することのできる距離情報を取得可能な撮像システムを提供することができる。
第1の実施形態にかかる撮像システムのブロック図を示す。 第1の実施形態にかかる撮像装置のブロック図を示す。 第1の実施形態にかかる画素部の等価回路図を示す。 第1の実施形態にかかる撮像システムの駆動のタイミング図を示す。 第1の実施形態にかかる撮像システムの駆動のタイミング図を示す。 第2の実施形態にかかる撮像システムのブロック図を示す。 第2の実施形態にかかる画素部の等価回路図を示す。 第2の実施形態にかかる撮像システムの駆動のタイミング図を示す。 第3の実施形態にかかる撮像システムの駆動のタイミング図を示す。 第3の実施形態にかかる撮像システムの駆動のタイミング図を示す。 第4の実施形態にかかる画素部の等価回路図を示す。 第4の実施形態にかかる撮像システムの駆動のタイミング図を示す。 第4の実施形態にかかる撮像システムの駆動のタイミング図を示す。 第5の実施形態での撮像システムを有する移動体を示す。
(第1の実施形態)
本発明に係る撮像システムの具体的な形態について、図面を参照しつつ説明する。なお、以下の説明および図面において、共通の構成については共通の符号を付して、適宜説明を省略する。図1から図5を参照して、本発明の第1の実施形態による撮像システムの構成および駆動方法を説明する。
(撮像システムのブロック図)
図1Aは第1の実施形態における撮像システムのブロック図である。撮像システム100は、撮像装置101(第1の撮像装置)と撮像装置102(第2の撮像装置)を備える。また、撮像システム100は、信号処理部103、光学制御部104、シャッタ・撮像装置制御部105、画像表示部106、記録部107、システムコントローラ108を備える。撮像装置101、102の光入射面側には光学部109と機械シャッタ110が配され、撮像装置101、102の後段には画像前処理部112が配される。
撮像装置101、102は、光学部109と機械シャッタ110を経て入射した光を電気信号に変換する。また、変換された電気信号は画像前処理部112で処理される。撮像装置101、102に照射される光量の大きさは、光学部109や機械シャッタ110への入力値や、撮像装置101、102および状態検知部111で測定される光信号強度を基に、システムコントローラ108が判定を行う。システムコントローラ108が撮像装置101、102に照射される光量が適正範囲から外れていると判定する場合、光学制御部104、シャッタ・撮像装置制御部105を通じて光学部109の絞り値や機械シャッタ110の動作を調整する。光学部109の絞り値や機械シャッタ110の動作を調整するのは、自動調整である必要はなく手動調整であってもよい。
シャッタ・撮像装置制御部105は、2台の撮像装置101、102と機械シャッタ110の動作を同期させる。具体的には、シャッタ・撮像装置制御部105は、第1の撮像装置101の機械シャッタ110と、第2の撮像装置102の機械シャッタ110の動作を同期させる周期信号の生成、画像信号の生成および出力に関わるタイミングを制御する信号生成等を行う。
機械シャッタ110は例えば光を遮蔽する先幕と後幕を有し、幕走行方位を行方向に有する。またシャッタの開閉期間はシャッタ・撮像装置制御部105によって制御される。
画像前処理部112は、撮像装置101、102から取得した電気信号に対して水平垂直同期や符号化等の処理を施して、後段の信号処理部103に画像信号として送信する。
信号処理部103は、画像処理部113、距離情報処理部114、画像出力部115を有する。
画像処理部113は、画像前処理部112から、撮像装置101、102の画像信号を取得する。そして、画像処理部113は、画像の一時記憶、画像の明るさ・コントラスト等の補正、輪郭抽出・部分切り出し・合成・歪み補正の画像加工、被写体の分別・同定・認知等の処理を行う。
距離情報処理部114は、画像処理部113の処理結果を基に、被写体との視差・測距演算の処理を行う。
画像出力部115は、画像処理部113の処理結果を基に、画像表示部106と記録部107への出力に適した信号への加工と信号出力を行う。
図1Bは、シャッタ・撮像装置制御部105の一例をより詳しく説明するものである。シャッタ・撮像装置制御部105は、周期信号の生成等を行う原発振生成部160と、第1の撮像装置101と第2の撮像装置102を制御するための制御信号を出力する制御信号出力部150とを有する。配線170は制御信号出力部150と第1の撮像装置101を電気的に接続する配線であり、配線180は制御信号出力部150と第2の撮像装置102とを電気的に接続する配線である。2つの撮像装置を高い精度で同期させるために、配線170の長さと配線180の長さは略同じである。ここで、略同じ長さとは、同一の長さのみならず、本実施形態の効果を奏する範囲において異なる長さであってもよい。
(撮像装置のブロック図)
図2は撮像システム100に配されている撮像装置101または102のブロック図である。撮像装置102は、撮像装置101と同様の構成を有する。
撮像装置101または102は、複数の画素11が二次元状に配された撮像領域10、制御部12、垂直走査部13、画素信号処理部14、出力部16からなる。制御部12、垂直走査部13、画素信号処理部14、出力部16は撮像領域10の外周に配されている。
制御部12は、垂直走査部13、画素信号処理部14、出力部16に制御信号、電源電圧等を供給する。垂直走査部13は、撮像領域10に配された複数の画素11について画素行毎または複数の画素行毎に駆動信号を供給する。第1の撮像装置101と第2の撮像装置102とを高い精度で同期するために、図1に示したシャッタ・撮像装置制御部105は制御部12と電気的に接続されている。
垂直走査部13は、シフトレジスタまたはアドレスデコーダにより構成することができる。
画素信号処理部14は、列回路17、水平走査回路18、水平出力線15を含んで構成される。列回路は、各々複数の回路を含んで構成される。例えば、複数の回路とは、信号保持回路、増幅回路、ノイズ除去回路、アナログデジタル変換回路、等である。水平走査回路はシフトレジスタまたはアドレスデコーダにより構成することができる。水平出力線15に出力される信号は、アナログ信号、デジタル信号のいずれでも良い。
出力部16は緩衝回路を含んで構成され、水平出力線15を介して伝達された信号を撮像装置101または102の後段にある画像前処理部112へ送信する。
(画素部の等価回路図)
図3は、図2に示す画素11の等価回路の構成を示す。図3は4つの画素からなる例である。画素11は、光電変換部301、フローティングディフュージョン302(FD302)、転送スイッチ304、入力ノード303、リセットトランジスタ305、増幅部306、選択トランジスタ307を含む。同一行に配されている複数の画素11は転送スイッチ304、リセットトランジスタ305および選択トランジスタ307を各々一斉に動作・停止制御する制御線pTX1、pSEL、pRESに接続される。
光電変換部301は入射光によって電荷を生成して、生成された電荷を蓄積する。光電変換部301は、例えばフォトダイオードである。
転送スイッチ304は、光電変換部301で生成された電荷をFD302に転送する。転送スイッチ304は制御線pTX1を通じて供給される信号によって制御される。転送スイッチ304は、例えばMOSトランジスタである。
FD302は、光電変換部301で生成された電荷を、転送スイッチ304の動作によって受取り保持する機能を担い、増幅部306の入力ノード303を構成する。
増幅部306は、増幅部306の入力ノード303に蓄積された電荷を垂直出力線308に増幅して画素信号として出力する。増幅部306は、例えばソースフォロワ回路である。
選択トランジスタ307は、垂直出力線308に信号を出力する画素300を選択する。
リセットトランジスタ305は、制御線pRESの信号によって入力ノード303にある電荷を電源309に排出して、入力ノード303の電位を電源309の電位にする、リセット動作を行う。
(タイミングチャート)
図4は、撮像システム100の動作を説明するタイミング図である。波形400は、交流電源を全波整流した波形を模式的に示している。交流電源は、例えば50Hzや60Hzの周波数を有する電源である。図4の期間T40は、交流電源の周期に相当しており、例えば1/50秒や1/60秒である。
波形401は、波形400の電源を用いた光源の点滅状態を示している。Hレベルは点灯状態、Lレベルは消灯状態を表す。交流電源を用いた光源としては、例えば交通信号機などのLED光源などがある。全波整流した電源の波形400がある閾値以上の場合、波形401はHレベルとなって点灯状態になる。一方、波形400が閾値以下の場合、波形401はLレベルとなって消灯状態になる。
期間T41は、光源の点滅周期を示しており、交流電源の周期である期間T40の1/2の周期となる。また、期間T42は光源の点灯している期間、期間T43は光源の消灯している期間をそれぞれ示す。
矩形の符号410および420は、第1の撮像装置101および第2の撮像装置102の光入射側に配した機械シャッタ110の開閉状態をそれぞれ示すものである。矩形部分は開状態、矩形がない部分は閉状態を表わす。機械シャッタ110の開放期間は、実質的に第1の撮像装置101と第2の撮像装置102の露光期間となる。そのため、矩形の符号410と矩形の符号420を、露光期間410と露光期間420ということもある。
信号波形411および421は転送スイッチ304の制御線pTX1での入力信号の波形を示す。転送スイッチ304の制御線pTX1がLレベルからHレベルに制御されると、転送スイッチ304がオン状態になり、光電変換部301にある電荷はFD302を含む入力ノード303に転送される。
次に、光電変換部301からFD302への電荷転送を終えた後に制御線pTX1の制御信号をHレベルからLレベルに戻す。
信号波形412および422は選択トランジスタ307の制御線pSELでの入力信号の波形を示す。選択トランジスタ307の制御線pSELがLレベルからHレベルに制御されると、選択トランジスタ307がオン状態になり、電源309から増幅部306を経た電流を垂直出力線308に出力する。
信号波形413および423はリセットトランジスタ305の制御線pRESでの入力信号の波形を示す。リセットトランジスタ305の制御線pRESがLレベルからHレベルに制御されると、リセットトランジスタ305がオン状態になり、FD302を含む入力ノード303にある電荷は電源309に排出される。
図4に示すように、第1の撮像装置101および第2の撮像装置102は、行順次に露光するように、これらの撮像装置の機械シャッタ110は、1フレーム内で繰り返し開閉を行う。
機械シャッタ110の開放期間は、実質的に第1および第2の撮像装置での露光期間となる。すなわち、機械シャッタ410および420が行順次で開放されている期間、第1および第2の撮像装置の対応する画素行の光電変換部301に入射した光は電荷に変換される。機械シャッタ410および420が閉鎖されている期間、第1および第2の撮像装置の対応する画素行の光電変換部301は電荷を生成せず、電荷を保持し続ける。こうして機械シャッタ410および420の行順次開閉、即ち第1および第2の撮像装置の対応する画素行への露光を繰り返して光電変換部301に電荷を蓄積させる。
任意のフレームにおいて、機械シャッタ410および420の行順次の最終開閉は、第1および第2の撮像装置の対応する画素行への最終露光である。例えば第1の撮像装置の1行目であれば図4中のT44およびT45、第2の撮像装置の1行目であれば図4中のT46およびT47に当たる。
最終行まで露光が終了した後、第1および第2の撮像装置の制御線pSEL412、422に制御信号を行順次でLレベルからHレベルへ入力する。次に、制御線pSEL412、422の制御信号をHレベルに保ちつつ、制御線pRES413、423に制御信号を行順次でLレベルからHレベルへ入力する。この操作により、入力ノード303に残留する電荷を電源309に排出する。次に、制御線pSEL412、422の制御信号をHレベルに保ちつつ、制御線pRES413、423に制御信号を行順次にHレベルからLレベルへ戻して、リセットトランジスタ305をオン状態からオフ状態にする。次に、制御線pSEL412、422の制御信号をHレベルに保ちつつ、制御線pTX412、422に制御信号を行順次にLレベルからHレベルに入力することにより、光電変換部301に蓄積された電荷をFD302に転送する。FD302に転送された電荷は増幅部306によって増幅された画素信号となる。増幅された画素信号は、選択トランジスタ307から垂直出力線308に出力される。光電変換部301からFD302へ電荷転送を終えた後に、制御線pTXの412、422は制御信号を行順次にHレベルからLレベルへ戻して、転送スイッチ304をオン状態からオフ状態にする。最後に、制御線pSEL412、422の制御信号をHレベルからLレベルへ戻して、選択トランジスタ307をオン状態からオフ状態にする。
図4においては、1フレームにおける第1の撮像装置101の複数の露光期間を符号4100、4110で示している。同様に、1フレームにおける第2の撮像装置102の複数の露光期間を符号4200、4210で示している。つまり、第1および第2の撮像装置において、1フレーム内で複数の露光期間が繰り返されており、露光期間内に光電変換部301で生じた電荷は光電変換部301で加算される。
また、第1の撮像装置101の露光期間4100、4110と第2の撮像装置102の非露光期間が重複しており、かつ、第1の撮像装置101の非露光期間と第2の撮像装置102の露光期間4200、4210が重複している。また、第1の撮像装置101の露光期間4100、4110と第2の撮像装置101の露光期間4200、4210とは相補的な関係となっている。すなわち、第1の撮像装置101の露光期間は、第2の撮像装置102の非露光期間に対応し、第1の撮像装置101の非露光期間は、第2の撮像装置102の露光期間に対応している。また、第1の撮像装置101の露光期間と第2の撮像装置102の露光期間が重複していない上に、第1の撮像装置101の非露光期間と第2の撮像装置102の非露光期間も重複していない。
なお、図4では、第1の撮像装置101の露光期間と第2の撮像装置102の露光期間は重複されていないが、以下で説明する図5のように、第1の撮像装置101の露光期間と第2の撮像装置102の露光期間の一部が重なり合っていてもよい。図5の場合であっても、上記で説明したように、第1の撮像装置101の露光期間と第2の撮像装置102の非露光期間が重複しており、かつ、第1の撮像装置101の非露光期間と第2の撮像装置102の露光期間が重複しているという関係を満たしている。また、第1の撮像装置101の露光期間と第2の撮像装置102の露光期間の重複する時間が長ければ長いほど、各撮像装置で取得される2つの画像は同時性が高い画像となるため、より高い精度で被写体までの距離を取得することが可能となる。ここで、第1の撮像装置101の露光期間と第2の撮像装置102の露光期間の重複する期間を第1の期間とする。また、第1の撮像装置101の非露光期間と第2の撮像装置102の露光期間の重複する期間を第2の期間とする。さらに、第1の撮像装置101の露光期間と第2の撮像装置102の非露光期間の重複する期間を第3の期間とする。この場合、第1の期間は、第2の期間および第3の期間よりも長くすることによって、同時性がより確保された画像を取得できることになる。
また、図4では、第1の撮像装置101の露光期間4100、4110の長さは、第2の撮像装置102の露光期間4200、4210の長さよりも長くなるように構成されている。しかし、第1の撮像装置101と第2の撮像装置102の露光期間の長さは一致していてもよいし、また、第2の撮像装置102の露光期間の長さが第1の撮像装置101の露光期間の長さよりも長くてもよい。第1の撮像装置101と第2の撮像装置102の露光期間の長さが異なる場合には、各撮像装置から取得される情報を合成して、ダイナミックレンジを拡大した画像を形成することも可能である。
本実施形態では、1フレーム内において、第1の撮像装置101と第2の撮像装置102の露光期間が複数回繰り返されているため、フリッカ対策をすることができる。
また、本実施形態では、第1の撮像装置101の非露光期間でも第2の撮像装置101の露光期間が存在し、かつ、第2の撮像装置102の非露光期間でも第1の撮像装置101の露光期間が存在することになる。第2の撮像装置102の非露光期間においても、第1の撮像装置101の露光期間が存在することから、特許文献1に記載された技術よりも、情報の欠落を抑制することができるという効果がある。
(第2の実施形態)
本実施形態は、電子シャッタを用いて露光期間を制御する点で、第1の実施形態とは異なる。また、本実施形態は、光電変換部とFDとの間に電荷保持部を有することを特徴とする。以下、図6、図7、図8等を参照しつつ、説明を行う。
(撮像システムのブロック図)
図6は本実施形態にかかる撮像システムのブロック図である。撮像システム600は少なくとも2台の撮像装置101、102、信号処理部103、光学制御部104、シャッタ・撮像装置制御部105、画像表示部106、記録部107、システムコントローラ108を備える。
またシャッタ・撮像装置制御部105は、2台の撮像装置101、102の動作を同期させる。具体的には、シャッタ・撮像装置制御部105は、2台の撮像装置101と102を同期させる周期信号の生成や、撮像装置101と102の各々の露光期間制御、画像信号の生成および出力に関わる時期を制御する信号生成を行う。
(撮像装置のブロック図)
本実施形態にかかる撮像装置は図2と同様のブロック配置を採り得る。もっとも、制御部12には、垂直走査部13を介して、画素行毎または複数の画素行毎にシャッタ動作を行う駆動信号を供給する機能が付け加えられている。
(画素部の等価回路図)
図7は、画素11の等価回路の構成を示す。画素11は、図2の構成に加えて、電荷保持部310と、光電変換部301から電荷保持部310に電荷を転送する第1の転送スイッチ304と、電荷保持部310からフローティングディフュージョン302に電荷を転送する第2の転送スイッチ311を含む。また、光電変換部301から電源309へ電荷を排出するオーバーフロードレイントランジスタ312を含む。
第1の転送スイッチ304、第2の転送スイッチ311、オーバーフロードレイントランジスタ312を同一行で一斉に動作するために、同一行に配されている複数の画素は制御線pTX1、pTX2、pOFDに接続される。
(タイミングチャート)
図8は、撮像システム600の動作を説明するタイミング図である。矩形の符号810および820は、第1の撮像装置101および第2の撮像装置102の露光期間を示す。すなわち、矩形部分は露光期間、矩形がない部分は非露光期間を表わす。
信号波形811および821は、第1の転送スイッチ304の制御線pTX1での入力信号の波形を示す。第1転送スイッチ304の制御線pTX1がLレベルからHレベルに制御されると、転送スイッチ304が動作して、光電変換部301にある電荷は電荷保持部310に転送される。
信号波形812および822は、第2の転送スイッチ311の制御線pTX2での入力信号の波形を示す。第2の転送スイッチ311の制御線pTX2がLレベルからHレベルに制御されると、第2の転送スイッチ311が動作して、電荷保持部310にある電荷はFD302に転送される。すなわち、電荷が増幅部306の入力ノード303に転送される。
信号波形813および823は、オーバーフロードレイントランジスタ312の制御線pOFDでの入力信号の波形を示す。オーバーフロードレイントランジスタ312の制御線pOFDがLレベルからHレベルに制御されると、オーバーフロードレイントランジスタ312が動作して、光電変換部301にある電荷は電源309に排出される。
信号波形814および824は、選択トランジスタ307の制御線pSELでの入力信号の波形を示す。選択トランジスタ307の制御線pSELがLレベルからHレベルに制御されると、選択トランジスタ307が動作して、電源309から増幅部306を経た電流を垂直出力線308に出力する。
信号波形815および825はリセットトランジスタ305の制御線pRESでの入力信号の波形を示す。リセットトランジスタ305の制御線pRESがLレベルからHレベルに制御されると、リセットトランジスタ305が動作して、FD302および増幅部306の入力ノード303にある電荷は電源309に排出される。
露光期間810および820に先立って、制御線pOFDの813、823に制御信号をLレベルからHレベルへ入力する。これにより、光電変換部301に残留する電荷は電源309に排出される。
次に、制御線pOFDの813、823について、制御信号がHレベルからLレベルへ行順次で戻ると、第1および第2の撮像装置は露光期間810および820を開始する。
次に、制御線pTX1の811、821に制御信号をLレベルからHレベルに入力すると露光期間810および820を終了して、光電変換部301から電荷保持部310への電荷転送を開始する。
次に、光電変換部301から電荷保持部310への電荷転送を終えた後に、制御線pTX1の811、821は制御信号をHレベルからLレベルに戻す。
次に、第1、第2の撮像装置において、上記した駆動方法を用いて、任意のフレームの2回目以降の露光、光電変換部301から電荷保持部310への電荷の転送がなされる。
このように、任意のフレーム内で繰り返される露光によって、露光期間内に光電変換部301で生じた電荷は電荷保持部310で加算される。
任意のフレームにおいて、第1、第2の撮像装置での行順次の最終露光は、例えば第1の撮像装置の1行目であれば図8中のT80およびT81、第2の撮像装置の1行目であれば図8中のT82およびT83の時期に当たる。
次に、第1および第2の撮像装置の制御線pSEL814、824に制御信号を行順次でLレベルからHレベルへ入力する。そして、制御線pSEL814、824の制御信号をHレベルに保ちつつ、制御線pRES815、825に制御信号を行順次でLレベルからHレベルへ入力する。この操作により、増幅部306の入力ノード303に残留する電荷を電源309に排出する。
次に、制御線pSEL814、824の制御信号をHレベルに保ちつつ、制御線pRES815、825の制御信号は行順次でHレベルからLレベルへ戻す。
次に、制御線pSEL814、824の制御信号をHレベルに保ちつつ、第1、第2の撮像装置の制御線pTX2の812、822に制御信号をLレベルからHレベルに行順次で入力する。その結果、任意のフレーム内で繰り返された光電変換部301への露光で生じた電荷は電荷保持部310からFD302へ転送される。FD302に転送された電荷は入力ノード303を通じて増幅部306を動作して増幅された画素信号となる。
そして既に第1および第2の撮像装置での制御線pSELの814,824は制御信号をHレベルに入力しているため、増幅された画素信号は選択トランジスタ307から垂直出力線308に出力される。電荷保持部310からFD302へ電荷転送を終えた後に、制御線pTX2の812、822は制御信号をHレベルからLレベルへ行順次に戻す。最後に、制御線pSEL814、824の制御信号を、HレベルからLレベルへ戻す。
図8に示すように、第1の撮像装置101および第2の撮像装置102は、行順次で露光がされ、かつ、1フレーム内で繰り返し露光が行われる。また、第1の撮像装置101の露光期間8100、8110と第2の撮像装置101の露光期間8200、8210とは相補的な関係となっている。また、第1の撮像装置101の露光期間8100、8110と第2の撮像装置102の非露光期間が重複しており、かつ、第1の撮像装置101の非露光期間と第2の撮像装置102の露光期間8200、8210が重複している。
なお、図8では、第1の撮像装置101の露光期間と第2の撮像装置102の露光期間は重複されていないが、第1の撮像装置101の露光期間と第2の撮像装置102の露光期間の一部が重なり合っていてもよい。この場合であっても、第1の撮像装置101の露光期間と第2の撮像装置102の非露光期間が重複しており、かつ、第1の撮像装置101の非露光期間と第2の撮像装置102の露光期間が重複しているという関係を満たしている。
本実施形態では、1フレーム内において、第1の撮像装置101と第2の撮像装置102の露光期間が複数回繰り返されているため、フリッカ対策をすることができる。
また、本実施形態では、第1の撮像装置101の非露光期間でも第2の撮像装置101の露光期間が存在し、かつ、第2の撮像装置102の非露光期間でも第1の撮像装置101の露光期間が存在することになる。第2の撮像装置102の非露光期間においても、第1の撮像装置101の露光期間が存在することから、特許文献1に記載された技術よりも、情報の欠落を抑制することができるという効果がある。
(第3の実施形態)
本実施形態は、各行に配されている画素の露光期間をそろえるグローバル電子シャッタ方式を採用した撮像システムである。図2に示した撮像装置、図6に示した撮像システム、図7に示した画素部の等価回路図は、本実施形態にも適用される。
(タイミングチャート)
図9は、本実施形態での撮像システムの動作を説明するタイミング図である。矩形の符号910および920は、撮像システム600において第1の撮像装置101および第2の撮像装置102の露光期間を示す。すなわち、矩形部分は露光期間、矩形がない部分は非露光期間を表す。
信号波形911および921は、第1の転送スイッチ304の制御線pTX1での入力信号の波形を表す。信号波形912および922は、第2の転送スイッチ311の制御線pTX2での入力信号の波形を表す。信号波形913および923はオーバーフロードレイントランジスタ312の制御線pOFDでの入力信号の波形を表す。信号波形914および924は選択トランジスタ307の制御線pSELでの入力信号の波形を表す。信号波形915および925はリセットトランジスタ305の制御線pRESでの入力信号の波形を表す。
図8において、各行の画素は、全行一括して露光期間の開始と終了が行われ、かつ、1フレーム内で複数の露光が繰り返して行われる。
全行一括の露光期間910および920に先立って、制御線pOFDの913、923に制御信号を全行一斉にLレベルからHレベルへ入力する。これにより、全画素の光電変換部301に残留する電荷は電源309に排出される。
次に、制御pOFDの913、923について、制御信号がHレベルからLレベルへ全画素一斉に戻ると、第1および第2の撮像装置は露光期間910および920を全画素一斉に開始する。
次に、制御線pTX1の911、921に制御信号を全行一斉にLレベルからHレベルに入力すると、全画素一斉に露光期間910および920を終了して、全画素一斉に光電変換部301から電荷保持部310へ電荷を転送する。
次に、全画素一斉に光電変換部301から電荷保持部310への電荷転送を終えた後に、全行の制御線pTX1の911、921は制御信号をHレベルからLレベルへ一斉に戻す。
次に、第1、第2の撮像装置において、上記した駆動方法を用いて、任意のフレームの2回目以降の露光、光電変換部301から電荷保持部310への電荷の転送がなされる。
このように、任意のフレーム内で繰り返される露光によって、露光期間内に光電変換部301で生じた電荷は電荷保持部310で加算される。
任意のフレームにおいて、第1、第2の撮像装置での全画素一括の最終露光は、例えば第1の撮像装置であれば図9中のT90およびT91、第2の撮像装置であれば図9中のT92およびT93に当たる。
全画素一斉の最終露光後に、制御線pSEL914、924に制御信号を行順次でLレベルからHレベルへ入力する。次に、制御線pSEL914、924の制御信号をHレベルに保ちつつ、制御線pRES915、925に制御信号を行順次でLレベルからHレベルへ入力する。この操作により、FD302および入力ノード303に残留する電荷を電源309に排出する。次に、制御線pSEL914、924の制御信号をHレベルに保ちつつ、制御線pRES915、925の制御信号は行順次でHレベルからLレベルへ戻す。
続いて、制御線pSEL914、924の制御信号をHレベルに保ちつつ、制御線pTX2の912、922に制御信号を行順次にLレベルからHレベルに入力する。その結果、任意のフレーム内で繰り返された光電変換部301への露光で生じた電荷は行順次に第1の電荷保持部310からFD302へ転送される。電荷保持部310に転送された電荷は入力ノード303を通じて増幅部306を動作して増幅された画素信号となる。
増幅された画素信号は、nフレームの露光であればT900およびT902の期間に、n+1フレームの露光であればT901およびT903の期間に選択トランジスタ307から垂直出力線308に画素信号を出力する。行順次に電荷保持部310からFD302へ電荷転送を終えた後に、全行の制御線pTX2の912、922は制御信号をHレベルからLレベルへ行順次に戻す。
最後に、制御線pSEL914、924の制御信号を行順次でHレベルからLレベルへ戻す。
図9に示すように、第1の撮像装置101および第2の撮像装置102は、全行一括で露光がされ、かつ、1フレーム内で繰り返し露光が行われる。また、第1の撮像装置101の露光期間9100、9110と第2の撮像装置102の非露光期間が重複しており、かつ、第1の撮像装置101の非露光期間と第2の撮像装置102の露光期間9200、9210が重複している。
本実施形態では、全行一括で、露光期間の開始と終了が決定されているため、時間の同時性が確保された撮像が可能となり、高速に運動する物体を撮像する際に生じやすい像歪みを抑制した撮像が可能となる。
また、本実施形態では、1フレーム内において、第1の撮像装置101と第2の撮像装置102の露光期間が複数回繰り返されているため、フリッカ対策をすることができる。
さらに、本実施形態では、第1の撮像装置101の非露光期間でも第2の撮像装置101の露光期間が存在し、かつ、第2の撮像装置102の非露光期間でも第1の撮像装置101の露光期間が存在することになる。第2の撮像装置102の非露光期間においても、第1の撮像装置101の露光期間が存在することから、特許文献1に記載された技術よりも、情報の欠落を抑制することができるという効果がある。
なお、図9では、第1の撮像装置101の露光期間と第2の撮像装置102の露光期間は重複されていない。しかし、図10(A)に示すように第1の撮像装置101の露光期間1010と第2の撮像装置102の露光期間1020の一部が重なり合っていてもよい。この場合であっても、第1の撮像装置101の露光期間と第2の撮像装置102の非露光期間が重複しており、かつ、第1の撮像装置101の非露光期間と第2の撮像装置102の露光期間が重複しているという関係を満たしている。
また、図10(B)に示すように、第1の撮像装置101の非露光期間の全てと第2の撮像装置102の露光期間1020が重複し、第2の撮像装置102の非露光期間の全てと第1の撮像装置101の露光期間1010が重複するようにすることも可能である。この構成によれば、システム全体として、非露光期間がなくなるため、より情報の欠落を抑制することができるという効果がある。
なお、本実施形態では、第1の撮像装置101と第2の撮像装置102は、両方ともグローバル電子シャッタの駆動で動作していたが、一方をグローバル電子シャッタの駆動で動作させ、他方をローリングシャッタの駆動を動作させてもよい。
(第4の実施形態)
本実施形態は、グローバル電子シャッタ方式を採用した撮像システムである。第3の実施形態と異なるのは、1つの画素に対して、電荷蓄積部を2つ有する点である。図2に示した撮像装置、図6に示した撮像システムは、本実施形態にも適用される。
(画素部の等価回路図)
図11は撮像装置101または102での画素11の等価回路の構成を示したものである。
画素11は図7で説明した構成に加えて、第2の電荷保持部313、第3の転送スイッチ314、第4の転送スイッチ315を含む。第3の転送スイッチ314および第4の転送スイッチ315を各々一斉に動作・停止制御する制御線pTX3、pTX4が同じ行に配された複数の画素と接続される。
光電変換部301で生成された電荷は、第3の転送スイッチ314の動作によって光電変換部301から第2の電荷保持部313に転送され、第2の電荷保持部313は転送された電荷を保持する。
第3の転送スイッチ314は、制御線pTX3を通じて供給される信号によって電荷の転送と停止を制御される。具体的には、制御線pTX3がLレベルからHレベルになると、第3の転送スイッチ314は電荷を転送し、制御線pTX3がHレベルからLレベルになると第3の転送スイッチ314は電荷転送を停止する。
第4の転送スイッチ315は、第2の電荷保持部313で生成された電荷を電荷保持部310に転送する。第4の転送スイッチ315は制御線pTX4を通じて供給される信号によって電荷の転送と停止を制御される。具体的には、制御線pTX4がLレベルからHレベルになると、第3の転送スイッチ315は電荷を転送し、制御線pTX4がHレベルからLレベルになると第4の転送スイッチ315は電荷転送を停止する。
(タイミングチャート)
図12は、本実施形態の撮像システムの動作を説明するタイミング図である。矩形の符号1210および1220は、撮像システム600において第1および第2の撮像装置の露光期間を示す。すなわち、矩形部分は露光期間、矩形がない部分は非露光期間を表す。
信号波形1211および1221は、第1の転送スイッチ304の制御線pTX1での入力信号の波形を表す。信号波形1212および1222は、第2の転送スイッチ311の制御線pTX2での入力信号の波形を表す。信号波形1213および1223は、第3の転送スイッチ314の制御線pTX3での入力信号の波形を表す。信号波形1214および1224は、第4の転送スイッチ315の制御線pTX4での入力信号の波形を表す。信号波形1215および1225はオーバーフロードレイントランジスタ312の制御線pOFDでの入力信号の波形を表す。信号波形1216および1226は選択トランジスタ307の制御線pSELでの入力信号の波形を表す。信号波形1217および1227はリセットトランジスタ305の制御線pRESでの入力信号の波形を表す。
本実施形態で、撮像装置101または102の画素11は、光電変換部301に対して並列に接続する第1の電荷保持部310と第2の電荷保持部313を有する。第1の電荷保持部310と第2の電荷保持部313は、例えばフレームごとに機能が分けられる。例えば、図12のnフレームでは、光電変換部301から第1の電荷保持部310に複数回電荷が転送されるが、第2の電荷保持部は保持している電荷を行順次でFD302で転送している。他方、図12のn+1フレームでは逆に、光電変換部301から第2の電荷保持部313に複数回電荷が転送されており、この間、第1の電荷保持部310は保持している電荷を行順次でFD302に転送している。このように、フレーム毎に第1の電荷保持部310と第2の電荷保持部313は機能が交互に入れ替わっている。
nフレームでの初回の全行一括の露光1210および1220に先立って、制御線pOFDの1215、1225に制御信号を全行一斉にLレベルからHレベルへ入力する。これにより、全画素の光電変換部301に残留する電荷は電源309に排出される。
制御線pOFDの1215、1225について、制御信号がHレベルからLレベルへ全画素一斉に戻ると、第1および第2の撮像装置は露光1210および1220を全画素一斉に開始する。
次に、制御線pTX1の1211、1221に制御信号を全行一斉にLレベルからHレベルに入力すると、全画素一斉に露光1210および1220を終了して、全画素一斉に光電変換部301から第1のFD302へ電荷を転送する。
次に、全画素一斉に光電変換部301から第1の電荷保持部310への電荷転送を終えた後に、全行の制御線pTX1の1011、1021は制御信号をHレベルからLレベルへ一斉に戻す。光電変換部301での露光期間は全画素に渡って同一期間となり、その期間に生じた電荷は第1の電荷保持部310へ転送される。
次に、nフレームの2回目以降の露光を行う際、露光開始直前に制御線pOFDの1015、1025に制御信号を全行一斉にLレベルからHレベルへ入力して、非露光期間で光電変換部301に蓄積した電荷を電源309に排出する。
次に、制御線pOFDの1015、1025での制御信号がHレベルからLレベルへ全行一斉に戻ると、第1、第2の撮像装置は露光を全画素一斉に開始する。
以降の光電変換部301の露光終了、光電変換部301から第1の電荷保持部310への電荷転送までの手順は、nフレームの初回の露光と同一駆動である。
nフレーム内で繰り返される光電変換部301での露光期間に生じた電荷は、第1の電荷保持部310で加算される。nフレームにおいて、第1、第2の撮像装置での全画素一斉の最終露光は、例えば第1の撮像装置であれば図12中のT120、第2の撮像装置であれば図12中のT125に当たる。
全画素一斉の最終露光後に、制御線pSEL1216、1226に制御信号を行順次でLレベルからHレベルへ入力する。次に、制御線pSEL1216、1226の制御信号をHレベルに保ちつつ、制御線pRES1215、1225に制御信号を行順次でLレベルからHレベルへ入力する。この操作により、入力ノード303に残留する電荷を電源309に排出する。次に、制御線pSEL1216、1226の制御信号をHレベルに保ちつつ、制御線pRES1215、1225の制御信号は行順次でHレベルからLレベルへ戻す。
続いて、制御線pSEL1216、1226の制御信号をHレベルに保ちつつ、制御線pTX2の1212、1222に制御信号を行順次にLレベルからHレベルに入力する。その結果、任意のフレーム内で繰り返された光電変換部301への露光で生じた電荷は行順次に第1の電荷保持部310からFD302へ転送される。電荷保持部310に転送された電荷は入力ノード303を通じて増幅部306を動作して増幅された画素信号となる。
増幅された画素信号は、nフレームの露光であればT1201およびT1205の期間に、選択トランジスタ307から垂直出力線308に画素信号を出力する。行順次に第1のFD302から電荷保持部310へ電荷転送を終えた後に、全行の制御線pTX2の1212、1222は制御信号をHレベルからLレベルへ行順次に戻す。
最後に、制御線pSEL1214、1224の制御信号を行順次でHレベルからLレベルへ戻す。
一方、光電変換部301から第2の電荷保持部313へ電荷を転送する経路の駆動手順は以下の通りである。
nフレーム開始時に、全画素の第2の電荷保持部313は既にn−1フレームでの光電変換部301への露光で生じた電荷を加算・蓄積している。例えばn−1フレームにおいて、第2の撮像装置での全画素一斉の最終露光は、第2の撮像装置であれば図12中のT124の時期に当たる。この全画素一斉の最終露光後に、制御線pSEL1214、1224に制御信号を行順次でLレベルからHレベルへ入力する。
初めに、制御線pSEL1214、1224の制御信号をHレベルに保ちつつ、制御線pRES1215、1225に制御信号を行順次でLレベルからHレベルへ入力する。この操作により、入力ノード303に残留する電荷を電源309に排出する。入力ノード303に残留する電荷を排出後に、制御線pSEL1214、1224の制御信号をHレベルに保ちつつ、制御線pRES1215、1225の制御信号は行順次でLレベルからHレベルへ戻す。
続いて、制御線pSEL1216、1226の制御信号をHレベルに保ちつつ、制御線pTX4の1214、1224に制御信号を行順次にLレベルからHレベルに入力する。その結果、任意のフレーム内で繰り返された光電変換部301への露光で生じた電荷は行順次に第2の電荷保持部313から電荷保持部310へ転送される。電荷保持部310に転送された電荷は入力ノード303を通じて増幅部306を動作して増幅された画素信号となる。
増幅された画素信号は、n−1フレームの露光であればT1200およびT1204の期間に、選択トランジスタ307から垂直出力線308に画素信号を出力する。行順次に第2の電荷保持部313から電荷保持部310へ電荷転送を終えた後に、全行の制御線pTX4の1214、1224は制御信号をHレベルからLレベルへ行順次に戻す。
次に、制御線pSEL1216、1226の制御信号を行順次でHレベルからLレベルへ戻す。このようにnフレームの期間において、n−1フレームでの光電変換部301への露光で生じた第2の電荷保持部で蓄積されていた電荷は垂直出力線308に出力される。
同様に、n+1フレームでは、全画素一括で制御線pTX3をLレベルからHレベルにすることにより、複数回オン状態とし、光電変換部301から第2の電荷保持部313に複数回電荷を転送する。第2の電荷保持部313は、複数回転送された電荷を保持する。他方、第1の電荷保持部310は、行順次で制御線pTX2をLレベルからHレベルにすることより、第1の電荷保持部310からFD302へ電荷が転送される。また、上記の駆動と同様に、T1201およびT1205の期間に、垂直出力線308に画素信号が出力される。
このように、本実施形態では、nフレーム(第1のフレーム)においては、第1の転送スイッチ304を複数回オンして、第1の電荷保持部310で電荷を蓄積している。また、n+1フレーム(第2のフレーム)においては、第3の転送スイッチ314を複数回オンして、第2の電荷保持部313で電荷を蓄積する。さらに、nフレームでは、第3の転送スイッチ314がオフに維持され、n+1フレームでは、第1の転送スイッチ304がオフに維持されている。
本実施形態では、全行一括で、露光期間の開始と終了が決定されているため、時間の同時性が確保された撮像が可能となり、高速に運動する物体を撮像する際に生じやすい像歪みを抑制した撮像が可能となる。
また、本実施形態では、1フレーム内において、第1の撮像装置101と第2の撮像装置102の露光期間が複数回繰り返されているため、フリッカ対策をすることができる。
さらに、本実施形態では、第1の撮像装置101の非露光期間でも第2の撮像装置101の露光期間が存在し、かつ、第2の撮像装置102の非露光期間でも第1の撮像装置101の露光期間が存在することになる。第2の撮像装置102の非露光期間においても、第1の撮像装置101の露光期間が存在することから、特許文献1に記載された技術よりも、情報の欠落を抑制することができるという効果がある。
加えて、本実施形態では、光電変換部301から繰り返し電荷を蓄積する電荷保持部を2つ備えている。このため、任意のフレームでは、一方の電荷保持部を光電変換部301から繰り返し電荷を蓄積する役割とし、他方の電荷保持部を後段に電荷を転送する役割とすることができる。また、フレームごとに、繰り返し電荷を蓄積する役割と、後段に電荷を転送する役割を交互に第1の電荷保持部と第2の電荷保持部に割り振ることができる。そのため、露光期間と電荷の転送期間の自由度を確保した駆動が可能となる。
なお、図12では、第1の撮像装置101の露光期間と第2の撮像装置102の露光期間は重複されていない。しかし、第1の撮像装置101の露光期間と第2の撮像装置102の露光期間の一部が重なり合っていてもよい。
また、図12では、第1の撮像装置101の各露光期間の長さよりも、第2の撮像装置102の各露光期間の長さが短い。しかし、図13に示すように、第1の撮像装置101の各露光期間の長さと、第2の撮像装置102の各露光期間の長さが等しくなるように構成することも可能である。
さらに、本実施形態においても、第1の撮像装置101の非露光期間の全てと第2の撮像装置102の露光期間が重複し、第2の撮像装置102の非露光期間の全てと第1の撮像装置101の露光期間が重複するようにすることも可能である。この構成によれば、システム全体として、非露光期間がなくなるため、より情報の欠落を抑制することができるという効果がある。
なお、本実施形態では、第1の撮像装置でのnフレームの画素信号はnフレームからn+1フレームにかけて垂直出力線308に出力している(T1201の期間)。また、第2の撮像装置でのnフレームの画素信号はn+1フレームで垂直出力線308に出力している(T1205の期間)。しかし、第1の撮像装置について、T1201の開始期間を遅らせて、垂直出力線308への出力をn+1フレームに収めることも可能であり、この場合、両撮像装置の画素信号送出期間をn+1フレームだけに収めることができる。
また、図13に示した形態によれば、一方の撮像装置での任意のフレーム内での露光周期が、他方の撮像装置での任意のフレーム内で露光周期と等しく、露光周期の位相が逆位相の関係にある。このような構成は、シャッタ・撮像装置制御部105が、信号生成器および分周器より出力される信号を各々撮像装置のシャッタ制御信号として用いることで実現可能である。信号生成器は、露光開始と終了のタイミングを生成し、分周器はそのタイミングに対して逆位相の遅延信号を生じさせるものである。このため、簡便な回路構成でサンプリング頻度の高める効果を得られる。
(第5の実施形態)
図14は本発明の撮像システムを車両に搭載した例である。
図14(A)に、車両システムおよび撮像システムの概略を示す。
本実施形態において、撮像システム1400は、本発明に係る測距画素および撮像画素を含む撮像システムである。撮像システム1400は、撮像装置1404〜1417により取得された複数の画像データに対し、画像処理を行う画像処理部10300を有する。また、撮像システム1400により取得された複数の画像データから視差(視差画像の位相差)の算出を行う視差算出部10400を有する。また、撮像システム1400は、算出された視差に基づいて対象物までの距離を算出する距離計測部10500と、算出された距離に基づいて衝突可能性があるか否かを判定する衝突判定部10600と、を有する。ここで、視差算出部10400や距離計測部10500は、対象物までの距離情報を取得する距離情報取得手段の一例である。すなわち、距離情報とは、視差、デフォーカス量、対象物までの距離等に関する情報である。衝突判定部10600はこれらの距離情報のいずれかを用いて、衝突可能性を判定してもよい。距離情報取得手段は、専用に設計されたハードウェアによって実現されてもよいし、ソフトウェアモジュールによって実現されてもよいし、これらの組合せによって実現されてもよい。また、FPGA(Field Programmable Gate Array)やASIC(Application Specific Integrated Circuit)などによって実現されてもよい。
撮像システム1400は車両情報取得装置13100と接続されており、車速、ヨーレート、舵角などの車両情報を取得することができる。また、撮像システム1400は、衝突判定部10600での判定結果に基づいて、車両に対して制動力を発生させる制御信号を出力する制御装置である制御ECU14100と接続されている。また、撮像システム1400は、衝突判定部10600での判定結果に基づいて、ドライバーへ警報を発する警報装置14200とも接続されている。例えば、衝突判定部10600の判定結果として衝突可能性が高い場合、制御ECU14100はブレーキをかける、アクセルを戻す、エンジン出力を抑制するなどして衝突を回避、被害を軽減する車両制御を行う。警報装置14200は音等の警報を鳴らす、カーナビゲーションシステムなどの画面に警報情報を表示する、シートベルトやステアリングに振動を与えるなどしてユーザに警告を行う。
本実施形態では車両の周囲、例えば前方または後方を撮像システム1400で撮像する。図14(B)に、車両前方および後方を撮像システムの配置例を示す。
第1および第2の撮像装置1404〜1417は車両1402の周囲に配置される。車両1402の進退方位または外形(例えば車幅)に対する中心線1403を対称軸に見立て、その対称軸に対して第1および第2の撮像装置の対が線対称に配置することができる。このような配置は、車両1402と被写対象物との距離計測や衝突可能性の判定を行う上で好ましい。
また第1および第2の撮像装置は、運転者が運転席から車両1401の外の状況を視認する際に運転者の視野を妨げない配置が好ましい。
第1および第2の撮像装置の配置は、車両前方であれば例えば1404と1405、1406と1407、1408と1409、1410と1411の各対が挙げられる。また車両後方であれば、例えば1412と1413、1414と1415、1416と1417の各対が挙げられる。
また、上記では、他の車両と衝突しない制御を説明したが、他の車両に追従して自動運転する制御や、車線からはみ出さないように自動運転する制御などにも適用可能である。さらに、撮像システムは、自動車・鉄道等の車両に限らず、例えば、船舶、航空機あるいは産業用ロボットなどの移動体(移動装置)に適用することができる。加えて、移動体に限らず、高度道路交通システム(ITS)等、広く物体認識を利用する機器に適用することができる。
(その他の実施形態)
上記の各実施形態で記載した事項は、各実施形態間で相互に置換することが可能である。
10 撮像領域
11 画素
100、600 撮像システム
101 第1の撮像装置
102 第2の撮像装置
301 光電変換部
410、810、910、1010、1210 第1の撮像装置の露光期間
420、820、920、1020、1220 第2の撮像装置の露光期間

Claims (14)

  1. 第1の撮像装置と、
    第2の撮像装置と、
    前記第1の撮像装置と前記第2の撮像装置から取得した信号を処理する信号処理部とを有し、
    前記第1の撮像装置の露光期間と、前記第2の撮像装置の露光期間は、1フレーム内で複数回繰り返され、
    前記第1の撮像装置の露光期間と前記第2の撮像装置の非露光期間が重複し、前記第1の撮像装置の非露光期間と前記第2の撮像装置の露光期間が重複することを特徴とする撮像システム。
  2. 前記第1の撮像装置の露光期間の長さと、前記第2の撮像装置の露光期間の長さが異なることを特徴とする請求項1に記載の撮像システム。
  3. 前記第1の撮像装置の露光期間と前記第2の撮像装置の露光期間が重複することを特徴とする請求項1または2に記載の撮像システム。
  4. 前記第1の撮像装置の露光期間と前記第2の撮像装置の露光期間が重複しないことを特徴とする請求項1または2に記載の撮像システム。
  5. 前記第1の撮像装置の非露光期間と前記第2の撮像装置の非露光期間が重複しないことを特徴とする請求項1または2に記載の撮像システム。
  6. 前記第2の撮像装置の非露光期間と前記第1の撮像装置の露光期間が対応し、前記第1の撮像装置の非露光期間と前記第2の撮像装置の露光期間が対応することを特徴とする請求項1または2に記載の撮像システム。
  7. 前記第1の撮像装置の露光期間と前記第2の撮像装置の露光期間が重複している第1の期間は、前記第1の撮像装置の非露光期間と前記第2の撮像装置の露光期間が重複している第2の期間、および、前記第2の撮像装置の非露光期間と前記第1の撮像装置の露光期間が重複している第3の期間よりも長いことを特徴とする請求項1または2に記載の撮像システム。
  8. 前記第1の撮像装置の露光期間は、前記第1の撮像装置が有する機械シャッタの開放期間に対応し、前記第2の撮像装置の露光期間は、前記第2の撮像装置が有する機械シャッタの開放期間に対応することを特徴とする請求項1から7のいずれか1項に記載の撮像システム。
  9. 前記第1の撮像装置および前記第2の撮像装置は、二次元状に配された複数の画素を更に有し、
    前記複数の画素のそれぞれは、
    光電変換部と、
    光電変換部から転送される電荷を保持する電荷保持部と、を備えることを特徴とする請求項1から7のいずれか1項に記載の撮像システム。
  10. 前記複数の画素において、前記第1の撮像装置の露光期間の開始と終了が一括して行われることを特徴とする請求項9に記載の撮像システム。
  11. 前記第2の撮像装置が有する複数の画素において、前記第2の撮像装置の露光期間の開始と終了が一括して行われることを特徴とする請求項9または10に記載の撮像システム。
  12. 前記電荷保持部は、第1の電荷保持部と、第2の電荷保持部を有し、
    前記複数の画素は、前記光電変換部から前記第1の電荷保持部に電荷を転送する第1の転送スイッチと、前記光電変換部から前記第2の電荷保持部に電荷を転送する第2の転送スイッチとを有し、
    第1のフレームにおいて、前記光電変換部から前記第1の電荷保持部に複数回電荷が転送され、前記第1のフレームとは異なる第2のフレームにおいて、前記光電変換部から前記第2の電荷保持部に複数回電荷が転送されることを特徴とする請求項9から11のいずれか1項に記載の撮像システム。
  13. 前記信号処理部は、前記第1の撮像装置と前記第2の撮像装置から取得した信号から、被写体までの距離情報を取得することを特徴とする請求項1から12のいずれか1項に記載の撮像システム。
  14. 請求項1から13のいずれか1項に記載の撮像システムを有し、
    前記撮像システムは、
    前記第1の撮像装置と前記第2の撮像装置からの信号に基づく視差画像から、対象物までの距離情報を取得する距離情報取得手段と、
    前記距離情報に基づいて移動体を制御する制御手段と、を有することを特徴とする移動体。
JP2016203167A 2016-10-15 2016-10-15 撮像システム Active JP6752679B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016203167A JP6752679B2 (ja) 2016-10-15 2016-10-15 撮像システム
EP17193643.8A EP3310036B1 (en) 2016-10-15 2017-09-28 Image pickup system
US15/727,377 US10948288B2 (en) 2016-10-15 2017-10-06 Image pickup system with overlap and non-overlap exposure period
CN201710949672.0A CN107959771B (zh) 2016-10-15 2017-10-13 图像拾取系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016203167A JP6752679B2 (ja) 2016-10-15 2016-10-15 撮像システム

Publications (2)

Publication Number Publication Date
JP2018064257A true JP2018064257A (ja) 2018-04-19
JP6752679B2 JP6752679B2 (ja) 2020-09-09

Family

ID=60001698

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016203167A Active JP6752679B2 (ja) 2016-10-15 2016-10-15 撮像システム

Country Status (4)

Country Link
US (1) US10948288B2 (ja)
EP (1) EP3310036B1 (ja)
JP (1) JP6752679B2 (ja)
CN (1) CN107959771B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019201335A (ja) * 2018-05-17 2019-11-21 キヤノン株式会社 撮像装置及び撮像システム
JPWO2021038692A1 (ja) * 2019-08-26 2021-03-04

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101777518B1 (ko) * 2016-04-07 2017-09-11 엘지전자 주식회사 인테리어 카메라 장치, 이를 포함하는 차량 운전 보조장치 및 이를 포함하는 차량
GB2586804B (en) * 2019-09-03 2022-02-16 Jaguar Land Rover Ltd Method and system for mitigating image flicker from strobed lighting systems
US11451716B2 (en) 2021-01-25 2022-09-20 Hand Held Products, Inc. Illumination control for imaging systems with multiple image sensors

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010130570A (ja) * 2008-11-28 2010-06-10 Samsung Digital Imaging Co Ltd 撮像装置及び撮像方法
JP2011234318A (ja) * 2010-04-30 2011-11-17 Yamaha Corp 撮像装置
WO2014077047A1 (ja) * 2012-11-15 2014-05-22 ソニー株式会社 画像処理装置、画像処理方法、及びプログラム
WO2015098325A1 (ja) * 2013-12-25 2015-07-02 日立オートモティブシステムズ株式会社 車載画像認識装置
JP2015177258A (ja) * 2014-03-13 2015-10-05 コニカミノルタ株式会社 画像入力装置
US20150341620A1 (en) * 2014-05-23 2015-11-26 Lg Electronics Inc. Stereo camera and driver assistance apparatus and vehicle including the same
JP2016119652A (ja) * 2014-12-17 2016-06-30 キヤノン株式会社 撮像装置及び撮像素子の駆動方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002258358A (ja) 2001-03-02 2002-09-11 Minolta Co Ltd 撮影方法および撮影システムならびに3次元形状生成装置
JP2004135074A (ja) 2002-10-10 2004-04-30 Calsonic Kansei Corp 撮像装置
JP4899402B2 (ja) * 2005-10-05 2012-03-21 株式会社日立製作所 撮像装置
JP4208002B2 (ja) 2006-09-01 2009-01-14 ソニー株式会社 撮影装置および方法、並びにプログラム
US7978239B2 (en) * 2007-03-01 2011-07-12 Eastman Kodak Company Digital camera using multiple image sensors to provide improved temporal sampling
JP2008252401A (ja) 2007-03-29 2008-10-16 Fujifilm Corp 撮像システム、撮像方法、および撮像プログラム
JP2009165081A (ja) 2008-01-10 2009-07-23 Panasonic Corp ステレオカメラシステム
CN101450646A (zh) 2008-12-29 2009-06-10 广东铁将军防盗设备有限公司 车辆避障告警系统及其相应的电路
JP5126344B2 (ja) 2010-11-18 2013-01-23 カシオ計算機株式会社 撮像装置、撮像方法及びプログラム
WO2014106843A2 (en) * 2013-01-01 2014-07-10 Inuitive Ltd. Method and system for light patterning and imaging
US9240837B2 (en) 2013-03-12 2016-01-19 Google Inc. Systems and methods using optical communication for commissioning of network nodes
JP2015011320A (ja) 2013-07-02 2015-01-19 キヤノン株式会社 撮像装置及びその制御方法
WO2015075937A1 (ja) * 2013-11-22 2015-05-28 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 情報処理プログラム、受信プログラムおよび情報処理装置
JP6485732B2 (ja) * 2014-12-10 2019-03-20 株式会社リコー 情報提供装置、情報提供方法及び情報提供用制御プログラム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010130570A (ja) * 2008-11-28 2010-06-10 Samsung Digital Imaging Co Ltd 撮像装置及び撮像方法
JP2011234318A (ja) * 2010-04-30 2011-11-17 Yamaha Corp 撮像装置
WO2014077047A1 (ja) * 2012-11-15 2014-05-22 ソニー株式会社 画像処理装置、画像処理方法、及びプログラム
WO2015098325A1 (ja) * 2013-12-25 2015-07-02 日立オートモティブシステムズ株式会社 車載画像認識装置
US20170041591A1 (en) * 2013-12-25 2017-02-09 Hitachi Automotive Systems ,Ltd. Vehicle-Mounted Image Recognition Device
JP2015177258A (ja) * 2014-03-13 2015-10-05 コニカミノルタ株式会社 画像入力装置
US20150341620A1 (en) * 2014-05-23 2015-11-26 Lg Electronics Inc. Stereo camera and driver assistance apparatus and vehicle including the same
JP2016119652A (ja) * 2014-12-17 2016-06-30 キヤノン株式会社 撮像装置及び撮像素子の駆動方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019201335A (ja) * 2018-05-17 2019-11-21 キヤノン株式会社 撮像装置及び撮像システム
JP7150469B2 (ja) 2018-05-17 2022-10-11 キヤノン株式会社 撮像装置及び撮像システム
JPWO2021038692A1 (ja) * 2019-08-26 2021-03-04
WO2021038692A1 (ja) * 2019-08-26 2021-03-04 株式会社日立国際電気 撮像装置、撮像方法、および映像処理プログラム
JP7237164B2 (ja) 2019-08-26 2023-03-10 株式会社日立国際電気 撮像装置、撮像方法、および映像処理プログラム

Also Published As

Publication number Publication date
EP3310036A1 (en) 2018-04-18
CN107959771A (zh) 2018-04-24
EP3310036B1 (en) 2020-11-11
CN107959771B (zh) 2021-02-23
US10948288B2 (en) 2021-03-16
US20180106613A1 (en) 2018-04-19
JP6752679B2 (ja) 2020-09-09

Similar Documents

Publication Publication Date Title
JP6752679B2 (ja) 撮像システム
CN107710742B (zh) 固态成像元件、驱动方法和电子设备
CN107896307B (zh) 具有高动态范围渲染功能的成像装置
EP3865911B1 (en) Sensor fusion system, synchronization control device, and synchronization control method
JP7044107B2 (ja) 光センサ、及び、電子機器
TW202110166A (zh) 固體攝像裝置、信號處理晶片、及電子機器
JP7075208B2 (ja) 撮像装置および撮像システム
CN111434105B (zh) 固态成像元件、成像装置和固态成像元件的控制方法
JP7157529B2 (ja) 撮像装置、撮像システム、および撮像装置の駆動方法
WO2020175117A1 (ja) 測距装置、測距方法、並びにプログラム
WO2018008426A1 (ja) 信号処理装置および方法、並びに撮像装置
WO2018207666A1 (ja) 撮像素子及びその駆動方法、並びに、電子機器
WO2018105372A1 (ja) 固体撮像装置、駆動方法、および電子機器
WO2020175118A1 (ja) 測距装置、測距方法、並びにプログラム
WO2017169233A1 (ja) 撮像処理装置、撮像処理方法、コンピュータプログラム及び電子機器
US11189649B2 (en) Photoelectric conversion apparatus and image pickup system
WO2022270034A1 (ja) 撮像装置、電子機器、および光検出方法
JP7267719B2 (ja) 光電変換装置、移動体、信号処理装置
WO2021002071A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2021192459A1 (ja) 撮像装置
WO2022004125A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2020194905A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
US20200065987A1 (en) Signal processing apparatus, moving body, and stereo camera

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191011

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200622

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200721

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200819

R151 Written notification of patent or utility model registration

Ref document number: 6752679

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151