JP2019153946A - 撮像素子、電子機器 - Google Patents

撮像素子、電子機器 Download PDF

Info

Publication number
JP2019153946A
JP2019153946A JP2018038235A JP2018038235A JP2019153946A JP 2019153946 A JP2019153946 A JP 2019153946A JP 2018038235 A JP2018038235 A JP 2018038235A JP 2018038235 A JP2018038235 A JP 2018038235A JP 2019153946 A JP2019153946 A JP 2019153946A
Authority
JP
Japan
Prior art keywords
unit
gain
digital
signal
analog
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018038235A
Other languages
English (en)
Inventor
千丈 岡田
Senjo Okada
千丈 岡田
ルォンフォン 朝倉
Luonghung Asakura
ルォンフォン 朝倉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to JP2018038235A priority Critical patent/JP2019153946A/ja
Priority to KR1020207022592A priority patent/KR102684217B1/ko
Priority to US16/976,362 priority patent/US11252355B2/en
Priority to PCT/JP2019/006222 priority patent/WO2019171947A1/ja
Priority to CN201980016191.1A priority patent/CN111801935B/zh
Publication of JP2019153946A publication Critical patent/JP2019153946A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/766Addressed sensors, e.g. MOS or CMOS sensors comprising control or output lines used for a plurality of functions, e.g. for pixel output, driving, reset or power
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/772Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】暗電流による影響を低減する。【解決手段】画素信号のサンプリングとホールドを行うサンプルホールド部と、画素信号を小数点以下まで含めたAD(Analog Digital)変換を行うAD変換部と、AD変換部からのデジタル信号に所定のゲインをかけるデジタルゲイン処理部と、サンプルホールド部とAD変換部を含むカラム部のアナログゲインを設定するゲイン設定部とを備える。ゲイン設定部は、測定された暗電流量に応じてアナログゲインを設定する。本技術は、例えば、CMOSイメージセンサに適用できる。【選択図】図5

Description

本技術は撮像素子、電子機器に関し、例えば、ノイズを抑制することができるようにした撮像素子、電子機器に関する。
従来、デジタルスチルカメラやデジタルビデオカメラなどの撮像機能を備えた電子機器においては、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの撮像素子が使用されている。
撮像素子は、光電変換を行うPD(photodiode:フォトダイオード)と複数のトランジスタとが組み合わされた画素を有しており、平面的に配置された複数の画素から出力される画素信号に基づいて画像が構築される。また、画素から出力される画素信号は、例えば、画素の列毎に配置された複数のAD(Analog to Digital)変換器によって並列的にAD変換されて出力される。
特許文献1では、暗電流量をデジタル値として検波し、DAC(Digital Analog Converter)にフィードバックすることで、暗電流をクランプすることが提案されている。また特許文献2では、AD変換の精度を上げることで、暗電流をクランプすることが提案されている。
特開2008−2219293号公報 特開2008−109264号公報
暗電流による影響を低減させるための構成により回路規模が大きくならず、回路構成が複雑化せずに、かつ暗電流による影響をより精度良く低減させることが望まれている。
本技術は、このような状況に鑑みてなされたものであり、暗電流による影響を低減させることができるようにするものである。
本技術の一側面の撮像素子は、画素信号のサンプリングとホールドを行うサンプルホールド部と、前記画素信号を小数点以下まで含めたAD(Analog Digital)変換を行うAD変換部と、前記AD変換部からのデジタル信号に所定のゲインをかけるデジタルゲイン処理部と、前記サンプルホールド部と前記AD変換部を含むカラム部のアナログゲインを設定するゲイン設定部とを備える。
本技術の一側面の電子機器は、撮像素子と、前記撮像素子から出力される信号を処理する信号処理部とを備え、前記撮像素子は、画素信号のサンプリングとホールドを行うサンプルホールド部と、前記画素信号を小数点以下まで含めたAD(Analog Digital)変換を行うAD変換部と、前記AD変換部からのデジタル信号に所定のゲインをかけるデジタルゲイン処理部と、前記サンプルホールド部と前記AD変換部を含むカラム部のアナログゲインを設定するゲイン設定部とを備える。
本技術の一側面の撮像素子においては、画素信号のサンプリングとホールドが行われ、画素信号を小数点以下まで含めたAD変換が行われ、デジタル信号に所定のゲインがかけられ、カラム部のアナログゲインが設定される。
本技術の一側面の電子機器においては、前記撮像素子が含まれる。
なお、撮像素子は、独立した装置であっても良いし、1つの装置を構成している内部ブロックであっても良い。
本技術の一側面によれば、暗電流による影響を低減させることができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
撮像装置の構成例を示す図である。 撮像素子の構成例を示す図である。 画素の回路図である。 読み出し部の構成例を示す図である。 読み出し部の構成例を示す図である。 画素アレイ部の画素配列について説明するための図である。 読み出し部の動作について説明するためのフローチャートである。 読み出し部の構成例を示す図である。 読み出し部の構成例を示す図である。 積層型の固体撮像装置の構成例の概要を示す図である。 内視鏡手術システムの概略的な構成の一例を示す図である。 カメラヘッド及びCCUの機能構成の一例を示すブロック図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
以下に、本技術を実施するための形態(以下、実施の形態という)について説明する。
<撮像装置の構成>
本技術は、撮像装置に適用できるため、ここでは、撮像装置に本技術を適用した場合を例に挙げて説明を行う。なおここでは、撮像装置を例に挙げて説明を続けるが、本技術は、撮像装置への適用に限られるものではなく、デジタルスチルカメラやビデオカメラ等の撮像装置、携帯電話機などの撮像機能を有する携帯端末装置、画像読取部に撮像装置を用いる複写機など、画像取込部(光電変換部)に撮像装置を用いる電子機器全般に対して適用可能である。なお、電子機器に搭載されるモジュール状の形態、即ちカメラモジュールを撮像装置とする場合もある。
図1は、本開示の電子機器の一例である撮像装置の構成例を示すブロック図である。図1に示すように、撮像装置10は、レンズ群11等を含む光学系、撮像素子12、カメラ信号処理部であるDSP回路13、フレームメモリ14、表示部15、記録部16、操作系17、及び、電源系18等を有している。
そして、DSP回路13、フレームメモリ14、表示部15、記録部16、操作系17、及び、電源系18がバスライン19を介して相互に接続された構成となっている。CPU20は、撮像装置10内の各部を制御する。
レンズ群11は、被写体からの入射光(像光)を取り込んで撮像素子12の撮像面上に結像する。撮像素子12は、レンズ群11によって撮像面上に結像された入射光の光量を画素単位で電気信号に変換して画素信号として出力する。この撮像素子12として、以下に説明する画素を含む撮像素子(イメージセンサ)を用いることができる。
表示部15は、液晶表示部や有機EL(electro luminescence)表示部等のパネル型表示部からなり、撮像素子12で撮像された動画または静止画を表示する。記録部16は、撮像素子12で撮像された動画または静止画を、ビデオテープやDVD(Digital Versatile Disk)等の記録媒体に記録する。
操作系17は、ユーザによる操作の下に、本撮像装置が持つ様々な機能について操作指令を発する。電源系18は、DSP回路13、フレームメモリ14、表示部15、記録部16、及び、操作系17の動作電源となる各種の電源を、これら供給対象に対して適宜供給する。
<撮像素子の構成>
図2は、撮像素子12の構成例を示すブロック図である。撮像素子12は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサとすることができる。撮像素子12は、画素アレイ部51、画素駆動部としての行選択部52、および読み出し部53を有する。
画素アレイ部51は、複数の画素50(図3)がM行×N列の2次元状(マトリクス状)に配列されている。画素アレイ部51に配線されている制御線54は、転送線、リセット線、および行選択線が一組とされて画素配列の各行単位で配線されている。転送線、リセット線、および行選択線の各制御線はそれぞれM本ずつ設けられている。これらの転送線、リセット線、および行選択線は、行選択部52により駆動される。
行選択部52は、画素アレイ部51の中の任意の行に配置された画素の動作を制御する。行選択部52は、制御線54を通して画素部を制御する。読み出し部53は、行選択部52により読み出し制御された画素行のデータを、垂直信号線55を介して受け取り、後段の信号処理部に転送する。垂直信号線55には、定電流部や読み出し部53が接続される。
<画素の構成>
図3は、画素アレイ部51(図2)に配置されている画素50の回路図である。
画素50は、フォトダイオード(PD)71、転送トランジスタ72、FD(フローティングディフュージョン)73、リセットトランジスタ74、増幅トランジスタ75、および選択トランジスタ76から形成されている。
PD71は、受光した光量に応じた電荷(信号電荷)を生成し、かつ、蓄積する光電変換素子として機能する。PD71は、アノード端子が接地されているとともに、カソード端子が転送トランジスタ72を介して、FD73に接続されている。
転送トランジスタ72は、転送信号TRによりオンされたとき、PD71で生成された電荷を読み出し、FD73に転送する。FD73は、PD71から読み出された電荷を保持する。リセットトランジスタ74は、リセット信号RSTによりオンされたとき、FD73に蓄積されている電荷がドレイン(定電圧源Vdd)に排出されることで、FD73の電位をリセットする。
増幅トランジスタ75は、FD73の電位に応じた画素信号を出力する。すなわち、増幅トランジスタ75は、垂直信号線55を介して接続されている定電流源としての負荷MOS(不図示)とソースフォロワ回路を構成し、FD73に蓄積されている電荷に応じたレベルを示す画素信号が、増幅トランジスタ75から選択トランジスタ76と垂直信号線55を介して読み出し部53(図2)に出力される。
選択トランジスタ76は、選択信号SELにより画素50が選択されたときオンされ、画素50の画素信号を、垂直信号線55を介して読み出し部53に出力する。転送信号TR、選択信号SEL、及びリセット信号RSTが伝送される各信号線は、図2の制御線54に対応する。
画素50は、以上のように構成することができるが、この構成に限定されるものではなく、その他の構成を採用することもできる。
<読み出し部の構成>
図4は、読み出し部53の構成例を示す図である。読み出し部53は、サンプルホールド部(S/H部)111、ADC(Analog Digital converter)112、デジタル処理部113、および変換伝送部114を含む構成とされている。
S/H部111、ADC112、およびデジタル処理部113は、垂直信号線55(図3)毎に設けられている。S/H部111は、画素50の光電変換量をサンプルとしてサンプリングし、ホールドする機能を有する。S/H部111でホールドされた信号は、ADC112に供給される。ADC112に供給される信号は、アナログ信号であり、ADC112は、供給されたアナログ信号をデジタル信号に変換する。
ADC112でデジタル信号に変換された信号は、デジタル処理部113に供給される。デジタル処理部113は、ADC112によりデジタルデータに変換されたデータを、さらにクランプしたり、丸め込みを行ったりすることで、最終的なデジタルデータを生成し、変換伝送部114に供給する。変換伝送部114は、パラレルデータをシリアルデータに変換し、後段の図示していない信号処理部に伝送する機能を有する。変換伝送部114には、複数のADC112から、それぞれ画素値が供給されるため、それらの複数の画素値をシリアルデータに変換し、出力する。
ゲイン設定部115は、ADC112からのデータを用いて、暗電流量を判定し、暗電流を抑制するゲインを設定する。ゲイン設定部115は、設定したゲインで、S/H部111とデジタル処理部113を制御する。
<第1の実施の形態>
図5は、図4に示した読み出し部53の詳細を示す図である。ここでは、可変抵抗の抵抗値を調整することで、回路レンジを拡大し、ノイズを低減させる読み出し部53を第1の実施の形態として説明する。
S/H部111とADC112を含む部分を、カラム部116とする。カラム部116には、2つのS/H部111が含まれ、ここでは、S/H部111PとS/H部111Dとする。S/H部111Pは、P相の読み出し時のサンプリングとホールドを行い、S/H部111Dは、D相の読み出し時のサンプリングとホールドを行う。また、ここでは、P相の読み出しは、画素リセット信号の読み出しを意味し、D相の読み出しは、画素データ信号の読み出しを意味する。
S/H部111PとS/H部111Dは、同様の構成とされているため、S/H部111PとS/H部111Dを区別する必要が無い場合、単にS/H部111と記述する。
S/H部111は、オペアンプ131、スイッチSW1、スイッチPH1、スイッチPH2、キャパシタC1を含む構成とされている。S/H回路は、オペアンプ131の反転入力端子IN(図中、−)に一方端を接続されたキャパシタC1を有する。
キャパシタC1の一方端の電位は、スイッチPH1をオンする(閉じる)ことにより、オペアンプ131の出力端子Voutの電位Vに設定可能である。スイッチPH1をオンした状態でスイッチSW1をオンして、キャパシタC1の他方端をサンプリング電圧の入力端子VIN(図中、Vpix)に接続すると、キャパシタC1にはVinへの入力電位に応じた電荷が充電される。
サンプリング時刻tsにてスイッチPH1とスイッチSW1をオフにすると、キャパシタC1は充電されている電荷を保持し、キャパシタC1の他方端の電位は時刻tsにおける入力電位VHにホールドされる。このキャパシタC1の他方端の電位VHは、スイッチPH2をオンすることで出力Voutの出力値として取り出される。
S/H部111PのスイッチPH2の一端は、信号線141とトランジスタ143のソースに接続されている。S/H部111Pのオペアンプ131の出力端は、トランジスタ143のゲートに接続されている。
S/H部111DのスイッチPH2の一端は、信号線141とトランジスタ144のソースに接続されている。S/H部111Dのオペアンプ131の出力端は、トランジスタ144のゲートに接続されている。
信号線141の一端には、電流源142が接続され、一定の電流値の電流が流れるように構成されている。信号線141の他端には、ADC112が接続され、信号線141を介して流れてきた電流を、デジタル変換する。ADC112は、電流入力型のアナログデジタルコンバータである。
信号線141の途中には、可変抵抗145が接続されている。可変抵抗145は、S/H部111Pの出力が接続されている点と、S/H部111Dの出力が接続されている点との間に設けられている。可変抵抗145は、カラム部116内で、アナログゲインとして機能する。
信号線141には、S/H部111Pでホールドされた電圧値とS/H部111Dでホールドされた電圧値の差分に応じた電流が流れる。S/H部111Pでホールドされた電圧値は、リセットレベルの画素信号に相当し、S/H部111Dでホールドされた電圧値は、信号レベルの画素信号に相当する。よって、S/H部111Pでホールドされた電圧値とS/H部111Dでホールドされた電圧値の差分は、信号レベルの画素信号からリセットレベルの画素信号を減算したときの値となり、リセットノイズを除去した画素値となる。
ADC112は、そのような画素値をデジタルデータに変換し、デジタル処理部113とゲイン設定部115に供給する。カラム部116は、このように、S/H部111PとS/H部111Dのそれぞれでホールドされた画素信号から、リセットノイズを除去した画素値を取得し、ADC112によりデジタル信号へと変換し、デジタル処理部113とゲイン設定部115に供給する。
デジタル処理部113はデジタルクランプ部151、デジタルゲイン処理部152、および丸め処理部153を含む構成とされている。デジタルクランプ部151は、ADC112からのデジタル信号をクランプし、デジタルゲイン処理部152に供給する。
デジタルゲイン処理部152は、ゲイン設定部115により設定されているゲインでデジタル信号にゲインをかけ、丸め処理部153に供給する。丸め処理部153では、丸め処理を実行する。ADC112は、小数点以下の桁も含むAD変換を行い、丸め処理部153は、整数値に丸め込む処理を行う。デジタル処理部113からの出力は、変換伝送部114に供給され、他のデータとともに、シリアルデータに変換され、図示していない後段の処理部に供給される。
ADC112からの出力のうち、暗電流検波時の出力は、ゲイン設定部115に供給される。暗電流検波時について説明を加える。暗電流検波は、図6に示すように、画素アレイ部51の所定のラインの画素値を用いて行われる。
図6を参照するに、画素アレイ部51には、アレイ状に画素50が配置されている。画素アレイ部51には、1ラインに複数の画素が配置され、そのような画素が配置されたラインが複数設けられている。画素アレイ部51の所定のライン、図6では、上部に位置する1ライン目、換言すれば、読み出し時に最初に読み出されるラインは、遮光され、光を受光しない構成とされている。この1ライン分の画素値が用いられて、暗電流が検波され、その暗電流に応じたゲインが、ゲイン設定部115により設定される。
なお、ここでは、1ライン分の画素値を用いて処理を行う場合を例に挙げて説明するが、例えば、2ライン以上のライン分の画素値が用いられて処理が行われるようにすることも可能である。
また、ここでは、図6に示したように、画素アレイ部51の上部の1ラインを用いて処理が行われる例を挙げて説明を続けるが、このラインの位置は、上部の1ラインに限らず、下部の1ラインでも良い。また例えば、2ライン用いて暗電流を検波する場合には、例えば、画素アレイ部51の上部の1ラインと下部の1ラインをそれぞれ遮光したラインとし、この2ラインを用いて処理が行われるようにしても良い。
図5の読み出し部53の構成の説明に戻り、カラム部116で、画素アレイ部22の暗電流検波用に設けられているラインに配置されている画素50からの信号を処理したときのカラム部116からの出力は、ゲイン設定部115に供給される。ゲイン設定部115は、暗電流を検波し、暗電流量に応じて、カラム部116内のゲインと、デジタル処理部113内のデジタルゲイン処理部152のゲインを設定する。
図5に示した第1の実施の形態における読み出し部53においては、ゲイン設定部115が設定するカラム部116内のゲインは、可変抵抗145の抵抗値である場合を示している。ゲイン設定部115は、例えば、カラム部116内のゲインを下げた場合、デジタルゲイン処理部152のゲインを上げる。カラム部116のゲインとデジタルゲイン処理部152のゲインは、例えば掛け合わせたときに一定値となるように、一方のゲインが下げられたときには、他方のゲインは上げられるといった設定が行われる。
このようなゲインの設定が行われることで、読み出し部53におけるゲインは一定値とされ、その一定値のゲインで処理が行われるようにすることができる。第1の実施の形態は、カラム部116のゲインを調整する箇所が、可変抵抗145の抵抗値である場合である。カラム部116のゲインを下げる場合、可変抵抗145の抵抗値は高くされ、ゲインを上げる場合、可変抵抗145の抵抗値は低くされる。
図5に示した読み出し部53の処理について、図7のフローチャートを参照して説明する。
ステップS11において、暗電流が検波される。図6を参照して説明したように、画素アレイ部51の遮光されているラインの画素からの出力を処理することで、暗電流が検波される。暗電流は、使用環境に依存し、例えば、熱の変化により増減する可能性があるため、所定の間隔や、撮影が行われる毎、電源がオンにされたときなど、所定のタイミングで検波される。
ステップS12において、暗電流が閾値以上であるか否かが判定される。遮光された画素50から読み出された画素値は、本来ゼロとなるが、さまざまな要因により、ゼロとはならず、本来ゼロとなる状態のときに検出される電流が暗電流と称されている。
ゲイン設定部115は、ADC112から供給される遮光されたラインから読み出された画素値、すなわちこの場合、暗電流を表すデジタル信号を入力すると、そのデジタル信号が表す暗電流が、閾値以上であるか否かを判定する。
ステップS12において、暗電流は閾値以上ではないと判定された場合、ステップS13に処理が進められる。ステップS13において、ゲイン設定部115は、カラム部116のゲインを“×1”に設定する。この場合、可変抵抗145の抵抗値が調整されることで、カラム部116のアナログゲインが、“×1”となるように調整される。
このようにして、カラム部116のアナログゲインが設定されると、そのアナログゲインに対応するデジタルゲインとして、ステップS14において、デジタルゲインが“×1”に設定される。すなわち、ゲイン設定部115は、デジタルゲイン処理部152のゲインを、“×1”に設定する。
このようにカラム部116のゲインとデジタルゲイン処理部152のゲインが設定されると、その設定されたゲインにおける撮影処理が行われる。図6に示した画素アレイ部51を再度参照するに、画素アレイ部51の上部の1ラインを除くラインは、開口部とされ、光を受光する構成とされている。この開口部に配置されている画素50からの画素値を取得する処理が行われる。
ステップS15において、ADC112において、画素50から得られる信号、換言すれば、信号線141に流れている電流のアナログ信号である電流値をデジタル信号の電流値に変換する処理が実行される。ADC112は、このように、電流入力型のアナログデジタルコンバータである。また、ADC112は、小数点以下の桁数を有するデジタル信号に変換する。例えば、小数点以下2bitのデジタル信号に変換される。
ADC112からの出力は、ADC112の後段のデジタルゲイン処理部152によるデジタルゲインの乗算処理が施されるが、このデジタルゲインによる画像情報の劣化を抑えるために、ADC112においては、予め低精度に小数点bitまで含めたアナログデジタル変換し、それを乱数として用いるようにする。
例えば、デジタルゲインを“×2”とした場合、繰り上がりが起こり、仮に、ADC112からのデジタルデータが、整数値までの精度であると、下1桁目のデータは、意味をなさないデータとなってしまう。すなわち、デジタルゲインを乗算することで、画像情報が劣化してしまう可能性がある。
しかしながら、ADC112からのデジタルデータが、小数点以下までのデータも含まれていれば、その小数点以下の数値が、繰り上がり、整数部分の下1桁目のデータも、意味をなすデータとすることができる。よって、デジタルゲインを乗算しても、画像情報が劣化してしまうようなことを防ぐことができる。
ここでは、ADC112は、小数点bitまで含めたアナログデジタル変換し、その小数点以下のbit数は、2bitである場合を例に挙げて説明を続けるが、この少数点以下のbit数は、2bit以外のbit数であってももちろん良い。
ステップS16において、デジタルクランプ部151は、ADC112から供給される小数点以下2bitのデジタル信号をデジタルクランプ処理し、デジタルゲイン処理部152に供給する。デジタルゲイン処理部152は、上記した処理で、“×1”のゲインに設定されているため、供給されたデジタル信号に“×1”のゲインを除算する処理を実行し、丸め処理部153に供給する。
ここまでの処理は、小数点以下2bitを含めたデータで行われる。そして、ステップS17において、丸め処理部153により、小数点以下2bitのデータを、切り上げまたは切り下げることで、データが整数化される。
一方、ステップS12において、暗電流が閾値以上であると判定された場合、ステップS19以降の処理で、ユーザゲインの再設定が行われる。ユーザゲインとは、カラム部116のゲインとデジタル処理部113のゲインを乗算したゲインであり、ユーザゲインは、一定のゲインとなるように、換言すれば、1となるように設定されている。
ステップS19において、ゲイン設定部115は、カラム部116のアナログゲインを“×(1/Y)”に設定する。この場合、可変抵抗145の抵抗値が調整されることで、“×(1/Y)”のアナログゲインに調整される。ゲイン(1/Y)は、暗電流の大きさに応じた値とすることができる。換言すれば、(1/Y)の値として、1個の値が予め設定されているのでは無く、複数の値が設定されているようにし、暗電流の大きさに応じた値が設定されるようにすることができる。
このようにして、カラム部116のアナログゲインが設定されると、そのアナログゲインに対応するデジタルゲインとして、ステップS20において、デジタルゲインが“×Y”に設定される。すなわち、ゲイン設定部115は、デジタルゲイン処理部152のゲインを、“×Y”に設定する。この場合、アナログゲインが、“1/Y”であり、デジタルゲインが“Y”であるため、アナログゲインとデジタルゲインを乗算した値は、1(=(1/Y)×Y)となる。
このようにカラム部116のアナログゲインとデジタルゲイン処理部152のデジタルゲインが設定されると、その設定されたゲインにおける撮影処理が行われる。ステップS22以降の処理は、ステップS15以降の処理と基本的に同様に行われるため、ここではその説明を省略する。
このように、暗電流の大きさに応じて、ユーザゲイン(=アナログゲイン×デジタルゲイン)が設定され、設定されたユーザゲインで、暗電流を抑制した撮影を行うことができる。また、一般的に、アナログゲインを下げるなど、アナログゲインを変更すると、ノイズ特性が悪化する可能性があるが、そのような回路ノイズ分は、暗電流が支配的になる領域に適用することで、暗電流起因のノイズに埋もれさせて処理することが可能となる。
また、デジタルゲインによる画像情報の劣化を防ぐために、予め低精度の小数点bitまで含めてADC112においてアナログデータからデジタルデータに変換し、それを乱数として用いるようにしたため、デジタルゲインによる画像情報の劣化を防ぐことができる。
<第2の実施の形態>
次に、第2の実施の形態における読み出し部53について説明する。図8は、第2の実施の形態における読み出し部53の構成例を示す図である。第2の実施の形態においては、キャパシタの容量を調整することで、回路レンジを拡大し、ノイズを低減させる読み出し部53について説明する。
図8に示した読み出し部53(以下、読み出し部53bとする)の構成は、図5に示した第1の実施の形態における読み出し部53(以下、読み出し部53aとする)と同様の構成であるが、ゲイン設定部115が制御する箇所が異なり、他の部分は同様であるため、同様な部分に関しては説明を省略する。
図8に示した読み出し部53bのゲイン設定部115bは、カラム部116内のS/H部111Pを構成するキャパシタC1とS/H部111Dを構成するキャパシタC1の容量値を調整することで、カラム部116のアナログゲインを調整する。S/H部111Pを構成するキャパシタC1とS/H部111Dを構成するキャパシタC1は、容量値が調整されるため、可変容量型のキャパシタとされている。
ゲイン設定部115bは、第1の実施の形態と同じく、ユーザゲインが一定となるように、アナログゲインを変更した場合、デジタルゲインを変更する。ゲイン設定部115bは、デジタル処理部113のデジタルゲイン処理部152のゲインも設定する。
カラム部116の抵抗145は、第1の実施の形態と異なり、抵抗値が変更されないため、固定の抵抗値を有する抵抗とされている。
ここで、キャパシタC1に蓄積されうる電荷量をQ、キャパシタC1の容量をC、キャパシタC1にかかる電圧をVとした場合、Q=CVの関係式が成り立つ。同量の電荷を蓄積させる(電荷量Qが一定とする)場合、容量Cを大きい値に変更した場合、電圧Vは小さい値になるため、S/H部111からの出力電圧も小さくなる。このように、キャパシタC1の容量Cを調整することで、S/H部111からの出力電圧を変更することができ、カラム部116内のゲインを調整できることになる。
このように、S/H部111内のキャパシタC1の容量を調整することで、回路レンジを拡大し、暗電流などによるノイズを低減させる構成とすることもできる。第2の実施の形態における読み出し部53bの動作は、第1の実施の形態における読み出し部53aと基本的に同様の動作であり、図7に示したフローチャートの処理に基づき行われるため、ここではその説明は省略する。
ただし、アナログゲインの設定は、設定したいアナログゲインを実現するキャパシタC1の容量値に設定され、そのアナログゲインに対応するデジタルゲインが、デジタルゲイン処理部152に設定される。
第2の実施の形態における読み出し部53bにおいても、暗電流の大きさに応じて、ユーザゲイン(=アナログゲイン×デジタルゲイン)が設定され、設定されたユーザゲインで、暗電流を抑制した撮影を行うことができる。また、アナログゲインを変更すると、ノイズ特性が悪化する可能性があるが、そのような回路ノイズ分は、暗電流が支配的になる領域に適用することで、暗電流起因のノイズに埋もれさせて処理することが可能となる。
また、デジタルゲインによる画像情報の劣化を防ぐために、予め低精度の小数点bitまで含めてADC112においてアナログデータからデジタルデータに変換し、それを乱数として用いるようにしたため、デジタルゲインによる画像情報の劣化を防ぐことができる。
<第3の実施の形態>
次に、第3の実施の形態における読み出し部53について説明する。図9は、第3の実施の形態における読み出し部53の構成例を示す図である。第3の実施の形態においては、信号線141に流れる電流を調整することで、回路レンジを拡大し、ノイズを低減させる読み出し部53について説明する。
図9に示した読み出し部53(以下、読み出し部53cとする)の構成は、図5に示した第1の実施の形態における読み出し部53aと同様の構成であるが、ゲイン設定部115が制御する箇所が異なり、他の部分は同様であるため、同様な部分に関しては説明を省略する。
図9に示した読み出し部53cのゲイン設定部115cは、カラム部116内の電流源112が流す電流の大きさとADC112の電流の大きさを調整することで、カラム部116のアナログゲインを調整する。カラム部116内の電流源112は、流す電流の大きさが調整されるため、可変電流型の電流源とされている。
なお、第1、第2の実施の形態における電流源112は、一定の電流を流す固定電流源である。カラム部116の抵抗145は、第1の実施の形態と異なり、抵抗値が変更されないため、固定の抵抗値を有する抵抗とされている。
ゲイン設定部115cは、第1の実施の形態と同じく、ユーザゲインが一定となるように、アナログゲインを変更した場合、デジタルゲインを変更する。ゲイン設定部115cは、デジタル処理部113のデジタルゲイン処理部152のゲインも設定する。
電流源142が流す電流の大きさが電流値Aである場合、ADC112は、電流値Aである場合のスケールで、入力される電流の大きさを測定する。仮に、同一の画素値(画素値Bとする)をADC112でAD変換する場合を想定する。
電流源142が流す電流の大きさが電流値Aである場合、ADC112は、電流値Aである場合のスケールで、入力される電流の大きさを測定し、画素値Bを結果として出力する。例えば、電流源142の電流を変更したときに、ADC112のスケールを変更しないでAD変換を行うと、画素値Bの値は誤った値となる可能性がある。
よって、電流源142の電流値を変更した場合、ADC112のスケールも、変更後の電流値に対応するスケールに変更する必要がある。例えば、2倍のゲインを得たい場合、電流源142の電流はそのまま(×1倍)で、ADC112のスケールが半分(×1/2)にされる。また、例えば、ADC112のスケールを2倍にした場合、1/2倍のゲインがかかるため、電流源142の電流は2倍にされる。このように、所望とされるゲインになるように、電流源142の電流値とADC112のスケールの大きさが調整される。
ADC112が、入力される電流値とDAC(Digital Analog Converter)からの出力に応じてAD変換する構成とされている場合、ADC112のスケールは、DACの電流値を変えることで調整することができる。例えば、ADC112の電流値を小さな値(ADC112内のDACの電流値を小さな値)に変更した場合、ADC結果は、大きくなる。このような関係を利用して、ADC112のスケールを調整することができる。
このように、電流源142の電流値とADC112のスケールを調整することで、回路レンジを拡大し、暗電流などによるノイズを低減させる構成とすることもできる。第3の実施の形態における読み出し部53cの動作は、第1の実施の形態における読み出し部53aと基本的に同様の動作であり、図7に示したフローチャートの処理に基づき行われるため、ここではその説明は省略する。
ただし、アナログゲインの設定は、設定したいアナログゲインを実現する電流源142の電流値とADC112のスケールの組み合わせに設定され、そのアナログゲインに対応するデジタルゲインが、デジタルゲイン処理部152に設定される。
第3の実施の形態における読み出し部53cにおいても、暗電流の大きさに応じて、ユーザゲイン(=アナログゲイン×デジタルゲイン)が設定され、設定されたユーザゲインで、暗電流を抑制した撮影を行うことができる。また、アナログゲインを変更すると、ノイズ特性が悪化する可能性があるが、そのような回路ノイズ分は、暗電流が支配的になる領域に適用することで、暗電流起因のノイズに埋もれさせて処理することが可能となる。
また、デジタルゲインによる画像情報の劣化を防ぐために、予め低精度の小数点bitまで含めてADC112においてアナログデータからデジタルデータに変換し、それを乱数として用いるようにしたため、デジタルゲインによる画像情報の劣化を防ぐことができる。
上記した実施の形態においては、ゲイン設定部115が抵抗値、容量値または電流値を、それぞれ設定することで、暗電流を抑制する場合を例に挙げて説明した。上記したように、これらを個別に実施することも可能であるが、組み合わせて実施することも可能である。例えば、ゲイン設定部115は、抵抗値と容量値を設定し、抵抗値と容量値の組み合わせで暗電流を抑制するようにしても良い。
<本開示に係る技術を適用し得る積層型の撮像装置の構成例>
図10は、本開示に係る技術を適用し得る積層型の固体撮像装置の構成例の概要を示す図である。
図10のAは、非積層型の固体撮像装置の概略構成例を示している。固体撮像装置510は、図10のAに示すように、1枚のダイ(半導体基板)511を有する。このダイ511には、画素がアレイ状に配置された画素領域512と、画素の駆動その他の各種の制御を行う制御回路513と、信号処理するためのロジック回路514とが搭載されている。
制御回路513やロジック回路514が配置される領域に、上記した実施の形態におけるカラム部116、ゲイン設定部115、デジタル処理部113などを配置することができる。
図10のB及びCは、積層型の固体撮像装置の概略構成例を示している。固体撮像装置520は、図10のB及びCに示すように、センサダイ521とロジックダイ524との2枚のダイが積層され、電気的に接続されて、1つの半導体チップとして構成されている。
図10のBでは、センサダイ521には、画素領域512と制御回路513が搭載され、ロジックダイ524には、信号処理を行う信号処理回路を含むロジック回路514が搭載されている。
図10のCでは、センサダイ521には、画素領域512が搭載され、ロジックダイ524には、制御回路513及びロジック回路514が搭載されている。
<内視鏡手術システムへの応用例>
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
図11は、本開示に係る技術(本技術)が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。
図11では、術者(医師)11131が、内視鏡手術システム11000を用いて、患者ベッド11133上の患者11132に手術を行っている様子が図示されている。図示するように、内視鏡手術システム11000は、内視鏡11100と、気腹チューブ11111やエネルギー処置具11112等の、その他の術具11110と、内視鏡11100を支持する支持アーム装置11120と、内視鏡下手術のための各種の装置が搭載されたカート11200と、から構成される。
内視鏡11100は、先端から所定の長さの領域が患者11132の体腔内に挿入される鏡筒11101と、鏡筒11101の基端に接続されるカメラヘッド11102と、から構成される。図示する例では、硬性の鏡筒11101を有するいわゆる硬性鏡として構成される内視鏡11100を図示しているが、内視鏡11100は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。
鏡筒11101の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡11100には光源装置11203が接続されており、当該光源装置11203によって生成された光が、鏡筒11101の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者11132の体腔内の観察対象に向かって照射される。なお、内視鏡11100は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド11102の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU: Camera Control Unit)11201に送信される。
CCU11201は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡11100及び表示装置11202の動作を統括的に制御する。さらに、CCU11201は、カメラヘッド11102から画像信号を受け取り、その画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。
表示装置11202は、CCU11201からの制御により、当該CCU11201によって画像処理が施された画像信号に基づく画像を表示する。
光源装置11203は、例えばLED(light emitting diode)等の光源から構成され、術部等を撮影する際の照射光を内視鏡11100に供給する。
入力装置11204は、内視鏡手術システム11000に対する入力インタフェースである。ユーザは、入力装置11204を介して、内視鏡手術システム11000に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、内視鏡11100による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示等を入力する。
処置具制御装置11205は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具11112の駆動を制御する。気腹装置11206は、内視鏡11100による視野の確保及び術者の作業空間の確保の目的で、患者11132の体腔を膨らめるために、気腹チューブ11111を介して当該体腔内にガスを送り込む。レコーダ11207は、手術に関する各種の情報を記録可能な装置である。プリンタ11208は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
なお、内視鏡11100に術部を撮影する際の照射光を供給する光源装置11203は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置11203において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド11102の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置11203は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド11102の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置11203は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置11203は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
図12は、図11に示すカメラヘッド11102及びCCU11201の機能構成の一例を示すブロック図である。
カメラヘッド11102は、レンズユニット11401と、撮像部11402と、駆動部11403と、通信部11404と、カメラヘッド制御部11405と、を有する。CCU11201は、通信部11411と、画像処理部11412と、制御部11413と、を有する。カメラヘッド11102とCCU11201とは、伝送ケーブル11400によって互いに通信可能に接続されている。
レンズユニット11401は、鏡筒11101との接続部に設けられる光学系である。鏡筒11101の先端から取り込まれた観察光は、カメラヘッド11102まで導光され、当該レンズユニット11401に入射する。レンズユニット11401は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。
撮像部11402を構成する撮像素子は、1つ(いわゆる単板式)であってもよいし、複数(いわゆる多板式)であってもよい。撮像部11402が多板式で構成される場合には、例えば各撮像素子によってRGBそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、撮像部11402は、3D(dimensional)表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されてもよい。3D表示が行われることにより、術者11131は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部11402が多板式で構成される場合には、各撮像素子に対応して、レンズユニット11401も複数系統設けられ得る。
また、撮像部11402は、必ずしもカメラヘッド11102に設けられなくてもよい。例えば、撮像部11402は、鏡筒11101の内部に、対物レンズの直後に設けられてもよい。
駆動部11403は、アクチュエータによって構成され、カメラヘッド制御部11405からの制御により、レンズユニット11401のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部11402による撮像画像の倍率及び焦点が適宜調整され得る。
通信部11404は、CCU11201との間で各種の情報を送受信するための通信装置によって構成される。通信部11404は、撮像部11402から得た画像信号をRAWデータとして伝送ケーブル11400を介してCCU11201に送信する。
また、通信部11404は、CCU11201から、カメラヘッド11102の駆動を制御するための制御信号を受信し、カメラヘッド制御部11405に供給する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、ユーザによって適宜指定されてもよいし、取得された画像信号に基づいてCCU11201の制御部11413によって自動的に設定されてもよい。後者の場合には、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡11100に搭載されていることになる。
カメラヘッド制御部11405は、通信部11404を介して受信したCCU11201からの制御信号に基づいて、カメラヘッド11102の駆動を制御する。
通信部11411は、カメラヘッド11102との間で各種の情報を送受信するための通信装置によって構成される。通信部11411は、カメラヘッド11102から、伝送ケーブル11400を介して送信される画像信号を受信する。
また、通信部11411は、カメラヘッド11102に対して、カメラヘッド11102の駆動を制御するための制御信号を送信する。画像信号や制御信号は、電気通信や光通信等によって送信することができる。
画像処理部11412は、カメラヘッド11102から送信されたRAWデータである画像信号に対して各種の画像処理を施す。
制御部11413は、内視鏡11100による術部等の撮像、及び、術部等の撮像により得られる撮像画像の表示に関する各種の制御を行う。例えば、制御部11413は、カメラヘッド11102の駆動を制御するための制御信号を生成する。
また、制御部11413は、画像処理部11412によって画像処理が施された画像信号に基づいて、術部等が映った撮像画像を表示装置11202に表示させる。この際、制御部11413は、各種の画像認識技術を用いて撮像画像内における各種の物体を認識してもよい。例えば、制御部11413は、撮像画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具11112の使用時のミスト等を認識することができる。制御部11413は、表示装置11202に撮像画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させてもよい。手術支援情報が重畳表示され、術者11131に提示されることにより、術者11131の負担を軽減することや、術者11131が確実に手術を進めることが可能になる。
カメラヘッド11102及びCCU11201を接続する伝送ケーブル11400は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル11400を用いて有線で通信が行われていたが、カメラヘッド11102とCCU11201との間の通信は無線で行われてもよい。
<移動体への応用例>
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図13は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図13に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(Interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12030に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図13の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図14は、撮像部12031の設置位置の例を示す図である。
図14では、撮像部12031として、撮像部12101、12102、12103、12104、12105を有する。
撮像部12101、12102、12103、12104、12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102、12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部12105は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図14には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
なお、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
なお、本技術は以下のような構成も取ることができる。
(1)
画素信号のサンプリングとホールドを行うサンプルホールド部と、
前記画素信号を小数点以下まで含めたAD(Analog Digital)変換を行うAD変換部と、
前記AD変換部からのデジタル信号に所定のゲインをかけるデジタルゲイン処理部と、
前記サンプルホールド部と前記AD変換部を含むカラム部のアナログゲインを設定するゲイン設定部と
を備える撮像素子。
(2)
前記ゲイン設定部は、測定された暗電流量に応じて前記アナログゲインを設定する
前記(1)に記載の撮像素子。
(3)
前記ゲイン設定部は、前記アナログゲインと前記デジタルゲインを乗算したときの値が一定となるように、前記アナログゲインと前記デジタルゲインを設定する
前記(1)または(2)に記載の撮像素子。
(4)
前記カラム部には、可変抵抗が含まれ、
前記ゲイン設定部は、設定したアナログゲインになる前記可変抵抗の抵抗値を設定する
前記(1)乃至(3)のいずれかに記載の撮像素子。
(5)
前記可変抵抗は、画素リセット信号を保持する第1のサンプルホールド部と、画素データ信号を保持する第2のサンプルホールド部との間に設けられている
前記(4)に記載の撮像素子。
(6)
前記サンプルホールド部にはキャパシタが含まれ、
前記ゲイン設定部は、設定したアナログゲインになる前記キャパシタの容量値を設定する
前記(1)乃至(5)のいずれかに記載の撮像素子。
(7)
前記AD変換部に接続されている信号線に所定の電流を流す電流源をさらに備え、
前記ゲイン設定部は、設定したアナログゲインになる前記電流源の電流値を設定する
前記(1)乃至(6)のいずれかに記載の撮像素子。
(8)
前記ゲイン設定部は、前記電流源の電流値を変更した場合、前記AD変換部の電流値も、前記電流源の電流値に応じた値に設定する
前記(7)に記載の撮像素子。
(9)
撮像素子と、
前記撮像素子から出力される信号を処理する信号処理部と
を備え、
前記撮像素子は、
画素信号のサンプリングとホールドを行うサンプルホールド部と、
前記画素信号を小数点以下まで含めたAD(Analog Digital)変換を行うAD変換部と、
前記AD変換部からのデジタル信号に所定のゲインをかけるデジタルゲイン処理部と、
前記サンプルホールド部と前記AD変換部を含むカラム部のアナログゲインを設定するゲイン設定部と
を備える
電子機器。
10 撮像装置, 11 レンズ群, 12 撮像素子, 13 DSP回路, 14 フレームメモリ, 15 表示部, 16 記録部, 17 操作系, 18 電源系, 19 バスライン, 20 CPU, 22 画素アレイ部, 50 画素, 51 画素アレイ部, 52 行選択部, 53 読み出し部, 54 制御線, 55 垂直信号線, 72 転送トランジスタ, 74 リセットトランジスタ, 75 増幅トランジスタ, 76 選択トランジスタ, 111 S/H部, 112 電流源, 113 デジタル処理部, 114 変換伝送部, 115 ゲイン設定部, 116 カラム部, 131 オペアンプ, 141 信号線, 142 電流源, 143 トランジスタ, 144 トランジスタ, 145 抵抗, 151 デジタルクランプ部, 152 デジタルゲイン処理部, 153 処理部

Claims (9)

  1. 画素信号のサンプリングとホールドを行うサンプルホールド部と、
    前記画素信号を小数点以下まで含めたAD(Analog Digital)変換を行うAD変換部と、
    前記AD変換部からのデジタル信号に所定のゲインをかけるデジタルゲイン処理部と、
    前記サンプルホールド部と前記AD変換部を含むカラム部のアナログゲインを設定するゲイン設定部と
    を備える撮像素子。
  2. 前記ゲイン設定部は、測定された暗電流量に応じて前記アナログゲインを設定する
    請求項1に記載の撮像素子。
  3. 前記ゲイン設定部は、前記アナログゲインと前記デジタルゲインを乗算したときの値が一定となるように、前記アナログゲインと前記デジタルゲインを設定する
    請求項1に記載の撮像素子。
  4. 前記カラム部には、可変抵抗が含まれ、
    前記ゲイン設定部は、設定したアナログゲインになる前記可変抵抗の抵抗値を設定する
    請求項1に記載の撮像素子。
  5. 前記可変抵抗は、画素リセット信号を保持する第1のサンプルホールド部と、画素データ信号を保持する第2のサンプルホールド部との間に設けられている
    請求項4に記載の撮像素子。
  6. 前記サンプルホールド部にはキャパシタが含まれ、
    前記ゲイン設定部は、設定したアナログゲインになる前記キャパシタの容量値を設定する
    請求項1に記載の撮像素子。
  7. 前記AD変換部に接続されている信号線に所定の電流を流す電流源をさらに備え、
    前記ゲイン設定部は、設定したアナログゲインになる前記電流源の電流値を設定する
    請求項1に記載の撮像素子。
  8. 前記ゲイン設定部は、前記電流源の電流値を変更した場合、前記AD変換部の電流値も、前記電流源の電流値に応じた値に設定する
    請求項7に記載の撮像素子。
  9. 撮像素子と、
    前記撮像素子から出力される信号を処理する信号処理部と
    を備え、
    前記撮像素子は、
    画素信号のサンプリングとホールドを行うサンプルホールド部と、
    前記画素信号を小数点以下まで含めたAD(Analog Digital)変換を行うAD変換部と、
    前記AD変換部からのデジタル信号に所定のゲインをかけるデジタルゲイン処理部と、
    前記サンプルホールド部と前記AD変換部を含むカラム部のアナログゲインを設定するゲイン設定部と
    を備える
    電子機器。
JP2018038235A 2018-03-05 2018-03-05 撮像素子、電子機器 Pending JP2019153946A (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2018038235A JP2019153946A (ja) 2018-03-05 2018-03-05 撮像素子、電子機器
KR1020207022592A KR102684217B1 (ko) 2018-03-05 2019-02-20 촬상 소자 및 전자 기기
US16/976,362 US11252355B2 (en) 2018-03-05 2019-02-20 Image pickup device and electronic device
PCT/JP2019/006222 WO2019171947A1 (ja) 2018-03-05 2019-02-20 撮像素子、電子機器
CN201980016191.1A CN111801935B (zh) 2018-03-05 2019-02-20 摄像装置和电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018038235A JP2019153946A (ja) 2018-03-05 2018-03-05 撮像素子、電子機器

Publications (1)

Publication Number Publication Date
JP2019153946A true JP2019153946A (ja) 2019-09-12

Family

ID=67847238

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018038235A Pending JP2019153946A (ja) 2018-03-05 2018-03-05 撮像素子、電子機器

Country Status (5)

Country Link
US (1) US11252355B2 (ja)
JP (1) JP2019153946A (ja)
KR (1) KR102684217B1 (ja)
CN (1) CN111801935B (ja)
WO (1) WO2019171947A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022119469A (ja) * 2021-02-04 2022-08-17 キヤノン株式会社 光電変換装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6137533A (en) * 1997-05-14 2000-10-24 Cirrus Logic, Inc. System and method for enhancing dynamic range in images
US20020176009A1 (en) * 1998-05-08 2002-11-28 Johnson Sandra Marie Image processor circuits, systems, and methods
US6686957B1 (en) * 1999-03-31 2004-02-03 Cirrus Logic, Inc. Preview mode low resolution output system and method
US6806901B1 (en) * 2000-10-31 2004-10-19 Texas Instruments Incorporated Controlling the range and resolution of offset correction applied to the output of a charge coupled device
US6974973B2 (en) * 2002-11-08 2005-12-13 Micron Technology, Inc. Apparatus for determining temperature of an active pixel imager and correcting temperature induced variations in an imager
JP4931546B2 (ja) * 2006-10-24 2012-05-16 ソニー株式会社 固体撮像装置及び撮像装置
JP2008187565A (ja) * 2007-01-31 2008-08-14 Sony Corp 固体撮像装置及び撮像装置
JP4971834B2 (ja) 2007-03-01 2012-07-11 キヤノン株式会社 撮像装置及び撮像システム
JP2009218682A (ja) * 2008-03-07 2009-09-24 Panasonic Corp フロントエンド信号処理方法およびフロントエンド信号処理回路と撮像装置
JP5702704B2 (ja) * 2010-11-26 2015-04-15 富士フイルム株式会社 放射線画像検出装置、及び放射線画像撮影システム
TWI514876B (zh) * 2013-09-18 2015-12-21 Silicon Optronics Inc 影像感測器及其補償方法
WO2017057373A1 (ja) * 2015-09-30 2017-04-06 株式会社ニコン 撮像素子、撮像装置、および電子機器
US9661251B1 (en) * 2015-10-30 2017-05-23 Sony Semiconductor Solutions Corporation Adaptive gain control using sample-and-hold circuit for analog CDS

Also Published As

Publication number Publication date
KR20200125593A (ko) 2020-11-04
US20210160443A1 (en) 2021-05-27
CN111801935B (zh) 2023-10-24
CN111801935A (zh) 2020-10-20
WO2019171947A1 (ja) 2019-09-12
US11252355B2 (en) 2022-02-15
KR102684217B1 (ko) 2024-07-10

Similar Documents

Publication Publication Date Title
CN110050459B (zh) 固态成像元件和电子设备
JP6968797B2 (ja) 撮像素子
US11778333B2 (en) Signal processing method and imaging apparatus
US20230411416A1 (en) Solid-state imaging element and imaging apparatus
US20220360727A1 (en) Information processing device, information processing method, and information processing program
JP2022015325A (ja) 固体撮像装置および電子機器
WO2022085476A1 (ja) 固体撮像装置および信号処理方法
JP7034925B2 (ja) 固体撮像装置および撮像方法
WO2019171947A1 (ja) 撮像素子、電子機器
WO2018051819A1 (ja) 撮像素子および駆動方法、並びに電子機器
WO2017150168A1 (ja) 撮像素子及び電子機器
JP2019022173A (ja) 固体撮像素子およびその制御方法、並びに電子機器
CN111713100B (zh) 摄像器件和电子设备
WO2022102433A1 (ja) 撮像装置
WO2022097529A1 (ja) 撮像装置、撮像方法
WO2023210354A1 (ja) 光検出装置および増幅回路
JP2023136919A (ja) 信号生成回路および光検出装置
JP2019022020A (ja) 固体撮像素子、固体撮像素子の駆動方法および電子機器