JP2019022173A - 固体撮像素子およびその制御方法、並びに電子機器 - Google Patents

固体撮像素子およびその制御方法、並びに電子機器 Download PDF

Info

Publication number
JP2019022173A
JP2019022173A JP2017141536A JP2017141536A JP2019022173A JP 2019022173 A JP2019022173 A JP 2019022173A JP 2017141536 A JP2017141536 A JP 2017141536A JP 2017141536 A JP2017141536 A JP 2017141536A JP 2019022173 A JP2019022173 A JP 2019022173A
Authority
JP
Japan
Prior art keywords
voltage
charge holding
pixel
holding unit
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017141536A
Other languages
English (en)
Inventor
弘二 榎
Koji Enoki
弘二 榎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to JP2017141536A priority Critical patent/JP2019022173A/ja
Priority to PCT/JP2018/025656 priority patent/WO2019017217A1/ja
Priority to US16/632,430 priority patent/US11218658B2/en
Publication of JP2019022173A publication Critical patent/JP2019022173A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/59Control of the dynamic range by controlling the amount of charge storable in the pixel, e.g. modification of the charge conversion ratio of the floating node capacitance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/571Control of the dynamic range involving a non-linear response
    • H04N25/575Control of the dynamic range involving a non-linear response with a response composed of multiple slopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/772Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Nonlinear Science (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】より簡単に、HDR画像を生成することができるようにする。【解決手段】固体撮像素子は、画素のフォトダイオードPDで生成された電荷を保持する高感度FD40H及び低感度FD40Lと、高感度FD40Hと低感度FD40Lとの接続をオンオフするFD接続トランジスタと、画素から出力された画素信号の電圧が、時間経過に応じてレベルが変化するランプ信号の電圧と一致したとき、高感度FD40Hと低感度FD40Lを接続させる制御を行う飽和検知回路とを備える。本技術は、例えば、ダイナミックレンジを拡大したHDR画像を生成する固体撮像素子等に適用できる。【選択図】図2

Description

本技術は、固体撮像素子およびその制御方法、並びに電子機器に関し、特に、より簡単に、HDR画像を生成することができるようにした固体撮像素子およびその制御方法、並びに電子機器に関する。
ダイナミックレンジを拡大したHDR(High Dynamic Range)画像を実現する各種の技術が知られている。
HDR画像を実現する第1の技術としては、例えば、露光時間の違う複数枚の画像を時間方向にHDR合成する技術がある(例えば、特許文献1参照)。しかし、この方法は、画像を複数回読み出すために時間がかかるため、フレームレートが低くなる。また、複数回読み出すことにより消費電力も大きくなる。さらに、撮像タイミングの異なる複数枚の画像の合成なので、動きのある被写体の撮像には弱い。
HDR画像を実現する第2の技術としては、画素アレイ部内に配列された複数の画素に対して、露光時間、フォトダイオードの面積、電荷を蓄積するFD(フローティングディフュージョン)の面積などを異ならせることで画素の感度を変え、空間方向にHDR合成する技術がある(例えば、特許文献2参照)。しかし、この方法では、解像度が落ちてしまう。
HDR画像を実現する第3の技術として、フォトダイオードの電荷の転送ゲート電圧を制御することにより、何回かに分けて一部読み出しを行い、後段の信号処理にてHDR合成する技術がある(例えば、特許文献3参照)。しかし、この方法では、やはり複数回読み出しを行うために時間がかかり、フレームレートが低く、消費電力も大きくなる。また、撮像タイミングの異なる画像の合成なので、動きのある被写体の撮像にも弱い。さらに、電圧制御による画面内の特性ばらつきが発生することも懸念される。
また、撮像タイミングの異なる複数枚の画像の合成には、動きのある被写体のために動体検知回路を設けたり、空間方向のHDR合成に対しては空間フィルタを設ける必要があるなど、後段の複雑な処理回路も必要となる。
特開2000−50151号公報 特開2013−216600号公報 特開2011−259492号公報
本技術は、このような状況に鑑みてなされたものであり、より簡単に、HDR画像を生成することができるようにするものである。
本技術の第1の側面の固体撮像素子は、画素の光電変換部で生成された電荷を保持する第1及び第2の電荷保持部と、前記第1の電荷保持部と前記第2の電荷保持部との接続をオンオフする接続トランジスタと、前記画素から出力された画素信号の電圧が、時間経過に応じてレベルが変化するランプ信号の電圧と一致したとき、前記第1の電荷保持部と前記第2の電荷保持部を接続させる制御を行う制御回路とを備える。
本技術の第2の側面の固体撮像素子の制御方法は、画素の光電変換部で生成された電荷を保持する第1及び第2の電荷保持部と、前記第1の電荷保持部と前記第2の電荷保持部との接続をオンオフする接続トランジスタと、前記接続トランジスタを制御する制御回路とを備える固体撮像素子の、前記制御回路が、前記画素から出力された画素信号の電圧が、時間経過に応じてレベルが変化するランプ信号の電圧と一致したとき、前記第1の電荷保持部と前記第2の電荷保持部を接続させる制御を行う。
本技術の第3の側面の電子機器は、画素の光電変換部で生成された電荷を保持する第1及び第2の電荷保持部と、前記第1の電荷保持部と前記第2の電荷保持部との接続をオンオフする接続トランジスタと、前記画素から出力された画素信号の電圧が、時間経過に応じてレベルが変化するランプ信号の電圧と一致したとき、前記第1の電荷保持部と前記第2の電荷保持部を接続させる制御を行う制御回路とを備える固体撮像素子を備える。
本技術の第1乃至第3の側面においては、画素の光電変換部で生成された電荷を保持する第1及び第2の電荷保持部と、前記第1の電荷保持部と前記第2の電荷保持部との接続をオンオフする接続トランジスタと、前記接続トランジスタを制御する制御回路が、固体撮像素子に設けられ、前記画素から出力された画素信号の電圧が、時間経過に応じてレベルが変化するランプ信号の電圧と一致したとき、前記第1の電荷保持部と前記第2の電荷保持部が接続されるように制御される。
固体撮像素子及び電子機器は、独立した装置であっても良いし、他の装置に組み込まれるモジュールであっても良い。
本技術の第1乃至第3の側面によれば、より簡単に、HDR画像を生成することができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術を適用した固体撮像素子の概略構成を示すブロック図である。 画素と飽和検知回路の詳細回路を示す図である。 高照度の場合と低照度の場合の画素の動作を説明する図である。 高照度の場合の画素の第1の駆動制御を説明するタイミングチャートである。 飽和検知回路の各状態を説明するテーブルである。 低照度の場合の画素の第1の駆動制御を説明するタイミングチャートである。 HDR処理を説明する図である。 高照度の場合の画素の第2の駆動制御を説明するタイミングチャートである。 低照度の場合の画素の第2の駆動制御を説明するタイミングチャートである。 高照度の場合の画素の第3の駆動制御を説明するタイミングチャートである。 第3の駆動制御を実行する場合のカウンタ部の構成例を示す図である。 第3の駆動制御におけるHDR処理を説明する図である。 画素のその他の回路構成を示す図である。 画素のさらにその他の回路構成を示す図である。 本技術を適用した電子機器としての撮像装置の構成例を示すブロック図である。 イメージセンサの使用例を説明する図である。 体内情報取得システムの概略的な構成の一例を示すブロック図である 内視鏡手術システムの概略的な構成の一例を示す図である。 カメラヘッド及びCCUの機能構成の一例を示すブロック図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
以下、本技術を実施するための形態(以下、実施の形態という)について説明する。なお、説明は以下の順序で行う。
1.固体撮像素子の全体構成
2.画素と飽和検知回路の詳細構成
3.第1の駆動制御
4.第2の駆動制御
5.第3の駆動制御
6.その他の画素回路構成
7.まとめ
8.電子機器への適用例
9.体内情報取得システムへの応用例
10.内視鏡手術システムへの応用例
11.移動体への応用例
<1.固体撮像素子の全体構成>
図1は、本技術を適用した固体撮像素子の概略構成を示すブロック図である。
図1に示される固体撮像素子1は、画素アレイ部11、垂直走査回路12、DAC(Digital to Analog Converter)13、比較部14、カウンタ部15、水平走査回路16、信号処理部17、出力部18、および、タイミング制御部19を少なくとも備える。
画素アレイ部11には、複数の画素21が行方向及び列方向の行列状に2次元配置されている。行列状に配置された各画素21には、垂直走査回路12から、リセット信号RST、転送信号TRG、および選択信号SELが、各駆動配線22を介して供給される。各画素21は、フォトダイオードなどの光電変換部の光電変換により生成した画素信号VSLを、第1垂直信号線23を介して列方向に伝送し、比較部14に出力する。
比較部14には、画素アレイ部11の各画素列に対応して、コンパレータ(比較器)31と飽和検知回路32が設けられている。また、カウンタ部15には、画素アレイ部11の各画素列に対応して、カウンタ(CNT)33が設けられている。したがって、コンパレータ31、飽和検知回路32、および、カウンタ33は、画素列と同じ数だけ設けられている。
画素21の回路構成については、図2を参照して後述するが、画素21は、FD(フローティングディフュージョン)として、高感度用の高感度FD40Hと低感度用の低感度FD40L(図2)を有しており、受光により生成した電荷に応じて、低照度用の高感度と、高照度用の低感度とを切り替える。低照度用の高感度の場合は高感度用の高感度FD40Hのみが用いられ、高照度用の低感度の場合は高感度FD40Hと低感度FD40Lの両方が用いられる。高感度と低感度を切り替えるためのFD制御信号GAが、同列の飽和検知回路32から第2垂直信号線24を介して、各画素21に供給される。
リセット信号RST、転送信号TRG、または選択信号SELを伝送する各駆動配線22は、画素アレイ部11の行列状の画素配列に対して、画素行ごとに水平方向に沿って配線されている。第1垂直信号線23および第2垂直信号線24は、画素列ごとに垂直方向に沿って配線されている。
垂直走査回路12は、シフトレジスタやアドレスデコーダなどによって構成され、画素アレイ部11の各画素21を全画素同時あるいは行単位等で駆動する。
DAC13は、時間経過に応じてレベル(電圧)が階段状に変化するランプ信号Rampを生成し、比較部14内の各コンパレータ31に供給する。
比較部14の各コンパレータ31は、同列の画素21から第1垂直信号線23を介して供給される画素信号VSLの電圧を、DAC13から供給されるランプ信号Rampの電圧と比較し、その比較結果Compを、飽和検知回路32およびカウンタ33に出力する。
比較部14の各飽和検知回路32には、コンパレータ31から比較結果Compが供給される他、タイミング制御部19から、検知リセット信号DET_RSTおよび検知イネーブル信号DET_ENBが供給される。
各飽和検知回路32は、コンパレータ31からの比較結果Compに基づいて、検知イネーブル信号DET_ENBが示す検知期間中の高感度FD40Hの飽和を検知する。飽和検知回路32は、高感度FD40Hが飽和したか否かを示す飽和検知結果を、高感度と低感度を切り替えるためのFD制御信号GAとして、画素21に出力する。画素21では、高感度FD40Hが飽和したことを示すFD制御信号GAが供給された場合、高感度から低感度へと感度が切り替えられる。
カウンタ部15の各カウンタ33は、コンパレータ31の比較時間をカウントする。より具体的には、各カウンタ33は、画素信号VSLとランプ信号Rampとを比較した比較結果Compが、HiレベルからLoレベルへ、または、LoレベルからHiレベルへ変化するまでの時間をカウントする。
カウンタ33は、例えば、P相(Preset Phase)期間で、Hiレベルの比較結果Compが供給されている間だけダウンカウントするとともに、D相(Data Phase)期間で、Hiレベルの比較結果Compが供給されている間だけアップカウントする。そして、カウンタ33は、P相期間のダウンカウント値と、D相期間のアップカウント値との加算結果を、CDS(Correlated Double Sampling;相関2重サンプリング)処理およびAD変換処理後の画素データとする。
さらに、カウンタ33は、飽和検知回路32による飽和検知結果に基づいて、AD変換処理後の画素データを、HDR(High Dynamic Range)の画素データに変換するHDR処理を実行し、HDR処理後の画素データを水平走査回路16に出力する。
なお、P相期間でアップカウントし、D相期間でダウンカウントしてもよい。
コンパレータ31、飽和検知回路32、及び、カウンタ33は、画素信号のCDS処理とAD変換処理を行うAD変換部を構成する。
水平走査回路16は、シフトレジスタやアドレスデコーダなどによって構成され、カウンタ部15内の複数のカウンタ33を所定の順番で順に選択する。この水平走査回路16による選択走査により、カウンタ33で一時的に保持されている画素データ(AD変換後の画素信号)が順番に信号処理部17に出力される。
信号処理部17は、水平走査回路16から順次供給される信号に対し、所定の信号処理を行って出力部18に出力する。信号処理部17は、例えば、バファリングだけする場合もあるし、黒レベル調整、列ばらつき補正など各種のデジタル信号処理を行う場合もある。なお、各カウンタ33が実行すると説明したHDR処理を、信号処理部17が行ってもよい。
出力部18は、固体撮像素子1のHDR処理後の画素信号(HDR画像信号を)外部へ出力する。
タイミング制御部19は、各種のタイミング信号を生成するタイミングジェネレータなどによって構成され、タイミングジェネレータで生成された各種のタイミングを基に、垂直走査回路12、DAC13、カウンタ部15、及び、水平走査回路16などの駆動制御を行う。また、タイミング制御部19は、検知リセット信号DET_RSTおよび検知イネーブル信号DET_ENBを生成し、比較部14の飽和検知回路32に供給する。
以上のように構成される固体撮像素子1は、CDS処理とAD変換処理を行うAD変換部が画素列ごとに配置されたカラムAD方式と呼ばれるCMOSイメージセンサである。
固体撮像素子1は、画素アレイ部11の画素単位に自動で感度調整を行い、その結果に基づいて、HDR画像の画素データを出力することができる撮像素子である。
なお勿論、固体撮像素子1は、動作モードを変更することにより、ダイナミックレンジを拡大しない通常モードの撮像を行うこともできる。
<2.画素と飽和検知回路の詳細構成>
図2を参照して、画素21と飽和検知回路32の詳細回路について説明する。
図2には、1つの画素21と、それと同じ画素列に配置されたコンパレータ31、飽和検知回路32、および、カウンタ33が示されている。
画素21は、フォトダイオードPD、高感度FD40Hおよび低感度FD40Lの2つのFD、転送トランジスタ41、第1リセットトランジスタ42A、第2リセットトランジスタ42B、FD接続トランジスタ43、増幅トランジスタ44、並びに、選択トランジスタ45を有する。
フォトダイオードPDは、受光した光量に応じた電荷(信号電荷)を生成し、かつ、蓄積する。フォトダイオードPDは、アノード端子が接地されているとともに、カソード端子が転送トランジスタ41を介して高感度FD40Hに接続されている。
転送トランジスタ41は、転送信号TRGによりオンされたとき、フォトダイオードPDで生成された電荷を読み出し、高感度FD40Hに転送する。
高感度FD40Hおよび低感度FD40Lは、フォトダイオードPDから読み出された電荷を保持する。例えば、高感度FD40Hは、保持可能な電荷容量が低感度FD40Lのそれよりも小さく形成されることにより、低感度FD40Lよりも高感度に設定される。なお、高感度FD40Hの電荷容量は、必ずしも低感度FD40Lの電荷容量より小さい場合に限られず、例えば、同一の電荷容量でもよい。高感度FD40Hおよび低感度FD40Lは、FD接続トランジスタ43がオンされたとき、1つの電荷蓄積部を構成する。
第1リセットトランジスタ42Aおよび第2リセットトランジスタ42Bは、リセット信号RSTによりオンされたとき、高感度FD40Hおよび低感度FD40Lを、所定のリセット電圧Vrstが印加された第2リセットトランジスタ42Bのドレインと接続することで、高感度FD40Hおよび低感度FD40Lに蓄積された電荷を排出する。リセット電圧Vrstは、例えば、定電圧源VDDとされる。
FD接続トランジスタ43は、飽和検知回路32から第2垂直信号線24を介して供給されるFD制御信号GAに基づいて、高感度FD40Hと低感度FD40Lとの接続を制御(オンオフ)する。
増幅トランジスタ44は、高感度FD40Hおよび低感度FD40Lの電位に応じた画素信号を出力する。すなわち、増幅トランジスタ44は、第1垂直信号線23を介して接続されている定電流源としての負荷MOS(不図示)とソースフォロワ回路を構成し、高感度FD40Hおよび低感度FD40Lに蓄積されている電荷に応じたレベルを示す画素信号VSLが、増幅トランジスタ44から選択トランジスタ45を介して比較部14のコンパレータ31に出力される。
選択トランジスタ45は、選択信号SELにより画素21が選択されたときオンされ、画素21の画素信号VSLを、第1垂直信号線23を介してコンパレータ31に出力する。転送信号TRG、選択信号SEL、及びリセット信号RSTが伝送される各信号線は、図1の各駆動配線22に対応する。
飽和検知回路32は、1つのAND回路51と、フリップフロップ回路を構成する2つのNOR回路52および53とで構成される。
AND回路51には、コンパレータ31の出力である比較結果Compと、タイミング制御部19からの検知イネーブル信号DET_ENBが、入力される。AND回路51は、比較結果Compと検知イネーブル信号DET_ENBのAND(論理積)演算を行い、その演算結果を、NOR回路52に供給する。AND回路51の出力信号をSIG_Aとする。
NOR回路52には、AND回路51の出力である、比較結果Compと検知イネーブル信号DET_ENBのAND信号と、NOR回路53の出力が、入力される。NOR回路52は、比較結果Compと検知イネーブル信号DET_ENBのAND信号と、NOR回路53の出力のNOR(否定論理和)演算を行い、その演算結果を、NOR回路53に供給する。NOR回路52の出力信号をSIG_Bとする。
NOR回路53には、NOR回路52の出力と、タイミング制御部19からの検知リセット信号DET_RSTが、入力される。NOR回路53は、NOR回路52の出力と検知リセット信号DET_RSTのNOR(否定論理和)演算を行い、その演算結果を、NOR回路52に供給するとともに、FD制御信号GAとして、画素21のFD接続トランジスタ43に供給する。NOR回路53の出力は、NOR回路52の入力としてフィードバックされるとともに、飽和検知信号として、カウンタ部15内の同一列のカウンタ33にも供給される。
カウンタ33は、飽和検知信号に基づいてAD変換処理後の画素データをゲイン比に応じた補正を行うことで、HDR処理後の画素データを生成して、水平走査回路16に出力する。
即ち、カウンタ33は、コンパレータ31からの比較結果Compに基づいて、所定のビット数(例えば、10ビット)でカウントし、アナログの画素信号をデジタルの画素データにAD変換する。ここで、飽和検知信号が飽和したことを示している場合、カウンタ33は、AD変換された画素データを、低照度と高照度のゲイン比で補正し、補正後の画素データを出力する。より具体的には、カウンタ33は、AD変換処理後の画素データを、(高感度FD40Hおよび低感度FD40Lの合計容量値)/(高感度FD40Hの容量値)の比で乗算した後の結果を、画素データとして出力する。一方、飽和検知信号が飽和していないことを示している場合には、カウンタ33は、AD変換処理後の画素データをそのまま水平走査回路16に出力する。
次に、図3のポテンシャル図を参照しながら、高照度の場合と低照度の場合の、画素21の動作について説明する。
図3のAは、高照度の場合の画素21の動作を示している。
所定の露光期間が終了し、フォトダイオードPDに蓄積された電荷をFDに転送する前に、高感度FD40Hおよび低感度FD40Lをリセットするリセット動作が実行される。
すなわち、図3のAに示されるように、第1リセットトランジスタ42Aおよび第2リセットトランジスタ42BのゲートにHiレベルのリセット信号RSTが供給され、高感度FD40Hおよび低感度FD40Lがリセット電圧Vrstにリセットされる。
第1リセットトランジスタ42Aおよび第2リセットトランジスタ42Bがオフに戻され、リセット動作が終了すると、フォトダイオードPDに蓄積された電荷をFDに転送する電荷転送動作が開始される。
電荷転送動作では、フォトダイオードPDに蓄積された電荷が、初めに、高感度FD40Hに転送される。そして、転送される電荷の量が所定のオーバーフローレベル(飽和レベル)を超えた場合、飽和検知回路32が、それを検知し、HiレベルのFD制御信号GAをFD接続トランジスタ43に供給することにより、FD接続トランジスタ43をオンさせる。これにより、図3のAの右側に示されるように、高感度FD40Hと低感度FD40Lが接続され、画素21の感度が、低照度用の高感度から、高照度用の低感度へ切替えられる。
これに対して、低照度の場合、図3のBに示されるように、フォトダイオードPDから転送された電荷の量がオーバーフローレベルを超えないので、FD接続トランジスタ43はオンされず、転送された電荷は高感度FD40Hのみに蓄積され、高感度が維持される。
上述した画素21の動作において、高感度と低感度を切り替えるオーバーフローレベルは、ランプ信号Rampの電圧によって決定される。したがって、ランプ信号Rampの電圧を調整(変更)することにより、オーバーフローレベルは任意のレベルに設定することができる。
<3.第1の駆動制御>
<高照度の場合の画素動作>
次に、図3を参照して説明した画素動作を行う第1の駆動制御について説明する。
初めに、図4および図5を参照して、高照度の場合の画素21の動作を説明する。
図4は、高照度の場合の画素21の動作を示すタイミングチャートを示している。図5は、コンパレータ31および飽和検知回路32の入出力信号を示すテーブルである。
図4には、画素信号VSLおよびランプ信号Rampと、検知リセット信号DET_RST、検知イネーブル信号DET_ENB、比較結果Comp、FD制御信号GA、リセット信号RST、転送信号TRG、及び、選択信号SELが示されている。
図4において、画素信号VSLおよびランプ信号Rampは、図中、下方向にレベルが下がるほど高電圧である。図5において、検知イネーブル信号DET_ENB、比較結果Comp、FD制御信号GA、リセット信号RST、転送信号TRG、及び、選択信号SELのHiレベルは“1”で、Loレベルは“0”で表されている。
最初の時刻t1から画素21の選択期間(1H)が終了するまで、画素21の選択トランジスタ45には、Hiレベルの選択信号SELが供給され、選択トランジスタ45がオンされる。
時刻t1から時刻t2までの期間は、飽和検知回路32をリセットする検知リセット期間である。検知リセット期間では、検知リセット信号DET_RSTがHiレベルに設定され、それ以前の飽和検知結果(飽和履歴)を示すFD制御信号GAがリセットされる。
図5のテーブルにおける状態ST_Aが、検知リセット信号DET_RSTがHiレベルに設定された直後の状態を示している。
検知リセット信号DET_RSTがHiレベル(“1”)に設定された場合、NOR回路53の出力であるFD制御信号GAはLoレベル(“0”)となるので、飽和検知結果(飽和履歴)がリセットされる。
また、検知リセット期間中の所定のタイミングで、画素21へ供給されるリセット信号RSTがHiレベルに設定され、図3を参照して説明したように、第1リセットトランジスタ42Aおよび第2リセットトランジスタ42Bがオンされて、高感度FD40Hおよび低感度FD40Lがリセット電圧Vrstにリセットされる。
時刻t2から時刻t3までの期間は、CDS処理のリセットレベルを検出するP相期間である。P相期間では、画素信号VSLとランプ信号Rampの電圧が比較され、画素信号VSLとランプ信号Rampの電圧が一致したタイミングが検出されて、リセットレベルが検出される。
次に、時刻t3から時刻t9までの期間は、フォトダイオードPDに蓄積された電荷をFDに転送する電荷転送期間である。
この電荷転送期間のうち、時刻t3から所定時間経過した時刻t4から時刻t8までの前半部分の期間において、検知イネーブル信号DET_ENBがHiレベル(“1”)に設定され、転送電荷のオーバーフローレベルの超過、換言すれば、低照度用の高感度から高照度用の低感度へ画素21の感度の切替えを検知する検知期間が設定される。なお、時刻t3から時刻t4になるまでの間に、時刻t1にHiレベルに設定された検知リセット信号DET_RSTはLoレベルに戻される。
電荷転送期間において、DAC13からコンパレータ31に供給されるランプ信号Rampの電圧は、図3で説明したオーバーフローレベル(飽和レベル)に対応する電圧VOFLに設定される。
検知期間が開始された時刻t4より後の時刻t5において、Hiレベルの転送信号TRGが転送トランジスタ41に供給されることにより転送トランジスタ41がオンされ、画素信号VSLが、初期値V0から徐々に上昇していく。
そして、時刻t6において、電荷の転送に応じて変化する画素信号VSLの電圧が、オーバーフローレベルに対応する電圧VOFLよりも高くなり、比較結果CompがHiレベル(“1”)に変更される。
図5のテーブルにおける状態ST_Dが、比較結果CompがHiレベルに変更された直後の状態を示している。
比較結果CompがHiレベル(“1”)に設定された場合、検知イネーブル信号DET_ENBもHiレベルであるので、AND回路51の出力信号SIG_AはHiレベル(“1”)となり、時刻t7において、NOR回路53の出力であるFD制御信号GAがHiレベル(“1”)となる。FD制御信号GAがHiレベル(“1”)となることにより、図3を参照して説明したように、画素21のFD接続トランジスタ43がオンし、高感度FD40Hと低感度FD40Lが接続される。すなわち、画素21の感度が、低照度用の高感度から、高照度用の低感度へ切替えられる。
画素21の感度が高感度から低感度へ切替えられると、画素信号VSLの電圧は、ランプ信号Rampの電圧VOFLよりも再び低くなり、電荷の量に応じた所定の電圧V1で安定する。画素21の感度が高感度から低感度へ切替えられてから、画素信号VSLの電圧が、電荷の量に応じた所定の電圧V1で安定するまで、ある程度の時間が必要である。この感度変更後の電圧が安定するための時間を電荷転送期間内で確保するために、検知期間は、電荷転送期間のうちの前半部分の所定期間に設定される。
図5のテーブルにおける状態ST_Cが、画素信号VSLの電圧がランプ信号Rampの電圧VOFLよりも再び低くなり、比較結果CompがLoレベルに変更された直後の状態を示している。この場合、NOR回路53の出力であるFD制御信号GAは、その前の状態が保持されるから、Hiレベル(“1”)が維持される。すなわち、飽和検知回路32は、検知期間において、画素信号VSLの電圧がランプ信号Rampの電圧VOFLと一致したことをラッチ記憶する。
時刻t8において、検知イネーブル信号DET_ENBがLoレベル(“0”)に設定され、検知期間が終了する。
図5のテーブルにおける状態ST_Bが、検知イネーブル信号DET_ENBがLoレベルに変更された直後の状態を示している。この場合、NOR回路53の出力であるFD制御信号GAは、その前の状態が保持されるので、Hiレベル(“1”)が維持される。
CDS処理の信号レベルを検出するD相期間が開始する時刻t9に合わせて、ランプ信号Rampが、再び、初期値V0に制御される。D相期間では、画素信号VSLの電圧がランプ信号Rampの電圧と一致し、比較結果CompがLoレベル(“0”)に変化する時刻t10までの時間が、カウンタ33でカウントされる。
<低照度の場合の画素動作>
次に、図6を参照して、低照度の場合の画素21の動作を説明する。
図6は、低照度の場合の画素21の動作を示すタイミングチャートを示している。
低照度の場合、検知期間において、電荷の転送に応じて変化する画素信号VSLの電圧が、オーバーフローレベルに対応する電圧VOFLよりも高くならないため、FD制御信号GAは、画素21の選択期間中、Hiレベル(“1”)にはならない。したがって、図3を参照して説明したように、FD接続トランジスタ43はオンされず、高感度が維持され、転送された電荷は高感度FD40Hのみに蓄積される。
そして、D相期間において、高感度FD40Hに蓄積された電荷に対応する画素信号VSLの電圧とランプ信号Rampの電圧が比較され、比較結果CompがLoレベル(“0”)に変化する時刻t18までの時間が、カウンタ33でカウントされる。
<HDR処理>
図7は、カウンタ33で実行されるHDR処理を説明する図である。
カウンタ33は、高感度FD40Hのみを用いた低照度用の高感度(高ゲイン)の場合も、高感度FD40Hと低感度FD40Lの両方を用いた高照度用の低感度(低ゲイン)の場合も、同じADレンジでAD変換される。
図7上段は、画素が受光する照度と、固定ADレンジ内のAD変換後の画素データとの対応を示すグラフである。
グラフの横軸で示される画素照度が、ゼロからBR1までの範囲では、高感度FD40Hのみが用いられ、BR1からBR2までの範囲では、高感度FD40Hと低感度FD40Lの両方が用いられる。換言すれば、BR1に相当する画素照度が、高感度(高ゲイン)から低感度(低ゲイン)へ切り替わるオーバーフローレベルに相当する照度(受光量)となる。
カウンタ33が実行するHDR処理では、図7下段に示されるように、高感度FD40Hのみを用いた場合には、AD変換処理後の画素データ(AD変換値)をそのまま出力するが、高感度FD40Hと低感度FD40Lの両方を用いた場合には、AD変換処理後の画素データを、(高感度FD40Hおよび低感度FD40Lの合計容量値)/(高感度FD40Hの容量値)のゲイン比で補正し、補正後の画素データを出力する。
以上の第1の駆動制御によれば、画素21が高感度FD40Hと低感度FD40Lを備え、電荷転送期間の前半に設定した検知期間において、高感度FD40Hが飽和したか(オーバーフローレベルを超過したか)が判定される。そして、高感度FD40Hが飽和したと判定された場合、高感度FD40Hと低感度FD40Lが接続され、画素21の感度が、低照度用の高感度から、高照度用の低感度へ切替えられる。一方、高感度FD40Hが飽和しない場合、高感度が維持される。
そして、カウンタ部15のカウンタ33が、飽和検知結果(飽和検知信号)に基づいて、HDR処理を実行し、ダイナミックレンジを拡大したHDR画像の画素データに変換して、出力する。
したがって、固体撮像素子1の第1の駆動制御によれば、画素アレイ部11の画素単位に自動で感度調整を行い、その結果に基づいて、HDR画像の画素データを出力することができる。すなわち、より簡単に、HDR画像を生成することができる。
<4.第2の駆動制御>
次に、固体撮像素子1の第2の駆動制御について説明する。
なお、以下の第2の駆動制御の説明では、上述した第1の駆動制御と異なる部分に着目して説明する。
図8は、第2の駆動制御における高照度の場合の画素21の動作を示すタイミングチャートを示している。
図8は、第1の駆動制御における図4のタイミングチャートと対応し、図4の時刻t1乃至t10が、図8の時刻t21乃至t30に対応する。
図9は、第2の駆動制御における低照度の場合の画素21の動作を示すタイミングチャートを示している。
図9は、第1の駆動制御における図6のタイミングチャートと対応し、図6の時刻t11乃至t18が、図9の時刻t41乃至t48に対応する。
図4および図6を参照して説明した第1の駆動制御では、P相期間およびD相期間のいずれにおいても、ランプ信号Rampが、時間経過に応じて、初期値V0から電圧VOFLに近づくように下り傾斜の電圧信号となっていた。そのため、DAC13は、D相期間が開始する時刻t9および時刻t17に合わせて、ランプ信号Rampを、再び初期値V0に大きく変更する制御を行う必要があった。
これに対して、図8および図9の第2の駆動制御では、D相期間のランプ信号Rampが、時間経過に応じて、電圧VOFLに近い電圧VBLから初期値V0に近づくように上り傾斜の電圧信号となっている点が異なる。D相期間が開始する時刻t29およびt47の直前に、電圧VOFLよりも所定電圧高い電圧VBLに設定しているのは、D相期間において、画素信号VSLとランプ信号Rampの電圧の一致を確実に検出するためである。
第1の駆動制御では、カウンタ33は、比較結果CompがHiレベルからLoレベルへ変化するまでの比較時間をカウントしたが、第2の駆動制御では、比較結果CompがLoレベルからHiレベルへ変化するまでの比較時間をカウントする。
第2の駆動制御のその他の駆動は、上述した第1の駆動制御と同様である。
このように第2の駆動制御では、D相期間のカウントを行う際のランプ信号Rampを、電圧VOFLに近い電圧VBLから初期値V0に近づくように上り傾斜の電圧信号とすることにより、D相期間の直前に、ランプ信号Rampの電圧を、電圧VOFLから初期値V0に大きく変更する必要がないので、制御を簡単にすることができ、駆動時間を短縮することができる。
なお、第2の駆動制御において、P相期間中のランプ信号Rampについても、D相期間のランプ信号Rampと同様に上り傾斜の電圧信号としてもよい。
<5.第3の駆動制御>
次に、固体撮像素子1の第3の駆動制御について説明する。
なお、以下の第3の駆動制御の説明では、上述した第2の駆動制御と異なる部分に着目して説明する。
図10は、第3の駆動制御における高照度の場合の画素21の動作を示すタイミングチャートを示している。図10は、第2の駆動制御における図8のタイミングチャートと対応する。
高照度の場合の第3の駆動制御は、図9で示した第2の駆動制御と同じであるので、説明は省略する。
低照度の場合の第3の駆動制御では、低照度用の高感度から高照度用の低感度へ画素21の感度の切替えを検知する検知期間が、電荷転送期間の前半と、D相期間の前半の2つの期間に設定されている。すなわち、電荷転送期間の前半に設定される検知期間を第1検知期間とし、D相期間の前半に設定される検知期間を第2検知期間とすると、第1検知期間は、第2の駆動制御と同じであり、第3の駆動制御では、第2検知期間が新たに設けられている。
固体撮像素子1は、第1検知期間において、高照度の場合におけるオーバーフローを検知するのに対して、第2検知期間において、高照度と低照度の中間の中照度の場合におけるオーバーフローを検知する。
図10のタイミングチャートの時刻t61乃至t66における動作は、図9のタイミングチャートの時刻t41乃至t46における動作と同様であるので、説明は省略する。
時刻t67の直前に、ランプ信号Rampの電圧が、電圧VOFLよりも所定電圧高い電圧VBLに設定された後、タイミング制御部19は、検知イネーブル信号DET_ENBを再びHiレベル(“1”)に変更(設定)し、第2検知期間を開始する。
そして、第2検知期間中の時刻t68において、画素信号VSLの電圧がランプ信号Rampの電圧と一致すると、比較結果CompがHiレベル(“1”)に変更される。
すると、時刻t69において、NOR回路53の出力であるFD制御信号GAがHiレベル(“1”)となる。FD制御信号GAがHiレベル(“1”)となることにより、画素21のFD接続トランジスタ43がオンし、高感度FD40Hと低感度FD40Lが接続される。すなわち、画素21の感度が、低照度用の高感度から、高照度用の低感度へ切替えられる。これにより、比較結果Compが再びLoレベルに変更される。
時刻t70において、タイミング制御部19は、検知イネーブル信号DET_ENBをLoレベル(“0”)に変更(設定)する。これにより、第2検知期間が終了する。
そして、第2検知期間以降の時刻t71において、画素信号VSLの電圧がランプ信号Rampの電圧と再び一致し、比較結果CompがHiレベル(“1”)に変更される。
この第3の駆動制御では、画素21の照度が中照度である場合、上述したように、画素信号VSLとランプ信号Rampとの電圧の一致が、2回検出される。そのため、カウンタ部15には、例えば、図11に示されるように、同一画素列の1個のコンパレータ31に対して、2つのカウンタ33Aおよび33Bが必要となる。
図11は、第3の駆動制御を実行する場合のカウンタ部15の構成例を示す図である。
なお、図11において、同一画素列のコンパレータ31及び飽和検知回路32の構成は、図2で示した構成と同じである。
図11のカウンタ部15では、同一画素列の1個のコンパレータ31に対して2つのカウンタ33Aおよび33Bが設けられており、カウンタ33Aとコンパレータ31との間には、スイッチ回路71が設けられている。
カウンタ33Aおよび33Bそれぞれは同一であり、P相期間では、Hiレベルの比較結果Compが供給されている間だけダウンカウントし、D相期間では、Loレベルの比較結果Compが供給されている間だけアップカウントする。
カウンタ33Aは、アップカウントを開始してから、第2検知期間中に画素信号VSLとランプ信号Rampの電圧が一致するまで、アップカウントを実行する。スイッチ回路71は、飽和検知信号に基づいて、画素信号VSLとランプ信号Rampの電圧が一致したことが検出されると、接続をオフする。
カウンタ33Bは、アップカウントを開始してから、第2検知期間終了後に、画素信号VSLとランプ信号Rampの電圧が一致するまで、アップカウントを実行する。
換言すれば、カウンタ33Aは、低照度用の高感度FD40Hのみを用いた場合のカウント値を演算し、カウンタ33Bは、高照度用の高感度FD40Hと低感度FD40Lを用いた場合のカウント値を演算する。
以上のように、第3の駆動制御では、画素21の照度(受光量)を、低照度、中照度、高照度の3段階に分け、固体撮像素子1は、画素照度が中照度である場合には、D相期間の第2検知期間と、その後の期間の合計2回、画素信号VSLとランプ信号Rampとの電圧の一致を検出する。画素照度が高照度である場合には、画素信号VSLとランプ信号Rampとの電圧の一致が、電荷転送期間の第1検知期間のみで検出され、画素照度が低照度である場合には、第2検知期間より後の残りのD相期間のみで検出される。
なお、第3の駆動制御を実行する場合の固体撮像素子1の構成はこれに限定されない。例えば、カウンタ33が同一画素列に対して1つのみで、1つのカウンタ33で低照度と高照度の両方のカウントを行う構成を採用してもよい。あるいはまた、2つのカウンタ33Aおよび33Bそれぞれに対して、コンパレータ31と飽和検知回路32を並列に備える構成を採用してもよい。
<HDR処理>
図12は、第3の駆動制御におけるHDR処理を説明する図である。
図12の上段のグラフに示されるように、ゼロからBRcまでの画素21が受光可能な照度のうち、ゼロからBraまでの低照度では、高感度FD40Hのみを用いて照度が検出され、BRaからBRbまでの中照度では、高感度FD40Hのみを用いた状態と、高感度FD40Hおよび低感度FD40Lの両方を用いた状態のそれぞれで、照度が検出される。BRbからBRcまでの高照度では、高感度FD40Hおよび低感度FD40Lを用いた状態のみで、照度が検出される。
BRaからBRbまでの中照度では、2回の検出結果が得られるので、それらの結果が、3:7や5:5などの所定の合成比で合成され、HDR画像の画素データとして出力される。
即ち、カウンタ33は、ゼロからBRcまでの低照度では、AD変換処理後の画素データをそのまま出力し、BRaからBRbまでの中照度では、AD変換処理後の画素データと、ゲイン比で補正した補正後の画素データを合成した合成後の画素データを出力し、BRbからBRcまでの高照度では、AD変換処理後の画素データをゲイン比で補正した補正後の画素データを出力する。
図7を参照して説明した、低照度と高照度の2段階に分けてHDR画像の画素データを生成する方法では、低照度と高照度の境界で検出方法が突然切り替わるため、両者の境界付近の画素データに段差が発生することが懸念される。
第3の駆動制御のように、低照度と高照度の中間的な中照度については、低照度用の高感度FD40Hのみを用いた場合と、高照度用の高感度FD40Hおよび低感度FD40Lを用いた場合の両方で検出することで、段差を考慮した画素データを生成することが可能となる。
<6.その他の画素回路構成>
画素21の回路構成は、図2を参照して説明した構成に限定されず、その他の構成も採用することができる。
図13は、画素21のその他の回路構成を示している。
図12において、図2と対応する部分については同一の符号を付してあり、その部分についての説明は省略する。
図2の画素回路と図13の画素回路は、高感度FD40Hと低感度FD40Lの間にFD接続トランジスタ43が配置され、高感度FD40Hが転送トランジスタ41と増幅トランジスタ44の間に配置される点で共通する。
一方、図2の画素回路では、高感度FD40Hが、第1リセットトランジスタ42Aおよび第2リセットトランジスタ42Bを介して、所定のリセット電圧Vrstに接続されているのに対して、図13の画素回路では、高感度FD40Hは、第2リセットトランジスタ42Bのみを介して、所定のリセット電圧Vrstに接続されている。第1リセットトランジスタ42Aは、高感度FD40Hと低感度FD40Lとの間に接続され、低感度FD40Lがグランドに接続されている。
図14は、画素21のさらにその他の回路構成であり、高感度FD40Hおよび低感度FD40Lの2つのFD、第1リセットトランジスタ42A、第2リセットトランジスタ42B、FD接続トランジスタ43、増幅トランジスタ44、並びに、選択トランジスタ45を複数画素で共有する共有画素構造を採用した回路構成を示している。
共有画素構造を採用した場合、図14に示されるように、フォトダイオードPDと転送トランジスタ41のみが画素21ごとに配置され、その他の高感度FD40Hおよび低感度FD40Lの2つのFD、第1リセットトランジスタ42A、第2リセットトランジスタ42B、FD接続トランジスタ43、増幅トランジスタ44、並びに、選択トランジスタ45が、共有単位であるn個の画素21に対してそれぞれ1つずつ設けられる。複数画素で共通に利用される2つのFD、第1リセットトランジスタ42A、第2リセットトランジスタ42B、FD接続トランジスタ43、増幅トランジスタ44、並びに、選択トランジスタ45は、例えば、共有単位の複数画素のいずれかの領域や中間の領域に配置される。
なお、図14は、図2の回路構成を共有画素構造に変更した構成であるが、図13の回路構成についても同様に共有画素構造に変更可能である。
共有画素構造を採用した固体撮像素子1では、FD共有して使用される2以上の画素21のフォトダイオードPDに蓄積された電荷を同時にFDに転送すると、FDを用いて複数画素の画素信号を加算するFD加算を行うことができるが、オーバーフローレベルへ到達する確率は高くなる。
したがって、固体撮像素子1では、複数画素の画素信号をFDを用いて加算するFD加算モードや1画素単位で画素信号を出力する単独画素モードなどの各種の動作モードや、シャッタスピード等の撮像時の設定値等に応じて、オーバーフローレベル(電圧VOFL)は、適切に変更される。
<7.まとめ>
以上説明した固体撮像素子1は、フォトダイオードPDで生成された電荷を保持する高感度FD40H(第1の電荷保持部)および低感度FD40L(第2の電荷保持部)の2つのFDと、高感度FD40Hと低感度FD40Lとの接続を制御(オンオフ)するFD接続トランジスタ43と、画素21から出力された画素信号VSLの電圧が、時間経過に応じてレベルが変化するランプ信号Rampの電圧と一致したとき、高感度FD40Hと低感度FD40Lを接続させる制御を行う制御回路としての飽和検知回路32とを備える。
電荷転送期間では、フォトダイオードPDに蓄積された電荷が、初めに高感度FD40Hへ転送される。そして、画素信号VSLの電圧が高感度FD40Hのオーバーフローレベルに対応する電圧VOFLに設定されたランプ信号Rampの電圧と一致し、高感度FD40Hの飽和が検知されたとき、高感度FD40Hと低感度FD40Lとの接続がオンされ、フォトダイオードPDで生成された電荷が高感度FD40Hと低感度FD40Lの両方に蓄積される。
すなわち、画素信号VSLの電圧とランプ信号Rampの電圧の一致が検出されるまでは、高感度FD40Hで電荷が保持され、一致が検出された後は、高感度FD40Hと低感度FD40Lの両方で電荷が保持される。
従って、固体撮像素子1によれば、受光量に応じて画素ごとに自動で感度調整を行って、HDR画像の画素データを出力することができる。すなわち、より簡単に、HDR画像を生成することができる。
HDR画像を生成する手法として一般的な、撮像タイミングの異なる複数枚の画像を合成する手法や、画素の感度を画素アレイ部内で異ならせて受光する手法などと比較して、1回の撮像でHDR画像を生成することができるため、フレームレートが低くなることはなく、消費電力も抑えられる。また、1回の撮像でHDR画像を生成することができるので、動きのある被写体に対しても影響が少なく、動体検知や空間フィルタなどの後処理も不要である。
<8.電子機器への適用例>
本技術は、固体撮像素子への適用に限られるものではない。即ち、本技術は、デジタルスチルカメラやビデオカメラ等の撮像装置や、撮像機能を有する携帯端末装置や、画像読取部に固体撮像素子を用いる複写機など、画像取込部(光電変換部)に固体撮像素子を用いる電子機器全般に対して適用可能である。固体撮像素子は、ワンチップとして形成された形態であってもよいし、撮像部と信号処理部または光学系とがまとめてパッケージングされた撮像機能を有するモジュール状の形態であってもよい。
図15は、本技術を適用した電子機器としての、撮像装置の構成例を示すブロック図である。
図15の撮像装置100は、レンズ群などからなる光学部101、図1の固体撮像素子1の構成が採用される固体撮像素子(撮像デバイス)102、およびカメラ信号処理回路であるDSP(Digital Signal Processor)回路103を備える。また、撮像装置100は、フレームメモリ104、表示部105、記録部106、操作部107、および電源部108も備える。DSP回路103、フレームメモリ104、表示部105、記録部106、操作部107および電源部108は、バスライン109を介して相互に接続されている。
光学部101は、被写体からの入射光(像光)を取り込んで固体撮像素子102の撮像面上に結像する。固体撮像素子102は、光学部101によって撮像面上に結像された入射光の光量を画素単位で電気信号に変換して画素信号として出力する。この固体撮像素子102として、図1の固体撮像素子1、即ち、高感度FD40Hおよび低感度FD40Lの2つのFDを備え、受光量に応じて高感度FD40Hと低感度FD40Lを接続して感度を自動で切替えることで、ダイナミックレンジを拡大したHDR画像を出力する固体撮像素子を用いることができる。
表示部105は、例えば、液晶パネルや有機EL(Electro Luminescence)パネル等のパネル型表示装置からなり、固体撮像素子102で撮像された動画または静止画を表示する。記録部106は、固体撮像素子102で撮像された動画または静止画を、ハードディスクや半導体メモリ等の記録媒体に記録する。
操作部107は、ユーザによる操作の下に、撮像装置100が持つ様々な機能について操作指令を発する。電源部108は、DSP回路103、フレームメモリ104、表示部105、記録部106および操作部107の動作電源となる各種の電源を、これら供給対象に対して適宜供給する。
以上のように、固体撮像素子102として、上述した固体撮像素子1を用いることで、ダイナミックレンジを拡大したHDR画像を簡単に生成することができる。従って、ビデオカメラやデジタルスチルカメラ、さらには携帯電話機等のモバイル機器向けカメラモジュールなどの撮像装置100においても、撮像画像の高画質化を図ることができる。
<イメージセンサの使用例>
図16は、上述の固体撮像素子1をイメージセンサとして使用する場合の使用例を示す図である。
イメージセンサは、例えば、以下のように、可視光や、赤外光、紫外光、X線等の光をセンシングする様々なケースに使用することができる。
・ディジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
<9.体内情報取得システムへの応用例>
本開示に係る技術(本技術)は、上述したように様々な製品へ応用することができる。例えば、本開示に係る技術は、カプセル型内視鏡を用いた患者の体内情報取得システムに適用されてもよい。
図17は、本開示に係る技術が適用され得る、カプセル型内視鏡を用いた患者の体内情報取得システムの概略的な構成の一例を示すブロック図である。
体内情報取得システム10001は、カプセル型内視鏡10100と、外部制御装置10200とから構成される。
カプセル型内視鏡10100は、検査時に、患者によって飲み込まれる。カプセル型内視鏡10100は、撮像機能及び無線通信機能を有し、患者から自然排出されるまでの間、胃や腸等の臓器の内部を蠕動運動等によって移動しつつ、当該臓器の内部の画像(以下、体内画像ともいう)を所定の間隔で順次撮像し、その体内画像についての情報を体外の外部制御装置10200に順次無線送信する。
外部制御装置10200は、体内情報取得システム10001の動作を統括的に制御する。また、外部制御装置10200は、カプセル型内視鏡10100から送信されてくる体内画像についての情報を受信し、受信した体内画像についての情報に基づいて、表示装置(図示せず)に当該体内画像を表示するための画像データを生成する。
体内情報取得システム10001では、このようにして、カプセル型内視鏡10100が飲み込まれてから排出されるまでの間、患者の体内の様子を撮像した体内画像を随時得ることができる。
カプセル型内視鏡10100と外部制御装置10200の構成及び機能についてより詳細に説明する。
カプセル型内視鏡10100は、カプセル型の筐体10101を有し、その筐体10101内には、光源部10111、撮像部10112、画像処理部10113、無線通信部10114、給電部10115、電源部10116、及び制御部10117が収納されている。
光源部10111は、例えばLED(Light Emitting Diode)等の光源から構成され、撮像部10112の撮像視野に対して光を照射する。
撮像部10112は、撮像素子、及び当該撮像素子の前段に設けられる複数のレンズからなる光学系から構成される。観察対象である体組織に照射された光の反射光(以下、観察光という)は、当該光学系によって集光され、当該撮像素子に入射する。撮像部10112では、撮像素子において、そこに入射した観察光が光電変換され、その観察光に対応する画像信号が生成される。撮像部10112によって生成された画像信号は、画像処理部10113に提供される。
画像処理部10113は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等のプロセッサによって構成され、撮像部10112によって生成された画像信号に対して各種の信号処理を行う。画像処理部10113は、信号処理を施した画像信号を、RAWデータとして無線通信部10114に提供する。
無線通信部10114は、画像処理部10113によって信号処理が施された画像信号に対して変調処理等の所定の処理を行い、その画像信号を、アンテナ10114Aを介して外部制御装置10200に送信する。また、無線通信部10114は、外部制御装置10200から、カプセル型内視鏡10100の駆動制御に関する制御信号を、アンテナ10114Aを介して受信する。無線通信部10114は、外部制御装置10200から受信した制御信号を制御部10117に提供する。
給電部10115は、受電用のアンテナコイル、当該アンテナコイルに発生した電流から電力を再生する電力再生回路、及び昇圧回路等から構成される。給電部10115では、いわゆる非接触充電の原理を用いて電力が生成される。
電源部10116は、二次電池によって構成され、給電部10115によって生成された電力を蓄電する。図17では、図面が煩雑になることを避けるために、電源部10116からの電力の供給先を示す矢印等の図示を省略しているが、電源部10116に蓄電された電力は、光源部10111、撮像部10112、画像処理部10113、無線通信部10114、及び制御部10117に供給され、これらの駆動に用いられ得る。
制御部10117は、CPU等のプロセッサによって構成され、光源部10111、撮像部10112、画像処理部10113、無線通信部10114、及び、給電部10115の駆動を、外部制御装置10200から送信される制御信号に従って適宜制御する。
外部制御装置10200は、CPU,GPU等のプロセッサ、又はプロセッサとメモリ等の記憶素子が混載されたマイクロコンピュータ若しくは制御基板等で構成される。外部制御装置10200は、カプセル型内視鏡10100の制御部10117に対して制御信号を、アンテナ10200Aを介して送信することにより、カプセル型内視鏡10100の動作を制御する。カプセル型内視鏡10100では、例えば、外部制御装置10200からの制御信号により、光源部10111における観察対象に対する光の照射条件が変更され得る。また、外部制御装置10200からの制御信号により、撮像条件(例えば、撮像部10112におけるフレームレート、露出値等)が変更され得る。また、外部制御装置10200からの制御信号により、画像処理部10113における処理の内容や、無線通信部10114が画像信号を送信する条件(例えば、送信間隔、送信画像数等)が変更されてもよい。
また、外部制御装置10200は、カプセル型内視鏡10100から送信される画像信号に対して、各種の画像処理を施し、撮像された体内画像を表示装置に表示するための画像データを生成する。当該画像処理としては、例えば現像処理(デモザイク処理)、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/若しくは手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の信号処理を行うことができる。外部制御装置10200は、表示装置の駆動を制御して、生成した画像データに基づいて撮像された体内画像を表示させる。あるいは、外部制御装置10200は、生成した画像データを記録装置(図示せず)に記録させたり、印刷装置(図示せず)に印刷出力させてもよい。
以上、本開示に係る技術が適用され得る体内情報取得システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部10112に適用され得る。具体的には、撮像部10112として、上述した固体撮像素子1を適用することができる。撮像部10112に本開示に係る技術を適用することにより、カプセル型内視鏡10100をより小型化できるため、患者の負担を更に軽減することができる。また、カプセル型内視鏡10100を小型化しつつも、ダイナミックレンジを拡大した鮮明な術部画像を得ることができるため、検査の精度が向上する。
<10.内視鏡手術システムへの応用例>
本開示に係る技術は、例えば、内視鏡手術システムに適用されてもよい。
図18は、本開示に係る技術が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。
図18では、術者(医師)11131が、内視鏡手術システム11000を用いて、患者ベッド11133上の患者11132に手術を行っている様子が図示されている。図示するように、内視鏡手術システム11000は、内視鏡11100と、気腹チューブ11111やエネルギー処置具11112等の、その他の術具11110と、内視鏡11100を支持する支持アーム装置11120と、内視鏡下手術のための各種の装置が搭載されたカート11200と、から構成される。
内視鏡11100は、先端から所定の長さの領域が患者11132の体腔内に挿入される鏡筒11101と、鏡筒11101の基端に接続されるカメラヘッド11102と、から構成される。図示する例では、硬性の鏡筒11101を有するいわゆる硬性鏡として構成される内視鏡11100を図示しているが、内視鏡11100は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。
鏡筒11101の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡11100には光源装置11203が接続されており、当該光源装置11203によって生成された光が、鏡筒11101の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者11132の体腔内の観察対象に向かって照射される。なお、内視鏡11100は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド11102の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU: Camera Control Unit)11201に送信される。
CCU11201は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡11100及び表示装置11202の動作を統括的に制御する。さらに、CCU11201は、カメラヘッド11102から画像信号を受け取り、その画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。
表示装置11202は、CCU11201からの制御により、当該CCU11201によって画像処理が施された画像信号に基づく画像を表示する。
光源装置11203は、例えばLED(Light Emitting Diode)等の光源から構成され、術部等を撮影する際の照射光を内視鏡11100に供給する。
入力装置11204は、内視鏡手術システム11000に対する入力インタフェースである。ユーザは、入力装置11204を介して、内視鏡手術システム11000に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、内視鏡11100による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示等を入力する。
処置具制御装置11205は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具11112の駆動を制御する。気腹装置11206は、内視鏡11100による視野の確保及び術者の作業空間の確保の目的で、患者11132の体腔を膨らめるために、気腹チューブ11111を介して当該体腔内にガスを送り込む。レコーダ11207は、手術に関する各種の情報を記録可能な装置である。プリンタ11208は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
なお、内視鏡11100に術部を撮影する際の照射光を供給する光源装置11203は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置11203において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド11102の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置11203は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド11102の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置11203は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置11203は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
図19は、図18に示すカメラヘッド11102及びCCU11201の機能構成の一例を示すブロック図である。
カメラヘッド11102は、レンズユニット11401と、撮像部11402と、駆動部11403と、通信部11404と、カメラヘッド制御部11405と、を有する。CCU11201は、通信部11411と、画像処理部11412と、制御部11413と、を有する。カメラヘッド11102とCCU11201とは、伝送ケーブル11400によって互いに通信可能に接続されている。
レンズユニット11401は、鏡筒11101との接続部に設けられる光学系である。鏡筒11101の先端から取り込まれた観察光は、カメラヘッド11102まで導光され、当該レンズユニット11401に入射する。レンズユニット11401は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。
撮像部11402は、撮像素子で構成される。撮像部11402を構成する撮像素子は、1つ(いわゆる単板式)であってもよいし、複数(いわゆる多板式)であってもよい。撮像部11402が多板式で構成される場合には、例えば各撮像素子によってRGBそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、撮像部11402は、3D(Dimensional)表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されてもよい。3D表示が行われることにより、術者11131は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部11402が多板式で構成される場合には、各撮像素子に対応して、レンズユニット11401も複数系統設けられ得る。
また、撮像部11402は、必ずしもカメラヘッド11102に設けられなくてもよい。例えば、撮像部11402は、鏡筒11101の内部に、対物レンズの直後に設けられてもよい。
駆動部11403は、アクチュエータによって構成され、カメラヘッド制御部11405からの制御により、レンズユニット11401のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部11402による撮像画像の倍率及び焦点が適宜調整され得る。
通信部11404は、CCU11201との間で各種の情報を送受信するための通信装置によって構成される。通信部11404は、撮像部11402から得た画像信号をRAWデータとして伝送ケーブル11400を介してCCU11201に送信する。
また、通信部11404は、CCU11201から、カメラヘッド11102の駆動を制御するための制御信号を受信し、カメラヘッド制御部11405に供給する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、ユーザによって適宜指定されてもよいし、取得された画像信号に基づいてCCU11201の制御部11413によって自動的に設定されてもよい。後者の場合には、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡11100に搭載されていることになる。
カメラヘッド制御部11405は、通信部11404を介して受信したCCU11201からの制御信号に基づいて、カメラヘッド11102の駆動を制御する。
通信部11411は、カメラヘッド11102との間で各種の情報を送受信するための通信装置によって構成される。通信部11411は、カメラヘッド11102から、伝送ケーブル11400を介して送信される画像信号を受信する。
また、通信部11411は、カメラヘッド11102に対して、カメラヘッド11102の駆動を制御するための制御信号を送信する。画像信号や制御信号は、電気通信や光通信等によって送信することができる。
画像処理部11412は、カメラヘッド11102から送信されたRAWデータである画像信号に対して各種の画像処理を施す。
制御部11413は、内視鏡11100による術部等の撮像、及び、術部等の撮像により得られる撮像画像の表示に関する各種の制御を行う。例えば、制御部11413は、カメラヘッド11102の駆動を制御するための制御信号を生成する。
また、制御部11413は、画像処理部11412によって画像処理が施された画像信号に基づいて、術部等が映った撮像画像を表示装置11202に表示させる。この際、制御部11413は、各種の画像認識技術を用いて撮像画像内における各種の物体を認識してもよい。例えば、制御部11413は、撮像画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具11112の使用時のミスト等を認識することができる。制御部11413は、表示装置11202に撮像画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させてもよい。手術支援情報が重畳表示され、術者11131に提示されることにより、術者11131の負担を軽減することや、術者11131が確実に手術を進めることが可能になる。
カメラヘッド11102及びCCU11201を接続する伝送ケーブル11400は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル11400を用いて有線で通信が行われていたが、カメラヘッド11102とCCU11201との間の通信は無線で行われてもよい。
以上、本開示に係る技術が適用され得る内視鏡手術システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、カメラヘッド11102の撮像部11402に適用され得る。具体的には、撮像部11402として、上述した固体撮像素子1を適用することができる。撮像部11402に本開示に係る技術を適用することにより、カメラヘッド11102を小型化しつつも、ダイナミックレンジを拡大した鮮明な術部画像を得ることができる。
なお、ここでは、一例として内視鏡手術システムについて説明したが、本開示に係る技術は、その他、例えば、顕微鏡手術システム等に適用されてもよい。
<11.移動体への応用例>
さらに、本開示に係る技術は、例えば、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図20は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図20に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図20の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図21は、撮像部12031の設置位置の例を示す図である。
図21では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図21には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部12031に適用され得る。具体的には、撮像部12031として、上述した固体撮像素子1を適用することができる。撮像部12031に本開示に係る技術を適用することにより、小型化しつつも、ダイナミックレンジを拡大した、より見やすい撮影画像を得ることができる。また、得られた撮影画像を用いて、ドライバの疲労を軽減したり、ドライバや車両の安全度を高めることが可能になる。
本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、上述した実施の形態の全てまたは一部を適宜組み合わせた形態を採用することができる。
なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、本明細書に記載されたもの以外の効果があってもよい。
なお、本技術は以下のような構成も取ることができる。
(1)
画素の光電変換部で生成された電荷を保持する第1及び第2の電荷保持部と、
前記第1の電荷保持部と前記第2の電荷保持部との接続をオンオフする接続トランジスタと、
前記画素から出力された画素信号の電圧が、時間経過に応じてレベルが変化するランプ信号の電圧と一致したとき、前記第1の電荷保持部と前記第2の電荷保持部を接続させる制御を行う制御回路と
を備える固体撮像素子。
(2)
前記第1の電荷保持部の電荷容量は、前記第2の電荷保持部の電荷容量より小さく形成され、
前記画素信号の電圧と前記ランプ信号の電圧の一致が検出されるまでは、前記第1の電荷保持部で前記電荷が保持される構成とされた
前記(1)に記載の固体撮像素子。
(3)
前記画素信号の電圧と前記ランプ信号の電圧を比較するコンパレータをさらに備え、
前記制御回路は、前記光電変換部で生成された電荷を前記第1の電荷保持部に転送する電荷転送期間の一部を、前記画素信号の電圧と前記ランプ信号の電圧の一致を検出する第1検知期間とし、前記コンパレータの比較結果に基づいて、前記電圧の一致を検出する
前記(1)または(2)に記載の固体撮像素子。
(4)
前記ランプ信号の電圧を、前記第1の電荷保持部の飽和レベルに対応する電圧に設定するDACをさらに備える
前記(1)乃至(3)のいずれかに記載の固体撮像素子。
(5)
前記DACは、前記電荷転送期間の前半部分において、前記ランプ信号の電圧を、前記第1の電荷保持部の飽和レベルに対応する電圧に設定する
前記(4)に記載の固体撮像素子。
(6)
前記DACは、前記第1の電荷保持部の飽和レベルに対応する電圧を、動作モードに応じて変更する
前記(4)または(5)に記載の固体撮像素子。
(7)
前記制御回路は、前記第1検知期間において前記電圧の一致が検出されたとき、一致したことを示す検知結果をラッチ記憶する
前記(3)乃至(6)のいずれかに記載の固体撮像素子。
(8)
前記制御回路は、前記光電変換部で生成された電荷を前記第1の電荷保持部に転送する前に、前記検知結果をリセットする
前記(7)に記載の固体撮像素子。
(9)
前記制御回路は、前記画素信号の電圧が前記ランプ信号の電圧と一致したことを示す検知結果を、前記画素信号の電圧と前記ランプ信号の電圧が一致するまでの時間をカウントするカウンタに出力する
前記(7)または(8)に記載の固体撮像素子。
(10)
前記画素信号の電圧が前記ランプ信号の電圧と一致したことを示す検知結果が供給された場合、前記第1の電荷保持部と前記第2の電荷保持部のゲイン比に応じて補正した画素データを演算する演算部をさらに備える
前記(9)に記載の固体撮像素子。
(11)
前記演算部は、前記カウンタまたは信号処理部である
前記(10)に記載の固体撮像素子。
(12)
前記制御回路は、前記第1検知期間に加えてD相期間の一部を、前記電圧の一致を検出する第2検知期間とし、前記電圧の一致が検出されたとき、前記第1の電荷保持部と前記第2の電荷保持部を接続させる制御を行う
前記(3)に記載の固体撮像素子。
(13)
前記第2検知期間で前記画素信号の電圧と前記ランプ信号の電圧の一致が検出された場合、前記第1の電荷保持部のみを用いた画素データと、前記第1の電荷保持部と前記第2の電荷保持部のゲイン比に応じて補正した画素データとを合成し、合成後の画素データを演算する演算部をさらに備える
前記(12)に記載の固体撮像素子。
(14)
前記第1検知期間で前記電圧の一致が検出された場合、前記第1の電荷保持部と前記第2の電荷保持部のゲイン比に応じて補正した画素データを出力し、前記第2検知期間で前記電圧の一致が検出された場合、前記合成後の画素データを出力し、前記第1検知期間および前記第2検知期間のいずれでも電圧の一致が検出されなかった場合、前記第1の電荷保持部のみを用いた前記画素データを出力する出力部と
をさらに備える
前記(13)に記載の固体撮像素子。
(15)
前記画素から出力された画素信号の電圧が前記ランプ信号の電圧と一致するまでの時間に基づいて画素データを算出するカウンタと、
前記第1の電荷保持部のみを用いた前記画素データについては、そのまま出力し、前記第1の電荷保持部と前記第2の電荷保持部の両方を用いた前記画素データについては、前記第1の電荷保持部と前記第2の電荷保持部のゲイン比に応じて前記画素データを補正した補正後の画素データを出力する出力部と
をさらに備える
前記(1)乃至(11)のいずれかに記載の固体撮像素子。
(16)
前記第1の電荷保持部の電荷をリセットする第1のリセットトランジスタと、
前記第2の電荷保持部の電荷をリセットする第2のリセットトランジスタと
をさらに備え、
前記第1の電荷保持部の電荷容量は、前記第2の電荷保持部の電荷容量より小さく形成され、
前記第1の電荷保持部は、前記第1及び第2のリセットトランジスタを介して、所定のリセット電圧に接続されている
前記(1)乃至(15)のいずれかに記載の固体撮像素子。
(17)
前記第1の電荷保持部の電荷をリセットする第1のリセットトランジスタと、
前記第2の電荷保持部の電荷をリセットする第2のリセットトランジスタと
をさらに備え、
前記第1の電荷保持部の電荷容量は、前記第2の電荷保持部の電荷容量より小さく形成され、
前記第1の電荷保持部は、前記第1のリセットトランジスタを介して、所定のリセット電圧に接続されている
前記(1)乃至(15)のいずれかに記載の固体撮像素子。
(18)
前記第1の電荷保持部、前記第2の電荷保持部、および、前記接続トランジスタは、複数の画素で共有された構成とされた
前記(1)乃至(17)のいずれかに記載の固体撮像素子。
(19)
画素の光電変換部で生成された電荷を保持する第1及び第2の電荷保持部と、前記第1の電荷保持部と前記第2の電荷保持部との接続をオンオフする接続トランジスタと、前記接続トランジスタを制御する制御回路とを備える固体撮像素子の、
前記制御回路が、前記画素から出力された画素信号の電圧が、時間経過に応じてレベルが変化するランプ信号の電圧と一致したとき、前記第1の電荷保持部と前記第2の電荷保持部を接続させる制御を行う
固体撮像素子の制御方法。
(20)
画素の光電変換部で生成された電荷を保持する第1及び第2の電荷保持部と、
前記第1の電荷保持部と前記第2の電荷保持部との接続をオンオフする接続トランジスタと、
前記画素から出力された画素信号の電圧が、時間経過に応じてレベルが変化するランプ信号の電圧と一致したとき、前記第1の電荷保持部と前記第2の電荷保持部を接続させる制御を行う制御回路と
を備える固体撮像素子
を備える電子機器。
1 固体撮像素子, 11 画素アレイ部, 13 DAC, 14 比較部, 15 カウンタ部, 17 信号処理部, 18 出力部, 21 画素, PD フォトダイオード, 23 第1垂直信号線, 24 第2垂直信号線, 31 コンパレータ, 32 飽和検知回路, 33(33A,33B) カウンタ, 41 転送トランジスタ, 42A 第1リセットトランジスタ, 42B 第2リセットトランジスタ,FDH 高感度,FDL 低感度, 43 FD接続トランジスタ, 44 増幅トランジスタ, 45 選択トランジスタ, 51 AND回路, 52,53 NOR回路, 71 スイッチ回路, 100 撮像装置, 102 固体撮像素子

Claims (20)

  1. 画素の光電変換部で生成された電荷を保持する第1及び第2の電荷保持部と、
    前記第1の電荷保持部と前記第2の電荷保持部との接続をオンオフする接続トランジスタと、
    前記画素から出力された画素信号の電圧が、時間経過に応じてレベルが変化するランプ信号の電圧と一致したとき、前記第1の電荷保持部と前記第2の電荷保持部を接続させる制御を行う制御回路と
    を備える固体撮像素子。
  2. 前記第1の電荷保持部の電荷容量は、前記第2の電荷保持部の電荷容量より小さく形成され、
    前記画素信号の電圧と前記ランプ信号の電圧の一致が検出されるまでは、前記第1の電荷保持部で前記電荷が保持される構成とされた
    請求項1に記載の固体撮像素子。
  3. 前記画素信号の電圧と前記ランプ信号の電圧を比較するコンパレータをさらに備え、
    前記制御回路は、前記光電変換部で生成された電荷を前記第1の電荷保持部に転送する電荷転送期間の一部を、前記画素信号の電圧と前記ランプ信号の電圧の一致を検出する第1検知期間とし、前記コンパレータの比較結果に基づいて、前記電圧の一致を検出する
    請求項1に記載の固体撮像素子。
  4. 前記ランプ信号の電圧を、前記第1の電荷保持部の飽和レベルに対応する電圧に設定するDACをさらに備える
    請求項1に記載の固体撮像素子。
  5. 前記DACは、前記電荷転送期間の前半部分において、前記ランプ信号の電圧を、前記第1の電荷保持部の飽和レベルに対応する電圧に設定する
    請求項4に記載の固体撮像素子。
  6. 前記DACは、前記第1の電荷保持部の飽和レベルに対応する電圧を、動作モードに応じて変更する
    請求項4に記載の固体撮像素子。
  7. 前記制御回路は、前記第1検知期間において前記電圧の一致が検出されたとき、一致したことを示す検知結果をラッチ記憶する
    請求項3に記載の固体撮像素子。
  8. 前記制御回路は、前記光電変換部で生成された電荷を前記第1の電荷保持部に転送する前に、前記検知結果をリセットする
    請求項7に記載の固体撮像素子。
  9. 前記制御回路は、前記画素信号の電圧が前記ランプ信号の電圧と一致したことを示す検知結果を、前記画素信号の電圧と前記ランプ信号の電圧が一致するまでの時間をカウントするカウンタに出力する
    請求項7に記載の固体撮像素子。
  10. 前記画素信号の電圧が前記ランプ信号の電圧と一致したことを示す検知結果が供給された場合、前記第1の電荷保持部と前記第2の電荷保持部のゲイン比に応じて補正した画素データを演算する演算部をさらに備える
    請求項9に記載の固体撮像素子。
  11. 前記演算部は、前記カウンタまたは信号処理部である
    請求項10に記載の固体撮像素子。
  12. 前記制御回路は、前記第1検知期間に加えてD相期間の一部を、前記電圧の一致を検出する第2検知期間とし、前記電圧の一致が検出されたとき、前記第1の電荷保持部と前記第2の電荷保持部を接続させる制御を行う
    請求項3に記載の固体撮像素子。
  13. 前記第2検知期間で前記電圧の一致が検出された場合、前記第1の電荷保持部のみを用いた画素データと、前記第1の電荷保持部と前記第2の電荷保持部のゲイン比に応じて補正した画素データとを合成し、合成後の画素データを演算する演算部をさらに備える
    請求項12に記載の固体撮像素子。
  14. 前記第1検知期間で前記電圧の一致が検出された場合、前記第1の電荷保持部と前記第2の電荷保持部のゲイン比に応じて補正した画素データを出力し、前記第2検知期間で前記電圧の一致が検出された場合、前記合成後の画素データを出力し、前記第1検知期間および前記第2検知期間のいずれでも電圧の一致が検出されなかった場合、前記第1の電荷保持部のみを用いた前記画素データを出力する出力部と
    をさらに備える
    請求項13に記載の固体撮像素子。
  15. 前記画素から出力された画素信号の電圧が前記ランプ信号の電圧と一致するまでの時間に基づいて画素データを算出するカウンタと、
    前記第1の電荷保持部のみを用いた前記画素データについては、そのまま出力し、前記第1の電荷保持部と前記第2の電荷保持部の両方を用いた前記画素データについては、前記第1の電荷保持部と前記第2の電荷保持部のゲイン比に応じて前記画素データを補正した補正後の画素データを出力する出力部と
    をさらに備える
    請求項1に記載の固体撮像素子。
  16. 前記第1の電荷保持部の電荷をリセットする第1のリセットトランジスタと、
    前記第2の電荷保持部の電荷をリセットする第2のリセットトランジスタと
    をさらに備え、
    前記第1の電荷保持部の電荷容量は、前記第2の電荷保持部の電荷容量より小さく形成され、
    前記第1の電荷保持部は、前記第1及び第2のリセットトランジスタを介して、所定のリセット電圧に接続されている
    請求項1に記載の固体撮像素子。
  17. 前記第1の電荷保持部の電荷をリセットする第1のリセットトランジスタと、
    前記第2の電荷保持部の電荷をリセットする第2のリセットトランジスタと
    をさらに備え、
    前記第1の電荷保持部の電荷容量は、前記第2の電荷保持部の電荷容量より小さく形成され、
    前記第1の電荷保持部は、前記第1のリセットトランジスタを介して、所定のリセット電圧に接続されている
    請求項1に記載の固体撮像素子。
  18. 前記第1の電荷保持部、前記第2の電荷保持部、および、前記接続トランジスタは、複数の画素で共有された構成とされた
    請求項1に記載の固体撮像素子。
  19. 画素の光電変換部で生成された電荷を保持する第1及び第2の電荷保持部と、前記第1の電荷保持部と前記第2の電荷保持部との接続をオンオフする接続トランジスタと、前記接続トランジスタを制御する制御回路とを備える固体撮像素子の、
    前記制御回路が、前記画素から出力された画素信号の電圧が、時間経過に応じてレベルが変化するランプ信号の電圧と一致したとき、前記第1の電荷保持部と前記第2の電荷保持部を接続させる制御を行う
    固体撮像素子の制御方法。
  20. 画素の光電変換部で生成された電荷を保持する第1及び第2の電荷保持部と、
    前記第1の電荷保持部と前記第2の電荷保持部との接続をオンオフする接続トランジスタと、
    前記画素から出力された画素信号の電圧が、時間経過に応じてレベルが変化するランプ信号の電圧と一致したとき、前記第1の電荷保持部と前記第2の電荷保持部を接続させる制御を行う制御回路と
    を備える固体撮像素子
    を備える電子機器。
JP2017141536A 2017-07-21 2017-07-21 固体撮像素子およびその制御方法、並びに電子機器 Pending JP2019022173A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017141536A JP2019022173A (ja) 2017-07-21 2017-07-21 固体撮像素子およびその制御方法、並びに電子機器
PCT/JP2018/025656 WO2019017217A1 (ja) 2017-07-21 2018-07-06 固体撮像素子およびその制御方法、並びに電子機器
US16/632,430 US11218658B2 (en) 2017-07-21 2018-07-06 Solid-state imaging device, method of controlling the solid-state imaging device, and electronic apparatus to generate high dynamic range image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017141536A JP2019022173A (ja) 2017-07-21 2017-07-21 固体撮像素子およびその制御方法、並びに電子機器

Publications (1)

Publication Number Publication Date
JP2019022173A true JP2019022173A (ja) 2019-02-07

Family

ID=65015972

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017141536A Pending JP2019022173A (ja) 2017-07-21 2017-07-21 固体撮像素子およびその制御方法、並びに電子機器

Country Status (3)

Country Link
US (1) US11218658B2 (ja)
JP (1) JP2019022173A (ja)
WO (1) WO2019017217A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022138226A1 (ja) * 2020-12-23 2022-06-30 ソニーセミコンダクタソリューションズ株式会社 画像生成装置、画像生成方法、およびプログラム
WO2023026576A1 (ja) * 2021-08-26 2023-03-02 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び電子機器

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000050151A (ja) 1998-07-28 2000-02-18 Olympus Optical Co Ltd 撮像装置
KR100691183B1 (ko) * 2005-06-21 2007-03-09 삼성전기주식회사 화소 단위의 포화 방지 기능을 구비한 이미지 센서
TWI533699B (zh) * 2012-01-27 2016-05-11 Sony Corp A solid-state imaging element and a driving method, and an electronic device
JP5963509B2 (ja) 2012-04-06 2016-08-03 株式会社ニチエイ 皮膚外用剤
KR102544169B1 (ko) 2015-09-10 2023-06-14 가부시키가이샤 한도오따이 에네루기 켄큐쇼 촬상 장치, 모듈, 전자 기기, 및 촬상 장치의 동작 방법

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022138226A1 (ja) * 2020-12-23 2022-06-30 ソニーセミコンダクタソリューションズ株式会社 画像生成装置、画像生成方法、およびプログラム
WO2023026576A1 (ja) * 2021-08-26 2023-03-02 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び電子機器

Also Published As

Publication number Publication date
US11218658B2 (en) 2022-01-04
US20200213549A1 (en) 2020-07-02
WO2019017217A1 (ja) 2019-01-24

Similar Documents

Publication Publication Date Title
JP7155012B2 (ja) 固体撮像素子および電子機器
WO2018198787A1 (ja) 固体撮像装置、および電子機器
JP6968797B2 (ja) 撮像素子
WO2018030137A1 (ja) 撮像装置、電子機器
WO2018131510A1 (ja) 固体撮像素子および電子機器
US11218658B2 (en) Solid-state imaging device, method of controlling the solid-state imaging device, and electronic apparatus to generate high dynamic range image
WO2020179302A1 (ja) 撮像装置
JP7034925B2 (ja) 固体撮像装置および撮像方法
CN108702473B (zh) 成像元件和电子设备
WO2019171947A1 (ja) 撮像素子、電子機器
WO2018051819A1 (ja) 撮像素子および駆動方法、並びに電子機器
WO2019171946A1 (ja) 撮像素子、電子機器
WO2024062813A1 (ja) 撮像装置および電子機器
WO2022097529A1 (ja) 撮像装置、撮像方法
US20240155261A1 (en) Imaging device and electronic apparatus
WO2022201874A1 (ja) 撮像装置
JP2019022020A (ja) 固体撮像素子、固体撮像素子の駆動方法および電子機器