JP2022119375A - 光電変換装置 - Google Patents

光電変換装置 Download PDF

Info

Publication number
JP2022119375A
JP2022119375A JP2021016447A JP2021016447A JP2022119375A JP 2022119375 A JP2022119375 A JP 2022119375A JP 2021016447 A JP2021016447 A JP 2021016447A JP 2021016447 A JP2021016447 A JP 2021016447A JP 2022119375 A JP2022119375 A JP 2022119375A
Authority
JP
Japan
Prior art keywords
photoelectric conversion
pad
conversion device
processing unit
signal processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021016447A
Other languages
English (en)
Other versions
JP2022119375A5 (ja
Inventor
優 有嶋
Masaru Arishima
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2021016447A priority Critical patent/JP2022119375A/ja
Priority to US17/587,891 priority patent/US20220246651A1/en
Publication of JP2022119375A publication Critical patent/JP2022119375A/ja
Publication of JP2022119375A5 publication Critical patent/JP2022119375A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14603Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/617Upgrading or updating of programs or applications for camera control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/665Control of cameras or camera modules involving internal camera communication with the image sensor, e.g. synchronising or multiplexing SSIS control signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/79Arrangements of circuitry being divided between different or multiple substrates, chips or circuit boards, e.g. stacked image sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Power Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Software Systems (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Solid State Image Pick-Up Elements (AREA)

Abstract

【課題】 特許文献1と比較して、学習済みモデルに基づく処理を行う処理部を改善した光電変換装置を提供する。【解決手段】 複数の光電変換部が設けられた光電変換領域と、複数の光電変換部からの出力信号を処理する信号処理部と、信号処理部で処理されたデータに対して、学習済みモデルに基づく処理を実行する処理部を有する。また、処理部と接続する第1のパッドと、信号処理部と接続する第2のパッドとを有する。【選択図】 図3

Description

本発明は、光電変換装置が有する信号処理回路の配置に関する。
近年では、画像処理の多様化・高速化などの観点から、光電変換装置内でより高度な信号処理を実行することが望まれている。
特許文献1には、第1の基板と第2の基板が積層された積層型の光電変換装置が記載されている。第1の基板には、複数の光電変換部を有する光電変換領域(撮像部)が設けられている。第2の基板には、第1の基板に配された画素アレイから得られた信号に対して、信号処理を行うDSP(Digital Signal Processor)が配されている。機械学習のプログラムである学習済みモデルはメモリに格納されており、DSPでは学習済みモデルに基づいて信号処理を実行することが可能である。このため、光電変換装置内で従来よりも高度な信号処理を実行することができる。
特開2020-25263号公報
特許文献1には、DSPからの出力配線やDSPへの電力供給用配線について具体的な構成が開示されておらず、検討が不十分である。そこで、本発明では、特許文献1と比較して、より高性能な光電変換装置を提案することを目的とする。
本発明に係る光電変換装置は、複数の光電変換部が設けられた光電変換領域と、前記複数の光電変換部からの出力信号を処理する信号処理部と、前記信号処理部で処理されたデータに対して、学習済みモデルに基づく処理を実行する処理部と、を有し、前記処理部と接続する第1のパッドと、前記信号処理部と接続し、前記第1のパッドとは異なる第2のパッドと、を有することを特徴とする。
本発明によれば、特許文献1と比較して、より高性能な光電変換装置を提供することができる。
実施形態1に係る光電変換装置の構成図 実施形態2に係る光電変換装置の構成図 実施形態2に係る光電変換装置の平面図 実施形態3に係る光電変換装置の構成図 実施形態3に係る光電変換装置の平面図 実施形態4に係る光電変換装置の平面図 実施形態4に係る光電変換装置の平面図 実施形態4に係る光電変換装置の平面図 実施形態4に係る光電変換装置の平面図 実施形態5に係る光電変換装置の平面図 実施形態6に係る光電変換装置の平面図 実施形態7に係る光電変換装置の平面図 実施形態7に係る光電変換装置の平面図 実施形態8に係る光電変換装置の平面図 実施形態9に係る光電変換装置の平面図 実施形態10の光電変換システムの機能ブロック図 実施形態11の距離センサの機能ブロック図 実施形態12の内視鏡手術の機能ブロック図 実施形態13の光電変換システムおよび移動体の図 実施形態14のスマートグラスの概略図 実施形態15の診断システムの機能ブロック図
以下に、本開示の一実施形態について図面に基づいて詳細に説明する。以下の実施形態において、同一の部位には同一の符号を付することにより重複する説明を省略する。また、本明細書において、平面視とは、基板の光入射面に対して垂直な方向から視ることである。
(実施形態1)
実施形態1について、図1を用いて説明する。
図1は、本実施形態における光電変換装置の構成図である。図1において、光電変換装置は、複数の画素100が2次元的に配されている。複数の画素100のそれぞれにはフォトダイオードからなる光電変換部が設けられているため、複数の画素100が配されている領域を光電変換領域101という。また、光電変換領域101を、複数の画素100が配されていることから、画素領域ということもある。また、光電変換装置を撮像装置として用いる場合、光電変換領域101を撮像領域や撮像部ということもある。各画素は、光電変換部と、光電変換部で生じた電荷を読み出す画素回路を有していてもよい。例えば、画素回路は、転送トランジスタ、増幅トランジスタ、リセットトランジスタ、選択トランジスタ、容量切り替え用トランジスタなどを有していてもよい。あるいは、光電変換領域101には、APD(Avalanche Photo Diode)からなる光電変換部が複数配されていてもよい。さらに、APDはSPAD(Single Photon Avalanche Diode)であってもよい。
光電変換領域101からの信号はアナログデジタル変換回路(ADC回路)102へ出力される。ADC回路102は、例えば、所定の画素列に対応して設けられている。
ADC回路102は、アナログの信号をデジタル値に変換することで、デジタルデータを生成する。ADC回路102には、光電変換領域の素子を駆動するための駆動電圧を生成する電圧生成回路等が含まれていてもよい。ADC回路で生成されたデジタルデータは、信号処理部103に出力される。なお、図1では、各列回路にADC回路102が設けられている例を示している。しかし、ADC回路102は、複数の光電変換部のそれぞれに対応して、1つのADC回路を設ける構成にしてもよい。あるいは、ADC回路102は、複数の光電変換部からなるブロックに対応して、1つのADC回路を設ける構成でもよい。
信号処理部103は、ADC回路102から入力されたデジタルデータに対して、種々の信号処理を実行する。例えば、処理対象のデータがカラー画像である場合、信号処理部103は、このカラー画像データをYUVの画像データやRGBの画像データなどにフォーマット変換する。また、信号処理部103は、例えば、処理対象の画像データに対し、ノイズ除去やホワイトバランス調整等の処理を必要に応じて実行する。その他、信号処理部103は、処理対象の画像データに対し、DSP105がその画像データを処理するのに必要となる種々の信号処理(前処理ともいう)を実行する。
DSP105は、メモリ(不図示)を有する。メモリにはプログラムが格納されており、DSPは格納されているプログラムを実行することで、学習済みモデル(ニューラルネットワーク計算モデルともいう)を用いた各種処理を実行する。すなわち、DSPは、信号処理部103で処理されたデータに対して、学習済みモデルに基づく処理を実行する処理部である。学習済みモデルは、例えば、ディープニューラルネットワーク(DNN)を利用した機械学習によって作成される。学習済みモデルは、光電変換領域101からの出力に相当する入力信号と、当該入力信号に対するラベルとが紐付いている学習データとを所定の機械学習モデルに入力して生成されたパラメータに基づいて設計されていてもよい。また、所定の機械学習モデルは、多層のニューラルネットワークを利用した学習モデル(多層ニューラルネットワークモデルともいう)であってもよい。
例えば、DSP105は、メモリに記憶されている学習済みモデルに基づいた処理を実行することで、メモリに記憶されている係数とデータと掛け合わせる処理を実行する。このような処理により得られた結果(演算結果)は、メモリへ出力される。あるいは、メモリを介さずに、演算結果が直接外部に出力される。演算結果には、学習済みモデルを用いた処理を実行することで得られた画像データや、その画像データから得られる各種情報(メタデータ)が含まれ得る。例えば、物体認識、位置計測などである。また、DSP105には、メモリへのアクセスを制御するメモリコントローラが組み込まれていてもよい。
DSP105が処理対象とするデータは、光電変換領域101から読み出されたデータであってもよいし、読み出されたデータの画素を間引くことでデータサイズが縮小されたデータであってもよい。あるいは、光電変換領域101の全ての画素を読み出すのではなく、一部の画素を間引いた読み出しを実行してもよい。
DSP105が有するメモリは、ADC回路102から出力されたデジタルデータ、信号処理部103で信号処理されたデータ、DSP105で得られた演算結果等を必要に応じて記憶する。
DSP105は、学習データを用いて学習モデル内の各種パラメータの重み付けを変更することで再度学習モデルを構築することも可能である。また、DSP105は、複数の学習モデルを用意しておき、処理の内容に応じて使用する学習モデルを変更する演算を行うことも可能である。さらに、DSP105は、外部の装置から学習済みの学習モデルを取得して、上記処理を実行することも可能である。
(出力パッドとして用いる例)
パッドアレイ領域104は、外部から光電変換装置に電圧を供給するためのパッドや、光電変換装置から信号を出力するためのパッドが複数配される領域である。光電変換装置を平面視した場合に、パッドアレイ領域104は、基板の四辺に設けることができる。図1では、基板に対して、左辺、右辺、下辺の三辺にパッドアレイ領域104を設けた例を示している。
例えば、第1のパッド106は、DSP105で処理されたデータを外部に出力するパッドである。また、第2のパッド107は、信号処理部103で処理されたデータを外部に出力するパッド107である。これらのパッドが、パッドアレイ領域104に設けられている。なお、図1では、その他のパッドは、図示を省略している。
ところで、特許文献1には、DSPにより画像データに対して処理を行った結果を出力する場合と、DSPにより画像データに対して処理を行わずに、信号処理部から出力された画像データをそのまま出力する場合があることが記載されている。しかし、特許文献1では、処理前のデータおよび処理後のデータは、セレクタを切り替えることによって出力されている。このような形態の場合、両方のデータを同時に出力することができない。また、一方のデータと他方のデータを連続的に出力する場合、他方のデータの出力タイミングは、一方のデータの出力に必要な時間で律速されてしまう。
これに対して、本実施形態では、DSP105が有するメモリに格納されているDSP105で処理されたデータ(処理後データ)は、第1のパッド106から出力される。また、DSP105が有するメモリに格納されているDSP105で処理されていないデータ(未処理データ)は、第2のパッド107から出力される。具体的には、DSP105のメモリに記憶された未処理データは、信号処理部103を介して、第2のパッド107から出力される。あるいは、以下でも言及するように、メモリの場所は適宜選択できるため、例えば、信号処理部103に設けたメモリに未処理データを記憶して、このメモリから第2のパッド107にデータを出力してもよい。このように、未処理データと処理後データとが、別々のパッドから出力可能に構成されているため、特許文献1と比較して、信号出力の高速化が可能な光電変換装置を提供することが可能となる。
上記では、DSP105内にメモリがある例を説明したが、メモリはかならずしもDSP105内に設けなくてもよく、光電変換装置内のどこかの部分に設けられていればよい。例えば、ADC回路102の左右あるいは左右の一方にメモリを設けることも可能である。また、信号処理部103の左右あるいは左右の一方にメモリを設けることも可能である。さらに、メモリは、ADC回路102の中、信号処理部103の中などにも配置可能である。メモリは、ADC回路102から出力されたデジタルデータ、信号処理部103で信号処理されたデータ、DSP105で得られた演算結果等を記憶可能に構成される。
また、第1のパッド106に出力するデータが記憶されているメモリと、第2のパッド107に出力するデータが記憶されているメモリは別々のメモリであっても、同一のメモリであってもよい。同一のメモリの場合、第1のパッド106に出力した信号が、第2のパッド107にも出力しないように、第1のパッド106と第2のパッド107が電気的に接続していなければよい。
(電源パッドとして用いる例)
また、第1のパッド106および第2のパッド107は、基準電圧を供給するパッドであってもよい。具体的には、第1のパッド106は、DSP105へ基準電圧を供給するパッドである。例えば、電源電圧(VDD)、グランド電圧(GND)、これらの電圧の中間電圧、のいずれかであってもよい。また、第2のパッド107は、信号処理部103へ基準電圧を供給するパッドである。例えば、電源電圧(VDD)、グランド電圧(GND)、これらの電圧の中間電圧、のいずれかであってもよい。
このように、信号処理部103とDSP105で、基準電圧を供給するパッドを別々にすることにより、相互の電源間で生じるクロストークを抑制できるというメリットがある。例えば、信号処理部103の動作周波数と、DSP105の動作周波数が異なる場合、クロストークが生じると予期しない動作が生じる可能性がある。また、信号処理部103の電流ピークのタイミングと、DSP105の電流ピークのタイミングが異なる場合、クロストークが生じると予期しない動作が生じる可能性がある。このような可能性を低減することができる。
(実施形態2)
実施形態2について、図2および図3を用いて説明する。
図2は、本実施形態における光電変換装置の斜視図である。第1の基板200には、光電変換領域101が設けられている。また、第2の基板201には、アナログデジタル変換回路(ADC回路)102、信号処理部103、DSP105、メモリ(不図示)が設けられている。
第1の基板200と第2の基板201との貼り合わせは、第1の基板200と第2の基板201をそれぞれチップに個片化した後、これら個片化された第1の基板200と第2の基板201を貼り合わせることができる。すなわち、CoC(Chip on Chip)方式を採用しうる。あるいは、第1の基板200と第2の基板201とのうち一方(例えば、第1の基板200)をチップに個片化した後、この個片化された第1の基板200を個片化前(すなわち、ウエハ状態)の第2の基板201に貼り合わせることができる。すなわち、CoW(Chip on Wafer)方式であってもよい。あるいは、第1基板200と第2基板201とを共にウエハの状態で貼り合わせる方式でもよい。すなわち、WoW(Wafer on Wafer)方式であってもよい。
第1の基板200と第2の基板201との接合方法には、例えば、プラズマ接合等を使用することができる。ただし、これに限定されず、種々の接合方法が用いられてよい。
第1の基板200と第2の基板201との電気的接続には、例えば、第1基板200に設けられたTSVと第1基板200から第2基板201にかけて設けられたTSVとの2つのTSVをチップ外表で接続してもよい。いわゆるツインTSV方式である。また、第1基板200から第2基板201にかけて設けられた共通のTSVで接続する、いわゆるシェアードTSV方式などを採用することができる。さらに、第1基板200の接合面と第2基板201の接合面とにそれぞれ露出させた銅(Cu)同士を接合する、いわゆるCu-Cuボンディング方式など、種々の接続形態を採用することが可能である。
図3は、本実施形態における光電変換装置の斜視図である。図1と比較すると、光電変換領域101の占める面積を大きくすることができている。これにより、画素数の大きい光電変換装置を提供することができる。また、図1と比較すると、ADC回路102の占める面積、信号処理部103の占める面積、DSP105の占める面積も大きくしている。ADC回路102の占める面積を大きくすることにより、ADCを行う時間の短縮化を図ることが可能となる。また、信号処理部103とDSP105の占める面積を大きくすることにより、信号処理や演算処理に関して並行処理などを行うことができ、大規模データであっても処理時間を短縮化することも可能となる。また、処理による発熱などの影響も抑制することもできる。
光電変換領域101から出力される信号は、主として、ADC回路102、信号処理部103、DSP105の順序で処理がなされる。そのため、回路ブロックも、ADC回路102、信号処理部103、DSP105の順序で配されている。このため、DSP105が、この回路ブロックの中では最も後段のブロックになり、平面視において、DSP105は、DSP105と光電変換領域101とが重複しない領域を有している。DSP105では多くの演算処理を行うため、発熱やノイズを発生させる可能性が高い。仮に、光電変換領域101と、DSP105の全てが重複していると、DSP105からの発熱やノイズにより、光電変換領域101に影響を与え、撮像品質や測距精度などに影響を与える可能性がある。本実施形態によれば、このような影響を低減することが可能となる。
また、この効果の観点からは、光電変換領域101とDSP105とが重複しないように配置するという形態も可能である。これにより、DSP105が光電変換領域101に与える影響をより低減することが可能である。
本実施形態においても、DSP105用の第1のパッド106と、信号処理部103用の第2のパッド107が別々に設けられているため、実施形態1で説明したメリットを享受することができる。
なお、第1のパッド106のパッド電極と、第2のパッド107のパッド電極は、第1の基板200の配線層に設けることもできるし、第2の基板201の配線層に設けることもできる。両方のパッド電極をどちらかの基板の配線層に設けるように構成すれば、パッド開口部の形成工程で複雑なプロセスを採用する必要がなくなる。
(実施形態3)
実施形態3について、図4および図5を用いて説明する。
図4は、本実施形態における光電変換装置の斜視図である。第1の基板200には、光電変換領域101と、DSP105が設けられている点において、実施形態2とは異なる。このため、第2の基板201には、ADC回路102、信号処理部103が設けられており、DSP105が設けられていない。メモリ(不図示)は、第1の基板200に設けてもよいし、第2の基板201に設けてもよい。
図5は、本実施形態における光電変換装置の平面図である。図3と異なるのは、DSP105を第1の基板200に設けたことにより、第2の基板201において、ADC回路102および信号処理部103が占める面積が大きくなっている。これにより、ADC回路102においてADCを行う時間の短縮化、信号処理部103での処理時間の短縮化、なども可能となる。
また、第1の基板200において、光電変換領域101とは異なる領域にDSP105を設けているため、DSP105が光電変換領域101に与える熱やノイズの影響を低減することができるというメリットもある。
本実施形態においても、DSP105用の第1のパッド106と、信号処理部103用の第2のパッド107が別々に設けられているため、上記実施形態で説明したメリットを享受することができる。
なお、図4では、第1の基板200にDSP105を設け、第2の基板201にADC回路102および信号処理部103を設けた。しかし、信号処理部103を第1の基板200に設け、DSP105を第2の基板201に設けてもよい。この場合、発熱ブロックとなる信号処理部103とDSP105を分散配置することができ、光電変換領域101に与える熱やノイズの影響を低減することができる。また、ADC回路102から、信号処理部103を介せずに、のDSP105へ信号を入力して処理する場合に、配線などのレイアウト構成が簡易となる。
(実施形態4)
実施形態4について、図6から図9を用いて説明する。
図6は、本実施形態における光電変換装置の平面図である。図1と異なるのは、DSP105用の第1のパッド106と、信号処理部103用の第2のパッド107とが、パッドアレイ領域104の異なる辺に設けられている点である。
図6において、DSP105用の第1のパッド106と同じ辺の位置に、信号処理部103用の第2のパッド107を設けようとすると、信号処理部103と第2のパッド107との距離が長くなる。実際の光電変換装置では、図示した以外の配線が多数引き回されているため、信号処理部103とパッドとの距離が長くなると、配線のレイアウトなどが複雑になる可能性がある。そこで、図6に示すように、信号処理部103用の第2のパッド107は、基板の左辺および右辺に対応するパッドアレイ領域104に設けられている。他方、DSP105用の第1のパッド106は、基板の下辺に対応するパッドアレイ領域104に設けられている。
本レイアウトは以下のように表現することも可能である。すなわち、第2のパッド107が設けられているアレイ領域104の辺(右辺)と信号処理部103との間の最短距離を第1の距離とする。また、第1のパッド106が設けられているパッドアレイ領域104の辺(下辺)と信号処理部103との間の最短距離を第2の距離とする。このとき、第1の距離は第2の距離よりも小さい。また、第1のパッド106が設けられているアレイ領域104の辺(下辺)とDSP105との間の最短距離を第3の距離とする。また、第2のパッド107が設けられているパッドアレイ領域104の辺(右辺)とDSP105との間の最短距離を第4の距離とする。このとき、第3の距離は第4の距離よりも小さい。
このような構成とすれば、簡易なレイアウトとなり、配線同士の干渉や、配線同士の容量結合による影響などを低減することができる。
また、図6が、図1と異なるのは、信号処理部103が2つ設けられている点である。例えば、2つの信号処理部103のうち、一方の信号処理部103は、光電変換領域101の左半分からの出力について信号処理を行い、他方の信号処理部103は、光電変換領域101の右半分からの出力について信号処理を行う。
図7は、図6の変形例を示したものである。図6では、1つのADC回路、2つの信号処理部103、1つのDSP105が設けられていたのに対して、図7では、これらのセットがもう1セット設けられている。具体的には、図7において、光電変換領域101の上部には、1つのADC回路、2つの信号処理部103、1つのDSP105が設けられている(第1の回路群)。また、光電変換領域101の下部には、1つのADC回路、2つの信号処理部103、1つのDSP105が設けられている(第2の回路群)。このような構成によれば、光電変換領域101の上半分からの出力を第1の回路群で処理を行い、光電変換領域101の下半分からの出力を第2の回路群で処理を行うことが可能となる。これにより、処理の高速化を図ることが可能である。また、第1の回路群と第2の回路群で処理する信号は、光電変換領域に配置された画素の列ごとに振り分けてもよい。
図7においては、パッドアレイ領域104が、基板の四辺に設けられている。図7も図6と同様に、信号処理部103とDSP105の配置から近い位置にパッドを設ける構成となっている。具体的には、信号処理部103用の第2のパッド107は、基板の左辺および右辺に対応するパッドアレイ領域104に設けられている。他方、DSP105用の第1のパッド106は、基板の上辺および下辺に対応するパッドアレイ領域104に設けられている。
図8は、図6の変形例を示したものである。図6では、光電変換領域101の下側の領域に、信号処理部103とDSP105が設けられていたが、図8では、光電変換領域101の上側の領域にDSP105が設けられる点が異なる。このため、パッドアレイ領域104までの距離を考慮して、DSP105用の第1のパッド106は、基板の上辺に対応するパッドアレイ領域104に設けられている。また、信号処理部103用の第2のパッド107は、基板の左辺、右辺、下辺に対応するパッドアレイ領域104に設けられている。
図8に示す例では、ADC回路102が、光電変換領域101の下側の領域に配される。ADC回路102とDSP105は熱発生源となるため、これらを光電変換領域101に対して同じ側の領域(図8では下側の領域)に設けると、熱発生源が同じ側に局所的に配置されることになる。これに対して、図8に示すように、光電変換領域101の上側にDSP105を配し、下側にADC回路を配すれば、熱発生源が分散配置されることになり、光電変換領域101に対する影響を抑制することが可能となる。
また、図8に示す例では、信号処理部103用の第2のパッド107は、基板の左辺と右辺のみならず、基板の下辺に対応するパッドアレイ領域104に設けられている。このように構成すれば、等長配線を必要とせずカップリングを避けたい配線の引き回しが容易となる。また、電源用途のパッドであれば、信号線とのカップリングを考慮して設計する必要がなく、簡易な配線レイアウトが可能となるというメリットがある。
図9は図8の変形例を示したものである。図8では、1つのDSP105が光電変換領域101の上側の領域のみに設けられているが、図9では、それに加えて2つのDSP105が光電変換領域101の下側の領域にも設けられている点が異なる。すなわち、複数のDSP105が配されることになり、並列処理により、処理時間の短縮化、発熱の抑制などが図られる。各DSP105のメモリに格納されている学習済みモデルは、各DSP105間で異なっていてもよい。例えば、第1のDSPのメモリには、画像から物体認識を行う学習済みモデルを格納されており、第2のDSPのメモリには、輝度情報や色情報の補正を行う学習済みモデルを格納するように構成していてもよい。
図9において、基板の左下と右下に配されているDSP105用の第1のパッド106は、基板の左辺と右辺に対応するパッドアレイ領域104にそれぞれ設けられている。また、信号処理部103用の第2のパッド107は、基板の下辺に対応するパッドアレイ領域104に設けられている。このような構成とすれば、簡易な配線レイアウトとなり、配線同士の干渉や、配線同士の容量結合による影響などを低減することができる。
本実施形態においては、DSP105用の第1のパッド106と、信号処理部103用の第2のパッド107が別々に設けられているため、実施形態1で説明したメリットを享受することができる。
なお、図6から図9では、1つの基板に光電変換領域101、ADC回路102、信号処理部103、DSP105が設けられる例を示した。しかし、実施形態2および3で説明したように、第1の基板と第2の基板を積層した光電変換装置に適用することも可能である。この場合、上記実施形態で説明した構成を適宜採用することができ、各メリットを享受することができる。
(実施形態5)
実施形態5について、図10を用いて説明する。
図10は、本実施形態における光電変換装置の平面図である。図1と異なるのは、DSP105に信号を入力するために設けられた第3のパッド500が設けられている点である。
図10においては、DSP105が基板の下部、すなわち、光電変換領域101の下部、に配されている。また、DSP105用の第1のパッド106と第3のパッド500が、基板の下辺に対応するパッドアレイ領域104に設けられている。DSP105が設けられた位置に対応して、DSP105に信号入力するための第3のパッド500が設けられているため、簡易な配線レイアウトとなり、配線同士の干渉や、配線同士の容量結合によるノイズなどの影響などを低減することができる。
例えば、第3のパッド500に入力される信号は、外部から供給されるクロック信号である。クロック信号は、DSP105での処理動作に使用するカウント信号の生成を行うための信号である。第3のパッド500から、DSP105までの配線の引き回し距離を低減することができるため、クロック信号におけるジッタを低減することが可能となる。
また、第3のパッド500に入力される信号を、外部エンジンからの信号とすることもできる。外部エンジンとは、例えば外部に配されたシステムの処理ブロックであり、外部エンジンからの信号とは、DSP105での演算処理方法をシステムの用途に応じて指示をする信号である。第3のパッド500から、DSP105までの配線の引き回し距離を低減することができるため、簡易な配線レイアウトとなり、配線同士の干渉や配線同士の容量結合によるノイズなどの影響などを低減することができる。
本実施形態においても、DSP105用の第1のパッド106と、信号処理部103用の第2のパッド107が別々に設けられているため、上記実施形態で説明したメリットを享受することができる。
なお、図10では、1つの基板に光電変換領域101、ADC回路102、信号処理部103、DSP105が設けられる例を示した。しかし、実施形態2および3で説明したように、第1の基板と第2の基板を積層した光電変換装置に適用することも可能である。この場合、上記実施形態で説明した構成を適宜採用することができ、各メリットを享受することができる。
(実施形態6)
実施形態6について、図11を用いて説明する。
図11は、本実施形態における光電変換装置の平面図である。図1と異なるのは、DSP105用の第1のパッド106が、外部エンジン1100と接続され、信号処理部103用の第2のパッド107が、外部エンジン1101と接続されている点である。
図11では、第1のパッド106が2つ図示されており、一方のパッドはDSP105へ入力される信号用のパッドであり、他方のパッドはDSP105から出力される信号用のパッドである。そして、これらのパッドは、外部エンジン1100と接続されている。外部エンジン1100は、DSP105の処理結果である出力信号に基づいて、更なる信号処理を行う。DSP105は、光電変換装置内に設けられているため、信号処理能力にも一定の制限がある。そこで、外部エンジン1100と接続し、外部エンジン1100で信号処理を行い、その結果をDSP105にフィードバックする。
また、図11では、第2のパッド107が2つ図示されており、一方のパッドは信号処理部103へ入力される信号用のパッドであり、他方のパッドは信号処理部103から出力される信号用のパッドである。そして、これらのパッドは、外部エンジン1101と接続されている。外部エンジン1101は、信号処理部103の処理結果である出力信号に基づいて、更なる信号処理を行う。信号処理部103は、光電変換装置内に設けられているため、信号処理能力にも一定の制限がある。そこで、外部エンジン1101と接続し、外部エンジン1101で信号処理を行い、その結果を信号処理部103にフィードバックする。
このように構成すれば、高処理能力の外部エンジンも利用でき、また、信号処理部103とDSP105で別々の外部エンジンを利用できることから、個別処理に関して汎用性が高くなるというメリットがある。
本実施形態においても、DSP105用の第1のパッド106と、信号処理部103用の第2のパッド107が別々に設けられているため、上記実施形態で説明したメリットを享受することができる。
なお、図11では、1つの基板に光電変換領域101、ADC回路102、信号処理部103、DSP105が設けられる例を示した。しかし、実施形態2および3で説明したように、第1の基板と第2の基板を積層した光電変換装置に適用することも可能である。この場合、上記実施形態で説明した構成を適宜採用することができ、各メリットを享受することができる。
(実施形態7)
実施形態7について、図12と図13を用いて説明する。
図12は、本実施形態における光電変換装置の平面図である。図1と比較して、図12に示されているDSP105用の第1のパッド106の数が少ない点が異なる。具体的には、図1では、DSP105用の第1のパッド106の数は2つであったのに対して、図12では、DSP105用の第1のパッド106の数は1つである。
例えば、信号処理部103では、光電変換領域101に設けられている複数の光電変換部からの出力を処理して、画像データとして出力するため、情報量は大きくなる。他方、DSP105では、信号処理部103からの画像データを処理し、物体認識、距離計測などの情報を出力するため、情報量は小さくなる。そこで、DSP105からの出力用の第1のパッド106の数を、信号処理部103からの出力用の第2のパッド107の数よりも少なくする構成とすることができる。これにより、パッド電極の数を低減することができ、省面積化を図ることができる。
図13は、本実施形態における光電変換装置の平面図である。図1と比較して、図13に示されているDSP105用の第1のパッド106の数が多い点が異なる。具体的には、図1では、DSP105用の第1のパッド106の数は2つであったのに対して、図13では、DSP105用の第1のパッド106の数は3つである。
例えば、信号処理部103と比較して、DSP105では多くの情報を処理するため、DSP105の消費電力が大きくなる可能性がある。すなわち、多くの電流を消費することになるため、電流の供給を安定化させる必要がある。そこで、DSP105に電圧を供給する第1のパッド106の数を、信号処理部103に電圧を供給する第2のパッド107の数よりも多くする構成とすることができる。これにより、DSP105に供給する電圧の変動を抑制することができ、安定的な電流を供給することができるというメリットがある。
本実施形態においても、DSP105用の第1のパッド106と、信号処理部103用の第2のパッド107が別々に設けられているため、上記実施形態で説明したメリットを享受することができる。
なお、図12および図13では、1つの基板に光電変換領域101、ADC回路102、信号処理部103、DSP105が設けられる例を示した。しかし、実施形態2および3で説明したように、第1の基板と第2の基板を積層した光電変換装置に適用することも可能である。この場合、上記実施形態で説明した構成を適宜採用することができ、各メリットを享受することができる。
(実施形態8)
実施形態8について、図14を用いて説明する。
図14は、本実施形態における光電変換装置の平面図である。図1と異なるのは、DSP105から第1のパッド106までの配線の抵抗値と、信号処理部103から第2のパッド107までの配線の抵抗値が異なる点である。
例えば、信号処理部103と比較して、DSP105では多くの情報を処理するため、DSP105の消費電力が大きくなる可能性がある。すなわち、多くの電流を消費することになるため、電流の供給を安定化させる必要がある。そこで、DSP105から第1のパッド106までの配線抵抗1401の抵抗値を、信号処理部103から第2のパッド107までの配線抵抗1400の抵抗値よりも下げる構成とすることができる。具体的には、図14に示すように、DSP105から第1のパッド106までの配線の長さを、信号処理部103から第2のパッド107までの配線の長さよりも短く設定すればよい。あるいは、DSP105から第1のパッド106までの配線の太さを、信号処理部103から第2のパッド107までの配線の太さよりも太く設定すればよい。さらに、DSP105から第1のパッド106までの配線の材料と、信号処理部103から第2のパッド107までの配線の材料を異なる材料とし、DSP105から第1のパッド106までの配線の抵抗値を低くしてもよい。このように構成することにより、DSP105に安定的な電流を供給することができるというメリットがある。
本実施形態においても、DSP105用の第1のパッド106と、信号処理部103用の第2のパッド107が別々に設けられているため、上記実施形態で説明したメリットを享受することができる。
なお、図14では、1つの基板に光電変換領域101、ADC回路102、信号処理部103、DSP105が設けられる例を示した。しかし、実施形態2および3で説明したように、第1の基板と第2の基板を積層した光電変換装置に適用することも可能である。この場合、上記実施形態で説明した構成を適宜採用することができ、各メリットを享受することができる。
(実施形態9)
実施形態9について、図15を用いて説明する。
図15は、本実施形態における光電変換装置の平面図である。図1と異なるのは、DSP105用の第1のパッド106と大きさの異なる第4のパッド1500が設けられている点である。
例えば、第4のパッド1500は、DSP105と電気的に接続するパッドであり、DSP105の検査用のみに使用するパッドである。そのため、第1のパッド106や第2のパッド107は、光電変換装置の外部に設けられているパッケージが有するパッド1501と電気的に接続されているが、第4のパッド1500は、パッケージが有するパッド1501とは接続されていない。第4のパッド1500は、検査用に用いるものであり、ワイヤーボンディングの実装工程について配慮することがないため、パッド電極の面積を小さくすることが可能である。このため、パッドアレイ領域104において、外部と接続する第1のパッド106や第2のパッド107を多く配することが可能となり、配線レイアウトの自由度が増加するというメリットがある。
本実施形態においても、DSP105用の第1のパッド106と、信号処理部103用の第2のパッド107が別々に設けられているため、上記実施形態で説明したメリットを享受することができる。
なお、図15では、1つの基板に光電変換領域101、ADC回路102、信号処理部103、DSP105が設けられる例を示した。しかし、実施形態2および3で説明したように、第1の基板と第2の基板を積層した光電変換装置に適用することも可能である。この場合、上記実施形態で説明した構成を適宜採用することができ、各メリットを享受することができる。
(実施形態10)
図16は、本実施形態に係る光電変換システム11200の構成を示すブロック図である。本実施形態の光電変換システム11200は、光電変換装置11204を含む。ここで、光電変換装置11204は、上述の実施形態で述べた光電変換装置のいずれかを適用することができる。光電変換システム11200は例えば、撮像システムとして用いることができる。撮像システムの具体例としては、デジタルスチルカメラ、デジタルカムコーダー、監視カメラ、ネットワークカメラ等が挙げられる。図16では、光電変換システム11200としてデジタルスチルカメラの例を示している。
図16に示す光電変換システム11200は、光電変換装置11204、被写体の光学像を光電変換装置11204に結像させるレンズ11202を有する。また、光電変換システム11200はレンズ11202を通過する光量を可変にするための絞り11203、レンズ11202の保護のためのバリア11201を有する。レンズ11202および絞り11203は、光電変換装置11204に光を集光する光学系である。
光電変換システム11200は、光電変換装置11204から出力される出力信号の処理を行う信号処理部11205を有する。信号処理部11205は、必要に応じて入力信号に対して各種の補正、圧縮を行って出力する信号処理の動作を行う。光電変換システム11200は、更に、画像データを一時的に記憶するためのバッファメモリ部11206、外部コンピュータ等と通信するための外部インターフェイス部(外部I/F部)11209を有する。更に光電変換システム11200は、撮像データの記録または読み出しを行うための半導体メモリ等の記録媒体11211、記録媒体11211に記録または読み出しを行うための記録媒体制御インターフェイス部(記録媒体制御I/F部)11210を有する。記録媒体11211は、光電変換システム11200に内蔵されていてもよく、着脱可能であってもよい。また、記録媒体制御I/F部11210から記録媒体11211との通信や外部I/F部11209からの通信は無線によってなされてもよい。
更に光電変換システム11200は、各種演算を行うとともにデジタルスチルカメラ全体を制御する全体制御・演算部11208、光電変換装置11204と信号処理部11205に各種タイミング信号を出力するタイミング発生部11207を有する。ここで、タイミング信号などは外部から入力されてもよく、光電変換システム11200は、少なくとも光電変換装置11204と、光電変換装置11204から出力された出力信号を処理する信号処理部11205とを有すればよい。全体制御・演算部11208およびタイミング発生部11207は、光電変換装置11204の制御機能の一部または全部を実施するように構成してもよい。
光電変換装置11204は、画像用信号を信号処理部11205に出力する。信号処理部11205は、光電変換装置11204から出力される画像用信号に対して所定の信号処理を実施し、画像データを出力する。また、信号処理部11205は、画像用信号を用いて、画像を生成する。また、信号処理部11205は、光電変換装置11204から出力される信号に対して測距演算を行ってもよい。なお、信号処理部11205やタイミング発生部11207は、光電変換装置に搭載されていてもよい。つまり、信号処理部11205やタイミング発生部11207は、画素が配された基板に設けられていてもよいし、別の基板に設けられている構成であってもよい。上述した各実施形態の光電変換装置を用いて撮像システムを構成することにより、より良質の画像が取得可能な撮像システムを実現することができる。
(実施形態11)
図17は、前述の実施形態に記載の光電変換装置を利用した電子機器である距離画像センサの構成例を示すブロック図である。
図17に示すように、距離画像センサ12401は、光学系12407、光電変換装置12408、画像処理回路12404、モニタ12405、およびメモリ12406を備えて構成される。そして、距離画像センサ12401は、光源装置12409から被写体に向かって投光され、被写体の表面で反射された光(変調光やパルス光)を受光することにより、被写体までの距離に応じた距離画像を取得することができる。
光学系12407は、1枚または複数枚のレンズを有して構成され、被写体からの像光(入射光)を光電変換装置12408に導き、光電変換装置12408の受光面(センサ部)に結像させる。
光電変換装置12408としては、上述した各実施形態の光電変換装置が適用され、光電変換装置12408から出力される受光信号から求められる距離を示す距離信号が画像処理回路12404に供給される。
画像処理回路12404は、光電変換装置12408から供給された距離信号に基づいて距離画像を構築する画像処理を行う。そして、その画像処理により得られた距離画像(画像データ)は、モニタ12405に供給されて表示されたり、メモリ406に供給されて記憶(記録)されたりする。
このように構成されている距離画像センサ12401では、上述した光電変換装置を適用することで、画素の特性向上に伴って、例えば、より正確な距離画像を取得することができる。
(実施形態12)
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
図18は、本開示に係る技術(本技術)が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。
図18では、術者(医師)13131が、内視鏡手術システム13003を用いて、患者ベッド13133上の患者13132に手術を行っている様子が図示されている。図示するように、内視鏡手術システム13003は、内視鏡13100と、術具13110と、内視鏡下手術のための各種の装置が搭載されたカート13134と、から構成される。
内視鏡13100は、先端から所定の長さの領域が患者13132の体腔内に挿入される鏡筒13101と、鏡筒13101の基端に接続されるカメラヘッド13102と、から構成される。図示する例では、硬性の鏡筒13101を有するいわゆる硬性鏡として構成される内視鏡13100を図示しているが、内視鏡13100は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。
鏡筒13101の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡13100には光源装置13203が接続されており、光源装置13203によって生成された光が、鏡筒13101の内部に延設されるライトガイドによって当該鏡筒の先端まで導光される。この光は対物レンズを介して患者13132の体腔内の観察対象に向かって照射される。なお、内視鏡13100は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド13102の内部には光学系及び光電変換装置が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該光電変換装置に集光される。当該光電変換装置によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該光電変換装置としては、前述の各実施形態に記載の光電変換装置を用いることができる。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)13135に送信される。
CCU13135は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡13100及び表示装置13136の動作を統括的に制御する。さらに、CCU13135は、カメラヘッド13102から画像信号を受け取り、その画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。
表示装置13136は、CCU13135からの制御により、当該CCU13135によって画像処理が施された画像信号に基づく画像を表示する。
光源装置13203は、例えばLED(Light Emitting Diode)等の光源から構成され、術部等を撮影する際の照射光を内視鏡13100に供給する。
入力装置13137は、内視鏡手術システム13003に対する入力インターフェイスである。ユーザは、入力装置13137を介して、内視鏡手術システム13003に対して各種の情報の入力や指示入力を行うことができる。
処置具制御装置13138は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具13112の駆動を制御する。
内視鏡13100に術部を撮影する際の照射光を供給する光源装置13203は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置13203において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド13102の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置13203は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド13102の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置13203は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用する。具体的には、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置13203は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(実施形態13)
本実施形態の光電変換システムおよび移動体について、図19を用いて説明する。図19は、本実施形態による光電変換システムおよび移動体の構成例を示す概略図である。本実施形態では、光電変換システムとして、車載カメラの一例を示す。
図19は、車両システムとこれに搭載される撮像を行う光電変換システムの一例を示したものである。光電変換システム14301は、光電変換装置14302、画像前処理部14315、集積回路14303、光学系14314を含む。光学系14314は、光電変換装置14302に被写体の光学像を結像する。光電変換装置14302は、光学系14314により結像された被写体の光学像を電気信号に変換する。光電変換装置14302は、上述の各実施形態のいずれかの光電変換装置である。画像前処理部14315は、光電変換装置14302から出力された信号に対して所定の信号処理を行う。画像前処理部14315の機能は、光電変換装置14302内に組み込まれていてもよい。光電変換システム14301には、光学系14314、光電変換装置14302および画像前処理部14315が、少なくとも2組設けられており、各組の画像前処理部14315からの出力が集積回路14303に入力されるようになっている。
集積回路14303は、撮像システム用途向けの集積回路であり、メモリ14305を含む画像処理部14304、光学測距部14306、測距演算部14307、物体認知部14308、異常検出部14309を含む。画像処理部14304は、画像前処理部14315の出力信号に対して、現像処理や欠陥補正等の画像処理を行う。メモリ14305は、撮像画像の一次記憶、撮像画素の欠陥位置を格納する。光学測距部14306は、被写体の合焦や、測距を行う。測距演算部14307は、複数の光電変換装置14302により取得された複数の画像データから測距情報の算出を行う。物体認知部14308は、車、道、標識、人等の被写体の認知を行う。異常検出部14309は、光電変換装置14302の異常を検出すると、主制御部14313に異常を発報する。
集積回路14303は、専用に設計されたハードウェアによって実現されてもよいし、ソフトウェアモジュールによって実現されてもよいし、これらの組合せによって実現されてもよい。また、FPGA(Field Programmable Gate Array)やASIC(Application Specific Integrated Circuit)等によって実現されてもよいし、これらの組合せによって実現されてもよい。
主制御部14313は、光電変換システム14301、車両センサ14310、制御ユニット14320等の動作を統括・制御する。主制御部14313を持たず、光電変換システム14301、車両センサ14310、制御ユニット14320が個別に通信インターフェイスを有して、それぞれが通信ネットワークを介して制御信号の送受を行う(例えばCAN規格)方法も取り得る。
集積回路14303は、主制御部14313からの制御信号を受け或いは自身の制御部によって、光電変換装置14302へ制御信号や設定値を送信する機能を有する。
光電変換システム14301は、車両センサ14310に接続されており、車速、ヨーレート、舵角などの自車両走行状態および自車外環境や他車・障害物の状態を検出することができる。車両センサ14310は、対象物までの距離情報を取得する距離情報取得手段でもある。また、光電変換システム14301は、自動操舵、自動巡行、衝突防止機能等の種々の運転支援を行う運転支援制御部1311に接続されている。特に、衝突判定機能に関しては、光電変換システム14301や車両センサ14310の検出結果を基に他車・障害物との衝突推定・衝突有無を判定する。これにより、衝突が推定される場合の回避制御、衝突時の安全装置起動を行う。
また、光電変換システム14301は、衝突判定部での判定結果に基づいて、ドライバーに警報を発する警報装置14312にも接続されている。例えば、衝突判定部の判定結果として衝突可能性が高い場合、主制御部14313は、ブレーキをかける、アクセルを戻す、エンジン出力を抑制するなどして、衝突を回避、被害を軽減する車両制御を行う。警報装置14312は、音等の警報を鳴らす、カーナビゲーションシステムやメーターパネルなどの表示部画面に警報情報を表示する、シートベルトやステアリングに振動を与えるなどしてユーザに警告を行う。
本実施形態では、車両の周囲、例えば前方または後方を光電変換システム14301で撮影する。図19(b)に、車両前方を光電変換システム14301で撮像する場合の光電変換システム14301の配置例を示す。
2つの光電変換装置14302は、車両14300の前方に配される。具体的には、車両14300の進退方位または外形(例えば車幅)に対する中心線を対称軸に見立て、その対称軸に対して2つの光電変換装置1302が線対称に配される。この形態は、車両14300と被写対象物との間の距離情報の取得や衝突可能性の判定を行う上で好ましい。また、光電変換装置14302は、運転者が運転席から車両14300の外の状況を視認する際に運転者の視野を妨げない配置が好ましい。警報装置14312は、運転者の視野に入りやすい配置が好ましい。
また、本実施形態では、他の車両と衝突しない制御を説明したが、他の車両に追従して自動運転する制御や、車線からはみ出さないように自動運転する制御などにも適用可能である。さらに、光電変換システム14301は、自車両等の車両に限らず、例えば、船舶、航空機或いは産業用ロボットなどの移動体(移動装置)に適用することができる。加えて、移動体に限らず、高度道路交通システム(ITS)等、広く物体認識を利用する機器に適用することができる。
本発明の光電変換装置は、更に、距離情報など各種情報を取得可能な構成であってもよい。
(実施形態14)
図20は、1つの適用例に係る眼鏡16600(スマートグラス)を説明する。眼鏡16600には、光電変換装置16602を有する。光電変換装置16602は、上記の各実施形態に記載の光電変換装置である。また、レンズ16601の裏面側には、OLEDやLED等の発光装置を含む表示装置が設けられていてもよい。光電変換装置16602は1つでもよいし、複数でもよい。また、複数種類の光電変換装置を組み合わせて用いてもよい。光電変換装置16602の配置位置は図20(a)に限定されない。
眼鏡16600は、制御装置16603をさらに備える。制御装置16603は、光電変換装置16602と上記の表示装置に電力を供給する電源として機能する。また、制御装置16603は、光電変換装置16602と表示装置の動作を制御する。レンズ16601には、光電変換装置16602に光を集光するための光学系が形成されている。
図20(b)は、1つの適用例に係る眼鏡16610(スマートグラス)を説明する。眼鏡16610は、制御装置16612を有しており、制御装置16612に、光電変換装置16602に相当する光電変換装置と、表示装置が搭載される。レンズ16611には、制御装置16612内の光電変換装置と、表示装置からの発光を投影するための光学系が形成されており、レンズ16611には画像が投影される。制御装置16612は、光電変換装置および表示装置に電力を供給する電源として機能するとともに、光電変換装置および表示装置の動作を制御する。制御装置は、装着者の視線を検知する視線検知部を有してもよい。視線の検知は赤外線を用いてよい。赤外発光部は、表示画像を注視しているユーザの眼球に対して、赤外光を発する。発せられた赤外光の眼球からの反射光を、受光素子を有する撮像部が検出することで眼球の撮像画像が得られる。平面視における赤外発光部から表示部への光を低減する低減手段を有することで、画像品位の低下を低減する。
赤外光の撮像により得られた眼球の撮像画像から表示画像に対するユーザの視線を検出する。眼球の撮像画像を用いた視線検出には任意の公知の手法が適用できる。一例として、角膜での照射光の反射によるプルキニエ像に基づく視線検出方法を用いることができる。
より具体的には、瞳孔角膜反射法に基づく視線検出処理が行われる。瞳孔角膜反射法を用いて、眼球の撮像画像に含まれる瞳孔の像とプルキニエ像とに基づいて、眼球の向き(回転角度)を表す視線ベクトルが算出されることにより、ユーザの視線が検出される。
本実施形態の表示装置は、受光素子を有する光電変換装置を有し、光電変換装置からのユーザの視線情報に基づいて表示装置の表示画像を制御してよい。
具体的には、表示装置は、視線情報に基づいて、ユーザが注視する第一の視界領域と、第一の視界領域以外の第二の視界領域とを決定される。第一の視界領域、第二の視界領域は、表示装置の制御装置が決定してもよいし、外部の制御装置が決定したものを受信してもよい。表示装置の表示領域において、第一の視界領域の表示解像度を第二の視界領域の表示解像度よりも高く制御してよい。つまり、第二の視界領域の解像度を第一の視界領域よりも低くしてよい。
また、表示領域は、第一の表示領域、第一の表示領域とは異なる第二の表示領域とを有し、視線情報に基づいて、第一の表示領域および第二の表示領域から優先度が高い領域を決定されてよい。第一の視界領域、第二の視界領域は、表示装置の制御装置が決定してもよいし、外部の制御装置が決定したものを受信してもよい。優先度の高い領域の解像度を、優先度が高い領域以外の領域の解像度よりも高く制御してよい。つまり優先度が相対的に低い領域の解像度を低くしてよい。
なお、第一の視界領域や優先度が高い領域の決定には、AIを用いてもよい。AIは、眼球の画像と当該画像の眼球が実際に視ていた方向とを教師データとして、眼球の画像から視線の角度、視線の先の目的物までの距離を推定するよう構成されたモデルであってよい。AIプログラムは、表示装置が有しても、光電変換装置が有しても、外部装置が有してもよい。外部装置が有する場合は、通信を介して、表示装置に伝えられる。
視認検知に基づいて表示制御する場合、外部を撮像する光電変換装置を更に有するスマートグラスに好ましく適用できる。スマートグラスは、撮像した外部情報をリアルタイムで表示することができる。
(実施形態15)
図21を参照しながら、本実施形態のシステムについて説明する。本実施形態は、医師等が患者から採取された細胞や組織を観察して病変を診断する病理診断システムやそれを支援する診断支援システムに適用することができる。本実施形態のシステムは、取得された画像に基づいて病変を診断又はその支援をしてもよい。
図21に示すように、本実施形態のシステムは、1以上の病理システム15510を含む。さらに解析部15530と、医療情報システム15540とを含んでもよい。
1以上の病理システム15510それぞれは、主に病理医が使用するシステムであり、例えば研究所や病院に導入される。各病理システム15510は、互いに異なる病院に導入されてもよく、それぞれワイドエリアネットワークやローカルエリアネットワークなどの種々のネットワークを介して解析部15530及び医療情報システム15540に接続される。
各病理システム15510は、顕微鏡15511と、サーバ15512と、表示装置15513とを含む。
顕微鏡15511は、光学顕微鏡の機能を有し、ガラススライドに収められた観察対象物を撮像し、デジタル画像である病理画像を取得する。観察対象物とは、例えば、患者から採取された組織や細胞であり、臓器の肉片、唾液、血液等であってよい。
サーバ15512は、顕微鏡15511によって取得された病理画像を図示しない記憶部に記憶、保存する。また、サーバ15512は、閲覧要求を受け付けた場合に、メモリ等に保持された病理画像を検索し、検索された病理画像を表示装置15513に表示させることができる。サーバ15512と表示装置15513とは、表示を制御する装置等を介してもよい。
ここで、観察対象物が臓器の肉片等の固形物である場合、この観察対象物は、例えば、染色された薄切片であってよい。薄切片は、例えば、臓器等の検体から切出されたブロック片を薄切りすることで作製されてもよい。また、薄切りの際には、ブロック片がパラフィン等で固定されてもよい。
顕微鏡15511は、低解像度で撮像するための低解像度撮像部と、高解像度で撮像するための高解像度撮像部とを含み得る。低解像度撮像部と高解像度撮像部とは、異なる光学系であってもよいし、同一の光学系であってもよい。同一の光学系である場合には、顕微鏡15511は、撮像対象に応じて解像度が変更されてもよい。
観察対象物はガラススライドなどに収容され、顕微鏡15511の画角内に位置するステージ上に載置される。顕微鏡15511は、まず、低解像度撮像部を用いて画角内の全体画像を取得し、取得した全体画像から観察対象物の領域を特定する。続いて、顕微鏡15511は、観察対象物が存在する領域を所定サイズの複数の分割領域に分割し、各分割領域を高解像度撮像部により順次撮像することで、各分割領域の高解像度画像を取得する。対象とする分割領域の切替えでは、ステージを移動させてもよいし、撮像光学系を移動させてもよいし、それら両方を移動させてもよい。また、各分割領域は、ガラススライドの意図しない滑りによる撮像漏れ領域の発生等を防止するために、隣接する分割領域との間で重複していてもよい。さらに、全体画像には、全体画像と患者とを対応付けておくための識別情報が含まれていてもよい。この識別情報は、例えば、文字列やQRコード(登録商標)等であってよい。
顕微鏡15511で取得された高解像度画像は、サーバ15512に入力される。サーバ15512は、各高解像度画像をより小さいサイズの部分画像に分割することができる。このように部分画像を生成すると、サーバ15512は、隣り合う所定数の部分画像を合成することで1つの画像を生成する合成処理を、全ての部分画像に対して実行する。この合成処理は、最終的に1つの部分画像が生成されるまで繰り返され得る。このような処理により、各階層が1つ以上の部分画像で構成されたピラミッド構造の部分画像群が生成される。このピラミッド構造では、ある層の部分画像とこの層とは異なる層の部分画像との画素数は同じであるが、その解像度が異なっている。例えば、2×2個の計4つの部分画像を合成して上層の1つの部分画像を生成する場合、上層の部分画像の解像度は、合成に用いた下層の部分画像の解像度の1/2倍となっている。
このようなピラミッド構造の部分画像群を構築することによって、表示対象のタイル画像が属する階層次第で、表示装置に表示される観察対象物の詳細度を切り替えることが可能となる。例えば、最下層の部分画像が用いられる場合には、観察対象物の狭い領域を詳細に表示し、上層の部分画像が用いられるほど観察対象物の広い領域が粗く表示されるようにすることができる。
生成されたピラミッド構造の部分画像群は、例えば、メモリ等に記憶することができる。そして、サーバ15512は、他の装置(例えば、解析部15530)から識別情報を含む部分画像の取得要求を受け付けた場合に、識別情報に対応する部分画像を他の装置へ送信する。
なお、病理画像である部分画像は、焦点距離や染色条件等の撮像条件毎に生成されてもよい。撮像条件毎に部分画像が生成される場合、特定の病理画像とともに、特定の撮像条件と異なる撮像条件に対応する他の病理画像であって、特定の病理画像と同一領域の他の病理画像を並べて表示してもよい。特定の撮像条件は、閲覧者によって指定されてもよい。また、閲覧者に複数の撮像条件が指定された場合には、各撮像条件に対応する同一領域の病理画像が並べて表示されてもよい。
また、サーバ15512は、ピラミッド構造の部分画像群をサーバ15512以外の他の記憶装置、例えば、クラウドサーバ等に記憶してもよい。さらに、以上のような部分画像の生成処理の一部又は全部は、クラウドサーバ等で実行されてもよい。このように部分画像を使うことにより、ユーザは、観察倍率を変えながら観察対象物を観察しているような感覚を得ることができる。すなわち、表示を制御することにより、仮想顕微鏡のような役割を果たすことができる。ここでの仮想的な観察倍率は、実際には解像度に相当する。
医療情報システム15540は、いわゆる電子カルテシステムであり、患者を識別する情報、患者の疾患情報、診断に用いた検査情報や画像情報、診断結果、処方薬などの診断に関する情報を記憶する。例えば、ある患者の観察対象物を撮像することで得られる病理画像は、一旦、サーバ15512を介して保存された後、表示装置15514に表示され得る。病理システム15510を利用する病理医は、表示装置15513に表示された病理画像に基づいて病理診断を行う。病理医によって行われた病理診断結果は、医療情報システム15540に記憶される。
解析部15530は、病理画像に対する解析を実行し得る。この解析には、機械学習によって作成された学習モデルを用いることができる。解析部15530は、当該解析結果として、特定領域の分類結果や組織の識別結果等を導出してもよい。さらに、解析部15530は、細胞情報、数、位置、輝度情報等の識別結果やそれらに対するスコアリング情報等を導出してもよい。解析部15530で得られたこれらの情報は、診断支援情報として、病理システム15510の表示装置15513に表示されてもよい。
なお、解析部15530は、1台以上のサーバ(クラウドサーバを含む)等で構成されたサーバシステムであってもよい。また、解析部15530は、病理システム15510内の例えばサーバ15512に組み込まれた構成であってもよい。すなわち、病理画像に対する各種解析は、病理システム15510内で実行されてもよい。
上述の実施形態で説明した光電変換装置は、以上説明した構成のうち、例えば、顕微鏡15511に好適に適用され得る。具体的には、顕微鏡15511における低解像度撮像部及び/ 又は高解像度撮像部に適用することができる。これにより、低解像度撮像部及び/ 又は高解像度撮像部の小型化、強いては、顕微鏡15511の小型化が可能となる。それにより、顕微鏡15511の運搬が容易となるため、システム導入やシステム組換え等を容易化することが可能となる。さらに、上述の実施形態で説明した光電変換装置を適用することにより、病理画像の取得から病理画像の解析までの処理の一部又は全部を顕微鏡15511内においてオンザフライで実行可能となるため、より迅速且つ的確な診断支援情報の出力も可能となる。
なお、上記で説明した構成は、診断支援システムに限らず、共焦点顕微鏡や蛍光顕微鏡、ビデオ顕微鏡等の生物顕微鏡全般にも適用され得る。ここで、観察対象物は、培養細胞や受精卵、精子等の生体試料、細胞シート、三次元細胞組織等の生体材料、ゼブラフィッシュやマウス等の生体であってもよい。また、観察対象物は、ガラススライドに限らず、ウェルプレートやシャーレ等に格納された状態で観察されることもできる。
さらに、顕微鏡を利用して取得した観察対象物の静止画像から動画像が生成されてもよい。例えば、所定期間連続的に撮像した静止画像から動画像を生成してもよいし、所定の間隔を空けて撮像した静止画像から画像シーケンスを生成してもよい。このように、静止画像から動画像を生成することで、がん細胞や神経細胞、心筋組織、精子等の拍動や伸長、遊走等の動きや培養細胞や受精卵の分裂過程など、観察対象物の動的な特徴について機械学習を用いて解析することが可能となる。
<その他の実施形態>
以上、各実施形態について説明したが、本発明はこれらの実施形態に制限されるものではなく、様々な変更および変形が可能である。また、各実施形態は相互に適用可能である。すなわち、一方の実施形態の一部を他方の実施形態の一部と置換することもできるし、一方の実施形態の一部を他方の実施形態の一部と付加することも可能である。また、ある実施形態の一部を削除することも可能である。
101 光電変換領域
102 ADC回路
103 信号処理部
105 DSP(処理部)
106 第1のパッド
107 第2のパッド
200 第1の基板
201 第2の基板

Claims (20)

  1. 複数の光電変換部が設けられた光電変換領域と、
    前記複数の光電変換部からの出力信号を処理する信号処理部と、
    前記信号処理部で処理されたデータに対して、学習済みモデルに基づく処理を実行する処理部と、を有し、
    前記処理部と接続する第1のパッドと、
    前記信号処理部と接続し、前記第1のパッドとは異なる第2のパッドと、を有することを特徴とする光電変換装置。
  2. 前記第1のパッドは、前記処理部で処理されたデータを出力するパッドであり、
    前記第2のパッドは、前記信号処理部で処理されたデータを出力するパッドであることを特徴とする請求項1に記載の光電変換装置。
  3. 前記信号処理部で処理されたデータは、前記処理部で処理される前のデータであることを特徴とする請求項2に記載の光電変換装置。
  4. 前記処理部で処理されたデータと前記信号処理されたデータを記憶するメモリを有することを特徴とする請求項2または3に記載の光電変換装置。
  5. 前記第1のパッドは、前記処理部に基準電圧を供給するパッドであり、
    前記第2のパッドは、前記信号処理部に基準電圧を供給するパッドであることを特徴とする請求項1に記載の光電変換装置。
  6. 前記第1のパッドと前記第2のパッドは電気的に接続されていないことを特徴とする請求項1から5のいずれか1項に記載の光電変換装置。
  7. 前記光電変換領域を有する第1の基板と、
    前記信号処理部または前記処理部の少なくとも一方を有する第2の基板と、を有し、
    前記第1の基板と前記第2の基板が積層されていることを特徴とする請求項1から6のいずれか1項に記載の光電変換装置。
  8. 前記信号処理部および前記処理部の一方が、前記第2の基板に設けられており、
    前記信号処理部および前記処理部の他方が、前記第1の基板に設けられていることを特徴とする請求項7に記載の光電変換装置。
  9. 平面視において、前記光電変換装置は複数の辺を有し、
    平面視において、前記第1のパッドが第1の辺に設けられており、前記第2のパッドが第1の辺とは異なる第2の辺に設けられていることを特徴とする請求項1から8のいずれか1項に記載の光電変換装置。
  10. 平面視において、前記第2の辺と前記信号処理部の最短距離である第1の距離は、前記第1の辺と前記信号処理部の最短距離である第2の距離よりも小さいことを特徴とする請求項9に記載の光電変換装置。
  11. 平面視において、前記第1の辺と前記処理部の最短距離である第3の距離は、前記第2の辺と前記処理部の最短距離である第4の距離よりも小さいことを特徴とする請求項9または10に記載の光電変換装置。
  12. 平面視において、前記光電変換装置は複数の辺を有し、
    前記処理部は、第1の処理部と第2の処理部を有し、
    前記第1の処理部と接続する前記第1のパッドは、第1の辺に設けられており、
    前記第2の処理部と接続する前記第1のパッドは、前記第1の辺とは異なる第2の辺に設けられていることを特徴とする請求項1から8のいずれか1項に記載の光電変換装置。
  13. 前記処理部と接続する第3のパッドを有し、
    前記第3のパッドは、前記処理部に信号を入力するためのパッドであることを特徴とする請求項1から12のいずれか1項に記載の光電変換装置。
  14. 前記第3のパッドから前記処理部に入力される信号は、クロック信号であることを特徴とする請求項13に記載の光電変換装置。
  15. 前記第3のパッドから前記処理部に入力される信号は、前記光電変換装置の外部に設けられた外部エンジンから出力される信号であることを特徴とする請求項13に記載の光電変換装置。
  16. 前記第1のパッドの数と前記第2のパッドの数が異なることを特徴とする請求項1から15のいずれか1項に記載の光電変換装置。
  17. 前記第1のパッドから前記処理部までの配線の抵抗値と、前記第2のパッドから前記信号処理部までの配線の抵抗値は異なることを特徴とする請求項1から16のいずれか1項に記載の光電変換装置。
  18. 平面視において、前記第1のパッドの大きさと、前記第2のパッドの大きさが異なることを特徴とする請求項1から17のいずれか1項に記載の光電変換装置。
  19. 請求項1から請求項18のいずれか1項に記載の光電変換装置と、
    前記光電変換装置が出力する信号を用いて画像を生成する信号処理部と、を有することを特徴とする光電変換システム。
  20. 請求項1から請求項18のいずれか1項に記載の光電変換装置を備える移動体であって、
    前記光電変換装置が出力する信号を用いて前記移動体の移動を制御する制御部を有することを特徴とする移動体。
JP2021016447A 2021-02-04 2021-02-04 光電変換装置 Pending JP2022119375A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021016447A JP2022119375A (ja) 2021-02-04 2021-02-04 光電変換装置
US17/587,891 US20220246651A1 (en) 2021-02-04 2022-01-28 Photoelectric conversion apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021016447A JP2022119375A (ja) 2021-02-04 2021-02-04 光電変換装置

Publications (2)

Publication Number Publication Date
JP2022119375A true JP2022119375A (ja) 2022-08-17
JP2022119375A5 JP2022119375A5 (ja) 2024-02-01

Family

ID=82611670

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021016447A Pending JP2022119375A (ja) 2021-02-04 2021-02-04 光電変換装置

Country Status (2)

Country Link
US (1) US20220246651A1 (ja)
JP (1) JP2022119375A (ja)

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008058853A (ja) * 2006-09-04 2008-03-13 Sony Corp 表示装置及びその製造方法
US9129816B2 (en) * 2012-03-16 2015-09-08 Taiwan Semiconductor Manufacturing Company, Ltd. Contact test structure and method
JP6705044B2 (ja) * 2018-07-31 2020-06-03 ソニーセミコンダクタソリューションズ株式会社 積層型受光センサ及び車載撮像装置
JP7402606B2 (ja) * 2018-10-31 2023-12-21 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び電子機器
JP2021064860A (ja) * 2019-10-11 2021-04-22 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び電子機器
CN115280760A (zh) * 2020-03-19 2022-11-01 索尼半导体解决方案公司 固态成像装置
KR20230035058A (ko) * 2020-07-07 2023-03-10 소니 세미컨덕터 솔루션즈 가부시키가이샤 촬상 장치 및 전자기기
KR20220064085A (ko) * 2020-11-11 2022-05-18 삼성전자주식회사 이미지 센서
JP2022112593A (ja) * 2021-01-22 2022-08-03 キヤノン株式会社 半導体素子、機器、チップ
JP2022119380A (ja) * 2021-02-04 2022-08-17 キヤノン株式会社 光電変換装置、光電変換システム
JP2022119382A (ja) * 2021-02-04 2022-08-17 キヤノン株式会社 光電変換装置、光電変換システム、移動体
JP2022119378A (ja) * 2021-02-04 2022-08-17 キヤノン株式会社 光電変換装置、機器
JP2023057660A (ja) * 2021-10-12 2023-04-24 キヤノン株式会社 半導体装置

Also Published As

Publication number Publication date
US20220246651A1 (en) 2022-08-04

Similar Documents

Publication Publication Date Title
CN112470462B (zh) 层叠式光接收传感器和电子装置
US20220246661A1 (en) Photoelectric conversion apparatus, photoelectric conversion system, and mobile body
JP2021064860A (ja) 撮像装置及び電子機器
US11849238B2 (en) Photoelectric conversion apparatus, photoelectric conversion system, moving body
US20240021646A1 (en) Stacked light-receiving sensor and in-vehicle imaging device
US20230262353A1 (en) Photoelectric conversion device and photoelectric conversion system
US11770630B2 (en) Photoelectric conversion apparatus, photoelectric conversion system, and mobile body
US20220246652A1 (en) Photoelectric conversion device and photoelectric conversion system
JP2022119375A (ja) 光電変換装置
WO2023132002A1 (ja) 光電変換装置、光電変換システム、移動体
JP2022119379A (ja) 光電変換装置
US12028623B2 (en) Photoelectric conversion apparatus, photoelectric conversion system, and semiconductor substrate
JP2022119383A (ja) 光電変換装置、光電変換システム、半導体基板
US20220246663A1 (en) Photoelectric conversion apparatus, photoelectric conversion system, mobile body, and semiconductor substrate
US20220246664A1 (en) Photoelectric conversion apparatus, photoelectric conversion system, mobile body, and semiconductor substrate
JP2021068954A (ja) 受光装置及び電子機器

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240124

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240124