JP2018121254A - 固体撮像素子 - Google Patents

固体撮像素子 Download PDF

Info

Publication number
JP2018121254A
JP2018121254A JP2017012462A JP2017012462A JP2018121254A JP 2018121254 A JP2018121254 A JP 2018121254A JP 2017012462 A JP2017012462 A JP 2017012462A JP 2017012462 A JP2017012462 A JP 2017012462A JP 2018121254 A JP2018121254 A JP 2018121254A
Authority
JP
Japan
Prior art keywords
same color
unit
pixel
imaging device
state imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017012462A
Other languages
English (en)
Inventor
藤田 剛
Takeshi Fujita
剛 藤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd filed Critical Aisin Seiki Co Ltd
Priority to JP2017012462A priority Critical patent/JP2018121254A/ja
Priority to US15/877,499 priority patent/US20180211988A1/en
Priority to CN201810067372.4A priority patent/CN108366236A/zh
Publication of JP2018121254A publication Critical patent/JP2018121254A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14609Pixel-elements with integrated switching, control, storage or amplification elements
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14603Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • H01L27/14605Structural or functional details relating to the position of the pixel elements, e.g. smaller pixel elements in the center of the imager compared to pixel elements at the periphery
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14643Photodiode arrays; MOS imagers
    • H01L27/14645Colour imagers
    • H01L27/14647Multicolour imagers having a stacked pixel-element structure, e.g. npn, npnpn or MQW elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors

Abstract

【課題】一例として、画像認識処理の処理負荷を低減することができる固体撮像素子を得る。【解決手段】実施形態にかかる固体撮像素子は、画素アレイ部と、演算部と、出力部とを備える。画素アレイ部は、受けた光を画素信号に変換する複数色の同色画素が複数の行および複数の列に沿って配置される。演算部は、同一色の同色画素から同色画素信号をそれぞれ読み出し、読み出した複数の同色画素信号の代表値を演算する。出力部は、演算部によって演算された代表値の集合を同一色ごとに外部へ出力する。【選択図】図3

Description

本発明の実施形態は、固体撮像素子に関する。
従来、受けた光の強さに応じた信号電荷を蓄積する複数の画素を備え、各画素に蓄積された信号電荷を順次読み出して画像データとして出力する固体撮像素子が知られている。
この種の固体撮像素子では、各画素に赤(R)、緑(G)および青(B)のいずれかの色を割り当て、各色の画素から読み出される信号電荷を組み合わせることにより、肉眼に近い自然な画像を提供することができる。
特開2007−174478号公報
上述したように、従来の固体撮像素子は、人間が見るのに適した画像を提供するものである。このため、固体撮像素子から出力される画像データを用いて顔認識や動体検出などの画像認識処理を行う場合には、出力される画像データに対してフィルタ処理等の画像処理を施し、画像処理後の画像データを用いて画像認識処理を行っていた。したがって、従来の固体撮像素子には、画像認識処理の処理負荷を低減するという点で更なる改善の余地がある。
本発明の実施形態に係る固体撮像素子は、一例として、受けた光を画素信号に変換する複数色の同色画素が複数の行および複数の列に沿って配置された画素アレイ部と、同一色の前記同色画素から同色画素信号をそれぞれ読み出し、読み出した複数の前記同色画素信号の代表値を演算する演算部と、前記演算部によって演算された前記代表値の集合を前記同一色ごとに外部へ出力する出力部とを備える。よって、一例としては、外部の認識装置において画像認識処理用の画像データを生成するための画像処理を省略することが可能となる。したがって、実施形態に係る固体撮像素子によれば、画像認識処理の処理負荷を低減することができる。
上記固体撮像素子では、一例として、前記演算部は、2以上の前記行および2以上の前記列のフィルタ範囲に含まれる前記同色画素から前記同色画素信号をそれぞれ読み出し、該同色画素信号を用いたフィルタ演算を行うことによって前記フィルタ範囲における一の前記代表値を得る処理を、前記フィルタ範囲の位置を変えながら複数回実行する。よって、一例としては、エッジ抽出などのフィルタ処理が施された色ごとの画像データを外部に提供することができる。
上記固体撮像素子では、一例として、前記演算部は、前記複数の列の少なくとも1つに対応して設けられ、前記同色画素から読み出された前記同色画素信号を伝送する複数の垂直信号線と、前記複数の列の少なくとも1つに対応して設けられ、入力される前記同色画素信号に対して前記フィルタ演算を行う複数のカラム処理部と、前記複数の垂直信号線と前記複数のカラム処理部との間に設けられ、前記複数の垂直信号線と前記複数のカラム処理部との接続状態を切り替えることによって前記同色画素信号を一の前記カラム処理部へ入力させる切替部とを備える。よって、一例としては、切替部を設けることにより、必要とするカラム処理部の数を削減することができる。
上記固体撮像素子では、一例として、前記カラム処理部は、アナログ−デジタル変換処理に用いられる比較回路およびカウンタ回路を用いて前記フィルタ演算を行う。よって、一例としては、フィルタ演算用に別途メモリ等を設けることなく、比較的簡易な構成でフィルタ演算を実現することができる。
上記固体撮像素子では、一例として、前記同色画素の各々は、複数の分割画素を含んでおり、前記演算部は、読み出し対象とする前記分割画素を変えつつ、一の前記同色画素から前記同色画素信号を複数回読み出す。よって、一例としては、一の同色画素から同色画素信号を1回のみ読み出してフィルタ処理を行う場合と比較して、フィルタ処理後の画像データの情報量を増加させることができる。
図1は、第1の実施形態に係るCMOS型の固体撮像素子の構成の一例を示す図である。 図2は、エッジ画像データの生成に用いられるフィルタの一例を示す図である。 図3は、第2のAD変換部の構成の一例を示す図である。 図4は、カラム処理部の構成の一例を示す図である。 図5は、比較回路の構成の一例を示す図である。 図6Aは、第1の実施形態に係るフィルタ処理の動作例を示す図である。 図6Bは、第1の実施形態に係るフィルタ処理の動作例を示す図である。 図7Aは、第1の実施形態に係るフィルタ処理によって生成されるRエッジ画像の一例を示す図である。 図7Bは、第1の実施形態に係るフィルタ処理によって生成されるRエッジ画像の一例を示す図である。 図8は、第2の実施形態に係る画素の構成の一例を示す図である。 図9は、第2の実施形態に係る画素アレイ部およびAD変換部の構成の一例を示す図である。 図10Aは、第2の実施形態に係るフィルタ処理の動作例を示す図である。 図10Bは、第2の実施形態に係るフィルタ処理の動作例を示す図である。 図10Cは、第2の実施形態に係るフィルタ処理の動作例を示す図である。 図10Dは、第2の実施形態に係るフィルタ処理の動作例を示す図である。 図11Aは、第2の実施形態に係るフィルタ処理によって生成されるRエッジ画像の一例を示す図である。 図11Bは、第2の実施形態に係るフィルタ処理によって生成されるRエッジ画像の一例を示す図である。 図12は、第3の実施形態に係る固体撮像素子の構成の一例を示す図である。 図13は、第3の実施形態に係る画像認識システムの構成の一例を示すブロック図である。
(第1の実施形態)
〔1.固体撮像素子の構成〕
まず、第1の実施形態に係る固体撮像素子の構成について図1および図2を参照して説明する。図1は、第1の実施形態に係るCMOS型の固体撮像素子の構成の一例を示す図である。また、図2は、エッジ画像データの生成に用いられるフィルタの一例を示す図である。なお、図2には、一例として、垂直方向のエッジを抽出するための6×6のフィルタを示している。
図1に示すように、第1の実施形態に係る固体撮像素子1は、たとえば図2に示すフィルタFを用いたフィルタ処理を行うことにより、赤(R)、緑(G)および青(B)各色のエッジ画像データを生成して外部装置へ出力する。なお、画素の配列は、図1に示すベイヤー配列に限定されない。
外部装置は、たとえば顔認識や動体検出などの画像認識処理を行う認識装置である。認識装置は、固体撮像素子1から入力されるエッジ画像データを利用することで、赤(R)、緑(G)および青(B)の全てを含んだRAW画像データからエッジ画像を生成する処理を省略することができる。
したがって、固体撮像素子1によれば、画像認識処理の処理負荷を低減することができる。
図1に示すように、第1の実施形態に係る固体撮像素子1は、画素アレイ部2と、垂直走査部3と、AD変換部4と、出力部5と、水平走査部6と、制御部7とを備える。
画素アレイ部2は、複数の行および複数の列に沿ってマトリクス状に配置された複数の画素21を備える。
画素21は、フォトダイオードおよびMOSスイッチ等を含んで構成され、図示しないカラーフィルタによって色分解された色光のうち何れか一つを受光して画素信号に変換する。
具体的には、画素21は、赤(R)、緑(G)および青(B)の3種類の色光のうち何れか一つを受光して赤(R)、緑(G)または青(B)の画素信号に変換する。
以下では、複数の画素21のうち同じ色の色光を受光する画素21を「同色画素」と記載する場合がある。また、画素アレイ部2に配置される複数色の同色画素のうち、赤(R)の色光を受光する同色画素を「R画素」、緑(G)の色光を受光する同色画素を「G画素」、青(B)の色光を受光する同色画素を「B画素」と記載する場合がある。
また、以下では、同色画素から読み出される画素信号を「同色画素信号」と記載する場合がある。また、R画素から読み出される画素信号を「R画素信号」、G画素から読み出される画素信号を「G画素信号」、B画素から読み出される画素信号を「B画素信号」と記載する場合がある。
画素アレイ部2には、複数の行選択線22が各行に1つずつ設けられるとともに、複数の垂直信号線23が各列に1つずつ設けられる。行選択線22は、複数の画素21を行単位で垂直走査部3に接続する。また、垂直信号線23は、複数の画素21を列単位でAD変換部4に接続する。
垂直走査部3は、制御部7からの制御に従って行選択線22に行選択パルスを出力することにより、画素信号の読み出しを行う画素21の行を選択する。
AD変換部4は、画素アレイ部2から読み出された画素信号をデジタル形式の画素信号に変換するアナログ−デジタル変換処理を行う。
ここで、AD変換部4の具体的な構成の一例について図3を参照して説明する。図3は、AD変換部4の構成の一例を示す図である。
図3に示すように、AD変換部4は、切替部41と、複数のカラム処理部42とを備える。
切替部41は、複数の垂直信号線23と複数のカラム処理部42との間に設けられ、制御部7の制御に従って、複数の垂直信号線23と複数のカラム処理部42との接続状態を切り替える。これにより、AD変換部4は、複数の列から読み出された同色画素信号を1つのカラム処理部42へ入力させることができる。
カラム処理部42は、画素アレイ部2の各列に対して単一に設けられ、入力される同色画素信号に対してフィルタ演算を行う。具体的には、カラム処理部42は、入力される同色画素信号に対して乗算処理および加減算処理を行う。
ここで、カラム処理部42の構成の一例について図4および図5を参照して説明する。図4は、カラム処理部42の構成の一例を示す図である。また、図5は、比較回路の構成の一例を示す図である。
図4に示すように、カラム処理部42は、比較回路421と、カウンタ回路422とを備える。
図5に示すように、比較回路421は、たとえば、DAC(Digital Analog Converter)43と垂直信号線23とに接続される比較器421aを備える。比較器421aは、垂直信号線23から入力される画素信号の電圧と、DAC43から入力される参照電圧とを比較して、参照電圧と画素信号の電圧との大小関係が反転した場合に、カウンタ回路422への出力を反転させる。
比較回路421は、複数のスイッチ421bおよび複数のコンデンサ421cを備える。複数のスイッチ421bおよび複数のコンデンサ421cは、垂直信号線23および垂直信号線23に接続される信号線にそれぞれ設けられる。複数のスイッチ421bは、制御部7によって制御される。
カウンタ回路422は、比較回路421からの出力が反転するまでの期間をカウントし、カウント値(すなわち、デジタル形式の画素データ)を図示しないラッチ回路に一時的に保持する。
カウンタ回路422は、列選択線61を介して水平走査部6に接続されており、水平走査部6から列選択線61を介して列選択パルスが入力された場合に、図示しないラッチ回路に保持されているカウント値を出力部5の水平信号線51に出力する。
図1に戻り、出力部5は、水平信号線51と、増幅部52と、出力端子53とを備える。水平信号線51は、AD変換部4に接続され、AD変換部4から出力されるデジタル形式の画素データを伝送する。増幅部52は、水平信号線51によって伝送される画素データを増幅する。出力端子53は、増幅部52によって増幅された画素データを外部に出力する。出力端子53から出力される複数の画素データの集合により、1つの画像データが形成される。
水平走査部6は、制御部7からの制御に従って列選択線61に列選択パルスを出力することにより、AD変換部4が備えるカラム処理部42からAD変換処理後の画素データを順次水平信号線51に出力させる。
制御部7は、各部の動作に必要なクロックや所定タイミングのパルス信号を供給するタイミングジェネレータ等を含んで構成され、垂直走査部3、AD変換部4、出力部5、水平走査部6の各部の動作を制御する。
〔2.フィルタ処理の動作〕
次に、第1の実施形態に係るフィルタ処理の動作例について図3、図6A、図6B、図7Aおよび図7Bを参照して説明する。図6Aおよび図6Bは、第1の実施形態に係るフィルタ処理の動作例を示す図である。また、図7Aおよび図7Bは、第1の実施形態に係るフィルタ処理によって生成されるRエッジ画像の一例を示す図である。
第1の実施形態に係る固体撮像素子1は、フィルタFのフィルタ範囲に含まれる同色画素から同色画素信号をそれぞれ読み出し、読み出した同色画素信号を用いたフィルタ演算を行うことによってフィルタ範囲における一の代表値(デジタル形式の画素データ)を得る処理を行う。
具体的には、図3に示すように、垂直走査部3は、制御部7(図1参照)の制御に従い、フィルタ処理の対象となる色光(以下、「対象色光」と記載する)を受光する画素21が配置される行を現在のフィルタ範囲の中から選択する。
たとえば、図3に示す場合、垂直走査部3は、対象色光である赤(R)を受光する複数のR画素21のうち、フィルタ範囲に含まれる9つのR画素21_1〜21_9が配置される3つの行を順次選択する。また、切替部41は、制御部7の制御に従い、R画素21_1〜21_9に接続される3つの垂直信号線23_1〜23_3を、フィルタ中心となるR画素21_5が配置される列のカラム処理部42(左から3つ目のカラム処理部42)に順次接続する。
これにより、まず、9つのR画素21_1〜21_9のうち、垂直信号線23_1に接続される3つのR画素21_1〜21_3からそれぞれR画素信号が読み出されて、フィルタ中心となるR画素21_5に対応するカラム処理部42に順次入力される。
つづいて、カラム処理部42では、入力される複数のR画素信号を用いてフィルタ演算を行う。
具体的には、カラム処理部42では、R画素21_1〜21_3のうち、R画素21_1,21_3の画素信号に対してフィルタ係数「−1」を掛け合わせ、R画素21_2の画素信号に対してフィルタ係数「−2」を掛け合わせる乗算処理が行われる。
乗算処理は、たとえば、比較回路421の複数のスイッチ421bを制御して複数のコンデンサ421cの接続状態を切り替えることにより、R画素21_1〜21_3のそれぞれのR画素信号に対して適宜重み付けを行うことによって実現される。
また、カラム処理部42では、乗算処理後のR画素信号同士を足し合わせる加算処理が行われる。加算処理は、たとえば、比較回路421に接続される垂直信号線23上でのSF(Source Follower)加算により実現することができる。
R画素21_1〜21_3の各R画素信号に対して上記の乗算処理および加算処理が行われることにより、カラム処理部42のカウンタ回路422には、R画素21_1〜21_3についての演算結果(カウント値)が一時的に保持される。
つづいて、切替部41が、フィルタ中心となるR画素21_5が配置される列のカラム処理部42に垂直信号線23_2を接続し、制御部7が、比較回路421の複数のスイッチ421bを制御することにより、R画素21_4〜21_6の各R画素信号に対して乗算処理および加算処理を行う。これにより、カウンタ回路422には、R画素21_1〜21_3についての演算結果に加え、R画素21_4〜21_6についての演算結果が保持される。
つづいて、切替部41が、フィルタ中心となるR画素21_5が配置される列のカラム処理部42に垂直信号線23_3を接続し、制御部7が、比較回路421の複数のスイッチ421bを制御することにより、R画素21_7〜21_9の各R画素信号に対して乗算処理および加算処理を行う。これにより、カウンタ回路422には、R画素21_7〜21_9についての演算結果がさらに保持される。
その後、水平走査部6は、制御部7の制御に従って、フィルタ中心となるR画素21_5が配置される列のカラム処理部42に対して列選択線61(図1参照)を介して列選択パルスを出力する。これにより、R画素21_1〜21_3、R画素21_4〜21_6およびR画素21_7〜21_9についての各演算結果(カウント値)の合算値、すなわち、フィルタ中心となるR画素21_5に対応する一の代表値が水平信号線51へ出力される。
なお、固体撮像素子1は、図6Aに示すように、水平方向に複数のフィルタFを適用することにより、上記の処理すなわちあるフィルタ範囲について一の代表値を出力する処理を、水平方向について同時に実行することが可能である。
これにより、図7Aに示すように、各フィルタFのフィルタ中心となるR画素21_10〜21_12に対応するフィルタ処理後の画素データ21_10’〜21_12’が出力部5から出力される。
つづいて、固体撮像素子1は、上記の処理すなわちあるフィルタ範囲について一の代表値を出力する処理を、フィルタ範囲の位置を変えながら複数回実行する。
具体的には、固体撮像素子1は、図6Bに示すように、フィルタFの適用範囲を垂直方向にフィルタ単位分(ここでは、6画素分)ずらして上記と同様に各フィルタ範囲について一の代表値を出力する処理を行う。
これにより、図7Bに示すように、各フィルタFのフィルタ中心となるR画素21_13〜21_15に対応するフィルタ処理後の画素データ21_13’〜21_15’が出力部5から出力される。
このように、固体撮像素子1は、フィルタFをフィルタ単位でずらしながらフィルタ演算を繰り返し行うことにより、対象色光である赤(R)についてのエッジ画像であるRエッジ画像を生成することができる。
また、固体撮像素子1は、他の色光を対象色光として同様の処理を繰り返し行うことにより、他の色光のエッジ画像を順次出力することができる。なお、緑(G)については、R画素21と同じ行に配置されるG画素21のエッジ画像と、B画素21と同じ行に配置されるG画素21のエッジ画像とをそれぞれ生成して出力してもよい。
上述してきたように、第1の実施形態に係る固体撮像素子1は、画素アレイ部2と、垂直走査部3およびAD変換部4(演算部の一例)と、出力部5とを備える。画素アレイ部2は、受けた光を画素信号に変換する複数色の同色画素21が複数の行および複数の列に沿って配置される。垂直走査部3およびAD変換部4は、同一色の同色画素21から同色画素信号をそれぞれ読み出し、読み出した複数の同色画素信号の代表値を演算する。出力部5は、AD変換部4によって演算された代表値の集合を同一色ごとに外部へ出力する。
したがって、第1の実施形態に係る固体撮像素子1によれば、画像認識処理の処理負荷を低減することができる。
(第2の実施形態)
次に、第2の実施形態に係る固体撮像素子について説明する。図8は、第2の実施形態に係る画素の構成の一例を示す図である。
図8に示すように、第2の実施形態に係る複数の画素21Aの各々は、複数の分割画素211を含んで構成される。たとえば、図8に示す場合、R画素21Aは、2×2のR分割画素211を備え、G画素21Aは、2×2のG分割画素211を備え、B画素21Aは、2×2のB分割画素211を備える。
このように、複数の分割画素211を含む画素21Aを備えることにより、一の画素21Aから画素信号を複数回読み出すことが可能となる。
なお、ここでは、1つの画素21Aが4つの分割画素211に分割される場合の例を示したが、画素21Aの分割数は4つに限定されない。
図9は、第2の実施形態に係る画素アレイ部およびAD変換部の構成の一例を示す図である。なお、以下の説明では、既に説明した部分と同様の部分については、既に説明した部分と同一の符号を付し、重複する説明を省略する。
図9に示すように、画素アレイ部2Aには、複数の行選択線22と複数の垂直信号線23とが設けられており、各分割画素211は、いずれか1つの行選択線22および垂直信号線23にそれぞれ接続されている。これにより、1つの画素21Aに含まれる複数の分割画素211から個別に画素信号を読み出すことが可能である。
なお、画素アレイ部2Aに設けられる行選択線22および垂直信号線23の本数は、図示のものに限定されず、1つの画素21Aに含まれる複数の分割画素211から個別に画素信号を読み出すことができれば、他の構成であってもよい。
次に、第2の実施形態に係るフィルタ処理の動作について図10A〜10D、図11Aおよび図11Bを参照して説明する。図10A〜10Dは、第2の実施形態に係るフィルタ処理の動作例を示す図である。また、図11Aおよび図11Bは、第2の実施形態に係るフィルタ処理によって生成されるRエッジ画像の一例を示す図である。
図10Aに示すように、第2の実施形態に係る固体撮像素子1Aは、水平方向に複数のフィルタFを適用することにより、1回目のフィルタ演算を実行する。具体的には、固体撮像素子1Aは、各画素21Aに含まれる複数の分割画素211のうち何れか1つから画素信号を読み出して1回目のフィルタ処理を行う。
つづいて、図10Bに示すように、固体撮像素子1Aは、フィルタFの位置を水平方向に一画素分ずらして2回目のフィルタ処理を行う。このとき、固体撮像素子1Aは、1回目のフィルタ処理において画素信号を読み出した分割画素211とは異なる分割画素211から画素信号を読み出す。
つづいて、図10Cに示すように、固体撮像素子1Aは、フィルタFの位置を水平方向にさらに一画素分ずらして3回目のフィルタ処理を行う。このとき、固体撮像素子1Aは、1回目および2回目のフィルタ処理において画素信号を読み出した分割画素211とは異なる分割画素211から画素信号を読み出す。
これにより、図11Aに示すように、各フィルタFのフィルタ中心となるR画素21A_1〜21A_6・・・に対応するフィルタ処理後の画素データ21A_1’〜21A_6’が出力部5から出力される。
その後、図10Dに示すように、固体撮像素子1Aは、フィルタFの位置を垂直方向に一画素分ずつずらしながら、図10A〜10Cと同様の処理を繰り返す。これにより、図11Bに示すように、第1の実施形態に係る固体撮像素子1において生成されるRエッジ画像(図7B参照)よりも情報量の多いRエッジ画像を生成することができる。
このように、第2の実施形態に係る固体撮像素子1Aでは、同色画素の各々が、複数の分割画素を含んでおり、垂直走査部3およびAD変換部4が、読み出し対象とする分割画素211を変えつつ、一の同色画素21Aから同色画素信号を複数回読み出すこととした。したがって、第2の実施形態に係る固体撮像素子1Aによれば、第1の実施形態のように、一の同色画素から同色画素信号を1回のみ読み出してフィルタ処理を行う場合と比較して、フィルタ処理後の画像データの情報量を増加させることができる。
(第3の実施形態)
次に、第3の実施形態に係る固体撮像素子について図12を参照して説明する。図12は、第3の実施形態に係る固体撮像素子の構成の一例を示す図である。
図12に示すように、第3の実施形態に係る固体撮像素子1Bは、複数種類の画素データを同時に出力することが可能である。たとえば、固体撮像素子1Bは、垂直方向のエッジ画像の画素データと、水平方向のエッジ画像の画素データと、RAW画像の画素データとを同時に出力することができる。
固体撮像素子1Bは、たとえば第2の実施形態に係る画素アレイ部2Aと、垂直走査部3と、複数のAD変換部4X、4Y、8と、複数の出力部5X,5Y,9と、水平走査部6と、制御部7とを備える。
複数のAD変換部4X、4Y、8は、複数の垂直信号線23、複数の列選択線61および制御部7にそれぞれ接続される。また、AD変換部4Xは出力部5Xに接続され、AD変換部4Yは出力部5Yに接続され、AD変換部8は出力部9に接続される。
AD変換部8は、たとえば、画素アレイ部2Aにおける各列に対して単一に設けられた図示しないカラム処理部を備える。各カラム処理部は、垂直走査部3によって選択された読み出し行に配置される各画素21Aの何れかの分割画素211から垂直信号線23を介して入力される画素信号に対してAD変換処理を行う。
出力部9は、水平信号線91と、増幅部92と、出力端子93とを備える。水平信号線91は、AD変換部8に接続され、AD変換部8から出力されるデジタル形式の画素データを伝送する。増幅部92は、水平信号線91によって伝送される画素データを増幅する。出力端子93は、増幅部92によって増幅された画素データを外部に出力する。
固体撮像素子1Bは、画素アレイ部2A、垂直走査部3、AD変換部8、水平走査部6および制御部7を用いてRAW画像の画素データを生成して出力部9から出力する。
具体的には、垂直走査部3が、複数の行選択線22のうち何れか1つに行選択パルスを出力し、選択された1行分の画素信号をAD変換部8が列ごとにデジタル形式の画素データに変換する。つづいて、固体撮像素子1Bでは、水平走査部6が、AD変換処理後の画素データをたとえば赤(R)、緑(G)および青(B)ごとに水平信号線91に出力させる。これにより、1行分のRAW画像の画素データが外部へ出力される。そして、垂直走査部3により選択する行を垂直方向にずらしながら同様の処理を繰り返すことで、1フレーム分のRAW画像の画素データを出力することができる。
AD変換部4X,4Yおよび出力部5X,5Yの構成は、上述したAD変換部4および出力部5と同様である。よって、ここでの説明を省略する。
固体撮像素子1Bは、画素アレイ部2A、垂直走査部3、AD変換部4X、水平走査部6および制御部7を用いて垂直方向のエッジ画像を同一色ごとに生成して出力部5Xから出力する。垂直方向のエッジ画像を生成する場合におけるフィルタ処理の動作については、第1の実施形態において図3を用いて既に説明した通りである。
また、固体撮像素子1Bは、画素アレイ部2A、垂直走査部3、AD変換部4Y、水平走査部6および制御部7を用いて水平方向のエッジ画像を同一色ごとに生成して出力部5Yから出力する。
ここで、水平方向のエッジ画像を生成する場合の動作例について図3を参照して説明する。
まず、垂直走査部3は、制御部7の制御に従ってR画素21_1,21_4,21_7が配置される行を選択する。つづいて、切替部41は、制御部7の制御に従って、R画素21_1,21_4,21_7のR画素信号が、フィルタ中心となるR画素21_5が配置される列に対応するカラム処理部42に順次入力されるように、複数の垂直信号線23と複数のカラム処理部42との接続状態を切り替える。つづいて、カラム処理部42は、制御部7の制御に従って、垂直信号線23から順次入力されるR画素信号に対して乗算処理および加算処理を行う。これにより、カラム処理部42のカウンタ回路422には、R画素21_1,21_4,21_7についての演算結果(カウント値)が一時的に保持される。
つづいて、垂直走査部3は、制御部7の制御に従い、R画素21_2,21_5,21_8が配置される行を選択する。つづいて、切替部41は、制御部7の制御に従い、R画素21_2,21_5,21_8のR画素信号が、フィルタ中心となるR画素21_5が配置される列に対応するカラム処理部42に順次入力されるように、複数の垂直信号線23と複数のカラム処理部42との接続状態を切り替える。つづいて、カラム処理部42は、制御部7の制御に従い、垂直信号線23から順次入力されるR画素信号に対して乗算処理および加算処理を行う。これにより、カラム処理部42のカウンタ回路422には、R画素21_2,21_5,21_8についての演算結果(カウント値)がさらに保持される。
つづいて、垂直走査部3は、制御部7の制御に従い、R画素21_3,21_6,21_9が配置される行を選択する。つづいて、切替部41は、制御部7の制御に従い、R画素21_3,21_6,21_9のR画素信号が、フィルタ中心となるR画素21_5が配置される列に対応するカラム処理部42に順次入力されるように、複数の垂直信号線23と複数のカラム処理部42との接続状態を切り替える。つづいて、カラム処理部42は、制御部7の制御に従い、垂直信号線23から順次入力されるR画素信号に対して乗算処理および加算処理を行う。これにより、カラム処理部42のカウンタ回路422には、R画素21_3,21_6,21_9についての演算結果(カウント値)がさらに保持される。
その後、水平走査部6は、制御部7の制御に従い、フィルタ中心となるR画素21_5が配置される列に対応するカラム処理部42に対して列選択線61を介して列選択パルスを出力する。これにより、R画素21_1,21_4,21_7、R画素21_2,21_5,21_8およびR画素21_3,21_6,21_9についての各演算結果(カウント値)の合算値、すなわち、フィルタ中心となるR画素21_5に対応する一の代表値が水平信号線51Yへ出力される。以上の処理をフィルタ中心となる対象画素をずらしながら複数回実行することにより、水平方向のRエッジ画像を生成することができる。
このように、第3の実施形態に係る固体撮像素子1Bによれば、複数種類の画素データを外部へ出力することができる。
なお、固体撮像素子1Bは、AD変換部および出力部の組を増やすことで、より多くの種類の画像データを提供することが可能である。
たとえば、固体撮像素子1Bは、所定のサイズにリサイズされた画像データを外部に出力することも可能である。この場合、固体撮像素子1Bは、AD変換部および出力部の組を2組増やし、互いに異なる画素を使用してリサイズ処理を行うことで、たとえば、垂直方向に1/3間引いた画像データと、垂直方向に1/5間引いた画像データとを同時に出力することができる。
(第4の実施形態)
次に、第3の実施形態に係る固体撮像素子1Bを車載用の画像認識システムに適用した場合の例について図13を参照して説明する。図13は、第4の実施形態に係る画像認識システムの構成の一例を示すブロック図である。
図13に示す画像認識システム100は、撮像装置101と、車載装置102とを備える。撮像装置101は車両の外部に設けられ、車載装置102は車両の内部に設けられる。
撮像装置101は、たとえば車両の前方、後方および側方の何れかの位置に設けられる。撮像装置101は、固体撮像素子1Bと、固体撮像素子1Bに被写体からの入射光を導く光学系111とを備える。光学系111は、たとえば、入射光を集めるマイクロレンズと、入射光を赤(R)、緑(G)および青(B)の各成分に色分解するカラーフィルタとを含む。
車載装置102は、たとえばダッシュボードなど、車両内部の所定位置に設けられる。車載装置102は、認識処理部121と、表示部122と、音声出力部123とを備える。表示部122は、たとえばLCD(Liquid Crystal Display)やOELD(Organic Electro-Luminescence Display)等である。音声出力部123は、たとえばスピーカである。
認識処理部121は、固体撮像素子1Bの出力部5X,5Y,9に接続され、出力部5X,5Yから入力される垂直方向および水平方向のエッジ画像を用いて顔認識や動体検出といった画像認識処理を行う。そして、認識処理部121は、画像認識処理の結果に応じて表示部122に情報を表示したり、音声出力部123から音声を出力したりする。
たとえば、認識処理部121は、画像認識処理によって動体が検出された場合に、出力部9から入力されるRAW画像データを用い、検出された動体の周囲に枠画像を重畳させた画像を生成して表示部122に表示させる。これにより、運転者に対して歩行者等の存在を認識させることができる。
このように、第4の実施形態に係る画像認識システム100によれば、エッジ画像を出力する固体撮像素子1Bを用いることにより、認識処理部121の処理負荷を低減することができる。
なお、ここでは、第3の実施形態に係る固体撮像素子1Bを用いる場合の例について説明したが、固体撮像素子1Bに代えて、第1の実施形態に係る固体撮像素子1または第2の実施形態に係る固体撮像素子1Aを用いてもよい。
上述した各実施形態では、フィルタ処理の一例として、エッジフィルタを用いたエッジ抽出処理を行う場合の例について説明したが、フィルタ処理は、たとえば平滑化フィルタを用いた平滑化処理など、エッジ抽出処理以外の処理であってもよい。
以上、本発明の実施形態を例示したが、上記実施形態および変形例はあくまで一例であって、発明の範囲を限定することは意図していない。上記実施形態や変形例は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、組み合わせ、変更を行うことができる。また、各実施形態や各変形例の構成や形状は、部分的に入れ替えて実施することも可能である。
1…固体撮像素子、2…画素アレイ部、3…垂直走査部、4…AD変換部、5…出力部、6…水平走査部、7…制御部、21…画素、22…行選択線、23…垂直信号線、41…切替部、42…カラム処理部、51…水平信号線、52…増幅部、53…出力端子、61…列選択線、F…フィルタ。

Claims (5)

  1. 受けた光を画素信号に変換する複数色の同色画素が複数の行および複数の列に沿って配置された画素アレイ部と、
    同一色の前記同色画素から同色画素信号をそれぞれ読み出し、読み出した複数の前記同色画素信号の代表値を演算する演算部と、
    前記演算部によって演算された前記代表値の集合を前記同一色ごとに外部へ出力する出力部と
    を備える固体撮像素子。
  2. 前記演算部は、
    2以上の前記行および2以上の前記列のフィルタ範囲に含まれる前記同色画素から前記同色画素信号をそれぞれ読み出し、該同色画素信号を用いたフィルタ演算を行うことによって前記フィルタ範囲における一の前記代表値を得る処理を、前記フィルタ範囲の位置を変えながら複数回実行する、
    請求項1に記載の固体撮像素子。
  3. 前記演算部は、
    前記複数の列の少なくとも1つに対応して設けられ、前記同色画素から読み出された前記同色画素信号を伝送する複数の垂直信号線と、
    前記複数の列の少なくとも1つに対応して設けられ、入力される前記同色画素信号に対して前記フィルタ演算を行う複数のカラム処理部と、
    前記複数の垂直信号線と前記複数のカラム処理部との間に設けられ、前記複数の垂直信号線と前記複数のカラム処理部との接続状態を切り替えることによって前記同色画素信号を一の前記カラム処理部へ入力させる切替部と
    を備える、
    請求項2に記載の固体撮像素子。
  4. 前記カラム処理部は、
    アナログ−デジタル変換処理に用いられる比較回路およびカウンタ回路を用いて前記フィルタ演算を行う、
    請求項3に記載の固体撮像素子。
  5. 前記同色画素の各々は、
    複数の分割画素を含んでおり、
    前記演算部は、
    読み出し対象とする前記分割画素を変えつつ、一の前記同色画素から前記同色画素信号を複数回読み出す、
    請求項1〜4のいずれか一つに記載の固体撮像素子。
JP2017012462A 2017-01-26 2017-01-26 固体撮像素子 Pending JP2018121254A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017012462A JP2018121254A (ja) 2017-01-26 2017-01-26 固体撮像素子
US15/877,499 US20180211988A1 (en) 2017-01-26 2018-01-23 Solid state imaging device
CN201810067372.4A CN108366236A (zh) 2017-01-26 2018-01-24 固体拍摄元件

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017012462A JP2018121254A (ja) 2017-01-26 2017-01-26 固体撮像素子

Publications (1)

Publication Number Publication Date
JP2018121254A true JP2018121254A (ja) 2018-08-02

Family

ID=62907105

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017012462A Pending JP2018121254A (ja) 2017-01-26 2017-01-26 固体撮像素子

Country Status (3)

Country Link
US (1) US20180211988A1 (ja)
JP (1) JP2018121254A (ja)
CN (1) CN108366236A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6910680B1 (ja) * 2020-12-25 2021-07-28 株式会社SensAI 撮像システム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004266369A (ja) * 2003-02-21 2004-09-24 Sony Corp 固体撮像装置およびその駆動方法
JP2006033452A (ja) * 2004-07-16 2006-02-02 Sony Corp データ処理方法およびデータ処理装置並びに物理量分布検知の半導体装置および電子機器
JP2011029379A (ja) * 2009-07-24 2011-02-10 Sony Corp 固体撮像装置とその製造方法並びにカメラ

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5251412B2 (ja) * 2008-10-09 2013-07-31 ソニー株式会社 固体撮像素子およびその駆動方法、並びにカメラシステム
CN105794203B (zh) * 2013-12-04 2020-03-20 拉姆伯斯公司 高动态范围图像传感器

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004266369A (ja) * 2003-02-21 2004-09-24 Sony Corp 固体撮像装置およびその駆動方法
JP2006033452A (ja) * 2004-07-16 2006-02-02 Sony Corp データ処理方法およびデータ処理装置並びに物理量分布検知の半導体装置および電子機器
JP2011029379A (ja) * 2009-07-24 2011-02-10 Sony Corp 固体撮像装置とその製造方法並びにカメラ

Also Published As

Publication number Publication date
CN108366236A (zh) 2018-08-03
US20180211988A1 (en) 2018-07-26

Similar Documents

Publication Publication Date Title
KR101934696B1 (ko) 촬상소자
US20180166486A1 (en) Solid-state image sensor and camera
JP6239975B2 (ja) 固体撮像装置及びそれを用いた撮像システム
US10594948B2 (en) Imaging device that generates multiple-exposure image data
US10666881B2 (en) Solid-state image sensor and electronic device
JP6234054B2 (ja) 撮像装置および撮像装置の制御方法
CN105763819A (zh) 图像传感器和摄像设备
JP7046551B2 (ja) 固体撮像装置及び撮像システム
JP5845140B2 (ja) 撮像素子及び撮像装置
US10594996B2 (en) Image processing apparatus, image pickup device, image pickup apparatus, and image processing method
US10516859B2 (en) Solid-state image sensor and electronic device
US10033951B2 (en) Image sensor that performs different readout operations and image capturing apparatus including image sensor
US8792036B2 (en) Image sensor and image capture apparatus
JP2020068501A (ja) 撮像装置及び撮像システム
US10362252B2 (en) Solid-state image sensor, image capturing apparatus and control method thereof, and storage medium
US20140104470A1 (en) Data transfer circuit, imaging device and imaginapparatus
US10313612B2 (en) Image sensor, control method, and electronic device
US20190075263A1 (en) Methods and apparatus for high dynamic range imaging
JP2018121254A (ja) 固体撮像素子
JP2013197613A (ja) 撮像装置、画像処理装置及び画像処理プログラム
JP2018007066A (ja) 撮像装置
US20130063638A1 (en) Image pickup device and evaluation value generating device
CN112585960B (zh) 摄像元件、摄像装置、摄像方法以及存储介质
JP2015114702A (ja) 画像処理装置、画像処理方法、および撮像装置
EP3952293A1 (en) Imaging element and imaging device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200622

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200721

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210202