JP2022114353A - 撮像装置、電子機器、および、画像生成装置 - Google Patents
撮像装置、電子機器、および、画像生成装置 Download PDFInfo
- Publication number
- JP2022114353A JP2022114353A JP2021010625A JP2021010625A JP2022114353A JP 2022114353 A JP2022114353 A JP 2022114353A JP 2021010625 A JP2021010625 A JP 2021010625A JP 2021010625 A JP2021010625 A JP 2021010625A JP 2022114353 A JP2022114353 A JP 2022114353A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- image
- imaging
- pixels
- imaging device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 119
- 238000012545 processing Methods 0.000 claims abstract description 74
- 238000006243 chemical reaction Methods 0.000 claims abstract description 10
- 238000000034 method Methods 0.000 claims abstract description 10
- 230000008569 process Effects 0.000 claims abstract description 7
- 229920006395 saturated elastomer Polymers 0.000 claims description 50
- 239000000758 substrate Substances 0.000 claims description 50
- 238000012937 correction Methods 0.000 claims description 16
- 230000035945 sensitivity Effects 0.000 claims description 5
- 239000004065 semiconductor Substances 0.000 description 16
- 238000010586 diagram Methods 0.000 description 8
- 230000015572 biosynthetic process Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 238000003786 synthesis reaction Methods 0.000 description 7
- 239000010410 layer Substances 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 230000002194 synthesizing effect Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007717 exclusion Effects 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000011229 interlayer Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000009416 shuttering Methods 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/68—Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/86—Camera processing pipelines; Components thereof for processing colour signals for controlling the colour saturation of colour signals, e.g. automatic chroma control circuits
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
Description
本発明は、撮像装置、電子機器、および、画像生成装置に関する。
CMOSイメージセンサなどの、光電変換素子を使用した撮像装置において、ダイナミックレンジの拡大が求められている。特許文献1には、イメージセンサの画素から得られた複数のフレームの画像を、イメージセンサの外部に設けられたDSPの積分メモリで積分し、ダイナミックレンジを向上させることが示されている。
特許文献1は、ダイナミックレンジを向上させることができるものの、飽和画素が存在するフレームがある場合に、生成される画像に輝度むらや色むらなどが生じて画質が低下する可能性がある。
本発明は、撮像装置において、ダイナミックレンジを向上させ、かつ、画質を向上させるのに有利な技術を提供することを目的とする。
上記課題に鑑みて、本発明の実施形態に係る撮像装置は、光電変換素子をそれぞれ含む複数の画素が配された撮像部と、前記撮像部から出力された信号を処理する信号処理部と、前記撮像部から出力された信号を記憶し、前記信号処理部に転送する記憶部と、を含む撮像装置であって、前記記憶部は、前記撮像部に配された前記複数の画素が出力する複数の画像信号を複数のサブフレームとして記憶した後に、前記複数のサブフレームのうちの所定の条件を満たすサブフレームを1枚のフレームを構成するための信号として出力することを特徴とする。
本発明によれば、撮像装置において、ダイナミックレンジを向上させ、かつ、画質を向上させるのに有利な技術を提供することができる。
以下、添付図面を参照して実施形態を詳しく説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
図1~図5を参照して、本開示の実施形態による撮像装置について説明する。図1は、本実施形態の撮像装置100の構成例の概略を示すブロック図である。図1に示されるように、撮像装置100は、撮像部110、記憶部120、信号処理部130を含む。
撮像部110には、光電変換素子をそれぞれ含む複数の画素が、平面視において2次元アレイ状に配されている。平面視とは、後述する基板の光入射面に対して垂直な方向から視ることを指す。また、断面とは、基板の光入射面と垂直な方向における面を指す。なお、微視的に見て基板の光入射面が粗面である場合は、巨視的に見たときの基板の光入射面を基準として平面視を定義する。撮像部110において、各画素に入射した光は、入射光量に応じた電気信号に変換される。例えば、撮像部110は、MOSトランジスタを含むCMOSイメージセンサであってもよい。撮像部110は、例えば、アナログ/デジタル(A/D)変換回路を含み、それぞれの画素に配された光電変換素子で生成されたアナログ信号を、デジタル信号に変換して出力しうる。
記憶部120は、撮像部110から出力される画像信号を記憶する。具体的には、撮像部110に配された複数の画素の各画素の画素値を含む画像信号を記憶する。そして、記憶部120は、記憶された画像信号を信号処理部130に転送する。記憶部120は、本実施形態において、撮像部110で生成された画像信号のデータを蓄積するDRAM(Dynamic Random Access Memory)などのメモリでありうる。
図1に示される構成において、信号処理部130は、撮像部110から出力される信号から画像データを生成する。信号処理部130は、制御部131および処理部132を含む。制御部131は、記憶部120を構成するDRAMへの画像信号の書き込みや、記憶部120に書き込まれた信号を処理部132へ読み出す制御を行う。また、制御部131は、処理部132を制御する。処理部132は、制御部131の制御に従って、記憶部120に一時的に記憶された複数の画像信号を用いて、加算、平均、除算、ビットシフト(ビット拡張)などの演算処理を行い、複数の画像信号から1つの画像データを生成する。より具体的には、処理部132は、ハイダイナミックレンジ合成(High-dynamic-range rendering:HDR)処理を行い、表示用の画像データを生成する。撮像装置100において生成された画像データは、撮像装置100から出力され、例えば、図1に示されるように表示部190において表示されうる。ここで、処理部132における画像データの生成は必須ではなく、表示部190において画像が表示可能となるようなデータ(例えば、画像信号)が処理部132から出力される構成を有していればよい。
次いで、図1および図2を用いてHDR処理および画像データの出力について説明する。図2は、信号処理部130のうち制御部131の構成例の概略を示すブロック図である。HDR処理は、撮像部110の各画素から出力される画素値をそれぞれ含む複数の画像信号を合成し、1回の撮像で得られる以上の階調性を得る処理である。以下の説明において、説明および演算式の例を簡単化するために、同じ階調数のN枚の画像信号を用いて、1枚の画像データを加算合成する例を示す。しかしながら、これに限られることはなく、撮像の条件が異なる複数の画像信号を合成する場合であっても、本開示は適用可能であり、その場合は、HDR合成を行う際の演算式を撮像の条件などに応じて適宜、重みづけをした演算を行えばよい。
まず、撮像を開始すると、撮像部110に配された複数の画素の各画素の画素値を含む画像信号が、撮像部110から記憶部120に出力される。信号処理部130の制御部131は、記憶部120に蓄積される画像信号の数をカウントし、N(Nは2以上の整数)回分の画像信号を蓄積した後、処理部132から1枚の画像データとして1回で出力する。つまり、記憶部120は、Nフレーム分の画像信号をN個のサブフレームとして記憶、蓄積し、1枚のフレーム(画像)を構成するための信号として処理部131へと出力する。1フレームは、例えば、撮像部110に配された複数の画素から得られる画像信号から生成することができる。つまり、1フレームは、複数の画素の1行目の画素から最終行の画素までの画像信号から生成することができる。N回分の画像信号を蓄積することによって、複数の画像信号のそれぞれの信号のビット数よりも、画像データ(1枚のフレームのそれぞれの信号)のビット数の方が多くなる。つまり、撮像部110に配された画素の容量値が小さく、信号値が飽和しやすい場合であっても、複数の画像信号の数の分、得られる画像データのダイナミックレンジを増やすことが可能となる。
しかしながら、それぞれの画像信号において、画素値が所定の閾値を超えて飽和してしまった飽和画素が存在する可能性がある。所定の閾値とは、例えば、画素に配された光電変換素子の飽和容量を超える値である。飽和画素からの出力を含む複数の画像信号を1つの画像データに合成した場合、画質が劣化してしまう可能性がある。例えば、撮像装置が複数の異なる色を透過するカラーフィルタを含み、カラーフィルタを透過した光を光電変換素子が光電変換する場合は、色ずれが生じうる。また、例えば、街頭カメラなど屋外に設置される電子カメラにおいて、蛍光灯や信号機などのLED照明は、フレームごとに輝度変動するフリッカ現象を起こすなど、明るさが不規則に変化しうる。このため、事前に撮像条件を調整していたとしても、飽和した画素値を含む画像信号が発生してしまう可能性がある。
そこで、本実施形態において、信号処理部130の制御部131は、記憶部120に画像信号を蓄積する際に、それぞれの画像信号(サブフレーム)を構成する各画素の画素値が所定の閾値を超えて飽和に達しているか否かを判定する。例えば、制御部131は、図2に示されるように、画像信号を構成する各画素の画素値が所定の閾値を超えて飽和に達しているか否かを判定する判定部201を含んでいてもよい。また、このとき、信号処理部130の制御部131は、飽和画素から出力された画素値を含む画像信号の数(ここでは、M枚とする)、または、閾値を超えて飽和した画素値を含まない画像信号の数(N-M枚)をカウントする。例えば、制御部131は、図2に示されるように、これらの画像信号の数をカウントするカウント部202を含んでいてもよい。さらに、信号処理部130の制御部131は、複数の画像信号のうち飽和画素から出力された画素値を含む画像信号の数、または、飽和した画素値を含まない画像信号の数に基づいて、補正係数を生成する。例えば、制御部131は、図2に示されるように、補正係数を生成するための補正係数生成部203を含んでいてもよい。本実施形態において、補正係数は、{N/(N-M)}となりうる。
次いで、信号処理部130の処理部132は、複数の画像信号のうち飽和した画素値を含まない画像信号を補正係数に従って補正し、1枚のフレームを構成するための信号を生成する。例えば、処理部132は、表示部190で表示を行うための画像用のデータでありうる1つの画像データを生成する。例えば、処理部132は、記憶部120に一時的に記憶された飽和した画素値を含まない画像信号を加算し、さらに、補正係数{N/(N-M)}を乗算する演算を行う。これによって、N回分の画像信号を加算することによってN倍のビット数の画像データを得る処理において、飽和した画素値を含む画像信号を除外して加算したことによって(N-M)倍のビット数に留まってしまうことを補正する。
以上の処理によって、撮像部110に配された画素の容量が小さい場合であっても、N回分の撮像によって、得られる画像データのビット数を増やすことができる。また、飽和した画素値を含む画像信号をHDR合成の際に用いないことによって、色ずれなどのない画像データを取得することが可能となる。結果として、本実施形態において、ダイナミックレンジを向上と画質を向上とを両立させた撮像装置100を得ることができる。
上述において、飽和画素から出力された画素値を含む画像信号をHDR合成に用いないことを説明した。換言すると、信号処理部130の判定部201は、画像信号中に複数の画素のうち1画素以上の飽和画素が存在するか否かで、HDR合成から画像信号を除外するか否かを判定している。しかしながら、これに限られることはない。信号処理部130は、撮像部110が出力する、複数の画素の各画素の画素値をそれぞれ含む複数の画像信号のうち、それぞれの画像信号を構成する各画素の画素値が所定の条件を満たす画像信号に基づいて1つの画像データを生成すればよい。
例えば、信号処理部130の判定部201は、複数の画像信号のそれぞれにおいて、画素値が所定の閾値を超える飽和画素の数が所定の数以下であるか否かを判定してもよい。HDR合成に用いる画像信号に含まれる飽和画素からの出力の数は、撮像装置100の仕様に応じて、適宜設定すればよい。この場合、信号処理部130の処理部132は、複数の画像信号のうち飽和画素の数が所定の数以下である画像信号に基づいて1つの画像データを生成しうる。また、この場合、信号処理部130の補正係数生成部203は、複数の画像信号のうち飽和画素の数が所定の数以下の(または、所定の数を超える)画像信号の数に基づいて、補正係数を生成しうる。さらに、信号処理部130の処理部132は、複数の画像信号のうち飽和画素の数が所定の数以下の(または、所定の数を超える)画像信号を補正係数に従って補正し、1つの画像データを生成しうる。
また、画素値が飽和しているか否かの判定は、画像信号に含まれる各画素の画素値の任意の出力値を閾値に設定してもよい。撮像部110に配された複数の画素は、互いに異なる波長帯域の光に感度を有する複数の画素群(例えば、赤の波長域に感度を有するR画素群、緑の波長域に感度を有するG画素群、青の波長域に感度を有するB画素群)を含みうる。撮像装置100の仕様に応じて、画素の色ごと、出力チャネルごとなど、画素値が飽和しているか否かの閾値は、個別で設定してもよい。つまり、画素値が飽和しているか否かの閾値が、複数の画素群(例えば、R画素群、G画素群およびB画素群)のそれぞれの画素群ごとに異なっていてもよい。
上述の実施形態では、飽和している画素値を含む画像信号を用いないことによって、画質を向上させることを説明した。しかしながら、これに限られることはない。例えば、飽和画素の画素値を、撮像部110に配された複数の画素のうち飽和画素に近接する画素の画素値に基づいて補正し、飽和画素を含まない画像信号と、飽和画素の画素値を補正した画像信号と、に基づいて1つの画像データが生成されてもよい。例えば、R画素群、G画素群、B画素群を含み構成される撮像部110から取得した画像信号において、R画素群に含まれる画素が飽和している場合を考える。この場合、飽和画素を含まない画像信号のRGB出力から色ごとの出力の相対比を求め、飽和した画素に近接するG画素やB画素の出力から画素値が飽和した画素の出力を推定して補正してもよい。つまり、信号処理部130(例えば、補正係数生成部203)が、飽和画素の信号値を、複数の画素群のうち飽和画素を含む画素群(R画素群)とは異なる画素群(G画素群やB画素群)の画素の画素値に基づいて補正してもよい。また、画像信号中の位置(座標、エリアなど)を所定の条件に基づいて判定し、位置に基づいて補正が実施されてもよい。
本実施形態において、画像信号を取得した回数分のビット数を保持するため、画像信号を(N-M)回分、加算したデータに補正係数として{N/(N-M)}を乗算する処理を行ったが、飽和画素から出力された画素値を含む画像信号を除外するのみにとどめてもよい。また、例えば、補正係数{N/(N-M)}に適当な重みづけ係数を追加して、ダイナミックレンジに対して出力が適正になるようにしてもよい。この場合、飽和画素から出力された画素値を含む画像信号の飽和画素以外の画素値を参照して重みづけ係数が、生成されてもよいし、別途、画素への入射光量を検出する検出部などを設けて重みづけ係数が、生成されてもよい。複数の画像信号を加算した後の画像データに対して、適当な重みづけができればよい。
また、本実施形態において、記憶部120としてDRAMを用いることを説明した。しかしながら、これに限られることはない。上述の処理が高速に行えれば、揮発性メモリや不揮発性メモリなど、適当な記憶装置が用いられればよい。また、記憶部120としてDRAMを用い、さらに撮像装置100から出力された画像データを、ハードディスクやフラッシュメモリなどの不揮発性メモリに記憶(記録)してもよい。
また、上述の演算処理は、記憶部120、制御部131および処理部132を含む信号処理部130で実現可能であれば、いずれのブロックで機能分担してもよい。本実施形態において、制御部131が、記憶部120の書き込み読み出しの制御、撮像部110から出力される画像信号の数のカウント、画素値が閾値以下であるか否かの判定(飽和の判定)飽和画素から出力された画素値を含む画像信号の除外、補正係数の生成などの処理を行うとしたが、これに限られるものではない。それぞれの機能が、別々、又は適当に組み合わされた構成によって実行されてもよい。また、例えば、処理部132が行うし演算処理が、制御部131で実行されてもよい。
図3(a)~図3(c)を用いて、本実施形態の撮像装置100の各構成の配置例について説明する。上述のように複数の画像信号を合成し1つの画像データを生成する場合、動画像の撮像など、画像データを生成する速度を維持するために、高速な処理が必要となる。このため、撮像装置100は、各種の信号を転送するための配線パターン長が短くなりうる積層構造を有する半導体チップを含むことが好ましい。積層構造を有する半導体チップとは、複数の半導体層が配線層を介して積層された構造である。積層構造で構成された1つの半導体チップに、撮像部110および信号処理部130が配されることによって、高速な画像処理が実現しうる。なお、撮像部110、記憶部120、および、信号処理部130のすべての構成が1つの半導体チップに配される必要はない。例えば、後述するように、記憶部120がある基板に配されており、当該基板と撮像部110を有する基板とが積層されていない構成としてもよい。
例えば、撮像装置100が、図1に示される構成を有する場合は、図3(a)に示される構成や、図3(c)に示される構成を採用することができる。図3(a)は、積層して配された基板410および基板420を含む、撮像装置100を開示している。基板410は撮像部110を含み、基板420は信号処理部130および記憶部120を含む。この場合、基板410の側から(図3(a)の上側)から光が入射しうる。なお、光の入射側は、図3(b)、図3(c)の構成においても同様である。また、基板410、420は、シリコンなどの半導体基板と、配線パターンおよび層間絶縁層を含む配線部と、を含む。
さらに、例えば、図3(c)に示されるように、撮像装置100が、積層して配された基板410、基板420および基板430を含んでいてもよい。この場合、例えば、基板410が撮像部110を含み、基板430が記憶部120を含み、基板420が信号処理部130を含む。基板430は、基板410と基板420との間に配される。なお、基板420と基板430とは入れ替えて積層されてもよい。つまり、信号処理部130を有する基板420が、記憶部120を有する基板430と基板410との間に配されていてもよい。
また、例えば、撮像装置100が、図4に示されるような構成を有する場合、図3(b)に示されるように、基板410が撮像部110を有し、基板420が信号処理部130を有する。この場合、上述のように記憶部120は、異なる半導体チップに配されている。基板410と基板420とが積層された半導体チップと、記憶部120が配された半導体チップとは、例えば、同じ半導体パッケージ内に配されうる。
撮像装置100が積層チップである場合、図3(a)~図3(c)に示されるようにそれぞれの構成が、1つの基板上で完結していなくてもよい。例えば、図3(a)に示される構成において、記憶部120が、基板410と基板420との両方に配されていてもよい。また、例えば、図3(c)に示される構成において、信号処理部130が基板420と基板430とに配されていてもよい。この場合、例えば、基板420に信号処理部130のうち制御部131の機能が搭載され、基板430に信号処理部130のうち処理部132の機能が搭載されていてもよい。撮像装置100に求められる仕様に応じて、適当な配置がそれぞれ選択されればよい。
図3(b)、図4に示されるように、記憶部120が配された基板を撮像部110が配された基板と積層させない場合、各基板を積層した場合よりも、撮像部110と記憶部120との間の配線数が多くなり、回路設計も複雑になりうる。しかしながら、記憶部120を有する基板と撮像部110を有する基板とを積層させないことによって、より大容量の記憶部120を用いることが可能となりうる。結果として、ダイナミックレンジの拡大に用いることができる画像信号の枚数が増え、よりダイナミックレンジが大きく、画質が向上した画像を得ることが可能となる。
上述の実施形態では、撮像部110によって撮像された画像信号を、信号処理部130がHDR合成を行う撮像装置100について説明したが、本開示は、これに限られることはない。例えば、信号処理部130が、単独で用いられてもよい。つまり、信号処理部130(画像生成装置とも呼ばれうる。)に、撮像装置100とは別の撮像装置に配された撮像部からの画像信号が入力され、信号処理部130がHDR合成を行い、画像データが生成されてもよい。また、上述の画像データを生成する方法のそれぞれの工程が、撮像装置100の外部に配されたコンピュータなどで実施されてもよい。
上述の実施形態に係る撮像装置100の応用例を以下に説明する。図5は、撮像装置100を搭載した電子機器EQPの模式図である。図5は、電子機器EQPの一例としてカメラを示している。ここで、カメラの概念には、撮影を主目的とする装置のみならず、撮影機能を補助的に備える装置(例えば、パーソナルコンピュータや、スマートフォンなどの携帯端末)も含まれる。
撮像装置100は、撮像部110が設けられた積層構造の半導体チップでありうる。撮像装置100は、図5に示されるように、半導体パッケージPKGに収容されている。撮像装置100が、図3に示されるような構成を有する場合、記憶部120は、この半導体パッケージPKG内に配されていてもよい。パッケージPKGは、撮像装置100が固定された基体と、撮像装置100に対向するガラスなどの蓋体と、基体に設けられた端子と撮像装置100に設けられた端子とを接続するボンディングワイヤやバンプなどの導電性の接続部材と、を含みうる。機器EQPは、光学系OPT、制御装置CTRL、処理装置PRCS、表示装置DSPL、記憶装置MMRYの少なくともいずれかをさらに備えていてもよい。
光学系OPTは、撮像装置100に結像するものであり、例えば、レンズやシャッタ、ミラーでありうる。制御装置CTRLは、撮像装置100の動作を制御するものであり、例えば、ASICなどの半導体デバイスでありうる。処理装置PRCSは、撮像装置100から出力された信号を処理するものであり、CPUやASICなどの半導体デバイスでありうる。表示装置DSPLは、撮像装置100で上述のHDR合成を行い得られた画像データを表示する、EL表示装置や液晶表示装置でありうる。記憶装置MMRYは、撮像装置100で得られたHDR合成された画像データを記憶する、磁気デバイスや半導体デバイスである。記憶装置MMRYは、SRAMやDRAMなどの揮発性メモリ、あるいは、フラッシュメモリやハードディスクドライブなどの不揮発性メモリでありうる。機械装置MCHNはモーターやエンジンなどの可動部あるいは推進部を有する。カメラにおける機械装置MCHNはズーミングや合焦、シャッタ動作のために光学系OPTの部品を駆動することができる。機器EQPでは、撮像装置100から出力された画像データを表示装置DSPLに表示したり、機器EQPが備える通信装置(不図示)によって外部に送信したりする。このため、機器EQPは、撮像装置100が有する信号処理部130や記憶部120などに含まれる記憶回路部や演算回路部とは別に、記憶装置MMRYや処理装置PRCSをさらに備えていてもよい。
撮像装置100が組み込まれたカメラは、監視カメラや、自動車や鉄道車両、船舶、航空機あるいは産業用ロボットなどの輸送機器に搭載される車載カメラなどにも適用されうる。加えて、撮像装置100が組み込まれたカメラは、輸送機器に限らず、高度道路交通システム(ITS)など、広く物体認識を利用する機器に適用することができる。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワークまたは各種の記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータにおける1つ以上のプロセッサ(例えば、CPUやMPU。)がプログラムを読み出して実行する処理である。また、1つ以上の機能を実現する回路(例えば、ASIC。)によっても実現可能である。
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
100:撮像装置、110:撮像部、130:信号処理部
Claims (13)
- 光電変換素子をそれぞれ含む複数の画素が配された撮像部と、前記撮像部から出力された信号を処理する信号処理部と、前記撮像部から出力された信号を記憶し、前記信号処理部に転送する記憶部と、を含む撮像装置であって、
前記記憶部は、前記撮像部に配された前記複数の画素が出力する複数の画像信号を複数のサブフレームとして記憶した後に、前記複数のサブフレームのうちの所定の条件を満たすサブフレームを1枚のフレームを構成するための信号として出力することを特徴とする撮像装置。 - 前記信号処理部は、
前記複数の画像信号のそれぞれにおいて、画素値が所定の閾値を超える飽和画素の数が所定の数以下であるか否かを判定し、
前記複数の画像信号のうち前記飽和画素の数が所定の数以下である画像信号を前記1枚のフレームを構成するための信号とすることを特徴とする請求項1に記載の撮像装置。 - 前記信号処理部は、
前記複数の画像信号のうち前記飽和画素の数が所定の数以下の画像信号の数に基づいて、補正係数を生成し、
前記複数の画像信号のうち前記飽和画素の数が所定の数以下の画像信号を前記補正係数に従って補正することを特徴とする請求項2に記載の撮像装置。 - 前記複数の画素は、互いに異なる波長帯域の光に感度を有する複数の画素群を含み、
前記信号処理部は、前記複数の画像信号のそれぞれにおいて、前記複数の画素群のそれぞれの画素群ごとに、前記飽和画素の数が所定の数以下であるか否かを判定することを特徴とする請求項2または3に記載の撮像装置。 - 前記閾値が、前記複数の画素群のそれぞれの画素群ごとに異なることを特徴とする請求項4に記載の撮像装置。
- 前記信号処理部は、
前記複数の画像信号のそれぞれにおいて、画素値が所定の閾値を超える飽和画素が存在するか否かを判定し、
前記飽和画素の画素値を、前記複数の画素のうち前記飽和画素に近接する画素の画素値に基づいて補正し、
前記複数の画像信号のうち前記飽和画素を含まない画像信号と、前記複数の画像信号のうち前記飽和画素の画素値を補正した画像信号と、に基づいて前記1枚のフレームのデータを生成することを特徴とする請求項1に記載の撮像装置。 - 前記複数の画素は、互いに異なる波長帯域の光に感度を有する複数の画素群を含み、
前記信号処理部は、前記飽和画素の信号値を、前記複数の画素群のうち前記飽和画素を含む画素群とは異なる画素群の画素の画素値に基づいて補正することを特徴とする請求項6に記載の撮像装置。 - 前記撮像装置は、積層して配された第1基板および第2基板を含み、
前記第1基板が、前記撮像部を含み、
前記第2基板が、前記信号処理部を含むことを特徴とする請求項1乃至7の何れか1項に記載の撮像装置。 - 前記第2基板が、前記記憶部を含むことを特徴とする請求項8に記載の撮像装置。
- 前記撮像装置は、前記第1基板と積層して配された第3基板をさらに含み、
前記第3基板が、前記記憶部を含むことを特徴とする請求項8に記載の撮像装置。 - 前記複数の画像信号のそれぞれの信号のビット数よりも、前記1枚のフレームのそれぞれの信号のビット数の方が多いことを特徴とする請求項1乃至10の何れか1項に記載の撮像装置。
- 請求項1乃至11の何れか1項に記載の撮像装置と、
前記撮像装置の動作を制御する制御装置と、
を備えることを特徴とする電子機器。 - 光電変換素子をそれぞれ含む複数の画素が配された撮像装置から出力される信号から画像データを生成する画像生成装置であって、
前記画像生成装置は、
前記撮像装置から、前記複数の画素の各画素の画素値をそれぞれ含む複数の画像信号を取得し、
前記複数の画像信号のうちそれぞれの画像信号を構成する各画素の画素値が所定の条件を満たす画像信号に基づいて1つの画像データを生成することを特徴とする画像生成装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021010625A JP2022114353A (ja) | 2021-01-26 | 2021-01-26 | 撮像装置、電子機器、および、画像生成装置 |
US17/579,715 US11778153B2 (en) | 2021-01-26 | 2022-01-20 | Imaging device, electronic device, and image generation device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021010625A JP2022114353A (ja) | 2021-01-26 | 2021-01-26 | 撮像装置、電子機器、および、画像生成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022114353A true JP2022114353A (ja) | 2022-08-05 |
JP2022114353A5 JP2022114353A5 (ja) | 2024-01-31 |
Family
ID=82494996
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021010625A Pending JP2022114353A (ja) | 2021-01-26 | 2021-01-26 | 撮像装置、電子機器、および、画像生成装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11778153B2 (ja) |
JP (1) | JP2022114353A (ja) |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003259234A (ja) | 2002-02-26 | 2003-09-12 | Tohoku Techno Arch Co Ltd | Cmosイメージセンサ |
JP2012257193A (ja) * | 2011-05-13 | 2012-12-27 | Sony Corp | 画像処理装置、撮像装置、および画像処理方法、並びにプログラム |
JP5956755B2 (ja) | 2012-01-06 | 2016-07-27 | キヤノン株式会社 | 固体撮像装置および撮像システム |
JP6339851B2 (ja) | 2014-05-01 | 2018-06-06 | キヤノン株式会社 | 固体撮像装置及びその駆動方法 |
JP6385192B2 (ja) | 2014-08-14 | 2018-09-05 | キヤノン株式会社 | 撮像装置、撮像システム及び撮像システムの駆動方法 |
JP6584131B2 (ja) | 2015-05-08 | 2019-10-02 | キヤノン株式会社 | 撮像装置、撮像システム、および信号処理方法 |
JP6628497B2 (ja) | 2015-05-19 | 2020-01-08 | キヤノン株式会社 | 撮像装置、撮像システム、および画像処理方法 |
US10097765B2 (en) * | 2016-04-20 | 2018-10-09 | Samsung Electronics Co., Ltd. | Methodology and apparatus for generating high fidelity zoom for mobile video |
JP6732625B2 (ja) | 2016-10-07 | 2020-07-29 | キヤノン株式会社 | 撮像装置および撮像システム |
JP6865589B2 (ja) | 2017-01-10 | 2021-04-28 | キヤノン株式会社 | 撮像装置 |
US10708524B2 (en) * | 2017-09-01 | 2020-07-07 | Semiconductor Components Industries, Llc | Methods and apparatus for high dynamic range imaging |
US11074677B2 (en) * | 2018-03-29 | 2021-07-27 | Dolby Laboratories Licensing Corporation | Dynamic range extension of partially clipped pixels in captured images |
JP7129234B2 (ja) | 2018-06-15 | 2022-09-01 | キヤノン株式会社 | 撮像装置、撮像システム、および撮像装置の制御方法 |
JP7297433B2 (ja) | 2018-12-11 | 2023-06-26 | キヤノン株式会社 | 光電変換装置および撮像システム |
JP2020108061A (ja) | 2018-12-28 | 2020-07-09 | キヤノン株式会社 | 撮像装置及び撮像システム |
JP7379024B2 (ja) | 2019-09-02 | 2023-11-14 | キヤノン株式会社 | 撮像装置及び信号処理装置 |
KR20210092964A (ko) * | 2020-01-17 | 2021-07-27 | 삼성전자주식회사 | 이미지 센서 및 이를 포함하는 카메라 모듈 |
-
2021
- 2021-01-26 JP JP2021010625A patent/JP2022114353A/ja active Pending
-
2022
- 2022-01-20 US US17/579,715 patent/US11778153B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US11778153B2 (en) | 2023-10-03 |
US20220239879A1 (en) | 2022-07-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8035708B2 (en) | Solid-state imaging device with an organic photoelectric conversion film and imaging apparatus | |
US11411034B2 (en) | Solid-state imaging device and electronic apparatus | |
US8681250B2 (en) | Electronic device with two image sensors | |
US9918027B2 (en) | Solid-state imaging device and electronic apparatus | |
US20090201406A1 (en) | Solid state image pickup apparatus and image pickup system | |
US8638379B2 (en) | Solid-state image pickup device with shared amplifier nearest pixel corresponding to shortest light wavelength and electronic apparatus using the same | |
JP2013026672A (ja) | 固体撮像装置及びカメラモジュール | |
CN102569321A (zh) | 固体摄像器件和电子装置 | |
US20060125944A1 (en) | Solid-state image pickup element and image pickup apparatus using the same | |
EP3902242B1 (en) | Image sensor and signal processing method | |
US11108986B2 (en) | Semiconductor apparatus and equipment | |
JP4414901B2 (ja) | カラー画像生成方法 | |
US20230007191A1 (en) | Image sensor, imaging apparatus, electronic device, image processing system, and signal processing method | |
US20230336890A1 (en) | Image sensing system for converting an image signal to have a specific pattern | |
JP2019161577A (ja) | 撮像装置、画素補正処理回路、及び、画素補正処理方法 | |
US20190346599A1 (en) | Image sensor and electronic camera | |
JP2006245527A (ja) | 固体撮像素子 | |
JP2021010080A (ja) | 撮像装置および機器 | |
JP4724414B2 (ja) | 撮像装置、デジタルカメラ、及びカラー画像データ生成方法 | |
JP2001016598A (ja) | カラー撮像素子及び撮像装置 | |
JP2022114353A (ja) | 撮像装置、電子機器、および、画像生成装置 | |
WO2014091706A1 (ja) | 撮像装置 | |
WO2018062561A1 (ja) | 撮像素子およびカメラ | |
US20230023853A1 (en) | Image sensor, image processing apparatus, and image processing method | |
US11985431B2 (en) | Imaging system with an electronic shutter |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240123 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240123 |