JP2019161577A - 撮像装置、画素補正処理回路、及び、画素補正処理方法 - Google Patents
撮像装置、画素補正処理回路、及び、画素補正処理方法 Download PDFInfo
- Publication number
- JP2019161577A JP2019161577A JP2018049179A JP2018049179A JP2019161577A JP 2019161577 A JP2019161577 A JP 2019161577A JP 2018049179 A JP2018049179 A JP 2018049179A JP 2018049179 A JP2018049179 A JP 2018049179A JP 2019161577 A JP2019161577 A JP 2019161577A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- correction processing
- color
- pixels
- phase difference
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】破綻や偽色の発生を抑えつつ、ビニング処理時に画面の色調が変わって見える現象を低減できるようにする。【解決手段】本開示の撮像装置は、第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部、並びに、画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理回路を備え、複数の画素には第1色のカラーフィルタが形成されており、画素補正処理回路は、ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする。【選択図】 図7
Description
本開示は、撮像装置、画素補正処理回路、及び、画素補正処理方法に関する。
デジタルカメラ等の撮像システムにおいて、カメラの焦点を自動的に合わせるAF(オートフォーカス)方式の一つとして像面位相差AFが知られている。像面位相差AFを実現するために、色信号を出力する標準画素が2次元マトリクス状に配置されて成る画素アレイ部には、位相差を検出するための画素(以下、「位相差検出画素」と記述する)が、標準画素間に離散的に配置されている(例えば、特許文献1参照)。
位相差検出画素としては、複数の画素間、例えば2つの画素間で1つのオンチップレンズ(OCL:On Chip Lens)を共有した構造(以下、「2×1OCL構造」と記述する場合がある)のものが知られている。オンチップレンズは、画素の集光効率を向上するために画素の受光側に配されるレンズである。
2×1OCL構造を有する位相差検出画素は、受光面に標準画素の2画素分の横長形状(又は、縦長形状)のオンチップレンズを備えている。そして、オンチップレンズが例えば横長形状の場合、当該オンチップレンズの右側及び左側をそれぞれ通った光を、位相差検出画素の各画素の光電変換部で受光することによって得られる画素値から位相差信号を生成することができる。
2×1OCL構造を有する位相差検出画素が、標準画素間に離散的に配置されて成る撮像装置を用いる撮像システムでは、撮像装置の撮像結果を画像として使用する場合、2×1OCL構造の2つの画素の位置に対応する色信号を得る必要がある。そのため、これらの画素の画素値に対して適切な補正処理を行うことになる。この補正処理には、例えば、2×1OCL構造の2つの画素の周辺領域の方向性を検出して補間する方向補間処理や、周辺領域の各色のレベルを利用した相関補間処理などが用いられる。
ところで、撮像装置の多画素化に伴って、画素信号をフル画素の1/4、1/16等にビニング(binning)処理し、縮小して使用することが現実的になってきている。ここで、「ビニング処理」とは、同色の複数の画素の画素値を加算平均して1つの画素の画素値とみなして出力する処理を言う。このビニング処理の際にも、2×1OCL構造の2つの画素に対する補正処理が行われる(例えば、特許文献2参照)。
2×1OCL構造では、例えば、R(赤)G(緑)B(青)の一般的なベイヤー配列において、位相差検出画素の2つの画素は、G画素及びB画素(又は、G画素及びR画素)の組み合わせから成る。そして、2つの画素には、同色のカラーフィルタ、例えば感度の高い緑色のカラーフィルタが用いられる。
このような状況下において、加算平均の対象となる複数の画素の中に位相差検出画素が含まれる場合に、当該位相差検出画素の画素値を保存しないビニング処理では、2×1OCLの成分を含む画素に対して、方向補間処理や相関補間処理などの一般的な補正技術を用いて補正処理を行うと、破綻や偽色が発生し、画面の色調が変わって見える現象が起こることになる。
そこで、本開示は、破綻や偽色の発生を抑えつつ、ビニング処理時に画面の色調が変わって見える現象を低減することができる撮像装置、画素補正処理回路、及び、画素補正処理方法を提供することを目的とする。
上記の目的を達成するための本開示の撮像装置は、
第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部、並びに、
画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理回路を備え、
複数の画素には第1色のカラーフィルタが形成されており、
画素補正処理回路は、ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする。
第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部、並びに、
画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理回路を備え、
複数の画素には第1色のカラーフィルタが形成されており、
画素補正処理回路は、ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする。
上記の目的を達成するための本開示の画素補正処理回路は、
第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理回路であって、
複数の画素には第1色のカラーフィルタが形成されており、
ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする。
第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理回路であって、
複数の画素には第1色のカラーフィルタが形成されており、
ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする。
上記の目的を達成するための本開示の画素補正処理方法は、
第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理方法であって、
複数の画素には第1色のカラーフィルタが形成されており、
ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする。
第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理方法であって、
複数の画素には第1色のカラーフィルタが形成されており、
ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする。
本開示によれば、破綻や偽色の発生を抑えつつ、ビニング処理時に画面の色調が変わって見える現象を低減することができる。
尚、ここに記載された効果に必ずしも限定されるものではなく、本明細書中に記載されたいずれかの効果であってもよい。また、本明細書に記載された効果はあくまで例示であって、これに限定されるものではなく、また付加的な効果があってもよい。
以下、本開示の技術を実施するための形態(以下、「実施形態」と記述する)について図面を用いて詳細に説明する。本開示の技術は実施形態に限定されるものではなく、実施形態における種々の数値などは例示である。以下の説明において、同一要素又は同一機能を有する要素には同一符号を用いることとし、重複する説明は省略する。尚、説明は以下の順序で行う。
1.本開示の撮像装置、画素補正処理回路、及び、処理方法、全般に関する説明
2.本開示の実施形態に係る撮像装置
2−1.CMOSイメージセンサの構成例
2−2.カラーフィルタ及びオンチップレンズの配置例
2−3.ビニング処理について
2−3−1.位相差検出画素の画素値を保存する場合
2−3−2.位相差検出画素の画素値を保存しない場合
3.本開示の実施形態に係る画素補正処理
3−1.実施例1(画素補正処理をハードウェアで実現する例)
3−2.実施例1(画素補正処理をソフトウェアで実現する例)
4.変形例
5.適用例(撮像システム)
6.本開示がとることができる構成
1.本開示の撮像装置、画素補正処理回路、及び、処理方法、全般に関する説明
2.本開示の実施形態に係る撮像装置
2−1.CMOSイメージセンサの構成例
2−2.カラーフィルタ及びオンチップレンズの配置例
2−3.ビニング処理について
2−3−1.位相差検出画素の画素値を保存する場合
2−3−2.位相差検出画素の画素値を保存しない場合
3.本開示の実施形態に係る画素補正処理
3−1.実施例1(画素補正処理をハードウェアで実現する例)
3−2.実施例1(画素補正処理をソフトウェアで実現する例)
4.変形例
5.適用例(撮像システム)
6.本開示がとることができる構成
<本開示の撮像装置、画素補正処理回路、及び、処理方法、全般に関する説明>
本開示の撮像装置、画素補正処理回路、及び、処理方法にあっては、第1色の色信号を出力する画素が緑色画素から成り、第1色以外の色信号を出力する画素が青色画素、又は、赤色画素から成る構成とすることができる。
本開示の撮像装置、画素補正処理回路、及び、処理方法にあっては、第1色の色信号を出力する画素が緑色画素から成り、第1色以外の色信号を出力する画素が青色画素、又は、赤色画素から成る構成とすることができる。
上述した好ましい構成を含む本開示の撮像装置、画素補正処理回路、及び、処理方法にあっては、補正処理対象画素の画素値から緑色成分を引いた後、正規化することによって補正処理を行う構成とすることができる。また、補正処理対象画素の画素値に含まれている緑色成分を、補正処理対象画素の周辺の緑色画素の画素値の加重平均から推定し、補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合を、緑色成分推定値に乗じ、その乗算結果を、補正処理対象画素の画素値から減算する構成とすることができる。このとき、補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合については、ビニング処理の処理内容によって決まるようにすることが好ましい。
また、上述した好ましい構成を含む本開示の撮像装置、画素補正処理回路、及び、処理方法にあっては、補正処理対象画素の画素値から、緑色混合率乗算部の乗算結果を引いた結果に対して、1以上の正規化係数を乗じて補正処理対象画素に対する補正値とする構成とすることができる。このとき、正規化係数については、ビニング処理の処理内容によって決まるようにすることが好ましい。
また、上述した好ましい構成を含む本開示の撮像装置、画素補正処理回路、及び、処理方法にあっては、画素アレイ部の画素には、カラーフィルタがベイヤー配列されている構成とすることができる。あるいは又、画素アレイ部の画素には、複数行×複数列の画素を単位として同色のカラーフィルタが配列されている構成とすることができる。
<本開示の実施形態に係る撮像装置>
図1は、本開示の実施形態に係る撮像装置のシステム構成の概略を示すブロック図である。図1に示すように、本実施形態に係る撮像装置1は、撮像部10、ビニング処理部20、補正処理部30、カメラ信号処理部40、及び、エンコーダ部50を備えるシステム構成となっている。
図1は、本開示の実施形態に係る撮像装置のシステム構成の概略を示すブロック図である。図1に示すように、本実施形態に係る撮像装置1は、撮像部10、ビニング処理部20、補正処理部30、カメラ信号処理部40、及び、エンコーダ部50を備えるシステム構成となっている。
撮像部10は、イメージセンサ、例えば、X−Yアドレス方式のイメージセンサの一種のCMOS(Complementary Metal Oxide Semiconductor)イメージセンサから成る。CMOSイメージセンサは、CMOSプロセスを応用して、又は、部分的に使用して作製されたイメージセンサである。但し、撮像部10としては、CMOSイメージセンサに限られるものではない。CMOSイメージセンサの詳細については後述する。
撮像部10から出力される画像データは、ビニングモードの設定時には、ビニング処理部20において、複数の画素の画素値を加算平均して1つの画素の画素値として出力するビニング処理がデジタル的に行われる。ビニング処理部20は、例えば、フル画素の画素値を1/4、1/16等の画素値にビニングする。
尚、ここでは、ビニング処理を、撮像部10の外部に設けられたビニング処理部20においてデジタル的に行う場合を例示したが、撮像部10の内部において、画素から信号を読み出す際にアナログ的に行うようにしてもよい。
ビニング処理部20でビニング処理された画像データは補正処理部30に供給される。補正処理部30は、本開示の画素補正処理回路に相当する。補正処理部30の詳細については後述する。補正処理部30で補正処理された画像データは、カメラ信号処理部40に供給される。尚、ビニングモード以外の通常の撮像モードの設定時には、撮像部10から出力される画像データは、ビニング処理部20及び補正処理部30をバイパスしてカメラ信号処理部40に供給されることになる。
カメラ信号処理部40は、ビニングモードの設定時には、補正処理部30から出力される画像データに対して、通常の撮像モードの設定時には、撮像部10から出力される画像データに対して、一般的なカメラ信号処理を行う。一般的なカメラ信号処理としては、ホワイトバランス、デモザイク、カラーマトリックス処理、ガンマ補正等の処理を例示することができる。
カメラ信号処理部40で信号処理された画像データはエンコーダ部50に供給される。エンコーダ部50は、カメラ信号処理部40から出力される画像データに対して、JPEGあるいはMPEG/H.265等にエンコードしてファイル出力する。
[CMOSイメージセンサの構成例]
次に、撮像部10として用いる、例えばCMOSイメージセンサの構成について説明する。撮像部10の一例であるCMOSイメージセンサの構成の一例を図2に示す。
次に、撮像部10として用いる、例えばCMOSイメージセンサの構成について説明する。撮像部10の一例であるCMOSイメージセンサの構成の一例を図2に示す。
図2に示すように、本例に係るCMOSイメージセンサは、画素アレイ部11、及び、当該画素アレイ部11の周辺に配置された周辺回路部を有する構成となっている。画素アレイ部11の周辺回路部は、例えば、行選択部12、カラム処理部13、列走査部14、及び、タイミング制御部15等によって構成されている。
画素アレイ部11には、フォトダイオードなどの光電変換部を含む画素2が行方向及び列方向に、即ち、行列状に2次元配置されている。ここで、行方向とは画素行の各画素2の配列方向(所謂、水平方向)を言い、列方向とは画素列の各画素2の配列方向(所謂、垂直方向)を言う。
画素2は、フォトダイオードなどの光電変換部の他に、複数の画素トランジスタを用いて構成されている。複数の画素トランジスタは、例えば、転送トランジスタ、リセットトランジスタ、増幅トランジスタ、及び、選択トランジスタの4つのトランジスタから構成されている。また、画素2については、周知の共有画素構造とすることもできる。
共有画素構造は、複数の光電変換部、複数の転送トランジスタ、共有される1つのフローティングディフュージョン(浮遊拡散領域)、及び、共有される1つずつの他の画素トランジスタから構成される。すなわち、共有画素構造は、複数の単位画素を構成する光電変換部及び転送トランジスタが、リセットトランジスタ、増幅トランジスタ、及び、選択トランジスタを共有する構成となっている。
画素2としては、配線層が配される側の基板面を表面(正面)とするとき、その反対側の裏面側から照射される光を取り込む裏面照射型の画素構造のものを用いることもできるし、表面側から照射される光を取り込む表面照射型の画素構造のものを用いることもできる。
画素アレイ部11において、行列状の画素配列に対し、画素行毎に画素駆動線211〜21mが行方向に沿って配線されている。また、画素列毎に垂直信号線221〜22nが列方向に沿って配線されている。画素駆動線211〜21mは、画素2から信号を読み出す際の駆動を行うための駆動信号を伝送する。図2では、画素駆動線211〜21mについて1本の配線として図示しているが、1本に限られるものではない。画素駆動線211〜21mの一端は、行選択部12の各行に対応した出力端に接続されている。
行選択部12は、シフトレジスタやアドレスデコーダなどによって構成され、タイミング制御部15による制御の下に、画素アレイ部11の各画素2を全画素同時あるいは行単位等で駆動する。すなわち、行選択部12は、当該行選択部12を制御するタイミング制御部15と共に、画素アレイ部11の各画素2を駆動する駆動部を構成している。
行選択部12によって選択走査された画素行の各画素2から読み出される画素信号は、垂直信号線221〜22nの各々を通してカラム処理部13に供給される。カラム処理部13は、画素アレイ部11の画素列毎に、選択行の各画素2から垂直信号線221〜22nの各々を通して出力される画素信号に対して所定の信号処理を施すとともに、信号処理後の信号を一時的に保持する。
カラム処理部13の所定の信号処理としては、画素2から読み出されるアナログの画素信号をデジタル信号に変換するアナログ−デジタル変換処理や、CDS(相関二重サンプリング)によるノイズ除去処理などを例示することができる。但し、ここで例示した信号処理は一例に過ぎず、カラム処理部13の所定の信号処理としては、これらの処理に限られるものではない。
列走査部14は、シフトレジスタやアドレスデコーダなどによって構成され、タイミング制御部15による制御の下に、カラム処理部13の画素列に対応する単位回路、例えば、アナログ−デジタル変換器を含む単位回路を順番に選択する。この列走査部14による選択走査により、カラム処理部13で信号処理された画素信号が順番に水平バス16に読み出され、当該水平バス16を通して出力される。
タイミング制御部15は、各種のタイミング信号、クロック信号、及び、制御信号等を生成し、これら生成した信号を基に、行選択部12、カラム処理部13、及び、列走査部14等の駆動制御を行う。
上記の構成のCMOSイメージセンサでは、チップ構造として、画素アレイ部11と同じ半導体基板(チップ)上に、画素アレイ部11の周辺回路部を形成した、所謂、平置構造を例示したが、平置構造に限られるものではない。すなわち、画素アレイ部11を形成した半導体基板とは別の少なくとも1枚の半導体基板上に周辺回路部を形成し、これら複数の半導体基板を積層した、所謂、積層構造とすることもできる。
上述した構成のCMOSイメージセンサは、カラム処理部13において、アナログ−デジタル(AD)変換などの処理を行う単位回路が、例えば画素列毎に配置されて成る列並列AD方式と呼ばれる撮像素子である。
[カラーフィルタ及びオンチップレンズの配置例]
続いて、カラーフィルタ及びオンチップレンズ(OCL)の配置例について、図3を用いて説明する。図3には、画素アレイ部11の画素配列について、18行×18列の画素2を図示している。ここでは、画素アレイ部11の各画素2に対して、例えば、R(赤)G(緑)B(青)の各カラーフィルタがベイヤー配列されている場合を例示している。
続いて、カラーフィルタ及びオンチップレンズ(OCL)の配置例について、図3を用いて説明する。図3には、画素アレイ部11の画素配列について、18行×18列の画素2を図示している。ここでは、画素アレイ部11の各画素2に対して、例えば、R(赤)G(緑)B(青)の各カラーフィルタがベイヤー配列されている場合を例示している。
図3に示すように、画素アレイ部11の各画素2には、画素2の集光効率を向上するために、基本的に、1つの画素2毎に受光側にオンチップレンズ21が1つずつ配されている。オンチップレンズ21が1つずつ配された画素2は、色信号を出力する標準画素である。本例に係るCMOSイメージセンサは、標準画素以外に、像面位相差AFに用いる位相差を検出するための位相差検出画素3が、標準画素間に離散的に混在する構成となっている。
位相差検出画素3は、複数の画素間で1つのオンチップレンズを共有した構造となっている。本例では、一例として、行方向で隣接する2つの画素間で、例えばG画素及びB画素間で1つのオンチップレンズ22を共有する構造(所謂、2×1OCL構造)を例示している。すなわち、本例に係る位相差検出画素3は、1つのオンチップレンズ22を共有する2つの画素から構成されている。そして、位相差検出画素3の2つの画素には、同じ色のカラーフィルタ、例えば感度の高い緑色(G)のカラーフィルタが配されている。
尚、ここでは、行方向で隣接する2つの画素間で1つのオンチップレンズ22を共有する2×1OCL構造を例示したが、この構造に限られるものではなく、列方向で隣接する2つの画素間で、例えばG画素及びR画素間で1つのオンチップレンズ22を共有する2×1OCL構造であってもよい。また、複数の画素についても、行方向又は列方向で隣接する2つの画素(2×1OCL構造)に限られるものではなく、例えば、2行×2列の4つの画素などであってもよい。
[ビニング処理について]
次に、ビニング処理について説明する。ビニング処理は、同色の複数の画素の画素値を加算平均して1つの画素の画素値として出力する処理であり、CMOSイメージセンサの内部において、画素2から信号を読み出す際にアナログ的に行うこともできるし、図1に示したように、外部のビニング処理部20においてデジタル的に行うこともできる。
次に、ビニング処理について説明する。ビニング処理は、同色の複数の画素の画素値を加算平均して1つの画素の画素値として出力する処理であり、CMOSイメージセンサの内部において、画素2から信号を読み出す際にアナログ的に行うこともできるし、図1に示したように、外部のビニング処理部20においてデジタル的に行うこともできる。
ビニング処理を行い、画像を縮小することで、ビニング処理部20の後段の回路部におけるデータ処理量を削減できるため、当該回路部における消費電力を低減できる。また、ビニング処理には、ノイズ低減の効果があることから、暗所又は高感度設定時などのようにノイズが多いシーンの撮像や、あるいは、超高速撮像や小さい画面での画像確認に用いて好適なものとなる。また、画素2から信号を読み出す際にアナログ的に行う場合にあっては、ビニング処理を行うことによって、読み出し速度の高速化を図ることができる。
ここで、一例として、列方向において隣接する同色の2画素の画素値を加算平均して1つの画素の画素値として出力するビニング処理を行う場合について、図4を用いて説明する。図4Aは、列方向において隣接する同色の2画素が標準画素(図中の□)である場合として示している。この場合、標準画素である2画素の画素値が加算平均され、その値が当該2画素の中心の位相に対応する画素値として出力される。
図4A及び図4Bは、ビニング処理を行う列方向において隣接する同色の2画素の一方が、1つのオンチップレンズ22を共有する2つの画素から成る位相差検出画素3の一方の画素(図中の■)である場合として示している。
図3において、オンチップレンズ22を共有する2つの画素、即ち位相差検出画素3の左側の画素がビニング処理の対象画素の場合には、列方向において隣接するGの標準画素と対になり、その画素値が当該Gの標準画素に対応する画素値として出力される。また、右側の画素がビニング処理の対象画素の場合には、列方向において隣接するBの標準画素と対になり、その画素値が当該Bの標準画素に対応する画素値として出力される。
(位相差検出画素の画素値を保存する場合)
位相差検出画素3の画素値を、ビニング処理後にも、像面位相差AFのための位相差検出に用いる場合がある。この場合は、位相差検出画素3の画素値を保存することになる。換言すれば、位相差検出画素3の画素値を、当該位相差検出画素3の位相(位置)に対応する画素値として保存することで、当該画素値に基づいて像面位相差AFのための位相差検出を行うことができるため、AF性能を維持することができる。
位相差検出画素3の画素値を、ビニング処理後にも、像面位相差AFのための位相差検出に用いる場合がある。この場合は、位相差検出画素3の画素値を保存することになる。換言すれば、位相差検出画素3の画素値を、当該位相差検出画素3の位相(位置)に対応する画素値として保存することで、当該画素値に基づいて像面位相差AFのための位相差検出を行うことができるため、AF性能を維持することができる。
また、ビニング処理結果を画像として使用する場合、位相差検出画素3の2つの画素の位置に対応する色信号を得る必要があるため、これらの画素の画素値に対して適切な補正処理を行うことになる。この補正処理には、2つの画素の周辺領域の方向性を検出して補間する方向補間処理や、周辺領域の各色のレベルを利用した相関補間処理などの一般的な補正処理を用いることができる。
ここで、位相差検出画素3の2つの画素が、例えばG画素及びB画素の組み合わせから成る場合について、1/16ビニング処理時の補正処理を例に挙げて説明する。1/16ビニング処理を行った際の画素配列について図5に示す。図5において、太線の破線で囲った領域が、一般的な補正処理を行う参照タップ4の範囲である。位相差検出画素3の画素値を保存する場合は、G画素の位置に対して、方向補間処理を用いて補正処理を行う。また、B画素の位置に対して、方向補間処理又は相関補間処理を選択的に用いて補正処理を行う。
(位相差検出画素の画素値を保存しない場合)
位相差検出画素3の画素値を保存する場合に対して、位相差検出画素3の画素値を、ビニング処理後に位相差検出に用いない場合がある。この場合は、位相差検出画素3の画素値を保存しないことになる。ここで、位相差検出画素3の画素値を保存しない場合のビニング処理の具体例について、2×1OCL構造の位相差検出画素3の配置密度が例えば1.5%の場合を例に挙げて、図6を用いて説明する。
位相差検出画素3の画素値を保存する場合に対して、位相差検出画素3の画素値を、ビニング処理後に位相差検出に用いない場合がある。この場合は、位相差検出画素3の画素値を保存しないことになる。ここで、位相差検出画素3の画素値を保存しない場合のビニング処理の具体例について、2×1OCL構造の位相差検出画素3の配置密度が例えば1.5%の場合を例に挙げて、図6を用いて説明する。
フル画素の画素配列を図6Aに示し、1回目のビニング処理で1/4サイズにしたときの画素配列を図6Bに示し、2回目のビニング処理で1/16サイズにしたときの画素配列を図6Cに示す。図6Aにおいて、太枠で囲った2画素が、位相差検出画素3を示している。1回目のビニング処理及び2回目のビニング処理では、位相差検出画素3の画素値を保存せずビニングを行う。図6B及び図6Cにおいて、太枠で囲った画素が、ビニング処理によって位相差検出画素3の影響を受けている画素を示している。
ここでは、フル画素の画素配列中に、2×1OCL構造の位相差検出画素3を混在させるに当たって、G画素及びB画素に跨って1つのオンチップレンズ22を配置する場合のビニング処理を例示している。この場合、B画素の位置であっても、Gのカラーフィルタが設けられることになる。
位相差検出画素3の画素値を保存しないビニング処理において、4画素ビニング(図6B)→4画素ビニング(図6C)を繰り返していくと、2×1OCL構造の位相差検出画素3の影響が薄まりながら拡散していく。これにより、位相差検出画素3の影響が弱まるものの、1/16ビニング処理ともなれば、位相差検出画素3の影響を含む画素の割合が非常に増加する。すなわち、図6Cに示すように、1/16サイズにしたときの画素配列では、多くの画素が位相差検出画素3の影響を受けることになる。
そして、2×1OCL構造の位相差検出画素3が占有した非G画素の色の成分が強まってしまう現象が生じる。例えば、非G画素がB画素の場合、本来のB画素の位置に、感度の高いGのカラーフィルタが配されているために、B画素の感度が上がり、B画素の成分が強まる。これがビニング処理によって空間的に拡散され、画面全体に青みがかかって見える。このとき、位相差検出画素3の成分を含む画素に対して、方向補間や相関補間などの一般的な補正技術で補正を行うと、テクスチャ部において破綻や偽色が大きく出る。
これは、補正処理対象の画素が多過ぎることに加えて、補正方法にも原因があり、周囲から算出した補正値に完全に入れ替えてしまうのでは処理量が大き過ぎてしまう。また、周囲の参照タップ4内にも位相差検出画素3の影響を受けた画素があるため、補正値の算出や検出系が正常に機能しない。
<本開示の実施形態に係る画素補正処理>
そこで、図1の補正処理部30での補正処理でもある、本開示の実施形態に係る画素補正処理では、破綻や偽色の発生を抑えつつ、ビニング処理時に画面の色調が変わって見える現象を低減するために、以下の構成を採る。本実施形態に係る画素補正処理では、第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素3を有する画素アレイ部の各画素に対してビニング処理を行うことを前提とする。
そこで、図1の補正処理部30での補正処理でもある、本開示の実施形態に係る画素補正処理では、破綻や偽色の発生を抑えつつ、ビニング処理時に画面の色調が変わって見える現象を低減するために、以下の構成を採る。本実施形態に係る画素補正処理では、第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素3を有する画素アレイ部の各画素に対してビニング処理を行うことを前提とする。
本実施形態では、図3に示すベイヤー配列において、第1色の色信号を出力する画素をG画素とし、第1色以外の色信号を出力する画素をB画素とする。そして、本実施形態に係る画素補正処理では、位相差検出画素3を有する画素アレイ部11の各画素2に対するビニング処理によって位相差検出画素3の影響を受けている補正対象画素に対し、色調変化を補正する処理を行う際に、位相差検出画素3の影響を受けている画素のうち非G画素、例えばB画素を補正処理対象画素とする。解像度の影響が大きいG画素については、補正処理の対象外とする。
以下に、本実施形態に係る画素補正処理の具体的な実施例について、当該画素補正処理をハードウェアで実現する場合を実施例1として、ソフトウェアで実現する場合を実施例2として説明する。
[実施例1]
実施例1は、画素補正処理をハードウェアで実現する例である。実施例1に係る画素補正処理回路の構成の一例を図7に示す。ここでは、一例として、1/16ビニング処理の場合を例に挙げて説明する。
実施例1は、画素補正処理をハードウェアで実現する例である。実施例1に係る画素補正処理回路の構成の一例を図7に示す。ここでは、一例として、1/16ビニング処理の場合を例に挙げて説明する。
図7に示すように、実施例1に係る画素補正処理回路60は、画素位置特定部61、G画素成分推定部62、混合率乗算部63、減算処理部64、及び、正規化処理部65を有する構成となっている。画素補正処理回路60は、図1の補正処理部30に相当する。画素補正処理回路60には、ビニング処理結果が与えられる。
ここでは、ビニング処理によって位相差検出画素3の影響を受けている画素のうち非G画素、例えばB画素を補正処理対象画素としている。従って、画素位置特定部61は、補正処理対象のB画素の位置を特定する。1つのオンチップレンズを共有する画素数が、本例では2画素と予め把握できるし、ビニング処理の処理内容(例えば、1/4ビニング、1/16ビニングなど)も予めわかることから、これらの情報を基にB画素の位置を特定することができる。
G画素成分推定部62は、画素位置特定部61が特定した補正処理対象のB画素の画素値に含まれるG成分について推定する。具体的には、G画素成分推定部62は、図8Aに示すように、補正処理対象のB画素の周辺の例えば上下左右の4つのG画素の画素値を用いて、これら画素値の加重平均を、補正処理対象のB画素の画素値に含まれるG成分の推定値(G推定値)とする。尚、G成分の推定を行うタップについては、必ずしも、上下左右の4画素と同じである必要はなく、更に広げてもよい。後述する実施例2においても同様である。
混合率乗算部63は、G画素成分推定部62が推定したG推定値に、補正処理対象のB画素の画素値が含んでいる位相差検出画素3の成分の割合である混合率を乗じる。補正処理対象のB画素の画素値が含んでいる位相差検出画素3の成分の割合については、ビニング処理の処理内容から予め把握できている。本例の場合、1/16ビニング処理であることから、補正処理対象のB画素の画素値に含まれる位相差検出画素3の成分の混合率は1/16である。
減算処理部64は、混合率乗算部63の乗算結果を、補正処理対象のB画素の画素値から減算する処理を行う。この減算処理により、図8Bに示すように、補正処理対象のB画素の画素値から、ビニング処理による位相差検出画素3の影響を排除することができるため、B画素の画素値はB成分のみになる。そして、本例の場合、1/16ビニング処理であることから、B画素の画素値は本来の15/16になっている状態になる。
補正処理対象のB画素の画素値から、混合率乗算部63の乗算結果を引いたままでは、ビニング処理の加算画素数が減った状態となる。そこで、正規化処理部65は、本例の場合、1/16ビニング処理であることから、B画素の画素値について、16画素分の画素値の加算相当となるように正規化処理を行う。具体的には、正規化処理部65は、B画素の画素値に、ビニング処理の処理内容によって決まる1以上の正規化係数を乗じて補正値とする。本例の場合、正規化係数を16/15とする。
上述した実施例1に係る画素補正処理回路60によれば、ビニング処理によって位相差検出画素3の影響を受けている画素のうち非G画素、本例では、B画素を補正処理対象画素とすることで、補正処理の対象及び処理量を抑えることができる。これにより、破綻や偽色が発生を抑えつつ、ビニング処理時に画面の色調が変わって見える現象を低減することができる。また、処理量を少なくできることから、実施例1に係る画素補正処理回路60にあっては、回路規模の増加を最小限に抑えることができる。
尚、補正処理対象のB画素の画素値に含まれる位相差検出画素3の成分の混合率(本例では、1/16)や、位相差検出画素3の影響を排除したB画素の画素値に対する正規化係数(本例では、16/15)については、理論的な値であり、これらの数値に限定されるものではない。例えば、理論的な値よりも小さい値に設定してもよい。この場合は、色調補正の処理量が少なくなることになる。後述する実施例2においても同様である。
[実施例2]
実施例2は、画素補正処理をソフトウェアで実現する例である。実施例2に係る画素補正処理は、図1に示す画像処理部30の処理となる。この場合、画像処理部30は、MPU(Micro Processing Unit)等のプロセッサを用いて構成されることになる。そして、以下に説明する、画素補正のための一連の処理は、画像処理部30を構成するMPU等のプロセッサによる制御の下に、ソフトウェアによって実行される。
実施例2は、画素補正処理をソフトウェアで実現する例である。実施例2に係る画素補正処理は、図1に示す画像処理部30の処理となる。この場合、画像処理部30は、MPU(Micro Processing Unit)等のプロセッサを用いて構成されることになる。そして、以下に説明する、画素補正のための一連の処理は、画像処理部30を構成するMPU等のプロセッサによる制御の下に、ソフトウェアによって実行される。
実施例2に係る画素補正処理のための一連の処理の流れの一例を図9のフローチャートに示す。ここでは、一例として、1/16ビニング処理の場合を例に挙げて説明する。
プロセッサは、先ず、1つのオンチップレンズを共有する画素数や、1/4ビニング、1/16ビニングなどのビニング処理の処理内容などの情報を基に、補正処理対象のB画素の位置を特定し(ステップS11)、次いで、特定したB画素の画素値に含まれるG成分を推定する(ステップS12)。この推定処理では、B画素の周辺の例えば上下左右の4つのG画素の画素値の加重平均を、B画素の画素値に含まれるG成分と推定する。
次に、プロセッサは、ビニング処理の処理内容から予め把握できている、B画素の画素値が含んでいる位相差検出画素3の成分の混合率を、G成分の推定値に乗じる(ステップS13)。次に、プロセッサは、その乗算結果を、補正処理対象のB画素の画素値から減じることで、B画素の画素値から、ビニング処理による位相差検出画素3の影響を排除する(ステップS14)。
そして、B画素の画素値から、ステップS13での乗算結果を引いたままでは、ビニング処理の加算画素数が減った状態となることから、プロセッサは、B画素の画素値について、16画素分の画素値の加算相当となるように正規化処理を行う(ステップS15)。この正規化処理では、B画素の画素値に、ビニング処理の処理内容によって決まる1以上の正規化係数(本例では、16/15)を乗じて補正値とする。
以上の一連の処理により、ビニング処理によって位相差検出画素3の影響を受けている画素のうち、本例では、B画素を補正処理対象とし、当該B画素に対して、位相差検出画素3の影響相当のG成分を引いた後に正規化する画素補正処理を行うことができる。
上述した実施例2に係る画素補正処理によれば、ビニング処理によって位相差検出画素3の影響を受けている画素のうち非G画素、本例では、B画素を補正処理の対象とすることで、補正処理の対象及び処理量を抑えることができる。これにより、破綻や偽色の発生を抑えつつ、ビニング処理時に画面の色調が変わって見える現象を低減することができる。また、処理量を少なくできることから、実施例2に係る画素補正処理にあっては、処理時間の増加を最小限に抑えることができる。
<変形例>
上記の実施形態では、画素2が行列状に配置されて成るCMOSイメージセンサに適用した場合を例に挙げて説明したが、本開示の技術は、CMOSイメージセンサへの適用に限られるものではない。すなわち、本開示の技術は、画素2が行列状に2次元配置されて成るX−Yアドレス方式の撮像素子全般に対して適用可能である。
上記の実施形態では、画素2が行列状に配置されて成るCMOSイメージセンサに適用した場合を例に挙げて説明したが、本開示の技術は、CMOSイメージセンサへの適用に限られるものではない。すなわち、本開示の技術は、画素2が行列状に2次元配置されて成るX−Yアドレス方式の撮像素子全般に対して適用可能である。
また、上記の実施形態では、ベイヤー配列において、第1色の色信号を出力する画素をG画素とし、第1色以外の色信号を出力する画素をB画素とし、2つの画素にGのカラーフィルタを配する構成を例示したが、これに限られるものではない。すなわち、第1色以外の色信号を出力する画素をR画素とし、2つの画素にGのカラーフィルタを配する構成であっても、基本的に、同様の作用、効果を得ることができる。
また、カラーフィルタについても、RGBベイヤー配列に限られるものではなく、RGBの3色以外の組み合わせとすることもできる。例えば、RGBの各画素に加えて、白色(W)の画素を所定の配列で配列した構成とすることもできる。
更に、カラーフィルタについて、複数行×複数列の画素を単位として同色が配列されている構成とすることもできる。例えば、2行×2列の画素を単位として同色のカラーフィルタが配列されている例を図10Aに示す。図10Aの画素配列に対して、1回目のビニング処理で1/4サイズにしたときの画素配列を図10Bに示し、2回目のビニング処理で1/16サイズにしたときの画素配列を図10Cに示す。図10Aにおいて、太枠で囲った2画素が、位相差検出画素を示している。1回目のビニング処理及び2回目のビニング処理では、位相差検出画素の画素値を保存せずビニングを行う。図10B及び図10Cにおいて、太枠で囲った画素が、ビニング処理によって位相差検出画素の影響を受けている画素を示している。
以上説明した本実施形態に係るCMOSイメージセンサは、例えば図11に示すように、可視光、赤外光、紫外光、X線等の光をセンシングする様々な装置に使用することができる。様々な装置の具体例について以下に列挙する。
・デジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供され装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供され装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
<適用例>
本開示に係る技術は、様々な製品に適用することができる。より具体的には、デジタルスチルカメラやビデオカメラ等の撮像システムや、携帯電話機などの撮像機能を有する携帯端末装置や、画像読取部に撮像素子を用いる複写機などの電子機器に適用することができる。以下に、デジタルスチルカメラやビデオカメラ等の撮像システムに適用する場合について説明する。
本開示に係る技術は、様々な製品に適用することができる。より具体的には、デジタルスチルカメラやビデオカメラ等の撮像システムや、携帯電話機などの撮像機能を有する携帯端末装置や、画像読取部に撮像素子を用いる複写機などの電子機器に適用することができる。以下に、デジタルスチルカメラやビデオカメラ等の撮像システムに適用する場合について説明する。
[撮像システム]
図12は、電子機器の一例である撮像システムの構成を示すブロック図である。図12に示すように、本例に係る撮像システム100は、レンズ群等を含む撮像光学系101、撮像部102、DSP(Digital Signal Processor)回路103、フレームメモリ104、表示装置105、記録装置106、操作系107、及び、電源系108等を有している。そして、DSP回路103、フレームメモリ104、表示装置105、記録装置106、操作系107、及び、電源系108がバスライン109を介して相互に接続された構成となっている。
図12は、電子機器の一例である撮像システムの構成を示すブロック図である。図12に示すように、本例に係る撮像システム100は、レンズ群等を含む撮像光学系101、撮像部102、DSP(Digital Signal Processor)回路103、フレームメモリ104、表示装置105、記録装置106、操作系107、及び、電源系108等を有している。そして、DSP回路103、フレームメモリ104、表示装置105、記録装置106、操作系107、及び、電源系108がバスライン109を介して相互に接続された構成となっている。
撮像光学系101は、被写体からの入射光(像光)を取り込んで撮像部102の撮像面上に結像する。撮像部102は、光学系101によって撮像面上に結像された入射光の光量を画素単位で電気信号に変換して画素信号として出力する。DSP回路103は、一般的なカメラ信号処理、例えば、ホワイトバランス処理、デモザイク処理、ガンマ補正処理などを行う。
フレームメモリ104は、DSP回路103での信号処理の過程で適宜データの格納に用いられる。表示装置105は、液晶表示装置や有機EL(electro luminescence)表示装置等のパネル型表示装置から成り、撮像部102で撮像された動画または静止画を表示する。記録装置106は、撮像部102で撮像された動画または静止画を、可搬型の半導体メモリや、光ディスク、HDD(Hard Disk Drive)等の記録媒体に記録する。
操作系107は、ユーザによる操作の下に、本撮像装置100が持つ様々な機能について操作指令を発する。電源系108は、DSP回路103、フレームメモリ104、表示装置105、記録装置106、及び、操作系107の動作電源となる各種の電源を、これら供給対象に対して適宜供給する。
上記の構成の撮像システム100において、撮像部102として、先述した実施形態に係る撮像装置を用いることができる。これにより、撮像光学系101の焦点を自動的に合わせる像面位相差AF(オートフォーカス)を実現できる。また、先述した実施形態に係る撮像装置は、破綻や偽色が発生を抑えつつ、ビニング処理時に画面の色調が変わって見える現象を低減することができる。従って、当該撮像装置を撮像部102として用いることで、特にビニング処理時における撮像画像の高画質化を図ることができる。
<本開示がとることができる構成>
尚、本開示は、以下のような構成をとることもできる。
尚、本開示は、以下のような構成をとることもできる。
≪A.撮像装置≫
[A−1]第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部、並びに、
画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理回路を備え、
複数の画素には第1色のカラーフィルタが形成されており、
画素補正処理回路は、ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする、
撮像装置。
[A−2]第1色の色信号を出力する画素は、緑色画素から成り、
第1色以外の色信号を出力する画素は、青色画素、又は、赤色画素から成る、
上記[A−1]に記載の撮像装置。
[A−3]画素補正処理回路は、補正処理対象画素の画素値から緑色成分を引いた後、正規化することによって補正処理を行う、
上記[A−2]に記載の撮像装置。
[A−4]画素補正処理回路は、
補正処理対象画素の画素値に含まれている緑色成分を、補正処理対象画素の周辺の緑色画素の画素値の加重平均から推定する緑色成分推定部、及び、
補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合を、緑色成分推定部による緑色成分推定値に乗じる緑色混合率乗算部を有し、
緑色混合率乗算部の乗算結果を、補正処理対象画素の画素値から減算する、
上記[A−3]に記載の撮像装置。
[A−5]補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合は、ビニング処理の処理内容によって決まる、
上記[A−4]に記載の撮像装置。
[A−6]画素補正処理回路は、補正処理対象画素の画素値から、緑色混合率乗算部の乗算結果を引いた結果に対して、1以上の正規化係数を乗じて補正処理対象画素に対する補正値とする、
上記[A−4]又は上記[A−5]に記載の撮像装置。
[A−7]正規化係数は、ビニング処理の処理内容によって決まる、
上記[A−6]に記載の撮像装置。
[A−8]画素アレイ部の画素には、カラーフィルタがベイヤー配列されている、
上記[A−1]乃至上記[A−7]のいずれかに記載の撮像装置。
[A−9]画素アレイ部の画素には、複数行×複数列の画素を単位として同色のカラーフィルタが配列されている、
上記[A−1]乃至上記[A−7]のいずれかに記載の撮像装置。
[A−1]第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部、並びに、
画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理回路を備え、
複数の画素には第1色のカラーフィルタが形成されており、
画素補正処理回路は、ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする、
撮像装置。
[A−2]第1色の色信号を出力する画素は、緑色画素から成り、
第1色以外の色信号を出力する画素は、青色画素、又は、赤色画素から成る、
上記[A−1]に記載の撮像装置。
[A−3]画素補正処理回路は、補正処理対象画素の画素値から緑色成分を引いた後、正規化することによって補正処理を行う、
上記[A−2]に記載の撮像装置。
[A−4]画素補正処理回路は、
補正処理対象画素の画素値に含まれている緑色成分を、補正処理対象画素の周辺の緑色画素の画素値の加重平均から推定する緑色成分推定部、及び、
補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合を、緑色成分推定部による緑色成分推定値に乗じる緑色混合率乗算部を有し、
緑色混合率乗算部の乗算結果を、補正処理対象画素の画素値から減算する、
上記[A−3]に記載の撮像装置。
[A−5]補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合は、ビニング処理の処理内容によって決まる、
上記[A−4]に記載の撮像装置。
[A−6]画素補正処理回路は、補正処理対象画素の画素値から、緑色混合率乗算部の乗算結果を引いた結果に対して、1以上の正規化係数を乗じて補正処理対象画素に対する補正値とする、
上記[A−4]又は上記[A−5]に記載の撮像装置。
[A−7]正規化係数は、ビニング処理の処理内容によって決まる、
上記[A−6]に記載の撮像装置。
[A−8]画素アレイ部の画素には、カラーフィルタがベイヤー配列されている、
上記[A−1]乃至上記[A−7]のいずれかに記載の撮像装置。
[A−9]画素アレイ部の画素には、複数行×複数列の画素を単位として同色のカラーフィルタが配列されている、
上記[A−1]乃至上記[A−7]のいずれかに記載の撮像装置。
≪B.画素補正処理回路≫
[B−1] 第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理回路であって、
複数の画素には第1色のカラーフィルタが形成されており、
ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする、
画素補正処理回路。
[B−2]第1色の色信号を出力する画素は、緑色画素から成り、
第1色以外の色信号を出力する画素は、青色画素、又は、赤色画素から成る、
上記[B−1]に記載の画素補正処理回路。
[B−3]補正処理対象画素の画素値から緑色成分を引いた後、正規化することによって補正処理を行う、
上記[B−2]に記載の画素補正処理回路。
[B−4]補正処理対象画素の画素値に含まれている緑色成分を、補正処理対象画素の周辺の緑色画素の画素値の加重平均から推定する緑色成分推定部、及び、
補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合を、緑色成分推定部による緑色成分推定値に乗じる緑色混合率乗算部を有し、
緑色混合率乗算部の乗算結果を、補正処理対象画素の画素値から減算する、
上記[B−3]に記載の画素補正処理回路。
[B−5]補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合は、ビニング処理の処理内容によって決まる、
上記[B−4]に記載の画素補正処理回路。
[B−6]補正処理対象画素の画素値から、緑色混合率乗算部の乗算結果を引いた結果に対して、1以上の正規化係数を乗じて補正処理対象画素に対する補正値とする、
上記[B−4]又は上記[B−5]に記載の画素補正処理回路。
[B−7]正規化係数は、ビニング処理の処理内容によって決まる、
上記[B−6]に記載の画素補正処理回路。
[B−8]画素アレイ部の画素には、カラーフィルタがベイヤー配列されている、
上記[B−1]乃至上記[B−7]のいずれかに記載の画素補正処理回路。
[B−9]画素アレイ部の画素には、複数行×複数列の画素を単位として同色のカラーフィルタが配列されている、
上記[B−1]乃至上記[B−7]のいずれかに記載の画素補正処理回路。
[B−1] 第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理回路であって、
複数の画素には第1色のカラーフィルタが形成されており、
ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする、
画素補正処理回路。
[B−2]第1色の色信号を出力する画素は、緑色画素から成り、
第1色以外の色信号を出力する画素は、青色画素、又は、赤色画素から成る、
上記[B−1]に記載の画素補正処理回路。
[B−3]補正処理対象画素の画素値から緑色成分を引いた後、正規化することによって補正処理を行う、
上記[B−2]に記載の画素補正処理回路。
[B−4]補正処理対象画素の画素値に含まれている緑色成分を、補正処理対象画素の周辺の緑色画素の画素値の加重平均から推定する緑色成分推定部、及び、
補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合を、緑色成分推定部による緑色成分推定値に乗じる緑色混合率乗算部を有し、
緑色混合率乗算部の乗算結果を、補正処理対象画素の画素値から減算する、
上記[B−3]に記載の画素補正処理回路。
[B−5]補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合は、ビニング処理の処理内容によって決まる、
上記[B−4]に記載の画素補正処理回路。
[B−6]補正処理対象画素の画素値から、緑色混合率乗算部の乗算結果を引いた結果に対して、1以上の正規化係数を乗じて補正処理対象画素に対する補正値とする、
上記[B−4]又は上記[B−5]に記載の画素補正処理回路。
[B−7]正規化係数は、ビニング処理の処理内容によって決まる、
上記[B−6]に記載の画素補正処理回路。
[B−8]画素アレイ部の画素には、カラーフィルタがベイヤー配列されている、
上記[B−1]乃至上記[B−7]のいずれかに記載の画素補正処理回路。
[B−9]画素アレイ部の画素には、複数行×複数列の画素を単位として同色のカラーフィルタが配列されている、
上記[B−1]乃至上記[B−7]のいずれかに記載の画素補正処理回路。
≪C.画素補正処理方法≫
[C−1]第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理方法であって、
複数の画素には第1色のカラーフィルタが形成されており、
ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする、
画素補正処理方法。
[C−2]第1色の色信号を出力する画素は、緑色画素から成り、
第1色以外の色信号を出力する画素は、青色画素、又は、赤色画素から成る、
上記[C−1]に記載の画素補正処理方法。
[C−3]補正処理対象画素の画素値から緑色成分を引いた後、正規化することによって補正処理を行う、
上記[C−2]に記載の画素補正処理方法。
[C−4]補正処理対象画素の画素値に含まれている緑色成分を、補正処理対象画素の周辺の緑色画素の画素値の加重平均から推定し、
補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合を、緑色成分推定値に乗じ、
その乗算結果を、補正処理対象画素の画素値から減算する、
上記[C−3]に記載の画素補正処理方法。
[C−5]補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合は、ビニング処理の処理内容によって決まる、
上記[C−4]に記載の画素補正処理方法。
[C−6]補正処理対象画素の画素値から、緑色混合率乗算部の乗算結果を引いた結果に対して、1以上の正規化係数を乗じて補正処理対象画素に対する補正値とする、
上記[C−4]又は上記[C−5]に記載の画素補正処理方法。
[C−7]正規化係数は、ビニング処理の処理内容によって決まる、
上記[C−6]に記載の画素補正処理方法。
[C−8]画素アレイ部の画素には、カラーフィルタがベイヤー配列されている、
上記[C−1]乃至上記[C−7]のいずれかに記載の画素補正処理方法。
[C−9]画素アレイ部の画素には、複数行×複数列の画素を単位として同色のカラーフィルタが配列されている、
上記[C−1]乃至上記[C−7]のいずれかに記載の画素補正処理方法。
[C−1]第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理方法であって、
複数の画素には第1色のカラーフィルタが形成されており、
ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする、
画素補正処理方法。
[C−2]第1色の色信号を出力する画素は、緑色画素から成り、
第1色以外の色信号を出力する画素は、青色画素、又は、赤色画素から成る、
上記[C−1]に記載の画素補正処理方法。
[C−3]補正処理対象画素の画素値から緑色成分を引いた後、正規化することによって補正処理を行う、
上記[C−2]に記載の画素補正処理方法。
[C−4]補正処理対象画素の画素値に含まれている緑色成分を、補正処理対象画素の周辺の緑色画素の画素値の加重平均から推定し、
補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合を、緑色成分推定値に乗じ、
その乗算結果を、補正処理対象画素の画素値から減算する、
上記[C−3]に記載の画素補正処理方法。
[C−5]補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合は、ビニング処理の処理内容によって決まる、
上記[C−4]に記載の画素補正処理方法。
[C−6]補正処理対象画素の画素値から、緑色混合率乗算部の乗算結果を引いた結果に対して、1以上の正規化係数を乗じて補正処理対象画素に対する補正値とする、
上記[C−4]又は上記[C−5]に記載の画素補正処理方法。
[C−7]正規化係数は、ビニング処理の処理内容によって決まる、
上記[C−6]に記載の画素補正処理方法。
[C−8]画素アレイ部の画素には、カラーフィルタがベイヤー配列されている、
上記[C−1]乃至上記[C−7]のいずれかに記載の画素補正処理方法。
[C−9]画素アレイ部の画素には、複数行×複数列の画素を単位として同色のカラーフィルタが配列されている、
上記[C−1]乃至上記[C−7]のいずれかに記載の画素補正処理方法。
1・・・撮像装置、2・・・画素(標準画素)、3・・・位相差検出画素、10・・・撮像部、11・・・画素アレイ部、12・・・行選択部、13・・・カラム処理部、14・・・列走査部、15・・・タイミング制御部、20・・・ビニング処理部、21,22・・・オンチップレンズ、30・・・補正処理部、40・・・カメラ信号処理部、50・・・エンコーダ部、60・・・画素補正処理回路、61・・・画素位置特定部、62・・・G画素成分推定部、63・・・混合率乗算部、64・・・減算処理部、65・・・正規化処理部
Claims (11)
- 第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部、並びに、
画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理回路を備え、
複数の画素には第1色のカラーフィルタが形成されており、
画素補正処理回路は、ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする、
撮像装置。 - 第1色の色信号を出力する画素は、緑色画素から成り、
第1色以外の色信号を出力する画素は、青色画素、又は、赤色画素から成る、
請求項1に記載の撮像装置。 - 画素補正処理回路は、補正処理対象画素の画素値から緑色成分を引いた後、正規化することによって補正処理を行う、
請求項2に記載の撮像装置。 - 画素補正処理回路は、
補正処理対象画素の画素値に含まれている緑色成分を、補正処理対象画素の周辺の緑色画素の画素値の加重平均から推定する緑色成分推定部、及び、
補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合を、緑色成分推定部による緑色成分推定値に乗じる緑色混合率乗算部を有し、
緑色混合率乗算部の乗算結果を、補正処理対象画素の画素値から減算する、
請求項3に記載の撮像装置。 - 補正処理対象画素の画素値が含んでいる位相差検出画素の成分の割合は、ビニング処理の処理内容によって決まる、
請求項4に記載の撮像装置。 - 画素補正処理回路は、補正処理対象画素の画素値から、緑色混合率乗算部の乗算結果を引いた結果に対して、1以上の正規化係数を乗じて補正処理対象画素に対する補正値とする、
請求項4に記載の撮像装置。 - 正規化係数は、ビニング処理の処理内容によって決まる、
請求項6に記載の撮像装置。 - 画素アレイ部の画素には、カラーフィルタがベイヤー配列されている、
請求項1に記載の撮像装置。 - 画素アレイ部の画素には、複数行×複数列の画素を単位として同色のカラーフィルタが配列されている、
請求項1に記載の撮像装置。 - 第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理回路であって、
複数の画素には第1色のカラーフィルタが形成されており、
ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする、
画素補正処理回路。 - 第1色の色信号を出力する画素、及び、第1色以外の色信号を出力する画素を含む複数の画素間で1つのオンチップレンズを共有する位相差検出画素を有する画素アレイ部の各画素に対するビニング処理によって位相差検出画素の影響を受けている画素に対して補正処理を行う画素補正処理方法であって、
複数の画素には第1色のカラーフィルタが形成されており、
ビニング処理によって位相差検出画素の影響を受けている画素のうち、第1色以外の色信号を出力する画素を補正処理対象画素とする、
画素補正処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018049179A JP2019161577A (ja) | 2018-03-16 | 2018-03-16 | 撮像装置、画素補正処理回路、及び、画素補正処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018049179A JP2019161577A (ja) | 2018-03-16 | 2018-03-16 | 撮像装置、画素補正処理回路、及び、画素補正処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019161577A true JP2019161577A (ja) | 2019-09-19 |
Family
ID=67993571
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018049179A Pending JP2019161577A (ja) | 2018-03-16 | 2018-03-16 | 撮像装置、画素補正処理回路、及び、画素補正処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019161577A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220028040A1 (en) * | 2018-12-05 | 2022-01-27 | Sony Group Corporation | Image processing apparatus and method |
US11394935B2 (en) | 2020-06-15 | 2022-07-19 | Samsung Electronics Co., Ltd. | Pixel array for reducing image information loss and image sensor including the same |
US11785355B2 (en) | 2020-10-19 | 2023-10-10 | Samsung Electronics Co., Ltd. | Image sensor configured to improve artifact in binning mode |
US11825226B2 (en) | 2020-12-02 | 2023-11-21 | Samsung Electronics Co., Ltd. | Image sensor and pixel array of image sensor |
-
2018
- 2018-03-16 JP JP2018049179A patent/JP2019161577A/ja active Pending
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220028040A1 (en) * | 2018-12-05 | 2022-01-27 | Sony Group Corporation | Image processing apparatus and method |
US11935212B2 (en) * | 2018-12-05 | 2024-03-19 | Sony Group Corporation | Image processing apparatus and method |
US11394935B2 (en) | 2020-06-15 | 2022-07-19 | Samsung Electronics Co., Ltd. | Pixel array for reducing image information loss and image sensor including the same |
US11785355B2 (en) | 2020-10-19 | 2023-10-10 | Samsung Electronics Co., Ltd. | Image sensor configured to improve artifact in binning mode |
US11825226B2 (en) | 2020-12-02 | 2023-11-21 | Samsung Electronics Co., Ltd. | Image sensor and pixel array of image sensor |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9866771B2 (en) | Solid-state imaging device, signal processing method of solid-state imaging device, and electronic apparatus | |
US10535687B2 (en) | Solid-state imaging device and electronic apparatus | |
EP2415254B1 (en) | Exposing pixel groups in producing digital images | |
US20090268055A1 (en) | Concentric exposure sequence for image sensor | |
CN107547807B (zh) | 用于减少空间闪烁伪影的装置和成像系统 | |
JP2019161577A (ja) | 撮像装置、画素補正処理回路、及び、画素補正処理方法 | |
WO2019208412A1 (ja) | 撮像装置及び撮像装置の駆動方法 | |
JP6891119B2 (ja) | 固体撮像素子及び電子機器 | |
JP2010136226A (ja) | 固体撮像装置、固体撮像装置の信号処理方法および撮像装置 | |
JP4414901B2 (ja) | カラー画像生成方法 | |
JP2004282552A (ja) | 固体撮像素子および固体撮像装置 | |
US8848073B2 (en) | Solid-state imaging device and electronic apparatus | |
JP2009089087A (ja) | 固体撮像装置及び撮像装置 | |
WO2018092400A1 (ja) | 固体撮像素子、信号処理回路、及び、電子機器 | |
JP2016208402A (ja) | 固体撮像素子およびその駆動方法、並びに電子機器 | |
WO2016203966A1 (ja) | 撮像装置、撮像方法、並びにプログラム | |
TWI429281B (zh) | 固態成像裝置,固態成像裝置之信號處理方法,及電子設備 | |
JP2019197980A (ja) | 撮像装置、電子機器および駆動方法 |