JP4389865B2 - 固体撮像素子の信号処理装置および信号処理方法並びに撮像装置 - Google Patents

固体撮像素子の信号処理装置および信号処理方法並びに撮像装置 Download PDF

Info

Publication number
JP4389865B2
JP4389865B2 JP2005332308A JP2005332308A JP4389865B2 JP 4389865 B2 JP4389865 B2 JP 4389865B2 JP 2005332308 A JP2005332308 A JP 2005332308A JP 2005332308 A JP2005332308 A JP 2005332308A JP 4389865 B2 JP4389865 B2 JP 4389865B2
Authority
JP
Japan
Prior art keywords
correction
signal
pixel
sig
circuit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005332308A
Other languages
English (en)
Other versions
JP2007142697A (ja
Inventor
雅也 木下
英輔 宇根
正人 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005332308A priority Critical patent/JP4389865B2/ja
Priority to US11/557,675 priority patent/US7864232B2/en
Priority to CNB2006101454789A priority patent/CN100546392C/zh
Publication of JP2007142697A publication Critical patent/JP2007142697A/ja
Application granted granted Critical
Publication of JP4389865B2 publication Critical patent/JP4389865B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Solid State Image Pick-Up Elements (AREA)

Description

本発明は、固体撮像素子の信号処理装置および信号処理方法並びに撮像装置に関し、特に固体撮像素子の画素部の混色を補正する機能を持つ信号処理装置およびその信号処理方法、並びに当該信号処理装置を備えた撮像装置に関する。
CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの固体撮像素子は、光電変換素子を含む画素セルの上方に、色分解カラーフィルタが、さらにその上に集光用のマイクロレンズが積層された構造となっている。
かかる構造を採るカラー用の固体撮像素子では、画素部とマイクロレンズとの間にカラーフィルタが介在する分だけ画素部とマイクロレンズとの間の距離が広がる。すると、特に多画素化に伴う画素セルの微細化が進むにつれて、画素相互間の距離、即ち画素ピッチが狭くなるために、ある画素セルのカラーフィルタを通過した光が隣接する画素セルに混入する混色の問題が発生する。
この画素セルの微細化に起因する混色の不具合を解決するために、従来は、R(赤)G(緑)B(青)の3原色を有する市松状の画素配列をもつ固体撮像素子において、特定色画素の信号から、当該特定色画素と隣接する特定色以外の画素の信号より算出した一定割合の信号成分を減算するようにしていた(例えば、特許文献1参照)。
特開2004−135206号公報
ところで、画素部の混色現象については、従来、注目画素に対して当該注目画素に隣接する複数の周囲画素から等方的に混色が起こる、即ち複数の周囲画素から同じ割合で混色が起こる、と考えられていた。この考えの下に、特許文献1等に記載の従来技術では、複数の周囲画素の各々に対して同一の補正パラメータを用いて混色不具合を解消するようにしていた。
しかしながら、実際の固体撮像素子では、回路部や配線等のレイアウト次第、あるいは信号読出し部のレイアウト次第で、光電変換素子(感光部)を画素セルの中心に対して偏った位置に配置せざるを得なく、各画素セルの物理的な中心と光学的な中心が必ずしも一致しないために、注目画素に対する周囲画素からの混色は必ずしも等方的に起こるものではなく、方向性を持って起こっていると言える。
したがって、特許文献1等、複数の周囲画素の各々に対して同一の補正パラメータを用いて混色補正を行う従来技術では、周囲画素からの注目画素に対する混色の度合いに応じた混色補正を行うことができない、即ち方向性を持った混色補正を行うことができないことになる。
そこで、本発明は、方向性を持った混色補正を実現できるようにした固体撮像素子の信号処理装置および信号処理方法並びに撮像装置を提供することを目的とする。
上記目的を達成するために、本発明では、光電変換素子を含む画素が行列状に2次元配置され、輝度成分を作る上で主成分となる色成分と他の色成分を含むカラーフィルタが前記画素の表面上に配置されてなる固体撮像素子の画素間の混色を補正する混色補正処理において、前記固体撮像素子の注目画素に対して辺で隣接する4個の周囲画素の各信号と、当該各信号に対して各々独立した補正パラメータとを用いて前記注目画素の信号に対して補正処理を行う構成を採っている。
固体撮像素子の画素間の混色処理において、注目画素に対して辺で隣接する4個の周囲画素の各信号に対する補正パラメータの各々が独立していることで、これら独立した補正パラメータによって注目画素に対する周囲画素の補正量を周囲画素ごとに任意に設定できる。その結果、注目画素に対する周囲画素の補正量に方向性を持たせることができる、即ち周囲画素ごとに異なる補正量を設定できる。
本発明によれば、注目画素に対する周囲画素の補正量に方向性を持たせることができることにより、周囲画素からの注目画素に対する混色の度合いに応じた混色補正を行うことができるために、注目画素に対する周囲画素からの混色に方向性があっても、その方向性に応じた混色補正を実現できる。
以下、本発明の実施の形態について図面を参照して詳細に説明する。
図1は、本発明が適用される撮像装置、例えばビデオカメラの構成の一例を示すブロック図である。ここでは、ビデオカメラに適用する例に挙げて説明するが、ビデオカメラへの適用に限られるものではなく、デジタルスチルカメラ等の撮像装置全般に対して適用可能である。
図1に示すように、本適用例に係るビデオカメラは、光学系1、固体撮像素子である例えばCMOSイメージセンサ2、AFE(アナログフロントエンド)3、デジタル信号処理回路4、カメラ制御部5、ヒューマンI/F制御(インターフェース)部6、ユーザーインターフェース7、タイミングジェネレータ8、光学系駆動回路9および手ぶれセンサ10等を有する構成となっている。
光学系1は、被写体(図示せず)からの入射光をCMOSイメージセンサ2の撮像面上に結像するレンズ1aと、当該レンズ1aを経た入射光の光量を制御する絞り1bとを有している。CMOSイメージセンサ2は、光学系1を通して入射した光を画素単位で光電変換して電気信号として出力する。CMOSイメージセンサ2の具体的に構成については後述する。なお、CMOSイメージセンサ2からの出力は複数チャンネル、例えば4チャネルとする。
AFE3は、アナログ信号処理回路であり、CMOSイメージセンサ2から出力される4チャネルのアナログ信号に対して、S/H(サンプル/ホールド)やAGC(自動利得制御)などの信号処理を行った後、A/D(アナログ/デジタル)変換する。デジタル信号処理回路4は、AFE3から供給される4チャンネルのデジタル信号に対して、カメラ制御部5からの指示にしたがって各種の信号処理を行う。
デジタル信号処理回路4内で行われる各種の信号処理とは、ホワイトバランス処理やガンマ処理、色差処理などのいわゆるカメラ信号処理や、カメラ制御用の検波データ(画面内の情報を示すデータ。明るさやコントラスト、色合い等)の計算処理を指す。これら各種の信号処理を行う回路部分に加えて、デジタル信号処理回路4は、本発明が特徴とする混色補正処理回路11を有している。この混色補正処理回路11の詳細については後述する。
カメラ制御部5は、例えばマイクロコンピュータによって構成され、デジタル信号処理回路4から送られてきた検波データや手ぶれセンサ10から送られてくるカメラの手ぶれ情報を基に現在の入力画像の状態を把握し、ヒューマンI/F制御部6を経由して送られてくる各種設定モードに応じたカメラ制御を行い、カメラ画制御用データとしてデジタル信号処理回路4に、あるいはレンズ制御データや絞り制御データとして光学系駆動回路9に、あるいはタイミング制御データとしてタイミングジェネレータ8に、あるいはゲイン制御データとしてAFE3に送信する。
デジタル信号処理回路4、光学系駆動回路9、タイミングジェネレータ8およびAFE3は、カメラ制御部5から送られてきた制御値に応じた処理を行い、所望の信号処理・光学系1の駆動・タイミング発生およびゲイン処理を実行する。CMOSイメージセンサ2は、タイミングジェネレータ8が発生する各種のタイミング信号に基づいて、後述する画素アレイ部から任意の領域の信号を順次取り出してAFE3へと出力する。
ユーザーが行うメニュー操作等については、ユーザーインターフェース7を介してヒューマンI/F制御部6で制御される。ヒューマンI/F制御部6は、例えばマイクロコンピュータによって構成され、ユーザーが現在どのような撮影モードを選択しているのか、あるいはどのような制御を望んでいるのか等を検知し、カメラ制御部5に対してユーザー指示情報を送る。逆に、カメラ制御部5は、被写体距離やF値、シャッタースピード、倍率等のカメラ制御情報をヒューマンI/F制御部6に送信し、ユーザーインターフェース7を介して現在のカメラの情報をユーザーに知らせている。
本発明が特徴とする混色補正処理回路11は、CMOSイメージセンサ2の画素の配置構成や色分解カラーフィルタの色コーディングの違いによって、その構成および動作が若干異なることになる。以下に、CMOSイメージセンサ2の画素の配置構成や色分解カラーフィルタの色コーディングの違いおよびそれに対応した混色補正処理回路11の具体的な構成および動作について、第1〜第3実施形態として説明する。
〈第1実施形態〉
図2は、本発明の第1実施形態で用いられるCMOSイメージセンサの色コーディングを示す図である。
図2に示すように、第1実施形態で用いられるCMOSイメージセンサでは、光電変換素子を含む画素セル21を行列状に2次元配置してなる画素アレイ部の画素配列が、一般的な市松状の画素配列に代表される正方格子状の画素配列に対して45°傾いた画素配置となっている。
具体的には、正方格子状の画素配列における画素相互間の距離(以下、「画素ピッチ」と記す)をdとするとき、当該画素ピッチdに対して水平・垂直方向の各画素ピッチを√2dとし、各画素が1行ごとおよび1列ごとに画素ピッチ√2dの1/2ずつずれた、即ち奇数行と偶数行で水平方向(列配列方向)に画素ピッチの1/2だけずれ、奇数列と偶数列で垂直方向(行配列方向)に画素ピッチの1/2だけずれた、いわゆる画素ずらし配置となっている。
この画素ずらし配置に対して、色分解カラーフィルタの色コーディングは、1行目はGとRが交互に配列されたGRライン、2行目はGのみが配列されたGライン、3行目はBとGが交互に配列されたGBライン、4行目はGのみが配列されたGライン、以降、この4行を単位として繰り返して配列された構成となっている。
本色コーディングにおいては、図2から明らかなように、輝度(Y)成分を作る上で主成分となる色成分(本例ではG)と、他の色成分(本例ではR,B)が、GでR,Bの周囲を囲むように配置され、R,Bが水平・垂直に対して2√2dの間隔で配置された構成となっている。
本色コーディングにおいて、サンプリングレートを水平・垂直方向で考えた場合、Gのサンプリングレートはd/√2であり、R,Bのサンプリングレートは2√2dである。すなわち、R,Bは、水平・垂直方向のサンプリングレートがGに対して1/4のレートとなるように1列おき(本例では奇数列)および1行おき(本例では奇数行)に配置されている。したがって、GとR,Bの間に水平・垂直方向に4倍の解像度の差がある。また、サンプリングレートを斜め45°方向で考えると、Gのサンプリングレートはdであり、R,Bのサンプリングレートは2dである。
ここで、空間周波数特性について考える。水平・垂直方向については、Gのサンプリングレートがd/√2であるために、サンプリング定理から(1/√2)fsの周波数の信号まで捉えることができる。斜め45°方向については、Gのサンプリングレートがdであるために、サンプリング定理から(1/4)fsの信号まで捉えることができる。
同様にR,Bについて考える。RとBは画素配列の間隔が同じであるため、同様に考えることができる。したがって、ここではRだけについて述べる。
Rの空間周波数特性に関して、水平・垂直方向については、Rのサンプリングレートが2√2dであるために、サンプリング定理から(1/4√2)fsの周波数の信号まで捉えることが可能であり、斜め45°方向については、Rのサンプリングレートが2dであるために、サンプリング定理から(1/2)fsの信号まで捉えることができる。
このように、画素ずらし配置の画素配置に対して、輝度成分を作る上で主成分となる色成分(本例ではG)で、他の色成分(本例ではR,B)の各々の周囲を囲むような色コーディングを採ることで、Gが全行、全列に存在し、人間の視感度特性上、感度が高いGの空間周波数特性を上げることができるために、無彩色な被写体に限らず、有彩色な被写体に対しても高解像度化を図ることができ、またRGBのレベルバランスをとる処理を行う必要がなくなるために、色偽を生じることもないという利点がある。
また、画素ずらし配置は、正方格子状の画素配列に比べて次のような利点もある。すなわち、正方格子状の画素配列に比べて画素ピッチが狭くなるために、高い解像度を得ることができる。また、正方格子状の画素配列と同じ解像度とする場合には、正方格子状の画素配列の画素ピッチよりも広い画素ピッチで画素セルを配列することが可能なために、画素セルの開口を広くとることができ、その結果、S/Nを向上できる。
図3は、第1実施形態で用いられるCMOSイメージセンサ20Aの構成の概略を示すブロック図である。
図3に示すように、光電変換素子を含む画素セル21が画素ずらし配置されてなる画素アレイ部22を有し、当該画素ずらし配置に対して、GでR,Bの各々の周囲を囲むような色コーディングを採るCMOSイメージセンサ20Aにおいて、2行を単位とする横ジグザグ行の画素セル21に対して共通に配線された画素駆動線23を垂直走査回路24によって順に選択走査する。
また、垂直走査回路24により画素駆動線23を介して選択走査された横ジグザグ行の画素セル21の信号を、画素列ごとに配線された垂直信号線25を通して例えば画素列ごとに設けられたカラム処理回路26の各々に保持する。さらに、カラム処理回路26の各々に保持された1行(横ジグザグ行)分の信号を、水平走査回路27によって例えば4個を単位として順次選択される水平選択スイッチ28を介して4画素を単位として4本の水平信号線29−1〜29−4に順次出力する。
このように、本CMOSイメージセンサ20Aでは、1行ごとに隣り合う複数画素、例えば4画素を一塊りにして、この4画素の信号を4本の水平信号線29−1〜29−4を通して複数チャンネル(本例では、4チャンネル)で並列に読み出し、1画面に亘って横方向(水平方向)に走査していき、1水平走査期間(1H)全て読み終えたところで次の行に移り、同様に横方向に走査しながら1画面全面に亘って各画素の信号を読み出すことになる。なお、本実施形態における1行とは、1横ジグザグ行を言うものとする。
ここで、図2に示す色コーディングにおいて、1行目、2行目の1列目〜8列目の16画素R,G,Bについて、便宜的に、図4のように定義しておく。具体的には、1行目において、1番目の単位の4画素に属する画素Rについては画素R1、2番目の単位の4画素に属する画素Rについては画素R2と定義し、2行目において、1番目の単位の4画素に属する画素Bについては画素B1、2番目の単位の4画素に属する画素Bについては画素B2と定義する。
また、1行目において、1番目の単位の4画素に属し、画素R1,B1と辺で隣接する画素Gについては画素Ggo1と定義し、1番目の単位の4画素に属し、画素R1,R2と頂点で隣接する画素Gについては画素Gr1と定義し、1番目の単位の4画素に属し、画素B1,R2と辺で隣接する画素Gについては画素Gge1と定義し、2番目の単位の4画素に属し、画素R2,B2と辺で隣接する画素Gについては画素Ggo2と定義し、2番目の単位の4画素に属し、画素R2(R3)と頂点で隣接する画素Gについては画素Gr2と定義し、2番目の単位の4画素に属し、画素B2(R3)と辺で隣接する画素Gについては画素Gge2と定義する。
2行目において、1番目の単位の4画素に属し、画素R1,B1と頂点で隣接する画素Gについては画素Gb1と定義し、1番目の単位の4画素に属し、画素B1と辺で隣接する画素Gについては画素Ggo1と定義し、1番目の単位の4画素に属し、画素B1と辺で隣接する画素Gについては画素Gge1と定義し、2番目の単位の4画素に属し、画素B1,R2,B2と頂点で隣接する画素Gについては画素Gb2と定義し、2番目の単位の4画素に属し、画素B2と辺で隣接する画素Gについては画素Ggo2と定義し、2番目の単位の4画素に属し、画素B2と辺で隣接する画素Gについては画素Gge2と定義する。
このような画素の定義の下で、1行(横ジグザグ行)ごとに隣り合う4画素を一塊りにして、CMOSイメージセンサ20Aの動作の基準となるクロック信号の1クロックで、この4画素の信号を4チャンネルにて並列に読み出すことにより、図4から明らかなように、各チャンネルからはR信号/Gb信号、Gr信号/B信号、Gge信号、Ggo信号が出力される。図5に、このような読み出し方式における出力チャンネル別の出力信号のシーケンスを示す。
なお、本発明は、読み出し方式に左右されるものではなく、何チャンネルで読み出したとしても、あるいは読み出し方式が変わったとしても、その形にあわせて以降の処理を構築するだけで(図5のシーケンスが変わることになるので、これを吸収する仕組みをいれるだけで)全ての場合において適用可能である。
ここでは、簡単のために、上述した読み出し方式、即ち1行(横ジグザグ行)ごとに隣り合う4画素を一塊りにして1クロックで、この4画素の信号を4チャンネルにて並列に読み出す読み出し方式を採用した場合を例に上げて説明するものとする。
[デジタル信号処理回路]
図6は、デジタル信号処理回路4の構成の一例を示すブロック図である。図6に示すように、デジタル信号処理回路4は、カメラ信号処理回路41、通信I/F42およびシグナルジェネレータ43によって構成されている。このデジタル信号処理回路4には、CMOSイメージセンサ2からAFE3を介して4チャンネル分の信号R/Gb,Gr/B,Ggo,Ggeが並列に入力される。
カメラ信号処理回路41は、4チャンネル分の信号R/Gb,Gr/B,Ggo,Ggeに対して、カメラ制御部5から通信I/F42を介して与えられる指示に応じて、デジタルクランプ/ノイズ除去/欠陥補正/デモザイク(補間処理)/ホワイトバランス/解像度変換などの各種カメラ信号処理を、シグナルジェネレータ43からの各種タイミング信号に基づいて各チャンネルごとに並列に行い、しかる後Y(輝度)、C(クロマ)信号としてビデオ系処理ブロックへ出力する。カメラ信号処理の詳細内容については本発明とは直接関係無いために、ここではその説明を省略する。
[カメラ信号処理回路]
このカメラ信号処理回路41の中に本発明が適用される混色補正処理回路11が含まれている。カメラ信号処理回路41の具体的な内部構成を図7に示す。
図7に示すように、カメラ信号処理回路41は、混色補正処理回路11に加えて、混色補正処理回路11の前段にカメラ信号処理群(1)411と、混色補正処理回路11の後段にカメラ信号処理群(2)412とを備え、図4に示す4画素ずつの各画素の信号R/Gb,Gr/B,Ggo,Ggeを、カメラ信号処理の基準となるクロック信号の1クロックで並列処理する。
このカメラ信号処理回路41では、先ず、カメラ信号処理群(1)411によってデジタルクランプ、欠陥補正、ノイズ除去処理が施され、本発明が適用される混色補正処理回路11へと入力される。ここまでは、主にカメラYC処理前の各種補正を行う処理群といえる。その後、後段のカメラ信号処理群(2)412によってデモザイク(補間処理)処理が施された後、YC処理によって輝度信号およびクロマ信号が生成され、最後に解像度変換処理を通してフォーマットに適したサイズで後段のビデオ系処理ブロックへと最終出力される。
カメラ信号処理回路41において、混色補正処理回路11を含む全ての回路ブロックには、シグナルジェネレータ43から各種タイミング信号が配布される。各回路ブロックは、この各種タイミング信号を基準として各処理に必要なタイミングを生成している。また、全ての回路ブロックについては、通信I/F42を介してカメラ制御部5によって処理動作が制御できるようになっている。
[混色補正処理回路]
図8は、混色補正処理回路11の構成の一例を示すブロック図である。図8に示すように、混色補正処理回路11は、ラインメモリ群111、メモリコントローラ112および補正ブロック113を有する構成となっている。
ラインメモリ群111は、4チャンネルの各画素の信号R/Gb,Gr/B,Ggo,Ggeに対応して設けられ、行単位の遅延を行わせるための例えばシングルポートSRAMからなるラインメモリ111−1,111−2,111−3,111−4によって構成されている。ラインメモリ111−1,111−2は1H(Hは1水平走査期間)遅延メモリであり、ラインメモリ111−3,111−4は2H遅延メモリである。
メモリコントローラ112は、図7のシグナルジェネレータ(SG)43から与えられる各種タイミング信号を基準にラインメモリ111−1,111−2,111−3,111−4の読み書きをコントロールする。補正ブロック113は、図7の通信I/F42から与えられる制御信号によって画素混色の補正動作を行う。
この混色補正処理回路11において、先ず4チャンネルの各画素の信号R/Gb,Gr/B,Ggo,Ggeがそれぞれ並列にラインメモリ111−1,111−2,111−3,111−4に入力される。そして、メモリコントローラ112からの書き込みイネーブル信号WEN と書き込みアドレス信号WADRS および読み出しイネーブル信号REN と読み出しアドレス信号RADRS によってチャンネル別に0Hから2Hまでの遅延を持たせた信号群を作り出し出力する。
このとき、出力信号が
・R/Gb ch:遅延無しの信号(Sig_R_Gb_0h)と1H遅延信号(Sig_R_Gb_1h)
・Gr/B ch:遅延無しの信号(Sig_Gr_B_0h)と1H遅延信号(Sig_Gr_B_1h)
・Ggo ch :1H遅延信号(Sig_Ggo_1h)と2H遅延信号(Sig_Ggo_2h)
・Gge ch :1H遅延信号(Sig_Gge_1h)と2H遅延信号(Sig_Gge_2h)
となるように、ラインメモリ群111が構成されている。
ラインメモリ111−1,111−2,111−3,111−4によって遅延させた信号群は補正ブロック113へ入力される。補正ブロック113は、通信I/F42から与えられる制御信号に従って各チャンネルごとに並列に画素混色補正を行い、補正後の信号Sig_R_Gb’, Sig_Gr_B’, Sig_Ggo’, Sig_Gge’として後段へと出力する。この補正ブロック113は、4チャンネルの各画素の信号R/Gb,Gr/B,Ggo,Ggeの各々に対応して設けられた4つの補正ブロックによって構成される。
(R/Gb ch用補正ブロック)
図9は、R/Gb ch用補正ブロック113Aの構成の一例を示すブロック図である。本補正ブロック113Aは、補正回路30と、5個の遅延回路31〜35によって構成され、図8のラインメモリ群111から各チャンネル2個ずつ出力される計8つの信号の内、1H遅延信号Sig_R_Gb_1h、2H遅延信号Sig_Gge_2h、2H遅延信号Sig_Ggo_2h、1H遅延信号Sig_Gge_1hおよび1H遅延信号Sig_Ggo_1hを入力としている。
補正回路30については、各チャンネルとも共通となる。その回路構成の詳細については後述する。遅延回路31は、1H遅延信号Sig_R_Gb_1hを混色補正処理の基準となる画素周期のクロック信号の1クロック分だけ遅延し、補正対象画素の信号として補正回路30に供給する。本補正ブロック113Aにおいては、図10に示すように、R/Gbが補正対象画素となる。
遅延回路32は、2H遅延信号Sig_Gge_2hを2クロック分だけ遅延し、補正対象画素R/Gbに辺で接する左斜め上画素(a)の信号として補正回路30に供給する。遅延回路33は、2H遅延信号Sig_Ggo_2hを1クロック分だけ遅延し、補正対象画素R/Gbに辺で接する右斜め上画素(b)の信号として補正回路30に供給する。
遅延回路34は、1H遅延信号Sig_Gge_1hを2クロック分だけ遅延し、補正対象画素R/Gbに辺で接する左斜め下画素(c)の信号として補正回路30に供給する。遅延回路35は、1H遅延信号Sig_Ggo_1hを1クロック分だけ遅延し、補正対象画素R/Gbに辺で接する右斜め下画素(d)の信号として補正回路30に供給する。
このように、1H遅延信号Sig_R_Gb_1h、2H遅延信号Sig_Gge_2h、2H遅延信号Sig_Ggo_2h、1H遅延信号Sig_Gge_1hおよび1H遅延信号Sig_Ggo_1hが遅延回路31〜35を経由することで、補正対象画素R/Gbの信号を(1H遅延+1クロック遅延)の信号とした場合に、補正対象画素R/Gbに斜め方向に隣接する4個の周囲画素の各信号が抽出されて補正対象画素R/Gbの信号と共に補正回路30に入力されることになる。
補正回路30には、図7の通信I/F42から補正パラメータKa,Kb,Kc,Kdおよび補正ON/OFFを指令する制御信号が与えられる。補正パラメータKa,Kb,Kc,Kdは各々独立した値(補正量)をとる。これら補正パラメータKa,Kb,Kc,Kdは、カメラ制御部5で設定され、通信I/F42を介して補正回路30に与えられる。すなわち、カメラ制御部5は、特許請求の範囲における設定手段に相当する。補正ON/OFFを指令する制御信号は、システムとして混色補正を行うか否かを指令するための制御信号である。
補正回路30は、制御信号が補正ONのときに、補正対象画素R/Gbの信号に対して当該補正対象画素R/Gbに辺で隣接する4個の周囲画素の各信号を基に、補正パラメータKa,Kb,Kc,Kdを用いて混色補正処理を行う。なお、補正処理後の補正対象画素R/Gbの信号Sig_R_Gb’は、補正回路30の入力として1H遅延信号Sig_R_Gb_1hを選んでいるために、混色補正処理回路11の入力信号に対して1Hの遅延が生じた形で出力されることになる。
(Gr/B ch用補正ブロック)
図11は、Gr/B ch用補正ブロック113Bの構成の一例を示すブロック図である。本補正ブロック113Bは、補正ブロック113Aと同じ補正回路30に加えて、5個の遅延回路36〜40を有し、図8のラインメモリ群111から各チャンネル2個ずつ出力される計8つの信号の内、1H遅延信号Sig_Gr_B_1h、2H遅延信号Sig_Ggo_2h、2H遅延信号Sig_Gge_2h、1H遅延信号Sig_Ggo_1hおよび1H遅延信号Sig_Gge_1hを入力としている。
遅延回路36は、1H遅延信号Sig_Gr_B_1hを1クロック分だけ遅延し、補正対象画素の信号として補正回路30に供給する。本補正ブロック113Bにおいては、図12に示すように、Gr/Bが補正対象画素となる。
遅延回路37は、2H遅延信号Sig_Ggo_2hを1クロック分だけ遅延し、補正対象画素Gr/Bに辺で接する左斜め上画素(a)の信号として補正回路30に供給する。遅延回路38は、2H遅延信号Sig_Gge_2hを1クロック分だけ遅延し、補正対象画素Gr/Bに辺で接する右斜め上画素(b)の信号として補正回路30に供給する。
遅延回路39は、1H遅延信号Sig_Ggo_1hを1クロック分だけ遅延し、補正対象画素Gr/Bに辺で接する左斜め下画素(c)の信号として補正回路30に供給する。遅延回路40は、1H遅延信号Sig_Gge_1hを1クロック分だけ遅延し、補正対象画素Gr/Bに辺で接する右斜め下画素(d)の信号として補正回路30に供給する。
このように、1H遅延信号Sig_Gr_B_1h、2H遅延信号Sig_Ggo_2h、2H遅延信号Sig_Gge_2h、1H遅延信号Sig_Ggo_1hおよび1H遅延信号Sig_Gge_1hが遅延回路36〜40を経由することで、補正対象画素Gr/Bの信号を(1H遅延+1クロック遅延)の信号とした場合に、補正対象画素Gr/Bに斜め方向に隣接する4個の周囲画素の各信号が抽出されて補正対象画素Gr/Bの信号と共に補正回路30に入力されることになる。
補正回路30は、制御信号が補正ONのときに、補正対象画素Gr/Bの信号に対して当該補正対象画素Gr/Bに辺で隣接する4個の周囲画素の各信号を用いて、補正パラメータKa,Kb,Kc,Kdを基に混色補正処理を行う。なお、補正処理後の補正対象画素Gr/Bの信号Sig_Gr_B’は、補正回路30の入力として1H遅延信号Sig_Gr_B_1hを選んでいるために、混色補正処理回路11の入力信号に対して1Hの遅延が生じた形で出力されることになる。
(Ggo ch用補正ブロック)
図13は、Ggo ch用補正ブロック113Cの構成の一例を示すブロック図である。本補正ブロック113Cは、補正ブロック113Aと同じ補正回路30に加えて、5個の遅延回路41〜45を有し、図8のラインメモリ群111から各チャンネル2個ずつ出力される計8つの信号の内、1H遅延信号Sig_Ggo_1h、1H遅延信号Sig_R_Gb_1h、1H遅延信号Sig_Gr_B_1h、遅延無しの信号Sig_R_Gb_Ohおよび遅延無しの信号Sig_Gr_B_Ohを入力としている。
遅延回路41は、1H遅延信号Sig_Ggo_1hを1クロック分だけ遅延し、補正対象画素の信号として補正回路30に供給する。本補正ブロック113Cにおいては、図14に示すように、Ggoが補正対象画素となる。
遅延回路42は、1H遅延信号Sig_R_Gb_1hを1クロック分だけ遅延し、補正対象画素Ggoに辺で接する左斜め上画素(a)の信号として補正回路30に供給する。遅延回路43は、1H遅延信号Sig_Gr_B_1hを1クロック分だけ遅延し、補正対象画素Ggoに辺で接する右斜め上画素(b)の信号として補正回路30に供給する。
遅延回路44は、遅延無しの信号Sig_R_Gb_Ohを1クロック分だけ遅延し、補正対象画素Ggoに辺で接する左斜め下画素(c)の信号として補正回路30に供給する。遅延回路45は、遅延無しの信号Sig_Gr_B_Ohを1クロック分だけ遅延し、補正対象画素Ggoに辺で接する右斜め下画素(d)の信号として補正回路30に供給する。
このように、1H遅延信号Sig_Ggo_1h、1H遅延信号Sig_R_Gb_1h、1H遅延信号Sig_Gr_B_1h、遅延無しの信号Sig_R_Gb_Ohおよび遅延無しの信号Sig_Gr_B_Ohが遅延回路41〜45を経由することで、補正対象画素Ggoの信号を(1H遅延+1クロック遅延)の信号とした場合に、補正対象画素Ggoに斜め方向に隣接する4個の周囲画素の各信号が抽出されて補正対象画素Ggoの信号と共に補正回路30に入力されることになる。
補正回路30は、制御信号が補正ONのときに、補正対象画素Ggoの信号に対して当該補正対象画素Ggoに辺で隣接する4個の周囲画素の各信号を用いて、補正パラメータKa,Kb,Kc,Kdを基に混色補正処理を行う。なお、補正処理後の補正対象画素Ggoの信号Sig_Ggo’は、補正回路30の入力として1H遅延信号Sig_Ggo_1hを選んでいるために、混色補正処理回路11の入力信号に対して1Hの遅延が生じた形で出力されることになる。
(Gge ch用補正ブロック)
図15は、Gge ch用補正ブロック113Dの構成の一例を示すブロック図である。本補正ブロック113Dは、補正ブロック113Aと同じ補正回路30に加えて、3個の遅延回路46〜48を有し、図8のラインメモリ群111から各チャンネル2個ずつ出力される計8つの信号の内、1H遅延信号Sig_Gge_1h、1H遅延信号Sig_Gr_B_1h、1H遅延信号Sig_R_Gb_1h、遅延無しの信号Sig_Gr_B_Ohおよび遅延無しの信号Sig_R_Gb_Ohを入力としている。
遅延回路46は、1H遅延信号Sig_Gge_1hを1クロック分だけ遅延し、補正対象画素の信号として補正回路30に供給する。本補正ブロック113Dにおいては、図16に示すように、Ggeが補正対象画素となる。
遅延回路47は、1H遅延信号Sig_Gr_B_1hを1クロック分だけ遅延し、補正対象画素Ggeに辺で接する左斜め上画素(a)の信号として補正回路30に供給する。1H遅延信号Sig_R_Gb_1hは、補正対象画素Ggeに辺で接する右斜め上画素(b)の信号として補正回路30に直接供給される。
遅延回路48は、遅延無しの信号Sig_Gr_B_Ohを1クロック分だけ遅延し、補正対象画素Ggeに辺で接する左斜め下画素(c)の信号として補正回路30に供給する。遅延無しの信号Sig_R_Gb_Ohは、補正対象画素Ggeに辺で接する右斜め下画素(d)の信号として補正回路30に直接供給される。
このように、1H遅延信号Sig_Gge_1h、1H遅延信号Sig_Gr_B_1h、および遅延無しの信号Sig_Gr_B_Ohが遅延回路46〜48を経由(1H遅延信号Sig_R_Gb_1hおよび遅延無しの信号Sig_R_Gb_Ohは直接入力)することで、補正対象画素Ggeの信号を(1H遅延+1クロック遅延)の信号とした場合に、補正対象画素Ggeに斜め方向に隣接する4個の周囲画素の各信号が抽出されて補正対象画素Ggeの信号と共に補正回路30に入力されることになる。
補正回路30は、制御信号が補正ONのときに、補正対象画素Ggeの信号に対して当該補正対象画素Ggeに辺で隣接する4個の周囲画素の各信号を用いて、補正パラメータKa,Kb,Kc,Kdを基に混色補正処理を行う。なお、補正処理後の補正対象画素Ggeの信号Sig_Gge’は、補正回路30の入力として1H遅延信号Sig_Gge_1hを選んでいるために、混色補正処理回路11の入力信号に対して1Hの遅延が生じた形で出力されることになる。
[補正回路]
続いて、各チャンネルに共通の補正回路30の具体的な構成について、実施例1〜3として説明する。
(実施例1)
図17は、実施例1に係る補正回路30Aの構成を示すブロック図である。本補正回路30Aは、補正対象画素の信号Sig_C(Sig_R_Gb/Sig_Gr_B/Sig_Ggo/Sig_Gge)を中心とし、隣接斜め4方向の画素信号(左斜め上:Sig_UL,右斜め上:Sig_UR,左斜め下:Sig_LL,右斜め下:Sig_LR)とそれぞれ差分をとった後の信号に、各々独立の補正パラメータKa,Kb,Kc,Kdを掛け、その後に全ての信号の和をとったものを補正信号Sig_C’(Sig_R_Gb’/Sig_Gr_B’/Sig_Ggo’/Sig_Gge’)とする。
具体的には、図17に示すように、補正回路30Aは、4個の減算器301〜304、4個の掛算器305〜308、各1個の加算器309およびセレクタ310を有する構成となっている。
減算器301は、補正対象画素の信号Sig_Cと左斜め上画素の信号Sig_ULとの差分をとる。減算器302は、補正対象画素の信号Sig_Cと右斜め上画素の信号Sig_URとの差分をとる。減算器303は、補正対象画素の信号Sig_Cと左斜め下画素の信号Sig_LLとの差分をとる。減算器304は、補正対象画素の信号Sig_Cと右斜め下画素の信号Sig_LRとの差分をとる。
掛算器305は、減算器301の出力信号に対して補正パラメータKaを掛け算する。掛算器306は、減算器302の出力信号に対して補正パラメータKbを掛け算する。掛算器307は、減算器303の出力信号に対して補正パラメータKcを掛け算する。掛算器308は、減算器304の出力信号に対して補正パラメータKdを掛け算する。加算器309は、補正対象画素の信号Sig_Cに対して掛算器305〜308の各出力信号を加算して補正信号Sig_C’として出力する。
この演算処理を補正式として表すと、
Sig_C’ = Sig_C
+Ka×(Sig_C−Sig_UL)
+Kb×(Sig_C−Sig_UR)
+Kc×(Sig_C−Sig_LL)
+Kd×(Sig_C−Sig_LR) ……(1)
となる。
セレクタ310は、図7の通信I/F42から与えられる補正ON/OFFの制御信号(1:ON,0:OFF)に基づいて、補正ONのときは加算器309の出力信号である補正信号Sig_C’を選択して出力し、補正OFFのときは補正対象画素の信号Sig_Cを選択して出力する。
なお、本回路例では、減算器301〜304でそれぞれ差分をとった後の信号に、各々独立の補正パラメータKa,Kb,Kc,Kdを掛ける演算処理を掛算器305〜308によって行うとしたが、当該演算処理をビットシフト構成によって実現することも可能である。どちらを採用するかは、補正精度と回路規模とのバランスから決めるようにすれば良い。
図18は、上記(1)式に示される補正モデル式の説明図である。先ず、補正対象画素を取り囲む斜め4方向および上下左右の計8画素のうち、上下左右に位置する画素は、斜め4方向の隣接画素に比べて距離的に√2倍遠いために、補正対象画素に対する混色の影響度は斜め4方向の隣接画素の方が支配的であると言える。そこで、本実施形態では、上下左右の画素との間の混色は十分無視できるものとして、上下左右の画素については除外することとする。
次に、斜め方向に隣接する4画素に着目し、補正対象画素と斜め隣接画素との間の混色率をそれぞれKa,Kb,Kc,Kdとすると、
・補正対象画素から、混色率K分だけ周囲画素に漏れこむ→その分だけ足し戻す
・補正対象画素に、混色率K分だけ周囲画素から漏れこんでくる→その分だけ差し引く
という補正モデルで、混色現象を軽減させる補正回路30を構成している。別の見方をすると、周囲画素とのレベル差が大きいほど混色量が大きくなるために、差分量に応じた補正を行っていると見ることもできる。
以上のような構成を採ることにより、次のような作用効果を得ることができる。
・混色補正の補正量について通信I/F42(図6、図7参照)を介して外部からリアルタイムにコントロールできる。
・補正パラメータKa,Kb,Kc,Kdの各値を変えることで、方向性を持たせた混色補正処理が実現できる(もちろん、Ka=Kb=Kc=Kdにすれば等方的な補正も実現できる)。
なお、本実施形態では、(1)式のモデル式を用いているが、本発明のポイントはモデル式自体にあるものではないために、補正回路30Aとしては、(1)式の演算を実現する回路構成に限定されるものではない。
(実施例2)
図19は、実施例2に係る補正回路30Bの構成を示すブロック図である。本補正回路30Bは、補正対象画素の信号Sig_C(Sig_R_Gb/Sig_Gr_B/Sig_Ggo/Sig_Gge)を中心とし、隣接斜め4方向の画素信号(左斜め上:Sig_UL,右斜め上:Sig_UR,左斜め下:Sig_LL,右斜め下:Sig_LR)とそれぞれ差分をとった後の信号同士を、通信I/F42から与えられる方向性選択の制御信号(設定値)によって2つずつ組み合わせて和をとり、これら和信号に各々独立の補正パラメータK1,K2をかけ、その後全ての信号の和をとったものを補正信号Sig_C’(Sig_R_Gb’/Sig_Gr_B’/Sig_Ggo’/Sig_Gge’)とする。
具体的には、図19に示すように、補正回路30Bは、4個の減算器311〜314、3個のセレクタ315〜317、3個の加算器318〜320、2個の掛算器321,322、各1個のコンパレータ323、加算器324およびセレクタ325を有する構成となっている。
減算器311は、補正対象画素の信号Sig_Cと左斜め上画素の信号Sig_ULとの差分をとる。減算器312は、補正対象画素の信号Sig_Cと右斜め上画素の信号Sig_URとの差分をとる。減算器313は、補正対象画素の信号Sig_Cと左斜め下画素の信号Sig_LLとの差分をとる。減算器314は、補正対象画素の信号Sig_Cと右斜め下画素の信号Sig_LRとの差分をとる。
セレクタ315は、減算器312,313,314の出力信号B,C,Dを入力とし、方向性選択の制御信号の設定値が0のとき減算器312の出力信号Bを、1のとき減算器313の出力信号Cを、2のとき減算器314の出力信号Dををそれぞれ選択して出力する。セレクタ316は、減算器313,314の出力信号C,Dを入力とし、方向性選択の制御信号の設定値が1のとき減算器314の出力信号Dを、2のとき減算器313の出力信号Cをそれぞれ選択して出力する。
加算器318は、減算器311の出力信号Aに対してセレクタ315の出力信号を加算する。加算器319は、減算器312の出力信号Bに対してセレクタ316の出力信号を加算する。加算器320は、減算器313の出力信号Cと減算器314の出力信号Dとを加算する。
コンパレータ323は、方向性選択の制御信号の設定値が0のときに1の制御信号を、それ以外のときに0の制御信号を出力する。セレクタ317は、加算器319,320の各出力信号を入力とし、コンパレータ323から与えられる制御信号が0のときに加算器319の出力信号を、1のときに加算器320の出力信号をそれぞれ選択して出力する。
掛算器321は、加算器318の出力信号に対して補正パラメータK1を掛け算する。掛算器322は、セレクタ317の出力信号に対して補正パラメータK2を掛け算する。加算器324は、補正対象画素の信号Sig_Cに対して掛算器321,322の各出力信号を加算して補正信号Sig_C’として出力する。
この演算処理を補正式として表すと、
・方向性選択の設定値:0の場合
Sig_C’ = Sig_C
+K1×[(Sig_C−Sig_UL)+(Sig_C−Sig_UR)]
+K2×[(Sig_C−Sig_LL)+(Sig_C−Sig_LR)] ……(2)
・方向性選択の設定値:1の場合
Sig_C’ = Sig_C
+K1×[(Sig_C−Sig_UL)+(Sig_C−Sig_LL)]
+K2×[(Sig_C−Sig_UR)+(Sig_C−Sig_LR)] ……(3)
・方向性選択の設定値:2の場合
Sig_C’ = Sig_C
+K1×[(Sig_C−Sig_UL)+(Sig_C−SIg_LR)]
+K2×[(Sig_C−Sig_UR)+(Sig_C−Sig_LL)] ……(4)
となる。
そして、これらの補正モデル式を切り替えることができるようになっている。セレクタ325は、通信I/F42から与えられる補正ON/OFFの制御信号(1:ON,0:OFF)に基づいて、補正ONのときは加算器324の出力信号である補正信号Sig_C’を選択して出力し、補正OFFのときは補正対象画素の信号Sig_Cを選択して出力する。
なお、本回路例では、加算器318の出力信号とセレクタ317の出力信号に、各々独立の補正パラメータK1,K2を掛ける演算処理を掛算器321,322によって行うとしたが、当該演算処理をビットシフト構成によって実現することも可能である。どちらを採用するかは、補正精度と回路規模とのバランスから決めるようにすれば良い。
図20は、上記(2),(3),(4)式に示される補正モデル式の説明図である。補正モデル式自体の考え方は図18と同じであり、方向性選択の設定値(0,1,2)別の補正率組み合わせと補正モデル式についてまとめたものである。
先述した実施例1に係る補正回路30A(図17参照)の場合は、1クロック毎に同時に並列演算する必要があるために、基本的に1チャンネルあたり4つの掛算器305〜308を持つことになる。これに対して、本実施例2に係る補正回路30Bでは、補正の方向性に関する自由度を削減し、2つの掛算器321,322で同様の機能を実現しているために、その分だけ回路規模を大幅に削減できる。なお、回路規模を削減するために方向性の自由度を減らしているが、少しでも自由度を上げるためにCMOSイメージセンサの特性に応じてもっとも適当な組み合わせでの補正を実現できるようにしている。
以上のような構成を採ることにより、次のような作用効果を得ることができる。
・混色補正の補正量について通信I/F42(図6、図7参照)を介して外部からリアルタイムにコントロールできる。
・補正の方向性に関してある程度の自由度を持ったまま、回路規模を大幅に削減した混色補正処理が実現できる(もちろん、K1=K2にすれば等方的な補正も実現できる)。
(実施例3)
図21は、実施例3に係る補正回路30Cの構成を示すブロック図である。本補正回路30Cは、補正対象画素の信号Sig_C(Sig_R_Gb/Sig_Gr_B/Sig_Ggo/Sig_Gge)を中心とし、隣接斜め4方向の画素信号(左斜め上:Sig_UL,右斜め上:Sig_UR,左斜め下:Sig_LL,右斜め下:Sig_LR)とそれぞれ差分をとった後の信号同士を全て加算し、その後唯一の補正パラメータKをかけ、その後元の信号との和をとったものを補正信号Sig_C’(Sig_R_Gb’/Sig_Gr_B’/Sig_Ggo’/Sig_Gge’)とする。
具体的には、図21に示すように、補正回路30Cは、4個の減算器331〜334、2個の加算器335,336および各1個の掛算器337およびセレクタ338を有する構成となっている。
減算器331は、補正対象画素の信号Sig_Cと左斜め上画素の信号Sig_ULとの差分をとる。減算器332は、補正対象画素の信号Sig_Cと右斜め上画素の信号Sig_URとの差分をとる。減算器333は、補正対象画素の信号Sig_Cと左斜め下画素の信号Sig_LLとの差分をとる。減算器334は、補正対象画素の信号Sig_Cと右斜め下画素の信号Sig_LRとの差分をとる。
加算器335は、減算器331〜334の各出力信号を全て加算する。掛算器337は、加算器335の出力信号に対して唯一の補正パラメータKを掛け算する。加算器336は、補正対象画素の信号Sig_Cに対して掛算器337の出力信号を加算して補正信号Sig_C’として出力する。
この演算処理を補正式として表すと、
Sig_C’ = Sig_C
+K×[(Sig_C−Sig_UL)+(Sig_C−Sig_UR)
+(Sig_C−Sig_LL)+(Sig_C−Sig_LR)] ……(5)
となる。
この補正回路30Cでは、方向性に関する自由度をなくした代わり、掛算器1個で補正を実現しているために、実施例2に係る補正回路30Bに比べてさらに回路規模を削減できる。これは例えばイメージセンサの混色が、要求される画質に対して方向性の問題が十分無視できるような場合には非常に効果的な回路構成と言える。
セレクタ338は、通信I/F42から与えられる補正ON/OFFの制御信号(1:ON,0:OFF)に基づいて、補正ONのときは加算器336の出力信号である補正信号Sig_C'を選択して出力し、補正OFFのときは補正対象画素の信号Sig_Cを選択して出力する。
なお、本回路例では、加算器3335の出力信号に補正パラメータKを掛ける演算処理を掛算器337によって行うとしたが、当該演算処理をビットシフト構成によって実現することも可能である。どちらを採用するかは、補正精度と回路規模とのバランスから決めるようにすれば良い。
図22は、上記(5)式に示される補正モデル式の説明図である。補正モデル式自体の考え方は図18と同じである。
以上のような構成を採ることにより、次のような作用効果を得ることができる。
・混色補正の補正量について通信I/F42(図6、図7参照)を介して外部からリアルタイムにコントロールできる。
・補正の方向性に関して自由度はないが、その代わりに回路規模を大幅に削減した混色補正処理が実現できる。
上述したように、光電変換素子を含む画素セルの上方に、色分解カラーフィルタが、さらにその上に集光用マイクロレンズ(集光レンズ)が積層された構造を採り、画素ずらし配置に対して、GでR,Bの各々の周囲を囲むような色コーディングを持ち、2行を単位とする横ジグザグ行ごとに垂直走査を行うCMOSイメージセンサ20Aの画素間の混色補正を行う混色補正回路において、注目画素に隣接する複数の周囲画素の各信号と、当該各信号に対して各々独立して設定される補正パラメータとを用いて注目画素の信号に対して補正処理を行うことで、注目画素に対する周囲画素の補正量を周囲画素ごとに独立に設定できるために、注目画素に対する周囲画素の補正量に方向性を持たせることができる、即ち周囲画素ごとに異なる補正量を設定できる。
これにより、周囲画素からの注目画素に対する混色の度合いに応じた混色補正を行うことができるために、例えば回路部や配線等のレイアウト次第、あるいは信号読出し部のレイアウト次第で、光電変換素子(感光部)を画素セルの中心に対して偏った位置に配置せざるを得なく、各画素セルの物理的な中心と光学的な中心が必ずしも一致しないことに起因して、注目画素に対する周囲画素からの混色に方向性があっても、その方向性に応じた混色補正を実現できることによって混色不具合を低減することができる。
特に、画素ずらし配置に対して、GでR,Bの各々の周囲を囲むような色コーディングにおいて、R,Bを補正対象画素(注目画素)としたときにその周囲画素は全てGとなるが、同じGの周囲画素に対して補正パラメータの値(補正量)を各周囲画素ごとに設定できるために、より効果的な方向性を持った混色補正を実現できる。なお、補正パラメータの設定次第で等方的な補正も実現できる。また、通信I/F42を介して外部のカメラ制御部5から補正パラメータの値を設定できるために、カメラ撮影条件に応じた補正量をリアルタイムに設定することも可能である
さらに、要求される画質と回路規模とのバランスによって、4方向の補正自由度が不要な場合には、実施例2に係る補正回路30Bを用いることで、回路規模を大幅に削減しつつ、かつできるだけ方向性の自由度を保った補正回路で構成することができる。また、要求される画質と回路規模とのバランスによって、4方向の補正自由度が不要かつ等方的な補正で十分な場合には、実施例3に係る補正回路30Cを用いることで、回路規模をさらに大幅に削減した補正回路で構成することもできる。
ここで、複数の周囲画素の各信号に対して各々独立して設定される補正パラメータの値(補正量)については、各画素セルの物理的な中心と光学的な中心が必ずしも一致しないことに起因して、注目画素に対する周囲画素からの混色に方向性が存在した場合に、周囲画素からの注目画素に対する混色の度合いを基に適宜設定することになる。
なお、上記実施形態では、図2に示す画素ずらし配置において、注目画素に対して頂点で隣接する上下左右の4画素との間の混色は十分無視できるものとして、上下左右の画素については除外することとし、注目画素に対して辺で隣接する斜め方向の4画素の各信号を用いて混色補正を行うとしたが、上下左右の4画素の各信号を用いて混色補正を行うことも可能である。この場合にも、上下左右の4画素の各信号に対して各々独立した補正パラメータを用いるようにすれば良い。
また、上記実施形態では、画素の色に関係なく、補正量を設定するとしたが、色ごとに補正量を変えるようにすることも可能である。具体的には、カメラ制御部5において、R用補正パラメータKar,Kbr,Kcr,Kdr、G用補正パラメータKag,Kbg,Kcg,KdgおよびB用補正パラメータKab,Kbb,Kcb,Kdbを作成し、通信IF42を介してR/Gb ch用補正ブロック113AおよびGr/B ch用補正ブロック113Bに適宜入力する。
そして、R/Gb ch用補正ブロック113Aについては、図23に示すように、R用補正パラメータKar,Kbr,Kcr,KdrとG用補正パラメータKag,Kbg,Kcg,Kdgとを2入力とする切替えスイッチSW1を設け、シグナルジェネレータ43からのタイミング信号の1つであり、1HごとにHigh/Lowが切り替わるタイミング信号H_TOGLEによって切替えスイッチSW1を切り替え、R用補正パラメータKar,Kbr,Kcr,KdrとG用補正パラメータKag,Kbg,Kcg,Kdgとを1Hごとに交互に補正回路30に供給することで、R画素とG画素ごとに補正量を変えた混色補正を行うことができる。
一方、Gr/B ch用補正ブロック113Bについては、図24に示すように、G用補正パラメータKag,Kbg,Kcg,KdgとB用補正パラメータKab,Kbb,Kcb,Kdbとを2入力とする切替えスイッチSW2を設け、タイミング信号H_TOGLEによって切替えスイッチSW2を切り替え、G用補正パラメータKag,Kbg,Kcg,KdgとB用補正パラメータKab,Kbb,Kcb,Kdbとを1Hごとに交互に補正回路30に供給することで、G画素とB画素ごとに補正量を変えた混色補正を行うことができる。
〈第2実施形態〉
図25は、第2実施形態で用いられるCMOSイメージセンサ20Bの構成の概略を示すブロック図であり、図中、図3と同等部分には同一符号を付して示している。
本実施形態で用いられるCMOSイメージセンサ20Bにおいても、第1実施形態で用いられるCMOSイメージセンサ20Aと同じ画素配置および色コーディング、即ち図2に示すように、画素ずらし配置に対して、GでR,Bの各々の周囲を囲むような色コーディングとなっている。
このCMOSイメージセンサ20Bにおいて、画素駆動線23は行ごとに配線されている。そして、画素アレイ部22の各画素セル21は、垂直走査回路24による選択走査により、画素駆動線23を介して行単位で選択される。垂直信号線25は、2列を単位とする縦ジグザグ列の画素セル21に対して共通に配線されている。
垂直信号線25の各々の一端には、カラム処理回路26が接続されている。すなわち、カラム処理回路26は、画素配列の2列ごとに配置され、垂直信号線25を通して画素セル21から供給される信号を保持する。カラム処理回路26の各々に保持された1行分の信号は、水平走査回路27によって例えば2個を単位として順次選択される水平選択スイッチ28を介して2画素を単位として2本の水平信号線29−1,29−2に順次出力される。
このように、本CMOSイメージセンサ20Bでは、1行ごとに隣り合う2画素を単位として、この2画素の信号を2本の水平信号線29−1,29−2を通して2チャンネルで並列に読み出し、1画面に亘って横方向(水平方向)に走査していき、1水平走査期間(1H)全て読み終えたところで次の行に移り、同様に横方向に走査しながら1画面全面に亘って各画素の信号を読み出すことになる。
ここで、第1実施形態の場合と同様に、図2に示す色コーディングにおいて、1行目〜4行目の1列目〜8列目の16画素R,G,Bについて、便宜的に、図26のように定義しておく。
このような画素の定義の下で、1行ごとに隣り合う2画素を単位として、CMOSイメージセンサ20Bの動作の基準となるクロック信号の1クロックで、この2画素の信号を2チャンネルにて並列に読み出すことにより、図26から明らかなように、各チャンネルからはR信号/Ggo信号/Gb信号/Ggo信号、Gr信号/Gge信号/B信号/Gge信号が出力される。図27に、このような読み出し方式における出力チャンネル別の出力信号のシーケンスを示す。
[カメラ信号処理回路]
図28は、第2実施形態に係るカメラ信号処理回路41の具体的な内部構成を示すブロック図であり、図中、図7と同等部分には同一符号を付して示している。
図28に示すように、本実施形態に係るカメラ信号処理回路41は、カメラ信号処理群(1)411、混色補正処理回路11およびカメラ信号処理群(2)412に加えて、カメラ信号処理群(1)411の前段に並換処理回路413を有する構成となっている。この並換処理回路413は、図27に示すCMOSイメージセンサ20Bの出力信号のシーケンスを、図5に示すCMOSイメージセンサ20Aの出力信号のシーケンスに並び替える処理を行うために設けられたものである。
[並換処理回路]
図29は、並換処理回路413の具体的な構成の一例を示すブロック図である。図29に示すように、並換処理回路413は、ラインメモリ群4131、メモリコントローラ4132および切替えスイッチ4133,4134を有する構成となっている。
ラインメモリ群4131は、2チャンネルの各画素の信号R/Ggo/Gb/Ggo,Gr/Gge/B/Ggeに対応して設けられ、行単位の遅延を行わせるための例えばシングルポートSRAMからなるラインメモリ4131−1,4131−2によって構成されている。メモリコントローラ4132は、図28のシグナルジェネレータ(SG)43から与えられる各種タイミング信号を基準にラインメモリ4131−1,4131−2の読み書きをコントロールする。
切替えスイッチ4133は、一方のチャンネルの各画素の信号R/Ggo/Gb/Ggoを入力とし、シグナルジェネレータ43からのタイミング信号の1つであり、1HごとにHigh(1)/Low(0)が切り替わるタイミング信号H_TOGLEによって切替え制御が行われる。切替えスイッチ4134は、他方のチャンネルの各画素の信号Gr/Gge/B/Ggeをとし、タイミング信号H_TOGLEによって切替え制御が行われる。
これにより、奇数行目の入力信号(図27の4N+1行目、4N+3行目、…)は、ラインメモリ4131−1,4131−2によって1H遅延され、信号R/Gb,Gr/Bとして出力される。一方、偶数行目の入力信号(図27の4N+2行目、4N+4行目、…)は、ラインメモリ4131−1,4131−2を経由せず、信号Ggo,Ggeとして出力される。
上記構成の並換処理回路413の作用により、2チャンネルの各画素の信号R/Ggo/Gb/Ggo,Gr/Gge/B/Ggeが、図30に示すように、4チャンネルのR/Gb,Ggo,Gr/B,Ggeに並び替えられて出力される。このようにして、カメラ信号処理群(1)411の前段で信号の並び替え処理を行うことで、カメラ信号処理群(1)411、混色補正処理回路11およびカメラ信号処理群(2)412として第1実施形態に係る各回路ブロックを兼用することができる。
ただし、並換処理回路413での並換処理後のシーケンスは同じになるが、並び替え後の信号は1Hごとに流れていくことになるために、例えば、タイミング信号H_TOGLEと同等のタイミング信号をカメラ信号処理群(1)411、混色補正処理回路11およびカメラ信号処理群(2)412の各回路ブロックに与え、各回路ブロックでは当該タイミング信号がHighのときだけ処理を行うようにすれば良い。
上述したことから明らかなように、第2実施形態に係る混色補正によれば、画素ずらし配置に対して、GでR,Bの各々の周囲を囲むような色コーディングを持ち、2行を単位とする横ジグザグ行ごとではなく、1行ごとに垂直走査を行うCMOSイメージセンサ20Bに対しても、注目画素に対する周囲画素の補正量を周囲画素ごとに独立に設定できるために、第1実施形態の場合と同様に作用効果を得ることができる。
また、本実施形態に係る混色補正においても、第1実施形態の場合と同様に、色ごとに補正量を変えるようにすることができる。
なお、上記第1、第2実施形態では、画素ずらし配置に対して、GでR,Bの各々の周囲を囲むような色コーディングを持つ固体撮像素子の混色補正に適用した場合を例に挙げて説明したが、当該色コーディングは一例にすぎず、例えば図31に示す色コーディングなど、他の色コーディングを持つ固体撮像素子の混色補正にも同様に適用可能である。
〈第3実施形態〉
図32は、本発明の第3実施形態で用いられるCMOSイメージセンサの色コーディングを示す図である。
第3実施形態で用いられるCMOSイメージセンサでは、光電変換素子を含む画素セル21を行列状に2次元配置してなる画素アレイ部の画素配置が、正方格子状の画素配置となっておいる。そして、この正方格子状の画素配置に対して、色コーディングは、図32に示すように、例えばベイヤ配列となっている。
図33は、第3実施形態で用いられるCMOSイメージセンサ20Cの構成の概略を示すブロック図であり、図中、図3と同等部分には同一符号を付して示している。
図33に示すように、画素アレイ部22には、光電変換素子を含む画素セル21が正方格子状に2次元配置されている。この正方格子状の画素配列に対して、2行につき1本ずつ画素駆動線23が配線され、1列につき2本ずつ垂直信号線25が配線されている。垂直走査回路24は、画素アレイ部22の各画素セル21を、2行を単位として画素駆動線23を介して順に選択走査する。
垂直走査回路24による走査によって選択された2行分の画素セル21の各信号は、奇数行と偶数行とが別々の垂直信号線25、即ち奇数行用の垂直信号線25oと偶数行用の垂直信号線25eとを通して読み出され、カラム処理回路26の各々に保持される。カラム処理回路26の各々に保持された2行分の信号は、水平走査回路27によって4個を単位として順次選択される水平選択スイッチ28を介して4画素(2行×2列)を単位として4本の水平信号線29−1〜29−4に順次出力される。
このように、本CMOSイメージセンサ20Cでは、2行ごとに隣り合う4画素を一塊りにして、この4画素の信号を4本の水平信号線29−1〜29−4を通して4チャンネルで並列に読み出し、1画面に亘って横方向(水平方向)に走査していき、1水平走査期間(1H)全て読み終えたところで次の行に移り、同様に横方向に走査しながら1画面全面に亘って各画素の信号を読み出すことになる。
ここで、図32に示す色コーディングにおいて、1行目、2行目の1列目〜6列目の12画素R,G,Bについて、便宜的に、図34のように定義しておく。具体的には、1行目において、1番目の単位の4画素に属する画素Rについては画素R1、2番目の単位の4画素に属する画素Rについては画素R2、3番目の単位の4画素に属する画素Rについては画素R3と定義し、2行目において、1番目の単位の4画素に属する画素Bについては画素B1、2番目の単位の4画素に属する画素Bについては画素B2、3番目の単位の4画素に属する画素Bについては画素B3と定義する。
また、1行目において、1番目の単位の4画素に属し、画素R1と隣接する画素Gについては画素Gr1、2番目の単位の4画素に属し、画素R2と隣接する画素Gについては画素Gr2、3番目の単位の4画素に属し、画素R3と隣接する画素Gについては画素Gr3と定義し、2行目において、1番目の単位の4画素に属し、画素B1と隣接する画素Gについては画素Gb1、2番目の単位の4画素に属し、画素B2と隣接する画素Gについては画素Gb2、3番目の単位の4画素に属し、画素B3と隣接する画素Gについては画素Gb3と定義する。
このような画素の定義の下で、2行ごとに隣り合う4画素を一塊りにして、CMOSイメージセンサ20cの動作の基準となるクロック信号の1クロックで、この4画素の信号を4チャンネルにて並列に読み出すことにより、図34から明らかなように、各チャンネルからはR信号、Gr信号、Gb信号、B信号が出力される。図35に、このような読み出し方式における出力チャンネル別の出力信号のシーケンスを示す。
本実施形態に係るカメラ信号処理回路41の具体的な内部構成については、基本的に、図7に示す第1実施形態に係るカメラ信号処理回路41のそれと同じである。すなわち、カメラ信号処理回路41は、混色補正処理回路11に加えて、混色補正処理回路11の前段にカメラ信号処理群(1)411と、混色補正処理回路11の後段にカメラ信号処理群(2)412とを備え、図34に示す4画素ずつの各R信号、Gr信号、Gb信号、B信号を、カメラ信号処理の基準となるクロック信号の1クロックで並列処理する。
[混色補正処理回路]
図36は、混色補正処理回路11の構成の一例を示すブロック図であり、図中、図8と同等部分には同一符号を付して示している。
図36に示すように、本実施形態に係る混色補正処理回路11では、ラインメモリ群111が、第1実施形態に係る混色補正処理回路11におけるR/Gb用ラインメモリ111−1、Gr/B用ラインメモリ111−2、Ggo用111−3およびGge用ラインメモリ111−4に代えて、R用ラインメモリ111−5、Gr用ラインメモリ111−6、Gb用111−7およびB用ラインメモリ111−8を用いた構成となっている。
ラインメモリ111−5,111−6は1H遅延メモリであり、ラインメモリ111−7,111−8は2H遅延メモリである。メモリコントローラ112は、図7のシグナルジェネレータ(SG)43から与えられる各種タイミング信号を基準にラインメモリ111−5,111−6,111−7,111−8の読み書きをコントロールする。補正ブロック113は、図7の通信I/F42から与えられる制御信号によって画素混色の補正動作を行う。
この混色補正処理回路11において、4チャンネルのR信号、Gr信号、Gb信号、B信号がそれぞれ並列にラインメモリ111−5,111−6,111−7,111−8に入力される。そして、メモリコントローラ112からの書き込みイネーブル信号WEN と書き込みアドレス信号WADRS および読み出しイネーブル信号REN と読み出しアドレス信号RADRS によってチャンネル別に0Hから2Hまでの遅延を持たせた信号群を作り出し出力する。
このとき、出力信号が
・R ch :遅延無しの信号(Sig_R_0h)と1H遅延信号(Sig_R_1h)
・Gr ch:遅延無しの信号(Sig_Gr_0h)と1H遅延信号(Sig_Gr_1h)
・Gb ch:1H遅延信号(Sig_Gb_1h)と2H遅延信号(Sig_Gb_2h)
・B ch :1H遅延信号(Sig_B_1h)と2H遅延信号(Sig_B_2h)
となるように、ラインメモリ群111が構成されている。
ラインメモリ111−5,111−6,111−7,111−8によって遅延させた信号群は補正ブロック113へ入力される。補正ブロック113は、通信I/F42から与えられる制御信号に従って各チャンネルごとに並列に画素混色補正を行い、補正後の信号Sig_R',Sig_Gr',Sig_Gb',Sig_B'として後段へと出力する。この補正ブロック113は、4チャンネルの各画素の信号R,Gr,Gb,Bの各々に対応して設けられた4つの補正ブロックによって構成される。
(Rch用補正ブロック)
図37は、Rch用補正ブロック113Eの構成の一例を示すブロック図である。本補正ブロック113Eは、補正回路50と、5個の遅延回路51〜55によって構成され、図36のラインメモリ群111から各チャンネル2個ずつ出力される計8つの信号の内、1H遅延信号Sig_R_1h、2H遅延信号Sig_Gb_2h、1H遅延信号Sig_Gr_1h、1H遅延信号Sig_Gr_1hおよび1H遅延信号Sig_Gb_1hを入力としている。
補正回路50については、各チャンネルとも共通となる。その回路構成の詳細については後述する。遅延回路51は、1H遅延信号Sig_R_1hを混色補正処理の基準となる画素周期のクロック信号の1クロック分だけ遅延し、補正対象画素の信号として補正回路50に供給する。本補正ブロック113Eにおいては、図38(A)に示すように、Rが補正対象画素となる。
遅延回路52は、2H遅延信号Sig_Gb_2hを2クロック分だけ遅延し、補正対象画素Rに隣接する上画素(a)の信号として補正回路50に供給する。遅延回路53は、1H遅延信号Sig_Gr_1hを1クロック分だけ遅延し、補正対象画素Rに隣接する右画素(b)の信号として補正回路50に供給する。
遅延回路54は、1H遅延信号Sig_Gr_1hを2クロック分だけ遅延し、補正対象画素Rに隣接する左画素(c)の信号として補正回路50に供給する。遅延回路55は、1H遅延信号Sig_Gb_1hを1クロック分だけ遅延し、補正対象画素Rに隣接する下画素(d)の信号として補正回路50に供給する。
このように、1H遅延信号Sig_R_1h、2H遅延信号Sig_Gb_2h、1H遅延信号Sig_Gr_1h、1H遅延信号Sig_Gr_1hおよび1H遅延信号Sig_Gb_1hが遅延回路51〜55を経由することで、補正対象画素Rの信号を(1H遅延+1クロック遅延)の信号とした場合に、補正対象画素Rに上、右、左、下の各方向で辺で隣接する4個の周囲画素の各信号が抽出されて補正対象画素Rの信号と共に補正回路50に入力されることになる。
(Gr ch用補正ブロック)
図39は、Gr ch用補正ブロック113Fの構成の一例を示すブロック図である。本補正ブロック113Fは、補正ブロック113Eと同じ補正回路50に加えて、4個の遅延回路56〜59を有し、図36のラインメモリ群111から各チャンネル2個ずつ出力される計8つの信号の内、1H遅延信号Sig_Gr_1h、2H遅延信号Sig_B_2h、1H遅延信号Sig_R_1h、1H遅延信号Sig_R_1hおよび1H遅延信号Sig_B_1hを入力としている。
遅延回路56は、1H遅延信号Sig_Gr_1hを1クロック分だけ遅延し、補正対象画素の信号として補正回路50に供給する。本補正ブロック113Fにおいては、図38(B)に示すように、Grが補正対象画素となる。遅延回路57は、2H遅延信号Sig_B_2hを2クロック分だけ遅延し、補正対象画素Grに隣接する上画素(a)の信号として補正回路50に供給する。
1H遅延信号Sig_R_1hは、補正対象画素Grに隣接する右画素(b)の信号として補正回路50に直接供給される。遅延回路58は、1H遅延信号Sig_R_1hを1クロック分だけ遅延し、補正対象画素Grに隣接する左画素(c)の信号として補正回路50に供給する。遅延回路59は、1H遅延信号Sig_B_1hを1クロック分だけ遅延し、補正対象画素Grに隣接する下画素(d)の信号として補正回路50に供給する。
このように、1H遅延信号Sig_Gr_1h、2H遅延信号Sig_B_2h、1H遅延信号Sig_R_1h、1H遅延信号Sig_R_1hおよび1H遅延信号Sig_B_1hが遅延回路56〜59を経由することで、補正対象画素Grの信号を(1H遅延+1クロック遅延)の信号とした場合に、補正対象画素Grに上、右、左、下の各方向で辺で隣接する4個の周囲画素の各信号が抽出されて補正対象画素Grの信号と共に補正回路50に入力されることになる。
(Gb ch用補正ブロック)
図40は、Gb ch用補正ブロック113Gの構成の一例を示すブロック図である。本補正ブロック113Gは、補正ブロック113Eと同じ補正回路50に加えて、5個の遅延回路61〜65を有し、図36のラインメモリ群111から各チャンネル2個ずつ出力される計8つの信号の内、1H遅延信号Sig_Gb_1h、1H遅延信号Sig_R_1h、1H遅延信号Sig_B_1h、1H遅延信号Sig_B_1hおよび0H遅延信号Sig_R_0hを入力としている。
遅延回路61は、1H遅延信号Sig_Gb_1hを1クロック分だけ遅延し、補正対象画素の信号として補正回路50に供給する。本補正ブロック113Gにおいては、図38(C)に示すように、Gbが補正対象画素となる。
遅延回路62は、1H遅延信号Sig_R_1hを1クロック分だけ遅延し、補正対象画素Gbに隣接する上画素(a)の信号として補正回路50に供給する。遅延回路63は、1H遅延信号Sig_B_1hを1クロック分だけ遅延し、補正対象画素Gbに隣接する右画素(b)の信号として補正回路50に供給する。
遅延回路64は、1H遅延信号Sig_B_1hを2クロック分だけ遅延し、補正対象画素Gbに隣接する左画素(c)の信号として補正回路50に供給する。遅延回路65は、1H遅延信号Sig_R_1hを1クロック分だけ遅延し、補正対象画素Gbに隣接する下画素(d)の信号として補正回路50に供給する。
このように、1H遅延信号Sig_Gb_1h、1H遅延信号Sig_R_1h、1H遅延信号Sig_B_1h、1H遅延信号Sig_B_1hおよび0H遅延信号Sig_R_0hが遅延回路61〜65を経由することで、補正対象画素Gbの信号を(1H遅延+1クロック遅延)の信号とした場合に、補正対象画素Gbに上、右、左、下の各方向で辺で隣接する4個の周囲画素の各信号が抽出されて補正対象画素Gbの信号と共に補正回路50に入力されることになる。
(Bch用補正ブロック)
図41は、Bch用補正ブロック113Hの構成の一例を示すブロック図である。本補正ブロック113Hは、補正ブロック113Eと同じ補正回路50に加えて、4個の遅延回路66〜69を有し、図36のラインメモリ群111から各チャンネル2個ずつ出力される計8つの信号の内、1H遅延信号Sig_B_1h、1H遅延信号Sig_Gr_1h、1H遅延信号Sig_Gb_1h、1H遅延信号Sig_Gb_1hおよび0H遅延信号Sig_Gr_0hを入力としている。
遅延回路66は、1H遅延信号Sig_B_1hを1クロック分だけ遅延し、補正対象画素の信号として補正回路50に供給する。本補正ブロック113Hにおいては、図38(D)に示すように、Bが補正対象画素となる。遅延回路67は、1H遅延信号Sig_Gr_1hを1クロック分だけ遅延し、補正対象画素Bに隣接する上画素(a)の信号として補正回路50に供給する。
1H遅延信号Sig_Gb_1hは、補正対象画素Bに隣接する右画素(b)の信号として補正回路50に直接供給される。遅延回路68は、1H遅延信号Sig_Gb_1hを1クロック分だけ遅延し、補正対象画素Bに隣接する左画素(c)の信号として補正回路50に供給する。遅延回路69は、0H遅延信号Sig_Gr_0hを1クロック分だけ遅延し、補正対象画素Bに隣接する下画素(d)の信号として補正回路50に供給する。
このように、1H遅延信号Sig_B_1h、1H遅延信号Sig_Gr_1h、1H遅延信号Sig_Gb_1h、1H遅延信号Sig_Gb_1hおよび0H遅延信号Sig_Gr_0hが遅延回路66〜69を経由することで、補正対象画素Bの信号を(1H遅延+1クロック遅延)の信号とした場合に、補正対象画素Bに上、右、左、下の各方向で辺で隣接する4個の周囲画素の各信号が抽出されて補正対象画素の信号と共に補正回路50に入力されることになる。
[補正回路]
続いて、各チャンネルに共通の補正回路50の具体的な構成について、実施例1〜3として説明する。
(実施例1)
図42は、実施例1に係る補正回路50Aの構成を示すブロック図である。本補正回路50Aは、図17に示す補正回路30Aと同じ回路構成となっており、異なるのは入力信号のみである。
具体的には、補正回路50Aは、補正対象画素の信号Sig_C(Sig_R/Sig_Gr/Sig_Gb/Sig_B)を中心とし、上、右、左、下の各方向の画素信号(上:Sig_Up,右:Sig_R,左:Sig_L,下:Sig_Lo)とそれぞれ差分をとった後の信号に、各々独立の補正パラメータKa,Kb,Kc,Kdを掛け、その後に全ての信号の和をとったものを補正信号Sig_C’(Sig_R’/Sig_Gr’/Sig_Gb’/Sig_B’)とする。
ここで、Kaは補正対象画素と上の画素との間の混色(補正)割合、Kbは補正対象画素と右の画素との間の混色割合、Kcは補正対象画素と左の画素との間の混色割合、Kdは補正対象画素と下の画素との間の混色割合である。
この補正回路50Aでの演算処理を補正式として表すと、
Sig_C' = Sig_C
+Ka×(Sig_C−Sig_Up)
+Kb×(Sig_C−Sig_R)
+Kc×(Sig_C−Sig_L)
+Kd×(Sig_C−Sig_Lo) ……(6)
図43は、上記(6)式に示される補正モデル式の説明図である。補正対象画素を取り囲む斜め4方向および上下左右の計8画素のうち、斜め4方向に位置する画素は、上下左右の隣接画素に比べて距離的に√2倍遠いために、補正対象画素に対する混色の影響度は上下左右の隣接画素の方が支配的であると言える。そこで、本実施形態では、斜め4方向の画素との間の混色は十分無視できるものとして、斜め4方向の画素については除外することとする。
(実施例2)
図44は、実施例2に係る補正回路50Bの構成を示すブロック図である。本補正回路50Bは、図19に示す補正回路30Bと同じ回路構成となっており、異なるのは入力信号のみである。
具体的には、補正回路50Bは、補正対象画素の信号Sig_C(Sig_R/Sig_Gr/Sig_Gb/Sig_B)を中心とし、上、右、左、下の各方向の画素信号(上:Sig_Up,右:Sig_R,左:Sig_L,下:Sig_Lo)とそれぞれ差分をとった後の信号同士を、通信I/F42から与えられる方向性選択の制御信号(設定値)によって2つずつ組み合わせて和をとり、これら和信号に各々独立の補正パラメータK1,K2をかけ、その後全ての信号の和をとったものを補正信号Sig_C’(Sig_R’/Sig_Gr’/Sig_Gb’/Sig_B’)とする。
この補正回路50Bでの演算処理を補正式として表すと、
・方向性選択の設定値:0の場合
Sig_C' = Sig_C
+K1×[(Sig_C−Sig_Up)+(Sig_C−Sig_R)]
+K2×[(Sig_C−Sig_L)+(Sig_C−Sig_Lo)] ……(7)
・方向性選択の設定値:1の場合
Sig_C' = Sig_C
+K1×[(Sig_C−Sig_Up)+(Sig_C−Sig_L)]
+K2×[(Sig_C−Sig_R)+(Sig_C−Sig_Lo)] ……(8)
・方向性選択の設定値:2の場合
Sig_C' = Sig_C
+K1×[(Sig_C−Sig_Up)+(Sig_C−SIg_Lo)]
+K2×[(Sig_C−Sig_R)+(Sig_C−Sig_L)] ……(9)
となる。
図45は、上記(7)式、(8)式、(9)式に示される補正モデル式の説明図である。補正モデル式自体の考え方は図43と同じであり、方向性選択の設定値(0,1,2)別の補正率組み合わせと補正モデル式についてまとめたものである。
(実施例3)
図46は、実施例3に係る補正回路50Cの構成を示すブロック図である。本補正回路50Cは、図21に示す補正回路30Cと同じ回路構成となっており、異なるのは入力信号のみである。
具体的には、補正回路50Cは、補正対象画素の信号Sig_C(Sig_R/Sig_Gr/Sig_Gb/Sig_B)を中心とし、上、右、左、下の各方向の画素信号(上:Sig_Up,右:Sig_R,左:Sig_L,下:Sig_Lo)とそれぞれ差分をとった後の信号同士を全て加算し、その後唯一の補正パラメータKをかけ、その後元の信号との和をとったものを補正信号Sig_C’(Sig_R’/Sig_Gr’/Sig_Gb’/Sig_B’)とする。
この補正回路50Cでの演算処理を補正式として表すと、
Sig_C' = Sig_C
+K×[(Sig_C−Sig_Up)+(Sig_C−Sig_R)
+(Sig_C−Sig_L)+(Sig_C−Sig_Lo)] ……(10)
となる。
図47は、上記(10)式に示される補正モデル式の説明図である。補正モデル式自体の考え方は図43と同じである。
上述した第3実施形態における各実施例に係る補正回路50A,50B,50Cによれば、第1実施形態における各実施例に係る補正回路30A,30B,30Cと同様に作用効果を得ることができる。
なお、実施例1に係る補正回路50Aでは(5)式のモデル式を、実施例2に係る補正回路50Bでは(6)式乃至(8)式のモデル式を、実施例3に係る補正回路50Cでは(9)式のモデル式を用いているが、本発明のポイントはモデル式自体にあるものではないために、補正回路50A,50B,50Cとしては、(5)式乃至(9)式の演算を実現する回路構成に限定されるものではない。
上述した第3実施形態に係る混色補正によれば、画素配置が正方格子状で、色コーディングが例えばベイヤ配列であり、2行を単位として垂直走査を行うCMOSイメージセンサ20Cに対しても、注目画素に対する周囲画素の補正量を周囲画素ごとに独立に設定できるために、第1実施形態の場合と同様に作用効果を得ることができる。また、本実施形態に係る混色補正においても、第1実施形態の場合と同様に、色ごとに補正量を変えるようにすることができる。
なお、本実施形態では、正方格子状の画素配置に対して、色コーディングがベイヤ配列の場合を例に挙げて説明したが、ベイヤ配列への適用に限られるものではなく、正方格子状の色コーディング全般に対して適用可能である。
〈第4実施形態〉
以上説明した第1〜第3実施形態では、画素セルの物理的な中心と光学的な中心が必ずしも一致しないことに起因して、注目画素に対する周囲画素からの混色の割合(度合い)が異なる場合における混色補正について述べたが、混色は光学系1のレンズ1a(図1参照)のF値(絞り値)によっても変動することが知られている。このF値に基づいて混色補正を行うようにしたのが、以下に説明する第4実施形態に係る混色補正である。
図48は、絞り1bの開口径(絞り値/F値)とCMOSイメージセンサ2における混色の関係を示す概念図である。
絞り1bは、光量の調整のために、被写体の状況やユーザーの指示に応じてその開口径が変動する。絞り1bを通過した光は、CMOSイメージセンサ2上にある集光レンズ2aおよび被写体の色を弁別するためのカラーフィルタ2bを通り、画素セル21で受光される。カラーフィルタ2bは、一般的には、R,G,Bの3色からなり、第1,第2実施形態や第3実施形態で用いたような色コーディングを持つ。
ここで、絞り1bの開口径が小さい、即ちF値が大きい場合(A)は、ある画素セル21に集光する光は、その画素に対応した色フィルタのみを通過したものとなる。しかし、絞り1bの開口径を大きくした場合、即ちF値を小さくした場合(B)は、本来対応していない色フィルタを通過した光が画素セル21に漏れ込んでしまう。
そこで、本実施形態に係る混色補正では、第1乃至第3実施形態に係る混色補正において、補正パラメータKa,Kb,Kc,Kdの値を、絞り1bの開口径、即ちF値に応じて設定することで、被写体の状況やユーザーの設定によってF値が変動した場合でも常に適正な混色補正を実現することを特徴としている。F値に応じた補正パラメータKa,Kb,Kc,Kdの値の設定は、図1におけるカメラ制御部5によって行われる。
図49は、カメラ制御部5によって実行される補正処理、具体的にはF値に応じて補正パラメータKa,Kb,Kc,Kdの補正値を設定する処理の手順を示すフローチャートである。この補正処理は、画像の更新周期に応じて繰り返して実行される。
本補正処理を開始したら、先ず、デジタル信号処理回路4からの検波データ、あるいはヒューマンI/F制御部6からのユーザー設定データから現在の絞り1bのF値がいくつであるか読み取る(ステップS11)。次に、あらかじめ、F値に応じた補正パラメータKa,Kb,Kc,Kdの補正値を補正テーブル(ROMテーブル等)に保持しておき、当該補正テーブルからステップS11で得たF値に応じた補正値を読み出す(ステップS12)。そして、補正テーブルから読み出した補正値を設定値としてデジタル信号処理回路4内の画素混色補正回路11(図7、図28を参照)に送信する(ステップS13)。
このように、第1乃至第3実施形態に係る混色補正、即ち注目画素に隣接する複数の周囲画素の各信号と、当該各信号に対して各々独立して設定される補正パラメータとを用いて注目画素の信号に対して補正処理を行う混色補正において、補正パラメータの値を、F値(絞り1bの開口径)に応じて設定することで、注目画素に対する周囲画素の補正量に方向性を持たせることができるとともに、被写体の状況やユーザーの設定によってF値が変動した場合でも常に適正な混色補正を行うことができる。
なお、上記各実施形態では、固体撮像素子として、CMOSイメージセンサを用いた場合を例に挙げて説明したが、本発明はCMOSイメージセンサへの適用に限られるものではなく、CMOSイメージセンサ以外の増幅型固体撮像素子、さらにはCCDイメージセンサに代表される電荷転送型固体撮像素子など固体撮像素子全般に適用可能である。
本発明が適用されるビデオカメラの構成の一例を示すブロック図である。 第1実施形態で用いられるCMOSイメージセンサの色コーディングを示す図である。 第1実施形態で用いられるCMOSイメージセンサの構成の概略を示すブロック図である。 第1実施形態における画素R,G,Bについての定義図である。 第1実施形態における出力チャンネル別の出力信号のシーケンスを示す図である。 第1実施形態におけるデジタル信号処理回路の構成の一例を示すブロック図である。 第1実施形態に係るカメラ信号処理回路の具体的な内部構成を示すブロック図である。 第1実施形態に係る混色補正処理回路の構成の一例を示すブロック図である。 R/Gb ch用補正ブロックの構成の一例を示すブロック図である。 補正対象画素R/Gbと斜め方向に隣接する4個の周囲画素との関係を示す図である。 Gr/B ch用補正ブロックの構成の一例を示すブロック図である。 補正対象画素Gr/Bと斜め方向に隣接する4個の周囲画素との関係を示す図である。 Ggo ch用補正ブロックの構成の一例を示すブロック図である。 補正対象画素Ggoと斜め方向に隣接する4個の周囲画素との関係を示す図である。 Gge ch用補正ブロックの構成の一例を示すブロック図である。 補正対象画素Ggeと斜め方向に隣接する4個の周囲画素との関係を示す図である。 第1実施形態における実施例1に係る補正回路の構成を示すブロック図である。 第1実施形態における実施例1に係る補正回路の補正モデル式の説明図である。 第1実施形態における実施例2に係る補正回路の構成を示すブロック図である。 第1実施形態における実施例2に係る補正回路の補正モデル式の説明図である。 第1実施形態における実施例3に係る補正回路の構成を示すブロック図である。 第1実施形態における実施例3に係る補正回路の補正モデル式の説明図である。 色ごとに補正量を変える場合のR/Gb ch用補正ブロックの構成を示すブロック図である。 色ごとに補正量を変える場合のGr/B ch用補正ブロックの構成を示すブロック図である。 第2実施形態で用いられるCMOSイメージセンサの構成の概略を示すブロック図である。 第2実施形態における画素R,G,Bについての定義図である。 第2実施形態における出力チャンネル別の出力信号のシーケンスを示す図である。 第2実施形態に係るカメラ信号処理回路の具体的な内部構成を示すブロック図である。 並換処理回路の具体的な構成の一例を示すブロック図である。 並換処理回路の出力信号のシーケンスを示す図である。 画素ずらし配置における他の色コーディングを示す図である。 第3実施形態で用いられるCMOSイメージセンサの色コーディングを示す図である。 第3実施形態で用いられるCMOSイメージセンサの構成の概略を示すブロック図である。 第3実施形態における画素R,G,Bについての定義図である。 第3実施形態における出力チャンネル別の出力信号のシーケンスを示す図である。 第3実施形態に係る混色補正処理回路の構成の一例を示すブロック図である。 R ch用補正ブロックの構成の一例を示すブロック図である。 補正対象画素R/Gr/Gb/Bと上下左右方向に隣接する4個の周囲画素との関係を示す図である。 Gr ch用補正ブロックの構成の一例を示すブロック図である。 Gb ch用補正ブロックの構成の一例を示すブロック図である。 B ch用補正ブロックの構成の一例を示すブロック図である。 第1実施形態における実施例1に係る補正回路の構成を示すブロック図である。 第3実施形態における実施例1に係る補正回路の補正モデル式の説明図である。 第3実施形態における実施例2に係る補正回路の構成を示すブロック図である。 第3実施形態における実施例2に係る補正回路の補正モデル式の説明図である。 第3実施形態における実施例3に係る補正回路の構成を示すブロック図である。 第3実施形態における実施例3に係る補正回路の補正モデル式の説明図である。 絞りの開口径とCMOSイメージセンサにおける混色の関係を示す概念図である。 カメラ制御部によって実行される補正処理の手順を示すフローチャートである。
符号の説明
1…光学系、2,20A,20B,20C…CMOSイメージセンサ、3…AFE(アナログフロントエンド)、4…デジタル信号処理回路、5…カメラ制御部、6…ヒューマンI/F制御部、7…ユーザーインターフェース、8…タイミングジェネレータ、9…光学系駆動回路、10…手ぶれセンサ、11…混色補正処理回路、21…画素セル、22…画素アレイ部、23…画素駆動線、24…垂直走査回路、25…垂直信号線、26…カラム処理回路、27…水平走査回路、28…水平選択スイッチ、29−1〜29−4…水平信号線、30,30A,30B,30C,50,50A,50B,50C…補正回路

Claims (9)

  1. 光電変換素子を含む画素が行列状に2次元配置され、輝度成分を作る上で主成分となる色成分と他の色成分を含むカラーフィルタが前記画素の表面上に配置されてなる固体撮像素子の画素間の混色を補正する信号処理に当たって
    前記固体撮像素子の注目画素に対して辺で隣接する4個の周囲画素の各信号と、当該各信号に対して各々独立した補正パラメータとを用いて前記注目画素の信号に対して補正処理を行う補正処理手段を備えた
    固体撮像素子の信号処理装置。
  2. 前記カラーフィルタは、前記主成分となる色成分および前記他の色成分が、前記主成分となる色成分で前記他の色成分の周囲を囲むように配置された色コーディングを持つ
    請求項1記載の固体撮像素子の信号処理装置。
  3. 前記補正処理手段は、
    前記注目画素の信号を中心とし、前記4個の画素の各信号とそれぞれ差分をとる減算手段と、
    前記減算手段の前記4個の画素に対応した出力信号に各々独立の前記補正パラメータを掛ける掛算手段と、
    前記掛け算手段の出力信号を前記注目画素の信号に加算して補正信号とする加算手段とを有する
    請求項1記載の固体撮像素子の信号処理装置。
  4. 前記補正パラメータの値は、前記補正処理手段の外部から通信にて任意に設定可能である
    請求項1記載の固体撮像素子の信号処理装置。
  5. 前記補正パラメータの値は、前記カラーフィルタの色ごとに設定される
    請求項1記載の固体撮像素子の信号処理装置。
  6. 前記補正パラメータの値は、被写体からの光を前記固体撮像素子に導く光学系に含まれる絞りの開口径に応じて設定される
    請求項1記載の固体撮像素子の信号処理装置。
  7. 前記絞りの開口径に対応した補正パラメータの補正値をあらかじめ補正テーブルに保持しておき、当該補正テーブルから現在の前記絞りの開口径に応じた補正値を読み出して前記補正パラメータの値とする
    請求項6記載の固体撮像素子の信号処理装置。
  8. 光電変換素子を含む画素が行列状に2次元配置され、輝度成分を作る上で主成分となる色成分と他の色成分を含むカラーフィルタが前記画素の表面上に配置されてなる固体撮像素子の画素間の混色を補正する信号処理に当たって
    前記固体撮像素子の注目画素に対して辺で隣接する4個の周囲画素の各信号と、当該各信号に対して各々独立した補正パラメータとを用いて前記注目画素の信号に対して補正処理を行う
    固体撮像素子の信号処理方法。
  9. 光電変換素子を含む画素が行列状に2次元配置され、輝度成分を作る上で主成分となる色成分と他の色成分を含むカラーフィルタが前記画素の表面上に配置されてなる固体撮像素子と、
    被写体からの光を前記固体撮像素子に導く光学系と、
    前記固体撮像素子の注目画素に対して辺で隣接する4個の周囲画素の各信号と、当該各信号に対して各々独立した補正パラメータとを用いて前記注目画素の信号に対して補正処理を行う補正処理手段と
    を具備する撮像装置。
JP2005332308A 2005-11-17 2005-11-17 固体撮像素子の信号処理装置および信号処理方法並びに撮像装置 Expired - Fee Related JP4389865B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2005332308A JP4389865B2 (ja) 2005-11-17 2005-11-17 固体撮像素子の信号処理装置および信号処理方法並びに撮像装置
US11/557,675 US7864232B2 (en) 2005-11-17 2006-11-08 Signal processing apparatus for solid-state imaging device, signal processing method, and imaging system
CNB2006101454789A CN100546392C (zh) 2005-11-17 2006-11-17 固体摄像元件的信号处理装置和信号处理方法及摄像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005332308A JP4389865B2 (ja) 2005-11-17 2005-11-17 固体撮像素子の信号処理装置および信号処理方法並びに撮像装置

Publications (2)

Publication Number Publication Date
JP2007142697A JP2007142697A (ja) 2007-06-07
JP4389865B2 true JP4389865B2 (ja) 2009-12-24

Family

ID=38076915

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005332308A Expired - Fee Related JP4389865B2 (ja) 2005-11-17 2005-11-17 固体撮像素子の信号処理装置および信号処理方法並びに撮像装置

Country Status (3)

Country Link
US (1) US7864232B2 (ja)
JP (1) JP4389865B2 (ja)
CN (1) CN100546392C (ja)

Families Citing this family (99)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1289309B1 (en) * 2001-08-31 2010-04-21 STMicroelectronics Srl Noise filter for Bayer pattern image data
JP5146682B2 (ja) * 2006-05-18 2013-02-20 コニカミノルタホールディングス株式会社 撮像装置及び撮像方法
JP4905279B2 (ja) * 2007-07-20 2012-03-28 ソニー株式会社 撮像回路および撮像装置
JP4803156B2 (ja) * 2007-10-16 2011-10-26 ソニー株式会社 固体撮像素子用の信号処理装置、信号処理装置を備えた撮像装置、信号処理方法、およびプログラム
JP5045380B2 (ja) 2007-11-13 2012-10-10 ソニー株式会社 撮像装置および撮像データ補正方法並びにプログラム
JP5163068B2 (ja) * 2007-11-16 2013-03-13 株式会社ニコン 撮像装置
US8180179B2 (en) * 2007-12-21 2012-05-15 Canon Kabushiki Kaisha Image processing apparatus, image processing method, program executing image processing method, and storage medium
JP5305883B2 (ja) * 2007-12-28 2013-10-02 キヤノン株式会社 画像処理装置及び画像処理方法並びに画像処理方法を実行するプログラム
US8315480B2 (en) * 2007-12-28 2012-11-20 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and program to execute the image processing method
US8035704B2 (en) * 2008-01-03 2011-10-11 Aptina Imaging Corporation Method and apparatus for processing a digital image having defective pixels
US8866920B2 (en) 2008-05-20 2014-10-21 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with heterogeneous imagers
US11792538B2 (en) 2008-05-20 2023-10-17 Adeia Imaging Llc Capturing and processing of images including occlusions focused on an image sensor by a lens stack array
KR101843994B1 (ko) 2008-05-20 2018-03-30 포토네이션 케이맨 리미티드 이종 이미저를 구비한 모놀리식 카메라 어레이를 이용한 이미지의 캡처링 및 처리
JP2009303043A (ja) * 2008-06-16 2009-12-24 Panasonic Corp 固体撮像装置及びその信号処理方法
JP5163319B2 (ja) 2008-06-30 2013-03-13 ソニー株式会社 画像信号補正装置、撮像装置、画像信号補正方法、およびプログラム
JP5254762B2 (ja) 2008-11-28 2013-08-07 キヤノン株式会社 撮像装置、撮像システム、及び撮像装置における信号の補正方法
FR2943203B1 (fr) * 2009-03-16 2011-04-08 St Microelectronics Grenoble 2 Sas Procede et dispositif pour reordonner des donnees d'image ayant une repartition du type du motif de bayer
US8350940B2 (en) * 2009-06-08 2013-01-08 Aptina Imaging Corporation Image sensors and color filter arrays for charge summing and interlaced readout modes
JP5152114B2 (ja) 2009-06-30 2013-02-27 ソニー株式会社 画像処理装置及び画像処理方法、撮像装置、並びにコンピューター・プログラム
JP5401191B2 (ja) * 2009-07-21 2014-01-29 富士フイルム株式会社 撮像装置及び信号処理方法
JP2011041210A (ja) * 2009-08-18 2011-02-24 Sony Corp 信号処理装置、撮像装置及び信号処理方法
US8619163B2 (en) 2009-09-18 2013-12-31 Canon Kabushiki Kaisha Solid state imaging using a correction parameter for correcting a cross talk between adjacent pixels
JP5467846B2 (ja) * 2009-11-20 2014-04-09 富士フイルム株式会社 放射線検出素子
US8514491B2 (en) 2009-11-20 2013-08-20 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with heterogeneous imagers
JP2011156214A (ja) * 2010-02-02 2011-08-18 Hoya Corp 撮像装置、及び電子内視鏡システム
JP5526840B2 (ja) * 2010-02-09 2014-06-18 ソニー株式会社 画像信号処理装置、撮像装置、画像信号処理方法、およびプログラム
EP2569935B1 (en) 2010-05-12 2016-12-28 Pelican Imaging Corporation Architectures for imager arrays and array cameras
US8416325B2 (en) 2010-10-04 2013-04-09 Fujifilm Corporation Imaging apparatus and color contamination correction method
US8878950B2 (en) 2010-12-14 2014-11-04 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using super-resolution processes
JP5496922B2 (ja) * 2011-01-13 2014-05-21 日本放送協会 クロストーク量測定装置、これを用いた色補正装置およびクロストーク量測定方法
JP2014519741A (ja) 2011-05-11 2014-08-14 ペリカン イメージング コーポレイション アレイカメラ画像データを伝送および受信するためのシステムおよび方法
WO2013003276A1 (en) 2011-06-28 2013-01-03 Pelican Imaging Corporation Optical arrangements for use with an array camera
US20130265459A1 (en) 2011-06-28 2013-10-10 Pelican Imaging Corporation Optical arrangements for use with an array camera
EP2733944B1 (en) 2011-07-13 2016-08-03 FUJIFILM Corporation Image pickup apparatus and signal value correction method
JP5917040B2 (ja) * 2011-08-09 2016-05-11 キヤノン株式会社 画像処理装置及び画像処理方法
JP5907687B2 (ja) * 2011-09-14 2016-04-26 オリンパス株式会社 撮像装置および信号転送装置
US20130070060A1 (en) 2011-09-19 2013-03-21 Pelican Imaging Corporation Systems and methods for determining depth from multiple views of a scene that include aliasing using hypothesized fusion
US8542933B2 (en) 2011-09-28 2013-09-24 Pelican Imaging Corporation Systems and methods for decoding light field image files
CN104012084B (zh) * 2011-12-27 2015-06-24 富士胶片株式会社 彩色摄像元件
WO2013099792A1 (ja) * 2011-12-28 2013-07-04 富士フイルム株式会社 画像処理装置及び方法並びに撮像装置
CN104041021B (zh) 2011-12-28 2017-05-17 富士胶片株式会社 图像处理装置及方法以及摄像装置
US9412206B2 (en) 2012-02-21 2016-08-09 Pelican Imaging Corporation Systems and methods for the manipulation of captured light field image data
US9210392B2 (en) 2012-05-01 2015-12-08 Pelican Imaging Coporation Camera modules patterned with pi filter groups
JP2015534734A (ja) 2012-06-28 2015-12-03 ペリカン イメージング コーポレイション 欠陥のあるカメラアレイ、光学アレイ、およびセンサを検出するためのシステムおよび方法
US20140002674A1 (en) 2012-06-30 2014-01-02 Pelican Imaging Corporation Systems and Methods for Manufacturing Camera Modules Using Active Alignment of Lens Stack Arrays and Sensors
CN104471929B (zh) * 2012-07-06 2016-04-06 富士胶片株式会社 彩色摄像元件及摄像装置
CN104662589B (zh) 2012-08-21 2017-08-04 派力肯影像公司 用于使用阵列照相机捕捉的图像中的视差检测和校正的系统和方法
US20140055632A1 (en) 2012-08-23 2014-02-27 Pelican Imaging Corporation Feature based high resolution motion estimation from low resolution images captured using an array source
WO2014043641A1 (en) 2012-09-14 2014-03-20 Pelican Imaging Corporation Systems and methods for correcting user identified artifacts in light field images
EP2901671A4 (en) 2012-09-28 2016-08-24 Pelican Imaging Corp CREATING IMAGES FROM LIGHT FIELDS USING VIRTUAL POINTS OF VIEW
WO2014078443A1 (en) 2012-11-13 2014-05-22 Pelican Imaging Corporation Systems and methods for array camera focal plane control
JP5749409B2 (ja) 2012-12-07 2015-07-15 富士フイルム株式会社 撮像装置、画像処理方法及びプログラム
US9462164B2 (en) 2013-02-21 2016-10-04 Pelican Imaging Corporation Systems and methods for generating compressed light field representation data using captured light fields, array geometry, and parallax information
WO2014133974A1 (en) 2013-02-24 2014-09-04 Pelican Imaging Corporation Thin form computational and modular array cameras
US9638883B1 (en) 2013-03-04 2017-05-02 Fotonation Cayman Limited Passive alignment of array camera modules constructed from lens stack arrays and sensors based upon alignment information obtained during manufacture of array camera modules using an active alignment process
WO2014136570A1 (ja) * 2013-03-05 2014-09-12 富士フイルム株式会社 撮像装置、画像処理装置、画像処理方法及びプログラム
WO2014138697A1 (en) 2013-03-08 2014-09-12 Pelican Imaging Corporation Systems and methods for high dynamic range imaging using array cameras
US8866912B2 (en) 2013-03-10 2014-10-21 Pelican Imaging Corporation System and methods for calibration of an array camera using a single captured image
US9521416B1 (en) 2013-03-11 2016-12-13 Kip Peli P1 Lp Systems and methods for image data compression
WO2014164909A1 (en) 2013-03-13 2014-10-09 Pelican Imaging Corporation Array camera architecture implementing quantum film sensors
WO2014165244A1 (en) 2013-03-13 2014-10-09 Pelican Imaging Corporation Systems and methods for synthesizing images from image data captured by an array camera using restricted depth of field depth maps in which depth estimation precision varies
US9124831B2 (en) 2013-03-13 2015-09-01 Pelican Imaging Corporation System and methods for calibration of an array camera
US9106784B2 (en) 2013-03-13 2015-08-11 Pelican Imaging Corporation Systems and methods for controlling aliasing in images captured by an array camera for use in super-resolution processing
WO2014159779A1 (en) 2013-03-14 2014-10-02 Pelican Imaging Corporation Systems and methods for reducing motion blur in images or video in ultra low light with array cameras
US9100586B2 (en) 2013-03-14 2015-08-04 Pelican Imaging Corporation Systems and methods for photometric normalization in array cameras
US9445003B1 (en) 2013-03-15 2016-09-13 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using image deconvolution based on motion and depth information
US10122993B2 (en) 2013-03-15 2018-11-06 Fotonation Limited Autofocus system for a conventional camera that uses depth information from an array camera
US9497429B2 (en) 2013-03-15 2016-11-15 Pelican Imaging Corporation Extended color processing on pelican array cameras
JP2016524125A (ja) 2013-03-15 2016-08-12 ペリカン イメージング コーポレイション カメラアレイを用いた立体撮像のためのシステムおよび方法
US9497370B2 (en) 2013-03-15 2016-11-15 Pelican Imaging Corporation Array camera architecture implementing quantum dot color filters
US9633442B2 (en) 2013-03-15 2017-04-25 Fotonation Cayman Limited Array cameras including an array camera module augmented with a separate camera
WO2015048694A2 (en) 2013-09-27 2015-04-02 Pelican Imaging Corporation Systems and methods for depth-assisted perspective distortion correction
US9264592B2 (en) 2013-11-07 2016-02-16 Pelican Imaging Corporation Array camera modules incorporating independently aligned lens stacks
US10119808B2 (en) 2013-11-18 2018-11-06 Fotonation Limited Systems and methods for estimating depth from projected texture using camera arrays
US9456134B2 (en) 2013-11-26 2016-09-27 Pelican Imaging Corporation Array camera configurations incorporating constituent array cameras and constituent cameras
US10089740B2 (en) 2014-03-07 2018-10-02 Fotonation Limited System and methods for depth regularization and semiautomatic interactive matting using RGB-D images
US9317931B2 (en) * 2014-04-04 2016-04-19 Tektronix, Inc. F-stop weighted waveform with picture monitor markers
US9247117B2 (en) 2014-04-07 2016-01-26 Pelican Imaging Corporation Systems and methods for correcting for warpage of a sensor array in an array camera module by introducing warpage into a focal plane of a lens stack array
US9521319B2 (en) 2014-06-18 2016-12-13 Pelican Imaging Corporation Array cameras and array camera modules including spectral filters disposed outside of a constituent image sensor
KR20150146308A (ko) * 2014-06-23 2015-12-31 삼성전자주식회사 이미지 센서 및 이미지 센서의 동작 방법
EP3201877B1 (en) 2014-09-29 2018-12-19 Fotonation Cayman Limited Systems and methods for dynamic calibration of array cameras
US9942474B2 (en) 2015-04-17 2018-04-10 Fotonation Cayman Limited Systems and methods for performing high speed video capture and depth estimation using array cameras
WO2018068322A1 (en) * 2016-10-14 2018-04-19 Huawei Technologies Co., Ltd. Cmos image sensor
US10482618B2 (en) 2017-08-21 2019-11-19 Fotonation Limited Systems and methods for hybrid depth regularization
JP7289626B2 (ja) * 2018-10-30 2023-06-12 キヤノン株式会社 情報処理装置、その制御方法、プログラム、及び記憶媒体
MX2022003020A (es) 2019-09-17 2022-06-14 Boston Polarimetrics Inc Sistemas y metodos para modelado de superficie usando se?ales de polarizacion.
MX2022004162A (es) 2019-10-07 2022-07-12 Boston Polarimetrics Inc Sistemas y metodos para el aumento de sistemas de sensores y sistemas de formacion de imagenes con polarizacion.
KR102558903B1 (ko) 2019-11-30 2023-07-24 보스턴 폴라리메트릭스, 인크. 편광 신호를 이용한 투명 물체 분할을 위한 시스템 및 방법
EP4081933A4 (en) 2020-01-29 2024-03-20 Intrinsic Innovation LLC SYSTEMS AND METHODS FOR CHARACTERIZING OBJECT POSE DETECTION AND MEASUREMENT SYSTEMS
WO2021154459A1 (en) 2020-01-30 2021-08-05 Boston Polarimetrics, Inc. Systems and methods for synthesizing data for training statistical models on different imaging modalities including polarized images
WO2021243088A1 (en) 2020-05-27 2021-12-02 Boston Polarimetrics, Inc. Multi-aperture polarization optical systems using beam splitters
US12069227B2 (en) 2021-03-10 2024-08-20 Intrinsic Innovation Llc Multi-modal and multi-spectral stereo camera arrays
US12020455B2 (en) 2021-03-10 2024-06-25 Intrinsic Innovation Llc Systems and methods for high dynamic range image reconstruction
KR20220132069A (ko) * 2021-03-22 2022-09-30 삼성전자주식회사 이미지 센서
US11954886B2 (en) 2021-04-15 2024-04-09 Intrinsic Innovation Llc Systems and methods for six-degree of freedom pose estimation of deformable objects
US11290658B1 (en) 2021-04-15 2022-03-29 Boston Polarimetrics, Inc. Systems and methods for camera exposure control
US12067746B2 (en) 2021-05-07 2024-08-20 Intrinsic Innovation Llc Systems and methods for using computer vision to pick up small objects
US11689813B2 (en) 2021-07-01 2023-06-27 Intrinsic Innovation Llc Systems and methods for high dynamic range imaging using crossed polarizers
WO2024034017A1 (ja) * 2022-08-09 2024-02-15 ソニーセミコンダクタソリューションズ株式会社 受光素子及び光検出装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3308592B2 (ja) * 1992-06-17 2002-07-29 株式会社東芝 固体撮像装置及びその信号処理方法
JP4120020B2 (ja) 1997-03-26 2008-07-16 ソニー株式会社 固体撮像装置
ID28202A (id) * 1998-05-08 2001-05-10 Matsushita Electric Ind Co Ltd Peralatan pengambil gambar berwarna keadaan padat
JP2000188761A (ja) 1998-12-21 2000-07-04 Toshiba Corp 混色低減回路
JP2003304544A (ja) * 2002-04-10 2003-10-24 Canon Inc 撮像装置
JP4213943B2 (ja) * 2002-07-25 2009-01-28 富士通マイクロエレクトロニクス株式会社 画質を向上させた画像処理回路
JP2004135206A (ja) 2002-10-15 2004-04-30 Matsushita Electric Ind Co Ltd 画素信号混色低減装置

Also Published As

Publication number Publication date
US20070146511A1 (en) 2007-06-28
CN1968423A (zh) 2007-05-23
JP2007142697A (ja) 2007-06-07
CN100546392C (zh) 2009-09-30
US7864232B2 (en) 2011-01-04

Similar Documents

Publication Publication Date Title
JP4389865B2 (ja) 固体撮像素子の信号処理装置および信号処理方法並びに撮像装置
JP5045380B2 (ja) 撮像装置および撮像データ補正方法並びにプログラム
JP2021093767A (ja) 撮像素子
US7148925B2 (en) Solid-state honeycomb type image pickup apparatus using a complementary color filter and signal processing method therefor
JP2006165975A (ja) 撮像素子、撮像装置、画像処理方法
KR20100066396A (ko) 고체 촬상 장치, 고체 촬상 장치의 신호 처리 방법 및 촬상 장치
US20060050956A1 (en) Signal processing apparatus, signal processing method, and signal processing program
JP4600315B2 (ja) カメラ装置の制御方法及びこれを用いたカメラ装置
JP2006270364A (ja) 固体撮像素子および固体撮像装置、ならびにその駆動方法
JP2011066800A (ja) 画像処理装置及び撮像システム
WO2013100093A1 (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム
JP5607266B2 (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム
JP2021122131A (ja) 撮像素子および撮像装置
JP2004023683A (ja) 固体撮像素子の欠陥補正装置及び方法
JP2001148805A (ja) 固体撮像装置
JP5624228B2 (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム
JP3967500B2 (ja) 固体撮像装置および信号読出し方法
JP2004194248A (ja) 撮像素子及び撮像装置
JP2005020275A (ja) 撮像装置
JP4825311B1 (ja) 撮像素子、撮像素子の駆動装置、撮像素子の駆動方法、画像処理装置、画像処理方法、プログラム、及び、撮像装置
JP2008252935A (ja) 撮像装置
JP2003143614A (ja) 固体撮像素子の駆動方法及び撮像装置
JP2016225848A (ja) 撮像装置及び撮像素子の制御方法
JP2003116147A (ja) 固体撮像装置
JP2021082931A (ja) 撮像素子及び撮像装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090414

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090521

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090915

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090928

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121016

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121016

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees