JP5229148B2 - 撮像素子、撮像装置、信号処理方法及びプログラム - Google Patents

撮像素子、撮像装置、信号処理方法及びプログラム Download PDF

Info

Publication number
JP5229148B2
JP5229148B2 JP2009175710A JP2009175710A JP5229148B2 JP 5229148 B2 JP5229148 B2 JP 5229148B2 JP 2009175710 A JP2009175710 A JP 2009175710A JP 2009175710 A JP2009175710 A JP 2009175710A JP 5229148 B2 JP5229148 B2 JP 5229148B2
Authority
JP
Japan
Prior art keywords
pixel data
pixel
digital
unit
digital signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009175710A
Other languages
English (en)
Other versions
JP2011030097A (ja
Inventor
晶宏 玉置
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2009175710A priority Critical patent/JP5229148B2/ja
Priority to CN2010102356493A priority patent/CN101986692B/zh
Priority to US12/841,235 priority patent/US8451341B2/en
Publication of JP2011030097A publication Critical patent/JP2011030097A/ja
Application granted granted Critical
Publication of JP5229148B2 publication Critical patent/JP5229148B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response

Description

本発明は、例えば、撮像素子の出力信号に重畳されるノイズ成分を取り除く場合に適用して好適な撮像素子、撮像装置、信号処理方法及びプログラムに関する。
従来、固体撮像素子が出力する画像信号に重畳されるノイズ成分(特に、暗電流ノイズやカラム、ラインに特化された低周波、固定パターンのノイズ)を補正するため、様々な技術が提案されている。例えば、オプティカルブラック画素(以下、「OB画素」と称する。)や、画素の有無に関係なく、AD変換によってのみ生成される擬似的な画像信号を出力するダミー画素を用いたノイズ補正の技術がある。これらの画素が出力する画像信号は、被写体の像光が入射しアナログ画像信号(以下、後述するデジタル画像信号と共に、「画像信号」と略称する場合がある。)を生成する有効画素と同様に1画素ずつ読み出される。そして、固体撮像素子が出力した画像信号を処理する信号処理装置は、カラム、ライン、OB画素領域の全面などのエリア単位で画像信号の信号レベルの平均値を算出し、この平均値を、ノイズ補正値として用いてノイズ補正を行っていた。
ここで、ノイズ補正値は、あくまで平均値として用いるにすぎないため、従来、OB画素やダミー画素が出力する画像信号を転送するために特別な処理を行っていなかった。
しかし、近年、撮像装置が処理する画素数が多くなり、かつ高フレームレート化したことにより画像信号の転送帯域が高くなってきた。このため、従来の信号処理装置の構成としたまま、画像信号の転送帯域を高帯域化すると消費電力が増してしまう。
ここで、従来の撮像装置100の構成例について説明する。
図16は、従来の撮像装置100の内部構成例を示すブロック図である。
撮像装置100は、デジタル画像信号を出力する固体撮像素子101と、固体撮像素子101から受け取ったデジタル画像信号に所定の補正処理を施す信号処理装置105と、を備える。
固体撮像素子101は、不図示のレンズを介して入射した被写体の像光より、アナログ画像信号を出力する画素部102を備える。また、固体撮像素子101は、画素部102から受け取ったアナログ画像信号をデジタル画像信号に変換するアナログ/デジタル変換部103と、デジタル画像信号に所定の処理を施すデジタル処理部104と、を備える。
一方、信号処理装置105は、デジタル画像信号に重畳するノイズを補正するノイズ補正部106を備える。ノイズ補正部106は、固体撮像素子101から入力されたデジタル画像信号の出力を所定時間だけ遅らせる遅延部107と、単位時間におけるデジタル画像信号のレベルの平均値を算出する平均値算出部110と、を備える。また、ノイズ補正部106は、遅延部107と平均値算出部110から入力されたデジタル画像信号に対して所定の補正を行う補正部108を備える。
ここで、平均値算出部110は、固体撮像素子101が出力したデジタル画像信号の信号レベルを、所定の回数だけ加算する加算部111と、加算部111が加算した回数を計測するカウンタ112と、を備える。また、平均値算出部110は、加算部111が加算したデジタル画像信号の信号レベルを、カウンタ112が計測した加算回数で除する除算部113を備える。除算部113の出力は平均値として、平均値算出部110から補正部108に入力される。そして、補正部108は、遅延部107から入力されたデジタル画像信号から、平均値算出部110から入力された平均値を減ずることにより、デジタル画像信号のノイズ補正を行っている。
図17は、固体撮像素子101の画素領域の例を示す。
固体撮像素子101は、水平方向が2160ワード、垂直方向が1160ワードである、2160×1160ワードに相当する数の画素部102及びアナログ/デジタル変換部103から成る。ここで、入射した像光に応じてアナログ画像信号を出力する領域を有効画素領域121とする。そして、有効画素領域121の周囲の遮光領域に配置され、像光が入射しないため、像光に関係なくアナログ画像信号を出力する領域をオプティカルブラック(以下、「OB」と略称する。)画素領域122とする。OB画素領域122に配置された画素部102が出力する画像信号は、有効画素領域121が出力する画像信号に重畳するノイズ成分等を除去するために用いられる。
さらに、OB画素領域122の周囲に配置され、擬似的なアナログ画像信号を出力する領域をダミー画素領域123とする。ダミー画素領域123は、画素部102を持たずA/D変換部103のみを持つことで、画素以外のアナログ的な特性を検出するために用いられる領域である。そして、ダミー画素領域123は、例えば、カラムA/D構造ならば、1ラインの画素数分に相当するA/D変換部103を持つ。このため、有効画素領域121の左右には画素数分(左右共に40画素分)のA/D変換部103のみを物理的にもち、画素を持つ有効画素領域121と同様に画像信号が読み出される。また、有効画素領域121の上下に存在する画素を切り離した上で、上下共に40ライン分の画像信号繰り返し読み出しており、このことは、上下左右の画素領域より40画素分のダミー画素から画像信号を読み出すことに相当する。
ここで、図17に示す各画素領域は、物理的な画素配列ではなく、画像信号の転送イメージである。すなわち、有効画素領域121は、2000×1000ワードの領域を占め、OB画素領域122は、有効画素領域121の周囲の上下左右に40ワードずつの領域を占める転送イメージを表す。さらに、ダミー画素領域123は、物理的には左右に40ワードずつ存在し、有効画素領域121の上下には存在しない。しかし、転送イメージとしたときに、ダミー画素領域123の上下左右から40ワードずつ画像信号の読み出しを行うこととなる。そして、従来の固体撮像素子101は、2160×1160=2,505,600ワードからなるアナログ画像信号によって形成される画素データを、水平方向の1本の水平ライン毎(2160ワード毎)に信号処理装置105へ転送している。
ここで、画像出力を垂直方向にライン毎に注目すると、以下のように表される。
ただし、表記を簡略化するため、各画素領域から出力される画像信号のワード数を、それぞれ「画素領域の名称」と「ワード数」を組み合わせて示している。
1〜 40ライン:ダミー2160ワード
41〜 80ライン:ダミー40ワード,OPB2080ワード、ダミー40ワード
81〜1080ライン:ダミー40ワード,OPB40ワード、有効200ワード、OPB40ワード、ダミー40ワード
1081〜1120ライン:ダミー40ワード,OPB2080ワード、ダミー40ワード
1121〜1160ライン:ダミー2160ワード
以下の説明においては、ライン毎に出力された画像信号の補正を例に挙げるが、カラム毎に出力された画像信号の補正も行っている。カラム毎に補正を行う場合は、1カラム毎のデータが必要となる。
図18は、従来の撮像装置100がダミー画素を用いて行う、画素データのノイズ検波と補正処理の例を示す。
ここでは、図17に示した固体撮像素子101の領域124を拡大視して説明する。
水平ライン125には、有効画素領域121、OB画素領域122、及びダミー画素領域123から出力されるアナログ画像信号が含まれる。
信号処理装置105が備える加算部111は、ダミー画素領域123から出力され、変換されたデジタル画像信号を所定の回数で加算し、除算部113は、カウンタ112が計数した加算回数を用いて、加算結果を除算することにより平均値を算出する。そして、補正部108は、同一の水平ライン上における有効画素領域121から出力されるアナログ画像信号を変換したデジタル画像信号に対して、この平均値を減ずる等の処理を行うことでノイズ補正を行っている。
図19は、固体撮像素子101が出力する画素データに含まれる、1本の水平ライン125の画素データの転送イメージの例を示す。
固体撮像素子101が信号処理装置105に出力する画像信号の水平ライン125は以下のように構成される。すなわち、水平ライン125に含まれる1つの画素部102が出力するアナログ画像信号からなる画素データのデータ長は、12ビット幅であり、u10.2で表される。このため、ダミー画素領域123が出力するアナログ画像信号と、OB画素領域122,有効画素領域121に含まれる画素部102が出力する1画素毎のアナログ画像信号は、それぞれ1画素毎にu10.2で表される。ここで、「u10.2」の表記は、「u」はunsigned(符号なし)、「10.2」は整数部が10ビットであり、小数部が2ビットであることを意味しており、以下の説明には、この表記を用いる。
図19より、水平ライン125には、40ワードのダミー画素領域123、40ワードのOB画素領域122、及び2000ワードの有効画素領域121から出力されたアナログ画像信号が含まれることが示される。ただし、図19の説明では、領域124のみ注目している。実際には、有効画素領域121の右側に位置する40ワードのOB画素領域122と、40ワードのダミー画素領域123が出力する画素データも含まれる。
ここで、特許文献1には、オプティカルブラック部やダミー画素部から読み出したデータを用いてデータ補正を行う技術が開示されている。
また、特許文献2には、感度設定に応じてクランプの基準となる参照信号を制御し、低輝度部分に見られる、ノイズクリップによって生じる色回りなどを軽減する技術が開示されている。
また、特許文献3には、有効ピクセルの値からダミーピクセルの値を差し引くことによって、電源ノイズ等の影響を取り除く技術が開示されている。
特開2007−235889号公報 特開2007−243637号公報 特開2008−206003号公報
ところで、従来の固体撮像素子101は、例えば1フレームが640×480ワードからなる画素データを、毎秒30フレームずつ転送する程度であったため、固体撮像素子101から信号処理装置105に画像信号を転送する時間に余裕があった。しかし、近年は、例えば、1フレームが1920×1080ワード、かつ、毎秒60フレームのデータ量を転送する必要があり、必要とされる転送帯域が莫大に増えている。転送帯域の増加は、消費電力の増大等の要因となるため、少しでも転送帯域を削減する必要性が高まっている。しかし、1本の水平ラインには、有効画素領域121、OB画素領域122及びダミー画素領域123から出力される、全ての画素数分の画像信号を転送するための時間が必要となる。このため、固体撮像素子101から信号処理装置105に画素データを転送するフレームレートを高くすることができなかった。
また、OB画素は、発生場所が固定される画素欠陥や、発生場所が不定であるインパルス雑音を含むことも多い(以下、これらをまとめて「欠陥」と呼ぶ。)。そして、画素欠陥が生じた画素は、異常な信号レベルの画像信号を出力してしまう。例えば、一面が真黒の被写体を撮影した場合であっても、画素欠陥が生じた部分だけ白点として映る等の異常出力が発生する。この場合、物理的な画素を補正するのではなく、画素欠陥が生じた画素が出力したデジタル画像信号の信号レベルを補正する処理が行われる。しかし、単純にデジタル画像信号を加算すると、異常な信号レベルの画像信号の影響により、得られた加算データが欠陥を含んでしまう。このような加算データから補正値を求めて画素データを補正しても、この画素データが誤った値となり、補正後の画素データに含まれるデジタル画像信号を用いて表示される画像の画質劣化を招いてしまう。また、一度でも加算データを生成すると、画素欠陥が生じた画素が出力した画像信号が、加算データのどこに影響しているかを判断することは困難であった。
さらに、高画質の画像を得るために、デジタル画像信号に重畳されるノイズ成分を補正するには、小数点以下のビット精度を高めなければならないが、この処理にはより多くのデジタル画像信号を加算する必要がある。しかし、特許文献1に記載された技術の様に加算して得られる画素データを1画素分の語長に制限すると、加算数は、1画素分の語長から溢れない程度にしかとれない。この場合、精度の荒いノイズ補正しかできず、このことが画質劣化の原因となる事も多い。
本発明はこのような状況に鑑みて成されたものであり、撮像素子が出力するデータの転送帯域を削減することを目的とする。
本発明に係る画素部は、入射した像光を光電変換して第1のデジタル信号が生成される有効画素領域、有効画素領域の周囲の遮光領域に配置され、第2のデジタル信号が生成されるオプティカルブラック画素領域を有する。また、画素部は、オプティカルブラック画素領域の周囲に配置され、第3のデジタル信号が生成されるダミー画素領域と、を有する。
次に、画素部から得られた第1〜第3のデジタル信号からなる画素データに対して所定の処理を施し、処理された第2及び第3のデジタル信号からなる画素データ、又は第3のデジタル信号からなる画素データのいずれかを、所定の加算回数だけ加算する。
次に、加算された第3のデジタル信号からなる画素データを加算回数によって除して得られる平均値の画素データをマルチプレクサに出力し、処理された第1〜第3のデジタル信号からなる画素データの出力を所定のタイミングで遅らせる。
そして、処理された第1〜第3のデジタル信号からなる画素データ、又は平均値の画素データのうち、いずれかの画素データを選択して出力するものである。
このようにしたことで、画素部が画素データを出力するために要する時間を短縮することが可能となった。
本発明によれば、第2及び第3のデジタル信号、又は前記第3のデジタル信号のいずれかを、所定の加算回数だけ加算する。そして、この加算されたデジタル信号のいずれかを加算回数で除することによって、デジタル信号の信号レベルの平均値を求め、この平均値を出力する。このため、画素部が出力する画素データのデータ量を少なくすることができ、必要な転送帯域を削減できる。これにより、撮像素子及び撮像装置の消費電力を抑えることができるという効果がある。
本発明の第1の実施の形態における撮像装置の内部構成例を示すブロック図である。 本発明の第1の実施の形態における固体撮像素子の画素領域の例を示す説明図である。 本発明の第1の実施の形態における撮像装置が行う、画素データのノイズ検波と、デジタル画像信号の補正処理の例を示す説明図である。 本発明の第1の実施の形態における固体撮像素子が出力する画素データのフォーマットの例を示す説明図である。 本発明の第1の実施の形態における固体撮像素子が出力する画素データの水平ラインにおける転送イメージの例を示す説明図である。 本発明の第1の実施の形態における撮像装置の他の内部構成例を示すブロック図である。 本発明の第2の実施の形態における撮像装置の内部構成例を示すブロック図である。 本発明の第2の実施の形態における固体撮像素子が出力する水平ラインにおける画素データの転送イメージの例を示す説明図である。 本発明の第3の実施の形態における撮像装置の内部構成例を示すブロック図である。 本発明の第3の実施の形態における撮像装置が行う、画素データのノイズ検波と、デジタル画像信号の補正処理の例を示す説明図である。 本発明の第3の実施の形態における固体撮像素子が出力する画素データの水平ラインの転送イメージの例を示す説明図である。 本発明の第3の実施の形態における撮像装置の他の内部構成例を示すブロック図である。 本発明の第3の実施の形態における他の固体撮像素子が出力する水平ラインにおける画素データの転送イメージの例を示す説明図である。 本発明の第4の実施の形態における撮像装置の内部構成例を示すブロック図である。 本発明の第4の実施の形態における固体撮像素子が出力する水平ラインにおける画素データの転送イメージの例を示す説明図である。 従来の撮像装置の内部構成例を示すブロック図である。 従来の固体撮像素子の画素領域の例を示す説明図である。 従来の撮像装置が行う、画素データのノイズ検波とデジタル画像信号の補正処理の例を示す説明図である。 従来の固体撮像素子が出力する水平ラインにおける画素データの転送イメージの例を示す説明図である。
以下、発明を実施するための最良の形態(以下実施の形態とする。)について説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態(ダミー画素の加算データが含まれる画素データを伝送する例)
2.第2の実施の形態(ダミー画素の加算データをMSBとLSBに分割した画素データを伝送する例)
3.第3の実施の形態(ダミー画素の平均値が含まれる画素データを伝送する例)
4.第4の実施の形態(ダミー画素と、欠陥が補正されたOB画素の平均値が含まれる画素データを伝送する例)
5.変形例
<1.第1の実施の形態>
[ダミー画素の加算データが含まれる画素データを伝送する例]
以下、本発明の第1の実施形態について、図1〜図5を参照して説明する。本実施の形態では、1本の水平ライン毎に画像信号を読み出して、所定の処理を行う撮像装置1に適用した例について説明する。なお、以下の各処理ブロックで行う一連の処理を、画像信号の処理方法として用いることができる。
図1は、本例の撮像装置1の内部構成例を示すブロック図である。
撮像装置1は、デジタル画像信号を出力する固体撮像素子2と、固体撮像素子2から受け取ったデジタル画像信号に所定の補正処理を施す信号処理装置3と、を備える。
固体撮像素子2は、不図示のレンズを介して入射した被写体の像光より、アナログ画像信号を出力する画素部21を備える。また、固体撮像素子2は、画素部21から受け取ったアナログ画像信号をデジタル画像信号に変換するアナログ/デジタル変換部22と、デジタル画像信号に所定のデジタル処理を施すデジタル処理部23と、を備える。
また、固体撮像素子2は、デジタル処理部23から入力した後述する第1〜第3のデジタル信号の出力を所定のタイミングだけ遅らせる遅延部24を備える。また、固体撮像素子2は、予めパラメータとして定めた加算回数でデジタル画像信号を加算する加算部25と、遅延部24又は加算部25から入力するデジタル画像信号を、所定の選択タイミングで選択するマルチプレクサ26と、を備える。
デジタル処理部23は、デジタル画像信号に対してオフセット加算処理等のデジタル処理を行う。加算部25は、デジタル処理部23によって処理された後述する第2及び第3のデジタル信号からなる画素データ、又は第3のデジタル信号からなる画素データのいずれかを、所定の加算回数だけ加算する。
そして、マルチプレクサ26は、デジタル処理部23によって処理された第1〜第3のデジタル信号からなる画素データ、又は加算部25によって加算された第3のデジタル信号からなる画素データのうち、いずれかの画素データを選択して出力する。つまり、マルチプレクサ26が選択したデジタル画像信号は、固体撮像素子2から信号処理装置3に転送される。
信号処理装置3は、デジタル画像信号に重畳するノイズを補正するノイズ補正部31を備える。ノイズ補正部31は、固体撮像素子2から入力されたデジタル画像信号の出力を所定時間だけ遅らせる遅延部32を備える。また、ノイズ補正部31は、単位時間におけるデジタル画像信号のレベルの平均値を算出する平均値算出部33を備える。
遅延部32は、固体撮像素子2から受け取った第1〜第3のデジタル信号からなる画素データの出力を所定のタイミングで遅らせる。
平均値算出部33は、固体撮像素子2から受け取った加算された第3のデジタル信号からなる画素データを、加算回数で除して第3のデジタル信号からなる画素データのレベルの平均値を求める。このため、平均値算出部33は、予めパラメータとして定めた加算回数に基づいて、固体撮像素子2から入力されたデジタル画像信号を除算する除算部34を備える。また、ノイズ補正部31は、遅延部32から出力された第1〜第3のデジタル信号からなる画素データのレベルから、平均値を減じて、第1〜第3のデジタル信号からなる画素データのレベルを補正する補正部35を備える。
本例における遅延部24とマルチプレクサ26は、デジタル処理部23が出力する未処理の画素データと、加算部25が加算した画素データとの位相を合わせるために用いられる。また、遅延部24とマルチプレクサ26は、従来の固体撮像素子101の出力イメージ(図17参照)から、本例の固体撮像素子2の出力イメージ(後述する図2参照)に変換するために用いられる。
図2は、固体撮像素子2の画素領域の例を示す。
本例の固体撮像素子2は、水平方向が2084ワード、垂直方向が1084ワードである、2084×1084ワードに相当する数の画素部21から成る。ここで、入射した像光を光電変換してアナログ画像信号を出力する領域を有効画素領域41とする。そして、有効画素領域41の周囲の遮光領域に配置され、像光が入射しないため、像光に関係なくアナログ画像信号を出力する領域をOB画素領域42とする。OB画素領域42に配置された画素部21が出力する画像信号は、有効画素領域41が出力する画像信号に重畳するノイズ成分等を除去するために用いられる。
さらに、OB画素領域42の周囲に配置され、擬似的なアナログ画像信号を出力する領域をダミー画素領域43とする。ただし、ダミー画素領域43は、固体撮像素子2における計算の結果求められる仮想的な領域である。
本例の撮像装置1は、アナログ/デジタル変換部22とデジタル処理部23を介して所定の処理が行われたデジタル画像信号を用いて、有効画素領域41から得られるデジタル画像信号の補正を行う。以下、有効画素領域41が出力したアナログ画像信号から生成されるデジタル画像信号を、「第1のデジタル信号」と称する場合がある。同様に、OB画素領域42が出力したアナログ画像信号から生成されるデジタル画像信号を、「第2のデジタル信号」と称し、ダミー画素領域43が出力した画像信号から生成されるデジタル画像信号を、「第3のデジタル信号」と称する場合がある。
図2において、有効画素領域41は、2000×1000ワードの領域を占め、OB画素領域42は、有効画素領域41の上下左右に40ワードずつの領域を占める。さらに、ダミー画素領域43は、OB画素領域42の上下左右に2ワードずつの領域を占める。
この結果、固体撮像素子2は、2084×1084=2,259,056ワードからなる画素データを、水平方向の1本の水平ライン毎に信号処理装置105へ転送している。
従来の固体撮像素子101は、全画素分の画素データを転送するに際し、2,505,600ワード分の画素データの転送量が必要であった。しかし、本例の固体撮像素子2は、2,259,056画素分の画素データの転送量で収まることが示される。このため、固体撮像素子2から信号処理装置3に画素データを転送するための転送帯域を、10%程度削減することができる。
図3は、固体撮像素子2が行う、デジタル画像信号の画素データのノイズ検波と補正処理の例を示す。
ここでは、図2に示した固体撮像素子2の領域44を拡大視して説明する。
水平ライン45には、有効画素領域41、OB画素領域42、及びダミー画素領域43から出力される画像信号が含まれる。
信号処理装置3は、ダミー画素領域43から出力される画像信号から得られたデジタル画像信号に基づいて、信号レベルの平均値を算出する。そして、有効画素領域41から得られるデジタル画像信号に対する補正値として、この平均値を用いて信号レベルの補正を行う。
図4は、画素データのフォーマットの例を示す。
図4Aは、複数の画素部21が出力する画素データのフォーマットの例を示す。
画素データは、ブランクフィールド、ダミーフィールド、HOPB(Horizontal OPtical Black)フィールド、有効フィールド、HOPBフィールド、ダミーフィールドを1単位として画素部21から出力される。ダミーフィールドには、ダミー画素領域43から出力されたデジタル画像信号からなる画素データが格納される。HOPBフィールドには、OB画素領域42から出力されたデジタル画像信号からなる画素データが格納される。有効フィールドには、有効画素領域41から出力されたデジタル画像信号からなる画素データが格納される。
図4Bは、従来の固体撮像素子101が出力する画素データのフォーマットの例を示す。
従来の固体撮像素子101は、画素データをそのままデジタル画像信号として出力した後、信号処理装置105がノイズ補正を行っていた。このため、固体撮像素子101から信号処理装置105に転送される画素データの転送タイミングは、アナログ/デジタル変換部103,デジタル処理部104が行う処理により、画素部102が出力したタイミングより遅れる。
図4Cは、本例の固体撮像素子2が出力する画素データのフォーマットの例を示す。
マルチプレクサ26は、画素部21がデジタル処理部23に出力する画素データに含まれる、第3のデジタル信号からなる画素データを格納するフィールドに対して画素データを置き換える処理を行う。つまり、マルチプレクサ26は、加算部25によって加算された第2及び第3のデジタル信号からなる画素データ、又は第3のデジタル信号からなる画素データのうち、いずれかからなる画素データを置き換えて、所定のタイミングで遅らせて出力する。
固体撮像素子2は、加算部25がダミー画素領域43から出力されたデジタル画像信号を加算する。この加算によって得られる加算データは、2ワードの語長となる。このため、加算データを格納するフィールドがダミーフィールドの代わりに設けられる。そして、加算部25が画素データを加算して出力するために考慮されるべき遅延時間は、加算データが格納されるフィールドの前に配置されたブランクフィールドによって調整される。このため、固体撮像素子2が出力する画素データのデータ量は、従来の固体撮像素子101が出力する画素データのデータ量に比べて少なくなる。
ここで、本例のダミー画素領域43から出力された画素データをOB画素領域42にから出力された画素データに置き換える技術は、上述した特許文献1に開示されている。しかし、OB画素の一部に欠陥画素が含まれると、単純にOB画素が出力した画素データを加算すると誤補正の原因となってしまう。このため、本例の固体撮像素子2は、ダミー画素領域43から出力された画素データのみを加算の対象としている。このようにして、固体撮像素子2から信号処理装置3に画素データを転送する時間を、従来の転送時間に比べて10%程度短縮することができる。
図5は、固体撮像素子2が出力する、1本の水平ライン45における画素データの転送イメージの例を示す。
固体撮像素子2が信号処理装置3に出力する画像信号の水平ライン45は以下のように構成される。すなわち、水平ライン45に含まれる1つの画素部21が出力する画素データのデータ長は、12ビット幅である。そして、水平ライン45には、2ワードのダミー画素領域43が出力する画素データから得る加算データ、40ワードのOB画素領域42が出力する画素データ、及び2000ワードの有効画素領域41が出力する画素データが含まれる。ただし、図5の説明では、領域44のみ注目している。実際には、有効画素領域41の右側に位置する40ワードのOB画素領域42が出力するデジタル画像信号からなる画素データと、2ワードのダミー画素領域43が出力する画素データから得る加算データも含まれる。
以上説明した第1の実施の形態に係る撮像装置1によれば、固体撮像素子2がダミー画素領域43から出力された2ワードの画素データを加算した加算データを生成する。このため、固体撮像素子2から信号処理装置3に出力される画素データのデータ量が少なくなり、固体撮像素子2から信号処理装置3にデータを転送するための通信線の帯域を圧迫しないという効果がある。また、ダミー画素領域43が出力する画像信号を加算出力することで、転送される画素データの転送帯域を削減しながら、高画質の画像を得られる。また、既に固体撮像素子2において加算部25による画素データの加算処理を行っているため、信号処理装置3は改めて画素データの加算処理を行う必要がない。このため、信号処理装置3がデジタル画像信号のノイズ補正を行うに際し、速やかにデジタル画像信号の平均値を求めることができ、ノイズ補正に要する演算速度を向上できるという効果がある。
なお、固体撮像素子2からデジタル処理部23以降の処理ブロックを取り出してもよい。
図6は、図1に示した第1の実施の形態に係る撮像装置1の他の形態の例を示す。
本例では、固体撮像素子2と信号処理装置3の間に前処理装置5を設け、前処理装置5が、遅延部24,加算部25及びマルチプレクサ26を備える。これにより、固体撮像素子2の処理負荷が軽くなり、消費電力を抑えることができるという効果がある。また、固体撮像素子2の機能ブロックの一部を前処理装置5に振り分けた。このため、従来の固体撮像素子を用いながら、前処理装置5を設置するだけで、上述した第1の実施の形態に係る撮像装置1と同様の信号処理を行うことができる。
<2.第2の実施の形態>
[ダミー画素の加算データをMSBとLSBに分割した画素データを伝送する例]
次に、本発明に係る第2の実施の形態例について説明する。
本例では、固体撮像素子51がデジタル画像信号のデータ型を変換した後、信号処理装置55にデータ型が変換されたデジタル画像信号を出力する撮像装置50に適用する。ただし、以下の説明において、既に第1の実施の形態で説明した図1に対応する部分には同一符号を付し、詳細な説明を省略する。
図7は、撮像装置50の内部構成例を示すブロック図である。
撮像装置50は、デジタル画像信号を出力する固体撮像素子51と、そのデジタル画像信号に所定の補正処理を加える信号処理装置55と、を備える。
固体撮像素子51は、画素部21,アナログ/デジタル変換部22,デジタル処理部23,遅延部24,加算部25,データ型変換部52,及びマルチプレクサ26を備える。
本例の固体撮像素子51は、画素データのデータ型を変換するデータ型変換部52を備える。データ型変換部52は、加算部25によって加算された第3のデジタル信号をMSBとLSBに分割することによって、第3のデジタル信号からなる画素データのデータ型を変換し、データ型が変換された画素データをマルチプレクサ26に出力する。このとき、データ型変換部52は、MSBファーストで信号処理装置55に転送している。このようにデータ型を変換するのは、加算データの語長を保存するためである。
ここで、12ビット語長の画素データを加算して得られる加算データの語長は、以下のように示される。ここで、n画素から出力される画像信号からなる画素データを加算することを、「n画素加算」と略称する。
2画素加算の場合:13ビット
4画素加算の場合:14ビット
8画素加算の場合:15ビット
16画素加算の場合:16ビット
32画素加算の場合:17ビット
64画素加算の場合:18ビット
これらの加算データを12ビット幅で転送するには、分割して転送するしかない。このため、本例の固体撮像素子51は、加算データをMSBとLSBに分割している。例えば、12ビット語長の加算データは、6ビットと6ビットで分割されるが、13ビット語長の加算データは、1ビットと12ビットで分割され、14ビット語長の加算データは、2ビットと12ビットで分割され、・・・という具合に続く。
この時、正確には、13ビット語長の加算データに対して、1ワード目の11ビットを無効データ、1ビットを有効データ(MSB)とし、2ワード目の12ビットを有効データ(LSB)としている。
なお、本例では、データ型変換部52は、MSBファーストで信号処理装置55に転送しているが、送信側と受信側でビット割当てが同じであるならば、LSBファーストで転送してもよい。
本例のダミー画素領域43から出力される画像信号から成る画素データのデータ長は、上下左右を加算した2ワードで表現される。ここで、1ワードは、加算する画素のMSB(Most Significant Bit)/LSB(Least Significant Bit)に相当する。MSBは、2進数で表現されたデータ列の内、最上位のビットであり、LSBは、最下位のビットである。そして、本例の固体撮像素子2は、ダミー画素領域43で出力されたデジタル画像信号からなる画素データを加算した後、2ワードのデジタル画像信号からなる画素データを出力する。
信号処理装置55は、デジタル画像信号のノイズを補正するノイズ補正部56を備える。ノイズ補正部56は、遅延部32,補正部35,データ型変換部57,及び平均値算出部33を備える。平均値算出部33は、除算部34を備える。
データ型変換部57は、固体撮像素子2から受け取った加算された第3のデジタル信号からなる画素データをビット連結して、平均値算出部33にビット連結した第3のデジタル信号からなる画素データを出力する。そして、平均値算出部33は、連結した画素データを用いて信号レベルの平均値を求める。このため、信号処理装置55がデジタル画像信号のノイズ補正を行うに際し、速やかにデジタル画像信号の平均値を求めることができる。
図8は、1本の水平ライン45における画素データの転送イメージの例を示す。
固体撮像素子51が信号処理装置55に出力する画像信号の水平ラインは以下のように構成される。すなわち、本例の水平ライン45には、2ワードのダミー画素領域43が出力する画素データから得る加算データ、40ワードのOB画素領域42が出力する画素データ、及び2000ワードの有効画素領域41が出力する画素データが含まれる。ただし、図5の説明では、領域44のみ注目している。実際には、有効画素領域41の右側に位置する画素から出力される40ワードのOB画素領域42が出力する画素データ、2ワードのダミー画素領域43が出力する画素データから得る加算データも含まれる。
本例のダミー画素が出力する画素データを加算して得られる加算データのMSB又はLSBは、それぞれ1画素毎にu22.2で表される。そして、40ワードのOB画素の画素データと、2000ワードの有効画素の画素データは、それぞれ1画素毎にu10.2で表される。正確には、40画素が出力する画像信号からなる画素データを加算しているので、u16.2を、MSBとLSBに分割して2ワードずつ出力する。u22.2は、12ビット語長のデータを2ワードで確保できる最大語長であり、40画素が出力する画像信号からなる画素データを加算するだけであれば、ここまでの語長は不要である。
以上説明した第2の実施の形態に係る撮像装置50によれば、固体撮像素子51が画素データの加算を行った後、画素データのデータ型を変換するようにした。このため、デジタル画像信号の補正精度を高くできるため、高画質の画像を得られるという効果がある。また、固体撮像素子51が予めデータ型の変換された画素データを信号処理装置55に出力するため、撮像装置50全体として、ノイズ補正に要する演算速度を向上できるという効果がある。
<3.第3の実施の形態>
[ダミー画素の平均値が含まれる画素データを伝送する例]
次に、本発明に係る第3の実施の形態例について説明する。
本例では、固体撮像素子61がデジタル画像信号のデータ型を変換した後、信号処理装置65に変換したデジタル画像信号を出力する撮像装置60に適用する。ただし、以下の説明において、既に第1の実施の形態で説明した図1,図3に対応する部分には同一符号を付し、詳細な説明を省略する。
図9は、撮像装置60の内部構成例を示すブロック図である。
撮像装置60は、デジタル画像信号を出力する固体撮像素子51と、そのデジタル画像信号に所定の補正処理を加える信号処理装置65と、を備える。
固体撮像素子61は、画素部21,アナログ/デジタル変換部22,デジタル処理部23,遅延部24,加算部25,除算部63,及びマルチプレクサ26を備える。
信号処理装置65は、デジタル画像信号のノイズを補正するノイズ補正部31を備える。ノイズ補正部31は、補正部35を備える。
本例の固体撮像素子61は、画素データの欠陥を補正する除算部63を備える。
デジタル処理部23は、第3のデジタル信号からなるダミー画素領域43から出力された画素データを加算部25に出力する。加算部25と除算部63には、加算回数等のパラメータが入力される。そして、除算部63は、加算部25によって加算された第3のデジタル信号からなる画素データをパラメータとして入力された加算回数によって除して、加算された画素データに含まれる第3のデジタル信号のレベルの平均値を算出する。そして、この平均値からなる画素データをマルチプレクサ26に出力する。マルチプレクサ26は、デジタル処理部23によって処理された第1〜第3のデジタル信号からなる遅延された画素データ、又は除算部63によって算出された平均値からなる画素データのうち、いずれかの画素データを選択して出力する。補正部35は、固体撮像素子61から受け取った第1〜第3のデジタル信号からなる画素データから、平均値を減じて、第1〜第3のデジタル信号からなる画素データのレベルを補正する。
このように、本例の固体撮像素子61は、加算部25が、ダミー画素領域43から出力された画像信号を加算し、除算部63が平均値を算出することによって、欠陥画素の混入を防止している。このように、ダミー画素領域43からは平均値を転送し、OB画素領域42からは1画素ずつ出力されたデジタル画像信号を転送している。このようにしているのは、ダミー画素領域43には欠陥が発生しないので、欠陥補正せずに平均値からなる画素データが得られると共に、欠陥が発生するOB画素領域42が出力した画像信号からなる画素データを加算平均するためである。
図10は、本例の固体撮像素子61が行う、画素データのノイズ検波と補正処理の例を示す。
水平ライン45には、有効画素領域41、OB画素領域42、及びダミー画素領域43が出力する画像信号が含まれる。
固体撮像素子61は、ダミー画素領域43から得たデジタル画像信号の信号レベルの平均値を出力する。そして、補正部35は、この平均値を補正値として用いて、有効画素領域41から得たデジタル画像信号のノイズ補正を行う。
図11は、1本の水平ライン45における画素データの転送イメージの例を示す。
画素データの転送イメージは上述した第1の実施の形態に係る画素データの転送イメージの例(図5参照)と同様である。そして、本例の固体撮像素子61は、従来、信号処理装置3の内部で行っていた、画素欠陥が生じた画素が出力した画像信号の補正を行っている。
固体撮像素子61が信号処理装置65に出力する画像信号の水平ライン45は以下のように構成される。すなわち、水平ライン45には、1ワードのダミー画素領域43が出力する画素データから得る平均値データ、40ワードのOB画素領域42が出力する画素データ、及び2000ワードの有効画素領域41が出力する画素データが含まれる。実際には、有効画素領域41の右側に位置する画素から出力される40ワードのOB画素領域42が出力する画素データ、1ワードのダミー画素領域43が出力する画素データから得る平均値データも含まれる。
本例では、ダミー画素領域43から出力される1画素毎の画素データのフォーマットは、1画素毎にs5.6で表される。このため、平均値のビット語長を、信号処理で使用する小数点精度でかつ符号付きのビット語長に合わせて、切り捨てや丸めなどによる精度の劣化を防止しつつ、有効画素領域41に含まれる1画素が出力する画素データのビット語長に調整して出力できる。以下、「s5.6」の表記は、「s」はsigned(符号付き)、「5.6」は整数部が5ビットであり、小数部が6ビットであることを意味する。
以上説明した第3の実施の形態に係る撮像装置60によれば、固体撮像素子61は、ダミー画素領域43から出力される画像信号をデジタル画像信号に変換した後、欠陥補正をした上で算出した信号レベルの平均値を出力する。そして、ノイズ補正部66は、この平均値を補正値として用いて、デジタル画像信号のノイズ補正を行う。このため、固体撮像素子61から信号処理装置65への画素データの転送時間を短縮できると共に、信号処理装置65の処理負荷が軽減される。このため、撮像装置60全体の処理速度を向上したり、消費電力を抑えたりする効果がある。
図12は、図9に示した第3の実施の形態に係る撮像装置60の他の形態に係る撮像装置70の例を示す。
本例の撮像装置70は、固体撮像素子71と信号処理装置65を備える。固体撮像素子71において、デジタル処理部23は、デジタル処理された第2及び第3のデジタル信号を欠陥補正部62に出力する。欠陥補正部62は、パラメータ入力された欠陥閾値に基づいて、デジタル処理部23によって処理された第2及び第3のデジタル信号からなる画素データの欠陥が所定の欠陥閾値の範囲外にある場合に、欠陥閾値の範囲内に収まるように画素データの欠陥を補正する。そして、欠陥を補正した第2及び第3のデジタル信号からなる画素データを加算部25に出力する。
また、除算部63は、加算部25によって加算された第2及び第3のデジタル信号からなる画素データを、入力された加算回数によって除して信号レベルの平均値を得て、この平均値からなる画素データをマルチプレクサ26に出力する。
このように、本例の固体撮像素子71は、欠陥補正部62によって、第2及び第3のデジタル信号の欠陥を補正した後に、加算部25が第2及び第3のデジタル信号の加算を行うことによって、画素欠陥が生じた画素が出力する画像信号の影響を抑えている。
図13は、1本の水平ライン45における画素データの転送イメージの例を示す。
固体撮像素子71が信号処理装置65に出力する画像信号の水平ラインは以下のように構成される。すなわち、水平ライン45には、1ワードのダミー画素領域43が出力する画素データから得る平均値データ、1ワードの欠陥補正後のOB画素領域42が出力する画素データから得る平均値データが含まれる。また、水平ライン45には、2000ワードの有効画素領域41が出力する画素データが含まれる。実際には、有効画素領域41の右側に位置する画素から出力される1ワードの欠陥補正後のOB画素領域42が出力する画素データから得る平均値データ、1ワードのダミー画素領域43が出力する画素データから得る平均値データも含まれる。ダミー画素の加算データは、それぞれ1画素毎にs5.6で表される。そして、2000ワードの有効画素の画素データは、それぞれ1画素毎にu10.2で表される。
これにより、固体撮像素子11は、OB画素領域42から出力されるデジタル画像信号からなる画素データの画素欠陥を補正した後に加算し、除算することによってOB画素領域42から出力されるデジタル画像信号の信号レベルの平均値を出力する。また、固体撮像素子61は、ダミー画素領域43から出力されるデジタル画像信号からなる画素データを加算し、除算することによってダミー画素領域43から出力されるデジタル画像信号の信号レベルの平均値を出力する。このとき、固体撮像素子61は、平均値のビット語長を、信号処理装置65が使用する小数点精度であって、かつ、符号付きのビット語長に合わせて、有効画素領域41に含まれる1画素が出力する画素データのビット語長に調整して出力する。
以上説明した他の実施の形態に係る撮像装置70によれば、固体撮像素子61が出力する画素データについて、ダミー画素と、欠陥補正後のOB画素について平均値を求める。このため、画素データに含まれる端数を切り捨てたり、丸めたりすることによる情報の劣化を防止できるという効果がある。
<4.第4の実施の形態>
[ダミー画素と、欠陥が補正されたOB画素の平均値が含まれる画素データを伝送する例]
次に、本発明に係る第4の実施の形態例について説明する。
本例では、固体撮像素子81が画素データのデータ型を変換した後、信号処理装置85に変換した画素データを出力する撮像装置80に適用する。ただし、以下の説明において、既に第1の実施の形態で説明した図1に対応する部分には同一符号を付し、詳細な説明を省略する。
図14は、本例の撮像装置80の内部構成例を示すブロック図である。
撮像装置80は、デジタル画像信号を出力する固体撮像素子81と、そのデジタル画像信号に所定の補正処理を加える信号処理装置85と、を備える。
固体撮像素子81は、画素部21,アナログ/デジタル変換部22,デジタル処理部23,遅延部24,欠陥補正部62,加算部25,除算部63,データ型変換部52,及びマルチプレクサ26を備える。
信号処理装置85は、デジタル画像信号のノイズを補正するノイズ補正部86を備える。ノイズ補正部86はデータ型変換部57と、補正部35を備える。
本例の固体撮像素子81は、図12を参照して説明した固体撮像素子71の内部ブロックに加えて、さらに画素データのデータ型を変換する、第1のデータ型変換部としてのデータ型変換部52を備える。
データ型変換部52は、除算部63によって処理された平均値からなる画素データのデータ型を浮動小数点形式に変換し、データ型が変換された平均値からなる画素データをマルチプレクサ26に出力する。
ここで、本例の画素データのデータ型として、1ワードのダミー画素の平均値データ、1ワードの欠陥補正後のOB画素の平均値データは、それぞれ浮動小数点により表される。そして、データ型変換部52は、平均値データを、浮動小数点形式に変換することで、有効画素領域41に含まれる1画素が出力する画素データのビット語長に調整してマルチプレクサ26に出力する。その後、固体撮像素子81は、平均値データを有効画素が出力したデジタル画像信号からなる画素データと共に、信号処理装置85に転送している。そして、第2のデータ型変換部としてのデータ型変換部57は、固体撮像素子81から受け取った平均値のデータ型を逆変換する。そして、補正部35は、固体撮像素子81子から受け取った第1〜第3のデジタル信号からなる画素データから、データ型変換部57から受け取った平均値を減じて、第1〜第3のデジタル信号からなる画素データのレベルを補正する。
図15は、1本の水平ライン45における画素データの転送イメージの例を示す。
固体撮像素子81が信号処理装置85に出力する画像信号の水平ラインは以下のように構成される。すなわち、水平ライン45には、1ワードのダミー画素領域43が出力する画素データから得る平均値データ、1ワードの欠陥補正後のOB画素領域42が出力する画素データから得る平均値データが含まれる。さらに、水平ライン45には、2000ワードの有効画素領域41が出力する画素データが含まれる。実際には、有効画素領域41の右側に位置する画素から出力される1ワードの欠陥補正後のOB画素領域42が出力する画素データから得る平均値データ、1ワードのダミー画素領域43が出力する画素データから得る平均値データも含まれる。
以上説明した第4の実施の形態に係る撮像装置80によれば、固体撮像素子81は、OB画素領域42から出力されるアナログ画像信号をデジタル画像信号に変換する。その後、固体撮像素子81は、デジタル画像信号の信号レベルの欠陥補正をした上で信号レベルの平均値を算出する。また、固体撮像素子81は、ダミー画素領域43から出力されるデジタル画像信号からなる画素データを加算し、除算することによってダミー画素領域43から出力されるデジタル画像信号の信号レベルの平均値を出力する。そして、ダミー画素領域43から出力されるデジタル画像信号の平均値データと、OB画素領域42から出力される、欠陥補正後のデジタル画像信号の平均値データを、浮動小数点形式で表して、信号処理装置85に出力する。そして、ノイズ補正部86は、この平均値を補正値として用いて、デジタル画像信号のノイズ補正を行う。このため、さらに固体撮像素子81から信号処理装置85への画素データの転送時間を短縮し、信号処理装置の負荷を軽減することができるという効果がある。
なお、上述した第1〜第4の実施の形態例における固体撮像素子が出力したデジタル信号に対する一連の処理は、ハードウェアにより実行することができるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムを、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで各種の機能を実行することが可能である。例えば汎用のパーソナルコンピュータなどに所望のソフトウェアを構成するプログラムをインストールして実行させればよい。
また、上述した実施の形態の機能を実現するソフトウェアのプログラムコードを記録した記録媒体を、システムあるいは装置に供給してもよい。また、そのシステムあるいは装置のコンピュータ(またはCPU等の制御装置)が記録媒体に格納されたプログラムコードを読み出し実行することによっても、機能が実現されることは言うまでもない。
この場合のプログラムコードを供給するための記録媒体としては、例えば、フロッピーディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROMなどを用いることができる。
また、コンピュータが読み出したプログラムコードを実行することにより、上述した実施の形態の機能が実現される。加えて、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOSなどが実際の処理の一部又は全部を行う。その処理によって上述した実施の形態の機能が実現される場合も含まれる。
また、本発明は上述した実施の形態に限られるものではなく、本発明の要旨を逸脱することなくその他種々の構成を取り得ることは勿論である。
1…撮像装置、2…固体撮像素子、3…信号処理装置、5…前処理装置、6…小数部、11…固体撮像素子、21…画素部、22…アナログ/デジタル変換部、23…デジタル処理部、24…遅延部、25…加算部、26…マルチプレクサ、31…ノイズ補正部、32…遅延部、33…平均値算出部、34…除算部、35…補正部、41…有効画素領域、42…OB画素領域、43…ダミー画素領域、44…領域、45…水平ライン、50…撮像装置、51…固体撮像素子、52…データ型変換部、55…信号処理装置、56…ノイズ補正部、57…データ型変換部、60…撮像装置、61…固体撮像素子、62…欠陥補正部、63…除算部、65…信号処理装置、66…ノイズ補正部、70…撮像装置、71…固体撮像素子、80…撮像装置、81…固体撮像素子、85…信号処理装置、86…ノイズ補正部

Claims (12)

  1. 入射した像光を光電変換して第1のデジタル信号が生成される有効画素領域、前記有効画素領域の周囲の遮光領域に配置され、第2のデジタル信号が生成されるオプティカルブラック画素領域、及び前記オプティカルブラック画素領域の周囲に配置され、第3のデジタル信号が生成されるダミー画素領域と、を有する画素部から得られた前記第1〜第3のデジタル信号からなる画素データに対して所定の処理を施すデジタル処理部と、
    前記デジタル処理部によって処理された前記第2及び第3のデジタル信号からなる画素データ、又は前記第3のデジタル信号からなる画素データのいずれかを、所定の加算回数だけ加算する加算部と、
    前記加算部によって加算された画素データを前記加算回数によって除して、前記加算された画素データに含まれるデジタル信号のレベルの平均値を算出する除算部と、
    前記デジタル処理部によって処理された前記第1〜第3のデジタル信号からなる画素データの出力を所定のタイミングで遅らせる遅延部と、
    前記デジタル処理部によって処理された前記第1〜第3のデジタル信号からなる画素データ、又は前記除算部によって処理された前記平均値からなる画素データのうち、いずれかの画素データを選択して出力するマルチプレクサと、を備える
    撮像素子。
  2. 前記マルチプレクサは、前記画素部が前記デジタル処理部に出力する画素データに含まれる、前記第3のデジタル信号からなる画素データを格納するフィールドに対して、前記加算部によって加算された前記第2及び第3のデジタル信号からなる画素データ、又は前記第3のデジタル信号からなる画素データのうち、いずれかからなる画素データを置き換えて、前記所定のタイミングで遅らせて出力する
    請求項1記載の撮像素子。
  3. 更に、前記デジタル処理部によって処理された前記第3のデジタル信号からなる画素データの欠陥が所定の欠陥閾値の範囲外にある場合に、欠陥閾値の範囲内に収まるように第3のデジタル信号からなる画素データの欠陥を補正し、欠陥を補正した第3のデジタル信号からなる画素データを加算部に出力する欠陥補正部と、を備える
    請求項2記載の撮像素子。
  4. 更に、前記除算部から受け取った前記平均値からなる画素データのデータ型を浮動小数点形式に変換し、前記データ型が変換された前記平均値からなる画素データを前記マルチプレクサに出力するデータ型変換部と、を備える
    請求項3記載の撮像素子。
  5. 入射した像光を光電変換して第1のデジタル信号が生成される有効画素領域、前記有効画素領域の周囲の遮光領域に配置され、第2のデジタル信号が生成されるオプティカルブラック画素領域、及び前記オプティカルブラック画素領域の周囲に配置され、第3のデジタル信号が生成されるダミー画素領域と、を有する画素部から得られた前記第1〜第3のデジタル信号からなる画素データに対して所定の処理を施すデジタル処理部と、
    前記デジタル処理部によって処理された前記第2及び第3のデジタル信号からなる画素データ、又は前記第3のデジタル信号からなる画素データのいずれかを、所定の加算回数だけ加算する加算部と、
    前記デジタル処理部によって処理された前記第1〜第3のデジタル信号からなる画素データの出力を所定のタイミングで遅らせる第1の遅延部と、
    前記デジタル処理部によって処理された前記第1〜第3のデジタル信号からなる画素データ、又は前記加算部によって加算された前記第3のデジタル信号からなる画素データのうち、いずれかの画素データを選択して出力するマルチプレクサと、を有する撮像素子と、
    前記撮像素子から受け取った前記第1〜第3のデジタル信号からなる画素データの出力を第2のタイミングで遅らせる第2の遅延部と、
    前記撮像素子から受け取った前記加算された第3のデジタル信号からなる画素データの信号レベルを、前記加算回数で除して前記第3のデジタル信号からなる画素データのレベルの平均値を算出する除算部と、
    前記第2の遅延部から出力された前記第1〜第3のデジタル信号からなる画素データのレベルから、前記平均値を減じて、前記第1〜第3のデジタル信号からなる画素データのレベルを補正する補正部と、を有する信号処理部と、を備える
    撮像装置。
  6. 前記マルチプレクサは、前記画素部が前記デジタル処理部に出力する画素データに含まれる、前記第3のデジタル信号からなる画素データを格納するフィールドに対して、前記加算部によって加算された前記第2及び第3のデジタル信号からなる画素データ、又は前記第3のデジタル信号からなる画素データのうち、いずれかからなる画素データを置き換えて、前記所定のタイミングで遅らせて出力する
    請求項5記載の撮像装置。
  7. 前記撮像素子は、前記加算部によって加算された前記第3のデジタル信号からなる画素データをMSBとLSBに分割することによって、前記第3のデジタル信号からなる画素データのデータ型を変換し、前記データ型が変換された画素データを前記マルチプレクサに出力する第1のデータ型変換部を備え、
    前記信号処理部は、前記撮像素子から受け取った前記加算された第3のデジタル信号からなる画素データをビット連結して、前記除算部にビット連結した前記第3のデジタル信号からなる画素データを出力する第2のデータ型変換部を備える
    請求項6記載の撮像装置。
  8. 入射した像光を光電変換して第1のデジタル信号が生成される有効画素領域、前記有効画素領域の周囲の遮光領域に配置され、第2のデジタル信号が生成されるオプティカルブラック画素領域、及び前記オプティカルブラック画素領域の周囲に配置され、第3のデジタル信号が生成されるダミー画素領域と、を有する画素部から得られた前記第1〜第3のデジタル信号からなる画素データに対して所定の処理を施すデジタル処理部と、
    前記デジタル処理部によって処理された前記第2及び第3のデジタル信号からなる画素データ、又は前記第3のデジタル信号からなる画素データのうち、いずれかを、所定の加算回数だけ加算する加算部と、
    前記加算部によって加算された前記画素データを前記加算回数によって除し、前記画素データのレベルの平均値を算出する除算部と、
    前記デジタル処理部によって処理された前記第1〜第3のデジタル信号からなる画素データの出力を所定のタイミングで遅らせる遅延部と、
    前記デジタル処理部によって処理された前記第1〜第3のデジタル信号からなる画素データ、又は前記平均値のうち、いずれかの画素データを選択して出力するマルチプレクサと、を有する撮像素子と、
    前記撮像素子から受け取った前記第1〜第3のデジタル信号からなる画素データから、撮像素子から受け取った前記平均値を減じて、前記第1〜第3のデジタル信号からなる画素データのレベルを補正する補正部と、を有する信号処理部と、を備える
    撮像装置。
  9. 入射した像光を光電変換して第1のデジタル信号が生成される有効画素領域、前記有効画素領域の周囲の遮光領域に配置され、第2のデジタル信号が生成されるオプティカルブラック画素領域、及び前記オプティカルブラック画素領域の周囲に配置され、第3のデジタル信号が生成されるダミー画素領域と、を有する画素部から得られた前記第1〜第3のデジタル信号からなる画素データに対して所定の処理を施すデジタル処理部と、
    前記デジタル処理部によって処理された前記第3のデジタル信号からなる画素データの欠陥が所定の欠陥閾値の範囲外にある場合に、欠陥閾値の範囲内に収まるように第3のデジタル信号からなる画素データの欠陥を補正し、欠陥を補正した第3のデジタル信号からなる画素データを加算部に出力する欠陥補正部と、
    前記欠陥補正部によって処理された前記第2及び第3のデジタル信号からなる画素データを、所定の加算回数だけ加算する加算部と、
    前記加算部によって加算された前記画素データを前記加算回数によって除し、前記画素データのレベルの平均値を算出する除算部と、
    前記除算部から受け取った前記平均値からなる画素データのデータ型を浮動小数点形式に変換する第1のデータ型変換部と、
    前記デジタル処理部によって処理された前記第1〜第3のデジタル信号からなる画素データの出力を所定のタイミングで遅らせる遅延部と、
    前記デジタル処理部によって処理された前記第1〜第3のデジタル信号からなる画素データ、又は前記平均値のうち、いずれかの画素データを選択して出力するマルチプレクサと、を有する撮像素子と、
    前記撮像素子から受け取った前記平均値のデータ型を逆変換する第2のデータ型変換部と、
    前記撮像素子から受け取った前記第1〜第3のデジタル信号からなる画素データから、前記第2のデータ型変換部から受け取った前記平均値を減じて、前記第1〜第3のデジタル信号からなる画素データのレベルを補正する補正部と、を有する信号処理部と、を備える
    撮像装置。
  10. 入射した像光を光電変換して第1のデジタル信号が生成される有効画素領域、前記有効画素領域の周囲の遮光領域に配置され、第2のデジタル信号が生成されるオプティカルブラック画素領域、及び前記オプティカルブラック画素領域の周囲に配置され、第3のデジタル信号が生成されるダミー画素領域と、を有する画素部から得られた前記第1〜第3のデジタル信号からなる画素データに対して所定の処理を施すデジタル処理部を有する撮像素子と、
    前記デジタル処理部によって処理された前記第2及び第3のデジタル信号からなる画素データ、又は前記第3のデジタル信号からなる画素データのいずれかを、所定の加算回数だけ加算する加算部と、
    前記デジタル処理部によって処理された前記第1〜第3のデジタル信号からなる画素データの出力を第1のタイミングで遅らせる第1の遅延部と、
    前記デジタル処理部によって処理された前記第1〜第3のデジタル信号からなる画素データ、又は前記加算部によって加算された前記第3のデジタル信号からなる画素データのうち、いずれかの画素データを選択して出力するマルチプレクサと、を有する前処理部と、
    前記前処理部から受け取った前記第1〜第3のデジタル信号からなる画素データの出力を第2のタイミングで遅らせる第2の遅延部と、
    前記前処理部から受け取った前記加算された第3のデジタル信号からなる画素データを、前記加算回数で除して前記第3のデジタル信号からなる画素データのレベルの平均値を算出する除算部と、
    前記第2の遅延部から出力された前記第1〜第3のデジタル信号からなる画素データのレベルから、前記平均値を減じて、前記第1〜第3のデジタル信号からなる画素データのレベルを補正する補正部と、を有する信号処理部と、を備える
    撮像装置。
  11. 入射した像光を光電変換して第1のデジタル信号が生成される有効画素領域、前記有効画素領域の周囲の遮光領域に配置され、第2のデジタル信号が生成されるオプティカルブラック画素領域、及び前記オプティカルブラック画素領域の周囲に配置され、第3のデジタル信号が生成されるダミー画素領域と、を有する画素部から得られた前記第1〜第3のデジタル信号からなる画素データに対して所定の処理を施すステップと、
    前記処理された前記第2及び第3のデジタル信号からなる画素データ、又は前記第3のデジタル信号からなる画素データのいずれかを、所定の加算回数だけ加算するステップと、
    加算された前記第3のデジタル信号からなる画素データを加算回数によって除して得られる平均値の画素データを出力するステップと、
    前記処理された前記第1〜第3のデジタル信号からなる画素データの出力を所定のタイミングで遅らせるステップと、
    前記処理された前記第1〜第3のデジタル信号からなる画素データ、又は前記平均値の画素データのうち、いずれかの画素データを選択して出力するステップを、を含む
    信号処理方法。
  12. 入射した像光を光電変換して第1のデジタル信号が生成される有効画素領域、前記有効画素領域の周囲の遮光領域に配置され、第2のデジタル信号が生成されるオプティカルブラック画素領域、及び前記オプティカルブラック画素領域の周囲に配置され、第3のデジタル信号が生成されるダミー画素領域と、を有する画素部から得られた前記第1〜第3のデジタル信号からなる画素データを処理する手順、
    前記処理された前記第2及び第3のデジタル信号からなる画素データ、又は前記第3のデジタル信号からなる画素データのいずれかを、所定の加算回数だけ加算する手順、
    加算された前記第3のデジタル信号からなる画素データを加算回数によって除して得られる平均値の画素データを出力する手順、
    前記処理された前記第1〜第3のデジタル信号からなる画素データの出力を所定のタイミングで遅らせる手順、
    前記処理された前記第1〜第3のデジタル信号からなる画素データ、又は前記平均値の画素データのうち、いずれかの画素データを選択して出力する手順を、を含む処理を
    コンピュータに実行させるプログラム。
JP2009175710A 2009-07-28 2009-07-28 撮像素子、撮像装置、信号処理方法及びプログラム Expired - Fee Related JP5229148B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2009175710A JP5229148B2 (ja) 2009-07-28 2009-07-28 撮像素子、撮像装置、信号処理方法及びプログラム
CN2010102356493A CN101986692B (zh) 2009-07-28 2010-07-21 图像捕获器件、图像捕获装置、信号处理方法
US12/841,235 US8451341B2 (en) 2009-07-28 2010-07-22 Image capture device, image capture apparatus, signal processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009175710A JP5229148B2 (ja) 2009-07-28 2009-07-28 撮像素子、撮像装置、信号処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2011030097A JP2011030097A (ja) 2011-02-10
JP5229148B2 true JP5229148B2 (ja) 2013-07-03

Family

ID=43526647

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009175710A Expired - Fee Related JP5229148B2 (ja) 2009-07-28 2009-07-28 撮像素子、撮像装置、信号処理方法及びプログラム

Country Status (3)

Country Link
US (1) US8451341B2 (ja)
JP (1) JP5229148B2 (ja)
CN (1) CN101986692B (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012169121A1 (ja) * 2011-06-10 2012-12-13 パナソニック株式会社 固体撮像装置
JP6037170B2 (ja) * 2013-04-16 2016-11-30 ソニー株式会社 固体撮像装置およびその信号処理方法、並びに電子機器
JP6076243B2 (ja) * 2013-12-26 2017-02-08 京セラドキュメントソリューションズ株式会社 画像読取装置及び画像形成装置
JP2016054479A (ja) * 2014-09-02 2016-04-14 キヤノン株式会社 撮像装置およびその制御方法、プログラムならびに撮像素子
EP3236652A4 (en) * 2014-12-19 2018-07-11 Olympus Corporation Endoscope and endoscope system
JP6568368B2 (ja) 2015-03-03 2019-08-28 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP6632864B2 (ja) * 2015-10-27 2020-01-22 シナプティクス・ジャパン合同会社 表示ドライバ及び表示装置
KR102351950B1 (ko) * 2017-06-30 2022-01-18 삼성전자주식회사 이미지 신호 프로세서를 포함하는 전자 장치
KR102502723B1 (ko) * 2017-11-02 2023-02-23 삼성디스플레이 주식회사 표시 장치
US10769991B2 (en) 2017-11-02 2020-09-08 Samsung Display Co., Ltd. Display device
JP2020017916A (ja) * 2018-07-27 2020-01-30 ソニーセミコンダクタソリューションズ株式会社 撮像装置、及び、撮像装置の駆動方法
KR20210092964A (ko) * 2020-01-17 2021-07-27 삼성전자주식회사 이미지 센서 및 이를 포함하는 카메라 모듈
CN117296334A (zh) 2021-03-31 2023-12-26 株式会社尼康 摄像元件以及摄像装置
JP2022165682A (ja) * 2021-04-20 2022-11-01 キヤノン株式会社 信号処理装置、光電変換装置、撮像システム及び信号処理装置の制御方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000050165A (ja) * 1998-07-27 2000-02-18 Matsushita Electric Ind Co Ltd 固体撮像装置
TW439285B (en) * 1998-11-30 2001-06-07 Toshiba Corp Solid-state imaging device
JP4266443B2 (ja) * 1999-07-15 2009-05-20 オリンパス株式会社 撮像装置
CA2385173A1 (en) * 1999-09-17 2001-03-29 Nature Technology Co., Ltd. Image capturing system, image processing system, and camera
JP4110044B2 (ja) * 2003-06-03 2008-07-02 キヤノン株式会社 画像撮像方法
JP4144517B2 (ja) * 2003-12-05 2008-09-03 ソニー株式会社 固体撮像装置、撮像方法
JP4916095B2 (ja) * 2004-05-13 2012-04-11 ソニー株式会社 固体撮像装置および固体撮像装置の駆動方法
CN100407766C (zh) * 2004-12-07 2008-07-30 索尼株式会社 用于处理图像的方法和设备
JP2007028339A (ja) * 2005-07-19 2007-02-01 Canon Inc 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP4351658B2 (ja) * 2005-07-21 2009-10-28 マイクロン テクノロジー, インク. メモリ容量低減化方法、メモリ容量低減化雑音低減化回路及びメモリ容量低減化装置
CN2838166Y (zh) * 2005-09-08 2006-11-15 上海广电(集团)有限公司中央研究院 控制平均亮度的直方图均衡装置
JP2007235889A (ja) * 2006-03-03 2007-09-13 Fujifilm Corp 固体撮像装置
JP2007243637A (ja) * 2006-03-09 2007-09-20 Fujifilm Corp 固体撮像装置および撮像方法
KR20070116738A (ko) * 2006-06-06 2007-12-11 소니 가부시끼 가이샤 영상 신호 처리 방법, 영상 신호 처리 방법의 프로그램,영상 신호 처리 방법의 프로그램을 기록한 기록 매체 및영상 신호 처리 장치
JP2008206003A (ja) * 2007-02-22 2008-09-04 Fujitsu Ltd 固体撮像素子
JP5080899B2 (ja) * 2007-08-08 2012-11-21 キヤノン株式会社 映像処理装置及びその制御方法

Also Published As

Publication number Publication date
CN101986692A (zh) 2011-03-16
CN101986692B (zh) 2013-11-20
US8451341B2 (en) 2013-05-28
JP2011030097A (ja) 2011-02-10
US20110025874A1 (en) 2011-02-03

Similar Documents

Publication Publication Date Title
JP5229148B2 (ja) 撮像素子、撮像装置、信号処理方法及びプログラム
JP5399739B2 (ja) 画像処理装置
JP4730412B2 (ja) 画像処理装置及び画像処理方法
JP5060535B2 (ja) 画像処理装置
JP4985403B2 (ja) 画像処理システムおよび画像処理プログラム
JP4806584B2 (ja) 画像処理方法及び画像処理回路
JP2009077196A (ja) 画像信号処理回路、撮像装置、および画像信号処理方法、並びにコンピュータ・プログラム
JP2004112736A (ja) 半導体集積回路、欠陥画素補正方法、及び画像プロセッサ
JP2010277267A (ja) 画像処理装置、撮像装置及び画像処理方法
JP4679174B2 (ja) 画像処理装置およびこの画像処理装置を備えたデジタルカメラ
KR100690171B1 (ko) 이미지 보정 회로 및 이미지 보정 방법
JP2014010776A (ja) 画像処理装置、画像処理方法、及び、プログラム
JP2006217304A (ja) 縦縞ノイズ低減方式
JP2010178226A (ja) 撮像装置、色収差抑制方法、色収差抑制回路及びプログラム
WO2018029972A1 (ja) 画像補正方法及び撮像装置
JP2013070241A (ja) 画像処理装置、画像処理方法、および、画像処理プログラム
JP2009290653A (ja) 欠陥画素補正装置、撮像装置、欠陥画素補正方法、およびプログラム
JP2006041935A (ja) 画像処理装置および画像処理プログラム
US20220239914A1 (en) Information processing device, imaging device, information processing method, and program
JP2009239396A (ja) 画像処理装置
JP4110956B2 (ja) 画素欠陥補正機能を備えた固体撮像装置及び固体撮像装置の画素欠陥補正方法
JP2011090563A (ja) 画像補正装置
JP2008052353A (ja) 画像処理装置
JP2007081858A (ja) スミア補正方法及びスミア補正回路
JP2009284343A (ja) 撮像装置、欠陥補正装置、欠陥補正方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120709

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130304

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160329

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees