JP5753395B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP5753395B2
JP5753395B2 JP2011026527A JP2011026527A JP5753395B2 JP 5753395 B2 JP5753395 B2 JP 5753395B2 JP 2011026527 A JP2011026527 A JP 2011026527A JP 2011026527 A JP2011026527 A JP 2011026527A JP 5753395 B2 JP5753395 B2 JP 5753395B2
Authority
JP
Japan
Prior art keywords
solid
image sensor
state image
pixel
state
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011026527A
Other languages
English (en)
Other versions
JP2012169705A5 (ja
JP2012169705A (ja
Inventor
永田 徹
徹 永田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2011026527A priority Critical patent/JP5753395B2/ja
Priority to US13/355,958 priority patent/US8704925B2/en
Publication of JP2012169705A publication Critical patent/JP2012169705A/ja
Publication of JP2012169705A5 publication Critical patent/JP2012169705A5/ja
Application granted granted Critical
Publication of JP5753395B2 publication Critical patent/JP5753395B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/611Correction of chromatic aberration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
    • H04N2209/046Colour interpolation to calculate the missing colour values

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮像装置に関するものである。
5バンド以上のカラーバンドを持つマルチバンドカメラでは、撮影レンズの軸上色収差の影響を、RGBの3つのカラーバンドをもつ通常のデジタルカメラよりも強く受ける。モノクロ撮像センサと切り替え式のカラーフィルタにより、カラーバンドを構成するマルチバンドカメラでは、各バンドごとにピント調整を行うことで軸上色収差によるピントずれの影響を回避することができる(特許文献1、特許文献2)。
特開2001-005046号公報 特開2004-157059号公報
背景技術として述べた「フィルタ切り替え式のマルチバンドカメラで可能なバンドごとのピント合わせ」は、すべてのカラーバンドを単一の撮像センサ上に設けた単板撮像センサをもつマルチバンドカメラでは行うことができない。
一方、5バンド以上のカラーバンド撮像センサを持つマルチバンドカメラでは、各バンドの画素の個数比はかならずしも等比ではないため、個数比に応じて該バンドの解像度が変化する。このとき、画素密度の低いバンドの解像度は比例的に低下するため、該バンドは実質的に解像度情報を持たないことになる。このような条件下では、高解像度のバンドに対する軸上色収差によるピントずれの解決が課題となる。
本発明は以上の問題に鑑みてなされたものであり、5バンド以上の単板撮像センサを有する撮像装置における軸上色収差による解像度低下を軽減させるための技術を提供することを目的とする。
本発明の目的を達成するために、例えば、本発明の撮像装置は以下の構成を備える。即ち、N(Nは5以上の整数)種類の固体撮像素子が2次元的に配置されている撮像センサであって、該N種類の固体撮像素子におけるそれぞれの種類の固体撮像素子は互いに異なる色の光を撮像する該撮像センサと、撮像レンズと、が搭載された撮像装置であって、
第1の種類の固体撮像素子のカラーフィルタ及び第2の種類の固体撮像素子のカラーフィルタのそれぞれの分光透過率におけるピーク波長は、該ピーク波長に基づく前記撮像装置の撮像レンズの軸上色収差によるピントずれ量が規定量以下となるように設定されており、
前記第1の種類の固体撮像素子及び前記第2の種類の固体撮像素子は、ベイヤ配置に従って2次元的に前記撮像センサ上に配置されており、
前記N種類の固体撮像素子のうち、前記第1の種類の固体撮像素子に対してカラーフィルタの分光透過率のピーク波長が隣り合う色の光を撮像する固体撮像素子を第3の種類の固体撮像素子とし、前記N種類の固体撮像素子のうち、前記第2の種類の固体撮像素子に対してカラーフィルタの分光透過率のピーク波長が隣り合う色の光を撮像する固体撮像素子を第4の種類の固体撮像素子とした場合に、前記第3の種類の固体撮像素子及び前記第4の種類の固体撮像素子は、ベイヤ配置に従って2次元的に前記撮像センサ上に配置されており、
前記第1の種類の固体撮像素子の数及び前記第2の種類の固体撮像素子の数は、前記N種類の固体撮像素子の中で最も多く、
前記撮像レンズは、前記ピントずれ量を焦点深度の両端に納める絞り値を有する
ことを特徴とする。
本発明の構成によれば、5バンド以上の単板撮像センサを有する撮像装置における軸上色収差による解像度低下を軽減させることができる。
撮像装置の構成例を示すブロック図。 カラーフィルタ105が有する分光透過率を示す図。 固体撮像素子の配置例を示す図。 典型的な望遠レンズの軸上色収差特性を示すグラフ。 一般的なマルチバンドカメラが有するカラーフィルタ分光透過率の一例を示す図。 デモザイキング部110の構成例を示すブロック図。 デモザイキング部110が行う処理のフローチャート。 ステップS401における処理の詳細を示すフローチャート。 画素群を示す図。 画素群を示す図。 ステップS402における処理の詳細を示すフローチャート。 画素群を示す図。 カラーフィルタ105が有する分光透過率を示す図。 固体撮像素子の配置例を示す図。
以下、添付図面を参照し、本発明の好適な実施形態について説明する。なお、以下説明する実施形態は、本発明を具体的に実施した場合の一例を示すもので、特許請求の範囲に記載の構成の具体的な実施例の1つである。
[第1の実施形態]
先ず、本実施形態に係る撮像装置において、図1のブロック図を用いて説明する。なお、図1には、以下の説明で使用する機能部の構成例を示したのみであって、撮像装置の全ての構成を示したわけではない。
また、図1に示した各部は何れもハードウェアで構成しても良いが、デモザイキング部110や再現処理部109など、一部の構成をソフトウェアで実現しても良い。この場合、このソフトウェアは、制御回路111等の制御部により実行され、対応する機能が実現される。
被写体等、外界からの光束は、撮像部101を介してセンサ部102に入光する。撮像部101は、絞り・フォーカス機能を有する撮像レンズから構成されている。センサ部102に入光した光束は、光学ローパスフィルタ103でローパスフィルタ加工がなされ、iR(赤外光)カットフィルタ104において赤外光をカットする加工が為された後、カラーフィルタ105に入光することになる。
カラーフィルタ105は周知の通り、画素毎(撮像センサ106が有する固体撮像素子毎)に異なる分光透過率特性を有するものである。カラーフィルタ105が有する分光透過率について、図2を用いて説明する。カラーフィルタ105が有する分光透過率は、ピーク波長の短い順に201(ブルー、B)、202(ダークグリーン、DG)、203(グリーン、G)、204(ライトグリーン、LG)、205(オレンジ、O)、206(レッド、R)である。即ち、このカラーフィルタ105のカラーバンド数は6となる。
撮像センサ106は、CMOS、CCDなどの固体撮像素子群から成るもので、この撮像センサ106には、カラーフィルタ105を透過した光が入光する。それぞれの固体撮像素子は、自身が受けた光の光量に応じた電荷量の信号(画素信号)を生成して出力する。このとき、各固体撮像素子における分光感度特性は、iRカットフィルタ104、カラーフィルタ105の分光透過率、固体撮像素子の分光感度特性、の総合により決定される。
A/D変換部107は、それぞれの固体撮像素子から出力された画素信号、即ち、撮像センサ106から出力された画像信号に対してA/D変換を行うことで、アナログ信号としての画像信号をディジタル信号としての画像信号に変換する。この変換により得られるディジタル信号としての画像信号は、モザイク状のカラー画像となっている。
A/D変換部107によりディジタル信号として変換されたモザイク状のカラー画像は、データとして記憶部108に格納される。記憶部108にはこのほかにも、以下の処理で既知の情報として登場するものも格納されている。
デモザイキング部110は、記憶部108に格納されているモザイク状のカラー画像を読み出し、読み出したカラー画像に対して、後述するデモザイキング処理を行い、デモザイク済みの画像を生成する。そしてデモザイキング部110は、このデモザイク済みの画像のデータを記憶部108に格納する。
再現処理部109は、記憶部108に格納されているデモザイク済みの画像のデータを読み出し、読み出したデモザイク済み画像のデータに対して、分光画像再現、エッジ強調、ノイズ低減処理等の画像処理を行い、再現画像データを生成する。
制御回路111は、上記の各部の動作制御を行うと共に、上記で示していないその他の各部の動作制御も行う。もちろん、制御回路111を複数個設け、撮像装置の動作制御を、それぞれの制御回路111で分けて行うようにしても良い。
ここで、カラーフィルタ105が配されている撮像センサ106上の固体撮像素子(画素)の配置について、図3を用いて説明する。周知の通り、カラーフィルタ105とは、撮像センサ106上の各画素に対して特定の色の光を透過させる為のものである。然るに、図3において、例えば「DG」が付されている箇所には、DG(ダークグリーン)の色の光を透過させる為のカラーフィルタ及びこのカラーフィルタを透過した光を受光するための固体撮像素子が配されていることになる。以下では、DRの色の光を透過させる為のカラーフィルタ及びこのカラーフィルタを透過した光を受光するための固体撮像素子をまとめて「固体撮像素子DR」と呼称する場合がある。以上のことは、LG、G、B、O、R、についても同様である。
図3に示す如く、撮像センサ106(カラーフィルタ105)上の固体撮像素子B、固体撮像素子DG、固体撮像素子G、固体撮像素子LG、固体撮像素子O、固体撮像素子R、の個数比は、B:DG:G:LG:O:R=1:2:1:1:2:1となっている。この個数比からも分かるように、固体撮像素子DG、固体撮像素子O、はその他の固体撮像素子よりも個数が多いことから、より高密度に配されていることになる。以下では、固体撮像素子DGや固体撮像素子Oにより撮像された画素を高解像度画素(高解像度カラーフィルタ)と呼称し、固体撮像素子DG、固体撮像素子O以外の固体撮像素子により撮像された画素を低解像度画素(低解像度カラーフィルタ)と呼称する。
ここで、それぞれの固体撮像素子の配置規則についてであるが、固体撮像素子DG及び固体撮像素子Oは、撮像センサ106上にベイヤ配置(一つ置き)で配置される。また、固体撮像素子DG及び固体撮像素子Oに対して、分光透過率のピーク波長が隣り合う色の光を受光する固体撮像素子がさらにベイヤ配置になるように配置される。本実施形態に係る撮像装置には、このような構成を有する撮像センサ106が搭載されている。
ここで、本実施形態では、固体撮像素子DG、固体撮像素子O、のそれぞれのカラーフィルタの分光透過率のピーク波長は、撮影レンズの軸上色収差特性によるピントずれ量が所定量以下となるように設定されている。ここで、第n(1≦n≦N;N≧5)の色の光を撮像する固体撮像素子を固体撮像素子nとすると、本実施形態は次のように一般化できる。即ち、固体撮像素子1乃至Nのうちより高密度に撮像センサ106上に配置されている固体撮像素子p及び固体撮像素子qは、それぞれの間の撮像装置の撮像レンズの軸上色収差によるピントずれ量が開放絞りにおける焦点深度量以下となるように構成されている。
即ち、本実施形態に係る撮像センサ106(カラーフィルタ105)は、次のように構成されているものの一例である。即ち、固体撮像素子1乃至固体撮像素子Nがベイヤ配置に従って2次元的に配置されている撮像センサにおいて固体撮像素子p及びqは、それぞれの間の撮像レンズの軸上色収差によるピントずれ量が開放絞りにおける焦点深度量以下となるように構成されている。
ここで、図4、図5を用いて撮影レンズの軸上色収差量とマルチバンドカメラにおけるピントずれについて説明する。図2、3で説明した分光透過率と撮像センサ上の配置を持つカラーフィルタに対応したデモザイクは後述するように、高解像度カラーフィルタを核として行われる。従って、高解像度が与えられた各バンドはいずれも、シャープな像を得る必要がある。言い換えると、高解像度カラーフィルタが与えられたバンドは相対的なピントずれ量が小さい必要がある。このとき、撮像レンズの軸上色収差特性と、高解像度カラーフィルタの分光透過率のピーク波長は特定の関係を持たなければならない。
図4は典型的な望遠レンズ(開放絞り1:4.5、f=500mm)の軸上色収差特性を示すグラフである。図4に示す如く、基準焦点位置はD線(589.594nm)であり、ピントずれは、D線よりも長波長側ではプラス側、D線から短波長450nm付近まではマイナス側、短波長450nmよりも短波長側では再びプラス側となる。このような特性に起因し、D線のピント位置に対して相対的に0となる波長の選択は重要で、RGBの3バンドに感度を持つカメラに対しては400nmから500nmが選択されてきた。
図5は、本実施形態に係る撮像センサ106(カラーフィルタ105)を適用しない一般的なマルチバンドカメラが有するカラーフィルタ分光透過率の一例である。このとき、固体撮像素子DGのカラーフィルタの分光透過率のピーク波長は500nm、固体撮像素子Oのカラーフィルタの分光透過率のピーク波長は650nmである。この両波長を図4に当てはめると、この2バンド間のピントずれ量はおよそ0.7mmである。このレンズは135フォーマット対応であり、135フォーマットで用いられる許容錯乱円径0.035mmを用いると、このピントずれ量を焦点深度の両端に収めるには絞りF10が必要となり、開放絞りF4.5のレンズに対して実用に耐えないことがわかる。
本実施形態に係る撮像センサ106(カラーフィルタ105)を適用し、固体撮像素子DGのカラーフィルタの分光透過率のピーク波長が450nm、固体撮像素子Oのカラーフィルタの分光透過率のピーク波長が600nmであるとする。これらの数値を図4にあてはめると、ピントずれ量はおよそ0.1mm程度となる。このピントずれ量を焦点深度の両端に収めるのに必要な絞り値はF1.4である。開放絞り値に対して3段半の余裕があり、画像を大きく拡大して観察するデジタルカメラにおいても充分な実用性を持つ。即ち、本実施形態で用いる撮像レンズは、このピントずれ量を焦点深度の両端に納める絞り値を有する。
このとき、開放絞り値によってもたらされる焦点深度に対してどの程度の軸上色収差によるピントずれを許容するかの閾値は、開放絞りに対して全く余裕なしを上限として、使用目的に応じて設定すればよい。
次に、デモザイキング部110の構成例について、図6のブロック図を用いて説明する。デモザイキング部110を構成する高解像度カラーフィルタ画像デモザイク部112、低解像度カラーフィルタ画像デモザイク部113、のそれぞれの動作については、図7のフローチャートを用いて説明する。もちろん、図7のフローチャートに従った処理を行う時点で、記憶部108には、撮像センサ106により撮像されたモザイク状のカラー画像が格納されている。
先ず、ステップS401において高解像度カラーフィルタ画像デモザイク部112は、カラー画像を構成する各画素位置について、ダークグリーン及びオレンジの画素値を求める。ステップS401における処理の詳細については、図8のフローチャートを用いて後述する。
次に、ステップS402では、低解像度カラーフィルタ画像デモザイク部113は、カラー画像を構成する各画素位置について、ダークグリーン及びオレンジ以外の色の画素値を求める。ステップS402における処理の詳細については、図11のフローチャートを用いて後述する。
<ステップS401における処理の詳細について>
ステップS401における処理について、同処理の詳細を示す図8のフローチャートを用いて説明する。なお、ステップS501〜S505における処理の説明では、図9に示す如く、撮像センサ106上のある領域内の画素群における処理について説明するが、同様のことは、撮像センサ106上の全ての画素について同様である。
また、ステップS501〜S505の説明では、図9に示す画素群において左上隅から右に3画素、下に3画素の位置にある画素(LG33が記されている箇所)を注目画素とし、注目画素について、オレンジの画素値O33を求める処理について説明する。なお、LG33はこの注目画素のライトグリーンの画素値である。
ステップS501では、注目画素と斜め方向に隣接する画素が高解像度画素であるか否かを判断する。この判断の結果、高解像度画素である場合には処理はステップS502に進み、高解像度画素ではない場合には処理はステップS505に進む。図9の場合には、注目画素と斜め方向に隣接するそれぞれの画素に対しては既に画素値O22、O24、O42、O44が確定しているので、注目画素と斜め方向に隣接するそれぞれの画素は高解像度画素である。ステップS502では、この斜め方向に隣接する4つの高解像度画素の画素値の平均O33lpfを、以下の式を計算することで求める。
O33lpf=|O22+O24+O42+O44|/4
ステップS503では、注目画素を中心にして、高解像度画素と隣接し且つ高解像度画素とピーク波長の隣り合う低解像度画素の画素値の平均値LG33lpfを、以下の式を計算することで求める。
LG33lpf=(4*LG33+LG11+LG15+LG51+LG55)/6
ステップS504では、以下の式を計算することで、O33を求める。即ち、低解像度画素に対して斜めに隣接している4つの画素が高解像度画素である場合には、低解像度画素の画素値に対して4つの画素の画素値の平均値を乗じた結果を高解像度画素とピーク波長が隣り合う低解像度画素の画素値の平均値で除することで求める。
O33=O33lpf/LG33lpf*LG33
なお、本実施形態では、局所領域において、ピーク波長の隣り合う画素値の平均値の比は等しいと仮定する。ステップS505では、全ての画素について上記の処理を行ったか否かを判断する。図9の場合は、図9に示した全ての画素について以上の処理を行ったか否かを判断する。この判断の結果、全ての画素について上記の処理を行った場合には処理はステップS506に進み、未だ上記の処理を行っていない画素(未処理画素)が残っている場合には処理はステップS501に戻り、未処理画素について上記の処理を行う。
ステップS506〜S509における処理の説明では、図10に示す如く、撮像センサ106上のある領域内の画素群における処理について説明するが、同様のことは、撮像センサ106上の全ての画素について同様である。
また、ステップS506〜S509の説明では、図10に示す画素群において左上隅から右に3画素、下に3画素の位置にある画素(×33が記されている箇所)を注目画素とし、注目画素について、オレンジの画素値O33を求める処理について説明する。図10において「×」を記している箇所は、まだオレンジの画素値を算出していない画素を示している。一方、「○」を記している箇所は、オレンジの画素値が確定している画素を示している。然るに以下では、ステップS505までの処理を行った結果、未だオレンジの画素値が確定していない注目画素について、オレンジの画素値O33を確定させるための処理について説明する。
ステップS506では、注目画素のオレンジの画素値が確定しているか否かを判断する。この判断の結果、確定している場合には、処理はステップS509に進み、確定していない場合には、処理はステップS507に進む。
ステップS507では、図9に示した画像において水平方向に注目画素と隣接する2つの画素のそれぞれの画素値の差分HDiff33、垂直方向に注目画素と隣接する2つの画素のそれぞれの画素値の差分VDiff33を、以下の式を計算することで求める。
HDiff33=|O32−O34|
VDiff33=|O23−O43|
HDiff33は、注目画素を挟んで水平方向への画素値の変化(水平差分)を示しており、VDiff33は、注目画素を挟んで垂直方向への画素値の変化(垂直差分)を示している。然るに、注目画素を挟んで水平方向への画素値の変化、注目画素を挟んで垂直方向への画素値の変化、を定量的に示す情報であれば、如何なる情報を用いても良いし、如何なる方法でこの情報を取得(計算)しても良い。
ステップS508では、HDiff33とVDiff33との大小比較を行う。この大小比較の結果、HDiff33<VDiff33の場合には、水平方向の方が垂直方向に比べて変化が緩やかと推定できる為、以下の式を計算することで、注目画素のオレンジの画素値O33を求める。
O33=(O32+O34)/2
一方、この大小比較の結果、HDiff33≧VDiff33の場合には、垂直方向の方が水平方向に比べて変化が緩やかと推定できる為、以下の式を計算することで、注目画素のオレンジの画素値O33を求める。
O33=(O23+O43)/2
なお、他の注目画素(図10では他のXで示す画素)の場合はそれを囲む4つのオレンジの画素値を用いて同様に画素値を算出する。ステップS509では、全ての画素について上記の処理を行ったか否かを判断する。図10の場合は、図10に示した全ての画素について以上の処理を行ったか否かを判断する。この判断の結果、全ての画素について上記の処理を行った場合には図8のフローチャートの処理は終了し、ステップS402に進む。一方、未だ上記の処理を行っていない画素(未処理画素)が残っている場合には処理はステップS506に戻り、未処理画素について上記の処理を行う。
なお、図8のフローチャートの処理によれば、全ての画素についてオレンジの画素値を求めることができる。然るに、上記の説明において「オレンジの画素値」を「ダークグリーンの画素値」と読み替えれば、全ての画素についてダークグリーンの画素値を求めることができる。このようにして、ステップS401では、カラー画像を構成する各画素位置について、ダークグリーン及びオレンジの画素値を求める。
<ステップS402における処理の詳細について>
ステップS402における処理について、同処理の詳細を示す図11のフローチャートを用いて説明する。以下の説明では、図9に示す如く、撮像センサ106上のある領域内の画素群における処理について説明するが、同様のことは、撮像センサ106上の全ての画素について同様である。また、以下の説明では、図9に示す画素群において左上隅から右に3画素、下に3画素の位置にある画素(LG33が記されている箇所)を注目画素とし、注目画素について、赤の画素値R33を求める処理について説明する。
図9に示した画素群において、赤の画素値が求まっている箇所と、求まっていない箇所とが、図12に示されている。図12において「×」を記している箇所は、まだ赤の画素値を算出していない画素を示している。図12からも分かるとおり、注目画素(X33が記されている箇所)については赤の画素値は未だ確定していない。
ステップS801では、注目画素について赤の画素値が確定しているか否かを判断する。この判断の結果、確定している場合には処理はステップS806に進み、確定していない場合には処理はステップS802に進む。
ステップS802では、注目画素を囲む、赤の画素値が確定している画素を検索する。図12の場合、R13、R31、R35、R53が記されているそれぞれの箇所における画素が検索されることになる。
ステップS803では、これら検索した画素の赤の画素値から、ピーク波長の隣り合う高解像度画素の画素値を減じることで、差分画素値を算出する。図9の場合、本ステップでは以下の式に従った計算を行うことになる。
D13=R13−O13
D31=R31−O31
D35=R35−O35
D53=R53−O53
D13、D31、D35、D53のそれぞれが差分画素値である。次にステップS804では、ステップS803で算出した差分画素値を用いて、一般的な補間方法であるバイリニア補間などに従って、注目画素の差分画素値D33を算出する。次に、ステップS805では、以下の式を計算することでR33を求める。
R33=D33+O33
このような計算方法を用いれば、X22、X23、X24、X32、X33、X34、X42、X43、X44の9カ所における画素の赤の画素値は求めることができる。それ以外の画素は注目画素を囲む低解像度画素として異なる4画素を選択することで同様に画素値を算出できる。
ステップS806では、全ての画素について上記の処理を行ったか否かを判断する。図9の場合は、図9に示した全ての画素について以上の処理を行ったか否かを判断する。この判断の結果、全ての画素について上記の処理を行った場合には図11及び図7のフローチャートの処理は終了する。一方、未だ上記の処理を行っていない画素(未処理画素)が残っている場合には処理はステップS801に戻り、未処理画素について上記の処理を行う。
なお、図11のフローチャートの処理によれば、全ての画素について赤の画素値を求めることができる。然るに、上記の説明において「赤の画素値」を「青(B)の画素値」と読み替えれば、全ての画素について青の画素値を求めることができる。これは、「緑(G)の画素値」や「ライトグリーン(LG)の画素値」と読み替えても同じことである。
[第2の実施形態]
第1の実施形態では、カラーフィルタ105のカラーバンド数=6であったが、本実施形態では、カラーフィルタ105のカラーバンド数=5とする。本実施形態に係るカラーフィルタ105が有する分光透過率について、図13を用いて説明する。カラーフィルタ105が有する分光透過率は、ピーク波長の短い順に1001(ブルー、B)、1002(ダークグリーン、DG)、1003(グリーン、G)、1004(ライトグリーン、LG)、1005(オレンジ、O)である。
この場合、図14に示す如く撮像センサ106上における、固体撮像素子B、固体撮像素子DG、固体撮像素子G、固体撮像素子LG、固体撮像素子O、の個数比は、B:DG:G:LG:O=1:2:2:2:1となっている。この個数比からも分かるように、固体撮像素子DG、固体撮像素子G、固体撮像素子LG、はその他の固体撮像素子よりも個数が多いことから、より高密度に配されていることになる。然るに、固体撮像素子DG、固体撮像素子G、固体撮像素子LGにより撮像された画素が高解像度画素、固体撮像素子Bや固体撮像素子Oにより撮像された画素が低解像度画素となる。
それぞれの固体撮像素子の配置規則については第1の実施形態と同様である。即ち、カラーバンド数が5以上であれば、図のフローチャートに従った処理を適用することができる。
固体撮像素子DGのカラーフィルタの分光透過率におけるピーク波長は450nm、固体撮像素子LGの同波長は550nmであるので、これらを図4に当てはめると、両者の間のピントずれ量はおよそ0.15mmであることがわかる。これを焦点深度両端に包含する絞り値はF2強となるため、開放絞りF45のレンズに対して余裕のあるピントずれ量に収まっている。
[第3の実施形態]
これまでの実施例では、RGBカメラ向けに設計された撮影レンズの軸上色収差特性に対して、カラーフィルタの設計を適合させていた。これとは逆に、カラーフィルタ設計に対して、軸上色収差の補正上の基準波長(D線に対して相対的にピントずれ量が0となる波長)を調整してもよい。この場合、カラーフィルタの設計は色再現に最適化することが可能となるという利点がある。
即ち、撮像レンズを、上記の固体撮像素子p及びqのそれぞれのカラーフィルタの分光透過率のピーク波長に対して、該撮像レンズの軸上色収差によるピントずれ量が開放絞りにおける焦点深度量以下となるように設定しても良い。
[第4の実施形態]
第1,2の実施形態で用いているデモザイキングアルゴリズムは、高解像度フィルタ画像のデモザイクにあたり、低解像度フィルタ画像の局所平均値と、画素値の変化方向を用いた平均化を用いている。しかし、これらは用いず、高解像度フィルタ画像のデモザイクを平均化することでデモザイク処理を行うことも可能である。この場合、処理が単純化され、処理時間が短くなるという利点がある。即ち、デモザイキングアルゴリズムは1つの方法に限定するものではない。
[第5の実施形態]
第1,2の実施形態で説明した各処理は何れも、撮像装置内で行われることを前提としていた。しかし、係る処理は、PC(パーソナルコンピュータ)内で行うようにしても良い。この場合、上記の各フローチャートに従って説明した各処理をこのPCに実行させるためのコンピュータプログラムを、このPCのメモリにインストールしておく必要がある。そしてこのPCのCPUが、このコンピュータプログラムをこのメモリから読み出して実行することで、このPCは、上記の各フローチャートに従って説明した各処理を実行することができる。もちろん、記憶部108に格納されているものとして説明した情報も、このPCに記憶させておく必要がある。
(その他の実施例)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (3)

  1. N(Nは5以上の整数)種類の固体撮像素子が2次元的に配置されている撮像センサであって、該N種類の固体撮像素子におけるそれぞれの種類の固体撮像素子は互いに異なる色の光を撮像する該撮像センサと、撮像レンズと、が搭載された撮像装置であって、
    第1の種類の固体撮像素子のカラーフィルタ及び第2の種類の固体撮像素子のカラーフィルタのそれぞれの分光透過率におけるピーク波長は、該ピーク波長に基づく前記撮像装置の撮像レンズの軸上色収差によるピントずれ量が規定量以下となるように設定されており、
    前記第1の種類の固体撮像素子及び前記第2の種類の固体撮像素子は、ベイヤ配置に従って2次元的に前記撮像センサ上に配置されており、
    前記N種類の固体撮像素子のうち、前記第1の種類の固体撮像素子に対してカラーフィルタの分光透過率のピーク波長が隣り合う色の光を撮像する固体撮像素子を第3の種類の固体撮像素子とし、前記N種類の固体撮像素子のうち、前記第2の種類の固体撮像素子に対してカラーフィルタの分光透過率のピーク波長が隣り合う色の光を撮像する固体撮像素子を第4の種類の固体撮像素子とした場合に、前記第3の種類の固体撮像素子及び前記第4の種類の固体撮像素子は、ベイヤ配置に従って2次元的に前記撮像センサ上に配置されており、
    前記第1の種類の固体撮像素子の数及び前記第2の種類の固体撮像素子の数は、前記N種類の固体撮像素子の中で最も多く、
    前記撮像レンズは、前記ピントずれ量を焦点深度の両端に納める絞り値を有する
    ことを特徴とする撮像装置。
  2. 前記撮像装置の撮像レンズの軸上色収差によるピントずれ量は、前記第1の種類の固体撮像素子のピーク波長に対応する軸上色収差と前記第2の種類の固体撮像素子のピーク波長に対応する軸上色収差との差分であることを特徴とする請求項1に記載の撮像装置。
  3. 前記規定量は、開放絞りにおける焦点深度量に従って定義されていることを特徴とする請求項1に記載の撮像装置。
JP2011026527A 2011-02-09 2011-02-09 撮像装置 Active JP5753395B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011026527A JP5753395B2 (ja) 2011-02-09 2011-02-09 撮像装置
US13/355,958 US8704925B2 (en) 2011-02-09 2012-01-23 Image sensing apparatus including a single-plate image sensor having five or more brands

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011026527A JP5753395B2 (ja) 2011-02-09 2011-02-09 撮像装置

Publications (3)

Publication Number Publication Date
JP2012169705A JP2012169705A (ja) 2012-09-06
JP2012169705A5 JP2012169705A5 (ja) 2014-02-20
JP5753395B2 true JP5753395B2 (ja) 2015-07-22

Family

ID=46600423

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011026527A Active JP5753395B2 (ja) 2011-02-09 2011-02-09 撮像装置

Country Status (2)

Country Link
US (1) US8704925B2 (ja)
JP (1) JP5753395B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5546166B2 (ja) * 2009-06-19 2014-07-09 キヤノン株式会社 撮像装置、信号処理方法、及びプログラム
US9800852B1 (en) * 2016-09-07 2017-10-24 Essential Products, Inc. Color reconstruction
CN108600771B (zh) * 2018-05-15 2019-10-25 东北农业大学 录播工作站系统及操作方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3758284B2 (ja) * 1997-03-17 2006-03-22 コニカミノルタフォトイメージング株式会社 画像撮像装置
JP2001005046A (ja) 1999-06-23 2001-01-12 Fuji Photo Film Co Ltd マルチバンドカメラ
JP3965555B2 (ja) * 2002-02-01 2007-08-29 ソニー株式会社 画像処理装置および方法、プログラム、並びに記録媒体
JP2004157059A (ja) 2002-11-08 2004-06-03 Minolta Co Ltd 撮像装置およびレンズ光学系
JP2006098771A (ja) * 2004-09-29 2006-04-13 Canon Inc 焦点検出装置、撮像装置、撮像システム及びレンズユニット
JP4983141B2 (ja) * 2006-08-04 2012-07-25 ソニー株式会社 カラーフィルタ
JP2009130625A (ja) * 2007-11-22 2009-06-11 Olympus Corp 画像撮影装置
JP5305992B2 (ja) * 2009-03-10 2013-10-02 キヤノン株式会社 画像処理装置及び画像処理方法

Also Published As

Publication number Publication date
US8704925B2 (en) 2014-04-22
JP2012169705A (ja) 2012-09-06
US20120200755A1 (en) 2012-08-09

Similar Documents

Publication Publication Date Title
JP5546229B2 (ja) 画像処理方法、画像処理装置、撮像装置および画像処理プログラム
JP5012135B2 (ja) 超深度画像生成装置
EP2420051B1 (en) Producing full-color image with reduced motion blur
EP3038356B1 (en) Exposing pixel groups in producing digital images
US8068153B2 (en) Producing full-color image using CFA image
JP4730082B2 (ja) 画像信号処理装置、撮像装置、および画像信号処理方法、並びにコンピュータ・プログラム
JP2011123589A5 (ja)
JP2009504005A (ja) 光感度が改善されたイメージ・センサー
JPWO2016143139A1 (ja) 画像処理装置、画像処理方法およびプログラム
US20090167917A1 (en) Imaging device
JP6282123B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2013055623A (ja) 画像処理装置、および画像処理方法、情報記録媒体、並びにプログラム
JP2015185943A (ja) フィルタアレイ付マイクロレンズおよび固体撮像装置
JP5600812B2 (ja) 撮像装置
JP5753395B2 (ja) 撮像装置
JP5464982B2 (ja) 撮像装置および画像処理方法
JP5738904B2 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
US10075687B2 (en) Imaging apparatus and imaging method to obtain high quality luminance images
JP2010141661A (ja) 画像処理装置
JP6415094B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
JP2010074826A (ja) 撮像装置および画像処理プログラム
EP3497928B1 (en) Multi camera system for zoom
JP4962293B2 (ja) 画像処理装置、画像処理方法、プログラム
JP5278421B2 (ja) 撮像装置
JP5305992B2 (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140106

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140905

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150424

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150522

R151 Written notification of patent or utility model registration

Ref document number: 5753395

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151