JPWO2012124182A1 - 撮像装置及び撮像プログラム - Google Patents
撮像装置及び撮像プログラム Download PDFInfo
- Publication number
- JPWO2012124182A1 JPWO2012124182A1 JP2013504502A JP2013504502A JPWO2012124182A1 JP WO2012124182 A1 JPWO2012124182 A1 JP WO2012124182A1 JP 2013504502 A JP2013504502 A JP 2013504502A JP 2013504502 A JP2013504502 A JP 2013504502A JP WO2012124182 A1 JPWO2012124182 A1 JP WO2012124182A1
- Authority
- JP
- Japan
- Prior art keywords
- filter
- color
- pattern
- array
- pixels
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 35
- 238000006243 chemical reaction Methods 0.000 claims description 11
- 230000000875 corresponding effect Effects 0.000 description 29
- 238000000034 method Methods 0.000 description 21
- 230000008569 process Effects 0.000 description 14
- 230000003287 optical effect Effects 0.000 description 12
- 239000003086 colorant Substances 0.000 description 11
- 238000010586 diagram Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 3
- 230000001771 impaired effect Effects 0.000 description 2
- 238000004131 Bayer process Methods 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4015—Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
ベイヤー配列以外の配列のカラーフィルタを備えた撮像素子を用いた場合でも、ベイヤー配列対応の画像処理部を変更することなく用いることができる撮像装置及び撮像プログラムを提供する。撮像装置(10)は、一部にベイヤー配列パターンを含む6×6画素の基本配列パターンCが繰り返し配置されたカラーフィルタ(30)と、予め定めた位置のベイヤー配列パターンと同一のパターンとなる画素の画素データのみを読み出すように撮像素子(14)を駆動する駆動部(22)と、を備える。
Description
本発明は、撮像装置及び撮像プログラムに係り、特に、単板式のカラー撮像素子を用いた撮像装置及び撮像プログラムに関する。
単板カラー撮像素子の出力画像は、RAW画像(モザイク画像)であるため、欠落している色の画素を、周囲の画素から補間する処理(同時化処理)により多チャネル画像を得ている。この場合、高周波の画像信号の再現特性が問題となる場合がある。カラー撮像素子は、白黒の撮像素子と比較して、撮像した画像にエリアシングが発生し易いため、モアレ(偽色)の発生を抑圧しつつ再現帯域を広げて高解像化することが重要となる。
特許文献1には、モアレなどの発生の少ない間引き出力を行なわせる撮像装置が開示されている。
また、特許文献2には、画素混合によって増感したときでも、モアレの発生及び色のS/N比の低下を抑圧し、解像度の向上を図る撮像装置が開示されている。
ところで、単板カラー撮像素子で最も広く用いられている色配列である原色系ベイヤー配列(例えば特許文献3参照)は、人間の目に敏感で、輝度信号を得るために最も寄与する緑(G)画素を市松状に、赤(R)、青(B)を線順次に配置しているため、G信号は斜め方向で、R、B信号は水平、垂直方向の高周波信号を生成する際の再現精度が問題である。
そこで、このような問題が発生しないように各色のフィルタを配列したベイヤー配列以外の配列のカラーフィルタを用いることが考えられる(例えば特許文献4参照)。
特開2008−78794号公報
特開2009−246465号公報
特開2007−124295号公報
特開平11−285012号公報
この場合、例えば同時化処理等の画像処理は、新たなカラーフィルタの配列に応じた画像処理を行う必要があるが、新たなカラーフィルタの配列に応じて画像処理を変更するのは非常に煩雑であり、設計工数が膨大になる、という問題があった。
本発明は上記問題点を解決するためになされたものであり、ベイヤー配列以外の配列のカラーフィルタを備えた撮像素子を用いた場合でも、ベイヤー配列対応の画像処理部を変更することなく用いることができる撮像装置及び撮像プログラムを提供することを目的とする。
上記課題を解決するため、請求項1記載の発明の撮像装置は、水平方向及び垂直方向に配列された複数の光電変換素子を含む撮像素子と、前記複数の光電変換素子からなる複数の画素上に設けられたカラーフィルタであって、2×2画素の正方配列の一方の対角線上の2つの画素上に、輝度信号を得るために最も寄与する第1の色に対応する第1のフィルタが配置され、他方の対角線上の2つの画素上に、前記第1の色と異なる第2の色に対応した第2のフィルタと、前記第1の色及び前記第2の色と異なる第3の色に対応した第3のフィルタと、が配置されたベイヤー配列パターンを一部に含む3×3画素上に配置された第1の配列パターンと、前記第1の配列パターンと前記第1のフィルタの配置が同一で且つ前記第2のフィルタの配置と前記第3のフィルタの配置とを入れ替えた第2の配列パターンと、が点対称で配置された6×6画素の基本配列パターンが繰り返し配置されたカラーフィルタと、前記撮像素子から、予め定めた位置の前記ベイヤー配列パターンと同一のパターンとなる画素の画素データのみを読み出すように前記撮像素子を駆動する駆動手段と、前記撮像素子から出力された前記ベイヤー配列パターンの画素データに基づいて、各画素について、対応する色以外の色の画素データを周囲の画素の画素データから補間することにより、各画素の各色の画素データを生成する生成手段と、を備えたことを特徴とする。
この発明によれば、一部にベイヤー配列パターンと同一パターンを含むカラーフィルタを備え、撮像素子からベイヤー配列パターンと同一のパターンとなる画素の画素データのみを読み出すように撮像素子を駆動するので、ベイヤー配列以外の配列のカラーフィルタを備えた撮像素子を用いた場合でも、ベイヤー配列対応の画像処理部を変更することなく用いることができる。
なお、請求項2に記載したように、前記カラーフィルタは、前記第1のフィルタが、3×3画素の正方配列の四隅及び中央の画素上に配置され、前記第2のフィルタが、前記正方配列の前記水平方向における中央のラインに配置され、前記第3のフィルタが、前記正方配列の前記垂直方向における中央のラインに配置された第1の配列パターンと、前記第1の配列パターンと前記第1のフィルタの配置が同一で且つ前記第2のフィルタの配置と前記第3のフィルタの配置とを入れ替えた第2の配列パターンと、が点対称で配置された6×6画素の基本配列パターンが繰り返し配置されたカラーフィルタとしてもよい。
また、請求項3に記載したように、前記カラーフィルタは、前記第3のフィルタが、3×3画素の正方配列の四隅の画素上に配置され、前記第2のフィルタが、前記正方配列の前記中央の画素上に配置され、前記第1のフィルタが、前記正方配列の前記垂直方向における中央のライン及び前記水平方向における中央のライン上に配置された第1の配列パターンと、前記第1の配列パターンと前記第1のフィルタの配置が同一で且つ前記第2のフィルタの配置と前記第3のフィルタの配置とを入れ替えた第2の配列パターンと、が点対称で配置された6×6画素の基本配列パターンが繰り返し配置されたカラーフィルタとしてもよい。
また、請求項4に記載したように、前記第1の色は、緑(G)色であり、前記第2の色は、赤(R)色及び青(B)色の一方の色であり、前記第3の色は、赤(R)色及び青(B)色の他方の色である構成としてもよい。
請求項5記載の発明の撮像プログラムは、コンピュータを、請求項1〜請求項4の何れか1項に記載の撮像装置を構成する駆動手段として機能させるための撮像プログラムである。
本発明によれば、ベイヤー配列以外の配列のカラーフィルタを備えた撮像素子を用いた場合でも、ベイヤー配列対応の画像処理部を変更することなく用いることができる、という効果を有する。
以下、図面を参照して本発明の実施形態について説明する。
(第1実施形態)
図1には、本実施形態に係る撮像装置10の概略ブロック図を示した。撮像装置10は、光学系12、撮像素子14、撮像処理部16、画像処理部20、駆動部22、及び制御部24を含んで構成されている。
光学系12は、例えば複数の光学レンズから成るレンズ群、絞り調整機構、ズーム機構、及び自動焦点調節機構等を含んで構成されている。
撮像素子14は、水平方向及び垂直方向に配列された複数の光電変換素子を含む撮像素子、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子上にカラーフィルタが配置された構成の所謂単板式の撮像素子である。
図2には、本実施形態に係るカラーフィルタ30の一部を示した。なお、画素数は一例として(4896×3264)画素であり、アスペクト比は3:2であるが、画素数及びアスペクト比はこれに限られるものではない。同図に示すように、カラーフィルタ30は、輝度信号を得るために最も寄与するG(緑)に対応する第1のフィルタG(以下、Gフィルタと称する)が、3×3画素の正方配列の四隅及び中央の画素上に配置され、R(赤)に対応する第2のフィルタR(以下、Rフィルタと称する)が、正方配列の水平方向における中央のラインに配置され、B(青)に対応する第3のフィルタR(以下、Bフィルタと称する)が、正方配列の垂直方向における中央のラインに配置された第1の配列パターンAと、第1の基本配列パターンAとフィルタGの配置が同一で且つフィルタRの配置とフィルタBの配置とを入れ替えた第2の配列パターンBと、が点対称で配置された6×6画素の基本配列パターンCが繰り返し配置されたカラーフィルタである。
すなわち、カラーフィルタ30は、下記の特徴(1)、(2)、(3)、(4)、及び(5)を有している。
〔特徴(1)〕
図2に示すカラーフィルタ30は、6×6画素に対応する正方配列パターンからなる基本配列パターンCを含み、この基本配列パターンCが水平方向及び垂直方向に繰り返し配置されている。即ち、このカラーフィルタ配列は、R、G、Bの各色のフィルタ(Rフィルタ、Gフィルタ、Bフィルタ)が所定の周期性をもって配列されている。
このようにRフィルタ、Gフィルタ、Bフィルタが所定の周期性をもって配列されているため、カラー撮像素子から読み出されるR、G、B信号の同時化(補間)処理等を行う際に、繰り返しパターにしたがって処理を行うことができる。
また、基本配列パターンPの単位で間引き処理して画像を縮小する場合、間引き処理した縮小画像のカラーフィルタ配列は、間引き処理前のカラーフィルタ配列と同じにすることができ、共通の処理回路を使用することができる。
〔特徴(2)〕
図2に示すカラーフィルタ30は、輝度信号を得るために最も寄与する色(この実施形態では、Gの色)に対応するGフィルタが、カラーフィルタ配列の水平、垂直、及び斜め方向の各ライン内に配置されている。
輝度系画素に対応するGフィルタが、カラーフィルタ配列の水平、垂直、及び斜め方向の各ライン内に配置されるため、高周波となる方向によらず高周波領域での同時化処理の再現精度を向上させることができる。
〔特徴(3)〕
図2に示すカラーフィルタ30は、上記Gの色以外の2色以上の他の色(この実施形態では、R,Bの色)に対応するRフィルタ、Bフィルタが、カラーフィルタ配列の水平、及び垂直方向の各ライン内に配置されている。
Rフィルタ、Bフィルタが、カラーフィルタ配列の水平、及び垂直方向の各ライン内に配置されるため、色モワレ(偽色)の発生を抑圧することができる。これにより、偽色の発生を抑制するための光学ローパスフィルタを光学系の入射面から撮像面までの光路に配置しないようにすることができる。また、光学ローパスフィルタを適用する場合でも、偽色の発生を防止するための高周波数成分をカットする働きの弱いものを適用することができ、解像度を損なわないようにすることができる。
図2に示すように基本配列パターンCは、破線の枠で囲んだ3×3画素の第1の配列パターンAと、一点鎖線の枠で囲んだ3×3画素の第2の配列パターンBとが、水平、垂直方向に交互に並べられた配列となっていると捉えることもできる。
第1の配列パターンA及び第2の配列パターンBは、それぞれ輝度系画素であるGフィルタが4隅と中央に配置され、両対角線上に配置されている。また、第1の配列パターンAは、中央のGフィルタを挟んでBフィルタが水平方向に配列され、Rフィルタが垂直方向に配列され、一方、第2の配列パターンBは、中央のGフィルタを挟んでRフィルタが水平方向に配列され、Bフィルタが垂直方向に配列されている。即ち、第1の配列パターンAと第2の配列パターンBとは、RフィルタとBフィルタとの位置関係が逆転しているが、その他の配置は同様になっている。
また、第1の配列パターンAと第2の配列パターンBの4隅のGフィルタは、図8に示すように第1の配列パターンAと第2の配列パターンBとが水平、垂直方向に交互に配置されることにより、2×2画素に対応する正方配列のGフィルタとなる。
〔特徴(4)〕
図2に示すカラーフィルタ30は、Gフィルタからなる2×2画素に対応する正方配列を含んでいる。
図8に示すように、Gフィルタからなる2×2画素を取り出し、水平方向のG画素の画素値の差分絶対値、垂直方向のG画素の画素値の差分絶対値、斜め方向(右上斜め、左上斜め)のG画素の画素値の差分絶対値を求めることにより、水平方向、垂直方向、及び斜め方向のうち、差分絶対値の小さい方向に相関があると判断することができる。
即ち、このカラーフィルタ配列によれば、最小画素間隔のG画素の情報を使用して、水平方向、垂直方向、及び斜め方向のうちの相関の高い方向判別ができる。この方向判別結果は、周囲の画素から補間する処理(同時化処理)に使用することができる。
〔特徴(5)〕
図2に示すカラーフィルタ30の基本配列パターンCは、その基本配列パターンCの中心(4つのGフィルタの中心)に対して点対称になっている。また、図2に示したように、基本配列パターンC内の第1の配列パターンA及び第2の配列パターンBも、それぞれ中心のGフィルタに対して点対称になっている。
このような対称性により、後段の処理回路の回路規模を小さくしたり、簡略化することが可能になる。
図9に示すように基本配列パターンCにおいて、水平方向の第1から第6のラインのうちの第1及び第3のラインのカラーフィルタ配列は、GRGGBGであり、第2のラインのカラーフィルタ配列は、BGBRGRであり、第4及び第6のラインのカラーフィルタ配列は、GBGGRGであり、第5のラインのカラーフィルタ配列は、RGRBGBとなっている。
いま、図9において、基本配列パターンCを水平方向、及び垂直方向にそれぞれ1画素ずつシフトした基本配列パターンをC’、それぞれ2画素ずつシフトした基本配列パターンをC”とすると、これらの基本配列パターンC’、C”を水平方向及び垂直方向に繰り返し配置しても、同じカラーフィルタ配列になる。
即ち、基本配列パターンを水平方向及び垂直方向に繰り返し配置することで、図9に示すカラーフィルタ配列を構成することができる基本配列パターンは複数存在する。本実施形態では、基本配列パターンが点対称になっている基本配列パターンCを、便宜上、基本配列パターンという。
図10は本実施形態に係るカラーフィルタの変形例を示す図である。同図に示すカラーフィルタ30Aは、4×4画素に対応する正方配列パターンからなる基本配列パターンCを含み、この基本配列パターンCが水平方向及び垂直方向に繰り返し配置されている。
このカラーフィルタ30Aは、図2に示したカラーフィルタ30と同様に、Gフィルタが、カラーフィルタ配列の水平、垂直、及び斜め方向の各ライン内に配置され、かつRフィルタ、Bフィルタが、カラーフィルタ配列の水平、及び垂直方向の各ライン内に配置されている。
また、基本配列パターンCは、その基本配列パターンCの中心に対して点対称になっている。
一方、このカラーフィルタ30Aは、Gフィルタからなる2×2画素に対応する正方配列を含んでいないが、水平方向に隣接するGフィルタを有し、また、斜め方向(右上斜め、左上斜め)に隣接するGフィルタを有する。
垂直方向には、Rフィルタ又はBフィルタを挟んでGフィルタが存在するため、これらのGフィルタに対応するG画素の画素値を垂直方向の相関を判断する場合に使用することができる。
上記のようにカラーフィルタ30Aは、図2に示すカラーフィルタ30の特徴(1)、(2)、(3)、及び(5)と同じ特徴を有している。
これに対し、図3には、ベイヤー配列のカラーフィルタ40の一部を示した。なお、同図に示したカラーフィルタも画素数は一例として(4896×3264)画素であり、アスペクト比は3:2である。同図に示すように、ベイヤー配列のカラーフィルタ40は、2×2画素の正方配列の一方の対角線上の2つの画素上にGフィルタが配置され、他方の対角線上の2つの画素上にRフィルタ及びBフィルタが配置された構成である。
撮像処理部16は、撮像素子14から出力された撮像信号に対して増幅処理や相関二重サンプリング処理、A/D変換処理等の予め定めた処理を施し、画素データとして画素変換処理部18に出力する。
画像処理部20は、撮像処理部16から出力された画素データに対して所謂同時化処理を施す。すなわち、全画素について、対応する色以外の色の画素データを周囲の画素の画素データから補間して、全画素のR,G,Bの画素データを生成する。そして、生成したR,G,Bの画素データに対して所謂YC変換処理を施し、輝度データY、色差データCr、Cbを生成する。そして、これらの信号を撮影モードに応じたサイズにリサイズするリサイズ処理を行う。なお、画像処理部20は、ベイヤー配列パターンの画素データに対応した処理を行う。
駆動部22は、制御部24からの指示に応じて撮像素子14からの撮像信号の読み出し駆動等を行う。
制御部24は、撮影モード等に応じて駆動部22及び画像処理部20等を統括制御する。詳細は後述するが、制御部24は、駆動部22に対して、撮影モードに応じた読み出し方法で撮像信号を読み出すように指示したり、画像処理部20に対して、撮影モードに応じた画像処理を行うよう指示したりする。
撮影モードによっては、撮像素子14からの撮像信号を間引いて読み出す必要があるため、制御部24は、指示された撮影モードに応じた間引き方法で間引いて撮像信号を読み出すように駆動部22に指示する。
本実施形態では、撮影モードの一例として、撮像した画像を間引いて比較的高解像度のHD(高精細)動画データを生成して図示しないメモリーカード等の記録媒体に記録するHD動画モード、撮影した画像を間引いて比較的低解像度のスルー動画を図示しない表示部に出力するスルー動画モードが設定された場合の処理を例に説明する。
次に、本実施形態の作用として、制御部24で実行される処理について、図4に示すフローチャートを参照して説明する。
なお、図4に示す処理は、撮影モードに応じた撮影を実行するように指示された場合に実行される。
まず、ステップ100では、撮影モードに応じた間引き方法で画素データを読み出すように駆動部22に指示する。
ステップ102では、撮影モードに応じたベイヤー処理(同時化処理及びYC変換処理)及びリサイズ処理を実行するよう画像処理部20に指示する。
なお、制御部24は、CPU、ROM、RAM、不揮発性ROM等を含むコンピュータで構成することができる。この場合、上記の処理の処理プログラムを例えば予め不揮発性ROMに記憶しておき、これをCPUが読み込んで実行することができる。
以下、間引き読み出しの具体例について説明する。
図2に示すように、第1の配列パターンA、第2の配列パターンBは、一部にベイヤー配列パターンを含んでいる。例えば第1の配列パターンAは、対角線上にG画素が配置され、その他がR画素及びB画素となっているため、第1の配列パターンAから任意の2×2画素を抜き出すと、図3に示す2×2画素のベイヤー配列パターンと同一となる。これは第2の配列パターンBについても同様である。
従って、本実施形態では、間引き読み出しする際に、カラーフィルタ30のベイヤー配列パターンと同一となるパターンの画素の画素データのみを読み出すように撮像素子14を駆動する。
図5には、HD動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図5左上に示すように、制御部24は、駆動部22に対して垂直方向及び水平方向ともに(6n+1)番目(n=0,1,2,・・・)及び(6n+2)番目(n=0、1、2、・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、同図左上の枠50内の2×2画素の画素データのみが出力される。これにより、画素数が(1632×1088)の画素データが撮像素子14から出力される。この枠50内の2×2画素はベイヤー配列となっているので、撮像素子14から出力された画素データは、同図右上に示すように当然ベイヤー配列となる。
このように、ベイヤー配列パターンと異なるカラーフィルタ30を用いた場合でも、ベイヤー配列パターンと同一のパターンの画素のみを読み出すので、撮像素子14から出力された画素データをベイヤー配列パターンに変換する必要がなく、装置構成を簡略化することができる。また、後段のベイヤー配列に対応した画像処理部20をカラーフィルタ30用に変更することなく用いることができる。
画像処理部20では、同図左下に示すようにベイヤー処理(同時化処理及びYC変換処理)実行し、その後同図右下に示すようにリサイズ処理を実行する。図5右下では、一例として(1920×1080)のサイズにリサイズしている。そして、リサイズした画像を出力する。
(第2実施形態)
次に、本発明の第2実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第1実施形態と異なるのは撮影モードであり、その他は第1実施形態と同様である。
本実施形態では、間引き方は第1実施形態と同様であり、図5左上と同様に、制御部24は、駆動部22に対して垂直方向及び水平方向ともに(6n+1)番目(n=0,1,2,・・・)及び(6n+2)番目(n=0、1、2、・・・)のラインが交差する位置の画素の画素データを読み出すように指示する。これにより、同図右上に示すようにベイヤー配列の画素データが撮像素子14から出力される。
画像処理部20では、図5左下と同様にベイヤー処理を実行し、その後リサイズ処理を実行する。本実施形態では、スルー動画モードなので、HD動画モードよりも小さいサイズ、一例として(640×480)のサイズにリサイズする。そして、リサイズした画像を出力する。
(第3実施形態)
次に、本発明の第3実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第1実施形態と異なるのは撮影モード及び間引き方法であり、その他は第1実施形態と同様である。
図6には、スルー動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図6左に示すように、制御部24は、駆動部22に対して垂直方向に(12n+1)番目(n=0,1,2,・・・)及び(12n+2)番目(n=0、1、2、・・・)のラインと、水平方向に(6n+1)番目(n=0,1,2,・・・)及び(6n+2)番目(n=0、1、2、・・・)のラインと、が交差する位置の画素の画素データを読み出すように指示する。これにより、撮像素子14からは、同図左の枠50内の2×2画素の画素データのみが出力される。これにより、画素数が(1632×544)の画素データが撮像素子14から出力される。この枠50内の2×2画素はベイヤー配列となっているので、撮像素子14から出力された画素データは、同図右に示すように当然ベイヤー配列となる。
画像処理部20では、図6では図示は省略したが、第1実施形態と同様にベイヤー処理(同時化処理及びYC変換処理)実行し、その後第1実施形態と同様にリサイズ処理を実行する。ただし、本実施形態では、スルー動画モードなので、HD動画モードよりも小さいサイズ、一例として(640×480)のサイズにリサイズする。そして、リサイズした画像を出力する。
(第4実施形態)
次に、本発明の第4実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態では、カラーフィルタの変形例について説明する。図7には、変形例に係るカラーフィルタ60を示した。なお、画素数は一例として(4896×3264)画素であり、アスペクト比は3:2であるが、画素数及びアスペクト比はこれに限られるものではない。
図7に示すように、カラーフィルタ60は、Bフィルタが、3×3画素の正方配列の四隅の画素上に配置され、Rフィルタが、正方配列の中央の画素上に配置され、Gフィルタが、正方配列の垂直方向における中央のライン及び水平方向における中央のライン上に配置された第1の配列パターンAと、第1の配列パターンAとGフィルタの配置が同一で且つRフィルタの配置とBフィルタの配置とを入れ替えた第2の配列パターンBと、が点対称で配置された6×6画素の基本配列パターンCが繰り返し配置されたカラーフィルタである。
すなわち、カラーフィルタ60は、第1実施形態で説明した特徴(1)、下記の特徴(6)、(7)、及び(8)を有している。
〔特徴(6)〕
図7に示すカラーフィルタ60を構成する基本配列パターンCは、輝度信号を得るために最も寄与する色(この実施形態では、Gの色)に対応するGフィルタと、Gの色以外の他の色(この実施形態では、R,B)に対応するRフィルタ、Bフィルタとが、基本配列パターンC内の水平及び垂直方向の各ライン内に1つ以上配置されている。
R、G、Bフィルタが、それぞれ基本配列パターンC内の水平及び垂直方向の各ライン内に配置されるため、色モワレ(偽色)の発生を抑圧することができる。これにより、偽色の発生を抑制するための光学ローパスフィルタを光学系の入射面から撮像面までの光路に配置しないようにすることができる。また、光学ローパスフィルタを適用する場合でも、偽色の発生を防止するための高周波数成分をカットする働きの弱いものを適用することができ、解像度を損なわないようにすることができる。
〔特徴(7)〕
輝度系画素に対応するGフィルタは、基本配列パターンC内において、水平、垂直、及び斜め方向の各方向に2以上隣接する部分が含まれるように配置されている。
図7に示すように基本配列パターンCは、破線の枠で囲んだ3×3画素の第1の配列パターンAと、一点鎖線の枠で囲んだ3×3画素の第2の配列パターンBとが、水平、垂直方向に交互に並べられた配列となっていると捉えることもできる。
第1の配列パターンAは、中心にRフィルタが配置され、4隅にBフィルタが配置され、中心のRフィルタを挟んで上下左右にGフィルタが配置されている。一方、第2の配列パターンBは、中心にBフィルタが配置され、4隅にRフィルタが配置され、中心のBフィルタを挟んで上下左右にGフィルタが配置されている。これらの第1の配列パターンAと第2の配列パターンBとは、RフィルタとBフィルタとの位置関係が逆転しているが、その他の配置は同様になっている。
また、図11Aに示すように、本実施形態に係るカラーフィルタは、上記第1の配列パターンA(A配列)と第2の配列パターンB(B配列)とが、水平及び垂直方向に交互に配置されていると捉えることもできる。
いま、図11Aに示すように、撮像素子から出力されるモザイク画像を、A配列を中心にして5×5画素の局所領域(太枠で示した領域)を抽出した場合、この局所領域内の8個のG画素は、図11Bに示すように十字形状に配置される。これらのG画素を左から右の順にG1、G2、G3、G4とし、上から下の順にG5、G6、G7G8とすると、画素G1G2、画素G2G3が水平方向に隣接し、画素G5G6、画素G7G8が垂直方向に隣接し、画素G6G3、画素G2G7が左上斜め方向に隣接し、画素G6G2、画素G3G7が右上斜め方向に隣接している。
従って、これらの隣接する画素の画素値の差分絶対値を求めることにより、水平、垂直、及び斜め方向の各方向のうち、輝度の変化が最も小さい方向(相関の高い相関方向)を、最小画素間隔で判別することができる。
即ち、水平方向の差分絶対値の和は|G1−G2|+|G3−G4|、水平方向の差分絶対値の和は|G5−G6|+|G7−G8|、右上斜め方向の差分絶対値の和は|G6−G2|+|G3−G7|、左上斜め方向の差分絶対値の和は|G6−G3|+|G2−G7|となる。
これらの4つの相関絶対値のうち最小となる差分絶対値をとる方向に相関(相関方向)があると判別することができる。尚、判別された相関方向は、同時化(補間)処理等を行う際に利用することができる。
〔特徴(8)〕
図7に示すカラーフィルタ60を構成する基本配列パターンCは、その基本配列パターンCの中心に対して点対称になっている。
図7に示したように、基本配列パターンC内のA配列及びB配列は、それぞれ中心のRフィルタ、又はGフィルタに対して点対称になっており、かつ上下左右が対称(線対称)になっている。
このような対称性により、後段の処理回路の回路規模を小さくしたり、簡略化することが可能になる。
尚、基本配列パターンを水平方向及び垂直方向に繰り返し配置することで、図7に示すカラーフィルタ配列を構成することができる基本配列パターンは複数存在するが、本実施形態では、基本配列パターンが点対称になっている基本配列パターンCを、便宜上、基本配列パターンという。
図7に示すように、カラーフィルタ60は、第1の配列パターンA、第2の配列パターンBは、一部にベイヤー配列パターンを含んでいる。例えば第1の配列パターンAから任意の2×2画素を抜き出すと、図3に示す2×2画素のベイヤー配列パターンと同一となる。これは第2の配列パターンBについても同様である。
従って、カラーフィルタ60を用いた場合も、ベイヤー配列パターンと同一となるパターンの画素の画素データのみを読み出すように撮像素子14を駆動することにより、ベイヤー配列の画素データが得られる。間引き方等は、第1〜第3実施形態と同様に実行することができる。
なお、上記各実施形態では、RGBの3原色のカラーフィルタのカラーフィルタ配列について説明したが、カラーフィルタの種類は、これに限定されるものではない。
10 撮像装置
12 光学系
14 撮像素子
16 撮像処理部
20 画像処理部
22 駆動部
24 制御部
30 カラーフィルタ
12 光学系
14 撮像素子
16 撮像処理部
20 画像処理部
22 駆動部
24 制御部
30 カラーフィルタ
図2には、本実施形態に係るカラーフィルタ30の一部を示した。なお、画素数は一例として(4896×3264)画素であり、アスペクト比は3:2であるが、画素数及びアスペクト比はこれに限られるものではない。同図に示すように、カラーフィルタ30は、輝度信号を得るために最も寄与するG(緑)に対応する第1のフィルタG(以下、Gフィルタと称する)が、3×3画素の正方配列の四隅及び中央の画素上に配置され、R(赤)に対応する第2のフィルタR(以下、Rフィルタと称する)が、正方配列の水平方向における中央のラインに配置され、B(青)に対応する第3のフィルタB(以下、Bフィルタと称する)が、正方配列の垂直方向における中央のラインに配置された第1の配列パターンAと、第1の配列パターンAとGフィルタの配置が同一で且つRフィルタの配置とBフィルタの配置とを入れ替えた第2の配列パターンBと、が点対称で配置された6×6画素の基本配列パターンCが繰り返し配置されたカラーフィルタである。
また、基本配列パターンCの単位で間引き処理して画像を縮小する場合、間引き処理した縮小画像のカラーフィルタ配列は、間引き処理前のカラーフィルタ配列と同じにすることができ、共通の処理回路を使用することができる。
即ち、水平方向の差分絶対値の和は|G1−G2|+|G3−G4|、垂直方向の差分絶対値の和は|G5−G6|+|G7−G8|、右上斜め方向の差分絶対値の和は|G6−G2|+|G3−G7|、左上斜め方向の差分絶対値の和は|G6−G3|+|G2−G7|となる。
図7に示したように、基本配列パターンC内のA配列及びB配列は、それぞれ中心のRフィルタ、又はBフィルタに対して点対称になっており、かつ上下左右が対称(線対称)になっている。
また、請求項3に記載したように、前記カラーフィルタは、前記第3のフィルタが、3×3画素の正方配列の四隅の画素上に配置され、前記第2のフィルタが、前記正方配列の中央の画素上に配置され、前記第1のフィルタが、前記正方配列の前記垂直方向における中央のライン及び前記水平方向における中央のライン上に配置された第1の配列パターンと、前記第1の配列パターンと前記第1のフィルタの配置が同一で且つ前記第2のフィルタの配置と前記第3のフィルタの配置とを入れ替えた第2の配列パターンと、が点対称で配置された6×6画素の基本配列パターンが繰り返し配置されたカラーフィルタとしてもよい。
Claims (5)
- 水平方向及び垂直方向に配列された複数の光電変換素子を含む撮像素子と、
前記複数の光電変換素子からなる複数の画素上に設けられたカラーフィルタであって、2×2画素の正方配列の一方の対角線上の2つの画素上に、輝度信号を得るために最も寄与する第1の色に対応する第1のフィルタが配置され、他方の対角線上の2つの画素上に、前記第1の色と異なる第2の色に対応した第2のフィルタと、前記第1の色及び前記第2の色と異なる第3の色に対応した第3のフィルタと、が配置されたベイヤー配列パターンを一部に含む3×3画素上に配置された第1の配列パターンと、前記第1の配列パターンと前記第1のフィルタの配置が同一で且つ前記第2のフィルタの配置と前記第3のフィルタの配置とを入れ替えた第2の配列パターンと、が点対称で配置された6×6画素の基本配列パターンが繰り返し配置されたカラーフィルタと、
前記撮像素子から、予め定めた位置の前記ベイヤー配列パターンと同一のパターンとなる画素の画素データのみを読み出すように前記撮像素子を駆動する駆動手段と、
前記撮像素子から出力された前記ベイヤー配列パターンの画素データに基づいて、各画素について、対応する色以外の色の画素データを周囲の画素の画素データから補間することにより、各画素の各色の画素データを生成する生成手段と、
を備えた撮像装置。 - 前記カラーフィルタは、前記第1のフィルタが、3×3画素の正方配列の四隅及び中央の画素上に配置され、前記第2のフィルタが、前記正方配列の前記水平方向における中央のラインに配置され、前記第3のフィルタが、前記正方配列の前記垂直方向における中央のラインに配置された第1の配列パターンと、前記第1の配列パターンと前記第1のフィルタの配置が同一で且つ前記第2のフィルタの配置と前記第3のフィルタの配置とを入れ替えた第2の配列パターンと、が点対称で配置された6×6画素の基本配列パターンが繰り返し配置されたカラーフィルタである
請求項1記載の撮像装置。 - 前記カラーフィルタは、前記第3のフィルタが、3×3画素の正方配列の四隅の画素上に配置され、前記第2のフィルタが、前記正方配列の前記中央の画素上に配置され、前記第1のフィルタが、前記正方配列の前記垂直方向における中央のライン及び前記水平方向における中央のライン上に配置された第1の配列パターンと、前記第1の配列パターンと前記第1のフィルタの配置が同一で且つ前記第2のフィルタの配置と前記第3のフィルタの配置とを入れ替えた第2の配列パターンと、が点対称で配置された6×6画素の基本配列パターンが繰り返し配置されたカラーフィルタである
請求項1記載の撮像装置。 - 前記第1の色は、緑(G)色であり、前記第2の色は、赤(R)色及び青(B)色の一方の色であり、前記第3の色は、赤(R)色及び青(B)色の他方の色である
請求項1〜3の何れか1項に記載の撮像装置。 - コンピュータを、請求項1〜請求項4の何れか1項に記載の撮像装置を構成する制御手段として機能させるための撮像プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013504502A JP5524406B2 (ja) | 2011-03-11 | 2011-07-29 | 撮像装置及び撮像プログラム |
Applications Claiming Priority (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011054632 | 2011-03-11 | ||
JP2011054632 | 2011-03-11 | ||
JP2011163307 | 2011-07-26 | ||
JP2011163307 | 2011-07-26 | ||
PCT/JP2011/067545 WO2012124182A1 (ja) | 2011-03-11 | 2011-07-29 | 撮像装置及び撮像プログラム |
JP2013504502A JP5524406B2 (ja) | 2011-03-11 | 2011-07-29 | 撮像装置及び撮像プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP5524406B2 JP5524406B2 (ja) | 2014-06-18 |
JPWO2012124182A1 true JPWO2012124182A1 (ja) | 2014-07-17 |
Family
ID=46830284
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013504502A Expired - Fee Related JP5524406B2 (ja) | 2011-03-11 | 2011-07-29 | 撮像装置及び撮像プログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US8723993B2 (ja) |
EP (1) | EP2685726A4 (ja) |
JP (1) | JP5524406B2 (ja) |
CN (1) | CN103430552B (ja) |
WO (1) | WO2012124182A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103416067B (zh) * | 2011-03-11 | 2014-10-29 | 富士胶片株式会社 | 摄像装置 |
CN106507019B (zh) * | 2016-11-29 | 2019-05-10 | Oppo广东移动通信有限公司 | 控制方法、控制装置、电子装置 |
CN106454054B (zh) * | 2016-11-29 | 2019-03-19 | Oppo广东移动通信有限公司 | 控制方法、控制装置及电子装置 |
CN106507068B (zh) | 2016-11-29 | 2018-05-04 | 广东欧珀移动通信有限公司 | 图像处理方法及装置、控制方法及装置、成像及电子装置 |
EP3522106A1 (en) * | 2018-01-31 | 2019-08-07 | InterDigital CE Patent Holdings | A filter array enabling easy demosaicing |
Family Cites Families (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3268891B2 (ja) * | 1992-08-14 | 2002-03-25 | オリンパス光学工業株式会社 | 内視鏡撮像装置 |
JPH0823543A (ja) | 1994-07-07 | 1996-01-23 | Canon Inc | 撮像装置 |
JPH0823542A (ja) | 1994-07-11 | 1996-01-23 | Canon Inc | 撮像装置 |
JP3935548B2 (ja) | 1997-02-27 | 2007-06-27 | オリンパス株式会社 | 画像信号処理装置 |
EP0930789B1 (en) | 1998-01-20 | 2005-03-23 | Hewlett-Packard Company, A Delaware Corporation | Colour image pickup device |
JP4098438B2 (ja) | 1999-04-15 | 2008-06-11 | オリンパス株式会社 | カラー撮像素子及びカラー撮像装置 |
JP4487351B2 (ja) * | 1999-07-15 | 2010-06-23 | ソニー株式会社 | 固体撮像素子およびその駆動方法並びにカメラシステム |
EP2768223B8 (en) | 2001-01-09 | 2016-11-09 | Sony Semiconductor Solutions Corporation | Image pick up device |
JP4019417B2 (ja) | 2003-01-14 | 2007-12-12 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
JP2004266369A (ja) | 2003-02-21 | 2004-09-24 | Sony Corp | 固体撮像装置およびその駆動方法 |
JP4385282B2 (ja) | 2003-10-31 | 2009-12-16 | ソニー株式会社 | 画像処理装置および画像処理方法 |
JP4450187B2 (ja) * | 2004-06-08 | 2010-04-14 | パナソニック株式会社 | 固体撮像装置 |
JP2007124295A (ja) | 2005-10-28 | 2007-05-17 | Pentax Corp | 撮像手段駆動装置、撮像手段駆動方法、および信号処理装置 |
US7821553B2 (en) | 2005-12-30 | 2010-10-26 | International Business Machines Corporation | Pixel array, imaging sensor including the pixel array and digital camera including the imaging sensor |
JP4662883B2 (ja) | 2006-05-15 | 2011-03-30 | 富士フイルム株式会社 | 二次元カラー固体撮像素子 |
JP2008078794A (ja) | 2006-09-19 | 2008-04-03 | Pentax Corp | 撮像素子駆動装置 |
US7769230B2 (en) | 2006-11-30 | 2010-08-03 | Eastman Kodak Company | Producing low resolution images |
US7701496B2 (en) | 2006-12-22 | 2010-04-20 | Xerox Corporation | Color filter pattern for color filter arrays including a demosaicking algorithm |
JP5082528B2 (ja) | 2007-03-23 | 2012-11-28 | ソニー株式会社 | 固体撮像装置及び撮像装置 |
JP4465002B2 (ja) * | 2007-11-16 | 2010-05-19 | オリンパス株式会社 | ノイズ低減システム、ノイズ低減プログラム及び撮像システム。 |
JP2009246465A (ja) | 2008-03-28 | 2009-10-22 | Panasonic Corp | 撮像装置、撮像モジュール、及び撮像システム |
EP4336447A1 (en) | 2008-05-20 | 2024-03-13 | FotoNation Limited | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
JP4683121B2 (ja) * | 2008-12-08 | 2011-05-11 | ソニー株式会社 | 固体撮像装置、固体撮像装置の信号処理方法および撮像装置 |
TWI422020B (zh) * | 2008-12-08 | 2014-01-01 | Sony Corp | 固態成像裝置 |
JP5149143B2 (ja) | 2008-12-24 | 2013-02-20 | シャープ株式会社 | 固体撮像素子およびその製造方法、電子情報機器 |
JP5471117B2 (ja) * | 2009-07-24 | 2014-04-16 | ソニー株式会社 | 固体撮像装置とその製造方法並びにカメラ |
CN103416067B (zh) * | 2011-03-11 | 2014-10-29 | 富士胶片株式会社 | 摄像装置 |
-
2011
- 2011-07-29 EP EP11860961.9A patent/EP2685726A4/en not_active Withdrawn
- 2011-07-29 JP JP2013504502A patent/JP5524406B2/ja not_active Expired - Fee Related
- 2011-07-29 WO PCT/JP2011/067545 patent/WO2012124182A1/ja active Application Filing
- 2011-07-29 CN CN201180069192.6A patent/CN103430552B/zh not_active Expired - Fee Related
-
2013
- 2013-09-09 US US14/021,719 patent/US8723993B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
EP2685726A1 (en) | 2014-01-15 |
CN103430552B (zh) | 2015-04-08 |
US20140009649A1 (en) | 2014-01-09 |
JP5524406B2 (ja) | 2014-06-18 |
EP2685726A4 (en) | 2014-09-03 |
US8723993B2 (en) | 2014-05-13 |
CN103430552A (zh) | 2013-12-04 |
WO2012124182A1 (ja) | 2012-09-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5474258B2 (ja) | 撮像装置及び撮像プログラム | |
US8723991B2 (en) | Color imaging element, imaging device, and storage medium storing an imaging program | |
EP2690874A1 (en) | Color image sensor, imaging device, and control program for imaging device | |
US8736743B2 (en) | Color imaging element, imaging device, and storage medium storing a control program for imaging device | |
JP5539585B2 (ja) | カラー撮像素子、撮像装置、及び撮像プログラム | |
EP2690872A1 (en) | Color image capturing element, image capturing device, and image capturing program | |
JP5524406B2 (ja) | 撮像装置及び撮像プログラム | |
JP5607266B2 (ja) | 撮像装置、撮像装置の制御方法、及び制御プログラム | |
JP5539583B2 (ja) | カラー撮像素子、撮像装置、及び撮像プログラム | |
JP5411390B2 (ja) | カラー撮像素子 | |
JP5624227B2 (ja) | 撮像装置、撮像装置の制御方法、及び制御プログラム | |
JP5607267B2 (ja) | 撮像装置、撮像装置の制御方法、及び制御プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140318 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140409 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5524406 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |